DLAI 安全人工智能笔记（一）

当前，借助各种工具、库和框架，构建一个生成式AI应用的概念验证（PoC）变得非常容易。然而，将PoC转化为生产就绪状态，往往需要开发者投入大量时间。这主要是因为AI可靠性是一个新问题，也是阻碍Gen AI应用进入生产环境的关键障碍。AI可靠性意味着，虽然基础模型能较好地处理各种任务，但构建AI应用时，我们希望它专注于一件事并做到完美，且具有极低的故障率。我们将从RAG应用的角度来审视这个可靠性问题

云原生CI/CD流水线设计与GitOps实践

策略可以通过代码扫描、镜像签名、部署审批和集群准入控制落地，但规则必须透明，不能只靠人工口头提醒。云原生 CI/CD 的成熟标志不是工具多，而是变更小、验证快、发布可审计、失败能快速回到已知稳定状态。它要保证从提交、构建、测试、扫描、制品、部署到回滚都有记录。每个线上版本都应该能回答：来自哪个 commit，经过哪些检查，使用哪个镜像，谁批准，部署到哪个环境。高风险环境仍然需要审批、灰度和指标观察

再骂骂人工智能

再看看现在的人工智能，已经在这种“模式识别”的理论，以及拼凑扩展下堂而皇之的又卷了10年有余。不仅如此，当你发现在世界的另一个角落竟然有人和你做着同样的工作——啊，是多么美妙的事儿——海内存知己，天涯若比邻！在我们国家发展两弹一星之初，一次发射火箭，技术人员发现空中的箭体震动很大，报告给了钱学森，钱老凭着科学的直觉说，入轨后就好了。这就是我们国家的科学家，他们对事业的热爱已经深深地沁入了自己的科学