超越炒作:使用Agentic AI构建系统架构
Masaic Agentic Systems联合创始人兼CEO,曾在德国电信领导欧洲首批大规模Agentic系统之一。:FICO首席架构师,专注于Agentic AI开发工作流,具有CI/CD背景。:Intuit杰出工程师,领导AI Foundation平台,为Intuit所有产品体验提供AI能力。:Akka CEO,第四次创办开发者平台公司,专注于Agentic AI平台。
超越炒作:使用Agentic AI构建系统架构
摘要
专家小组探讨了使用Agentic AI构建系统的实践。他们分享了模式、反模式和用例,区分了Agentic AI与传统自动化的差异。学习如何管理这些分布式系统的复杂性和非确定性,实施防护措施,并从软件架构师转变为学习架构师,以在生产环境中实现信任和扩展。
专家介绍
Arun Joseph:Masaic Agentic Systems联合创始人兼CEO,曾在德国电信领导欧洲首批大规模Agentic系统之一。
Johannes Koch:FICO首席架构师,专注于Agentic AI开发工作流,具有CI/CD背景。
Merrin Kurian:Intuit杰出工程师,领导AI Foundation平台,为Intuit所有产品体验提供AI能力。
Tyler Jewell:Akka CEO,第四次创办开发者平台公司,专注于Agentic AI平台。
Agentic AI:炒作与现实
Jewell:虽然市场上有很多Agentic AI的原型和实验,但真正进入生产环境的企业项目仍然有限。企业面临三大挑战:
- 复杂性:这些是需要编排代理、共享状态和流式数据的分布式系统
- 非确定性导致的信任问题
- 大量的隐性运营成本
传统AI与Agentic AI的区别
Joseph:传统自动化更像是执行引擎(RPA、工作流引擎),传统AI更多是预测机制。Agentic AI填补了预测与实际执行之间的空白,形成了一个完整的循环。
Jewell:Agentic系统应具备三个属性:
- 可定义的目标
- 防护栏和操作参数
- 适应能力(循环机制、强化学习反馈或实时数据流)
适合Agentic AI的问题场景
Kurian:处理非结构化数据(文本、语音、文档、图像)的场景非常适合Agentic AI。在Intuit,我们重新构想了用户体验,使其更加多模态原生。
Jewell:适用于动态未定义规则、基于角色的思考、结构化schema匹配以及规划目标追踪等场景。
信任与监控挑战
Jewell:建立可信Agentic系统需要六大支柱:
- 从治理开始:定义指标、策略和控制
- 稳定可靠的运行时和网络层
- 所有交互的可验证性
- 身份管理和最小权限授权
- 完整的追踪、监控和审计
- 持续适应能力
Kurian:从软件工程师向AI工程师转变的最大跨越是如何进行结构化、系统化的评估。这需要高质量的数据和持续的数据流水线。
集成现有系统的挑战
Kurian:在Intuit这样有40多年历史的公司中,集成面临巨大挑战。API需要重新设计以支持Agentic使用,数据架构需要演进以提供LLM可理解的元数据。
Jewell:需要处理数据流水线、系统记录访问、A2A协议模拟以及内存管理等多个集成场景。
初学者入门建议
Koch:对于AWS技术栈,可以从Bedrock代理开始,选择能够简化部署和托管的基础设施。
Jewell:建议从理解模型工作原理开始,逐步构建增强循环,最终形成代理框架。
保持系统持续相关性
Joseph:关键在于不要过度耦合任何特定框架,而是构建能够适应变化的平台API。
Jewell:未来的标准将集中在可追溯性、评估、防护栏和通信协议上,而不是代理框架本身。
实践建议
专家们一致认为,构建Agentic系统需要从软件架构师转变为学习架构师,专注于定义目标、收集高质量数据、建立系统评估机制,并接受这是一个需要不同努力方向的硬工作过程。
更多精彩内容 请关注我的个人公众号 公众号(办公AI智能小助手)
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号(网络安全技术点滴分享)
更多推荐
所有评论(0)