logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

生产 Agent 别只跑 demo:先补 6 类评测样本

很多 Agent demo 能跑通,但评测样本往往只覆盖 happy path。真正接入生产前,至少要补齐标准成功、歧义输入、证据冲突、权限边界、失败超时、成本时延这 6 类样本,才能看清 tool-calling、citations、audit logs 和模型路由是否真的稳。

文章图片
#人工智能#算法#机器学习
生产 Agent 的密钥和凭据边界:不要让模型直接碰 API Key

生产 AI Agent 不能把密钥当成普通上下文交给模型处理。本文拆解 secretRef、短期凭据、工具代理、权限分级、审计 trace 和泄露演练,帮助团队在放开工具调用前补齐凭据边界。

文章图片
#安全架构
AI Agent 接工具前,先把权限分层和人工确认做清楚

很多 Agent 事故不是模型不会推理,而是工具权限、审批边界和审计链路没有先设计好。上线前需要把只读、草稿、可撤销写入、高风险动作分层,并把人工确认、幂等、回滚和审计日志接进运行链路。

#人工智能#系统架构#安全
生产级 AI Agent 系统:工具调用、审计与可观测性的工程实践

本文总结生产级 AI Agent 系统在工具调用、审计日志、模型路由和 OpenTelemetry 可观测性上的工程实践,适合正在从 PoC 走向生产环境的团队参考。

#架构
AI Agent生产就绪:工具调用链与OpenTelemetry实践

AI Agent 从 demo 进入生产,关键不是多接几个工具,而是补齐工具调用契约、超时重试、OpenTelemetry 链路、审计日志和上线前检查清单,让调用链、证据链和恢复链都可追溯。

文章图片
#运维#数据库
AI Agent 慢、贵、错:先把 trace 和 tool span 打出来

生产级 AI Agent 排障不能只靠普通日志。本文给出最小 trace 与 tool span 字段设计,说明如何定位慢、贵、错以及工具权限、失败回滚问题。

#人工智能#软件工程
企业 AI Agent 落地前,先把业务流程边界画清楚

数字员工和企业 AI Agent 进入生产前,不能只看模型和工具。本文从流程选择、读写权限、人工确认、审计日志、异常接管和验收指标六个角度,给出落地前的最小设计清单。

#人工智能#大数据#运维
AI Agent 上线前,先把 5 类失败演练跑一遍

生产 Agent 的风险往往不是一次正常调用,而是工具超时、重复执行、证据缺失、写入失败和人工接管断点。上线前应把 5 类失败演练跑通,验证幂等、回滚、审计日志、人工确认和降级策略是否真的可用。

文章图片
#spring#java#后端 +2
大模型集成生产就掉坑?3 大架构误区,CTO 避雷省下百万

【摘要】大模型在生产环境落地面临四大工程陷阱:1)架构设计失衡导致高并发下服务雪崩,需采用微服务+异步通信方案;2)数据隐私合规风险,敏感行业需建立数据脱敏管道和私有化部署;3)成本失控问题,通过提示词优化、多级缓存和智能路由可降低40%运营成本;4)监控体系缺失,需构建全链路可观测性系统缩短问题定位时间。研究表明,60%的AI项目因缺乏生产级工程能力失败,提前规避这些陷阱可使项目风险降低70%。

文章图片
#架构#人工智能#语言模型
生产级大模型集成方案:构建弹性可观测的API适配层

随着大型语言模型(LLM)能力的飞速发展,越来越多的企业尝试将其集成到核心业务流程中。然而,将一个LLM应用从实验性原型推向生产级系统,远不止简单地调用几个API接口。我们团队在实际项目里,经常面临如何确保这些集成方案的可靠性、可伸缩性、可维护性和可观测性的挑战。特别是当业务逻辑依赖复杂的工具调用链

    共 22 条
  • 1
  • 2
  • 3
  • 请选择