logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

一文搞懂 AI Agent 安全护栏:用 Python 手写工具网关,把越权挡在执行层

很多团队把"安全"理解为"再请一个 LLM 看着前一个 LLM"。失败模式现象根因提示注入变成策略注入攻击者让 Agent 给恶意动作加[ALLOWED]前缀,护栏 LLM 被带偏你用 LLM 检查 LLM,护栏有和 Agent 同样的漏洞,可被绕过智能监控的 ReDoS 税提交一条让护栏 LLM 算不过来的复杂 SQL,护栏超时,系统"fail-open"放行LLM 不是常量时间操作,把概率系统

#人工智能#安全#python
一文搞懂 AI Agent 评测:手写三层 Eval 框架,把 Agent 质量接进 CI 门禁

评测 Agent,本质是给"会调工具、会多步推理、非确定性"的系统装一套客观护栏。按独立性分层:确定性(Tier1)→ 启发式(Tier2)→ LLM 判断(Tier3),能用底层就别上高层,省成本也降噪。Gate 与 Grade 分离:不可伪造的硬指标进门禁,主观质量分只进报表。评测即代码、评测随 Agent 演进:接进 CI,每次发布与夜间回归都有数据说话。至此,我们的 Agent 工程知识链

#人工智能#ci/cd
一文搞懂 AI Agent 评测:手写三层 Eval 框架,把 Agent 质量接进 CI 门禁

评测 Agent,本质是给"会调工具、会多步推理、非确定性"的系统装一套客观护栏。按独立性分层:确定性(Tier1)→ 启发式(Tier2)→ LLM 判断(Tier3),能用底层就别上高层,省成本也降噪。Gate 与 Grade 分离:不可伪造的硬指标进门禁,主观质量分只进报表。评测即代码、评测随 Agent 演进:接进 CI,每次发布与夜间回归都有数据说话。至此,我们的 Agent 工程知识链

#人工智能#ci/cd
给 AI Agent 装上「黑匣子」:用 OpenTelemetry + OpenInference 手写可观测性(附 Python 实战)

本文用约 60 行 Python,基于 OpenTelemetry + OpenInference 给 Agent 装上了一个可 replay 的「黑匣子」:从 Provider 初始化、LLM/工具 Span 埋点、OTLP 导出,到四支柱落地与生产避坑。Agent 上不了生产,多半是「看不见」,不是「模型弱」——先补可观测性再谈优化。OTel 一次埋点、多后端通用,OpenInference

#人工智能#python#开发语言
给 AI Agent 装上「黑匣子」:用 OpenTelemetry + OpenInference 手写可观测性(附 Python 实战)

本文用约 60 行 Python,基于 OpenTelemetry + OpenInference 给 Agent 装上了一个可 replay 的「黑匣子」:从 Provider 初始化、LLM/工具 Span 埋点、OTLP 导出,到四支柱落地与生产避坑。Agent 上不了生产,多半是「看不见」,不是「模型弱」——先补可观测性再谈优化。OTel 一次埋点、多后端通用,OpenInference

#人工智能#python#开发语言
一文搞懂 AI Agent 的 Skills 机制:声明式技能加载原理与 Python 实战

本文从"工具塞满 Prompt 的三大代价"出发,讲清了声明式 Skills 的本质(Markdown + 轻量元数据)、声明式与命令式的核心差异,以及"检索—按需挂载"为什么能砍掉约 98% 的 Token 成本;最后用一份可运行的 Python 加载器串起发现、匹配、懒加载、路由四个环节,并给出元数据设计、Skill 注入防护、缓存三道生产级避坑。记忆层:让 Agent 跨会话记得住(对话/文

#人工智能#python#数据库
一文搞懂 AI Agent 的 Skills 机制:声明式技能加载原理与 Python 实战

本文从"工具塞满 Prompt 的三大代价"出发,讲清了声明式 Skills 的本质(Markdown + 轻量元数据)、声明式与命令式的核心差异,以及"检索—按需挂载"为什么能砍掉约 98% 的 Token 成本;最后用一份可运行的 Python 加载器串起发现、匹配、懒加载、路由四个环节,并给出元数据设计、Skill 注入防护、缓存三道生产级避坑。记忆层:让 Agent 跨会话记得住(对话/文

#人工智能#python#数据库
一文搞懂 MCP 与 A2A:AI 多智能体通信的两种协议,附 Python 双协议实战

MCP 与 A2A 不是竞争关系,而是分层互补想给模型"长手脚"——接搜索、查库、执行命令,用MCP。想让多个智能体"组队干活"——发现能力、委派任务、跟踪状态,用A2A。真实系统里,A2A 的 Agent 内部往往再用 MCP 连自己的工具,形成"团队 + 手脚"的完整架构。本文的 Python 骨架可直接跑通双协议最小闭环,建议你在本地按 4.4 节串起来,再逐步补上鉴权、异步任务与链路追踪,

#人工智能#python
AI Agent 为什么会“失忆“?一文搞懂记忆层架构与 Python 实战落地

先把契约定下来,后面怎么换后端都不影响 Agent。@dataclasskey: strvalue: str# 可选:给长期记忆用,做语义检索"""记忆存储抽象,短期与长期各自实现。"""💡 小贴士:接口里把拆开,是因为短期记忆通常只用到 save/load,长期记忆才需要 search。统一抽象但按需实现,避免短期存储被迫实现用不上的检索。Agent 的"失忆"不是模型缺陷,而是工程缺位。记忆

#人工智能#架构#python
AI Agent 为什么会“失忆“?一文搞懂记忆层架构与 Python 实战落地

先把契约定下来,后面怎么换后端都不影响 Agent。@dataclasskey: strvalue: str# 可选:给长期记忆用,做语义检索"""记忆存储抽象,短期与长期各自实现。"""💡 小贴士:接口里把拆开,是因为短期记忆通常只用到 save/load,长期记忆才需要 search。统一抽象但按需实现,避免短期存储被迫实现用不上的检索。Agent 的"失忆"不是模型缺陷,而是工程缺位。记忆

#人工智能#架构#python
    共 35 条
  • 1
  • 2
  • 3
  • 4
  • 请选择