在开发高度自动化的 Agent 时,我们常常会赋予它执行本地命令的能力。但在最近的安全研究中,一个容易被忽视的盲区浮出水面:如果你的模型请求经过了第三方代理或路由层,返回的 JSON 指令可能会在到达本地之前被轻易修改。

例如,模型原本计划调用 requests 库,但流经某中间层时,一个字母的位置被调换,变成了 reqeusts。构建照常通过,日志看起来也很干净,Agent 照常执行,却可能在不知情的情况下拉取了错误的资源。

这并非模型答错了,而是在指令落地前,信任链条出现了断层。为了控制单价,很多开发者会将 base_url 指向第三方路由,而 HTTPS 加密往往在路由层就终止了。这意味着,提示词、API 密钥以及模型返回给客户端的每一条指令,在这一层都是明文。

响应篡改与凭证暴露:两个真实的测试结果

加州大学圣塔芭芭拉分校的研究团队曾对 28 个付费、400 个免费路由进行过一项测试,观察它们是否会在返回的 tool call 中进行干预。结果显示:9 个路由会主动注入异常指令,其中 1 个是付费路由,8 个是免费路由。

手法通常很隐蔽:模型让 Agent 去拉取安装脚本,路由把网址替换掉;或者返回结构完全合法、工具名没变、参数不缺的 JSON,Agent 很难察觉异常,还会返回成功状态。更棘手的是,有些路由会采取“延迟策略”——先正常运行前 50 次请求,第 51 次才开始动作;或者只在特定条件下(如全自动批准模式、项目带有特定语言源码)才触发。因此,简单的抽样测试很难彻底防御。

另一类风险则直接针对凭证:有些路由连返回内容都不碰,只记录流经的 Key、云凭证和令牌。在一次测试中,研究团队埋设的 AWS 蜜罐凭据被 17 个免费路由触碰,甚至有一个将测试环境中的余额消耗一空。在 440 个测试的开发者会话中,共有 99 个凭据泄露,其中一把泄露的 Key 产生了极大消耗,并牵出了下游的多个会话。在 440 个会话里,有 401 个原本就是全自动批准模式,这意味着只要一条被修改的命令落地,就会造成不可逆的消耗。

为什么现有的验证手段难以普及?

一个客观现实是:目前主流的 API 回复并没有数字签名,无法自证这段 JSON 中途是否被修改过。应答里的模型名只是一句声明,不是凭据。你把请求交给了谁,就得连它交回来的东西一起信。

那么,能不能用密码学证明来验证?Anthropic 在 11 月初开源了 FlashProve,可以为每段回答附一份证明,不需要拿到权重也能核对是不是这组权重算出来的。4000 亿参数的模型在单块 H100 上每秒约生成 110 个输入 token 的证明,1024 token 请求的证明约 19MB,普通 CPU 十七秒验完。

听起来很美好,但代价是:同批请求需要耗费 vLLM 推理 70 到 95 倍的 GPU 时间,且目前只覆盖整数权重、贪心解码和 1024 token 上下文。指望所有平台短期内给每次调用加盖数字印章,并不现实。

工程层面的三个务实策略

既然技术上的绝对验证暂时难以普及,开发者在工程上就需要建立更严谨的防护机制:

第一,密钥按用途隔离。
不要把高权限的云凭证和日常的 API 调用混在一起。一把 Key 只负责一项业务,一旦出现异常消耗,只需掐断那一把,不至于引发全局灾难。

第二,保留人工确认环节。
涉及安装脚本、修改文件权限、执行高危系统命令的动作,不要完全交给自动批准。保留一道人工核对的关卡,能有效拦截被篡改的指令。

第三,将调用链路收拢到可控的管理层。
正如央广网近期的调查指出,非官方渠道买额度可能连接口都换,输入输出各算多少钱也说不清。58.6% 的受访开发者表示额度算不明白。安全与成本,往往是同一个问题的两面。

行业内更普遍的解法,是引入统一的聚合网关(如 EasyAPI)来加固这一层。它的核心价值不仅在于接口的兼容,更在于安全隔离与账单可观测:按业务线分配独立的 Key,一旦发现异常可瞬间吊销;将不同渠道的调用记录、耗时和费用归集到同一张表里。当你能清晰追溯每一笔调用的来源和消耗时,才能在享受便利的同时,把安全风险控制在可见范围内。

数据来源:加州大学圣塔芭芭拉分校(UCSB)关于 API 路由安全性的研究报告(2026 年);Anthropic FlashProve 开源项目说明(2026 年 11 月);央广网关于 AI 代理 API 额度的调查报道(2026 年 11 月);EasyAPI 官方产品说明。

Logo

更多推荐