Agent 写完就交?加一层反思自检,错误率明显下去
授权与合规声明
本文全部操作对象均为自建隔离环境与已获授权的目标,涉及安全测试或以他人系统为对象的环节,必须以取得合法授权为前提。未经授权的测试违反《中华人民共和国网络安全法》与《刑法》相关条款,须承担相应法律责任。本文只讲可复现的技术实操与工程落地,不含任何攻击步骤、利用载荷与绕过手法,请勿将文中任何内容用于非自有、未获授权的系统。
第1章 ReAct 一次性执行的隐患
经典的 ReAct 范式是 Thought—Action—Observation 的循环:模型先想,再调工具,再看结果,跑完就把最终答案交出去。它在大多数任务上够用,但有个隐藏问题——第一步想歪了,后面全跟着歪。
在代码生成、数据分析这类任务里尤其明显。模型第一次产出的东西可能带着低级错误:变量没定义、接口名拼错、字段对不上。这些错它自己「写的时候」发现不了,但让它「站在评审者视角再扫一遍」,往往一眼就能挑出来。
第2章 反思模式是什么
反思(reflection)就是在「生成」和「交付」之间插一个闭环:
生成草稿 → 评审者挑问题 → 根据问题修订 → 再评审 …… 直到没问题或到达上限
关键不在「多跑一次」,而在 critique 阶段要给出可执行的修改点,而不是笼统地说「再想想」。越具体的反馈,修订质量越高。
第3章 单 Agent 自检 vs 双 Agent 互审
| 方式 | 成本 | 评审严格度 | 适合场景 |
|---|---|---|---|
| 单 Agent 自检 | 低,复用同一模型 | 中,容易「自己护自己」 | 轻量任务、预算紧 |
| 双 Agent 互审 | 高,约等于两倍调用 | 高,角色分离更客观 | 错误代价高的任务 |
单 Agent 让同一个模型先写后评,部署简单,但模型容易对自己的产出有偏好,挑刺不够狠;双 Agent 把「写手」和「评审者」拆开,评审更客观,代价是每一次任务都多花近一倍调用。
第4章 触发与终止
反思不是无限循环,必须有终止条件:
- 设一个
max_rounds,到顶就停; - 评审者一旦说「没有问题」,立即结束;
- 保留上一版草稿,万一修订反而改坏了,能回退。
否则反思本身可能引入新错误,或者陷入「改了又说不对」的死循环。
第5章 实战:给代码生成 Agent 加反思
下面是一段思路示意,展示闭环怎么串起来。
# ⚠️ 代码待验证:以下为思路示意,非可运行生产代码
def run_with_reflection(task, max_rounds=2):
draft = llm_generate(task)
for _ in range(max_rounds):
critique = llm_critique(task, draft)
if critique.no_issue:
break
draft = llm_revise(task, draft, critique)
return draft
这里 llm_critique 的职责不是重写,而是输出「哪一行有问题、问题是什么、建议怎么改」,让 llm_revise 有针对性地修。
配套资料:这一章讲到的实操要点,我整理成了可运行的示例与对照表,放在资料包里,扫码即可获取:
第6章 评测与权衡
反思能拦住的是一眼就能看出的低级错误:未定义变量、明显的逻辑漏洞、字段拼错。它在多个公开评测里相对基线有下降,但具体幅度取决于任务和模型,本文不给出通用数字。
代价很直接:每个任务多跑若干次模型调用,延迟和成本上升。值不值,看错误代价——代码生成、数据分析这类「错一次代价高」的,值得加;闲聊、摘要这类容错高的,加了反而拖慢。
第7章 什么时候不该加反思
- 实时性要求高、预算极紧的链路;
- 任务本身很简单,反思的额外开销盖过了收益;
- 已经有更强基线(例如直接调一个明显更强的模型就能解决)。
配套资料:这一章讲到的实操要点,我整理成了可运行的示例与对照表,放在资料包里,扫码即可获取:
附表 A:本文引用事实与出处对照表
| 事实 | 出处 | 本文位置 |
|---|---|---|
| ReAct 是 Thought-Action-Observation 的 Agent 范式 | 公开技术资料(Yao et al., ReAct) | 第1章 |
| 反思通过 generate-critique-refine 闭环降低可避免错误 | 多篇 Agent 评测公开结论(建议以原始论文为准) | 第6章 |
| 双 Agent 角色分离能提升评审客观度 | 工程经验共识(待验证具体数据) | 第3章 |
附表 B:术语速查表
| 术语 | 含义 |
|---|---|
| ReAct | 推理+行动的 Agent 范式 |
| 反思(reflection) | 生成后由评审视角挑问题并修订 |
| 单 Agent 自检 | 同一模型先写后评 |
| 双 Agent 互审 | 写手与评审者角色分离 |
写在最后:这篇用到的资料
写这篇文章时,我把里面对应的实操示例和踩坑记录顺手整理了几份配套的东西:
- 全套 AGI 大模型学习路线:从基础到实战的系统性路径,避免零散摸索
- Claude Skills 全指南:把重复性工程动作沉淀成可复用技能
- LangGraph+MCP 智能体实战视频:跟着敲一遍就能跑通的智能体项目
资料是我自己整理的,放在下面这个码上,扫码即可获取:
资料较多,建议先看「全套 AGI 大模型学习路线」,再挑一个实战项目跟练。
更多推荐




所有评论(0)