从闭卷答题到边做边改:ReAct 到底解决了什么(漫画)
·

回到开头那个场景。提示词写得再好,也只能让模型把这一次的材料处理得更好;而真实任务需要它自己去找材料、自己做动作、自己判断下一步。从提示词到思维链,再到 ReAct,真正在变的不是模型有多聪明,而是我们设计的东西——从一段精心措辞的话,变成一个能自我纠正的流程。
ReAct 是这条路上第一个把"想"和"做"放进同一个循环的通用范式。此后出现的各种智能体框架,基本都在这个循环上加东西:加护栏、加记忆、加多智能体的分工。循环本身没有变。
所以如果你正在把这类技术接进业务,有四件事值得先问自己一遍:
这个循环拆掉哪个部件会坏?——做一次消融,把"思考"拿掉、把"观察"拿掉,看成绩掉多少。
别人往工具返回的内容里塞一句话,它会不会照做?——做一次注入测试,尤其是那些能读网页、能执行代码的智能体。
换三种问法、换一版工具描述,结果还稳不稳?——做一次鲁棒性检查,提示词和工具说明都是它的输入。
三个月后模型更新了,我怎么知道它没坏?——建立回归集和线上监控,因为模型服务会变,而你的提示词不会自动跟着变。
这四件事做完,你才有资格说这个循环"能用"。在那之前,所有"感觉好多了",都只是感觉。
更多推荐

所有评论(0)