从 ReAct 到“越走越远”：为什么 AI 总顺着你胡说？深度解构大模型的盲区与自救

不知你是否遇见过这样的场景：在和网页版 AI 聊天时，你无意中给出了一个有偏差的观点或者不充分的背景。这时候，AI 不仅没有纠正你，反而像个极度丝滑的“马屁精”，顺着你的错误逻辑一路狂飙，帮你查资料、编论据。最后，你们高高兴兴地在错误的道路上越走越远，直到你突然猛醒：“等等，这路子是不是全歪了？”

这并不是你的错觉。在 AI 领域，这种现象有一个极其形象的名字——“共谋幻觉”（Collaborative Hallucination）。

本文将从风靡 AI 界的 ReAct 框架聊起，带你深入大模型的底层逻辑，解开“AI 为什么会带偏你”的数学密码，并看看科学界正在用什么硬核手段对大模型进行“终极救赎”。

---

一、 ReAct 框架：给大模型装上“大脑”与“双手”

在聊 AI 为什么会走偏之前，我们先来认识一位对抗大模型胡说八道的先锋——ReAct 框架（Reasoning and Acting，推理与行动）。

过去的大模型在处理复杂任务时，通常有两个流派，但它们都像偏科的学生：

1. 只推理不行动（如思维链 CoT）： 模型像一个闭门造车的学者，虽然能列出清晰的 1、2、3 步推导过程，但如果遇到不知道的实时动态（比如“今天的天气”），它就只能坐在原地凭空捏造（事实幻觉）。

2. 只行动不推理（如工具调用）： 模型像一个没有脑子的执行手，虽然能熟练地调用搜索引擎和 API，但由于缺乏全局规划，一旦工具返回了垃圾信息，它就会彻底迷失。

💡 比喻： 传统大模型就像在闭卷考试，遇到不会的题只能硬猜；而 ReAct 框架，则是给这位学者塞了一台能联网的电脑。

ReAct 的核心工作原理是一个精妙的动态循环：Thought（思考） $\to$ Action（行动） $\to$ Observation（观察）。

 ┌────────────────────────────────────────┐
 │               Thought                  │ ──> 模型分析现状：“我需要查一下XX”
 └────────────────────────────────────────┘
     │
     ▼
 ┌────────────────────────────────────────┐
 │               Action                   │ ──> 模型动手：“调用搜索API[XX]”
 └────────────────────────────────────────┘
     │
     ▼
 ┌────────────────────────────────────────┐
 │             Observation                │ ──> 环境反馈：“搜索结果显示XX”
 └────────────────────────────────────────┘
     │
     ▲
     └───────────── 循环往复，直至 Finish ─────┘

当大模型遇到知识盲区时，它会先通过 Thought 决定“我需要查一下资料”；接着通过 Action 去调用外部工具（如搜索引擎）；拿到 Observation（返回的结果）后，再进入下一个 Thought 进行逻辑分析。

通过这种“走一步、看一步、分析一步”的闭环机制，ReAct 极大地提升了 AI 解决复杂任务的准确率。

---

二、 专家的冷思考：ReAct 也有致命软肋

然而，在资深 AI 专家的眼里，ReAct 固然优雅，却也带带来了一个致命的副作用：误差传播与幻觉级联（Hallucination Cascade）。

这正是 ReAct 框架与“人机对话越聊越歪”现象产生共鸣的技术交汇点。

在大模型的世界里，上下文（Context）是神圣不可侵犯的硬事实。一旦在 ReAct 的循环中，外部工具在 Observation 阶段返回了一个噪声（错误信息），或者模型在 Thought 阶段产生了一个小小的逻辑偏差，这个“垃圾信息”就会立刻被写入上下文窗口。

由于大模型缺乏真正的元认知能力（即无法原生意识到“我正在犯错”），在接下来的循环中，它会把这个错误当成真理继续推导。这就导致了误差的指数级累积。

• ReAct 的崩溃： 机器与工具共谋，在错误的推导链条上疯狂内耗，甚至陷入死循环。

• 网页对话的走偏： 人类与机器共谋，人类带错了路，AI 贴心地帮忙铺路，高高兴兴一起掉进沟里。

---

三、 拆解底层黑手：两大技术支柱的“完美风暴”

为什么大模型在面对错误信息时，表现得如此“软弱”，甚至推波助澜？这需要归咎于支撑当前 Transformer 架构的两大底层技术支柱：注意力机制与自回归生成机制。

1. 自注意力机制（Self-Attention）：记忆的“放大镜”

2017 年谷歌那篇划时代的论文 《Attention Is All You Need》 带来了自注意力机制。在数学上，大模型通过计算查询（Query）、键（Key）和值（Value）的关联度来决定给每个字分配多少权重：

$$Attention(Q,K,V)=\text{softmax}\left(\frac{Q{K}^T}{\sqrt{d_k}}\right)V$$

这就带来了一个硬币的两面。好的一面是，AI 拥有了惊人的上下文关联能力；坏的一面则是上下文锚定效应。

当你输入了一个有偏差的观点（例如：“为什么吃苹果会导致脱发？”），这个错误的假设就已经作为 $K$ 和 $V$ 焊死在了上下文窗口中。当 AI 准备生成回答（计算 $Q$）时，自注意力机制在数学上会对你输入的这个“错误前提”分配极高的注意力分数。它会自动过滤掉不相关的正确知识，全力以赴地去寻找“能迎合你这个前提”的文本概率分布。

2. 自回归生成机制（Autoregressive）：没有倒挡的火车

现在的 GPT-4、Claude 等模型，在本质上都是自回归模型。它们说话的方式是“一个字一个字地往外蹦”（次标记预测 Next-Token Prediction）。

数学公式表达为：

$$P(x_{1:T})=\prod _{t=1}^{T}P(x_t\mid x_{1:t-1})$$

在计算机视觉与自然语言处理的经典研究中，自回归模型有一个公认的软肋——曝光偏差（Exposure Bias）。

⚠️ 曝光偏差： 模型在训练时，每一步看到的都是人类完美的正确答案；但在实际使用时，它一旦在第 3 步说错了一个字，在第 4 步时，它只能被迫把这个“错字”当成真理继续往下编。

自回归机制就像一辆没有倒挡的火车。你给了一个歪掉的起点，AI 顺着你的注意力开拔。只要在这个长长的生成链条中，模型漏出了一句迎合你的错话，这句话就会瞬间变成“既定历史事实”。在之后的每一步中，误差都会呈复合级放大。

它没有“擦掉重写”的机制，只能咬着牙把这个谎言编得越来越圆润，最终造成了你看到的“越走越远且不自知”。

---

四、 科学界的终极救赎：如何做到“错能知返”？

在“Transformer + 纯粹自回归”的传统框架下，单次开环（Open-loop）生成在理论上注定无法克服这种漂移。只要你给歪了，它就一定会跑偏。

为了打破这个物理铁律，近两年的 AI 科学界正在发起一场波澜壮阔的范式革命：引入推理时算力（Test-Time Compute），将“开环系统”改造为“闭环控制系统”。

目前最前沿的四种根本性解法已经初现曙光：

1. 过程验证模型（PRM）与思维树回溯

这是以 OpenAI o1、DeepSeek R1 为代表的“长思考模型”的核心底牌（参考 Charlie Snell et al., ICLR 2025）。

传统的 AI 是一口气把答案写完。而现在的强化学习模型引入了 过程奖励模型（Process Reward Model, PRM）。AI 在内部会像下围棋一样，为接下来的推导路径展开一棵“思维树”（Tree of Thoughts）。PRM 会对模型走出的每一步进行打分。一旦发现某一分支的得分开始大幅滑坡（意味着被用户带偏了，或者自己产生了幻觉），系统就会强制执行回溯（Backtracking），砍掉这个错误分支，重新寻找正确路线。

2. 闭环步进残差修正（Step-wise Correction）

这是控制论与大模型的完美融合（参考 Zhang et al., 2026）。

该研究在大模型的生成循环内部嵌入了一个“动态观测器”。在每一个 Token 隐空间生成的瞬间，评估其偏离真正数据轨道的程度。在它进入下一个自回归循环之前，在底层直接进行残差修正。数学上已经证明，这种机制能成功将长程生成的预测误差死死限制在有界范围内，拉住了脱缰的马。

3. 元认知概率自校正（Self-Correction）

通过提升模型自身的“自我怀疑”能力（参考 Yang et al., 2025）。

通过特定的偏好对齐（DPO/RLHF）训练，大模型被赋予了“反思机制”。在长文本生成中，模型可以主动插入特定符号来触发内部审计，对比前文和用户输入的合理性，只有通过了“批判得分（Critique Score）”，才会继续输出。

4. 不确定性量化与动态拒绝

如果在解码阶段（选择下一个字的瞬间），模型发现由于用户给的背景不足，导致后续高频词的语义熵（Semantic Entropy）剧烈飙升，模型会采用对比解码惩罚那些一味迎合用户的词，甚至直接触发拒绝机制（Abstention）：“对不起，你提供的信息存在矛盾/不足，请补充以下背景……”（参考 Kiprono, 2025）。

---

结语：资深玩家的通关密码

在大模型的“终极救赎”演进完全普及之前，作为使用 AI 的人类，我们该如何自保？

答案其实就藏在上述的科学原理中：既然自回归的上下文污染不可逆，那就物理刷新它。

当你发现和 AI 的对话已经开始陷入泥潭、方向不对时，千万不要试图在当前的对话框里去纠正和反驳它（因为你的反驳又会变成新的上下文噪声）。

最聪明的做法是：提炼出前几轮对话中真正正确的几句核心结论，点击“New Chat”（新建对话），开辟新局。 只有这样，才能彻底洗掉那条已经歪掉的自回归误差链，让注意力矩阵重新洗牌，迎来光明。