最近在做一个AI agent的项目，发现很多人在用 RAG，但一问「RAG 的本质是什么」，回答却越来越抽象。

其实，用一个生活中最直观的比喻就能讲清楚：

RAG，本质上就是让大模型参加一场“开卷考试”。

 

一、为什么大模型“闭卷考试”不行了？

在没有 RAG 的情况下，大模型的工作方式更像是 闭卷考试：

所有知识都“背”在参数里

训练完成后，知识就基本冻结

遇到新知识、实时信息、私有数据，很容易：

编不出来

或者开始“胡编”

这就是大家熟悉的 Hallucination（幻觉）问题。

不是模型不会推理，而是它根本没资料可查。

 

二、RAG = 开卷考试

RAG 的核心思想，就是让模型在回答问题之前，先去“翻资料”，再基于资料作答。

我们把这个过程映射到「开卷考试」。

 

三、把“开卷考试”拆解到 RAG 的真实流程

📚 1️⃣ 查资料（Retrieval）

开卷考试中：

先翻书、查笔记

找和题目最相关的内容

RAG 系统中：

Query → Embedding → 向量检索 → Top-K 文档

不靠模型记忆

而是从外部知识库中检索相关内容

👉 这是 RAG 的“R”

 

✍️ 2️⃣ 整理资料（Augmentation）

考试中：

不是整本书抄上去

而是摘重点、做整合

RAG 中：

把检索结果拼进 Prompt

加上任务指令、格式约束、角色设定

👉 这是 RAG 的“A”

 

🧠 3️⃣ 作答（Generation）

考试中：

基于资料 + 自己的理解写答案

不能脱离材料乱编

RAG 中：

LLM 在检索上下文的强约束下生成回答

明显减少事实错误和幻觉

👉 这是 RAG 的“G”

 

四、RAG 真正解决了哪些问题？

从“开卷考试”的角度看，RAG 至少解决了 4 个关键问题：

✅ 1️⃣ 知识可更新

不用重新训练模型

更新知识库即可

✅ 2️⃣ 减少幻觉

回答被真实文档约束

不容易一本正经地胡说八道

✅ 3️⃣ 私有知识接入

企业文档

内部系统

私有数据

✅ 4️⃣ 模型更“专心”

模型负责推理和表达

知识交给检索系统

 

五、从系统设计角度看 RAG

RAG 的本质，是把知识从模型参数中解耦出来，在推理阶段通过检索动态注入，从而提升系统的事实准确性、可维护性和可扩展性。

 

六、和 Agent 结合后，RAG 会发生什么？

 

在 Agent 系统中，RAG 的角色进一步升级：

Agent 决定 “查不查”

Agent 决定 “查什么”

RAG 负责 “给证据”

LLM 负责 “下结论”

此时的 RAG，更像是 Agent 的外部知识感知模块。

 

所以，总的来说，如果把大模型当成大脑，RAG 就是让大脑在思考前先翻书，而不是只靠死记硬背作答。

 

很多人学 RAG，只停留在“向量库 + Prompt 拼接”，

但真正理解 RAG，你会发现：

它不是在增强模型，而是在重构整个知识使用方式！