Day21：（理论篇）从大模型 “睁眼说瞎话” 到精准靠谱：RAG 入门保姆级教程，看完直接写进简历！

你是不是被大模型的 “嘴” 坑过？

相信所有用过 AI 大模型的朋友，都踩过这些坑：

• 问公司内部的报销新规、项目资料，它要么说 “我没有相关信息”，要么瞎编一套看似合理的规则

• 问 2026 年最新的政策、刚发布的行业数据，它给你甩个 2024 年的过时内容

• 更坑的是，你问一个它不懂的问题，它为了 “面子”，能给你编得有鼻子有眼，连参考文献都能瞎造，这就是大名鼎鼎的大模型幻觉

我之前就被坑过：用本地部署的 Deepseek-R1 问我们部门上周的项目复盘结论，它给我编了 3 条完全不存在的优化建议，差点让我在周会上社死。

那有没有办法让大模型 “闭嘴别瞎编，先查资料再说话”？

有！这就是我们今天要学的RAG（检索增强生成），堪称大模型的 “防瞎编神器”，也是目前企业 AI 落地最火、最实用的技术，没有之一。

一句话讲透 RAG 的核心逻辑

先给大家一个能直接记在笔记里的定义：

RAG = 检索 + 增强生成，本质就是给大模型配了一个专属的实时资料库 + 智能检索员，强制大模型回答问题前先查资料，再基于资料回答，从根源上解决幻觉、时效性差、无法使用私有数据的三大痛点。

给大家一个超通俗的类比，保证你一辈子忘不掉：

我们可以把大模型比作一个刚毕业的 985 学霸，脑子很聪明，会说话，通用知识储备拉满，但它有三个致命缺陷：

1. 知识截止到毕业那天（大模型的训练数据有截止时间，之后的新东西一概不知道）

2. 只学了通用课本，你们公司的内部制度、项目资料、你的私人笔记，它完全没接触过

3. 死要面子，不懂也不会说 “我不知道”，只会硬着头皮瞎编（幻觉本幻）

而 RAG，就是给这个学霸配了三个神器：

• 一个可以随时更新的专属资料库（你的私有文档、最新政策、行业数据）

• 一个超级智能的检索员（1 秒内从几万份资料里找到和问题最相关的内容）

• 一个铁律：回答问题必须基于检索到的资料，资料里没有的就老实说 “我不知道”，不许瞎编

你看，这么一改造，原本只会瞎编的学霸，瞬间变成了精准靠谱的专属助理，不管是通义千问、Deepseek 这种在线大模型，还是你本地部署的开源大模型，都能靠 RAG 实现质的飞跃。

保姆级拆解：RAG 全流程 5 步走，看完就懂

很多新手一看到 RAG 的流程图就头大，别慌，我把它拆成了 5 个大白话步骤，每一步都配了真实案例，哪怕你是零基础，也能看懂。

第一步：文档预处理 —— 给你的资料 “洗个澡”，拆成小卡片

我们手里的资料五花八门：PDF、Word、Excel、录音转写的文字，甚至是网页内容，里面还有很多没用的页眉页脚、乱码、多余换行，大模型根本没法直接用。

预处理的核心，就是把杂乱的文档，拆成一小块一小块的 “文本块（Chunk）”，就像把一本厚书拆成一页一页的小卡片，每一张卡片只讲一个小主题。

举个例子：你把公司 2026 年 3 月的报销新规 PDF，拆成了 10 个文本块，每个块 300-500 字，分别对应 “差旅住宿标准”“打车报销规则”“餐饮报销上限” 等主题。

第二步：向量化（Embedding）—— 给每个小卡片办一张 “智能身份证”

这是 RAG 最核心的一步，也是很多新手卡壳的地方，其实非常好理解：

计算机看不懂文字，但是看得懂数字，所以我们要把每一块文本，转换成一串数字（也就是向量），这个向量就代表了这段文本的核心语义，相当于给每个小卡片办了一张 “智能身份证”。

这个 “身份证” 有多智能？

比如 “上海出差住宿一天最多报 500 元” 这个文本块，转换成向量后，它和 “去上海住酒店报销标准”“一线城市出差住宿上限” 这些问题的向量，距离会非常近；但和 “餐饮报销能报多少” 的向量，距离就会很远。

第三步：向量存储 —— 把卡片和身份证放进 “智能文件柜”

转换好的向量，不能随便丢在文件夹里，要放进专门的向量数据库（比如 Chroma、Milvus、PGVector），这个数据库就相当于一个智能文件柜。

这个文件柜的厉害之处在于：你给它一个问题的向量，它能在几毫秒内，从几十万甚至几百万个文本块里，找到和这个问题向量最接近的几个文本块，也就是和问题最相关的资料。

还是拿报销新规举例子：你把 10 个文本块的向量和对应的原文，都存进了 Chroma 数据库，你的专属智能文件柜就建好了，后续不管用什么大模型，都能来这里查资料。

第四步：检索 —— 用户提问，先去文件柜找相关资料

当用户问一个问题，比如 “我去上海出差，住酒店一天能报多少钱？”，我们要做的第一件事，不是直接把问题丢给大模型，而是：

1. 用和之前完全一样的 Embedding 模型，把用户的问题也转换成向量

2. 拿着这个问题向量，去向量数据库里做相似度检索，找到最相关的 3-5 个文本块

3. 把这些文本块的原文，作为 “参考资料” 提取出来

这一步就相当于，你让检索员先去文件柜里，把和用户问题相关的资料都找出来，放在大模型面前，不许它瞎编。

第五步：增强生成 —— 拿着资料，让大模型老实回答

这是最后一步，也是最爽的一步：我们把检索到的参考资料 + 用户的问题 + 严格的规则，打包成一个 Prompt，喂给大模型，强制它只能基于资料回答。

给大家一个万能 Prompt 模板，通义千问、Deepseek、本地大模型都能用，复制就能跑：

你是一个专业、严谨的答疑助手，必须严格基于以下提供的参考资料回答用户的问题。
规则：
1. 答案只能来自参考资料，绝对不允许编造参考资料里没有的信息
2. 如果参考资料里没有和问题相关的内容，直接回答“抱歉，参考资料中没有相关内容，无法为你解答”，不许瞎编
3. 回答要简洁清晰，符合用户的问题场景

参考资料：
{{这里放你检索到的相关文本块内容}}

用户问题：{{这里放用户的提问}}

还是拿报销的例子，我们把检索到的 “上海属于一线城市，住宿报销上限 500 元 / 天” 放进参考资料，再把 Prompt 喂给大模型：

• 通义千问、Deepseek 会精准回答：“根据公司 2026 年 3 月的报销新规，上海属于一线城市，出差住宿报销上限为 500 元 / 天。”

• 哪怕是你本地部署的 7B 小参数模型，也能给出完全准确的回答，绝对不会瞎编。

你看，这就是 RAG 的完整流程，没有任何复杂的公式，逻辑非常清晰。

有图有真相：纯大模型 VS RAG 问答，对比案例直接抄进笔记

光说不练假把式，我给大家整理了 3 个最常见的场景，用通义千问、Deepseek、本地大模型做了真实对比，看完你就知道 RAG 的威力有多大。

场景 1：私有数据场景（公司内部资料）

用户问题：我们公司 2026 年 3 月的报销新规里，上海出差住宿一天最多能报多少？

• 纯大模型（通义千问 / Deepseek / 本地开源模型）回答：

  抱歉，我无法获取您公司的内部报销新规信息，建议您咨询公司的行政或财务部门获取准确内容。

  （部分大模型还会瞎编：“一般公司上海出差住宿报销上限是 300-400 元 / 天，具体以您公司规定为准”，看似合理，实则完全没用）

• RAG 增强后的大模型回答：

根据您公司 2026 年 3 月最新发布的报销新规，上海属于一线城市，出差住宿报销上限为 500 元 / 天，超出部分需个人自行承担。

（精准、有依据，完全符合需求）

场景 2：时效性场景（最新政策数据）

用户问题：2026 年 3 月最新的 1 年期 LPR 利率是多少？

• 纯大模型（训练数据截止 2025 年）回答：

  2025 年 12 月公布的 1 年期 LPR 为 3.45%，5 年期以上 LPR 为 4.2%。

  （完全过时，信息错误）

• RAG 增强后的大模型（提前存入 2026 年 3 月央行最新公告）回答：

根据中国人民银行 2026 年 3 月 20 日公布的最新贷款市场报价利率（LPR），1 年期 LPR 为 3.2%，5 年期以上 LPR 为 3.95%。

（最新、准确，完全解决时效性问题）

场景 3：防幻觉场景（知识纠错）

用户问题：《红楼梦》里林黛玉写的《蜀道难》的核心思想是什么？

• 纯大模型回答：

  林黛玉在《红楼梦》中写的《蜀道难》，以蜀道的艰险隐喻自己身世的坎坷，表达了寄人篱下的苦闷与对自由的向往，是其代表作之一。

  （纯纯瞎编！《蜀道难》是李白的，林黛玉根本没写过）

• RAG 增强后的大模型（提前存入《红楼梦》全本 + 唐诗三百首）回答：

参考资料中没有《红楼梦》里林黛玉创作《蜀道难》的相关内容，《蜀道难》是唐代诗人李白的代表作，《红楼梦》中林黛玉的经典诗作有《葬花吟》《秋窗风雨夕》等。

（直接纠正错误，绝不瞎编，靠谱度拉满）

RAG 到底能用在哪？学会了直接做项目涨工资

很多新手会问：我学会了 RAG，能做什么？

我可以很负责任地说，RAG 是目前 AI 落地最广的技术，几乎所有企业的 AI 应用，都离不开 RAG，学会了这些场景，不管是做副业、做项目，还是写进简历涨工资，都是绝对的加分项：

1. 企业内部知识库问答机器人：给公司做个专属答疑机器人，新员工问制度、问流程、问项目资料，都能精准回答，不用天天找 HR、找老员工

2. 智能客服：把产品手册、售后规则、常见问题放进知识库，客服机器人就能精准回答用户问题，减少客诉，降低人工成本

3. 个人学习助手：把考研资料、考公教材、编程教程放进知识库，随时提问，精准定位知识点，不会被大模型的瞎编内容带偏

4. 专业领域助手：把最新的法条、医学指南、行业规范放进知识库，辅助律师、医生、工程师精准查询，避免用过时的内容

5. 实时资讯问答：把每天的新闻、政策更新放进知识库，大模型就能回答最新的事件，再也不会给你过时的信息

新手入门避坑指南：我踩过的 5 个坑，你别再踩了

1. 别上来就搞复杂的，先跑通最小 Demo：先拿一个小的 txt 文档，跑通 “分块→向量化→存储→检索→生成” 的全流程，再搞复杂的 PDF、多文档、多模态内容

2. Embedding 模型要选对：中文场景优先选国内的中文嵌入模型，比如通义千问 Embedding、bge 系列，别用国外的英文模型，效果差很多

3. 别迷信大模型参数越大越好：RAG 场景下，哪怕是 7B 的本地 Deepseek 模型，配合好的检索，效果比 100B 的纯大模型还要准

4. Prompt 规则要写死：一定要在 Prompt 里明确告诉大模型 “只能用参考资料回答，不许编造”，不然它还是会忍不住瞎编

5. 检索结果不是越多越好：一般选 3-5 个最相关的文本块就够了，放太多无关内容，反而会干扰大模型的回答，出现 “信息过载”

结尾

RAG 的魅力就在于，它不需要你会训练大模型，不需要你有几百万的显卡，只要你懂基础的 Python，就能跑通一个属于自己的 RAG 应用，让原本 “满嘴跑火车” 的大模型，变成精准靠谱的专属助理。