AI学习记录 04 ：初识 RAG

今天学习 AI 相关的基础知识，主要了解了 RAG 的概念。

在当前人工智能发展迅猛的当下，大模型已经成为了众多领域的工具，但是也存在很多的问题，知识时效性和幻觉问题，知识边界与领域的特异性不足，可解释性和溯源性差，计算资源和成本高昂。

RAG技术的出现正是为了去解决这些问题，在不重新训练和微调大模型的前提下，赋予他们获取准确的领域特定知识的能力并解决幻觉问题

大模型的局限性

1. 知识时效性与更新滞后

        LLMs的知识来源于其训练数据。一旦训练完成，模型内部的知识便被“固化”下来，对于训练         数据截止日期之后发生的事件、新出现的概念或实时信息，LLMs无法直接获取和更新。

       2.“幻觉”问题

        这是LLMs最令人头疼的问题之一。模型在生成内容时，有时会凭空捏造事实、提供不准确或         误导性的信息。这种“幻觉”现象严重影响了LLMs在需要高准确性和可靠性的场景中的应用。

        3. 知识边界与领域特异性

        尽管LLMs拥有海量的通用知识，但它们在特定专业领域或企业内部知识方面的表现往往不尽         如人意。

       4. 可解释性与溯源性差

        LLMs的决策过程是一个“黑箱”，很难追溯其生成某个答案的具体依据。

       5. 计算资源与成本

        训练和部署大型语言模型需要巨大的计算资源和高昂的成本，对于许多企业和个人而言，从         头开始训练或对现有大型模型进行大规模微调以适应特定需求，是不切实际的。

如何在不重新训练或大规模微调LLMs的前提下，赋予它们获取最新、准确、领域特定知识的能力，并有效解决“幻觉”问题。这正是RAG技术应运而生的核心动因。

RAG

RAG（Retrieval Augmented Generation） 检索增强生成的核心思想是将信息检索（Retrieval）与文本生成（Generation）相结合，使得大型语言模型在生成回答之前，能够从外部知识库中检索到相关且最新的信息，并以此为基础进行内容生成。

RAG 就像给大模型配备了一个 “开卷考试” 的能力。当大模型遇到不确定的问题时，它不再仅仅依赖于 “记忆”（训练数据），而是可以迅速 “查阅资料”（检索外部知识库），然后根据查阅到的最新、最准确的资料来给出答案。

RAG 的工作流程主要分为四步：用户查询、检索、增强和生成。

首先，用户提出一个问题，或者输入一段需要查询的文本。系统会先理解用户的问题，并把这个问题转换成适合检索的形式。

然后，RAG 系统会在提前构建好的外部知识库中进行搜索，找到和用户问题最相关的文档、文本片段或资料内容。这个过程的目标是找到能够支撑回答的相关信息。

接着，系统不会直接把检索到的内容返回给用户，而是会把这些相关内容和用户原来的问题结合起来，形成一个更完整的提示词，也就是“增强型提示”。这样大模型在回答时，不只是依靠自己原本的知识，而是可以参考外部资料。

最后，增强后的提示会被输入到大语言模型中。模型会结合用户的问题和检索到的上下文信息，生成最终回答。

简单来说，RAG 的核心思想就是：

先查资料，再让大模型回答。

这样做的好处是可以提高回答的准确性、相关性和可靠性，同时减少大模型胡编乱造，也就是“幻觉”的情况。对于知识库问答、企业客服、论文助手、文档问答等场景，RAG 都是非常重要的技术。