【程序员必学】从RAG到智能体记忆:AI智能体记忆机制全解析(建议收藏)
文章详细介绍了AI智能体记忆机制的演进:从RAG(一次性只读)到智能体RAG(工具调用只读),再到智能体记忆(工具调用读写)。这一演进使AI系统能从过去交互中学习,实现更个性化体验。三者本质都是在外部知识源中管理信息,当前焦点已从检索转向信息管理。
RAG:一次性只读操作
检索增强生成(RAG)的概念在2020年由Lewis等人提出,并在2023年前后开始流行。这是第一个让无状态的LLM能够访问过去对话和训练期间未曾见过并存储在模型权重中的知识(参数化知识)的概念。
最初的RAG工作流程的核心思想非常直接,如下图所示:

- 离线索引阶段:将额外信息存储在外部知识源中(例如向量数据库)
- 查询阶段:使用用户的查询从外部知识源中检索相关上下文。将检索到的上下文连同用户查询一起输入LLM,获得基于这些额外信息的回答。
下面的伪代码展示了最初的RAG工作流程:

虽然最初的RAG方法在简单用例中能够有效减少幻觉问题,但它有一个关键限制:这是一次性的解决方案。
- 通常会从外部知识源检索额外信息,而不会先判断是否真的需要
- 信息只检索一次,不管检索到的信息是否相关或正确
- 所有额外信息都只来自一个外部知识源
这些限制意味着对于更复杂的用例,如果检索到的上下文与用户查询不相关甚至是错误的,LLM仍然可能产生幻觉。
智能体RAG:通过工具调用实现只读
智能体RAG解决了最初RAG的许多局限性:它将检索步骤定义为智能体可以使用的工具。这一改变使得智能体能够首先判断是否需要额外信息,决定使用哪个工具进行检索(例如,存储专有数据的数据库与网络搜索),并评估检索到的信息是否与用户查询相关。

下面的伪代码展示了智能体如何在智能体RAG工作流程中调用SearchTool:

最初的RAG和智能体RAG的一个共同点是,信息是离线存储在数据库中的,而不是在推理过程中存储。这意味着数据只能被智能体检索,而不能在推理过程中写入、修改或删除。这个限制意味着最初的RAG和智能体RAG系统(默认情况下)都无法从过去的交互中学习和改进。
智能体记忆:通过工具调用实现读写
智能体记忆通过引入记忆管理概念,克服了最初RAG和智能体RAG的这一限制。这使得智能体能够从过去的交互中学习,并通过更个性化的方式提升用户体验。
智能体记忆的概念建立在智能体RAG的基本原则之上。它同样使用工具从外部知识源(记忆)中检索信息。但与智能体RAG不同的是,智能体记忆还使用工具向外部知识源写入信息,如下所示:

这使得智能体不仅能够从记忆中回忆,还能够"记住"信息。在最简单的形式中,你可以在交互后将原始对话历史存储在一个集合中。然后,智能体可以搜索过去的对话来找到相关信息。如果你想扩展这一功能,可以提示记忆管理系统创建对话摘要以供将来参考。此外,你还可以让智能体在对话过程中注意到重要信息(例如,用户提到喜欢使用表情符号或提到自己的生日),并基于这个事件创建记忆。
下面的伪代码展示了智能体记忆的概念如何通过WriteTool扩展智能体RAG的思想,使智能体能够存储信息:

这个简化思维模型的局限性
如本文开头所述,这种对AI智能体记忆的比较只是一个简化的思维模型。它帮助我将其与我已经熟悉的概念联系起来。但为了避免让AI智能体记忆的整个话题看起来只是带有写操作的智能体RAG的扩展,我想强调一下这种简化的一些局限性:
上面对AI智能体记忆的说明为了清晰起见进行了简化。它只显示了单一的记忆源。然而,在实践中,你可以为不同类型的记忆使用多个源:你可以为以下内容使用单独的数据集合:
- "程序性"记忆(例如,“与用户互动时使用表情符号”)
- "情景性"记忆(例如,“用户在10月30日谈论计划旅行”)
- "语义性"记忆(例如,“埃菲尔铁塔高330米”)
正如CoALA论文中所讨论的。此外,你还可以为原始对话历史设置一个单独的数据集合。
上述说明的另一个简化是,它缺少超越CRUD操作的记忆管理策略,就像MemGPT中所见的那样。
此外,虽然智能体记忆实现了持久化,但它也引入了RAG和智能体RAG没有的新挑战:记忆损坏以及对记忆管理策略(如遗忘)的需求。
总结
从本质上讲,RAG、智能体RAG和智能体记忆都是关于如何创建、读取、更新和删除存储在外部知识源(例如文本文件或数据库)中的信息。
| 存储信息 | 检索信息 | 编辑和删除信息 | |
| RAG | 导入阶段离线存储 | 一次性 | 手动 |
| 智能体RAG | 导入阶段离线存储 | 通过工具调用动态进行 | 手动 |
| 智能体记忆 | 通过工具调用动态进行 | 通过工具调用动态进行 | 通过工具调用动态进行 |
最初,优化最初RAG的关键焦点在于优化检索方面,例如使用不同的检索技术,如向量搜索、混合搜索或基于关键词的搜索(“如何检索信息”)。然后,焦点转向使用正确的工具从不同的知识源检索信息(“我需要检索信息吗?如果需要,从哪里检索?”)。在过去一年中,随着智能体记忆的出现,焦点再次转移。这次转向了信息是如何管理的:虽然RAG和智能体RAG非常关注检索方面,但记忆机制涵盖了在外部知识源中创建、修改和删除数据的过程。
如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】


为什么要学习大模型?
我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年,人才缺口已超百万,凸显培养不足。随着AI技术飞速发展,预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。


大模型入门到实战全套学习大礼包
1、大模型系统化学习路线
作为学习AI大模型技术的新手,方向至关重要。 正确的学习路线可以为你节省时间,少走弯路;方向不对,努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划,带你从零基础入门到精通!

2、大模型学习书籍&文档
学习AI大模型离不开书籍文档,我精选了一系列大模型技术的书籍和学习文档(电子版),它们由领域内的顶尖专家撰写,内容全面、深入、详尽,为你学习大模型提供坚实的理论基础。

3、AI大模型最新行业报告
2025最新行业报告,针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。

4、大模型项目实战&配套源码
学以致用,在项目实战中检验和巩固你所学到的知识,同时为你找工作就业和职业发展打下坚实的基础。

5、大模型大厂面试真题
面试不仅是技术的较量,更需要充分的准备。在你已经掌握了大模型技术之后,就需要开始准备面试,我精心整理了一份大模型面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余。

适用人群

第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。
如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

更多推荐


所有评论(0)