Mem0：打造具备可扩展长期记忆的工业化级AI智能体！

猿类崛起@

1957人浏览 · 2025-08-26 10:28:45

猿类崛起@ · 2025-08-26 10:28:45 发布

大语言模型（LLM）在生成上下文连贯的响应方面已展现出卓越能力，但其一成不变的上下文窗口在长时间多轮对话中维持一致性时，面临着根本性挑战。为此，我们提出了 Mem0—— 一种以记忆为核心的可扩展架构。

该架构通过从实时对话中动态提取、整合和检索关键信息，成功解决了这一问题。在此基础上，我们进一步提出了一种增强版本：该版本利用基于图的记忆表示方式，捕捉对话元素间复杂的关联结构。

我们在 LOCOMO 基准数据集上开展了全面评估，将所提方法与六类基准方案进行系统性对比，具体包括：（1）已有的记忆增强系统；（2）不同块大小（chunk size）和 k 值配置的检索增强生成（RAG）方法；（3）处理完整对话历史的全上下文方案；（4）开源记忆解决方案；（5）专有模型系统；（6）专用记忆管理平台。实验结果表明，在单跳、时间相关、多跳和开放域这四类问题中，我们的方法持续优于所有现有记忆系统。

值得注意的是，在 “LLM 作为评判者”（LLM-as-a-Judge）指标上，Mem0 相较于 OpenAI 实现了 26% 的相对性能提升；而带有图记忆的 Mem0（Mem0g）相较于基础版 Mem0，整体得分又提升了约 2%。

除了准确率的提升，与全上下文方案相比，我们的方法还显著降低了计算开销。具体而言，Mem0 的 95 百分位延迟（p95 latency）降低了 91%，令牌（token）成本节省了 90% 以上，从而在先进推理能力与实际部署约束之间实现了理想平衡。研究结果表明，结构化、持久性的记忆机制对于维持长期对话连贯性至关重要，这为开发更可靠、高效的大语言模型驱动型 AI 智能体奠定了基础。

代码获取地址：https://mem0.ai/research

1. 引言

记忆是人类智能的基础 —— 它塑造了我们的自我认知、指导决策制定，并使我们能够学习、适应环境以及建立有意义的人际关系（Craik & Jennings, 1992）。在记忆的诸多作用中，它对于沟通至关重要：我们会回忆过往的互动、推断他人的偏好，并构建与交往对象相关的动态心理模型（Assmann, 2011）。正是这种长时间保留和检索信息的能力，让我们能够进行持续数天、数周甚至数月的连贯且富含上下文的交流。

由大语言模型（LLM）驱动的 AI 智能体，在生成流畅且符合上下文的响应方面已取得显著进步（Yu et al., 2024；Zhang et al., 2024）。然而，这些系统本质上受限于其对固定上下文窗口的依赖，这严重制约了它们在长时间互动中维持连贯性的能力（Bulatov et al., 2022；Liu et al., 2023）。这一局限的根源在于，大语言模型缺乏能够突破有限上下文窗口限制的持久性记忆机制。人类会自然而然地随着时间积累和整理经验，形成连贯的互动叙事；而 AI 系统无法在不同对话轮次间，或在上下文超出窗口范围后，本能地保留信息。持久性记忆的缺失，导致人机交互中出现根本性的断层：没有记忆的 AI 智能体会忘记用户偏好、重复提问，甚至与之前确认的事实产生矛盾。如图 1 所示的简单案例：用户在初次对话中提到自己是素食者且不食用乳制品，若系统没有持久性记忆，在后续对话中当用户询问晚餐推荐时，可能会推荐鸡肉，完全违背用户已明确的饮食偏好；而具备有效记忆的系统则会在多轮互动中持续保留这些饮食信息，推荐符合素食、无乳制品要求的合适选项。这一常见场景表明，记忆功能的缺失会从根本上损害用户体验与信任。

图 1：AI 智能体中记忆重要性的示意图

左图：无持久性记忆时，系统在不同对话轮次间会忘记用户关键信息（素食、无乳制品偏好），导致推荐内容不合需求；右图：具备有效记忆时，系统会在多轮互动中持续保留这些饮食偏好，推荐符合先前设定约束的合适选项。

除对话场景外，记忆机制已被证明能显著提升智能体在交互环境中的性能（Majumder et al., 2023；Shinn et al., 2023）。拥有过往经验记忆的智能体，能更好地预判用户需求、从过往错误中学习，并将知识迁移到不同任务中（Chhikara et al., 2023）。研究表明，记忆增强型智能体可通过利用行为与结果间的因果关系改进决策，从而在动态场景中实现更有效的适应（Rasmussen et al., 2025）。此外，分层记忆架构（Packer et al., 2023；Sarthi et al., 2024）以及具备自主进化能力的智能体记忆系统（Xu et al., 2025）进一步证明，记忆能让智能体在多轮对话中实现更连贯的长期推理。

与人类不同 —— 人类会动态整合新信息并修正过时认知 —— 大语言模型在信息超出上下文窗口后，实际上会 “重置”（Zhang, 2024；Timoneda & Vera, 2025）。即便像 OpenAI 的 GPT-4（12.8 万token上下文）（Hurst et al., 2024）、o1（20 万token上下文）（Jaech et al., 2024）、Anthropic 的 Claude 3.7 Sonnet（20 万token上下文）（Anthropic, 2025）以及谷歌的 Gemini（至少 1000 万token上下文）（Team et al., 2024）等模型不断突破上下文长度的限制，这些改进也只是延缓了问题，并未从根本上解决局限。

在实际应用中，即便这些扩展后的上下文窗口，仍因两个关键原因显得不足：首先，有意义的人机关系需经数周或数月发展形成，对话历史最终必然会超出哪怕最宽松的上下文限制；其次，更重要的是，现实对话很少能保持主题连贯性 —— 例如，用户可能先提到自己的素食偏好，随后花数小时讨论与编程相关的无关话题，之后再回到饮食相关的晚餐推荐请求。在这种情况下，全上下文方案需要从海量无关信息中筛选关键内容，而重要的饮食偏好可能被淹没在数千个与编程相关的token中。此外，单纯增加上下文长度并不能保证过往信息被有效检索和利用，因为注意力机制在处理远距离token时性能会下降（Guo et al., 2024；Nelson et al., 2024）。

这一局限在医疗、教育和企业支持等高风险领域尤为突出，这些领域对维持对话连贯性和用户信任至关重要（Hatalis et al., 2023）。为应对这些挑战，AI 智能体必须采用超越静态上下文扩展的记忆系统。一个可靠的 AI 记忆应能选择性存储重要信息、整合相关概念，并在需要时检索关键细节 —— 这一过程需模仿人类的认知机制（He et al., 2024）。通过整合此类机制，我们有望开发出具有稳定人设、能跟踪用户动态偏好，并能基于过往互动持续优化响应的 AI 智能体。这一转变将把 AI 从 “转瞬即忘的响应者” 转变为 “可靠的长期合作者”，从根本上重新定义对话智能的未来。

本文旨在解决 AI 系统的一个根本性局限：它们无法在不同对话轮次的长时间互动中维持连贯推理，这严重限制了与人进行有意义长期交互的能力。为此，我们提出了 Mem0（发音为 “mem-zero”）—— 一种新颖的记忆架构，能从实时对话中动态捕捉、整理和检索关键信息。在此基础上，我们进一步开发了 Mem0g：该架构在基础版 Mem0 的基础上，融入了基于图的记忆表示方式，能更好地建模对话元素间的复杂关系。

我们在 LOCOMO 基准数据集上的实验结果表明，在各类问题中，我们的方法持续优于现有记忆系统（包括记忆增强架构、检索增强生成（RAG）方法，以及开源和专有解决方案），同时所需的计算资源显著减少。延迟测试进一步显示，Mem0 的响应时间比全上下文方案降低 91%，在复杂推理能力与实际部署约束之间实现了最优平衡。这些成果为开发能长时间维持连贯、上下文感知对话的 AI 系统迈出了重要一步 —— 此类系统将模仿人类的交流模式，为个人辅导、医疗健康和个性化助手等应用开辟新可能。

2. 所提方法

我们为 AI 智能体提出了两种记忆架构：（1）Mem0 采用新颖范式，通过专门的记忆提取与更新模块，从对话中提取、评估和管理关键信息，该系统可处理两名用户之间，或用户与助手之间的消息对；（2）Mem0g 在 Mem0 的基础上进行扩展，融入了基于图的记忆表示 —— 记忆以带标签的有向图形式存储，其中实体作为节点，关系作为边。这种结构能让人更深入地理解实体间的关联，通过明确建模实体及其关系，Mem0g 支持对相互关联的事实进行更复杂的推理，尤其适用于需要跨多个记忆构建复杂关联路径的查询。

2.1 Mem0

我们的架构采用增量处理范式，可在实时对话中无缝运行。如图 2 所示，完整的流水线架构包含两个阶段：提取阶段与更新阶段。

图 2：Mem0 系统架构总览（展示提取阶段与更新阶段）

提取阶段对消息和历史上下文进行处理，以生成新的记忆；更新阶段将这些提取出的记忆与现有相似记忆进行对比，并通过 “工具调用（Tool Call）” 机制执行相应操作。数据库作为核心存储库，为记忆的处理提供上下文支持，并存储更新后的记忆。（说明：“architectural overview” 指 “架构总览”，用于概括系统各模块的核心逻辑与交互关系；“Tool Call mechanism” 是大语言模型领域常用术语，指模型通过调用外部工具（如数据库接口、计算函数等）执行特定操作的机制，此处用于实现记忆的对比与更新；“central repository” 译为 “核心存储库”，强调数据库在 Mem0 系统中集中管理记忆数据的核心作用。）

提取阶段始于对新消息对（mₜ₋₁, mₜ）的处理，其中 mₜ代表当前消息，mₜ₋₁代表前一条消息。该消息对通常由用户消息和助手响应组成，构成一个完整的交互单元。为给记忆提取构建合适的上下文，系统会利用两个互补的信息源：（1）从数据库中检索的对话摘要 S（该摘要包含整个对话历史的语义内容）；（2）对话历史中的最近 m 条消息（{mₜ₋ₘ, mₜ₋ₘ₊₁, ..., mₜ₋₂}，其中 m 是控制 “近期窗口” 的超参数）。为实现上下文感知的记忆提取，我们设计了一个异步摘要生成模块，该模块会定期更新对话摘要。它独立于主处理流水线运行，确保记忆提取始终能利用最新的上下文信息，同时不会增加处理延迟。其中，摘要 S 提供了整个对话的全局主题理解，而最近消息序列则提供了细粒度的时序上下文（可能包含尚未整合到摘要中的相关细节）。这种双重上下文信息与新消息对相结合，构成了用于提取函数 φ（由大语言模型实现）的完整提示 P = (S, {mₜ₋ₘ, ..., mₜ₋₂}, mₜ₋₁, mₜ)。随后，函数 φ(P) 会从新交互中提取一组关键记忆 Ω = {ω₁, ω₂, ..., ωₙ}，同时保持对对话整体上下文的感知，最终生成可纳入知识库的候选事实。

提取阶段完成后，进入更新阶段。该阶段会将每个候选事实与现有记忆进行对比评估，以确保记忆库的一致性并避免冗余。对于提取出的每个事实 ωᵢ ∈ Ω（Ω 为候选事实集合），更新阶段需确定其对应的记忆管理操作。附录 B 中提及的算法 1 详细展示了这一过程。具体而言，针对每个候选事实，系统首先利用向量嵌入技术从数据库中检索出语义相似度最高的前 s 条记忆。随后，这些检索到的记忆与该候选事实会通过一个名为 “工具调用（tool call）” 的函数调用接口提交给大语言模型（LLM）。大语言模型将自主判断并执行以下四种不同操作之一：

ADD（新增）
：当不存在语义等效的记忆时，创建新记忆；
UPDATE（更新）
：当候选事实包含补充信息时，用其完善现有记忆；
DELETE（删除）
：当候选事实与现有记忆存在矛盾时，移除冲突的旧记忆；
NOOP（无操作）
：当候选事实无需对知识库进行任何修改时（如事实已存在或无关紧要），不执行任何操作。

不同于使用独立分类器判断操作类型，本方法直接利用大语言模型的推理能力，根据候选事实与现有记忆间的语义关系选择合适的操作。操作类型确定后，系统会执行相应指令，从而确保记忆库在内容一致性和时间连贯性上的稳定性。

图 3：Mem0g 的基于图结构的记忆架构（展示实体提取与更新阶段）

提取阶段利用大语言模型（LLMs）将对话消息转换为实体及关系三元组；更新阶段在将新信息整合到现有知识图谱时，采用了冲突检测与解决机制。

在实验评估中，我们对系统进行了如下配置：选取 “m = 10” 条历史消息作为上下文参考，选取 “s = 10” 条相似记忆用于对比分析。所有语言模型相关操作均以 GPT-4o-mini 作为推理引擎。向量数据库采用密集向量嵌入技术，以在更新阶段实现高效的相似度检索。

一直在更新，更多的大模型学习和面试资料已经上传带到CSDN的官方了，有需要的朋友可以扫描下方二维码免费领取【保证100%免费】👇👇

2.2 Mem0g

如图 3 所示，Mem0g 的处理流程采用基于图结构的记忆方法，能有效捕捉、存储和检索自然语言交互中的上下文信息（Zhang 等人，2022）。在该框架中，记忆以带标签的有向图 G = (V, E, L)形式表示，其中：

节点 V 代表实体（例如，Alice、San Francisco（旧金山））；
边 E 代表实体间的关系（例如，lives_in（居住于））；
标签 L 为节点分配语义类型（例如，Alice - Person（人物）、San Francisco - City（城市））。

每个实体节点v ∈ V 包含三个组成部分：（1）实体类型分类（用于对实体进行归类，例如 “人物（Person）”“地点（Location）”“事件（Event）”）；（2）嵌入向量ev （用于捕捉实体的语义含义）；（3）元数据（包括创建时间戳 tv）。在本系统中，关系以三元组形式构建，即 (vs, r, vd)，其中 vs 和 vd 分别代表源实体节点和目标实体节点，r 代表连接二者的带标签边。

提取过程采用两阶段处理流程，借助大语言模型将非结构化文本转换为结构化图表示：首先，实体提取模块对输入文本进行处理，识别出一组实体及其对应的类型。在本框架中，实体代表对话中的关键信息元素，包括人物、地点、物体、概念、事件及属性等值得在记忆图谱中体现的内容。实体提取模块通过分析对话中各元素的语义重要性、唯一性和持久性，识别出这些不同类型的信息单元。例如，在关于旅行计划的对话中，实体可能包括目的地（城市、国家）、交通方式、日期、活动安排及参与者偏好等 —— 本质上，任何可能对未来参考或推理有价值的离散信息均可作为实体。

接下来，关系生成组件会挖掘这些实体间的有意义关联，构建一组关系三元组以捕捉信息的语义结构。该基于大语言模型（LLM）的模块会分析提取出的实体及其在对话中的上下文，识别具有语义重要性的关联。其工作原理是通过分析语言模式、上下文线索和领域知识，确定实体间的关联方式。对于每一对潜在的实体，该生成器会评估是否存在有意义的关联；若存在，则为该关联分配合适的标签（例如 “lives_in（居住于）”“prefers（偏好）”“owns（拥有）”“happened_on（发生于）”）。该模块采用提示工程技术，引导大语言模型对对话中的显式表述和隐式信息进行推理，最终生成构成记忆图谱中 “边” 的关系三元组，从而支持对相互关联信息的复杂推理。在整合新信息时，Mem0g 采用了复杂的存储与更新策略。对于每个新的关系三元组，我们会计算源实体和目标实体的嵌入向量，然后在现有节点中搜索语义相似度超过设定阈值 “t” 的节点。根据节点是否存在，系统可能会创建两个新节点、仅创建一个新节点，或直接使用现有节点，随后建立关联并添加相应元数据。为维持知识图谱的一致性，我们设计了冲突检测机制：当新信息传入时，该机制会识别现有关系中可能存在的冲突。基于大语言模型的更新解析器会判断某些关系是否应被标记为过时 —— 为支持时序推理，系统会将这些关系标记为无效，而非直接物理删除。Mem0g 的记忆检索功能采用 “双路径策略” 以实现最优信息访问：

实体中心路径
：首先识别查询中的关键实体，然后利用语义相似度在知识图谱中定位对应的节点，并系统地探索这些 “锚点节点” 的入边和出边关系，构建包含相关上下文信息的完整子图。
语义三元组路径
：采用更全局的视角，将整个查询编码为密集嵌入向量，再将该查询表示与知识图谱中每个关系三元组的文本编码进行匹配。系统会计算查询与所有可用三元组的细粒度相似度分数，仅返回超过可配置相关性阈值的结果，并按相似度从高到低排序。

这种双检索机制使 Mem0g 能同等高效地处理两类查询：一是以实体为核心的针对性查询，二是更宽泛的概念性查询。在实现层面，系统采用 Neo4j 作为底层图数据库；基于大语言模型的提取器和更新模块均使用具备函数调用能力的 GPT-4o-mini，可从非结构化文本中提取结构化信息。通过将基于图的表示方式、语义嵌入技术与基于大语言模型的信息提取相结合，Mem0g 既具备复杂推理所需的结构化丰富性，又拥有自然语言理解所需的语义灵活性。

3. 实验设置

3.1 数据集

LOCOMO 数据集（Maharana 等人，2024）专为评估对话系统的长期对话记忆能力而设计，包含 10 组超长对话 —— 每组对话平均包含约 600 轮交互、2.6 万个令牌（token），且分布在多个会话中。每组对话记录了两人之间关于日常经历或过往事件的讨论。在这些多会话对话之后，每组对话还附带约 200 个测试问题及对应的标准答案。这些问题分为多个类型：单跳问题（single-hop）、多跳问题（multi-hop）、时序问题（temporal）和开放域问题（open-domain）。该数据集原本还包含一个对抗性问题类别，用于测试系统识别 “无法回答” 问题的能力，但由于此类问题缺乏标准答案，且其预期行为仅为 “系统识别出无法回答”，因此在本研究的评估中剔除了该类别。

3.2 评估指标

我们的评估框架采用全面的评估方法，同时考量对话系统的长期记忆能力、响应质量与运行效率，将指标分为两类，共同实现对系统性能的全局理解。

（1）性能指标

以往对话式人工智能研究（Goswami，2025；Soni 等人，2024；Singh 等人，2020）主要依赖词汇相似度指标，如 F1 分数（F1）和 BLEU-1 分数（B1）。但在评估对话场景中的事实准确性时，这些指标存在明显局限：例如，若标准答案为 “Alice was born in March（爱丽丝出生于 3 月）”，而系统生成 “Alice is born in July（爱丽丝出生于 7 月）”—— 尽管月份存在关键事实错误，但由于 “Alice”“born” 等词汇重叠，传统指标仍会给出较高分数。这种局限性可能导致评估结果误导，无法反映语义层面的正确性。为弥补这一缺陷，我们引入 “LLM 作为评判者”（LLM-as-a-Judge，简称 J）作为补充评估指标。该方法利用一个独立且性能更强的大语言模型，从事实准确性、相关性、完整性、上下文适配性等多个维度评估响应质量。评判模型会分析问题、标准答案与系统生成答案，给出更贴合人类判断的精细化评估。由于 LLM-as-a-Judge 评估存在随机性，我们对每种方法在整个数据集上进行了 10 次独立实验，最终报告结果为平均值及 ±1 标准差。关于该指标的更多细节见附录 A。

（2）部署指标

除响应质量外，实际部署需求对 AI 智能体长期记忆的落地应用至关重要。我们通过以下指标系统跟踪部署性能：

token消耗
：采用 tiktoken 的 “cl100k_base” 编码方式，统计检索过程中提取的、用于作为回答查询上下文的token数量。对于基于记忆的模型，这些token代表从知识库中检索出的记忆；对于基于检索增强生成（RAG）的模型，这些token对应检索到的文本块总token数。这一区分十分关键，因为它直接影响运行成本与系统效率 —— 处理简洁的记忆事实与处理庞大的原始文本片段，其资源消耗差异显著。
延迟
：分为两类：① 检索延迟：在基于记忆的方案中，指搜索记忆的总时间；在基于 RAG 的方案中，指搜索文本块的总时间；② 总延迟：生成合适响应的总时间，包括检索时间（访问记忆或文本块）和利用大语言模型生成答案的时间。

这些指标间的关系揭示了系统设计中的重要权衡：例如，更复杂的记忆架构可能提升事实准确性，但会增加token消耗与延迟。我们的多维度评估方法，能帮助研究者与实践者根据具体需求做出合理决策 —— 无论是在关键应用中优先保证响应质量，还是在实时部署场景中优先考虑计算效率。

3.3 基准方案

为全面评估我们提出的方法，我们将其与六类不同的基准方案进行对比，这些方案代表了当前对话记忆系统的技术水平。这些多样化的基准方案共同构成了一个稳健的评估框架，可从事实准确性、计算效率、长对话扩展性等多个维度评估不同记忆架构的有效性。在适用情况下，除非另有说明，我们将温度参数（temperature）设为 0，以确保实验结果尽可能具有可复现性。

1. 已有的 LOCOMO 基准方案

我们首先以 LOCOMO 数据集为基础，对已有的基准方法进行评估，从而建立对比基准。这些方法包括五种成熟方案：LoCoMo（Maharana 等人，2024）、ReadAgent（Lee 等人，2024）、MemoryBank（Zhong 等人，2024）、MemGPT（Packer 等人，2023）以及 A-Mem（Xu 等人，2025）。这些已有的基准方案不仅能与已发表的研究结果直接对比，还代表了对话记忆架构在不同算法范式下的发展历程。在本次评估中，我们选择以 gpt-4o-mini 为评估模型的指标进行对比，有关这些基准方案的更多细节详见附录 C。

2. 开源记忆解决方案

第二类基准方案是具有潜力的开源记忆架构，例如 LangMem（热路径版本）。这类架构在相关对话任务中已展现出有效性，但尚未在 LOCOMO 数据集上进行过评估。通过将这些系统适配到我们的评估框架中，我们拓宽了对比范围，并挖掘出可能具备竞争力的替代方案。我们将大语言模型（LLM）初始化为 gpt-4o-mini，并采用 text-embedding-small-3 作为嵌入模型。

LangMem 参考链接：https://langchain-ai.github.io/langmem/

3. 检索增强生成（RAG）

作为基准方案之一，我们将完整的对话历史视为文档集合，并采用标准的 RAG 流程进行处理。首先，我们将每段对话分割为固定长度的文本块（文本块长度分别为 128、256、512、1024、2048、4096 和 8192 个令牌），其中 8192 是我们所用嵌入模型支持的最大文本块长度。为确保不同配置下向量质量的一致性，所有文本块均采用 OpenAI 的 text-embedding-small-3 模型进行嵌入处理。

在查询阶段，我们通过语义相似度检索出排名前 k 的文本块，并将其拼接作为生成答案的上下文。在整个实验过程中，我们将 k 值设定为 {1,2}：当 k=1 时，仅使用相关性最高的单个文本块；当 k=2 时，拼接两个相关性最高的文本块（最多 16384 个令牌）。我们未采用 k>2 的设置，因为此时检索到的文本块将覆盖平均长度为 26000 个token的完整对话，从而失去选择性检索的优势。通过改变文本块长度和 k 值，我们系统地评估了 RAG 在长期对话记忆任务中的性能。

4. 全上下文处理

我们采用一种直接的方法：将完整的对话历史传入大语言模型的上下文窗口。该方法利用模型自身处理序列信息的能力，无需额外的架构组件。尽管从概念上看十分简单，但随着对话长度的增加，这种方法会面临实际局限 —— 最终导致token成本和延迟显著上升。即便如此，它仍为我们提供了一个重要的参考基准，有助于理解 “复杂记忆机制” 相较于 “直接处理可用上下文” 所具备的价值。

5. 专有模型

我们评估了 OpenAI 在 ChatGPT 界面中提供的记忆功能，为保证一致性，特别采用 gpt-4o-mini 作为模型。我们将完整的 LOCOMO 对话与提示词（详见附录 A）一同输入单个聊天会话，促使模型生成包含时间戳、参与者姓名和对话文本的记忆。随后，这些生成的记忆被用作回答每段对话相关问题的完整上下文 —— 我们特意让 OpenAI 的方法能够 “特权访问” 所有记忆，而非仅获取与问题相关的记忆。这种评估方式主要是为了应对 OpenAI 系统缺乏外部 API 支持选择性记忆检索的问题，以满足基准测试的需求。

参考链接：https://openai.com/index/memory-and-new-controls-for-chatgpt/

6. 记忆管理平台

我们纳入了专为 AI 智能体设计的记忆管理平台 Zep（Rasmussen 等人，2025）。我们使用该平台的正式版本，在 LOCOMO 数据集上进行系统评估，并通过保留对话内容及对应的时间戳信息，确保时间维度的准确性。这种 “时间锚定” 机制能让系统在处理对时间敏感的查询时，通过适配上下文的记忆检索来获取答案，这对于评估需要时序认知能力的问题尤为重要。该基准方案代表了专为 AI 智能体设计的记忆管理技术在商业领域的重要实现案例。

表 1：各记忆增强系统在 LOCOMO 数据集不同问题类型上的性能对比

评估指标包括 F1 分数（F1）、BLEU-1 分数（B1）和 “LLM 作为评判者” 分数（J），数值越高表示性能越好。A-Mem∗代表我们重新运行 A-Mem 后得到的结果（将温度参数设为 0 以生成 “LLM 作为评判者” 分数）；Mem0g 代表我们提出的融合图记忆的增强型架构。粗体字表示所有方法中该指标的最佳性能；“↑” 表示 “数值越高越好”。

4.评估结果、分析与讨论

4.1 各记忆增强系统的性能对比

表 1 展示了我们提出的两种架构（Mem0 和 Mem0g）与第三节中提及的各类竞争性基准方案，在单跳、多跳、开放域和时序问题上的 F1、B1 和 J 分数。总体而言，在大多数问题类型中，我们的两种模型在所有三项评估指标上均达到了新的当前最优（state-of-the-art）水平。

（1）单跳问题性能

单跳查询需要定位包含在单个对话轮次中的单个事实片段。Mem0 凭借其基于自然语言文本的密集型记忆，取得了最优结果：F1=38.72、B1=27.13、J=67.13。而融合图记忆的增强版本（Mem0g）相较于 Mem0，性能略有下降，这表明当检索目标仅存在于单个对话轮次时，关系结构的作用有限。在现有基准方案中，采用全上下文处理的 OpenAI 模型取得了第二优的 J 分数，这体现了保留完整对话上下文的优势；而 LangMem 和 Zep 的 J 分数相较于我们的模型低约 8%。此外，A-Mem 等此前的 LOCOMO 基准方案在 J 分数上落后超过 25 分，这凸显出即便对于简单的检索任务，细粒度、结构化的记忆索引也至关重要。

（2）多跳问题性能

多跳查询需要整合分散在多个对话会话中的信息，这对记忆的整合与检索能力提出了巨大挑战。Mem0 在该任务中显著优于其他方法，F1 分数为 28.64，J 分数为 51.15，这体现了其高效检索并整合跨会话分散信息的能力。有趣的是，Mem0g 中添加的图记忆并未带来性能提升，这表明相较于单纯的密集型自然语言记忆，结构化图表示在复杂整合任务中可能存在效率不足或冗余问题。尽管 LangMem 等基准方案表现出一定的竞争力，但其分数仍显著低于 Mem0，这凸显了我们经过优化的记忆索引与检索机制在处理复杂查询时的优势。

（3）开放域问题性能

在开放域场景中，基准方案 Zep 取得了最高的 F1 分数（49.56）和 J 分数（76.60），以微弱优势领先于我们的方法。具体而言，Zep 的 J 分数（76.60）仅比 Mem0g（75.71）高 0.89 个百分点，比 Mem0（72.93）高 3.67 个百分点，这表明 Zep 在 “对话记忆与外部知识整合” 方面具备稳定（尽管微弱）的优势。Mem0g 仍是强有力的竞争者，其 J 分数（75.71）体现了较高的事实检索精度；而 Mem0 以 72.93 的 J 分数展现出稳健的连贯性。这些结果表明，尽管结构化关系记忆（如 Mem0 和 Mem0g 所采用的）显著提升了开放域检索性能，但 Zep 仍保持着微小但有意义的领先优势。

（4）时序推理性能

时序推理任务的核心是对对话历史中的事件序列、事件相对顺序及持续时间进行准确建模。我们的两种架构在所有指标上均展现出显著提升，其中 Mem0g 取得了最高的 F1 分数（51.55）和 J 分数（58.13），这表明 “结构化关系表示 + 自然语言记忆” 的组合能显著助力时序相关判断。值得注意的是，基础版本 Mem0 也取得了不错的 J 分数（55.51），这说明仅依靠自然语言记忆也能为时序判断提供一定支持。在基准方案中，OpenAI 的表现明显不佳，各项分数均低于 15%—— 主要原因是尽管我们明确提示 ChatGPT 生成包含时间戳的记忆，但大多数生成记忆仍缺失时间戳信息。尽管 A-Mem 等其他基准方案取得了尚可的结果，但我们的模型仍显著刷新了当前最优水平，这凸显出 “准确结合自然语言上下文与结构化图表示” 对于时序推理的关键优势。

4.2 跨类别分析

对不同问题类别的全面评估表明，我们提出的 Mem0 和 Mem0g 架构相较于基准系统，始终展现出更优的性能：

在单跳查询中，Mem0 凭借高效的密集型自然语言记忆结构，表现尤为突出。尽管 Mem0g 中的图表示在这些简单查询的词汇重叠指标上略有落后，但其 J 分数仍具备竞争力，这表明图结构在 “需要细微关系上下文” 的场景中更具价值，而非仅适用于直接检索任务。
在多跳问题中，Mem0 通过有效整合跨会话分散信息，展现出明显优势，这证明自然语言记忆足以为这类整合任务提供丰富的表示能力。令人意外的是，Mem0g 预期的关系优势并未转化为更好的结果，这暗示在多步推理场景中，导航复杂图结构可能存在额外开销或冗余。
在时序推理中，Mem0g 显著优于其他方法，这验证了结构化关系图在捕捉时序关系和事件序列方面的优势。显式的关系上下文显著提升了 Mem0g 的时序连贯性，使其性能超过 Mem0 的密集型记忆存储，这凸显出在跟踪时间敏感信息时，精确关系表示的重要性。
开放域性能进一步印证了关系建模的价值：Mem0g 借助图记忆的关系清晰度，与表现最佳的基准方案（Zep）展开了激烈竞争。这一竞争性结果表明，Mem0g 在 “通过关系清晰度整合外部知识” 方面具备稳健性，也体现了结构化记忆与开放域信息整合之间的最优协同效应。

表 2：各类基准方案与所提方法的性能对比

延迟测量结果展示了检索时间（获取记忆 / 文本块所需时间）和总时间（生成完整响应所需时间）的 50 百分位（中位数，p50）和 95 百分位（p95）数值（单位：秒）。整体 “LLM 作为评判者” 分数（J）代表各方法在整个 LOCOMO 数据集上生成响应的质量指标。

（a）不同记忆方法（Mem0、Mem0g、最优 RAG 变体、Zep、LangMem 和 A-Mem）在 p50（中位数）和 p95（第 95 百分位）检索延迟上的对比。柱状图高度代表 J 分数（左纵轴），折线图代表检索延迟（单位：秒，右纵轴采用对数刻度）。

术语补充说明：

search latency
：检索延迟，指从发起查询到获取目标记忆 / 文本块所需的时间，是衡量系统响应效率的关键指标。
p50 (median)
：第 50 百分位延迟，即中位数延迟，代表 50% 的检索任务耗时低于该值，反映系统的常规响应速度。
p95 (95th percentile)
：第 95 百分位延迟，代表 95% 的检索任务耗时低于该值，重点反映系统处理 “长尾耗时任务” 的能力，对服务稳定性至关重要。
J scores
：即 “LLM-as-a-Judge scores”（LLM 作为评判者分数），通过独立大语言模型从事实准确性、相关性等维度评估响应质量，分数越高表示性能越好。
log scaled
：对数刻度，当数据跨度较大（如部分方法延迟为 0.1 秒，部分为 60 秒）时，采用对数刻度可更清晰地展示数据差异，避免小值被大值 “掩盖”

（b）不同记忆方法（Mem0、Mem0g、最优 RAG 变体、Zep、LangMem、OpenAI、全上下文处理、A-Mem）在 p50（中位数）和 p95（第 95 百分位）总响应延迟上的对比。柱状图高度代表 J 分数（左纵轴），折线图代表端到端延迟（单位：秒，右纵轴采用对数刻度）。

图 4：不同记忆方法的延迟分析

这些子图展示了表 2 中所选各类方法的 J 分数与延迟对比。子图（a）重点呈现答案生成前的检索延迟，子图（b）则展示总延迟（含大语言模型推理时间）。两张图均叠加了各类方法的 J 分数，以便从准确性与效率两方面对方法进行整体评估。总体而言，我们的分析表明，Mem0 与 Mem0g 针对不同任务需求展现出互补优势：基于密集型自然语言的记忆在处理简单查询时效率极高，而对于需要精细时序与上下文整合的任务，显式关系建模则至关重要。这些发现进一步证实，在 AI 智能体部署中，针对特定推理场景设计具备适应性的记忆结构具有重要意义。

4.3 Mem0、Mem0g 与 RAG 方法及全上下文模型的性能对比

聚焦表 2 中 “整体 J 分数” 列的对比结果可见：无论 RAG 方法采用何种文本块长度（128–8192 个token）、检索 1 个（k=1）还是 2 个（k=2）文本块，Mem0 与 Mem0g 的性能均持续优于所有 RAG 配置。即便性能最优的 RAG 方法，其 J 分数峰值也仅约为 61%；而 Mem0 的 J 分数达到 67%（相对提升约 10%），Mem0g 则超过 68%（相对提升约 12%）。

这些优势凸显了 “仅在记忆中存储最关键事实” 相较于 “检索大块原始文本” 的核心价值：Mem0 与 Mem0g 将对话历史转化为简洁的结构化表示，既减少了噪声干扰，又为大语言模型（LLM）提供了更精准的线索 —— 这一点在外部 LLM（即 J 分数评判模型）的评估中得到了验证，表现为更优的答案质量。

尽管取得了上述提升，“将约 2.6 万个token的文本块全量输入” 的全上下文方法，仍能实现最高的 J 分数（约 73%）。但如图 4（b）所示，该方法的 p95 总延迟也极高（约 17 秒）—— 原因在于模型每次处理查询时，都必须读取完整对话内容。相比之下，Mem0 与 Mem0g 通过大幅减少token使用量，其 p95 总延迟分别降至约 1.44 秒（较全上下文方法降低 92%）和 2.6 秒（降低 85%）。

尽管全上下文方法在准确性上略有优势，但基于记忆的系统（Mem0、Mem0g）实现了更具实用性的权衡：在保持接近最优准确性的同时，仅需消耗全上下文方法一小部分的token与延迟成本。随着对话长度增加，全上下文方法的计算开销会呈指数级增长（表 2 中可见，当 k 值或文本块长度增大时，p95 总延迟显著上升）—— 输入文本块的增加会导致响应时间延长与token消耗成本升高。与之相反，Mem0、Mem0g 等聚焦记忆的方法，无论对话长度如何变化，均能保持稳定性能，因此在对效率与响应速度有高要求的生产级部署中，具备更强的实用性。

4.4 延迟分析

表 2 对 LOCOMO 数据集上各类检索与记忆方法的性能进行了全面对比，呈现了检索阶段与总响应生成阶段的中位数延迟（p50）和长尾延迟（p95）。分析结果表明，架构设计的差异会导致截然不同的性能表现，以下为各类记忆中心型架构的性能特点：

A-Mem
：尽管存储的记忆量较大，但检索开销显著（p50：0.668 秒），导致总中位数延迟达 1.410 秒；
LangMem
：检索延迟极高（p50：17.99 秒，p95：59.82 秒），无法用于交互式应用；
Zep
：性能中等，总中位数延迟为 1.292 秒；
全上下文基准方法
：无需检索，直接处理完整对话历史，与基于检索的方法存在本质区别。该方法将包含 2.6 万个token的完整对话上下文直接输入大语言模型，虽消除了检索开销，但总延迟极高（p50：9.870 秒，p95：17.117 秒）；
OpenAI 方案
：不涉及记忆检索，仅处理从其平台手动提取的记忆。尽管该方法的响应生成速度出色（p50：0.466 秒，p95：0.889 秒），但需预先提取相关上下文 —— 这一环节的成本并未体现在报告的指标中。

如图 4（a）所示，本文提出的 Mem0 方法在所有方法中实现了最低的检索延迟（p50：0.148 秒，p95：0.200 秒）。这种高效性源于其 “选择性记忆检索机制” 与底层优化：系统会动态识别并仅检索最关键的信息，而非固定长度的文本块。因此，Mem0 不仅保持了最低的总中位数延迟（0.708 秒），p95 延迟也控制在极低水平（1.440 秒），特别适用于交互式 AI 智能体等对延迟敏感的应用场景。

融合图结构的增强版 Mem0g，虽为获得额外的关系建模能力增加了适度延迟（检索延迟 p50：0.476 秒），但其检索速度仍优于所有现有记忆解决方案与基准方案。尽管延迟有所上升，Mem0g 仍保持了具备竞争力的总延迟（p50：1.091 秒，p95：2.590 秒），同时实现了所有方法中最高的 J 分数（68.44%）—— 仅落后于计算成本极高的全上下文方法。这一性能表现证明，本文提出的方法能够在响应质量与计算效率之间实现平衡，为 “准确性与效率均为关键约束” 的生产级 AI 智能体提供了极具吸引力的解决方案。

4.5 记忆系统开销：token分析与构建时间

我们对各系统构建长期记忆库所需的平均token成本进行了测量，结果如下：

Mem0
：以自然语言形式编码完整对话轮次，平均每个对话仅需占用 7000 个令牌；
Mem0g
：因引入包含节点及对应关系的图记忆，token占用量约为 Mem0 的 2 倍，达 1.4 万个令牌；
Zep
：记忆图的token消耗远超上述两者，超过 60 万个token。这一巨大开销源于 Zep 的设计选择 —— 在每个节点缓存完整的抽象摘要，同时在连接边上存储事实信息，导致图中存在大量冗余。作为参考，即便将未经记忆抽象的完整原始对话上下文输入语言模型，平均也仅需约 2.6 万个令牌，仅为 Zep 记忆图令牌消耗的 1/20。

除token效率低下外，实验还发现 Zep 存在显著的运行瓶颈：向 Zep 系统添加记忆后，立即执行记忆检索往往无法正确回答查询；而在数小时后重新运行相同检索，结果则会显著改善。这一延迟现象表明，Zep 的图构建过程涉及多次异步大语言模型调用与大量后台处理，导致其记忆系统无法用于实时应用。与之相反，即便在最坏情况下，Mem0 的图构建也能在 1 分钟内完成，用户可立即利用新添加的记忆响应查询。

这些发现表明，Zep 不仅会在多个节点间重复存储相同知识片段，还会引入显著的运行延迟。而本文提出的 Mem0 与 Mem0g 架构，仅需消耗极少的token成本就能保留相同信息，且记忆可用速度大幅提升，为 AI 智能体提供了 “记忆效率更高、运行响应更快” 的表示方案。

5. 结论与未来工作

本文提出了两种互补的记忆架构 Mem0 与 Mem0g，有效克服了大语言模型（LLM）中固定上下文窗口的固有局限：

Mem0 通过动态提取、整合与检索简洁的记忆表示，在单跳与多跳推理任务中实现了当前最优（state-of-the-art）性能；
Mem0g 则通过基于图的扩展，在时序与开放域任务中实现了显著性能提升。

在 LOCOMO 基准测试中，本文方法在单跳、时序、多跳推理问题上，相较于各类问题中性能最优的基准方法，分别实现了 5%、11%、7% 的相对提升；同时，相较于全上下文基准方法，p95 延迟降低了 91% 以上 —— 充分证明了其在准确性与响应速度之间的出色平衡。

具体而言，Mem0 的密集型记忆流水线擅长快速检索简单查询，可最大限度减少token使用与计算开销；Mem0g 的结构化图表示则能提供精细的关系清晰度，在不牺牲实用效率的前提下，支持复杂事件排序与丰富上下文整合。两者共同构成了一套灵活的记忆工具集，既能适配多样化的对话需求，又可实现规模化部署。

未来的研究方向包括：

优化图操作以降低 Mem0g 的延迟开销；
探索兼具效率与关系表示能力的分层记忆架构；
借鉴人类认知过程，开发更复杂的记忆整合机制；
将现有记忆框架扩展到对话之外的领域（如过程推理、多模态交互），进一步验证其广泛适用性。

通过解决固定上下文窗口的根本局限，本文工作为构建 “能像人类一样，在长时间内维持连贯、富含上下文交互” 的对话式 AI 系统，迈出了重要一步。

OK, 文章讲解就到在这里了，最后总结一下本文的要点：

这篇文档主要讲了一种能让 AI 拥有 “长期记忆” 的技术 ——Mem0（以及它的增强版 Mem0g），解决了现在 AI 聊天时 “记不住事” 的大问题，让 AI 能像人一样长时间保持对话连贯，还适合实际生产使用。

先搞懂背景：现在的 AI（比如用大语言模型 LLM 做的聊天机器人）有个大缺点 ——“记性差”。它们的 “记忆” 只能存在一个固定的 “上下文窗口” 里，比如只能记住最近几百、几千句话。要是对话跨上好几天，或者中间聊了很多无关内容，之前说过的关键信息（比如用户说自己是素食者、对牛奶过敏）就会被 “忘掉”，后续回答可能矛盾（比如推荐带肉的菜），严重影响体验。就算有些模型把 “记忆窗口” 调大，也会变慢、变贵，而且无关信息太多还会干扰判断。

然后是核心解决方案：Mem0 和 Mem0g—— 给 AI 装 “智能记忆库”
研究团队设计了两种 “记忆架构”，本质是让 AI 能主动 “提取重要信息、整理储存、需要时精准拿出来”，而不是一股脑记所有内容：

1. 基础版 Mem0：让 AI “会挑重点记”

它的工作分两步，像人整理笔记一样：

提取阶段
：每次对话（比如用户说 “我吃素，不喝牛奶”+AI 回复）后，AI 会结合两部分信息 —— 一是整个对话的 “总 summary（摘要）”，二是最近的几条聊天记录，从中挑出关键信息（比如 “用户：素食，忌牛奶”），生成 “候选记忆”。
更新阶段
：AI 会把新挑出的 “候选记忆” 和已有的旧记忆对比（比如之前有没有记过用户的饮食偏好），然后做 4 种操作：没记过就 “新增”、有补充信息就 “更新”（比如用户后来加一句 “还不吃辣”）、有矛盾就 “删除”（比如用户改主意了）、重复就 “不操作”。这样记忆库始终干净、准确，没有冗余。

2. 增强版 Mem0g：让 AI “会记关系”

Mem0 是把信息当 “句子” 记，Mem0g 则更进一步 —— 把信息建成 “关系图”：

比如用户说 “我上周和小明去北京玩了”，Mem0g 会拆成 “节点”（用户、小明、北京、上周）和 “关系”（用户 - 和小明 - 去 - 北京，时间 - 上周），像画思维导图一样储存。
这样的好处是，遇到需要 “连串推理” 的问题（比如 “我和谁去过北京？什么时候去的？”），AI 能顺着关系图快速找到答案，尤其在需要理清时间顺序、人物关联的场景里更有用。

接下来是实验：证明 Mem0 真的好用
研究团队用了一个叫 LOCOMO 的数据集（里面有 10 组超长对话，每组跨多个会话，还有 200 个测试问题），把 Mem0/0g 和 6 类主流 “记忆方案”（比如传统的 RAG 检索、能记全对话的 “全上下文” 模型、OpenAI 的记忆功能等）比了比，结果很明显：

记的更准
：在 “单问题”（比如 “用户上次说喜欢什么？”）、“多步推理”（比如 “用户和小明去北京后，又去哪了？”）、“时间相关”（比如 “用户什么时候去的北京？”）等任务里，Mem0/0g 的正确率都比其他方案高。比如 Mem0 比 OpenAI 的记忆功能在 “LLM 评分”（用更强大的 AI 判对错）上高 26%，Mem0g 在时间类问题上表现更好。
速度更快、成本更低
：对比 “记全对话” 的方案，Mem0 的延迟（等待回答的时间）降低 91%，用的 “ tokens（AI 处理文本的基本单位，越多用钱越多）” 减少 90% 以上。比如全对话方案回答要等 17 秒，Mem0 只要 1.4 秒，还不浪费钱。

最后总结：Mem0 解决了 AI “长期记忆” 的痛点，让 AI 从 “聊完就忘” 变成 “能长期记住用户偏好、对话细节”，而且又快又便宜，能实际用到生产里（比如客服机器人、私人助手）。未来还想优化 Mem0g 的速度，或者让 AI 的记忆像人一样有 “层次”（比如重要的记牢、不重要的慢慢忘）

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

一直在更新，更多的大模型学习和面试资料已经上传带到CSDN的官方了，有需要的朋友可以扫描下方二维码免费领取【保证100%免费】👇👇