1、对话结束后,Agent怎样继续记住用户?

要想让Agent能够跨会话提供个性化服务,就需要一层持久的用户记忆。具体方法就是使用额外的LLM调用提取、压缩并审查对未来有用的事实。

提取的结果应满足:选择性(丢弃用户说的返回3个选项这类短期的细节)抽象化(选座时候的靠窗座位归纳为长期偏好)结构化(用可检索的字段保存事实)

2、怎样判断Agent的记忆系统是真的好?

采用三层次的评估框架进行衡量:

(1)基础回忆:也是记忆系统最根本的,要求Agent能准确存储和检索用户直接提供的、结构化的、无歧义的信息。例如我的id是程序员木子;

(2)多会话检索:Agent必须在面对来自不同对象、不同时期的多段会话时能检索出所有相关信息并推理判断。例如取消某次旅行时需要理解这是一个复合事件,主动关联所有的相关预定;

(3)主动服务:要求系统综合来自多个会话、甚至很久之前的消息,提供有预见性的主动帮助,从看似无关的记忆中发现深层联系。例如预定一个国际航班时主动关联数月前存储的护照信息,发现即将到期并发出预警(就是说在没有明确指令的情况下,主动规避潜在问题和整合复杂信息)

3、记忆系统该存什么,用户记忆又该怎样存?

首先看记忆层次:

(1)存轨迹

轨迹是一次Agent运行过程中的完整历史记录,记录着从对话开始到当前时刻的所有事件,按照时间排序并且只增不改。(为控制长度【上一节有说】,每轮实际发送给模型的运行时context可以经过压缩、重组或者用摘要替换部分历史;这里说的只增不改描述的是用于追溯、调试或审计的原始事件记录,类似于本地的消息)

轨迹在磁盘上不动;每轮请求从轨迹派生出一个视图发出去;缓存的是这个视图的前缀。视图不压缩时,上一轮缓存全命中,只算新增;视图变了(压缩)时,缓存命中范围收缩到压缩点之前,压缩点之后重算,缓存就失效一部分;轨迹变了没有直接影响,除非下一次派生的视图因此不同。

轨迹是单次会话的完整原始记录,按照时间顺序追加且不修改;接下来说的用户长期记忆则是跨会话提炼出来的稳定信息,会被反复改写、合并、淘汰。

(2)存用户长期记忆

这是跨会话、跨实例的持久化存储,通常以键值对的形式与特定用户ID进行绑定。Agent通过特定工具调用显式读取和更新长期记忆,实现跨会话的个性化和连续性。

以上的两种分层设计既保证 Agent 高效处理当前任务(依赖轨迹),又使其具备长期个性化能力(依赖长期记忆)。

再看四种存储格式:

用户记忆四种存储格式

 

①Simple Notes

极简主义设计,每一条记忆都是一个最小的、不可再分的事实(原子性)比如用户的邮箱:abc123.com;优势是开销极低,但是信息的关联性完全丢失(一句信息被划分为好几个独立的事实,他们的内在联系被割裂)

②Enhanced Notes

采用整体视角,将每条记忆保存为包含完整上下文的段落。示例见上图,这种表述保留了信息的叙事结构,确保语义完整且丰富,代价是存储冗余、更新复杂(属性变化得重写多个段落)。

③JSON Cards

采用三层嵌套结构(类别->子类别->键值对,例如work.position.title)支持部分更新,可预测且可扩展。但是并不适合所有的用户记忆存储,强制归入单一类别会丢失多维性。

④Advanced JSON Cards

代表了记忆系统从信息存储到知识管理的范式转变。每张卡片不仅记录事实还加入了信息来源的叙事背景、主体身份、与用户的关系和时间戳。(同一条信息在不同场景下可能具有完全不同的含义)这也解决了传统系统的消岐问题:真实场景中,用户有多个身份,简单的键值无法准确区分。

最后看认知类型:

把记忆分为工作记忆和长期记忆,工作记忆对应Agent的上下文窗口,用于处理当前任务的临时信息空间(轨迹+从长期记忆中激活加载的信息)。长期记忆则分为以下三种类型:

①情景记忆:关于具体事件和经历的记忆,记录一件具体事件的时间、对象和细节;

②语义记忆:从具体事件中抽象出来的一般性知识,这不是某次对话的记录而是从多次交互中提炼出的稳定特征;

③程序记忆:关于行为模式和流程的记忆,从用户反复处理某件事中学到的通用流程。

4、Mem0和Memobase怎样管理记忆?

前面说的内容最终还得落实到工程实现上,记忆管理框架以mem0和memobase为例:

(1)Mem0:从写入时消岐到检索时推理

最新一版(2026年4月)把冲突处理放在了检索阶段。对话结束后,LLM抽取候选事实,系统再用向量检索找到相近的已有记忆,只做ADD。比如之前说我住在北京,后来又说我在上海,会把两者作为带时间信息的两条事实并存,查询时系统融合语义相似度、BM25关键词与实体匹配,并结合时间信息排序。

(2)Memobase:用户画像与事件记忆

它将用户记忆组织为两部分:①用户画像:一组可由开发者配置的槽位,按照主题-子主题两级组织(base_info->姓名,interest->兴趣爱好)存放从对话中提取的稳定用户属性,开发者也能精准控制画像的范围和粒度。②事件记忆:按照时间线记录用户经历的事件。memobase采用缓冲批处理策略,对话先在缓冲区累积,达到一定规模或时限后统一触发记忆提取。

5、记忆越来越多,怎样整理才不会越存越乱?

随着交互的进行,记忆系统面临存储空间和检索效率的挑战,可以采用多层次的记忆压缩策略:

(1)重要性评分筛选

可以考虑综合访问频率(经常被检索的记忆更重要)时间衰减(越久远的记忆越容易被遗忘)情感强度(有强烈情感标记的记忆更易保留)和信息独特性(重复信息重要性降低),低于阈值的记忆标记为可压缩或可删除。

(2)聚类

相似记忆被分组,每一组生成代表性摘要(比如多次的天气对话压缩为“用户经常询问天气,尤其关注降雨”)详细的记忆可存档到二级存储。

(3)抽象和泛化

从具体情景记忆中提取一般性规律,转化为语义或程序记忆。(从多次购物对话中学习到用户偏好性价比高的产品,更重视他人的评价)

6、记住用户的同时,怎样处理敏感信息?

构建了用户记忆系统后,不但要让Agent利用用户信息提供个性化服务,又不能让敏感数据暴露在LLM上下文和系统日志中。

①正则表达式识别;②基于LLM的脱敏识别

Logo

更多推荐