目录

一、一个让 Agent 当场露馅的问题

二、默认方案为什么必然失效

三、第一条线:差异化衰减,让重要性决定半衰期

四、第二条线:冲突解决,先分清「状态变更」还是「真实矛盾」

五、过期不等于删除:我为什么坚持用失效标记

六、工程上真正会翻车的地方

6.1 后台治理和在线检索抢同一份数据

6.2 合并错误:相似不等于可以合并

6.3 衰减调参:太激进比不衰减更糟

七、判断一套记忆方案好不好,我问四个问题

八、我会怎么落地

九、小结


一、一个让 Agent 当场露馅的问题

半年前用户说"我搬到上海了",今天问"周末去哪玩",Agent 推的全是北京景点。这不是模型不够聪明,是它的记忆系统把两件完全不同的事混成了一件:旧记忆过期了,但旧记忆没有错。它当时确实住在北京。

很多人的第一反应是"定期清理旧数据"。这个方案听起来有道理,但很快会撞上第二个例子:用户两年前随口说过"我对花生过敏",这条记忆也被无差别清理掉了。一条是早期状态的正确记录,一条是长期有效的硬约束,它们的过期机制根本不该一样。

所以我判断一套 Agent 记忆系统是否真的可用,不看它存了多少条、向量库多快,而看它有没有把"记忆"当成有生命周期的对象来管:什么时候写入、按什么速率衰减、新旧冲突怎么判、旧事实是标记失效还是直接抹掉、后台治理会不会干扰在线读取。这五件事,构成了我下面要拆的整条链路。

二、默认方案为什么必然失效

绝大多数 Agent 的记忆模块默认是只追加(append-only)的:新信息直接写进去,不做冲突检测,也不做衰减,新旧记忆平权地躺在同一个库里;检索时按 embedding 相似度排序,谁被召回完全取决于语义匹配度。

这套设计在短期 demo 里看不出问题,跑上几个月就会暴露一个正反馈:被反复召回的记忆,往往会被继续召回。因为它在对话里出现过、被引用过,如果系统顺手把"引用次数"或者"最后访问时间"当成某种加权信号,这条旧记忆的权重就会一路走高。而新写入的记忆没有任何历史,权重天然更低。结果就是新事实被旧事实压住,越用越顽固。

图 1:只追加的系统里,检索行为本身在给旧记忆加权,形成「越用越顽固」的正反馈

这时候再去无差别清理,就走到另一个极端:删掉的不只是过期状态,还有"对花生过敏"这种长期有效的硬约束。所以这个问题的正确答案不是"存得更多"或者"删得更狠",而是让不同类型的记忆有不同的生命周期。我把这个能力拆成两个机制:差异化衰减,和冲突解决。

图 2:写入、治理、使用三段分开,治理层异步跑;检索命中反过来给衰减打分提供强化信号

三、第一条线:差异化衰减,让重要性决定半衰期

衰减这件事的关键词是"差异化"。如果所有记忆用同一个衰减速率,那就等于换了个说法的定期清理。我要的是每条记忆有自己的半衰期:过敏这种约束几乎不衰减,一次性兴趣几天就淡出。

我用的保留强度公式大体是「指数衰减 + 访问强化」两部分:保留强度由重要性换算出的时间常数控制,再叠加一个随访问次数对数增长的加成。重要性越高,时间常数越大,半衰期越长。

import math
from datetime import timedelta

TAU_BASE = timedelta(days=90)   # 基准半衰期

def retention(mem, now):
    """返回 0~1 的保留强度,importance 越高衰减越慢"""
    imp = min(max(mem.importance, 0.05), 1.0)
    tau_days = TAU_BASE.days * (1 + 9 * imp)     # 重要性 1.0 → 半衰期放大 10 倍
    idle = (now - mem.last_access).total_seconds() / 86400
    decay = 0.5 ** (idle / tau_days)             # 半衰期形式的指数衰减
    access_bonus = 0.15 * math.log1p(mem.access_count)  # 被用过就抬一点
    return min(1.0, decay + access_bonus)

这个形式不是我拍脑袋想的,它和认知科学里的遗忘曲线是同一族。更贴近人脑的一个变体是 ACT-R 的基础激活模型:一次激活强度是对所有历史访问时间的幂律求和,间隔重复天然被算进去——同一条事实被在多个分散的时间点提起,它的激活就比一次性提起高得多。我在实际系统里用的就是它的简化版:不在写入时算死权重,而是在每次访问时追加一条时间戳,检索时按时间戳序列算分值。

图 3:差异化衰减的本质,是给每条记忆一个自己的半衰期,而不是全局调一个淘汰阈值

剩下的工程问题是:重要性谁来打?我的做法是三层叠加——写入时用一个轻量模型给记忆打类型标签和初始分值(是硬约束、是偏好、是一次性状态,还是闲聊),规则层再做校正(涉及健康、法律、金额的自动上调),用户显式说的"这个要记住"直接拉到最高并关闭衰减。三层里最可靠的其实是最后一条:用户明确要求记住的东西,就该给出接近永久的保留强度。

四、第二条线:冲突解决,先分清「状态变更」还是「真实矛盾」

衰减解决的是"该不该还留着",冲突解决解决的是"两条都在,信哪条"。很多人脑子里只有一个粗糙的印象:新的覆盖旧的。但真实情况要细得多,因为新旧两条关系有四种可能,动作完全不同。

  • 状态变更:用户两年前住北京、半年前搬到上海。两条都对,只是有效期不同。动作是给旧记录打上失效时间,不删除。
  • 真实矛盾:一条说对花生过敏,另一条说不过敏。这是硬冲突,不能靠"谁新信谁"自动裁决,必须告警,交给人工或更高置信度的信号(比如用户明确确认、权威数据源)。
  • 补充累加:新信息不否定旧的,只是在它上面加细节("我喜欢咖啡" → "我只喝美式")。动作是合并成一条更完整的记忆。
  • 重复:同一事实换个说法又说了一遍。动作是去重并刷新时间戳,顺便提升它的保留强度。

这四类里,最容易出错的是把"状态变更"当"真实矛盾"处理——因为一旦当成矛盾,系统就会停下来等人工,或者更糟,两条都标脏、都不再返回,于是用户问"我之前住哪儿"Agent 就答不上来。反过来把"真实矛盾"当"状态变更",系统会安静地把一条重要约束覆盖掉,这种错误在医疗、金融场景里是致命的。

图 4:四类关系的动作完全不同,模型只负责判类,动作由代码执行并可审计

实现上我坚持让模型输出结构化 JSON,而不是让它直接改数据:模型只做判定,动作由代码执行。这样每一次覆盖、每一次标记都可审计,出问题能回放。

{
  "relation": "state_change",          // state_change | contradiction | augmentation | duplicate
  "confidence": 0.86,
  "reason": "用户在 2024-11 之后明确表示已搬到上海,属于居住地状态变更",
  "action": "supersede",               // supersede | alert | merge | dedupe
  "effective_from": "2024-11-03"
}

五、过期不等于删除:我为什么坚持用失效标记

"旧记忆标记过期但不删除"这句话,很多人听完会觉得是保守——都已经过期了,留着不是占空间吗?我的判断正好相反:删除丢掉的是信息,标记丢掉的只是权重。

保留旧记录至少有三个不可替代的价值:用户问"我之前住哪儿",能答;冲突判定错了导致误标,能回滚;审计和排障时,能还原当时的上下文。而且存储成本在今天几乎可以忽略——一条记忆几百字节,一个人的历史状态变更撑死几百条。

真正需要改的是检索:把"已失效"从默认结果里过滤掉,而不是从库里抹掉。工程上就是给每条记忆加两个维护字段:valid_from / valid_to(事实在真实世界里何时成立),以及 recorded_at / superseded_by(系统何时记录、被哪条替代)。这其实就是数据库里的双时间建模(bitemporal),只不过搬到记忆库上。

图 5:双时间建模让「当前状态」和「历史状态」共存,检索按时间窗切,而不是按删除标记切

落到查询上,过滤条件就是一句话:只召回 valid_to IS NULL OR valid_to > now 的记录。想支持"我之前住哪儿"这类回溯问题,把时间窗开到过去就行——同一份数据,两个视图。

六、工程上真正会翻车的地方

前面两个机制讲清楚之后,实现上还有三个坑,我在项目里都踩过。

6.1 后台治理和在线检索抢同一份数据

衰减打分、合并、打失效标记,这些都是后台异步任务。如果它一边改、在线一边读,用户就可能读到"删了一半"的中间状态:两条地址都在、或者都不在。这种偶发的幻觉极难复现,排查成本很高。

我的解法是给记忆库加版本:后台任务在副本上改完,生成新版本号,然后原子切换;在线检索永远指向某个完整版本,读不到中间态。这套东西在数据库里叫 MVCC,在记忆系统里我一般用"版本号 + 写时复制"的简化实现。

图 6:版本隔离把「异步治理」和「在线准确性」这两个互相打架的目标同时满足

6.2 合并错误:相似不等于可以合并

我遇到过一个典型事故:用户先说"预算不超过 5000",后来又说"预算可以到 10000"。系统按相似度把这两条融合成一条"预算 5000~10000",语义直接变了。合并的前提是关系判定为"补充"或"重复",而不是"看起来像"。反过来,如果两条是状态变更,合并就是灾难——你再也分不清哪条是当前的。

6.3 衰减调参:太激进比不衰减更糟

衰减速率设得太狠,用户三个月前说过"不喜欢这个品牌",被提前遗忘了,Agent 转头又给他推荐这个品牌。这种体验损伤比"记得太多"严重得多,因为它直接违背用户的显式表达。所以我的默认策略是宁可保留久一点:先只对低重要性的闲聊类记忆激进衰减,硬约束和偏好先用很长的半衰期,等观察到线上指标再用离线回放把参数往下压,而不是一上线就压到最紧。

坑现象根因我的处理
衰减过激三个月前的偏好被遗忘,推荐用户讨厌的东西全局用一套半衰期按重要性分档,先保守后收紧
冲突误判状态变更被当矛盾,旧记忆被误删只比新旧,不看语义关系LLM 判类 + 结构化输出 + 可审计
错误融合5000 和 10000 被合成 5000~10000按相似度直接合并合并前必须过关系判定
读到中间态两条地址同时出现或同时消失后台改写与在线读并发版本号 + 写时复制 + 原子切换

七、判断一套记忆方案好不好,我问四个问题

市面上讲 Agent 记忆的方案很多,我评估的时候不看它用哪个向量库,只问四件事:

  1. 衰减速率是不是按重要性自适应的? 如果全库一个阈值,那它就是定期清理换了个名字。
  2. 冲突解决有没有区分状态变更和真实矛盾? 如果只有"新的覆盖旧的",那你遇到矛盾时一定会静默丢数据。
  3. 旧事实是失效标记还是物理删除? 删除之后,回溯类问题和误标回滚都没法做。
  4. 异步任务和在线检索有没有做并发隔离? 没有的话,偶发幻觉会一直存在,而且极难复现。

这四问之所以能区分"真做过"和"背过",是因为它们都指向线上才会暴露的细节:调参的经验、误判的代价、回滚的需求、并发的坑。答得出"我按重要性分了四档半衰期,硬约束那档基本不衰减",和答"我们会做记忆衰减",是两种完全不同的人。

八、我会怎么落地

顺序很重要,我建议按这个次序推,因为前两步是后两步的前提:

步骤动作成本先做的理由
1给记忆加 valid_from / valid_to / recorded_at / importance 四个字段1 人天 + 迁移没有元数据,后面衰减和冲突都无从谈起
2检索层过滤已失效记录半天立刻消除"旧状态霸榜",风险最低收益最直接
3引入 LLM 冲突判定(结构化输出 + 告警队列)2~3 人天解决新写入的污染,从源头止住错误累积
4上差异化衰减打分,先只对低重要性生效2 人天此时元数据齐了,调参才有依据
5版本隔离 + 指标闭环(过期记忆误召回率、冲突误判率)3 人天上线后靠数据反向校正半衰期

顺序反了会怎样?我见过最典型的反例是先上衰减:没有 importance 字段,只能用全局阈值,于是先丢了一批数据,才发现丢错了,还找不回来。这类事故的修复成本远高于多花两天补元数据。

九、小结

把整条链路压成五句话:

  1. 默认方案必然失效:只追加 + 只按相似度排序,会让旧记忆越用越顽固,新事实被永久压住。
  2. 衰减要差异化:重要性决定半衰期,硬约束接近永久,一次性兴趣几天淡出,访问频率作为强化项。
  3. 冲突要先分类:状态变更、真实矛盾、补充、重复,四类四种动作,判类交给模型、执行交给代码。
  4. 过期不等于删除:用 valid_to 标记而不是物理删除,检索按时间窗过滤,历史视图另开。
  5. 工程细节决定成败:版本隔离避免读到中间态,合并必须过关系判定,衰减参数先保守后收紧。

至于这套东西用在哪,我的判断是三类场景收益最大:长期客服 Agent(用户信息反复变更)、个人助理(偏好多、约束硬)、多会话企业 Agent(同一用户在不同会话里说的话要能对上)。反过来,如果是一次性问答、无状态工具调用,硬套记忆系统只会增加噪声。

最后一句我的体会:Agent 的记忆管理,难点从来不在"怎么存",而在"怎么忘、怎么改、怎么证明自己没记错"。把这三个问题回答清楚,长期记忆才算真的做完了。

Logo

更多推荐