短期上下文(记住这轮对话)好做,难的是长期记忆——让 Agent 跨会话记住"这个用户上次问过啥、有啥偏好、是老客户"。做个性化服务,这步躲不开。但一不小心就踩隐私的雷。说说我的做法和顾虑。

长期记忆怎么存

全部历史对话都塞回去?又贵又乱,没必要。我的做法是提炼成结构化的"用户档案":偏好、历史关键事项、标签。每次对话时,把这个用户的档案作为背景喂给 Agent,它就"记得"了。

新对话产生的关键信息,再回写更新档案。等于给每个用户维护一份不断更新的小档案,而不是堆原始聊天记录。

落地

我用讯飞星辰搭对话 Agent,长期档案存在我自己的数据库里:对话前查档案塞进上下文,对话后提取要点更新档案。Agent 负责"理解和提取",存储和调度在我自己服务这层。

隐私这道坎(重点)

  • 明确告知 + 授权:要长期记用户信息,得让用户知道、且同意。

  • 最小化:只存服务必需的,别什么都记。敏感信息能不存就不存,要存就脱敏。

  • 可删除:用户要求删除档案,得能删干净。

  • 别拿来干用户没预期的事,记住偏好是为了服务,不是为了别的。

  • 档案会过时,偏好变了要更新,别拿一年前的标签服务现在的用户。

  • 提取会出错,把临时需求记成长期偏好就尴尬了,关键档案变更可以加确认。

长期记忆能让服务更贴心,但隐私这根弦得绷紧——它是双刃剑。档案结构和更新逻辑我放评论区了。你们做用户记忆这块怎么平衡隐私的?

更多推荐