一句话定义

---

Agent 记忆系统 = 让 AI 像人一样，把「刚刚发生的」「学过的」「长期积累的」分层管理。

类比：人类的记忆分三层——工作记忆（当前对话的上下文，几分钟内）、情节记忆（某件具体的事，比如「上周我们讨论过 XX 方案」）、语义记忆（知识图谱，比如「TypeScript 的类型系统是这样的」）。

AI 的记忆系统设计和这个完全对应：

人类记忆	Agent 对应	实现方式
工作记忆	短期记忆	Context Window（消息列表）
情节记忆	长期记忆	向量数据库（语义检索）
语义记忆	知识图谱	结构化知识存储（图数据库）

---

第一层：短期记忆——Context Window 的正确用法

---

短期记忆就是 Context Window 里的消息列表，但原样塞满不是最优解。

大多数开发者的实现是直接追加：

// ❌ 原始实现：无脑追加，必然 OOMconstmessages: Message[] = [];asyncfunctionchat(userInput: string) {  messages.push({ role: "user", content: userInput });const response = await llm.invoke(messages); // 越来越长，最终爆 context  messages.push({ role: "assistant", content: response.content });return response.content;}

问题很明显：聊 20 轮之后，Context Window 满了，要么报错，要么模型开始"遗忘"早期内容。

正确做法：滑动窗口 + 摘要压缩，保留近期上下文的同时不丢失历史。

import { ChatOpenAI } from"@langchain/openai";import { SystemMessage, HumanMessage, AIMessage } from"@langchain/core/messages";const llm = newChatOpenAI({ model: "gpt-4o-mini" });// 核心：动态管理消息列表asyncfunctionmanageHistory(history: Message[],  maxTokens = 4000): Promise<Message[]> {const currentTokens = estimateTokens(history);if (currentTokens <= maxTokens) {    return history; // 还没满，原样返回  }// 保留最近 10 条（5轮对话），防止丢失即时上下文const recent = history.slice(-10);const older = history.slice(0, -10);// 用模型压缩历史，比规则截断效果好 30%const summary = await llm.invoke([    newSystemMessage(      "将以下对话历史压缩成 200 字以内的摘要，保留关键决策、用户偏好和重要结论"    ),    newHumanMessage(      older.map((m) =>`${m.role}: ${m.content}`).join("\n")    ),  ]);// 摘要作为系统消息放最前面return [    newSystemMessage(`对话历史摘要：${summary.content}`),    ...recent,  ];}// 粗估 token 数（4个字符约等于1个token）functionestimateTokens(messages: Message[]): number {return messages.reduce((sum, m) => sum + m.content.length / 4, 0);}

核心：短期记忆不是越长越好，滑动窗口 + 摘要压缩是平衡成本和质量的正确姿势。

---

第二层：长期记忆——向量数据库实现语义检索

长期记忆解决的问题是：「我一个月前告诉过你的事，你现在能不能想起来？」

实现原理很直接——把历史对话或重要信息向量化存储，需要时按语义相似度检索。

关键点在于：存什么、什么时候存、存多少。

import { OpenAIEmbeddings } from"@langchain/openai";import { MemoryVectorStore } from"langchain/vectorstores/memory";import { Document } from"@langchain/core/documents";// 初始化向量存储（生产环境用 Pinecone / Weaviate / Chroma）const embeddings = newOpenAIEmbeddings();const vectorStore = newMemoryVectorStore(embeddings);// ✅ 选择性存储：只存有价值的信息asyncfunctionsaveToLongTermMemory(content: string,metadata: {    type: "preference" | "fact" | "decision" | "task";    importance: "high" | "medium" | "low";    userId: string;  }) {// 低重要度的内容不存，节省存储和检索噪音if (metadata.importance === "low") return;await vectorStore.addDocuments([    newDocument({      pageContent: content,      metadata: {        ...metadata,        timestamp: Date.now(),        // 重要！存储时间戳，旧的记忆权重要打折      },    }),  ]);}// ✅ 检索时加时间衰减：越近的记忆越相关asyncfunctionrecallMemory(query: string, userId: string) {const results = await vectorStore.similaritySearchWithScore(    query,    5, // 取最相似的 5 条    { userId } // 只检索当前用户的记忆  );// 时间衰减：30天前的记忆相关性打 0.7 折const now = Date.now();const decayedResults = results.map(([doc, score]) => {    const ageInDays = (now - doc.metadata.timestamp) / (1000 * 60 * 60 * 24);    const decayFactor = ageInDays > 30 ? 0.7 : 1.0;    return { doc, score: score * decayFactor };  });// 只返回相关性 > 0.7 的结果，避免噪音return decayedResults    .filter(({ score }) => score > 0.7)    .map(({ doc }) => doc.pageContent);}// 在 Agent 回答前，先检索相关记忆注入 contextasyncfunctionagentWithMemory(userInput: string, userId: string) {const memories = awaitrecallMemory(userInput, userId);const systemPrompt = memories.length > 0    ? `你记得关于这个用户的以下信息：\n${memories.join("\n")}\n\n基于这些记忆回答问题。`    : "你是一个助手。";return llm.invoke([    newSystemMessage(systemPrompt),    newHumanMessage(userInput),  ]);}

核心：长期记忆不是把所有对话都存进去，选择性存储 + 时间衰减才能保持信噪比。

---

第三层：知识图谱——结构化知识的极致形态

---

知识图谱解决的是「关系」问题——不只是记住事实，还要记住事实之间的关联。

举个例子：「用户喜欢 React」「用户在做 AI 项目」「React 有 AI SDK」——如果这三条是孤立存储的，Agent 无法推导出「可以向用户推荐 Vercel AI SDK」。但如果存在图里，路径推理就能做到。

实际开发中，大多数项目用不到完整的图数据库（Neo4j），更常见的方案是用结构化 JSON + 语义向量的混合存储：

// 混合记忆结构：结构化属性 + 语义描述interfaceMemoryNode {id: string;type: "person" | "project" | "preference" | "event";attributes: Record<string, unknown>;relations: Array<{    type: string;    // "likes", "works_on", "knows_about"    targetId: string;  }>;  embedding?: number[]; // 可选：语义向量，用于模糊检索}classStructuredMemoryStore {private nodes = newMap<string, MemoryNode>();// 存储或更新节点upsert(node: MemoryNode) {    const existing = this.nodes.get(node.id);    if (existing) {      // 合并属性，不覆盖，防止丢失旧信息      this.nodes.set(node.id, {        ...existing,        attributes: { ...existing.attributes, ...node.attributes },        relations: [...newSet([...existing.relations, ...node.relations])],      });    } else {      this.nodes.set(node.id, node);    }  }// 图遍历：找到所有2跳以内的相关节点getRelated(nodeId: string, depth = 2): MemoryNode[] {    const visited = newSet<string>();    constresult: MemoryNode[] = [];    consttraverse = (id: string, currentDepth: number) => {      if (currentDepth === 0 || visited.has(id)) return;      visited.add(id);      const node = this.nodes.get(id);      if (!node) return;      result.push(node);      node.relations.forEach(({ targetId }) => {        traverse(targetId, currentDepth - 1);      });    };    traverse(nodeId, depth);    return result;  }// 序列化为 LLM 可读的 contexttoContextString(nodeId: string): string {    const related = this.getRelated(nodeId);    return related      .map((n) =>`[${n.type}] ${JSON.stringify(n.attributes)}`)      .join("\n");  }}// 使用示例const memStore = newStructuredMemoryStore();// 存入用户节点memStore.upsert({id: "user_james",type: "person",attributes: { name: "James", role: "frontend_developer" },relations: [    { type: "works_on", targetId: "project_ai_assistant" },    { type: "prefers", targetId: "tech_react" },  ],});memStore.upsert({id: "tech_react",type: "preference",attributes: { name: "React", category: "frontend_framework" },relations: [    { type: "has_ecosystem", targetId: "tech_vercel_ai_sdk" },  ],});// Agent 回答时，注入用户的知识图谱上下文const context = memStore.toContextString("user_james");// 输出："[person] {"name":"James","role":"frontend_developer"}//        [preference] {"name":"React","category":"frontend_framework"}//        ..."

核心：知识图谱的价值在于「关系推理」，混合结构化 JSON + 向量是大多数项目的性价比最高方案。

---

三层记忆的协作：完整的记忆感知 Agent

---

把三层记忆整合起来，才是一个真正有"记忆"的 Agent：

import { ChatOpenAI } from"@langchain/openai";import { SystemMessage, HumanMessage } from"@langchain/core/messages";classMemoryAwareAgent {private llm = newChatOpenAI({ model: "gpt-4o" });privateshortTermHistory: Message[] = [];privatelongTermStore: LongTermMemoryStore;privateknowledgeGraph: StructuredMemoryStore;constructor(privateuserId: string) {    this.longTermStore = newLongTermMemoryStore();    this.knowledgeGraph = newStructuredMemoryStore();  }asyncchat(userInput: string): Promise<string> {    // Step 1: 检索长期记忆（并行执行，不阻塞）    const [longTermMemories, graphContext] = awaitPromise.all([      this.longTermStore.recall(userInput, this.userId),      Promise.resolve(this.knowledgeGraph.toContextString(this.userId)),    ]);    // Step 2: 构建系统 prompt，注入记忆层    const systemPrompt = this.buildSystemPrompt(longTermMemories, graphContext);    // Step 3: 管理短期记忆（滑动窗口）    const managedHistory = awaitmanageHistory(this.shortTermHistory);    // Step 4: 调用模型    const messages = [      newSystemMessage(systemPrompt),      ...managedHistory,      newHumanMessage(userInput),    ];    const response = awaitthis.llm.invoke(messages);    // Step 5: 更新短期记忆    this.shortTermHistory.push(      { role: "user", content: userInput },      { role: "assistant", content: response.contentasstring }    );    // Step 6: 异步决策是否存入长期记忆（不影响响应速度）    this.asyncSaveMemory(userInput, response.contentasstring);    return response.contentasstring;  }privatebuildSystemPrompt(memories: string[], graphCtx: string): string {    const parts = ["你是一个有记忆的 AI 助手。"];    if (graphCtx) {      parts.push(`\n关于用户你知道：\n${graphCtx}`);    }    if (memories.length > 0) {      parts.push(`\n相关的历史记忆：\n${memories.join("\n")}`);    }    return parts.join("\n");  }// 异步存储：不阻塞当前响应privateasyncasyncSaveMemory(input: string, output: string) {    // 让模型判断这轮对话是否值得记忆    const shouldSave = awaitthis.llm.invoke([      newSystemMessage(        "判断以下对话是否包含值得长期记忆的信息（用户偏好/重要决策/事实），只回答 yes 或 no"      ),      newHumanMessage(`用户：${input}\n助手：${output}`),    ]);    if ((shouldSave.contentasstring).toLowerCase().includes("yes")) {      awaitthis.longTermStore.save(        `用户说：${input}，助手回答：${output}`,        { type: "conversation", importance: "high", userId: this.userId }      );    }  }}

核心：三层记忆各司其职，检索并行化，存储异步化，才能做到有记忆而不慢。

---

常见坑

---

坑1：把所有对话都存进向量库

// ❌ 每轮都存，存了一堆没用的async function onMessage(msg: Message) {  await vectorStore.addDocuments([new Document({ pageContent: msg.content })]);}

向量库里全是「好的」「明白了」「那接下来呢」这类废话，检索出来全是噪音。

// ✅ 让模型判断是否值得存const worthSaving = await llm.invoke([  new SystemMessage("这句话有没有值得记忆的关键信息？yes/no"),  new HumanMessage(msg.content),]);if (worthSaving.content === "yes") {  await vectorStore.addDocuments([...]);}

---

坑2：检索不区分用户

// ❌ 全局检索，用户A的记忆跑到用户B那里const results = await vectorStore.similaritySearch(query, 5);

生产环境里多用户共用一个向量库，不加过滤条件会导致记忆错位。

// ✅ 检索时带 userId 过滤const results = await vectorStore.similaritySearch(query, 5, {  filter: { userId: currentUserId },});

---

坑3：短期记忆直接截断，丢失关键上下文

// ❌ 超长就直接砍掉前面的if (messages.length > 20) {  messages = messages.slice(-20); // 可能把任务背景砍掉了}

用摘要压缩，而不是硬截断：

// ✅ 超长时先摘要，再拼接最近内容const summary = await summarizeOlderMessages(messages.slice(0, -20));messages = [new SystemMessage(`历史摘要：${summary}`), ...messages.slice(-20)];

---

坑4：记忆注入太多，反而稀释了 Prompt

// ❌ 检索 Top 20 条，全部塞进 promptconst memories = await vectorStore.similaritySearch(query, 20);const systemPrompt = `你知道：${memories.join("\n")}`;// 20条记忆 + 用户问题 + 对话历史 = Context 直接爆炸
``````plaintext
// ✅ 控制注入数量，只用相关性 > 0.8 的，最多 5 条const results = await vectorStore.similaritySearchWithScore(query, 5);const relevant = results  .filter(([_, score]) => score > 0.8)  .map(([doc]) => doc.pageContent);

---

坑5：忘记给记忆加过期机制

记忆不应该永久有效。用户一年前说「我不喜欢 Vue」，不代表现在还这样。

// ✅ 存储时加 TTL，检索时跳过过期记忆await vectorStore.addDocuments([newDocument({    pageContent: content,    metadata: {      timestamp: Date.now(),      ttlDays: 90, // 90天后过期    },  }),]);// 检索时过滤：只取 90 天内的记忆const cutoff = Date.now() - 90 * 24 * 60 * 60 * 1000;const results = await vectorStore.similaritySearch(query, 5, {filter: { timestamp: { $gt: cutoff } },});

---

选型参考

---

需求	推荐方案	备注
单用户简单 chatbot	MemoryVectorStore （LangChain 内存版）	开发测试用，不持久化
多用户生产环境	Chroma / Pinecone / Weaviate	Chroma 本地部署友好，Pinecone 托管省心
需要关系推理	Neo4j + 向量混合	复杂度高，一般 Agent 不需要
企业内网知识库	pgvector（PostgreSQL 插件）	已有 PG 的团队最低迁移成本

---

发布前自查清单

---

• 短期记忆有滑动窗口 + 摘要压缩，不是无脑追加
• 向量存储检索加了用户隔离过滤
• 存储前有重要性判断，不存废话
• 相关性阈值 > 0.7，注入数量 ≤ 5 条
• 记忆有 TTL，不永久有效
• 长期记忆存储是异步的，不阻塞当前响应

---

总结

–

这篇我们从底层拆解了 Agent 记忆系统的三层设计：

• 短期记忆：Context Window 不是越满越好，滑动窗口 + 摘要压缩是正确姿势
• 长期记忆：向量数据库实现语义检索，关键是选择性存储 + 时间衰减
• 知识图谱：解决关系推理问题，混合 JSON + 向量是大多数项目的性价比最优解
• 三层协作：检索并行化、存储异步化，做到有记忆而不慢
• 常见坑：存太多、不隔离用户、硬截断、注入太多、忘记过期——五个坑踩过才知道

理解记忆系统的核心是：记忆本质上是 context 管理的延伸，每一层记忆都是在回答"什么信息值得在什么时候出现在 prompt 里"这个问题。

普通人如何抓住AI大模型的风口？

领取方式在文末

为什么要学习大模型？

目前AI大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 ， 大模型作为其中的重要组成部分 ， 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力， 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ，为各行各业带来了革命性的改变和机遇 。

目前，开源人工智能大模型已应用于医疗、政务、法律、汽车、娱乐、金融、互联网、教育、制造业、企业服务等多个场景，其中，应用于金融、企业服务、制造业和法律领域的大模型在本次调研中占比超过 30%。

随着AI大模型技术的迅速发展，相关岗位的需求也日益增加。大模型产业链催生了一批高薪新职业：

人工智能大潮已来，不加入就可能被淘汰。如果你是技术人，尤其是互联网从业者，现在就开始学习AI大模型技术，真的是给你的人生一个重要建议！

最后

只要你真心想学习AI大模型技术，这份精心整理的学习资料我愿意无偿分享给你，但是想学技术去乱搞的人别来找我！

在当前这个人工智能高速发展的时代，AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长，真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料，能够帮助更多有志于AI领域的朋友入门并深入学习。

真诚无偿分享！！！
vx扫描下方二维码即可
加上后会一个个给大家发
【附赠一节免费的直播讲座，技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等，欢迎大家~】

大模型全套学习资料展示

自我们与MoPaaS魔泊云合作以来，我们不断打磨课程体系与技术内容，在细节上精益求精，同时在技术层面也新增了许多前沿且实用的内容，力求为大家带来更系统、更实战、更落地的大模型学习体验。

希望这份系统、实用的大模型学习路径，能够帮助你从零入门，进阶到实战，真正掌握AI时代的核心技能！

01 教学内容

• 从零到精通完整闭环：【基础理论 →RAG开发 → Agent设计 → 模型微调与私有化部署调→热门技术】5大模块，内容比传统教材更贴近企业实战！

• 大量真实项目案例： 带你亲自上手搞数据清洗、模型调优这些硬核操作，把课本知识变成真本事‌！

02适学人群

应届毕业生‌： 无工作经验但想要系统学习AI大模型技术，期待通过实战项目掌握核心技术。

零基础转型‌： 非技术背景但关注AI应用场景，计划通过低代码工具实现“AI+行业”跨界‌。

业务赋能突破瓶颈： 传统开发者（Java/前端等）学习Transformer架构与LangChain框架，向AI全栈工程师转型‌。

vx扫描下方二维码即可
【附赠一节免费的直播讲座，技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等，欢迎大家~】

本教程比较珍贵，仅限大家自行学习，不要传播！更严禁商用！

03 入门到进阶学习路线图

大模型学习路线图，整体分为5个大的阶段：

04 视频和书籍PDF合集

从0到掌握主流大模型技术视频教程（涵盖模型训练、微调、RAG、LangChain、Agent开发等实战方向）

新手必备的大模型学习PDF书单来了！全是硬核知识，帮你少走弯路（不吹牛，真有用）

05 行业报告+白皮书合集

收集70+报告与白皮书，了解行业最新动态！

06 90+份面试题/经验

AI大模型岗位面试经验总结（谁学技术不是为了赚$呢，找个好的岗位很重要）

07 deepseek部署包+技巧大全

由于篇幅有限

只展示部分资料

并且还在持续更新中…

真诚无偿分享！！！
vx扫描下方二维码即可
加上后会一个个给大家发
【附赠一节免费的直播讲座，技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等，欢迎大家~】