背景

大语言模型已经在多任务场景中展现出强大的通用能力，但一个关键问题正在成为LLM代理落地的最大瓶颈：模型在部署后几乎无法继续学习。预训练依赖海量数据与算力，微调成本高昂且难以频繁进行，而真实生产环境中不断积累的交互经验，却很难被模型吸收与复用。

Memento-Skills提出了一条全新的路径——在完全冻结模型参数的前提下，通过持续进化的技能内存让代理在真实任务中不断成长，使LLM从一次性训练的静态系统，迈向能够在部署阶段持续学习的动态系统。

LLM适配的三种范式

热力评分：91分

关键亮点：提出无需微调LLM参数的自进化代理框架，将可执行技能作为外部记忆，并用离线RL训练的行为对齐路由器显著提升技能选择与跨任务复用能力。

数据亮点：在GAIA与HLE基准上相较Read-Write基线分别提升13.7pp与20.8pp，验证了持续学习与领域迁移的实际效果。

是否开源：已开源，相关链接见结尾。

方法亮点

Memento-Skills围绕技能内存构建，通过读写反射学习（Read-Write Reflective Learning）实现无需微调的持续学习，所有能力进化都体现在技能库的动态更新中。

1. 技能作为外部记忆：从日志到可执行能力

传统记忆系统只保存交互轨迹，而Memento-Skills将记忆升级为可执行技能 artefact：每个技能同时包含规范、提示词与代码，可直接驱动任务执行。

从理论层面，系统通过将状态扩展为x_t = (s_t, M_t)（当前任务状态+技能内存），重新获得马尔可夫性，保证了系统的收敛性。这就像游戏角色无需升级自身属性，仅靠收集和优化装备就能变强；也像资深工程师凭借积累的“经验缓存”，比新手处理问题更高效。

2. 五步循环：读写反射学习流程

系统以“观察-读取-执行-反馈-写入”的闭环持续迭代：

• • 观察（Observe）：接收用户任务请求，结合当前提示内存形成增强输入。
• • 读取（Read）：路由最相关技能，必要时自动创建新技能，让LLM拿到最适合当前任务的“操作指南”。
• • 执行（Act）：LLM根据选中的技能和输入，执行多步工作流生成结果。
• • 反馈（Feedback）：由Judge模块判断执行结果是否正确，给出奖励信号。
• • 写入（Write）：这是系统进化的关键，对应政策评估与改进：

1. 先更新技能的效用评分（成功次数/(成功+失败次数)）；
2. 如果执行失败，将通用提示加入提示内存，再通过失败归因找出导致错误的核心技能；
3. 若该技能的效用低于阈值且有足够样本，就创建新技能补充到库中；否则原地优化现有技能，比如添加防护逻辑、替换执行策略；
4. 所有技能修改都要经过单元测试门验证，避免功能退化；若优化后重试仍失败，就重复上述过程。

这个循环完美复刻了人类学习技能的过程：初始技能可能脆弱且适用范围窄，但经过反复练习与修正，会演变为健壮的可复用流程，形成解决同类问题的“肌肉记忆”。

读写反射学习循环概览

3. 行为对齐技能路由：从语义匹配到成功概率

传统路由只关注语义相似度，无法保证执行有效。Memento-Skills提出单步离线RL训练的对比检索模型，将优化目标转为“技能成功概率”。

核心流程为：

• • 合成正负任务样本并由LLM Judge筛选。
• • 使用多正例 InfoNCE 训练行为对齐嵌入。
• • 采用 Boltzmann 策略平衡利用与探索。

检索管道结合 BM25 + 稠密检索 + RRF融合 + 重排序，兼顾准确率与效率。

检索流程概览

4. 模块化系统架

系统从3万行单文件原型重构为模块化架构：

• • 入口层：支持CLI和桌面GUI，启动时完成配置、日志、数据库与技能同步。
• • 代理编排层：核心的Memento-SAgent负责意图识别、任务规划、执行循环、步骤反射和结果回复。
• • 工具调度层：管理内置工具与技能工具，执行安全检查。
• • 技能系统：负责技能的存储、召回与执行，进化引擎从反馈中优化技能库。
• • 基础设施层：包含LLM客户端、配置管理和数据库，处理会话与上下文。

模块解耦使系统可独立升级并支持规模化扩展。

Memento-Skills的组件架构

实验结果：性能提升 + 技能真正进化

作者在两个高难基准上验证系统能力：GAIA 与 HLE，并与关闭技能优化的 Read-Write 基线对比，底层模型为 Gemini-3.1-Flash。

1. 行为对齐路由：离线与端到端一致提升

如图所示，行为对齐训练显著提升技能选择质量：

• • 离线Recall@1达到 0.60（BM25仅0.32），提升 87.5%；
• • Recall@10达到 0.90；
• • 端到端命中率从 0.29 提升至 0.58；
• • udge成功率从 0.50 提升至 0.80。

结论很明确：语义相似 ≠ 执行有效，行为对齐才是真正关键。

路由性能评估

2. GAIA：复杂任务下稳定提升

GAIA包含165个真实世界的复杂问题，需要多步推理、工具调用和多模态处理，分为100个训练样本和65个测试样本。

• • 训练阶段成功率从 65.1% 提升至 91.6%（三轮反射后）。
• • 测试集准确率 66.0%，相比基线 52.3% 提升 13.7个百分点。

不过由于GAIA任务分布高度分散，跨任务迁移有限。这说明技能复用依赖领域结构。

GAIA实验结果

3. HLE：结构化领域中迁移能力爆发

HLE包含2500个跨8个学术领域的问题，作者采样了788个训练样本和342个测试样本，每个领域的任务关联性极强。

• • 训练成功率从 30.8% 提升至 54.5%（R0→R3）。
• • 测试准确率 38.7%，基线仅 17.9%，提升超过2倍。

在人文、生物等学科上持续增长，证明技能可以跨任务复用。

HLE实验结果

4. 技能库真实进化

如下图的t-SNE投影所示，系统从最初的5个原子技能开始，经过GAIA学习后，技能库增长到41个技能，分布紧凑，对应GAIA任务多样性但规模较小的特点。

经过HLE学习后，技能库扩展到235个技能，且自动聚类成语义相关的组，每个聚类对应一个领域的专属能力，显示出清晰的结构化能力演化轨迹。

这不是简单记忆积累，而是能力结构的形成。

技能库演化的t-SNE投影

结论与展望

从工程与落地视角看，这项工作真正击中了当前LLM代理最现实的痛点：模型在生产环境中无法持续学习。

它用技能库替代模型微调，把经验沉淀为可执行、可复用、可进化的能力资产，并通过行为对齐的路由与读写反射循环，让系统在真实任务中越用越强。

当行业还在纠结要不要继续微调模型时，这项工作给出了一条更务实的路径：让AI的成长发生在部署之后，而不是训练之前。

学AI大模型的正确顺序，千万不要搞错了

🤔2026年AI风口已来！各行各业的AI渗透肉眼可见，超多公司要么转型做AI相关产品，要么高薪挖AI技术人才，机遇直接摆在眼前！

有往AI方向发展，或者本身有后端编程基础的朋友，直接冲AI大模型应用开发转岗超合适！

就算暂时不打算转岗，了解大模型、RAG、Prompt、Agent这些热门概念，能上手做简单项目，也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料，手把手帮你快速入门！👇👇

学习路线:

✅大模型基础认知—大模型核心原理、发展历程、主流模型（GPT、文心一言等）特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架（LangChain等）实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经

以上6大模块，看似清晰好上手，实则每个部分都有扎实的核心内容需要吃透！

我把大模型的学习全流程已经整理📚好了！抓住AI时代风口，轻松解锁职业新可能，希望大家都能把握机遇，实现薪资/职业跃迁～

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】