MemSkill技能库完全解读:14个记忆技能与技能模板的运作机制

原创2026-11-16 17:26:391,213 阅读

MemSkill技能库完全解读:14个记忆技能与技能模板的运作机制

MemSkill 是一个被 NeurIPS'26 接收的开源智能体记忆框架,用数据驱动的"记忆技能"体系取代手工设计的记忆操作:技能库 skills/ 中的 14 个有效技能与技能模板,由 Controller 为每段文本动态组合,再由 Executor LLM 执行,Designer 则定期从失败案例中挖掘、进化技能,实现长程智能体记忆的持续自进化。

🔍 先搞清楚:"记忆技能"到底是什么

一个常见的误区:MemSkill 学到的技能并不是记忆内容本身(不是经验或过程性记忆),而是一种元记忆(meta-memory)——它描述"记什么、怎么记、关注哪里、保留与遗忘什么"。

传统做法按轮次(turn-level)处理对话,把一组固定的手工操作(handcrafted operations)与 LLM 调用交错进行;MemSkill 则把交互历史切分成 span(文本片段),为每个 span 从技能库中挑选一组相关技能,一次调用即完成记忆构建。

MemSkill技能条件式记忆构建与传统手工操作模式对比

上图清晰展示了两种范式:左侧是传统"turn-level + 手工操作",右侧是 MemSkill 的"span-level + 技能条件生成"——从 Skill Bank 中选出 Capture Temporal、Handle Entity Rel. 等多个技能,一次性驱动 LLM 更新 Memory Bank。

📁 技能库结构:2 个场景,14 个有效技能

技能库位于 skills/ 目录,按场景分为两组,共 16 个技能文件,覆盖 14 个真正作用于记忆的有效技能(另有 2 个 noop 确认型技能,用于判定"本段文本无需任何记忆操作")。

对话场景(conversational_skills,9 个)

面向 LoCoMo、LongMemEval 等长对话基准,目录:skills/conversational_skills/

技能 文件 允许动作 作用
insert insert.md INSERT 写入新的稳定事实,强调时间细节与活动信息
update update.md UPDATE 修订已有记忆,侧重实体专属信息
delete delete.md DELETE 删除错误/过时记忆,证据必须显式
noop noop.md NOOP 确认无需任何操作
capture_temporal_context capture_temporal_context.md INSERT 捕获日期、时长、顺序等时间信息
capture_activity_details capture_activity_details.md INSERT 捕获活动的类型、地点、参与者、时间要素
capture_entity_nuances capture_entity_nuances.md INSERT 捕获昵称、别名、比较等实体细微差别
handle_entity_relationships handle_entity_relationships.md INSERT 捕获实体间的关系与交互
refine_temporal_details_with_context refine_temporal_details_with_context.md UPDATE 结合上下文精化已有记忆的时间细节

具身任务场景(embodied_task_skills,7 个)

面向 ALFWorld 等具身交互环境,目录:skills/embodied_task_skills/

技能 文件 允许动作 作用
insert insert.md INSERT 写入新事实,含程序性知识与动作序列
update / delete / noop update.md 等 UPDATE/DELETE/NOOP 语义同对话场景,模板措辞面向任务调整
capture_action_constraints capture_action_constraints.md INSERT 捕获动作约束及关联的对象状态与移动
track_object_location track_object_location.md INSERT 记录"对象—位置—状态"三元组
track_object_movements track_object_movements.md INSERT 记录对象移动轨迹

MemSkill对话场景与具身任务场景的技能模板示例

对比两组技能可以看出技能库设计的价值:对话组专注"时间、实体、关系",具身组专注"对象、动作、约束"——技能可按任务领域整组替换,底层机制无需改动。

💡 4 个基础操作技能(insert/update/delete/noop)由 prompts/operation_templates.py 在初始化时作为种子操作注入技能库(INITIAL_OPERATIONS);其余场景技能既可静态提供,也能在训练中被 Designer 动态扩展进技能库。

🧩 技能模板解剖:每个技能是怎么写的

每个技能对应 src/operation_bank.py 中 Operation 类的一个实例,核心结构是 5 个字段:

  1. name:唯一标识,如 capture_temporal_context
  2. description:一句话描述——用于计算 embedding,是 Controller "理解"技能的依据
  3. instruction_template:指令模板,固定五段式:Purpose → When to use → How to apply → Constraints → Action type
  4. update_type:限定该技能唯一允许的动作(insert / update / delete / noop)
  5. meta_info:使用次数、平均奖励、最近奖励、使用频率 EMA——技能的"绩效档案",决定其在库中的存亡

以 capture_temporal_context.md 为例,模板明确要求只捕获文本中显式出现的时间信息、避免自行推断——"Constraints"一节正是约束 LLM 不跑偏的关键手段。

⚙️ 技能如何被使用:Controller 选择,Executor 执行

MemSkill控制器、执行器与设计器闭环架构

结合上图,一次完整的"记忆构建"循环如下:

  1. 切分:Segmenter 将交互轨迹切成顺序的 span x₁…x_T
  2. 检索:Retriever 从 Memory Bank 中检索 top-K 相关记忆 M_t
  3. 技能选择:Controller(可训练的 PPO 网络,src/controller.py)把"当前文本 + 检索记忆"编码为状态、把技能库中所有技能编码为动作,为当前 span 选出 Top-K 个最匹配的技能
  4. 技能执行:Executor(通用 LLM,src/executor.py)将选中的技能模板拼装成 prompt,输出结构化的 INSERT / UPDATE / DELETE 动作块,解析后应用到 Memory Bank
  5. 奖励回传:记忆库质量体现在下游任务表现上,任务奖励流回用于更新 Controller

两个值得注意的工程细节:

  • 应用顺序:Executor 先应用 UPDATE,再按倒序索引处理 DELETE(避免索引偏移),最后 INSERT,保证多个动作混合时索引一致
  • Top-K 组合是关键调参:选择越多技能,能力越丰富,但 token 成本越高。长文档问答消融实验显示 K=1 时效果最好,K 增大反而下降——技能库的竞争力在于"会选",而非"全堆"

MemSkill不同Top-K技能组合数量的消融实验结果

🧬 技能进化:Designer 从失败案例中挖掘改进

技能库不是静态的。Designer(src/designer.py)按 --designer-freq 定期触发一次进化:

  1. 收集失败案例:Hard Case Buffer 维护滚动失败池(窗口 20 个外层 epoch、容量 200),记录每个失败案例的问题、检索到的记忆与错误答案
  2. 聚类抽样:对失败案例做 KMeans 聚类,每簇按"错误严重程度 × 失败次数"抽取最有代表性的案例
  3. 两阶段 LLM 进化:Stage 1 分析诊断失败背后的能力缺口(可多轮自我反思);Stage 2 细化输出具体修改——只允许两种操作:新增技能(add_new)或精化已有技能(refine_existing),单轮改动数量受 --designer-max-changes 限制
  4. 表现制升降级:每次进化生成快照,由 EvolutionSnapshotManager 跟踪——新技能库奖励高于历史最优则保留,否则回滚到最优版本,并把失败方案记入"禁重复清单",防止 Designer 重复踩坑
  5. 容量与探索平衡:技能库容量上限 max_ops(默认 20),满载时淘汰平均奖励最低的技能;同时 Controller 对新技能施加 logit 偏置,保证新技能有探索机会

新技能还要通过严格校验:update_type 只允许 insert/update、指令模板必须非空且不得包含 {session_text} 等上下文占位符——确保新技能能直接嵌入 Executor 的 prompt 流程。

📊 进化后的技能库效果如何

在 LoCoMo 上(LLaMA-3.3-70B),MemSkill 的 LLM Judge 得分 50.96,比最强基线 MemoryOS(44.59)高出 6 分以上;ALFWorld 分布外任务成功率 47.01(MemoryOS 仅 14.18)。更重要的是,在 LoCoMo 上训练出的技能无需重训即可直接迁移到 LongMemEval,依旧取得最优成绩(59.41 vs CoN 的 46.04)——这正是"可复用技能库"设计的意义。

MemSkill在多基准上的主对比实验结果表

🛠️ 快速上手:跑起来你自己的技能库

git clone https://gitcode.com/gh_mirrors/me/MemSkill
cd MemSkill
conda create -n memskill python=3.10 && conda activate memskill
pip install vllm==0.6.3
pip install -r requirements.txt

将数据放入 data/(数据集准备详见 README.md),随后运行 train_locomo.sh 或 train_alfworld.sh 开始训练,训练完成后可用对应的 eval_*.sh 脚本评估。训练过程中可以观察到技能库被 Designer 持续精化、新增与淘汰的完整过程。

一句话总结:技能库中的 14 个记忆技能是 MemSkill 构建记忆的"动词",技能模板是每个动词的"标准操作规范",而 Controller–Executor–Designer 的闭环让这些动词本身变得可学习、可进化——这正是 MemSkill 区别于一切"手工记忆"方案的关键。

登录后查看全文
MemSkill