MemSkill技能库完全解读:14个记忆技能与技能模板的运作机制
MemSkill技能库完全解读:14个记忆技能与技能模板的运作机制
MemSkill 是一个被 NeurIPS'26 接收的开源智能体记忆框架,用数据驱动的"记忆技能"体系取代手工设计的记忆操作:技能库 skills/ 中的 14 个有效技能与技能模板,由 Controller 为每段文本动态组合,再由 Executor LLM 执行,Designer 则定期从失败案例中挖掘、进化技能,实现长程智能体记忆的持续自进化。
🔍 先搞清楚:"记忆技能"到底是什么
一个常见的误区:MemSkill 学到的技能并不是记忆内容本身(不是经验或过程性记忆),而是一种元记忆(meta-memory)——它描述"记什么、怎么记、关注哪里、保留与遗忘什么"。
传统做法按轮次(turn-level)处理对话,把一组固定的手工操作(handcrafted operations)与 LLM 调用交错进行;MemSkill 则把交互历史切分成 span(文本片段),为每个 span 从技能库中挑选一组相关技能,一次调用即完成记忆构建。
上图清晰展示了两种范式:左侧是传统"turn-level + 手工操作",右侧是 MemSkill 的"span-level + 技能条件生成"——从 Skill Bank 中选出 Capture Temporal、Handle Entity Rel. 等多个技能,一次性驱动 LLM 更新 Memory Bank。
📁 技能库结构:2 个场景,14 个有效技能
技能库位于 skills/ 目录,按场景分为两组,共 16 个技能文件,覆盖 14 个真正作用于记忆的有效技能(另有 2 个 noop 确认型技能,用于判定"本段文本无需任何记忆操作")。
对话场景(conversational_skills,9 个)
面向 LoCoMo、LongMemEval 等长对话基准,目录:skills/conversational_skills/
| 技能 | 文件 | 允许动作 | 作用 |
|---|---|---|---|
insert |
insert.md | INSERT | 写入新的稳定事实,强调时间细节与活动信息 |
update |
update.md | UPDATE | 修订已有记忆,侧重实体专属信息 |
delete |
delete.md | DELETE | 删除错误/过时记忆,证据必须显式 |
noop |
noop.md | NOOP | 确认无需任何操作 |
capture_temporal_context |
capture_temporal_context.md | INSERT | 捕获日期、时长、顺序等时间信息 |
capture_activity_details |
capture_activity_details.md | INSERT | 捕获活动的类型、地点、参与者、时间要素 |
capture_entity_nuances |
capture_entity_nuances.md | INSERT | 捕获昵称、别名、比较等实体细微差别 |
handle_entity_relationships |
handle_entity_relationships.md | INSERT | 捕获实体间的关系与交互 |
refine_temporal_details_with_context |
refine_temporal_details_with_context.md | UPDATE | 结合上下文精化已有记忆的时间细节 |
具身任务场景(embodied_task_skills,7 个)
面向 ALFWorld 等具身交互环境,目录:skills/embodied_task_skills/
| 技能 | 文件 | 允许动作 | 作用 |
|---|---|---|---|
insert |
insert.md | INSERT | 写入新事实,含程序性知识与动作序列 |
update / delete / noop |
update.md 等 | UPDATE/DELETE/NOOP | 语义同对话场景,模板措辞面向任务调整 |
capture_action_constraints |
capture_action_constraints.md | INSERT | 捕获动作约束及关联的对象状态与移动 |
track_object_location |
track_object_location.md | INSERT | 记录"对象—位置—状态"三元组 |
track_object_movements |
track_object_movements.md | INSERT | 记录对象移动轨迹 |
对比两组技能可以看出技能库设计的价值:对话组专注"时间、实体、关系",具身组专注"对象、动作、约束"——技能可按任务领域整组替换,底层机制无需改动。
💡 4 个基础操作技能(insert/update/delete/noop)由 prompts/operation_templates.py 在初始化时作为种子操作注入技能库(
INITIAL_OPERATIONS);其余场景技能既可静态提供,也能在训练中被 Designer 动态扩展进技能库。
🧩 技能模板解剖:每个技能是怎么写的
每个技能对应 src/operation_bank.py 中 Operation 类的一个实例,核心结构是 5 个字段:
- name:唯一标识,如
capture_temporal_context - description:一句话描述——用于计算 embedding,是 Controller "理解"技能的依据
- instruction_template:指令模板,固定五段式:Purpose → When to use → How to apply → Constraints → Action type
- update_type:限定该技能唯一允许的动作(insert / update / delete / noop)
- meta_info:使用次数、平均奖励、最近奖励、使用频率 EMA——技能的"绩效档案",决定其在库中的存亡
以 capture_temporal_context.md 为例,模板明确要求只捕获文本中显式出现的时间信息、避免自行推断——"Constraints"一节正是约束 LLM 不跑偏的关键手段。
⚙️ 技能如何被使用:Controller 选择,Executor 执行
结合上图,一次完整的"记忆构建"循环如下:
- 切分:Segmenter 将交互轨迹切成顺序的 span x₁…x_T
- 检索:Retriever 从 Memory Bank 中检索 top-K 相关记忆 M_t
- 技能选择:Controller(可训练的 PPO 网络,src/controller.py)把"当前文本 + 检索记忆"编码为状态、把技能库中所有技能编码为动作,为当前 span 选出 Top-K 个最匹配的技能
- 技能执行:Executor(通用 LLM,src/executor.py)将选中的技能模板拼装成 prompt,输出结构化的
INSERT / UPDATE / DELETE动作块,解析后应用到 Memory Bank - 奖励回传:记忆库质量体现在下游任务表现上,任务奖励流回用于更新 Controller
两个值得注意的工程细节:
- 应用顺序:Executor 先应用
UPDATE,再按倒序索引处理DELETE(避免索引偏移),最后INSERT,保证多个动作混合时索引一致 - Top-K 组合是关键调参:选择越多技能,能力越丰富,但 token 成本越高。长文档问答消融实验显示 K=1 时效果最好,K 增大反而下降——技能库的竞争力在于"会选",而非"全堆"
🧬 技能进化:Designer 从失败案例中挖掘改进
技能库不是静态的。Designer(src/designer.py)按 --designer-freq 定期触发一次进化:
- 收集失败案例:Hard Case Buffer 维护滚动失败池(窗口 20 个外层 epoch、容量 200),记录每个失败案例的问题、检索到的记忆与错误答案
- 聚类抽样:对失败案例做 KMeans 聚类,每簇按"错误严重程度 × 失败次数"抽取最有代表性的案例
- 两阶段 LLM 进化:Stage 1 分析诊断失败背后的能力缺口(可多轮自我反思);Stage 2 细化输出具体修改——只允许两种操作:新增技能(
add_new)或精化已有技能(refine_existing),单轮改动数量受--designer-max-changes限制 - 表现制升降级:每次进化生成快照,由
EvolutionSnapshotManager跟踪——新技能库奖励高于历史最优则保留,否则回滚到最优版本,并把失败方案记入"禁重复清单",防止 Designer 重复踩坑 - 容量与探索平衡:技能库容量上限
max_ops(默认 20),满载时淘汰平均奖励最低的技能;同时 Controller 对新技能施加 logit 偏置,保证新技能有探索机会
新技能还要通过严格校验:update_type 只允许 insert/update、指令模板必须非空且不得包含 {session_text} 等上下文占位符——确保新技能能直接嵌入 Executor 的 prompt 流程。
📊 进化后的技能库效果如何
在 LoCoMo 上(LLaMA-3.3-70B),MemSkill 的 LLM Judge 得分 50.96,比最强基线 MemoryOS(44.59)高出 6 分以上;ALFWorld 分布外任务成功率 47.01(MemoryOS 仅 14.18)。更重要的是,在 LoCoMo 上训练出的技能无需重训即可直接迁移到 LongMemEval,依旧取得最优成绩(59.41 vs CoN 的 46.04)——这正是"可复用技能库"设计的意义。
🛠️ 快速上手:跑起来你自己的技能库
git clone https://gitcode.com/gh_mirrors/me/MemSkill
cd MemSkill
conda create -n memskill python=3.10 && conda activate memskill
pip install vllm==0.6.3
pip install -r requirements.txt
将数据放入 data/(数据集准备详见 README.md),随后运行 train_locomo.sh 或 train_alfworld.sh 开始训练,训练完成后可用对应的 eval_*.sh 脚本评估。训练过程中可以观察到技能库被 Designer 持续精化、新增与淘汰的完整过程。
一句话总结:技能库中的 14 个记忆技能是 MemSkill 构建记忆的"动词",技能模板是每个动词的"标准操作规范",而 Controller–Executor–Designer 的闭环让这些动词本身变得可学习、可进化——这正是 MemSkill 区别于一切"手工记忆"方案的关键。




