为什么AI长会话越来越『糊涂』?pi-observational-memory用观察式记忆破解Compaction难题
为什么AI长会话越来越『糊涂』?pi-observational-memory用观察式记忆破解Compaction难题
用 AI 写代码,会话越长,Agent 就越容易"失忆"。pi-observational-memory 是一个专为 Pi 编码代理设计的观察式记忆扩展,它在会话进行中持续捕获重要上下文,让 Compaction(上下文压缩)既快速又少丢信息,让 Pi 的长会话感觉"永无止境"。
Compaction 链:长会话为什么越来越"糊涂"
当 Pi 的会话逼近模型上下文窗口时,系统会执行 Compaction:把较早的对话压缩成一段摘要。问题来了——
- 第 1 次压缩:摘要的是原始对话
- 第 2 次压缩:摘要的是"上一次摘要"
- 第 3 次压缩:摘要的是"摘要的摘要的摘要"……
压缩次数一多,Agent 手里拿的就不再是真实的工作上下文,而是层层有损压缩的残影。于是这些细节开始悄悄消失:
- 某个设计决策为什么当时那么定
- 哪些方案已经被明确否决
- 用户已经澄清过、不该再重复追问的约束
- Agent 已经排查过的内容、哪些坑不该重踩
更糟的是,传统 Compaction 是在压缩那一刻才临时叫模型重写历史——大会话里这一等就是几分钟,恰好打断你最需要连续性的时刻。
观察式记忆:Observations + Reflections 双层设计
pi-observational-memory 的思路很朴素:别等压缩时再"回忆",要在会话进行中就持续"记录"。它的核心是两个概念(详见 docs/concepts.md):
| 层 | 是什么 | 举例 |
|---|---|---|
| Observations(观察) | 会话中实际发生的事件记录,带时间戳和相关度标记 | "用户决定把 REST 换成 GraphQL,动机是减少移动端过度拉取" |
| Reflections(反思) | 从观察中蒸馏出的持久事实,帮 Agent 长期保持方向感 | "用户在用 Next.js 15 + Supabase 认证构建 Dashboard,1 月 22 日前必须上线" |
压缩时,Agent 看到的不再是脆弱的摘要链,而是准备好的记忆,大致长这样:
## Reflections
[a1b2c3d4e5f6] User works at Acme Corp building Acme Dashboard on Next.js 15 with Supabase auth.
## Observations
[d4e5f6a1b2c3] 2026-01-15 14:30 [high] User decided to switch from REST to GraphQL for the public API.
每条记忆都带一个 12 位 ID。需要精确证据时,Agent 可以调用内置的 recall 工具按 ID 回溯原始出处(实现见 src/tools/recall-observation.ts)——记忆不再是"大概说过",而是可追溯的。
工作原理:记忆在后台跑,压缩近乎瞬时
整个生命周期可以概括成一条流水线(技术细节见 docs/how-it-works.md):
你正常写代码
│
├─ 每积累 ~10K token ──► Observer 后台记录 Observations
│
├─ 每积累 ~20K token ──► Reflector 蒸馏出 Reflections
│ Dropper 顺手清理不再活跃的旧观察
│
└─ 累计 ~81K token 且空闲 ──► 自动触发 Compaction
(直接渲染已备好的记忆,不调模型)
三个后台角色分工明确:
- Observer:会话每累积一定量新 token 后异步运行,把关键事件记成带来源引用的观察(src/agents/observer/agent.ts)
- Reflector:定期把稳定的事实蒸馏成反思,并标注它对哪些观察有"覆盖"
- Dropper:反思成功后做修剪,把不再活跃的旧观察移出活跃池(但不删历史,仍可 recall)
关键在于压缩钩子本身:session_before_compact 触发时,扩展只做确定性的折叠与渲染——不调模型、不等后台任务,压缩几乎是瞬时的(src/hooks/compaction-hook.ts)。用官方话说:
"When compaction happens, you should barely notice."(压缩发生时,你几乎不会察觉)
所有触发器、命令和工具在扩展入口统一注册,逻辑一目了然:
- 扩展入口:src/index.ts
- 记忆账本折叠逻辑:src/session-ledger/fold.ts
- 压缩触发器:src/hooks/compaction-trigger.ts
一键安装与快速上手
要求 Pi 0.81.0 或更高版本。安装最简单的方式是直接用 npm 包:
pi install npm:pi-observational-memory
也可以从源码安装。先克隆仓库:
git clone https://gitcode.com/gh_mirrors/pi/pi-observational-memory
pi install /absolute/path/to/pi-observational-memory
装好即可使用,默认配置对大多数场景都够用。需要微调时,配置放在 ~/.pi/agent/settings.json(全局)或项目内 .pi/settings.json(覆盖全局),命名空间为 observational-memory。
最常用的几个参数速查
| 参数 | 默认值 | 作用 |
|---|---|---|
observeAfterTokens |
10000 |
每积累多少原始 token 触发一次观察 |
reflectAfterTokens |
20000 |
每积累多少原始 token 触发一次反思 |
compactAfterTokens |
81000 |
主动压缩的 token 阈值 |
model |
跟随会话模型 | 可为后台记忆工作指定更便宜的模型 |
passive |
false |
置 true 可关闭所有后台主动行为 |
完整参数说明与调优建议见 docs/configuration.md。
💡 小建议:如果你想让记忆后台工作比主编码模型更省钱,可以给 model 配一个小而快的模型——不配置时会自动沿用会话模型。
实用命令:随时体检你的 Agent 记忆
扩展附带三个"仪表盘"级入口,随时掌握记忆状态:
| 命令 / 工具 | 能做什么 |
|---|---|
/om:status |
查看观察/反思数量、可见与全量记忆的差异、各 worker 进度和最近错误 |
/om:view |
查看当前可见记忆,并尝试复制到剪贴板 |
/om:view full |
查看当前分支上完整账本记忆(首次压缩前推荐用它) |
recall(Agent 工具) |
按 12 位 ID 回溯某条观察/反思的原始证据 |
典型用法:长会话中途觉得 Agent"跑偏"了,先 /om:status 看看记忆是否还在正常累积;发现某条关键决策被压缩模糊了,让 Agent 用 recall 把证据捞回来即可。
适合谁?什么场景最值
如果你用 Pi 做以下工作,这个扩展的边际收益最大:
- 🧵 跨多天的特性开发、大型重构、仓库迁移
- 🐛 复杂的长时间排障会话
- 🏗️ 架构探索、多次 Compaction 后仍需保持连贯的分支
- 🤝 需要高质量"交接"的工作流——新会话接手时上下文损失更少
它的承诺不是魔法般的无限记忆,而是务实的连续性:迭代好几天之后,Agent 依然理解这份工作。
小结
AI 长会话变"糊涂"的根源,是 Compaction 摘要链的逐层有损压缩;而 pi-observational-memory 的答案是把记忆工作前移到会话进行中——Observations 记录发生过什么,Reflections 沉淀出持久事实,压缩时刻只做一次快速渲染。安装一条命令、默认配置即可开箱,配合 /om:status、/om:view 和 recall,长会话从此不再是一场和上下文窗口的赛跑。
想深入了解 V3 心智模型与账本机制,可以从这两篇文档入手:
- 概念与词汇表:docs/concepts.md
- 运行时生命周期:docs/how-it-works.md