为什么AI长会话越来越『糊涂』?pi-observational-memory用观察式记忆破解Compaction难题

原创2026-10-31 23:39:001,359 阅读

为什么AI长会话越来越『糊涂』?pi-observational-memory用观察式记忆破解Compaction难题

用 AI 写代码,会话越长,Agent 就越容易"失忆"。pi-observational-memory 是一个专为 Pi 编码代理设计的观察式记忆扩展,它在会话进行中持续捕获重要上下文,让 Compaction(上下文压缩)既快速又少丢信息,让 Pi 的长会话感觉"永无止境"。

Compaction 链:长会话为什么越来越"糊涂"

当 Pi 的会话逼近模型上下文窗口时,系统会执行 Compaction:把较早的对话压缩成一段摘要。问题来了——

  • 第 1 次压缩:摘要的是原始对话
  • 第 2 次压缩:摘要的是"上一次摘要"
  • 第 3 次压缩:摘要的是"摘要的摘要的摘要"……

压缩次数一多,Agent 手里拿的就不再是真实的工作上下文,而是层层有损压缩的残影。于是这些细节开始悄悄消失:

  • 某个设计决策为什么当时那么定
  • 哪些方案已经被明确否决
  • 用户已经澄清过、不该再重复追问的约束
  • Agent 已经排查过的内容、哪些坑不该重踩

更糟的是,传统 Compaction 是在压缩那一刻才临时叫模型重写历史——大会话里这一等就是几分钟,恰好打断你最需要连续性的时刻。

观察式记忆:Observations + Reflections 双层设计

pi-observational-memory 的思路很朴素:别等压缩时再"回忆",要在会话进行中就持续"记录"。它的核心是两个概念(详见 docs/concepts.md):

层 是什么 举例
Observations(观察) 会话中实际发生的事件记录,带时间戳和相关度标记 "用户决定把 REST 换成 GraphQL,动机是减少移动端过度拉取"
Reflections(反思) 从观察中蒸馏出的持久事实,帮 Agent 长期保持方向感 "用户在用 Next.js 15 + Supabase 认证构建 Dashboard,1 月 22 日前必须上线"

压缩时,Agent 看到的不再是脆弱的摘要链,而是准备好的记忆,大致长这样:

## Reflections
[a1b2c3d4e5f6] User works at Acme Corp building Acme Dashboard on Next.js 15 with Supabase auth.

## Observations
[d4e5f6a1b2c3] 2026-01-15 14:30 [high] User decided to switch from REST to GraphQL for the public API.

每条记忆都带一个 12 位 ID。需要精确证据时,Agent 可以调用内置的 recall 工具按 ID 回溯原始出处(实现见 src/tools/recall-observation.ts)——记忆不再是"大概说过",而是可追溯的。

工作原理:记忆在后台跑,压缩近乎瞬时

整个生命周期可以概括成一条流水线(技术细节见 docs/how-it-works.md):

你正常写代码
   │
   ├─ 每积累 ~10K token ──► Observer 后台记录 Observations
   │
   ├─ 每积累 ~20K token ──► Reflector 蒸馏出 Reflections
   │                        Dropper 顺手清理不再活跃的旧观察
   │
   └─ 累计 ~81K token 且空闲 ──► 自动触发 Compaction
                                  (直接渲染已备好的记忆,不调模型)

三个后台角色分工明确:

  1. Observer:会话每累积一定量新 token 后异步运行,把关键事件记成带来源引用的观察(src/agents/observer/agent.ts)
  2. Reflector:定期把稳定的事实蒸馏成反思,并标注它对哪些观察有"覆盖"
  3. Dropper:反思成功后做修剪,把不再活跃的旧观察移出活跃池(但不删历史,仍可 recall)

关键在于压缩钩子本身:session_before_compact 触发时,扩展只做确定性的折叠与渲染——不调模型、不等后台任务,压缩几乎是瞬时的(src/hooks/compaction-hook.ts)。用官方话说:

"When compaction happens, you should barely notice."(压缩发生时,你几乎不会察觉)

所有触发器、命令和工具在扩展入口统一注册,逻辑一目了然:

一键安装与快速上手

要求 Pi 0.81.0 或更高版本。安装最简单的方式是直接用 npm 包:

pi install npm:pi-observational-memory

也可以从源码安装。先克隆仓库:

git clone https://gitcode.com/gh_mirrors/pi/pi-observational-memory
pi install /absolute/path/to/pi-observational-memory

装好即可使用,默认配置对大多数场景都够用。需要微调时,配置放在 ~/.pi/agent/settings.json(全局)或项目内 .pi/settings.json(覆盖全局),命名空间为 observational-memory。

最常用的几个参数速查

参数 默认值 作用
observeAfterTokens 10000 每积累多少原始 token 触发一次观察
reflectAfterTokens 20000 每积累多少原始 token 触发一次反思
compactAfterTokens 81000 主动压缩的 token 阈值
model 跟随会话模型 可为后台记忆工作指定更便宜的模型
passive false 置 true 可关闭所有后台主动行为

完整参数说明与调优建议见 docs/configuration.md。

💡 小建议:如果你想让记忆后台工作比主编码模型更省钱,可以给 model 配一个小而快的模型——不配置时会自动沿用会话模型。

实用命令:随时体检你的 Agent 记忆

扩展附带三个"仪表盘"级入口,随时掌握记忆状态:

命令 / 工具 能做什么
/om:status 查看观察/反思数量、可见与全量记忆的差异、各 worker 进度和最近错误
/om:view 查看当前可见记忆,并尝试复制到剪贴板
/om:view full 查看当前分支上完整账本记忆(首次压缩前推荐用它)
recall(Agent 工具) 按 12 位 ID 回溯某条观察/反思的原始证据

典型用法:长会话中途觉得 Agent"跑偏"了,先 /om:status 看看记忆是否还在正常累积;发现某条关键决策被压缩模糊了,让 Agent 用 recall 把证据捞回来即可。

适合谁?什么场景最值

如果你用 Pi 做以下工作,这个扩展的边际收益最大:

  • 🧵 跨多天的特性开发、大型重构、仓库迁移
  • 🐛 复杂的长时间排障会话
  • 🏗️ 架构探索、多次 Compaction 后仍需保持连贯的分支
  • 🤝 需要高质量"交接"的工作流——新会话接手时上下文损失更少

它的承诺不是魔法般的无限记忆,而是务实的连续性:迭代好几天之后,Agent 依然理解这份工作。

小结

AI 长会话变"糊涂"的根源,是 Compaction 摘要链的逐层有损压缩;而 pi-observational-memory 的答案是把记忆工作前移到会话进行中——Observations 记录发生过什么,Reflections 沉淀出持久事实,压缩时刻只做一次快速渲染。安装一条命令、默认配置即可开箱,配合 /om:status、/om:view 和 recall,长会话从此不再是一场和上下文窗口的赛跑。

想深入了解 V3 心智模型与账本机制,可以从这两篇文档入手:

登录后查看全文
pi-observational-memory