AI记忆会泄露你的API密钥吗?Pensieve凭据遮蔽REDACTED机制与隐私边界全解析
AI记忆会泄露你的API密钥吗?Pensieve凭据遮蔽REDACTED机制与隐私边界全解析
如果你用过带"记忆"功能的 AI 助手,多半担心过一件事:模型会不会把你存在记忆里的 API 密钥、密码原样说出来,或者随请求发给云端?Pensieve 是一个面向 AI 记忆管理的本地优先开源项目,它内置了凭据遮蔽(REDACTED)机制,在模型输入、生成内容、治理报告和错误日志四个环节自动过滤可识别的凭据,把密钥替换成 [REDACTED:...] 标记,让 AI 记忆的隐私边界变得可观察、可验证。
为什么 AI 记忆会泄露密钥?
风险其实很简单:你把聊天记录、环境变量片段"喂"给助手的记忆库后,密钥可能就这样被"记住"了。之后任何一次提问召回了这条记忆,就可能出现两种泄露:
- 输出泄露:模型在回答、摘要或解释里把密钥原样复述出来;
- 传输泄露:Live 模式下,记忆内容会作为上下文发送给模型服务,密钥随请求离开本机。
Pensieve 的思路不是"事后删库",而是在数据流的关键位置反复过滤——它明确定位为"best-effort 纵深防御"(尽力而为的多层防护),而不是一个万能的密钥扫描器。
REDACTED 机制:6 种遮蔽标记
核心实现只有约 40 行,位于 lib/privacy.ts,导出的 redactSensitiveText() 函数负责把识别到的凭据替换成带类型标签的标记。标记本身不包含原密钥的任何片段,重复过滤是幂等的(不会二次改写已遮蔽文本):
| 标记 | 拦截对象 |
|---|---|
[REDACTED:SECRET] |
已知密钥值、带标签的赋值(如 password:、密钥、密码) |
[REDACTED:API_KEY] |
常见密钥前缀:sk-(OpenAI/Anthropic 系)、ghp_/gho_/ghu_(GitHub)、github_pat_、Slack xox*、AWS AKIA |
[REDACTED:TOKEN] |
JWT(eyJ... 三段式 token) |
[REDACTED:AUTH] |
Authorization: Bearer/Basic ... 头中的凭证 |
[REDACTED:PRIVATE_KEY] |
PEM 私钥块(-----BEGIN ... PRIVATE KEY-----) |
[REDACTED:CREDENTIAL] |
URL 中 user:password@ 形式内嵌的账密 |
几个值得注意的细节:
- 中文标签也认:正则同时覆盖
密钥 / 密码 / 令牌等中文标签,中英混合文本中的密码:"..."同样会被遮蔽(见 lib/privacy.test.ts 中的测试用例); - 环境变量精确匹配:服务端会收集名为
*KEY/TOKEN/SECRET/PASSWORD/CREDENTIAL*、长度 ≥ 8 且非NEXT_PUBLIC_的环境变量值,做全文精确替换,覆盖"无规律前缀"的真实密钥(见 lib/privacy-server.ts); - 防误伤:
token count: 42、max_tokens=100这类普通技术词不会被误标。
隐私边界:凭据在 4 个位置被拦截
Pensieve 在数据流的关键节点设置了过滤屏障,官方完整说明见 docs/PRIVACY.md。
1️⃣ 请求模型前:输入先过滤
Live 模式把查询和召回的记忆发给模型服务前,query 和每条记忆的 content 都会先过一遍 redactSensitiveText()(lib/openai.ts)。密钥在这一步就出不了本机。
2️⃣ 生成之后:回答、摘要、解释全过滤
模型返回的结构化内容——answer、summary、每条记忆的 memory_explanations、CDV 审查理由——由 redactGeneratedResponse() 统一过滤(lib/privacy.ts)。即使模型"复述"了记忆里的密钥,界面上看到的也只是 [REDACTED:API_KEY]。Mock 本地模拟的回答同样走这条过滤链,不存在"本地模式不防护"的后门。
3️⃣ 治理报告:落盘前先遮蔽
治理报告在写入 JSON/Markdown 之前先过滤(lib/pensieve-governance-repository.ts),旧报告则在读取时过滤,不会悄悄改写你已有的文件。
4️⃣ 错误信息:只返回过滤后的消息
上游 API 出错时,服务端只返回 safeErrorMessage() 处理过的消息,不外泄完整异常对象、请求头或堆栈(lib/privacy-server.ts);前端渲染错误时再做一次过滤。
诚实的边界:它做不到什么
这一部分比"它能做什么"更重要,docs/PRIVACY.md 明确列出了局限:
- 不是通用 PII 分类器:人名、邮箱、地址、财务/医疗等个人信息不会被识别;
- 绕过手段依然存在:混淆、Base64 编码、过短且无标签的密码可能逃过检测,且存在误报可能;
- 原始数据不改写:记忆库本体、JSON/文本备份、导出文件保持原样——"过滤生成内容 ≠ 从存储中删除"。旧报告、浏览器历史、旧日志里的密钥它管不到;
- 服务边界:Pensieve 默认单用户、仅 loopback 访问,不提供鉴权,也不代表公网部署是安全的。
所以官方给出的安全建议很直接:不要往记忆里存凭据;分享任何导出内容前人工审阅;密钥一旦暴露,立即轮换——遮蔽机制是防线,不是保险柜。
如何验证遮蔽真的生效?
Pensieve 把"可验证"当作品质要求:
- 单元测试:lib/privacy.test.ts 覆盖各类凭据格式、幂等性、中文标签、结构化字段保留、环境变量精确匹配与报告落盘过滤;
- 浏览器端验收:scripts/check-privacy-ui.mjs 用合成密钥(非真实 key)走完整链路——导入含密钥的记忆 → 发起查询 → 断言 API 响应、界面、错误提示中均无明文,且原始记忆库内容保持未改写;
- 发布卫生:开发诊断路由
/cdv-test已从路由和发布包中移除,生产环境返回 404。
新手快速清单
| 场景 | 建议 |
|---|---|
| 记忆库里存 API Key? | ❌ 不要存;这是最有效的防护 |
| 想把导出/报告发给别人? | 先看一眼有没有 [REDACTED:...],再人工复查原文 |
| 怀疑密钥已被模型见过? | 立即在服务商后台轮换密钥 |
| 想本地跑起来体验? | Node.js 22.18+,npm ci && npm run dev,Mock 模式无需任何密钥 |
一句话总结:Pensieve 用一套简洁的 [REDACTED:...] 标记体系,在输入、生成、报告、错误四个位置对 AI 记忆链路做了纵深凭据遮蔽。它不承诺"绝对不泄露",但把该防的位置防住了、把没防住的边界讲清楚了——这恰恰是评估任何隐私功能时最该有的态度。

