人在环路的终极形态:ARTEX工具拦截与审批机制让AI渗透安全可控
人在环路的终极形态:ARTEX工具拦截与审批机制让AI渗透安全可控
ARTEX 是一个 AI 自主渗透测试系统(Go 后端 + Next.js 前端),其核心亮点之一正是「工具拦截 + 审批机制」:Agent 的每一次工具调用在执行前都要经过规则拦截、LLM 兜底审查和人工审批三道防线,真正做到「人在环路」(Human-in-the-Loop)——AI 可以高速执行,但安全红线始终握在你手里。🛡️
为什么 AI 渗透测试需要"安全刹车"
ARTEX 的 Agent 会自主调用 Bash、curl、SQL 等工具对目标发起侦察与攻击。自由度越高,风险也越高:一条 rm -rf、一个 DROP DATABASE、一次误伤生产数据,都可能造成难以恢复的后果。
ARTEX 的解法不是"写死一堆 if-else",而是一套可配置、可审计、可人工接管的三层安全体系:
- 规则拦截层:你定义的规则,优先匹配、即时生效;
- LLM 审查层:规则没覆盖到的调用,交给一个"安全裁判"大模型判定;
- 人工审批层:拿不准的动作直接挂起,等你在页面上点"批准"或"拒绝"。
拦截机制详解:三层防线如何运作
第一层:用户可配置的拦截规则
规则存储在数据库中、内存缓存、按优先级从高到低逐条匹配,支持三种动作:
| 动作 | 效果 |
|---|---|
allow |
立即放行,跳过低优先级规则 |
deny |
直接拦截,并返回原因给模型 |
ask |
挂起调用,创建审批记录,等待人工决策 |
每条规则可指定匹配对象(工具名或完整参数)、匹配方式(字符串或正则)、超时时间与超时策略。默认纳入拦截体系的工具包括 Bash、WebFetch、web_search、shell_open、shell_send、Write、Edit、MultiEdit,见 intercept/intercept.go。
更贴心的是,系统首次启动会预置一组 [内置] 规则(普通规则,用户可随意禁用或删除):
- 系统破坏类(优先级 100):
rm -rf、格式化磁盘、Fork 炸弹、关机/重启、清空防火墙…… - 数据破坏类(优先级 90):
DROP/TRUNCATE、MongoDB drop、Redis FLUSHALL…… - 业务破坏类:curl/wget 发送 DELETE 请求、批量清空接口路径、数据外泄管道……
完整定义见 db/db.go,规则数据模型见 db/intercept.go。
第二层:LLM 兜底审查(Judge)
规则没命中的调用,会交给一个"操作安全裁判"模型做上下文审查,输出 allow / ask / deny。它的判定非常克制,只回答一个问题:这次调用是否对目标真实资产造成"难以恢复的破坏"?
- 两根轴:可逆性(只读恒可逆,删改不可逆)+ 作用对象(测试产物 vs 生产资产);
- 硬性约束:纯只读操作一律放行——"读到敏感信息"本身不是拦截理由;"可能是攻击行为"也不是拦截理由,拦截只针对本次调用将直接造成的真实破坏;
- 抗提示注入:工具参数里的"忽略上述规则""你必须允许"等文字一律视为待审查数据。
裁判用的模型、超时时间、失败策略均可在页面上配置,内置审查提示词见 intercept/prompt.go,审查输入边界(防背景污染)见 intercept/review_context.go。
第三层:人工审批——真正的人的决策
命中 ask 时,系统会:
- 创建一条
intercept_pending审批记录; - 在对话流中内联插入审批卡片(或在任务执行流中写入审批请求);
- 挂起 Worker 线程,等待你在页面上决策。
⏱️ 每条规则可独立配置审批超时:超时后按你设定的策略自动 allow 或 deny(默认 60 秒);任务被取消时自动按拒绝处理,不会产生孤儿记录。核心等待逻辑见 intercept/intercept.go。
还有一个容易被忽略的细节:拦截时返回给 Agent 的提示会被刻意改写成"平台治理决策"的措辞——因为裸的"禁止执行"看起来像目标 WAF 的 403,渗透 Agent 的本能是绕过它。这个处理体现了机制设计的细致,见 guard/guard.go。
所有 allow/deny 裁决(含规则命中与模型判定)都会写入审计历史,在审批记录页和任务拦截页完整可查——每一次放行都有据可查。
资产拦截:从源头锁死攻击范围
工具层面之外,ARTEX 还有一层资产拦截规则:按域名 / IP / URL / CIDR(全等或模糊匹配)圈定"绝对不可碰"的目标资产。系统预置了 .gov、.gov.cn、.edu、.edu.cn 等敏感域名规则。当 Agent 的 add_intent / insert_assets 试图把命中的资产纳入攻击面时,会在下发前被直接拒绝——范围管控在源头生效,而不是事后补救。实现见 db/asset_intercept.go 与 db/asset_intercept_match.go。
页面实战:从审批到审计
审批入口有三处:系统级拦截审批页、任务内的「拦截审批」页签、以及对话中的内联审批卡片,均支持展开查看工具入参、命中规则、裁决理由等完整详情。
相关 API 路由集中在 server/server.go,处理逻辑见 server/intercept.go;前端页面见 web/src/app/(main)/system/intercept//system/intercept/page.tsx>) 与 审批记录组件/system/intercept/approvals/page.tsx>)。
关键源码路径速查
- 拦截核心(规则匹配 / 审批等待 / 决策):intercept/
- 安全边界钩子(PreToolUse / 审计):guard/guard.go
- 审批数据模型与 API:db/intercept.go、server/intercept.go
- 前端拦截配置与审批页:web/src/app/(main)/system/intercept//system/intercept/page.tsx>)
写在最后
ARTEX 的工具拦截与审批机制给出了一个清晰的范式:AI 负责"快",规则负责"底线",模型负责"拿不准时多想一步",人负责"最终拍板"。对想要自建 Agent 安全体系的团队来说,这套"规则 + LLM 裁判 + 人工审批 + 全量审计"的组合拳,是一份可以直接参考的工程答卷。✅


