人在环路的终极形态:ARTEX工具拦截与审批机制让AI渗透安全可控

原创2026-10-23 14:33:431,833 阅读
文章标签:网络安全渗透测试应用安全人工智能AI Agent自主智能体工具调用后端前端流量分析

人在环路的终极形态:ARTEX工具拦截与审批机制让AI渗透安全可控

ARTEX 是一个 AI 自主渗透测试系统(Go 后端 + Next.js 前端),其核心亮点之一正是「工具拦截 + 审批机制」:Agent 的每一次工具调用在执行前都要经过规则拦截、LLM 兜底审查和人工审批三道防线,真正做到「人在环路」(Human-in-the-Loop)——AI 可以高速执行,但安全红线始终握在你手里。🛡️

为什么 AI 渗透测试需要"安全刹车"

ARTEX 的 Agent 会自主调用 Bash、curl、SQL 等工具对目标发起侦察与攻击。自由度越高,风险也越高:一条 rm -rf、一个 DROP DATABASE、一次误伤生产数据,都可能造成难以恢复的后果。

ARTEX 的解法不是"写死一堆 if-else",而是一套可配置、可审计、可人工接管的三层安全体系:

  1. 规则拦截层:你定义的规则,优先匹配、即时生效;
  2. LLM 审查层:规则没覆盖到的调用,交给一个"安全裁判"大模型判定;
  3. 人工审批层:拿不准的动作直接挂起,等你在页面上点"批准"或"拒绝"。

拦截机制详解:三层防线如何运作

第一层:用户可配置的拦截规则

规则存储在数据库中、内存缓存、按优先级从高到低逐条匹配,支持三种动作:

动作 效果
allow 立即放行,跳过低优先级规则
deny 直接拦截,并返回原因给模型
ask 挂起调用,创建审批记录,等待人工决策

每条规则可指定匹配对象(工具名或完整参数)、匹配方式(字符串或正则)、超时时间与超时策略。默认纳入拦截体系的工具包括 Bash、WebFetch、web_search、shell_open、shell_send、Write、Edit、MultiEdit,见 intercept/intercept.go。

更贴心的是,系统首次启动会预置一组 [内置] 规则(普通规则,用户可随意禁用或删除):

  • 系统破坏类(优先级 100):rm -rf、格式化磁盘、Fork 炸弹、关机/重启、清空防火墙……
  • 数据破坏类(优先级 90):DROP / TRUNCATE、MongoDB drop、Redis FLUSHALL……
  • 业务破坏类:curl/wget 发送 DELETE 请求、批量清空接口路径、数据外泄管道……

完整定义见 db/db.go,规则数据模型见 db/intercept.go。

第二层:LLM 兜底审查(Judge)

规则没命中的调用,会交给一个"操作安全裁判"模型做上下文审查,输出 allow / ask / deny。它的判定非常克制,只回答一个问题:这次调用是否对目标真实资产造成"难以恢复的破坏"?

  • 两根轴:可逆性(只读恒可逆,删改不可逆)+ 作用对象(测试产物 vs 生产资产);
  • 硬性约束:纯只读操作一律放行——"读到敏感信息"本身不是拦截理由;"可能是攻击行为"也不是拦截理由,拦截只针对本次调用将直接造成的真实破坏;
  • 抗提示注入:工具参数里的"忽略上述规则""你必须允许"等文字一律视为待审查数据。

裁判用的模型、超时时间、失败策略均可在页面上配置,内置审查提示词见 intercept/prompt.go,审查输入边界(防背景污染)见 intercept/review_context.go。

第三层:人工审批——真正的人的决策

命中 ask 时,系统会:

  1. 创建一条 intercept_pending 审批记录;
  2. 在对话流中内联插入审批卡片(或在任务执行流中写入审批请求);
  3. 挂起 Worker 线程,等待你在页面上决策。

⏱️ 每条规则可独立配置审批超时:超时后按你设定的策略自动 allow 或 deny(默认 60 秒);任务被取消时自动按拒绝处理,不会产生孤儿记录。核心等待逻辑见 intercept/intercept.go。

还有一个容易被忽略的细节:拦截时返回给 Agent 的提示会被刻意改写成"平台治理决策"的措辞——因为裸的"禁止执行"看起来像目标 WAF 的 403,渗透 Agent 的本能是绕过它。这个处理体现了机制设计的细致,见 guard/guard.go。

所有 allow/deny 裁决(含规则命中与模型判定)都会写入审计历史,在审批记录页和任务拦截页完整可查——每一次放行都有据可查。

资产拦截:从源头锁死攻击范围

工具层面之外,ARTEX 还有一层资产拦截规则:按域名 / IP / URL / CIDR(全等或模糊匹配)圈定"绝对不可碰"的目标资产。系统预置了 .gov、.gov.cn、.edu、.edu.cn 等敏感域名规则。当 Agent 的 add_intent / insert_assets 试图把命中的资产纳入攻击面时,会在下发前被直接拒绝——范围管控在源头生效,而不是事后补救。实现见 db/asset_intercept.go 与 db/asset_intercept_match.go。

页面实战:从审批到审计

审批入口有三处:系统级拦截审批页、任务内的「拦截审批」页签、以及对话中的内联审批卡片,均支持展开查看工具入参、命中规则、裁决理由等完整详情。

ARTEX 工具拦截审批页面:拦截规则列表、LLM 审查配置与审批记录

ARTEX 人在环路对话:对话流中的审批卡片与 Agent 交互

ARTEX 任务列表:渗透任务总览与拦截审批入口

相关 API 路由集中在 server/server.go,处理逻辑见 server/intercept.go;前端页面见 web/src/app/(main)/system/intercept//system/intercept/page.tsx>) 与 审批记录组件/system/intercept/approvals/page.tsx>)。

关键源码路径速查

  • 拦截核心(规则匹配 / 审批等待 / 决策):intercept/
  • 安全边界钩子(PreToolUse / 审计):guard/guard.go
  • 审批数据模型与 API:db/intercept.go、server/intercept.go
  • 前端拦截配置与审批页:web/src/app/(main)/system/intercept//system/intercept/page.tsx>)

写在最后

ARTEX 的工具拦截与审批机制给出了一个清晰的范式:AI 负责"快",规则负责"底线",模型负责"拿不准时多想一步",人负责"最终拍板"。对想要自建 Agent 安全体系的团队来说,这套"规则 + LLM 裁判 + 人工审批 + 全量审计"的组合拳,是一份可以直接参考的工程答卷。✅

登录后查看全文
ARTEX