AutoCVE技术拆解:Continue/Terminal状态机+Nudge纠偏,如何避免AI Agent"假完成"

原创2026-10-11 17:19:331,350 阅读

AutoCVE技术拆解:Continue/Terminal状态机+Nudge纠偏,如何避免AI Agent"假完成"

🤖 在 AutoCVE——一个面向源码审计与 CVE 报告的 AI Agent 自动化漏洞挖掘平台——的 Finding Agent 开发中,团队反复遇到一个典型难题:AI Agent 的"假完成"。模型经常自然语言说"我已经完成审计",但系统层面它并没有真的完成。AutoCVE 用 Continue/Terminal 状态机 + Nudge 纠偏机制,把"完成"从一段漂亮的话,变成可验证的结构化动作。

一、AI Agent 的"假完成"有多常见?

在代码审计和 CVE 挖掘场景里,"假完成"通常表现为:

  • 它没有调用任何终止工具
  • 它没有提交结构化漏洞结果
  • 它只分析了一个文件就宣布完成
  • 它说"我会继续检查",但没有实际调用任何工具
  • 它输出了看似完整的漏洞报告,但 source(污点源)、sink(危险汇聚点)、PoC、影响范围并不完整

在聊天场景里,这只是回答质量问题;但在安全审计场景里,这是流程可靠性问题——不可复核的结果一旦入库,后续的漏洞验证、报告生成、CVE 提交流程就全部建立在沙子上。

二、先看清楚 Agent 的循环骨架 🔄

AutoCVE 的整体流程是 Orchestrator → Recon → Scan → Finding → Triage → Verification 的多 Agent 流水线,本文聚焦其中的 Finding Agent(漏洞深挖阶段):

AutoCVE 审计工作流与 Finding Agent 在漏洞挖掘中的位置

Finding Agent 的核心是一个 ReAct 循环,每一轮结束后都会进入状态判断——这正是 Continue/Terminal 状态机的用武之地:

AutoCVE ReAct 循环流程图,展示 Continue、Terminal 与 Nudge 三条分支

循环的每个 Turn 大致做这几件事:

  1. 加载 Session 快照与 Query State
  2. 合并运行时上下文(项目 / Skills / Memory / Handoff)
  3. 整理 transcript(裁剪 / 压缩 / 预算控制)
  4. 构造消息并调用 LLM(原生 tool calling)
  5. 判断本轮结果:Continue 还是 Terminal,为什么

状态机的实现位于 query_loop.py,状态转移的构造函数在 query_transitions.py,所有 Continue / Terminal 原因的定义集中在 models.py。

三、Continue / Terminal:把"为什么继续、为什么结束"记录下来的状态机

一个 Agent 的完成状态其实有两层:

层面 例子 可信度
模型文本里的状态 "我已经完成审计,发现了一个 SSRF 漏洞" ⚠️ 低
Runtime 里的状态 是否调用了终止工具、是否提交合法 payload ✅ 高

Runtime 真正关心的是:有没有调用工具确认代码路径、有没有读取 source 和 sink 所在文件、有没有形成利用链、有没有记录文件路径与行号、有没有提交合法的结构化结果、有没有执行终止动作。

AutoCVE 的做法是:自然语言不能直接代表状态完成,完成必须由 Runtime 状态和终止动作共同确认。

每一轮结束后只有两类结果:Continue(继续下一轮)或 Terminal(结束当前 Runtime)。但关键在于——不只是返回一个 boolean,而是记录具体原因。

常见的 Continue 原因

原因 含义
next_turn 本轮执行了工具调用,工具结果回来后进入下一轮让模型继续分析
terminal_action_nudge 当前阶段要求终止动作,但模型没有调用
legacy_tool_syntax_nudge 模型输出了纯文本伪工具语法(如 Action: Read),没有被真正执行
token_budget_continuation 还有上下文预算且证据不足,提醒模型继续查证而不是草率收尾
stop_hook_blocking Stop Hook 判断不满足结束条件(如缺少关键字段),强制阻断结束

常见的 Terminal 原因

  • completed:正常完成。理想情况下 completion mode 是 finalize_tool,terminal action 是 finalize_finding
  • max_turns:达到最大轮次,防止 Agent 无限循环的保护
  • model_error:模型调用失败且无法恢复
  • aborted_tools:工具执行被中止
  • natural_end_without_terminal_action:模型自然结束但没调用终止工具——这不是理想完成,而是被明确标记为不完整

这种设计的好处是:每一次循环结束的原因都可解释、可追踪、可回放,而不是一个笼统的 done = True。

四、Terminal Action:把"结束"变成一次带校验的提交动作 ✍️

AutoCVE 里最重要的终止动作是 FinalizeFinding,它不是普通工具,而是 Finding 阶段的终点工具。

DeepAudit 前端演示,展示审计 Agent 运行过程

调用 FinalizeFinding 成功意味着:

  1. 当前 Finding 阶段可以结束
  2. 最终结构化结果可以被读取
  3. 后续漏洞管理和报告生成流程可以承接

它和让模型输出 Markdown 有本质区别:Markdown 只是一段文本,而 FinalizeFinding 是一个带严格 schema 的结构化提交动作。它的输入契约定义在 final_finding_contract.py,每个漏洞必须包含完整字段:

  • 定位类:vulnerability_type、severity、file_path、line_start / line_end、code_snippet
  • 利用链类:source、sink、exploit_chain(逐步说明数据如何流入危险点)
  • 证据类:poc(分步复现)、impact、cve_justification(为什么具备 CVE 价值)、verification_notes
  • 判定类:confidence、needs_verification、verdict

任何一个关键字段缺失,工具会直接拒绝本次提交,返回缺失字段清单,要求 Agent 继续调用工具补齐证据后重新提交。工具实现见 finalize_finding.py。

也就是说:结论不完整,就没法"完成"。 这在工程层面直接堵死了"半截报告"混入下游流程的可能。

五、Nudge 纠偏:运行时给模型发"流程提醒" 🚀

Nudge 可以理解成 Runtime 给模型的"流程提醒"。它不是让模型变聪明,而是让模型回到正确轨道上。AutoCVE 有四类 Nudge:

1. Terminal Action Nudge(最关键)

当模型说"审计完成"却没调用 FinalizeFinding 时,Runtime 会注入一条合成消息提醒它:

下一条响应必须二选一:如果还需要收集证据,立即调用 Read/Grep/Glob 等工具;如果已经充分完成攻击面覆盖,必须调用 FinalizeFinding 提交结构化结果。不要只用自然语言宣布"完成"。

这条消息的定义可以直接在 query_loop.py 中看到。

同时 AutoCVE 限制了 Nudge 次数(默认上限为 2,见 bridge.py)。超过上限后如果模型仍未提交终止动作,Runtime 会将其标记为 natural_end_without_terminal_action(不完整),而不是强行把自然语言包装成成功结果。

这个取舍很重要:宁可把一次审计标记为不完整,也不要把不可复核的结果当成漏洞入库。

2. Legacy Tool Syntax Nudge(伪工具语法纠偏)

很多模型在 ReAct 任务中习惯输出文本版工具调用:

Action: Grep
Action Input: {"pattern": "exec("}

但如果系统使用的是原生 tool calling,这段文本不会被后端执行。于是 AutoCVE 会触发 legacy_tool_syntax_nudge,提醒模型改用模型提供方原生的结构化工具调用。这避免了"前端看起来有动作、后端什么都没执行"的假象。

3. Continue Intent Nudge(有意图无行动)

还有一种常见情况:模型说"我需要继续检查这个参数是否能流入危险函数",但没有调用任何工具。

在 query_loop.py 中可以看到,Runtime 内置了一组中英文"继续意图"正则模式(如"让我继续"、"let me check"、"I will inspect" 等)来识别这种"继续意图但没有行动"的情况,并强制要求模型实际调用工具,而不是只描述计划。这能显著减少 Agent 在原地自言自语。

4. Token Budget Continuation(预算内续查)

如果模型想提前收尾,但还有上下文预算且证据不足,query_token_budget.py 会判定 should_continue,注入一条提醒让它继续调查,直到"穷尽可信攻击路径或拿到更充分的高危证据"为止。

此外,Stop Hook 机制(实现见 query_stop_hooks.py)还可以在模型试图结束前做最后一道检查:缺关键字段、约束未满足时直接阻断结束(stop_hook_blocking)。

六、为什么简单的 while 循环不够用?

很多 Agent demo 的循环逻辑类似这样:

while not done:
    call_model()
    if tool_calls:
        run_tools()
    else:
        break

问题在于:"没有工具调用"并不代表任务完成。 它可能意味着——

  • 模型真的完成了
  • 模型卡住了
  • 模型忘了调用工具
  • 模型输出了伪工具语法
  • 模型想继续但没有行动
  • 模型提前总结了

这些情况无法用一个 else: break 处理。AutoCVE 的 QueryLoop 把这些分支全部拆开,用具体的 transition 记录原因,再决定是继续、纠偏还是终止。

七、对 CVE 挖掘的意义 🛡️

一个可报告的漏洞至少要能回答:漏洞在哪里、输入从哪里来、经过哪些处理、最终流向哪个危险点、攻击者需要什么条件、影响是什么、为什么具备 CVE 价值。

如果 Agent 过早结束,这些字段很可能不完整。Continue / Terminal / Nudge 的作用,就是防止系统被一段漂亮但不完整的自然语言骗过去——这也是 AutoCVE 从"演示级 Agent"走向"可交付的自动化审计流水线"的关键工程决策。

八、经验总结:做 Agent 工程化的 6 条原则

  1. 终止必须是动作,不应该只是一句文本
  2. 状态转换必须可记录,不能只有 done = true
  3. 工具调用必须走后端执行链路,不能依赖伪工具文本
  4. 发现一个漏洞 ≠ 任务完成(FinalizeFinding 的工具描述里也明确禁止"发现第一个漏洞就提前收尾")
  5. 结果不完整时宁可标记 incomplete,也不要强行包装成成功
  6. Nudge 要有限次,否则纠偏机制自己会变成死循环

写在最后

AutoCVE 的 Continue / Terminal / Nudge 机制,本质上是在给 Agent 加一套"流程骨架":模型负责推理和决策,Runtime 负责约束状态、执行工具、记录证据和判断终止。

如果你也在做 Agent 工程化,尤其是代码审计、安全验证、运维、数据分析这类高风险任务,建议尽早把"完成条件"从自然语言里拿出来,变成结构化动作和可审计状态。感兴趣的读者可以对照源码进一步拆解,核心实现都在 backend/app/services/finding_runtime/ 目录下;更多架构细节可参考 架构设计文档,官方营销侧的系列技术拆解见 docs/marketing/zh/ 目录。

登录后查看全文
AutoCVE