AutoCVE技术拆解:Continue/Terminal状态机+Nudge纠偏,如何避免AI Agent"假完成"
AutoCVE技术拆解:Continue/Terminal状态机+Nudge纠偏,如何避免AI Agent"假完成"
🤖 在 AutoCVE——一个面向源码审计与 CVE 报告的 AI Agent 自动化漏洞挖掘平台——的 Finding Agent 开发中,团队反复遇到一个典型难题:AI Agent 的"假完成"。模型经常自然语言说"我已经完成审计",但系统层面它并没有真的完成。AutoCVE 用 Continue/Terminal 状态机 + Nudge 纠偏机制,把"完成"从一段漂亮的话,变成可验证的结构化动作。
一、AI Agent 的"假完成"有多常见?
在代码审计和 CVE 挖掘场景里,"假完成"通常表现为:
- 它没有调用任何终止工具
- 它没有提交结构化漏洞结果
- 它只分析了一个文件就宣布完成
- 它说"我会继续检查",但没有实际调用任何工具
- 它输出了看似完整的漏洞报告,但 source(污点源)、sink(危险汇聚点)、PoC、影响范围并不完整
在聊天场景里,这只是回答质量问题;但在安全审计场景里,这是流程可靠性问题——不可复核的结果一旦入库,后续的漏洞验证、报告生成、CVE 提交流程就全部建立在沙子上。
二、先看清楚 Agent 的循环骨架 🔄
AutoCVE 的整体流程是 Orchestrator → Recon → Scan → Finding → Triage → Verification 的多 Agent 流水线,本文聚焦其中的 Finding Agent(漏洞深挖阶段):
Finding Agent 的核心是一个 ReAct 循环,每一轮结束后都会进入状态判断——这正是 Continue/Terminal 状态机的用武之地:
循环的每个 Turn 大致做这几件事:
- 加载 Session 快照与 Query State
- 合并运行时上下文(项目 / Skills / Memory / Handoff)
- 整理 transcript(裁剪 / 压缩 / 预算控制)
- 构造消息并调用 LLM(原生 tool calling)
- 判断本轮结果:Continue 还是 Terminal,为什么
状态机的实现位于 query_loop.py,状态转移的构造函数在 query_transitions.py,所有 Continue / Terminal 原因的定义集中在 models.py。
三、Continue / Terminal:把"为什么继续、为什么结束"记录下来的状态机
一个 Agent 的完成状态其实有两层:
| 层面 | 例子 | 可信度 |
|---|---|---|
| 模型文本里的状态 | "我已经完成审计,发现了一个 SSRF 漏洞" | ⚠️ 低 |
| Runtime 里的状态 | 是否调用了终止工具、是否提交合法 payload | ✅ 高 |
Runtime 真正关心的是:有没有调用工具确认代码路径、有没有读取 source 和 sink 所在文件、有没有形成利用链、有没有记录文件路径与行号、有没有提交合法的结构化结果、有没有执行终止动作。
AutoCVE 的做法是:自然语言不能直接代表状态完成,完成必须由 Runtime 状态和终止动作共同确认。
每一轮结束后只有两类结果:Continue(继续下一轮)或 Terminal(结束当前 Runtime)。但关键在于——不只是返回一个 boolean,而是记录具体原因。
常见的 Continue 原因
| 原因 | 含义 |
|---|---|
next_turn |
本轮执行了工具调用,工具结果回来后进入下一轮让模型继续分析 |
terminal_action_nudge |
当前阶段要求终止动作,但模型没有调用 |
legacy_tool_syntax_nudge |
模型输出了纯文本伪工具语法(如 Action: Read),没有被真正执行 |
token_budget_continuation |
还有上下文预算且证据不足,提醒模型继续查证而不是草率收尾 |
stop_hook_blocking |
Stop Hook 判断不满足结束条件(如缺少关键字段),强制阻断结束 |
常见的 Terminal 原因
completed:正常完成。理想情况下 completion mode 是finalize_tool,terminal action 是finalize_findingmax_turns:达到最大轮次,防止 Agent 无限循环的保护model_error:模型调用失败且无法恢复aborted_tools:工具执行被中止natural_end_without_terminal_action:模型自然结束但没调用终止工具——这不是理想完成,而是被明确标记为不完整
这种设计的好处是:每一次循环结束的原因都可解释、可追踪、可回放,而不是一个笼统的 done = True。
四、Terminal Action:把"结束"变成一次带校验的提交动作 ✍️
AutoCVE 里最重要的终止动作是 FinalizeFinding,它不是普通工具,而是 Finding 阶段的终点工具。
调用 FinalizeFinding 成功意味着:
- 当前 Finding 阶段可以结束
- 最终结构化结果可以被读取
- 后续漏洞管理和报告生成流程可以承接
它和让模型输出 Markdown 有本质区别:Markdown 只是一段文本,而 FinalizeFinding 是一个带严格 schema 的结构化提交动作。它的输入契约定义在 final_finding_contract.py,每个漏洞必须包含完整字段:
- 定位类:
vulnerability_type、severity、file_path、line_start/line_end、code_snippet - 利用链类:
source、sink、exploit_chain(逐步说明数据如何流入危险点) - 证据类:
poc(分步复现)、impact、cve_justification(为什么具备 CVE 价值)、verification_notes - 判定类:
confidence、needs_verification、verdict
任何一个关键字段缺失,工具会直接拒绝本次提交,返回缺失字段清单,要求 Agent 继续调用工具补齐证据后重新提交。工具实现见 finalize_finding.py。
也就是说:结论不完整,就没法"完成"。 这在工程层面直接堵死了"半截报告"混入下游流程的可能。
五、Nudge 纠偏:运行时给模型发"流程提醒" 🚀
Nudge 可以理解成 Runtime 给模型的"流程提醒"。它不是让模型变聪明,而是让模型回到正确轨道上。AutoCVE 有四类 Nudge:
1. Terminal Action Nudge(最关键)
当模型说"审计完成"却没调用 FinalizeFinding 时,Runtime 会注入一条合成消息提醒它:
下一条响应必须二选一:如果还需要收集证据,立即调用 Read/Grep/Glob 等工具;如果已经充分完成攻击面覆盖,必须调用
FinalizeFinding提交结构化结果。不要只用自然语言宣布"完成"。
这条消息的定义可以直接在 query_loop.py 中看到。
同时 AutoCVE 限制了 Nudge 次数(默认上限为 2,见 bridge.py)。超过上限后如果模型仍未提交终止动作,Runtime 会将其标记为 natural_end_without_terminal_action(不完整),而不是强行把自然语言包装成成功结果。
这个取舍很重要:宁可把一次审计标记为不完整,也不要把不可复核的结果当成漏洞入库。
2. Legacy Tool Syntax Nudge(伪工具语法纠偏)
很多模型在 ReAct 任务中习惯输出文本版工具调用:
Action: Grep
Action Input: {"pattern": "exec("}
但如果系统使用的是原生 tool calling,这段文本不会被后端执行。于是 AutoCVE 会触发 legacy_tool_syntax_nudge,提醒模型改用模型提供方原生的结构化工具调用。这避免了"前端看起来有动作、后端什么都没执行"的假象。
3. Continue Intent Nudge(有意图无行动)
还有一种常见情况:模型说"我需要继续检查这个参数是否能流入危险函数",但没有调用任何工具。
在 query_loop.py 中可以看到,Runtime 内置了一组中英文"继续意图"正则模式(如"让我继续"、"let me check"、"I will inspect" 等)来识别这种"继续意图但没有行动"的情况,并强制要求模型实际调用工具,而不是只描述计划。这能显著减少 Agent 在原地自言自语。
4. Token Budget Continuation(预算内续查)
如果模型想提前收尾,但还有上下文预算且证据不足,query_token_budget.py 会判定 should_continue,注入一条提醒让它继续调查,直到"穷尽可信攻击路径或拿到更充分的高危证据"为止。
此外,Stop Hook 机制(实现见 query_stop_hooks.py)还可以在模型试图结束前做最后一道检查:缺关键字段、约束未满足时直接阻断结束(stop_hook_blocking)。
六、为什么简单的 while 循环不够用?
很多 Agent demo 的循环逻辑类似这样:
while not done:
call_model()
if tool_calls:
run_tools()
else:
break
问题在于:"没有工具调用"并不代表任务完成。 它可能意味着——
- 模型真的完成了
- 模型卡住了
- 模型忘了调用工具
- 模型输出了伪工具语法
- 模型想继续但没有行动
- 模型提前总结了
这些情况无法用一个 else: break 处理。AutoCVE 的 QueryLoop 把这些分支全部拆开,用具体的 transition 记录原因,再决定是继续、纠偏还是终止。
七、对 CVE 挖掘的意义 🛡️
一个可报告的漏洞至少要能回答:漏洞在哪里、输入从哪里来、经过哪些处理、最终流向哪个危险点、攻击者需要什么条件、影响是什么、为什么具备 CVE 价值。
如果 Agent 过早结束,这些字段很可能不完整。Continue / Terminal / Nudge 的作用,就是防止系统被一段漂亮但不完整的自然语言骗过去——这也是 AutoCVE 从"演示级 Agent"走向"可交付的自动化审计流水线"的关键工程决策。
八、经验总结:做 Agent 工程化的 6 条原则
- 终止必须是动作,不应该只是一句文本
- 状态转换必须可记录,不能只有
done = true - 工具调用必须走后端执行链路,不能依赖伪工具文本
- 发现一个漏洞 ≠ 任务完成(
FinalizeFinding的工具描述里也明确禁止"发现第一个漏洞就提前收尾") - 结果不完整时宁可标记 incomplete,也不要强行包装成成功
- Nudge 要有限次,否则纠偏机制自己会变成死循环
写在最后
AutoCVE 的 Continue / Terminal / Nudge 机制,本质上是在给 Agent 加一套"流程骨架":模型负责推理和决策,Runtime 负责约束状态、执行工具、记录证据和判断终止。
如果你也在做 Agent 工程化,尤其是代码审计、安全验证、运维、数据分析这类高风险任务,建议尽早把"完成条件"从自然语言里拿出来,变成结构化动作和可审计状态。感兴趣的读者可以对照源码进一步拆解,核心实现都在 backend/app/services/finding_runtime/ 目录下;更多架构细节可参考 架构设计文档,官方营销侧的系列技术拆解见 docs/marketing/zh/ 目录。


