Clearwing模型角色与多Provider路由:如何让前沿大模型与本地Ollama协同挖洞并控制成本
Clearwing模型角色与多Provider路由:如何让前沿大模型与本地Ollama协同挖洞并控制成本
Clearwing 是一款开源的自主漏洞扫描器与源码猎手,它内置了模型角色(Model Roles)与多 Provider 路由机制:你可以让廉价的本地 Ollama 模型承担文件排序、去重等重复劳动,只在真正卡壳时把任务升级给 Claude、GPT 等前沿大模型。本文手把手讲清楚这套协同挖洞与成本控制方案如何配置、如何验证。
为什么挖洞 Agent 需要"角色"抽象 🎯
一次 sourcehunt 扫描中,Clearwing 会在十几个位置调用 LLM:给文件打分(ranker)、逐文件挖掘漏洞(hunter)、对抗式复核(verifier)、漏洞利用推演(sourcehunt_exploit)……如果所有任务都走同一个"最聪明"的模型,账单会非常难看。
Clearwing 的解法是分层:
Provider 连接 / 鉴权 / 协议
│
Model 身份 + 固有能力(它"能做什么")
│
Role binding 模型 + 推理强度 + 输出预算("买多少认知")
│
Task route 调用点使用哪个角色("这个工作流怎么跑")
│
Agent 运行时调用
关键思想:能力挂在模型上,策略挂在绑定上。同一个 qwen2.5-coder:32b,既可以是低推理强度的协调者,也可以是高推理强度的研究员——角色层里永远不出现具体模型名,这就是 hunter 在 Anthropic、OpenRouter 或本地 Ollama 上含义不变的原因。
六大模型角色:成本逻辑一目了然
| 角色 | 层级 | 推理强度 | 输出预算 | 职责 |
|---|---|---|---|---|
utility |
small | 无 | 8K | 排序、分类、去重、摘要、报告 |
coordinator |
mid | 低 | 8K | 制定计划、分派任务、跟踪进度 |
researcher |
mid | 高 | 32K | 通过工具与证据调查安全问题 |
builder |
mid | 高 | 32K | 产出可执行产物(PoC、补丁) |
frontier |
large | max | 64K | 解决卡壳的、高价值难题 |
reviewer |
large | xhigh | 32K | 独立复核 / 证伪他人结论 |
注意 coordinator、researcher、builder 共用 mid 层——六个角色只落在三层模型上,这是成本可控的关键:日常任务由中型模型批量消化,只有升级场景才消耗 frontier 层的算力。角色定义与任务映射见 clearwing/providers/roles.py。
多Provider梯队:一份配置喂饱所有角色
每个后端在 clearwing/providers/catalog.py 中声明一条 tier_models 梯队(small / mid / large 三档)。例如官方推荐:
| Provider | small | mid | large |
|---|---|---|---|
| Anthropic | claude-haiku-4-5 |
claude-sonnet-4-6 |
claude-opus-4-7 |
| OpenRouter | anthropic/claude-haiku-4-5 |
anthropic/claude-sonnet-4 |
anthropic/claude-opus-4.7 |
| Ollama(本地) | qwen2.5-coder:7b |
qwen2.5-coder:32b |
qwen2.5:72b |
本地 Ollama 通过 ollama 适配器直连(无需 /v1 中转、无需 API key):
ollama serve &
ollama pull qwen2.5-coder:32b
export CLEARWING_BASE_URL=http://localhost:11434
export CLEARWING_MODEL=qwen2.5-coder:32b
⚠️ 本地模型选型提醒:Clearwing 的 Agent 循环依赖 function calling。目前已知好用的本地模型有
qwen2.5-coder:32b、qwen2.5:72b、llama3.3:70b、mistral-small3:24b;未训练工具调用的基础模型会在第一次工具派发时就报错。详见 docs/providers.md 的能力清单。
前沿大模型 + 本地Ollama:一份可抄的混合路由配置
model_roles: 配置块是成本控制的门面,常规只需 6 行以内。以"本地 Ollama 干活、前沿模型救场"为例:
model_roles:
providers: [ollama, anthropic] # [0] 主供方;[1] 自动承接 reviewer
overrides:
frontier: { provider: anthropic, model: claude-opus-4-7, reasoning: max }
效果:
ranker(utility)→ 本地qwen2.5-coder:7b,temperature=0保证排序逐轮稳定且几乎零成本hunter/builder/coordinator(mid 层角色)→ 本地qwen2.5-coder:32bfrontier升级任务 → Claude Opus,只在真正卡壳时付费reviewer自动落到 Anthropic,实现跨模型家族的独立复核
如果更习惯逐任务精细控制,也可以用旧的 providers: + routes: + task_models: 三件套(示例见 docs/providers.md 的"Per-task routing"一节)。两种机制都最终汇入 clearwing/providers/manager.py 中的 ProviderManager 做统一路由解析。
绑定在加载时即校验:给 utility 角色配了模型不支持的 reasoning: xhigh 会立刻报错而不是扫到一半才发现——比运行时踩坑友好得多。
独立复核与Fallback:别让自己的结论"自审"
reviewer 角色要求模型家族独立:一个模型不应当是自家产出的唯一评委。配置了同族第二 Provider 时,绑定仍会建立但标记 independent_satisfied: false,clearwing models 会明确警告,而不是假装约束已满足。
Fallback 提供可用性故障转移:
model_roles:
providers: [deepseek]
roles:
frontier:
model: deepseek_pro
inference: { reasoning: max }
fallback:
- model: qwen_a95b
inference: { reasoning: xhigh }
候选序列为 [primary, *fallbacks],选第一个"可用"(有 key / 本地 / OAuth)的目标;所有 fallback 目标同样在加载时校验。若唯一可达的 reviewer 与生成方同族,Clearwing 会绑定但标记 independent_available: false——这是安全相关的区分,宁缺毋滥。
另一个细节:Qwen2、Gemma、Llama、Mistral 等家族会拒绝 reasoning 参数(HTTP 400)。clearwing/llm/native.py 中的 effective_reasoning_effort 会自动降级为"省略该参数",所以给本地 Qwen 强行配置 reasoning: high 是安全的——静默忽略而非报错。
三步验证你的模型路由是否正确 ✅
clearwing models --list-providers # 查看每个后端的 small/mid/large 梯队
clearwing models # 打印当前配置解析出的角色表
clearwing models --task hunter # 确认某调用点最终走哪个模型
clearwing models 会标记那些"静默翻车"点:未设置的 API key 环境变量、模型家族会丢弃的推理档位、不独立的 reviewer、能力校验失败的绑定,并区分当前分配是 active(已配置 model_roles:)还是仅 recommendation(所有任务共用一个端点)。首次接入建议再跑一遍 clearwing doctor 体检环境与连通性,用 clearwing config --show-provider 查看实际生效的模型与来源(cli / env / config / default)。
常见坑与最佳实践清单
| 场景 | 建议 |
|---|---|
| 预算有限 | providers: [ollama] 全家桶本地跑;仅 frontier 用 override 指向前沿 API |
| 追求独立性 | 双 Provider 且跨家族(如 DeepSeek + Anthropic),让 reviewer 免费获得独立性 |
| 大窗口模型 | 给 frontier 配 context_budget_tokens(如 500000),升级时让前沿模型看到更多证据 |
| 本地模型 | 确认支持 function calling 且上下文 ≥ 32k(建议 128k+),否则 ReAct 循环会"抖动" |
| 推理参数 | 本地 Qwen/Llama 等无需显式配置 reasoning,denylist 机制会自动省略 |
小结:Clearwing 用"角色 → 梯队 → 路由"三层间接,把"该让哪个模型多想、多写、花多少钱"从代码里抽离成了配置。本地 Ollama 吃掉 90% 的 routine 认知负载,前沿大模型只负责最后 10% 的高难攻坚——这正是它"用人人拿得到的模型,复刻顶级攻防结果"的核心成本控制思路。更多细节参考 docs/model-roles.md 与 docs/providers.md。