一夜带火「决策型 AI」赛道:OpenAI、AWS、Cloudflare 三天内相继下场,Jev 克隆潮来了
一夜带火「决策型 AI」赛道:OpenAI、AWS、Cloudflare 三天内相继下场,Jev 克隆潮来了
2026 年 10 月的第一周,AI 圈最热的关键词不是又一款万亿参数大模型,而是一个此前几乎没人单独划分的品类——决策型 AI(decision AI)。以 Jev 为代表的一批模型不再"生成一段文本让你自己解析",而是给定一个业务状态和一组带类型的问题,直接输出每个选项的概率。就在 Jev 引发讨论的短短几天内,OpenAI、AWS、Cloudflare 相继下场,社区开始用"Jev 克隆潮"来形容这场集中爆发。作为这场竞赛中最具代表性的开源样本,Cloudflare 开源的 Clef-Flash(9B 多模态决策模型)不仅完整公开了权重,还附带了一整套联合 Schema 头的参考实现。本文以这个仓库为标本,结合社区情报,拆解"决策型 AI"的技术本质,并回答它究竟是不是继推理模型之后的下一波风口。
一、72 小时军备竞赛:从 Jev 引爆到三家下场
先厘清"决策模型"到底做了什么。传统 LLM 的推理链路是"输入 → 生成 token → 输出文本 → 解析/校验",而决策模型把问题重构成分类任务:给一段业务状态(state)和一组带类型的问题(noul 是非题、choice 命名选项题、score 有序等级题),模型单次前向传播直接给出每个允许选项的概率分布。没有自由文本生成,也就没有格式漂移和解析错误。
这条赛道被点燃的导火索是 Jev——一个通过 SystemOne 托管 API 提供的决策模型,它把"让 Agent 做判断"这件事的延迟从数秒级别压进了几十毫秒,很快在开发者社区刷屏。根据 IT之家 10 月 2 日的报道,当地时间 10 月 1 日,Cloudflare 基于 Qwen 推出开源多模态决策模型 Clef 与 Clef-Flash,两款模型完全兼容 Jev-API,其中 Clef 基于 Qwen3.8-27B、Clef-Flash 基于 Qwen3.5-9B;Clef 原生配备视觉编码器(当时的 Jev 仅支持纯文本分类),上下文窗口拓展至 64k(Jev 为 32k),并同步发布了面向企业定制化微调的强化学习产品。
紧接着,AWS 被曝发布 Strands Decider 2B,媒体直接称其为"一周内第三个免费的 Jev 克隆模型";OpenAI 也被海外媒体列为跟进者。再叠加生态侧的响应:ollama v0.35.1 在 10 月 3 日正式接入 Clef 与 Clef-Flash,新增 /decision 接口与 CAPABILITY 声明机制。三天之内,从托管 API 到开源权重再到本地推理工具链,"决策型 AI"的闭环迅速成型。
二、源码级拆解 Clef-Flash:单次前向,从状态到决策
Clef-Flash 的定位在 README.md 中写得很直白:一个 9B 多模态模型,"将状态和带类型问题的 schema 转化为决策"。它把状态读为文本、JSON、图像或视频,在单次前向传播中为每个问题的每个允许选项返回一个概率,全程无自由文本生成、无输出解析。
输入格式:state + questions
README.md 定义了输入范式:state 可以是任意字符串或 JSON 值,images/videos 为可选的视觉输入,questions 是问题 ID 到问题的映射。每个问题包含 type(noul / choice / score)、instructions 和 criteria(选项定义)。一个典型的请求长这样:
record = {
"state": {"invoice": {"vendor": "Acme", "total": 1250.0, "currency": "USD", "status": "overdue"}},
"questions": {
"status": {
"type": "choice",
"instructions": "What is the invoice status?",
"criteria": {"paid": "Invoice is paid.", "overdue": "Invoice is past due.", "draft": "Not sent."},
},
"large": {"type": "noul", "instructions": "Is the total above 1000 USD?"},
},
}
关键点在于:schema 本身就是提示词的一部分。看 joint_schema_model.py 的 encode_record,它把每个问题渲染成 FIELD N / ID / TYPE / INSTRUCTION / ALLOWED OPTIONS 的结构化 token 序列,前缀是系统提示词 "Read the complete state and schema. Decide every field jointly. Each answer must be exactly one of that field's allowed options.",后缀以 <think> 和 "JOINT SCHEMA DECISIONS:" 收尾。模型看到的是一份"决策问卷",而不是一段闲聊。
架构:Qwen 主干 + 联合 Schema 头
仓库的 config.json 显示,主干是 Qwen3.5-9B(Qwen3_5ForConditionalGeneration),32 层以 linear_attention 为主、每 4 层插入一次 full_attention 的混合注意力结构,hidden_size 4096,词表 24.8 万;视觉编码器为 27 层 ViT 风格网络,支持图像与视频 token。权重按标准分片 safetensors 存储,model.safetensors.index.json 的 metadata 显示总参数 9,409,813,744(约 9.4B),bf16 下总大小约 18.8GB——单张 H200 或 24GB 显存即可部署。
真正体现"决策模型"差异的是 joint_head_config.json 描述的小型联合头:width 1024、2 层 EvidenceRoutingLayer、4 层 TransformerDecoder、16 头、前馈 4096。它不参与自回归生成,而是在主干最后一层 hidden state 上做打分。JointSchemaHead.forward 的流程可以概括为四步:
- 证据路由:把问题与选项的 token span 向量作为 query,通过
EvidenceRoutingLayer的多头注意力从整段状态中"检索"相关证据; - 字段聚合:用 softmax 路由权重把选项向量聚合成字段表示,叠加全局向量与问题类型嵌入;
- 联合打分:对每个字段执行 TransformerDecoder 层,让所有问题共享同一份记忆(状态证据),实现"联合决策"而非逐题独立判断;
- 混合 logit:
residual_scorer对"字段×选项"的特征做残差打分,再与基于词嵌入余弦相似度的 prior logit 通过可学习的residual_gate门控相加,得到每个选项的 logit,最后按问题做 softmax 归一化为概率。
这种设计的工程含义很直接:问题的数量、类型和选项可以在请求时动态定义,无需为每个新场景重新训练。发票审核、客服路由、安全分诊这类"选项固定、状态多变"的业务,恰好是它的舒适区。
兼容 Jev/SystemOne:协议即生态
README.md 强调 "The Clef-Flash API is fully compatible with Jev and SystemOne"。仓库里的 systemone 函数接受 Jev/SystemOne 的 POST /v1/systemone 请求体,返回同样结构的响应体:model、按问题 ID 索引的 answers 与 usage。choice 答案含 choice/confidence/probabilities,score 答案含期望值 score/legend/probabilities,noul 答案返回为真的概率。也就是说,任何为 Jev 写好的调用代码,改一个 model 字段即可切到自托管的 Clef-Flash——这正是"克隆潮"能在一周内出现的前提:协议兼容大大降低了各家模型相互替换的迁移成本。
三、Strands Decider 2B 与 Clef-Flash:同台对比信号
AWS 的 Strands Decider 2B 把参数规模压到 2B,Cloudflare 的 Clef-Flash 是 9B,二者在决策模型这个新品类里"同台竞技",恰恰说明一个问题:这类模型比拼的核心已经不是参数量,而是在固定选项上的决策准确率、延迟和校准质量。
README.md 附带的 Decision Index 0.2.1 评测(同一套任务、同一批次内部运行)给出了 Clef-Flash 与 Jev 的直观对比。在决策与工具调用类基准上,Clef-Flash 全面占优:BFCL 工具调用精确匹配 98.8(Jev 95.8)、API-Bank 93.1(Jev 88.2)、Home appliance simulator 97.7(Jev 52.3)、CLadder 逻辑推理 97.7(Jev 72.6);在 ForecastBench(Brier 分数,越低越好)上 Clef-Flash 拿到 10.6,明显优于 Jev 的 17.4 和完整版 Clef 的 13.9,说明其概率校准质量过硬。
延迟是决策模型最核心的差异化指标:Clef-Flash 中位延迟 38.8ms、p95 122.4ms,而 Jev 中位 524.1ms、p95 536.0ms——前者是后者的约 1/13。完整版 Clef 中位延迟 209.3ms 也远高于 Flash。社区实测的表述更直观:"Agent 判断从 8.5 秒压到 39 毫秒,成本降低数百倍"。当判断类调用从"偶尔用一次的大模型推理"变成"每笔请求都走的在线路由",毫秒级的差距直接决定架构可行性。
不过,决策模型的天花板也在同一张表里清晰可见。通识推理上 Clef-Flash 明显弱于 Jev:MMLU-Pro 65.3(Jev 82.7)、GPQA Diamond 51.0(Jev 78.3)、BBH 68.9(Jev 92.9)、RAGTruth 幻觉检测 F1 仅 35.6(Jev 76.5)。这说明它牺牲了开放域推理能力,换取的是特定决策任务上的速度与确定性——决策模型与通用模型不是替代关系,而是分工关系。
四、风口判断:决策模型会成为下一个赛道吗
从这一周的信号看,决策型 AI 已经具备一个成熟赛道该有的几个要素。
第一,痛点真实且可量化。 企业 AI 落地最大的阻力不在模型"不会",而在"不可控":自由文本输出需要正则、JSON 解析器、schema 校验层层兜底,格式漂移和越界幻觉直接摧毁高 stakes 场景的信任。Clef-Flash 用"输出概率而非文本"从根上消解了这个问题——systemone 响应里每个答案都带 confidence 和全选项概率分布,风控、审计场景可以按置信度分级处置,而不是盲目采信。
第二,训练范式出现了新变化。 社区对三款模型横评时提到,这类模型采用 RLCD(面向校准的强化学习)而非 RLHF,强调概率校准与置信度可用性。配合 Cloudflare 同期发布的 RL 微调产品,企业可以基于开源权重针对自家 schema 定制专用分类器——这等于把"决策能力"做成了可私有化的商品,商业空间明确。
第三,生态基础设施正在快速补齐。 Decision Index 这类专攻决策任务的排行榜已把 Clef、Jev、Kev、Laya 等模型拉进同一张对比表;ollama 在版本更新中专门新增 /decision 接口并统一能力声明为 decision;再加上 Jev/SystemOne 协议成为事实标准,模型的替换成本被压到极低。这也解释了为什么"三天三家下场"会成为可能。
但风口之下需要保持清醒。其一,决策模型的能力边界是明确的:开放域推理、复杂多步任务仍是通用模型的领地,把决策模型当全能模型用会立刻碰壁。其二,落地质量依赖工程细节——社区实战文章反复提醒的两大踩坑点是 schema 缺失(选项定义不全导致分布失真)与阈值误设(置信度阈值定错造成误判),决策模型不是"拿来即用"的魔法。其三,它只解决"判断"环节,不解决整个 Agent 的安全问题,仍需与审计日志、最小权限等机制构成纵深防御。
回到那个问题:决策型 AI 会不会成为继推理模型之后的下一个风口?从需求端看,凡是"状态固定、选项固定、延迟敏感、需要概率"的业务——发票审核、客服路由、安全事件分诊、工单派发、Agent 护栏——都是它的天然场景,这类工作流在真实企业里数以亿计。从供给端看,OpenAI、AWS、Cloudflare 的相继下场和开源协议(Apache-2.0)的开放,让这个赛道在诞生之初就具备了难得的标准化与低成本。它未必会取代推理模型成为"下一个 ChatGPT",但极有可能成为大模型从"对话工具"走向"业务组件"的关键一跃——而 Clef-Flash 这份开在仓库里的完整实现,正是观察这一跃迁的最佳窗口。