OneJev1.5-9B核心揭秘:校准概率如何在单次前向传播中产生

原创2026-11-14 17:09:481,442 阅读
文章标签:人工智能大模型多模态

OneJev1.5-9B核心揭秘:校准概率如何在单次前向传播中产生

OneJev1.5-9B 是一款多模态 System 1 决策模型:给它一张截图、照片、视频或纯文本,再附上几个选择题式的问题,它就能在单次前向传播中为每个选项输出一个校准概率(calibrated probability)——不需要反复解码,不需要多轮思考,一次推理直接给出"有多确定"。本文将带你读懂这份"核心秘密"背后的原理与成绩。

什么是"System 1 决策模型"?🤔

借鉴认知科学中"系统1/系统2"的说法:

  • 系统1:快速、直觉式反应,瞬间给出判断;
  • 系统2:缓慢、审慎的逐步推理。

大多数大语言模型擅长"系统2"——慢慢生成一段推理文字。而 OneJev1.5-9B 走的是反直觉的路线:只做快速判断。它基于 Qwen/Qwen3.5-9B 全参数微调而成,训练语料约 320,000 道题目,全部来自真实智能体(agent)运行记录、视频、图像以及公开决策数据集的训练集。

OneJev1.5-9B多模态决策模型成绩单:校准概率准确率对比Jev 1.13、Jev-Omni 12B与Qwen3.8-27B thinking

这种定位让它天然适合驱动 GUI Agent、实时决策等"每步都要快"的场景。

校准概率是什么,为什么重要?📊

普通模型说"是",只代表它倾向于是;校准概率说的则是"我有多大把握"。

打个比方:一个预报员预测今年下雨的概率是 70%,如果长期来看这样的天气确实有 70% 下了雨,他的预测就是"校准"的。校准良好的概率意味着——

  • ✅ 概率高低与真实正确率一致,可以当作置信度直接使用;
  • ✅ 方便做阈值策略:例如"只有概率 > 0.9 才自动执行操作";
  • ✅ 可解释、可审计,而不是黑箱输出一句"点击按钮"。

而 OneJev1.5-9B 的关键卖点正是:这份可信的概率在单次前向传播里就产生了。

单次前向传播如何产生校准概率?⚙️

整个机制可以拆解为三步:

  1. 多模态输入编码。图像、视频与文本统一进入模型:视觉塔(Qwen3_5ForConditionalGeneration 架构中的 vision 模块,27 层、hidden size 1152)把画面切成 16×16 的 patch 编码,再与文本 token 融合。相关定义可见 config.json 中的 vision_config 字段。

  2. 以"判断"而非"写作"的方式微调。约 32 万道题训练时,模型学习的目标不是续写句子,而是"面对这个状态,每个选项应该得到多大概率"。这相当于把整本"决策直觉"压缩进了参数里。

  3. 一次前向,概率即出。推理时,模型只需跑一遍前向传播(forward pass),读出各选项 token 对应的 log 概率,经归一化就得到一组加和为 1 的校准概率——没有自回归地逐 token 生成,也没有多步思考链。

从架构上看,它把"快"做到了极致:32 层主干中只有每隔第 4 层才是全注意力(full_attention_interval: 4),其余全部是线性注意力(linear attention),配合 262,144 的最大上下文长度与 248,320 的词表,详见 config.json。generation_config.json 中仅保留了最小的生成设置,侧面印证了"单次前向、不做复杂解码"的设计。多模态输入(图片/视频占位符 <|image|>、<|video|>)则由 chat_template.jinja 负责拼装成最终提示。

成绩单:9B 小模型击败一众 25B+ 对手🏆

在 Decision Index 0.3 公开部分(37 个基准、140,178 次请求,用榜单自带工具运行并打分)上,OneJev1.5-9B 拿到 59.03 分,是榜上 10B 参数以内模型的最高分;同时它超过了榜上 43 个 25B~36B 模型中的 31 个。

Decision Index公开榜:OneJev1.5-9B以9.4B参数获得59.0分,校准概率决策准确率超越25B至33B参数段模型

在官方对比中,它甚至能超过更大规模的 Jev-Omni 12B 与启用思考模式的 Qwen3.8-27B(见上方成绩表),说明"校准概率 + 单次前向"的路线在小模型上性价比极高。

快速上手:三步跑起来 🚀

1. 安装并启动服务

pip install "qev[torch]"
qev serve --model OmniJev/OneJev1.5-9B

2. 发送状态 + 问题

服务暴露的是 TypeSafe 的 System One API,并扩展了 media 字段以携带图片和视频。核心概念只有两个:

  • Noul:一个陈述句的布尔判断(如"发票已支付");
  • Choice:一道带多个选项的选择题(如"下一步该点哪个按钮")。

3. 读取校准概率

from qev import Client, Choice, Noul

r = Client("http://localhost:8000").system_one(
    state={"task": "Pay the open invoice from ACME", "screen": "<image:1>"},
    media=[{"type": "image", "data": data_uri("screenshot.png")}],
    questions={"done": Noul("The invoice has been paid"),
               "next": Choice("What should the agent do next?",
                              {"click": "click an element", "stop": "stop"})},
)

一次请求,每个选项的校准概率即告到手。完整示例可参考仓库 README 的 Quick start 一节。

关键文件导航 📁

文件 作用
README.md 项目说明、Decision Index 成绩与快速上手
config.json 模型架构:32 层、线性/全注意力混合、视觉塔参数
chat_template.jinja 多模态提示词模板,定义图片/视频占位符
generation_config.json 最小化生成配置,印证单次前向设计
processor_config.json 图像/视频处理器:patch 16、合并 2、视频 2fps 采样
model.safetensors 模型权重(float32)
tokenizer.json / tokenizer_config.json 词表(248,320 tokens)与分词配置

小结

OneJev1.5-9B 的秘密可以浓缩为一句话:把"判断"当作生成目标来训练,让概率本身成为模型的主要输出。

  • 🎯 约 32 万道真实决策题目,把"系统1直觉"写进参数;
  • ⚡ 单次前向传播直接产出加和为 1 的校准概率,无需多步解码;
  • 📈 9B 参数拿到 Decision Index 59.03,力压 25B+ 对手。

如果你正在为 GUI Agent、实时交互系统找一个"快且知道自己有多确定"的决策大脑,这套校准概率方案值得认真评估。

登录后查看全文
OneJev1.5-9B