vera-spark官方停止维护:迁移到vera-core-2的完整路径与System One决策模型演进

原创2026-11-14 22:28:191,434 阅读

vera-spark官方停止维护:迁移到vera-core-2的完整路径与System One决策模型演进

vera-spark 是一个非自回归的 System One 决策模型:给它一个状态(文本、邮件、工单或 JSON)和一批带类型的问题,它在单次前向推理中返回带校准概率的类型化答案,支持 8K(8,192 token)上下文,且完全不生成文本——没有解析、没有幻觉。现在官方已宣布 vera-spark 停止维护(Discontinued),并推荐迁移到 vera-core-2。本文带你走通迁移路径,并梳理 System One 决策模型的演进逻辑。

一分钟认识 vera-spark:它为什么不一样

和常见的"文本生成式"大模型不同,vera-spark 的接口是问答式的决策 API,而不是逐 token 生成:

  • 输入:state(纯文本或任意 JSON 可序列化对象)+ questions(问题字典)
  • 输出:每个问题的类型化答案 + 完整概率分布(经过校准,可直接用于置信度门控)
  • 问题类型:choice(2~255 个选项)、score(2~10 个有序等级,返回期望分与完整分布)、noul(是/否概率)
  • 协议:与 Jev 相同的 POST /v1/systemone 线上格式,方便存量客户端平移

典型场景包括:工单路由与分诊、意图/主题分类、Agent 的下一步动作选择、策略合规检查、严重度打分、声明核验与候选响应评判等。模型约 630M 参数,在 JevBench 上的整体准确率为 68.8%,单问题中位延迟 29–34 ms(MI300X,batch=1)。详见 README.md。

为什么停止维护:System One 决策模型的演进

vera 系列的设计思路是"紧凑底座 + 领域微调":官方明确把它定位为 generalist base,鼓励在自己的决策数据上微调,以获得更好的标签贴合度与校准效果(见 README.md)。

演进的三条线索:

  1. 精度换体积。vera-spark(~630M)负责"最小占用",vera-core(~2B,基于 Qwen3.5-2B)负责"精度优先",二者共享同一套 System One 接口与决策格式,可互相替换(见 README.md)。
  2. 推理引擎的结构性限制。vera-spark 的骨干含 upcycled 混合专家(MoE)层,且决策头需要读取多个骨干层,导致 vLLM、SGLang、Ollama(GGUF)都无法运行,只能用官方 vera-serve 或 transformers 加载。vera-core 线则可通过 adapter 在 vLLM / SGLang 上运行(见 README.md)。
  3. 官方指向新版。仓库首页顶部的弃用横幅已明确:"vera-spark is no longer maintained. Use scar-ai/vera-core-2 instead."(见 README.md)。也就是说,vera-core-2 承接了该系列后续的能力迭代与维护。

迁移到 vera-core-2 的四步路径

得益于统一的接口设计,迁移成本很低,核心动作就是"换一个模型名"。

第 1 步:安装/升级 vera-s1 包

vera 模型的 Python 客户端与 HTTP 服务器都来自 vera-s1 包(Python 3.10+,权重首次使用时自动下载并缓存):

pip install vera-s1

包的定义与依赖见 package/pyproject.toml。

第 2 步:Python 调用改一行

原来加载 vera-spark 的地方,改为加载 vera-core-2 即可,predict 的入参与返回结构完全一致:

import vera

agent = vera.load("scar-ai/vera-core-2")
result = agent.predict(state, questions)

加载逻辑在 package/vera/init.py 的 vera.load 中实现,predict 返回的答案结构与 POST /v1/systemone 响应一致。

第 3 步:自托管服务改一个参数

如果你用官方服务器自托管,只需替换 --model:

vera-serve --model scar-ai/vera-core-2 --port 8200

vera-serve 暴露与 Jev 完全相同的 POST /v1/systemone 请求/响应形状,存量客户端只需改 base URL / 模型标识,请求体一字不用动(见 package/README.md)。注意它默认绑定 127.0.0.1 且无鉴权,对外暴露请置于自己的网关之后;服务器实现见 package/vera/serve.py。

第 4 步:在自己的决策数据上微调

迁移是"升级底座"的绝佳时机:vera-core-2 作为通用底座,在你的领域标签上微调后,标签贴合度、措辞匹配与概率校准都会明显好于零样本基座。建议先用内部选型集回归,再灰度切流。

迁移前后对照表

项目 vera-spark(已停止维护) vera-core-2(迁移目标)
参数规模 ~630M 更大,精度优先(core 线 ~2B 级)
JevBench 整体准确率 68.8 更高(hard 档优势明显)
决策接口 POST /v1/systemone 相同,客户端零改动
推理引擎 仅 vera-serve / transformers 可经 adapter 跑 vLLM / SGLang
后续维护 无 官方主推

相关代码与资料路径

常见问题 📌

Q:我的 vLLM / Ollama 部署必须一起换掉吗? A:vera-spark 本来就不支持这些引擎;迁到 core 线后,反而可以通过 adapter 用 vLLM / SGLang 部署,弹性更好。

Q:停止维护意味着现有部署会失效吗? A:不会立即失效,现有权重与 vera-s1 包仍可运行,但不再获得 bug 修复与能力更新,建议按上述四步规划迁移窗口。

Q:迁移后概率校准会变吗? A:接口与校准机制保持一致,但不同底座的最佳实践是重新在自有数据上微调并复测 ECE/Brier 指标,再切换线上流量。

登录后查看全文
vera-spark