vera-spark官方停止维护:迁移到vera-core-2的完整路径与System One决策模型演进
vera-spark官方停止维护:迁移到vera-core-2的完整路径与System One决策模型演进
vera-spark 是一个非自回归的 System One 决策模型:给它一个状态(文本、邮件、工单或 JSON)和一批带类型的问题,它在单次前向推理中返回带校准概率的类型化答案,支持 8K(8,192 token)上下文,且完全不生成文本——没有解析、没有幻觉。现在官方已宣布 vera-spark 停止维护(Discontinued),并推荐迁移到 vera-core-2。本文带你走通迁移路径,并梳理 System One 决策模型的演进逻辑。
一分钟认识 vera-spark:它为什么不一样
和常见的"文本生成式"大模型不同,vera-spark 的接口是问答式的决策 API,而不是逐 token 生成:
- 输入:
state(纯文本或任意 JSON 可序列化对象)+questions(问题字典) - 输出:每个问题的类型化答案 + 完整概率分布(经过校准,可直接用于置信度门控)
- 问题类型:
choice(2~255 个选项)、score(2~10 个有序等级,返回期望分与完整分布)、noul(是/否概率) - 协议:与 Jev 相同的
POST /v1/systemone线上格式,方便存量客户端平移
典型场景包括:工单路由与分诊、意图/主题分类、Agent 的下一步动作选择、策略合规检查、严重度打分、声明核验与候选响应评判等。模型约 630M 参数,在 JevBench 上的整体准确率为 68.8%,单问题中位延迟 29–34 ms(MI300X,batch=1)。详见 README.md。
为什么停止维护:System One 决策模型的演进
vera 系列的设计思路是"紧凑底座 + 领域微调":官方明确把它定位为 generalist base,鼓励在自己的决策数据上微调,以获得更好的标签贴合度与校准效果(见 README.md)。
演进的三条线索:
- 精度换体积。vera-spark(~630M)负责"最小占用",vera-core(~2B,基于 Qwen3.5-2B)负责"精度优先",二者共享同一套 System One 接口与决策格式,可互相替换(见 README.md)。
- 推理引擎的结构性限制。vera-spark 的骨干含 upcycled 混合专家(MoE)层,且决策头需要读取多个骨干层,导致 vLLM、SGLang、Ollama(GGUF)都无法运行,只能用官方
vera-serve或 transformers 加载。vera-core 线则可通过 adapter 在 vLLM / SGLang 上运行(见 README.md)。 - 官方指向新版。仓库首页顶部的弃用横幅已明确:"vera-spark is no longer maintained. Use scar-ai/vera-core-2 instead."(见 README.md)。也就是说,vera-core-2 承接了该系列后续的能力迭代与维护。
迁移到 vera-core-2 的四步路径
得益于统一的接口设计,迁移成本很低,核心动作就是"换一个模型名"。
第 1 步:安装/升级 vera-s1 包
vera 模型的 Python 客户端与 HTTP 服务器都来自 vera-s1 包(Python 3.10+,权重首次使用时自动下载并缓存):
pip install vera-s1
包的定义与依赖见 package/pyproject.toml。
第 2 步:Python 调用改一行
原来加载 vera-spark 的地方,改为加载 vera-core-2 即可,predict 的入参与返回结构完全一致:
import vera
agent = vera.load("scar-ai/vera-core-2")
result = agent.predict(state, questions)
加载逻辑在 package/vera/init.py 的 vera.load 中实现,predict 返回的答案结构与 POST /v1/systemone 响应一致。
第 3 步:自托管服务改一个参数
如果你用官方服务器自托管,只需替换 --model:
vera-serve --model scar-ai/vera-core-2 --port 8200
vera-serve 暴露与 Jev 完全相同的 POST /v1/systemone 请求/响应形状,存量客户端只需改 base URL / 模型标识,请求体一字不用动(见 package/README.md)。注意它默认绑定 127.0.0.1 且无鉴权,对外暴露请置于自己的网关之后;服务器实现见 package/vera/serve.py。
第 4 步:在自己的决策数据上微调
迁移是"升级底座"的绝佳时机:vera-core-2 作为通用底座,在你的领域标签上微调后,标签贴合度、措辞匹配与概率校准都会明显好于零样本基座。建议先用内部选型集回归,再灰度切流。
迁移前后对照表
| 项目 | vera-spark(已停止维护) | vera-core-2(迁移目标) |
|---|---|---|
| 参数规模 | ~630M | 更大,精度优先(core 线 ~2B 级) |
| JevBench 整体准确率 | 68.8 | 更高(hard 档优势明显) |
| 决策接口 | POST /v1/systemone |
相同,客户端零改动 |
| 推理引擎 | 仅 vera-serve / transformers | 可经 adapter 跑 vLLM / SGLang |
| 后续维护 | 无 | 官方主推 |
相关代码与资料路径
- 项目总览与基准数据:README.md
- 模型架构定义(transformers 加载用):modeling_vera.py、configuration_vera.py
- 模型实现:vera_model.py、package/vera/model.py
- 决策 schema(问题/答案的结构与校准):vera_schema.py、package/vera/schema.py
- 权重文件:model.pt(bf16,约 1.3 GB)、model.safetensors、arch.json
- 分词器:tokenizer.json、tokenizer_config.json
vera-s1包源码:package/
常见问题 📌
Q:我的 vLLM / Ollama 部署必须一起换掉吗? A:vera-spark 本来就不支持这些引擎;迁到 core 线后,反而可以通过 adapter 用 vLLM / SGLang 部署,弹性更好。
Q:停止维护意味着现有部署会失效吗?
A:不会立即失效,现有权重与 vera-s1 包仍可运行,但不再获得 bug 修复与能力更新,建议按上述四步规划迁移窗口。
Q:迁移后概率校准会变吗? A:接口与校准机制保持一致,但不同底座的最佳实践是重新在自有数据上微调并复测 ECE/Brier 指标,再切换线上流量。