科研智能体的底座之争:开放权重模型正在挤进实验室的工位
科研智能体的底座之争:开放权重模型正在挤进实验室的工位
科研场景对 AI 的要求历来与聊天场景不同:一条结论要能回溯到证据,一次分析要能跑通代码,一段探索可能要持续几十上百轮工具调用。过去两年,实验室的默认做法是调用闭源 API——省事、强大、不必碰硬件。但当智能体开始承担"跑一周的计算化学流程"这类工作时,按 token 计费的账单、不可控的数据出境、无法固定版本的模型行为,三件事同时变成了问题。
上海 AI 实验室开源的 Sage-A1.5 提供了一条不同的路径:一个 35B 总参数、3B 激活参数的 MoE 智能体模型,权重、配置、chat template 全部落地在仓库里,可以直接在自己的机柜甚至一张工作站显卡上跑起来。这篇文章不谈"开源战胜闭源"这种口号,而是拆开 config.json、chat_template.jinja 与 README.md 里的真实数字,看清开放权重模型挤进实验室工位时,成本、依赖与分工到底发生了什么变化。
从"买 token"到"买显存":成本结构的一次翻转
闭源 API 的成本是线性的、外部化的:调用量越大,账单越大,且与你是否优化无关。自持权重的成本则是一次性的、可摊薄的,但要求你自己承担硬件与工程复杂度。Sage-A1.5 的仓库恰好把这条分界线画得很清楚。
先看权重本身。仓库采用 14 个分片加一个独立的 MTP 分片:model-00000-of-00014.safetensors 至 model-00013-of-00014.safetensors,每片约 5.37 GB,外加 model-mtp.safetensors 约 1.69 GB。索引文件 model.safetensors.index.json 的元数据写得更直接:
{"total_size": 71903645408}
71.9 GB,bf16 精度,共 32451 个张量。这个量级意味着:单卡 80 GB 显存可以完整装下权重并留出 KV cache 空间;用 FP8 或 4-bit 量化后,容量门槛继续下探。论文的多模态本地部署实验给出的硬件清单覆盖了昇腾 910B/910C、A100/H100/H200/B200、RTX 系列、AMD MI300X 以及 Apple Silicon 统一内存机型,运行时可以是 LM Studio、llama.cpp、Apple MLX——也就是说,"实验室那台配了 48 GB 显卡的工作站"是被当作一等公民对待的。
再看推理侧的边际成本。MoE 结构让"参数总量"和"每 token 计算量"脱钩:num_experts: 256、num_experts_per_tok: 8,总参数 35B,但每个 token 只经过 8 个专家,激活约 3B。这意味着自建服务时,单卡吞吐远高于同等总参数的稠密模型;而对一个每天要跑几百条长轨迹的研究组来说,边际成本就从"云端账单"变成了"电费与排队时间"。
真正决定长程任务可行性的还有 KV cache。config.json 里的层结构值得单独看一眼:
"num_hidden_layers": 40,
"full_attention_interval": 4,
"layer_types": ["linear_attention", "linear_attention", "linear_attention", "full_attention", ...],
"num_key_value_heads": 2,
"head_dim": 256,
"max_position_embeddings": 262144
40 层里只有 10 层是全注意力,其余 30 层是线性注意力。按 2 个 KV head × 256 维 × K/V 两份 × 2 字节计算,每个全注意力层每 token 占 2 KB,10 层合计约 20 KB/token;撑满 262144 上下文约需 5 GiB KV cache,扩展到 512K(YaRN factor 2.0)约 10 GiB。如果 40 层都是全注意力,这个数字会变成 20 GiB 与 40 GiB——长上下文智能体最贵的固定开销,被线性注意力层压掉了四分之三。这也是为什么 README.md 敢把 --context-length 262144 写进标准启动命令,而不是当作"高端配置"。
模型在六个方向上的整体位置,可以看仓库自带的基线总览图:
底座解剖:一个为"长程执行"而生的 35B 架构
Sage-A1.5 基于 Qwen3.6 与 Agents-A1 演进而来,架构注册名是 Qwen3_5MoeForConditionalGeneration,语言侧 model_type 为 qwen3_5_moe_text。几个参数值得逐条读:
- 隐藏维度 2048,16 个注意力头,40 层,其中
full_attention_interval: 4形成"三个线性层 + 一个全注意力层"的周期; - 256 个专家、每 token 选 8 个,专家中间维 512,共享专家中间维 512,路由辅助损失系数 0.001;
- 词表 248320,包含
<|im_start|>、<tool_call>、<|vision_start|>、<|image_pad|>、<|video_pad|>等 30 余个特殊 token; - 视觉塔 27 层、隐藏维 1152、patch 16、空间合并 2、时间 patch 2,图像最长边上限 16777216 像素、最短边 65536——这是为高分辨率科研图表、扫描页与实验照片准备的;
- MTP(多令牌预测)单独一个 1 层模块,独立存为 model-mtp.safetensors。
MTP 不是摆设。README.md 给出了 SGLang 与 vLLM 两套投机解码配置:
python -m sglang.launch_server \
--model-path InternScience/Sage-A1.5 \
--port 8000 \
--mem-fraction-static 0.8 \
--context-length 262144 \
--reasoning-parser qwen3 \
--tool-call-parser qwen3_coder \
--speculative-algorithm EAGLE \
--speculative-num-steps 3 \
--speculative-eagle-topk 1 \
--speculative-num-draft-tokens 4
vLLM 侧则用 --speculative-config '{"method":"mtp","num_speculative_tokens":3,"moe_backend":"triton"}'。对智能体负载而言,输出 token 里有大量结构化的工具调用与格式化参数,投机解码的接受率通常高于自由文本,收益也更稳定。另外 vLLM 提供了一个常被忽略的开关 --language-model-only:跳过视觉编码器,把显存全部留给 KV cache——纯文本科研任务(文献、代码、日志)用这一项就能明显抬高并发。
采样参数同样按"长程任务"调过:temperature: 1.0、top_p: 0.95、top_k: 20、min_p: 0.0、presence_penalty: 1.5、repetition_penalty: 1.0。偏高的 presence penalty 配合 temperature 1.0,是为了压住长轨迹里反复重读同一页面、重复同一搜索式的退化行为。
三层依赖里的第二层:工具协议被写进了权重
模型的底座只是第一层。科研智能体真正难的是第二层——工具,以及第三层——数据合规。Sage-A1.5 的独特之处在于,它把"怎么组织工作"当作训练目标,而不是留给外部脚手架用规则硬编码。
编排:把 spawn_subagent 变成一种可选能力
Agentic Orchestration 默认关闭,开关是"注册一个工具"。仓库给出的工具 schema 就是协议本身:
SPAWN_SUBAGENT_SCHEMA = {
"type": "function",
"function": {
"name": "spawn_subagent",
"parameters": {
"type": "object",
"properties": {
"tasks": {
"type": "array",
"minItems": 1,
"items": {
"type": "object",
"properties": {
"task": {...},
"context": {...},
"expected_output": {...}
},
"required": ["task", "context", "expected_output"]
}
}
},
"required": ["tasks"]
}
}
}
三个必填字段不是形式主义。子智能体运行在独立上下文里,看不到主对话,所以 task 必须自包含、context 必须补齐背景与约束、expected_output 负责把答案压成可合并的短形式(例如"一个 YYYY 年份"、"一个人名")。每个子智能体返回一个紧凑 JSON:{answer, status, evidence, unresolved_issues};无法确定时返回 "UNKNOWN" 并把 status 置为 unknown 或 insufficient_evidence,而不是猜一个答案——调用方应先读 status 再用 answer。
工程上还有两条容易踩的边界:同一批 tasks 并发执行且互相不可见,任何有先后依赖的步骤必须拆成两次调用;批次上限 max_tasks_per_spawn 默认 5、单个子智能体轮次上限 subagent_max_turns 默认 20,超限是报错拒绝而不是静默截断。
论文里的实际收益是可量化的:在 BrowseComp 上,开启编排从 81.7 提升到 82.8;在 DeepResearch-Bench2 上从 43.7 提升到 47.5(+3.8)。后者的增益更大,符合编排在"分工写报告、再合并"这类任务上的作用机制。论文中还有一个 50 个 YouTube 频道的案例:13 轮主轨迹、6 批并行子智能体、每批若干频道,其中 StarPlus 的调查把运营方从 Sony Pictures Networks India 更正为 Disney Star / JioStar,这个更正被主智能体带进了后续的关系判定与最终图谱。这正是"子智能体可以反驳主智能体的假设"的价值。
校验:一个字符串开关与它的硬约束
Verification Mode 的实现藏在 chat_template.jinja 里,只有两行核心逻辑:
{%- set verify_tail = 'Verification protocol: enabled' %}
{%- set verify_trigger = '\n\n' + verify_tail %}
{%- set verify_on = verification is defined and verification %}
开启后,触发器被追加到 system 消息末尾;模型在自己原本的思维链中暂停、回顾已确认的事实与已失败的路径,然后在同一轮里改道——没有外部 critic,没有额外校验工具。训练时这个后缀由 script/build_verify_trigger.py 拼进 system content,模板里那句注释明确要求"必须逐字节一致",这是模板与权重之间的隐式契约,改动一个空格就可能让能力失活。
模板还硬性拒绝了两种误用:verification 传字符串而非 JSON 布尔值会直接抛异常;verification: true 但 system 消息为空或只有空白,同样抛异常(服务端返回 HTTP 400)。对方括号里的原因写得很清楚——触发器是追加到 system 内容末尾的,没有 system 内容就没有挂载点。
收益方面,论文在 BrowseComp 上给出了一组配对对比:教师模型普通模式 81.0,开启校验后 85.5(+4.5);在两种模式都产出答案的配对样本中,平均输出 token 反而从 23245 降到 21962(约 -5.5%),交互轮次从 84.81 降到 82.14。多出来的"反思"被"少走的弯路"抵消了——这与"校验只是增加开销"的直觉相反。
对实验室更关键的是数据面的含义:编排、校验、代码沙箱、文献检索全部在本地闭环,模型只通过你注册的工具访问外部。论文的本地部署图示意的就是这个架构——量化变体跑在异构硬件上,经本地推理 API 暴露,代码执行、文件访问、文档检索均在本地环境内完成。对涉及未发表数据、临床样本或受管控材料的课题组,这往往是"能不能用"而不是"好不好用"的问题。
能力证据:35B 的模型,凭什么占住工位
README.md 的对比表覆盖六个方向、七个系统。只看几组最有说服力的:
| 基准 | Sage-A1.5 | Agents-A1 | Qwen3.6-35B-A3B | Kimi-K3 | GLM-5.3 | GPT-5.6-sol |
|---|---|---|---|---|---|---|
| GAIA | 95.1 | 96.0 | 78.6 | 92.2 | 92.2 | 88.3 |
| XBench-DS-2510 | 92.0 | 86.0 | 71.0 | 85.0 | 84.0 | 90.0 |
| FrontierScience-Research | 48.3 | 40.0 | 2.9 | 21.7 | 16.7 | 26.7 |
| CMT(凝聚态理论) | 80.0 | 72.0 | 20.0 | 34.0 | 40.0 | 50.0 |
| IFBench | 81.6 | 80.6 | 64.4 | 72.1 | 53.4 | 72.7 |
| PinchBench | 90.0 | 76.9 | 88.1 | 88.2 | 86.6 | 87.3 |
| SWE-bench Pro | 61.2 | 43.6 | 49.5 | 63.3 | 64.6 | 64.6 |
| MLE-Lite | 65.2 | 43.9 | 37.9 | 72.7 | 72.7 | 77.3 |
几个读数值得展开。第一,FrontierScience-Research 与 CMT 这类"研究级"基准上,35B 模型不只是追平大模型,而是明显拉开——CMT 80.0 对 GPT-5.6-sol 的 50.0。第二,工程类基准上差距依然存在:SWE-bench Pro 61.2 对 64.6、MLE-Lite 65.2 对 77.3,闭源与本代大模型仍占优,这与"科研智能体尚未被工程任务完全定义"的判断一致。第三,相比上一代 Agents-A1,Sage-A1.5 的提升集中且巨大:SWE-bench Pro +17.6、SWE-bench Multilingual +14.0、PinchBench +13.1、MLE-Lite +21.3——这不是换个底座带来的普涨,而是后训练管线针对智能体负载的定向加强。
需要保持的审慎也同样明确。论文的 Limitation 一节自己承认三点:编排与校验的训练仍集中在搜索与研究报告合成上,超长轨迹的上下文开销依旧沉重;统一模型在联合后训练后没有完全保住每个领域教师模型的峰值;科学案例仍停留在计算仿真与历史数据回放,尚未接入真实物理实验。README 里 SWE-Bench 系列的评测也注明了协议细节:mini-SWE-agent 脚手架、temperature 1.0、top-p 0.95、200K 上下文、自动上下文压缩、全程离线无网络。任何跨模型比较,都应当先把脚手架对齐再看分数。
未来半年的分工:底座归底座,场景归场景
把上面的事实拼起来,一条分工线已经比较清晰。
底座层的竞争要素不再是"参数多大",而是四件事能否同时成立:开放权重可自持(71.9 GB、bf16、FP8/4-bit 变体)、长上下文可负担(30 层线性注意力把 KV 压到 20 KB/token)、工具协议可裁剪(spawn_subagent 由你注册、工具集由你决定、子智能体可给更窄的工具面)、能力开关可编排(一个 chat template 参数决定是否进入校验模式)。Sage-A1.5 在这四条上给出的都是"可执行的文件",而不是"可申请的接口"。
场景层的价值则转移到三件无法被权重替代的东西上:领域工具链(Psi4、SU2、pymatgen、PXRD 精修引擎、示波器与谱仪)、领域数据与评测口径(自己课题组的隐藏测试集与验收标准)、以及合规边界(哪些数据允许出内网)。论文里的案例很能说明这一点:计算化学任务中,智能体用 Psi4 跑完 5 个吡啶衍生物候选、7 个单体与 11 个复合物构象,调度并发作业、检查失败输出、在几何优化达到迭代上限时从已保存坐标重启,全流程约 12 小时;同样的流程从零实现,作者估计人类研究者需要约一个工作周。这里真正稀缺的不是模型,而是那套被固化成脚本与判据的工作流。
评测层会是下一个战场。Agent Capability Evaluation 的代码放在 Agents-A1 仓库的 evaluation 目录下,意味着"用同一套脚手架复现、对比、扩展基准"这件事被显式工程化了。对实验室而言,这比再刷一个榜单分数有用得多:你可以把本领域的任务挂进同一套协议,让不同底座在同一把尺子下比较。
回到标题里的"挤进工位"。它不是指模型比人更会做科研——论文自己都承认案例还在仿真与回放阶段。它指的是另一件更朴素的事:当一个 35B 的开放权重模型可以在本地跑 256K 上下文、能自己派出子智能体并行查证、能在思维链里自我校验、并且把工具集与数据边界完全交给你定义时,科研智能体的采购决策就从"选哪家 API"变成了"配哪台机器"。成本结构翻转之后,工具与合规这两层依赖,才是真正决定谁能把模型放进实验室的那道门。
