把模型做成平台入口:开源权重是诚意还是获客

原创2026-11-14 13:15:321,420 阅读

把模型做成平台入口:开源权重是诚意还是获客

11 月这轮 LongCat-2.5 的开源,最容易被误读成一次“跑分秀”。但把仓库里的文件摊开看,会发现它更像一套完整产品链路的中间环节:权重、配置、聊天模板、推理分支、官网与开放平台,各部分的发布时间都紧挨着,像是同一条工程流水线上按顺序落下的成品。本文不讨论“国产模型行不行”,只做一件更具体的事——用 LongCat-2.5 仓库里的 210 个权重分片、89,214 个张量条目和一份 218 行的 Jinja 模板,还原“开源 + 平台”这套组合拳的真实结构,并给出开发者可执行的判断清单。

LongCat-2.5 官方评测图表

一、把时间线对齐:开源动作从来不是孤立发布

社区情报里能拼出一条相当紧凑的时间线:

  • 2026-06-30 前后 LongCat-2.0 的 Preview 版本上线,7 月初以 MIT 协议开源 1.6T 权重,主打“5 万张国产卡全流程训练”;
  • 2026-07-28,搭载 LongCat 2.0 的全场景 Agent 平台 CatPaw 对外发布,官方口径是内部已覆盖 9 万员工、搭建 3 万个 Agent;
  • 2026-09-26,LongCat-2.5-Preview 出现在第三方编程工具 OpenCode 上,限时免费两周,这是它第一次大规模触达普通开发者;
  • 2026-10-13 前后,第三方聚合平台以“OpenAI 兼容接口 + 原生接口”双形态上架该模型;
  • 2026-11-02 正式发布 LongCat-2.5(1.6T 总参、约 480 亿激活),官网与 API 同步开放;
  • 2026-11-09 至 11-11,权重在 GitCode 以 MIT 协议落地,随后出现“实名认证送千万 Tokens”的邀请码式传播。

这条线里有两个细节值得注意。第一,Preview 阶段的用户触点不在自家平台。9 月底开发者第一次摸到 2.5,是在别人的 IDE 里免费调用;第二,权重开源的时点晚于 API 开放,11 月 2 日先给接口,11 月 9 日才给权重。

先有分发渠道、再有可下载权重,这个顺序本身就说明:权重在这个体系里承担的角色,主要作用是把模型接入生态、建立可信度,而非只做“公开发布”的仪式。真正获客的入口是 API 和平台,权重更像获取生态信任的凭证。

二、“诚意”的可验证部分:仓库里到底交出了什么

讨论开源诚意,忌讳只看 LICENSE 的三个字母。更硬的指标是:披露粒度和可复现路径。

2.1 MIT 没有附加使用限制

LICENSE 是标准 MIT 文本,版权方为 Meituan,允许使用、复制、修改、合并、发布、再许可与商业销售。唯一的例外声明写在 README.md 的 License Agreement 一节:本许可不授予使用美团商标或专利的权利。这句话在工程上很重要——协议覆盖的是版权,不是专利,如果你的产品要和 LongCat 的 MoE 路由、视觉量化器做专利层面的对抗,MIT 帮不了你。

同时权重体量本身就是一种“诚意证明”:model.safetensors.index.json 的 metadata.total_size 是 3561963022080 字节,约 3.56 TB;.gitattributes 把 *.safetensors、figures/*.png 全部纳入 Git LFS;权重被切成 model_00001-of-00208 到 model_00208-of-00208 共 208 片,外加 model_mm_pp00002_part00001 与 model_mm_pp00003_part00001 两片视觉塔权重。这不是“放个 demo 权重”的量级。

值得注意的是,本仓库的 config.json 里没有任何量化字段(没有 compression_config、num_bits),说明这份分片是未量化的 BF16 主体;W4A4 版本在社区报道中是以独立仓库形式分发、体积约 1.27 TB。同一模型两套权重、两个仓库,这是后面讨论“生态位”的关键伏笔。

2.2 架构参数没有做“选择性披露”

很多开源模型卡只给总参数和激活参数,config.json 里的关键结构会含糊带过。这份配置反而是全公开的,几个字段直接决定了能力边界:

字段 取值 工程含义
num_layers / hidden_size 38 / 8192 主干规模
n_routed_experts 768 每层路由专家数
moe_topk 12 每 token 激活专家数
zero_expert_num / zero_expert_type 128 / identity 768 个专家里有 128 个被标为恒等“空专家”
expert_ffn_hidden_size 2048 单专家 FFN 宽度
attention_method MLA 低秩 KV 压缩注意力
index_topk / index_local_tokens 2048 / 1024 稀疏注意力的索引器预算
max_position_embeddings 524288 长上下文上限
rope_scaling deepseek_yarn, factor 120 从 8192 原生窗口外推
mtp_num_layers 3 三层多 token 预测头

zero_expert_num: 128 这类字段,放在多数模型的公开配置里是看不到的。从字段语义看,它给路由器留出了“不激活任何真实 FFN”的信道,是 MoE 训练稳定性的一种工程手段。披露到这一层,说明这份配置不是给媒体看的宣传页,而是给推理引擎开发者看的施工图。

2.3 词表与模板:把“能力”做成了可读的协议

tokenizer.json 是 BPE,词表 163,840,附加 token 224 个。这 224 个里面藏着模型的“出身”:

<fim_prefix> <fim_middle> <fim_suffix> <fim_pad>
<reponame> <filename> <gh_stars> <issue_start>
<commit_before> <commit_msg> <commit_after>
<longcat_think> </longcat_think> <longcat_answer>

FIM(fill-in-the-middle)标记、仓库、提交、issue 的结构化占位符,说明训练语料里的代码场景是被显式建模过的,而非“顺手加了点代码数据”。这和 README 里 Terminal Bench、SWE Atlas、NL2Repo 的评测选择是一致的。

更关键的是 chat_template.jinja。它不是一段“拼接字符串”的模板,而是一整套推理期控制协议:

  1. 思考开关不是布尔参数,而是注入到对话里的文本指令 /think_on、 /think_off;
  2. 支持 thinking_budget,并且有 1024 的下限兜底({%- if thinking_budget < 1024 -%});
  3. 工具调用被定义成 XML 方言:先输出 <longcat_tool_declare> 声明区,调用时用 <longcat_tool_call> + 成对的 <longcat_arg_key> / <longcat_arg_value>,工具返回包在 <longcat_observation> / <longcat_tool_response> 里;
  4. 内置一个 code_interpreter 工具描述,明确写了 60 秒超时、网络隔离、禁止 requests/HTTP/外部 API,支持 python、java、go、js、ts、c、c++。

第 3 点尤其值得单独拎出来:你的工具调用格式由模板决定,而不是由 OpenAI 规范决定。这意味着哪怕你用 OpenAI SDK 接它,真正跑在模型侧的仍是 longcat_tool_call 这套 XML。迁移成本被写进了模板文件里,这是所有“兼容 OpenAI”的开源模型都会有的隐性锁定,LongCat 只是把它明明白白地放在仓库根目录,任人检查。

三、“获客”的物理约束:为什么 MIT 权重注定只能被少数人跑起来

如果只看许可证,结论是“人人都能自建”。把显存账算一遍,结论会反过来。

3.1 参数与显存的两笔账

按 config.json 的字段做静态核算:单个专家 8192 × 2048 × 3 ≈ 50.3M 参数;每层 768 个专家约 38.7B;38 层路由专家合计约 1.47T。共享专家(mlps.0 / mlps.1,FFN 宽 12288)每层约 604M,38 层再加约 23B。再加上 MLA 注意力、lm_head 与 model.embed_tokens(各 163840 × 8192 ≈ 1.34B)、视觉塔、三层 MTP,量级与官方“1.6T 总参”的口径基本对得上(索引按字节折算约 1.78 万亿,差额来自 norm、视觉量化器码本等非专家参数与混合精度存储)。

激活侧:每 token 激活 12 个专家 → 12 × 50.3M = 604M,再加两个共享专家 604M,单层约 1.21B,38 层约 45.9B,加上注意力与 MTP,与“每 token 约 480 亿激活”吻合。

结论很直接:总参 1.6T,激活 48B,但权重必须全部驻留。BF16 版本 3.56 TB,W4A4 版本约 1.27 TB。按“权重 2~3 倍”规划显存的经验法则,W4A4 的最小可行集群也在 2.5 TB 显存级,生产可用要 4 TB 以上。这个量级下,“MIT 随便用”的实际含义是:可以用,但能真正跑起来的只有云厂商、NPU 厂商和少数大型企业。

3.2 部署路径只写了 NPU

README.md 的 Deployment 章节一共两行:

LongCat-2.5 can be deployed on NPU platforms.
For NPU deployment, please refer to SGLang-FluentLLM (branch longcat-2.5-npu).

没有 vLLM 的上游教程,没有单卡或 8 卡 GPU 的量化说明。结合 W4A4 的定位——专家权重与激活都走 INT4、依赖 NPU 原生 INT4 GEMM 内核——这条路径的指向性非常明确:这份开源权重的主要受益者是国产算力厂商,而非个人开发者。

这是一个非常清醒的取舍。万亿参数模型在 GPU 上自建,对绝大多数团队在经济上不成立;而把它做成“国产卡的标杆 workload”,收益是双向的:模型拿到了稀缺的算力与调优资源,芯片厂商拿到了可对外宣称的旗舰模型。README 里那句“reported long-sequence SFT 任务上单卡吞吐比 DDP 基线高 86%”,本质上是给这套硬件协同背书的数据。

3.3 效率数字才是真正的护城河

README 的 Quantization 一节给了一组相当具体的压测数据(W4A4 对比 W8A8 MoE 基线):

指标 变化
Prefill 吞吐 +43.3%
Decode 吞吐 +42.77%
TTFT −15.91%
TPOT −19.72%
Grouped GEMM 内核 1.73× 加速
W4A4KV8 vs W8A8KV16 Decode +92%

这些数字解释了为什么权重可以免费:模型的价值不在权重文件里,而在“同一份权重能压到多少成本”这件事上。权重开源不会削弱这种优势,反而让更多硬件伙伴愿意为这套 INT4 内核投入适配——这是典型的平台侧收益,而非模型侧收益。

顺带一个实用提醒:tokenizer_config.json 里 model_max_length 是 131072,而 config.json 的 max_position_embeddings 是 524288。如果你直接让 tokenizer 的默认上限生效,长上下文能力会被无声地砍掉四分之三。这类“配置间不一致”是部署长上下文模型时最常见的坑之一。

四、架构即渠道:三个为“可服务”而做的设计

把结构设计和商业结构放在一起看,会发现几个关键设计同时在服务“能力”和“成本”。

视觉 token 化示意图

第一,MLA + 稀疏索引器。 attention_method: MLA,kv_lora_rank: 512、q_lora_rank: 1536,把 KV 压到低秩空间;同时 self_attn.0.indexer 下有 wq_b、wk、k_norm、weights_proj,配合 index_topk: 2048、index_local_tokens: 1024、index_init_tokens: 16、index_n_heads: 32,构成“轻量索引器选 top-k、再算稀疏注意力”的两级结构。README 里“在不增加 TPOT 的前提下把 decode KV 容量几乎翻倍”,说的就是这套组合。对平台方而言,这直接换算成单位显存能承载的并发数。

第二,极端稀疏的路由。 768 专家、topk 12,加上 128 个 identity 空专家。高专家数提升容量,低 topk 控制算力,空专家给路由留退路。routed_scaling_factor: 9 与 moe_impl: mix 则暗示实现上允许 dense/mixed 两种执行路径切换。

第三,MTP 与 N-gram 扩张。 mtp_num_layers: 3、mtp_replicate_modules: true、mtp_reuse_base_embedding: true,以及索引里 model.mtp.oe_embed_proj0 到 oe_embed_proj15 这一组投影、配置里的 oe_vocab_size_ratio: 100.567、oe_neighbor_num: 5、oe_split_num: 4。MTP 用于投机解码提吞吐;OE 这套“词表外扩 + 邻居聚合”的设计,是 LongCat 系列从 2.0 延续下来的路线,用来缓解超大词表下的 embedding 稀疏问题。二者都是纯推理经济性优化。

再看视觉侧:depth: 32、patch_size: 14、window_size: 112,fullatt_block_indexes: [7, 15, 23, 31](只有 4 层做全局注意力,其余走窗口注意力),min_pixels: 50176、max_pixels: 3211264;visual_quantizer_config 是 8 级残差量化、每级 16384 码本、codebook_dim: 3584。视频侧 decode_way: 1fps、max_frame_num: 128、frame_pattern: "<frame><TIMEIDX>"。这套配置的取向很清楚:把图像/视频压成离散 token,与文本共享同一个自回归目标,而不是挂一个外接编码器再做对齐。原生多模态在这里是架构选择,不是宣传词。

五、社区的两极:榜首分数与“首次实测翻车”

开源要说服两类人:采购决策者和一线开发者。这两类人对同一份模型的反应,可能完全相反。

README 的评测表给出的信号很强:Terminal Bench v2.1 拿到 88.4(LongCat-2.0 为 70.8),BrowseComp 91.9,AutomationBench 51.8,3DCodeBench 55.4,Vision2Web 78.6;对照 Claude-Opus-5 的 89.1 / 90.8 / 50.3 / 54.3 / 80.2,多数项目在同一档位,个别项目互有胜负。评测设置也公开得比较细:enable_thinking=on、temperature=1.0、top_p=0.95,Terminal Bench 用 Claude Code harness、512K 序列、三次独立运行取均值,BrowseComp 用自建轻量 harness 且只给 search 与 browse_with_goal 两个工具。

但一线开发者的第一印象来自另一条路径。9 月 28 日,一位开发者在掘金发布了 LongCat-2.5 在 OpenCode 免费期的首测:赛博“清明上河图”式页面生成、天文机械表、坦克大战与超级玛丽复刻,四个例子全部没有达到可用水平,且模型“只生成代码、不写文件”,没有表现出 Agent 应有的自主执行特征;作者同时肯定了速度(3~6 分钟完成)并给出了相当严厉的总体评价。

这段反馈需要被公正对待,有两点必须同时说清:

  1. 它是单一样本、非标准化评测,提示词、harness、上下文长度都不可控,不能用来否定 benchmark;
  2. 它揭示的问题却是真实的——Preview 阶段通过第三方免费渠道分发,等于把“未调优的默认体验”交给了最挑剔的用户。同一时期社区里还出现了“一个模型两套接口”的讨论,指出 OpenAI 兼容接口会丢掉原生接口的长上下文切块、上下文压缩等能力。默认体验被压缩成通用接口的形状,模型的特有能力反而展示不出来。

从平台视角看,这是“借船获客”的固有代价:用别人的 IDE 换来曝光,就得接受别人的默认参数与默认 harness。真正要把口碑拉回来,只能靠自家入口把完整协议暴露出来——这也解释了为什么官网、开放平台、双接口上架这三件事必须一起做。

六、开发者该怎么看这套“开源 + 平台”

抛开立场,给三条可执行的判断。

6.1 先算总拥有成本,再谈许可证

如果你的场景是“验证 LongCat-2.5 能不能解决我的问题”,成本排序是:官方 API < 第三方聚合 API < 联合部署 < 自建。自建的实际门槛不是 3.56 TB 磁盘,而是多节点 NPU、高速互联、以及只在该分支上维护的推理引擎。MIT 给了你法律上的自由,没有给你工程上的可行性。

6.2 把仓库当接口契约来读,而不是当模型卡来读

真正决定你迁移成本的,是这几个文件:

一个最小可用的调用骨架(沿用 README 的思考模式写法,去掉了冗长的工具声明):

import openai

client = openai.OpenAI(base_url="http://<your-endpoint>/v1", api_key="<key>")

resp = client.chat.completions.create(
    model="LongCat-2.5",
    messages=[{"role": "user", "content": "把这份报错的 traceback 定位到具体函数"}],
    stream=False,
    extra_body={
        "chat_template_kwargs": {
            "enable_thinking": True,
            "save_history_reasoning_content": True,   # 多轮 Agent 建议开启
            # "thinking_budget": 8192,                # 低于 1024 会被模板抬到 1024
        }
    },
)
print(getattr(resp.choices[0].message, "reasoning_content", None))

save_history_reasoning_content 这个开关在模板里是默认 true 的({%- set save_history_reasoning_content = save_history_reasoning_content | default(true) -%}),多轮场景下保留历史推理能提升一致性,代价是上下文消耗更快——长程 Agent 里这笔账要提前算。

6.3 下载与部署前的三项核对

分片体量大,出错成本高,建议把核对脚本固化进流程:

python3 - <<'EOF'
import json, os
idx = json.load(open("model.safetensors.index.json"))
wm, meta = idx["weight_map"], idx["metadata"]
print("tensors:", len(wm), "shards:", len(set(wm.values())), "bytes:", meta["total_size"])
missing = [s for s in set(wm.values()) if not os.path.exists(s)]
print("missing shards:", missing or "none")     # 208 主分片 + model_mm_*.safetensors
EOF

三项核对分别是:分片完整性(缺 model_mm_* 时纯文本仍可降级运行,但图像/视频直接报错)、配置口径一致性(tokenizer_config 的 131072 与 config 的 524288)、部署分支锁定(longcat-2.5-npu 分支要固定 commit,别跟 main 漂移)。

七、结语:诚意是真的,获客也是真的

回到标题的问题。看完仓库,我的判断是:这不是二选一。

诚意体现在可验证的披露上:MIT 协议、3.56 TB 的完整分片、公开到 zero_expert_num 和 index_topk 的配置、224 个特殊 token 的词表、218 行把工具协议和思考预算都写死的聊天模板、以及把 W4A4 压测数字直接贴出来的量化章节。这些内容如果只想做宣传,完全不必公开到这个粒度。

获客也体现在同样的文件里:权重只在 NPU 路径上给出部署指引,实际使用者被自然筛选为硬件伙伴与大客户;Preview 借第三方免费渠道触达开发者;正式发布先开 API 后放权重;开放平台用实名认证换取调用量。这些动作串起来,就是一条以权重建立可信度、以协议固化接口、以平台承接流量的路径。

对开发者而言,真正需要警惕的并非“开源是不是营销”。更值得关注的是把别人的协议当成自己的基础设施。当你把 longcat_tool_call 的 XML 方言、/think_on 的文本开关、以及 NPU 专属的推理分支写进生产系统时,你付出的是迁移成本,换回来的是“一个能在国产算力上把 1.6T 压到可服务成本”的能力。这笔交易是否划算,取决于你的负载形状和合规约束,而不取决于 LICENSE 文件的第一行。

判断标准可以很朴素:如果关掉权重下载、只留 API,你的系统需要改几行代码? 改动越少,说明你用的是平台;改动越多,说明你买的是模型。前者是获客的终点,后者才是开源的起点。

登录后查看全文
LongCat-2.5