8.8B小模型把31B大模型按在地上摩擦,可它第一行就承认“底座不是我的”:微调到底算不算自研?

原创2026-11-11 21:13:111,959 阅读
文章标签:人工智能大模型推理模型强化学习本地部署模型评测

8.8B小模型把31B大模型按在地上摩擦,可它第一行就承认“底座不是我的”:微调到底算不算自研?

这几年科技圈有个老争论,隔一阵就要被抬上桌一次:拿别人的开源大模型改一改,再换个名字发出来,到底算不算“自研”?

11 月初,一家叫 webAI 的实验室开源了一个叫 TwIL-8B 的推理模型。按说这种 8B 级别的小模型,如今一周能冒出来好几个,本该悄无声息。但它偏偏火了,原因很有意思——不是因为它藏了什么秘密,而是因为它太坦白了。

模型的说明文档第一行就写着:基于 IBM 的 Granite 4.2 8B 后训练而来。底座的许可证、署名、功劳归属,全都摆得明明白白。

然后它甩出一张成绩单:数学基准 MATH-500 拿到 98.2 分,比体量是它 3.5 倍的谷歌 Gemma 4 31B 高出 10 分多;代码基准 LiveCodeBench 拿到 81.6,又一次压过 31B;连“听不听话”的指令跟随测试,都比 Claude Opus 4.8 高出 12 分。

这就尴尬又精彩了:一个“承认自己不是从零造”的模型,把一堆“大块头”按在了成绩单上。 于是评论区自然吵成两派——一派说“底座都是别人的,凭什么叫自研”,另一派说“从会聊天到会做奥数题,这中间的活儿才是真功夫”。

今天咱们就借这个模型,把这道老题重新捋一遍。顺便说清楚:它到底强在哪、弱在哪、普通人能不能玩,以及最关键的——这东西你能不能拿去赚钱。

一、它到底是个啥?一句话:IBM 出的“毛坯房”,webAI 做了三轮“精装修”

先抛开所有术语。

你可以把大模型想象成一套房子。IBM 的 Granite 4.2 8B 就是一套结构扎实的毛坯房:40 层楼高、能装下 13 万字的长文档、水电管线齐全,而且是用 Apache 2.0 协议免费开放的——理论上谁都能拿去改造。

TwIL-8B 干的事,是把这套毛坯房重新装修了一遍,而且不是刷个墙、贴个壁纸那种。

第一轮,请家教。 他们找来大量数学、理工科、指令执行的题目,连着一步步的解题思路,一句一句喂给模型。这叫监督微调。这里有个细节值得注意:它不是贴个“小插件”式的轻量微调,而是全参数重训——相当于把整栋楼的线路全部重排一遍,成本可不是闹着玩的。

第二轮,送进驾校。 这轮不给标准答案了,只告诉它“这道题对还是错”。模型自己反复尝试,答对加分,答错扣分,越练越会找路子。这就是强化学习,产出的是“verbose”版本——想得久、想得细,准确率优先。

第三轮,限时训练。 同样的题,做对的前提下,谁写得短谁加分。这一轮专门治 AI 的“话痨病”,产出的是“balanced”版本——思考过程更精简,每题更省钱。

所以它其实有两个“性格”一模一样的双胞胎:一个话多但稳,一个话少但省。日常用后者,刷顶级难题用前者。

二、它到底“自己”做了多少?边界就在这条线上

这就是争议的核心,咱们把话说透。

没变的: 骨架、层数、注意力结构、13 万字的上下文窗口、10 万词表,全都是 IBM 原装的。它没有换发动机。

变了的: 模型的“答题习惯”和“思考方式”被彻底重塑了。原本一个通用聊天模型,被硬生生练成了竞赛数学和代码专精选手。MATH-500 从“能算”到 98.2 分,这中间不是靠改个名字就能实现的。

打个比方:一辆底盘不错的车,发动机没换,但悬挂、变速箱、电控程序全部重调,最后在赛道上快了 10 秒。那这辆车到底算谁造的?

开源圈其实早有分层共识:从零预训练(烧几千万美元那种)、后训练(微调、对齐、强化学习)、应用层开发,是三件不同量级的事。问题不在于“后训练算不算技术活”——当然算;问题在于叫法容易让人误会。把一个后训练模型直接叫“自研大模型”,普通用户很容易以为这是从一堆乱码开始、烧了几千张显卡炼出来的。

所以真正体面的做法,不是争论“算不算”,而是说清楚。

这一点上,TwIL-8B 反而做了个正面示范:底座是谁的、什么协议、功劳归谁,全写在最前面;连“哪些分数是在哪个版本上测的、哪些还没测”都标了出来;竞品数据是从哪来的、有什么口径差异,也一条条列了。这种“把丑话说在前面”的劲儿,在如今的模型发布里,其实挺稀缺。

三、成绩单确实硬,但短板也硬得很

先看它最能打的地方。

TwIL-8B 与同级、更大模型在数学、代码、指令跟随上的成绩对比

数学是主场。 MATH-500 拿 98.2,对比组第一。AIME 2025 拿 88.3,还是第一。这相当于一个体重 60 公斤的选手,在举重台上赢了 100 公斤级的对手。

代码是惊喜。 LiveCodeBench 81.6,不仅比同级别的 Qwen3.5-9B 高出 16 分,还小胜 3.5 倍体量的 Gemma 4 31B。它离 GPT-5.5、Claude Opus 4.8 这些顶级模型,只差 3 到 6 分。

“听话”程度出人意料。 指令跟随测试 IFBench 拿 74.4,比 Claude Opus 4.8 高 12.2 分,离 GPT-5.5 只差 1.5 分。这意味着你让它“按这个格式输出、分三段、每段不超过二十字”,它照做的概率很高——对天天要批量整理表格、生成固定格式文案的人来说,这比会吟诗重要得多。

然后是短板,也别替它遮。 知识类测试全面落后:GPQA Diamond 只有 70.2,比同级对手低 11.5 分;最难的专家级问答 HLE 只有 12.6 分。

道理很简单:知识靠“背”,推理靠“练”。 它的训练预算几乎全砸在“怎么想”上,没花在“记住多少”上。所以它是个刷题型学霸,不是行走的百科全书。你问它冷门历史细节、小众专业名词,它大概率不如一个更大的通用模型。

还有一个隐藏成本:它是真能说。做一道 AIME 题平均要输出约 1.95 万个 token,虽然比同级对手省了 38%,但 GPT-5.5 做同一道题只要 5 千。省是相对的,话痨是绝对的。

那 38% 是怎么省出来的?就是前面说的第三轮“限时训练”。同样做对,写短的加分。这一手很实在——本地跑模型的人都知道,token 就是电费和等待时间。

还有一个细节,普通人可能一扫而过,但内行会点头:训练数据做了“去污染”处理。简单说,就是把训练题和考试题逐段比对,连续 13 个词对上了,就判定这题“做过”,直接从训练集里删掉。这相当于考前把押题卷从课本里抽走,防止孩子背答案。 去完污染还能拿这个分数,说明它是真会,不是真背过。

四、真正该关心的,是许可证这道门槛

聊完技术,说点更现实的:你能不能免费用它赚钱?

这里有个很容易被忽略的结构:

底座是 IBM 的,Apache 2.0 协议,允许商用、允许改造、允许换许可证分发,只要保留署名。 但 webAI 把这套改造后的成品,换成了自家的“非商业许可证”。

合法吗?合法。Apache 2.0 明确允许衍生作品用不同条款发布,前提是保留原作者的署名——而仓库里确实把两份许可证都放进去了。

但对下游用户意味着什么?自己学习、研究、本地折腾、写论文、做课程演示,都没问题;想接进公司产品里卖钱,不行,得另外谈授权。

于是就出现了一个挺有意思的局面:能力来自 IBM,限制来自 webAI,责任呢?

模型自己也交代了:我没有额外的安全对齐,没做偏好训练,也不是通用助手,工具调用和智能体任务压根没测。翻成大白话就是——我只负责做题,答错了、说错话了,别指望我兜底。

这就是“底座微调”这件事真正的现实意义:你拿到的不只是一个模型文件,而是一整套来源、条款、边界的组合。以前大家只看分数,现在得学会看配料表。

五、普通人怎么上手?一台普通笔记本就够

门槛其实比想象中低。

它最轻的版本压缩完只有不到 5GB,一台内存 16GB 的普通笔记本就能跑起来,不用买什么专业显卡。全精度版本大约 16GB,有张入门级显卡会更舒服。

使用上就一句话的事:本地启动,直接对话。它会先把思考过程写在前面,再给答案——你能看见它怎么一步步推的,这点对辅导孩子做题特别友好。

有两个坑提前说:

一是别舍不得给它“思考时间”。 这模型做一道竞赛题平均要写近两万字,你要是把输出长度卡得很短,它的思路会被硬生生截断,正确率断崖式下跌。很多人抱怨“这模型好笨”,其实是自己把预算掐死了。

二是版本别选错。 日常问答、写代码片段、处理表格,用精简版就够,快且省;真要去啃压轴题,再换“话多版”。

适合谁? 刷题的学生和竞赛党、天天写代码的程序员、需要模型严格按格式输出的办公场景、以及想在断网环境里跑 AI 的人。 不适合谁? 想拿它当百科问答、查冷门资料、做知识库客服的人——这块它真不行,别难为它。

结语:这道老题,也许该换个问法

“底座微调算不算自研”,大概率永远吵不出统一答案。因为争论的从来不是技术,而是期待——你说“自研”的时候,听众以为你在说从零炼起,而你说的是从零改造。

但这次 TwIL-8B 至少提供了一个可检验的样本:底座写清楚、数据去污染、短板标出来、许可证摆明白。它没把自己包装成“横空出世”,反而因为这份坦白,让那 98.2 分显得更可信。

也许未来评价一个模型,该像看食品配料表:主料是谁的、加了多少工、谁对结果负责。写得清楚,大家自然心里有数。

那么问题来了——如果一辆车的底盘是别人的、发动机没换,但你把圈速提了 10 秒,你会管它叫“自研”吗?如果模型第一行就老老实实承认了底座,你还会介意吗?评论区聊聊你的标准。

登录后查看全文
TwIL-8B