跑分翻倍,干活却只快0.3%?显卡“解锁”背后的精度与长跑代价

原创2026-10-26 18:46:271,696 阅读
文章标签:驱动开发逆向工程高性能计算

跑分翻倍,干活却只快0.3%?显卡“解锁”背后的精度与长跑代价

就在 10 月 23 日,一个开源项目放出了最新实测:一张 RTX 4070 Ti SUPER,在同样的 240W 功耗墙下,张量指令吞吐从 95.0 TF/s 直接拉到 189.9 TF/s——账面翻倍。

同一天的报告里,还有另一个数字让人瞬间冷静下来。

同样是这张卡,跑一个 4096×4096×4096 的 FP8 矩阵乘法:解锁前 59.326 TF/s,解锁后 59.495 TF/s,涨幅 0.3%。

一边是“翻倍”,一边是“几乎没动”。这两个数字放在一起,才是这类显卡解锁项目最真实、也最少人愿意讲的部分。

一、它到底是个啥?一句话:把出厂被拧小半圈的阀门拧回去

先说清楚这东西在干什么。

英伟达的消费级显卡里,有一部分张量计算能力在出厂时就被“降半速”了。不是坏了,也不是硬件不够,而是人为设了一道锁。

打个比方:你买了台车,发动机是满配的六缸,但出厂把油门行程限死了一半,仪表盘上还贴着“此车限速”。这个项目干的事,就是在英伟达驱动正式接管显卡之前的那一瞬间,抢先把这道限制拨回来。

它不做超频,不刷 BIOS,不加电压,功耗墙一动不动(4090 还是 450W,4070 Ti SUPER 还是 240W,前后完全一致)。这也是它最让人心动的地方——不是把发动机榨到冒烟,而是把本来就该给的那半圈油门还给你。

这次放出的数据,确实够亮眼:

  • RTX 4090:FP16 配 FP32 累加,165.6 → 331.6 TF/s;BF16 同样从 165.5 涨到 330.6。
  • RTX 4070 Ti SUPER:95.0 → 189.9 TF/s;连 TF32 这种精度模式都从 47.49 涨到 94.51,接近两倍。

如果你只看这一屏,很容易得出一个结论:显卡白捡一张。

可惜,事情没这么简单。

二、第一盆冷水:翻倍的是“发条速度”,不是“搬砖速度”

跑分里那个“翻倍”,测的到底是什么?

报告里说得很直白:那是指令发射速率——让显卡反复做同一个算术动作,数据全塞在寄存器里,不读内存、不写内存,就看它一秒钟能把这个动作重复多少次。

这就好比测一个人的打字速度:不看写出来的是什么文章,只数一分钟能敲多少下键。

真实跑模型的时候呢?数据要从显存搬进搬出,要排队,要等结果,要访存,要调度。打字快,不等于写稿快。

证据就在同一份报告里:解锁后指令速率能跑到 189.9 TF/s,可第三方 CUTLASS 跑一个真实的 4096³ 矩阵乘,实测 FP16 是 177.5 TF/s、BF16 是 176.3 TF/s。

差了 6% 左右——这还是理想的大矩阵。

而到了 FP8 那个 59.326 → 59.495 的对比,就彻底说明问题了:指令通道的翻倍,传导到具体算法上,可能只剩零头,甚至一滴都不剩。

项目作者自己也写得很克制:这不代表所有 FP8 负载都没收益,但至少这一个内核,确实没有。

三、第二盆冷水:只有几条“产线”被放开了

更关键的是,这次解锁不是全局加速,而是精准地只放开某几种模式。

受益名单:FP16、BF16、TF32 这三种“低精度输入 + 高精度累加”的组合。

不受益名单同样很长:

  • INT8 整数运算,4090 上 661.6 → 661.4,纹丝不动;
  • 另一种小整数指令 dp4a,164.5 → 164.4,也没动;
  • 普通单精度标量运算,79.1 → 79.1,一点没变;
  • 连 FP16 配 FP16 累加,都是 189.9 → 189.9,原样。

翻译成人话:健身房年卡给你升级了,但只开放了其中三台器械,其他照样排队。

这里就藏着一个很多人忽略的认知:所谓“AI 算力翻倍”,在真实项目里可能是“我常用的那个模式恰好没被放开”。

四、精度这道坎:测试只证明了“没变差”,没证明“没问题”

标题里说的“数值差异”,真正敏感的地方在这儿。

为什么偏偏是“FP32 累加”这一档被锁?因为累加精度直接决定结果的准确度。你可以理解成记账:算得再快,如果记账只保留两位小数,一万笔账滚下来,误差就滚成了大坑。

FP32 累加,就是给这笔账留足小数位。训练大模型时,这一步差一点,反向传播的梯度就可能飘。

那解锁之后,数字还准不准?

报告里确实有硬证据:在 4070 Ti SUPER 上,用 cuBLAS 和 CPU 做参考对拍,FP16/FP32 和 BF16/FP32 各比对了 65536 个输出格子,误差数量 0,最大绝对误差 0。另一组 TF32 测试更狠,每种模式 270336 个输出单元,全部对得上。

但——请注意这个“但”。

这些测试用的输入,是“全 1”这种最听话的数据。全 1 的数据跑一万遍,结果还是那个结果,它几乎不会暴露数值稳定性问题。真实模型里,权重有正有负,有极端值,有长尾分布。

更值得注意的是,RTX 4090 那份报告里写得很老实:那套基准程序只负责让结果“活着”,避免编译器把计算优化掉,它压根就没有跟参考值做比对。

所以更准确的说法是:目前没有证据表明解锁后精度变差了,但这不等于已经证明了精度没问题。

这两句话,差着十万八千里。

五、第三盆冷水:两小时以后会怎样,其实没人测过

这才是整个项目最诚实、也最该被放大的一段。

短测是什么条件?4090 那边,几十毫秒一次的核函数,100 毫秒采一次温度,全程采了 32 个样本,其中 26 个是有效负载,温度区间 35 到 52 摄氏度。

五十度出头。这连热身都算不上。

报告的原话大意是:这些短促的测试和 200 毫秒的采样间隔,不足以说明持续整板功耗或实际墙插功耗是否可比。

翻译一下:这套数据能证明“机制生效了”,但证明不了“连续跑两小时不掉链子”。

而且短测本身还有个更隐蔽的坑——时钟爬坡。

看 4090 那组 FP16/FP16 的数据:基准测试里跑出过 306.3,也跑出过 325.7;解锁后 20000 次迭代那轮是 306.3,换成 40000 次迭代立刻变成 331.6。

同一张卡、同一份程序、同一个模式,前后能差 8%。

这个 8%,比前面 FP8 那个 0.3% 的“提升”,大了二十多倍。

所以一个特别朴素的道理就出来了:你连“同一个状态自己跟自己的波动”都没摸清,就别急着把 0.3% 说成是突破。

短测有两个方向相反的陷阱:显卡没热身,频率没爬上来,数字偏低;显卡没跑热,散热没到平衡点,数字偏高。两小时以后会往哪边偏,谁也说不准。

六、想自己验一遍?一套“笨但管用”的两小时体检法

如果你手上真有卡、真想试,别被跑分软件骗了。可以照这个笨办法来:

第一,先立“噪声地板”。 什么都不改,同一种模式连跑三次,看波动有多大。项目里的重复测试很紧,比如 94.9547、94.9516、94.9584,几乎一模一样。你的波动范围,就是你判断一切差异的尺子——小于它的差别,一律当噪声。

第二,前十分钟的数据直接扔掉。 暖机阶段不算数,只看中段和后段。

第三,比对后半小时和前一小时。 掉速 3%?5%?温度有没有一路爬?频率有没有从 2820 悄悄掉到 2600?功耗是不是还在原地的墙上。这三件事,比任何跑分曲线都重要。

第四,用真实模型、真实数据。 别拿全 1 的玩具数据自我安慰,拿你平时真正在跑的那个任务,跑够两小时。

第五,盯日志。 出现驱动报错、显卡“掉线”、固件超时之类的关键字,立刻停,别硬撑。

第六,只有一项结果能算通过: 吞吐稳住了、温度触顶不再涨、结果和原厂状态对得上。三条缺一不可。

七、真出问题,怎么退回去

这个项目在“怎么退”这件事上,反而写得比很多商业软件还细。

  • 永远留一条原厂启动项。 不删、不改,关键时刻能救机器。
  • 第一次尝试必须彻底断电。 关机后拔掉电源,等半分钟再上电。暖重启不一定行——这张卡行,不代表别的卡行,模块在某些状态会直接拒绝再执行一次。
  • 升级内核后,要重新生成引导镜像。 项目里的测试镜像是绑死内核版本的,换了内核不复验,等于裸奔。
  • 失败了先断电,别强行卸载模块。 固件可能还在用内存,项目宁可留着不放,也不让你硬拽。
  • 别偷懒用“全部显卡”模式。 那张实验性的卡,必须指定唯一的物理地址才生效,这是故意的设计。

八、说到底,这东西适合谁

说句实在话,门槛不低。

它只跑在 Linux 上,要装编译环境、要改开机启动参数、要能接受“这张卡现在可能不听话了”的心理准备。项目自己也反复强调:只有一张 RTX 4090 和一张 RTX 4070 Ti SUPER 的实测记录,其中后者被明确标为实验性;别的型号、别的批次、别的主板,全都没验证过。

所以它适合的,是那种愿意为了省钱折腾一晚上的硬核玩家,是预算紧张又想做研究的学生和独立开发者。

它不适合的,是生产环境,是别人托付给你的机器,是希望“装上就完事”的普通用户。

还有一句得说清楚:项目的源码是开源的,但英伟达的固件是另外的授权,需要在本地自己生成,仓库里不分发成品固件。这一点,跟它“翻倍”的诱惑一样重要。

结语

这几年,“解锁”两个字在显卡圈几乎是流量密码:解锁多帧生成、解锁视频编码路数、解锁虚拟化、解锁显存。标题一个比一个猛,仿佛只要敲几行字,卡就能升一个档次。

但真正值钱的东西,从来不是“翻倍”那一下。

是翻倍之后,第二天开机还在;是连跑两小时不掉速;是十万次计算之后,最后一个数字还对得上。

这个项目最打动我的地方,恰恰不是它敢喊 2 倍,而是它自己先泼了三盆冷水:这只是单卡、只是指令速率、只是全 1 数据、长跑还没测。

技术圈最稀缺的品质,可能就是这个。

那么问题留给你:如果一张卡只有在特定模式下翻倍,其他场景原地踏步,还要你折腾一整套 Linux,你愿意试吗?还是觉得,稳定跑完这一单比什么都重要?

登录后查看全文
gpu-unlock-ada