签名、回滚、变砖:显卡解锁类改造最常见的四个摔跤点

原创2026-10-25 12:40:411,929 阅读
文章标签:驱动开发逆向工程高性能计算

签名、回滚、变砖:显卡解锁类改造最常见的四个摔跤点

2026 年的显卡“解锁”话题热闹得很:一边是 NVIDIA 自己在驱动里放开了消费卡的视频编码会话限制,一边是社区用内存补丁在 40 系上开多帧生成、用设备 ID 欺骗打开 vGPU。这些改造有个共同点——它们改的是驱动层的开关,最坏结果是驱动崩一次、重装即可。

而 gpu-unlock-ada 走的是另一条路:它在 NVIDIA 驱动绑定显卡之前,用显卡自己已签名的 Booter 固件执行一段构造好的 V67 signature 数据,把 FEAT_OVR_SM_SPEED_SELECT(SS0)写成 0x88888888、SS1 写成 0x8,再做一次 PCIe FLR,然后把一张“看起来正常”的卡交还给原厂驱动。RTX 4090 上 FP16/BF16 的 FP32 累加吞吐从 165.6 TF/s 到 331.6 TF/s,实验性支持的 RTX 4070 Ti SUPER 从 95.0 TF/s 到 189.9 TF/s。

收益是真实的,但代价是:你操作的是一台正在跑固件、正在做 DMA、正在被 FLR 复位的设备。这类改造翻车的地方高度集中,几乎都能在仓库源码里找到对应的守卫和报错。下面四个摔跤点,按踩坑概率排序。

一、签名与安全启动:拦在 insmod 之前的那道门

这里其实有两条完全独立的签名链,很多人只想到其中一条。

第一条是 GPU 固件签名。这条链在本项目里被刻意绕开了:模块加载的是 NVIDIA 610.43.03 里那份未修改的、已签名的生产 Booter,由 SEC2 在芯片内部完成认证和解密;被构造的只是传给 Booter 的 signature 数据,让已有的、已认证的指令把受保护的权限寄存器打开。技术报告对这一点的表述很明确:宿主提供的可执行代码没有被引入认证镜像。所以你不需要给 NVIDIA 驱动打二进制补丁,也不需要为了 GPU 固件去关掉安全启动。

第二条是 Linux 内核模块签名,这条链绕不过去。gpu_unlock 是一个树外模块,通过 DKMS 在目标内核上现场编译:

grep -qx 'PACKAGE_VERSION="1.1.1"' kernel/gpu_unlock/dkms.conf
install -Dm644 -t $(DESTDIR)$(DKMSDIR) $(MODULE_FILES)

这是 Makefile 里 install-dkms 做的事——把 Kbuild、dkms.conf 和六个目标文件丢进 /usr/src/gpu-unlock-1.1.1,剩下的编译交给 DKMS。而整个仓库里搜不到 sign-file、mokutil、MODULE_SIG 之类的钩子(只有 ada-port.md 在讲“公开的调试测试密钥不是生产签名密钥”)。签名责任被完全交给了发行版的 DKMS 框架。

于是在开着 Secure Boot 的机器上,典型失败长这样:

  • dkms build 一路绿灯,dkms install 也“成功”;
  • 真正 modprobe gpu_unlock 时内核拒绝加载,报 Key was rejected by service 或 module verification failed;
  • 然后 journalctl -k | grep gpu_unlock 一行都没有,因为模块根本没进内核。

这三步的现象和“模块加载了但解锁失败”几乎无法区分,是本项目最容易误判的坑。区分方法只有一个:先确认模块在不在。

lsmod | grep gpu_unlock
modinfo gpu_unlock

如果 modinfo 能读到但 lsmod 是空的,且 dmesg 里有签名拒绝,那就是签名问题,不是解锁问题。处理方式是自己生成一对 MOK 密钥、给编译产物签名、mokutil --import 并在 MOK 管理器里完成注册;或者用发行版 DKMS 已经托管的那套机器密钥(Ubuntu 系的 /var/lib/shim-signed/mok)。

这里有个必须注意的顺序:签名发生在编译之后,而 initramfs 里打包的是构建时的那份 .ko。如果你先装包、再手工 sign-file,那么 initramfs 里躺着的仍然是未签名版本——下一次启动照样被拒,而且现象更迷惑:文件系统上的模块是签好的,早期启动阶段加载的却是旧的。改完签名后一定要重建镜像:

sudo update-initramfs -u -k all      # Debian/Ubuntu
sudo dracut --force                  # Fedora/RHEL
sudo mkinitcpio -P                   # Arch

顺带一提,dkms.conf 里设置了 NO_WEAK_MODULES="yes",注释写得很直白:不要让 RHEL 的 weak-modules 把一个内核的构建链接到其它内核上,否则卸载包之后会留下一堆悬空软链,把 dracut 弄挂。这是“签名/链接”这条线上另一个不显眼但很致命的细节。

二、改前必须留的三份备份

这条改造不刷 VBIOS、不改 flash,所以不存在传统意义上的“备份固件”。真正需要备份的是三样可恢复性资产,缺一样,出问题时你就只能靠猜。

第一份:可用的原厂启动项

仓库在 README.md 和 QUICKSTART.md 里反复强调这一点,措辞几乎到了啰嗦的程度:“Keep a normal boot entry available”“Do not copy a sample PCI address”。原因很实际:解锁参数是内核命令行上的 opt-in,一旦写进入持久启动项又启动失败,你需要一个不改命令行就能进系统的入口。

bootctl status                        # 找到当前条目和 ID
sudo bootctl set-oneshot your-ada.conf   # 只影响下一次启动
sudo bootctl set-default your-ada.conf   # 确认可用后才持久化

set-oneshot 与 set-default 的区别不是风格问题:ada-2705-report.md 记录的做法是先用一次性条目跑通冷启动和一次普通热重启,之后才把已验证的 Ada 条目设为持久默认,原厂条目文件始终保留。GRUB 用户同理,改 GRUB_CMDLINE_LINUX_DEFAULT 之前先确认能从启动菜单里选回旧内核。

第二份:寄存器与固件状态基线

这是最容易被跳过、但信息量最大的一份。仓库自带一个只读采样器 diagnostics/peek/gpu_peek.c,它的文件头注释就把边界写清楚了:每次访问都是对 BAR0 的单次 32 位读,从不写配置空间、不写 BAR、不跑固件、不复位、不使能设备。

make -C diagnostics/peek
sudo insmod diagnostics/peek/gpu_peek.ko target=0000:01:00.0 cluster=1 permissions=1
dmesg | grep gpu_peek

cluster=1 会把 SS0/SS1、FEAT_OVR_PLM、FEAT_READOUT_1 那 31 个字的簇打出来,permissions=1 再补上 payload 的四个目标权限寄存器。得到的结果大致是这样(摘自 registers.txt):

gpu_peek: 0x001fa824 WPR2 lo                = 0x1ffffe00
gpu_peek: 0x001fa828 WPR2 hi                = 0x00000000
gpu_peek: 0x00823804 PLM entry              = 0xffffff8f
gpu_peek: 0x0082381c SS0 speed select       = 0x44023025
gpu_peek: 0x00823820 SS1 speed select       = 0x00000007
gpu_peek: 0x00823818 FEAT_READOUT_1 (SS effective) = 0x00410080

其中 WPR2 high 是不是 0,直接决定你下一次尝试的结果。源码里这条判断毫不含糊:

/* WPR2 is down from power-on until FWSEC-FRTS runs. An enabled
 * WPR2 means a driver has already used the card this power cycle; ...
 */
if (wpr_hi >> 4) {
    dev_err(&work->pdev->dev, "card already initialised since power on (WPR2 enabled); power off first\n");
    return GU_RESULT(-EBUSY);
}

见 unlock_610.c。基线里没有这一项,你就分不清“参数写错了”和“卡不是冷态”。

第三份:性能与设备身份基线

解锁前后必须是同一张卡、同一份 cubin、同一个功耗墙。仓库把这件事做成了强制参数,而不是口头约定:

python3 tools/read_sm_rates.py --expect-uuid GPU-你的确切实例UUID
python3 diagnostics/bench/tensor_modes_driver_runner.py \
  tensor_modes_issue_sm89.cubin \
  --sha256 <cubin 的 SHA-256> \
  --expect-uuid GPU-你的确切实例UUID \
  --expect-power-limit 240

read_sm_rates.py 走的是 NVIDIA RM 的只读 getter(GET_SM_RATES = 0x20801230),不映射 BAR、不写寄存器、不建 CUDA 上下文;runner 则要求 UUID、cubin 哈希、功耗墙三者全对,否则拒绝跑。在多卡机器上,没有 UUID 约束的“前后对比”基本没有意义——你无法证明两次测的是同一张卡。

有了这三份,任何一次“性能没变”的疑问都能在五分钟内定位到是参数没生效、还是卡不是冷态、还是测量对象错了。

三、升级后改动被覆盖、性能打回原形:按代价从低到高排查

先说一个反直觉的事实:这个解锁不是持久化的。技术报告写得很清楚,“Power-off persistence of the override is not claimed”。寄存器里的 override 能扛过 FLR、扛过原厂驱动初始化、扛过 CUDA 负载,但完整断电之后需要重新执行一遍事务。所以“升级后性能回到一半”绝大多数不是被谁覆盖了,而是这次启动压根没跑成。

按排查代价从低到高:

第一步,看命令行还在不在。

cat /proc/cmdline | tr ' ' '\n' | grep gpu_unlock

没有 gpu_unlock.targets=,模块会在 gpu_unlock_init() 里直接返回 0:

/* Loaded ahead of nvidia on every boot; the command line is the opt-in. */
if (!targets || !*targets)
    return 0;

见 main.c。模块“加载成功”但什么也没做,这是设计如此。

第二步,看模块在不在 initramfs 里。 这一步是内核升级后最常见的断点。

lsinitrd /boot/initramfs-$(uname -r).img | grep -E 'gpu_unlock|gpu-unlock'
# 或
lsinitcpio /boot/initramfs-linux.img | grep gpu_unlock

模块必须在 NVIDIA 之前跑,所以它被打进了 initramfs,而不是等根文件系统就绪后再加载。packaging/boot/mkinitcpio.conf 的做法是重排 MODULES 数组,把 gpu_unlock 精确插到 nvidia 之前,没有 nvidia 就放最后;dracut.conf 用 force_drivers+=" gpu_unlock ";initramfs-tools.conf 就是一行模块名。Debian 侧在安装时重建全部镜像:

if [ "$1" = configure ] && command -v update-initramfs >/dev/null; then
	update-initramfs -u -k all
fi

见 gpu-unlock-dkms.postinst,卸载时 postrm 也会重建,避免镜像里留一个已删除的模块。

这里有个专门坑 Arch 用户的细节:README.md 明确写了,用 -c 指定的自定义配置或 preset 里的 _config 不会读取 drop-in。也就是说包装得好好的、文件也在 /etc/mkinitcpio.conf.d/zz-gpu-unlock.conf,但只要你的 preset 指向自己的配置,gpu_unlock 就永远进不了镜像——现象就是“升级内核之后突然失效”,而包本身没有任何报错。

第三步,确认加载顺序没被别的东西破坏。 仓库故意不写 softdep nvidia pre:,理由写在 README 里:kmod 只用第一条匹配的 soft 依赖行,很容易和别的包打架。

第四步,看日志落在哪个阶段。 事务是严格串行的(unlock_610.c):

if (!ret) ret = unlock_transaction_claim(work);
if (!ret) ret = unlock_transaction_layout(work);
if (!ret) ret = unlock_transaction_dma(work);
if (!ret) ret = unlock_transaction_gfw(work);
if (!ret) ret = unlock_transaction_fwsec(work);
if (!ret) ret = unlock_transaction_signature(work);   /* publish V67 */
if (!ret) ret = unlock_transaction_boot(work);
if (!ret) ret = unlock_transaction_signature(work);   /* restore stock */
if (!ret) ret = unlock_transaction_selector(work);
if (!ret) ret = unlock_transaction_reset(work);

每一阶段都有自己的日志行,成功路径长这样(transaction-excerpt.txt):

AD102 payload result: boot=0 halt=0 marker=0x67b00001 ... required_permissions=1 cpuctl=0x10 halted=1
selector result: SS0=0x88888888 expected=0x88888888 matched=1
post-FLR SEC2 reset released, GSP halted, BME=0 pending=0 WPR2=1ffffe00:00000000 SS0=88888888 SS1=00000008
gpu_unlock: unlocked

停在哪一行,就对应哪一类失败:claim 阶段失败多半是卡已被驱动占用或不是 D0;gfw 阶段超时是固件没到 HALT;fwsec 阶段失败是板载 ROM 里没找到 FWSEC-FRTS;boot 阶段失败是 payload marker 或权限读回不对;reset 阶段失败是 FLR 之后 WPR2 没降下去。

第五步才是怀疑冷态。 完整断电、断 AC、等 30 秒,再上电。QUICKSTART.md 把这一步单列成一节而不是附注,正是因为热重启能不能回到可用状态取决于板子:实测的那张 2705 可以,但模块会在其它板子保留 WPR2 时直接拒绝。

第六步,读回。 read_sm_rates.py 报告 FMLA32/IMLA2/IMLA4 是否为 half,比任何跑分都直接。

顺带说清 Fedora/RHEL 上为什么升级体验更脆:gpu-unlock.spec 的 %posttrans 会给所有装了 headers 的内核(而不只是正在跑的内核)构建模块,然后按需重建 dracut;%postun 则专门清理 weak-updates 里残留的 gpu_unlock.ko 软链并重建镜像。这两段脚本的存在本身就说明这类悬空状态在真实发行版上很常见。

四、出现异常时的十分钟止损流程

先定义什么算“异常”。按严重程度排:

  1. 日志出现 firmware did not stop; keeping its DMA buffers until power off;
  2. 出现 card already initialised since power on (WPR2 enabled) 或 stock signature restore deferred: SEC2 HALT unverified;
  3. 启动后 nvidia-smi 报 Xid、GPU fallen off、GSP/SEC2 超时;
  4. 屏幕一直黑,但机器在跑。

第 1 条最严重,因为它意味着固件可能仍在往模块申请的 DMA 缓冲里写。源码的处理方式是连模块引用一起留住:

if (work->retained) {
    /* Firmware may still DMA into these buffers: keep them, the device
     * reference and this module until the next power off. */
    dev_err(&pdev->dev, "firmware did not stop; keeping its DMA buffers until power off\n");
    __module_get(THIS_MODULE);
    return ret;
}

而进入这个状态的条件写在 unwind 里,注释只有一句:“A timeout never authorizes freeing firmware-visible memory.”

if (work->firmware_started && !work->quiesced) {
    work->retained = true;
    return GU_RESULT(-EBUSY);
}

这意味着:这时候 rmmod 大概率也卸不掉,而强行卸载是唯一能把“性能异常”升级成“真变砖”的操作。释放一块固件还在写的内存,后果不由你控制。

所以十分钟流程是这样的:

0–1 分钟:停手。 不要 rmmod -f,不要再来一次 modprobe,不要同时挂第二个 BAR0 采样器(README 明确禁止在事务执行期间这么做)。

1–3 分钟:断电,不是重启。 关机、断 AC、等 30 秒。热重启有可能保留固件状态,让你在下一次尝试里得到 -EBUSY,白白多消耗一次机会。

3–5 分钟:用一次性启动项把参数摘掉。 在 bootloader 编辑界面里删掉 gpu_unlock.*,或者选原厂条目。这一步不需要系统能正常进图形界面,只要能进 bootloader。

5–8 分钟:收集证据再动手。

journalctl -k -b -1 --no-pager | grep -E 'gpu_unlock|NVRM|Xid'
journalctl -k -b --no-pager | grep -E 'gpu_unlock: unlocked|unlock failed|post-FLR'

-b -1 拿上一次启动的日志,因为出事那次很可能已经起不来了。把这些行留下来,它们是判断“事务停在哪一步”的唯一依据——模块的每个守卫失败都会带上文件、行号和函数名:

#define GU_DIAG(result) gu_diagnostic_result((result), __FILE__, __func__, __LINE__)

见 diagnostic.h。日志里出现 failure kernel/gpu_unlock/unlock_610.c:1266 unlock_transaction_gfw error=-16,比“解锁失败了”有用一万倍。

8–10 分钟:决定去留。 如果只是想恢复原状,卸包并让包管理器重建镜像(Debian 的 postrm 与 RPM 的 postun 都做了这件事),再断电一次回到干净硬件状态。如果还想再试,先补上第二节的三份基线,特别是 WPR2 的读数。

还有一个经常被误判成“变砖”的现象:屏幕黑掉。FLR 会复位显示引擎,所以模块在复位前主动移除了固件帧缓冲:

/* FLR resets the display engine, so a firmware framebuffer (simpledrm,
 * efifb) on this card must go first; nvidia-drm replaces it later.
 */
ret = gpu_unlock_remove_apertures(work->pdev);

见 unlock_610.c 与 aperture_compat.h(后者还顺手兼容了 Ubuntu 5.15 上 DRM 与 linux/aperture.h 两套 API)。README 的说法是:显示会一直黑到 nvidia-drm 接管。在一台没有第二块显卡、也没有 SSH 的机器上,这一段黑屏足以让人以为卡废了——然后做出拔卡、清 CMOS 之类更危险的动作。远程机器上做这件事之前,先把带外管理或第二张显示卡准备好。

收束:真正的门槛不在 payload

把四个摔跤点摊开看,会发现它们指向同一个结构性问题:这条改造的难点从来不是那段 64,000 字节的 payload,而是它必须在一个精确的时间窗里、以精确的硬件状态、由一条精确的引导链送达。

  • 签名决定了它能不能进内核;
  • 三份备份决定了出错后你是在“排查”还是在“猜”;
  • 升级覆盖决定了它是每次都生效,还是只有装完那天生效;
  • 止损流程决定了最坏情况是“重启一次”还是“换一张卡”。

仓库自己对这些边界写得很克制:RTX 4090 是单卡单次冷启动的结果,2705 是单卡 canary,测试镜像绑定在 5.15.0-177-generic 上,内核升级必须重新生成并重新验证,targets=all 永远不选实验性的 AD103。这些限制读起来像是免责声明,实际上是这份工作里最值钱的部分——它们精确描述了在什么条件下这个结果成立,而这正是把一次实验变成可重复工程的分界线。

登录后查看全文
gpu-unlock-ada