Vulkan 重绘管线为什么能绕开模拟器卡顿:一份逐层解剖
Vulkan 重绘管线为什么能绕开模拟器卡顿:一份逐层解剖
社区最近关于"Switch 2 游戏在 PC 上跑出 60 帧"的讨论里,经常出现两种截然不同的说法:一种把成绩归功于模拟器优化,另一种强调"重编译不是模拟器,所以没有开销"。两种说法都过于笼统。真正决定帧时间稳不稳的,不是"模拟"和"重编译"这两个标签,而是三段具体的开销被放在了时间轴的什么位置:客户机指令的翻译、着色器与图形管线的编译、以及客户机内存与显存之间的搬运。
NX2navi 是一个适合拿来逐层解剖的样本:它把 Switch 2 版《塞尔达传说:时之笛》(游戏版本 1.1.1)静态重编译成 Windows x86-64 原生程序,图形后端是 Vulkan 1.3(README.md、docs/architecture.md)。下面按"翻译层 → 着色器与管线 → 显存与 PCIe → CPU 侧重放"的顺序,把这条管线拆开看,每一层都对应仓库里的真实文件与常量。
一、把"翻译层"压成一次查表
解释器型模拟器最贵的一环是取指—译码—分派:每条客户机指令都要在运行时重新解释一次。JIT 把这段开销摊到代码块上,但换来了新的账:块查找、代码缓存管理、以及自修改代码导致的缓存失效。
静态重编译把整笔账挪到了构建期。recomp/lifter.py 是一个手写的 AArch64 译码器,逐个函数生成 C:一个客户机函数对应一个宿主 C 函数,BL 直接生成 C 调用,间接分支走按地址索引的表。生成端在 recomp/gen.py 里用 __attribute__((musttail)) 把尾调用交给分派器,避免每个间接跳转都长出一层宿主栈帧。
分派本身被压到了极限。runtime/dispatch.c 里的表结构值得单独看一眼注释:
- 每 4 字节客户机指令一个
uint32_t槽位,槽位存的是"宿主函数地址减去一个锚点",因此 4 字节足够覆盖单个 PE 映像内的全部重编译代码; - 中间的空洞(rodata、data、bss、对齐填充)只保留地址空间、从不写入,操作系统不会为其分配物理页,所以常驻内存约等于各模块
.text的大小; - 表在
rt_dispatch_init填完后被plat_mem_protect(..., PLAT_PROT_READ)封成只读,任意多线程读取无需锁、无需 per-thread 缓存; - 每次分派要读的热数据被塞进一条 64 字节对齐的 cache line(
slot、anchor、lo、slots)。
也就是说,一次间接调用的翻译开销,退化成了"读一个槽位 + 尾调用"。
还有一处容易被忽略的细节:标志位与寄存器没有全部压在内存里。recomp/flags.py 的注释说明了策略——生成函数把 NZCV 放在局部 Flags F 中由 clang 分配寄存器,只在真正离开函数(非 call/ret 的出口)时才写回 c->nzcv;读者若能看到唯一一种定义来源,就直接从操作数算出条件,cmp x1, x2; b.lt 因此变成一次有符号比较。寄存器同理(recomp/regs.py):最常用的通用寄存器与 NZCV 都留在 C 局部变量里,只在调用、SVC、退出前写回。这类优化不改变语义,但决定了"原生代码"到底有多原生。
正确性不是靠信心,而是靠差分测试:docs/architecture.md 提到每个被提升的指令类别都与 Unicorn 做对照,该测试只用于测试、绝不链接进游戏。
二、着色器:把编译从游玩时搬到构建时
模拟器最典型的卡顿形态是"第一次见到某个着色器就掉帧"——驱动在绘制线程上现场编译。NX2navi 的做法是把这件事拆成两半:翻译在构建/安装期完成,管线在每次启动时后台重建。
这一层有个必须先解决的前提:Switch 2 的着色器是 SM86(Ampere)代码,而它复用的翻译器只认 Maxwell。tools/xlate/AmpereLowering.cs 因此先做一次指令级降级,把每条 SM86 指令改写成一到多条语义等价的 Maxwell 指令,让后端的 IR 与 SPIR-V 生成保持不变;寄存器分配、uniform 寄存器、谓词状态、以及 task/mesh 程序用满 R252 时的 spill 布局都写在这个文件里。翻译器以 .NET 10 NativeAOT 编成 nx2navi_xlate.exe,作为独立子进程池提供服务(runtime/gfx_shader.c),翻译结果按 key 落盘。
关键的工程量在"key"上。着色器缓存键不是简单的代码哈希,而是 sha256 over "TKSK"、KEY_VERSION、翻译器身份与输入 id;输入 id 又是 sha256 over "TKSI"、IN_VERSION、代码哈希与"被掩码之外的答案清零"后的绑定答案。这样设计带来两个结果:翻译器源码一改(nx2navi_xlate.id 变),所有缓存键自动失效,不需要手工 bump 版本号;而着色器从未读过的槽位里残留的脏绑定,也不会平白造出新 id。
于是"预热"才有意义。启动路径在 runtime/boot.c:
- 预热线程在模块加载的同时就开始跑,客户机等它;
- 温启动约半秒、无感知;冷启动(换了翻译器、GPU 或驱动)实测 2,987 个着色器约 11 秒,此时显示 "Preparing shaders" 进度屏(
BOOT_SCREEN_MS1000 才亮屏,BOOT_STALL_MS60 秒无进展就放行到后台); NX2NAVI_PREWARM_WAIT_MS可给等待设上限。
管线侧则有一份"上次玩到过什么"的记录。runtime/vk_pipeline.c 的 pipeline-keys.bin 每建一条图形管线就追加一条 KeyRec:把 VkPipeState 里的着色器指针换成与翻译器无关的 gfx_shader_input_id,记录按字节哈希去重,因此换翻译器后仍能重建。下次启动时 vk_pipeline_prewarm 会按录制顺序重建这些管线——先建的是标题画面和最初几个场景用到的,最多占用 20 秒(PREWARM_PIPE_MS 20000.0),剩下的交给低于普通优先级的池线程在游玩中继续建。
真正让"游玩中不卡"成立的是 VK_EXT_graphics_pipeline_library 的组合拳:阶段库提前编译,遇到新状态时先做一次快速链接(fast link)让这一帧能画,优化版管线再由后台线程换入(P.g.fast、gpl_link)。代码注释给出了量化对比:从驱动磁盘缓存取一个库约 0.12 ms,冷建 5–180 ms;AMD 上跨进程重建一个库 0.1 ms,而冷建是顶点 55 ms / 片段 28 ms。这也解释了它为什么不把库塞进自己的 pipeline-cache.bin:每个库约 10 KB、约 240 MB,每次启动都要读进内存,不划算。
还有一个反直觉但很有效的设计:管线键尽量小。runtime/vk_pipeline.c 开头明确,Vulkan 1.3 能动态指定的状态全部动态化——视口、裁剪、深度偏移、混合常量、模板掩码、剔除模式、拓扑(同类内)、深度/模板测试与操作、顶点输入(有 VK_EXT_vertex_input_dynamic_state 时)等。键里只剩着色器、目标格式、采样数、拓扑类、深度裁剪模式、逻辑操作这些"GPU 上没法动态"的东西。键小意味着变体少,变体少意味着需要预编译的管线数量少——这比任何编译加速都更根本。
至于"没准备好的管线怎么办",runtime/vk_exec_draw.c 的取舍写得很清楚:如果这条 draw 所在 pass 的某个目标在上一帧被渲染过,就跳过它、下一帧再来;否则等待。一次性 draw(只生成一次、之后只采样的 volume/LUT)必须等,否则目标会空一整个会话。全屏三角形/四边形这类"至多 6 顶点、覆盖半屏以上"的 draw 也等,因为跳过会留下黑块,但等待预算被限制在每帧 50 ms。
准备阶段本身的准确率也被量化了。runtime/gfx_shader_guess.c 记录:对一次游玩录到的 3,093 组(程序, 绑定答案)对,默认猜测(纹理全按 2D、顶点输入全 float、颜色输出)命中 89.5%;读一次首译结果再补一次翻译后,--prepare-shaders 命中 98.3%(顶点 97.1%、计算 96.0%、片段 99.6%)。剩下的漏网之鱼不是概念问题,而是成本问题:计算管线冷建实测平均 0.96 秒/条、16 条并行(RTX 5090)。
三、4K 下的第一道墙不是 GPU,是显存与 PCIe
社区讨论里"4K 能不能稳"经常被简化成 GPU 性能够不够。在这个项目里,先撞墙的往往是另外两件事。
第一件:客户机内存不在显存里。 NVN 在 Switch 上是统一内存,CPU 写完 GPU 就能看见;PC 上是分离显存。最初的实现直接把池当 host memory 导入(VK_EXT_external_memory_host),结果 docs/architecture.md 写得很直白:没有镜像时 GPU 每次 draw 都通过 PCIe 读这些池,Kokiri Forest 只有 7 fps。runtime/vk_memory.c 的注释给了更完整的量级:GTX 1050 Ti 与 RTX 3090 Ti 上,野外的 GPU 时间约 110 ms/帧;nx2navi.ini.example 里记录的一台 5070 Ti Laptop 从 6 ms 变成 135–230 ms(标题画面 5 fps)。所以离散 GPU 的默认模式是 mirror:池第一次被当作顶点/索引/uniform/storage/indirect buffer 使用时,在显存里建一份同偏移的副本,之后的绑定与 buffer copy 都走镜像。
镜像不是免费的。CPU→镜像的同步靠 2 MiB 区域的写监视快照(GetWriteWatch 世代),注释给出的成本约 1 µs/MiB;而"把一次 flush 的最低到最高地址整段拷上去"这种朴素做法会出事——一个 252 MiB 的池只 flush 了几 MiB,就能在 PCIe 3.0 x8 上产生 30–50 ms 的 GPU 时间(NX2NAVI_FLUSH_SPAN=1 可复现旧行为)。为此代码把 flush 区间逐段记录、合并重叠,并让每次提交的第一次访问触发一次同步,副本放在紧邻该部分的 prologue command buffer 里提交。
第二件:纹理压缩格式。 Switch 用 ASTC,桌面 AMD/NVIDIA 大多不采样 ASTC。runtime/vk_astc.c 因此按设备能力分三路:原生上传、计算着色器解码(runtime/shaders/astc_decode.comp)、CPU 兜底(runtime/tex_astc.c,多线程版 runtime/tex_astc_mt.c)。显存吃紧时还有第二道:解码后立刻用 runtime/shaders/bc3_encode.comp 编成 BC3,每像素 8 bit 而非 32 bit。同一份注释给出了实测:Kokiri Forest 里 RGBA8 占 15.9 GiB 显存,BC3 占 8.2 GiB,GPU 时间相同、画面上看不出差别;而一块 4 GiB 的 GTX 1650 从 10–23 ms/帧降到 3–12 ms/帧(issue #87)。BC3 会损失精度(法线贴图),所以 24/32 GiB 卡在内存够时保留 RGBA8——判据是 20 GiB 显存 + 48 GiB 内存,因为 Windows 把进程的显存计入提交限制。
第三件(真正的 4K 门槛):游戏自己的纹理堆。 这不是"加个分辨率参数"就完事。runtime/resolution.c 说明,渲染目标住在 agl 的 DynamicTextureAllocatorMem 里,出厂 113,664 KiB,从 Graphics(201,728 KiB)切出来;在 2560x1440 下这个尺寸在标题画面就见底了。代码不是简单放大,而是按"输出的像素比超出 1920x1080 的部分 + 场景超出 1600x900 的部分"重写 HeapDef 表(res_heapdef_build),再由 runtime/memory.c 把同样的量加进应用池,保证别的堆不被挤小。注释里留了实测锚点:3440x1440 画布配 4620x1935 场景,+258 MiB 崩、+400 MiB 能进,公式给出 +750 MiB。
所以"4K 瓶颈是显存还是单核"这个问题,在这个项目里有一个分阶段的答案:先看显存与带宽(ASTC 解码、BC3 重编码、镜像预算、纹理堆),再看 CPU 侧的重放成本。分辨率越高,GPU 侧越容易先饱和;而 CPU 单核压力主要来自每帧要重放多少条命令,这跟像素数关系不大。
四、CPU 侧仍有的账:每帧重放
"原生"不等于"零开销"。NVN 前端记录的是命令缓冲,到 QueueSubmitCommands 时才在提交线程上重放成 Vulkan 命令(runtime/vk_exec.c),并且可选地由一个录制线程从环形包缓冲里发出 vkCmd*(runtime/vk_rec.c,环 16 MiB,注释称拥挤城镇里一次提交的一部分约 1–2 MiB 包)。这部分 CPU 成本是实打实的,项目用几种方式压它:
- 动态状态 + 管线键最小化,减少状态切换引发的管线查找与重建;
- 批量化:
bind_skip、shader_memo、pipe_memo、tex_memo、desc_template、push_skip在 nx2navi.ini.example 里都是可开关的优化项; - 分批提交:
split_draws/split_us让 GPU 在 pass 之间提前开工,而不是等整帧录完; - 描述符更新模板:驱动按预建布局走一次,而不是每次 draw 解析写入结构体。
还有一处是"统一内存语义"留下的坑,值得单独说。runtime/vk_usnap.c 记录:NVN 在 QueueSubmitCommands 返回时 GPU 就开跑、常量很快被读取;而在 PC 上重放要花几毫秒,这期间游戏已经在别的线程改写每对象的 uniform 块了。于是后到的 draw 读到另一个对象的矩阵——表现为"幽灵岩石"、远景发平。解决方案是在一次提交的重放开始时,把所有从 CPU 可写池绑定的 uniform 区间复制进独立 arena(按 256 字节对齐、单段最多 64 KiB、重叠合并),draw 绑定副本;GPU 在该提交内的写入会让相关副本失效。这类修补说明:重编译器可以把指令翻译做对,但内存模型的差异必须一条一条补。
线程模型同样被"补"过一遍。游戏假设 Horizon 的调度:三个应用核、按亲和性绑定、高优先级可夺取低优先级的核,并且按核保存数据不加锁。runtime/kernel.c 因此实现了三个虚拟核、优先级继承、以及默认开启的异步抢占(等待者自旋 250 µs 后挂起持有者,把核交出去);NVN_BLOCKING / kern_core_away 让队列提交、present、GPU 等待、着色器翻译、nn::fs 调用这些宿主工作在不持有客户机核的情况下执行;只可能由别的线程结束的自旋循环,其回边走 rt_spin_gate,每轮暂停一次、50 µs 后把核交给等待者。这些不是性能彩蛋,而是让"按核无锁"的原始代码在宿主上仍然正确的必要条件。
五、代价与边界:它换来了什么,又要求了什么
把开销前移,代价同样明确:
- 安装期:10–25 分钟的编译、约 30 GB 空间(docs/launcher.md);每次更新后首次启动要重新准备着色器(0.5.0 的更新说明写的是"约一分半钟的启动画面")。
- 驱动/GPU 变化:所有缓存键失效,管线要从零重建。没有 GPL 时启动会等全部管线,注释里的量级是"15 分钟以上,取决于游玩历史";有 GPL 时只等 20 秒,其余后台建。
- 内存:RGBA8 ASTC 路线要 20 GiB 显存 + 48 GiB 内存,否则退回 BC3,牺牲精度。
- 仍存在的停顿:换区时纹理建立可能卡一帧约 0.2 s;首次进入某区域时驱动要建没见过的对象(docs/releases/v0.5.0.md、README.md)。
- 可观测性限制:RenderDoc 抓不了帧,因为它对应用隐藏了
VK_EXT_external_memory_host;替代方案是NX2NAVI_DUMP逐 pass 帧转储、NX2NAVI_PROFILE采样分析器和NX2NAVI_FLIGHT飞行记录器。
它换来的东西也很具体:帧时间不再被"首次见到的着色器"和"首次见到的管线"随机打断,docs/releases/v0.4.0.md 里那条修复——"需要等待管线的 draw 不再在游戏的绘制线程上编译"——就是这一层设计的直接结果。而诊断能力也被做进了常规输出:每 60 秒与退出时一行 frametime(帧数、平均 fps、1% low、超 25/50/100 ms 的帧数),最差帧还会拆成着色器翻译、管线构建、纹理上传(含 ASTC)、重放、fence/present 等待、节奏控制(runtime/perf.c);F10 的性能面板把它可视化(docs/controls.md)。
回到标题的问题:Vulkan 重绘管线之所以能绕开模拟器卡顿,不是因为它"没有翻译层",而是因为它把三段最容易造成尖峰的工作挪出了游玩时间——指令翻译挪到构建期并压成一次查表(runtime/dispatch.c),着色器与管线编译挪到安装期和每次启动的后台(runtime/vk_pipeline.c),内存搬运从"每次 draw 走 PCIe"改成"按写监视增量同步的显存镜像"(runtime/vk_memory.c)。剩下的成本——每帧的命令重放、uniform 快照、虚拟核调度——没有消失,只是从"不可预测的卡顿"变成了"可测量、可预算的常数"。而这,恰恰是玩家能感知到的差别所在。