DirectXShaderCompiler中SV_ShadingRate语义导致优化失效问题分析

在DirectXShaderCompiler项目中，开发者发现当使用SV_ShadingRate语义时，编译器会意外地跳过对未使用资源的优化过程。这个问题不仅影响性能，还会导致生成的SPIR-V代码包含冗余指令和资源声明。

问题现象

当HLSL着色器代码中使用SV_ShadingRate语义时，编译器会表现出以下异常行为：

1. 未使用的纹理、采样器和常量缓冲区不会被优化移除
2. 未使用的输入变量不会被优化掉
3. 效果等同于强制设置了-fspv-preserve-bindings编译选项

这个问题不仅出现在显式使用SV_ShadingRate语义的情况下，当通过SPV_KHR_fragment_shading_rate扩展直接内联SPIR-V时也会出现相同的行为。

技术背景

SV_ShadingRate是DirectX中的着色率语义，用于控制可变速率着色(VRS)技术。它允许开发者指定不同区域的着色率，从而提高渲染性能。在Vulkan中，这一功能通过SPV_KHR_fragment_shading_rate扩展实现。

根本原因

经过深入分析，发现问题根源在于SPIRV-Tools的激进死代码消除(ADCE)优化阶段。该阶段维护了一个允许的扩展白名单，如果代码中包含不在白名单中的扩展，整个优化过程就会跳过。

具体来说，SPV_KHR_fragment_shading_rate扩展没有被包含在ADCE的白名单中，导致当检测到这个扩展时，优化器直接退出而不执行任何优化操作。这不仅影响了SV_ShadingRate语义，也影响了其他可能使用该扩展的情况。

解决方案

修复此问题需要在SPIRV-Tools中更新多个优化过程的白名单：

1. 激进死代码消除(ADCE)优化
2. 其他相关优化过程的白名单

将SPV_KHR_fragment_shading_rate扩展添加到这些白名单后，编译器能够正确处理包含SV_ShadingRate语义的着色器，并执行预期的优化。

影响范围

这个问题会影响所有使用以下特性的项目：

1. 使用SV_ShadingRate语义的DirectX着色器
2. 通过SPIR-V直接使用SPV_KHR_fragment_shading_rate扩展
3. 期望编译器自动优化未使用资源的场景

总结

这个案例展示了编译器优化过程中的一个微妙但重要的交互问题。扩展白名单机制原本是为了确保优化过程的安全性，但遗漏关键扩展会导致意外的优化行为。对于开发者来说，了解这一机制有助于更好地理解编译器的优化行为，并在遇到类似问题时能够快速定位原因。