DirectXShaderCompiler中dot4add_u8packed函数编译崩溃问题分析

问题概述

在DirectXShaderCompiler项目中，使用DXC编译器编译包含dot4add_u8packed和dot4add_i8packed内置函数调用的HLSL着色器代码时，编译器会出现崩溃问题。这个问题在编译目标为计算着色器模型6.8时尤为明显。

问题表现

当HLSL代码中包含如下结构时，DXC编译器会触发断言失败并崩溃：

[numthreads(1, 1, 1)]
void main()
{
    uint c_6_ = dot4add_u8packed(0, 0, 0);
    dot4add_u8packed(0, 0, c_6_);
}

技术分析

底层原因

通过分析调用栈和源代码，可以确定问题出在类型处理环节。编译器在处理dot4add_u8packed函数调用时，错误地将返回类型和第三个参数类型推断为64位整数(i64)，而实际上这些类型应该是32位整数(i32)。

具体流程

1. 在MatchArguments函数中，编译器处理函数参数类型时：

   • 对于字面量参数（如0），会跳过影响返回类型的参数（第三个参数）
   • 其他参数被设置为unsigned int类型
   • 但返回类型和第三个参数被错误推断为i64

2. 类型推断错误导致后续验证失败：

   DXASSERT(
       !accTy->isVectorTy() && accTy->isIntegerTy(32),
       "otherwise, unexpected vector support in high level intrinsic template");
   

   这个断言期望累加器类型是32位整数，但实际得到的是64位整数，因此触发断言失败。

函数语义分析

dot4add_u8packed是HLSL中的一个内置函数，用于执行以下操作：

1. 将两个输入参数视为4个8位无符号整数的打包数组
2. 计算它们的点积（对应元素相乘后相加）
3. 将结果与第三个参数相加

正确的类型签名应该是：

• 前两个参数：32位无符号整数（打包4个8位值）
• 第三个参数和返回值：32位整数

解决方案思路

要解决这个问题，需要修正类型推断逻辑，确保：

1. 正确处理影响返回类型的参数
2. 确保返回类型和累加器参数保持32位整数类型
3. 在类型推断阶段添加适当的验证

影响范围

这个问题会影响所有使用以下内置函数的HLSL代码：

• dot4add_u8packed
• dot4add_i8packed

特别是在使用计算着色器模型6.4及以上版本时容易出现此问题。

开发者建议

对于遇到此问题的开发者，可以采取以下临时解决方案：

1. 避免直接使用字面量作为参数，先赋值给变量
2. 明确指定参数类型，如使用uint(0)代替0
3. 等待官方修复版本发布

这个问题已经引起项目维护者的关注，预计会在后续版本中得到修复。开发者应关注项目更新，及时获取修复后的编译器版本。