DirectXShaderCompiler 中向量长度超过254时的截断问题分析

问题现象

在 DirectXShaderCompiler 项目中，当处理 HLSL 着色器代码时，发现一个关于向量长度处理的异常行为。具体表现为：当向量的长度超过254时，在传递给某些内置函数(intrinsics)时会被错误地截断为1。

示例代码展示了这一现象：

template<int N>
int VectorLength(vector<float, N>) { return N; }

export int Test1(vector<float, 254> Input) {
    return VectorLength(mul(Input, 1));  // 正确返回254
}

export int Test2(vector<float, 255> Input) {
    return VectorLength(mul(Input, 1));  // 预期返回255，实际返回1
}

根本原因

经过深入分析，发现问题出在编译器内部处理向量参数的机制上。在 SemaHLSL.cpp 文件中，存在以下关键逻辑：

1. 当处理内置函数参数时，编译器会使用一个未初始化的值来捕获向量行或列的大小
2. 这个未初始化的值被硬编码为239(0xEF)
3. 如果向量长度大于等于这个值，编译器会错误地将其视为特殊标识符，并将向量长度默认为1

技术背景

在 HLSL 内置函数参数处理系统中，参数的行列大小信息存储在 HLSL_INTRINSIC_ARGUMENT 结构体中，其中 uRows 和 uCols 字段被定义为 BYTE 类型。这种设计带来了两个重要限制：

1. 向量长度最大只能表示255
2. 当值大于等于240(0xF0)时，这些值被保留用于特殊用途，表示参数间的值匹配关系

解决方案

针对这个问题，开发团队提出了以下改进方案：

1. 将未初始化大小的默认值从239改为0xFFFFFFFF，这样可以避免与特殊标识符范围冲突
2. 虽然这不能解决定义固定长度超过239的向量参数的问题，但在实际使用场景中，这种限制是可以接受的

影响范围

这个问题主要影响以下场景：

• 使用长度超过254的向量作为内置函数参数
• 在模板函数中传递长向量参数
• 涉及向量运算的内置函数调用

值得注意的是，这个问题目前只出现在新增的内置函数功能中，尚未影响到主分支的功能。

总结

DirectXShaderCompiler 在处理超长向量参数时存在截断问题，这是由于内部特殊值处理机制导致的。开发团队已经定位到问题根源，并计划在完成内置函数相关工作后修复此问题。对于大多数开发者而言，避免使用长度超过254的向量作为内置函数参数可以暂时规避这个问题。