Slang编译器浮点到布尔向量转换问题分析与修复

问题背景

在Shader-Slang编译器的最新版本中，发现了一系列Vulkan CTS测试用例失败的问题，主要涉及GLSL中浮点数到布尔向量(bvec)的转换操作。这些测试用例包括dEQP-VK.glsl.conversions.scalar_to_vector.float_to_bvec和dEQP-VK.glsl.conversions.vector_to_vector.vec_to_bvec*等。

问题根源

通过版本比对和代码分析，确定问题源于一个简化隐式转换构造函数的提交。该提交原本旨在优化向量和矩阵的隐式转换构造函数，但在实现过程中意外删除了浮点数到布尔向量的正确转换逻辑。

技术分析

在GLSL规范中，浮点数到布尔值的转换有明确的定义：当浮点操作数等于0.0时结果为false，否则为true。正确的实现应该直接比较浮点值与0.0，而不是先将浮点数转换为整数再比较。

正确实现(修复前)

修复前的实现遵循了GLSL规范：

1. 加载浮点标量
2. 使用OpFUnordNotEqual指令将浮点值与0.0比较，得到布尔结果
3. 从标量布尔值构造布尔向量

对应的SPIR-V指令序列：

%6 = OpLoad %float %in0
%10 = OpFUnordNotEqual %bool %6 %float_0
%13 = OpCompositeConstruct %v2bool %10 %10

错误实现(修复后)

错误的实现路径：

1. 加载浮点标量
2. 构造浮点向量
3. 使用OpConvertFToS指令将浮点向量转换为整数向量
4. 使用OpINotEqual指令将整数向量与0比较

对应的SPIR-V指令序列：

%6 = OpLoad %float %in0
%10 = OpCompositeConstruct %v2float %6 %6
%13 = OpConvertFToS %v2int %10
%18 = OpINotEqual %v2bool %13 %50

这种实现会导致语义错误，因为：

1. 浮点到整数的转换会截断小数部分
2. 介于-1.0和1.0之间的小数值可能被转换为0
3. 例如0.5会先被转换为整数0，然后错误地判断为false，而根据GLSL规范应该为true

解决方案

修复方案主要涉及Peephole优化过程中对BuiltinCast的正确处理。需要确保在浮点到布尔向量的转换过程中：

1. 保持直接的浮点比较语义
2. 不引入中间整数转换步骤
3. 严格遵循GLSL规范定义的转换规则

技术影响

这个问题会影响所有依赖浮点到布尔向量正确转换的着色器程序，特别是那些使用小数值作为条件判断的场景。在图形渲染中，这可能导致：

1. 光照计算错误
2. 材质混合异常
3. 条件渲染失效
4. 后期处理效果偏差

总结

Shader-Slang编译器中的这个问题展示了编译器优化过程中保持语言规范一致性的重要性。通过这次修复，确保了浮点到布尔向量转换的准确性，维护了GLSL规范的正确实现。这也提醒我们在进行编译器优化时，需要全面考虑各种数据类型转换场景的语义一致性。