DirectXShaderCompiler中Reassociate优化阶段的断言问题分析

问题背景

在DirectXShaderCompiler项目中，Reassociate优化阶段在处理特定HLSL代码时会出现断言失败的问题。这个问题发生在优化加法表达式时，编译器错误地计算了乘法因子的数量，导致断言触发。

问题现象

当使用dxc编译器编译包含复杂整数运算的HLSL代码时，如果启用了断言检查，编译器会在Reassociate::OptimizeAdd函数中触发断言失败。断言信息表明"Each occurrence should contribute a value"，即每个出现的值都应该贡献一个值，但实际上计算得到的NumAddedValues不大于1。

技术分析

这个问题源于Reassociate优化阶段对乘法因子的错误计数。具体来说：

1. 优化器试图将形如(AB + AC + D)的表达式重写为A*(B+C) + D的形式，即提取公共因子A。

2. 当A是一个常数，并且表达式中同时出现了A和-A时，优化器会错误地双重计数这些因子。

3. 实际上，当发现一个负常数因子时，如果它的正数版本已经被作为因子计算过，就不应该再次计数。

4. 这种错误的双重计数导致优化器认为存在多个相同的因子，而实际上可能只有一个，从而触发了断言。

解决方案

这个问题已经在LLVM上游项目中得到修复，修复方案的核心思想是：

1. 当遇到负常数因子时，检查其正数版本是否已经被作为因子计算过。

2. 如果正数版本已经存在，则跳过重复计数，避免双重计数问题。

3. 这样可以确保因子数量的准确计算，防止优化器错误地认为存在多个相同的因子。

影响范围

这个bug会影响处理包含以下特征的HLSL代码：

1. 复杂的整数运算表达式
2. 包含多个取反操作(~)
3. 使用模运算(tint_mod函数)
4. 表达式中同时出现正负常数因子

修复效果

修复后，编译器能够正确识别和处理表达式中的常数因子，不再错误地双重计数正负常数因子，从而避免了断言触发。这使得编译器能够正确处理原本会导致错误的复杂数学运算代码。

总结

这个问题展示了编译器优化阶段中因子识别和计数的重要性。在实现代数重排优化时，必须仔细处理常数因子的各种表现形式，包括它们的正负版本。DirectXShaderCompiler通过引入上游LLVM的修复方案，解决了这个Reassociate优化阶段的断言问题，提高了编译器处理复杂数学表达式的可靠性。