cc65编译器优化导致无效代码生成问题分析

问题背景

在cc65编译器项目中，最近发现了一个严重的代码生成问题。当启用特定优化选项时，编译器会生成无法正确组装的代码，具体表现为分支指令跳转距离超出限制。这个问题最初在2024年1月被发现，经过分析确认是在某个特定提交后引入的回归问题。

问题现象

开发者在使用cc65编译一个嵌入式项目时发现，编译器生成的汇编代码包含无效的分支指令。具体表现为：

1. 编译器错误地将JNE(跳转不等于)指令替换为BNE(分支不等于)指令
2. 当分支目标距离超过BNE指令的127字节限制时，导致汇编器报错
3. 问题特别出现在处理位于零页(zero page)的长整型变量时

问题根源

经过深入分析，发现问题源于编译器优化过程中的几个关键因素：

1. 长整型赋值优化：编译器尝试优化长整型(32位)变量的赋值操作，将原本的多条指令序列简化为更高效的指令组合。

2. 指令大小计算错误：在优化过程中，编译器未能正确更新指令大小信息。特别是当将零页存储指令(STA $zp)优化为绝对地址存储指令(STA $xxxx)时，没有相应更新指令大小(从2字节变为3字节)。

3. 分支距离计算偏差：由于指令大小计算错误，导致后续的分支距离计算出现偏差。编译器错误地认为分支目标在BNE指令的有效范围内，而实际上已经超出了127字节的限制。

解决方案

修复方案主要包含以下关键点：

1. 正确维护指令大小信息：在优化长整型赋值操作时，确保同时更新相关指令的大小信息。特别是当存储目标从零页变为绝对地址时，需要将指令大小从2字节调整为3字节。

2. 改进分支距离计算：在决定是否将JNE替换为BNE时，使用准确的指令大小进行计算，确保分支距离确实在BNE指令的有效范围内。

3. 零页变量声明验证：增加对零页变量声明的验证，确保使用#pragma zpsym声明的变量确实位于零页地址空间。

技术细节

问题的核心在于编译器优化过程中的信息同步问题。当进行长整型赋值优化时，优化器执行了以下步骤：

1. 识别可以优化的长整型赋值模式
2. 重组指令序列以提高效率
3. 删除冗余指令

然而，在重组指令序列时，优化器未能正确维护CodeEntry结构中的指令大小信息。这导致后续的分支优化阶段基于错误的信息进行决策，最终生成了无效的BNE指令。

影响范围

该问题主要影响以下场景：

1. 使用长整型变量(32位)的操作
2. 启用了特定优化选项(-Osir)
3. 变量被声明位于零页地址空间(通过#pragma zpsym)
4. 代码中包含条件分支结构

最佳实践

为避免类似问题，开发者可以注意以下几点：

1. 正确使用零页声明：确保使用#pragma zpsym声明的变量确实位于零页地址空间。可以使用以下模式：

#pragma data-name(push, "ZEROPAGE", "zp")
#pragma bss-name(push, "ZEROPAGE", "zp")
int zp_variable;
#pragma data-name(pop)
#pragma bss-name(pop)
#pragma zpsym ("zp_variable")

2. 谨慎使用优化选项：在关键代码段中，可以尝试禁用特定优化选项以验证问题。

3. 代码审查：对于生成的汇编代码进行审查，特别是关注分支指令的使用是否合理。

总结

这个cc65编译器的问题展示了编译器优化过程中信息同步的重要性。即使在看似简单的优化过程中，也需要全面考虑所有相关信息的更新和维护。通过这次修复，不仅解决了具体的代码生成问题，也提高了编译器在类似优化场景下的可靠性。