FEX-Emu项目中64位汇编测试失败问题分析

问题背景

FEX-Emu项目在提交2e40da3d6b448598f6d86033b33f2a630357520b后，出现了多组64位汇编测试用例失败的情况。这些测试主要涉及REP、REPNE前缀指令以及双字节指令集的特定操作。经过分析，这些问题与启用AFP(Advanced Floating Point)和RPRES功能有关。

具体测试用例分析

失败的测试用例主要集中在以下几类：

1. REP前缀指令测试：包括F3_C2.asm测试文件
2. REPNE前缀指令测试：包括F2_C2.asm测试文件
3. 双字节指令测试：包括0F_2A.asm测试文件

这些测试在jit_1、jit_500和jit_500_m三种不同的JIT编译模式下均出现失败，表明问题具有普遍性。

简化测试用例分析

通过简化F3_C2.asm测试用例，我们可以更清晰地看到问题所在。简化后的测试主要验证了SSE比较指令(CMPSS)的行为：

1. 测试初始化了两个128位数据：

   • 第一个数据：0x515253543f800000 | 0x5152535440000000
   • 第二个数据：0x515253543f800000 | 0x5152535440800000

2. 执行CMPSS xmm0, xmm8, 0x00（相等比较）指令后，预期结果应为：

   • XMM0[0]：0x51525354ffffffff（比较结果为真）
   • XMM0[1]：0x5152535440000000（保持不变）

然而实际结果中，XMM0[1]变成了0x5152535440800000，与预期不符。

技术深入分析

这个问题可能涉及以下几个方面：

1. 浮点比较指令实现：CMPSS指令在AFP启用后的行为可能发生了变化，导致比较结果不正确。

2. 寄存器保存问题：在JIT编译过程中，可能没有正确处理XMM寄存器的高64位数据，导致比较操作影响了不应该改变的部分。

3. 指令前缀处理：REP和REPNE前缀在64位模式下与SSE指令结合使用时可能存在特殊处理逻辑，当前的实现可能没有完全考虑这些情况。

4. 浮点环境配置：AFP和RPRES的启用可能改变了浮点运算的默认环境，影响了SSE比较指令的行为。

解决方案方向

针对这一问题，开发者可以考虑以下解决方向：

1. 指令模拟验证：仔细检查CMPSS指令在AFP启用后的模拟实现，确保比较操作只影响目标寄存器的低32位。

2. 寄存器访问隔离：在JIT编译器中加强对XMM寄存器部分访问的控制，确保高64位数据在标量操作中保持不变。

3. 前缀指令处理：重新审视REP/REPNE前缀在64位模式下的处理逻辑，特别是在与SSE指令结合使用时的特殊情况。

4. 浮点环境隔离：确保AFP和RPRES的启用不会意外影响SSE指令的执行环境。

总结

这一问题揭示了在模拟器开发中，启用新功能时可能对现有指令集模拟产生的意外影响。特别是在处理混合了标量和向量操作的SSE指令时，需要特别注意寄存器访问的隔离和指令行为的精确模拟。通过分析简化测试用例，开发者可以更准确地定位问题根源，从而进行针对性的修复。