FEX-Emu项目中Unity游戏挂起问题的分析与解决

问题背景

在FEX-Emu项目中，近期发现了一个影响Unity游戏运行的问题：当游戏启动时，会出现黑屏并挂起的情况。经过测试确认，该问题在FEX-2405版本中表现正常，但在314fea36b4420f648a209b8c9ec589eecef35f8d版本中出现了问题。受影响的游戏包括Donut County等多款Unity引擎开发的游戏。

问题定位

通过二分法排查，我们很快将问题范围缩小到一个相对较小的提交区间。最终确定问题源于提交bb8336fcad9cf5619215e5a9f765ca48c7d48970，该提交对逻辑标志位进行了优化，特别是将PF(奇偶标志)的写入操作进行了融合。

技术分析

问题的核心在于OpcodeDispatcher中对逻辑标志位的处理方式发生了变化。原代码在处理4字节及以上大小的寄存器时，会调用HandleNZ00Write()并计算PF标志；而对于更小的寄存器，则使用SetNZ_ZeroCV()并单独计算PF标志。

优化后的代码试图通过_AndWithFlags操作来合并PF标志的计算，但这种优化在某些特定情况下会导致Unity游戏运行异常。特别是当处理4字节寄存器时，这种优化路径会引发问题。

解决方案探索

我们尝试了多种解决方案：

1. 完全回退方案：直接回退到优化前的代码版本，这确实解决了Donut County等游戏的挂起问题。

2. 部分限制方案：尝试仅对4字节寄存器禁用优化路径，但测试发现游戏仍然会挂起。

3. 选择性优化方案：仅对8字节寄存器应用优化路径，而让4字节寄存器走原来的处理逻辑。这种方案成功解决了游戏挂起问题。

根本原因

深入分析表明，问题源于Unity引擎对标志位的特殊使用方式。Unity引擎在某些情况下会依赖特定的标志位状态，而优化后的标志位计算方式可能没有完全符合x86架构的精确语义要求，特别是在处理4字节寄存器时。这种微妙的差异导致了游戏逻辑的异常。

最终解决方案

基于测试结果，我们选择了最稳健的解决方案：修改CalculateFlags_Logical函数，仅对8字节寄存器应用优化路径，而让4字节及以下大小的寄存器保持原有的处理逻辑。这种方案既保留了大部分优化带来的性能提升，又确保了与Unity引擎的兼容性。

void OpDispatchBuilder::CalculateFlags_Logical(uint8_t SrcSize, Ref Res, Ref Src1, Ref Src2) {
  // AF
  // Undefined
  _InvalidateFlags(1 << X86State::RFLAG_AF_RAW_LOC);

  if (SrcSize == 8) {
    HandleNZ00Write();
    CalculatePF(_AndWithFlags(IR::SizeToOpSize(SrcSize), Res, Res));
  } else {
    SetNZ_ZeroCV(SrcSize, Res);
    CalculatePF(Res);
  }
}

经验总结

这次问题的解决过程给我们带来了宝贵的经验：

1. 性能优化虽然重要，但必须确保不影响模拟器的兼容性，特别是对主流游戏引擎的支持。

2. 标志位处理在x86模拟中非常敏感，任何优化都需要经过严格的测试验证。

3. 针对不同大小的寄存器可能需要采用不同的优化策略，不能一刀切。

4. 游戏引擎可能对处理器标志位有特定的依赖关系，这在模拟器开发中需要特别注意。

通过这次问题的解决，我们不仅修复了Unity游戏的兼容性问题，也加深了对x86标志位模拟的理解，为未来的优化工作积累了宝贵经验。