OpenJDK Eclipse OpenJ9 项目中虚拟线程饥饿问题的GC断言失败分析

问题背景

在OpenJDK 24版本的Eclipse OpenJ9项目中，测试用例java/lang/Thread/virtual/Starvation.java在执行时触发了GC断言失败。这个问题最初在macOS平台上被发现，随后在s390x Linux和Windows平台上也出现了类似的失败情况。

错误现象

测试执行过程中，GC子系统触发了断言失败，具体错误信息显示在HeapRegionManager.hpp文件的第283行：

** ASSERTION FAILED ** at HeapRegionManager.hpp:283: ((false && (heapAddress < _highTableEdge)))

在s390x Linux平台上，类似的断言失败出现在第282行：

** ASSERTION FAILED ** at HeapRegionManager.hpp:282: ((false && (heapAddress >= _lowTableEdge)))

根本原因分析

经过深入调查，发现问题出在Write Once Compactor的Fixup路径中缺少对虚拟栈分配对象的检查。当Compactor Fixup在扫描continuation虚拟栈时发现了栈分配对象，却错误地将其假设为堆对象，从而导致断言失败。

具体来说，这个问题发生在Balanced GC场景下，与虚拟线程(VThread)的栈处理相关。测试用例使用了VThreadPinner.runPinned()功能，该功能强制虚拟线程在同步块内恢复到原始的固定行为。

技术细节

从调用栈分析可以看出，问题发生在以下关键路径：

1. 虚拟线程栈帧的扫描过程中
2. 通过jitWalkStackFrames和walkContinuationStackFrames遍历栈帧
3. WriteOnceCompactor尝试处理continuation对象时
4. 最终在HeapRegionManager中触发断言失败

核心问题在于Compactor Fixup路径未能正确识别栈分配对象与堆对象的区别，导致对非堆内存地址进行了堆区域管理器的查询操作。

解决方案

修复方案主要是在Write Once Compactor的Fixup路径中添加对虚拟栈分配对象的检查逻辑，确保能够正确识别栈分配对象，避免将其误认为堆对象进行处理。

该修复被认为是低风险的，适用于所有仍可提交的分支。在OpenJDK 24版本中，这个问题最终在0.51分支上得到了修复。

影响范围

这个问题最初在macOS平台上被发现，但后续测试表明它影响多个平台，包括：

• x86-64 macOS
• s390x Linux
• x86-64 Windows
• aarch64 Linux

所有使用Balanced GC并且涉及虚拟线程continuation对象处理的场景都可能受到影响。

总结

这个案例展示了在GC实现中处理新型语言特性(如虚拟线程)时可能遇到的边缘情况。它强调了在内存管理子系统中，对不同类型的对象(堆对象、栈分配对象等)进行精确区分的重要性。通过这个问题的分析和修复，OpenJ9团队进一步完善了对虚拟线程和continuation对象的支持，提高了GC子系统的健壮性。