TruffleRuby 24.0 版本中 C 扩展浮点数处理的内部异常问题分析

在 TruffleRuby 24.0 版本中，开发者发现了一个与 C 扩展处理浮点数相关的内部异常问题。这个问题主要出现在通过 C 扩展返回浮点数值时，特别是处理 NaN（非数字）等特殊浮点数值的情况下。

问题现象

当在 C 扩展中使用 rb_eval_string 创建浮点数常量（如 NaN、正负无穷大）并通过 rb_global_variable 注册为全局变量后，在后续从 C 函数返回这些浮点数值时，TruffleRuby 会抛出"dead handle"错误。错误信息表明内部存在未正确处理的对象引用问题。

技术背景

TruffleRuby 在处理 C 扩展时，需要通过 ValueWrapper 机制来管理 Ruby 对象与 C 层面 VALUE 之间的映射关系。对于常规 Ruby 对象，这种映射关系可以正常维护，但对于浮点数等基本类型，情况则有所不同：

1. 浮点数在 TruffleRuby 内部实现为 Java 的 Double 类型
2. Java 原生类型无法直接存储 ValueWrapper 引用
3. 当 GC 发生时，缺乏有效机制保持 VALUE 到浮点实例的映射关系

问题根源

深入分析后发现，问题的核心在于 GC_REGISTERED_ADDRESSES 当前保存的是实际对象引用而非对应的 ValueWrapper。对于常规 Ruby 对象，这没有问题，因为对象本身会持有其 ValueWrapper。但对于浮点数等基本类型：

1. Java 的 Double 实例无法存储 ValueWrapper
2. 当 Init 函数执行完成后，相关的 ValueWrapper 可能被回收
3. 后续访问时无法重建 VALUE 到浮点实例的映射关系

类似问题也出现在大整数处理上，特别是那些可以放入 Java long 类型的整数（INT64_MAX 等）。真正的"大"整数（无法放入 long 的）则不受影响，因为它们像符号等对象一样处理。

解决方案

TruffleRuby 团队提出了根本性解决方案：修改 GC_REGISTERED_ADDRESSES 使其保存 ValueWrapper 引用而非实际对象。这样可以确保：

1. 所有类型的 VALUE 映射关系都能正确维护
2. 浮点数等基本类型的 ValueWrapper 不会被提前回收
3. 保持与现有 C 扩展代码的兼容性

在官方修复发布前，开发者可以使用临时解决方案：设置环境变量 TRUFFLERUBYOPT="--experimental-options --keep-handles-alive"。这会强制保留所有 VALUE 引用（虽然会导致内存泄漏，但可作为临时解决方案）。

影响范围

该问题主要影响以下情况：

1. 通过 C 扩展创建并长期保存的浮点数常量
2. 类似处理方式的特殊数值（如 NaN、无穷大）
3. 某些边界情况的大整数值

常规的 Fixnum、true/false/nil 等特殊值不受影响，因为它们使用不同的内部表示机制。

总结

这个问题展示了在混合语言环境中处理基本类型时可能遇到的复杂情况。TruffleRuby 团队通过深入分析 ValueWrapper 机制，找出了根本原因并提出了优雅的解决方案。对于使用 C 扩展处理数值计算的开发者，建议关注此问题的修复进展，并在必要时应用临时解决方案。