QuickJS-NG 中的递归调用导致栈溢出问题分析

问题背景

QuickJS-NG 是一个轻量级的 JavaScript 引擎实现，最近发现了一个由于递归调用导致的栈溢出问题。这个问题出现在处理特定 JavaScript 代码时，引擎会进入无限递归状态，最终触发栈溢出并导致程序崩溃。

问题现象

当执行以下 JavaScript 代码时，QuickJS-NG 会崩溃：

function main() {
    delete this[this];
    for (const v6 of [1]) {
            for (const v10 in this) {
                const v12 = {}.__proto__;
                v12.toString = this[v10];
            }
            for (const v19 in this) {
                const v20 = this[v19]-1;
            }
    }
}
main();

从调用栈可以看出，引擎在执行 delete this[this] 操作时进入了深度递归，最终因为栈空间耗尽而崩溃。

技术分析

1. 根本原因

问题的核心在于 delete this[this] 这个操作。当尝试删除一个属性时，引擎需要将 this 转换为属性键（property key），这个过程涉及到：

1. 调用 JS_ToPropertyKey 将 this 转换为原子（atom）
2. 在转换过程中，又需要调用 toString 方法
3. 而 toString 方法可能又触发其他操作，形成递归调用链

2. 调用链分析

从崩溃的调用栈可以看到一个典型的无限递归模式：

1. JS_ToPropertyKey 尝试将值转换为属性键
2. 调用 JS_ToStringInternal 进行字符串转换
3. 触发 toString 方法的调用
4. 方法调用又回到 JS_ToPropertyKey 的路径

这种循环依赖导致了调用栈不断增长，最终耗尽栈空间。

3. 引擎内部机制

QuickJS-NG 在处理属性删除操作时，会遵循 ECMAScript 规范要求：

1. 首先对属性键进行 ToPropertyKey 转换
2. 这个转换过程可能触发对象的 toString 或 valueOf 方法
3. 如果这些方法又触发了对当前对象的操作，就会形成递归

解决方案

修复这个问题的关键在于打破递归循环。合理的做法是：

1. 在 JS_ToPropertyKey 中检测递归调用
2. 当检测到可能形成无限递归时，抛出异常而不是继续执行
3. 限制最大递归深度，防止栈溢出

预防措施

对于 JavaScript 引擎开发者，这类问题可以通过以下方式预防：

1. 实现递归深度计数器，限制最大调用深度
2. 在关键路径上添加循环引用检测
3. 对可能形成递归的操作进行特殊处理
4. 增加测试用例覆盖这类边界情况

总结

这个案例展示了 JavaScript 引擎在处理语言特性时可能遇到的复杂情况。特别是当语言规范允许的操作可能导致无限递归时，引擎需要额外的保护机制来确保稳定性。QuickJS-NG 通过修复这个问题，进一步提高了对边缘情况的处理能力，增强了引擎的健壮性。

对于开发者而言，理解这类问题的本质有助于编写更安全的代码，避免触发引擎的边界条件。同时，这也提醒我们在实现语言运行时时要特别注意递归和循环引用等潜在问题。