Tarantool 内存泄漏问题分析与修复：外键约束失败场景

问题背景

在 Tarantool 2.10.0-beta2-200-gd950fdde47 版本中引入了一个严重的内存泄漏问题，该问题会在外键约束检查失败时触发。内存泄漏的速度非常快，可能导致系统在短时间内被 OOM Killer 终止。

问题复现

通过以下 Lua 脚本可以稳定复现该问题：

local fiber = require('fiber')
box.cfg{}
local x = box.schema.create_space('x', {
    format = {
        {'id', 'unsigned'},
        {'ref', 'string'},
    }
})
x:create_index('pk')
x:create_index('sk', {parts = {'ref'}})

local a = string.rep('a', 512 * 1024)  -- 创建512KB的大字符串
x:insert({1, a})

local y = box.schema.create_space('y', {
    format = {
        {'id', 'unsigned'},
        {'ref', 'string', foreign_key = {space = 'x', field = 'ref'}},
    }
})
y:create_index('pk')
y:create_index('sk', {parts = {'ref'}})
y:insert({1, a})

local b = string.rep('b', 512 * 1024)  -- 另一个512KB的大字符串
while true do
    pcall(x.replace, x, {1, b})  -- 尝试替换记录，触发外键约束检查
    fiber.yield()
end

这个脚本会创建一个包含外键约束的空间，然后不断尝试修改被引用的记录。由于每次修改都会违反外键约束，系统会拒绝修改操作，但同时会泄漏大量内存。

问题分析

根本原因

该内存泄漏问题的根本原因在于外键约束检查失败时的错误处理路径中，没有正确释放临时分配的内存。具体来说：

1. 当尝试修改被其他空间引用的记录时，系统会进行外键约束检查
2. 检查过程中会创建临时数据结构来验证约束条件
3. 当检查失败时，这些临时数据结构没有被正确释放
4. 每次失败操作都会泄漏约512KB内存（与测试中使用的大字符串大小相关）

技术细节

在 Tarantool 的实现中，外键约束检查涉及以下关键步骤：

1. 获取旧值和新值的引用信息
2. 为这些值创建临时索引结构用于快速查找
3. 验证新值是否满足所有外键约束
4. 如果验证失败，应该释放所有临时分配的资源

问题出在第4步，错误处理路径中遗漏了资源释放逻辑。这种类型的错误在数据库系统中尤其危险，因为它可能在短时间内耗尽系统内存。

影响范围

该问题影响从 Tarantool 2.10.0-beta2-200-gd950fdde47 版本开始的所有后续版本。任何使用外键约束并且频繁触发约束失败的应用都可能受到影响。

解决方案

该问题已在最新版本中修复，修复方案主要包括：

1. 在外键约束检查的错误处理路径中添加了必要的资源释放逻辑
2. 确保所有临时分配的结构体在函数返回前都被正确释放
3. 增加了相关测试用例以防止回归

最佳实践

对于使用 Tarantool 外键功能的开发者，建议：

1. 及时升级到包含修复的版本
2. 监控应用中的外键约束失败情况
3. 对于频繁触发约束失败的操作，考虑优化业务逻辑
4. 在测试环境中验证外键约束行为，特别是失败场景

总结

内存泄漏是数据库系统中需要特别关注的问题，Tarantool 开发团队通过详细的复现步骤和内存分析工具快速定位并修复了这个问题。这次修复也提醒开发者在使用高级数据库功能时，需要全面考虑各种边界条件和错误场景。