Tarantool项目中Vinyl引擎内存泄漏问题的分析与修复

问题背景

在Tarantool数据库的Vinyl存储引擎中，开发团队发现了一个内存泄漏问题。该问题在运行vinyl/recovery_quota.test.lua测试用例时被ASAN(AddressSanitizer)工具检测到。内存泄漏发生在Vinyl引擎执行范围压缩(range compaction)操作失败的情况下。

问题现象

ASAN报告显示，当压缩范围(-inf..inf)失败时，系统泄漏了4字节的内存。这个内存分配发生在vy_key_dup函数中，该函数用于复制键值。泄漏的调用链清晰地展示了从内存分配到最终泄漏的完整路径：

1. 通过malloc分配4字节内存
2. vy_key_dup函数创建键的副本
3. vy_page_info_create函数创建页面信息
4. 后续的Vinyl引擎压缩操作流程

技术分析

深入分析代码可以发现，这个问题是在Vinyl引擎处理压缩任务时出现的。当压缩操作失败时，系统没有正确释放之前为页面信息分配的内存资源。

具体来说，在vy_run_writer_start_page函数中调用了vy_page_info_create来创建页面信息，而后者又通过vy_key_dup分配了内存。当压缩操作在后续步骤中失败时，这些分配的资源没有被妥善释放。

这个问题最初是在Tarantool 1.7.2-405-g9b99d64b0版本中引入的，影响了后续的2.11和3.2版本。

解决方案

修复这个内存泄漏问题的关键在于确保在压缩操作失败时，所有已分配的资源都能被正确释放。开发团队采取了以下措施：

1. 在压缩任务执行失败时，添加了适当的资源清理逻辑
2. 确保页面信息创建过程中分配的内存能够在错误路径上被释放
3. 完善了错误处理机制，使系统在遇到压缩失败时能够优雅地回收所有已分配资源

修复效果

经过修复后，ASAN不再报告内存泄漏问题。系统现在能够在压缩操作失败时正确释放所有已分配的内存资源，避免了内存泄漏的发生。这对于长期运行的Tarantool实例尤为重要，因为即使是小量的内存泄漏，在长时间累积后也可能导致严重的内存耗尽问题。

总结

内存管理是数据库系统开发中的关键问题之一。这次对Vinyl引擎内存泄漏问题的修复，不仅解决了一个具体的技术问题，也提醒开发者在资源分配和释放的对称性上需要格外注意。特别是在错误处理路径上，必须确保所有已分配的资源都能被正确释放，这样才能构建出健壮可靠的数据库系统。