RocksDB中BlobDB文件句柄泄漏问题的分析与解决

问题背景

在使用RocksDB的BlobDB功能时，Java开发者发现了一个文件句柄泄漏的问题。具体表现为：当使用RocksDB Java绑定(rocksdbjni)的9.x版本时，系统会积累大量已删除blob文件的打开句柄，而这个问题在8.11.x版本中并不存在。

问题现象

通过lsof命令可以观察到，随着程序运行，进程会保持对已删除blob文件的引用，例如：

/data/testLeakingFileHandles/000106.blob (deleted)
/data/testLeakingFileHandles/000088.blob (deleted)

这些文件虽然已被删除，但系统仍保持着对它们的引用，导致文件句柄数量不断增长。这种现象在RocksDB 9.4.0及更高版本中出现，但在8.11.x版本中不存在。

问题复现

开发者提供了一个简洁的Java测试用例来复现这个问题。测试程序主要做了以下几件事：

1. 配置BlobDB选项：启用blob文件、设置最小blob大小为0、blob文件大小为1MB
2. 在后台线程中随机查询数据
3. 在主线程中循环插入大量数据(每次循环插入100万条记录)

通过监控lsof命令的输出，可以清晰地观察到文件句柄泄漏的现象。

技术分析

经过代码审查和问题定位，发现这个问题是在RocksDB 9.4.0版本中引入的，具体与提交b34cef5相关。根本原因与VersionSet::AddObsoleteBlobFile的变更有关。

在RocksDB架构中，blob文件与SST文件共享同一个文件缓存(虽然仍被称为TableCache)，因为它们都受到max_open_files限制的共同约束。实际上，TableCache和BlobFileCache在底层使用的是同一个缓存机制。

解决方案

RocksDB团队已经修复了这个问题，修复版本包括：

• v9.8.1
• v9.7.4
• v9.6.2

对于遇到此问题的用户，建议升级到上述修复版本之一。升级后，文件句柄泄漏问题将不再出现。

最佳实践

对于使用RocksDB BlobDB功能的Java开发者，建议：

1. 定期检查系统文件句柄使用情况，特别是在长时间运行的服务中
2. 在升级RocksDB版本时，注意测试文件句柄相关的行为
3. 对于关键生产系统，建议在升级前进行全面测试
4. 合理配置max_open_files参数，避免系统资源耗尽

总结

文件句柄泄漏是数据库系统中常见的问题之一，可能导致系统资源耗尽。RocksDB团队对此问题的快速响应和修复体现了该项目的成熟度和社区支持力度。开发者在使用新版本功能时，应当关注此类潜在问题，并及时应用官方修复。