Kvrocks项目中RocksDB Blob文件泄漏问题深度分析
问题背景
在Kvrocks 2.10.0版本中,当启用rocksdb.enable_blob_files配置项并持续写入带有TTL的数据时,系统会出现磁盘空间最终耗尽的问题。经过排查发现,这是由于大量已被删除的blob文件仍然被kvrocks进程保持打开状态导致的文件描述符泄漏。
技术细节
这个问题本质上是一个资源管理问题,具体表现为:
-
现象表现:系统运行一段时间后,磁盘使用率会逐渐攀升至100%,即使数据理论上应该被TTL机制清理。通过检查进程文件描述符可以发现大量状态为"deleted"的blob文件仍然被占用。
-
根本原因:这个问题与RocksDB 9.4.0及以上版本中的一个已知问题相关。在这些版本中,当启用blob文件功能时,系统未能正确释放已删除blob文件的文件描述符。
-
影响范围:主要影响使用Kvrocks 2.10.0版本且启用了rocksdb.enable_blob_files配置的用户。该版本将RocksDB升级到了9.6.1版本,从而引入了这个潜在风险。
解决方案
Kvrocks社区针对这个问题提出了几种解决方案:
-
版本回退方案:将RocksDB版本回退到9.3.1或8.11.4。其中9.3.1版本是更优选择,因为它既修复了问题又避免了较大的版本跨度回退。
-
参数调优方案:未来版本可能会暴露uncache_aggressiveness参数给用户,让用户可以根据实际情况调整缓存回收的激进程度。
-
临时解决方案:在问题修复前,可以通过定期重启kvrocks服务来释放被占用的文件描述符,但这只是一个权宜之计。
技术建议
对于生产环境用户,建议采取以下措施:
-
如果已经升级到2.10.0版本并启用了blob文件功能,应密切监控磁盘使用情况。
-
考虑暂时禁用rocksdb.enable_blob_files配置项,等待修复版本发布。
-
对于新部署的环境,可以考虑使用Kvrocks 2.9.x版本,避免此问题。
-
关注Kvrocks社区的2.10.1修复版本发布,该版本预计会回退RocksDB到9.3.1版本。
总结
这个问题展示了数据库系统中资源管理的重要性,特别是在使用底层存储引擎的高级功能时。Kvrocks社区对此问题的快速响应体现了开源项目的优势。用户在使用新功能时应充分测试,并关注社区的安全公告和版本更新。
Kimi-K2.5Kimi K2.5 是一款开源的原生多模态智能体模型,它在 Kimi-K2-Base 的基础上,通过对约 15 万亿混合视觉和文本 tokens 进行持续预训练构建而成。该模型将视觉与语言理解、高级智能体能力、即时模式与思考模式,以及对话式与智能体范式无缝融合。Python00
GLM-4.7-FlashGLM-4.7-Flash 是一款 30B-A3B MoE 模型。作为 30B 级别中的佼佼者,GLM-4.7-Flash 为追求性能与效率平衡的轻量化部署提供了全新选择。Jinja00
VLOOKVLOOK™ 是优雅好用的 Typora/Markdown 主题包和增强插件。 VLOOK™ is an elegant and practical THEME PACKAGE × ENHANCEMENT PLUGIN for Typora/Markdown.Less00
PaddleOCR-VL-1.5PaddleOCR-VL-1.5 是 PaddleOCR-VL 的新一代进阶模型,在 OmniDocBench v1.5 上实现了 94.5% 的全新 state-of-the-art 准确率。 为了严格评估模型在真实物理畸变下的鲁棒性——包括扫描伪影、倾斜、扭曲、屏幕拍摄和光照变化——我们提出了 Real5-OmniDocBench 基准测试集。实验结果表明,该增强模型在新构建的基准测试集上达到了 SOTA 性能。此外,我们通过整合印章识别和文本检测识别(text spotting)任务扩展了模型的能力,同时保持 0.9B 的超紧凑 VLM 规模,具备高效率特性。Python00
KuiklyUI基于KMP技术的高性能、全平台开发框架,具备统一代码库、极致易用性和动态灵活性。 Provide a high-performance, full-platform development framework with unified codebase, ultimate ease of use, and dynamic flexibility. 注意:本仓库为Github仓库镜像,PR或Issue请移步至Github发起,感谢支持!Kotlin07
compass-metrics-modelMetrics model project for the OSS CompassPython00