YTsaurus项目中浮点数列压缩时的段错误问题分析

背景介绍

YTsaurus是一个分布式存储系统，其tablet节点负责处理表格数据的存储和压缩。在稳定版本24.1及之前的23.x版本中，系统在处理包含32位浮点(float32)类型列的大型表格时，在压缩过程中会出现段错误(Segmentation Fault)问题。

问题现象

当表格具有以下特征时容易触发此问题：

• 表格结构复杂，包含大量列(如报告中627列)
• 包含32位浮点类型的列
• 启用了新版扫描格式读取器(new scan reader)
• 表格数据量巨大(报告中显示未压缩数据量达3.6PB)

系统表现是tablet节点在压缩过程中频繁崩溃，产生核心转储(coredump)，从堆栈跟踪看问题发生在bitmap复制操作中。

技术原因分析

经过深入调查，发现根本原因是新版扫描格式读取器在处理32位浮点类型列时存在缺陷。具体来说：

1. 新版扫描格式读取器虽然提高了性能，但未能正确处理float32类型列的数据
2. 这个问题长期未被发现，因为生产环境中float32列的使用较少
3. 在25.1版本中，开发团队决定不修复float32支持问题，而是将所有浮点数统一序列化为双精度(double)类型
4. 这种设计决策导致旧版本中已存在的float32数据无法被新版读取器正确读取

解决方案

对于受影响的用户，有以下几种解决方案：

临时解决方案

1. 通过表属性禁用新版扫描读取器：

   • 设置enable_new_scan_reader_for_lookup为false
   • 设置enable_new_scan_reader_for_select为false
   • 重新挂载表格

   这会强制系统使用旧版读取器进行压缩操作。但需要注意，未来版本(可能25.2)中旧版读取器将被弃用。

长期解决方案

1. 逐步强制压缩整个表格：

   • 先切换到查找格式(lookup format)
   • 然后逐步执行强制压缩操作

2. 修改表结构：

   • 创建新表，将所有float32列改为double类型
   • 迁移数据到新表

技术建议

对于使用YTsaurus存储系统的用户，特别是存储科学计算或金融数据的场景，建议：

1. 在设计表结构时，优先考虑使用double而非float32类型
2. 对于已存在的包含float32列的大型表格，应优先考虑迁移到新表结构
3. 升级到25.1+版本时，需要评估数据兼容性问题
4. 监控压缩队列和节点稳定性，及时发现类似问题

总结