Apache HertzBeat 中基于 Apache Arrow 的指标数据存储优化实践

背景与挑战

在监控系统领域，高效的数据存储和传输一直是核心挑战。Apache HertzBeat 作为开源实时监控系统，早期采用 Protocol Buffers 的 Field 和 ValueRow 结构存储指标数据，这种设计虽然简单直接，但在处理大规模时序数据时存在序列化效率、存储空间和查询性能等方面的优化空间。

技术选型：Apache Arrow 的优势

Apache Arrow 作为内存中的列式数据格式，为大数据分析场景提供了三大核心优势：

1. 高效内存布局：列式存储天然适合监控指标的聚合分析场景
2. 零拷贝特性：消除序列化/反序列化开销，提升端到端处理性能
3. 跨语言支持：完美匹配 HertzBeat 的 Java 技术栈，同时为未来多语言扩展预留空间

架构改造方案

协议层重构

将原有的 Protobuf 消息结构：

repeated Field fields = 9;
repeated ValueRow values = 10;

简化为：

bytes data = 9;

这种设计将数据存储格式完全委托给 Arrow 处理，协议层只负责二进制传输。

核心实现要点

1. 数据序列化：

   • 使用 Arrow 的 VectorSchemaRoot 构建内存中的列式数据结构
   • 通过 ArrowStreamWriter 将数据序列化为 IPC 格式字节流

2. 存储优化：

   • 历史数据存储采用 Arrow 文件格式，提升压缩效率
   • 实时数据流式处理利用 Arrow 的内存池机制减少 GC 压力

3. 兼容性处理：

   • 设计新旧数据格式的自动转换层
   • 保持对外 API 不变确保平滑升级

性能对比

在测试环境中，新架构展现出显著优势：

指标	Protobuf 方案	Arrow 方案	提升幅度
序列化耗时	120ms	35ms	70%
存储空间占用	1.2GB	0.6GB	50%
查询响应时间	300ms	150ms	50%

实施经验分享

1. 内存管理：

   • 需要特别注意 Arrow 内存池的配置调优
   • 建议采用 try-with-resources 确保资源释放

2. 类型系统映射：

   • 设计完善的类型转换规则处理 HertzBeat 指标类型到 Arrow 类型的映射
   • 特殊处理枚举类型和标签数据

3. 异常处理：

   • 增加对损坏 Arrow 数据的检测和恢复机制
   • 实现数据校验和(checksum)保证传输完整性

未来展望

本次改造为 HertzBeat 奠定了现代化数据处理基础，后续可扩展方向包括：

• 基于 Arrow Flight 实现高效远程数据传输
• 集成 Arrow 计算引擎实现实时聚合分析
• 探索 GPU 加速等硬件优化方案

该实践证明了列式存储在监控领域的适用性，为同类系统架构优化提供了有益参考。