CeresDB/horaedb 项目中 TimeMergeStorage 的合并操作支持分析
2025-06-28 23:48:46作者:韦蓉瑛
在分布式时序数据库 CeresDB/horaedb 的 metric_engine 模块中,TimeMergeStorage 是一个关键的数据存储组件。该组件当前仅支持简单的覆盖写入模式,这在处理时序数据时存在明显局限性。本文将深入分析现有实现的问题,并提出改进方案。
当前实现的问题
TimeMergeStorage 目前采用 RecordBatch 作为数据格式,对于具有相同主键的多行数据,仅支持"覆盖"模式,即选择序列号最大的行作为最终值。这种设计存在两个主要问题:
- 对于索引/序列数据,覆盖模式是合理的,但对于实际指标数据则不够理想
- 在常见使用场景中,我们需要将30分钟内的数据点聚合成一行,这就要求支持增量更新而非简单覆盖
改进方案设计
我们建议为 TimeMergeStorage 引入更新模式参数,定义如下枚举:
enum UpdateMode {
Overwrite, // 覆盖模式,保留最新值
Append, // 追加模式,支持增量更新
}
在查询和压缩过程中,根据不同的模式采用不同的值选择策略。查询时需要按照模式决定如何合并相同主键的值,压缩时也需要相应处理。
设计考量
这个方案有一个明显的限制:同一个存储实例中的所有行必须使用相同的更新模式。不过根据项目设计文档中的表结构设计,这个限制是可以接受的。
如果需要更细粒度的控制,可以参考 RocksDB 的实现方式,它为每个键值对单独标记操作类型(Put/Merge/Delete等),并在查询和压缩时根据类型执行不同的合并逻辑。这种设计虽然更灵活,但也显著增加了实现复杂度。
实现建议
对于当前需求,建议先实现简单的模式参数方案,理由如下:
- 满足现有使用场景需求
- 实现复杂度可控
- 与项目当前的表结构设计相匹配
未来如果需要更灵活的控制,可以借鉴 RocksDB 的设计思路,为每个数据条目添加操作类型标记,并实现更复杂的合并逻辑。这种方案虽然强大,但需要考虑性能影响和实现成本。
总结
TimeMergeStorage 的合并操作支持是 metric_engine 的一个重要功能点。当前简单的覆盖模式不能满足所有使用场景,通过引入更新模式参数可以在保持简单性的同时解决主要问题。更复杂的方案可以作为未来的扩展方向。
登录后查看全文
热门项目推荐
相关项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0216
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook0138
uni-appA cross-platform framework using Vue.jsJavaScript08
GLM-5.2智谱开源 GLM-5.2,这是针对长文本任务的最新旗舰模型。相较于前代产品 GLM-5.1,它在长文本任务处理能力上实现了显著飞跃,并且首次在稳定的 100 万 token 上下文中提供这一能力。Jinja00
SwanLab⚡️SwanLab - an open-source, modern-design AI training tracking and visualization tool. Supports Cloud / Self-hosted use. Integrated with PyTorch / Transformers / LLaMA Factory / veRL/ Swift / Ultralytics / MMEngine / Keras etc.Python00
tiny-universe《大模型白盒子构建指南》:一个全手搓的Tiny-UniverseJupyter Notebook03
项目优选
收起
deepin linux kernel
C
32
16
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
471
465
Ascend Extension for PyTorch
Python
758
968
昇腾LLM分布式训练框架
Python
185
231
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
698
1.4 K
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
878
2.03 K
暂无描述
Dockerfile
780
5.08 K
🔥LeetCode solutions in any programming language | 多种编程语言实现 LeetCode、《剑指 Offer(第 2 版)》、《程序员面试金典(第 6 版)》题解
Java
70
22
本仓库是 Flutter SDK 与 Flutter Engine 的 OpenHarmony 适配版本,由 CPF-Flutter 团队维护。开发者可使用熟悉的 Flutter 技术栈开发 OpenHarmony 应用,3.35.7 及以后的适配版本可基于本仓库源码构建支持 OpenHarmony 的 Flutter Engine。
Dart
1.04 K
271
Claude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed.
Get Started
Rust
2.08 K
216