Apache SkyWalking 引入独立配置文件优化 BanyanDB 高级配置
2025-05-08 07:00:09作者:江焘钦
背景介绍
Apache SkyWalking 作为一款优秀的应用性能监控系统,其存储组件 BanyanDB 承担着重要的数据持久化功能。随着系统功能的不断丰富,原有的配置方式逐渐暴露出可读性和可维护性不足的问题。
原有配置方式的局限性
在当前的实现中,所有 BanyanDB 的高级配置都扁平化地存储在 application.yml 文件中,导致配置项名称冗长且缺乏层次结构。例如:
- grNormalShardNum
- grNormalSIDays
- grNormalTTLDays
- grSuperShardNum
- gmMinuteShardNum
- gmHourSIDays
这种命名方式不仅难以记忆,而且无法直观反映配置项之间的逻辑关系。对于运维人员和开发者来说,理解和维护这些配置变得相当困难。
新配置方案设计
为了解决上述问题,SkyWalking 团队决定引入独立的 bydb.yml 配置文件,采用层次化的结构来组织 BanyanDB 的高级配置。新的配置方案具有以下特点:
- 逻辑分组清晰:将配置按数据类型和用途划分为多个逻辑组
- 命名简洁直观:使用更自然的命名方式替代原有的缩写
- 支持环境变量覆盖:保持与 Kubernetes 环境的良好兼容性
配置结构详解
新的 bydb.yml 文件采用树状结构组织配置,主要包含以下几个部分:
记录数据(Records)配置
groups:
records_normal:
shard_num: ${SW_STORAGE_BANYANDB_GR_NORMAL_SHARD_NUM:1}
segment_interval: ${SW_STORAGE_BANYANDB_GR_NORMAL_SI_DAYS:1}
ttl: ${SW_STORAGE_BANYANDB_GR_NORMAL_TTL_DAYS:3}
records_super:
shard_num: ${SW_STORAGE_BANYANDB_GR_SUPER_SHARD_NUM:2}
segment_interval: ${SW_STORAGE_BANYANDB_GR_SUPER_SI_DAYS:1}
ttl: ${SW_STORAGE_BANYANDB_GR_SUPER_TTL_DAYS:3}
其中,records_normal 用于普通数据集,而 records_super 专为超大数据集设计,如大型追踪或日志数据。
指标数据(Metrics)配置
metrics_minute:
shard_num: ${SW_STORAGE_BANYANDB_GM_MINUTE_SHARD_NUM:2}
segment_interval: ${SW_STORAGE_BANYANDB_GM_MINUTE_SI_DAYS:1}
ttl: ${SW_STORAGE_BANYANDB_GM_MINUTE_TTL_DAYS:7}
metrics_hour:
shard_num: ${SW_STORAGE_BANYANDB_GM_HOUR_SHARD_NUM:1}
segment_interval: ${SW_STORAGE_BANYANDB_GM_HOUR_SI_DAYS:5}
ttl: ${SW_STORAGE_BANYANDB_GM_HOUR_TTL_DAYS:15}
metrics_day:
shard_num: ${SW_STORAGE_BANYANDB_GM_DAY_SHARD_NUM:1}
segment_interval: ${SW_STORAGE_BANYANDB_GM_DAY_SI_DAYS:15}
ttl: ${SW_STORAGE_BANYANDB_GM_DAY_TTL_DAYS:15}
指标数据根据时间粒度分为分钟级、小时级和天级,每种粒度可以独立配置。
元数据(Metadata)配置
metadata:
shard_num: ${SW_STORAGE_BANYANDB_GM_INDEX_SHARD_NUM:2}
segment_interval: ${SW_STORAGE_BANYANDB_GM_INDEX_SI_DAYS:15}
ttl: ${SW_STORAGE_BANYANDB_GM_INDEX_TTL_DAYS:15}
元数据组专门用于存储索引模式的数据,如服务流量(service_traffic)和网络地址别名(network_address_alias)等。
技术优势
- 配置可读性提升:层次化的结构使配置项之间的关系一目了然
- 维护成本降低:逻辑分组使定位和修改特定配置更加容易
- 扩展性增强:新的结构更容易支持未来可能添加的热-温-冷数据分层存储功能
- 兼容性保障:通过环境变量覆盖机制保持与容器化部署的兼容
实施建议
对于现有用户升级到新版本时,需要注意:
- 原有的环境变量名称仍然有效,确保平滑过渡
- 建议逐步将配置迁移到新的 bydb.yml 文件中
- 对于 Kubernetes 环境,可以通过 ConfigMap 挂载 bydb.yml 文件
总结
Apache SkyWalking 通过引入独立的 bydb.yml 配置文件,显著改善了 BanyanDB 高级配置的可读性和可维护性。这一改进不仅使现有用户受益,也为系统未来的功能扩展奠定了更好的基础。新的配置结构更加符合现代运维实践,特别是在云原生环境中,能够提供更优雅的配置管理体验。
登录后查看全文
热门项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0218
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook0139
uni-appA cross-platform framework using Vue.jsJavaScript09
GLM-5.2智谱开源 GLM-5.2,这是针对长文本任务的最新旗舰模型。相较于前代产品 GLM-5.1,它在长文本任务处理能力上实现了显著飞跃,并且首次在稳定的 100 万 token 上下文中提供这一能力。Jinja00
SwanLab⚡️SwanLab - an open-source, modern-design AI training tracking and visualization tool. Supports Cloud / Self-hosted use. Integrated with PyTorch / Transformers / LLaMA Factory / veRL/ Swift / Ultralytics / MMEngine / Keras etc.Python00
tiny-universe《大模型白盒子构建指南》:一个全手搓的Tiny-UniverseJupyter Notebook03
项目优选
收起
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
471
465
deepin linux kernel
C
32
16
Claude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed.
Get Started
Rust
2.09 K
218
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
700
1.4 K
暂无描述
Dockerfile
780
5.08 K
Ascend Extension for PyTorch
Python
758
968
本仓库是 Flutter SDK 与 Flutter Engine 的 OpenHarmony 适配版本,由 CPF-Flutter 团队维护。开发者可使用熟悉的 Flutter 技术栈开发 OpenHarmony 应用,3.35.7 及以后的适配版本可基于本仓库源码构建支持 OpenHarmony 的 Flutter Engine。
Dart
1.04 K
271
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
880
2.03 K
MindQuantum is a general software library supporting the development of applications for quantum computation.
Python
183
111
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
1.11 K
682