首页
/ Databend 1.2.706 夜间版发布:自动清理与 Iceberg 集成增强

Databend 1.2.706 夜间版发布:自动清理与 Iceberg 集成增强

2025-06-08 10:23:25作者:齐冠琰

Databend 是一款开源的云原生数据仓库,以其高性能和弹性扩展能力著称。它采用 Rust 语言编写,支持标准的 SQL 语法,并提供了与多种数据格式和存储系统的无缝集成能力。最新发布的 1.2.706 夜间版带来了一系列值得关注的功能增强和优化。

核心功能更新

自动清理机制优化

本次版本引入了 fuse_vacuum2() 表函数和自动清理功能,显著提升了存储空间管理能力。自动清理机制能够智能识别并回收不再使用的数据文件,有效降低存储成本。这一功能特别适合频繁进行数据更新的场景,解决了传统数据仓库中常见的"存储膨胀"问题。

Iceberg 数据湖集成增强

对 Apache Iceberg 格式的支持得到了进一步扩展,新增了数据库 DML 操作能力。这意味着用户现在可以直接通过 Databend 对 Iceberg 格式的数据执行更丰富的操作,简化了数据湖架构下的数据管理流程。同时,针对 Iceberg 目录的 SHOW TABLES 命令也进行了性能优化。

UNPIVOT 功能增强

UNPIVOT 操作现在支持 AS 语法,为行列转换提供了更灵活的列命名方式。这一改进使得数据透视操作更加符合用户的使用习惯,特别是在处理复杂的数据转换场景时,能够提供更直观的操作体验。

性能优化与稳定性提升

查询优化器改进

查询优化器新增了对布隆索引的支持,能够智能识别并利用简单类型转换后的表达式进行剪枝优化。这一改进显著提升了包含类型转换条件的查询性能。同时,针对 TPCDS 标准测试集的优化器单元测试被加入,确保了优化器在各种场景下的稳定性。

存储层优化

存储引擎进行了多项底层优化:

  • 改进了稀疏数据读取效率
  • 修正了 Hilbert 空间聚类信息的处理逻辑
  • 增加了块文件大小的统计信息
  • 优化了 Parquet 元数据缓存机制,不再依赖文件修改时间作为缓存键

架构改进

状态机逻辑重构

元数据管理模块进行了重要重构,将共享状态机逻辑提取到独立的外部 crate 中。这一架构改进使得代码结构更加清晰,降低了模块间的耦合度,为未来的功能扩展奠定了更好的基础。

虚拟数据模式抽象

新增了 VirtualDataSchemaTableMeta 的抽象,这一改进优化了表元数据的管理方式,为复杂查询场景下的元数据处理提供了更灵活的支持。

总结

Databend 1.2.706 夜间版在存储管理、查询优化和系统架构等多个方面都有显著提升。自动清理功能的引入使存储管理更加智能化,而对 Iceberg 集成的增强则进一步扩展了 Databend 在数据湖场景下的应用能力。这些改进共同推动 Databend 向更成熟的企业级数据仓库解决方案迈进。

登录后查看全文
热门项目推荐
相关项目推荐