首页
/ Databend 1.2.706 夜间版发布:自动清理与 Iceberg 集成增强

Databend 1.2.706 夜间版发布:自动清理与 Iceberg 集成增强

2025-06-08 06:04:16作者:齐冠琰

Databend 是一款开源的云原生数据仓库,以其高性能和弹性扩展能力著称。它采用 Rust 语言编写,支持标准的 SQL 语法,并提供了与多种数据格式和存储系统的无缝集成能力。最新发布的 1.2.706 夜间版带来了一系列值得关注的功能增强和优化。

核心功能更新

自动清理机制优化

本次版本引入了 fuse_vacuum2() 表函数和自动清理功能,显著提升了存储空间管理能力。自动清理机制能够智能识别并回收不再使用的数据文件,有效降低存储成本。这一功能特别适合频繁进行数据更新的场景,解决了传统数据仓库中常见的"存储膨胀"问题。

Iceberg 数据湖集成增强

对 Apache Iceberg 格式的支持得到了进一步扩展,新增了数据库 DML 操作能力。这意味着用户现在可以直接通过 Databend 对 Iceberg 格式的数据执行更丰富的操作,简化了数据湖架构下的数据管理流程。同时,针对 Iceberg 目录的 SHOW TABLES 命令也进行了性能优化。

UNPIVOT 功能增强

UNPIVOT 操作现在支持 AS 语法,为行列转换提供了更灵活的列命名方式。这一改进使得数据透视操作更加符合用户的使用习惯,特别是在处理复杂的数据转换场景时,能够提供更直观的操作体验。

性能优化与稳定性提升

查询优化器改进

查询优化器新增了对布隆索引的支持,能够智能识别并利用简单类型转换后的表达式进行剪枝优化。这一改进显著提升了包含类型转换条件的查询性能。同时,针对 TPCDS 标准测试集的优化器单元测试被加入,确保了优化器在各种场景下的稳定性。

存储层优化

存储引擎进行了多项底层优化:

  • 改进了稀疏数据读取效率
  • 修正了 Hilbert 空间聚类信息的处理逻辑
  • 增加了块文件大小的统计信息
  • 优化了 Parquet 元数据缓存机制,不再依赖文件修改时间作为缓存键

架构改进

状态机逻辑重构

元数据管理模块进行了重要重构,将共享状态机逻辑提取到独立的外部 crate 中。这一架构改进使得代码结构更加清晰,降低了模块间的耦合度,为未来的功能扩展奠定了更好的基础。

虚拟数据模式抽象

新增了 VirtualDataSchemaTableMeta 的抽象,这一改进优化了表元数据的管理方式,为复杂查询场景下的元数据处理提供了更灵活的支持。

总结

Databend 1.2.706 夜间版在存储管理、查询优化和系统架构等多个方面都有显著提升。自动清理功能的引入使存储管理更加智能化,而对 Iceberg 集成的增强则进一步扩展了 Databend 在数据湖场景下的应用能力。这些改进共同推动 Databend 向更成熟的企业级数据仓库解决方案迈进。

登录后查看全文
热门项目推荐
相关项目推荐

项目优选

收起
kernelkernel
deepin linux kernel
C
22
6
docsdocs
OpenHarmony documentation | OpenHarmony开发者文档
Dockerfile
197
2.17 K
ohos_react_nativeohos_react_native
React Native鸿蒙化仓库
C++
208
285
pytorchpytorch
Ascend Extension for PyTorch
Python
59
94
RuoYi-Vue3RuoYi-Vue3
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
973
574
nop-entropynop-entropy
Nop Platform 2.0是基于可逆计算理论实现的采用面向语言编程范式的新一代低代码开发平台,包含基于全新原理从零开始研发的GraphQL引擎、ORM引擎、工作流引擎、报表引擎、规则引擎、批处理引引擎等完整设计。nop-entropy是它的后端部分,采用java语言实现,可选择集成Spring框架或者Quarkus框架。中小企业可以免费商用
Java
9
1
ops-mathops-math
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
549
81
openHiTLSopenHiTLS
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
1.02 K
399
communitycommunity
本项目是CANN开源社区的核心管理仓库,包含社区的治理章程、治理组织、通用操作指引及流程规范等基础信息
393
27
MateChatMateChat
前端智能化场景解决方案UI库,轻松构建你的AI应用,我们将持续完善更新,欢迎你的使用与建议。 官网地址:https://matechat.gitcode.com
1.2 K
133