Databend 1.2.706 夜间版发布:自动清理与 Iceberg 集成增强
Databend 是一款开源的云原生数据仓库,以其高性能和弹性扩展能力著称。它采用 Rust 语言编写,支持标准的 SQL 语法,并提供了与多种数据格式和存储系统的无缝集成能力。最新发布的 1.2.706 夜间版带来了一系列值得关注的功能增强和优化。
核心功能更新
自动清理机制优化
本次版本引入了 fuse_vacuum2() 表函数和自动清理功能,显著提升了存储空间管理能力。自动清理机制能够智能识别并回收不再使用的数据文件,有效降低存储成本。这一功能特别适合频繁进行数据更新的场景,解决了传统数据仓库中常见的"存储膨胀"问题。
Iceberg 数据湖集成增强
对 Apache Iceberg 格式的支持得到了进一步扩展,新增了数据库 DML 操作能力。这意味着用户现在可以直接通过 Databend 对 Iceberg 格式的数据执行更丰富的操作,简化了数据湖架构下的数据管理流程。同时,针对 Iceberg 目录的 SHOW TABLES 命令也进行了性能优化。
UNPIVOT 功能增强
UNPIVOT 操作现在支持 AS 语法,为行列转换提供了更灵活的列命名方式。这一改进使得数据透视操作更加符合用户的使用习惯,特别是在处理复杂的数据转换场景时,能够提供更直观的操作体验。
性能优化与稳定性提升
查询优化器改进
查询优化器新增了对布隆索引的支持,能够智能识别并利用简单类型转换后的表达式进行剪枝优化。这一改进显著提升了包含类型转换条件的查询性能。同时,针对 TPCDS 标准测试集的优化器单元测试被加入,确保了优化器在各种场景下的稳定性。
存储层优化
存储引擎进行了多项底层优化:
- 改进了稀疏数据读取效率
- 修正了 Hilbert 空间聚类信息的处理逻辑
- 增加了块文件大小的统计信息
- 优化了 Parquet 元数据缓存机制,不再依赖文件修改时间作为缓存键
架构改进
状态机逻辑重构
元数据管理模块进行了重要重构,将共享状态机逻辑提取到独立的外部 crate 中。这一架构改进使得代码结构更加清晰,降低了模块间的耦合度,为未来的功能扩展奠定了更好的基础。
虚拟数据模式抽象
新增了 VirtualDataSchema 到 TableMeta 的抽象,这一改进优化了表元数据的管理方式,为复杂查询场景下的元数据处理提供了更灵活的支持。
总结
Databend 1.2.706 夜间版在存储管理、查询优化和系统架构等多个方面都有显著提升。自动清理功能的引入使存储管理更加智能化,而对 Iceberg 集成的增强则进一步扩展了 Databend 在数据湖场景下的应用能力。这些改进共同推动 Databend 向更成熟的企业级数据仓库解决方案迈进。
Kimi-K2.5Kimi K2.5 是一款开源的原生多模态智能体模型,它在 Kimi-K2-Base 的基础上,通过对约 15 万亿混合视觉和文本 tokens 进行持续预训练构建而成。该模型将视觉与语言理解、高级智能体能力、即时模式与思考模式,以及对话式与智能体范式无缝融合。Python00
GLM-4.7-FlashGLM-4.7-Flash 是一款 30B-A3B MoE 模型。作为 30B 级别中的佼佼者,GLM-4.7-Flash 为追求性能与效率平衡的轻量化部署提供了全新选择。Jinja00
VLOOKVLOOK™ 是优雅好用的 Typora/Markdown 主题包和增强插件。 VLOOK™ is an elegant and practical THEME PACKAGE × ENHANCEMENT PLUGIN for Typora/Markdown.Less00
idea-claude-code-gui一个功能强大的 IntelliJ IDEA 插件,为开发者提供 Claude Code 和 OpenAI Codex 双 AI 工具的可视化操作界面,让 AI 辅助编程变得更加高效和直观。Java01
KuiklyUI基于KMP技术的高性能、全平台开发框架,具备统一代码库、极致易用性和动态灵活性。 Provide a high-performance, full-platform development framework with unified codebase, ultimate ease of use, and dynamic flexibility. 注意:本仓库为Github仓库镜像,PR或Issue请移步至Github发起,感谢支持!Kotlin07
compass-metrics-modelMetrics model project for the OSS CompassPython00