Databend 1.2.706 夜间版发布:自动清理与 Iceberg 集成增强
Databend 是一款开源的云原生数据仓库,以其高性能和弹性扩展能力著称。它采用 Rust 语言编写,支持标准的 SQL 语法,并提供了与多种数据格式和存储系统的无缝集成能力。最新发布的 1.2.706 夜间版带来了一系列值得关注的功能增强和优化。
核心功能更新
自动清理机制优化
本次版本引入了 fuse_vacuum2() 表函数和自动清理功能,显著提升了存储空间管理能力。自动清理机制能够智能识别并回收不再使用的数据文件,有效降低存储成本。这一功能特别适合频繁进行数据更新的场景,解决了传统数据仓库中常见的"存储膨胀"问题。
Iceberg 数据湖集成增强
对 Apache Iceberg 格式的支持得到了进一步扩展,新增了数据库 DML 操作能力。这意味着用户现在可以直接通过 Databend 对 Iceberg 格式的数据执行更丰富的操作,简化了数据湖架构下的数据管理流程。同时,针对 Iceberg 目录的 SHOW TABLES 命令也进行了性能优化。
UNPIVOT 功能增强
UNPIVOT 操作现在支持 AS 语法,为行列转换提供了更灵活的列命名方式。这一改进使得数据透视操作更加符合用户的使用习惯,特别是在处理复杂的数据转换场景时,能够提供更直观的操作体验。
性能优化与稳定性提升
查询优化器改进
查询优化器新增了对布隆索引的支持,能够智能识别并利用简单类型转换后的表达式进行剪枝优化。这一改进显著提升了包含类型转换条件的查询性能。同时,针对 TPCDS 标准测试集的优化器单元测试被加入,确保了优化器在各种场景下的稳定性。
存储层优化
存储引擎进行了多项底层优化:
- 改进了稀疏数据读取效率
- 修正了 Hilbert 空间聚类信息的处理逻辑
- 增加了块文件大小的统计信息
- 优化了 Parquet 元数据缓存机制,不再依赖文件修改时间作为缓存键
架构改进
状态机逻辑重构
元数据管理模块进行了重要重构,将共享状态机逻辑提取到独立的外部 crate 中。这一架构改进使得代码结构更加清晰,降低了模块间的耦合度,为未来的功能扩展奠定了更好的基础。
虚拟数据模式抽象
新增了 VirtualDataSchema 到 TableMeta 的抽象,这一改进优化了表元数据的管理方式,为复杂查询场景下的元数据处理提供了更灵活的支持。
总结
Databend 1.2.706 夜间版在存储管理、查询优化和系统架构等多个方面都有显著提升。自动清理功能的引入使存储管理更加智能化,而对 Iceberg 集成的增强则进一步扩展了 Databend 在数据湖场景下的应用能力。这些改进共同推动 Databend 向更成熟的企业级数据仓库解决方案迈进。
kernelopenEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。C043
MiniMax-M2.1从多语言软件开发自动化到复杂多步骤办公流程执行,MiniMax-M2.1 助力开发者构建下一代自主应用——全程保持完全透明、可控且易于获取。Python00
kylin-wayland-compositorkylin-wayland-compositor或kylin-wlcom(以下简称kywc)是一个基于wlroots编写的wayland合成器。 目前积极开发中,并作为默认显示服务器随openKylin系统发布。 该项目使用开源协议GPL-1.0-or-later,项目中来源于其他开源项目的文件或代码片段遵守原开源协议要求。C01
PaddleOCR-VLPaddleOCR-VL 是一款顶尖且资源高效的文档解析专用模型。其核心组件为 PaddleOCR-VL-0.9B,这是一款精简却功能强大的视觉语言模型(VLM)。该模型融合了 NaViT 风格的动态分辨率视觉编码器与 ERNIE-4.5-0.3B 语言模型,可实现精准的元素识别。Python00
GLM-4.7GLM-4.7上线并开源。新版本面向Coding场景强化了编码能力、长程任务规划与工具协同,并在多项主流公开基准测试中取得开源模型中的领先表现。 目前,GLM-4.7已通过BigModel.cn提供API,并在z.ai全栈开发模式中上线Skills模块,支持多模态任务的统一规划与协作。Jinja00
agent-studioopenJiuwen agent-studio提供零码、低码可视化开发和工作流编排,模型、知识库、插件等各资源管理能力TSX0121
Spark-Formalizer-X1-7BSpark-Formalizer 是由科大讯飞团队开发的专用大型语言模型,专注于数学自动形式化任务。该模型擅长将自然语言数学问题转化为精确的 Lean4 形式化语句,在形式化语句生成方面达到了业界领先水平。Python00