Apache Iceberg 即将支持 Spark 4.0 版本
2025-06-04 02:19:36作者:霍妲思
Apache Iceberg 作为新一代开源数据表格式,正在持续扩展其对大数据计算引擎的支持范围。最新消息显示,该项目已经完成了对 Spark 4.0 的兼容性适配工作,这一重要更新将随 Iceberg 的下一个正式版本发布。
Spark 4.0 作为 Apache Spark 的重要里程碑版本,带来了多项性能优化和新特性。对于使用 Iceberg 作为存储格式的数据湖用户而言,这一兼容性更新意味着可以在 Spark 4.0 的计算引擎上无缝运行 Iceberg 表操作,包括数据读写、模式演进、时间旅行等核心功能。
技术实现层面,Iceberg 团队需要确保其 Spark 运行时模块能够适配 Spark 4.0 的 API 变更。这包括但不限于:Catalog 接口的兼容性调整、Spark SQL 扩展点的适配、以及 DataFrame 读写路径的验证等工作。同时,还需要保证 Iceberg 特有的功能如增量查询、隐藏分区等特性在新版本 Spark 上的正确性。
对于现有用户而言,升级到 Spark 4.0 和 Iceberg 新版本组合时,建议进行充分的测试验证,特别是涉及生产环境的关键业务流程。虽然 Iceberg 的设计本身就强调向后兼容性,但引擎版本的升级仍可能带来性能特征的变化。
随着数据湖架构在企业中的普及,Iceberg 与各大数据计算引擎的深度集成将持续推进。Spark 4.0 的支持只是这一路线图中的一步,未来我们还将看到 Iceberg 与更多新一代计算引擎的深度整合,为用户提供更灵活、更高效的数据处理能力。
登录后查看全文
热门项目推荐
相关项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust098- DDeepSeek-V4-ProDeepSeek-V4-Pro(总参数 1.6 万亿,激活 49B)面向复杂推理和高级编程任务,在代码竞赛、数学推理、Agent 工作流等场景表现优异,性能接近国际前沿闭源模型。Python00
MiMo-V2.5-ProMiMo-V2.5-Pro作为旗舰模型,擅⻓处理复杂Agent任务,单次任务可完成近千次⼯具调⽤与⼗余轮上 下⽂压缩。Python00
GLM-5.1GLM-5.1是智谱迄今最智能的旗舰模型,也是目前全球最强的开源模型。GLM-5.1大大提高了代码能力,在完成长程任务方面提升尤为显著。和此前分钟级交互的模型不同,它能够在一次任务中独立、持续工作超过8小时,期间自主规划、执行、自我进化,最终交付完整的工程级成果。Jinja00
Kimi-K2.6Kimi K2.6 是一款开源的原生多模态智能体模型,在长程编码、编码驱动设计、主动自主执行以及群体任务编排等实用能力方面实现了显著提升。Python00
MiniMax-M2.7MiniMax-M2.7 是我们首个深度参与自身进化过程的模型。M2.7 具备构建复杂智能体应用框架的能力,能够借助智能体团队、复杂技能以及动态工具搜索,完成高度精细的生产力任务。Python00
项目优选
收起
deepin linux kernel
C
28
16
Claude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed.
Get Started
Rust
568
98
暂无描述
Dockerfile
709
4.51 K
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
958
955
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
1.61 K
942
Ascend Extension for PyTorch
Python
572
694
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
413
339
🍒 Cherry Studio 是一款支持多个 LLM 提供商的桌面客户端
TypeScript
1.42 K
116
暂无简介
Dart
951
235
Nop Platform 2.0是基于可逆计算理论实现的采用面向语言编程范式的新一代低代码开发平台,包含基于全新原理从零开始研发的GraphQL引擎、ORM引擎、工作流引擎、报表引擎、规则引擎、批处理引引擎等完整设计。nop-entropy是它的后端部分,采用java语言实现,可选择集成Spring框架或者Quarkus框架。中小企业可以免费商用
Java
12
2