首页
/ Apache Arrow 20.0.0版本中废弃API的清理工作

Apache Arrow 20.0.0版本中废弃API的清理工作

2025-05-18 21:47:49作者:郁楠烈Hubert

在Apache Arrow项目20.0.0版本的开发过程中,开发团队对代码库中已废弃的API进行了全面审查和清理。这项工作涉及C++和Python两个主要组件,旨在移除那些已经达到废弃期限的接口,保持代码库的整洁和现代化。

C++组件中的废弃API移除

在C++组件中,开发团队移除了多个已经过时的API接口:

  1. 分组器相关功能:移除了GetNextSegment及其相关函数,这些函数在18.0.0版本中已被标记为废弃。

  2. Gandiva缓存功能:移除了GetCapacity方法,该方法在17.0.0版本中已被废弃。

  3. 内存IO操作:移除了BufferReader的旧构造函数,这些构造函数在14.0.0版本中已被标记为废弃。

  4. HDFS相关接口:移除了ObjectTypeFileStatistics等HDFS相关接口,这些接口在0.17.0版本中已被废弃。

  5. GCS文件系统操作:移除了OpenAppendStream方法,该方法在6.0.0版本中已被标记为废弃。

  6. 线程池管理:清理了owned_thread_pool_相关的遗留代码,这些代码在11.0.0版本中已被废弃。

值得注意的是,部分在19.0.0版本中标记为废弃的API,如GetRecordBatchReader和带有chunk_size参数的NewRowGroup方法,由于还未达到废弃期限,暂时保留在代码库中。

Python组件中的废弃API移除

在Python组件中,开发团队也进行了类似的清理工作:

  1. IPC写入器:移除了use_legacy_format参数,该参数已被更现代的替代方案所取代。

  2. Parquet数据集操作:移除了use_legacy_dataset参数,简化了Parquet数据集的操作接口。

  3. 扩展类型支持:移除了PyExtensionType相关实现,该实现已被更完善的扩展类型机制所替代。

Flight相关组件的清理

在Flight相关组件中,开发团队移除了几个长期废弃的接口:

  1. 认证机制:移除了Authenticate方法,该方法在13.0.0版本中已被标记为废弃。

  2. UCX传输:移除了Flight UCX相关实现,这些实现在19.0.0版本中已被废弃。

  3. 中间件调用:移除了StartCall方法,该方法在13.0.0版本中已被标记为废弃。

技术意义与影响

这次API清理工作对Apache Arrow项目具有重要意义:

  1. 代码质量提升:通过移除废弃代码,减少了代码库的维护负担,提高了整体代码质量。

  2. 开发者体验改善:减少了开发者可能遇到的废弃API警告,提供了更清晰的接口选择。

  3. 性能优化:移除不必要的代码路径可能带来轻微的性能提升。

  4. 未来兼容性:为后续版本的功能开发扫清了障碍。

对于现有用户而言,如果项目中使用到了这些已被移除的API,需要在升级到20.0.0版本前进行相应的代码迁移。开发团队建议用户定期检查项目中的废弃API警告,并及时更新代码以避免未来兼容性问题。

这次清理工作展示了Apache Arrow项目对代码质量和长期维护性的重视,也体现了开源社区协作的力量。通过定期清理废弃API,项目能够保持技术上的先进性,为大数据处理领域提供更高效、更可靠的解决方案。

登录后查看全文
热门项目推荐
相关项目推荐

项目优选

收起
kernelkernel
deepin linux kernel
C
33
16
docsdocs
暂无描述
Markdown
843
5.65 K
pytorchpytorch
作为 Ascend for PyTorch 社区的核心组件,TorchNPU 是昇腾专为 PyTorch 打造的深度学习适配插件,使 PyTorch 框架能够直接调用昇腾 NPU,为开发者提供昇腾 AI 处理器的超强算力。
Python
835
1.27 K
ops-transformerops-transformer
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
1.04 K
2.44 K
ops-nnops-nn
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
841
1.67 K
kernelkernel
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
507
540
flutter_flutterflutter_flutter
本仓库是 Flutter SDK 与 Flutter Engine 的 OpenHarmony 适配版本,由 CPF-Flutter 团队维护。开发者可使用熟悉的 Flutter 技术栈开发 OpenHarmony 应用,3.35.7 及以后的适配版本可基于本仓库源码构建支持 OpenHarmony 的 Flutter Engine。
Dart
1.13 K
304
AscendNPU-IRAscendNPU-IR
AscendNPU-IR是基于MLIR(Multi-Level Intermediate Representation)构建的,面向昇腾亲和算子编译时使用的中间表示,提供昇腾完备表达能力,通过编译优化提升昇腾AI处理器计算效率,支持通过生态框架使能昇腾AI处理器与深度调优
C++
497
339
ops-mathops-math
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
1.24 K
1.36 K
jiuwenswarmjiuwenswarm
JiuwenSwarm 是一款基于openJiuwen开发的智能AI Agent,它能够将大语言模型的强大能力,通过你日常使用的各类通讯应用,直接延伸至你的指尖。
Python
3.15 K
845