首页
/ Narwhals v1.32.0 版本发布:增强数据操作能力与类型支持

Narwhals v1.32.0 版本发布:增强数据操作能力与类型支持

2025-07-06 07:41:19作者:江焘钦

Narwhals 是一个专注于数据处理的 Python 库,它提供了统一的数据操作接口,支持多种后端引擎,包括 Pandas、PySpark、DuckDB 等。最新发布的 v1.32.0 版本带来了多项功能增强和优化,特别是在窗口函数、数据类型支持和跨后端兼容性方面有了显著提升。

核心功能增强

窗口函数支持扩展

本次版本显著增强了窗口函数的支持范围,特别是对于 PySpark 和 DuckDB 后端:

  1. 新增了对 cum_mincum_max 函数的 PySpark 实现,使得在 Spark 环境下也能使用这些累积计算功能
  2. 为 PySpark、SQLFrame 和 DuckDB 添加了对 diffshiftis_first_distinctis_last_distinct 函数的支持
  3. 特别值得注意的是,order_by 参数在 Expr.over 方法中正式公开,为窗口操作提供了更灵活的排序控制

数据类型支持

  1. 新增了对 Binary 数据类型的支持,扩展了处理二进制数据的能力
  2. 改进了类型系统,现在能够跟踪表达式是否为多输出,并统一了错误消息,提升了开发体验

跨后端兼容性改进

Narwhals 一直致力于提供跨后端的统一 API 体验,本次版本在这方面做了多项优化:

  1. scan_parquet 方法中增加了对 Spark-like 后端的支持
  2. 新增了完整的 full join 支持,完善了数据合并操作的功能集
  3. 修复了多个后端兼容性问题,特别是针对 Pandas 和 PyArrow 后端的一些边界情况

内部架构优化

从技术架构角度看,本次版本包含多项内部改进:

  1. 引入了 Compliant 系列类(CompliantWhenThenCompliantGroupBy 等),为不同后端的实现提供了更清晰的规范
  2. 改进了表达式元数据跟踪机制,现在能够更准确地追踪 ExpansionKind
  3. 重构了类型系统,将 DepthTracking 相关类型进行了合理组织
  4. 清理了 _arrow 模块,提升了代码可维护性

破坏性变更

需要注意的是,本次版本移除了 LazyFrame.unique 方法中的 maintain_order 参数,因为该参数实际上从未被支持过。开发者在使用时需要注意这一变更。

总结

Narwhals v1.32.0 版本在功能丰富度和跨后端兼容性方面都取得了显著进步。特别是窗口函数的增强和二进制数据类型的支持,使得 Narwhals 在处理复杂数据操作时更加得心应手。内部架构的优化也为未来的功能扩展打下了坚实基础。对于需要在不同数据处理引擎间切换的项目,Narwhals 提供了一个越来越完善的统一抽象层。

登录后查看全文
热门项目推荐
相关项目推荐