首页
/ Safetensors v0.5.0 发布:支持多设备与性能优化

Safetensors v0.5.0 发布:支持多设备与性能优化

2025-06-15 06:59:27作者:齐添朝

Safetensors 是一个由 HuggingFace 开发的高效张量存储库,它专注于提供安全、快速且跨平台的张量序列化和反序列化功能。与传统的序列化格式相比,Safetensors 在性能和安全性方面都有显著优势,特别适合机器学习和大规模张量数据处理场景。

主要更新内容

1. 底层架构升级

本次发布的 v0.5.0 版本进行了重要的底层架构调整,采用了 Python 的 abi3 兼容模式,并将最低 Python 版本要求提升至 3.8。这一变化带来了几个显著优势:

  • 更好的兼容性:abi3 模式确保了在不同 Python 版本间的二进制兼容性
  • 更小的包体积:减少了需要分发的二进制文件数量
  • 更简单的维护:开发者不再需要为每个 Python 版本构建单独的二进制包

2. 新增硬件支持

v0.5.0 版本新增了对 Cambricon MLU(机器学习处理器)设备的支持。这一扩展使得 Safetensors 能够在更广泛的硬件平台上高效运行,包括:

  • 传统的 CPU 设备
  • NVIDIA GPU
  • 现在还包括 Cambricon 的专用 AI 处理器

这种多设备支持使得 Safetensors 成为跨平台机器学习部署的理想选择。

3. 性能优化与工具链升级

开发团队对项目进行了多项性能优化和工具链升级:

  • 将 PyO3 框架升级至 0.23 版本,这是 Rust 和 Python 交互的重要桥梁
  • 改进了基准测试工具,使得性能评估更加准确可靠
  • 优化了持续集成(CI)流程,提高了开发效率和代码质量

技术细节解析

abi3 兼容模式的意义

abi3(Application Binary Interface 3)是 Python 提供的一种稳定 ABI 机制。通过使用 abi3,Safetensors 现在可以:

  1. 构建一次二进制扩展,即可在多个 Python 版本上运行
  2. 减少用户安装时的编译需求
  3. 简化包的分发和维护流程

Cambricon MLU 支持实现

Cambricon MLU 是一种专门为 AI 计算设计的处理器。Safetensors 通过以下方式实现了对其的支持:

  1. 添加了针对 MLU 设备的内存分配和释放逻辑
  2. 实现了 MLU 张量与 Safetensors 格式间的转换接口
  3. 确保数据在主机和设备间的高效传输

升级建议

对于现有用户,升级到 v0.5.0 版本需要注意以下几点:

  1. 确保运行环境使用 Python 3.8 或更高版本
  2. 如果使用 Cambricon MLU 设备,需要安装相应的驱动和运行时
  3. 建议在升级前备份重要的张量数据

未来展望

从本次更新可以看出,Safetensors 项目正朝着以下方向发展:

  1. 更广泛的硬件支持:持续扩展对不同处理器的兼容性
  2. 性能持续优化:通过底层框架升级和算法改进提升效率
  3. 开发者体验提升:简化构建和分发流程,降低使用门槛

v0.5.0 版本的发布标志着 Safetensors 在成为通用张量存储解决方案的道路上又迈出了坚实的一步。

登录后查看全文
热门项目推荐

项目优选

收起
ohos_react_nativeohos_react_native
React Native鸿蒙化仓库
C++
176
261
RuoYi-Vue3RuoYi-Vue3
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
861
511
ShopXO开源商城ShopXO开源商城
🔥🔥🔥ShopXO企业级免费开源商城系统,可视化DIY拖拽装修、包含PC、H5、多端小程序(微信+支付宝+百度+头条&抖音+QQ+快手)、APP、多仓库、多商户、多门店、IM客服、进销存,遵循MIT开源协议发布、基于ThinkPHP8框架研发
JavaScript
93
15
openGauss-serveropenGauss-server
openGauss kernel ~ openGauss is an open source relational database management system
C++
129
182
openHiTLSopenHiTLS
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
259
300
kernelkernel
deepin linux kernel
C
22
5
cherry-studiocherry-studio
🍒 Cherry Studio 是一款支持多个 LLM 提供商的桌面客户端
TypeScript
596
57
CangjieCommunityCangjieCommunity
为仓颉编程语言开发者打造活跃、开放、高质量的社区环境
Markdown
1.07 K
0
HarmonyOS-ExamplesHarmonyOS-Examples
本仓将收集和展示仓颉鸿蒙应用示例代码,欢迎大家投稿,在仓颉鸿蒙社区展现你的妙趣设计!
Cangjie
398
371
Cangjie-ExamplesCangjie-Examples
本仓将收集和展示高质量的仓颉示例代码,欢迎大家投稿,让全世界看到您的妙趣设计,也让更多人通过您的编码理解和喜爱仓颉语言。
Cangjie
332
1.08 K