首页
/ MLX-Swift 0.25.1版本发布:Metal加速的机器学习框架重大更新

MLX-Swift 0.25.1版本发布:Metal加速的机器学习框架重大更新

2025-07-05 20:13:20作者:钟日瑜

项目概述

MLX-Swift是苹果生态系统中一个基于Metal框架构建的高性能机器学习库。作为MLX项目的Swift语言实现,它充分利用了苹果设备的硬件加速能力,为开发者提供了在iOS、macOS等平台上运行机器学习模型的高效工具。该项目特别注重与Swift语言的深度集成,为苹果开发者提供了原生化的机器学习开发体验。

核心更新内容

底层引擎升级

本次0.25.1版本最重要的更新是同步了底层MLX引擎至v0.25.1版本,并集成了mlx-c v0.2.0。这一系列更新包含了从v0.23.2到v0.25.1之间的所有改进,为Swift开发者带来了底层性能优化和新功能支持。

线程安全与并发控制

  1. 评估锁机制:引入了evalLock机制,用于保护eval、asyncEval和Stream创建等关键操作,确保在多线程环境下的安全性。
  2. 编译函数线程安全:明确标识CompiledFunction不是线程安全的,提醒开发者在并发场景下需要特别注意。

模型与数据处理增强

  1. 数据序列化:新增了saveToData和从数据(safetensors格式)加载的功能,极大简化了模型的保存和加载过程。
  2. 函数导入导出:实现了函数的导入导出功能,支持更灵活的模型部署和共享。

错误处理改进

  1. 错误捕获机制:新增withError和withErrorHandler两种错误处理方式,为开发者提供了更优雅的错误捕获和处理方案。

随机数生成优化

  1. 随机状态管理:改进了Random相关功能,新增withRandomState方法,使得随机数生成的状态管理更加方便和可靠。

重要问题修复

  1. 损失函数修正:修复了smoothL1Loss函数的实现问题,确保损失计算的准确性。
  2. 内存限制获取:修正了内存限制获取函数返回错误值的问题。
  3. 数据类型一致性:统一了HasDType(Float.self)和dtype(.float32)的处理方式,消除潜在的类型混淆问题。
  4. API命名规范:将update方法重命名为_updateInternal,明确标识其为内部使用,避免开发者误用。

量化功能增强

新增了支持不同层级参数的量化函数,为模型压缩和优化提供了更灵活的工具。这一功能特别适合在资源受限的移动设备上部署大型模型。

开发者体验改进

  1. 文档完善:修复了文档符号链接问题,提升了开发文档的可读性和易用性。
  2. Metal内核API:恢复了metalKernel API的原有设计,保持API的稳定性和一致性。

技术影响与建议

这次更新为MLX-Swift带来了显著的稳定性和功能性提升。对于开发者而言,建议重点关注以下方面:

  1. 并发编程:在使用多线程时,注意评估锁的使用和CompiledFunction的线程限制。
  2. 模型部署:利用新的序列化功能简化模型部署流程。
  3. 错误处理:采用新的错误处理机制提高代码健壮性。
  4. 量化优化:探索使用分层量化功能优化模型性能。

MLX-Swift 0.25.1版本的发布标志着该项目在苹果生态系统中机器学习解决方案的成熟度又向前迈进了一步,为开发者提供了更强大、更稳定的工具集。

登录后查看全文

项目优选

收起
kernelkernel
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
471
465
kernelkernel
deepin linux kernel
C
32
16
atomcodeatomcode
Claude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get Started
Rust
2.09 K
218
ops-nnops-nn
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
700
1.4 K
docsdocs
暂无描述
Dockerfile
780
5.08 K
pytorchpytorch
Ascend Extension for PyTorch
Python
758
968
flutter_flutterflutter_flutter
本仓库是 Flutter SDK 与 Flutter Engine 的 OpenHarmony 适配版本,由 CPF-Flutter 团队维护。开发者可使用熟悉的 Flutter 技术栈开发 OpenHarmony 应用,3.35.7 及以后的适配版本可基于本仓库源码构建支持 OpenHarmony 的 Flutter Engine。
Dart
1.04 K
271
ops-transformerops-transformer
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
880
2.03 K
mindquantummindquantum
MindQuantum is a general software library supporting the development of applications for quantum computation.
Python
183
111
openHiTLSopenHiTLS
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
1.11 K
682