AWS Deep Learning Containers发布PyTorch ARM64 CPU推理镜像v1.5

AWS Deep Learning Containers（DLC）是亚马逊云科技提供的一组经过优化的深度学习容器镜像，这些镜像预装了流行的深度学习框架及其依赖项，能够帮助开发者快速部署深度学习应用。这些容器镜像针对AWS基础设施进行了优化，支持多种计算实例类型，包括CPU和GPU实例。

近日，AWS Deep Learning Containers项目发布了针对ARM64架构的PyTorch推理镜像新版本v1.5。这个版本基于PyTorch 2.5.1框架构建，专门为ARM64架构的CPU实例优化，适用于在Amazon SageMaker等服务中部署PyTorch模型推理任务。

镜像技术细节

该镜像基于Ubuntu 22.04操作系统构建，预装了Python 3.11环境，包含了PyTorch 2.5.1及其相关生态工具链。主要组件版本如下：

• PyTorch核心框架：2.5.1+cpu
• TorchVision：0.20.1+cpu
• TorchAudio：2.5.1+cpu
• TorchServe模型服务框架：0.12.0
• Torch Model Archiver模型打包工具：0.12.0

除了PyTorch核心组件外，镜像还预装了常用的数据科学和机器学习库：

• NumPy 2.1.3：高性能科学计算库
• Pandas 2.2.3：数据处理和分析库
• scikit-learn 1.5.2：机器学习算法库
• OpenCV 4.10.0.84：计算机视觉库
• Pillow 11.0.0：图像处理库

环境配置与优化

这个ARM64架构的镜像针对AWS Graviton处理器等ARM架构CPU进行了优化。系统层面配置了：

• GCC 11开发工具链
• C++标准库（libstdc++）11版本
• 必要的系统工具和编辑器（如Emacs）

Python环境方面，除了预装的核心库外，还包含了：

• Cython 3.0.11：用于编写C扩展的Python工具
• Ninja 1.11.1.1：高效的构建系统
• FileLock 3.16.1：文件锁工具
• 最新的pip包管理工具

使用场景

这个PyTorch ARM64 CPU推理镜像特别适合以下场景：

1. 需要在ARM架构处理器上运行PyTorch模型推理的应用
2. 使用Amazon SageMaker服务部署PyTorch模型的场景
3. 对成本敏感，希望利用ARM架构CPU性价比优势的项目
4. 需要轻量级推理服务，不需要GPU加速的场景

版本兼容性

该镜像属于PyTorch 2.5.x系列，保持了与PyTorch 2.5版本的API兼容性。开发者可以放心使用PyTorch 2.5的特性，同时享受ARM架构带来的性能优势。

对于需要在AWS上部署PyTorch推理服务的开发者，这个经过优化的ARM64镜像提供了开箱即用的解决方案，可以显著减少环境配置时间，提高部署效率。