AWS Deep Learning Containers发布PyTorch ARM64 CPU推理镜像v1.11

AWS Deep Learning Containers（DLC）是亚马逊云科技提供的一组经过优化的深度学习容器镜像，这些镜像预装了流行的深度学习框架、依赖库和工具，可以帮助开发者快速部署深度学习工作负载。这些容器镜像针对AWS基础设施进行了性能优化，支持多种计算实例类型，包括CPU和GPU实例。

近日，AWS Deep Learning Containers项目发布了新的PyTorch ARM64架构CPU推理镜像版本v1.11。这个版本基于PyTorch 2.5.1框架构建，专门为ARM64架构的CPU实例优化，适用于在SageMaker服务上进行模型推理部署。

镜像技术细节

该镜像基于Ubuntu 22.04操作系统构建，预装了Python 3.11环境。主要包含以下核心组件：

• PyTorch框架：2.5.1版本（CPU优化版）
• TorchVision：0.20.1版本
• TorchAudio：2.5.1版本
• TorchServe：0.12.0版本（模型服务框架）
• Torch Model Archiver：0.12.0版本（模型打包工具）

镜像中还包含了常用的数据处理和科学计算库，如NumPy 2.1.3、Pandas 2.2.3、SciPy 1.14.1和scikit-learn 1.5.2，这些库为数据预处理和特征工程提供了完整支持。此外，还预装了OpenCV 4.10.0用于计算机视觉任务。

环境配置与依赖

该镜像的系统级依赖包括：

• GCC 11开发库（libgcc-11-dev）
• C++标准库（libstdc++6和libstdc++-11-dev）
• Emacs编辑器（可选开发工具）

Python环境通过pip管理，主要依赖包包括：

• Cython 3.0.11：用于编写C扩展
• FileLock 3.16.1：提供文件锁功能
• Ninja 1.11.1.1：构建系统
• Pillow 11.0.0：图像处理库
• PyYAML 6.0.1：YAML配置文件处理

适用场景

这个ARM64架构的PyTorch CPU推理镜像特别适合以下场景：

1. 成本敏感的推理服务：ARM架构实例通常比x86实例更具成本效益
2. 边缘计算部署：ARM架构在边缘设备上广泛使用
3. 轻量级模型服务：不需要GPU加速的模型推理
4. 开发测试环境：快速搭建一致的PyTorch测试环境

版本管理

该镜像提供了多个标签供用户选择，包括特定版本标签（如2.5.1-cpu-py311）和通用版本标签（如2.5-cpu-py311），方便用户在不同需求下灵活使用。镜像采用内容寻址存储，确保下载的镜像完整性。

这个版本的发布进一步丰富了AWS Deep Learning Containers的产品线，为ARM架构用户提供了更多选择，特别是在成本优化和边缘计算场景下。开发者可以基于这个镜像快速部署PyTorch模型推理服务，而无需关心底层环境配置问题。