AWS Deep Learning Containers发布PyTorch ARM64 CPU推理镜像v1.31

AWS Deep Learning Containers（DLC）是亚马逊云科技提供的一组经过优化的深度学习容器镜像，这些镜像预先配置了主流深度学习框架及其依赖项，使开发者能够快速部署深度学习工作负载而无需花费时间在环境配置上。

本次发布的v1.31版本主要针对ARM64架构的CPU推理场景，提供了基于PyTorch 2.5.1的容器镜像。该镜像特别适用于在Amazon SageMaker服务上运行PyTorch模型的推理任务。

镜像技术细节

该容器镜像基于Ubuntu 22.04操作系统构建，预装了Python 3.11环境，并集成了PyTorch 2.5.1及其相关生态工具。镜像中包含了完整的PyTorch推理工具链，如TorchServe模型服务框架和Torch Model Archiver模型打包工具。

在软件包选择方面，镜像不仅包含了PyTorch核心组件，还预装了数据科学常用的工具链：

• 数据处理：NumPy 2.1.3、Pandas 2.2.3
• 科学计算：SciPy 1.14.1、scikit-learn 1.5.2
• 图像处理：OpenCV 4.10.0.84、Pillow 11.0.0
• 开发工具：Cython 3.0.11、Ninja构建系统

架构特性

作为ARM64架构的专用镜像，它针对AWS Graviton处理器进行了优化，能够充分发挥ARM架构在能效比方面的优势。镜像中包含了针对ARM64架构编译的底层库，如libgcc-11和libstdc++6等，确保在ARM平台上获得最佳性能。

适用场景

该镜像特别适合以下应用场景：

1. 在Amazon SageMaker服务上部署PyTorch模型推理
2. 需要高能效比的边缘计算场景
3. 基于ARM架构的成本敏感型推理服务
4. 需要完整PyTorch生态工具链的开发环境

版本兼容性

镜像提供了多个标签以满足不同使用需求，包括精确版本标签(2.5.1-cpu-py311)和主版本标签(2.5-cpu-py311)，方便用户在精确版本控制和向后兼容之间做出选择。

这个版本的发布进一步丰富了AWS在ARM架构上的深度学习支持，为用户提供了更多部署选择，特别是在追求成本效益和能效比的场景下。