AWS Deep Learning Containers发布PyTorch Graviton EC2推理镜像v1.32

AWS Deep Learning Containers（DLC）是亚马逊云科技提供的一组经过优化的深度学习容器镜像，这些镜像预装了流行的深度学习框架及其依赖项，能够帮助开发者快速在AWS云环境中部署深度学习工作负载。近日，该项目发布了针对Graviton处理器优化的PyTorch推理容器镜像新版本v1.32。

镜像技术细节

本次发布的镜像基于Ubuntu 22.04操作系统，专门为AWS Graviton处理器（基于ARM架构）优化，主要面向PyTorch模型推理场景。镜像的核心组件包括：

• PyTorch 2.4.0 + CPU版本
• Python 3.11环境
• 配套的torchvision 0.19.0和torchaudio 2.4.0
• 模型服务工具torchserve 0.12.0和torch-model-archiver 0.12.0

镜像中还包含了常用的数据处理和科学计算库，如NumPy 1.26.4、SciPy 1.14.1、OpenCV 4.10.0.84等，以及AWS CLI工具集，方便用户与AWS服务交互。

关键优化特性

这个版本的镜像针对Graviton处理器进行了深度优化，主要体现在以下几个方面：

1. ARM架构原生支持：所有软件包都针对ARM64架构编译，充分发挥Graviton处理器的性能优势。

2. 精简高效的运行时环境：作为推理专用镜像，它去除了训练相关的组件，保持了较小的体积和较高的运行效率。

3. 完整的模型服务工具链：内置了torchserve和模型归档工具，支持用户快速部署PyTorch模型服务。

4. 稳定的依赖关系：精心选择了各依赖库的版本，确保兼容性和稳定性。

典型应用场景

这个优化后的PyTorch推理镜像特别适合以下场景：

• 在基于Graviton处理器的EC2实例上部署PyTorch模型推理服务
• 构建高效的机器学习推理流水线
• 需要ARM架构支持的边缘计算场景
• 成本敏感型AI应用（Graviton实例通常具有更好的性价比）

版本管理与兼容性

该镜像提供了多个标签别名，包括主版本号标签(2.4)和完整版本号标签(2.4.0)，方便用户根据需求选择固定版本或跟随主版本更新。用户可以根据实际需求选择合适的标签策略，平衡稳定性和新特性获取。

对于已经在使用AWS Deep Learning Containers的用户，这个新版本提供了对PyTorch 2.4系列的支持，同时保持了与之前版本的兼容性，使得升级过程更加平滑。