AWS Deep Learning Containers 发布 PyTorch 2.5.1 推理镜像

AWS Deep Learning Containers（DLC）是亚马逊云科技提供的预构建深度学习容器镜像，这些镜像经过优化，可直接在AWS云环境中运行，大大简化了深度学习环境的部署过程。DLC包含了主流深度学习框架的最新版本，并针对AWS基础设施进行了性能优化。

近日，AWS发布了PyTorch 2.5.1推理专用容器镜像，支持Python 3.11环境，适用于CPU和GPU两种计算环境。这些镜像基于Ubuntu 22.04操作系统构建，专为EC2实例优化。

镜像版本概览

本次发布的PyTorch推理镜像包含两个主要版本：

1. CPU版本：适用于无GPU加速的计算环境，镜像标签为2.5.1-cpu-py311-ubuntu22.04-ec2-v1.21。该版本包含了PyTorch 2.5.1 CPU版及其相关生态工具。

2. GPU版本：针对NVIDIA GPU加速环境优化，基于CUDA 12.4构建，镜像标签为2.5.1-gpu-py311-cu124-ubuntu22.04-ec2-v1.21。此版本包含了完整的GPU加速支持。

关键组件与依赖

两个版本都预装了PyTorch生态系统的核心组件：

• PyTorch核心：2.5.1版本
• TorchVision：0.20.1版本
• TorchAudio：2.5.1版本
• TorchServe：0.12.0模型服务框架
• Torch Model Archiver：0.12.0模型归档工具

此外，镜像中还包含了常用的数据处理和科学计算库：

• NumPy：2.1.3版本，高性能数值计算基础库
• SciPy：1.14.1版本，科学计算工具集
• Pandas：2.2.3版本（仅GPU镜像），数据分析工具
• OpenCV：4.10.0.84版本，计算机视觉库
• Pillow：11.0.0版本，图像处理库

系统级优化

AWS对这些镜像进行了系统级的优化：

1. 编译器支持：包含了GCC 11工具链，确保代码编译性能
2. CUDA支持：GPU版本完整支持CUDA 12.4和cuDNN，最大化GPU利用率
3. 系统工具：预装了常用开发工具如emacs，方便用户进行调试
4. AWS集成：内置AWS CLI、boto3等工具，便于与AWS服务交互

使用场景

这些预构建的PyTorch推理镜像特别适合以下场景：

1. 模型部署：快速部署训练好的PyTorch模型到生产环境
2. 推理服务：构建高性能的模型推理服务
3. 开发测试：为PyTorch应用提供一致的开发环境
4. CI/CD流水线：作为持续集成和持续部署的基础镜像

版本兼容性

需要注意的是，这些镜像基于Python 3.11构建，用户在使用时需确保应用程序兼容此Python版本。同时，GPU版本需要搭配支持CUDA 12.4的NVIDIA驱动使用。

AWS Deep Learning Containers的PyTorch镜像持续更新，为用户提供最新、最稳定的深度学习环境，显著降低了部署深度学习应用的复杂度。