AWS Deep Learning Containers发布PyTorch 2.4.0推理容器镜像

AWS Deep Learning Containers（DLC）是亚马逊云科技提供的预构建深度学习容器镜像，这些镜像经过优化，可在AWS云环境中高效运行。DLC包含了主流深度学习框架如PyTorch、TensorFlow等的最新版本，以及必要的依赖库和工具，帮助开发者快速部署深度学习应用，而无需花费时间配置环境。

近日，AWS DLC项目发布了PyTorch 2.4.0推理容器镜像，支持Python 3.11环境，为开发者提供了最新的PyTorch推理能力。这些镜像针对CPU和GPU（CUDA 12.4）分别进行了优化，基于Ubuntu 22.04操作系统构建。

镜像版本与特性

本次发布的PyTorch推理容器镜像包含两个主要版本：

1. CPU版本：pytorch-inference:2.4.0-cpu-py311-ubuntu22.04-sagemaker-v1.24

   • 基于Ubuntu 22.04操作系统
   • 预装PyTorch 2.4.0（CPU版本）
   • 包含TorchServe 0.12.0模型服务工具
   • 支持Python 3.11环境

2. GPU版本：pytorch-inference:2.4.0-gpu-py311-cu124-ubuntu22.04-sagemaker-v1.24

   • 基于Ubuntu 22.04操作系统
   • 预装PyTorch 2.4.0（CUDA 12.4版本）
   • 包含TorchServe 0.12.0模型服务工具
   • 支持Python 3.11环境
   • 预装CUDA 12.4相关库和工具

关键软件包版本

两个镜像都预装了深度学习开发常用的软件包，确保开箱即用：

• PyTorch生态：torch 2.4.0、torchvision 0.19.0、torchaudio 2.4.0
• 数据处理：numpy 2.1.2、pandas 2.2.3、scipy 1.14.1
• 机器学习工具：scikit-learn 1.5.2
• 图像处理：opencv-python 4.10.0.84、Pillow 11.0.0
• AWS工具：awscli 1.35.12、boto3 1.35.46
• 构建工具：ninja 1.11.1.1、Cython 3.0.11

GPU版本额外包含了CUDA 12.4相关的库文件，如cuBLAS 12-4和cuDNN 9（CUDA 12版本），以及MPI支持（mpi4py 4.0.1）。

技术优势

使用AWS Deep Learning Containers的PyTorch推理镜像具有以下优势：

1. 性能优化：镜像经过AWS专门优化，在EC2实例上能够发挥最佳性能
2. 版本兼容性：所有依赖包版本经过严格测试，确保兼容性
3. 安全可靠：基于Ubuntu 22.04 LTS构建，定期更新安全补丁
4. 简化部署：预装TorchServe等工具，简化模型服务化流程
5. 多环境支持：同时提供CPU和GPU版本，满足不同计算需求

使用场景

这些PyTorch推理容器镜像特别适合以下场景：

• 在SageMaker上部署PyTorch模型服务
• 构建批处理推理流水线
• 开发基于PyTorch的AI服务
• 快速搭建PyTorch开发环境
• 需要稳定、高性能PyTorch运行环境的项目

AWS Deep Learning Containers的持续更新确保了开发者能够始终使用最新的深度学习框架版本和工具，同时享受AWS云环境的优化性能。这些预构建镜像大大降低了深度学习应用的部署门槛，让开发者可以更专注于模型开发和业务逻辑实现。