AWS Deep Learning Containers发布PyTorch ARM64架构推理镜像v1.21版本

AWS Deep Learning Containers（DLC）是亚马逊云科技提供的预配置深度学习环境容器镜像，它集成了主流深度学习框架、依赖库和工具，帮助开发者快速部署深度学习应用。本次发布的v1.21版本主要针对ARM64架构的EC2实例，提供了PyTorch 2.5.1推理环境的容器镜像。

镜像版本概览

本次发布包含两个主要镜像版本，分别针对CPU和GPU计算环境：

1. CPU版本镜像：基于Ubuntu 22.04系统，预装PyTorch 2.5.1 CPU版本，支持Python 3.11环境。该镜像适用于不需要GPU加速的推理场景，可以在ARM64架构的EC2实例上高效运行。

2. GPU版本镜像：同样基于Ubuntu 22.04系统，预装PyTorch 2.5.1 CUDA 12.4版本，支持Python 3.11环境。该镜像针对配备NVIDIA GPU的ARM64架构EC2实例优化，能够充分利用GPU加速深度学习推理任务。

关键技术组件

两个镜像版本都包含了深度学习开发所需的核心组件：

• PyTorch生态系统：包含torch（2.5.1）、torchvision（0.20.1）、torchaudio（2.5.1）等核心库，以及torchserve（0.12.0）和torch-model-archiver（0.12.0）等模型服务工具。

• 科学计算库：预装了NumPy（2.1.3）、SciPy（1.14.1）、Pandas（2.2.3）等科学计算基础库，以及OpenCV（4.10.0.84）计算机视觉库。

• 开发工具：包含Cython（3.0.11）用于Python扩展开发，ninja（1.11.1.1）构建系统，以及AWS CLI（1.36.7）等云服务工具。

• 系统依赖：镜像中包含了必要的系统库，如libgcc、libstdc++等，确保深度学习框架能够正常运行。

技术特点与优势

1. ARM64架构优化：这些镜像是专门为ARM64架构的EC2实例优化的，能够充分发挥新一代ARM处理器的性能优势，在成本效益比上具有明显优势。

2. PyTorch 2.5.1支持：包含了PyTorch框架的最新稳定版本，支持最新的特性和性能优化，特别是针对推理场景的改进。

3. CUDA 12.4支持：GPU版本镜像基于CUDA 12.4工具包构建，支持最新的NVIDIA GPU架构，提供更好的计算性能和兼容性。

4. 轻量级环境：基于Ubuntu 22.04系统构建，保持了容器镜像的精简性，同时提供了完整的开发环境。

5. 生产就绪：预装了模型服务工具torchserve，可以直接用于生产环境的模型部署，简化了从开发到部署的流程。

适用场景

这些镜像特别适合以下应用场景：

• 在ARM架构的EC2实例上部署PyTorch推理服务
• 开发基于PyTorch的跨架构应用
• 构建高效的边缘计算和物联网AI解决方案
• 需要高性价比计算资源的深度学习推理应用

AWS Deep Learning Containers的持续更新，为开发者提供了开箱即用的深度学习环境，大大简化了环境配置和部署的复杂度，让开发者可以更专注于模型开发和业务逻辑实现。