AWS Deep Learning Containers发布PyTorch ARM64架构推理镜像v1.12版本

AWS Deep Learning Containers（DLC）是亚马逊云科技提供的预构建深度学习容器镜像服务，它集成了主流深度学习框架和工具，帮助开发者快速部署深度学习工作负载。这些容器镜像经过AWS优化，可直接在EC2等云服务上运行，大大简化了深度学习环境的配置过程。

近日，AWS DLC项目发布了针对ARM64架构的PyTorch推理镜像v1.12版本，主要包含两个重要镜像更新：

1. CPU版本PyTorch推理镜像

该镜像基于Ubuntu 22.04操作系统，预装了PyTorch 2.5.1 CPU版本及Python 3.11环境。镜像中包含了完整的PyTorch生态系统工具链，如torchaudio（2.5.1）、torchvision（0.20.1）等，同时还预装了常用的数据处理和科学计算库，如NumPy（2.1.3）、SciPy（1.14.1）和OpenCV（4.10.0.84）等。

值得注意的是，该镜像还包含了TorchServe（0.12.0）和Torch Model Archiver（0.12.0）工具，方便用户直接部署PyTorch模型服务。此外，AWS CLI工具（1.36.7）和boto3（1.35.66）SDK也已预装，便于与AWS服务集成。

2. GPU版本PyTorch推理镜像

GPU版本同样基于Ubuntu 22.04和Python 3.11，但针对NVIDIA CUDA 12.4进行了优化。除了包含CPU版本的所有功能外，GPU版本还预装了CUDA 12.4工具链和cuDNN库，确保能够充分利用NVIDIA GPU的加速能力。

该镜像中的PyTorch版本（2.5.1）已针对CUDA 12.4进行编译优化，同时torchvision（0.20.1）和torchaudio（2.5.1）也支持GPU加速。额外还包含了Pandas（2.2.3）等数据处理库，为大规模数据预处理提供支持。

技术特点与优势

这两个ARM64架构的PyTorch推理镜像具有以下显著特点：

1. 性能优化：针对AWS Graviton处理器（ARM架构）进行了专门优化，相比x86架构可提供更好的性价比。

2. 完整工具链：预装了从模型训练到服务部署的全套工具，包括模型归档工具（torch-model-archiver）和服务框架（torchserve）。

3. 生产就绪：包含必要的系统依赖和安全更新，如libgcc和libstdc++等基础库的最新版本。

4. 开发友好：预装了Emacs等开发工具，方便开发者直接在容器内进行调试和开发。

对于需要在ARM架构上部署PyTorch推理服务的用户，这些预构建的容器镜像可以节省大量环境配置时间，同时确保获得AWS官方优化的性能表现。用户可以直接在EC2 Graviton实例上部署这些镜像，快速构建高效的推理服务。