AWS Deep Learning Containers发布PyTorch ARM64架构EC2推理镜像v1.9版本

AWS Deep Learning Containers（DLC）项目近日发布了针对ARM64架构EC2实例优化的PyTorch推理容器镜像v1.9版本。这些预构建的Docker镜像为开发者提供了开箱即用的深度学习推理环境，特别针对基于ARM64架构的Amazon EC2实例进行了优化。

版本核心特性

本次发布的v1.9版本包含两个主要镜像变体：

1. CPU优化版本：基于Ubuntu 22.04系统，预装PyTorch 2.5.1 CPU版本，支持Python 3.11环境
2. GPU加速版本：同样基于Ubuntu 22.04系统，预装PyTorch 2.5.1 CUDA 12.4版本，支持Python 3.11环境

两个版本都包含了完整的PyTorch生态系统工具链，如TorchServe模型服务框架和Torch Model Archiver模型打包工具，为生产环境推理任务提供了完整支持。

关键技术组件

在软件栈方面，这些镜像包含了深度学习开发所需的关键组件：

• PyTorch核心：2.5.1版本，针对ARM64架构进行了优化
• 计算机视觉支持：OpenCV 4.10.0和TorchVision 0.20.1
• 音频处理：TorchAudio 2.5.1
• 科学计算：NumPy 2.1.3和SciPy 1.14.1
• 开发工具：Cython 3.0.11和Ninja构建系统

特别值得注意的是GPU版本中包含了完整的CUDA 12.4工具链和cuDNN加速库，能够充分发挥NVIDIA GPU的计算潜力。

系统级优化

这些镜像在系统层面也做了多项优化：

1. 编译器支持：预装了GCC 11工具链，包括libgcc和libstdc++等关键运行时库
2. 开发工具：包含了Emacs等常用开发工具
3. Python环境：基于Python 3.11构建，配置了最新版的pip和setuptools

适用场景

这些ARM64架构优化的PyTorch推理镜像特别适合以下场景：

• 在Amazon EC2 Graviton实例上部署PyTorch推理服务
• 构建ARM原生AI应用和服务
• 需要高性能成本比的推理工作负载
• 边缘计算和物联网AI应用开发

通过使用这些预构建的容器镜像，开发者可以省去复杂的环境配置过程，快速部署和运行PyTorch模型，专注于模型优化和业务逻辑开发。AWS定期更新这些镜像，确保用户能够获得最新的性能优化和安全补丁。