AWS Deep Learning Containers发布PyTorch Graviton EC2推理镜像v1.31

AWS Deep Learning Containers是亚马逊云科技提供的深度学习容器服务，它预装了主流深度学习框架和依赖库，帮助开发者快速部署深度学习应用。这些容器经过AWS优化，可以直接在EC2、ECS、EKS等服务上运行，大幅简化了深度学习环境的搭建过程。

本次发布的v1.31版本主要针对基于Graviton处理器的EC2实例，提供了PyTorch 2.4.0的推理环境支持。Graviton是AWS自主研发的ARM架构处理器，相比传统x86架构，在性价比方面具有明显优势。

镜像技术细节

该镜像基于Ubuntu 22.04操作系统构建，预装了Python 3.11环境，主要包含以下核心组件：

1. PyTorch生态组件：

   • PyTorch 2.4.0（CPU版本）
   • TorchVision 0.19.0
   • TorchAudio 2.4.0
   • TorchServe 0.12.0模型服务框架
   • Torch Model Archiver 0.12.0模型打包工具

2. 科学计算与数据处理库：

   • NumPy 1.26.4
   • SciPy 1.14.1
   • OpenCV 4.10.0.84
   • Pillow 11.0.0图像处理库

3. 开发工具与依赖：

   • Cython 3.0.11
   • Ninja 1.11.1.1构建系统
   • FileLock 3.16.1文件锁工具
   • AWS CLI 1.35.20命令行工具
   • Boto3 1.35.54 Python SDK

技术特点与优势

1. ARM架构优化：专为Graviton处理器优化，充分发挥ARM架构在机器学习推理场景下的能效优势。

2. 轻量级设计：基于Ubuntu 22.04最小化安装，仅包含必要的系统组件和开发工具，保持镜像体积精简。

3. 生产就绪：包含TorchServe模型服务框架，支持模型打包、部署和监控，适合生产环境使用。

4. 兼容性保障：预装PyTorch 2.4.0稳定版本及其配套的视觉、音频处理库，确保各组件版本兼容。

5. 开发友好：内置AWS CLI和Boto3工具，方便与AWS其他服务集成，简化云上机器学习工作流。

适用场景

该镜像特别适合以下应用场景：

• 在Graviton实例上部署PyTorch推理服务
• 构建ARM架构的机器学习推理流水线
• 开发跨平台机器学习应用
• 需要高性价比推理解决方案的业务场景

对于希望利用ARM架构降低成本，同时需要稳定PyTorch环境的用户，这个预构建的Docker镜像提供了开箱即用的解决方案。