AWS Deep Learning Containers发布PyTorch Graviton EC2推理容器v1.30版本

AWS Deep Learning Containers（DLC）是亚马逊云科技提供的深度学习容器服务，它预装了主流深度学习框架和依赖库，帮助开发者快速部署AI应用。该项目提供了经过优化和测试的容器镜像，支持CPU和GPU加速，适用于训练和推理场景。

近日，AWS DLC项目发布了PyTorch Graviton EC2推理容器的新版本v1.30，该版本基于PyTorch 2.4.0框架，专为AWS Graviton处理器优化，适用于EC2实例上的推理工作负载。

版本核心特性

此版本容器镜像基于Ubuntu 22.04操作系统构建，主要包含以下技术组件：

1. PyTorch框架：集成了PyTorch 2.4.0+cpu版本，这是当前PyTorch的稳定发布，针对Graviton处理器进行了优化
2. Python环境：使用Python 3.11作为基础运行环境，提供更好的性能和内存管理
3. 配套工具链：
   • TorchServe 0.12.0：PyTorch官方模型服务工具
   • TorchModelArchiver 0.12.0：模型打包工具
   • TorchVision 0.19.0：计算机视觉扩展库
   • TorchAudio 2.4.0：音频处理扩展库

关键依赖库版本

该容器镜像预装了深度学习开发常用的Python库：

• 数值计算：NumPy 1.26.4和SciPy 1.14.1提供高效数值运算能力
• 图像处理：OpenCV 4.10.0.84和Pillow 11.0.0支持各类图像处理任务
• 开发工具：Cython 3.0.11用于Python与C的混合编程，Ninja 1.11.1.1作为高效构建系统
• AWS集成：boto3 1.35.54和awscli 1.35.20提供与AWS服务的无缝集成

系统级优化

为充分发挥Graviton处理器的性能，该镜像包含了必要的系统级依赖：

• GCC编译器相关库（libgcc-10-dev、libgcc-11-dev）
• C++标准库（libstdc++-10-dev、libstdc++-11-dev）
• 开发工具如Emacs编辑器（可选）

应用场景

这个专为Graviton处理器优化的PyTorch推理容器特别适合以下场景：

1. 边缘推理：在基于Graviton的EC2实例上部署轻量级AI模型
2. 成本敏感型应用：利用Graviton处理器的性价比优势降低推理成本
3. ARM生态开发：为ARM架构开发和测试PyTorch模型
4. 模型服务：使用TorchServe构建可扩展的模型服务

该容器镜像经过AWS官方测试和优化，开发者可以直接使用而无需自行配置环境，显著降低了部署PyTorch模型的门槛。对于需要在AWS Graviton实例上运行PyTorch推理工作负载的用户，这个版本提供了开箱即用的解决方案。