AWS Deep Learning Containers发布PyTorch ARM64推理镜像v1.28

AWS Deep Learning Containers（DLC）是亚马逊云科技提供的预构建深度学习容器镜像，它集成了主流深度学习框架、依赖库和工具，帮助开发者快速部署深度学习应用。这些容器镜像经过AWS优化，可直接在Amazon EC2、Amazon ECS和Amazon EKS等服务上运行。

本次发布的v1.28版本主要针对ARM64架构，提供了PyTorch 2.5.1的CPU推理镜像。该镜像基于Ubuntu 22.04操作系统，预装了Python 3.11环境，专为SageMaker服务优化。

镜像技术细节

该DLC镜像的核心组件包括：

• PyTorch框架版本：2.5.1（CPU版本）
• Python版本：3.11
• 操作系统：Ubuntu 22.04
• 架构支持：ARM64

镜像中预装了完整的PyTorch生态系统工具链：

• torchaudio 2.5.1：用于音频处理的PyTorch扩展库
• torchvision 0.20.1：计算机视觉任务专用库
• torch-model-archiver 0.12.0：模型打包工具
• torchserve 0.12.0：PyTorch模型服务框架

关键依赖库版本

镜像中包含了深度学习开发常用的科学计算和数据处理库：

• NumPy 2.1.3：高性能科学计算基础库
• pandas 2.2.3：数据分析和处理工具
• scikit-learn 1.5.2：机器学习算法库
• scipy 1.14.1：科学计算工具集
• OpenCV 4.10.0.84：计算机视觉库

这些库的版本都经过AWS严格测试，确保在ARM64架构上的兼容性和性能优化。

系统级优化

该镜像针对ARM64架构进行了系统级优化：

• 使用libgcc-11-dev和libstdc++-11-dev等最新编译器工具链
• 预装了开发调试工具如emacs
• 包含完整的系统依赖，确保在SageMaker环境中无缝运行

适用场景

这个ARM64架构的PyTorch推理镜像特别适合以下场景：

1. 需要在ARM服务器上部署PyTorch模型的推理服务
2. 使用Amazon SageMaker进行模型部署和服务
3. 需要轻量级、高能效的CPU推理解决方案
4. 开发跨架构兼容的深度学习应用

AWS Deep Learning Containers通过提供这种预构建、预优化的容器镜像，大大简化了深度学习应用的部署流程，开发者可以专注于模型开发和业务逻辑，而不必花费大量时间在环境配置和依赖管理上。