AWS Deep Learning Containers发布PyTorch ARM64 CPU推理镜像v1.20

AWS Deep Learning Containers项目是亚马逊云科技提供的一套预构建的深度学习容器镜像，这些镜像经过优化，包含了流行的深度学习框架及其依赖项，可以帮助开发者快速部署深度学习应用。该项目支持多种深度学习框架和硬件架构组合，大大简化了深度学习环境的搭建过程。

近日，AWS Deep Learning Containers项目发布了PyTorch框架的ARM64架构CPU推理专用镜像版本v1.20。这个新版本基于PyTorch 2.5.1构建，专为ARM64架构的CPU推理场景优化，适用于亚马逊SageMaker服务环境。

镜像技术细节

该镜像基于Ubuntu 22.04操作系统构建，预装了Python 3.11环境。作为推理专用镜像，它包含了PyTorch生态系统中常用的推理相关工具：

1. 核心框架：PyTorch 2.5.1 CPU版本，这是目前PyTorch的最新稳定版本之一
2. 配套工具：torchaudio 2.5.1和torchvision 0.20.1，为音频和视觉任务提供支持
3. 模型服务：包含torchserve 0.12.0和torch-model-archiver 0.12.0，方便模型部署和服务化
4. 数据处理：预装了NumPy 2.1.3、Pandas 2.2.3等数据处理库
5. 机器学习工具：包含scikit-learn 1.5.2和scipy 1.14.1等机器学习常用库

环境配置与优化

镜像中的软件包选择充分考虑了ARM64架构的特点和推理场景的需求：

1. 系统依赖：包含了必要的系统库如libgcc-11-dev和libstdc++6等，确保在ARM64架构上的稳定运行
2. 开发工具：预装了emacs等开发工具，方便用户直接在容器内进行开发调试
3. Python环境：使用较新的Python 3.11版本，并配置了setuptools 80.0.0等基础工具
4. AWS集成：预装了boto3 1.35.66和awscli 1.36.7等AWS SDK，方便与AWS服务集成

使用场景

这个镜像特别适合以下场景：

1. ARM服务器推理：在基于ARM架构的服务器上部署PyTorch推理服务
2. 边缘设备部署：适用于ARM架构的边缘计算设备，如某些IoT设备
3. 成本优化场景：在不需要GPU加速的推理任务中，使用CPU可以显著降低成本
4. 开发测试环境：为ARM平台的PyTorch应用提供一致的开发和测试环境

版本兼容性

该镜像提供了多个标签，支持不同级别的版本指定：

1. 精确版本标签：2.5.1-cpu-py311-ubuntu22.04-sagemaker
2. 主版本标签：2.5-cpu-py311
3. 带构建日期的详细标签：2.5.1-cpu-py311-ubuntu22.04-sagemaker-v1.20-2025-04-30-19-33-37

这种灵活的标签策略既满足了精确版本控制的需求，也提供了版本兼容性保证。

AWS Deep Learning Containers项目的这个新版本为ARM64架构上的PyTorch推理应用提供了开箱即用的解决方案，开发者可以专注于模型和业务逻辑，而不必花费大量时间在环境配置上。对于使用亚马逊云科技服务的用户来说，这进一步简化了深度学习模型的部署流程。