AWS Deep Learning Containers发布PyTorch ARM64 CPU推理镜像v1.18

AWS Deep Learning Containers（DLC）是亚马逊云科技提供的一套预构建的深度学习容器镜像，这些镜像经过优化，包含了流行的深度学习框架及其依赖项，能够帮助开发者快速在AWS平台上部署深度学习应用。近日，该项目发布了针对ARM64架构的PyTorch CPU推理镜像新版本。

镜像技术细节

本次发布的镜像版本为v1.18，基于PyTorch 2.5.1框架构建，支持Python 3.11环境，运行在Ubuntu 22.04操作系统上。特别值得注意的是，这是专为ARM64架构设计的CPU推理镜像，适用于亚马逊EC2上的Graviton处理器实例。

镜像中预装了PyTorch生态系统的关键组件：

• 核心框架：PyTorch 2.5.1（CPU版本）
• 配套工具：TorchServe 0.12.0模型服务框架和Torch Model Archiver模型打包工具
• 数据处理库：NumPy 2.1.3、Pandas 2.2.3等
• 计算机视觉支持：OpenCV 4.10.0.84和TorchVision 0.20.1
• 机器学习工具：scikit-learn 1.5.2和SciPy 1.14.1

环境配置特点

该镜像在系统层面进行了精心配置，包含了必要的编译器工具链（如libgcc-11-dev和libstdc++-11-dev）以及开发者工具（如Emacs编辑器）。Python环境方面，除了核心的PyTorch框架外，还预装了常用的数据处理和机器学习库，确保开发者可以开箱即用。

适用场景

这个ARM64架构的PyTorch CPU推理镜像特别适合以下场景：

1. 在基于AWS Graviton处理器的实例上运行PyTorch推理工作负载
2. 需要轻量级、高性价比的模型部署环境
3. 对x86架构没有硬性要求的推理应用
4. 希望利用ARM架构能效优势的长期运行服务

技术优势

相比通用镜像，这个专为ARM64优化的PyTorch镜像具有以下优势：

• 针对Graviton处理器进行了性能优化
• 经过AWS严格测试和验证的稳定版本组合
• 预配置的环境减少了用户的部署复杂度
• 包含完整的模型服务工具链（TorchServe等）

对于希望在ARM架构上部署PyTorch模型的开发者来说，这个预构建的DLC镜像提供了即用型解决方案，可以显著降低环境配置的复杂度和时间成本。