首页
/ AWS Deep Learning Containers发布PyTorch ARM64推理镜像v1.20版本

AWS Deep Learning Containers发布PyTorch ARM64推理镜像v1.20版本

2025-07-06 08:25:41作者:胡易黎Nicole

AWS Deep Learning Containers(DLC)项目是亚马逊云科技提供的深度学习容器镜像服务,它预装了主流深度学习框架和依赖库,帮助开发者快速部署AI应用。该项目提供了针对不同硬件架构(如x86、ARM等)和不同使用场景(训练、推理等)优化的容器镜像。

近日,AWS DLC项目发布了PyTorch ARM64架构的推理专用容器镜像v1.20版本,主要面向基于ARM64架构的EC2实例。这一版本包含了PyTorch 2.5.1框架,支持Python 3.11环境,并提供了CPU和GPU两种计算模式的选择。

镜像版本特性

本次发布的镜像分为两个主要变体:

  1. CPU版本:基于Ubuntu 22.04系统,预装了PyTorch 2.5.1的CPU版本,适用于不需要GPU加速的推理场景。该镜像包含了torchvision 0.20.1和torchaudio 2.5.1等配套库,以及NumPy、SciPy等科学计算基础库。

  2. GPU版本:同样基于Ubuntu 22.04系统,但针对CUDA 12.4进行了优化,预装了PyTorch 2.5.1的GPU版本。除了CPU版本包含的库外,还额外集成了cuDNN等GPU加速库,可充分发挥ARM64架构下GPU的计算能力。

关键技术组件

两个版本都包含了以下重要技术组件:

  • PyTorch生态系统:完整集成了PyTorch主框架、TorchVision计算机视觉库和TorchAudio音频处理库,版本严格匹配确保兼容性。
  • 模型服务工具:预装了TorchServe 0.12.0和Torch Model Archiver,方便用户直接部署和管理PyTorch模型。
  • 数据处理库:包含NumPy 2.1.3、Pandas 2.2.3(仅GPU版本)、OpenCV 4.10.0等数据处理和计算机视觉库。
  • 开发工具:集成了Cython 3.0.11、Ninja 1.11.1等编译工具,以及AWS CLI等云服务工具。

系统级优化

从发布的软件包清单可以看出,AWS对这些镜像进行了系统级的优化:

  1. 编译器支持:包含了GCC 11和libstdc++6等基础编译工具链,支持用户进行自定义扩展的编译。
  2. CUDA生态:GPU版本完整集成了CUDA 12.4工具链和cuBLAS、cuDNN等加速库,确保GPU计算性能。
  3. 开发环境:预装了Emacs等开发工具,方便用户直接在容器内进行开发和调试。

适用场景

这些ARM64架构的PyTorch推理镜像特别适用于:

  1. 在基于ARM架构的EC2实例(如Graviton系列)上部署PyTorch模型推理服务。
  2. 需要平衡性能和成本的AI推理场景,ARM架构通常能提供更好的能效比。
  3. 边缘计算场景,ARM架构的广泛支持使其成为边缘设备的理想选择。

版本兼容性

用户可以根据自己的需求选择不同的标签来拉取镜像。AWS提供了多种标签别名,既包含精确版本号(如2.5.1)也包含主版本号(如2.5),方便不同严谨程度的版本控制需求。

对于生产环境,建议使用包含完整版本号的标签以确保稳定性;对于开发和测试环境,可以使用主版本号标签以自动获取小版本更新。

总结

AWS Deep Learning Containers项目的这次更新,为ARM64架构下的PyTorch推理工作负载提供了官方支持的优化镜像。通过预集成和验证各种深度学习组件,大大简化了AI应用在ARM平台上的部署流程。用户可以直接使用这些镜像,无需花费时间在环境配置和依赖解决上,专注于模型推理本身的开发和优化。

登录后查看全文
热门项目推荐

热门内容推荐

项目优选

收起