首页
/ AWS Deep Learning Containers发布PyTorch Graviton推理容器v1.34版本

AWS Deep Learning Containers发布PyTorch Graviton推理容器v1.34版本

2025-07-07 11:22:33作者:戚魁泉Nursing

AWS Deep Learning Containers(DLC)项目是亚马逊云科技提供的一组预构建的Docker镜像,这些镜像包含了主流深度学习框架的优化版本,以及必要的依赖库和工具。这些容器镜像经过AWS专门优化,可以充分利用AWS基础设施的性能优势,帮助开发者快速部署深度学习应用,而无需花费时间配置复杂的环境。

近日,AWS Deep Learning Containers项目发布了PyTorch Graviton推理容器的新版本v1.34。这个版本基于PyTorch 2.3.0框架,专门为AWS Graviton处理器优化,支持Python 3.11环境,适用于Ubuntu 20.04操作系统,并针对SageMaker服务进行了适配。

核心特性与技术细节

这个版本的容器镜像包含了PyTorch 2.3.0框架的CPU版本,以及相关的工具链和依赖库。值得注意的是,它针对AWS Graviton处理器进行了专门优化,Graviton是AWS基于ARM架构自主研发的处理器系列,相比传统x86架构处理器,在某些工作负载下能提供更好的性价比。

容器内预装了完整的PyTorch生态系统,包括:

  • 核心框架torch 2.3.0+cpu
  • 计算机视觉库torchvision 0.18.0+cpu
  • 音频处理库torchaudio 2.3.0+cpu
  • 模型服务工具torchserve 0.11.0
  • 模型归档工具torch-model-archiver 0.11.0

除了PyTorch核心组件外,容器还包含了数据科学和机器学习常用的Python库,如NumPy 1.26.4、Pandas 2.2.2、scikit-learn 1.5.0、SciPy 1.14.0等,以及OpenCV 4.10.0.84计算机视觉库。这些库都经过测试和优化,确保在Graviton处理器上能够稳定高效地运行。

开发与部署支持

这个容器镜像特别适合在AWS SageMaker服务中使用,预装了sagemaker-pytorch-inference 2.0.24库,简化了模型部署流程。开发者可以基于这个镜像快速构建和部署PyTorch模型推理服务,而无需关心底层环境配置。

容器中还包含了AWS CLI工具(awscli 1.33.19)和Python SDK(boto3 1.34.137),方便与AWS其他服务进行交互。此外,还预装了常用的开发工具如emacs,虽然在实际生产环境中可能不会使用,但在开发和调试阶段会很有帮助。

版本管理与兼容性

这个版本提供了多个标签别名,方便用户根据不同的需求选择:

  • 主版本标签:2.3-cpu-py311
  • 精确版本标签:2.3.0-cpu-py311
  • SageMaker专用标签:2.3.0-cpu-py311-ubuntu20.04-sagemaker
  • 带构建日期的详细标签:2.3.0-cpu-py311-ubuntu20.04-sagemaker-v1.34-2025-02-24-17-23-13

这种灵活的标签策略既保证了稳定性,又方便追踪具体版本。用户可以根据自己的需求选择最合适的标签,例如在生产环境中建议使用精确版本标签,而在开发环境中可以使用主版本标签获取自动更新。

总结

AWS Deep Learning Containers的这个新版本为使用PyTorch框架在AWS Graviton处理器上部署推理服务的用户提供了开箱即用的解决方案。通过预构建和优化,大大减少了环境配置的时间和工作量,让开发者可以更专注于模型本身和业务逻辑。特别是与SageMaker服务的深度集成,使得模型部署和管理变得更加简单高效。

对于已经在使用AWS Graviton处理器的用户,或者考虑从x86架构迁移到ARM架构以优化成本效益的用户,这个容器镜像提供了一个理想的起点。它不仅包含了最新的PyTorch框架和常用库,还经过了AWS的专业优化,能够充分发挥Graviton处理器的性能潜力。

登录后查看全文
热门项目推荐

热门内容推荐

项目优选

收起
ohos_react_nativeohos_react_native
React Native鸿蒙化仓库
C++
178
262
RuoYi-Vue3RuoYi-Vue3
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
867
513
openGauss-serveropenGauss-server
openGauss kernel ~ openGauss is an open source relational database management system
C++
129
183
openHiTLSopenHiTLS
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
265
305
HarmonyOS-ExamplesHarmonyOS-Examples
本仓将收集和展示仓颉鸿蒙应用示例代码,欢迎大家投稿,在仓颉鸿蒙社区展现你的妙趣设计!
Cangjie
398
371
CangjieCommunityCangjieCommunity
为仓颉编程语言开发者打造活跃、开放、高质量的社区环境
Markdown
1.07 K
0
ShopXO开源商城ShopXO开源商城
🔥🔥🔥ShopXO企业级免费开源商城系统,可视化DIY拖拽装修、包含PC、H5、多端小程序(微信+支付宝+百度+头条&抖音+QQ+快手)、APP、多仓库、多商户、多门店、IM客服、进销存,遵循MIT开源协议发布、基于ThinkPHP8框架研发
JavaScript
93
15
note-gennote-gen
一款跨平台的 Markdown AI 笔记软件,致力于使用 AI 建立记录和写作的桥梁。
TSX
83
4
cherry-studiocherry-studio
🍒 Cherry Studio 是一款支持多个 LLM 提供商的桌面客户端
TypeScript
598
57
GitNextGitNext
基于可以运行在OpenHarmony的git,提供git客户端操作能力
ArkTS
10
3