AWS Deep Learning Containers发布TensorFlow Graviton推理容器v1.28版本

AWS Deep Learning Containers（DLC）是亚马逊云科技提供的一套深度学习容器镜像服务，它预装了主流的深度学习框架、依赖库和工具，帮助开发者快速部署机器学习工作负载。这些容器经过AWS专门优化，能够充分利用AWS基础设施的性能优势。

本次发布的v1.28版本主要针对基于Graviton处理器的TensorFlow推理场景进行了更新。Graviton是AWS自主研发的基于ARM架构的处理器，相比传统x86架构，在性价比方面具有明显优势。

核心镜像更新

本次发布的核心镜像是tensorflow-inference-graviton:2.16.1-cpu-py310-ubuntu20.04-sagemaker，基于以下技术栈构建：

• TensorFlow Serving API 2.16.1版本
• Python 3.10环境
• Ubuntu 20.04操作系统
• 针对CPU推理场景优化

该镜像特别针对Amazon SageMaker服务进行了适配，可以直接在SageMaker环境中部署使用。

关键技术组件

镜像中包含了机器学习推理所需的关键组件：

1. Python环境：

   • 预装了PyYAML 6.0.2用于配置管理
   • 包含Cython 0.29.37用于性能优化
   • 使用protobuf 4.25.5进行高效序列化

2. AWS工具链：

   • 集成了AWS CLI 1.35.8
   • 包含boto3 1.35.42和botocore 1.35.42 SDK
   • 提供s3transfer 0.10.3用于高效数据传输

3. 系统依赖：

   • 包含了必要的GCC工具链（libgcc-9-dev）
   • 标准C++库（libstdc++6）
   • 开发工具如Emacs（可选）

版本兼容性

该镜像提供了多个标签以满足不同场景的需求：

• 精确版本标签：2.16.1-cpu-py310-ubuntu20.04-sagemaker-v1.28
• 主版本标签：2.16-cpu-py310
• 通用标签：2.16-cpu

这种灵活的标签策略允许用户根据需求选择特定版本或主版本，便于版本管理和回滚。

使用场景

这个Graviton优化的TensorFlow推理容器特别适合以下场景：

1. 成本敏感型推理服务：Graviton处理器相比传统x86实例可显著降低成本
2. 批量推理任务：针对CPU优化的TensorFlow Serving能够高效处理批量请求
3. SageMaker集成：预装AWS工具链，与SageMaker服务无缝集成
4. ARM生态迁移：为希望迁移到ARM架构的用户提供平滑过渡方案

技术优势

相比通用容器，这个专门优化的版本具有以下优势：

1. 性能优化：针对Graviton处理器指令集进行了专门优化
2. 轻量级：仅包含推理必需组件，减少容器体积
3. 安全性：基于Ubuntu 20.04 LTS，获得长期安全更新支持
4. 稳定性：所有组件版本经过AWS严格测试和验证

对于希望在AWS Graviton实例上部署TensorFlow推理服务的用户，这个预构建的容器镜像提供了开箱即用的解决方案，可以显著减少环境配置时间，提高部署效率。