AKS中Ubuntu GPU节点池NVIDIA设备插件安装失败问题分析

问题背景

在Azure Kubernetes Service(AKS)环境中，当用户按照官方文档创建基于Ubuntu操作系统的GPU节点池时，可能会遇到NVIDIA设备插件无法正常工作的问题。具体表现为设备插件容器无法检测到GPU设备，执行nvidia-smi命令时返回"NVML: Unknown Error"错误。

问题现象

用户在Ubuntu系统的GPU节点上部署NVIDIA设备插件DaemonSet后，发现以下异常情况：

1. 设备插件容器启动后无法识别GPU设备
2. 在插件容器内手动执行nvidia-device-plugin命令时出现"NVML: Unknown Error"错误
3. 虽然节点资源中显示有nvidia.com/gpu资源，但实际无法被工作负载使用

根本原因分析

经过深入排查，发现该问题的根本原因在于containerd运行时配置。在GPU节点上，containerd需要特别配置才能正确识别和使用NVIDIA GPU设备。具体来说：

1. containerd默认配置不包含NVIDIA容器运行时
2. 节点重启后containerd配置会恢复默认状态
3. 当前AKS平台未自动为GPU节点配置containerd的NVIDIA运行时支持

临时解决方案

用户发现可以通过以下手动步骤临时解决问题：

1. 通过特权Pod访问节点
2. 执行命令配置containerd运行时：

   sudo nvidia-ctk runtime configure --runtime=containerd
   sudo systemctl restart containerd
   

3. 等待所有Pod重新启动后，NVIDIA设备插件即可正常识别GPU

但需要注意的是，这种手动配置方式存在明显局限性：

• 节点重启后配置会丢失
• 不适合生产环境自动化部署
• 需要特权访问节点，可能违反安全策略

长期解决方案建议

针对这一问题，建议AKS平台从以下方面进行改进：

1. 在GPU节点池创建时自动配置containerd的NVIDIA运行时支持
2. 提供节点池级别的容器运行时配置选项
3. 确保配置变更在节点重启后仍然保持

对于当前遇到此问题的用户，可以考虑以下替代方案：

1. 使用AzureLinux操作系统SKU，该镜像已针对GPU工作负载进行优化
2. 通过自定义节点镜像预先配置containerd
3. 使用Kubernetes DaemonSet自动执行必要的运行时配置

总结

AKS中Ubuntu GPU节点池的NVIDIA设备支持问题主要源于容器运行时配置缺失。虽然存在手动解决方案，但建议等待平台层面的官方修复或考虑使用已优化的操作系统镜像。对于生产环境，应优先选择经过验证的配置方案，避免依赖临时性修复措施。