NVIDIA GPU Operator在AKS节点上的驱动安装问题解析

问题背景

在使用Azure Kubernetes Service(AKS)部署NVIDIA GPU Operator时，当节点池配置了"deallocate"缩容模式后，经过约10次节点重启循环后，GPU驱动将无法正常安装。这一现象在Ubuntu 22.04.4 LTS系统、5.15.0-1064-azure内核版本环境下尤为明显。

问题现象

当问题发生时，NVIDIA驱动守护进程Pod会输出以下关键错误信息：

ERROR: modpost: GPL-incompatible module nvidia.ko uses GPL-only symbol 'rcu_read_unlock_strict'
make[2]: *** [scripts/Makefile.modpost:133: /usr/src/nvidia-535.54.03/kernel/Module.symvers] Error 1

这表明驱动模块与内核存在许可证兼容性问题，导致编译失败。

根本原因分析

1. 内核符号兼容性问题：新版本Linux内核中的rcu_read_unlock_strict符号被标记为GPL-only，而NVIDIA驱动模块是专有许可证，导致编译时出现许可证冲突。

2. deallocate模式影响：AKS的deallocate缩容模式会保留节点磁盘并在下次扩容时重用，这种模式下系统环境可能积累了一些状态问题，经过多次重启后问题显现。

3. 驱动版本限制：较旧版本的NVIDIA驱动(如535.54.03)尚未适配新内核的GPL符号限制。

解决方案

1. 升级驱动版本：将NVIDIA GPU Operator配置中的驱动版本升级至535.183.08或更高版本。这些新版驱动已经解决了GPL符号兼容性问题。

2. 配置示例：

driver:
  enabled: true
  version: "535.183.08"

3. 替代方案：如果因特殊原因不能升级驱动版本，可以考虑：
   • 不使用deallocate缩容模式
   • 降级内核版本至与驱动兼容的版本
   • 使用更早版本的Ubuntu系统

技术细节

此问题本质上是内核模块许可证兼容性问题。Linux内核从某个版本开始加强了对GPL符号的保护，要求使用这些符号的模块必须也是GPL许可证。NVIDIA作为专有驱动，在较新版本中通过技术手段规避了这一问题。

最佳实践建议

1. 定期更新GPU Operator和驱动版本，保持与最新内核的兼容性
2. 在生产环境部署前，充分测试节点重启场景
3. 监控驱动安装状态，设置适当的告警机制
4. 考虑使用节点自动修复功能，当驱动安装失败时自动替换节点

通过以上措施，可以确保AKS集群中的GPU节点在各种运维操作后仍能保持正常工作状态。