NVIDIA k8s-device-plugin中MPS功能配置问题解析与解决方案

背景介绍

在Kubernetes集群中使用NVIDIA GPU资源时，NVIDIA k8s-device-plugin是一个关键组件，它负责将GPU资源暴露给Kubernetes调度器。其中，MPS(Multi-Process Service)功能允许在单个GPU上运行多个工作负载，提高GPU利用率。然而，在实际部署过程中，用户可能会遇到MPS功能无法正常启动的问题。

问题现象

在Ubuntu 20.04.6 LTS系统上，使用Containerd作为容器运行时和K3S Rancher作为Kubernetes发行版时，用户尝试通过GPU Operator v23.9.2部署k8s-device-plugin v0.15.0，并配置MPS功能时遇到了启动失败的问题。

具体表现为：

1. 设备插件日志显示"Failed to start plugin: error waiting for MPS daemon"
2. MPS控制守护进程缺失
3. 即使部署了MPS控制守护进程，也出现"strategy missing"的错误提示

根本原因分析

经过深入分析，发现问题的核心在于：

1. 组件依赖缺失：MPS功能需要两个关键组件协同工作 - 设备插件和MPS控制守护进程。仅部署设备插件而缺少MPS控制守护进程会导致功能无法启动。

2. 配置不一致：设备插件和MPS控制守护进程需要共享相同的配置策略，否则会出现策略缺失的错误。

3. 部署方式不当：直接修改GPU Operator生成的YAML文件来升级设备插件版本，可能导致组件间协调出现问题。

解决方案

1. 正确部署MPS控制守护进程

MPS控制守护进程需要以DaemonSet形式部署到集群中，确保每个节点都有对应的守护进程运行。守护进程需要具有特权模式访问权限，并正确挂载相关目录。

2. 统一配置策略

设备插件和MPS控制守护进程必须使用相同的ConfigMap配置。配置中需要明确定义MPS策略，包括GPU资源和副本数等参数。

3. 推荐部署方式

建议采用以下部署方案：

1. 使用Helm单独部署设备插件，而不是通过GPU Operator
2. 明确禁用GPU Operator中的设备插件功能
3. 通过Helm values文件统一配置MPS策略

示例部署命令：

helm upgrade -i nvdp nvdp/nvidia-device-plugin \
    --version=0.15.0 \
    --namespace nvidia-device-plugin \
    --create-namespace \
    --set gfd.enabled=true \
    --set config.default=nvidia-sharing \
    --set-file config.map.nvidia-sharing=config/nvidia/config/dp-mps-6.yaml

最佳实践建议

1. 版本兼容性：确保NVIDIA驱动版本(如550系列)与k8s-device-plugin版本(v0.15.0)兼容。

2. 节点标签：为支持MPS的节点添加正确标签(nvidia.com/mps.capable="true")。

3. 监控与日志：部署后检查MPS控制守护进程和设备插件的日志，确保无错误信息。

4. 资源规划：合理设置MPS副本数，避免过度分配GPU资源导致性能下降。

总结

在Kubernetes环境中配置NVIDIA GPU的MPS功能需要全面考虑组件部署、配置一致性和版本兼容性等因素。通过采用模块化部署方式，明确区分GPU Operator和设备插件的职责，并确保配置的统一性，可以有效解决MPS功能启动失败的问题。对于生产环境，建议在部署前充分测试不同工作负载在MPS模式下的性能表现，以确定最优的资源配置方案。