ROCm项目中/dev/kfd设备权限问题的分析与解决方案

问题背景

在AMD ROCm异构计算平台的使用过程中，部分用户在运行rocminfo工具时遇到了一个典型的权限问题。具体表现为系统提示"Unable to open /dev/kfd read-write: Invalid argument"错误，导致后续基于ROCm的应用如PyTorch等无法正常识别和使用GPU加速功能。

问题现象分析

当用户在Ubuntu 22.04系统环境中执行rocminfo命令时，系统会输出以下错误信息：

ROCk module version 6.7.0 is loaded
Unable to open /dev/kfd read-write: Invalid argument
root is member of nogroup group

通过进一步检查可以发现：

1. 虽然用户已加入video、render等必要用户组
2. /dev/kfd设备文件的所有权归属于nogroup组
3. 即使用户是root身份，仍然无法正常访问该设备

根本原因

这个问题主要源于系统对/dev/kfd设备文件的权限配置不当。在Linux系统中，/dev/kfd是AMD GPU内核模式驱动程序(KFD)提供的设备接口，负责处理GPU计算任务。当该设备的权限设置不正确时，即使具有root权限的用户也可能无法正常访问。

解决方案

方法一：修改udev规则（推荐）

最规范的解决方法是创建或修改udev规则，确保设备文件在系统启动时自动获得正确的权限：

1. 创建或编辑udev规则文件：

echo -e 'KERNEL=="kfd", MODE="0666"\nSUBSYSTEM=="drm", KERNEL=="renderD*", MODE="0666"' | sudo tee /etc/udev/rules.d/70-amdgpu.rules > /dev/null

2. 重新加载udev规则并触发设备更新：

sudo udevadm control --reload-rules && sudo udevadm trigger

这种方法可以永久解决问题，系统重启后依然有效。

方法二：直接修改设备权限

对于临时解决方案，可以直接修改/dev/kfd的权限：

sudo chmod 666 /dev/kfd

但需要注意的是，这种方法在系统重启后需要重新执行。

Docker环境下的特殊处理

在Docker容器中使用ROCm时，需要特别注意：

1. 启动容器时必须正确映射设备文件：

docker run -it --device=/dev/kfd --device=/dev/dri --group-add video <Image Name>

2. 如果容器内仍然存在问题，需要在容器内部也应用上述权限修改方案

问题验证

解决问题后，可以通过以下命令验证ROCm是否正常工作：

rocminfo
rocm-smi --showallinfo

正常输出应显示GPU设备信息和详细参数，而不再出现权限错误提示。

总结

ROCm平台中/dev/kfd设备的权限问题是一个常见但容易解决的问题。通过正确配置udev规则或调整设备权限，可以确保GPU计算功能正常可用。特别是在容器化环境中，需要同时考虑主机和容器内的权限设置。对于系统管理员而言，采用udev规则是最为规范和持久的解决方案。