MicroK8s中使用Rook-Ceph时CSI-RBD插件CrashLoopBackOff问题分析与解决

问题现象

在使用MicroK8s部署Rook-Ceph存储系统时，用户发现csi-rbdplugin组件持续处于CrashLoopBackOff状态，导致无法正常使用Ceph RBD提供的持久化存储功能。具体表现为：

• csi-rbdplugin Pod不断重启
• PVC可以创建但无法被Pod挂载
• 日志显示"driver name rook-ceph.rbd.csi.ceph.com not found in the list of registered CSI drivers"错误

根本原因分析

通过深入排查日志发现，问题的核心在于Linux内核模块加载失败。具体表现为：

1. rbd模块加载失败：CSI插件尝试加载Linux内核的rbd模块时出现"Exec format error"错误
2. nbd模块加载失败：在解决rbd问题后，又发现nbd模块同样无法加载

这些内核模块是Ceph RBD功能正常运行的基础依赖。当它们无法加载时，CSI插件无法完成初始化，导致整个RBD存储功能不可用。

解决方案

临时解决方法

可以通过以下命令手动加载所需内核模块：

sudo modprobe rbd
sudo modprobe nbd

这种方法可以立即解决问题，但模块加载不会在系统重启后保持。

永久解决方法

为了确保这些内核模块在系统启动时自动加载，需要将它们添加到系统配置中。推荐使用现代Linux系统的模块加载配置方式：

1. 为每个模块创建单独的配置文件：

echo rbd | sudo tee /etc/modules-load.d/rbd.conf
echo nbd | sudo tee /etc/modules-load.d/nbd.conf

2. 设置适当的文件权限：

sudo chmod 644 /etc/modules-load.d/rbd.conf
sudo chmod 644 /etc/modules-load.d/nbd.conf

注意：虽然某些情况下可能需要更宽松的权限（如777），但644通常是更安全的选择。如果遇到问题，可以适当调整权限。

技术背景

为什么需要这些内核模块

1. rbd模块：这是Ceph的RADOS块设备(RBD)驱动，负责在Linux内核层面实现Ceph块存储功能
2. nbd模块：网络块设备(Network Block Device)驱动，在某些配置下被Rook-Ceph用于块设备映射

模块加载失败的原因

在较新的Linux内核版本（如6.5+）中，这些模块可能不会默认加载。特别是在使用云镜像或某些最小化安装时，内核模块的自动加载机制可能没有正确配置。

验证解决效果

解决问题后，可以通过以下方式验证：

1. 检查CSI插件Pod状态：

kubectl get pods -n rook-ceph

应该看到csi-rbdplugin Pod处于Running状态

2. 测试PVC挂载： 创建一个测试Pod挂载之前无法使用的PVC，确认可以正常挂载和使用

3. 检查内核模块状态：

lsmod | grep -E 'rbd|nbd'

应该能看到这两个模块已加载

最佳实践建议

1. 生产环境准备：在部署MicroK8s+Rook-Ceph前，应预先检查并配置好所需内核模块
2. 内核版本兼容性：虽然较新内核通常支持这些模块，但建议测试特定内核版本与Ceph的兼容性
3. 自动化配置：在自动化部署流程中加入内核模块配置步骤，确保环境一致性
4. 监控设置：配置监控以检测内核模块加载状态，及时发现类似问题

总结

在MicroK8s中使用Rook-Ceph时遇到CSI-RBD插件无法正常工作的问题，通常与Linux内核模块配置有关。通过正确加载和配置rbd、nbd内核模块，可以解决这类问题。本文提供的解决方案不仅适用于当前问题场景，也为处理类似的内核模块依赖问题提供了参考思路。