解决k3s-ansible在NFS启动的Raspberry Pi集群中安装失败问题

问题背景

在使用k3s-ansible项目部署基于Raspberry Pi的Kubernetes集群时，用户遇到了安装过程中断的问题。集群采用PXE/NFS启动方式，运行Raspbian Bookworm系统，但在安装过程中会卡在验证节点加入的步骤。

错误现象

安装过程中出现的主要错误信息表明k3s无法连接到API服务器：

E0313 09:04:56.220830 3672 memcache.go:265] couldn't get current server API group list: Get "http://localhost:8080/api?timeout=32s": dial tcp [::1]:8080: connect: connection refused

手动检查节点状态时，kubectl get nodes命令返回"未找到资源"，表明集群未能正确初始化。

根本原因分析

通过深入检查k3s-init服务的日志，发现了关键错误信息：

Failed to record snapshots for cluster: nodes "valhalla1" not found

进一步调查发现，这与NFS文件系统和containerd存储驱动之间的兼容性问题有关。在NFS挂载的根文件系统上，默认的overlay存储驱动无法正常工作，导致容器运行时无法正确启动，进而影响了整个Kubernetes集群的初始化过程。

解决方案

解决此问题需要两个步骤：

1. 安装fuse-overlayfs：在每台Raspberry Pi节点上执行以下命令安装必要的软件包：

   sudo apt-get install fuse-overlayfs
   

2. 修改k3s配置：在k3s-ansible的配置文件中，向extra_server_args添加以下参数：

   --snapshotter=fuse-overlayfs
   

这个解决方案通过使用fuse-overlayfs作为容器存储驱动，绕过了NFS环境下overlayfs的限制，使containerd能够在NFS挂载的文件系统上正常工作。

技术细节

fuse-overlayfs简介

fuse-overlayfs是一个用户空间文件系统，它提供了与overlayfs类似的功能，但通过FUSE实现。相比内核空间的overlayfs，它有以下优势：

1. 不需要特定的内核支持
2. 对底层文件系统类型限制较少
3. 在NFS等特殊文件系统上表现更好

为什么NFS需要特殊处理

在NFS挂载的文件系统上直接使用overlayfs会遇到以下问题：

1. NFS的某些特性与overlayfs不兼容
2. 权限和用户命名空间处理方式不同
3. 文件锁机制可能存在冲突

fuse-overlayfs通过用户空间实现解决了这些问题，为容器提供了稳定的存储后端。

最佳实践建议

对于类似环境的部署，建议：

1. 在NFS启动的系统上总是考虑使用fuse-overlayfs
2. 在集群部署前预先安装必要的软件包
3. 监控容器运行时的日志以确保存储驱动正常工作
4. 考虑在Ansible playbook中添加对NFS环境的自动检测和配置

总结

通过使用fuse-overlayfs作为容器存储驱动，成功解决了k3s-ansible在NFS启动的Raspberry Pi集群上的安装问题。这个案例展示了在特殊环境下部署Kubernetes时，理解底层存储技术的重要性，以及如何通过适当的配置调整来解决兼容性问题。