Terraform-HCloud-Kube-Hetzner项目ARM64节点创建问题分析与解决方案

问题背景

在使用Terraform-HCloud-Kube-Hetzner项目创建Kubernetes集群时，用户报告了一个关于ARM64架构节点的问题。当尝试创建包含3个控制节点和3个工作节点的集群时，Terraform进程会在创建hcloud_server资源时挂起，无法通过SSH连接到这些节点。相比之下，x86架构的节点则能够正常创建和运行。

问题现象

具体表现为：

1. Terraform apply命令在执行到"hcloud_server.server: Still creating"步骤时停滞不前
2. 无法通过SSH手动连接到ARM64架构的节点
3. 降级到2.14.6版本的terraform-hcloud-kube-hetzner模块无法解决问题
4. 减少节点数量或缩小节点规格同样无效

根本原因分析

经过社区调查，发现这个问题与K3s的稳定通道(channel)服务器有关。在问题发生的时间窗口内，K3s的稳定通道错误地指向了beta版本(v1.30.7-k3s1)而非真正的稳定版本(v1.30.6-k3s1)。当K3s的system-upgrade-controller运行时，它会尝试执行版本降级，而Kubernetes本身不支持控制平面组件的降级操作。

解决方案

临时解决方案

对于已经受影响的集群，可以采取以下步骤修复：

1. 编辑system-upgrade-controller的升级计划：

kubectl -n system-upgrade edit plan k3s-server

将spec.version字段修改为当前实际运行的版本(如v1.30.7-k3s1)

2. 对agent节点执行相同操作：

kubectl -n system-upgrade edit plan k3s-agent

3. 解除节点的调度限制：

kubectl uncordon <节点名称>

4. 如有必要，清理升级相关的Job和Pod：

kubectl -n system-upgrade delete jobs --all
kubectl -n system-upgrade delete pods --all

根本解决方案

1. 重建操作系统快照(与问题#1481相同)
2. 确保K3s通道服务器已恢复正常
3. 使用最新版本的terraform-hcloud-kube-hetzner模块重新部署

预防措施

为避免类似问题再次发生，建议：

1. 在部署前检查K3s通道服务器的状态
2. 考虑指定具体的K3s版本而非使用通道
3. 监控K3s项目的官方公告，了解已知问题

技术要点

1. Kubernetes不支持控制平面组件的降级操作，这是设计上的限制
2. system-upgrade-controller会拒绝执行降级操作，导致节点被标记为不可调度
3. ARM64和x86架构在此问题上的表现差异可能与镜像构建和分发的时间差有关

总结

这个问题展示了基础设施即代码(IaC)环境中版本管理和依赖关系的重要性。通过理解K3s升级机制和Kubernetes的版本管理策略，我们能够有效地诊断和解决这类问题。对于生产环境，建议实施更严格的版本控制策略，避免依赖自动通道更新，特别是在关键基础设施组件上。