Harvester集群升级过程中节点卡在pre-drained状态问题分析

问题现象

在将Harvester集群从v1.4.0版本升级到v1.4.1版本的过程中，发现第一个节点在升级流程中停滞在pre-drained状态。该节点虽然已经显示升级到了v1.30.7+rke2r1版本，但状态却一直保持为Cordoned，导致整个升级流程无法继续。

问题排查

通过分析集群状态，发现该问题与Longhorn存储系统的实例管理器(instance-manager)有关。具体表现为：

1. 节点被自动设置为Cordoned状态后，部分Longhorn卷变为不健康状态
2. 尝试手动删除Longhorn实例管理器的Pod Disruption Budget(PDB)未能解决问题
3. 手动解除节点封锁(uncordon)后，Longhorn卷能够重建并恢复健康状态，但升级流程仍然无法继续

根本原因

深入分析后发现，集群实际上是在等待某些探针(probes)完成检测，特别是kube-controller-manager和kube-scheduler这两个关键组件的探针。这种等待状态导致了升级流程的停滞。

解决方案

针对这一问题，可以采取以下解决步骤：

1. 检查kube-controller-manager和kube-scheduler组件的运行状态
2. 确保这些关键系统组件已经正确启动并运行正常
3. 如果确认组件状态正常但仍卡住，可以尝试重启相关组件
4. 监控集群日志，查看是否有相关错误信息

问题验证

在实际操作中，按照上述方法成功解决了节点卡在pre-drained状态的问题，使得第一个节点顺利完成升级，后续节点也能够继续升级流程。

经验总结

在Harvester集群升级过程中，特别是涉及存储系统的升级时，需要注意以下几点：

1. 升级前确保所有Longhorn卷处于健康状态
2. 监控关键系统组件的运行状态
3. 准备好应对可能出现的组件探针检测超时情况
4. 升级过程中保持对集群状态的密切观察

这种问题的出现提醒我们，在升级生产环境集群时，应该充分测试升级流程，并准备好回滚方案，以确保业务连续性。