Harvester集群升级过程中节点卡在"Images preloaded"状态的分析与解决

问题现象

在Harvester集群从1.4.0版本升级到1.4.1版本的过程中，部分用户遇到了最后一个节点长时间停留在"Images preloaded"状态，无法自动进入"pre-drain"阶段的问题。具体表现为：

1. 升级过程中，其他节点已完成升级，但最后一个节点(通常是etcd节点)停滞不前
2. RKE2版本已更新，但节点升级流程未继续执行
3. 通过检查发现，Rancher系统未自动为节点添加必要的pre-drain注解

问题分析

经过深入分析，这个问题主要与Rancher系统的节点升级流程有关。在正常的Harvester集群升级过程中，Rancher应该自动为每个节点添加特定的注解来触发不同的升级阶段。但在某些情况下，特别是当节点曾经经历过异常升级或重新加入集群时，这个自动注解机制可能会失效。

关键问题点在于：

1. Rancher系统等待kube-scheduler探针就绪，但未能正确触发
2. 节点机器计划(secret)中缺少必要的pre-drain和post-drain注解
3. 集群状态显示正在等待etcd节点应用升级计划

解决方案

对于遇到此问题的用户，可以按照以下步骤手动解决：

1. 首先检查节点的机器计划secret中的注解状态：

kubectl get secret -n fleet-local custom-49f4fb071c8e-machine-plan -o yaml

2. 手动添加pre-drain注解：

kubectl annotate secret -n fleet-local custom-49f4fb071c8e-machine-plan \
rke.cattle.io/pre-drain='{"deleteEmptyDirData":true,"disableEviction":false,"enabled":true,"force":true,"gracePeriod":0,"ignoreDaemonSets":true,"ignoreErrors":false,"postDrainHooks":[{"annotation":"harvesterhci.io/post-hook"}],"preDrainHooks":[{"annotation":"harvesterhci.io/pre-hook"}],"skipWaitForDeleteTimeoutSeconds":0,"timeout":0}'

3. 随后依次添加pre-hook和post-drain注解：

kubectl annotate secret -n fleet-local custom-49f4fb071c8e-machine-plan harvesterhci.io/pre-hook='{}'
kubectl annotate secret -n fleet-local custom-49f4fb071c8e-machine-plan rke.cattle.io/post-drain='{}'

4. 观察节点状态，应该会开始继续升级流程

预防措施

为了避免在未来的升级中再次遇到类似问题，建议：

1. 在升级前检查所有节点的机器计划secret，确保没有残留的post-hook或post-drain注解
2. 定期轮换kube-controller-manager和kube-scheduler的证书
3. 确保集群中所有组件(特别是Rancher相关组件)的健康状态
4. 在升级前创建完整的集群备份

技术背景

Harvester的升级过程依赖于Rancher的节点管理机制。在正常情况下，Rancher会自动为每个节点添加一系列注解来控制升级流程：

1. pre-drain: 准备排空节点前的操作
2. pre-hook: 执行排空前的自定义钩子
3. post-drain: 节点排空后的操作
4. post-hook: 执行排空后的自定义钩子

当这些注解未能正确添加时，升级流程就会停滞。这种情况通常发生在节点曾经经历过异常升级或重新加入集群的情况下。

总结

Harvester集群升级过程中的"Images preloaded"停滞问题通常是由于Rancher的自动注解机制失效导致的。通过手动添加必要的pre-drain和pre-hook注解，可以解决这个问题并继续升级流程。对于生产环境，建议在升级前做好充分准备和检查，以减少此类问题的发生概率。