Harvester升级过程中Longhorn卷迁移卡顿问题深度解析

问题现象

在Harvester从v1.4.1升级到v1.4.2-rc1版本的过程中，部分用户遇到了系统在"Pre-drained"状态停滞的问题。这一问题主要与Longhorn存储系统的卷迁移机制有关，表现为升级流程无法正常完成，需要人工干预才能继续。

问题根源分析

经过深入的技术分析，我们发现该问题主要由以下几个技术因素共同导致：

1. 卷迁移过程中的I/O错误：当Longhorn尝试迁移卷时，系统会创建新的快照文件并替换旧文件。但在某些情况下，引擎进程仍会尝试访问已被替换的旧快照文件，导致I/O错误。

2. 虚拟机状态异常：受影响的虚拟机由于底层存储问题进入暂停状态，但Kubernetes调度器仍认为它们处于运行状态，这阻碍了正常的节点排空(drain)操作。

3. 多引擎实例冲突：在迁移过程中，系统会短暂存在两个引擎实例(新旧节点各一个)。当迁移因I/O错误中断时，这种临时状态可能变为持久状态，进一步阻碍系统恢复。

技术细节解析

存储层异常表现

在故障节点的日志中，我们可以观察到以下关键错误信息：

kernel: sd 2:0:0:1: [sdc] tag#48 FAILED Result: hostbyte=DID_OK driverbyte=DRIVER_OK cmd_age=0s
kernel: critical medium error, dev sdc, sector 3414016 op 0x1:(WRITE) flags 0x8800 phys_seg 1 prio class 0

同时，Longhorn引擎日志显示：

Failed to get file /host/var/lib/harvester/defaultdisk/replicas/pvc-xxx/volume-snap-xxx.img size
Backend tcp://10.52.2.150:10060 monitoring failed, mark as ERR

这些日志表明存储子系统遇到了不可恢复的读写错误，导致副本状态被标记为错误(ERR)。

虚拟机管理异常

当存储层出现问题时，KubeVirt组件会检测到I/O错误并暂停虚拟机：

Events:
  Type     Reason   Age                    From          Message
  ----     ------   ----                   ----          -------
  Warning  IOerror  2m39s (x657 over 16h)  virt-handler  VM Paused due to IO error at the volume: disk-0

这种暂停状态虽然保护了虚拟机数据，但也阻碍了正常的卷迁移流程。

解决方案与优化

Harvester开发团队针对此问题实施了以下改进措施：

1. 快照管理优化：改进了快照替换机制，确保在文件替换过程中引擎能够正确处理新旧快照文件的过渡。

2. 迁移流程增强：加强了卷迁移过程中的错误处理和恢复机制，减少因临时错误导致整个流程卡死的可能性。

3. 资源清理改进：优化了在多引擎实例情况下的资源清理逻辑，确保异常情况下系统能够自动恢复。

用户应对建议

对于遇到类似问题的用户，可以采取以下步骤进行诊断和恢复：

1. 检查虚拟机状态，确认是否有虚拟机因I/O错误被暂停
2. 检查Longhorn卷状态，确认是否有卷处于异常迁移状态
3. 必要时手动停止受影响的虚拟机以解除资源锁定
4. 检查节点存储健康状况，排除底层存储问题

版本修复情况

该问题已在Harvester后续版本中得到修复。用户在升级到v1.4.2或更高版本时，将不再遇到此类升级卡顿问题。团队也针对相关存储子系统进行了稳定性增强，减少了类似I/O错误的发生概率。

对于生产环境用户，建议在升级前确保：

• 所有虚拟机处于健康状态
• 存储系统有足够的可用空间
• 按照官方文档执行预升级检查