Harvester集群升级1.4.2至1.5.0版本实践经验分享

升级背景与整体情况

在将Harvester集群从1.4.2版本升级至1.5.0版本的过程中，虽然整体升级流程相比之前版本有了显著改善，但仍遇到了一些值得注意的技术问题。本次升级涉及约60个虚拟机，整个升级过程耗时约4小时，相比以往24小时以上的升级时间有了大幅缩短。

主要技术问题与解决方案

PCI直通设备的虚拟机处理问题

在升级过程中，所有配置了PCI直通或特定节点调度的虚拟机都需要手动关闭。虽然理解这些虚拟机在节点处理时需要关闭，但从技术实现角度看，如果采用逐个节点升级的方式，这些虚拟机完全可以在节点处理完成后自动重启。

技术建议：升级控制器应该能够识别这类特殊配置的虚拟机，在节点升级完成后自动恢复其运行状态，而不是要求管理员预先关闭所有相关虚拟机。

虚拟机异常断电问题

升级过程中出现了约三分之二的虚拟机被异常强制断电的情况，而非正常关机。通过日志分析发现，这一问题可能与节点升级时kubelet重启有关。特别值得注意的是，某些节点由于之前进入过维护模式，可能导致升级流程判断异常，跳过了预排空(pre-drain)步骤。

技术建议：

1. 升级前应确保所有节点都处于正常状态
2. 加强对维护模式节点的状态检查
3. 实现更可靠的预排空流程保证

Prometheus资源不足问题

升级期间Prometheus Pod频繁因OOM(内存不足)被终止。这是由于升级过程中系统活动激增，导致监控数据量大幅增加，超出了默认资源配置。

解决方案：临时调整Prometheus的内存预留配置可以缓解此问题。建议在升级前预先调整监控组件的资源配额。

Longhorn实例管理器阻塞问题

在升级第二和第三个节点时，遇到了Longhorn实例管理器阻塞升级流程的情况。这与已知的实例管理器锁定问题类似，需要手动终止特定的实例管理器进程才能继续升级。

技术建议：升级流程应该包含自动检测和处理这类阻塞情况的机制，或者实现实例管理器的自动恢复功能。

升级优化建议

1. 虚拟机迁移策略优化：对于特殊配置的虚拟机，应该实现更智能的迁移和恢复策略，而非简单的关闭操作。

2. 资源预配置机制：对于关键系统组件如Prometheus，升级流程应该自动调整其资源配置以适应升级期间的高负载。

3. 状态检查与恢复：升级前应加强节点状态检查，特别是对曾经进入过维护模式的节点要特别处理。

4. 阻塞问题自动处理：对于Longhorn等存储组件可能出现的阻塞情况，应该实现自动检测和恢复机制。

总结

Harvester 1.5.0的升级体验相比之前版本有了明显改善，特别是在迁移成功率方面。通过本文分享的技术问题和解决方案，管理员可以更好地准备和规划升级过程，避免常见陷阱。随着Harvester的持续发展，期待未来的版本能够进一步优化升级体验，特别是在自动化处理特殊场景方面。