Longhorn CSI 卷在线扩容失败问题分析与解决
问题背景
在 Longhorn 分布式存储系统的测试过程中,发现一个关键测试用例 test_csi_mount_volume_online_expansion 持续失败。该测试用例旨在验证 CSI 驱动对挂载卷在线扩容功能的支持情况。测试失败表现为在第二次扩容操作时无法完成 PVC 容量更新,导致断言失败。
问题现象
测试流程中会执行两次卷扩容操作:
- 第一次从 128MiB 扩容到 256MiB 成功
- 第二次从 256MiB 扩容到 512MiB 失败
失败时 PVC 状态显示:
- spec.resources.requests.storage 更新为 5GiB
- status.capacity.storage 仍保持为 4GiB
- allocatedResourceStatuses 显示为 NodeResizePending
根因分析
通过深入日志分析发现,问题根源在于 CSI 驱动中的文件系统类型检测环节:
-
第一次扩容时,
blkid命令成功识别出文件系统类型为 ext4:DEVNAME=/dev/longhorn/pvc-xxx TYPE=ext4 -
第二次扩容时,同样的
blkid命令返回空结果,导致 CSI 驱动无法确定文件系统类型,进而拒绝扩容操作。
进一步调查发现,这与 CSI 外部扩容器 (csi-resizer) 从 v1.12.0 升级到 v1.13.1 版本有关。新版本默认启用了 RecoverVolumeExpansionFailure 特性,该特性会静默重试失败的扩容操作,但缺乏足够的日志输出,使得问题难以诊断。
解决方案
经过团队讨论和验证,确定以下解决方案:
- 回退 csi-resizer 到 v1.12.0 版本
- 或者在新版本中显式禁用
RecoverVolumeExpansionFailure特性
最终选择采用第一种方案,因为:
- 已验证在 v1.12.0 版本下测试通过
- 避免引入新特性的不确定性
- 提供更稳定的扩容行为
技术细节
在 CSI 驱动的 NodeExpandVolume 实现中,关键步骤如下:
- 接收来自 kubelet 的扩容请求
- 通过
blkid检测设备文件系统类型 - 根据检测结果执行相应文件系统扩容命令
- 返回操作结果
问题出现在第二步,当 blkid 无法识别已挂载设备的文件系统时,整个扩容流程就会失败。这种情况在连续扩容操作中尤为明显。
影响范围
该问题影响以下 Longhorn 版本:
- master-head
- v1.8.x-head
- v1.7.x-head
主要影响使用 CSI 驱动进行在线卷扩容的场景,特别是需要多次扩容的工作负载。
验证结果
解决方案验证通过:
- 测试用例
test_csi_mount_volume_online_expansion成功执行 - 两次扩容操作均按预期完成
- PVC 状态正确反映实际容量变化
总结
Longhorn 团队通过深入分析 CSI 驱动与 kubelet 的交互过程,准确定位了在线扩容失败的根本原因。通过版本回退策略快速解决了问题,确保了卷扩容功能的可靠性。这一案例也凸显了在升级关键组件时进行全面测试的重要性,特别是对默认启用的新特性需要格外关注。
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0216
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook0138
uni-appA cross-platform framework using Vue.jsJavaScript08
GLM-5.2智谱开源 GLM-5.2,这是针对长文本任务的最新旗舰模型。相较于前代产品 GLM-5.1,它在长文本任务处理能力上实现了显著飞跃,并且首次在稳定的 100 万 token 上下文中提供这一能力。Jinja00
SwanLab⚡️SwanLab - an open-source, modern-design AI training tracking and visualization tool. Supports Cloud / Self-hosted use. Integrated with PyTorch / Transformers / LLaMA Factory / veRL/ Swift / Ultralytics / MMEngine / Keras etc.Python00
tiny-universe《大模型白盒子构建指南》:一个全手搓的Tiny-UniverseJupyter Notebook03