MergerFS项目：SSH rsync传输时文件分布不均问题分析与解决方案

问题现象描述

在使用SSH rsync从旧服务器向基于MergerFS的新服务器存储池传输数据时，用户发现文件仅被写入单个物理驱动器。当该驱动器空间耗尽时，即使存储池中其他驱动器仍有充足空间，系统仍会抛出"磁盘空间不足"的错误。这种非预期的行为导致大容量数据传输中断。

技术背景解析

MergerFS作为联合文件系统，其核心功能是将多个独立文件系统合并为单一命名空间。文件分布行为由用户配置的策略决定，而非自动均衡分配。在默认配置下，系统采用"existing path, most free space (epmfs)"创建策略，这是导致上述现象的根本原因。

关键配置参数详解

1. epmfs策略工作机制：

   • 首先检查是否存在匹配路径
   • 在所有可用分支中选择剩余空间最多的驱动器
   • 持续使用该驱动器直至空间不足

2. 相关配置项：

   • moveonenospc：空间不足时尝试迁移文件（已启用）
   • minfreespace：最小保留空间阈值（设置为10GB）

解决方案

方案一：修改创建策略

推荐使用mfs（most free space）策略：

-o category.create=mfs

此策略会：

1. 忽略现有路径检查
2. 始终选择剩余空间最多的驱动器
3. 实现近似均衡的文件分布

方案二：组合策略优化

对于特定场景可考虑：

-o category.create=epff

此组合策略：

1. 优先使用已有路径（ep）
2. 在空间分配上采用自由空间比例算法（ff）
3. 兼顾路径一致性与空间利用率

实施建议

1. 对于新建立的存储池，建议直接采用mfs策略
2. 对于已存在数据的系统，变更策略后仅影响新文件写入
3. 大规模数据传输前，建议先进行策略验证测试

技术原理延伸

MergerFS的文件分布策略本质上是权衡多种因素的决策机制：

• 路径一致性（避免目录碎片化）
• 空间利用率（预防单盘过载）
• 性能考量（减少跨设备操作）

理解这些底层机制有助于根据实际业务需求定制最优策略，特别是在处理海量数据迁移等特殊场景时。

最佳实践总结

1. 明确业务需求：随机访问优先考虑路径一致性，归档存储侧重空间均衡
2. 监控空间使用：即使采用均衡策略，仍需定期检查各物理设备状态
3. 策略组合使用：可针对不同操作类型（创建/移动/搜索）设置独立策略
4. 预留缓冲空间：合理设置minfreespace防止边缘情况