Apache Pegasus手动压缩任务进度检测问题分析

背景介绍

Apache Pegasus是一个高性能的分布式键值存储系统，它提供了手动压缩(manual compact)功能来优化存储性能。在实际使用过程中，用户通过pegasus_manual_compact.sh脚本执行手动压缩操作时，发现了一个关于任务进度检测的问题。

问题现象

当用户执行以下命令时：

sh pegasus_manual_compact.sh -c {meta_server_list} -a {table_name} --bottommost_level_compaction force

脚本中的wait_manual_compact()函数会持续输出类似如下的日志信息：

[35s] 0 finished, 8 not finished (0 in queue, 0 in running), estimate remaining unknown seconds. table [**] manual compaction is running now.

即使手动压缩任务实际上已经完成，该函数仍然会持续输出上述信息，导致封装工具基于此输出判断任务进度时出现超时失败。

问题根源分析

这个问题的根本原因在于wait_manual_compact()函数无法正确解析remote_command -t replica-server replica.query-compact ${app_id}命令的输出结果。

在Pegasus的最新版本中，该命令的输出格式已经发生了变化：

最新版本输出格式示例：

CALL [replica-server] [10.1.132.34:8171] succeed:
8 processed, 0 not found
4.0@10.1.132.34:8171@P : {"last_finish":"-","last_used_ms":"-","recent_enqueue_at":"-","recent_start_at":"-"}
4.1@10.1.132.34:8171@P : {"last_finish":"-","last_used_ms":"-","recent_enqueue_at":"-","recent_start_at":"-"}
...

旧版本输出格式示例：

CALL [replica-server] [10.1.132.36:8171] succeed: 8 processed, 0 not found
4.0@10.1.132.36:8171@P : last finish at [-]
4.1@10.1.132.36:8171@P : last finish at [-]
...

技术影响

1. 进度监控失效：脚本无法准确判断手动压缩任务的完成状态
2. 自动化流程中断：依赖该脚本的自动化工具会因为错误的进度判断而超时失败
3. 运维效率降低：管理员需要手动确认任务状态，增加了运维复杂度

解决方案建议

1. 更新解析逻辑：修改wait_manual_compact()函数，使其能够兼容新旧版本的输出格式
2. 增强健壮性：在解析输出时增加更多的错误处理逻辑
3. 状态判断优化：基于JSON格式的输出，提取更精确的任务状态信息

总结

Apache Pegasus的手动压缩功能在实际使用中遇到了进度检测问题，主要是由于输出格式变化导致的解析失败。这个问题影响了自动化运维流程的可靠性，需要通过更新解析逻辑来解决。对于使用Pegasus的团队来说，及时关注这类接口变化并相应调整工具脚本是保证系统稳定运行的重要环节。