OpenCompass评估框架中MMLU数据集汇总错误分析与解决方案

问题背景

在使用OpenCompass评估框架对Qwen1.5-1.8B模型进行MMLU数据集评估时，研究人员遇到了一个典型的评估结果汇总错误。该问题表现为评估过程能够正常执行并生成中间结果，但在最终结果汇总阶段出现异常。

错误现象分析

从错误日志中可以观察到两个关键错误信息：

1. KeyError: 系统在尝试访问'lukaemon_mmlu_abstract_algebra'键时失败，表明评估结果中缺少某些预期子集的评分数据。

2. AttributeError: 当尝试对浮点数调用items()方法时失败，说明结果数据结构与预期不符，某些评分数据以简单浮点数形式存在，而非预期的字典结构。

根本原因

经过深入分析，该问题主要由以下因素导致：

1. 汇总器配置不当：使用了不兼容的leaderboard.py汇总器，该汇总器预期特定的数据结构格式，而实际评估结果与之不匹配。

2. 评估流程分离：MMLU数据集的评估分为推理(inference)和评分(evaluation)两个阶段，虽然这两个阶段能顺利完成，但汇总阶段对中间结果的数据结构有严格要求。

解决方案

针对这一问题，建议采取以下解决方案：

1. 移除自定义汇总器：不使用--summarizer leaderboard.py参数，让系统使用默认的汇总器处理结果。默认汇总器能更好地适应各种评估任务的数据结构。

2. 检查评估配置：确认MMLU数据集的所有子集都正确加载并参与评估，避免因部分子集缺失导致汇总错误。

3. 验证数据结构：在评估完成后、汇总前，可以检查生成的中间结果文件，确保评分数据以正确的字典结构存储。

技术建议

对于使用OpenCompass进行大规模评估的研究人员，建议：

1. 分阶段验证：先在小规模数据集上测试完整的评估流程，确认无误后再扩展到全部数据集。

2. 结果检查：评估完成后，检查生成的results和eval_details目录中的文件，确保所有预期输出都存在且格式正确。

3. 日志监控：密切关注评估过程中的日志输出，特别是任务分区和评分阶段的统计信息。

总结

OpenCompass作为大型语言模型评估框架，其评估流程涉及多个复杂环节。MMLU这类多领域知识评估数据集由于其子集众多，在结果汇总时容易出现数据结构不匹配的问题。通过使用默认汇总器并确保评估配置正确，可以有效避免此类问题，获得准确的模型性能评估结果。