Open-Sora-Plan项目中Panda-70M数据集标注差异解析

在Open-Sora-Plan项目使用Panda-70M数据集的过程中，研究人员发现了一个值得注意的技术细节：项目提供的Panda70M_HQ1M.json标注文件与Panda-70M官方发布的训练集标注存在不一致的情况。这一发现对于使用该数据集进行视频理解或生成任务的研究人员具有重要意义。

具体差异表现为同一视频ID在不同标注文件中的描述完全不同。例如视频ID为--SaHeTEmoE的片段，在Open-Sora-Plan提供的标注文件中描述为"一个蓝发男子站在图书馆的木地板上"，而在Panda-70M官方发布的训练集(10M)中却对应着"几张公交车和街上行人的照片"等完全不同的描述。

经过深入调查，这一差异源于数据集版本的选择问题。Open-Sora-Plan项目使用的是Panda-70M的完整训练集(Full Training Set)，而非较小的10M子集。完整训练集中包含了更多的时间戳分段和对应的描述，因此同一视频ID在不同版本中可能对应完全不同的时间片段和内容描述。

这一发现提醒研究人员在使用开源数据集时需要注意：

1. 确认使用的数据集具体版本
2. 了解不同版本间的差异
3. 标注一致性对模型训练效果的影响

对于计划使用Open-Sora-Plan项目的研究人员，建议统一采用项目提供的标注文件，以确保训练数据与项目预设的一致性。同时，这也体现了在AI研究中对数据源进行充分验证的重要性，特别是在多模态学习等对数据质量要求较高的领域。