NuScenes-devkit 数据集场景数量调整与模型训练实践指南

背景介绍

NuScenes-devkit 是一个用于自动驾驶研究的开源工具包，主要用于处理 NuScenes 数据集。在实际研究过程中，研究人员经常需要调整训练数据的规模来验证不同数据量对模型性能的影响。本文将详细介绍如何在 NuScenes-devkit 中调整训练场景数量，并解决在此过程中可能遇到的技术问题。

场景数量调整方法

调整训练场景数量的核心步骤是对数据集分割文件进行修改。NuScenes-devkit 通过 split.py 文件管理数据集的划分，其中 train_detect 和 train_track 列表包含了用于训练的场景标识符。

具体操作步骤：

1. 打开 split.py 文件
2. 定位到 train_detect 和 train_track 列表
3. 根据需要保留的场景数量，删除相应数量的场景标识符
4. 保存修改后的文件

常见问题与解决方案

内存不足问题

在评估阶段，加载 NuScenes 表格数据可能会导致内存消耗激增。对于 16GB RAM 的机器，建议：

1. 检查并关闭其他占用内存的进程
2. 考虑使用具有更大内存的机器
3. 优化数据加载流程，减少不必要的数据缓存

样本数量不匹配问题

修改场景数量后，可能会遇到训练时每个 epoch 的样本数量未按预期变化的情况。这通常是由于：

1. 数据预处理步骤未正确执行
2. 数据集缓存未被更新

解决方法：

1. 确保在修改 split.py 后重新运行数据准备工具
2. 检查数据加载器的长度，确认实际加载的样本数量
3. 清除旧的缓存文件，强制重新生成数据信息

评估阶段样本不匹配错误

在评估阶段可能会遇到 "Samples in split doesn't match samples in predictions" 错误。这是由于预测样本与验证集样本不匹配导致的。

排查步骤：

1. 验证预测结果 JSON 文件是否包含验证集中所有样本的预测
2. 检查验证集分割是否被意外修改
3. 确认评估代码是否正确指定了验证集分割

最佳实践建议

1. 保持验证集不变：修改训练场景数量时，建议保持验证集不变，以确保评估结果的可比性。

2. 记录修改历史：对 split.py 的任何修改都应详细记录，包括修改的场景数量和具体场景ID。

3. 完整流程验证：在修改后，建议运行完整的小规模训练和评估流程，确认所有环节正常工作。

4. 资源监控：在首次运行修改后的配置时，密切监控系统资源使用情况，特别是内存消耗。

结论

通过合理调整 NuScenes-devkit 中的场景数量，研究人员可以灵活地设计不同规模的数据实验。关键在于正确修改数据集分割文件，并确保后续的数据处理和评估流程与修改后的配置保持一致。遇到问题时，应系统性地检查数据加载、训练和评估各个环节，确保数据流的一致性。