BasicSR数据集大全:从DIV2K到Vimeo90K的完整预处理指南
BasicSR是一个强大的开源图像和视频恢复工具箱,专门用于超分辨率、去噪、去模糊等任务。作为目前最全面的图像视频恢复框架,BasicSR支持EDSR、RCAN、SRResNet、SRGAN、ESRGAN、EDVR、BasicVSR、SwinIR、ECBSR等多种先进算法。对于想要入门图像恢复领域的新手来说,掌握数据集的预处理流程是成功的第一步。
本文将详细介绍BasicSR支持的主流数据集,包括DIV2K、REDS、Vimeo90K等,并提供从下载到预处理的完整流程,帮助你快速上手BasicSR项目。
🎯 BasicSR支持的数据集概览
BasicSR项目支持多种图像和视频恢复数据集,涵盖了从经典图像超分辨率到现代视频超分辨率的各种应用场景。这些数据集都存储在basicsr/data/meta_info目录下,包含完整的元信息文件。
📊 图像超分辨率数据集
DIV2K数据集处理
DIV2K是图像超分辨率领域最常用的基准数据集,包含800张训练图像和100张验证图像。
完整预处理流程:
-
下载数据集 - 从DIV2K官方网站获取原始数据
-
裁剪子图像 - 使用extract_subimages.py脚本将2K分辨率图像裁剪为480×480的子图像
-
生成元信息 - 运行generate_meta_info.py创建meta_info文件
-
创建LMDB - 可选步骤,使用create_lmdb.py加速训练
常用图像SR数据集列表
BasicSR支持以下经典图像超分辨率数据集:
- 训练数据集:T91、BSDS200、General100
- 测试数据集:Set5、Set14、BSDS100、Urban100、Manga109
- 2K分辨率数据集:DIV2K、Flickr2K、DF2K
- 户外场景数据集:OST Training、OST300
🎥 视频超分辨率数据集
REDS数据集处理
REDS是视频超分辨率的重要基准数据集,包含240个训练片段和30个验证片段。
关键处理步骤:
- 使用regroup_reds_dataset.py重新组织训练和验证数据
- 支持官方验证分区和EDVR竞赛使用的REDS4分区
Vimeo90K数据集处理
Vimeo90K包含丰富的视频序列,是视频恢复任务的重要资源。
处理流程:
- 下载原始训练和测试集(82GB)
- 使用MATLAB脚本生成低分辨率图像
- 创建LMDB文件加速训练
⚡ 数据存储格式优化
BasicSR支持三种数据存储格式,满足不同场景的需求:
1. 直接磁盘存储
io_backend:
type: disk
2. LMDB加速存储
io_backend:
type: lmdb
3. Memcached分布式存储
🚀 数据预取器配置
为了进一步优化训练速度,BasicSR提供了数据预取器功能:
- CUDA预取模式 - 占用更多GPU内存但显著加速
- CPU预取模式 - 适用于内存充足的场景
- 关闭预取 - 默认模式,适用于已使用LMDB的情况
💡 实用技巧与最佳实践
- 符号链接设置 - 建议使用
ln -s命令创建数据集符号链接 - LMDB缓存预热 - 首次使用前运行
cat data.mdb > /dev/nul缓存数据 - 数据集测试 - 使用test_paired_image_dataset.py验证数据加载器
通过掌握BasicSR的数据集预处理流程,你可以为各种图像视频恢复任务准备高质量的训练数据。无论是经典的DIV2K图像超分辨率,还是现代的REDS视频超分辨率,BasicSR都提供了完整的解决方案。
记住,优质的数据预处理是成功训练深度学习模型的关键第一步!🚀
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust099- DDeepSeek-V4-ProDeepSeek-V4-Pro(总参数 1.6 万亿,激活 49B)面向复杂推理和高级编程任务,在代码竞赛、数学推理、Agent 工作流等场景表现优异,性能接近国际前沿闭源模型。Python00
MiMo-V2.5-ProMiMo-V2.5-Pro作为旗舰模型,擅⻓处理复杂Agent任务,单次任务可完成近千次⼯具调⽤与⼗余轮上 下⽂压缩。Python00
GLM-5.1GLM-5.1是智谱迄今最智能的旗舰模型,也是目前全球最强的开源模型。GLM-5.1大大提高了代码能力,在完成长程任务方面提升尤为显著。和此前分钟级交互的模型不同,它能够在一次任务中独立、持续工作超过8小时,期间自主规划、执行、自我进化,最终交付完整的工程级成果。Jinja00
Kimi-K2.6Kimi K2.6 是一款开源的原生多模态智能体模型,在长程编码、编码驱动设计、主动自主执行以及群体任务编排等实用能力方面实现了显著提升。Python00
MiniMax-M2.7MiniMax-M2.7 是我们首个深度参与自身进化过程的模型。M2.7 具备构建复杂智能体应用框架的能力,能够借助智能体团队、复杂技能以及动态工具搜索,完成高度精细的生产力任务。Python00

