BasicSR数据集大全:从DIV2K到Vimeo90K的完整预处理指南
BasicSR是一个强大的开源图像和视频恢复工具箱,专门用于超分辨率、去噪、去模糊等任务。作为目前最全面的图像视频恢复框架,BasicSR支持EDSR、RCAN、SRResNet、SRGAN、ESRGAN、EDVR、BasicVSR、SwinIR、ECBSR等多种先进算法。对于想要入门图像恢复领域的新手来说,掌握数据集的预处理流程是成功的第一步。
本文将详细介绍BasicSR支持的主流数据集,包括DIV2K、REDS、Vimeo90K等,并提供从下载到预处理的完整流程,帮助你快速上手BasicSR项目。
🎯 BasicSR支持的数据集概览
BasicSR项目支持多种图像和视频恢复数据集,涵盖了从经典图像超分辨率到现代视频超分辨率的各种应用场景。这些数据集都存储在basicsr/data/meta_info目录下,包含完整的元信息文件。
📊 图像超分辨率数据集
DIV2K数据集处理
DIV2K是图像超分辨率领域最常用的基准数据集,包含800张训练图像和100张验证图像。
完整预处理流程:
-
下载数据集 - 从DIV2K官方网站获取原始数据
-
裁剪子图像 - 使用extract_subimages.py脚本将2K分辨率图像裁剪为480×480的子图像
-
生成元信息 - 运行generate_meta_info.py创建meta_info文件
-
创建LMDB - 可选步骤,使用create_lmdb.py加速训练
常用图像SR数据集列表
BasicSR支持以下经典图像超分辨率数据集:
- 训练数据集:T91、BSDS200、General100
- 测试数据集:Set5、Set14、BSDS100、Urban100、Manga109
- 2K分辨率数据集:DIV2K、Flickr2K、DF2K
- 户外场景数据集:OST Training、OST300
🎥 视频超分辨率数据集
REDS数据集处理
REDS是视频超分辨率的重要基准数据集,包含240个训练片段和30个验证片段。
关键处理步骤:
- 使用regroup_reds_dataset.py重新组织训练和验证数据
- 支持官方验证分区和EDVR竞赛使用的REDS4分区
Vimeo90K数据集处理
Vimeo90K包含丰富的视频序列,是视频恢复任务的重要资源。
处理流程:
- 下载原始训练和测试集(82GB)
- 使用MATLAB脚本生成低分辨率图像
- 创建LMDB文件加速训练
⚡ 数据存储格式优化
BasicSR支持三种数据存储格式,满足不同场景的需求:
1. 直接磁盘存储
io_backend:
type: disk
2. LMDB加速存储
io_backend:
type: lmdb
3. Memcached分布式存储
🚀 数据预取器配置
为了进一步优化训练速度,BasicSR提供了数据预取器功能:
- CUDA预取模式 - 占用更多GPU内存但显著加速
- CPU预取模式 - 适用于内存充足的场景
- 关闭预取 - 默认模式,适用于已使用LMDB的情况
💡 实用技巧与最佳实践
- 符号链接设置 - 建议使用
ln -s命令创建数据集符号链接 - LMDB缓存预热 - 首次使用前运行
cat data.mdb > /dev/nul缓存数据 - 数据集测试 - 使用test_paired_image_dataset.py验证数据加载器
通过掌握BasicSR的数据集预处理流程,你可以为各种图像视频恢复任务准备高质量的训练数据。无论是经典的DIV2K图像超分辨率,还是现代的REDS视频超分辨率,BasicSR都提供了完整的解决方案。
记住,优质的数据预处理是成功训练深度学习模型的关键第一步!🚀
GLM-5智谱 AI 正式发布 GLM-5,旨在应对复杂系统工程和长时域智能体任务。Jinja00
GLM-5-w4a8GLM-5-w4a8基于混合专家架构,专为复杂系统工程与长周期智能体任务设计。支持单/多节点部署,适配Atlas 800T A3,采用w4a8量化技术,结合vLLM推理优化,高效平衡性能与精度,助力智能应用开发Jinja00
请把这个活动推给顶尖程序员😎本次活动专为懂行的顶尖程序员量身打造,聚焦AtomGit首发开源模型的实际应用与深度测评,拒绝大众化浅层体验,邀请具备扎实技术功底、开源经验或模型测评能力的顶尖开发者,深度参与模型体验、性能测评,通过发布技术帖子、提交测评报告、上传实践项目成果等形式,挖掘模型核心价值,共建AtomGit开源模型生态,彰显顶尖程序员的技术洞察力与实践能力。00
Kimi-K2.5Kimi K2.5 是一款开源的原生多模态智能体模型,它在 Kimi-K2-Base 的基础上,通过对约 15 万亿混合视觉和文本 tokens 进行持续预训练构建而成。该模型将视觉与语言理解、高级智能体能力、即时模式与思考模式,以及对话式与智能体范式无缝融合。Python00
MiniMax-M2.5MiniMax-M2.5开源模型,经数十万复杂环境强化训练,在代码生成、工具调用、办公自动化等经济价值任务中表现卓越。SWE-Bench Verified得分80.2%,Multi-SWE-Bench达51.3%,BrowseComp获76.3%。推理速度比M2.1快37%,与Claude Opus 4.6相当,每小时仅需0.3-1美元,成本仅为同类模型1/10-1/20,为智能应用开发提供高效经济选择。【此简介由AI生成】Python00
Qwen3.5Qwen3.5 昇腾 vLLM 部署教程。Qwen3.5 是 Qwen 系列最新的旗舰多模态模型,采用 MoE(混合专家)架构,在保持强大模型能力的同时显著降低了推理成本。00- RRing-2.5-1TRing-2.5-1T:全球首个基于混合线性注意力架构的开源万亿参数思考模型。Python00

