Hi-FT/ERD项目:自定义模型在标准数据集上的训练指南
2025-06-19 10:56:17作者:秋泉律Samson
前言
在计算机视觉领域,目标检测和实例分割是两项基础而重要的任务。Hi-FT/ERD项目提供了一个强大的框架,允许研究人员和开发者基于标准数据集训练自定义模型。本文将详细介绍如何在标准数据集上训练、测试和推理自定义模型,以Cityscapes数据集上训练自定义的Cascade Mask R-CNN R50模型为例。
准备工作
1. 数据集准备
首先需要准备标准数据集。以Cityscapes数据集为例,建议将数据集根目录链接到指定位置。数据集目录结构应如下:
data
├── cityscapes
│ ├── annotations
│ ├── leftImg8bit
│ │ ├── train
│ │ ├── val
│ ├── gtFine
│ │ ├── train
│ │ ├── val
Cityscapes数据集需要转换为COCO格式,使用提供的转换脚本:
pip install cityscapesscripts
python tools/dataset_converters/cityscapes.py ./data/cityscapes --nproc 8 --out-dir ./data/cityscapes/annotations
2. 预训练模型
当前配置使用COCO预训练权重进行初始化。建议提前下载预训练模型,以避免训练开始时因网络问题导致的错误。
自定义模型实现
1. 定义新模块
假设我们要用AugFPN替换默认的FPN作为neck部分。首先需要创建新的neck模块文件:
import torch.nn as nn
from mmdet.registry import MODELS
@MODELS.register_module()
class AugFPN(nn.Module):
def __init__(self, in_channels, out_channels, num_outs,
start_level=0, end_level=-1, add_extra_convs=False):
pass
def forward(self, inputs):
pass
2. 模块导入
有两种方式导入新模块:
- 在
__init__.py中添加导入语句 - 在配置文件中通过
custom_imports指定
3. 修改配置文件
在配置文件中指定使用新的neck模块:
neck=dict(
type='AugFPN',
in_channels=[256, 512, 1024, 2048],
out_channels=256,
num_outs=5)
配置文件准备
完整的配置文件示例如下:
_base_ = [
'../_base_/models/cascade-mask-rcnn_r50_fpn.py',
'../_base_/datasets/cityscapes_instance.py',
'../_base_/default_runtime.py'
]
model = dict(
backbone=dict(init_cfg=None),
neck=dict(
type='AugFPN',
in_channels=[256, 512, 1024, 2048],
out_channels=256,
num_outs=5),
roi_head=dict(
bbox_head=[...], # 修改类别数为8
mask_head=dict(num_classes=8)))
train_pipeline = [
... # 包含AutoAugment配置
]
train_dataloader = dict(batch_size=1, num_workers=3)
optim_wrapper = dict(...)
param_scheduler = [...]
train_cfg = dict(max_epochs=10, val_interval=1)
load_from = '预训练模型路径'
模型训练
准备好配置文件后,使用以下命令开始训练:
python tools/train.py configs/cityscapes/cascade-mask-rcnn_r50_augfpn_autoaug-10e_cityscapes.py
测试与推理
训练完成后,可以使用以下命令测试模型性能:
python tools/test.py configs/cityscapes/cascade-mask-rcnn_r50_augfpn_autoaug-10e_cityscapes.py work_dirs/cascade-mask-rcnn_r50_augfpn_autoaug-10e_cityscapes/epoch_10.pth
总结
本文详细介绍了在Hi-FT/ERD框架下,如何在标准数据集上训练自定义模型的完整流程。从数据集准备、自定义模块实现、配置文件修改到最终的训练和测试,每个步骤都提供了详细的说明。这种灵活的框架设计使得研究人员能够轻松尝试新的网络结构和训练策略,加速计算机视觉算法的研发进程。
对于更高级的自定义需求,如实现新的backbone、head或loss函数,以及自定义训练策略等,可以参考项目提供的其他高级指南。
登录后查看全文
热门项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0191
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook0118
Step-3.7-FlashStep-3.7-Flash是一个拥有 1980 亿参数的稀疏混合专家(MoE)视觉语言模型,由 1960 亿参数的语言主干网络和 18 亿参数的视觉编码器组合而成,具备原生图像理解能力。Python00
JoyAI-EchoJoyAI-Echo,这是一个独立的、仅用于推理的版本,旨在实现分钟级多镜头音视频生成。它采用了经过蒸馏的DMD生成器、配对的跨模态记忆以及故事级别的一致性。其性能的核心在于,一个跨模态视听记忆库能够在长达五分钟的视频中保持角色外观和语音音色的一致性。同时,一个训练后处理流程将基于记忆的强化学习与分布匹配蒸馏相结合,实现了7.5倍的速度提升,显著增强了视觉质量和对齐效果。00
fun-rec推荐系统入门教程,在线阅读地址:https://datawhalechina.github.io/fun-rec/Python03
so-large-lm大模型基础: 一文了解大模型基础知识01
项目优选
收起
暂无描述
Dockerfile
765
4.97 K
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
857
1.93 K
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
680
1.33 K
Ascend Extension for PyTorch
Python
719
879
deepin linux kernel
C
32
16
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
456
438
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
1.08 K
1.1 K
华为昇腾面向大规模分布式训练的多模态大模型套件,支撑多模态生成、多模态理解。
Python
151
252
CANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。
Jupyter Notebook
303
118
昇腾LLM分布式训练框架
Python
178
220