使用官方RT-DETR代码库进行训练自己数据集

这里我目前复现成功rtdetr_pytorch的,v2以及paddle的未进行

1、RT-DETR 代码库

RT-detr代码库地址
直接下载zip,或者git下载。作者采用zip,然后解压后。

环境问题说明

这一次环境笔者弄了很久,建议按照官方指导弄。
1)安装requirements.txt
先进入项目路径RT-DETR-main/RT-DETR-main/rtdetr_pytorch/

pip install requirements.txt

2)更换pytorch版本
直接安装的torch,我未检测到gpu。因此自己进行安装torch对应安装,要找与自己cuda相对应。这里说明一下,期间我用requirements文件的torch版本2.0.1跑,报需要2.1.0以上版本的错误。因此替换为下面环境,后来可能是高版本的torch没卸载干净,一直报torchvison要什么版本的对于。期间遇到未完全删除torch库导致存在多个版本,一直报有一个torch导入datapoint错误,还有最后删了几次环境重新安装后成功,这时候是只会cpu运行,后面pytorch官网下载指定版本后成功。
虚拟环境

2、数据集使用

本次数据使用minicoco数据集其中3200大小的数据集,进行50epochs训练
如果使用自己的数据集:
需要修改rtdetr_pytorch/config/dataset下的coco_detection.yml里面的路径,训练和验证路径,这里我采用绝对路径。还有类别也在此处设置
需要修改

3、train.py训练修改

train.py在tools目录里面设置模型为configs/rtdetr/rtdetr_r50vd_6x_coco.yml
指定训练轮次是在D:\work\workspace\code\RT-DETR-main\RT-DETR-main\rtdetr_pytorch\src\core\yaml_config.py下
设计train
正常的是先下载权重,我已下载就给指定了resume,但我不清楚是否用上了。

修改eochs

4、报错大修改

上一步指定yml文件后,出现使用gbk格式读取错误的,这里我进行两次修改utf修改
utf改

训练成功

在这里插入图片描述
在这里插入图片描述

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐