基于tensorflow2的yolov4训练⾃⼰的数据集
基于tensorflow2.0的yolov4训练⾃⼰的数据集(⼀)
在windows和linux分别训练了基于tensorflow2的yolov4模型,将⽅法记录下来,⽅便其他同学参考借鉴。内容较多,分批写出来:⽬录
软件的训练环境及版本:tensorflow2.3.0,yolov4,windows10、ubuntu20,python3.7,VOC2007格式数据集。GPU环境可以参考我之前博客的环境安装⽅法。
⼀、制作数据集
使⽤LabelImage进⾏标注,LabelImage的下载安装⽅法,百度上⽤的⽐较多,这⾥就不赘述了。简单介绍⼀下LabelImage的标注⽅法,制作⾃⼰的数据集。
1、下载LabelImage
下载安装LabelImage,地址:。
2、安装LabelImage
解压进⼊到LabelImage的⽂件路径,运⾏命令:conda install pyqt=5,安装依赖,并完成之后运⾏命令:pyrcc5 -o resources.py resources.qrc(这⾥可能会提⽰路径问题,这⾥就不做解决办法了,⽹上⽽很多)。完成之后直接运⾏:python labelImg.py。不出意外的话可以直接打开Labelmage界⾯。如下图所⽰:
4、制作数据集
这⾥不做过多的LabelImage的使⽤,做⼀下基本的操作,达到我们可以制作⾃⼰的数据集即可。
点击上图1,可以直接打开⾃⼰图⽚的⽂件夹,LabelImage会加载到右下⾓的“File List”⾥⾯,将所有的图⽚显⽰到该窗⼝中。
在“File List”中选择要标注的图⽚,点击“w”建(Create RectBox的快捷键),可以对⽬标进⾏标注,如下图所⽰:
没标注完⼀张图⽚要保存标注的数据,否则切换图⽚的时候标注的结果会消失点击快捷⽅式(CTRL+S)直接保存标注的结果。
反复多张标注完成后,基础数据集已经标注完毕。
5、制作VOC2007数据集
构建结构⽬录,我的结构⽬录如下所⽰:
介绍⼀下各个⽂件夹的⽤途:
Annotations:⾥⾯是标注图⽚对应的标注信息,是xml格式的(标注你的xml,可以⾃⾏进去看⼀下结构,⾥⾯主要的就是类别和标注的坐标点,其他不重要)。
ImageSets:在后⾯⾥⾯⽣成Main⽂件夹,⾥⾯包含train和test,主要记录训练集的⽂件名称和测试集的⽂件名称。
JPEImages:原始的图⽚数据。
labels:该⽂件夹和ImageSets的Main⽂件夹在后⾯共同⽣成,⽤于⽣成VOC2007格式的数据集。
6、⽣成VOC2007数据集的⽂件
该步骤会将上⼀步的ImageSets和labels缺少的⽂件补齐,并⽣成2007_Train和2007_test的txt⽂件。下⾯的代码⾃动制作VOC2007的数据集,直接运⾏即可:
#缺少依赖包的同学⾃⾏下载⼀下,很好下
ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join
import randomtensorflow版本选择
#类别根据你的数据集类别进⾏定义
classes=["类别1","类别2","类别3"]
def clear_hidden_files(path):
dir_list = os.listdir(path)
for i in dir_list:
abspath = os.path.join(os.path.abspath(path), i)
if os.path.isfile(abspath):
if i.startswith("._"):
else:
clear_hidden_files(abspath)
def convert(size, box):
dw = 1./size[0]
dh = 1./size[1]
x = (box[0] + box[1])/2.0
y = (box[2] + box[3])/2.0
w = box[1] - box[0]
h = box[3] - box[2]
x = x*dw
w = w*dw
y = y*dh
h = h*dh
return (x,y,w,h)
#下⾯的⽂件夹和⽂件的名称根据你的喜好⾃定定义,也可以按照我这⾥的代码直接运⾏
def convert_annotation(image_id):
in_file = open('VOCdevkit\VOC2007\Annotations\%s.xml' %image_id)
out_file = open('VOCdevkit\VOC2007\labels\%s.txt' %image_id, 'w')
tree=ET.parse(in_file)
root = t()
size = root.find('size')
w = int(size.find('width').text)
h = int(size.find('height').text)
for obj in root.iter('object'):
difficult = obj.find('difficult').text
cls = obj.find('name').text
if cls not in classes or int(difficult) == 1:
continue
cls_id = classes.index(cls)
xmlbox = obj.find('bndbox')
b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text), float(xmlbox.find('ymax').text))
bb = convert((w,h), b)
out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')
in_file.close()
out_file.close()
wd = os.getcwd()
wd = os.getcwd()
wd = os.getcwd()
work_sapce_dir = os.path.join(wd, "VOCdevkit\\")
if not os.path.isdir(work_sapce_dir):
os.mkdir(work_sapce_dir)
work_sapce_dir = os.path.join(work_sapce_dir, "VOC2007\\")
if not os.path.isdir(work_sapce_dir):
os.mkdir(work_sapce_dir)
annotation_dir = os.path.join(work_sapce_dir, "Annotations\\")
if not os.path.isdir(annotation_dir):
os.mkdir(annotation_dir)
clear_hidden_files(annotation_dir)
image_dir = os.path.join(work_sapce_dir, "JPEGImages\\")
if not os.path.isdir(image_dir):
os.mkdir(image_dir)
clear_hidden_files(image_dir)
VOC_file_dir = os.path.join(work_sapce_dir, "ImageSets\\")
if not os.path.isdir(VOC_file_dir):
os.mkdir(VOC_file_dir)
VOC_file_dir = os.path.join(VOC_file_dir, "Main\\")
if not os.path.isdir(VOC_file_dir):
os.mkdir(VOC_file_dir)
train_file = open(os.path.join(wd, ""), 'w')
test_file = open(os.path.join(wd, ""), 'w')
train_file.close()
test_file.close()
VOC_train_file = open(os.path.join(work_sapce_dir, "ImageSets\\Main\\"), 'w')
VOC_test_file = open(os.path.join(work_sapce_dir, "ImageSets\\Main\\"), 'w')
VOC_train_file.close()
VOC_test_file.close()
if not ists('VOCdevkit\\VOC2007\\labels'):
os.makedirs('VOCdevkit\\VOC2007\\labels')
train_file = open(os.path.join(wd, ""), 'a')
test_file = open(os.path.join(wd, ""), 'a')
VOC_train_file = open(os.path.join(work_sapce_dir, "ImageSets\\Main\\"), 'a')
VOC_test_file = open(os.path.join(work_sapce_dir, "ImageSets\\Main\\"), 'a')
list = os.listdir(image_dir) # list image files
probo = random.randint(1, 100)
print("Probobility: %d" % probo)
for i in range(0,len(list)):
path = os.path.join(image_dir,list[i])
if os.path.isfile(path):
image_path = image_dir + list[i]
voc_path = list[i]
(nameWithoutExtention, extention) = os.path.splitext(os.path.basename(image_path))
(voc_nameWithoutExtention, voc_extention) = os.path.splitext(os.path.basename(voc_path))        annotation_name = nameWithoutExtention + '.xml'
annotation_path = os.path.join(annotation_dir, annotation_name)
probo = random.randint(1, 100)
print("Probobility: %d" % probo)
if(probo < 75):
if ists(annotation_path):
train_file.write(image_path + '\n')
VOC_train_file.write(voc_nameWithoutExtention + '\n')
convert_annotation(nameWithoutExtention)
else:
if ists(annotation_path):
test_file.write(image_path + '\n')
VOC_test_file.write(voc_nameWithoutExtention + '\n')
convert_annotation(nameWithoutExtention)
train_file.close()
test_file.close()
VOC_train_file.close()
VOC_test_file.close()
执⾏完上述步骤,如果没有报错的话,你的数据集已经制作完毕。
⼆、利⽤DarkNet训练你的数据集
1、下载yolov4⼯程
github下载基于DarkNet的yolov4的⼯程,下载地址:。
下载并解压如下所⽰:
我就⼤概的列⼀下解压的⽂件,不⽤纠结这⾥⾯的东西,你不会少⽂件的放⼼吧^_^。
2、迁移学习,下载选中⽂件
接下来就要⽤darknet训练你⾃⼰的数据集了,训练之前,我们肯定是⽤迁移学习的⽅式进⾏训练的,我们下载⼀下它训练好的权重⽂件:,可以科学上⽹,如果下载的慢的话可以私信我要⼀份全汇总⽂件,⼤概245M左右。
3、训练模型
训练的话windows和linux训练过程是不⼀样的,习惯windows的同学这⾥是个福⾳。因为windows平台其实⽐linux更好训练,是不是很神奇,⼀般都是windows坑⽐较多,这⾥却相反。
3.1 windows平台下训练模型
先说windows下⾯的训练吧,在当前darknet⽬录下,进⼊build\darknet中,可以看到下⾯的东西,做过vs环境开发的同学看到这它们是不是很开⼼^_^,连CMAKE都不⽤了:

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。