Ubuntu16.04でdarknet-yolov 3を実現して自分のデータを訓練する(loss図、mAP計算を含む)
darknetをローカルにコンパイルし、自分のデータセットでyolov 3を訓練する過程を記録し、最後にmAPの計算方法を補充した.
1.環境構成
まずCUDAとCudnnは必須で、インストールは多くのチュートリアルがあってあまり書かないで、opencvインストールは比較的に面倒でインストールしなくてもいいです
2.ローカルコンパイルdarknet
githubからdarknetを取得
Makefileファイルの変更
darknetフォルダでコンパイル
yolov 3のプリトレーニングモデルをダウンロード
コンパイルに成功したかどうかをテスト
3.データセットの準備
一般的には、VOC形式のデータセットを準備してから、いくつかのスクリプトファイルをトレーニングに使用できるバージョンに変換します.
darknetフォルダの下にdatesetフォルダを作成します.内部構造は次のとおりです.
画像データをJPEGImagesに、xmlの寸法ファイルをAnnotationsに、pyファイルを新規作成し、任意に名前を付けます(maketxt.pyなど).
実行するとImageSets/Mainパスの下でtrainが生成する.txt,val.txt,test.txtとtrainval.txt 4つの必須txtファイル
VOC形式のデータセットをdarknet形式に変換する(ポイント座標を正規化する)https://blog.csdn.net/hesongzefairy/article/details/104443573)
darknetフォルダにpyファイルを作成し、勝手に名前を付け、変更する場所はコメントを見る(darknet/scripts/voc_label.pyから変更)
実行後、datasetフォルダにdataset_が生成されます.train.txt(トレーニングデータが記録された絶対パス)
4.プロファイルの変更
cfg/vocを修正する.data
cfg/yolov 3-vocを修正する.cfg
vimで開き、/yoloで検索
各yolo検索ポイントのconvレイヤに対して、filterを3*(5+len(classes))に変更し、yoloレイヤはclassesを変更すればよい.
同時にファイルの一番上の部分はいくつかの訓練パラメータを修正することができます
5.トレーニング開始
darknetウェイトの準備
トレーニング開始(gpu指定)
トレーニングの開始(トレーニングロゴを保存し、後続の図面に使用)
ストップから再訓練する
6.訓練完了後にlogファイルをロードしてloss図とiou図を描く
7.mAP計算
リファレンスメソッドhttps://blog.csdn.net/Gentleman_Qin/article/details/84800188
このコードの実行にはpython 2が必要です.7、しかし今すべてpython 3で、誰がまだ2を使います
修正が必要な箇所:
1.printの使い方、コメントをpython 3形式に変更してもいい
2.ファイルの読み書き方法、openはrまたはwのみでエラーを報告し、rbとwbに変更する(readlineの位置は変更しない)
具体的にはエラーによって修正すれば良いので、最終的にはAP値を出力します
1.環境構成
まずCUDAとCudnnは必須で、インストールは多くのチュートリアルがあってあまり書かないで、opencvインストールは比較的に面倒でインストールしなくてもいいです
2.ローカルコンパイルdarknet
githubからdarknetを取得
git clone https://github.com/pjreddie/darknet
cd darknetMakefileファイルの変更
GPU=1 # GPU 1，CPU 0
CUDNN=1 # CUDNN 1， 0
OPENCV=0 # ， OPENCV 1， 0
OPENMP=0 # OPENMP 1， 0
DEBUG=0 # DEBUG 1， 0darknetフォルダでコンパイル
makeyolov 3のプリトレーニングモデルをダウンロード
wget https://pjreddie.com/media/files/yolov3.weightsコンパイルに成功したかどうかをテスト
./darknet detector test cfg/coco.data cfg/yolov3.cfg yolov3.weights data/dog.jpg3.データセットの準備
一般的には、VOC形式のデータセットを準備してから、いくつかのスクリプトファイルをトレーニングに使用できるバージョンに変換します.
darknetフォルダの下にdatesetフォルダを作成します.内部構造は次のとおりです.
dataset
---JPEGImages# （ xml ， ）
---Annotations# xml
---ImageSets/Main # / txt （ ）画像データをJPEGImagesに、xmlの寸法ファイルをAnnotationsに、pyファイルを新規作成し、任意に名前を付けます(maketxt.pyなど).
import os
import random
trainval_percent = 0.1
train_percent = 0.9
xmlfilepath = 'Annotations'
txtsavepath = 'ImageSets\Main'
total_xml = os.listdir(xmlfilepath)
num = len(total_xml)
list = range(num)
tv = int(num * trainval_percent)
tr = int(tv * train_percent)
trainval = random.sample(list, tv)
train = random.sample(trainval, tr)
ftrainval = open('ImageSets/Main/trainval.txt', 'w')
ftest = open('ImageSets/Main/test.txt', 'w')
ftrain = open('ImageSets/Main/train.txt', 'w')
fval = open('ImageSets/Main/val.txt', 'w')
for i in list:
name = total_xml[i][:-4] + '
'
if i in trainval:
ftrainval.write(name)
if i in train:
ftest.write(name)
else:
fval.write(name)
else:
ftrain.write(name)
ftrainval.close()
ftrain.close()
fval.close()
ftest.close()実行するとImageSets/Mainパスの下でtrainが生成する.txt,val.txt,test.txtとtrainval.txt 4つの必須txtファイル
VOC形式のデータセットをdarknet形式に変換する(ポイント座標を正規化する)https://blog.csdn.net/hesongzefairy/article/details/104443573)
darknetフォルダにpyファイルを作成し、勝手に名前を付け、変更する場所はコメントを見る(darknet/scripts/voc_label.pyから変更)
import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join
# sets=[('2012', 'train'), ('2012', 'val'), ('2007', 'train'), ('2007', 'val'), ('2007', 'test')]
sets=[('dataset', 'train')] # ， train test
classes = ["person", "car"] # ， fastrcnn ， +1
def convert(size, box):
dw = 1./(size[0])
dh = 1./(size[1])
x = (box[0] + box[1])/2.0 - 1
y = (box[2] + box[3])/2.0 - 1
w = box[1] - box[0]
h = box[3] - box[2]
x = x*dw
w = w*dw
y = y*dh
h = h*dh
return (x,y,w,h)
def convert_annotation(year, image_id):
in_file = open('myData/Annotations/%s.xml'%(image_id)) VOCdevkit/VOC%s/Annotations/%s.xml
out_file = open('myData/labels/%s.txt'%(image_id), 'w') VOCdevkit/VOC%s/labels/%s.txt
tree=ET.parse(in_file)
root = tree.getroot()
size = root.find('size')
w = int(size.find('width').text)
h = int(size.find('height').text)
for obj in root.iter('object'):
difficult = obj.find('difficult').text
cls = obj.find('name').text
if cls not in classes or int(difficult)==1:
continue
cls_id = classes.index(cls)
xmlbox = obj.find('bndbox')
b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text), float(xmlbox.find('ymax').text))
bb = convert((w,h), b)
out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '
')
# wd = getcwd()
# for year, image_set in sets:
# if not os.path.exists('/labels/'): # myData
# os.makedirs('myData/labels/')
# image_ids = open('myData/ImageSets/Main/%s.txt'%(image_set)).read().strip().split()
# list_file = open('myData/%s_%s.txt'%(year, image_set), 'w')
# for image_id in image_ids:
# list_file.write('%s/myData/JPEGImages/%s.jpg
'%(wd, image_id))
# convert_annotation(year, image_id)
# list_file.close()実行後、datasetフォルダにdataset_が生成されます.train.txt(トレーニングデータが記録された絶対パス)
4.プロファイルの変更
cfg/vocを修正する.data
classes= 2 #
train = /home/XXX/darknet/dataset/dataset_train.txt # txt
names = /home/XXX/darknet/dataset/myData.names # ，
backup = /home/XXX/darknet/dataset/weights # cfg/yolov 3-vocを修正する.cfg
vimで開き、/yoloで検索
各yolo検索ポイントのconvレイヤに対して、filterを3*(5+len(classes))に変更し、yoloレイヤはclassesを変更すればよい.
同時にファイルの一番上の部分はいくつかの訓練パラメータを修正することができます
# Testing ###
# batch=1
# subdivisions=1
# Training ### ， = batch/subdivisions
batch=64
subdivisions=16
width=416 ### 、 、
height=416
channels=3
momentum=0.9 ###
decay=0.0005 ###
angle=0
saturation = 1.5 ###
exposure = 1.5 ###
hue=.1 ###
learning_rate=0.001 ###
burn_in=1000 ###
max_batches = 50200 ###
policy=steps ###
steps=40000,45000 ### 5.トレーニング開始
darknetウェイトの準備
wget https://pjreddie.com/media/files/darknet53.conv.74トレーニング開始(gpu指定)
./darknet detector train cfg/voc.data cfg/yolov3-voc.cfg darknet53.conv.74 -gpu 1トレーニングの開始(トレーニングロゴを保存し、後続の図面に使用)
./darknet detector train cfg/voc.data cfg/yolov3-voc.cfg darknet53.conv.74 -gpu 1 2>&1 | tee logs/train_yolov3.logストップから再訓練する
./darknet detector train cfg/voc.data cfg/yolov3-voc.cfg darknet53.conv.74 -gups 0 myData/weights/my_yolov3.backup6.訓練完了後にlogファイルをロードしてloss図とiou図を描く
# coding=utf-8
import os
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
import logging
logging.basicConfig(
level=logging.DEBUG,
format='%(asctime)s %(levelname)s: %(message)s',
datefmt='%Y-%m-%d %H:%M:%S'
)
logger = logging.getLogger(__name__)
class Yolov3LogVisualization:
def __init__(self, log_path, result_dir):
self.log_path = log_path
self.result_dir = result_dir
def extract_log(self, save_log_path, key_word):
with open(self.log_path, 'r') as f:
with open(save_log_path, 'w') as train_log:
next_skip = False
for line in f:
if next_skip:
next_skip = False
continue
# gpu log
if 'Syncing' in line:
continue
# log
if 'nan' in line:
continue
if 'Saving weights to' in line:
next_skip = True
continue
if key_word in line:
train_log.write(line)
f.close()
train_log.close()
def parse_loss_log(self, log_path, line_num=2000):
# ， ， 。
result = pd.read_csv(log_path,skiprows=[x for x in range(line_num) if (x<1500)],
error_bad_lines=False, names=['loss', 'avg', 'rate', 'seconds', 'images'])
result['loss'] = result['loss'].str.split(' ').str.get(1)
result['avg'] = result['avg'].str.split(' ').str.get(1)
result['rate'] = result['rate'].str.split(' ').str.get(1)
result['seconds'] = result['seconds'].str.split(' ').str.get(1)
result['images'] = result['images'].str.split(' ').str.get(1)
result['loss'] = pd.to_numeric(result['loss'])
result['avg'] = pd.to_numeric(result['avg'])
result['rate'] = pd.to_numeric(result['rate'])
result['seconds'] = pd.to_numeric(result['seconds'])
result['images'] = pd.to_numeric(result['images'])
return result
def gene_loss_pic(self, pd_loss):
fig = plt.figure()
ax = fig.add_subplot(1, 1, 1)
ax.plot(pd_loss['avg'].values, label='avg_loss')
ax.legend(loc='best')
ax.set_title('The loss curves')
ax.set_xlabel('batches')
fig.savefig(self.result_dir + '/avg_loss')
logger.info('save iou loss done')
def loss_pic(self):
train_log_loss_path = os.path.join(self.result_dir, 'train_log_loss.txt')
self.extract_log(train_log_loss_path, 'images')
pd_loss = self.parse_loss_log(train_log_loss_path)
self.gene_loss_pic(pd_loss)
def parse_iou_log(self, log_path, line_num=2000):
result = pd.read_csv(log_path, skiprows=[x for x in range(line_num) if (x % 10 == 0 or x % 10 == 9)],
error_bad_lines=False,
names=['Region Avg IOU', 'Class', 'Obj', 'No Obj', 'Avg Recall', 'count'])
result['Region Avg IOU'] = result['Region Avg IOU'].str.split(': ').str.get(1)
result['Class'] = result['Class'].str.split(': ').str.get(1)
result['Obj'] = result['Obj'].str.split(': ').str.get(1)
result['No Obj'] = result['No Obj'].str.split(': ').str.get(1)
result['Avg Recall'] = result['Avg Recall'].str.split(': ').str.get(1)
result['count'] = result['count'].str.split(': ').str.get(1)
result['Region Avg IOU'] = pd.to_numeric(result['Region Avg IOU'])
result['Class'] = pd.to_numeric(result['Class'])
result['Obj'] = pd.to_numeric(result['Obj'])
result['No Obj'] = pd.to_numeric(result['No Obj'])
result['Avg Recall'] = pd.to_numeric(result['Avg Recall'])
result['count'] = pd.to_numeric(result['count'])
return result
def gene_iou_pic(self, pd_loss):
fig = plt.figure()
ax = fig.add_subplot(1, 1, 1)
ax.plot(pd_loss['Region Avg IOU'].values, label='Region Avg IOU')
# ax.plot(result['Class'].values,label='Class')
# ax.plot(result['Obj'].values,label='Obj')
# ax.plot(result['No Obj'].values,label='No Obj')
# ax.plot(result['Avg Recall'].values,label='Avg Recall')
# ax.plot(result['count'].values,label='count')
ax.legend(loc='best')
ax.set_title('The Region Avg IOU curves')
ax.set_xlabel('batches')
fig.savefig(self.result_dir + '/region_avg_iou')
logger.info('save iou pic done')
def iou_pic(self):
train_log_loss_path = os.path.join(self.result_dir, 'train_log_iou.txt')
self.extract_log(train_log_loss_path, 'IOU')
pd_loss = self.parse_iou_log(train_log_loss_path)
self.gene_iou_pic(pd_loss)
if __name__ == '__main__':
log_path = '/home/studieren/ /darknet/log_analysis/train_yolov3.log'
result_dir = '/home/studieren/ /darknet/log_analysis'
logVis = Yolov3LogVisualization(log_path, result_dir)
logVis.loss_pic()
logVis.iou_pic()7.mAP計算
リファレンスメソッドhttps://blog.csdn.net/Gentleman_Qin/article/details/84800188
このコードの実行にはpython 2が必要です.7、しかし今すべてpython 3で、誰がまだ2を使います
修正が必要な箇所:
1.printの使い方、コメントをpython 3形式に変更してもいい
2.ファイルの読み書き方法、openはrまたはwのみでエラーを報告し、rbとwbに変更する(readlineの位置は変更しない)
具体的にはエラーによって修正すれば良いので、最終的にはAP値を出力します