CN113538391A - 一种基于Yolov4和热红外图像的光伏缺陷检测方法 - Google Patents
一种基于Yolov4和热红外图像的光伏缺陷检测方法 Download PDFInfo
- Publication number
- CN113538391A CN113538391A CN202110840607.0A CN202110840607A CN113538391A CN 113538391 A CN113538391 A CN 113538391A CN 202110840607 A CN202110840607 A CN 202110840607A CN 113538391 A CN113538391 A CN 113538391A
- Authority
- CN
- China
- Prior art keywords
- target
- training
- network
- data
- photovoltaic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10048—Infrared image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种基于Yolov4和热红外图像的光伏缺陷检测方法,属于深度学习、神经网络和光伏电站缺陷检测技术领域。具体方法如下:首先应用无人机对原始数据进行采集,将采集到的数据传回后台系统进行图像预处理;接着制作红外图像数据集,对标注好的红外图像进行先验框聚类;然后将图片放入网络进行训练,输出特征图片;最后对网络模型进行评估,并将预测网络整合到光伏检测后台系统,对无人机拍摄回传的红外图像可进行实时检测。本发明方法通过深度学习、热红外图像结合无人机成像技术实现红外热斑光伏检测,操作流程简单,相较于传统的光伏热斑检测方法,本发明方法大大节省了人力物力,且识别速度更快,热斑检测的准确率更高。
Description
技术领域
本发明涉及深度学习、神经网络和光伏电站热斑、裂痕检测技术领域,更具体地说,本发明是一种基于Yolov4和热红外图像的光伏缺陷检测方法。
背景技术
太阳能作为一种清洁能源,一直深得人们的青睐,光伏发电目前是应用太阳能发电最广泛的一种方式,同时也是相对成熟的一种方式,它没有噪声和辐射危害、不会污染环境,且独立光伏发电系统多建立在较偏远地区,不会对居民造成影响。
本发明中检测的光伏缺陷包括热斑和裂痕两种。光伏组件在工作时,组件中单体电池由于遮光或者本身原因导致电流降低,当工作电流超过该单体电池电流时,则该部分电池处于反向偏置状态,在电路中的功能由电源变成负载,消耗能量,从而在组件内部形成局部过热现象,产生热斑。外界环境的影响可能会导致裂痕的大面积产生,裂痕会使整块光伏板发热严重。热斑和裂痕的出现会严重的影响发热效率,甚至可能造成极大的危害,引起巨大的经济损失。
目前各大电厂都在检测热斑、裂痕,在防止危害发生方面付出了很多努力,如应用红外热成像仪对运行中的光伏组件进行探测,这种方法需要红外热成像仪和光伏组件之间保持一定范围内的距离,人工排查时要时刻注意衣物不能遮挡光伏组件。对于对外界天气条件需求较高,进行一次完整的巡检需要投入大量人力物力,在有限的检测时间内任务艰巨。
传统的目标检测方法主要采用手动提取特征,通过对拍摄回来的照片进行筛选和排查,在实际应用中无人机采集的红外图像没有明显的边缘特征,对于远距离大范围的光伏阵列识别度较低,肉眼识别难度较大且工作量大。随着无人机行业的发展以及深度学习图像处理的不断创新,为快速诊断光伏热故障提供了极大可能,相较于传统目标检测方法采用分类器处理各类特征,基于深度学习的目标检测在实时性和准确性上都有了实质性的突破,因此该检测方法逐渐成为主流。
本发明采用旋翼无人机搭载双光镜头采集图像,通过4G/5G网络快速回传,并在后台进行实时检测,在保证实时性的同时通过优化Yolov4模型,获得更高的检测精度。
发明内容
发明目的:本文的发明目的是提供一种保证检测速度和检测准确率的基于Yolov4和热红外图像的光伏缺陷检测方法。
技术方案:本发明提供一种基于Yolov4和热红外图像的光伏缺陷检测方法,包括以下步骤:
S1、原始数据的采集。在光照度较好的晴朗天气,应用旋翼无人机及搭载的双光镜头对光伏组件进行拍摄,为保证拍摄数据的适用性及避免误差的产生,设定好对光伏板进行垂直拍摄并保证高度一定,拍摄最好在春末、夏季、初秋的上午11时-下午16时之间的时间段内进行。拍摄后的光伏板图像会实时回传并进行下一步处理;
S2、对图像进行预处理。由于红外光伏图像目前没有开源的数据集,为了保证最终检测的准确性,使得结果更加准确,需要扩充数据集。本发明采取的办法是离线数据增强,即在训练前对标注完的红外图片进行水平翻转、旋转、倒置、裁剪拼接等方法增大原始数据集的数量;
S3、制作红外图像数据集。首先,使用开源工具Labelme对所有图像进行标注,生成包含标注信息的.json文件。接下来,将.json文件转换为.xml文件并存放在事先准备好的VOCdevkit结构目录下,其中包括存储.xml文件的Annotations文件,存放原始图片的JPEGImages文件以及存放.txt文件的ImageSets-Main。最后,需要根据自己写的脚本生成一系列的相关准备文件,其中包括训练集文件train.txt、验证集文件val.txt以及trainval.txt文件,并更改classes的类别信息;
S4、对标注好的红外图像进行先验框聚类。由于红外图像边缘不明显,且对小目标来说纹理特征很弱,对此需应用K-means算法对先验框进行聚类。由于自己的红外数据集与原数据集不同,需要更改anchors,本发明设置anchors_num=9,通过聚类后获取到9组匹配本红外训练集不同维度的先验框,并采用了DIOU_num对先验框进行筛选,由于DIOU_num考虑到边界框中心点的位置信息,因而更适合处理密集场景下的光伏目标检测;
S5、训练网络。将处理好的数据集放入网络中、并更改对应的类别信息、类别名称、训练迭代次数以及对应的文件路径,运行train.py脚本开始训练。神经网络的实质就是在正向传播过程中求取目标权值信息并计算损失,在反向传播过程中加入损失函数调节权值。通过上百次迭代得到的loss值很小时,便可保存权重文件用于目标检测。本发明中的骨干网络使用了CSPDarknet53网络结构,原Darknet53的结构,是由一系列残差结构组成,CSPDarknet53主干部分继续堆叠原来的残差块,支路部分则相当于一个残差边,经过少量处理直接连接到最后,每个卷积层均通过批量归一化Batch Normalization和Mish激活函数操作。CSPDarknet53在Darknet53的基础上增加了5个CSP模块,每个CSP模块前面的卷积核大小都是3×3,步长为2,输入图片的大小为608×608,特征图变化规律为:608→304→152→76→38→19,即经历五次变化后得到19×19的特征图,CSP模块现将基础层的特征映射划分为两部分,然后通过跨阶段层次结构将它们合并,在减少了计算量的同时保证了准确率;
S6、特征图的输出。图片输入模型处理完成后,会输出三种尺度的特征图,不同大小的特征图对应不同的先验框,yolo_head有两种输出,一种是在预测图片的时候输出的预测框的信息,另一种是在训练时计算loss输出的和特征图一样大小的网格,即未处理的预测框;
S7、对网络模型进行评估。以mAP值作为评价指标,若mAP值较低则调整网络继续训练,当mAP值达到理想值以上时,保存权重文件用于预测;
S8、将预测网络整合到光伏检测后台系统,输入精确的经纬度信息后即可按照定位点设定的航线飞行,并对光伏板进行自动拍摄,无人机拍摄回传的红外图像可进行实时检测,准确分析异常信息,便于及时进行维修处理。
进一步的,S5中为增强对小目标的检测,使用Mosaic数据增强。本发明使用的Mosaic数据增强是参考2019年底提出的CutMix数据增强的方式,但CutMix只使用了两张图片进行拼接,而Mosaic数据增强则采用了4张图片,随机缩放、随机裁剪、随机排布的方式进行拼接,红外光伏热斑目标一般较小,小目标的AP一般比中目标和大目标低很多,为了使识别更准确,随机使用4张图片,随机缩放,再随机分布进行拼接,大大丰富了检测数据集,特别是随机缩放增加了很多小目标,让网络的鲁棒性更好。此外Mosaic数据增强在训练时可以直接计算4张图片的数据,在扩充数据集的同时保证了训练速度;
进一步的,S5中在Backbone和输出层之间的Neck结构插入SPP模块、FPN+PAN模块,可以更好的提取融合特征。SPP结构掺杂在对CSPDarknet53的最后一个特征层的卷积里,在对CSPDarknet53的最后一个特征层进行三次卷积后,分别利用四个不同尺度的最大池化进行处理,最大池化的池化核大小分别为13×13、9×9、5×5、1×1。FPN是自顶向下的特征金字塔,将高层的强语义特征传递下来,对整个金字塔进行增强,通过上采样和低层特征做融合得到进行预测的特征图,PAN是自底向上的特征金字塔,将低层的强定位特征传递上去,对融合特征进行提取。
本发明提出的一种基于Yolov4和热红外图像的光伏缺陷检测方法,具有以下有益效果:
1.采用无人机对光伏板进行自动红外图像采集,大大节省了人力物力,最重要的是保证了实时性,在问题初期就能得到及时解决;
2.采用的Yolov4模型能更好的适应红外小目标的识别,在检测速度与检测精度上都有优异的表现,采用数据增强方法更有效增加了原始数据量,新的骨干网络更有益于识别热斑及裂痕特征。本发明对红外目标检测的mAP值可达到70.63%,可以满足目标检测需求。
附图说明
图1:无人机红外成像光伏检测系统流程图;
图2:本发明的整体流程图;
图3:本发明使用的网络结构模型。
具体实施方式
下面通过结合本发明方法的附图1,图2,图3,对本发明方法的技术方案进行进一步地说明。
一种基于Yolov4和热红外图像的光伏缺陷检测方法的具体工作流程如下所示:
S1、原始数据的采集。在光照度较好的晴朗天气,应用旋翼无人机及搭载的双光镜头对光伏组件进行自动航点拍摄,将光伏板的对应坐标中心点、采集高度和飞行距离设定好后,无人机可进行自主飞行采集光伏板红外热图像。为保证拍摄数据的适用性及避免误差的产生,设定好对光伏板进行垂直拍摄并保证高度一定,拍摄最好在春末、夏季、初秋的上午11时-下午16时之间的时间段内进行。拍摄后的光伏板红外图像会实时回传到后台处理系统并进行下一步处理;
S2、对图像进行离线增强预处理。对于深度学习图像处理来说,想要保证识别的准确率,大量的训练数据和验证数据是必不可少的,但由于红外光伏图像目前没有开源的数据集,为了保证最终检测的准确性,使得检测结果更加准确,需要采用离线数据增强即在输入Yolov4网络之前要对数据集进行扩充。本发明在训练前对标注完的红外图片的水平翻转、旋转、倒置、裁剪拼接等方法增大原始数据集;
S3、制作红外图像数据集。首先,使用开源工具Lableme对所有图像进行标注,生成包含标注信息的.json文件。接下来,用写好的脚本文件将.json文件转换为.xml文件并存放在事先准备好的VOCDevkit结构目录下,.xml文件中包含了图像目标点的名称以及标注框四个点的位置信息,包括xmin、ymin、xmax、ymax的具体数值。VOCDevkit目录结构为:存储.xml文件的Annotations文件,存放原始图片的JPEGImages文件以及存放.txt文件的ImageSets-Main。最后,根据自己写的脚本生成一系列的相关准备文件,其中包括训练集文件train.txt、验证集文件val.txt以及trainval.txt文件,并更改两个classes文件的目标类别信息;
S4、对标注好的红外图像进行先验框聚类。由于红外图像边缘不明显,且对小目标来说纹理特征很弱,对此需应用K-means算法对先验框进行聚类,k-means聚类算法的输入为X={x1,x2,…,xn},输出为Y={Y1,Y2,…,Yk},其中X包含n个对象,Y为k个彼此独立的类簇,具体步骤为:第一:选取初始聚类簇中心点。从输入数据集X中随机选取出k个数据对象;第二:分配聚类对象。通过计算数据集Y中数据与类簇中心点之间的相似程度,将聚类对象分配到与其相似程度最高的类簇中心点代表的类簇中;第三:更新类簇中心点信息。统计k个类簇中数据对象信息,将所有数据对象取均值并用其作为新的类簇中心点,用来更新类簇中心点信息;第四:重复迭代并保存结果。迭代执行上述的第二步和第三步直至聚类算法执行完毕,k个类簇中心点不再发生变化。对于样本集D={x1,x2,…,xn},k-means聚类算法实质上就是针对聚类划分C={C1,C2,…,Ck}的最小平方误差,其公式如下:
上式中是簇Ci的均值向量。由于自己的红外数据集与Yolov4测试用的VOC2007可见光数据集不同,需要更改anchors,本发明设置anchors_num=9,通过聚类后获取到9组匹配本红外训练集不同维度的先验框,分别为:(6×4),(6×5),(6×7),(8×6),(8×7),(9×7),(11×9),(30×39),(35×48),对先验框进行筛选采用了DIOU_num,由于DIOU_num考虑到边界框中心点的位置信息,因而更适合处理密集场景下的光伏目标检测。DIOU_Loss考虑了重叠面积和中心点距离,当目标框包裹预测框时,直接度量2个框的距离,因此收敛更快,其公式如下:
上式中b和bgt表示b和bgt的中心点,ρ(·)是欧几里得距离,c是覆盖两个框的最小封闭框的对角线长度;
S5、训练网络。将处理好的数据集放入网络中、并更改对应的classes文件类别信息、类别名称、训练迭代次数以及对应的文件路径,初次训练设置总训练次数为300epoch,由于浅层特征在迭代次数增加到一定数量后相似度较高,而层数越高泛化能力越好,故设置到第200个epoch时冻结一部分CSPDarknet53训练网络,此外还可以一定程度上加快训练速度。接着加入Mosaic在线数据增强方法以及引入余弦退火衰减方法,余弦退火衰减可以通过余弦函数来降低网络学习率,当网络训练过程中,我们会使用梯度下降法来优化目标函数,当损失不断接近全局最小值时,余弦退火函数便起到了作用,由于余弦函数曲线的特性,使得函数值先缓慢下降再快速下降,如此往复与学习率配合,能得到很好的效果,其原理如下:
上式中i表示第几次运行程序;和表示学习率的最大最小值;对TCUR可举例理解为:当总样本数为160,batch=16时,则一个epoch中会循环10次,此时每执行完一个batch,TCUR的值为110=0.1;Ti为第i次运行的epoch总数。
接下来运行train.py脚本开始训练。神经网络的实质就是在正向传播过程中求取目标权值信息并计算损失,在反向传播过程中加入损失函数调节权值。通过上百次迭代得到的loss值很小时,便可保存权重文件用于目标检测。本发明中的骨干网络使用了CSPDarknet53网络结构,原Darknet53的结构,是由一系列残差结构组成,CSPDarknet53主干部分继续堆叠原来的残差块,支路部分则相当于一个残差边,经过少量处理直接连接到最后,每个卷积层均通过批量归一化Batch Normalization和Mish激活函数操作,Mish激活函数能够进一步提高训练精度,其原理如下所示:
y=x*tanh(ln(1+exp(x)))
CSPDarknet53在Darknet53的基础上增加了5个CSP模块,每个CSP模块前面的卷积核大小都是3×3,步长为2,输入图片的大小为608×608,特征图变化规律为:608→304→152→76→38→19,即经历五次变化后得到19×19的特征图,CSP模块现将基础层的特征映射划分为两部分,然后通过跨阶段层次结构将它们合并,在减少了计算量的同时保证了准确率;
在训练网络过程中,为增强对小目标的检测,使用Mosaic数据增强。本发明使用的Mosaic数据增强是参考2019年底提出的CutMix数据增强的方式,但CutMix只使用了两张图片进行拼接,而Mosaic数据增强则采用了4张图片,随机缩放、随机裁剪、随机排布的方式进行拼接,红外光伏热斑目标一般较小,小目标的AP一般比中目标和大目标低很多,为了使识别更准确,随机使用4张图片,随机缩放,再随机分布进行拼接,大大丰富了检测数据集,特别是随机缩放增加了很多小目标,让网络的鲁棒性更好。此外Mosaic数据增强在训练时可以直接计算4张图片的数据,在扩充数据集的同时保证了训练速度;
在训练网络过程中,在Backbone和输出层之间的Neck结构插入SPP模块、FPN+PAN模块,可以更好的提取融合特征。SPP结构应用在对CSPDarknet53的最后一个特征层的卷积里,在对CSPDarknet53的最后一个特征层进行三次卷积后,分别利用四个不同尺度的最大池化进行处理,最大池化下采样的池化核大小分别为13×13、9×9、5×5、1×1。FPN是自顶向下的特征金字塔,将高层的强语义特征传递下来,对整个金字塔进行增强,通过上采样和低层特征做融合得到进行预测的特征图,PAN是自底向上的特征金字塔,将低层的强定位特征传递上去,对融合特征进行提取;
S6、特征图的输出。图片输入模型处理完成后,会输出三种尺度的特征图,不同大小的特征图对应不同的先验框,yolo_head有两种输出,一种是在预测图片的时候输出的预测框的信息,另一种是在训练时计算loss输出的和特征图一样大小的网格,即未处理的预测框,其中损失函数包含三个方面:类别损失、置信度损失、位置损失:
类别损失函数采用原始的多类别交叉熵损失(因为不会出现一个异常属于多种类别的情况,故没有用二值交叉熵),其公式如下:
目标置信度采用二值交叉熵损失计算,可以将其理解为预测目标矩形框内存在目标的概率,其公式如下:
位置损失采用了CIOU_Loss,IOU仅仅是考虑了预测框与真实框的交并比,而CIOU目标框回归函数应该考虑三个重要几何因素:重叠面积、中心点距离,长宽比,其公式如下:
S7、对网络模型进行评估。以mAP值作为评价指标,若mAP值较低则调整网络继续训练,当mAP值达到理想值以上时,保存权重文件用于预测;
S8、将预测网络整合到光伏检测后台系统,输入精确的经纬度信息后即可按照定位点设定的航线飞行,并对光伏板进行自动拍摄,无人机拍摄回传的红外图像可进行实时检测,准确分析异常信息,便于及时进行维修处理。
Claims (1)
1.一种基于Yolov4和热红外图像的光伏缺陷检测方法,包括以下步骤:
S1、原始数据的采集,在光照度较好的晴朗天气,应用旋翼无人机及搭载的双光镜头对光伏组件进行自动航点拍摄,将光伏板的对应坐标中心点、采集高度和飞行距离设定好后,无人机可进行自主飞行采集光伏板红外热图像;为保证拍摄数据的适用性及避免误差的产生,设定好对光伏板进行垂直拍摄并保证高度一定,拍摄最好在春末、夏季、初秋的上午11时-下午16时之间的时间段内进行;拍摄后的光伏板红外图像会实时回传到后台处理系统并进行下一步处理;
S2、对图像进行离线增强预处理,对于深度学习图像处理来说,想要保证识别的准确率,大量的训练数据和验证数据是必不可少的,但由于红外光伏图像目前没有开源的数据集,为了保证最终检测的准确性,使得检测结果更加准确,需要采用离线数据增强即在输入Yolov4网络之前要对数据集进行扩充;本发明在训练前对标注完的红外图片的水平翻转、旋转、倒置、裁剪拼接等方法增大原始数据集;
S3、制作红外图像数据集,首先,使用开源工具Lableme对所有图像进行标注,生成包含标注信息的.json文件;接下来,用写好的脚本文件将.json文件转换为.xml文件并存放在事先准备好的VOCDevkit结构目录下,.xml文件中包含了图像目标点的名称以及标注框四个点的位置信息,包括xmin、ymin、xmax、ymax的具体数值;VOCDevkit目录结构为:存储.xml文件的Annotations文件,存放原始图片的JPEGImages文件以及存放.txt文件的ImageSets-Main;最后,根据自己写的脚本生成一系列的相关准备文件,其中包括训练集文件train.txt、验证集文件val.txt以及trainval.txt文件,并更改两个classes文件的目标类别信息;
S4、对标注好的红外图像进行先验框聚类;由于红外图像边缘不明显,且对小目标来说纹理特征很弱,对此需应用K-means算法对先验框进行聚类,k-means聚类算法的输入为X={x1,x2,…,xn},输出为Y={Y1,Y2,…,Yk},其中X包含n个对象,Y为k个彼此独立的类簇,具体步骤为:第一:选取初始聚类簇中心点;从输入数据集X中随机选取出k个数据对象;第二:分配聚类对象,通过计算数据集Y中数据与类簇中心点之间的相似程度,将聚类对象分配到与其相似程度最高的类簇中心点代表的类簇中;第三:更新类簇中心点信息,统计k个类簇中数据对象信息,将所有数据对象取均值并用其作为新的类簇中心点,用来更新类簇中心点信息;第四:重复迭代并保存结果,迭代执行上述的第二步和第三步直至聚类算法执行完毕,k个类簇中心点不再发生变化;对于样本集D={x1,x2,…,xn},k-means聚类算法实质上就是针对聚类划分C={C1,C2,…,Ck}的最小平方误差,其公式如下:
上式中是簇Ci的均值向量;由于自己的红外数据集与Yolov4测试用的VOC2007可见光数据集不同,需要更改anchors,本发明设置anchors_num=9,通过聚类后获取到9组匹配本红外训练集不同维度的先验框,分别为:(6×4),(6×5),(6×7),(8×6),(8×7),(9×7),(11×9),(30×39),(35×48),对先验框进行筛选采用了DIOU_num,由于DIOU_num考虑到边界框中心点的位置信息,因而更适合处理密集场景下的光伏目标检测;DIOU_Loss考虑了重叠面积和中心点距离,当目标框包裹预测框时,直接度量2个框的距离,因此收敛更快,其公式如下:
上式中b和bgt表示b和bgt的中心点,ρ(·)是欧几里得距离,c是覆盖两个框的最小封闭框的对角线长度;
S5、训练网络;将处理好的数据集放入网络中、并更改对应的classes文件类别信息、类别名称、训练迭代次数以及对应的文件路径,初次训练设置总训练次数为300epoch,由于浅层特征在迭代次数增加到一定数量后相似度较高,而层数越高泛化能力越好,故设置到第200个epoch时冻结一部分CSPDarknet53训练网络,此外还可以一定程度上加快训练速度;接着加入Mosaic在线数据增强方法以及引入余弦退火衰减方法,余弦退火衰减可以通过余弦函数来降低网络学习率,当网络训练过程中,我们会使用梯度下降法来优化目标函数,当损失不断接近全局最小值时,余弦退火函数便起到了作用,由于余弦函数曲线的特性,使得函数值先缓慢下降再快速下降,如此往复与学习率配合,能得到很好的效果,其原理如下:
上式中i表示第几次运行程序;和表示学习率的最大最小值;对TCUR可举例理解为:当总样本数为160,batch=16时,则一个epoch中会循环10次,此时每执行完一个batch,TCUR的值为1/10=0.1;Ti为第i次运行的epoch总数;
接下来运行train.py脚本开始训练;神经网络的实质就是在正向传播过程中求取目标权值信息并计算损失,在反向传播过程中加入损失函数调节权值;通过上百次迭代得到的loss值很小时,便可保存权重文件用于目标检测;本发明中的骨干网络使用了CSPDarknet53网络结构,原Darknet53的结构,是由一系列残差结构组成,CSPDarknet53主干部分继续堆叠原来的残差块,支路部分则相当于一个残差边,经过少量处理直接连接到最后,每个卷积层均通过批量归一化Batch Normalization和Mish激活函数操作,Mish激活函数能够进一步提高训练精度,其原理如下所示:
y=x*tanh(ln(1+exp(x)))
CSPDarknet53在Darknet53的基础上增加了5个CSP模块,每个CSP模块前面的卷积核大小都是3×3,步长为2,输入图片的大小为608×608,特征图变化规律为:608→304→152→76→38→19,即经历五次变化后得到19×19的特征图,CSP模块现将基础层的特征映射划分为两部分,然后通过跨阶段层次结构将它们合并,在减少了计算量的同时保证了准确率;
在训练网络过程中,为增强对小目标的检测,使用Mosaic数据增强;本发明使用的Mosaic数据增强是参考2019年底提出的CutMix数据增强的方式,但CutMix只使用了两张图片进行拼接,而Mosaic数据增强则采用了4张图片,随机缩放、随机裁剪、随机排布的方式进行拼接,红外光伏热斑目标一般较小,小目标的AP一般比中目标和大目标低很多,为了使识别更准确,随机使用4张图片,随机缩放,再随机分布进行拼接,大大丰富了检测数据集,特别是随机缩放增加了很多小目标,让网络的鲁棒性更好;此外Mosaic数据增强在训练时可以直接计算4张图片的数据,在扩充数据集的同时保证了训练速度;
在训练网络过程中,在Backbone和输出层之间的Neck结构插入SPP模块、FPN+PAN模块,可以更好的提取融合特征;SPP结构应用在对CSPDarknet53的最后一个特征层的卷积里,在对CSPDarknet53的最后一个特征层进行三次卷积后,分别利用四个不同尺度的最大池化进行处理,最大池化下采样的池化核大小分别为13×13、9×9、5×5、1×1;FPN是自顶向下的特征金字塔,将高层的强语义特征传递下来,对整个金字塔进行增强,通过上采样和低层特征做融合得到进行预测的特征图,PAN是自底向上的特征金字塔,将低层的强定位特征传递上去,对融合特征进行提取;
S6、特征图的输出;图片输入模型处理完成后,会输出三种尺度的特征图,不同大小的特征图对应不同的先验框,yolo_head有两种输出,一种是在预测图片的时候输出的预测框的信息,另一种是在训练时计算loss输出的和特征图一样大小的网格,即未处理的预测框,其中损失函数包含三个方面:类别损失、置信度损失、位置损失:
类别损失函数采用原始的多类别交叉熵损失(因为不会出现一个异常属于多种类别的情况,故没有用二值交叉熵),其公式如下:
目标置信度采用二值交叉熵损失计算,可以将其理解为预测目标矩形框内存在目标的概率,其公式如下:
位置损失采用了CIOU_Loss,IOU仅仅是考虑了预测框与真实框的交并比,而CIOU目标框回归函数应该考虑三个重要几何因素:重叠面积、中心点距离,长宽比,其公式如下:
S7、对网络模型进行评估;以mAP值作为评价指标,若mAP值较低则调整网络继续训练,当mAP值达到理想值以上时,保存权重文件用于预测;
S8、将预测网络整合到光伏检测后台系统,输入精确的经纬度信息后即可按照定位点设定的航线飞行,并对光伏板进行自动拍摄,无人机拍摄回传的红外图像可进行实时检测,准确分析异常信息,便于及时进行维修处理。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110840607.0A CN113538391B (zh) | 2021-07-25 | 2021-07-25 | 一种基于Yolov4和热红外图像的光伏缺陷检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110840607.0A CN113538391B (zh) | 2021-07-25 | 2021-07-25 | 一种基于Yolov4和热红外图像的光伏缺陷检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113538391A true CN113538391A (zh) | 2021-10-22 |
CN113538391B CN113538391B (zh) | 2022-08-02 |
Family
ID=78088915
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110840607.0A Active CN113538391B (zh) | 2021-07-25 | 2021-07-25 | 一种基于Yolov4和热红外图像的光伏缺陷检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113538391B (zh) |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114022482A (zh) * | 2022-01-07 | 2022-02-08 | 浙江正泰智维能源服务有限公司 | 光伏板点状热斑检测方法、装置、设备及可读存储介质 |
CN114037918A (zh) * | 2021-11-10 | 2022-02-11 | 吉林大学 | 一种基于无人机巡检和图像处理的光伏热斑检测方法 |
CN114092838A (zh) * | 2021-11-12 | 2022-02-25 | 前郭县富邦能源科技服务有限公司 | 一种基于深度学习目标检测的光伏缺陷检测方法 |
CN114115359A (zh) * | 2021-10-26 | 2022-03-01 | 南京邮电大学 | 一种无人机山区寻羊系统及其工作方法 |
CN114120150A (zh) * | 2021-11-10 | 2022-03-01 | 吉林省春城热力股份有限公司 | 一种基于无人机成像技术的道路目标检测方法 |
CN114648708A (zh) * | 2022-03-28 | 2022-06-21 | 国网电子商务有限公司 | 光伏组件的状态检测方法及装置、存储介质及电子设备 |
CN114898458A (zh) * | 2022-04-15 | 2022-08-12 | 中国兵器装备集团自动化研究所有限公司 | 基于图像处理的厂区人数监测方法、系统、终端及介质 |
CN114972225A (zh) * | 2022-05-16 | 2022-08-30 | 上海可明科技有限公司 | 一种基于深度学习的两阶段光伏板缺陷检测方法 |
CN115049663A (zh) * | 2022-08-16 | 2022-09-13 | 星逻智能科技(苏州)有限公司 | 基于无人机双光融合绝缘子缺陷检测方法及系统 |
CN116188502A (zh) * | 2023-04-27 | 2023-05-30 | 尚特杰电力科技有限公司 | 光伏板红外图像分割方法、存储介质以及电子设备 |
CN116630720A (zh) * | 2023-06-09 | 2023-08-22 | 中国电子技术标准化研究院 | 一种基于YoloV7的抗原检测结果识别方法 |
CN116756497A (zh) * | 2023-08-14 | 2023-09-15 | 山东中泳电子股份有限公司 | 一种超薄出发判断器的灵敏性测试方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104778837A (zh) * | 2015-04-14 | 2015-07-15 | 吉林大学 | 一种道路交通运行态势多时间尺度预测方法 |
US20200175311A1 (en) * | 2018-11-29 | 2020-06-04 | Element Ai Inc. | System and method for detecting and tracking objects |
CN112036464A (zh) * | 2020-08-26 | 2020-12-04 | 国家电网有限公司 | 一种基于YOLOv3-tiny算法的绝缘子红外图像故障检测方法 |
CN112164038A (zh) * | 2020-09-16 | 2021-01-01 | 上海电力大学 | 一种基于深度卷积神经网络的光伏热斑检测方法 |
CN112200764A (zh) * | 2020-09-02 | 2021-01-08 | 重庆邮电大学 | 一种基于热红外图像的光伏电站热斑检测与定位方法 |
WO2021042682A1 (zh) * | 2019-09-03 | 2021-03-11 | 国网辽宁省电力有限公司电力科学研究院 | 变电站异物识别方法、装置、系统、电子设备和存储介质 |
CN112927222A (zh) * | 2021-03-29 | 2021-06-08 | 福州大学 | 一种基于混合改进Faster R-CNN实现多种类光伏阵列热斑检测方法 |
US20210174149A1 (en) * | 2018-11-20 | 2021-06-10 | Xidian University | Feature fusion and dense connection-based method for infrared plane object detection |
-
2021
- 2021-07-25 CN CN202110840607.0A patent/CN113538391B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104778837A (zh) * | 2015-04-14 | 2015-07-15 | 吉林大学 | 一种道路交通运行态势多时间尺度预测方法 |
US20210174149A1 (en) * | 2018-11-20 | 2021-06-10 | Xidian University | Feature fusion and dense connection-based method for infrared plane object detection |
US20200175311A1 (en) * | 2018-11-29 | 2020-06-04 | Element Ai Inc. | System and method for detecting and tracking objects |
WO2021042682A1 (zh) * | 2019-09-03 | 2021-03-11 | 国网辽宁省电力有限公司电力科学研究院 | 变电站异物识别方法、装置、系统、电子设备和存储介质 |
CN112036464A (zh) * | 2020-08-26 | 2020-12-04 | 国家电网有限公司 | 一种基于YOLOv3-tiny算法的绝缘子红外图像故障检测方法 |
CN112200764A (zh) * | 2020-09-02 | 2021-01-08 | 重庆邮电大学 | 一种基于热红外图像的光伏电站热斑检测与定位方法 |
CN112164038A (zh) * | 2020-09-16 | 2021-01-01 | 上海电力大学 | 一种基于深度卷积神经网络的光伏热斑检测方法 |
CN112927222A (zh) * | 2021-03-29 | 2021-06-08 | 福州大学 | 一种基于混合改进Faster R-CNN实现多种类光伏阵列热斑检测方法 |
Non-Patent Citations (3)
Title |
---|
SHUANGJIANG DU .ETC: ""Weak and Occluded Vehicle Detection in Complex Infrared Environment Based on Improved YOLOv4"", 《IEEE ACCESS》 * |
周全民 等: ""YOLO系列算法在光伏组件缺陷检测中的应用与分析"", 《新型工业化》 * |
林赐云 等: ""GPS数据在线地图匹配与数据分析微实验设计与开发"", 《当代教育实践与教学研究》 * |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114115359A (zh) * | 2021-10-26 | 2022-03-01 | 南京邮电大学 | 一种无人机山区寻羊系统及其工作方法 |
CN114115359B (zh) * | 2021-10-26 | 2024-06-14 | 南京邮电大学 | 一种无人机山区寻羊系统及其工作方法 |
CN114037918B (zh) * | 2021-11-10 | 2024-04-16 | 吉林大学 | 一种基于无人机巡检和图像处理的光伏热斑检测方法 |
CN114037918A (zh) * | 2021-11-10 | 2022-02-11 | 吉林大学 | 一种基于无人机巡检和图像处理的光伏热斑检测方法 |
CN114120150A (zh) * | 2021-11-10 | 2022-03-01 | 吉林省春城热力股份有限公司 | 一种基于无人机成像技术的道路目标检测方法 |
CN114092838A (zh) * | 2021-11-12 | 2022-02-25 | 前郭县富邦能源科技服务有限公司 | 一种基于深度学习目标检测的光伏缺陷检测方法 |
CN114022482A (zh) * | 2022-01-07 | 2022-02-08 | 浙江正泰智维能源服务有限公司 | 光伏板点状热斑检测方法、装置、设备及可读存储介质 |
CN114648708A (zh) * | 2022-03-28 | 2022-06-21 | 国网电子商务有限公司 | 光伏组件的状态检测方法及装置、存储介质及电子设备 |
CN114898458A (zh) * | 2022-04-15 | 2022-08-12 | 中国兵器装备集团自动化研究所有限公司 | 基于图像处理的厂区人数监测方法、系统、终端及介质 |
CN114972225A (zh) * | 2022-05-16 | 2022-08-30 | 上海可明科技有限公司 | 一种基于深度学习的两阶段光伏板缺陷检测方法 |
CN115049663A (zh) * | 2022-08-16 | 2022-09-13 | 星逻智能科技(苏州)有限公司 | 基于无人机双光融合绝缘子缺陷检测方法及系统 |
CN116188502A (zh) * | 2023-04-27 | 2023-05-30 | 尚特杰电力科技有限公司 | 光伏板红外图像分割方法、存储介质以及电子设备 |
CN116630720A (zh) * | 2023-06-09 | 2023-08-22 | 中国电子技术标准化研究院 | 一种基于YoloV7的抗原检测结果识别方法 |
CN116756497A (zh) * | 2023-08-14 | 2023-09-15 | 山东中泳电子股份有限公司 | 一种超薄出发判断器的灵敏性测试方法 |
CN116756497B (zh) * | 2023-08-14 | 2023-11-07 | 山东中泳电子股份有限公司 | 一种超薄出发判断器的灵敏性测试方法 |
Also Published As
Publication number | Publication date |
---|---|
CN113538391B (zh) | 2022-08-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113538391B (zh) | 一种基于Yolov4和热红外图像的光伏缺陷检测方法 | |
WO2015104281A1 (en) | Solar irradiance forecasting | |
CN114529817A (zh) | 基于注意力神经网络的无人机光伏故障诊断及定位方法 | |
CN107742171B (zh) | 基于移动阴影图像识别的光伏电站发电功率预测方法 | |
CN109741320A (zh) | 一种基于航拍图像的风电叶片故障检测方法 | |
CN114973032B (zh) | 一种基于深度卷积神经网络的光伏板热斑检测方法及装置 | |
CN107562992B (zh) | 一种基于svm和粒子群算法的光伏列阵最大功率跟踪方法 | |
CN110909623B (zh) | 三维目标检测方法及三维目标检测器 | |
CN115909093A (zh) | 一种基于无人机巡检和红外图像语义分割的电力设备故障检测方法 | |
CN114283137A (zh) | 基于多尺度特征图推理网络的光伏组件热斑缺陷检测方法 | |
CN112365468A (zh) | 基于AA-gate-Unet的海上风电塔筒涂层缺陷检测方法 | |
CN113222896A (zh) | 一种基于元学习的光伏面板缺陷检测方法 | |
CN116503318A (zh) | 一种融合CAT-BiFPN与注意力机制的航拍绝缘子多缺陷检测方法、系统及设备 | |
CN115984543A (zh) | 一种基于红外与可见光图像的目标检测算法 | |
CN115240069A (zh) | 一种全雾天场景下的实时性障碍物检测方法 | |
Zou et al. | Automatic segmentation, inpainting, and classification of defective patterns on ancient architecture using multiple deep learning algorithms | |
CN114897857A (zh) | 基于轻量型神经网络的太阳能电池缺陷检测方法 | |
CN117374956A (zh) | 一种针对综合能源站光伏发电的短期预测方法 | |
Terrén-Serrano et al. | Kernel learning for intra-hour solar forecasting with infrared sky images and cloud dynamic feature extraction | |
Chen et al. | 3D cumulus cloud scene modelling and shadow analysis method based on ground-based sky images | |
CN113902792A (zh) | 基于改进RetinaNet网络的建筑物高度检测方法、系统和电子设备 | |
Li et al. | Building an online defect detection system for large-scale photovoltaic plants | |
CN109727217B (zh) | 基于改进Criminisi算法的地基云图修复方法 | |
Tapakis et al. | Monitoring cloud motion in cyprus for solar irradiance prediction | |
Özer et al. | An approach based on deep learning methods to detect the condition of solar panels in solar power plants |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |