CN112288694A - 一种基于掩膜区域卷积神经网的变电设备缺陷识别的方法 - Google Patents
一种基于掩膜区域卷积神经网的变电设备缺陷识别的方法 Download PDFInfo
- Publication number
- CN112288694A CN112288694A CN202011118132.6A CN202011118132A CN112288694A CN 112288694 A CN112288694 A CN 112288694A CN 202011118132 A CN202011118132 A CN 202011118132A CN 112288694 A CN112288694 A CN 112288694A
- Authority
- CN
- China
- Prior art keywords
- layer
- image
- power transformation
- defect
- data set
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30232—Surveillance
Landscapes
- Engineering & Computer Science (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
Abstract
本发明提出了一种基于掩膜区域卷积神经网的变电设备缺陷识别的方法。本发明通过变电站视频设备采集变电设备图像,将采集的变电设备图像通过对抗生成网络方法得到变电设备图像数据集;对变电设备图像数据集中每幅变电设备图像依次进行人工标定,得到每幅变电设备图像中多个缺陷标定框以及多个缺陷类型,并得到人工标定后变电设备图像数据集;构建掩膜区域卷积神经网络,将人工标定后变电设备图像数据集作为训练集,对掩膜区域卷积神经网络进行训练得到训练后掩膜区域卷积神经网络。本发明提高了变电设备的运维巡检效率以及变电设备及其缺陷识别的模型精度,且本发明方法识别精度高、缺陷识别效率高。
Description
技术领域
本发明属于电力设备检测技术领域,尤其涉及一种基于掩膜区域卷积神经网的变电设备缺陷识别的方法。
背景技术
变电设备的正常运行是保障电力系统连续稳定运行的必要条件,安全可靠、先进有效的变电设备缺陷识别方法有助于实现变电站设备的高效管理,提高变电设备的运维效率,及时消除由于变电设备缺陷对电网安全稳定运行产生的安全威胁,确保电网可靠供电。
现有的变电设备运维巡检主要依靠人工,由于运维巡检方式的约束,无法做到有效对变电设备及其缺陷进行监测,存在误检、漏检、监测效率低等缺点。
发明内容
本发明的目的是,为了解决现有人工变电设备运维巡检中存在的误检、漏检、监测效率低等缺点,利用深度学习卷积神经网络,提出一种基于掩膜区域卷积神经网络的变电设备及缺陷识别的方法。
本发明的技术方案如下,一种基于掩膜区域卷积神经网的变电设备缺陷识别的方法,其特征在于包括以下步骤:
步骤1:通过变电站视频设备采集变电设备图像,将采集的变电设备图像通过对抗生成网络方法得到变电设备图像数据集;
步骤2:对变电设备图像数据集中每幅变电设备图像依次进行人工标定,得到每幅变电设备图像中多个缺陷标定框以及多个缺陷类型,并得到人工标定后变电设备图像数据集;
步骤3:构建掩膜区域卷积神经网络,将步骤2所述的人工标定后变电设备图像数据集作为训练集,对掩膜区域卷积神经网络进行训练得到训练后掩膜区域卷积神经网络;
作为优选,步骤1所述变电设备图像数据集为:
datak(x,y)
其中,datak(x,y)为变电设备图像数据集中第k幅变电设备图像中第x行第y列点的像素值,k∈[1,L],x∈[1,M],y∈[1,N],L为变电设备图像数据集中图像的数量,M为图像的行数,N为图像的列数;
作为优选,步骤2所述每幅变电设备图像中多个缺陷标定框为:
缺陷标定框左上角坐标为:(left_uk,i,left_vk,i);
缺陷标定框右下角坐标为:(left_uk,i,left_vk,i);
其中,k∈[1,L],L为变电设备图像数据集中图像的数量,i∈[1,Hk],Hk表示变电设备图像数据集中第k幅图像中变电设备缺陷标定框的数量,left_uk,i表示变电设备图像数据集中第k幅图像中第i个缺陷标定框左上角坐标的像素行数,left_vk,i表示变电设备图像数据集中第k幅图像中第i个缺陷标定框左上角坐标的像素列数,right_uk,i表示变电设备图像数据集中第k幅图像中第i个缺陷标定框右下角坐标的像素行数,right_vk,i表示变电设备图像数据集中第k幅图像中第i个缺陷标定框右下角坐标的像素列数;
步骤2所述每幅变电设备图像中多个缺陷类型为:
TYPEk,i
其中,k∈[1,L],L为变电设备图像数据集中图像的数量即变电设备缺陷标定框的数量,i∈[1,Hk],Hk表示变电设备图像数据集中第k幅图像中包含的变电设备缺陷数量即缺陷标定框的数量,TYPEk,i表示变电设备图像数据集中第k幅图像中第i个缺陷标定框中缺陷的类型,TYPEk,i∈[1,NUM],NUM为缺陷类型的数量;
步骤2所述人工标定后变电设备图像数据集为:
{datak(x,y),(left_uk,i,left_vk,i),(left_uk,i,left_vk,i),TYPEk,i}
作为优选,步骤3所述掩膜区域卷积神经网络包括:
改进特征金字塔网络层、区域建议网络层、感兴趣区域校准层、全连接层;
所述改进特征金字塔网络层用于对人工标定后变电设备数据集中图像进行下采样卷积得C1层,在C1层基础上进行下采样卷积得到C2层,依次串联下采样卷积得Cz层,z为正整数表示下采样卷积层的数量;
基于Cz层开始上采样卷积得Pz层,在Pz层基础上进行上采样卷积Pz-1层,依次串联下采样卷积得至得到P1层,计Pz-1层到Pz层卷积核为卷积核内参数表示为表示上采样卷积过程中第z层卷积核第q行第w列数值;
将Pz层特征图谱、Pz-1层特征图谱……P2层特征图谱按P1层特征图谱的像素矩阵大小依次进行图像像素周边补零操作,将补零后的Pz层、Pz-1层……P2层与P1层相叠加形成z通道特征图谱;
所述P1层特征图谱的像素矩阵表示为:
其中,e为P1层像素矩阵行列数,P1_e,e表示P1层第e行第e列像素。
补零后Ps层像素矩阵表示为,s∈[2,z]:
其中,Ps_o,o表示Ps层第o行第o列像素,o表示Ps层像素矩阵行列数,o∈[1,e-z-1],e为P1层像素矩阵行列数,z为正整数表示下采样卷积层的数量;
将得到的z通道特征图谱进行1×1卷积降维后得到单通道NP0层,由NP0层进行t×t卷积得到NP1层,依次串联进行t×t卷积得到NP2层……NPz-1层、NPz层,t∈[2,5];
将NPz层作为新特征图谱输入至区域建议网络;
所述区域建议网络通过特征图谱生成候选区域,具体为:
所述区域建议网络利用改进金字塔网络生成的新特征图谱作为输入,其输入为NPz_datak(x,y)的M×N的像素矩阵,NPz_datak(x,y)表示变电设备图像数据集中第k幅变电设备图像经过特征金字塔网络得到的特征图谱第x行第y列像素值,通过在特征图谱滑动窗口输出以(left_sugk,g,left_sugk,g)为左上角,(right_sugk,g,right_sugk,g)为右下角的区域建议框;
步骤3所述每幅变电设备图像中多个区域建议框为:
区域建议框左上角坐标为:(left_sugk,g,left_sugk,g);
区域建议框右下角坐标为:(right_sugk,g,right_sugk,g);
其中,k∈[1,L],L为变电设备图像数据集中图像的数量,g∈[1,Hk],Hk表示变电设备图像数据集中第k幅图像中变电设备缺陷标定框的数量,left_sugk,g表示变电设备图像数据集中第k幅图像中第g个区域建议框左上角坐标的像素行数,left_sugk,g表示变电设备图像数据集中第k幅图像中第g个区域建议框左上角坐标的像素列数,right_sugk,g表示变电设备图像数据集中第k幅图像中第g个区域建议框右下角坐标的像素行数,right_sugk,g表示变电设备图像数据集中第k幅图像中第g个区域建议框右下角坐标的像素列数;
记由区域建议框左上及右下角坐标形成的矩形[(left_sugk,g,left_sugk,g),(right_sugk,g,right_sugk,g)]中像素值为θk,g_σ,ρ,其中θk,g_σ,ρ代表第k幅图像形成的第g个区域建议框中第σ行第ρ列像素值,所述区域掩膜神经网络对区域建议框内θk,g_σ,ρ进行掩膜计算,输出为其中表示第k幅图像形成的第g个区域建议框中第σ行第ρ列掩膜计算二进制值;
所述感兴趣区域校准层用于对区域建议框的图像进行特征提取,遍历每一个候选区域,保持浮点数边界不做量化,将候选区域切分成2×2个单元格,将每个单元格均分为分割成c×c个单元,c为采样点数,c∈[2,∞],被均分单元定义为表示变电设备图像数据集中第k幅变电设备图像中第g个区域建议框第b个单元格中第j个单元,b∈[1,2],j∈[1,c2];
其中,表示由第k幅图像经过上述网络层得到的第g个区域建议框的第1个单元格中池化操作后的像素值,表示由第k幅图像经过上述网络层得到的第g个区域建议框的第2个单元格中池化操作后的像素值,表示由第k幅图像经过上述网络层得到的第g个区域建议框的第3个单元格中池化操作后的像素值,表示由第k幅图像经过上述网络层得到的第g个区域建议框的第4个单元格中池化操作后的像素值;
掩膜区域卷积神经网络损失函数为:
L=Lclass+Lbox+Lmask
其中,Lclass表示网络分类损失函数,Lbox表示网络定位损失函数,Lmask表示掩膜计算损失函数;
Lclass为二分类交叉熵函数,定义全连接层完成第k幅图像第g个缺陷锚框分类时用柔性最大值传输函数输出的概率为pk,g,Lclass(pk,g,pk,g*)=-log[pk,g*pk,g+(1-pk,g)(1-pk,g*),其中pk,g*定义为全连接层完成第k幅图像第g个缺陷锚框分类时的概率二分类输出;
所述概率二分类输出为:
pk,g大于0.7取值为1、小于0.7时取值为0时的二进制输出;
Lbox为回归损失函数,记
hk,g={(left_uk,i,left_vk,i),(right_uk,i,right_vk,i)},hk,g表示第k幅图像第g个缺陷锚框区域建议网络预测偏移量,其中hk,g*表示第k幅图像第g个缺陷锚框区域建议网络实际偏移量;
Lmask为掩膜计算损失函数,表达式如下:
sigmoid定义如下:
由步骤1中已完成标定的数据集置入网络进行训练,依据损失函数的反向传播及梯度下降原理迭代更新和其中表示上采样卷积过程中第z层卷积核第q行第w列数值,表示全连接层第m层第n个神经元权重,m∈[1,∞],n∈[1,∞],得到优化后采样卷积过程中第z层卷积核第q行第w列数值即优化后全连接层第m层第n个神经元权重即以构建掩膜区域卷积神经网络。
本发明优点在于:
本发明通过基于深度学习中掩膜区域卷积神经网的方法对变电设备及其缺陷进行图像识别,提高了变电设备的运维巡检效率。
本发明通过使用生成对抗网络进行变电设备及其缺陷数据集的补充,利用改进特征金字塔网络训练模型,提高了变电设备及其缺陷识别的模型精度。
本发明方法相比于现有的变电设备人工运维巡检方法,本发明方法具有识别精度高、缺陷识别效率高、有效降低运维成本等优点。
附图说明
图1:为变电设备及其缺陷识别流程框架图;
图2:为生成对抗网络补充变电设备及缺陷数据集流程框架图;
图3:本实施例变压器及缺陷识别模型框架图;
图4:为变电设备及其缺陷图像的特征金字塔网络图;
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。此外,下面所描述的本发明各个实施方式中所涉及到的技术特征只要彼此之间未构成冲突就可以相互组合。对于需要实际情况分析的参数,我们在上文已注明参数设定方法在此不做赘述。
本实施例以变压器为例,为代表被监测的变电设备对象。
如图1所示,为变电设备及其缺陷识别流程的基本框架图,包括变电设备图像获取、人工标定建立训练集、掩膜区域神经网训练、结果识别。
如图2所示,为生成对抗网络补充变电设备及其缺陷数据集方法图。
如图3所示,为变压器及其缺陷识别流程图。
如图4所示,为变电设备及其缺陷图像的特征金字塔网络图。
下面结合图1至图4介绍本发明的具体实施方式为一种基于掩膜区域卷积神经网的变电设备缺陷识别的方法,具体包括以下步骤:
步骤1:通过变电站视频设备采集变电设备图像,将采集的变电设备图像通过对抗生成网络方法得到变电设备图像数据集;
步骤1所述变电设备图像数据集为:
datak(x,y)
其中,datak(x,y)为变电设备图像数据集中第k幅变电设备图像中第x行第y列点的像素值,k∈[1,L],x∈[1,M],y∈[1,N],L为变电设备图像数据集中图像的数量,M为图像的行数,N为图像的列数;
步骤2:对变电设备图像数据集中每幅变电设备图像依次进行人工标定,得到每幅变电设备图像中多个缺陷标定框以及多个缺陷类型,并得到人工标定后变电设备图像数据集;
步骤2所述每幅变电设备图像中多个缺陷标定框为:
缺陷标定框左上角坐标为:(left_uk,i,left_vk,i);
缺陷标定框右下角坐标为:(right_uk,i,right_vk,i);
其中,k∈[1,L],L为变电设备图像数据集中图像的数量,i∈[1,Hk],Hk表示变电设备图像数据集中第k幅图像中变电设备缺陷标定框的数量,left_uk,i表示变电设备图像数据集中第k幅图像中第i个缺陷标定框左上角坐标的像素行数,left_vk,i表示变电设备图像数据集中第k幅图像中第i个缺陷标定框左上角坐标的像素列数,right_uk,i表示变电设备图像数据集中第k幅图像中第i个缺陷标定框右下角坐标的像素行数,right_vk,i表示变电设备图像数据集中第k幅图像中第i个缺陷标定框右下角坐标的像素列数;
步骤2所述每幅变电设备图像中多个缺陷类型为:
TYPEk,i
其中,k∈[1,L],L为变电设备图像数据集中图像的数量即变电设备缺陷标定框的数量,i∈[1,Hk],Hk表示变电设备图像数据集中第k幅图像中包含的变电设备缺陷数量即缺陷标定框的数量,TYPEk,i表示变电设备图像数据集中第k幅图像中第i个缺陷标定框中缺陷的类型,TYPEk,i∈[1,NUM],NUM为缺陷类型的数量;
步骤2所述人工标定后变电设备图像数据集为:
{datak(x,y),(left_uk,i,left_vk,i),(right_uk,i,right_vk,i),TYPEk,i}
步骤3:构建掩膜区域卷积神经网络,将步骤2所述的人工标定后变电设备图像数据集作为训练集,对掩膜区域卷积神经网络进行训练得到训练后掩膜区域卷积神经网络;
步骤3所述掩膜区域卷积神经网络包括:
改进特征金字塔网络层、区域建议网络层、感兴趣区域校准层、全连接层;
所述改进特征金字塔网络层用于对人工标定后变电设备数据集中图像进行下采样卷积得C1层,在C1层基础上进行下采样卷积得到C2层,依次串联下采样卷积得Cz层,z为正整数表示下采样卷积层的数量,z=5时取值模型较优;
基于Cz层开始上采样卷积得Pz层,在Pz层基础上进行上采样卷积Pz-1层,依次串联下采样卷积得至得到P1层,计Pz-1层到Pz层卷积核为卷积核内参数表示为表示上采样卷积过程中第z层卷积核第q行第w列数值;
将Pz层特征图谱、Pz-1层特征图谱……P2层特征图谱按P1层特征图谱的像素矩阵大小依次进行图像像素周边补零操作,将补零后的Pz层、Pz-1层……P2层与P1层相叠加形成z通道特征图谱;
所述P1层特征图谱的像素矩阵表示为:
其中,e为P1层像素矩阵行列数,P1_e,e表示P1层第e行第e列像素。
补零后Ps层像素矩阵表示为,s∈[2,z]:
其中,Ps_o,o表示Ps层第o行第o列像素,o表示Ps层像素矩阵行列数,o∈[1,e-z-1],e为P1层像素矩阵行列数,z为正整数表示下采样卷积层的数量;
将得到的z通道特征图谱进行1×1卷积降维后得到单通道NP0层,由NP0层进行t×t卷积得到NP1层,依次串联进行t×t卷积得到NP2层……NPz-1层、NPz层,t∈[2,5],t=3时模型训练较优;
将NPz层作为新特征图谱输入至区域建议网络;
所述区域建议网络通过特征图谱生成候选区域,具体为:
所述区域建议网络利用改进金字塔网络生成的新特征图谱作为输入,其输入为NPz_datak(x,y)的M×N的像素矩阵,NPz_datak(x,y)表示变电设备图像数据集中第k幅变电设备图像经过特征金字塔网络得到的特征图谱第x行第y列像素值,通过在特征图谱滑动窗口输出以(left_sugk,g,left_sugk,g)为左上角,(right_sugk,g,righ_sugk,g)为右下角的区域建议框;
步骤3所述每幅变电设备图像中多个区域建议框为:
区域建议框左上角坐标为:(left_sugk,g,left_sugk,g);
区域建议框右下角坐标为:(right_suk,g,right_sugk,g);
其中,k∈[1,L],L为变电设备图像数据集中图像的数量,g∈[1,Hk],Hk表示变电设备图像数据集中第k幅图像中变电设备缺陷标定框的数量,left_sugk,g表示变电设备图像数据集中第k幅图像中第g个区域建议框左上角坐标的像素行数,left_sugk,g表示变电设备图像数据集中第k幅图像中第g个区域建议框左上角坐标的像素列数,right_sugk,g表示变电设备图像数据集中第k幅图像中第g个区域建议框右下角坐标的像素行数,right_sugk,g表示变电设备图像数据集中第k幅图像中第g个区域建议框右下角坐标的像素列数;
记由区域建议框左上及右下角坐标形成的矩形[(left_sugk,g,left_sugk,g),(right_sugk,g,right_sugk,g)]中像素值为θk,g_σ,ρ,其中θk,g_σ,ρ代表第k幅图像形成的第g个区域建议框中第σ行第ρ列像素值,所述区域掩膜神经网络对区域建议框内θk,g_σ,ρ进行掩膜计算,输出为其中表示第k幅图像形成的第g个区域建议框中第σ行第ρ列掩膜计算二进制值;
所述感兴趣区域校准层用于对区域建议框的图像进行特征提取,遍历每一个候选区域,保持浮点数边界不做量化,将候选区域切分成2×2个单元格,将每个单元格均分为分割成c×c个单元,c为采样点数,c∈[2,∞],一般取c=4,被均分单元定义为表示变电设备图像数据集中第k幅变电设备图像中第g个区域建议框第b个单元格中第j个单元,b∈[1,2],j∈[1,c2];
其中,表示由第k幅图像经过上述网络层得到的第g个区域建议框的第1个单元格中池化操作后的像素值,表示由第k幅图像经过上述网络层得到的第g个区域建议框的第2个单元格中池化操作后的像素值,表示由第k幅图像经过上述网络层得到的第g个区域建议框的第3个单元格中池化操作后的像素值,表示由第k幅图像经过上述网络层得到的第g个区域建议框的第4个单元格中池化操作后的像素值;
掩膜区域卷积神经网络损失函数为:
L=Lclass+Lbox+Lmask
其中,Lclass表示网络分类损失函数,Lbox表示网络定位损失函数,Lmask表示掩膜计算损失函数;
Lclass为二分类交叉熵函数,定义全连接层完成第k幅图像第g个缺陷锚框分类时用柔性最大值传输函数输出的概率为pk,g,Lclass(pk,g,pk,g*)=-log[pk,g*pk,g+(1-pk,g)(1-pk,g*),其中pk,g*定义为全连接层完成第k幅图像第g个缺陷锚框分类时的概率二分类输出;
所述概率二分类输出为:
pk,g大于0.7取值为1、小于0.7时取值为0时的二进制输出;
Lbox为回归损失函数,记
hk,g={(left_uk,i,left_vk,i),(right_uk,i,right_vk,i)},hk,g表示第k幅图像第g个缺陷锚框区域建议网络预测偏移量,其中hk,g*表示第k幅图像第g个缺陷锚框区域建议网络实际偏移量;
Lmask为掩膜计算损失函数,表达式如下:
sigmoid定义如下:
由步骤1中已完成标定的数据集置入网络进行训练,依据损失函数的反向传播及梯度下降原理迭代更新和其中表示上采样卷积过程中第z层卷积核第q行第w列数值,表示全连接层第m层第n个神经元权重,m∈[1,∞],n∈[1,∞],得到优化后采样卷积过程中第z层卷积核第q行第w列数值即优化后全连接层第m层第n个神经元权重即以构建训练后掩膜区域卷积神经网络。
步骤4:根据训练后掩膜区域卷积神经网络生成的变电设备缺陷图像识别模型,变电设备巡检过程中经由自动化监控、巡检设备采集的图像置入图像识别模型后得到变电设备缺陷识别结果,完成变电设备巡检工作。
应当理解的是,本申请书未详细阐述的部分均属于现有技术。
应当理解的是,上述针对较佳实施例的描述较为详细,并不能因此而认为是对本申请专利保护范围的限制,本领域的普通技术人员在本发明的启示下,在不脱离本申请权利要求所保护的范围情况下,还可以做出替换或变形,均落入本申请的保护范围之内,本申请的请求保护范围应以所附权利要求为准。
Claims (4)
1.一种基于掩膜区域卷积神经网的变电设备缺陷识别的方法,其特征在于包括以下步骤:
步骤1:通过变电站视频设备采集变电设备图像,将采集的变电设备图像通过对抗生成网络方法得到变电设备图像数据集;
步骤2:对变电设备图像数据集中每幅变电设备图像依次进行人工标定,得到每幅变电设备图像中多个缺陷标定框以及多个缺陷类型,并得到人工标定后变电设备图像数据集;
步骤3:构建掩膜区域卷积神经网络,将步骤2所述的人工标定后变电设备图像数据集作为训练集,对掩膜区域卷积神经网络进行训练得到训练后掩膜区域卷积神经网络。
2.根据权利要求1所述的基于掩膜区域卷积神经网的变电设备缺陷识别的方法,其特征在于:
步骤1所述变电设备图像数据集为:
datak(x,y)
其中,datak(x,y)为变电设备图像数据集中第k幅变电设备图像中第x行第y列点的像素值,k∈[1,L],x∈[1,M],y∈[1,N],L为变电设备图像数据集中图像的数量,M为图像的行数,N为图像的列数。
3.根据权利要求1所述的基于掩膜区域卷积神经网的变电设备缺陷识别的方法,其特征在于:
步骤2所述每幅变电设备图像中多个缺陷标定框为:
缺陷标定框左上角坐标为:(left_uk,i,left_vk,i);
缺陷标定框右下角坐标为:(right_uk,i,right_vk,i);
其中,k∈[1,L],L为变电设备图像数据集中图像的数量,i∈[1,Hk],Hk表示变电设备图像数据集中第k幅图像中变电设备缺陷标定框的数量,left_uk,i表示变电设备图像数据集中第k幅图像中第i个缺陷标定框左上角坐标的像素行数,left_vk,i表示变电设备图像数据集中第k幅图像中第i个缺陷标定框左上角坐标的像素列数,right_uk,i表示变电设备图像数据集中第k幅图像中第i个缺陷标定框右下角坐标的像素行数,right_vk,i表示变电设备图像数据集中第k幅图像中第i个缺陷标定框右下角坐标的像素列数;
步骤2所述每幅变电设备图像中多个缺陷类型为:
TYPEk,i
其中,k∈[1,L],L为变电设备图像数据集中图像的数量即变电设备缺陷标定框的数量,i∈[1,Hk],Hk表示变电设备图像数据集中第k幅图像中包含的变电设备缺陷数量即缺陷标定框的数量,TYPEk,i表示变电设备图像数据集中第k幅图像中第i个缺陷标定框中缺陷的类型,TYPEk,i∈[1,NUM],NUM为缺陷类型的数量;
步骤2所述人工标定后变电设备图像数据集为:
{datak(x,y),(left_uk,i,left_vk,i),(right_uk,i,right_vk,i),TYPEk,i。
4.根据权利要求1所述的基于掩膜区域卷积神经网的变电设备缺陷识别的方法,其特征在于:
步骤3所述掩膜区域卷积神经网络包括:
改进特征金字塔网络层、区域建议网络层、感兴趣区域校准层、全连接层;
所述改进特征金字塔网络层用于对人工标定后变电设备数据集中图像进行下采样卷积得C1层,在C1层基础上进行下采样卷积得到C2层,依次串联下采样卷积得Cz层,z为正整数表示下采样卷积层的数量;
基于Cz层开始上采样卷积得Pz层,在Pz层基础上进行上采样卷积Pz-1层,依次串联下采样卷积得至得到P1层,计Pz-1层到Pz层卷积核为卷积核内参数表示为 表示上采样卷积过程中第z层卷积核第q行第w列数值;
将Pz层特征图谱、Pz-1层特征图谱……P2层特征图谱按P1层特征图谱的像素矩阵大小依次进行图像像素周边补零操作,将补零后的Pz层、Pz-1层……P2层与P1层相叠加形成z通道特征图谱;
所述P1层特征图谱的像素矩阵表示为:
其中,e为P1层像素矩阵行列数,P1_e,e表示P1层第e行第e列像素;
补零后Ps层像素矩阵表示为,s∈[2,z]:
其中,Ps_o,o表示Ps层第o行第o列像素,o表示Ps层像素矩阵行列数,o∈[1,e-z-1],e为P1层像素矩阵行列数,z为正整数表示下采样卷积层的数量;
将得到的z通道特征图谱进行1×1卷积降维后得到单通道NP0层,由NP0层进行t×t卷积得到NP1层,依次串联进行t×t卷积得到NP2层……NPz-1层、NPz层,t∈[2,5];
将NPz层作为新特征图谱输入至区域建议网络;
所述区域建议网络通过特征图谱生成候选区域,具体为:
所述区域建议网络利用改进金字塔网络生成的新特征图谱作为输入,其输入为NPz_datak(x,y)的M×N的像素矩阵,NPz_datak(x,y)表示变电设备图像数据集中第k幅变电设备图像经过特征金字塔网络得到的特征图谱第x行第y列像素值,通过在特征图谱滑动窗口输出以(left_sugk,g,left_sugk,g)为左上角,(right_sugk,g,right_sugk,g)为右下角的区域建议框;
步骤3所述每幅变电设备图像中多个区域建议框为:
区域建议框左上角坐标为:(left_sugk,g,left_sugk,g);
区域建议框右下角坐标为:(right_sugk,g,right_sugk,g);
其中,k∈[1,L],L为变电设备图像数据集中图像的数量,g∈[1,Hk],Hk表示变电设备图像数据集中第k幅图像中变电设备缺陷标定框的数量,left_sugk,g表示变电设备图像数据集中第k幅图像中第g个区域建议框左上角坐标的像素行数,left_sugk,g表示变电设备图像数据集中第k幅图像中第g个区域建议框左上角坐标的像素列数,right_sugk,g表示变电设备图像数据集中第k幅图像中第g个区域建议框右下角坐标的像素行数,right_sugk,g表示变电设备图像数据集中第k幅图像中第g个区域建议框右下角坐标的像素列数;
记由区域建议框左上及右下角坐标形成的矩形[(left_sugk,g,left_sugk,g),(right_sugk,g,right_sugk,g)]中像素值为θk,g_σ,ρ,其中θk,g_σ,ρ代表第k幅图像形成的第g个区域建议框中第σ行第ρ列像素值,所述区域掩膜神经网络对区域建议框内θk,g_σ,ρ进行掩膜计算,输出为outmask=θk,g_σ,ρ&Γk,g_σ,ρ,其中Γk,g_σ,ρ表示第k幅图像形成的第g个区域建议框中第σ行第ρ列掩膜计算二进制值;
所述感兴趣区域校准层用于对区域建议框的图像进行特征提取,遍历每一个候选区域,保持浮点数边界不做量化,将候选区域切分成2×2个单元格,将每个单元格均分为分割成c×c个单元,c为采样点数,c∈[2,∞],被均分单元定义为表示变电设备图像数据集中第k幅变电设备图像中第g个区域建议框第b个单元格中第j个单元,b∈[1,2],j∈[1,c2];
其中,表示由第k幅图像经过上述网络层得到的第g个区域建议框的第1个单元格中池化操作后的像素值,表示由第k幅图像经过上述网络层得到的第g个区域建议框的第2个单元格中池化操作后的像素值,表示由第k幅图像经过上述网络层得到的第g个区域建议框的第3个单元格中池化操作后的像素值,表示由第k幅图像经过上述网络层得到的第g个区域建议框的第4个单元格中池化操作后的像素值;
掩膜区域卷积神经网络损失函数为:
L=Lclass+Lbox-Lmask
其中,Lclass表示网络分类损失函数,Lbox表示网络定位损失函数,Lmask表示掩膜计算损失函数;
Lclass为二分类交叉熵函数,定义全连接层完成第k幅图像第g个缺陷锚框分类时用柔性最大值传输函数输出的概率为pk,g,Lclass(pk,g,pk,g*)=-log[pk,g*pk,g+(1-pk,g)(1-pk,g*),其中pk,g*定义为全连接层完成第k幅图像第g个缺陷锚框分类时的概率二分类输出;
所述概率二分类输出为:
pk,g大于0.7取值为1、小于0.7时取值为0时的二进制输出;
Lbox为回归损失函数,记
hk,g={(left_uk,i,left_vk,i),(right_uk,i,right_vk,i)},hk,g表示第k幅图像第g个缺陷锚框区域建议网络预测偏移量,其中hk,g*表示第k幅图像第g个缺陷锚框区域建议网络实际偏移量;
Lmask为掩膜计算损失函数,表达式如下:
其中,1z表示z通道对应目标的真实类别时为1、否则为0,sigmoid(θk,g_σ,ρ)表示第k幅图像形成的第g个区域建议框中第σ行第ρ列输出像素值经过sigmoid函数后输出结果;
sigmoid定义如下:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011118132.6A CN112288694B (zh) | 2020-10-19 | 2020-10-19 | 基于掩膜区域卷积神经网络的变电设备缺陷识别的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011118132.6A CN112288694B (zh) | 2020-10-19 | 2020-10-19 | 基于掩膜区域卷积神经网络的变电设备缺陷识别的方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112288694A true CN112288694A (zh) | 2021-01-29 |
CN112288694B CN112288694B (zh) | 2022-10-04 |
Family
ID=74497530
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011118132.6A Active CN112288694B (zh) | 2020-10-19 | 2020-10-19 | 基于掩膜区域卷积神经网络的变电设备缺陷识别的方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112288694B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115082444A (zh) * | 2022-07-25 | 2022-09-20 | 南通宏大实验仪器有限公司 | 一种基于图像处理的铜管焊缝缺陷检测方法及系统 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109712118A (zh) * | 2018-12-11 | 2019-05-03 | 武汉三江中电科技有限责任公司 | 一种基于Mask RCNN的变电站隔离开关检测识别方法 |
CN109816669A (zh) * | 2019-01-30 | 2019-05-28 | 云南电网有限责任公司电力科学研究院 | 一种识别电力设备缺陷的改进Mask R-CNN图像实例分割方法 |
CN109886947A (zh) * | 2019-02-19 | 2019-06-14 | 浙江理工大学 | 基于区域的卷积神经网络的高压电线缺陷检测方法 |
CN110599448A (zh) * | 2019-07-31 | 2019-12-20 | 浙江工业大学 | 基于MaskScoring R-CNN网络的迁移学习肺部病变组织检测系统 |
WO2020014294A1 (en) * | 2018-07-11 | 2020-01-16 | Google Llc | Learning to segment via cut-and-paste |
CN110705847A (zh) * | 2019-09-18 | 2020-01-17 | 中国南方电网有限责任公司超高压输电公司广州局 | 一种基于图像识别技术的变电站智能巡检方法及系统 |
CN110909642A (zh) * | 2019-11-13 | 2020-03-24 | 南京理工大学 | 一种基于多尺度语义特征融合的遥感图像目标检测方法 |
KR102096386B1 (ko) * | 2018-12-31 | 2020-04-03 | 주식회사 애자일소다 | 딥러닝 기반의 자동차 부위별 파손정도 자동 판정을 위한 모델 학습 방법 및 시스템 |
CN111598843A (zh) * | 2020-04-24 | 2020-08-28 | 国电南瑞科技股份有限公司 | 基于深度学习的电力变压器呼吸器目标缺陷检测方法 |
-
2020
- 2020-10-19 CN CN202011118132.6A patent/CN112288694B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020014294A1 (en) * | 2018-07-11 | 2020-01-16 | Google Llc | Learning to segment via cut-and-paste |
CN109712118A (zh) * | 2018-12-11 | 2019-05-03 | 武汉三江中电科技有限责任公司 | 一种基于Mask RCNN的变电站隔离开关检测识别方法 |
KR102096386B1 (ko) * | 2018-12-31 | 2020-04-03 | 주식회사 애자일소다 | 딥러닝 기반의 자동차 부위별 파손정도 자동 판정을 위한 모델 학습 방법 및 시스템 |
CN109816669A (zh) * | 2019-01-30 | 2019-05-28 | 云南电网有限责任公司电力科学研究院 | 一种识别电力设备缺陷的改进Mask R-CNN图像实例分割方法 |
CN109886947A (zh) * | 2019-02-19 | 2019-06-14 | 浙江理工大学 | 基于区域的卷积神经网络的高压电线缺陷检测方法 |
CN110599448A (zh) * | 2019-07-31 | 2019-12-20 | 浙江工业大学 | 基于MaskScoring R-CNN网络的迁移学习肺部病变组织检测系统 |
CN110705847A (zh) * | 2019-09-18 | 2020-01-17 | 中国南方电网有限责任公司超高压输电公司广州局 | 一种基于图像识别技术的变电站智能巡检方法及系统 |
CN110909642A (zh) * | 2019-11-13 | 2020-03-24 | 南京理工大学 | 一种基于多尺度语义特征融合的遥感图像目标检测方法 |
CN111598843A (zh) * | 2020-04-24 | 2020-08-28 | 国电南瑞科技股份有限公司 | 基于深度学习的电力变压器呼吸器目标缺陷检测方法 |
Non-Patent Citations (2)
Title |
---|
KAIMING HE 等: "《Mask R-CNN》", 《IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE》 * |
李文璞 等: "《基于Faster RCNN 变电设备红外图像缺陷识别方法》", 《南方电网技术》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115082444A (zh) * | 2022-07-25 | 2022-09-20 | 南通宏大实验仪器有限公司 | 一种基于图像处理的铜管焊缝缺陷检测方法及系统 |
CN115082444B (zh) * | 2022-07-25 | 2022-11-11 | 南通宏大实验仪器有限公司 | 一种基于图像处理的铜管焊缝缺陷检测方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN112288694B (zh) | 2022-10-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104978580B (zh) | 一种用于无人机巡检输电线路的绝缘子识别方法 | |
CN111739075A (zh) | 一种结合多尺度注意力的深层网络肺部纹理识别方法 | |
CN113192040A (zh) | 一种基于YOLO v4改进算法的织物瑕疵检测方法 | |
CN111695731B (zh) | 基于多源数据和混合神经网络的负荷预测方法、系统及设备 | |
CN106991666B (zh) | 一种适用于多尺寸图片信息的病害图像识别方法 | |
CN107967474A (zh) | 一种基于卷积神经网络的海面目标显著性检测方法 | |
CN113408423A (zh) | 适用于tx2嵌入式平台的水产品目标实时检测方法 | |
CN112818969A (zh) | 一种基于知识蒸馏的人脸姿态估计方法及系统 | |
CN112801270A (zh) | 融合深度卷积与注意力机制的u形网络槽自动识别方法 | |
CN112766283B (zh) | 一种基于多尺度卷积网络的两相流流型识别方法 | |
CN110930378A (zh) | 基于低数据需求的肺气肿影像处理方法及系统 | |
CN114463759A (zh) | 一种基于无锚框算法的轻量化文字检测方法及装置 | |
CN114565594A (zh) | 基于软掩膜对比损失的图像异常检测方法 | |
CN115661655A (zh) | 高光谱和高分影像深度特征融合的西南山区耕地提取方法 | |
CN115631127A (zh) | 一种工业缺陷检测的图像分割方法 | |
CN116958827A (zh) | 一种基于深度学习的撂荒区域提取方法 | |
CN112288694B (zh) | 基于掩膜区域卷积神经网络的变电设备缺陷识别的方法 | |
CN114821285A (zh) | 基于ACONV-LSTM与New-GANs组合的蓝藻水华预测系统及预测方法 | |
CN114821328A (zh) | 一种基于完全学习的电力图像处理方法及装置 | |
CN113222209B (zh) | 基于域适应的区域尾气迁移预测方法、系统及存储介质 | |
CN113221997A (zh) | 一种基于深度学习算法的高分影像油菜提取方法 | |
Sari et al. | Daily rainfall prediction using one dimensional convolutional neural networks | |
CN113298767A (zh) | 一种能克服反光现象的围棋图谱可靠识别方法 | |
CN116091940B (zh) | 一种基于高分辨率卫星遥感影像的作物分类和识别方法 | |
CN115631402B (zh) | 一种适用于智慧养殖的ai算法服务平台构建方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |