CN116205905A - 基于移动端的配电网施工安全及质量图像检测方法及系统 - Google Patents

基于移动端的配电网施工安全及质量图像检测方法及系统 Download PDF

Info

Publication number
CN116205905A
CN116205905A CN202310449336.5A CN202310449336A CN116205905A CN 116205905 A CN116205905 A CN 116205905A CN 202310449336 A CN202310449336 A CN 202310449336A CN 116205905 A CN116205905 A CN 116205905A
Authority
CN
China
Prior art keywords
network
power distribution
image
construction
supervision
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202310449336.5A
Other languages
English (en)
Other versions
CN116205905B (zh
Inventor
张洁
陈红波
李�瑞
王顺
刘术娟
刘韬
杜健铭
张辉
王浩然
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hefei Zhongke Rongdao Intelligent Technology Co ltd
Hefei Institutes of Physical Science of CAS
Original Assignee
Hefei Zhongke Rongdao Intelligent Technology Co ltd
Hefei Institutes of Physical Science of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hefei Zhongke Rongdao Intelligent Technology Co ltd, Hefei Institutes of Physical Science of CAS filed Critical Hefei Zhongke Rongdao Intelligent Technology Co ltd
Priority to CN202310449336.5A priority Critical patent/CN116205905B/zh
Publication of CN116205905A publication Critical patent/CN116205905A/zh
Application granted granted Critical
Publication of CN116205905B publication Critical patent/CN116205905B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y04INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
    • Y04SSYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
    • Y04S10/00Systems supporting electrical power generation, transmission or distribution
    • Y04S10/50Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Biophysics (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Quality & Reliability (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)

Abstract

本发明涉及基于移动端的配电网施工安全及质量图像检测方法,与现有技术相比解决了配电网施工安全及质量图像检测运算量大、无法满足移动端应用需要的缺陷。本发明包括以下步骤:获取移动端的配电网施工现场图像;构建配电网施工安全及质量图像检测模型;配电网施工安全及质量图像检测模型的训练;获取待检测配电网施工图像;获得配电网施工安全及质量检测结果。本发明提供一种特征区分能力更强、模型训练简单、网络结构相对简单、推理时间复杂度较低,同时识别精度更优的目标检测方法,实现配电网施工场景安全及质量类目标的精准检测。

Description

基于移动端的配电网施工安全及质量图像检测方法及系统
技术领域
本发明涉及配电网图像检测技术领域,具体来说是基于移动端的配电网施工安全及质量图像检测方法及其系统。
背景技术
配电网施工工作繁重而艰巨,为了推动配电网施工转型升级,推进施工管理向智能化升级,针对现场采集的照片信息对工程现场施工安全、质量关键环节标准进行自动研判,进一步强化现场管控力度。由于配电网施工场景不固定,环境复杂多变,因此,开发移动端(手机、ipad)的配电网施工现场图像智能识别算法,实现配电网施工安全及质量的智能检测,一方面可以减少人为判断施工现场质量的主观性,另外一方面减少了现场人员的劳动强度,提高实时监管效率。
配电网施工监管主要包括施工安全及施工质量,安全类如是否有围栏、是否安装接地线等,质量类如并购线夹是否安装绝缘护套、变压器正反面安装是否正确等。在复杂多变的配电网施工环境中发现,虽然现有目标检测算法对配电网现场图像中的施工安全及质量类目标检测表现较好,但是为了获得更高的准确率,通常需要采用更大的网络及更多的参数量,更大的网络意味着更大的时间复杂度,同时需要设备具有更高的运算性能,而移动端设备其处理器和内存则无法满足大运算的需要,从而限制了检测模型的应用。
因此,较小的模型更加适应移动端的应用场景,然而小网络的精度普遍偏低。为了使得较小的网络实现更高的性能同时简化训练过程,以此提高配电网施工过程的整体智能研判精度成为急需解决的技术问题。
发明内容
本发明的目的是为了解决现有技术中配电网施工安全及质量图像检测运算量大、无法满足移动端应用需要的缺陷,提供一种基于移动端的配电网施工安全及质量图像检测方法及其系统来解决上述问题。
为了实现上述目的,本发明的技术方案如下:
一种基于移动端的配电网施工安全及质量图像检测方法,包括以下步骤:
获取移动端的配电网施工现场图像:利用移动设备采集不同场景、不同类型的配电网施工安全及质量图像,形成配电网施工图像数据集;
构建配电网施工安全及质量图像检测模型:基于监督网络、迁移网络、对比网络、互监督头部网络构建出端到端的配电网施工安全及质量图像检测模型;
配电网施工安全及质量图像检测模型的训练:利用配电网施工图像数据集对配电网施工安全及质量图像检测模型的监督网络和迁移网络进行端到端训练;
获取待检测配电网施工图像:利用移动设备采集待检测的配电网施工场景图像;
获得配电网施工安全及质量检测结果:将待检测的配电网施工图像输入训练后的配电网施工安全及质量图像检测模型,得到配电网图像中的施工安全及质量检测结果。
所述获取移动端的配电网施工现场图像步骤为:
通过移动端设备采集配电网施工环境下的图像,使用LabelImg标注软件对采集的配电网施工图像进行安全和质量类目标的标记,生成包含目标类别和位置的xml文件,形成配电网施工图像数据集。
所述构建配电网施工安全及质量图像检测模型包括以下步骤:
设定配电网施工安全及质量图像检测模型包括监督网络、迁移网络、对比网络、互监督头部网络;
设定监督网络和迁移网络,
设定迁移网络的特征提取网络基于ResNet50网络构建,由叠加的多层卷积神经网络层、池化层与激活函数层构成,迁移网络的特征提取网络用于提取整张图像中目标的特征图,迁移网络的特征提取网络的输入为移动端采集的配电网施工场景图像、输出为该配电网施工图像的整体特征图;
设定监督网络的特征提取网络基于ResNet152网络构建,由卷积神经网络层、池化层与激活函数层构成,监督网络的特征提取网络的输入为迁移网络的特征提取网络输入的配电网施工场景图像的增强图像,采用随机裁剪及色彩变换作为增强手段,增强网络的泛化性能,输出为增强图像的整体特征图;
设定迁移网络的颈部网络,为了能够检测不同尺度的施工安全及质量类目标,迁移网络的颈部网络采用FPN多尺度结构,迁移网络的颈部网络的输入为迁移网络的特征提取网络的C2、C3、C4、C5层特征图,输出为融合多尺度信息的P2、P3、P4、P5层;
设定监督网络的颈部网络,监督网络的颈部网络采用PAFPN结构,输入为监督网络的特征提取网络的C2、C3、C4、C5层特征图,PAFPN是继承于原始FPN结构,在其P2、P3、P4、P5层基础上增加了1x1卷积模块和下采样操作,并增加额外的3x3卷积得到融合后的多尺度P2、P3、P4、P5层;
设定监督网络、迁移网络的RoI特征提取层,监督网络和迁移网络的RoI特征提取层结构相同,根据目标框的尺寸映射到P2、P3、P4、P5层任意一层上,提取目标对应位置的区域特征,并对该区域特征进行RoIAlign操作获取统一7x7大小的RoI特征图;
设定对比网络,设定对比网络的输入为监督网络的特征提取网络、迁移网络的特征提取网络的C5层特征图,对比网络的输出为监督网络和迁移网络的特征预测向量;首先监督网络的C5层特征图、迁移网络的C5层特征图分别进行1x1卷积操作得到64维的特征图,再通过两个MLP层,使得高维特征图变成低维的特征向量,构建余弦相似度函数计算特征向量之间的相似度;
设定互监督头部网络,
根据监督网络的训练结果指导迁移网络的训练,同时监督网络及迁移网络进行并行训练,其中监督网络只存在训练过程中,而不存在于推理过程;
设定迁移网络和监督网络的头部网络输入分别为各自网络的多尺度P2、P3、P4、P5层RoI特征图,其中,分类任务的网络结构为全连接网络层、Relu激活层和全连接网络层,定位任务的网络结构为四个3x3卷积网络层和一个全连接层;迁移网络和监督网络的头部网络的输出为对应网络预测的目标类别和位置信息;
互监督头部网络首先分别利用监督网络和迁移网络的头部网络进行单独进行预测;其次,监督网络的训练采用人工标注框进行监督,迁移网络的训练采用监督网络的预测结果和人工标注框同时进行监督。
所述配电网施工安全及质量图像检测模型的训练包括以下步骤:
将配电网施工图像数据集输入迁移网络的特征提取网络,利用迁移网络的特征提取网络提取配电网图像的整体特征图,采用ResNet50骨干网络的C2、C3、C4、C5层表示整体特征图中每个尺度的特征;
对配电网施工原始图像进行数据增强,对图像进行随机裁剪后缩放成原图大小,对图像进行色彩变换,训练过程中进行随机组合增强;
将增强后的图像作为监督网络的特征提取网络的输入,监督网络的特征提取网络采用ResNet152,提取配电网图像的整体特征图;
将监督网络的特征提取网络的C5层特征图和迁移网络的特征提取网络的C5层特征图输入对比网络,首先分别将高维特征进行1x1的卷积操作进行降维,然后将低维特征分别输入两个MLP层等到对应的特征向量;每个MLP由一个全连接层、Relu激活层和一个全连接层构成,这两个MLP层参数共享;
利用特征向量相似度采用余弦相似度进行度量:
Figure SMS_1
其中,
Figure SMS_2
和/>
Figure SMS_3
表示监督网络和迁移网络的特征向量,/>
Figure SMS_4
是一个可调节的参数,它能够将余弦相似度限定在[-1,1]范围,T表示向量的转置操作;
为了使得对比网络可学习,定义网络的损失函数为:
Figure SMS_5
其中,N表示一个批次的样本数对;同一张图像与增强后的图像为一个图像对,即正样本,其他样本作为负样本;对于一个批次的N个样本,通过数据增强的得到N对正样本对,此时共有2N个样本;
Figure SMS_6
输出0或1,当k不等于i时,结果就为1,否则为0;
最后,计算每个批次里面的所有图像对的损失之和取平均:
Figure SMS_7
监督网络检测任务和迁移网络检测任务训练并行进行,互监督头部网络首先使用真实标注框对监督网络进行有监督训练,同时利用监督网络对目标预测作为软标签,和真实的硬标签一起用于迁移网络的头部网络的监督训练;
检测任务的损失函数为:
Figure SMS_8
其中,
Figure SMS_9
为回归框的系数,/>
Figure SMS_10
为分类损失,/>
Figure SMS_11
为回归损失;/>
Figure SMS_12
其中,
Figure SMS_13
为硬标签的权重系数,/>
Figure SMS_14
为目标的真实类别,/>
Figure SMS_15
表示迁移网络的预测结果,/>
Figure SMS_16
为监督网络的预测结果;
Figure SMS_17
其中,
Figure SMS_18
为交叉熵系数,T为温度调节系数,训练时设置为10;
回归采用的是通用SmoothL1损失函数,回归损失表示为:
Figure SMS_19
其中,
Figure SMS_20
为迁移网络的回归结果,/>
Figure SMS_21
为监督网络的回归结果,/>
Figure SMS_22
为真实标注框的位置;
构建的基于互监督的端到端配电网施工图像目标检测的整体损失函数表示为:
Figure SMS_23
其中
Figure SMS_24
为对比任务损失,/>
Figure SMS_25
为与检测任务损失。
基于移动端的配电网施工安全及质量图像检测系统,包括图像收集模块、施工安全智能检测模块、施工质量智能检测模块、综合研判模块;
图像收集模块利用摄像头拍摄配电网施工现场图像并存储;将配电网施工现场图像输入施工安全智能检测模块,实时检测施工安全规范;将配电网施工现场图像输入施工质量智能检测模块,实时检测施工质量规范;综合研判模块通过整合施工安全智能检测模块和施工质量智能检测模块的检测结果,研判施工现场是否符合要求,对不符合要求的施工现场进行告警并保存研判结果。
有益效果
本发明的基于移动端的配电网施工安全及质量图像检测方法及其系统,与现有技术相比提供一种特征区分能力更强、模型训练简单、网络结构相对简单、推理时间复杂度较低,同时识别精度更优的目标检测方法,实现配电网施工场景安全及质量类目标的精准检测。
本发明利用图像增强构建复杂的监督网络和简单的迁移网络之间的对比学习,通过增加不同网络的特征描述使得迁移网络的特征语义表达能力更强,有利于配电网复杂施工场景中各类目标的区分;本发明进行监督网络和迁移网络的训练,通过构建不同任务的损失目标,将监督网络的知识移植到迁移网络中,增强了较小参数量的迁移网络在配电网施工安全及质量检测任务中的性能,降低了移动端推理的时间复杂度以及对硬件性能的要求;本发明中的监督网络和迁移网络是同步并行训练,端到端的训练降低了模型训练的复杂度,更方便于配电网的实际应用。
附图说明
图1为本发明的方法顺序图;
图2为本发明所涉及的配电网施工安全及质量图像检测模型结构图;
图3为利用本发明所述方法的配电网施工图像安全类检测效果图;
图4为利用本发明所述方法的配电网施工图像质量类检测效果图。
具体实施方式
为使对本发明的结构特征及所达成的功效有更进一步的了解与认识,用以较佳的实施例及附图配合详细的说明,说明如下:
如图1所示,本发明所述的基于移动端的配电网施工安全及质量图像检测方法,其包括以下步骤:
第一步,获取移动端的配电网施工现场图像:利用移动设备采集不同场景、不同类型的配电网施工安全及质量图像,形成配电网施工图像数据集。
通过移动端设备采集配电网施工环境下的图像,使用LabelImg标注软件对采集的配电网施工图像进行安全和质量类目标的标记,生成包含目标类别和位置的xml文件,形成配电网施工图像数据集。
第二步,构建配电网施工安全及质量图像检测模型:如图2所示,基于监督网络、迁移网络、对比网络、互监督头部网络构建出端到端的配电网施工安全及质量图像检测模型。对比网络属于自监督,通过数据增强操作和更深的特征提取网络可以增加样本多样性和特征表达能力来优化模型性能。利用更复杂、性能更好的监督网络来指导迁移网络的学习能够提升迁移网络的性能,提升移动端的运行效率,同时提高配电网施工过程的整体智能研判的准确度。
其具体步骤如下:
(1)设定配电网施工安全及质量图像检测模型包括监督网络、迁移网络、对比网络、互监督头部网络。
(2)设定监督网络和迁移网络,
设定迁移网络的特征提取网络基于ResNet50网络构建,由叠加的多层卷积神经网络层、池化层与激活函数层构成,迁移网络的特征提取网络用于提取整张图像中目标的特征图,迁移网络的特征提取网络的输入为移动端采集的配电网施工场景图像、输出为该配电网施工图像的整体特征图;
设定监督网络的特征提取网络基于ResNet152网络构建,由卷积神经网络层、池化层与激活函数层构成,监督网络的特征提取网络的输入为迁移网络的特征提取网络输入的配电网施工场景图像的增强图像,采用随机裁剪及色彩变换作为增强手段,增强网络的泛化性能,输出为增强图像的整体特征图;
设定迁移网络的颈部网络,为了能够检测不同尺度的施工安全及质量类目标,迁移网络的颈部网络采用FPN多尺度结构,迁移网络的颈部网络的输入为迁移网络的特征提取网络的C2、C3、C4、C5层特征图,输出为融合多尺度信息的P2、P3、P4、P5层;
设定监督网络的颈部网络,监督网络的颈部网络采用PAFPN结构,输入为监督网络的特征提取网络的C2、C3、C4、C5层特征图,PAFPN是继承于原始FPN结构,在其P2、P3、P4、P5层基础上增加了1x1卷积模块和下采样操作,并增加额外的3x3卷积得到融合后的多尺度P2、P3、P4、P5层;
设定监督网络、迁移网络的RoI特征提取层,监督网络和迁移网络的RoI特征提取层结构相同,根据目标框的尺寸映射到P2、P3、P4、P5层任意一层上,提取目标对应位置的区域特征,并对该区域特征进行RoIAlign操作获取统一7x7大小的RoI特征图。
(3)设定对比网络,设定对比网络的输入为监督网络的特征提取网络、迁移网络的特征提取网络的C5层特征图,对比网络的输出为监督网络和迁移网络的特征预测向量;首先监督网络的C5层特征图、迁移网络的C5层特征图分别进行1x1卷积操作得到64维的特征图,再通过两个MLP层,使得高维特征图变成低维的特征向量,构建余弦相似度函数计算特征向量之间的相似度。构建的对比网络可以同步指导监督网络和迁移网络中特征提取网络的训练,减小同类样本的类内距离,增强迁移网络的特征表达能力,同时使得网络的泛化能力更强。
(4)设定互监督头部网络,
根据监督网络的训练结果指导迁移网络的训练,同时监督网络及迁移网络进行并行训练,其中监督网络只存在训练过程中,而不存在于推理过程;
设定迁移网络和监督网络的头部网络输入分别为各自网络的多尺度P2、P3、P4、P5层RoI特征图,其中,分类任务的网络结构为全连接网络层、Relu激活层和全连接网络层,定位任务的网络结构为四个3x3卷积网络层和一个全连接层;迁移网络和监督网络的头部网络的输出为对应网络预测的目标类别和位置信息;
互监督头部网络首先分别利用监督网络和迁移网络的头部网络进行单独进行预测;其次,监督网络的训练采用人工标注框进行监督,迁移网络的训练采用监督网络的预测结果和人工标注框同时进行监督。相对于只采用人工标注框的硬标签,监督网络的软标签给出了样本属于各个类别的概率值,使得迁移网络对难以分辨的样本具有更好的识别能力,并能将复杂的监督网络的知识迁移到迁移网络上。
第三步,配电网施工安全及质量图像检测模型的训练:利用配电网施工图像数据集对配电网施工安全及质量图像检测模型的监督网络和迁移网络进行端到端训练。通过将对比网络融入监督网络和迁移网络的训练过程中,同时进行端到端的训练,降低了模型训练的复杂度。由于对比网络和监督网络只用于指导迁移网络的训练,在提升迁移网络的识别精度的同时,不存在推理过程的开销。
其具体步骤如下:
(1)将配电网施工图像数据集输入迁移网络的特征提取网络,利用迁移网络的特征提取网络提取配电网图像的整体特征图,采用ResNet50骨干网络的C2、C3、C4、C5层表示整体特征图中每个尺度的特征;
对配电网施工原始图像进行数据增强,对图像进行随机裁剪后缩放成原图大小,对图像进行色彩变换,训练过程中进行随机组合增强;
将增强后的图像作为监督网络的特征提取网络的输入,监督网络的特征提取网络采用ResNet152,提取配电网图像的整体特征图。
(2)将监督网络的特征提取网络的C5层特征图和迁移网络的特征提取网络的C5层特征图输入对比网络,首先分别将高维特征进行1x1的卷积操作进行降维,然后将低维特征分别输入两个MLP层等到对应的特征向量;每个MLP由一个全连接层、Relu激活层和一个全连接层构成,这两个MLP层参数共享;
利用特征向量相似度采用余弦相似度进行度量:
Figure SMS_26
其中,
Figure SMS_27
和/>
Figure SMS_28
表示监督网络和迁移网络的特征向量,/>
Figure SMS_29
是一个可调节的参数,它能够将余弦相似度限定在[-1,1]范围,T表示向量的转置操作;
为了使得对比网络可学习,定义网络的损失函数为:
Figure SMS_30
其中,N表示一个批次的样本数对;同一张图像与增强后的图像为一个图像对,即正样本,其他样本作为负样本;对于一个批次的N个样本,通过数据增强的得到N对正样本对,此时共有2N个样本;
Figure SMS_31
输出0或1,当k不等于i时,结果就为1,否则为0;
最后,计算每个批次里面的所有图像对的损失之和取平均:
Figure SMS_32
(3)监督网络检测任务和迁移网络检测任务训练并行进行,互监督头部网络首先使用真实标注框对监督网络进行有监督训练,同时利用监督网络对目标预测作为软标签,和真实的硬标签一起用于迁移网络的头部网络的监督训练;
检测任务的损失函数为:
Figure SMS_33
其中,
Figure SMS_34
为回归框的系数,/>
Figure SMS_35
为分类损失,/>
Figure SMS_36
为回归损失;
Figure SMS_37
其中,
Figure SMS_38
为硬标签的权重系数,/>
Figure SMS_39
为目标的真实类别,/>
Figure SMS_40
表示迁移网络的预测结果,/>
Figure SMS_41
为监督网络的预测结果;/>
Figure SMS_42
其中,
Figure SMS_43
为交叉熵系数,T为温度调节系数,训练时设置为10;
回归采用的是通用SmoothL1损失函数,回归损失表示为:
Figure SMS_44
其中,
Figure SMS_45
为迁移网络的回归结果,/>
Figure SMS_46
为监督网络的回归结果,/>
Figure SMS_47
为真实标注框的位置。
(4)构建的基于互监督的端到端配电网施工图像目标检测的整体损失函数表示为:
Figure SMS_48
其中
Figure SMS_49
为对比任务损失,/>
Figure SMS_50
为与检测任务损失。
第四步,获取待检测配电网施工图像:利用移动设备采集待检测的配电网施工场景图像。
第五步,获得配电网施工安全及质量检测结果:将待检测的配电网施工图像输入训练后的配电网施工安全及质量图像检测模型,得到配电网图像中的施工安全及质量检测结果。
在此,还提供一种基于移动端的配电网施工安全及质量图像检测系统,包括图像收集模块、施工安全智能检测模块、施工质量智能检测模块、综合研判模块。图像收集模块利用摄像头拍摄配电网施工现场图像并存储;将配电网施工现场图像输入施工安全智能检测模块,实时检测施工安全规范;将配电网施工现场图像输入施工质量智能检测模块,实时检测施工质量规范;综合研判模块通过整合施工安全智能检测模块和施工质量智能检测模块的检测结果,研判施工现场是否符合要求,对不符合要求的施工现场进行告警并保存研判结果。
如图3所示,对于具有复杂场景的配电网施工安全场景智能研判,本发明可以准确识别并检测到目前位置,同时对于不同尺度的目标也具有很好的适应性。如图4所示,对于配电网施工质量场景中的小目标及背景中含有的相似目标,本发明仍然可以准确的检测出质量类目标。
以上显示和描述了本发明的基本原理、主要特征和本发明的优点。本行业的技术人员应该了解,本发明不受上述实施例的限制,上述实施例和说明书中描述的只是本发明的原理,在不脱离本发明精神和范围的前提下本发明还会有各种变化和改进,这些变化和改进都落入要求保护的本发明的范围内。本发明要求的保护范围由所附的权利要求书及其等同物界定。

Claims (5)

1.一种基于移动端的配电网施工安全及质量图像检测方法,其特征在于,包括以下步骤:
11)获取移动端的配电网施工现场图像:利用移动设备采集不同场景、不同类型的配电网施工安全及质量图像,形成配电网施工图像数据集;
12)构建配电网施工安全及质量图像检测模型:基于监督网络、迁移网络、对比网络、互监督头部网络构建出端到端的配电网施工安全及质量图像检测模型;
13)配电网施工安全及质量图像检测模型的训练:利用配电网施工图像数据集对配电网施工安全及质量图像检测模型的监督网络和迁移网络进行端到端训练;
14)获取待检测配电网施工图像:利用移动设备采集待检测的配电网施工场景图像;
15)获得配电网施工安全及质量检测结果:将待检测的配电网施工图像输入训练后的配电网施工安全及质量图像检测模型,得到配电网图像中的施工安全及质量检测结果。
2.根据权利要求1所述的基于移动端的配电网施工安全及质量图像检测方法,其特征在于,所述获取移动端的配电网施工现场图像步骤为:
通过移动端设备采集配电网施工环境下的图像,使用LabelImg标注软件对采集的配电网施工图像进行安全和质量类目标的标记,生成包含目标类别和位置的xml文件,形成配电网施工图像数据集。
3.根据权利要求1所述的基于移动端的配电网施工安全及质量图像检测方法,其特征在于,所述构建配电网施工安全及质量图像检测模型包括以下步骤:
31)设定配电网施工安全及质量图像检测模型包括监督网络、迁移网络、对比网络、互监督头部网络;
32)设定监督网络和迁移网络,
设定迁移网络的特征提取网络基于ResNet50网络构建,由叠加的多层卷积神经网络层、池化层与激活函数层构成,迁移网络的特征提取网络用于提取整张图像中目标的特征图,迁移网络的特征提取网络的输入为移动端采集的配电网施工场景图像、输出为该配电网施工图像的整体特征图;
设定监督网络的特征提取网络基于ResNet152网络构建,由卷积神经网络层、池化层与激活函数层构成,监督网络的特征提取网络的输入为迁移网络的特征提取网络输入的配电网施工场景图像的增强图像,采用随机裁剪及色彩变换作为增强手段,增强网络的泛化性能,输出为增强图像的整体特征图;
设定迁移网络的颈部网络,为了能够检测不同尺度的施工安全及质量类目标,迁移网络的颈部网络采用FPN多尺度结构,迁移网络的颈部网络的输入为迁移网络的特征提取网络的C2、C3、C4、C5层特征图,输出为融合多尺度信息的P2、P3、P4、P5层;
设定监督网络的颈部网络,监督网络的颈部网络采用PAFPN结构,输入为监督网络的特征提取网络的C2、C3、C4、C5层特征图,PAFPN是继承于原始FPN结构,在其P2、P3、P4、P5层基础上增加了1x1卷积模块和下采样操作,并增加额外的3x3卷积得到融合后的多尺度P2、P3、P4、P5层;
设定监督网络、迁移网络的RoI特征提取层,监督网络和迁移网络的RoI特征提取层结构相同,根据目标框的尺寸映射到P2、P3、P4、P5层任意一层上,提取目标对应位置的区域特征,并对该区域特征进行RoIAlign操作获取统一7x7大小的RoI特征图;
33)设定对比网络,设定对比网络的输入为监督网络的特征提取网络、迁移网络的特征提取网络的C5层特征图,对比网络的输出为监督网络和迁移网络的特征预测向量;首先监督网络的C5层特征图、迁移网络的C5层特征图分别进行1x1卷积操作得到64维的特征图,再通过两个MLP层,使得高维特征图变成低维的特征向量,构建余弦相似度函数计算特征向量之间的相似度;
34)设定互监督头部网络,
根据监督网络的训练结果指导迁移网络的训练,同时监督网络及迁移网络进行并行训练,其中监督网络只存在训练过程中,而不存在于推理过程;
设定迁移网络和监督网络的头部网络输入分别为各自网络的多尺度P2、P3、P4、P5层RoI特征图,其中,分类任务的网络结构为全连接网络层、Relu激活层和全连接网络层,定位任务的网络结构为四个3x3卷积网络层和一个全连接层;迁移网络和监督网络的头部网络的输出为对应网络预测的目标类别和位置信息;
互监督头部网络首先分别利用监督网络和迁移网络的头部网络进行单独进行预测;其次,监督网络的训练采用人工标注框进行监督,迁移网络的训练采用监督网络的预测结果和人工标注框同时进行监督。
4.根据权利要求1所述的基于移动端的配电网施工安全及质量图像检测方法,其特征在于,所述配电网施工安全及质量图像检测模型的训练包括以下步骤:
41)将配电网施工图像数据集输入迁移网络的特征提取网络,利用迁移网络的特征提取网络提取配电网图像的整体特征图,采用ResNet50骨干网络的C2、C3、C4、C5层表示整体特征图中每个尺度的特征;
对配电网施工原始图像进行数据增强,对图像进行随机裁剪后缩放成原图大小,对图像进行色彩变换,训练过程中进行随机组合增强;
将增强后的图像作为监督网络的特征提取网络的输入,监督网络的特征提取网络采用ResNet152,提取配电网图像的整体特征图;
42)将监督网络的特征提取网络的C5层特征图和迁移网络的特征提取网络的C5层特征图输入对比网络,首先分别将高维特征进行1x1的卷积操作进行降维,然后将低维特征分别输入两个MLP层等到对应的特征向量;每个MLP由一个全连接层、Relu激活层和一个全连接层构成,这两个MLP层参数共享;
利用特征向量相似度采用余弦相似度进行度量:
Figure QLYQS_1
其中,
Figure QLYQS_2
和/>
Figure QLYQS_3
表示监督网络和迁移网络的特征向量,/>
Figure QLYQS_4
是一个可调节的参数,它能够将余弦相似度限定在[-1,1]范围,T表示向量的转置操作;
定义网络的损失函数为:
Figure QLYQS_5
其中,N表示一个批次的样本数对;同一张图像与增强后的图像为一个图像对,即正样本,其他样本作为负样本;对于一个批次的N个样本,通过数据增强的得到N对正样本对,此时共有2N个样本;
Figure QLYQS_6
输出0或1,当k不等于i时,结果就为1,否则为0;
最后,计算每个批次里面的所有图像对的损失之和取平均:
Figure QLYQS_7
43)监督网络检测任务和迁移网络检测任务训练并行进行,互监督头部网络首先使用真实标注框对监督网络进行有监督训练,同时利用监督网络对目标预测作为软标签,和真实的硬标签一起用于迁移网络的头部网络的监督训练;
检测任务的损失函数为:
Figure QLYQS_8
其中,
Figure QLYQS_9
为回归框的系数,/>
Figure QLYQS_10
为分类损失,/>
Figure QLYQS_11
为回归损失;
Figure QLYQS_12
其中,
Figure QLYQS_13
为硬标签的权重系数,/>
Figure QLYQS_14
为目标的真实类别,/>
Figure QLYQS_15
表示迁移网络的预测结果,/>
Figure QLYQS_16
为监督网络的预测结果;
Figure QLYQS_17
其中,
Figure QLYQS_18
为交叉熵系数,T为温度调节系数,训练时设置为10;
回归采用的是通用SmoothL1损失函数,回归损失表示为:
Figure QLYQS_19
其中,
Figure QLYQS_20
为迁移网络的回归结果,/>
Figure QLYQS_21
为监督网络的回归结果,/>
Figure QLYQS_22
为真实标注框的位置;
44)构建的基于互监督的端到端配电网施工图像目标检测的整体损失函数表示为:
Figure QLYQS_23
其中
Figure QLYQS_24
为对比任务损失,/>
Figure QLYQS_25
为与检测任务损失。
5.根据权利要求1所述的基于移动端的配电网施工安全及质量图像检测方法的检测系统,其特征在于:包括图像收集模块、施工安全智能检测模块、施工质量智能检测模块、综合研判模块;
图像收集模块利用摄像头拍摄配电网施工现场图像并存储;将配电网施工现场图像输入施工安全智能检测模块,实时检测施工安全规范;将配电网施工现场图像输入施工质量智能检测模块,实时检测施工质量规范;综合研判模块通过整合施工安全智能检测模块和施工质量智能检测模块的检测结果,研判施工现场是否符合要求,对不符合要求的施工现场进行告警并保存研判结果。
CN202310449336.5A 2023-04-25 2023-04-25 基于移动端的配电网施工安全及质量图像检测方法及系统 Active CN116205905B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310449336.5A CN116205905B (zh) 2023-04-25 2023-04-25 基于移动端的配电网施工安全及质量图像检测方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310449336.5A CN116205905B (zh) 2023-04-25 2023-04-25 基于移动端的配电网施工安全及质量图像检测方法及系统

Publications (2)

Publication Number Publication Date
CN116205905A true CN116205905A (zh) 2023-06-02
CN116205905B CN116205905B (zh) 2023-07-21

Family

ID=86515969

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310449336.5A Active CN116205905B (zh) 2023-04-25 2023-04-25 基于移动端的配电网施工安全及质量图像检测方法及系统

Country Status (1)

Country Link
CN (1) CN116205905B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117094592A (zh) * 2023-08-21 2023-11-21 武汉市万睿数字运营有限公司 一种基于多维检测的工单自动验收方法、装置及相关介质

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180336672A1 (en) * 2017-05-22 2018-11-22 L-3 Security & Detection Systems, Inc. Systems and methods for image processing
CN112149761A (zh) * 2020-11-24 2020-12-29 江苏电力信息技术有限公司 一种基于YOLOv4改进算法的电力智慧工地违规行为检测方法
CN112489050A (zh) * 2020-12-13 2021-03-12 成都易书桥科技有限公司 一种基于特征迁移的半监督实例分割算法
CN112801230A (zh) * 2021-04-07 2021-05-14 国网江西省电力有限公司电力科学研究院 一种配电线路无人机智能验收方法
US20210232813A1 (en) * 2020-01-23 2021-07-29 Tongji University Person re-identification method combining reverse attention and multi-scale deep supervision
US20210279513A1 (en) * 2019-03-21 2021-09-09 Tecent Technology (Shenzhen) Company Limited Target detection method and apparatus, model training method and apparatus, device, and storage medium
WO2021238366A1 (zh) * 2020-05-25 2021-12-02 华为技术有限公司 一种神经网络构建方法以及装置
CN114170532A (zh) * 2021-11-23 2022-03-11 北京航天自动控制研究所 一种基于困难样本迁移学习的多目标分类方法和装置
CN114170515A (zh) * 2021-12-09 2022-03-11 广西电网有限责任公司电力科学研究院 一种配电网设备异常类型检测方法
WO2022162417A1 (en) * 2021-01-26 2022-08-04 Abb Schweiz Ag Systems and methods for paint defect detection using machine learning
CN115880260A (zh) * 2022-12-15 2023-03-31 中移动信息技术有限公司 基站施工的检测方法、装置、设备及计算机可读存储介质

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180336672A1 (en) * 2017-05-22 2018-11-22 L-3 Security & Detection Systems, Inc. Systems and methods for image processing
US20210279513A1 (en) * 2019-03-21 2021-09-09 Tecent Technology (Shenzhen) Company Limited Target detection method and apparatus, model training method and apparatus, device, and storage medium
US20210232813A1 (en) * 2020-01-23 2021-07-29 Tongji University Person re-identification method combining reverse attention and multi-scale deep supervision
WO2021238366A1 (zh) * 2020-05-25 2021-12-02 华为技术有限公司 一种神经网络构建方法以及装置
CN112149761A (zh) * 2020-11-24 2020-12-29 江苏电力信息技术有限公司 一种基于YOLOv4改进算法的电力智慧工地违规行为检测方法
CN112489050A (zh) * 2020-12-13 2021-03-12 成都易书桥科技有限公司 一种基于特征迁移的半监督实例分割算法
WO2022162417A1 (en) * 2021-01-26 2022-08-04 Abb Schweiz Ag Systems and methods for paint defect detection using machine learning
CN112801230A (zh) * 2021-04-07 2021-05-14 国网江西省电力有限公司电力科学研究院 一种配电线路无人机智能验收方法
CN114170532A (zh) * 2021-11-23 2022-03-11 北京航天自动控制研究所 一种基于困难样本迁移学习的多目标分类方法和装置
CN114170515A (zh) * 2021-12-09 2022-03-11 广西电网有限责任公司电力科学研究院 一种配电网设备异常类型检测方法
CN115880260A (zh) * 2022-12-15 2023-03-31 中移动信息技术有限公司 基站施工的检测方法、装置、设备及计算机可读存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
ASHISH JAISWAL. ET AL: ""A SURVEY ON CONTRASTIVE SELF-SUPERVISED LEARNING"", 《ARXIV:2011.00362V3》 *
张永泉等: ""结合场景分析的输电线路通道可视化分级 预警研究"", 《电气工程学报》, vol. 17, no. 3 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117094592A (zh) * 2023-08-21 2023-11-21 武汉市万睿数字运营有限公司 一种基于多维检测的工单自动验收方法、装置及相关介质

Also Published As

Publication number Publication date
CN116205905B (zh) 2023-07-21

Similar Documents

Publication Publication Date Title
Cai et al. A modified YOLOv3 model for fish detection based on MobileNetv1 as backbone
CN107944396B (zh) 一种基于改进深度学习的刀闸状态识别方法
CN111259786B (zh) 一种基于视频的外观和运动信息同步增强的行人重识别方法
CN111325347B (zh) 基于可解释视觉推理模型的危险预警描述自动生成方法
CN110555420B (zh) 一种基于行人区域特征提取和重识别融合模型网络及方法
CN111368690A (zh) 基于深度学习的海浪影响下视频图像船只检测方法及系统
CN107301376B (zh) 一种基于深度学习多层刺激的行人检测方法
CN111209832B (zh) 变电站巡检机器人辅助避障训练方法、设备及介质
CN106557740B (zh) 一种遥感图像中油库目标的识别方法
CN109886295A (zh) 一种基于神经网络的蝴蝶识别方法及相关设备
CN116205905B (zh) 基于移动端的配电网施工安全及质量图像检测方法及系统
CN109583499B (zh) 一种基于无监督sdae网络的输电线路背景目标分类系统
CN113807399A (zh) 一种神经网络训练方法、检测方法以及装置
CN111145222A (zh) 一种结合烟雾运动趋势和纹理特征的火灾检测方法
Li et al. Transmission line detection in aerial images: An instance segmentation approach based on multitask neural networks
CN114821014A (zh) 基于多模态与对抗学习的多任务目标检测识别方法及装置
CN115527234A (zh) 一种基于改进YOLOv5模型的红外图像笼内死鸡识别方法
CN114693624A (zh) 一种图像检测方法、装置、设备及可读存储介质
Yu et al. Convolutional neural network with feature reconstruction for monitoring mismatched photovoltaic systems
CN113723558A (zh) 基于注意力机制的遥感图像小样本舰船检测方法
Sambhaji et al. Leaf recognition algorithm using neural network based image processing
CN112668643B (zh) 一种基于格式塔法则的半监督显著性检测方法
CN114155487A (zh) 一种基于多组卷积融合的电力作业人员检测方法
CN114445691A (zh) 模型训练方法、装置、电子设备及存储介质
CN113887443A (zh) 一种基于属性感知注意力汇集的工业烟排放识别方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant