CN116912637B - 输变电缺陷识别的方法、装置、计算机设备和存储介质 - Google Patents

输变电缺陷识别的方法、装置、计算机设备和存储介质 Download PDF

Info

Publication number
CN116912637B
CN116912637B CN202311174427.9A CN202311174427A CN116912637B CN 116912637 B CN116912637 B CN 116912637B CN 202311174427 A CN202311174427 A CN 202311174427A CN 116912637 B CN116912637 B CN 116912637B
Authority
CN
China
Prior art keywords
space
pruning
mask
strategy
transmission line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202311174427.9A
Other languages
English (en)
Other versions
CN116912637A (zh
Inventor
胥明凯
任志刚
杨杰
于光远
韩显芳
李琮
瞿寒冰
刘晓
刘一男
胡庆浩
陈显达
王淑颖
王思源
刘昭
张雨薇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Institute of Automation of Chinese Academy of Science
Jinan Power Supply Co of State Grid Shandong Electric Power Co Ltd
Original Assignee
Institute of Automation of Chinese Academy of Science
Jinan Power Supply Co of State Grid Shandong Electric Power Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Institute of Automation of Chinese Academy of Science, Jinan Power Supply Co of State Grid Shandong Electric Power Co Ltd filed Critical Institute of Automation of Chinese Academy of Science
Priority to CN202311174427.9A priority Critical patent/CN116912637B/zh
Publication of CN116912637A publication Critical patent/CN116912637A/zh
Application granted granted Critical
Publication of CN116912637B publication Critical patent/CN116912637B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/0895—Weakly supervised learning, e.g. semi-supervised or self-supervised learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0004—Industrial image inspection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/7715—Feature extraction, e.g. by transforming the feature space, e.g. multi-dimensional scaling [MDS]; Mappings, e.g. subspace methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
    • Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
    • Y04S10/00—Systems supporting electrical power generation, transmission or distribution
    • Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种输变电缺陷识别的方法、装置、计算机设备和存储介质，属于图像处理技术领域，应用于变电站场景的方法包括：获取变电站缺陷检测数据集，对变电站缺陷检测数据集进行图像预处理，生成样本集；利用训练集训练卷积神经网络，建立基于YoloV3模型的变电站缺陷识别模型；基于双门动态剪枝方法对变电站缺陷识别模型进行轻量化处理，获得轻量化变电站缺陷识别模型：利用验证集对轻量化变电站缺陷识别模型进行验证；实时采集变电站缺陷监测图像，并输入轻量化变电站缺陷识别模型进行变电站缺陷检测。本发明能够及时发现和鉴别变电站和输电线路缺陷，提高了变电站和输电线路运维自动化水平和电网运行安全，也适用于输电线路场景。

Description

输变电缺陷识别的方法、装置、计算机设备和存储介质
技术领域
本发明涉及一种输变电缺陷识别的方法、装置、计算机设备和存储介质，属于图像处理技术领域。
背景技术
目前，面对工业化和商业化的迅速发展，电力在我们的生活和工作中扮演着越来越重要的角色，保证电力设备顺利运行不断电成为重点保障。输电线路和变电站是电力系统的重要组成部分，其安全性直接关系到整个电力系统的稳定运行。因此对输电线路和变电站进行实时检测、及时预防电力线路和变电站故障的发生，直接关系到整个电力系统的稳定运行。
随着能源互联网建设的深入，人工智能技术在输变电智能巡视、电力作业安全管控、智能作业等领域得到了应用，但是应用程度还不深入。近年来，随着人工智能学科的飞速发展，深度卷积神经网络已经被广泛地应用在了在众多领域，例如计算机视觉、知识图谱、信息检索、语义理解、强化学习、语音识别等众多热门领域，在学术界和工业界掀起了一股又一股的深度学习的浪潮，并且解决了很多基于计算机的推理和认知领域的难题，并推动了医疗健康、交通运输、互联网、金融等行业的发展。
输电线路和变电站缺陷识别主要是根据输入的图像对输电线路和变电站场景中的一些缺陷和隐患进行检测和识别。目前在输变电缺陷识别方面，相比于传统计算机视觉算法，基于人工智能的缺陷检测技术具有较大的参数量和计算量，大部分缺陷识别应用采用前端图像采集、云端智能分析的方式，将计算量较大的缺陷识别网络放在云端服务器上进行处理，这样大大影响了现场检测效率和使用的便捷性。
发明内容
针对现有输电线路和变电站缺陷识别技术效率低的问题，本发明提出了一种输变电缺陷识别的方法、装置、计算机设备和存储介质，能够及时发现和鉴别输电线路和变电站缺陷，提高输电线路和变电站运维自动化水平和电网运行安全。
本发明解决其技术问题采取的技术方案是：
第一方面，本发明实施例提供的一种输变电缺陷识别的方法，所述输变电缺陷为变电站缺陷，应用于变电站场景对变电站缺陷进行检测，所述的方法包括以下步骤：
获取变电站缺陷检测数据集，对变电站缺陷检测数据集进行图像预处理，生成样本集，所述样本集包括训练集和验证集；
利用训练集训练卷积神经网络，建立基于YoloV3模型的变电站缺陷识别模型，所述卷积神经网络为包含多个卷积层的卷积神经网络；
基于双门动态剪枝方法对变电站缺陷识别模型进行轻量化处理，获得轻量化变电站缺陷识别模型：
利用验证集对轻量化变电站缺陷识别模型进行验证；
实时采集变电站缺陷监测图像，并输入轻量化变电站缺陷识别模型进行变电站缺陷检测。
作为本实施例一种可能的实现方式，所述获取变电站缺陷检测数据集，对变电站缺陷检测数据集进行图像预处理，生成样本集，包括：
根据预先制定好的变电站巡检线路，使用图像采集设备进行变电站图像采集；
对所述变电站缺陷检测数据集进行清洗操作和归一化处理；
采用清洗操作和归一化处理后的变电站缺陷检测数据集生成样本集，并对样本集进行人工标注。
作为本实施例一种可能的实现方式，所述基于双门动态剪枝方法对变电站缺陷识别模型进行轻量化处理，获得轻量化变电站缺陷识别模型，包括：
使用空间门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的空间注意力图、特征空间执行概率和空间策略掩码；
使用空间门动态剪枝的策略掩码真实标签生成方法得到变电站缺陷识别模型的空间策略掩码的真实标签；
使用通道门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的通道注意力图、特征通道执行概率和通道策略掩码；
使用通道门动态剪枝的策略掩码真实标签生成方法得到变电站缺陷识别模型的通道策略掩码的真实标签；
使用总体损失函数对变电站缺陷识别模型进行剪枝和训练，对深度卷积神经网络的加速与压缩，得到轻量化变电站缺陷识别模型；所述总体损失函数包含缺陷目标检测损失项、特征空间自监督正则项、特征通道自监督正则项、稀疏度正则项和剪枝率平滑正则项。
作为本实施例一种可能的实现方式，所述使用空间门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的空间注意力图、特征空间执行概率和空间策略掩码，包括：
计算第层空间注意力图/>：
其中，表示神经网络模型/>的第/>层维度为/>的特征，/>表示自适应平均池化操作，该操作的输出尺寸设置为/>，/>表示/>卷积操作，空间注意力图/>的维度为/>；所述计算第/>层空间注意力图/>的过程为：首先第/>层输出特征/>被分为尺寸为/>的小块，然后对/>进行/>操作得到维度为/>的空间特征，最后进行/>卷积操作；
计算第层特征空间执行的概率/>：
其中，表示Sigmoid函数；
计算空间门动态剪枝的策略掩码：
其中，表示0~1的均匀采样，τ表示采样的缩放因子；
当特征空间对应的策略掩码的值小于0.5时，对该特征空间进行剪枝；否则不对该特征空间进行剪枝；
重复执行以上步骤直至神经网络所有层都被遍历为止。
作为本实施例一种可能的实现方式，所述使用空间门动态剪枝的策略掩码真实标签生成方法得到变电站缺陷识别模型的空间策略掩码的真实标签，包括：
计算空间门动态剪枝的第层空间策略掩码的真实标签/>：
将第层真实标签/>初始化为全1向量：
其中，表示空间注意力图/>的维度；
计算每个特征空间的激活值：
其中，表示自适应平均池化操作，该操作的输出尺寸设置为，/>表示/>卷积操作，卷积核权重设置为/>，表示绝对值操作，/>表示神经网络模型/>第/>层的输出特征；所述计算每个特征空间的激活值/>的过程为：首先对第/>输出特征进行/>卷积操作得到的维度为/>的空间特征，然后进行/>操作得到维度为/>的空间激活特征/>；
计算标准化后的激活值：
其中，的维度为/>，/>表示将/>个空间特征进行求和，/>表示标准化后的空间特征激活值；
对标准化后的激活值进行降序排序：
采用CUMSUM函数对进行累计求和得到/>：
得到重要性保存率大于的/>对应索引坐标/>：
)
其中，为剪枝率;
使用被剪枝的特征空间的索引来更新真实标签/>：
重复执行以上步骤直至神经网络所有层都被遍历为止。
作为本实施例一种可能的实现方式，所述使用通道门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的通道注意力图、特征通道执行概率和通道策略掩码，包括：
计算第层通道注意力图/>：
其中，表示神经网络模型/>的第/>层维度为/>的特征，/>表示全局平均池化操作，/>表示全连接操作，/>表示批归一化操作，/>表示RELU函数，通道注意力图/>的维度为/>；
计算第层特征通道执行的概率/>：
其中，表示Sigmoid函数；
计算通道门动态剪枝的策略掩码：
其中，表示0~1的均匀采样，τ采样的缩放因子；
当特征通道对应的的值小于0.5时，对该特征空间进行剪枝；否则不对该特征空间进行剪枝；
重复执行以上步骤直至神经网络所有层都被遍历为止。
作为本实施例一种可能的实现方式，所述使用通道门动态剪枝的策略掩码真实标签生成方法得到变电站缺陷识别模型的通道策略掩码的真实标签，包括：
计算通道门动态剪枝的第层通道策略掩码的真实标签/>：
将第层真实标签/>初始化为全1向量：
其中，；
计算每个特征通道的激活值：
其中，表示全局最大池化操作，/>表示绝对值操作，/>表示神经网络模型/>第/>层的输出特征；
计算标准化后的激活值：
其中，的维度为c/>，/>表示将/>个通道特征进行求和，/>表示标准化后的通道特征激活值；
对激活值进行降序排序：
使用CUNSUM函数对进行累计求和得到/>：
得到重要性保存率大于的/>对应索引坐标，计算方法如下：
)
其中，为剪枝率;
使用被剪枝的特征通道的索引来更新真实标签/>，从而得到最终的真实标签：
重复执行以上步骤直至神经网络所有层都被遍历为止。
作为本实施例一种可能的实现方式，所述使用总体损失函数对变电站缺陷识别模型进行剪枝和训练，对深度卷积神经网络的加速与压缩，得到轻量化变电站缺陷识别模型，包括：
采用总体损失函数对神经网络进行剪枝和训练，直至总体损失函数收敛：
所述总体损失函数的计算公式为：
其中，缺陷目标检测损失项，/>表示特征空间自监督正则项，/>表示特征通道自监督正则项，/>表示稀疏度正则项，/>表示剪枝率平滑下界正则项，表示剪枝率平滑上界正则项。
第二方面，本发明实施例提供的一种输变电缺陷识别的装置，所述输变电缺陷为变电站缺陷，应用于变电站场景对变电站缺陷进行检测，所述的装置包括：
样本生成模块，用于获取变电站缺陷检测数据集，对变电站缺陷检测数据集进行图像预处理，生成样本集，所述样本集包括训练集和验证集；
模型建立模块，用于利用训练集训练卷积神经网络，建立基于YoloV3模型的变电站缺陷识别模型，所述卷积神经网络为包含多个卷积层的卷积神经网络；
轻量化处理模块，用于基于双门动态剪枝方法对变电站缺陷识别模型进行轻量化处理，获得轻量化变电站缺陷识别模型：
模型验证模块，用于利用验证集对轻量化变电站缺陷识别模型进行验证；
变电站缺陷检测模块，用于实时采集变电站缺陷监测图像，并输入轻量化变电站缺陷识别模型进行变电站缺陷检测。
作为本实施例一种可能的实现方式，所述基于双门动态剪枝方法包括基于自监督学习的空间门动态剪枝方法和基于自监督学习的通道门动态剪枝方法；所述基于自监督学习的空间门动态剪枝方法包括空间门动态剪枝的策略掩码生成方法和空间门动态剪枝的策略掩码真实标签生成方法；所述基于自监督学习的通道门动态剪枝方法包括通道门动态剪枝的策略掩码生成方法和通道门动态剪枝的策略掩码真实标签生成方法。
第三方面，本发明实施例提供的一种输变电缺陷识别的方法，所述输变电缺陷为输电线路缺陷，应用于输电线路场景对输电线路缺陷进行检测，所述的方法包括以下步骤：
获取输电线路缺陷检测数据集，对输电线路缺陷检测数据集进行图像预处理，生成样本集，所述样本集包括训练集和验证集；
利用训练集训练卷积神经网络，建立基于YoloV3模型的输电线路缺陷识别模型，所述卷积神经网络为包含多个卷积层的卷积神经网络；
基于双门动态剪枝方法对输电线路缺陷识别模型进行轻量化处理，获得轻量化输电线路缺陷识别模型：
利用验证集对轻量化输电线路缺陷识别模型进行验证；
实时采集输电线路缺陷监测图像，并输入轻量化输电线路缺陷识别模型进行输电线路缺陷检测。
作为本实施例一种可能的实现方式，所述获取输电线路缺陷检测数据集，对输电线路缺陷检测数据集进行图像预处理，生成样本集，包括：
根据预先制定好的输电线路巡检线路，使用部署有YOLOv3模型的无人机沿线进行输电线路图像采集；
对所述输电线路缺陷检测数据集进行清洗操作和归一化处理；
采用清洗操作和归一化处理后的输电线路缺陷检测数据集生成样本集，并对样本集进行人工标注。
第四方面，本发明实施例提供的一种输变电缺陷识别的装置，所述输变电缺陷为输电线路缺陷，应用于输电线路场景对输电线路缺陷进行检测，所述的装置包括：
样本生成模块，用于获取输电线路缺陷检测数据集，对输电线路缺陷检测数据集进行图像预处理，生成样本集，所述样本集包括训练集和验证集；
模型建立模块，用于利用训练集训练卷积神经网络，建立基于YoloV3模型的输电线路缺陷识别模型，所述卷积神经网络为包含多个卷积层的卷积神经网络；
轻量化处理模块，用于基于双门动态剪枝方法对输电线路缺陷识别模型进行轻量化处理，获得轻量化输电线路缺陷识别模型：
模型验证模块，用于利用验证集对轻量化输电线路缺陷识别模型进行验证；
输电线路缺陷检测模块，用于实时采集输电线路缺陷监测图像，并输入轻量化输电线路缺陷识别模型进行输电线路缺陷检测。
作为本实施例一种可能的实现方式，所述基于双门动态剪枝方法包括基于自监督学习的空间门动态剪枝方法和基于自监督学习的通道门动态剪枝方法；所述基于自监督学习的空间门动态剪枝方法包括空间门动态剪枝的策略掩码生成方法和空间门动态剪枝的策略掩码真实标签生成方法；所述基于自监督学习的通道门动态剪枝方法包括通道门动态剪枝的策略掩码生成方法和通道门动态剪枝的策略掩码真实标签生成方法。
第五方面，本发明实施例提供的一种计算机设备，包括处理器、存储器和总线，所述存储器存储有所述处理器可执行的机器可读指令，当所述计算机设备运行时，所述处理器与所述存储器之间通过总线通信，所述处理器执行所述机器可读指令，以执行如上述任意输变电缺陷识别的方法的步骤。
第六方面，本发明实施例提供的一种存储介质，该存储介质上存储有计算机程序，该计算机程序被处理器运行时执行如上述任意输变电缺陷识别的方法的步骤。
本发明实施例的技术方案可以具有的有益效果如下：
本发明采用基于双门动态剪枝方法对变电站缺陷识别模型（或输电线路缺陷识别模型）进行轻量化处理，通过自监督学习算法不断对深度卷积神经网络的各层特征进行自监督学习得到神经网络动态剪枝的策略掩码，从而对深度卷积神经网络进行动态剪枝，并且使用包含稀疏度正则项和剪枝率平滑正则项的总体损失函数进一步提升了深度卷积神经网络模型剪枝后的性能。
本发明是针对输变电缺陷识别模型轻量化设计的。其中自监督学习部分可以有效利用输变电场景（变电站场景或输电线路场景）中大量的无标注数据，提升剪枝效率；双门动态剪枝是根据空间门和通道门两种方式构建剪枝策略，可以有效捕捉不均匀类别缺陷数据的特征，能够提升占比较小的缺陷类别的精度，而且动态剪枝能够根据输入数据变化调整剪枝策略，从而实现对复杂变化的户外图像的适应，最终可以实现输变电缺陷识别的加速与压缩，并将其部署到前端识别装置上。本发明能够对输电线路和变电站进行实时检测，能够及时预防电力线路和变电站故障的发生，保证了整个电力系统的稳定运行。
本发明有效用于输电线路和变电站检修巡检过程中，不仅能够及时发现和鉴别设备缺陷，提升了缺陷识别的准确率，而且能够提高巡检工作效率和质量，提高了输电线路和变电站运维自动化水平和电网运行安全。
附图说明
图1是根据一示例性实施例示出的一种变电站缺陷识别的方法流程图；
图2是根据一示例性实施例示出的一种变电站缺陷识别的装置示意图；
图3是根据一示例性实施例示出的一种输电线路缺陷识别的方法流程图；
图4是根据一示例性实施例示出的一种输电线路缺陷识别的装置示意图；
图5是根据一示例性实施例示出的一种基于自监督学习的空间门动态剪枝方法的流程图；
图6是根据一示例性实施例示出的一种基于自监督学习的通道门动态剪枝方法的流程图。
具体实施方式
下面结合附图与实施例对本发明做进一步说明：
为能清楚说明本方案的技术特点，下面通过具体实施方式，并结合其附图，对本发明进行详细阐述。下文的公开提供了许多不同的实施例或例子用来实现本发明的不同结构。为了简化本发明的公开，下文中对特定例子的部件和设置进行描述。此外，本发明可以在不同例子中重复参考数字和/或字母。这种重复是为了简化和清楚的目的，其本身不指示所讨论各种实施例和/或设置之间的关系。应当注意，在附图中所图示的部件不一定按比例绘制。本发明省略了对公知组件和处理技术及工艺的描述以避免不必要地限制本发明。
针对输变电缺陷识别模型的加速与压缩问题，学术界和工业界已经提出一些有效的算法。然而，输变电缺陷识别场景的标注数据相较于无标注数据规模较小，如何利用无标注数据进行模型轻量化是一个挑战。其次，由于输变电缺陷识别场景的数据存在缺陷类别分布不均匀的情况，部分类别的缺陷只有少量数据，导致很多深度网络加速压缩方法直接应用到缺陷识别模型上精度下降很多。最后，输变电缺陷识别场景下的很多图像是室外场景，受到天气、阳光直射、粉尘等因素影响，输入图像数据会受到大量的干扰，当前很多模型剪枝算法大多数都是对深度卷积神经网络进行静态的剪枝，并没有考虑到当输入数据受到干扰发生变化时，深度卷积神经网络的剪枝策略也需要相应地改变。因此，本发明提出了一种能够应用于变电站场景和输电线路场景的输变电缺陷识别的方法，即一种基于双门动态剪枝方法的输变电缺陷识别模型轻量化技术，通过使用基于自监督学习的双门动态剪枝方法，对输变电缺陷识别模型进行轻量化，将变电站缺陷检测模型和输电线路缺陷检测模型变小，从而将输变电缺陷识别模型部署到前端识别装置上，对变电站缺陷和输电线路缺陷进行检测。
如图1所示，本发明实施例提供的一种变电站缺陷识别的方法，应用于变电站场景对变电站缺陷进行检测，所述的方法包括以下步骤：
获取变电站缺陷检测数据集，对变电站缺陷检测数据集进行图像预处理，生成样本集，所述样本集包括训练集和验证集；
利用训练集训练卷积神经网络，建立基于YoloV3模型的变电站缺陷识别模型，所述卷积神经网络为包含多个卷积层的卷积神经网络；
基于双门动态剪枝方法对变电站缺陷识别模型进行轻量化处理，获得轻量化变电站缺陷识别模型：
利用验证集对轻量化变电站缺陷识别模型进行验证；
实时采集变电站缺陷监测图像，并输入轻量化变电站缺陷识别模型进行变电站缺陷检测。
由于变电站场景下的存在缺陷类别不均衡的现象，基于双门动态剪枝方法能够较好地捕捉不同类别缺陷下的需要剪枝的模型参数，因此，本发明使用基于自监督学习的双门动态剪枝方法对变电站缺陷检测模型进行轻量化，从而可以部署在前端装置上。本发明在将变电站缺陷检测模型变小的同时保留了不同类别缺陷检测的精度。
作为本实施例一种可能的实现方式，所述获取变电站缺陷检测数据集，对变电站缺陷检测数据集进行图像预处理，生成样本集，包括：
根据预先制定好的变电站巡检线路，使用图像采集设备进行变电站图像采集；
对所述变电站缺陷检测数据集进行清洗操作和归一化处理；
采用清洗操作和归一化处理后的变电站缺陷检测数据集生成样本集，并对样本集进行人工标注。
作为本实施例一种可能的实现方式，所述基于双门动态剪枝方法对变电站缺陷识别模型进行轻量化处理，获得轻量化变电站缺陷识别模型，包括：
使用空间门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的空间注意力图、特征空间执行概率和空间策略掩码；
使用空间门动态剪枝的策略掩码真实标签生成方法得到变电站缺陷识别模型的空间策略掩码的真实标签；
使用通道门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的通道注意力图、特征通道执行概率和通道策略掩码；
使用通道门动态剪枝的策略掩码真实标签生成方法得到变电站缺陷识别模型的通道策略掩码的真实标签；
使用总体损失函数对变电站缺陷识别模型进行剪枝和训练，对深度卷积神经网络的加速与压缩，得到轻量化变电站缺陷识别模型；所述总体损失函数包含缺陷目标检测损失项、特征空间自监督正则项、特征通道自监督正则项、稀疏度正则项和剪枝率平滑正则项。
作为本实施例一种可能的实现方式，所述使用空间门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的空间注意力图、特征空间执行概率和空间策略掩码，包括：
计算第层空间注意力图/>：
其中，表示神经网络模型/>的第/>层维度为/>的特征，/>表示自适应平均池化操作，该操作的输出尺寸设置为/>，/>表示/>卷积操作，空间注意力图/>的维度为/>；所述计算第/>层空间注意力图/>的过程为：首先第/>层输出特征/>被分为尺寸为/>的小块，然后对/>进行/>操作得到维度为/>的空间特征，最后进行/>卷积操作；
计算第层特征空间执行（未被剪枝）的概率/>：
其中，表示Sigmoid函数；
计算空间门动态剪枝的策略掩码：
其中，表示0~1的均匀采样，τ表示采样的缩放因子；
当特征空间对应的策略掩码的值小于0.5时，对该特征空间进行剪枝；否则不对该特征空间进行剪枝；
重复执行以上步骤直至神经网络所有层都被遍历为止。
作为本实施例一种可能的实现方式，所述使用空间门动态剪枝的策略掩码真实标签生成方法得到变电站缺陷识别模型的空间策略掩码的真实标签，包括：
计算空间门动态剪枝的第层空间策略掩码的真实标签/>：
将第层真实标签/>初始化为全1向量：
其中，表示空间注意力图/>的维度；
计算每个特征空间的激活值：
其中，表示自适应平均池化操作，该操作的输出尺寸设置为，/>表示/>卷积操作，卷积核权重设置为/>，表示绝对值操作，/>表示神经网络模型/>第/>层的输出特征；所述计算每个特征空间的激活值/>的过程为：首先对第/>输出特征进行/>卷积操作得到的维度为/>的空间特征，然后进行/>操作得到维度为/>的空间激活特征/>；
计算标准化后的激活值：
其中，的维度为/>，/>表示将/>个空间特征进行求和，/>表示标准化后的空间特征激活值；
对标准化后的激活值进行降序排序：
使用CUMSUM函数对进行累计求和得到/>：
得到重要性保存率大于的/>对应索引坐标/>：
)
其中，为剪枝率（即特征空间的重要性保存率）；
使用被剪枝的特征空间的索引来更新真实标签/>：
重复执行以上步骤直至神经网络所有层都被遍历为止。
作为本实施例一种可能的实现方式，所述使用通道门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的通道注意力图、特征通道执行概率和通道策略掩码，包括：
计算第层通道注意力图/>：
其中，表示神经网络模型/>的第/>层维度为/>的特征，/>表示全局平均池化操作，/>表示全连接操作，/>表示批归一化操作，/>表示RELU函数，通道注意力图/>的维度为/>；
计算第层特征通道执行（未被剪枝）的概率/>：
其中，表示Sigmoid函数；
计算通道门动态剪枝的策略掩码：
其中，表示0~1的均匀采样，τ采样的缩放因子；
当特征通道对应的的值小于0.5时，对该特征空间进行剪枝；否则不对该特征空间进行剪枝；
重复执行以上步骤直至神经网络所有层都被遍历为止。
作为本实施例一种可能的实现方式，所述使用通道门动态剪枝的策略掩码真实标签生成方法得到变电站缺陷识别模型的通道策略掩码的真实标签，包括：
计算通道门动态剪枝的第层通道策略掩码的真实标签/>：
将第层真实标签/>初始化为全1向量：
其中，；
计算每个特征通道的激活值：
其中，表示全局最大池化操作，/>表示绝对值操作，/>表示神经网络模型/>第/>层的输出特征；
计算标准化后的激活值：
其中，的维度为c/>，/>表示将/>个通道特征进行求和，/>表示标准化后的通道特征激活值；
对激活值进行降序排序：
使用CUNMSUM函数对进行累计求和得到/>：
得到重要性保存率大于的/>对应索引坐标，计算方法如下：
)
其中，为剪枝率；
使用被剪枝的特征通道的索引来更新真实标签/>，从而得到最终的真实标签：
重复执行以上步骤直至神经网络所有层都被遍历为止。
作为本实施例一种可能的实现方式，所述使用总体损失函数对变电站缺陷识别模型进行剪枝和训练，对深度卷积神经网络的加速与压缩，得到轻量化变电站缺陷识别模型，包括：
采用总体损失函数对神经网络进行剪枝和训练，直至总体损失函数收敛：
所述总体损失函数的计算公式为：
其中，缺陷目标检测损失项，/>表示特征空间自监督正则项，/>表示特征通道自监督正则项，/>表示稀疏度正则项，/>表示剪枝率平滑下界正则项，表示剪枝率平滑上界正则项。
如图2所示，本发明实施例提供的一种变电站缺陷识别的装置，应用于变电站场景对变电站缺陷进行检测，所述的装置包括：
样本生成模块，用于获取变电站缺陷检测数据集，对变电站缺陷检测数据集进行图像预处理，生成样本集，所述样本集包括训练集和验证集；
模型建立模块，用于利用训练集训练卷积神经网络，建立基于YoloV3模型的变电站缺陷识别模型，所述卷积神经网络为包含多个卷积层的卷积神经网络；
轻量化处理模块，用于基于双门动态剪枝方法对变电站缺陷识别模型进行轻量化处理，获得轻量化变电站缺陷识别模型：
模型验证模块，用于利用验证集对轻量化变电站缺陷识别模型进行验证；
变电站缺陷检测模块，用于实时采集变电站缺陷监测图像，并输入轻量化变电站缺陷识别模型进行变电站缺陷检测。
如图3所示，本发明实施例提供的一种输电线路缺陷识别的方法，应用于输电线路场景对输电线路缺陷进行检测，所述的方法包括以下步骤：
获取输电线路缺陷检测数据集，对输电线路缺陷检测数据集进行图像预处理，生成样本集，所述样本集包括训练集和验证集；
利用训练集训练卷积神经网络，建立基于YoloV3模型的输电线路缺陷识别模型，所述卷积神经网络为包含多个卷积层的卷积神经网络；
基于双门动态剪枝方法对输电线路缺陷识别模型进行轻量化处理，获得轻量化输电线路缺陷识别模型：
利用验证集对轻量化输电线路缺陷识别模型进行验证；
实时采集输电线路缺陷监测图像，并输入轻量化输电线路缺陷识别模型进行输电线路缺陷检测。
作为本实施例一种可能的实现方式，所述获取输电线路缺陷检测数据集，对输电线路缺陷检测数据集进行图像预处理，生成样本集，包括：
根据预先制定好的输电线路巡检线路，使用部署有YOLOv3模型的无人机沿线进行输电线路图像采集；
对所述输电线路缺陷检测数据集进行清洗操作和归一化处理；
采用清洗操作和归一化处理后的输电线路缺陷检测数据集生成样本集，并对样本集进行人工标注。
作为本实施例一种可能的实现方式，所述基于双门动态剪枝方法对变电站缺陷识别模型进行轻量化处理，获得轻量化变电站缺陷识别模型，包括：
使用空间门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的空间注意力图、特征空间执行概率和空间策略掩码；
使用空间门动态剪枝的策略掩码真实标签生成方法得到变电站缺陷识别模型的空间策略掩码的真实标签；
使用通道门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的通道注意力图、特征通道执行概率和通道策略掩码；
使用通道门动态剪枝的策略掩码真实标签生成方法得到变电站缺陷识别模型的通道策略掩码的真实标签；
使用总体损失函数对变电站缺陷识别模型进行剪枝和训练，对深度卷积神经网络的加速与压缩，得到轻量化变电站缺陷识别模型；所述总体损失函数包含缺陷目标检测损失项、特征空间自监督正则项、特征通道自监督正则项、稀疏度正则项和剪枝率平滑正则项。
作为本实施例一种可能的实现方式，所述使用空间门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的空间注意力图、特征空间执行概率和空间策略掩码，包括：
计算第层空间注意力图/>：
其中，表示神经网络模型/>的第/>层维度为/>的特征，/>表示自适应平均池化操作，该操作的输出尺寸设置为/>，/>表示/>卷积操作，空间注意力图/>的维度为/>；所述计算第/>层空间注意力图/>的过程为：首先第/>层输出特征/>被分为尺寸为/>的小块，然后对/>进行/>操作得到维度为/>的空间特征，最后进行/>卷积操作；
计算第层特征空间执行的概率/>：
其中，表示Sigmoid函数；
计算空间门动态剪枝的策略掩码：
其中，表示0~1的均匀采样，τ表示采样的缩放因子；
当特征空间对应的策略掩码的值小于0.5时，对该特征空间进行剪枝；否则不对该特征空间进行剪枝；
重复执行以上步骤直至神经网络所有层都被遍历为止。
作为本实施例一种可能的实现方式，所述使用空间门动态剪枝的策略掩码真实标签生成方法得到变电站缺陷识别模型的空间策略掩码的真实标签，包括：
计算空间门动态剪枝的第层空间策略掩码的真实标签/>：
将第层真实标签/>初始化为全1向量：
其中，表示空间注意力图/>的维度；
计算每个特征空间的激活值：
其中，表示自适应平均池化操作，该操作的输出尺寸设置为，/>表示/>卷积操作，卷积核权重设置为/>，表示绝对值操作，/>表示神经网络模型/>第/>层的输出特征；所述计算每个特征空间的激活值/>的过程为：首先对第/>输出特征进行/>卷积操作得到的维度为/>的空间特征，然后进行/>操作得到维度为/>的空间激活特征/>；
计算标准化后的激活值：
其中，的维度为/>，/>表示将/>个空间特征进行求和，/>表示标准化后的空间特征激活值；
对标准化后的激活值进行降序排序：
使用CUNSUM函数对进行累计求和得到/>：
得到重要性保存率大于的/>对应索引坐标/>：
)
其中，为剪枝率；
使用被剪枝的特征空间的索引来更新真实标签/>：
重复执行以上步骤直至神经网络所有层都被遍历为止。
作为本实施例一种可能的实现方式，所述使用通道门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的通道注意力图、特征通道执行概率和通道策略掩码，包括：
计算第层通道注意力图/>：
其中，表示神经网络模型/>的第/>层维度为/>的特征，/>表示全局平均池化操作，/>表示全连接操作，/>表示批归一化操作，/>表示RELU函数，通道注意力图/>的维度为/>；
计算第层特征通道执行的概率/>：
其中，表示Sigmoid函数；
计算通道门动态剪枝的策略掩码：
其中，表示0~1的均匀采样，τ采样的缩放因子；
当特征通道对应的的值小于0.5时，对该特征空间进行剪枝；否则不对该特征空间进行剪枝；
重复执行以上步骤直至神经网络所有层都被遍历为止。
作为本实施例一种可能的实现方式，所述使用通道门动态剪枝的策略掩码真实标签生成方法得到变电站缺陷识别模型的通道策略掩码的真实标签，包括：
计算通道门动态剪枝的第层通道策略掩码的真实标签/>：
将第层真实标签/>初始化为全1向量：
其中，；
计算每个特征通道的激活值：
其中，表示全局最大池化操作，/>表示绝对值操作，/>表示神经网络模型/>第/>层的输出特征；
计算标准化后的激活值：
其中，的维度为c/>，/>表示将/>个通道特征进行求和，/>表示标准化后的通道特征激活值；
对激活值进行降序排序：
使用CUMSUM函数对进行累计求和得到/>：
得到重要性保存率大于的/>对应索引坐标，计算方法如下：
)
其中，为剪枝率；
使用被剪枝的特征通道的索引来更新真实标签/>，从而得到最终的真实标签：
重复执行以上步骤直至神经网络所有层都被遍历为止。
作为本实施例一种可能的实现方式，所述使用总体损失函数对变电站缺陷识别模型进行剪枝和训练，对深度卷积神经网络的加速与压缩，得到轻量化变电站缺陷识别模型，包括：
采用总体损失函数对神经网络进行剪枝和训练，直至总体损失函数收敛：
所述总体损失函数的计算公式为：
其中，缺陷目标检测损失项，/>表示特征空间自监督正则项，/>表示特征通道自监督正则项，/>表示稀疏度正则项，/>表示剪枝率平滑下界正则项，表示剪枝率平滑上界正则项。
如图4所示，本发明实施例提供的一种输电线路缺陷识别的装置，应用于输电线路场景对输电线路缺陷进行检测，所述的装置包括：
样本生成模块，用于获取输电线路缺陷检测数据集，对输电线路缺陷检测数据集进行图像预处理，生成样本集，所述样本集包括训练集和验证集；
模型建立模块，用于利用训练集训练卷积神经网络，建立基于YoloV3模型的输电线路缺陷识别模型，所述卷积神经网络为包含多个卷积层的卷积神经网络；
轻量化处理模块，用于基于双门动态剪枝方法对输电线路缺陷识别模型进行轻量化处理，获得轻量化输电线路缺陷识别模型：
模型验证模块，用于利用验证集对轻量化输电线路缺陷识别模型进行验证；
输电线路缺陷检测模块，用于实时采集输电线路缺陷监测图像，并输入轻量化输电线路缺陷识别模型进行输电线路缺陷检测。
本发明所述基于双门动态剪枝方法包括基于自监督学习的空间门动态剪枝方法和基于自监督学习的通道门动态剪枝方法；所述基于自监督学习的空间门动态剪枝方法包括空间门动态剪枝的策略掩码生成方法和空间门动态剪枝的策略掩码真实标签生成方法；所述基于自监督学习的通道门动态剪枝方法包括通道门动态剪枝的策略掩码生成方法和通道门动态剪枝的策略掩码真实标签生成方法。
所述空间门动态剪枝的策略掩码生成方法可以分为空间注意力图生成过程、特征空间执行概率计算过程和空间策略掩码计算过程三个步骤顺序运行，其中空间注意力图生成过程是空间门动态剪枝的策略掩码生成方法的核心；空间门动态剪枝的空间策略掩码真实标签生成方法主要是通过对下一层特征做卷积操作和池化操作来获得特征空间的激活值，进而生成空间策略掩码的真实标签，具体可参照图5。
如图5所示，基于自监督学习的空间门动态剪枝方法如下：
假设神经网络模型的第/>层特征为/>（维度为/>），空间注意力图/>的计算方法如下：
其中，表示神经网络模型/>的第/>层维度为/>的特征，/>表示自适应平均池化操作，该操作的输出尺寸设置为/>，/>表示/>卷积操作，空间注意力图/>的维度为/>；所述计算第/>层空间注意力图/>的过程为：首先第/>层输出特征/>被分为尺寸为/>的小块，然后对/>进行/>操作得到维度为/>的空间特征，最后进行/>卷积操作；
第层特征空间执行（未被剪枝）的概率/>的计算方法如下：
其中，表示Sigmoid函数。
空间门动态剪枝的第层空间策略掩码的真实标签/>的计算流程如下（假设特征空间的重要性保存率，即剪枝率为/>）：
1.将第层真实标签/>初始化为全1向量，方法如下：
2. 计算每个特征空间的激活值，计算方法如下：/>
其中，表示自适应平均池化操作，该操作的输出尺寸设置为表示/>卷积操作，卷积核权重设置为/>，/>表示绝对值操作，/>表示神经网络模型/>第/>层的输出特征；所述计算每个特征空间的激活值/>的过程为：首先对第/>输出特征/>进行/>卷积操作得到的维度为的空间特征，然后进行/>操作得到维度为/>的空间激活特征；
3.计算标准化后的激活值，计算方法如下：
其中，的维度为/>，/>表示将/>个空间特征进行求和，/>表示标准化后的空间特征激活值；
4.对激活值进行降序排序，计算方法如下：
5.使用CUMSUM函数对进行累计求和得到/>，计算方法如下：
6.得到重要性保存率大于的/>对应索引坐标，计算方法如下：
)
7.使用被剪枝的特征空间的索引来更新真实标签/>，从而得到最终的真实标签，计算方法如下：
空间门动态剪枝的策略掩码的计算方法如下：
其中，表示0~1的均匀采样。
当特征空间对应的的值大于等于0.5时，该特征空间不被剪枝，当特征空间对应的/>的值小于0.5时，该特征空间被剪枝。
所述通道门动态剪枝的策略掩码生成方法可以分为通道注意力图生成过程、特征通道执行概率计算过程和通道策略掩码计算过程三个步骤顺序运行，其中通道注意力图生成过程是通道门动态剪枝的策略掩码生成方法的核心；通道门动态剪枝的通道策略掩码真实标签生成方法主要是通过对下一层特征做池化操做来获得特征通道的激活值，进而生成通道策略掩码的真实标签，具体可参照图6。
如图6所示，基于自监督学习的通道门动态剪枝方法如下：
假设神经网络模型的第/>层特征为/>（维度为/>），通道注意力图/>的计算方法如下：/>
其中，表示全局平均池化操作，/>表示全连接操作，/>表示批归一化操作，表示RELU函数。空间注意力图/>的维度为/>。
第层特征的各通道执行（未被剪枝）的概率/>的计算方法如下：
其中，表示Sigmoid函数。
通道门动态剪枝的第层通道策略掩码的真实标签/>的计算流程如下（假设特征通道的重要性保存率，即剪枝率为/>）：
1.将第层真实标签/>初始化为全1向量，方法如下：
2. 计算每个特征通道的激活值，计算方法如下：
其中，表示全局最大池化操作，/>表示绝对值操作。
3. 计算标准化后的激活值，计算方法如下：
其中，的维度为c/>，/>表示将/>个通道特征进行求和，/>表示标准化后的通道特征激活值；
4.对激活值进行降序排序，计算方法如下：
5.使用CUMSUM函数对进行累计求和得到/>，计算方法如下：
6.得到重要性保存率大于的/>对应索引坐标，计算方法如下：
)
7.使用被剪枝的特征通道的索引来更新真实标签/>，从而得到最终的真实标签，计算方法如下：
通道门动态剪枝的策略掩码的计算方法如下：
其中，表示0~1的均匀采样。
当特征通道对应的的值大于等于0.5时，该特征通道不被剪枝，当特征通道对应的/>的值小于0.5时，该特征通道被剪枝。
所述损失函数的设计如下：
1.为了帮助模型进行基于自监督学习的空间门动态剪枝，本发明加入特征空间自监督正则项：
其中，表示交叉熵损失函数。
2.为了帮助模型进行基于自监督学习的通道门动态剪枝，本发明加入特征通道自监督正则项：
其中，表示交叉熵损失函数。
3.为了让模型的稀疏度可以调控，本发明在损失函数中加入稀疏度正则项，稀疏度正则项的计算方法如下：
其中，表示模型第/>层剪枝后的计算量，/>表示模型第/>层剪枝前的计算量，/>表示目标计算量。
4.为了提升模型动态剪枝的效果，本发明在损失函数中加入剪枝率平滑正则项，该正则项的主要目的是在训练过程中平滑地提高剪枝比例，剪枝率平滑正则项的计算方法如下：
其中，表示松紧系数，/>表示当前轮次，/>表示计算量的密度，/>表示模型第/>层的空间门动态剪枝策略掩码，/>表示模型第/>层的通道门动态剪枝策略掩码，/>表示上界正则化，/>表示下界正则化。
综合上述正则项后得到总体损失函数：
其中，缺陷目标检测损失项。
利用本发明所述方法对输电线路或变电站场景中的缺陷检测模型进行轻量化并部署到前端计算装置，从而进行缺陷检测任务：
数据集分为输电线路缺陷检测和变电站缺陷检测数据集两个部分，其训练集均为10000张，验证集均为1000张，测试集均为2000张；
本发明使用YoloV3作为待剪枝神经网络模型，设置目标计算量/>为0.4，设置松紧系数/>为0.05，初始化空间门动态剪枝率/>为0.9，初始化通道门动态剪枝率/>为0.9；
设置优化器为SGD，设置优化器的动量为0.9，设置优化器的衰减率为0.0005；
按照以上参数设定进行初始化；
重复执行以下两个步骤，直至总体损失函数收敛：
①逐层进行神经网络的前向传播，直至神经网络所有层都被遍历：
1)用空间门动态剪枝的策略掩码生成方法得到神经网络模型的空间注意力图、特征空间执行概率/>和空间策略掩码/>。
2)使用空间门动态剪枝的策略掩码真实标签生成方法得到神经网络模型的空间策略掩码的真实标签。
3)使用通道门动态剪枝的策略掩码生成方法得到神经网络模型的通道注意力图、特征通道执行概率/>和通道策略掩码/>。
4)使用通道门动态剪枝的策略掩码真实标签生成方法得到神经网络模型的通道策略掩码的真实标签。
5)计算神经网络模型的总体损失函数。
②将总体损失函数作为优化目标，进行神经网络的反向传播，并使用SGD优化器更新神经网络的权重。
使用最后得到的空间策略掩码和通道策略掩码/>对神经网络模型/>进行剪枝，得到最终的面向输电线路隐患分析场景的深度卷积神经网络模型/>或面向变电站缺陷检场景的深度卷积神经网络模型/>。
本发明采用基于双门动态剪枝方法对变电站缺陷识别模型（或输电线路缺陷识别模型）进行轻量化处理，通过自监督学习算法不断对深度卷积神经网络的各层特征进行自监督学习得到神经网络动态剪枝的策略掩码，从而对深度卷积神经网络进行动态剪枝，并且使用包含稀疏度正则项和剪枝率平滑正则项的总体损失函数进一步提升了深度卷积神经网络模型剪枝后的性能。
本发明是针对输变电缺陷识别模型轻量化设计的。其中自监督学习部分可以有效利用输变电场景（变电站场景或输电线路场景）中大量的无标注数据，提升剪枝效率；双门动态剪枝是根据空间门和通道门两种方式构建剪枝策略，可以有效捕捉不均匀类别缺陷数据的特征，能够提升占比较小的缺陷类别的精度，而且动态剪枝能够根据输入数据变化调整剪枝策略，从而实现对复杂变化的户外图像的适应，最终可以实现输变电缺陷识别的加速与压缩，并将其部署到前端识别装置上。本发明能够对输电线路和变电站进行实时检测，能够及时预防电力线路和变电站故障的发生，保证了整个电力系统的稳定运行。
本发明实施例提供的一种计算机设备，包括处理器、存储器和总线，所述存储器存储有所述处理器可执行的机器可读指令，当所述装置运行时，所述处理器与所述存储器之间通过总线通信，所述处理器执行所述机器可读指令，以执行如上述任意输变电缺陷识别的方法的步骤。
具体地，上述存储器和处理器能够为通用的存储器和处理器，这里不做具体限定，当处理器运行存储器存储的计算机程序时，能够执行上述输变电缺陷识别的方法。
本领域技术人员可以理解，所述计算机设备的结构并不构成对计算机设备的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者拆分某些部件，或者不同的部件布置。
在一些实施例中，该计算机设备还可以包括触摸屏可用于显示图形用户界面（例如，应用程序的启动界面）和接收用户针对图形用户界面的操作（例如，针对应用程序的启动操作）。具体的触摸屏可包括显示面板和触控面板。其中显示面板可以采用LCD(LiquidCrystal Display，液晶显示器)、OLED(Organic Light-Emitting Diode，有机发光二极管)等形式来配置。触控面板可收集用户在其上或附近的接触或者非接触操作，并生成预先设定的操作指令，例如，用户使用手指、触笔等任何适合的物体或附件在触控面板上或在触控面板附近的操作。另外，触控面板可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位、姿势，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成处理器能够处理的信息，再送给处理器，并能接收处理器发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板，也可以采用未来发展的任何技术实现触控面板。进一步的，触控面板可覆盖显示面板，用户可以根据显示面板显示的图形用户界面，在显示面板上覆盖的触控面板上或者附近进行操作，触控面板检测到在其上或附近的操作后，传送给处理器以确定用户输入，随后处理器响应于用户输入在显示面板上提供相应的视觉输出。另外，触控面板与显示面板可以作为两个独立的部件来实现也可以集成而来实现。
对应于上述应用程序的启动方法，本发明实施例还提供了一种存储介质，该存储介质上存储有计算机程序，该计算机程序被处理器运行时执行如上述任意输变电缺陷识别的方法的步骤。
本申请实施例所提供的应用程序的启动装置可以为设备上的特定硬件或者安装于设备上的软件或固件等。本申请实施例所提供的装置，其实现原理及产生的技术效果和前述方法实施例相同，为简要描述，装置实施例部分未提及之处，可参考前述方法实施例中相应内容。所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，前述描述的系统、装置和单元的具体工作过程，均可以参考上述方法实施例中的对应过程，在此不再赘述。
本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器、CD-ROM、光学存储器等）上实施的计算机程序产品的形式。
在本申请所提供的实施例中，应该理解到，所揭露装置和方法，可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，又例如，多个模块或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另外，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口，装置或模块的间接耦合或通信连接，可以是电性，机械或其它的形式。
作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理模块，即可以位于一个地方，或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本申请提供的实施例中的各功能模块可以集成在一个处理模块中，也可以是各个模块单独物理存在，也可以两个或两个以上模块集成在一个模块中。
本申请是参照根据本申请实施例的方法、设备（系统）、和计算机程序产品的流程图和／或方框图来描述的。应理解可由计算机程序指令实现流程图和／或方框图中的每一流程和／或方框、以及流程图和／或方框图中的流程和／或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的步骤。
最后应当说明的是：以上实施例仅用以说明本发明的技术方案而非对其限制，尽管参照上述实施例对本发明进行了详细的说明，所属领域的普通技术人员应当理解：依然可以对本发明的具体实施方式进行修改或者等同替换，而未脱离本发明精神和范围的任何修改或者等同替换，其均应涵盖在本发明的权利要求保护范围之内。

Claims (12)

1.一种输变电缺陷识别的方法，所述输变电缺陷为变电站缺陷，应用于变电站场景对变电站缺陷进行检测，其特征在于，所述的方法包括以下步骤：
获取变电站缺陷检测数据集，对变电站缺陷检测数据集进行图像预处理，生成样本集，所述样本集包括训练集和验证集；
利用训练集训练卷积神经网络，建立基于YoloV3模型的变电站缺陷识别模型，所述卷积神经网络为包含多个卷积层的卷积神经网络；
基于双门动态剪枝方法对变电站缺陷识别模型进行轻量化处理，获得轻量化变电站缺陷识别模型：
利用验证集对轻量化变电站缺陷识别模型进行验证；
实时采集变电站缺陷监测图像，并输入轻量化变电站缺陷识别模型进行变电站缺陷检测；
所述基于双门动态剪枝方法对变电站缺陷识别模型进行轻量化处理，获得轻量化变电站缺陷识别模型，包括：
使用空间门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的空间注意力图、特征空间执行概率和空间策略掩码；
使用空间门动态剪枝的策略掩码真实标签生成方法得到变电站缺陷识别模型的空间策略掩码的真实标签；
使用通道门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的通道注意力图、特征通道执行概率和通道策略掩码；
使用通道门动态剪枝的策略掩码真实标签生成方法得到变电站缺陷识别模型的通道策略掩码的真实标签；
使用总体损失函数对变电站缺陷识别模型进行剪枝和训练，对深度卷积神经网络的加速与压缩，得到轻量化变电站缺陷识别模型；所述总体损失函数包含缺陷目标检测损失项、特征空间自监督正则项、特征通道自监督正则项、稀疏度正则项和剪枝率平滑正则项；
所述使用空间门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的空间注意力图、特征空间执行概率和空间策略掩码，包括：
计算第层空间注意力图/>：
其中，表示神经网络模型/>的第/>层维度为/>的特征，/>表示自适应平均池化操作，该操作的输出尺寸设置为/>，/>表示/>卷积操作，空间注意力图/>的维度为/>；所述计算第/>层空间注意力图/>的过程为：首先第/>层输出特征/>被分为尺寸为/>的小块，然后对/>进行/>操作得到维度为的空间特征，最后进行/>卷积操作；
计算第层特征空间执行的概率/>：
其中，表示Sigmoid函数；
计算空间门动态剪枝的策略掩码：
其中，表示0~1的均匀采样，τ表示采样的缩放因子；
当特征空间对应的策略掩码的值小于0.5时，对该特征空间进行剪枝；否则不对该特征空间进行剪枝；
重复执行以上步骤直至神经网络所有层都被遍历为止。
2.根据权利要求1所述的输变电缺陷识别的方法，其特征在于，所述获取变电站缺陷检测数据集，对变电站缺陷检测数据集进行图像预处理，生成样本集，包括：
根据预先制定好的变电站巡检线路，使用图像采集设备进行变电站图像采集；
对所述变电站缺陷检测数据集进行清洗操作和归一化处理；
采用清洗操作和归一化处理后的变电站缺陷检测数据集生成样本集，并对样本集进行人工标注。
3.根据权利要求1所述的输变电缺陷识别的方法，其特征在于，所述使用空间门动态剪枝的策略掩码真实标签生成方法得到变电站缺陷识别模型的空间策略掩码的真实标签，包括：
计算空间门动态剪枝的第层空间策略掩码的真实标签/>：
将第层真实标签/>初始化为全1向量：
其中，表示空间注意力图/>的维度；
计算每个特征空间的激活值：
其中，表示自适应平均池化操作，该操作的输出尺寸设置为/>，表示/>卷积操作，卷积核权重设置为/>，表示绝对值操作，/>表示神经网络模型/>第/>层的输出特征；所述计算每个特征空间的激活值/>的过程为：首先对第/>输出特征进行/>卷积操作得到的维度为/>的空间特征，然后进行/>操作得到维度为/>的空间激活特征/>；
计算标准化后的激活值：
其中，的维度为/>，/>表示将/>个空间特征进行求和，/>表示标准化后的空间特征激活值；
对标准化后的激活值进行降序排序：
使用函数对/>进行累计求和得到/>：
得到重要性保存率大于的/>对应索引坐标/>：
)
其中，为剪枝率；
使用被剪枝的特征空间的索引来更新真实标签/>：
重复执行以上步骤直至神经网络所有层都被遍历为止。
4.根据权利要求1所述的输变电缺陷识别的方法，其特征在于，所述使用通道门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的通道注意力图、特征通道执行概率和通道策略掩码，包括：
计算第层通道注意力图/>：
其中，表示神经网络模型/>的第/>层维度为/>的特征，/>表示全局平均池化操作，/>表示全连接操作，/>表示批归一化操作，/>表示RELU函数，通道注意力图/>的维度为/>；
计算第层特征通道执行的概率/>：
其中，表示Sigmoid函数；
计算通道门动态剪枝的策略掩码：
其中，表示0~1的均匀采样，τ采样的缩放因子；
当特征通道对应的的值小于0.5时，对该特征空间进行剪枝；否则不对该特征空间进行剪枝；
重复执行以上步骤直至神经网络所有层都被遍历为止。
5.根据权利要求1所述的输变电缺陷识别的方法，其特征在于，所述使用通道门动态剪枝的策略掩码真实标签生成方法得到变电站缺陷识别模型的通道策略掩码的真实标签，包括：
计算通道门动态剪枝的第层通道策略掩码的真实标签/>：
将第层真实标签/>初始化为全1向量：
其中，；
计算每个特征通道的激活值：
其中，表示全局最大池化操作，/>表示绝对值操作，/>表示神经网络模型/>第层的输出特征；
计算标准化后的激活值：
其中，的维度为c/>，/>表示将/>个通道特征进行求和，/>表示标准化后的通道特征激活值；
对激活值进行降序排序：
使用函数对/>进行累计求和得到/>：
得到重要性保存率大于的/>对应索引坐标，计算方法如下：
)
其中，为剪枝率;
使用被剪枝的特征通道的索引来更新真实标签/>，从而得到最终的真实标签：
重复执行以上步骤直至神经网络所有层都被遍历为止。
6.根据权利要求1所述的输变电缺陷识别的方法，其特征在于，所述使用总体损失函数对变电站缺陷识别模型进行剪枝和训练，对深度卷积神经网络的加速与压缩，得到轻量化变电站缺陷识别模型，包括：
采用总体损失函数对神经网络进行剪枝和训练，直至总体损失函数收敛：
所述总体损失函数的计算公式为：
其中，缺陷目标检测损失项，/>表示特征空间自监督正则项，/>表示特征通道自监督正则项，/>表示稀疏度正则项，/>表示剪枝率平滑下界正则项，/>表示剪枝率平滑上界正则项。
7.一种输变电缺陷识别的装置，所述输变电缺陷为变电站缺陷，应用于变电站场景对变电站缺陷进行检测，其特征在于，所述的装置包括：
样本生成模块，用于获取变电站缺陷检测数据集，对变电站缺陷检测数据集进行图像预处理，生成样本集，所述样本集包括训练集和验证集；
模型建立模块，用于利用训练集训练卷积神经网络，建立基于YoloV3模型的变电站缺陷识别模型，所述卷积神经网络为包含多个卷积层的卷积神经网络；
轻量化处理模块，用于基于双门动态剪枝方法对变电站缺陷识别模型进行轻量化处理，获得轻量化变电站缺陷识别模型：
模型验证模块，用于利用验证集对轻量化变电站缺陷识别模型进行验证；
变电站缺陷检测模块，用于实时采集变电站缺陷监测图像，并输入轻量化变电站缺陷识别模型进行变电站缺陷检测；
所述基于双门动态剪枝方法包括基于自监督学习的空间门动态剪枝方法和基于自监督学习的通道门动态剪枝方法；所述基于自监督学习的空间门动态剪枝方法包括空间门动态剪枝的策略掩码生成方法和空间门动态剪枝的策略掩码真实标签生成方法；所述基于自监督学习的通道门动态剪枝方法包括通道门动态剪枝的策略掩码生成方法和通道门动态剪枝的策略掩码真实标签生成方法；
所述基于双门动态剪枝方法对变电站缺陷识别模型进行轻量化处理，获得轻量化变电站缺陷识别模型，包括：
使用空间门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的空间注意力图、特征空间执行概率和空间策略掩码；
使用空间门动态剪枝的策略掩码真实标签生成方法得到变电站缺陷识别模型的空间策略掩码的真实标签；
使用通道门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的通道注意力图、特征通道执行概率和通道策略掩码；
使用通道门动态剪枝的策略掩码真实标签生成方法得到变电站缺陷识别模型的通道策略掩码的真实标签；
使用总体损失函数对变电站缺陷识别模型进行剪枝和训练，对深度卷积神经网络的加速与压缩，得到轻量化变电站缺陷识别模型；所述总体损失函数包含缺陷目标检测损失项、特征空间自监督正则项、特征通道自监督正则项、稀疏度正则项和剪枝率平滑正则项；
所述使用空间门动态剪枝的策略掩码生成方法得到变电站缺陷识别模型的空间注意力图、特征空间执行概率和空间策略掩码，包括：
计算第层空间注意力图/>：
其中，表示神经网络模型/>的第/>层维度为/>的特征，/>表示自适应平均池化操作，该操作的输出尺寸设置为/>，/>表示/>卷积操作，空间注意力图/>的维度为/>；所述计算第/>层空间注意力图/>的过程为：首先第/>层输出特征/>被分为尺寸为/>的小块，然后对/>进行/>操作得到维度为的空间特征，最后进行/>卷积操作；
计算第层特征空间执行的概率/>：
其中，表示Sigmoid函数；
计算空间门动态剪枝的策略掩码：
其中，表示0~1的均匀采样，τ表示采样的缩放因子；
当特征空间对应的策略掩码的值小于0.5时，对该特征空间进行剪枝；否则不对该特征空间进行剪枝；
重复执行以上步骤直至神经网络所有层都被遍历为止。
8.一种输变电缺陷识别的方法，所述输变电缺陷为输电线路缺陷，应用于输电线路场景对输电线路缺陷进行检测，其特征在于，所述的方法包括以下步骤：
获取输电线路缺陷检测数据集，对输电线路缺陷检测数据集进行图像预处理，生成样本集，所述样本集包括训练集和验证集；
利用训练集训练卷积神经网络，建立基于YoloV3模型的输电线路缺陷识别模型，所述卷积神经网络为包含多个卷积层的卷积神经网络；
基于双门动态剪枝方法对输电线路缺陷识别模型进行轻量化处理，获得轻量化输电线路缺陷识别模型：
利用验证集对轻量化输电线路缺陷识别模型进行验证；
实时采集输电线路缺陷监测图像，并输入轻量化输电线路缺陷识别模型进行输电线路缺陷检测；
所述基于双门动态剪枝方法对输电线路缺陷识别模型进行轻量化处理，获得轻量化输电线路缺陷识别模型，包括：
使用空间门动态剪枝的策略掩码生成方法得到输电线路缺陷识别模型的空间注意力图、特征空间执行概率和空间策略掩码；
使用空间门动态剪枝的策略掩码真实标签生成方法得到输电线路缺陷识别模型的空间策略掩码的真实标签；
使用通道门动态剪枝的策略掩码生成方法得到输电线路缺陷识别模型的通道注意力图、特征通道执行概率和通道策略掩码；
使用通道门动态剪枝的策略掩码真实标签生成方法得到输电线路缺陷识别模型的通道策略掩码的真实标签；
使用总体损失函数对输电线路缺陷识别模型进行剪枝和训练，对深度卷积神经网络的加速与压缩，得到轻量化输电线路缺陷识别模型；所述总体损失函数包含缺陷目标检测损失项、特征空间自监督正则项、特征通道自监督正则项、稀疏度正则项和剪枝率平滑正则项；
所述使用空间门动态剪枝的策略掩码生成方法得到输电线路缺陷识别模型的空间注意力图、特征空间执行概率和空间策略掩码，包括：
计算第层空间注意力图/>：
其中，表示神经网络模型/>的第/>层维度为/>的特征，/>表示自适应平均池化操作，该操作的输出尺寸设置为/>，/>表示/>卷积操作，空间注意力图/>的维度为/>；所述计算第/>层空间注意力图/>的过程为：首先第/>层输出特征/>被分为尺寸为/>的小块，然后对/>进行/>操作得到维度为的空间特征，最后进行/>卷积操作；
计算第层特征空间执行的概率/>：
其中，表示Sigmoid函数；
计算空间门动态剪枝的策略掩码：
其中，表示0~1的均匀采样，τ表示采样的缩放因子；
当特征空间对应的策略掩码的值小于0.5时，对该特征空间进行剪枝；否则不对该特征空间进行剪枝；
重复执行以上步骤直至神经网络所有层都被遍历为止。
9.根据权利要求8所述的输变电缺陷识别的方法，其特征在于，所述获取输电线路缺陷检测数据集，对输电线路缺陷检测数据集进行图像预处理，生成样本集，包括：
根据预先制定好的输电线路巡检线路，使用部署有YOLOv3模型的无人机沿线进行输电线路图像采集；
对所述输电线路缺陷检测数据集进行清洗操作和归一化处理；
采用清洗操作和归一化处理后的输电线路缺陷检测数据集生成样本集，并对样本集进行人工标注。
10.一种输变电缺陷识别的装置，所述输变电缺陷为输电线路缺陷，应用于输电线路场景对输电线路缺陷进行检测，其特征在于，所述的装置包括：
样本生成模块，用于获取输电线路缺陷检测数据集，对输电线路缺陷检测数据集进行图像预处理，生成样本集，所述样本集包括训练集和验证集；
模型建立模块，用于利用训练集训练卷积神经网络，建立基于YoloV3模型的输电线路缺陷识别模型，所述卷积神经网络为包含多个卷积层的卷积神经网络；
轻量化处理模块，用于基于双门动态剪枝方法对输电线路缺陷识别模型进行轻量化处理，获得轻量化输电线路缺陷识别模型：
模型验证模块，用于利用验证集对轻量化输电线路缺陷识别模型进行验证；
输电线路缺陷检测模块，用于实时采集输电线路缺陷监测图像，并输入轻量化输电线路缺陷识别模型进行输电线路缺陷检测；
所述基于双门动态剪枝方法包括基于自监督学习的空间门动态剪枝方法和基于自监督学习的通道门动态剪枝方法；所述基于自监督学习的空间门动态剪枝方法包括空间门动态剪枝的策略掩码生成方法和空间门动态剪枝的策略掩码真实标签生成方法；所述基于自监督学习的通道门动态剪枝方法包括通道门动态剪枝的策略掩码生成方法和通道门动态剪枝的策略掩码真实标签生成方法；
所述基于双门动态剪枝方法对输电线路缺陷识别模型进行轻量化处理，获得轻量化输电线路缺陷识别模型，包括：
使用空间门动态剪枝的策略掩码生成方法得到输电线路缺陷识别模型的空间注意力图、特征空间执行概率和空间策略掩码；
使用空间门动态剪枝的策略掩码真实标签生成方法得到输电线路缺陷识别模型的空间策略掩码的真实标签；
使用通道门动态剪枝的策略掩码生成方法得到输电线路缺陷识别模型的通道注意力图、特征通道执行概率和通道策略掩码；
使用通道门动态剪枝的策略掩码真实标签生成方法得到输电线路缺陷识别模型的通道策略掩码的真实标签；
使用总体损失函数对输电线路缺陷识别模型进行剪枝和训练，对深度卷积神经网络的加速与压缩，得到轻量化输电线路缺陷识别模型；所述总体损失函数包含缺陷目标检测损失项、特征空间自监督正则项、特征通道自监督正则项、稀疏度正则项和剪枝率平滑正则项；
所述使用空间门动态剪枝的策略掩码生成方法得到输电线路缺陷识别模型的空间注意力图、特征空间执行概率和空间策略掩码，包括：
计算第层空间注意力图/>：
其中，表示神经网络模型/>的第/>层维度为/>的特征，/>表示自适应平均池化操作，该操作的输出尺寸设置为/>，/>表示/>卷积操作，空间注意力图/>的维度为/>；所述计算第/>层空间注意力图/>的过程为：首先第/>层输出特征/>被分为尺寸为/>的小块，然后对/>进行/>操作得到维度为的空间特征，最后进行/>卷积操作；
计算第层特征空间执行的概率/>：
其中，表示Sigmoid函数；
计算空间门动态剪枝的策略掩码：
其中，表示0~1的均匀采样，τ表示采样的缩放因子；
当特征空间对应的策略掩码的值小于0.5时，对该特征空间进行剪枝；否则不对该特征空间进行剪枝；
重复执行以上步骤直至神经网络所有层都被遍历为止。
11.一种计算机设备，其特征在于，包括处理器、存储器和总线，所述存储器存储有所述处理器可执行的机器可读指令，当所述计算机设备运行时，所述处理器与所述存储器之间通过总线通信，所述处理器执行所述机器可读指令，以执行如权利要求1-6和8-9任一所述的输变电缺陷识别的方法的步骤。
12.一种存储介质，其特征在于，该存储介质上存储有计算机程序，该计算机程序被处理器运行时执行如权利要求1-6和8-9任一所述的输变电缺陷识别的方法的步骤。
CN202311174427.9A 2023-09-13 2023-09-13 输变电缺陷识别的方法、装置、计算机设备和存储介质 Active CN116912637B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311174427.9A CN116912637B (zh) 2023-09-13 2023-09-13 输变电缺陷识别的方法、装置、计算机设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311174427.9A CN116912637B (zh) 2023-09-13 2023-09-13 输变电缺陷识别的方法、装置、计算机设备和存储介质

Publications (2)

Publication Number Publication Date
CN116912637A CN116912637A (zh) 2023-10-20
CN116912637B true CN116912637B (zh) 2023-12-22

Family

ID=88351466

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311174427.9A Active CN116912637B (zh) 2023-09-13 2023-09-13 输变电缺陷识别的方法、装置、计算机设备和存储介质

Country Status (1)

Country Link
CN (1) CN116912637B (zh)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113222138A (zh) * 2021-04-25 2021-08-06 南京大学 一种联合层剪枝和通道剪枝的卷积神经网络压缩方法
CN114972952A (zh) * 2022-05-29 2022-08-30 重庆科技学院 一种基于模型轻量化的工业零部件缺陷识别方法
WO2022262660A1 (zh) * 2021-06-15 2022-12-22 华南理工大学 针对超分辨率网络的剪枝量化压缩方法、系统及介质
CN115620147A (zh) * 2022-11-29 2023-01-17 国网山东省电力公司济南供电公司 深度卷积神经网络的可微架构搜索方法及装置
CN115830535A (zh) * 2022-11-28 2023-03-21 国网黑龙江省电力有限公司黑河供电公司 一种变电站周边区域积水检测方法、系统、设备及介质
CN115936100A (zh) * 2022-12-12 2023-04-07 深圳大学 用于模式识别基于压缩激励注意力的神经网络剪枝方法
CN116128879A (zh) * 2023-04-17 2023-05-16 广东电网有限责任公司肇庆供电局 一种轻量化输电线路缺陷检测方法和装置
CN116167413A (zh) * 2023-04-20 2023-05-26 国网山东省电力公司济南供电公司 深度卷积神经网络量化剪枝联合优化的方法及系统
WO2023098544A1 (zh) * 2021-12-03 2023-06-08 中科视语(北京)科技有限公司 基于局部稀疏约束的结构化剪枝方法和装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3739513A1 (en) * 2019-05-13 2020-11-18 Fujitsu Limited Surface defect identification method and apparatus

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113222138A (zh) * 2021-04-25 2021-08-06 南京大学 一种联合层剪枝和通道剪枝的卷积神经网络压缩方法
WO2022262660A1 (zh) * 2021-06-15 2022-12-22 华南理工大学 针对超分辨率网络的剪枝量化压缩方法、系统及介质
WO2023098544A1 (zh) * 2021-12-03 2023-06-08 中科视语(北京)科技有限公司 基于局部稀疏约束的结构化剪枝方法和装置
CN114972952A (zh) * 2022-05-29 2022-08-30 重庆科技学院 一种基于模型轻量化的工业零部件缺陷识别方法
CN115830535A (zh) * 2022-11-28 2023-03-21 国网黑龙江省电力有限公司黑河供电公司 一种变电站周边区域积水检测方法、系统、设备及介质
CN115620147A (zh) * 2022-11-29 2023-01-17 国网山东省电力公司济南供电公司 深度卷积神经网络的可微架构搜索方法及装置
CN115936100A (zh) * 2022-12-12 2023-04-07 深圳大学 用于模式识别基于压缩激励注意力的神经网络剪枝方法
CN116128879A (zh) * 2023-04-17 2023-05-16 广东电网有限责任公司肇庆供电局 一种轻量化输电线路缺陷检测方法和装置
CN116167413A (zh) * 2023-04-20 2023-05-26 国网山东省电力公司济南供电公司 深度卷积神经网络量化剪枝联合优化的方法及系统

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
Pruning the Pilots: Deep Learning-Based Pilot Design and Channel Estimation for MIMO-OFDM Systems;Mashhadi M.B et.al;《IEEE TRANSACTIONS ON WIRELESS COMMUNICATIONS》;第20卷(第10期);第6315-28页 *
基于YOLO v3的输电线路缺陷快速检测方法;周仿荣;方明;马御棠;潘浩;;云南电力技术(04);第116-120页 *
基于轻量化网络的变电站缺陷图片检测算法;琚泽立;邢伟;金鸿鹏;徐方植;蒲路;侯喆;;电网与清洁能源(08);第47-53页 *
应用于GIS绝缘缺陷诊断的改进BP神经网络识别方法;胥明凯 等;《第三届智能电网会议论文集——智能用电》;第288-291页 *

Also Published As

Publication number Publication date
CN116912637A (zh) 2023-10-20

Similar Documents

Publication Publication Date Title
CN112163465A (zh) 细粒度图像分类方法、系统、计算机设备及存储介质
CN114241282A (zh) 一种基于知识蒸馏的边缘设备场景识别方法及装置
CN112418330A (zh) 一种基于改进型ssd的小目标物体高精度检测方法
CN111723657A (zh) 一种基于YOLOv3与自优化的河道异物检测方法及装置
Wang et al. Research on maize disease recognition method based on improved resnet50
CN114677339A (zh) 一种引入注意力机制的输电线路螺栓脱销缺陷检测方法
CN116167413A (zh) 深度卷积神经网络量化剪枝联合优化的方法及系统
CN113591509A (zh) 车道线检测模型的训练方法、图像处理方法及装置
CN111445065A (zh) 用于数据中心制冷群控的能耗优化方法及系统
CN110852522A (zh) 一种短期电力负荷预测方法及系统
CN116912637B (zh) 输变电缺陷识别的方法、装置、计算机设备和存储介质
CN115878992A (zh) 综合管廊供电系统的监控方法和监控系统
CN111223125B (zh) 一种基于Python环境下的目标运动视频跟踪方法
CN117054803A (zh) 一种含分布式光伏配电网接地故障辨识方法及系统
CN116681962A (zh) 基于改进YOLOv5的电力设备热图像检测方法及系统
Yang Realization of vehicle classification system based on deep learning
CN114299340A (zh) 模型训练方法、图像分类方法、系统、设备及介质
CN116027829A (zh) 机房温度控制方法、装置、设备及存储介质
CN115423091A (zh) 一种条件对抗神经网络训练方法、场景生成方法和系统
CN113723210A (zh) 一种应用于智慧园区给水管泄露边缘设备检测方法和系统
CN112733708A (zh) 一种基于半监督学习的肝门静脉检测定位方法与系统
Zhengfeng Accurate recognition method of continuous sports action based on deep learning algorithm
CN112036472A (zh) 一种电力系统视觉图像分类方法及系统
CN117292266B (zh) 一种灌区干渠混凝土裂缝检测方法、装置及存储介质
CN113128479B (zh) 一种学习噪声区域信息的人脸检测方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant