CN113780060A - 一种基于多模态深度学习的高压开关柜态势感知方法 - Google Patents

一种基于多模态深度学习的高压开关柜态势感知方法 Download PDF

Info

Publication number
CN113780060A
CN113780060A CN202110844588.9A CN202110844588A CN113780060A CN 113780060 A CN113780060 A CN 113780060A CN 202110844588 A CN202110844588 A CN 202110844588A CN 113780060 A CN113780060 A CN 113780060A
Authority
CN
China
Prior art keywords
switch cabinet
attention
time
partial discharge
layer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110844588.9A
Other languages
English (en)
Inventor
任惠
韩璐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
North China Electric Power University
Original Assignee
North China Electric Power University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by North China Electric Power University filed Critical North China Electric Power University
Priority to CN202110844588.9A priority Critical patent/CN113780060A/zh
Publication of CN113780060A publication Critical patent/CN113780060A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12—Classification; Matching
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G06F18/253—Fusion techniques of extracted features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/08—Feature extraction

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Signal Processing (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于多模态深度学习的高压开关柜态势感知方法，属于电力预警系统技术领域。针对开关柜在线监测信息量庞大且由于冗余数据和环境噪声等因素的影响，往往无法由单一的传感信息判断其运行状态、不同类型传感器采集的数据具有异构性，传统的数据融合方法无法直接应用等问题，提出了一种基于多模态深度学习的特征层数据融合方法，并将其应用于开关柜的健康状态评价，通过时空双重注意力机制调节不同传感器在不同时刻测量值的权重系数，相对完整地表达出开关柜的健康状态，实现了对开关柜健康态势的实时感知。

Description

一种基于多模态深度学习的高压开关柜态势感知方法
技术领域
本发明涉及电力预警系统技术领域，特别是涉及一种基于多模态深度学习的高压开关柜态势感知方法。
背景技术
10kV开关柜是直接面向配网和用户的关键配电设备，关系到电网的整体供电质量和服务水平，对配电网的安全稳定运行有着重要意义。然而，开关柜内部空间狭小、结构复杂、绝缘间隙小，且较变压器、GIS等全封闭设备而言，更容易受凝露、粉尘的影响而发生局部放电现象。利用在线监测装置科学有效地感知开关柜的健康状态有助于及时发现开关柜的绝缘缺陷、预防其潜伏性故障，对推动电网运维策略从传统定期检修到状态检修的转型，完善开关柜的故障预测与健康状态管理（PHM）体系有着重要意义。
2011年，国家电网公司颁布了《配网设备状态评价导则》，通过收集开关柜的各个状态量，并对其得分进行加权求和，得出开关柜健康状态的综合评价结果。但该导则选取的状态指标过多，工程实际中很多状态参量难以获取，且以人工带电检测的方法收集开关柜的状态量费时费力，给开关柜的健康状态研究带来了极大的挑战。近年来，随着传感器技术、存储技术和人工智能的发展，电力设备的状态检修技术步入了新的阶段，数据驱动的设备健康状态评估方法成为了PHM研究的主流。文献“基于多分类最小二乘支持向量机和改进粒子群优化算法的电力变压器故障诊断方法”提出一种结合最小二乘支持向量机(LS-SVM)和改进粒子群(PSO)优化的变压器诊断方法；文献“基于相似矩阵盲源分离与卷积神经网络的局部放电超声信号深度学习模式识别方法”将局放超声信号的声纹图谱输入卷积神经网络进行故障诊断。但上述研究多针对变压器等大型设备，目前开关柜的在线监测装置还未全面普及，以往对于开关柜健康状态的研究仍主要依靠人工带电检测获取特征量，未能充分利用开关柜的在线监测数据。同时，在线监测数据具有多类型、多维度的特点，传统的深度学习网络结构无法同时提取一维时间序列数据和二维图像数据的特征，因此，不同模态的信息融合方法是目前电力设备态势感知技术的一大难题。
本发明针对以上问题，综合了10kV开关柜进线电缆接头处的超声波和暂态地电压（TEV）局放在线监测信号、开关柜电缆室的红外热成像在线监测图像数据，以及温度、湿度等环境信息，分别基于一维卷积核与二维卷积核提取局放时间序列信号和红外热成像图像的特征，构建能够融合多种模态特征的神经网络；在处理时间序列数据（一维网格数据）和图像数据（二维网格数据）等方面有着优异的表现的传统卷积神经网络（CNN）模型的基础上，采用时空双层注意力模块代替了池化层，通过在不同时间框架下对比观测信号，避免局部干扰信号对整体评价的影响，同时避免了池化过程中重要特征的丢失；通过对健康、注意、异常、严重四类标签样本的训练，学习和优化神经网络的权值；通过计算平均识别正确率、精确率和召回率三个性能指标值，验证本发明方法的有效性。
发明内容
本发明的目的是提供一种基于多模态深度学习的高压开关柜态势感知方法，将基于多模态深度学习的特征层数据融合方法应用于开关柜的健康状态评价，通过时空双重注意力机制调节不同传感器在不同时刻测量值的权重系数，相对完整地表达出开关柜的健康状态，实现了对开关柜健康态势的实时感知。
为实现上述目的，本发明提供了如下方案：
一种基于多模态深度学习的高压开关柜态势感知方法，该方法包括以下步骤：
S1，根据10kV开关柜在线检测数据以及温度、湿度等环境信息，通过自适应阈值检测获取发生局部放电的多传感信息时间序列切片，建立包含不同程度局放的状态监测量数据集；
S2，对状态监测数据进行预处理，修正局放信号的异常值并应用直方图均衡化算法实现红外热成像图像的增强，分别采用一维卷积核与二维卷积核提取局放时间序列信号和红外热成像图像的特征，构建能够融合多种模态特征的神经网络；
S3，在传统卷积神经网络（CNN）模型的基础上，采用时空双层注意力模块代替了池化层，通过在不同时间框架下对比观测信号，避免局部干扰信号对整体评价的影响，同时避免了池化过程中重要特征的丢失；
S4，通过对健康、注意、异常、严重四类标签样本的训练，学习和优化神经网络的权值；
S5，计算平均识别正确率、精确率和召回率三个性能指标，验证本发明方法的有效性。
可选的，所述步骤S1中，根据10kV开关柜在线检测数据以及温度、湿度等环境信息，通过自适应阈值检测获取发生局部放电的多传感信息时间序列切片，建立包含不同程度局放的状态监测量数据集，所述10kV开关柜在线检测数据包括：进线电缆接头处的超声波信号、暂态地电压（TEV）局放在线监测信号和开关柜电缆室的红外热成像在线监测图像数据。
可选的，所述步骤S2中，对状态监测量数据进行预处理，修正局放信号的异常值并应用直方图均衡化算法实现红外热成像图像的增强，分别采用一维卷积核与二维卷积核提取局放时间序列信号和红外热成像图像的特征，构建能够融合多种模态特征的神经网络，具体包括：
S201，采用直方图均衡化算法实现对红外热成像图像的增强，在对图像直方图统计时，通过该算法增强后的直方图
Figure 83270DEST_PATH_IMAGE001
为：
Figure 818532DEST_PATH_IMAGE002
(1)
其中，
Figure 74064DEST_PATH_IMAGE003
为选取的平台阈值，
Figure 120517DEST_PATH_IMAGE004
为原始图像的直方图；
S202，根据超声波、TEV传感器、温度及湿度传感器测得的一维时间序列信号，选用一维卷积作为卷积层构建适用于局放时间序列信号特征提取的一维卷积神经网络，对于给定的长度为
Figure 27162DEST_PATH_IMAGE005
的时间序列
Figure 9025DEST_PATH_IMAGE006
，
Figure 610907DEST_PATH_IMAGE007
，其中
Figure 320106DEST_PATH_IMAGE008
是
Figure 831990DEST_PATH_IMAGE003
维向量，通过
Figure 843809DEST_PATH_IMAGE009
个尺寸为
Figure 57621DEST_PATH_IMAGE010
的卷积核在时间域滑动提取特征，并设置padding参数保持卷积层的输出特征的长度不变，从而通过卷积层形成
Figure 180298DEST_PATH_IMAGE009
张大小为
Figure 546688DEST_PATH_IMAGE011
的特征图，第
Figure 994987DEST_PATH_IMAGE012
个卷积核的运算过程如下：
Figure 433446DEST_PATH_IMAGE013
(2)
其中，
Figure 359814DEST_PATH_IMAGE014
为第
Figure 580711DEST_PATH_IMAGE012
个卷积核的输出向量，
Figure 934332DEST_PATH_IMAGE015
为卷积操作，
Figure 857157DEST_PATH_IMAGE016
为网络参数，
Figure 993741DEST_PATH_IMAGE017
为偏置项，
Figure 115149DEST_PATH_IMAGE018
为非线性的激活函数ReLU：
Figure 515038DEST_PATH_IMAGE019
(3)
采用Dropout丢弃部分神经元，使剩余神经元得到更好的优化，避免出现过拟合并减少对局部特征的依赖，增强模型的泛化能力；
S203，构建二维卷积层提取红外热成像图像的特征，采用尺寸为
Figure 800525DEST_PATH_IMAGE020
的二维卷积核代替一维卷积核，输入层通过二维卷积核进行互相关运算提取图像中每个局部区域的特征，卷积层输出的二维数组为图像各个通道的输入在空间维度上的表征；同时，通过池化层对二维图像特征经过卷积层提取后产生的特征图进行下采样实现特征降维。
可选的，所述步骤S3中，在传统卷积神经网络（CNN）模型的基础上，采用时空双层注意力模块代替了池化层，通过在不同时间框架下对比观测信号，避免局部干扰信号对整体评价的影响，同时避免了池化过程中重要特征的丢失，具体包括：
S301，构建变量注意力模块，变量注意力模块在训练的过程中优化网络参数计算出变量的注意力得分，将注意力分值转化为权重系数再分配给对应的变量，从而加强对重要变量的关注，并忽略无关的变量。t时刻的注意力得分
Figure 458909DEST_PATH_IMAGE021
由下式得到：
Figure 654398DEST_PATH_IMAGE022
(4)
式中，
Figure 615401DEST_PATH_IMAGE023
为
Figure 504029DEST_PATH_IMAGE024
形成的特征矩阵，
Figure 310311DEST_PATH_IMAGE025
，
Figure 360307DEST_PATH_IMAGE026
，
Figure 226632DEST_PATH_IMAGE027
，
Figure 876925DEST_PATH_IMAGE028
为网络参数，
Figure 486898DEST_PATH_IMAGE029
，
Figure 656979DEST_PATH_IMAGE030
为非线性激活函数；
进而，将注意力得分
Figure 84418DEST_PATH_IMAGE021
通过转化为注意力值
Figure 566215DEST_PATH_IMAGE031
，并形成注意力分布
Figure 120824DEST_PATH_IMAGE032
分配给t时刻的第
Figure 4467DEST_PATH_IMAGE033
个变量
Figure 602807DEST_PATH_IMAGE024
：
Figure 306321DEST_PATH_IMAGE034
softmax (
Figure 133463DEST_PATH_IMAGE021
)(5)
Figure 137191DEST_PATH_IMAGE035
(6)
其中，
Figure 909362DEST_PATH_IMAGE036
为变量注意力模块的输出向量；
S302，构建时间注意力模块，时间注意模块的目的是识别信号的关键时间片段，对前一层的输出特征在时间尺度上进行加权，在保留重要特征的同时对先前提取的特征进行进一步降维，经过时间注意力模块，各个特征消除了时间上的相关性，初步实现了从低层特征到高层特征的映射。时间注意力得分
Figure 365751DEST_PATH_IMAGE037
由下式得到：
Figure 996584DEST_PATH_IMAGE038
(7)
其中，
Figure 323660DEST_PATH_IMAGE039
是由
Figure 139169DEST_PATH_IMAGE036
形成的特征矩阵，
Figure 207488DEST_PATH_IMAGE040
，
Figure 501066DEST_PATH_IMAGE041
，
Figure 89174DEST_PATH_IMAGE042
，
Figure 544426DEST_PATH_IMAGE043
为网络参数；
由softmax函数得到时间注意力的值
Figure 975407DEST_PATH_IMAGE044
及注意力分布
Figure 931731DEST_PATH_IMAGE045
，并输出重构特征
Figure 498978DEST_PATH_IMAGE046
：
Figure 390711DEST_PATH_IMAGE047
softmax(u)(8)
Figure 184355DEST_PATH_IMAGE048
(9)
式中，
Figure 819735DEST_PATH_IMAGE049
为时间序列的切片长度。
可选的，所述步骤S4中，通过对健康、注意、异常、严重四类标签样本的训练，学习和优化神经网络的权值，所述优化过程采用Adam算法，算法策略为：
Figure 366123DEST_PATH_IMAGE050
(10)
Figure 428757DEST_PATH_IMAGE051
(11)
其中，
Figure 303172DEST_PATH_IMAGE052
和
Figure 883189DEST_PATH_IMAGE053
分别为一阶动量项和二阶动量项，
Figure 159450DEST_PATH_IMAGE054
为动力值大小，分别取0.9和0.999，
Figure 392985DEST_PATH_IMAGE055
和
Figure 147839DEST_PATH_IMAGE056
分别为各自的修正值，
Figure 125022DEST_PATH_IMAGE057
表示t时刻即第t迭代模型的参数，
Figure 521368DEST_PATH_IMAGE058
表示t次迭代代价函数关于
Figure 801171DEST_PATH_IMAGE059
的梯度大小，
Figure 650178DEST_PATH_IMAGE060
取1e-8。
可选的，所述步骤S5中，计算平均识别正确率、精确率和召回率三个性能指标，验证本发明方法的有效性，具体包括：
平均识别正确率
Figure 431053DEST_PATH_IMAGE061
：
Figure 806539DEST_PATH_IMAGE062
(12)
精确率
Figure 381877DEST_PATH_IMAGE063
：
Figure 983760DEST_PATH_IMAGE064
(13)
召回率
Figure 178112DEST_PATH_IMAGE065
：
Figure 549050DEST_PATH_IMAGE066
(14)
式中，
Figure 951082DEST_PATH_IMAGE033
为样本集中样本类型的序号，
Figure 774681DEST_PATH_IMAGE012
为识别结果中识别类型的序号，n 为样本集中类型的个数，
Figure 772724DEST_PATH_IMAGE067
为每类中识别正确样本个数，N 为样本总体个数，
Figure 998169DEST_PATH_IMAGE068
为样本集中每类的个数，
Figure 915310DEST_PATH_IMAGE069
为识别结果中每类的个数。
根据本发明提供的具体实施例，本发明公开了以下技术效果：本发明的目的是提供一种基于多模态深度学习的高压开关柜态势感知方法，根据10kV开关柜在线检测数据以及温度、湿度等环境信息，分别基于一维卷积核与二维卷积核提取局放时间序列信号和红外热成像图像的特征，构建能够融合多种模态特征的神经网络；并在传统卷积神经网络（CNN）模型的基础上，采用时空双层注意力模块代替池化层，通过在不同时间框架下对比观测信号，避免了池化过程中重要特征的丢失；通过对健康、注意、异常、严重四类标签样本的训练，学习和优化神经网络的权值；通过计算平均识别正确率、精确率和召回率三个性能指标验证本发明方法的有效性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1是本发明提出的多模态深度学习网络结构。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明的目的是提供一种基于多模态深度学习的高压开关柜态势感知方法，将基于多模态深度学习的特征层数据融合方法应用于开关柜的健康状态评价，通过时空双重注意力机制调节不同传感器在不同时刻测量值的权重系数，相对完整地表达出开关柜的健康状态，实现了对开关柜健康态势的实时感知。
为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本发明作进一步详细的说明。
图1为本发明提出的多模态深度学习网络结构，如图1所示，本发明提供的基于多模态深度学习的高压开关柜态势感知方法，包括以下步骤：
S1，根据10kV开关柜在线检测数据以及温度、湿度等环境信息，通过自适应阈值检测获取发生局部放电的多传感信息时间序列切片，建立包含不同程度局放的状态监测量数据集；
S2，对状态监测数据进行预处理，修正局放信号的异常值并应用直方图均衡化算法实现红外热成像图像的增强，分别采用一维卷积核与二维卷积核提取局放时间序列信号和红外热成像图像的特征，构建能够融合多种模态特征的神经网络；
S3，在传统卷积神经网络（CNN）模型的基础上，采用时空双层注意力模块代替了池化层，通过在不同时间框架下对比观测信号，避免局部干扰信号对整体评价的影响，同时避免了池化过程中重要特征的丢失；
S4，通过对健康、注意、异常、严重四类标签样本的训练，学习和优化神经网络的权值；
S5，计算平均识别正确率、精确率和召回率三个性能指标，验证本发明方法的有效性。
其中，所述步骤S1中，根据10kV开关柜在线检测数据以及温度、湿度等环境信息，通过自适应阈值检测获取发生局部放电的多传感信息时间序列切片，建立包含不同程度局放的状态监测量数据集，所述10kV开关柜在线检测数据包括：通过超声波传感器采集的进线电缆接头处的超声波信号、通过TEV传感器采集的暂态地电压（TEV）局放在线监测信号和红外热成像装置采集发开关柜电缆室的红外热成像在线监测图像数据，其中，所述超声波传感器采用超声波法通过接收局部放电产生的超声波信号实现对局部放电的检测；所述TEV传感器采用暂态地电位法通过容性传感器探头测量部放电过程中设备表面的暂态对地电压脉冲，找出顺势脉冲路径的方向，从而实现局部放电的检测。
所述步骤S2中，对状态监测量数据进行预处理，修正局放信号的异常值并应用直方图均衡化算法实现红外热成像图像的增强，分别采用一维卷积核与二维卷积核提取局放时间序列信号和红外热成像图像的特征，构建能够融合多种模态特征的神经网络，具体包括：
S201，采用直方图均衡化算法实现对红外热成像图像的增强，在对图像直方图统计时，通过该算法增强后的直方图
Figure 616418DEST_PATH_IMAGE001
为：
Figure 277207DEST_PATH_IMAGE002
(1)
其中，
Figure 232524DEST_PATH_IMAGE003
为选取的平台阈值，
Figure 586145DEST_PATH_IMAGE004
为原始图像的直方图；
S202，根据超声波、TEV传感器、温度及湿度传感器测得的一维时间序列信号，选用一维卷积作为卷积层构建适用于局放时间序列信号特征提取的一维卷积神经网络，对于给定的长度为
Figure 118758DEST_PATH_IMAGE005
的时间序列
Figure 976380DEST_PATH_IMAGE006
，
Figure 910838DEST_PATH_IMAGE007
，其中
Figure 435360DEST_PATH_IMAGE008
是
Figure 596214DEST_PATH_IMAGE003
维向量，通过
Figure 598805DEST_PATH_IMAGE009
个尺寸为
Figure 387770DEST_PATH_IMAGE010
的卷积核在时间域滑动提取特征，并设置padding参数保持卷积层的输出特征的长度不变，从而通过卷积层形成
Figure 473406DEST_PATH_IMAGE009
张大小为
Figure 715032DEST_PATH_IMAGE011
的特征图，第
Figure 662259DEST_PATH_IMAGE012
个卷积核的运算过程如下：
Figure 571309DEST_PATH_IMAGE013
(2)
其中，
Figure 437634DEST_PATH_IMAGE014
为第
Figure 556769DEST_PATH_IMAGE012
个卷积核的输出向量，
Figure 901162DEST_PATH_IMAGE015
为卷积操作，
Figure 930298DEST_PATH_IMAGE016
为网络参数，
Figure 577311DEST_PATH_IMAGE017
为偏置项，
Figure 324688DEST_PATH_IMAGE018
为非线性的激活函数ReLU：
Figure 472772DEST_PATH_IMAGE019
(3)
采用Dropout丢弃部分神经元，使剩余神经元得到更好的优化，避免出现过拟合并减少对局部特征的依赖，增强模型的泛化能力；
S203，构建二维卷积层提取红外热成像图像的特征，采用尺寸为
Figure 481048DEST_PATH_IMAGE020
的二维卷积核代替一维卷积核，输入层通过二维卷积核进行互相关运算提取图像中每个局部区域的特征，卷积层输出的二维数组为图像各个通道的输入在空间维度上的表征；同时，通过池化层对二维图像特征经过卷积层提取后产生的特征图进行下采样实现特征降维。
所述步骤S3中，在传统卷积神经网络（CNN）模型的基础上，采用时空双层注意力模块代替了池化层，通过在不同时间框架下对比观测信号，避免局部干扰信号对整体评价的影响，同时避免了池化过程中重要特征的丢失，具体包括：
S301，构建变量注意力模块，变量注意力模块在训练的过程中优化网络参数计算出变量的注意力得分，将注意力分值转化为权重系数再分配给对应的变量，从而加强对重要变量的关注，并忽略无关的变量。t时刻的注意力得分
Figure 689176DEST_PATH_IMAGE021
由下式得到：
Figure 533635DEST_PATH_IMAGE022
(4)
式中，
Figure 219831DEST_PATH_IMAGE023
为
Figure 957980DEST_PATH_IMAGE024
形成的特征矩阵，
Figure 476291DEST_PATH_IMAGE025
，
Figure 932680DEST_PATH_IMAGE026
，
Figure 422567DEST_PATH_IMAGE027
，
Figure 156168DEST_PATH_IMAGE028
为网络参数，
Figure 706098DEST_PATH_IMAGE029
，
Figure 774417DEST_PATH_IMAGE030
为非线性激活函数；
进而，将注意力得分
Figure 802416DEST_PATH_IMAGE021
通过转化为注意力值
Figure 249578DEST_PATH_IMAGE031
，并形成注意力分布
Figure 111355DEST_PATH_IMAGE032
分配给t时刻的第
Figure 276757DEST_PATH_IMAGE033
个变量
Figure 374026DEST_PATH_IMAGE024
：
Figure 800328DEST_PATH_IMAGE034
softmax (
Figure 957640DEST_PATH_IMAGE021
)(5)
Figure 610338DEST_PATH_IMAGE035
(6)
其中，
Figure 855506DEST_PATH_IMAGE036
为变量注意力模块的输出向量；
S302，构建时间注意力模块，时间注意模块的目的是识别信号的关键时间片段，对前一层的输出特征在时间尺度上进行加权，在保留重要特征的同时对先前提取的特征进行进一步降维，经过时间注意力模块，各个特征消除了时间上的相关性，初步实现了从低层特征到高层特征的映射。时间注意力得分
Figure 542839DEST_PATH_IMAGE037
由下式得到：
Figure 605473DEST_PATH_IMAGE038
(7)
其中，
Figure 870101DEST_PATH_IMAGE039
是由
Figure 309173DEST_PATH_IMAGE036
形成的特征矩阵，
Figure 585433DEST_PATH_IMAGE040
，
Figure 694335DEST_PATH_IMAGE041
，
Figure 321625DEST_PATH_IMAGE042
，
Figure 33229DEST_PATH_IMAGE043
为网络参数；
由softmax函数得到时间注意力的值
Figure 557139DEST_PATH_IMAGE044
及注意力分布
Figure 227155DEST_PATH_IMAGE045
，并输出重构特征
Figure 76162DEST_PATH_IMAGE046
：
Figure 732402DEST_PATH_IMAGE047
softmax(u)(8)
Figure 983255DEST_PATH_IMAGE048
(9)
式中，
Figure 558593DEST_PATH_IMAGE049
为时间序列的切片长度。
所述步骤S4中，通过对健康、注意、异常、严重四类标签样本的训练，学习和优化神经网络的权值，所述优化过程采用Adam算法，算法策略为：
Figure 285109DEST_PATH_IMAGE050
(10)
Figure 604095DEST_PATH_IMAGE051
(11)
其中，
Figure 850400DEST_PATH_IMAGE052
和
Figure 596639DEST_PATH_IMAGE053
分别为一阶动量项和二阶动量项，
Figure 154659DEST_PATH_IMAGE054
为动力值大小，分别取0.9和0.999，
Figure 667549DEST_PATH_IMAGE055
和
Figure 627415DEST_PATH_IMAGE056
分别为各自的修正值，
Figure 544555DEST_PATH_IMAGE057
表示t时刻即第t迭代模型的参数，
Figure 855451DEST_PATH_IMAGE058
表示t次迭代代价函数关于
Figure 657185DEST_PATH_IMAGE059
的梯度大小，
Figure 471557DEST_PATH_IMAGE060
取1e-8。
所述步骤S5中，计算平均识别正确率、精确率和召回率三个性能指标，验证本发明方法的有效性，具体包括：
平均识别正确率
Figure 215391DEST_PATH_IMAGE061
：
Figure 748004DEST_PATH_IMAGE062
(12)
精确率
Figure 946904DEST_PATH_IMAGE063
：
Figure 881362DEST_PATH_IMAGE064
(13)
召回率
Figure 546829DEST_PATH_IMAGE065
：
Figure 301159DEST_PATH_IMAGE066
(14)
式中，
Figure 569329DEST_PATH_IMAGE033
为样本集中样本类型的序号，
Figure 751436DEST_PATH_IMAGE012
为识别结果中识别类型的序号，n 为样本集中类型的个数，
Figure 587805DEST_PATH_IMAGE067
为每类中识别正确样本个数，N 为样本总体个数，
Figure 95010DEST_PATH_IMAGE068
为样本集中每类的个数，
Figure 901292DEST_PATH_IMAGE069
为识别结果中每类的个数。
本发明的实施例基于山西省陵川县100余面开关柜在线监测信息进行，实验数据为2020年6月至2021年7月的实际数据，筛选出1500个局部放电超声波、TEV信号以及与之对应的红外热成像图像，每个局放信号包含3分钟内共计9000个TEV和超声波测量值。将其中1000个信号作为训练集，500个信号作为测试集。实验步骤如本发明所示，本发明采用Python3.7语言编写程序，基于Tensorflow2.0框架搭建神经网络模型。一维卷积核大小为1
Figure 934976DEST_PATH_IMAGE070
5，二维卷积核大小为3
Figure 801301DEST_PATH_IMAGE070
3；二维CNN的池化层选择平均池化方法；Dropout设为0.5；优化器选择Adam。实验结果如表1所示。由表1可得，本发明提出的基于多模态深度学习的高压开关柜态势感知方法拥有较高的精确度和召回率，在样本数据特征比较复杂的情况下，本发明提出的方法具有较好的泛化性能。
表1实验结果
Figure 795801DEST_PATH_IMAGE071
本发明提供的基于多模态深度学习的高压开关柜态势感知方法，
根据10kV开关柜在线检测数据以及温度、湿度等环境信息，分别基于一维卷积核与二维卷积核提取局放时间序列信号和红外热成像图像的特征，构建能够融合多种模态特征的神经网络；并在传统卷积神经网络（CNN）模型的基础上，采用时空双层注意力模块代替池化层，通过在不同时间框架下对比观测信号，避免了池化过程中重要特征的丢失；通过训练标签样本，学习和优化神经网络的权值；最终通过计算平均识别正确率、精确率和召回率三个性能指标验证本发明方法的有效性，综上所述，本方法易于计算机部署和实施，应用效果较好。
本发明中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处。综上所述，本说明书内容不应理解为对本发明的限制。

Claims (8)

1.一种基于多模态深度学习的高压开关柜态势感知方法，其特征在于，包括以下步骤：
S1，根据10kV开关柜在线检测数据以及温度、湿度等环境信息，通过自适应阈值检测获取发生局部放电的多传感信息时间序列切片，建立包含不同程度局放的状态监测量数据集；
S2，对状态监测数据进行预处理，修正局放信号的异常值并应用直方图均衡化算法实现红外热成像图像的增强，分别采用一维卷积核与二维卷积核提取局放时间序列信号和红外热成像图像的特征，构建能够融合多种模态特征的神经网络；
S3，在传统卷积神经网络（CNN）模型的基础上，采用时空双层注意力模块代替了池化层，通过在不同时间框架下对比观测信号，避免局部干扰信号对整体评价的影响，同时避免了池化过程中重要特征的丢失；
S4，通过对健康、注意、异常、严重四类标签样本的训练，学习和优化神经网络的权值；
S5，计算平均识别正确率、精确率和召回率三个性能指标，验证本发明方法的有效性。
2.根据权利要求1所述的基于多模态深度学习的高压开关柜态势感知方法，其特征在于，所述步骤S1中，根据10kV开关柜在线检测数据以及温度、湿度等环境信息，通过自适应阈值检测获取发生局部放电的多传感信息时间序列切片，建立包含不同程度局放的状态监测量数据集，所述10kV开关柜在线检测数据包括：进线电缆接头处的超声波信号、暂态地电压（TEV）局放在线监测信号和开关柜电缆室的红外热成像在线监测图像数据。
3.根据权利要求1所述的基于多模态深度学习的高压开关柜态势感知方法，其特征在于，所述步骤S2中，对状态监测量数据进行预处理，修正局放信号的异常值并应用直方图均衡化算法实现红外热成像图像的增强，分别采用一维卷积核与二维卷积核提取局放时间序列信号和红外热成像图像的特征，构建能够融合多种模态特征的神经网络，具体包括：
S201，采用直方图均衡化算法实现对红外热成像图像的增强，在对图像直方图统计时，通过该算法增强后的直方图
Figure 431815DEST_PATH_IMAGE001
为：
Figure 632989DEST_PATH_IMAGE002
(1)
其中，
Figure 481996DEST_PATH_IMAGE003
为选取的平台阈值，
Figure 200553DEST_PATH_IMAGE004
为原始图像的直方图；
S202，根据超声波、TEV传感器、温度及湿度传感器测得的一维时间序列信号，选用一维卷积作为卷积层构建适用于局放时间序列信号特征提取的一维卷积神经网络，对于给定的长度为
Figure 982565DEST_PATH_IMAGE005
的时间序列
Figure 888728DEST_PATH_IMAGE006
，
Figure 428294DEST_PATH_IMAGE007
，其中
Figure 75176DEST_PATH_IMAGE008
是
Figure 383798DEST_PATH_IMAGE003
维向量，通过
Figure 130037DEST_PATH_IMAGE009
个尺寸为
Figure 219215DEST_PATH_IMAGE010
的卷积核在时间域滑动提取特征，并设置padding参数保持卷积层的输出特征的长度不变，从而通过卷积层形成
Figure 669788DEST_PATH_IMAGE009
张大小为
Figure 832916DEST_PATH_IMAGE011
的特征图，第
Figure 750057DEST_PATH_IMAGE012
个卷积核的运算过程如下：
Figure 388849DEST_PATH_IMAGE013
(2)
其中，
Figure 987320DEST_PATH_IMAGE014
为第
Figure 801692DEST_PATH_IMAGE012
个卷积核的输出向量，
Figure 483209DEST_PATH_IMAGE015
为卷积操作，
Figure 953505DEST_PATH_IMAGE016
为网络参数，
Figure 417984DEST_PATH_IMAGE017
为偏置项，
Figure 414759DEST_PATH_IMAGE018
为非线性的激活函数ReLU：
Figure 876965DEST_PATH_IMAGE019
(3)
采用Dropout丢弃部分神经元，使剩余神经元得到更好的优化，避免出现过拟合并减少对局部特征的依赖，增强模型的泛化能力；
S203，构建二维卷积层提取红外热成像图像的特征，采用尺寸为
Figure 896873DEST_PATH_IMAGE020
的二维卷积核，输入层通过二维卷积核进行互相关运算提取图像中每个局部区域的特征，卷积层输出的二维数组为图像各个通道的输入在空间维度上的表征；同时，通过池化层对二维图像特征经过卷积层提取后产生的特征图进行下采样实现特征降维。
4.根据权利要求1所述的基于多模态深度学习的高压开关柜态势感知方法，其特征在于，所述步骤S3中，在传统卷积神经网络（CNN）模型的基础上，采用时空双层注意力模块代替了池化层，通过在不同时间框架下对比观测信号，避免局部干扰信号对整体评价的影响，同时避免了池化过程中重要特征的丢失，具体包括：
S301，构建变量注意力模块，变量注意力模块在训练的过程中优化网络参数计算出变量的注意力得分，将注意力分值转化为权重系数再分配给对应的变量，从而加强对重要变量的关注，并忽略无关的变量。
5.t时刻的注意力得分
Figure 227360DEST_PATH_IMAGE021
由下式得到：
Figure 954008DEST_PATH_IMAGE022
(4)
式中，
Figure 649432DEST_PATH_IMAGE023
为
Figure 221883DEST_PATH_IMAGE024
形成的特征矩阵，
Figure 231427DEST_PATH_IMAGE025
，
Figure 202794DEST_PATH_IMAGE026
，
Figure 803540DEST_PATH_IMAGE027
，
Figure 1303DEST_PATH_IMAGE028
为网络参数，
Figure 408014DEST_PATH_IMAGE029
，
Figure 374833DEST_PATH_IMAGE030
为非线性激活函数；
进而，将注意力得分
Figure 474376DEST_PATH_IMAGE021
通过转化为注意力值
Figure 956173DEST_PATH_IMAGE031
，并形成注意力分布
Figure 307519DEST_PATH_IMAGE032
分配给t时刻的第
Figure 253479DEST_PATH_IMAGE033
个变量
Figure 399289DEST_PATH_IMAGE024
：
Figure 430699DEST_PATH_IMAGE034
softmax (
Figure 320158DEST_PATH_IMAGE021
)(5)
Figure 58307DEST_PATH_IMAGE035
(6)
其中，
Figure 499652DEST_PATH_IMAGE036
为变量注意力模块的输出向量；
S302，构建时间注意力模块，时间注意模块的目的是识别信号的关键时间片段，对前一层的输出特征在时间尺度上进行加权，在保留重要特征的同时对先前提取的特征进行进一步降维，经过时间注意力模块，各个特征消除了时间上的相关性，初步实现了从低层特征到高层特征的映射。
6.时间注意力得分
Figure 893725DEST_PATH_IMAGE037
由下式得到：
Figure 445929DEST_PATH_IMAGE038
(7)
其中，
Figure 241846DEST_PATH_IMAGE039
是由
Figure 791776DEST_PATH_IMAGE036
形成的特征矩阵，
Figure 800708DEST_PATH_IMAGE040
，
Figure 766390DEST_PATH_IMAGE041
，
Figure 541448DEST_PATH_IMAGE042
，
Figure 262279DEST_PATH_IMAGE043
为网络参数；
由softmax函数得到时间注意力的值
Figure 630944DEST_PATH_IMAGE044
及注意力分布
Figure 524951DEST_PATH_IMAGE045
，并输出重构特征
Figure 826619DEST_PATH_IMAGE046
：
Figure 921614DEST_PATH_IMAGE047
softmax(u)(8)
Figure 636629DEST_PATH_IMAGE048
(9)
式中，
Figure 209693DEST_PATH_IMAGE049
为时间序列的切片长度。
7.根据权利要求1所述的基于多模态深度学习的高压开关柜态势感知方法，其特征在于，所述步骤S4中，通过对健康、注意、异常、严重四类标签样本的训练，学习和优化神经网络的权值，所述优化过程采用Adam算法，算法策略为：
Figure 631447DEST_PATH_IMAGE050
(10)
Figure 21977DEST_PATH_IMAGE051
(11)
其中，
Figure 834075DEST_PATH_IMAGE052
和
Figure 273147DEST_PATH_IMAGE053
分别为一阶动量项和二阶动量项，
Figure 877303DEST_PATH_IMAGE054
为动力值大小，分别取0.9和0.999，
Figure 314101DEST_PATH_IMAGE055
和
Figure 738129DEST_PATH_IMAGE056
分别为各自的修正值，
Figure 449733DEST_PATH_IMAGE057
表示t时刻即第t迭代模型的参数，
Figure 49342DEST_PATH_IMAGE058
表示t次迭代代价函数关于
Figure 516095DEST_PATH_IMAGE059
的梯度大小，
Figure 365102DEST_PATH_IMAGE060
取1e-8。
8.根据权利要求1所述的基于多模态深度学习的高压开关柜态势感知方法，其特征在于，所述步骤S5中，计算平均识别正确率、精确率和召回率三个性能指标，验证本发明方法的有效性，具体包括：
平均识别正确率
Figure 83660DEST_PATH_IMAGE061
：
Figure 411478DEST_PATH_IMAGE062
(12)
精确率
Figure 190078DEST_PATH_IMAGE063
：
Figure 526381DEST_PATH_IMAGE064
(13)
召回率
Figure 173263DEST_PATH_IMAGE065
：
Figure 216306DEST_PATH_IMAGE066
(14)
式中，
Figure 290441DEST_PATH_IMAGE033
为样本集中样本类型的序号，
Figure 848461DEST_PATH_IMAGE012
为识别结果中识别类型的序号，n 为样本集中类型的个数，
Figure 767876DEST_PATH_IMAGE067
为每类中识别正确样本个数，N 为样本总体个数，
Figure 931004DEST_PATH_IMAGE068
为样本集中每类的个数，
Figure 910461DEST_PATH_IMAGE069
为识别结果中每类的个数。
CN202110844588.9A 2021-07-26 2021-07-26 一种基于多模态深度学习的高压开关柜态势感知方法 Pending CN113780060A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110844588.9A CN113780060A (zh) 2021-07-26 2021-07-26 一种基于多模态深度学习的高压开关柜态势感知方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110844588.9A CN113780060A (zh) 2021-07-26 2021-07-26 一种基于多模态深度学习的高压开关柜态势感知方法

Publications (1)

Publication Number Publication Date
CN113780060A true CN113780060A (zh) 2021-12-10

Family

ID=78836109

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110844588.9A Pending CN113780060A (zh) 2021-07-26 2021-07-26 一种基于多模态深度学习的高压开关柜态势感知方法

Country Status (1)

Country Link
CN (1) CN113780060A (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115471505A (zh) * 2022-11-14 2022-12-13 华联机械集团有限公司 基于视觉识别的封箱机智能调控方法
CN116610998A (zh) * 2023-05-24 2023-08-18 武汉恒达电气有限公司 一种基于多模态数据融合的开关柜故障诊断方法和系统
CN117292716A (zh) * 2023-11-24 2023-12-26 国网山东省电力公司济南供电公司 基于声纹与红外特征融合的变压器故障诊断方法与系统
CN117708685A (zh) * 2024-02-05 2024-03-15 国网江西省电力有限公司电力科学研究院 一种开关柜潜伏性局放缺陷识别方法及系统
CN117951585A (zh) * 2024-03-27 2024-04-30 国网山东省电力公司曲阜市供电公司 一种电力设备运行状态实时检测方法及系统

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115471505A (zh) * 2022-11-14 2022-12-13 华联机械集团有限公司 基于视觉识别的封箱机智能调控方法
CN116610998A (zh) * 2023-05-24 2023-08-18 武汉恒达电气有限公司 一种基于多模态数据融合的开关柜故障诊断方法和系统
CN117292716A (zh) * 2023-11-24 2023-12-26 国网山东省电力公司济南供电公司 基于声纹与红外特征融合的变压器故障诊断方法与系统
CN117292716B (zh) * 2023-11-24 2024-02-06 国网山东省电力公司济南供电公司 基于声纹与红外特征融合的变压器故障诊断方法与系统
CN117708685A (zh) * 2024-02-05 2024-03-15 国网江西省电力有限公司电力科学研究院 一种开关柜潜伏性局放缺陷识别方法及系统
CN117708685B (zh) * 2024-02-05 2024-06-04 国网江西省电力有限公司电力科学研究院 一种开关柜潜伏性局放缺陷识别方法及系统
CN117951585A (zh) * 2024-03-27 2024-04-30 国网山东省电力公司曲阜市供电公司 一种电力设备运行状态实时检测方法及系统

Similar Documents

Publication Publication Date Title
CN113780060A (zh) 一种基于多模态深度学习的高压开关柜态势感知方法
CN108647716B (zh) 一种基于复合信息的光伏阵列故障诊断方法
CN110598736B (zh) 一种电力设备红外图像故障定位、识别与预测方法
CN104809722B (zh) 一种基于红外热像的电气设备故障诊断方法
CN111914883B (zh) 一种基于深度融合网络的主轴轴承状态评估方法及装置
CN109635928A (zh) 一种基于深度学习模型融合的电压暂降原因识别方法
CN110829417A (zh) 基于lstm双结构模型的电力系统暂态稳定预测方法
Wang et al. Prediction model of natural gas pipeline crack evolution based on optimized DCNN-LSTM
CN116524200A (zh) 一种基于图像识别的高压断路器故障诊断方法
CN112087442A (zh) 基于注意力机制的时序相关网络入侵检测方法
CN113191429A (zh) 一种电力变压器套管故障诊断方法及装置
CN113780401A (zh) 基于主成分分析法的复合绝缘子故障检测方法及系统
CN109617526A (zh) 一种基于小波多分辨分析和svm的光伏发电阵列故障诊断和分类的方法
Jia et al. Validity evaluation of transformer DGA online monitoring data in grid edge systems
CN116610998A (zh) 一种基于多模态数据融合的开关柜故障诊断方法和系统
CN116008731A (zh) 配电网高阻故障辨识方法、装置和电子设备
CN117272102A (zh) 一种基于双注意力机制的变压器故障诊断方法
CN113935413A (zh) 一种基于卷积神经网的配网录波文件波形识别方法
CN114581699A (zh) 考虑多源信息时基于深度学习模型的变压器状态评估方法
CN117407770A (zh) 基于神经网络的高压开关柜故障模式分类及预测方法
CN117520809A (zh) 一种基于EEMD-KPCA-CNN-BiLSTM的变压器故障诊断方法
CN117409529A (zh) 一种多场景电气火灾在线监测方法及系统
CN116298725A (zh) 故障电弧检测方法、系统及存储介质
Raymond et al. Novel data augmentation for improved insulation fault diagnosis under nonideal condition
Zhang et al. Fault line selection method based on transfer learning depthwise separable convolutional neural network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication