CN114186379A - 基于回声网络和深度残差神经网络的变压器状态评估方法 - Google Patents

基于回声网络和深度残差神经网络的变压器状态评估方法 Download PDF

Info

Publication number
CN114186379A
CN114186379A CN202111184970.8A CN202111184970A CN114186379A CN 114186379 A CN114186379 A CN 114186379A CN 202111184970 A CN202111184970 A CN 202111184970A CN 114186379 A CN114186379 A CN 114186379A
Authority
CN
China
Prior art keywords
data
network
layer
neural network
training
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111184970.8A
Other languages
English (en)
Inventor
何怡刚
邢致凯
王枭
杜博伦
何鎏璐
王传坤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wuhan University WHU
Original Assignee
Wuhan University WHU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wuhan University WHU filed Critical Wuhan University WHU
Priority to CN202111184970.8A priority Critical patent/CN114186379A/zh
Publication of CN114186379A publication Critical patent/CN114186379A/zh
Priority to US18/045,468 priority patent/US20230112749A1/en
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/06Energy or water supply
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01DMEASURING NOT SPECIALLY ADAPTED FOR A SPECIFIC VARIABLE; ARRANGEMENTS FOR MEASURING TWO OR MORE VARIABLES NOT COVERED IN A SINGLE OTHER SUBCLASS; TARIFF METERING APPARATUS; MEASURING OR TESTING NOT OTHERWISE PROVIDED FOR
    • G01D21/00Measuring or testing not otherwise provided for
    • G01D21/02Measuring two or more variables by means not covered by a single other subclass
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y04INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
    • Y04SSYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
    • Y04S10/00Systems supporting electrical power generation, transmission or distribution
    • Y04S10/50Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Marketing (AREA)
  • Public Health (AREA)
  • General Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Strategic Management (AREA)
  • Primary Health Care (AREA)
  • Human Resources & Organizations (AREA)
  • Water Supply & Treatment (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Biophysics (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • Geometry (AREA)
  • Computer Hardware Design (AREA)
  • Cable Transmission Systems, Equalization Of Radio And Reduction Of Echo (AREA)

Abstract

本发明公开了一种基于泄露积分回声网络和深度残差神经网络的变压器健康状态评估方法,包括以下步骤:采集各变电站中的监测信息;对采集到的监测信息进行数据滤波、数据清洗和数据归一化处理,得到输入矩阵;将输入矩阵输入泄露积分回声网络,生成可训练的人工数据,将人工数据按比例划分为训练集和验证集;构建基于压缩激励网络的深度残差神经网络,输入训练集和验证集进行网络训练;结合实际测试数据进行健康状态评估和网络更新。本发明考虑深度学习神经网络需要大量数据,利用泄露积分回声网络生成人工训练数据。并引入深度残差网络和压缩激励网络构建深度学习神经网络,提高神经网络的特征提取能力。该评估方法具备较高的准确率和较强的鲁棒性。

Description

基于回声网络和深度残差神经网络的变压器状态评估方法
技术领域
本发明涉及电力变压器健康状态评估技术领域,尤其涉及一种基于泄露积分回声网络和深度残差神经网络的变压器健康状态评估方法。
背景技术
电力变压器是电力系统中进行电能转换的电气设备,是电网安全稳定运行的关键环节。变压器经过多年运行,存在绝缘老化、部件松动等各种故障隐患,发生故障的几率不断增加,对变压器进行健康状态评估意义重大。因此,人工智能、数据清洗等先进技术对高压大容量电力变压器的健康状态在线评估,是指导变压器运行维护的相关工作的一大研究内容。
健康状态能够通过采集的信息反映变压器运行时状态。传统的健康状态评估方法需要很多测试参数来评估变压器的状态,加上部分测试参数没有明确的分级定义,导致该技术无法在实际应用发挥优势。随着深度学习神经网络的发展,残差网络、泄露积分回声网络、压缩激励网络等算法被应用于健康状态评估中,然而因为训练数据质量不高、学习能力不足、特征提取效果差等原因,上述方法在电力变压器的健康状态评估中应用存在一定的局限性。近年来,深度学习理论逐渐完善,改进的深度学习模型有着较高的精度。泄露积分回声网络是一种特殊的循环神经网络,有着结构简单,预测精度高的优点。泄露积分回声网络可以生成高质量的数据,可供深度学习网络进行训练。压缩激励网络结构简单,主要关注网络通道之间的关系,使模型可以更加轻量化,减少计算量,使深度学习神经网络在健康状态评估领域具有良好的精度。
发明内容
本发明要解决的技术问题在于针对现有技术中过于依赖各变量参数的选择、无法评估多变量情形下的健康状态等缺陷,提供一种基于泄露积分回声网络和深度残差神经网络的变压器健康状态评估方法,评估效率和准确性更高。
本发明解决其技术问题所采用的技术方案是:
本发明提供一种基于泄露积分回声网络和深度残差神经网络的变压器健康状态评估方法,该方法包括以下步骤:
步骤1、采集各变电站中的监测信息,包括:各变电站油测试、油中溶解气体和呋喃含量监测信息;
步骤2、对采集到的监测信息进行数据滤波、数据清洗和数据归一化处理,得到输入矩阵;
步骤3、将输入矩阵输入泄露积分回声网络,生成可训练的人工数据,将人工数据按比例划分为训练集和验证集;
步骤4、构建基于压缩激励网络的深度残差神经网络,输入训练集和验证集进行网络训练;
步骤5、结合实际测试数据进行健康状态评估和网络更新。
进一步地,本发明的所述步骤1中采集的监测信息具体为:运行中变压器以及电力公司测试台账记录,其中每一组数据都包括九种关键状态的含量:BDV、水含量、酸度、氢气、甲烷、乙烷、乙烯、乙炔、呋喃含量,及其对应的变压器的健康状态。
进一步地,本发明的所述步骤2的方法具体为:
对步骤1中采集到的数据进行滑动平均滤波,消除数据中存在的噪声;滑动平均滤波器的表达式为:
Figure BDA0003298773160000021
其中;Y(t)是滤波器的输出,y(t)是滤波器的输入,t为输入数据的长度,Tw为滑动窗长度,其值的选取决定滤波性能;
然后进行数据清洗,包括:对数据进行纠正错误、删除重复项、统一规格、修正逻辑、转换构造、数据压缩、补足残缺/空值、丢弃数据/变量操作,保证数据的一致性;
最后,对处理后的数据进行归一化,运用极差变换法,其公式为:
Figure BDA0003298773160000031
其中,max(x)为样本数据的最大值,min(x)为样本数据的最小值,xi为样本中第i个数据,yi为归一化后的第i个数据。
进一步地,本发明的所述步骤3的方法具体为:
泄露积分回声网络模型分为模型建立和训练算法两步:
首先,建立泄露积分回声网络,状态方程如下:
x(t+1)=(1-γ)x(t)+γf(Winu(t+1)+Wresx(t)+Wbacky(t))
其中,Win是输入的权值矩阵,Wres是储备池状态的权值矩阵,Wback为输出对储备池状态的权值矩阵,γ为泄露率,t表示时刻,x(t)是来自存储池前一个状态,u(t+1)是输入层,x(t+1)为储存池的下一个状态;
网络的输出方程如下:
y(t)=g(Wout[x(n);u(n)])
其中,Wout为网络的输出权值矩阵,f(·)为神经元的激活函数,g(·)为输出层的激活函数;
对建立的泄露积分回声网络进行训练:
在训练过程中,利用最小二乘法对泄露积分回声网络的权值进行动态调整,并且在最小二乘法的目标函数中加入L1范数约束项,公式如下:
Figure BDA0003298773160000032
其中,λ是n时刻遗忘因子,e(m)是误差信号,γ是正则化参数;
最后,根据训练获得的网络权值,得到泄露积分回声网络;输入原始数据到泄露积分回声网络,获得生成的数据。
进一步地,本发明的所述步骤3中将人工数据集划分为两部分,其中,80%作为训练集,对深度残差网络进行训练,20%作为测试集验证网络对变压器健康状态评估效果。
进一步地,本发明的所述步骤4的方法具体为:
首先构建一个残差模块,包括归一化层、全连接层、压缩激励层、阈值层,残差模块由八层网络组成;
第一层为归一化层,运用正则化方法对数据进行归一化,该层的数据维度为m×n×l;正则化公式如下:
Figure BDA0003298773160000041
其中,μB是数据的均值,
Figure BDA0003298773160000042
是数据的方差,xi是输入的数据,
Figure BDA0003298773160000043
是输出数据,ε是一个参数;
在正则化公式中,数据均值的计算公式如下:
Figure BDA0003298773160000044
在正则化公式中,数据的方差计算公式如下:
Figure BDA0003298773160000045
在归一化层中,计算所有数据的正则化后,对数据进行变化,使网络可以学习正则化的规律,其公式如下:
yi=γxi
其中,γ和β是神经网络学习的参数;
第二层为全局平均池化层,实现对传输中的数据降维,减少网络的训练参数,该层的数据维度为m×n×l,计算公式如下:
Figure BDA0003298773160000046
其中,u(i,j)是输入数据,M和N是数据的维度,zl是输出数据;
第三层是激励层,目的是捕获通道之间的依赖关系,该层的数据维度为m×n×(l/n),计算公式如下:
sl=σ(W2δ(W1z))
其中,δ是ReLU激活函数,
Figure BDA0003298773160000047
第四层为激活层,该层的数据维度为m×n×(l/n),其公式如下:
xl=Fscale(ul,sl)=slul
其中,x=[x1,x2,...,xl],Fscale(ul,sl)计算sl和输入数据的乘积;
第五层为激励层,该层的数据维度为m×n×l;
第六层为激活函数层,用‘sigmoid’作为激活函数,该层的数据维度为m×n×l;
第七层为软阈值层,通过如下公式进行计算α,然后乘以第一层输出的数据;
Figure BDA0003298773160000051
其中,z是由第六层输出的数据;
第八层为相加层,将第七层输出的数据与第一层输入的数据相加;
由输入层、残差层、softmax层、分类输出层构成深度残差神经网络;神经网络的具体训练过程是:使用交叉熵作为误差函数,使用泄露积分回声网络生成的数据作为神经网络的训练数据,使用Adam优化算法更新深度残差神经网络的权值;在使用Adam优化算法更新网络权值的过程中,若在连续的设定步数范围内均值小于设定的阈值,则停止对神经网络的训练并保存最后一步计算出的深度残差神经网络的权值;
在训练过程中使用的交叉熵函数公式如下:
Figure BDA0003298773160000052
其中,tj是属于第j类的观测结果的实际概率,Nclass是分类结果的总数;
在训练过程中Adam优化算法的公式如下:
Figure BDA0003298773160000053
Figure BDA0003298773160000054
Figure BDA0003298773160000055
Figure BDA0003298773160000061
mn=β1mn-1+(1-β1)gn
其中,β1和β2是两个超参数,ε是辅助常量防止更新崩溃。gn是误差函数的梯度,
Figure BDA0003298773160000062
是gn的第二动量。
进一步地,本发明的所述步骤5的方法具体为:
按照步骤2对数据进行数据滤波和数据清洗,然后按照步骤3生成人工数据集,最后按照步骤4的验证集进行健康状态评估;若需要增加新的数据类别或相关影响因素,利用原网络作为预训练模型,激活所有层进行训练。
本发明产生的有益效果是:本发明的基于泄露积分回声网络和深度残差神经网络的变压器健康状态评估方法,考虑到典型变压器健康状态评估过程中存在参数较多和评估精度低等问题,利用深度残差神经网络进行健康状态评估。综合考虑深度残差神经网络的参数多和训练复杂,创新性地构建了基于压缩激励网络的深度残差神经网络的健康评估模型。在此基础上,考虑到工程实际数据中存在噪声和异常数据问题,本文对模型输入数据进行数据滤波和数据清洗。通过泄露积分回声网络生成人工数据用于训练,提高了训练数据集的质量,增加了该健康状态评估的准确率和适用性。
附图说明
下面将结合附图及实施例对本发明作进一步说明,附图中:
图1是本发明实施例的实施例的基于泄露积分回声网络和深度残差网络的变压器健康状态评估方法实现流程图;
图2是本发明实施例的泄露积分回声网络结构;
图3是本发明实施例的残差模块结构;
图4是本发明实施例的基于泄露积分回声网络和深度残差网络模型的结构。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
本发明的目的是为变压器健康状态提供新的评估方法,评估效率和准确性更高,并解决传统方法过于依赖各变量参数的选择、无法评估多变量情形下的健康状态等问题。
本发明是采用如下技术方案来实现的:
如图1所示,本发明实施例的基于泄露积分回声网络和深度残差网络的变压器健康状态评估方法,包括以下步骤:
步骤1、首先收集各变电站油测试,油中溶解气体和呋喃含量监测信息;
步骤1中的数据采集于运行中变压器以及电力公司测试台账记录,其中每一组数据都包括BDV、水含量、酸度、氢气(H2)、甲烷(CH4)、乙烷(C2H6)、乙烯(C2H4)、乙炔(C2H2)、呋喃含量九种关键状态的含量及其对应的变压器的健康状态。
步骤2、对采集到的监测信息进行数据滤波、数据清洗和数据归一化处理,得到输入矩阵;
本实施例参考DL/T 1685-2017油浸式变压器状态评价导则将变压器状态分为如下4个等级:正常、注意、异常和严重,如表1所示:
表1评价等级与相对劣化度对应关系及其状态描述
Figure BDA0003298773160000071
不同变压器的健康状态数据样本个数不同,样本个数的不平均。需对样本数据进行生成。
步骤3、将输入矩阵输入泄露积分回声网络,生成可训练的人工数据,将人工数据按比例划分为训练集和验证集;
泄露积分回声网络的模型如图2所示,泄露积分回声网络由如下公式生成人工数据:
y(t)=g(Wout[x(n);u(n)])
然后,使用由x(t+1)公式生成的人工数据输入深度残差神经网络中进行训练。将数据集划分为两部分,其中,80%作为训练集对深度残差神经网络进行训练,20%作为测试集验证网络对健康状态的分类效果。
步骤4、构建基于压缩激励网络的深度残差神经网络,输入训练集和验证集进行网络训练;
步骤4中改进的深度残差网络的构建方法为:首先构建一个残差模块,其中残差层由50个残差模块构成,如图3所示,包括归一化层、正则化层、全连接层、压缩激励层、阈值层;然后由输入层、残差层、softmax层、分类输出层构成模型,其中深度残差神经网络结构如图4所示,其门激活函数为σ,本发明激活函数选择为‘sigmoid’,状态激活函数为‘tanh’。
步骤4中利用输入训练集和验证集对构建好的深度残差神经网络进行训练。
网络的超参数设置如表2所示。然后根据实施方式的步骤4进行深度残差网络的训练和验证,从而获得健康状态评估模型。
表2深度残差网络超参数设置
Figure BDA0003298773160000081
这里为了简洁,利用下式计算准确率。实际应用中还可以综合考虑softmax层的输出结果,每一组数据对应每个变压器状态标签的概率,不仅选取最大概率所对应的类型作为诊断结果,当softmax中第二大概率值与最大概率值无显著性区别时,可综合考虑这两种诊断结果。
Figure BDA0003298773160000091
其中,TP是指正类预测为正类数,TN是指负类预测为负类数,FP是指负类预测为正类数,FN是正类预测为负类数。
步骤5、结合实际测试数据进行健康状态评估和网络更新。输入监测得到的变压器数据集进行健康评估。最终的诊断准确率为93.4511%。选取部分评估结果如表3所示。
表3基于深度残差神经网络的部分故障诊断结果
Figure BDA0003298773160000092
步骤5中结合实际测试数据进行健康状态评估和网络参数更新的方法为:对于实时监测数据,按照步骤2对数据进行数据滤波和数据清洗,然后按照步骤3生成人工数据集,最后按照步骤4的验证集进行健康状态评估。若需要增加新的变量或相关影响因素,利用原神经网络作为预训练模型,激活所有层进行训练。
应当理解的是,对本领域普通技术人员来说,可以根据上述说明加以改进或变换,而所有这些改进和变换都应属于本发明所附权利要求的保护范围。

Claims (7)

1.一种基于泄露积分回声网络和深度残差神经网络的变压器健康状态评估方法,其特征在于,该方法包括以下步骤:
步骤1、采集各变电站中的监测信息,包括:各变电站油测试、油中溶解气体和呋喃含量监测信息;
步骤2、对采集到的监测信息进行数据滤波、数据清洗和数据归一化处理,得到输入矩阵;
步骤3、将输入矩阵输入泄露积分回声网络,生成可训练的人工数据,将人工数据按比例划分为训练集和验证集;
步骤4、构建基于压缩激励网络的深度残差神经网络,输入训练集和验证集进行网络训练;
步骤5、结合实际测试数据进行健康状态评估和网络权值更新。
2.根据权利要求1所述的基于泄露积分回声网络和深度残差神经网络的变压器健康状态评估方法,其特征在于,所述步骤1中采集的监测信息具体为:运行中变压器以及电力公司测试台账记录,其中每一组数据都包括九种关键状态的含量:BDV、水含量、酸度、氢气、甲烷、乙烷、乙烯、乙炔、呋喃含量,及其对应的变压器的健康状态。
3.根据权利要求1所述的基于泄露积分回声网络和深度残差神经网络的变压器健康状态评估方法,其特征在于,所述步骤2的方法具体为:
对步骤1中采集到的数据进行滑动平均滤波,消除数据中存在的噪声;滑动平均滤波器的表达式为:
Figure FDA0003298773150000011
其中;Y(t)是滤波器的输出,y(t)是滤波器的输入,t为输入数据的长度,Tw为滑动窗长度,其值的选取决定滤波性能;
然后进行数据清洗,包括:对数据进行纠正错误、删除重复项、统一规格、修正逻辑、转换构造、数据压缩、补足残缺/空值、丢弃数据/变量操作,保证数据的一致性;
最后,对处理后的数据进行归一化,运用极差变换法,其公式为:
Figure FDA0003298773150000021
其中,max(x)为样本数据的最大值,min(x)为样本数据的最小值,xi为样本中第i个数据,yi为归一化后的第i个数据。
4.根据权利要求1所述的基于最小二乘法的泄露积分回声网络和深度残差神经网络的变压器健康状态评估方法,其特征在于,所述步骤3的方法具体为:
泄露积分回声网络模型分为模型建立和训练算法两步:
首先,建立泄露积分回声网络,状态方程如下:
x(t+1)=(1-γ)x(t)+γf(Winu(t+1)+Wresx(t)+Wbacky(t))
其中,Win是输入的权值矩阵,Wres是储备池状态的权值矩阵,Wback为输出对储备池状态的权值矩阵,γ为泄露率,t表示时刻,x(t)是来自存储池前一个状态,u(t+1)是输入层,x(t+1)为储存池的下一个状态;
网络的输出方程如下:
y(t)=g(Wout[x(n);u(n)])
其中,Wout为网络的输出权值矩阵,f(·)为神经元的激活函数,g(·)为输出层的激活函数;
对建立的泄露积分回声网络进行训练:
在训练过程中,利用最小二乘法对泄露积分回声网络的权值进行动态调整,并且在最小二乘法的目标函数中加入L1范数约束项,公式如下:
Figure FDA0003298773150000022
其中,λ是n时刻遗忘因子,e(m)是误差信号,γ是正则化参数;
最后,根据训练获得的网络权值,得到泄露积分回声网络;输入原始数据到泄露积分回声网络,获得生成的数据。
5.根据权利要求1所述的基于泄露积分回声网络和深度残差神经网络的变压器健康状态评估方法,其特征在于,所述步骤3中将人工数据集划分为两部分,其中,80%作为训练集,对深度残差网络进行训练,20%作为测试集验证网络对变压器健康状态评估效果。
6.根据权利要求1所述的基于泄露积分回声网络和深度残差神经网络的变压器健康状态评估方法,其特征在于,所述步骤4的方法具体为:
首先构建一个残差模块,包括归一化层、全连接层、压缩激励层、阈值层,残差模块由八层网络组成;
第一层为归一化层,运用正则化方法对数据进行归一化,该层的数据维度为m×n×l;正则化公式如下:
Figure FDA0003298773150000031
其中,μB是数据的均值,
Figure FDA0003298773150000032
是数据的方差,xi是输入的数据,
Figure FDA0003298773150000033
是输出数据,ε是一个参数;
在正则化公式中,数据均值的计算公式如下:
Figure FDA0003298773150000034
在正则化公式中,数据的方差计算公式如下:
Figure FDA0003298773150000035
在归一化层中,计算所有数据的正则化后,对数据进行变化,使网络可以学习正则化的规律,其公式如下:
yi=γxi
其中,γ和β是神经网络学习的参数;
第二层为全局平均池化层,实现对传输中的数据降维,减少网络的训练参数,该层的数据维度为m×n×l,计算公式如下:
Figure FDA0003298773150000036
其中,u(i,j)是输入数据,M和N是数据的维度,zl是输出数据;
第三层是激励层,目的是捕获通道之间的依赖关系,该层的数据维度为m×n×(l/n),计算公式如下:
sl=σ(W2δ(W1z))
其中,δ是ReLU激活函数,
Figure FDA0003298773150000041
第四层为激活层,该层的数据维度为m×n×(l/n),其公式如下:
xl=Fscale(ul,sl)=slul
其中,x=[x1,x2,...,xl],Fscale(ul,sl)计算sl和输入数据的乘积;
第五层为激励层,该层的数据维度为m×n×l;
第六层为激活函数层,用‘sigmoid’作为激活函数,该层的数据维度为m×n×l;
第七层为软阈值层,通过如下公式进行计算α,然后乘以第一层输出的数据;
Figure FDA0003298773150000042
其中,z是由第六层输出的数据;
第八层为相加层,将第七层输出的数据与第一层输入的数据相加;
由输入层、残差层、softmax层、分类输出层构成深度残差神经网络;神经网络的具体训练过程是:使用交叉熵作为误差函数,使用泄露积分回声网络生成的数据作为神经网络的训练数据,使用Adam优化算法更新深度残差神经网络的权值;在使用Adam优化算法更新网络权值的过程中,若在连续的设定步数范围内均值小于设定的阈值,则停止对神经网络的训练并保存最后一步计算出的深度残差神经网络的权值;
在训练过程中使用的交叉熵函数公式如下:
Figure FDA0003298773150000043
其中,tj是属于第j类的观测结果的实际概率,Nclass是分类结果的总数;
在训练过程中Adam优化算法的公式如下:
Figure FDA0003298773150000044
Figure FDA0003298773150000045
Figure FDA0003298773150000051
Figure FDA0003298773150000052
mn=β2mn-1+(1-β2)gn
其中,α是移动的步长,β1和β2是两个超参数,
Figure FDA0003298773150000053
是修正偏一阶矩估计偏差,
Figure FDA0003298773150000054
是修正偏二阶矩估计偏差,ε是辅助常量防止更新崩溃;gn是误差函数的梯度,
Figure FDA0003298773150000055
是gn的第二动量。
7.根据权利要求1所述的基于泄露积分回声网络和深度残差神经网络的变压器健康状态评估方法,其特征在于,所述步骤5的方法具体为:
按照步骤2对数据进行数据滤波和数据清洗,然后按照步骤3生成人工数据集,最后按照步骤4的验证集进行健康状态评估;若需要增加新的数据类别或相关影响因素,利用原网络作为预训练模型,激活所有层进行训练。
CN202111184970.8A 2021-10-12 2021-10-12 基于回声网络和深度残差神经网络的变压器状态评估方法 Pending CN114186379A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202111184970.8A CN114186379A (zh) 2021-10-12 2021-10-12 基于回声网络和深度残差神经网络的变压器状态评估方法
US18/045,468 US20230112749A1 (en) 2021-10-12 2022-10-11 Transformer state evaluation method based on echo state network and deep residual neural network

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111184970.8A CN114186379A (zh) 2021-10-12 2021-10-12 基于回声网络和深度残差神经网络的变压器状态评估方法

Publications (1)

Publication Number Publication Date
CN114186379A true CN114186379A (zh) 2022-03-15

Family

ID=80601096

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111184970.8A Pending CN114186379A (zh) 2021-10-12 2021-10-12 基于回声网络和深度残差神经网络的变压器状态评估方法

Country Status (2)

Country Link
US (1) US20230112749A1 (zh)
CN (1) CN114186379A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115146389A (zh) * 2022-07-19 2022-10-04 江西理工大学 一种永磁磁浮列车动力学特征建模方法
CN117669649A (zh) * 2024-02-01 2024-03-08 苏州大学 深度时延储备池计算系统

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116824481B (zh) * 2023-05-18 2024-04-09 国网信息通信产业集团有限公司北京分公司 基于图像识别的变电站巡检方法及其系统
CN117091823A (zh) * 2023-08-18 2023-11-21 无锡威佳电力科技有限公司 一种基于应力变化引起阻值变化的螺栓松动检测方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115146389A (zh) * 2022-07-19 2022-10-04 江西理工大学 一种永磁磁浮列车动力学特征建模方法
CN115146389B (zh) * 2022-07-19 2024-03-12 江西理工大学 一种永磁磁浮列车动力学特征建模方法
CN117669649A (zh) * 2024-02-01 2024-03-08 苏州大学 深度时延储备池计算系统
CN117669649B (zh) * 2024-02-01 2024-04-05 苏州大学 深度时延储备池计算系统

Also Published As

Publication number Publication date
US20230112749A1 (en) 2023-04-13

Similar Documents

Publication Publication Date Title
CN114186379A (zh) 基于回声网络和深度残差神经网络的变压器状态评估方法
CN109726524B (zh) 一种基于cnn和lstm的滚动轴承剩余使用寿命预测方法
Chen et al. Deep neural networks-based rolling bearing fault diagnosis
CN109000930B (zh) 一种基于堆叠去噪自编码器的涡轮发动机性能退化评估方法
CN111562358B (zh) 基于联合模型的变压器油中气体含量预测方法及系统
CN114462508A (zh) 基于多模态神经网络的电力变压器健康状态评估方法
CN107292446B (zh) 一种基于考虑分量关联性小波分解的混合风速预测方法
CN116226646B (zh) 轴承健康状态及剩余寿命的预测方法、系统、设备及介质
CN115563563A (zh) 基于变压器油色谱分析的故障诊断方法及装置
Hu et al. A hybrid model for predicting the degradation trend of hydropower units based on deep learning
CN113470694A (zh) 水轮机组遥听监测方法、装置和系统
Wang et al. Feature fusion based ensemble method for remaining useful life prediction of machinery
Tang et al. Prediction of bearing performance degradation with bottleneck feature based on LSTM network
CN117371207A (zh) 一种特高压换流阀状态评价方法、介质及系统
CN116595319A (zh) 应用于轨道交通电机健康状态评估的预测方法及系统
Sadoughi et al. A deep learning approach for failure prognostics of rolling element bearings
CN114861349A (zh) 一种基于模型迁移和维纳过程的滚动轴承rul预测方法
CN113159088B (zh) 一种基于多特征融合和宽度学习的故障监测与诊断方法
CN114595883A (zh) 基于元学习的油浸式变压器剩余寿命个性化动态预测方法
CN111241629B (zh) 基于数据驱动的飞机液压泵性能变化趋势智能预测方法
CN117290685A (zh) 一种基于历史数据的电厂电力设备专家诊断系统及方法
CN112232570A (zh) 一种正向有功总电量预测方法、装置及可读存储介质
Guo et al. Information fusion and XGBoost algorithm used for bearing remaining useful life prediction
CN115808627A (zh) 一种锂电池soh预测方法及装置
CN116610940A (zh) 一种基于小波变换与深度神经网络的装备故障诊断系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination