CN114418166A - 一种变压器油中的溶解气体浓度预测方法、装置及介质 - Google Patents

一种变压器油中的溶解气体浓度预测方法、装置及介质 Download PDF

Info

Publication number
CN114418166A
CN114418166A CN202111460694.3A CN202111460694A CN114418166A CN 114418166 A CN114418166 A CN 114418166A CN 202111460694 A CN202111460694 A CN 202111460694A CN 114418166 A CN114418166 A CN 114418166A
Authority
CN
China
Prior art keywords
concentration
predicted
decoder
time sequence
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111460694.3A
Other languages
English (en)
Inventor
苏磊
徐琴
曹博源
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
State Grid Shanghai Electric Power Co Ltd
Original Assignee
State Grid Shanghai Electric Power Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by State Grid Shanghai Electric Power Co Ltd filed Critical State Grid Shanghai Electric Power Co Ltd
Priority to CN202111460694.3A priority Critical patent/CN114418166A/zh
Publication of CN114418166A publication Critical patent/CN114418166A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Economics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Strategic Management (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Resources & Organizations (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Software Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Biology (AREA)
  • Health & Medical Sciences (AREA)
  • Development Economics (AREA)
  • Biomedical Technology (AREA)
  • Game Theory and Decision Science (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明涉及一种变压器油中的溶解气体浓度预测方法、装置及介质，方法包括：将若干种相关特征的历史时间序列以及待预测气体浓度的历史时间序列输入训练好的浓度预测模型，获得待预测气体浓度的预测值；浓度预测模型采用了一种融合特征注意力和时序注意力的双重注意力机制的电力变压器状态参量预测编码器‑解码器模型，充分发掘变压器各参量间的关联关系，以及时序信息中的依赖关系，以提供更可靠更高效的数据预测支撑。与现有技术相比，本发明具有准确性高、可靠性高等优点。

Description

一种变压器油中的溶解气体浓度预测方法、装置及介质
技术领域
本发明涉及一种变压器运行状态评估技术，尤其是涉及一种变压器油中的溶解气体浓度预测方法、装置及介质。
背景技术
变压器是电力系统中的重要设备之一，变压器运行的稳定性和安全性将会对电力系统的正常运行产生较大的影响。在服役过程中，电力变压器遭受高压电场、过热及机械等应力长期作用，由完全良好状态逐步劣化直至故障。一旦出现故障，不仅严重损害变压器，也极大地威胁正常生产生活。对变压器运行期间状态进行预测，有助于及时感知变压器潜在威胁，掌握变压器故障发展趋势。判断变压器运行状态的方法有很多，其中比较常用的一种方法就是油中溶解气体监测。油中溶解气体浓度及产气率与变压器健康状态密切关联，通过分析气体含量相关信息，可以较直接地反映一些过热、放电等异常情况。通过油色谱在线监测装置采集的油中相关状态指标历史数据，对未来油中溶解气体浓度进行建模预测，可以有效掌握设备状态和发展趋势，对于电力变压器状态预测具有重要的技术价值。
不同相关特征参量与待预测气体的相关程度不同，而现有的溶解气体浓度预测方法未考虑待预测气体与其他相关特征参量的关联关系，此外，现有的溶解气体浓度预测方法并未考虑相关特征参量的历史时序数据所隐含的时序信息对预测结果的影响，导致预测结果的可靠性和准确性不高。
发明内容
本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种变压器油中的溶解气体浓度预测方法、装置及介质，准确性高，可靠性高。
本发明的目的可以通过以下技术方案来实现：
一种变压器油中的溶解气体浓度预测方法，包括：
将若干种相关特征的历史时间序列以及待预测气体浓度的历史时间序列输入训练好的浓度预测模型，获得待预测气体浓度的预测值；
其中，所述的浓度预测模型包括编码器和解码器；
所述的编码器根据浓度预测模型的输入，通过特征注意力机制对若干种相关特征进行加权处理，获得加权特征并输入编码器LSTM网络，获取编码器LSTM网络的隐层状态时间序列；
所述的解码器将待预测气体浓度的历史时间序列输入解码器LSTM网络进行迭代，每次迭代时，所述的解码器根据编码器LSTM网络的隐层状态时间序列，通过时序注意力机制对隐层状态时间序列进行加权处理，获得中间语义向量，所述的解码器再将中间语义向量和当前时刻的待预测气体浓度融合，作为解码器LSTM 网络的当前输入，所述的解码器通过单层前馈网络对迭代结束后的中间语义向量和解码器LSTM网络的隐层状态进行整合和变换，获得待预测气体浓度的预测值；
在编码器部分，引入特征注意力机制挖掘待预测气体与其他相关特征的关联关系，增加强相关特征的引导，削减弱相关或冗余无关特征的信息，为预测提供关联参考信息，提高预测结果的准确性；
在解码器部分，引入时序注意力机制寻找当前时刻与长期记录信息中各历史时刻的时序关系，自主选择编码后的关键时刻点信息，在LSTM的基础上提供一种更为灵活的长期时间序列表达，进一步提高预测结果的准确性。
进一步地，将相关特征的历史时间序列记为
Figure RE-RE-RE-GDA0003555891010000021
M为相关特征的种类数量，
Figure RE-RE-RE-GDA0003555891010000022
为第m个相关变量在T个历史时刻的时间序列；
所述的特征注意力机制包括：
计算时刻t各特征
Figure RE-RE-RE-GDA0003555891010000023
对待预测气体的特征注意力权重
Figure RE-RE-RE-GDA0003555891010000024
计算加权特征
Figure RE-RE-RE-GDA0003555891010000025
计算公式为：
Figure RE-RE-RE-GDA0003555891010000026
所述的特征注意力权重
Figure RE-RE-RE-GDA0003555891010000027
的计算公式为：
Figure RE-RE-RE-GDA0003555891010000028
Figure RE-RE-RE-GDA0003555891010000029
其中，
Figure RE-RE-RE-GDA00035558910100000210
为当前时刻t相关特征的注意权重，Ve、We和Ue为多层感知机权重， be为偏置参数。
进一步地，所述的编码器LSTM网络的隐层状态时间序列的获取过程包括：
获取编码器LSTM网络在时刻t的隐藏状态ht，所有ht构成隐层状态时间序列，所述的ht的表达式为：
Figure RE-RE-RE-GDA0003555891010000031
其中，
Figure RE-RE-RE-GDA0003555891010000032
为编码器LSTM网络，p为编码器LSTM网络最后一层隐藏层大小。
进一步地，所述的编码器LSTM网络的隐层状态时间序列记为
Figure RE-RE-RE-GDA0003555891010000033
hτ为编码器LSTM网络在τ时刻的隐藏状态，T为历史时刻总数；
所述的时序注意力机制包括：
计算hτ对应的隐层状态权重
Figure RE-RE-RE-GDA0003555891010000034
计算中间语义向量ct，计算公式为：
Figure RE-RE-RE-GDA0003555891010000035
进一步地，所述的解码器通过单层前馈网络将当前时刻t的中间语义向量ct和待预测气体浓度yt融合，获得解码器LSTM网络当前的输入
Figure RE-RE-RE-GDA0003555891010000036
所述的
Figure RE-RE-RE-GDA0003555891010000037
的表达式为：
Figure RE-RE-RE-GDA0003555891010000038
其中，
Figure RE-RE-RE-GDA0003555891010000039
为单层前馈网络的权重，
Figure RE-RE-RE-GDA00035558910100000310
为单层前馈网络的偏置。
进一步地，所述的解码器LSTM网络在时刻t的隐层状态dt的表达式为：
Figure RE-RE-RE-GDA00035558910100000311
其中，
Figure RE-RE-RE-GDA00035558910100000312
为解码器LSTM网络，q为解码器LSTM网络最后一层隐藏层大小。
进一步地，所述的待预测气体浓度的预测值
Figure RE-RE-RE-GDA00035558910100000313
的表达式为：
Figure RE-RE-RE-GDA00035558910100000314
其中，Wy为整合输出的单层前馈网络的权重，bw为整合输出的单层前馈网络的偏置，Vy为进行维度变换的单层前馈网络的权重，by为进行维度变换的单层前馈网络的偏置。
进一步地，训练浓度预测模型的损失函数为：
Figure RE-RE-RE-GDA00035558910100000315
其中，
Figure RE-RE-RE-GDA00035558910100000316
为待预测气体浓度的预测值，yT+1为待预测气体浓度的实际值，N为训练次数，θ为浓度预测模型的参数合集。
一种变压器油中的溶解气体浓度预测装置，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器调用所述程序指令能够执行所述的预测方法。
一种计算机可读存储介质，包括计算机程序，所述计算机程序能够被处理器执行以实现所述的预测方法。
与现有技术相比，本发明具有以如下有益效果：
(1)本发明在浓度预测模型的编码器部分，引入特征注意力机制挖掘待预测气体与其他相关特征的关联关系，增加强相关特征的引导，削减弱相关或冗余无关特征的信息，为预测提供关联参考信息，提高预测结果的准确性和可靠性；
(2)本发明在浓度预测模型的解码器部分，引入时序注意力机制寻找当前时刻与长期记录信息中各历史时刻的时序关系，自主选择编码后的关键时刻点信息，在LSTM的基础上提供一种更为灵活的长期时间序列表达，进一步提高预测结果的准确性和可靠性。
附图说明
图1为基于特征注意力机制的编码器原理图；
图2为基于时序注意力机制的编码器原理图；
图3为算例一中变压器油中H2浓度的监测数据；
图4为算例一中变压器油中CO浓度的监测数据；
图5为算例一中变压器油中CH4浓度的监测数据；
图6为算例一中变压器油中C2H4浓度的监测数据；
图7为算例一中变压器油中C2H2浓度的监测数据；
图8为算例一中变压器油中总烃浓度的监测数据；
图9为算例一中变压器所处环境的气温监测数据；
图10为算例一中变压器油的顶层油温监测数据；
图11为算例二中变压器油的顶层油温监测数据；
图12为算例二中变压器油的环境温度监测数据；
图13为算例二中变压器油的氢气监测数据；
图14为算例二中变压器油的甲烷监测数据；
图15为算例二中变压器油的乙烯监测数据；
图16为算例二中变压器油的总烃监测数据；
图17为算例二中变压器油的一氧化碳监测数据；
图18为算例二中变压器油的二氧化碳监测数据；
图19为算例二中异常状态变压器氢气浓度趋势预测结果；
图20为算例二中异常状态变压器甲烷浓度趋势预测结果。
具体实施方式
下面结合附图和具体实施例对本发明进行详细说明。本实施例以本发明技术方案为前提进行实施，给出了详细的实施方式和具体的操作过程，但本发明的保护范围不限于下述的实施例。
实施例1
一种变压器油中的溶解气体浓度预测方法，包括：
将若干种相关特征的历史时间序列以及待预测气体浓度的历史时间序列输入训练好的浓度预测模型，获得待预测气体浓度的预测值。
为了充分发掘变压器各参量间的关联关系，以及时序信息中的依赖关系，以提供更可靠更高效的数据预测支撑，本实施例采用的浓度预测模型是一种融合了特征注意力和时序注意力的双重注意力机制的电力变压器状态参量预测编码器-解码器模型，浓度预测模型的构建过程如下：
(1)变压器油中溶解气体的数学模型
记变压器运行状态参量中的任一气体的时间序列为
Figure RE-RE-RE-GDA0003555891010000051
其他运行状态参量以及环境气象和电网运行数据为相关特征时间序列矩阵
Figure RE-RE-RE-GDA0003555891010000055
可展开表达为：
Figure RE-RE-RE-GDA0003555891010000052
其中
Figure RE-RE-RE-GDA0003555891010000053
为M个相关变量在时刻t的测量值集合，
Figure RE-RE-RE-GDA0003555891010000054
为第m个相关变量在T个历史时刻的测量值序列。
变压器油中溶解气体的预测可被视为利用该气体历史信息，并结合相关特征历史信息X，进行下一个时刻该气体数值的多变量预测问题，记模型函数映射为Fθ，预测值可表达为：
Figure RE-RE-RE-GDA0003555891010000061
(2)基于特征注意力机制的编码器
为了解每一种相关特征与待预测气体的关联关系远近程度，如图1，本实施例采用多层感知机的计算方式对特征注意力权重进行量化。
以各相关特征的时间序列
Figure RE-RE-RE-GDA0003555891010000062
作为特征注意力机制的输入，同时参照编码器LSTM网络前一时刻的隐层状态ht-1和门控单元状态st-1蕴含的历史信息，计算当前时刻t各相关特征的注意权重
Figure RE-RE-RE-GDA0003555891010000063
计算公式为：
Figure RE-RE-RE-GDA0003555891010000064
其中，
Figure RE-RE-RE-GDA0003555891010000065
和
Figure RE-RE-RE-GDA0003555891010000066
为计算注意力权重的多层感知机权重和偏置参数，为编码器LSTM网络最后一层隐藏层大小。
对
Figure RE-RE-RE-GDA0003555891010000067
进行归一化，使所有特征权重和为一，得到在时刻t各特征
Figure RE-RE-RE-GDA0003555891010000068
对待预测气体的重要程度
Figure RE-RE-RE-GDA0003555891010000069
归一化公式为：
Figure RE-RE-RE-GDA00035558910100000610
将得到的特征权值
Figure RE-RE-RE-GDA00035558910100000611
与
Figure RE-RE-RE-GDA00035558910100000612
相乘对第m种特征进行增强或削弱，获得加权过的特征表达
Figure RE-RE-RE-GDA00035558910100000613
的表达式为：
Figure RE-RE-RE-GDA00035558910100000614
以
Figure RE-RE-RE-GDA00035558910100000615
作为编码器LSTM网络的输入，进行时序建模，在时刻t的编码器LSTM 网络输出可表达为：
Figure RE-RE-RE-GDA00035558910100000616
其中，
Figure RE-RE-RE-GDA00035558910100000617
为编码器LSTM网络，p为编码器LSTM网络最后一层隐藏层大小。
在编码环节，通过特征注意机制学习各特征与待预测气体的相关性
Figure RE-RE-RE-GDA00035558910100000618
对原始特征时序xt进行自适应的强调和弱化得到加权特征，再通过编码器LSTM网络进行时间序列的信息迭代，保证每个时刻t的时序编码隐藏状态ht都包含关联关系信息。
(3)基于时序注意力机制的解码器
为寻找相关特征时间序列在每时刻的信息
Figure RE-RE-RE-GDA00035558910100000619
对当前时刻预测状态量yt的影响程度，在使用解码器LSTM网络进行时序建模之前，如图2，引入时序注意力机制进行关键时刻的自主提取。
以编码器LSTM网络输出的包含关联关系的隐层时间序列
Figure RE-RE-RE-GDA0003555891010000071
作为时序注意力机制的输入，同时参照解码器LSTM网络前一时刻的隐层状态dt-1和门控单元状态s′t-1蕴含的历史时序信息，
计算当前解码器LSTM网络迭代时刻t下编码器LSTM网络各时刻隐层状态的注意力权重
Figure RE-RE-RE-GDA0003555891010000072
计算公式为：
Figure RE-RE-RE-GDA0003555891010000073
其中，
Figure RE-RE-GDA0003555891010000074
和
Figure RE-RE-GDA0003555891010000075
为计算注意力权重的多层感知机权重和偏置参数，q为解码器LSTM网络最后一层隐藏层大小。
使用softmax函数对注意力权重进行归一化后对
Figure RE-RE-GDA0003555891010000076
进行归一化，获得各时刻编码器LSTM网络隐层状态hτ对时刻t预测值的重要程度
Figure RE-RE-GDA0003555891010000077
的表达式为：
Figure RE-RE-GDA0003555891010000078
为综合编码器LSTM网络所有时刻隐层状态的信息，将得到的时序权值
Figure RE-RE-GDA0003555891010000079
与 hτ进行加权求和，得到中间语义向量
Figure RE-RE-GDA00035558910100000710
ct的表达式为：
Figure RE-RE-GDA00035558910100000711
在解码器LSTM网络各时刻迭代过程中ct相互独立，表征相关特征的综合时序信息，且蕴含有编码器LSTM网络中的特征关联信息。
将待预测气体信息yt与相关特征的时序综合信息ct经单层前馈网络进行融合，得到解码器LSTM网络各时刻t的输入
Figure RE-RE-GDA00035558910100000712
的表达式为：
Figure RE-RE-GDA00035558910100000713
其中，
Figure RE-RE-GDA00035558910100000714
为计算融合输入的单层前馈网络的权重，
Figure RE-RE-GDA00035558910100000715
为计算融合输入的单层前馈网络的偏置。
解码器LSTM网络的T次历史时刻迭代后，将最终时刻的隐层状态dT与时序注意力机制输出的中间语义向量cT由单层前馈网络进行整合，最后再经单层前馈网络进行维度变换，得到待预测气体的预测值
Figure RE-RE-GDA00035558910100000716
解码器LSTM网络的迭代表达式为：
Figure RE-RE-GDA00035558910100000717
其中，
Figure RE-RE-GDA00035558910100000718
为解码器LSTM网络，q为解码器LSTM网络最后一层隐藏层大小。
Figure RE-RE-GDA00035558910100000719
的表达式为：
Figure RE-RE-GDA0003555891010000081
其中，
Figure RE-RE-GDA0003555891010000082
为整合输出的单层前馈网络的权重，
Figure RE-RE-GDA0003555891010000083
为整合输出的单层前馈网络的偏置，
和
Figure RE-RE-GDA0003555891010000084
为整合输出的单层前馈网络的权重和偏置，
Figure RE-RE-GDA0003555891010000085
为进行维度变换前馈网络的权重，
Figure RE-RE-GDA0003555891010000086
为进行维度变换前馈网络的偏置。
记编码器和解码器中所有涉及到的模型参数集合为，以最小化损失函数为训练目标，对编码器和解码器中的各参数进行更新和调整，得到最终的双重注意力机制的预测模型，损失函数的表达式为：
Figure RE-RE-GDA0003555891010000087
算例分析
为验证本实施例提出的预测方法的有效性，从对正常状态设备状态参量的预测准确度和关联关系，以及对缺陷设备的状态参量未来发展趋势两种情景下进行分析。前者旨在验证在绝大多数正常情况下，模型是否能通过历史数据进行准确预测，和对隐藏的关联关系的挖掘为后续监测提供数据参考；后者则从能否根据历史数据预测未来重要参量发展趋势，为设备是否存在潜伏性缺陷或故障提供检修参考。
双重注意力机制的时序预测模型参数具体设置为：在编码器和解码器中的两部分LSTM的时间步长T＝60，即采用前60天的历史数据预测第61天的近似数据，训练迭代次数为1000次，学习率为0.001；其中在特征注意力机制中，编码器LSTM 网络结构均采用隐藏元个数与相关特征参量个数相同(p＝M＝7)的三层隐藏层；在时序注意力机制中解码器LSTM网络结构均采用隐藏元个数与历史时间步长个数相同(q＝T＝60)的三层隐藏层。
在预测准确度方面采用平均绝对误差δmean(mean absolute percentage error)和最大相对误差δmax(maximal absolute percentage error)作为衡量标准，δmean和δmax两者数值越小，预测结果越准确，δmean和δmax的计算公式为：
Figure RE-RE-GDA0003555891010000088
Figure RE-RE-GDA0003555891010000089
算例一：正常状态设备预测分析
为验证本实施例提出的预测方法在参量预测方面的准确性，选取某500kV变电站主变压器于2010年5月1日至2013年1月24日的监测数据为正常状态设备案例进行分析。其中，监测周期为1天，共计1000个时序样本点，部分油中溶解气体、顶层油温和环境温度监测数据，如图3、图4、图5、图6、图7、图8、图 9和图10所示。以起始时间至2012年10月16日前900个时序样本点为训练集， 2012年10月17日至2013年1月24日后100个时序样本点为测试集，对模型在预测结果进行不同预测时间长短的效果评估。
(一)双重注意力机制准确度分析
为验证特征注意力机制和时序注意力机制在提升时序分析模型的预测质量的有效性，将本文双重注意力机制模型(dual stage attention based LSTM,DA-LSTM)，与只采用一种注意力机制的特征注意力机制模型(feature attention based LSTM, FA-LSTM)和时序特征注意力机制模型(temporal attention based LSTM,TA-LSTM)，以及无注意力机制的长短时记忆网络LSTM，这4种模型对测试集中甲烷气体浓度 100天的预测结果进行对比说明，预测误差如表1所示：
表1不同注意力机制下的甲烷浓度预测误差百分比
本实施例 FA-LST TA-LST LSTM
δ<sub>mean</sub> 0.42
δ<sub>max</sub> 1.65 4.3 2.89 4.58
在特征注意力机制方面，将本实施例提出的预测方法和TA-LSTM作为对照组， FA-LSTM和LSTM作为对照组，由表1可知，在引入特征注意力机制的情况下，预测过程中模型不单单受限于待预测气体的信息，同时享有其他如顶层油温等相关特征参量的引导，能适当修正预测结果，使得预测模型的平均绝对误差和最大相对误差均有所降低。
(二)关联关系挖掘分析
为验证特征注意力机制可以自行挖掘变压器各个参量之间的关联关系，在本实施例提出的浓度预测模型训练完成后，将训练集最后时间点t＝900代入公式(4) 中，计算
Figure RE-GDA0003555891010000091
作为待预测气体与其他相关特征参量的最终相关性分数，并以此量化关联关系。关联关系热度图如图11所示，由于待预测气体自身信息全部保留，并不参加注意力权重计算，统一灰色斜线方块表示。其余每个方块的颜色表征其行对应的待预测气体和其列对应的某相关特征参量的相关性分数，根据公式(4)中注意力权重的计算规则，每行所有方块表征的相关性分数和为1，即：该方块在该行所有方块种的颜色越浅，待预测气体与该列对应的相关参量的相关性分数越高，关联关系越强。由图11可知，顶层油温与环境温度分别在与对方的热度方块中取得了高亮的颜色，呈强相关关系，同时如甲烷、乙烷等气体也与油温和环境温度有较亮方块，呈较强相关关系，符合温度高时油中气体溶解度更高浓度更高的物理现实。在各油色谱气体的关联关系方面，氢气与甲烷乙炔关联性较强；甲烷主要与油温强相关，与乙烷也有相当的关联关系；乙炔主要与氢气相关联；乙烯与乙烷互相强相关；一氧化碳与甲烷关联性较强，总体关联关系较为符合绝缘油中碳氢化合物自然裂解的产气规律。
(三)变压器状态参量预测结果分析
为验证本实施例提出的预测方法在变压器状态参量预测上的效果，先以甲烷气体浓度为预测对象，探究各模型不同预测时间尺度上的预测效果。选取单变量 LSTM、BPNN、SVM与本文方法在不同预测天数上的平均相对误差δmean和最大相对误差δmax进行比较，结果如表2所示：
Figure RE-GDA0003555891010000101
其中BPNN采用神经元个数为[5,20,15]的3层隐藏层结构，学习率设置为0.001，训练周期50000次；SVR采用径向基核函数(RBF)，惩罚因子为1000；LSTM采用[60,60,60]的三层隐藏层结构，时间步长为60，学习率为0.001，训练周期1000 次。
由表2可知，BPNN和SVR模型由于均对每个时间点监测值独立学习，不考虑历史数据的关联性，在15天内的短期预测误差百分比不够小，均高于2％，且随着预测时间跨度的增加，预测误差显著发散扩大。如SVR模型在90天的长期预测相对于45天的中期预测误差几乎翻倍，平均绝对误差由3.99％扩散到6.07％。而本实施例提出的预测方法和LSTM方法由于采用的具有循环反馈结构的LSTM 模型，能够充分利用时序信息的依赖性，其预测结果从降低了误差百分比和长时间预测中的误差扩张速度。
算例二：缺陷状态设备预测分析
为验证本实施例提出的预测方法在参量预测方面的准确性，选取某220kV变电站主变压器为缺陷状态设备案例进行分析。图12、图13、图14、图15、图16、图17和图18为该变压器于2014年3月7日至2017年3月10日的发现缺陷前后的监测数据。其中，监测周期为1天，共计1100个时序样本点。
在时刻点1-960期间，顶层油温数值正常，且各气体历史数据较为稳定，且与顶层油温和环境温度存在一定的周期性波动，主要原因有机气体在油温升高时溶解度更高，与算例一中所得的关联关系相符，绝缘油中氢气和甲烷数值稳定增长速率平稳，氢气年增速约为2μL/L，甲烷约为1.6μL/L。
时刻点960附近，顶层油温并未像历史趋势中随环境温度下降而下降，出现短暂波动并开始增长。氢气和甲烷分别在时刻点1000和时刻点1020附近开始显著上升，快速超越历史最大值。至时刻点1090附近顶层油温超过历史最高温度达到82 摄氏度，而历史同期温度仅为63摄氏度。随后变电站因近3个月油温表现异常，部分溶解性气体快速增长对该变压器进行停运检视。根据油温上升且主要快速增长气体为氢气甲烷，其他气体无显著上升，单位判定该变压器存在低温过热潜伏性缺陷。
检验本实施例提出浓度预测模型是否能在不平稳数据下进行未来重要参量发展趋势的准确预测，以2014年3月7日至2016年11月30日前1000个时序样本点为训练集进行训练调优，和2016年11月30日后100个时序样本点为测试集， LSTM采用[60,60,60]的三层隐藏层结构，时间步长为60，学习率为0.001，训练周期1000次。
由于LSTM只考虑单个变量的历史数据，不能从顶层油温及其他状态参量的变化中获取相应的关联信息。如图19和图20所示，其在氢气和甲烷的预测结果中只能从前一段时间步长中的较为稳定的波动数据中进行未来趋势预测，所得到的结果也为分别在49L/L和74L/L小范围波动的平稳趋势。本实施例所采用的双重注意力机制模型，可以通过特征注意力机制提取相关油温异常增长的特征信息，利用时序注意力机制可以提升长期预测的稳定性，预测结果中氢气大约从时刻点 1000开始上升与实际情况相近，甲烷约在时刻点1050上升略滞后于实际情况，但均展现了两种气体未来快速上升的整体趋势。此算例有效说明了在实际变压器状态监测中，本文方法可以及时发现细微的数值异常情况，并据此预先100天给出需要的状态参量是否存在异常的发展趋势，进而为检修策略的制定提供数据支撑。
实施例2
一种变压器油中的溶解气体浓度预测装置，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器调用所述程序指令能够执行实施例1所述的预测方法。
实施例3
一种计算机可读存储介质，包括计算机程序，所述计算机程序能够被处理器执行以实现实施例1所述的预测方法。
实施例1、实施例2和实施例3提出了一种变压器油中的溶解气体浓度预测方法、装置及介质，采用了一种融合特征注意力和时序注意力的双重注意力机制的电力变压器状态参量预测编码器-解码器模型，充分发掘变压器各参量间的关联关系，以及时序信息中的依赖关系，以提供更可靠更高效的数据预测支撑。
以上详细描述了本发明的较佳具体实施例。应当理解，本领域的普通技术人员无需创造性劳动就可以根据本发明的构思作出诸多修改和变化。因此，凡本技术领域中技术人员依本发明的构思在现有技术的基础上通过逻辑分析、推理或者有限的实验可以得到的技术方案，皆应在由权利要求书所确定的保护范围内。

Claims (10)

1.一种变压器油中的溶解气体浓度预测方法，其特征在于，包括：
将若干种相关特征的历史时间序列以及待预测气体浓度的历史时间序列输入训练好的浓度预测模型，获得待预测气体浓度的预测值；
其中，所述的浓度预测模型包括编码器和解码器；
所述的编码器根据浓度预测模型的输入，通过特征注意力机制对若干种相关特征进行加权处理，获得加权特征并输入编码器LSTM网络，获取编码器LSTM网络的隐层状态时间序列；
所述的解码器将待预测气体浓度的历史时间序列输入解码器LSTM网络进行迭代，每次迭代时，所述的解码器根据编码器LSTM网络的隐层状态时间序列，通过时序注意力机制对隐层状态时间序列进行加权处理，获得中间语义向量，所述的解码器再将中间语义向量和当前时刻的待预测气体浓度融合，作为解码器LSTM网络的当前输入，所述的解码器通过单层前馈网络对迭代结束后的中间语义向量和解码器LSTM网络的隐层状态进行整合和变换，获得待预测气体浓度的预测值。
2.根据权利要求1所述的一种变压器油中的溶解气体浓度预测方法，其特征在于，将相关特征的历史时间序列记为
Figure FDA0003389785940000011
M为相关特征的种类数量，
Figure FDA0003389785940000012
为第m个相关变量在T个历史时刻的时间序列；
所述的特征注意力机制包括：
计算时刻t各特征
Figure FDA0003389785940000013
对待预测气体的特征注意力权重
Figure FDA0003389785940000014
计算加权特征
Figure FDA0003389785940000015
计算公式为：
Figure FDA0003389785940000016
所述的特征注意力权重
Figure FDA0003389785940000017
的计算公式为：
Figure FDA0003389785940000018
Figure FDA0003389785940000019
其中，
Figure FDA00033897859400000110
为当前时刻t相关特征的注意权重，Ve、We和Ue为多层感知机权重，be为偏置参数。
3.根据权利要求2所述的一种变压器油中的溶解气体浓度预测方法，其特征在于，所述的编码器LSTM网络的隐层状态时间序列的获取过程包括：
获取编码器LSTM网络在时刻t的隐藏状态ht，所有ht构成隐层状态时间序列，所述的ht的表达式为：
Figure FDA0003389785940000021
其中，
Figure FDA0003389785940000022
为编码器LSTM网络，p为编码器LSTM网络最后一层隐藏层大小。
4.根据权利要求1所述的一种变压器油中的溶解气体浓度预测方法，其特征在于，所述的编码器LSTM网络的隐层状态时间序列记为
Figure FDA0003389785940000023
hτ为编码器LSTM网络在τ时刻的隐藏状态，T为历史时刻总数；
所述的时序注意力机制包括：
计算hτ对应的隐层状态权重
Figure FDA0003389785940000024
计算中间语义向量ct，计算公式为：
Figure FDA0003389785940000025
5.根据权利要求4所述的一种变压器油中的溶解气体浓度预测方法，其特征在于，所述的解码器通过单层前馈网络将当前时刻t的中间语义向量ct和待预测气体浓度yt融合，获得解码器LSTM网络当前的输入
Figure FDA0003389785940000026
所述的
Figure FDA0003389785940000027
的表达式为：
Figure FDA0003389785940000028
其中，
Figure FDA0003389785940000029
为单层前馈网络的权重，
Figure FDA00033897859400000210
为单层前馈网络的偏置。
6.根据权利要求5所述的一种变压器油中的溶解气体浓度预测方法，其特征在于，所述的解码器LSTM网络在时刻t的隐层状态dt的表达式为：
Figure FDA00033897859400000211
其中，
Figure FDA00033897859400000212
为解码器LSTM网络，q为解码器LSTM网络最后一层隐藏层大小。
7.根据权利要求6所述的一种变压器油中的溶解气体浓度预测方法，其特征在于，所述的待预测气体浓度的预测值
Figure FDA00033897859400000213
的表达式为：
Figure FDA00033897859400000214
其中，Wy为整合输出的单层前馈网络的权重，bw为整合输出的单层前馈网络的偏置，Vy为进行维度变换的单层前馈网络的权重，by为进行维度变换的单层前馈网络的偏置。
8.根据权利要求1所述的一种变压器油中的溶解气体浓度预测方法，其特征在于，训练浓度预测模型的损失函数为：
Figure FDA0003389785940000031
其中，
Figure FDA0003389785940000032
为待预测气体浓度的预测值，yT+1为待预测气体浓度的实际值，N为训练次数，θ为浓度预测模型的参数合集。
9.一种变压器油中的溶解气体浓度预测装置，其特征在于，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器调用所述程序指令能够执行如权利要求1至8任一所述的预测方法。
10.一种计算机可读存储介质，其特征在于，包括计算机程序，所述计算机程序能够被处理器执行以实现如权利要求1-8任一所述的预测方法。
CN202111460694.3A 2021-12-03 2021-12-03 一种变压器油中的溶解气体浓度预测方法、装置及介质 Pending CN114418166A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111460694.3A CN114418166A (zh) 2021-12-03 2021-12-03 一种变压器油中的溶解气体浓度预测方法、装置及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111460694.3A CN114418166A (zh) 2021-12-03 2021-12-03 一种变压器油中的溶解气体浓度预测方法、装置及介质

Publications (1)

Publication Number Publication Date
CN114418166A true CN114418166A (zh) 2022-04-29

Family

ID=81264925

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111460694.3A Pending CN114418166A (zh) 2021-12-03 2021-12-03 一种变压器油中的溶解气体浓度预测方法、装置及介质

Country Status (1)

Country Link
CN (1) CN114418166A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115309922A (zh) * 2022-10-10 2022-11-08 露乐健康科技股份有限公司 建立试纸数据库的方法及基于该数据库的试纸检测方法
CN115331415A (zh) * 2022-10-14 2022-11-11 河北省科学院应用数学研究所 氧气浓度预警方法、装置、电子设备及可读存储介质
CN116204794A (zh) * 2023-05-04 2023-06-02 国网江西省电力有限公司电力科学研究院 一种考虑多维数据的变压器油中溶解气体预测方法及系统
CN117233615A (zh) * 2023-11-10 2023-12-15 中油绿电新能源有限公司 基于对比学习网络的电池充电过程异常检测方法及装置

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115309922A (zh) * 2022-10-10 2022-11-08 露乐健康科技股份有限公司 建立试纸数据库的方法及基于该数据库的试纸检测方法
CN115331415A (zh) * 2022-10-14 2022-11-11 河北省科学院应用数学研究所 氧气浓度预警方法、装置、电子设备及可读存储介质
CN115331415B (zh) * 2022-10-14 2023-01-13 河北省科学院应用数学研究所 氧气浓度预警方法、装置、电子设备及可读存储介质
CN116204794A (zh) * 2023-05-04 2023-06-02 国网江西省电力有限公司电力科学研究院 一种考虑多维数据的变压器油中溶解气体预测方法及系统
CN116204794B (zh) * 2023-05-04 2023-09-12 国网江西省电力有限公司电力科学研究院 一种考虑多维数据的变压器油中溶解气体预测方法及系统
CN117233615A (zh) * 2023-11-10 2023-12-15 中油绿电新能源有限公司 基于对比学习网络的电池充电过程异常检测方法及装置
CN117233615B (zh) * 2023-11-10 2024-02-06 中油绿电新能源有限公司 基于对比学习网络的电池充电过程异常检测方法及装置

Similar Documents

Publication Publication Date Title
CN114418166A (zh) 一种变压器油中的溶解气体浓度预测方法、装置及介质
Yuan et al. Deep learning-based feature representation and its application for soft sensor modeling with variable-wise weighted SAE
CN110119854B (zh) 基于代价敏感lstm循环神经网络的稳压器水位预测方法
CN112734028B (zh) 一种变压器油中溶解气体浓度预测模型建模方法
CN113009077B (zh) 气体检测方法、装置、电子设备和存储介质
CN115563563A (zh) 基于变压器油色谱分析的故障诊断方法及装置
Dai et al. LSTM networks for the trend prediction of gases dissolved in power transformer insulation oil
Wang et al. Layer-wise residual-guided feature learning with deep learning networks for industrial quality prediction
Zhang et al. Semi-supervised generative adversarial network with guaranteed safeness for industrial quality prediction
Santos et al. Performance analysis of a DNN classifier for power system events using an interpretability method
Peng et al. An aero-engine RUL prediction method based on VAE-GAN
Bechini et al. Statistical rule extraction for gas turbine trip prediction
CN114595883A (zh) 基于元学习的油浸式变压器剩余寿命个性化动态预测方法
Shi et al. A dual attention LSTM lightweight model based on exponential smoothing for remaining useful life prediction
Huang et al. Attention-augmented recalibrated and compensatory network for machine remaining useful life prediction
Mahrukh et al. Prediction of power transformer oil chromatography based on LSTM and RF model
Panjapornpon et al. Energy efficiency and savings analysis with multirate sampling for petrochemical process using convolutional neural network-based transfer learning
Huang et al. A hybrid bayesian deep learning model for remaining useful life prognostics and uncertainty quantification
CN116662925A (zh) 一种基于加权稀疏神经网络工业过程软测量方法
Jia et al. A subspace ensemble regression model based slow feature for soft sensing application
CN115828185A (zh) 一种油浸变压器故障诊断方法
CN115327081A (zh) 一种改进樽海鞘群优化支持向量机的变压器故障诊断方法
Qu et al. Remaining Useful Life Prediction of High-Speed Railroad Contact Network Based on Stacking Integrated Attention-LSTM-CNN Deep Learning
Li et al. Cuckoo Search Optimized NN-Based Fault Diagnosis Approach for Power Transformer PHM
Nandagopan et al. Online prediction of DGA results for intelligent condition monitoring of power transformers

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination