CN117313794A - 基于boa-lstm算法的变压器顶层油温预测方法 - Google Patents
基于boa-lstm算法的变压器顶层油温预测方法 Download PDFInfo
- Publication number
- CN117313794A CN117313794A CN202311291805.1A CN202311291805A CN117313794A CN 117313794 A CN117313794 A CN 117313794A CN 202311291805 A CN202311291805 A CN 202311291805A CN 117313794 A CN117313794 A CN 117313794A
- Authority
- CN
- China
- Prior art keywords
- oil temperature
- transformer
- model
- lstm
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004422 calculation algorithm Methods 0.000 title claims abstract description 40
- 238000000034 method Methods 0.000 title claims abstract description 40
- 238000005457 optimization Methods 0.000 claims abstract description 31
- 238000012545 processing Methods 0.000 claims abstract description 24
- 238000010606 normalization Methods 0.000 claims abstract description 9
- 238000012847 principal component analysis method Methods 0.000 claims abstract description 7
- 230000006870 function Effects 0.000 claims description 39
- 238000012549 training Methods 0.000 claims description 36
- 230000008569 process Effects 0.000 claims description 21
- 238000004364 calculation method Methods 0.000 claims description 14
- 238000012360 testing method Methods 0.000 claims description 14
- 238000011156 evaluation Methods 0.000 claims description 13
- 238000013528 artificial neural network Methods 0.000 claims description 11
- 238000004458 analytical method Methods 0.000 claims description 8
- 230000009467 reduction Effects 0.000 claims description 7
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 claims description 6
- 230000004913 activation Effects 0.000 claims description 6
- 238000005070 sampling Methods 0.000 claims description 5
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 4
- 238000006243 chemical reaction Methods 0.000 claims description 4
- 241000283715 Damaliscus lunatus Species 0.000 claims description 3
- 238000001816 cooling Methods 0.000 claims description 3
- 238000012795 verification Methods 0.000 claims description 3
- 230000015654 memory Effects 0.000 abstract description 7
- 230000008034 disappearance Effects 0.000 abstract description 5
- 238000004880 explosion Methods 0.000 abstract description 4
- 230000009286 beneficial effect Effects 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 9
- 239000011159 matrix material Substances 0.000 description 5
- 230000008859 change Effects 0.000 description 3
- 230000001186 cumulative effect Effects 0.000 description 3
- 238000000513 principal component analysis Methods 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 230000005856 abnormality Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 238000010219 correlation analysis Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 238000007637 random forest analysis Methods 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 238000000611 regression analysis Methods 0.000 description 2
- 238000001276 Kolmogorov–Smirnov test Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000013210 evaluation model Methods 0.000 description 1
- 230000017525 heat dissipation Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000009413 insulation Methods 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000012417 linear regression Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 230000002035 prolonged effect Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000010206 sensitivity analysis Methods 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 230000001550 time effect Effects 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/10—Pre-processing; Data cleansing
- G06F18/15—Statistical pre-processing, e.g. techniques for normalisation or restoring missing data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
- G06F18/2135—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on approximation criteria, e.g. principal component analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
- G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/0985—Hyperparameter optimisation; Meta-learning; Learning-to-learn
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Probability & Statistics with Applications (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Housings And Mounting Of Transformers (AREA)
Abstract
本发明涉及一种基于BOA‑LSTM算法的变压器顶层油温预测方法,属于变压器油温预测技术领域。技术方案是:获取待测主变压器油温值、高压侧电流值、环境温度值、高压侧有功值和环境相对湿度数据;采用主成分分析法对数据进行去相关性处理,然后进行数据归一化处理;将处理后的数据输入至训练好的BOA–LSTM模型,得到变压器顶层油温预测数据。本发明的有益效果是:选择长短期记忆网络模型来解决时间滞后的问题,通过使用贝叶斯优化对模型进行进一步优化,规避了梯度消失和梯度爆炸等问题的发生,对于预测模型的精度和效率都有了进一步提升,可以减少变压器顶部油温的预测误差。
Description
技术领域
本发明涉及一种基于BOA-LSTM算法的变压器顶层油温预测方法,属于变压器油温预测技术领域。
背景技术
在电网机组累年增加的情况下,变压器作为电力系统中的连接的纽带,在输配电过程中扮演着关键角色。正因如此,变压器的安全运行直接关系到系统的稳定性和安全性,对于电网系统而言尤为重要。
监测和控制变压器的温度以确保其安全和高效运行非常关键。理论上可以通过检测顶层油温预测变压器寿命,通过降低温度的方式延长寿命或者提前更换备用变压器。目前大多使用智能算法预测变压器油温,比如:
现有技术通过拉丁超立方抽样和KS检验,进行了多参数灵敏性分析,提出了一种考虑日照辐射强度和油非线性时间常数变化的顶层油温预测模型;现有技术基于粒子群优化的混合核极限学习机提出一种变压器顶层油温度预测模型,提高模型的学习能力和泛化性能取得了更佳的预测精度;现有技术根据环境温度、变压器负荷等样本数据建立支持向量回归模型预测顶层油温;现有技术基于半监督学习的顶层油温异常标注,继而利用LSTM循环神经网络研究油温异常预警算法等等。
但是,当前研究中对于算法模型的模型虽然考虑时间序列的影响,但对于长时间前的序列几乎难以做到完全保留,因此预测精度对于长时预测的情况下并不乐观。特别是大多数神经网络类模型并没有对超参数进行优化,对于预测的结果和速度都有一定的提升空间。通过对人工神经网络、核极限学习机等模型进行深入研究,发现其预测结果容易受到观测数据噪声的影响。顶层油温预测是一个非线性、不稳定的时间序列问题,在预测某一时刻变压器的顶层油温时,需要考虑前一时刻或更早时刻的预测值。对现有大多模型来说,并不能做到体现预测油温的滞后性。
发明内容
本发明目的是提供一种基于BOA-LSTM算法的变压器顶层油温预测方法,选择长短期记忆(Long Short Term Memory,LSTM)网络模型来解决时间滞后的问题,通过使用贝叶斯优化(Bayesian Optimization,BOA)对模型进行进一步优化,规避了梯度消失和梯度爆炸等问题的发生,对于预测模型的精度和效率都有了进一步提升,可以减少变压器顶部油温的预测误差,解决了背景技术中存在的问题
本发明的技术方案是:
一种基于BOA-LSTM算法的变压器顶层油温预测方法,包含如下步骤:
①获取待测主变压器油温值、高压侧电流值、环境温度值、高压侧有功值和环境相对湿度数据;
②采用主成分分析法对数据进行去相关性处理,然后进行数据归一化处理;
③将处理后的数据输入至训练好的BOA–LSTM模型,得到变压器顶层油温预测数据,所述BOA–LSTM模型具体为通过BOA对LSTM网络进行贝叶斯超参数优化,利用优化后的LSTM网络进行变压器顶层油温预测。
所述步骤①具体过程为:
油温的升高与变压器的热时间常数与热容量有关;
作为时间函数,温升情况可用与初始温度相关的一阶模型描述:
式(1)中,θt表示任意t时刻的顶层部分变压器油相对环境的温升,θtb表示顶层部分变压器油的最终温升,τoil表示变压器油的热时间常数,解该一阶方程,得到变压器顶层油温升公式:
式中,θti表示顶层油温的初始温升,在IEEE标准导则推荐模型中,θtb跟变压器负载有关,表示为:
其中,在额定负荷下,θtr表示顶层油对环境的温升;I代表实际负荷与额定负荷的比率;K是额定负载下的负载损失与非负载损失之比;变压器油指数(n)随着变压器的冷却形式而变化;通过使用式(4),可以求解顶层油温θtop;
式中,θa是环境温度;
为了提高顶层油温计算的准确性,环境温度被作为一个变量引入式(1)可得式(5);
求解该微分方程,即可得到顶层油温θtop;
其中,θtopu表示顶层油温最终状态的温度,θtopi表示顶层油温起始状态的温度;
由于测量与记录的温度数据均为离散值,所以将上述公式进行线性化处理;
微分方程可离散化为:
当上式中变压器油指数n=1时,可简化为式(9):
令上式(9)中则式(9)化简为以下形式:
θtop.k=K4θtop.k-1+K1θak+K2Ik 2+K3 (10)
式(10)被称为油浸式电力变压器顶层油温的半物理模型,利用回归算法可以估算出式(10)中参数K1、K2、K3、K4的值;
平衡了计算精度的需要和所需的计算量后,反映时间滞后的变压器顶层油温的半物理模型为:
θtop.k=K1θtop.k-1+K20θak+K21θak-1+K22θak-2+K30Ik 2+K31Ik-1 2+K32Ik-2 2+K4 (11)
引入空气湿度变量H的油温计算模型:
θtop.k=K1θtop.k-1+K20θak+K21θak-1+K22θak-2+K30Ik 2+K31Ik-1 2+K32Ik-2 2+K4+K5Hk (12)
选择主变压器油温值、高压侧电流值、环境温度值、高压侧有功值和环境相对湿度作为输入特征量,顶层油温作为求解量,明晰参量之间的关系,实现顶层油温预测。
所述BOA–LSTM模型的训练过程如下:采集历史主变压器油温值、高压侧电流值、环境温度值、高压侧有功值和环境相对湿度数据,将5种特征参量数据进行主成分分析法处理,消除其中的相关性,将处理后的数据样本划分为训练集和测试集,并对数据进行归一化处理、数据平铺处理与格式转换;然后,通过LSTM算法对参数配置进行训练,设置输入层、LSTM层、Relu激活层、全连接层和回归层,使用Adam梯度下降算法,确定LSTM算法的最大训练次数、初始学习率和学习率下降因子等参数,并在每次训练后打乱数据集以保证不受前次训练影响;再次,将训练集作为输入完成对LSTM模型的训练,通过验证是否满足优化条件确定贝叶斯优化的过程,获得最优参数;最后,通过绘图以及模型评价指标的形式使用测试集完成BOA-LSTM模型的性能验证。
所述贝叶斯优化的核心由两部分组成:
1)高斯过程回归;计算每个点的函数值的平均值和方差;
2)构建一个基于均值和方差的采集函数,从而在迭代中选择采样位置;
该算法首先初始化要在整个域中均匀地选择的n个解决方案,然后开始一个循环,每次增加一个点,直到找到N个待选方案;每次找到下一个点时,就用已经找到的N个待选方案建立一个高斯回归模型;根据后验概率构建一个集合函数,找到极值作为下一个搜索点;接下来,计算下一个搜索点的值;该算法最后返回N个候选方案的极值作为最优方案。
本发明的有益效果是:选择长短期记忆网络模型来解决时间滞后的问题,通过使用贝叶斯优化对模型进行进一步优化,规避了梯度消失和梯度爆炸等问题的发生,对于预测模型的精度和效率都有了进一步提升,可以减少变压器顶部油温的预测误差。
附图说明
图1为本发明实施例中顶层油温模型预测值与实际值比较示意图;
图2为本发明实施例中BOA–LSTM的训练过程示意图;
图3为本发明实施例中利用贝叶斯优化LSTM神经网络超参数的过程示意图;
图4为本发明实施例中高压侧电流值、油温值、环境温度和有功功率数据图;
图5为本发明实施例中相关系数矩阵示意图;
图6为本发明实施例中BOA-LSTM训练集的预测结果与真实值比较示意图;
图7为本发明实施例中BOA-LSTM测试集的预测结果与真实值比较示意图;
图8为本发明实施例中BOA-LSTM模型预测误差示意图;
图9为本发明实施例中BOA-LSTM模型的相对误差示意图。
具体实施方式
下面结合附图,通过实例对本发明进一步说明。
一种基于BOA-LSTM算法的变压器顶层油温预测方法,包含如下步骤:
①获取待测主变压器油温值、高压侧电流值、环境温度值、高压侧有功值和环境相对湿度数据;
变压器油担任着散热与绝缘等多种功能,当变压器负载增加时,负载电流升高,导致变压器内部的损耗增大,油温随之升高;油温的升高不仅与自身性质有关,还与变压器的热时间常数与热容量有关。
作为时间函数,温升情况可用与初始温度相关的一阶模型描述,如式(1)所示:
式(1)中,θt表示任意t时刻的顶层部分变压器油相对环境的温升,θtb表示顶层部分变压器油的最终温升,τoil表示变压器油的热时间常数。解该一阶方程,得到变压器顶层油温升公式如式(2)所示:
式中,θti表示顶层油温的初始温升。在IEEE标准导则推荐模型中,θtb跟变压器负载有关,近似表示为式(3):
其中,在额定负荷下,θtr表示顶层油对环境的温升;I代表实际负荷与额定负荷的比率;K是额定负载下的负载损失与非负载损失之比。变压器油指数(n)随着变压器的冷却形式而变化。通过使用式(4),可以求解顶层油温θtop。
式中,θa是环境温度。
变压器顶层油温升模型是电力行业内广泛认可和使用的工具,是预测和分析变压器顶层温度上升的基本模型。为了提高顶层油温计算的准确性,环境温度被作为一个变量引入式(1)可得式(5)。
求解该微分方程,即可得到顶层油温θtop如式(6)所示。
其中,θtopu表示顶层油温最终状态的温度,θtopi表示顶层油温起始状态的温度。
由此可见,该模型环境温度作为时变量动态地影响着变压器顶层油温,这在一定程度上使得模型的计算结果更接近于实际值。
由于测量与记录的温度数据均为离散值,所以将上述公式进行线性化处理。
微分方程可离散化为式(8)所示:
当上式中变压器油指数n=1时,可简化为式(9):
令上式(9)中则式(9)化简为以下形式:
θtop.k=K4θtop.k-1+K1θak+K2Ik 2+K3 (10)
式(10)被称为油浸式电力变压器顶层油温的半物理模型,利用回归算法可以估算出式(10)中参数K1、K2、K3、K4的值。
平衡了计算精度的需要和所需的计算量后,反映时间滞后的变压器顶层油温的半物理模型用式(11)表示。
θtop.k=K1θtop.k-1+K20θak+K21θak-1+K22θak-2+K30Ik 2+K31Ik-1 2+K32Ik-2 2+K4 (11)
结合某市电气设备工作情况以及沿海城市空气湿度的影响,新增空气湿度变量H对现有模型进行更新。引入空气湿度变量H的油温计算模型如式(12)所示:
θtop.k=K1θtop.k-1+K20θak+K21θak-1+K22θak-2+K30Ik 2+K31Ik-1 2+K32Ik-2 2+K4+K5Hk (12)
本实施例采集了2021年7月份某一天的288组数据(采样时间间隔为5min),数据用于估计式(12)的参数,利用线性回归估计出模型中各项系数,并代入其中与实际值比较后可得图1所示。
因此,选择主变压器油温值、高压侧电流值、环境温度值、高压侧有功值和环境相对湿度作为输入特征量,顶层油温作为求解量,明晰参量之间的关系,实现顶层油温预测。
②采用主成分分析法对数据进行去相关性处理,然后进行数据归一化处理;
本实施例将5种特征参量数据进行主成分分析法(principal componentanalysis,PCA)处理,消除其中的相关性,为后续预测模型提供可靠的数据情况。然后对数据进行归一化处理、数据平铺处理与格式转换。
采用主成分分析法对数据进行去相关性处理,具体过程为:
根据相关系数矩阵,进一步求得变量间特征值、贡献率和累计贡献率如下表1示。
表1变量间特征值、贡献率和累计贡献率
根据分析可得,所有成分的贡献率均大于1%,累计贡献率中各成分均有作用表现,并无贡献率过低的情况发生。因此本发明选择5个主成分尽可能保证数据的完整性,不考虑降维分析,仅作为去相关性处理。通过对主成分求解后可得特征向量为表2所示:
表2主成分特征向量
根据所示数据,可将主成分用原始数据表示为以下所示:
A1=-0.3647a1-0.3475a2+0.6067a3+0.3286a4+0.5198a5
A2=0.1904a1+0.5845a2-0.0670a3+0.7780a4+0.1107a5
A3=0.7090a1-0.5466a2-0.2557a3+0.1691a4+0.3234a5
A4=-0.3691a1+0.1478a2-0.6133a3-0.1677a4+0.6616a5
A5=0.4381a1+0.4658a2+0.4312a3-0.4795a4+0.4186a5
通过主成分分析去除了变量之间的相关性,将变量中的线性相关转化为线性无关,方便后续预测模型对变量的处理。并且由主成分分析法构造回归模型,将各主成分作为新自变量代替原来自变量做回归分析为后续LSTM预测实现更好的效果。
③将处理后的数据输入至训练好的BOA–LSTM模型,得到变压器顶层油温预测数据;
本实施例中,改进的LSTM是实现变压器顶层油温预测过程的主体部分。LSTM模型的预测准确率受到超参数的制约,因此引入贝叶斯优化算法完成对LSTM模型参数的优化部分。结合两部分建立BOA-LSTM模型,利用训练样本进行优化后用于预测油温。
结合附图2,对于BOA-LSTM模型的训练过程具体如下:
采集历史主变压器油温值、高压侧电流值、环境温度值、高压侧有功值和环境相对湿度数据,将5种特征参量数据进行主成分分析法处理,消除其中的相关性,将处理后的数据样本划分为训练集和测试集,并对数据进行归一化处理、数据平铺处理与格式转换;然后,通过LSTM算法对参数配置进行训练,设置输入层、LSTM层、Relu激活层、全连接层和回归层,使用Adam梯度下降算法,确定LSTM算法的最大训练次数、初始学习率、学习率下降因子等参数,并在每次训练后打乱数据集以保证不受前次训练影响;再次,将训练集作为输入完成对LSTM模型的训练,通过验证是否满足优化条件确定贝叶斯优化的过程,获得最优参数;最后,通过绘图以及模型评价指标的形式使用测试集完成BOA-LSTM模型的性能验证。
利用LSTM相隔多个时间节点传递信息的方式,将信息传递给需要预测的当前时间节点,通过采用当前时刻的输入,当前时刻的状态以及很久以前的信息决定当前时刻的输出。与循环神经网络(Recurrent Neural Network,RNN)相比LSTM增加了新的传递信息的方式,通过类似的处理方式,如矩阵相乘相加,激活函数后的操作得到结论。
本实施例中,LSTM通过引入门控的概念传输信息,即通过建立输入门、遗忘门和输出门的方式进行改变自身权重比例。LSTM的记忆区域作为中枢区域,利用三个门的sigmoid层决定信息通过以及tanh层的控制输入输出。Sigmoid是LSTM的核心函数,其本质是一个0到1的数,表示为允许信息通过的多少,0表示完全不允许通过,1表示允许完全通过。正是通过此函数对信息进行筛选和改变权重,使LSTM具有了不同于RNN的决策行动,对于通过长时间跨度的历史信息仍有处理能力。
当前时刻的单元主要由五部分组成,包括3个sigmoid函数与2个tanh函数,最左侧的sigmoid函数控制对上一时刻信息通过情况,对信息进行过滤清洗,如下式(13)表示:
ft=σ(Wf·[ht-1,xt]+bf) (13)
其中ft代表遗忘门,xt指的是n个输入序列,ht-1是单元输出前一刻隐藏的信息。
如式(14)所示,中间sigmoid函数是对此时刻输入信息进行处理。结合两个sigmoid函数通过第一个tanh函数确定模型的输入如式(15)。
it=σ(Wi·[ht-1,xt]+bi) (14)
Ct'=tanh(Wc·[ht-1,xt]+bc) (15)
其中it代表输入门,ot代表输出门;Ct-1代表存储单元过去的状态,Ct代表单元状态在当前时刻的输出。
式(17)为右侧sigmoid函数作为模型输出的初始值,并通过tanh对输出值进行缩放至[-1,1]区间内,然后如式(18)通过输出值与sigmoid输出值还原为真实输出。
ot=σ(Wo·[ht-1,xt]+bo) (17)
ht=ot*tanh(Ct) (18)
其中,ht是隐藏单元在当前时刻输出的信息;Wi、Wc、Wo是不同的权重矩阵,Sigmoid和tanh都代表激活函数。
其中前者是针对此时刻信息的输出,而tanh函数是对之前信息起到了压缩处理的作用。通过两者结合的方式实现了LSTM实际预测能力。
LSTM的优于传统RNN的思路在于最上层的Ct部分,其涵盖了t+1时刻前的所有输入数据的记忆。通过sigmoid函数的门控作用,若函数值为1,记忆将得到完整保存,使用此方式可以做到长期记忆重要的信息。
通过分析预测后的数据并进行反归一化处理,通过预测结果与预期值比较,决定是否对模型中参数进行优化。
贝叶斯优化是一种强大的全局优化算法,它的核心是依靠目标函数的概率建模,通过识别代理模型中具有高概率最优的点,然后将这些点添加到模型中进行重新拟合和迭代,贝叶斯优化可以有效地接近目标函数的全局最优解。与其他优化算法相比,贝叶斯优化通过代理模型选择点,避免了大量的计算过程,从而节省了时间。此外,通过利用历史信息来加快搜索时间,贝叶斯优化可以高效、快速地找到近似的全局最优解。
贝叶斯优化的程序框图如图3所示,利用贝叶斯优化LSTM神经网络超参数的具体过程如下:
1)输入:初始化点个数n0,最大迭代次数N,代理模型g(x),采集函数α(x|Dt);
2)随机初始化n0点
3)获得其对应的函数值f(Xinit),初始点集D0={Xinit,f(Xinit)}令t=n0,Dt-1=D0;
4)根据当前获得的点集Dt-1,构建代理模型g(x);
5)基于代理模型g(x),最大化采集函数α(x|Dt-1),获得下一个评估点xt=argminα(x|Dt-1);
6)获得评估点xt的函数值f(xt),将其加入到当前评估点集合中:Dt=Dt-1U{xt,f(xt)},转步骤3);如果得到t<N,进行输出;如果否,转步骤4)。
其核心由两部分组成:
1.高斯过程回归。计算每个点的函数值的平均值和方差;
2.构建一个基于均值和方差的采集函数,从而在迭代中选择采样位置。
该算法首先初始化要选择的n个解决方案,通常是在整个域中均匀地选择一些点。然后开始一个循环,每次增加一个点,直到找到N个待选方案。每次找到下一个点时,就用已经找到的N个待选方案建立一个高斯回归模型。然后,我们根据后验概率构建一个集合函数,找到极值作为下一个搜索点。接下来,计算下一个搜索点的值。该算法最后返回N个候选方案的极值作为最优方案。
在顶层油温预测中可以对LSTM网络进行贝叶斯超参数优化,以便达到更高预测精度。
本实施例通过将某供电公司提供的1440份数据分为1000份训练集供模型参数优化,440份测试集对模型的性能进行验证。将设置5个因子的输入层,建立LSTM层、全连接层和回归层,用收敛速度大于tanh的Relu激活函数来解决神经网络梯度消失问题。采用亚当梯度下降算法,训练次数为1000次,初始学习率为0.05,学习率下降系数为0.5,800次训练后学习率为0.05*0.5,并设置每次训练后中断数据集,以便更有效地进行参数训练。
预测后添加绘图实现预测结果可视化,设置模型评价指标作为性能评估的方法,选择均方根误差,相关系数,平均绝对误差,均方误差作为指标实现对模型的测试。均方根误差(RMSE)表示预测值与真实值平均相差数值,且数量级与数据相同。相关指数(R2)越接近1,表明方程的变量解释能力越强,这个模型对数据拟合的也较好同时代表了模型的准确率。平均绝对误差(MAE)代表预测值与真实值偏差的绝对值的平均数,可用于代表绝对偏差大小。均方误差(MSE)即回归分析中的损失函数,表示参数估计值与参数真值之差平方的期望值。上述指标大多可以表现误差的大小和预测性能的强弱,因此通过指标客观现实的评价模型的使用情况是有必要的。
经过初步训练测评,对比现有模型,证明该模型在预测上有较高的准确性,通常在99%以上,且可以增加其他功能,有较强的延展性。
本实施例选择某220kV变电站的主变压器作为研究对象。采用2021年7月的数据进行分析和建模,该变电站的测试数据包括220kV主变压器油温值、高压侧电流值、环境温度值、高压侧有功值和环境相对湿度。选择主变压器高压侧有功值、高压侧电流值、前一刻油温值、环境温度值和相对湿度值作为预测顶层油温的五个因素。
通过观察图4中的数据分布,可以看出其变化趋势具有较高的相似性。根据相关分析可以得到油温与环境温度(Tt)、空气湿度(H)、负载电流(I)、有功功率(P)、前一时刻顶部油温(T)等参数之间的皮尔逊系数,对顶层油温进行预测。表3给出了各参数间与顶层油温的相关系数
表3各参数间与顶层油温的相关系数
通过上述研究可得变量之间存在明显的相关性,且显著性概率为0,因此主成分分析法适用于顶层油温的变量分析。根据Matlab可得相关系数矩阵为下所示。
为了更直观地展现相关系数结果,绘制了相关系数的热力图,如图5所示。
从图5中可以得出结论,所有参数与顶部油温之间都有相关性,其中前一时刻的油温相关系数最大,两者之间的相关性最强,这证明在模型中考虑时间效应是正确的。顶层油温与环境温度、负载电流和有功功率之间有很强的相关性。
根据相关性分析,通过将归一化处理后的油温值、高压侧电流值、环境温度值、高压侧有功值和环境相对湿度作为模型输入变量。设置迭代次数为1000次,LSTM层数为10。训练完成后,分别对划分好的训练集和测试集进行预测,结果如下图6和图7所示。
通过图6和图7可得,没有明显过拟合现象产生,对测试集有较强的预测效果。通过与BP神经网络和随机森林算法的评价指标比较,得到了测试集预测结果表4中的结果。
表4预测结果比较
处理完所获得的数据后,得到了模型的预测误差和测试集的相对误差,如图8-9所示。
通过图8和图9分析所得,模型的预测结果和实测数据非常接近,能够很好地暗影变压器顶层油温的变化趋势。与现有的预测模型,如BP神经网络和随机森林相比,具有更高的预测精度,所以BOA-LSTM在理论上能够解决顶部油温的预测的问题。
本发明通过使用贝叶斯优化(Bayesian Optimization,BOA)对模型进行进一步优化,规避了梯度消失和梯度爆炸等问题的发生,对于预测模型的精度和效率都有了进一步提升。因此,本实施例提出了一个基于BOA-LSTM的神经网络模型,用于变压器顶部油温预测。结果表明,经过贝叶斯超参数优化后,该模型可以减少变压器顶部油温的预测误差。
本发明通过加入贝叶斯优化LSTM神经网络的超参数,建立了预测精度较高的预测模型,与原模型相比,预测误差在-1.5~1.5%之间,实现了对变压器顶层油温的准确预测。本发明分析了变压器运行状态的影响因素,并根据运行指标中的关键变量和环境因素,通过参数训练和模型建立,实现了对油温历史时间序列的处理。
Claims (5)
1.一种基于BOA-LSTM算法的变压器顶层油温预测方法,其特征在于包含如下步骤:
①获取待测主变压器油温值、高压侧电流值、环境温度值、高压侧有功值和环境相对湿度数据;
②采用主成分分析法对数据进行去相关性处理,然后进行数据归一化处理;
③将处理后的数据输入至训练好的BOA–LSTM模型,得到变压器顶层油温预测数据,所述BOA–LSTM模型具体为通过BOA对LSTM网络进行贝叶斯超参数优化,利用优化后的LSTM网络进行变压器顶层油温预测。
2.根据权利要求1所述的一种基于BOA-LSTM算法的变压器顶层油温预测方法,其特征在于:所述步骤①具体过程为:
油温的升高与变压器的热时间常数与热容量有关;
作为时间函数,温升情况可用与初始温度相关的一阶模型描述:
式(1)中,θt表示任意t时刻的顶层部分变压器油相对环境的温升,θtb表示顶层部分变压器油的最终温升,τoil表示变压器油的热时间常数,解该一阶方程,得到变压器顶层油温升公式:
式中,θti表示顶层油温的初始温升,在IEEE标准导则推荐模型中,θtb跟变压器负载有关,表示为:
其中,在额定负荷下,θtr表示顶层油对环境的温升;I代表实际负荷与额定负荷的比率;K是额定负载下的负载损失与非负载损失之比;变压器油指数(n)随着变压器的冷却形式而变化;通过使用式(4),可以求解顶层油温θtop;
式中,θa是环境温度;
为了提高顶层油温计算的准确性,环境温度被作为一个变量引入式(1)可得式(5);
求解该微分方程,即可得到顶层油温θtop;
其中,θtopu表示顶层油温最终状态的温度,θtopi表示顶层油温起始状态的温度;
由于测量与记录的温度数据均为离散值,所以将上述公式进行线性化处理;
微分方程可离散化为:
当上式中变压器油指数n=1时,可简化为式(9):
令上式(9)中则式(9)化简为以下形式:
式(10)被称为油浸式电力变压器顶层油温的半物理模型,利用回归算法可以估算出式(10)中参数K1、K2、K3、K4的值;
平衡了计算精度的需要和所需的计算量后,反映时间滞后的变压器顶层油温的半物理模型为:
θtop.k=K1θtop.k-1+K20θak+K21θak-1+K22θak-2+K30Ik 2+K31Ik-1 2+K32Ik-2 2+K4 (11)
引入空气湿度变量H的油温计算模型:
θtop.k=K1θtop.k-1+K20θak+K21θak-1+K22θak-2+K30Ik 2+K31Ik-1 2+K32Ik-2 2+K4+K5Hk (12)
选择主变压器油温值、高压侧电流值、环境温度值、高压侧有功值和环境相对湿度作为输入特征量,顶层油温作为求解量,明晰参量之间的关系,实现顶层油温预测。
3.根据权利要求1所述的一种基于BOA-LSTM算法的变压器顶层油温预测方法,其特征在于:所述BOA–LSTM模型的训练过程如下:采集历史主变压器油温值、高压侧电流值、环境温度值、高压侧有功值和环境相对湿度数据,将5种特征参量数据进行主成分分析法处理,消除其中的相关性,将处理后的数据样本划分为训练集和测试集,并对数据进行归一化处理、数据平铺处理与格式转换;然后,通过LSTM算法对参数配置进行训练,设置输入层、LSTM层、Relu激活层、全连接层和回归层,使用Adam梯度下降算法,确定LSTM算法的最大训练次数、初始学习率和学习率下降因子参数,并在每次训练后打乱数据集以保证不受前次训练影响;再次,将训练集作为输入完成对LSTM模型的训练,通过验证是否满足优化条件确定贝叶斯优化的过程,获得最优参数;最后,通过绘图以及模型评价指标的形式使用测试集完成BOA-LSTM模型的性能验证。
4.根据权利要求1所述的一种基于BOA-LSTM算法的变压器顶层油温预测方法,其特征在于:利用贝叶斯优化LSTM神经网络超参数的具体过程如下:
1)输入:初始化点个数n0,最大迭代次数N,代理模型g(x),采集函数α(x|Dt);
2)随机初始化n0点
3)获得其对应的函数值f(Xinit),初始点集D0={Xinit,f(Xinit)}令t=n0,Dt-1=D0;
4)根据当前获得的点集Dt-1,构建代理模型g(x);
5)基于代理模型g(x),最大化采集函数α(x|Dt-1),获得下一个评估点xt=argminα(x|Dt-1);
6)获得评估点xt的函数值f(xt),将其加入到当前评估点集合中:Dt=Dt-1U{xt,f(xt)},转步骤3);如果得到t<N,进行输出;如果否,转步骤4)。
5.根据权利要求1所述的一种基于BOA-LSTM算法的变压器顶层油温预测方法,其特征在于:所述贝叶斯优化的核心由两部分组成:
1)高斯过程回归;计算每个点的函数值的平均值和方差;
2)构建一个基于均值和方差的采集函数,从而在迭代中选择采样位置;
该算法首先初始化要在整个域中均匀地选择的n个解决方案,然后开始一个循环,每次增加一个点,直到找到N个待选方案;每次找到下一个点时,就用已经找到的N个待选方案建立一个高斯回归模型;根据后验概率构建一个集合函数,找到极值作为下一个搜索点;接下来,计算下一个搜索点的值;该算法最后返回N个候选方案的极值作为最优方案。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311291805.1A CN117313794A (zh) | 2023-10-08 | 2023-10-08 | 基于boa-lstm算法的变压器顶层油温预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311291805.1A CN117313794A (zh) | 2023-10-08 | 2023-10-08 | 基于boa-lstm算法的变压器顶层油温预测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117313794A true CN117313794A (zh) | 2023-12-29 |
Family
ID=89261773
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311291805.1A Pending CN117313794A (zh) | 2023-10-08 | 2023-10-08 | 基于boa-lstm算法的变压器顶层油温预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117313794A (zh) |
-
2023
- 2023-10-08 CN CN202311291805.1A patent/CN117313794A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Ma et al. | A hybrid transfer learning scheme for remaining useful life prediction and cycle life test optimization of different formulation Li-ion power batteries | |
CN110414788B (zh) | 一种基于相似日和改进lstm的电能质量预测方法 | |
CN110941929A (zh) | 一种基于ARMA和Elman神经网络联合建模的电池健康状态评估方法 | |
CN109740859A (zh) | 基于主成分分析法和支持向量机的变压器状态评估方法及系统 | |
Wang et al. | Prediction of early stabilization time of electrolytic capacitor based on ARIMA-Bi_LSTM hybrid model | |
Chen et al. | A health index construction framework for prognostics based on feature fusion and constrained optimization | |
CN111525587B (zh) | 一种基于无功负荷态势的电网无功电压控制方法及系统 | |
Wang et al. | Health diagnosis for lithium-ion battery by combining partial incremental capacity and deep belief network during insufficient discharge profile | |
CN112784920A (zh) | 云边端协同的旋转部件对抗域自适应故障诊断方法 | |
CN115456287A (zh) | 一种基于长短时记忆网络的综合能源系统多元负荷预测方法 | |
CN114119273A (zh) | 一种园区综合能源系统非侵入式负荷分解方法及系统 | |
CN115618732A (zh) | 核反应堆数字孪生关键参数自主优化数据反演方法 | |
CN115438897A (zh) | 一种基于blstm神经网络的工业过程产品质量预测方法 | |
CN114444811A (zh) | 一种基于注意力机制的铝电解混频数据过热度预测方法 | |
CN113887833A (zh) | 一种分布式能源用户侧逐时负荷预测方法及系统 | |
Liu et al. | State of health estimation of lithium-ion batteries based on multi-feature extraction and temporal convolutional network | |
Yang et al. | Remaining useful life prediction of vehicle-oriented PEMFC systems based on IGWO-BP neural network under real-world traffic conditions | |
CN112580254A (zh) | 一种基于多级决策融合的换流变多维度分析和预警方法 | |
CN117313794A (zh) | 基于boa-lstm算法的变压器顶层油温预测方法 | |
CN115935814A (zh) | 一种基于arima-svm模型的变压器故障预测方法 | |
CN114169226A (zh) | 短期电力负荷预测方法、计算机设备以及存储介质 | |
Ma et al. | A prediction-based cycle life test optimization method for cross-formula batteries using instance transfer and variable-length-input deep learning model | |
Basia et al. | Comparison of data driven algorithms for SoH estimation of Lithium-ion batteries | |
Abdufattokhov et al. | Predictive and probabilistic modelling using machine learning for building indoor climate control | |
CN117829822B (zh) | 一种电力变压器故障预警方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |