CN116933025A - 基于vmd与dbo-lstm-at的变压器顶层油温预测方法 - Google Patents

Abstract

本发明涉及变压器油温测量技术领域，特别涉及基于VMD与DBO‑LSTM‑AT的变压器顶层油温预测方法，包括如下步骤：使用VMD对油温序列进行分解，作为预测模型的输入；基于DBO优化的LSTM‑AT变压器顶层油温预测模型，引入注意力机制对LSTM模型进行调整，使LSTM模型专注于具有代表性时间序列数据，以此提高模型的精度VMD‑DBO‑LSTM‑AT模型建立，变压器顶层油温组合预测模型建立；利用真实数据集对建立的变压器顶层油温预测模型进行评估，并通过均方根误差(RMSE)、平均绝对误差(MAE)、拟合优度(R2)等指标对模型性能进行量化。基于西北某地变压器真实顶层油温数据，对模型的性能进行验证，结果表明，该模型的精度较高、泛化性较强，可以为变压器顶层油温预测问题提供参考。

Description

基于VMD与DBO-LSTM-AT的变压器顶层油温预测方法

技术领域

本发明涉及变压器油温测量技术领域，特别涉及基于VMD与DBO-LSTM-AT的变压器顶层油温预测方法。

背景技术

变压器作为电力系统的核心设备之一，在电能的传输、分配等环节中起着重要的作用，为了避免变压器在运行过程中出现过载或其他故障，继而带来不必要的经济损失，对变压器的各项参数进行实时检测，并基于实时数据对变压器未来的状态进行评估及预测，是十分必要的。在对变压器进行状态评估时，顶层油温是判断变压器是否能够维持正常运行能力的一项重要依据，一旦油温过高，变压器的寿命以及负载能力将会受到严重影响。在实际情况下，变压器内部的故障短时间内无法通过顶层实时油温来进行评估，通常需要借助顶层油温的变化趋势来进行判断。因此，对变压器顶层的油温进行预测，获取准确的顶层油温变化趋势对于变压器的安全运行具有重要意义。

目前，针对变压器顶层油温预测的研究，主要可分为两类：半物理模型法以及机器学习法。半物理模型法基于I EEE Std C57.91、I EC 60076-7导则推荐模型以及基于热电类比法的热路模型等，模拟变压器内部的热传递过程，对油温的变化趋势进行描述及预测，但是这种方法存在模型简单、参数较难获取的缺点。第二类方法基于数据驱动，通过寻找变压器运行时各项参数与顶层油温之间的联系，对未来的变化趋势进行预测。现有技术对加权支持向量机进行改进，分析了变压器顶层油温与环境温度、变压器负荷之间的联系。现有技术使用PSO算法对混合核极限学习机(HKELM)的参数进行优化，通过构建监测系统，达到了对变压器油温的准确预测。但是以上方法没有进行数据处理，在数据存在误差或统计失误时，模型的预测效果较差。现有技术基于条件互信息法(conditional mutualinformation,CMI)，对九种变压器特征变量进行筛选，使用长期和短期时间序列网络(long-and short-term time-series network,LSTNet)对变压器油温进行预测，这种方法降低了数据维度，实现了变压器多部位的油温预测。现有技术将最小二乘双支持向量回归机(LSTSVR)作为边缘计算模型，减少了模型计算量。

但是上述两种方法只针对数据处理方法提出改进，并没有对机器学习模型的结构及参数进行优化，模型预测精度仍有提升空间。由以上现有技术可以看出，目前基于机器学习算法进行变压器顶层油温预测的研究已取得了部分成果，但是大部分预测模型的结构单一，在数据维度较高或样本蕴含信息不均衡时，可能出现预测效果较差、模型泛化能力较低的问题。另外，现有的预测模型大部分为多特征(环境温度、季节气候、外部负载)输入，单目标输出(顶层油温)的结构。而在实际情况下，部分地区变压器存在运行参数难以获取、信息遗漏较大的情况，如果使用多输入单输出的结构，反而会对最后的变压器顶层油温预测结果产生影响。

发明内容

本发明的目的在于针对现有技术中存在的问题，提供基于VMD与DBO-LSTM-AT的变压器顶层油温预测方法。

为了实现上述目的，本发明提供以下技术方案：

基于VMD与DBO-LSTM-AT的变压器顶层油温预测方法，其特征在于，包括如下步骤：

步骤一：使用VMD对油温序列进行分解，作为预测模型的输入；

步骤二：基于DBO优化的LSTM-AT变压器顶层油温预测模型，引入注意力机制对LSTM模型进行调整，使LSTM模型专注于具有代表性时间序列数据，以此提高模型的精度；

步骤三：VMD-DBO-LSTM-AT模型建立，变压器顶层油温组合预测模型建立；

步骤四：利用真实数据集对建立的变压器顶层油温预测模型进行评估，并通过均方根误差(RMSE)、平均绝对误差(MAE)、拟合优度(R2)等指标对模型性能进行量化。不同指标的计算步骤及具体含义如表1所示：

表1变压器顶层油温预测模型评估指标

其中，代表模型的预测值，y_i代表对应的真实值，/>代表为真实数据的平均值，n为总样本个数。其中，RMSE与MAE的取值范围均在[0,+∞]之间，值越小，说明模型的性能越好；R²的取值范围在[0,1]之间，值越接近1，说明模型的拟合程度越好，精度也越高。

优选的，在步骤一中，采用VMD将原始油温序列数据分解成不同的频率分量，包括VMD算法分解油温序列和油温序列数据标准化。

具体的，所述VMD算法分解油温序列中VMD算法通过迭代搜索寻找最优解，将原始信号分解为K个本征模态分量，在所有模态分量带宽之和最小的前提下，保证所有模态分量之和与原始数据的信号相等，在采样过程中具有较好的鲁棒性，具体步骤如下：

步骤1：对分解到的油温子序列数据，进行希尔伯特变换计算，得到子序列的解析信号和边际谱，并将不同分量的频谱转移到正确的基带：

式中，u_k(t)代表每个模态分量的频率，exp(-jω_kt)代表中心频率，δ(t)为Dirac分布函数，*代表卷积运算；

步骤2：通过高斯平滑对信号进行调解，根据平方范数L²计算各油温序列分量的宽带，将VMD过程转化为带约束的优化问题：

式中，为求偏导计算，f(t)代表不同序列，{u_k}与{w_k}分别表示分解出的模态分量集合以及各模态分量所对应的中心频率集合；

步骤3：引入二次乘法因子α以及拉格朗日算子λ，将式(2)转化为无约束变分问题，并求最优解；

步骤4：使用交替方向乘子法(ADMN)对各分量进行优化求解:

式中，n为总迭代次数，τ为更新参数，i与k分别为某个模态分量的索引， 分别代表/>与/>的傅里叶变换；

步骤5：重复步骤3，直到存在任意,满足式(4)的约束条件,最终完成VMD分解,将油温序列分解成K个IMF分量

具体的，所述油温序列数据标准化是为了提升油温预测模型的收敛速度，使用min-max方法，对输入数据进行标准化处理，将初始油温值转化为[0,1]区间内的数值，具体步骤如式(6)所示：

式中，f_i ^max与f_i ^min分别为特征i的最大值与最小值，f_i为特征i的初始值，为特征i经过标准化处理后的值。

优选的，在步骤二中，将AT机制引入LSTM模型，实现了对输入数据的特征加权，使模型的精度得到有效提升；采用DBO算法来对LSTM模型的学习率以及隐藏层神经元个数进行寻优，以提高所提变压器顶层油温预测模型的泛化能力。

具体的，所述LSTM神经网络是针对循环神经网络(RNN)的一种改进网络模型，它可以有效的解决RNN模型在训练过程中的短期记忆问题，即RNN内部梯度由于受时间步长的作用导致的梯度消失问题；LSTM相比BPNN等传统神经网络最大的特点是单元之间通过循环连接，赋予其具有出色的记忆功能。

具体的，所述LSTM网络是由若干LSTM单元组成，其中每个单元均是由遗忘门、输入门和输出门三个控制单元状态的门结构以及一个单元状态组成，结构如图3所示。LSTM网络每个单元各门限的计算过程为：

i_t＝sigmoid(W_i·h_t-1+W_i·x_t+b_i) (7)

f_t＝sigmoid(W_f·h_t-1+W_f·x_t+b_f) (8)

o_t＝sigmoid(W_o·h_t-1+W_o·x_t+b_o) (9)

h_t＝o_t e tanh(C_t) (12)

式中，x_t表示t时刻输入向量；i_t、f_t、o_t分别表示t时刻输入门、遗忘门、输出门的控制状态；C_t分别表示新记忆、长期记忆；h_t表示LSTM单元的输出，具有保存短期记忆的作用；sigmoid、tanh表示激活函数，其中sigmoid实现数值在[0，1]区间的映射，tanh实现数值在[-1，1]区间的映射；W_i、W_f、W_o、W_c分别表示输入门、遗忘门、输出门、记忆细胞的连接权值矩阵；b_i、b_f、b_o、b_c分别表示输入门、遗忘门、输出门、记忆细胞的偏置向量；e表示哈达玛积运算。

具体的，所述AT机制的核心思想是对输入特征进行赋权，以此来突出重要的特征，使模型在训练与学习时，将注意力放在特定的区域，降低冗余信息对模型产生的影响；AT机制具有提升模型的学习能力、不会影响模型计算速度等优点，AT机制与LSTM模型结合的示意图如图4所示：

在图4中，x₁,x₂,...,x_n分别为原始输入数据的特征值，h₁,h₂,...,h_t分别为原始数据特征值在隐藏层所对应的状态值，a₁,a₂,...,a_t为数据特征所对应的权重，具体计算步骤如下所示：

e_t＝utanh(wh_t+b) (13)

式中，w与b分别代表权值与偏置，e_t为输入向量h_t在t时刻的注意力概率分布值，s_t为最终输出的向量，通过上式，可以得到不同特征参数经过注意力机制计算后的权重分布。

具体的，在步骤三中，所述DBO算法以蜣螂的生物行为过程作为核心思想，进行全局搜索和局部利用，具有很强的寻优能力与快速的收敛能力，具体步骤如下：

步骤1：初始化种群；确定种群规模pop、最大迭代次数Tmax、自变量个数n、自变量上限Ub、下限Lb等，采用随机编码方式对个体进行编码，计算适应度函数，并将种群按照6：6：7：11比例分为滚球蜣螂、繁殖蜣螂、觅食蜣螂、偷窃蜣螂四个小种群；

步骤2：滚球；按照式(16-20)对滚球蜣螂的位置进行更新：

Δx＝|x_i(t)-X^w| (19)

式中，t表示当前迭代次数，x_i(t)表示第t次迭代时第i只蜣螂位置，k取0.1，b取0.3，θ是一个[0，π]的随机数，X^w表示全局最差位置；

步骤3：繁殖；按照式(21-24)对繁殖蜣螂的位置进行更新：

x_i(t+1)＝X^*+b₁×(x_i(t)-Lb^*)+b₂×(x_i(t)-Ub^*)

(21)

式中，X^*表示当前局部最优位置，b₁、b₂分别表示两个独立的大小为1×n的随机向量；

步骤4：觅食；按照式(23-24)对觅食蜣螂的位置进行更新：

x_i(t+1)＝X^b+C₁×(x_i(t)-Lb^b)+C₂×(x_i(t)-Ub^b) (23)

式中，X^b表示全局最优位置，C₁表示服从正态分布的随机数，C₂表示大小为1×n的随机向量。

步骤5：偷窃；按照式(25)对偷窃蜣螂的位置进行更新：

x_i(t+1)＝X^b+S×g×(|(x_i(t)-X^*)|+|(x_i(t)-X^b)|) (25)

步骤6：更新全局最优解，直到满足终止条件时输出最优解。

具体的，在步骤三中，VMD-DBO-LSTM-AT模型建立，变压器顶层油温组合预测模型建立的具体步骤如下所示：

步骤1、数据预处理；对原始数据进行清洗，如空值、负数、极端异常值等，得到预处理后的变压器顶层油温序列，作为VMD算法的输入；

步骤2、模态分解；使用VMD对预处理之后油温序列数据进行模态分解，得到K个IMF，在归一化后，作为DBO-LSTM-AT模型的输入；

步骤3、LSTM参数寻优；构建基础LSTM模型，对DBO算法进行初始化，将LSTM模型的学习率与隐藏层神经元个数等超参数作为DBO算法的优化目标，使用均方差(MSE)作为DBO的适应度函数，表达式如式(26)所示：

式中，代表模型的预测值，y_i代表对应的真实值，n为样本总个数，取值范围在[0，+∞]之间；

步骤4、LSTM超参数赋值；将数据集按照8：2的比例进行划分，分为训练集及验证集，将DBO算法的初始值作为LSTM模型的学习率与隐藏层神经元个数，进行模型测试并计算适应度函数值，将DBO算法停止迭代时的最优参数赋予LSTM模型；

步骤5、变压器顶层油温预测；基于训练好的LSTM模型，使用经过VMD分解后的数据作为输入，经过AT机制进行特征赋权，对输出的结果进行反归一化以及等权相加，完成信号还原工作，得到最终的油温预测值。

本发明具有以下有益效果：本发明针对现有研究存在数据处理方式简单、模型结构单一、变压器运行参数收集困难的情况，本发明提出了一种基于变分模态分解(VMD)、蜣螂优化算法(DBO)、长短期记忆神经网络(LSTM)、注意力机制(AT)的组合预测模型。基于单输入单输出的结构，使用历史油温序列，对未来的油温变化趋势进行预测。并基于西北某地变压器真实顶层油温数据，对模型的性能进行验证，结果表明，该模型的精度较高、泛化性较强，可以为变压器顶层油温预测问题提供参考。

附图说明

图1为本发明实施例1中变压器顶层油温预测模型总体框架图；

图2为本发明实施例1中VMD-LTSM-AT模型示意图；

图3为本发明实施例1中LTSM模型示意图；

图4为本发明实施例1中LTSM-AT模型示意图；

图5为本发明实施例1中变压器顶层油温预测流程图；

图6为本发明实施例1中油温序列VMD分解结果图；

图7为本发明实施例1中不同模型油温预测结果对比图；

图8为本发明实施例1中不同模型迭代次数对比图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

实施例1

为了验证本发明提出变压器顶层油温预测模型的性能，采用西北某地区2022.4-2023.4月的变压器顶层油温为数据样本，采样周期为4h，单位为℃，共有2212组数据(后文简称序列一)，以前1770组数据作为训练集，后442组数据作为测试集。LSTM初始学习率为0.001，隐藏层神经元个数为64，使用relu作为激活函数。分别对模型的数据处理有效性、参数优化有效性以及泛化能力进行量化评估。

1、VMD分解结果

K的取值会影响VMD分解得到的IMF在频率上的分布，对模态分解以及变压器顶层油温预测的结果产生影响。当K的值过小时，数据没有完全分解，当K的值过大时，分解后的数据可能存在噪声以及模态混叠的情况。本发明通过多次实验，确定在K＝5时，预测模型的准确度可以达到最高，序列分解的结果如图6所示。

图6中，IMF1为趋势分量，反应了油温序列的整体变化情况，IMF1～IMFn为剩余的随机分量，产生的误差非常小。因此本发明采用全部的IMF分量作为变压器顶层油温预测模型的输入，具体的结果对比见下节。

2、油温预测结果分析

(1)数据处理有效性为了验证使用VMD以及AT机制进行特征赋权的有效性，基于训练好的模型进行消融实验，对模型的性能进行量化，结果如表2所示：

表2不同模型油温预测结果对比

从表2以及图7中可以看出，与初始的LSTM模型相比，增加了VMD分解与AT机制后的模型预测精度与拟合优度均有不同程度的提升，RMSE从0.744下降至0.139，误差下降了81％，这说明VMD算法与AT机制可以有效提升油温预测模型的精度。

(2)LSTM参数优化有效性

为了验证DBO算法的寻优能力与收敛能力，将本发明与粒子群(PSO)算法对LSTM进行参数优化的油温预测结果进行对比，结果如图8，表3所示

表3不同模型预测误差对比

从表3以及图8中可以看出，与原始模型进行比较，由于了使用智能优化算法进行超参数寻优，VMD-PSO-LSTM-AT以及VMD-DBO-LSTM-AT模型的精度都得到了不同程度的提高，但是DBO算法与PSO算法相比，具有收敛速度更快、寻优能力更强的特点，经过10次迭代便可确定LSTM模型的最优超参数，证明了利用DBO优化LSTM模型的可行性。

(3)模型泛化能力分析

泛化能力是评估预测模型的重要指标，可以体现出所建立油温预测模型对新样本的适应能力。通常来讲，模型的泛化能力受到以下三个因素的影响：训练集大小、网络架构以及问题复杂程度。在本发明中，变压器顶层油温预测模型的网络架构已经确定，因此，本发明将分别改变训练集大小以及问题复杂程度，通过计算不同模型的RMSE，来对模型的泛化能力进行量化评估，结果如表4、表5所示：

表4不同数据集比例下模型预测误差对比

通过表4可以看出，当训练集与测试集比例为6：4时，LSTM与本发明所提模型的RMSE均处于较低的水平，这是由于用于模型训练的数据集太少，模型并未得到充分学习，导致预测结果表现较差。而当训练集比例加大时，本发明所提模型的RMSE有显著提升并处于较高水平。

通过改变问题的复杂程度，可以有效的检验所提出变压器顶层油温预测模型泛化性。本发明采用其他两组变压器真实油温序列数据进行测试，序列二样间隔为1h，时间尺度为一年，共有8760组数据；序列三采样间隔为15mi ns，时间尺度同样为一年，共有35340组数据，将三组序列的前80％作为训练集，后20％作为测试集，通过实验得到不同序列的最优K值进行VMD分解，LSTM模型初参数保持一致。为了模拟现实生活中数据丢失或信息遗漏的现象，在序列二与序列三中随机添加20％的误差，实验结果如表5所示：

表5不同序列下模型预测误差对比

从表5中可以看出，本发明所提模型在不同时间尺度的油温序列下都表现出了较好的性能。在规律性较好的序列一中，拟合的效果达到了最佳，而在增加了噪音的序列二及序列三中，在经过数据处理以及参数优化后，模型的预测效果也有较大的提升，并能维持在较高的水平，说明了所提变压器顶层油温预测模型有较好的泛化能力与较强的鲁棒性。

结论

为提高变压器顶层油温预测的精度，提出了一种基于VMD-DBO-LSTM-AT的预测模型，使用真实变压器顶层油温数据对模型性能进行测试，主要结论如下：

1)对数据进行VMD处理，并使用AT机制进行特征加权，可以有效的提取出时序性数据中蕴含的关键信息，极大的提升变压器顶层油温预测结果的精度。

2)在基础LSTM模型中，学习率、隐藏层神经元个数等超参数对预测结果的影响较大，本发明引入了DBO算法对LSTM的参数进行自动寻优，提高了LSTM模型的性能。

3)使用单一的LSTM模型进行变压器的油温预测，模型的误差较大，泛化能力较低，本发明提出的VMD-DBO-LSTM-AT模型，兼顾了数据处理以及模型优化两方面，与其他预测模型相比，表现出了更高的预测精度与泛化能力，能够很好的适应特征参数较少、数据难以获取、时间跨度较大情况下的变压器顶层油温预测问题。

在本发明中，油温序列数据经过VMD分解后，IMF2～IMFn产生的预测误差非常小，因此本发明将其全部作为油温预测模型的输入，并取得了较佳的预测效果。在实际情况下，由于变压器所处环境不同，数据的完整度及可靠性也存在差异，部分油温数据经过VMD分解后可能存在模态混叠或误差较大的情况。因此，在未来的工作中，可以考虑使用计算样本熵的方法，剔除规律性较差的IMF，进一步提升变压器顶层油温预测模型的精度。另外，在本发明中，DBO优化算法只对LSTM模型的学习率以及隐藏层神经元个数进行了自动调参寻优，在未来，可以考虑针对迭代次数、正则化参数、批大小等超参数进行优化，进一步提升LSTM模型的性能。

以上仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.基于VMD与DBO-LSTM-AT的变压器顶层油温预测方法，其特征在于，包括如下步骤：

步骤一：使用VMD对油温序列进行分解，作为预测模型的输入；

步骤二：基于DBO优化的LSTM-AT变压器顶层油温预测模型，引入注意力机制对LSTM模型进行调整，使LSTM模型专注于具有代表性时间序列数据，以此提高模型的精度；

步骤三：VMD-DBO-LSTM-AT模型建立，变压器顶层油温组合预测模型建立；

步骤四：利用真实数据集对建立的变压器顶层油温预测模型进行评估，并通过均方根误差(RMSE)、平均绝对误差(MAE)、拟合优度(R2)等指标对模型性能进行量化。

2.根据权利要求1所述的基于VMD与DBO-LSTM-AT的变压器顶层油温预测方法，其特征在于：在步骤一中，采用VMD将原始油温序列数据分解成不同的频率分量，包括VMD算法分解油温序列和油温序列数据标准化。

3.根据权利要求2所述的基于VMD与DBO-LSTM-AT的变压器顶层油温预测方法，其特征在于：所述VMD算法分解油温序列中VMD算法通过迭代搜索寻找最优解，将原始信号分解为K个本征模态分量，在所有模态分量带宽之和最小的前提下，保证所有模态分量之和与原始数据的信号相等，在采样过程中具有较好的鲁棒性，具体步骤如下：

步骤1：对分解到的油温子序列数据，进行希尔伯特变换计算，得到子序列的解析信号和边际谱，并将不同分量的频谱转移到正确的基带：

式中，u_k(t)代表每个模态分量的频率，exp(-jω_kt)代表中心频率，δ(t)为Dirac分布函数，*代表卷积运算；

步骤2：通过高斯平滑对信号进行调解，根据平方范数L²计算各油温序列分量的宽带，将VMD过程转化为带约束的优化问题：

式中，为求偏导计算，f(t)代表不同序列，{u_k}与{w_k}分别表示分解出的模态分量集合以及各模态分量所对应的中心频率集合；

步骤3：引入二次乘法因子α以及拉格朗日算子λ，将式(2)转化为无约束变分问题，并求最优解；

步骤4：使用交替方向乘子法(ADMN)对各分量进行优化求解：

式中，n为总迭代次数，τ为更新参数，i与k分别为某个模态分量的索引， 分别代表/>与/>的傅里叶变换；

步骤5：重复步骤3，直到存在任意,满足式(4)的约束条件,最终完成VMD分解,将油温序列分解成K个IMF分量

4.根据权利要求2所述的基于VMD与DBO-LSTM-AT的变压器顶层油温预测方法，其特征在于：所述油温序列数据标准化是为了提升油温预测模型的收敛速度，使用min-max方法，对输入数据进行标准化处理，将初始油温值转化为[0,1]区间内的数值，具体步骤如式(6)所示：

式中，f_i ^max与f_i ^min分别为特征i的最大值与最小值，f_i为特征i的初始值，为特征i经过标准化处理后的值。

5.根据权利要求1所述的基于VMD与DBO-LSTM-AT的变压器顶层油温预测方法，其特征在于：在步骤二中，将AT机制引入LSTM模型，实现了对输入数据的特征加权，使模型的精度得到有效提升；采用DBO算法来对LSTM模型的学习率以及隐藏层神经元个数进行寻优，以提高所提变压器顶层油温预测模型的泛化能力。

6.根据权利要求5所述的基于VMD与DBO-LSTM-AT的变压器顶层油温预测方法，其特征在于：所述LSTM神经网络是针对循环神经网络(RNN)的一种改进网络模型，它可以有效的解决RNN模型在训练过程中的短期记忆问题，即RNN内部梯度由于受时间步长的作用导致的梯度消失问题；LSTM相比BPNN等传统神经网络最大的特点是单元之间通过循环连接，赋予其具有出色的记忆功能。

7.根据权利要求6所述的基于VMD与DBO-LSTM-AT的变压器顶层油温预测方法，其特征在于：所述LSTM网络是由若干LSTM单元组成，其中每个单元均是由遗忘门、输入门和输出门三个控制单元状态的门结构以及一个单元状态组成；

LSTM网络每个单元各门限的计算过程为：

i_t＝sigmoid(W_i·h_t-1+W_i·x_t+b_i) (7)

f_t＝sigmoid(W_f·h_t-1+W_f·x_t+b_f) (8)

o_t＝sigmoid(W_o·h_t-1+W_o·x_t+b_o) (9)

h_t＝o_te tanh(C_t) (12)

式中，x_t表示t时刻输入向量；i_t、f_t、o_t分别表示t时刻输入门、遗忘门、输出门的控制状态；C_t分别表示新记忆、长期记忆；h_t表示LSTM单元的输出，具有保存短期记忆的作用；sigmoid、tanh表示激活函数，其中sigmoid实现数值在[0，1]区间的映射，tanh实现数值在[-1，1]区间的映射；W_i、W_f、W_o、W_c分别表示输入门、遗忘门、输出门、记忆细胞的连接权值矩阵；b_i、b_f、b_o、b_c分别表示输入门、遗忘门、输出门、记忆细胞的偏置向量；e表示哈达玛积运算。

8.根据权利要求5所述的基于VMD与DBO-LSTM-AT的变压器顶层油温预测方法，其特征在于：所述AT机制的核心思想是对输入特征进行赋权，以此来突出重要的特征，使模型在训练与学习时，将注意力放在特定的区域，降低冗余信息对模型产生的影响；AT机制具有提升模型的学习能力、不会影响模型计算速度等优点；具体计算步骤如下所示：

e_t＝utanh(wh_t+b) (13)

式中，w与b分别代表权值与偏置，e_t为输入向量h_t在t时刻的注意力概率分布值，s_t为最终输出的向量，通过上式，可以得到不同特征参数经过注意力机制计算后的权重分布。

9.根据权利要求1所述的基于VMD与DBO-LSTM-AT的变压器顶层油温预测方法，其特征在于：在步骤三中，所述DBO算法以蜣螂的生物行为过程作为核心思想，进行全局搜索和局部利用，具有很强的寻优能力与快速的收敛能力，具体步骤如下：

步骤1：初始化种群；确定种群规模pop、最大迭代次数Tmax、自变量个数n、自变量上限Ub、下限Lb等，采用随机编码方式对个体进行编码，计算适应度函数，并将种群按照6：6：7：11比例分为滚球蜣螂、繁殖蜣螂、觅食蜣螂、偷窃蜣螂四个小种群；

步骤2：滚球；按照式(16-20)对滚球蜣螂的位置进行更新：

Δx＝|x_i(t)-X^w| (19)

式中，t表示当前迭代次数，x_i(t)表示第t次迭代时第i只蜣螂位置，k取0.1，b取0.3，θ是一个[0，π]的随机数，X^w表示全局最差位置；

步骤3：繁殖；按照式(21-24)对繁殖蜣螂的位置进行更新：

x_i(t+1)＝X^*+b₁×(x_i(t)-Lb^*)+b₂×(x_i(t)-Ub^*)

(21)

式中，X^*表示当前局部最优位置，b₁、b₂分别表示两个独立的大小为1×n的随机向量；

步骤4：觅食；按照式(23-24)对觅食蜣螂的位置进行更新：

x_i(t+1)＝X^b+C₁×(x_i(t)-Lb^b)+C₂×(x_i(t)-Ub^b) (23)

式中，X^b表示全局最优位置，C₁表示服从正态分布的随机数，C₂表示大小为1×n的随机向量；

步骤5：偷窃；按照式(25)对偷窃蜣螂的位置进行更新：

x_i(t+1)＝X^b+S×g×(|(x_i(t)-X^*)|+|(x_i(t)-X^b)|) (25)

步骤6：更新全局最优解，直到满足终止条件时输出最优解。

10.根据权利要求1所述的基于VMD与DBO-LSTM-AT的变压器顶层油温预测方法，其特征在于：在步骤三中，VMD-DBO-LSTM-AT模型建立，变压器顶层油温组合预测模型建立的具体步骤如下所示：

步骤1、数据预处理；对原始数据进行清洗，如空值、负数、极端异常值等，得到预处理后的变压器顶层油温序列，作为VMD算法的输入；

步骤2、模态分解；使用VMD对预处理之后油温序列数据进行模态分解，得到K个IMF，在归一化后，作为DBO-LSTM-AT模型的输入；

步骤3、LSTM参数寻优；构建基础LSTM模型，对DBO算法进行初始化，将LSTM模型的学习率与隐藏层神经元个数等超参数作为DBO算法的优化目标，使用均方差(MSE)作为DBO的适应度函数，表达式如式(26)所示：

式中，代表模型的预测值，y_i代表对应的真实值，n为样本总个数，取值范围在[0，+∞]之间；

步骤4、LSTM超参数赋值；将数据集按照8：2的比例进行划分，分为训练集及验证集，将DBO算法的初始值作为LSTM模型的学习率与隐藏层神经元个数，进行模型测试并计算适应度函数值，将DBO算法停止迭代时的最优参数赋予LSTM模型；

步骤5、变压器顶层油温预测；基于训练好的LSTM模型，使用经过VMD分解后的数据作为输入，经过AT机制进行特征赋权，对输出的结果进行反归一化以及等权相加，完成信号还原工作，得到最终的油温预测值。