CN112365009A - 一种基于深度学习网络的二次设备异常诊断方法 - Google Patents

Abstract

一种基于深度学习网络的二次设备异常诊断方法，采用具有深度自学习功能的人工智能算法，建立二次设备监测预警诊断模型。利用实时运维信息与二次设备故障之间的关联特点和规律，基于深度自编码网络，采用深度学习辅以人工经验参与的方式，以二次设备缺陷历史数据为样本，对预警诊断模型进行大数据训练，全面建立多类型运维数据与二次设备的关联映射关系，实现对二次设备的准确预警诊断。

Description

一种基于深度学习网络的二次设备异常诊断方法

技术领域

本发明涉及电力系统保护技术领域，具体涉及一种基于深度学习网络的二次设备异常诊断方法。

背景技术

电力系统安全、可靠、连续的供电是现代社会正常运行的基本条件，精准的二次设备预警诊断，可提前告知并采取有效措施最大限度保护电力系统安全稳定连续运行，针对性研判对系统运行、甚至是公共安全可能带来的影响，从而提供精准、科学的电力应急处置和保障。因此研究如何通过建立运维数据与电网故障之间的关联和映射关系，实现对各种数据是否可能导致故障进行及时、准确的预测，对于排查系统故障、恢复供电、保障社会经济健康持续发展有着极其重要的作用。电力系统二次设备异常诊断预警是指以二次设备的实时运维数据为基础，通过一定的数据分析与处理和历史数据对现有数据进行分析，对在该条件下能否发生故障进行预警与诊断。专家系统、神经网络、解析模型、粗糙集、Petri网等都是电力系统故障二次设备异常诊断预警的典型方法。但是以上的方法均存在预警不准确的情况。

发明内容

本发明为了克服以上技术的不足，提供了一种实现对二次设备的异常准确预警的方法。

本发明克服其技术问题所采用的技术方案是：

一种基于深度学习网络的二次设备异常诊断方法，包括如下步骤：

a)通过公式

建立电力系统运维数据中故障特征与故障类型间的非线性映射关系，式中P_i为故障特征集，m为特征维数，Q_i为故障类型编码，n为编码位数，将故障特征集P_i进行归一化处理；

b)利用SMOTE算法对电力系统中的二次设备监测预警系统得到的原始数据进行重采样，重采样后的原始数据在特征空间中欧式距离相邻的两个同类点之间随机选取一个点，将所有选取的点生成新的故障样本；

c)将新的故障样本输入自编码网络进行训练，自编码网络由输入层、中间隐藏层及输出层构成，通过公式

计算得到自编码网络的损失函数H(x,y)，自编码网络中解码后的变量为y，输入变量为x，x＝[x₁,x₂,...,x_i]，y＝[y₁,y₂,...,y_i]，式中x_i为自编码网络中输入层的第i层变量，y_i为自编码网络中输出层的第i层变量，n_k为自编码网络中中间隐藏层的层数，s^(k)为第k层神经网络的神经元个数，

为第k层神经网络的第i个因子与第k+1层网络的第j个因子之间的权重系数，n为自编码网络输入变量与输出变量的个数；

d)通过公式

计算得到自编码网络中间隐藏层第j个单元的平均激活量ρ_j，式中n为自编码网络输入变量与输出变量的个数，a_j为中间隐藏层第j个激活单元；

e)通过公式

计算得到惩罚项PN，式中m为激活单元的个数，ρ为目标稀疏参数，KL为散度；

f)通过公式

计算得到根据重构误差函数和惩罚项后对应的损失函数J(W,θ)，式中β为控制加强性惩罚因子的权重，利用梯度下降法对损失函数J(W,θ)进行极小化处理，每次迭代得到新的权值，直至损失函数J(W,θ)达到设定阈值时，完成自编码网络的建立；

g)将步骤f)中完成的自编码网络进行自训练；

h)调取电力系统二次设备故障时的运维特征信息及采样值作为故障断面的特征集，将特征集送入步骤g)中训练好的基于深度学习自编码网络中，得到诊断结果。

进一步的，步骤a)中通过公式

将P_i映射到区间[0,1]中得到归一化后的值P_i′，式中P_max为故障特征集中最大值，P_min为故障特征集中最小值。

进一步的，步骤a)中的运维数据包括电压、电流及光强。

进一步的，步骤g)中编码网络自训练的步骤为：

g-1)将步骤f)中的自编码网络的参数进行初始化赋值，以无监督的学习方法训练中间隐藏层中第一层网络，利用反向传播算法和梯度下降法计算重构误差，当损失函数达到要求时停止中间隐藏层中第一层网络的训练并保留此时各项参数；

g-2)将中间隐藏层中第一层网络训练得到的中间隐藏层向量作为中间隐藏层中下一层自编码网络的输入量，利用该输入量训练中间隐藏层中该层网络，直至误差达到最小值时停止训练并保存此时的网络参数；

g-3)重复执行步骤g-2)直至训练的中间隐藏层中数量达到设定值时，完成中间隐藏层中各层的训练；

g-4)将中间隐藏层中最后一层作为分类器的输入，分类器的参数进行初始化处理，完成深度自编码网络的训练。

本发明的有益效果是：采用具有深度自学习功能的人工智能算法，建立二次设备监测预警诊断模型。利用实时运维信息与二次设备故障之间的关联特点和规律，基于深度自编码网络，采用深度学习辅以人工经验参与的方式，以二次设备缺陷历史数据为样本，对预警诊断模型进行大数据训练，全面建立多类型运维数据与二次设备的关联映射关系，实现对二次设备的准确预警诊断。

附图说明

图1为本发明的异常诊断预警流程图；

图2为本发明的深度自编码网络训练结构框图。

具体实施方式

下面结合附图1、附图2对本发明做进一步说明。

一种基于深度学习网络的二次设备异常诊断方法，包括如下步骤：

a)通过公式

建立电力系统运维数据中故障特征与故障类型间的非线性映射关系，式中P_i为故障特征集，m为特征维数，Q_i为故障类型编码，n为编码位数，将故障特征集P_i进行归一化处理。

b)利用SMOTE算法对电力系统中的二次设备监测预警系统得到的原始数据进行重采样，重采样后的原始数据在特征空间中欧式距离相邻的两个同类点之间随机选取一个点，将所有选取的点生成新的故障样本。生成的新样本和原始样本具有相同的类别，并没有改变原有数据样本分布的外围轮廓特征，最终使故障样本和正常样本的占比和数量接近，生成新的数据集，降低原始数据集内由于故障数据少而产生的不平衡度，能减小因数据集本身而产生的预测误差。

c)将新的故障样本输入自编码网络进行训练，自编码网络由输入层、中间隐藏层及输出层构成，训练过程包括编码过程和解码过程。编码过程由中间隐藏层和输入层组成，完成从输入变量x编码到中间隐藏层J的映射转换，而解码过程包括中间隐藏层和输出层，完成从隐藏层变量J解码到输出层变量y的映射，最终使x与y尽可能的相同，本质上使数据经过编码和解码过程尽可能得复现原始数据。为了使解码后的变量y应与输入变量x尽可能地相同，通常需要通过重构输入-输出误差函数H(x,y)来描述这两个变量之间的误差。因此，通过公式

计算得到自编码网络的损失函数H(x,y)，自编码网络中解码后的变量为y，输入变量为x，x＝[x₁,x₂,...,x_i]，y＝[y₁,y₂,...,y_i]，式中x_i为自编码网络中输入层的第i层变量，y_i为自编码网络中输出层的第i层变量，n_k为自编码网络中中间隐藏层的层数，s^(k)为第k层神经网络的神经元个数，

为第k层神经网络的第i个因子与第k+1层网络的第j个因子之间的权重系数，n为自编码网络输入变量与输出变量的个数。当重构误差函数足够小的时候，可以认为原始输入数据中的特征已经包含在编码偏置向量中，因此需要使重构误差函数达到最小值，得到最适合训练数据集的参数。

d)在自编码网络的训练过程中，为了降低训练过程中自编码网络将输入层信息完全复制到中间隐藏层的可能性，加入加强编码过程，对中间隐藏层神经元的激活情况进行了惩罚限制，在稀疏编码的约束条件下学习进行稀疏处理的样本数据，更好地表达了输入样本数据的特征。通过公式

计算得到自编码网络中间隐藏层第j个单元的平均激活量ρ_j，式中n为自编码网络输入变量与输出变量的个数，a_j为中间隐藏层第j个激活单元。

e)在网络训练过程中，对大多数的神经元是希望其能够处于“不活跃”状态，因此对于神经元的平均激活值ρ_j希望为能够接近于零的常数，设为ρ，其目的就是使大多数的神经元处于“不活跃”的状态，ρ就是设定的目标稀疏参数。为实现稀疏编码的目的，在网络的误差函数中增添了惩罚项，使ρ_j不能过于偏离目标值。选择KL散度来实现惩罚目的，KL散度可以用来描述两个伯努利随机变量之间分布的差异性，相应的惩罚项的表达式如下通过公式

计算得到惩罚项PN，式中m为激活单元的个数，ρ为目标稀疏参数，KL为散度。

f)通过公式

计算得到根据重构误差函数和惩罚项后对应的损失函数J(W,θ)，式中β为控制加强性惩罚因子的权重，利用梯度下降法对损失函数J(W,θ)进行极小化处理，每次迭代得到新的权值，直至损失函数J(W,θ)达到设定阈值时，完成自编码网络的建立。在对网络参数进行初始化预处理时，θ采用随机取值，使用了服从标准正态分布的随机值，然后利用逐层贪婪算法，利用梯度下降法对损失函数进行极小化处理，每次迭代得到新的权值，直至损失函数达到最小。当损失函数达到一定阈值时，就完成自编码过程。

g)将步骤f)中完成的自编码网络进行自训练。神经网络自训练的实质就是通过训练样本数据对激活函数里的权值和偏置向量进行调整的过程，最终使得解码后的重构数据与原始输入二次设备运维数据尽可能地接近，然后利用重构误差函数和惩罚项得到损失函数，对损失函数进行极小化计算，就可以得到连接权重和偏置因子的参数。

h)调取电力系统二次设备故障时的运维特征信息及采样值作为故障断面的特征集，将特征集送入步骤g)中训练好的基于深度学习自编码网络中，得到诊断结果。

通过采用具有深度自学习功能的人工智能算法，建立二次设备监测预警诊断模型。利用实时运维信息与二次设备故障之间的关联特点和规律，基于深度自编码网络，采用深度学习辅以人工经验参与的方式，以二次设备缺陷历史数据为样本，对预警诊断模型进行大数据训练，全面建立多类型运维数据与二次设备的关联映射关系，实现对二次设备的准确预警诊断。

选取M-M法进行运维数据归一化处理，提高模型的准确性和收敛度。M-M法的转换函数公式为：

这种方法是对原始数据进行线性变换，原始输入数据按一定的比例进行缩放，使其处在较小的特定区间，并将数据进行线性变换，将P_i映射到区间[0,1]中得到归一化后的值P_i′，式中P_max为故障特征集中最大值，P_min为故障特征集中最小值。

步骤a)中的运维数据包括电压、电流及光强。

步骤g)中编码网络自训练的步骤为：

g-1)将步骤f)中的自编码网络的参数进行初始化赋值，以无监督的学习方法训练中间隐藏层中第一层网络，利用反向传播算法和梯度下降法计算重构误差，当损失函数达到要求时停止中间隐藏层中第一层网络的训练并保留此时各项参数；

g-2)将中间隐藏层中第一层网络训练得到的中间隐藏层向量作为中间隐藏层中下一层自编码网络的输入量，利用该输入量训练中间隐藏层中该层网络，直至误差达到最小值时停止训练并保存此时的网络参数；

g-3)重复执行步骤g-2)直至训练的中间隐藏层中数量达到设定值时，完成中间隐藏层中各层的训练；

g-4)将中间隐藏层中最后一层作为分类器的输入，分类器的参数进行初始化处理，完成深度自编码网络的训练。

最后应说明的是：以上所述仅为本发明的优选实施例而已，并不用于限制本发明，尽管参照前述实施例对本发明进行了详细的说明，对于本领域的技术人员来说，其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (4)

1.一种基于深度学习网络的二次设备异常诊断方法，其特征在于，包括如下步骤：

a)通过公式

建立电力系统运维数据中故障特征与故障类型间的非线性映射关系，式中P_i为故障特征集，m为特征维数，Q_i为故障类型编码，n为编码位数，将故障特征集P_i进行归一化处理；

b)利用SMOTE算法对电力系统中的二次设备监测预警系统得到的原始数据进行重采样，重采样后的原始数据在特征空间中欧式距离相邻的两个同类点之间随机选取一个点，将所有选取的点生成新的故障样本；

c)将新的故障样本输入自编码网络进行训练，自编码网络由输入层、中间隐藏层及输出层构成，通过公式

计算得到自编码网络的损失函数H(x,y)，自编码网络中解码后的变量为y，输入变量为x，x＝[x₁,x₂,...,x_i]，y＝[y₁,y₂,...,y_i]，式中x_i为自编码网络中输入层的第i层变量，y_i为自编码网络中输出层的第i层变量，n_k为自编码网络中中间隐藏层的层数，s^(k)为第k层神经网络的神经元个数，

为第k层神经网络的第i个因子与第k+1层网络的第j个因子之间的权重系数，n为自编码网络输入变量与输出变量的个数；

d)通过公式

计算得到自编码网络中间隐藏层第j个单元的平均激活量ρ_j，式中n为自编码网络输入变量与输出变量的个数，a_j为中间隐藏层第j个激活单元；

e)通过公式

计算得到惩罚项PN，式中m为激活单元的个数，ρ为目标稀疏参数，KL为散度；

f)通过公式

计算得到根据重构误差函数和惩罚项后对应的损失函数J(W,θ)，式中β为控制加强性惩罚因子的权重，利用梯度下降法对损失函数J(W,θ)进行极小化处理，每次迭代得到新的权值，直至损失函数J(W,θ)达到设定阈值时，完成自编码网络的建立；

g)将步骤f)中完成的自编码网络进行自训练；

h)调取电力系统二次设备故障时的运维特征信息及采样值作为故障断面的特征集，将特征集送入步骤g)中训练好的基于深度学习自编码网络中，得到诊断结果。

2.根据权利要求1所述的基于深度学习网络的二次设备异常诊断方法，其特征在于：步骤a)中通过公式

将P_i映射到区间[0,1]中得到归一化后的值P_i′，式中P_max为故障特征集中最大值，P_min为故障特征集中最小值。

3.根据权利要求1所述的基于深度学习网络的二次设备异常诊断方法，其特征在于：步骤a)中的运维数据包括电压、电流及光强。

4.根据权利要求1所述的基于深度学习网络的二次设备异常诊断方法，其特征在于，步骤g)中编码网络自训练的步骤为：

g-1)将步骤f)中的自编码网络的参数进行初始化赋值，以无监督的学习方法训练中间隐藏层中第一层网络，利用反向传播算法和梯度下降法计算重构误差，当损失函数达到要求时停止中间隐藏层中第一层网络的训练并保留此时各项参数；

g-2)将中间隐藏层中第一层网络训练得到的中间隐藏层向量作为中间隐藏层中下一层自编码网络的输入量，利用该输入量训练中间隐藏层中该层网络，直至误差达到最小值时停止训练并保存此时的网络参数；

g-3)重复执行步骤g-2)直至训练的中间隐藏层中数量达到设定值时，完成中间隐藏层中各层的训练；

g-4)将中间隐藏层中最后一层作为分类器的输入，分类器的参数进行初始化处理，完成深度自编码网络的训练。

Images