CN108959732B

CN108959732B - 一种基于卷积神经网络的输电线路故障类型识别方法

Info

Publication number: CN108959732B
Application number: CN201810621653.XA
Authority: CN
Inventors: 汪梅; 朱亮; 张国强; 牛钦; 翟珂; 张佳楠; 王刚
Original assignee: Xian University of Science and Technology
Current assignee: Xian University of Science and Technology
Priority date: 2018-06-15
Filing date: 2018-06-15
Publication date: 2019-09-27
Anticipated expiration: 2038-06-15
Also published as: CN108959732A

Abstract

本发明公开了一种基于卷积神经网络的输电线路故障类型识别方法，卷积神经网络算法属于深度学习算法的一种，通过将深度学习算法应用于输电线路的故障类型识别领域，进行故障类型识别无需人为提取故障特征，以往的基于人工智能算法的线路故障类型识别需要事先提取故障特征，该发明简化了故障类型识别的结构；提高线路故障类型识别的识别效率，基于深度学习的线路故障类型识别算法在应用中，众多的参数会导致该算法在训练过程中千差万别，本发明打算对其进行优化；降低线路故障类型识别的错误率，不同的激活函数会使训练误差截然不同，本发明使用不同的激活函数对其进行训练，找到最优的激活函数。

Description

一种基于卷积神经网络的输电线路故障类型识别方法

技术领域

本发明涉及输电线路故障类型识别领域，特别是一种基于卷积神经网络的输电线路故障类型识别方法。

背景技术

输电线路出现的各种故障类型中，其中短路故障出现次数最多而且危害十分严重。短路事故严重时，会造成金属导体大面积的熔化，特别严重时，会出现喷溅现象，最终导致一些灾难性的后果，比如火灾的发生。此外，短路故障还会引起电力系统的电压大小普遍降低，甚至会使部分用户的供电得不到保障。短路故障通常还会使电力系统的稳定性发生变化，严重时可能会导致大范围的停电。甚至有些短路情况会干扰通讯系统，影响人们的正常生活以及社会的安全稳定。研究故障类型识别方法，能够快速的进行故障诊断，为继电保护装置动作提供依据，以确保线路的正常运行，减少电力事故的危害范围，提高电力系统供电的安全可靠性。现有的输电线路故障类型识别方法如下：

第一类：基于稳态信号的线路故障类型识别方法。该方法需要利用谐波信号与稳态工频信号完成故障类型的识别。专家学者们在该方面研究的有零序电流幅值、相位比较法、DESIR法等。基于稳态信号的输电线路故障分类方法的主要问题是接地电流的稳态分量太小，不利于检测，在发生故障时不能使选线装置可靠动作。

第二类:基于暂态信号的线路故障分类方法。暂态识别法通过暂态信号完成故障类型分类。目前，研究较多的暂态识别法有首半波法、暂态主频法等。基于暂态信号的输电线路故障分类方法的主要缺点是该方法受故障类型以及电力系统的接线方式的影响。

第三类:基于人工智能领域的输电线路故障分类方法，主要以神经网络算法为主。基于人工智能领域的神经网络的输电线路故障识别方法需要将采集的故障信息进行预处理，并事先提取一定的故障特征，然后形成输入样本，将故障类型形成目标值，目标值对应神经网络的输出。从而实现了故障类型的选择，但由于传统的人工神经网络适合于小样本训练，而且需要事先提取一定的故障特征，否则不利于训练，对于较大的样本，在训练时间和精度上有些欠缺。

发明内容

本发明的目的是要解决现有技术中存在的不足，提供一种基于卷积神经网络的输电线路故障类型识别方法。

为达到上述目的，本发明是按照以下技术方案实施的：

一种基于卷积神经网络的输电线路故障类型识别方法，包括以下步骤：

S1、选择卷积神经网络CNN进行训练；

S2、使用电力系统电磁暂态仿真软件EMTP搭建仿真模型，设置系统的参数，模拟双电源输电线路模型，R1＝0.0212Ω/km； L1＝0.8881mH/km；C1＝0.0128μF/km；R0＝0.1146Ω/km； L0＝2.2901mH/km；C0＝0.0051μF/km。电压等级设成220kv，电源为50Hz，线路总长为200km，仿真时间为0～0.1s，故障时间为0.03～0.05s，故障初始角为0°，线路模型选择LCC中的Bergeron模型；

S3、设置10种短路故障，分别为A相接地短路、B相接地短路、 C相接地短路、AB相接地短路、BC相接地短路、AC相接地短路、AB 相间短路、BC相间短路、AC相间短路以及ABC三相接地短路；10 种短路分别简记为：A-G、B-G、C-G、AB-G、BC-G、AC-G、AB、BC、 AC以及ABC-G；

S4、依次改变S2中搭建好的仿真模型的故障类型、故障电源初始角、过渡阻抗以及故障距离，并同时采集故障三相电压和三相电流，对采集后的三相电压和三相电流进行数据转换成MATLAB的数据形式，进行数据处理，形成一个小样本，样本大小为1000×6，一直重复上述的工作，直到采集完所有故障情况下的三相电压和三相电流，最终形成一个大样本大小为9600×1000×6；

S5、将S4中所得的大样本随机划分成训练样本和测试样本，训练样本大小为：7680×1000×6，测试样本大小为：7680×1000×6，并针对训练样本和测试样本制作标签即目标值，按照不同的故障类型制作不同的样本目标值；

S6、使用MATLAB仿真平台编写深度学习程序，由于该发明选择的是卷积神经网络，搭建CNN的框架，包括将训练样本导入到深度学习程序中进行训练，通过对训练参数的调整，完成训练过程，并显示训练误差和训练时间。导入测试样本，通过测试样本观察卷积神经网络识别输电线路故障类型的误差率；

S7、对CNN网络结构及参数进行优化，在样本数一定的情况下，网络结构会影响到故障类型识别的错误率，比如卷积层和池化层的个数、卷积层的卷积面的个数、池化层的维度等均会影响故障类型识别的错误率；改变这些参数对网络进行调优；

S8、选择ELU激活函数，通过训练样本训练后得到较小的训练误差，并通过测试样本对网络进行故障类型识别准确率验证。

与现有技术相比，本发明的有益效果为：

1、本发明在输电线路故障类型识别方面，现有的人工智能算法还未出现深度学习算法，本发明首次将深度学习算法应用于该领域。

2、本发明使用了EMTP电力系统专业软件搭建仿真模型，并在 MATLAB实验仿真平台实现算法程序的运行和调试。

3、本发明在该算法的应用中，对CNN的层级结构及相关参数进行了优化，降低了训练误差，提高了故障类型识别的精确率，以及提高识别的效率。

4、本发明对CNN进行了改进，对激活函数进行了相关改进，在研究Sigmoid激活函数函数和ReLU激活函数的基础上，提出了ELU 激活函数，该激活函数减小了训练误差，提高了输电线路故障类型识别的精度。

附图说明

图1为本发明的卷积神经网络CNN的结构示意图。图2为本发明的卷积神经网络CNN的输入层的数据处理过程图：(a)为起始数据图；(b)去均值后的数据图；(c)归一化处理的数据图。

图3为本发明的卷积神经网络CNN的卷积层示意图。

图4为本发明的卷积神经网络CNN的池化层示意图。

图5为本发明电力系统电磁暂态仿真软件EMTP搭建的仿真模型。

图6为本发明采集的电力系统电磁暂态仿真软件EMTP搭建的仿真模型的三相短路电压波形图。

图7为本发明采集的电力系统电磁暂态仿真软件EMTP搭建的仿真模型的三相短路电流波形图。

图8为本发明的卷积神经网络CNN的故障类型对应的分类结构对应关系图。

图9为本发明的Matlab生成的训练数据。

图10为本发明的Matlab生成的仿真结果图。

图11为本发明的Matlab训练结束及训练误差图。

图12为不同卷积神经网络CNN结构的训练结果对比图。

图13为卷积神经网络CNN的不同卷积核的训练结果对比图。

图14为卷积神经网络CNN的不同批次的训练结果对比图。

图15为卷积神经网络CNN的不同学习率的训练结果对比图。

图16为卷积神经网络CNN的不同激活函数的训练结果对比图。

图17为使用电力系统电磁暂态仿真软件EMTP搭建仿真模型进行仿真、数据采集、数据转换以及数据过程图。

具体实施方式

下面结合具体实施例对本发明作进一步描述，在此发明的示意性实施例以及说明用来解释本发明，但并不作为对本发明的限定。

本实施例的一种基于卷积神经网络的输电线路故障类型识别方法，包括以下步骤：

S1、选择卷积神经网络CNN进行训练；

如图1所示，卷积神经网络CNN由数据的输入层、卷积层、降采样层、光栅化层、全连接层以及输出层构成。

1)输入层

输入层主要完成数据预处理工作，如将原始数据进行去均值、归一化等，去均值是把输入数据各个维度都中心化到0，避免数据过多偏差，若原始数据为v_i，总数量为N，去均值后的值为：

u_i＝v_i-(Σv_i)/N (1)

数据归一化处理是数据挖掘的一项基本工作，评价指标会影响数据处理的过程，这样的情况会影响数据分析的结构。为了能够降低指标的影响，待分析的信号就要完成归一化处理，待分析的信号在归一化完成后，指标才会位于相同的数量级。归一化方法具有两种，一种是线性函数的归一化，是对原始数据的线性变换，使结果值映射到[0～1] 之间。其中x为输入起始数据，x_max表示的是在该样本中最大的数据值，x_min表示的是该样本中最小的数据值。归一化形式如下：

另一种归一化是0均值归一化，归一化完成后，待处理的信号将会变成均值是0、方差是1的数据集，转换函数为：

式中，μ表示的是原始信号的平均值，σ表示的是原始信号数据的标准差。

图2中(b)就是去均值后的效果图，图2中(c)是归一化完成之后的数据图。

(2)卷积层

卷积层相当于滤波层，卷积核相当于滤波器，示意图如图3所示：

卷积层相当于滤波层，卷积核相当于滤波器，如果输入层和输出层之间全连接，会造成很大的权值参数，卷积层局部感知的功能能够很大程度减少权值参数，如果将图像表示为P＝f(x,y)，其中f(x,y)为P 中的位于坐标(x,y)位置的灰度值，P的像素为M×N。卷积核表示为 k(x,y)，大小为a×b，表示图像任何一点参与运算的领域的大小为a×b， C(s,t)为图像P与卷积核k卷积后的矩阵，运算表达式如式(4)所示:

式中，s与t的取值范围是1≤s≤M-a+1，1≤t≤N-b+1。

卷积运算类似于滤波的过程，即采用事先定义好的卷积核在图像上进行滑动，卷积核滑到的部分与原图中的数据进行相乘，总体再进行相加，相加的结果会形成一个新的矩阵，如图1，这个过程就为卷积过程。卷积具有自己的优势，在某种程度上，不仅可以使原信号特征更加突出，同时又可降低不良噪音。卷积运算的结果经过非线性变换得到这一层的特征图，非线性变换函数通常是sigmoid函数，有些文献也称作激励函数，其函数表达式为：

CNN的卷积层一般可写为：

式中，l表示的是本层网络的层级数，k_ij表示的是卷积核的权值矩阵，M_j为输入特征图的一个集合，b_j为卷积层中每个特征对应的一个偏置项。X_j-1表示上一层的输出，X_j表示当前层的输出。

(3)降采样(池化)层

CNN的池化层的作用是对前一层的信号完成缩放映射，池化完成后，数据维度会大大降低，同时还可以防止过拟合。池化通常分为均值池化和最大值池化，一般采用均值池化，如图4所示：

输入、输出和池化矩阵维度满足m＝n/k。S层的作用类似于模糊滤波器，能够再次进行特征提取，其神经元计算方法如公式(1)所示：

式中，k为池化矩阵维度。

(4)全连接层

全连接层位于CNN的末尾位置，是用来分类的，这一层实际上构成一个普通的多层前馈神经网络。池化层的输出经过初始化后进入全连接层，全连接层的激励函数可为sigmoid函数，一般多分类用的是 softmax函数，可以实现多分类，输出层输出的是一个实数向量，一般输出值不同，对应的输出值也应发生相应变换，节点对应的输出值为当前输入的概率。

(5)CNN的训练过程

反向传播需求出输出与理想目标值之间的误差，再将误差值反向传播，然后用随机梯度下降法调整网络参数。CNN的反向传播依赖损失函数或代价误差函数来调节网络参数，具体过程如下：

①训练误差的计算

CNN的代价误差函数形式如下：

式中，r为所分类的类别数，Y_k为输入样本对应的目标值的第k 维，O_k为前向训练得到的输出值的第k维。

代价误差函数用来衡量网络训练的误差，当批量输入样本时，代价函数是所有训练样本的训练误差的总和。训练样本的输出结果取决于输出层所采用的激活函数，如果采用sigmoid函数，则目标值是0 和1，如果采用tanh函数，则目标值为-1和1。

②全连接层的误差反向传播

在全连接层，用l表示特征向量层，则l+1表示输出层，x^l表示第l层的输出，W和b分别表示权值和偏置，f(.)是激活函数。

在反向传播过程中，其误差是偏置b的灵敏度，即误差对其的偏导，b的灵敏度为：

由于式(10)中从式(10)可以看出，偏置b的灵敏度以及误差E对某个节点的所有输入u的导数是相等的，这里表示为：

式中，表示每个分量进行相乘，即矩阵的点积操作。

在误差传播的过程中，首先到达的是特征向量层，特征向量层是由上一个降采样层连接而成的相量，灵敏度为：

δ^l＝W^Tδ^l+1

(12)

③卷积层的误差反向传播

计算得到特征向量层的误差后，误差进行反向传播，依次经过池化层S₄，卷积层C₃，池化层S₂，卷积层C₁。误差反向传播至池化层 S₄时，只需将误差向量重塑为误差矩阵，该误差矩阵即作为S₄层的误差。对于卷积层C₃和C₁同理可得。边长变成原来池化区域边长的倒数，即1/side，side为池化区域的边长。因此，在误差传递到卷积层时，需要将池化层的误差扩充，即将误差与side×side的1矩阵做 Kronecker乘积，定义如下所示：

设A＝(a_ij)∈C^m×n,B＝(b_ij)∈C^p×q，式(13)中的分块矩阵叫做A的 Kronecker乘积，或称A与B的直积，简记为即是一个m×n块的分块矩阵，最后是一个mp×nq阶的矩阵。

与降采样相对应，误差扩充的过程称为上采样，用函数up(.)来表示，其形式为：

④用的是平均池化，池化层的各个节点的误差敏感度也是由卷积层中对应区域的所有节点取均值得到。对于l的第j个图，可求得其误差灵敏度为：

⑤池化层的误差反向传播

对于池化层S₂，其误差是由卷积层C₃传播而来的，因此求S₂层的误差时，只需将C₃层的误差反卷积C₃层的卷积核即可。假设池化层是第l层，并且具有N个特征图，则第(l+1)层则为卷积层，且含M 个特征图。因为第(l+1)层的各个特征图不同于l层，其值大小是l层所有特征图的值与对应的卷积核做卷积之后的和，所以l层特征图的误差灵敏度为(l+1)层全部卷积核的总和。池化层l的第i个特征图，经过分析推导后，求得其误差的灵敏度如下：

⑥特征抽取层和全连接层的梯度

池化层不用计算梯度，只需计算卷积层和尾部全连接层的梯度。求卷积层的梯度，实际上就是求代价函数相对于权值和偏置的导数，由于CNN中的连接是权值共享的，因此在求其导数时，先求出其梯度，最后将这些梯度相加。对于池化层(l-1)，该层的第i个特征图需要进行一些处理，即与卷积层第j个特征图连接的权值导数为：

式中，是(l-1)层第i个特征图中与卷积核逐个进行卷积的区域，是的(u,v)项的值。

对l层中的所有特征图的节点求和，得到偏置的导数，如式(17)：

对于全连接层，若特征向量的层数用l表示，则其权值和偏置的导数分别如式(18)和(19)所示：

⑦参数更新

求得每个参数的导数之后，需要对每个参数更新，对于卷积层，其权值更新和偏置更新的表达式分别如式(20)和(21)所示，对于全连接层，更新如式(22)和(23)所示：

调整参数后，可将样本再次输入到已更新了的卷积神经网络模型中，直达网络收敛或达到指定的迭代终止条件，此时训练过程完成。

本发明使用了EMTP电力系统专业软件搭建仿真模型，并在 MATLAB实验仿真平台实现算法程序的运行和调试。

使用电力系统电磁暂态仿真软件EMTP搭建仿真模型，如图5所示，步骤如下：

(1)使用EMTP软件搭建如图5所示的仿真模型，并设置模型中的线路、电源、过度阻抗、变压器、等效电阻以及开关等参数；

(2)依次改变系统参数进行数据采集、数据转换和数据保存，比如：在F1处发生C相短路接地，过渡阻抗为100Ω，电源初相角为0度时，模型仿真、数据采集、数据转换以及数据保存如图17所示，实现了数据从EMTP软件的.ADF转换成MATLAB软件的.MAT文件；

(3)将所有故障情况依次进行仿真，然后将数据转换成MATLAB 文件并保存后，紧接着对采集到的数据进行归一化和去均值等预处理，然后形成训练样本和测试样本，最终形成的样本如图9所示；

(4)调用MATLAB中的深度学习库，打开卷积神经网络CNN库程序，并将形成的样本导入到CNN中，接下来就是进行训练和和调试。

然后，同时采集三相故障电压和电流，并导入到MATLAB中形成样本如图6和图7所示。

故障类型对应的样本的目标值如图8所示：

样本的形式有两种，一种是原始的样本，即x1＝1000×6形式，另一种是经过矩阵分块变换的样本，即x2＝100×60形式，100×60 形式的样本训练效果更佳，误差更小，所以本文研究的样本均为100 ×60的形式，将训练样本的输入数据定义成train_x＝100×60×7680，训练样本的目标值定义成train_y＝10×7680；同理将测试样本的输入数据定义成test_x＝100×60×1920，将训练样本的理想目标值定义成test_y＝10×1920。形成的样本如图9所示：

借用MATLAB仿真平台编写深度学习程序，仿真过程如下：

实验测试平台为MATLAB实验平台，添加库 DeepLearnToolbox-master，并调用CNN库进行仿真，经EMTP仿真采集到的数据形成样本导入到MATLAB中，仿真界面如图1，界面左侧表示导入的样本集，上面表示运行的程序，下面表示正在训练中，生成的仿真结果如图2，训练3000次结束的界面如图3，可以看出故障类型识别的错误率为0.3125％，并不是0.3125，从图10中的er显示也为0.0031。

本发明在该算法的应用中，对CNN的层级结构及相关参数进行了优化，降低了训练误差，提高了故障类型识别的精确率，以及提高识别的效率。

(1)对网络结构进行优化，设置结构1为6C-1S-12C-2S-12C-2S，结构2为6C-2S-12C-1S，结构3为6C-1S-12C-2S为，卷积核统一设置为3*3，均训练2000次，训练结果如图12所示：

结构1、2和3的测试样本错误率分别为90％、7.87％和9.27％，可见不同的层级结构对训练结果影响很大，本发明选择最优的网络结构2进行线路故障类型识别。

(2)对卷积核进行优化，训练结果如图13所示，图中结构1为 6C-3-2S-12C-2-1S，结构2为6C-3-2S-12C-3-1S，结构3为 6C-5-2S-12C-2-1S。从图中可以看出，在其余参数均相同的情况下，结构3即卷积核大小为5*5和2*2的训练效果较好。经过对比，本发明选择结构3的卷积核。

(3)对训练批次(Batchsize)进行优化，训练结果如下，图中分别为批次(Batchsize)为5、10以及20的训练结果，可见训练批次不影响迭代速度，仅影响迭代次数和训练误差，由图14可以观察出，批次越小迭代的次数越多，训练误差会越小，但时间越大，本发明折中考虑，选择训练批次为10。

(4)对学习率进行优化，训练结果如下，学习率1表示学习率为0.001，学习率2表示学习率为0.01，学习率3表示学习率为0.1。从图15中可以发现一些规律，即学习率并不是越小，训练效果越好，也不是越大越好，试验结果表明学习率为0.01的训练效果较佳，本发明选择学习率为0.01。

本发明对CNN进行了改进，对激活函数进行了相关改进，在研究 Sigmoid激活函数函数和ReLU激活函数的基础上，提出了ELU激活函数，该激活函数减小了训练误差，提高了输电线路故障类型识别的精度。

如图16所示，ReLU激活函数的训练结果明显优于Sigmoid激活函数，ELU激活函数的训练结果明显优于ReLU激活函数。训练1000 次后，ELU激活函数的训练误差基本接近0，而Sigmoid激活函数还在0.15处波动。

训练结果和故障类型识别总结如下表：

表1网络结构下的不同激活函数的训练结果

统一设置卷积核为5*5和2*2，每一种结构分别采用了3种激活函数进行训练，并且设置不同训练次数。训练结果可以看出，ReLU 激活函数的训练结果优于Sigmoid函数，ELU激活函数的训练结果优于ReLU函数。在CNN训练集训练结束后，用于测试的时间很短，虽然训练时间较大，但用来故障分类的时间很短，所以训练时间不会影响故障分类的效率，综合训练结果，ELU激活函数的训练效果最好，训练3000次时的训练误差为0.001291，故障类型识别的误差为 0.09223％。

本发明的技术方案不限于上述具体实施例的限制，凡是根据本发明的技术方案做出的技术变形，均落入本发明的保护范围之内。

Claims

1.一种基于卷积神经网络的输电线路故障类型识别方法，其特征在于，包括以下步骤：

S1、选择卷积神经网络CNN进行训练；

S2、使用电力系统电磁暂态仿真软件EMTP搭建仿真模型，设置系统的参数，模拟双电源输电线路模型，R1＝0.0212Ω/km；L1＝0.8881mH/km；C1＝0.0128μF/km；R0＝0.1146Ω/km；L0＝2.2901mH/km；C0＝0.0051μF/km；电压等级设成220kv，电源为50Hz，线路总长为200km，仿真时间为0～0.1s，故障时间为0.03～0.05s，故障初始角为0°，线路模型选择LCC中的Bergeron模型；

S3、设置10种短路故障，分别为A相接地短路、B相接地短路、C相接地短路、AB相接地短路、BC相接地短路、AC相接地短路、AB相间短路、BC相间短路、AC相间短路以及ABC三相接地短路；10种短路分别简记为：A-G、B-G、C-G、AB-G、BC-G、AC-G、AB、BC、AC以及ABC-G；

S4、依次改变S2中搭建好的仿真模型的故障类型、故障电源初始角、过渡阻抗以及故障距离，并同时采集故障三相电压和三相电流，将采集后的三相电压和三相电流进行数据转换成MATLAB的数据形式，进行数据处理，形成一个小样本，样本大小为1000×6，一直重复上述的工作，直到采集完所有故障情况下的三相电压和三相电流，最终形成一个大样本大小为9600×1000×6；

S6、使用MATLAB仿真平台编写深度学习程序，由于该发明选择的是卷积神经网络，搭建CNN的框架，包括将训练样本导入到深度学习程序中进行训练，通过对训练参数的调整，完成训练过程，并显示训练误差和训练时间；导入测试样本，通过测试样本观察卷积神经网络识别输电线路故障类型的误差率；

S7、CNN的层级结构及相关参数进行优化，以降低训练误差，提高故障类型识别的精确率，以及提高识别的效率，具体为：对网络结构进行优化、对卷积核进行优化、对训练批次进行优化和对学习率进行优化；