CN112070720A - 一种基于深度学习模型的变电站设备缺陷识别方法 - Google Patents

Abstract

本发明公开了一种基于深度学习模型的变电站设备缺陷识别方法，包括如下步骤：S1：建立缺陷识别库；S2：构建深度学习模型；S3：模型训练；S4：试验验证。本发明通过分析缺陷种类族谱，构建电网设备典型缺陷识别库，并通过预处理对缺陷图像进行增强，再结合图像识别技术构建电网设备缺陷深度学习模型，实时滚动分析变电站摄像头和检修巡检过程中移动化终端上传的设备细节图片，识别设备缺陷并作分类。实验证明本发明提出的基于深度学习模型的缺陷识别技术对异物覆盖、端子排温度异常、线缆虚接等缺陷的识别率达到了95%，消除了电网设备运行隐患，提高了设备可靠性和电网运维自动化水平。

Description

一种基于深度学习模型的变电站设备缺陷识别方法

技术领域

本发明属于电网检修领域，特别涉及一种基于深度学习模型的变电站设备缺陷识别方法。

背景技术

随着电网规模的不断扩大，繁多复杂的一二次设备隐患极大的影响了电网运行的可靠性，而全靠巡检和检修过程中一线工作人员去主动发现和识别，其工作量异常巨大，基本不太可能完成；且一线工作人员技术水平和工作经验良莠不齐，加之人员不可避免的存在遗漏和疏忽等因素，因此，急需一种新的技术手段解决规模日益扩大的变电站设备缺陷发现和鉴别，提升变电站运维自动化水平和电网运行可靠性。

深度学习是一种深层次的人工神经网络。神经网络算法是模拟人脑处理信息的过程的一种算法，建立在生物学、神经科学、数学、统计学、计算机、物理学学科之上。人们将深度学习用于图像识别与分类领域，其主要应用的就是深度的卷积神经网络，用网络来学习图像的特征，然后再用训练好的网络去识别没有没见过的图像，就跟人学习知识以后去解决问题一样。

传统电网例行检修和巡检过程中，缺陷的发现和鉴别分类都是由人完成，存在遗漏疏忽和效率低下等问题。

发明内容

本发明所要解决的技术问题是提供一种基于深度学习模型的变电站设备缺陷识别方法，该方法代替人工发现和鉴别设备缺陷，自动定位设备隐患，提高变电站运维自动化水平和电网运行安全。

为解决上述问题，本发明所采取的技术方案是：

一种基于深度学习模型的变电站设备缺陷识别方法，包括如下步骤：

步骤S1：建立缺陷识别库；

步骤S2：构建深度学习模型；

步骤S3：模型训练；

步骤S4：试验验证；

作为本发明的进一步改进，

所述步骤S1中缺陷识别库的建立过程如下：

步骤S11：总结归纳电网长期运行以来各类设备缺陷在不同类型变电站、不同电压等级和不同设备类型上的表现，建立变电站设备缺陷种类族谱；

步骤S12：根据步骤S11建立的变电站设备缺陷种类族谱，通过既往缺陷报告分析、变电站视频截取、现场图像采集和网络爬虫手段获取变电站典型缺陷的图像信息；

步骤S13：对步骤S12获取的图像信息进行预处理，形成缺陷分种类数据集。

作为本发明的进一步改进，所述步骤S13中预处理的方法包括裁剪、镜像、旋转、缩放、添加噪音、改变色调、阻挡部分和模糊数据增强技术手段。

作为本发明的进一步改进，所述步骤S2中深度学习模型的构建过程为：在传统神经网络基础上加入卷积层和池化层，降低输入数据处理维度，建立以卷积神经网络为基础的变电站缺陷识别深度学习模型。

作为本发明的进一步改进，

降低输入数据处理维度的方法为局部连接、权值共享和池化。

作为本发明的进一步改进，

所述卷积神经网络包输入层、卷积层、池化层和输出层。

作为本发明的进一步改进，

所述步骤S3中模型训练过程如下：

步骤S31：采用变体Adam算法，通过自适应学习率来进行梯度更新，进行模型训练；

步骤S32：使用测试集top(k)的准确率评价模型。

作为本发明的进一步改进，

所述变体Adam算法为梯度下降法的变体Adam算法。

作为本发明的进一步改进，

所述步骤S4中试验验证过程为：通过采集新的变电站设备图片，采用AlexNet卷积网络模型，验证数据增强对解决过拟合问题的有效性，发现缺陷和识别缺陷的种类。

作为本发明的进一步改进，

所述AlexNet卷积网络模型采用Google开源的TensorFlow框架实现。

采用上述技术方案所产生的有益效果在于：

本发明首先根据缺陷的种类分析建立了缺陷族谱；然后通过数据增强方法对原始缺陷识别库进行扩展；接着介绍了基于深度学习的缺陷识别模型，给出了模型的评估方法；最后通过使用TensorFlow框架实现的AlexNet网络模型在原始缺陷识别库和增强后的缺陷识别库上进行训练、测试和验证分析。该方法可有效用于变电站设备检修巡检过程中的缺陷发现和缺陷鉴别，自动定位设备隐患，提高变电站运维自动化水平和电网运行安全。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是卷积示意图；

图2是激活函数图；

图3是池化示意图；

图4是神经网络图；

图5是AlexNet模型结构图。

具体实施方式

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本申请及其应用或使用的任何限制。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

需要注意的是，这里所使用的术语仅是为了描述具体实施方式，而非意图限制根据本申请的示例性实施方式。如在这里所使用的，除非上下文另外明确指出，否则单数形式也意图包括复数形式，此外，还应当理解的是，当在本说明书中使用术语“包含”和/或“包括”时，其指明存在特征、步骤、操作、器件、组件和/或它们的组合。

除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本申请的范围。同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为授权说明书的一部分。在这里示出和讨论的所有示例中，任何具体值应被解释为仅仅是示例性的，而不是作为限制。

因此，示例性实施例的其它示例可以具有不同的值。应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

在本申请的描述中，需要理解的是，方位词如“前、后、上、下、左、右”、“横向、竖向、垂直、水平”和“顶、底”等所指示的方位或位置关系通常是基于附图所示的方位或位置关系，仅是为了便于描述本申请和简化描述，在未作相反说明的情况下，这些方位词并不指示和暗示所指的装置或元件必须具有特定的方位或者以特定的方位构造和操作，因此不能理解为对本申请保护范围的限制；方位词“内、外”是指相对于各部件本身的轮廓的内外。

如图1-5所示，

一种基于深度学习模型的变电站设备缺陷识别方法。包括如下步骤：

步骤S1：建立缺陷识别库，具体包括以下步骤：

步骤S11：总结归纳电网长期运行以来各类设备缺陷在不同类型变电站、不同电压等级、不同设备类型上的表现，建立变电站设备缺陷种类族谱。

步骤S12：根据缺陷族谱，通过既往缺陷报告分析、变电站视频截取、现场图像采集、网络爬虫等手段获取变电站典型缺陷的图像信息。

步骤S13：对步骤S12获取的图形信息进行预处理，形成缺陷分种类数据集。

所述预处理方法包括裁剪、镜像、旋转、缩放、添加噪音、改变色调、阻挡部分、模糊等数据增强技术手段。

步骤S2：构建深度学习模型，具体包括以下步骤：在传统神经网络基础上加入卷积层和池化层，通过局部连接、权值共享和池化等技术手段降低输入数据处理维度，提升处理效率，建立以卷积神经网络为基础的变电站缺陷识别深度学习模型。

所述卷积神经网络包输入层、卷积层、池化层、输出层。

输入层

输入层作为卷积神经网络的第一层，主要为了读取图像数据，将原始图像转换为对应的张量，并且将每张图像的尺寸都设置成一个固定值。

卷积层

卷积层的作用在于图像特征的提取。卷积核的实质是一个滤波器矩阵，可以通过其作用到原始图像上产生很多不同的效果。卷积过程如图1所示：即对原始图像和卷积核进行逐个元素的相乘再求和。一般来说，卷积核的尺寸小于原始图像的尺寸，所以求解过程中，卷积核类似于在原始图像上沿着从左到右、从上到下的方向“滑动”。每次滑动的距离在卷积操作中称作步长。卷积的计算过程如下式所示：

式中，x_i表示卷积神经网络第i层的特征图，k_i表示第i层卷积核，一般是一个张量，b_i表示第i层的偏置向量，

表示卷积运算，卷积是两个张量在某范围内加权求和的结果，act(x)表示激活函数，常见的激活函数有sigmoid、tanh、ReLu以及LeakyReLu等：sigmoid函数：如图2子图(a)，数学表达式为：

tanh函数：如图2子图(b)，数学表达式为：

ReLu函数：如图2子图(c)，数学表达式为：

f(x)＝max(0,x)

LeakyReLu函数：如图2子图(d)，数学表达式为：

式中，α是一个很小的常数。

池化层

池化层即下采样层。池化过后减小了原特征图的尺寸，但同时不会过多的丢失原特征图的信息，所以在一定程度上提高了整个网络运算的效率。并且，池化操作在一定范围内保证了平移不变性。假设规模为，池化运算就是将该区域的4个数按照一定的规则计算得出一个值。常见的池化运算有以下几种：

(1)最大池化(Max Pooling)：取4个点的最大值，这是最常用的池化方法；

(2)均值池化(Mean Pooling)：取4个点的均值；

(3)随机池化(Random Pooliing)：在4个点中随机取一个值。

以最大池化为例，其运算过程如图3所示。

输出层

神经网络是模拟神经元的工作模式建立的，神经元的工作方式是得到输入的信息，然后经过函数运算，最后得到输出结果。输入为x₁,x₂,x₃...，然后经过神经元内自带函数计算f(x)，然后再加上偏差得到输出y＝h_w,b(x)，w表示权重，b表示偏差。

像大脑神经连接一下，将多个神经元连在一起形成一层，多构建几层后，就形成了神经网络模型，如图4所示，其对应公式为：

其中W为weight权重，b为bias误差，以上公式表示的是一层隐含层，也可以扩展为多层的隐藏层。

采用softmax对上式进行归一化，得到结果如下：

式中，w₁,w₂,...,w_n表示神经元的权重，b₁,b₂,...,b_n表示神经元的偏置，输出的是一个n行1列的向量，n代表n中类别，通过softmax函数计算过后每一行的数值代表图像属于该行对应类别的概率值。表示上层神经元的输出。

在分类任务中，使用交叉熵损失函数来评估真实值与预测值之间的差距，交叉熵公式如下：

式中，m表示一批输入网络的样本数，n表示类别数，y_ji表示真实的标签，

表示预测的标签。

步骤S3：模型训练，具体包括以下步骤：

步骤S31：采用梯度下降法的变体Adam算法，通过自适应学习率来进行梯度更新，进行模型训练。

步骤S32：使用测试集top(k)的准确率评价模型的好坏。

步骤S4：试验验证，具体包括以下步骤：通过采集新的变电站设备图片，采用Google开源的TensorFlow框架实现的图5所示的AlexNet卷积网络模型，验证数据增强对解决过拟合问题的有效性，发现缺陷和识别缺陷的种类。

图5中蓝色矩形块代表的是卷积层，红色矩形块代表的是最大池化层，绿色代表局部响应归一化(LRN，Local Response Normalization)，AlexNet的模型结构如下：

1、输入层Input：输入层输入一个227×227×3的RGB彩色图像；

2、卷积层Conv1：使用96个11×11×3的卷积核对原始图像进行卷积操作，步长为4×4，当超出图像边界时，不补0，称这个不补0的卷积操作形式为VALID，形式为：

W₁＝cell((W-F+1)/S)

式中，W为输入图像的尺寸，F为卷积核的尺寸，S为步长，cell表示向上取整函数。另一种卷积操作形式为SAME，其形式为：

W₁＝cell(F/S)

经过第一个卷积层计算后，得到特征图尺寸为55×55×96。接下来是一个LRN层，LRN层的作用主要是为了在训练时提高模型的准确率。计算后的特征图尺寸不变；

3.池化层Pool1：对Conv1层得到的特征图从左到右，从上到下进行最大化池化，尺寸为3×3，步长为2×2，池化后的尺寸计算公式跟卷积操作的计算公式类似，池化后的特征图尺寸为27×27×96；

4、卷积层Conv2：使用256个5×5×96的卷积核对上层计算后的特征图进行卷积操作，步长为1×1，计算后的尺寸为27×27×256。同样，第二个卷积层后添加了一个LRN层，计算后尺寸不变；

5、池化层Pool2：最大化池化尺寸为3×3，步长为2×2，池化后尺寸为13×13×256；

6、卷积层Conv3：使用384个3×3×256的卷积核对上层计算后的特征图进行卷积操作，步长为1×1，计算后尺寸为13×13×384；

7、卷积层Conv4：使用384个3×3×384的卷积核对上层计算后的特征图进行卷积操作，步长为1×1，计算后尺寸为13×13×384；

8、卷积层Conv5：使用256个3×3×384的卷积核对上层计算后的特征图进行卷积操作，步长为1×1，计算后尺寸为13×13×256；

9、池化层Pool5：最大化池化尺寸为3×3，步长为2×2，池化后尺寸为6×6×256；

10、全连接层fc6：全连接层输入6×6×256个神经元，输出4096个神经元；

11、全连接层fc7：全连接层输入4096个神经元，输出4096个神经元；

12、全连接层fc8：全连接层输入4096个神经元，输出12个神经元，也即最终的缺陷种类数12。

使用AlexNet模型在缺陷识别库上进行训练和测试，同时为了验证数据增强对解决过拟合问题的有效性，也使用AlexNet模型在数据增强后的数据集上进行训练和测试，AlexNet网络模型在原始缺陷特征库上识别的准确率大致在79％左右，初步分析是数据量过少，导致训练过拟合了，所以泛化能力很低；采用增强数据集后，模型准确率大幅提升，基本达到了95％，这也可以说明数据增强对解决模型的过拟合问题确实起了很大的作用。

最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；作为本领域技术人员对本发明的多个技术方案进行组合是显而易见的。而这些修改或者替换，并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围。

Claims (10)

1.一种基于深度学习模型的变电站设备缺陷识别方法，其特征在于，包括如下步骤：

步骤S1：建立缺陷识别库；

步骤S2：构建深度学习模型；

步骤S3：模型训练；

步骤S4：试验验证。

2.根据权利要求1所述的一种基于深度学习模型的变电站设备缺陷识别方法，其特征在于，所述步骤S1中缺陷识别库的建立过程如下：

步骤S11：总结归纳电网长期运行以来各类设备缺陷在不同类型变电站、不同电压等级和不同设备类型上的表现，建立变电站设备缺陷种类族谱；

步骤S12：根据步骤S11建立的变电站设备缺陷种类族谱，通过既往缺陷报告分析、变电站视频截取、现场图像采集和网络爬虫手段获取变电站典型缺陷的图像信息；

步骤S13：对步骤S12获取的图像信息进行预处理，形成缺陷分种类数据集。

3.根据权利要求2所述的一种基于深度学习模型的变电站设备缺陷识别方法，其特征在于，所述步骤S13中预处理的方法包括裁剪、镜像、旋转、缩放、添加噪音、改变色调、阻挡部分和模糊数据增强技术手段。

4.根据权利要求1所述的一种基于深度学习模型的变电站设备缺陷识别方法，其特征在于，所述步骤S2中深度学习模型的构建过程为：在传统神经网络基础上加入卷积层和池化层，降低输入数据处理维度，建立以卷积神经网络为基础的变电站缺陷识别深度学习模型。

5.根据权利要求4所述的一种基于深度学习模型的变电站设备缺陷识别方法，其特征在于，降低输入数据处理维度的方法为局部连接、权值共享和池化。

6.根据权利要求4所述的一种基于深度学习模型的变电站设备缺陷识别方法，其特征在于，

所述卷积神经网络包输入层、卷积层、池化层和输出层。

7.根据权利要求1所述的一种基于深度学习模型的变电站设备缺陷识别方法，其特征在于，所述步骤S3中模型训练过程如下：

步骤S31：采用变体Adam算法，通过自适应学习率来进行梯度更新，进行模型训练；

步骤S32：使用测试集top(k)的准确率评价模型。

8.根据权利要求7所述的一种基于深度学习模型的变电站设备缺陷识别方法，其特征在于，所述变体Adam算法为梯度下降法的变体Adam算法。

9.根据权利要求1所述的一种基于深度学习模型的变电站设备缺陷识别方法，其特征在于，所述步骤S4中试验验证过程为：通过采集新的变电站设备图片，采用AlexNet卷积网络模型，验证数据增强对解决过拟合问题的有效性，发现缺陷和识别缺陷的种类。

10.根据权利要求9所述的一种基于深度学习模型的变电站设备缺陷识别方法，其特征在于，所述AlexNet卷积网络模型采用Google开源的TensorFlow框架实现。

Images