CN113961708A - 一种基于多层次图卷积网络的电力设备故障溯源方法 - Google Patents

Abstract

本发明涉及一种基于多层次图卷积网络的电力设备故障溯源方法，其技术特点是：从电力工单系统中收集电力设备的故障文本信息，并计算故障文本信息中的TF‑IDF指标和PMI指标；根据TF‑IDF指标和PMI指标构建电力工单图G(V,E)，V和E分别为节点集和边集；根据电力工单图G(V,E)构建多层图卷积网络，并训练多层图卷积网络；使用训练好的多层图卷积网络对电力工单系统中电力设备的故障文本信息进行识别，确定电力设备故障位置。本发明可以从电力工单系统的故障描述中准确预测故障位置，有效解决了基于中文文本的电力设备故障溯源问题，具有较高的鲁棒性和容错率。

Description

一种基于多层次图卷积网络的电力设备故障溯源方法

技术领域

本发明属于电力设备技术领域，涉及电力故障溯源方法，尤其是一种基于多层次图卷积网络的电力设备故障溯源方法。

背景技术

电力故障溯源指的是根据故障的表现和各种实际情况确定故障位置的过程。在实际电力系统运行过程中，故障位置一般由现场的维修工人根据设备的各种情况通过分析得出。由于上述故障分析过程对维修工人的经验和知识储备都有要求，有经验的维修工人可以在短时间内分析出电力设备的故障位置，因此人工的电力设备故障溯源依赖于维修工人的经验和知识，具有不稳定性，而且需要工人实地或者远程沟通分析，比较占用人力。

传统的自动电力故障溯源工作大多都是从电力专业角度出发，根据电力设备的各种状态信息(温度，电压，电流等)进行实时的电力设备故障监测，虽然通过这种方法监测故障往往比较准确，还可能提前预测故障，但是这种方法往往需要电力设备是智能化的，或者在变电站安装独立的传感器进行信息采集，难以大范围推广，并且对所有的设备都进行实时监测的各种硬件成本也很昂贵，因此短时间内推广的可能性不大。

在电力系统的运行过程中，有一类由报修行为产生的文本形式的缺陷描述信息，这种文本信息是已经存在于电力工单系统内的，而且这些文本中蕴含了一定量的故障信息，通过对这些文本信息的智能化分析，可以通过文本对故障部件有初步的判断。因为可能故障的部件是离散且有限的，所以可将其作为一个文本分类问题来研究，可以通过如图1所示的模型来进行分析，该模型输入是缺陷描述，输出是缺陷部件。

文本分类问题是自然语言处理领域的主要问题之一，传统的文本分类算法主要是基于统计的，通过提取文本中的共现概率，词频等统计学特征，设计算法来对文本进行分类。近年来，随着单词嵌入技术的发展和深层神经网络的广泛应用，两种典型的文本分类神经网络是递归神经网络(RNN)和卷积神经网络(CNN)。RNN包括长短时记忆(LSTM)、双向LSTM和其他变形方法，CNN衍生出深金字塔卷积神经网络(DPCNN)。此外，为了提高分类性能，注意机制已被引入该领域，作为文本分类方法的一个组成部分。此外，基于图形神经网络(GCN)的方法将文本和单词提取到图节点中，结合特定关系建立单词-文本图，并构建用于文本分类的网络模型，这种基于GCN的方法取得了良好的效果。

但是，在电力文本分析领域，传统的自然语言处理算法面临很多挑战，难点在于文本语料是电力相关的，具有高度的领域特征，即中文电力语料和通用的文本分类算法研究的中文语料的词典，用词习惯等有着很大的不同，例如，一个缺陷描述文本如：“中新#1#2线773、776组合电器空气压力低闭锁重合闸”。从中我们可以看出，在电力语料中，省略了大部分语法结构以提升文字的信息量，从而提升沟通的效率，这为电力相关文本处理任务带来了困难，并且近年来非常流行的预训练模型也无法很好地解决这个问题。

发明内容

本发明的目的在于克服现有技术的不足，提供一种设计合理、快速准确的基于多层次图卷积网络的电力设备故障溯源方法。

本发明解决现有的技术问题是采取以下技术方案实现的：

一种基于多层次图卷积网络的电力设备故障溯源方法，包括以下步骤：

步骤1、从电力工单系统中收集电力设备的故障文本信息，并计算故障文本信息中的TF-IDF指标和PMI指标；

步骤2、根据TF-IDF指标和PMI指标构建电力工单图G(V,E)，V和E分别为节点集和边集；

步骤3、根据电力工单图G(V,E)构建多层图卷积网络，并训练多层图卷积网络；

步骤4、使用训练好的多层图卷积网络对电力工单系统中电力设备的故障文本信息进行识别，确定电力设备故障位置。

进一步，所述步骤1中的TF-IDF指标用于提取故障文本信息中的关键词，该TF-IDF指标的计算方法为：首先分别计算词频、计算逆文档频率，然后通过下式计算TF-IDF指标：

TF-IDF＝TF×IDF。

进一步，所述步骤1中的PMI指标用于计算词语件的语义相似度，该PMI指标通过下式计算：

其中，P(a,b)表示两个词语a与b共同出现的概率，P(a)与P(b)分别表示两个词语单独出现的概率。

进一步，所述步骤2构建的电力工单图G(V,E)中的邻接矩阵A的构造规则为：

其中，

式中，#W(i)是包含单词i的滑动窗口的数量，#W(i,j)是包含单词i和j的滑动窗口的数量，#W是滑动窗口的总数。

进一步，所述步骤3的具体实现方法为：

首先，构建一个包括词节点和文档节点的词-文档图；

然后，初始化特征矩阵

该特征矩阵包含所有节点及其特征，特征向量的维数为m，设置X＝I，每个单词和文档都表示为一个独热向量作为输入；

式中，ρ是激活函数，

是拉普拉斯矩阵，初始化L⁽⁰⁾＝X；

设置交叉熵函数作为损失函数，该损失函数表示如下：

式中，Z为模型输出，Y为真实类别标签，Z和Y都是m维的向量，且m等于类别数目，i为训练样本的下标；

最后，使用训练样本进行多层图卷积网络训练。

进一步，所述卷积神经网络为四层卷积神经网络。

进一步，激活函数为ReLU激活函数。

本发明的优点和积极效果是：

1、本发明设计合理，其从工单系统中收集了电力设备的故障文本信息，利用词频-逆文档频率(Term Frequency–Inverse Document Frequency,TF-IDF)和点互信息(Pointwise Mutual Information，PMI)指标构建电力工单图，根据电力工单图建立了多层图卷积网络并应用于电力文本分类任务，可以从电力工单系统的故障描述中准确预测故障位置，实现溯源任务，具有较高的鲁棒性和容错率，将其集成在电力工单系统中，具有很强的应用价值。

2、本发明采用多层次图卷积电力设备故障溯源模型(Multi-layer FaultRecognition Graph Convolutional Network，MFRGCN)，可有效解决基于中文文本的电力设备故障溯源问题，可以用于电力故障文本分类任务的评价和训练。

3、本发明在收集到的数据集上进行了实验，定量地比较了本发明和国内外先进文本分类模型的效果，实验结果表明本发明在故障溯源上表现好于国内外先进的文本分类模型。

附图说明

图1为文本分类问题分析模型；

图2为本发明构建的词-文档结构图；

图3为本发明的模型工作流程图。

具体实施方式

以下结合附图对本发明实施例做进一步详述。

本发明的设计思想是：

电力设备故障溯源任务的目标是通过对各种信息的分析自动化地输出电力设备的故障部位等信息。我们通过对电力工单系统的研究认为：由于图卷积模型使用的参数较少，不容易过拟合，是一个具有很强的鲁棒性的算法，对于电力文本处理是一个很适合的模型，因此，本发明提出一种基于电力工单文本的多层次图卷积电力设备故障溯源模型(Multi-layer Fault Recognition Graph Convolutional Network，MFRGCN)，该MFRGCN通过对工单中的文本信息进行分析，利用工单中的文本信息定位电力设备的故障。具体来讲，MFRGCN通过将电力工单中的缺陷描述文本(词)和文档(工单)作为节点构建图，定义图的两种词-词边和词-文档边，从而构建图，然后在这个图上通过分类任务训练。我们将分类任务定义为将文档分类到故障部件中，从而将电力设备故障溯源任务转化为文本分类任务。

基于上述设计思想，本发明提出一种基于多层次图卷积网络的电力设备故障溯源方法，如图3所示，包括以下步骤：

步骤1、从电力工单系统中收集电力设备的故障文本信息，并计算故障文本信息中的TF-IDF指标和PMI指标。

在本步骤中，通过TF-IDF(词频-逆文档频率)提取故障文本信息中的关键词。

TF-IDF是一种用于信息检索与数据挖掘的常用加权技术，常用于挖掘文章中的关键词。TF-IDF有两层意思，一层是"词频"(Term Frequency，缩写为TF)，另一层是"逆文档频率"(Inverse Document Frequency，缩写为IDF)。

通过TF可以将文档中最常见但对结果毫无帮助、需要的词过滤掉。当高频词过滤后就只需考虑剩下的有实际意义的词。

通过IDF可以给常见的词较小的权重，其大小与一个词的常见程度成反比。

当有TF和IDF后，将这两个词相乘，就能得到一个词的TF-IDF的值。某个词在文档中的TF-IDF越大，那么一般而言这个词在文档中的重要性会越高，所以通过计算文档中各个词的TF-IDF，由大到小排序，排在最前面的几个词，提取文档中的关键词。

在本步骤中，TF-IDF指标的计算方法包括以下步骤：

(1)计算词频：

词频(TF)＝某个词在文档中出现的次数，考虑到文档有长短之分，为了便于不同文档的比较，进行"词频"标准化。

其中w_freq为文档中词w的出现次数，sum为该文档中词语总数。

(2)计算逆文档频率：

这时，需要一个语料库(corpus)，用来模拟语言的使用环境。

其中filenum为文档总数，分母为包含该词的文档数量+1。如果一个词越常见，那么分母就越大，逆文档频率就越小越接近0。分母之所以要加1，是为了避免分母为0(即所有文档都不包含该词)。

(3)计算TF-IDF：

TF-IDF＝TF×IDF (3)

可以看到，TF-IDF与一个词在文档中的出现次数成正比，与该词在整个语言中的出现次数成反比。所以，自动提取关键词的算法就很清楚了，就是计算出文档的每个词的TF-IDF值，然后按降序排列，取排在最前面的几个词。

TF-IDF具有简单快速、容易理解的特点。

在本步骤中，采用PMI(点间互信息)计算词语间的语义相似度。其基本思想是统计两个词语在文本信息中同时出现的概率，如果概率越大，其相关性就越紧密，关联度越高。两个词语的PMI值计算公式如下式所示：

其中，P(a,b)表示两个词语a与b共同出现的概率，即a与b共同出现的文档数，P(a)与P(b)分别表示两个词语单独出现的概率，即词语出现的文档数。若两个词语在数据集的某个小范围内共现概率越大，表明其关联度越大；反之，关联度越小。P(a,b)与P(a)P(b)的比值是a与b两个词语的统计独立性度量。其值可以转化为3种状态：

PMI(a,b)>0：两个词语是相关的；值越大，相关性越强。

PMI(a,b)＝0：两个词语是统计独立的，不相关也不互斥。

PMI(a,b)<0：两个词语是不相关的，互斥的。

步骤2、根据TF-IDF指标和PMI指标构建电力工单图G(V,E)。

在本步骤中，使用数据集构建G(V,E)，其中V和E分别为图中的节点集和边集，该图是根据TF-IDF指标和PMI指标进行构建的。该图的邻接矩阵A的构造规则如下：

此处PMI值计算规则定义如下：

其中#W(i)是包含单词i的滑动窗口的数量，#W(i,j)是包含单词i和j的滑动窗口的数量，#W是滑动窗口的总数。我们使用固定尺寸为15的滑动窗口。如果PMI值为正值，则表示对应的单词高度相关。然后我们在它们之间添加一条边到图中。否则，相应的单词之间没有边相连。

步骤3、根据电力工单图G(V,E)构建多层图卷积网络，并训练多层图卷积网络(GCN)。

在本步骤中，首先构建一个词-文档图，其中包含词节点和文档节点，如图2所示，图中圆圈节点是文档节点，其他节点是词节点，圆圈节点和方框节点之间的实线边是词-文档边，方框节点之间的虚线边是词之间的边，最右边的四个圆圈是文档类别(仅显示四个示例类)。

初始化特征矩阵

该矩阵包含所有节点及其特征，特征向量的维数为m。我们设置X＝I，即单位矩阵。这意味着每个单词和文档都表示为一个独热向量作为输入。

ρ是激活函数，通常被设置为ReLU激活函数。

是拉普拉斯矩阵，并且我们初始化L⁽⁰⁾＝X。我们在卷积神经网络中堆叠了四层。我们设置交叉熵函数作为损失函数，即：

其中Z为模型输出，Y为真实类别标签。Z和Y都是m维的向量，且m等于类别数目，此处的i为训练样本的下标。

步骤4、使用训练好的多层图卷积网络对电力工单系统中电力设备的故障文本信息进行识别，确定电力设备故障位置。

需要强调的是，本发明所述的实施例是说明性的，而不是限定性的，因此本发明包括并不限于具体实施方式中所述的实施例，凡是由本领域技术人员根据本发明的技术方案得出的其他实施方式，同样属于本发明保护的范围。

Claims (7)

1.一种基于多层次图卷积网络的电力设备故障溯源方法，其特征在于：包括以下步骤：

步骤1、从电力工单系统中收集电力设备的故障文本信息，并计算故障文本信息中的TF-IDF指标和PMI指标；

步骤2、根据TF-IDF指标和PMI指标构建电力工单图G(V,E)，V和E分别为节点集和边集；

步骤3、根据电力工单图G(V,E)构建多层图卷积网络，并训练多层图卷积网络；

步骤4、使用训练好的多层图卷积网络对电力工单系统中电力设备的故障文本信息进行识别，确定电力设备故障位置。

2.根据权利要求1所述的一种基于多层次图卷积网络的电力设备故障溯源方法，其特征在于：所述步骤1中的TF-IDF指标用于提取故障文本信息中的关键词，该TF-IDF指标的计算方法为：首先分别计算词频、计算逆文档频率，然后通过下式计算TF-IDF指标：

TF-IDF＝TF×IDF。

3.根据权利要求1所述的一种基于多层次图卷积网络的电力设备故障溯源方法，其特征在于：所述步骤1中的PMI指标用于计算词语件的语义相似度，该PMI指标通过下式计算：

其中，P(a,b)表示两个词语a与b共同出现的概率，P(a)与P(b)分别表示两个词语单独出现的概率。

4.根据权利要求1所述的一种基于多层次图卷积网络的电力设备故障溯源方法，其特征在于：所述步骤2构建的电力工单图G(V,E)中的邻接矩阵A的构造规则为：

其中，

式中，#W(i)是包含单词i的滑动窗口的数量，#W(i,j)是包含单词i和j的滑动窗口的数量，#W是滑动窗口的总数。

5.根据权利要求1所述的一种基于多层次图卷积网络的电力设备故障溯源方法，其特征在于：所述步骤3的具体实现方法为：

首先，构建一个包括词节点和文档节点的词-文档图；

然后，初始化特征矩阵

该特征矩阵包含所有节点及其特征，特征向量的维数为m，设置X＝I，每个单词和文档都表示为一个独热向量作为输入；

式中，ρ是激活函数，

是拉普拉斯矩阵，初始化L⁽⁰⁾＝X；

设置交叉熵函数作为损失函数，该损失函数表示如下：

式中，Z为模型输出，Y为真实类别标签，Z和Y都是m维的向量，且m等于类别数目，i为训练样本的下标；

最后，使用训练样本进行多层图卷积网络训练。

6.根据权利要求5所述的一种基于多层次图卷积网络的电力设备故障溯源方法，其特征在于：所述卷积神经网络为四层卷积神经网络。

7.根据权利要求5所述的一种基于多层次图卷积网络的电力设备故障溯源方法，其特征在于：激活函数为ReLU激活函数。

Images