CN108460136A - 电力运维信息知识图谱构建方法 - Google Patents

Abstract

本发明提出一种电力运维信息知识图谱构建方法，将深度学习算法引入到电力领域知识图谱的构建中，釆用命名实体识别和实体关系抽取这两大机器学习的任务来解决知识单元抽取和知识单元关系抽取这两个难题。本发明提高了电力数据的有效利用，发挥数据隐藏的价值，提高电网的智能化应用水平，基于知识图谱的知识表示，将改变过去低维度、相互孤立的信息展现方式，更加直观呈现电力知识之间的关联性。构建电力信息运维系统知识库，将历史运维数据转化为知识，支持用户在线自主咨询和解决问题，实现智能问答，提高运维效率，在电网运维工作中将发挥重要价值，并在此基础上完成电力信息运维领域知识图谱优化存储技术。

Description

电力运维信息知识图谱构建方法

技术领域

本发明属于电力运维管理领域，尤其涉及一种电力运维信息知识图谱构建方法。

背景技术

当前的电力运维客服系统每天都在面临着来自各方的海量的客户的心声，企业和个人用户通过微信公众号、微博、掌上电力APP、95598智能互动网站等各种渠道进行业务咨询、故障保修、投诉、举报、建议、意见及表扬、电网信息、政策订阅等，对服务提供及消费提出了更高的要求，需要及时、准确洞察客户的心声，以最短时间、以最好的服务满足客户的需求；同时客户要求更友好、方便、快捷的使用我们所提供的服务。为此，需要通过不断提升信息支撑服务，改进客户服务体系来提高客户服务质量和效率，然而在互联网发展的时代，传统的呼叫中心客服系统需要大量的人力和物力。

国网信通部于2015年下达了关于开展信息系统运行管理水平提升活动，提出了切实提升运行管理水平的要求，信息系统需按照“两级调度、三层检修、一体化运行、统一的客户服务和信息技术三线支持中心”模式，开展信息运维工作，由此积累了大量的运维工单数据。随着大众对电力生产可靠性要求的不断提高，国网公司对供电服务质量也有较高的要求标准。如何不断提高电力信息运维人员的业务素质，在生产中如何快速、准确的处理信息系统运维问题，在日常生产中如何快速查找定位缺陷防范于未然，是电力生产技术和管理者的诉求。

面向电力行业构建公共知识图谱存在很多的技术难点，如运维知识的分析较弱，数据资源价值体现整体停留在粗放型阶段，没有将数据资源有效转化为知识资产，以及没有形成知识良性循环、对业务需求的支撑能力和对管理变革的推动能力较弱等问题，这些都阻碍了电力运维知识图谱的组织与构建。尤其是公司的一单两票系统存在大量的可利用数据，可被有效挖掘和利用，为构建运检修知识图谱提供基础数据及理论依据。

发明内容

针对现有技术存在的问题和空白，本发明采用以下技术方案：

一种电力运维信息知识图谱构建方法，其特征在于，包括以下步骤：

步骤1：对电力系统工单数据进行工单采集，并转换为文本格式，并根据文本含义属性划分为多个文本域；

步骤2：以工单为单位，对工单文本数据进行分词处理；

步骤3：对文本域进行分组；

步骤4：对各文本域分别进行域分词处理，采用基于字符串匹配的分词方法分别对各分组的内容进行词汇切分；

步骤5：根据无效词汇表进行无效词汇过滤，过滤掉无效词汇和敏感词汇；

步骤6：将有效词汇与知识库中词汇表进行比对，将新词汇加入到知识库的词汇列表，对己有词汇进行累加其出现的频次；

步骤7：抽取加入词汇的实体关系：通过预先定义实体关系类型及基于实体的特征，抽取实体关系；

步骤8：将实体与实体关系导入图数据库；

步骤9：在图数据库中完成知识图谱的绘制。

优选地，步骤8中，将实体和实体关系转化为基于RDF的三元组；步骤9中，通过PTransE模型将实体和实体关系进行翻译和学习，构建成为知识图谱。

优选地，步骤2和步骤4中，分词采用中科院的ICTCLAS系统；

将分词后的所有词组成字符表D，，其中表示一个词，。将每个词E的词特征向量表示为，其中代表该词是否对应字符表D中的，的计算方式如下：

。

优选地，步骤2和步骤4中，分词还包括词性特征的构建：词性特征的构建与词特征的构建方式一致。

优选地，步骤7中，釆用句法分析及词法分析将实体关系转化为特征向量，继而采用机器学习模型进行处理，计算特征向量的相似度，并对实体关系进行分类。

优选地，步骤7中，所述预先定义实体关系类型及基于实体的特征包括实体特征、实体类型特征、实体对相对位置特征、实体间距离特征和上下文窗口特征。

优选地，所述PTransE模型将知识图谱中的关系路径与关系的向量表达联系起来，将逻辑推理规则视为向量加法操作，其评分函数为：

其中，表示实体间关系路径集合，为实体间的一条路径，等价于TransE的参数模型，的计算公式为

其中是一个归一化函数，表示头实体h到尾实体t的关系路径p的可靠性；表示头实体h到尾实体t的关系路径p的势能函数；

对于路径集合，其函数如下

其中用于衡量头实体h到尾实体t的关系路径p的可靠性，即，

其中实体h到实体t的路径关系p，，从实体h通过路径关系p，将路径表示为，其中，；对于任何实体，在的关系的直接用关系来表示；首先对实体h赋予权重1，然后对函数进行不断迭代，获得t的权重。

优选地，对电力系统工单数据采用Python的urllib2包对非结构化文本数据的内容进行采集；采用BeautifulSoup包对采集的内容进行解析；采用R环境下的Rwordseg包进行分词。

优选地，所述图数据库为：Neo4j图数据库。

本发明与现有技术相比，将深度学习算法引入到电力领域知识图谱的构建中，釆用命名实体识别和实体关系抽取这两大机器学习的任务来解决知识单元抽取和知识单元关系抽取这两个难题。除此以外，本发明还将图形数据库纳入到构建知识图谱的体系中来，采用图形数据库对知识单元进行存储及展示，为知识图谱的绘制提供了一种新的方法。

本发明提高了电力数据的有效利用，发挥数据隐藏的价值，提高电网的智能化应用水平，基于知识图谱的知识表示，将改变过去低维度、相互孤立的信息展现方式，更加直观呈现电力知识之间的关联性。构建电力信息运维系统知识库，将历史运维数据转化为知识，支持用户在线自主咨询和解决问题，实现智能问答，提高运维效率，在电网运维工作中将发挥重要价值，并在此基础上完成电力信息运维领域知识图谱优化存储技术。

利用本发明构建的知识图谱，可以解决人工重复回答、人员不足等问题，能快速准确洞悉运维工单申请人的意图，并自组答案为用户解答，大幅提升运维的工作效率。

附图说明

下面结合附图和具体实施方式对本发明进一步详细的说明：

图1是本发明实施例方法主要流程示意图；

图2是基于深度学习算法的知识图谱构建流程示意图；

图3是本发明实施例在Neo4j图数据库实现及应用示意图。

具体实施方式

为让本专利的特征和优点能更明显易懂，下文特举实施例，作详细说明如下：

如图1所示，本实施方法包括以下步骤：包括以下步骤：

步骤1：对电力系统工单数据进行工单采集，并转换为文本格式，并根据文本含义属性划分为多个文本域；

步骤2：以工单为单位，对工单文本数据进行分词处理；

步骤3：对文本域进行分组；

步骤4：对各文本域分别进行域分词处理，采用基于字符串匹配的分词方法分别对各分组的内容进行词汇切分；

步骤5：根据无效词汇表进行无效词汇过滤，过滤掉无效词汇和敏感词汇；

步骤6：将有效词汇与知识库中词汇表进行比对，将新词汇加入到知识库的词汇列表，对己有词汇进行累加其出现的频次；

步骤7：抽取加入词汇的实体关系：通过预先定义实体关系类型及基于实体的特征，抽取实体关系；

步骤8：将实体与实体关系导入图数据库；

步骤9：在图数据库中完成知识图谱的绘制。

图2是常规的基于深度学习算法的知识图谱构建流程示意图，本实施例相对于该流程的主要创新点在于：提出了新的分词策略，并解决了实体抽取当中特征选择的问题。

在本实施例中，步骤8中，将实体和实体关系转化为基于RDF的三元组；步骤9中，通过PTransE模型将实体和实体关系进行翻译和学习，构建成为知识图谱。

步骤2和步骤4中，分词采用中科院的ICTCLAS系统；

将分词后的所有词组成字符表D，，其中表示一个词，。将每个词E的词特征向量表示为，其中代表该词是否对应字符表D中的，的计算方式如下：

。

步骤2和步骤4中，分词还包括词性特征的构建：词性特征的构建与词特征的构建方式一致。

步骤7中，釆用句法分析及词法分析将实体关系转化为特征向量，继而采用机器学习模型进行处理，计算特征向量的相似度，并对实体关系进行分类。采用这种方法构建模式集合减少了大量的人工参与，特征的提取更加简单有效。

步骤7中，预先定义实体关系类型及基于实体的特征包括实体特征、实体类型特征、实体对相对位置特征、实体间距离特征和上下文窗口特征。

具体地，

（1）实体特征

在命名实体抽取阶段，构造了词特征。这里的实体特征与命名实体识别的词特征相似，只不过将基于词的字符表改成了基于实体的字符表。加载实体特征中，字符表D存储所有的实体字符。，其中代表一个实体。每个实体对和的特征向量为。特征向量的维数为D的两倍。计算方式如下：

（2）实体类型特征

实体类型特征代表该实体属于哪个命名实体类别，如人名、机构名、地名等。对于一些特定的实体关系，实体的类别对于实体关系识别非常重要。如判断某人与某机构能否构成角色（Role）关系时，实体对必须满足有一个实体为人名类型实体，另一个实体为机构名类型实体。该特征能够描述实体对中的实体分别属于哪个类别，为实体关系的判别提供依据。

（3）实体对相对位置特征

实体对的相对位置特征能够描述该实体对里的两个实体之间的位置关系。按照常识而言，实体之间的位置关系越靠近，这两个实体越有可能存在语义关系。实体间的相对位置关系一般有三种：嵌套、相邻以及分离。其中嵌套代表某个实体嵌套在另一实体中，相邻代表两个实体之间是相邻的，没有字符相隔，分离代表两实体之间由其他字符隔开了。

（4）实体间距离特征

虽然（3）中定义了三种实体对关系，然而在这三种关系中，分离的情况是占大多数的。当两个实体之间是分离状态时，可以通过计算它们之间的距离来衡量它们分离的程度。实体间的距离特征主要计算两个实体间由多少个词隔开。

（5）上下文窗口特征

在实体关系抽取中，上下文窗口特征是一个重要的识别特征。尤其是两个实体中间的内容，往往对于抽取实体间的关系具有重要的参考价值。如“河狸家创始人孟醒”这个表述中，“河狸家”和“孟醒”分别为一个公司实体和一个人名实体。这两个实体中间的“创始人”一词就描述了这两个实体之间的关系。因此，上下文窗口特征对于实体关系抽取也有着重要意义。

在本实施例中，PTransE模型将知识图谱中的关系路径与关系的向量表达联系起来，将逻辑推理规则视为向量加法操作，其评分函数为：

其中，表示实体间关系路径集合，为实体间的一条路径，等价于TransE的参数模型，的计算公式为

其中是一个归一化函数，表示头实体h到尾实体t的关系路径p的可靠性；表示头实体h到尾实体t的关系路径p的势能函数；

对于路径集合，其函数如下

其中用于衡量头实体h到尾实体t的关系路径p的可靠性，即，

其中实体h到实体t的路径关系p，，从实体h通过路径关系p，将路径表示为，其中，；对于任何实体，在的关系的直接用关系来表示；首先对实体h赋予权重1，然后对函数进行不断迭代，获得t的权重。

对电力系统工单数据采用Python的urllib2包对非结构化文本数据的内容进行采集；采用BeautifulSoup包对采集的内容进行解析；采用R环境下的Rwordseg包进行分词。

图数据库为：Neo4j图数据库。

其中，

1）实体。每个实体或概念用一个全局唯一确定的ID来标识，称为它们的标识符。最典型的包括人名、地名、机构名等三类通用实体。对于电力信息运维领域，除了通用实体外，存在更丰富的实体，如服务器、运维系统、电网、变压器、变电站、输电线路、配网、主网等等。

2）属性一值。每个属性一值对用来刻画实体的内在特性。属性值范围包括：数值型（如工单号、电话），枚举型（如部门、单位），短文本（如工单事件标题），长文本（如工单事件详述）。

3）关系。而关系用来连接两个实体，刻画它们之间的关联。典型的关系抽取方法按照“模板生成实例抽取”的流程不断迭代直至收敛。例如，最初可以通过“X是Y的总部地址”模板抽取出（国家电网，总部地址，北京）三元组实例；然后根据三元组中的实体对“国家电网一北京”可以发现更多的匹配模板，如“Y的总部地址是X”、“X是Y的中心”等；进而用新发现的模板抽取更多新的三元组实例，通过反复迭代不断抽取新的实例与模板。还可以通过识别表达语义关系的短语来抽取实体间关系。例如，通过句法分析，可以从文本中发现“国家电网”与“北京”的如下关系：（国家电网，总部位于，北京）、（国家电网，总部设置于，北京）、以及（国家电网，将其总部建于，北京）。通过这种方法抽取出的实体间关系非常丰富而自由，一般是一个以动词为核心的短语。

在本实施例中，电力系统工单数据具体是指，“一单两票”，即：检修计划工单、工作票和操作票。通过对“一单两票”非结构化文本数据的收集。并根据这些数据中的电力实体、电力实体之间的关系以及每个电力实体的属性及属性值，建立电力运维领域知识图谱，使得该领域以外的人可以通过该领域的知识图谱了解该领域目前的行业现状、发展趋势。对采集的文本数据进行分词，词性标注，通过命名实体识别方法识别电力运维实体，再通过实体关系抽取方法抽取出实体之间的关系，将识别过后的数据存储在图数据库Neo4j中，使用图模型属性表示知识图谱，通过图形可视化技术将存储在图数据库中的数据进行应用，对知识图谱进行实体关系展示。

本实施例中采用的图数据库为：Neo4j图数据库。

其中，Neo4j支持多种方式导入数据。既可以手动导入，也可以采用CSV文件直接导入，同时，Neo4j也支持从主流关系型数据库导入数据。本实施例釆用CSV批量导入的方法将数据导入至Neo4j中。釆用CSV批量导入数据到Neo4j后，就可以采用Cypher查询数据库中存储的数据，并釆用图形化的方式展示出来。

如图3所示，具体地，

（1）数据入库；釆用批量导入的方式将抽取好的命名实体与实体关系导入至图形数据库中。

（2）釆用Cypher查询语言查询所有节点及关系即能获取整个知识图谱的全貌。

（3）釆用Cypher语言搜索所需的节点及关系信息，可以为使用者提供个性化的知识服务。

（4）采用编程的方式可以调用Neo4j的RREST API接口进一步开发知识图谱界面。

具体地，在本实施例中，由于深度学习算法的计算较为复杂，特征的维度常常达到上万级别，对计算机的资源开销极大，并且由于深度学习算法在有限样本量上也能具备较好的表征能力，在选取有限数量样本的前提下，对电力系统工单数据采用Python的urllib2包对非结构化文本数据的内容进行采集；采用BeautifulSoup包对采集的内容进行解析；

由于中文与英文在自然语言处理方面一个显著的差别是英文可以通过空格来切分单词，而中文在词的划分上是不明确的，因此在对中文进行处理时，首先需要对它进行分词。本实施例中采用R环境下的Rwordseg包进行分词，Rwordseg基于中科院的ICTCLAS中文分词算法写成，可以实现分词、多级词性标注、关键词提取等功能，还可以导入自定义的词典来进行分词。

由于实验数据来源于“国网福建电力有限公司--集中认证服务单点登录平台中的“一单两票”非结构化文本数据，因此在釆用Rwordseg包进行分词时，还需要增加该领域的词典，以提高分词的准确性。电力行业相对来说不是很开放的领域，目前并没有完整的领域词典，因此需要人工对该领域的词典进行构建。机器釆集和人工采集相结合的办法来构建该领域的词典。首先通过程序自动采集“一单两票”数据中的词条，继而釆取人工采集方式进一步扩充该领域的词典。

词典的构建过程如下：

（1）对“一单两票”的词条进行标注分析，选择了“开单人”、“开单时间”、“开单内容”等多个标签。

（2）釆用Python编写爬虫，爬取（1）中确定的多个标签下的词条。并对釆集到的词条进行去重。

（3）由于采集的是“一单两票”的tag页面下的词条，而tag页面中最多只列出了某些词条，那些没有列出的词条没有办法通过程序直接釆集。基于这个原因，实验通过人工查看数据集中的内容，补充没有采集到的词条。

采用Rwordseg包中的installDict可以安装自建的词典，对数据集进行分词。对收集到的文本数据进行分词，然后，用这些词用来进行知识实体识别。将分词后得到的内容与自建的词典入库，后续将结合两者进行进一步处理。

在本实施例中，通过构建词典和概念匹配的方式来解决共指消解这一问题，在构建知识图谱前，利用字典将同一概念的不同表述方式映射为同一个实体。例如，对于“国家电网”这个实体，实验会自动识别“SGCC”、“国家电网”、“国家电网公司”等多种表述方式，并将这些表述方式转换为“国家电网”这一表达方式。

电力领域知识图谱中的概念层包括：开单人、时间、申请内容以及操作对象。针对知识图谱中的概念以及概念中的实体，在本实施例中，采取自顶向下的方法来构建电子领域知识图谱。自顶向下的方式不是首先通过人工的方法构建顶层关系本体，而是直接以属性图中属性键值对以及实体对关系的形式进行表示。

1）属性图中的属性键值对以及标签表示

比如“虚拟服务器”实体术语操作对象类，则在属性图中针对“虚拟服务器”节点，添加一个type属性，其值为“操作对象”。

2）实体对关系

比如“虚拟服务器”实体跟“开票人”概念中“张建晖”以及“张超”实体有联系，“开票人”对“虚拟服务器”执行某种操作，则我们将“虚拟服务器”与“张建晖”进行实体关系连接，建立related Body相关关系。

本专利不局限于上述最佳实施方式，任何人在本专利的启示下都可以得出其它各种形式的电力运维信息知识图谱构建方法，凡依本发明申请专利范围所做的均等变化与修饰，皆应属本专利的涵盖范围。

Claims (10)

1.一种电力运维信息知识图谱构建方法，其特征在于，包括以下步骤：

步骤1：对电力系统工单数据进行工单采集，并转换为文本格式，并根据文本含义属性划分为多个文本域；

步骤2：以工单为单位，对工单文本数据进行分词处理；

步骤3：对文本域进行分组；

步骤4：对各文本域分别进行域分词处理，采用基于字符串匹配的分词方法分别对各分组的内容进行词汇切分；

步骤5：根据无效词汇表进行无效词汇过滤，过滤掉无效词汇和敏感词汇；

步骤6：将有效词汇与知识库中词汇表进行比对，将新词汇加入到知识库的词汇列表，对己有词汇进行累加其出现的频次；

步骤7：抽取加入词汇的实体关系：通过预先定义实体关系类型及基于实体的特征，抽取实体关系；

步骤8：将实体与实体关系导入图数据库；

步骤9：在图数据库中完成知识图谱的绘制。

2.根据权利要求1所述的电力运维信息知识图谱构建方法，其特征在于：步骤8中，将实体和实体关系转化为基于RDF的三元组；步骤9中，通过PTransE模型将实体和实体关系进行翻译和学习，构建成为知识图谱。

3.根据权利要求1所述的电力运维信息知识图谱构建方法，其特征在于：步骤2和步骤4中，分词采用中科院的ICTCLAS系统；

将分词后的所有词组成字符表D，，其中表示一个词，。

4.将每个词E的词特征向量表示为，其中代表该词是否对应字符表D中的，的计算方式如下：

。

5.根据权利要求3所述的电力运维信息知识图谱构建方法，其特征在于：步骤2和步骤4中，分词还包括词性特征的构建：词性特征的构建与词特征的构建方式一致。

6.根据权利要求1所述的电力运维信息知识图谱构建方法，其特征在于：步骤7中，釆用句法分析及词法分析将实体关系转化为特征向量，继而采用机器学习模型进行处理，计算特征向量的相似度，并对实体关系进行分类。

7.根据权利要求1所述的电力运维信息知识图谱构建方法，其特征在于：步骤7中，所述预先定义实体关系类型及基于实体的特征包括实体特征、实体类型特征、实体对相对位置特征、实体间距离特征和上下文窗口特征。

8.根据权利要求2所述的电力运维信息知识图谱构建方法，其特征在于：所述PTransE模型将知识图谱中的关系路径与关系的向量表达联系起来，将逻辑推理规则视为向量加法操作，其评分函数为：

其中，表示实体间关系路径集合，为实体间的一条路径，等价于TransE的参数模型，的计算公式为

其中是一个归一化函数，表示头实体h到尾实体t的关系路径p的可靠性；表示头实体h到尾实体t的关系路径p的势能函数；

对于路径集合，其函数如下

其中用于衡量头实体h到尾实体t的关系路径p的可靠性，即，

其中实体h到实体t的路径关系p，，从实体h通过路径关系p，将路径表示为，其中，；对于任何实体，在的关系的直接用关系来表示；首先对实体h赋予权重1，然后对函数进行不断迭代，获得t的权重。

9.根据权利要求1所述的电力运维信息知识图谱构建方法，其特征在于：对电力系统工单数据采用Python的urllib2包对非结构化文本数据的内容进行采集；采用BeautifulSoup包对采集的内容进行解析；采用R环境下的Rwordseg包进行分词。

10.根据权利要求1所述的电力运维信息知识图谱构建方法，其特征在于：所述图数据库为：Neo4j图数据库。