CN108694469A - 一种基于知识图谱的关系预测方法 - Google Patents

Abstract

本发明为一种基于知识图谱的关系预测方法，将知识图谱利用无向图来表示，提出了一种改进的结合了双向关系路径和嵌入式的混合关系预测算法，包括如下步骤：(1)将三元组数据集构建一个有效的知识图谱，并初始化参数；(2)对知识图谱中每个实体和关系利用TransE算法进行训练，将实体和关系嵌入到一个低维的向量空间中；(3)抽取出每个三元组的关系标签，构建每个关系的子图；(4)在每个关系子图上，通过迭代的方式发现每个实体之间的可达路径，并根据图结构划分子图，对每个可达路径的可靠性进行计算；(5)迭代每两个没有直接边连接的实体，通过构造的联合评价函数和损失函数来评估两个实体之间是否存在隐含关系；(6)补全知识图谱结构。

Description

一种基于知识图谱的关系预测方法

技术领域

本发明涉及在RDF知识图谱条件下的知识图谱补全算法领域，具体涉及一种基于知识图谱的关系预测方法。

背景技术

信息技术的发展不断推动着互联网技术的变革，Web技术作为互联网时代的标志性技术，正处于这场技术变革的核心。从网页的链接到数据的链接技术正在逐步朝向Web之父Berners-Lee设想中的语义网络sematic Web演变。根据W3c的解释，语义网络是一张数据构成的网络Web of data，语义网络技术向用户提供的是一个查询环境，其核心要义是以图形的方式向用户返回经过加工和推理的知识。而知识图谱knowledge graph技术则是实现智能化语义检索的基础和桥梁。传统搜索引擎技术能够根据用户查询快速排序网页，提高信息检索的效率。然而，这种网页检索效率并不意味着用户能够快速准确地获取信息和知识，对于搜索引擎反馈的大量结果，还需要进行人工排查和筛选.随着互联网信息总量的爆炸性增长，这种信息检索方式已经很难满足人们全面掌控信息资源的需求，知识图谱技术的出现为解决信息检索问题提供了新的思路知识图谱是近年来的一种新兴技术，其技术理论和概念是结合知识库、语义网络以及本体论等思想，由Google于2012年提出的。知识图谱的本质上是一种基于复杂语义网络的图形结构，它充分利用了可视化技术，不仅能够对知识资源和载体进行描述，而且还可以对知识以及知识之间的联系进行分析和描述。它利用图形的方式将复杂的知识绘制并展现出来，用图中的节点来表示知识，用节点之间的边来表示知识之间的关系，这样更直观的体现知识之间的关联。

知识图谱的主要任务之一是解决链接预测问题。链接预测是指对知识图谱中可能存在的关系进行预测。知识图谱利用两个节点之间的边来体现它们的关系，但事实上，两个不存在边连接的节点之间也存在着隐含关联，这种特性被称为知识图谱的不完整性。因此，基于知识图谱的关联分析任务之一就是如何准确的发现这种隐含关系，并且避免错误的关系。这种基于知识图谱的链接预测任务被称为知识图谱的关系推理、关系预测或者知识图谱补全。

目前，对于知识图谱上的关系预测方法国内外学者都在积极的研究，但由于知识图谱结构的复杂性，如何更好的提升多关系预测的效果成为研究的难点。针对这种问题，本发明对基于知识图谱的关系预测方法进行了深入研究，提出了一种改进的结合了双向关系路径和嵌入式的混合关系预测算法。该算法的主要思想是考虑到关系的双向语义的特点，将知识图谱利用无向图来表示。并基于无向图的概率模型来获得每个实体之间的依赖程度，由此来对关系路径的可靠性进行评估。然后，将此模型与TransE算法联合构造评分函数，来对知识图谱中存在的隐含关系进行推理。

发明内容

本发明的目的在于提供一种基于知识图谱的关系预测方法，具体包括如下步骤：

(1)将三元组数据集构建一个有效的知识图谱，并初始化参数；

(2)对知识图谱中每个实体和关系利用TransE算法进行训练，将实体和关系嵌入到一个低维的向量空间中；

(3)抽取出每个三元组的关系标签，构建每个关系的子图；

(4)在每个关系子图上，通过迭代的方式发现每个实体之间的可达路径，并根据图结构划分子图，对每个可达路径的可靠性进行计算；

(5)迭代每两个没有直接边连接的实体，通过构造的联合评价函数和损失函数来评估两个实体之间是否存在隐含关系；

(6)补全知识图谱结构。

所述的步骤(3)具体包括如下步骤：

(3.1)给定知识库K(k₁,k₂,…,k_n)，其中k_i为事实三元组数据；

(3.2)抽取知识库中的所有关系，构成关系集合R(r₁,r₂,…,r_n)；

(3.3)对于每个关系r_i，抽取r_i所对应的三元组集合V_i(v₁,v₂,…,v_n)，使用V_i中的事实三元组数据构建无向图模型的关系子图G_i。

所述的步骤(4)中路径的可靠性计算具体包括：

所分析的路径考虑三条以内的路径，其中跳数为从节点h开始到尾节点结束时所经过边的数目；对于一个具有复杂结构的关系采用马尔可夫网络图结构并利用如下公式进行可靠性的计算：

R_m(v_i,v_j)＝log(1+(1-θ)R(v_i,v_j)+θR_l(v_i,v_j))；

其中P_w(v_i|v_j)表示在v_j出现的情况下v_i出现的概率，c(v_i,v_j)为在数据集中v_i和v_j同时出现的次数，c(v_j)表示v_j出现的次数；R(v_i,v_j)表示直接相关的概率值，即两个实体直接相连，p(v_j|v_i)表示在v_i出现的情况下v_j出现的概率；R_l(v_i,v_j)表示基于团的直接相关概率值，其中Clique(v_i,v_k,v_j)表示节点团的总数，n表示团的数量；R_m(v_i,v_j)表示节点混合相关概率值，θ为权重值。

所述的步骤(4)中构造联合评价函数具体包括：

所述的联合评价函数为关系路径和知识嵌入算法的融合，公式如下：

f_BPTransE(h,r,t)＝E(h,r,t)+E(P|h,r,t)；

其中f_BPTransE(h,r,t)为联合评价函数，Loss_BPTransE为损失函数。

本发明的有益效果在于：将知识图谱视为无向图来处理，在充分考虑了语义的双向性特点的基础上提出了一种基于知识图谱的关系预测方法，及BPTransE算法；根据关系类型将知识图谱划分为多个关系子图，并在关系子图的基础上进行路径的发现和关系可靠性计算，优化流入大规模知识图谱因结构的复杂性而导致难以训练和计算的缺点，大大提高了计算效率；采用马尔可夫网络模型来进行评估关系路径的可靠性，考虑到了无向图的结构特点以及每个彼此连接的节点之间的相互作用。

附图说明

图1为本发明的算法流程框图；

图2为本发明关系子图的构建过程示意图；

图3为本发明平均倒数排名MRR对比图；

图4为本发明正确的三元组排名在前10位的比例对比图；

图5为本发明在多关系条件下正确的三元组排名在前10位的比例对比图。

具体实施方式

下面结合附图对本发明做进一步描述。

本发明以目前流行的知识表示学习方法为基础，基于知识图谱的多关系预测这一主要问题，给出针对性的解决方案。本发明利用无向图模型来对知识图谱进行表示，提出了一种基于知识图谱的关系预测算法，及BPTransE算法，如图1所示BPTransE算法具体包括如下步骤：

(1)将三元组数据集构建一个有效的知识图谱，并初始化参数；

(2)对知识图谱中每个实体和关系利用TransE算法进行训练，将实体和关系嵌入到一个低维的向量空间中；

(3)抽取出每个三元组的关系标签，构建每个关系的子图；

(4)在每个关系子图上，通过迭代的方式发现每个实体之间的可达路径，并根据图结构划分子图，对每个可达路径的可靠性进行计算；

(5)迭代每两个没有直接边连接的实体，通过构造的联合评价函数和损失函数来评估两个实体之间是否存在隐含关系；

(6)补全知识图谱结构。

知识图谱的关系子图构建方案：考虑到以大规模实体和关系构建无向图模型的知识图谱，不管是实体之间的相关性度量，还是关系路径挖掘都是很困难的，最终导致效率严重降低。因此，本发明依据实体之间的关系，将全局知识图谱划分为小规模的关系子图，以减少关系推理的计算量和复杂性。

图2为本发明关系子图的构建过程示意图，可依照图所示流程构建关系子图。例如，给定知识库K(k₁,k₂,…,k_n)，其中k_i为事实三元组数据。抽取知识库中的所有关系，构成关系集合R(r₁,r₂,…,r_n)。对于每个关系r_i，抽取r_i所对应的三元组集合V_i(v₁,v₂,…,v_n)，使用V_i中的事实三元组数据构建无向图模型的关系子图G_i。

关系路径的发现和可靠性计算：在大规模知识图谱中，每个实体通常含有大量的关系和事实。从头节点h到尾节点t之间可能存在成百上千条可达路径，因此将所有可达路径用于关系推理显然是不合适的。为了限制路径的数目，本发明提出的BPTransE模型考虑三跳以内的路径。所谓跳数，是从头节点h开始，到尾节点t结束所经过边的数目。即使是将跳数限制在三跳以内，可达路径的数目依然是大量的。因此，基于关系路径的推理算法应该选择那些合适边进行推理，这就是关系路径的可靠性分析。对于一个具有复杂结构的关系，本发明采用马尔可夫网络图结构并利用如下公式进行可靠性的计算。

R_m(v_i,v_j)＝log(1+(1-θ)R(v_i,v_j)+θR_l(v_i,v_j)) (4)

其中，公式1表示c(v_i,v_j)表示在数据集中，v_i和v_j同时出现的次数。公式2表示直接相关的概率值，即两个实体直接相连。公式3表示一种基于团的复杂结构的关系路径可靠性计算方法，其中Clique(v_i,v_k,v_j)表示节点团的总数，n表示团的数量。对于混合相关，采用一种加权方法来量化节点混合相关性，如公式4所示。

构造联合评价函数：本发明主要是将关系路径和知识嵌入算法相融合，将两种方法融合的目的在于克服两者的弊端。比如嵌入式算法的代表TransE，虽然具有易于训练且适用于大规模知识图谱，但由于参数过于简单仅适用于一对一关系的推理。基于关系路径的推理能够很好的利用图结构的特点，但由于路径发现以及路径选择问题一直无法很好的解决，因此并不适用于大规模和多关系的知识图谱。将两者融合既考虑了知识的全局表示，又充分考虑了图结构的特点以及局部路径对关系推理的影响。构造的联合评价函数和损失函数如公式5和公式11所示。

f_BPTransE(h,r,t)＝E(h,r,t)+E(P|h,r,t) (5)

通过仿真实验和分析实验结果，对比TransE、PTransE-2、PTransE-3和BPTransE算法，以绘图的形式直观的验证了平均倒数排名、前N命中率两个主要的性能指标，结果如图3、图4和图5所示。试验证明了本发明提出的BPTransE模型在平均倒数排名MRR和hit@10表现上要稍好于TransE模型和PTransE模型。而基于2跳的BPTransE-2效果要好于BPTransE-3模型，这是因为引入过多的关系路径有可能预测到错误的关系，最终导致推理错误。因此，证明了在关系路径发现阶段不宜引入过多的关系。

本发明将知识图谱视为无向图来处理，在充分考虑了语义的双向性特点的基础上提出了一种基于知识图谱的关系预测方法，及BPTransE算法；本发明根据关系类型将知识图谱划分为多个关系子图，并在关系子图的基础上进行路径的发现和关系可靠性计算，优化流入大规模知识图谱因结构的复杂性而导致难以训练和计算的缺点，大大提高了计算效率；采用马尔可夫网络模型来进行评估关系路径的可靠性，考虑到了无向图的结构特点以及每个彼此连接的节点之间的相互作用。

以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (4)

1.一种基于知识图谱的关系预测方法，其特征在于，具体包括如下步骤：

(1)将三元组数据集构建一个有效的知识图谱，并初始化参数；

(2)对知识图谱中每个实体和关系利用TransE算法进行训练，将实体和关系嵌入到一个低维的向量空间中；

(3)抽取出每个三元组的关系标签，构建每个关系的子图；

(4)在每个关系子图上，通过迭代的方式发现每个实体之间的可达路径，并根据图结构划分子图，对每个可达路径的可靠性进行计算；

(5)迭代每两个没有直接边连接的实体，通过构造的联合评价函数和损失函数来评估两个实体之间是否存在隐含关系；

(6)补全知识图谱结构。

2.根据权利要求1所述的一种基于知识图谱的关系预测方法，其特征在于，所述的步骤(3)具体包括如下步骤：

(3.1)给定知识库K(k₁,k₂,Λ,k_n)，其中k_i为事实三元组数据；

(3.2)抽取知识库中的所有关系，构成关系集合R(r₁,r₂,Λ,r_n)；

(3.3)对于每个关系r_i，抽取r_i所对应的三元组集合V_i(v₁,v₂,Λ,v_n)，使用V_i中的事实三元组数据构建无向图模型的关系子图G_i。

3.根据权利要求1所述的一种基于知识图谱的关系预测方法，其特征在于，所述的步骤(4)中路径的可靠性计算具体包括：

所分析的路径考虑三条以内的路径，其中跳数为从节点h开始到尾节点结束时所经过边的数目；对于一个具有复杂结构的关系采用马尔可夫网络图结构并利用如下公式进行可靠性的计算：

R_m(v_i,v_j)＝log(1+(1-θ)R(v_i,v_j)+θR_l(v_i,v_j))；

其中P_w(v_i|v_j)表示在v_j出现的情况下v_i出现的概率，c(v_i,v_j)为在数据集中v_i和v_j同时出现的次数，c(v_j)表示v_j出现的次数；R(v_i,v_j)表示直接相关的概率值，即两个实体直接相连，p(v_j|v_i)表示在v_i出现的情况下v_j出现的概率；R_l(v_i,v_j)表示基于团的直接相关概率值，其中Clique(v_i,v_k,v_j)表示节点团的总数，n表示团的数量；R_m(v_i,v_j)表示节点混合相关概率值，θ为权重值。

4.根据权利要求1所述的一种基于知识图谱的关系预测方法，其特征在于，所述的步骤(4)中构造联合评价函数具体包括：

所述的联合评价函数为关系路径和知识嵌入算法的融合，公式如下：

f_BPTransE(h,r,t)＝E(h,r,t)+E(P|h,r,t)；

其中f_BPTransE(h,r,t)为联合评价函数，Loss_BPTransE为损失函数。