CN112131403A - 一种动态环境下的知识图谱表示学习方法 - Google Patents

Abstract

本发明公开了一种动态环境下的知识图谱表示学习方法，对于知识图谱的表示学习任务，本发明设计了一个全新的知识图谱表示学习模型；该模型首先通过设计的一个基于注意力机制的图卷积神经网络将知识图谱中的实体和关系的上下文信息编码为向量表示，接着通过一个门策略将实体(或关系)的向量表示与其上下文向量结合，得到联合向量表示，最后基于联合向量表示进行训练，得到图谱中实体和关系的高质量向量表示。对于图谱更新后的增量式表示学习任务，基于上述模型设计了一个增量式表示学习算法，将每次图谱更新带来的影响限制在实体(或关系)各自的上下文范围内，而非整个图谱，以此方式避免重新训练所有数据，达到增量式表示学习的目标。

Description

一种动态环境下的知识图谱表示学习方法

技术领域

本发明属于知识图谱表示学习领域，涉及一种动态环境下的知识图谱表示学习方法。

背景技术

近年来，许多知识图谱被构建出来，如DBpedia，YAGO，Freebase等。这些知识图谱可以服务于众多领域的智能应用，如推荐系统、语义搜索和问答等。每个图谱都是一个多元关系图，它以三元组的形式去描述实体以及实体之间的关系。一个三元组通常被表示为<头实体，关系，尾实体>的形式，以此来表征两个实体由特定关系连接，如<美国，总统，特朗普>。随着知识图谱的兴起，知识图谱表示学习^[4]也受到了极大的关注。知识图谱表示学习可以训练得到实体和关系在低维、连续向量空间的向量表示，这些向量表示可以作为特征来支撑链接预测、实体分类、问答以及众多其他的智能应用。

在现实应用中，知识图谱总是随时间动态变化的。例如，DBpedia每天都会从维基百科抽取更新流来保证图谱中的数据是最新的；由于每天都有大量的新商品产生，亚马逊的商品知识图谱需要被频繁地更新。大多数现有知识图谱表示学习模型都注重于对静态不变的图谱进行学习，却忽略了知识图谱本身的动态性。为了应对知识图谱发生的更新，这些模型需要花费很高的时间代价来对整个图谱进行重新训练。当图谱的更新频率很高时(如每天更新一次)，这样的训练时间消耗是不可接受的。因此如何以增量式的方式对动态更新的知识图谱进行表示学习是一个亟待解决的问题。增量式表示学习是指在知识图谱发生更新时，基于知识图谱原有的向量表示，只重新训练知识图谱的部分数据，而不是所有数据，便可得到知识图谱中实体和关系的新的向量表示。

大多数现有知识图谱表示学习模型无法进行增量式学习的主要原因是：当知识图谱发生更新时(删除或新增三元组)，如果修改了与此次更新相关的实体和关系的向量表示，这样的修改可能会循着实体以及实体之间的关系扩散到整个图谱，即整个图谱的向量表示都要被修改。本文设计了一个动态环境下的知识图谱表示学习方法，该方法不仅可以处理知识图谱的表示学习任务，还支持在知识图谱更新后进行增量式的表示学习。增量式表示学习功能避免了知识图谱更新后需要重新训练所有数据的缺陷，极大地减少了向量表示更新的时间和计算资源消耗。

发明内容

本发明提供了一种动态环境下的知识图谱表示学习方法，主要用于处理知识图谱的表示学习任务，以及图谱更新后的增量式表示学习问题。其中增量式表示学习主要解决知识图谱更新后相关向量表示的增量式更新问题，即：如何避免重新训练知识图谱中的所有数据，通过只训练少部分数据的方式去更新知识图谱的向量表示。

本发明的动态环境下的知识图谱表示学习方法，首先在初始时刻τ对知识图谱G^τ使用本文设计的一个基于上下文信息的表示学习模型进行知识图谱的表示学习训练，得到知识图谱中所有实体和关系的向量表示；接着在τ+1时刻，知识图谱发生更新变为G^τ+1，此时基于τ时刻的知识图谱G^τ中实体和关系的向量表示，利用本文设计的增量式表示学习算法，训练得到知识图谱G^τ+1中实体和关系的新的向量表示；随后对于后续τ+2，τ+3…等时刻，均基于上一个时刻的知识图谱中实体和关系的向量表示，利用本文设计的增量式表示学习算法，训练得到此时刻知识图谱中实体和关系的新的向量表示。

一种动态环境下的知识图谱表示学习方法，所述方法包括如下步骤：

步骤1)在初始时刻τ，对于知识图谱G^τ使用本发明设计的一个基于上下文信息的表示学习模型进行知识图谱的表示学习训练，得到知识图谱中所有实体和关系的向量表示；

步骤2)在τ+1时刻，知识图谱发生更新变为G^τ+1。此时基于τ时刻的知识图谱G^τ中实体和关系的向量表示，利用本发明设计的增量式表示学习算法，训练得到知识图谱G^τ+1中实体和关系的新的向量表示；

步骤3)对于后续τ+2，τ+3…等时刻，均基于上一个时刻的知识图谱中实体和关系的向量表示，利用本发明设计的增量式表示学习算法，训练得到此时刻知识图谱中实体和关系的新的向量表示。

本发明的优选方案中，所述步骤1)中的基于上下文信息的表示学习模型的前向传播公式为如下5个公式：

其中，A是知识图谱中给定实体(或关系)的邻居实体(或关系)构成的子图对应的邻接矩阵，

I是单位矩阵，

是

的对角度矩阵。H⁽⁰⁾是随机初始化的节点(实体或关系)特征矩阵，H⁽⁰⁾中的每一行记为v_i，是节点(实体或关系)随机初始化的一个向量表示，后续统一称之为实体或关系的上下文角色向量。H^(l)和H^(l-1)分别是第l层和第l-1层的节点特征矩阵，H^(l)基于公式(1)由H^(l-1)计算得到。W^(l)是第l层的权重参数矩阵。ReLU(·)＝max(0，·)是激活函数。

score(v_i,o^k)＝u^TReLU(v_i⊙o^k)#(2)

其中v_i是公式(1)的输出H^(l)中的一行，o^k是给定节点o(实体或关系)的向量表示。u是注意力层的参数向量，⊙代表逐元素乘，

是激活函数，score(v_i,o^k)刻画了v_i和o^k之间的相关性。α_i(o)代表每个节点v_i相对于给定对象o的权重。

其中sg(o)是给定对象o(实体或关系)的上下文子图向量，通过公式(4)将o的上下文子图中所有节点的向量加权求和得到。

其中o是一个实体或关系，o^k是它的向量表示，sg(o)是它的上下文子图向量，⊙代表逐元素乘，

将门向量g中的每个元素的取值范围限制在[0,1]，其中

是随机初始化的一个参数向量。所有实体共用一个参数g，记为g^e，所有关系共用另一个参数g，记为g^r。o^*代表给定对象o的联合向量表示。

本发明的优选方案中，所述步骤2)中的增量式表示学习算法包含如下步骤：

步骤2-1)移除所有被删除的对象(实体或关系)的向量表示；

步骤2-2)为所有新增对象(实体或关系)添加随机初始化的向量表示；

步骤2-3)收集知识图谱中所有包含新增对象(实体或关系)以及上下文发生改变的对象(实体或关系)的三元组；

步骤2-4)使用随机梯度下降法来训练上述步骤2-3)中收集得到的三元组。训练过程中更新的参数只包括：新增对象(实体或关系)的向量、新增对象(实体或关系)的上下文角色向量以及上下文发生改变的原有对象(实体或关系)的向量，其余参数保持不变。

本发明与现有技术相比，具有以下优点：

1)根据知识图谱表示学习场景的不同，知识图谱表示学习可分为静态环境下的知识图谱表示学习场景和动态环境下的知识图谱表示学习场景。大多数现有知识图谱表示学习模型都是面向静态环境下的知识图谱表示学习场景。该场景下的模型都是通过定义一个得分函数来衡量知识图谱中每个三元组的合理性，并通过最大化这个得分函数的取值得到知识图谱中所有实体和关系的向量表示。根据得分函数的类型，该类模型大致可分为三类：翻译系列模型(如TransE模型、TransH模型和TransR模型等)、语义匹配模型(如RESCAL模型、DisMult模型和HolE模型等)和神经网络模型(如ConvE模型、RGCN模型和GAKE模型等)。上述静态环境下的知识图谱表示学习模型都只注重于对静态不变的知识图谱进行表示学习任务，却忽略了知识图谱本身的动态性。为了应对知识图谱发生的更新，这些模型需要花费很高的时间代价来对整个图谱进行重新训练，以获得图谱新的向量表示。当图谱的更新频率很高时，这样的训练时间消耗是非常巨大的。本发明所提出的方法中包含增量式表示学习算法，该算法可以在知识图谱更新后以增量式的方式对知识图谱的向量表示进行更新(只重新训练部分图谱数据)，而不需要重新训练整个知识图谱，极大地提高了效率；2)动态环境下的知识图谱表示学习模型又可分为动态图表示学习模型、时序知识图谱表示学习模型和增量式表示学习模型。动态图表示学习的经典模型主要包含DynamicTriad模型、DyRep模型和GraphSAGE模型等。图学习通常只基于结构上的接近性来学习节点的向量表示，而忽略边的语义信息。这类模型通过处理图的动态性以获得图节点的高质量演化向量表示，这些向量表示可以被用于在图更新后进行节点分类、链接预测等。动态图学习模型的缺陷在于，尽管它们可以增量式地更新节点的向量表示，但是却忽略了边的具体语义信息，没有充分利用边的语义信息去提升模型的表示学习效果。本发明所提出的知识图谱表示学习方法既充分考虑了知识图谱中不同边的语义信息还考虑了不同边的上下文信息，有效提升了模型的表示学习效果；3)时序知识图谱表示学习的经典模型主要包含基于超平面的时序图谱表示学习模型、面向知识图谱补全的时序图谱表示学习模型和基于深度神经网络的时序图谱表示学习模型等。这类模型致力于对包含时序信息的知识图谱进行表示学习，通过从知识图谱不同时间版本的快照中挖掘知识图谱的演化模式，并利用挖掘出的演化模式更好地提升表示学习的效果。这类模型的缺陷在于：当知识图谱发生更新后，为了获得图谱中实体和关系的新的向量表示，依然需要重新训练知识图谱中的所有数据，而无法进行增量式的更新。因此每次更新，模型都需要花费巨大的时间代价来重新训练知识图谱。本发明所提出的知识图谱表示学习方法中包含增量式的表示学习算法，该算法在知识图谱更新后可以采取增量式的方式进行图谱向量表示的更新(只训练知识图谱中部分数据)，而避免了重新训练知识图谱中的所有数据。以此方式，本发明的方法极大地降低了训练的时间消耗，提高了模型效率；4)增量式表示学习模型中与本发明最接近的式puTransE模型。puTransE模型基于给定知识图谱的结构及语义将图谱中的数据划分为多个不同的子集，并将每个子集放入不同的向量空间中进行训练。这样做的目的是让不同的向量空间从不同的语义和结构角度来建模知识图谱。对于知识图谱中的每一个三元组，分别在每一个向量空间中计算其得分函数的取值，并根据不同的任务目标，以不同的方式综合得到该三元组的最终得分。由于多个向量空间的引入，puTransE在面对知识图谱的动态更新时，可以轻易地进行增量式的表示学习。对于新增的三元组，puTransE可以基于新增三元组以及与新增三元组有关联的部分原有三元组进行训练，得到新的向量空间，而无需训练整个图谱；对于被删除的三元组，puTransE只需删除包含对应三元组的向量空间即可。puTransE模型有两个主要缺陷：一个缺陷是puTransE以TransE为原子模型，依赖于TransE的得分函数，因此它和TransE类似，无法较好地处理“一对多”，“多对一”以及“多对多”类型的复杂关系；另一个缺陷是puTransE对更新后的知识图谱进行向量表示的增量学习时，仅仅重新学习了被直接更新的数据的向量表示，而没有考虑这些更新对知识图谱中原有数据的向量表示的影响。对于puTransE的第一个缺陷，本发明设计了一个基于上下文信息的表示学习模型，将知识图谱中实体和关系的向量表示与其上下文向量表示进行联合训练，以此方式使得本发明的模型能够有效建模“一对多”、“多对一”以及“多对多”类型的复杂关系；对于puTransE的第二个缺陷，本发明设计了一个增量式地表示学习算法。该算法不仅可以在知识图谱更新后进行增量式的表示学习，避免重新训练整个知识图谱，而且相较于puTransE模型的增量式表示学习算法更合理。本发明的增量式表示学习算法既更新了被直接更新的实体和关系的向量表示，还更新了受此次图谱更新影响的原有实体和关系的向量表示。经过对不同模型的实验结果的对比，在同等实验条件下，本发明的方法不论是从效果和效率上(尤其是增量式表示学习的效率)，都显著优于上述模型。

附图说明

图1、图2是本发明的基本工作流程示意图；

图3是本发明的基于上下文信息的表示学习模型的示意图。

具体实施方式

下面结合实施例和说明书附图对本发明作进一步的说明。

实施例1：本发明的动态环境下的知识图谱表示学习方法的基本工作流程如附图1所示，包括以下几个步骤：

步骤1)在初始时刻τ，对于知识图谱G^τ使用本发明设计的一个基于上下文信息的表示学习模型进行知识图谱的表示学习训练，得到知识图谱中所有实体和关系的向量表示。该表示学习模型的模型框架如附图2所示，其前向传播公式为如下5个公式：

其中，

是知识图谱中给定实体(或关系)的邻居实体(或关系)构成的子图对应的邻接矩阵(n是子图中节点的数量)，

I是单位矩阵，

是

的对角度矩阵。

是随机初始化的节点(实体或关系)特征矩阵，其中d₀是每个节点的初始特征数量，H⁽⁰⁾中的每一行记为v_i，是节点(实体或关系)随机初始化的一个向量表示，后续统一称之为实体或关系的上下文角色向量。H^(l)和H^(l-1)分别是第l层和第l-1层的节点特征矩阵，H^(l)基于公式(1)由H^(l-1)计算得到。

是第l层的权重参数矩阵，其中d_l和d_l-1分别是第l层和第l-1层输出特征数量。ReLU(·)＝max(0，·)是激活函数。

score(v_i,o^k)＝u^TReLU(v_i⊙o^k)#(2)

其中

是公式(1)的输出H^(l)中的一行(d是特征数量)，

是给定节点o(实体或关系)的向量表示。

是注意力层的参数向量，⊙代表逐元素乘，

是激活函数，score(v_i,o^k)刻画了v_i和o^k之间的相关性。α_i(o)代表每个节点v_i相对于给定对象o的权重。

其中sg(o)是给定对象o(实体或关系)的上下文子图向量，通过公式(4)将o(实体或关系)的上下文子图中所有节点的向量加权求和得到。

o^*＝g⊙o^k+(1-g)⊙sg(o)#(5)

其中o是一个实体或关系，o^k是它的向量表示，sg(o)是它的上下文子图向量，⊙代表逐元素乘，

将门向量g中的每个元素的取值范围限制在[0,1]，其中

是随机初始化的一个参数向量。所有实体共用一个参数g，记为g^e，所有关系共用另一个参数g，记为g^r。o^*代表给定对象o的联合向量表示。

步骤2)在τ+1时刻，知识图谱发生更新变为G^τ+1。此时基于τ时刻的知识图谱G^τ中实体和关系的向量表示，利用本发明设计的增量式表示学习算法，训练得到知识图谱G^τ+1中实体和关系的新的向量表示。

算法1展现了本发明设计的增量式表示学习算法的详细过程。在此算法中，使用一个三元组ET＝(E^T∪R^T,V^k,V^c)来记录实体和关系的向量表示和上下文角色向量表示，其中E^T和R^T分别是T时刻的图谱G^T中所有实体和关系的集合，V^k向量表示的集合，V^c是上下文角色向量表示的集合。每一个对象o(实体或关系)都对应于一个向量o^k和一个上下文角色向量o^c。给定T时刻的图谱G^T以及在T+1时刻更新后的图谱G^T+1，首先从ET中移除所有被删除的对象o(实体或关系)及其向量o^k和上下文角色向量o^c(算法中3-4行)；接着往ET中添加新增的对象及其初始化的向量，并收集所有包含新增对象的三元组(5-8行)；除此之外，还要收集所有包含上下文发生改变的对象的三元组(9-13行)；然后使用随机梯度下降法(SGD)训练上述收集到的三元组。训练过程中更新修改的参数只包含：新增实对象(实体或关系)的向量表示和上下文角色向量表示，以及上下文发生改变的原有对象的向量表示(14-27行)。此算法会基于模型在验证集上的表现来决定训练何时终止。最终算法的输出会更新到ET之中(28行)。

步骤3)对于后续τ+2，τ+3…等时刻，均基于上一个时刻的知识图谱中实体和关系的向量表示，利用本发明设计的增量式表示学习算法(算法1)，训练得到此时刻知识图谱中实体和关系的新的向量表示。

上述实施例仅是本发明的优选实施方式，应当指出：对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和等同替换，这些对本发明权利要求进行改进和等同替换后的技术方案，均落入本发明的保护范围。

Claims (5)

1.一种动态环境下的知识图谱表示学习方法，其特征在于，该方法包括如下步骤：

步骤1)在初始时刻τ，对于知识图谱G^τ使用一个基于上下文信息的表示学习模型进行知识图谱的表示学习训练，得到知识图谱中所有实体和关系的向量表示；

步骤2)在τ+1时刻，知识图谱发生更新变为G^τ+1，此时基于τ时刻的知识图谱G^τ中实体和关系的向量表示，利用增量式表示学习算法，训练得到知识图谱G^τ+1中实体和关系的新的向量表示；

步骤3)对于后续τ+2，τ+3…等时刻，均基于上一个时刻的知识图谱中实体和关系的向量表示，利用增量式表示学习算法，训练得到此时刻知识图谱中实体和关系的新的向量表示。

2.根据权利要求书1所述的动态环境下的知识图谱表示学习方法，其特征在于，所述步骤1)中的基于上下文信息的表示学习模型的前向传播公式为如下5个公式：

其中，A是知识图谱中给定实体(或关系)的邻居实体(或关系)构成的子图对应的邻接矩阵，

I是单位矩阵，

是

的对角度矩阵；H⁽⁰⁾是随机初始化的节点(实体或关系)特征矩阵，H⁽⁰⁾中的每一行记为v_i，是节点(实体或关系)随机初始化的一个向量表示，后续统一称之为实体或关系的上下文角色向量；H^(l)和H^(l-1)分别是第l层和第l-1层的节点特征矩阵，H^(l)基于公式(1)由H^(l-1)计算得到；W^(l)是第l层的权重参数矩阵。ReLU(·)＝max(0，·)是激活函数；

score(v_i,o^k)＝u^TReLU(v_i⊙o^k)#(2)

其中v_i是公式(1)的输出H^(l)中的一行，o^k是给定节点o(实体或关系)的向量表示。u是注意力层的参数向量，⊙代表逐元素乘，

是激活函数，score(v_i,o^k)刻画了v_i和o^k之间的相关性；α_i(o)代表每个节点v_i相对于给定对象o的权重；

其中sg(o)是给定对象o(实体或关系)的上下文子图向量，通过公式(4)将o的上下文子图中所有节点的向量加权求和得到；

o^*＝g⊙o^k+(1-g)⊙sg(o)#(5)

其中o是一个实体或关系，o^k是它的向量表示，sg(o)是它的上下文子图向量，⊙代表逐元素乘，

将门向量g中的每个元素的取值范围限制在[0,1]，其中

是随机初始化的一个参数向量，所有实体共用一个参数g，记为g^e，所有关系共用另一个参数g，记为g^r，o^*代表给定对象o的联合向量表示。

3.根据权利要求书1所述的动态环境下的知识图谱表示学习方法，其特征在于，所述步骤1)中的基于上下文信息的表示学习模型的训练过程采用如下得分函数：

其中(h,r,t)分别代表知识图谱中给定三元组的头实体、关系和尾实体，h^*，r^*和t^*分别是头实体、关系和尾实体的联合向量表示，由公式(5)计算得到，

是l₁范数；f(h,r,t)代表给定三元组的得分。

4.根据权利要求书1所述的动态环境下的知识图谱表示学习方法，其特征在于，所述步骤1)中的基于上下文信息的表示学习模型的训练过程采用如下损失函数：

其中γ是边距，S是正确三元组的集合，S′是通过负采样生成的错误三元组的集合，(h,r,t)和(h′,r,t′)分别是S和S′中的三元组，f(·)代表给定三元组的得分，由公式(6)计算得到，

代表给定三元组的损失值。

5.根据权利要求书1所述的动态环境下的知识图谱表示学习方法，其特征在于，所述步骤2)中的增量式表示学习算法包含如下步骤：

步骤2-1)移除所有被删除的对象(实体或关系)的向量表示；

步骤2-2)为所有新增对象(实体或关系)添加随机初始化的向量表示；

步骤2-3)收集知识图谱中所有包含新增对象(实体或关系)以及上下文发生改变的对象(实体或关系)的三元组；

步骤2-4)基于公式(7)中定义的损失函数，使用随机梯度下降法来训练上述步骤2-3)中收集得到的三元组，训练过程中更新的参数只包括：新增对象(实体或关系)的向量、新增对象(实体或关系)的上下文角色向量以及上下文发生改变的原有对象(实体或关系)的向量，其余参数保持不变。

Images