CN116680415A - 一种基于实体结构特征的长尾实体对齐方法 - Google Patents

Abstract

本发明适用于实体对齐领域，提供了一种基于实体结构特征的长尾实体对齐方法，包括：按照比例随机划分训练集和测试集；随机初始化实体和关系嵌入，并将两个知识图谱的实体和关系嵌入到相同的向量空间中；利用实体嵌入和关系嵌入分别计算头实体和尾实体的投影表示；计算所有三元组中实体的上下文表示；基于上下文向量表示，计算向量之间的距离，对计算得到的距离使用全局最优的对齐策略，得到新的对齐实体对；将对齐实体对加入对齐集合，并基于该集合补全知识图谱三元组，该方法以处理知识图谱中存在的一对多关系以及复杂关系模式的问题，可以有效地减少长尾实体数量，有利于提高实体对齐的准确度。

Description

一种基于实体结构特征的长尾实体对齐方法

技术领域

本发明涉及实体对齐领域，具体是一种基于实体结构特征的长尾实体对齐方法。

背景技术

随着知识图谱技术研究与应用的深化，知识图谱所应用的研究领域范围越来越广，已经不再局限应用于人工智能领域的智能检索和数据可视化，相关技术已经在金融行业、生物医疗、图书管理及电商推荐等领域得到较为广泛的应用。然而现实世界中这些知识图谱可以由不同机构组织或个人按照特定的需求来设计构建，在不同领域、不同时间都会产生不同的知识图谱，其知识图谱的构建方式、规模大小、数据的表达形式以及语言的选择都存在一定的差异，这导致知识图谱可能出现冗余异构问题；实体对齐任务的主要目的是找到拥有不同表示形式的同一现实世界实体，使用实体对齐不仅可以解决不同知识图谱之间存在的冗余问题，也可以降低知识图谱的稀疏性，不同实体对齐算法的选择与实现正是提高知识图谱实体对齐准确度的关键手段，实体对齐研究分为传统的实体对齐方法和基于知识表示学习的实体对齐方法，随着信息化技术越来越快的发展，知识图谱的规模越来越大，实体和关系数量随之扩增，传统实体对齐方法面临着计算效率低和可扩展性差的问题，不能进一步得到更多高质量的对齐实体，同时传统实体对齐方法忽略了三元组结构之间的语义信息，不能有效表达实体信息，存在一定的局限性；目前基于知识表示的实体对齐方法大多是基于翻译模型的嵌入方法，可以有效地对知识图谱中的结构信息进行建模，通过捕获知识图谱三元组之间的局部语义信息以实现实体对齐。相比于传统实体对齐方法，基于表示学习的实体对齐能够很好地提高计算效率、有效地丰富实体和关系信息，从而显著提高实体对齐准确率，然而典型的翻译模型不能处理实体之间的一对多关系，在知识图谱嵌入中存在局限性，不足以得到高置信度的对齐结果。R_otatE模型巧妙地利用了欧拉公式e^iθ＝cosθ+i sinθ，将实体和关系映射到复数空间，并将关系定义为复数空间中头实体向尾实体的旋转。现有的均匀负采样方式通常效率不高，在训练过程中为所有负样本分配了相同的权重，而实际上许多样本是错误的，不能提供任何有意义的信息。而自对抗负采样方法有选择地采样负三元组，即当一个样本在模型中错误的概率越大，则更应该被选为负样本。并且由于现实世界中的知识图谱往往更加稀疏，大部分实体都是长尾实体，结构嵌入表达能力低，这不利于实体对齐任务的开展。

现有的大多数实体对齐研究注意力重点集中于利用知识图谱的三元组结构学习实体嵌入来进行实体对齐，但该方法存在实体嵌入表达能力低的问题，往往忽略了其余的特征语义信息都会给实体对齐带来一定的帮助；其次，知识图谱实体间存在着大量的一对多的复杂关系，基于TransE模型的知识图谱嵌入只能处理一对一的关系，并在处理对称关系模式上能力有限；同样由于h+r＝t的约束，导致TransE在建模具有对称关系的三元组时，会出现头实体和尾实体在向量空间中的嵌入表示彼此接近、对称关系表示始终为0的状况，因此TransE不能被用于建模具有对称关系模式的实体，不能利用其关系所蕴含的语义信息，导致一定程度的影响嵌入效果；现实世界中通常存在着大量的异构冗余知识图谱和长尾实体，只依赖结构信息会导致实体向量表达性低，直接影响实体对齐的表现。

因此，针对以上现状，迫切需要提供一种基于实体结构特征的长尾实体对齐方法，以克服当前实际应用中的不足。

发明内容

本发明的目的在于提供一种基于实体结构特征的长尾实体对齐方法，旨在解决上述背景技术中的问题。

本发明是这样实现的，一种基于实体结构特征的长尾实体对齐方法，该方法包括以下步骤：

步骤S1：给定两个知识图谱、实体集合、关系集合以及种子集，并按照比例随机划分训练集和测试集；

步骤S2：随机初始化实体和关系嵌入，并将两个知识图谱的实体和关系嵌入到相同的向量空间中；

步骤S3：利用步骤S2中得到的实体嵌入和关系嵌入分别计算头实体和尾实体的投影表示；

步骤S4：计算所有三元组中实体的上下文表示；

步骤S5：基于步骤S4中得到的上下文向量表示，计算向量之间的距离，对计算得到的距离使用全局最优的对齐策略，得到新的对齐实体对；

步骤S6：将步骤S5中得到的对齐实体对加入对齐集合，并基于该集合补全知识图谱三元组，返回步骤S1继续执行，直到不再出现新的对齐实体对。

作为本发明进一步的方案：在步骤S2中，利用RotatE模型将两个知识图谱的实体和关系嵌入到相同的向量空间中。

作为本发明进一步的方案：在步骤S2中，还包括基于关系向量|r|＝1的约束，处理知识图谱中的对称关系模式。

作为本发明进一步的方案：在步骤S4中，计算所有三元组中实体担任分别不同角色的平均投影向量表示，将平均投影向量表示记为实体的上下文表示。

作为本发明进一步的方案：在步骤S5中，使用余弦相似度来计算向量之间的距离。

作为本发明进一步的方案：在步骤S2中，利用基于表示学习的模型将两个知识图谱嵌入到同一向量空间中，计算三元组得分，得分函数为：

在步骤S3中，基于实体嵌入和关系嵌入计算实体分别担任头实体和尾实体对应的投影映射和/>得到：

在步骤S4中，计算实体在所有三元组中分别担任头实体和尾实体的上下文表示h^c和t^c，给定一个尾实体t，则三元组中连接尾实体t的所有被定义为尾实体的上下文，表示为集合Ne(t)，通过平均化尾实体的投影向量表示得到t^c，得到：

使用Adam优化函数最小化损失函数，损失函数定义为：

f_total(h，r，t)＝f(h，r，t)+f_c(h，r，t)；

作为本发明进一步的方案：在步骤S6中，知识图谱补全的具体步骤为：

基于实体对齐中的结构嵌入获得初始实体相似度矩阵，基于相似度矩阵使用全局最优的对齐策略找到互相最为相似的两个实体；

将源知识图谱中的三元组T_1的关系用于补充目标知识图谱中的关系，使得目标知识图谱获得新的关系三元组。

与现有技术相比，本发明的有益效果：

该方法面向真实世界知识图谱，基于实体结构特征信息实现长尾实体对齐，数据集中拥有较多的关系三元组，充分利用知识图谱图结构信息，将知识图谱嵌入到复数空间中捕捉到丰富的实体嵌入，在此模型上考虑实体在三元组中分别担任头实体和尾实体的角色，利用相邻节点的嵌入和节点之间的对应关系为实体增加两个上下文表示，很好地处理知识图谱中存在的一对多复杂关系以及多关系模式；

针对现实世界知识图谱中存在的大量长尾实体现象，将基于实体结构特征的模型训练得到的对齐实体作为两个知识图谱补全的桥梁，结合知识图谱补全和实体对齐进行迭代训练以预测三元组中的关系，大大提高知识图谱覆盖率，较少长尾实体数量；

使用迭代扩充知识图谱三元组数量的方法避免了后续迭代中出现错误传播的情况，很好地提升实体对齐效果；

本发明解决了知识图谱中实体之间存在的一对多关系问题，解决了现有的翻译模型无法处理知识图谱中存在的复杂关系模式的问题，解决了真实世界知识图谱中存在的长尾实体问题，可以有效地减少长尾实体数量，有利于提高实体对齐的准确度。

附图说明

图1为本发明实施例的流程图。

图2为本发明实施例的结构图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。以下结合具体实施例对本发明的具体实现进行详细描述。

请参阅图1，本发明实施例提供的一种基于实体结构特征的长尾实体对齐方法，该方法包括以下步骤：

步骤S1：给定两个知识图谱、实体集合、关系集合以及种子集，按照比例随机划分训练集和测试集；

步骤S2：随机初始化实体和关系嵌入，利用R_otatE模型将两个知识图谱的实体和关系嵌入到相同的向量空间中，基于关系向量|r|＝1的约束，很好地处理知识图谱中的对称关系模式；

步骤S3：利用步骤S2中得到的实体嵌入和关系嵌入分别计算头实体和尾实体的投影表示；

步骤S4：计算所有三元组中实体担任分别不同角色的平均投影向量表示，记为实体的上下文表示；

步骤S5：基于步骤S4中得到的上下文向量表示，使用余弦相似度来计算向量之间的距离，对计算得到的距离使用全局最优的对齐策略，得到新的对齐实体对；

步骤S6：将步骤S5中得到的对齐实体对加入对齐集合，基于该集合补全知识图谱三元组，返回步骤S1继续执行，直到不再出现新的对齐实体对。

其中，模型结构主要分为实体对齐和知识图谱补全两部分，通过迭代实体对齐和知识图谱补全以提升实体对齐结果准确度，如图2所示：

(1)实体对齐：

首先利用基于表示学习的模型将两个知识图谱嵌入到同一向量空间中，计算三元组得分，得分函数为：

基于实体嵌入和关系嵌入计算实体分别担任头实体和尾实体对应的投影映射和得到：

计算实体在所有三元组中分别担任头实体和尾实体的上下文表示h^c和t^c；例如给定一个尾实体t，则三元组中连接尾实体t的所有(head，relation)被定义为尾实体的上下文，表示为集合Ne(t)，通过平均化尾实体的投影向量表示得到t^c，得到：

使用Adam优化函数最小化损失函数，使得正三元组得分越低越好，负样本三元组得分越高，更有利于区分正确三元组，损失函数定义为：

f_total(h，r，t)＝f(h，r，t)+f_c(h，r，t)；

(2)知识图谱补全：

首先基于实体对齐中的结构嵌入获得初始实体相似度矩阵，基于相似度矩阵使用全局最优的对齐策略找到互相最为相似的两个实体；对于源知识图谱中的实体e₁来说，目标知识图谱中的e₂实体是与之最相似的实体，同理，对于目标知识图谱e₂来说，源知识图谱中的e₁实体是与之最相似的实体，并且为了保证获得更准确的一致性对齐实体，需要满足两个实体之间的相似度大于一个阈值θ，将满足条件的实体对添加到集合S_KC中；

将源知识图谱中的三元组T₁的关系用于补充目标知识图谱中的关系，使得目标知识图谱获得新的关系三元组；例如，给定一个源知识图谱的三元组(h₁，r₁，t₁)，如果S_KC中同时存在(h₁，h₂)和(t₁，t₂)实体对，则将h₂实体替换为h₁实体、t₂实体替换为t₁实体，即目标知识图谱中的三元组(h₂，？，t₂)所缺失的关系更新为r₁，将新三元组(h₂，r₁，t₂)加入到目标知识图谱中，使得目标知识图谱拥有源知识图谱的结构信息，这样既丰富了知识图谱，还有效地减少了长尾实体的数量；

迭代交互知识图谱补全和实体对齐模型，每一轮训练都执行相同的计算方法获得新的三元组填充知识图谱，实体对齐模型会重新按照新的知识图谱训练更新实体嵌入，增加的三元组可以有效地提升结构嵌入表示；迭代交互直到不再增加新的三元组或者实体对齐效果不再提升则停止迭代训练。

在本发明的实施例中，该方法面向真实世界知识图谱，基于实体结构特征信息实现长尾实体对齐，数据集中拥有较多的关系三元组，充分利用知识图谱图结构信息，将知识图谱嵌入到复数空间中捕捉到丰富的实体嵌入，在此模型上考虑实体在三元组中分别担任头实体和尾实体的角色，利用相邻节点的嵌入和节点之间的对应关系为实体增加两个上下文表示，很好地处理知识图谱中存在的一对多复杂关系以及多关系模式；针对现实世界知识图谱中存在的大量长尾实体现象，将基于实体结构特征的模型训练得到的对齐实体作为两个知识图谱补全的桥梁，结合知识图谱补全和实体对齐进行迭代训练以预测三元组中的关系，大大提高知识图谱覆盖率，较少长尾实体数量；使用迭代扩充知识图谱三元组数量的方法避免了后续迭代中出现错误传播的情况，很好地提升实体对齐效果；相比现有技术，本发明解决了知识图谱中实体之间存在的一对多关系问题，解决了现有的翻译模型无法处理知识图谱中存在的复杂关系模式的问题，解决了真实世界知识图谱中存在的长尾实体问题，可以有效地减少长尾实体数量，有利于提高实体对齐的准确度。

在本发明，相关名词解释如下：

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (7)

1.一种基于实体结构特征的长尾实体对齐方法，其特征在于，该方法包括以下步骤：

步骤S1：给定两个知识图谱、实体集合、关系集合以及种子集，并按照比例随机划分训练集和测试集；

步骤S2：随机初始化实体和关系嵌入，并将两个知识图谱的实体和关系嵌入到相同的向量空间中；

步骤S3：利用步骤S2中得到的实体嵌入和关系嵌入分别计算头实体和尾实体的投影表示；

步骤S4：计算所有三元组中实体的上下文表示；

步骤S5：基于步骤S4中得到的上下文向量表示，计算向量之间的距离，对计算得到的距离使用全局最优的对齐策略，得到新的对齐实体对；

步骤S6：将步骤S5中得到的对齐实体对加入对齐集合，并基于该集合补全知识图谱三元组，返回步骤S1继续执行，直到不再出现新的对齐实体对。

2.根据权利要求1所述的基于实体结构特征的长尾实体对齐方法，其特征在于，在步骤S2中，利用RotatE模型将两个知识图谱的实体和关系嵌入到相同的向量空间中。

3.根据权利要求1所述的基于实体结构特征的长尾实体对齐方法，其特征在于，在步骤S2中，还包括基于关系向量r|＝1的约束，处理知识图谱中的对称关系模式。

4.根据权利要求1所述的基于实体结构特征的长尾实体对齐方法，其特征在于，在步骤S4中，计算所有三元组中实体担任分别不同角色的平均投影向量表示，将平均投影向量表示记为实体的上下文表示。

5.根据权利要求1所述的基于实体结构特征的长尾实体对齐方法，其特征在于，在步骤S5中，使用余弦相似度来计算向量之间的距离。

6.根据权利要求1所述的基于实体结构特征的长尾实体对齐方法，其特征在于，在步骤S2中，利用基于表示学习的模型将两个知识图谱嵌入到同一向量空间中，计算三元组得分，得分函数为：

在步骤S3中，基于实体嵌入和关系嵌入计算实体分别担任头实体和尾实体对应的投影映射和/>得到：

在步骤S4中，计算实体在所有三元组中分别担任头实体和尾实体的上下文表示h^c和t^c，给定一个尾实体t，则三元组中连接尾实体t的所有被定义为尾实体的上下文，表示为集合Ne(t)，通过平均化尾实体的投影向量表示得到t^c，得到：

使用Adam优化函数最小化损失函数，损失函数定义为：

f_total(h，r，t)＝f(h，r，t)+f_c(h，r，t)；

7.根据权利要求6所述的基于实体结构特征的长尾实体对齐方法，其特征在于，在步骤S6中，知识图谱补全的具体步骤为：

基于实体对齐中的结构嵌入获得初始实体相似度矩阵，基于相似度矩阵使用全局最优的对齐策略找到互相最为相似的两个实体；

将源知识图谱中的三元组T₁的关系用于补充目标知识图谱中的关系，使得目标知识图谱获得新的关系三元组。