CN112949835A - 基于卷积循环神经网络对知识图谱的推理方法及设备 - Google Patents

Abstract

本发明涉及数据处理领域，公开了一种基于卷积循环神经网络对知识图谱的推理方法及设备，S1：基于卷积循环神经网络学习对知识图谱的实体及关系的推理，并且提取局部特征；S2：结合卷积循环神经网络和符号逻辑推理，构建用于共享RNN的关系类型表示和组合矩阵的单个C‑RNN参数模型并进行模型训练，用于对知识图谱和文本进行联合推理；S3：通过在C‑RNN模型中引入新的分数池方法，计算知识图谱中实体对之间多条路径的平均值及三元组概率，融合多条路径；S4：使用知识图谱中提供的实体类型表示、关系，通过对实体类型表示的简单相加获得实体表示，将实体表示及关系作为C‑RNN参数模型的输入，对知识图谱进行推理。本发明能够解决传统RNN局部修正能力的不足，提高推理结果的准确性。

Description

基于卷积循环神经网络对知识图谱的推理方法及设备

技术领域

本发明涉及数据处理领域，特别涉及一种基于卷积循环神经网络对知识图谱的推理方法及设备。

背景技术

人们对扩展神经网络来执行更复杂的推理越来越感兴趣，而以前只能由符号和逻辑推理系统来处理。从文本中填充知识库，并表示知识库中不同的语义的通用模式，它学习关系类型的向量嵌入——所有输入关系类型的并集，既来自多个结构化的知识图谱(Knowledge Graphs)模式，也来自自然语言文本中的关系表达式。

以往对这种复杂推理的研究主要集中在符号和逻辑规则的学习上，由于知识图谱的规模即复杂性，对基于知识图谱的推理造成了一定的困难，产生RNN局部修正能力不足，推理准确性较低的问题。

发明内容

为了解决现有技术RNN局部修正能力不足，推理准确性较低的问题，本发明提供了一种基于卷积循环神经网络对知识图谱的推理方法及设备。

本发明的技术方案如下：

一种基于卷积循环神经网络对知识图谱的推理方法，包括以下步骤：

S1：基于卷积循环神经网络学习对知识图谱的实体及关系的推理，并且提取局部特征；

S2：结合卷积循环神经网络和符号逻辑推理，构建用于共享RNN的关系类型表示和组合矩阵的单个C-RNN参数模型并进行模型训练，用于对知识图谱和文本进行联合推理；

S3：通过在C-RNN模型中引入新的分数池方法，计算知识图谱中实体对之间多条路径的平均值及三元组概率，融合多条路径；

S4：使用知识图谱中提供的实体类型表示、关系，通过对实体类型表示的简单相加获得实体表示，将实体表示及关系作为C-RNN参数模型的输入，对知识图谱进行推理。

进一步地，所述S1包括：

S11：所述卷积循环神经网络为卷积神经网络和单向循环神经网络的结合，卷积循环神经网络通过卷积神经网络提取局部特征；

S12：单层的所述卷积神经网络包括输入路径嵌入层、卷积层与最大池化层，嵌入层的输出传入卷积层进行卷积运算提取局部特征，提取的局部特征利用最大池化层获取有价值的高阶表示。

进一步地，所述S12包括：

S121：所述卷积层通过使用若干个过滤器在输入路径嵌入层的输入路径上进行滑动，提取输入路径上i处的局部特征；

S122：在输入路径的i处定义一个窗口，输入路径上的向量h为Wi＝[x_i，x_i+1，...，x_i+h-1]，其中逗号表示连续行向量x_i，x_i+1，...，x_i+h-1的串联；

S123：接着将卷积运算大小为h的波滤器c∈Rh×d应用于第i个窗口，产生一个新的特征m_i，表达式为：

m_i＝f(W_i·C+b) 式(1)；

S124：通过设计一个大小为s的本大最大池化窗口，然后在特征映射上应用它，生成池化特征表示，卷积层中的n个特性可以得到n个池特性映射，分别为p¹，p²，…，pⁿ；

S125：重新组织池特性映射，将新的连续高阶窗口表示P^j(j∈[1，1/s])输入RNN，保留输入路径的原始序列性质。

进一步地，所述S2包括以下步骤：

S21：建立共享C-RNN参数模型的关系类型表示和组合矩阵，通过在所有目标关系中共享RNN的关系类型表示和组合矩阵，为相同的训练数据提供较少数量的参数；

S22：训练C-RNN参数模型，使用知识图谱中已存在观察到的三元组作为正示例，将未观察到的三元组作为负例训练模型，设R{γ₁，γ₂，...，γ_n}为训练的所有查询关系类型集合，设

为R中所有关系类型的正、负三元组集合，对模型参数进行训练，使负对数似然最小，公式如下：

其中，M为训练样本总数，θ为模型所有参数的集合。

进一步地，所述S3包括以下步骤：

S31：根据实体对之间的多条路径，令{s₁，s₂，...，s_N}为连接实体对(e_s，e_t)，通过“max”方法的直接扩展，平均最高的k个得分路径，设K为top-k计分路径的索引：

S32：得到所有路径得分的平均值：

S33：池层是一个平滑的近似于max函数LongSumExp，给定分数向量，LSE计算为：

因此三元组的概率为：

P(r|e₁，e₂)＝σ(LSE(s₁，s₂，...，s_N)) 式(6)；

本发明提供了一种基于卷积循环神经网络对知识图谱的推理设备，所述基于卷积循环神经网络对知识图谱的推理设备包括：

存储器、处理器，通信总线以及存储在所述存储器上的基于卷积循环神经网络对知识图谱的推理程序，

所述通信总线用于实现处理器与存储器间的通信连接；

所述处理器用于执行所述基于卷积循环神经网络对知识图谱的推理程序，以实现如上述中任意一项所述的基于卷积循环神经网络对知识图谱的推理方法的步骤。

本发明还提供了一种计算机可读存储介质，存储有可执行指令，所述存储介质上存储有基于卷积循环神经网络对知识图谱的推理程序，所述基于卷积循环神经网络对知识图谱的推理程序被处理器执行时实现上述中任意一项所述的基于卷积循环神经网络对知识图谱的推理方法的步骤。

本发明的有益效果至少包括：基于卷积循环神经网络对知识图谱学习隐含关系的推理，能够解决传统RNN局部修正能力的不足，提高推理结果的准确性；结合符号逻辑推挤与神经网络，进行联合推理，减少了构建模型的数量，降低了时间和空间复杂性。

附图说明

图1为本发明的整体流程结构示意图。

图2为本发明的卷积循环神经网络结构示意图。

图3为本发明的RNN建模实施例结构示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

结合图1-3所示，本发明公开了一种基于卷积循环神经网络对知识图谱的推理方法，包括以下步骤：

S1：基于卷积循环神经网络学习对知识图谱的实体及关系的推理，并且提取局部特征；

S2：结合卷积循环神经网络和符号逻辑推理，构建用于共享RNN的关系类型表示和组合矩阵的单个C-RNN参数模型并进行模型训练，用于对知识图谱和文本进行联合推理；

S3：通过在C-RNN模型中引入新的分数池方法，计算知识图谱中实体对之间多条路径的平均值及三元组概率，融合多条路径；

S4：使用知识图谱中提供的实体类型表示、关系，通过对实体类型表示的简单相加获得实体表示，将实体表示及关系作为C-RNN参数模型的输入，对知识图谱进行推理。

进一步地，所述S1包括：

S11：所述卷积循环神经网络为卷积神经网络和单向循环神经网络的结合，卷积循环神经网络通过卷积神经网络提取局部特征；

S12：单层的所述卷积神经网络包括输入路径嵌入层、卷积层与最大池化层，嵌入层的输出传入卷积层进行卷积运算提取局部特征，提取的局部特征利用最大池化层获取有价值的高阶表示。

进一步地，所述S12包括：

S121：所述卷积层通过使用若干个过滤器在输入路径嵌入层的输入路径上进行滑动，提取输入路径上i处的局部特征；

S122：在输入路径的i处定义一个窗口，输入路径上的向量h为Wi＝[x_i，x_i+1，...，x_i+h-1]，其中逗号表示连续行向量x_i，x_i+1，...，x_i+h-1的串联；

S123：接着将卷积运算大小为h的波滤器c∈Rh×d应用于第i个窗口，产生一个新的特征mi，表达式为：

m_i＝f(W_i·C+b) 式(1)；

S124：通过设计一个大小为s的本大最大池化窗口，然后在特征映射上应用它，生成池化特征表示，卷积层中的n个特性可以得到n个池特性映射，分别为p¹，p²，…，pⁿ；

S125：重新组织池特性映射，将新的连续高阶窗口表示P^j(j∈[1，1/s])输入RNN，保留输入路径的原始序列性质。

进一步地，所述S2包括以下步骤：

S21：建立共享C-RNN参数模型的关系类型表示和组合矩阵，通过在所有目标关系中共享RNN的关系类型表示和组合矩阵，为相同的训练数据提供较少数量的参数；

本发明将这个模型称为单模型，这只是多任务学习之间的预测目标关系类型与一个潜在的共享参数架构，RNN的隐藏状态现在为：h(t)＝f(W_hhh_t-1+W_ihy_rt)。

S22：训练C-RNN参数模型，使用知识图谱中已存在观察到的三元组作为正示例，将未观察到的三元组作为负例训练模型，设R{γ₁，γ₂，...，γ_n}为训练的所有查询关系类型集合，设

为R中所有关系类型的正、负三元组集合，对模型参数进行训练，使负对数似然最小，公式如下：

其中，M为训练样本总数，θ为模型所有参数的集合。Path-rnn模型对每个关系都有一个单独的损失函数，仅依赖于数据的相关子集。

进一步地，所述S3包括以下步骤：

S31：根据实体对之间的多条路径，令{s₁，s₂，...，s_N}为连接实体对(e_s，e_t)，通过“max”方法的直接扩展，平均最高的k个得分路径，设K为top-k计分路径的索引：

S32：得到所有路径最终得分的平均值：

S33：池层是一个平滑的近似于max函数LongSumExp，给定分数向量，LSE计算为：

因此三元组的概率为：

P(r|e₁，e₂)＝σ(LSE(s₁，s₂，...，s_N)) 式(6)；

平均和LSE池函数在推理期间对所有路径应用非零权值，然而，实体对之间只有少数路径可以预测查询关系。

本发明提供了一种基于卷积循环神经网络对知识图谱的推理设备，所述基于卷积循环神经网络对知识图谱的推理设备包括：

存储器、处理器，通信总线以及存储在所述存储器上的基于卷积循环神经网络对知识图谱的推理程序，

所述通信总线用于实现处理器与存储器间的通信连接；

所述处理器用于执行所述基于卷积循环神经网络对知识图谱的推理程序，以实现如上述中任意一项所述的基于卷积循环神经网络对知识图谱的推理方法的步骤。

本发明还提供了一种计算机可读存储介质，存储有可执行指令，所述存储介质上存储有基于卷积循环神经网络对知识图谱的推理程序，所述基于卷积循环神经网络对知识图谱的推理程序被处理器执行时实现上述中任意一项所述的基于卷积循环神经网络对知识图谱的推理方法的步骤。

合并实体的一种直接方法是将实体表示及关系作为RNN的输入，学习独立实体的表示。实体出现的分布是重尾的，因此很难学习很少出现实体的良好表示，为了缓解这个问题，本发明使用知识库中提供的实体类型，大多数知识图谱为实体提供了注释类型，每个实体可以有多种类型。

例如，梅琳达·盖茨有CEO、杜克大学校友、慈善家、美国公民等类型，本发明通过实体类型表示的简单相加获得实体表示，实体类型表示是在模型训练期间学习的，本发明将一个实体的实体类型的数量限制为知识图谱中最常见的7中类型，让

表示实体e_t，RNN的隐藏状态可更新为：

w_eh∈R^m×h是新表示实体的参数矩阵，图3显示了本发明的模型，其中包含了实体微软、美国之间的示例路径，并将countryOfHQ(总部所在国家)作为查询关系。

本发明提供的基于卷积循环神经网络对知识图谱学习隐含关系的推理，能够解决传统RNN局部修正能力的不足，提高推理结果的准确性；结合符号逻辑推挤与神经网络，进行联合推理，减少了构建模型的数量，降低了时间和空间复杂性。

以上所述仅为本发明的实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (7)

1.一种基于卷积循环神经网络对知识图谱的推理方法，其特征在于：包括以下步骤：

S1：基于卷积循环神经网络学习对知识图谱的实体及关系的推理，并且提取局部特征；

S2：结合卷积循环神经网络和符号逻辑推理，构建用于共享RNN的关系类型表示和组合矩阵的单个C-RNN参数模型并进行模型训练，用于对知识图谱和文本进行联合推理；

S3：通过在C-RNN模型中引入新的分数池方法，计算知识图谱中实体对之间多条路径的平均值及三元组概率，融合多条路径；

S4：使用知识图谱中提供的实体类型表示、关系，通过对实体类型表示的简单相加获得实体表示，将实体表示及关系作为C-RNN参数模型的输入，对知识图谱进行推理。

2.根据权利要求1所述的基于卷积循环神经网络对知识图谱的推理方法，其特征在于：所述S1包括：

S11：所述卷积循环神经网络为卷积神经网络和单向循环神经网络的结合，卷积循环神经网络通过卷积神经网络提取局部特征；

S12：单层的所述卷积神经网络包括输入路径嵌入层、卷积层与最大池化层，嵌入层的输出传入卷积层进行卷积运算提取局部特征，提取的局部特征利用最大池化层获取有价值的高阶表示。

3.根据权利要求2所述的基于卷积循环神经网络对知识图谱的推理方法，其特征在于：所述S12包括：

S121：所述卷积层通过使用若干个过滤器在输入路径嵌入层的输入路径上进行滑动，提取输入路径上i处的局部特征；

S122：在输入路径的i处定义一个窗口，输入路径上的向量h为Wi＝[x_i，x_i+1，...，x_i+h-1]，其中逗号表示连续行向量x_i，x_i+1，...，x_i+h-1的串联；

S123：接着将卷积运算大小为h的波滤器C∈Rh×d应用于第i个窗口，产生一个新的特征m_i，表达式为：

m_i＝f(W_i·C+b) 式(1)；

S124：通过设计一个大小为s的本大最大池化窗口，然后在特征映射上应用它，生成池化特征表示，卷积层中的n个特性可以得到n个池特性映射，分别为p¹，p²，...，pⁿ；

S125：重新组织池特性映射，将新的连续高阶窗口表示P^j(j∈[1，l/s])输入RNN，保留输入路径的原始序列性质。

4.根据权利要求1所述的基于卷积循环神经网络对知识图谱的推理方法，其特征在于：所述S2包括以下步骤：

S21：建立共享C-RNN参数模型的关系类型表示和组合矩阵，通过在所有目标关系中共享RNN的关系类型表示和组合矩阵，为相同的训练数据提供较少数量的参数；

S22：训练C-RNN参数模型，使用知识图谱中已存在观察到的三元组作为正示例，将未观察到的三元组作为负例训练模型，设R{γ₁，γ₂，...，γ_n}为训练的所有查询关系类型集合，设

为R中所有关系类型的正、负三元组集合，对模型参数进行训练，使负对数似然最小，公式如下：

其中，M为训练样本总数，θ为模型所有参数的集合。

5.根据权利要求1所述的基于卷积循环神经网络对知识图谱的推理方法，其特征在于：所述S3包括以下步骤：

S31：根据实体对之间的多条路径，令{s₁，s₂，...，s_N}为连接实体对(e_s，e_t)，通过“max”方法的直接扩展，平均最高的k个得分路径，设K为top-k计分路径的索引：

S32：得到所有路径得分的平均值：

S33：池层是一个平滑的近似于max函数LongSumExp，给定分数向量，LSE计算为：

因此三元组的概率为：

P(r|e₁，e₂)＝σ(LSE(s₁，s₂，...，s_N)) 式(6)。

6.一种基于卷积循环神经网络对知识图谱的推理设备，其特征在于：所述基于卷积循环神经网络对知识图谱的推理设备包括：

存储器、处理器，通信总线以及存储在所述存储器上的基于卷积循环神经网络对知识图谱的推理程序，

所述通信总线用于实现处理器与存储器间的通信连接；

所述处理器用于执行所述基于卷积循环神经网络对知识图谱的推理程序，以实现如上述权利要求1-5中任意一项所述的基于卷积循环神经网络对知识图谱的推理方法的步骤。

7.一种计算机可读存储介质，存储有可执行指令，其特征在于：所述存储介质上存储有基于卷积循环神经网络对知识图谱的推理程序，所述基于卷积循环神经网络对知识图谱的推理程序被处理器执行时实现上述权利要求1-5中任意一项所述的基于卷积循环神经网络对知识图谱的推理方法的步骤。

Images