CN110851614A - 知识图谱的关系预测推演方法及知识图谱的动态更新方法 - Google Patents
知识图谱的关系预测推演方法及知识图谱的动态更新方法 Download PDFInfo
- Publication number
- CN110851614A CN110851614A CN201910845840.0A CN201910845840A CN110851614A CN 110851614 A CN110851614 A CN 110851614A CN 201910845840 A CN201910845840 A CN 201910845840A CN 110851614 A CN110851614 A CN 110851614A
- Authority
- CN
- China
- Prior art keywords
- entity
- embedding space
- embedding
- relation
- knowledge
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 54
- 239000013598 vector Substances 0.000 claims abstract description 67
- 238000012549 training Methods 0.000 claims abstract description 18
- 238000004364 calculation method Methods 0.000 claims description 9
- 230000008859 change Effects 0.000 abstract description 15
- 238000013519 translation Methods 0.000 abstract description 10
- 230000006870 function Effects 0.000 description 24
- 238000011160 research Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 238000005295 random walk Methods 0.000 description 4
- 238000010276 construction Methods 0.000 description 3
- 238000001228 spectrum Methods 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000007711 solidification Methods 0.000 description 2
- 230000008023 solidification Effects 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
- G06F16/367—Ontology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/60—Software deployment
- G06F8/65—Updates
- G06F8/658—Incremental updates; Differential updates
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computational Linguistics (AREA)
- Animal Behavior & Ethology (AREA)
- Computer Security & Cryptography (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提出了一种知识图谱的关系预测推演方法及知识图谱的动态更新方法,知识图谱的关系预测方法包括:针对知识图谱创建多个嵌入空间;从知识图谱中为每个嵌入空间选择实体和关系,作为嵌入空间的实体集合和关系集合;针对每个嵌入空间,训练实体集合对应的实体向量以及训练关系集合对应的关系向量;基于嵌入空间的实体向量和关系向量,计算待预测的第一实体和第二实体之间的预测关系,以确定第一实体和第二实体之间的关系。根据本发明的知识图谱的关系预测推演方法,基于多元嵌入空间进行动态知识图谱关系推理预测,摆脱了为每种关系生成一个关系特定投射向量的约束,克服了传统翻译模型微调参数的需求,可有效适应知识图谱动态变化特性。
Description
技术领域
本发明涉及信息处理技术领域,尤其涉及一种知识图谱的关系预测推演方法及知识图谱的动态更新方法。
背景技术
知识图谱能够提供可被计算机理解的结构化语义信息已经成为诸多人工智能应用不可或缺的重要资源,但是受到“不完备性(Incompleteness)”的影响。知识图谱补全(Knowledge Graph Completion,KGC)任务应运而生,旨在根据知识图谱中已有的知识,预测目前知识图谱所缺失的知识,关系推理预测是其典型研究方向和应用任务:关系预测研究,旨在给定两个实体,预测二者之间缺失的关系。例如,给定三元组(h,?,t),预测关系r。
知识图谱补全任务(特别是关系推理预测任务)对动态性等有着特殊要求,为了适应知识图谱动态变化特性,知识图谱表示学习模型需要能够根据数据的更新进行灵活调整。近来,基于表示学习的知识图谱补全模型已经成为该领域研究主流并取得巨大成果,但是在动态性方面依然存在明显欠缺:以往研究对嵌入空间的固化或者对投射平面的固化,严重阻碍知识图谱表示学习和补全的灵活性和扩展性,一旦知识图谱中删除三元组或者出现未登录实体,传统模型往往需要以高昂的计算代价重新训练模型。
发明内容
本发明要解决的技术问题是解决传统模型知识图谱关系预测计算量大的问题,本发明提供一种知识图谱的关系预测推演方法及知识图谱的动态更新方法。
根据本发明实施例的知识图谱的关系预测推演方法,包括:
针对知识图谱创建多个嵌入空间;
从所述知识图谱中为每个所述嵌入空间选择实体和关系,作为所述嵌入空间的实体集合和关系集合;
针对每个所述嵌入空间,训练所述实体集合对应的实体向量以及训练所述关系集合对应的关系向量;
基于所述嵌入空间的所述实体向量和所述关系向量,计算待预测的第一实体和第二实体之间的预测关系,以确定所述第一实体和所述第二实体之间的关系。
根据本发明实施例的知识图谱的关系预测推演方法,提出了一种基于多元嵌入空间的动态知识图谱关系推理预测方法,不仅摆脱了以往研究为每种关系生成一个关系特定投射向量的约束,而且可以去除传统翻译模型微调参数的需求,提高了知识图谱补全的动态性,有效适应知识图谱动态变化特性,使知识图谱表示学习模型需要能够根据数据的更新进行灵活调整。
根据本发明的一些实施例,所述从所述知识图谱中为每个所述嵌入空间选择实体和关系,作为所述嵌入空间的实体集合和关系集合,包括:
从所述知识图谱中选择至少部分关系作为所述嵌入空间的关系集合;
将选择的所述关系对应的所有实体作为所述嵌入空间的实体集合。
在本发明的一些实施例中,所述基于所述嵌入空间的所述实体向量和所述关系向量,计算待预测的第一实体和第二实体之间的预测关系,以确定所述第一实体和所述第二实体之间的关系,包括:
遍历所有所述嵌入空间,选出同时包括所述第一实体和所述第二实体的待计算嵌入空间;
计算所述待计算嵌入空间内所有所述预测关系与所述第一实体和所述第二实体构成的三元组的函数值;
累加所有所述待计算嵌入空间中对应的所述函数值,得到对应的能量函数值;
将大于预设阈值的所述能量函数值对应的所述预测关系作为所述第一实体和所述第二实体之间的关系。
根据本发明实施例的知识图谱关系的预测推演装置,包括:
创建模块:用于针对知识图谱创建多个嵌入空间;
选择模块:用于从所述知识图谱中为每个所述嵌入空间选择实体和关系,作为所述嵌入空间的实体集合和关系集合;
训练模块:用于针对每个所述嵌入空间,训练所述实体集合对应的实体向量以及训练所述关系集合对应的关系向量;
计算模块:用于基于所述嵌入空间的所述实体向量和所述关系向量,计算待预测的第一实体和第二实体之间的预测关系,以确定所述第一实体和所述第二实体之间的关系。
根据本发明实施例的知识图谱关系的预测推演装置,基于多元嵌入空间的动态知识图谱关系推理预测,不仅摆脱了以往研究为每种关系生成一个关系特定投射向量的约束,而且可以去除传统翻译模型微调参数的需求,提高了知识图谱补全的动态性,有效适应知识图谱动态变化特性,使知识图谱表示学习模型需要能够根据数据的更新进行灵活调整。
根据本发明的一些实施例,所述选择模块具体用于:
从所述知识图谱中选择至少部分关系作为所述嵌入空间的关系集合;
将选择的所述关系对应的所有实体作为所述嵌入空间的实体集合。
在本发明的一些实施例中,所述计算模块具体用于:
遍历所有所述嵌入空间,选出同时包括所述第一实体和所述第二实体的待计算嵌入空间;
计算所述待计算嵌入空间内所有所述预测关系与所述第一实体和所述第二实体构成的三元组的函数值;
累加所有所述待计算嵌入空间中对应的所述函数值,得到对应的能量函数值;
将大于预设阈值的所述能量函数值对应的所述预测关系作为所述第一实体和所述第二实体之间的关系。
根据本发明实施例的知识图谱的动态更新方法,包括:
针对知识图谱创建多个嵌入空间;
当所述知识图谱新增三元组时,为新增的所述三元组创建新增嵌入空间,以更新所述嵌入空间;
基于更新后的所述嵌入空间实现所述知识图谱的更新。
根据本发明实施例的知识图谱的动态更新方法,当数据变化的时候,可以通过生成新嵌入空间等方式来使模型适应动态数据变化。此外,研究在无需重训练前提下的、面向关系预测的知识图谱增量更新模型,使知识图谱能够适应动态数据变化,特别是应对未登录实体引入等诸多实际应用场景,提高了知识图谱补全的动态性。
根据本发明实施例的知识图谱的动态更新方法,包括:
针对知识图谱创建多个嵌入空间;
当所述知识图谱删除三元组时,将对应的所述嵌入空间设置为失效状态,以更新所述嵌入空间;
基于更新后的所述嵌入空间实现所述知识图谱的更新。
根据本发明实施例的知识图谱的动态更新方法,基于平行空间思想,通过协同建模三元组的结构信息和语义信息,生成多元嵌入空间。多元嵌入空间的引入,不仅摆脱了以往研究为每种实体、关系生成一个全局唯一的、固定的实体、关系特定投射向量的约束,而且可以去除传统翻译模型微调参数的需求,因为模型不再依赖于唯一的全局配置,而是为每个嵌入空间引入不同的参数配置、进而提升模型的灵活性。当三元组删除时,可以通过使含有三元组的嵌入空间失效等方式来使模型适应动态数据变化。
根据本发明的一些实施例,所述当所述知识图谱删除三元组时,将对应的所述嵌入空间设置为失效状态,以更新所述嵌入空间,包括:
遍历所有所述嵌入空间,选出具有预被删除的所述三元组的所述嵌入空间;
将选出的所述嵌入空间设置为失效状态,以更新所述嵌入空间。
在本发明的一些实施例中,在创建多个所述嵌入空间后,建立每个所述嵌入空间内的实体和关系构成的三元组,包括:
针对每个所述嵌入空间内的每个所述关系,从所述嵌入空间内选择所述实体作为所述三元组的头实体;
基于所述头实体和所述关系,在所述知识图谱上通过一跳或者多跳路径查询,将查询得到的且位于所述嵌入空间内的实体作为所述三元组的尾实体,以构成所述嵌入空间内的三元组。
附图说明
图1是根据本发明实施例的知识图谱的关系预测推演方法流程图;
图2是根据本发明实施例的嵌入空间选择实体集合和关系集合的方法流程图;
图3是根据本发明实施例的计算待预测实体之间的关系的方法流程图;
图4是根据本发明实施例的嵌入空间的创建流程图;
图5是根据本发明实施例的知识图谱的关系预测推演装置的结构示意图;
图6是根据本发明实施例的知识图谱的关系预测模型架构;
图7是根据本发明实施例的知识图谱的动态更新方法流程图;
图8是根据本发明实施例的知识图谱的动态更新方法流程图;
图9是根据本发明实施例的知识图谱删除三元组时,将对应的嵌入空间设置为失效状态方法流程图;
图10是根据本发明实施例的创建每个嵌入空间三元组的方法流程图。
具体实施方式
为更进一步阐述本发明为达成预定目的所采取的技术手段及功效,以下结合附图及较佳实施例,对本发明进行详细说明如后。
针对知识图谱,以往研究对嵌入空间的固化或者对投射平面的固化,严重阻碍知识图谱表示学习和补全的灵活性和扩展性——当实体向量和关系向量训练好之后便被固化,当数据变化的时候(例如知识图谱删除某实体或者出现未登录实体),只有通过计算开销很大的重新训练,才能使新的知识图谱嵌入表示学习能够表征新进更新的数据所体现的事实。为了适应知识图谱动态变化特性,基于表示学习的知识图谱补全模型亟需能够根据数据的更新进行灵活调整。现有翻译模型对参数敏感、无法处理动态数据和未登录实体(及关系)的缺陷。
如图1所示,根据本发明实施例的知识图谱的关系预测推演方法,包括:
S101:针对知识图谱创建多个嵌入空间;
对待建模的知识图谱G,可以根据特定任务,设置嵌入空间数量。每个嵌入空间Φi初始化为空(不存在任何三元组)。
S102:从知识图谱中为每个嵌入空间选择实体和关系,作为嵌入空间的实体集合和关系集合;
需要说明的是,构建多个嵌入空间后,每个嵌入空间可以包括知识图谱中的部分实体和关系。每个嵌入空间相当于认知和表征原始知识图谱的一个特殊的视角,表示某一类事件或者事实。某个实体或者关系可能出现在多个嵌入空间。
S103:针对每个嵌入空间,训练实体集合对应的实体向量以及训练关系集合对应的关系向量;
本发明不再依赖于全局统一的参数配置,而是为每个嵌入空间都配置不同的参数(如实体向量、关系向量、学习率等)。对每个嵌入空间Φi,参数采用随机初始化方式。最终,可以使用基于随机梯度下降策略的反向传播方法,训练各嵌入空间Φi的实体向量和关系向量:在各嵌入空间Φi训练实体向量和关系向量的方法,可以采用现有TransE模型,也可以使用现有其他的知识图谱表示学习模型。
需要说明的是,多元嵌入空间的引入,不仅摆脱了相关技术中为每种实体、每种关系生成一个关系特定投射向量的约束(实体与实体向量“一对一”,关系与关系向量“一对一”),而且使本发明可以去除传统翻译模型微调参数的需求,因为模型不再依赖于唯一的全局变量配置。
S104:基于嵌入空间的实体向量和关系向量,计算待预测的第一实体和第二实体之间的预测关系,以确定第一实体和第二实体之间的关系。
根据本发明实施例的知识图谱的关系预测推演方法,提出了一种基于多元嵌入空间的动态知识图谱关系推理预测方法,不仅摆脱了以往研究为每种关系生成一个关系特定投射向量的约束,而且可以去除传统翻译模型微调参数的需求,提高了知识图谱补全的动态性,有效适应知识图谱动态变化特性,使知识图谱表示学习模型需要能够根据数据的更新进行灵活调整。
根据本发明的一些实施例,如图2所示,从知识图谱中为每个嵌入空间选择实体和关系,作为嵌入空间的实体集合和关系集合,包括:
S201:从知识图谱中选择至少部分关系作为嵌入空间的关系集合;
S202:将选择的关系对应的所有实体作为嵌入空间的实体集合。
需要说明的是,为了保证从知识图谱所选择的三元组是语义相关,在构建某个嵌入空间Φi的时候,本发明从知识图谱G中采样一定量的关系构成该嵌入空间的关系集合Ri。例如,可以随机选取知识图谱中的部分关系作为对应的嵌入空间的关系集合Ri。对于其中每个关系r∈Ri,本发明选择知识图谱G上所有关系r出现过的三元组(即(?,r,?))中的头实体和尾实体,构建在该嵌入空间上关系r的候选实体集合
如图3所示,在本发明的一些实施例中,基于嵌入空间的实体向量和关系向量,计算待预测的第一实体和第二实体之间的预测关系,以确定第一实体和第二实体之间的关系,包括:
S301:遍历所有嵌入空间,选出同时包括第一实体和第二实体的待计算嵌入空间;
S302:计算待计算嵌入空间内所有预测关系与第一实体和第二实体构成的三元组的函数值;
S303:累加所有待计算嵌入空间中对应的函数值,得到对应的能量函数值;
S304:将大于预设阈值的能量函数值对应的预测关系作为第一实体和第二实体之间的关系。
需要说明的是,在所构建的多元嵌入空间的基础上,本发明执行关系推理预测任务:给定待预测关系的第一实体e1和第二实体e2,关系预测任务旨在识别二者之间是否存在关系以及关系类型。
本发明中,依托多元嵌入空间的关系推理预测,方法如下:遍历所有嵌入空间Φi,当某嵌入空间Φi同时存在第一实体e1和第二实体e2的时候,则计算该嵌入空间上所有关系r与第一实体e1和第二实体e2所构成的潜在三元组(e1,r,e2)的能量函数值其中,所述为该嵌入空间中第一实体e1、第二实体e2以及预测关系r构成的三元组的能量函数值,为第一实体e1对应的实体向量,为第二实体e2对应的实体向量,为关系r对应的实体向量。
进而,累加所有嵌入空间中与第一实体e1、第二实体e2和关系r相关的能量函数即可得到与第一实体e1、第二实体e2和关系r相关的能量函数fr(e1,e2):若fr(e1,e2)超过预设阈值,则说明第一实体e1和第二实体e2存在关系r。
如图5所示,根据本发明实施例的知识图谱关系的预测推演装置,包括:创建模块10、选择模块20、训练模块30和计算模块40。
具体而言,结合图1和图5所示,创建模块10用于针对知识图谱创建多个嵌入空间。
对待建模的知识图谱G,可以根据特定任务,设置嵌入空间数量。每个嵌入空间Φi初始化为空(不存在任何三元组)。
选择模块20可以用于从知识图谱中为每个嵌入空间选择实体和关系,作为嵌入空间的实体集合和关系集合。
需要说明的是,构建多个嵌入空间后,每个嵌入空间可以包括知识图谱中的部分实体和关系。每个嵌入空间相当于认知和表征原始知识图谱的一个特殊的视角,表示某一类事件或者事实。某个实体或者关系可能出现在多个嵌入空间。
训练模块30可以用于针对每个嵌入空间,训练实体集合对应的实体向量以及训练关系集合对应的关系向量。
本发明不再依赖于全局统一的参数配置,而是为每个嵌入空间都配置不同的参数(如实体向量、关系向量、学习率等)。对每个嵌入空间Φi,参数采用随机初始化方式。最终,可以使用基于随机梯度下降策略的反向传播方法,训练各嵌入空间Φi的实体向量和关系向量:在各嵌入空间Φi训练实体向量和关系向量的方法,可以采用现有TransE模型,也可以使用现有其他的知识图谱表示学习模型。
需要说明的是,多元嵌入空间的引入,不仅摆脱了相关技术中为每种实体、每种关系生成一个关系特定投射向量的约束(实体与实体向量“一对一”,关系与关系向量“一对一”),而且使本发明可以去除传统翻译模型微调参数的需求,因为模型不再依赖于唯一的全局变量配置。
计算模块40可以用于基于嵌入空间的实体向量和关系向量,计算待预测的第一实体和第二实体之间的预测关系,以确定第一实体和第二实体之间的关系。
根据本发明实施例的知识图谱关系的预测推演装置,基于多元嵌入空间的动态知识图谱关系推理预测,不仅摆脱了以往研究为每种关系生成一个关系特定投射向量的约束,而且可以去除传统翻译模型微调参数的需求,提高了知识图谱补全的动态性,有效适应知识图谱动态变化特性,使知识图谱表示学习模型需要能够根据数据的更新进行灵活调整。
根据本发明的一些实施例,结合图2和图5所示,选择模块20可以具体用于:从知识图谱中选择至少部分关系作为嵌入空间的关系集合;将选择的关系对应的所有实体作为嵌入空间的实体集合。
需要说明的是,为了保证从知识图谱所选择的三元组是语义相关,在构建某个嵌入空间Φi的时候,本发明从知识图谱G中采样一定量的关系构成该嵌入空间的关系集合Ri。例如,可以随机选取知识图谱中的部分关系作为对应的嵌入空间的关系集合Ri。对于其中每个关系r∈Ri,本发明选择知识图谱G上所有关系r出现过的三元组(即(?,r,?))中的头实体和尾实体,构建在该嵌入空间上关系r的候选实体集合
在本发明的一些实施例中,结合图3和图5所示,计算模块40具体可以用于:
遍历所有嵌入空间,选出同时包括第一实体和第二实体的待计算嵌入空间;
计算待计算嵌入空间内所有预测关系与第一实体和第二实体构成的三元组的函数值;
累加所有待计算嵌入空间中对应的函数值,得到对应的能量函数值;
将大于预设阈值的能量函数值对应的预测关系作为第一实体和第二实体之间的关系。
需要说明的是,在所构建的多元嵌入空间的基础上,本发明执行关系推理预测任务:给定待预测关系的第一实体e1和第二实体e2,关系预测任务旨在识别二者之间是否存在关系以及关系类型。
本发明中,依托多元嵌入空间的关系推理预测,方法如下:遍历所有嵌入空间Φi,当某嵌入空间Φi同时存在第一实体e1和第二实体e2的时候,则计算该嵌入空间上所有关系r与第一实体e1和第二实体e2所构成的潜在三元组(e1,r,e2)的能量函数值其中,所述为该嵌入空间中第一实体e1、第二实体e2以及预测关系r构成的三元组的能量函数值,为第一实体e1对应的实体向量,为第二实体e2对应的实体向量,为关系r对应的实体向量。
进而,累加所有嵌入空间中与第一实体e1、第二实体e2和关系r相关的能量函数即可得到与第一实体e1、第二实体e2和关系r相关的能量函数fr(e1,e2):若fr(e1,e2)超过预设阈值,则说明第一实体e1和第二实体e2存在关系r。
结合图6和图7所示,根据本发明实施例的知识图谱的动态更新方法,包括:
S501:针对知识图谱创建多个嵌入空间;
S502:当知识图谱新增三元组时,为新增的三元组创建新增嵌入空间,以更新嵌入空间;
S503:基于更新后的嵌入空间实现知识图谱的更新。
对于新三元组加入到初始知识图谱的情况,在多元嵌入空间在线自动更新模型的架构如图6所示。嵌入空间自左向右依次构建,左侧嵌入空间(图6中所示的嵌入空间1、嵌入空间2和嵌入空间3)代表最初某个特殊时间节点上的嵌入空间;当知识图谱第一次更新后,将更新内容按照上述多元嵌入空间构建方法,构建新的多元嵌入空间(图6中所示的嵌入空间4和嵌入空间5);同理,当知识图谱第二次更新后,将更新内容按照上述多元嵌入空间构建方法,构建新的多元嵌入空间(图6中所示的嵌入空间6和嵌入空间7),以此类推。
根据本发明实施例的知识图谱的动态更新方法,当数据变化的时候,可以通过生成新嵌入空间等方式来使模型适应动态数据变化。此外,研究在无需重训练前提下的、面向关系预测的知识图谱增量更新模型,使知识图谱能够适应动态数据变化,特别是应对未登录实体引入等诸多实际应用场景,提高了知识图谱补全的动态性。
结合图6和图8所示,根据本发明实施例的知识图谱的动态更新方法,包括:
S601:针对知识图谱创建多个嵌入空间;
S602:当知识图谱删除三元组时,将对应的嵌入空间设置为失效状态,以更新嵌入空间;
需要说明的是,对于三元组从初始知识图谱中删除的情况,在本发明的多元嵌入空间环境下可采取多种方式来有效地解决这个问题。例如,在进行知识推理(如链接预测等)过程中选择性地使包含被删除三元组的嵌入空间失效。
S603:基于更新后的嵌入空间实现知识图谱的更新。
根据本发明实施例的知识图谱的动态更新方法,基于平行空间思想,通过协同建模三元组的结构信息和语义信息,生成多元嵌入空间。多元嵌入空间的引入,不仅摆脱了以往研究为每种实体、关系生成一个全局唯一的、固定的实体、关系特定投射向量的约束,而且可以去除传统翻译模型微调参数的需求,因为模型不再依赖于唯一的全局配置,而是为每个嵌入空间引入不同的参数配置、进而提升模型的灵活性。当三元组删除时,可以通过使含有三元组的嵌入空间失效等方式来使模型适应动态数据变化。
如图9所示,根据本发明的一些实施例,当知识图谱删除三元组时,将对应的嵌入空间设置为失效状态,以更新嵌入空间,包括:
S701:遍历所有嵌入空间,选出具有预被删除的三元组的嵌入空间;
也就是说,可以查询所有嵌入空间,以选出含有被删除的三元组的嵌入空间。
S702:将选出的嵌入空间设置为失效状态,以更新嵌入空间。
需要说明的是,将嵌入空间设置为失效状态后,当嵌入空间发生数据更新后,如新增三元组或删除三元组时,不再会对失效状态后的嵌入空间进行计算。
在本发明的一些实施例中,在创建多个嵌入空间后,建立每个嵌入空间内的实体和关系构成的三元组,包括:
S801:针对每个嵌入空间内的每个关系,从嵌入空间内选择实体作为三元组的头实体;
S802:基于头实体和关系,在知识图谱上通过一跳或者多跳路径查询,将查询得到的且位于嵌入空间内的实体作为三元组的尾实体,以构成嵌入空间内的三元组。
需要说明的是,为了保证所选择的三元组是结构相关,本发明使用随机游走方法,对于关系r,以嵌入空间中的实体集合中的实体作为起始节点(视为头实体h),在知识图谱G上通过一跳或者多跳路径游走到同样存在于上述实体集合的某个节点(视为尾实体t),至此该嵌入空间上的一个三元组(h,r,t)便构建完成了。
由此,不同平行的嵌入空间包含不同的事件序列,进而实现从不同的视角观察整个知识图谱。随机游走方法的优点在于:在任何一个嵌入空间中,实体和关系被游走链所关联,因此确保了实体和关系的相互结构相关;此外,随机游走过程易于平行化实现。
综上所述,根据本发明实施例的知识图谱的关系预测方法和知识图谱的更新方法具有如下优点:
引入双向随机游走方法,实现了对多跳复杂路径的建模与感知,等同于平行空间理论中的事件演进。构建多个嵌入空间,当新数据到来的时候,可以通过生成新嵌入空间等方式来使模型适应动态数据变化。实现了知识图谱表示学习模型能够根据数据的动态更新进行灵活调整。实现了无需重训练前提下的、面向关系预测的知识图谱增量更新模型,使知识图谱能够适应动态数据变化。
本方法可以适用的范围广,可在知识图谱补全、关系推理预测等诸多任务中适用。
通过具体实施方式的说明,应当可对本发明为达成预定目的所采取的技术手段及功效得以更加深入且具体的了解,然而所附图示仅是提供参考与说明之用,并非用来对本发明加以限制。
Claims (10)
1.一种知识图谱的关系预测推演方法,其特征在于,包括:
针对知识图谱创建多个嵌入空间;
从所述知识图谱中为每个所述嵌入空间选择实体和关系,作为所述嵌入空间的实体集合和关系集合;
针对每个所述嵌入空间,训练所述实体集合对应的实体向量以及训练所述关系集合对应的关系向量;
基于所述嵌入空间的所述实体向量和所述关系向量,计算待预测的第一实体和第二实体之间的预测关系,以确定所述第一实体和所述第二实体之间的关系。
2.根据权利要求1所述的知识图谱的关系预测推演方法,其特征在于,所述从所述知识图谱中为每个所述嵌入空间选择实体和关系,作为所述嵌入空间的实体集合和关系集合,包括:
从所述知识图谱中选择至少部分关系作为所述嵌入空间的关系集合;
将选择的所述关系对应的所有实体作为所述嵌入空间的实体集合。
3.根据权利要求1所述的知识图谱的关系预测推演方法,其特征在于,所述基于所述嵌入空间的所述实体向量和所述关系向量,计算待预测的第一实体和第二实体之间的预测关系,以确定所述第一实体和所述第二实体之间的关系,包括:
遍历所有所述嵌入空间,选出同时包括所述第一实体和所述第二实体的待计算嵌入空间;
计算所述待计算嵌入空间内所有所述预测关系与所述第一实体和所述第二实体构成的三元组的函数值;
累加所有所述待计算嵌入空间中对应的所述函数值,得到对应的能量函数值;
将大于预设阈值的所述能量函数值对应的所述预测关系作为所述第一实体和所述第二实体之间的关系。
4.一种知识图谱关系的预测推演装置,其特征在于,包括:
创建模块:用于针对知识图谱创建多个嵌入空间;
选择模块:用于从所述知识图谱中为每个所述嵌入空间选择实体和关系,作为所述嵌入空间的实体集合和关系集合;
训练模块:用于针对每个所述嵌入空间,训练所述实体集合对应的实体向量以及训练所述关系集合对应的关系向量;
计算模块:用于基于所述嵌入空间的所述实体向量和所述关系向量,计算待预测的第一实体和第二实体之间的预测关系,以确定所述第一实体和所述第二实体之间的关系。
5.根据权利要求4所述的知识图谱关系的预测推演装置,其特征在于,所述选择模块具体用于:
从所述知识图谱中选择至少部分关系作为所述嵌入空间的关系集合;
将选择的所述关系对应的所有实体作为所述嵌入空间的实体集合。
6.根据权利要求4所述的知识图谱的关系预测推演装置,其特征在于,所述计算模块具体用于:
遍历所有所述嵌入空间,选出同时包括所述第一实体和所述第二实体的待计算嵌入空间;
计算所述待计算嵌入空间内所有所述预测关系与所述第一实体和所述第二实体构成的三元组的函数值;
累加所有所述待计算嵌入空间中对应的所述函数值,得到对应的能量函数值;
将大于预设阈值的所述能量函数值对应的所述预测关系作为所述第一实体和所述第二实体之间的关系。
7.一种知识图谱的动态更新方法,其特征在于,包括:
针对知识图谱创建多个嵌入空间;
当所述知识图谱新增三元组时,为新增的所述三元组创建新增嵌入空间,以更新所述嵌入空间;
基于更新后的所述嵌入空间实现所述知识图谱的更新。
8.一种知识图谱的动态更新方法,其特征在于,包括:
针对知识图谱创建多个嵌入空间;
当所述知识图谱删除三元组时,将对应的所述嵌入空间设置为失效状态,以更新所述嵌入空间;
基于更新后的所述嵌入空间实现所述知识图谱的更新。
9.根据权利要求8所述的知识图谱的动态更新方法,其特征在于,所述当所述知识图谱删除三元组时,将对应的所述嵌入空间设置为失效状态,以更新所述嵌入空间,包括:
遍历所有所述嵌入空间,选出具有预被删除的所述三元组的所述嵌入空间;
将选出的所述嵌入空间设置为失效状态,以更新所述嵌入空间。
10.根据权利要求8所述的知识图谱的动态更新方法,其特征在于,在创建多个所述嵌入空间后,建立每个所述嵌入空间内的实体和关系构成的三元组,包括:
针对每个所述嵌入空间内的每个所述关系,从所述嵌入空间内选择所述实体作为所述三元组的头实体;
基于所述头实体和所述关系,在所述知识图谱上通过一跳或者多跳路径查询,将查询得到的且位于所述嵌入空间内的实体作为所述三元组的尾实体,以构成所述嵌入空间内的三元组。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910845840.0A CN110851614A (zh) | 2019-09-09 | 2019-09-09 | 知识图谱的关系预测推演方法及知识图谱的动态更新方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910845840.0A CN110851614A (zh) | 2019-09-09 | 2019-09-09 | 知识图谱的关系预测推演方法及知识图谱的动态更新方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110851614A true CN110851614A (zh) | 2020-02-28 |
Family
ID=69594793
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910845840.0A Pending CN110851614A (zh) | 2019-09-09 | 2019-09-09 | 知识图谱的关系预测推演方法及知识图谱的动态更新方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110851614A (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111444317A (zh) * | 2020-03-17 | 2020-07-24 | 杭州电子科技大学 | 一种语义敏感的知识图谱随机游走采样方法 |
CN111767376A (zh) * | 2020-06-03 | 2020-10-13 | 北京理工大学 | 基于动态知识图谱的问答系统及方法 |
CN111949801A (zh) * | 2020-07-27 | 2020-11-17 | 西北工业大学 | 医生经验知识与超声影像信息的知识图谱融合方法 |
CN112070510A (zh) * | 2020-08-12 | 2020-12-11 | 上海连尚网络科技有限公司 | 一种基于区块链的检测不合格商品的方法与设备 |
CN113360286A (zh) * | 2021-06-21 | 2021-09-07 | 中国人民解放军国防科技大学 | 一种基于知识图谱嵌入的链接预测方法 |
CN113688249A (zh) * | 2020-05-18 | 2021-11-23 | 第四范式(北京)技术有限公司 | 基于关系认知的知识图谱嵌入方法和系统 |
CN114117064A (zh) * | 2021-11-09 | 2022-03-01 | 西南交通大学 | 一种基于多时间粒度的知识动态演化方法及应用 |
WO2023004632A1 (zh) * | 2021-07-28 | 2023-02-02 | 京东方科技集团股份有限公司 | 知识图谱的更新方法、装置、电子设备、存储介质及程序 |
-
2019
- 2019-09-09 CN CN201910845840.0A patent/CN110851614A/zh active Pending
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111444317A (zh) * | 2020-03-17 | 2020-07-24 | 杭州电子科技大学 | 一种语义敏感的知识图谱随机游走采样方法 |
CN111444317B (zh) * | 2020-03-17 | 2021-11-30 | 杭州电子科技大学 | 一种语义敏感的知识图谱随机游走采样方法 |
CN113688249A (zh) * | 2020-05-18 | 2021-11-23 | 第四范式(北京)技术有限公司 | 基于关系认知的知识图谱嵌入方法和系统 |
CN111767376A (zh) * | 2020-06-03 | 2020-10-13 | 北京理工大学 | 基于动态知识图谱的问答系统及方法 |
CN111949801A (zh) * | 2020-07-27 | 2020-11-17 | 西北工业大学 | 医生经验知识与超声影像信息的知识图谱融合方法 |
CN111949801B (zh) * | 2020-07-27 | 2023-10-24 | 西北工业大学 | 医生经验知识与超声影像信息的知识图谱融合方法 |
CN112070510A (zh) * | 2020-08-12 | 2020-12-11 | 上海连尚网络科技有限公司 | 一种基于区块链的检测不合格商品的方法与设备 |
CN113360286A (zh) * | 2021-06-21 | 2021-09-07 | 中国人民解放军国防科技大学 | 一种基于知识图谱嵌入的链接预测方法 |
WO2023004632A1 (zh) * | 2021-07-28 | 2023-02-02 | 京东方科技集团股份有限公司 | 知识图谱的更新方法、装置、电子设备、存储介质及程序 |
CN114117064A (zh) * | 2021-11-09 | 2022-03-01 | 西南交通大学 | 一种基于多时间粒度的知识动态演化方法及应用 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110851614A (zh) | 知识图谱的关系预测推演方法及知识图谱的动态更新方法 | |
Conte et al. | Distributed synthesis and stability of cooperative distributed model predictive control for linear systems | |
Hashimoto et al. | Event-triggered intermittent sampling for nonlinear model predictive control | |
Liuzza et al. | Distributed model based event-triggered control for synchronization of multi-agent systems | |
Li et al. | Event-triggered time-varying formation control for general linear multi-agent systems | |
Gupta* et al. | A sub-optimal algorithm to synthesize control laws for a network of dynamic agents | |
Jovanovic et al. | Ant colony optimization algorithm with pheromone correction strategy for the minimum connected dominating set problem | |
Yoo | Distributed consensus tracking for multiple uncertain nonlinear strict-feedback systems under a directed graph | |
Shang | Fixed‐time group consensus for multi‐agent systems with non‐linear dynamics and uncertainties | |
Liu et al. | Distributed event‐triggered feedback consensus control with state‐dependent threshold for general linear multi‐agent systems | |
Ng et al. | Reputation-aware hedonic coalition formation for efficient serverless hierarchical federated learning | |
Patterson et al. | Optimal k-leader selection for coherence and convergence rate in one-dimensional networks | |
Han et al. | $ H_\infty $ Model-free Reinforcement Learning with Robust Stability Guarantee | |
Shi et al. | LANA: an ADMM-like Nash equilibrium seeking algorithm in decentralized environment | |
Geyer | Performance evaluation of network topologies using graph-based deep learning | |
Wu et al. | Online estimation of unknown delays and parameters in uncertain time delayed dynamical complex networks via adaptive observer | |
Srour et al. | A Water Flow‐Like Algorithm for the Travelling Salesman Problem | |
Sivaranjani et al. | Delayed impulsive synchronization of nonlinearly coupled Markovian jumping complex dynamical networks with stochastic perturbations | |
Zhou et al. | Reliable approximations of probability-constrained stochastic linear-quadratic control | |
Ma et al. | Opponent portrait for multiagent reinforcement learning in competitive environment | |
Wu et al. | Epidemic waves of a spatial SIR model in combination with random dispersal and non-local dispersal | |
Zhao et al. | Spatiotemporal graph convolutional recurrent networks for traffic matrix prediction | |
Luo et al. | Hybrid event‐triggered control of linear multiagent systems via a fully distributed approach | |
Van Loon et al. | Improved ℒ 2-gain analysis for a class of hybrid systems with applications to reset and event-triggered control | |
Borkar et al. | Manufacturing consent |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200228 |