CN113377968B - 一种采用融合实体上下文的知识图谱链路预测方法 - Google Patents
一种采用融合实体上下文的知识图谱链路预测方法 Download PDFInfo
- Publication number
- CN113377968B CN113377968B CN202110934041.8A CN202110934041A CN113377968B CN 113377968 B CN113377968 B CN 113377968B CN 202110934041 A CN202110934041 A CN 202110934041A CN 113377968 B CN113377968 B CN 113377968B
- Authority
- CN
- China
- Prior art keywords
- context
- entity
- embedded
- representing
- encoder
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
- G06F16/367—Ontology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/12—Use of codes for handling textual entities
- G06F40/126—Character encoding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computational Linguistics (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Animal Behavior & Ethology (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种采用融合实体上下文的知识图谱链路预测方法,包括如下步骤:步骤一:定义实体上下文刻画实体在知识图谱中的语义信息;步骤二:对于实体在上下文的每一个实例使用上下文编码器得到上下文实例的嵌入表示;步骤三:使用GAT模型聚合实体在上下文中所有上下文实例的嵌入表示,以得到实体在上下文中的嵌入表示;步骤四:使用空洞卷积融合实体所有的上下文嵌入表示;步骤五:使用全连接层进行知识图谱的链路预测。本发明能够解决现有技术捕捉实例语义信息单一的问题。
Description
技术领域
本发明涉及知识图谱链路预测技术领域,特别是涉及一种采用融合实体上下文的知识图谱链路预测方法。
背景技术
知识图谱是语义网络的知识库,由于构建技术不足和知识图谱本身的复杂性,常常使得知识图谱处于不完备的状态,知识图谱链路预测正是为了解决这一问题而发展起来的技术。
现有的链路预测方法都是基于表示学习的方法,将实例的语义信息嵌入到低维向量,而后运用向量间的数学计算实现知识图谱链路预测。当前已有的链路预测方法,例如基于翻译的方法有TransE、TransH、TransR等,基于语义匹配的方法有RESCAL、DistMult、ComplEx。这些方法都将知识图谱看作独立的三元组的集合,忽略了三元组之间的相互联系,从而造成结构信息的缺失。基于图神经网络的方法有R-GCN、R-GAT等,能够捕捉实例在知识图谱中的结构信息,但是只简单的聚合了邻居,捕捉实例语义信息单一,没有刻画更为复杂的语义信息。
发明内容
针对上述问题,本发明的目的在于提出一种采用融合实体上下文的知识图谱链路预测方法,以解决现有技术捕捉实例语义信息单一的问题。
本发明采用的技术方案如下:
一种采用融合实体上下文的知识图谱链路预测方法,包括如下步骤:
步骤一:定义实体上下文刻画实体在知识图谱中的语义信息;
步骤二:对于实体在上下文的每一个实例使用上下文编码器得到上下文实例的嵌入表示;
步骤三:使用GAT模型聚合实体在上下文中所有上下文实例的嵌入表示,以得到实体在上下文中的嵌入表示;
步骤四:使用空洞卷积融合实体所有的上下文嵌入表示;
步骤五:使用全连接层进行知识图谱的链路预测。
其中,步骤一中所定义的实体上下文如下:
实体的邻居上下文定义:
其中,G为知识图谱,h,r,t分别表示头实体、关系和尾实体,(h,r,t)表示知识图谱中存在的真实三元组,为头实体h的邻居上下文,(r,t)表示头实体h所在真实三元组(h,r,t)中关系和尾实体组成的二元组;
实体的路径上下文定义:
实体的边上下文定义:
其中,步骤二中,实体的邻居上下文是其所在三元组中关系和尾实体组成的二元组,采用拼接加非线性变换的方式编码邻居上下文:
实体的路径上下文是一条由实体关系交替出现的序列,门控循环单元模型适用于序列表示学习:
实体的边上下文是单独的关系,采用非线性变换的方式编码边上下文:
其中,步骤三中,使用GAT模型聚合实体在该上下文中所有上下文实例的嵌入表示,以得到实体在该上下文中的嵌入表示:
其中,步骤四具体包括:
分别将(h,r,t)的多个上下文嵌入拼接起来;
将(h,r,t)拼接后的嵌入变形为一个二维矩阵;
对上一步得到的二维矩阵使用空洞卷积融合实体的多个上下文信息;
其中,步骤五中,使用全连接层进行知识图谱的链路预测:
根据本发明提供的采用融合实体上下文的知识图谱链路预测方法,具有以下有益效果:
本发明首先通过定义多种上下文结构来刻画知识图谱中实体的语义信息,对于每一种上下文通过对应的上下文编码器得到实体在上下文中所有上下文实例的嵌入表示;其次,采用图注意力模型(Graph Attention Network,GAT)方法聚合实体在该上下文中的所有上下文实例的嵌入表示,得到实体在该上下文的嵌入表示;最后,采用空洞卷积方法融合实体的多种上下文嵌入表示,使用全连接层进行知识图谱的链路预测。本发明通过GAT聚合上下文所刻画的实体语义信息,通过空洞卷积的方式融合多种语义信息,解决了现有技术捕捉实体语义信息单一的问题。
附图说明
图1为本发明提供的采用融合实体上下文的知识图谱链路预测方法的技术原理图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
请结合图1,本发明提供一种采用融合实体上下文的知识图谱链路预测方法,包括如下步骤:
步骤一:定义实体上下文刻画实体在知识图谱中的语义信息;
步骤二:对于实体在该上下文的每一个实例使用上下文编码器得到上下文实例的嵌入表示;
步骤三:使用GAT模型聚合实体在该上下文中所有上下文实例的嵌入表示,以得到实体在该上下文中的嵌入表示;
步骤四:使用空洞卷积融合实体所有的上下文嵌入表示;
步骤五:使用全连接层进行知识图谱的链路预测;
作为上述技术方案的进一步描述:
步骤一所定义的实体上下文如下:
实体的邻居上下文定义:
其中,G为知识图谱,h,r,t分别表示头实体、关系和尾实体,(h,r,t)表示知识图谱中存在的真实三元组,为头实体h的邻居上下文,(r,t)表示头实体h所在真实三元组(h,r,t)中关系和尾实体组成的二元组;
实体的路径上下文定义:
实体的边上下文定义:
本实施例中,步骤二具体步骤如下:
对于实体在该上下文的每一个实例使用上下文编码器得到上下文实例的嵌入表示:
实体的邻居上下文是其所在三元组中关系和尾实体组成的二元组,采用拼接加非线性变换的方式编码邻居上下文:
实体的路径上下文是一条由实体关系交替出现的序列,门控循环单元(GateRecurrent Unit,GRU)模型适用于序列表示学习:
实体的边上下文是单独的关系,采用非线性变换的方式编码边上下文:
本实施例中,步骤三具体步骤如下:
使用GAT模型聚合实体在该上下文中所有上下文实例的嵌入表示,以得到实体在该上下文中的嵌入表示:
本实施例中,
步骤四具体步骤如下:
1)分别将(h,r,t)的多个上下文嵌入拼接起来;
2)将(h,r,t)拼接后的嵌入变形为一个二维矩阵;
3)对上一步得到的二维矩阵使用空洞卷积融合实体的多个上下文信息;
本实施例中,步骤五具体步骤如下:
使用全连接层进行知识图谱的链路预测:
根据上述的采用融合实体上下文的知识图谱链路预测方法,首先通过定义多种上下文结构来刻画知识图谱中实体的语义信息,对于每一种上下文通过对应的上下文编码器得到实体在上下文中所有上下文实例的嵌入表示;其次,采用图注意力模型(GraphAttention Network,GAT)方法聚合实体在该上下文中的所有上下文实例的嵌入表示,得到实体在该上下文的嵌入表示;最后,采用空洞卷积方法融合实体的多种上下文嵌入表示,使用全连接层进行知识图谱的链路预测。本发明通过GAT聚合上下文所刻画的实体语义信息,通过空洞卷积的方式融合多种语义信息,解决了现有技术捕捉实体语义信息单一的问题。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
尽管已经示出和描述了本发明的实施例,本领域的普通技术人员可以理解:在不脱离本发明的原理和宗旨的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由权利要求及其等同物限定。
Claims (4)
1.一种采用融合实体上下文的知识图谱链路预测方法,其特征在于,包括如下步骤:
步骤一:定义实体上下文刻画实体在知识图谱中的语义信息;
步骤二:对于实体在上下文的每一个实例使用上下文编码器得到上下文实例的嵌入表示;
步骤三:使用GAT模型聚合实体在上下文中所有上下文实例的嵌入表示,以得到实体在上下文中的嵌入表示;
步骤四:使用空洞卷积融合实体所有的上下文嵌入表示;
步骤五:使用全连接层进行知识图谱的链路预测;
步骤一中所定义的实体上下文如下:
实体的邻居上下文定义:
其中,G为知识图谱,h,r,t分别表示头实体、关系和尾实体,(h,r,t)表示知识图谱中存在的真实三元组,为头实体h的邻居上下文,(r,t)表示头实体h所在真实三元组(h,r,t)中关系和尾实体组成的二元组;
实体的路径上下文定义:
实体的边上下文定义:
步骤二中,实体的邻居上下文是其所在三元组中关系和尾实体组成的二元组,采用拼接加非线性变换的方式编码邻居上下文:
实体的路径上下文是一条由实体关系交替出现的序列,门控循环单元模型适用于序列表示学习:
实体的边上下文是单独的关系,采用非线性变换的方式编码边上下文:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110934041.8A CN113377968B (zh) | 2021-08-16 | 2021-08-16 | 一种采用融合实体上下文的知识图谱链路预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110934041.8A CN113377968B (zh) | 2021-08-16 | 2021-08-16 | 一种采用融合实体上下文的知识图谱链路预测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113377968A CN113377968A (zh) | 2021-09-10 |
CN113377968B true CN113377968B (zh) | 2021-10-29 |
Family
ID=77577147
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110934041.8A Active CN113377968B (zh) | 2021-08-16 | 2021-08-16 | 一种采用融合实体上下文的知识图谱链路预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113377968B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115391563B (zh) * | 2022-09-01 | 2024-02-06 | 广东工业大学 | 一种基于多源异构数据融合的知识图谱链路预测方法 |
CN115618098B (zh) * | 2022-09-08 | 2023-07-04 | 淮阴工学院 | 基于知识增强与空洞卷积的冷链物流推荐方法及装置 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109829057A (zh) * | 2019-01-11 | 2019-05-31 | 中山大学 | 一种基于图二阶相似性的知识图谱实体语义空间嵌入方法 |
CN109992670A (zh) * | 2019-04-04 | 2019-07-09 | 西安交通大学 | 一种基于知识图谱邻域结构的图谱完备化方法 |
CN111027700A (zh) * | 2019-12-18 | 2020-04-17 | 福州大学 | 基于wcur算法的知识库补全方法 |
CN111198950A (zh) * | 2019-12-24 | 2020-05-26 | 浙江工业大学 | 一种基于语义向量的知识图谱表示学习方法 |
CN111784081A (zh) * | 2020-07-30 | 2020-10-16 | 南昌航空大学 | 一种采用知识图谱嵌入和时间卷积网络的社交网络链路预测方法 |
CN112100404A (zh) * | 2020-09-16 | 2020-12-18 | 浙江大学 | 基于结构化上下文信息的知识图谱预训练方法 |
CN112685573A (zh) * | 2021-01-06 | 2021-04-20 | 中山大学 | 一种知识图谱嵌入训练方法和相关装置 |
CN112883200A (zh) * | 2021-03-15 | 2021-06-01 | 重庆大学 | 一种面向知识图谱补全的链接预测方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11436469B2 (en) * | 2017-07-31 | 2022-09-06 | Microsoft Technology Licensing, Llc | Knowledge graph for conversational semantic search |
CN109036546A (zh) * | 2018-06-08 | 2018-12-18 | 浙江捷尚人工智能研究发展有限公司 | 用于临床领域时序知识图谱的链接预测方法及系统 |
US20200065668A1 (en) * | 2018-08-27 | 2020-02-27 | NEC Laboratories Europe GmbH | Method and system for learning sequence encoders for temporal knowledge graph completion |
CN111159425B (zh) * | 2019-12-30 | 2023-02-10 | 浙江大学 | 基于历史关系和双图卷积网络的时态知识图谱表示方法 |
CN111428047B (zh) * | 2020-03-19 | 2023-04-21 | 东南大学 | 一种基于ucl语义标引的知识图谱构建方法及装置 |
CN112131403A (zh) * | 2020-09-16 | 2020-12-25 | 东南大学 | 一种动态环境下的知识图谱表示学习方法 |
-
2021
- 2021-08-16 CN CN202110934041.8A patent/CN113377968B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109829057A (zh) * | 2019-01-11 | 2019-05-31 | 中山大学 | 一种基于图二阶相似性的知识图谱实体语义空间嵌入方法 |
CN109992670A (zh) * | 2019-04-04 | 2019-07-09 | 西安交通大学 | 一种基于知识图谱邻域结构的图谱完备化方法 |
CN111027700A (zh) * | 2019-12-18 | 2020-04-17 | 福州大学 | 基于wcur算法的知识库补全方法 |
CN111198950A (zh) * | 2019-12-24 | 2020-05-26 | 浙江工业大学 | 一种基于语义向量的知识图谱表示学习方法 |
CN111784081A (zh) * | 2020-07-30 | 2020-10-16 | 南昌航空大学 | 一种采用知识图谱嵌入和时间卷积网络的社交网络链路预测方法 |
CN112100404A (zh) * | 2020-09-16 | 2020-12-18 | 浙江大学 | 基于结构化上下文信息的知识图谱预训练方法 |
CN112685573A (zh) * | 2021-01-06 | 2021-04-20 | 中山大学 | 一种知识图谱嵌入训练方法和相关装置 |
CN112883200A (zh) * | 2021-03-15 | 2021-06-01 | 重庆大学 | 一种面向知识图谱补全的链接预测方法 |
Non-Patent Citations (2)
Title |
---|
《Learning Attention-based Embeddings for Relation Prediction in Knowledge Graphs》;Deepak Nathani等;《arXiv》;20190604;第1-10页 * |
《引入三元组上下文与文本的知识图谱表示学习方法研究》;石珺;《中国优秀硕士学位论文全文数据库 (信息科技辑)》;20190515;第I138-1906页 * |
Also Published As
Publication number | Publication date |
---|---|
CN113377968A (zh) | 2021-09-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113377968B (zh) | 一种采用融合实体上下文的知识图谱链路预测方法 | |
CN111159425B (zh) | 基于历史关系和双图卷积网络的时态知识图谱表示方法 | |
Deng et al. | Ppf-foldnet: Unsupervised learning of rotation invariant 3d local descriptors | |
CN112669916B (zh) | 一种基于对比学习的分子图表示学习方法 | |
CN113378048B (zh) | 一种基于多视角知识图谱注意力网络的个性化推荐方法 | |
Tscherepanow | TopoART: A topology learning hierarchical ART network | |
CN115221413B (zh) | 一种基于交互式图注意力网络的序列推荐方法及系统 | |
CN114332482A (zh) | 一种基于特征融合的轻量化目标检测方法 | |
CN112148891A (zh) | 一种基于图感知张量分解的知识图谱补全方法 | |
Xu et al. | RGB-T salient object detection via CNN feature and result saliency map fusion | |
CN115410264A (zh) | 用于提高视频中面部表情识别准确率的网络模型及方法 | |
CN113158798A (zh) | 一种基于多模态特征完备表示的短视频分类方法 | |
CN112418235A (zh) | 一种基于膨胀最近邻特征增强的点云语义分割方法 | |
CN115391563A (zh) | 一种基于多源异构数据融合的知识图谱链路预测方法 | |
CN117009547A (zh) | 基于图神经网络与对抗学习的多模态知识图谱补全方法和装置 | |
CN115618098A (zh) | 基于知识增强与空洞卷积的冷链物流推荐方法及装置 | |
CN111091005A (zh) | 一种基于元结构的无监督异质网络表示学习方法 | |
CN116432750B (zh) | 一种基于盒嵌入的少样本知识图谱补全方法 | |
CN116844004A (zh) | 一种面向数字孪生场景的点云自动语义化建模方法 | |
CN109978013A (zh) | 一种用于人物动作识别的深度聚类方法 | |
CN116310324A (zh) | 一种基于语义分割的金字塔跨层融合解码器 | |
CN115828988A (zh) | 一种基于自监督的异构图表示学习方法 | |
CN115269866A (zh) | 基于双视图超关系嵌入框架的知识图谱补全方法 | |
CN110119779B (zh) | 基于自编码器的跨网络数据任意维度融合方法和装置 | |
CN111639548A (zh) | 一种基于门的视频上下文多模态感知特征优化方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |