CN111475658B - 知识表示学习方法、装置、设备以及存储介质 - Google Patents

知识表示学习方法、装置、设备以及存储介质 Download PDF

Info

Publication number
CN111475658B
CN111475658B CN202010532558.XA CN202010532558A CN111475658B CN 111475658 B CN111475658 B CN 111475658B CN 202010532558 A CN202010532558 A CN 202010532558A CN 111475658 B CN111475658 B CN 111475658B
Authority
CN
China
Prior art keywords
serialized
knowledge
texts
word
text
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010532558.XA
Other languages
English (en)
Other versions
CN111475658A (zh
Inventor
庞超
王硕寰
孙宇
吴华
王海峰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202010532558.XA priority Critical patent/CN111475658B/zh
Publication of CN111475658A publication Critical patent/CN111475658A/zh
Priority to JP2020201660A priority patent/JP7220190B2/ja
Priority to US17/116,846 priority patent/US11687718B2/en
Application granted granted Critical
Publication of CN111475658B publication Critical patent/CN111475658B/zh
Priority to EP21162391.3A priority patent/EP3968241A1/en
Priority to KR1020210032500A priority patent/KR102514434B1/ko
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
    • G06F16/367—Ontology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/02—Knowledge representation; Symbolic representation
    • G06N5/022—Knowledge engineering; Knowledge acquisition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/02—Knowledge representation; Symbolic representation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
    • G06F40/295—Named entity recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/3331—Query processing
    • G06F16/334—Query execution
    • G06F16/3344—Query execution using natural language analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/10—Text processing
    • G06F40/12—Use of codes for handling textual entities
    • G06F40/137—Hierarchical processing, e.g. outlines
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00—Computing arrangements based on specific mathematical models
    • G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/284—Lexical analysis, e.g. tokenisation or collocates
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Algebra (AREA)
  • Probability & Statistics with Applications (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Machine Translation (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请实施例公开了知识表示学习方法、装置、设备以及存储介质，涉及自然语言处理、深度学习、知识图谱技术领域。该方法的一具体实施方式包括：从知识库中采样知识图谱子图；对知识图谱子图进行序列化，得到序列化文本；使用预训练语言模型按照知识图谱子图上的顺序读取序列化文本，学习得到序列化文本中的每个字的知识表示。该实施方式中的知识表示学习面向知识库中的实体和关系表示学习，能够在低维空间中高效计算实体和关系的语义关联，有效解决数据稀疏问题，使知识获取、融合和推理的性能得到显著提升。利用预训练语言模型强大的知识获取能力与上下文分析能力，使得预训练语言模型学习到的知识表示可以更好地表示知识库中的复杂关系。

Description

知识表示学习方法、装置、设备以及存储介质
技术领域
本申请实施例涉及计算机技术领域，具体涉及自然语言处理、深度学习、知识图谱技术领域，尤其涉及知识表示学习方法、装置、设备以及存储介质。
背景技术
知识库可以是指对相关数据进行有序存储的数据库。通常，知识库可以被表示为网络形式，节点代表实体，连边代表实体之间的关系。在网络形式表示下，通常需要设计专门的知识图谱计算存储和利用知识库。设计知识图谱不仅存在费时费力的缺点，还受到数据稀疏问题的困扰。因此，以深度学习为代表的表示学习技术受到广泛关注。表示学习旨在将研究对象的语义信息标识为稠密的低维实值向量。
目前，受到词向量空间存在平移不变现象的启发提出了TransE模型，将知识库中的关系看作实体间的某种平移向量。对于每个三元组（h,r,t），TransE模型用关系r的向量lr作为头实体向量lh和尾实体向量lt之间的平移。TransE模型通过让lh+lr≈lt得到关系和实体的有效表示。
发明内容
本申请实施例提出了知识表示学习方法、装置、设备以及存储介质。
第一方面，本申请实施例提出了一种知识表示学习方法，包括：从知识库中采样知识图谱子图；对知识图谱子图进行序列化，得到序列化文本；使用预训练语言模型按照知识图谱子图上的顺序读取序列化文本，学习得到序列化文本中的每个字的知识表示。
第二方面，本申请实施例提出了一种知识表示学习装置，包括：采样模块，被配置成从知识库中采样知识图谱子图；序列化模块，被配置成对知识图谱子图进行序列化，得到序列化文本；学习模块，被配置成使用预训练语言模型按照知识图谱子图上的顺序读取序列化文本，学习得到序列化文本中的每个字的知识表示。
第三方面，本申请实施例提出了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如第一方面中任一实现方式描述的方法。
第四方面，本申请实施例提出了一种存储有计算机指令的非瞬时计算机可读存储介质，计算机指令用于使计算机执行如第一方面中任一实现方式描述的方法。
本申请实施例提供的知识表示学习方法、装置、设备以及存储介质，首先从知识库中采样知识图谱子图；然后对知识图谱子图进行序列化，得到序列化文本；最后使用预训练语言模型按照知识图谱子图上的顺序读取序列化文本，学习得到序列化文本中的每个字的知识表示。知识表示学习面向知识库中的实体和关系表示学习，能够在低维空间中高效计算实体和关系的语义关联，有效解决数据稀疏问题，使知识获取、融合和推理的性能得到显著提升。并且，利用预训练语言模型强大的知识获取能力与上下文分析能力，使得预训练语言模型学习到的知识表示可以更好地表示知识库中的复杂关系。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显。附图用于更好地理解本方案，不构成对本申请的限定。其中：
图1是本申请可以应用于其中的示例性系统架构；
图2是根据本申请的知识表示学习方法的一个实施例的流程图；
图3是根据本申请的知识表示学习方法的又一个实施例的流程图；
图4是知识图谱子图的一个示意图；
图5是掩码矩阵的一个示意图；
图6是根据本申请的知识表示学习装置的一个实施例的结构示意图；
图7是用来实现本申请实施例的知识表示学习方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的知识表示学习方法或知识表示学习装置的实施例的示例性系统架构100。
如图1所示，系统架构100中可以包括数据库101、网络102和服务器103。网络102用以在数据库101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
数据库101可以用于存储知识库。
服务器103可以提供各种服务。例如，服务器103可以对从数据库101获取到的知识库等数据进行分析等处理，生成处理结果（例如知识表示）。
需要说明的是，服务器103可以是硬件，也可以是软件。当服务器103为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器103为软件时，可以实现成多个软件或软件模块（例如用来提供分布式服务），也可以实现成单个软件或软件模块。在此不做具体限定。
需要说明的是，本申请实施例所提供的知识表示学习方法一般由服务器103执行，相应地，知识表示学习装置一般设置于服务器103中。
应该理解，图1中的数据库、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的数据库、网络和服务器。在服务器103中存储有知识库的情况下，系统架构100可以不设置数据库101和网络102。
继续参考图2，其示出了根据本申请的知识表示学习方法的一个实施例的流程200。该知识表示学习方法包括以下步骤：
步骤201，从知识库中采样知识图谱子图。
在本实施例中，知识表示学习方法的执行主体（例如图1所示的服务器103）可以从知识库中采样大量知识图谱子图。
其中，知识库可以是指对相关数据进行有序存储的数据库。通常，知识库可以被表示为网络形式，节点代表实体，连边代表实体之间的关系。而大规模知识库又可以被称为知识图谱，其基本组成为三元组，包括主体和客体两个实体，以及两个实体之间的关系。
通常，上述执行主体可以按照一定的采样策略从知识库中采样知识图谱子图。具体地，上述执行主体可以在知识库中采样相互之间存在关系的部分节点，而这些节点代表的实体与其相互之间的关系即可组成知识图谱子图。
步骤202，对知识图谱子图进行序列化，得到序列化文本。
在本实施例中，上述执行主体可以对知识图谱子图进行序列化，得到序列化文本。其中，序列化文本可以由知识图谱子图中的实体和关系按照一定的顺序策略组合而成。
步骤203，使用预训练语言模型按照知识图谱子图上的顺序读取序列化文本，学习得到序列化文本中的每个字的知识表示。
在本实施例中，上述执行主体可以使用预训练语言模型按照知识图谱子图上的顺序读取序列化文本，学习得到序列化文本中的每个字的知识表示。
其中，预训练语言模型的训练过程可以包括预训练（Pre-training）阶段和微调（Fine-tuning）阶段。其中，在预训练阶段，使用大量无监督语料进行预训练语言模型训练。在微调阶段，使用少量标注语料进行微调来完成具体NLP（Natural Language Processing，自然语言处理）任务。这里，利用序列化文本训练预训练语言模型属于预训练阶段。
在NLP领域中，预训练语言模型在多项NLP任务上都表现出极佳的效果。此外，预训练语言模型在诸如许多阅读理解任务、信息抽取任务等需要关于现实世界描述和知识推理的任务上也表现的很好，这说明预训练模型具有较好的知识获取能力，能够用来更好地学习知识表示。可选地，预训练语言模型可以是BERT（Bidirectional EncoderRepresentation from Transformers，基于变压器的双向编码器表示）。BERT是一个深度双向表示预训练模型，能够更深层次地提取文本的语义信息。
预训练语言模型按照知识图谱子图上的顺序读取序列化文本，能够确定序列化文本中的每个字的上下文关系，使得学习到的每个字的知识表示都能结合其上下文信息，能够更好的表达知识库中的复杂关系。为了使预训练语言模型可以按照知识图谱子图上的顺序读取序列化文本，上述执行主体可以基于序列化文本和知识图谱子图，生成序列化文本对应的掩码（MASK）矩阵。其中，序列化文本对应的掩码矩阵可以表达序列化文本中的每个字（Token）可以从该序列化文本中获取字的情况。此外，为了进一步表达出知识图谱子图蕴含的结构信息，上述执行主体还可以基于序列化文本和知识图谱子图，生成序列化文本对应的层次编码。其中，序列化文本对应的层次编码可以表达序列化文本中的每个字在知识图谱子图中的层次顺序。预训练语言模型按照序列化文本对应的掩码矩阵和层次编码读取序列化文本，即可实现按照知识图谱子图上的顺序读取序列化文本，从而学习得到序列化文本中的每个字的知识表示。
本申请实施例提供的知识表示学习方法，首先从知识库中采样知识图谱子图；然后对知识图谱子图进行序列化，得到序列化文本；最后使用预训练语言模型按照知识图谱子图上的顺序读取序列化文本，学习得到序列化文本中的每个字的知识表示。知识表示学习面向知识库中的实体和关系表示学习，能够在低维空间中高效计算实体和关系的语义关联，有效解决数据稀疏问题，使知识获取、融合和推理的性能得到显著提升。并且，利用预训练语言模型强大的知识获取能力与上下文分析能力，使得预训练语言模型学习到的知识表示可以更好地表示知识库中的复杂关系。
进一步参考图3，其示出了根据本申请的知识表示学习方法的又一个实施例的流程300。该知识表示学习方法包括以下步骤：
步骤301，按照预设采样比例从知识库中采样节点。
在本实施例中，知识表示学习方法的执行主体（例如图1所示的服务器103）可以按照预设采样比例从知识库中采样节点。其中，采样方式可以包括但不限于随机采样。采样比例可以根据需求预先设定，例如0.2。
步骤302，以节点为起点，按照预设采样概率选择子节点，连续游走，直至达到预设采样深度，得到知识图谱子图。
在本实施例中，对于采样到的每个节点，上述执行主体可以以该节点为起点，按照预设采样概率为该节点选择子节点，连续游走，直至达到预设采样深度，即可得到该节点对应的知识图谱子图。其中，游走方式可以包括但不限于随机游走。采样概率和采样深度可以根据需求预先设定，采样概率可以例如是0.5，采样深度可以例如是3。
需要说明的是，采样到一个节点可以对应得到一个知识图谱子图，采样足够多的节点，即可得到足够多的知识图谱子图。
步骤303，对知识图谱子图进行广度遍历，得到序列化文本。
在本实施例中，上述执行主体可以对知识图谱子图进行广度遍历，得到序列化文本。
步骤304，通过使序列化文本中的一个字仅获取这一个字所对应实体和关系，以及这一个字所对应实体的父节点和子节点，构造序列化文本对应的掩码矩阵。
在本实施例中，上述执行主体可以基于序列化文本和知识图谱子图，生成序列化文本对应的掩码矩阵。具体地，上述执行主体可以通过使序列化文本中的每个字仅获取该字所对应实体和关系，以及该字所对应实体的父节点和子节点，构造序列化文本对应的掩码矩阵。也就是说，序列化文本包括多个字，以序列化文本中的任意一个字为例，一个字仅获取这一个字本身所对应实体和关系，以及这一个字本身所对应实体的父节点和子节点。
其中，序列化文本对应的掩码矩阵可以表征序列化文本中的每个字可以从该序列化文本中获取字的情况。掩码矩阵是对称矩阵，其行列数等于序列化文本中的字数。掩码矩阵的行列与其对应的序列化文本中的字一一对应。对于掩码矩阵中的每一行，值为1元素对应的字能够被该行所对应的字获取，值为0元素对应的字不能被该行所对应的字获取。
通常，序列化文本中的每个字可以获取该字所对应实体和关系。此外，为了表达出知识图谱子图中的节点之间的连接信息，序列化文本中的每个字还可以获取该字所对应实体的父节点和子节点。可见，在每个字所对应的行中，该字所对应实体和关系，以及该字所对应实体的父节点和子节点所对应的元素值均为1，其与元素值均为0。
步骤305，基于序列化文本中的每个字所对应的实体和关系在知识图谱子图中的层次，生成序列化文本对应的层次编码。
在本实施例中，上述执行主体可以基于序列化文本和知识图谱子图，生成序列化文本对应的层次编码。具体地，上述执行主体可以基于序列化文本中的每个字所对应的实体和关系在知识图谱子图中的层次，生成序列化文本对应的层次编码。
其中，序列化文本对应的层次编码可以按照序列化文本中的每个字在知识图谱子图中的层次顺序，依次赋予对应的数字代码。其中，根节点对应的字的层次编码都是1，根节点的子节点对应的字，以及根节点与子节点之间的关系对应的字的层次编码都是2，依次类推。应当理解的是，关系与其对应的尾节点对应的层次编码相同。
步骤306，获取无结构文本。
在本实施例中，上述执行主体可以获取无结构文本。其中，无结构文本中的字之间不存在关联关系。
步骤307，生成无结构文本对应的掩码矩阵和层次编码。
在本实施例中，上述执行主体可以生成无结构文本对应的掩码矩阵和层次编码。
其中，无结构文本对应的掩码矩阵与原始预训练模型相同，是全1矩阵，其行列数等于无结构文本中的字数。掩码矩阵的行列与其对应的无结构文本中的字一一对应。对于掩码矩阵中的每一行，值为1元素对应的字能够被该行所对应的字获取，值为0元素对应的字不能被该行所对应的字获取。由于无结构文本对应的掩码矩阵是全1矩阵，因此无结构文本中的每个字都可以获取无结构文本中的所有字。
其中，无结构文本对应的层次编码可以按照无结构文本中的每个字的层次顺序，依次赋予对应的数字代码。由于无结构文本是单一层次，对应的层次编码是全0编码。
步骤308，将序列化文本和无结构文本交替输入至预训练语言模型，使用预训练语言模型按照序列化文本对应的掩码矩阵和层次编码读取序列化文本，学习得到序列化文本中的每个字的知识表示，以及使用预训练语言模型按照无结构文本对应的掩码矩阵和层次编码读取无结构文本，学习得到无结构文本中的每个字的知识表示。
在本实施例中，上述执行主体可以将序列化文本和无结构文本交替输入至预训练语言模型，分别学习对应的知识表示。
在输入序列化文本时，预训练语言模型可以按照序列化文本对应的掩码矩阵和层次编码读取序列化文本，学习得到序列化文本中的每个字的知识表示。其中，掩码矩阵和层次编码可以控制预训练语言模型来表示知识图谱子图中的层次结构。通常，按照序列化文本对应的掩码矩阵读取序列化文本，即可实现按照知识图谱子图上的顺序读取序列化文本。此外，读取序列化文本时，结合序列化文本对应的层次编码，还能够获取知识图谱子图蕴含的结构信息。
同理，在输入无结构文本时，预训练语言模型可以按照无结构文本对应的掩码矩阵和层次编码读取无结构文本，学习得到无结构文本中的每个字的知识表示。
从图3中可以看出，与图2对应的实施例相比，本实施例中的知识表示学习方法的流程300突出了知识表示学习步骤。由此，在本实施例描述的方案中，按照序列化文本对应的掩码矩阵和层次编码读取序列化文本，不仅实现按照知识图谱子图上的顺序读取序列化文本，还能够获取知识图谱子图蕴含的结构信息。此外，在预训练时，交替输入序列化文本和无结构文本，使得预训练语言模型能够同时利用知识图谱的序列化文本和无结构文本，在利用知识图谱信息的同时，也从海量无结构文本补充了许多额外的知识，充分利用了知识图谱与无结构文本中的信息。
为了便于理解，下面提供可以实现本申请实施例的知识表示学习方法的应用场景。如图4所示，其示出了知识图谱子图的一个示意图。具体地，首先从知识库中采样代表实体“张三”的节点；之后为代表实体“张三”节点选择代表实体“李四”的节点和代表实体“王五”的节点；然后继续游走，为代表实体“李四”的节点选择代表实体“中国”的节点，为代表实体“王五”的节点选择代表实体“天津”的节点和代表实体“XX”的节点，并为代表实体“XX”的节点继续选择代表实体“赵六”的节点；最后基于这些实体与实体之间的关系即可生成知识图谱子图。对图4中的知识图谱子图进行广度遍历，得到序列化文本“张三妻子李四好友王五国籍中国祖籍天津代表作品XX编曲赵六”。由于直接序列化文本整体上语义不通顺，因此需要按照图4中的知识图谱子图上的顺序去读取，以使其语义通顺。如图5所示，其示出了掩码矩阵的一个示意图。具体地，序列化文本中的每个字可以获取该字所对应实体和关系，以及该字所对应实体的父节点和子节点。可见，在每个字所对应的行中，该字所对应实体和关系所对应的元素值，以及该字所对应实体的父节点和子节点所对应的元素值均为1，其与元素值均为0。为了便于区分，在每个字所对应的行中，该字所对应实体和关系所对应的元素以深灰色表示，该字所对应实体的父节点和子节点所对应的元素以浅灰色表示，其与元素以白色表示。例如，在序列化文本中的字“李”所对应的行中，字“李”所对应实体“李四”和关系“妻子”所对应的元素以深灰色表示，字“李”所对应实体“李四”的父节点代表的实体“张三”和子节点代表的实体“中国”和关系“国籍”所对应的元素以浅灰色表示，其与元素以白色表示。此外，为了表达出图4中的知识图谱子图蕴含的结构信息，为序列化文本增加一个层次编码。具体地，按照序列化文本中的每个字在知识图谱子图中的层次顺序，依次赋予对应的数字代码。例如，关系“妻子”的两个字和实体“李四”三个字的层次编码都是2。此时，当输入序列化文本时，预训练语言模型可以掩码矩阵和层次编码读取高序列化文本，以获取例如“张三妻子李四”、“张三好友王五”等一系列由头尾节点实体及关系对应文本组成的短句，即可学习得到序列化文本中的每个字的知识表示。
进一步参考图6，作为对上述各图所示方法的实现，本申请提供了一种知识表示学习装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图6所示，本实施例的知识表示学习装置600可以包括：采样模块601、序列化模块602和学习模块603。其中，采样模块601，被配置成从知识库中采样知识图谱子图；序列化模块602，被配置成对知识图谱子图进行序列化，得到序列化文本；学习模块603，被配置成使用预训练语言模型按照知识图谱子图上的顺序读取序列化文本，学习得到序列化文本中的每个字的知识表示。
在本实施例中，知识表示学习装置600中：采样模块601、序列化模块602和学习模块603的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201-203的相关说明，在此不再赘述。
在本实施例的一些可选的实现方式中，采样模块601进一步被配置成：按照预设采样比例从知识库中采样节点；以节点为起点，按照预设采样概率选择子节点，连续游走，直至达到预设采样深度，得到知识图谱子图。
在本实施例的一些可选的实现方式中，序列化模块602进一步被配置成：对知识图谱子图进行广度遍历，得到序列化文本。
在本实施例的一些可选的实现方式中，学习模块603包括：生成子模块（图中未示出），被配置成基于序列化文本和知识图谱子图，生成序列化文本对应的掩码矩阵和层次编码；学习子模块（图中未示出），被配置成将序列化文本输入至预训练语言模型，使用预训练语言模型按照序列化文本对应的掩码矩阵和层次编码读取序列化文本，学习得到序列化文本中的每个字的知识表示。
在本实施例的一些可选的实现方式中，生成子模块进一步被配置成：通过使序列化文本中的一个字仅获取这一个字所对应实体和关系，以及这一个字所对应实体的父节点和子节点，构造序列化文本对应的掩码矩阵；基于序列化文本中的每个字所对应的实体和关系在知识图谱子图中的层次，生成序列化文本对应的层次编码。
在本实施例的一些可选的实现方式中，学习子模块进一步被配置成：获取无结构文本；生成无结构文本对应的掩码矩阵和层次编码，其中，无结构文本对应的掩码矩阵是全1矩阵，无结构文本对应的层次编码是全0编码；将序列化文本和无结构文本交替输入至预训练语言模型，使用预训练语言模型按照序列化文本对应的掩码矩阵和层次编码读取序列化文本，学习得到序列化文本中的每个字的知识表示，以及使用预训练语言模型按照无结构文本对应的掩码矩阵和层次编码读取无结构文本，学习得到无结构文本中的每个字的知识表示。
根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。
如图7所示，是根据本申请实施例知识表示学习方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图7所示，该电子设备包括：一个或多个处理器701、存储器702，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置（诸如，耦合至接口的显示设备）上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作（例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统）。图7中以一个处理器701为例。
存储器702即为本申请所提供的非瞬时计算机可读存储介质。其中，所述存储器存储有可由至少一个处理器执行的指令，以使所述至少一个处理器执行本申请所提供的知识表示学习方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的知识表示学习方法。
存储器702作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的知识表示学习方法对应的程序指令/模块（例如，附图6所示的采样模块601、序列化模块602和学习模块603）。处理器701通过运行存储在存储器702中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的知识表示学习方法。
存储器702可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据知识表示学习方法的电子设备的使用所创建的数据等。此外，存储器702可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器702可选包括相对于处理器701远程设置的存储器，这些远程存储器可以通过网络连接至知识表示学习方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
知识表示学习方法的电子设备还可以包括：输入装置703和输出装置704。处理器701、存储器702、输入装置703和输出装置704可以通过总线或者其他方式连接，图7中以通过总线连接为例。
输入装置703可接收输入的数字或字符信息，以及产生与知识表示学习方法的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置704可以包括显示设备、辅助照明装置（例如，LED）和触觉反馈装置（例如，振动电机）等。该显示设备可以包括但不限于，液晶显示器（LCD）、发光二极管（LED）显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC（专用集成电路）、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序（也称作程序、软件、软件应用、或者代码）包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置（例如，磁盘、光盘、存储器、可编程逻辑装置（PLD）），包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置（例如，CRT（阴极射线管）或者LCD（液晶显示器）监视器）；以及键盘和指向装置（例如，鼠标或者轨迹球），用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈（例如，视觉反馈、听觉反馈、或者触觉反馈）；并且可以用任何形式（包括声输入、语音输入或者、触觉输入）来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统（例如，作为数据服务器）、或者包括中间件部件的计算系统（例如，应用服务器）、或者包括前端部件的计算系统（例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互）、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信（例如，通信网络）来将系统的部件相互连接。通信网络的示例包括：局域网（LAN）、广域网（WAN）和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请的技术方案，首先从知识库中采样知识图谱子图；然后对知识图谱子图进行序列化，得到序列化文本；最后使用预训练语言模型按照知识图谱子图上的顺序读取序列化文本，学习得到序列化文本中的每个字的知识表示。知识表示学习面向知识库中的实体和关系表示学习，能够在低维空间中高效计算实体和关系的语义关联，有效解决数据稀疏问题，使知识获取、融合和推理的性能得到显著提升。并且，利用预训练语言模型强大的知识获取能力与上下文分析能力，使得预训练语言模型学习到的知识表示可以更好地表示知识库中的复杂关系。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。

Claims (12)

1.一种知识表示学习方法，包括：
从知识库中采样知识图谱子图；
对所述知识图谱子图进行序列化，得到序列化文本；
使用预训练语言模型按照所述知识图谱子图上的顺序读取所述序列化文本，学习得到所述序列化文本中的每个字的知识表示；
其中，所述使用预训练语言模型按照所述知识图谱子图上的顺序读取所述序列化文本，学习得到所述序列化文本中的每个字的知识表示，包括：
基于所述序列化文本和所述知识图谱子图，生成所述序列化文本对应的掩码矩阵和层次编码，其中，所述掩码矩阵表达所述序列化文本中的每个字从所述序列化文本中获取字的情况；
将所述序列化文本输入至所述预训练语言模型，使用所述预训练语言模型按照所述序列化文本对应的掩码矩阵和层次编码读取所述序列化文本，学习得到所述序列化文本中的每个字的知识表示。
2.根据权利要求1所述的方法，其中，所述从知识库中采样知识图谱子图，包括：
按照预设采样比例从所述知识库中采样节点；
以所述节点为起点，按照预设采样概率选择子节点，连续游走，直至达到预设采样深度，得到所述知识图谱子图。
3.根据权利要求1所述的方法，其中，所述对所述知识图谱子图进行序列化，得到序列化文本，包括：
对所述知识图谱子图进行广度遍历，得到所述序列化文本。
4.根据权利要求1所述的方法，其中，所述基于所述序列化文本和所述知识图谱子图，生成所述序列化文本对应的掩码矩阵和层次编码，包括：
通过使所述序列化文本中的一个字仅获取所述一个字所对应实体和关系，以及所述一个字所对应实体的父节点和子节点，构造所述序列化文本对应的掩码矩阵；
基于所述序列化文本中的每个字所对应的实体和关系在所述知识图谱子图中的层次，生成所述序列化文本对应的层次编码。
5.根据权利要求1所述的方法，其中，所述将所述序列化文本输入至所述预训练语言模型，使用所述预训练语言模型按照所述序列化文本对应的掩码矩阵和层次编码读取所述序列化文本，学习得到所述序列化文本中的每个字的知识表示，包括：
获取无结构文本；
生成所述无结构文本对应的掩码矩阵和层次编码，其中，所述无结构文本对应的掩码矩阵是全1矩阵，所述无结构文本对应的层次编码是全0编码；
将所述序列化文本和所述无结构文本交替输入至所述预训练语言模型，使用所述预训练语言模型按照所述序列化文本对应的掩码矩阵和层次编码读取所述序列化文本，学习得到所述序列化文本中的每个字的知识表示，以及使用所述预训练语言模型按照所述无结构文本对应的掩码矩阵和层次编码读取所述无结构文本，学习得到所述无结构文本中的每个字的知识表示。
6.一种知识表示学习装置，包括：
采样模块，被配置成从知识库中采样知识图谱子图；
序列化模块，被配置成对所述知识图谱子图进行序列化，得到序列化文本；
学习模块，被配置成使用预训练语言模型按照所述知识图谱子图上的顺序读取所述序列化文本，学习得到所述序列化文本中的每个字的知识表示；
其中，所述学习模块包括：
生成子模块，被配置成基于所述序列化文本和所述知识图谱子图，生成所述序列化文本对应的掩码矩阵和层次编码，其中，所述掩码矩阵表达所述序列化文本中的每个字从所述序列化文本中获取字的情况；
学习子模块，被配置成将所述序列化文本输入至所述预训练语言模型，使用所述预训练语言模型按照所述序列化文本对应的掩码矩阵和层次编码读取所述序列化文本，学习得到所述序列化文本中的每个字的知识表示。
7.根据权利要求6所述的装置，其中，所述采样模块进一步被配置成：
按照预设采样比例从所述知识库中采样节点；
以所述节点为起点，按照预设采样概率选择子节点，连续游走，直至达到预设采样深度，得到所述知识图谱子图。
8.根据权利要求6所述的装置，其中，所述序列化模块进一步被配置成：
对所述知识图谱子图进行广度遍历，得到所述序列化文本。
9.根据权利要求6所述的装置，其中，所述生成子模块进一步被配置成：
通过使所述序列化文本中的一个字仅获取所述一个字所对应实体和关系，以及所述一个字所对应实体的父节点和子节点，构造所述序列化文本对应的掩码矩阵；
基于所述序列化文本中的每个字所对应的实体和关系在所述知识图谱子图中的层次，生成所述序列化文本对应的层次编码。
10.根据权利要求6所述的装置，其中，所述学习子模块进一步被配置成：
获取无结构文本；
生成所述无结构文本对应的掩码矩阵和层次编码，其中，所述无结构文本对应的掩码矩阵是全1矩阵，所述无结构文本对应的层次编码是全0编码；
将所述序列化文本和所述无结构文本交替输入至所述预训练语言模型，使用所述预训练语言模型按照所述序列化文本对应的掩码矩阵和层次编码读取所述序列化文本，学习得到所述序列化文本中的每个字的知识表示，以及使用所述预训练语言模型按照所述无结构文本对应的掩码矩阵和层次编码读取所述无结构文本，学习得到所述无结构文本中的每个字的知识表示。
11.一种电子设备，包括：
一个或多个处理器；
存储装置，其上存储有一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-5中任一所述的方法。
12.一种计算机可读介质，其上存储有计算机程序，其中，所述计算机程序被处理器执行时实现如权利要求1-5中任一所述的方法。
CN202010532558.XA 2020-06-12 2020-06-12 知识表示学习方法、装置、设备以及存储介质 Active CN111475658B (zh)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN202010532558.XA CN111475658B (zh) 2020-06-12 2020-06-12 知识表示学习方法、装置、设备以及存储介质
JP2020201660A JP7220190B2 (ja) 2020-06-12 2020-12-04 知識表現学習方法、装置、電子機器、記憶媒体及びコンピュータプログラム
US17/116,846 US11687718B2 (en) 2020-06-12 2020-12-09 Method, apparatus, device, and storage medium for learning knowledge representation
EP21162391.3A EP3968241A1 (en) 2020-06-12 2021-03-12 Method, apparatus, device, storage medium and program for learning knowledge representation
KR1020210032500A KR102514434B1 (ko) 2020-06-12 2021-03-12 지식 표현 학습 방법, 장치, 전자 기기, 저장 매체 및 프로그램

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010532558.XA CN111475658B (zh) 2020-06-12 2020-06-12 知识表示学习方法、装置、设备以及存储介质

Publications (2)

Publication Number Publication Date
CN111475658A CN111475658A (zh) 2020-07-31
CN111475658B true CN111475658B (zh) 2020-12-25

Family

ID=71764201

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010532558.XA Active CN111475658B (zh) 2020-06-12 2020-06-12 知识表示学习方法、装置、设备以及存储介质

Country Status (5)

Country Link
US (1) US11687718B2 (zh)
EP (1) EP3968241A1 (zh)
JP (1) JP7220190B2 (zh)
KR (1) KR102514434B1 (zh)
CN (1) CN111475658B (zh)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023532669A (ja) 2020-06-25 2023-07-31 プリオン インコーポレーテッド 文書処理および応答生成システム
CN111930518B (zh) * 2020-09-22 2021-01-22 北京东方通科技股份有限公司 面向知识图谱表示学习的分布式框架构建方法
CN112466292B (zh) * 2020-10-27 2023-08-04 北京百度网讯科技有限公司 语言模型的训练方法、装置和电子设备
CN112464643B (zh) * 2020-11-26 2022-11-15 广州视源电子科技股份有限公司 一种机器阅读理解方法、装置、设备及存储介质
CN112528037B (zh) * 2020-12-04 2024-04-09 北京百度网讯科技有限公司 基于知识图谱的边关系预测方法、装置、设备及存储介质
CN113673244B (zh) * 2021-01-04 2024-05-10 腾讯科技（深圳）有限公司 医疗文本处理方法、装置、计算机设备和存储介质
CN113139037B (zh) * 2021-03-18 2023-04-14 北京三快在线科技有限公司 文本处理方法、装置、设备以及存储介质
CN113377907B (zh) * 2021-06-08 2023-06-09 四川大学 基于记忆掩码自注意力网络的端到端任务型对话系统
CN113641830B (zh) * 2021-07-19 2024-03-29 北京百度网讯科技有限公司 模型预训练方法、装置、电子设备和存储介质
CN113590782B (zh) * 2021-07-28 2024-02-09 北京百度网讯科技有限公司 推理模型的训练方法、推理方法及装置
KR102655154B1 (ko) * 2021-09-30 2024-04-05 주식회사 와이즈넛 인공신경망 모델을 이용한 컨셉넷 자동 확장 방법
CN113591442B (zh) * 2021-10-08 2022-02-18 北京明略软件系统有限公司 文本生成方法、装置、电子装置及可读存储介质
CN114328956B (zh) * 2021-12-23 2023-02-28 北京百度网讯科技有限公司 文本信息的确定方法、装置、电子设备及存储介质
WO2023152914A1 (ja) * 2022-02-10 2023-08-17 日本電信電話株式会社 埋め込み装置、埋め込み方法、および、埋め込みプログラム
CN114860952A (zh) * 2022-04-29 2022-08-05 华侨大学 一种基于数据统计和知识指导的图拓扑学习方法及系统
CN115587175B (zh) * 2022-12-08 2023-03-14 阿里巴巴达摩院(杭州)科技有限公司 人机对话及预训练语言模型训练方法、系统及电子设备
CN116842109A (zh) * 2023-06-27 2023-10-03 北京大学 信息检索知识图谱嵌入方法、装置和计算机设备
CN117033667B (zh) * 2023-10-07 2024-01-09 之江实验室 一种知识图谱构建方法、装置、存储介质及电子设备
CN117235285B (zh) * 2023-11-09 2024-02-02 支付宝(杭州)信息技术有限公司 融合知识图谱数据的方法及装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016029561A (ja) 2014-07-17 2016-03-03 パナソニックＩｐマネジメント株式会社 エージェント、プログラム
JP6635307B2 (ja) 2016-10-20 2020-01-22 日本電信電話株式会社 要約生成装置、テキスト変換装置、方法、及びプログラム
JP6756916B2 (ja) 2016-10-26 2020-09-16 ディープマインド テクノロジーズ リミテッド ニューラルネットワークを使用したテキストシーケンスの処理
KR101914853B1 (ko) 2017-02-08 2018-11-02 경북대학교 산학협력단 논리적 속성이 반영된 지식 그래프 임베딩 방법 및 시스템, 이를 수행하기 위한 기록매체
CN109033135A (zh) * 2018-06-06 2018-12-18 北京大学 一种面向软件项目知识图谱的自然语言查询方法及系统
CN209033135U (zh) 2018-09-07 2019-06-28 泉州宝善药业有限公司 一种泌尿外科躺熏式新型治疗装置
CN109918506B (zh) * 2019-03-07 2022-12-16 安徽省泰岳祥升软件有限公司 一种文本分类方法及装置
CN110059320B (zh) * 2019-04-23 2021-03-16 腾讯科技（深圳）有限公司 实体关系抽取方法、装置、计算机设备和存储介质
CN110263324B (zh) * 2019-05-16 2021-02-12 华为技术有限公司 文本处理方法、模型训练方法和装置
CN110196894B (zh) * 2019-05-30 2021-06-08 北京百度网讯科技有限公司 语言模型的训练方法和预测方法
CN111461203A (zh) * 2020-03-30 2020-07-28 北京百度网讯科技有限公司 跨模态处理方法、装置、电子设备和计算机存储介质

Also Published As

Publication number Publication date
JP2021197132A (ja) 2021-12-27
KR20210035785A (ko) 2021-04-01
US11687718B2 (en) 2023-06-27
EP3968241A1 (en) 2022-03-16
CN111475658A (zh) 2020-07-31
US20210390257A1 (en) 2021-12-16
KR102514434B1 (ko) 2023-03-24
JP7220190B2 (ja) 2023-02-09

Similar Documents

Publication Publication Date Title
CN111475658B (zh) 知识表示学习方法、装置、设备以及存储介质
KR102448129B1 (ko) 엔티티 연결 방법, 장치, 기기 및 저장 매체
CN111079442B (zh) 文档的向量化表示方法、装置和计算机设备
EP3828719A2 (en) Method and apparatus for generating model for representing heterogeneous graph node, electronic device, storage medium, and computer program product
CN111967256B (zh) 事件关系的生成方法、装置、电子设备和存储介质
CN111666751B (zh) 训练文本扩充方法、装置、设备以及存储介质
KR102521765B1 (ko) 인과 관계의 판별 방법, 장치, 전자 기기 및 저장 매체
CN112347769B (zh) 实体识别模型的生成方法、装置、电子设备及存储介质
CN112148871B (zh) 摘要生成方法、装置、电子设备及存储介质
CN111488441B (zh) 问题解析方法、装置、知识图谱问答系统和电子设备
KR20210056961A (ko) 의미 처리 방법, 장치, 전자 기기 및 매체
CN114281968B (zh) 一种模型训练及语料生成方法、装置、设备和存储介质
CN111274407A (zh) 知识图谱中三元组置信度计算方法和装置
CN111241838B (zh) 文本实体的语义关系处理方法、装置及设备
CN110795456B (zh) 图谱的查询方法、装置、计算机设备以及存储介质
CN111914884A (zh) 梯度下降树的生成方法、装置、电子设备及存储介质
CN111914880A (zh) 决策树的生成方法、装置、电子设备及存储介质
CN113553411B (zh) 查询语句的生成方法、装置、电子设备和存储介质
CN111539225B (zh) 语义理解框架结构的搜索方法和装置
CN111914881A (zh) 随机森林的生成方法、装置、电子设备及存储介质
CN111914882A (zh) 支持向量机的生成方法、装置、电子设备及存储介质
CN114255427B (zh) 视频理解方法、装置、设备以及存储介质
CN116484870B (zh) 提取文本信息的方法、装置、设备及介质
CN111667004B (zh) 数据生成方法、装置、设备以及存储介质
CN111914995A (zh) 正则化线性回归生成方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant