CN111428507B - 实体链指方法、装置、设备以及存储介质 - Google Patents

实体链指方法、装置、设备以及存储介质 Download PDF

Info

Publication number
CN111428507B
CN111428507B CN202010519600.4A CN202010519600A CN111428507B CN 111428507 B CN111428507 B CN 111428507B CN 202010519600 A CN202010519600 A CN 202010519600A CN 111428507 B CN111428507 B CN 111428507B
Authority
CN
China
Prior art keywords
entity
vector
determining
candidate
chain
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010519600.4A
Other languages
English (en)
Other versions
CN111428507A (zh
Inventor
刘志洁
汪琦
冯知凡
柴春光
朱勇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202010519600.4A priority Critical patent/CN111428507B/zh
Publication of CN111428507A publication Critical patent/CN111428507A/zh
Application granted granted Critical
Publication of CN111428507B publication Critical patent/CN111428507B/zh
Priority to EP20211569.7A priority patent/EP3923178A1/en
Priority to US17/117,553 priority patent/US11727216B2/en
Priority to KR1020200172512A priority patent/KR102448129B1/ko
Priority to JP2020206160A priority patent/JP7317791B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/955Retrieval from the web using information identifiers, e.g. uniform resource locators [URL]
    • G06F16/9558Details of hyperlinks; Management of linked annotations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/279Recognition of textual entities
    • G06F40/284Lexical analysis, e.g. tokenisation or collocates
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/3331Query processing
    • G06F16/334Query execution
    • G06F16/3347Query execution using vector based model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/36Creation of semantic tools, e.g. ontology or thesauri
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/16Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/205Parsing
    • G06F40/211Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/279Recognition of textual entities
    • G06F40/289Phrasal analysis, e.g. finite state techniques or chunking
    • G06F40/295Named entity recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/30Semantic analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/02Knowledge representation; Symbolic representation
    • G06N5/022Knowledge engineering; Knowledge acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Abstract

本申请公开了实体链指的方法、装置、设备以及存储介质,涉及知识图谱、深度学习技术领域。具体实现方案为:获取目标文本;确定目标文本中包括的至少一个实体提及以及各实体提及对应的候选实体;根据各候选实体以及预设的实体嵌入向量确定模型,确定各候选实体提及的嵌入向量;根据目标文本以及各嵌入向量,确定目标文本的上下文语义信息;确定至少一个实体提及的类型信息;根据各嵌入向量、上下文语义信息以及各类型信息,确定至少一个实体提及的实体链指结果。本实现方式能够充分地利用外部知识,从而提高实体链指的准确性。

Description

实体链指方法、装置、设备以及存储介质
技术领域
本申请涉及计算机技术领域,具体涉及知识图谱、深度学习技术领域,尤其涉及实体链指方法、装置、设备以及存储介质。
背景技术
为了更好的让机器理解文本,机器常常需要识别文本中的实体,同时将文本中的实体与对应的知识库中的实体一一对应。知识库中的同名实体往往很多,需要进行实体链指(Entity Linking)工作。实体链指对许多自然语言处理和信息检索任务都能产生积极的助力作用。
现有的实体链指方案无法充分有效地利用外部知识信息,从而导致实体链指的准确性较低。
发明内容
提供了一种实体链指方法、装置、设备以及存储介质。
根据第一方面,提供了一种实体链指方法,包括:获取目标文本;确定上述目标文本中包括的至少一个实体提及以及各上述实体提及对应的候选实体;根据各候选实体以及预设的实体嵌入向量确定模型,确定各候选实体的嵌入向量;根据上述目标文本以及各上述嵌入向量,确定上述目标文本的上下文语义信息;确定上述至少一个实体提及的类型信息;根据各上述嵌入向量、上述上下文语义信息以及各上述类型信息,确定上述至少一个实体提及的实体链指结果。
根据第二方面,提供了一种实体链指装置,包括:目标文本获取单元,被配置成获取目标文本;候选实体确定单元,被配置成确定上述目标文本中包括的至少一个实体提及以及各上述实体提及对应的候选实体;嵌入向量确定单元,被配置成根据各候选实体以及预设的实体嵌入向量确定模型,确定各候选实体的嵌入向量;上下文确定单元,被配置成根据上述目标文本以及各上述嵌入向量,确定上述目标文本的上下文语义信息;类型信息确定单元,被配置成确定上述至少一个实体提及的类型信息;实体链指单元,被配置成根据各上述嵌入向量、上述上下文语义信息以及各上述类型信息,确定上述至少一个实体提及的实体链指结果。
根据第三方面,提供了一种实体链指电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,所述指令被至少一个处理器执行,以使至少一个处理器能够执行如第一方面所描述的方法。
根据第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,上述计算机指令用于使计算机执行如第一方面所描述的方法。
根据本申请的技术能够充分地利用外部知识,从而提高实体链指的准确性。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是本申请的一个实施例可以应用于其中的示例性系统架构图;
图2是根据本申请的实体链指方法的一个实施例的流程图;
图3是根据本申请的实体链指方法的一个应用场景的示意图;
图4是根据本申请的实体链指方法中确定候选实体的嵌入向量的一个实施例的流程图;
图5是根据本申请的实体链指方法中确定上下文语义信息的一个实施例的流程图;
图6是图5所示实施例中利用Attention机制学习词向量序列以及各候选实体的嵌入向量的示意图;
图7是根据本申请的实体链指方法中确定实体提及的类型信息的一个实施例的流程图;
图8是根据本申请的实体链指方法的另一个实施例的流程图;
图9是根据本申请的实体链指装置的一个实施例的结构示意图;
图10是用来实现本申请实施例的实体链指方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的实体链指方法或实体链指装置的实施例的示例性系统架构100。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如检索类应用等。
终端设备101、102、103可以是硬件,也可以是软件。当终端设备101、102、103为硬件时,可以是各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、车载电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103发送的信息进行处理的后台服务器。后台服务器可以识别终端发送的文本中的实体,并将上述实体与知识库中的实体进行关联。执行主体还可以将实体链指结果反馈给终端设备101、102、103。
需要说明的是,服务器105可以是硬件,也可以是软件。当服务器105为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当服务器105为软件时,可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块。在此不做具体限定。
需要说明的是,本申请实施例所提供的实体链指方法一般由服务器105执行。相应地,实体链指装置一般设置于服务器105中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
继续参考图2,示出了根据本申请的实体链指方法的一个实施例的流程200。实体链指一般可以包括实体识别和实体消歧两个部分,实体识别是指识别出文本中的实体,实体消歧是指将识别出的实体与知识库中已有实体链接。通过实体链指可以准确地理解文本的语义。本实施例的实体链指方法,包括以下步骤:
步骤201,获取目标文本。
本实施例中,实体链指方法的执行主体(例如图1所示的服务器105)可以通过有线连接或无线连接方式获取目标文本。上述目标文本可以是用户通过终端输入的文本。目标文本中可以是一个检索语句,其中可以包括至少一个实体提及。例如,目标文本可以是“这个夏天去哪里玩比较好”。
步骤202,确定目标文本中包括的至少一个实体提及以及各实体提及对应的候选实体。
执行主体在获取目标文本后,可以对目标文本进行各种处理,以确定目标文本中包括的至少一个实体提及(实体mention)。例如,执行主体可以对目标文本进行分词处理,将得到的名词作为实体提及。或者,执行主体可以对目标文本进行命名实体识别,将得到的命名实体作为实体提及。此处,实体提及是指实体的文本表现形式,可以是命名实体、普通名词短语、代词,等。例如,对于实体“复旦大学”来说,其实体提及可以包括“复旦大学”“复旦”“旦大”等等。
执行主体可以连接预设的至少一个知识库,上述知识库包括丰富文本的语义信息。上述知识库可以包括英文知识库TAP、维基百科、Freebase、YAGO以及中文知识库百度百科、互动百科、中文维基百科等。执行主体可以从上述知识库中查找各实体提及对应的候选实体。这里,候选实体是存在于知识库中,并且与实体提及关联的实体。候选实体的名称可以与实体提及的名称相同,也可以是实体提及的别称。例如,对于实体提及“夏天”来说,其对应的候选实体可以包括电影《夏天》(2008年上映的德国爱情电影)、歌曲《夏天》(李荣浩创作的歌曲,发行于2010年7月)、夏季(四季中的第二个季节,英语为summer)。
步骤203,根据各候选实体以及预设的实体嵌入向量确定模型,确定各候选实体的嵌入向量。
本实施例中,执行主体可以将各候选实体输入预先训练的实体嵌入向量确定模型中,得到各候选实体的嵌入向量(embedding)。上述实体嵌入向量确定模型用于表征候选实体与嵌入向量之间的对应关系。上述实体嵌入向量确定模型可以是现有的多个语言模型,例如,Bert(Bidirectional Encoder Representation from Transformers,双向Transformer的编码器)、Ernie(Ernie是基于百度的深度学习框架飞桨搭建的)等等。嵌入向量是候选实体的向量表示,其中包括了实体提及的语义信息。
步骤204,根据目标文本以及各嵌入向量,确定目标文本的上下文语义信息。
执行主体还可以根据目标文本以及各候选实体的嵌入向量,确定目标文本的上下文语义信息。具体的,执行主体可以利用注意力机制学习候选实体的嵌入向量,以在目标文本中选择与实体提及语义最相关的上下文词汇或者与实体提及语义最相关的上下文实体。这里的上下文语义信息可以包括这些上下文词汇或实体,也可以包括这些上下文词汇或实体的向量。例如,执行主体可以利用现有的编码算法对上下文词汇进行编码,得到上下文词汇的向量。
步骤205,确定至少一个实体提及的类型信息。
本实施例中,执行主体还可以确定各实体提及的类型信息。具体的,执行主体可以根据各实体提及的上下文词汇来确定实体提及的类型信息。上述类型信息用于表示实体提及的类型。例如目标文本为:“张三出生于北京”。这里,实体提及“北京”的类型可以根据其上文词汇“出生于”确定,其类型为“地点”。
步骤206,根据各嵌入向量、上下文语义信息以及各类型信息,确定至少一个实体提及的实体链指结果。
执行主体可以根据得到的各项信息,确定各实体提及的实体链指结果。具体的,执行主体可以将各项信息输入到预先设置的模型中,确定各实体提及的向量,然后计算上述向量与该实体提及的候选实体的向量之间的相似度。并将相似度最高的候选实体作为该实体提及的实体链指结果。
图3示出了根据本申请的实体链指方法的一个应用场景的示意图。在图3的应用场景中,用户通过终端301中的搜索类应用输入语句“刘XX演唱歌曲冰Y”。服务器302接收到上述输入语句后,得到实体提及为“刘XX”和“冰Y”。服务器302经过步骤202~206的处理后,对这些实体进行消歧,确定“中国香港男演员、歌手、制片人、填词人刘XX”为正确的实体。
本申请的上述实施例提供的实体链指方法,可以在实体链指过程中充分利用实体提及的嵌入向量、目标文本的上下文信息以及实体提及的类型信息,从而提高实体链指的准确性。
继续参见图4,其示出了根据本申请的实体链指方法中确定候选实体的嵌入向量的一个实施例的流程400。本实施例中,实体嵌入向量确定模型包括第一向量确定模型和第二向量确定模型,第一向量确定模型用于表征实体的描述文本与嵌入向量之间的对应关系,第二向量确定模型用于表征实体间的关系信息与嵌入向量的对应关系。这里,描述文本可以是描述实体相关的文本,例如其可以包括知识库中对实体的义项描述、摘要等等。实体的描述文本可以包括实体的语义相关词。举例来说,对于文本“李白是唐代诗人”,“唐代诗人”是实体“李白”的语义相关词。实体间的关系信息用于表示知识库中实体间的关系。举例来说,对于文本“李白和杜甫是好朋友”,那么实体“李白”和实体“杜甫”之间的关系为“好朋友”。
通过第一向量确定模型可以得到第一嵌入向量,第一向量模型可以学习实体与其描述文本中语义相关词之间的关系,并使得得到的实体的第一嵌入向量与语义相关词的向量之间的距离更近。这样,第一嵌入向量蕴含了实体的语义信息,可以用于提高实体链指的准确率。通过第二向量确定模型可以学习实体与实体之间的关系。通过第二向量确定模型得到的第二嵌入向量蕴含了实体间的关系信息。
上述第一向量确定模型和第二向量确定模型可以是通过对应的深度学习任务数据训练得到的。其可以包括多个现有的模型,例如可以包括语言模型(LM)、长短期记忆网络(LSTM)等等。
如图4所示,本实施例的实体链指方法可以通过以下步骤来确定候选实体的嵌入向量:
步骤401,获取各候选实体的描述文本。
执行主体在得到每个实体提及对应的各候选实体后,可以确定各候选实体的描述文本。具体的,执行主体可以从知识库或其它电子设备处获取候选实体的描述文本。
步骤402,根据各描述文本以及第一向量确定模型,确定各候选实体的第一嵌入向量。
执行主体可以将各候选实体的描述文本输入第一向量确定模型中,从而确定各候选实体的第一嵌入向量。第一向量确定模型可以对候选实体的描述文本进行切词,得到多个词语。然后将上述多个词语中的停用词过滤掉。上述停用词可以包括“了”、“的”等。将剩余的词汇作为候选实体的语义相关词。举例来说,描述文本是“李白是刺客里面最简单的刺客了”,其中的实体为“李白”。经过切词和过滤后,确定“刺客”、“简单”和“刺客”是实体“李白”的语义相关词。实体“李白”对应的候选实体包括候选实体1(Entity1)“李白”,其描述文本为“李白,唐代诗人,字太白……”和候选实体2(Entity2)“李白”,其描述文本为“李白:王者荣耀中刺客型英雄角色”。Entity1的语义相关词包括“唐代”“诗人”“字”“太白”。Entity2的语义相关词包括“王者荣耀”“刺客”“英雄”“角色”。经过第一向量确定模型得到的候选实体“李白”的第一嵌入向量与“王者荣耀”“刺客”“英雄”“角色”的向量更接近。
步骤403,确定各候选实体之间的关系信息。
执行主体还可以通过对描述文本进行语义分析,确定各候选实体之间的关系信息。例如,描述文本为“《王者荣耀》逆风局韩信很难玩吗”,其中包括的实体为“王者荣耀”和“韩信”。通过对上述描述文本进行分析出,可以确定“王者荣耀”和“韩信”之间的关系信息为“主要角色”,确定“韩信”和“王者荣耀”之间的关系信息为“所在游戏”。
步骤404,根据各候选实体之间的关系信息以及第二向量确定模型,确定各实体提及的第二嵌入向量。
执行主体在得到各候选实体之间的关系信息后,可以将各各候选实体之间的关系信息输入第二向量确定模型,可以得到各候选实体的第二嵌入向量。第二向量确定模型可以学习这种关系信息,使得得到的第二嵌入向量包含了这种关系信息,从而能够提升实体链指效果。
步骤405,根据第一嵌入向量以及第二嵌入向量,确定嵌入向量。
执行主体在得到第一嵌入向量以及第二嵌入向量后,可以对二者进行融合或拼接或者其它的处理,得到嵌入向量。
本申请的上述实施例提供的实体链指方法,可以充分地学习描述文本中候选实体间的关系信息,还可以学习候选实体的语义相关词,从而实现充分利用外部知识,提高实体链指的准确率。
继续参见图5,其示出了根据本申请的实体链指方法中确定上下文语义信息的一个实施例的流程500。如图5所示,本实施例的实体链指方法,可以通过以下步骤来确定上下文语义信息:
步骤501,确定目标文本的词向量序列。
执行主体可以将目标文本输入到词向量确定模型中,确定词向量序列。或者,执行主体可以首先对目标文本进行分词。然后将各分词输入到词向量确定模型中,得到各词语的向量。通过组合各词语的向量,得到词向量序列。上述词向量确定模型可以为char2vec。
步骤502,根据词向量序列以及各嵌入向量,确定上下文语义信息。
执行主体可以利用注意力(Attention)机制对词向量序列以及各候选实体的嵌入向量进行学习,确定上下文信息。这里的上下文信息可以是一个用于表示目标文本的向量,也可以是一个表示目标文本的词汇等等。Attention机制是模仿人类注意力而提出的一种解决问题的办法,简单地说就是从大量信息中快速筛选出高价值信息。
图6示出了本实施例中利用Attention机制学习词向量序列以及各候选实体的嵌入向量的示意图。在图6中,左侧为目标文本的词向量序列,其中每一列代表一个词向量。右侧为各候选实体的嵌入向量。Attention机制利用参数矩阵A学习二者,得到一个向量。该向量蕴含了目标文本整体与候选实体的相关性信息,该向量中的每个值表示一个权重。将该向量与目标文本的词向量序列进行加权平均,得到最终的上下文语义信息。
在本实施例的一些可选的实现方式中,步骤501可以通过图5中未示出的以下步骤来实现:响应于获取到至少一个实体提及的实体链指结果,确定实体链指结果对应的实体的嵌入向量;利用所确定的嵌入向量更新词向量序列。
本实现方式中,执行主体可以获取各实体提及的实体链指结果。目标文本中可能包含多个实体提及,如果存在已链接到候选实体的实体提及,则执行主体可以将该候选实体的嵌入向量作为该实体提及的词向量。这样,得到的词向量中包含的实体提及的信息更丰富。
本申请的上述实施例提供的实体链指方法,可以利用注意力机制得到目标文本的上下文信息,提高了外部知识的利用率,有利于实体链指结果准确率的提升。
继续参见图7,其示出了根据本申请的实体链指方法中确定实体提及的类型信息的一个实施例的流程700。如图7所示,本实施例可以通过以下步骤确定实体提及的类型信息:
步骤701,对于每个实体提及,在目标文本中遮挡该实体提及。
本实施例中,对于每个实体提及,执行主体可以体用掩码来遮挡该实体提及。上述掩码可以是[mask]。例如,目标文本为“张三出生于北京”。其中包括实体提及“张三”和“北京”。执行主体可以对“张三”进行遮挡,得到遮挡后的目标文本“[mask]出生于北京”。也可以对“北京”进行遮挡,得到遮挡后的目标文本“张三出生于[mask]”。
步骤702,根据遮挡后的目标文本以及预训练的语言模型,确定该实体提及的类型信息。
执行主体可以将遮挡后的目标文本输入预训练的语言模型中,得到该实体提及的类型信息。预训练的语言模型可以是Bert(Bidirectional Encoder Representation fromTransformers,双向Transformer的编码器)、Ernie(Ernie是基于百度的深度学习框架飞桨搭建的)等等。执行主体可以利用遮挡后的目标文本对预训练的语言模型进行微调。这样,预训练的语言模型可以强化学习目标文本的上下文信息,即学习遮挡的实体提及的最邻近词汇与遮挡的实体提及之间的关系。上述语言模型的输出是一个表示类型信息的向量,执行主体可以对上述向量进行解析,确定实体提及的类型信息。
本申请的上述实施例提供的实体链指方法,可以捕捉实体提及的类型信息,这样可以解决实体链指类型错误的问题。
继续参见图8,其示出了根据本申请的实体链指方法的另一个实施例的流程800。如图8所示,本实施例的实体链指方法可以包括以下步骤:
步骤801,获取目标文本。
步骤802,确定目标文本中包括的至少一个实体提及以及各实体提及对应的候选实体。
步骤803,根据各候选实体以及预设的实体嵌入向量确定模型,确定各候选实体的嵌入向量。
步骤804,根据目标文本以及各嵌入向量,确定目标文本的上下文语义信息。
步骤805,确定至少一个实体提及的类型信息。
执行主体在得到各实体提及的嵌入向量、目标文本的上下文语义信息以及各实体提及的类型信息后,可以通过步骤8061得到实体链指结果,也可以通过步骤8062、8072得到实体链指结果,还可以通过步骤8063、8073得到实体链指结果。
步骤8061,根据各嵌入向量、上下文语义信息、各类型信息以及预先设置的学习排序模型,确定每个实体提及对应的候选实体,将所确定的候选实体作为上述至少一个实体提及的实体链指结果。
本实施例中,执行主体可以将各实体提及的嵌入向量、目标文本的上下文语义信息以及各实体提及的类型信息输入上述学习排序(Learning to Rank,LTR)模型中,得到对每个实体提及对应的各候选实体的排序。执行主体可以将每个实体提及对应的排序中位于首位的候选实体作为该实体提及的实体链指结果。
上述LTR模型可以为包括Pairwise算法、Listwise算法和Pointwise算法。其中,Pairwise算法需要输入目标文本和两个候选实体(包含一个正例和一个负例),合并三者表示后再经过感知机网络分别为两个候选实体打分,使用排序损失函数。Listwise算法需要输入目标文本和所有的候选实体,合并目标文本表示和所有候选实体表示,为每个候选实体打分,使用排序损失函数。Pointwise算法将排序问题转化为分类问题,需要输入目标文本和一个候选实体,使用二分类预测结果的置信度作为候选实体打分,使用分类损失函数。
步骤8062,对于每个实体提及,根据上下文语义信息、该实体提及的嵌入向量、该实体提及的类型信息以及该实体提及对应的各候选实体的向量,确定各实体提及与各候选实体的相似度。
步骤8072,将相似度最高的候选实体确定为该实体提及的实体链指结果。
本实施例中,对于每个实体提及,执行主体还可以将上下文语义信息、该实体提及的嵌入向量、该实体提及的类型信息进行拼接,得到该实体提及的一个向量表示。然后计算该向量表示与各候选实体的向量之间的距离。这里,距离用于表示该实体提及与各候选实体的相似度。然后,将相似度最高的候选实体作为该实体提及的实体链指结果。
步骤8063,对于每个实体提及,根据上下文语义信息、该实体提及的嵌入向量,确定该实体提及的实体链指结果。
步骤8073,利用该实体提及的类型信息对实体链指结果进行校验。
本实施例中,对于每个实体提及,执行主体还可以根据上下文语义信息、该实体提及的嵌入向量确定该实体提及的实体链指结果。然后,利用实体提及的类型信息对实体链指结果进行校验,可以进一步提升实体链指的准确性。
本申请的上述实施例提供的实体链指方法,可以充分利用实体提及的嵌入向量、目标文本的上下文信息以及实体提及的类型信息,从而能够提升实体链指的准确性。
进一步参考图9,作为对上述各图所示方法的实现,本申请提供了一种实体链指装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图9所示,本实施例的输出信息装置900包括:目标文本获取单元901、候选实体确定单元902、嵌入向量确定单元903、上下文确定单元904、类型信息确定单元905和实体链指单元906。
目标文本获取单元901,被配置成获取目标文本。
候选实体确定单元902,被配置成确定目标文本中包括的至少一个实体提及以及各实体提及对应的候选实体。
嵌入向量确定单元903,被配置成根据各候选实体以及预设的实体嵌入向量确定模型,确定各实体提及的嵌入向量。
上下文确定单元904,被配置成根据目标文本以及各嵌入向量,确定目标文本的上下文语义信息。
类型信息确定单元905,被配置成确定至少一个实体提及的类型信息。
实体链指单元906,被配置成根据各嵌入向量、上下文语义信息以及各类型信息,确定至少一个实体提及的实体链指结果。
在本实施例的一些可选的实现方式中,实体嵌入向量确定模型包括第一向量确定模型和第二向量确定模型,第一向量确定模型用于表征描述文本与嵌入向量之间的对应关系,所述第二向量确定模型用于表征关系信息与嵌入向量的对应关系。
在本实施例的一些可选的实现方式中,嵌入向量确定单元903可以进一步包括图9中未示出的第一向量确定模块、第二向量确定模块和嵌入向量确定模块。
第一向量确定模块,被配置成获取各候选实体的描述文本;根据各描述文本以及所述第一向量确定模型,确定各候选实体的第一嵌入向量。
第二向量确定模块,被配置成确定各所述候选实体之间的关系信息;根据各所述候选实体之间的关系信息以及所述第二向量确定模型,确定各所述实体提及的第二嵌入向量。
嵌入向量确定模块,被配置成根据第一嵌入向量以及第二嵌入向量,确定嵌入向量。
在本实施例的一些可选的实现方式中,上下文确定单元904可以进一步包括图9中未示出的:词向量序列确定模块和上下文确定模块。
词向量序列确定模块,被配置成确定目标文本的词向量序列。
上下文确定模块,被配置成根据词向量序列以及各嵌入向量,确定上下文语义信息。
在本实施例的一些可选的实现方式中,词向量序列确定模块进一步被配置成:响应于获取到至少一个实体提及的实体链指结果,确定实体链指结果对应的候选实体的嵌入向量;利用所确定的嵌入向量更新词向量序列。
在本实施例的一些可选的实现方式中,类型信息确定单元905可以进一步被配置成:对于每个实体提及,在目标文本中遮挡该实体提及;根据遮挡后的目标文本以及预训练的语言模型,确定该实体提及的类型信息。
在本实施例的一些可选的实现方式中,实体链指单元906可以进一步被配置成:根据各嵌入向量、上下文语义信息、各类型信息以及预先设置的学习排序模型,确定每个实体提及对应的候选实体,将所确定的候选实体作为上述至少一个实体提及的实体链指结果。
在本实施例的一些可选的实现方式中,实体链指单元906可以进一步被配置成:对于每个实体提及,根据上下文语义信息、该实体提及的嵌入向量、该实体提及的类型信息以及该实体提及对应的各候选实体的向量,确定各实体提及与各候选实体的相似度;将相似度最高的候选实体确定为该实体提及的实体链指结果。
在本实施例的一些可选的实现方式中,实体链指单元906可以进一步被配置成:对于每个实体提及,根据上下文语义信息、该实体提及的嵌入向量,确定该实体提及的实体链指结果;利用该实体提及的类型信息对实体链指结果进行校验。
应当理解,实体链指装置900中记载的单元901至单元905分别与参考图2中描述的方法中的各个步骤相对应。由此,上文针对实体链指方法描述的操作和特征同样适用于装置900及其中包含的单元,在此不再赘述。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图10所示,是根据本申请实施例的执行实体链指方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图10所示,该电子设备包括:一个或多个处理器1001、存储器1002,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图10中以一个处理器1001为例。
存储器1002即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的执行实体链指方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的执行实体链指方法。
存储器1002作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的执行实体链指方法对应的程序指令/模块(例如,附图9所示的目标文本获取单元901、候选实体确定单元902、嵌入向量确定单元903、上下文确定单元904、类型信息确定单元905和实体链指单元906)。处理器1001通过运行存储在存储器1002中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的执行实体链指方法。
存储器1002可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据执行实体链指电子设备的使用所创建的数据等。此外,存储器1002可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器1002可选包括相对于处理器1001远程设置的存储器,这些远程存储器可以通过网络连接至执行实体链指电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
执行实体链指方法的电子设备还可以包括:输入装置1003和输出装置1004。处理器1001、存储器1002、输入装置1003和输出装置1004可以通过总线或者其他方式连接,图10中以通过总线连接为例。
输入装置1003可接收输入的数字或字符信息,以及产生与执行实体链指电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置1004可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,能够充分地利用外部知识,从而提高实体链指的准确性。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。

Claims (18)

1.一种实体链指方法,包括:
获取目标文本;
确定所述目标文本中包括的至少一个实体提及以及各所述实体提及对应的候选实体;
根据各所述候选实体以及预设的实体嵌入向量确定模型,确定各所述候选实体的嵌入向量,所述实体嵌入向量确定模型包括第一向量确定模型和第二向量确定模型,所述第一向量确定模型用于表征实体的描述文本与嵌入向量之间的对应关系,所述第二向量确定模型用于表征实体间的关系信息与嵌入向量的对应关系;
根据所述目标文本以及各所述嵌入向量,确定所述目标文本的上下文语义信息;
确定所述至少一个实体提及的类型信息;
根据各所述嵌入向量、所述上下文语义信息以及各所述类型信息,确定所述至少一个实体提及的实体链指结果。
2.根据权利要求1所述的方法,其中,所述根据各所述候选实体以及预设的实体嵌入向量确定模型,确定各所述候选实体的嵌入向量,包括:
获取各所述候选实体的描述文本;
根据各所述描述文本以及所述第一向量确定模型,确定各所述候选实体的第一嵌入向量;
确定各所述候选实体之间的关系信息;
根据各所述候选实体之间的关系信息以及所述第二向量确定模型,确定各所述实体提及的第二嵌入向量;
根据所述第一嵌入向量以及所述第二嵌入向量,确定各所述候选实体的嵌入向量。
3.根据权利要求1所述的方法,其中,所述根据所述目标文本以及各所述嵌入向量,确定所述目标文本的上下文语义信息,包括:
确定所述目标文本的词向量序列;
根据所述词向量序列以及各所述嵌入向量,确定所述上下文语义信息。
4.根据权利要求3所述的方法,其中,所述确定所述目标文本的词向量序列,包括:
响应于获取到所述至少一个实体提及的实体链指结果,确定所述实体链指结果对应的候选实体的嵌入向量;
利用所确定的嵌入向量更新所述词向量序列。
5.根据权利要求1所述的方法,其中,所述确定所述至少一个实体提及的类型信息,包括:
对于每个实体提及,在所述目标文本中遮挡该实体提及;
根据遮挡后的目标文本以及预训练的语言模型,确定该实体提及的类型信息。
6.根据权利要求1所述的方法,其中,所述根据各所述嵌入向量、所述上下文语义信息以及各所述类型信息,确定所述至少一个实体提及的实体链指结果,包括:
根据各所述嵌入向量、所述上下文语义信息、各所述类型信息以及预先设置的学习排序模型,确定每个实体提及对应的候选实体,将所确定的候选实体作为所述至少一个实体提及的实体链指结果。
7.根据权利要求1所述的方法,其中,所述根据各所述嵌入向量、所述上下文语义信息以及各所述类型信息,确定所述至少一个实体提及的实体链指结果,包括:
对于每个实体提及,根据所述上下文语义信息、该实体提及的嵌入向量、该实体提及的类型信息以及该实体提及对应的各候选实体的向量,确定各实体提及与各候选实体的相似度;
将相似度最高的候选实体确定为该实体提及的实体链指结果。
8.根据权利要求1所述的方法,其中,所述根据各所述嵌入向量、所述上下文语义信息以及各所述类型信息,确定所述至少一个实体提及的实体链指结果,包括:
对于每个实体提及,根据所述上下文语义信息、该实体提及的嵌入向量,确定该实体提及的实体链指结果;
利用该实体提及的类型信息对所述实体链指结果进行校验。
9.一种实体链指装置,包括:
目标文本获取单元,被配置成获取目标文本;
候选实体确定单元,被配置成确定所述目标文本中包括的至少一个实体提及以及各所述实体提及对应的候选实体;
嵌入向量确定单元,被配置成根据各所述候选实体以及预设的实体嵌入向量确定模型,确定各所述候选实体的嵌入向量,所述实体嵌入向量确定模型包括第一向量确定模型和第二向量确定模型,所述第一向量确定模型用于表征描述文本与嵌入向量之间的对应关系,所述第二向量确定模型用于表征关系信息与嵌入向量的对应关系;
上下文确定单元,被配置成根据所述目标文本以及各所述嵌入向量,确定所述目标文本的上下文语义信息;
类型信息确定单元,被配置成确定所述至少一个实体提及的类型信息;
实体链指单元,被配置成根据各所述嵌入向量、所述上下文语义信息以及各所述类型信息,确定所述至少一个实体提及的实体链指结果。
10.根据权利要求9所述的装置,其中,所述嵌入向量确定单元包括第一向量确定模块、第二向量确定模块和嵌入向量确定模块;以及
所述第一向量确定模块,被配置成获取各所述候选实体的描述文本;根据各所述描述文本以及所述第一向量确定模型,确定各所述候选实体的第一嵌入向量;
所述第二向量确定模块,被配置成确定各所述候选实体之间的关系信息;根据各所述候选实体之间的关系信息以及所述第二向量确定模型,确定各所述实体提及的第二嵌入向量;
所述嵌入向量确定模块,被配置成根据所述第一嵌入向量以及所述第二嵌入向量,确定各所述候选实体的嵌入向量。
11.根据权利要求9所述的装置,其中,所述上下文确定单元包括:
词向量序列确定模块,被配置成确定所述目标文本的词向量序列;
上下文确定模块,被配置成根据所述词向量序列以及各所述嵌入向量,确定所述上下文语义信息。
12.根据权利要求11所述的装置,其中,所述词向量序列确定模块进一步被配置成:
响应于获取到所述至少一个实体提及的实体链指结果,确定所述实体链指结果对应的候选实体的嵌入向量;
利用所确定的嵌入向量更新所述词向量序列。
13.根据权利要求9所述的装置,其中,所述类型信息确定单元进一步被配置成:
对于每个实体提及,在所述目标文本中遮挡该实体提及;
根据遮挡后的目标文本以及预训练的语言模型,确定该实体提及的类型信息。
14.根据权利要求9所述的装置,其中,所述实体链指单元进一步被配置成:
根据各所述嵌入向量、所述上下文语义信息、各所述类型信息以及预先设置的学习排序模型,确定每个实体提及对应的候选实体,将所确定的候选实体作为所述至少一个实体提及的实体链指结果。
15.根据权利要求9所述的装置,其中,所述实体链指单元进一步被配置成:
对于每个实体提及,根据所述上下文语义信息、该实体提及的嵌入向量、该实体提及的类型信息以及该实体提及对应的各候选实体的向量,确定各实体提及与各候选实体的相似度;
将相似度最高的候选实体确定为该实体提及的实体链指结果。
16.根据权利要求15所述的装置,其中,所述实体链指单元进一步被配置成:
对于每个实体提及,根据所述上下文语义信息、该实体提及的嵌入向量,确定该实体提及的实体链指结果;
利用该实体提及的类型信息对所述实体链指结果进行校验。
17.一种实体链指电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法。
18.一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行权利要求1-8中任一项所述的方法。
CN202010519600.4A 2020-06-09 2020-06-09 实体链指方法、装置、设备以及存储介质 Active CN111428507B (zh)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN202010519600.4A CN111428507B (zh) 2020-06-09 2020-06-09 实体链指方法、装置、设备以及存储介质
EP20211569.7A EP3923178A1 (en) 2020-06-09 2020-12-03 Method, apparatus, device, and storage medium for linking entity
US17/117,553 US11727216B2 (en) 2020-06-09 2020-12-10 Method, apparatus, device, and storage medium for linking entity
KR1020200172512A KR102448129B1 (ko) 2020-06-09 2020-12-10 엔티티 연결 방법, 장치, 기기 및 저장 매체
JP2020206160A JP7317791B2 (ja) 2020-06-09 2020-12-11 エンティティ・リンキング方法、装置、機器、及び記憶媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010519600.4A CN111428507B (zh) 2020-06-09 2020-06-09 实体链指方法、装置、设备以及存储介质

Publications (2)

Publication Number Publication Date
CN111428507A CN111428507A (zh) 2020-07-17
CN111428507B true CN111428507B (zh) 2020-09-11

Family

ID=71551300

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010519600.4A Active CN111428507B (zh) 2020-06-09 2020-06-09 实体链指方法、装置、设备以及存储介质

Country Status (5)

Country Link
US (1) US11727216B2 (zh)
EP (1) EP3923178A1 (zh)
JP (1) JP7317791B2 (zh)
KR (1) KR102448129B1 (zh)
CN (1) CN111428507B (zh)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111931509A (zh) * 2020-08-28 2020-11-13 北京百度网讯科技有限公司 实体链指方法、装置、电子设备及存储介质
CN112307752A (zh) * 2020-10-30 2021-02-02 平安科技(深圳)有限公司 一种数据处理方法、装置、电子设备及存储介质
CN112328710A (zh) * 2020-11-26 2021-02-05 北京百度网讯科技有限公司 实体信息处理方法、装置、电子设备和存储介质
CN112541346A (zh) * 2020-12-24 2021-03-23 北京百度网讯科技有限公司 摘要生成方法、装置、电子设备及可读存储介质
CN112966117A (zh) * 2020-12-28 2021-06-15 成都数之联科技有限公司 实体链接方法
CN112732917A (zh) * 2021-01-13 2021-04-30 上海明略人工智能(集团)有限公司 一种实体链指结果的确定方法和装置
CN112905917B (zh) * 2021-02-09 2023-07-25 北京百度网讯科技有限公司 内链生成方法、模型训练方法、相关装置及电子设备
CN112966513B (zh) * 2021-03-05 2023-08-01 北京百度网讯科技有限公司 用于实体链接的方法和装置
CN112989235B (zh) * 2021-03-09 2023-08-01 北京百度网讯科技有限公司 基于知识库的内链构建方法、装置、设备和存储介质
CN113157946A (zh) * 2021-05-14 2021-07-23 咪咕文化科技有限公司 实体链接方法、装置、电子设备及存储介质
CN113657100B (zh) * 2021-07-20 2023-12-15 北京百度网讯科技有限公司 实体识别方法、装置、电子设备及存储介质
US20230123711A1 (en) * 2021-10-18 2023-04-20 Intuit Inc. Extracting key value pairs using positional coordinates
CN113971216B (zh) * 2021-10-22 2023-02-03 北京百度网讯科技有限公司 数据处理方法、装置、电子设备和存储器
CN114118049B (zh) * 2021-10-28 2023-09-22 北京百度网讯科技有限公司 信息获取方法、装置、电子设备及存储介质
KR20230089056A (ko) * 2021-12-13 2023-06-20 삼성전자주식회사 데이터 결합을 위한 전자 장치 및 이의 제어 방법
CN114239583B (zh) * 2021-12-15 2023-04-07 北京百度网讯科技有限公司 实体链指模型的训练及实体链指方法、装置、设备及介质
CN114385833B (zh) * 2022-03-23 2023-05-12 支付宝(杭州)信息技术有限公司 更新知识图谱的方法及装置
CN114970666B (zh) * 2022-03-29 2023-08-29 北京百度网讯科技有限公司 一种口语处理方法、装置、电子设备及存储介质
CN115129883B (zh) * 2022-05-27 2024-02-13 腾讯科技(深圳)有限公司 实体链接方法和装置、存储介质及电子设备
CN115329755B (zh) * 2022-08-18 2023-10-31 腾讯科技(深圳)有限公司 实体链接模型处理方法、装置和实体链接处理方法、装置
CN115496039B (zh) * 2022-11-17 2023-05-12 荣耀终端有限公司 一种词语提取方法及计算机设备
CN115982352B (zh) * 2022-12-12 2024-04-02 北京百度网讯科技有限公司 文本分类方法、装置以及设备
KR102649675B1 (ko) * 2023-12-20 2024-03-20 주식회사 인텔렉투스 그래프 자료 구조 및 벡터 데이터가 통합된 풀 텍스트 인덱스를 이용한 정보 제공 방법 및 시스템

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104462126B (zh) * 2013-09-22 2018-04-27 富士通株式会社 一种实体链接方法及装置
WO2015125209A1 (ja) 2014-02-18 2015-08-27 株式会社日立製作所 情報構造化システム及び情報構造化方法
CN106940702A (zh) * 2016-01-05 2017-07-11 富士通株式会社 连接短文本中实体提及与语义知识库中实体的方法和设备
US20180232443A1 (en) * 2017-02-16 2018-08-16 Globality, Inc. Intelligent matching system with ontology-aided relation extraction
US10380259B2 (en) * 2017-05-22 2019-08-13 International Business Machines Corporation Deep embedding for natural language content based on semantic dependencies
US20190006027A1 (en) 2017-06-30 2019-01-03 Accenture Global Solutions Limited Automatic identification and extraction of medical conditions and evidences from electronic health records
US11238339B2 (en) * 2017-08-02 2022-02-01 International Business Machines Corporation Predictive neural network with sentiment data
CN107861939B (zh) * 2017-09-30 2021-05-14 昆明理工大学 一种融合词向量和主题模型的领域实体消歧方法
US11250331B2 (en) * 2017-10-31 2022-02-15 Microsoft Technology Licensing, Llc Distant supervision for entity linking with filtering of noise
US10963514B2 (en) * 2017-11-30 2021-03-30 Facebook, Inc. Using related mentions to enhance link probability on online social networks
US10593422B2 (en) * 2017-12-01 2020-03-17 International Business Machines Corporation Interaction network inference from vector representation of words
CN108280061B (zh) * 2018-01-17 2021-10-26 北京百度网讯科技有限公司 基于歧义实体词的文本处理方法和装置
US11379536B2 (en) 2018-05-21 2022-07-05 Rakuten Group, Inc. Classification device, classification method, generation method, classification program, and generation program
US20210142007A1 (en) 2018-06-28 2021-05-13 Ntt Docomo, Inc. Entity identification system
US20200065422A1 (en) * 2018-08-24 2020-02-27 Facebook, Inc. Document Entity Linking on Online Social Networks
US11551042B1 (en) * 2018-08-27 2023-01-10 Snap Inc. Multimodal sentiment classification
CN110110324B (zh) * 2019-04-15 2022-12-02 大连理工大学 一种基于知识表示的生物医学实体链接方法
CN110991187B (zh) * 2019-12-05 2024-03-08 北京奇艺世纪科技有限公司 一种实体链接的方法、装置、电子设备及介质

Also Published As

Publication number Publication date
EP3923178A1 (en) 2021-12-15
US20210383069A1 (en) 2021-12-09
KR20210152924A (ko) 2021-12-16
KR102448129B1 (ko) 2022-09-27
CN111428507A (zh) 2020-07-17
US11727216B2 (en) 2023-08-15
JP2021197138A (ja) 2021-12-27
JP7317791B2 (ja) 2023-07-31

Similar Documents

Publication Publication Date Title
CN111428507B (zh) 实体链指方法、装置、设备以及存储介质
CN111523326B (zh) 实体链指方法、装置、设备以及存储介质
CN111221983B (zh) 时序知识图谱生成方法、装置、设备和介质
JP7108675B2 (ja) 意味マッチング方法、装置、電子機器、記憶媒体及びコンピュータプログラム
CN111507104B (zh) 建立标签标注模型的方法、装置、电子设备和可读存储介质
CN110717327A (zh) 标题生成方法、装置、电子设备和存储介质
CN111144507B (zh) 情感分析模型预训练方法、装置及电子设备
CN111079945B (zh) 端到端模型的训练方法及装置
CN111950291A (zh) 语义表示模型的生成方法、装置、电子设备及存储介质
CN112560479A (zh) 摘要抽取模型训练方法、摘要抽取方法、装置和电子设备
CN110674260B (zh) 语义相似模型的训练方法、装置、电子设备和存储介质
JP2021108098A (ja) レビュー情報の処理方法、装置、コンピュータ機器及び媒体
CN112506949B (zh) 结构化查询语言查询语句生成方法、装置及存储介质
CN111737954A (zh) 文本相似度确定方法、装置、设备和介质
CN111984774B (zh) 搜索方法、装置、设备以及存储介质
CN112507697A (zh) 事件名的生成方法、装置、设备及介质
CN112541362A (zh) 一种泛化处理的方法、装置、设备和计算机存储介质
CN111738015A (zh) 文章情感极性分析方法、装置、电子设备及存储介质
CN111858880A (zh) 获取查询结果的方法、装置、电子设备和可读存储介质
CN112232089B (zh) 语义表示模型的预训练方法、设备和存储介质
US11893977B2 (en) Method for recognizing Chinese-English mixed speech, electronic device, and storage medium
JP7352640B2 (ja) 検索項目書き換え方法、装置、機器および記憶媒体
CN112329429A (zh) 文本相似度学习方法、装置、设备以及存储介质
CN112015989A (zh) 用于推送信息的方法和装置
CN111985221B (zh) 一种文本事理关系的识别方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant