CN111339737A - 实体链接方法、装置、设备及存储介质 - Google Patents
实体链接方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN111339737A CN111339737A CN202010125376.0A CN202010125376A CN111339737A CN 111339737 A CN111339737 A CN 111339737A CN 202010125376 A CN202010125376 A CN 202010125376A CN 111339737 A CN111339737 A CN 111339737A
- Authority
- CN
- China
- Prior art keywords
- entity
- candidate
- information
- text information
- designation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 79
- 238000004458 analytical method Methods 0.000 claims abstract description 17
- 239000013598 vector Substances 0.000 claims description 125
- 230000011218 segmentation Effects 0.000 claims description 90
- 230000008569 process Effects 0.000 claims description 27
- 238000013528 artificial neural network Methods 0.000 claims description 26
- 238000012545 processing Methods 0.000 claims description 20
- 230000015654 memory Effects 0.000 claims description 17
- 230000000306 recurrent effect Effects 0.000 claims description 17
- 238000012549 training Methods 0.000 claims description 13
- 238000000605 extraction Methods 0.000 abstract description 17
- 241000220225 Malus Species 0.000 description 25
- 230000002093 peripheral effect Effects 0.000 description 10
- 230000001133 acceleration Effects 0.000 description 9
- 230000006870 function Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 235000013399 edible fruits Nutrition 0.000 description 5
- 230000006835 compression Effects 0.000 description 4
- 238000007906 compression Methods 0.000 description 4
- 235000013305 food Nutrition 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000002452 interceptive effect Effects 0.000 description 3
- 210000002569 neuron Anatomy 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 239000000919 ceramic Substances 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000003058 natural language processing Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 235000014443 Pyrus communis Nutrition 0.000 description 1
- 235000021016 apples Nutrition 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 210000004027 cell Anatomy 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Machine Translation (AREA)
Abstract
本申请公开了一种实体链接方法、装置、设备及存储介质,属于计算机技术领域。本申请实施例通过对文本信息中的实体指称进行匹配得到候选实体信息,从而通过候选实体信息来替换实体指称得到候选文本信息,通过对候选文本信息进行特征提取,判定语义合理性,来确定实体链接结果,通过替换步骤,将候选实体信息和实体指称在文本信息中的上下文信息结合在一起进行特征提取和语义合理性判断,在确定实体链接结果是否准确时,直接利用到了上下文信息,在语义合理性分析时分析更准确,得到的实体链接结果也更准确。
Description
技术领域
本申请涉及计算机技术领域,特别涉及一种实体链接方法、装置、设备及存储介质。
背景技术
实体链接是指将文本中的实体指称链向知识库实体的任务,通过实体链接,能够丰富文本语义信息,在自然语言处理、信息检索等领域有着广泛的应用前景。
目前,实体链接方法通常是根据一定策略为每个实体指称生成与之对应的候选实体,将候选实体和实体指称均转换为向量,通过计算二者之间的相似度来确定实体链接结果。上述方法中候选实体与实体指称等分开建模,映射到不同的特征空间,候选实体无法利用文本的上下文信息,实体链接结果的准确性较差。
发明内容
本申请实施例提供了一种实体链接方法、装置、设备及存储介质,可以解决相关技术中准确性差的问题。所述技术方案如下:
一方面,提供了一种实体链接方法,所述方法包括:
对待处理的文本信息中的至少一个实体指称与实体库进行匹配,得到每个实体指称匹配的至少一个候选实体信息;
基于所述每个实体指称匹配的至少一个候选实体信息,对所述文本信息中的所述至少一个实体指称均进行替换,得到至少一个候选文本信息;
对所述至少一个候选文本信息进行特征提取,基于提取到的特征,获取所述至少一个候选文本信息的语义合理性,将语义合理性最大的候选文本信息中的每个候选实体信息作为对应的实体指称的实体信息。
在一种可能实现方式中,所述对待处理的文本信息中的至少一个实体指称与实体库进行匹配,得到每个实体指称匹配的至少一个候选实体信息包括:
对待处理的文本信息进行实体识别,得到所述文本信息中的至少一个实体指称;
对所述至少一个实体指称中每个实体指称与实体库中实体信息进行匹配,得到所述每个实体指称匹配的至少一个候选实体信息。
在一种可能实现方式中,每个候选实体信息包括候选实体以及所述候选实体的类型;
所述基于所述每个实体指称匹配的至少一个候选实体信息,对所述文本信息中的所述至少一个实体指称均进行替换,得到至少一个候选文本信息,包括:
将所述文本信息中的每个实体指称均替换为对应的候选实体以及所述候选实体的类型,得到至少一个候选文本信息。
在一种可能实现方式中,所述基于所述每个实体指称匹配的至少一个候选实体信息,对所述文本信息中的所述至少一个实体指称均进行替换,得到至少一个候选文本信息,包括:
当任一实体指称匹配的候选实体信息的数量不为一时,根据所述至少一个实体指称匹配的多个候选实体信息,获取多个候选替换组合,每个候选替换组合包括每个实体指称匹配的一个候选实体信息;
基于所述多个候选替换组合,对所述文本信息中的所述至少一个实体指称进行替换,得到多个候选文本信息。
在一种可能实现方式中,所述对所述至少一个候选文本信息进行特征提取,包括:
对所述至少一个候选文本信息中每个候选文本信息进行分词处理,得到多个分词结果;
对所述多个分词结果进行词性分析,得到每个分词结果的词性;
将所述多个分词结果和所述多个分词结果的词性转换为向量,得到所述每个候选文本信息的多个词向量;
基于所述多个词向量,获取所述每个候选文本信息的特征向量。
在一种可能实现方式中,所述将所述多个分词结果和所述多个分词结果的词性转换为向量,得到所述每个候选文本信息的多个词向量,包括:
分别将所述多个分词结果和所述多个分词结果的词性转化为向量,对每个分词结果的分词向量和词性向量进行拼接,得到所述多个分词结果对应的多个词向量。
在一种可能实现方式中,所述基于所述多个词向量,获取所述每个候选文本信息的特征向量,包括:
将所述多个词向量输入循环神经网络中,由所述循环神经网络根据所述多个词向量中相邻词向量之间的关系和自然语言规律,将所述多个词向量转化为一个特征向量,输出所述特征向量。
在一种可能实现方式中,所述对所述至少一个候选文本信息进行特征提取,基于提取到的特征,获取所述至少一个候选文本信息的语义合理性,将语义合理性最大的候选文本信息中的每个候选实体信息作为对应的实体指称的实体信息,包括:
将所述至少一个候选文本信息输入语义合理性确定模型中,由所述语义合理性确定模型对所述至少一个候选文本信息进行特征提取,基于提取到的特征,获取所述至少一个候选文本信息的语义合理性,输出语义合理性最大的候选文本信息;
将语义合理性最大的候选文本信息中的每个候选实体信息作为对应的实体指称的实体信息。
在一种可能实现方式中,所述语义合理性确定模型的训练过程包括:
基于样本文本信息中实体指称对应的目标实体信息,对样本文本信息中实体指称进行替换,得到第一样本文本信息;
基于样本文本信息中实体指称对应的干扰实体信息,对样本文本信息中实体指称进行替换,得到第二样本文本信息;
基于所述第一样本文本信息和所述第二样本文本信息,对初始模型进行训练,得到所述语义合理性确定模型。
在一种可能实现方式中,所述将语义合理性最大的候选文本信息中的每个候选实体信息作为对应的实体指称的实体信息之后,所述方法还包括下述任一项:
建立所述至少一个实体指称与对应的至少一个实体之间的关联关系;
在界面中显示所述语义合理性最大的候选文本信息;
在所述文本信息中的所述至少一个实体指称对应位置上显示查看控件,响应于对任一实体指称的查看控件的触发指令,在所述任一实体指称对应位置上显示对应的实体信息。
一方面,提供了一种实体链接装置,所述装置包括:
匹配模块,用于对待处理的文本信息中的至少一个实体指称与实体库进行匹配,得到每个实体指称匹配的至少一个候选实体信息;
替换模块,用于基于所述每个实体指称匹配的至少一个候选实体信息,对所述文本信息中的所述至少一个实体指称均进行替换,得到至少一个候选文本信息;
获取模块,用于对所述至少一个候选文本信息进行特征提取,基于提取到的特征,获取所述至少一个候选文本信息的语义合理性,将语义合理性最大的候选文本信息中的每个候选实体信息作为对应的实体指称的实体信息。
在一种可能实现方式中,所述匹配模块用于:
对待处理的文本信息进行实体识别,得到所述文本信息中的至少一个实体指称;
对所述至少一个实体指称中每个实体指称与实体库中实体信息进行匹配,得到所述每个实体指称匹配的至少一个候选实体信息。
在一种可能实现方式中,每个候选实体信息包括候选实体以及所述候选实体的类型;
所述替换模块用于将所述文本信息中的每个实体指称均替换为对应的候选实体以及所述候选实体的类型,得到至少一个候选文本信息。
在一种可能实现方式中,所述替换模块用于:
当任一实体指称匹配的候选实体信息的数量不为一时,根据所述至少一个实体指称匹配的多个候选实体信息,获取多个候选替换组合,每个候选替换组合包括每个实体指称匹配的一个候选实体信息;
基于所述多个候选替换组合,对所述文本信息中的所述至少一个实体指称进行替换,得到多个候选文本信息。
在一种可能实现方式中,所述获取模块用于:
对所述至少一个候选文本信息中每个候选文本信息进行分词处理,得到多个分词结果;
对所述多个分词结果进行词性分析,得到每个分词结果的词性;
将所述多个分词结果和所述多个分词结果的词性转换为向量,得到所述每个候选文本信息的多个词向量;
基于所述多个词向量,获取所述每个候选文本信息的特征向量。
在一种可能实现方式中,所述获取模块用于分别将所述多个分词结果和所述多个分词结果的词性转化为向量,对每个分词结果的分词向量和词性向量进行拼接,得到所述多个分词结果对应的多个词向量。
在一种可能实现方式中,所述获取模块用于将所述多个词向量输入循环神经网络中,由所述循环神经网络根据所述多个词向量中相邻词向量之间的关系和自然语言规律,将所述多个词向量转化为一个特征向量,输出所述特征向量。
在一种可能实现方式中,所述获取模块用于:
将所述至少一个候选文本信息输入语义合理性确定模型中,由所述语义合理性确定模型对所述至少一个候选文本信息进行特征提取,基于提取到的特征,获取所述至少一个候选文本信息的语义合理性,输出语义合理性最大的候选文本信息;
将语义合理性最大的候选文本信息中的每个候选实体信息作为对应的实体指称的实体信息。
在一种可能实现方式中,所述语义合理性确定模型的训练过程包括:
基于样本文本信息中实体指称对应的目标实体信息,对样本文本信息中实体指称进行替换,得到第一样本文本信息;
基于样本文本信息中实体指称对应的干扰实体信息,对样本文本信息中实体指称进行替换,得到第二样本文本信息;
基于所述第一样本文本信息和所述第二样本文本信息,对初始模型进行训练,得到所述语义合理性确定模型。
在一种可能实现方式中,所述装置还包括:
建立模块,用于建立所述至少一个实体指称与对应的至少一个实体之间的关联关系;
显示模块,用于在界面中显示所述语义合理性最大的候选文本信息;
所述显示模块,还用于在所述文本信息中的所述至少一个实体指称对应位置上显示查看控件,响应于对任一实体指称的查看控件的触发指令,在所述任一实体指称对应位置上显示对应的实体信息。
一方面,提供了一种计算机设备,所述计算机设备包括一个或多个处理器和一个或多个存储器,所述一个或多个存储器中存储有至少一条指令,所述指令由所述一个或多个处理器加载并执行以实现所述实体链接方法所执行的操作。
一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一条指令,所述指令由处理器加载并执行以实现所述实体链接方法所执行的操作。
本申请实施例通过对文本信息中的实体指称进行匹配得到候选实体信息,从而通过候选实体信息来替换实体指称得到候选文本信息,通过对候选文本信息进行特征提取,判定语义合理性,来确定实体链接结果,通过替换步骤,将候选实体信息和实体指称在文本信息中的上下文信息结合在一起进行特征提取和语义合理性判断,在确定实体链接结果是否准确时,直接利用到了上下文信息,在语义合理性分析时分析更准确,得到的实体链接结果也更准确。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种实体链接方法的实施环境;
图2是本申请实施例提供的一种实体链接方法流程图;
图3是本申请实施例提供的一种实体链接方法流程图;
图4是本申请实施例提供的一种实体链接方法流程图;
图5是本申请实施例提供的一种实体链接装置结构示意图;
图6是本申请实施例提供的一种终端的结构示意图;
图7是本申请实施例提供的一种服务器的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
下面针对本申请涉及到的名词进行介绍。
实体指称(Entity Mention),文本中可能表示知识库实体的词语,如文本“苹果今年新出了几款手机”中词语“苹果”和“手机”是两个实体指称,它们分别表示知识库中的<苹果公司>和<iPhone>实体。同样的实体指称在不同句子中可能表示不同实体,同一个实体可能有不同的实体指称。如“苹果”在“超市的苹果多少钱一斤”中表示实体<苹果_水果>,实体<苹果公司>的指称也可能是“苹果公司”等。
神经网络(Neural Network):一类机器学习模型。
词向量(Word Embedding),将一个词转换成一个向量,该向量即为词向量。如“苹果”用[0.13,0.8,0.3]表示,“梨”用[0.52,0.2,0.3]表示。训练好的词向量使得语义相近的词语所对应的向量距离也相近。
循环神经网络(Recurrent Neural Network,RNN):一类神经网络模型结构,输入是向量序列,按顺序每一时刻向模型输入当前向量和前一时刻的输出向量,模型在每一时刻都会给出一个输出向量。例如,LSTM、Bi-LSTM、GRU、Bi-GRU等即是循环神经网络结构。
前馈神经网络(Forward Neural Network,FNN):又叫全连接神经网络,该前馈神经网络是一种神经网络结构。前馈神经网络中每个神经元只与前一层神经元相连,每个神经元可以接收前一层的输出,并将计算结果输出至下一层,各层之间没有反馈。
图1是本申请实施例提供的一种实体链接方法的实施环境,参见图1,该实施环境包括:终端101和实体链接平台102。终端101通过无线网络或有线网络与实体链接平台102相连。
终端101可以是智能手机、游戏主机、台式计算机、平板电脑、电子书阅读器、MP3(Moving Picture Experts Group Audio Layer III,动态影像专家压缩标准音频层面3)播放器或MP4(Moving Picture Experts Group Audio Layer IV,动态影像专家压缩标准音频层面4)播放器和膝上型便携计算机中的至少一种。终端101安装和运行有应用程序,该应用程序可以通过浏览器运行,也可以通过独立的客户端运行。
实体链接平台102包括一台服务器、多台服务器、云计算平台和虚拟化中心中的至少一种。实体链接平台102包括:多个服务器1021、服务器1022以及数据库1023。在此仅以该实体链接平台102包括服务器和数据库为例,该实体链接平台102也可以包括终端,由终端提供数据计算服务。每个服务器1021上可以运行业务系统,实现相同或不同的业务服务。例如,某个服务器1021能够对获取到的文本信息进行实体链接,实体链接后可以将实体链接结果反馈给需求方,例如,终端101。也可以基于实体链接结果进行后续步骤,例如,对问题进行应答等。
通过终端101,可以访问服务器1021上部署的业务系统。数据库1023可以提供为数据中心,可以用于存储业务数据以及文件。例如,数据库1023中可以存储有实体库,终端101可以将需要进行实体链接的文本信息发送给服务器1021,服务器1021可以基于该文本信息,对该文本信息中的实体指称与实体库进行匹配,从而实现实体链接。
本领域技术人员可以知晓,上述终端101、服务器1021的数量可以更多或更少。比如上述终端101、服务器1021、服务器1022以及数据库1023可以仅为一个,或者上述终端101、服务器1021、服务器1022以及数据库1023为几十个或几百个,或者更多数量,此时上述实施环境还包括其他终端、其他服务器或其他数据库。本申请实施例对终端、服务器或数据库的数量和设备类型不加以限定。
图2是本申请实施例提供的一种实体链接方法的流程图,参见图2,该方法包括:
201、对待处理的文本信息中的至少一个实体指称与实体库进行匹配,得到每个实体指称匹配的至少一个候选实体信息。
202、基于该每个实体指称匹配的至少一个候选实体信息,对该文本信息中的该至少一个实体指称均进行替换,得到至少一个候选文本信息。
203、对该至少一个候选文本信息进行特征提取,基于提取到的特征,获取该至少一个候选文本信息的语义合理性,将语义合理性最大的候选文本信息中的每个候选实体信息作为对应的实体指称的实体信息。
本申请实施例通过对文本信息中的实体指称进行匹配得到候选实体信息,从而通过候选实体信息来替换实体指称得到候选文本信息,通过对候选文本信息进行特征提取,判定语义合理性,来确定实体链接结果,通过替换步骤,将候选实体信息和实体指称在文本信息中的上下文信息结合在一起进行特征提取和语义合理性判断,在确定实体链接结果是否准确时,直接利用到了上下文信息,在语义合理性分析时分析更准确,得到的实体链接结果也更准确。
在一种可能实现方式中,该对待处理的文本信息中的至少一个实体指称与实体库进行匹配,得到每个实体指称匹配的至少一个候选实体信息包括:
对待处理的文本信息进行实体识别,得到该文本信息中的至少一个实体指称;
对该至少一个实体指称中每个实体指称与实体库中实体信息进行匹配,得到该每个实体指称匹配的至少一个候选实体信息。
在一种可能实现方式中,每个候选实体信息包括候选实体以及该候选实体的类型;
该基于该每个实体指称匹配的至少一个候选实体信息,对该文本信息中的该至少一个实体指称均进行替换,得到至少一个候选文本信息,包括:
将该文本信息中的每个实体指称均替换为对应的候选实体以及该候选实体的类型,得到至少一个候选文本信息。
在一种可能实现方式中,该基于该每个实体指称匹配的至少一个候选实体信息,对该文本信息中的该至少一个实体指称均进行替换,得到至少一个候选文本信息,包括:
当任一实体指称匹配的候选实体信息的数量不为一时,根据该至少一个实体指称匹配的多个候选实体信息,获取多个候选替换组合,每个候选替换组合包括每个实体指称匹配的一个候选实体信息;
基于该多个候选替换组合,对该文本信息中的该至少一个实体指称进行替换,得到多个候选文本信息。
在一种可能实现方式中,该对该至少一个候选文本信息进行特征提取,包括:
对该至少一个候选文本信息中每个候选文本信息进行分词处理,得到多个分词结果;
对该多个分词结果进行词性分析,得到每个分词结果的词性;
将该多个分词结果和该多个分词结果的词性转换为向量,得到该每个候选文本信息的多个词向量;
基于该多个词向量,获取该每个候选文本信息的特征向量。
在一种可能实现方式中,
该将该多个分词结果和该多个分词结果的词性转换为向量,得到该每个候选文本信息的多个词向量,包括:
分别将该多个分词结果和该多个分词结果的词性转化为向量,对每个分词结果的分词向量和词性向量进行拼接,得到该多个分词结果对应的多个词向量。
在一种可能实现方式中,该基于该多个词向量,获取该每个候选文本信息的特征向量,包括:
将该多个词向量输入循环神经网络中,由该循环神经网络根据该多个词向量中相邻词向量之间的关系和自然语言规律,将该多个词向量转化为一个特征向量,输出该特征向量。
在一种可能实现方式中,该对该至少一个候选文本信息进行特征提取,基于提取到的特征,获取该至少一个候选文本信息的语义合理性,将语义合理性最大的候选文本信息中的每个候选实体信息作为对应的实体指称的实体信息,包括:
将该至少一个候选文本信息输入语义合理性确定模型中,由该语义合理性确定模型对该至少一个候选文本信息进行特征提取,基于提取到的特征,获取该至少一个候选文本信息的语义合理性,输出语义合理性最大的候选文本信息;
将语义合理性最大的候选文本信息中的每个候选实体信息作为对应的实体指称的实体信息。
在一种可能实现方式中,该语义合理性确定模型的训练过程包括:
基于样本文本信息中实体指称对应的目标实体信息,对样本文本信息中实体指称进行替换,得到第一样本文本信息;
基于样本文本信息中实体指称对应的干扰实体信息,对样本文本信息中实体指称进行替换,得到第二样本文本信息;
基于该第一样本文本信息和该第二样本文本信息,对初始模型进行训练,得到该语义合理性确定模型。
在一种可能实现方式中,该将语义合理性最大的候选文本信息中的每个候选实体信息作为对应的实体指称的实体信息之后,该方法还包括下述任一项:
建立该至少一个实体指称与对应的至少一个实体之间的关联关系;
在界面中显示该语义合理性最大的候选文本信息;
在该文本信息中的该至少一个实体指称对应位置上显示查看控件,响应于对任一实体指称的查看控件的触发指令,在该任一实体指称对应位置上显示对应的实体信息。
图3是本申请实施例提供的一种实体链接方法的流程图,参见图3,该方法可以包括以下步骤。
301、计算机设备获取待处理的文本信息。
在本申请实施例中,计算机设备可以对文本信息进行处理,确定文本信息中的实体指称对应的实体信息,来通过实体丰富文本信息的内容,能够更清晰地获知文本信息中实体指称的含义。
对于待处理的文本信息,该待处理的文本信息可以包括多种来源,相应地,计算机设备获取待处理的文本信息的过程则可以包括多种方式。
在一种可能实现方式中,该待处理的文本信息可以由其他计算机设备发送至该计算机设备,上述获取过程则可以为:计算机设备接收其他计算机设备发送的待处理的文本信息。例如,其他计算机设备有文本信息处理需求时可以向该计算机设备发送待处理的文本信息,计算机设备接收该文本信息,即可对其进行处理,并将处理结果返回至其他计算机设备。
在另一种可能实现方式中,该待处理的文本信息可以为网络资源,上述获取过程可以为:计算机设备从目标网站下载待处理的文本信息。
在另一种可能实现方式中,该待处理的文本信息也可以由用户输入,或者由用户在文档中选中,计算机设备可以获取输入框中的文本信息作为待处理的文本信息,或者计算机设备可以获取选中指令所指示的文本信息作为待处理的文本信息。
上述提供了几种待处理文本信息的获取方式,具体还可以采用其他获取方式,本申请实施例对此不作限定。需要说明的是,该计算机设备可以为终端,终端可以基于用户操作触发的指令执行实体链接步骤。计算机设备也可以为服务器,服务器可以基于终端发送的请求提供实体链接服务,也可以基于自身生成的实体链接指令执行实体链接步骤,本申请实施例对此不作限定。
302、计算机设备对待处理的文本信息进行实体识别,得到该文本信息中的至少一个实体指称。
计算机设备获取到待处理的文本信息后即可对其进行处理,确定该文本信息中的实体指称对应的实体信息。计算机设备可以先进行实体识别,确定了文本信息中的实体指称后,再确定每个实体指称对应的实体信息。
在一种可能实现方式中,计算机设备可以通过实体的名称、别名等信息构建实体指称词典,计算机设备可以将该文本信息与实体指称词典进行匹配,查询待处理的文本信息中是否包括该实体指称词典中的词语,如果是,计算机设备可以将该词语确定为实体指称。
在另一种可能实现方式中,计算机设备可以根据字或词的词形或词性等判断分词结果是否为实体指称。具体地,计算机设备可以对待处理的文本信息进行分词,得到至少一个分词结果,计算机设备可以获取每个分词结果的词形或者词性,将目标词形或目标词性的分词结果作为实体指称。
该实体识别过程也可以基于实体识别模型实现,计算机设备可以将待处理的文本信息输入实体识别模型中,由实体识别模型对该文本信息进行分词和识别步骤,输出该文本信息的至少一个实体指称。当然,该实体识别过程还可以通过其他方式实现,上述仅为几种示例性说明,本申请实施例对具体采用哪种方式不作限定。
303、计算机设备对该至少一个实体指称中每个实体指称与实体库中实体信息进行匹配,得到该每个实体指称匹配的至少一个候选实体信息。
计算机设备得到至少一个实体指称后,可以进一步确定每个实体指称对应的实体信息,在此可以先将其与实体库中的实体信息进行匹配。但是由于同样的实体指称在不同句子中可能表示不同实体,也即是,上述匹配过程中,可能一个实体指称可能匹配到多个实体信息。在此可以将匹配到的作为候选实体信息,再进行下述步骤,来判断每个实体指称对应的实体信息为候选实体信息中的哪一个。
具体地,计算机设备进行匹配时,可以获取该至少一个实体指称中每个实体指称与实体库中实体信息之间的相似度,将相似度大于相似度阈值的实体信息作为每个实体指称匹配的候选实体信息。
其中,该相似度获取过程可以通过多种方式实现,例如,计算机设备可以将至少一个实体指称转换为向量,实体库中实体信息的存在方式也是向量,从而计算向量之间的距离作为相似度。又例如,计算机设备可以对文本信息中的每个实体指称进行语义分析,获取每个实体指称与实体信息的语义相似度作为上述相似度。
在另一种可能实现方式中,计算机设备在匹配时,还可以基于预设的实体指称与实体信息之间的对应关系,确定每个实体指称匹配的至少一个候选实体信息。本申请实施例对具体采用哪种方式不作限定。
其中,该预设的实体指称与实体信息之间的对应关系可以称为词典,该词典的获取方式可以包括多种,例如,计算机设备可以对实体链接训练样本中已知实体指称和实体的对应关系进行统计,也可以从数据库中获取预设的该对应关系,还可以对实体库中实体的标签、别名或其他属性进行统计,将统计结果作为该实体的实体指称。计算机设备还可以基于搜索页面之间的跳转关系,确定实体的实体指称,例如,基于在线百科的知识库可以将百科页面中链向其它百科页面的文字作为被链接页面对应实体的指称。
该步骤302和步骤303为对待处理的文本信息中的至少一个实体指称与实体库进行匹配,得到每个实体指称匹配的至少一个候选实体信息的过程,上述过程中介绍了实体指称的获取过程和匹配过程,在一种可能实现方式中,计算机设备还可以直接对文本信息进行分词,将分词结果与实体库中实体信息进行匹配,将匹配成功的分词结果作为至少一个实体指称,将每个实体指称匹配的至少一个实体信息作为至少一个候选实体信息。本申请实施例对具体采用哪种方式不做限定。
304、计算机设备基于该每个实体指称匹配的至少一个候选实体信息,对该文本信息中的该至少一个实体指称均进行替换,得到至少一个候选文本信息。
计算机设备匹配到候选实体信息后,可以使用候选实体信息替换实体指称,得到新的文本信息,候选文本信息,从而来通过对候选文本信息进行分析,来确定候选实体信息是否准确。由于每个实体指称可能匹配有一个或多个候选实体信息,如果匹配有多个,则可以依次采用多个中的一个候选实体信息对该实体指称进行替换,这样则会得到多个候选文本信息。
在一种可能实现方式中,每个候选实体信息包括候选实体以及该候选实体的类型。例如,候选实体信息可以为:<entity/苹果_果实><type/食物>,其中,entity为实体的意思,type为类型的意思。这样该替换过程则可以为:计算机设备将该文本信息中的每个实体指称均替换为对应的候选实体以及该候选实体的类型,得到至少一个候选文本信息。
其中,该文本信息中的实体指称的数量为一个或多个,任一个实体指称匹配的该候选实体信息的数量为一个或多个,则计算机设备可以依次用每个实体指称匹配的一个候选实体信息来替换该实体指称,对至少一个实体指称均替换完成,组成多个候选文本信息,来确定哪个候选文本信息最合理,从而即可确定每个实体指称对应的实体信息为候选实体信息中的哪一个。
针对实体指称匹配的候选实体信息的数量不同,该替换过程可以包括以下两种情况:
情况一、当任一实体指称匹配的候选实体信息的数量不为一时,根据该至少一个实体指称匹配的多个候选实体信息,获取多个候选替换组合,每个候选替换组合包括每个实体指称匹配的一个候选实体信息,基于该多个候选替换组合,对该文本信息中的该至少一个实体指称进行替换,得到多个候选文本信息。
在该情况一中,任一实体指称匹配的候选实体信息的数量不为一,也即是,如果文本信息中包括一个实体指称,该实体指称匹配的候选实体信息的数量为多个;如果文本信息包括多个实体指称,该多个实体指称中有一个或多个实体指称匹配的候选实体信息的数量为多个。在这种情况下,则替换时,该包括多个候选实体信息的实体指称则可以进行多次替换,从而得到多个候选文本信息。
对于多个实体指称匹配多个候选实体信息的情况,计算机设备可以对其进行排列组合,考虑到所有可能的替换方式,得到所有可能的候选文本信息。
情况二、当该至少一个实体指称匹配的候选实体信息的数量均为一时,计算机设备可以将每个实体指称均替换为匹配的候选实体信息,得到一个候选文本信息。
在该情况二中,至少一个实体指称匹配的候选实体信息的数量均为一,也即是,如果文本信息中包括一个实体指称,该实体指称匹配的候选实体信息的数量为一个;如果文本信息包括多个实体指称,该多个实体指称匹配的候选实体信息的数量均为一个。由于每个实体指称匹配的候选文本信息唯一,因而,计算机设备可以直接进行替换,得到一个候选文本信息。
在上述候选实体信息包括候选实体和类型的方式中,对于该任一个实体指称,当该任一个实体指称匹配的该候选实体信息的数量为一个时,计算机设备可以将该文本信息中的该任一个实体指称替换为对应的候选实体以及该候选实体的类型,得到一个候选文本信息。当该任一个实体指称匹配的该候选实体信息的数量为多个时,计算机设备可以分别将该文本信息中的该任一个实体指称替换为对应的候选实体以及该候选实体的类型,得到多个候选文本信息。通过上述方式,考虑到所有可能的候选文本信息,再继续进行进一步筛选,考虑全面,有效提高了最终的实体链接结果的准确性。
305、计算机设备对该至少一个候选文本信息进行特征提取,基于提取到的特征,获取该至少一个候选文本信息的语义合理性,将语义合理性最大的候选文本信息中的每个候选实体信息作为对应的实体指称的实体信息。
计算机设备得到至少一个候选文本信息后,可以分析候选文本信息是否合理,可以理解地,匹配的实体信息和实体指称的语义应当相同,替换后得到的候选文本信息应该语义合理,而如果语义不合理,则说明替换所使用的候选实体信息与实体指称所表达的含义并不相同,该候选实体信息并非该实体指称所对应的实体信息。
在确定得到语义合理性最大的候选文本信息后,该候选文本信息中每个实体指称均已被替换为对应的候选实体信息,因而,计算机设备可以将每个实体指称对应位置上的候选实体信息可以作为这个实体指称的实体信息。例如,某个句子中包括实体指称A、B、C,上述语义合理性最大的候选文本信息中则包括有候选实体信息A′、B′、C′,其中,候选实体信息A′对应于实体指称A,候选实体信息B′对应于实体指称B,候选实体信息C′对应于实体指称C。因而,计算机设备可以将候选实体信息A′作为实体指称A的实体信息,将候选实体信息B′作为实体指称B的实体信息,候选实体信息C′作为实体指称C的实体信息。
需要说明的是,计算机设备对使用候选实体信息替换实体指称后得到的候选文本信息进行特征提取,提取到的特征中候选实体信息与其上下文信息共同进行特征提取,二者被转换到同一特征空间,二者的特征表达规则相同,从而在确定候选实体信息是否合适时利用到了上下文信息,且表达规则相同能够提高识别的准确性。实体、实体类型与文本的上下文映射到同一特征空间,直接学习文本上下文、实体和实体类型间的隐含关系,减少了映射层数,同时减少了人工选择特征的工作难度,大大提高了识别效率和准确性。
其中,上述提取到的特征可以采用特征向量的方式表示,该特征向量的获取过程可以为:计算机设备对该至少一个候选文本信息中每个候选文本信息进行分词处理,得到多个分词结果,对该多个分词结果进行词性分析,得到每个分词结果的词性,计算机设备可以将该多个分词结果和该多个分词结果的词性转换为向量,得到该每个候选文本信息的多个词向量,从而计算机设备可以基于该多个词向量,获取该每个候选文本信息的特征向量。
在该过程中,计算机设备通过分词结果的向量以及对应的词性向量来标识每个分词结果,从而再结合多个分词结果得到整个文本信息的特征向量。在一种可能实现方式中,词向量可以为分词结果的分词向量与词性向量的结合,具体地,计算机设备可以分别将该多个分词结果和该多个分词结果的词性转化为向量,对每个分词结果的分词向量和词性向量进行拼接,得到该多个分词结果对应的多个词向量。
需要说明的是,上述分词过程中,候选实体信息不可被拆分,也即是,候选实体信息包括的候选实体与类型作为一个分词结果。在分析过程中将实体作为一个整体进行分析,能够有效辨别该实体与上下文的合适程度,替换后的语义合理性,从而确定候选文本信息是否合适。
在一种可能实现方式中,计算机设备在分词后,还可以用词性符号对每个分词结果的词性进行标注,例如,如“e”表示实体,“c”表示类型。如上文中整理句子处理后可以得到“<entity/苹果公司>/e<type/高科技公司>/c今年/t新/a出/v了/ul几款/m<entity/iPhone>/e<type/科技产品>/c”。
在一种可能实现方式中,上述特征向量的获取过程还可以通过循环神经网络实现,具体地,计算机设备可以将该多个词向量输入循环神经网络中,由该循环神经网络根据该多个词向量中相邻词向量之间的关系和自然语言规律,将该多个词向量转化为一个特征向量,输出该特征向量。该循环神经网络适用于处理字符序列,对自然语言处理具有较高的准确性,通过该循环神经网络对文本信息进行处理,大大提高了特征提取效率和准确性。
在一个具体的可能实施例中,上述实体链接过程还可以通过语义合理性确定模型实现,计算机设备可以将该至少一个候选文本信息输入语义合理性确定模型中,由该语义合理性确定模型对该至少一个候选文本信息进行特征提取,基于提取到的特征,获取该至少一个候选文本信息的语义合理性,输出语义合理性最大的候选文本信息,从而计算机设备可以根据模型的输出结果,将语义合理性最大的候选文本信息中的每个候选实体信息作为对应的实体指称的实体信息。
其中,该语义合理性确定模型可以基于样本文本信息训练得到。具体地,计算机设备可以获取样本文本信息,对该样本文本信息进行处理,得到第一样本文本信息和第二样本文本信息,从而进行模型训练。
具体地,计算机设备可以基于样本文本信息中实体指称对应的目标实体信息,对样本文本信息中实体指称进行替换,得到第一样本文本信息,其中,该目标实体信息为准确的识别结果,第一样本文本信息为正例,正样本,通过第一样本文本信息可以告知模型什么样的实体链接结果为正确的结果。
计算机设备可以基于样本文本信息中实体指称对应的干扰实体信息,对样本文本信息中实体指称进行替换,得到第二样本文本信息,其中,该干扰实体信息为实体指称在该样本文本信息中的错误实体信息,也即是,该实体指称在该样本文本信息中的语义并非该干扰实体信息,因而,该第二样本文本信息为负例,负样本,通过该第二样本文本信息可以告知模型什么样的实体链接结果为错误的结果。
计算机设备可以基于该第一样本文本信息和该第二样本文本信息,对初始模型进行训练,得到该语义合理性确定模型。
例如,上述样本文本信息中的实体指称被标注出来,并给出了实体库中与之对应的唯一一个无歧义的实体。例如句子“苹果今年新出了几款手机”标注出位置(0,2)的词语链向实体库中的<entity/苹果公司>实体,其中,位置(0,2)的词语为“苹果”。该位置(0,2)中的每一位数值用于指示该句子中字符之间的位置。“苹果”前后的位置分别为0和2。位置(9,11)的词语链向实体库中的<entity/iPhone>实体。计算机设备可以用正确的实体和实体类型替换文本中的实体指称,得到新的句子作为数据集中的正例(第一样本文本信息),即一条链接正确的文本,如“<entity/苹果公司><type/高科技公司>今年新出了几款<entity/iPhone><type/科技产品>”。将得到负样本的过程称为负采样过程,具体地,计算机设备还可以从通过词典搜索得到的候选实体集中的实体中,随机选择一个类型与正确连接实体类型不同的实体,用该实体和它的类型替换正例中正确的实体及类型,得到一条负例,即链接错误的文本。当文本中包含多个实体指称时,负采样每次替换一个实体指称。从而上述句子可以得到如下负例:“<entity/苹果_果实><type/食物>今年新出了几款<entity/iPhone><type/科技产品>”,“<entity/苹果公司><type/高科技公司>今年新出了几款<entity/手机_小说><type/小说>”。
计算机设备得到候选文本信息的特征向量后,可以对其进行语义合理性分析,在一种可能实现方式中,计算机设备可以将其输入至前馈神经网络中,由前馈神经网络将特征向量转换为长度为2的向量,并对其进行归一化处理,使得该向量中的两位的数值的和为一,该向量中的两位的数字分别用于表示该候选文本信息是否合理的概率。
通过上述过程,计算机设备得到最合理的候选文本信息后,即可获知该候选文本信息中的至少一个候选实体信息与至少一个实体指称相对应,后续即可根据业务需求进行后续步骤。例如,计算机设备可以建立该至少一个实体指称与对应的至少一个实体之间的关联关系,又例如,计算机设备可以在界面中显示该语义合理性最大的候选文本信息,或者将该语义合理性最大的候选文本信息发送至终端,在终端的界面上显示。又例如,计算机设备还可以在该文本信息中的该至少一个实体指称对应位置上显示查看控件,响应于对任一实体指称的查看控件的触发指令,在该任一实体指称对应位置上显示对应的实体信息。当然,计算机设备还可以基于该实体链接结果进行后续步骤,例如,在问答场景中,计算机设备可以获取到每个实体指称对应的实体信息,可以对问题进行回答。
例如,如图4所示,在一个具体示例中,给出一个句子“苹果新出了几款手机”,计算机设备通过查词典,来确定文本信息中至少一个实体指称匹配的候选实体信息,该句子中包括两个实体指称:“苹果”和“手机”,“苹果”匹配的候选实体信息为<苹果公司><高科技公司>、<苹果_水果><食物>,其中,<苹果公司>和<苹果_水果>为实体,<高科技公司>和<食物>为实体类型,“手机”匹配的候选实体信息为<iPhone><科技产品>和<手机_XX小说><小说>,其中,实体为<iPhone>和<手机_XX小说>。接下来,计算机设备使用候选实体信息替换实体指称从而构建新的文本信息,也即是构建新句子,得到多个句子,将新的文本信息(构建得到的多个句子)输入语义合理性确定模型中,由其输出正确的实体链接结果,该正确结果的合理性最大,为0.9,其他句子的合理性较小。
本申请实施例通过对文本信息中的实体指称进行匹配得到候选实体信息,从而通过候选实体信息来替换实体指称得到候选文本信息,通过对候选文本信息进行特征提取,判定语义合理性,来确定实体链接结果,通过替换步骤,将候选实体信息和实体指称在文本信息中的上下文信息结合在一起进行特征提取和语义合理性判断,在确定实体链接结果是否准确时,直接利用到了上下文信息,在语义合理性分析时分析更准确,得到的实体链接结果也更准确。
上述所有可选技术方案,可以采用任意结合形成本申请的可选实施例,在此不再一一赘述。
图5是本申请实施例提供的一种实体链接装置的结构示意图,参见图5,该装置包括:
匹配模块501,用于对待处理的文本信息中的至少一个实体指称与实体库进行匹配,得到每个实体指称匹配的至少一个候选实体信息;
替换模块502,用于基于该每个实体指称匹配的至少一个候选实体信息,对该文本信息中的该至少一个实体指称均进行替换,得到至少一个候选文本信息;
获取模块503,用于对该至少一个候选文本信息进行特征提取,基于提取到的特征,获取该至少一个候选文本信息的语义合理性,将语义合理性最大的候选文本信息中的每个候选实体信息作为对应的实体指称的实体信息。
在一种可能实现方式中,该匹配模块501用于:
对待处理的文本信息进行实体识别,得到该文本信息中的至少一个实体指称;
对该至少一个实体指称中每个实体指称与实体库中实体信息进行匹配,得到该每个实体指称匹配的至少一个候选实体信息。
在一种可能实现方式中,每个候选实体信息包括候选实体以及该候选实体的类型;
该替换模块502用于将该文本信息中的每个实体指称均替换为对应的候选实体以及该候选实体的类型,得到至少一个候选文本信息。
在一种可能实现方式中,该替换模块502用于:
当任一实体指称匹配的候选实体信息的数量不为一时,根据该至少一个实体指称匹配的多个候选实体信息,获取多个候选替换组合,每个候选替换组合包括每个实体指称匹配的一个候选实体信息;
基于该多个候选替换组合,对该文本信息中的该至少一个实体指称进行替换,得到多个候选文本信息。
在一种可能实现方式中,该获取模块503用于:
对该至少一个候选文本信息中每个候选文本信息进行分词处理,得到多个分词结果;
对该多个分词结果进行词性分析,得到每个分词结果的词性;
将该多个分词结果和该多个分词结果的词性转换为向量,得到该每个候选文本信息的多个词向量;
基于该多个词向量,获取该每个候选文本信息的特征向量。
在一种可能实现方式中,该获取模块503用于分别将该多个分词结果和该多个分词结果的词性转化为向量,对每个分词结果的分词向量和词性向量进行拼接,得到该多个分词结果对应的多个词向量。
在一种可能实现方式中,该获取模块503用于将该多个词向量输入循环神经网络中,由该循环神经网络根据该多个词向量中相邻词向量之间的关系和自然语言规律,将该多个词向量转化为一个特征向量,输出该特征向量。
在一种可能实现方式中,该获取模块503用于:
将该至少一个候选文本信息输入语义合理性确定模型中,由该语义合理性确定模型对该至少一个候选文本信息进行特征提取,基于提取到的特征,获取该至少一个候选文本信息的语义合理性,输出语义合理性最大的候选文本信息;
将语义合理性最大的候选文本信息中的每个候选实体信息作为对应的实体指称的实体信息。
在一种可能实现方式中,该语义合理性确定模型的训练过程包括:
基于样本文本信息中实体指称对应的目标实体信息,对样本文本信息中实体指称进行替换,得到第一样本文本信息;
基于样本文本信息中实体指称对应的干扰实体信息,对样本文本信息中实体指称进行替换,得到第二样本文本信息;
基于该第一样本文本信息和该第二样本文本信息,对初始模型进行训练,得到该语义合理性确定模型。
在一种可能实现方式中,该装置还包括:
建立模块,用于建立该至少一个实体指称与对应的至少一个实体之间的关联关系;
显示模块,用于在界面中显示该语义合理性最大的候选文本信息;
该显示模块,还用于在该文本信息中的该至少一个实体指称对应位置上显示查看控件,响应于对任一实体指称的查看控件的触发指令,在该任一实体指称对应位置上显示对应的实体信息。
需要说明的是:上述实施例提供的实体链接装置在进行实体链接时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的实体链接装置与实体链接方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
图6是本申请实施例提供的一种终端的结构示意图。该终端600可以是:智能手机、平板电脑、MP3(Moving Picture Experts Group Audio Layer III,动态影像专家压缩标准音频层面3)播放器、MP4(Moving Picture Experts Group Audio Layer IV,动态影像专家压缩标准音频层面4)播放器、笔记本电脑或台式电脑。终端600还可能被称为用户设备、便携式终端、膝上型终端、台式终端等其他名称。
通常,终端600包括有:一个或多个处理器601和一个或多个存储器602。
处理器601可以包括一个或多个处理核心,比如4核心处理器、8核心处理器等。处理器601可以采用DSP(Digital Signal Processing,数字信号处理)、FPGA(Field-Programmable Gate Array,现场可编程门阵列)、PLA(Programmable Logic Array,可编程逻辑阵列)中的至少一种硬件形式来实现。处理器601也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称CPU(Central ProcessingUnit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器601可以在集成有GPU(Graphics Processing Unit,图像处理器),GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器601还可以包括AI(Artificial Intelligence,人工智能)处理器,该AI处理器用于处理有关机器学习的计算操作。
存储器602可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器602还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器602中的非暂态的计算机可读存储介质用于存储至少一个指令,该至少一个指令用于被处理器601所执行以实现本申请中方法实施例提供的实体链接方法。
在一些实施例中,终端600还可选包括有:外围设备接口603和至少一个外围设备。处理器601、存储器602和外围设备接口603之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与外围设备接口603相连。具体地,外围设备包括:射频电路604、显示屏605、摄像头组件606、音频电路607、定位组件608和电源609中的至少一种。
外围设备接口603可被用于将I/O(Input/Output,输入/输出)相关的至少一个外围设备连接到处理器601和存储器602。在一些实施例中,处理器601、存储器602和外围设备接口603被集成在同一芯片或电路板上;在一些其他实施例中,处理器601、存储器602和外围设备接口603中的任意一个或两个可以在单独的芯片或电路板上实现,本实施例对此不加以限定。
射频电路604用于接收和发射RF(Radio Frequency,射频)信号,也称电磁信号。射频电路604通过电磁信号与通信网络以及其他通信设备进行通信。射频电路604将电信号转换为电磁信号进行发送,或者,将接收到的电磁信号转换为电信号。可选地,射频电路604包括:天线系统、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路604可以通过至少一种无线通信协议来与其它终端进行通信。该无线通信协议包括但不限于:城域网、各代移动通信网络(2G、3G、4G及6G)、无线局域网和/或WiFi(Wireless Fidelity,无线保真)网络。在一些实施例中,射频电路604还可以包括NFC(Near Field Communication,近距离无线通信)有关的电路,本申请对此不加以限定。
显示屏605用于显示UI(UserInterface,用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏605是触摸显示屏时,显示屏605还具有采集在显示屏605的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器601进行处理。此时,显示屏605还可以用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。在一些实施例中,显示屏605可以为一个,设置终端600的前面板;在另一些实施例中,显示屏605可以为至少两个,分别设置在终端600的不同表面或呈折叠设计;在再一些实施例中,显示屏605可以是柔性显示屏,设置在终端600的弯曲表面上或折叠面上。甚至,显示屏605还可以设置成非矩形的不规则图形,也即异形屏。显示屏605可以采用LCD(LiquidCrystal Display,液晶显示屏)、OLED(Organic Light-Emitting Diode,有机发光二极管)等材质制备。
摄像头组件606用于采集图像或视频。可选地,摄像头组件606包括前置摄像头和后置摄像头。通常,前置摄像头设置在终端的前面板,后置摄像头设置在终端的背面。在一些实施例中,后置摄像头为至少两个,分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种,以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及VR(Virtual Reality,虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中,摄像头组件606还可以包括闪光灯。闪光灯可以是单色温闪光灯,也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合,可以用于不同色温下的光线补偿。
音频电路607可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波,并将声波转换为电信号输入至处理器601进行处理,或者输入至射频电路604以实现语音通信。出于立体声采集或降噪的目的,麦克风可以为多个,分别设置在终端600的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器601或射频电路604的电信号转换为声波。扬声器可以是传统的薄膜扬声器,也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时,不仅可以将电信号转换为人类可听见的声波,也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中,音频电路607还可以包括耳机插孔。
定位组件608用于定位终端600的当前地理位置,以实现导航或LBS(LocationBased Service,基于位置的服务)。定位组件608可以是基于美国的GPS(GlobalPositioning System,全球定位系统)、中国的北斗系统、俄罗斯的格雷纳斯系统或欧盟的伽利略系统的定位组件。
电源609用于为终端600中的各个组件进行供电。电源609可以是交流电、直流电、一次性电池或可充电电池。当电源609包括可充电电池时,该可充电电池可以支持有线充电或无线充电。该可充电电池还可以用于支持快充技术。
在一些实施例中,终端600还包括有一个或多个传感器610。该一个或多个传感器610包括但不限于:加速度传感器611、陀螺仪传感器612、压力传感器613、指纹传感器614、光学传感器616以及接近传感器616。
加速度传感器611可以检测以终端600建立的坐标系的三个坐标轴上的加速度大小。比如,加速度传感器611可以用于检测重力加速度在三个坐标轴上的分量。处理器601可以根据加速度传感器611采集的重力加速度信号,控制显示屏605以横向视图或纵向视图进行用户界面的显示。加速度传感器611还可以用于游戏或者用户的运动数据的采集。
陀螺仪传感器612可以检测终端600的机体方向及转动角度,陀螺仪传感器612可以与加速度传感器611协同采集用户对终端600的3D动作。处理器601根据陀螺仪传感器612采集的数据,可以实现如下功能:动作感应(比如根据用户的倾斜操作来改变UI)、拍摄时的图像稳定、游戏控制以及惯性导航。
压力传感器613可以设置在终端600的侧边框和/或显示屏605的下层。当压力传感器613设置在终端600的侧边框时,可以检测用户对终端600的握持信号,由处理器601根据压力传感器613采集的握持信号进行左右手识别或快捷操作。当压力传感器613设置在显示屏605的下层时,由处理器601根据用户对显示屏605的压力操作,实现对UI界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
指纹传感器614用于采集用户的指纹,由处理器601根据指纹传感器614采集到的指纹识别用户的身份,或者,由指纹传感器614根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时,由处理器601授权该用户执行相关的敏感操作,该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器614可以被设置终端600的正面、背面或侧面。当终端600上设置有物理按键或厂商Logo时,指纹传感器614可以与物理按键或厂商Logo集成在一起。
光学传感器616用于采集环境光强度。在一个实施例中,处理器601可以根据光学传感器616采集的环境光强度,控制显示屏605的显示亮度。具体地,当环境光强度较高时,调高显示屏605的显示亮度;当环境光强度较低时,调低显示屏605的显示亮度。在另一个实施例中,处理器601还可以根据光学传感器616采集的环境光强度,动态调整摄像头组件606的拍摄参数。
接近传感器616,也称距离传感器,通常设置在终端600的前面板。接近传感器616用于采集用户与终端600的正面之间的距离。在一个实施例中,当接近传感器616检测到用户与终端600的正面之间的距离逐渐变小时,由处理器601控制显示屏605从亮屏状态切换为息屏状态;当接近传感器616检测到用户与终端600的正面之间的距离逐渐变大时,由处理器601控制显示屏605从息屏状态切换为亮屏状态。
本领域技术人员可以理解,图6中示出的结构并不构成对终端600的限定,可以包括比图示更多或更少的组件,或者组合某些组件,或者采用不同的组件布置。
图7是本申请实施例提供的一种服务器的结构示意图,该服务器700可因配置或性能不同而产生比较大的差异,可以包括一个或多个处理器(Central Processing Units,CPU)701和一个或多个的存储器702,其中,该一个或多个存储器702中存储有至少一条指令,该至少一条指令由该一个或多个处理器701加载并执行以实现上述各个方法实施例提供的实体链接方法。当然,该服务器700还可以具有有线或无线网络接口、键盘以及输入输出接口等部件,以便进行输入输出,该服务器700还可以包括其他用于实现设备功能的部件,在此不做赘述。
在示例性实施例中,还提供了一种计算机可读存储介质,例如包括指令的存储器,上述指令可由处理器执行以完成上述实施例中的实体链接方法。例如,该计算机可读存储介质可以是只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random AccessMemory,RAM)、只读光盘(Compact Disc Read-Only Memory,CD-ROM)、磁带、软盘和光数据存储设备等。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,该程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
上述仅为本申请的可选实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (13)
1.一种实体链接方法,其特征在于,所述方法包括:
对待处理的文本信息中的至少一个实体指称与实体库进行匹配,得到每个实体指称匹配的至少一个候选实体信息;
基于所述每个实体指称匹配的至少一个候选实体信息,对所述文本信息中的所述至少一个实体指称均进行替换,得到至少一个候选文本信息;
对所述至少一个候选文本信息进行特征提取,基于提取到的特征,获取所述至少一个候选文本信息的语义合理性,将语义合理性最大的候选文本信息中的每个候选实体信息作为对应的实体指称的实体信息。
2.根据权利要求1所述的方法,其特征在于,所述对待处理的文本信息中的至少一个实体指称与实体库进行匹配,得到每个实体指称匹配的至少一个候选实体信息包括:
对待处理的文本信息进行实体识别,得到所述文本信息中的至少一个实体指称;
对所述至少一个实体指称中每个实体指称与实体库中实体信息进行匹配,得到所述每个实体指称匹配的至少一个候选实体信息。
3.根据权利要求1所述的方法,其特征在于,每个候选实体信息包括候选实体以及所述候选实体的类型;
所述基于所述每个实体指称匹配的至少一个候选实体信息,对所述文本信息中的所述至少一个实体指称均进行替换,得到至少一个候选文本信息,包括:
将所述文本信息中的每个实体指称均替换为对应的候选实体以及所述候选实体的类型,得到至少一个候选文本信息。
4.根据权利要求3所述的方法,其特征在于,所述基于所述每个实体指称匹配的至少一个候选实体信息,对所述文本信息中的所述至少一个实体指称均进行替换,得到至少一个候选文本信息,包括:
当任一实体指称匹配的候选实体信息的数量不为一时,根据所述至少一个实体指称匹配的多个候选实体信息,获取多个候选替换组合,每个候选替换组合包括每个实体指称匹配的一个候选实体信息;
基于所述多个候选替换组合,对所述文本信息中的所述至少一个实体指称进行替换,得到多个候选文本信息。
5.根据权利要求1所述的方法,其特征在于,所述对所述至少一个候选文本信息进行特征提取,包括:
对所述至少一个候选文本信息中每个候选文本信息进行分词处理,得到多个分词结果;
对所述多个分词结果进行词性分析,得到每个分词结果的词性;
将所述多个分词结果和所述多个分词结果的词性转换为向量,得到所述每个候选文本信息的多个词向量;
基于所述多个词向量,获取所述每个候选文本信息的特征向量。
6.根据权利要求5所述的方法,其特征在于,所述将所述多个分词结果和所述多个分词结果的词性转换为向量,得到所述每个候选文本信息的多个词向量,包括:
分别将所述多个分词结果和所述多个分词结果的词性转化为向量,对每个分词结果的分词向量和词性向量进行拼接,得到所述多个分词结果对应的多个词向量。
7.根据权利要求5所述的方法,其特征在于,所述基于所述多个词向量,获取所述每个候选文本信息的特征向量,包括:
将所述多个词向量输入循环神经网络中,由所述循环神经网络根据所述多个词向量中相邻词向量之间的关系和自然语言规律,将所述多个词向量转化为一个特征向量,输出所述特征向量。
8.根据权利要求1所述的方法,其特征在于,所述对所述至少一个候选文本信息进行特征提取,基于提取到的特征,获取所述至少一个候选文本信息的语义合理性,将语义合理性最大的候选文本信息中的每个候选实体信息作为对应的实体指称的实体信息,包括:
将所述至少一个候选文本信息输入语义合理性确定模型中,由所述语义合理性确定模型对所述至少一个候选文本信息进行特征提取,基于提取到的特征,获取所述至少一个候选文本信息的语义合理性,输出语义合理性最大的候选文本信息;
将语义合理性最大的候选文本信息中的每个候选实体信息作为对应的实体指称的实体信息。
9.根据权利要求8所述的方法,其特征在于,所述语义合理性确定模型的训练过程包括:
基于样本文本信息中实体指称对应的目标实体信息,对样本文本信息中实体指称进行替换,得到第一样本文本信息;
基于样本文本信息中实体指称对应的干扰实体信息,对样本文本信息中实体指称进行替换,得到第二样本文本信息;
基于所述第一样本文本信息和所述第二样本文本信息,对初始模型进行训练,得到所述语义合理性确定模型。
10.根据权利要求1所述的方法,其特征在于,所述将语义合理性最大的候选文本信息中的每个候选实体信息作为对应的实体指称的实体信息之后,所述方法还包括下述任一项:
建立所述至少一个实体指称与对应的至少一个实体之间的关联关系;
在界面中显示所述语义合理性最大的候选文本信息;
在所述文本信息中的所述至少一个实体指称对应位置上显示查看控件,响应于对任一实体指称的查看控件的触发指令,在所述任一实体指称对应位置上显示对应的实体信息。
11.一种实体链接装置,其特征在于,所述装置包括多个功能模块,所述多个功能模块用于执行权利要求1至权利要求10任一项所述的实体链接方法。
12.一种计算机设备,其特征在于,所述计算机设备包括一个或多个处理器和一个或多个存储器,所述一个或多个存储器中存储有至少一条指令,所述指令由所述一个或多个处理器加载并执行以实现如权利要求1至权利要求10任一项所述的实体链接方法所执行的操作。
13.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有至少一条指令,所述指令由处理器加载并执行以实现如权利要求1至权利要求10任一项所述的实体链接方法所执行的操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010125376.0A CN111339737B (zh) | 2020-02-27 | 2020-02-27 | 实体链接方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010125376.0A CN111339737B (zh) | 2020-02-27 | 2020-02-27 | 实体链接方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111339737A true CN111339737A (zh) | 2020-06-26 |
CN111339737B CN111339737B (zh) | 2023-12-12 |
Family
ID=71185692
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010125376.0A Active CN111339737B (zh) | 2020-02-27 | 2020-02-27 | 实体链接方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111339737B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111967253A (zh) * | 2020-08-29 | 2020-11-20 | 深圳呗佬智能有限公司 | 一种实体消歧方法、装置、计算机设备及存储介质 |
CN112084789A (zh) * | 2020-09-14 | 2020-12-15 | 腾讯科技(深圳)有限公司 | 文本处理方法、装置、设备及存储介质 |
CN112084777A (zh) * | 2020-09-03 | 2020-12-15 | 新华智云科技有限公司 | 一种实体链接方法 |
CN112380865A (zh) * | 2020-11-10 | 2021-02-19 | 北京小米松果电子有限公司 | 识别文本中的实体方法、装置及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180232443A1 (en) * | 2017-02-16 | 2018-08-16 | Globality, Inc. | Intelligent matching system with ontology-aided relation extraction |
CN108959270A (zh) * | 2018-08-10 | 2018-12-07 | 新华智云科技有限公司 | 一种基于深度学习的实体链接方法 |
CN109241294A (zh) * | 2018-08-29 | 2019-01-18 | 国信优易数据有限公司 | 一种实体链接方法及装置 |
-
2020
- 2020-02-27 CN CN202010125376.0A patent/CN111339737B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180232443A1 (en) * | 2017-02-16 | 2018-08-16 | Globality, Inc. | Intelligent matching system with ontology-aided relation extraction |
CN108959270A (zh) * | 2018-08-10 | 2018-12-07 | 新华智云科技有限公司 | 一种基于深度学习的实体链接方法 |
CN109241294A (zh) * | 2018-08-29 | 2019-01-18 | 国信优易数据有限公司 | 一种实体链接方法及装置 |
Non-Patent Citations (1)
Title |
---|
赵畅和李慧颖: "面向知识库问答的实体链接方法", 《中文信息学报》 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111967253A (zh) * | 2020-08-29 | 2020-11-20 | 深圳呗佬智能有限公司 | 一种实体消歧方法、装置、计算机设备及存储介质 |
CN112084777A (zh) * | 2020-09-03 | 2020-12-15 | 新华智云科技有限公司 | 一种实体链接方法 |
CN112084777B (zh) * | 2020-09-03 | 2023-09-01 | 新华智云科技有限公司 | 一种实体链接方法 |
CN112084789A (zh) * | 2020-09-14 | 2020-12-15 | 腾讯科技(深圳)有限公司 | 文本处理方法、装置、设备及存储介质 |
CN112084789B (zh) * | 2020-09-14 | 2022-07-12 | 腾讯科技(深圳)有限公司 | 文本处理方法、装置、设备及存储介质 |
CN112380865A (zh) * | 2020-11-10 | 2021-02-19 | 北京小米松果电子有限公司 | 识别文本中的实体方法、装置及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111339737B (zh) | 2023-12-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111476306B (zh) | 基于人工智能的物体检测方法、装置、设备及存储介质 | |
CN110097019B (zh) | 字符识别方法、装置、计算机设备以及存储介质 | |
CN110471858B (zh) | 应用程序测试方法、装置及存储介质 | |
CN111339737B (zh) | 实体链接方法、装置、设备及存储介质 | |
CN108922531B (zh) | 槽位识别方法、装置、电子设备及存储介质 | |
CN111897996A (zh) | 话题标签推荐方法、装置、设备及存储介质 | |
CN111104980B (zh) | 确定分类结果的方法、装置、设备及存储介质 | |
CN111930964B (zh) | 内容处理方法、装置、设备及存储介质 | |
WO2022057435A1 (zh) | 基于搜索的问答方法及存储介质 | |
CN111581958A (zh) | 对话状态确定方法、装置、计算机设备及存储介质 | |
CN111209377A (zh) | 基于深度学习的文本处理方法、装置、设备及介质 | |
CN111984803A (zh) | 多媒体资源处理方法、装置、计算机设备及存储介质 | |
CN112764600B (zh) | 资源处理方法、装置、存储介质及计算机设备 | |
CN110837557B (zh) | 摘要生成方法、装置、设备及介质 | |
CN113593521B (zh) | 语音合成方法、装置、设备及可读存储介质 | |
CN110852093A (zh) | 文本信息生成方法、装置、计算机设备及存储介质 | |
CN113343709B (zh) | 意图识别模型的训练方法、意图识别方法、装置及设备 | |
CN113032560B (zh) | 语句分类模型训练方法、语句处理方法及设备 | |
CN111597823B (zh) | 中心词提取方法、装置、设备及存储介质 | |
CN115221888A (zh) | 实体提及的识别方法、装置、设备及存储介质 | |
CN112311652B (zh) | 消息发送方法、装置、终端及存储介质 | |
CN113761195A (zh) | 文本分类方法、装置、计算机设备及计算机可读存储介质 | |
CN112487162A (zh) | 确定文本语义信息的方法、装置、设备以及存储介质 | |
CN111475619A (zh) | 文本信息修正方法、装置、电子设备及存储介质 | |
CN111143441A (zh) | 性别确定方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |