CN109614615B - 实体匹配方法、装置及电子设备 - Google Patents
实体匹配方法、装置及电子设备 Download PDFInfo
- Publication number
- CN109614615B CN109614615B CN201811474215.1A CN201811474215A CN109614615B CN 109614615 B CN109614615 B CN 109614615B CN 201811474215 A CN201811474215 A CN 201811474215A CN 109614615 B CN109614615 B CN 109614615B
- Authority
- CN
- China
- Prior art keywords
- entity name
- vector
- name
- standard
- entity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
- G06F40/295—Named entity recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0201—Market modelling; Market analysis; Collecting market data
Abstract
本申请公开了一种实体匹配方法、装置及电子设备,该方法包括:获取待匹配的实体名称;根据该实体名称所包含的字符串,确定用于表征该实体名称所表达的语义的第一编码向量;分别计算该实体名称的第一编码向量与标准名称库中各个标准实体名称的第二编码向量之间的距离;从该标准名称库的多个标准实体名称中,选取出对应的该距离较小的至少一个候选实体名称;根据该实体名称的第一编码向量和该候选实体名称的第二编码向量,确定该候选实体名称与该实体名称在多个预设维度上的特征匹配度;将该特征匹配度符合预设要求的候选实体名称确定为该实体名称对应的标准实体名称。本申请可以提高实体匹配的精准度,并减少人力资源消耗。
Description
技术领域
本发明涉及通信技术领域,更具体地说,涉及一种实体匹配方法、装置及电子设备。
背景技术
实体匹配已经被应用到多个不同领域,其是指找出属于同一个实体的两个对象。如,一种比较常见的实体匹配的应用场景为,根据待匹配的实体名称,找出待匹配的实体名称对应的实体标准名称。比如,在销售流通领域中,可能需要统计和跟踪不同公司之间的商品流通,但是由于销售流水记录的数据来源不一,使得销售流水中记录的同一个公司的公司名称并不标准,因此,为了实现对销售流水的跟踪和统计,就需要将销售流水中这些不标准的公司名称匹配到相应的公司标准名称。
目前为了确定待匹配的实体名称所对应的实体标准名称,需要人工预先观察一些不标准的实体名称与实体标准名称所构成的样本数据的特点,并总结出一些规则逻辑,然后依据这些规则逻辑确定实体名称所对应的实体标准名称。然而,人工观察的样本数据较为有限,因此,基于人工观察所制定的规则逻辑并不能覆盖所有情况,从而导致一些不标准的实体名称无法匹配到相应的实体标准名称。而且,通过人工观察样本数据总结规则逻辑的方式也对于人工的经验要求较高,且需要耗费较多的人力资源。
发明内容
本发明的目的是提供一种实体匹配方法、装置及电子设备,以增大实体匹配所适用的情况,提高实体匹配的精准度,并减少人力资源消耗。
为实现上述目的,本发明提供了如下技术方案:
一种实体匹配方法,包括:
获取待匹配的实体名称;
根据所述实体名称所包含的字符串,确定用于表征所述实体名称所表达的语义的第一编码向量;
分别计算所述实体名称的第一编码向量与标准名称库中各个标准实体名称的第二编码向量之间的距离,得到各个标准实体名称对应的所述距离;所述标准实体名称的第二编码向量为用于表征所述标准实体名称所表达的语义的编码向量;
从所述标准名称库的多个标准实体名称中,选取出对应的所述距离较小的至少一个候选实体名称;
根据所述实体名称的第一编码向量和所述候选实体名称的第二编码向量,确定所述候选实体名称与所述实体名称在多个预设维度上的特征匹配度;
将所述特征匹配度符合预设要求的候选实体名称确定为所述实体名称对应的标准实体名称。
优选地,所述根据所述实体名称所包含的字符串,确定用于表征所述实体名称所表达的语义的第一编码向量,包括:
对所述实体名称分词,得到由所述实体名称分词出的至少一个词构成的第一词序列;
依次确定所述第一词序列中各个词的编码向量;
根据所述第一词序列中各个词的编码向量,构建出用于表征所述实体名称所表达的语义的第一编码向量。
优选地,所述根据所述第一词序列中各个词的编码向量,构建出用于表征所述实体名称所表达的语义的第一编码向量,包括:
将所述第一词序列中各个词的编码向量输入到预先训练出的向量转换模型中,并获取所述向量转换模型输出的第一编码向量,所述向量转换模型为利用多份正样本和多份负样本训练得到,其中,每份正样本包括一对正确标注的实体名称样本和实体标准名称样本,每份负样本包括一对错误标注的实体样本名称和实体标准名称样本。
优选地,所述根据所述实体名称的第一编码向量和所述候选实体名称的第二编码向量,确定所述候选实体名称与所述实体名称在多个预设维度上的特征匹配度,包括:
利用所述实体名称的第一编码向量和所述候选实体名称的第二编码向量,构建表征候选实体名称与实体名称之间特征关系的特征向量;
根据所述特征向量,并利用预先通过机器学习算法训练出的二分类模型,确定所述候选实体名称与所述实体名称之间的特征匹配度。
优选地,所述利用所述实体名称的第一编码向量和所述候选实体名称的第二编码向量,构建表征候选实体名称与实体名称之间特征关系的特征向量,包括:
将所述实体名称的第一编码向量和所述候选实体名称的第二编码向量合并为一个多维度的向量,并将合并出的向量确定为表征候选实体名称与实体名称之间特征关系的特征向量,所述特征向量的维度为所述第一编码向量和所述第二编码向量的维度之和。
优选地,所述二分类模型通过如下方式训练得到:
获取多份正样本和多份负样本,每份正样本包括一对正确标注的实体名称样本和标准实体名称样本;每份负样本包括一对错误标注的实体名称样本和标准实体名称样本;
确定所述正样本中实体名称样本的第一编码向量和标准实体名称样本的第二编码向量,并利用正样本中实体名称样本的第一编码向量和标准实体名称样本的第二编码向量构建所述正样本的特征向量;
确定所述负样本中实体名称样本的第一编码向量和标准实体名称样本的第二编码向量,并利用负样本中实体名称样本的第一编码向量和标准实体名称样本的第二编码向量构建所述负样本的特征向量;
依次将所述多份正样本的特征向量以及所述多份负样本的特征向量输入到待训练的二分类模型中,并利用机器学习算法对所述二分类模型训练,直至所述二分类模型的预测精准度符合预设要求。
又一方面,本申请还提供了一种实体匹配装置,包括:
别名获取单元,用于获取待匹配的实体名称;
名称编码单元,用于根据所述实体名称所包含的字符串,确定用于表征所述实体名称所表达的语义的第一编码向量;
距离计算单元,用于分别计算所述实体名称的第一编码向量与标准名称库中各个标准实体名称的第二编码向量之间的距离,得到各个标准实体名称对应的所述距离;所述标准实体名称的第二编码向量为用于表征所述标准实体名称所表达的语义的编码向量;
候选选取单元,用于从所述标准名称库的多个标准实体名称中,选取出对应的所述距离较小的至少一个候选实体名称;
匹配度确定单元,用于根据所述实体名称的第一编码向量和所述候选实体名称的第二编码向量,确定所述候选实体名称与所述实体名称在多个预设维度上的特征匹配度;
标准匹配单元,用于将所述特征匹配度符合预设要求的候选实体名称确定为所述实体名称对应的标准实体名称。
优选地,所述名称编码单元,包括:
分词子单元,用于对所述实体名称分词,得到由所述实体名称分词出的至少一个词构成的第一词序列;
词编码子单元,用于依次确定所述第一词序列中各个词的编码向量;
名称编码子单元,用于根据所述第一词序列中各个词的编码向量,构建出用于表征所述实体名称所表达的语义的第一编码向量。
优选地,所述匹配度确定单元,包括:
特征构建单元,用于利用所述实体名称的第一编码向量和所述候选实体名称的第二编码向量,构建表征候选实体名称与实体名称之间特征关系的特征向量;
模型匹配单元,用于根据所述特征向量,并利用预先通过机器学习算法训练出的二分类模型,确定所述候选实体名称与所述实体名称之间的特征匹配度。
又一方面,本申请还提供了一种电子设备,包括:
处理器和存储器;
其中,所述处理器用于,获取待匹配的实体名称;根据所述实体名称所包含的字符串,确定用于表征所述实体名称所表达的语义的第一编码向量;分别计算所述实体名称的第一编码向量与标准名称库中各个标准实体名称的第二编码向量之间的距离,得到各个标准实体名称对应的所述距离;所述标准实体名称的第二编码向量为用于表征所述标准实体名称所表达的语义的编码向量;从所述标准名称库的多个标准实体名称中,选取出对应的所述距离较小的至少一个候选实体名称;根据所述实体名称的第一编码向量和所述候选实体名称的第二编码向量,确定所述候选实体名称与所述实体名称在多个预设维度上的特征匹配度;将所述特征匹配度符合预设要求的候选实体名称确定为所述实体名称对应的标准实体名称;
存储器,用于存储所述处理器执行以上操作所需的程序。
通过以上方案可知,本申请实施例中,在获取到待匹配的实体名称之后,会根据该实体名称包含的字符串,确定用于表征该实体名称所表达语义的第一编码向量,并依据该第一编码向量与标准名称库中各个标准实体名称的距离,从标准名称库中选取出具有该距离较小的至少一个候选实体名称,实现对标准名称库的全面筛选,以筛选出与实体名称匹配度相对较高的至少一个候选实体名称,提高匹配的覆盖率。而且,为了提高匹配精准度,本申请还会根据实体名称的第一编码向量以及候选实体名称的第二编码向量,进一步确定候选实体名称与实体名称在多个预设维度上的特征匹配度,并将特征匹配度符合要求的候选实体名称确定为该实体名称的标准实体名称。可见,本申请在不需要依靠人工通过经验观察得到的规则逻辑,便可以为待匹配的实体名称匹配到标准实体名称,而且,匹配过程的覆盖率较高,并有利于提高精准度。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种实体匹配方法的一种流程示意图;
图2为本申请实施例中确定实体名称的第一编码向量的一种流程示意图;
图3为本申请实施例中一种训练向量转换模型的一种流程示意图;
图4为本申请实施例中一种训练二分类模型的一种流程示意图;
图5为本申请实施例中一种实体匹配方法又一种流程示意图;
图6为本申请实施例中一种实体匹配装置的一种组成示意图;
图7为本申请实施例中一种电子设备的组成架构示意图。
说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”“第四”等(如果存在)是用于区别类似的部分,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示的以外的顺序实施。
具体实施方式
本申请的方案适用于对待匹配的实体名称匹配标准名称的场景,其在不需要人工观察样本数据得到匹配规则的前提下,可以提高标准实体名称的召回率和精准度。
本申请实施例的方案适用于具备数据计算能力的电子设备,如个人计算机或者服务器等等。
下面结合附图对本申请实施例的方案进行详细介绍。
如,参见图1,其示出了本申请一种实体匹配方法一个实施例的流程示意图,本实施例的方法可以用于上面提到的电子设备,本实施例的方法可以包括:
S101,获取待匹配的实体名称。
待匹配的实体名称也就是需要确定所对应的标准实体名称的实体名称。在实际应用中,为了与标准实体名称相区分,也将待匹配的实体名称称为实体别名。但是由于用户并不确定实体别名是否为标准的实体名称,因此,实体别名匹配出的标准实体名称也有可能是实体别名本身。
如,获取用户输入的待匹配的实体名称。又如,从多个待匹配标准实体名称的实体名称中确定当前待匹配的实体名称。当然,在实际应用中,在需要匹配标准实体名称的过程中,获取待匹配的实体名称的方式可以有多种,本申请对此不加以限制。
S102,根据该实体名称所包含的字符串,确定用于表征该实体名称所表达的语义的第一编码向量。
其中,为了便于区分,将基于实体名称所包含的字符串确定出的编码向量称为第一编码向量,而将后续标准名称库中标准实体名称的编码向量称为第二编码向量。
可以理解的是,根据实体名称所包含的字符串,确定该实体名称对应的第一编码向量的方式可以有多种,如,在一种可能的实现方式中,可以采用已知的编码向量模型来确定该实体名称的第一编码向量。
又如,在又一种可能的实现方式中,还可以根据正确标注的实体名称样本与标准实体名称样本对,以及错误标注的实体名称样本与标准实体名称样本,训练一个用于确定字符串编码向量的编码模型,这样,将该实体名称的字符串输入到该编码模型,便可以输出该实体名称对应的第一编码向量。
其中,依据正确标注的实体名称样本与标准实体名称样本对,以及错误标注的实体名称样本与标准实体名称样本,训练一个用于确定字符串编码向量的编码模型的原理可以为:对于正确标注的实体名称样本与标准实体名称样本而言,该实体名称样本的编码向量与标准实体名称样本的编码向量之间的距离较小;而对于错误标注的实体名称样本与标准实体名称样本而言,实体名称样本的编码向量与标准实体名称的编码向量之间的距离相对较大,基于此,通过不断调整待训练的编码模型,可以输出向量预测的精准度较高的编码向量。
当然,根据实体名称的字符串,确定实体名称的第一编码向量还可以有其他实现方式,本申请对此不加以限制。
S103,分别计算该实体名称的第一编码向量与标准名称库中各个标准实体名称的第二编码向量之间的距离,得到各个标准实体名称对应的该距离。
其中,标准实体名称的第二编码向量为用于表征标准实体名称所表达的语义的编码向量。
可以理解的是,为了能够便捷的计算第一编码向量与第二编码向量之间的距离,该第一编码向量的维度与该第二编码向量的维度相同。
在本申请实施例中,可以在获取到待匹配的实体名称之后,分别计算该标准名称库中各个标准实体名称的第二编码向量,如,在执行该步骤S102的同时,计算标准名称库中各个标准实体名称的编码向量;或者是,在执行了步骤S102之后,计算标准名称库中各个标准实体名称的编码向量。
可选的,考虑到在获取到待匹配的实体名称之后,计算标准名称库中各个标准实体名称的第二编码向量需要耗费较长时间,因此,在本申请实施例中可以预先计算出标准名称库中各个标准实体名称的第二编码向量,并存储标准名称库中各个标准实体名称各自对应的第二编码向量。相应的,在该步骤S103可以为:分别计算该实体名称的第一编码向量与预先存储的标准名称库中各个标准实体名称的第二编码向量之间的距离。
其中,第一编码向量与第二编码向量之间的距离也可以称为向量距离。该向量距离可以有多种形式,如可以计算第一编码向量与第二编码向量之间的欧几里得距离或者曼哈顿距离等等。
可以理解的是,对于每个标准实体名称而言,需要计算该实体名称的第一编码向量与该标准实体名称的第二编码向量之间的向量距离,因此,每个标准实体名称对应一个向量距离,而多个标准实体名称对应了多个向量距离。
S104,从该标准名称库的多个标准实体名称中,选取出对应的该距离较小的至少一个候选实体名称。
可以理解的是,如果标准名称库中的标准实体名称的第二编码向量与该待匹配的实体名称的第一编码向量之间的距离较小,则说明该标准实体名称是该实体名称匹配的标准实体名称,因此,需要从标准名称库中筛选出该距离相对较小的至少一个候选实体名称。
如,可以选取出对应的该距离较小的前指定数量个候选实体名称,以构成候选实体名称列表。
本申请的发明人经研究发现,现有依靠人工观察得到的规则逻辑无法覆盖所有的情况,使得匹配的召回率较高。为了提高实体名称匹配的召回率,本申请的发明人想到了基于搜索引擎对标准名称库进行初步检索,基于搜索引擎对标准名称库进行初步检索具有召回率高的特点,往往都能覆盖正确的标准实体名称。
然而,基于搜索引擎对标准实体名称库进行检索的检索效率较低,因此,在本申请实施例中,发明人提出了类似搜索引擎的思想,通过比对待匹配的实体名称的第一编码向量与标准名称库中的标准实体名称的第二编码向量之间的向量距离相似性,由于向量距离计算的复杂度相对较低,从而相对于利用搜索引擎筛选出候选实体名称而言,利用基于向量距离来筛选候选实体名称的方式更为高效。
进一步的,考虑到单纯基于向量距离并不能精准的反映候选实体名称与待匹配的实体名称之间匹配程度,因此,为了进一步提高匹配精准度,本申请在筛选出至少一个候选实体名称之后,还会执行后续步骤S105和S106的操作,以对候选实体名称中进一步筛选,并最终确定与实体名称匹配的标准实体名称。
S105,根据该实体名称的第一编码向量和该候选实体名称的第二编码向量,确定该候选实体名称与该实体名称在多个预设维度上的特征匹配度。
可以理解的是,第一编码向量反映的是待匹配的实体名称的字符串所具有的语义特征,而第二编码向量反映出的是候选实体名称的字符串所具有的语义特征,因此,针对每个候选实体名称,需要依据该第一编码向量和第二编码向量可以分别分析该候选实体名称和实体名称在预先设定的多个预设维度所具有的特征匹配度。
其中,该多个预设维度可以根据需要设定,如,该多个预设维度可以是反映不同信息类别的多个维度,这样,可以从多个信息类别的角度上,结合第一编码向量和第二编码向量,分析实体名称和候选实体名称的字符串在该信息类别上所具有的相似性,该信息类别上的相似性就属于该信息类别对应维度上的特征匹配度。
可选的,该多个预设维度的数量与该第一编码向量或者说第二编码向量的维度相同,而每个预设维度可以代表第一编码向量以及第二编码向量中的一个维度。因此,在该步骤S105,可以是根据第一编码向量和第二编码向量在各个维度上的匹配情况,综合分析第一编码向量和第二编码向量在该多个预设维度上整体的特征匹配度。
作为一种可选方式,本申请可以预先训练用于分析两个名称的编码向量之间特征匹配度的神经网络模型,如,预先训练二分类模型。其中,该神经网络模型为利用多份正样本和多份负样本训练得到的。
其中,每份正样本包括正确标注的一对实体名称样本和标准实体名称样本,也就是说,正样本中的标准实体名称样本就是该正样本中实体名称样本对应的标准实体名称。负样本包括错误标注的一对实体名称样本和标准实体名称样本,也就是说,负样本中,实体名称样本对应的标准实体名称并不是该负样本中的该标准实体名称样本。
其中,按照正样本中实体名称样本的第一编码向量与该正样本中实体名称样本的第二编码向量所对应的特征匹配度相对较高;而负样本中实体名称样本的第一编码向量与该负样本中标准实体名称样本的第二编码向量之间的特征匹配度相对较低的原则,训练神经网络模型。具体训练方式可以比较多样,后续会结合一种情况为例进行说明。
相应的,可以依据实体名称的第一编码向量和候选实体名称的第二编码向量,并利用该预先训练得到的神经网络模型,确定实体名称和候选实体名称之间在多个预设维度上的特征匹配度。
S106,将该特征匹配度符合预设要求的候选实体名称确定为该实体名称对应的标准实体名称。
由于特征匹配度反映的是候选实体名称与该待匹配的实体名称在多个预设维度上的匹配程度,从而基于实体名称分别与各个候选实体名称的该特征匹配度,可以更为精准度的从候选实体名称中选取出与实体名称匹配的标准实体名称。
可见,本申请实施例中,在获取到待匹配的实体名称之后,会根据该实体名称包含的字符串,确定用于表征该实体名称所表达语义的第一编码向量,并依据该第一编码向量与标准名称库中各个标准实体名称的距离,从标准名称库中选取出具有该距离较小的至少一个候选实体名称,实现对标准名称库的全面筛选,以筛选出与实体名称匹配度相对较高的至少一个候选实体名称,提高匹配的覆盖率。而且,为了提高匹配精准度,本申请还会根据实体名称的第一编码向量以及候选实体名称的第二编码向量,进一步确定候选实体名称与实体名称在多个预设维度上的特征匹配度,并将特征匹配度符合要求的候选实体名称确定为该实体名称的标准实体名称。
由以上可知,本申请在不需要依靠人工通过经验观察得到的规则逻辑,便可以为待匹配的实体名称匹配到标准实体名称,而且,匹配过程的覆盖率较高,并有利于提高精准度。
可以理解的是,在待匹配的实体名称确定的情况下,确定该实体名称对应的编码向量的方式可以有多种,为了便于理解,下面以一种情况为例进行详细说明。如,参见图2,其示出了本申请实施例中确定实体名称的第一编码向量的一种流程示意图,该流程可以包括:
S201,对该实体名称分词,得到由该实体名称分词出的至少一个词构成的第一词序列。
其中,该第一词序列由该实体名称分词出的各个词组成。
可选的,可以按照实体名称的字符串,将该实体名称分词为具有先后顺序的至少一个词,而该第一词序列中各个词的顺序与该各个词在实体名称中的顺序一致。
其中,对实体名称的分词的具体实现可以有多种方式,本申请对此不加以限制。
S202,依次确定该第一词序列中各个词的编码向量。
其中,对于第一词序列中各个词,确定词的编码向量的方式可以有多种,如,可以采用独热(one-hot)编码方式确定词的编码向量;或者采用预先训练好的word2vec编码该词的向量,以得到词的编码向量。
S203,根据该第一词序列中各个词的编码向量,构建出用于表征该实体名称所表达的语义的第一编码向量。
在实体名称分词出的各个词的编码向量确定后,基于各个词的编码向量可以构建出用于表征该实体名称的第一编码向量。
如,在一种可选的实现方式中,可以预先训练向量转换模型,并将该第一词序列中各个词的编码向量输入到该预先训练出的向量转换模型中,从而得到该向量转换模型输出的第一编码向量。
其中,该向量转换模型可以为预先训练出的神经网络模型,如循环神经网络(RNN,Recurrent Neural Network)。
其中,该向量转换模型为利用多份正样本和多份负样本训练得到,每份正样本包括一对正确标注的实体名称样本和实体标准名称样本,每份负样本包括一对错误标注的实体样本名称和实体标准名称样本。
可以理解的是,在利用正样本和负样本训练向量转换模型时,可以先对正样本以及负样本中每个名称样本进行分词,得到每个名称样本的词序列中各个词的编码向量,然后,分别利用正样本中一对名称样本各自的词序列的编码向量以及负样本中一对名称样本各自的词序列的编码向量对向量转换模型进行训练。
为了便于理解,以一种训练向量转换模型的方式进行介绍,如参见图3,其示出了本申请一种训练向量转换模型的流程示意图,为了便于介绍,以向量转换模型为RNN模型为例。该流程可以包括:
S301,获取多份正样本和多份负样本。
其中,每份正样本包括一对正确标注的实体名称样本和实体标准名称样本,每份负样本包括一对错误标注的实体样本名称和实体标准名称样本。
S302,针对每份正样本,分别对该正样本中的该实体名称样本以及标准实体名称样本的分词,得到正样本中该实体名称样本分词出的至少一个词构成的第一词序列,以及正样本中该标准实体名称样本分词出的至少一个词构成的第二词序列。
其中,为了便于区分,将正样本以及负样本中表征实体别名的样本(即实体名称样本)分词得到的词序列称为第一词序列,而将标准实体名称的样本(即标准实体名称样本)分词得到的词序列称为第二词序列。
S303,针对每份正样本,依次确定该正样本中第一词序列中各个词的编码向量,并依次确定该正样本中第二词序列中各个词的编码向量。
其中,对实体名称样本以及标准实体名称样本分词,以及确定分词得到的第一词序列以及第二词序列中各个词的编码向量的过程可以参见前面对实体名称的分词以及确定实体名称的第一词序列中各个词的编码向量的相关介绍,在此不再赘述。
S304,针对每份负样本,分别对该负样本中的该实体名称样本以及标准实体名称样本的分词,得到负样本中该实体名称样本分词出的至少一个词构成的第一词序列,以及负样本中该标准名称样本分词出的至少一个词构成的第二词序列。
S305,针对每份负样本,依次确定该负样本中第一词序列中各个词的编码向量,并依次确定该负样本中第二词序列中各个词的编码向量。
其中,该步骤S302和S303也可以与步骤S304和步骤S305同时执行,或者是,先执行该步骤S304和S305,再执行该步骤S302和S303。
S306,针对每份正样本,将该正样本的第一词序列中各个词的编码向量输入到待训练的RNN模型,并将该正样本的第二词序列中各个词的编码向量输入到该待训练的RNN模型,以通过该RNN模型分别输出该正样本中实体名称样本的第一编码向量以及该标准实体名称的第二编码向量。
其中,该待训练的RNN模型可以采用单层或者双层的长短期记忆网络(LongShort-Term Memory,LSTM)。在该待训练的RNN模型中有可以输出实体名称样本(即实体别名样本)的第一编码向量的别名RNN层,以及用于输出标准实体名称样本的第二编码向量的标准RNN层,可以通过该待训练的RNN模型可以分别得到正样本中实体名称样本的第一编码向量以及正样本中标准实体名称样本的第二编码向量。
其中,该第一编码向量和第二编码向量具有相同的维度。
S307,针对每份负样本,将该负样本的第一词序列中各个词的编码向量输入到待训练的RNN模型,并将该负样本的第二词序列中各个词的编码向量输入到该待训练的RNN模型,以通过该RNN模型分别输出该负样本中实体名称样本的第一编码向量以及该负样本中标准实体名称的第二编码向量。
其中,对于负样本,得到该负样本对应的第一编码向量以及该第二编码向量的过程与前面确定正样本对应的第一编码向量和第二编码向量的过程相似,在此不再赘述。
S308,分别计算每个正样本中第一编码向量与第二编码向量之间的向量距离,并计算每个负样本中第一编码向量与第二编码向量之间的向量距离,得到每个正样本对应的向量距离以及每个负样本对应的向量距离。
其中,计算第一编码向量与第二编码向量之间的向量距离的方式可以采用任意的向量距离计算方式,本申请对此不加限制。
S309,基于每个正样本对应的向量距离以及每个负样本对应的向量距离,判断该RNN模型的预测精准度是否达到预设要求,如果是,则训练完成;如果否,则调整该RNN模型的内部参数,并返回执行该步骤S306。
可以理解的是,对于正样本而言,由于正样本中的实体名称样本与标准实体名称样本是正确标注的一对名称,因此,将正样本中实体名称样本的第一编码向量以及正样本中标准实体名称样本的第二编码向量投影到同一个向量空间,那么该第一编码向量和第二编码向量在空间距离上应该比较近。相应的,对于负样本而言,负样本中实体名称样本的第一编码向量与负样本中标准实体名称样本的第二编码向量之间的向量距离应该比较远。基于这个原理,可以不断训练RNN模型。
可选的,在实际应用中,还可以基于如上原理,设置该RNN模型对应的损失函数。这样依据损失函数的输出值,则可以判断RNN模型的预测精准度满足预设要求。
如,可以假设正样本对应的标签Y=1;负样本对应的标签Y=-1,其中,正样本以及负样本中的实体名称样本对应的第一编码向量均表示为Va,而正样本和正样本中标准实体名称样本对应的第二编码向量均表示为Vs,则可以构建基于向量距离的损失函数L(Va,Vs)可以为如下公式一:
L(Va,Vs)=exp(Y*(Va-Vs)2); (公式一)
在公式一的基础上,可以得到各个样本对应的损失函数的输出值,这样,结合所有正样本和负样本对应的损失函数的输出值,可以分析待训练的RNN模型的精准度是否符合要求。
可以理解的是,图3仅仅是本申请中向量转换模型的一种实现方式,在实际应用中,还可以有其他方式来训练该向量转换模型,本申请对此不加限制。
可以理解的是,在本申请实施例中,得到待匹配的实体名称的第一编码向量以及候选实体名称的第二编码向量之后,确定候选实体名称与该待匹配的实体名称在多个维度上的特征匹配度的方式可以有多种可能。
可选的,为了能够更加便捷高效的,确定该特征匹配度,在实际应用中,还可以训练二分类模型,如通过机器学习算法训练二分类模型。相应的,基于实体名称的第一编码向量和候选实体名称的第二编码向量,并利用该二分类模型可以得到候选实体名称与该实体名称之间在多个预设维度上的特征匹配度。
在一种实现方式中,可以先利用该实体名称的第一编码向量和所述候选实体名称的第二编码向量,构建表征候选实体名称与实体名称之间特征关系的特征向量。然后,将构建的该特征向量输入到预先训练得到的该二分类模型,以通过该二分类模型预测出该候选实体名称与该实体名称之间在多个预设维度上的特征匹配度。
其中,二分类模型的训练方式可以有多种,为了便于理解,下面以一种训练二分类模型的方式为例进行介绍。如,参见图4,其示出了本申请一种训练二分类模型的训练流程示意图,该流程可以包括:
S401,获取多份正样本和多份负样本。
其中,每份正样本包括一对正确标注的实体名称样本和标准实体名称样本;每份负样本包括一对错误标注的实体名称样本和标准实体名称样本;
S402,确定该正样本中实体名称样本的第一编码向量和标准实体名称样本的第二编码向量,并利用正样本中实体名称样本的第一编码向量和标准实体名称样本的第二编码向量构建该正样本的特征向量。
S403,确定该负样本中实体名称样本的第一编码向量和标准实体名称样本的第二编码向量,并利用负样本中实体名称样本的第一编码向量和标准实体名称样本的第二编码向量构建该负样本的特征向量。
其中,正样本以及负样本中实体名称样本的第一编码向量以及标准实体名称样本的第二编码向量可以分别按照前面提到的确定第一编码向量以及第二编码向量的方式确定。如,可以利用预先训练出的RNN模型,分别确定出正样本以及负样本中实体名称样本对应的第一编码向量以及标准实体名称对应的第二编码向量。
对于正样本或者负样本而言,基于实体名称样本的第一编码向量和标准实体名称的第二编码向量,构建特征向量的过程可以有多种可能。如,可以将第一编码向量与第二特征编码向量进行拼接,并将拼接得到的向量确定为该特征向量。又如,还可以是将该第一特征向量与该第二特征向量相减,得到该特征向量。
S404,依次将该多份正样本的特征向量以及该多份负样本的特征向量输入到待训练的二分类模型中,并利用机器学习算法对该二分类模型训练,直至该二分类模型的预测精准度符合预设要求。
可以理解的是,对于正样本而言,基于正样本对应的特征向量,利用二分类模型预测出的特征匹配度应相对较高,如,特征匹配度应该大于表征该正样本中实体名称样本与标准实体名称样本为相互匹配的匹配度阈值;相应的,对于负样本而言,基于负样本对应的特征向量,利用该二分类模型预测出的特征匹配度应相对较低,如预测出的特征匹配度低于该匹配度阈值。基于此原理,可以判断该二分类模型对于一份样本的预测是否准确,从而统计对所有样本的预测情况,得到预测精准度。
可以理解的是,如果判断出该二分类模型的预测精准度不符合要求,则可以调整该二分类模型的内部参数,并重新返回步骤S402进行训练,直至该二分类模型的预测精准度符合预设要求。
其中,该机器学习算法可以有多种,如,可以为支持向量机、随机森林、逻辑回归、朴素贝叶斯等等算法。
为了便于理解本申请的方案,下面以本申请的一种具体实现方式为例,对本申请方案进行介绍,如,参见图5,其示出了本申请一种实体匹配方法又一个实施例的流程示意图,本实施例的方法可以包括:
S501,获取待匹配的实体名称。
S502,对该实体名称分词,得到由该实体名称分词出的至少一个词构成的第一词序列。
S503,依次确定该第一词序列中各个词的编码向量。
S504,将该第一词序列中各个词的编码向量输入到该预先训练出的向量转换模型中,得到该向量转换模型输出的该实体名称的第一编码向量。
该向量转换模型可以为前面提到的训练出的RNN模型。
可以理解的是,得到该实体名称的第一编码向量的过程可以参见前面实施例的相关介绍,在此不再赘述。
S505,分别计算该实体名称的第一编码向量与标准名称库中各个标准实体名称的第二编码向量之间的距离,得到各个标准实体名称对应的该距离。
其中,标准名称库中各个标准实体名称的第二编码向量可以与确定实体名称的第一编码向量的过程相似,具体可以参见前面的相关介绍。其中,该步骤S505可以是计算该实体名称的第一编码向量与预先存储的各个标准实体名称的第二编码向量之间的距离。
其中,该第一编码向量的维度与该第二编码向量的维度相同。
S506,从该标准名称库的多个标准实体名称中,选取出对应的该距离较小的至少一个候选实体名称。
S507,针对每个候选实体名称,利用该实体名称的第一编码向量和该候选实体名称的第二编码向量,构建表征该候选实体名称与实体名称之间特征关系的特征向量。
如,将第一编码向量与第二编码向量拼接为该特征向量。具体的,针对每个候选实体名称,将该实体名称的第一编码向量和该候选实体名称的第二编码向量合并为一个多维度的向量,并将合并出的向量确定为表征候选实体名称与实体名称之间特征关系的特征向量。可见,合并得到的该特征向量的维度为第一编码向量和所述第二编码向量的维度之和。
S508,依次将各个候选实体名称对应的特征向量输入到预先通过机器学习算法训练得到的二分类模型中,获得该二分类模型针对各个候选实体名称对应的特征向量输出的特征匹配度。
其中,该二分类模型可以根据特征向量所包含的各个维度,确定该特征向量所对应的特征匹配度,其中,该特征匹配度可以从多个预设维度上反映出候选实体名称与待匹配的实体名称之间的匹配程度。该多个预设维度可以认为是该特征向量对应的多个维度。
S509,将该至少一个候选实体名称中对应的特征匹配度最高的候选实体名称确定为该实体名称对应的标准实体名称。
在本实施例中,是以将特征匹配度最高的候选实体名称作为与该实体名称匹配的标准实体名称为例说明,对于选取特征匹配度排名处于前指定位中的任意一个候选实体名称作为该标准实体名称,或者基于该特征匹配度,采取其他方式选取标准实体名称的方式也同样适用于本实施例。
对应本申请的一种实体匹配方法,本申请还提供了一种实体匹配装置。如参见图6,其示出了本申请一种实体匹配装置一个实施例的组成示意图,该装置可以应用于电子设备,该装置可以包括:
别名获取单元601,用于获取待匹配的实体名称;
名称编码单元602,用于根据所述实体名称所包含的字符串,确定用于表征所述实体名称所表达的语义的第一编码向量;
距离计算单元603,用于分别计算所述实体名称的第一编码向量与标准名称库中各个标准实体名称的第二编码向量之间的距离,得到各个标准实体名称对应的所述距离;所述标准实体名称的第二编码向量为用于表征所述标准实体名称所表达的语义的编码向量;
候选选取单元604,用于从所述标准名称库的多个标准实体名称中,选取出对应的所述距离较小的至少一个候选实体名称;
匹配度确定单元605,用于根据所述实体名称的第一编码向量和所述候选实体名称的第二编码向量,确定所述候选实体名称与所述实体名称在多个预设维度上的特征匹配度;
标准匹配单元606,用于将所述特征匹配度符合预设要求的候选实体名称确定为所述实体名称对应的标准实体名称。
在一种可能的实现方式中,所述名称编码单元,包括:
分词子单元,用于对所述实体名称分词,得到由所述实体名称分词出的至少一个词构成的第一词序列;
词编码子单元,用于依次确定所述第一词序列中各个词的编码向量;
名称编码子单元,用于根据所述第一词序列中各个词的编码向量,构建出用于表征所述实体名称所表达的语义的第一编码向量。
可选的,所述名称编码子单元,包括:
模型转换子单元,用于将所述第一词序列中各个词的编码向量输入到预先训练出的向量转换模型中,并获取所述向量转换模型输出的第一编码向量,所述向量转换模型为利用多份正样本和多份负样本训练得到,其中,每份正样本包括一对正确标注的实体名称样本和实体标准名称样本,每份负样本包括一对错误标注的实体样本名称和实体标准名称样本。
在一种可能的实现方式中,以上装置的任意一个实施例中,所述匹配度确定单元可以包括:
特征构建单元,用于利用所述实体名称的第一编码向量和所述候选实体名称的第二编码向量,构建表征候选实体名称与实体名称之间特征关系的特征向量;
模型匹配单元,用于根据所述特征向量,并利用预先通过机器学习算法训练出的二分类模型,确定所述候选实体名称与所述实体名称之间的特征匹配度。
可选的,所述特征构建单元,包括:
向量拼接子单元,用于将所述实体名称的第一编码向量和所述候选实体名称的第二编码向量合并为一个多维度的向量,并将合并出的向量确定为表征候选实体名称与实体名称之间特征关系的特征向量,所述特征向量的维度为所述第一编码向量和所述第二编码向量的维度之和。
可选的,该装置还包括二分类模型训练单元,用于通过如下方式训练所述二分类模型:
获取多份正样本和多份负样本,每份正样本包括一对正确标注的实体名称样本和标准实体名称样本;每份负样本包括一对错误标注的实体名称样本和标准实体名称样本;
确定所述正样本中实体名称样本的第一编码向量和标准实体名称样本的第二编码向量,并利用正样本中实体名称样本的第一编码向量和标准实体名称样本的第二编码向量构建所述正样本的特征向量;
确定所述负样本中实体名称样本的第一编码向量和标准实体名称样本的第二编码向量,并利用负样本中实体名称样本的第一编码向量和标准实体名称样本的第二编码向量构建所述负样本的特征向量;
依次将所述多份正样本的特征向量以及所述多份负样本的特征向量输入到待训练的二分类模型中,并利用机器学习算法对所述二分类模型训练,直至所述二分类模型的预测精准度符合预设要求。
又一方面,本申请还提供了一种电子设备,该电子设备可以为个人计算机、服务器等具有数据处理能力的设备。如,参见图7,其示出了本申请一种电子设备的组成结构示意图,本实施例的电子设备可以包括:
处理器701和存储器702;
其中,所述处理器701用于,获取待匹配的实体名称;根据所述实体名称所包含的字符串,确定用于表征所述实体名称所表达的语义的第一编码向量;分别计算所述实体名称的第一编码向量与标准名称库中各个标准实体名称的第二编码向量之间的距离,得到各个标准实体名称对应的所述距离;所述标准实体名称的第二编码向量为用于表征所述标准实体名称所表达的语义的编码向量;从所述标准名称库的多个标准实体名称中,选取出对应的所述距离较小的至少一个候选实体名称;根据所述实体名称的第一编码向量和所述候选实体名称的第二编码向量,确定所述候选实体名称与所述实体名称在多个预设维度上的特征匹配度;将所述特征匹配度符合预设要求的候选实体名称确定为所述实体名称对应的标准实体名称。
存储器702,用于存储所述处理器执行以上操作所需的程序。
可以理解的是,图7仅仅是本申请的电子设备的简单构成的示意图,在实际应用中,该电子设备还可以包括显示器,用于显示确定出的标准实体名称;通信模块,用于接收待匹配的实体名称或者发送匹配出的标准实体名称等等,当然,该电子设备还可以包括输入装置等等,在此不再赘述。
可以理解的是,该处理器所执行的具体操作可以参见前面图1到图5实施例中电子设备侧所执行的操作,在此不再重复赘述。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (7)
1.一种实体匹配方法,包括:
获取待匹配的实体名称;
根据所述实体名称所包含的字符串,确定用于表征所述实体名称所表达的语义的第一编码向量;
分别计算所述实体名称的第一编码向量与标准名称库中各个标准实体名称的第二编码向量之间的距离,得到各个标准实体名称对应的所述距离;所述标准实体名称的第二编码向量为用于表征所述标准实体名称所表达的语义的编码向量;
从所述标准名称库的多个标准实体名称中,选取出对应的所述距离较小的至少一个候选实体名称;
根据所述实体名称的第一编码向量和所述候选实体名称的第二编码向量,确定所述候选实体名称与所述实体名称在多个预设维度上的特征匹配度;
将所述特征匹配度符合预设要求的候选实体名称确定为所述实体名称对应的标准实体名称;
所述根据所述实体名称的第一编码向量和所述候选实体名称的第二编码向量,确定所述候选实体名称与所述实体名称在多个预设维度上的特征匹配度,包括:
将所述实体名称的第一编码向量和所述候选实体名称的第二编码向量合并为一个多维度的向量,并将合并出的向量确定为表征候选实体名称与实体名称之间特征关系的特征向量,所述特征向量的维度为所述第一编码向量和所述第二编码向量的维度之和;
根据所述特征向量,并利用预先通过机器学习算法训练出的二分类模型,确定所述候选实体名称与所述实体名称之间的特征匹配度。
2.根据权利要求1所述的实体匹配方法,所述根据所述实体名称所包含的字符串,确定用于表征所述实体名称所表达的语义的第一编码向量,包括:
对所述实体名称分词,得到由所述实体名称分词出的至少一个词构成的第一词序列;
依次确定所述第一词序列中各个词的编码向量;
根据所述第一词序列中各个词的编码向量,构建出用于表征所述实体名称所表达的语义的第一编码向量。
3.根据权利要求2所述的实体匹配方法,所述根据所述第一词序列中各个词的编码向量,构建出用于表征所述实体名称所表达的语义的第一编码向量,包括:
将所述第一词序列中各个词的编码向量输入到预先训练出的向量转换模型中,并获取所述向量转换模型输出的第一编码向量,所述向量转换模型为利用多份正样本和多份负样本训练得到,其中,每份正样本包括一对正确标注的实体名称样本和实体标准名称样本,每份负样本包括一对错误标注的实体样本名称和实体标准名称样本。
4.根据权利要求1所述的实体匹配方法,所述二分类模型通过如下方式训练得到:
获取多份正样本和多份负样本,每份正样本包括一对正确标注的实体名称样本和标准实体名称样本;每份负样本包括一对错误标注的实体名称样本和标准实体名称样本;
确定所述正样本中实体名称样本的第一编码向量和标准实体名称样本的第二编码向量,并利用正样本中实体名称样本的第一编码向量和标准实体名称样本的第二编码向量构建所述正样本的特征向量;
确定所述负样本中实体名称样本的第一编码向量和标准实体名称样本的第二编码向量,并利用负样本中实体名称样本的第一编码向量和标准实体名称样本的第二编码向量构建所述负样本的特征向量;
依次将所述多份正样本的特征向量以及所述多份负样本的特征向量输入到待训练的二分类模型中,并利用机器学习算法对所述二分类模型训练,直至所述二分类模型的预测精准度符合预设要求。
5.一种实体匹配装置,包括:
别名获取单元,用于获取待匹配的实体名称;
名称编码单元,用于根据所述实体名称所包含的字符串,确定用于表征所述实体名称所表达的语义的第一编码向量;
距离计算单元,用于分别计算所述实体名称的第一编码向量与标准名称库中各个标准实体名称的第二编码向量之间的距离,得到各个标准实体名称对应的所述距离;所述标准实体名称的第二编码向量为用于表征所述标准实体名称所表达的语义的编码向量;
候选选取单元,用于从所述标准名称库的多个标准实体名称中,选取出对应的所述距离较小的至少一个候选实体名称;
匹配度确定单元,用于根据所述实体名称的第一编码向量和所述候选实体名称的第二编码向量,确定所述候选实体名称与所述实体名称在多个预设维度上的特征匹配度;
标准匹配单元,用于将所述特征匹配度符合预设要求的候选实体名称确定为所述实体名称对应的标准实体名称;
所述匹配度确定单元,包括:
特征构建单元,用于利用所述实体名称的第一编码向量和所述候选实体名称的第二编码向量,构建表征候选实体名称与实体名称之间特征关系的特征向量;
模型匹配单元,用于根据所述特征向量,并利用预先通过机器学习算法训练出的二分类模型,确定所述候选实体名称与所述实体名称之间的特征匹配度;
所述利用所述实体名称的第一编码向量和所述候选实体名称的第二编码向量,构建表征候选实体名称与实体名称之间特征关系的特征向量,包括:
将所述实体名称的第一编码向量和所述候选实体名称的第二编码向量合并为一个多维度的向量,并将合并出的向量确定为表征候选实体名称与实体名称之间特征关系的特征向量,所述特征向量的维度为所述第一编码向量和所述第二编码向量的维度之和。
6.根据权利要求5所述的实体匹配装置,所述名称编码单元,包括:
分词子单元,用于对所述实体名称分词,得到由所述实体名称分词出的至少一个词构成的第一词序列;
词编码子单元,用于依次确定所述第一词序列中各个词的编码向量;
名称编码子单元,用于根据所述第一词序列中各个词的编码向量,构建出用于表征所述实体名称所表达的语义的第一编码向量。
7.一种电子设备,包括:
处理器和存储器;
其中,所述处理器用于,获取待匹配的实体名称;根据所述实体名称所包含的字符串,确定用于表征所述实体名称所表达的语义的第一编码向量;分别计算所述实体名称的第一编码向量与标准名称库中各个标准实体名称的第二编码向量之间的距离,得到各个标准实体名称对应的所述距离;所述标准实体名称的第二编码向量为用于表征所述标准实体名称所表达的语义的编码向量;从所述标准名称库的多个标准实体名称中,选取出对应的所述距离较小的至少一个候选实体名称;根据所述实体名称的第一编码向量和所述候选实体名称的第二编码向量,确定所述候选实体名称与所述实体名称在多个预设维度上的特征匹配度;将所述特征匹配度符合预设要求的候选实体名称确定为所述实体名称对应的标准实体名称;所述根据所述实体名称的第一编码向量和所述候选实体名称的第二编码向量,确定所述候选实体名称与所述实体名称在多个预设维度上的特征匹配度,包括:将所述实体名称的第一编码向量和所述候选实体名称的第二编码向量合并为一个多维度的向量,并将合并出的向量确定为表征候选实体名称与实体名称之间特征关系的特征向量,所述特征向量的维度为所述第一编码向量和所述第二编码向量的维度之和;根据所述特征向量,并利用预先通过机器学习算法训练出的二分类模型,确定所述候选实体名称与所述实体名称之间的特征匹配度;
存储器,用于存储所述处理器执行以上操作所需的程序。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811474215.1A CN109614615B (zh) | 2018-12-04 | 2018-12-04 | 实体匹配方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811474215.1A CN109614615B (zh) | 2018-12-04 | 2018-12-04 | 实体匹配方法、装置及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109614615A CN109614615A (zh) | 2019-04-12 |
CN109614615B true CN109614615B (zh) | 2022-04-22 |
Family
ID=66006350
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811474215.1A Active CN109614615B (zh) | 2018-12-04 | 2018-12-04 | 实体匹配方法、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109614615B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110427991A (zh) * | 2019-07-22 | 2019-11-08 | 联动优势科技有限公司 | 一种字符串匹配方法及装置 |
CN111144102B (zh) * | 2019-12-26 | 2022-05-31 | 联想(北京)有限公司 | 用于识别语句中实体的方法、装置和电子设备 |
CN113538075A (zh) * | 2020-04-14 | 2021-10-22 | 阿里巴巴集团控股有限公司 | 数据的处理方法、模型的训练方法、装置和设备 |
CN111444307B (zh) * | 2020-06-11 | 2020-09-22 | 平安国际智慧城市科技股份有限公司 | 基于相似度值的实体编码方法、装置、设备及存储介质 |
CN113378018B (zh) * | 2021-08-16 | 2021-11-16 | 南京烽火星空通信发展有限公司 | 基于深度学习多头选择模型的表头列实体关系匹配方法 |
CN115545809B (zh) * | 2022-12-02 | 2023-05-12 | 广州数说故事信息科技有限公司 | 电商商品的标品库构建方法、数据对齐方法、装置和设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105354199A (zh) * | 2014-08-20 | 2016-02-24 | 北京羽扇智信息科技有限公司 | 一种基于场景信息的实体含义识别方法和系统 |
CN106897568A (zh) * | 2017-02-28 | 2017-06-27 | 北京大数医达科技有限公司 | 病历结构化的处理方法和装置 |
CN108595708A (zh) * | 2018-05-10 | 2018-09-28 | 北京航空航天大学 | 一种基于知识图谱的异常信息文本分类方法 |
CN108694201A (zh) * | 2017-04-10 | 2018-10-23 | 华为软件技术有限公司 | 一种实体对齐方法和装置 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9189473B2 (en) * | 2012-05-18 | 2015-11-17 | Xerox Corporation | System and method for resolving entity coreference |
US9542652B2 (en) * | 2013-02-28 | 2017-01-10 | Microsoft Technology Licensing, Llc | Posterior probability pursuit for entity disambiguation |
US9418103B2 (en) * | 2013-12-06 | 2016-08-16 | Quixey, Inc. | Techniques for reformulating search queries |
CN106557462A (zh) * | 2016-11-02 | 2017-04-05 | 数库(上海)科技有限公司 | 命名实体识别方法和系统 |
CN106951684B (zh) * | 2017-02-28 | 2020-10-09 | 北京大学 | 一种医学疾病诊断记录中实体消歧的方法 |
CN107102989B (zh) * | 2017-05-24 | 2020-09-29 | 南京大学 | 一种基于词向量、卷积神经网络的实体消歧方法 |
CN107748757B (zh) * | 2017-09-21 | 2021-05-07 | 北京航空航天大学 | 一种基于知识图谱的问答方法 |
CN108304911B (zh) * | 2018-01-09 | 2020-03-13 | 中国科学院自动化研究所 | 基于记忆神经网络的知识抽取方法以及系统和设备 |
CN108280061B (zh) * | 2018-01-17 | 2021-10-26 | 北京百度网讯科技有限公司 | 基于歧义实体词的文本处理方法和装置 |
CN108897810A (zh) * | 2018-06-19 | 2018-11-27 | 苏州大学 | 一种实体匹配方法、系统、介质及设备 |
-
2018
- 2018-12-04 CN CN201811474215.1A patent/CN109614615B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105354199A (zh) * | 2014-08-20 | 2016-02-24 | 北京羽扇智信息科技有限公司 | 一种基于场景信息的实体含义识别方法和系统 |
CN106897568A (zh) * | 2017-02-28 | 2017-06-27 | 北京大数医达科技有限公司 | 病历结构化的处理方法和装置 |
CN108694201A (zh) * | 2017-04-10 | 2018-10-23 | 华为软件技术有限公司 | 一种实体对齐方法和装置 |
CN108595708A (zh) * | 2018-05-10 | 2018-09-28 | 北京航空航天大学 | 一种基于知识图谱的异常信息文本分类方法 |
Non-Patent Citations (1)
Title |
---|
结合实体链接与实体聚类的命名实体消歧;谭咏梅 等;《北京邮电大学学报》;20141031;第37卷(第5期);第36-40页 * |
Also Published As
Publication number | Publication date |
---|---|
CN109614615A (zh) | 2019-04-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109614615B (zh) | 实体匹配方法、装置及电子设备 | |
US20220269707A1 (en) | Method and system for analyzing entities | |
CN112164391B (zh) | 语句处理方法、装置、电子设备及存储介质 | |
CN109376222B (zh) | 问答匹配度计算方法、问答自动匹配方法及装置 | |
CN109766557B (zh) | 一种情感分析方法、装置、存储介质及终端设备 | |
CN111708876B (zh) | 生成信息的方法和装置 | |
CN109034203B (zh) | 表情推荐模型的训练、表情推荐方法、装置、设备及介质 | |
US9928284B2 (en) | File recognition system and method | |
CN112257808B (zh) | 用于零样本分类的集成协同训练方法、装置及终端设备 | |
US11586838B2 (en) | End-to-end fuzzy entity matching | |
CN110263218B (zh) | 视频描述文本生成方法、装置、设备和介质 | |
CN110083774B (zh) | 应用推荐列表的确定方法、装置、计算机设备及存储介质 | |
CN111831902A (zh) | 推荐理由筛选方法、装置、电子设备 | |
CN114491077A (zh) | 文本生成方法、装置、设备及介质 | |
CN113821588A (zh) | 文本处理方法、装置、电子设备及存储介质 | |
CN116958622A (zh) | 数据的分类方法、装置、设备、介质及程序产品 | |
CN115269998A (zh) | 信息推荐方法、装置、电子设备及存储介质 | |
CN114626388A (zh) | 意图识别方法、装置、电子设备及存储介质 | |
CN114490946A (zh) | 基于Xlnet模型的类案检索方法、系统及设备 | |
CN112507709A (zh) | 文档匹配方法以及电子设备、存储装置 | |
CN114139031B (zh) | 数据分类方法、装置、电子设备及存储介质 | |
CN117093715B (zh) | 词库扩充方法、系统、计算机设备及存储介质 | |
CN116340464A (zh) | 文本编码模型训练方法、类案检索方法、装置及电子设备 | |
CN116720517A (zh) | 搜索词成分识别模型构建方法以及搜索词成分识别方法 | |
CN116150369A (zh) | 模型的训练方法、长文本多标签分类方法及相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |