CN116383655B - 样本生成方法、模型训练方法、文本处理方法及装置 - Google Patents
样本生成方法、模型训练方法、文本处理方法及装置 Download PDFInfo
- Publication number
- CN116383655B CN116383655B CN202310369235.7A CN202310369235A CN116383655B CN 116383655 B CN116383655 B CN 116383655B CN 202310369235 A CN202310369235 A CN 202310369235A CN 116383655 B CN116383655 B CN 116383655B
- Authority
- CN
- China
- Prior art keywords
- entity
- character
- target
- trees
- entities
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 97
- 238000012549 training Methods 0.000 title claims abstract description 45
- 238000003672 processing method Methods 0.000 title abstract description 5
- 238000013138 pruning Methods 0.000 claims abstract description 41
- 238000012545 processing Methods 0.000 claims description 96
- 230000002441 reversible effect Effects 0.000 claims description 33
- 238000007781 pre-processing Methods 0.000 claims description 21
- 230000011218 segmentation Effects 0.000 claims description 20
- 238000003058 natural language processing Methods 0.000 abstract description 4
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 238000013135 deep learning Methods 0.000 abstract description 2
- 235000019580 granularity Nutrition 0.000 description 30
- 238000010586 diagram Methods 0.000 description 19
- 230000003796 beauty Effects 0.000 description 16
- 238000004590 computer program Methods 0.000 description 12
- 238000004891 communication Methods 0.000 description 11
- 230000008569 process Effects 0.000 description 10
- 238000002372 labelling Methods 0.000 description 9
- 238000001914 filtration Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000002829 reductive effect Effects 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000000670 limiting effect Effects 0.000 description 2
- 230000000873 masking effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013475 authorization Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
- G06F16/367—Ontology
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Animal Behavior & Ethology (AREA)
- Computational Linguistics (AREA)
- Databases & Information Systems (AREA)
- Machine Translation (AREA)
Abstract
本公开公开了样本生成方法、模型训练方法、文本处理方法、装置、电子设备以及存储介质,涉及人工智能技术领域,尤其涉及自然语言处理、深度学习、预训练模型技术领域。具体实现方案为:分别对多个实体各自的实体文本进行切分,得到多个实体各自的多个第一实体元素;基于多个实体各自的多个第一实体元素,生成多个第一字符树,第一字符树包括对多个实体加以表征的至少一个路径,至少一个路径包括与多个第一实体元素相对应的多个节点;分别对多个第一字符树进行剪枝处理,得到多个第二字符树;对于每个第二字符树,基于多个实体中与第二字符树关联的第一目标实体,生成至少一个实体对样本,其中,实体对样本包括两个第一目标实体。
Description
技术领域
本公开涉及人工智能技术领域,尤其涉及自然语言处理、深度学习、预训练模型技术领域,可应用在智慧城市、智慧政务场景下,具体涉及一种样本生成方法、模型训练方法、文本处理方法、装置、电子设备以及存储介质。
背景技术
数字世界中存在着许多代表着现实世界中实体的记录和标识,这些记录和标识可能采用许多不同的形式,但它们都指向现实世界中的同一个实体。实体匹配即是从单个或多个数据源中确定指向相同实体的记录或标识。
发明内容
本公开提供了一种样本生成方法、模型训练方法、文本处理方法、装置、电子设备以及存储介质。
根据本公开的一方面,提供了一种样本生成方法,包括:分别对多个实体各自的实体文本进行切分,得到上述多个实体各自的多个第一实体元素;基于上述多个实体各自的多个第一实体元素,生成多个第一字符树,其中,上述第一字符树包括对上述多个实体加以表征的至少一个路径,上述至少一个路径包括与上述多个第一实体元素相对应的多个节点;分别对上述多个第一字符树进行剪枝处理,得到多个第二字符树;以及对于每个上述第二字符树,基于上述多个实体中与上述第二字符树关联的第一目标实体,生成至少一个实体对样本,其中,上述实体对样本包括两个上述第一目标实体。
根据本公开的另一方面,提供了一种模型训练方法,包括:利用多个实体对样本和上述多个实体对样本各自的标签来训练初始模型,得到实体匹配模型;其中,上述实体对样本包括利用根据如上所述的样本生成方法来生成的。
根据本公开的另一方面,提供了一种实体匹配方法,包括:从文本中识别得到多个实体;基于上述多个实体,生成至少一个实体对;以及利用实体匹配模型来分别处理上述至少一个实体对,得到上述至少一个实体对各自的匹配结果;其中,上述实体匹配模型包括利用如上所述的模型训练方法来生成的。
根据本公开的另一方面,提供了一种样本生成装置,包括:切分模块,用于分别对多个实体各自的实体文本进行切分,得到上述多个实体各自的多个第一实体元素;第一生成模块,用于基于上述多个实体各自的多个第一实体元素,生成多个第一字符树,其中,上述第一字符树包括对上述多个实体加以表征的至少一个路径,上述至少一个路径包括与上述多个第一实体元素相对应的多个节点;第一处理模块,用于分别对上述多个第一字符树进行剪枝处理,得到多个第二字符树;以及第二生成模块,用于对于每个上述第二字符树,基于上述多个实体中与上述第二字符树关联的第一目标实体,生成至少一个实体对样本,其中,上述实体对样本包括两个上述第一目标实体。
根据本公开的另一方面,提供了一种模型训练装置,包括:训练模块,用于利用多个实体对样本和上述多个实体对样本各自的标签来训练初始模型,得到实体匹配模型;其中,上述实体对样本包括利用如上所述的样本生成方法来生成的。
根据本公开的另一方面,提供了一种实体匹配装置,包括:识别模块,用于从文本中识别得到多个实体;第三生成模块,用于基于上述多个实体,生成至少一个实体对;以及第二处理模块,用于利用实体匹配模型来分别处理上述至少一个实体对,得到上述至少一个实体对各自的匹配结果;其中,上述实体匹配模型包括利用如上所述的模型训练方法来生成的。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与上述至少一个处理器通信连接的存储器;其中,上述存储器存储有可被上述至少一个处理器执行的指令,上述指令被上述至少一个处理器执行,以使上述至少一个处理器能够执行如上所述的方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,上述计算机指令用于使上述计算机执行如上所述的方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,上述计算机程序在被处理器执行时实现如上所述的方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1示意性示出了根据本公开实施例的可以应用样本生成方法及装置的示例性系统架构;
图2示意性示出了根据本公开实施例的样本生成方法的流程图;
图3示意性示出了根据本公开实施例的第一字符树的示意图;
图4示意性示出了根据本公开实施例的第二字符树的示意图;
图5示意性示出了根据本公开实施例的逆向字符树的示意图;
图6示意性示出了根据本公开实施例的模型训练方法的示意图;
图7示意性示出了根据本公开实施例的实体匹配方法的示意图;
图8示意性示出了根据本公开实施例的样本生成装置的框图;
图9示意性示出了根据本公开实施例的模型训练装置的框图
图10示意性示出了根据本公开实施例的模型训练装置的框图;以及
图11示意性示出了根据本公开实施例的适于实现样本生成方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
实体匹配任务通过采用实体匹配模型来完成,而实体匹配模型的训练通常需要大量的标注后的实体对作为训练样本。标注后的实体对即通过对实体对添加0或1的标签来得到,在实体对的标签为0时,可以表示该实体对中的两个实体未指向现实世界的同一实体,在实体对的标签为1时,可以表示该实体对中的两个实体指向现实世界的同一实体。
实体对一般由多个实体进行随机组合来得到,在实体的数量为N的情况下,最多可以产生N×(N-1)/2个实体对。因此,当实体的数量较多,例如实体的数量为10000时,可以产生的实体对的数量接近于5×107个,对如此数量级的实体对进行人工标注明显会消耗较高的人力成本。并且,在这些实体对中,标签为1的实体对的数量一般远小于标签为0的实体对的数量,大量标签为0的实体对的存在,也影响实体匹配模型的收敛。
有鉴于此,本公开的实施例提供了一种样本生成方法,包括:分别对多个实体各自的实体文本进行切分,得到多个实体各自的多个第一实体元素;基于多个实体各自的多个第一实体元素,生成多个第一字符树,其中,第一字符树包括对多个实体加以表征的至少一个路径,至少一个路径包括与多个第一实体元素相对应的多个节点;分别对多个第一字符树进行剪枝处理,得到多个第二字符树;以及对于每个第二字符树,基于多个实体中与第二字符树关联的第一目标实体,生成至少一个实体对样本,实体对样本包括两个第一目标实体。
图1示意性示出了根据本公开实施例的可以应用样本生成方法及装置的示例性系统架构。
需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。例如,在另一实施例中,可以应用样本生成方法及装置的示例性系统架构可以包括终端设备,但终端设备可以无需与服务器进行交互,即可实现本公开实施例提供的样本生成方法及装置。
如图1所示,根据该实施例的系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线和/或无线通信链路等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的内容提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开实施例所提供的样本生成方法一般可以由终端设备101、102、或103执行。相应地,本公开实施例所提供的样本生成装置也可以设置于终端设备101、102、或103中。
或者,本公开实施例所提供的样本生成方法一般也可以由服务器105执行。相应地,本公开实施例所提供的样本生成装置一般可以设置于服务器105中。本公开实施例所提供的样本生成方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的样本生成装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
例如,终端设备101、102、103可以获取用户输入的文本中包含的多个实体,然后可以将获取的多个实体发送给服务器105,由服务器105对多个实体进行切分,利用切分得到的实体元素构建第一字符树,对第一字符树进行剪枝处理,得到第二字符树,利用第二字符树生成实体对样本,并将实体对样本返回给终端设备101、102、103。用户可以选择将实体对样本作为实体匹配模型的训练样本,或者,用户也可以将该实体对样本保存在终端设备101、102、103的本地存储设备,或云端存储设备中,以便后续的训练。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
在本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供、公开和应用等处理,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
在本公开的技术方案中,在获取或采集用户个人信息之前,均获取了用户的授权或同意。
图2示意性示出了根据本公开实施例的样本生成方法的流程图。
如图2所示,该方法包括操作S210~S240。
在操作S210,分别对多个实体各自的实体文本进行切分,得到多个实体各自的多个第一实体元素。
在操作S220,基于多个实体各自的多个第一实体元素,生成多个第一字符树。
在操作S230,分别对多个第一字符树进行剪枝处理,得到多个第二字符树。
在操作S240,对于每个第二字符树,基于多个实体中与第二字符树关联的第一目标实体,生成至少一个实体对样本。
根据本公开的实施例,实体可以指现实世界中的实体在数字世界中的记录或标识。现实世界的同一实体在数字世界可以存在多种记录或标识。例如,现实世界中的实体“自行车”,在数字世界中可以包括与“单车”、“山地车”、“公路车”、“XX牌自行车”等相关的记录或标识。
根据本公开的实施例,实体的实体文本可以表示数字世界中的记录或标识的主题或关键字。例如,实体为数字世界中与“XX牌自行车”等相关的记录,则该实体的实体文本可以表示为“XX牌自行车”。
根据本公开的实施例,实体文本可以视为一个字符长度较短的文本,对实体文本进行切分可以采用各种自然语言处理中的文本切分方法来实现,在此不作限定。切分得到的多个第一实体元素中的每个第一实体元素可以至少表示为实体文本中的一个字符或一个词。切分得到的多个第一实体元素可以按照原实体文本的顺序进行排列,即对多个第一实体元素依序进行拼接,可以得到实体文本。
根据本公开的实施例,第一字符树可以包括对多个实体加以表征的至少一个路径,至少一个路径可以包括与多个第一实体元素相对应的多个节点。基于多个实体各自的多个第一实体元素,生成多个第一字符树,可以是以多个第一实体元素中的第一个第一实体元素作为根节点,分别基于每个实体来生成一个字符树,再将具有相同根节点的字符树进行合并,以得到多个第一字符树。或者,也可以将具有相同第一个第一实体元素的至少一个实体划入一组,再基于该组内的至少一个实体各自的多个第一实体元素来生成一个第一字符树。
根据本公开的实施例,对第一字符树进行剪枝处理,可以是从第一字符树包括的至少一个路径中选择一个或多个路径,并将该一个或多个路径包括的非共有节点删除。非共有节点可以包括该一个或多个路径的叶节点,且在该叶节点不具有兄弟节点的情况下,非共有节点还可以包括该叶节点的第1级至第N级父节点,其中,N可以表示为正整数。该叶节点的第N级父节点表示沿着该叶节点向根节点的方向的第N个层级的节点,该叶节点的第N级父节点可以具有兄弟节点。节点的兄弟节点可以与该节点具有相同父节点。
根据本公开的实施例,对第一字符树进行剪枝处理可以表示为对与第一字符树关联的一个或多个实体进行过滤处理,得到第一目标实体。
根据本公开的实施例,第一目标实体的数量可以为至少两个。可以对与第二字符树关联的第一目标实体进行全组合,以得到实体对样本。实体对样本可以作为实体匹配模型的训练样本,待完成对实体对样本的标注后,可以利用标注后的实体对样本进行实体匹配模型的训练。对实体对样本的标注可以是为实体对样本添加表示属于同一实体或表示属于不同实体的标签。实体对样本可以包括两个第一目标实体。例如,实体对可以表示为<实体1,实体2>,为实体对进行标注后得到的标签可以表示为“0”或“1”,则标注后的实体对样本可以表示为<实体1,实体2,0>,或者,<实体1,实体2,1>。
根据本公开的实施例,作为一种可选实施方式,基于需要训练的实体匹配模型的不同,实体对样本中也可以包括两个以上的第一目标实体。例如,每个实体对样本中可以包括三个第一目标实体,可以表示为<实体1,实体2,实体3>。为该实体对进行标注可以是将该实体对中的每两个第一目标实体进行组合并标注,得到的标签可以表示为一个数组,该数组中的每个元素表示对一种组合下的两个第一目标实体进行标注后得到的标签。该数组可以表示为(0,0,0)、(0,1,1)、(1,1,1)等,相应的,标注后的实体对样本可以表示为<实体1,实体2,实体3,(0,0,0)>、<实体1,实体2,实体3,(0,1,1)>、<实体1,实体2,实体3,(1,1,1)>等。
根据本公开的实施例,在进行实体匹配模型训练所需的实体对样本的生成时,可以将各个实体的实体文本切分为多个第一实体元素,基于各个实体各自的多个第一实体元素进行第一字符树的生成,经对第一字符树进行剪枝处理后,可以得到第二字符树,与每个第二字符树相关的第一目标实体可以用于生成实体样本对。通过生成第一字符树的方式,可以实现对在实体文本层面上具有一定相似度的多个实体的聚类,再通过剪枝处理,与第二字符树相关的多个第一目标实体可以至少在其实体文本层面上具有较高的相似性,有效提高了基于第二字符树生成的实体对样本属于正样本的概率,从而可以便于平衡实体匹配模型的训练样本中正负样本之间的比例,有助于提高模型的训练效果。同时,通过生成第一字符树的方式,在生成实体对样本时,可以将基于大数量级的实体的全组合来生成实体对样本的方式,改变为基于多组小数量级的实体的全组合来生成实体对样本的方式,可以有效减少需要生成的实体对样本的数量,降低实体对样本的标注成本。
下面参考图3~图5,结合具体实施例对图2所示的方法做进一步说明。
根据本公开的实施例,对实体的实体文本进行切分可以是根据固定或可变的粒度,对该实体文本进行切分。例如,可以基于预设粒度,分别对多个实体各自的实体文本进行切分,得到多个实体各自的多个第一实体元素。
根据本公开的实施例,预设粒度可以包括字符粒度或词粒度。
根据本公开的实施例,按字符粒度进行切分可以表示切分得到的每个元素为一个字符,即在预设粒度为字符粒度的情况下,第一实体元素表示为字符。该字符可以包括中文字符、英文字符、日文字符等各个语种中所使用的字符,例如,“自”、“车”、“B”、“i”等。也可以包括标点符号、运算符号、自定义符号等可以用于表意的字符,例如,“+”、“【”等,在此不作限定。一个实体中也可以包含多类字符,例如,实体“5G网络基站”中即包括数字、英文字符和中文字符。
根据本公开的实施例,按词粒度进行切分可以表示切分得到的每个元素为一个词或一个字符,即在预设粒度为词粒度的情况下,第一实体元素表示为字符或词。按词粒度进行切分的方法可以利用各种自然语言处理方法来实现,在此不作限定。
根据本公开的实施例,通过利用不同的粒度进行实体文本的切分,可以从不同维度进行第一实体的实体文本相似度的比较,可以有效提高生成的实体对样本中的两个第一目标实体的相似度。
根据本公开的实施例,基于实体的多个第一实体元素来生成第一字符树可以是将多个第一实体元素作为节点,以多个第一实体元素中的第一个第一实体元素作为根节点,后面依序的第二个第一实体元素作为根节点的子节点,第三个第一实体元素作为第二个第一实体元素的子节点,以此类推,直至多个第一实体元素均已作为节点添加到第一字符树中,即完成基于该实体的第一字符树的生成。
以下以预设粒度为字符粒度为例,结合图3,对基于8个实体生成第一字符树的过程进行说明。8个实体可以分别表示为“AB小学”、“AC美容美发院”、“AC儿童乐园”、“AC美容院”、“DE自动化有限公司”、“DE有限责任公司”、“DE自动化设备”和“F型连接件”。
图3示意性示出了根据本公开实施例的第一字符树的示意图。
如图3所示,在不存在已有第一字符树的情况下,可以从该8个实体中随机选择一个实体,例如选择实体“AB小学”进行第一字符树的生成。具体地,实体“AB小学”切分的4个实体元素可以分别为“A”、“B”、“小”和“学”。依据4个实体元素的顺序,可以将实体元素“A”作为根节点,将实体元素“B”作为实体元素“A”的子节点,将实体元素“小”作为实体元素“B”的子节点,将实体元素“学”作为实体元素“小”的子节点。完成根节点为“A”的第一字符树的初步生成。
根据本公开的实施例,可以使用剩余的实体对该根节点为“A”的第一字符树进行补充,具体地,可以根据剩余的7个实体的多个第一实体元素中的第一个第一实体元素,来确定需要在该根节点为“A”的第一字符树上继续进行生长的实体,包括实体“AC美容美发院”、实体“AC儿童乐园”和实体“AC美容院”。剩余的实体可以重复上一动作,进行根节点为其他字符的第一字符树的生成。
根据本公开的实施例,可以使用实体“AC美容美发院”、实体“AC儿童乐园”和实体“AC美容院”来继续生长根节点为“A”的第一字符树。以实体“AC美容院”为例,可以将实体元素“C”作为实体元素“A”的子节点,将实体元素“美”作为实体元素“C”的子节点,将实体元素“容”作为实体元素“美”的子节点,将实体元素“院”作为实体元素“容”的子节点。完成将实体“AC美容院”生长在该根节点为“A”的第一字符树上。
根据本公开的实施例,如上所述的8个实体可以最终生成3个第一字符树,分别为根节点为A的第一字符树、根节点为D的第一字符树和根节点为F的第一字符树。根节点为A的第一字符树可以由“AB小学”、“AC美容美发院”、“AC儿童乐园”和“AC美容院”4个实体构成。根节点为D的第一字符树可以由“DE自动化有限公司”、“DE有限责任公司”和“DE自动化设备”3个实体构成。根节点为F的第一字符树可以由“F型连接件”1个实体构成。
根据本公开的实施例,在完成第一字符树的生成后,可以对第一字符树进行剪枝处理。例如,可以对于每个第一字符树,基于预设路径长度,分别对第一字符树包括的多条路径进行剪枝处理,以得到第二字符树。
根据本公开的实施例,路径长度可以指第一字符树中的某条路径包括的节点的数量,也即表示对与该路径对应的实体的实体文本进行切分后,所得到的实体元素的数量。相应的,预设路径长度可以为预设的节点数量阈值,或预设的实体元素数量阈值。
以下以预设路径长度为2和图3中的根节点为“A”的第一字符树为例,结合图4对第一字符树的剪枝处理得到第二字符树的过程进行说明。
图4示意性示出了根据本公开实施例的第二字符树的示意图。
如图4所示,可以计算第一字符树中每条路径与其他路径的公共路径长度,并根据公共路径长度与预设路径长度之间的大小关系,来确定该路径是否需要剪除。公共路径长度可以指两条路径所共用的节点的数量。
根据本公开的实施例,对于任意选择的第一目标路径,可以确定第一目标路径与至少一个剩余路径之间各自的公共路径长度。第一目标路径可以属于多条路径,剩余路径可以包括多条路径中除第一目标路径以外的路径。在第一目标路径与至少一个剩余路径之间各自的公共路径长度均小于预设路径长度的情况下,将第一目标路径从第一字符树中剪除。
根据本公开的实施例,以第一目标路径为与实体“AC美容院”对应的路径为例。该第一目标路径与实体“AB小学”所对应的路径共用了根节点“A”,因此,该第一目标路径与实体“AB小学”所对应的路径之间的公共路径长度可以为1。类似地,该第一目标路径与实体“AC美容美发院”所对应的路径之间的公共路径长度可以为4,该第一目标路径与实体“AC儿童乐园”所对应的路径之间的公共路径长度可以为2。由于该第一目标路径与实体“AC美容美发院”所对应的路径之间的公共路径长度,以及该第一目标路径与实体“AC儿童乐园”所对应的路径之间的公共路径长度均大于或等于2,即预设路径长度。因此,可以在第一字符树中保留该第一目标路径,不进行剪枝处理。
根据本公开的实施例,再以第一目标路径为与实体“AB小学”对应的路径为例。该第一目标路径与实体“AC美容院”所对应的路径之间的公共路径长度可以为1,该第一目标路径与实体“AC美容美发院”所对应的路径之间的公共路径长度可以为1,该第一目标路径与实体“AC儿童乐园”所对应的路径之间的公共路径长度可以为1。由于3个公共路径长度的值均小于预设路径长度,因此,可以对该第一目标路径进行剪枝处理。
根据本公开的实施例,在完成对4个实体的遍历后,可以完成对第一字符树的剪枝处理,得到如图4所示的第二字符树。
根据本公开的实施例,当第一字符树中仅包含一条路径时,由于该第一字符树仅对应一个实体,单个实体无法实现实体对样本的生成,因此,可以应用如上所述的剪枝方法将该第一字符树整体剪除。
根据本公开的实施例,作为一种可选实施方式,可以设置该预设路径长度为一个动态变化的值。例如,可以根据实体的实体文本中存在的第一个词的长度,进行该预设路径长度的设置。具体地,在预设粒度为字符粒度的情况下,分别对多个第一字符树进行剪枝处理,得到多个第二字符树可以包括如下操作:
对于每个第一字符树,从第一字符树中确定第二目标实体;基于词粒度,对第二目标实体的实体文本进行切分,得到多个第二实体元素;基于多个第二实体元素,确定目标路径长度;以及基于目标路径长度,分别对第一字符树包括的多条路径进行剪枝处理,以得到第二字符树。
根据本公开的实施例,目标路径长度即是为该第一字符树设置的预设路径长度。在确定目标路径长度后,可以使用如上所述的剪枝方法对第一字符树进行剪枝处理,在此不再赘述。
根据本公开的实施例,从第一字符树中确定第二目标实体可以是从与第一字符树关联的多个实体中随机选择一个实体作为第二目标实体,或者,也可以是基于一定的规则,从与第一字符树关联的多个实体中选择得到第二目标实体。
例如,可以从第一字符树包括的多条路径中确定具有最大路径长度的第二目标路径,并确定与第二目标路径对应的实体为第二目标实体。具体地,以图3中的根节点为“A”的第一字符树为例,该根节点为“A”的第一字符树中具有最大路径长度的路径,可以是与实体“AC美容美发院”对应的路径,即该第二目标实体为“AC美容美发院”。
根据本公开的实施例,基于多个第二实体元素,确定目标路径长度例如可以是基于多个第二实体元素中的第一个第二实体元素来确定目标路径长度。具体地,可以基于多个第二实体元素的顺序,获取多个第二实体元素中位于首位的目标实体元素;以及基于目标实体元素包括的字符的数量,确定目标路径长度。位于首位的目标实体元素即多个第二实体元素中的第一个第二实体元素。基于目标实体元素包括的字符的数量,确定目标路径长度即是确定目标路径长度等于该目标实体元素包括的字符的数量。
例如,实体“AC美容美发院”进行词粒度的文本切分后,可以得到第二实体元素“AC”、“美容”、“美发”和“院”。目标实体元素可以选择为第一个第二实体元素,即“AC”。该目标实体元素可以包括2个字符,因此,可以确定目标路径长度为2。
根据本公开的实施例,通过动态设置路径长度阈值的方式,可以实现对不同第一字符树按不同的尺度进行剪枝处理,从而可以进一步地减少生成的实体对的数量,提高模型的训练效果。
根据本公开的实施例,作为一种可选实施方式,在对第一字符树进行剪枝处理之前,还可以对多个第一字符树进行预处理,得到多个目标字符树。对多个第一字符树进行剪枝处理可以更新为分别对多个目标字符树进行剪枝处理,得到多个第二字符树。
根据本公开的实施例,预处理的方式可以包括但不限于过滤处理、掩码处理等。过滤处理可以是对不符合需求的第一字符树进行过滤。掩码处理可以是随机对多个第一字符树中的一些第一字符树进行屏蔽处理,或者,也可以是随机对多个第一字符树包括的路径进行屏蔽处理。
根据本公开的实施例,以过滤处理为例,对多个第一字符树进行预处理,得到多个目标字符树可以包括如下操作:确定多个第一字符树各自的叶节点的数量;以及对于每个第一字符树,在第一字符树的叶节点的数量大于预设值的情况下,确定第一字符树为目标字符树。
根据本公开的实施例,预设值例如可以设置为1,可以确定叶节点的数量大于1的第一字符树均为目标字符树。第一字符树中叶节点的数量可以和与该第一字符树关联的实体的数量相同,因此,在将预设值设置为1时,可以对仅与一个实体关联的第一字符树进行过滤。
根据本公开的实施例,通过对第一字符树进行预处理,可以使得生成的实体对样本具有丰富的多样性,利用高多样性的样本进行模型训练,可以有效提高模型的鲁棒性。
根据本公开的实施例,如图3所示的第一字符树可以是正向字符树。作为一种可选实施方式,在生成第一字符树时,还可以按多个第一实体元素的逆序进行第一字符树的生成,生成的第一字符树可以是逆向字符树。
以下以预设粒度为字符粒度为例,结合图5,对基于8个实体生成逆向字符树的过程进行说明。8个实体可以分别表示为“AB小学”、“AC美容美发院”、“AC儿童乐园”、“AC美容院”、“DE自动化有限公司”、“DE有限责任公司”、“DE自动化设备”和“F型连接件”。
图5示意性示出了根据本公开实施例的逆向字符树的示意图。
如图5所示,在不存在已有逆向字符树的情况下,可以从该8个实体中随机选择一个实体,例如选择实体“AB美容院”进行逆向字符树的生成。具体地,实体“AB美容院”切分的5个实体元素可以分别为“A”、“B”、“美”、“容”和“院”。依据5个实体元素的逆序,可以将实体元素“院”作为根节点,将实体元素“容”作为实体元素“院”的子节点,将实体元素“美”作为实体元素“容”的子节点,将实体元素“B”作为实体元素“美”的子节点,将实体元素“A”作为实体元素“B”的子节点。完成根节点为“院”的逆向字符树的初步生成。
根据本公开的实施例,可以使用剩余的实体对该根节点为“院”的逆向字符树进行补充,具体地,可以根据剩余的7个实体的多个第一实体元素中的最后一个第一实体元素,来确定需要在该根节点为“院”的逆向字符树上继续进行生长的实体,包括实体“AC美容美发院”。
根据本公开的实施例,在可以使用实体“AC美容美发院”来继续生长根节点为“院”的逆向字符树时,可以将实体元素“发”作为实体元素“院”的子节点,将实体元素“美”作为实体元素“发”的子节点,将实体元素“容”作为实体元素“美”的子节点,将实体元素“美”作为实体元素“容”的子节点,将实体元素“C”作为实体元素“美”的子节点,将实体元素“A”作为实体元素“C”的子节点。完成将实体“AC美容美发院”生长在该根节点为“院”的逆向字符树上。
根据本公开的实施例,如上所述的8个实体可以最终生成6个逆向字符树,6个逆向字符树的根节点分别为“学”、“院”、“园”、“司”、“备”和“件”。根节点为“学”的逆向字符树可以由实体“AB小学”构成,根节点为“院”的逆向字符树可以由实体“AC美容美发院”和实体“AC美容院”构成,根节点为“园”的逆向字符树可以由实体“AC儿童乐园”构成,根节点为“司”的逆向字符树可以由实体“DE自动化有限公司”和实体“DE有限责任公司”构成,根节点为“备”的逆向字符树可以由实体“DE自动化设备”构成,根节点为“件”的逆向字符树可以由实体“F型连接件”构成。
根据本公开的实施例,作为一种可选实施方式,可以分别生成多个正向字符树和多个逆向字符树来进行实体对样本的生成。即多个第一字符树可以包括多个正向字符树和多个逆向字符树。可以基于多个实体各自的多个第一实体元素的正序,生成多个正向字符树。可以基于多个实体各自的多个第一实体元素的逆序,生成多个逆向字符树。
根据本公开的实施例,通过生成正向字符树和逆向字符树作为第一字符树的方式,可以使得生成的实体对样本具有丰富的多样性,利用高多样性的样本进行模型训练,可以有效提高模型的鲁棒性。
图6示意性示出了根据本公开实施例的模型训练方法的示意图。
如图6所示,该方法包括操作S610。
在操作S610,利用多个实体对样本和多个实体对样本各自的标签来训练初始模型,得到实体匹配模型。
根据本公开的实施例,实体对样本可以是利用如上的样本生成方法来生成的,具体可以参考样本生成方法部分,在此不再赘述。
根据本公开的实施例,初始模型可以是基于任意实体匹配模型或实体对齐模型框架而生成的模型。或者,初始模型也可以是已经在数据集中进行预训练的模型,在此不作限定。
图7示意性示出了根据本公开实施例的实体匹配方法的示意图。
如图7所示,该方法可以包括操作S710~S730。
在操作S710,从文本中识别得到多个实体。
在操作S720,基于多个实体,生成至少一个实体对。
在操作S730,利用实体匹配模型来分别处理至少一个实体对,得到至少一个实体对各自的匹配结果。
根据本公开的实施例,实体匹配模型可以是利用如上所述的实体匹配模型训练方法训练得到的,在此不再赘述。
根据本公开的实施例,从文本中识别得到多个实体可以是利用各种自然语言处理方法中的实体识别方法对文本进行处理和标注,并基于标注来得到多个实体。
图8示意性示出了根据本公开实施例的样本生成装置的框图。
如图8所示,样本生成装置800包括切分模块810、第一生成模块820、第一处理模块830和第二生成模块840。
切分模块810,用于分别对多个实体各自的实体文本进行切分,得到多个实体各自的多个第一实体元素。
第一生成模块820,用于基于多个实体各自的多个第一实体元素,生成多个第一字符树,其中,第一字符树包括对多个实体加以表征的至少一个路径,至少一个路径包括与多个第一实体元素相对应的多个节点。
第一处理模块830,用于分别对多个第一字符树进行剪枝处理,得到多个第二字符树。
第二生成模块840,用于对于每个第二字符树,基于多个实体中与第二字符树关联的第一目标实体,生成至少一个实体对样本,其中,实体对样本包括两个第一目标实体。
根据本公开的实施例,第一处理模块830包括第一处理单元。
第一处理单元,用于对于每个第一字符树,基于预设路径长度,分别对第一字符树包括的多条路径进行剪枝处理,以得到第二字符树。
根据本公开的实施例,第一处理单元包括第一处理子单元和第二处理子单元。
第一处理子单元,用于对于第一目标路径,确定第一目标路径与至少一个剩余路径之间各自的公共路径长度,其中,第一目标路径属于多条路径,剩余路径包括多条路径中除第一目标路径以外的路径。
第二处理子单元,用于在第一目标路径与至少一个剩余路径之间各自的公共路径长度均小于预设路径长度的情况下,将第一目标路径从第一字符树中剪除。
根据本公开的实施例,切分模块810包括切分单元。
切分单元,用于基于预设粒度,分别对多个实体各自的实体文本进行切分,得到多个实体各自的多个第一实体元素。
根据本公开的实施例,预设粒度包括字符粒度或词粒度。
根据本公开的实施例,在预设粒度为字符粒度的情况下,第一实体元素表示为字符。在预设粒度为词粒度的情况下,第一实体元素表示为字符或词。
根据本公开的实施例,第一处理模块830包括第二处理单元、第三处理单元、第四处理单元和第五处理单元。
第二处理单元,用于对于每个第一字符树,从第一字符树中确定第二目标实体。
第三处理单元,用于基于词粒度,对第二目标实体的实体文本进行切分,得到多个第二实体元素。
第四处理单元,用于基于多个第二实体元素,确定目标路径长度。
第五处理单元,用于基于目标路径长度,分别对第一字符树包括的多条路径进行剪枝处理,以得到第二字符树。
根据本公开的实施例,第二处理单元包括第三处理子单元和第四处理子单元。
第三处理子单元,用于从第一字符树包括的多条路径中确定具有最大路径长度的第二目标路径。
第四处理子单元,用于确定与第二目标路径对应的实体为第二目标实体。
根据本公开的实施例,第四处理单元包括第五处理子单元和第六处理子单元。
第五处理子单元,用于基于多个第二实体元素的顺序,获取多个第二实体元素中位于首位的目标实体元素。
第六处理子单元,用于基于目标实体元素包括的字符的数量,确定目标路径长度。
根据本公开的实施例,样本生成装置800还包括预处理模块。
预处理模块,用于对多个第一字符树进行预处理,得到多个目标字符树。
根据本公开的实施例,第一处理模块830包括第六处理单元。
第六处理单元,用于分别对多个目标字符树进行剪枝处理,得到多个第二字符树。
根据本公开的实施例,预处理模块包括第一预处理单元和第二预处理单元。
第一预处理单元,用于确定多个第一字符树各自的叶节点的数量。
第二预处理单元,用于对于每个第一字符树,在第一字符树的叶节点的数量大于预设值的情况下,确定第一字符树为目标字符树。
根据本公开的实施例,多个第一字符树包括多个正向字符树和多个逆向字符树。
根据本公开的实施例,第一生成模块820包括第一生成单元和第二生成单元。
第一生成单元,用于基于多个实体各自的多个第一实体元素的正序,生成多个正向字符树。
第二生成单元,用于基于多个实体各自的多个第一实体元素的逆序,生成多个逆向字符树。
需要说明的是,本公开的实施例中样本生成装置部分与本公开的实施例中样本生成方法部分是相对应的,样本生成装置部分的描述具体参考样本生成方法部分,在此不再赘述。
图9示意性示出了根据本公开实施例的模型训练装置的框图。
如图9所示,模型训练装置包括训练模块910。
训练模块910,用于利用多个实体对样本和多个实体对样本各自的标签来训练初始模型,得到实体匹配模型。
根据本公开的实施例,实体对样本包括利用如上的样本生成方法来生成的。
图10示意性示出了根据本公开实施例的模型训练装置的框图。
如图10所示,模型训练装置包括识别模块1010、第三生成模块1020和第二处理模块1030。
识别模块1010,用于从文本中识别得到多个实体。
第三生成模块1020,用于基于多个实体,生成至少一个实体对。
第二处理模块1030,用于利用实体匹配模型来分别处理至少一个实体对,得到至少一个实体对各自的匹配结果。
根据本公开的实施例,实体匹配模型包括利用如上所述的模型训练方法来生成的。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
根据本公开的实施例,一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如上所述的方法。
根据本公开的实施例,一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行如上所述的方法。
根据本公开的实施例,一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现如上所述的方法。
图11示意性示出了根据本公开实施例的适于实现样本生成方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图11所示,设备1100包括计算单元1101,其可以根据存储在只读存储器(ROM)1102中的计算机程序或者从存储单元1108加载到随机访问存储器(RAM)1103中的计算机程序,来执行各种适当的动作和处理。在RAM1103中,还可存储设备1100操作所需的各种程序和数据。计算单元1101、ROM1102以及RAM 1103通过总线1104彼此相连。输入/输出(I/O)接口1105也连接至总线1104。
设备1100中的多个部件连接至输入/输出(I/O)接口1105,包括:输入单元1106,例如键盘、鼠标等;输出单元1107,例如各种类型的显示器、扬声器等;存储单元1108,例如磁盘、光盘等;以及通信单元1109,例如网卡、调制解调器、无线通信收发机等。通信单元1109允许设备1100通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1101可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1101的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1101执行上文所描述的各个方法和处理,例如样本生成方法。例如,在一些实施例中,样本生成方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1108。在一些实施例中,计算机程序的部分或者全部可以经由ROM 1102和/或通信单元1109而被载入和/或安装到设备1100上。当计算机程序加载到RAM 1103并由计算单元1101执行时,可以执行上文描述的样本生成方法的一个或多个步骤。备选地,在其他实施例中,计算单元1101可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行样本生成方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以是分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (26)
1.一种样本生成方法,包括:
分别对多个实体各自的实体文本进行切分,得到所述多个实体各自的多个第一实体元素;
基于所述多个实体各自的多个第一实体元素,生成多个第一字符树,其中,所述第一字符树包括对所述多个实体加以表征的至少一个路径,所述至少一个路径包括与所述多个第一实体元素相对应的多个节点;
分别对所述多个第一字符树进行剪枝处理,得到多个第二字符树,包括:
对于所述第一字符树,从所述第一字符树包括的至少一个路径确定一个或多个目标路径,并将所述一个或多个目标路径包括的非共有节点删除,其中,所述非共有节点至少包括所述一个或多个目标路径各自的叶节点;以及
对于每个所述第二字符树,基于所述多个实体中与所述第二字符树关联的第一目标实体,生成至少一个实体对样本,其中,所述实体对样本包括两个所述第一目标实体。
2.根据权利要求1所述的方法,其中,所述分别对所述多个第一字符树进行剪枝处理,得到多个第二字符树,包括:
对于每个所述第一字符树,基于预设路径长度,分别对所述第一字符树包括的多条路径进行剪枝处理,以得到所述第二字符树。
3.根据权利要求2所述的方法,其中,所述基于预设路径长度,分别对所述第一字符树包括的多条路径进行剪枝处理,包括:
对于第一目标路径,确定所述第一目标路径与至少一个剩余路径之间各自的公共路径长度,其中,所述第一目标路径属于所述多条路径,所述剩余路径包括所述多条路径中除所述第一目标路径以外的路径;以及
在所述第一目标路径与至少一个剩余路径之间各自的公共路径长度均小于所述预设路径长度的情况下,将所述第一目标路径从所述第一字符树中剪除。
4.根据权利要求1所述的方法,其中,所述分别对多个实体各自的实体文本进行切分,得到所述多个实体各自的多个第一实体元素,包括:
基于预设粒度,分别对所述多个实体各自的实体文本进行切分,得到所述多个实体各自的多个第一实体元素;
其中,所述预设粒度包括字符粒度或词粒度;
其中,在所述预设粒度为所述字符粒度的情况下,所述第一实体元素表示为字符;以及
在所述预设粒度为所述词粒度的情况下,所述第一实体元素表示为字符或词。
5.根据权利要求4所述的方法,其中,在所述预设粒度为所述字符粒度的情况下,
所述分别对所述多个第一字符树进行剪枝处理,得到多个第二字符树,包括:
对于每个所述第一字符树,从所述第一字符树中确定第二目标实体;
基于所述词粒度,对所述第二目标实体的实体文本进行切分,得到多个第二实体元素;
基于所述多个第二实体元素,确定目标路径长度;以及
基于所述目标路径长度,分别对所述第一字符树包括的多条路径进行剪枝处理,以得到所述第二字符树。
6.根据权利要求5所述的方法,其中,所述从所述第一字符树中确定第二目标实体,包括:
从所述第一字符树包括的多条路径中确定具有最大路径长度的第二目标路径;以及
确定与所述第二目标路径对应的所述实体为所述第二目标实体。
7.根据权利要求5所述的方法,其中,所述基于所述多个第二实体元素,确定目标路径长度,包括:
基于所述多个第二实体元素的顺序,获取所述多个第二实体元素中位于首位的目标实体元素;以及
基于所述目标实体元素包括的字符的数量,确定所述目标路径长度。
8.根据权利要求1所述的方法,还包括:
对所述多个第一字符树进行预处理,得到多个目标字符树;
其中,所述分别对所述多个第一字符树进行剪枝处理,得到多个第二字符树,包括:
分别对所述多个目标字符树进行剪枝处理,得到所述多个第二字符树。
9.根据权利要求8所述的方法,其中,所述对所述多个第一字符树进行预处理,得到多个目标字符树,包括:
确定所述多个第一字符树各自的叶节点的数量;以及
对于每个所述第一字符树,在所述第一字符树的叶节点的数量大于预设值的情况下,确定所述第一字符树为所述目标字符树。
10.根据权利要求1~9中任一项所述的方法,其中,所述多个第一字符树包括多个正向字符树和多个逆向字符树;
其中,所述基于所述多个实体各自的多个第一实体元素,生成多个第一字符树,包括:
基于所述多个实体各自的多个第一实体元素的正序,生成所述多个正向字符树;以及
基于所述多个实体各自的多个第一实体元素的逆序,生成所述多个逆向字符树。
11.一种模型训练方法,包括:
利用多个实体对样本和所述多个实体对样本各自的标签来训练初始模型,得到实体匹配模型;
其中,所述实体对样本包括利用根据权利要求1~10中任一项所述的样本生成方法来生成的。
12.一种实体匹配方法,包括:
从文本中识别得到多个实体;
基于所述多个实体,生成至少一个实体对;以及
利用实体匹配模型来分别处理所述至少一个实体对,得到所述至少一个实体对各自的匹配结果;
其中,所述实体匹配模型包括利用权利要求11所述的模型训练方法来生成的。
13.一种样本生成装置,包括:
切分模块,用于分别对多个实体各自的实体文本进行切分,得到所述多个实体各自的多个第一实体元素;
第一生成模块,用于基于所述多个实体各自的多个第一实体元素,生成多个第一字符树,其中,所述第一字符树包括对所述多个实体加以表征的至少一个路径,所述至少一个路径包括与所述多个第一实体元素相对应的多个节点;
第一处理模块,用于分别对所述多个第一字符树进行剪枝处理,得到多个第二字符树,包括:
对于所述第一字符树,从所述第一字符树包括的至少一个路径确定一个或多个目标路径,并将所述一个或多个目标路径包括的非共有节点删除,其中,所述非共有节点至少包括所述一个或多个目标路径各自的叶节点;以及
第二生成模块,用于对于每个所述第二字符树,基于所述多个实体中与所述第二字符树关联的第一目标实体,生成至少一个实体对样本,其中,所述实体对样本包括两个所述第一目标实体。
14.根据权利要求13所述的装置,其中,所述第一处理模块包括第一处理单元;
所述第一处理单元,用于对于每个所述第一字符树,基于预设路径长度,分别对所述第一字符树包括的多条路径进行剪枝处理,以得到所述第二字符树。
15.根据权利要求14所述的装置,其中,所述第一处理单元包括第一处理子单元和第二处理子单元;
所述第一处理子单元,用于对于第一目标路径,确定所述第一目标路径与至少一个剩余路径之间各自的公共路径长度,其中,所述第一目标路径属于所述多条路径,所述剩余路径包括所述多条路径中除所述第一目标路径以外的路径;以及
所述第二处理子单元,用于在所述第一目标路径与至少一个剩余路径之间各自的公共路径长度均小于所述预设路径长度的情况下,将所述第一目标路径从所述第一字符树中剪除。
16.根据权利要求13所述的装置,其中,所述切分模块包括切分单元;
所述切分单元,用于基于预设粒度,分别对所述多个实体各自的实体文本进行切分,得到所述多个实体各自的多个第一实体元素;
其中,所述预设粒度包括字符粒度或词粒度;
其中,在所述预设粒度为所述字符粒度的情况下,所述第一实体元素表示为字符;以及
在所述预设粒度为所述词粒度的情况下,所述第一实体元素表示为字符或词。
17.根据权利要求16所述的装置,其中,在所述预设粒度为所述字符粒度的情况下,所述第一处理模块包括第二处理单元、第三处理单元、第四处理单元和第五处理单元;
所述第二处理单元,用于对于每个所述第一字符树,从所述第一字符树中确定第二目标实体;
所述第三处理单元,用于基于所述词粒度,对所述第二目标实体的实体文本进行切分,得到多个第二实体元素;
所述第四处理单元,用于基于所述多个第二实体元素,确定目标路径长度;以及
所述第五处理单元,用于基于所述目标路径长度,分别对所述第一字符树包括的多条路径进行剪枝处理,以得到所述第二字符树。
18.根据权利要求17所述的装置,其中,所述第二处理单元包括第三处理子单元和第四处理子单元;
所述第三处理子单元,用于从所述第一字符树包括的多条路径中确定具有最大路径长度的第二目标路径;以及
所述第四处理子单元,用于确定与所述第二目标路径对应的所述实体为所述第二目标实体。
19.根据权利要求17所述的装置,其中,所述第四处理单元包括第五处理子单元和第六处理子单元;
所述第五处理子单元,用于基于所述多个第二实体元素的顺序,获取所述多个第二实体元素中位于首位的目标实体元素;以及
所述第六处理子单元,用于基于所述目标实体元素包括的字符的数量,确定所述目标路径长度。
20.根据权利要求13所述的装置,还包括预处理模块;
所述预处理模块,用于对所述多个第一字符树进行预处理,得到多个目标字符树;
其中,所述第一处理模块包括第六处理单元;
所述第六处理单元,用于分别对所述多个目标字符树进行剪枝处理,得到所述多个第二字符树。
21.根据权利要求20所述的装置,其中,所述预处理模块包括第一预处理单元和第二预处理单元;
所述第一预处理单元,用于确定所述多个第一字符树各自的叶节点的数量;以及
所述第二预处理单元,用于对于每个所述第一字符树,在所述第一字符树的叶节点的数量大于预设值的情况下,确定所述第一字符树为所述目标字符树。
22.根据权利要求13~21中任一项所述的装置,其中,所述多个第一字符树包括多个正向字符树和多个逆向字符树;
其中,所述第一生成模块包括第一生成单元和第二生成单元;
第一生成单元,用于基于所述多个实体各自的多个第一实体元素的正序,生成所述多个正向字符树;以及
第二生成单元,用于基于所述多个实体各自的多个第一实体元素的逆序,生成所述多个逆向字符树。
23.一种模型训练装置,包括:
训练模块,用于利用多个实体对样本和所述多个实体对样本各自的标签来训练初始模型,得到实体匹配模型;
其中,所述实体对样本包括利用根据权利要求1~10中任一项所述的样本生成方法来生成的。
24.一种实体匹配装置,包括:
识别模块,用于从文本中识别得到多个实体;
第三生成模块,用于基于所述多个实体,生成至少一个实体对;以及
第二处理模块,用于利用实体匹配模型来分别处理所述至少一个实体对,得到所述至少一个实体对各自的匹配结果;
其中,所述实体匹配模型包括利用权利要求11所述的模型训练方法来生成的。
25.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-12中任一项所述的方法。
26.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-12中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310369235.7A CN116383655B (zh) | 2023-04-07 | 2023-04-07 | 样本生成方法、模型训练方法、文本处理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310369235.7A CN116383655B (zh) | 2023-04-07 | 2023-04-07 | 样本生成方法、模型训练方法、文本处理方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116383655A CN116383655A (zh) | 2023-07-04 |
CN116383655B true CN116383655B (zh) | 2024-01-05 |
Family
ID=86970717
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310369235.7A Active CN116383655B (zh) | 2023-04-07 | 2023-04-07 | 样本生成方法、模型训练方法、文本处理方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116383655B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107992481A (zh) * | 2017-12-25 | 2018-05-04 | 中科鼎富(北京)科技发展有限公司 | 一种基于多叉树的正则表达式匹配方法、装置及系统 |
CN110147433A (zh) * | 2019-05-21 | 2019-08-20 | 北京鸿联九五信息产业有限公司 | 一种基于字典树的文本模板提取方法 |
CN113220836A (zh) * | 2021-05-08 | 2021-08-06 | 北京百度网讯科技有限公司 | 序列标注模型的训练方法、装置、电子设备和存储介质 |
CN115618219A (zh) * | 2021-06-28 | 2023-01-17 | 深信服科技股份有限公司 | 模型训练方法、装置、电子设备及存储介质 |
JP2023040248A (ja) * | 2022-06-24 | 2023-03-22 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | テキスト情報抽取方法、装置、電子機器、記憶媒体及びコンピュータプログラム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1817693A1 (en) * | 2004-09-29 | 2007-08-15 | Panscient Pty Ltd. | Machine learning system |
US11556698B2 (en) * | 2019-10-22 | 2023-01-17 | Oracle International Corporation | Augmenting textual explanations with complete discourse trees |
US20210182343A1 (en) * | 2019-12-13 | 2021-06-17 | Microsoft Technology Licensing, Llc | Scalable and Resource-Efficient Extraction of Data from Network-Accessible Documents |
-
2023
- 2023-04-07 CN CN202310369235.7A patent/CN116383655B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107992481A (zh) * | 2017-12-25 | 2018-05-04 | 中科鼎富(北京)科技发展有限公司 | 一种基于多叉树的正则表达式匹配方法、装置及系统 |
CN110147433A (zh) * | 2019-05-21 | 2019-08-20 | 北京鸿联九五信息产业有限公司 | 一种基于字典树的文本模板提取方法 |
CN113220836A (zh) * | 2021-05-08 | 2021-08-06 | 北京百度网讯科技有限公司 | 序列标注模型的训练方法、装置、电子设备和存储介质 |
CN115618219A (zh) * | 2021-06-28 | 2023-01-17 | 深信服科技股份有限公司 | 模型训练方法、装置、电子设备及存储介质 |
JP2023040248A (ja) * | 2022-06-24 | 2023-03-22 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | テキスト情報抽取方法、装置、電子機器、記憶媒体及びコンピュータプログラム |
Also Published As
Publication number | Publication date |
---|---|
CN116383655A (zh) | 2023-07-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10579655B2 (en) | Method and apparatus for compressing topic model | |
CN111241209B (zh) | 用于生成信息的方法和装置 | |
CN107798622B (zh) | 一种识别用户意图的方法和装置 | |
CN114861677B (zh) | 信息抽取方法、装置、电子设备以及存储介质 | |
CN112579727A (zh) | 文档内容的提取方法、装置、电子设备及存储介质 | |
CN113268560A (zh) | 用于文本匹配的方法和装置 | |
CN114595686A (zh) | 知识抽取方法、知识抽取模型的训练方法及装置 | |
CN115688920A (zh) | 知识抽取方法、模型的训练方法、装置、设备和介质 | |
CN110633716A (zh) | 一种目标对象的检测方法和装置 | |
CN112528146B (zh) | 内容资源推荐方法、装置、电子设备及存储介质 | |
CN112926308B (zh) | 匹配正文的方法、装置、设备、存储介质以及程序产品 | |
CN110807097A (zh) | 分析数据的方法和装置 | |
CN110852057A (zh) | 一种计算文本相似度的方法和装置 | |
CN114970553B (zh) | 基于大规模无标注语料的情报分析方法、装置及电子设备 | |
CN116383655B (zh) | 样本生成方法、模型训练方法、文本处理方法及装置 | |
JP2022088540A (ja) | ユーザ興味画像の生成方法、装置、電子機器及び記憶媒体 | |
CN110781283B (zh) | 连锁品牌词库生成方法、装置以及电子设备 | |
CN114254650A (zh) | 一种信息处理方法、装置、设备及介质 | |
CN114218431A (zh) | 视频搜索方法、装置、电子设备以及存储介质 | |
CN113886543A (zh) | 生成意图识别模型的方法、装置、介质及程序产品 | |
CN113139110A (zh) | 区域特征处理方法、装置、设备、存储介质和程序产品 | |
CN113807390A (zh) | 模型训练方法、装置、电子设备及存储介质 | |
CN111723188A (zh) | 用于问答系统的基于人工智能的语句显示方法、电子设备 | |
CN116069914B (zh) | 训练数据的生成方法、模型训练方法以及装置 | |
CN114444472B (zh) | 文本处理方法、装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |