CN112036164A - 样本生成方法及装置、计算机可读存储介质和电子设备 - Google Patents
样本生成方法及装置、计算机可读存储介质和电子设备 Download PDFInfo
- Publication number
- CN112036164A CN112036164A CN202010980493.5A CN202010980493A CN112036164A CN 112036164 A CN112036164 A CN 112036164A CN 202010980493 A CN202010980493 A CN 202010980493A CN 112036164 A CN112036164 A CN 112036164A
- Authority
- CN
- China
- Prior art keywords
- sample
- entity
- attribute information
- dictionary
- category attribute
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000000034 method Methods 0.000 title claims abstract description 79
- 238000002372 labelling Methods 0.000 claims description 26
- 238000012549 training Methods 0.000 claims description 17
- 238000004590 computer program Methods 0.000 claims description 9
- 238000011156 evaluation Methods 0.000 claims description 8
- 235000013305 food Nutrition 0.000 description 16
- 238000010586 diagram Methods 0.000 description 14
- 235000012149 noodles Nutrition 0.000 description 14
- 230000000694 effects Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 238000012545 processing Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 235000008429 bread Nutrition 0.000 description 3
- 239000000835 fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 241000287828 Gallus gallus Species 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000000739 chaotic effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 235000015203 fruit juice Nutrition 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/237—Lexical tools
- G06F40/242—Dictionaries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
- G06F16/334—Query execution
- G06F16/3344—Query execution using natural language analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/166—Editing, e.g. inserting or deleting
- G06F40/186—Templates
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Databases & Information Systems (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Machine Translation (AREA)
Abstract
本公开提供了一种样本生成方法、样本生成装置、计算机可读存储介质和电子设备,涉及文本搜索技术领域。该样本生成方法包括:获取第一样本,并确定第一样本中实体的类别属性信息;根据第一样本以及第一样本中实体的类别属性信息,生成与第一样本对应的样本模板,样本模板中与实体对应的位置被配置为槽位置;获取与实体的类别属性信息对应的实体词典;将实体词典中的实体配置于槽位置处,以生成第二样本。本公开可以在搜索时提高实体识别的准确度。
Description
技术领域
本公开涉及文本搜索技术领域,具体而言,涉及一种样本生成方法、样本生成装置、计算机可读存储介质和电子设备。
背景技术
搜索系统是指从因特网或数据库中搜寻信息并整理后提供给用户的系统。在搜索的过程中,用户的需求通常通过用户输入搜索框的搜索语句来体现,而搜索系统的一大核心任务就是充分理解用户输入的搜索语句,这其中涉及到搜索语句的实体识别。
通常,可以借助模型来实现实体识别。然而,目前基于模型进行实体识别的方案存在识别不准确的问题。
发明内容
本公开提供一种样本生成方法、样本生成装置、计算机可读存储介质和电子设备,进而至少在一定程度上克服搜索中实体识别不准确的问题。
根据本公开的第一方面,提供了一种样本生成方法,包括:获取第一样本,并确定第一样本中实体的类别属性信息;根据第一样本以及第一样本中实体的类别属性信息,生成与第一样本对应的样本模板,样本模板中与实体对应的位置被配置为槽位置;获取与实体的类别属性信息对应的实体词典;将实体词典中的实体配置于槽位置处,以生成第二样本。
根据本公开的第二方面,提供了一种样本生成装置,包括:样本获取模块,用于获取第一样本,并确定第一样本中实体的类别属性信息;模板生成模块,用于根据第一样本以及第一样本中实体的类别属性信息,生成与第一样本对应的样本模板,样本模板中与实体对应的位置被配置为槽位置;词典获取模块,用于获取与实体的类别属性信息对应的实体词典;样本生成模块,用于将实体词典中的实体配置于槽位置处,以生成第二样本。
根据本公开的第三方面,提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述的样本生成方法。
根据本公开的第四方面,提供了一种电子设备,包括处理器;存储器,用于存储一个或多个程序,当一个或多个程序被处理器执行时,使得所述处理器实现上述的样本生成方法。
在本公开的一些实施例所提供的技术方案中,根据第一样本以及第一样本中实体的类别属性信息,生成与第一样本对应的样本模板,再获取与实体的类别属性信息对应的实体词典,并将实体词典中的实体放入样本模板中,以生成第二样本。一方面,本公开利用模板加词典的方式,生成新的样本,用于训练模型,由此,可以减少模型未登录词的数量,提升了模型的泛化能力,提高了利用模型进行实体识别的准确性;另一方面,本公开对模型效果的提升不依赖于模型本身的复杂度提升,而是从训练样本入手,这种提升模型效果的方式成本低,易于实施。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在附图中:
图1示出了应用本公开实施例的样本生成方案的示例性系统架构的示意图;
图2示出了适于用来实现本公开实施例的电子设备的结构示意图;
图3示意性示出了根据本公开的示例性实施方式的样本生成方法的流程图;
图4以举例的形式示出了第一样本的标注过程的示意图;
图5示意性示出了根据本公开实施例的生成样本并将样本应用于文本识别模型的整个过程的流程图;
图6示意性示出了根据本公开的示例性实施方式的样本生成装置的方框图;
图7示意性示出了根据本公开的另一示例性实施方式的样本生成装置的方框图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本公开的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本公开的技术方案而省略所述特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。
此外,附图仅为本公开的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的步骤。例如,有的步骤还可以分解,而有的步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。另外,下面所有的术语“第一”、“第二”、“第三”仅是为了区分的目的,不应作为本公开内容的限制。
目前,用户通过手机等终端设备进行信息搜索已经是较为普遍的现象。统计后发现,在搜索中,存在搜索语句较短(平均不到3个词)、词汇众多等特点。
在利用模型对搜索语句进行识别时,会出现识别不准确的情况。其中一个原因在于,用于训练模型的样本不够完善,导致模型泛化能力较差,当遇到未处理过的语句时,容易出现识别不出或识别错误的问题。
鉴于目前搜索时存在上述问题,本公开提供了一种新的样本生成方案。利用本公开样本生成方案生成的样本进行模型训练,可以有助于解决模型识别不准确的问题。
图1示出了应用本公开实施例的样本生成方案的示例性系统架构的示意图。
如图1所示,系统架构1000可以包括终端设备1001、1002、1003中的一种或多种,网络1004和服务器1005。网络1004用以在终端设备1001、1002、1003和服务器1005之间提供通信链路的介质。网络1004可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。比如服务器1005可以是多个服务器组成的服务器集群等。
用户可以使用终端设备1001、1002、1003通过网络1004与服务器1005交互,以接收或发送消息等。终端设备1001、1002、1003可以是具有显示屏的各种电子设备,包括但不限于智能手机、平板电脑、便携式计算机和台式计算机等等。
服务器1005可以是提供各种服务的服务器。本公开所述的样本生成方法可以由服务器1005实现,也就是说,服务器1005可以执行本公开样本生成方法的各个步骤。
首先,服务器1005可以获取第一样本,具体的,可以获取用户对终端设备1001、1002、1003进行操作而生成的用户日志,并从用户日志中获取第一样本。确定第一样本中实体的类别属性信息;接下来,服务器1005可以根据第一样本以及第一样本中实体的类别属性信息,生成与第一样本对应的样本模板,该样本模板中与实体对应的位置被配置为槽位置;随后,服务器1005获取与实体的类别属性信息对应的实体词典,并将实体词典中的实体配置于槽位置处,以生成第二样本。
服务器1005可以将生成的第二样本(或者与第一样本一起)添加至文本识别模型的训练集中,以对文本识别模型进行训练。由此,服务器1005可以接收终端设备1001、1002、1003发送的搜索语句,利用文本识别模型对搜索语句进行识别,进而得到搜索结果,并将搜索结果反馈给终端设备1001、1002、1003。
或者,服务器1005可以将训练后的文本识别模型转移给终端设备1001、1002、1003。由此,终端设备1001、1002、1003可以基于该文本识别模型对搜索语句进行识别处理,将识别的结果发送给服务器1005进行搜索。
需要说明的是,本公开示例性实施方式的样本生成方法一般由服务器1005执行,通常可以在离线情况下完成新样本的生成。相应地,下面描述的样本生成装置一般配置在服务器1005中。
此外,本公开所述的样本生成方法还可以由终端设备1001、1002、1003实现,也就是说,终端设备1001、1002、1003可以执行本公开样本生成方法的各个步骤。在这种情况下,下面描述的样本生成装置一般配置在终端设备1001、1002、1003中。
图2示出了适于用来实现本公开示例性实施方式的电子设备的计算机系统的结构示意图。可以将上述服务器1005或终端设备1001、1002、1003配置为包括图2所示的系统。
需要说明的是,图2示出的电子设备的计算机系统200仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图2所示,计算机系统200包括中央处理单元(CPU)201,其可以根据存储在只读存储器(ROM)202中的程序或者从存储部分208加载到随机访问存储器(RAM)203中的程序而执行各种适当的动作和处理。在RAM 203中,还存储有系统操作所需的各种程序和数据。CPU201、ROM 202以及RAM 203通过总线204彼此相连。输入/输出(I/O)接口205也连接至总线204。
以下部件连接至I/O接口205:包括键盘、鼠标等的输入部分206;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分207;包括硬盘等的存储部分208;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分209。通信部分209经由诸如因特网的网络执行通信处理。驱动器210也根据需要连接至I/O接口205。可拆卸介质211,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器210上,以便于从其上读出的计算机程序根据需要被安装入存储部分208。
特别地,根据本公开的实施例,下文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分209从网络上被下载和安装,和/或从可拆卸介质211被安装。在该计算机程序被中央处理单元(CPU)201执行时,执行本申请的系统中限定的各种功能。
需要说明的是,本公开所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现,所描述的单元也可以设置在处理器中。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备实现如下述实施例中所述的方法。
下面以服务器执行本公开示例性实施方式的样本生成方法为例进行说明。
图3示意性示出了本公开的示例性实施方式的样本生成方法的流程图。参考图3,样本生成方法可以包括以下步骤:
S32.获取第一样本,并确定第一样本中实体的类别属性信息。
在本公开的示例性实施方式中,第一样本属于初始样本,可以是真实的搜索语句,也可以是基于文本生成器生成的样本。鉴于本公开方案可以应用于例如手机等终端设备的搜索场景,第一样本所包含的词句可以较短,例如由3至5个词组成。
另外,本公开对词句的语言类型不做限制,第一样本可以仅包含一种语言类型,或者包含多种语言类型。这些语言类型例如可以是中文、英文、韩文、日文、法文等。
根据本公开的一些实施例,服务器可以从用户日志中获取第一样本。用户日志可以是基于用户对终端设备的操作而产生,可以存储在服务器中。在用户日志存储在其他设备的情况下,服务器可以从其他设备获取用户日志。
就从用户日志获取第一样本而言,服务器可以预先进行埋点操作,由此,当用户操作终端设备执行相应内容时,数据即可被记录下来。当需要获取第一样本时,直接从记录的数据中获取第一样本。
根据本公开的另一些实施例,在具备相应权限的情况下,服务器可以从一个或多个搜索产品中获取第一样本。例如,本公开方案针对的是搜索产品A,而搜索产品B中存在一些可被使用的搜索语句,则服务器可以从搜索产品B获取第一样本。
应当注意的是,服务器获取到的第一样本与用户相关。例如,针对持有终端设备的用户a,服务器在为用户a提高搜索反馈的情况下,仅获取的是用户a的用户日志。
在获取第一样本的情况下,服务器还可以确定第一样本中实体的类别属性信息。应当注意的是,第一样本中可以存在一个或多个实体。
在本公开的示例性实施方式中,实体通常是本身具有一定含义的名词性词语。类别属性信息指代的是实体对应的类别,例如,如果实体是电视,则类别属性信息可以为家电;如果实体是黄焖鸡,则类别属性信息可以为食物;如果实体是果汁,则类别属性信息可以是饮品,等等。
在本公开的一些实施例中,实体可以由开发人员或用户手动确定出,具体的,开发人员或用户手动输入一些词语作为实体。例如,“我要买电视”,这里的实体可以是“电视”。
另外,还可以预先配置实体与类别属性信息的映射关系表,以当确定出实体后,直接确定出实体的类别属性信息。
可以将确定第一样本中实体的类别属性信息理解为对第一样本进行标注的过程。除人为参与标注外,还可以由服务器实现标注过程。
在本公开的另一些实施例中,可以借助于一标注词典并通过匹配的方法,确定第一样本中实体的类别属性信息。具体的,匹配的方法可以是最大逆向匹配方法,然而,不限于此,例如最大正向匹配方法的其他文本匹配的方法也可实现本方案的过程。
首先,服务器可以将第一样本与标注词典中的词句进行比较,确定第一样本中与标注词典中的语句匹配的文本部分,作为第一样本的实体。接下来,鉴于标注词典中会配有词句对应的类别属性信息,因此,服务器可以获取标注词典中与第一样本匹配的词句的类别属性信息,作为第一样本中实体的类别属性信息。
下面参考图4对服务器自行执行标注的过程进行说明,该过程利用标注词典以及最大逆向匹配方法。
例如,第一样本为“我要吃面条”,而针对这句话,标注词典中仅包括“面条”。
在第一标注过程中,判断出“我要吃面条”不在标注词典中。继续判断“要吃面条”,也不在标注词典中。继续判断“吃面条”,也不在标注词典中。继续判断“面条”,在标注词典中,将“面条”标注为“食品”,该“食品”即是类别属性信息。
在第二标注过程中,判断出“我要吃”不在标注词典中。继续判断“要吃”,也不在标注词典中。继续判断“吃”,也不在标注词典中。
在第三标注过程中,判断出“我要”不在标注词典中。继续判断“要吃”,也不在标注词典中。
在第四标注过程中,判断出“我”不在标注词典中。
通过针对“我要吃面条”的四次标注过程,服务器可以确定出“我要吃面条”中的实体为“面条”,对应的类别属性信息为“食物”。
针对上述不在标注词典中的字或词句,服务器还可以标注为未知。
S34.根据第一样本以及第一样本中实体的类别属性信息,生成与第一样本对应的样本模板,样本模板中与实体对应的位置被配置为槽位置。
在确定出第一样本以及第一样本中实体的类别属性信息后,服务器可以根据第一样本以及第一样本中实体的类别属性信息,生成与第一样本对应的样本模板。其中,样本模板中与步骤S32确定出的实体对应的位置,可以被配置为槽位置,槽位置即是随后步骤中可以被替换或放入词句的位置。
例如,第一样本为“幸福路A酒店”,这里,“幸福路”是表征地标的实体,“A酒店”是表征酒店的实体。生成的样本模板可以为“POI_hotel”,其中,POI是地标,hotel是酒店名,也就是说,第一样本对应用户的搜索逻辑是一个地标加一个酒店名。对应的,POI和hotel均是槽位置。
又例如,第一样本为“我想吃面条”,这里,“面条”是表征食物的实体。“食物”作为类别属性信息,生成的样本模板可以是“我想吃食物”,对应的,“食物”是槽位置。
本公开示例性实施方式通过配置样本模板,一方面,极好地应对了终端设备搜索语句较短且语法结构不严格的特点;另一方面,可以基于模板生成更多的样本,有助于模型训练,提高模型的准确度。
S36.获取与实体的类别属性信息对应的实体词典。
在本公开的示例性实施方式中,实体词典指的是由类别属性信息相同的实体组成的词典。例如,如果要进行人名识别,则实体词典是人名词典;如果要进行食物识别,则实体词典是食物词典。
应当理解的是,实体词典中包括至少一个实体。
仍以第一样本为“我要吃面条”为例,对应的实体词典可以是食物词典,其包含由各食物名称表征的实体。
根据本公开的一些实施例,第一样本仅是服务器获取到的多个初始样本之一。在这种情况下,在实体词典之前,本公开示例性实施方式的样本生成方法还可以包括:服务器确定多个初始样本对应的样本模板中,与第一样本对应的样本模板相同的模板的数量。并在该数量满足预定要求的情况下,服务器才执行步骤S36。
在一个实施例中,可以计算与第一样本对应的样本模板相同的模板的数量,记为m。将初始样本的数量记为n,则可以计算出m/n,如果m/n大于比例阈值,则确定出满足预定要求。其中,比例阈值可以预先设定出,本公开对其取值不做限制。
也就是说,在第一样本对应的样本模板出现的次数足够多的情况下,才获取对应的实体词典,避免用户可能出现无输入或错误输入的情况,以确保第一样本是有效的样本,也确保基于第一样本得到的样本模板是有效的样本模板。
例如,初始样本的数量为5000个,“我要吃食物”这个模板在这个5000个初始样本对应的模板中,共出现了2000次,则m/n为0.4,如果该比例阈值为0.3,则执行步骤S36获取实体词典的过程。
需要说明的是,不同样本模板出现的频次一般呈现长尾分布,在长尾分布中,曲线会在特定位置骤降,该特定位置可以被记为截断点。
在本公开另一些实施例,还可以直接按长尾分布的截断点进行划分,如果样本模板的频次高,则执行步骤S36获取实体词典的过程。如果样本模板的频次低,则可以认为对应样本可能是用户的误输入,将结束本方案的处理过程。
此外,一个样本模板中可能存在多个实体,也就可能对应多个实体词典。亦或者,一个实体也可以对应多个实体词典。
S38.将实体词典中的实体配置于槽位置处,以生成第二样本。
在确定出实体词典后,服务器可以提取实体词典中的实体,配置于槽位置处,生成第二样本。
例如,第一样本为“我要吃面条”,对应的样本模板为“我要吃食物”,服务器可以从实体词典中随机获取一实体,如“面包”,则生成的第二样本为“我要吃面包”。
应当理解的是,一个样本模板可以生成多个新样本。这其中还可以包括,基于两个或更多个实体来生成第二样本的方案,例如,生成的一个第二样本为“我要吃面包、牛排”。
在将实体词典中多个词分别配置于槽位置处以生成多个第二样本的情况下,本公开一些实施例还提供了一种限定第二样本的数量的方案。
首先,服务器可以获取文本识别模型历史训练时的模型评价参数值,其中,该文本识别模型是利用确定出的第二样本进行训练的模型,训练后,可以用于识别用户输入的搜索语句。另外,本公开对模型模型评价参数不做限制,可以包括但不限于准确度、召回率、F1值等。
接下来,服务器可以结合文本识别模型历史训练时的模型评价参数值,确定生成第二样本的数量。
具体的,如果历史训练过程中发现,生成1000个第二样本的模型效果比生成800个第二样本的模型效果好,则本次可以生成1200个第二样本;亦或者,生成1000个第二样本的模型效果较佳,而生成800个第二样本的模型效果较差,则本次可以生成900个第二样本。
需要注意的是,要生成多少个第二样本,一方面,需要考虑实体词典中各实体内容尽可能多的出现在样本中;另一方面,需要考虑样本可能会让模型产生格式依赖而发生过拟合。
在生成第二样本后,服务器还可以对第二样本中的文本内容进行调整,以生成第三样本,应用于上述文本识别模型的训练过程。
具体的,对第二样本中的文本内容进行调整的方式包括但不限于同义词替换、插入内容、交换内容和删除内容。插入、交换、删除的操作均可以被配置为随机的形式。
通过这种进一步的文本增强方式,可以进一步提升模型应用的准确性。
此外,本公开还可以利用主动学习的方式进行进一步处理。
具体的,将利用本公开示例性实施方式的样本生成方法生成的样本训练模型后,对于模型识别不太准确的样本,可以继续采用数据增强的方法,形成新的样本,再进行训练。由此,可以进一步提升模型效果。
图5示意性示出了根据本公开实施例的生成样本并将样本应用于文本识别模型的整个过程的流程图。
在步骤S502中,服务器可以获取多个已标注的初始样本,具体的,服务器可以从用户日志中获取多个初始样本,并通过标注词典结合最大逆向匹配方法,确定各初始样本中实体的类别属性信息。
在步骤S504中,服务器针对每一个初始样本,可以抽象出模板,形成初始模板集合。
在步骤S506中,服务器可以从初始模板集合中筛选出出现频次较高的模板,构建样本模板集合。
在步骤S508中,服务器针对样本模板集合中每一个样本模板,确定对应的词典,再将词典中的词句放入样本模板中,生成新的样本。
然后,可以利用新的样本对文本识别模型进行训练。另外,文本识别模型的评价参数可以反馈到服务器生成新的样本的过程,在步骤S508中,调整生成新的样本的数量。
综上所述,基于本公开示例性实施方式的样本生成方法,一方面,生成的样本模板极大程度降低了文字的出现,而用具体的实体槽位置代替,精准地体现出用户搜索时的语句习惯;另一方面,通过样本模板中的槽位置,为数据增强时选择多样化的词句提供了基础,使得能够生成内容不同的样本;再一方面,通过上述采用高频次样本模板进行样本生成,降低了句式混乱情况的出现,也就是说,避免了用户的误输入或错误输入,保证了用户语句习惯的稳定性,即保证模型能够识别出符合用户习惯的搜索语句,提升了模型的泛化能力,提高了模型的整体效果。
另外,经实验统计,利用本公开示例性实施方式的样本生成方法所生成的样本对模型进行训练,模型效果可以提升5%-8%,且生成样本模板的过程,开发难度较小,易于实施。
应当注意,尽管在附图中以特定顺序描述了本公开中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
进一步的,本示例实施方式中还提供了一种样本生成装置。
图6示意性示出了本公开的示例性实施方式的样本生成装置的方框图。参考图6,根据本公开的示例性实施方式的样本生成装置6可以包括样本获取模块61、模板生成模块63、词典获取模块65和样本生成模块67。
具体的,样本获取模块61可以用于获取第一样本,并确定第一样本中实体的类别属性信息;模板生成模块63可以用于根据第一样本以及第一样本中实体的类别属性信息,生成与第一样本对应的样本模板,样本模板中与实体对应的位置被配置为槽位置;词典获取模块65可以用于获取与实体的类别属性信息对应的实体词典;样本生成模块67可以用于将实体词典中的实体配置于槽位置处,以生成第二样本。
根据本公开的示例性实施例,样本获取模块61可以从用户日志中获取第一样本。
根据本公开的示例性实施例,样本获取模块61确定第一样本中实体的类别属性信息的过程可以被配置为执行:将第一样本与标注词典中的词句进行比较;确定第一样本中与标注词典中的词句匹配的文本部分,作为第一样本中的实体;获取标注词典中的所述词句的类别属性信息,作为第一样本中实体的类别属性信息。
根据本公开的示例性实施例,第一样本为获取到的多个初始样本之一,在这种情况下,词典获取模块65还可以被配置为执行:确定多个初始样本对应的样本模板中,与第一样本对应的样本模板相同的模板的数量;在与第一样本对应的样本模板相同的模板的数量满足预定要求的情况下,获取与实体的类别属性信息对应的实体词典。
根据本公开的示例性实施例,词典获取模块65还可以被配置为执行:计算与第一样本对应的样本模板相同的模板的数量,与多个初始样本的数量的比值;如果计算出的比值大于比例阈值,则确定出满足预定要求。
根据本公开的示例性实施例,生成的第二样本用于对文本识别模型进行训练,在将实体词典中多个词分别配置于槽位置处以生成多个第二样本的情况下,样本生成模块67还可以被配置为执行:获取文本识别模型历史训练时的模型评价参数值;结合文本识别模型历史训练时的模型评价参数值,确定生成第二样本的数量。
根据本公开的示例性实施例,参考图7,相比于样本生成装置6,样本生成装置7还可以包括样本调整模块71。
具体的,样本调整模块71可以被配置为执行:在生成第二样本之后,对第二样本中的文本内容进行调整,以生成第三样本。
由于本公开实施方式的样本生成装置的各个功能模块与上述方法实施方式中相同,因此在此不再赘述。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施方式的方法。
此外,上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
本领域技术人员在考虑说明书及实践这里公开的内容后,将容易想到本公开的其他实施例。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限。
Claims (10)
1.一种样本生成方法,其特征在于,包括:
获取第一样本,并确定所述第一样本中实体的类别属性信息;
根据所述第一样本以及所述第一样本中实体的类别属性信息,生成与所述第一样本对应的样本模板,所述样本模板中与所述实体对应的位置被配置为槽位置;
获取与所述实体的类别属性信息对应的实体词典;
将所述实体词典中的实体配置于所述槽位置处,以生成第二样本。
2.根据权利要求1所述的样本生成方法,其特征在于,获取第一样本包括:
从用户日志中获取第一样本。
3.根据权利要求1或2所述的样本生成方法,其特征在于,确定所述第一样本中实体的类别属性信息包括:
将所述第一样本与标注词典中的词句进行比较;
确定所述第一样本中与所述标注词典中的词句匹配的文本部分,作为所述第一样本中的实体;
获取所述标注词典中的所述词句的类别属性信息,作为所述第一样本中实体的类别属性信息。
4.根据权利要求1所述的样本生成方法,其特征在于,所述第一样本为获取到的多个初始样本之一,在获取与所述实体的类别属性信息对应的实体词典之前,所述样本生成方法还包括:
确定所述多个初始样本对应的样本模板中,与所述第一样本对应的样本模板相同的模板的数量;
其中,在与所述第一样本对应的样本模板相同的模板的数量满足预定要求的情况下,获取与所述实体的类别属性信息对应的实体词典。
5.根据权利要求4所述的样本生成方法,其特征在于,所述样本生成方法还包括:
计算与所述第一样本对应的样本模板相同的模板的数量,与所述多个初始样本的数量的比值;
如果计算出的比值大于比例阈值,则确定出满足所述预定要求。
6.根据权利要求1所述的样本生成方法,其特征在于,生成的第二样本用于对文本识别模型进行训练,在将所述实体词典中多个实体分别配置于所述槽位置处以生成多个第二样本的情况下,所述样本生成方法还包括:
获取所述文本识别模型历史训练时的模型评价参数值;
结合所述文本识别模型历史训练时的模型评价参数值,确定生成所述第二样本的数量。
7.根据权利要求1所述的样本生成方法,其特征在于,在生成第二样本之后,所述样本生成方法还包括:
对所述第二样本中的文本内容进行调整,以生成第三样本。
8.一种样本生成装置,其特征在于,包括:
样本获取模块,用于获取第一样本,并确定所述第一样本中实体的类别属性信息;
模板生成模块,用于根据所述第一样本以及所述第一样本中实体的类别属性信息,生成与所述第一样本对应的样本模板,所述样本模板中与所述实体对应的位置被配置为槽位置;
词典获取模块,用于获取与所述实体的类别属性信息对应的实体词典;
样本生成模块,用于将所述实体词典中的实体配置于所述槽位置处,以生成第二样本。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1至7中任一项所述的样本生成方法。
10.一种电子设备,其特征在于,包括:
处理器;
存储器,用于存储一个或多个程序,当所述一个或多个程序被所述处理器执行时,使得所述处理器实现如权利要求1至7中任一项所述的样本生成方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010980493.5A CN112036164A (zh) | 2020-09-17 | 2020-09-17 | 样本生成方法及装置、计算机可读存储介质和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010980493.5A CN112036164A (zh) | 2020-09-17 | 2020-09-17 | 样本生成方法及装置、计算机可读存储介质和电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112036164A true CN112036164A (zh) | 2020-12-04 |
Family
ID=73589678
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010980493.5A Withdrawn CN112036164A (zh) | 2020-09-17 | 2020-09-17 | 样本生成方法及装置、计算机可读存储介质和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112036164A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112597748A (zh) * | 2020-12-18 | 2021-04-02 | 深圳赛安特技术服务有限公司 | 语料生成方法、装置、设备及计算机可读存储介质 |
CN113051921A (zh) * | 2021-03-17 | 2021-06-29 | 北京智慧星光信息技术有限公司 | 互联网文本实体识别方法、系统、电子设备及存储介质 |
CN113051888A (zh) * | 2021-03-15 | 2021-06-29 | Oppo广东移动通信有限公司 | 文本样本的生成方法、终端设备以及计算机可读存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101470700A (zh) * | 2007-12-28 | 2009-07-01 | 日电(中国)有限公司 | 文本模板生成器、文本生成设备、文本检验设备及其方法 |
CN108959256A (zh) * | 2018-06-29 | 2018-12-07 | 北京百度网讯科技有限公司 | 短文本的生成方法、装置、存储介质和终端设备 |
CN110674259A (zh) * | 2019-09-27 | 2020-01-10 | 北京百度网讯科技有限公司 | 意图理解方法和装置 |
CN111198938A (zh) * | 2019-12-26 | 2020-05-26 | 深圳市优必选科技股份有限公司 | 一种样本数据处理方法、样本数据处理装置及电子设备 |
-
2020
- 2020-09-17 CN CN202010980493.5A patent/CN112036164A/zh not_active Withdrawn
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101470700A (zh) * | 2007-12-28 | 2009-07-01 | 日电(中国)有限公司 | 文本模板生成器、文本生成设备、文本检验设备及其方法 |
CN108959256A (zh) * | 2018-06-29 | 2018-12-07 | 北京百度网讯科技有限公司 | 短文本的生成方法、装置、存储介质和终端设备 |
CN110674259A (zh) * | 2019-09-27 | 2020-01-10 | 北京百度网讯科技有限公司 | 意图理解方法和装置 |
CN111198938A (zh) * | 2019-12-26 | 2020-05-26 | 深圳市优必选科技股份有限公司 | 一种样本数据处理方法、样本数据处理装置及电子设备 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112597748A (zh) * | 2020-12-18 | 2021-04-02 | 深圳赛安特技术服务有限公司 | 语料生成方法、装置、设备及计算机可读存储介质 |
CN112597748B (zh) * | 2020-12-18 | 2023-08-11 | 深圳赛安特技术服务有限公司 | 语料生成方法、装置、设备及计算机可读存储介质 |
CN113051888A (zh) * | 2021-03-15 | 2021-06-29 | Oppo广东移动通信有限公司 | 文本样本的生成方法、终端设备以及计算机可读存储介质 |
CN113051921A (zh) * | 2021-03-17 | 2021-06-29 | 北京智慧星光信息技术有限公司 | 互联网文本实体识别方法、系统、电子设备及存储介质 |
CN113051921B (zh) * | 2021-03-17 | 2024-02-20 | 北京智慧星光信息技术有限公司 | 互联网文本实体识别方法、系统、电子设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102401942B1 (ko) | 번역품질 평가 방법 및 장치 | |
CN106874441B (zh) | 智能问答方法和装置 | |
CN112036164A (zh) | 样本生成方法及装置、计算机可读存储介质和电子设备 | |
CN111310440B (zh) | 文本的纠错方法、装置和系统 | |
CN109635094B (zh) | 用于生成答案的方法和装置 | |
CN111159220B (zh) | 用于输出结构化查询语句的方法和装置 | |
CN110019742B (zh) | 用于处理信息的方法和装置 | |
CN108268450B (zh) | 用于生成信息的方法和装置 | |
CN107798622B (zh) | 一种识别用户意图的方法和装置 | |
CN110187780B (zh) | 长文本预测方法、装置、设备和存储介质 | |
CN116521841B (zh) | 用于生成回复信息的方法、装置、设备及介质 | |
CN116303537A (zh) | 数据查询方法及装置、电子设备、存储介质 | |
CN112241450A (zh) | 结合rpa与ai的问答语句处理方法、装置、设备和存储介质 | |
CN112417848A (zh) | 语料生成方法、装置及计算机设备 | |
CN111639162A (zh) | 信息交互方法和装置、电子设备和存储介质 | |
CN110232920B (zh) | 语音处理方法和装置 | |
US9547645B2 (en) | Machine translation apparatus, translation method, and translation system | |
CN113836316B (zh) | 三元组数据的处理方法、训练方法、装置、设备及介质 | |
CN110990527A (zh) | 自动问答方法及装置、存储介质及电子设备 | |
CA3147341A1 (en) | Category phrase recognition method, model training method, device and system | |
WO2020052060A1 (zh) | 用于生成修正语句的方法和装置 | |
CN111930891B (zh) | 基于知识图谱的检索文本扩展方法及相关装置 | |
CN116501960B (zh) | 内容检索方法、装置、设备及介质 | |
CN110705308A (zh) | 语音信息的领域识别方法、装置、存储介质及电子设备 | |
CN111488513A (zh) | 用于生成页面的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20201204 |