CN111767712A - 基于语言模型的业务数据筛选方法和装置、介质、设备 - Google Patents
基于语言模型的业务数据筛选方法和装置、介质、设备 Download PDFInfo
- Publication number
- CN111767712A CN111767712A CN201910262775.9A CN201910262775A CN111767712A CN 111767712 A CN111767712 A CN 111767712A CN 201910262775 A CN201910262775 A CN 201910262775A CN 111767712 A CN111767712 A CN 111767712A
- Authority
- CN
- China
- Prior art keywords
- data
- screened
- value
- language model
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 80
- 238000012216 screening Methods 0.000 title claims abstract description 58
- 238000012549 training Methods 0.000 claims abstract description 23
- 238000004364 calculation method Methods 0.000 claims description 21
- 238000004590 computer program Methods 0.000 claims description 8
- 230000009286 beneficial effect Effects 0.000 abstract description 4
- 238000010586 diagram Methods 0.000 description 9
- 238000011156 evaluation Methods 0.000 description 7
- 238000001914 filtration Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000013481 data capture Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Landscapes
- Machine Translation (AREA)
Abstract
本公开实施例公开了一种基于语言模型的业务数据筛选方法和装置,该方法包括:将属于通用领域的待筛选数据输入至通用领域对应的第一语言模型中,得到待筛选数据中至少一个词的第一组出现概率值;将属于通用领域的待筛选数据输入至预定业务领域对应的第二语言模型中,得到待筛选数据中至少一个词的第二组出现概率值;根据第一组出现概率值,确定待筛选数据的第一评分值;根据第二组出现概率值,确定待筛选数据的第二评分值;根据第一评分值和第二评分值,确定待筛选数据是否为属于所述预定业务领域的业务数据。本公开实施例有利于降低业务数据的筛选成本,并有利于提高业务数据的筛选效率,进而有利于提高对应预定业务领域的语言模型的训练效率。
Description
技术领域
本公开涉及语言模型技术,尤其是一种基于语言模型的业务数据筛选方法和装置、存储介质、电子设备。
背景技术
在语音识别以及机器翻译等多种应用中,往往需要利用语言模型来预测给定历史词的下一个词的出现概率。
在语言模型应用于特定业务领域时,往往需要大量的该特定业务领域的数据样本,对语言模型进行训练,从而使训练成功的语言模型能够很好的适用于该特定业务领域。快速准确的获得属于特定业务领域的数据样本,有利于提高语言模型的训练效率。
传统的基于数据抓取获得数据样本的方式,所获取的数据样本往往包含有大量的不属于特定业务领域的数据样本。如果对数据样本进行人工筛选,则往往需要耗费不少人力成本以及时间成本。
发明内容
为了解决上述技术问题,提出了本公开。本公开的实施例提供了一种基于语言模型的业务数据筛选方法和装置、存储介质、电子设备。
根据本公开实施例的一个方面,提供的一种基于语言模型的业务数据筛选方法,包括:将属于通用领域的待筛选数据输入至所述通用领域对应的第一语言模型,得到所述待筛选数据中至少一个词的第一组出现概率值;将所述属于通用领域的待筛选数据输入至预定业务领域对应的第二语言模型,得到所述待筛选数据中至少一个词的第二组出现概率值;根据所述第一组出现概率值,确定所述待筛选数据的第一评分值;根据所述第二组出现概率值,确定所述待筛选数据的第二评分值;根据所述第一评分值和第二评分值,确定所述待筛选数据是否为属于所述预定业务领域的业务数据。
根据本公开实施例的另一个方面,提供的一种基于语言模型的业务数据筛选装置,包括:第一获取模块,用于将属于通用领域的待筛选数据输入至所述通用领域对应的第一语言模型,得到所述待筛选数据中至少一个词的第一组出现概率值;第二获取模块,用于将所述属于通用领域的待筛选数据输入至预定业务领域对应的第二语言模型,得到所述待筛选数据中至少一个词的第二组出现概率值;第一评分模块,用于根据所述第一组出现概率值,确定所述待筛选数据的第一评分值;第二评分模块,用于根据所述第二组出现概率值,确定所述待筛选数据的第二评分值;筛选模块,用于根据所述第一评分值和第二评分值,确定所述待筛选数据是否为属于所述预定业务领域的业务数据。
基于本公开上述实施例提供的一种基于语言模型的业务数据筛选方法和装置,通过利用通用领域对应的第一语言模型和预定业务领域对应的第二语言模型分别对属于通用领域的待筛选数据进行概率预测,可以获得第一语言模型和第二语言模型分别针对待筛选数据中的至少一个词进行概率预测,而获得的第一组出现概率值和第二组出现概率值。由于不同语言模型对应的领域不同,因此,不同语言模型预测出的第一组出现概率值和第二组出现概率值可以在一定程度上表示出相应词在不同领域中的出现情况,从而本公开基于第一组出现概率值和第二组出现概率值而形成的第一评分值和第二评分值,可以在一定程度上表示出待筛选数据在不同领域中的出现情况,进而本公开根据第一评分值和第二评分值,可以便捷的从属于通用领域的数据中筛选出属于预定业务领域的业务数据。由此可知,本公开提供的技术方案有利于降低业务数据的筛选成本,并有利于提高业务数据的筛选效率,进而有利于提高对应预定业务领域的语言模型的训练效率。
下面通过附图和实施例,对本公开的技术方案做进一步的详细描述。
附图说明
通过结合附图对本公开实施例进行更详细的描述,本公开的上述以及其他目的、特征以及优势将变得更加明显。附图用来提供对本公开实施例的进一步的理解,并且构成说明书的一部分,与本公开实施例一起用于解释本公开,并不构成对本公开的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1是本公开所适用的场景示意图;
图2为本公开的基于语言模型的业务数据筛选方法一个实施例的流程图;
图3为本公开的基于语言模型的业务数据筛选方法另一个实施例的流程图;
图4为本公开的基于语言模型的业务数据筛选方法再一个实施例的流程图;
图5为本公开的基于语言模型的业务数据筛选方法又一个实施例的流程图;
图6为本公开的基于语言模型的业务数据筛选装置一实施例的结构示意图;
图7为本公开的基于语言模型的业务数据筛选装置又一实施例的结构示意图;
图8是本申请一示例性实施例提供的电子设备的结构图。
具体实施方式
下面,将参考附图详细地描述根据本公开的示例实施例。显然,所描述的实施例仅仅是本公开的一部分实施例,而不是本公开的全部实施例,应理解,本公开不受这里描述的示例实施例的限制。
应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
本领域技术人员可以理解,本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等,既不代表任何特定技术含义,也不表示它们之间的必然逻辑顺序。
还应理解,在本公开实施例中,“多个”可以指两个或两个以上,“至少一个”可以指一个、两个或两个以上。
还应理解,对于本公开实施例中提及的任一部件、数据或结构,在没有明确限定或者在前后文给出相反启示的情况下,一般可以理解为一个或多个。
另外,本公开中术语“和/或”,仅是一种描述关联对象的关联关系,表示可以存在三种关系,如A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本公开中字符“/”,一般表示前后关联对象是一种“或”的关系。
还应理解,本公开对各个实施例的描述着重强调各个实施例之间的不同之处,其相同或相似之处可以相互参考,为了简洁,不再一一赘述。
同时,应当明白,为了便于描述,附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本公开及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
本公开的实施例可以应用于终端设备、计算机系统、服务器等电子设备,其可与众多其它通用或者专用计算系统环境或配置一起操作。适于与终端设备、计算机系统或者服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括但不限于:个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统、大型计算机系统和包括上述任何系统的分布式云计算技术环境等等。
终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常,程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等,它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施。在分布式云计算环境中,任务可以是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中,程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。
本公开概述
在实现本公开的过程中,发明人发现,在对属于特定业务领域的语言模型进行训练时,往往需要大量的属于该特定业务领域的数据样本。而现有的数据样本往往是属于通用领域的数据样本。
如果采用人工筛选的方式从属于通用领域的数据样本中获得特定业务领域的数据样本,则至少存在以下问题:需要耗费不少人力成本以及时间成本,从而不利用提高语言模型的训练效率。
示例性概述
本公开可以从属于通用领域的第一数据样本集中筛选出属于预定业务领域的数据样本,从而形成属于预定业务领域的第二数据样本集。一个例子如图1所示,第一数据样本集包括:n个数据样本,即数据样本1、数据样本2、……、以及数据样本n。其中n为大于1的整数。n个数据样本分别经过本公开提供的技术方案的筛选后,可以获得筛选出的m个数据样本,这m个数据样本可以被添加在第二数据样本集中。其中的m为大于等于0且小于等于n的整数。
示例性方法
图2为本公开的基于语言模型的业务数据筛选方法一个实施例的流程图。如图2所示,该实施例方法包括步骤:S200、S201、S202、S203以及S204。下面对各步骤进行详细说明。
S200、将属于通用领域的待筛选数据输入至通用领域对应的第一语言模型中,得到待筛选数据中至少一个词的第一组出现概率值。到步骤S202。
在一个可选示例中,本公开中的通用领域(General Area)可以认为是:并不是专门针对一特定业务,而是具有泛业务性的领域。也就是说,本公开中的通用领域可以涵盖多种预定业务领域。
在一个可选示例中,本公开中的第一语言模型可以认为是:基于通用领域的语言模型,即第一语言模型是适用于通用领域的语言模型。本公开中的第一语言模型用于预测输入的每一条待筛选数据中的至少一个词在被作为目标词时,出现在相应历史词后的概率,从而可以获得待筛选数据中的各词的出现概率。本公开利用第一语言模型预测获得的一个词或者多个词的出现概率,形成第一组出现概率值。一条待筛选数据通常包括多个词,第一组出现概率值通常包括:待筛选数据中的每一个词在被作为目标词时的出现概率。
S201、将属于通用领域的待筛选数据输入至预定业务领域对应的第二语言模型,得到待筛选数据中至少一个词的第二组出现概率值。到步骤S203。
在一个可选示例中,本公开中的预定业务领域对应一特定业务。预定业务领域通常是通用领域的一部分。即预定业务领域完全被通用领域涵盖。预定业务领域包括但不限于:知识问答领域、特定产品售前/售后服务领域或者医疗领域等。
在一个可选示例中,本公开中的第二语言模型可以认为是:基于预定业务领域的语言模型,即第二语言模型是专门适用于预定业务领域的语言模型。本公开中的第二语言模型用于预测输入的每一条待筛选数据中的至少一个词在被作为目标词时,出现在相应历史词后的概率,从而可以获得待筛选数据中的各词的出现概率。本公开利用第二语言模型预测获得的一个词或者多个词的出现概率,形成第二组出现概率值。一条待筛选数据通常包括多个词,第二组出现概率值通常包括待筛选数据中的每一个词在被作为目标词时的出现概率。
S202、根据第一组出现概率值,确定待筛选数据的第一评分值。到步骤S204。
在一个可选示例中,本公开可以针对第一组出现概率值中的至少一个出现概率进行计算,并根据计算结果获得待筛选数据的第一评分值。在第一组出现概率值包括:待筛选数据中的每一个词分别对应的出现概率的情况下,本公开通常会针对第一组出现概率值包括的所有出现概率进行计算,并根据计算结果获得待筛选数据的第一评分值。
S203、根据第二组出现概率值,确定待筛选数据的第二评分值。到步骤S204。
在一个可选示例中,本公开可以针对第二组出现概率值中的至少一个出现概率进行计算,并根据计算结果获得待筛选数据的第二评分值。在第二组出现概率值包括:待筛选数据中的每一个词分别对应的出现概率的情况下,本公开通常会针对第二组出现概率值包括的所有出现概率进行计算,并根据计算结果获得待筛选数据的第二评分值。
S204、根据待筛选数据的第一评分值和第二评分值,确定待筛选数据是否为属于预定业务领域的业务数据。
本公开通过利用通用领域对应的第一语言模型和预定业务领域对应的第二语言模型分别对属于通用领域的待筛选数据进行概率预测,可以分别获得第一语言模型和第二语言模型分别针对待筛选数据中的至少一个词而预测获得的第一组出现概率值和第二组出现概率值,由于第一语言模型和第二语言模块对应的领域不同,因此,不同语言模型预测出的第一组出现概率值和第二组出现概率值可以在一定程度上表示出相应词在不同领域中的出现情况,从而本公开基于第一组出现概率值和第二组出现概率值形成的第一评分值和第二评分值,可以在一定程度上表示出待筛选数据在不同领域中的出现情况,进而本公开根据第一评分值和第二评分值,可以便捷的从属于通用领域的数据中筛选出属于预定业务领域的业务数据。由此可知,本公开提供的技术方案有利于降低业务数据的筛选成本,并有利于提高业务数据的筛选效率,进而有利于提高对应预定业务领域的语言模型的训练效率。
在一个可选示例中,本公开中的第一语言模型包括但不限于:基于概率统计的语言模型(例如,N_Gram语言模型等)、RNNLM(Recurrent Neural Network LanguageModeling,基于循环神经网络的语言模型)、或者CNNLM(Convolutional Neural NetworksLanguage Modeling,基于卷积神经网络的语言模型)等。
在一个可选示例中,本公开中的第二语言模型包括但不限于:基于概率统计的语言模型(例如,N_Gram语言模型等)、RNNLM、或者CNNLM等。
需要特别说明的是,第二语言模型和第一语言模型通常采用相同的语言模型结构,例如,第一语言模型和第二语言模型均为基于概率统计的语言模型;再例如,第一语言模型和第二语言模型均为RNNLM;再例如,第一语言模型和第二语言模型均为CNNLM等。
在一个可选示例中,本公开可以利用属于通用领域的数据样本对语言模型进行训练,从而获得基于通用领域的第一语言模型。通过利用通用领域的数据样本对语言模型进行训练,获得第一语言模型,有利于使第一语言模型针对待筛选数据所预测出的出现概率,更符合其在通用领域中的概率分布。
在一个可选示例中,本公开可以利用属于预定业务领域的数据样本对语言模型进行训练,从而获得基于预定业务领域的第二语言模型。通过利用预定业务领域的数据样本对语言模型进行训练,获得第二语言模型,有利于使第二语言模型针对待筛选数据所预测出的出现概率,更符合其在预定业务领域中的概率分布。
需要特别说明的是,虽然用于训练第一语言模型的数据样本与用于训练第二语言模型的数据样本并不相同,但是,用于训练第一语言模型的数据样本与用于训练第二语言模型的数据样本,在使用规模上大致相同。一个例子,用于训练第一语言模型的数据样本的数量级与用于训练第二语言模型的数据样本的数量级应该是相同的。本公开中数据样本的数量级可以是指:所有数据样本所占用的存储空间大小的单位;例如,M(兆)或者KB(千比特)等。可选的,两者不仅在数量级上相同,两者所占用的存储空间的差值最好不超过预定差值。例如,假定预定差值为5M,则在用于训练第一语言模型的数据样本所占用的存储空间为100M的情况下,用于训练第二语言模型的数据样本所占用的存储空间可以在95M至105M之间。另一个例子,用于训练第一语言模型的所有数据样本所包含的所有词的数量,与用于训练第二语言模型的数据样本的所有数据样本所包含的所有词的数量,应大致相同。可选的,用于训练第一语言模型的所有数据样本所包含的所有词的数量,与用于训练第二语言模型的所有数据样本所包含的所有词的数量的差值不大于预定数量。例如,假定预定数量为100个词,则在用于训练第一语言模型的所有数据样本所包含的所有词的数量为1万个词的情况下,用于训练第二语言模型的所有数据样本所包含的所有词的数量可以在9900个词至10100个词之间。
通过使用于训练第一语言模型的数据样本与用于训练第二语言模型的数据样本,在使用规模上大致相同,可以使第一语言模型和第二语言模型中的概率值均是针对大致相同的基数进行统计而获得的,从而可以避免两者存在过大差距的现象,进而有利于提高数据筛选的准确性。
在一个可选示例中,本公开可以从基于通用领域的数据集中获取一条数据或者一次性的获取多条数据,并将获取到的每一条数据均作为一条待筛选数据,提供给第一语言模型,从而针对每一条待筛选数据,本公开均可以通过第一语言模型获得一第一组出现概率值。另外,本公开中的待筛选数据可以为属于通用领域的待筛选数据样本,例如,本公开可以从基于通用领域的数据样本集中获取数据样本,并将获取到的数据样本作为待筛选数据。
在一个可选示例中,本公开为第一语言模型提供的待筛选数据,也需要提供给第二语言模型,也就是说,本公开为第一语言模型和第二语言模型提供相同的输入数据。本公开不限制将待筛选数据提供给第一语言模型和第二语言模型的先后顺序。例如,本公开可以同时将待筛选数据提供给第一语言模型和第二语言模型。再例如,本公开可以先将待筛选数据提供给第一语言模型,然后,再将待筛选数据提供给第二语言模型。再例如,本公开可以先将待筛选数据提供给第二语言模型,然后,再将待筛选数据提供给第一语言模型。
可选的,利用第一语言模型获得的第一组出现概率值通常包括:多个出现概率。本公开不限制第一组出现概率值所包含的出现概率的数量。一个例子:假定提供给第一语言模型的一条待筛选数据包括:词1、词2、词3和词4,本公开通过第一语言模型对该待筛选数据进行概率预测,而获得的第一组出现概率值可以包括:
在历史词为空的情况下,词1的出现概率a;
在历史词为词1的情况下,词2的出现概率b;
在历史词为词1和词2的情况下,词3的出现概率c;
在历史词为词1、词2和词3的情况下,词4的出现概率e。
可选的,利用第二语言模型获得的第二组出现概率值通常包括:多个出现概率。本公开不限制第二组出现概率值所包含的出现概率的数量。一个例子:假定提供给第二语言模型的一条待筛选数据包括:词1、词2、词2和词4,本公开通过第二语言模型对该待筛选数据进行概率预测,而获得的第二组出现概率值可以包括:
在历史词为空的情况下,词1的出现概率A;
在历史词为词1的情况下,词2的出现概率B;
在历史词为词1和词2的情况下,词3的出现概率C;
在历史词为词1、词2和词3的情况下,词4的出现概率E。
在一个可选示例中,对于一条待筛选数据而言,本公开可以计算该待筛选数据的第一组出现概率值中的所有出现概率的交叉熵,从而获得该待筛选数据的第一交叉熵。本公开可以直接将待筛选数据的第一交叉熵作为该待筛选数据的第一评分值,本公开也可以针对该第一交叉熵进行进一步计算,并将进一步计算的结果作为该待筛选数据的第一评分值。例如,利用第一交叉熵进行困惑度计算,并将计算出的困惑度作为该待筛选数据的第一评分值。
在一个可选示例中,对于一条待筛选数据而言,本公开可以计算该待筛选数据的第二组出现概率值中的所有出现概率的交叉熵,从而获得该待筛选数据的第二交叉熵。本公开可以直接将待筛选数据的第二交叉熵作为该待筛选数据的第二评分值,本公开也可以针对该第二交叉熵进行进一步计算,并将进一步计算的结果作为该待筛选数据的第二评分值。例如,利用第二交叉熵进行困惑度计算,并将计算出的困惑度作为该待筛选数据的第二评分值。
在一个可选示例中,本公开通过利用预先设置的评判标准,来衡量待筛选数据的第一评分值和第二评分值,可以确定待筛选数据是否属于预定业务领域,本公开将属于预定业务领域的待筛选数据作为筛选出的业务数据,并滤除不属于预定业务领域的待筛选数据。预先设置的评判标准可以根据实际需要设置。
在一个可选示例中,本公开预先设置的评判标准包括但不限于:两者的差值是否满足预定要求以及其中至少一个评分值是否满足预定要求等。上述两者的差值是否满足预定要求可以包括但不限于:差值是否超过一预设值或者差值是否不小于一预设值等。上述至少一个评分值是否满足预定要求可以包括但不限于:其中至少一个评分值(如第二评分值)是否不超过另一预设值或者其中至少一个评分值是否小于另一预设值等。另外,本公开预先设置的评判标准也可以采用其他方式,例如,针对两个评分值分别设置一阈值等。
由于第一评分值和第二评分值的差值,可以在一定程度上表示出待筛选数据在不同领域中出现的差异,因此,本公开通过针对差值设置评判标准,有利于提高筛选出的业务数据的准确性。
在语言模型稀疏等情况下,可能会导致虽然两者的差值满足预定要求,但是待筛选数据并不属于预定业务领域这一现象,本公开通过针对其中至少一个评分值(如第二评分值)设置评判标准,可以避免该现象的出现,从而进一步有利于提高筛选出的业务数据的准确性。
图3为本公开的基于语言模型的业务数据筛选方法一个实施例的流程图。如图3所示,该实施例的方法包括:S300、S301、S302、S303、S304、S305、S306以及S307。下面对各步骤进行详细说明。
S300、将属于通用领域的待筛选数据输入至通用领域对应的第一语言模型中,得到待筛选数据中至少一个词的第一组出现概率值。到S302。S300的描述可以参见上述方法实施例中S200及其对应的可选示例的描述,在此不再详细说明。
S301、将属于通用领域的待筛选数据输入至预定业务领域对应的第二语言模型,得到待筛选数据中至少一个词的第二组出现概率值。到S303。S301的描述可参见上述方法实施例中S201及其对应的可选示例的描述,在此不再详细说明。
S302、根据第一组出现概率值,确定待筛选数据的第一评分值。到S304。
可选的,本公开可以根据第一组出现概率值所包含的所有出现概率(如待筛选数据中的所有词的出现概率),利用下述公式(1)计算交叉熵,获得待筛选数据的第一交叉熵,本公开可以将该第一交叉熵作为该待筛选数据的第一评分值。
在上述公式(1)中,Hp(T)表示待筛选数据T的第一交叉熵;WT表示待筛选数据T所包含的词的数量;p(T)表示第一语言模型针对待筛选数据T预测出的各词的出现概率的乘积。
可选的,本公开也可以根据第一组出现概率值所包含的所有出现概率,利用下述公式(2)计算困惑度,获得待筛选数据的第一困惑度,本公开可以将该第一困惑度作为该待筛选数据的第一评分值。
在上述公式(2)中,PPL(T)表示待筛选数据T的第一困惑度,Hp(T)表示待筛选数据T的第一交叉熵。
S303、根据第二组出现概率值,确定待筛选数据的第二评分值。到S304。
可选的,本公开可以根据第二组出现概率值所包含的所有出现概率(如待筛选数据中的所有词的出现概率),利用上述公式(1)计算交叉熵,获得待筛选数据的第二交叉熵,本公开可以将该第二交叉熵作为该待筛选数据的第二评分值。
可选的,本公开也可以根据第二组出现概率值所包含的所有出现概率,利用上述公式(2)计算困惑度,获得待筛选数据的第二困惑度,本公开可以将该第二困惑度作为该待筛选数据的第二评分值。
S304、计算第一评分值和第二评分值的差值。例如,计算h1-h2,其中的h1表示第一评分值,其中的h2表示第二评分值。
S305、判断差值与第一阈值的大小关系是否满足第一预设要求,如果满足第一预设要求,则到步骤S306;如果不满足第一预设要求,则到步骤S307。
可选的,本公开中的第一预设要求可以为差值超过第一阈值。也就是说,本公开可以判断差值是否超过第一阈值,在差值超过第一阈值的情况下,确定差值与第一阈值的大小关系满足第一预设要求,在差值不超过第一阈值的情况下,确定差值与第一阈值的大小关系不满足第一预设要求。
可选的,本公开中的第一预设要求也可以为:差值不小于第一阈值。也就是说,本公开可以判断差值是否大于等于第一阈值,在差值大于等于第一阈值的情况下,确定差值与第一阈值的大小关系满足第一预设要求,在差值小于第一阈值的情况下,确定差值与第一阈值的大小关系不满足第一预设要求。
可选的,本公开中的第一阈值是预设已知常数,且第一阈值可以根据实际情况进行调整,例如,本公开可以根据当前筛选出的业务数据的准确性,来调整第一阈值的大小。
S306、将该待筛选数据作为筛选出的属于预定业务领域的业务数据。
可选的,在预定业务领域为医疗领域的情况下,如果待筛选数据为“药品的副作用”,则该待筛选数据可能被作为属于预定业务领域的业务数据。
S307、滤除该待筛选数据。
可选的,在预定业务领域为医疗领域的情况下,如果待筛选数据为“今天天气很好”,则该待筛选数据可能被滤除。
由于交叉熵或者困惑度可以体现出待筛选数据与语言模型的接近程度,如交叉熵或者困惑度越小,表示待筛选数据与语言模型越接近;因此,本公开通过针对第一交叉熵和第二交叉熵的差值、或者第一困惑度和第二困惑度的差值设置第一预设要求,可以客观的获得待筛选数据属于不同领域的评价指标,从而有利于提高筛选出的业务数据的准确性。
图4为本公开的基于语言模型的业务数据筛选方法一个实施例的流程图。图4中,该实施例的方法包括:S400、S401、S402、S403、S404、S405、S406、S407以及S408。下面对各步骤进行详细说明。
S400、将属于通用领域的待筛选数据输入至通用领域对应的第一语言模型中,得到待筛选数据中至少一个词的第一组出现概率值。到S402。S400的描述可以参见上述方法实施例中S200及其对应的可选示例的描述,在此不再详细说明。
S401、将属于通用领域的待筛选数据输入至预定业务领域对应的第二语言模型,得到待筛选数据中至少一个词的第二组出现概率值。到S403。S401的描述可参见上述方法实施例中S201及其对应的可选示例的描述,在此不再详细说明。
S402、根据第一组出现概率值,确定待筛选数据的第一评分值。到S404。
S402的描述可以参见上述方法实施例中S302的描述,在此不再详细说明。
S403、根据第二组出现概率值,确定待筛选数据的第二评分值。到S404。
S403的描述可以参见上述方法实施例中S303的描述,在此不再详细说明。
S404、计算第一评分值和第二评分值的差值。
S405、判断差值与第一阈值的大小关系是否满足第一预设要求,如果满足第一预设要求,则到S406;如果不满足第一预设要求,则到S408。S405的描述可以参见上述方法实施例中S305的描述,在此不再详细说明。
S406、判断第二评分值与第二阈值的大小关系是否满足第二预设要求,如果满足第二预设要求,则到S407;如果不满足第二预设要求,则到S408。
可选的,本公开中的第二预设要求可以为:第二评分值不超过第二阈值。也就是说,本公开可以判断第二评分值是否小于等于第二阈值,在第二评分值小于等于第二阈值的情况下,确定第二评分值与第二阈值的大小关系满足第二预设要求,在第二评分值大于第二阈值的情况下,确定第二评分值与第二阈值的大小关系不满足第二预设要求。
可选的,本公开中的第二预设要求也可以为第二评分值小于第二阈值。也就是说,本公开可以判断第二评分值是否小于第二阈值,在第二评分值小于第二阈值的情况下,确定第二评分值与第二阈值的大小关系满足第二预设要求,在第二评分值小于第二阈值的情况下,确定第二预设要求与第二阈值的大小关系不满足第二预设要求。
可选的,本公开中的第二阈值是预设已知常数,且第二阈值可以根据实际情况进行调整,例如,本公开可以根据当前筛选出的业务数据的准确性,来调整第二阈值的大小。
S407、将该待筛选数据作为筛选出的属于预定业务领域的业务数据。S407的描述可以参见上述方法实施例中S306的描述,在此不再详细说明。
S408、滤除该待筛选数据。S408的描述可以参见上述方法实施例中S307的描述,在此不再详细说明。
由于语言模型稀疏等因素可能会导致虽然差值与第一阈值的大小关系满足第一预设要求,但是待筛选数据并不属于预定业务领域这一现象,因此,本公开通过针对第二评分值设置第二阈值,可以客观的获得待筛选数据属于不同领域的另一评价指标,有利于避免上述现象的出现,从而有利于进一步提高筛选出的业务数据的准确性。
图5为本公开的基于语言模型的业务数据筛选方法一个实施例的流程图。图5中,该实施例的方法包括:S500、S501、S502、S503、S504、S505、S506、S507以及S508。下面对各步骤进行详细说明。
S500、将属于通用领域的待筛选数据输入至通用领域对应的第一语言模型中,得到待筛选数据中至少一个词的第一组出现概率值。到S502。S500的描述可以参见上述方法实施例中S200及其对应的可选示例的描述,在此不再详细说明。
S501、将属于通用领域的待筛选数据输入至预定业务领域对应的第二语言模型,得到待筛选数据中至少一个词的第二组出现概率值。到S503。S501的描述可参见上述方法实施例中S201及其对应的可选示例的描述,在此不再详细说明。
S502、根据第一组出现概率值,确定待筛选数据的第一评分值。到S504。
S502的描述可以参见上述方法实施例中S302的描述,在此不再详细说明。
S503、根据第二组出现概率值,确定待筛选数据的第二评分值。到S504。
S503的描述可以参见上述方法实施例中S303的描述,在此不再详细说明。
S504、判断第二评分值与第二阈值的大小关系是否满足第二预设要求,如果满足第二预设要求,则到步骤S505;如果不满足第二预设要求,则到S508。S504的描述可以参见上述方法实施例中S406的描述,在此不再详细说明。
S505、计算第一评分值和第二评分值的差值。
S506、判断差值与第一阈值的大小关系是否满足第一预设要求,如果满足第一预设要求,则到S507;如果不满足第一预设要求,则到S508。S506的描述可以参见上述方法实施例中S305的描述,在此不再详细说明。
S507、将该待筛选数据作为筛选出的属于预定业务领域的业务数据。S507的描述可以参见上述方法实施例中S306的描述,在此不再详细说明。
S508、滤除该待筛选数据。S508的描述可以参见上述方法实施例中S307的描述,在此不再详细说明。
本公开通过先判断第二评分值与第二阈值的大小关系是否满足第二预设要求,并针对满足第二预设要求的第二评分值,再进行第一评分值与第二评分值的差值计算,有利于减少差值计算的次数,从而在有利于提高筛选出的业务数据的准确性的基础上,减小资源消耗。
示例性装置
图6为本公开基于语言模型的业务数据筛选装置一个实施例的结构示意图。该实施例的装置可用于实现本公开上述方法实施例。如图6所示,该实施例的装置包括:第一获取模块600、第二获取模块601、第一评分模块602、第二评分模块603以及筛选模块604。下面对各模块分别进行说明。
第一获取模块600用于将属于通用领域的待筛选数据输入至通用领域对应的第一语言模型,得到待筛选数据中至少一个词的第一组出现概率值。
第二获取模块601用于将属于通用领域的待筛选数据输入至预定业务领域对应的第二语言模型,得到待筛选数据中至少一个词的第二组出现概率值。
第一评分模块602用于根据第一获取模块600得到的第一组出现概率值,确定待筛选数据的第一评分值。
第二评分模块603用于根据第二获取模块601得到的第二组出现概率值,确定待筛选数据的第二评分值。
筛选模块604用于根据第一评分模块602确定出的第一评分值和第二评分模块603确定出的第二评分值,确定待筛选数据是否为属于预定业务领域的业务数据。
在一个可选示例中,第一获取模块600利用第一语言模型得到的第一组出现概率值通常包括:待筛选数据中的每一个词在被作为目标词时的出现概率。第一获取模块600可以从基于通用领域的数据集中获取一条数据或者一次性的获取多条数据,并将获取到的每一条数据均作为一条待筛选数据,提供给属于通用领域的第一语言模型,从而针对每一条待筛选数据,第一获取模块600均可以通过第一语言模型获得一第一组出现概率值。
在一个可选示例中,第一获取模块600提供给第一语言模型的待筛选数据,第二获取模块601也需要将其提供给第二语言模型,也就是说,第一获取模块600为第一语言模型提供的输入数据,与提供相同的输入数据为第二语言模型提供相同的输入数据相同。本公开不限制第一获取模块600和第二获取模块601将待筛选数据提供给第一语言模型和第二语言模型的先后顺序。例如,第一获取模块600和第二获取模块601可以同时将待筛选数据提供给第一语言模型和第二语言模型。再例如,第一获取模块600可以先将待筛选数据提供给第一语言模型,然后,第二获取模块601再将待筛选数据提供给第二语言模型。再例如,第二获取模块601可以先将待筛选数据提供给第二语言模型,然后,第一获取模块600再将待筛选数据提供给第一语言模型。
在一个可选示例中,第一评分模块602可以针对第一组出现概率值中的至少一个出现概率进行计算,并根据计算结果获得待筛选数据的第一评分值。在第一组出现概率值包括:待筛选数据中的每一个词分别对应的出现概率的情况下,第一评分模块602通常会针对第一组出现概率值包括的所有出现概率进行计算,并根据计算结果获得待筛选数据的第一评分值。例如,对于一待筛选数据而言,第一评分模块602可以计算该待筛选数据的第一组出现概率值中的所有出现概率的交叉熵,从而获得该待筛选数据的第一交叉熵。第一评分模块602可以直接将待筛选数据的第一交叉熵作为该待筛选数据的第一评分值,第一评分模块602也可以针对该第一交叉熵进行进一步计算,并将进一步计算的结果作为该待筛选数据的第一评分值。例如,第一评分模块602利用第一交叉熵进行困惑度的计算,并将计算出的困惑度作为该待筛选数据的第一评分值。
在一个可选示例中,第二评分模块603可以针对第二组出现概率值中的至少一个出现概率进行计算,并根据计算结果获得待筛选数据的第二评分值。在第二组出现概率值包括:待筛选数据中的每一个词分别对应的出现概率的情况下,第二评分模块603通常会针对第二组出现概率值包括的所有出现概率进行计算,并根据计算结果获得待筛选数据的第二评分值。例如,对于一待筛选数据而言,第二评分模块603可以计算该待筛选数据的第二组出现概率值中的所有出现概率的交叉熵,从而获得该待筛选数据的第二交叉熵。第二评分模块603可以直接将待筛选数据的第二交叉熵作为该待筛选数据的第二评分值,第二评分模块603也可以针对该第二交叉熵进行进一步计算,并将进一步计算的结果作为该待筛选数据的第二评分值。例如,第二评分模块603利用第二交叉熵进行困惑度的计算,并将计算出的困惑度作为该待筛选数据的第二评分值。
在一个可选示例中,筛选模块604通过利用预先设置的评判标准,来衡量待筛选数据的第一评分值和第二评分值,可以确定待筛选数据是否属于预定业务领域,筛选模块604将属于预定业务领域的待筛选数据作为筛选出的业务数据,并滤除不属于预定业务领域的待筛选数据。预先设置的评判标准可以根据实际需要设置。例如,预先设置的评判标准包括但不限于:两者的差值是否满足预定要求以及其中至少一个评分值是否满足预定要求等。
图7为本公开基于语言模型的业务数据筛选装置一个实施例的结构示意图。该实施例的装置可用于实现本公开上述方法实施例。如图7所示,该实施例的装置包括:第一获取模块600、第二获取模块601、第一评分模块602、第二评分模块603及筛选模块604。可选的,其中的筛选模块604可以包括:计算子模块605和筛选子模块606。第一获取模块600、第二获取模块601、第一评分模块602以及第二评分模块603的描述可以参见上述装置实施例中的相关描述。下面对筛选模块604包括的计算子模块605和筛选子模块606分别进行说明。
计算子模块605用于计算第一评分值和第二评分值的差值。例如,计算子模块605计算h1-h2,其中的h1表示第一评分值,其中的h2表示第二评分值。
在一个可选示例中,筛选子模块606用于在计算子模块605计算出的差值与第一阈值的大小关系满足第一预设要求的情况下,确定待筛选数据为属于预定业务领域的业务数据。
在另一个可选示例中,筛选子模块606用于在计算子模块605计算出的差值与第一阈值的大小关系满足第一预设要求,且第二评分值与第二阈值的大小关系满足第二预设要求的情况下,确定待筛选数据为属于预定业务领域的业务数据。
在一个可选示例中,计算子模块605可先计算第一评分值和第二评分值的差值,之后,再由筛选子模块606判断该差值与第一阈值的大小关系是否满足第一预设要求,在判断出不满足第一预设要求的情况下,筛选子模块606可以直接将待筛选数据滤除,在判断出满足第一预设要求的情况下,筛选子模块606将待筛选数据作为属于预定业务领域的业务数据。
在另一个可选示例中,计算子模块605可先计算第一评分值和第二评分值的差值,之后,再由筛选子模块606判断该差值与第一阈值的大小关系是否满足第一预设要求,在判断出不满足第一预设要求的情况下,筛选子模块606可以直接将待筛选数据滤除;在判断出满足第一预设要求的情况下,筛选子模块606可以继续判断第二评分值与第二阈值的大小关系是否满足第二预设要求,在判断出不满足第二预设要求的情况下,筛选子模块606可以将待筛选数据滤除;在判断出满足第二预设要求的情况下,筛选子模块606将待筛选数据作为属于预定业务领域的业务数据。
在再一个可选示例中,筛选子模块606可以先判断第二评分值与第二阈值的大小关系是否满足第二预设要求,在判断出不满足第二预设要求的情况下,筛选子模块606可以直接将待筛选数据滤除;而在判断出满足第二预设要求之后,再由计算子模块605计算第一评分值和第二评分值的差值,之后,再由筛选子模块606判断该差值与第一阈值的大小关系是否满足第一预设要求,在判断出不满足第一预设要求的情况下,筛选子模块606可以将待筛选数据滤除;在判断出满足第一预设要求的情况下,筛选子模块606将待筛选数据作为属于预定业务领域的业务数据。
示例性电子设备
下面参考图8来描述根据本公开实施例的电子设备。图8示出了根据本公开实施例的电子设备的框图。如图8所示,电子设备81包括一个或多个处理器811和存储器812。
处理器811可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备81中的其他组件以执行期望的功能。
存储器812可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器11可以运行所述程序指令,以实现上文所述的本公开的各个实施例的基于语言模型的业务数据筛选方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。
在一个示例中,电子设备81还可以包括:输入装置813和输出装置814,这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。此外,该输入设备813还可以包括例如键盘、鼠标等等。该输出装置814可以向外部输出各种信息。该输出设备814可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然,为了简化,图8中仅示出了该电子设备81中与本公开有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备81还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外,本公开的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的基于语言模型的业务数据筛选方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本公开的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的基于语言模型的业务数据筛选方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或者器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列举)包括:具有一个或者多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本公开的基本原理,但是需要指出的是,在本公开中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势以及效果等是本公开的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本公开为必须采用上述具体的细节来实现。
本说明书中各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言,由于其与方法实施例基本对应,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
可能以许多方式来实现本公开的方法和装置。例如,可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明,本公开的方法的步骤不限于以上具体描述的顺序,除非以其它方式特别说明。此外,在一些实施例中,还可将本公开实施为记录在记录介质中的程序,这些程序包括用于实现根据本公开的方法的机器可读指令。因而,本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。
还需要指出的是,在本公开的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改,对于本领域技术人员而言,是非常显而易见的,并且在此定义的一般原理可以应用于其他方面,而不脱离本公开的范围。因此,本公开不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (14)
1.一种基于语言模型的业务数据筛选方法,包括:
将属于通用领域的待筛选数据输入至所述通用领域对应的第一语言模型,得到所述待筛选数据中至少一个词的第一组出现概率值;
将所述属于通用领域的待筛选数据输入至预定业务领域对应的第二语言模型,得到所述待筛选数据中至少一个词的第二组出现概率值;
根据所述第一组出现概率值,确定所述待筛选数据的第一评分值;
根据所述第二组出现概率值,确定所述待筛选数据的第二评分值;
根据所述第一评分值和第二评分值,确定所述待筛选数据是否为属于所述预定业务领域的业务数据。
2.根据权利要求1所述的方法,其中:
所述第一语言模型是利用属于通用领域的数据样本训练获得的;
所述第二语言模型是利用属于预定业务领域的数据样本训练获得的。
3.根据权利要求2所述的方法,其中:
用于训练第一语言模型的数据样本的数量级与用于训练第二语言模型的数据样本的数量级相同;和/或
所述用于训练第一语言模型的数据样本所包含的词数量,与用于训练第二语言模型的数据样本的数据样本所包含的词数量的差值不大于预定数量。
4.根据权利要求1至3中任一项所述的方法,其中,所述根据所述第一组出现概率值,确定所述待筛选数据的第一评分值,包括:
根据所述第一语言模型输出的所述待筛选数据中所有词的第一组出现概率值,确定待筛选数据的第一交叉熵;
基于所述第一交叉熵确定所述待筛选数据的第一评分值;
所述根据所述第二组出现概率值,确定所述待筛选数据的第二评分值,包括:
根据所述第二语言模型输出的所述待筛选数据中所有词的第二组出现概率值,确定待筛选数据的第二交叉熵;
基于所述第二交叉熵确定所述待筛选数据的第二评分。
5.根据权利要求4所述的方法,其中,所述基于所述第一交叉熵确定所述待筛选数据的第一评分值,包括:
根据所述第一交叉熵确定所述待筛选数据的第一困惑度;
基于所述第一困惑度确定所述待筛选数据的第一评分值;
所述基于所述第二交叉熵确定所述待筛选数据的第二评分值,包括:
根据所述第二交叉熵确定所述待筛选数据的第二困惑度;
基于所述第二困惑度确定所述待筛选数据的第二评分值。
6.根据权利要求1至5中任一项所述的方法,其中,所述根据所述第一评分值和第二评分值,确定所述待筛选数据是否为属于所述预定业务领域的业务数据,包括:
计算所述第一评分值和第二评分值的差值;
在所述差值与第一阈值的大小关系满足第一预设要求的情况下,确定所述待筛选数据为属于所述预定业务领域的业务数据。
7.根据权利要求1至5中任一项所述的方法,其中,所述根据所述第一评分值和第二评分值,确定所述待筛选数据是否为属于所述预定业务领域的业务数据,包括:
计算所述第一评分值和第二评分值的差值;
在所述差值与第一阈值的大小关系满足第一预设要求,且所述第二评分值与第二阈值的大小关系满足第二预设要求的情况下,确定所述待筛选数据为属于所述预定业务领域的业务数据。
8.根据权利要求1至5中任一项所述的方法,其中,所述根据所述第一评分值和第二评分值,确定所述待筛选数据是否为属于所述预定业务领域的业务数据,包括:
针对所述第二评分值与第二阈值的大小关系满足第二预设要求的待筛选数据,计算该待筛选数据的第一评分值和第二评分值的差值;
在所述差值与第一阈值的大小关系满足第一预设要求的情况下,确定该待筛选数据为属于所述预定业务领域的业务数据。
9.一种基于语言模型的业务数据筛选装置,包括:
第一获取模块,用于将属于通用领域的待筛选数据输入至所述通用领域对应的第一语言模型,得到所述待筛选数据中至少一个词的第一组出现概率值;
第二获取模块,用于将所述属于通用领域的待筛选数据输入至预定业务领域对应的第二语言模型,得到所述待筛选数据中至少一个词的第二组出现概率值;
第一评分模块,用于根据所述第一获取模块得到的第一组出现概率值,确定所述待筛选数据的第一评分值;
第二评分模块,用于根据所述第二获取模块得到的第二组出现概率值,确定所述待筛选数据的第二评分值;
筛选模块,用于根据所述第一评分模块确定出的第一评分值和所述第二评分模块确定出的第二评分值,确定所述待筛选数据是否为属于所述预定业务领域的业务数据。
10.根据权利要求9所述的装置,其中,所述第一评分模块进一步用于:
根据所述第一语言模型输出的所述待筛选数据中所有词的第一组出现概率值,确定待筛选数据的第一交叉熵;
基于所述第一交叉熵确定所述待筛选数据的第一评分值;
所述第二评分模块进一步用于:
根据所述第二语言模型输出的所述待筛选数据中所有词的第二组出现概率值,确定待筛选数据的第二交叉熵;
基于所述第二交叉熵确定所述待筛选数据的第二评分。
11.根据权利要求10所述的装置,其中,所述第一评分模块进一步用于:
将所述第一交叉熵作为所述待筛选数据的第一评分值;或者
根据所述第一交叉熵确定定所述待筛选数据的第一困惑度,将所述第一困惑度作为所述待筛选数据的第一评分值;
所述第二评分模块进一步用于:
将所述第一交叉熵作为所述待筛选数据的第二评分值;或者
根据所述第二交叉熵确定所述待筛选数据的第二困惑度,将所述第二困惑度作为所述待筛选数据的第二评分值。
12.根据权利要求9至11中任一项所述的装置,其中,所述筛选模块包括:
计算子模块,用于计算所述第一评分值和第二评分值的差值;
筛选子模块,用于在所述计算子模块计算出的差值与第一阈值的大小关系满足第一预设要求,且所述第二评分值与第二阈值的大小关系满足第二预设要求的情况下,确定所述待筛选数据为属于所述预定业务领域的业务数据。
13.一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于执行上述权利要求1-8任一项所述的方法。
14.一种电子设备,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于执行上述权利要求1-8任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910262775.9A CN111767712A (zh) | 2019-04-02 | 2019-04-02 | 基于语言模型的业务数据筛选方法和装置、介质、设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910262775.9A CN111767712A (zh) | 2019-04-02 | 2019-04-02 | 基于语言模型的业务数据筛选方法和装置、介质、设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111767712A true CN111767712A (zh) | 2020-10-13 |
Family
ID=72717997
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910262775.9A Pending CN111767712A (zh) | 2019-04-02 | 2019-04-02 | 基于语言模型的业务数据筛选方法和装置、介质、设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111767712A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113761944A (zh) * | 2021-05-20 | 2021-12-07 | 腾讯科技(深圳)有限公司 | 翻译模型的训练语料处理方法、装置、设备和存储介质 |
WO2023093015A1 (zh) * | 2021-11-23 | 2023-06-01 | 北京百度网讯科技有限公司 | 一种数据筛选方法、装置、设备以及存储介质 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105243389A (zh) * | 2015-09-28 | 2016-01-13 | 北京橙鑫数据科技有限公司 | 公司名称的行业分类标签的确定方法和装置 |
CN106095742A (zh) * | 2016-06-20 | 2016-11-09 | 北京金山安全软件有限公司 | 一种文本内容生成方法与服务器 |
CN106294307A (zh) * | 2015-05-15 | 2017-01-04 | 北京国双科技有限公司 | 语料筛选方法及装置 |
CN106297800A (zh) * | 2016-08-10 | 2017-01-04 | 中国科学院计算技术研究所 | 一种自适应的语音识别的方法和设备 |
CN107885883A (zh) * | 2017-12-01 | 2018-04-06 | 北京国信宏数科技有限公司 | 一种基于社会媒体的宏观经济领域情感分析方法及系统 |
CN108536800A (zh) * | 2018-04-03 | 2018-09-14 | 有米科技股份有限公司 | 文本分类方法、系统、计算机设备和存储介质 |
CN108962224A (zh) * | 2018-07-19 | 2018-12-07 | 苏州思必驰信息科技有限公司 | 口语理解和语言模型联合建模方法、对话方法及系统 |
CN109412900A (zh) * | 2018-12-04 | 2019-03-01 | 腾讯科技(深圳)有限公司 | 一种网络状态识别的方法、模型训练的方法及装置 |
CN109523991A (zh) * | 2017-09-15 | 2019-03-26 | 阿里巴巴集团控股有限公司 | 语音识别的方法及装置、设备 |
CN109543041A (zh) * | 2018-11-30 | 2019-03-29 | 安徽听见科技有限公司 | 一种语言模型得分的生成方法及装置 |
-
2019
- 2019-04-02 CN CN201910262775.9A patent/CN111767712A/zh active Pending
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106294307A (zh) * | 2015-05-15 | 2017-01-04 | 北京国双科技有限公司 | 语料筛选方法及装置 |
CN105243389A (zh) * | 2015-09-28 | 2016-01-13 | 北京橙鑫数据科技有限公司 | 公司名称的行业分类标签的确定方法和装置 |
CN106095742A (zh) * | 2016-06-20 | 2016-11-09 | 北京金山安全软件有限公司 | 一种文本内容生成方法与服务器 |
CN106297800A (zh) * | 2016-08-10 | 2017-01-04 | 中国科学院计算技术研究所 | 一种自适应的语音识别的方法和设备 |
CN109523991A (zh) * | 2017-09-15 | 2019-03-26 | 阿里巴巴集团控股有限公司 | 语音识别的方法及装置、设备 |
CN107885883A (zh) * | 2017-12-01 | 2018-04-06 | 北京国信宏数科技有限公司 | 一种基于社会媒体的宏观经济领域情感分析方法及系统 |
CN108536800A (zh) * | 2018-04-03 | 2018-09-14 | 有米科技股份有限公司 | 文本分类方法、系统、计算机设备和存储介质 |
CN108962224A (zh) * | 2018-07-19 | 2018-12-07 | 苏州思必驰信息科技有限公司 | 口语理解和语言模型联合建模方法、对话方法及系统 |
CN109543041A (zh) * | 2018-11-30 | 2019-03-29 | 安徽听见科技有限公司 | 一种语言模型得分的生成方法及装置 |
CN109412900A (zh) * | 2018-12-04 | 2019-03-01 | 腾讯科技(深圳)有限公司 | 一种网络状态识别的方法、模型训练的方法及装置 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113761944A (zh) * | 2021-05-20 | 2021-12-07 | 腾讯科技(深圳)有限公司 | 翻译模型的训练语料处理方法、装置、设备和存储介质 |
CN113761944B (zh) * | 2021-05-20 | 2024-03-15 | 腾讯科技(深圳)有限公司 | 翻译模型的训练语料处理方法、装置、设备和存储介质 |
WO2023093015A1 (zh) * | 2021-11-23 | 2023-06-01 | 北京百度网讯科技有限公司 | 一种数据筛选方法、装置、设备以及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109445884B (zh) | 一种功能标签展示方法及终端设备 | |
CN110597965B (zh) | 文章的情感极性分析方法、装置、电子设备及存储介质 | |
CN109885834B (zh) | 一种用户年龄性别的预测方法及装置 | |
CN112612887A (zh) | 日志处理方法、装置、设备和存储介质 | |
CN111738596A (zh) | 工单派发方法及装置 | |
CN111767712A (zh) | 基于语言模型的业务数据筛选方法和装置、介质、设备 | |
CN111159481B (zh) | 图数据的边预测方法、装置及终端设备 | |
CN111179055B (zh) | 授信额度调整方法、装置和电子设备 | |
US20220391672A1 (en) | Multi-task deployment method and electronic device | |
CN109828859A (zh) | 移动终端内存分析方法、装置、存储介质及电子设备 | |
CN112070545A (zh) | 用于优化信息触达的方法、装置、介质和电子设备 | |
CN113114540B (zh) | 一种带宽预测器的设置、服务调整方法及相关装置 | |
US11620049B2 (en) | Method, electronic device and computer program product for managing storage space | |
EP3399483A1 (en) | Ticket routing | |
CN113033346A (zh) | 文本检测方法、装置和电子设备 | |
CN111626898B (zh) | 用于实现事件归因的方法、装置、介质和电子设备 | |
US8918406B2 (en) | Intelligent analysis queue construction | |
CN113408070A (zh) | 发动机参数的确定方法、装置、设备及存储介质 | |
CN112116397A (zh) | 用户行为特征实时处理方法、装置、存储介质及电子设备 | |
KR102464688B1 (ko) | 모니터링 결과의 이벤트 등급 결정 방법 및 장치 | |
CN113961765B (zh) | 基于神经网络模型的搜索方法、装置、设备和介质 | |
CN113704566B (zh) | 识别号主体识别方法、存储介质和电子设备 | |
CN109872183A (zh) | 智能服务评价方法、计算机可读存储介质和终端设备 | |
CN109285559B (zh) | 角色转换点检测方法及装置、存储介质、电子设备 | |
CN110674839B (zh) | 异常用户识别方法、装置、存储介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |