CN112560912A - 分类模型的训练方法、装置、电子设备和存储介质 - Google Patents

Abstract

本申请公开了分类模型的训练方法、装置、电子设备和存储介质，涉及计算机技术领域，具体涉及深度学习、知识图谱和自然语言处理等人工智能技术领域。具体实现方案为：获取初始样本集，其中，初始样本集中包括多个类型标签、及与每个类型标签对应的标注数据集；根据初始样本集中的类型标签的数量、和/或各个类型标签对应的各个标注数据集间的差异性，对初始样本集进行预处理，以生成目标样本集；基于目标样本集对预训练模型进行训练，以生成与多个类型标签对应的第一分类模型。该方法通过预训练模型可训练得到不同分类任务下的分类模型，具有快速跨行业迁移能力，且模型具备自动调优能力，减少了对训练数据的要求和人的依赖，降低了人工成本。

Description

分类模型的训练方法、装置、电子设备和存储介质

技术领域

本申请涉及计算机技术领域，具体涉及深度学习、知识图谱和自然语言处理等人工智能技术领域，尤其涉及一种分类模型的训练方法、装置、电子设备和存储介质。

背景技术

分类问题是人工智能领域比较常见的问题之一，分类问题可以应用在不同行业的多种使用场景中，例如垃圾邮件识别、评论情感分析等。

如何快速、低成本地获取各个分类场景的分类模型，是亟待解决的问题。

发明内容

本申请提供一种分类模型的训练方法、装置、电子设备和存储介质。

根据本申请的一方面，提供了一种分类模型的训练方法，包括：

获取初始样本集，其中，所述初始样本集中包括多个类型标签、及与每个所述类型标签对应的标注数据集；

根据所述初始样本集中的所述类型标签的数量、和/或各个所述类型标签对应的各个标注数据集间的差异性，对所述初始样本集进行预处理，以生成目标样本集；

基于所述目标样本集对预训练模型进行训练，以生成与所述多个类型标签对应的第一分类模型。

根据本申请的另一方面，提供了一种分类模型的训练装置，包括：

获取模块，用于获取初始样本集，其中，所述初始样本集中包括多个类型标签、及与每个所述类型标签对应的标注数据集；

生成模块，用于根据所述初始样本集中的所述类型标签的数量、和/或各个所述类型标签对应的各个标注数据集间的差异性，对所述初始样本集进行预处理，以生成目标样本集；

训练模块，用于基于所述目标样本集对预训练模型进行训练，以生成与所述多个类型标签对应的第一分类模型。

根据本申请的另一方面，提供了一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述一方面实施例所述的分类模型的训练方法。

根据本申请另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其上存储有计算机程序，所述计算机指令用于使所述计算机执行上述一方面实施例所述的分类模型的训练方法。

上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。

附图说明

附图用于更好地理解本方案，不构成对本申请的限定。其中：

图1为本申请实施例提供的一种分类模型的训练方法的流程示意图；

图2为本申请实施例提供的另一种分类模型的训练方法的流程示意图；

图3为本申请实施例提供的另一种分类模型的训练方法的流程示意图；

图4为本申请实施例提供的另一种分类模型的训练方法的流程示意图；

图5为本申请实施例提供的另一种分类模型的训练方法的流程示意图；

图6为本申请实施例提供的另一种分类模型的训练方法的流程示意图；

图7为本申请实施例提供的一种分类模型的训练装置的结构示意图；

图8为根据本申请实施例的分类模型的训练方法的电子设备的框图。

具体实施方式

以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

人工智能是研究使用计算机类模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括传感器、专用人工智能芯片、云计算、分布式存储、深度学习、大数据处理技术、知识图谱技术等几大方向。

NLP(Natural Language Processing，自然语言处理)是计算机科学领域与人工智能领域中的一个重要方向，NLP研究的内容包括但不限于如下分支领域：文本分类、信息抽取、自动摘要、智能问答、话题推荐、机器翻译、主题词识别、知识库构建、深度文本表示、命名实体识别、文本生成、文本分析(词法、句法、语法等)、语音识别与合成等。

深度学习是机器学习领域中一个新的研究方向。深度学习是学习样本数据的内在规律和表示层次，这些学习过程中获得的信息对诸如文字，图像和声音等数据的解释有很大的帮助。它的最终目标是让机器能够像人一样具有分析学习能力，能够识别文字、图像和声音等数据。

下面参考附图描述本申请实施例的分类模型的训练方法、装置、电子设备和存储介质。

图1为本申请实施例提供的一种分类模型的训练方法的流程示意图。

本申请实施例的分类模型的训练方法，可由本申请实施例提供的分类模型的训练装置执行，该装置可配置于电子设备中，以实现利用预训练模型获取分类模型和模型的自动调优。

如图1所示，该分类模型的训练方法包括：

步骤101，获取初始样本集，其中，初始样本集中包括多个类型标签、及与每个类型标签对应的标注数据集。

本实施例中，可针对某个分类场景，获取该分类场景对应的初始样本集。其中，初始样本集中包括多个类型标签、及每个类型标签对应的标注数据集。其中，每个标注数据集包括多条标注数据。这里的分类场景可以是垃圾邮件分类、评论情感分类等场景。

比如，对于垃圾邮件分类场景，有两个类型标签是和否，则获取类型标签为是的标注数据1000条，和标注为否的标注数据600条等。

本实施例中，初始样本集中包括的标注数据也可以是图像数据、语音数据、文本数据、视频数据等中的一种或几种，从而针对不同的应用领域，可根据相应应用领域的数据得到的初始样本集，训练对应的分类模型。

步骤102，根据初始样本集中的类型标签的数量、和/或各个类型标签对应的各个标注数据集间的差异性，对初始样本集进行预处理，以生成目标样本集。

在实际应用中，某些场景下某种类型标签的标注数据的数量可能会比较少，导致样本不均衡，或者类型标签的数量比多等等，这些会影响模型的训练速度、训练效果等。

为了提高模型的训练速度、训练效果和减少对人的依赖，本实施例中，在获取初始样本集后，可根据初始样本集中的类型标签的数量、或各个类型标签对应的各个标注数据集间的差异性，或者初始样本集中的类型标签的数量和各个类型标签对应的各个标注数据集间的差异性，对初始样本集进行预处理，生成目标样本集。

比如，某分类场景的分类数量比较多，那么直接利用初始样本集进行训练，训练速度较慢，则可对初始样本集进行预处理。又如，为了提高标注的准确性，一条标注数据可能由多个人进行标注，则该标注数据具有多个类型标签，这时可将标注数量最多的类型标签，作为该标注数据的类型标签。

举例来讲，某标注数据被标注为5个A类型标签和1个B类型标签，那么该标注数据对应的目标类型标签为A。

本实施例中，目标样本集包括的类型标签的数量与初始样本集相同，且目标样本集也包括每个类型标签对应的标注数据集。

步骤103，基于目标样本集对预训练模型进行训练，以生成与多个类型标签对应的第一分类模型。

本实施例中，可预先利用全领域的语料进行预训练，得到一个具有全领域知识特征的预训练模型。为了提高模型效果，在训练时，可采用深度学习训练得到预训练模型。

在获取目标样本集后，利用目标样本集中的各个类型标签的标注数据，对预训练模型进行训练，得到与多个类型标签对应的分类模型，为了便于区分，这里称为第一分类模型。其中，第一分类模型的对应的分类数量与初始样本集中类型标签的数量相同。

具体地，可将每个类型标签对应的标注数据输入至预训练模型中，通过预训练模型进行编码和解码，输出每条标注数据对应的预测标签，根据预测标签与标注的类型标签之间的差异，调整预训练模型的参数，直至模型的准确性满足要求，得到第一分类模型。

比如，某分类场景指定5种分类，获取该分类场景的初始样本集，初始样本集中包括5种类型标签，以及每个类型标签对应的标签数据集。根据初始样本集中的类型标签的数量、和/或各个类型标签对应的各个标注数据集间的差异性，对初始样本集预处理后，得到目标样本集，利用目标样本集对预训练模型进行训练，得到该分类场景的分类模型，该分类模型对应的分类数量是5。

本实施例中，通过预训练模型可以训练得到不同分类任务下的分类模型，具有快速跨行业迁移能力。

可以理解的是，也可以直接利用获取的初始样本集对预训练模型进行训练，得到分类模型。那么对于一个场景分类任务，用户只需要定义分类目标(比如是、否垃圾邮件；评论为好评、中评、差评)，并在每个分类目标下标注小量标注数据，即可利用分类任务对应的样本集，对预训练模型进行训练，得到一个特定领域的分类模型。

本申请实施例的分类模型的训练方法，可应用于文本分类，比如垃圾邮件识别、评论情感分析等等。

本申请实施例中，通过获取初始样本集，其中，初始样本集中包括多个类型标签、及与每个类型标签对应的标注数据集，并根据初始样本集中的类型标签的数量、和/或各个类型标签对应的各个标注数据集间的差异性，对初始样本集进行预处理，以生成目标样本集，基于目标样本集对预训练模型进行训练，以生成与多个类型标签对应的第一分类模型。由此，通过预训练模型可以训练得到不同分类任务下的分类模型，具有快速跨行业迁移能力，并且对分类任务对应的初始样本集进行预处理，使得模型具备自动调优能力，减少了对训练数据的要求和人的依赖，降低了人工成本。

在实际应用中，分类训练难度会随着分类数量的增加而增加，因此当某分类任务对应的分类数量比较多时，如果直接利用初始样本集进行训练，训练难度会比较大，从而影响训练速度。基于此，在本申请的一个实施例中，可采用图2的方式获取第一分类模型。图2为本申请实施例提供的另一种分类模型的训练方法的流程示意图。

如图2所示，该分类模型的训练方法包括：

步骤201，获取初始样本集，其中，初始样本集中包括多个类型标签、及与每个类型标签对应的标注数据集。

本实施例中，步骤201与上述步骤101类似，故在此不再赘述。

步骤202，在初始样本集中的类型标签的数量大于第一阈值的情况下，根据每个类型标签对应的标注数据集间的关联度，将多个类型标签进行聚类，以确定多个簇标签、及每个簇标签对应的标注数据集。

本实施例中，在获取初始样本集后，判断类型标签的数量是否大于第一阈值。其中，第一阈值可以是根据实际需要设定的。

在初始样本集中的类型标签的数量大于第一阈值的情况下，可以认为类型标签的数量较多，那么可获取每个类型标签对应的标注数据集间的关联度，根据标注数据集间的关联度，利用聚类算法，将多个类型标签进行聚类，得到多个簇标签及每个簇标签对应的标注数据集。

其中，标注数据集间的关联度，可以是属于不同标注数据集中的标注数据之间的关联度的平均值。具体地，可根据各标注数据对应的向量，计算分别属于不同标注数据集的两个标注数据间的关联度，将得到的两两标注数据间的关联度的平均值，作为两个标注数据集间的关联度，如果关联度大于设定的阈值，可将两个标注数据集聚类到同一类中。

比如，初始样本集包括200个类型标签，每个类型标签对应100条标注数据，那么可利用K-means聚类算法(K-means clustering algorithm，K均值聚类算法)将标注数据自动聚类到5个小类，即获取5个簇标签，其中，每个簇标签对应40个类型标签。

本实施例中，当初始样本集中的类型标签的数量大于第一阈值时，通过根据每个类型标签对应的标注数据集间的关联度，将多个类型标签聚类，得到多个簇标签，从而降低分类数量。

步骤203，基于多个簇标签、及每个簇标签对应的标注数据集，对预训练模型进行训练，以生成与多个簇标签对应的第二分类模型。

本实施例中，可将每个簇标签对应的标注数据集中的标注数据，输入至预训练模型中，通过预训练模型预测标注数据的簇标签，并根据预测的簇标签和标注数据对应的簇标签之间的差异，调整预训练模型的参数，并利用调整后的参数继续训练，直至模型的准确性满足求，得到与多个簇标签对应的第二分类模型。

其中，第二分类模型对应的分类数量与簇标签的数量相同。

步骤204，基于每个簇标签中包含的类型标签及每个类型标签对应的标注数据集，对第二分类模型进行训练，以生成与多个类型标签对应的第二分类模型。

本实施例中，在获取多个簇标签对应的第二分类模型后，将每个簇标签包含的每个类型标签对应的标注数据集中的标注数据，输入至第二分类模型，第二分类模型输出标注数据的预测标签，根据预测标签和类型标签之间的差异，调整第二分类模型的参数，利用调整后的参数继续训练，直至模型的准确性满足要求，生成与多个类型标签对应的第二分类模型。

本实施例中，当分类数量超过第一阈值时，自动聚类进行分类数量规模的缩小，在缩小分类规模后，进行簇标签下的训练，得到多个簇标签对应的第二分类模型后，再对第二分类模型进行训练，得到多个类型标签对应的第一分类模型。

本申请实施例中，在对初始样本集进行预处理时，可在初始样本集中的类型标签的数量大于第一阈值的情况下，根据每个类型标签对应的标注数据集间的关联度，将多个类型标签进行聚类，以确定多个簇标签、及每个簇标签对应的标注数据集；在生成与多个簇标签对应的第二分类模型时，可基于多个簇标签、及每个簇标签对应的标注数据集，对预训练模型进行训练，以生成与多个簇标签对应的第二分类模型，并基于每个簇标签中包含的类型标签及每个类型标签对应的标注数据集，对第二分类模型进行训练，以生成与多个类型标签对应的第二分类模型。由此，通过在分类数量较多时，对多个类型标签进行聚类，得到簇标签及每个簇标签对应的标注数据集，以缩小分类规模，在训练时，先训练得到多个簇标签对应的分类模型，在多个簇标签对应的分类模型基础上继续训练，得到多个类型标签对应的分类模型，从而通过分级训练，降低了模型的训练难度，提高了训练速度，实现了模型自动调优。

在实际应用中，人工标注数据可能会存在错误，即标注数据可能存在质量问题。基于此，为了提高分类模型的效果，在本申请的一个实施例中，在某标注数据对应多个类型标签、且多个类型标签之间的相似度较小时，可根据基于语义空间距离，确定该标注数据对应的目标类型标签，以生成目标样本集。下面结合图3进行说明，图3为本申请实施例提供的另一种分类模型的训练方法的流程示意图。

如图3所示，上述根据初始样本集中的所述类型标签的数量、和/或各个类型标签对应的各个标注数据集间的差异性，对初始样本集进行预处理，包括：

步骤301，在任一标注数据对应至少两个类型标签、且至少两个类型标签间的相似度小于第二阈值的情况下，根据至少两个类型标签分别对应的其余标注数据，确定至少两个类型标签分别对应的第一语义空间。

本实施例中，在获取初始样本集后，针对初始样本集中每个标注数据，可获取每个标注数据对应的类型标签的数量。当任一标注数据对应至少两个类型标签，计算至少两个类型标签之间的相似度。若至少两个类型标签间的相似度小于第二阈值，说明任一标注数据对应的类型标签之间的差异比较大，可以认为任一标注数据对应的多个类型标签存在冲突，则可根据至少两个类型标签分别对应的其余标注数据，即根据任一标注数据对应的每个类型标签对应的其余标注数据，确定至少两个类型标签分别对应的语义空间，为了便于区分，这里称为第一语义空间。

其中，至少两个类型标签间的相似度，是指两两类型标签之间的相似度，具体地可根据类型标签对应的向量计算得到；至少两个类型标签间的相似度小于第二阈值，可以是指任一两两类型标签之间的相似度小于第二阈值。

本实施例中，至少两个类型标签分别对应的其余标注数据，这里的其余标注数据，其对应的类型标签可以是为至少两个类型标签中的一个，也可以是对应多个类型标签，但多个类型标签间的相似度大于第二阈值。

步骤302，确定任一标注数据对应的第二语义空间。

本实施例中，可根据任一标注数据，确定任一标注数据对应的语义空间，这里称为第二语义空间。

步骤303，根据第二语义空间分别与每个第一语义空间的距离，确定任一标注数据对应的目标类型标签。

在获取至少两个类型标签中每个类型标签对应的第一语义空间，以及任一标注数据对应的第二语义空间后，计算第二语义空间分别与每个类型标签对应的第一语义空间之间的距离，可将距离最小的类型标签，作为任一标注数据对应的目标类型标签，将其余类型标签舍弃。

比如，某分类任务对应的分类为好评、中评和差评，某标注数据对应2个好评和2个差评，由于好评和差评之间的相似度较低，可根据类型标签为好评的标注数据，确定好评对应的语义空间，并根据类型标签为差评的标注数据，确定差评对应的语义空间，以及确定该标注数据对应的语义空间。并且计算该标注数据对应的语义空间，分别与好评对应的语义空间和差评对应的语义空间的距离，将距离最小的类型标签，作为该标注数据的类型标签，另一个类型标签舍弃。

在具体实现时，任一标注数据对应的至少两个类型标签中，可能存在一个类型标签对应多条标注。若任一标注数据对应的至少两个类型标签中，存在一个类型标签对应的标注数量远大于其他类型标签的标注数量，可将该类型标签，直接作为任一标注数据对应的目标类型标签。若每个类型标签对应的标注数量接近，则采用上述图3所示的方法确定目标类型标签。

比如，某标注数据对应5个好评和1个差评，则可将好评作为该标注数据的类型标签。若对应2个好评和2个差评，则采用上述图3所示的方法确定该标注数据的目标类型标签。

本实施例中，可对初始样本集中，满足对应至少两个类型标签、且至少两个类型标签间的相似度小于第二阈值的标签数据，进行上述处理，生成目标样本集，从而使得目标样本集中的标注数据对应的类型标签不存在冲突的问题。

在生成目标样本集后，可利用目标样本集对预训练模型进行训练，生成第一分类模型。具体地的训练方法，可参见上述实施例，故在此不再赘述。

可以理解的是，若初始样本集包括的类型标签的数量大于第一阈值，可在利用图3所示的方法生成目标样本集后，采用图2所示的分级训练方法，得到第一分类模型。

本申请实施例中，在对初始样本集进行预处理时，在任一标注数据对应至少两个类型标签、且至少两个类型标签间的相似度小于第二阈值的情况下，可根据至少两个类型标签分别对应的其余标注数据，确定至少两个类型标签分别对应的第一语义空间，以及确定任一标注数据对应的第二语义空间，并根据第二语义空间分别与每个第一语义空间的距离，确定任一标注数据对应的目标类型标签。由此，当标注数据对应的类型标签之间存在冲突时，可基于语义空间计算距离，根据距离确定标注数据的目标类型标签，以解决类型标签冲突问题，提高了训练数据的质量，从而提高了分类模型的效果。

在实际应用中，某些场景存在每个类型标签对应的标注数据的数量不同的问题，即存在样本不均衡的问题。基于此，为了提高分类模型的准确性，在本申请的一个实施例中，可对标注数据集进行扩充。下面结合图4进行说明，图4为本申请实施例提供的另一种分类模型的训练方法的流程示意图。

如图4所示，上述根据初始样本集中的类型标签的数量、和/或各个类型标签对应的各个标注数据集间的差异性，对初始样本集进行预处理，也可包括：

步骤401，在至少一个标注数据集中标注数据的数量，与其余各标注数据集中标注数据的数量间的差值绝对值均大于第三阈值的情况下，将至少一个标注数据集中的每个标注数据进行切词处理，以确定至少一个标注数据集中包含的各个分词。

本实施例中，在获取初始样本集后，可根据各个标注数据集中标注数据的数量，计算标注数据集间标注数据的数量的差值绝对值，并将差值绝对值与第三阈值进行比较，以确定各个差值绝对值是否大于第三阈值。

在至少一个标注数据集中标注数据的数量，与其余各标注数据集中标注数据的数量间的差值绝对值均大于第三阈值的情况下，说明至少一个标注数据集中标注数据的数量，相对其余标注数据集中标注数据的数量较少，可对至少一个标注数据集中每个标注数据进行切词处理，以得到至少一个标注数据集中包含的各个分词，从而将标注数据切分为更细粒度的分词。

在进行切词处理时，可采用基于字符串匹配的分词方法、基于统计的分词方法等NLP方法，对标注数据进行切词处理。

步骤402，确定各个分词在各个标注数据集中出现的次数。

在获取至少一个标注数据集中包含的各个分词后，统计每个分词在初始样本集中各个标注数据集出现的次数。

步骤403，根据每个分词在各个标注数据集中出现的次数，确定每个分词分别与每个标注数据集的关联度。

本实施例中，可预先建立出现次数与关联度的对应关系。在确定每个分词在各个标注数据集出现的次数后，可根据每个分词在每个标注数据集出现的次数，及出现次数与关联度的对应关系，确定每个分词分别与每个标注数据集的关联度。其中，分词在标注数据集中出现的次数越多，分词与标注数据集的关联度越高。

步骤404，将每个分词及与每个标注数据集的关联度，加入对应标注数据集中，以生成目标样本集。

本实施例中，针对每个分词，可将每个分词及与每个标注数据集的关联度，加入对应标注数据集中，以生成目标样本集。或者，也可将与标注数据集的关联度大于预设阈值的分词，及该分词与标注数据集的关联度，加入标注数据集中。或者，也可将分词及与标注数据集的关联度，分别加入到关联度最高的预设数量的标注数据集中。

本实施例中，将分词加入到对应的标注数据集中，可以扩充标注数据的数量。比如，某标注数据集中标注数据的数量原本是50，加入了50个分词，加入分词后该标注数据集中标注数据的数量变为100，从而会减轻样本不均衡带来的影响。

在获取目标样本集后，可根据目标样本集对预训练模型进行训练，使得模型可以学习到分词的特征，提高了第一分类模型的准确性。

本申请实施例中，除了可以用上述方式扩充外，还可以用同义词替换、词向量替换、或者用过采样等方式来补齐。

作为一个示例，可通过融合空间语义向量构造标注数据，具体地，根据预置的语言模型及对应的空间向量，选取向量的同义表示补充标注数据集。例如，选择标注数据的语言同义词进行样本补充、添加无影响的感叹词、介词等进行标注数据的补充、根据整篇标注文本的空间向量表示进行向量维度的同义扩充等等。

作为另一个示例，可选用过采样方式进行样本均衡，具体地，当各个类型标签对应的标注数据的数量不均衡时，可以最高的标注数据的数量为基线，将低数量的标注数据，通过人工随机补齐至基线数量。例如，某分类任务中，类型标签a的标注数据是10000个，类型标签b的标注数据是100个，可将类型标签b的标注数据100个随机取样至10000个。

本申请实施例中，在对初始样本集进行预处理时，在至少一个标注数据集中标注数据的数量，与其余各标注数据集中标注数据的数量间的差值绝对值均大于第三阈值的情况下，将至少一个标注数据集中的每个标注数据进行切词处理，以确定至少一个标注数据集中包含的各个分词，并确定各个分词在各个标注数据集中出现的次数，根据每个分词在各个标注数据集中出现的次数，确定每个分词分别与每个标注数据集的关联度，并将每个分词及与每个标注数据集的关联度，加入对应标注数据集中，以生成目标样本集。由此，在某一个或多个类型标签对应的标注数据的数量较少时，通过对这些标注数据进行切词处理，得到更细粒度的分词，并将分词及分词与标注数据集间的关联度，加入到对应的标注数据集中，从而模型可自动以分词粒度建模，学习每个分词上的特征和对类型标签的贡献，解决了样本不均衡导致的模型不准确的问题。

在实际应用中，通常由人工进行数据标注，当待标注的数据较多时，人工成本较高。为了降低人工成本，在本申请的一个实施例中，可通过图5所示的方法训练预训练模型，得到第一分类模型。图5为本申请实施例提供的另一种分类模型的训练方法的流程示意图。

如图5所示，上述基于目标样本集对预训练模型进行训练，以生成与多个类型标签对应的第一分类模型，包括：

步骤501，基于目标样本集对预训练模型进行训练，以生成与多个类型标签对应的初始分类模型。

本实施例中，可将目标样本集中每个类型标签对应的标注数据集中的标注数据，输入至预训练模型中，预训练模型输出标注数据的预测标签，根据预测标签和标注数据的类型标签之间的差异，调整预训练模型的参数，利用调整后的参数继续训练，生成与多个类型标签对应的初始分类模型。

步骤502，基于预设的测试数据集对初始分类模型进行测试，以确定初始分类模型的准确性。

本实施例中，在获取初始分类模型后，可将预设的测试数据集中的标注数据，输入至初始分类模型，以获取标注数据的预测标签，根据预测标签与类型标签之间的差异，确定初始分类模型的准确性。

步骤503，在初始分类模型的准确性大于第四阈值的情况下，利用初始分类模型，对未标注数据集中的各个未标注数据进行处理，以确定每个未标注数据对应的预测标签。

本实施例中，将初始分类模型的准确性与第四阈值进行比较，若初始分类模型的准确性大于第四阈值，可以认为初始分类模型的准确性比较高，这时可将未标注数据集中的各个未标注数据逐一输入至初始分类模型中，通过初始分类模型预测每个未标注数据的类型标签，以获取每个未标注数据对应的预测标签。由此，可将预测标签作为未标注数据的类型标签，实现对未标注数据的自动标注。

步骤504，利用各个预测标签对应预设数量的未标注数据，对目标样本集进行更新，以利用更新后的目标样本集对初始分类模型继续进行训练，直至生成第一分类模型。

本实施例中，在获取未标注数据集中每个未标注数据的预测标签后，针对每个预测标签可抽取预设数量的未标注数据，可将抽取的未标注数据及对应的预测标签，构成一个预测标签对应的数据集，添加至目标样本集中，以对目标样本集进行更新。其中，预设数量可根据实际需要确定。

在对目标样本集进行更新后，可利用更新后的目标样本集中各个标注数据和预测标签对应的数据集中的数据，对初始分类模型继续训练，直至模型的准确性满足要求，生成第一分类模型。

比如，某分类任务的类型标签包括c和d两个，未标注数据为500个，初始分类模型确定300个未标注数据的预测标签为c，200个未标注数据的预测标签为d，并按照20％的比例对300个未标注数据和200个未标注数据进行抽样，抽取60个预测标签为a的未标注数据和40个预测标签为b的未标注数据，加入目标样本集中，利用更新后的目标样本集训练初始分类模型。

本申请实施例中，通过基于目标样本集对预训练模型进行训练，生成初始分类模型，在初始分类模型的准确性大于第四阈值的情况下，利用初始分类模型对未标注数据的类型进行预测，得到每个未标注数据的预测标签，抽取各个预测标签对应预设数量的未标注数据，更新目标样本集，以增加目标样本集的数据量，利用更新后的目标样本集对初始分类模型继续训练，从而可以利用初始分类模型对未标注数据进行标注，丰富了目标样本集的数据量，提高了分类模型的准确性。

为了进一步提高模型的准确性，在上述利用各个类型标签对应的预设数量的未标注数据对初始分类模型进行训练后，可根据训练前后模型的准确性，确定是否需要重新选取未标注数据进行训练，实现了模型自动调优。下面结合图6进行说明，图6为本申请实施例提供的另一种分类模型的训练方法的流程示意图。

如图6所示，上述基于目标样本集对预训练模型进行训练，以生成与多个类型标签对应的第一分类模型，包括：

步骤601，基于目标样本集对预训练模型进行训练，以生成与多个类型标签对应的初始分类模型。

步骤602，基于预设的测试数据集对初始分类模型进行测试，以确定初始分类模型的准确性。

步骤603，在初始分类模型的准确性大于第四阈值的情况下，利用初始分类模型，对未标注数据集中的各个未标注数据进行处理，以确定每个未标注数据对应的预测标签。

步骤604，利用各个预测标签对应预设数量的未标注数据，对目标样本集进行更新。

本实施例中，步骤601-步骤604与上述步骤501-步骤504类似，故在此步骤赘述。

步骤605，利用更新后的目标样本集对初始分类模型继续进行训练，以生成更新后的分类模型。

本实施例中，可将更新后的目标样本集中的标注数据和选取的未标注数据，输入至初始分类模型，根据初始分类模型的预测标签，和标注的类型标签之间的差异，调整初始分类模型的参数，利用调整后的参数继续训练，生成更新后的分类模型。

步骤606，基于预设的测试数据集对初始分类模型进行测试，以确定更新后的分类模型的准确性。

具体地，可将预设的测试数据集中的测试数据输入至更新后的分类模型中，根据更新后的分类模型输出的预测标签，和测试数据对应的类型标签之间的差异，确定更新后的分类模型的准确性。

步骤607，在更新后的分类模型的准确性小于初始分类模型的准确性的情况下，重新选取各个预测标签对应预设数量的未标注数据。

本实施例中，将更新后的分类模型的准确性与初始分类模型的准确性进行比较。在更新后的分类模型的准确性小于初始分类模型的准确性的情况下，说明各个预测标签对应的预设数量的未标注数据没有给初始分类模型的训练带来好的效果，则可重新从未标注数据集中选取各个预测标签对应预设数量的未标注数据。

在更新后的分类模型的准确性大于初始分类模型的准确性的情况下，说明各个预测标签对应的预设数量的未标注数据给初始分类模型的训练带来了好的效果，可继续从未标注数据集中选取各个预测标签对应预设数量的未标注数据，对目标样本集进行更新，利用更新后的目标样本集对更新后的分类模型继续训练。

并且，在更新后的分类模型的准确性大于初始分类模型的准确性的情况下，可以用更新后的分类模型继续对未标注数据的类型进行预测，并根据预测结果，对目标样本集进行更新。

步骤608，利用重新选取的各个预测标签对应预设数量的未标注数据，对目标样本集进行更新，以利用更新后的目标样本集对初始分类模型继续进行训练，直至生成第一分类模型。

本实施例中，可将重新选取的各个预测标签对应的预设数量的未标注数据，添加至目标样本集中，获取更新后的目标样本集。在获取更新后的目标样本集后，利用更新后的目标样本集对初始分类模型继续训练，生成更新后的分类模型。

在获取更新后的分类模型后，利用预设的测试数据集对更新后的分类模型进行测试，确定更新后的分类模型的准确性。在更新后的分类模型的准确性小于初始分类模型的准确性的情况下，重新选取各个预测标签对应预设数量的未标注数据，并利用重新选取的各个预测标签对应预设数量的未标注数据，对目标样本集进行更新，以利用更新后的目标样本集对初始分类模型继续进行训练。

在更新后的分类模型的准确性大于初始分类模型的准确性的情况下，继续从未标注数据集中选取各个预设标签对应预设数量的未标注数据，对目标样本集进行更新，利用更新后的目标样本集对更新后的分类模型继续训练，直至模型的准确性达到最优，生成第一分类模型。

比如，某分类任务的类型标签包括c和d两个，未标注数据为500个，初始分类模型确定300个未标注数据的预测标签为c，200个未标注数据的预测标签为d，并按照20％的比例对300个未标注数据和200个未标注数据进行抽样，抽取60个预测标签为a的未标注数据和40个预测标签为b的未标注数据，加入目标样本集中，利用更新后的目标样本集训练初始分类模型。

若获取的更新后的分类模型的准确性小于初始分类模型的准确性，则按照20％的比例重新抽取预测标签为c和d的未标注数据，加入目标样本集，利用更新后的目标样本集对初始分类模型继续训练。若获取的更新后的分类模型的准确性大于初始分类模型的准确性，则继续按照20％的比例抽取预测标签为c和d的未标注数据，并对更新后的分类模型继续训练。

本申请实施例中，在利用更新后的目标样本集对初始分类模型继续进行训练时，通过利用更新后的目标样本集对初始分类模型继续进行训练，以生成更新后的分类模型，并在更新后的分类模型的准确性小于初始分类模型的准确性的情况下，重新选取各个预测标签对应预设数量的未标注数据，利用重新选取的未标注数据更新目标样本集，利用更新后的目标样本集对初始分类模型继续训练，从而基于强化学习，逐步提高模型的准确性，实现模型自动调优。

为了实现上述实施例，本申请实施例还提出一种分类模型的训练装置。图7为本申请实施例提供的一种分类模型的训练装置的结构示意图。

如图7所示，该分类模型的训练装置700包括：获取模块710、生成模块720和训练模块730。

获取模块710，用于获取初始样本集，其中，初始样本集中包括多个类型标签、及与每个类型标签对应的标注数据集；

生成模块720，用于根据初始样本集中的类型标签的数量、和/或各个类型标签对应的各个标注数据集间的差异性，对初始样本集进行预处理，以生成目标样本集；

训练模块730，用于基于目标样本集对预训练模型进行训练，以生成与多个类型标签对应的第一分类模型。

在本申请实施例一种可能的实现方式中，生成模块720，用于：在初始样本集中的类型标签的数量大于第一阈值的情况下，根据每个类型标签对应的标注数据集间的关联度，将多个类型标签进行聚类，以确定多个簇标签、及每个簇标签对应的标注数据集；

训练模块730，用于：

基于多个簇标签、及每个簇标签对应的标注数据集，对预训练模型进行训练，以生成与多个簇标签对应的第二分类模型；

基于每个簇标签中包含的类型标签及每个类型标签对应的标注数据集，对第二分类模型进行训练，以生成与多个类型标签对应的第二分类模型

在本申请实施例一种可能的实现方式中，生成模块720，包括：

第一确定单元，用于在任一标注数据对应至少两个类型标签、且至少两个类型标签间的相似度小于第二阈值的情况下，根据至少两个类型标签分别对应的其余标注数据，确定至少两个类型标签分别对应的第一语义空间；

第二确定单元，用于确定任一标注数据对应的第二语义空间；

第三确定单元，用于根据第二语义空间分别与每个第一语义空间的距离，确定任一标注数据对应的目标类型标签。

在本申请实施例一种可能的实现方式中，生成模块720，包括：

第四确定单元，用于在至少一个标注数据集中标注数据的数量，与其余各标注数据集中标注数据的数量间的差值绝对值均大于第三阈值的情况下，将至少一个标注数据集中的每个标注数据进行切词处理，以确定至少一个标注数据集中包含的各个分词；

第五确定单元，用于确定各个分词在各个标注数据集中出现的次数；

第六确定单元，用于根据每个分词在各个标注数据集中出现的次数，确定每个分词分别与每个标注数据集的关联度；

第一生成单元，用于将每个分词及与每个标注数据集的关联度，加入对应标注数据集中，以生成目标样本集。

在本申请实施例一种可能的实现方式中，训练模块730，包括：

第二生成单元，用于基于目标样本集对预训练模型进行训练，以生成与多个类型标签对应的初始分类模型；

第七确定单元，用于基于预设的测试数据集对初始分类模型进行测试，以确定初始分类模型的准确性；

第八确定单元，用于在初始分类模型的准确性大于第四阈值的情况下，利用初始分类模型，对未标注数据集中的各个未标注数据进行处理，以确定每个未标注数据对应的预测标签；

更新单元，用于利用各个预测标签对应预设数量的未标注数据，对目标样本集进行更新，以利用更新后的目标样本集对初始分类模型继续进行训练，直至生成第一分类模型。

在本申请实施例一种可能的实现方式中，第二生成单元，还用于：

利用更新后的目标样本集对初始分类模型继续进行训练，以生成更新后的分类模型；

第七确定单元，还用于基于预设的测试数据集对初始分类模型进行测试，以确定更新后的分类模型的准确性；

训练模块730，还包括：

选取单元，用于在更新后的分类模型的准确性小于初始分类模型的准确性的情况下，重新选取各个预测标签对应预设数量的未标注数据；

更新单元，还用于利用重新选取的各个预测标签对应预设数量的未标注数据，对目标样本集进行更新，以利用更新后的目标样本集对初始分类模型继续进行训练，直至生成第一分类模型。

需要说明的是，前述分类模型的训练方法实施例的解释说明，也适用于该实施例的分类模型的训练装置，故在此不再赘述。

本申请实施例的分类模型的训练装置，通过获取初始样本集，其中，初始样本集中包括多个类型标签、及与每个类型标签对应的标注数据集，并根据初始样本集中的类型标签的数量、和/或各个类型标签对应的各个标注数据集间的差异性，对初始样本集进行预处理，以生成目标样本集，基于目标样本集对预训练模型进行训练，以生成与多个类型标签对应的第一分类模型。由此，通过预训练模型可以训练得到不同分类任务下的分类模型，具有快速跨行业迁移能力，并且对分类任务对应的初始样本集进行预处理，使得模型具备自动调优能力，减少了对训练数据的要求和人的依赖，降低了人工成本。

根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。

如图8所示，是根据本申请实施例的分类模型的训练方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。

如图8所示，该电子设备包括：一个或多个处理器801、存储器802，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图8中以一个处理器801为例。

存储器802即为本申请所提供的非瞬时计算机可读存储介质。其中，所述存储器存储有可由至少一个处理器执行的指令，以使所述至少一个处理器执行本申请所提供的分类模型的训练方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的分类模型的训练方法。

存储器802作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的分类模型的训练方法对应的程序指令/模块(例如，附图7所示的获取模块710、生成模块720和训练模块730)。处理器801通过运行存储在存储器802中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的分类模型的训练方法。

存储器802可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据分类模型的训练电子设备的使用所创建的数据等。此外，存储器802可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器802可选包括相对于处理器801远程设置的存储器，这些远程存储器可以通过网络连接至分类模型的训练方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

分类模型的训练方法的电子设备还可以包括：输入装置803和输出装置804。处理器801、存储器802、输入装置803和输出装置804可以通过总线或者其他方式连接，图8中以通过总线连接为例。

输入装置803可接收输入的数字或字符信息，以及产生与分类模型的训练方法的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置804可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。

此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、互联网和区块链网络。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS(VirtualPrivate Server,虚拟专用服务器)服务中，存在的管理难度大，业务扩展性弱的缺陷。

本申请实施例的技术方案，涉及深度学习、知识图谱和自然语言处理等人工智能技术领域，通过预训练模型可以训练得到不同分类任务下的分类模型，具有快速跨行业迁移能力，并且对分类任务对应的初始样本集进行预处理，使得模型具备自动调优能力，减少了对训练数据的要求和人的依赖，降低了人工成本。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。

Claims (14)

1.一种分类模型的训练方法，包括：

获取初始样本集，其中，所述初始样本集中包括多个类型标签、及与每个所述类型标签对应的标注数据集；

根据所述初始样本集中的所述类型标签的数量、和/或各个所述类型标签对应的各个标注数据集间的差异性，对所述初始样本集进行预处理，以生成目标样本集；

基于所述目标样本集对预训练模型进行训练，以生成与所述多个类型标签对应的第一分类模型。

2.如权利要求1所述的方法，其中，所述根据所述初始样本集中的所述类型标签的数量、和/或各个所述类型标签对应的各个标注数据集间的差异性，对所述初始样本集进行预处理，包括：

在所述初始样本集中的所述类型标签的数量大于第一阈值的情况下，根据每个所述类型标签对应的标注数据集间的关联度，将所述多个类型标签进行聚类，以确定多个簇标签、及每个簇标签对应的标注数据集；

所述基于所述目标样本集对预训练模型进行训练，以生成与所述多个类型标签对应的第一分类模型，包括：

基于所述多个簇标签、及每个簇标签对应的标注数据集，对所述预训练模型进行训练，以生成与所述多个簇标签对应的第二分类模型；

基于每个簇标签中包含的类型标签及每个类型标签对应的标注数据集，对所述第二分类模型进行训练，以生成与所述多个类型标签对应的第二分类模型。

3.如权利要求1所述的方法，其中，所述根据所述初始样本集中的所述类型标签的数量、和/或各个所述类型标签对应的各个标注数据集间的差异性，对所述初始样本集进行预处理，包括：

在任一标注数据对应至少两个类型标签、且所述至少两个类型标签间的相似度小于第二阈值的情况下，根据所述至少两个类型标签分别对应的其余标注数据，确定所述至少两个类型标签分别对应的第一语义空间；

确定所述任一标注数据对应的第二语义空间；

根据所述第二语义空间分别与每个所述第一语义空间的距离，确定所述任一标注数据对应的目标类型标签。

4.如权利要求1所述的方法，其中，所述根据所述初始样本集中的所述类型标签的数量、和/或各个所述类型标签对应的各个标注数据集间的差异性，对所述初始样本集进行预处理，包括：

在至少一个标注数据集中标注数据的数量，与其余各标注数据集中标注数据的数量间的差值绝对值均大于第三阈值的情况下，将所述至少一个标注数据集中的每个标注数据进行切词处理，以确定所述至少一个标注数据集中包含的各个分词；

确定所述各个分词在所述各个标注数据集中出现的次数；

根据每个所述分词在所述各个标注数据集中出现的次数，确定每个所述分词分别与每个标注数据集的关联度；

将每个所述分词及与每个标注数据集的关联度，加入对应标注数据集中，以生成目标样本集。

5.如权利要求1-4任一所述的方法，其中，所述基于所述目标样本集对预训练模型进行训练，以生成与所述多个类型标签对应的第一分类模型，包括：

基于所述目标样本集对预训练模型进行训练，以生成与所述多个类型标签对应的初始分类模型；

基于预设的测试数据集对所述初始分类模型进行测试，以确定所述初始分类模型的准确性；

在所述初始分类模型的准确性大于第四阈值的情况下，利用所述初始分类模型，对未标注数据集中的各个未标注数据进行处理，以确定每个所述未标注数据对应的预测标签；

利用各个所述预测标签对应预设数量的未标注数据，对所述目标样本集进行更新，以利用更新后的所述目标样本集对所述初始分类模型继续进行训练，直至生成所述第一分类模型。

6.如权利要求5所述的方法，其中，所述利用更新后的所述目标样本集对所述初始分类模型继续进行训练，包括：

利用更新后的所述目标样本集对所述初始分类模型继续进行训练，以生成更新后的分类模型；

基于预设的测试数据集对所述初始分类模型进行测试，以确定所述更新后的分类模型的准确性；

在所述更新后的分类模型的准确性小于所述初始分类模型的准确性的情况下，重新选取各个所述预测标签对应预设数量的未标注数据；

利用重新选取的各个所述预测标签对应预设数量的未标注数据，对所述目标样本集进行更新，以利用更新后的所述目标样本集对所述初始分类模型继续进行训练，直至生成所述第一分类模型。

7.一种分类模型的训练装置，包括：

获取模块，用于获取初始样本集，其中，所述初始样本集中包括多个类型标签、及与每个所述类型标签对应的标注数据集；

生成模块，用于根据所述初始样本集中的所述类型标签的数量、和/或各个所述类型标签对应的各个标注数据集间的差异性，对所述初始样本集进行预处理，以生成目标样本集；

训练模块，用于基于所述目标样本集对预训练模型进行训练，以生成与所述多个类型标签对应的第一分类模型。

8.如权利要求7所述的装置，其中，所述生成模块，用于：在所述初始样本集中的所述类型标签的数量大于第一阈值的情况下，根据每个所述类型标签对应的标注数据集间的关联度，将所述多个类型标签进行聚类，以确定多个簇标签、及每个簇标签对应的标注数据集；

所述训练模块，用于：

基于所述多个簇标签、及每个簇标签对应的标注数据集，对所述预训练模型进行训练，以生成与所述多个簇标签对应的第二分类模型；

基于每个簇标签中包含的类型标签及每个类型标签对应的标注数据集，对所述第二分类模型进行训练，以生成与所述多个类型标签对应的第二分类模型。

9.如权利要求7所述的装置，其中，所述生成模块，包括：

第一确定单元，用于在任一标注数据对应至少两个类型标签、且所述至少两个类型标签间的相似度小于第二阈值的情况下，根据所述至少两个类型标签分别对应的其余标注数据，确定所述至少两个类型标签分别对应的第一语义空间；

第二确定单元，用于确定所述任一标注数据对应的第二语义空间；

第三确定单元，用于根据所述第二语义空间分别与每个所述第一语义空间的距离，确定所述任一标注数据对应的目标类型标签。

10.如权利要求7所述的装置，其中，所述生成模块，包括：

第四确定单元，用于在至少一个标注数据集中标注数据的数量，与其余各标注数据集中标注数据的数量间的差值绝对值均大于第三阈值的情况下，将所述至少一个标注数据集中的每个标注数据进行切词处理，以确定所述至少一个标注数据集中包含的各个分词；

第五确定单元，用于确定所述各个分词在所述各个标注数据集中出现的次数；

第六确定单元，用于根据每个所述分词在所述各个标注数据集中出现的次数，确定每个所述分词分别与每个标注数据集的关联度；

第一生成单元，用于将每个所述分词及与每个标注数据集的关联度，加入对应标注数据集中，以生成目标样本集。

11.如权利要求7-10任一所述的装置，其中，所述训练模块，包括：

第二生成单元，用于基于所述目标样本集对预训练模型进行训练，以生成与所述多个类型标签对应的初始分类模型；

第七确定单元，用于基于预设的测试数据集对所述初始分类模型进行测试，以确定所述初始分类模型的准确性；

第八确定单元，用于在所述初始分类模型的准确性大于第四阈值的情况下，利用所述初始分类模型，对未标注数据集中的各个未标注数据进行处理，以确定每个所述未标注数据对应的预测标签；

更新单元，用于利用各个所述预测标签对应预设数量的未标注数据，对所述目标样本集进行更新，以利用更新后的所述目标样本集对所述初始分类模型继续进行训练，直至生成所述第一分类模型。

12.如权利要求11所述的装置，其中，所述第二生成单元，还用于：

利用更新后的所述目标样本集对所述初始分类模型继续进行训练，以生成更新后的分类模型；

所述第七确定单元，还用于基于预设的测试数据集对所述初始分类模型进行测试，以确定所述更新后的分类模型的准确性；

所述训练模块，还包括：

选取单元，用于在所述更新后的分类模型的准确性小于所述初始分类模型的准确性的情况下，重新选取各个所述预测标签对应预设数量的未标注数据；

所述更新单元，还用于利用重新选取的各个所述预测标签对应预设数量的未标注数据，对所述目标样本集进行更新，以利用更新后的所述目标样本集对所述初始分类模型继续进行训练，直至生成所述第一分类模型。

13.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的分类模型的训练方法。

14.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1-6中任一项所述的分类模型的训练方法。

Images