CN113762308A - 分类模型的训练方法、分类方法、装置、介质及设备 - Google Patents

Abstract

本发明公开了分类模型的训练方法、分类方法、装置、介质及设备。其中分类模型的训练方法包括：获取未设置分类标签的第一样本数据，将所述第一样本数据输入至预先训练的基础分类模型中，确定所述第一样本数据设置预设分类标签的概率，其中，所述基础分类模型基于设置预设分类标签的第二样本数据训练得到；基于所述第一样本数据设置分类标签的概率确定所述第一样本数据的权重；基于第二样本数据、所述第一样本数据以及所述第一样本数据的权重对待训练的分类模型进行训练，得到目标分类模型。实现对未设置标签的样本数据的标签处理，替代了人工对样本设置标签，降低了样本数据预处理过程的时间和人工成本，进一步实现了对分类模型的弱监督训练。

Description

分类模型的训练方法、分类方法、装置、介质及设备

技术领域

本发明实施例涉及深度学习技术领域，尤其涉及分类模型的训练方法、分类方法、装置、介质及设备。

背景技术

基于监督方式的机器学习模型的训练方式是机器学习模型的常用训练方法，其中，该训练方法需足够数量的标记样本。

在实现本发明的过程中，发明人发现现有技术中至少存在以下技术问题：在很多实际的应用场景中，获取样本的标记需要耗费大量的人力和物力，代价昂贵，导致实际应用中存在的往往是少量的有分类标签样本与大量的无分类标签样本，无法实现上述监督训练过程。

发明内容

本发明实施例提供分类模型的训练方法、分类方法、装置、介质及设备，以实现对机器学习模型的弱监督训练。

第一方面，本发明实施例提供了一种分类模型的训练方法，包括：

获取未设置分类标签的第一样本数据，将所述第一样本数据输入至预先训练的基础分类模型中，确定所述第一样本数据设置预设分类标签的概率，其中，所述基础分类模型基于设置预设分类标签的第二样本数据训练得到；

基于所述第一样本数据设置分类标签的概率确定所述第一样本数据的权重；

基于第二样本数据、所述第一样本数据以及所述第一样本数据的权重对待训练的分类模型进行训练，得到目标分类模型。

第二方面，本发明实施例还提供了一种分类方法，包括：

获取待分类数据；

将所述待分类数据输入至所述目标分类模型中，基于所述目标分类模型的输出确定所述待分类数据的分类结果，其中，所述目标分类模型基于本发明实施例提供的分类模型的训练方法训练得到。

第三方面，本发明实施例还提供了一种分类模型的训练装置，包括：

样本概率确定模块，用于获取未设置分类标签的第一样本数据，将所述第一样本数据输入至预先训练的基础分类模型中，确定所述第一样本数据设置预设分类标签的概率，其中，所述基础分类模型基于设置预设分类标签的第二样本数据训练得到；

样本权重确定模块，用于基于所述第一样本数据设置分类标签的概率确定所述第一样本数据的权重；

模型训练模块，用于基于第二样本数据、所述第一样本数据以及所述第一样本数据的权重对待训练的分类模型进行训练，得到目标分类模型。

第四方面，本发明实施例还提供了一种分类装置，包括：

数据获取模块，用于获取待分类数据；

分类模块，用于将所述待分类数据输入至所述目标分类模型中，基于所述目标分类模型的输出确定所述待分类数据的分类结果，其中，所述目标分类模型基于本发明实施例提供的分类模型的训练方法训练得到。

第五方面，本发明实施例还提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如本发明任一实施例提供的分类模型的训练方法和/或分类方法。

第六方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明任一实施例提供的分类模型的训练方法和/或分类方法。

本实施例的技术方案，通过预先设置的具有预测样本数据设置标签概率的基础分类模型，对未设置标签的第一样本数据进行处理，确定上述第一样本数据设置为预设分类标签的概率，并进一步确定上述第一样本数据的权重，实现预测未设置标签的第一样本数据的虚拟标签，替代了人工设置样本分类标签的过程，降低了样本数据预处理过程的时间和人工成本。进一步的，通过第一样本数据、第一样本数据的权重、第二样本数据对待训练的分类模型进行训练，实现了少量设置标签的第二样本数据，以及大量未设置标签的第一样本数据对分类模型的弱监督训练，在降低人工设置标签成本的基础上，保证了分类模型的训练精度。

附图说明

图1为本发明实施例一提供的一种分类模型的训练方法的流程示意图；

图2是本发明实施例二提供的一种分类模型的训练方法的流程示意图；

图3是本发明实施例三提供的一种分类方法的流程示意图；

图4是本发明实施例四提供的一种分类模型的训练装置的结构示意图；

图5是本发明实施例五提供的一种分类装置的结构示意图；

图6为本发明实施例六提供的一种电子设备的结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。

实施例一

图1为本发明实施例一提供的一种分类模型的训练方法的流程示意图，本实施例可适用于在少量标记样本的基础上进行模型弱监督训练的情况，该方法可以由本发明实施例提供的分类模型的训练装置来执行，该装置可通过软件和/或硬件的方式实现，该装置可集成于诸如计算机或服务器等的电子设备中。该方法具体包括如下步骤：

S110、获取未设置分类标签的第一样本数据，将所述第一样本数据输入至预先训练的基础分类模型中，确定所述第一样本数据设置预设分类标签的概率，其中，所述基础分类模型基于设置预设分类标签的第二样本数据训练得到。

S120、基于所述第一样本数据设置分类标签的概率确定所述第一样本数据的权重。

S130、基于第二样本数据、所述第一样本数据以及所述第一样本数据的权重对待训练的分类模型进行训练，得到目标分类模型。

本实施例中，待训练的分类模型可以是二分类模型，该分类模型可以是但不限于图像分类模型、文本分类模型、音频分类模型、视频分类模型中的任一项，不限定分类模型的分类对象以及分类功能。相应的，分类模型基于对应的样本数据训练得到，对于图像分类模型，用于训练的样本数据为图像样本数据，对于文本分类模型，用于训练的样本数据为文本样本数据等。示例性的，图像分类模型可以是人脸分类模型，用于识别图像中是否包括人脸；图像分类模型还可以是医学感兴趣区域的分类模型，例如感兴趣区域为肿瘤区域、阴影区域等，用于确定输入的医学影像中是否包括感兴趣区域；文本分类模型可以是垃圾信息分类模型，用于识别输入文本中是否包括垃圾信息。

上述分类模型基于包括正样本数据和负样本数据的数据集训练得到。对于任一待训练的分类模型，根据该分类模型的分类对象(例如图像、文本、音频或者视频等)以及分类功能确定进行训练的数据集，通过人工方式对数据集中的少量样本数据设置标签，该少量样本数据可以是数据集中预设比例的样本数据，例如预设比例可以是1％、5％或者10％等，得到未设置标签的第一样本数据和设置标签的第二样本数据。

可选的，分类模型可以是但不限于分类器、神经网络模型等机器学习模型，本实施例中，限定分类模型的具体结构，能够实现分类功能的任意模型结构均可。

获取对分类模型进行训练的样本数据集，该样本数据集中包括设置分类标签的第二样本数据和未设置标签的第一样本数据，其中，分类标签包括正样本标签和负样本标签，分别可以是y＝0和y＝1。对于每一个样本数据设置有标签设置标识，该标签设置标识可以是l＝1和l＝0，其中，l＝1表征该样本数据设置有分类标签，l＝0表征该样本数据未设置分类标签。在一些实施例中，可以是判断各样本数据是否始终有分类标签，若是，则设置标签设置标识l＝1，若否，则设置标签设置标识l＝0。

本实施例中，通过基础分类模型预测各个未设置标签的第一样本数据设置为预设分类标签的概率，其中，预设分类标签可以是正样本标签或负样本标签，即y＝0或y＝1。通过该基础分类模型输出的概率值确定第一样本数据的分类标签。该基础分类模型的输出结果可以包括P(l＝0)和P(l＝1)，其中，P(l＝1)表征第一样本数据设置为预设分类标签的概率，P(l＝0)表征第一样本数据不设置为预设分类标签的概率，即设置为另一分类标签的概率，且P(l＝0)与P(l＝1)的和为1。以预设分类标签为负样本标签为例，即P(l＝1)表征第一样本数据设置为负样本标签的概率，P(l＝0)表征第一样本数据不设置为负样本标签的概率，即设置为正样本标签的概率。当P(l＝0)和P(l＝1)的任一项满足置信阈值时，确定第一样本数据的分类标签。示例性的，如果P(l＝0)满足置信阈值，则确定第一样本数据的分类标签为正样本标签，如果P(l＝1)满足置信阈值，则确定第一样本数据的分类标签为负样本标签。可选的，正样本标签和负样本标签对应的置信阈值可以相同或不同。

基础分类模型可以是预先训练的二分类模型，该基础分类模型基于设置有该预设分类标签的第二样本数据和未设置标签的第一样本数据训练得到。以预设分类标签为负样本标签为例，基于第二样本数据中分类标签为y＝1的第二样本数据和未设置标签(l＝0)的第一样本数据训练得到基础分类模型。

可选的，基础分类模型的训练方法包括：获取初始训练样本，其中，所述初始训练样本包括设置分类标签的第二样本数据和未设置分类标签的第一样本数据，所述第二样本数据和所述第一样本数据分别设置有对应的标签设置标识；将所述初始训练样本输入至待训练的基础分类模型中，输出所述初始训练样本的标签设置概率；基于所述标签设置概率和所述初始训练样本对应的标签设置标识确定损失函数，并基于所述损失函数反向调节所述待训练的基础分类模型的模型参数，基于上述过程对待训练的基础分类模型进行迭代训练，得到训练完成的基础分类模型。其中，上述设置分类标签的第二样本数据为样本数据<x,y＝1,l＝1>，第一样本数据为样本数据<x,l＝0>。训练过程中损失函数可根据用户需求确定，不限定损失函数的具体实现方式。

本实施例中，将第一样本数据视为正样本与负样本的加权，根据基础分类模型对第一样本数据的概率预测，确定第一样本数据的预测分类标签和对应的权重，实现了对未设置标签的第一样本数据的标签预测，替代了人工对样本数据设置标签的操作，简化了样本的预处理过程，节省了样本的预处理过程中的时间和人力成本。

可选的，基于所述第一样本数据设置分类标签的概率确定所述第一样本数据的权重，包括：基于所述第一样本数据设置分类标签的概率确定所述第一样本数据的虚拟标签；根据所述虚拟标签的权重确定规则，以及所述第一样本数据设置分类标签的概率确定对应权重。

在一些实施例中，第一基础分类模型基于负样本标签y＝1的第二样本数据和第一样本数据训练得到，相应的，基于上述第一基础分类模型对第一样本数据x进行分类处理，得到P(l＝1|x)与P(l＝0|x)，当P(l＝1|x)大于置信阈值T时，确定第一样本数据x的虚拟标签为负样本标签，当P(l＝0|x)大于置信阈值T时确定第一样本数据x的虚拟标签为正样本标签。在一些实施例中置信阈值T可以是大于或等于0.5。

在一些实施例中，第二基础分类模型基于正样本标签y＝1的第二样本数据和第一样本数据训练得到，相应的，基于上述第二基础分类模型对第一样本数据x进行分类处理，得到P(l＝1|x)与P(l＝0|x)，当P(l＝1|x)大于置信阈值T时，确定第一样本数据x的虚拟标签为正样本标签，当P(l＝0|x)大于置信阈值T时确定第一样本数据x的虚拟标签为负样本标签。

不同的虚拟标签对应不同的权重确定规则，基于第一样本数据的虚拟标签对应的权重确定规则对第一样本数据的预测概率进行处理得到第一样本数据的权重。

可选的，以基于第一基础分类模型确定的各第一样本数据的虚拟标签为例，虚拟标签为负样本标签的权重确定规则可以是w(x)，虚拟标签为正样本标签的权重确定规则可以是1-w(x)，其中，

其中，e为概率P(l＝1|x)对应的期望值。该期望值基于第一基础分类模型对第二样本数据的预测概率得到，具体的：

其中，m为对基础分类模型进行训练的第二样本数据的数量。

本实施例中，基于分类器函数f(x,y)在样本数据的概率分布P(x,y,l)的估计期望引出对样本数据的权重确定规则：

其中，f(x,y)为分类器函数，E_P(x,y,l)为分类器函数f(x,y)在概率分布P(x,y,l)下的期望，x为输入数据，y为分类标签，l为标签设置标识。需要说明的是P(A|B)为在B发生情况下，A的概率，其中，A和B在本实施例中分别可以是输入数据x，分类标签y以及标签设置标识l的一种或两种。其中，分类器函数即分类模型的函数。

对于对第一基础分类模型进行训练的第二样本数据<x,y＝1>:第二样本数据中分类标签为y＝1的概率P(y＝1|x,l＝1)＝1

第二样本数据中样本设置标签的概率为：

P(l＝1|x)＝P(l＝1∧y＝1|x)＝P(y＝1|x)·P(l＝1|x,y＝1)

对于第一样本数据＜x,y∈{1,0}＞：

第一样本数设置分类标签为y＝1的概率为：

因此可知：

基于概率P(l＝1|x)对应的期望值对上述公式简化处理得到：

据此，可知

同理，对于第二基础分类模型对应确定各虚拟标签的权重确定规则，对此不再赘述。

在上述实施例的基础上，通过将第一样本数据输入至基础分类模型中，得到基础分类模型输出的设置为预设分类标签的概率，可确定第一样本数据的虚拟标签和对应权重，实现对未设置标签的第一样本数据的数据预处理，预处理得到虚拟标签和对应权重用于对待训练的分类模型进行训练。基于上述第一样本数据、第一样本数据的虚拟标签和对应权重、第二样本数据以及第二样本数据的分类标签对待训练的分类模型进行训练，得到目标分类模型。

可选的，基于第二样本数据、所述第一样本数据以及所述第一样本数据的权重对待训练的分类模型进行训练，得到目标分类模型，包括：对于所述第二样本数据和所述第一样本数据中的各样本数据，对所述待训练的分类模型进行迭代训练，直到满足训练条件，得到目标分类模型：将任一样本数据输入至所述待训练的分类模型中，得到预测分类结果和对应的预测概率；基于所述预测分类结果、对应的预测概率以及所述任一样本数据的权重确定损失函数，基于所述损失函数调节所述待训练的分类模型的模型参数，基于上述训练方式对待训练的分类模型进行迭代训练，直到满足训练条件，得到目标分类模型。

其中，上述预测分类结果包括对输入的样本数据的预测类型和该预测类型的预测概率，损失函数基于对输入样本数据的预测概率与该输入样本数据的虚拟标签权重或分类标签权重确定，其中，输入样本数据可以是第一样本数据或第二样本数据。具体的，当输入样本数据的预测类型为1的预测概率为P1，预测类型为0的预测概率为P2，当输入样本数据的虚拟标签或分类标签确定预测概率差值，当虚拟标签或分类标签为0时，预测概率差值为1-P2，当虚拟标签或分类标签为1时，预测概率差值为1-P1。相应的，损失函数基于预测概率差值与输入样本数据的权重确定，例如是预测概率差值与权重的乘积，或者对预测概率差值与权重的乘积进行预设运算得到，不限定上述预设运算的具体方式，可根据预先设置确定，其中，第二样本数据权重为1，第一样本数据的权重基于上述实施例确定。

将上述损失函数反向输入至待训练的分类模型中，调节分类模型中的模型参数，其中，调节的参数类型以及参数的调节方式可根据分类模型的具体模型结构以及分类模型中包括的参数确定。示例性的，当分类模型为神经网络模型时，调节的参数可以是神经网络模型中的网络权重参数，参数的调节方式可以是梯度下降调节方式。

本实施例的技术方案，通过预先设置的具有预测样本数据设置标签概率的基础分类模型，对未设置标签的第一样本数据进行处理，确定上述第一样本数据设置为预设分类标签的概率，并进一步确定上述第一样本数据的权重，实现预测未设置标签的第一样本数据的虚拟标签，替代了人工设置样本分类标签的过程，降低了样本数据预处理过程的时间和人工成本。进一步的，通过第一样本数据、第一样本数据的权重、第二样本数据对待训练的分类模型进行训练，实现了少量设置标签的第二样本数据，以及大量未设置标签的第一样本数据对分类模型的弱监督训练，在降低人工设置标签成本的基础上，保证了分类模型的训练精度。

实施例二

图2是本发明实施例二提供的一种分类模型的训练方法的流程示意图，在上述实施例的基础上，进行了优化，该方法具体包括：

S210、获取未设置分类标签的第一样本数据，将所述第一样本数据输入至预先训练的基础分类模型中，确定所述第一样本数据设置预设分类标签的概率，其中，所述基础分类模型基于设置预设分类标签的第二样本数据训练得到。

S220、基于预先设置的置信阈值和第一样本数据对应的概率，确定拒绝样本，从所述第一样本数据中剔除所述拒绝样本，得到接收样本集。

S230、对于接收样本集中的第一样本数据，基于所述第一样本数据设置分类标签的概率确定所述第一样本数据的权重。

S240、基于第二样本数据、所述接收样本集中的第一样本数据以及所述第一样本数据的权重对待训练的分类模型进行训练，得到目标分类模型。

本实施例中，通过基础分类模型输出的第一样本数据的概率，对第一样本数据进行置信判断，将不太确定、可能引起分类错误的样本设置为拒绝样本，从第一样本数据中剔除拒绝样本，避免上述拒绝样本对分类模型的训练过程造成干扰。

本实施例中，基于基础分类模型对无标签的第一样本数据的预测概率等效为各样例的置信度，即越靠近0.5的预测概率对应的样例可信度就越小，越远离0.5的预测概率对应的样例可信度就越大。可选的，用于对第一样本数据进行置信判断的置信概率基于所述预设分类标签的样本期望e确定，该样本期望基于第一基础分类模型对第二样本数据的预测概率得到，具体的：

设置中间置信阈值t，该t＝1-e,0≤t≤0.5，相应的，置信阈值可以是T＝1-t。

可选的，基于预先设置的置信阈值和第一样本数据对应的概率，确定拒绝样本，包括：基于所述第一样本数据对应的概率确定满足所述置信阈值对应的拒绝概率范围的第一样本数据，确定为拒绝样本。本实施例中，设置接收样本集和拒接样本集，其中，拒接样本集中包括拒接样本，接收样本集中包括剔除拒接样本后的第一样本数据和第二样本数据。

其中，拒绝概率范围可以是小于该置信阈值，且大于1减去置信阈值的差值的范围，即拒绝概率范围(1-T,T)。具体的，当基础分类模型输出的预测结果中P(l＝1|x)≥T时，确定第一样本数据为的负样本数据，即虚拟标签为负样本标签，当预测结果中P(l＝0|x)≥T时，确定第一样本数据为的正样本数据，即虚拟标签为正样本标签，当P(l＝1|x)<T且P(l＝0|x)<T时，确定第一样本数据为拒接样本。

相应的，确定的接收样本集为

拒接样本集为

其中i为分量标签类别数，可以是1或2。

本实施例中，通过剔除拒接样本，对接收数据集中的各第一样本数据计算权重，并基于接收数据集中的各样本数据对待训练的分类模型进行训练，避免分类类型不确定的拒接样本对分类模型训练的干扰，提高了分类模型的训练效率和训练精度。

实施例三

图3是本发明实施例提供的一种分类方法的流程示意图，本实施例可适用于对待分类数据进行分类处理的情况，该方法可以由本发明实施例提供的分类装置来执行，具体包括如下步骤：

S310、获取待分类数据。

S320、将所述待分类数据输入至所述目标分类模型中，基于所述目标分类模型的输出确定所述待分类数据的分类结果，其中，所述目标分类模型基于如上述实施例提供的分类模型的训练方法训练得到。

其中，待分类数据可以是图像数据、文本数据、音频数据或视频数据中任一种，根据待分类数据的类型确定预先训练的分类模型，示例性的，待分类数据为图像数据，则调用图像分类模型，待分类数据为文本数据，则调用文本分类模型等。进一步的，可根据待分类数据的分类需求确定预先训练的分类模型，例如分类需求为识别图像中是否包括人脸图像，则确定的分类模型为人脸分类模型。本实施例中，通过预先训练分类模型，对待分类数据进行分类处理，实现快速对数据进行分类，简化了数据识别过程，降低了数据分类的人工和时间成本。

该分类模型是基于上述实施例提供的模型训练方法训练得到的，通过上述训练方式基于少量设置分类标签的第二样本数据和大量未设置标签的第一样本数据进行弱监督训练得到，简化了样本数据的预处理过程，提高了模型训练效率。

实施例四

图4是本发明实施例四提供的一种分类模型的训练装置的结构示意图，该装置包括：

样本概率确定模块410，用于获取未设置分类标签的第一样本数据，将所述第一样本数据输入至预先训练的基础分类模型中，确定所述第一样本数据设置预设分类标签的概率，其中，所述基础分类模型基于设置预设分类标签的第二样本数据训练得到；

样本权重确定模块420，用于基于所述第一样本数据设置分类标签的概率确定所述第一样本数据的权重；

模型训练模块430，用于基于第二样本数据、所述第一样本数据以及所述第一样本数据的权重对待训练的分类模型进行训练，得到目标分类模型。

在上述实施例的基础上，所述预设分类标签为正样本标签或负样本标签；

在上述实施例的基础上，该装置还包括：

基础分类模型训练模块用于：

获取初始训练样本，其中，所述初始训练样本包括设置分类标签的第二样本数据和未设置分类标签的第一样本数据，所述第二样本数据和所述第一样本数据分别设置有对应的标签设置标识；

将所述初始训练样本输入至待训练的基础分类模型中，输出所述初始训练样本的标签设置概率；

基于所述标签设置概率和所述初始训练样本对应的标签设置标识确定损失函数，并基于所述损失函数反向调节所述待训练的基础分类模型的模型参数，以得到训练完成的基础分类模型。

在上述实施例的基础上，该装置还包括：

拒绝样本确定模块，用于在确定所述第一样本数据设置预设分类标签的概率之后，基于预先设置的置信阈值和第一样本数据对应的概率，确定拒绝样本；

拒绝样本剔除模块，用于从所述第一样本数据中剔除所述拒绝样本。

在上述实施例的基础上，述置信阈值基于所述预设分类标签的样本期望确定；

在上述实施例的基础上，拒绝样本确定模块用于：

基于所述第一样本数据对应的概率确定满足所述置信阈值对应的拒绝概率范围的第一样本数据，确定为拒绝样本。

在上述实施例的基础上，样本权重确定模块420用于：

基于所述第一样本数据设置分类标签的概率确定所述第一样本数据的虚拟标签；

根据所述虚拟标签的权重确定规则，以及所述第一样本数据设置分类标签的概率确定对应权重。

在上述实施例的基础上，模型训练模块430用于：

对于所述第二样本数据和所述第一样本数据中的各样本数据，对所述待训练的分类模型进行迭代训练，直到满足训练条件，得到目标分类模型：

将任一样本数据输入至所述待训练的分类模型中，得到预测分类结果和对应的预测概率；

基于所述预测分类结果、对应的预测概率以及所述任一样本数据的权重确定损失函数，基于所述损失函数调节所述待训练的分类模型的模型参数。

上述产品可执行本发明任意实施例所提供的方法，具备执行方法相应的功能模块和有益效果。

实施例五

图5是本发明实施例提供的一种分类装置的结构示意图，该装置包括：

数据获取模块510，用于获取待分类数据；

分类模块420，用于将所述待分类数据输入至所述目标分类模型中，基于所述目标分类模型的输出确定所述待分类数据的分类结果，其中，所述目标分类模型基于如上述实施例提供的分类模型的训练方法训练得到。

上述产品可执行本发明任意实施例所提供的方法，具备执行方法相应的功能模块和有益效果。

实施例六

图6为本发明实施例六提供的一种电子设备的结构示意图。图6示出了适于用来实现本发明实施方式的电子设备12的框图。图6显示的电子设备12仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。设备12典型的是承担图像分类功能的电子设备。

如图6所示，电子设备12以通用计算设备的形式表现。电子设备12的组件可以包括但不限于：一个或者多个处理器16，存储装置28，连接不同系统组件(包括存储装置28和处理器16)的总线18。

总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(Industry StandardArchitecture，ISA)总线，微通道体系结构(Micro Channel Architecture，MCA)总线，增强型ISA总线、视频电子标准协会(Video Electronics Standards Association，VESA)局域总线以及外围组件互连(Peripheral Component Interconnect，PCI)总线。

电子设备12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被电子设备12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。

存储装置28可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(Random Access Memory，RAM)30和/或高速缓存存储器32。电子设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统34可以用于读写不可移动的、非易失性磁介质(图6未显示，通常称为“硬盘驱动器”)。尽管图6中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如只读光盘(Compact Disc-Read Only Memory，CD-ROM)、数字视盘(Digital Video Disc-Read Only Memory，DVD-ROM)或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储装置28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。

具有一组(至少一个)程序模块26的程序36，可以存储在例如存储装置28中，这样的程序模块26包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块26通常执行本发明所描述的实施例中的功能和/或方法。

电子设备12也可以与一个或多个外部设备14(例如键盘、指向设备、摄像头、显示器24等)通信，还可与一个或者多个使得用户能与该电子设备12交互的设备通信，和/或与使得该电子设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且，电子设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(Local Area Network，LAN)，广域网Wide Area Network，WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器20通过总线18与电子设备12的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、磁盘阵列(Redundant Arrays of Independent Disks，RAID)系统、磁带驱动器以及数据备份存储系统等。

处理器16通过运行存储在存储装置28中的程序，从而执行各种功能应用以及数据处理，例如实现本发明上述实施例所提供的分类模型的训练方法和/或分类方法。

实施例七

本发明实施例七提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明实施例所提供的分类模型的训练方法和/或分类方法。

当然，本发明实施例所提供的一种计算机可读存储介质，其上存储的计算机程序不限于如上所述的方法操作，还可以执行本发明任意实施例所提供的分类模型的训练方法和/或分类方法。

本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的源代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的源代码可以用任何适当的介质传输，包括——但不限于无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机源代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。源代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims (11)

1.一种分类模型的训练方法，其特征在于，包括：

获取未设置分类标签的第一样本数据，将所述第一样本数据输入至预先训练的基础分类模型中，确定所述第一样本数据设置预设分类标签的概率，其中，所述基础分类模型基于设置预设分类标签的第二样本数据训练得到；

基于所述第一样本数据设置分类标签的概率确定所述第一样本数据的权重；

基于第二样本数据、所述第一样本数据以及所述第一样本数据的权重对待训练的分类模型进行训练，得到目标分类模型。

2.根据权利要求1所述的方法，其特征在于，所述预设分类标签为正样本标签或负样本标签；

所述基础分类模型的训练方法包括：

获取初始训练样本，其中，所述初始训练样本包括设置分类标签的第二样本数据和未设置分类标签的第一样本数据，所述第二样本数据和所述第一样本数据分别设置有对应的标签设置标识；

将所述初始训练样本输入至待训练的基础分类模型中，输出所述初始训练样本的标签设置概率；

基于所述标签设置概率和所述初始训练样本对应的标签设置标识确定损失函数，并基于所述损失函数反向调节所述待训练的基础分类模型的模型参数，以得到训练完成的基础分类模型。

3.根据权利要求1所述的方法，其特征在于，在确定所述第一样本数据设置预设分类标签的概率之后，所述方法还包括：

基于预先设置的置信阈值和第一样本数据对应的概率，确定拒绝样本；

从所述第一样本数据中剔除所述拒绝样本。

4.根据权利要求3所述的方法，其特征在于，所述置信阈值基于所述预设分类标签的样本期望确定；

所述基于预先设置的置信阈值和第一样本数据对应的概率，确定拒绝样本，包括：

基于所述第一样本数据对应的概率确定满足所述置信阈值对应的拒绝概率范围的第一样本数据，确定为拒绝样本。

5.根据权利要求1所述的方法，其特征在于，所述基于所述第一样本数据设置分类标签的概率确定所述第一样本数据的权重，包括：

基于所述第一样本数据设置分类标签的概率确定所述第一样本数据的虚拟标签；

根据所述虚拟标签的权重确定规则，以及所述第一样本数据设置分类标签的概率确定对应权重。

6.根据权利要求1所述的方法，其特征在于，所述基于第二样本数据、所述第一样本数据以及所述第一样本数据的权重对待训练的分类模型进行训练，得到目标分类模型，包括：

对于所述第二样本数据和所述第一样本数据中的各样本数据，对所述待训练的分类模型进行迭代训练，直到满足训练条件，得到目标分类模型：

将任一样本数据输入至所述待训练的分类模型中，得到预测分类结果和对应的预测概率；

基于所述预测分类结果、对应的预测概率以及所述任一样本数据的权重确定损失函数，基于所述损失函数调节所述待训练的分类模型的模型参数。

7.一种分类方法，其特征在于，包括：

获取待分类数据；

将所述待分类数据输入至所述目标分类模型中，基于所述目标分类模型的输出确定所述待分类数据的分类结果，其中，所述目标分类模型基于如权利要求1-6任一所述分类模型的训练方法训练得到。

8.一种分类模型的训练装置，其特征在于，包括：

样本概率确定模块，用于获取未设置分类标签的第一样本数据，将所述第一样本数据输入至预先训练的基础分类模型中，确定所述第一样本数据设置预设分类标签的概率，其中，所述基础分类模型基于设置预设分类标签的第二样本数据训练得到；

样本权重确定模块，用于基于所述第一样本数据设置分类标签的概率确定所述第一样本数据的权重；

模型训练模块，用于基于第二样本数据、所述第一样本数据以及所述第一样本数据的权重对待训练的分类模型进行训练，得到目标分类模型。

9.一种分类装置，其特征在于，包括：

数据获取模块，用于获取待分类数据；

分类模块，用于将所述待分类数据输入至所述目标分类模型中，基于所述目标分类模型的输出确定所述待分类数据的分类结果，其中，所述目标分类模型基于如权利要求1-6任一所述分类模型的训练方法训练得到。

10.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1-6中任一所述的分类模型的训练方法和/或权利要求7所述的分类方法。

11.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-6中任一所述的分类模型的训练方法和/或权利要求7所述的分类方法。

Images