CN110781934A

CN110781934A - 监督学习、标签预测方法及装置、电子设备和存储介质

Info

Publication number: CN110781934A
Application number: CN201910979212.1A
Authority: CN
Inventors: 吴凌云; 张瑞茂
Original assignee: Shenzhen Sensetime Technology Co Ltd
Current assignee: Shenzhen Sensetime Technology Co Ltd
Priority date: 2019-10-15
Filing date: 2019-10-15
Publication date: 2020-02-11

Abstract

本公开涉及一种监督学习、标签预测方法及装置、电子设备和存储介质，所述方法包括获取训练样本及对应的同类别参考集，所述同类别参考集包括多个参考样本，所述参考样本对应的标签与所述训练样本对应的标签相同，且所述参考样本的标签为无噪声的干净标签；根据所述训练样本和所述同类别参考集的相似度，确定所述训练样本的权重；采用所述训练样本的权重对训练样本的损失进行加权，并基于加权后的损失，更新待训练分类模型的参数。本公开实施例既可以节约计算资源，又可以提升分类模型的准确度。

Description

监督学习、标签预测方法及装置、电子设备和存储介质

技术领域

本公开涉及计算机技术领域，尤其涉及一种监督学习、标签预测方法及装置、电子设备和存储介质。

背景技术

在机器学习中，使用带标签的训练数据对神经网络进行训练的方法称为监督学习。在监督学习中，训练数据的标签质量对学习效果至关重要。由于手动标注大规模数据的巨大成本，因此可以从网络获取数据资源作为训练数据。由于从网络获取的数据资源的标签可能存在错误，即从网络获取的数据资源的标签为噪声标签，因此采用这些数据资源训练得到神经网络会过拟合于含噪声标签的训练数据，从而导致该神经网络在干净标签的测试数据上表现不佳。

发明内容

本公开提出了一种监督学习、标签预测方法及装置、电子设备和存储介质。

根据本公开的第一方面，提供了一种监督学习方法，包括：

获取训练样本及对应的同类别参考集，所述同类别参考集包括多个参考样本，所述参考样本对应的标签与所述训练样本对应的标签相同，且所述参考样本的标签为无噪声的干净标签；

根据所述训练样本和所述同类别参考集的相似度，确定所述训练样本的权重；

采用所述训练样本的权重对训练样本的损失进行加权，并基于加权后的损失，更新待训练分类模型的参数。

结合第一方面，在一种可能的实现方式中，所述方法还包括：

从训练集中抽取多个标签与所述训练样本的标签相同、且标签为无噪声的干净标签的训练样本，作为所述训练样本的参考样本；

基于所述训练样本的参考样本，构建所述训练样本对应的同类别参考集。

通过从训练集中抽取用来对训练样本的权重进行指导的参考集，降低了获取样本的工作量，提升了便利性。

结合第一方面，在一种可能的实现方式中，所述根据所述训练样本和所述同类别参考集的相似度，确定所述训练样本的权重，包括：根据所述训练样本的损失梯度和所述同类别参考集的损失梯度的相似度，确定所述训练样本的权重。

通过采用损失梯度相似度作为判断训练样本和同类别参考集相似度的评价依据，可以加快分类模型向着干净标签数据损失最小的方向上收敛的速度，提高模型训练效率。

结合第一方面，在一种可能的实现方式中，所述方法还包括：根据训练样本和分类模型的当前参数，确定第一损失；将所述第一损失在所述当前参数方向上的梯度，确定为所述训练样本的损失梯度。这样，可以基于获取的训练样本的损失梯度，实现训练样本和同类别参考集的相似度的判断。

结合第一方面，在一种可能的实现方式中，所述方法还包括：根据参考样本和分类模型的当前参数，确定第二损失；将所述第二损失在所述当前参数方向上的梯度，确定为参考样本的损失梯度；根据所述多个参考样本的损失梯度，确定所述同类别参考集的损失梯度。这样，可以基于获取的同类别参考集的损失梯度，实现训练样本和同类别参考集的相似度的判断。

结合第一方面，在一种可能的实现方式中，根据所述多个参考样本的损失梯度，确定，所述同类别参考集的损失梯度，包括：将多个参考样本的损失梯度的平均量确定为所述同类别参考集的损失梯度。这样，同类参考集的损失梯度可以反映参考样本的损失梯度的整体水平。

结合第一方面，在一种可能的实现方式中，根据所述训练样本的损失梯度和所述同类别参考集的损失梯度的相似度，确定所述训练样本的权重，包括：

采用局部扰动因子对所述训练样本的损失进行扰动，得到扰动损失；

采用所述扰动损失进行反向传播，使所述待训练分类模型的参数由当前参数更新为临时参数；

根据参考样本和所述临时参数，确定同类别参考集的损失；

根据所述同类别参考集的损失在所述局部扰动因子方向上的梯度，确定所述训练样本的权重。

通过设置扰动因子，可以根据所述同类别参考集的损失在所述局部扰动因子方向上的梯度替代训练样本的损失梯度和同类别参考集的损失梯度的相似度，节省了计算资源。

结合第一方面，在一种可能的实现方式中，所述局部扰动因子的取值为0。这样，可以使扰动损失为0，从而为梯度的计算提供便利。

结合第一方面，在一种可能的实现方式中，其特征在于，采用所述训练样本的权重对训练样本的损失进行加权，包括：

将训练样本的权重调整为非负权重；

正则化所有训练样本的非负权重，使所有训练样本的非负权重的平均量为1；

采用正则化后的权重对训练样本的损失进行加权。

通过对训练样本的权重进行非负调整并对非负权重进行正则化处理，可以使得加权后的训练样本的损失可以直接用于模型的训练，且权重更加均匀，从而提升训练效率。

结合第一方面，在一种可能的实现方式中，基于加权后的损失，更新待训练分类模型的参数包括：

以最小化加权后的损失作为分类模型优化的目标，得到更新后的分类模型参数。

通过使加权后的损失取值最小为目标，对分类模型进行优化，可以指导分类模型更倾向于向着干净标签数据损失最小的方向上收敛。

结合第一方面，在一种可能的实现方式中，所述方法还包括：采用训练完成的分类模型，预测输入数据的标签。

根据本公开的第二方面，提供了一种标签预测方法，包括：

将待预测样本输入分类模型，得到所述待预测样本的标签；其中，所述分类模型是基于加权后的训练样本训练完成的；所述训练样本的权重是根据训练样本和对应同类别参考集的相似度确定的；所述同类别参考集包括多个参考样本，所述参考样本对应的标签与所述训练样本对应的标签相同，且所述参考样本的标签为无噪声的干净标签。

由于分类模型是基于训练样本与同类别的干净参考集的相似度训练完成的，因此分类模型不会过拟合于噪声样本，分类准确度较高，因此，将待预测样本输入分类模型得到的标签的准确率较高。

根据本公开的第三方面，提供了一种监督学习装置，包括：

样本获取模块，用于获取训练样本及对应的同类别参考集，所述同类别参考集包括多个参考样本，所述参考样本对应的标签与所述训练样本对应的标签相同，且所述参考样本的标签为无噪声的干净标签；

权重确定模块，用于根据所述训练样本和所述同类别参考集的相似度，确定所述训练样本的权重；

参数更新模块，用于采用所述训练样本的权重对训练样本的损失进行加权，并基于加权后的损失，更新待训练分类模型的参数。

结合第三方面，在一种可能的实现方式中，所述装置还包括：

样本抽取模块，用于从训练集中抽取多个标签与所述训练样本的标签相同、且标签为无噪声的干净标签的训练样本，作为所述训练样本的参考样本；

集合构建模块，用于基于所述训练样本的参考样本，构建所述训练样本对应的同类别参考集。

结合第三方面，在一种可能的实现方式中，所述权重确定模块用于：

根据所述训练样本的损失梯度和所述同类别参考集的损失梯度的相似度，确定所述训练样本的权重。

结合第三方面，在一种可能的实现方式中，所述装置还包括：第一损失确定模块，用于根据训练样本和分类模型的当前参数，确定第一损失；第一梯度确定模块，用于将所述第一损失在所述当前参数方向上的梯度，确定为所述训练样本的损失梯度。这样，可以基于获取的训练样本的损失梯度，实现训练样本和同类别参考集的相似度的判断。

结合第三方面，在一种可能的实现方式中，所述装置还包括：第二损失确定模块，用于根据参考样本和分类模型的当前参数，确定第二损失；第二梯度确定模块，用于将所述第二损失在所述当前参数方向上的梯度，确定为参考样本的损失梯度；第三梯度确定模块，用于根据所述多个参考样本的损失梯度，确定所述同类别参考集的损失梯度。这样，可以基于获取的同类别参考集的损失梯度，实现训练样本和同类别参考集的相似度的判断。

结合第三方面，在一种可能的实现方式中，根据所述多个参考样本的损失梯度，确定所述同类别参考集的损失梯度，包括：将多个参考样本的损失梯度的平均量确定为所述同类别参考集的损失梯度。这样，同类参考集的损失梯度可以反映参考样本的损失梯度的整体水平。

结合第三方面，在一种可能的实现方式中，根据所述训练样本的损失梯度和所述同类别参考集的损失梯度的相似度，确定所述训练样本的权重，包括：

根据参考样本和所述临时参数，确定同类别参考集的损失；

结合第三方面，在一种可能的实现方式中，所述局部扰动因子的取值为0。这样，可以使扰动损失为0，从而为梯度的计算提供便利。

结合第三方面，在一种可能的实现方式中，采用所述训练样本的权重对训练样本的损失进行加权，包括：

将训练样本的权重调整为非负权重；

采用正则化后的权重对训练样本的损失进行加权。

结合第三方面，在一种可能的实现方式中，基于加权后的损失，更新待训练分类模型的参数包括：

预测模块，用于采用训练完成的分类模型，预测输入数据的标签。

根据本公开的第四方面，提供了一种标签预测装置，包括：

标签预测模块，用于将待预测样本输入分类模型，得到所述待预测样本的标签；其中，所述分类模型是基于加权后的训练样本训练完成的；所述训练样本的权重是根据训练样本和对应同类别参考集的相似度确定的；所述同类别参考集包括多个参考样本，所述参考样本对应的标签与所述训练样本对应的标签相同，且所述参考样本的标签为无噪声的干净标签。

根据本公开的第五方面，提供了一种电子设备，包括：处理器；用于存储处理器可执行指令的存储器；其中，所述处理器被配置为调用所述存储器存储的指令，以执行上述方法。

根据本公开的第六方面，提供了一种计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现上述方法。

在本公开实施例中，可以根据训练样本与同类别的干净参考集的相似度，确定出训练样本的权重，进而基于训练样本的损失的加权结果，实现待训练分类模型参数的更新，通过采用与训练样本同类别的、干净的参考集对训练样本的权重进行指导，既可以节约计算资源，又可以使分类模型向着干净标签数据损失最小的方向上收敛，从而提升分类模型的准确度。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，而非限制本公开。根据下面参考附图对示例性实施例的详细说明，本公开的其它特征及方面将变得清楚。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，这些附图示出了符合本公开的实施例，并与说明书一起用于说明本公开的技术方案。

图1示出根据本公开一实施例的监督学习方法的流程图；

图2示出的根据本公开一实施例的监督学习方法的流程图；

图3示出根据本公开一实施例的监督学习方法的实施流程图；

图4示出根据本公开监督学习方法一实施例相关的梯度矢量示意图；

图5示出根据本公开一实施例的监督学习装置的框图；

图6示出根据本公开实施例的一种电子设备800的框图；

图7示出根据本公开实施例的一种电子设备1900的框图。

具体实施方式

以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面，但是除非特别指出，不必按比例绘制附图。

在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。

本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合，例如，包括A、B、C中的至少一种，可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。

另外，为了更好地说明本公开，在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解，没有某些具体细节，本公开同样可以实施。在一些实例中，对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述，以便于凸显本公开的主旨。

相关技术中，采用为训练数据分配不同的权重来解决上述过拟合问题。在为训练数据分配权重时，可以使用无噪声的干净参考数据进行辅助，也可以不使用无噪声的干净参考数据进行辅助。在不使用干净参考数据进行辅助的情况下，可以根据训练数据的特征聚类结果为训练数据分配权重。这种方法，在噪声标签比例较大的训练数据上，分类的准确度较低。在使用干净参考数据进行辅助的情况下，可以根据训练数据与干净参考数据的相似度为训练数据分配权重。这种方法获得的样本权重虽然对分类模型(如：深度网络)的训练更有指导意义，但是借助了全部类别的干净参考数据，需要大量的计算资源来进行相似度的计算，不适用于大规模的噪声标签分类任务。同时，相关技术还存在需要人为定义复杂的相似度评估策略，依赖额外的超参微调，重加权过程需要的时间较长和训练迭代次数多等问题。

图1示出根据本公开一实施例的监督学习方法的流程图。如图1所示，该方法可以包括：

步骤S11，获取训练样本及对应的同类别参考集，所述同类别参考集包括多个参考样本，所述参考样本对应的标签与所述训练样本对应的标签相同，且所述参考样本的标签为无噪声的干净标签。

步骤S12，根据所述训练样本和所述同类别参考集的相似度，确定所述训练样本的权重。

步骤S13，采用所述训练样本的权重对训练样本的损失进行加权，并基于加权后的损失，更新待训练分类模型的参数。

在一种可能的实现方式中，所述监督学习方法可以由终端设备或服务器等电子设备执行，终端设备可以为用户设备(User Equipment，UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字处理(Personal Digital Assistant，PDA)、手持设备、计算设备、车载设备、可穿戴设备等，所述方法还可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。或者，可通过服务器执行所述方法。

在本公开实施例中，标签可以用于区分不同的类别。一个标签对应于一个分类类别。在训练样本的标签是正确标签的情况下，标签指示的训练样本的类别为正确类别。在训练样本的标签是错误标签的情况下，标签指示的训练样本的类别是错误的。本公开实施例提供的监督学习方法是基于带噪声标签的训练样本(即部分训练样本的标签为错误标签)的分类模型训练。本公开实施例提供的监督学习方法对于不同分类规模(例如：10类、100类或者1000类)、不同噪声比例(即标签错误的训练样本的数量与训练样本总数的比例，例如0％至80％)的人为损坏标签的数据(例如CIFAR、CIFAR-100、ImageNet32*32或者ImageNet等数据集)和真实的大规模网络噪声标签数据(例如WebVision 2.4million)作为训练样本的情况均适用。在一个示例中，训练样本可以为图片(例如人脸图像和物体照片等)、文本、音频或者视频等。

在步骤S11中，参考样本的标签为无噪声的干净标签，也就是说，参考样本的标签是正确的，参考样本的标签指示的是参考样本的正确类别。训练样本对应的同类别参考集可以表示与训练样本类别相同的参考集，该参考集包括的参考样本的标签与训练样本的标签相同。

在一种可能的实现方式中，可以从训练集中抽取多个标签与所述训练样本的标签相同、且标签为无噪声的干净标签的训练样本，作为所述训练样本的参考样本；基于所述训练样本的参考样本，构建所述训练样本对应的同类别参考集。在一个示例中，可以先从训练集中抽取多个标签与所述训练样本的标签相同的训练样本，然后对抽取出的训练样本进行核验，将核验结果为正确标签的训练样本确定为参考样本，最后将这些参考样本中的部分或者全部组成与训练样本类别相同的参考集，即训练样本对应的同类别参考集。这样，在监督学习的过程中，针对任意一个训练样本，可以直接从训练集中得到其对应的同类别参考集，不需要再额外获取其他样本，降低了工作量，提升了便利性。

当然，在其他实施例中，也可以从已有干净数据集(即标签为干净标签的样本集)中获取与训练样本同类别的多个干净样本，作为训练样本的参考集。

在步骤S12中，可以根据训练样本和同类别参考集的相似度，确定训练样本的权重。

由于同类别参考集中包括的是类别相同(即对应标签相同)且无噪声(即标签为干净标签)的参考样本，因此同类别参考集可以作为某个类别样本的参考，以训练样本和同类别参考集的相似度对训练样本真实类别的判断进行指导。可以理解的是，在训练样本和同类别参考集的相似度较大时，表明训练样本的真实类别与参考样本的类别相同的概率较高，训练样本的标签正确的可能性较大，此时可以为训练样本分配较大的权重。在训练样本和同类别参考集的相似度较小时，表明训练样本的真实类别与参考样本的类别相同的概率较低，训练样本的标签正确的可能性较小，此时可以为训练样本分配较小的权重。在一个示例中，可以采用损失梯度相似度或者特征相似度等作为判断训练样本和同类别参考集相似度的评价依据。

在一种可能的实现方式中，步骤S12可以包括：根据训练样本的损失梯度和同类别参考集的损失梯度的相似度，确定训练样本的权重。

训练样本的损失梯度与同类别参考集的损失梯度之间的相似度，代表了训练样本与某类样本之间的偏差。当损失梯度的相似度较小时，表明偏差较大，可以为训练样本分配较小的权重。当损失梯度的相似度较大时，表明偏差较小，可以为训练样本分配较大的权重。

训练样本的损失梯度实际上是基于训练样本的损失在分类模型参数方向上的梯度。在一种可能的实现方式中，根据训练样本和分类模型的当前参数，确定第一损失；将所述第一损失在所述当前参数方向上的梯度，确定为所述训练样本的损失梯度。

其中，第一损失可以表示在分类模型的参数为当前参数的情况下，将训练样本输入分类模型得到的损失。通过参数为当前参数的分类模型对训练样本进行前向传播可以计算出第一损失。训练样本的损失表明了训练样本与训练目标的差距，训练样本的损失梯度表明了缩短训练样本与训练目标的差距的最快方向。

参考样本的损失梯度实际上是基于参考样本的损失在分类模型参数方向上的梯度。在一种可能的实现方式中，根据参考样本和分类模型的当前参数，确定第二损失；将所述第二损失在所述当前参数方向上的梯度，确定为参考样本的损失梯度；根据所述多个参考样本的损失梯度，确定，所述同类别参考集的损失梯度。

其中，第二损失可以表示在分类模型的参数为当前参数的情况下，将参考样本输入分类模型得到的损失。通过参数为当前参数的分类模型对参考样本进行前向传播可以计算出第二损失。在一个示例中，可以将多个参考样本的损失梯度的平均量确定为所述同类别参考集的损失梯度，或者针对每个参考样本的损失梯度，确定该损失梯度与其他参考样本的损失梯度的相似度之和，并将相似度之和最大的参考样本的损失梯度确定为所述同类别参考集的损失梯度。同类别参考集的损失表明了某一类样本与训练目标的差距，同类别参考集的损失梯度表明了缩短某一类样本与训练目标的差距的最快方向。

训练样本的损失梯度和同类别参考集的损失梯度的相似度越大，表明缩短训练样本与训练目标的差距的最快方向与缩短某一类样本与训练目标的差距的最快方向越接近，训练样本的真实类别与同类别参考集对应的类别相同的概率较高。

在一个示例中，训练样本的损失梯度与同类别参考集的损失梯度之间的相似度可以为训练样本的损失梯度的转置和同类别参考集的损失梯度的乘积。

考虑到，确定训练样本的损失梯度和所述同类别参考集的损失梯度的复杂度较高。本公开实施例的监督学习方法还提供一种根据同类别参考集的损失在局部扰动因子方向上的梯度确定相似度的方式，以进一步节省计算资源。图2示出的根据本公开一实施例的监督学习方法的流程图。如图2所示，步骤S12根据所述训练样本的损失梯度和所述同类别参考集的损失梯度的相似度，确定所述训练样本的权重可以包括：

步骤S121，采用局部扰动因子对所述训练样本的损失进行扰动，得到扰动损失。

步骤S122，采用所述扰动损失进行反向传播，使所述待训练分类模型的参数由当前参数更新为临时参数。

步骤S123，根据参考样本和所述临时参数，确定同类别参考集的损失。

步骤S124，根据所述同类别参考集的损失在所述局部扰动因子方向上的梯度，确定所述训练样本的权重。

其中，局部扰动因子可以表示能够对损失造成影响的因子。局部扰动因子可以为一个常数，局部扰动因子可以影响模型的参数，进而影响同类别参考集的损失。也就是说，通过局部扰动因子可以反映出训练样本的损失变化与同类参考集的损失变化之间的关系。在本公开实施例中，局部扰动因子的取值可以0，也就是说扰动损失可以为0，此时模型的参数实质上没有发生变化，这样可以在模型参数不发生实质变化的情况下，反映出对模型参数的影响。

假设Φ(θ)代表任意一个分类模型，θ为分类模型的当前参数。对于K个类别的分类任务，给定包含N个训练样本的训练集

x_n表示第n个训练样本，y_n表示训练样本x_n的标签。从训练集中抽取包括M个样本的参考集

x_m表示第m个参考样本，y_m表示参考样本x_m的标签，且y_m为无噪声的干净标签。其中，K、N和M均为正整数，且M<<N。假设一个训练样本x_n的标签对应于第k个类别，则该训练样本可以表示为

该训练样本的标签可以表示为该训练样本的参考样本可以表示为

该参考样本

的标签可以表示为

其中，k为不大于K的正整数。图3示出根据本公开一实施例的监督学习方法的实施流程图。下面结合图3对步骤S121至步骤S124进行详细说明。

在步骤(1)中，可以针对第k个类别的第n个训练样本

通过公式一确定其损失

其中，f表示分类模型的损失函数，θ表示分类模型的当前参数，

表示基于分类模型的当前参数为θ对训练样本

进行前向传播，得到的输出结果。

在步骤(2)中，设置一个局部扰动因子ε_n，并对该局部扰动因子ε_n进行零初始化，使局部扰动因子ε_n的取值为0。采用该局部扰动因子ε_n对训练样本

的损失

进行扰动，得到扰动损失(对应于步骤S121)。在一个示例中，可以通过公式二确定扰动损失

在步骤(3)中，可以采用扰动损失

进行反向传播，使分类模型的参数由当前参数θ更新为临时参数θ′(对应于步骤S122)。在一个示例中，可以通过公式三实现参数的更新。

其中，α表示学习率，用于控制模型的学习进度，可以根据需要进行设置。

表示

在θ方向上的梯度。

在步骤(4)中，可以根据参考样本和临时参数θ′，确定训练样本对应的同类别参考集的损失。具体的，可以首先基于临时参数θ′对参考样本

进行前向传播，得到输出结果

然后根据该输出结果和参考样本

的标签

确定参考样本

的损失

之后，可以通过公式四确定训练样本

对应的同类别参考集的损失G^(k)(对应于步骤S123)：

其中，M^(k)为训练样本对应的同类别参考集的样本数量，即参考样本

的数量。

在步骤5中，可以根据训练样本

对应的同类别参考集的损失G^(k)在局部扰动因子ε_n方向上的梯度，确定训练样本

的权重(对应于步骤S124)。具体的，可以通过公式五确定训练样本的权重

其中，表示训练样本

对应的同类别参考集的损失G^(k)在局部扰动因子ε_n方向上的梯度。

至此，完成了确定训练样本

的权重的过程，即完成了步骤S12。

下面通过公式六至公式八对训练样本

的损失梯度

和同类别参考集的损失梯度

的相似度

与根据步骤S121至步骤S124确定出的训练样本

的权重

之间的关系进行说明。

其中，

表示第一损失在当前参数方向上的梯度，

表示第二损失在当前参数方向上的梯度。

根据公式二、公式三、公式六和公式七推导可得：

其中，∝表示正比于。

由此可见，训练样本的损失梯度

和同类别参考集的损失梯度

的相似度

与根据步骤S121至步骤S124确定出的训练样本

的权重

成正比关系。因此，可以在步骤S124中根据训练样本对应的同类别参考集的损失在局部扰动因子方向上的梯度，确定所述训练样本的权重。

图4示出根据本公开监督学习方法一实施例相关的梯度矢量示意图。图4示出了训练样本

的损失梯度

训练样本

对应的同类别参考集的损失梯度

全部K个类别的参考集的损失梯度的平均损失梯度相关技术中，通过计算

和

的相似度为训练样本分配权重，在这个过程中需要首先确定每个类别的参考集的损失梯度。在本公开实施例中，计算

与

的相似性为训练样本分配权重，不涉及其他类别的参考集的损失梯度的计算，大大减少了计算资源，方便拓展到类别数量更大(即规模更大)的分类任务上。

另外，如图4所示，相同类别的训练样本与参考集之间的损失梯度相似性最大，即

与

最接近。由此可见，缩短训练样本与训练目标的差距的最快方向与缩短同类别参考集与训练目标的差距的最快方向最接近，根据相同类别的训练样本与参考集之间的损失梯度相似性进行参数更新时，模型收敛速度较快。

在步骤S13中，可以采用训练样本的权重对训练样本的损失进行加权，并基于加权后的损失，更新待训练分类模型的参数，从而实现对分类模型的训练。

在一种可能的实现方式中，采用所述训练样本的权重对训练样本的损失进行加权可以包括：将训练样本的权重调整为非负权重；采用非负权重直接对训练样本的损失进行加权。通过对训练样本的权重进行非负调整，可以使得加权后的训练样本的损失可以直接用于模型的训练，提升训练效率。

在一种可能的实现方式中，采用所述训练样本的权重对训练样本的损失进行加权可以包括：将训练样本的权重调整为非负权重；正则化所有训练样本的非负权重，使所有训练样本的非负权重的平均量为1；采用正则化后的权重对训练样本的损失进行加权。通过对非负权重进行正则化处理，可以使得权重更加均匀，更利于模型的训练，提升训练效率。

在一种可能的实现方式中，基于加权后的损失，更新待训练分类模型的参数可以包括：以最小化加权后的损失作为分类模型优化的目标，得到更新后的分类模型参数。通过使加权后的损失取值最小为目标，对分类模型进行优化，可以指导分类模型更倾向于向着干净标签数据损失最小的方向上收敛，避免模型过拟合到噪声数据上。

参照图3，为了获得有效的直接用于模型训练的样本权重

在步骤(6)中，首先使用函数g(·)(例如绝对值函数)来调整

为非负的权重，然后通过公式九正则化全部非负权重使其均值为1。

在步骤(7)中，按照常规的模型训练方式，使用

指导分类模型的参数由θ更新为

其中，

可以通过公式十确定：

以最小化加权后的损失

作为分类模型优化的目标，使得分类模型的参数为

时，加权后的损失

取值最小。

权重

指导分类模型朝着与训练样本同类别的参考集的损失梯度下降方向进行，即

其中，

表示在分类模型的参数为时，参考集的损失梯度。G(θ)表示在分类模型的参数为θ的情况下，参考集的损失梯度。

ρ为与学习率α和批尺寸|B|相关的非负常数，例如α/|B|。批尺寸表示一次训练过程采用的训练样本的数量，在一次训练过程中采用一个训练样本时，批尺寸即为1。

τ代表训练样本对应的同类别参考集损失下降的步长。在本公开实施例中，

为非负的变量，根据图4的假设可以推导出：

也就是说，本公开实施例采用的确定权重的方式计算的训练样本与同类别的参考集之间的梯度相似度，为同类别的参考集损失寻找到了下降最大的方向。所以基于本公开实施例为训练样本分配的权重指导模型进行训练时，仅需一个阶段的训练即可以更高效的收敛到最优。这样，可以较少的训练周期取得较好的效果，提升了效率和准确度。

另外，本公开实施例提供的监督学习方法基于所述训练样本和所述同类别参考集的相似度即可以完成分类模型的训练，不需要人为定义复杂的相似度评估策略，也不需要额外的超参，不涉及超参的调整。

在完成分类模型的训练后，可以采用训练完成的分类模型，预测输入数据的标签。

在一个示例中，可以将待预测样本(例如图片)输入分类模型，得到所述待预测样本的标签。其中，所述分类模型是基于加权后的训练样本训练完成的；所述训练样本的权重是根据训练样本和对应同类别参考集的相似度确定的；所述同类别参考集包括多个参考样本，所述参考样本对应的标签与所述训练样本对应的标签相同，且所述参考样本的标签为无噪声的干净标签。

可以理解，本公开提及的上述各个方法实施例，在不违背原理逻辑的情况下，均可以彼此相互结合形成结合后的实施例，限于篇幅，本公开不再赘述。本领域技术人员可以理解，在具体实施方式的上述方法中，各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。

此外，本公开还提供了监督学习装置、电子设备、计算机可读存储介质、程序，上述均可用来实现本公开提供的任一种监督学习方法，相应技术方案和描述和参见方法部分的相应记载，不再赘述。

图5示出根据本公开一实施例的监督学习装置的框图。如图5所示，所述监督学习装置50可以包括：

样本获取模块51，用于获取训练样本及对应的同类别参考集，所述同类别参考集包括多个参考样本，所述参考样本对应的标签与所述训练样本对应的标签相同，且所述参考样本的标签为无噪声的干净标签；

权重确定模块52，用于根据所述训练样本和所述同类别参考集的相似度，确定所述训练样本的权重；

参数更新模块53，用于采用所述训练样本的权重对训练样本的损失进行加权，并基于加权后的损失，更新待训练分类模型的参数。

在一种可能的实现方式中，所述装置50还可以包括：

在一种可能的实现方式中，所述权重确定模块52可以用于：

在一种可能的实现方式中，所述装置50还可以包括：

第一损失确定模块，用于根据训练样本和分类模型的当前参数，确定第一损失；

第一梯度确定模块，用于将所述第一损失在所述当前参数方向上的梯度，确定为所述训练样本的损失梯度。

在一种可能的实现方式中，所述装置50还可以包括：

第二损失确定模块，用于根据参考样本和分类模型的当前参数，确定第二损失；

第二梯度确定模块，用于将所述第二损失在所述当前参数方向上的梯度，确定为参考样本的损失梯度；

第三梯度确定模块，用于根据所述多个参考样本的损失梯度，确定所述同类别参考集的损失梯度。

在一种可能的实现方式中，根据所述多个参考样本的损失梯度，确定，所述同类别参考集的损失梯度，包括：

将多个参考样本的损失梯度的平均量确定为所述同类别参考集的损失梯度。

在一种可能的实现方式中，根据所述训练样本的损失梯度和所述同类别参考集的损失梯度的相似度，确定所述训练样本的权重，包括：

根据参考样本和所述临时参数，确定同类别参考集的损失；

在一种可能的实现方式中，所述局部扰动因子的取值为0。

在一种可能的实现方式中，采用所述训练样本的权重对训练样本的损失进行加权，包括：

将训练样本的权重调整为非负权重；

采用正则化后的权重对训练样本的损失进行加权。

在一种可能的实现方式中，基于加权后的损失，更新待训练分类模型的参数包括：

在一种可能的实现方式中，所述装置50还可以包括：

此外，本公开还提供了标签预测装置、电子设备、计算机可读存储介质、程序，上述均可用来实现本公开提供的标签预测方法，相应技术方案和描述和参见方法部分的相应记载，不再赘述。

本公开实施例提供的标签预测装置可以包括标签预测模块，用于将待预测样本输入分类模型，得到所述待预测样本的标签；其中，所述分类模型是基于加权后的训练样本训练完成的；所述训练样本的权重是根据训练样本和对应同类别参考集的相似度确定的；所述同类别参考集包括多个参考样本，所述参考样本对应的标签与所述训练样本对应的标签相同，且所述参考样本的标签为无噪声的干净标签。

在一些实施例中，本公开实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法，其具体实现可以参照上文方法实施例的描述，为了简洁，这里不再赘述。

本公开实施例还提出一种计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现上述方法。计算机可读存储介质可以是易失性计算机可读存储介质或非易失性计算机可读存储介质。

本公开实施例还提出一种电子设备，包括：处理器；用于存储处理器可执行指令的存储器；其中，所述处理器被配置为调用所述存储器存储的指令，以执行上述方法。

本公开实施例还提供了一种计算机程序产品，包括计算机可读代码，当计算机可读代码在设备上运行时，设备中的处理器执行用于实现如上任一实施例提供的方法的指令。

本公开实施例还提供了另一种计算机程序产品，用于存储计算机可读指令，指令被执行时使得计算机执行上述任一实施例提供的方法的操作。

电子设备可以被提供为终端、服务器或其它形态的设备。

图6示出根据本公开实施例的一种电子设备800的框图。例如，电子设备800可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等终端。

参照图6，电子设备800可以包括以下一个或多个组件：处理组件802，存储器804，电源组件806，多媒体组件808，音频组件810，输入/输出(I/O)的接口812，传感器组件814，以及通信组件816。

处理组件802通常控制电子设备800的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件802可以包括一个或多个模块，便于处理组件802和其他组件之间的交互。例如，处理组件802可以包括多媒体模块，以方便多媒体组件808和处理组件802之间的交互。

存储器804被配置为存储各种类型的数据以支持在电子设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。

电源组件806为电子设备800的各种组件提供电力。电源组件806可以包括电源管理系统，一个或多个电源，及其他与为电子设备800生成、管理和分配电力相关联的组件。

多媒体组件808包括在所述电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件808包括一个前置摄像头和/或后置摄像头。当电子设备800处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。

音频组件810被配置为输出和/或输入音频信号。例如，音频组件810包括一个麦克风(MIC)，当电子设备800处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中，音频组件810还包括一个扬声器，用于输出音频信号。

I/O接口812为处理组件802和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。

传感器组件814包括一个或多个传感器，用于为电子设备800提供各个方面的状态评估。例如，传感器组件814可以检测到电子设备800的打开/关闭状态，组件的相对定位，例如所述组件为电子设备800的显示器和小键盘，传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变，用户与电子设备800接触的存在或不存在，电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件814还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。

通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件816还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。

在示例性实施例中，电子设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。

在示例性实施例中，还提供了一种计算机可读存储介质，例如包括计算机程序指令的存储器804，上述计算机程序指令可由电子设备800的处理器820执行以完成上述方法。

图7示出根据本公开实施例的一种电子设备1900的框图。例如，电子设备1900可以被提供为一服务器。参照图7，电子设备1900包括处理组件1922，其进一步包括一个或多个处理器，以及由存储器1932所代表的存储器资源，用于存储可由处理组件1922的执行的指令，例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件1922被配置为执行指令，以执行上述方法。

电子设备1900还可以包括一个电源组件1926被配置为执行电子设备1900的电源管理，一个有线或无线网络接口1950被配置为将电子设备1900连接到网络，和一个输入输出(I/O)接口1958。电子设备1900可以操作基于存储在存储器1932的操作系统，例如Windows ServerTM，Mac OS XTM，UnixTM,LinuxTM，FreeBSDTM或类似。

在示例性实施例中，还提供了一种计算机可读存储介质，例如包括计算机程序指令的存储器1932，上述计算机程序指令可由电子设备1900的处理组件1922执行以完成上述方法。

本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。

计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身，诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如，通过光纤电缆的光脉冲)、或者通过电线传输的电信号。

这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备，或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令，并转发该计算机可读程序指令，以供存储在各个计算/处理设备中的计算机可读存储介质中。

用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码，所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等，以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中，通过利用计算机可读程序指令的状态信息来个性化定制电子电路，例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA)，该电子电路可以执行计算机可读程序指令，从而实现本公开的各个方面。

这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。

这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作，从而，存储有指令的计算机可读介质则包括一个制造品，其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。

也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上，使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。

附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分，所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

该计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中，所述计算机程序产品具体体现为计算机存储介质，在另一个可选实施例中，计算机程序产品具体体现为软件产品，例如软件开发包(Software Development Kit，SDK)等等。

以上已经描述了本公开的各实施例，上述说明是示例性的，并非穷尽性的，并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择，旨在最好地解释各实施例的原理、实际应用或对市场中的技术的改进，或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。

Claims

1.一种监督学习方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

3.根据权利要求1或2所述的方法，其特征在于，所述根据所述训练样本和所述同类别参考集的相似度，确定所述训练样本的权重，包括：

4.根据权利要求3所述的方法，其特征在于，根据所述训练样本的损失梯度和所述同类别参考集的损失梯度的相似度，确定所述训练样本的权重，包括：

根据参考样本和所述临时参数，确定同类别参考集的损失；

5.根据权利要求1所述的方法，其特征在于，基于加权后的损失，更新待训练分类模型的参数包括：

6.一种标签预测方法，其特征在于，包括：

将待预测样本输入分类模型，得到所述待预测样本的标签；

其中，所述分类模型是基于加权后的训练样本训练完成的；所述训练样本的权重是根据训练样本和对应同类别参考集的相似度确定的；所述同类别参考集包括多个参考样本，所述参考样本对应的标签与所述训练样本对应的标签相同，且所述参考样本的标签为无噪声的干净标签。

7.一种监督学习装置，其特征在于，包括：

8.一种标签预测装置，其特征在于，包括：

标签预测模块，用于将待预测样本输入分类模型，得到所述待预测样本的标签；

9.一种电子设备，其特征在于，包括：

处理器；

用于存储处理器可执行指令的存储器；

其中，所述处理器被配置为调用所述存储器存储的指令，以执行权利要求1至5中任意一项所述的方法或者权利要求6所述的方法。

10.一种计算机可读存储介质，其上存储有计算机程序指令，其特征在于，所述计算机程序指令被处理器执行时实现权利要求1至5中任意一项所述的方法或者权利要求6所述的方法。