CN115239991A - 一种面向标记噪声的深度度量学习方法 - Google Patents

Abstract

本发明提出一种面向标记噪声的深度度量学习算法；该方法包含以下步骤：（1）用户收集含有标记噪声的数据，包括样本特征和含有真实标记的候选标记集合；（2）为每个候选标记初始化置信度，并初始化神经网络参数；（3）计算损失函数，利用优化器对神经网络的参数进行更新，求得分类模型；（4）使用训练得到的分类模型对测试示例进行预测，得到每个样本的分类结果；（5）如果用户对预测结果满意，则结束，否则转到步骤（2），重新初始化标记置信度和神经网络参数。通过设计新型损失函数，将分类损失和度量学习损失统一在一个框架中。该方法不仅可以最小化模型输出结果和标记之间的差异，而且缩小了同类样本之间的距离并拉大异类样本之间的距离，从而可以实现含有标记噪声的情况下，特征表示能力的提升。

Description

一种面向标记噪声的深度度量学习方法

技术领域

本发明涉及一种数据分类方法，具体是一种面向标记噪声的深度度量学习方法，属于机器学习中的弱监督学习和度量学习技术领域。

背景技术

机器学习是目前人工智能中应用最为广泛的技术，而分类问题也是机器学习中最核心的问题。在分类问题中，样本在输入空间中由一个特征向量表示，在输出空间与一个标记相关联，这个标记刻画了这个样本的语义信息。监督学习成功的一大关键因素是可以获取大量有单一、正确标记的训练数据。但是在很多现实场景中，对数据给予完美的标注经常比较困难且经常发生错误，我们采集的数据的标记往往会带有大量的噪声。因此，研究带有标记噪声的分类问题，具有非常广泛的现实应用价值。

本发明研究的是含有冗余标记噪声的分类问题。在该问题中，每个样本在输出空间中和一组候选标记相关联，其中有且仅有一个标记是这个样本的真实标记，但是这个真实标记无法被学习算法获取。我们的目的是根据这样的数据学习多分类分类器，完成从输入空间到输出空间的映射。该类问题的核心技术是对候选标记集合进行消岐，即对真实标记进行估计。深度度量学习通过设计代理任务，学习特征映射，使得同类样本的特征表示尽可能接近，异类样本的特征表示尽可能远离，可以辅助分类模型的训练。

发明内容

在含有标记噪声的分类问题中，现有工作主要聚焦于如何设计有效的模型对含噪的候选标记集合进行消岐，很少关注于样本的特征空间。但是，在该任务中，由于标记噪声的存在，样本可能无法学习到较好的特征表示。因此，如何设计方法提升分类模型的特征表示能力是一个值得研究的问题。

为解决上述问题，本发明公开了一种面向标记噪声的深度度量学习方法，引入深度度量学习技术，对样本的特征表示加以约束，能够辅助特征表示的学习并提升模型分类的性能。

本发明提出一种面向标记噪声的深度度量学习算法。通过设计新型损失函数，将分类损失和度量学习损失统一在一个框架中。该方法不仅可以最小化模型输出结果和标记之间的差异，而且缩小了同类样本之间的距离并拉大异类样本之间的距离，从而可以实现含有标记噪声的情况下，特征表示能力的提升。该方法包含以下步骤：(1)用户收集含有标记噪声的数据，包括样本特征和含有真实标记的候选标记集合；(2)为每个候选标记初始化置信度，并初始化神经网络参数； (3)计算损失函数，利用优化器对神经网络的参数进行更新，求得分类模型；(4)使用训练得到的分类模型对测试示例进行预测，得到每个样本的分类结果；(5)如果用户对预测结果满意，则结束，否则转到步骤(2)，重新初始化标记置信度和神经网络参数。

本发明进一步改进在于：

所述步骤(2)使用标记置信度来表示标记信息，为每个标记初始化置信度值，具体说明如下：

令X＝R^d表示d维特征空间，令Y＝{1，2，...q}表示含有q个标记的标记空间；假设用户提交的样例图像集合 D＝{(x₁，S₁)，(x₂，S₂)，...，(x_m，S_m)}，其中样本x_i∈X为d维的特征向量，而

为与样本x_i对应的一组候选标记集合；标记y_i为样本x_i的真实标记，隐藏在候选标记集合之中，但是不能被学习算法获取；

为了对候选标记是真实标记的可能性进行描述，令f_i＝ [f_i1；f_i2；...；f_iq]表示样本x_i的标记置信度向量，该向量所有元素和为1；由于候选标记集合外的标记不可能是样本的真实标记，因此初始化标记置信度如下：如果l∈S_i，那么我们初始化

如果

那么我们初始化f_il＝0；同时，我们随机初始化神经网络模型参数。

本发明进一步改进在于：

步骤(3)通过最小化损失函数进行神经网络模型的训练，具体包括：利用深度学习技术端到端地对样本x_i的特征进行提取，通过使用多层神经网络来逐步提取样本特征；

在利用神经网络提取特征后，我们利用全连接层将图像特征映射到一个低维向量h_i，该向量可以看作样本x_i的特征表示向量；

最后，通过最后一层全连接层将h_i映射至类别概率向量p_i∈[0，1]^q，如下所示：

p_i＝softmax(Wh_i+b)

其中，W和b为最后一层全联接层的神经网络参数，softmax(·)为 softmax函数；类别概率向量p_i＝[p_i1；p_i2；...；p_iq]每一维可以看作对应类别是样本x_i真实标记的概率；由于样本的真实标记难以确定，我们利用标记置信度对每个类别各自对应的交叉墒损失进行加权，如下所示：

其中，log(·)为对数函数；

本发明利用深度度量学习技术学习更优的特征表示空间；具体来说，在每一轮迭代时，首先根据标记置信度向量的内积确定属于同类和异类的样本对，如下所示：

其中，γ∈[0，1]为划分同类样本对与异类样本对的阈值。如果w_ij＝1，那么(x_i，x_j)为同类样本对；如果w_ij＝0，那么(x_i，x_j)为异类样本对。在确定样本对后，我们引入如下的度量学习损失：

上式中，P代表所有样本对组成的数据集，β为预先定义的间隔，||·||₂为向量的L2范数，max(·，·)为最大化运算符；

最终的损失函数由上面两部分损失相加而成，即：

L＝L_c+λL_m

其中，λ为这两部分损失之间的权衡系数；我们计算损失函数L的值，求得对于神经网络参数的梯度，并利用优化器更新神经网络参数；随后，我们利用指数移动平均的方式更新标记置信度，即

本发明的有益效果：

本发明面向含有标记噪声的分类问题，利用深度度量学习方法，学习更好的样本特征表示空间。该方法可在含有大量标记噪声的弱监督环境下学习更优的特征表示，从而促进模型的训练，使得模型取得更好的泛化性能。

附图说明

图1是图像分类装置的工作流程图；

图2是本发明方法的流程图；

图3是分类模型构建阶段的流程图。

具体实施方式

下面结合附图和具体实施方式，进一步阐明本发明，应理解下述具体实施方式仅用于说明本发明而不用于限制本发明的范围。需要说明的是，下面描述中使用的词语“前”、“后”、“左”、“右”、“上”和“下”指的是附图中的方向，词语“内”和“外”分别指的是朝向或远离特定部件几何中心的方向。

如图1所示，以图像分类的过程为例。图像存储设备中包含了大量含有标记噪声的图像，每张图像和多个候选标记相关联，其中有且仅有一个标记是这个样本的真实标记。在对图像的真实标记进行判断时，用户首先从全部带有标记噪声的图像中选择m张样例图像提交给图像分类器(计算机模型)处理。在这里，首先需要对样例图像的特征进行提取。我们利用深度学习技术端到端地对图像的特征进行提取，通过使用多层卷积神经网络来逐步提取图像的有效特征。在利用卷积神经网络提取了图像的特征之后，我们利用全连接层将图像特征映射到一个低维向量h，该向量可以作为这张图像的特征表示向量。最后，通过全连接层将该低维向量映射到一个维度为类别数量的向量p，该向量每一个维度可以看作对应类别是该图像真实标记的概率。通过最小化本发明设计的损失函数，利用优化器对神经网络的参数进行更新。在测试阶段，若需要预测图像的标记时，将该图像输入该模型，并利用模型预测返回结果。如果用户对预测结果不满意，可从图像库中选择更多的图像反馈给图像分类装置。

本发明涉及的方法如图2所示。步骤10是起始动作。令X＝R^d表示d维特征空间，令Y＝{1，2，...q}表示含有q个标记的标记空间。假设用户提交的样例图像集合D＝{(x₁，S₁)，(x₂，S₂)，...，(x_m，S_m)}，其中样本x_i∈X为d维的特征向量，而

为与样本x_i对应的一组候选标记集合。标记y_i为样本x_i的真实标记，隐藏在候选标记集合之中，但是不能被学习算法获取。在步骤11中，初始化样本的标记置信度和神经网络参数。在步骤12中，基于本发明提出的方法，计算损失函数，利用优化器对神经网络的参数进行更新。具体方法如图3所示。步骤 13中，利用步骤12得到的分类模型对测试示例进行预测，并返回分类结果。最后进入步骤14的结束状态。

图3给出了步骤12的详细描述。步骤1200是起始动作。步骤 1201至步骤1205构成循环体，循环的每一轮中对神经网络的参数和样本的标记置信度进行一轮更新。具体来说，步骤1203计算的损失函数由两部分组成，分别是基于标记置信度加权的分类损失和深度度量学习损失。首先介绍基于标记置信度加权的分类损失。令 f_i＝[f_i1；f_i2；...；f_iq]表示样本x_i的标记置信度向量，该向量所有元素和为1。由于样本的真实标记难以确定，我们利用标记置信度对每个类别对应的交叉墒损失进行加权，如下所示：

其中，p_il表示模型预测第i个样本为第l个类别的概率。如果模型对第 i个样本预测为第l个类别的置信度比较大，那么第l个类别很有可能是第i个样本的真实标记，损失函数也会把更多的权重放在该类别对应的交叉墒损失上。

在训练数据含有标记噪声时，样本的特征表示学习会受到负面影响。本发明利用深度度量学习技术学习更优的特征表示空间。具体来说，在每一轮迭代时，根据标记置信度向量的内积确定属于同类和异类的样本对，如下所示：

其中，γ∈[0，1]为划分同类样本对与异类样本对的阈值。如果样本x_i的标记置信度向量f_i与样本x_j的标记置信度向量f_j的内积大于γ，则认为这两个样本属于同一类，需要让他们的特征表示尽可能接近；而如果样本x_i的标记置信度向量f_i与样本x_j的标记置信度向量f_j的内积小于γ，则认为这两个样本属于同一个类，需要让他们的特征表示尽可能远离。在确定如上样本对后，我们引入如下的度量学习损失：

上式中，P代表所有样本对组成的数据集，β为预先定义的间隔，h_i为神经网络输出的样本x_i的特征表示向量。如果(x_i，x_j)为上一步确定的同类样本对，那么该损失函数会让它们的特征表示更加接近；如果 (x_i，x_j)为上一步确定的异类样本对，那么该损失函数会让它们的特征表示向量距离更大，并希望该距离最终大于β。步骤1203中最终的损失函数由上面两部分损失相加而成，即：

L＝L_c+λL_m#(4)

其中，λ为这两部分损失之间的权衡系数。步骤1203计算上式，求得对神经网络参数的梯度，并利用优化器更新网络参数。随后进入步骤 1204。

为了更加准确地估计样本的标记置信度，步骤1204利用对模型输出结果进行指数移动平均(Exponential Moving Average)的方式来更新标记置信度。具体来说，令

表示第i个样本在第t轮迭代后的标记置信度向量，令

表示第i个样本在第t轮迭代时模型输出的类别概率向量，则我们按如下方式更新标记置信度向量：

通过指数移动平均方式来估计标记置信度，会给予最近时刻的模型输出更大的权重，给予初始时刻的模型输出越来越小的权重。由于模型逐渐收敛，预测结果也更加精准稳定，因此通过指数移动平均可以得到更加精准的标记置信度。经过T轮迭代，神经网络模型训练结束，随即进入步骤1206的结束状态。

本发明给出了一种面向标记噪声的深度度量学习方法。该方法首先对原始数据的候选标记初始化标记置信度，并初始化神经网络参数。然后，通过本发明给出方法计算同类样本对和异类样本对，并计算损失函数和对神经网络参数求导数，利用优化器更新神经网络参数。随后，对样本的标记置信度进行更新，并最终完成神经网络的训练。在测试阶段，利用训练得到的神经网络模型对测试样本的标记进行预测。通过引入本发明中的深度度量学习，可以学习样本更好的特征表示，从而提升模型的泛化性能。

本发明方案所公开的技术手段不仅限于上述实施方式所公开的技术手段，还包括由以上技术特征任意组合所组成的技术方案。

Claims (3)

1.一种面向标记噪声的深度度量学习方法，其特征在于；该方法包括以下步骤：

步骤(1)用户收集含有标记噪声的数据，包括样本特征和含有真实标记的候选标记集合；

步骤(2)为每个候选标记初始化置信度，并初始化神经网络参数；

步骤(3)计算损失函数，利用优化器对神经网络的参数进行更新，求得分类模型；

步骤(4)使用训练得到的分类模型对测试示例进行预测，得到每个样本的分类结果；

步骤(5)如果用户对预测结果满意，则结束，否则转到步骤(2)，重新初始化标记置信度和神经网络参数。

2.根据权利要求1所述的一种面向标记噪声的深度度量学习方法，其特征在于；所述步骤(2)使用标记置信度来表示标记信息，为每个标记初始化置信度值，具体说明如下：

令X＝R^d表示d维特征空间，令Y＝{1,2,…q}表示含有q个标记的标记空间；假设用户提交的样例图像集合D＝{(x₁,S₁),(x₂,S₂),…,(x_m,S_m)}，其中样本x_i∈X为d维的特征向量，而

为与样本x_i对应的一组候选标记集合；标记y_i为样本x_i的真实标记，隐藏在候选标记集合之中，但是不能被学习算法获取；

为了对候选标记是真实标记的可能性进行描述，令f_i＝[f_i1；f_i2；…；f_iq]表示样本x_i的标记置信度向量，该向量所有元素和为1；由于候选标记集合外的标记不可能是样本的真实标记，因此初始化标记置信度如下：如果l∈S_i，那么我们初始化

如果

那么我们初始化f_il＝0；同时，我们随机初始化神经网络模型参数。

3.根据权利要求1所述的一种面向标记噪声的深度度量学习方法，其特征在于：所述步骤(3)通过最小化损失函数进行神经网络模型的训练，具体包括：

利用深度学习技术端到端地对样本x_i的特征进行提取，通过使用多层神经网络来逐步提取样本特征；

在利用神经网络提取特征后，我们利用全连接层将图像特征映射到一个低维向量h_i，该向量可以看作样本x_i的特征表示向量；

最后，通过最后一层全连接层将h_i映射至类别概率向量p_i∈[0,1]^q，如下所示：

p_i＝softmax(Wh_i+b)

其中，W和b为最后一层全联接层的神经网络参数，softmax(·)为softmax函数；类别概率向量p_i＝[p_i1；p_i2；…；p_iq]每一维可以看作对应类别是样本x_i真实标记的概率；由于样本的真实标记难以确定，我们利用标记置信度对每个类别各自对应的交叉墒损失进行加权，如下所示：

其中，log(·)为对数函数；

本发明利用深度度量学习技术学习更优的特征表示空间；具体来说，在每一轮迭代时，首先根据标记置信度向量的内积确定属于同类和异类的样本对，如下所示：

其中，γ∈[0,1]为划分同类样本对与异类样本对的阈值。如果w_ij＝1，那么(x_i,x_j)为同类样本对；如果w_ij＝0，那么(x_i,x_j)为异类样本对。在确定样本对后，我们引入如下的度量学习损失：

上式中，P代表所有样本对组成的数据集，β为预先定义的间隔，‖·‖₂为向量的L2范数，max(·,·)为最大化运算符；

最终的损失函数由上面两部分损失相加而成，即：

L＝L_c+λL_m

其中，λ为这两部分损失之间的权衡系数；我们计算损失函数L的值，求得对于神经网络参数的梯度，并利用优化器更新神经网络参数；随后，我们利用指数移动平均的方式更新标记置信度，即

Images