CN108491874A - 一种基于生成式对抗网络的图像单分类方法 - Google Patents

Abstract

本发明涉及一种基于生成式对抗网络的图像单分类方法，包括：采用密集连接块结构构建生成式对抗网络中的生成器；构建生成式对抗网络中的判别器；输入正样本训练数据，并采用梯度惩罚算法对生成式对抗网络进行训练；根据训练过程中模型在验证集上的分类效果，调整网络参数，使用早停策略Early Stopping找到模型的分类最优迭代次数；模型训练完成后，利用生成式对抗网络中的判别器，对测试集数据进行测试，并通过分类召回率CRI判断模型的分类效果。本发明能够自动生成负样本集，解决现有单分类方法中人工构建负样本数据集容易造成分类器过拟合的问题。

Description

一种基于生成式对抗网络的图像单分类方法

技术领域

本发明涉及图像分类方法技术领域，尤其涉及一种基于生成式对抗网络的图像单分类方法。

背景技术

图像分类是计算机视觉领域最基本的研究课题之一，随着深度学习的发展，其中的监督学习方法使得已知图像类别的分类任务更加容易、高效、准确。在此过程中，有充足的训练数据驱动端到端的学习过程并由非线性映射使得图像的语义可以被清晰地表征出来。然而，这种理想的分类情况需要两个前提：一是需要充足的训练数据，二是需要训练数据相应的标签，因此，分类的结果会被限制在这些已知类别内。

单分类问题则将待分类的样本类别从已知类扩大到未知类，其目的是从所有待分类样本中找到某一种特定类别的样本(即正样本)，而不考虑其他样本的类别(即负样本)。当前单分类器可以按照训练数据的类型被分为三类：一是仅适用正样本训练，其中的SVDD(Support Vector Domain Description)一直是单分类算法中的主流算法，然而当样本数不充足时很难刻画出正样本集在高维空间中的分布，分类器容易产生过拟合的现象；二是使用正样本和未标记样本共同训练，为未标记数据和正样本数据找到一个共同的分布，以此将未标记数据转化为正样本数据，常见方法有利用期望最大值(ExpectationMaximization，EM)算法，这类方法的问题在于需要构建高质量的假设分布，而这往往是十分困难的；三是使用正样本和一些人工生成的负样本共同训练，主要利用构建负样本集的方法，将单分类问题转化为二分类问题，然后训练出一个二分类器从而实现单分类，如OSVM(One-class Support Vector Machine)等。然而，在缺少测试集先验知识的情况下，很难构建出合适的负样本集。

除此之外，当前单分类问题的评估指标只关注正样本的分类情况，而没有考虑负样本。

发明内容

本发明的目的在于，提供一种能够自动生成负样本集的单分类方法，旨在解决现有单分类方法中人工构建负样本数据集容易造成分类器过拟合的问题。本发明的技术方案如下：

一种基于生成式对抗网络的图像单分类方法，包括如下步骤：

(1)采用密集连接块结构构建生成式对抗网络中的生成器：生成器的输入为一个一维的随机变量z，其分布服从正态分布，将z转化为服从训练正样本分布的合成负样本图像；

(2)构建生成式对抗网络中的判别器：同样采用密集连接块结构，将判别器的最后一层调整为“softmax”层，采用均方误差函数作为损失函数，使判别器明确输出输入样本为正、负样本的概率，使之直接输出对输入图像的单分类结果，构建出适合于单分类的判别器；

(3)输入正样本训练数据，并采用梯度惩罚算法对生成式对抗网络进行训练；

(4)根据训练过程中模型在验证集上的分类效果，调整网络参数，使用早停策略Early Stopping找到模型的分类最优迭代次数；

(5)模型训练完成后，利用生成式对抗网络中的判别器，对测试集数据进行测试，并通过分类召回率CRI判断模型的分类效果。图像单分类中，对于第i个输入，其单分类结果C_i表示为：

C_i∈{TP,TN,FP,FN},i∈I

式中，I表示测试样本集，TP表示被模型预测为正的正样本，TN表示被模型预测为负的负样本，FP表示被模型预测为正的负样本，FN表示被模型预测为负的正样本，单分类器评估指标——分类召回率CRI：

式中

若CRI高于0.4，则认为模型具有较好的单分类效果，若低于0.4则需要调整模型的参数重新训练。

优选的，所述的梯度惩罚算法是使用Lipschitz约束替代梯度回传过程中的权重截断的方法。并加入批量正则化的方法，将一批输入数据的回传梯度进行正则化，防止由于梯度过小造成的梯度惩罚力度不够的问题。

本发明利用生成式对抗网络提供了一种能够自动生成负样本集的单分类方法，主要是利用生成器生成辅助分类器训练的合成负样本，然后通过判别器实现单分类；同时，针对当前单分类问题的评估指标只关注正样本而忽略负样本的情况，本发明提出了一种能综合评估正、负样本分类效果的指标。本发明具有以下特点：

1、利用生成式对抗网络生成器的优势，不加人工干预地自动生成负样本集。

2、利用生成式对抗网络判别器的特点，将其作为单分类器。

3、结合正、负样本的分类情况，提出了一种能综合评估正、负样本分类效果的指标。

附图说明

图1是本发明方法中密集块连接结构的示意图

图2是本发明方法中生成器的网络结构图

图3是本发明方法中判别器的网络结构图

图4是以“0”为正样本时TN和FP随迭代次数的变化情况

图5是以“0”为正样本时TP和FN随迭代次数的变化情况

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面结合实施例和附图对本发明的具体实施方式做进一步地描述。

为了解决现有单分类算法中在缺少测试集先验知识的情况下，很难构建出合适的负样本集，且构建出的负样本集易造成模型过拟合的问题，本发明利用生成式对抗网络提供了一种能够自动生成负样本集的单分类方法，主要是利用生成器生成辅助分类器训练的合成负样本，然后通过判别器实现单分类；同时，针对当前单分类问题的评估指标只关注正样本而忽略负样本的情况，本发明提出了一种能综合评估正、负样本分类效果的指标。

具体技术细化如下：

本发明使用的生成式对抗网络源于零和博弈理论，由一个生成器和一个判别器组成，生成器负责捕捉样本数据的分布，用服从某一分布的随机变量生成一个类似真实训练数据的样本，旨在生成逼真的合成样本G(z)；判别器是一个二分类器，用于估计一个输入样本来自于真实的训练数据集(而非生成数据集)的概率。上述过程可以表述为如下公式：

式中，其中，G表示生成器，D表示判别器，x表示输入样本，z表示输入的随机变量，min(·)表示最小化操作，max(·)表示最大化操作，log(·)为取以10为底的对数操作，E(·)表示期望，P_data(x)表示服从真实样本的数据分布，P_z(z)表示服从随机分布的数据分布。

(1)采用密集连接块结构构建生成式对抗网络中的生成器

本发明使用了密集块连接结构(如图1所示)，每一层均可以利用在它之前的所有层经卷积操作后输出的特征图，生成器的结构如图2所示。生成器密集块连接结构共包含N层，每一层的非线性变换可以表示为H_i(·)，其中i表示第i层，每一层的输入来自前面所有层的输出。定义第i层输入图像为x_i，则其可以被表示为：

x_i＝H_i([x₀,x₁,...,x_i-1])

式中，[x₀,x₁,...,x_i-1]表示第0至i-1层产生的特征图级联而成的张量。生成器生成合成负样本的过程如下：

a)生成器的输入为一个尺寸为1*100的随机变量z，其分布服从正态分布，该随机变量z经过一个卷积核尺寸为4*4的反卷积层，变为4*4*64的张量x_i输入密集连接块；

b)张量x_i经过一个1*1的卷积层和一个3*3的卷积层，输出一个4*4*32的张量x_i+2；

c)沿第三个通道级联张量x_i和张量x_i+2，成为4*4*96的张量x_i+3；

d)该张量经过一个1*1的卷积层和一个2*2的反卷积层后，形成一个8*8*128的张量x_i'并输入下一个密集连接块中；

e)重复步骤b、c、d三次，得到32*32*512的张量x_k；

f)张量x_k经过一个卷积核为1*1、输出通道数为3的卷积层，最终输出32*32的三通道合成负样本图像。

(2)构建生成式对抗网络中的判别器

本发明中生成式对抗网络的判别器，采用与生成器相似的密集块连接结构，只将其中的反卷积层替换为平均值池化层。判别器的网络结构如图3所示。同时，调整网络的输出部分，使之直接输出对输入图像的单分类结果，构建出适合于单分类的判别器。

由于传统的判别器不能显式地输出对于输入图像的判断结果，因此本发明将判别器的最后一层调整为“softmax”层，从而使判别器明确输出样本为正、负样本的概率。除此之外，本发明采用了均方误差函数(Mean Square Error，MSE)作为损失函数，均方误差损失函数可以表示如下：

式中x∈[0,1]是输入图像在正、负样本类别上的预测概率，l是输入图像的标签，S(·)是softmax层的映射操作，D(·)是判别器的判别操作。

生成器与判别器各层详细参数如表1所示。表中“n×ndeconv”表示卷积核大小为n×n的反卷积层、“n×n conv”表示卷积核大小为n×n的卷积层、“Padding”表示图片周围填充像素个数、“Pooling”表示均值池化操作。

表1网络结构详细参数

(3)对生成式对抗网络进行训练

本发明在美国国家标准与技术研究所(National Institute of Standards andTechnology，NIST)构建的公开手写体数字数据集“MNIST”上对所提方法进行实施，MNIST数据集包含由250名被试者手写的数字“0”到“9”，其训练集有60000张，测试集有10000张。

为了解决生成式对抗网络训练过程中常见的梯度消失问题，本发明采用了梯度惩罚算法，并使用Lipschitz约束替代以往梯度回传过程中的权重截断的方法，在判别器每一层的输入图片空间X上，要求判别器函数D(x)的梯度的二范数不大于一个有限的常数K：

这样当输入的样本稍微变化后，判别器给出的分数不会发生太过剧烈的变化，使得训练过程更加稳定。

另外考虑到softmax函数会将判别器输出的概率限制在[0,1]区间内，如此小的概率经过梯度计算后更容易产生梯度消失，因此本发明在梯度惩罚的基础上上加入了批量正则化的方法，将一批输入数据的回传梯度进行正则化，归一化为均值为0，方差为1的分布，防止由于梯度过小造成的梯度惩罚力度不够的问题。

(4)早停策略寻找模型最优点

该策略是一种用来避免模型在训练数据上过拟合的正则化方式，在训练过程中，根据训练曲线监测单分类模型在验证集上每一轮的效果，一旦模型的性能开始下降即停止训练。

在训练开始的阶段，生成样本与用于训练的正样本差距较远，此时判别器设定的正样本范围较宽泛，在正样本集上欠拟合，大多数测试样本均会被判别为正样本。随着训练过程的推进，生成样本的分布逐渐趋向于正样本，而由于生成样本数量远大于训练用正样本数量，判别器容易在正样本集上产生过拟合，此时大多数测试样本会被判别为负样本，模型性能变差。早停策略就是通过观察训练曲线来找到判别器在过拟合与欠拟合之间的平衡点，一旦训练曲线开始下降就停止模型的训练，从而使模型的效果最优。

以数字“0”作为正样本集为例，实施例的目的在于从其他数字中识别出数字“0”。训练过程中TP、TN、FP、FN的变化情况如图4、图5所示。

(5)利用训练好的判别器作为单分类器

经过上述训练过程后，可以得到训练好的判别器权重，在测试时，直接将待测试数据输入判别器即可直接输出判别结果，并可根据在单分类问题中，对于第i个输入，其单分类结果C_i可以表示为：

C_i∈{TP,TN,FP,FN},i∈I

式中，I表示测试样本集，TP表示被模型预测为正的正样本，TN表示被模型预测为负的负样本，FP表示被模型预测为正的负样本，FN表示被模型预测为负的正样本。

为此本发明首先定义了负样本集上的召回率neg_recall：

并据此定义了单分类器评估指标——“分类召回率”(Classification RecallIndex，CRI)，其定义为：

式中，

若CRI高于0.4，则认为模型具有较好的单分类效果，若低于0.4则需要调整模型的超参数重新训练。

上述实施例为本发明较佳的实施方式，但本发明的实施方式并不受上述实施例的限制，其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化，均应为等效的置换方式，都包含在本发明的保护范围之内。

Claims (3)

1.一种基于生成式对抗网络的图像单分类方法，包括如下步骤：

(1)采用密集连接块结构构建生成式对抗网络中的生成器：生成器的输入为一个一维的随机变量z，其分布服从正态分布，将z转化为服从训练正样本分布的合成负样本图像；

(2)构建生成式对抗网络中的判别器：同样采用密集连接块结构，将判别器的最后一层调整为“softmax”层，采用均方误差函数作为损失函数，使判别器明确输出输入样本为正、负样本的概率，使之直接输出对输入图像的单分类结果，构建出适合于单分类的判别器；

(3)输入正样本训练数据，并采用梯度惩罚算法对生成式对抗网络进行训练；

(4)根据训练过程中模型在验证集上的分类效果，调整网络参数，使用早停策略EarlyStopping找到模型的分类最优迭代次数；

(5)模型训练完成后，利用生成式对抗网络中的判别器，对测试集数据进行测试，并通过分类召回率CRI判断模型的分类效果，图像单分类中，对于第i个输入，其单分类结果C_i表示为：

C_i∈{TP,TN,FP,FN},i∈I

式中，I表示测试样本集，TP表示被模型预测为正的正样本，TN表示被模型预测为负的负样本，FP表示被模型预测为正的负样本，FN表示被模型预测为负的正样本，单分类器评估指标——分类召回率CRI：

式中

若CRI高于0.4，则认为模型具有较好的单分类效果，若低于0.4则需要调整模型的参数重新训练。

2.根据权利要求1所述的方法，其特征在于，步骤(3)所述的梯度惩罚算法是使用Lipschitz约束替代梯度回传过程中的权重截断的方法。

3.根据权利要求1所述的方法，其特征在于，步骤(3)还加入批量正则化的方法，将一批输入数据的回传梯度进行正则化，防止由于梯度过小造成的梯度惩罚力度不够的问题。