CN110472667A - 基于反卷积神经网络的小目标分类方法 - Google Patents

Abstract

本发明提供的一种基于反卷积神经网络的小目标分类方法，包括：获取目标图像并进行校正；构建训练集和测试集；将训练集输入反卷积神经网络使模型不断学习训练样本的特征，得到最优化的模型权重和偏置；使用分类器Softmax对小目标进行分类，经过多次迭代优化后得到最终的模型，运用该模型便可实现对小目标进行分类。本发明提供的基于反卷积神经网络的小目标分类方法，通过构建训练集、测试集，并通过训练反卷积神经网络模型，训练过程使用RMSprop算法，同时交替调用前向传播和反向传播对模型参数进行优化，直到训练阶段损失函数的值进行收敛，模型训练完成；再通过测试集去测试已训练好的模型，得到测试结果，能够准确检测图像中小目标。

Description

基于反卷积神经网络的小目标分类方法

技术领域

本发明涉及计算机视觉技术领域，更具体的，涉及一种基于反卷积神经网络 的小目标分类方法。

背景技术

小目标检测是图像处理领域的一个难点，其中包括医学领域图像中的小目标 检测。医学图像中的小目标一般存在边缘不清晰，对比度低的特点，并且多数情 况下存在噪声干扰，增加了检测的难度。目前，传统的方法对于小目标检测在精 度上存在一定的局限性，未能对小目标进行高效的检测。

发明内容

本发明为克服现有的小目标检测方法在精度上存在一定的局限性，存在无法 对小目标进行高效检测的技术缺陷，提供一种基于反卷积神经网络的小目标分类 方法。

为解决上述技术问题，本发明的技术方案如下：

基于反卷积神经网络的小目标分类方法，包括以下步骤：

S1：获取目标图像，校正提高图像整体的对比度和亮度；

S2：选取目标图像的绿色通道、蓝色通道及校正后的目标图像作为数据集， 构建训练集和测试集；

S3：构建反卷积神经网络并设置相应超参数，选取ReLU作为激活函数；

S4：将训练集输入到反卷积神经网络模型中，使模型不断学习训练样本的特 征，得到最优化的模型权重和偏置；

S5：将反卷积神经网络学习到的特征输入到Softmax中进行分类，得到对应 类别的目标预测概率值，将概率最大的类别作为该样本的预测结果；

S6：每迭代一个测试间隔进行一次测试，得到相应迭代的分类准确率，各类 别灵敏度和测试损失值；

S7：将每一次迭代后更新的模型权重和偏置作为下一次迭代的初始参数，直 至损失值达到收敛，训练结束；

S8：将测试集的样本输入训练得到的优化的反卷积神经网络模型中，得到测 试结果。

其中，所述步骤S1通过Gamma校正的方法校正提高图像整体的对比度和亮 度。

其中，在所述步骤S2中，所述数据集随机抽取70％作为训练集，剩余30％ 作为测试集；所述的数据集包括正样本数据集和负样本数据集，所述正样本数据 集源于三类小目标，即微动脉瘤、出血点和硬性渗出物，每个样本块以这三类小 目标为中心，大小为N×N；所述负样本数据集不包含三类小目标，样本块尺寸 与正样本块尺寸相同。

其中，在所述步骤S3中构建反卷积神经网络的具体过程为：采用4个卷积 层提取样本的高维特征，包括但不仅限于颜色，纹理，边缘特征以及反映样本本 质的抽象特征；采用4个反卷积层恢复在卷积层中丢失的信息并有效地滤除特征 噪声，同时进行尺寸修复，使得特征图的尺寸与输入样本大小相同，即N×N。

其中，在所述步骤S3中超参数具体包括初始学习率、权重更新衰减系数、 迭代次数和参数优化算法；所述初始学习率设置为0.0001，所述权重更新衰减系 数设置为0.0005，所述迭代次数设置为2000，所述参数优化算法选择RMSprop 算法。

其中，通过所述RMSprop算法同时交替调用前向传播和反向传播对模型参 数进行优化，直到训练阶段损失函数的值达到收敛，模型训练完成。

其中，在所述反卷积神经网络模型优化过程中，即损失值关于权重和偏置偏 导数的公式具体为：

其中，W表示权重，b表示偏置；W^l表示反卷积神经中第l层的权重矩阵； b^l表示网络第l层的偏置矩阵；ρ^l表示第l层的误差项；θ^l为第l层的输入，即 第l-1层的输出经过激活函数计算后的值。

与现有技术相比，本发明技术方案的有益效果是：

本发明提供的基于反卷积神经网络的小目标分类方法，通过构建训练集、测 试集，并通过训练反卷积神经网络模型，训练过程使用RMSprop算法，同时交 替调用前向传播和反向传播对模型参数进行优化，直到训练阶段损失函数的值进 行收敛，模型训练完成；再通过测试集去测试已训练好的模型，得到测试结果， 能够准确检测图像中小目标。

附图说明

图1为本发明方法的流程示意图；

图2为本发明反卷积神经网络结构图；

图3为实施例2测试结果图。

具体实施方式

附图仅用于示例性说明，不能理解为对本专利的限制；

为了更好说明本实施例，附图某些部件会有省略、放大或缩小，并不代表实 际产品的尺寸；

对于本领域技术人员来说，附图中某些公知结构及其说明可能省略是可以理 解的。

下面结合附图和实施例对本发明的技术方案做进一步的说明。

实施例1

如图1所示，基于反卷积神经网络的小目标分类方法，包括以下步骤：

S1：获取目标图像，校正提高图像整体的对比度和亮度；

S2：选取目标图像的绿色通道、蓝色通道及校正后的目标图像作为数据集， 构建训练集和测试集；

S3：构建反卷积神经网络并设置相应超参数，选取ReLU作为激活函数，即

f(z)＝max(0,z)；

S4：将训练集输入到反卷积神经网络模型中，使模型不断学习训练样本的特 征，得到最优化的模型权重和偏置；

S5：将反卷积神经网络学习到的特征输入到Softmax中进行分类，得到对应 类别的目标预测概率值，将概率最大的类别作为该样本的预测结果；

S6：每迭代一个测试间隔进行一次测试，得到相应迭代的分类准确率，各类 别灵敏度和测试损失值；

S7：将每一次迭代后更新的模型权重和偏置作为下一次迭代的初始参数，直 至损失值达到收敛，训练结束；

S8：将测试集的样本输入训练得到的优化的反卷积神经网络模型中，得到测 试结果。

更具体的，所述步骤S1通过Gamma校正的方法校正提高图像整体的对比度 和亮度。

更具体的，在所述步骤S2中，所述数据集随机抽取70％作为训练集，剩余 30％作为测试集；所述的数据集包括正样本数据集和负样本数据集，所述正样本 数据集源于三类小目标，即微动脉瘤、出血点和硬性渗出物，每个样本块以这三 类小目标为中心，大小为N×N；所述负样本数据集不包含三类小目标，样本块 尺寸与正样本块尺寸相同。

更具体的，在所述步骤S3中构建构建反卷积神经网络的具体过程为：采用4 个卷积层提取样本的高维特征，包括但不仅限于颜色，纹理，边缘特征以及反映 样本本质的抽象特征；采用4个反卷积层恢复在卷积层中丢失的信息并有效地滤 除特征噪声，同时进行尺寸修复，使得特征图的尺寸与输入样本大小相同，即 N×N。

更具体的，在所述步骤S3中超参数具体包括初始学习率、权重更新衰减系 数、迭代次数和参数优化算法；所述初始学习率设置为0.0001，所述权重更新衰 减系数设置为0.0005，所述迭代次数设置为2000，所述参数优化算法选择 RMSprop算法。

更具体的，通过所述RMSprop算法同时交替调用前向传播和反向传播对模 型参数进行优化，直到训练阶段损失函数的值达到收敛，模型训练完成。

更具体的，在所述反卷积神经网络模型优化过程中，即损失值关于权重和偏 置偏导数的公式具体为：

其中，W表示权重，b表示偏置；W^l表示反卷积神经中第l层的权重矩阵；b^l表示网络第l层的偏置矩阵；ρ^l表示第l层的误差项；θ^l为第l层的输入，即 第l-1层的输出经过激活函数计算后的值。

实施例2

更具体的，在实施例1的基础上，如图2所示，从DIARETDB1数据库中选 取比例为70％的彩色眼底图像作为训练集，用于构建正负训练样本；从 DIARETDB1数据库中选取比例为30％的彩色眼底图像作为测试集，用于构建正 负测试样本；所述正样本包含三类病变，分别为微动脉瘤，出血，渗出物，是以 三类病变为中心的27×27像素块；所述负样本为不包含此三类病变的像素块，尺 寸与正样本相同；提取彩色眼底图像中的绿色通道、蓝色通道，同时对绿色通道 进行Gamma校正，得到对比度增强通道，将此三通道作为三个原始数据集分别 训练与测试。

在具体实施过程中，通过生成不同尺寸的像素块并进行相应实验，在其余条 件相同情况下，选取检测效果最好的尺寸大小，从而确定像素块的尺寸。

在具体实施过程中，搭建十一层反卷积神经网络，其中包含四层卷积层，四 层反卷积层，三层全连接层；设置模型相应超参数：学习率设置为0.0001；迭代 次数为2000；测试间隔为100，表示每经过100次迭代进行一次测试，得到相应 迭代的测试结果；模型参数优化选取RMSprop算法。

在具体实施过程中，将训练样本输入到反卷积神经网络模型中，训练过程交 替调用前向传播和反向传播方法，使模型不断学习训练样本的特征，并得到最终 优化的模型参数W、b；其中，W表示权重，b表示偏置；损失函数关于权重和 偏置偏导数的公式为：

其中，W表示权重，b表示偏置；W^l表示反卷积神经中第l层的权重矩阵； b^l表示网络第l层的偏置矩阵；ρ^l表示第l层的误差项；θ^l为第l层的输入，即 第l-1层的输出经过激活函数计算后的值。

在具体实施过程中，将反卷积神经网络学习到的特征作为分类器Softmax的 输入得到分类概率值，经过Softmax方法计算后得到每个训练或测试样本所属类 别的概率值，概率值最大的类别作为该样本的预测结果；如图2所示，反卷积神 经网络模型中包含卷积层、反卷积层、激活层以及全连接层，其中卷积层的作用 是提取样本不同特征的主要信息并实现降维，反卷积层的作用是重构样本的特 征，训练过程中通过相应层的计算，学习样本特征，最终将提取到的特征作为分 类器Softmax的输入，对样本进行检测，得到分类结果。

在具体实施过程中，每迭代一个测试间隔进行一次测试，得到相应迭代次数 的准确率，各类灵敏度和损失值，其中，计算损失值的损失函数公式为：

其中：n为样本的个数；表示第i个样本的真实值；y_i表示模型对第i个 样本的预测值。

在具体实施过程中，将每一次迭代后更新的模型权重和偏置作为下一次迭代 的初始参数，直至损失值达到收敛，训练结束；将测试集的样本输入训练得到的 优化的反卷积神经网络模型中，得到测试结果。本实施例测试结果主要通过两个 衡量标准，灵敏度Sensitivity和准确率Accuracy。本实施例通过所述的基于反卷 积神经网络的小目标分类方法，得到的测试灵敏度结果如图3所示，其中正负样 本预测的总准确率达到0.9818，通过测试结果可以表明基于反卷积神经网络的小 目标分类方法，能够较好的提取样本特征并学习，通过交替调用前向传播和反向 传播对模型参数优化的训练方式，一步一步提高反卷积网络模型的分类能力，显 著地提升了小目标检测的准确率和灵敏度。

显然，本发明的上述实施例仅仅是为清楚地说明本发明所作的举例，而并非 是对本发明的实施方式的限定。对于所属领域的普通技术人员来说，在上述说明 的基础上还可以做出其它不同形式的变化或变动。这里无需也无法对所有的实施 方式予以穷举。凡在本发明的精神和原则之内所作的任何修改、等同替换和改进 等，均应包含在本发明权利要求的保护范围之内。

Claims (7)

1.基于反卷积神经网络的小目标分类方法，其特征在于，包括以下步骤：

S1：获取目标图像，校正提高图像整体的对比度和亮度；

S2：选取目标图像的绿色通道、蓝色通道及校正后的目标图像作为数据集，构建训练集和测试集；

S3：构建反卷积神经网络并设置相应超参数，选取ReLU作为激活函数；

S4：将训练集输入到反卷积神经网络模型中，使模型不断学习训练样本的特征，得到最优化的模型权重和偏置；

S5：将反卷积神经网络学习到的特征输入到Softmax中进行分类，得到对应类别的目标预测概率值，将概率最大的类别作为该样本的预测结果；

S6：每迭代一个测试间隔进行一次测试，得到相应迭代的分类准确率，各类别灵敏度和测试损失值；

S7：将每一次迭代后更新的模型权重和偏置作为下一次迭代的初始参数，直至损失值达到收敛，训练结束；

S8：将测试集的样本输入训练得到的优化的反卷积神经网络模型中，得到测试结果。

2.根据权利要求1所述的基于反卷积神经网络的小目标分类方法，其特征在于，所述步骤S1通过Gamma校正的方法校正提高图像整体的对比度和亮度。

3.根据权利要求2所述的基于反卷积神经网络的小目标分类方法，其特征在于，在所述步骤S2中，所述数据集随机抽取70％作为训练集，剩余30％作为测试集；所述的数据集包括正样本数据集和负样本数据集，所述正样本数据集源于三类小目标，即微动脉瘤、出血点和硬性渗出物，每个样本块以这三类小目标为中心，大小为N×N；所述负样本数据集不包含三类小目标，样本块尺寸与正样本块尺寸相同。

4.根据权利要求3所述的基于反卷积神经网络的小目标分类方法，其特征在于，在所述步骤S3中构建构建反卷积神经网络的具体过程为：采用4个卷积层提取样本的高维特征，包括但不仅限于颜色，纹理，边缘特征以及反映样本本质的抽象特征；采用4个反卷积层恢复在卷积层中丢失的信息并有效地滤除特征噪声，同时进行尺寸修复，使得特征图的尺寸与输入样本大小相同，即N×N。

5.根据权利要求4所述的基于反卷积神经网络的小目标分类方法，其特征在于，在所述步骤S3中超参数具体包括初始学习率、权重更新衰减系数、迭代次数和参数优化算法；所述初始学习率设置为0.0001，所述权重更新衰减系数设置为0.0005，所述迭代次数设置为2000，所述参数优化算法选择RMSprop算法。

6.根据权利要求5所述的基于反卷积神经网络的小目标分类方法，其特征在于，通过所述RMSprop算法同时交替调用前向传播和反向传播对模型参数进行优化，直到训练阶段损失函数的值达到收敛，模型训练完成。

7.根据权利要求5所述的基于反卷积神经网络的小目标分类方法，其特征在于，在所述反卷积神经网络模型优化过程中，即损失值关于权重和偏置偏导数的公式具体为：

其中，W表示权重，b表示偏置；W^l表示反卷积神经中第l层的权重矩阵；b^l表示网络第l层的偏置矩阵；ρ^l表示第l层的误差项；θ^l为第l层的输入，即第l-1层的输出经过激活函数计算后的值。