CN109685126A - 基于深度卷积神经网络的图像分类方法及图像分类系统 - Google Patents

基于深度卷积神经网络的图像分类方法及图像分类系统 Download PDF

Info

Publication number
CN109685126A
CN109685126A CN201811541228.6A CN201811541228A CN109685126A CN 109685126 A CN109685126 A CN 109685126A CN 201811541228 A CN201811541228 A CN 201811541228A CN 109685126 A CN109685126 A CN 109685126A
Authority
CN
China
Prior art keywords
layer
convolutional
adjacent
image classification
neural networks
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201811541228.6A
Other languages
English (en)
Inventor
刘贵生
李稚松
李殿赟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Compass Aerospace Satellite Application Technology Group Co Ltd
Original Assignee
Compass Aerospace Satellite Application Technology Group Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Compass Aerospace Satellite Application Technology Group Co Ltd filed Critical Compass Aerospace Satellite Application Technology Group Co Ltd
Priority to CN201811541228.6A priority Critical patent/CN109685126A/zh
Publication of CN109685126A publication Critical patent/CN109685126A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Abstract

本发明涉及一种基于深度卷积神经网络的图像分类方法及图像分类系统，该方法包括：依次构建深度卷积神经网络图像分类模型的输入层、多个卷积层和输出层，并预设输入层与相邻卷积层之间的前端连接权重初始值、相邻两卷积层之间的中间连接权重初始值、输入层与相邻卷积层之间的后端连接权重初始值；利用多种类型的图像对该深度卷积神经网络图像分类模型进行训练；将接收的待识别图像输入到训练后的深度卷积神经网络图像分类模型中，得到待识别图像类属矩阵。本发明选择不同类别图像采用多卷积层的方法进行模型训练，能够递进式地捕获待识别图像的特征，以客观精确地判定待识别图像可能属于的类别以及属于各类别的概率。

Description

基于深度卷积神经网络的图像分类方法及图像分类系统
技术领域
本发明涉及图像识别技术领域，尤其涉及一种基于深度卷积神经网络的图像分类方法及图像分类系统。
背景技术
如今基于大数据的深度学习方法已经远远超越了传统的识别和检测方法，卷积神经网络(Convolutional Neural Network，简称CNN)是深度学习当前较为热门的方法之一，是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。深度学习(deep learning)是机器学习的分支，它试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。
卷积神经网络通过对图像交替进行卷积和池化操作，逐渐提取图像的高层特征，再使用神经网络对特征分类，完成识别的功能。相比于传统的图像分类方法，基于卷积神经网络的图像分类方法给定一副测试图片作为输入，输出该图片属于哪一类。
现有传统图像分类方法需要很强的先验知识来辅助提取有区分度特征，存在偶然性强，可靠性低，无法精确分类图像的问题。
因此，提供一种基于深度卷积神经网络的图像分类方法及图像分类系统。
发明内容
鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的基于深度卷积神经网络的图像分类方法及图像分类系统，以解决现有传统图像分类方法需要很强的先验知识来辅助提取有区分度特征，存在偶然性强，可靠性低，无法精确分类图像的问题。
根据本发明的一个方面，提供一种基于深度卷积神经网络的图像分类方法，包括：
依次构建深度卷积神经网络图像分类模型的输入层、多个卷积层和输出层，并预设输入层与相邻卷积层之间的前端连接权重初始值、相邻两卷积层之间的中间连接权重初始值、输入层与相邻卷积层之间的后端连接权重初始值；
利用多种类型的图像对该深度卷积神经网络图像分类模型进行训练，计算出输入层与相邻卷积层之间的前端连接权重实际值、相邻两卷积层之间的中间连接权重实际值、输入层与相邻卷积层之间的后端连接权重实际值，得到训练后的深度卷积神经网络图像分类模型；
将接收的待识别图像输入到训练后的深度卷积神经网络图像分类模型中，训练后的深度卷积神经网络图像分类模型将待识别图像解析成像素点位矩阵，并通过输入层将像素点位矩阵传输至卷积层，在传输过程中像素点位矩阵与输入层与相邻卷积层之间的前端连接权重实际值进行卷积计算，得到前端特征像素点位矩阵；
通过该相邻卷积层将前端特征像素点位矩阵传输至下一个卷积层，在传输过程中前端特征像素点位矩阵与相邻两卷积层之间的中间连接权重实际值进行卷积计算，得到中间特征像素点位矩阵；
通过与输出层相邻的卷积层将前端特征像素点位矩阵传输至输出层，在传输过程中中间特征像素点位矩阵与输出层与相邻卷积层之间的后端连接权重实际值进行卷积计算，得到待识别图像类属矩阵。
进一步地，利用多种类型的图像对该深度卷积神经网络图像分类模型进行训练中，采用带动量项的批梯度下降算法训练输入层与相邻卷积层之间的前端连接权重初始值、相邻两卷积层之间的中间连接权重初始值、输入层与相邻卷积层之间的后端连接权重初始值，其中，批尺寸为128，初始学习率为0.1，学习率衰减率为0.01，动量系数为0.9，学习率衰减间隔为所有样本数据计算125次，权重衰减项常数为[0，0.001]，最大迭代步数为1000，最大迭代次数为50000次。
进一步地，在利用多种类型的图像对该深度卷积神经网络图像分类模型进行训练中，采用ReLu激活函数。
进一步地，各卷积层包括至少一个卷积核，其中，当卷积核尺寸为w×w的滤波器，步长为k个像素时，对nh×nw的待识别图像进行卷积计算，得到大小为的特征图像。
进一步地，深度卷积神经网络图像分类模型还包括至少一个池层，该池层采用最大池化算法。
进一步地，上述基于深度卷积神经网络的图像分类方法，在接收待识别图像之后，还包括：
对输入图像进行裁剪；
对裁剪后的图像进行去除颜色干扰。
进一步地，在利用多种类型的图像对该深度卷积神经网络图像分类模型进行训练中，采用Softmax损失函数。
进一步地，上述基于深度卷积神经网络的图像分类方法，还包括：
根据待识别图像和待识别图像类属矩阵训练深度卷积神经网络图像分类模型，以更新输入层与相邻卷积层之间的前端连接权重实际值、相邻两卷积层之间的中间连接权重实际值、输入层与相邻卷积层之间的后端连接权重实际值。
根据本发明的另一方面，提供一种实现上述方法的基于深度卷积神经网络的图像分类系统，包括：
卷积神经网络图像分类模型建立模块，用于依次构建深度卷积神经网络图像分类模型的输入层、多个卷积层和输出层，并预设输入层与相邻卷积层之间的前端连接权重初始值、相邻两卷积层之间的中间连接权重初始值、输入层与相邻卷积层之间的后端连接权重初始值；
卷积神经网络图像分类模型训练模块，用于利用多种类型的图像对该深度卷积神经网络图像分类模型进行训练，计算出输入层与相邻卷积层之间的前端连接权重实际值、相邻两卷积层之间的中间连接权重实际值、输入层与相邻卷积层之间的后端连接权重实际值，得到训练后的深度卷积神经网络图像分类模型；
图像分类模块，用于将接收的待识别图像输入到训练后的深度卷积神经网络图像分类模型中，训练后的深度卷积神经网络图像分类模型将待识别图像解析成像素点位矩阵，并通过输入层将像素点位矩阵传输至卷积层，在传输过程中像素点位矩阵与输入层与相邻卷积层之间的前端连接权重实际值进行卷积计算，得到前端特征像素点位矩阵；通过该相邻卷积层将前端特征像素点位矩阵传输至下一个卷积层，在传输过程中前端特征像素点位矩阵与相邻两卷积层之间的中间连接权重实际值进行卷积计算，得到中间特征像素点位矩阵；通过与输出层相邻的卷积层将前端特征像素点位矩阵传输至输出层，在传输过程中中间特征像素点位矩阵与输出层与相邻卷积层之间的后端连接权重实际值进行卷积计算，得到待识别图像类属矩阵。
进一步地，在卷积神经网络图像分类模型训练模块中，采用带动量项的批梯度下降算法训练输入层与相邻卷积层之间的前端连接权重初始值、相邻两卷积层之间的中间连接权重初始值、输入层与相邻卷积层之间的后端连接权重初始值，其中，批尺寸为128，初始学习率为0.1，学习率衰减率为0.01，动量系数为0.9，学习率衰减间隔为所有样本数据计算125次，权重衰减项常数为[0，0.001]，最大迭代步数为1000，最大迭代次数为50000次。
本发明与现有技术相比具有以下的优点：
1.本发明选择不同类别图像采用多卷积层的方法进行模型训练，能够递进式地捕获待识别图像的特征，以客观精确地判定待识别图像可能属于的类别以及属于各类别的概率；
2.本发明的基于深度卷积神经网络的图像分类方法及图像分类系统根据待识别图像训练深度卷积神经网络图像分类模型，以更新输入层与相邻卷积层之间的前端连接权重初始值、相邻两卷积层之间的中间连接权重初始值、输入层与相邻卷积层之间的后端连接权重初始值，使得预定类别图像特征集中的特征更全面，进一步提高图像分类的准确度。
附图说明
以下结合附图和实施例对本发明作进一步说明。
图1是本发明的基于深度卷积神经网络的图像分类方法步骤图；
图2是图像在卷积神经网络的卷积层，池层，全连接层进行处理，最后在输出层得到结果的示意图；
图3是本发明的基于深度卷积神经网络的图像分类系统框图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。
本技术领域技术人员可以理解，除非特意声明，这里使用的单数形式“一”、“一个”、“所述”和“该”也可包括复数形式。应该进一步理解的是，本发明的说明书中使用的措辞“包括”是指存在所述特征、整数、步骤、操作、元件和/或组件，但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、组件和/或它们的组。
本技术领域技术人员可以理解，除非另外定义，这里使用的所有术语(包括技术术语和科学术语)，具有与本发明所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是，诸如通用字典中定义的那些术语，应该被理解为具有与现有技术的上下文中的意义一致的意义，并且除非被特定定义，否则不会用理想化或过于正式的含义来解释。
图1是本发明的基于深度卷积神经网络的图像分类方法步骤图，参见图1，本发明提供的基于深度卷积神经网络的图像分类方法，包括：
S101，依次构建深度卷积神经网络图像分类模型的输入层、多个卷积层和输出层，并预设输入层与相邻卷积层之间的前端连接权重初始值、相邻两卷积层之间的中间连接权重初始值、输入层与相邻卷积层之间的后端连接权重初始值；
具体地，卷积神经网络图像分类模型的基本结构可以分为四个部分：输入层，卷积层，全连接层和输出层四个部分。
输入层：卷积输入层可以直接作用于原始输入数据，对于输入是图像来说，输入数据是图像的像素值。
卷积层：卷积神经网络的卷积层，也叫做像素点提取层，包括二个部分。第一部分主要作用是提取输入数据特征。每一个不同的卷积核提取输入数据的特征都不相同，卷积层的卷积核数量越多，就能提取越多输入数据的特征。第二部分是池层，也叫下采样层，主要目的是在保留有用信息的基础上减少数据处理量，加快训练网络的速度。通常情况下，卷积神经网络至少包含二层卷积层，即卷积层-池层-卷积层-池层。卷积层数越多，在前一层卷积层基础上能够提取更加抽象的特征。
全连接层：可以包含多个全连接层，实际上就是多层感知机的隐含层部分。通常情况下后面层的神经节点都和前一层的每一个神经节点连接，同一层的神经元节点之间是没有连接的。每一层的神经元节点分别通过连接线上的权值进行前向传播，加权组合得到下一层神经元节点的输入。
输出层：输出层神经节点的数目是根据具体应用任务来设定的。如果是分类任务，卷积神经网络输出层通常是一个分类器，通常是Softmax分类器。
S102，利用多种类型的图像对该深度卷积神经网络图像分类模型进行训练，计算出输入层与相邻卷积层之间的前端连接权重实际值、相邻两卷积层之间的中间连接权重实际值、输入层与相邻卷积层之间的后端连接权重实际值，得到训练后的深度卷积神经网络图像分类模型；
具体地，在构建深度卷积神经网络图像分类模型中，可以选取CIFAR-10数据集进行训练，CIFAR-10数据集含有6万张32×32的自然图像，共分为10种类型，由AlexKrizhevsky，Vinod Nair和Geoffrey Hinton收集而来。包含50000张训练图片，10000张测试图片，数据集的数据存在一个10000×3072的数组中(按行存储，每一行表示一副图像)，前1024位是R值，中间1024位是G值，最后1024位是B值，对实验数据集可以仅作简单的裁剪与白化处理后将像素值送入神经网络中进行训练。
S103，将接收的待识别图像输入到训练后的深度卷积神经网络图像分类模型中，训练后的深度卷积神经网络图像分类模型将待识别图像解析成像素点位矩阵，并通过输入层将像素点位矩阵传输至卷积层，在传输过程中像素点位矩阵与输入层与相邻卷积层之间的前端连接权重实际值进行卷积计算，得到前端特征像素点位矩阵；
S104，通过该相邻卷积层将前端特征像素点位矩阵传输至下一个卷积层，在传输过程中前端特征像素点位矩阵与相邻两卷积层之间的中间连接权重实际值进行卷积计算，得到中间特征像素点位矩阵；
S105，通过与输出层相邻的卷积层将前端特征像素点位矩阵传输至输出层，在传输过程中中间特征像素点位矩阵与输出层与相邻卷积层之间的后端连接权重实际值进行卷积计算，得到待识别图像类属矩阵。
本发明选择不同类别图像采用多卷积层的方法进行模型训练，能够递进式地捕获待识别图像的特征，以客观精确地判定待识别图像可能属于的类别以及属于各类别的概率。
各卷积层包括至少一个卷积核，其中，当卷积核尺寸为w×w的滤波器，步长为k个像素时，对nh×nw的待识别图像进行卷积计算，得到大小为的特征图像。
深度卷积神经网络图像分类模型还包括至少一个池层，该池层采用最大池化算法。最大池(max pooling)可以将代价函数降到更低，这是由于最大池减小了卷积层参数误差造成的估计均值偏移，因此，pooling(池)方式采用最大池的方式。随着卷积层数的增多相应的分类精度也在提高，这是由于卷积层数越多，对特征的抽象能力也就越强大，最后提取到的特征质量也就越高，所以采用深度卷积网络。
因此，在实际应用中，一张图片(28X28)，把它丢给卷积神经网络里面一系列处理层，卷积层，池层，全连接层，最后在输出层得到结果。正如之前所说，输出可能是一个分类或者可能的分类对应的概率。该流程如图2所示。
卷积，利用卷积核对图像进行像素点提取，其中最重要的就是卷积核。卷积核的设计涉及卷积核的大小，卷积核的数目以及卷积核的步长。
卷积核的个数表示从上层中通过卷积滤波得到特征图的个数，提取的特征图越多，网络表示特征空间就越大，学习能力也就越强，最后识别结果就比较准。但卷积核太多(特征图太多)，增大网络的复杂度，增加参数的个数，加大了计算的复杂度，易出现过拟合现象，所以卷积核也不并是越多越好，应根据具体的数据集图像的大小确定卷积核的个数。
图像卷积像素点提取，通过设定的一个卷积核尺寸为w×w的滤波器，步长为k个像素，对一幅新的图像(nh×nw)进行卷积处理，得到一个大小为的特征图。一般来说卷积核尺寸越小，像素点提取的质量也就越高，具体大小还应根据输入图像的尺寸决定。
对输入的图像邻域进行卷积处理得到图像的邻域特征图，再通过亚采样层使用池化技术将小邻域内进行下采样得到新的特征。通过对上层池化，特征结果可以使得参数减少(降低了特征维数)，且增强特征使得最后的特征表达保持了某些不变性(旋转、平移、伸缩等)，所以说池化的作用就是简化卷积层里输出的信息，减少数据维度，降低计算开销，控制过拟合。
在实际应用中，一张28X28的输入图片，经过5X5的过滤器后会得到一个24X24的特征图像，继续简化这个24X24特征图像里的信息，只保留关键信息，需要加入一个池层。
全连接层，来检测获取到的这些特征图像与哪种类别更相近：该层接收上一层的输出当作输入，上一层的输出就是一些学习出来的特征图像，该层输出一个N维的向量，代表图片可能的分类概率[0.01，0.04，0.94，0.02]，数值越高表示这些特征图像和那一类更相近。这里0.94代表图像是船的可能性为94％，表示预测图片与过滤器产生了很高的激励，获取到了很多高层次的特征，例如船帆，船桨等等特征。0.02表示图像是鸟的可能性为2％，表示预测图片与过滤器产生了很低的激励，没有获取到了很多高层次的特征，例如翅膀，喙等等特征。
卷积神经网络的训练时间、准确率和稳定性之间进行折中后，利用多种类型的图像对该深度卷积神经网络图像分类模型进行训练中，输入图像尺寸为32×32，利用带动量项的批梯度下降算法训练输入层与相邻卷积层之间的前端连接权重初始值、相邻两卷积层之间的中间连接权重初始值、输入层与相邻卷积层之间的后端连接权重初始值，其中，批尺寸是通过神经网路传播一次的样本数，本发明中，批尺寸为128，学习率为权值更新一次的幅度，本发明中，初始学习率为0.1，学习率衰减率为0.01，学习率衰减间隔为所有样本数据计算125次，动量系数为用于动量稳定迭收敛的因子，动量系数为0.9，权重衰减项常数为防止过拟合使所有权重等比缩小的因子，在本发明中，权重衰减项常数为[0，0.001]，最大迭代步数为1000，最大迭代次数为50000次。实验证明，经过50000次迭代后，代价函数大约稳定在0.20左右，最低为0.10，最后的分类精度为89.8％。
通过分析影响卷积神经网络模型的各个因素(网络层数、学习算法、卷积核大小、pooling方式、ReLU layer等)，设计了深度网络模型，经过实际应用，本方法设计的深度网络模型的分类精度更高，并取得了接近90％的分类精度。
进一步地，在利用多种类型的图像对该深度卷积神经网络图像分类模型进行训练中，采用ReLu激活函数。
具体地，在这里，调用一种激励函数来加入非线性因素，解决线性不可分的问题。选择线性整流函数为激励函数，其方程为f(x)＝max(0,x)，就是把小于零的值都归为0，好处是可以是网络训练的更快，减少梯度消失的问题出现。ReLu激活函数的震荡更小，对应代价函数下降到一个比tanh型函数更小的值，所以ReLu型激活函数更适用于深度神经网络，采用ReLu激活函数。
另外，激励函数还可以选择Sigmoid函数或近似神经激活函数。
进一步地，在利用多种类型的图像对该深度卷积神经网络图像分类模型进行训练中，采用Softmax损失函数。
具体地，根据感受野大小、核个数、池化大小、网络的层数等影响因素并结合CIFAR-10数据集，结合了影响卷积网络性能的影响因素设计以下深度卷积神经网络图像分类模型：
输入层>卷积层>线性整流层>卷积层>线性整流层>池层>权值衰减层>卷积层>线性整流层>卷积层>线性整流层>池层>权值衰减层>全连接层
在以上深度卷积神经网络图像分类模型结构中，不仅仅只有卷积层，池层，全连接层，还有其它一些层穿插在卷积层之间，可以减少出现过拟合，提高学习率，缓解梯度消失等等问题。
仅考虑每个卷积层，不考虑它们之间穿插的其他层，在第一个卷积层之后，又进入下一个卷积层，那么第一个卷积层的输出就变成了下一个卷积层的输入。第一个卷积层的输入是一个普通的图片，第二个卷积层的输入是从第一个卷积层变化而来的一些特征图像。以后每一个卷积层的输入，基本上都是上一个卷积层提取出来的特征图像，后面的卷积层组合之前的卷积层里提取的简单特征，得到更复杂的特征数据。
其中，权值衰减层是通过修改代价函数来实现的，但是权值衰减通过修改神经网络结构来实现的，它是在训练神经网络时用的一种优化方法。权值衰减是指在模型训练时随机让网络部分隐含层单元的不工作，不工作的那些单元可以暂时不作为网络的部分计算，但保留它的权重(暂时不更新)，因为下次样本输入时它可能又工作。在训练过程中，权值衰减是以一定概率1-p将隐含层节点的输出清0，而用反向传播更新权值时，不再更新与该节点相连的权值。
另外，深度卷积神经网络还包括：损失函数层，也就是输出层，用于将数据映射为一个标量。通过随机梯度下降的方式，使得损失函数逐渐的降低。目前使用比较广泛的是Softmax回归和Hinge损失函数。其中，Softmax回归在输入时，表示输入图像在各个类别上的可能性；同时需要输入图像的标签k。输出是损失值。首先将输入归一化到[0,1]之间，通过Softmax函数，然后通过交叉熵定义损失值，也就是：该损失函数主要应用与单类别分类问题中。
因此，在卷积神经网络的内部，是由很多的层构成。每一个层可以认为是一个函数，输入是信号x，输出是信号，输出的y又可以作为其他层的输入。以下从图像的处理过程，各种神经元，与训练网络有关的损失函数这三个角度介绍在卷积神经网络中常用的层的定义，即输入的数据x是什么维度，输出y是什么维度以及如何从输入得到输出。
上述基于深度卷积神经网络的图像分类方法，在接收待识别图像之后，还包括：
对输入图像进行裁剪；
具体地，输入的图像的大小可能各不相同，有一些图像的分辨率较大，有一些比较小。而且长宽比也不一定会一样。对于这样的不一致性，理论上可以不处理，但是这要求网络中其他的层次支持这样的输入。目前大部分情况下采用的是通过裁剪的方法使得输出的图像是固定分辨率的。在网络训练的阶段，裁剪的位置从原始的图像上随机选择，只需要满足裁剪的子图完全落在图像中即可。通过随机的方式，是因为相当于增加了额外的数据，能够缓解过拟合的问题。
对裁剪后的图像进行去除颜色干扰。
具体地，裁剪之后的原图，每一个像素的是0到255的固定的数值。进一步的处理，包括减去均值，以及等比例缩放像素值使得像素值的分部基本在[-1,1]之间。除了这些常规的操作之外，也会对图像进行归一化，相当于图像增强，比如对CIFAR10的数据预处理中。比如，对于每一个像素，随机选择RGB三个通道中的一个，然后在原像素值的基础上，随机添加一个[-20,20]之间的数值。
进一步地，上述基于深度卷积神经网络的图像分类方法，还包括：
根据待识别图像和待识别图像类属矩阵训练深度卷积神经网络图像分类模型，以更新输入层与相邻卷积层之间的前端连接权重实际值、相邻两卷积层之间的中间连接权重实际值、输入层与相邻卷积层之间的后端连接权重实际值。
本发明的基于深度卷积神经网络的图像分类方法根据待识别图像训练深度卷积神经网络图像分类模型，以更新输入层与相邻卷积层之间的前端连接权重初始值、相邻两卷积层之间的中间连接权重初始值、输入层与相邻卷积层之间的后端连接权重初始值，使得预定类别图像特征集中的特征更全面，进一步提高图像分类的准确度。
图3是本发明的基于深度卷积神经网络的图像分类系统框图，参见图3，本发明提供的实现上述方法的基于深度卷积神经网络的图像分类系统，包括：
卷积神经网络图像分类模型建立模块，用于依次构建深度卷积神经网络图像分类模型的输入层、多个卷积层和输出层，并预设输入层与相邻卷积层之间的前端连接权重初始值、相邻两卷积层之间的中间连接权重初始值、输入层与相邻卷积层之间的后端连接权重初始值；
卷积神经网络图像分类模型训练模块，用于利用多种类型的图像对该深度卷积神经网络图像分类模型进行训练，计算出输入层与相邻卷积层之间的前端连接权重实际值、相邻两卷积层之间的中间连接权重实际值、输入层与相邻卷积层之间的后端连接权重实际值，得到训练后的深度卷积神经网络图像分类模型；
图像分类模块，用于将接收的待识别图像输入到训练后的深度卷积神经网络图像分类模型中，训练后的深度卷积神经网络图像分类模型将待识别图像解析成像素点位矩阵，并通过输入层将像素点位矩阵传输至卷积层，在传输过程中像素点位矩阵与输入层与相邻卷积层之间的前端连接权重实际值进行卷积计算，得到前端特征像素点位矩阵；通过该相邻卷积层将前端特征像素点位矩阵传输至下一个卷积层，在传输过程中前端特征像素点位矩阵与相邻两卷积层之间的中间连接权重实际值进行卷积计算，得到中间特征像素点位矩阵；通过与输出层相邻的卷积层将前端特征像素点位矩阵传输至输出层，在传输过程中中间特征像素点位矩阵与输出层与相邻卷积层之间的后端连接权重实际值进行卷积计算，得到待识别图像类属矩阵。
进一步地，在卷积神经网络图像分类模型训练模块中，采用带动量项的批梯度下降算法训练输入层与相邻卷积层之间的前端连接权重初始值、相邻两卷积层之间的中间连接权重初始值、输入层与相邻卷积层之间的后端连接权重初始值，其中，批尺寸为128，初始学习率为0.1，学习率衰减率为0.01，动量系数为0.9，学习率衰减间隔为所有样本数据计算125次，权重衰减项常数为[0，0.001]，最大迭代步数为1000，最大迭代次数为50000次。
对于系统实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种基于深度卷积神经网络的图像分类方法，其特征在于，包括：
依次构建深度卷积神经网络图像分类模型的输入层、多个卷积层和输出层，并预设输入层与相邻卷积层之间的前端连接权重初始值、相邻两卷积层之间的中间连接权重初始值、输入层与相邻卷积层之间的后端连接权重初始值；
利用多种类型的图像对该深度卷积神经网络图像分类模型进行训练，计算出输入层与相邻卷积层之间的前端连接权重实际值、相邻两卷积层之间的中间连接权重实际值、输入层与相邻卷积层之间的后端连接权重实际值，得到训练后的深度卷积神经网络图像分类模型；
将接收的待识别图像输入到训练后的深度卷积神经网络图像分类模型中，训练后的深度卷积神经网络图像分类模型将待识别图像解析成像素点位矩阵，并通过输入层将像素点位矩阵传输至卷积层，在传输过程中像素点位矩阵与输入层与相邻卷积层之间的前端连接权重实际值进行卷积计算，得到前端特征像素点位矩阵；
通过该相邻卷积层将前端特征像素点位矩阵传输至下一个卷积层，在传输过程中前端特征像素点位矩阵与相邻两卷积层之间的中间连接权重实际值进行卷积计算，得到中间特征像素点位矩阵；
通过与输出层相邻的卷积层将前端特征像素点位矩阵传输至输出层，在传输过程中中间特征像素点位矩阵与输出层与相邻卷积层之间的后端连接权重实际值进行卷积计算，得到待识别图像类属矩阵。
2.根据权利要求1所述的基于深度卷积神经网络的图像分类方法，其特征在于，利用多种类型的图像对该深度卷积神经网络图像分类模型进行训练中，采用带动量项的批梯度下降算法训练输入层与相邻卷积层之间的前端连接权重初始值、相邻两卷积层之间的中间连接权重初始值、输入层与相邻卷积层之间的后端连接权重初始值，其中，批尺寸为128，初始学习率为0.1，学习率衰减率为0.01，动量系数为0.9，学习率衰减间隔为所有样本数据计算125次，权重衰减项常数为[0，0.001]，最大迭代步数为1000，最大迭代次数为50000次。
3.根据权利要求2所述的基于深度卷积神经网络的图像分类方法，其特征在于，在利用多种类型的图像对该深度卷积神经网络图像分类模型进行训练中，采用ReLu激活函数。
4.根据权利要求3所述的基于深度卷积神经网络的图像分类方法，其特征在于，各卷积层包括至少一个卷积核，其中，当卷积核尺寸为w×w的滤波器，步长为k个像素时，对nh×nw的待识别图像进行卷积计算，得到大小为的特征图像。
5.根据权利要求4所述的基于深度卷积神经网络的图像分类方法，其特征在于，深度卷积神经网络图像分类模型还包括至少一个池层，该池层采用最大池化算法。
6.根据权利要求5所述的基于深度卷积神经网络的图像分类方法，其特征在于，在接收待识别图像之后，还包括：
对输入图像进行裁剪；
对裁剪后的图像进行去除颜色干扰。
7.根据权利要求6所述的基于深度卷积神经网络的图像分类方法，其特征在于，在利用多种类型的图像对该深度卷积神经网络图像分类模型进行训练中，采用Softmax损失函数。
8.根据权利要求1所述的基于深度卷积神经网络的图像分类方法，其特征在于，还包括：
根据待识别图像和待识别图像类属矩阵训练深度卷积神经网络图像分类模型，以更新输入层与相邻卷积层之间的前端连接权重实际值、相邻两卷积层之间的中间连接权重实际值、输入层与相邻卷积层之间的后端连接权重实际值。
9.一种实现权利要求1所述方法的基于深度卷积神经网络的图像分类系统，其特征在于，包括：
卷积神经网络图像分类模型建立模块，用于依次构建深度卷积神经网络图像分类模型的输入层、多个卷积层和输出层，并预设输入层与相邻卷积层之间的前端连接权重初始值、相邻两卷积层之间的中间连接权重初始值、输入层与相邻卷积层之间的后端连接权重初始值；
卷积神经网络图像分类模型训练模块，用于利用多种类型的图像对该深度卷积神经网络图像分类模型进行训练，计算出输入层与相邻卷积层之间的前端连接权重实际值、相邻两卷积层之间的中间连接权重实际值、输入层与相邻卷积层之间的后端连接权重实际值，得到训练后的深度卷积神经网络图像分类模型；
图像分类模块，用于将接收的待识别图像输入到训练后的深度卷积神经网络图像分类模型中，训练后的深度卷积神经网络图像分类模型将待识别图像解析成像素点位矩阵，并通过输入层将像素点位矩阵传输至卷积层，在传输过程中像素点位矩阵与输入层与相邻卷积层之间的前端连接权重实际值进行卷积计算，得到前端特征像素点位矩阵；通过该相邻卷积层将前端特征像素点位矩阵传输至下一个卷积层，在传输过程中前端特征像素点位矩阵与相邻两卷积层之间的中间连接权重实际值进行卷积计算，得到中间特征像素点位矩阵；通过与输出层相邻的卷积层将前端特征像素点位矩阵传输至输出层，在传输过程中中间特征像素点位矩阵与输出层与相邻卷积层之间的后端连接权重实际值进行卷积计算，得到待识别图像类属矩阵。
10.根据权利要求9所述的基于深度卷积神经网络的图像分类系统，其特征在于，在卷积神经网络图像分类模型训练模块中，采用带动量项的批梯度下降算法训练输入层与相邻卷积层之间的前端连接权重初始值、相邻两卷积层之间的中间连接权重初始值、输入层与相邻卷积层之间的后端连接权重初始值，其中，批尺寸为128，初始学习率为0.1，学习率衰减率为0.01，动量系数为0.9，学习率衰减间隔为所有样本数据计算125次，权重衰减项常数为[0，0.001]，最大迭代步数为1000，最大迭代次数为50000次。
CN201811541228.6A 2018-12-17 2018-12-17 基于深度卷积神经网络的图像分类方法及图像分类系统 Pending CN109685126A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811541228.6A CN109685126A (zh) 2018-12-17 2018-12-17 基于深度卷积神经网络的图像分类方法及图像分类系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811541228.6A CN109685126A (zh) 2018-12-17 2018-12-17 基于深度卷积神经网络的图像分类方法及图像分类系统

Publications (1)

Publication Number Publication Date
CN109685126A true CN109685126A (zh) 2019-04-26

Family

ID=66187874

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811541228.6A Pending CN109685126A (zh) 2018-12-17 2018-12-17 基于深度卷积神经网络的图像分类方法及图像分类系统

Country Status (1)

Country Link
CN (1) CN109685126A (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110533603A (zh) * 2019-07-24 2019-12-03 宁德市公路局 一种基于熵与卷积神经网络的点云降噪方法
CN113419931A (zh) * 2021-05-24 2021-09-21 北京达佳互联信息技术有限公司 分布式机器学习系统的性能指标确定方法及装置
CN113743459A (zh) * 2021-07-29 2021-12-03 深圳云天励飞技术股份有限公司 目标检测方法、装置、电子设备及存储介质
CN117671395A (zh) * 2024-02-02 2024-03-08 南昌康德莱医疗科技有限公司 一种癌细胞种类识别装置
CN117671395B (zh) * 2024-02-02 2024-04-26 南昌康德莱医疗科技有限公司 一种癌细胞种类识别装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107330446A (zh) * 2017-06-05 2017-11-07 浙江工业大学 一种面向图像分类的深度卷积神经网络的优化方法
CN107341518A (zh) * 2017-07-07 2017-11-10 东华理工大学 一种基于卷积神经网络的图像分类方法
CN107506722A (zh) * 2017-08-18 2017-12-22 中国地质大学（武汉） 一种基于深度稀疏卷积神经网络人脸情感识别方法
CN107748895A (zh) * 2017-10-29 2018-03-02 北京工业大学 基于dct‑cnn模型的无人机着陆地貌图像分类方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107330446A (zh) * 2017-06-05 2017-11-07 浙江工业大学 一种面向图像分类的深度卷积神经网络的优化方法
CN107341518A (zh) * 2017-07-07 2017-11-10 东华理工大学 一种基于卷积神经网络的图像分类方法
CN107506722A (zh) * 2017-08-18 2017-12-22 中国地质大学（武汉） 一种基于深度稀疏卷积神经网络人脸情感识别方法
CN107748895A (zh) * 2017-10-29 2018-03-02 北京工业大学 基于dct‑cnn模型的无人机着陆地貌图像分类方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
陈敏: "《认知计算导论》", 31 May 2017, 华中科技大学出版社 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110533603A (zh) * 2019-07-24 2019-12-03 宁德市公路局 一种基于熵与卷积神经网络的点云降噪方法
CN113419931A (zh) * 2021-05-24 2021-09-21 北京达佳互联信息技术有限公司 分布式机器学习系统的性能指标确定方法及装置
CN113743459A (zh) * 2021-07-29 2021-12-03 深圳云天励飞技术股份有限公司 目标检测方法、装置、电子设备及存储介质
CN113743459B (zh) * 2021-07-29 2024-04-02 深圳云天励飞技术股份有限公司 目标检测方法、装置、电子设备及存储介质
CN117671395A (zh) * 2024-02-02 2024-03-08 南昌康德莱医疗科技有限公司 一种癌细胞种类识别装置
CN117671395B (zh) * 2024-02-02 2024-04-26 南昌康德莱医疗科技有限公司 一种癌细胞种类识别装置

Similar Documents

Publication Publication Date Title
Zhang et al. Hyperspectral classification based on lightweight 3-D-CNN with transfer learning
Liang et al. Recurrent convolutional neural network for object recognition
CN108446716B (zh) 基于FCN与稀疏-低秩子空间表示融合的PolSAR图像分类方法
CN110032926A (zh) 一种基于深度学习的视频分类方法以及设备
JP4083469B2 (ja) 階層ネットワークを用いたパターン認識方法
CN111582225B (zh) 一种遥感图像场景分类方法及装置
CN108090447A (zh) 双分支深层结构下的高光谱图像分类方法及装置
CN106651915B (zh) 基于卷积神经网络的多尺度表达的目标跟踪方法
CN110717553A (zh) 一种基于自衰减权重和多局部约束的交通违禁品识别方法
CN109063724A (zh) 一种增强型生成式对抗网络以及目标样本识别方法
CN106446954A (zh) 一种基于深度学习的字符识别方法
CN108491849A (zh) 基于三维稠密连接卷积神经网络的高光谱图像分类方法
CN109685126A (zh) 基于深度卷积神经网络的图像分类方法及图像分类系统
CN109492627A (zh) 一种基于全卷积网络的深度模型的场景文本擦除方法
CN109753571A (zh) 一种基于二次主题空间投影的场景图谱低维空间嵌入方法
Zhan et al. Semi-supervised classification of hyperspectral data based on generative adversarial networks and neighborhood majority voting
CN108681735A (zh) 基于卷积神经网络深度学习模型的光学字符识别方法
CN103077399A (zh) 基于集成级联架构的生物显微图像分类方法
CN115527056A (zh) 基于双混合卷积生成对抗网络的高光谱图像分类方法
Alipour et al. Flower image classification using deep convolutional neural network
Pratama et al. Deep convolutional neural network for hand sign language recognition using model E
CN114494777A (zh) 一种基于3D CutMix-Transformer的高光谱图像分类方法及系统
CN110188621A (zh) 一种基于ssf-il-cnn的三维人脸表情识别方法
CN109558803A (zh) 基于卷积神经网络与np准则的sar目标鉴别方法
Zhu et al. Fully convolutional neural network structure and its loss function for image classification

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20190426

RJ01 Rejection of invention patent application after publication