CN108388917A - 一种基于改进深度学习模型的高光谱图像分类方法 - Google Patents
一种基于改进深度学习模型的高光谱图像分类方法 Download PDFInfo
- Publication number
- CN108388917A CN108388917A CN201810161767.0A CN201810161767A CN108388917A CN 108388917 A CN108388917 A CN 108388917A CN 201810161767 A CN201810161767 A CN 201810161767A CN 108388917 A CN108388917 A CN 108388917A
- Authority
- CN
- China
- Prior art keywords
- classification
- image
- model
- layer
- deep learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 54
- 238000013136 deep learning model Methods 0.000 title claims abstract description 19
- 238000013135 deep learning Methods 0.000 claims abstract description 25
- 238000001228 spectrum Methods 0.000 claims abstract description 12
- 238000012545 processing Methods 0.000 claims abstract description 6
- 238000013145 classification model Methods 0.000 claims description 36
- 238000011176 pooling Methods 0.000 claims description 34
- 239000011159 matrix material Substances 0.000 claims description 24
- 230000006870 function Effects 0.000 claims description 17
- 238000010276 construction Methods 0.000 claims description 12
- 238000012549 training Methods 0.000 claims description 12
- 238000012706 support-vector machine Methods 0.000 claims description 11
- 238000013527 convolutional neural network Methods 0.000 claims description 8
- 210000002569 neuron Anatomy 0.000 claims description 6
- 230000003595 spectral effect Effects 0.000 claims description 6
- 230000004931 aggregating effect Effects 0.000 claims description 5
- 238000013528 artificial neural network Methods 0.000 claims description 5
- 230000005284 excitation Effects 0.000 claims description 5
- 230000002776 aggregation Effects 0.000 claims description 4
- 238000004220 aggregation Methods 0.000 claims description 4
- 230000000875 corresponding effect Effects 0.000 claims description 4
- 230000007547 defect Effects 0.000 claims description 4
- 238000003062 neural network model Methods 0.000 claims description 4
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 3
- 230000004308 accommodation Effects 0.000 claims description 3
- 239000006185 dispersion Substances 0.000 claims description 3
- 238000002372 labelling Methods 0.000 claims description 3
- 238000010606 normalization Methods 0.000 claims description 3
- 238000012360 testing method Methods 0.000 claims description 3
- 238000000605 extraction Methods 0.000 abstract description 3
- VMXUWOKSQNHOCA-UKTHLTGXSA-N ranitidine Chemical compound [O-][N+](=O)\C=C(/NC)NCCSCC1=CC=C(CN(C)C)O1 VMXUWOKSQNHOCA-UKTHLTGXSA-N 0.000 abstract 1
- 235000008331 Pinus X rigitaeda Nutrition 0.000 description 8
- 235000011613 Pinus brutia Nutrition 0.000 description 8
- 241000018646 Pinus brutia Species 0.000 description 8
- 230000000694 effects Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 241000894007 species Species 0.000 description 3
- 238000007476 Maximum Likelihood Methods 0.000 description 2
- 240000008042 Zea mays Species 0.000 description 2
- 235000005824 Zea mays ssp. parviglumis Nutrition 0.000 description 2
- 235000002017 Zea mays subsp mays Nutrition 0.000 description 2
- 235000005822 corn Nutrition 0.000 description 2
- 238000000513 principal component analysis Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000013179 statistical model Methods 0.000 description 2
- 244000075850 Avena orientalis Species 0.000 description 1
- 235000007319 Avena orientalis Nutrition 0.000 description 1
- 240000004658 Medicago sativa Species 0.000 description 1
- 235000017587 Medicago sativa ssp. sativa Nutrition 0.000 description 1
- 241000209140 Triticum Species 0.000 description 1
- 235000021307 Triticum Nutrition 0.000 description 1
- 241001532014 Xanthorrhoea Species 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000004438 eyesight Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Neurology (AREA)
- Image Analysis (AREA)
Abstract
本发明提供的一种基于改进深度学习模型的高光谱图像分类方法，涉及高光谱图像技术领域。该方法首先采用一个或几个卷积层与池化层交替构建提取图像特征，再分别对得到的图像特征进行多次随机抽取构建多种分类模型，通过不同的分类模型进行分类，最后对多个分类结果投票，以少数服从多数的原则得到最终的分类结果，完成对集成深度学习网络模型的构建。同时对待分类的高光谱图像数据的进行重构，在保留高光谱图像的空谱信息的同时增大数据的稀疏性，使高光谱图像易于分类模型处理。本发明提供的基于改进深度学习模型的高光谱图像分类方法，计算参数量少，并得到了较高的分类准确性，实现了对高光谱图像中地物的精细分类。
Description
技术领域
本发明涉及高光谱图像技术领域，尤其涉及一种基于改进深度学习模型的高光谱图像分类方法。
背景技术
高光谱图像的分类是高光谱遥感技术的核心内容之一，是遥感测绘领域和计算机视觉与模式识别等领域研究的重点。
国内外应用在高光谱图像处理上有各种算法，基于光谱信息空间分类方面，主要分为统计模型分类方法与非参数分类方法。最初，统计模型的最大似然分类是传统遥感图像分类中应用最为广泛的分类方法，随后还有类似的基于马氏距离、最小距离等方法都是最大似然特定约束条件下的变形。非参数分类方法在一定程度提高了分类的准确率，主要有神经网络、基于核方法的分类如支持向量机(SVM)以及支持向量机算法的变形等。在此，为解决高维信息难以处理等问题，对高光谱图像数据重构稀疏表达后与这些分类器方法相结合。这些分类器均可以用具有一个或两个隐含层的神经网络模拟，因此被称作浅层机器学习模型。
随着深入的研究，人们发现采用深度学习的方法可以增加模型泛化能力与准确性。近几年国内外针对高光谱图像分类问题采用的方法主要是对高光谱图像采用PCA降维后输入到深度学习模型，破坏了高光谱图像的光谱信息，分类准确性还有提高的空间。如2016年沈飞等人提出将高光谱数据稀疏化后输入到卷积神经网络，保留了空谱信息，易于模型处理，但分类的准确性没有明显的提高。2017年袁琳等人提出采用自动编码器与卷积神经网络相结合的模型对高光谱数据分类，能够自动提取非线性信息增加了分类精度，但也同时增加了模型的参数量，模型不稳定。
发明内容
针对现有技术的缺陷，本发明提供一种基于改进深度学习模型的高光谱图像分类方法，实现了对高光谱图像中的地物进行精细分类。
一种基于改进深度学习模型的高光谱图像分类方法，包括以下步骤：
步骤1、构建集成深度学习网络模型，具体方法为：
步骤1.1：通过构建卷积层和池化层提取图像特征，具体方法为：
采用一个或多个卷积层与池化层交替构建提取图像特征，在卷积层，每个卷积核以一定的步长对图像提取不同特征，重复的作用于整个感受野中，每一个卷积核共享相同的参数，包括相同的权重矩阵和偏置项；卷积核上的每个神经元对局部进行感知，然后在更高层将局部信息综合起来得到全局信息，减少神经元之间的连接数，进而减少需要训练的权值参数，加快神经网络模型训练的速度；
所述卷积层的构建公式如下式所示：
其中，m＝1，2，3，...表示构建的集成深度学习网络模型的层数，c表示卷积层，p表示池化层，为第m层卷积层的输出结果，表示第m-1层池化层的输出结果，λm＝{Wm，bm}为第m层卷积层参数项，Wm为第m层卷积核权重，bm为第m层偏置项，σ()为激励函数，整个模型中激励函数使用Batch Normalization函数，并通过mini-batch对相应的动作做规范化操作，固定模型中每层输入的均值与方差，保证整个模型的容纳能力，克服深度神经网络难以训练的弊病，防止梯度弥散；
同时，模型中每一层的迭代使用多个小尺寸的卷积核，相当于一个大尺寸卷积核的功能，但比一个大尺寸卷积层有更多非线性且需要处理的参数少，使得构建的模型的判决函数更加具有判决性；
所述池化层为对图像进行卷积后得到的图像的不同位置特征进行聚合统计，构建公式如下所示：
其中，表示第m层池化层的输出结果，pool()为池化函数，其方法为计算图像一个区域上的某个特定特征的平均值average或最大值max；
步骤1.2：多次随机抽取步骤1.1提取的图像特征构建多种分类模型，并根据不同的分类模型所得的分类结果进行聚合得到图像的最终分类结果，完成集成深度学习网络模型的构建，具体方法为：
每一次随机抽取50％的图像特征，对多个随机抽取的图像特征采用不同的分类模型进行分类，使多个决策者共同决策一个实例的分类从而提高分类模型的泛化能力；
所述每个分类模型均为采用不同的卷积层与池化层以不同卷积核大小、不同形式交替构建卷积神经网络模型，同时分类模型还包括常用的支持向量机SVM分类器；由于各分类模型的全连接层参数冗余，每个分类模型使用全局平均池化替代全连接层，防止过拟合现象及避免对输入的测试图像需为固定大小的限制；最后对多个分类模型的分类结果进行聚合得到所有分类结果，对此投票，以少数服从多数的原则得到最终的图像分类结果，完成集成深度学习网络模型的构建；
步骤2、对待分类的高光谱图像数据进行重构，具体方法为：
待分类的高光谱图像为三维立体的数据结构Ia，b，n，其中，二维平面(a，b)表示地物分布信息，第三维度n表示每类物体的光谱信息；将三维高光谱图像数据转换为二维矩阵Ra×b，n，将位于三维高光谱图像(c，d)位置的像元转换为位于二维矩阵Ra×b，n的c×d行，在没有破坏其光谱信息的同时保证高光谱图像像元的位置信息；然后再对二维矩阵Ra×b，n中每一行光谱向量进行归一化处理并存储；
同时，对图像中每个像元所属的类别标记标签；再对标签数据进行独热编码，其方法为使用N位状态寄存器来对N个状态进行编码，每个状态都有其独立的寄存器位，并且在任意时候，状态寄存器中只有一位有效，使数据稀疏，实现将标签维数扩展到高光谱重构数据维数，并使其一一对应，得到标签矩阵La×b，n；
步骤3、将进行重构的高光谱图像数据Ra×b，n，按行输入到步骤1构建的集成深度学习网络模型中，将每行输入的n列数据转换为二维矩阵Pe，f，其中e×f＝n；转换后的二维矩阵Pe，f与标签矩阵La×b，n输入到集成深度学习网络模型，并使用后向传播算法中的Adam算法训练模型至最小误差，不断微调各层网络参数值，直至迭代完成，模型训练完毕，实现对高光谱图像上的地物进行精细分类。
由上述技术方案可知，本发明的有益效果在于：本发明提供的一种基于改进深度学习模型的高光谱图像分类方法，结合集成学习的思想对卷积神经网络模型进行改进，减少了需要计算的参数量，提高了网络的稳定性及其泛化能力。同时对高光谱图像数据的重构增大了数据的稀疏性，且保留了高光谱图像的空谱信息，易于模型处理。针对高光谱图像，本发明的基于改进深度学习模型的高光谱图像分类方法仍然表现了良好的适应能力，得到了较高的分类准确率，实现了在大范围、多种类情况下，对高光谱图像中地物的精细分类。
附图说明
图1为本发明实施例提供的一种基于改进深度学习模型的高光谱图像分类方法的流程图；
图2为本发明实施例提供的集成深度学习网络模型的结构框图；
图3为本发明实施例提供的Indian Pines高光谱图像；
图4为本发明实施例提供的使用SVM分类器对Indian Pines高光谱图像进行分类后的分类效果图；
图5为本发明实施例提供的使用CNN模型对Indian Pines高光谱图像进行分类后的分类效果图；
图6为本发明实施例提供的使用基于改进深度学习模型的高光谱图像分类方法对Indian Pines高光谱图像进行分类后的分类效果图。
具体实施方式
下面结合附图和实施例，对本发明的具体实施方式作进一步详细描述。以下实施例用于说明本发明，但不用来限制本发明的范围。
本实施例以Indian Pines高光谱数据集为例，使用本发明的基于改进深度学习模型的高光谱图像分类方法对该Indian Pines高光谱数据集中的地物进行分类。
一种基于改进深度学习模型的高光谱图像分类方法，如图1所示，包括以下步骤：
步骤1、构建集成深度学习网络模型，具体方法为：
步骤1.1：通过构建卷积层和池化层提取图像特征，具体方法为：
采用一个或多个卷积层与池化层交替构建提取图像特征，在卷积层，每个卷积核以一定的步长对图像提取不同特征，重复的作用于整个感受野中，每一个卷积核共享相同的参数，包括相同的权重矩阵和偏置项；卷积核上的每个神经元对局部进行感知，然后在更高层将局部信息综合起来得到全局信息，由此，减少神经元之间的连接数，进而减少需要训练的权值参数，加快神经网络模型训练的速度。
卷积层的构建公式如下式所示：
其中，m＝1，2，3，...表示构建的集成深度学习网络模型的层数，c表示卷积层，p表示池化层，为第m层卷积层的输出结果，表示第m-1层池化层的输出结果，λm＝{Wm，bm}为第m层卷积层参数项，Wm为第m层卷积核权重，bm为第m层偏置项，σ()为激励函数，整个模型中激励函数使用Batch Normalization函数，并通过mini-batch对相应的动作做规范化操作，固定模型中每层输入的均值与方差，保证整个模型的容纳能力，克服深度神经网络难以训练的弊病，防止梯度弥散；
同时，模型中每一层的迭代使用多个小尺寸的卷积核，相当于一个大尺寸卷积核的功能，但比一个大尺寸卷积层有更多非线性且需要处理的参数少，使得构建的模型的判决函数更加具有判决性。
池化层为对图像进行卷积后得到的图像的不同位置特征进行聚合统计，构建公式如下所示：
其中，表示第m层池化层的输出结果，pool()为池化函数，其方法为计算图像一个区域上的某个特定特征的平均值average或最大值max。
步骤1.2：多次随机抽取步骤1.1提取的图像特征构建多种分类模型，并根据不同的分类模型所得的分类结果进行聚合得到图像的最终分类结果，完成如图2所示的集成深度学习网络模型的构建，具体方法为：
每一次随机抽取50％的图像特征，对多个随机抽取的图像特征采用不同的分类模型进行分类，使多个决策者共同决策一个实例的分类从而提高分类模型的泛化能力。
每个分类模型均为采用不同的卷积层与池化层以不同卷积核大小、不同形式交替构建卷积神经网络模型，同时分类模型还包括常用的支持向量机SVM分类器；由于各分类模型的全连接层参数冗余，每个分类模型使用全局平均池化替代全连接层，防止过拟合现象及避免对输入的测试图像需为固定大小的限制；最后对多个分类模型的分类结果进行聚合得到所有分类结果，对此投票，以少数服从多数的原则得到最终的图像分类结果，完成集成深度学习网络模型的构建。
步骤2、对待分类的高光谱图像数据进行重构，具体方法为：
待分类的高光谱图像为三维立体的数据结构Ia，b，n，其中，二维平面(a，b)表示地物分布信息，第三维度n表示每类物体的光谱信息；将三维高光谱图像数据转换为二维矩阵Ra×b，n，将位于三维高光谱图像(c，d)位置的像元转换为位于二维矩阵Ra×b，n的c×d行，在没有破坏其光谱信息的同时保证高光谱图像像元的位置信息；然后再对二维矩阵Ra×b，n中每一行光谱向量进行归一化处理并存储。
同时，对图像中每个像元所属的类别标记标签；再对标签数据进行独热编码，其方法为使用N位状态寄存器来对N个状态进行编码，每个状态都有其独立的寄存器位，并且在任意时候，状态寄存器中只有一位有效，使数据稀疏，实现将标签维数扩展到高光谱重构数据维数，并使其一一对应，得到标签矩阵La×b，n。
步骤3、将进行重构的高光谱图像数据Ra×b，n，按行输入到步骤1构建的集成深度学习网络模型中，将每行输入的n列数据转换为二维矩阵Pe，f，其中e×f＝n。转换后的二维矩阵Pe，f与标签矩阵La×b，n输入到集成深度学习网络模型，并使用后向传播算法中的Adam算法训练模型至最小误差，不断微调各层网络参数值，直至迭代完成，模型训练完毕，实现对高光谱图像上的地物进行精细分类。
本实施例所使用的Indian Pines高光谱数据集为一张规格为145*145，光谱范围为200nm的如图3所示的高光谱图像。该高光谱数据集如表1所示，其由16种庄稼组成，共10249个样本，其中有4个样本少的类别是比较难分的，从表中可以看出，该数据集多为一个物种不同的生长期类型。从中选取50％样本数据，即5124个像元样例作为训练样本，构建集成深度学习网络模型。
表1 Indian Pines高光谱数据集
| 序号 | 种类 | 样本数 |
| 1 | Alfalfa | 46 |
| 2 | Corn-notill | 1428 |
| 3 | Corn-mintill | 830 |
| 4 | Corn | 237 |
| 5 | Grass-pasture | 483 |
| 6 | Grass-trees | 730 |
| 7 | Grass-pasture-mowed | 28 |
| 8 | Hay-windrowed | 478 |
| 9 | Oats | 20 |
| 10 | Soybean-notill | 972 |
| 11 | Soybean-mintill | 2455 |
| 12 | Soybean-clean | 593 |
| 13 | Wheat | 205 |
| 14 | Woods | 1265 |
| 15 | Buildings-Grass-Trees-Drives | 386 |
| 16 | Stone-Steel-Towers | 93 |
本实施例构建的集成深度学习网络模型的参数为：使用两层3*3的卷积核、一层2*2最大池化层对图像提取特征，使用四个分类模型对随机选择的特征进行分类，第一个分类模型包括一层1*1的卷积核，一层全局平均池化层；第二个分类模型包括一层1*1的卷积核，一层3*3卷积核和一个全局平均池化层；第三个分类模型包括一个全局平均池化层和一个SVM分类器；第四个分类模型包括是一层3*3的卷积核，一层1*1的卷积核和一个全局平均池化层。
本实施例还提供一种CNN模型，其参数为：两层3*3卷积层，一层2*2步长为2的最大池化层，一层3*3卷积层，一层2*2步长为2最大池化层，一层3*3卷积层，一层最大池化层，最后连接一个全连接层。
经训练样本对模型训练后，将Indian Pines数据集分别输入SVM分类器、CNN分类模型和集成深度学习网络模型，分别得到如图4、图5和图6所示的分类效果图，从中可以看出改进的深度学习网络模型模型对于不同种类的地物，有较好的分类效果。其中，三种分类方法的分类结果如表2所示。
表2各分类模型的总精度AA(％)和Kappa系数
表2与图4、图5和图6是相对应的，表2显示了三种分类模型的总精度AA和Kappa系数，以及每种分类模型的像元数。从表中可以看出，无论是按分类精度还是Kappa系数衡量，改进模型都表现出最好的性能，如类别2、类别3和类别4分别为玉米生长不同时期，采用改进模型能够实现针对一个物种的精细区分，得到很高的准确率。
最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明权利要求所限定的范围。
Claims (6)
1.一种基于改进深度学习模型的高光谱图像分类方法，其特征在于：包括以下步骤：
步骤1、构建集成深度学习网络模型，具体方法为：
步骤1.1：通过构建卷积层和池化层提取图像特征；
步骤1.2：多次随机抽取步骤1.1提取的图像特征构建多种分类模型，并根据不同的分类模型所得的分类结果进行聚合得到图像的最终分类结果，完成集成深度学习网络模型的构建；
步骤2、对待分类的高光谱图像数据进行重构；
步骤3、将进行重构的高光谱图像数据，按行输入到步骤1构建的集成深度学习网络模型中，实现对高光谱图像上的地物进行精细分类。
2.根据权利要求1所述的一种基于改进深度学习模型的高光谱图像分类方法，其特征在于：所述步骤1.1的具体方法为：
采用一个或多个卷积层与池化层交替构建提取图像特征，在卷积层，每个卷积核以一定的步长对图像提取不同特征，重复的作用于整个感受野中，每一个卷积核共享相同的参数，包括相同的权重矩阵和偏置项；卷积核上的每个神经元对局部进行感知，然后在更高层将局部信息综合起来得到全局信息，减少神经元之间的连接数，进而减少需要训练的权值参数，加快神经网络模型训练的速度。
3.根据权利要求2所述的一种基于改进深度学习模型的高光谱图像分类方法，其特征在于：所述卷积层的构建公式如下式所示：
其中，m＝1,2,3,...表示构建的集成深度学习网络模型的层数，c表示卷积层，p表示池化层，为第m层卷积层的输出结果，表示第m-1层池化层的输出结果，λm＝{Wm,bm}为第m层卷积层参数项，Wm为第m层卷积核权重，bm为第m层偏置项，σ()为激励函数，整个模型中激励函数使用Batch Normalization函数，并通过mini-batch对相应的动作做规范化操作，固定模型中每层输入的均值与方差，保证整个模型的容纳能力，克服深度神经网络难以训练的弊病，防止梯度弥散；
同时，模型中每一层的迭代使用多个小尺寸的卷积核，相当于一个大尺寸卷积核的功能，但比一个大尺寸卷积层有更多非线性且需要处理的参数少，使得构建的模型的判决函数更加具有判决性；
所述池化层为对图像进行卷积后得到的图像的不同位置特征进行聚合统计，构建公式如下所示：
其中，表示第m层池化层的输出结果，pool()为池化函数，其方法为计算图像一个区域上的某个特定特征的平均值average或最大值max。
4.根据权利要求1所述的一种基于改进深度学习模型的高光谱图像分类方法，其特征在于：所述步骤1.2的具体方法为：
每一次随机抽取50％的图像特征，对多个随机抽取的图像特征采用不同的分类模型进行分类，使多个决策者共同决策一个实例的分类从而提高分类模型的泛化能力；
所述每个分类模型均为采用不同的卷积层与池化层以不同卷积核大小、不同形式交替构建卷积神经网络模型，同时分类模型还包括常用的支持向量机SVM分类器；由于各分类模型的全连接层参数冗余，每个分类模型使用全局平均池化替代全连接层，防止过拟合现象及避免对输入的测试图像需为固定大小的限制；最后对多个分类模型的分类结果进行聚合得到所有分类结果，对此投票，以少数服从多数的原则得到最终的图像分类结果，完成集成深度学习网络模型的构建。
5.根据权利要求1所述的一种基于改进深度学习模型的高光谱图像分类方法，其特征在于：所述步骤2的具体方法为：
待分类的高光谱图像为三维立体的数据结构Ia,b,n，其中，二维平面(a,b)表示地物分布信息，第三维度n表示每类物体的光谱信息；将三维高光谱图像数据转换为二维矩阵Ra×b,n，将位于三维高光谱图像(c,d)位置的像元转换为位于二维矩阵Ra×b,n的c×d行，在没有破坏其光谱信息的同时保证高光谱图像像元的位置信息；然后再对二维矩阵Ra×b,n中每一行光谱向量进行归一化处理并存储；
同时，对图像中每个像元所属的类别标记标签；再对标签数据进行独热编码，其方法为使用N位状态寄存器来对N个状态进行编码，每个状态都有其独立的寄存器位，并且在任意时候，状态寄存器中只有一位有效，使数据稀疏，实现将标签维数扩展到高光谱重构数据维数，并使其一一对应，得到标签矩阵La×b,n。
6.根据权利要求5所述的一种基于改进深度学习模型的高光谱图像分类方法，其特征在于：所述步骤3的具体方法为：
将每行输入的n列数据转换为二维矩阵Pe,f，其中e×f＝n；转换后的二维矩阵Pe,f与标签矩阵La×b,n输入到集成深度学习网络模型，并使用后向传播算法中的Adam算法训练模型至最小误差，不断微调各层网络参数值，直至迭代完成，模型训练完毕，实现对高光谱图像上的地物进行精细分类。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810161767.0A CN108388917A (zh) | 2018-02-26 | 2018-02-26 | 一种基于改进深度学习模型的高光谱图像分类方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810161767.0A CN108388917A (zh) | 2018-02-26 | 2018-02-26 | 一种基于改进深度学习模型的高光谱图像分类方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN108388917A true CN108388917A (zh) | 2018-08-10 |
Family
ID=63069316
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810161767.0A Pending CN108388917A (zh) | 2018-02-26 | 2018-02-26 | 一种基于改进深度学习模型的高光谱图像分类方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN108388917A (zh) |
Cited By (28)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109145992A (zh) * | 2018-08-27 | 2019-01-04 | 西安电子科技大学 | 协作生成对抗网络和空谱联合的高光谱图像分类方法 |
| CN109146003A (zh) * | 2018-09-30 | 2019-01-04 | 合刃科技（深圳）有限公司 | 一种基于高光谱成像的分类识别方法、装置及系统 |
| CN109376787A (zh) * | 2018-10-31 | 2019-02-22 | 聚时科技(上海)有限公司 | 流形学习网络及基于其的计算机视觉图像集分类方法 |
| CN109753996A (zh) * | 2018-12-17 | 2019-05-14 | 西北工业大学 | 基于三维轻量化深度网络的高光谱图像分类方法 |
| CN109754017A (zh) * | 2019-01-09 | 2019-05-14 | 西北工业大学 | 基于可分离的三维残差网络和迁移学习高光谱图像分类方法 |
| CN110045335A (zh) * | 2019-03-01 | 2019-07-23 | 合肥工业大学 | 基于生成对抗网络的雷达目标航迹识别方法和装置 |
| CN110070116A (zh) * | 2019-04-08 | 2019-07-30 | 云南大学 | 基于深度树状训练策略的分段式选择集成图像分类方法 |
| CN110084159A (zh) * | 2019-04-15 | 2019-08-02 | 西安电子科技大学 | 基于联合多级空谱信息cnn的高光谱图像分类方法 |
| CN110110596A (zh) * | 2019-03-29 | 2019-08-09 | 西北大学 | 高光谱图像特征提取、分类模型构建及分类方法 |
| CN110163293A (zh) * | 2019-05-28 | 2019-08-23 | 武汉轻工大学 | 基于深度学习的红肉分类方法、装置、设备及存储介质 |
| CN110188820A (zh) * | 2019-05-30 | 2019-08-30 | 中山大学 | 基于深度学习子网络特征提取的视网膜oct图像分类方法 |
| CN110210412A (zh) * | 2019-06-04 | 2019-09-06 | 河海大学 | 一种基于深度学习和多示例学习的高光谱影像分类方法 |
| CN110222696A (zh) * | 2019-04-16 | 2019-09-10 | 天津科技大学 | 一种利用GPCNNs和ELM进行植物叶片疾病识别的方法 |
| CN110765912A (zh) * | 2019-10-15 | 2020-02-07 | 武汉大学 | 一种基于统计约束和Mask R-CNN的SAR图片船舶目标检测方法 |
| WO2020073737A1 (zh) * | 2018-10-10 | 2020-04-16 | 浙江大学 | 一种基于深度学习的定量光谱数据分析处理方法 |
| CN111053579A (zh) * | 2019-12-31 | 2020-04-24 | 深圳开立生物医疗科技股份有限公司 | 盆底状态的分类方法、系统、超声设备及计算机存储介质 |
| CN111160396A (zh) * | 2019-12-06 | 2020-05-15 | 华南理工大学 | 一种基于多图结构的图卷积网络的高光谱图像分类方法 |
| CN111428787A (zh) * | 2020-03-24 | 2020-07-17 | 上海海洋大学 | 一种基于gpu的高光谱图像并行分类方法 |
| CN111866427A (zh) * | 2019-09-06 | 2020-10-30 | 阳光学院 | 一种基于psvm和crnn的遥感影像分类显示装置 |
| CN111931927A (zh) * | 2020-10-19 | 2020-11-13 | 翱捷智能科技(上海)有限公司 | 一种在npu中减少计算资源占用的方法及装置 |
| CN112070100A (zh) * | 2020-09-11 | 2020-12-11 | 深圳力维智联技术有限公司 | 基于深度学习模型的图像特征识别方法、装置及存储介质 |
| CN112466333A (zh) * | 2020-11-24 | 2021-03-09 | 深圳信息职业技术学院 | 一种声学场景分类方法与系统 |
| CN112488149A (zh) * | 2020-11-03 | 2021-03-12 | 杭州电子科技大学 | 一种基于1d-cnn特征重构的网络安全数据分类方法 |
| CN112825271A (zh) * | 2019-11-21 | 2021-05-21 | 通用电气精准医疗有限责任公司 | 使用深度神经网络和测量数据的递归抽取来重建医疗图像的系统和方法 |
| CN113496442A (zh) * | 2020-03-19 | 2021-10-12 | 荷盛崧钜智财顾问股份有限公司 | 图表征产生系统,图表征产生方法与其图表征智能模块 |
| CN113496233A (zh) * | 2020-03-19 | 2021-10-12 | 荷盛崧钜智财顾问股份有限公司 | 图像近似度分析系统 |
| CN114202645A (zh) * | 2021-06-29 | 2022-03-18 | 南开大学 | 一种塑料的近红外光谱分类识别精度验证方法 |
| CN118655099A (zh) * | 2024-08-19 | 2024-09-17 | 陕西省环境监测中心站 | 一种基于多维高光谱图像的水质参数分类反演方法和系统 |
Citations (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103996047A (zh) * | 2014-03-04 | 2014-08-20 | 西安电子科技大学 | 基于压缩谱聚类集成的高光谱图像分类方法 |
| CN104102929A (zh) * | 2014-07-25 | 2014-10-15 | 哈尔滨工业大学 | 基于深度学习的高光谱遥感数据分类方法 |
| CN104182805A (zh) * | 2014-08-22 | 2014-12-03 | 杭州华亭科技有限公司 | 基于服刑人员行为特征集成学习模型的危险倾向预测方法 |
| CN104268579A (zh) * | 2014-10-14 | 2015-01-07 | 哈尔滨工业大学 | 基于分层集成学习的高光谱遥感图像分类方法 |
| CN104809471A (zh) * | 2015-04-27 | 2015-07-29 | 哈尔滨工程大学 | 一种基于空间光谱信息的高光谱图像残差融合分类方法 |
| CN105761234A (zh) * | 2016-01-28 | 2016-07-13 | 华南农业大学 | 一种基于结构稀疏表示的遥感影像融合方法 |
| CN106326899A (zh) * | 2016-08-18 | 2017-01-11 | 郑州大学 | 一种基于高光谱图像和深度学习算法的烟叶分级方法 |
| CN106845381A (zh) * | 2017-01-16 | 2017-06-13 | 西北工业大学 | 基于双通道卷积神经网络的空谱联合的高光谱图像分类方法 |
| CN106845418A (zh) * | 2017-01-24 | 2017-06-13 | 北京航空航天大学 | 一种基于深度学习的高光谱图像分类方法 |
| CN107256414A (zh) * | 2017-06-27 | 2017-10-17 | 哈尔滨工业大学 | 基于空域特征图谱的极化sar图像卷积神经网络分类方法 |
| CN107292343A (zh) * | 2017-06-23 | 2017-10-24 | 中南大学 | 一种基于六层卷积神经网络和光谱‑空间信息联合的高光谱遥感图像分类方法 |
| CN107451340A (zh) * | 2017-07-17 | 2017-12-08 | 安徽工业大学 | 基于多属性卷积神经网络的旋转机械故障定量诊断方法 |
| CN107644212A (zh) * | 2017-10-19 | 2018-01-30 | 中国地质大学（武汉） | 一种高光谱遥感图像分类方法、设备及存储设备 |
-
2018
- 2018-02-26 CN CN201810161767.0A patent/CN108388917A/zh active Pending
Patent Citations (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103996047A (zh) * | 2014-03-04 | 2014-08-20 | 西安电子科技大学 | 基于压缩谱聚类集成的高光谱图像分类方法 |
| CN104102929A (zh) * | 2014-07-25 | 2014-10-15 | 哈尔滨工业大学 | 基于深度学习的高光谱遥感数据分类方法 |
| CN104182805A (zh) * | 2014-08-22 | 2014-12-03 | 杭州华亭科技有限公司 | 基于服刑人员行为特征集成学习模型的危险倾向预测方法 |
| CN104268579A (zh) * | 2014-10-14 | 2015-01-07 | 哈尔滨工业大学 | 基于分层集成学习的高光谱遥感图像分类方法 |
| CN104809471A (zh) * | 2015-04-27 | 2015-07-29 | 哈尔滨工程大学 | 一种基于空间光谱信息的高光谱图像残差融合分类方法 |
| CN105761234A (zh) * | 2016-01-28 | 2016-07-13 | 华南农业大学 | 一种基于结构稀疏表示的遥感影像融合方法 |
| CN106326899A (zh) * | 2016-08-18 | 2017-01-11 | 郑州大学 | 一种基于高光谱图像和深度学习算法的烟叶分级方法 |
| CN106845381A (zh) * | 2017-01-16 | 2017-06-13 | 西北工业大学 | 基于双通道卷积神经网络的空谱联合的高光谱图像分类方法 |
| CN106845418A (zh) * | 2017-01-24 | 2017-06-13 | 北京航空航天大学 | 一种基于深度学习的高光谱图像分类方法 |
| CN107292343A (zh) * | 2017-06-23 | 2017-10-24 | 中南大学 | 一种基于六层卷积神经网络和光谱‑空间信息联合的高光谱遥感图像分类方法 |
| CN107256414A (zh) * | 2017-06-27 | 2017-10-17 | 哈尔滨工业大学 | 基于空域特征图谱的极化sar图像卷积神经网络分类方法 |
| CN107451340A (zh) * | 2017-07-17 | 2017-12-08 | 安徽工业大学 | 基于多属性卷积神经网络的旋转机械故障定量诊断方法 |
| CN107644212A (zh) * | 2017-10-19 | 2018-01-30 | 中国地质大学（武汉） | 一种高光谱遥感图像分类方法、设备及存储设备 |
Non-Patent Citations (5)
| Title |
|---|
| HENRIK PETERSSON等: "Hyperspectral image analysis using deep learning — A review", 《2016 SIXTH INTERNATIONAL CONFERENCE ON IMAGE PROCESSING THEORY, TOOLS AND APPLICATIONS (IPTA)》 * |
| 任越美 等: "基于稀疏表示和词袋模型的高光谱图像分类", 《计算机科学》 * |
| 姜含露: "基于卷积神经网的高光谱数据特征提取及分类技术研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
| 杨星: "基于压缩感知的高光谱图像重构", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
| 马晓瑞: "基于深度学习的高光谱影像分类方法研究", 《中国博士学位论文全文数据库 信息科技辑》 * |
Cited By (39)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109145992B (zh) * | 2018-08-27 | 2021-07-20 | 西安电子科技大学 | 协作生成对抗网络和空谱联合的高光谱图像分类方法 |
| CN109145992A (zh) * | 2018-08-27 | 2019-01-04 | 西安电子科技大学 | 协作生成对抗网络和空谱联合的高光谱图像分类方法 |
| CN109146003B (zh) * | 2018-09-30 | 2022-06-07 | 合刃科技（深圳）有限公司 | 一种基于高光谱成像的分类识别方法、装置及系统 |
| CN109146003A (zh) * | 2018-09-30 | 2019-01-04 | 合刃科技（深圳）有限公司 | 一种基于高光谱成像的分类识别方法、装置及系统 |
| WO2020073737A1 (zh) * | 2018-10-10 | 2020-04-16 | 浙江大学 | 一种基于深度学习的定量光谱数据分析处理方法 |
| CN109376787A (zh) * | 2018-10-31 | 2019-02-22 | 聚时科技(上海)有限公司 | 流形学习网络及基于其的计算机视觉图像集分类方法 |
| CN109753996A (zh) * | 2018-12-17 | 2019-05-14 | 西北工业大学 | 基于三维轻量化深度网络的高光谱图像分类方法 |
| CN109753996B (zh) * | 2018-12-17 | 2022-05-10 | 西北工业大学 | 基于三维轻量化深度网络的高光谱图像分类方法 |
| CN109754017A (zh) * | 2019-01-09 | 2019-05-14 | 西北工业大学 | 基于可分离的三维残差网络和迁移学习高光谱图像分类方法 |
| CN109754017B (zh) * | 2019-01-09 | 2022-05-10 | 西北工业大学 | 基于可分离的三维残差网络和迁移学习高光谱图像分类方法 |
| CN110045335A (zh) * | 2019-03-01 | 2019-07-23 | 合肥工业大学 | 基于生成对抗网络的雷达目标航迹识别方法和装置 |
| CN110110596A (zh) * | 2019-03-29 | 2019-08-09 | 西北大学 | 高光谱图像特征提取、分类模型构建及分类方法 |
| CN110110596B (zh) * | 2019-03-29 | 2022-12-02 | 西北大学 | 高光谱图像特征提取、分类模型构建及分类方法 |
| CN110070116B (zh) * | 2019-04-08 | 2022-09-20 | 云南大学 | 基于深度树状训练策略的分段式选择集成图像分类方法 |
| CN110070116A (zh) * | 2019-04-08 | 2019-07-30 | 云南大学 | 基于深度树状训练策略的分段式选择集成图像分类方法 |
| CN110084159A (zh) * | 2019-04-15 | 2019-08-02 | 西安电子科技大学 | 基于联合多级空谱信息cnn的高光谱图像分类方法 |
| CN110084159B (zh) * | 2019-04-15 | 2021-11-02 | 西安电子科技大学 | 基于联合多级空谱信息cnn的高光谱图像分类方法 |
| CN110222696A (zh) * | 2019-04-16 | 2019-09-10 | 天津科技大学 | 一种利用GPCNNs和ELM进行植物叶片疾病识别的方法 |
| CN110163293A (zh) * | 2019-05-28 | 2019-08-23 | 武汉轻工大学 | 基于深度学习的红肉分类方法、装置、设备及存储介质 |
| CN110188820B (zh) * | 2019-05-30 | 2023-04-18 | 中山大学 | 基于深度学习子网络特征提取的视网膜oct图像分类方法 |
| CN110188820A (zh) * | 2019-05-30 | 2019-08-30 | 中山大学 | 基于深度学习子网络特征提取的视网膜oct图像分类方法 |
| CN110210412A (zh) * | 2019-06-04 | 2019-09-06 | 河海大学 | 一种基于深度学习和多示例学习的高光谱影像分类方法 |
| CN111866427A (zh) * | 2019-09-06 | 2020-10-30 | 阳光学院 | 一种基于psvm和crnn的遥感影像分类显示装置 |
| CN110765912A (zh) * | 2019-10-15 | 2020-02-07 | 武汉大学 | 一种基于统计约束和Mask R-CNN的SAR图片船舶目标检测方法 |
| CN110765912B (zh) * | 2019-10-15 | 2022-08-05 | 武汉大学 | 一种基于统计约束和Mask R-CNN的SAR图片船舶目标检测方法 |
| CN112825271A (zh) * | 2019-11-21 | 2021-05-21 | 通用电气精准医疗有限责任公司 | 使用深度神经网络和测量数据的递归抽取来重建医疗图像的系统和方法 |
| CN111160396B (zh) * | 2019-12-06 | 2023-04-25 | 华南理工大学 | 一种基于多图结构的图卷积网络的高光谱图像分类方法 |
| CN111160396A (zh) * | 2019-12-06 | 2020-05-15 | 华南理工大学 | 一种基于多图结构的图卷积网络的高光谱图像分类方法 |
| CN111053579A (zh) * | 2019-12-31 | 2020-04-24 | 深圳开立生物医疗科技股份有限公司 | 盆底状态的分类方法、系统、超声设备及计算机存储介质 |
| CN113496442A (zh) * | 2020-03-19 | 2021-10-12 | 荷盛崧钜智财顾问股份有限公司 | 图表征产生系统,图表征产生方法与其图表征智能模块 |
| CN113496233A (zh) * | 2020-03-19 | 2021-10-12 | 荷盛崧钜智财顾问股份有限公司 | 图像近似度分析系统 |
| CN111428787A (zh) * | 2020-03-24 | 2020-07-17 | 上海海洋大学 | 一种基于gpu的高光谱图像并行分类方法 |
| CN112070100A (zh) * | 2020-09-11 | 2020-12-11 | 深圳力维智联技术有限公司 | 基于深度学习模型的图像特征识别方法、装置及存储介质 |
| CN111931927A (zh) * | 2020-10-19 | 2020-11-13 | 翱捷智能科技(上海)有限公司 | 一种在npu中减少计算资源占用的方法及装置 |
| CN112488149A (zh) * | 2020-11-03 | 2021-03-12 | 杭州电子科技大学 | 一种基于1d-cnn特征重构的网络安全数据分类方法 |
| CN112488149B (zh) * | 2020-11-03 | 2024-02-27 | 杭州电子科技大学 | 一种基于1d-cnn特征重构的网络安全数据分类方法 |
| CN112466333A (zh) * | 2020-11-24 | 2021-03-09 | 深圳信息职业技术学院 | 一种声学场景分类方法与系统 |
| CN114202645A (zh) * | 2021-06-29 | 2022-03-18 | 南开大学 | 一种塑料的近红外光谱分类识别精度验证方法 |
| CN118655099A (zh) * | 2024-08-19 | 2024-09-17 | 陕西省环境监测中心站 | 一种基于多维高光谱图像的水质参数分类反演方法和系统 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108388917A (zh) | 一种基于改进深度学习模型的高光谱图像分类方法 | |
| US10713563B2 (en) | Object recognition using a convolutional neural network trained by principal component analysis and repeated spectral clustering | |
| CN112232280B (zh) | 基于自编码器与3d深度残差网络的高光谱图像分类方法 | |
| Cinar et al. | Identification of rice varieties using machine learning algorithms | |
| CN110348399B (zh) | 基于原型学习机制和多维残差网络的高光谱智能分类方法 | |
| González-Rufino et al. | Exhaustive comparison of colour texture features and classification methods to discriminate cells categories in histological images of fish ovary | |
| CN112733659B (zh) | 一种基于自步学习双流多尺度密集连接网络的高光谱图像分类方法 | |
| CN107622272A (zh) | 一种图像分类方法及装置 | |
| CN106529447A (zh) | 一种小样本人脸识别方法 | |
| CN110197205A (zh) | 一种多特征来源残差网络的图像识别方法 | |
| CN109598306A (zh) | 基于srcm和卷积神经网络的高光谱图像分类方法 | |
| Begum et al. | Maturity detection of tomatoes using transfer learning | |
| CN109344898A (zh) | 基于稀疏编码预训练的卷积神经网络图像分类方法 | |
| CN111340133A (zh) | 一种基于深度卷积神经网络的图像分类处理方法 | |
| Lin et al. | Determination of the varieties of rice kernels based on machine vision and deep learning technology | |
| CN109002771B (zh) | 一种基于递归神经网络的遥感图像分类方法 | |
| CN111639697B (zh) | 基于非重复采样与原型网络的高光谱图像分类方法 | |
| CN112800927A (zh) | 一种基于AM-Softmax损失的蝴蝶图像细粒度识别方法 | |
| CN115393631A (zh) | 基于贝叶斯层图卷积神经网络的高光谱图像分类方法 | |
| Luan et al. | Sunflower seed sorting based on convolutional neural network | |
| Tziolas et al. | Wafer Map Defect Pattern Recognition using Imbalanced Datasets | |
| Song et al. | Using dual-channel CNN to classify hyperspectral image based on spatial-spectral information | |
| Anavyanto et al. | EfficientNetV2M for Image Classification of Tomato Leaf Deseases | |
| CN110188821B (zh) | 多参数边缘保持滤波和多特征学习的高光谱图像分类方法 | |
| CN110853052A (zh) | 一种基于深度学习的土家织锦图案图元的分割方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| AD01 | Patent right deemed abandoned | ||
| AD01 | Patent right deemed abandoned |
Effective date of abandoning: 20220802 |