CN105654117B - 基于sae深度网络的高光谱图像空谱联合的分类方法 - Google Patents
基于sae深度网络的高光谱图像空谱联合的分类方法 Download PDFInfo
- Publication number
- CN105654117B CN105654117B CN201510992076.1A CN201510992076A CN105654117B CN 105654117 B CN105654117 B CN 105654117B CN 201510992076 A CN201510992076 A CN 201510992076A CN 105654117 B CN105654117 B CN 105654117B
- Authority
- CN
- China
- Prior art keywords
- sae
- space characteristics
- network
- spectrum image
- layer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000001228 spectrum Methods 0.000 title claims abstract description 60
- 238000000034 method Methods 0.000 title claims abstract description 31
- 238000012549 training Methods 0.000 claims abstract description 8
- 238000011478 gradient descent method Methods 0.000 claims description 4
- 238000012360 testing method Methods 0.000 claims description 4
- 230000017105 transposition Effects 0.000 claims description 2
- 238000000513 principal component analysis Methods 0.000 abstract description 8
- 230000003595 spectral effect Effects 0.000 abstract description 8
- 230000009286 beneficial effect Effects 0.000 abstract description 3
- 238000000605 extraction Methods 0.000 abstract description 2
- 238000013528 artificial neural network Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 238000009792 diffusion process Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明涉及一种基于SAE深度网络的高光谱图像空谱联合的分类方法，替代了传统的PCA降维后使用邻域信息作为空间特征，使用当前像素点的空间位置信息，即行列坐标作为空间特征，然后和其谱特征结合作为训练样本的空谱联合特征，进而提出一种基于SAE深度网络的高光谱图像空谱联合分类方法。本发明的有益效果在于：改进了传统的基于SAE深度网络空谱联合分类中提取空间特征的方法，使用空间位置信息作为空间特征而不是传统的提取空间特征的方法即在谱空间上进行主成分分析(PCA)降维后提取邻域的空间信息作为空间特征，不仅简化了空间特征的提取方法，减少了运算量，而且相较于传统的方法提高了分类精度。
Description
技术领域
本发明属于信息处理技术领域，涉及一种对高光谱图像的分类方法，具体涉及一种基于SAE深度网络的高光谱图像空谱联合的分类方法。
背景技术
高光谱图像光谱分辨率高、成像波段多、信息量大，在遥感领域正在被越来越广泛的应用。高光谱图像分类技术在这些应用中起着重要作用。最近十多年来，人工神经网络的研究工作不断深入，依据神经网络可以实现对某种算法或函数的逼近，人们利用神经网络结构实现对于高光谱图像的分类，神经网络层数越多，其表征信息的能力也就越强。
因为神经网络层数的增加，随之而来的问题是梯度扩散问题，于是人们提出了基于SAE(Stacked Autoencoder)深度网络的空谱联合分类方法，改善了梯度扩散问题。但是传统的基于SAE深度网络的空谱联合分类方法在提取每个像素点的空间特征时十分复杂，首先需要在谱空间上进行主成分分析(principal components analysis，PCA)降维，然后提取每个像素点的邻域的空间信息和与该像素点的谱特征结合，作为其空谱联合特征。然而，降维处理不仅计算量大，而且损失了一定的谱信息，从而影响了分类的精度。此外，提取邻域信息时还需要对边缘上的像素进行特殊处理(如补零操作)。
发明内容
要解决的技术问题
为了避免现有技术的不足之处，本发明提出一种基于SAE深度网络的高光谱图像空谱联合的分类方法，克服传统的基于SAE深度网络的空谱联合分类方法提取空间特征计算量大且复杂，谱信息丢失影响分类精度的问题。
技术方案
一种基于SAE深度网络的高光谱图像空谱联合的分类方法，其特征在于步骤如下：
步骤1：对高光谱图像像素的谱特征数据进行归一化操作，即将谱特征数据映射到0-1之间，得到归一化的谱特征；
将位于的像素的空间特征设为，然后对所有的空间特征进行归一化操作，即将空间特征映射到0-1之间，得到归一化的空间特征；
步骤2：以归一化的谱特征和归一化的空间特征联合作为AE的输入层，将输入层乘以权重，再加上偏置得到隐藏层，将隐藏层乘以权重，再加上偏置得到重建层，构成3层网络结构的自编码器AE；采用BP算法训练自编码器AE的参数，使重建层还原输入层；
所述Wy＝Wz T＝W，T为转置；
步骤3：去除重建层，将隐藏层作为新的自编码器AE的输入层，按照步骤2中所述方法训练出一个新的自编码器AE；
重复构建多个自编码器AE；
步骤4：将多个自编码器AE进行连接构建得到SAE网络；
步骤5：将SAE网络连接softmax层，然后利用BP算法对整个网络进行参数更新得到训练好的网络；
步骤6：利用训练好的网络对高光谱图像进行分类。
以训练好的网络对高光谱图像的测试集进行分类，得到分类的准确率。
调整自编码器AE的隐藏层的单元个数，重复构建自编码器AE的个数或BP算法中的学习速率，改变分类的准确率。
所述W为-1～1之间的随机数值。
有益效果
本发明提出的一种基于SAE深度网络的高光谱图像空谱联合的分类方法，替代了传统的PCA降维后使用邻域信息作为空间特征，使用当前像素点的空间位置信息，即行列坐标作为空间特征，然后和其谱特征结合作为训练样本的空谱联合特征，进而提出一种基于SAE深度网络的高光谱图像空谱联合分类方法。首先，将行列坐标与谱特征结合起来作为训练样本的空谱联合特征，利用训练样本的空谱特征作为输入层构建一个3层的自编码器(Autoencoder，AE)，这3层分别是输入层，隐藏层，重建层，经过训练使得重建层尽可能的还原输入层；然后，将AE的重建层去除，利用前一个AE的隐藏层作为输入层构建一个新的AE，依次类推，这样就构建了一个SAE网络；最后，将SAE网络连接上softmax层，利用误差的反向传播(Backpropagation，BP)算法对整个网络的参数进行调整，这样就得到了一个具有高正确率的分类器。
本发明的有益效果在于：改进了传统的基于SAE深度网络空谱联合分类中提取空间特征的方法，使用空间位置信息作为空间特征而不是传统的提取空间特征的方法即在谱空间上进行主成分分析(PCA)降维后提取邻域的空间信息作为空间特征，不仅简化了空间特征的提取方法，减少了运算量，而且相较于传统的方法提高了分类精度。
附图说明
图1：基于SAE深度网络的高光谱图像空谱联合分类方法的流程图
图2：基于SAE深度网络的高光谱图像空谱联合分类方法的框图
具体实施方式
现结合实施例、附图对本发明作进一步描述：
本发明实施例步骤如下：
步骤1对高光谱图像数据，依照公式对谱特征数据进行归一化操作。其中i,j表示行列坐标，s表示谱段，xmax、xmin分别表示三维高光谱图像谱特征数据中的最大值和最小值，xijs表示三维高光谱图像谱特征数据中第i行第j列的第s个谱段的值，xijs *表示三维高光谱图像谱特征数据中归一化后第i行第j列的第s个谱段的值。
步骤2选取空间特征，将高光谱图像中的空间位置信息，即行列坐标作为空间特征，即将位于(i,j)位置的像素的空间特征设为(i,j)。然后对空间特征按照与步骤1相似的方法进行归一化操作。
步骤3构建3层的AE，归一化的谱特征和空间特征联合作为自动编码器的输入层，剩余两层为隐藏层和重建层，AE的输入单元个数为谱段个数加上空间特征的个数，即谱段个数加2，隐藏层单元个数一般取60-120，重建层单元个数与输入层个数相同。网络参数训练采用小批量(mini-batch)梯度下降法，具体构建方法如下：
设置输入层到隐藏层的权重为Wy,偏置为by；隐藏层到重建层权重和偏置分别为Wz，bz，我们对Wy和Wz定义如下的约束，这样有助于把训练参数减半。
Wy＝Wz T＝W；
定义代价函数
其中d代表输出单元的个数，m表示mini-batch的大小，一般取20-100，xik表示第i个输入的第k个单元，zik表示第i个输出的第k个单元，分别计算代价函数c对权重W及偏置by，bz的偏导数，然后利用AE网络参数的更新法则：
用来更新网络参数来最小化AE的代价函数。其中η代表学习速率，通常取0.01左右，mini-batch的大小取10-100，训练迭代次数为20-50次，这样重建层能较好地还原输入层。n为当前迭代次数。
步骤4将步骤3得到的AE去除重建层，然后将步骤3的隐藏层作为下一个AE的输入层按照步骤3的方法构建新的自动编码器。
步骤5依次构建新的AE，将每个AE的输入层与隐藏层与之后的AE连接，这样就构建了一个SAE网络。AE的具体重复层数按照现有技术中的惯用方式确定，SAE一般由3-5个AE构建而成。
步骤6将SAE连接到softmax层，用来反馈分类误差。然后利用反向传播(BP)算法计算偏导数，然后利用mini-batch的梯度下降法对整个网络参数进行更新。小批量个数为10-100，迭代次数为600-800，更新参数时的学习速率一般选取0.01。
步骤7利用训练好的网络参数在测试集上测试分类正确率。如果分类正确率高，则对整个高光谱图像进行分类，结束。否则修改AE的隐藏单元个数，SAE的层数，学习速率并返回步骤3。
方式2：在方式1的步骤6中，更新网络参数的学习速率可以随着迭代次数的增加而减少。具体来说，在前300-400次的迭代中可使用学习速率为0.01，在剩余的迭代中可使用学习速率为0.001，这样使得分类的稳定性得到提高。
Claims (3)
1.一种基于SAE深度网络的高光谱图像空谱联合的分类方法，其特征在于步骤如下：
步骤1：对高光谱图像像素的谱特征数据进行归一化操作，即将谱特征数据映射到0-1之间，得到归一化的谱特征；
将位于(i,j)的像素的空间特征设为(i,j)，然后对所有的空间特征进行归一化操作，即将空间特征映射到0-1之间，得到归一化的空间特征；
步骤2：以归一化的谱特征和归一化的空间特征联合作为AE的输入层，将输入层乘以权重Wy，再加上偏置by得到隐藏层，将隐藏层乘以权重Wz，再加上偏置bz得到重建层，构成3层网络结构的自编码器AE；采用小批量(mini-batch)梯度下降法训练自编码器AE的参数，使重建层还原输入层；
所述Wy＝Wz T＝W，T为转置；
步骤3：去除重建层，将隐藏层作为新的自编码器AE的输入层，按照步骤2中所述方法训练出一个新的自编码器AE；
重复构建多个自编码器AE；
步骤4：将多个自编码器AE进行连接构建得到SAE网络；
步骤5：将SAE网络连接softmax层，然后利用小批量(mini-batch)梯度下降法对整个网络进行参数更新得到训练好的网络；
步骤6：利用训练好的网络对高光谱图像进行分类；
所述W为-1～1之间的随机数值。
2.根据权利要求1所述基于SAE深度网络的高光谱图像空谱联合的分类方法，其特征在于：以训练好的网络对高光谱图像的测试集进行分类，得到分类的准确率。
3.根据权利要求1所述基于SAE深度网络的高光谱图像空谱联合的分类方法，其特征在于：调整自编码器AE的隐藏层的单元个数，重复构建自编码器AE的个数或BP算法中的学习速率，改变分类的准确率。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201510992076.1A CN105654117B (zh) | 2015-12-25 | 2015-12-25 | 基于sae深度网络的高光谱图像空谱联合的分类方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201510992076.1A CN105654117B (zh) | 2015-12-25 | 2015-12-25 | 基于sae深度网络的高光谱图像空谱联合的分类方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN105654117A CN105654117A (zh) | 2016-06-08 |
| CN105654117B true CN105654117B (zh) | 2019-01-25 |
Family
ID=56477572
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201510992076.1A Expired - Fee Related CN105654117B (zh) | 2015-12-25 | 2015-12-25 | 基于sae深度网络的高光谱图像空谱联合的分类方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN105654117B (zh) |
Families Citing this family (14)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106228130B (zh) * | 2016-07-19 | 2019-09-10 | 武汉大学 | 基于模糊自编码网络的遥感影像云检测方法 |
| CN106228186B (zh) * | 2016-07-20 | 2019-11-15 | 湖南大学 | 高光谱图像分类装置与方法 |
| CN106871568A (zh) * | 2016-12-30 | 2017-06-20 | 青岛海尔智能技术研发有限公司 | 冰箱内部食物的种类识别方法与冰箱 |
| CN106897737B (zh) * | 2017-01-24 | 2019-10-11 | 北京理工大学 | 一种基于超限学习机的高光谱遥感图像地物分类方法 |
| CN107909015A (zh) * | 2017-10-27 | 2018-04-13 | 广东省智能制造研究所 | 基于卷积神经网络及空谱信息融合的高光谱图像分类方法 |
| CN108319913A (zh) * | 2018-01-31 | 2018-07-24 | 大连海事大学 | 一种基于空谱联合的栈式自编码水上油膜提取方法及系统 |
| CN108734199B (zh) * | 2018-04-24 | 2021-09-07 | 西北工业大学 | 基于分段深度特征及低秩表示的高光谱图像鲁棒分类方法 |
| CN108760668B (zh) * | 2018-06-01 | 2019-10-29 | 南京林业大学 | 基于加权自动编码器的马尾松苗木根部水分快速测量方法 |
| CN109389171B (zh) * | 2018-10-11 | 2021-06-25 | 云南大学 | 基于多粒度卷积降噪自动编码器技术的医疗图像分类方法 |
| CN109816002B (zh) * | 2019-01-11 | 2022-09-06 | 广东工业大学 | 基于特征自迁移的单一稀疏自编码器弱小目标检测方法 |
| CN110458208A (zh) * | 2019-07-24 | 2019-11-15 | 哈尔滨工业大学 | 基于信息测度的高光谱图像分类方法 |
| CN112232137A (zh) * | 2020-09-24 | 2021-01-15 | 北京航空航天大学 | 高光谱图像的处理方法及装置 |
| CN112232280B (zh) * | 2020-11-04 | 2021-12-03 | 安徽大学 | 基于自编码器与3d深度残差网络的高光谱图像分类方法 |
| CN114429424B (zh) * | 2022-04-01 | 2022-06-24 | 中国石油大学(华东) | 一种适用于退化方式不定的遥感图像超分重建方法 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103955702A (zh) * | 2014-04-18 | 2014-07-30 | 西安电子科技大学 | 基于深度rbf网络的sar图像地物分类方法 |
| CN105184309A (zh) * | 2015-08-12 | 2015-12-23 | 西安电子科技大学 | 基于cnn和svm的极化sar图像分类 |
-
2015
- 2015-12-25 CN CN201510992076.1A patent/CN105654117B/zh not_active Expired - Fee Related
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103955702A (zh) * | 2014-04-18 | 2014-07-30 | 西安电子科技大学 | 基于深度rbf网络的sar图像地物分类方法 |
| CN105184309A (zh) * | 2015-08-12 | 2015-12-23 | 西安电子科技大学 | 基于cnn和svm的极化sar图像分类 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN105654117A (zh) | 2016-06-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN105654117B (zh) | 基于sae深度网络的高光谱图像空谱联合的分类方法 | |
| CN105320965B (zh) | 基于深度卷积神经网络的空谱联合的高光谱图像分类方法 | |
| CN105787439B (zh) | 一种基于卷积神经网络的深度图像人体关节定位方法 | |
| CN111242841B (zh) | 一种基于语义分割和深度学习的图片背景风格迁移方法 | |
| CN107092870B (zh) | 一种高分辨率影像语义信息提取方法 | |
| CN109165660A (zh) | 一种基于卷积神经网络的显著物体检测方法 | |
| CN106022355B (zh) | 基于3dcnn的高光谱图像空谱联合分类方法 | |
| CN104657776B (zh) | 神经网络系统、基于神经网络系统的图像解析方法和装置 | |
| CN114092832B (zh) | 一种基于并联混合卷积网络的高分辨率遥感影像分类方法 | |
| CN111583165A (zh) | 图像处理方法、装置、设备及存储介质 | |
| CN106600577A (zh) | 一种基于深度反卷积神经网络的细胞计数方法 | |
| CN107316015A (zh) | 一种基于深度时空特征的高精度面部表情识别方法 | |
| CN105930877A (zh) | 一种基于多模态深度学习的遥感影像分类方法 | |
| CN107463954B (zh) | 一种模糊异谱图像的模板匹配识别方法 | |
| CN106203625A (zh) | 一种基于多重预训练的深层神经网络训练方法 | |
| CN103268607B (zh) | 一种弱监督条件下的共同对象检测方法 | |
| CN106030620A (zh) | 用于随机尖峰贝叶斯网络的基于事件的推断和学习 | |
| CN108447057A (zh) | 基于显著性和深度卷积网络的sar图像变化检测方法 | |
| CN109685716A (zh) | 一种基于高斯编码反馈的生成对抗网络的图像超分辨率重建方法 | |
| CN106875007A (zh) | 用于语音欺骗检测的基于卷积长短期记忆端对端深度神经网络 | |
| CN109711401A (zh) | 一种基于Faster Rcnn的自然场景图像中的文本检测方法 | |
| CN108491925A (zh) | 基于隐变量模型的深度学习特征泛化方法 | |
| CN109801225A (zh) | 基于多任务全卷积神经网络的人脸网纹污迹去除方法 | |
| CN106104585A (zh) | 经由阈下调制的模拟信号重构和识别 | |
| CN108268890A (zh) | 一种高光谱图像分类方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20190125 |