CN110852304A - 基于深度学习方法的高光谱数据处理方法 - Google Patents
基于深度学习方法的高光谱数据处理方法 Download PDFInfo
- Publication number
- CN110852304A CN110852304A CN201911151815.9A CN201911151815A CN110852304A CN 110852304 A CN110852304 A CN 110852304A CN 201911151815 A CN201911151815 A CN 201911151815A CN 110852304 A CN110852304 A CN 110852304A
- Authority
- CN
- China
- Prior art keywords
- projection matrix
- formula
- hyperspectral data
- matrix
- feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
- G06V20/13—Satellite images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Astronomy & Astrophysics (AREA)
- Remote Sensing (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本发明提出了一种基于深度学习方法的高光谱数据处理方法,该方案能对现有的特征投影矩阵进行优化,得到优化特征投影矩阵,然后根据优化特征投影矩阵对高光谱数据进行处理,得到高光谱图像;本发明的有益技术效果是:提出了一种基于深度学习方法的高光谱数据处理方法,该方案能适用于不同的提取特征方法,能显著提高提取特征的识别能力,改善高光谱数据的处理效果。
Description
技术领域
本发明涉及一种高光谱数据处理技术,尤其涉及一种基于深度学习方法的高光谱数据处理方法。
背景技术
如今,高光谱图像(HSI)已成为遥感领域最热门的研究领域之一;通过从可见光到近红外波段的密集光谱采样,高光谱数据中的每个像素都包含大量连续的光谱段,这些波段为土地覆被的精细分类提供了有用的信息。高光谱早已广泛应用于资源勘探,精准农业,环境科学和城市规划等许多领域。在这些领域中,对高光谱图像每个像素的分类都起着至关重要的作用。然而,高光谱图像具有的高维图像结构常常导致维数灾难,当引入传统方法进行分类时,很容易引起休斯现象。因此,从高维高光谱数据中学习其内在的低维特征是高光谱遥感技术进一步应用的关键。
特征提取(FE)是提取低维嵌入特征的一种有效手段,并且科研者们已提出大量的特征提取方法来处理高维数据。主成分分析法(PCA)是一种经典的特征提取方法,该方法通过正交投影来最大化数据的方差。独立成分分析法(ICA),目的是寻找一个能使数据最大独立的投影方向来增强数据的独立性。但是PCA和ICA都属于无监督方法,在大多数情况下不能满足应用的需求。线性鉴别分析(LDA)是一种传统的监督方法,该方法利用样本的标签信息最大化低维空间中原始数据的方差。最大边界准则(MMC)能够进一步使类间散度最大化和类内散度最小化。然而PCA以及LDA等方法都是以统计学原理为基础,忽略了数据内在的流形结构。
过去20年的研究发现,HSI数据具有内在的流形结构。为了揭示高维空间中的流形结构,学者们设计了多种流形学习方法。这些方法包括局部线性嵌入(LLE)、等距映射(Isomap)、拉普拉斯特征映射(LE)、邻域保持嵌入(NPE)和局部保持投影(LPP)。然而,这些无监督的分类方法不能利用训练样本的标签信息来获得用于分类的判别特征。针对这一问题,学者们提出了一些监督流形学习方法。Sugiyama等人通过结合Fisher判别分析(FDA)与局部保持投影(LPP),提出了局部Fisher鉴别分析(LFDA),这种方法利用先前的知识探讨HSI数据的几何性质。闫等人提出了一种边界Fisher分析(MFA)方法,该方法通过构造一个类内图和一个类间图来揭示数据中的判别流形结构。罗等人提出了局部几何结构Fisher分析(LGSFA)方法,即通过训练样本及其对应的重建点来学习高光谱数据的几何特征,该方法在分离类间样本及其重建点的同时,将类内邻域与其重建点压缩。张等人提出了一种基于流形学习的监督学习框架,利用显式多项式映射学习一个压缩的低维特征空间,该方法可以实现对测试样本的快速特征提取和分类。然而,这些流形学习方法只执行单一的映射过程,缺乏迭代优化过程来获得更优化的投影矩阵。同时,上述传统的特征提取方法依赖于浅层特征描述子,所以无法处理复杂场景中的非线性关系。
深度学习(DL)方法在目标检测和场景分类等任务中取得了巨大的成功。近年来,学者们研究了通过深度学习中的层级网络从光谱带提取深度信息的方法,在HSI数据中,更深的网络层数可以处理更为复杂的非线性关系。Ratle等人提出了利用人工神经网络(ANN)提取高光谱图像的内在特征,并在损失函数中引入正则化项来训练神经网络。陈等人研究了深度信念网络(DBN),将光谱信息学习、空间信息学习与深度特征提取相结合,提取HSI数据的深度特征,获得较高的分类精度。陈等人介绍了一种基于栈式自编码器(SAE)的深度学习模型,通过直接在深度学习框架中输入光谱信息对HSI数据进行分类。上述DL方法试图提取HSI数据的深层特征,以提高土地覆被分类的性能。然而,这些方法只关注如何提取高光谱图像的深层特征,却没有关注高光谱图像内部的流形结构。
发明内容
针对背景技术中的问题,本发明提出了一种基于深度学习方法的高光谱数据处理方法,包括:从原始高光谱数据中提取出特征投影矩阵,然后对特征投影矩阵进行优化,得到优化特征投影矩阵,然后根据优化特征投影矩阵对高光谱数据进行处理,得到高光谱图像;其特征在于:按如下方法得到优化特征投影矩阵:
2)根据式二计算出Rk相对于Ak-1的梯度;然后根据式三对各层投影矩阵进行更新,得到新的特征投影矩阵其中,Ak表示第k次迭代后得到的特征投影矩阵,表示Ak中的第1层投影矩阵,表示Ak中的第L层投影矩阵;
3)根据当前的Ak,按式一重新计算出相应的损失函数值Rk,然后判断k的数值是否达到设定的数值:如未达到设定的数值,则进入步骤4),如已达到设定的数值,则进入步骤6);
4)根据式四计算出当前的收敛误差ε,然后将当前的收敛误差ε与设定的误差E进行比较:若ε<E,则进入步骤6),否则进入步骤5);
5)根据式二计算出当前的Rk相对于Ak-1的梯度,然后根据式三对各层投影矩阵进行更新,得到新的Ak,然后返回步骤3);
6)根据式二计算出当前的Rk相对于Ak-1的梯度,然后根据式三对各层投影矩阵进行更新,由更新后的各层投影矩阵所构成的特征投影矩阵即为优化特征投影矩阵;
其中,λ为设定的权衡参数;
S1为:
S2为:
所述式三包括:
其中,η为设定的学习率;
所述式四包括:ε=|Rk-Rk-1|。
本发明的原理是:现有技术在处理高光谱数据时,一般通过特征学习从高光谱数据中得到特征投影矩阵A0,然后对A0进行相应处理,来得到高光谱图像;而本发明的方案是先对A0进行优化,得到优化特征投影矩阵,然后根据优化特征投影矩阵对高光谱数据进行相应处理,来得到高光谱图像;本发明的优化过程以现有手段得到的特征投影矩阵A0作为输入矩阵;具体实施时,发明人基于图嵌入理论,设计了目标函数S1(也可称为判别准则)来表达高光谱数据的判别流形结构,然后通过反向传播算法来对目标函数进行迭代更新,以提高不同类别的嵌入特征的可分性,进而实现特征投影矩阵的自适应优化,具体过程即对应于本发明的各个步骤。传统的深度学习网络利用交叉熵损失函数,通过迭代过程来度量预测值和真实值之间的差异性,从而最小化损失函数、优化网络参数;与传统手段不同的是,本发明采用目标函数S1作为网络的损失函数,根据S1,我们就能通过标签信息来探索高光谱数据的几何属性,并最大化不同类别之间的阈值,同时,本发明还提出了一种不同的迭代优化策略来压缩属于同一类的样本(寻找同类近邻点并构图的过程通过实现)并分离属于不同类的样本(寻找非同类近邻点并构图的过程通过实现),该过程对应于与式一相关的操作,然后通过式二和式三对网络进行迭代优化,最终就可以得到优化特征投影矩阵;之后,根据优化特征投影矩阵,继续按各种处理方法的后续处理手段对高光谱数据进行处理,就能得到效果更好的高光谱图像。
优选地,采用线性子空间方法、流形学习方法或深度学习方法的特征提取手段从原始高光谱数据中提取出特征投影矩阵;得到优化特征投影矩阵后,相应的按线性子空间方法、流形学习方法或深度学习方法的处理方式对优化特征投影矩阵进行处理,得到高光谱图像。换言之,即本发明可用于现有的线性子空间方法、流形学习方法或深度学习方法中,用于对这些方法中的特征投影矩阵进行优化。
优选地,采用线性子空间方法或流形学习方法时,基于现有技术可知,采用线性子空间方法或流形学习方法处理原始高光谱数据时,得到的特征投影矩阵仅有一层投影矩阵,此时,后续的优化过程仅需对这一层投影矩阵进行优化(本发明用于深度学习方法时,需要对多层投影矩阵同时进行优化)。
本发明的有益技术效果是:提出了一种基于深度学习方法的高光谱数据处理方法,该方案能适用于不同的提取特征方法,能显著提高提取特征的识别能力,改善高光谱数据的处理效果。
具体实施方式
一种基于深度学习方法的高光谱数据处理方法,包括:从原始高光谱数据中提取出特征投影矩阵,然后对特征投影矩阵进行优化,得到优化特征投影矩阵,然后根据优化特征投影矩阵对高光谱数据进行处理,得到高光谱图像;其创新在于:按如下方法得到优化特征投影矩阵:
2)根据式二计算出Rk相对于Ak-1的梯度;然后根据式三对各层投影矩阵进行更新,得到新的特征投影矩阵其中,Ak表示第k次迭代后得到的特征投影矩阵,表示Ak中的第1层投影矩阵,表示Ak中的第L层投影矩阵;
3)根据当前的Ak,按式一重新计算出相应的损失函数值Rk,然后判断k的数值是否达到设定的数值:如未达到设定的数值,则进入步骤4),如已达到设定的数值,则进入步骤6);
4)根据式四计算出当前的收敛误差ε,然后将当前的收敛误差ε与设定的误差E进行比较:若ε<E,则进入步骤6),否则进入步骤5);
5)根据式二计算出当前的Rk相对于Ak-1的梯度,然后根据式三对各层投影矩阵进行更新,得到新的Ak,然后返回步骤3);
6)根据式二计算出当前的Rk相对于Ak-1的梯度,然后根据式三对各层投影矩阵进行更新,由更新后的各层投影矩阵所构成的特征投影矩阵即为优化特征投影矩阵;
其中,λ为设定的权衡参数;
S1为:
其中,
S2为:
所述式三包括:
其中,η为设定的学习率;
所述式四包括:ε=|Rk-Rk-1|。
进一步地,采用线性子空间方法、流形学习方法或深度学习方法的特征提取手段从原始高光谱数据中提取出特征投影矩阵;得到优化特征投影矩阵后,相应的按线性子空间方法、流形学习方法或深度学习方法的处理方式对优化特征投影矩阵进行处理,得到高光谱图像。
为了验证本发明的有效性,发明人设计了大量的实验,用于比较其他特征提取方法与本发明的分类精度。这些方法包括线性子空间方法、流形学习方法,以及深度学习方法,比如LDA、FDA、LPP、LGSFA、ANN、DBN和SAE。对所有方法都采用交叉验证来优化参数以获得良好的性能。我们将LPP的近邻数设置为9。对于LGSFA,类内和类间近邻数分别设置为9和180。
为了评估每种方法在不同数量的训练样本下的分类性能,我们从每个类别随机选择ni(ni=20,30,40,50,80,100)的样本作为训练集,将其余样本作为测试集。不同方法对两个高光谱数据集的带有标准差的总体分类精度如表1和2所示。
表1
Table 2:The classification results with different FE methods onPaviaU data set(Overall Accuracy±Std(%))
表2Table 3:The classification results with different FE methods onIndian Pines data set(Overall Accuracy±Std(%))
表中,M3DNet表示本发明的方法,Original表示现有手段;
从表1和表2可以看出,所有方法的总体分类精度都随训练集样本量的增加而有所增加。在大多数情况下,深度学习方法(ANN,DBN和SAE)优于子空间方法和流形学习方法,因为后两种方法通常只能提取浅层特征,无法描述高光谱数据复杂的非线性关系。普遍情况下,本发明方法较于现有方法获得了更好的分类性能。在IN数据集中,很容易导致非最佳分类结果,即原始SAE无法得到HSI中的流形结构。而采用本发明方案后,可通过最大化流形余量来自适应优化SAE获得的投影矩阵,从而显著提高不同类别的可分离性。
Claims (3)
1.一种基于深度学习方法的高光谱数据处理方法,包括:从原始高光谱数据中提取出特征投影矩阵,然后对特征投影矩阵进行优化,得到优化特征投影矩阵,然后根据优化特征投影矩阵对高光谱数据进行处理,得到高光谱图像;其特征在于:按如下方法得到优化特征投影矩阵:
2)根据式二计算出Rk相对于Ak-1的梯度;然后根据式三对各层投影矩阵进行更新,得到新的特征投影矩阵其中,Ak表示第k次迭代后得到的特征投影矩阵,表示Ak中的第1层投影矩阵,表示Ak中的第L层投影矩阵;
3)根据当前的Ak,按式一重新计算出相应的损失函数值Rk,然后判断k的数值是否达到设定的数值:如未达到设定的数值,则进入步骤4),如已达到设定的数值,则进入步骤6);
4)根据式四计算出当前的收敛误差ε,然后将当前的收敛误差ε与设定的误差E进行比较:若ε<E,则进入步骤6),否则进入步骤5);
5)根据式二计算出当前的Rk相对于Ak-1的梯度,然后根据式三对各层投影矩阵进行更新,得到新的Ak,然后返回步骤3);
6)根据式二计算出当前的Rk相对于Ak-1的梯度,然后根据式三对各层投影矩阵进行更新,由更新后的各层投影矩阵所构成的特征投影矩阵即为优化特征投影矩阵;
其中,λ为设定的权衡参数;
S1为:
S2为:
其中,η为设定的学习率;
所述式四包括:ε=|Rk-Rk-1|。
2.根据权利要求1所述的基于深度学习方法的高光谱数据处理方法,其特征在于:采用线性子空间方法、流形学习方法或深度学习方法的特征提取手段从原始高光谱数据中提取出特征投影矩阵;得到优化特征投影矩阵后,相应的按线性子空间方法、流形学习方法或深度学习方法的处理方式对优化特征投影矩阵进行处理,得到高光谱图像。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911151815.9A CN110852304B (zh) | 2019-11-22 | 2019-11-22 | 基于深度学习方法的高光谱数据处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911151815.9A CN110852304B (zh) | 2019-11-22 | 2019-11-22 | 基于深度学习方法的高光谱数据处理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110852304A true CN110852304A (zh) | 2020-02-28 |
CN110852304B CN110852304B (zh) | 2022-03-22 |
Family
ID=69603387
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911151815.9A Active CN110852304B (zh) | 2019-11-22 | 2019-11-22 | 基于深度学习方法的高光谱数据处理方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110852304B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112149712A (zh) * | 2020-08-19 | 2020-12-29 | 中国地质大学(武汉) | 一种高效的高光谱遥感数据压缩与分类模型的构建方法 |
CN113315757A (zh) * | 2021-05-10 | 2021-08-27 | 内蒙古工业大学 | 一种面向边缘计算的数据免解码传输方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120041906A1 (en) * | 2010-08-11 | 2012-02-16 | Huh Seung-Il | Supervised Nonnegative Matrix Factorization |
CN104134364A (zh) * | 2014-07-29 | 2014-11-05 | 电子科技大学 | 具有自我学习能力的实时交通信号识别方法及系统 |
CN104573717A (zh) * | 2014-12-31 | 2015-04-29 | 南京理工大学 | 有监督的流形学习算法 |
CN106778885A (zh) * | 2016-12-26 | 2017-05-31 | 重庆大学 | 基于局部流形嵌入的高光谱图像分类方法 |
CN107203786A (zh) * | 2017-06-06 | 2017-09-26 | 苏州大学 | 基于稀疏边界Fisher算法的图像识别方法及装置 |
US20180137630A1 (en) * | 2016-11-15 | 2018-05-17 | Samsung Electronics Co., Ltd. | Image processing apparatus and method |
-
2019
- 2019-11-22 CN CN201911151815.9A patent/CN110852304B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120041906A1 (en) * | 2010-08-11 | 2012-02-16 | Huh Seung-Il | Supervised Nonnegative Matrix Factorization |
CN104134364A (zh) * | 2014-07-29 | 2014-11-05 | 电子科技大学 | 具有自我学习能力的实时交通信号识别方法及系统 |
CN104573717A (zh) * | 2014-12-31 | 2015-04-29 | 南京理工大学 | 有监督的流形学习算法 |
US20180137630A1 (en) * | 2016-11-15 | 2018-05-17 | Samsung Electronics Co., Ltd. | Image processing apparatus and method |
CN106778885A (zh) * | 2016-12-26 | 2017-05-31 | 重庆大学 | 基于局部流形嵌入的高光谱图像分类方法 |
CN107203786A (zh) * | 2017-06-06 | 2017-09-26 | 苏州大学 | 基于稀疏边界Fisher算法的图像识别方法及装置 |
Non-Patent Citations (6)
Title |
---|
FULIN LUO等: ""Semisupervised Sparse Manifold Discriminative Analysis for Feature Extraction of Hyperspectral Images"", 《IEEE TRANSACTIONS ON GEOSCIENCE AND REMOTE SENSING》 * |
GUANGYAO SHI等: ""Spatial-Spectral Multiple Manifold Discriminant Analysis for Dimensionality Reduction of Hyperspectral Imagery"", 《REMOTE SENSING》 * |
HONG HUANG等: ""Dimensionality reduction of hyperspectral images based on sparse discriminant manifold embedding"", 《ISPRS JOURNAL OF PHOTOGRAMMETRY AND REMOTE SENSING》 * |
HONG HUANG等: ""Multi-Feature Manifold Discriminant Analysis for Hyperspectral Image Classification"", 《REMOTE SENSING》 * |
魏峰: ""光谱遥感数据特征提取与特征选择方法研究"", 《中国博士学位论文全文数据库 信息科技辑》 * |
黄鸿等: ""空-谱协同正则化稀疏超图嵌入的高光谱图像分类"", 《测绘学报》 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112149712A (zh) * | 2020-08-19 | 2020-12-29 | 中国地质大学(武汉) | 一种高效的高光谱遥感数据压缩与分类模型的构建方法 |
CN112149712B (zh) * | 2020-08-19 | 2023-06-06 | 中国地质大学(武汉) | 一种高效的高光谱遥感数据压缩与分类模型的构建方法 |
CN113315757A (zh) * | 2021-05-10 | 2021-08-27 | 内蒙古工业大学 | 一种面向边缘计算的数据免解码传输方法 |
CN113315757B (zh) * | 2021-05-10 | 2022-04-08 | 内蒙古工业大学 | 一种面向边缘计算的数据免解码传输方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110852304B (zh) | 2022-03-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111860612B (zh) | 无监督高光谱图像隐低秩投影学习特征提取方法 | |
CN108830296B (zh) | 一种改进的基于深度学习的高分遥感影像分类方法 | |
CN110348399B (zh) | 基于原型学习机制和多维残差网络的高光谱智能分类方法 | |
CN107133496B (zh) | 基于流形学习与闭环深度卷积双网络模型的基因特征提取方法 | |
Fu et al. | A novel band selection and spatial noise reduction method for hyperspectral image classification | |
CN112580590A (zh) | 一种基于多语义特征融合网络的指静脉识别方法 | |
CN109815357B (zh) | 一种基于非线性降维及稀疏表示的遥感图像检索方法 | |
CN112765352A (zh) | 基于具有自注意力机制的图卷积神经网络文本分类方法 | |
CN109543723B (zh) | 一种鲁棒的图像聚类方法 | |
CN109241813B (zh) | 基于判别稀疏保持嵌入的非约束人脸图像降维方法 | |
CN110516533B (zh) | 一种基于深度度量的行人再辨识方法 | |
CN110852304B (zh) | 基于深度学习方法的高光谱数据处理方法 | |
Narang et al. | Devanagari ancient character recognition using DCT features with adaptive boosting and bootstrap aggregating | |
CN111695455B (zh) | 一种基于耦合判别流形对齐的低分辨人脸识别方法 | |
CN111680579B (zh) | 一种自适应权重多视角度量学习的遥感图像分类方法 | |
CN111242056B (zh) | 一种最大-最小距离嵌入的无监督高光谱图像分类方法 | |
CN117011595A (zh) | 基于近似nmr模型的高光谱图像特征提取方法 | |
CN112364902B (zh) | 一种基于自适应相似性的特征选择学习方法 | |
CN115392350A (zh) | 一种基于共正则化谱聚类的不完整多视图聚类方法和系统 | |
CN111027514B (zh) | 一种基于矩阵指数的弹性保持投影方法及其应用 | |
CN115496933A (zh) | 基于空间-光谱原型特征学习的高光谱分类方法及系统 | |
CN109165610B (zh) | 一种基于单形进化的手写体数字识别检测方法 | |
CN112241680A (zh) | 基于静脉相似图像知识迁移网络的多模态身份认证方法 | |
CN111931788A (zh) | 基于复值的图像特征提取方法 | |
Wang et al. | Feature extraction method of face image texture spectrum based on a deep learning algorithm |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |