CN104102929A - 基于深度学习的高光谱遥感数据分类方法 - Google Patents

Abstract

基于深度学习的高光谱遥感数据分类方法，属于高光谱数据分类技术领域。本发明是为了解决现有对蕴含非线性特征的高光谱数据进行分类的方法存在分类精度低的问题。它首先对高光谱原始数据进行处理获得高光谱原始数据的光谱特征向量和空间特征信息；再对所述光谱特征向量和空间特征信息进行整合；由高光谱整合数据确定标记样本，并由标记样本中选择训练样本和测试样本；使用训练样本对构成深层网络的多层限制玻尔兹曼机进行预训练；使用训练样本对多层限制玻尔兹曼机构成的网络进行有监督学习；将测试样本输入微调后的多层限制玻尔兹曼机构成的网络，实现高光谱遥感数据的分类。本发明用于高光谱遥感数据的分类。

Description

基于深度学习的高光谱遥感数据分类方法

技术领域

本发明涉及基于深度学习的高光谱遥感数据分类方法，属于高光谱数据分类技术领域。

背景技术

随着机载及星载高光谱传感器的成功研制，对遥感数据的光谱分辨力得到了极大的提高，它使多光谱遥感不能解决的问题得以解决，与此同时，高维数据的处理也成为了一个急需解决的问题。数据的高维度来自于高的光谱分辨率，对于光谱分辨率达到纳米级的高光谱遥感在光谱上的数据维可以达到数百维，而众多在低维空间表现很好的算法，在高光谱数据的高维空间内受到了很大限制。

目前，解决高光谱数据高维度问题的主流方法是特征提取。然而对于高光谱数据中蕴含的非线性特征，是否采用了适当的特征提取方法对于高光谱数据的分类有着至关重要的影响。现有对蕴含非线性特征的高光谱数据分类方法存在分类精度低，适用性差的缺陷。

发明内容

本发明目的是为了解决现有对蕴含非线性特征的高光谱数据进行分类的方法存在分类精度低的问题，提供了一种基于深度学习的高光谱遥感数据分类方法。

本发明所述基于深度学习的高光谱遥感数据分类方法，它包括以下步骤：

步骤一：读取高光谱原始数据，采用主成分分析法获得高光谱原始数据的特征值和特征向量，进而获得高光谱原始数据的光谱特征向量；再对高光谱原始数据的光谱特征向量进行邻域信息提取，获得高光谱原始数据的空间特征信息；

步骤二：对高光谱原始数据的光谱特征向量和空间特征信息进行整合，获得高光谱整合数据；

步骤三：由高光谱整合数据确定标记样本，并由标记样本中选择训练样本和测试样本；

步骤四：基于深度学习方法，使用训练样本对构成深层网络的多层限制玻尔兹曼机进行预训练，以深层的学习高光谱整合数据特征并提取特征；

步骤五：在步骤四预训练的基础上，使用训练样本对多层限制玻尔兹曼机构成的网络进行有监督学习，以微调多层限制玻尔兹曼机构成的网络；

步骤六：将测试样本输入微调后的多层限制玻尔兹曼机构成的网络，实现高光谱遥感数据的分类。

高光谱原始数据的光谱特征向量的获得方法为：

首先计算出高光谱原始数据的协方差矩阵，根据协方差矩阵采用主成分分析法计算获得所有高光谱原始数据的特征值和特征向量，并按照特征值从大到小的顺序，排列相应的特征向量；使用特征向量作为加权系数计算获得所有特征向量的B个波段主成分分量，将所有包含B个波段主成分分量的特征向量作为高光谱原始数据的光谱特征向量；B为正整数；

高光谱原始数据的空间特征信息的获得方法为：

选取高光谱原始数据的光谱特征向量的B个波段主成分分量中排列在前的N个主成分分量，将N个主成分分量中每一个主成分分量作为一幅二维灰度图像；对每幅二维灰度图像进行如下处理：

选定二维灰度图像中任意一个像素点，该像素点的位置坐标为(x_i，y_i)，以该像素点为中心确定一个w×w的邻域，w为大于1的奇数，将领域内w²个像素点的灰度值作为该二维灰度图像中选定像素点在主成分分量P_n下的特征向量，其中n＝1，2，…，N；由此，获得N个主成分分量在同一坐标位置的像素点的长度为N×w²的特征向量，将所述长度为N×w²的特征向量作为像素点(x_i，y_i)的空间特征信息。

获得高光谱整合数据的具体方法为：将高光谱原始数据中像素点(x_i，y_i)的光谱信息视为长度为B的光谱特征向量，将高光谱原始数据中所有在同一坐标位置的像素点(x_i，y_i)、长度为B的光谱特征向量和长度为N×w²的空间特征信息，整合为长度为(B+N×w²)的向量，作为高光谱整合数据。

步骤三中由高光谱整合数据确定标记样本，并由标记样本中选择训练样本和测试样本的方法为：

首先读取高光谱整合数据，该高光谱整合数据以三维矩阵的形式存储，它由二维的空间特征信息和一维的光谱特征向量组成；与高光谱整合数据各像素点空间位置对应的真实地物标记图为二维矩阵，该二维矩阵作为监督数据，监督数据以整数值的形式标记真实地物标记图中相应像素点的地物类别，使具有同一地物类别的像素点具有相同的标记整数值，所有标记整数值形成标记样本；

读入高光谱整合数据以及监督数据，确定真实地物标记图中地物类别数目C以及有效的特征数目(B+N×w²)；

在监督数据中，查找所有标记样本的空间位置坐标，按照空间位置坐标在高光谱整合数据中从上向下，并且从左向右的顺序，抽取高光谱整合数据中每一个数据的特征向量，将所有抽取的特征向量排列成行向量，形成二维矩阵，该二维矩阵的行数是高光谱整合数据中标记样本的个数，列数是每个像素的有效的特征数目(B+N×w²)，将该二维矩阵中的奇数行作为训练样本的特征向量，偶数行作为测试样本的特征向量；

对标记样本的地物类别标号，在监督数据中从上向下，并且从左向右抽取数值，排列形成列向量，该列向量中元素的个数为标记样本的个数，每一个元素的数值为一个标记样本的地物类别标号，第奇数个元素作为训练样本的地物类别标号；第偶数个元素作为测试样本的地物类别标号。

步骤四中使用训练样本对构成深层网络的多层限制玻尔兹曼机进行预训练的具体方法为：

将步骤三中获得的由训练样本的特征向量构成的二维矩阵作为m层限制玻尔兹曼机构成的深信度网络的输入，其中m为大于2的整数，通过非监督的学习来训练深信度网络；对于每一层的限制玻尔兹曼机，可视层作为其输入，隐层作为其输出；每层限制玻尔兹曼机采用相同的隐层节点数目，其隐层节点数目为h；顶层限制玻尔兹曼机可视节点的数目为特征向量的特征数目(B+N×w²)；其余层的限制玻尔兹曼机的输入为上一层的输出，可视节点的数目为h；

预训练过程中，通过不断的迭代调整可视层与隐层之间的连接权重。

步骤五中使用训练样本对多层限制玻尔兹曼机构成的网络进行有监督学习的具体方法为：

使用逻辑回归分类器作为分类器，将深信度网络最底层限制玻尔兹曼机包含有h个节点的输出作为逻辑回归分类器的输入，逻辑回归分类器的输出节点数目为真实地物标记图中地物类别数据C，所述输出节点除了对应的类别位置为1，其他节点均为0；将监督数据中所有抽取的特征向量形成的二维矩阵作为深信度网络的输入，训练样本的地物类别标号作为深信度网络的输出，对整个深信度网络的权重进行微调。

步骤六中将测试样本输入微调后的多层限制玻尔兹曼机构成的网络，实现高光谱遥感数据的分类的具体方法为：

将测试样本特征向量构成的二维矩阵作为深信度网络的输入，对测试样本进行分类，深信度网络的输出为对应测试样本的地物类别标号，从而完成了高光谱遥感数据的分类。

本发明的优点：本发明方法通过对高光谱数据进行光谱维和空间维的信息整合，利用深度学习的方法对整合的信息进行深层的特征学习与提取，再通过有监督的微调，结束整个深层网络的训练过程，最后将待分类的高光谱数据输入网络完成数据分类。它针对高光谱数据的高维度、非线性和空谱信息合二为一的数据特性，采用基于深度学习的分类方法，更加有效的提取了高光谱数据的特征，从而能够减少由于数据的非线性特性对数据分类精度造成的影响，它能够获得精确的数据分类结果，以应用于后续的图像处理。

本发明解决了高光谱数据高维度、非线性的数据特性对分类精度的限制，充分利用了高光谱数据的光谱维和空间维的信息，使用深度学习的方法进行深层的特征学习，形成深层的神经网络结构，进而实现了精确的数据分类。

附图说明

图1是本发明所述基于深度学习的高光谱遥感数据分类方法的流程图。

具体实施方式

具体实施方式一：下面结合图1说明本实施方式，本实施方式所述基于深度学习的高光谱遥感数据分类方法，它包括以下步骤：

步骤一：读取高光谱原始数据，采用主成分分析法获得高光谱原始数据的特征值和特征向量，进而获得高光谱原始数据的光谱特征向量；再对高光谱原始数据的光谱特征向量进行邻域信息提取，获得高光谱原始数据的空间特征信息；

步骤二：对高光谱原始数据的光谱特征向量和空间特征信息进行整合，获得高光谱整合数据；

步骤三：由高光谱整合数据确定标记样本，并由标记样本中选择训练样本和测试样本；

步骤四：基于深度学习方法，使用训练样本对构成深层网络的多层限制玻尔兹曼机进行预训练，以深层的学习高光谱整合数据特征并提取特征；

步骤五：在步骤四预训练的基础上，使用训练样本对多层限制玻尔兹曼机构成的网络进行有监督学习，以微调多层限制玻尔兹曼机构成的网络；

步骤六：将测试样本输入微调后的多层限制玻尔兹曼机构成的网络，实现高光谱遥感数据的分类。

具体实施方式二：本实施方式对实施方式一作进一步说明，高光谱原始数据的光谱特征向量的获得方法为：

首先计算出高光谱原始数据的协方差矩阵，根据协方差矩阵采用主成分分析法计算获得所有高光谱原始数据的特征值和特征向量，并按照特征值从大到小的顺序，排列相应的特征向量；使用特征向量作为加权系数计算获得所有特征向量的B个波段主成分分量，将所有包含B个波段主成分分量的特征向量作为高光谱原始数据的光谱特征向量；B为正整数；

高光谱原始数据的空间特征信息的获得方法为：

选取高光谱原始数据的光谱特征向量的B个波段主成分分量中排列在前的N个主成分分量，将N个主成分分量中每一个主成分分量作为一幅二维灰度图像；对每幅二维灰度图像进行如下处理：

选定二维灰度图像中任意一个像素点，该像素点的位置坐标为(x_i，y_i)，以该像素点为中心确定一个w×w的邻域，w为大于1的奇数，将领域内w²个像素点的灰度值作为该二维灰度图像中选定像素点在主成分分量P_n下的特征向量，其中n＝1，2，…，N；由此，获得N个主成分分量在同一坐标位置的像素点的长度为N×w²的特征向量，将所述长度为N×w²的特征向量作为像素点(x_i，y_i)的空间特征信息。

本实施方式中，在高光谱数据的光谱维上使用主成分分析法，其原理是通过较少的分量来反映原始数据中的大部分特性，将原始数据中相关性较高的分量转换为彼此间不相关的新分量，新分量称之为主成分。排列越前的主成分分量包含越多的信息。选取其中排列在前的N个主成分分量，后续在它们的基础上提取邻域信息。实验表明，N取3-5时，效果较好。

对于N个主成分同一坐标位置的像素点将会有长度为N×w²的特征向量，形成了像素点(x_i，y_i)的空间信息。

具体实施方式三：本实施方式对实施方式二作进一步说明，获得高光谱整合数据的具体方法为：将高光谱原始数据中像素点(x_i，y_i)的光谱信息视为长度为B的光谱特征向量，将高光谱原始数据中所有在同一坐标位置的像素点(x_i，y_i)、长度为B的光谱特征向量和长度为N×w²的空间特征信息，整合为长度为(B+N×w²)的向量，作为高光谱整合数据。

本实施方式中，经过信息整合后的高光谱数据，每一个像素点将有包含光谱信息和空间信息的长度为(B+N×w²)的特征向量。

具体实施方式四：本实施方式对实施方式三作进一步说明，步骤三中由高光谱整合数据确定标记样本，并由标记样本中选择训练样本和测试样本的方法为：

首先读取高光谱整合数据，该高光谱整合数据以三维矩阵的形式存储，它由二维的空间特征信息和一维的光谱特征向量组成；与高光谱整合数据各像素点空间位置对应的真实地物标记图为二维矩阵，该二维矩阵作为监督数据，监督数据以整数值的形式标记真实地物标记图中相应像素点的地物类别，使具有同一地物类别的像素点具有相同的标记整数值，所有标记整数值形成标记样本；

读入高光谱整合数据以及监督数据，确定真实地物标记图中地物类别数目C以及有效的特征数目(B+N×w²)；

在监督数据中，查找所有标记样本的空间位置坐标，按照空间位置坐标在高光谱整合数据中从上向下，并且从左向右的顺序，抽取高光谱整合数据中每一个数据的特征向量，将所有抽取的特征向量排列成行向量，形成二维矩阵，该二维矩阵的行数是高光谱整合数据中标记样本的个数，列数是每个像素的有效的特征数目(B+N×w²)，将该二维矩阵中的奇数行作为训练样本的特征向量，偶数行作为测试样本的特征向量；

对标记样本的地物类别标号，在监督数据中从上向下，并且从左向右抽取数值，排列形成列向量，该列向量中元素的个数为标记样本的个数，每一个元素的数值为一个标记样本的地物类别标号，第奇数个元素作为训练样本的地物类别标号；第偶数个元素作为测试样本的地物类别标号。

本实施方式中首先对信息整合后高光谱数据进行相应的处理，为后续的分类算法准备数据。主要包括读取信息整合后高光谱数据、确定标记样本并选择训练样本和测试样本。根据监督数据得到的标记样本，用来训练和测试分类方法。其训练样本与测试样本数目之比为1∶1。标记样本的特征向量与类别标号具有一一对应的关系。

具体实施方式五：本实施方式对实施方式四作进一步说明，步骤四中使用训练样本对构成深层网络的多层限制玻尔兹曼机进行预训练的具体方法为：

将步骤三中获得的由训练样本的特征向量构成的二维矩阵作为m层限制玻尔兹曼机构成的深信度网络的输入，其中m为大于2的整数，通过非监督的学习来训练深信度网络；对于每一层的限制玻尔兹曼机，可视层作为其输入，隐层作为其输出；每层限制玻尔兹曼机采用相同的隐层节点数目，其隐层节点数目为h；顶层限制玻尔兹曼机可视节点的数目为特征向量的特征数目(B+N×w²)；其余层的限制玻尔兹曼机的输入为上一层的输出，可视节点的数目为h；

预训练过程中，通过不断的迭代调整可视层与隐层之间的连接权重。

所述可视层包含可视节点，隐层包含隐层节点。

具体实施方式六：本实施方式对实施方式五作进一步说明，步骤五中使用训练样本对多层限制玻尔兹曼机构成的网络进行有监督学习的具体方法为：

使用逻辑回归分类器作为分类器，将深信度网络最底层限制玻尔兹曼机包含有h个节点的输出作为逻辑回归分类器的输入，逻辑回归分类器的输出节点数目为真实地物标记图中地物类别数据C，所述输出节点除了对应的类别位置为1，其他节点均为0；将监督数据中所有抽取的特征向量形成的二维矩阵作为深信度网络的输入，训练样本的地物类别标号作为深信度网络的输出，对整个深信度网络的权重进行微调。

本实施方式中，使用深度学习的方法对高光谱数据进行深层的特征学习与提取以及网络的有监督微调，包括两部分：使用训练样本对构成深层网络的各层限制玻尔兹曼机RBM进行预训练，深层的学习数据特征并提取特征；在预训练的基础上，使用训练样本对多层RBM构成的网络进行有监督学习，微调网络。

在预训练的过程中，通过不断的迭代来调整可视层与隐层之间的连接权重，使得整个网络能够较为准确的学习并提取出数据的本质特征。实验结果表明，对于高光谱数据而言，RBM层数m选择3-5，隐层节点数目h选择40-70，预训练的迭代次数为1000次，分类效果较好。

在m层RBM构成的深信度网络之后，使用逻辑回归分类器作为后续的分类器。对整个深信度网络的权重进行微调是为保证较高的分类精度。实验结果表明，微调的迭代次数为5000次，分类效果较好。

具体实施方式七：本实施方式对实施方式六作进一步说明，步骤六中将测试样本输入微调后的多层限制玻尔兹曼机构成的网络，实现高光谱遥感数据的分类的具体方法为：

将测试样本特征向量构成的二维矩阵作为深信度网络的输入，对测试样本进行分类，深信度网络的输出为对应测试样本的地物类别标号，从而完成了高光谱遥感数据的分类。

本实施方式中使用训练好的网络对测试样本分类。通过网络输出的类别与测试样本本身的类别标号对比，可以计算出整个分类系统的分类精度的定量衡量。

Claims (7)

1.一种基于深度学习的高光谱遥感数据分类方法，其特征在于，它包括以下步骤：

步骤一：读取高光谱原始数据，采用主成分分析法获得高光谱原始数据的特征值和特征向量，进而获得高光谱原始数据的光谱特征向量；再对高光谱原始数据的光谱特征向量进行邻域信息提取，获得高光谱原始数据的空间特征信息；

步骤二：对高光谱原始数据的光谱特征向量和空间特征信息进行整合，获得高光谱整合数据；

步骤三：由高光谱整合数据确定标记样本，并由标记样本中选择训练样本和测试样本；

步骤四：基于深度学习方法，使用训练样本对构成深层网络的多层限制玻尔兹曼机进行预训练，以深层的学习高光谱整合数据特征并提取特征；

步骤五：在步骤四预训练的基础上，使用训练样本对多层限制玻尔兹曼机构成的网络进行有监督学习，以微调多层限制玻尔兹曼机构成的网络；

步骤六：将测试样本输入微调后的多层限制玻尔兹曼机构成的网络，实现高光谱遥感数据的分类。

2.根据权利要求1所述的基于深度学习的高光谱遥感数据分类方法，其特征在于，高光谱原始数据的光谱特征向量的获得方法为：

首先计算出高光谱原始数据的协方差矩阵，根据协方差矩阵采用主成分分析法计算获得所有高光谱原始数据的特征值和特征向量，并按照特征值从大到小的顺序，排列相应的特征向量；使用特征向量作为加权系数计算获得所有特征向量的B个波段主成分分量，将所有包含B个波段主成分分量的特征向量作为高光谱原始数据的光谱特征向量；B为正整数；

高光谱原始数据的空间特征信息的获得方法为：

选取高光谱原始数据的光谱特征向量的B个波段主成分分量中排列在前的N个主成分分量，将N个主成分分量中每一个主成分分量作为一幅二维灰度图像；对每幅二维灰度图像进行如下处理：

选定二维灰度图像中任意一个像素点，该像素点的位置坐标为(x_i，y_i)，以该像素点为中心确定一个w×w的邻域，w为大于1的奇数，将领域内w²个像素点的灰度值作为该二维灰度图像中选定像素点在主成分分量P_n下的特征向量，其中n＝1，2，…，N；由此，获得N个主成分分量在同一坐标位置的像素点的长度为N×w²的特征向量，将所述长度为N×w²的特征向量作为像素点(x_i，y_i)的空间特征信息。

3.根据权利要求2所述的基于深度学习的高光谱遥感数据分类方法，其特征在于，获得高光谱整合数据的具体方法为：将高光谱原始数据中像素点(x_i，y_i)的光谱信息视为长度为B的光谱特征向量，将高光谱原始数据中所有在同一坐标位置的像素点(x_i，y_i)、长度为B的光谱特征向量和长度为N×w²的空间特征信息，整合为长度为(B+N×w²)的向量，作为高光谱整合数据。

4.根据权利要求3所述的基于深度学习的高光谱遥感数据分类方法，其特征在于，步骤三中由高光谱整合数据确定标记样本，并由标记样本中选择训练样本和测试样本的方法为：

首先读取高光谱整合数据，该高光谱整合数据以三维矩阵的形式存储，它由二维的空间特征信息和一维的光谱特征向量组成；与高光谱整合数据各像素点空间位置对应的真实地物标记图为二维矩阵，该二维矩阵作为监督数据，监督数据以整数值的形式标记真实地物标记图中相应像素点的地物类别，使具有同一地物类别的像素点具有相同的标记整数值，所有标记整数值形成标记样本；

读入高光谱整合数据以及监督数据，确定真实地物标记图中地物类别数目C以及有效的特征数目(B+N×w²)；

在监督数据中，查找所有标记样本的空间位置坐标，按照空间位置坐标在高光谱整合数据中从上向下，并且从左向右的顺序，抽取高光谱整合数据中每一个数据的特征向量，将所有抽取的特征向量排列成行向量，形成二维矩阵，该二维矩阵的行数是高光谱整合数据中标记样本的个数，列数是每个像素的有效的特征数目(B+N×w²)，将该二维矩阵中的奇数行作为训练样本的特征向量，偶数行作为测试样本的特征向量；

对标记样本的地物类别标号，在监督数据中从上向下，并且从左向右抽取数值，排列形成列向量，该列向量中元素的个数为标记样本的个数，每一个元素的数值为一个标记样本的地物类别标号，第奇数个元素作为训练样本的地物类别标号；第偶数个元素作为测试样本的地物类别标号。

5.根据权利要求4所述的基于深度学习的高光谱遥感数据分类方法，其特征在于，步骤四中使用训练样本对构成深层网络的多层限制玻尔兹曼机进行预训练的具体方法为：

将步骤三中获得的由训练样本的特征向量构成的二维矩阵作为m层限制玻尔兹曼机构成的深信度网络的输入，其中m为大于2的整数，通过非监督的学习来训练深信度网络；对于每一层的限制玻尔兹曼机，可视层作为其输入，隐层作为其输出；每层限制玻尔兹曼机采用相同的隐层节点数目，其隐层节点数目为h；顶层限制玻尔兹曼机可视节点的数目为特征向量的特征数目(B+N×w²)；其余层的限制玻尔兹曼机的输入为上一层的输出，可视节点的数目为h；

预训练过程中，通过不断的迭代调整可视层与隐层之间的连接权重。

6.根据权利要求5所述的基于深度学习的高光谱遥感数据分类方法，其特征在于，步骤五中使用训练样本对多层限制玻尔兹曼机构成的网络进行有监督学习的具体方法为：

使用逻辑回归分类器作为分类器，将深信度网络最底层限制玻尔兹曼机包含有h个节点的输出作为逻辑回归分类器的输入，逻辑回归分类器的输出节点数目为真实地物标记图中地物类别数据C，所述输出节点除了对应的类别位置为1，其他节点均为0；将监督数据中所有抽取的特征向量形成的二维矩阵作为深信度网络的输入，训练样本的地物类别标号作为深信度网络的输出，对整个深信度网络的权重进行微调。

7.根据权利要求6所述的基于深度学习的高光谱遥感数据分类方法，其特征在于，步骤六中将测试样本输入微调后的多层限制玻尔兹曼机构成的网络，实现高光谱遥感数据的分类的具体方法为：

将测试样本特征向量构成的二维矩阵作为深信度网络的输入，对测试样本进行分类，深信度网络的输出为对应测试样本的地物类别标号，从而完成了高光谱遥感数据的分类。