CN102915445B - 一种改进型的神经网络高光谱遥感影像分类方法 - Google Patents

Abstract

本发明公开了一种改进型的神经网络的高光谱遥感影像分类方法。传统的模式识别方法无法满足对数据维数高、数据量大的高光谱数据进行高效率高精度的分类。本发明首先针对高光谱数据以数据量大、波段间相关性强、冗余信息多等特点，对高维遥感数据进行主成分分析，在提取有效光谱数据的同时，大大降低了数据的维数。然后使用多层前馈神经网络对数据进行分类，在此引入遗传算法是为了优化网络的权值和阈值，以便更好的防止网络搜索陷入局部极小问题，不但提高了神经网络的预测精度，同时也大大节省了分类时间。本发明增强了分类器收敛速度，提高了高光谱图像的分类性能。

Description

一种改进型的神经网络高光谱遥感影像分类方法

技术领域

本发明属于高光谱数据处理方法与应用技术领域，涉及一种改进型的神经网络高光谱遥感影像分类方法，适用于高光谱数据监督分类的理论方法和应用技术研究。

背景技术

高光谱成像技术是近二十年来发展起来的基于多窄波段的影像技术，其中最突出的应用是遥感探测领域。高光谱遥感图像波段数目多达上百个，光谱分辨率高达几个纳米，具有较高的光谱分辨率，为研究员提供了丰富的地物信息。根据高光谱遥感数据进行地物分类，在资源调查、气候和环境评估、自然灾害监测和生态农业等方面具有重要意义。

由于高光谱数据具有数据量大、维数高、含混度高等特点，使用传统的分类算法对其进行分类时不仅耗时而且性能也不够理想。为此提出的技术改进主要包括两个方面，一是特征提取，从高维遥感数据中提取出重要的信息，去掉冗余信息，目前最常用的有独立主成分分析、主成分分析（PCA）和分等级的主成分分析，而采用主成分分析法。二是寻找或改进更有效的分类算法，目前常用的分类算法包括最小距离法、bayes分类、支持向量机等。

在分类算法方面，考虑到一般传统的分类算法都假设获得的数据服从高斯分布，而高光谱数据不完全服从高斯分布。因此采用多层反馈BP神经网络分类器，它不需要对数据的分布做任何假设，能更好地进行分类决策。但BP神经网络存在一个很严重的缺陷，网络在调节权值和阈值时，极易陷入局部极小值，无法寻得最优解，这将导致分类精确度和性能的下降。为此还引入遗传算法（GA）对网络的权值和阈值进行调节，以获得更优的解，使分类精度达到预测的效果。

发明内容

本发明的目的在于针对传统的高光谱分类方法的不足，为高光谱遥感影像分类的研究提供一种改进型的神经网络高光谱遥感影像分类方法。

本发明方法包括以下步骤：

1)高光谱数据的预处理；

将光谱影像各个波段以灰度图实现显示，对各个波段的光谱影像进行目视检查，确定由于大气吸收、折射和散射因素的作用对光谱数据产生较大影响的异常波段和由于其他因素对光谱数据产生较大噪声的异常波段，对异常波段做直接剔除处理。

2)PAC主成分分析；

PCA主成分分析，其步骤如下：

第一步，设原始空间数据B的维数是                                                ，其中是数据所包含的波段维数，、是高光谱数据的空间维数；在进行PCA变换之前，事先将原始空间数据B转化为形式为的观测样本数据集，其中是一维像元总个数。

第二步，计算观测样本数据集各波段的均值和协方差矩阵：，。

第三步，通过求解特征方程来获得协方差矩阵的特征值和特征向量:,其中是单位矩阵。

第四步：对特征值进行降序排列，即，其相对应的特征向量为；可以得到PCA变换矩阵：,为向量矩阵，并变换矩阵满条件：；最终的PCA变换可以表示成:，其中为观测样本数据集，是变换后的数据，，，…，，并且的第一个分量的方差是最大的，第二个分量的方差次之，排在前面的几个主要成分包含了数据的大部分信息。

3)训练样本准备；

依据先验知识，在每个地物类别区域内，随机的选取一定比例的训练样本；每个二分类问题，可组成训练样本集，，，其中为维输入向量，也即维训练样本，为第个样本的样本标签，1表示目标数据，0表示背景数据，为选取的训练样本总数。

4）神经网络的分类器设计；

采用基于BP算法的多层前馈神经网络对遥感数据进行分类；它是利用误差反传算法作为其学习规则进行有监督学习的前馈网络；把待分类的地物对象的条件集合或特征组合作为BP网络的输入模式，并给出期望输出模式；采用BP算法的多层感知器由三层组成：输入层、隐含层、输出层。

第一步：数据选择和归一化；

首先，将输入、输出数据归一化；使用[pn,minp,maxp,tn,mint,

maxt] = premnmx(p,t)函数作归一化处理，其中p，t分别为原始输入和输出数据，minp和maxp分别为p中的最小值和最大值；mint和maxt分别为t的最小值和最大值，pn和tn分别表示归一化之后的输入、输出数据；premnmx函数用于将网络的输入数据或输出数据进行归一化，归一化后的数据将分布在[-1,1]区间内；数据归一化后，有量纲的表达式化为无量纲的表达式成为纯量。

第二步：建立神经网络和训练网络；

其次，调用神经网络工具箱newff函数新建网络，其表达式为：net=newff(minmax(pn),[hidden_neuron,2],{'logsig','logsig','logsig'},'traingdx')，其中minmax(pn)是矩阵Rx2的最小和最大输入向量；hidden_neuron是神经网络的隐含层层数，2表示网络的输出只有两个输出0和1，logsig表示传递函数：，traingdx表示学习率可变的动量BP算法；设置好相应参数后，调用函数net=train(net,pn,t)开始训练网络，使之达到要求。

第三步：预测结果；

网络训练好之后，对数据进行分类与预测，调用函数Result_Data=sim(net,p2n)，最后输出结果；其中，函数sim表示预测函数，net为训练好的网络，p2n为归一化后的待分数据。

5）遗传算法优化神经网络权值和阈值。

第一步、种群初始化；

按神经网络生成初始权重办法，来生成网络的权重，其任一组完整的神经网络权重为：，相当于一个染色体，这样的染色体共有个，即种群规模；而权重采用浮点编码，以后的遗传算子都是浮点编码的形式；其中的输入层权值、隐藏层权值、输出层权值，以及相应各层节点阈值构成了一组完整的网络权值，该组网络权重可作为一条染色体。

第二步、适应度函数；

BP网络的一个重要性能指标就是网络的实际输出与期望输出之间的误差平方和，而越小，则表示网络的性能越好：，式中，表示第个学习样本第个输出节点的期望输出；表示第个学习样本第个输出节点的实际输出；在遗传算法中，通过适应度函数的大小来体现个体的优劣性，因此，定义评价神经网络优劣的适应度函数为：，其中C是一常数；由于神经网络的权值和阈值决定了神经网络的实际输出，因此，误差平方和是网络权值和阈值的函数；适应度函数是网络权值和阈值的函数；如此一来，遗传算法优化的目标就是找到某一权矩阵和阈值矩阵，使得。

第三步、遗传操作；

假设群体大小为，某个个体为，其适应度为，则其被选取的概率为：。

第四步，交叉运算；

随机选取两个个体作为交叉的父代，进过线性组合长生出两个新的子代：，，其中为区间（0，1）之间随机长生的操作数，重复操作直到产生个个体。

最后重复计算适应度、选择、遗传操作和交叉运算，使权值和阈值不断修正，直到神经网络达到迭代次数上限或者误差达到要求。

本发明针对高光谱遥感的数据特点，首先对实验数据进行PCA特征提取，采用了神经网络的分类方法。同时应用遗传算法优化了神经网络的权值和阈值，取得了优于直接采用神经网络的高光谱分类结果。此法能有效解决了，高光谱分类中常见的休斯（Hughes）效应，实现了对高维数据的处理，达到了理想的分类精度。

附图说明

图1为本发明方法流程图；

图2为神经网络的结构图；

图3为第十波段的图

图4遗传算法的流程图。

具体实施方式

以下结合附图对本发明作进一步说明。

如图1所示，本发明具体步骤是：

1)高光谱数据的预处理；

将光谱影像各个波段以灰度图实现显示，对各个波段的光谱影像进行目视检查，确定由于大气吸收、折射和散射因素的作用对光谱数据产生较大影响的异常波段和由于其他因素对光谱数据产生较大噪声的异常波段，对异常波段做直接剔除处理。

2)PAC主成分分析；

PCA主成分分析，其步骤如下：

第一步，设原始空间数据B的维数是，其中是数据所包含的波段维数，、是高光谱数据的空间维数；在进行PCA变换之前，事先将原始空间数据B转化为形式为的观测样本数据集，其中是一维像元总个数。

第二步，计算观测样本数据集各波段的均值和协方差矩阵：，。

第三步，通过求解特征方程来获得协方差矩阵的特征值和特征向量:,其中是单位矩阵。

第四步：对特征值进行降序排列，即，其相对应的特征向量为；可以得到PCA变换矩阵：,为向量矩阵，并变换矩阵满条件：；最终的PCA变换可以表示成:，其中为观测样本数据集，是变换后的数据，，，…，，并且的第一个分量的方差是最大的，第二个分量的方差次之，排在前面的几个主要成分包含了数据的大部分信息。

3)训练样本准备；

依据先验知识，在每个地物类别区域内，随机的选取一定比例的训练样本；每个二分类问题，可组成训练样本集，，，其中为维输入向量，也即维训练样本，为第个样本的样本标签，1表示目标数据，0表示背景数据，为选取的训练样本总数。

4）神经网络的分类器设计；

采用基于BP算法的多层前馈神经网络对遥感数据进行分类；它是利用误差反传算法作为其学习规则进行有监督学习的前馈网络；把待分类的地物对象的条件集合或特征组合作为BP网络的输入模式，并给出期望输出模式；采用BP算法的多层感知器由三层组成：输入层、隐含层、输出层，参见图2。

第一步：数据选择和归一化；

首先，将输入、输出数据归一化；使用[pn,minp,maxp,tn,mint,

maxt] = premnmx(p,t)函数作归一化处理，其中p，t分别为原始输入和输出数据，minp和maxp分别为p中的最小值和最大值；mint和maxt分别为t的最小值和最大值，pn和tn分别表示归一化之后的输入、输出数据；premnmx函数用于将网络的输入数据或输出数据进行归一化，归一化后的数据将分布在[-1,1]区间内；数据归一化后，有量纲的表达式化为无量纲的表达式成为纯量。

第二步：建立神经网络和训练网络；

其次，调用神经网络工具箱newff函数新建网络，其表达式为：net=newff(minmax(pn),[hidden_neuron,2],{'logsig','logsig','logsig'},'traingdx')，其中minmax(pn)是矩阵Rx2的最小和最大输入向量；hidden_neuron是神经网络的隐含层层数，2表示网络的输出只有两个输出0和1，logsig表示传递函数：，traingdx表示学习率可变的动量BP算法；设置好相应参数后，调用函数net=train(net,pn,t)开始训练网络，使之达到要求。

第三步：预测结果；

网络训练好之后，对数据进行分类与预测，调用函数Result_Data=sim(net,p2n)，最后输出结果；其中，函数sim表示预测函数，net为训练好的网络，p2n为归一化后的待分数据。

5）遗传算法优化神经网络权值和阈值，参见图4。

第一步、种群初始化；

按神经网络生成初始权重办法，来生成网络的权重，其任一组完整的神经网络权重为：，相当于一个染色体，这样的染色体共有个，即种群规模；而权重采用浮点编码，以后的遗传算子都是浮点编码的形式；其中的输入层权值、隐藏层权值、输出层权值，以及相应各层节点阈值构成了一组完整的网络权值，该组网络权重可作为一条染色体。

第二步、适应度函数；

BP网络的一个重要性能指标就是网络的实际输出与期望输出之间的误差平方和，而越小，则表示网络的性能越好：，式中，表示第个学习样本第个输出节点的期望输出；表示第个学习样本第个输出节点的实际输出；在遗传算法中，通过适应度函数的大小来体现个体的优劣性，因此，定义评价神经网络优劣的适应度函数为：，其中C是一常数；由于神经网络的权值和阈值决定了神经网络的实际输出，因此，误差平方和是网络权值和阈值的函数；适应度函数是网络权值和阈值的函数；如此一来，遗传算法优化的目标就是找到某一权矩阵和阈值矩阵，使得。

第三步、遗传操作；

假设群体大小为，某个个体为，其适应度为，则其被选取的概率为：。

第四步，交叉运算；

随机选取两个个体作为交叉的父代，进过线性组合长生出两个新的子代：，，其中为区间（0，1）之间随机长生的操作数，重复操作直到产生个个体。

最后重复计算适应度、选择、遗传操作和交叉运算，使权值和阈值不断修正，直到神经网络达到迭代次数上限或者误差达到要求。

以下为本发明的一个实施例。

使用的高光谱数据为1992年6月获取的航空AVIRIS影像，实验区位于美国印第安纳州，包含农作物和森林植被混合区域。图像大小为145×145像素，光谱范围从0.4-2.4um，共220波段，16个地物类别。图3 为高光谱第十波段灰度图。

首先，去掉水汽吸收影响下的18个波段，剩下202个波段，考虑到部分类别样本数很少，实验选取了样本数较多的12类地物进行分类 。

其次进行主成分分析，变化后的数据202个波段按能量从大到小排列,波段间无相关性。我们选取维数缩减、信息量集中的前30波段的变换影像作为实验数据。

最后BP神经网络分类器的参数设定，采用学习率可变的动量BP算法，网络学习速率为0.01，训练迭代次数为20000次，训练目标误差为0.00001。

以AVIRIS数据为例，本发明方法和直接采用原始数据的分类结果统计表如下表所示

Claims (1)

1.一种改进型的神经网络高光谱遥感影像分类方法，其特征在于该方法包括以下步骤：

1)高光谱数据的预处理；

将光谱影像各个波段以灰度图实现显示，对各个波段的光谱影像进行目视检查，确定由于大气吸收、折射和散射因素的作用对光谱数据产生较大影响的异常波段和由于其他因素对光谱数据产生较大噪声的异常波段，对异常波段做直接剔除处理；

2)PCA主成分分析；

PCA主成分分析，其步骤如下：

第一步，设原始空间数据B的维数是n×d₁×d₂，其中n是数据所包含的波段维数，d₁、d₂是高光谱数据的空间维数；在进行PCA变换之前，事先将原始空间数据B转化为形式为n×m的观测样本数据集X＝[x₁,x₂,x₃,...,x_n]，其中m＝d₁×d₂是一维像元总个数；

第二步，计算观测样本数据集X各波段的均值μ和协方差矩阵Σ：

$\mathrm{\μ}=\frac{1}{n}\underset{i=1}{\overset{n}{\mathrm{\Σ}}}{x}_i,\mathrm{\Σ}=\frac{1}{n}\underset{i=1}{\overset{n}{\mathrm{\Σ}}}(x_i-\mathrm{\μ}){(x_i-\mathrm{\μ})}^T;$

第三步，通过求解特征方程来获得协方差矩阵Σ的特征值λ和特征向量U:(λΙ-Σ)＝0,其中I是单位矩阵；

第四步：对特征值进行降序排列，即λ₁≥λ₂…≥λ_m，其相对应的特征向量为U₁,U₂,...,U_n；得到PCA变换矩阵：W＝[U₁,U₂,...,U_n],W为向量矩阵，并变换矩阵满条件：W^TW＝WW^T＝I；最终的PCA变换表示成:Y＝[Y₁,Y₂,....,Y_n]＝W^TX，其中X为观测样本数据集，Y是变换后的数据， 并且Y的第一个分量的方差是最大的，第二个分量的方差次之，排在前面的几个主要成分包含了数据的大部分信息；

3)训练样本准备；

依据先验知识，在每个地物类别区域内，随机的选取一定比例的训练样本；每个二分类问题，组成训练样本集T＝{(a₁,y₁),(a₂,y₂),...,(a_l,y_l)}，a_i∈X＝Rⁿ，y_i∈Y＝{1,0}，其中a_i为n维输入向量，也即n维训练样本，y_i为第i个样本的样本标签，1表示目标数据，0表示背景数据，l为选取的训练样本总数；

4)神经网络的分类器设计；

采用基于BP算法的多层前馈神经网络对遥感数据进行分类；它是利用误差反传算法作为其学习规则进行有监督学习的前馈网络；把待分类的地物对象的条件集合或特征组合作为BP网络的输入模式，并给出期望输出模式；采用BP算法的多层感知器由三层组成：输入层、隐含层、输出层；

第一步：数据选择和归一化；

首先，将输入、输出数据归一化；使用[pn,minp,maxp,tn,mint,maxt]＝premnmx(p,t)函数作归一化处理，其中p，t分别为原始输入和输出数据，minp和maxp分别为p中的最小值和最大值；mint和maxt分别为t的最小值和最大值，pn和tn分别表示归一化之后的输入、输出数据；premnmx函数用于将网络的输入数据或输出数据进行归一化，归一化后的数据将分布在[-1,1]区间内；数据归一化后，有量纲的表达式化为无量纲的表达式成为纯量；

第二步：建立神经网络和训练网络；

其次，调用神经网络工具箱newff函数新建网络，其表达式为：net＝newff(minmax(pn),[hidden_neuron,2],{'logsig','logsig','logsig'},'traingdx')，其中minmax(pn)是矩阵Rx2的最小和最大输入向量；hidden_neuron是神经网络的隐含层层数，2表示网络的输出只有两个输出0和1，logsig表示传递函数：f(x)＝1/(1+e^-x)，traingdx表示学习率可变的动量BP算法；设置好相应参数后，调用函数net＝train(net,pn,t)开始训练网络，使之达到要求；

第三步：预测结果；

网络训练好之后，对数据进行分类与预测，调用函数Result_Data＝sim(net,p2n)，最后输出结果；其中，函数sim表示预测函数，net为训练好的网络，p2n为归一化后的待分数据；

5)遗传算法优化神经网络权值和阈值；

第一步、种群初始化；

按神经网络生成初始权重办法，来生成网络的权重，其任一组完整的神经网络权重为：W_i＝{w_1j,w_2j,w_3j,b_1j,b_2j,b_3j,i＝1,2,...,Z}，W_i相当于一个染色体，这样的染色体共有Z个，即种群规模Z；而权重采用浮点编码，以后的遗传算子都是浮点编码的形式；其中的输入层权值w_1j、隐藏层权值w_2j、输出层权值w_3j，以及相应各层节点阈值b_1j,b_2j,b_3j构成了一组完整的网络权值，该组神经网络权重作为一条染色体；

第二步、适应度函数；

BP网络的一个重要性能指标就是网络的实际输出与期望输出之间的误差平方和E，而E越小，则表示网络的性能越好：式中，t_pl表示第p个学习样本第l个输出节点的期望输出；O_pl表示第p个学习样本第l个输出节点的实际输出；在遗传算法中，通过适应度函数的大小来体现个体的优劣性，因此，定义评价神经网络优劣的适应度函数为：F＝C-E，其中C是一常数；由于神经网络的权值w和阈值b决定了神经网络的实际输出，因此，误差平方和E是网络权值和阈值的函数；适应度函数F＝(w,b)是网络权值和阈值的函数；如此一来，遗传算法优化的目标就是找到某一权矩阵w₀和阈值矩阵b₀，使得F＝f(w₀,b₀)→max(＝c)；

第三步、遗传操作；

假设群体大小为M，某个个体为i，其适应度为f_i，则其被选取的概率为： $p_i=\frac{f_i}{\underset{i=1}{\overset{M}{\mathrm{\Σ}}}{f}_i};$

第四步，交叉运算；

随机选取两个个体q^t,p^t作为交叉的父代，进过线性组合长生出两个新的子代：q^t+1＝aq^t+(1-a)p^t，p^t+1＝ap^t+(1-a)q^t，其中a为区间(0，1)之间随机长生的操作数，重复操作直到产生Z-2个个体；

最后重复计算适应度、选择、遗传操作和交叉运算，使权值和阈值不断修正，直到神经网络达到迭代次数上限或者误差达到要求。