CN109344698A - 基于可分离卷积和硬阈值函数的高光谱波段选择方法 - Google Patents

Abstract

本发明提出了一种基于可分离卷积和硬阈值函数的高光谱波段选择方法，解决了高光谱图像波段选择性能不佳、分类精度差及耗时长的问题。实现步骤为：输入高光谱图像；产生训练与测试样本；构建包含波段选择层、空谱联合信息和分类器的卷积神经网络；通过训练得到优化后的卷积神经网络；利用训练后的基于波段选择的卷积神经网络对高光谱图像进行分类。本发明通过构建基于波段选择的卷积神经网络，在网络结构中搭建基于可分离卷积和硬阈值函数的波段选择层，实现了波段选择及分类一体化，克服了因二者分离导致的分类精度低、速度慢的问题。利用网络特征学习能力，提高了波段选择性能和分类精度。在军事、民用、农业、生态等领域有着广泛的应用。

Description

基于可分离卷积和硬阈值函数的高光谱波段选择方法

技术领域

本发明属于图像处理技术领域，涉及一种高光谱图像分类，具体是一种基于可分离卷积和硬阈值函数的高光谱波段选择方法，用于农业，测绘，考古，环境和灾害监测等领域。

背景技术

随着遥感科学技术和成像技术的发展，高光谱遥感技术的应用领域越来越广泛。高光谱数据可视为三维数据立方体，是在普通二维图像数据之外，又增加了一维的光谱信息。高光谱遥感图像结合了丰富的空间域信息和光谱域信息，具有“图谱合一”的特点，对地物精确识别提供了更高的辨别力。由于高光谱图像独有的特点，使其在军事调查、生态建设、土地利用、全球环境、自然灾害等领域有着广泛的应用。

高光谱分辨率导致了波段数量和数据量的增加，相邻波段具有强相关性，并且在高光谱数据采集过程中，辐射过程会受到诸多外界环境因素的影响引入大量噪声。上述因素使得在处理高光谱数据时，增加了无关数据的处理量，降低数据利用率，不利于光谱信息的高效快速提取和利用，并且噪声或无效波段参与后续的数据处理会对最终的图像处理结果有不良影响。关键地，直接对全部的高光谱数据进行处理，会由于数据量大而产生的维数灾难现象，导致最终的图像处理精度下降，增大处理时间。因此，在保证地物目标信息尽量少丢失的情况下，减少高光谱图像的波段数是极其必要的。

通常来说，波段选择方法是从原始波段中选择出最有信息的波段子集。波段选择根据被用于构建模型的分类器和算法步骤之间的关系，可以分为以下三类：过滤式、封装式和嵌入式。

基于过滤式的方法，其代表的寻找波段子集的方法有基于距离的标准、基于信息的标准和基于主成分的标准。基于过滤式的波段选择过程完全依赖于输入样本的自身特点，而与所使用的分类器无关，上述这些方法目的是选择出最具信息量的波段，在选择波段过程中采用了不同的准则。由于单个高信息量所选出的波段之间会存在大量的冗余，难以提供一些更丰富的分类信息，因此单个富含信息量的波段所组成的组合，不一定有利于地物分类。基于封装式的波段选择过程是不断地采用特定分类器对不同的样本子集进行训练和测试，以标记样本的交叉验证准确度为基础选择波段，由于此该类算法极大依赖子集选择算法，时间复杂度较高。基于嵌入式的方法结合了前两种方法的优点，将波段选择的过程与分类器训练的过程结合在一起，在训练分类器的同时自动进行波段选择，在保证地物分类精度的同时，尽可能的减少了时间复杂度。

综上，已有基于波段选择的高光谱分类中，存在波段选择性能不佳，从而导致分类精度差、时间复杂度高的问题。

发明内容

本发明的目的在于针对上述已有方法的不足，提出一种高分类精度和快速实现分类的基于可分离卷积和硬阈值函数的高光谱波段选择方法。用于解决现有基于波段选择的高光谱图像分类方法中，存在的波段选择性能不佳、分类精度低和速度慢的技术问题。

本发明是一种基于可分离卷积和硬阈值函数的高光谱波段选择方法，其特征在于，包括有如下步骤：

(1)输入高光谱图像；

(2)获取样本集：

(2a)以高光谱图像中的每个像素为中心，划定一个15×15像素大小的空间窗；

(2b)将每个空间窗内所有的像素组成一个数据立方体；

(2c)将所有的数据立方体组成高光谱图像的样本集；

(3)产生训练样本与测试样本：

(3a)在高光谱图像的样本集中，随机选取5％的样本，组成高光谱图像的训练样本；

(3b)将剩余95％的样本组成高光谱图像的测试样本；

(4)构建基于波段选择的卷积神经网络的波段选择层，并进行波段选择：

(4a)构建波段选择层作为基于波段选择的卷积神经网络的第一层，其中，将输入样本的每个原始波段作为输入节点，设计基于1×1卷积核的可分离卷积结构，具体地，对于每个输入节点，用单个1×1卷积核对每个输入节点进行卷积；

(4b)波段选择层利用可分离卷积和硬阈值函数进行波段选择：输入原始波段信息，输出为所选出的波段，将选出的波段作为波段组合输入后续网络，具体地，是利用通过硬阈值函数的权值矩阵与原始波段信息进行可分离卷积，实现波段选择；

(5)构建空谱联合信息提取层进行特征提取，以及构建分类器用于分类：

(5a)构建空谱联合信息提取层作为基于波段选择的卷积神经网络的第二层，具体地，构建三种尺度1×1、3×3和5×5卷积核，并分别对波段选择层的输出结果进行二维卷积；

(5b)将波段选择层输出输入至空谱联合信息提取层，将得到的输出结果级联作为空谱联合特征输入至后续网络，实现空谱联合特征提取；

(5c)构建分类器并连接在空谱联合信息提取层后，作为基于波段选择的卷积神经网络的后续层，具体地，通过卷积层和池化层级联堆叠，最终连接全连接层以及分类层，实现分类器的构建；

(5d)将空谱联合信息提取层的输出结果输入至分类器，输出为样本的预测标签，实现最终分类；

(6)对基于波段选择的卷积神经网络进行训练，得到训练后的卷积神经网络：输入训练样本，将卷积神经网络输出和真实样本标签通过交叉熵公式建立卷积神经网络的损失函数，利用梯度下降法优化分类器和空谱联合信息提取层，并利用直通估算器进一步优化波段选择层，重复执行步骤(6)直至满足迭代次数，得到训练好的卷积神经网络；

(7)利用训练后的基于波段选择的卷积神经网络对高光谱图像进行分类：将高光谱图像的测试样本输入到训练好的网络模型中，输出测试样本的预测标签，获得分类结果。

本发明引入了基于波段选择的卷积神经网络，通过利用可分离卷积和硬阈值函数的高光谱波段选择方法，充分考虑挖掘原始波段物理意义，通过卷积神经网络强大的特征提取能力，改善高光谱分类性能，提高分类精度，加快了波段选择与分类速度。

本发明与现有技术相比，具有如下优点：

1、本发明由于构建一种新颖的基于波段选择的卷积神经网络，通过选择低冗余高分辨率力的波段子集，并利用神经网络强大的特征提取能力，充分考虑挖掘了高光谱数据中空谱联合信息，克服了现有技术中，分类依赖于传统手工提取特征的高效性，噪声以及冗余波段干扰分类性能的问题，增强了分类信息，有效地提高了高光谱图像的分类精度。

2、本发明由于在卷积神经网络中设计波段选择层，在前向传播实现了波段选择以及分类一体化，在反向传播中实现了分类与波段选择共同优化，是一种嵌入式的波段选择算法，克服了现有技术先提取多个候选波段子集，后训练分类器验证，导致时间复杂度高的问题，使得本发明获得了更快的分类速度。

附图说明

图1是本发明的实现流程图；

图2是本发明仿真使用的Indian Pines高光谱图像，其中图2(a)为该图像三维真实图像，图2(b)为该图像伪彩图，图2(c)为该图像分类参考图；

图3是本发明及现有技术对Indian Pines高光谱图像的分类结果图，图3(a)为采用支撑向量机SVM方法分类的结果图。图3(b)为采用内核对齐式多核学习波段选择KA-MKL方法分类的结果图。图3(c)为本发明分类的结果图。

具体实施方式

以下结合附图和具体实施例，对本发明作详细描述。

实施例1

由于高光谱数据是记录连续光谱信息，光谱分辨率高，使其在军事调查、生态建设、土地利用、全球环境、自然灾害等领域有着广泛的应用。然而，高光谱图像光谱由于分辨率较高，因此具有较高的光谱维度和较大的数据量，这样给高光谱图像的处理带来了很多问题，例如增大了信息冗余度以及数据存储空间，并延长了数据处理时间，此外，高光谱图像中包含在辐射过程中，因其他因素干扰产生的噪声或无效波段，关键地，在图像样本数较少，处理数据量大的情况下，易产生“维数灾难”现象。因此，减少高光谱图像的波段数是极其必要的。

已有基于波段选择的高光谱分类方法，由于单个高信息量所选出的波段之间会存在大量的冗余，传统分类器依赖于人工提取特征的高效性，导致分类精度差，而且选取候选子集后验证的算法，时间复杂度较高。因此本发明经过研究提出一种嵌入式的基于波段选择的卷积神经网络，用于选择高辨别力的波段子集，减少分类时间复杂度，提高分类精度。

本发明是一种基于可分离卷积和硬阈值函数的高光谱波段选择方法，参见图1，包括有如下步骤：

(1)输入Indian Pines高光谱图像,图像空间大小为145×145，共包含200个波段和16类地物，图像格式为mat。

(2)获取样本集：

(2a)以高光谱图像中的每个像素为中心，划定一个15×15像素大小的空间窗。取空间窗是为了中心像素点的空间邻域信息，本例中采用尺寸为15×15大小，也可以改用其它尺寸，尺寸改变时且应修改相应的后续分类器卷积核大小。

(2b)将每个空间窗内所有的像素组成一个数据立方体。

(2c)将所有的数据立方体组成高光谱图像的样本集。

(3)产生训练样本与测试样本：

(3a)在高光谱图像的样本集中，随机选取5％的样本，组成高光谱图像的训练样本。该选取比例可以改变，本发明为适应现有的训练样本少的问题，证明算法高效性，选取了较少的训练样本。

(3b)将剩余95％的样本组成高光谱图像的测试样本。

(4)构建基于波段选择的卷积神经网络的波段选择层，并进行波段选择：

(4a)构建波段选择层作为基于波段选择的卷积神经网络的第一层，其中，样本集中的样本作为输入样本，将输入样本的每个原始波段作为输入节点，共计200个节点，设计基于1×1卷积核的可分离卷积结构，具体地，对于每个输入节点，用单个1×1卷积核对每个输入节点进行卷积，由此构成了200个1×1卷积核，该层权值矩阵为1×200的一维向量。

(4b)波段选择层利用可分离卷积和硬阈值函数进行波段选择：输入原始波段信息，输出为所选出的波段，将选出的波段作为波段组合输入后续网络，具体地，是利用通过硬阈值函数的权值矩阵与原始波段信息进行可分离卷积，实现波段选择。其中，波段选择层输入尺寸和输出尺寸相同，都是15×15×200。

(5)构建空谱联合信息提取层进行特征提取，以及构建分类器用于分类：

(5a)构建空谱联合信息提取层作为基于波段选择的卷积神经网络的第二层，具体地，构建三种尺度1×1、3×3和5×5卷积核，每种尺度的卷积核有32个，并分别对波段选择层的输出结果进行二维卷积，每个卷积核输入尺寸为15×15×200，输出尺寸为15×15×1。

(5b)将波段选择层输出输入至空谱联合信息提取层，将得到的输出结果级联作为空谱联合特征输入至后续网络，实现空谱联合特征提取。

(5c)构建分类器并连接在空谱联合信息提取层后，作为基于波段选择的卷积神经网络的后续层，具体地，通过卷积层和池化层级联堆叠，最终连接全连接层以及分类层，实现分类器的构建。

(5d)将空谱联合信息提取层的输出结果输入至分类器，输出为样本的预测标签，实现最终分类。

(6)对基于波段选择的卷积神经网络进行训练，得到训练后的卷积神经网络：输入训练样本，将卷积神经网络输出和真实样本标签通过交叉熵公式建立卷积神经网络的损失函数，利用梯度下降法优化分类器和空谱联合信息提取层，并利用直通估算器进一步优化波段选择层，重复执行步骤(6)直至满足迭代次数，得到训练好的卷积神经网络。

(7)利用步骤(6)训练后的基于波段选择的卷积神经网络对高光谱图像进行分类：将高光谱图像的测试样本输入到训练好的网络模型中，输出测试样本的预测标签，获得分类结果。

本发明由于构建一种新颖的基于波段选择的卷积神经网络，实现了波段选择以及分类一体化，以及分类与波段选择共同优化，利用神经网络强大的特征提取能力，充分考虑挖掘了高光谱数据中空谱联合信息，增强了分类信息，有效地提高了高光谱图像的分类精度，加快了分类速度。

实施例2

基于可分离卷积和硬阈值函数的高光谱波段选择方法同实施例1，步骤(4a)中所述的构建波段选择层作为基于波段选择的卷积神经网络的第一层，包括有如下步骤：

(4a1)基于波段选择的卷积神经网络共计十层，其中，基于可分离卷积的波段选择层作为第一层，基于多尺度卷积的空谱联合信息提取层为第二层，基于三层卷积层、两层池化层、两层全连接层和一层softmax分类层的分类器作为后续网络。

上述网络层数也可以修改，但值得注意的是网络层数过少，网络的非线性分类能力会较差，网络层数过多会增加计算机计算负荷，影响分类速度。

(4a2)将15×15×200的图像块输入波段选择层，其中200代表高光谱图像的波段数，每一个波段作为一个输入节点，即共有200个输入节点，每个节点输入尺寸为15×15。若使用不同数据，值200应随实际总波段数改变。

(4a3)构建可分离卷积网络结构，即对每个输入节点使用一个1×1卷积核进行卷积。具体地，波段选择层输入尺寸为15×15×200，输出尺寸为15×15×200。

本发明通过设计该结构，使用1×1卷积核卷积的线性变换作用，波段选择层结构能够利用权值矩阵作为波段重要性评价准则，进行评价每个波段对于分类的有效性，能够实现对原始波段信息处理。

实施例3

基于可分离卷积和硬阈值函数的高光谱波段选择方法同实施例1-2，步骤(4b)中所述波段选择层利用可分离卷积和硬阈值函数进行波段选择，包括有如下步骤：

(4b1)将波段选择层的权值矩阵进行降序排列，得到尺寸为1×200的一维向量S，确定所选波段个数N，对排序后的向量中波段个数值位置的元素作为阈值，即取向量S中的第N个位置的元素，建立基于该阈值的硬阈值函数。

(4b2)对波段选择层的权值矩阵中每个元素输入所得硬阈值函数，具体地，对于大于等于阈值的权重值，输出保留原值，反之置零，得到新的尺寸为1×200的权值矩阵，其中，有N个非零值元素，有(200-N)个零值元素。

(4b3)利用新的权值矩阵与输入样本进行可分离卷积，利用置零权值与输入卷积为零，即存在N个非零输出，其值是原波段的线性变换，存在(200-N)个零输出，实现了对相应位置波段的舍弃，最终实现波段选择。

本发明通过使用可分离卷积和硬阈值函数进行波段选择，实现卷积神经网络与波段选择相结合，利用神经网络特征学习能力，使用权值作为波段评价准则，克服了已有波段选择算法中，依赖人工设计评价准则的高效性。利用硬阈值函数，以及利用波段个数确定阈值，能够实现固定波段个数的波段选择功能。

实施例4

基于可分离卷积和硬阈值函数的高光谱波段选择方法同实施例1-3，步骤(5a)中所述构建空谱联合信息提取层作为基于波段选择的卷积神经网络的第二层，包括有如下步骤：

(5a1)利用32个1×1卷积核对所选波段进行二维卷积，提取所选波段的光谱信息，输入为15×15×200，输出为15×15×32。

(5a2)利用32个3×3和32个5×5卷积核分别对所选波段进行二维卷积，提取所选波段的不同尺度的空间信息，输入为15×15×200，输出为15×15×64。

(5a3)将上述三种不同尺寸卷积核得到的输出级联，即空谱联合信息提取层的输出为15×15×96，作为空谱联合信息输入后续网络结构。

本发明通过设计空谱联合信息提取层，利用不同尺度的卷积核，能够对所选波段提取光谱信息和不同尺寸的空间信息，通过级联信息输入后续网络用于分类，克服以往高光谱分类中只使用光谱信息或空间信息，导致分类精度低的问题。

实施例5

基于可分离卷积和硬阈值函数的高光谱波段选择方法同实施例1-4，步骤(5c)中所述构建分类器的层间设置按照从左到右依次为，卷积核尺寸为4×4×128的卷积层，步长为2的池化层，卷积核尺寸为3×3×256的卷积层，步长为2的池化层，卷积核尺寸为3×3×512的卷积层，全连接层，全连接层，softmax分类层，全连接层的输入节点个数皆是1024，输出节点个数与高光谱图像地物种类数相等。其中，每层卷积层使用ReLU激活函数，使得网络具有非线性学习与分类能力。

上述卷积核个数以及全连接节点数可以任意改变，值得注意的是，数量太少不足以学到足量的特征，分类精度差，数量太多会增大网络计算复杂度，加重计算负荷，影响分类速度。

若上述空间窗改变，可以随之改变分类器的卷积核尺寸，若空间窗取13×13，则三层卷积层的卷积核可分别采用2×2、3×3和3×3。

本发明通过设计基于卷积层、池化层、全连接层和softmax分类层的分类器，利用卷积神经网络对大量图像数据的特征学习与处理能力，能够取得比传统分类更优越的分类性能。

实施例6

基于可分离卷积和硬阈值函数的高光谱波段选择方法同实施例1-5，步骤(6)中所述对基于波段选择的卷积神经网络进行训练，得到训练后的卷积神经网络，包括有如下步骤：

(6a)将训练样本输入到基于波段选择的卷积神经网络中进行非线性映射，输出训练样本的预测标签y。

(6b)利用交叉熵公式，计算训练样本的预测标签和真实标签之间的交叉熵，作为网络模型的损失函数。所述的交叉熵公式如下：

其中，L代指交叉熵，Σ代指求和操作，y_i代指真实标签向量的第i个元素，ln是指以e为底的对数操作，代指预测标签向量的第i个元素。

(6c)利用梯度下降方法，用上述损失函数值优化分类器和空谱联合信息提取层，并将误差进一步传导至波段选择层。

(6d)采用直通估算器解决硬阈值函数具有零值导数，进而波段选择层参数难以优化问题，具体地，将损失函数对通过硬阈值函数后的波段选择层权值矩阵求梯度值，并近似作为损失函数对波段选择层权值矩阵的梯度值，进而优化波段选择层。

(6e)判断当前迭代次数是否为第1000次，若是，则执行步骤(7)，否则，将当前迭代次数加上1后执行步骤(6)。

本发明通过构建网络损失函数，利用梯度下降算法训练整体网络，使得分类器与波段选择层共同迭代优化，实现了波段选择与分类一体化的嵌入式波段选择，利用神经网络的特征学习能力，增强了波段选择性能，加快了基于波段选择的分类速度，提高了分类精度。

实施例7

基于可分离卷积和硬阈值函数的高光谱波段选择方法同实施例1-6，步骤(6d)中所述采用直通估算器解决硬阈值函数具有零值导数，进而波段选择层参数难以优化问题，包括有如下步骤：

(6d1)计算损失函数对通过硬阈值函数后的波段选择层权值矩阵的梯度值。

(6d2)将硬阈值函数输出对输入的导数近似为1。

(6d3)通过求导的链式法则，损失函数对波段选择层权值矩阵的梯度值在数值上等于上述二值相乘，即等于损失函数对通过硬阈值函数后的波段选择层权值矩阵的梯度值。

本发明通过使用直通估算器，克服了硬阈值函数导数为零，进而训练误差无法进一步传播，难以训练波段选择层的问题，使得波段选择能在迭代过程中，寻找最优波段子集。

下面给出一个更加详实的例子对本发明进一步说明

实施例8

基于可分离卷积和硬阈值函数的高光谱波段选择方法同实施例1-7，参见图1，包括有如下步骤：

(1)输入Indian Pines高光谱图像,图像空间大小为145×145，共包含200个波段和16类地物，图像格式为mat。

(2)获取样本集：

(2a)以高光谱图像中的每个像素为中心，划定一个15×15像素大小的空间窗。

(2b)将每个空间窗内所有的像素组成一个数据立方体，其尺寸为15×15×200。

(2c)将所有的数据立方体组成高光谱图像的样本集，其中共有10249个样本。

(3)产生训练样本与测试样本：

(3a)在高光谱图像的样本集中，随机选取5％的样本，组成高光谱图像的训练样本，共计512个样本。

(3b)将剩余95％的样本组成高光谱图像的测试样本，共计9737。

(4)构建基于波段选择的卷积神经网络的波段选择层，并进行波段选择：

(4a)构建波段选择层作为基于波段选择的卷积神经网络的第一层，其中，样本集中的样本作为输入样本，将输入样本的每个原始波段作为输入节点，共计200个节点，设计基于1×1卷积核的可分离卷积结构，具体地，对于每个输入节点，用单个1×1卷积核对每个输入节点进行卷积，由此构成了200个1×1卷积核，该层权值矩阵为1×200的一维向量。

(4b)波段选择层利用可分离卷积和硬阈值函数进行波段选择：输入原始波段信息，输出为所选出的波段，将选出的波段作为波段组合输入后续网络，具体地，是利用通过硬阈值函数的权值矩阵与原始波段信息进行可分离卷积，实现波段选择。其中，波段选择层输入尺寸和输出尺寸相同，都是15×15×200。

(5)构建空谱联合信息提取层进行特征提取，以及构建分类器用于分类：

(5a)构建空谱联合信息提取层作为基于波段选择的卷积神经网络的第二层，具体地，构建三种尺度1×1、3×3和5×5卷积核，每种尺度的卷积核有32个，并分别对波段选择层的输出结果进行二维卷积，每个卷积核输入尺寸为15×15×200，输出尺寸为15×15×1。

(5b)将波段选择层输出输入至空谱联合信息提取层，将得到的输出结果级联作为空谱联合特征输入至后续网络，实现空谱联合特征提取。

(5c)构建分类器并连接在空谱联合信息提取层后，作为基于波段选择的卷积神经网络的后续层，具体地，通过卷积层和池化层级联堆叠，最终连接全连接层以及分类层，实现分类器的构建。

(5d)将空谱联合信息提取层的输出结果输入至分类器，输出为样本的预测标签，实现最终分类。

(6)对基于波段选择的卷积神经网络进行训练，得到训练后的卷积神经网络：输入训练样本，将卷积神经网络输出和真实样本标签通过交叉熵公式建立卷积神经网络的损失函数，利用梯度下降法优化分类器和空谱联合信息提取层，并利用直通估算器进一步优化波段选择层，重复执行步骤(6)直至满足迭代次数，得到训练好的卷积神经网络。

所述的交叉熵公式如下：

其中，L代指交叉熵，Σ代指求和操作，y_i代指真实标签向量的第i个元素，ln是指以e为底的对数操作，代指预测标签向量的第i个元素。

(7)利用训练后的基于波段选择的卷积神经网络对高光谱图像进行分类：将高光谱图像的测试样本输入到训练好的网络模型中，输出测试样本的预测标签，获得分类结果。

本发明通过构建基于波段选择的卷积神经网络，在网络结构中搭建基于可分离卷积和硬阈值函数的波段选择层，实现了波段选择以及分类一体化，克服了已有技术中二者分离导致的分类精度低、速度慢的问题。利用神经网络的特征学习能力，相比已有的波段选择算法，提高了波段选择性能，进一步提高了分类精度。

以下结合仿真实验，对本发明的技术效果作详细说明。

实施例9

基于可分离卷积和硬阈值函数的高光谱波段选择方法同实施例1-8，

仿真条件和内容：

1.仿真实验条件：

参见图2，本发明的仿真实验采用的数据是Indian Pines高光谱图像，参见图2(a)：该高光谱数据采集自美国印第安纳州西北部印第安遥感试验区，成像时间为1992年6月。数据共有145×145像素点和220个波段，共计16类地物。由第50个，第27个和第17个波段构成伪彩色图像，如图2(b)所示。该图像的真实标记图如图2(c)所示。Indian Pines图像由16类地物组成，具体包括：alfalfa,corn-notill,corn-mintill,corn,grass-pasture,grass-trees,grass-pasture-mowed,hay-windrowed,oats,soybean-notill,soybean-mintill,soybean-clean,wheat,woods,building-grass-trees-drives,stone-steel-towers种类。

本发明的仿真实验的硬件测试平台是：处理器为Intel i7 5930k CPU，主频为3.5GHz，内存16GB。

本发明的仿真实验的软件平台为：Windows 10操作系统和python 3.6。

2.仿真内容：

本发明仿真实验是采用本发明和两个现有技术(内核对齐式多核学习波段选择KA-MKL分类方法、栈式自编码器SAE分类方法)对输入的高光谱图像Indian Pines，见图2(a)进行分类，获得分类结果图参见图3，同时利用四个评价指标(总精度OA、平均精度AA、卡方系数Kappa、时间Time)对分类结果进行评价。

在仿真实验中，采用的三个现有技术具体如下：

Melgani等人在“Classification of hyperspectral remote sensing imageswith support vector machines,IEEE Trans.Geosci.Remote Sens.,vol.42,no.8,pp.1778–1790,Aug.2004”中提出的高光谱图像分类方法，简称支撑向量机SVM分类方法。

D.Tuia等人在“Learning relevant image features with multiple-kernelclassification,”IEEE Trans.Geosci.Remote Sens.,vol.48,no.10,pp.3780–3791,Oct.2010.”中提出的高光谱图像分类方法，简称内核对齐式多核学习波段选择KA-MKL分类方法。

在仿真实验中，采用的四个评价指标具体如下：

总精度OA表示正确分类的样本占所有样本的比例，值越大，说明分类效果越好。

平均精度AA表示每一类分类精度的平均值，值越大，说明分类效果越好。

卡方系数Kappa表示混淆矩阵中不同的权值，值越大，说明分类效果越好。

时间Time表示算法选出最优波段选择子集(如果算法中包含波段选择)，并分类器分类的时间，值越小，说明分类速度越快。

图3为仿真实验结果图。图3(a)为采用支撑向量机SVM方法对高光谱图像IndianPines进行分类的结果图。图3(b)为采用内核对齐式多核学习波段选择KA-MKL方法对高光谱图像Indian Pines进行分类的结果图。图3(c)为本发明对高光谱图像Indian Pines进行分类的结果图。

仿真结果分析：

统计附图3中本发明和两个现有技术对高光谱图像Indian Pines的分类结果，包括每类地物的分类精度，总精度OA、平均精度AA、卡方系数Kappa、时间Time，最后把统计到的每类地物的分类精度和各评价指标的值绘制成表1。

结合表1所给的数值化表述可以明显看出，内核对齐式多核学习波段选择KA-MKL分类精度差且耗时最长，这是因为使用基于大量基本内核的内核优化非常耗时，在选择波段子集后使用支撑向量机SVM分类器，其分类性能相对SAE和本发明所使用的神经网络相对较差。栈式自编码器SAE方法的分类结果相比本发明比较差，因为SAE都只提取了高光谱图像像元的光谱特征，没有提取空间特征以及去除冗余波段，使得分类准确性不高。

表1.仿真实验中本发明和各现有技术分类结果的定量分析表

参见图3分类结果图可以看出，已有的两种高光谱分类结果，参见图3(a)和图3(b)错分严重，地物的分类结果在区域内平滑度差，而本发明的分类效果，参见图3(c)优于前两种现有技术分类方法，达到了较理想的分类效果。

以上仿真实验表明：本发明方法能够选择最优波段子集，提取像元领域的空谱联合特征，解决现有技术方法中由于存在只提取光谱特征、波段选择性能不佳，从而导致分类精度差、时间复杂度高的问题，是一种非常实用的基于波段选择的高光谱图像分类方法。

本发明提出了一种基于可分离卷积和硬阈值函数的高光谱波段选择方法，主要解决高光谱图像波段选择性能不佳、分类精度差以及耗时长的问题。实现步骤为：输入高光谱图像；获取样本集；产生训练样本与测试样本；构建基于波段选择的卷积神经网络的波段选择层，并进行波段选择；构建空谱联合信息提取层进行特征提取，以及构建分类器用于分类；对基于波段选择的卷积神经网络进行训练，得到训练后的卷积神经网络；利用训练后的基于波段选择的卷积神经网络对高光谱图像进行分类。本发明通过构建基于波段选择的卷积神经网络，在网络结构中搭建基于可分离卷积和硬阈值函数的波段选择层，实现了波段选择以及分类一体化，克服了已有技术中二者分离导致的分类精度低、速度慢的问题。利用神经网络的特征学习能力，相比已有的波段选择算法，提高了波段选择性能，进一步提高了分类精度，在军事调查、生态建设、土地利用、全球环境、自然灾害等领域有着广泛的应用。

Claims (7)

1.一种基于可分离卷积和硬阈值函数的高光谱波段选择方法，其特征在于，包括有如下步骤：

(1)输入高光谱图像；

(2)获取样本集：

(2a)以高光谱图像中的每个像素为中心，划定一个15×15像素大小的空间窗；

(2b)将每个空间窗内所有的像素组成一个数据立方体；

(2c)将所有的数据立方体组成高光谱图像的样本集，卷积神经网络的原始输入均为来自样本集中的样本；

(3)产生训练样本与测试样本：

(3a)在高光谱图像的样本集中，随机选取5％的样本，组成高光谱图像的训练样本；

(3b)将剩余95％的样本组成高光谱图像的测试样本；

(4)构建基于波段选择的卷积神经网络的波段选择层，并进行波段选择：

(4a)构建波段选择层作为基于波段选择的卷积神经网络的第一层，其中，将输入样本的每个原始波段作为输入节点，设计基于1×1卷积核的可分离卷积结构，具体地，对于每个输入节点，用单个1×1卷积核对每个输入节点进行卷积；

(4b)波段选择层利用可分离卷积和硬阈值函数进行波段选择：输入原始波段信息，输出为所选出的波段，将选出的波段作为波段组合输入后续网络，具体地，是利用通过硬阈值函数的权值矩阵与原始波段信息进行可分离卷积，实现波段选择；

(5)构建空谱联合信息提取层进行特征提取，以及构建分类器用于分类：

(5a)构建空谱联合信息提取层作为基于波段选择的卷积神经网络的第二层，具体地，构建三种尺度1×1、3×3和5×5卷积核，并分别对波段选择层的输出结果进行二维卷积；

(5b)将波段选择层输出输入至空谱联合信息提取层，将得到的输出结果级联作为空谱联合特征输入至后续网络，实现空谱联合特征提取；

(5c)构建分类器并连接在空谱联合信息提取层后，作为基于波段选择的卷积神经网络的后续层，具体地，通过卷积层和池化层级联堆叠，最终连接全连接层以及分类层，实现分类器的构建；

(5d)将空谱联合信息提取层的输出结果输入至分类器，输出为样本的预测标签，实现最终分类；

(6)对基于波段选择的卷积神经网络进行训练，得到训练后的卷积神经网络：输入训练样本，将卷积神经网络输出和真实样本标签通过交叉熵公式建立卷积神经网络的损失函数，利用梯度下降法优化分类器和空谱联合信息提取层，并利用直通估算器进一步优化波段选择层，重复执行步骤(6)直至满足迭代次数，得到训练好的卷积神经网络；

(7)利用训练后的基于波段选择的卷积神经网络对高光谱图像进行分类：将高光谱图像的测试样本输入到训练好的网络模型中，输出测试样本的预测标签，获得分类结果。

2.根据权利要求1所述的基于可分离卷积和硬阈值函数的高光谱波段选择方法，其特征在于，步骤(4a)中所述的构建波段选择层作为基于波段选择的卷积神经网络的第一层，包括有如下步骤：

(4a1)基于波段选择的卷积神经网络是由波段选择层作为第一层，空谱联合信息提取层为第二层，最后连接分类器组成；

(4a2)将15×15×d的图像块输入波段选择层，其中d代表高光谱图像的波段数，每一个波段作为一个输入节点，即共有d个输入节点，每个节点输入尺寸为15×15；

(4a3)构建可分离卷积网络结构，即对每个输入节点使用一个1×1卷积核进行卷积。

3.根据权利要求1所述的基于可分离卷积和硬阈值函数的高光谱波段选择方法，其特征在于，步骤(4b)中所述波段选择层利用可分离卷积和硬阈值函数进行波段选择，包括有如下步骤：

(4b1)将波段选择层的权值矩阵进行降序排列，得到一维向量，确定所选波段个数，对排序后的向量中波段个数值位置的元素作为阈值，建立基于该阈值的硬阈值函数；

(4b2)对波段选择层的权值矩阵中每个元素输入所得硬阈值函数，具体地，对于大于等于阈值的权重值，输出保留原值，反之置零，得到新的权值矩阵；

(4b3)利用新的权值矩阵与输入样本进行可分离卷积，利用置零权值与输入卷积为零，实现了对相应位置波段的舍弃，最终实现波段选择。

4.根据权利要求1所述的基于可分离卷积和硬阈值函数的高光谱波段选择方法，其特征在于，步骤(5a)中所述构建空谱联合信息提取层作为基于波段选择的卷积神经网络的第二层，包括有如下步骤：

(5a1)利用1×1卷积核对所选波段进行二维卷积，提取所选波段的光谱信息；

(5a2)利用3×3和5×5卷积核分别对所选波段进行二维卷积，提取所选波段的不同尺度的空间信息；

(5a3)将上述三种不同尺寸卷积核得到的输出级联，作为空谱联合信息输入后续网络结构。

5.根据权利要求1所述的基于可分离卷积和硬阈值函数的高光谱波段选择方法，其特征在于：步骤(5c)中所述构建分类器的层间设置按照从左到右依次为，卷积层，池化层，卷积层，池化层，卷积层，全连接层，全连接层，分类层，其中，全连接层的输入节点个数是1024，输出节点个数与高光谱图像地物种类数相等。

6.根据权利要求1所述的基于可分离卷积和硬阈值函数的高光谱波段选择方法，其特征在于，步骤(6)中所述对基于波段选择的卷积神经网络进行训练，得到训练后的卷积神经网络，包括有如下步骤：

(6a)将训练样本输入到基于波段选择的卷积神经网络中进行非线性映射，输出训练样本的预测标签；

(6b)利用交叉熵公式，计算训练样本的预测标签和真实标签之间的交叉熵，作为网络模型的损失函数；

(6c)利用梯度下降方法，用上述损失函数值优化分类器和空谱联合信息提取层，并将误差进一步传导至波段选择层；

(6d)采用直通估算器解决硬阈值函数具有零值导数，进而波段选择层参数难以优化问题，具体地，将损失函数对通过硬阈值函数后的波段选择层权值矩阵求梯度值，并近似作为损失函数对波段选择层权值矩阵的梯度值，进而优化波段选择层；

(6e)判断当前迭代次数是否为第1000次，若是，则执行步骤(7)，否则，将当前迭代次数加上1后执行步骤(6)。

7.根据权利要求6所述对基于波段选择的卷积神经网络进行训练，得到训练后的卷积神经网络方法，其特征在于，步骤(6d)中所述采用硬阈值函数具有零值导数，进而波段选择层参数难以优化问题，包括有如下步骤：

(6d1)计算损失函数对通过硬阈值函数后的波段选择层权值矩阵的梯度值；

(6d2)将硬阈值函数输出对输入的导数近似为1；

(6d3)损失函数对波段选择层权值矩阵的梯度值在数值上等于上述二值相乘，即等于损失函数对通过硬阈值函数后的波段选择层权值矩阵的梯度值。

本发明通过使用直通估算器，克服了硬阈值函数导数为零，进而训练误差无法进一步传播，难以训练波段选择层的问题，使得波段选择能在迭代过程中，寻找最优波段子集。