CN111260576B - 一种基于去噪三维卷积自编码网络的高光谱解混算法 - Google Patents

Abstract

一种基于去噪三维卷积自编码网络的高光谱解混算法，解决了传统端元提取算法无法快速同步获得端元光谱与丰度信息，同时易受到干扰、鲁棒性差的问题。本发明的步骤为：一、基于高光谱体数据结构设计并建立三维卷积自编码网络；二、利用去噪自编码算法采用生成数据集训练网络，提取鲁棒的空谱联合特征；三、设计并实现非负稀疏自编码器，对丰度添加非负性与稀疏性约束，将数据映射到低维信号子空间从而同步获得高精度的端元与丰度信息。本发明的基本思想是采用深层自编码网络提取空谱联合特征，以无监督的方式同步获得影像的端元与丰度信息，解混精度高，适用于高光谱端元提取与丰度反演应用，如城市遥感、精准农业、勘探侦查等，社会经济价值高。

Description

一种基于去噪三维卷积自编码网络的高光谱解混算法

技术领域

本发明涉及一种针对高光谱数据的端元提取与类别丰度计算的解混方法，具体涉及一种基于去噪三维卷积自编码网络的高光谱像元无监督解混方法。

背景技术

高光谱遥感成像将二维空间成像技术与光谱成像相结合，能够在可见光及近红外谱带宽度内精细测量上百个连续光谱波段的地物辐射信息，从而获得图谱合一的三维光谱数据立方体。高光谱图像在军用与民用的各个领域发挥着重要作用。然而由于成像技术的限制，光谱成像仪的空间分辨率较高，从而使得混合象元产生。这为目标精细化分类带来困难。为了提高获取地表信息的精度，必须解决混合像元的识别问题，即解混问题，这对精准农业、城市遥感、勘探侦查等领域都有着重要的意义。

传统的纯象元类解混算法要求影像中存在端元光谱，而在实际成像场景中由于噪声干扰与地物分布的复杂性通常很难满足。基于凸面几何学的端元提取算法容易受到异常点的影响，而且累积误差会进一步影响后续的端元丰度反演。而半监督类稀疏解混算法依赖于一个完备且过冗余的匹配先验光谱库，这需要大量光谱特征采集与校正等工作。近些年来发展的神经网络解混能够同时获得端元光谱与丰度信息。

自编码解混网络是一种新式的基于深度学习的高光谱线性解混算法模型。在图像处理领域，深层神经网络能够通过逐层构建网络达到提取高度抽象的输入特征的目的，避免了传统的特征提取算法在降维时输入信息的部分丢失导致计算精度的下降。高光谱数据谱段相关性较高，像元光谱存在较多的冗余信息。自编码解混网络通过非线性编码将数据映射到低维流形中，能够学习到输入光谱的潜在表示；并采用线性解码的方式最小化重构误差实现端元矩阵与像元丰度的同步更新。为了有效提取高光谱输入特征并避免数据噪声对结果的干扰，通常选择在自编码解混网络前级联卷积网络或去噪网络等。

基于自编码的高光谱解混网络仅仅考虑了像素的光谱特征信息，没有利用到图像内端元物质的空间分布特性。本文设计并建构三维卷积去噪自编码网络。同时，非负自编码网络添加稀疏约束，从而获得更鲁棒的表示形式本发明通过将三维卷积去噪自编码网络与非负稀疏自编码网络级联的方式对高光谱图像进行降噪处理与解混计算，最终得到端元光谱特征与对应丰度分布。

发明内容

本发明的目的在于通过构建多层卷积网络对图像进行特征提取与去噪获得降噪图像，并利用自编码模型对光谱解混进行分析，从而无监督的得到端元与丰度信息，实现高光谱解混工作。

本发明的目的是通过以下技术方案实现的：利用高光谱图像三维体数据特点，通过搭建三维卷积自编码网络提取空谱联合信息实现对数据的重构；采用降噪自编码网络学习的方式提取图像鲁棒的深层特征信息，从而实现对含噪声影像的高精度恢复；同时在网络模型后级联非负稀疏自编码网络，采用反向传播算法对端元矩阵与权值矩阵进行更新，以实现高精度的端元提取与丰度反演。

本发明的流程图如图1所示，共分为三个步骤，具体步骤如下：

步骤一：利用高光谱图像三维体数据格式建立三维卷积自编码网络模型，充分挖掘图像中空谱联合信息，引入空间信息并搭建深层卷积网络逐层提取特征信息实现光谱数据的高精度重构，具体步骤如下：

步骤1-1：构建三维卷积自编码网络结构。

输入高光谱遥感图像

其中R与C表示高光谱遥感图像的宽和长，L表示高光谱遥感图像的波段数目，三维卷积自编码网络由编码层与解码层级联构成；编码层网络通过堆叠p个三维卷积层与q个三维池化层获得输入数据的深层空谱联合特征；相对的，解码层采用p个三维反卷积层与q个三维反池化层通过逆序构建的方式对数据进行重建，整个三维卷积网络共包含2(p+q)个非线性映射网络层。

步骤1-2：构建编码过程的三维卷积层模型。

将第i-1层m_i-1个输出通道的输出张量

作为第i层输入，在该层m_i个输出通道中构造m_i个卷积核

对于通道j_i,j_i＝1,...,m_i，其输出

可计算为：

其中*为卷积算子，b_j为该卷积层第j个输出通道的偏置项。采用线性整流函数σ(·)作为非线性激活函数，即σ(t)＝max(0,t)。

步骤1-3：构建编码过程的三维池化层模型。

下采样层输出通道在坐标(x,y,z)处的映射关系为

其中

和

代表池化层的输入和输出张量，f_u、g_u和h_u分别代表三维数据中三个方向的边长，s、t和r代表对应方向的采样步长，f_v＝f_u/s，g_v＝g_u/s，h_v＝h_u/s。

步骤1-4：相对于编码过程，解码过程采用逆序搭建反卷积层与反池化层的方式构建解码过程的网络堆叠结构。

对于反卷积层，采用逆卷积操作进行图像重构与信号恢复。输出为：

其中

与

为反卷积网络的输入输出，w_j′_i-1为反卷积层网络在输出通道j_i-1的卷积核。

对于反池化层，采用补零的方式对输入

进行升采样得到

保留主要特征：

其中s、t和r代表采样步长，f_v′＝f_u′/s，g_v′＝g_u′/s，h_v′＝h_u′/s。

步骤二：利用去噪自编码算法训练网络对高光谱图像进行去噪，对网络参数进行训练，在每次训练参数过程中对输入光谱数据添加随机掩码噪声，通过最小化损失函数对合成数据进行特征提取与数据重构，提取鲁棒的高光谱影像空谱联合特征并获得去噪高光谱数据集，具体步骤如下：

步骤2-1：对数据进行扩维，将原始三维体数据

扩维为五维张量

其中C_in＝1为输入通道，C_out＝1为输出通道。

步骤2-2：确定噪声系数0＜γ_n＜1，学习率η，重构误差限ε_tol、网络学习的迭代步数上限k_max、初始迭代步数k＝1。

步骤2-3：对T添加数据占比为γ_n的掩码噪声，随机取值并置为0，生成训练数据集T_(k)。

步骤2-4：对输入数据进行正向传播，逐层计算得到各层网络的输出值，最后得到数据重构影像T₍′_k)。定义损失函数为最小信号误差：

步骤2-5：采用反向传播算法对权重进行更新，k＝k+1。

重复步骤2-3至2-5直至信号重构误差ε_k＜ε_tol或迭代步数k≥k_max。

步骤三：采用非负稀疏自编码器同步提取端元与丰度信息，在自编码解混模型中，隐含节点视为丰度信息，隐含层到输出层的线性连接权重视为端元信息，对丰度进行约束建立非负稀疏自编码网络，将步骤二中的去噪高光谱数据集作为输入以对混合光谱进行数据重建，寻找低维信号子空间，以无监督学习的方式迭代求解得到最终端元与丰度信息。具体步骤如下：

步骤3-1：将张量T′展成二维矩阵

设置端元数p₀、重构误差限∈_tol、网络学习的迭代步数上限i_max、网络学习率γ、初始迭代步数i＝1。

步骤3-2：采用顶点成分分析法对端元与丰度矩阵初始化，获得初始端元矩阵

采用全约束最小二乘获得初始丰度矩阵

随机初始化权值矩阵

步骤3-3：在非负稀疏自编码网络架构下丰度矩阵S＝σ(WY_denoised)，采用块坐标下降法更新端元矩阵A与权值矩阵W，对端元矩阵A，采用梯度下降法进行更新，迭代更新公式为：

其中，梯度

步长α_i由实验指定，对稀疏权值矩阵W，采用反向传播算法进行更新，迭代更新公式为：

其中，

辅助矩阵M_(i)可记为：

其中sum(·)代表矩阵逐行求和运算，1_L为L维全1列向量。

当所有参数都更新完毕后，i＝i+1。重复步骤3-3直至信号重构误差∈_i＜∈_tol或迭代步数i≥i_max。最终得到关于端元矩阵的收敛解A_net与权值矩阵W_net。通过非线性映射得到丰度矩阵S_net＝σ(W_netY_denoised)。

本发明与现有技术相比具有如下优点：

在传统的高光谱端元提取算法中，端元提取与丰度反演往往分开进行，数据处理中的累积误差会影响后续试验的计算精度；本方法利用自编码网络对高光谱线性解混问题进行建模，对输入数据进行特征映射与变换，并通过对网络参数添加非负与稀疏性限制寻找数据的低维表示，从而以无监督学习的方式同步获取端元与丰度信息。

与传统的解混算法相比，本方法不依赖于先验光谱信息，通过设计三维去噪卷积自编码网络，充分利用高光谱图像图谱合一的数据特征，在网络设计中构造三维卷积核，通过各层卷积算子与池化算子的非线性映射变换逐层学习像元空谱联合特征信息，从而能够在数据重构与图像恢复中保留原始信号的主要光谱特征信息，最大程度的去除影像中的噪声干扰信息，进一步提高端元提取与丰度反演的精度，增强算法对噪声的鲁棒性与解混的精度。

附图说明

图1为本发明的流程图。

图2为Cuprite数据集地表矿物类别图(a)与伪彩色合成图(b)。

图3为三维卷积自编码算法获得的物质丰度分布图。

具体实施方式

下面结合实施例和附图说明本发明的具体实施方式：将级联自编码网络应用到实际高光谱影像端元提取与丰度反演过程中，通过网络训练并添加约束等方式高精度求取端元光谱特征并同步获得像元点物质丰度信息。

首先给出高光谱图像数据的描述：实验对象为AVIRIS成像仪在美国内华达州赤铜矿Cuprite矿区于1997年拍摄的典型高光谱图像，由于地物种类分明，包含众多典型矿物光谱信息，常用于高光谱解混工作。该高光谱遥感影像为250×191×224大小的三维体数据，光谱覆盖0.4μm至2.5μm波段范围，共包含224个波段，去除噪声与水汽吸收波段后获得了可用的188个波段的光谱信息。该地区的矿物分类图如图2所示。

执行步骤一：建立三维卷积自编码网络模型。高光谱影像输入Y^{250×191×188}，建立三维卷积自编码网络。编码阶段采用6个卷积层与3个池化层，每2个卷积层后连接1个池化层，三个池化层在三个方向的步长同一设置为2；每层卷积层卷积核大小分别为

对应的输入通道数为{16,16,32,32,64,64}。解码阶段同样对应有6个反卷积层与3个反池化层构成，采用逆序搭建编码阶段完成，参数设置与编码阶段一致。

执行步骤二：利用去噪自编码算法训练网络对高光谱图像进行去噪。将三维光谱数据Y^{250×191×188}扩维为五维张量T^{1×250×191×188×1}。确定噪声系数γ_n＝0.3，学习率η＝0.001，重构误差限ε_tol＝0.001、网络学习的迭代步数上限k_max＝3000、初始迭代步数k＝1。对张量数据T^{1×250×191×188×1}添加数据占比为γ_n＝0.3的掩码噪声，通过网络的正向传播与反向更新权重对网络进行迭代至信号重构误差ε_k＜ε_tol或迭代步数k≥k_max。

执行步骤三：采用非负稀疏自编码器同步提取端元与丰度信息。设置端元数p₀＝12、重构误差限∈_tol＝10^-6、网络学习的迭代步数上限i_max＝10、初始迭代步数i＝1。采用顶点成分分析法对端元与丰度矩阵初始化，获得初始端元矩阵A_vca。采用全约束最小二乘获得初始丰度矩阵X_vca。采用块坐标下降法更新端元矩阵A与权值矩阵W，直至信号重构误差∈_i＜∈_tol或迭代步数i≥i_max。,

本实施例结论：将三维卷积自编码解混网络与五类常见的高光谱解混算法进行对比试验，表1记录了不同算法所提取的数据集内12种地物类别的端元光谱相较于对应类别参考光谱的光谱角误差，其中各算法对于某类别的最小光谱角误差在表中以加粗表示，代表该算法在该类别中达到最优的端元估计性能表现。从表中可以看出，所提出的基于三维卷积自编码网络算法能够获得高精度的端元光谱特征，在六类端元提取对比方法中，对Cuprite数据集内12种类别的端元光谱特征提取获得了最小的平均光谱角误差，同时在5种类别的端元估计中达到最优。图3展示了三维卷积自编码解混网络在Cuprite高光谱影像中对不同矿物类别进行丰度反演所获得的地物分布情况。从端元物质的丰度反演图中可看出，本方法能够在准确提取端元信息的同时，获得较为清晰地得到不同矿物的地物分布信息。相比于神经网络类算法uDAS，本方法采用三维卷积的方式提取空谱联合信息，并采用去噪自编码网络学习的方式对网络参数进行训练以实现数据重构与降噪的目的，从而在后续的解混工作中达到更高的计算精度。

表1真实AVIRIS CUPRITE数据集不同解混算法的光谱角对比

Claims (2)

1.一种基于去噪三维卷积自编码网络的高光谱解混算法，其特征在于它包括以下步骤：

步骤一：利用高光谱图像三维体数据格式设计三维卷积自编码网络模型，充分挖掘图像中空谱联合信息，引入空间信息并搭建深层卷积网络逐层提取特征信息实现光谱数据的高精度重构，具体步骤如下：

1)构建三维卷积自编码网络结构：输入高光谱遥感图像

其中R与C表示高光谱遥感图像的宽和长，L表示高光谱遥感图像的波段数目，三维卷积自编码网络由编码层与解码层级联构成，编码层网络通过堆叠p个三维卷积层与q个三维池化层获得输入数据的深层空谱联合特征；相对的，解码层采用p个三维反卷积层与q个三维反池化层通过逆序构建的方式对数据进行重建，整个三维卷积网络共包含2(p+q)个非线性映射网络层；

2)构建编码过程的三维卷积层模型：

将第i-1层m_i-1个输出通道的输出张量

作为第i层输入，在该层m_i个输出通道中构造m_i个卷积核

对于通道j_i,j_i＝1,...,m_i，其输出

计算为：

其中*为卷积算子，b_j为该卷积层第j个输出通道的偏置项，采用线性整流函数σ(·)作为非线性激活函数，即σ(t)＝max(0,t)；

3)构建编码过程的三维池化层模型，下采样层输出通道在坐标(x,y,z)处的映射关系为

其中

和

代表池化层的输入和输出张量，f_u、g_u和h_u分别代表三维数据中三个方向的边长，s、t和r代表对应方向的采样步长，f_v＝f_u/s，g_v＝g_u/s，h_v＝h_u/s；

4)相对于编码过程，解码过程采用逆序搭建反卷积层与反池化层的方式构建解码过程的网络堆叠结构；

对于反卷积层，采用逆卷积操作进行图像重构与信号恢复，输出为：

其中

与

为反卷积网络的输入输出，

为反卷积层网络在输出通道j_i-1的卷积核；对于反池化层，采用补零的方式对输入

进行升采样得到

保留主要特征：

其中s、t和r代表采样步长，f′_v＝f′_u/s，g′_v＝g′_u/s，h′_v＝h′_u/s；

步骤二：对网络参数进行训练，在每次训练参数过程中对输入光谱数据添加随机掩码噪声，通过最小化损失函数对合成数据进行特征提取与数据重构，提取鲁棒的高光谱影像空谱联合特征并获得去噪高光谱数据集；

步骤三：采用非负稀疏自编码器同步提取端元与丰度信息，在自编码解混模型中，隐含节点视为丰度信息，隐含层到输出层的线性连接权重视为端元信息，对丰度进行约束建立非负稀疏自编码网络，将步骤二中的去噪高光谱数据集作为输入以对混合光谱进行数据重建，寻找低维信号子空间，以无监督学习的方式迭代求解得到最终端元与丰度信息，具体步骤如下：

1)将张量T′展成二维矩阵

设置端元数p₀、重构误差限∈_tol、网络学习的迭代步数上限i_max、网络学习率γ、初始迭代步数i＝1；

2)对端元与丰度矩阵初始化，获得初始端元矩阵

采用全约束最小二乘获得初始丰度矩阵

随机初始化权值矩阵

3)在非负稀疏自编码网络架构下丰度矩阵S＝σ(WY_denoised)，采用块坐标下降法更新端元矩阵A与权值矩阵W，矩阵A的迭代公式为：

A_(i+1)＝max(A_(i)-α_i▽A_(i),0)

其中梯度

步长α_i由实验指定，稀疏权值矩阵W的迭代更新公式为：

W_(i+1)＝W_(i)-β▽W_(i)

其中

辅助矩阵M_(i)端元与丰度矩阵初始化记为

其中sum(·)代表矩阵逐行求和运算，1_L为L维全1列向量，所有参数更新完毕后，i＝i+1，重复步骤3)直至信号重构误差∈_i＜∈_tol或迭代步数i≥i_max，最终得到关于端元矩阵的收敛解A_net与权值矩阵W_net，通过非线性映射得到丰度矩阵S_net＝σ(W_netY_denoised)。

2.根据权利要求1所述的基于去噪三维卷积自编码网络的高光谱解混算法，其特征在于所述的步骤二具体包括：

对网络参数进行训练，在每次训练参数过程中对输入光谱数据添加随机掩码噪声，通过最小化损失函数对合成数据进行特征提取与数据重构，提取鲁棒的高光谱影像空谱联合特征并获得去噪高光谱数据集，具体步骤如下：

1)对数据进行扩维，将原始三维体数据

扩维为五维张量

其中C_in＝1为输入通道，C_out＝1为输出通道；

2)确定噪声系数0＜γ_n＜1，学习率η，重构误差限ε_tol、网络学习的迭代步数上限k_max、初始迭代步数k＝1；

3)对T添加数据占比为γ_n的掩码噪声，随机取值并置为0，生成训练数据集T_(k)；

4)对输入数据进行正向传播，逐层计算得到各层网络的输出值，最后得到数据重构影像T₍′_k)，定义损失函数为最小信号误差：

5)采用反向传播算法对权重进行更新，k＝k+1，重复步骤3)至5)直至信号重构误差ε_k＜ε_tol或迭代步数k≥k_max。

Images