CN110781832A - 基于联合深度置信网络的高光谱图像异常目标检测方法 - Google Patents

Abstract

基于联合深度置信网络的高光谱图像异常目标检测方法，该方法基于深度置信网络实现，有效地利用了张量结构和低秩稀疏分解理论，展示出较好的异常检测效果。本发明包括：首先在高光谱图像中利用测试点张量和其DBNs重建误差进行异常检测；采用LRASMD获得高光谱图像的稀疏矩阵；在稀疏矩阵中，利用测试点张量和其DBNs重建误差进行异常检测；最后，采用JDBN检测器获得最终的异常检测结果。本发明无需对高光谱数据分布模型进行假设；采用了高光谱图像和其稀疏矩阵的联合模型，降低了低秩矩阵最大秩和稀疏矩阵基数的盲选取对检测结果的影响；利用测试点张量代替测试点向量，考虑空谱特性，使检测结果更可靠。

Description

基于联合深度置信网络的高光谱图像异常目标检测方法

技术领域

本发明属于高光谱图像目标检测研究领域，具体涉及一种基于联合深度置信网络的高光谱图像异常目标检测方法。

背景技术

高光谱图像具有丰富的光谱信息，其在地物分类和目标检测方向得到了广泛的应用。高光谱图像目标检测其实质是二分类问题，根据能否获得先验信息，高光谱目标检测又可分为有监督的目标检测和无监督的异常目标检测。通常情况下，与背景明显不同的像素称为异常目标。高光谱异常目标检测也简称为高光谱异常检测。在实际中，地物的真实光谱信息很难获取，所以无需先验信息的高光谱异常目标检测具有更广泛的应用，其在高光谱图像处理中占据重要的地位。近三十年，学者们提出了大量的高光谱异常检测方法，其中，RX是最经典的方法，在此基础上提出了利用滑动双窗进行检测的局部RX(LRX)方法。然而，RX和LRX方法均假设背景数据符合高斯分布，由于高光谱图像的复杂性，这种假设常常不符合实际情况，会产生较大的虚警概率。该RX(KRX)方法无需假设背景模型，其将低维原始数据空间的线性高斯模型扩展到高维特征空间的非线性高斯域，然而，由于需要计算核方差矩阵和其逆矩阵，所以其计算复杂性很高。随着压缩感知理论和稀疏编码的快速发展，基于稀疏理论的高光谱异常目标检测方法大量出现，这些方法不需要假设背景模型，可获得较好的检测效果。

随着高光谱图像空间分辨率的提高，基于空谱联合的方法在高光谱图像处理领域中得到了关注。在高光谱张量模型中，前两维表示空间维，第三维表示光谱维，空间和光谱信息可以被同时表示，由于其特性，基于张量理论的高光谱图像异常目标检测算法获得了较好的检测效果。近些年，深度学习理论成为高光谱图像处理领域的研究热点。高光谱图像有大量冗余的光谱信息，传统的线性降维方法，如PCA，并不能有效地提取高光谱图像固有的非线性特征，这也对后续图像处理工作带来了较大的影响；相对于PCA，深度学习方法能有效地提取高光谱图像的深度特征，所以在高光谱图像预处理方面受到了广泛的关注，然而，这种应用主要在具有先验信息的高光谱图像分类和目标检测方面。深度学习框架中的卷积神经网络(CNNs)作为典型的完全监督模型，需要大量的训练数据集，其在无先验信息的高光谱图像异常检测方向的应用受到限制。

发明内容

本发明的目的在于提供一种能够更有效地进行高光谱图像异常目标检测的方法，一种基于联合深度置信网络的高光谱图像异常目标检测方法。

为实现上述的发明目的，本发明采用下述的技术方案：

首先，对待处理的高光谱图像数据分别进行如下处理：

步骤(1)：对高光谱图像数据中利用测试点张量DBNs(深度置信网络)重建误差进行异常检测；

步骤(2)：利用LRASMD(低秩稀疏分解)获得待处理的高光谱图像数据的稀疏矩阵；在稀疏矩阵中计算测试点张量DBNs重建误差进行异常检测；

然后，利用联合深度置信网络检测器对上述两个异常检测结果进行处理，获得高光谱图像异常目标检测结果。

对待处理的高光谱图像数据中计算测试点张量和其DBNs重建误差的2范数。

利用低秩稀疏分解LRASMD获得待处理的高光谱图像数据的稀疏矩阵的方法是采用通过GoDec算法实现分解低秩矩阵和稀疏矩阵。

在稀疏矩阵中计算测试点张量和其DBNs重建误差的2范数。

采用如下的联合深度置信网络检测器获得最终的异常目标检测结果：D_T(³Γ)。

其中，³Γ是待处理的高光谱图像数据中测试点张量的一维形式，³Γ_s是待处理的高光谱图像数据的稀疏矩阵中测试点张量的一维形式；r_DBN()是DBNs重建模型；a是协调两部分的权重系数。

本发明针对高光谱异常检测提出了一种全新的思路，采用联合深度置信网络(JDBN)的方法进行高光谱异常检测。异常目标是概率较低的小目标，与背景点相比，对DBNs模型的训练贡献较小，异常点的重建误差通常高于背景点的重建误差。该联合模型由原始高光谱图像数据和其通过低秩稀疏分解获得的稀疏矩阵组成。

本发明的优点在于：

1、本发明采用DBNs作为自动编码器，对高光谱数据分布进行无监督建模，与现有同类技术相比较，节省了对高光谱数据分布模型进行假设的步骤。采用DBNs作为自动编码器与现有CNNs的不同在于，深度置信网络DBNs利用限制性波尔兹曼机(RBMs)以无监督的方式一次训练一层，是一种非监督地学习方法，更适合高光谱图像异常目标检测。

2、采用了原始高光谱图像数据和其稀疏矩阵的联合深度置信网络重建误差模型，所述的稀疏矩阵是采用基于低秩稀疏分解(LRASMD)的方法将高光谱数据分解成表示背景的低秩矩阵和表示异常目标的稀疏矩阵，该模型有效降低了低秩矩阵最大秩和稀疏矩阵基数的盲选取对检测结果的影响。

3、利用测试点张量代替测试点向量，充分结合了空间特性和光谱特性，提高检测精度。

附图说明

图1DBNs的结构示意图；图中CE1指示的为输出层，CE2指示的为隐藏层，CE3指示的为输入层；

图2萨利纳斯山谷为背景的合成高光谱数据和其异常目标分布图，图2(a)是第100波段的数据；图2(b)是异常目标分布图；

图3萨利纳斯山谷合成数据的背景和异常目标的光谱曲线，其中图3(a)是背景的光谱曲线，其背景主要由4类组成，图3(b)是异常目标的光谱曲线；

图4三架飞机真实高光谱数据和其异常目标分布图，其中图4(a)是第100波段的数据；图4(b)是异常目标分布图；

图5帕维亚大学为背景的合成高光谱数据和其异常目标分布图，其中图5(a)是第60波段的数据；图5(b)是异常目标分布图；

图6帕维亚大学合成数据的背景和异常目标的光谱曲线，其中图6(a)是背景的光谱曲线，其背景主要由3类组成，图6(b)是异常目标的光谱曲线；

图7萨利纳斯山谷合成数据在不同方法下检测结果二值图，其中图7(a)为采用现有LRX方法获得的检测结果的二值图，图7(b)为采用现有LSD方法获得的检测结果的二值图，图7(c)为采用现有LSMAD方法获得的检测结果二值图，图7(d)是采用本发明所述的方法获得的检测结果二值图；

图8萨利纳斯山谷合成数据在不同方法下的AUC值条形图和可分性图，其中图8(a)为AUC条形图，图8(b)为可分性图；

图9三架飞机真实高光谱数据在不同方法下检测结果二值图，其中，图9(a)是采用现有LRX方法获得的检测结果二值图，图9(b)是采用现有LSD方法获得的检测结果二值图，图9(c)是采用现有LSMAD方法获得的检测结果二值图，图9(d)是采用本发明所述的方法获得的检测结果二值图；

图10三架飞机真实高光谱数据在不同方法下的ROC曲线和可分性图，其中，图10(a)为ROC曲线图，图10(b)为可分性图；图中JDBN表示本发明所述的方法。

图11帕维亚大学合成数据在不同方法下检测结果二值图，其中图11(a)是采用现有LRX方法获得的检测结果二值图，图11(b)是采用现有LSD方法获得的检测结果二值图，图11(c)是采用现有LSMAD方法获得的检测结果二值图，图11(d)是采用本发明所述的方法获得的检测结果二值图；

图12帕维亚大学数据在不同方法下的ROC曲线和可分性图，其中图12(a)是ROC曲线图，图12(b)为可分性图；

图13三组实验数据：不同张量空间尺寸W对JDBN方法AUC值的影响，图中data1的柱形图表示的为原始高光谱数据的稀疏矩阵，data2的柱形图表示的为原始高光谱数据，图13(a)为参数r、k和n分别设置为20、10⁵和10时检测W对检测结果AUC值的影响情况示意图，图13(b)为参数r、k和n分别设置为3、10⁵和200时检测W对检测结果AUC值的影响情况示意图，图13(c)为参数r、k和n分别设置为70、10⁴和2000时检测W对检测结果AUC值的影响情况示意图；

图14三组实验数据：不同批量大小n对JDBN方法AUC值的影响，其中图14(a)是在参数r和k分别设置为20和10⁵时，W在原始高光谱数据和其稀疏矩阵中都设置为1情况下，不同批量大小n对JDBN方法AUC值的影响示意图；图14(b)是在参数r和k分别设置为3和10⁵，且W在原始高光谱数据和其稀疏矩阵中都设置为3的情况下，不同批量大小n对JDBN方法AUC值的影响示意图；图14(c)是在参数r和k分别设置为70和10⁴，且W在原始高光谱数据和其稀疏矩阵中都设置为3的情况下，不同批量大小n对JDBN方法AUC值的影响示意图；

图15三组实验数据：不同权重系数a对JDBN方法AUC值的影响，其中图15(a)表示权重系数a的变化从1到10000期间，对应的AUC值的变化，图15(b)表示权重系数a的变化从0.2到5期间，对应的AUC值的变化，图15(c)表示权重系数a的变化从100到10000期间，对应的AUC值的变化；

图16是本发明所述的基于联合深度置信网络JDBN的高光谱图像异常目标检测方法的流程图。

具体实施方式

下面结合附图举例对本发明做更详细地描述，举例采用2组合成高光谱数据和1组真实高光谱数据，分别为萨利纳斯山谷为背景的合成高光谱数据、帕维亚大学为背景的合成高光谱数据和三架飞机真实高光谱数据。

参照图1，是DBNs的构成示意图。DBNs通常由若干个RBM组成，其训练过程分为预训练和微调两部分，预训练阶段，低层的RBM训练完成之后，将其隐藏层(Hidden layer)的输出作为高一层RBM的输入；微调过程利用反向传播(BP)算法计算各层误差，最后利用随机梯度下降(SGD)算法完成各层权值及偏置的更新。在本发明中，利用DBNs作为自动编码器，对高光谱数据分布进行无监督建模。

参照图2，是以萨利纳斯山谷为背景的合成高光谱数据和其异常目标分布图；该数据背景是由AVIRIS传感器获得的224个波段的加利福尼亚州萨利纳斯山谷数据，空间尺寸为512×217个像素点；截取130×100个像素点和110个波段作为实验数据背景，异常目标和白噪声嵌入不同的背景区域，图2(a)是第100波段的数据；图2(b)是异常目标分布图。

参照图3，是萨利纳斯山谷合成数据背景和异常目标的光谱曲线；图3(a)是背景的光谱曲线，其背景主要由4类组成，图3(b)是异常目标的光谱曲线。

参照图4，是三架飞机的真实高光谱数据；该数据是由AVIRIS传感器获得的圣地亚哥飞机场数据，截取120×120个像素点和128个波段的三架飞机部分作为实验数据，图4(a)是第100波段的数据；图4(b)是异常目标分布图。

参照图5，是以帕维亚大学为背景的合成高光谱数据和其异常目标分布图；该数据背景是由ROSIS传感器在意大利北部帕维亚上空飞行时获得的103个波段的帕维亚大学数据，空间尺寸为610×610个像素点；截取空间尺寸为300×200个像素点的部分作为实验数据背景，异常目标和白噪声嵌入不同的背景区域，图5(a)是第60波段的数据；图5(b)是异常目标分布图。

参照图6，是帕维亚大学合成数据背景和异常目标的光谱曲线；图6(a)是背景的光谱曲线，其背景主要由3类组成，图6(b)是异常目标的光谱曲线。

表1所示为本发明的JDBN方法和其三种对比方法LRX、局部稀疏差异(LSD)和基于低秩和稀疏矩阵分解的马氏距离检测算法(LSMAD)的参数取值。(W_in,W_out)表示双窗尺寸，P是进行PCA降维的主成分，r为低秩矩阵的最大秩，k为稀疏矩阵的基数，W是张量的空间尺寸，n是批量大小，a是权重系数。为了对比的公平，三种对比方法LRX、LSD和LSMAD的参数都为最优参数。

表1

参照图7，是萨利纳斯山谷合成数据的检测结果二值图，从7(a)到7(d)依次对应LRX，LSD，LSMAD和本发明的JDBN方法，可见7(a)和7(d)中的背景一致性要优于7(b)和7(c)，7(d)中的异常目标相对于7(a)、7(b)和7(c)更加清晰。

参照图8，是参照图7对应的AUC值柱状图和可分性图，从图8(a)可见，本发明的JDBN方法的AUC值要高于其他三种对比方法。从图8(b)可见，JDBN方法的背景压缩能力要优于LSD和LSMAD方法，弱于LRX方法；JDBN方法的背景和异常目标区分能力优于三种对比方法。

从参照图7和参照图8的分析可见，针对萨利纳斯山谷合成数据，本发明的JDBN方法的检测效果优于LRX，LSD和LSMAD方法。

参照图9，是三架飞机的真实高光谱数据的检测结果二值图，从9(a)到9(d)依次对应LRX，LSD，LSMAD和本发明的JDBN方法，可见9(b)和9(d)中的异常目标的清晰度优于9(a)和9(c)，图9(d)中的背景一致性优于图9(b)。

参照图10，是参照图9对应的ROC曲线图和可分性图，从图9(a)可见，本发明的JDBN方法的ROC曲线整体在其他三种对比方法之上。从图9(b)可见，JDBN方法的背景压缩能力优于LSD法，弱于LRX和LSMAD方法；JDBN方法的背景和异常目标区分能力优于三种对比方法。

从参照图9和参照图10的分析可见，针对三架飞机的真实高光谱数据，本发明的JDBN方法的检测效果优于LRX，LSD和LSMAD方法。

参照图11，是帕维亚大学合成数据的检测结果二值图，从图11(a)到图11(d)依次对应LRX，LSD，LSMAD和本发明的JDBN方法，可见图11(d)中的异常目标相对于图11(a)、图11(b)和图11(c)更加清晰。

参照图12，是参照图11对应的ROC曲线图和可分性图，从图12(a)可见，本发明的JDBN方法的ROC曲线整体在其他三种对比方法之上。从图12(b)可见，JDBN方法的背景压缩能力优于LSD方法，弱于LRX和LSMAD方法；JDBN方法的背景和异常目标区分能力优于三种对比方法。

从参照图11和参照图12的分析可见，针对帕维亚大学合成数据，本发明的JDBN方法的检测效果优于LRX，LSD和LSMAD方法。

基于上述2组合成高光谱实验数据和1组真实高光谱实验数据的分析，可得出本发明的JDBN方法检测效果整体上优于三种对比方法LRX，LSD和LSMAD，因为JDBN方法利用DBNs深度学习模型和张量结构充分挖掘了高光谱图像数据的空间和光谱特性，此外，原始高光谱图像数据和其稀疏矩阵的联合模型降低了低秩矩阵最大秩和稀疏矩阵基数的盲选取对检测结果的影响。本发明所有的实验都是在英特尔i7的CPU和16G内存的计算机上，语言环境为MATLAB。表2所示为4种测试方法采用最优参数设置的运算时间，可见本发明的JDBN方法的运算时间在可接受的范围。

表2

在本发明所提出的JDBN方法中，有5个主要参数的设置对检测结果产生较大的影响，分别为低秩矩阵的最大秩r，稀疏矩阵的基数k，张量的空间尺寸W，批量大小n和权重系数a。

首先，固定张量的空间尺寸W、批量大小n和权重系数a，检测低秩矩阵的最大秩r和稀疏矩阵的基数k对检测结果的影响。本发明所提出的JDBN方法由两部分组成，如公式(1)所示，第一部分是基于原始高光谱图像数据，第二部分是基于原始高光谱数据的稀疏矩阵，r和k仅影响第二部分的检测结果。针对萨利纳斯山谷合成数据，W和n的值分别设定为1和10，JDBN方法中参数r和k变化对第二部分检测结果AUC值的影响如表3所示，加粗值为最优值。r的取值范围从8到60，k的取值范围从10²到10⁶，当r取值为20，k取值为10⁵时，AUC取最优值0.9992。

表3

针对三架飞机真实高光谱数据，W和n的值分别设定为1和200，JDBN方法中参数r和k变化对第二部分检测结果AUC值的影响如表4所示，加粗值为最优值。r的取值范围从2到20，k的取值范围从10²到10⁶，当r取值为3，k取值为10⁵是，AUC取最优值0.9749。

表4

针对帕维亚大学合成数据，W和n的值分别设定为1和2000，JDBN方法中参数r和k变化对第二部分检测结果AUC值的影响如表5所示，加粗值为最优值。r的取值范围从5到90，k的取值范围从10²到10⁶，当r取值为70，k取值为10⁴时，AUC取最优值0.7884。

表5

其次，固定r，k和n，检测W对检测结果AUC值的影响，如参照图13所示，柱状图“data2”表示的为原始高光谱数据，柱状图“data1”表示的为原始高光谱数据的稀疏矩阵。针对萨利纳斯山谷合成数据，r，k和n分别设置为20，10⁵和10，如图13(a)中柱状图data2的数据所示，当W设置为1(1×1)时，原始高光谱数据获得最优AUC值0.8770；如图13(a)中柱状图data1的数据所示，当W设置为1(1×1)时，原始高光谱数据的稀疏矩阵获得最优AUC值0.9992。针对三架飞机真实高光谱数据，r，k和n分别设置为3，10⁵和200，如图13(b)中柱状图data2的数据所示，当W设置为5(5×5)时，原始高光谱数据获得最优AUC值0.4856；如图13(b)中柱状图data1的数据所示，当W设置为3(3×3)时，原始高光谱数据的稀疏矩阵获得最优AUC值0.9892。针对帕维亚大学合成数据，r，k和n分别设置为70，10⁴和2000，如图13(c)中柱状图data2的数据所示，当W设置为3(3×3)时，原始高光谱数据获得最优AUC值0.7390；如图13(c)中柱状图data1的数据所示，当W设置为3(3×3)时，原始高光谱数据的稀疏矩阵获得最优AUC值0.9364。

再者，固定r，k和W，检测n对检测结果AUC值的影响，针对此三组实验数据的本组验证，基于高光谱原始图像稀疏矩阵的AUC值优于基于原始高光谱图像数据的AUC值，所以，参照图14所示为基于原始高光谱图像稀疏矩阵的AUC值的变化。针对萨利纳斯山谷合成数据，r和k分别设置为20和10⁵，此外，W在原始高光谱数据和其稀疏矩阵中，都设置为1；如参照图14(a)所示，n的取值从10到200，当n为25时，基于原始高光谱图像稀疏矩阵的最优AUC值为0.9997；此时，对应的基于原始高光谱数据的最优AUC值为0.8770。针对三架飞机真实高光谱数据，r和k分别设置为3和10⁵，此外，W在原始高光谱数据和其稀疏矩阵中，都设置为3；如参照图14(b)所示，n的取值从10到300，当n为80时，基于原始高光谱图像稀疏矩阵的最优AUC值为0.9907；此时，对应的基于原始高光谱数据的最优AUC值为0.6120。针对帕维亚大学合成数据，r和k分别设置为70和10⁴，此外，W在原始高光谱数据和其稀疏矩阵中，都设置为3；如参照图14(c)所示，n的取值从10到2000，当n为400时，基于原始高光谱图像稀疏矩阵的最优AUC值为0.9411；此时，对应的基于原始高光谱数据的最优AUC值为0.7390。

最后，固定其他参数，检测a对检测结果AUC值的影响，如参照图15所示。针对萨利纳斯山谷合成数据，如参照图15(a)所示，a的变化从1到10000，当a为1000或者10000时，得到最优AUC值0.9997，这说明基于该数据图像，本发明JDBN算法的第二部分基于原始高光谱图像稀疏矩阵的检测对最终最优检测结果的贡献远大于第一部分基于原始高光谱图像数据的检测。针对三架飞机真实高光谱数据，如参照图15(b)所示，a的变化从0.2到5，当a为0.6到1时，得到最优AUC值0.9912，这说明基于该数据图像，本发明JDBN算法的第一部分的检测对最终最优检测结果的贡献大于或者等于第二部分的检测。针对帕维亚大学合成数据，如参照图15(c)所示，a的变化从100到10000，当a为200或者600时，得到最优AUC值0.9607，这说明基于该数据图像，本发明JDBN算法的第二部分的检测对最终最优检测结果的贡献远大于第一部分的检测。

经过上述实施例，针对两组合成高光谱数据和一组真实高光谱数据，分别采用本发明所述的方法以及现有技术的三种方法(LRX、LSD和LSMAD)进行异常目标检测，通过对比检测结果能够确定，本发明所述的方法与现有三种方法相比较，获得的异常目标更加清晰、背景与异常目标的区分能力也更优，因此，本发明所述的高光谱图像异常目标检测方法与现有同类方法相比较获得了预料不到的更好的结果。

上述为本发明特举之实施例，并非用以限定本发明。本发明提供的基于联合深度置信网络的高光谱图像异常目标检测方法同样适用于其他的高光谱图像异常目标检测。在不脱离本发明的实质和范围内，可做些许的调整和优化，以本发明的保护范围以权利要求为准。

Claims (5)

1.基于联合深度置信网络的高光谱图像异常目标检测方法，包括以下几个步骤：

首先，对待处理的高光谱图像数据分别进行如下处理：

步骤(1)：对高光谱图像数据中利用测试点张量DBNs重建误差进行异常检测；

步骤(2)：利用低秩稀疏分解LRASMD获得待处理的高光谱图像数据的稀疏矩阵；在稀疏矩阵中计算测试点张量DBNs重建误差进行异常检测；

然后，利用联合深度置信网络检测器对上述两个异常检测结果进行处理，获得高光谱图像异常目标检测结果。

2.根据权利要求1中所述的基于联合深度置信网络的高光谱图像异常目标检测方法，其特征在于：对待处理的高光谱图像数据中计算测试点张量和其DBNs重建误差的2范数。

3.根据权利要求1中所述的基于联合深度置信网络的高光谱图像异常目标检测方法，其特征在于：利用低秩稀疏分解LRASMD获得待处理的高光谱图像数据的稀疏矩阵的方法是采用通过GoDec算法实现分解低秩矩阵和稀疏矩阵。

4.根据权利要求1中所述的基于联合深度置信网络的高光谱图像异常目标检测方法，其特征在于：在稀疏矩阵中计算测试点张量和其DBNs重建误差的2范数。

5.根据权利要求1中所述的基于联合深度置信网络的高光谱图像异常目标检测方法，其特征在于：采用如下的联合深度置信网络检测器获得最终的异常目标检测结果D_T(³Γ)：

其中，³Γ是待处理的高光谱图像数据中测试点张量的一维形式，³Γ_s是待处理的高光谱图像数据的稀疏矩阵中测试点张量的一维形式；r_DBN()是DBNs重建模型；a是协调两部分的权重系数。

Images