CN107563355B - 基于生成对抗网络的高光谱异常检测方法 - Google Patents

Abstract

本发明提供的是一种基于生成对抗网络的高光谱异常检测方法。1、构建符合高光谱图像数据特点的网络模型，2、使用高光谱数据集作为训练样本，训练出一个符合高光谱数据统计特性的概率模型，3、利用训练完成的判别器来计算待测像元属于真实高光谱数据集的概率，4、计算高光谱数据集中的每个像元的异常检测结果。本发明利用生成对抗网络的思想，训练出符合高光谱图像数据特征的概率模型，该模型能够生成符合真实高光谱数据集整体统计特性的生成数据集，并且能够判断一个像元属于高光谱数据集的概率。本发明不需要对高光谱数据集的特征进行模型假设，能够直接估计出符合待测高光谱数据统计特性的概率模型，使检测结果更加可靠。

Description

基于生成对抗网络的高光谱异常检测方法

技术领域

本发明涉及的是一种高光谱图像的异常检测方法。

背景技术

高光谱遥感图像具有丰富的光谱信息。它在目标识别、分类、提取感兴趣目标信息领域具有很大的优势。高光谱异常检测是一种无监督的方法，该技术不需要目标和背景的先验信息，能够找出不同光谱之间与周围背景明显偏差的异常目标。在大多数情况下，目标和背景的先验信息很难获得，所以无监督的异常检测技术在实际应用中具有重要意义。

在传统的RX异常检测中，通常假设高光谱数据的特征服从高斯正态分布，然后通过构建一个高斯正态分布的假设模型来估计像元属于异常点的概率。然而，由于高光谱数据的高维特性，高光谱数据集的特征通常不符合任何理想状态的数学分布，高斯正态分布很难有效地估计出高光谱数据的分布，从而导致异常检测结果的精确度较低。还有一些基于高光谱异常检测的研究中，假设高光谱图像具有非线性特性，然后对高光谱数据做非线性映射，从而达到增强目标和背景之间差异性的目的。如以RX异常检测为基础的核RX异常检测算法(Kernel RX,KRX)能够将高光谱数据映射到核空间，能够有效的分离目标和背景。此外，还有基于流形学习的高光谱图像异常检测方法(如：局部线性嵌入Locally LinearEmbedding,LLE)能够获得高光谱数据的流形特征，也是一种现今比较流行的高光谱异常检测方法。但是，KRX和LLE异常检测算法都是以RX为基础，所构建的假设模型都是基于高斯正态分布的。在最近的研究中，稀疏和低秩(Sparse and Low-rank，SL)被应用于高光谱异常检测方法，这个方法是一种以稀疏和低秩特性构成的假设模型。假设图像的背景信息具有低秩特性(由于背景具有很强的相关性)，而异常目标具有稀疏特性(由于异常目标是小概率事件)。

发明内容

本发明的目的在于提供一种检测性能高并能用于检测高光谱图像中变化的目标的基于生成对抗网络的高光谱异常检测方法。

本发明的目的是这样实现的：

步骤(1)：构建符合高光谱图像数据特点的网络模型，

网络模型由生成器G和判别器D两个网络构成，生成器G和判别器D都是由三层神经网络组成，分别为输入层、隐含层和输出层，其中判别器D是一种典型的用于二分类的网络结构，输出层只有一个单元，判别器D能够得到待测数据是否真实的概率；生成器G能够通过输入的随机噪声生成与真实高光谱数据集同维度的生成数据集；

步骤(2)：使用高光谱数据集作为训练样本，训练出一个符合高光谱数据统计特性的概率模型，

使用高光谱数据集作为训练样本，结合步骤(1)构建的网络模型，通过生成器G和判别器D的交替训练，训练生成器G使生成数据集G的分布无限接近于真实的高光谱数据集X，即使生成器D认为数据集G中的样本为‘真’；训练判别器D区分数据集G和X；

步骤(3)：利用训练完成的判别器来计算待测像元属于真实高光谱数据集的概率，

当两个模型达到稳态时，整个网络模型是一种符合高光谱数据统计规律的概率模型，生成的数据集G是一组符合真实高光谱数据统计规律的新样本集合，判别器计算出待测样本符合高光谱数据集统计规律的概率；

步骤(4)：计算高光谱数据集中的每个像元的异常检测结果，

将在某种程度上偏离背景分布的目标定义为异常，即异常目标的光谱信息明显不同于背景，。异常目标的检测结果定义为像元不属于高光谱数据集的概率。

本发明还可以包括：

1、步骤(1)具体包括：在生成器G中，将随机噪声z＝{z⁽¹⁾,z⁽²⁾,...,z^(M)}作为输入，M为输入随机噪声的个数，通过生成器G得到与真实高光谱数据集同维度的生成数据集G＝{g⁽¹⁾,g⁽²⁾,...,g^(M)}

其中，

分别代表生成器中输入层和隐含层之间的权重和偏置；

分别代表生成器中隐含层和输出层之间的权重和偏置；g₁,g₂分别是生成器中隐含层和输出层的激活函数，设定为g(x)＝1/(1+e^-x)；

在判别器D中，将真实的高光谱数据集X＝{x⁽¹⁾,x⁽²⁾,...,x^(M)}和生成数据集G作为输入，则输出层的激活值为：

其中，k为待测数据，来自于数据集X或G中；y∈{0,1}是输出层的激活函数值，代表待测数据k属于‘真’的概率；

分别是判别器D中各层的权重和偏置，f₁,f₂是判别器的激活函数，设定为f(x)＝1/(1+e^-x)。

2、步骤(2)具体包括：初始时，数据集G和X的分布不相同，然后通过两个模型的交替训练，最终得到的生成数据集G的分布接近于X，并且判别器D无法区分待测数据属于哪个数据集，此时，两个模块交替训练过程中达到一个稳态，判别器计算出高光谱数据集中每一个像元属于这个数据集的概率，它的目标函数是

其中，x是真实高光谱图像；D(x)代表通过判别器D判断x为真的概率；D(G(z))代表通过判别器D判断生成的数据G(z)为真的概率；

首先训练判别器D，使用X和G作为输入，设置X的标签为Y＝1，G的标签为Y＝0，通过随机梯度上升的方法更新判别器D的参数：

其中m为样本最小块的大小，

然后训练生成器G，首先固定判别器D的参数，然后利用随机梯度下降方法更新生成器G的参数：

训练使得D(G(z))接近于1，此时生成器G的参数更新来自于判别器D的反传梯度。

3、步骤(3)具体包括：高光谱数据集每一个像元属于此数据集的概率：

其中，P(Y＝1|x)是在样本x的条件下Y＝1的概率，即像元x属于高光谱数据集合X的概率，它等于判别器输出层的激活值。

4、步骤(4)具体包括：

R(x⁽ⁱ⁾)＝1-P(Y＝1|x⁽ⁱ⁾)

其中R(x⁽ⁱ⁾)是第i个像元x⁽ⁱ⁾的检测结果。

本发明利用生成对抗网络的思想，构建出一种新型的高光谱异常检测的假设模型。这个假设模型不需要假设高光谱数据的特征符合任何理想状态下的数学分布。生成对抗网络能够自动地训练出符合待测高光谱数据集的统计特性的网络结构，并且直接计算每一个像元属于高光谱数据集的概率。

本发明的特点包括：

1、不需要对高光谱数据集的特征进行模型假设，能够直接估计出符合待测高光谱数据统计特性的概率模型，大大提高了检测性能。

2、相对于其他基于高光谱图像异常点的假设，本发明的高光谱异常检测的假设模型更为符合高光谱图像的本质特性。

3、通过训练完成的生成对抗网络模型，能够检测到当前场景下变化的目标，并且不需要对模型进行重新训练，大大提高了检测效率。

4、有效地检测复杂背景下得多类异常点，提高了高光谱异常检测的精度。

本发明与已有的高光谱异常检测方法不同，是利用生成对抗网络的思想对高光谱图像的统计特性进行建模，提出的一种新的高光谱图像异常检测方法。本发明的优点及有益效果如下：

1.本发明针对传统异常检测方法需要假设高光谱图像的背景符合高斯正态分布的问题，提出了一种新的异常检测方法。本发明不需要对高光谱数据集的背景进行模型假设，能够直接估计出符合待测高光谱数据统计特性的概率模型，大大提高了检测性能。

2.本发明提出的高光谱异常检测的假设模型更为符合实际情况。在真实的高光谱图像的场景中，训练完成的生成对抗网络的模型，模型的参数已经固定，它能够检测到当前场景下每个像元属于此场景的概率。如果在相同场景下，某些位置发生变化，变化的位置很容易被判定为异常，在这个过程中，不需要对网络模型进行重新训练。因此，本发明同样可以用于检测高光谱图像中变化的目标。

附图说明

图1为基于生成对抗网络的高光谱异常检测方法流程图。

图2为生成对抗网络的结构。

图3a为第一个实验数据(D₁)的假彩色图像；图3b真实地物分布图。

图4为D₁在不同对比算法中的ROC曲线。

图5为D₁在不同对比算法中的AUC值。

图6a为第二个实验数据(D₂)的假彩色图像；图6b真实地物分布图。

图7为D₂在不同对比算法中的ROC曲线。

图8为D₂在不同对比算法中的AUC值。

图9a为第三个实验数据(D₃)的假彩色图像；图9b真实地物分布图。

图10为D₃在不同对比算法中的ROC曲线。

图11为D₃在不同对比算法中的AUC值。

具体实施方式

下面举例对本发明做更详细的描述。

步骤(1)：根据生成对抗网络的思想，构建出符合高光谱图像数据特点的网络模型

如附图2所示，整个网络模型由生成器G和判别器D两个网络构成。G和D都是由三层神经网络组成，分别为输入层、隐含层和输出层。其中D是一种典型的用于二分类的网络结构，输出层只有一个单元。G能够通过输入的随机噪声生成与真实高光谱数据集同维度的生成数据集。D能够得到待测数据是否真实的概率。

步骤(2)：使用高光谱数据集作为训练样本，训练出一个符合高光谱数据统计特性的概率模型

使用高光谱数据集作为训练样本，结合上一步构建的网络模型，通过G和D的交替训练，得到一个符合高光谱数据集统计特性的概率模型。训练G的目的是为了使生成数据集G的分布无限接近于真实的高光谱数据集X，即能够使D认为数据集G中的样本为‘真’。训练D的目的是提高区分数据集G和X的能力。

步骤(3)：利用训练完成的判别器D来计算待测像元属于真实高光谱数据集的概率

当两个模型达到稳态时，整个网络模型是一种符合高光谱数据统计规律的概率模型。生成的数据集G是一组符合真实高光谱数据统计规律的新样本集合，判别器能够计算出待测样本符合高光谱数据集统计规律的概率。

步骤(4)：计算高光谱数据中的每个像元的异常检测结果

在高光谱异常检测中，将在某种程度上偏离背景分布的目标定义为异常，即异常目标的光谱信息明显不同于背景。也就是说异常目标的检测结果可以定义为像元不属于高光谱数据集的概率。

本发明中，所述的步骤(1)具体过程如下：

在G中，将随机噪声z＝{z⁽¹⁾,z⁽²⁾,...,z^(M)}作为输入，M为输入随机噪声的个数。通过G，我们能够得到与真实高光谱数据集同维度的生成数据集G＝{g⁽¹⁾,g⁽²⁾,...,g^(M)}

其中，

分别代表生成器中输入层和隐含层之间的权重和偏置。

代表生成器中隐含层和输出层之间的权重和偏置。g₁,g₂是生成器中隐含层和输出层的激活函数，一般设定为g(x)＝1/(1+e^-x)。

注意：随机噪声z和得到的生成数据的维数通常是不同的。

在D中，将真实的高光谱数据集X＝{x⁽¹⁾,x⁽²⁾,...,x^(M)}(随机噪声的个数一般设定与高光谱数据集个数相同)和生成数据集G作为输入，则输出层的激活值为：

其中，k为待测数据，来自于数据集X或G中；y∈{0,1}是输出层的激活函数值，代表待测数据k属于‘真’的概率；

是D中各层的权重和偏置，f₁,f₂是判别器的激活函数，一般设定为f(x)＝1/(1+e^-x)。

本发明中，所述的步骤(2)具体过程如下：

初始时，数据集G和X的分布很不相同，然后通过两个模型的交替训练，最终得到的生成数据集G的分布能够无限接近于X，并且D无法区分待测数据属于哪个数据集。此时，两个模块交替训练过程中达到一个稳态，判别器能够计算出高光谱数据集中每一个像元属于这个数据集的概率。它的目标函数是

其中，x是真实高光谱图像，；D(x)代表通过D判断x为真的概率；D(G(z))代表通过D判断生成的数据G(z)为真的概率。

训练D的目的是最大化自身的判别准确率，而与之相反的是，G的训练目的是最小化D的判别准确率。具体来说，随着D的能力增强，D(x)逐渐增大，D(G(x))减小，这时公式(3)会逐渐达到最大值，因此对于D来说，目的是得到目标函数的最大值。与之相反，G希望D(G(x))达到最大值，因此对于G来说，目的是得到目标函数的最小值。

为了实现上述目的，首先训练D，使用X和G作为输入，设置X的标签为Y＝1，G的标签为Y＝0。通过随机梯度上升的方法更新D的参数：

其中m为样本最小块的大小。

然后训练G，为了使G生成的数据被判别器看做真实高光谱数据，首先需要固定D的参数。然后利用随机梯度下降方法更新G的参数:

训练的目的是使得D(G(z))接近于1，即使得公式(3)的目标函数达到最小值。此时G的参数更新来自于D的反传梯度。

本发明中，所述的步骤(3)具体过程如下：

高光谱数据集每一个像元属于此数据集的概率：

其中，P(Y＝1|x)是在样本x的条件下Y＝1的概率，即像元x属于高光谱数据集合X的概率。它等于判别器输出层的激活值。

本发明中，所述的步骤(4)具体过程如下：

R(x⁽ⁱ⁾)＝1-P(Y＝1|x⁽ⁱ⁾) (7)

其中R(x⁽ⁱ⁾)是第i个像元x⁽ⁱ⁾的检测结果。

下面结合附图举例对本发明的效果做更详细地描述，举例分别采用真实的和合成的高光谱数据：

参考图1，是本发明的详细流程图。首先，根据高光谱图像的数据特点，构建一个生成对抗网络框架。其次，使用高光谱数据集作为训练样本，训练出一个符合高光谱数据统计特性的概率模型，再次，将高光谱数据集的每一个像元输入到判别模型，得到待测像元属于高光谱数据集的概率，最后，计算高光谱数据中的每一个像元的异常检测结果。

参照图2，是生成对抗网络模型的基本框架，它是由生成器和判别器构成的。其中，生成器采用3层的神经网络，主要用于将随机分布的噪声生成为与高光谱数据集同分布的假数据集。判别器是一种典型的用于二分类的神经网络模型，它由三层神经网络构成。判别器主要用于判别一个样本是属于真实高光谱数据集还是属于生成器生成的假数据集。

参照图3a-图3b，图3a是第一个实验数据D₁的假彩色图像，它在一个真实的高光谱数据集中截取其中100×100个像元，其中包含38架飞机作为异常目标。这个真实的高光谱数据集是通过AVIRIS高光谱遥感仪在美国圣地亚哥机场地区得到的，这个高光谱数据集有224个光谱波段从0.4μm到2.5μm。移除了低信噪比和水吸收波段，保留了126个波段。图3b是它的真实地物分布图。

表1参数选择

参考图4，是数据集D₁在RX异常检测、核RX异常检测(Kernel RX,KRX)、流形学习中局部线性嵌入(Locally Linear Embedding,LLE)、稀疏和低秩的异常检测算法(Sparseand Low-rank,SL)和基于生成对抗网络(Generative Adversarial Networks,GAN)的高光谱异常检测方法下最优检测结果的ROC曲线。此时生成对抗网络的参数选择如表1中数据集D₁所示。

参考图5，是参考图3中各种算法ROC曲线所对应的曲线下面积(AUC值)。

参考图6a-图6b，图6a是第二个实验数据D₂的假彩色图像，它在一个真实高光谱数据集中截取其中的100×100个像元，包含3个目标。这个真实高光谱数据集是通过HyMap传感器在美国蒙大拿州库克城采集得到的，它由126个光谱波段组成，范围是0.45μm到2.5μm。空间分辨率为3m。图6b是它的真实地物分布图。

参考图7，是数据集D₂在RX、KRX、LLE、SL和GAN下的高光谱异常检测方法下最优检测结果的ROC曲线。此时生成对抗网络的参数选择如表1中数据集D₂所示。

参考图8，是图7中各种算法ROC曲线所对应的曲线下面积(AUC值)。

参考图9a-图9b，图9a是一个合成高光谱数据集，背景来自数据集D₂，裁剪其中90×90个像元。目标来自于数据集D₁，分别是油桶，房屋，飞机和树。图9b是它的真实地物分布图。

参考图10，是数据集D₃在RX、KRX、LLE、SL和GAN下的高光谱异常检测方法下最优检测结果的ROC曲线。此时生成对抗网络的参数选择如表1中数据集D₃所示。

参考图11，是图10中各种算法ROC曲线所对应的曲线下面积(AUC值)。

由图4、图7、图10可见，本发明所构建的异常检测模型的检测效果要优于其他对比算法。由图5、图8和图11可见，相比传统的RX异常检测算法，本发明的AUC值分别提高了12.84％、34.6％、38.41％。这是由于相比D1，D2和D3的背景复杂度较高(即背景的地物种类数较多)，所以我们可以看出，本发明在背景较为复杂的情况下，检测的效果更好。相比于稀疏和低秩的方法，本发明的AUC值分别提高了10.22％,10.42％,30.97％。由此可以看出，本发明所提出的异常检测假设模型不仅要优于以RX假设模型为基础的KRX和LLE，而且相较于基于稀疏和低秩的假设模型具有更为准确的检测精度。

上述为本发明特举之实施例，并非用以限定本发明。本发明提供的基于生成对抗网络的高光谱异常检测方法同样适用于其他的高光谱异常检测。在不脱离本发明的实质和范围内，可做些许的调整和优化，以本发明的保护范围以权利要求为准。

Claims (1)

1.一种基于生成对抗网络的高光谱异常检测方法，其特征是：

步骤(1)：根据生成对抗网络的思想，构建符合高光谱图像数据特点的网络模型，

网络模型由生成器G和判别器D两个网络构成，生成器G和判别器D都是由三层神经网络组成，分别为输入层、隐含层和输出层，其中判别器D是一种典型的用于二分类的网络结构，输出层只有一个单元，判别器D能够得到待测数据是否真实的概率；生成器G能够通过输入的随机噪声生成与真实高光谱数据集同维度的生成数据集；

步骤(2)：使用高光谱数据集作为训练样本，训练出一个符合高光谱数据统计特性的概率模型，

使用高光谱数据集作为训练样本，结合步骤(1)构建的网络模型，通过生成器G和判别器D的交替训练，训练生成器G使生成数据集G的分布无限接近于真实的高光谱数据集X，即使生成器D认为数据集G中的样本为‘真’；训练判别器D区分数据集G和X；

步骤(3)：利用训练完成的判别器来计算待测像元属于真实高光谱数据集的概率，

当两个模型达到稳态时，整个网络模型是一种符合高光谱数据统计规律的概率模型，生成的数据集G是一组符合真实高光谱数据统计规律的新样本集合，判别器计算出待测样本符合高光谱数据集统计规律的概率；

步骤(4)：计算高光谱数据集中的每个像元的异常检测结果，

将在某种程度上偏离背景分布的目标定义为异常，即异常目标的光谱信息明显不同于背景，异常目标的检测结果定义为像元不属于高光谱数据集的概率；

步骤(1)具体包括：在生成器G中，将随机噪声z＝{z⁽¹⁾,z⁽²⁾,...,z^(M)}作为输入，M为输入随机噪声的个数，通过生成器G得到与真实高光谱数据集同维度的生成数据集G＝{g⁽¹⁾,g⁽²⁾,...,g^(M)}

其中，

分别代表生成器中输入层和隐含层之间的权重和偏置；

分别代表生成器中隐含层和输出层之间的权重和偏置；g₁,g₂分别是生成器中隐含层和输出层的激活函数，设定为g(x)＝1/(1+e^-x)；

在判别器D中，将真实的高光谱数据集X＝{x⁽¹⁾,x⁽²⁾,...,x^(M)}和生成数据集G作为输入，则输出层的激活值为：

其中，k为待测数据，来自于数据集X或G中；y∈{0,1}是输出层的激活函数值，代表待测数据k属于‘真’的概率；

分别是判别器D中各层的权重和偏置，f₁,f₂是判别器的激活函数，设定为f(x)＝1/(1+e^-x)；

步骤(2)具体包括：初始时，数据集G和X的分布不相同，然后通过两个模型的交替训练，最终得到的生成数据集G的分布接近于X，并且判别器D无法区分待测数据属于哪个数据集，此时，两个模块交替训练过程中达到一个稳态，判别器计算出高光谱数据集中每一个像元属于这个数据集的概率，它的目标函数是

其中，x是真实高光谱图像；D(x)代表通过判别器D判断x为真的概率；D(G(z))代表通过判别器D判断生成的数据G(z)为真的概率；

首先训练判别器D，使用X和G作为输入，设置X的标签为Y＝1，G的标签为Y＝0，通过随机梯度上升的方法更新判别器D的参数：

其中m为样本最小块的大小，

然后训练生成器G，首先固定判别器D的参数，然后利用随机梯度下降方法更新生成器G的参数：

训练使得D(G(z))接近于1，此时生成器G的参数更新来自于判别器D的反传梯度；

步骤(3)具体包括：高光谱数据集每一个像元属于此数据集的概率：

其中，P(Y＝1|x)是在样本x的条件下Y＝1的概率，即像元x属于高光谱数据集合X的概率，它等于判别器输出层的激活值；

步骤(4)具体包括：

R(x⁽ⁱ⁾)＝1-P(Y＝1|x⁽ⁱ⁾)

其中R(x⁽ⁱ⁾)是第i个像元x⁽ⁱ⁾的检测结果。

Images