CN112434571A - 一种基于注意力自编码网络的高光谱异常检测方法 - Google Patents

一种基于注意力自编码网络的高光谱异常检测方法 Download PDF

Info

Publication number
CN112434571A
CN112434571A CN202011240351.1A CN202011240351A CN112434571A CN 112434571 A CN112434571 A CN 112434571A CN 202011240351 A CN202011240351 A CN 202011240351A CN 112434571 A CN112434571 A CN 112434571A
Authority
CN
China
Prior art keywords
representing
attention
data
adopting
coding network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011240351.1A
Other languages
English (en)
Other versions
CN112434571B (zh
Inventor
孙帮勇
赵哲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xian University of Technology
Original Assignee
Xian University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xian University of Technology filed Critical Xian University of Technology
Priority to CN202011240351.1A priority Critical patent/CN112434571B/zh
Publication of CN112434571A publication Critical patent/CN112434571A/zh
Application granted granted Critical
Publication of CN112434571B publication Critical patent/CN112434571B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/10—Terrestrial scenes
    • G06V20/13—Satellite images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/243—Classification techniques relating to the number of classes
    • G06F18/2433—Single-class perspective, e.g. one-against-all classification; Novelty detection; Outlier detection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A40/00—Adaptation technologies in agriculture, forestry, livestock or agroalimentary production
    • Y02A40/10—Adaptation technologies in agriculture, forestry, livestock or agroalimentary production in agriculture

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Astronomy & Astrophysics (AREA)
  • Multimedia (AREA)
  • Remote Sensing (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明公开了一种基于注意力自编码网络的高光谱异常检测方法，步骤包括：步骤1、制作训练数据集；步骤2、采用通道注意力机制来区分不同波段对异常检测的贡献；步骤3、采用空间注意力机制来增大异常像素与背景像素的可分性；步骤4、采用编码网络提取空谱特征；步骤5、采用记忆模块弱化网络表达能力；步骤6、通过解码器重构输入数据；步骤7、在重构图像上用RX算法确定每个像素的异常程度。本发明的方法，有效增大有用波段对最终异常测结果的贡献，降低低信噪比波段对异常检测的干扰，从而增大异常区域与背景区域的可分性，有效促进异常检测精度，在提高检测精度的同时有效的降低了虚警率。

Description

一种基于注意力自编码网络的高光谱异常检测方法
技术领域
本发明属于高光谱影像处理技术领域，涉及一种基于注意力自编码网络的高光谱异常检测方法。
背景技术
高光谱遥感图像是一个三维的数据立方体，其中两维表达空间关系，另一维表达地物在不同波段上的反射或者辐射强度，因其具有丰富的光谱信息以及地物的空间位置关系，广泛应用于战场侦察、食品安全、环境监测等领域，而高光谱异常检测因为不需要先验信息符合实际需求等优势，近年来吸引了大量学者关注。
现有高光谱异常检测算法大致分为以下四类：基于统计模型的检测算法、基于表达模型的检测算法、基于矩阵分解的检测算法以及基于深度学习的检测算法。1)由Reed等提出的RX(Reed-Xiao li Detection,RXD)算法是基于统计模型检测方法的基准算法，RX算法假设背景服从多元正态分布，通过计算待检测像素与背景之间的马氏距离来确定每个像素的异常程度；不过，由于实际情况中高光谱数据背景复杂、很难满足正态分布假设，在检测过程中的协方差矩阵计算时，易受到异常像素的污染，所以检测精度有限。2)基于表达模型的检测算法通过重构待检测像素，最后利用重构误差进行异常检测。Li等通过协同表达思想进行高光谱异常检测，认为背景像素可以较好的由其周围像素表示，而异常像素则很难由周围像素直接表示，但此方法计算量较大且局部区域易受异常像素污染，所以在复杂背景下检测精度不高。3)基于矩阵分解的检测算法，通常把高光谱图像作为矩阵或者张量进行分解，然后检测异常目标，Xu等通过低秩矩阵分解以及字典学习提出来一种高光谱异常检测算法LRaSR(Anomaly Detection in Hyperspectral Images Based on Low-Rankand Sparse Representation,LRaSR)，此方法利用背景的低秩属性以及异常像素的稀疏属性进行异常检测。4)随着深度学习技术的快速发展，近年来许多学者提出来基于深度学习的高光谱异常检测算法，Lei等通过DBN(Deep BeliefNetwork,DBN)先提取高光谱影像的深度特征，然后在得到的特征数据上分别用RX算法和形态学滤波从光谱和空间两个角度进行异常检测，取得了较好的检测结果；Zhao等结合堆叠自编解码器和低秩稀疏矩阵分解进行空谱异常检测。
但是现有基于自编码网络的异常检测算法仅仅利用了高光谱影像的光谱信息，对于空间信息探索不足，因而检测精度有限，影响了推广应用。
发明内容
本发明的目的是提供一种基于注意力自编码网络的高光谱异常检测方法，解决了现有技术的高光谱异常检测算法，没有合理的利用高光谱影像的空谱信息，深度网络对于异常像素重构能力过强，导致异常检测精度不足的问题。
本发明的技术方案是，一种基于注意力自编码网络的高光谱异常检测方法，按照以下步骤具体实施：
步骤1、制作训练数据集，
假设输入原始高光谱影像为
Figure BDA0002768159630000021
上角标w、h和d分别表示高光谱影像的宽、高和波段数；以每个像素为中心，选取其邻域大小5×5范围内的像素来表示中心像素，遍历所有像素，对于边缘像素采用镜像操作进行填充，得到n个训练样本，即
Figure BDA0002768159630000031
其中n＝w×h；
步骤2、采用通道注意力机制来区分不同波段对异常检测的贡献；
步骤3、采用空间注意力机制来增大异常像素与背景像素的可分性；
步骤4、采用编码网络提取空谱特征，
将经过空谱注意力模块纠正后的数据送入编码网络，得到编码后的特征向量；
步骤5、采用记忆模块弱化网络表达能力，
假设记忆矩阵
Figure BDA0002768159630000032
N表示记忆矩阵中包含的向量个数，C表示每个记忆向量的维度，本步骤中设定记忆矩阵的维度等于编码特征的维度，即C＝21；假设mi,|i＝1,2,...N|表示记忆矩阵的第i行，对于每一个特征向量XL，通过一个寻址向量
Figure BDA0002768159630000033
来在记忆矩阵中寻找与之对应的记忆向量
Figure BDA0002768159630000034
Figure BDA0002768159630000035
则寻址向量
Figure BDA0002768159630000036
表达式是：
Figure BDA0002768159630000037
其中，d(·)表示余弦相似性度量，具体表达式是：
Figure BDA0002768159630000038
在训练过程中，向量采用硬压缩策略，只保留与查询向量相似度大于特定阈值的记忆向量，具体表达式是：
Figure BDA0002768159630000039
其中，λ为提前设置的阈值，ε为一个极小值；
步骤6、通过解码器重构输入数据，
通过解码器解码之后，得到重构数据，表达式如下：
Figure BDA0002768159630000041
其中，
Figure BDA0002768159630000042
表示重构的数据，Θde表示解码器的权重，bde表示解码器的偏置项；
步骤7、在重构图像上用RX算法确定每个像素的异常程度，
在得到重构的数据
Figure BDA0002768159630000043
后，把
Figure BDA0002768159630000044
拉伸成二维矩阵
Figure BDA0002768159630000045
其中n＝w×h表示像素个数，通过在
Figure BDA0002768159630000046
上用RX检测算法进行异常检测，具体表达式是：
Figure BDA0002768159630000047
其中，
Figure BDA0002768159630000048
表示
Figure BDA0002768159630000049
的第i个样本，
Figure BDA00027681596300000410
表示
Figure BDA00027681596300000411
的均值向量，
Figure BDA00027681596300000412
表示
Figure BDA00027681596300000413
协方差矩阵的逆，Map表示最终的2D检测结果图。
本发明的有益效果是，先把原始高光谱影像裁剪成以待检测像素为中心的立方体，将立方体依次送入到通道注意力模块和空间注意力模块，从而得到纠正的立方体数据，将数据送入到编码网络，得到编码特征，根据编码特征来寻找记忆模块中与其最相近的记忆单元，将记忆单元送入到解码网络，得到重构数据；最后通过在重构数据上用RX算法来确定每一个像素的异常程度。本发明方法与现有技术相比，具有如下优势：1)本发明通过通道注意力机制可以有效的增大有用波段对最终异常测结果的贡献，降低低信噪比波段对异常检测的干扰；通过空间注意力机制在强调异常像素的同时能够有效抑制背景区域，从而增大异常区域与背景区域的可分性。2)本发明利用3D卷积提取高光谱影像的特征，充分挖掘了高光谱数据的空谱特性，空谱信息结合能够有效促进异常检测精度。3)在传统自编码网络的基础上，本发明提出了一种记忆模块，该记忆模块进一步保留了正常样本的典型特征，从而迫使异常像素具有更大的重构误差，在提高检测精度的同时有效的降低了虚警率。
附图说明
图1是本发明方法采用的算法流程简图；
图2是本发明方法采用的通道注意力模块简图；
图3是本发明方法采用的空间注意力模块简图；
图4a为圣地亚哥机场局部的原始图像；图4b为此数据集图4a对应的异常目标；图4c表示RX算法对数据集图4a的检测结果；图4d表示LRX算法对数据集图4a的检测结果；图4e表示CRD算法对数据集图4a的检测结果；图4f表示LRASR算法对数据集图4a的检测结果；图4g表示RPCARX算法对数据集图4a的检测结果；图4h表示本发明方法对数据集图4a的检测结果；
图5是采用现有异常检测算法RX、LRX、CRD、LRASR、RPCARX以及本发明方法对高光谱异常目标进行检测的ROC曲线对比图；
图6是采用现有异常检测算法RX、LRX、CRD、LRASR、RPCARX以及本发明方法对高光谱异常目标进行检测的AUC值对比图。
具体实施方式
下面结合附图和具体实施方式对本发明进行详细说明。
参照图1，本发明的基于注意力自编码网络的高光谱异常检测方法，按照以下步骤具体实施：
步骤1、制作训练数据集，
假设输入原始高光谱影像为
Figure BDA0002768159630000051
上角标w、h和d分别表示高光谱影像的宽、高和波段数；以每个像素为中心，选取其邻域大小5×5范围内的像素来表示中心像素，遍历所有像素，对于边缘像素采用镜像操作进行填充，得到n个训练样本，即
Figure BDA0002768159630000052
其中n＝w×h；
步骤2、采用通道注意力机制来区分不同波段对异常检测的贡献，
参照图2，采用的通道注意力机制模块是，首先对输入的数据xi在空间维度上分别进行最大池化
Figure BDA0002768159630000061
和平均池化
Figure BDA0002768159630000062
操作，(上角标c没有特殊含义，只是区别后文中空间注意力模块的池化操作)，将得到的特征向量送入到具有一个隐藏层的多层感知器(Multi-LayerPerceptron,MLP)中，本步骤选取的隐藏节点数为21，然后将两个特征向量相加，得到最终的通道注意力权重
Figure BDA0002768159630000063
表达式如下：
Figure BDA0002768159630000064
其中，Maxpool(xi)表示对xi进行最大池化操作，Avgpool(xi)表示对xi进行平均池化操作，δ表示Sigmoid激活函数，W0表示MLP的编码的权重，W1表示MLP的解码的权重；将得到的通道注意力权重和训练样本xi相乘，得到经过通道注意力机制(第一次)纠正的数据，即：
Figure BDA0002768159630000065
其中，
Figure BDA0002768159630000066
表示逐像素相乘，Mc表示获取到的通道注意力权重；
步骤3、采用空间注意力机制来增大异常像素与背景像素的可分性，
参照图3，采用的空间注意力机制模块是，首先对纠正的数据xi′沿着光谱维度分别进行最大池化
Figure BDA0002768159630000067
和平均池化
Figure BDA0002768159630000068
操作，(上角标s没有特殊含义，只是区别前文中通道注意力模块的池化操作)，将得到的特征串联到一块，经过一次卷积得到空间注意力权重
Figure BDA0002768159630000069
卷积大小设置为3×3，表达式如下：
Figure BDA00027681596300000610
其中，δ表示Sigmoid激活函数，f3×3表示卷积核大小为3×3的卷积操作；将得到的空间注意力机制权重与纠正的数据xi′相乘，得到经过空间注意力模块(第二次)纠正的数据，即：
Figure BDA0002768159630000071
其中
Figure BDA0002768159630000072
表示逐像素相乘；
步骤4、采用编码网络提取空谱特征，
经过空谱注意力模块后，相比于(原始的)高光谱数据
Figure BDA0002768159630000073
经过两次纠正后的数据
Figure BDA0002768159630000074
更具判别性；将经过空谱注意力模块纠正后的数据送入编码网络，得到编码后的特征向量；
本步骤的编码网络结构见表1，编码过程表达式是：XL＝f(Θen*X″+ben)，其中，XL表示编码后的特征向量，Θen表示编码器的权重参数，ben表示编码器的偏置项；在编码过程中，每次卷积之后采用批归一化层(即BN层)和LReLu激活，其中的BN层能够有效的防止过拟合现象，而LReLu激活能够保留更多的信息；
表1，本步骤4采用的编码网络结构
Figure BDA0002768159630000075
步骤5、采用记忆模块弱化网络表达能力，
由于深度网络的强大表达能力，异常像素也会被网络很好地重构出来，所以本步骤采用记忆模块来记录正常样本的典型特征，来弱化网络的表达能力，使得异常像素具有更大的重构误差。
假设记忆矩阵
Figure BDA0002768159630000076
N表示记忆矩阵中包含的向量个数，C表示每个记忆向量的维度，本步骤中设定记忆矩阵的维度等于编码特征的维度，即C＝21；假设mi,|i＝1,2,...N|表示记忆矩阵的第i行(第i个向量)，对于每一个特征向量XL(作为查询向量)，通过一个寻址向量
Figure BDA0002768159630000081
来在记忆矩阵中寻找与之对应的记忆向量
Figure BDA0002768159630000082
Figure BDA0002768159630000083
则寻址向量
Figure BDA0002768159630000084
表达式是：
Figure BDA0002768159630000085
其中，d(·)表示余弦相似性度量，具体表达式是：
Figure BDA0002768159630000086
在训练过程中，记忆矩阵会不断的更新，为了防止异常像素被重构出来，本步骤向量采用硬压缩策略，只保留与查询向量相似度大于特定阈值的记忆向量，具体表达式是：
Figure BDA0002768159630000087
其中，λ为提前设置的阈值，优选λ＝2/N，ε为一个极小值，作用是为了防止分母为0；
步骤6、通过解码器重构输入数据，
经过编码器和记忆模块后，得到编码特征对应记忆矩阵中的记忆向量
Figure BDA00027681596300000811
由于记忆矩阵记忆的是正常样本的典型特征，所以对于异常样本具有较大的重构误差；通过解码器解码之后，得到重构数据，表达式如下：
Figure BDA0002768159630000088
其中，
Figure BDA0002768159630000089
表示重构的数据，Θde表示解码器的权重，bde表示解码器的偏置项；解码器的网络结构如表2所示，与编码器对称，前三层采用LReLu激活，输出层采用Sigmoid激活，
表2，本步骤6采用的解码器的网络结构
Figure BDA00027681596300000810
Figure BDA0002768159630000091
步骤7、在重构图像上用RX算法确定每个像素的异常程度，
在得到重构的数据
Figure BDA0002768159630000092
后，把
Figure BDA0002768159630000093
拉伸成二维矩阵
Figure BDA0002768159630000094
其中n＝w×h表示像素个数，通过在
Figure BDA00027681596300000912
上用RX检测算法进行异常检测，具体表达式是：
Figure BDA0002768159630000095
其中，
Figure BDA0002768159630000096
表示
Figure BDA0002768159630000097
的第i个样本，
Figure BDA0002768159630000098
表示
Figure BDA0002768159630000099
的均值向量，
Figure BDA00027681596300000910
表示
Figure BDA00027681596300000911
协方差矩阵的逆，Map表示最终的2D检测结果图。
本发明的使用效果通过以下仿真实验进一步说明。
1)仿真条件
本发明的仿真条件基于Intel(R)Xeon(R)CPU、GeForce RTX 1080Ti GPU内存大小为256G的硬件环境，采用Tensorflow深度学习框架、Python 3.7.9和Matlab2018b软件环境。
2)仿真内容与结果分析
仿真1，图4是采用现有异常检测算法RX、LRX、CRD、LRASR、RPCARX以及本发明方法(Our)对高光谱异常目标的检测结果图，其中，图4a为圣地亚哥机场图的原始图像(AVIRIS数据集)，显示其中三个波段，此图像大小为100×100×189。图4b为此数据集对应的异常目标(AVIRIS数据集标签)，即三架飞机，此图像大小为100×100，黑色部分表示背景信息，白色部分表示异常目标。图4c表示RX算法对数据集图4a的检测结果；图4d表示LRX算法对数据集图4a的检测结果；图4e表示CRD算法对数据集图4a的检测结果；图4f表示LRASR算法对数据集图4a的检测结果；图4g表示RPCARX算法对数据集图4a的检测结果；图4h表示本发明方法对数据集图4a的检测结果。
由以上检测结果可以看到，相比于本发明方法，现有的这个异常检测算法存在较大的误检率，或者不能很好地检测出异常目标，而本发明方法在抑制背景的同时能够较好的检测出异常目标，所以优于其他对比算法。
仿真2，图5是异常检测算法RX、LRX、CRD、LRASR、RPCARX以及本发明方法(Our)对高光谱异常目标的检测结果的ROC曲线图，曲线越靠近左上角，表明检测性能越好。
由ROC曲线可以看出，相比于其它对比算法，本发明方法的误检率更低，检测精度更高，几乎包围了其余算法的ROC曲线。
仿真3，图6是异常检测算法RX、LRX、CRD、LRASR、RPCARX以及本发明方法(Our)对高光谱异常目标的检测结果的AUC值，AUC值越大表明算法性能越优，本发明方法的AUC值为0.9848，远远高于其它对比算法的AUC值，再次说明本发明方法的优越性。
综上所述，本发明通过3D卷积提取高光谱影像的空谱信息，为了弱化对异常像素的重构，算法采用记忆模块来记录正常样本的典型特征，从而使得异常样本具有较大的重构误差；同时考虑到不同波段以及不同像素对最终检测结果贡献的不同，本发明采用注意力机制使得不同波段以及不同像素具有不同的权重，从而提高检测精度。最后通过实验对比分析，证明了本发明方法的优越性。

Claims (5)

1.一种基于注意力自编码网络的高光谱异常检测方法，其特征在于，按照以下步骤具体实施：
步骤1、制作训练数据集，
假设输入原始高光谱影像为
Figure FDA0002768159620000011
上角标w、h和d分别表示高光谱影像的宽、高和波段数；以每个像素为中心，选取其邻域大小5×5范围内的像素来表示中心像素，遍历所有像素，对于边缘像素采用镜像操作进行填充，得到n个训练样本，即
Figure FDA0002768159620000012
其中n＝w×h；
步骤2、采用通道注意力机制来区分不同波段对异常检测的贡献；
步骤3、采用空间注意力机制来增大异常像素与背景像素的可分性；
步骤4、采用编码网络提取空谱特征，
将经过空谱注意力模块纠正后的数据送入编码网络，得到编码后的特征向量；
步骤5、采用记忆模块弱化网络表达能力，
假设记忆矩阵
Figure FDA0002768159620000013
N表示记忆矩阵中包含的向量个数，C表示每个记忆向量的维度，本步骤中设定记忆矩阵的维度等于编码特征的维度，即C＝21；假设mi,|i＝1,2,...N|表示记忆矩阵的第i行，对于每一个特征向量XL，通过一个寻址向量
Figure FDA0002768159620000014
来在记忆矩阵中寻找与之对应的记忆向量
Figure FDA0002768159620000015
Figure FDA0002768159620000016
则寻址向量
Figure FDA0002768159620000017
表达式是：
Figure FDA0002768159620000018
其中，d(·)表示余弦相似性度量，具体表达式是：
Figure FDA0002768159620000021
在训练过程中，向量采用硬压缩策略，只保留与查询向量相似度大于特定阈值的记忆向量，具体表达式是：
Figure FDA0002768159620000022
其中，λ为提前设置的阈值，ε为一个极小值；
步骤6、通过解码器重构输入数据，
通过解码器解码之后，得到重构数据，表达式如下：
Figure FDA0002768159620000023
其中，
Figure FDA0002768159620000024
表示重构的数据，Θde表示解码器的权重，bde表示解码器的偏置项；
步骤7、在重构图像上用RX算法确定每个像素的异常程度，
在得到重构的数据
Figure FDA0002768159620000025
后，把
Figure FDA0002768159620000026
拉伸成二维矩阵
Figure FDA0002768159620000027
其中n＝w×h表示像素个数，通过在
Figure FDA0002768159620000028
上用RX检测算法进行异常检测，具体表达式是：
Figure FDA0002768159620000029
其中，
Figure FDA00027681596200000210
表示
Figure FDA00027681596200000211
的第i个样本，
Figure FDA00027681596200000212
表示
Figure FDA00027681596200000213
的均值向量，
Figure FDA00027681596200000214
表示
Figure FDA00027681596200000215
协方差矩阵的逆，Map表示最终的2D检测结果图。
2.根据权利要求1所述的基于注意力自编码网络的高光谱异常检测方法，其特征在于：所述的步骤2中，采用的通道注意力机制模块是，首先对输入的数据xi在空间维度上分别进行最大池化
Figure FDA00027681596200000216
和平均池化
Figure FDA00027681596200000217
操作，将得到的特征向量送入到具有一个隐藏层的多层感知器中，然后将两个特征向量相加，得到最终的通道注意力权重
Figure FDA00027681596200000218
表达式如下：
Figure FDA0002768159620000031
其中，Maxpool(xi)表示对xi进行最大池化操作，Avgpool(xi)表示对xi进行平均池化操作，δ表示Sigmoid激活函数，W0表示MLP的编码的权重，W1表示MLP的解码的权重；将得到的通道注意力权重和训练样本xi相乘，得到经过通道注意力机制纠正的数据，即：
Figure FDA0002768159620000032
其中，
Figure FDA0002768159620000033
表示逐像素相乘，Mc表示获取到的通道注意力权重。
3.根据权利要求1所述的基于注意力自编码网络的高光谱异常检测方法，其特征在于：所述的步骤3中，采用的空间注意力机制模块是，首先对纠正的数据xi′沿着光谱维度分别进行最大池化
Figure FDA0002768159620000034
和平均池化
Figure FDA0002768159620000035
操作，将得到的特征串联到一块，经过一次卷积得到空间注意力权重
Figure FDA0002768159620000036
卷积大小设置为3×3，表达式如下：
Figure FDA0002768159620000037
其中，δ表示Sigmoid激活函数，f3×3表示卷积核大小为3×3的卷积操作；将得到的空间注意力机制权重与纠正的数据xi′相乘，得到经过空间注意力模块纠正的数据，即：
Figure FDA0002768159620000038
其中
Figure FDA0002768159620000039
表示逐像素相乘。
4.根据权利要求1所述的基于注意力自编码网络的高光谱异常检测方法，其特征在于：所述的步骤4中，编码网络结构见表1，编码过程表达式是：XL＝f(Θen*X″+ben)，其中，XL表示编码后的特征向量，Θen表示编码器的权重参数，ben表示编码器的偏置项；
在编码过程中，每次卷积之后采用批归一化层和LReLu激活；
表1，本步骤4采用的编码网络结构
Figure FDA00027681596200000310
Figure FDA0002768159620000041
5.根据权利要求1所述的基于注意力自编码网络的高光谱异常检测方法，其特征在于：所述的步骤6中，解码器的网络结构如表2所示，与编码器对称，前三层采用LReLu激活，输出层采用Sigmoid激活，
表2，本步骤6采用的解码器的网络结构
Figure FDA0002768159620000042
CN202011240351.1A 2020-11-09 2020-11-09 一种基于注意力自编码网络的高光谱异常检测方法 Active CN112434571B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011240351.1A CN112434571B (zh) 2020-11-09 2020-11-09 一种基于注意力自编码网络的高光谱异常检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011240351.1A CN112434571B (zh) 2020-11-09 2020-11-09 一种基于注意力自编码网络的高光谱异常检测方法

Publications (2)

Publication Number Publication Date
CN112434571A true CN112434571A (zh) 2021-03-02
CN112434571B CN112434571B (zh) 2023-07-25

Family

ID=74699557

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011240351.1A Active CN112434571B (zh) 2020-11-09 2020-11-09 一种基于注意力自编码网络的高光谱异常检测方法

Country Status (1)

Country Link
CN (1) CN112434571B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112905421A (zh) * 2021-03-18 2021-06-04 中科九度(北京)空间信息技术有限责任公司 基于注意力机制的lstm网络的容器异常行为检测方法
CN113379859A (zh) * 2021-06-03 2021-09-10 西安理工大学 一种基于全卷积级联自编码器的高光谱异常检测方法
CN113822208A (zh) * 2021-09-27 2021-12-21 海南长光卫星信息技术有限公司 高光谱异常检测方法、装置、电子设备及可读存储介质
CN114445720A (zh) * 2021-12-06 2022-05-06 西安电子科技大学 基于空谱深度协同的高光谱异常检测方法
CN115424040A (zh) * 2022-08-02 2022-12-02 大庆师范学院 一种基于改进自我注意力机制和张量rx的高光谱图像异常目标检测方法
CN117011244A (zh) * 2023-07-07 2023-11-07 中国人民解放军西部战区总医院 一种腕部多光谱图像处理方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190036442A (ko) * 2017-09-27 2019-04-04 한국과학기술원 인공 지능을 이용한 초분광 영상 재구성 방법 및 장치
CN109949278A (zh) * 2019-03-06 2019-06-28 西安电子科技大学 基于对抗自编码网络的高光谱异常检测方法
CN111079805A (zh) * 2019-12-03 2020-04-28 浙江工业大学 一种结合注意力机制及信息熵最小化的异常图像检测方法
CN111626116A (zh) * 2020-04-21 2020-09-04 泉州装备制造研究所 基于融合多注意力机制和Graph的视频语义分析方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190036442A (ko) * 2017-09-27 2019-04-04 한국과학기술원 인공 지능을 이용한 초분광 영상 재구성 방법 및 장치
CN109949278A (zh) * 2019-03-06 2019-06-28 西安电子科技大学 基于对抗自编码网络的高光谱异常检测方法
CN111079805A (zh) * 2019-12-03 2020-04-28 浙江工业大学 一种结合注意力机制及信息熵最小化的异常图像检测方法
CN111626116A (zh) * 2020-04-21 2020-09-04 泉州装备制造研究所 基于融合多注意力机制和Graph的视频语义分析方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
吴海洋;陈鹏;郭波;蒋春霞;李霁轩;朱鹏宇;: "基于注意力机制和LSTM的电力通信设备状态预测", 计算机与现代化, no. 10 *
张炎;华文深;黄富瑜;王强辉;索文凯;: "基于空谱联合异常度的高光谱异常目标检测", 光谱学与光谱分析, no. 06 *
王志威;谭琨;王雪;丁建伟;陈宇;: "基于光谱空间重构的非监督最邻近规则子空间的高光谱异常检测", 光子学报, no. 06 *
连鸿飞;张浩;郭文忠;: "一种数据增强与混合神经网络的异常流量检测", 小型微型计算机系统, no. 04 *

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112905421A (zh) * 2021-03-18 2021-06-04 中科九度(北京)空间信息技术有限责任公司 基于注意力机制的lstm网络的容器异常行为检测方法
CN112905421B (zh) * 2021-03-18 2024-01-23 中科九度(北京)空间信息技术有限责任公司 基于注意力机制的lstm网络的容器异常行为检测方法
CN113379859A (zh) * 2021-06-03 2021-09-10 西安理工大学 一种基于全卷积级联自编码器的高光谱异常检测方法
CN113379859B (zh) * 2021-06-03 2022-11-18 西安理工大学 一种基于全卷积级联自编码器的高光谱异常检测方法
CN113822208A (zh) * 2021-09-27 2021-12-21 海南长光卫星信息技术有限公司 高光谱异常检测方法、装置、电子设备及可读存储介质
CN113822208B (zh) * 2021-09-27 2023-08-08 海南长光卫星信息技术有限公司 高光谱异常检测方法、装置、电子设备及可读存储介质
CN114445720A (zh) * 2021-12-06 2022-05-06 西安电子科技大学 基于空谱深度协同的高光谱异常检测方法
CN115424040A (zh) * 2022-08-02 2022-12-02 大庆师范学院 一种基于改进自我注意力机制和张量rx的高光谱图像异常目标检测方法
CN117011244A (zh) * 2023-07-07 2023-11-07 中国人民解放军西部战区总医院 一种腕部多光谱图像处理方法
CN117011244B (zh) * 2023-07-07 2024-03-22 中国人民解放军西部战区总医院 一种腕部多光谱图像处理方法

Also Published As

Publication number Publication date
CN112434571B (zh) 2023-07-25

Similar Documents

Publication Publication Date Title
CN112434571A (zh) 一种基于注意力自编码网络的高光谱异常检测方法
CN111860612B (zh) 无监督高光谱图像隐低秩投影学习特征提取方法
Cross et al. Segmentation of remotely-sensed images by a split-and-merge process+
Li et al. Using wavelet transform and multi-class least square support vector machine in multi-spectral imaging classification of Chinese famous tea
Sun et al. Sparse-constrained adaptive structure consistency-based unsupervised image regression for heterogeneous remote-sensing change detection
Venugopal Automatic semantic segmentation with DeepLab dilated learning network for change detection in remote sensing images
JP5591178B2 (ja) テスト画像内のオブジェクトを分類するための方法
Zhang et al. Spectral-difference low-rank representation learning for hyperspectral anomaly detection
Ma et al. Hyperspectral anomaly detection based on low-rank representation with data-driven projection and dictionary construction
CN113327231B (zh) 一种基于空谱联合的高光谱异常目标检测方法和系统
CN115187861A (zh) 一种基于深度孪生网络的高光谱图像变化检测方法及系统
CN111046800A (zh) 一种基于低秩与稀疏分解的高光谱图像异常目标检测方法
CN112766223A (zh) 基于样本挖掘与背景重构的高光谱图像目标检测方法
CN112990314A (zh) 基于改进孤立森林算法的高光谱图像异常检测方法及装置
CN116824585A (zh) 一种基于多级上下文特征融合网络的航空激光点云语义分割方法与装置
CN116469020A (zh) 一种基于多尺度和高斯Wasserstein距离的无人机图像目标检测方法
Raza Shah et al. Hyperspectral anomaly detection: a performance comparison of existing techniques
CN114842196A (zh) 一种雷达射频图像目标检测方法
Ma et al. Land cover classification for polarimetric sar image using convolutional neural network and superpixel
Lin et al. Edge detection in the feature space
Wang et al. Dynamic super-pixel normalization for robust hyperspectral image classification
CN115731462A (zh) 基于多头自-交叉混合注意力的高光谱图像变化检测方法
CN115410093A (zh) 基于双通道编码网络和条件随机场的遥感图像分类方法
CN112257544A (zh) 基于稀疏词典的高分遥感影像震后建筑物检测方法
CN113379859B (zh) 一种基于全卷积级联自编码器的高光谱异常检测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant