CN112749752A - 一种基于深度Transformer的高光谱影像分类方法 - Google Patents

一种基于深度Transformer的高光谱影像分类方法 Download PDF

Info

Publication number
CN112749752A
CN112749752A CN202110056787.3A CN202110056787A CN112749752A CN 112749752 A CN112749752 A CN 112749752A CN 202110056787 A CN202110056787 A CN 202110056787A CN 112749752 A CN112749752 A CN 112749752A
Authority
CN
China
Prior art keywords
layer
spectrum
spatial
space
transform
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110056787.3A
Other languages
English (en)
Other versions
CN112749752B (zh
Inventor
刘冰
余岸竹
张鹏强
薛志祥
左溪冰
高奎亮
孙一帆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Information Engineering University of PLA Strategic Support Force
Original Assignee
Information Engineering University of PLA Strategic Support Force
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Information Engineering University of PLA Strategic Support Force filed Critical Information Engineering University of PLA Strategic Support Force
Priority to CN202110056787.3A priority Critical patent/CN112749752B/zh
Publication of CN112749752A publication Critical patent/CN112749752A/zh
Application granted granted Critical
Publication of CN112749752B publication Critical patent/CN112749752B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Abstract

本发明属于遥感影像技术领域，具体涉及一种基于深度Transformer的高光谱影像分类方法。该方法将待分类的高光谱影像分别输入至训练好的深度空‑谱Transformer模型中，便可实现对高光谱影像的分类。该深度空‑谱Transformer模型包括光谱维度注意力模型、空间维度注意力模型和分类器，且光谱维度注意力模型和空间维度注意力模型均包括相应的位置编码层和Transformer层，利用Transformer结构代替传统的卷积层，并分别在光谱和空间维度应用注意力机制来提取高光谱影像的空‑谱特征以更好地利用高光谱影像丰富的空间和光谱信息，同时使得分类模型更加灵活、高效，分类结果更加精准。

Description

一种基于深度Transformer的高光谱影像分类方法
技术领域
本发明属于遥感影像技术领域，具体涉及一种基于深度Transformer的高光谱影像分类方法。
背景技术
高光谱影像具有光谱分辨率高、图谱合一的独特优点，已被广泛应用于目标追踪、环境保护、农业监测及气象预报等领域。高光谱影像分类就是对影像中的像素点进行分类，是对未标记的像素进行标号的过程，是一种重要的信息获取手段。如何更好地进行高光谱影像分类一直是遥感图像处理领域中的研究热点之一。
目前深度学习方法已经被广泛地用于高光谱影像分类，现有的深度学习方法(例如一维卷积神经网络、二维卷积神经网络、三维卷积神经网络)大多数以卷积神经网络为基础，这些方法所使用的分类模型灵活性较差，分类精度有待进一步提升。
发明内容
本发明提供了一种基于深度Transformer的高光谱影像分类方法，用以解决现有技术中的深度学习方法造成分类精度低的问题。
为解决上述技术问题，本发明所包括的技术方案以及技术方案对应的有益效果如下：
本发明提供了一种基于深度Transformer的高光谱影像分类方法，包括如下步骤：
1)获取待分类的高光谱影像；
2)将待分类的高光谱影像分别输入至训练好的深度空-谱Transformer模型中，以对高光谱影像进行分类；
其中，所述训练好的深度空-谱Transformer模型利用已标记的高光谱影像和对应的标记结果进行训练得到；且所述深度空-谱Transformer模型包括光谱维度注意力模型、空间维度注意力模型和分类器；
所述光谱维度注意力模型包括顺次连接的光谱输入层、光谱卷积层、光谱深度学习层和光谱输出层；所述光谱输入层用于将待分类的高光谱影像沿着光谱维度划分为b个光谱图像块，b为波段数；所述光谱卷积层用于将所述光谱图像块转换成光谱特征向量；所述光谱深度学习层包括光谱位置编码层和顺次连接的至少两层光谱Transformer层，所述光谱位置编码层用于对所述光谱特征向量进行位置编码，并与所述光谱特征向量相加，相加的结果作为第一层光谱Transformer层的输入，其余的光谱Transformer层的输入均为前一层光谱Transformer层的输出；所述光谱输出层用于对最后一层光谱Transformer层的输出进行处理得到光谱维度输出特征；
所述空间维度注意力模型包括顺次连接的空间输入层、空间卷积层、空间深度学习层和空间输出层；所述空间输入层用于将待分类的高光谱影像进行降维处理并沿着空间维度划分为k个空间图像块；所述空间卷积层用于将所述空间图像块转换成空间特征向量；所述空间深度学习层包括空间位置编码层和顺次连接的至少两层空间Transformer层，所述空间位置编码层用于对所述空间特征向量进行位置编码，并与所述空间特征向量相加，相加的结果作为第一层空间Transformer层的输入，其余的空间Transformer层的输入均为前一层空间Transformer层的输出；所述空间输出层用于对最后一层空间Transformer层的输出进行处理得到空间维度输出特征；
所述分类器用于根据拼接在一起的所述光谱维度输出特征和所述空间维度输出特征进行高光谱影像分类。
上述技术方案的有益效果为：本发明在进行高光谱影像分类时，所使用的深度空-谱Transformer模型包括光谱维度注意力模型和空间维度注意力模型，这两个模型均包括相应的位置编码层和Transformer层，利用Transformer结构代替传统的卷积层，并分别在光谱和空间维度应用注意力机制来提取高光谱影像的空-谱特征以更好地利用高光谱影像丰富的空间和光谱信息，同时使得分类模型更加灵活、高效，分类结果更加精准。
进一步的，所述光谱Transformer层和空间Transformer层均为六层。
进一步的，所述光谱Transformer层和空间Transformer层均包括自注意力层和前馈神经网络层；所述前馈神经网络层采用两层的多层感知机；所述自注意力层所采用的自注意力机制为：
Figure BDA0002901090740000021
其中，Q、K、V分别为查询矩阵、键矩阵和值矩阵，dk是输入的维度。
进一步的，所述光谱输出层和空间输出层均为多层感知机。
进一步的，所述空间输入层用于采用主成分分析法将待分类的高光谱影像进行降维处理。
进一步的，采用主成分分析法时，提取前3个主成分波段。
进一步的，所述光谱位置编码层和所述空间位置编码层采用如下公式以相应分别对光谱特征向量和空间特征向量进行位置编码：
Figure BDA0002901090740000031
Figure BDA0002901090740000032
其中，PE表示光谱位置编码层或者空间位置编码层的输出，pos表示特征向量在整个序列中的位置，dmodel表示特征向量的维度，i表示特征向量的位置。
进一步的，所述光谱卷积层和所述空间卷积层均为二维卷积层。
附图说明
图1是本发明的深度空-谱Transformer模型的示意图；
图2是本发明的Transformer的基本结构图；
图3是本发明的多头注意力的示意图。
具体实施方式
本发明基于自注意力机制设计了一种更加有效的空-谱特征分类模型来改善高光谱影像分类的精度。其整体思路为：首先沿着光谱和空间两个维度构建特征序列，然后将这些特征序列分别输入到对应的六层Transformer中，再将经过六层Transformer的光谱和空间两个维度的特征进行拼接，并将拼接后的特征输入到分类层进行分类。
下面首先对本发明方法中所使用Transformer进行介绍。
本发明中所使用的Transformer基于自注意力机制替代了传统的卷积层，在自然语言处理领域取得了极大的成功。如图2所示，基本的Transformer结构包含一个自注意力层和一个前馈神经网络层。Transformer的输入和输出均为一个特征向量序列(在自然语言处理中为词向量序列)，为了更好地考虑输入的特征向量位置信息，在输入第1层Transformer前，先对特征向量序列进行位置编码，然后和特征向量相加输入到第1层Transformer中。Transformer的输出同样为特征向量序列，并作为下一层Transformer的输入。
其中，位置编码为每个特征向量输出一个维度与特征向量相同的空间位置向量，从而用空间位置向量来描述特征向量的位置关系。本实施例中采用如下的形式对特征向量进行位置编码：
Figure BDA0002901090740000041
Figure BDA0002901090740000042
上式中，pos表示特征向量在整个序列中的位置，dmodel表示特征向量的维度，i表示特征向量的位置。上式会在每个特征向量的偶数位置添加sin变量，奇数位置添加cos变量，以此来产生与原始特征向量维度相同的空间位置向量，然后与原始特征向量相加完成位置编码。
而且，与卷积神经网络的训练参数卷积核不同，每层Transformer的训练参数包含三个矩阵WQ、WK、WV，这三个矩阵分别与输入的向量序列相乘得到查询矩阵、键矩阵和值矩阵。
自注意力机制如下：
Figure BDA0002901090740000043
上式中，Q、K、V分别为查询矩阵、键矩阵和值矩阵，dk是输入的维度。为了提高模型的性能，采用多头注意力机制，即使用多个WQ、WK、WV矩阵生成多个查询矩阵、键矩阵和值矩阵，再根据上式输出多个特征值，然后将多个特征值进行拼接再乘以一个矩阵参数输出最终特征。如图3所示，Z1、Z2、Z3分别是三个注意力头输出的特征矩阵(特征序列拼接成特征矩阵)，3个特征矩阵拼接后形成Z，再与矩阵参数W相乘得到最终的输出特征，特征矩阵中每一行为一个特征向量。
为了提高模型的非线性，如图2所示将自注意力层输出的特征向量序列再分别通过一个前馈神经网络，本发明使用两层的多层感知机作为前馈神经网络。为了便于训练模型，Transformer在自注意力层和前馈神经网络层分别引入了残差连接。
基于上述介绍的Transformer，下面结合附图，对本发明的一种于深度Transformer的高光谱影像分类方法进行详细说明。假定目标高光谱影像为常用的University of Pavia影像，其维度为610×340×103，共包括9类地物和42776个有标记信息的待分类像素。
步骤一，构建“深度空-谱Transformer模型”。该“深度空-谱Transformer模型”的结构如图1所示，包括光谱维度注意力模型、空间维度注意力模型和分类器。图1中的Conv2D、TRM、MLP分别表示二维卷积层、Transformer层、多层感知机。
光谱维度注意力模型包括顺次连接的光谱输入层、光谱卷积层、光谱深度学习层、光谱输出层。光谱输入层用于将高光谱影像的数据立方体沿着光谱维度可以展开成b(波段数)个光谱图像块，为二维图像块。光谱卷积层为一个二维卷积层，用于将光谱图像块转换成光谱特征向量。光谱深度学习层包括光谱位置编码层和顺次连接的六层光谱Transformer层，光谱位置编码层用于对光谱特征向量进行位置编码，并与光谱特征向量相加，相加的结果作为第一层光谱Transformer层的输入，其余的光谱Transformer层的输入均为前一层光谱Transformer层的输出。光谱输出层用于对最后一层光谱Transformer层的输出进行处理得到光谱维度输出特征。
空间维度注意力模型包括顺次连接的空间输入层、空间卷积层、空间深度学习层和空间输出层。空间输入层用于对高光谱数据立方体应用主成分分析法(PCA)，并取前三个主成分波段，再将影像沿着空间维度划分为16个大小相等的空间图像块。空间卷积层为一个二维卷积层，用于将空间图像块转换成空间特征向量，是个一维特征向量。空间深度学习层包括空间位置编码层和顺次连接的六层空间Transformer层，空间位置编码层用于对空间特征向量进行位置编码，并与空间特征向量相加，相加的结果作为第一层空间Transformer层的输入，其余的空间Transformer层的输入均为前一层空间Transformer层的输出。空间输出层为多层感知机，用于对第六层空间Transformer层的输出进行处理得到空间维度输出特征。
光谱维度输出特征和空间维度输出特征进行拼接形成“空-谱特征”，并输入至分类器中完成高光谱影像分类。
步骤二，选取样本对构建的“深度空-谱Transformer模型”进行训练。
每类地物从标记样本中随机选取200个作为训练样本，剩余样本作为测试样本，对“深度空-谱Transformer模型”进行训练，通过少量标记训练“深度空-谱Transformer模型”。将描述描述训练样本的特征(数据立方体)输入到“深度空-谱Transformer模型”中，根据模型的输出和已知的类别标记计算损失函数值，并利用反向传播算法优化整个模型中的参数，具体包括卷积层中的卷积核参数、每个Transformer层中的矩阵参数和MLP层中的参数。整个模型迭代训练600次，一次迭代指将所有训练数据遍历一遍。模型训练完成后参数固定，将测试样本的特征输入到网络模型中得到预测的类别标记；将测试样本预测得到的类别标记和已知类别标记对比评价分类精度。在评价分类精度满足要求的情况下，从而最终得到训练好的“深度空-谱Transformer模型”。
步骤三，在得到训练好的“深度空-谱Transformer模型”后，针对待分类的高光谱影像，输入至该“深度空-谱Transformer模型”，便可实现对高光谱影像的分类。
需说明的是，步骤一和步骤二的目的是为了得到训练好的“深度空-谱Transformer模型”。在对高光谱影像进行分类时，并非每次都需要将步骤一和步骤二再做一遍，在得到训练好的“深度空-谱Transformer模型”后，只需将待分类高光谱影像输入至的该“深度空-谱Transformer模型”中即可。
下面进行如下的仿真实验对本发明的有效性进行验证和说明。仿真条件为：使用英特尔酷睿i7-9750H、2.6GHz中央处理器，GeForce RTX 2070M图形处理器，16GB内存。
从University of Pavia高光谱影像中随机选取每类地物的200个标记样本作为训练样本，其余样本作为测试样本。表1给出了University of Pavia高光谱数据不同方法的总体分类精度，其中SVM代表使用支持向量机分类器得到的分类结果，S2RNN表示使用空-谱循环神经网络得到的分类结果，1D-CNN表示使用一维卷积神经网络得到的分类结果，2D-CNN表示使用二维卷积神经网络得到的分类结果，3D-CNN表示三维卷积神经网络得到的分类结果。从表中结果可知，与常用于高光谱分类的深度学习模型相比，本发明能够获得更高的分类精度，且精度提升明显。
表1
评价指标/方法 SVM S<sup>2</sup>RNN 1D-CNN 2D-CNN 3D-CNN 本发明方法
总体分类精度 89.61 93.45 86.17 92.11 92.96 98.07
本发明利用Transformer结构代替了传统的卷积层，卷积神经网络中需要卷积层结合池化层进行堆叠，本发明的Transformer层可以任意堆叠，且其具有更少的参数，使得分类模型更加灵活、高效；进一步的，本发明的Transformer层中的自注意力机制能够关注重要的特征来提高分类精度，且“深度空-谱Transformer模型”关注光谱维度和空间维度，并分别在光谱和空间维度应用注意力机制来提取高光谱影像的空-谱特征进行分类，能够更好地利用高光谱影像丰富的空间和光谱信息，获得更高的分类精度。

Claims (8)

1.一种基于深度Transformer的高光谱影像分类方法，其特征在于，包括如下步骤：
1)获取待分类的高光谱影像；
2)将待分类的高光谱影像分别输入至训练好的深度空-谱Transformer模型中，以对高光谱影像进行分类；
其中，所述训练好的深度空-谱Transformer模型利用已标记的高光谱影像和对应的标记结果进行训练得到；且所述深度空-谱Transformer模型包括光谱维度注意力模型、空间维度注意力模型和分类器；
所述光谱维度注意力模型包括顺次连接的光谱输入层、光谱卷积层、光谱深度学习层和光谱输出层；所述光谱输入层用于将待分类的高光谱影像沿着光谱维度划分为b个光谱图像块，b为波段数；所述光谱卷积层用于将所述光谱图像块转换成光谱特征向量；所述光谱深度学习层包括光谱位置编码层和顺次连接的至少两层光谱Transformer层，所述光谱位置编码层用于对所述光谱特征向量进行位置编码，并与所述光谱特征向量相加，相加的结果作为第一层光谱Transformer层的输入，其余的光谱Transformer层的输入均为前一层光谱Transformer层的输出；所述光谱输出层用于对最后一层光谱Transformer层的输出进行处理得到光谱维度输出特征；
所述空间维度注意力模型包括顺次连接的空间输入层、空间卷积层、空间深度学习层和空间输出层；所述空间输入层用于将待分类的高光谱影像进行降维处理并沿着空间维度划分为k个空间图像块；所述空间卷积层用于将所述空间图像块转换成空间特征向量；所述空间深度学习层包括空间位置编码层和顺次连接的至少两层空间Transformer层，所述空间位置编码层用于对所述空间特征向量进行位置编码，并与所述空间特征向量相加，相加的结果作为第一层空间Transformer层的输入，其余的空间Transformer层的输入均为前一层空间Transformer层的输出；所述空间输出层用于对最后一层空间Transformer层的输出进行处理得到空间维度输出特征；
所述分类器用于根据拼接在一起的所述光谱维度输出特征和所述空间维度输出特征进行高光谱影像分类。
2.根据权利要求1所述的基于深度Transformer的高光谱影像分类方法，其特征在于，所述光谱Transformer层和空间Transformer层均为六层。
3.根据权利要求1所述的基于深度Transformer的高光谱影像分类方法，其特征在于，所述光谱Transformer层和空间Transformer层均包括自注意力层和前馈神经网络层；所述前馈神经网络层采用两层的多层感知机；所述自注意力层所采用的自注意力机制为：
Figure FDA0002901090730000021
其中，Q、K、V分别为查询矩阵、键矩阵和值矩阵，dk是输入的维度。
4.根据权利要求1所述的基于深度Transformer的高光谱影像分类方法，其特征在于，所述光谱输出层和空间输出层均为多层感知机。
5.根据权利要求1所述的基于深度Transformer的高光谱影像分类方法，其特征在于，所述空间输入层用于采用主成分分析法将待分类的高光谱影像进行降维处理。
6.根据权利要求5所述的基于深度Transformer的高光谱影像分类方法，其特征在于，采用主成分分析法时，提取前3个主成分波段。
7.根据权利要求1所述的基于深度Transformer的高光谱影像分类方法，其特征在于，所述光谱位置编码层和所述空间位置编码层采用如下公式以相应分别对光谱特征向量和空间特征向量进行位置编码：
Figure FDA0002901090730000022
Figure FDA0002901090730000023
其中，PE表示光谱位置编码层或者空间位置编码层的输出，pos表示特征向量在整个序列中的位置，dmodel表示特征向量的维度，i表示特征向量的位置。
8.根据权利要求1～7任一项所述的基于深度Transformer的高光谱影像分类方法，其特征在于，所述光谱卷积层和所述空间卷积层均为二维卷积层。
CN202110056787.3A 2021-01-15 2021-01-15 一种基于深度Transformer的高光谱影像分类方法 Active CN112749752B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110056787.3A CN112749752B (zh) 2021-01-15 2021-01-15 一种基于深度Transformer的高光谱影像分类方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110056787.3A CN112749752B (zh) 2021-01-15 2021-01-15 一种基于深度Transformer的高光谱影像分类方法

Publications (2)

Publication Number Publication Date
CN112749752A true CN112749752A (zh) 2021-05-04
CN112749752B CN112749752B (zh) 2023-02-03

Family

ID=75652125

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110056787.3A Active CN112749752B (zh) 2021-01-15 2021-01-15 一种基于深度Transformer的高光谱影像分类方法

Country Status (1)

Country Link
CN (1) CN112749752B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113191285A (zh) * 2021-05-08 2021-07-30 山东大学 基于卷积神经网络和Transformer的河湖遥感图像分割方法及系统
CN113435594A (zh) * 2021-06-30 2021-09-24 平安科技（深圳）有限公司 安防检测模型训练方法、装置、设备及存储介质
CN114842253A (zh) * 2022-05-04 2022-08-02 哈尔滨理工大学 基于自适应光谱空间核结合ViT高光谱图像分类方法
CN117576402A (zh) * 2024-01-15 2024-02-20 临沂大学 一种基于深度学习的多尺度聚合Transformer遥感图像语义分割方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100056928A1 (en) * 2008-08-10 2010-03-04 Karel Zuzak Digital light processing hyperspectral imaging apparatus
CN105894041A (zh) * 2016-04-26 2016-08-24 国网山东省电力公司经济技术研究院 基于高光谱遥感影像提取配电网系统中变电站信息的方法
CN111476287A (zh) * 2020-04-02 2020-07-31 中国人民解放军战略支援部队信息工程大学 一种高光谱影像小样本分类方法及装置
CN111507409A (zh) * 2020-04-17 2020-08-07 中国人民解放军战略支援部队信息工程大学 一种基于深度多视角学习的高光谱影像分类方法及装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100056928A1 (en) * 2008-08-10 2010-03-04 Karel Zuzak Digital light processing hyperspectral imaging apparatus
CN105894041A (zh) * 2016-04-26 2016-08-24 国网山东省电力公司经济技术研究院 基于高光谱遥感影像提取配电网系统中变电站信息的方法
CN111476287A (zh) * 2020-04-02 2020-07-31 中国人民解放军战略支援部队信息工程大学 一种高光谱影像小样本分类方法及装置
CN111507409A (zh) * 2020-04-17 2020-08-07 中国人民解放军战略支援部队信息工程大学 一种基于深度多视角学习的高光谱影像分类方法及装置

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
BING LIU等: "Supervised Deep Feature Extraction for Hyperspectral Image Classification", 《IEEE TRANSACTIONS ON GEOSCIENCE AND REMOTE SENSING》 *
XIN HE等: "Hyperspectral Image Classification", 《IEEE GEOSCIENCE AND REMOTE SENSING LETTERS》 *
李冠东: "基于深度学习的高光谱遥感影像分类技术研究", 《中国优秀硕士学位论文全文数据库基础科学辑》 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113191285A (zh) * 2021-05-08 2021-07-30 山东大学 基于卷积神经网络和Transformer的河湖遥感图像分割方法及系统
CN113435594A (zh) * 2021-06-30 2021-09-24 平安科技（深圳）有限公司 安防检测模型训练方法、装置、设备及存储介质
CN113435594B (zh) * 2021-06-30 2022-08-02 平安科技（深圳）有限公司 安防检测模型训练方法、装置、设备及存储介质
CN114842253A (zh) * 2022-05-04 2022-08-02 哈尔滨理工大学 基于自适应光谱空间核结合ViT高光谱图像分类方法
CN117576402A (zh) * 2024-01-15 2024-02-20 临沂大学 一种基于深度学习的多尺度聚合Transformer遥感图像语义分割方法
CN117576402B (zh) * 2024-01-15 2024-03-26 临沂大学 一种基于深度学习的多尺度聚合Transformer遥感图像语义分割方法

Also Published As

Publication number Publication date
CN112749752B (zh) 2023-02-03

Similar Documents

Publication Publication Date Title
CN112749752B (zh) 一种基于深度Transformer的高光谱影像分类方法
Zhang et al. Context encoding for semantic segmentation
US9202144B2 (en) Regionlets with shift invariant neural patterns for object detection
EP3029606A2 (en) Method and apparatus for image classification with joint feature adaptation and classifier learning
Barat et al. String representations and distances in deep convolutional neural networks for image classification
CN105046276B (zh) 基于低秩表示的高光谱图像波段选择方法
CN102324047B (zh) 基于稀疏核编码skr的高光谱图像地物识别方法
CN107563442B (zh) 基于稀疏低秩正则图张量化嵌入的高光谱图像分类方法
CN105574548A (zh) 一种基于稀疏和低秩表示图的高光谱数据降维方法
CN113674334B (zh) 基于深度自注意力网络和局部特征编码的纹理识别方法
CN105184298A (zh) 一种快速局部约束低秩编码的图像分类方法
CN110929080A (zh) 基于注意力和生成对抗网络的光学遥感图像检索方法
CN106599807A (zh) 一种基于自编码的行人检索方法
CN104376051A (zh) 随机结构保形哈希信息检索方法
CN103646256A (zh) 一种基于图像特征稀疏重构的图像分类方法
CN113139512A (zh) 基于残差和注意力的深度网络高光谱影像分类方法
CN115131313A (zh) 基于Transformer的高光谱图像变化检测方法及装置
CN115859142A (zh) 一种基于卷积变压器生成对抗网络的小样本滚动轴承故障诊断方法
CN114067286A (zh) 基于序列化可形变注意力机制的高位相机车辆重识别方法
Li et al. Codemaps-segment, classify and search objects locally
CN111639697A (zh) 基于非重复采样与原型网络的高光谱图像分类方法
CN106407975A (zh) 基于空间‑光谱结构约束的多尺度分层目标检测方法
CN109460788B (zh) 基于低秩-稀疏信息组合网络的高光谱图像分类方法
CN115641503A (zh) 一种基于Transformer网络的高光谱波段选择方法及装置
CN115272766A (zh) 一种基于混合傅立叶算子Transformer网络的高光谱图像分类方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant