CN111353463A - 基于随机深度残差网络的高光谱图像分类方法 - Google Patents

基于随机深度残差网络的高光谱图像分类方法 Download PDF

Info

Publication number
CN111353463A
CN111353463A CN202010169109.3A CN202010169109A CN111353463A CN 111353463 A CN111353463 A CN 111353463A CN 202010169109 A CN202010169109 A CN 202010169109A CN 111353463 A CN111353463 A CN 111353463A
Authority
CN
China
Prior art keywords
size
block
feature
residual
layer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010169109.3A
Other languages
English (en)
Other versions
CN111353463B (zh
Inventor
高正
同磊
邓米克
禹晶
肖创柏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing University of Technology
Original Assignee
Beijing University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing University of Technology filed Critical Beijing University of Technology
Priority to CN202010169109.3A priority Critical patent/CN111353463B/zh
Publication of CN111353463A publication Critical patent/CN111353463A/zh
Application granted granted Critical
Publication of CN111353463B publication Critical patent/CN111353463B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/10—Terrestrial scenes
    • G06V20/13—Satellite images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/10—Terrestrial scenes
    • G06V20/194—Terrestrial scenes using hyperspectral data, i.e. more or other wavelengths than RGB
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A40/00—Adaptation technologies in agriculture, forestry, livestock or agroalimentary production
    • Y02A40/10—Adaptation technologies in agriculture, forestry, livestock or agroalimentary production in agriculture

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Astronomy & Astrophysics (AREA)
  • Multimedia (AREA)
  • Remote Sensing (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了基于随机深度残差网络的高光谱图像分类方法，本发明实现步骤如下：步骤一、首先对数据进行预处理。步骤二、模型构建，主要由两部分组成，光谱特征提取与空间信息特征提取。步骤三、模型训练。步骤四、高光谱图像分类。将数据输入网络，进行类别的预测，得到分类的高光谱图像。步骤五、输出分类图像；本发明充分利用了高光谱图像的空谱特征和光谱特征，提高了分类精度，并且在残差网络的基础上应用了随机深度，相较于传统的残差网络极大的缩减了训练时间与测试时间。

Description

基于随机深度残差网络的高光谱图像分类方法
技术领域
本发明属于图像处理技术领域，具体涉及一种随机深度神经网络，结合了光谱和空谱信息的高光谱图像分类方法。
背景技术
随着技术的不断发展，针对地物观测的遥感技术取得了令人瞩目的成就。高光谱遥感技术是通过高空中的探测设备，在不同的电磁波范围内利用光谱间隔成像，从而将地物的光谱信息和空间信息组合起来，产生高光谱图像。高光谱遥感的一个重要用处在于它能够精细地识别和分类地表物质，从而提取出地物有用的特征信息。基于这个特性，高光谱遥感已经被成功应用到了食品、农业、矿业等领域，其中一个重要的研究方向是对高光谱图像进行分类。分类就是通过对高光谱图像中各类地物特征进行提取，然后将图像中每个像元划分到不同的类别中。
常见的高光谱分类方法包括最小距离判别法，基于贝叶斯准则的分类器、支持向量机分类方法、高斯最大似然分类器和基于随机森林的分类方法。最小距离判别法是最容易理解的分类方法，在一个N维的欧式空间中，将不同类别视作空间中的不同位置。对于样本，如果与其中一类的几何距离最近，则将该样本分为此类。基于贝叶斯准则的分类器则是在已知各类别的先验概率及概率密度函数，利用贝叶斯公式计算出其后验概率，即该样本属于此类的概率，选择概率最大的类别即该样本的类别。支持向量机分类方法是将高光谱图像中的每个像素视作高维的独立样本，利用统计学的原理，控制超平面的间隔量减少过拟合，建立一个最优超平面，即通过对样本的及其学习，建立地物类型和影像信息因子之间的支持向量机。高斯最大似然分类器假设每一类样本均是正态分布，由每类的均值向量和协方差矩阵得到多维正太分布密度函数。将像素点代入各类的概率密度函数，就可得出该像素点属于这一类的概率，概率最大的类别即该像素点的类别。基于随机森林的分类方法是使用形态学分析提取像元的空间结构特征,然后,根据像元的谱域和空域特征分别构造随机森林,并引入空间连续性对像元点的预测结果进行约束修正,最后由投票机制决定最后的分类结果。
深度学习是是机器学习的技术和研究领域之一，通过建立人工神经网络，实现图像分类。无需进行人工的特征设计就可以用非监督式或半监督式的特征学习和分层特征提取高效算法来获取特征，通过组合低层特征形成更为抽象的高层特征。随着深度学习技术的不断发展，深度学习在各个领域有了成熟的运用，在高光谱图像分类领域同样也不例外。卷积神经网络(CNN)是一类包含卷积操作且具有深度结构的前馈神经网络。Feng-zheZhang等人提出的“多尺度”卷积神经网络(Multi-scale CNN)，使用三个不同大小的卷积核提取高光谱图像的光谱特征，来提高分类精度。此外，Lee等人提出了一种上下文深度CNN(CD-CNN)，通过共同利用正方形窗口内相邻像素向量的局部空间光谱关系，可以最优地探索上下文交互。生成对抗网络(GANs)是一种生成模型。GANs通过对抗的方式训练网络，并生成能模拟样本潜在分布的新数据样本。针对高光谱图像分类领域中特征不足的问题，基于生成对抗网络的高光谱图像分类方法根据高光谱图像空间域和光谱域的相关性,利用卷积生成对抗网络挖掘其深层特征,生成可分性更高的高光谱图像,提升分类精度。基于长短时记忆网络的高光谱图像分类方法使用流形学习算法降维保持图像的局部拓扑结构的基础上,融合两种低层特征并构建样本的局部空间序列特征,最终利用长短时记忆网络对局部空间序列特征进行抽象学习同时分类。
传统的分类方法例如KNN,SVM仅仅是单层或者双层结构的分类器，从而导致提取的特征不能很好的表示原始数据，而且它们大多数只是利用了高光谱图像中的光谱特征，提取的特征不全面。空间特征在高光谱图像分类中起到了越来越重要的作用。也就是说相邻空间位置的像素属于同一类别的概率较大。传统机器学习方法不能获得较抽象且全面的特征，而深度学习方法能自动提取高光谱图像中光谱信息和空间信息，在这一方面显示出了良好的性能。但深度学习方法良好的提取特征能力往往意味着神经网络深具有数十或者更多的层。这些深层次的网络会带来一系列的问题，例如梯度消失、过拟合等，训练时间也会非常慢。为了解决这些问题，提出了基于随机深度残差网络的高光谱图像分类方法，不但提高了训练效率而且保证了较高的分类准确率。
发明内容
高光谱图像分类经过多年的发展已取得了较大的成果，但仍然具有一定的挑战性。本发明的目的是在降低训练时间成本的基础上，取得更高的分类精度。与传统机器学习方法相比，本发明可以自动提取高光谱图像中的光谱信息和空间信息。与2D卷积神经网络相比，3D卷积提取信息特征代表性高，环境抗干扰性强，因此拥有更高的分类精度。本发明提出的基于随机深度与残差网络的高光谱图像分类方法之所以会选择残差网络是因为对于一个残差快来说，当输入为x时其学习到的特征记为H(x)，希望网络可以学习到残差F(x)＝H(x)-x，这样其实原始的学习特征是H(x)。残差学习相比原始特征直接学习更容易。当残差为F(x)＝0时，此时堆积层仅仅做了恒等映射，至少网络性能不会下降，这也会使残差块在输入特征基础上学习到新的特征，从而拥有更好的性能，解决了深层卷积网络存在梯度消失或者梯度爆炸的问题。
ZilongZhong等人在“Spectral–Spatial Residual Network for HyperspectralImage Classification:A 3-D Deep Learning Framework”中提出的高光谱图像分类方法。简称3D残差网络分类方法(SSRN)。本发明采取了和SSRN类似的结构，但去除了原网络中光谱信息提取部分以及空间信息提取部分中间的卷积操作，在不影响分类的精度的情况下提高了正向传播与反向传播速度。为了解决网络过深导致训练时间过长的问题，本发明采用了随机深度的策略。即在训练网络的过程中降低网络深度，同时在测试过程中保持完整的深度。网络深度的控制主要是通过控制残差块是否进行跳跃连接。通过这种方法解决了网络过深导致训练时间过长的问题，不但缩短了训练时间而且保证了分类准确率。
为了达到上述目的，本发明实现步骤如下：
步骤一、首先对数据进行预处理。将所有可用的带标签的数据分成三个部分。取数据集的10％作为训练集，10％作为验证集，80％作为测试集。将输入图像的每一个像素块作为样本。假设数据的波段数为d，则设定一个大小为7×7×d的高光谱图像光谱样本窗口，以每一个像素点为中心进行滑动取样，超出边界的则采取补零策略后取样。对取得的样本进行翻转，增加高斯噪声操作，实现对数据的扩容，以减少过拟合。
步骤二、模型构建。模型主要由两部分组成，光谱特征提取与空间信息特征提取。
步骤三、模型训练。
步骤四、高光谱图像分类。将数据输入网络，进行类别的预测，得到分类的高光谱图像。
步骤五、输出分类图像
本发明与现有的技术相比具有以下优点：
本发明充分利用了高光谱图像的空谱特征和光谱特征，提高了分类精度，并且在残差网络的基础上应用了随机深度，相较于传统的残差网络极大的缩减了训练时间与测试时间。
附图说明
图1是本发明的流程示意图
图2是本发明的数据增强模型
图3是本发明的整体框架
图4是残差块的具体结构
图5是当特征图大小发生变化时，残差块的具体结构
图6是本发明的总体模型结构(以美国Salinas山谷高光谱图像数据集为例)
图7是本发明用到的美国Salinas山谷高光谱图像
图8是本发明用到的意大利的帕维亚城Pavia University高光谱图像
图9(a)是SVM-RBF分类方法对美国Salinas山谷高光谱图像分类的结果图
图9(b)是多尺度卷积分类方法对美国Salinas山谷高光谱图像分类的结果图
图9(c)是SSRN分类方法对美国Salinas山谷高光谱图像分类的结果图
图9(d)是本发明对美国Salinas山谷高光谱图像分类的结果图图10(a)是SVM-RBF分类方法对意大利的帕维亚城Pavia University高光谱图像分类的结果图
图10(b)是多尺度卷积分类方法对意大利的帕维亚城Pavia University高光谱图像分类的结果图
图10(c)是SSRN分类方法对意大利的帕维亚城Pavia University高光谱图像分类的结果图
图10(d)是本发明对意大利的帕维亚城Pavia University高光谱图像分类的结果图
图11(a)是本发明对美国Salinas山谷高光谱图像分类训练过程的损失值变化曲线
图11(b)是本发明对意大利的帕维亚城Pavia University高光谱图像分类训练过程的损失值变化曲线
图12(a)是本发明对美国Salinas山谷高光谱图像分类训练过程的准确率变化曲线。
图12(b)是本发明对意大利的帕维亚城Pavia University高光谱图像分类训练过程的准确率变化曲线。
具体实施方式
下面结合附图对本发明做进一步的描述。
参照图1，本发明的实现步骤如下：
步骤一，数据预处理
(1)输入高光谱图像
输入原高光谱图像，将图像的每一个像素块作为样本，并建立样本集。
(2)获取样本集
假设高光谱图像的通道数为d，则设定一个7×7×d的窗口，以每一个像素点为中心抓取样本集中的样本，对于边界采取补零策略。
(3)数据处理
将所有可用的样本分成三个部分，每个类别各取10％，10％，80％分别作为训练集，验证集，测试集。假设一个HIS数据集X包含N个可分类的地物像素，X＝{x1,x2,…，xN}∈R1X1Xb，Y＝{y1,y2,…,yN}∈R1X1Xl为对应的独热编码标签，其中b和l分别为该数据集的可用光谱波段数和土地类别数。以HIS数据集X中像素为中心的立方体形成了一组新的数据集Z＝{z1，z2，…zN}∈RhXhXb。为了充分利用HSI数据集中的光谱和空谱特征，将大小为h×h×b的立方体作为网络的输入。x1,x2,…，xN表示N个可分类的地物像素，y1，y2，…，yN表示与x1,x2，…，xN相对应的独热编码标签，z1，z2,…zN则表示N个分别以x1,x2,…,xN像素点为中心所构造的样本。
(4)数据增强
参附图2，对训练样本进行数据增强操作，包括翻转，添加高斯噪声等操作。使训练样本更具随机性，增强模型的泛化能力和鲁棒性。
步骤二，构建分类网络的模型
模型主要的基本构成有3D卷积层，批标准化层以及ReLU激活层。
3D卷积层是指当输入大小为(3,depth,height,width)时，depth、height、width分别简称为d、h、w，每次滑窗与3个通道上的(d,h,w)窗口内的所有值进行相关操作，得到输出3D图像中的一个值。
Figure BDA0002408541590000051
表示卷积过程，W表示卷积核，W与输入数据R进行卷积，并与偏置b相加输出张量Z。公式如下所示：
Figure BDA0002408541590000052
使用‘ReLU’作为激活函数，其作用是克服梯度消失。Z表示输
入，公式如下所示：
Z＝max{0,Z} (2)
批标准化是为了克服由于神经网络层数过深而导致收敛过慢的问题。在激活函数之前，对输入进行标准化，使得数据分布稳定，缓解过拟合。
模型主要由4个残差块组成，在每一个残差块中都包含一个跳跃连接以及一个转换函数F。F由3D卷积层-批标准化层-ReLU激活层-3D卷积层-批标准化层这样的结构组成。早期卷积能够捕捉到更多的局部信息，而低分辨率的卷积层则能够利用高级语义捕捉到更多的结构信息。通过对已有层和深层的跨层连接，将局部细节与高层结构信息结合起来。若用Hl表示第l层的输出，id表示恒等变换，则训练阶段的传播规则由下面公式表示：
Hl＝ReLU(Fl(Hl-1)+id(Hl-1)) (3)
详细结构如附图4所示
若转换函数F导致特征图的大小发生变化，则需在跳跃连接部分添加卷积，使其尺寸与通过转换函数得到的特征图尺寸一致。跳跃连接部分的转换函数f由3D卷积层-批标准化层组成。则训练阶段的传播规则可由下面公式表示：
Hl＝ReLU(Fl(Hl-1)+fl(Hl-1)) (4)
结构如附图5所示
在训练阶段为了减少神经网络的长度，在每个批次都随机地完全跳过一些残差块。即对于每一个残差块，随机地选择是否删除该残差块的转换函数F，仅保留跳跃连接。但在测试阶段保持网络的深度不变。对于第l个残差块设置一个bl∈{0，1}表示一个伯努利随机变量，当bl＝1时表示该残差块是活动的，当bl＝0是表示该残差块是非活动的，即该残差块删除转换函数F，仅保留跳跃连接。第l个残差块的生存概就可以表示为Pl＝P(bl＝1)。训练阶段传播规则由(3)更新为下面的公式(5)：
Hl＝ReLU(blFl(Hl-1)+id(Hl-1)) (5)
如果bl等于1，则公式(5)恢复成公式(3)，即恢复原来的传播规则。
若bl等于0，则简化成下面的公式(6)。对于非负输入，则使用激活函数ReLU代替恒等变换id。
Hl＝id(Hl-1) (6)
Pl是训练过程中的一个超参数，表示第l个残差块的生存概率，即根据Pl的大小。PL表示最后一个残差块的生存概率，恒定为0.5。Pl的设置有两种方式。一是令所有的Pl均等于PL，二是将Pl设置为关于l的衰减函数，公式如下所示：
Figure BDA0002408541590000071
生存概率的线性衰减可以理解为前面的卷积层提取低级特征，这些特征将被后面的卷积层使用，所以前面残差块的生存概率应大一些。当跳过一个残差块时，就不需要进行前向与反向传播的计算，大大缩短了训练时间。在测试过程中，所有的残差块均不会被跳过，恢复包含所有残差块的全长网络。训练过程中，转换函数Fl只对更新的部分Pl有效，根据生存概率Pl校正下一层的权重。所以需要根据转换函数Fl进行训练的期望次数校准Fl的输出。其正向传播规则变为：
Figure BDA0002408541590000081
这个更新规则可以看作将所有可能的网络组合成一个测试网络，每一层根据其生存概率进行加权。
参照附图6，模型包括光谱特征学习、空间特征学习部分、平均池化层和全连接层。模型中的卷积均为三维卷积，输入到网络中的数据块大小为7×7×d，d表示高光谱图像的波段数。以Salinas数据集为例，则输入到网络中的数据块大小为7×7×204。因为原始的输入数据包含冗余的光谱信息，所以首先对原始数据进行3D卷积，采用24个1×1×7大小的卷积核，步长为(1，1，2)，生成24个尺寸为7×7×99的特征块。通过这个操作降低了输入数据的高维性，提取了低光谱特征。然后进行批标准化以及ReLU激活，加快收敛速度。
接下来的网络主要由光谱特征学习部分与空间特征学习部分组成。光谱特征学习部分由两个残差块组成。上一层的输出作为光谱特征学习部分第一个残差块的输入，首先第一个卷积层，使用24个1×1×7大小的卷积核，并补零以保持特征块的大小不变。生成的24个尺寸为7×7×99的特征块再进行批标准化以及ReLU激活。第二个卷积层使用24个1×1×7大小的卷积核，并补零以保持特征块的大小不变。生成的24个尺寸为7×7×99的特征块再进行批标准化。将该特征块与光谱特征学习部分第一个残差块的输入相加后，进行ReLU激活。生成的24个尺寸为7×7×99的特征块和光谱特征学习部分第一个残差块的输入根据光谱特征学习部分第一个残差块的生存概率决定保留前者或者后者作为光谱特征学习部分第一个残差块的输出。
光谱学习部分第二个残差块与第一个残差块结构相同，第一个残差块的输出作为第二个残差块的输入。首先第一个卷积层，使用24个1×1×7大小的卷积核，生成24个尺寸为7×7×99的特征块再进行批标准化以及ReLU激活。第二个卷积层，使用24个1×1×7大小的卷积核，生成24个尺寸为7×7×99的特征块再进行批标准化。将该特征块与光谱学习部分第一个残差块的输入相加后，进行ReLU激活。生成24个尺寸为7×7×99的特征块和光谱学习部分第二个残差块的输入根据光谱特征学习部分第二个残差块的生存概率决定保留前者或者后者作为光谱学习部分第二个残差块的输出。
空间特征学习部分依旧由两个残差块组成，但这两个残差块的结构不同。使用光谱特征学习部分的输出作为空间特征学习部分第一个残差块的输入，首先第一个卷积层使用24个3×3×99大小的卷积核，不补零。生成24个尺寸为5×5×1的特征块进行批标准化以及ReLU激活，这个特征块作为跳跃连接的输出。再次对空间特征学习部分第一个残差块的输入进行卷积，使用24个3×3×99大小的卷积核，不补零。生成24个尺寸为5×5×1的特征块进行批标准化以及ReLU激活，第二个卷积层，使用24个3×3×1大小的卷积核，并使用补零以保持特征块的大小不变。生成的24个尺寸为5×5×1的特征块进行批标准化，这个特征块与跳跃连接的输出相加后进行ReLU激活。生成24个尺寸为5×5×1的特征块和跳跃连接的输出根据空间特征学习部分第一个残差块的生存概率决定保留前者或者后者作为空间特征学习部分第一个残差块的输出。
第一个残差块的输出作为空间特征学习部分第二个残差块的输入，第二个残差块的第一个卷积层，使用24个3×3×1大小的卷积核，并补零以保持特征块的大小不变。生成24个尺寸为5×5×1的特征块进行批标准化以及ReLU激活。第二个卷积层，使用24个3×3×1大小的卷积核，补零以保持特征块的大小不变。生成24个尺寸为5×5×1的特征块进行批标准化。将该特征块与空间特征学习部分第二个残差块的输入相加后，进行ReLU激活。生成的24个尺寸为5×5×1的特征块和空间特征学习部分第二个残差块的输入根据空间特征学习部分第二个残差块的生存概率决定保留前者或者后者作为空间特征学习部分第二个残差块的输出。添加Dropout层以防止过拟合，然后是全连接层，根据类别数目生成一个输出向量
Figure BDA0002408541590000102
由于可训练参数多达1百万，因此需加入批标准化层以防止过拟合。本网络具体构造及参数设置如表1所示：
表1网络构造及参数表
Figure BDA0002408541590000101
Figure BDA0002408541590000111
Figure BDA0002408541590000121
Figure BDA0002408541590000131
步骤三，训练网络
训练集和验证集进行训练。Batchsize为16，Epoch为200。采用交叉熵损失函数，优化器采用学习率初值为0.01的随机梯度下降算法。卷积核均使用He正态分布初始化方法初始化。
步骤四，高光谱图像分类
将测试数据输入网络得到预测值，使用预测值与真实值进行对比，得到准确率。
步骤五，输出分类图像
实验以及分析
1.实验条件
本发明的硬件测试平台是：处理器Intel(R)Core(TM)i7-8750H CPU，主频为2.20Hz，内存为8GB，显卡为Nvidia GeForce GTX 1060Ti；软件平台为Windows10操作系统，开发环境为PyCharm 2019。编程语言是python，使用Pytorch搭建网络结构。
2.实验数据
本发明的性能评价主要用到两个数据集：美国Salinas山谷数据集和意大利的帕维亚城Pavia University数据集。
美国Salinas山谷数据集大小为512×217，204个可用波段，共包含111104个像素点，其中有56975个像素点是背景像素，可应用于分类的像素点有54129个，这些像素点总共分为16类。取5418个像素点作为训练集，5418个像素点作为验证集，43293个像素点作为测试集。附图7即美国Salinas山谷高光谱图像。表2是本发明对美国Salinas山谷数据集的训练与测试样本的选取。注：下表所列测试数据包括验证集与测试集。
表2
Figure BDA0002408541590000141
Figure BDA0002408541590000151
意大利的帕维亚城PaviaUniversity数据集图像大小为610×340，103个可用波段，共有207400个像素，但是其中只有42776个像素是地物像素，其余164624个像素均为背景像素，这些像素点总共分为9类。取4281个像素点作为训练集，4281个像素点作为验证集，34214个像素点作为测试集。附图8即意大利的帕维亚城Pavia University高光谱图像。表3是本发明对意大利的帕维亚城Pavia University数据集的训练与测试样本的选取。注：下表所列测试数据包括验证集与测试集。
表3
Figure BDA0002408541590000152
Figure BDA0002408541590000161
3.性能比较
本发明用到的三个现有技术对比分类的方法如下：
(1)Bor-Chen kuo等人在“A Kernel-Based Feature Selection Method for SVMWith RBF Kernel for Hyperspectral Image Classification”中提出的高光谱图像分类方法。简称SVM-RBF分类方法。基于RBF核的SVM高光谱图像分类算法。
(2)Feng-zhe Zhang等人在“Deep multi-scale convolutional neural networkfor hyperspectral image classification”提出的高光谱分类方法，简称多尺度卷积分类方法(Multi-scale CNN)。该方法设计了一个具有多尺度卷积层的深度神经网络。
(3)Zilong Zhong等人在“Spectral–Spatial Residual Network forHyperspectral Image Classification:A 3-D Deep Learning Framework”中提出的高光谱图像分类方法。简称3D残差网络分类方法(SSRN)。采用3D残差网络直接对高光谱图像进行分类。
在实验中，采用以下三个指标来评价本发明的性能：
第一个评价指标是总体精度(OA),表示正确分类的样本占所有样本的比例，值越大，说明分类效果越好。
第二个评价指标是平均精度(AA)，表示每一类分类精度的平均值，值越大，说明分类效果越好。
第三个评价指标是卡方系数(Kappa)，表示混淆矩阵中不同的权值，值越大，说明分类效果越好。
表4是本发明对美国Salinas山谷高光谱图像分类的准确率以及对比。
表5是本发明对意大利的帕维亚城Pavia University高光谱图像分类的准确率以及对比。
表4
Figure BDA0002408541590000171
Figure BDA0002408541590000181
表5
Figure BDA0002408541590000182
从表4和表5可以看出，对于相同的高光谱图像数据集，本发明提出的分类方法，其分类精度要优于其他分类方法。对于美国Salinas山谷数据集和意大利的帕维亚城PaviaUniversity数据集，网络的分类性能分别优于当前最优方法分类性能约0.77％和0.47％。
另外图9和图10展示了各个分类方法的分类图，其可视化的分类效果图与表4和表5所列出的结果相同。从图像可以看出，与SVM-RBF、Multi-scale CNN、和SSRN分类方法相比，本发明实现的分类图误差较小。
表6是本发明与SVM-RBF、Multi-scale CNN和SSRN的训练和测试程序的运行时间对比。
表6
Figure BDA0002408541590000191
从表6中可以看出，对于训练过程，因为SVM-RBF的结构相对简单，所以训练时间较短，但是本方法所提出的网络取得了更好的效果，这种损失也是值得的。SSRN虽然也取得了较高的精度，但所提出的网络与其相比不仅大大缩短了训练时间，并且在精度上也有了一定的提高。而测试过程，本发明与其他方法时间差距不大。
另外，图11是训练的损失值的变化曲线，图12是在验证集上准确率的变化曲线。虽然训练时间较长，但是分类效果较好。从图中可以看出大约经过120轮训练后，两个曲线均趋于水平。所以，可以选择适当的迭代次数以减少训练时间。
综上所述，本发明针对分类精度不高以及网络过深导致训练时间过长的问题，提出一种基于随机深度残差网络的高光谱图像分类方法。通过真实实验数据分析，表明本发明所提出的方法能够实现高光谱图像的有效分类且相较于同等深度的网络，本发明不但提高了训练效率而且保证了较高的分类准确率。

Claims (10)

1.基于随机深度残差网络的高光谱图像分类方法，其特征在于：本方法实现步骤如下：
步骤一、首先对数据进行预处理；将所有可用的带标签的数据分成三个部分；取数据集的10％作为训练集，10％作为验证集，80％作为测试集；将输入图像的每一个像素块作为样本；假设数据的波段数为d，则设定一个大小为7×7×d的高光谱图像光谱样本窗口，以每一个像素点为中心进行滑动取样，超出边界的则采取补零策略后取样；对取得的样本进行翻转，增加高斯噪声操作，实现对数据的扩容，以减少过拟合；
步骤二、模型构建；模型主要由两部分组成，光谱特征提取与空间信息特征提取；
步骤三、模型训练；
步骤四、高光谱图像分类；将数据输入网络，进行类别的预测，得到分类的高光谱图像；
步骤五、输出分类图像。
2.根据权利要求1所述的基于随机深度残差网络的高光谱图像分类方法，其特征在于：步骤一，数据预处理
(1)输入高光谱图像
输入原高光谱图像，将图像的每一个像素块作为样本，并建立样本集；
(2)获取样本集
假设高光谱图像的通道数为d，则设定一个7×7×d的窗口，以每一个像素点为中心抓取样本集中的样本，对于边界采取补零策略；
(3)数据处理
将所有可用的样本分成三个部分，每个类别各取10％，10％，80％分别作为训练集，验证集，测试集；假设一个HIS数据集X包含N个可分类的地物像素，X＝{x1，x2,…,xN}∈R1X1Xb，Y＝{y1,y2，…，yN}∈R1X1Xl为对应的独热编码标签，其中b和l分别为该数据集的可用光谱波段数和土地类别数；以HIS数据集X中像素为中心的立方体形成了一组新的数据集Z＝{z1，z2，…zN}∈RhXhXb；为充分利用HSI数据集中的光谱和空谱特征，将大小为h×h×b的立方体作为网络的输入；x1，x2，…，xN表示N个可分类的地物像素，y1，y2，…，yN表示与x1，x2，…，xN相对应的独热编码标签，z1，z2，…zN则表示N个分别以x1，x2,…,xN像素点为中心所构造的样本；
(4)数据增强
对训练样本进行数据增强操作，包括翻转、添加高斯噪声操作；使训练样本更具随机性，增强模型的泛化能力和鲁棒性。
3.根据权利要求1所述的基于随机深度残差网络的高光谱图像分类方法，其特征在于：步骤二，构建分类网络的模型
模型的基本构成有3D卷积层，批标准化层以及ReLU激活层；
3D卷积层是指当输入大小为(3,depth,height,width)时，depth、height、width分别简称为d、h、w，每次滑窗与3个通道上的(d,h,w)窗口内的所有值进行相关操作，得到输出3D图像中的一个值；
Figure FDA0002408541580000021
表示卷积过程，W表示卷积核，W与输入数据R进行卷积，并与偏置b相加输出张量Z；公式如下所示：
Figure FDA0002408541580000022
使用‘ReLU’作为激活函数，其作用是克服梯度消失；Z表示输入，公式如下所示：
Z＝max{0,Z} (2)
批标准化是为了克服由于神经网络层数过深而导致收敛过慢的问题；在激活函数之前，对输入进行标准化，使得数据分布稳定，缓解过拟合；
模型由4个残差块组成，在每一个残差块中都包含一个跳跃连接以及一个转换函数F；F由3D卷积层-批标准化层-ReLU激活层-3D卷积层-批标准化层这样的结构组成；早期卷积能够捕捉到更多的局部信息，而低分辨率的卷积层则能够利用高级语义捕捉到更多的结构信息；通过对已有层和深层的跨层连接，将局部细节与高层结构信息结合起来；若用Hl表示第l层的输出，id表示恒等变换，则训练阶段的传播规则由下面公式表示：
Hl＝ReLU(Fl(Hl-1)+id(Hl-1)) (3)
若转换函数F导致特征图的大小发生变化，则需在跳跃连接部分添加卷积，使其尺寸与通过转换函数得到的特征图尺寸一致；跳跃连接部分的转换函数f由3D卷积层-批标准化层组成；则训练阶段的传播规则由下面公式表示：
Hl＝ReLU(Fl(Hl-1)+fl(Hl-1)) (4)
在训练阶段为了减少神经网络的长度，在每个批次都随机地完全跳过一些残差块；即对于每一个残差块，随机地选择是否删除该残差块的转换函数F，仅保留跳跃连接；但在测试阶段保持网络的深度不变；对于第l个残差块设置一个bl∈{0,1}表示一个伯努利随机变量，当bl＝1时表示该残差块是活动的，当bl＝0是表示该残差块是非活动的，即该残差块删除转换函数F，仅保留跳跃连接；第l个残差块的生存概就可以表示为Pl＝P(bl＝1)；训练阶段传播规则由(3)更新为下面的公式(5)：
Hl＝ReLU(blFl(Hl-1)+id(Hl-1)) (5)
如果bl等于1，则公式(5)恢复成公式(3)，即恢复原来的传播规则；
若bl等于0，则简化成下面的公式(6)；对于非负输入，则使用激活函数ReLU代替恒等变换id；
Hl＝id(Hl-1) (6)
Pl是训练过程中的一个超参数，表示第l个残差块的生存概率，即根据Pl的大小；PL表示最后一个残差块的生存概率，恒定为0.5；Pl的设置有两种方式；一是令所有的Pl均等于PL，二是将Pl设置为关于l的衰减函数，公式如下所示：
Figure FDA0002408541580000041
生存概率的线性衰减理解为前面的卷积层提取低级特征，这些特征将被后面的卷积层使用，所以前面残差块的生存概率应大一些；当跳过一个残差块时，就不需要进行前向与反向传播的计算，大大缩短了训练时间；在测试过程中，所有的残差块均不会被跳过，恢复包含所有残差块的全长网络；训练过程中，转换函数Fl只对更新的部分Pl有效，根据生存概率Pl校正下一层的权重；所以需要根据转换函数Fl进行训练的期望次数校准Fl的输出；其正向传播规则变为：
Figure FDA0002408541580000051
这个更新规则可以看作将所有可能的网络组合成一个测试网络，每一层根据其生存概率进行加权。
4.根据权利要求3所述的基于随机深度残差网络的高光谱图像分类方法，其特征在于：模型包括光谱特征学习、空间特征学习部分、平均池化层和全连接层；模型中的卷积均为三维卷积，输入到网络中的数据块大小为7×7×d，d表示高光谱图像的波段数；以Salinas数据集为例，则输入到网络中的数据块大小为7×7×204；因为原始的输入数据包含冗余的光谱信息，所以首先对原始数据进行3D卷积，采用24个1×1×7大小的卷积核，步长为(1，1，2)，生成24个尺寸为7×7×99的特征块；通过这个操作降低输入数据的高维性，提取了低光谱特征；然后进行批标准化以及ReLU激活，加快收敛速度。
5.根据权利要求4所述的基于随机深度残差网络的高光谱图像分类方法，其特征在于：接下来的网络由光谱特征学习部分与空间特征学习部分组成；光谱特征学习部分由两个残差块组成；上一层的输出作为光谱特征学习部分第一个残差块的输入，首先第一个卷积层，使用24个1×1×7大小的卷积核，并补零以保持特征块的大小不变；生成的24个尺寸为7×7×99的特征块再进行批标准化以及ReLU激活；第二个卷积层使用24个1×1×7大小的卷积核，并补零以保持特征块的大小不变；生成的24个尺寸为7×7×99的特征块再进行批标准化；将该特征块与光谱特征学习部分第一个残差块的输入相加后，进行ReLU激活；生成的24个尺寸为7×7×99的特征块和光谱特征学习部分第一个残差块的输入根据光谱特征学习部分第一个残差块的生存概率决定保留前者或者后者作为光谱特征学习部分第一个残差块的输出。
6.根据权利要求3所述的基于随机深度残差网络的高光谱图像分类方法，其特征在于：光谱学习部分第二个残差块与第一个残差块结构相同，第一个残差块的输出作为第二个残差块的输入；首先第一个卷积层，使用24个1×1×7大小的卷积核，生成24个尺寸为7×7×99的特征块再进行批标准化以及ReLU激活；第二个卷积层，使用24个1×1×7大小的卷积核，生成24个尺寸为7×7×99的特征块再进行批标准化；将该特征块与光谱学习部分第一个残差块的输入相加后，进行ReLU激活；生成24个尺寸为7×7×99的特征块和光谱学习部分第二个残差块的输入根据光谱特征学习部分第二个残差块的生存概率决定保留前者或者后者作为光谱学习部分第二个残差块的输出。
7.根据权利要求3所述的基于随机深度残差网络的高光谱图像分类方法，其特征在于：空间特征学习部分依旧由两个残差块组成，但这两个残差块的结构不同；使用光谱特征学习部分的输出作为空间特征学习部分第一个残差块的输入，首先第一个卷积层使用24个3×3×99大小的卷积核，不补零；生成24个尺寸为5×5×1的特征块进行批标准化以及ReLU激活，这个特征块作为跳跃连接的输出；再次对空间特征学习部分第一个残差块的输入进行卷积，使用24个3×3×99大小的卷积核，不补零；生成24个尺寸为5×5×1的特征块进行批标准化以及ReLU激活，第二个卷积层，使用24个3×3×1大小的卷积核，并使用补零以保持特征块的大小不变；生成的24个尺寸为5×5×1的特征块进行批标准化，这个特征块与跳跃连接的输出相加后进行ReLU激活；生成24个尺寸为5×5×1的特征块和跳跃连接的输出根据空间特征学习部分第一个残差块的生存概率决定保留前者或者后者作为空间特征学习部分第一个残差块的输出；
第一个残差块的输出作为空间特征学习部分第二个残差块的输入，第二个残差块的第一个卷积层，使用24个3×3×1大小的卷积核，并补零以保持特征块的大小不变；生成24个尺寸为5×5×1的特征块进行批标准化以及ReLU激活；第二个卷积层，使用24个3×3×1大小的卷积核，补零以保持特征块的大小不变；生成24个尺寸为5×5×1的特征块进行批标准化；将该特征块与空间特征学习部分第二个残差块的输入相加后，进行ReLU激活；生成的24个尺寸为5×5×1的特征块和空间特征学习部分第二个残差块的输入根据空间特征学习部分第二个残差块的生存概率决定保留前者或者后者作为空间特征学习部分第二个残差块的输出；添加Dropout层以防止过拟合，然后是全连接层，根据类别数目生成一个输出向量
Figure FDA0002408541580000071
由于可训练参数多达1百万，因此需加入批标准化层以防止过拟合。
8.根据权利要求1所述的基于随机深度残差网络的高光谱图像分类方法，其特征在于：步骤三，训练网络；
训练集和验证集进行训练；Batchsize为16，Epoch为200；采用交叉熵损失函数，优化器采用学习率初值为0.01的随机梯度下降算法；卷积核均使用He正态分布初始化方法初始化。
9.根据权利要求1所述的基于随机深度残差网络的高光谱图像分类方法，其特征在于：步骤四，高光谱图像分类；
将测试数据输入网络得到预测值，使用预测值与真实值进行对比，得到准确率。
10.根据权利要求1所述的基于随机深度残差网络的高光谱图像分类方法，其特征在于：步骤五，输出分类图像的硬件测试平台是：处理器Intel(R)Core(TM)i7-8750H CPU，主频为2.20Hz，内存为8GB，显卡为Nvidia GeForce GTX 1060Ti；软件平台为Windows10操作系统，开发环境为PyCharm 2019；编程语言是python，使用Pytorch搭建网络结构。
CN202010169109.3A 2020-03-12 2020-03-12 基于随机深度残差网络的高光谱图像分类方法 Active CN111353463B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010169109.3A CN111353463B (zh) 2020-03-12 2020-03-12 基于随机深度残差网络的高光谱图像分类方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010169109.3A CN111353463B (zh) 2020-03-12 2020-03-12 基于随机深度残差网络的高光谱图像分类方法

Publications (2)

Publication Number Publication Date
CN111353463A true CN111353463A (zh) 2020-06-30
CN111353463B CN111353463B (zh) 2023-07-25

Family

ID=71194357

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010169109.3A Active CN111353463B (zh) 2020-03-12 2020-03-12 基于随机深度残差网络的高光谱图像分类方法

Country Status (1)

Country Link
CN (1) CN111353463B (zh)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111985575A (zh) * 2020-09-02 2020-11-24 四川九洲电器集团有限责任公司 一种基于卷积神经网络的高光谱图像分类方法
CN112348097A (zh) * 2020-11-12 2021-02-09 上海海洋大学 一种高光谱图像分类方法
CN112508066A (zh) * 2020-11-25 2021-03-16 四川大学 一种基于残差全卷积分割网络的高光谱图像分类方法
CN112966598A (zh) * 2021-03-04 2021-06-15 河南大学 一种双路径小卷积网络的高光谱图像分类方法
CN113128370A (zh) * 2021-04-01 2021-07-16 中国人民解放军战略支援部队信息工程大学 结合深度胶囊网络和马尔科夫随机场的高光谱影像分类方法
CN113642492A (zh) * 2021-08-20 2021-11-12 上海交通大学 基于深度残差学习和多线激光的交叉焊缝辨识方法及系统
CN113705526A (zh) * 2021-09-07 2021-11-26 安徽大学 一种高光谱遥感影像分类方法
CN113705641A (zh) * 2021-08-16 2021-11-26 武汉大学 基于富上下文网络的高光谱图像分类方法
CN114241247A (zh) * 2021-12-28 2022-03-25 国网浙江省电力有限公司电力科学研究院 一种基于深度残差网络的变电站安全帽识别方法及系统
CN114821164A (zh) * 2022-04-13 2022-07-29 北京工业大学 基于孪生网络的高光谱图像分类方法
CN114965441A (zh) * 2022-07-28 2022-08-30 中国科学院国家天文台 元素概率化预测模型的训练方法和元素概率化预测方法
WO2022227759A1 (zh) * 2021-04-29 2022-11-03 北京百度网讯科技有限公司 图像类别的识别方法、装置和电子设备
CN116051896A (zh) * 2023-01-28 2023-05-02 西南交通大学 一种轻量化混合张量神经网络的高光谱图像分类方法
CN117372789A (zh) * 2023-12-07 2024-01-09 北京观微科技有限公司 图像分类方法及图像分类装置

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130322760A1 (en) * 2012-06-04 2013-12-05 Raytheon Company System and method for rapid cluster analysis of hyperspectral images
CN107832797A (zh) * 2017-11-17 2018-03-23 西安电子科技大学 基于深度融合残差网的多光谱图像分类方法
CN108596248A (zh) * 2018-04-23 2018-09-28 上海海洋大学 一种基于改进深度卷积神经网络的遥感影像分类模型
CN109871830A (zh) * 2019-03-15 2019-06-11 中国人民解放军国防科技大学 基于三维深度残差网络的空谱融合高光谱图像分类方法
CN109978041A (zh) * 2019-03-19 2019-07-05 上海理工大学 一种基于交替更新卷积神经网络的高光谱图像分类方法
CN110298396A (zh) * 2019-06-25 2019-10-01 北京工业大学 基于深度学习多特征融合的高光谱图像分类方法
CN110717520A (zh) * 2019-09-12 2020-01-21 华侨大学 基于高光谱图像空间特征和光谱特征融合的固废识别方法
CN110852227A (zh) * 2019-11-04 2020-02-28 中国科学院遥感与数字地球研究所 高光谱图像深度学习分类方法、装置、设备及存储介质

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130322760A1 (en) * 2012-06-04 2013-12-05 Raytheon Company System and method for rapid cluster analysis of hyperspectral images
CN107832797A (zh) * 2017-11-17 2018-03-23 西安电子科技大学 基于深度融合残差网的多光谱图像分类方法
CN108596248A (zh) * 2018-04-23 2018-09-28 上海海洋大学 一种基于改进深度卷积神经网络的遥感影像分类模型
CN109871830A (zh) * 2019-03-15 2019-06-11 中国人民解放军国防科技大学 基于三维深度残差网络的空谱融合高光谱图像分类方法
CN109978041A (zh) * 2019-03-19 2019-07-05 上海理工大学 一种基于交替更新卷积神经网络的高光谱图像分类方法
CN110298396A (zh) * 2019-06-25 2019-10-01 北京工业大学 基于深度学习多特征融合的高光谱图像分类方法
CN110717520A (zh) * 2019-09-12 2020-01-21 华侨大学 基于高光谱图像空间特征和光谱特征融合的固废识别方法
CN110852227A (zh) * 2019-11-04 2020-02-28 中国科学院遥感与数字地球研究所 高光谱图像深度学习分类方法、装置、设备及存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
KUMARI POOJA 等: "Multi-Scale Dilated Residual Convolutional Neural Network for Hyperspectral Image Classification", 2019 10TH WORKSHOP ON HYPERSPECTRAL IMAGING AND SIGNAL PROCESSING: EVOLUTION IN REMOTE SENSING (WHISPERS) *
魏祥坡 等: "利用残差密集网络的高光谱图像分类", 激光与光电子学进展 *

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111985575B (zh) * 2020-09-02 2022-08-02 四川九洲电器集团有限责任公司 一种基于卷积神经网络的高光谱图像分类方法
CN111985575A (zh) * 2020-09-02 2020-11-24 四川九洲电器集团有限责任公司 一种基于卷积神经网络的高光谱图像分类方法
CN112348097A (zh) * 2020-11-12 2021-02-09 上海海洋大学 一种高光谱图像分类方法
CN112508066A (zh) * 2020-11-25 2021-03-16 四川大学 一种基于残差全卷积分割网络的高光谱图像分类方法
CN112966598A (zh) * 2021-03-04 2021-06-15 河南大学 一种双路径小卷积网络的高光谱图像分类方法
CN112966598B (zh) * 2021-03-04 2022-08-30 河南大学 一种双路径小卷积网络的高光谱图像分类方法
CN113128370A (zh) * 2021-04-01 2021-07-16 中国人民解放军战略支援部队信息工程大学 结合深度胶囊网络和马尔科夫随机场的高光谱影像分类方法
WO2022227759A1 (zh) * 2021-04-29 2022-11-03 北京百度网讯科技有限公司 图像类别的识别方法、装置和电子设备
CN113705641B (zh) * 2021-08-16 2023-11-10 武汉大学 基于富上下文网络的高光谱图像分类方法
CN113705641A (zh) * 2021-08-16 2021-11-26 武汉大学 基于富上下文网络的高光谱图像分类方法
CN113642492A (zh) * 2021-08-20 2021-11-12 上海交通大学 基于深度残差学习和多线激光的交叉焊缝辨识方法及系统
CN113642492B (zh) * 2021-08-20 2023-11-07 上海交通大学 基于深度残差学习和多线激光的交叉焊缝辨识方法及系统
CN113705526A (zh) * 2021-09-07 2021-11-26 安徽大学 一种高光谱遥感影像分类方法
CN114241247A (zh) * 2021-12-28 2022-03-25 国网浙江省电力有限公司电力科学研究院 一种基于深度残差网络的变电站安全帽识别方法及系统
CN114821164A (zh) * 2022-04-13 2022-07-29 北京工业大学 基于孪生网络的高光谱图像分类方法
CN114965441A (zh) * 2022-07-28 2022-08-30 中国科学院国家天文台 元素概率化预测模型的训练方法和元素概率化预测方法
CN114965441B (zh) * 2022-07-28 2022-12-06 中国科学院国家天文台 元素概率化预测模型的训练方法和元素概率化预测方法
CN116051896A (zh) * 2023-01-28 2023-05-02 西南交通大学 一种轻量化混合张量神经网络的高光谱图像分类方法
CN117372789A (zh) * 2023-12-07 2024-01-09 北京观微科技有限公司 图像分类方法及图像分类装置
CN117372789B (zh) * 2023-12-07 2024-03-08 北京观微科技有限公司 图像分类方法及图像分类装置

Also Published As

Publication number Publication date
CN111353463B (zh) 2023-07-25

Similar Documents

Publication Publication Date Title
CN111353463B (zh) 基于随机深度残差网络的高光谱图像分类方法
Ghaderizadeh et al. Hyperspectral image classification using a hybrid 3D-2D convolutional neural networks
CN110135267B (zh) 一种大场景sar图像细微目标检测方法
CN112232280B (zh) 基于自编码器与3d深度残差网络的高光谱图像分类方法
CN112733749B (zh) 融合注意力机制的实时行人检测方法
CN113705526B (zh) 一种高光谱遥感影像分类方法
US10275719B2 (en) Hyper-parameter selection for deep convolutional networks
Springenberg et al. Improving deep neural networks with probabilistic maxout units
CN114787876A (zh) 用于图像预处理的系统和方法
Kong et al. Spectral–spatial feature extraction for HSI classification based on supervised hypergraph and sample expanded CNN
Cui et al. Superpixel-based extended random walker for hyperspectral image classification
CN109063719B (zh) 一种联合结构相似性和类信息的图像分类方法
Haq et al. [Retracted] A Hybrid Approach Based on Deep CNN and Machine Learning Classifiers for the Tumor Segmentation and Classification in Brain MRI
CN104732244B (zh) 基于小波变换、多策略pso和svm集成的遥感图像分类方法
CN113408605A (zh) 基于小样本学习的高光谱图像半监督分类方法
Paoletti et al. FLOP-reduction through memory allocations within CNN for hyperspectral image classification
CN112529146B (zh) 神经网络模型训练的方法和装置
CN103366189B (zh) 一种高光谱遥感图像的智能化分类方法
CN111160268A (zh) 一种基于多任务学习的多角度sar目标识别方法
CN112163599B (zh) 一种基于多尺度多层次融合的图像分类方法
CN111652041A (zh) 基于深度子空间聚类的高光谱波段选择方法、设备和装置
CN115222998A (zh) 一种图像分类方法
Kumari et al. A magnification-independent method for breast cancer classification using transfer learning
CN111008652A (zh) 一种基于gan的高光谱遥感影像分类方法
Albert et al. Embedding contrastive unsupervised features to cluster in-and out-of-distribution noise in corrupted image datasets

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant