CN109376753A - 一种稠密连接的三维空谱分离卷积深度网络及构建方法 - Google Patents

一种稠密连接的三维空谱分离卷积深度网络及构建方法 Download PDF

Info

Publication number
CN109376753A
CN109376753A CN201811008372.3A CN201811008372A CN109376753A CN 109376753 A CN109376753 A CN 109376753A CN 201811008372 A CN201811008372 A CN 201811008372A CN 109376753 A CN109376753 A CN 109376753A
Authority
CN
China
Prior art keywords
convolution
dimensional
network
layer
spectrum
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201811008372.3A
Other languages
English (en)
Other versions
CN109376753B (zh
Inventor
肖亮
刘启超
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Science and Technology
Original Assignee
Nanjing University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Science and Technology filed Critical Nanjing University of Science and Technology
Priority to CN201811008372.3A priority Critical patent/CN109376753B/zh
Publication of CN109376753A publication Critical patent/CN109376753A/zh
Application granted granted Critical
Publication of CN109376753B publication Critical patent/CN109376753B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种稠密连接的三维空谱分离卷积深度网络及构建方法，该方法包括：输入层为三维空谱数据；隐层单元由光谱维一维卷积层和空间维二维卷积层构成，每个隐层单元是先执行光谱维卷积，然后执行空间维卷积；深度网络由多层隐层单元堆叠而成；每个隐层单元的输入为前面所有隐层单元的输出拼接而成；输出层为各光谱像元的类属概率数据；网络损失函数为掩模交叉熵。本发明具有空谱特征快速学习和小样本标注监督分类性能，较好解决分类标签不均衡性，应用于高光谱图像监督分类具有优异性能。

Description

一种稠密连接的三维空谱分离卷积深度网络及构建方法
技术领域
本发明涉及深度网络技术，具体涉及一种稠密连接的三维空谱分离卷积深度网络及构建方法。
背景技术
深度学习目前已成为机器学习领域中的重要方法之一。在深度学习领域中，前馈神经网络(FNNs)能以任意精度逼近任意函数，被广泛应用于回归、分类等任务中。循环神经网络(RNNs)具有长时依赖能力，常被用于语音识别、机器翻译等任务中。卷积神经网络(CNNs)具有空间特征提取能力，被广泛应用于目标识别、语义分割等任务中。不同类型的网络适用于不同类型的任务及数据形式。
光谱数据是典型的一维数据。每条光谱由几十至上百个离散值组成。在该领域中，光谱的分析识别是主要任务之一。目前，基于前馈神经网络的光谱分类方法及其改进方法已被提出，如[He M,Huang R.Feature Selection for Hyperspectral DataClassification Using Double Parallel Feedforward Neural Networks[C]//FuzzySystems and Knowledge Discovery,Second International Conference,Fskd 2005,Changsha,China,August 27-29,2005,Proceedings.DBLP,2005:58-66.]。自然图像是典型的二维数据。自然图像分类任务中的主要难点之一是获取图像中的语义信息，即空间特征。卷积神经网络是目前分析图像数据的最佳工具，基于卷积神经网络的众多方法已被提出，如AlexNet、GoogLeNet等在图像分类或分割任务中取得了巨大成功。高光谱图像是典型的三维空谱数据，与一维数据和二维数据不同的是，它的每个像元都以向量形式存在，即每个像元均为一条光谱，同时所有像元的同一位置元素在空间上又为图像，即“图谱合一”特性。目前，研究者们已经提出许多基于卷积神经网络的高光谱图像分类方法，并取得了较好的效果，如[Hu W,Huang Y,Wei L,et al.Deep Convolutional Neural Networks for,Hyperspectral Image Classification[J].Journal of Sensors,2015,2015(2):1-12.]。但是，卷积神经网络的特性是提取空间语义特征，而在三维空谱数据中，光谱信息与空间信息同样重要。利用常规卷积神经网络对空谱数据进行处理，往往会削弱光谱信息对分类任务的贡献。
发明内容
本发明的目的在于提供一种稠密连接的三维空谱分离卷积深度网络及构建方法。
实现本发明目的的技术方案为：一种稠密连接的三维空谱分离卷积深度网络，包括输入层、隐层单元和输出层；
输入层为三维空谱数据,即网络的输入为具有多通道空谱结构的三维数据；
隐层单元由光谱维一维卷积层和空间维二维卷积层构成，每个隐层单元先执行光谱维卷积，然后执行空间维卷积；光谱维一维卷积层采用一维卷积核对逐光谱进行卷积变换，空间维二维卷积层采用二维卷积核对逐通道进行卷积变换；深度网络由多层隐层单元堆叠而成，即使用多个隐层单元层层堆叠构成深度网络；每个隐层单元的输入为前面所有隐层单元的输出拼接而成；
输出层为各像元的类属概率数据，即网络的输出为输入空谱数据的空间维各像元的类属概率数据。
一种稠密连接的三维空谱分离卷积深度网络构建方法，包括以下步骤：
第一步，输入层为三维空谱数据,即网络的输入为具有多通道空谱结构的三维数据；
第二步，隐层单元由光谱维一维卷积层和空间维二维卷积层构成，每个隐层单元是先执行光谱维卷积，然后执行空间维卷积；光谱维一维卷积层采用一维卷积核对逐光谱进行卷积变换，空间维二维卷积层采用二维卷积核对逐通道进行卷积变换；
第三步，深度网络由多层隐层单元堆叠而成，即使用多个隐层单元层层堆叠构成深度网络；
第四步，每个隐层单元的输入为前面所有隐层单元的输出拼接而成；
第五步，输出层为各像元的类属概率数据，即网络的输出为输入空谱数据的空间维各像元的类属概率数据；
第六步，网络损失函数为掩模交叉熵，即根据训练样本标签构建带掩模的交叉熵损失函数。
本发明与现有技术相比，其显著优点为：(1)通过使用光谱维一维卷积层和空间维二维卷积层构成隐层单元，可以有效融合像元的空间信息与光谱信息；(2)通过构建端到端分类模型，输入、输出形式简单，无须复杂的预、后处理流程；(3)该网络具有空谱特征快速学习和小样本标注监督分类性能，应用于高光谱图像分类具有优异性能。
下面结合附图对本发明作进一步详细描述。
附图说明
图1是本发明稠密连接的三维空谱分离卷积深度网络构建方法示意图。
图2是隐层单元结构图。
图3是仿真实验的网络结构图。
图4(a)是Indian Pines数据集真实地物分布图，图4(b)是Indian Pines数据集1％训练集分类效果图，图4(c)是Indian Pines数据集5％训练集分类效果图，图4(d)是Indian Pines数据集10％训练集分类效果图。
图5(a)是Pavia University数据集真实地物分布图，图5(b)是Pavia University数据集0.5％训练集分类效果图，图5(c)是Pavia University数据集1％训练集分类效果图，图5(d)是Pavia University数据集5％训练集分类效果图。
具体实施方式
为了克服基于卷积神经网络的方法在三维空谱数据相关任务中光谱信息利用不充分的问题，本发明提出了一种稠密连接的三维空谱分离卷积深度网络及构建方法。该方法使用光谱维一维卷积层与空间维二维卷积层构成隐层单元，在每一个隐层单元中先提取光谱特征，然后提取空间特征，并将两者融合为空谱特征，进而执行分类任务。该方法摈弃了传统方法中将空间特征与光谱特征简单“拼接”的联合方式，在特征提取的过程中交替提取光谱与空间特征，并在特征空间中将两者融合，形成空谱特征。本发明方法为端到端监督分类神经网络模型，输入、输出形式结构简单，无需预、后处理流程，模型鲁棒性高，可广泛应用于工程领域。此外，本发明在网络中的所有隐层单元间使用稠密连接，使浅层特征与深层特征同时作为最终特征进行高光谱图像分类，在基准数据集Indian Pines上10％监督样本训练下平均测试分类精度可达99.2％，在Pavia University数据集上5％监督样本训练下平均测试分类精度可达99.9％。本发明方法具有空谱特征快速学习和小样本标注监督分类性能，可以较好解决分类标签不均衡性，应用于高光谱图像分类具有优异性能。
下面结合附图详细说明本发明技术内容。
结合图1、图2，一种稠密连接的三维空谱分离卷积深度网络，包括输入层、隐层单元和输出层；
输入层为三维空谱数据,即网络的输入为具有多通道空谱结构的三维数据；
隐层单元由光谱维一维卷积层和空间维二维卷积层构成，每个隐层单元先执行光谱维卷积，然后执行空间维卷积；光谱维一维卷积层采用一维卷积核对逐光谱进行卷积变换，空间维二维卷积层采用二维卷积核对逐通道进行卷积变换；深度网络由多层隐层单元堆叠而成，即使用多个隐层单元层层堆叠构成深度网络；每个隐层单元的输入为前面所有隐层单元的输出拼接而成；
输出层为各像元的类属概率数据，即网络的输出为输入空谱数据的空间维各像元的类属概率数据。
进一步的，记为三维空谱数据，h、w、b分别为三维空谱数据的三个维度，即高、宽和通道数，网络的输入层大小即三维空谱数据的大小h×w×b。
进一步的，光谱维一维卷积层采用一维卷积核对逐光谱进行卷积变换，空间维二维卷积层采用二维卷积核对逐通道进行卷积变换，具体为：
设第l个隐层单元的输入为输出为记第l个隐层单元的变换为Hl，则Hl表示为：
其中，运算符表示卷积运算，BN(·)表示批归一化函数，G(·)表示激活函数，和分别表示第i个光谱维一维卷积核与空间维二维卷积核，d×d为二维卷积核大小，1≤i≤v，和分别为第i个一维卷积核与二维卷积核所对应的偏置项，和分别为第i个一维卷积核与二维卷积核的卷积输出结果，[…]表示拼接操作。
进一步的，每个隐层单元的输入为前面所有隐层单元的输出拼接而成；记第l个隐层单元的输入为Il，输出为Ol，变换为Hl，则Il的计算式为：
Il＝[O1,O2,…,Ol-1]
Ol的计算式为：
Ol＝Hl(Il)＝Hl([O1,O2,…,Ol-1])
其中，[…]表示拼接操作。
进一步的，输出层为各像元的类属概率数据，即网络的输出为输入空谱数据的空间维各像元的类属概率数据；记网络输入为该空谱数据的像元可划分为c个不同类别，则网络的输出层为其中h、w、b、c分别为三维空谱数据的高、宽、通道数和类别数；设网络由L个隐层单元堆叠而成，1≤L，第l个隐层单元的输出为Ol，1≤l≤L，网络隐层到输出层的变换记为T，则T表示为：
Y＝T([O1,O2,…,OL])＝[Y1,Y2,…,Yc]
其中，运算符表示卷积运算，为Y中第i个通道，1≤i≤c，Si与bi分别为第i个1×1大小的卷积核与对应的偏置项，[…]表示拼接操作。
本发明还提供一种稠密连接的三维空谱分离卷积深度网络构建方法，包括以下步骤：
第一步，输入层为三维空谱数据,即网络的输入为具有多通道空谱结构的三维数据；记为三维空谱数据，h、w、b分别为三维空谱数据的三个维度，即高、宽和通道数；网络的输入层大小即三维空谱数据的大小h×w×b。
第二步，隐层单元由光谱维一维卷积层和空间维二维卷积层构成，每个隐层单元是先执行光谱维卷积，然后执行空间维卷积；光谱维一维卷积层采用一维卷积核对逐光谱进行卷积变换，空间维二维卷积层采用二维卷积核对逐通道进行卷积变换；所有隐层单元的空间维大小均与输入层一致，即，若输入层空间维大小为h×w，则隐层单元的空间维大小同为h×w。设第l个隐层单元的输入为
输出为记第l个隐层单元的变换为Hl，则Hl表示为：
其中，运算符表示卷积运算，BN(·)表示批归一化函数，G(·)表示激活函数，和分别表示第i个光谱维一维卷积核与空间维二维卷积核，d×d为二维卷积核大小，1≤i≤v，和分别为第i个一维卷积核与二维卷积核所对应的偏置项，和分别为第i个一维卷积核与二维卷积核的卷积输出结果，[…]表示拼接操作；隐层单元结构如图2所示。
第三步，深度网络由多层隐层单元堆叠而成，即使用多个隐层单元层层堆叠构成深度网络；在该网络中，除输入输出层外，其余均以隐层单元为基本单元，并将多个隐层单元按顺序堆叠构成深度网络。
第四步，每个隐层单元的输入为前面所有隐层单元的输出拼接而成；该稠密连接方式如图1所示。记第l个隐层单元的输入为Il，输出为Ol，变换为Hl，则Il的计算式为：
Il＝[O1,O2,…,Ol-1]
Ol的计算式为：
Ol＝Hl(Il)＝Hl([O1,O2,…,Ol-1])
其中，[…]表示拼接操作。
第五步，输出层为各像元的类属概率数据，即网络的输出为输入空谱数据的空间维各像元的类属概率数据；记网络输入为该空谱数据的像元可划分为c个不同类别，则网络的输出层为其中h、w、b、c分别为三维空谱数据的高、宽、通道数和类别数；设网络由L个隐层单元堆叠而成，1≤L，第l个隐层单元的输出为Ol，1≤l≤L，网络隐层到输出层的变换记为T，则T表示为：
Y＝T([O1,O2,…,OL])＝[Y1,Y2,…,Yc]
其中，运算符表示卷积运算，为Y中第i个通道，1≤i≤c，Si与bi分别为第i个1×1大小的卷积核与对应的偏置项，[…]表示拼接操作。
第六步，网络损失函数为掩模交叉熵，即根据训练样本标签构建带掩模的交叉熵损失函数。
在该网络中，训练集由输入层空谱数据中带类别标注的像元组成，记为Dtrain，即，若X中第p行第q列位置的像元为训练样本，1≤p≤h，1≤q≤w，则Xp,q∈Dtrain，否则不成立；记为对应训练样本Xp,q∈Dtrain的类属概率向量，即，若Xp,q属于类别u，1≤u≤c，则对应的类属概率向量Z(p,q)中第u个位置元素值为1，其余为0，其中h、w、b、c分别为三维空谱数据的高、宽、通道数和类别数；将训练样本对应的标签转化为对应网络输出的类属概率数据，记为则L中的元素满足如下公式：
其中0表示元素全为0的向量，Lp,q表示L中第p行第q列位置的类属概率向量；则网络的损失函数为：
其中，Yp,q,u与Lp,q,u分别表示Y和L中第p行第q列第u个类别的类属概率数据。
本发明的效果可通过以下仿真实验进一步说明：
实施例
(1)仿真条件
高光谱图像是典型的三维空谱数据，仿真实验采用两组真实高光谱数据：IndianPines数据集和Pavia University数据集。Indian Pines数据集为机载可见红外成像光谱仪(AVIRIS)在美国印第安纳州Indian Pines实验区采集的高光谱遥感图像。该图像共包含220个波段，空间分辨率为20m，图像大小为145×145。去除20个水汽吸收和低信噪比波段后(波段号为104-108，150-163，220)，选择剩下的200个波段作为研究对象。该地区共包含16种已知地物共10366个样本。Pavia University数据集是由帕维亚的ROSIS传感器采集，共包含115个波段，图像大小为610×340，在去除噪声波段之后，选择剩下的103个波段作为研究对象。对于Indian Pines数据集，实验中每类样本均随机取1％、5％、10％作为训练样本，剩余样本作为测试样本。对于Pavia University数据集，由于样本较多，实验中每类样本均随机取0.5％、1％、5％作为训练样本，剩余样本作为测试样本。两组实验分别重复进行十次并取平均值最为最终结果，并给出OA(Overall Accuracy)以及AA(Average Accuracy)评价指标。两组数据集均无任何预处理。仿真实验均在Windows 10操作系统下采用Python3.6+Tensorflow完成，实验中使用的网络架构如图3所示，该网络结构具体参数总结在表1中。
表1
(2)仿真实验结果分析
表2为本发明方法对Indian Pines与Pavia University数据集进行仿真实验的分类精度。
表2
从实验结果来看，本发明在两个不同数据集上均获得了很好的效果。在常用训练样本比例下，本发明在Indian Pines(每类10％训练样本)和Pavia University(每类5％训练样本)上均获得了超过99％的准确率，远高于传统分类方法，证明了本发明的有效性。而在少量训练样本条件下，本发明在Indian Pines(每类1％、5％训练样本)和PaviaUniversity(每类0.5％、1％训练样本)上保持了较高的精度，证明了本发明在少量训练样本条件下可以保持较高的稳定性。本发明方法在两组数据集上的实验结果图如图4(a)～图4(d)、图5(a)～图5(d)所示。以上两组真实数据集的仿真实验结果表明了本发明方法的有效性。

Claims (10)

1.一种稠密连接的三维空谱分离卷积深度网络，其特征在于，包括输入层、隐层单元和输出层；
输入层为三维空谱数据,即网络的输入为具有多通道空谱结构的三维数据；
隐层单元由光谱维一维卷积层和空间维二维卷积层构成，每个隐层单元先执行光谱维卷积，然后执行空间维卷积；光谱维一维卷积层采用一维卷积核对逐光谱进行卷积变换，空间维二维卷积层采用二维卷积核对逐通道进行卷积变换；深度网络由多层隐层单元堆叠而成，即使用多个隐层单元层层堆叠构成深度网络；每个隐层单元的输入为前面所有隐层单元的输出拼接而成；
输出层为各像元的类属概率数据，即网络的输出为输入空谱数据的空间维各像元的类属概率数据。
2.根据权利要求1所述的稠密连接的三维空谱分离卷积深度网络，其特征在于，记为三维空谱数据，h、w、b分别为三维空谱数据的三个维度，即高、宽和通道数，网络的输入层大小即三维空谱数据的大小h×w×b。
3.根据权利要求1所述的稠密连接的三维空谱分离卷积深度网络，其特征在于，光谱维一维卷积层采用一维卷积核对逐光谱进行卷积变换，空间维二维卷积层采用二维卷积核对逐通道进行卷积变换，具体为：
设第l个隐层单元的输入为输出为记第l个隐层单元的变换为Hl，则Hl表示为：
其中，运算符表示卷积运算，BN(·)表示批归一化函数，G(·)表示激活函数，和分别表示第i个光谱维一维卷积核与空间维二维卷积核，d×d为二维卷积核大小，1≤i≤v，和分别为第i个一维卷积核与二维卷积核所对应的偏置项，和分别为第i个一维卷积核与二维卷积核的卷积输出结果，[…]表示拼接操作。
4.根据权利要求1所述的稠密连接的三维空谱分离卷积深度网络，其特征在于，每个隐层单元的输入为前面所有隐层单元的输出拼接而成；记第l个隐层单元的输入为Il，输出为Ol，变换为Hl，则Il的计算式为：
Il＝[O1,O2,…,Ol-1]
Ol的计算式为：
Ol＝Hl(Il)＝Hl([O1,O2,…,Ol-1])
其中，[…]表示拼接操作。
5.根据权利要求1所述的稠密连接的三维空谱分离卷积深度网络，其特征在于，输出层为各像元的类属概率数据，即网络的输出为输入空谱数据的空间维各像元的类属概率数据；记网络输入为该空谱数据的像元可划分为c个不同类别，则网络的输出层为其中h、w、b、c分别为三维空谱数据的高、宽、通道数和类别数；设网络由L个隐层单元堆叠而成，1≤L，第l个隐层单元的输出为Ol，1≤l≤L，网络隐层到输出层的变换记为T，则T表示为：
Y＝T([O1,O2,…,OL])＝[Y1,Y2,…,Yc]
其中，运算符表示卷积运算，为Y中第i个通道，1≤i≤c，Si与bi分别为第i个1×1大小的卷积核与对应的偏置项，[…]表示拼接操作。
6.一种稠密连接的三维空谱分离卷积深度网络构建方法，其特征在于，包括以下步骤：
第一步，输入层为三维空谱数据,即网络的输入为具有多通道空谱结构的三维数据；
第二步，隐层单元由光谱维一维卷积层和空间维二维卷积层构成，每个隐层单元是先执行光谱维卷积，然后执行空间维卷积；光谱维一维卷积层采用一维卷积核对逐光谱进行卷积变换，空间维二维卷积层采用二维卷积核对逐通道进行卷积变换；
第三步，深度网络由多层隐层单元堆叠而成，即使用多个隐层单元层层堆叠构成深度网络；
第四步，每个隐层单元的输入为前面所有隐层单元的输出拼接而成；
第五步，输出层为各像元的类属概率数据，即网络的输出为输入空谱数据的空间维各像元的类属概率数据；
第六步，网络损失函数为掩模交叉熵，即根据训练样本标签构建带掩模的交叉熵损失函数。
7.根据权利要求6所述的稠密连接的三维空谱分离卷积深度网络构建方法，其特征在于，输入层为三维空谱数据，即网络的输入为具有多通道空谱结构的三维数据；记为三维空谱数据，h、w、b分别为三维空谱数据的三个维度，即高、宽和通道数；网络的输入层大小即三维空谱数据的大小h×w×b。
8.根据权利要求6所述的稠密连接的三维空谱分离卷积深度网络构建方法，其特征在于，隐层单元由光谱维一维卷积层和空间维二维卷积层构成，每个隐层单元是先执行光谱维卷积，然后执行空间维卷积；光谱维一维卷积层采用一维卷积核对逐光谱进行卷积变换，空间维二维卷积层采用二维卷积核对逐通道进行卷积变换；设第l个隐层单元的输入为输出为记第l个隐层单元的变换为Hl，则Hl表示为：
其中，运算符表示卷积运算，BN(·)表示批归一化函数，G(·)表示激活函数，和分别表示第i个光谱维一维卷积核与空间维二维卷积核，d×d为二维卷积核大小，1≤i≤v，和分别为第i个一维卷积核与二维卷积核所对应的偏置项，和分别为第i个一维卷积核与二维卷积核的卷积输出结果，[…]表示拼接操作。
9.根据权利要求6所述的稠密连接的三维空谱分离卷积深度网络构建方法，其特征在于，深度网络由多层隐层单元堆叠而成，即使用多个隐层单元层层堆叠构成深度网络；在该网络中，除输入输出层外，其余均以隐层单元为基本单元，并将多个隐层单元按顺序堆叠构成深度网络；
每个隐层单元的输入为前面所有隐层单元的输出拼接而成；记第l个隐层单元的输入为Il，输出为Ol，变换为Hl，则Il的计算式为：
Il＝[O1,O2,…,Ol-1]
Ol的计算式为：
Ol＝Hl(Il)＝Hl([O1,O2,…,Ol-1])
其中，[…]表示拼接操作。
10.根据权利要求6所述的稠密连接的三维空谱分离卷积深度网络构建方法，其特征在于，第五步，输出层为各像元的类属概率数据，即网络的输出为输入空谱数据的空间维各像元的类属概率数据。记网络输入为该空谱数据的像元可划分为c个不同类别，则网络的输出层为其中h、w、b、c分别为三维空谱数据的高、宽、通道数和类别数；设网络由L个隐层单元堆叠而成，1≤L，第l个隐层单元的输出为Ol，1≤l≤L，网络隐层到输出层的变换记为T，则T表示为：
Y＝T([O1,O2,…,OL])＝[Y1,Y2,…,Yc]
其中，运算符表示卷积运算，为Y中第i个通道，1≤i≤c，Si与bi分别为第i个1×1大小的卷积核与对应的偏置项，[…]表示拼接操作。
CN201811008372.3A 2018-08-31 2018-08-31 一种三维空谱空间维像元类属概率计算方法 Active CN109376753B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811008372.3A CN109376753B (zh) 2018-08-31 2018-08-31 一种三维空谱空间维像元类属概率计算方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811008372.3A CN109376753B (zh) 2018-08-31 2018-08-31 一种三维空谱空间维像元类属概率计算方法

Publications (2)

Publication Number Publication Date
CN109376753A true CN109376753A (zh) 2019-02-22
CN109376753B CN109376753B (zh) 2022-06-28

Family

ID=65404996

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811008372.3A Active CN109376753B (zh) 2018-08-31 2018-08-31 一种三维空谱空间维像元类属概率计算方法

Country Status (1)

Country Link
CN (1) CN109376753B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110533077A (zh) * 2019-08-01 2019-12-03 南京理工大学 用于高光谱图像分类的形状自适应卷积深度神经网络方法
CN110674488A (zh) * 2019-09-06 2020-01-10 深圳壹账通智能科技有限公司 基于神经网络的验证码识别方法、系统及计算机设备
CN111242228A (zh) * 2020-01-16 2020-06-05 武汉轻工大学 高光谱图像分类方法、装置、设备及存储介质
CN111612127A (zh) * 2020-04-29 2020-09-01 南京理工大学 用于高光谱图像分类的多方向信息传播卷积神经网络构建方法
CN111797941A (zh) * 2020-07-20 2020-10-20 中国科学院长春光学精密机械与物理研究所 携带光谱信息和空间信息的图像分类方法及系统
CN112381144A (zh) * 2020-11-13 2021-02-19 南京理工大学 非欧与欧氏域空谱特征学习的异构深度网络方法
CN112541916A (zh) * 2020-12-11 2021-03-23 华南理工大学 一种基于稠密连接的废旧塑料图像分割方法
CN114511007A (zh) * 2022-01-17 2022-05-17 上海梦象智能科技有限公司 一种基于多尺度特征感知的非侵入式电气指纹识别方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7817833B2 (en) * 2004-05-26 2010-10-19 Guardian Technologies International, Inc. System and method for identifying feature of interest in hyperspectral data
CN106845418A (zh) * 2017-01-24 2017-06-13 北京航空航天大学 一种基于深度学习的高光谱图像分类方法
CN106845381A (zh) * 2017-01-16 2017-06-13 西北工业大学 基于双通道卷积神经网络的空谱联合的高光谱图像分类方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7817833B2 (en) * 2004-05-26 2010-10-19 Guardian Technologies International, Inc. System and method for identifying feature of interest in hyperspectral data
CN106845381A (zh) * 2017-01-16 2017-06-13 西北工业大学 基于双通道卷积神经网络的空谱联合的高光谱图像分类方法
CN106845418A (zh) * 2017-01-24 2017-06-13 北京航空航天大学 一种基于深度学习的高光谱图像分类方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
WENJU WANG等: "A Fast Dense Spectral–Spatial Convolution Network Framework for Hyperspectral Images Classification", 《REMOTE SENSING》 *

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110533077B (zh) * 2019-08-01 2022-09-27 南京理工大学 用于高光谱图像分类的形状自适应卷积深度神经网络方法
CN110533077A (zh) * 2019-08-01 2019-12-03 南京理工大学 用于高光谱图像分类的形状自适应卷积深度神经网络方法
CN110674488A (zh) * 2019-09-06 2020-01-10 深圳壹账通智能科技有限公司 基于神经网络的验证码识别方法、系统及计算机设备
CN110674488B (zh) * 2019-09-06 2024-04-26 深圳壹账通智能科技有限公司 基于神经网络的验证码识别方法、系统及计算机设备
CN111242228A (zh) * 2020-01-16 2020-06-05 武汉轻工大学 高光谱图像分类方法、装置、设备及存储介质
CN111242228B (zh) * 2020-01-16 2024-02-27 武汉轻工大学 高光谱图像分类方法、装置、设备及存储介质
CN111612127A (zh) * 2020-04-29 2020-09-01 南京理工大学 用于高光谱图像分类的多方向信息传播卷积神经网络构建方法
CN111612127B (zh) * 2020-04-29 2022-09-06 南京理工大学 用于高光谱图像分类的多方向信息传播卷积神经网络构建方法
CN111797941A (zh) * 2020-07-20 2020-10-20 中国科学院长春光学精密机械与物理研究所 携带光谱信息和空间信息的图像分类方法及系统
CN112381144A (zh) * 2020-11-13 2021-02-19 南京理工大学 非欧与欧氏域空谱特征学习的异构深度网络方法
CN112541916A (zh) * 2020-12-11 2021-03-23 华南理工大学 一种基于稠密连接的废旧塑料图像分割方法
CN112541916B (zh) * 2020-12-11 2023-06-23 华南理工大学 一种基于稠密连接的废旧塑料图像分割方法
CN114511007A (zh) * 2022-01-17 2022-05-17 上海梦象智能科技有限公司 一种基于多尺度特征感知的非侵入式电气指纹识别方法

Also Published As

Publication number Publication date
CN109376753B (zh) 2022-06-28

Similar Documents

Publication Publication Date Title
CN109376753A (zh) 一种稠密连接的三维空谱分离卷积深度网络及构建方法
Mei et al. Hyperspectral image classification using group-aware hierarchical transformer
CN109993220B (zh) 基于双路注意力融合神经网络的多源遥感图像分类方法
CN108491849B (zh) 基于三维稠密连接卷积神经网络的高光谱图像分类方法
CN111368896A (zh) 基于密集残差三维卷积神经网络的高光谱遥感图像分类方法
CN107563999A (zh) 一种基于卷积神经网络的芯片缺陷识别方法
CN108090472B (zh) 基于多通道一致性特征的行人重识别方法及其系统
CN108460391B (zh) 基于生成对抗网络的高光谱图像无监督特征提取方法
Alidoost et al. A CNN-based approach for automatic building detection and recognition of roof types using a single aerial image
CN108090447A (zh) 双分支深层结构下的高光谱图像分类方法及装置
US11605163B2 (en) Automatic abnormal cell recognition method based on image splicing
CN110717553A (zh) 一种基于自衰减权重和多局部约束的交通违禁品识别方法
CN108052881A (zh) 一种实时检测施工现场图像中多类实体对象的方法及设备
CN113128335B (zh) 微体古生物化石图像检测、分类及发现方法、系统及应用
CN110728197B (zh) 基于深度学习的单木级树种识别方法
Doi et al. The effect of focal loss in semantic segmentation of high resolution aerial image
CN110097115A (zh) 一种基于注意力转移机制的视频显著性物体检测方法
CN111222545A (zh) 基于线性规划增量学习的图像分类方法
CN103020265A (zh) 图像检索的方法和系统
CN108764330A (zh) 基于超像素分割和卷积反卷积网络的sar图像分类方法
CN113673556B (zh) 一种基于多尺度密集卷积网络的高光谱图像分类方法
CN111797920A (zh) 门控特征融合的深度网络不透水面遥感提取方法及系统
CN113673534B (zh) 一种基于Faster RCNN的RGB-D图像果实检测方法
CN114581789A (zh) 一种高光谱图像分类方法及系统
CN111222576B (zh) 一种高分辨率遥感图像分类方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant