CN109598306B - 基于srcm和卷积神经网络的高光谱图像分类方法 - Google Patents

基于srcm和卷积神经网络的高光谱图像分类方法 Download PDF

Info

Publication number
CN109598306B
CN109598306B CN201811489560.2A CN201811489560A CN109598306B CN 109598306 B CN109598306 B CN 109598306B CN 201811489560 A CN201811489560 A CN 201811489560A CN 109598306 B CN109598306 B CN 109598306B
Authority
CN
China
Prior art keywords
layer
matrix
value
classified
neural network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811489560.2A
Other languages
English (en)
Other versions
CN109598306A (zh
Inventor
王桂婷
李诗卉
公茂果
钟桦
吴飞
杨晓婕
陈贝贝
马锐
解玮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xidian University
Original Assignee
Xidian University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xidian University filed Critical Xidian University
Priority to CN201811489560.2A priority Critical patent/CN109598306B/zh
Publication of CN109598306A publication Critical patent/CN109598306A/zh
Application granted granted Critical
Publication of CN109598306B publication Critical patent/CN109598306B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/253Fusion techniques of extracted features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)

Abstract

一种基于光谱反射率曲线矩阵SRCM和卷积神经网络的高光谱图像分类方法,主要解决现有技术中高光谱图像分类精度低的问题。本发明具体步骤如下:(1)构建卷积神经网络;(2)对待分类的高光谱图像加噪;(3)对图像数据逐波段归一化;(4)生成空间光谱特征矩阵集合;(5)生成堆叠空间光谱反射率曲线矩阵集合;(6)生成训练数据集和测试数据集;(7)训练卷积神经网络;(8)对测试数据集进行分类。本发明利用融合不同层特征的卷积神经网络对高光谱图像的堆叠空间光谱反射率曲线矩阵进行特征学习,从而进行分类,具有针对高光谱图像分类问题精度高的优点。

Description

基于SRCM和卷积神经网络的高光谱图像分类方法
技术领域
本发明属于图像处理技术领域,更进一步涉及目标识别技术领域中一种基于光谱反射率曲线矩阵SRCM(Spectral Reflectance Curve Matrix)和卷积神经网络的高光谱图像分类方法。本发明可用于农业遥感、地图制图、环境监测、癌症检测和植被调查等领域进行地物目标识别。
背景技术
高光谱图像能够同时描述地物空间分布的二维辐射信息和光谱信息,构成独特的空间、辐射和光谱三重信息合一的谱图,在遥感应用领域中得到广泛应用。分类是高光谱图像处理技术中的一项重要内容,其最终目标是给图像中的每个像元赋以唯一的类别标识,在军事和民用方面都有着重要的应用。近几年,深度学习在模式识别领域已经发挥出了极大的作用,为提高高光谱图像分类精度,深度学习中的堆栈自编码器、卷积神经网络、深度置信网络、生成对抗网络等深度模型被引入到高光谱图像分类中。
Yushi Chen等人在发表的论文“Deep Learning-Based Classification ofHyperspe ctral Data”(IEEE Journal of Selected Topics in Applied EarthObservations and Remote Sensing,VOL.7,NO.6,JUNE 2014)中提出了一种基于堆栈自编码器的高光谱图像分类方法。该方法首先利用主成分分析对高光谱原始图像进行降维,然后将降维后的图像划分成一个个邻域块,将这些邻域块转换成一维向量输送到堆栈自编码器进行深层次的特征学习,并利用逻辑回归进行分类。该方法存在的不足之处是,主成分分析降维打破了待分类的高光谱图像的光谱波段之间的联系,丢失了待分类的高光谱图像的原始的波段信息,降低了待分类的高光谱图像的光谱特征的完备性,影响了待分类的高光谱图像的光谱特征的表达能力。
西北工业大学在申请的专利文献“基于深度卷积神经网络的空谱联合的高光谱图像分类方法”(专利申请号:201510697372.9,申请公开号:CN105320965 A)中提出了一种基于卷积神经网络的高光谱图像分类方法。该方法利用少量标签数据训练一个拥有两层卷积层的卷积神经网络,每层卷积层后面连接一个池化层,训练样本输入该网络后按顺序通过卷积层和池化层进行特征提取,将最后一层池化层得到的特征作为待分类的高光谱图像的空谱特征,再利用提取到的空谱特征训练支持矢量机,最后对图像进行分类。该方法存在的不足之处是,该深度卷积神经网络不能综合利用不同层提取到的不同尺度的特征信息,导致得到的待分类的高光谱图像的特征信息量小,影响了待分类的高光谱图像的分类精度。
发明内容
本发明的目的在于针对上述现有技术的不足,提出了一种基于光谱反射率曲线矩阵SRCM(Spectral Reflectance Curve Matrix)和卷积神经网络的高光谱图像分类方法,构建不同地物的光谱反射率曲线矩阵来表示不同地物之间的光谱反射率曲线的差异性和波段之间的联系性,利用堆叠空间光谱反射率曲线矩阵作为高光谱图像的空间-光谱特征输入到卷积神经网络进行特征提取,并将卷积神经网络各层提取到的特征进行特征融合,从而提高了网络表征能力。
实现本发明目的的具体思路是:先搭建卷积神经网络并设置每层参数,然后对待分类的高光谱图像的每个像素点的光谱向量加上噪声,得到加噪后的高光谱图像,并对高光谱图像和加噪后的高光谱图像进行数据归一化,然后生成归一化后的高光谱图像和加噪后的高光谱图像中每个像素点的堆叠空间光谱反射率曲线矩阵来表示图像的空间-光谱特征并训练卷积神经网络,最后利用训练好的的卷积神经网络对测试样本进行分类,并得到分类正确率。
本发明的具体步骤如下:
(1)构建卷积神经网络:
(1a)构建一个20层的卷积神经网络,其结构依次为:输入层→第1个卷积层→第1个池化层→第2个卷积层→第2个池化层→第3个卷积层→第3个池化层→第4个卷积层→第4个池化层,第1个池化层→第5个卷积层→第1个全连接层,第2个池化层→第6个卷积层→第2个全连接层,第3个池化层→第7个卷积层→第3个全连接层,第4个池化层→第8个卷积层→第4个全连接层,第1个全连接层→特征级联层,第2个全连接层→特征级联层,第3个全连接层→特征级联层,第4个全连接层→特征级联层,特征级联层→第1个Dropout层→第1个Softmax层;
(1b)设置卷积神经网络各层参数如下:
将输入层特征映射图总数设置为1;
将第1个卷积层特征映射图总数设置为6、卷积核大小设置为5×5;
将第1、2、3、4个池化层的池化窗口都设置为2×2;
将第2个卷积层特征映射图数目设置为12,卷积核大小设置为5×5;
将第3个卷积层特征映射图数目设置为32,卷积核大小设置为4×4;
将第4个卷积层特征映射图数目设置为64,卷积核大小设置为3×3;
将第5、6、7、8个卷积层特征映射图数目都设置为1,卷积核大小都设置为1×1;
将第1、2、3、4个全连接层节点总数都设置为64;
将第1个Dropout层节点总数设置为256,置零概率为0.5;
将第1个Softmax层节点总数设置为待分类的高光谱图像的地物类别总个数;
(1c)特征级联层将卷积神经网络的第1、2、3、4个全连结层的输出按行排序组成融合特征矩阵;
(2)对待分类的高光谱图像加噪:
(2a)输入一幅待分类的高光谱图像;
(2b)对待分类的高光谱图像中的每个像素点的每个波段的像素值,分别加入服从[-50,50]上的均匀分布的随机噪声,得到加噪后的高光谱图像;
(3)对图像数据逐波段归一化:
(3a)分别提取待分类的高光谱图像和加噪后的高光谱图像中每个波段的像素值的最大值和最小值;
(3b)利用归一化公式,利用每个波段的像素值的最大值和最小值,分别对待分类的高光谱图像和加噪后的高光谱图像的每个波段中每个像素点进行归一化处理;
(4)生成空间光谱特征矩阵集合:
(4a)利用空间光谱特征矩阵提取方法,分别提取归一化后的待分类的高光谱图像和加噪后的高光谱图像的每个像素点的空间光谱特征矩阵;
(4b)将归一化后的待分类的高光谱图像中所有像素点的空间光谱特征矩阵组成待分类的高光谱图像的空间光谱特征矩阵集合,将归一化后的加噪后的高光谱图像中所有像素点的空间光谱特征矩阵组成加噪后的高光谱图像的空间光谱特征矩阵集合;
(5)生成堆叠空间光谱反射率曲线矩阵集合:
(5a)将零矩阵的行数和列数分别初始化为待分类的高光谱图像的波段总数;
(5b)利用矩阵更新方法,更新零矩阵中的元素值,将更新后的零矩阵分别作为待分类的高光谱图像和加噪后的高光谱图像的每个像素点的空间光谱特征矩阵中每列向量的光谱反射率曲线矩阵;
(5c)利用堆叠矩阵计算公式,分别计算待分类的高光谱图像和加噪后的高光谱图像的空间光谱特征矩阵集合中每个像素点的堆叠空间光谱反射率曲线矩阵;
(5d)将待分类的高光谱图像中所有像素点的堆叠空间光谱反射率曲线矩阵组成待分类的高光谱图像的堆叠空间光谱反射率曲线矩阵集合,将加噪后的高光谱图像中所有像素点的堆叠空间光谱反射率曲线矩阵组成加噪后的高光谱图像的堆叠空间光谱反射率曲线矩阵集合;
(6)生成训练数据集和测试数据集:
分别从待分类的高光谱图像的和加噪后的高光谱图像的堆叠空间光谱反射率曲线矩阵集合中,随机选取80%的有标记的像素点的堆叠空间光谱反射率曲线矩阵组成训练数据集,将其余待分类的高光谱图像的堆叠空间光谱反射率曲线矩阵集合中的有标记的像素点的堆叠空间光谱反射率曲线矩阵作为测试数据集;
(7)训练卷积神经网络:
利用随机梯度下降方法,对卷积神经网络进行2000次训练,得到训练好的卷积神经网络;
(8)对测试数据集进行分类:
分别将测试数据集中的每个测试样本输入到卷积神经网络中,通过第1个Softmax层上的Softmax分类器,得到每个测试样本的分类标签,作为对应像素点的分类结果。
本发明与现有的技术相比具有以下优点:
第一,由于本发明在计算网络原始特征输入过程中利用二维的加噪前和加噪后的堆叠空间光谱反射率曲线矩阵表示空间-光谱特征,克服了现有技术下降维方法导致丢失高光谱图像的原始的波段信息,高光谱图像空间信息和光谱信息提取不全面,分类精度不高的问题,使得本发明可以充分利用待分类的高光谱图像中地物之间的光谱反射率曲线的差异性,通过加噪有效的提升了特征的鲁棒性,使得本发明提高了待分类的高光谱图像的不同地物的区分程度。
第二,由于本发明利用融合不同层的特征的卷积神经网络提取高光谱图像的空间光谱特征,克服了现有技术中的神经网络难以利用不同层提取到的不同尺度的特征导致网络学习到的特征过于单一,降低分类精度的问题,使得本发明提升了网络的特征表达能力,同时进一步提高了分类精度。
附图说明
图1是本发明的流程图;
图2是本发明中卷积神经网络的结构图;
图3是本发明的仿真图。
具体实施方式
下面结合附图对本发明做进一步的描述。
参照图1,对本发明的具体步骤做进一步的描述。
步骤1,构建卷积神经网络。
参照图2,对构建的卷积神经网络的结构做进一步的描述。
构建一个20层的卷积神经网络,其结构依次为:输入层→第1个卷积层→第1个池化层→第2个卷积层→第2个池化层→第3个卷积层→第3个池化层→第4个卷积层→第4个池化层,第1个池化层→第5个卷积层→第1个全连接层,第2个池化层→第6个卷积层→第2个全连接层,第3个池化层→第7个卷积层→第3个全连接层,第4个池化层→第8个卷积层→第4个全连接层,第1个全连接层→特征级联层,第2个全连接层→特征级联层,第3个全连接层→特征级联层,第4个全连接层→特征级联层,特征级联层→第1个Dropout层→第1个Softmax层。
设置卷积神经网络各层参数如下:
输入层的特征映射图总数设置为1,输入数据记为I,大小为B×B。
第1个卷积层的卷积核的个数为LC1,所有卷积核的权重集合记为ωC1,ωC1
Figure GDA0002923386090000051
第l个卷积核的权重记为
Figure GDA0002923386090000052
维数为NC1行NC1列。偏置的个数为LC1,所有偏置的集合记为θC1
Figure GDA0002923386090000053
Figure GDA0002923386090000054
第l个偏置为标量,记为
Figure GDA0002923386090000055
其中,1≤l≤LC1,LC1的取值范围是[1,256],在本发明的实施例中LC1的取值为6。参数NC1的取值范围是[1,11],在本发明的实施例中,NC1的取值为5。
第1个卷积层的第l个卷积核的输出
Figure GDA0002923386090000061
与输入I的计算公式如下:
Figure GDA0002923386090000062
其中,relu(·)表示relu型激活函数,计算公式为relu(·)=max(0,·),符号
Figure GDA00029233860900000615
表示卷积操作,第1个卷积层的总输出hC1为所有LC1个卷积核输出的集合,即
Figure GDA0002923386090000063
其中分号;表示每个卷积核的输出按页级联,得到总输出。
第1个池化层的输入为第1个卷积层的输出hC1,池化窗口大小为F×F,池化步长为V。池化窗口参数F的取值是[1,2,4],在本发明的实施例中F的取值为2。池化步长V的取值范围是[1,10],在本发明的实施例中V的取值为2。
第1个池化层的第l个卷积核的输出对应的池化输出
Figure GDA0002923386090000064
和输入
Figure GDA0002923386090000065
的计算公式如下:
Figure GDA0002923386090000066
第1个池化层的总输出hP1为所有LC1个卷积核输出的池化输出的集合,即
Figure GDA0002923386090000067
其中分号;表示每个卷积核的输出对应的池化输出按页级联,得到总输出。
第2个卷积层的输入为第1个池化层的输出hP1,卷积核的个数为LC2,卷积核的权重记为ωC2
Figure GDA0002923386090000068
第l个卷积核的权重记为
Figure GDA0002923386090000069
维数为NC2行NC2列。偏置的个数为LC2,偏置记为θC2
Figure GDA00029233860900000610
Figure GDA00029233860900000611
第l个偏置为标量,记为
Figure GDA00029233860900000612
其中,1≤l≤LC2,LC2的取值范围是[1,256],在本发明的实施例中LC2的取值为12。参数NC2的取值范围是[1,11],在本发明的实施例中NC2的取值为5。
第2个卷积层的第l个卷积核的输出
Figure GDA00029233860900000613
与输入hP1的计算公式如下:
Figure GDA00029233860900000614
其中,relu(·)表示relu型激活函数,计算公式为relu(·)=max(0,·),符号
Figure GDA00029233860900000616
表示卷积操作,第2个卷积层的总输出hC2为所有LC2个卷积核输出的集合,即
Figure GDA0002923386090000071
其中分号;表示每个卷积核的输出按页级联,得到总输出。
第2个池化层的输入为第2个卷积层的输出hC2,池化窗口大小为F×F,池化步长为V。
第2个池化层的第l个卷积核的输出对应的池化输出
Figure GDA0002923386090000072
和输入
Figure GDA0002923386090000073
的计算公式如下:
Figure GDA0002923386090000074
第2个池化层的总输出hP2为所有LC2个卷积核的输出对应的池化输出的集合,即
Figure GDA0002923386090000075
其中分号;表示每个卷积核的输出的池化输出按页级联,得到总输出。
第3个卷积层的输入为第2个池化层的输出hP2,卷积核的个数为LC3,卷积核的权重记为ωC3
Figure GDA0002923386090000076
第l个卷积核的权重记为
Figure GDA0002923386090000077
维数为NC3行NC3列。偏置的个数为LC3,偏置记为θC3
Figure GDA0002923386090000078
Figure GDA0002923386090000079
第l个偏置为标量,记为
Figure GDA00029233860900000710
其中,1≤l≤LC3,LC3的取值范围是[1,256],在本发明的实施例中LC3的取值为32。参数NC3的取值范围是[1,11],在本发明的实施例中NC3的取值为4。
第3个卷积层的第l个卷积核的输出
Figure GDA00029233860900000711
与输入hP2的计算公式如下:
Figure GDA00029233860900000712
其中,relu(·)表示relu型激活函数,计算公式为relu(·)=max(0,·)。符号
Figure GDA00029233860900000714
表示卷积操作,第3个卷积层的总输出hC3为所有LC3个卷积核输出的集合,即
Figure GDA00029233860900000713
其中分号;表示每个卷积核的输出按页级联,得到总输出。
第3个池化层的输入为第3个卷积层的输出hC3,池化窗口大小为F×F,池化步长为V。
第3个池化层的第l个卷积核的输出对应的池化输出
Figure GDA0002923386090000081
和输入
Figure GDA0002923386090000082
的计算公式如下:
Figure GDA0002923386090000083
第3个池化层的总输出hP3为所有LC3个卷积核的输出对应的池化输出的集合,即
Figure GDA0002923386090000084
其中分号;表示每个卷积核的输出的池化输出按页级联,得到总输出。
第4个卷积层的输入为第3个池化层的输出hP3,卷积核的个数为LC4,卷积核的权重记为ωC4
Figure GDA0002923386090000085
第l个卷积核的权重记为
Figure GDA0002923386090000086
维数为NC4行NC4列。偏置的个数为LC4,偏置记为θC4
Figure GDA0002923386090000087
Figure GDA0002923386090000088
第l个偏置为标量,记为
Figure GDA0002923386090000089
其中,1≤l≤LC4,LC4的取值范围是[1,256],在本发明的实施例中LC4的取值为64。参数NC4的取值范围是[1,11],在本发明的实施例中NC4的取值为3。
第4个卷积层的第l个卷积核的输出
Figure GDA00029233860900000810
与输入hP3的计算公式如下:
Figure GDA00029233860900000811
其中,relu(·)表示relu型激活函数,计算公式为relu(·)=max(0,·),符号
Figure GDA00029233860900000817
表示卷积操作,第4个卷积层的总输出hC4为所有LC4个卷积核输出的集合,即
Figure GDA00029233860900000812
其中分号;表示每个卷积核的输出按页级联,得到总输出。
第4个池化层的输入为第4个卷积层的输出hC4,池化窗口大小为F×F,池化步长为V。
第4个池化层的第l个卷积核的输出对应的池化输出
Figure GDA00029233860900000813
和输入
Figure GDA00029233860900000814
的计算公式如下:
Figure GDA00029233860900000815
第4个池化层的总输出hP4为所有LC4个卷积核输出的池化输出的集合,即
Figure GDA00029233860900000816
其中分号;表示每个卷积核的输出对应的池化输出按页级联,得到总输出。
第5个卷积层的输入为第1个池化层的输出hP1,卷积核的个数为LC5,卷积核的权重记为ωC5
Figure GDA0002923386090000091
第l个卷积核的权重记为
Figure GDA0002923386090000092
维数为NC5行NC5列。偏置的个数为LC5,偏置记为θC5
Figure GDA0002923386090000093
Figure GDA0002923386090000094
第l个偏置为标量,记为
Figure GDA0002923386090000095
其中,1≤l≤LC5,LC5的取值范围是[1,256],在本发明的实施例中LC5的取值为1。参数NC5的取值范围是[1,11],在本发明的实施例中NC5的取值为1。
第5个卷积层的第l个卷积核的输出
Figure GDA0002923386090000096
与输入hP1的计算公式如下:
Figure GDA0002923386090000097
其中,relu(·)表示relu型激活函数,计算公式为relu(·)=max(0,·),符号
Figure GDA00029233860900000917
表示卷积操作。第5个卷积层的总输出hC5为所有LC5个卷积核输出的集合,即
Figure GDA0002923386090000098
其中分号;表示每个卷积核的输出按页级联,得到总输出。
将第5个卷积层的输出hC5变成一维向量
Figure GDA0002923386090000099
作为第1个全连结层的输入,其大小为NF1行1列。输入到输出之间的权重记为ωF1,维数为LF1行NF1列,隐单元的偏置记为θF1,维数为LF1行1列。LF1的取值范围是[1,256],在本发明的实施例中LF1的取值为64。
第1个全连结层的输出hF1与输入
Figure GDA00029233860900000910
的计算公式如下,输出hF1的大小为LF1行1列:
Figure GDA00029233860900000911
其中,relu(·)表示relu型激活函数,计算公式为relu(·)=max(0,·)。
第6个卷积层的输入为第2个池化层的输出hP2,卷积核的个数为LC6,卷积核的权重记为ωC6
Figure GDA00029233860900000912
第l个卷积核的权重记为
Figure GDA00029233860900000913
维数为NC6行NC6列。偏置的个数为LC6,偏置记为θC6
Figure GDA00029233860900000914
Figure GDA00029233860900000915
第l个偏置为标量,记为
Figure GDA00029233860900000916
其中,1≤l≤LC6,LC6的取值范围是[1,256],在本发明的实施例中LC6的取值为1。参数NC6的取值范围是[1,11],在本发明的实施例中NC6的取值为1。
第6个卷积层的第l个卷积核的输出
Figure GDA0002923386090000101
与输入hP2的计算公式如下:
Figure GDA0002923386090000102
其中,relu(·)表示relu型激活函数,计算公式为relu(·)=max(0,·),符号
Figure GDA00029233860900001014
表示卷积操作,第6个卷积层的总输出hC6为所有LC6个卷积核输出的集合,即
Figure GDA0002923386090000103
其中分号;表示每个卷积核的输出按页级联,得到总输出。
将第6个卷积层的输出hC6变成一维向量
Figure GDA0002923386090000104
作为第2个全连结层的输入,其大小为NF2行1列。输入到输出之间的权重记为ωF2,维数为LF2行NF2列,隐单元的偏置记为θF2,维数为LF2行1列。LF2的取值范围是[1,256],在本发明的实施例中LF2的取值为64。
第2个全连结层的输出hF2与输入
Figure GDA0002923386090000105
的计算公式如下,输出hF2的大小为LF2行1列:
Figure GDA0002923386090000106
其中,relu(·)表示relu型激活函数,计算公式为relu(·)=max(0,·)。
第7个卷积层的输入为第3个池化层的输出hP3,卷积核的个数为LC7,卷积核的权重记为ωC7
Figure GDA0002923386090000107
第l个卷积核的权重记为
Figure GDA0002923386090000108
维数为NC7行NC7列。偏置的个数为LC7,偏置记为θC7
Figure GDA0002923386090000109
Figure GDA00029233860900001010
第l个偏置为标量,记为
Figure GDA00029233860900001011
其中,1≤l≤LC7,LC7的取值范围是[1,256],在本发明的实施例中LC7的取值为1。参数NC7的取值范围是[1,11],在本发明的实施例中NC7的取值为1。
第7个卷积层的第l个卷积核的输出
Figure GDA00029233860900001012
与输入hP3的计算公式如下:
Figure GDA00029233860900001013
其中,relu(·)为relu型激活函数,计算公式为relu(·)=max(0,·),符号
Figure GDA00029233860900001015
表示卷积操作,第7个卷积层的总输出hC7为所有LC7个卷积核输出的集合,即
Figure GDA0002923386090000111
其中分号;表示每个卷积核的输出按页级联,得到总输出。
将第7个卷积层的输出hC7变成一维向量
Figure GDA0002923386090000112
作为第3个全连结层的输入,其大小为NF3行1列。输入到输出之间的权重记为ωF3,维数为LF3行NF3列,隐单元的偏置记为θF3,维数为LF3行1列。LF3的取值范围是[1,256],在本发明的实施例中LF3的取值为64。
第3个全连结层的输出hF3与输入
Figure GDA0002923386090000113
的计算公式如下,输出hF3的大小为LF3行1列:
Figure GDA0002923386090000114
其中,relu(·)表示relu型激活函数,计算公式为relu(·)=max(0,·)。
第8个卷积层的输入为第4个池化层的输出hP4,卷积核的个数为LC8,卷积核的权重记为ωC8
Figure GDA0002923386090000115
第l个卷积核的权重记为
Figure GDA0002923386090000116
维数为NC8行NC8列。偏置的个数为LC8,偏置记为θC8
Figure GDA0002923386090000117
Figure GDA0002923386090000118
第l个偏置为标量,记为
Figure GDA0002923386090000119
其中,1≤l≤LC8,LC8的取值范围是[1,256],在本发明的实施例中LC8的取值为1。参数NC8的取值范围是[1,11],在本发明的实施例中NC8的取值为1。
第8个卷积层的第l个卷积核的输出
Figure GDA00029233860900001110
与输入hP4的计算公式如下:
Figure GDA00029233860900001111
其中,relu(·)表示relu型激活函数,计算公式为relu(·)=max(0,·),符号
Figure GDA00029233860900001114
表示卷积操作,第8个卷积层的总输出hC8为所有LC8个卷积核输出的集合,即
Figure GDA00029233860900001112
其中分号;表示每个卷积核的输出按页级联,得到总输出。
将第8个卷积层的输出hC8变成一维向量
Figure GDA00029233860900001113
作为第4个全连结层的输入,其大小为NF4行1列。输入到输出之间的权重记为ωF4,维数为LF4行NF4列,隐单元的偏置记为θF4,维数为LF4行1列。LF4的取值范围是[1,256],在本发明的实施例中LF4的取值为64。
第4个全连结层的输出hF4与输入
Figure GDA0002923386090000121
的计算公式如下,输出hF4的大小为LF4行1列:
Figure GDA0002923386090000122
其中,relu(·)表示relu型激活函数,计算公式为relu(·)=max(0,·)。
特征级联层将第1、2、3、4个全连结层的输出按行排序组成融合特征矩阵ff。
融合特征矩阵ff的计算公式如下:
ff(0:LF1,1)=hF1
ff(LF1:LF2,1)=hF2
ff(LF2:LF3,1)=hF3
ff(LF3:LF4,1)=hF4
其中,ff的大小为(LF1+LF2+LF3+LF4)行1列。
第1个Dropout层的输入为融合特征矩阵ff,输入输出之间的权重记为ωD1,维数为(LF1+LF2+LF3+LF4)行(LF1+LF2+LF3+LF4)列,偏置为θD1,维数为(LF1+LF2+LF3+LF4)行1列,p为置零概率,p的取值范围是[0,1],在本发明的实施例中p的取值为0.5。
第1个Dropout层的输出hD1与输入ff的计算公式如下:
r~Bernoulli(p)
Figure GDA0002923386090000123
Figure GDA0002923386090000124
第1个Softmax层的输入为第1个Dropout层的输出hD1,输入到输出之间的权重记为ωS1,维数为K行(LF1+LF2+LF3+LF4)列。
第1个Softmax层的输出YP与输入hD1的计算公式如下,:
Figure GDA0002923386090000131
步骤2,对待分类的高光谱图像加噪。
输入一幅待分类的高光谱图像X,X={X(m,n,b)|1≤m≤M,1≤n≤N,1≤b≤B},其中X(m,n,b)为高光谱图像X在(m,n,b)的像素值,这里m和n分别为图像的行序号和列序号,表示了图像的空间位置,最大行序号为M,最大列序号为N,b为波段序号,最大波段序号为B,记第b个波段图像为Xb,Xb={Xb(m,n)|1≤m≤M,1≤n≤N},则每个波段图像的尺寸大小均为M×N,一族各波段图像则构成了高光谱图像X={Xb|1≤b≤B}。
利用加噪公式,对待分类的高光谱图像中的每个像素点的每个波段的像素值,分别加入服从[-50,50]上的均匀分布的随机噪声,得到加噪后的高光谱图像
Figure GDA00029233860900001310
所述的加噪公式如下:
Figure GDA0002923386090000132
其中,
Figure GDA0002923386090000133
表示第b个波段空间位置为(m,n)的像素点的加噪后的光谱值,Xb(m,n)表示第b个波段空间位置为(m,n)的像素点的像素值,
Figure GDA0002923386090000134
表示第b个波段空间位置为(m,n)均匀分布在[-A,A]之间的随机噪声,A的取值范围是[0,500],在本发明的实施例中A的取值为50。
遍历空间位置(m,n)上的像素点的所有B个波段,得到该像素点所有B个波段的加噪后的光谱向量,记为
Figure GDA0002923386090000135
大小为1×B。
然后遍历所有M×N个空间像素点,得到加噪后的高光谱图像
Figure GDA0002923386090000136
该图像的尺寸大小仍为M×N×B,
Figure GDA0002923386090000137
步骤3,对图像数据逐波段归一化。
分别提取待分类的高光谱图像X和加噪后的高光谱图像
Figure GDA0002923386090000138
中每个波段的像素值的最大值和最小值。各个波段图像的最大值和最小值并不一定相同,待分类的高光谱图像X和加噪后的高光谱图像
Figure GDA0002923386090000139
所有B个波段共有B对最大值和最小值。
利用归一化公式,对待分类的高光谱图像X中的第b个波段图像Xb和加噪后的高光谱图像
Figure GDA0002923386090000141
中的第b个波段图像
Figure GDA0002923386090000142
中的所有空间位置为(m,n)的像素点均进行归一化处理,即将像素值映射在[0,1]范围内,得到归一化后像素值
Figure GDA0002923386090000143
Figure GDA0002923386090000144
所述的归一化公式如下:
Figure GDA0002923386090000145
Figure GDA0002923386090000146
其中,
Figure GDA0002923386090000147
表示待分类的高光谱图像中第b个波段中空间位置为(m,n)的像素点归一化后的值,Xb(m,n)表示待分类的高光谱图像中第b个波段中空间位置为(m,n)的像素点值,
Figure GDA0002923386090000148
表示待分类的高光谱图像中第b个波段中像素值的最小值,
Figure GDA0002923386090000149
表示待分类的高光谱图像中第b个波段中像素值的最大值,
Figure GDA00029233860900001410
表示加噪后的高光谱图像中第b个波段中空间位置为(m,n)的像素点归一化后的值,
Figure GDA00029233860900001411
表示加噪后的高光谱图像中第b个波段中空间位置为(m,n)的像素点值,
Figure GDA00029233860900001412
表示加噪后的高光谱图像中第b个波段中的像素值的最小值,
Figure GDA00029233860900001413
表示加噪后的高光谱图像中第b个波段中像素值的最大值。
遍历所有B个波段,分别得到归一化后的待分类的高光谱图像X2和归一化后的加噪后的高光谱图像
Figure GDA00029233860900001414
步骤4,生成空间光谱特征矩阵集合。
利用空间光谱特征矩阵提取方法,分别提取归一化后的待分类的高光谱图像X2和加噪后的高光谱图像
Figure GDA00029233860900001415
的每个像素点的空间光谱特征矩阵。
所述的空间光谱特征矩阵提取方法的具体步骤如下:
将归一化后的待分类的高光谱图像X2中空间位置为(m,n)的第t个像素点的所有B个波段像素值组成大小为B×1的归一化向量,记为Xt2={X2 b(t)|1≤b≤B,1≤t≤Tmn},其中,t=n×M+m,Tmn=M×N。以此第t个像素点为中心像素点,该中心像素点的S×S邻域内的第w个像素点的归一化向量记为
Figure GDA0002923386090000151
其中W=S×S。将第t个像素点及其W-1个邻域像素点的归一化向量按列排序组成该中心像素点的空间光谱特征矩阵
Figure GDA0002923386090000152
其中
Figure GDA0002923386090000153
即是为便于表述的第t个点的归一化向量
Figure GDA0002923386090000154
Figure GDA0002923386090000155
的大小为B×W。S的取值范围为[3,28],在本发明的实施例中S的取值为9。
将归一化后的加噪后的高光谱图像
Figure GDA0002923386090000156
中空间位置为(m,n)的第t个像素点的所有B个波段像素值组成大小为B×1的归一化加噪向量,记为
Figure GDA0002923386090000157
以此第t个像素点为中心像素点,该中心像素点的S×S邻域内的第w个像素点的归一化加噪向量记为
Figure GDA0002923386090000158
Figure GDA0002923386090000159
将第t个像素点及其W-1个邻域像素点的归一化加噪向量按列排序组成该中心像素点的加噪空间光谱特征矩阵
Figure GDA00029233860900001510
Figure GDA00029233860900001511
其中
Figure GDA00029233860900001512
即是为便于表述的第t个点的归一化加噪向量
Figure GDA00029233860900001513
Figure GDA00029233860900001514
的大小同样为B×W。
将归一化后的待分类的高光谱图像X2中全部Tmn个像素点的空间光谱特征矩阵组成待分类的高光谱图像的空间光谱特征矩阵集合Xss
Figure GDA00029233860900001515
将归一化后的加噪后的高光谱图像
Figure GDA00029233860900001516
中全部Tmn个像素点的空间光谱特征矩阵组成加噪后的高光谱图像的空间光谱特征矩阵集合
Figure GDA00029233860900001517
步骤5,生成堆叠空间光谱反射率曲线矩阵集合。
将零矩阵的行数和列数分别初始化为待分类的高光谱图像的波段总数。
利用矩阵更新方法,更新零矩阵中的元素值,将更新后的零矩阵分别作为待分类的高光谱图像和加噪后的高光谱图像的每个像素点的空间光谱特征矩阵中每列向量的光谱反射率曲线矩阵。
所述的矩阵更新方法的具体步骤如下:
第1步,将每个空间像素点的空间光谱特征矩阵的每列向量的每个光谱值所在的波段位置作为更新值的位置的行序号。
第2步,按照下式,计算每个像素点的空间光谱特征矩阵的每列向量的每个光谱更新值的位置的列序号,
Figure GDA0002923386090000161
Figure GDA0002923386090000162
其中,qw,b(t)表示待分类的高光谱图像的空间光谱特征矩阵集合中第t个像素点的空间光谱特征矩阵中的第w列第b行的值在零矩阵中更新值的列序号,round表示四舍五入到最近整数,
Figure GDA0002923386090000163
表示待分类的高光谱图像的空间光谱特征矩阵集合中第t个像素点的空间光谱特征矩阵中的第w列第b行的值,B表示待分类的高光谱图像的波段总数,
Figure GDA0002923386090000164
表示加噪后的高光谱图像的空间光谱特征矩阵集合中第t个像素点的空间光谱特征矩阵中的第w列第b行的值在零矩阵中更新值的列序号,
Figure GDA0002923386090000165
表示加噪后的高光谱图像的空间光谱特征矩阵集合中第t个像素点的空间光谱特征矩阵中的第w列第b行的值。
第3步,利用行序号和列序号,确定在更新元素值的位置,将零矩阵该位置的元素值更新为1。
利用堆叠矩阵计算公式,分别计算待分类的高光谱图像和加噪后的高光谱图像的空间光谱特征矩阵集合中每个像素点的堆叠空间光谱反射率曲线矩阵。
所述的堆叠矩阵计算公式如下:
Figure GDA0002923386090000166
Figure GDA0002923386090000167
其中,
Figure GDA0002923386090000168
表示待分类的高光谱图像的空间光谱特征矩阵集合中第t个像素点的堆叠空间光谱反射率曲线矩阵,W表示待分类的高光谱图像的空间光谱特征矩阵集合中第t个像素点的堆叠空间光谱反射率曲线矩阵的总列数,∑表示求和操作,w表示待分类的高光谱图像和加噪后的高光谱图像的空间光谱特征矩阵集合中第t个空间像素点的堆叠空间光谱反射率曲线矩阵列序号,
Figure GDA0002923386090000169
表示待分类的高光谱图像的空间光谱特征矩阵集合中第t个像素点的第w列光谱向量的光谱反射率曲线矩阵,
Figure GDA00029233860900001610
表示加噪后的高光谱图像的空间光谱特征矩阵集合中第t个像素点的堆叠空间光谱反射率曲线矩阵,
Figure GDA0002923386090000171
表示加噪后的高光谱图像的空间光谱特征矩阵集合矩阵中第t个像素点的第w列光谱向量的光谱反射率曲线矩阵。
将待分类的高光谱图像中全部Tmn个像素点的堆叠空间光谱反射率曲线矩阵组成待分类的高光谱图像的堆叠空间光谱反射率曲线矩阵集合Xp
Figure GDA0002923386090000172
Figure GDA0002923386090000173
将加噪后的高光谱图像中全部Tmn个像素点的堆叠空间光谱反射率曲线矩阵组成加噪后的高光谱图像的堆叠空间光谱反射率曲线矩阵集合
Figure GDA0002923386090000174
Figure GDA0002923386090000175
步骤6,生成训练数据集和测试数据集。
分别从待分类的高光谱图像的和加噪后的高光谱图像的堆叠空间光谱反射率曲线矩阵集合Xp
Figure GDA0002923386090000176
中,随机选取80%的有标记的像素点的堆叠空间光谱反射率曲线矩阵组成训练数据集Xtrain,其对应的类标为Ytrain,将其余待分类的高光谱图像的堆叠空间光谱反射率曲线矩阵集合Xp中的有标记的像素点的堆叠空间光谱反射率曲线矩阵作为测试数据集Xtest,其对应的类标为Ytest
步骤7,训练卷积神经网络。
利用随机梯度下降方法,对卷积神经网络进行2000次训练,得到训练好的卷积神经网络。
所述的随机梯度下降方法的具体步骤如下:
第1步,将卷积神经网络中每层的权重值设置为不同的满足标准差为0.1、均值为0的正态分布的随机数,将卷积神经网络中每层的偏置值设置为0。
第2步,从训练样本集中随机选取50个训练样本,输入到卷积神经网络中,输出每个训练样本的网络预测标签。
将步骤7中的训练样本集Xtrain中的样本随机抽取一批u个组成卷积神经网络每次训练的输入样本,记为IX。抽取后的这一批样本不再重复抽取,所有批次的输入样本IX的全体即全部训练样本集Xtrain={IX}。对应的真实标签为YD,所有批次的输入样本的真实标签YD的全体即全部训练样本集Ytrain={YD}。u的取值范围是[1,100],本发明的实施例中u的取值为50。
第3步,利用下述损失函数计算公式,计算所有选取的训练样本的损失值的平均值:
Figure GDA0002923386090000181
其中,J表示所选训练样本的损失值的平均值,∑表示求和操作,i表示样本的序号,log表示取以2为底的对数操作,YP表示选取的训练样本的网络预测标签,YD表示选取的训练样本的实际标签。
第4步,按照下式,计算卷积神经网络中每层的权重值和偏置值的更新后的值:
Figure GDA0002923386090000182
Figure GDA0002923386090000183
其中,ω1表示卷积神经网络中每层的权重值当前迭代更新后的值,ω表示卷积神经网络中每层的权重值当前迭代的值,ω={ωC1C2C3C4C5C6C7C8F1F2F3F4S1D1},α表示学习速率,取值为0.001,
Figure GDA0002923386090000184
表示所选样本的损失值的平均值对卷积神经网络中每层权重值的求导值,θ1表示卷积神经网络中每层的偏置值当前迭代更新后的值,θ表示卷积神经网络中每层的偏置值当前迭代的值,θ={θC1C2C3C4C5C6C7C8F1F2F3F4D1}
Figure GDA0002923386090000185
表示所选样本的损失值的平均值对卷积神经网络中每层偏置值的求导值。
第5步,判断是否达到迭代次数,若是,得到训练好的卷积神经网络,否则,执行第2步。
步骤8,对测试数据集进行分类。
分别将测试数据集中的每个测试样本输入到卷积神经网络中,通过第1个Softmax层上的Softmax分类器,得到每个测试样本的分类标签,作为对应像素点的分类结果。
将步骤6中得到的测试样本集Xtest中的样本随机抽取1个组成卷积神经网络每次测试的输入样本,记为XDD。抽取后的这1个样本不再重复抽取,所有的输入样本XDD的全体即全部训练样本集Xtest={XDD}。对应的实际标签为YDD,所有的输入样本的真实标签YDD的全体即全部训练样本集Ytest={YDD}。将网络输入XDD、训练好的网络的权重和偏置,放入步骤1中搭建的卷积神经网络,计算第1个Softmax层的输出YP。比较YDD和YP,如果两者相等,则网络将XDD这一个样本分类正确,如果两者不相等,则网络将XDD这一样本分类错误。遍历完所有测试样本集中的样本。对于分类结果,将相同类别的像素点着同一种颜色,得到标记样本的分类图。
下面通过仿真实验对本发明的效果做进一步说明。
1.仿真条件:
本发明仿真实验的条件为:CPU:Intel i7-7700k,内存16G,GPU:NVIDIA gtx1060,内存6G,基于Python3.5的Tensorflow。
本发明仿真实验所使用的第一组数据为Indian Pines高光谱数据集,IndianPines高光谱数据集拍摄内容为位于美国的印第安纳州西北部的印度松林测试区域,原始数据集包含220个不同分辨率的谱段,这其中包含20个受大气水吸收的波段,所以剔除这些有影响的波段,我们采用剩余200个波段作为数据的原始输入。图像的大小为145×145×200,共有21025个像素点,包含16种地物,分别为紫花苜蓿(Alfalfa)、玉米n(Corn-notill)、玉米m(Corn-mintill)、玉米(Corn)、基层农场(Grass-pasture)、草-树木(Grass-trees)、草木草割(Grass-pasture-mowed)、干草(Hay-windrowed)、燕麦(Oats)、大豆n(Soybean-notill)、大豆m(Soybean-mintill)、大豆地(Soybean)、小麦(Wheat)、木头(Woods)、机器(Buildings-Grass-Tress-Drivers)、石钢塔(Stone-Steel-Towers)。图像的Ground truth中包含10249个训练样本。
第二组数据为KSC高光谱数据集,KSC高光谱图像的拍摄内容为美国Florida肯尼迪航天中心附近,该数据集原始数据集中共包含224个不同的波段,这其中包含48个受大气水吸收的波段,所以剔除这些有影响的波段,我们采用剩余176个波段作为数据的原始输入。图像的大小为512×614×176,共有314368个像素点,包含13种地物,分别为灌木丛(Scrub)、柳(Willow swamp)、沼泽(CP hammock)、橡树(CP/Oak)、湿地松(Slash pine)、阔叶林(Oak/Broadleaf)、硬木(Hardwood swamp)、禾草(Graminoid marsh)、互花米草(Spartina marsh)、香蒲(Cattail marsh)、盐沼(Salt marsh)、泥潭(Mud flats)、水(Water)。图像的Ground truth中包含5521个有标记的样本。
2.仿真内容和结果分析:
本发明的仿真实验是采用本发明和两个现有技术分别对Indian Pines高光谱图像和KSC高光谱图像进行分类。两个现有技术如下:2014年Yushi Chen和Zhou han Lin等人在IEEE Journal of Selected Topics in Applied Earth Observations and RemoteSensing,7卷第6期2094-2107页发表的文章Deep Learning-Based Classificati on ofHyperspectral Data的基于深度学习SAE的算法,简记为SAE。2016年Yushi Chen和HanluJiang等人在IEEE Transactions on Geoscience and Remote Sensing,54卷第10期发表的文章Deep Feature Extraction and Classification of Hyperspectral ImagesBased on Convolutional Neural Networks的基于深度学习CNN的算法,简记为CNN。
下面用总体分类精度OA、平均分类精度AA、Kappa系数KC和分类图对本发明、SAE、CNN这三个方法的分类结果进行评价。
利用下式,分别计算本发明和两个现有技术的分类结果的总体分类精度OA、平均分类精度AA和Kappa系数KC:
Figure GDA0002923386090000201
Figure GDA0002923386090000202
Figure GDA0002923386090000203
其中,IM表示所有被分类正确的测试样本个数为,IN表示测试样本个数,K表示高光谱图像的地物类别的总数为,k表示高光谱图像的类别序号k∈(1,K),IMk表示第k类地物的测试样本被分类正确的个数,INk表示第k类地物的测试样本的总数。
表1中分别列出了本发明和两个现有技术的总体分类精度OA、平均分类精度AA和Kappa系数KC的计算结果,从表1可见,对比现有技术SAE方法和现有技术CNN方法,本发明的方法无论在总体分类精度、平均分类精度还是Kappa系数方面表现都最好。本发明的方法对于Indian Pines数据的总体分类精度比现有技术SAE方法高出2.73%,比现有技术CNN方法高出1.22%;平均分类精度比现有技术SAE方法高出4%,比现有技术CNN方法高出1.67%;Kappa系数比现有技术SAE方法高出3.09%,比现有技术CNN方法高出0.0139。本发明的方法对于KSC数据的总体分类精度比现有技术SAE方法高出3.61%,比现有技术CNN方法高出1.64%;平均分类精度比现有技术SAE方法高出6.12%,比现有技术CNN方法高出1.64%;Kappa系数比现有技术SAE方法高出4.0%,比现有技术CNN方法高出0.0182。
表1.三种方法分类精度一览表
Figure GDA0002923386090000211
图3是本发明和两个现有技术的仿真图,其中,图3(a)是本发明和两个现有技术仿真实验所使用的Indian Pines高光谱图像的实际人工标记图,图3(b)是使用现有技术的SAE方法仿真得到的Indian Pines高光谱图像的分类图,图3(c)是使用现有技术的CNN方法仿真得到的Indian Pines高光谱图像的分类图,图3(d)是使用本发明的方法仿真得到的Indian Pines高光谱图像的分类图,图3(e)是本发明和两个现有技术仿真实验中所使用的KSC高光谱图像的实际人工标记图,图3(f)是使用现有技术SAE方法仿真得到的KSC高光谱图像的分类图,图3(g)是使用现有技术CNN方法仿真得到的KSC高光谱图像的分类图,图3(h)是使用本发明方法仿真得到的KSC高光谱图像的分类图。
图3(a)、图3(b)、图3(c)、图3(d)中灰度值为255的区域表示背景,灰度值为0的区域表示紫花苜蓿区域,灰度值为16的区域表示玉米n区域,灰度值为32的区域表示玉米m区域,灰度值为48的区域表示玉米区域,灰度值为64的区域表示基层农场区域,灰度值为80的区域表示草-树木区域,灰度值为96的区域表示草木草割区域,灰度值为112的区域表示干草区域,灰度值为128的区域表示燕麦区域,灰度值为143的区域表示大豆n区域,灰度值为159的区域表示大豆m区域,灰度值为175的区域表示大豆地区域,灰度值为191的区域表示小麦区域,灰度值为207的区域表示木头区域,灰度值为223的区域表示机器区域,灰度值为239的区域表示石钢塔区域。图3(e)、图3(f)、图3(g)、图3(h)中灰度值为255的区域表示背景,灰度值为0的区域表示灌木丛区域,灰度值为20的区域表示柳区域,灰度值为39的区域表示沼泽区域,灰度值为59的区域表示橡树区域,灰度值为78的区域表示湿地松区域,灰度值为98的区域表示阔叶林区域,灰度值为118的区域表示硬木区域,灰度值为137的区域表示禾草区域,灰度值为156的区域表示互花米草区域,灰度值为176的区域表示香蒲区域,灰度值为196的区域表示盐沼区域,灰度值为216的区域表示泥潭地区域,灰度值为235的区域表示水区域。
通过对比实际人工标记图3(a)、图3(e)与本发明的分类结果图3(d)、图3(h),可以看出:本发明方法分类结果较好,分类结果的区域一致性较好,不同类别之间的边缘也非常清晰,且保持了细节信息。
本实施方式中没有详细叙述的部分属本行业的公知的常用手段,这里不一一叙述。以上例举仅仅是对本发明的举例说明,并不构成对本发明的保护范围的限制,凡是与本发明相同或相似的设计均属于本发明的保护范围之内。

Claims (6)

1.一种基于光谱反射率曲线矩阵SRCM和卷积神经网络的高光谱图像分类方法,其特征在于,构建卷积神经网络,利用生成的堆叠空间光谱反射率曲线矩阵集合训练卷积神经网络,利用训练好的卷积神经网络进行分类;该方法的具体步骤如下:
(1)构建卷积神经网络:
(1a)构建一个20层的卷积神经网络,其结构依次为:输入层→第1个卷积层→第1个池化层→第2个卷积层→第2个池化层→第3个卷积层→第3个池化层→第4个卷积层→第4个池化层,第1个池化层→第5个卷积层→第1个全连接层,第2个池化层→第6个卷积层→第2个全连接层,第3个池化层→第7个卷积层→第3个全连接层,第4个池化层→第8个卷积层→第4个全连接层,第1个全连接层→特征级联层,第2个全连接层→特征级联层,第3个全连接层→特征级联层,第4个全连接层→特征级联层,特征级联层→第1个Dropout层→第1个Softmax层;
(1b)设置卷积神经网络各层参数如下:
将输入层特征映射图总数设置为1;
将第1个卷积层特征映射图总数设置为6、卷积核大小设置为5×5;
将第1、2、3、4个池化层池化窗口都设置为2×2;
将第2个卷积层特征映射图数目设置为12,卷积核大小设置为5×5;
将第3个卷积层特征映射图数目设置为32,卷积核大小设置为4×4;
将第4个卷积层特征映射图数目设置为64,卷积核大小设置为3×3;
将第5、6、7、8个卷积层特征映射图数目都设置为1,卷积核大小都设置为1×1;
将第1、2、3、4个全连接层节点总数都设置为64;
将第1个Dropout层节点总数设置为256,置零概率为0.5;
将第1个Softmax层节点总数设置为待分类的高光谱图像的地物类别总个数;
(1c)特征级联层将卷积神经网络的第1、2、3、4个全连结层的输出按行排序组成融合特征矩阵;
(2)对待分类的高光谱图像加噪:
(2a)输入一幅待分类的高光谱图像;
(2b)对待分类的高光谱图像中的每个像素点的每个波段的像素值,分别加入服从[-50,50]上的均匀分布的随机噪声,得到加噪后的高光谱图像;
(3)对图像数据逐波段归一化:
(3a)分别提取待分类的高光谱图像和加噪后的高光谱图像中每个波段的像素值的最大值和最小值;
(3b)利用归一化公式,利用每个波段的像素值的最大值和最小值,分别对待分类的高光谱图像和加噪后的高光谱图像的每个波段中每个像素点进行归一化处理;
(4)生成空间光谱特征矩阵集合:
(4a)利用空间光谱特征矩阵提取方法,分别提取归一化后的待分类的高光谱图像和加噪后的高光谱图像的每个像素点的空间光谱特征矩阵;
(4b)将归一化后的待分类的高光谱图像中所有像素点的空间光谱特征矩阵组成待分类的高光谱图像的空间光谱特征矩阵集合,将归一化后的加噪后的高光谱图像中所有像素点的空间光谱特征矩阵组成加噪后的高光谱图像的空间光谱特征矩阵集合;
(5)生成堆叠空间光谱反射率曲线矩阵集合:
(5a)将零矩阵的行数和列数分别初始化为待分类的高光谱图像的波段总数;
(5b)利用矩阵更新方法,更新零矩阵中的元素值,将更新后的零矩阵分别作为待分类的高光谱图像和加噪后的高光谱图像的每个像素点的空间光谱特征矩阵中每列向量的光谱反射率曲线矩阵;
(5c)利用堆叠矩阵计算公式,分别计算待分类的高光谱图像和加噪后的高光谱图像的空间光谱特征矩阵集合中每个像素点的堆叠空间光谱反射率曲线矩阵;
(5d)将待分类的高光谱图像中所有像素点的堆叠空间光谱反射率曲线矩阵,组成待分类的高光谱图像的堆叠空间光谱反射率曲线矩阵集合,将加噪后的高光谱图像中所有像素点的堆叠空间光谱反射率曲线矩阵,组成加噪后的高光谱图像的堆叠空间光谱反射率曲线矩阵集合;
(6)生成训练数据集和测试数据集:
分别从待分类的高光谱图像和加噪后的高光谱图像的堆叠空间光谱反射率曲线矩阵集合中,随机选取80%的有标记的像素点的堆叠空间光谱反射率曲线矩阵组成训练数据集,将其余待分类的高光谱图像的堆叠空间光谱反射率曲线矩阵集合中的有标记的像素点的堆叠空间光谱反射率曲线矩阵作为测试数据集;
(7)训练卷积神经网络:
利用随机梯度下降方法,对卷积神经网络进行2000次训练,得到训练好的卷积神经网络;
(8)对测试数据集进行分类:
分别将测试数据集中的每个测试样本输入到卷积神经网络中,通过第1个Softmax层上的Softmax分类器,得到每个测试样本的分类标签,作为对应像素点的分类结果。
2.根据权利要求1中所述的基于光谱反射率曲线矩阵SRCM和卷积神经网络的高光谱图像分类方法,其特征在于:步骤(3b)中所述的归一化公式如下:
Figure FDA0002923386080000031
Figure FDA0002923386080000032
其中,
Figure FDA0002923386080000033
表示待分类的高光谱图像中第b个波段中空间位置为(m,n)的像素点归一化后的值,Xb(m,n)表示待分类的高光谱图像中第b个波段中空间位置为(m,n)的像素点值,
Figure FDA0002923386080000034
表示待分类的高光谱图像中第b个波段中像素值的最小值,
Figure FDA0002923386080000035
表示待分类的高光谱图像中第b个波段中像素值的最大值,
Figure FDA0002923386080000036
表示加噪后的高光谱图像中第b个波段中空间位置为(m,n)的像素点归一化后的值,
Figure FDA0002923386080000037
表示加噪后的高光谱图像中第b个波段中空间位置为(m,n)的像素点值,
Figure FDA0002923386080000038
表示加噪后的高光谱图像中第b个波段中的像素值的最小值,
Figure FDA0002923386080000039
表示加噪后的高光谱图像中第b个波段中像素值的最大值。
3.根据权利要求1中所述的基于光谱反射率曲线矩阵SRCM和卷积神经网络的高光谱图像分类方法,其特征在于:步骤(4a)中所述的空间光谱特征矩阵提取方法的具体步骤如下:分别以归一化后的待分类的高光谱图像和加噪后的高光谱图像的每个像素点作为中心像素点,提取每个中心像素点及其9×9邻域内的邻域像素共81个光谱向量,按列排序81个光谱向量,组成每个中心像素点的空间光谱特征矩阵。
4.根据权利要求1中所述的基于光谱反射率曲线矩阵SRCM和卷积神经网络的高光谱图像分类方法,其特征在于:步骤(5b)中所述的矩阵更新方法的具体步骤如下:
第一步,将每个空间像素点的空间光谱特征矩阵的每列向量的每个光谱值所在的波段位置作为更新值的位置的行序号;
第二步,按照下式,计算每个像素点的空间光谱特征矩阵的每列向量的每个光谱更新值的位置的列序号,
Figure FDA0002923386080000041
Figure FDA0002923386080000042
其中,qw,b(t)表示待分类的高光谱图像的空间光谱特征矩阵集合中第t个像素点的空间光谱特征矩阵中的第w列第b行的值在零矩阵中更新值的列序号,round表示四舍五入到最近整数,
Figure FDA0002923386080000043
表示待分类的高光谱图像的空间光谱特征矩阵集合中第t个像素点的空间光谱特征矩阵中的第w列第b行的值,B表示待分类的高光谱图像的波段总数,
Figure FDA0002923386080000044
表示加噪后的高光谱图像的空间光谱特征矩阵集合中第t个像素点的空间光谱特征矩阵中的第w列第b行的值在零矩阵中更新值的列序号,
Figure FDA0002923386080000045
加噪后的高光谱图像的空间光谱特征矩阵集合中第t个像素点的空间光谱特征矩阵中的第w列第b行的值;
第三步,利用行序号和列序号,确定在更新元素值的位置,将零矩阵该位置的元素值更新为1。
5.根据权利要求1中所述的基于光谱反射率曲线矩阵SRCM和卷积神经网络的高光谱图像分类方法,其特征在于:步骤(5c)中所述的堆叠矩阵计算公式如下:
Figure FDA0002923386080000051
Figure FDA0002923386080000052
其中,
Figure FDA0002923386080000053
表示待分类的高光谱图像的空间光谱特征矩阵集合中第t个像素点的堆叠空间光谱反射率曲线矩阵,W表示待分类的高光谱图像的空间光谱特征矩阵集合中第t个像素点的堆叠空间光谱反射率曲线矩阵的总列数,∑表示求和操作,w表示待分类的高光谱图像和加噪后的高光谱图像的空间光谱特征矩阵集合中第t个空间像素点的堆叠空间光谱反射率曲线矩阵列序号,
Figure FDA0002923386080000054
表示待分类的高光谱图像的空间光谱特征矩阵集合中第t个像素点的第w列光谱向量的光谱反射率曲线矩阵,
Figure FDA0002923386080000055
表示加噪后的高光谱图像的空间光谱特征矩阵集合中第t个像素点的堆叠空间光谱反射率曲线矩阵,
Figure FDA0002923386080000056
表示加噪后的高光谱图像的空间光谱特征矩阵集合中第t个像素点的第w列光谱向量的光谱反射率曲线矩阵。
6.根据权利要求1中所述的基于光谱反射率曲线矩阵SRCM和卷积神经网络的高光谱图像分类方法,其特征在于:步骤(7)中所述的随机梯度下降方法如下:
第一步,将卷积神经网络中每层的权重值设置为不同的满足标准差为0.1、均值为0的正态分布的随机数,将卷积神经网络中每层的偏置值设置为0;
第二步,从训练样本集中随机选取50个训练样本,输入到卷积神经网络中,输出每个训练样本的网络预测标签;
第三步,利用下述损失函数计算公式,计算所有选取的训练样本的损失值的平均值:
Figure FDA0002923386080000057
其中,J表示所选训练样本的损失值的平均值,∑表示求和操作,i表示样本的序号,log表示取以2为底的对数操作,YP表示选取的训练样本的网络预测标签,YD表示选取的训练样本的实际标签;
第四步,按照下式,计算卷积神经网络中每层的权重值和偏置值的更新后的值:
Figure FDA0002923386080000061
Figure FDA0002923386080000062
其中,ω1表示卷积神经网络中每层的权重值当前迭代更新后的值,α表示学习速率,取值为0.001,
Figure FDA0002923386080000063
表示所选样本的损失值的平均值对卷积神经网络中每层权重值的求导值,θ1表示卷积神经网络中每层的偏置值当前迭代更新后的值,
Figure FDA0002923386080000064
表示所选样本的损失值的平均值对卷积神经网络中每层偏置值的求导值;
第五步,判断是否达到迭代次数,若是,得到训练好的卷积神经网络,否则,执行第二步。
CN201811489560.2A 2018-12-06 2018-12-06 基于srcm和卷积神经网络的高光谱图像分类方法 Active CN109598306B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811489560.2A CN109598306B (zh) 2018-12-06 2018-12-06 基于srcm和卷积神经网络的高光谱图像分类方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811489560.2A CN109598306B (zh) 2018-12-06 2018-12-06 基于srcm和卷积神经网络的高光谱图像分类方法

Publications (2)

Publication Number Publication Date
CN109598306A CN109598306A (zh) 2019-04-09
CN109598306B true CN109598306B (zh) 2021-09-03

Family

ID=65961276

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811489560.2A Active CN109598306B (zh) 2018-12-06 2018-12-06 基于srcm和卷积神经网络的高光谱图像分类方法

Country Status (1)

Country Link
CN (1) CN109598306B (zh)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110009722A (zh) * 2019-04-16 2019-07-12 成都四方伟业软件股份有限公司 三维重建方法及装置
CN110516727B (zh) * 2019-08-20 2022-12-06 西安电子科技大学 基于fpga深度边缘滤波器的高光谱图像分类方法
CN111191701B (zh) * 2019-12-23 2023-04-11 中国科学院西安光学精密机械研究所 一种基于深度学习的颜料光谱辨识方法
CN111027509B (zh) * 2019-12-23 2022-02-11 武汉大学 一种基于双流卷积神经网络的高光谱图像目标检测方法
CN111738367B (zh) * 2020-08-17 2020-11-13 成都中轨轨道设备有限公司 一种基于图像识别的零件分类方法
CN112232137A (zh) * 2020-09-24 2021-01-15 北京航空航天大学 高光谱图像的处理方法及装置
CN112634184A (zh) * 2020-12-03 2021-04-09 中国地质大学(武汉) 基于融合性卷积神经网络的rgb图像光谱反射率重建方法
CN112733736A (zh) * 2021-01-13 2021-04-30 西安电子科技大学 基于增强过采样的类别不平衡高光谱图像分类方法
CN113222908B (zh) * 2021-04-23 2023-12-12 中国科学院西安光学精密机械研究所 基于自适应光谱波段筛选网络的高光谱遮挡效果评估方法
CN114626470B (zh) * 2022-03-18 2024-02-02 南京航空航天大学深圳研究院 基于多类型几何特征算子的飞机蒙皮关键特征检测方法
CN114965441B (zh) * 2022-07-28 2022-12-06 中国科学院国家天文台 元素概率化预测模型的训练方法和元素概率化预测方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104102929A (zh) * 2014-07-25 2014-10-15 哈尔滨工业大学 基于深度学习的高光谱遥感数据分类方法
CN107274387A (zh) * 2017-05-19 2017-10-20 西安电子科技大学 基于进化多目标优化的高光谱遥感影像的端元提取方法
CN107358260A (zh) * 2017-07-13 2017-11-17 西安电子科技大学 一种基于表面波cnn的多光谱图像分类方法
CN107463948A (zh) * 2017-07-13 2017-12-12 西安电子科技大学 基于双通道多特征融合网络的多光谱图像分类方法
CN108460342A (zh) * 2018-02-05 2018-08-28 西安电子科技大学 基于卷积网和循环神经网络的高光谱图像分类方法
US10078890B1 (en) * 2016-09-29 2018-09-18 CHS North LLC Anomaly detection

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100266185A1 (en) * 2009-04-21 2010-10-21 Sloan Kettering Institute of Cancer Malignant tissue recognition model for the prostate

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104102929A (zh) * 2014-07-25 2014-10-15 哈尔滨工业大学 基于深度学习的高光谱遥感数据分类方法
US10078890B1 (en) * 2016-09-29 2018-09-18 CHS North LLC Anomaly detection
CN107274387A (zh) * 2017-05-19 2017-10-20 西安电子科技大学 基于进化多目标优化的高光谱遥感影像的端元提取方法
CN107358260A (zh) * 2017-07-13 2017-11-17 西安电子科技大学 一种基于表面波cnn的多光谱图像分类方法
CN107463948A (zh) * 2017-07-13 2017-12-12 西安电子科技大学 基于双通道多特征融合网络的多光谱图像分类方法
CN108460342A (zh) * 2018-02-05 2018-08-28 西安电子科技大学 基于卷积网和循环神经网络的高光谱图像分类方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Learning and Transferring Deep Joint Spectral–Spatial Features for Hyperspectral Classification;Jingxiang Yang 等;《IEEE Transactions on Geoscience and Remote Sensing 》;IEEE;20170831;第55卷(第8期);4729-4742 *
基于光谱与空间特征结合的改进高光谱数据分类算法;李娜 等;《光谱学与光谱分析》;20140215;第34卷(第2期);526-531 *

Also Published As

Publication number Publication date
CN109598306A (zh) 2019-04-09

Similar Documents

Publication Publication Date Title
CN109598306B (zh) 基于srcm和卷积神经网络的高光谱图像分类方法
CN109948693B (zh) 基于超像素样本扩充和生成对抗网络高光谱图像分类方法
CN108460342B (zh) 基于卷积神经网络和循环神经网络的高光谱图像分类方法
CN110084159B (zh) 基于联合多级空谱信息cnn的高光谱图像分类方法
CN113095409B (zh) 基于注意力机制和权值共享的高光谱图像分类方法
CN113011499A (zh) 一种基于双注意力机制的高光谱遥感图像分类方法
CN107145836B (zh) 基于栈式边界辨别自编码器的高光谱图像分类方法
CN107944483B (zh) 基于双通道dcgan和特征融合的多光谱图像分类方法
CN103440505B (zh) 空间邻域信息加权的高光谱遥感图像分类方法
CN112101271A (zh) 一种高光谱遥感影像分类方法及装置
CN108154094B (zh) 基于子区间划分的高光谱图像非监督波段选择方法
CN105760900B (zh) 基于近邻传播聚类和稀疏多核学习的高光谱图像分类方法
CN111695466A (zh) 一种基于特征mixup的半监督极化SAR地物分类方法
CN111222545B (zh) 基于线性规划增量学习的图像分类方法
CN113052216B (zh) 基于双路图u-net卷积网络的溢油高光谱图像检测方法
CN114972885B (zh) 基于模型压缩的多模态遥感图像分类方法
CN114266961A (zh) 一种整合高光谱和多频段全极化sar影像的沼泽植被堆栈集成学习分类方法
CN112052758A (zh) 基于注意力机制和循环神经网络的高光谱图像分类方法
CN115376010A (zh) 一种高光谱遥感影像分类方法
Radhika et al. Ensemble subspace discriminant classification of satellite images
CN116129280B (zh) 一种遥感影像雪检测的方法
CN109460788B (zh) 基于低秩-稀疏信息组合网络的高光谱图像分类方法
CN117115675A (zh) 一种跨时相轻量化空谱特征融合高光谱变化检测方法、系统、设备及介质
CN113469084B (zh) 基于对比生成对抗网络的高光谱图像分类方法
CN113887656B (zh) 一种联合深度学习与稀疏表示的高光谱图像分类方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant