CN115937565A - 基于自适应l-bfgs算法的高光谱图像分类方法 - Google Patents

基于自适应l-bfgs算法的高光谱图像分类方法 Download PDF

Info

Publication number
CN115937565A
CN115937565A CN202210133932.8A CN202210133932A CN115937565A CN 115937565 A CN115937565 A CN 115937565A CN 202210133932 A CN202210133932 A CN 202210133932A CN 115937565 A CN115937565 A CN 115937565A
Authority
CN
China
Prior art keywords
hyperspectral image
hyperspectral
output
training
adaptive
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210133932.8A
Other languages
English (en)
Inventor
黄鹤
于文博
王俊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Suzhou University
Original Assignee
Suzhou University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Suzhou University filed Critical Suzhou University
Priority to CN202210133932.8A priority Critical patent/CN115937565A/zh
Publication of CN115937565A publication Critical patent/CN115937565A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A40/00—Adaptation technologies in agriculture, forestry, livestock or agroalimentary production
    • Y02A40/10—Adaptation technologies in agriculture, forestry, livestock or agroalimentary production in agriculture

Landscapes

  • Image Analysis (AREA)

Abstract

本发明涉及一种基于自适应L‑BFGS算法的高光谱图像分类方法，利用卷积层和长短期记忆网络层提取像元空间特征，并将其与光谱特征相融合，最终实现分类的目的，同时采用改进二阶优化算法对网络模型进行参数更新与优化，解决了该应用场景下样本数目过多、数据量过大、参数难以更新等问题，提升了算法的收敛速度，解决了算法容易陷入局部最优点的问题。本发明将像元在局部空间的排列作为连续信息，利用长短期记忆网络层对其进行特征提取，保障了高光谱图像像元特征的多样性，有助于分类效果的提升。本发明将空谱特征利用拼接操作进行融合，实现多模态学习的目的。

Description

基于自适应L-BFGS算法的高光谱图像分类方法
技术领域
本发明涉及高光谱图像处理技术领域，尤其是指一种基于自适应 L-BFGS算法的高光谱图像分类方法。
背景技术
高光谱图像(HSI)分类是通过为每个像元分配单个标签来区分不同的地物，在森林勘察、城市检测和土地覆盖制图等领域得到了广泛应用。高光谱图像是典型的三维立方体数据，其具有两个空间维度和一个光谱维度，前者描述地物目标的空间位置信息，后者描述地物目标在不同波长下光谱反射率的变化曲线。因此，高光谱图像包含丰富的空间特征和光谱特征。但由于高光谱图像中各波段之间相关性过强，导致波段间冗余信息较多，这阻碍了重要信息的挖掘与表达。
目前主流方式是通过特征提取将像元映射到特定子空间中，通过这种映射减少波段之间的强关联性，得到蕴含丰富判别信息的嵌入特征，提升像元的可识别能力。考虑到高光谱图像具有“图谱合一”的优势，即像元的空间信息与光谱信息具有一致性，现有技术中高光谱图像分类方法一般可分为光谱特征分类方法和空谱特征分类方法。
光谱特征分类方法通过设计符合高光谱像元结构的深度网络模型来挖掘光谱曲线内存在的重要判别信息，在这类方法中均不考虑像元的空间信息。经典的高光谱图像特征分类网络模型包括自动编码器(Auto-encoder， AE)、变分自动编码器(VariationalAuto-encoder，VAE)、长短期记忆网络(Long Short-term Memory，LSTM)、生成对抗网络(Generative Adversarial Network，GAN)等等。这类模型所提取到的特征较为单一，无法充分发挥高光谱图像的优势。
随着计算机处理与分析能力的提升，训练空谱特征分类网络模型的速度也大幅度提高，因此目前主流方法是空谱特征分类方法。高光谱图像中的空间特征描述像元的具体空间位置，光谱信息描述了高光谱图像中像元在各波长下光谱反射率组成的连续光谱曲线。空谱特征分类方法一般采用多个映射网络来得到空间特征与光谱特征，并利用特征融合模块来实现不同模态特征间的联合表达。采用空谱特征联合的方式提升像元信息的完整程度，通过构造多流深度网络模型实现多传感器数据融合的目的。比较常用的深度网络模型是卷积神经网络，通过对像元的局部邻域信息进行卷积操作可以实现从局部到全局的优化。这类方法往往需要处理大量的高光谱像元，且随着空间信息选择范围的增加，信息量逐渐增大，常规的网络优化算法难以快速收敛到稳定结果。
现有研究中为提升高光谱图像特征分类结果的性能，对网络优化算法进行改进。目前，人们主要利用一阶优化算法对网络参数进行优化，但一阶优化算法收敛速度较慢，且容易陷入局部最优点，将其应用到高光谱图像特征分类网络模型的训练中难以发挥高光谱图像的数据优势。而常用的二阶优化算法虽然收敛速度较快且精度较高，但所消耗的内存资源是巨大的。中国发明专利CN113705724A中公开了一种自适应的L-BFGS算法，利用二阶优化算法的批量学习方法，大大减小了存储量，收敛速度和准确率明显提升，适于处理高光谱图像特征。
发明内容
为此，本发明所要解决的技术问题在于克服现有技术中在高光谱图像分类场景下网络模型收敛速度慢、易陷入局部最优点等缺点，提出一种针对高光谱图像的分类方法，用于快速且准确地提取高光谱图像的空间特征和光谱特征，该方法通过空谱特征映射来挖掘重要判别信息，通过特征融合模块实现空谱联合的目的，并采用改进二阶优化算法快速准确地达到收敛状态。
为解决上述技术问题，本发明提供了基于自适应L-BFGS算法的高光谱图像分类方法，其特征在于，包括如下步骤：
S10：数据预处理：
获取高光谱图像的像元数据及对应的空间数据形成输入样本二和输入样本一；
将输入样本一和输入样本二分别打乱，从每个输入样本中抽取部分形成训练样本一和训练样本二；
S20：构建深度网络模型：
深度网络模型包括空间特征提取模块一、空间特征提取模块二、光谱特征提取模块和分类模块，利用卷积层和长短期记忆网络层分别对空间特征提取模块一、空间特征提取模块二处理得到第一输出和第二输出，利用全连接层对光谱特征提取模块处理得到第三输出，对输出结果进行融合；
将融合结果输入分类模块，得到第四输出；
S30：训练网络模型：
每次从训练样本一和训练样本二中选取小批量训练样本一和小批量训练样本二，将小批量训练样本一作为空间特征提取模块一、将小批量训练样本一进行变换作为空间特征提取模块二、将小批量训练样本二作为光谱特征提取模块输入到步骤S20的深度网络模型中，得到全部输出，并根据上述输出计算损失函数L；
利用L-BFGS算法，对网络参数进行训练，直至网络收敛；训练过程中，自适应选择K*个记忆尺度，其中K*＝argmin1≤K≤M{QK}，
Figure BDA0003503789890000031
S40：生成分类结果：
基于训练好的深度网络模型，将输入样本一和输入样本二进行输入，得到所有高光谱像元的类别标签。
在本发明的一个实施例中，训练过程中，根据K*个记忆尺度，计算出K*个方向
Figure BDA0003503789890000041
并以混合方向
Figure BDA0003503789890000042
作为搜索方向。
在本发明的一个实施例中，训练过程中，深度网络模型中的参数根据下式进行更新：
xt+1＝xt+μt⊙dt
其中，μt为步长即学习率，
Figure BDA00035037898900001014
且
Figure BDA0003503789890000044
β是衰减率，η是初始步长，ε是常数。
在本发明的一个实施例中，对步骤S10中的高光谱图像进行归一化预处理，且归一化预处理中取值范围在-1到1之间，归一化公式如下：
Figure BDA0003503789890000045
其中xmin表示高光谱像元数据中最小值，xmax表示高光谱像元数据中最大值。
在本发明的一个实施例中，分类模块中网络层个数为n，网络中分类模块最后一层的激活函数为Sigmoid激活函数，其他网络层使用的激活函数均为 Tanh激活函数。
在本发明的一个实施例中，Sigmoid激活函数计算公式为：
Figure BDA0003503789890000046
Tanh激活函数计算公式为：
Figure BDA0003503789890000047
在本发明的一个实施例中，损失函数的计算公式为：
L＝Lcls+LKL1+LKL2+LKL3，其中
Lcls＝CrossEntropy(Output，l)
Figure BDA0003503789890000051
Figure BDA0003503789890000052
Figure BDA0003503789890000053
∑(·)为将括号内的内容全部加在一起，l是样本标签的独热码，尺寸为1× c，其中只有一个位置数值为1，其他位置数值均为0。Lcls利用交叉熵计算最终分类精度，LKL1利用光谱角距离计算第一输出和第三输出之间的光谱相似性，LKL2利用光谱角距离计算第二输出和第三输出之间的光谱相似性，LKL3利用光谱角距离计算第一输出和第二输出之间的光谱相似性。
在本发明的一个实施例中，交叉熵的计算公式为：
CrossEntropy(x，y)＝-[xlog(y)+(1-x)log(1-y)]。
在本发明的一个实施例中，步骤S10中，针对每一个高光谱像元，将其自身作为中心并选取其周围尺寸为s×s的邻域像元作为该像元的空间数据，对于边缘的高光谱像元，对缺失的数据进行补零操作。
在本发明的一个实施例中，步骤S10中，将输入样本一和输入样本二按照相同的顺序进行打乱，并选取序号处于前30％的输入样本一和输入样本二作为训练样本一和训练样本二，若X×Y×30％不是整数，则将其进行四舍五入操作。
基于同样的发明构思，本申请还提供一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现任一项所述方法的步骤。
基于同样的发明构思，本申请还提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现任一项所述方法的步骤。
基于同样的发明构思，本申请还提供一种处理器，所述处理器用于运行程序，其中，所述程序运行时执行任一项所述的方法。
本发明的上述技术方案相比现有技术具有以下优点：
本发明所述的高光谱图像分类方法，将二阶优化算法应用到高光谱图像分类研究中，相对于在该应用场景下主流的Adam算法、RMSProp算法等，收敛速度明显提升，识别准确率也得到提升，是应对该应用场景下需要处理大量样本现状的有效手段。
本发明提出的自适应L-BFGS算法，通过K*的设置，让记忆尺度能够自适应变化，解决了传统L-BFGS中固定记忆尺度所带来的问题。
附图说明
为了使本发明的内容更容易被清楚的理解，下面根据本发明的具体实施例并结合附图，对本发明作进一步详细的说明，其中
图1为本发明所述的深度网络模型；
图2为本发明所述的自适应L-BFGS算法；
图3为本发明所述的自适应调整记忆尺度个数的流程图。
具体实施方式
下面结合附图和具体实施例对本发明作进一步说明，以使本领域的技术人员可以更好地理解本发明并能予以实施，但所举实施例不作为对本发明的限定。
参照图1所示，为本发明的基于自适应L-BFGS算法的高光谱图像分类方法的流程图。本发明的分类方法包括如下步骤：
S10：数据预处理：
根据实际研究问题选取高光谱图像，其中，图像尺寸为X×Y×B，X和 Y是高光谱图像的空间尺寸，B是高光谱图像的光谱通道个数，高光谱图像的标签尺寸为X×Y，包含的高光谱像元类别个数为c。
获取高光谱图像的像元数据及对应的空间数据。具体的，针对每一个高光谱像元(共有X×Y个高光谱像元)，将其自身作为中心并选取其周围尺寸为s×s的邻域像元作为该像元的空间数据，空间数据的尺寸为1×s×s×B，对于边缘的高光谱像元，对缺失的数据进行补零操作。
在获取高光谱图像的数据之前，对高光谱图像进行归一化预处理操作，设置邻域滑动窗尺寸s，s为大于0的奇数。归一化预处理中取值范围在-1到 1之间，归一化公式如下：
Figure BDA0003503789890000071
其中xmin表示高光谱像元数据中最小值，xmax表示高光谱像元数据中最大值，x表示原始数据，x′表示经过归一化之后的结果。
将全部X×Y个尺寸为1×s×s×B的空间数据作为输入样本一，将全部X×Y个尺寸为1×B的高光谱像元作为输入样本二，即输入样本一为空间数据集，输入样本二为像元数据集。其中输入样本一和输入样本二的个数相同，且一一对应，同一位置的输入样本二是输入样本一的中心。
将全部X×Y个输入样本一和全部X×Y个输入样本二分别进行打乱，并选取部分输入样本一和输入样本二作为训练样本一和训练样本二。本实施例中，打乱顺序相同，以保证空间数据与像元数据始终一一对应。且具体选取序号处于前30％的样本，若X×Y×30％不是整数，则将其进行四舍五入操作。在本发明的其他实施例中，还可以选取其他数量的样本。
S20：构建深度网络模型：
本发明的深度网络模型包括空间特征提取模块一、空间特征提取模块二、光谱特征提取模块和分类模块。
空间特征提取模块一由m个二维卷积层组成，卷积核尺寸均为k×k，卷积核个数均为d，步长均为1，填充模型均为相同，保证卷积操作前后只改变卷积通道个数，不改变其他尺寸。空间特征提取模块一经卷积层计算得到最终输出为Output1。将输出Output1进行平均池化操作，即对其第二维和第三维进行平均值计算处理，最终得到尺寸为1×d的第一输出：
Figure BDA0003503789890000081
空间特征提取模块二由m个长短期记忆网络层组成，节点个数均为d，空间特征提取模块二经长短期记忆网络层计算得到最终输出为Output2。输出 Output2经平均池化操作，即对其第二维进行平均值计算处理，最终得到尺寸为1×d的第二输出：
Figure BDA0003503789890000082
光谱特征提取模块由a个全连接层组成，节点个数均为d。光谱特征提取模块经全连接层计算得到尺寸为1×d的第三输出：Output3。
将空间特征与光谱特征进行融合，即对
Figure BDA0003503789890000083
和Output3依据如下公式进行拼接：
Figure BDA0003503789890000084
其中，Concat(·)为拼接操作，将三者在第二个维度上进行拼接，得到尺寸为1 ×3d的输出Feature。
将拼接得到的Feature输入分类模块，分类模块由n个全连接层组成，前 n-1层节点个数均为d，第n层节点个数为像元类别个数c。分类模块经全连接层计算得到第四输出：Output，其尺寸为1×c。
进一步的，本实施例中，分类模块中网络层个数为n，网络中分类模块最后一层的激活函数为Sigmoid激活函数，其他网络层使用的激活函数均为Tanh 激活函数。Sigmoid激活函数计算公式为：
Figure BDA0003503789890000085
Tanh激活函数计算公式为：
Figure BDA0003503789890000086
S30：训练网络模型：
每次从训练样本一和训练样本二中选取小批量训练样本一和小批量训练样本二，将小批量训练样本一作为空间特征提取模块一、将小批量训练样本一进行变换作为空间特征提取模块二、将小批量训练样本二作为光谱特征提取模块输入到步骤S20的深度网络模型中，得到全部输出为：
Figure BDA0003503789890000091
 Output3以及Output。根据上述输出能够计算损失函数L；
损失函数的计算公式为：L＝Lcls+LKL1+LKL2+LKL3，其中
Lcls＝CrossEntropy(Output，l)
Figure BDA0003503789890000092
Figure BDA0003503789890000093
Figure BDA0003503789890000094
∑(·)为将括号内的内容全部加在一起，l是样本标签的独热码，尺寸为1× c，其中只有一个位置数值为1，其他位置数值均为0。Lcls利用交叉熵计算最终分类精度，LKL1利用光谱角距离计算
Figure BDA0003503789890000095
和Output3之间的光谱相似性， LKL2利用光谱角距离计算
Figure BDA0003503789890000096
和Output3之间的光谱相似性，LKL3利用光谱角距离计算
Figure BDA0003503789890000097
和
Figure BDA0003503789890000098
之间的光谱相似性。进一步的，交叉熵的计算公式为：CrossEntropy(x，y)＝-[xlog(y)+(1-x)log(1-y)]。
利用L-BFGS算法，对网络参数进行训练，直至网络收敛即损失函数L 的值下降得很慢趋于平稳。
具体的，针对L-BFGS算法，本实施例中，设置随机初始化深度网络模型中的参数为x0，最大迭代次数为N，选择区间的上界M自适应变化的初值为M0。
通过前向传播和反向传播计算损失函数L的梯度gt、st和yt；其中，
Figure BDA0003503789890000099
 st＝xt-xt-1，yt＝gt-gt-1。
预测下次的记忆尺度的平均值
Figure BDA00035037898900000910
Figure BDA00035037898900000911
其中，
Figure BDA00035037898900000912
表示 t-1时刻所选K*个记忆尺度的平均值，
Figure BDA00035037898900000913
表示预测的前一时刻记忆尺度的平均值，α∈(0，1)。根据公式调整选择区间的上界M，
Figure BDA0003503789890000101
调整候选区间{1,2,...,M}的上界。其中， c1∈(0,1)，
Figure BDA0003503789890000102
d是提前设定的一个常数，Mt-1是t-1时刻候选区间的上界。
计算γt和ωt并更新向量对
Figure BDA0003503789890000103
其中
Figure BDA0003503789890000104
计算每一个em(m＝1，…，M)，并将他们按照升序排列；得到
Figure BDA0003503789890000105
其中，
Figure BDA0003503789890000106
Hm,2是由向量对(γM-m,ωM-m),...,(γM-2,ωM-2)计算得到的拟牛顿矩阵。
训练过程中，根据选择标准确定出K*个记忆尺度mi(i＝1，…，K*)，其中，K*＝argmin1≤K≤M{QK}，
Figure BDA0003503789890000107
Figure BDA0003503789890000108
由于K*是非固定值，从而记忆尺度的选择能够自适应变化，解决了传统L-BFGS中固定数量记忆尺度所带来的问题。根据所选的记忆尺度
Figure BDA0003503789890000109
计算出K*个方向
Figure BDA00035037898900001010
并计算记忆尺度的平均值
Figure BDA00035037898900001011
计算混合方向
Figure BDA00035037898900001012
并以此作为搜索方向。
根据公式
Figure BDA00035037898900001013
和
Figure BDA00035037898900001014
计算出步长μt，即学习率。进而根据公式xt+1＝xt+μt⊙dt更新深度网络模型中的参数。其中，β是衰减率，通常取0.9。η是初始步长，例如0.001。ε是很小的常数，用来保证数值稳定性的，通常取10-6到10-8。
若随着迭代次数的增加，损失函数L的值下降得很慢趋于平稳即网络收敛，并且迭代次数达到设定的最大迭代次数N，则训练结束；否则，令t＝t+1，再次从训练样本一和训练样本二中随机不重复的选取小批量训练样本一和小批量训练样本二继续训练。
S40：生成分类结果：
深度网络模型最后一层为分类模块，具体为用于分类的激活函数sigmoid，因此深度网络模型的输出即为类别标签，故基于训练好的深度网络模型，将输入样本一和输入样本二进行输入，得到所有高光谱像元的类别标签。
具体的，采用印第安纳州森林数据集为例。该数据集尺寸为145×145× 200，共包含21025个像元，每个像元包含200个光谱波长，整个数据集共含有17个类别，其中包含16个有效类别和1个噪声类别。在移除属于噪声类别的像元后，共包含10366个像元，移除的噪声类别像元仍然用于下述构建空间数据步骤中，仅在构建完全部输入样本后移除。深度网络结构如图1所示：
输入：输入大小为145×145×200的高光谱图像和大小为145×145的标签。
输出：像元的类别。
参数设定：邻域尺寸为5，空间特征提取模块一、空间特征提取模块二和光谱特征提取模块中网络层个数均为3，分类模块中网络层个数为3，子空间维数为40。
(一)进行空间数据选择
针对每一像元，得到大小为1×5×5×200的空间数据作为输入样本一，将大小为1×200的像元作为输入样本二，将此输入样本一和输入样本二合称为输入样本，将输入样本输入到深度网络模型中进行训练。
(二)训练此网络
将全部10366个输入样本进行打乱，选择序号处于前30％的输入样本作为训练样本，其中训练样本包括一个训练样本一和一个训练样本二。令小批量像元个数为512，每次训练只选用512个训练样本组成小批量训练样本。利用512个小批量训练样本作为深度网络模型的输入，通过自适应L-BFGS算法对深度网络模型进行训练，训练结束后，得到优化的深度网络模型。
(三)图像分类
将全部10366样本输入训练完成的深度网络模型进行测试，得到尺寸为 10366×1的像元标签，即为高光谱图像像元的分类。
本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
显然，上述实施例仅仅是为清楚地说明所作的举例，并非对实施方式的限定。步骤序号也并非对步骤顺序的限定。对于所属领域的普通技术人员来说，在上述说明的基础上还可以做出其它不同形式变化或变动。这里无需也无法对所有的实施方式予以穷举。而由此所引伸出的显而易见的变化或变动仍处于本发明创造的保护范围之中。

Claims (10)

1.基于自适应L-BFGS算法的高光谱图像分类方法，其特征在于，包括如下步骤：
S10：数据预处理：
获取高光谱图像的像元数据及对应的空间数据形成输入样本二和输入样本一；
将输入样本一和输入样本二分别打乱，从每个输入样本中抽取部分形成训练样本一和训练样本二；
S20：构建深度网络模型：
深度网络模型包括空间特征提取模块一、空间特征提取模块二、光谱特征提取模块和分类模块，利用卷积层和长短期记忆网络层分别对空间特征提取模块一、空间特征提取模块二处理得到第一输出和第二输出，利用全连接层对光谱特征提取模块处理得到第三输出，对输出结果进行融合；
将融合结果输入分类模块，得到第四输出；
S30：训练网络模型：
每次从训练样本一和训练样本二中选取小批量训练样本一和小批量训练样本二，将小批量训练样本一作为空间特征提取模块一、将小批量训练样本一进行变换作为空间特征提取模块二、将小批量训练样本二作为光谱特征提取模块输入到步骤S20的深度网络模型中，得到全部输出，并根据上述输出计算损失函数L；
利用L-BFGS算法，对网络参数进行训练，直至网络收敛；训练过程中，自适应选择K*个记忆尺度，其中K*＝argmin1≤K≤M{QK}，
Figure FDA0003503789880000021
S40：生成分类结果：
基于训练好的深度网络模型，将输入样本一和输入样本二进行输入，得到所有高光谱像元的类别标签。
2.根据权利要求1所述的基于自适应L-BFGS算法的高光谱图像分类方法，其特征在于：训练过程中，根据K*个记忆尺度，计算出K*个方向
Figure FDA0003503789880000022
并以混合方向
Figure FDA0003503789880000026
作为搜索方向。
3.根据权利要求2所述的基于自适应L-BFGS算法的高光谱图像分类方法，其特征在于：训练过程中，深度网络模型中的参数根据下式进行更新：
xt+1＝xt+μt⊙dt
其中，μt为步长即学习率，
Figure FDA0003503789880000023
且
Figure FDA0003503789880000024
β是衰减率，η是初始步长，ε是常数。
4.根据权利要求1所述的基于自适应L-BFGS算法的高光谱图像分类方法，其特征在于：对步骤S10中的高光谱图像进行归一化预处理，且归一化预处理中取值范围在-1到1之间，归一化公式如下：
Figure FDA0003503789880000025
其中xmin表示高光谱像元数据中最小值，xmax表示高光谱像元数据中最大值。
5.根据权利要求1所述的基于自适应L-BFGS算法的高光谱图像分类方法，其特征在于：分类模块中网络层个数为n，网络中分类模块最后一层的激活函数为Sigmoid激活函数，其他网络层使用的激活函数均为Tanh激活函数。
6.根据权利要求5所述的基于自适应L-BFGS算法的高光谱图像分类方法，其特征在于：Sigmoid激活函数计算公式为：
Figure FDA0003503789880000031
Tanh激活函数计算公式为：
Figure FDA0003503789880000032
7.根据权利要求1所述的基于自适应L-BFGS算法的高光谱图像分类方法，其特征在于：损失函数的计算公式为：L＝Lcls+LKL1+LKL2+LKL3，其中
Lcls＝CrossEntropy(Output，l)
Figure FDA0003503789880000033
Figure FDA0003503789880000034
Figure FDA0003503789880000035
∑(·)为将括号内的内容全部加在一起，l是样本标签的独热码，尺寸为1×c，其中只有一个位置数值为1，其他位置数值均为0，Lcls利用交叉熵计算最终分类精度，LKL1利用光谱角距离计算第一输出和第三输出之间的光谱相似性，LKL2利用光谱角距离计算第二输出和第三输出之间的光谱相似性，LKL3利用光谱角距离计算第一输出和第二输出之间的光谱相似性。
8.根据权利要求7所述的基于自适应L-BFGS算法的高光谱图像分类方法，其特征在于：交叉熵的计算公式为：
CrossEntropy(x，y)＝-[xlog(y)+(1-x)log(1-y)]。
9.根据权利要求1所述的基于自适应L-BFGS算法的高光谱图像分类方法，其特征在于：步骤S10中，针对每一个高光谱像元，将其自身作为中心并选取其周围尺寸为s×s的邻域像元作为该像元的空间数据，对于边缘的高光谱像元，对缺失的数据进行补零操作。
10.根据权利要求1所述的基于自适应L-BFGS算法的高光谱图像分类方法，其特征在于：步骤S10中，将输入样本一和输入样本二按照相同的顺序进行打乱，并选取序号处于前30％的输入样本一和输入样本二作为训练样本一和训练样本二，若X×Y×30％不是整数，则将其进行四舍五入操作。
CN202210133932.8A 2022-02-14 2022-02-14 基于自适应l-bfgs算法的高光谱图像分类方法 Pending CN115937565A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210133932.8A CN115937565A (zh) 2022-02-14 2022-02-14 基于自适应l-bfgs算法的高光谱图像分类方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210133932.8A CN115937565A (zh) 2022-02-14 2022-02-14 基于自适应l-bfgs算法的高光谱图像分类方法

Publications (1)

Publication Number Publication Date
CN115937565A true CN115937565A (zh) 2023-04-07

Family

ID=86699624

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210133932.8A Pending CN115937565A (zh) 2022-02-14 2022-02-14 基于自适应l-bfgs算法的高光谱图像分类方法

Country Status (1)

Country Link
CN (1) CN115937565A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116844065A (zh) * 2023-06-29 2023-10-03 中交天航南方交通建设有限公司 一种基于gis的航道清淤智能识别管理方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116844065A (zh) * 2023-06-29 2023-10-03 中交天航南方交通建设有限公司 一种基于gis的航道清淤智能识别管理方法

Similar Documents

Publication Publication Date Title
CN107945204B (zh) 一种基于生成对抗网络的像素级人像抠图方法
CN110119728B (zh) 基于多尺度融合语义分割网络的遥感图像云检测方法
CN109584248B (zh) 基于特征融合和稠密连接网络的红外面目标实例分割方法
CN110443143B (zh) 多分支卷积神经网络融合的遥感图像场景分类方法
CN109614985B (zh) 一种基于密集连接特征金字塔网络的目标检测方法
CN109886066B (zh) 基于多尺度和多层特征融合的快速目标检测方法
CN109784283B (zh) 基于场景识别任务下的遥感图像目标提取方法
CN110533631A (zh) 基于金字塔池化孪生网络的sar图像变化检测方法
CN111126258A (zh) 图像识别方法及相关装置
CN113780296A (zh) 基于多尺度信息融合的遥感图像语义分割方法及系统
KR20200095336A (ko) 고 정밀도로 이미지를 분석하기 위한 딥 러닝 네트워크를 사용하기 위해 트레이닝 이미지를 오토 라벨링하는 오토 라벨링 장치의 하이퍼파라미터를 최적화하는 방법 및 이를 이용한 최적화 장치
CN112149547A (zh) 基于图像金字塔引导和像素对匹配的遥感影像水体识别
CN111160407A (zh) 一种深度学习目标检测方法及系统
CN110245620B (zh) 一种基于注意力的非最大化抑制方法
CN112950780B (zh) 一种基于遥感影像的网络地图智能生成方法及系统
CN114359526A (zh) 基于语义gan的跨域图像风格迁移方法
CN111783779A (zh) 图像处理方法、装置和计算机可读存储介质
CN112330684A (zh) 对象分割方法、装置、计算机设备及存储介质
CN113870157A (zh) 一种基于CycleGAN的SAR图像合成方法
CN114511710A (zh) 一种基于卷积神经网络的图像目标检测方法
CN111915618A (zh) 基于峰值响应增强的实例分割算法、计算设备
US11367206B2 (en) Edge-guided ranking loss for monocular depth prediction
CN111079807A (zh) 一种地物分类方法及装置
CN115937565A (zh) 基于自适应l-bfgs算法的高光谱图像分类方法
CN117635418A (zh) 生成对抗网络的训练方法、双向图像风格转换方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination