CN107133633A - 基于超限学习机和置信度传播的高光谱图像分类的算法 - Google Patents

基于超限学习机和置信度传播的高光谱图像分类的算法 Download PDF

Info

Publication number
CN107133633A
CN107133633A CN201710160986.2A CN201710160986A CN107133633A CN 107133633 A CN107133633 A CN 107133633A CN 201710160986 A CN201710160986 A CN 201710160986A CN 107133633 A CN107133633 A CN 107133633A
Authority
CN
China
Prior art keywords
learning machine
algorithm
spectral data
classification
spectral
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201710160986.2A
Other languages
English (en)
Inventor
曹发贤
杨志景
蒋梦莹
陈尉钊
李特权
凌永权
蔡念
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong University of Technology
Original Assignee
Guangdong University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong University of Technology filed Critical Guangdong University of Technology
Priority to CN201710160986.2A priority Critical patent/CN107133633A/zh
Publication of CN107133633A publication Critical patent/CN107133633A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Analysis (AREA)

Abstract

目前有许多的算法用于解决高光谱图像分类问题，比如支持向量机，k近邻法，奇异谱分析，主成分分析法和利用光谱信息和空间信息进行高光谱图像分类等等，然而在高光谱图像分类问题上还是存在许多的挑战，比如高光谱的每个像素点的数据结构非常复杂，数据维度非常大，在有限的样本情况下实现高精度的分类和在时间耗费比较少的时间要寻找最优的参数显的非常困难，因此，本发明提出了一种基于超限学习机和置信度传播的高光谱图像分类的算法，提供一种既能提高高光谱图像的分类精度，又能保持比较少的时间的耗费寻找最优的参数的算法，并且本发明不仅利用高光谱数据的光谱信息，又利用它的空间信息进行高精度的分类。

Description

基于超限学习机和置信度传播的高光谱图像分类的算法
技术领域
本发明涉及一种算法用于解决高光谱图像分类问题，特别涉及一种通过利用高光谱图像的光谱信息和空间信息来进行高光谱图像的分类。
背景技术
高光谱图像分类问题一直是作为高光谱图像的基础研究，它一直是高光谱图像重要的信息获取手段，高光谱图像分类的主要目标是根据待测地物的空间的光谱信息和空间将图像中的每个像素划分为不同的类别。对于高光谱图像而言，它的每个像素点有许许多多的光带，并且高光谱图像的标签的样本有限。因此在有限的样本和每个像素点有着很高维度的光谱分辨率的情况下进行高光谱图像分类，这给高光谱图像分类算法提出了非常严峻的挑战。目前有许许多多的算法用于解决高光谱图像分类问题，比如支持向量机，k近邻法，奇异谱分析，主成分分析法和利用光谱信息和空间信息进行高光谱图像分类等等，虽然这些算法都取得了比较好的效果，然而在高光谱图像分类问题上还是存在许许多多的挑战，比如高光谱的每个像素点的数据结构非常复杂，数据维度非常大，在有限的样本情况下实现高精度的分类和在时间耗费比较少的时间要寻找最优的参数显的非常困难，所以既要实现高精度的分类又要减少时间的消耗是一个很大的挑战，因此，我们提出在有限的训练样本的情况下，我们提出了一种新的算法，这种算法结合高光谱数据的光谱信息和空间信息进行高光谱图像的分类，也就是利用超限学习机和置信度传播进行高光谱图像分类。
发明内容
本发明的目的在于克服现有技术的缺点与不足，提供一种既能提高高光谱图像的分类精度，又能保持比较少的时间的耗费寻找最优的参数的算法，并且本发明不仅利用高光谱数据的光谱信息，又利用它的空间信息进行高精度的分类。
作为一个单隐层的前馈型神经网络，超限学习机由于以下优点获得了广泛的关注：(1)它相对于支持向量机和其他目前的算法而言有着非常简单的结构和良好的推广性能。(2)它有着非常高的计算效率可以大大的减少计算代价。(3)一旦网络结构被确定以后并不需要调节额外的参数。(4)许许多多的分段连续函数可以作为其隐藏节点的激活函数，比如径向基函数，正弦函数，sigmoid函数等等。虽然超限学习机有着这么多的优点，但是它还是有一些缺点，比如分类精度并不太高，因此，既要维持比较高的分类精度又要维持快速的分类速度对于高光谱图像分类而言仍然是一个非常大的挑战。
超限学习机的分类精度之所以那么低，主要原因是它在仅仅利用了高光谱数据的光谱信息，而没有利用高光谱图像的本身具有的空间信息，因此这对高光谱数据本身可以利用的有限的资源是巨大的浪费。
置信度传播是一种利用样本空间的信息的迭代算法，如果一个标签样本属于一类，那么它的相邻样本属于这一类的概率就比较大，置信度传播就是利用这种原理，很好的利用空间信息进行分类。
为了很好的利用高光谱数据的光谱信息和空间信息，我们提出了组合超限学习机和置信度传播的算法进行高光谱图像的分类。
本发明的目的通过下述技术方案实现的：
步骤一：首先对于高光谱数据，为了方便性,我们对其进行归一化，让高光谱数据集的取值范围在0到1之间：
其中xij表示高光谱数据集中的一个数据，max()表示高光谱数据集中最大的那个数据。归一化以后，我们就可以进行第二个步骤。
步骤二：高光谱数据它的每个像素点有着许许多多的光谱特征，因此可以把高光谱数据的每个像素点看成是一个二维的曲线。在高光谱数据进行归一化以后，抽取训练样本，然后将训练样本作为超限学习机的输入对超限学习机进行训练，训练完以后保存超限学习机的参数。
步骤三：训练完超限学习机以后将所有的高光谱数据的样本作为超限学习机的输入进行分类。
步骤四：在超限学习机分类完以后，超限学习机会有一个输出矩阵，将此矩阵作为置信度传播的输入，由置信度传播利用训练样本和高光谱数据的空间信息进行进一步的分类。这样既利用了高光谱图像的光谱信息，又利用了高光谱图像的空间信息，在维持算法的高速性时，又能大大的提升高光谱图像的分类精度。
本发明相对于现有技术具有如下的优点及效果：
本发明对于现有技术而言，这是首次利用超限学习机把高光谱的数据集的像素点的光谱特特征进行分类，然后把超限学习机分类后的结果作为置信度传播的输入，利用高光谱数据本身的空间信息进行分类。
本发明不仅维持了算法的高速性，而且提升了高光谱数据集的分类精度。
本发明相对现有技术而言，不仅利用了高光谱图像的光谱信息，还利用了高光谱数据集的空间信息，实现高光谱图像的高精度的分类。
附图说明
图1是超限学习机的原理；
图2是马尔科夫随机场的图例；
图3置信度传播的原理表示；
图4本发明的完整原理方框图。
具体实施方式
下面结合实施例及附图对本发明作进一步详细的描述，但本发明的实施方式不限于此。
具体实施方式：
步骤一：假定x≡(x1,x2,…,xN)∈RN×L为高光谱数据集中的像素点，高光谱数据集有N个像素点，每个像素点有L个光谱特征，归一化是将高光谱数据集中的所有数据的数值范围保持在[0,1]之间，既以下公式：
其中xij表示高光谱数据集中的一个数据，max()表示高光谱数据集中最大的那个数据。
步骤二：在高光谱数据集进行归一化以后那么接下来就可以利用超限学习机对归一化后的高光谱数据集的像素点的光谱特征进行分类。
训练样本的抽取：
首先将归一化的高光谱数据集中的每一类样本随机抽取一部分(每一类可以抽取百分之五，或者百分之十，百分之十五等等都可以)，抽取好之后将这些样本放进超限学习机利用光谱特征进行分类。
训练超限学习机：
在训练样本抽取完以后，如图1所示，超限学习机它有三层，首先随机产生隐层节点的权重ai和偏置bi，用这些抽取的训练样本作为输入，那么隐层矩阵可以由下式所得：
其中g为激活函数。
隐层矩阵形成后接下里就可以计算输出矩阵：
其中 表示伪逆。
超限学习机训练完以后，保存超限学习机的参数。
步骤三：利用超限学习机进行分类：
在超限学习机训练完以后，将归一化高光谱数据集的所有像素点作为超限学习机的输入进行分类。
步骤四：在超限学习机利用高光谱数据的光谱特征分类完以后，超限学习机会有一份输出矩阵，把这个矩阵作为置信度传播的输入。
假定xi表示给定的输入，yi表示所期望的输出，那么在给定的输入情况下通过最大化后验概率来估计所输出的结果：
如图2所示，置信度传播算法利用结点与结点之间相互传递信息而更新当前整个马尔科夫随机场的标记状态，是基于MRF的一种近似计算。置信度传播利用空间信息进行分类就是通过最大化后验概率。ψij(yi,yj)＝p((yi,yj)表示相互作用势，也就是说如果相邻的样本不属于同一类进行的惩罚(这是一个概率值)。表示在给定的输入xi的情况下为yi的概率。
如图3所示，在第t次迭代过程中，从第i个节点传递到它相邻的节点j处的信息可由下式表示：
假定表示在第t次迭代过程中节点i的置信度，那么
那么最终节点i最终的后验概率的解为
因此所有的高光谱数据集最后被分类，此方法不仅大大本发明不仅维持了算法的高速性，而且提升了高光谱数据集的分类精度。本发明相对现有技术而言，不仅利用了高光谱图像的光谱信息，还利用了高光谱数据集的空间信息，实现高光谱图像的高精度的分类。
如图4所示，此即为本发明的完整框架。上述实施例为本发明较佳的实施方式，但本发明的实施方式并不受上述实施例的限制，其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化，均应为等效的置换方式，都包含在本发明的保护范围之内。

Claims (3)

1.一种基于超限学习机和置信度传播的高光谱图像分类的算法，包括如下步骤：步骤一：对于高光谱数据进行归一化；
步骤二：在高光谱数据进行归一化以后，抽取训练样本，然后将训练样本作为超限学习机的输入对超限学习机进行训练，训练完以后保存超限学习机的参数；
步骤三：训练完超限学习机以后将所有的高光谱数据的样本作为超限学习机的输入进行分类；
步骤四：在超限学习机分类完以后，超限学习机会有一个输出矩阵，将此矩阵作为置信度传播的输入，由置信度传播利用训练样本和高光谱数据的空间信息进行进一步的分类。
2.根据权利要求1所述的基于超限学习机和置信度传播的高光谱图像分类的算法，其特征在于：所述的步骤一具体为：假定x≡(x1,x2,...,xN)∈RN×L为高光谱数据集中的像素点，高光谱数据集有N个像素点，每个像素点有L个光谱特征归一化是将高光谱数据集的取值范围在0到1之间：
其中xij表示高光谱数据集中的一个数据，max()表示高光谱数据集中最大的那个数据。
3.根据权利要求1所述的基于超限学习机和置信度传播的高光谱图像分类的算法，其特征在于：所述步骤四具体为：假定xi表示给定的输入，yi表示所期望的输出，那么在给定的输入情况下通过最大化后验概率来估计所输出的结果：
q(yi/x)是指概率p(y/x)关于yi的边缘密度。
CN201710160986.2A 2017-03-17 2017-03-17 基于超限学习机和置信度传播的高光谱图像分类的算法 Pending CN107133633A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710160986.2A CN107133633A (zh) 2017-03-17 2017-03-17 基于超限学习机和置信度传播的高光谱图像分类的算法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710160986.2A CN107133633A (zh) 2017-03-17 2017-03-17 基于超限学习机和置信度传播的高光谱图像分类的算法

Publications (1)

Publication Number Publication Date
CN107133633A true CN107133633A (zh) 2017-09-05

Family

ID=59721134

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710160986.2A Pending CN107133633A (zh) 2017-03-17 2017-03-17 基于超限学习机和置信度传播的高光谱图像分类的算法

Country Status (1)

Country Link
CN (1) CN107133633A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109522918A (zh) * 2018-09-14 2019-03-26 广东工业大学 基于改进的局部奇异谱分析的高光谱图像特征提取方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106228186A (zh) * 2016-07-20 2016-12-14 湖南大学 高光谱图像分类装置与方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106228186A (zh) * 2016-07-20 2016-12-14 湖南大学 高光谱图像分类装置与方法

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
（美）CHARU C.AGGARWAL著: "《社会网络数据分析》", 31 December 2016 *
BHARATH BHUSHAN DAMODARAN等，: "Dynamic Ensemble Selection Approach for Hyperspectral Image Classification With Joint Spectral and Spatial Information", 《IEEE JOURNAL OF SELECTED TOPICS IN APPLIED EARTH OBSERVATIONS AND REMOTE SENSING》 *
FABIO REMONDINO 等 著: "《飞行时间测距成像相机》", 31 August 2016 *
JUN LI等: "Spectral–Spatial Classification of Hyperspectral Data Using Loopy Belief Propagation and Active Learning", 《IEEE TRANSACTIONS ON GEOSCIENCE AND REMOTE SENSING》 *
博古斯拉夫·赛干内克 等 著: "《三维计算机视觉技术和算法导论》", 31 October 2014 *
徐光延著: "《长寿卫星编队飞行理论基础》", 31 August 2015 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109522918A (zh) * 2018-09-14 2019-03-26 广东工业大学 基于改进的局部奇异谱分析的高光谱图像特征提取方法
CN109522918B (zh) * 2018-09-14 2020-05-05 广东工业大学 基于改进的局部奇异谱分析的高光谱图像特征提取方法

Similar Documents

Publication Publication Date Title
Yue et al. A deep learning framework for hyperspectral image classification using spatial pyramid pooling
CN111368896B (zh) 基于密集残差三维卷积神经网络的高光谱遥感图像分类方法
CN110059710B (zh) 用于利用卷积神经网络进行图像分类的装置和方法
CN108038445B (zh) 一种基于多视角深度学习框架的sar自动目标识别方法
CN110245655B (zh) 一种基于轻量级图像金字塔网络的单阶段物体检测方法
CN108537192B (zh) 一种基于全卷积网络的遥感影像地表覆盖分类方法
CN108460391B (zh) 基于生成对抗网络的高光谱图像无监督特征提取方法
Luus et al. Multiview deep learning for land-use classification
CN103955702B (zh) 基于深度rbf网络的sar图像地物分类方法
CN111079795B (zh) 基于cnn的分片多尺度特征融合的图像分类方法
CN103927531B (zh) 一种基于局部二值和粒子群优化bp神经网络的人脸识别方法
CN103778432B (zh) 一种基于深信度网络的人车分类方法
CN110929602A (zh) 一种基于卷积神经网络的地基云图云状识别方法
CN103413151B (zh) 基于图正则低秩表示维数约简的高光谱图像分类方法
CN107025440A (zh) 一种基于新型卷积神经网络的遥感图像道路提取方法
CN111695467A (zh) 基于超像素样本扩充的空谱全卷积高光谱图像分类方法
CN106326899A (zh) 一种基于高光谱图像和深度学习算法的烟叶分级方法
Liu et al. Multi-view self-constructing graph convolutional networks with adaptive class weighting loss for semantic segmentation
CN107729993A (zh) 利用训练样本及折中度量的3d卷积神经网络构建方法
CN104517284A (zh) 基于深度置信网的极化sar图像分割
CN107122708A (zh) 基于卷积神经网络与超限学习机的高光谱图像分类算法
Yang et al. Local label descriptor for example based semantic image labeling
CN115049534A (zh) 基于知识蒸馏的鱼眼图像实时语义分割方法
Wang et al. Study on the method of transmission line foreign body detection based on deep learning
CN113837314A (zh) 一种基于混合卷积神经网络的高光谱图像分类方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20170905