CN107633264B - 基于空谱多特征极限学习的线性共识集成融合分类方法 - Google Patents

基于空谱多特征极限学习的线性共识集成融合分类方法 Download PDF

Info

Publication number
CN107633264B
CN107633264B CN201710782177.5A CN201710782177A CN107633264B CN 107633264 B CN107633264 B CN 107633264B CN 201710782177 A CN201710782177 A CN 201710782177A CN 107633264 B CN107633264 B CN 107633264B
Authority
CN
China
Prior art keywords
class
classification
features
feature
extreme learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710782177.5A
Other languages
English (en)
Other versions
CN107633264A (zh
Inventor
吴泽彬
刘玮
吕可歆
徐洋
韦志辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Science and Technology
Original Assignee
Nanjing University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Science and Technology filed Critical Nanjing University of Science and Technology
Priority to CN201710782177.5A priority Critical patent/CN107633264B/zh
Publication of CN107633264A publication Critical patent/CN107633264A/zh
Application granted granted Critical
Publication of CN107633264B publication Critical patent/CN107633264B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于空谱多特征极限学习的线性共识集成融合分类方法，包括以下步骤：提取高光谱图像的光谱特征、空间特征和几何结构特征；用条件类概率极限学习机作为分类器，分别处理光谱特征、空间特征和几何结构特征，各自得到一组分类标签以及概率分布；建立线性共识集成模型，分析不同特征得到的分类结果，得到最终分类结果。本发明利用多种光谱特征、空间特征和几何结构特征，定义条件类概率极限学习机作为分类器得到分类标签以及概率分布，最后建立线性共识集成融合模型，充分考虑不同特征对不同区域像元的作用，可以获得更好的分类结果。

Description

基于空谱多特征极限学习的线性共识集成融合分类方法
技术领域
本发明属于遥感图像处理领域，具体涉及一种基于空谱多特征极限学习的线性共识集成融合分类方法。
背景技术
高光谱图像分类是高光谱图像遥感的一个重要的应用方向。高光谱图像分类为每个象元分类一个类别标记，是一种描述地物种类的分析方法，其地物类别结果可以清晰的反映地物的空间分布，便于人们从中认识和发现规律。与传统遥感图像相比，高光谱图像分类有着以下难题：1)高维，训练样本不足；2)波段多，波段间的相关性高；3)类内差异明显；4)数据量大，往往是单波段遥感图像的几十倍甚至几百倍，处理复杂度高；5)混合象元问题。因此针对常规遥感的处理模型和方法不能满足高光谱图像分类的需要，需要针对高光谱要管图像的特点，在模式识别，人工智能，图像处理等技术的基础上，进一步发展高光谱遥感图像分类技术，进而有效探测和识别传统遥感中很难区分的地物类别。
近些年来，极限学习机(ELM)以其高计算效率和高泛化能力在高光谱分类中得到了广泛的应用。ELM是一个单隐层前馈神经网络(SLFN)，相比BP神经网络和SVM，更为简单和高效。黄广斌在2012年提出了核极限学习机(KELM)，使用一个核函数来代替ELM的隐层，从而不再需要在输入层和隐层随机分配连接权重，可以获得更好的分类效果和泛化能力。
ELM虽然已有很好的分类效果，但是它主要处理的还是光谱信息，而忽视了在高光谱图像分类中起很大作用的空间信息，为了克服这个缺陷，已有很多学者采用了特征提取和ELM结合的方法，该方法继承了ELM的优异高效的性能，首先在预处理阶段提取合适的特征，然后采用高效的ELM作为分类器，从而获得更好的分类效果。但是上述方法依然存在问题：1)随着模式识别和深度学习的快速发展，很多特征提取方法被成功地应用于普通图像领域。然而高光谱图像具有丰富的光谱和空间信息，如何提取合适的空谱特征很困难。2)在实际情况中，高光谱图像的可获得的标签样本数量是很少，因此训练样本在ELM中产生的训练模型并不能够很好的表示训练样本特征，从而影响之后的分类效果。
发明内容
本发明的目的在于提供一种基于空谱多特征极限学习的线性共识集成融合分类方法。
实现本发明目的的技术方案为：一种基于空谱多特征极限学习的线性共识集成融合分类方法，包括以下步骤：
步骤1，提取高光谱图像的光谱特征、空间特征和几何结构特征；
步骤2，用条件类概率极限学习机作为分类器，分别处理光谱特征、空间特征和几何结构特征，各自得到一组分类标签以及概率分布；
步骤3，建立线性共识集成模型，分析不同特征得到的分类结果，得到最终分类结果。
本发明与现有技术相比，其显著优点为：(1)本发明区别于传统ELM框架，定义了条件类概率极限学习机，以多种光谱特征，空间特征，几何结构特征作为先验，分别得到分类标签以及概率分类；(2)建立线性共识集成模型，充分考虑不同特征对不同区域像元的作用，可以获得更好的分类结果，在训练样本较少的时候结果也很好；(3)在条件类概率极限学习机框架中，本发明采用拓展形态学属性剖面(EMAP)来提取高光谱图像的结构特征，然后采用基于组合核的极限学习机方法来分类，使用组合核可以充分利用EMAP特征中得到的光谱特征和结构特征，对类边缘区域的像元分类效果更好。
附图说明
图1为本发明空谱多特征极限学习的线性共识集成融合方法流程图。
具体实施方式
结合图1，一种基于空谱多特征极限学习的线性共识集成融合分类方法，具体包括以下步骤：
步骤1，提取高光谱图像的光谱特征、空间特征和几何结构特征；
采用主成分分析提取高光谱图像的光谱特征，采用Gabor特征和局部二值模式提取高光谱图像的空间特征，采用拓展形态学属性提取高光谱图像的几何结构特征；主成分分析提取高光谱图像的前10个主成分就可以表示图像90％以上的光谱信息；Gabor特征描述图像对应于空间频率、空间位置及方向选择性的局部结构信息；LBP特征描述了高光谱图像局部区域的纹理方向和平滑性；拓展形态学分析可以很好的表示高光谱图像的几何结构信息，充分描述类边缘变化情况。
步骤2，用条件类概率极限学习机作为分类器，分别处理光谱特征、空间特征和几何结构特征，各自得到一组分类标签以及概率分布；
极限学习机是一种单隐层前馈神经网络，通过随机初始化输入权重和偏置并得到相应的输出。
设有N个不同的样本：X＝{x1,x2,…,xN|xi∈RD,i＝1,2,…,N}，Y＝{y1,y2,…,yN|yi∈RL,i＝1,2,…,N}，其中D为光谱维度，L为类别数，xi为样本特征，yi为xi属于的类别；
令P为隐层节点数，极限学习机的表达式如下：
Figure BDA0001397224230000031
其中，g(x)为激活函数，ωj和βj分别是输入权重和输出权重，bj为隐层偏置。
公式(1)可以简写为：
H·β＝Y (2)
其中
Figure BDA0001397224230000032
根据标准最小范数最小二乘法，公式(2)的解为
Figure BDA0001397224230000033
其中
Figure BDA0001397224230000034
是H的Moore-Penrose广义逆矩阵，H＝HT(HHT)-1。为了更好的稳定性和泛化能力，将一个正数
Figure BDA0001397224230000035
加到矩阵HHT每一个对角元素上，I为单位矩阵，所以ELM分类器的输出函数
Figure BDA0001397224230000036
ELM中，特征映射用户通常是不知道的，如果用户不知道特征映射，ELM的核矩阵可以如下定义：
g(xq)·g(xt)＝K(xq,xt) (4)
xq和xt是训练集中两个样本，K(xq,xt)是核矩阵；
最后，KELM的输出函数可以写为
Figure BDA0001397224230000041
其中，
Figure BDA0001397224230000042
表示所有样本之间的核矩阵。
输入数据的标签由输出结点最大值的标签决定。
基于传统的极限学习机模型，为了可以获得每个样本的分类概率，本发明提出一种条件类概率极限学习机，条件类概率极限学习机的形式为
Figure BDA0001397224230000043
其中，P(m|x)为样本x被分类到类别m的概率输出，fm(x)为极限学习机对于样本x属于类别m的输出函数，Am和Bm是极限学习机对于类别m的参数估计，是通过验证数据的最小化交叉熵误差获得的，需要注意的是Am是负数。
对其进行归一化得到数学意义上输入样本x归属于类别m的概率，记为pm(x)。
Figure BDA0001397224230000044
从而得到条件类概率极限学习机的硬判决输出
Figure BDA0001397224230000045
针对步骤2得到k组空间特征和几何结构特征，采用k个条件类概率极限学习机进行分类，分别得到样本x属于的标签，样本x属于类别m的概率pmn(x)，n＝1,2,…,k，以及类别m的分类精度λmn。
步骤3，通过步骤2得到的k组分类结果和类概率结果，建立线性共识集成融合模型，分析得到最终的分类结果。
线性共识模型为：
Figure BDA0001397224230000046
其中pmn(x)是输入样本x在第n个ELM中被分类到类别m的概率，λmn是第n个ELM中类别m的分类精度，作为分类权重，Tm(x)是输入样本x属于类别m的可能性；
最终输入样本x属于类的判别公式为：
Figure BDA0001397224230000051

Claims (3)

1.一种基于空谱多特征极限学习的线性共识集成融合分类方法，其特征在于，包括以下步骤：
步骤1，串并行结合地提取高光谱图像的光谱特征、空间特征和几何结构特征，采用PCA方法对原始的高光谱数据进行降维处理，然后进而在降维数据上并行化提取光谱特征、空间特征和几何结构这些多层次特征；
步骤2，用条件类概率极限学习机作为分类器，分别处理光谱特征、空间特征和几何结构特征，各自得到一组分类标签以及概率分布；
步骤3，建立线性共识集成模型，分析不同特征得到的分类结果，得到最终分类结果；
极限学习机是一种单隐层前馈神经网络，通过随机初始化输入权重和偏置并得到相应的输出；
设有N个不同的样本：X＝{x1,x2,L,xN|xi∈RD,i＝1,2,L,N}，Y＝{y1,y2,L,yN|yi∈RL,i＝1,2,L，N}，其中D为光谱维度，L为类别数，xi为样本特征，yi为xi属于的类别；
令P为隐层节点数，极限学习机的表达式如下：
Figure FDA0003104806490000011
其中，g(x)为激活函数，ωj和βj分别为输入权重和输出权重，bj为隐层偏置；
将公式(1)简写为：
H·β＝Y (2)
其中，
Figure FDA0003104806490000012
根据标准最小范数最小二乘法，公式(2)的解为
Figure FDA0003104806490000013
其中
Figure FDA0003104806490000014
为H的Moore-Penrose广义逆矩阵，H＝HT(HHT)-1；将一个正数
Figure FDA0003104806490000015
加到矩阵HHT每一个对角元素上，I为单位矩阵，ELM分类器的输出函数为：
Figure FDA0003104806490000021
ELM的核矩阵定义如下：
g(xq)·g(xt)＝K(xq,xt) (4)
xq和xt是训练集中两个样本，K(xq,xt)是核矩阵；
KELM的输出函数为：
Figure FDA0003104806490000022
其中，
Figure FDA0003104806490000023
表示所有样本之间的核矩阵；
条件类概率极限学习机的形式为：
Figure FDA0003104806490000024
其中，P(m|x)为样本x被分类到类别m的概率输出，fm(x)为极限学习机对于样本x属于类别m的输出函数，Am和Bm为极限学习机对于类别m的参数估计，其中Am为负数；
对P(m|x)进行归一化得到数学意义上输入样本x归属于类别m的概率，记为pm(x)：
Figure FDA0003104806490000025
从而得到条件类概率极限学习机的硬判决输出
Figure FDA0003104806490000026
对上述得到的k组空间特征和几何结构特征，采用k个条件类概率极限学习机进行分类，分别得到样本x属于的标签，样本x属于类别m的概率pmn(x)，n＝1,2,L,k，以及类别m的分类精度λmn。
2.根据权利要求1所述的基于空谱多特征极限学习的线性共识集成融合分类方法，其特征在于，步骤1采用主成分分析提取高光谱图像的光谱特征，采用Gabor特征和局部二值模式提取高光谱图像的空间特征，采用拓展形态学属性提取高光谱图像的几何结构特征。
3.根据权利要求1所述的基于空谱多特征极限学习的线性共识集成融合分类方法，其特征在于，通过步骤2得到的k组分类结果和类概率结果，建立线性共识集成融合模型，分析得到最终的分类结果；
线性共识集成融合模型为：
Figure FDA0003104806490000031
其中pmn(x)是输入样本x在第n个ELM中被分类到类别m的概率，λmn是第n个ELM中类别m的分类精度，作为分类权重，Tm(x)是输入样本x属于类别m的可能性；
最终输入样本x属于类的判别公式为：
Figure FDA0003104806490000032
CN201710782177.5A 2017-09-02 2017-09-02 基于空谱多特征极限学习的线性共识集成融合分类方法 Active CN107633264B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710782177.5A CN107633264B (zh) 2017-09-02 2017-09-02 基于空谱多特征极限学习的线性共识集成融合分类方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710782177.5A CN107633264B (zh) 2017-09-02 2017-09-02 基于空谱多特征极限学习的线性共识集成融合分类方法

Publications (2)

Publication Number Publication Date
CN107633264A CN107633264A (zh) 2018-01-26
CN107633264B true CN107633264B (zh) 2021-09-03

Family

ID=61100359

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710782177.5A Active CN107633264B (zh) 2017-09-02 2017-09-02 基于空谱多特征极限学习的线性共识集成融合分类方法

Country Status (1)

Country Link
CN (1) CN107633264B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109730652A (zh) * 2019-03-08 2019-05-10 江苏霆升科技有限公司 室性早搏定位识别方法及装置
CN110717520B (zh) * 2019-09-12 2023-03-10 华侨大学 基于高光谱图像空间特征和光谱特征融合的固废识别方法
CN112699756B (zh) * 2020-12-24 2023-08-25 中国农业科学院农业信息研究所 一种基于高光谱图像的茶叶原产地识别方法和系统
CN113792761B (zh) * 2021-08-20 2024-04-05 北京航空航天大学 基于Gabor特征与EMAP特征的遥感图像分类方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106127179A (zh) * 2016-06-30 2016-11-16 南京理工大学 基于自适应分层多尺度的高光谱遥感图像分类方法
CN106874934A (zh) * 2017-01-12 2017-06-20 华南理工大学 基于加权极限学习机集成算法的污水处理故障诊断方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106127179A (zh) * 2016-06-30 2016-11-16 南京理工大学 基于自适应分层多尺度的高光谱遥感图像分类方法
CN106874934A (zh) * 2017-01-12 2017-06-20 华南理工大学 基于加权极限学习机集成算法的污水处理故障诊断方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Multiple features fusion for hyperspectral image classification based on extreme learning machine;Wei Liu 等;《ResearchGate》;20170731;第3218-3221页 *
Voting based extreme learning machine;Jiuwen Cao 等;《ELSEVIER》;20120215;第66-77页 *
Wei Liu 等.Multiple features fusion for hyperspectral image classification based on extreme learning machine.《ResearchGate》.2017, *

Also Published As

Publication number Publication date
CN107633264A (zh) 2018-01-26

Similar Documents

Publication Publication Date Title
CN106845510B (zh) 基于深度层级特征融合的中国传统视觉文化符号识别方法
Mansanet et al. Local deep neural networks for gender recognition
Akçay et al. Automatic detection of geospatial objects using multiple hierarchical segmentations
Thai et al. Image classification using support vector machine and artificial neural network
CN107633264B (zh) 基于空谱多特征极限学习的线性共识集成融合分类方法
EP2579211B1 (en) Graph-based segmentation integrating visible and NIR information
Cevikalp et al. Semi-supervised dimensionality reduction using pairwise equivalence constraints
Fan et al. Superpixel guided deep-sparse-representation learning for hyperspectral image classification
Wang et al. LiDAR data classification using morphological profiles and convolutional neural networks
Chen et al. Hyperspectral remote sensing image classification based on dense residual three-dimensional convolutional neural network
Narang et al. Devanagari ancient character recognition using DCT features with adaptive boosting and bootstrap aggregating
Yang et al. Unsupervised images segmentation via incremental dictionary learning based sparse representation
Duan et al. Spectral-spatial hyperspectral image classification using superpixel and extreme learning machines
CN114581773A (zh) 基于图卷积网络的多模态遥感数据分类方法
Li et al. Multiple kernel-based multi-instance learning algorithm for image classification
CN110738672A (zh) 一种基于分层高阶条件随机场的图像分割方法
Kim et al. A shape preserving approach for salient object detection using convolutional neural networks
CN113239938B (zh) 一种基于图结构的高光谱分类方法及系统
Huigang et al. Hierarchical remote sensing image analysis via graph Laplacian energy
Jayapriya et al. Person re-identification using prioritized chromatic texture (PCT) with deep learning
Nanda et al. A person re-identification framework by inlier-set group modeling for video surveillance
Cho Content-based structural recognition for flower image classification
Melendez et al. Efficient distance-based per-pixel texture classification with Gabor wavelet filters
Dhingra et al. Clustering-based shadow detection from images with texture and color analysis
Sowmya et al. Significance of processing chrominance information for scene classification: a review

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant