CN113191442B - 一种互导学习高光谱图像分类方法 - Google Patents

一种互导学习高光谱图像分类方法 Download PDF

Info

Publication number
CN113191442B
CN113191442B CN202110526674.5A CN202110526674A CN113191442B CN 113191442 B CN113191442 B CN 113191442B CN 202110526674 A CN202110526674 A CN 202110526674A CN 113191442 B CN113191442 B CN 113191442B
Authority
CN
China
Prior art keywords
samples
classifiers
classification
represent
hyperspectral image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110526674.5A
Other languages
English (en)
Other versions
CN113191442A (zh
Inventor
任鹏
李明杰
向明
邰笑笑
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
State Ocean Administration South China Sea Planning And Environment Research Institute
China University of Petroleum East China
Original Assignee
State Ocean Administration South China Sea Planning And Environment Research Institute
China University of Petroleum East China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by State Ocean Administration South China Sea Planning And Environment Research Institute, China University of Petroleum East China filed Critical State Ocean Administration South China Sea Planning And Environment Research Institute
Priority to CN202110526674.5A priority Critical patent/CN113191442B/zh
Publication of CN113191442A publication Critical patent/CN113191442A/zh
Application granted granted Critical
Publication of CN113191442B publication Critical patent/CN113191442B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A40/00—Adaptation technologies in agriculture, forestry, livestock or agroalimentary production
    • Y02A40/10—Adaptation technologies in agriculture, forestry, livestock or agroalimentary production in agriculture

Abstract

本发明提供了一种互导学习高光谱图像分类方法，解决了小样本集训练条件下分类精度低的问题。其步骤：(1)将高光谱图像表达为像元样本集；(2)构建两个结构相同但初始化参数不同的分类器，作为两个基分类器；(3)两个基分类器分别用对方提供的标记样本集训练；(4)两个基分类器分别对自己的未标记样本集分类；(5)将两个基分类器的分类结果中高置信度样本分别扩增至它们自己的标记样本集；(6)重复步骤(3)至(5)直到标记样本集扩增至特定规模；(7)两个基分类器决策获得最终分类结果。综上，两个基分类器持续为对方提供新标记样本进行训练，通过上述互导学习方式保证了小标记样本集训练条件下的分类性能。

Description

一种互导学习高光谱图像分类方法
技术领域
本发明涉及高光谱图像分类领域，具体涉及一种互导学习高光谱图像分类方法。
背景技术
高光谱图像分类技术是一项极具特色的前沿技术，在遥感观测领域占据重要地位。高光谱图像具有空间信息，同时，具有纳米级波谱分辨率及数百个光谱波段特性，因此比传统的遥感图像具有更为丰富的光谱信息及能区分细微光谱差异的优势，现已广泛应用于遥感观测服务的现代农业、医学研究、环境治理、资源勘探和军事防御等领域。高光谱图像数据维数高，图像分类器的训练需要大量标记样本。现阶段高光谱图像样本标记主要基于专家知识、经验等进行人工标记，标记效率低，标记成本高，标记样本量严重不足。如何在小标记样本集的训练条件下，有效进行高精度高光谱图像分类，是遥感观测领域的一个挑战性难题。
发明内容
本发明的目的在于提供一种互导学习高光谱图像分类方法，解决小样本集训练条件下分类精度低的问题。
为了实现上述目的，本发明的技术方案为：
(1)将高光谱图像表达为像元样本集。
像元样本集X由标记样本集XL和无标记样本集XU组成，即X＝{XL,XU}。
(2)构建两个结构相同但初始化参数不同的分类器，作为两个基分类器。
两个基分类器分别表示为C(·；αA,βA)和C(·；αB,βB)，简写为CA和CB，其中，αA和βA分别表示CA的随机初始化参数和可训练模型参数，αB和βB分别表示CB的随机初始化参数和可训练模型参数。
两个基分类器对样本x∈X的分类操作分别表示为：
yA＝C(x；αA,βA)
yB＝C(x；αB,βB)
其中，yA和yB分别表示CA和CB给x的类别标记。
(3)两个基分类器分别用对方提供的标记样本集训练。
训练过程为：
其中，argmin表示寻找最小评分的参量，表示训练的目标函数，/>和/>分别表示第k次迭代时训练所得的CA和CB的模型参数，/>表示CB在第k次迭代时的标记样本集，/>表示/>的类别标记，/>表示CA在第k次迭代时的标记样本集，/>表示/>的类别标记。当k＝1时，/>
(4)两个基分类器分别对自己的未标记样本集分类。
分类得到类别标记：
其中，和/>分别表示CA在第k次迭代时的无标记样本集和它的分类结果，和/>分别表示CB在第k次迭代时的无标记样本集和它的分类结果。当k＝1时，
(5)将两个基分类器的分类结果中高置信度样本分别扩增至它们自己的标记样本集。
扩增过程为：
其中，表示CA在第k次迭代时的分类结果中高置信度样本，/>表示CA在第k次迭代时对/>分类得到的类别标记，/>表示CB在第k次迭代时的分类结果中高置信度样本，/>表示CB在第k次迭代时对/>分类得到的类别标记。
同时，分别更新CA和CB的未标记样本集如下：
(6)重复步骤(3)至(5)直到标记样本集扩增至特定规模。
标记样本集扩增至其容量为像元样本集的η百分比，停止重复步骤(3)至(5)，此时迭代次数k达到K。
(7)两个基分类器决策获得最终分类结果。
无标记样本的最终分类结果由两个基分类器决策获得，主要有以下两种情况：
第一种情况：当第K次迭代训练得到的CA和CB对样本的最终分类结果一致时，样本的最终类别标记为它们一致的类别标记；
第二种情况：当第K次迭代训练得到的CA和CB对样本的最终分类结果不一致时，样本的最终类别标记由置信度高的基分类器决定。
较之现有技术，本发明的有益效果在于：
(1)构建两个基分类器，用它们的高置信度分类结果不断扩增其标记样本集，迭代用于训练，从而进一步扩增标记样本集，改善标记样本集不足的条件，解决了小标记样本集训练导致的分类精度低的问题；
(2)两个基分类器分别将自己的标记样本集提供给对方训练，这种互导学习模式能够让两个基分类器从对方学习到不同的信息，有效提升了其分类能力；
(3)样本的最终分类结果通过两个基分类器决策获得，保证了整体的分类精度。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见文中附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可使用或产生其他附图。
图1为本发明互导学习高光谱图像分类方法的流程示意图；
图2为互导学习进行训练与分类的原理图(和/>分别表示第K次迭代训练得到的CA和CB)；
图3为提供的互导学习高光谱图像分类方法整体框架图；
图4为真实类别标记与本发明方法分类结果的对比图；
图5为本发明方法进行十次迭代过程中总体精度的变化图；
图6为本发明方法进行十次迭代过程中平均精度的变化图；
图7为本发明方法进行十次迭代过程中卡帕系数的变化图。
具体实施方式
为了使本发明所要解决的技术问题、技术方案及有益效果更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。
(1)将高光谱图像表达为像元样本集。
超像素主成分分析作为特征提取器，对高光谱像元全波段像元样本进行特征提取，得到比全波段维度低的特征，用低维特征表达高光谱像元样本，进行后续的机器学习。具体操作如下：
定义高光谱图像为其中D，E和G分别表示空间宽度、空间长度和光谱深度(波段数)。定义P＝D×E表示高光谱图像的空间尺寸，因此，高光谱图像/>的矩阵形式为利用超像素分割技术将高光谱图像S分割为I个同质区域S＝[S1,S2,…,SI]，并分别在每个同质区域上进行基于主成分分析的特征提取。主成分分析的特征提取操作表示为：
其中，argmax表示寻找最大评分的参量，Si表示第i(1≤i≤I)个同质区域，Ti表示Si的转换矩阵，Cov(·)表示卷积运算，Tr(·)表示矩阵的迹。I个同质区域经过特征提取形成最终的像元样本集X＝[X1,X2,…,XI]，像元样本集X由标记样本集XL和无标记样本集XU组成，即X＝{XL,XU}。
(2)构建两个结构相同但初始化参数不同的分类器，作为两个基分类器。
超限学习机的输入权重和隐含层偏置是随机产生的，该特点使超限学习机能够实现随机初始化。两个具有相同结构的超限学习机作为基分类器，分别表示为C(·；αA,βA)和C(·；αB,βB)，简写为CA和CB，其中，αA和βA分别表示CA的随机初始化参数和可训练模型参数，αB和βB分别表示CB的随机初始化参数和可训练模型参数。
两个基分类器对样本x∈X的分类操作分别表示为：
其中，yA和yB分别表示CA和CB给x的类别标记，WA和vA分别表示CA的输入权重和隐含层偏置，它们是CA的随机初始化参数αA＝{WA,vA}，WB和vB分别表示CB的输入权重和隐含层偏置，它们是CB的随机初始化参数αB＝{WB,vB}。φ(·)表示激活函数，1表示单位列向量，T表示转置。
(3)两个基分类器分别用对方提供的标记样本集训练。
训练过程为：
其中，argmin表示寻找最小评分的参量，表示训练的目标函数，/>表示广义逆。和/>分别表示第k次迭代时训练所得的CA和CB的模型参数，/>表示CB在第k次迭代时的标记样本集，/>表示/>的类别标记，/>表示CA在第k次迭代时的标记样本集，/>表示/>的类别标记。当k＝1时，
(4)两个基分类器分别对自己的未标记样本集分类。
分类得到类别标记：
其中，和/>分别表示CA在第k次迭代时的无标记样本集和它的分类结果，和/>分别表示CB在第k次迭代时的无标记样本集和它的分类结果。当k＝1时，
(5)将两个基分类器的分类结果中高置信度样本分别扩增至它们自己的标记样本集。
扩增过程为：
其中，表示CA在第k次迭代时的分类结果中高置信度样本，/>表示CA在第k次迭代时对/>分类得到的类别标记，/>表示CB在第k次迭代时的分类结果中高置信度样本，/>表示CB在第k次迭代时对/>分类得到的类别标记。
同时，分别更新CA和CB的未标记样本集如下：
(6)重复步骤(3)至(5)直到标记样本集扩增至特定规模。
标记样本集扩增至其容量为像元样本集的η百分比，停止重复步骤(3)至(5)，此时迭代次数k达到K。
(7)两个基分类器决策获得最终分类结果。
无标记样本的最终分类结果由两个基分类器决策获得，主要有以下两种情况：
第一种情况：当第K次迭代训练得到的CA和CB对样本的最终分类结果一致时，样本的最终类别标记为它们一致的类别标记；
第二种情况：当第K次迭代训练得到的CA和CB对样本的最终分类结果不一致时，样本的最终类别标记由置信度高的基分类器决定。
本发明使用帕维亚大学高光谱数据集进行实验验证与分析。为了满足小样本集训练的条件，仅随机选择5％的样本作为标记训练样本对CA和CB进行训练。
图4为真实类别标记(左图)与用本发明方法分类得到类别标记(右图)的对比图。可以看出本发明方法最终分类结果逼近真实类别标记，说明在小样本集训练条件下，本发明提供的互导学习高光谱图像分类方法获得了优异的分类表现。
图5至图7为采用本发明方法进行十次迭代过程中三个指标(总体精度、平均精度和卡帕系数)的变化图。尽管在迭代过程中，CA和CB的准确率偶尔会下降，但在迭代过程中，它们的整体分类性能一直在提高，表明了本发明方法的有效性和鲁棒性。经过十次迭代，CA的总体精度、平均精度和卡帕系数分别增加了1.42％、2.03％和1.89％，CB的总体精度、平均精度和卡帕系数分别增加了1.30％、1.70％和1.73％。说明本发明提供是的互导学习高光谱图像分类方法，有效地保证了分类性能，解决了因小样本集训练导致分类精度低的问题。
以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (4)

1.一种互导学习高光谱图像分类方法，其特征在于，包括以下步骤：
(1)将高光谱图像表达为像元样本集；
(2)构建两个结构相同但初始化参数不同的分类器，作为两个基分类器；
(3)两个基分类器分别用对方提供的标记样本集训练；
(4)两个基分类器分别对自己的未标记样本集分类；
(5)将两个基分类器的分类结果中高置信度样本分别扩增至它们自己的标记样本集；
(6)重复步骤(3)至(5)直到标记样本集扩增至特定规模；
(7)两个基分类器决策获得最终分类结果；
根据本权利要求所述的互导学习高光谱图像分类方法，其特征在于，步骤(1)所述的将高光谱图像表达为像元样本集，像元样本集X由标记样本集XL和无标记样本集XU组成(即X＝{XL，XU})，步骤(2)所述的构建两个结构相同但初始化参数不同的分类器，作为两个基分类器，分别表示为C(·；αA，βA)和C(·；αB，βB)，简写为CA和CB，其中，αA和βA分别表示CA的随机初始化参数和可训练模型参数，αB和βB分别表示CB的随机初始化参数和可训练模型参数，CA和CB对样本x∈X的分类操作分别表示为：
yA＝C(x；αA，βA)
yB＝C(x；αB，βB)
其中，yA和yB分别表示CA和CB给x的类别标记；
根据本权利要求所述的互导学习高光谱图像分类方法，其特征在于，步骤(3)所述的两个基分类器分别用对方提供的标记样本集训练，训练过程为：
其中，argmin表示寻找最小评分的参量，表示训练的目标函数，/>和/>分别表示第k次迭代时训练所得的CA和CB的模型参数，/>表示CB在第k次迭代时的标记样本集，表示/>的类别标记，/>表示CA在第k次迭代时的标记样本集，/>表示/>的类别标记，当k＝1时，/>
根据本权利要求所述的互导学习高光谱图像分类方法，其特征在于，步骤(4)所述的两个基分类器分别对自己的未标记样本集分类，得到类别标记：
其中，和/>分别表示CA在第k次迭代时的无标记样本集和它的分类结果，和/>分别表示CB在第k次迭代时的无标记样本集和它的分类结果，当k＝1时，
2.根据权利要求1所述的互导学习高光谱图像分类方法，其特征在于，步骤(5)所述的将两个基分类器的分类结果中高置信度样本分别扩增至它们自己的标记样本集，扩增过程为：
其中，表示CA在第k次迭代时的分类结果中高置信度样本，/>表示CA在第k次迭代时对/>分类得到的类别标记，/>表示CB在第k次迭代时的分类结果中高置信度样本，/>表示CB在第k次迭代时对/>分类得到的类别标记，同时，分别更新CA和CB的未标记样本集如下：
3.根据权利要求1所述的互导学习高光谱图像分类方法，其特征在于，步骤(6)所述重复步骤(3)至(5)直到标记样本集扩增至特定规模，当标记样本集扩增至像元样本集的η百分比时，停止重复步骤(3)至(5)，此时迭代次数k达到K。
4.根据权利要求1所述的互导学习高光谱图像分类方法，其特征在于，无标记样本的最终分类结果由两个基分类器决策获得，主要有以下两种情况：
第一种情况：当第K次迭代训练得到的CA和CB对样本的最终分类结果一致时，样本的最终类别标记为它们一致的类别标记；
第二种情况：当第K次迭代训练得到的CA和CB对样本的最终分类结果不一致时，样本的最终类别标记由置信度高的基分类器决定。
CN202110526674.5A 2021-05-14 2021-05-14 一种互导学习高光谱图像分类方法 Active CN113191442B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110526674.5A CN113191442B (zh) 2021-05-14 2021-05-14 一种互导学习高光谱图像分类方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110526674.5A CN113191442B (zh) 2021-05-14 2021-05-14 一种互导学习高光谱图像分类方法

Publications (2)

Publication Number Publication Date
CN113191442A CN113191442A (zh) 2021-07-30
CN113191442B true CN113191442B (zh) 2023-11-17

Family

ID=76981946

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110526674.5A Active CN113191442B (zh) 2021-05-14 2021-05-14 一种互导学习高光谱图像分类方法

Country Status (1)

Country Link
CN (1) CN113191442B (zh)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103942562A (zh) * 2014-03-27 2014-07-23 河海大学 基于多分类器组合的高光谱图像分类方法
CN108985360A (zh) * 2018-06-29 2018-12-11 西安电子科技大学 基于扩展形态学与主动学习的高光谱分类方法
CN110413924A (zh) * 2019-07-18 2019-11-05 广东石油化工学院 一种半监督多视图学习的网页分类方法
CN111507409A (zh) * 2020-04-17 2020-08-07 中国人民解放军战略支援部队信息工程大学 一种基于深度多视角学习的高光谱影像分类方法及装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103942562A (zh) * 2014-03-27 2014-07-23 河海大学 基于多分类器组合的高光谱图像分类方法
CN108985360A (zh) * 2018-06-29 2018-12-11 西安电子科技大学 基于扩展形态学与主动学习的高光谱分类方法
CN110413924A (zh) * 2019-07-18 2019-11-05 广东石油化工学院 一种半监督多视图学习的网页分类方法
CN111507409A (zh) * 2020-04-17 2020-08-07 中国人民解放军战略支援部队信息工程大学 一种基于深度多视角学习的高光谱影像分类方法及装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于空间邻域信息的高光谱遥感影像半监督协同训练;朱济帅;尹作霞;谭琨;王雪;李二珠;杜培军;;遥感技术与应用(第06期);全文 *
结合边缘采样与差分进化的高光谱图像半监督协同分类框架;王立国;刘佳俊;;黑龙江大学自然科学学报(第01期);全文 *

Also Published As

Publication number Publication date
CN113191442A (zh) 2021-07-30

Similar Documents

Publication Publication Date Title
CN102609681B (zh) 基于字典学习模型的人脸识别方法
CN111368920B (zh) 基于量子孪生神经网络的二分类方法及其人脸识别方法
CN104866524A (zh) 一种商品图像精细分类方法
Selvaraju et al. Choose your neuron: Incorporating domain knowledge through neuron-importance
CN105095863B (zh) 基于相似性权值的半监督字典学习的人体行为识别方法
CN107451565B (zh) 一种半监督小样本深度学习图像模式分类识别方法
CN110942091B (zh) 寻找可靠的异常数据中心的半监督少样本图像分类方法
CN108647595B (zh) 基于多属性深度特征的车辆重识别方法
CN110197205A (zh) 一种多特征来源残差网络的图像识别方法
CN110555060A (zh) 基于成对样本匹配的迁移学习方法
CN111079847B (zh) 一种基于深度学习的遥感影像自动标注方法
CN104102922B (zh) 一种基于上下文感知字典学习的害虫图像分类方法
CN114444600A (zh) 基于记忆增强原型网络的小样本图像分类方法
CN103839078A (zh) 一种基于主动学习的高光谱图像分类方法
CN107220663B (zh) 一种基于语义场景分类的图像自动标注方法
CN110598753A (zh) 一种基于主动学习的缺陷识别方法
CN104809468A (zh) 一种基于不定核的多视图分类方法
CN105893956A (zh) 一种基于多特征自适应测度学习的在线目标匹配方法
CN107169407A (zh) 基于联合双边滤波与极限学习机的高光谱图像分类方法
CN107423697A (zh) 基于非线性融合深度3d卷积描述子的行为识别方法
CN106908774A (zh) 基于多尺度核稀疏保持投影的一维距离像识别方法
CN113191442B (zh) 一种互导学习高光谱图像分类方法
CN116910571B (zh) 一种基于原型对比学习的开集域适应方法及系统
CN109145749B (zh) 一种跨数据集的面部表情识别模型构建及识别方法
CN116681128A (zh) 一种带噪多标签数据的神经网络模型训练方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant