CN113139532B - 一种基于多输出分类模型的分类方法、计算机设备及介质 - Google Patents
一种基于多输出分类模型的分类方法、计算机设备及介质 Download PDFInfo
- Publication number
- CN113139532B CN113139532B CN202110690722.4A CN202110690722A CN113139532B CN 113139532 B CN113139532 B CN 113139532B CN 202110690722 A CN202110690722 A CN 202110690722A CN 113139532 B CN113139532 B CN 113139532B
- Authority
- CN
- China
- Prior art keywords
- features
- shallow
- network model
- confidence network
- loss
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
- G06V20/13—Satellite images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/254—Fusion techniques of classification results, e.g. of results related to same input data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/20—Ensemble learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Multimedia (AREA)
- Software Systems (AREA)
- Astronomy & Astrophysics (AREA)
- Remote Sensing (AREA)
- Medical Informatics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Image Analysis (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供了一种基于多输出分类模型的分类方法、计算机设备及介质,包括获取标定矿区的遥感数据,从所述标定矿区的遥感数据中提取多光谱影像和DEM数据,基于所述多光谱影像和所述DEM数据提取浅层特征,其中,所述浅层特征包括浅层光谱‑空间特征和浅层地形特征;将所述浅层光谱‑空间特征进行堆叠、将所述浅层地形特征进行堆叠,分别输入至多分支深度置信网络模型,获得融合特征;将所述融合特征分别输入至少两个分类器,获得至少两个二级地物标签,可以有效提取并融合不同模态的深度特征,结合多模型融合和多输出策略,有利于提高复杂景观区土地覆盖精细分类的精度。
Description
技术领域
本发明涉及遥感影像分类领域技术领域,具体而言,涉及一种基于多输出分类模型的分类方法、计算机设备及介质。
背景技术
开展采矿区土地覆盖精细分类,对于采矿活动的精准管理和矿产资源的可持续发展等,具有重要的理论和现实意义。然而,采矿区的复杂景观特征如立体地形特征显著等,导致精细分类的精度难以提升。相关研究采用多模态数据融合、特征工程和机器学习方法取得了一定的进展,但是浅层特征参数无法充分刻画地物精细尺度下的复杂模式。
近年来,深度学习技术广泛应用于遥感领域并取得了一定的成功。然而,遥感分类的少样本情况与深度模型对样本的大需求之间的天然矛盾,制约着遥感深度学习方法的发展,有精度低、无法准确对复杂地形进行分类的问题。
发明内容
本发明解决的问题是如何获得更准确的复杂遥感数据的精细分类标签。
为解决上述问题,本发明提供一种基于多输出分类模型的分类方法,所述多输出分类模型包括多分支深度置信网络模型和至少两个分类器,其中,所述多分支深度置信网络模型包括光谱-空间深度置信网络模型分支和地形深度置信网络模型分支,所述基于多输出分类模型的分类方法包括:获取标定矿区的遥感数据,从所述标定矿区的遥感数据中提取多光谱影像和DEM数据,基于所述多光谱影像和所述DEM数据提取浅层特征,其中,所述浅层特征包括浅层光谱-空间特征和浅层地形特征;将所述浅层光谱-空间特征进行堆叠,输入至所述光谱-空间深度置信网络模型分支;将所述浅层地形特征进行堆叠,输入至所述地形深度置信网络模型分支,基于所述多分支深度置信网络模型获得融合特征;将所述融合特征分别输入至少两个分类器,获得至少两个二级地物标签。
相对于现有技术,本发明通过构建具有无监督特征提取能力的多分支深度置信网络模型,可在只有少量样本时即可构建鲁棒的分类模型,采用光谱-空间深度置信网络模型分支和地形深度置信网络模型分支分别提取再融合的方法,能避免不同模态的光谱-空间特征和地形特征数据因数值单位、含义和数量级不同而导致的“互相影响”,更有利于多模态深度特征的提取;通过多个分类器输出多个二级地物标签,可以避免特殊的光谱影像和数字高程模型数据输出不准确的二级地物标签。
可选地,将所述融合特征分别输入至少两个分类器,获得至少两个二级地物标签之后还包括:分别计算至少两个二级地物标签与人工标注标签的损失,分别对应获得损失;将损失最小的二级地物标签对应的分类器作为所述标定矿区的遥感数据所属类别对应的分类器。
由此,从至少两个分类器中计算出至少两个二级地物标签,通过计算损失的方式选出最准确的二级地物标签作为输出标签,可以获得最准确的标签,且将对应的分类器作为此种标定矿区的分类器,可以保证针对性地选取分类器,且具有最好的标签输出。
可选地,在所述获取标定矿区的遥感数据,从所述标定矿区的遥感数据中提取多光谱影像和DEM数据,基于所述多光谱影像和所述DEM数据提取浅层特征之前,包括:获取训练样本并提取训练多光谱影像和训练DEM数据,基于所述训练多光谱影像和所述训练DEM数据提取训练浅层特征;将所述训练浅层特征中的浅层光谱-空间特征和浅层地形特征分别进行堆叠,分别构建所述光谱-空间深度置信网络模型与所述地形深度置信网络模型,以获得训练融合特征;通过第一分类器处理所述训练融合特征,获得初步标签结果,基于所述初步标签结果对所述多输出分类模型进行微调,其中,所述分类器包括所述第一分类器。
由此,分别构建光谱-空间深度置信网络模型与地形深度置信网络模型,对两个分支的浅层特征进行独立的处理,获得两个分支的深度特征,且在最后阶段进行融合,可以避免两个分支的特征由于数值单位、含义和数量级不同而导致的相互影响,保证准确提取深度特征,对多输出分类模型进行微调,可以保证深度置信网络模型的鲁棒性。
可选地,将所述浅层光谱-空间特征进行堆叠、将所述浅层地形特征进行堆叠,分别构建所述光谱-空间深度置信网络模型与所述地形深度置信网络模型包括:基于无监督预训练获得所述光谱-空间深度置信网络模型和所述地形深度置信网络模型,所述无监督预训练包括:基于所述浅层特征逐一构建受限玻尔兹曼机模型,采用堆叠方式处理所有的受限玻尔兹曼机模型,分别获得所述光谱-空间深度置信网络模型和所述地形深度置信网络模型,其中,所述堆叠方式包括将每个所述受限玻尔兹曼机模型的输入为前一个受限玻尔兹曼机模型的输出;将所述光谱-空间深度置信网络模型分支和所述地形深度置信网络模型分支进行堆叠,获得全连接层,其中,所述全连接层用于获得所述融合特征。
由此,基于无监督训练获得双分支深度置信网络模型,可以在数据集有限的情况下获得较为准确的深度置信网络模型。
可选地,所述基于所述初步标签结果对所述多输出分类模型进行微调包括:将所述初步标签结果与人工训练标签进行比对并计算损失,根据所述损失进行反向传播,微调所述多输出分类模型,其中,所述初步标签结果为预测的一级地物标签和预测的二级地物标签。
由此,输出两种不同分类等级的预测标签,由一级地物标签进行粗分类,二级地物标签进行细分类,且通过一级地物标签作为辅助,微调二级地物标签,保证模型的准确性,通过反向传播的方式进行微调,可以获得更准确的模型,保证输出的二级地物标签的准确性。
可选地,所述将所述初步标签结果与人工训练标签进行比对并计算损失,根据所述损失进行反向传播,微调所述多输出分类模型包括:分别微调,包括将所述预测的一级地物标签与一级人工标注标签进行比对,计算一级地物损失,基于所述一级地物损失进行反向传播,微调所述多输出分类模型中的多分支深度置信网络模型;然后通过所述预测的二级地物标签与二级人工标注标签进行比对,计算二级地物损失,基于所述二级地物损失进行反向传播,再次微调所述多输出分类模型中的多分支深度置信网络模型;或综合微调,包括将所述预测的一级地物标签与所述一级人工标注标签进行比对、将所述预测的二级地物标签与所述二级人工标注标签进行比对,计算综合损失,使用所述综合损失进行反向传播,微调所述多输出分类模型中的多分支深度置信网络模型,其中,所述综合损失包括加权后的一级地物损失与二级地物损失。
由此,将多输出分类模型输出的结果与人工标注的标签进行比对,计算误差并对误差加权,然后基于误差微调模型,可以保证多输出分类模型的输出更加准确,且两种微调方式可以保证微调的结果具有更高的准确度,不会被某一种微调方式限制,增加模型的鲁棒性。
可选地,所述二级地物损失的权重为1;所述一级地物损失的权重设为W,当所述预测的一级地物标签过拟合时,所述一级地物损失的权重W的取值范围为1-10;当所述预测的一级地物标签欠拟合时,所述一级地物损失的权重W的取值范围为0.1-1。
由此,通过对一级地物权重的数值按情况进行调整,可以保证微调出的模型更加准确。
可选地,所述根据所述损失进行反向传播,微调所述多输出分类模型包括:将所述光谱-空间深度置信网络模型分支和所述地形深度置信网络模型分支的受限玻尔兹曼机层数设为预设的同一个数,记为depth;将所述光谱-空间深度置信网络模型分支和所述地形深度置信网络模型分支的隐层节点数分别记为node_s和node_t,同时调整depth、node_s和node_t;使用试错法寻优其他超参数,包括迭代次数、批大小、学习率和dropout。
由此,同时调整三个参数,可以使深度置信网络模型更符合多光谱影像和DEM数据的特点,使基于深度置信网络模型训练出的分类模型更准确;同时,由于超参数的种类繁多,使用迭代次数、批大小、学习率和dropout等方式,基于试错法可以保证寻找到较为准确的超参数。
本发明还公开了一种计算机存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器读取并运行时,实现如上任一项所述的基于多输出分类模型的分类方法。
所述计算机存储介质相对于现有技术与所述基于多输出分类模型的分类方法所具有的优势相同,在此不再赘述。
本发明还公开了一种计算机设备,包括存储有计算机程序的计算机可读存储介质和处理器,所述计算机程序被所述处理器读取并运行时,实现如上任一项所述的基于多输出分类模型的分类方法。
所述计算机设备相对于现有技术与所述基于多输出分类模型的分类方法所具有的优势相同,在此不再赘述。
附图说明
图1为本发明基于多输出分类模型的分类方法的一实施例流程图;
图2为本发明基于多输出分类模型的分类方法的一实施例示意图;
图3为本发明基于多输出分类模型的分类方法的预训练和微调示意图;
图4为本发明基于多输出分类模型的分类方法的一实施例细化图;
图5为计算机可读存储介质及计算机程序的示意图。
具体实施方式
为使本发明的上述目的、特征和优点能够更为明显易懂,下面结合附图对本发明的具体实施例做详细的说明。
本发明提出一种基于多输出分类模型的分类方法,如图1,包括:
步骤S200,获取标定矿区的遥感数据,从所述标定矿区的遥感数据中提取多光谱影像和DEM数据,基于所述多光谱影像和所述DEM数据提取浅层特征,其中,所述浅层特征包括浅层光谱-空间特征和浅层地形特征。
多输出分类模型包括多分支深度置信网络模型和至少两个分类器,其中,所述多分支深度置信网络模型包括光谱-空间深度置信网络模型分支和地形深度置信网络模型分支。
深度置信网络模型(DBN),是一种神经网络,既可以用于非监督学习,类似于一个自编码机;也可以用于监督学习,作为分类器使用。作为非监督学习时,其目的是尽可能地保留原始特征的特点,同时降低特征的维度。作为监督学习时,其目的在于使得分类错误率尽可能地小。
深度置信网络模型具有很强的无监督特征提取能力,且仅需少量样本微调即可构建鲁棒的分类模型。在样本数据有限的情况下,可以快速构建稳定的、误差较小的分类模型。此外,在样本数据相同的情况下,使用深度置信网络模型构建分类模型也可以使模型输出的标签更准确。
从遥感影像数据中获得多光谱影像和DEM(Digital Elevation Model,数字高程模型)数据,从多个角度提取大量有效的特征数据。
浅层特征是指基于图像自身,直接对图像本身操作就能得出的特征,无需进行学习与训练即可得到,故先从多光谱影像与DEM数据中提取浅层特征,获得多角度的特征数据。
深度特征,指需要设计神经网络模型来挖掘图像更深层次,更为抽象的特征,获取深度特征无需手工参与,但是需要面向具体问题,通过训练进而准确地提取面向具体问题的特征。
其中,有效的特征数据即为,基于多输出分类模型的分类所需要的特征数据,具体包括表示光谱波段的光谱特征;分别表示光谱波段的第一、第二主成分的主成分特征;表示归一化植被指数的植被指数特征;表示光谱波段的高斯低通、均值和标准差滤波的滤波特征,其核大小分别为3*3、5*5和7*7像元;表示光谱波段的灰度共生矩阵纹理的纹理特征,包括对比度、相关性、角二阶矩、同质性和熵,其核大小分别为3*3、5*5和7*7像元;表示DEM、坡度、坡向的地形特征。
优选地,光谱特征总数为四个、主成分特征总数为两个、植被指数总数为一个、滤波特征总数为三十六个、纹理特征总数六十个、地形特征总数为三个。
DEM是通过有限的地形高程数据实现对地面地形的数字化模拟(即地形表面形态的数字化表达),它是用一组有序数值阵列形式表示地面高程的一种实体地面模型。
可选地,所述浅层特征包括有效的多模态像元特征,其中,所述像元特征包括光谱特征、主成分特征、植被指数、滤波特征、纹理特征和地形特征。
应用多模态的数据建立模型,可以输出更鲁棒的标签数据,模态与模态之间可能会存在互补的信息,对于单模态来说,会出现数据单一的情况,基于此,建立的模型会出现鲁棒性较差、输出结果不符合要求等情况。对于多模态数据来说,缺失其中一种或部分模态数据时,多模态系统仍可以运行,具有一定的抗干扰性。
步骤S300,将所述浅层光谱-空间特征进行堆叠,输入至所述光谱-空间深度置信网络模型分支;将所述浅层地形特征进行堆叠,输入至所述地形深度置信网络模型分支,基于所述多分支深度置信网络模型获得融合特征。
在本发明基于多输出分类模型的分类方法中,使用无监督学习方式进行深度置信网络的预训练,可以在缺乏足够先验知识的情况下输出鲁棒性强的深度置信网络,然后通过监督学习的方式对深度置信网络进行微调,通过与人工标注的标签进行比对,通过与人工标注的标签的差别反过来调整深度置信网络模型,完成微调,通过上述先无监督学习,再监督训练的方式,可以节省训练资源,使训练的结果最优。
采用光谱-空间深度置信网络模型分支和地形深度置信网络模型分支,可以提升模型的表征能力,减少相似场景间的混淆情况。
步骤S400,将所述融合特征分别输入至少两个分类器,获得至少两个二级地物标签。
使用至少两个分类器同时对遥感数据进行处理,获得至少两个二级地物标签,因为地物标签是由不同的分类器计算而输出的,故对不同的遥感数据的准确度和敏感性都不相同,通过对比分类器输出的二级地物标签,可以获得最准确的结果。
通过多个分类器分别计算并对比获得最终结果,可以增加模型对不同的遥感数据的准确度,避免单一的分类器对某种遥感数据不敏感导致二级地物标签输出不准确的情况,增加了鲁棒性。
在一实施例中,使用三个分类器对遥感数据进行处理,即,将融合特征分别输入至三个分类器中,输出三个二级地物标签,对比三个二级地物标签,获得最准确的二级地物标签作为输出结果。
可选地,步骤S400之后,还包括:
步骤S401,分别计算至少两个二级地物标签与人工标注标签的损失,以获得对应的损失。
步骤S402,将损失最小的二级地物标签对应的分类器作为所述标定矿区的遥感数据所属类别对应的分类器。
因为分别采用不同的分类方式输出二级地物标签,在一实施例中,分别使用Softmax、随机森林、支持向量机三种分类器进行分类,分别对应输出至少两个二级地物标签,在实际分类时,同样的分类器对于不同的遥感数据会出现不同的效果,故在每次使用不同的遥感数据时,均使用步骤S401与步骤S402判断三种分类器的效果,并将效果好的分类器作为当前遥感数据的对应分类器,本次对遥感数据的标签均由步骤S402中被选择的分类器进行处理。
在另一实施例中,使用多个二级地物标签进行比对,选择损失最小的分类器作为当前遥感数据对应的分类器。
通过对比三种地物标签的误差,将误差最小的标签作为最终输出结果。有利于提高复杂景观区土地覆盖精细分类的精度。
可选地,如图4,在步骤S200之前,还包括:
步骤S100,获取训练样本并提取训练多光谱影像和训练DEM数据,基于所述训练多光谱影像和所述训练DEM数据提取训练浅层特征。
在步骤S200使用分类模型之前,还包括,对分类模型进行训练,其中,第一步为,获取训练的样本集,样本集即为预设地点的遥感图像。获取训练用的遥感图像,对所述遥感图像进行信息提取,获得训练多光谱影像和训练DEM数据,对提取到的数据进行处理,获得训练浅层特征。
步骤S110,将所述训练浅层特征中的浅层光谱-空间特征和浅层地形特征分别进行堆叠,分别构建所述光谱-空间深度置信网络模型与所述地形深度置信网络模型,以获得训练融合特征。
所述堆叠处理具体为,将训练浅层特征进行向量串联,获得串联后的训练浅层特征,其中,将地形特征与地形特征进行堆叠,形成融合的地形特征,将光谱特征、主成分特征、植被指数特征、滤波特征和纹理特征进行堆叠,形成融合的光谱-空间特征。
基于浅层特征构建多个受限玻尔兹曼机模型,然后对所有的受限玻尔兹曼机模型进行特征堆叠,具体为向量堆叠,前一个受限玻尔兹曼机模型的隐藏层作为下一个受限玻尔兹曼机模型的可视层,每次训练时,将下层的受限玻尔兹曼机模型训练好后再训练上层的受限玻尔兹曼机模型,每次训练一层,直至最上层,形成深度置信网络。在一实施例中,分别通过浅层光谱-空间特征和浅层地形特征获得深度光谱-空间特征和深度地形特征。
将地形特征堆叠后输入到地形深度置信网络模型分支中;将光谱特征、主成分特征、植被指数特征、滤波特征和纹理特征堆叠后输入至光谱-空间深度置信网络模型分支中,分别提取深度特征,从而提取出不同模态的深度特征,可以避免不同模态的光谱-空间特征和地形特征因数值单位、含义和数量级不同而导致的相互影响的情况,可以提取到更准确的多模态深度特征。
步骤S120,通过第一分类器处理所述训练融合特征,获得初步标签结果,基于所述初步标签结果对所述多输出分类模型进行微调,其中,所述分类器包括所述第一分类器。
可选地,所述第一分类器为Softmax分类器。
对模型进行微调,即对深度置信网络进行调整,可以使模型的输出更能适应多光谱影像与DEM数据的特点,增加分类模型的稳定性、鲁棒性,使模型最终的输出具有更强的抗干扰性,优化之后的分类模型可以更准确地输出二级地物标签。
可选地,步骤S110包括:
步骤S111,基于无监督预训练获得所述光谱-空间深度置信网络模型和所述地形深度置信网络模型,所述无监督预训练包括:基于所述浅层特征逐一构建受限玻尔兹曼机模型,采用堆叠方式处理所有的受限玻尔兹曼机模型,分别获得所述光谱-空间深度置信网络模型和所述地形深度置信网络模型,其中,所述堆叠方式包括将每个所述受限玻尔兹曼机模型的输入为前一个受限玻尔兹曼机模型的输出。
步骤S112,将所述光谱-空间深度置信网络模型分支和所述地形深度置信网络模型分支进行堆叠,获得全连接层,其中,所述全连接层用于获得所述融合特征。
可选地,步骤S120包括:
步骤S121,将所述初步标签结果与人工训练标签进行比对并计算损失,根据所述损失进行反向传播,微调所述多输出分类模型,其中,所述初步标签结果为预测的一级地物标签和预测的二级地物标签。
可选地,步骤S121包括:
步骤S122:分别微调,包括将所述预测的一级地物标签与一级人工标注标签进行比对,计算一级地物损失,基于所述一级地物损失进行反向传播,微调所述多输出分类模型中的多分支深度置信网络模型;然后通过所述预测的二级地物标签与二级人工标注标签进行比对,计算二级地物损失,基于所述二级地物损失进行反向传播,再次微调所述多输出分类模型中的多分支深度置信网络模型;或综合微调,包括将所述预测的一级地物标签与所述一级人工标注标签进行比对、将所述预测的二级地物标签与所述二级人工标注标签进行比对,计算综合损失,使用所述综合损失进行反向传播,微调所述多输出分类模型中的多分支深度置信网络模型,其中,所述综合损失包括加权后的一级地物损失与二级地物损失。
将预测的一级地物标签和预测的二级地物标签分别与人工标注的一级地物标签和二级地物标签进行比对,获得损失,再将损失加权计算得出误差,然后通过误差微调多输出分类模型,得出微调后的多输出分类模型;第二分类模型通过随机森林和支持向量机分类模型进行分类,直接得出二级地物标签,在训练的过程中,多输出分类模型与第二分类模型均基于多分支的深度置信网络模型而建立,故多输出分类模型被微调后,支持向量机与随机森林分类器所得出的结果也同时被微调后的参数影响,故只通过多输出分类模型进行微调,即可改善整个分类方法的鲁棒性。
将预测的一级地物标签与预测的二级地物标签与人工标注的标签比对,对一级地物损失和二级地物损失添加不同的权重,实现对分类模型的调整,因为使用监督的方式,即人工标注,可以让分类模型获得最准确的数据集,从而更好地对分类模型进行微调改进,而计算损失并进行反向传播,保证分类模型的分类结果朝更正确的方向微调。
如图3,使用反向传播的方法对模型进行分别微调,具体为,先计算出一级地物标签和二级地物标签的损失,获得一级地物损失和二级地物损失,然后基于一级地物损失进行反向传播,进而基于二级地物损失进行反向传播,获得优化后的多输出分类模型;也可以将一级地物损失和二级地物损失进行加权,将加权后的综合损失直接进行反向传播,以优化多输出分类模型。其中,一级地物标签与一级地物损失起到对二级地物标签进行辅助优化的作用,保证提升分类模型的标签分类精度。
一级地物预测标签和一级地物标签为初步的地物划分,二级地物预测标签和二级地物标签为精细地物划分。
一级地物和二级地物主要参考《土地利用现状分类》 国家标准 GB/T21010-2007及前期野外踏勘。
一级地物标签,即粗分类地物输出,包括矿山用地、耕地、林地、水域、道路、居民用地、未利用地等初步分类的地物标签,相比于二级地物标签,一级地物标签的每类样本量更大,在进行单类样本的标记时,可以获得更全面的训练,输出的标签相对准确,且忽略了同类型内二级地物之间的误分,故可以对二级地物标签的训练进行优化,所以可以作为辅助输出优化的模型。
二级地物标签,即精细分类地物标签,包括采坑、选矿厂、排土场、水田、温室大棚、旱地、休耕地、有林地、灌木、胁迫植被、苗圃和果园、池塘、采矿集水坑、沥青公路、水泥路、土路、城镇用地、农村居民点、其他建设用地、裸地等细分类的地物标签。
可选地,所述二级地物损失的权重为1;所述一级地物损失的权重设为W,当所述预测的一级地物标签过拟合时,所述一级地物损失的权重W的取值范围为1-10;当所述预测的一级地物标签欠拟合时,所述一级地物损失的权重W的取值范围为0.1-1。
因为在样本较少和/或模型较为复杂时,一级地物标签可能会欠拟合,此时将权重以0.1-1为W取值范围,优化模型,可以改变欠拟合的情况;相反,当一级地物标签过拟合时,以1-10为权重的取值范围,对多输出分类模型进行微调,可改善一级地物标签过拟合的情况。
可选地,微调多输出分类模型包括:将所述光谱-空间深度置信网络模型分支和所述地形深度置信网络模型分支的受限玻尔兹曼机层数设为预设的同一个数,记为depth;将所述光谱-空间深度置信网络模型分支和所述地形深度置信网络模型分支的隐层节点数分别记为node_s和node_t,同时调整depth、node_s和node_t。
同时且分别调整两个分支的层数和节点数,可以使深度置信网络模型更加鲁棒,且分别独立训练可以使实际投入计算过程中,分别计算两个分支的深度特征,防止两个分支的深度特征相互影响。
使用试错法寻优其他超参数,包括迭代次数、批大小、学习率和dropout。
因为超参数过多,故使用试错法寻优其他超参数,在一实施例中,预设批大小为512和1024,进行计算,选择其中较为优秀的参数为最后的取值。
可选地,如图2,所述机器学习算法包括传统的机器学习算法,包括支持向量机算法和随机森林算法。
支持向量机(SVM)是一类按监督学习方式对数据进行二元分类的广义线性分类器。SVM使用铰链损失函数计算经验风险并在求解系统中加入了正则化项以优化结构风险,是一个具有稀疏性和稳健性的分类器。SVM可以通过核方法进行非线性分类,是常见的核学习方法之一。使用SVM算法可以简化分类和回归等问题,可以避免数据维数过高时的回归难度,由少数向量决定最终结果,可以帮助剔除冗余样本,具有较好的抗干扰性。但是,SVM样本数量较大时,计算时间较慢,且解决多分类问题存在困难。
随机森林(RF)指,利用多棵树对样本进行训练并预测的一种分类器。在机器学习中,随机森林是一个包含多个决策树的分类器, 并且其输出的类别是由个别树输出的类别的众数而定。对于多种数据,它可以产生高准确度的分类器;可以处理大量的输入变数;在建造森林时,可以在内部对于一般化后的误差产生不偏差的估计;如果有部分数据遗失,仍可以维持准确度;还可以平衡不平衡的分类数据集的误差,且学习快速。
故,可以利用SVM和RF等分类器的优点,将融合特征进行分类,直接输出二级地物标签,即精细分类标签。提取并融合了不同模态的深度特征,结合多模型融合和多输出策略,有利于提高复杂景观区土地覆盖精细分类的精度。
本发明提出一种计算机存储介质,如图5,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器读取并运行时,实现如上任一项所述的基于多输出分类模型的分类方法。
所述计算机存储介质相对于现有技术与所述基于多输出分类模型的分类方法所具有的优势相同,在此不再赘述。
本发明提出一种计算机设备,如图5,包括存储有计算机程序的计算机可读存储介质和处理器,所述计算机程序被所述处理器读取并运行时,实现如上任一项所述的基于多输出分类模型的分类方法。
所述计算机设备相对于现有技术与所述基于多输出分类模型的分类方法所具有的优势相同,在此不再赘述。
虽然本公开披露如上,但本发明公开的保护范围并非仅限于此。本领域技术人员在不脱离本公开的精神和范围的前提下,可进行各种变更与修改,这些变更与修改均将落入本发明的保护范围。
Claims (7)
1.一种基于多输出分类模型的分类方法,其特征在于,所述多输出分类模型包括多分支深度置信网络模型和至少两个分类器,其中,所述多分支深度置信网络模型包括光谱-空间深度置信网络模型分支和地形深度置信网络模型分支,所述基于多输出分类模型的分类方法包括:
获取标定矿区的遥感数据,从所述标定矿区的遥感数据中提取多光谱影像和DEM数据,基于所述多光谱影像和所述DEM数据提取浅层特征,其中,所述浅层特征包括浅层光谱-空间特征和浅层地形特征;
将所述浅层光谱-空间特征进行堆叠,输入至所述光谱-空间深度置信网络模型分支;将所述浅层地形特征进行堆叠,输入至所述地形深度置信网络模型分支,基于所述多分支深度置信网络模型获得融合特征;
将所述融合特征分别输入至少两个所述分类器,获得至少两个二级地物标签;
在所述获取标定矿区的遥感数据,从所述标定矿区的遥感数据中提取多光谱影像和DEM数据,基于所述多光谱影像和所述DEM数据提取浅层特征之前包括:获取训练样本并提取训练多光谱影像和训练DEM数据,基于所述训练多光谱影像和所述训练DEM数据提取训练浅层特征;
将所述训练浅层特征中的浅层光谱-空间特征和浅层地形特征分别进行堆叠,分别构建所述光谱-空间深度置信网络模型与所述地形深度置信网络模型,以获得训练融合特征;
通过第一分类器处理所述训练融合特征,获得初步标签结果,基于所述初步标签结果对所述多输出分类模型进行微调,所述微调包括将所述初步标签结果与人工训练标签进行比对并计算损失,根据所述损失进行反向传播,微调所述多输出分类模型,其中,所述初步标签结果为预测的一级地物标签和预测的二级地物标签,其中,所述分类器包括所述第一分类器,所述微调包括:分别微调,包括将所述预测的一级地物标签与一级人工标注标签进行比对,计算一级地物损失,基于所述一级地物损失进行反向传播,微调所述多输出分类模型中的多分支深度置信网络模型;然后通过所述预测的二级地物标签与二级人工标注标签进行比对,计算二级地物损失,基于所述二级地物损失进行反向传播,再次微调所述多输出分类模型中的多分支深度置信网络模型;或综合微调,包括将所述预测的一级地物标签与所述一级人工标注标签进行比对、将所述预测的二级地物标签与所述二级人工标注标签进行比对,计算综合损失,使用所述综合损失进行反向传播,微调所述多输出分类模型中的多分支深度置信网络模型,其中,所述综合损失包括加权后的一级地物损失与二级地物损失。
2.根据权利要求1所述的基于多输出分类模型的分类方法,其特征在于,在所述将所述融合特征分别输入至少两个所述分类器,获得至少两个二级地物标签之后,还包括:
分别计算至少两个所述二级地物标签与人工标注标签的损失,以获得对应的损失;
将损失最小的二级地物标签对应的分类器作为所述标定矿区的遥感数据所属类别对应的分类器。
3.根据权利要求2所述的基于多输出分类模型的分类方法,其特征在于,所述将所述训练浅层特征中的浅层光谱-空间特征和浅层地形特征分别进行堆叠,分别构建所述光谱-空间深度置信网络模型与所述地形深度置信网络模型包括:
基于无监督预训练获得所述光谱-空间深度置信网络模型和所述地形深度置信网络模型,所述无监督预训练包括:基于所述训练浅层特征逐一构建受限玻尔兹曼机模型,采用堆叠方式处理所有的受限玻尔兹曼机模型,分别获得所述光谱-空间深度置信网络模型和所述地形深度置信网络模型,其中,所述堆叠方式包括将每个所述受限玻尔兹曼机模型的输入为前一个受限玻尔兹曼机模型的输出;
将所述光谱-空间深度置信网络模型分支和所述地形深度置信网络模型分支进行堆叠,获得全连接层,其中,所述全连接层用于获得所述训练融合特征。
4.根据权利要求3所述的基于多输出分类模型的分类方法,其特征在于,令所述二级地物损失的权重为1,所述一级地物损失的权重设为W,当所述预测的一级地物标签过拟合时,所述一级地物损失的权重W的取值范围为1-10;当所述预测的一级地物标签欠拟合时,所述一级地物损失的权重W的取值范围为0.1-1。
5.根据权利要求4所述的基于多输出分类模型的分类方法,其特征在于,所述根据所述损失进行反向传播,微调所述多输出分类模型包括:
将所述光谱-空间深度置信网络模型分支和所述地形深度置信网络模型分支的受限玻尔兹曼机层数设为预设的同一个数,记为depth;将所述光谱-空间深度置信网络模型分支和所述地形深度置信网络模型分支的隐层节点数分别记为node_s和node_t,同时调整depth、node_s和node_t;
使用试错法寻优超参数,所述超参数包括迭代次数、批大小、学习率和dropout。
6.一种计算机设备,其特征在于,包括存储有计算机程序的计算机可读存储介质和处理器,所述计算机程序被所述处理器读取并运行时,实现如权利要求1-5任一项所述的基于多输出分类模型的分类方法。
7.一种计算机存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器读取并运行时,实现如权利要求1-5任一项所述的基于多输出分类模型的分类方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110690722.4A CN113139532B (zh) | 2021-06-22 | 2021-06-22 | 一种基于多输出分类模型的分类方法、计算机设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110690722.4A CN113139532B (zh) | 2021-06-22 | 2021-06-22 | 一种基于多输出分类模型的分类方法、计算机设备及介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113139532A CN113139532A (zh) | 2021-07-20 |
CN113139532B true CN113139532B (zh) | 2021-09-21 |
Family
ID=76815841
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110690722.4A Active CN113139532B (zh) | 2021-06-22 | 2021-06-22 | 一种基于多输出分类模型的分类方法、计算机设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113139532B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113723464B (zh) * | 2021-08-02 | 2023-10-03 | 北京大学 | 一种遥感影像分类方法及装置 |
CN113554356B (zh) * | 2021-09-18 | 2023-06-20 | 中国地质大学(武汉) | 基于多模型融合的人口分布估计方法、装置及存储介质 |
CN113963262B (zh) * | 2021-12-20 | 2022-08-23 | 中国地质大学(武汉) | 一种矿区土地覆盖分类方法、设备、装置及存储介质 |
CN114579964A (zh) * | 2022-04-29 | 2022-06-03 | 成都明途科技有限公司 | 一种信息监测方法及装置、电子设备、存储介质 |
CN116030355B (zh) * | 2023-03-30 | 2023-08-11 | 武汉城市职业学院 | 一种地物分类方法及系统 |
CN116091850B (zh) * | 2023-04-11 | 2023-06-23 | 中国地质大学(武汉) | 一种矿区土地覆盖分类模型建立及分类方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105512661A (zh) * | 2015-11-25 | 2016-04-20 | 中国人民解放军信息工程大学 | 一种基于多模态特征融合的遥感影像分类方法 |
CN106815601A (zh) * | 2017-01-10 | 2017-06-09 | 西安电子科技大学 | 基于递归神经网络的高光谱图像分类方法 |
US9842264B2 (en) * | 2015-08-12 | 2017-12-12 | Chiman KWAN | Method and system for UGV guidance and targeting |
CN110287317A (zh) * | 2019-06-06 | 2019-09-27 | 昆明理工大学 | 一种基于cnn-dbn的层次多标签医疗问题分类方法 |
CN110490218A (zh) * | 2019-06-10 | 2019-11-22 | 内蒙古工业大学 | 一种基于两级dbn的滚动轴承故障自学习方法 |
CN110796163A (zh) * | 2019-09-19 | 2020-02-14 | 中国地质大学(武汉) | 一种顾及光谱重要性的高光谱影像空谱分类方法及装置 |
CN111507321A (zh) * | 2020-07-01 | 2020-08-07 | 中国地质大学(武汉) | 多输出土地覆盖分类模型的训练方法、分类方法及装置 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104102929B (zh) * | 2014-07-25 | 2017-05-03 | 哈尔滨工业大学 | 基于深度学习的高光谱遥感数据分类方法 |
US11087228B2 (en) * | 2015-08-12 | 2021-08-10 | Bae Systems Information And Electronic Systems Integration Inc. | Generic probabilistic approximate computational inference model for streaming data processing |
-
2021
- 2021-06-22 CN CN202110690722.4A patent/CN113139532B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9842264B2 (en) * | 2015-08-12 | 2017-12-12 | Chiman KWAN | Method and system for UGV guidance and targeting |
CN105512661A (zh) * | 2015-11-25 | 2016-04-20 | 中国人民解放军信息工程大学 | 一种基于多模态特征融合的遥感影像分类方法 |
CN106815601A (zh) * | 2017-01-10 | 2017-06-09 | 西安电子科技大学 | 基于递归神经网络的高光谱图像分类方法 |
CN110287317A (zh) * | 2019-06-06 | 2019-09-27 | 昆明理工大学 | 一种基于cnn-dbn的层次多标签医疗问题分类方法 |
CN110490218A (zh) * | 2019-06-10 | 2019-11-22 | 内蒙古工业大学 | 一种基于两级dbn的滚动轴承故障自学习方法 |
CN110796163A (zh) * | 2019-09-19 | 2020-02-14 | 中国地质大学(武汉) | 一种顾及光谱重要性的高光谱影像空谱分类方法及装置 |
CN111507321A (zh) * | 2020-07-01 | 2020-08-07 | 中国地质大学(武汉) | 多输出土地覆盖分类模型的训练方法、分类方法及装置 |
Non-Patent Citations (4)
Title |
---|
A Multi-Level Output-Based DBN Model for Fine Classification of Complex Geo-Environments Area Using Ziyuan-3 TMS Imagery;Meng Li 等;《Sensors》;mdpi;20210316;1-11 * |
Multimodal and Multi-Model Deep Fusion for Fine Classification of Regional Complex Landscape Areas Using ZiYuan-3 Imagery;Xianju Li 等;《Remote Sens》;mdpi;20191119;1-28 * |
基于深度神经网络的多/高光谱与高程数据联合分类研究;李春阳;《中国优秀硕士学位论文全文数据库信息科技辑》;20180215;33-35 * |
高光谱-LiDAR多级融合城区地表覆盖分类;曹琼 等;《遥感学报》;20190925;892-903 * |
Also Published As
Publication number | Publication date |
---|---|
CN113139532A (zh) | 2021-07-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113139532B (zh) | 一种基于多输出分类模型的分类方法、计算机设备及介质 | |
Meier et al. | Digital soil mapping using machine learning algorithms in a tropical mountainous area | |
Tseng et al. | A genetic algorithm rule-based approach for land-cover classification | |
Mas et al. | The application of artificial neural networks to the analysis of remotely sensed data | |
CN110110802A (zh) | 基于高阶条件随机场的机载激光点云分类方法 | |
CN105488528A (zh) | 基于改进自适应遗传算法的神经网络图像分类方法 | |
CN113963262B (zh) | 一种矿区土地覆盖分类方法、设备、装置及存储介质 | |
CN112347970B (zh) | 一种基于图卷积神经网络的遥感影像地物识别方法 | |
Ji et al. | GA-SVR algorithm for improving forest above ground biomass estimation using SAR data | |
Zhang et al. | A Study of Image Classification of Remote Sensing Based on Back‐Propagation Neural Network with Extended Delta Bar Delta | |
CN110097529A (zh) | 一种基于语义规则的农田定级单元划分方法及系统 | |
CN111695468A (zh) | 一种基于K-shot学习的极化SAR地物分类方法 | |
CN113139717B (zh) | 作物苗情分级遥感监测方法及装置 | |
Yu et al. | The study of artificial intelligence for predicting land use changes in an arid ecosystem | |
Jiang et al. | Woodland cover change assessment using decision trees, support vector machines and artificial neural networks classification algorithms | |
Toledo et al. | Maize yield prediction based on multi-modality remote sensing and LSTM models in nitrogen management practice trials | |
Zhang et al. | Tree-shaped multiobjective evolutionary CNN for hyperspectral image classification | |
Feng et al. | Greenhouse extraction from high-resolution remote sensing imagery with improved random forest | |
CN115546179A (zh) | 基于优化模糊深度网络的林木胸径材积精准预测方法 | |
Choudhury et al. | An acquisition based optimised crop recommendation system with machine learning algorithm | |
Marcial et al. | A maximum entropy approach for mapping falcata plantations in sentinel-2 imagery | |
Guo et al. | Community structure discovery method based on the Gaussian kernel similarity matrix | |
Zhang et al. | Classification of fully polarimetric SAR images based on ensemble learning and feature integration | |
Aitkenhead et al. | Improving land-cover classification using recognition threshold neural networks | |
Garcia-Gutierrez et al. | EVOR-STACK: A label-dependent evolutive stacking on remote sensing data fusion |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |