CN108764138A - 一种基于多维多粒度级联森林的高原地区云雪分类方法 - Google Patents

Abstract

本发明涉及一种基于多维多粒度级联森林的高原地区云雪分类方法，本发明利用多维多粒度级联森林的多维多粒度扫描结构对高原地区的云雪图像样本进行空间特征提取，通过多维扫描的方式提取多光谱图像的光谱信息，然后将所提取的空间特征和光谱信息用于多维多粒度级联森林的级联森林结构的训练。该方式在准确度提高的前提下，在同等硬件条件下样本的训练速度和样本的分类速度比传统卷积深度学习快实验结果表明，本发明得到的结果较好，更适合卫星图像的云雪分类研究。

Description

一种基于多维多粒度级联森林的高原地区云雪分类方法

技术领域

本发明属于计算机视觉技术领域，特别涉及了一种基于多维多粒度级联森林的高原地区云雪分类方法。

背景技术

随着卫星遥感技术的不断发展，卫星遥感影像的应用也越来越广泛，涉及到资源调查、自然灾害、环境污染等各个方面，其中遥感卫星对于雪灾监测也成为主要的技术手段。然而云雪分类存在着许多技术难题，主要体现在三个方面，一是云雪表面特征复杂，二是云雪光谱特征的相似性，三是云的存在会对光信号传播造成障碍，从而导致遥感影像数据测量精度的缺失。

针对上述问题，主要方法有以下四种：一是利用新的判别因子，使得云的纹理特征更加明显，有利于人眼判别。二是改进的多光谱云雪判别的方法，通过改进的多光谱云雪判别方法对云雪分类的问题做了简要的分析。三是基于分形维数的全色影像云雪自动判别方法，相比之前的判别方法有了较大改进。四是基于多种纹理特征的全色图像云雪区特征提取，通过分形维数，灰度共生矩阵，小波变换等方法提取多种云雪的纹理特征，最后使用径向基核函数的支持向量机分类器来进行云雪的检测。

然而上述传统方法都存在着参数量太少，以及特征都过于单一，从而忽略了很多有价值的特征，而且都是人工提取特征，需要云雪分类相关的专家多年的积累和经验才能手工设计出来。随着大数据时代的到来以及GPU等更强大的计算设备的发展，深度学习的发展有了质的飞跃。深度学习相对于传统的方法具有非常明显的技术优势。多粒度级联森林是一种探索深度学习以外的一种深度方法。相比神经网络，多粒度级练森林有着参数量少、训练和测试速度快、泛化性能好等优点，利用多维多粒度级联森林，可以充分提取多光谱数据中的空间特征和光谱信息，使得其在多光谱数据的云雪识别中有着很好的准确率，且其需要优化的参数量远少于卷积神经网络，需要设置的参数较少，易于调优，在分类速度上要卷积神经网络快，更适合后续的气象工作及应用。

发明内容

本发明的目的是克服上述背景技术的不足，提供一种基于多维多粒度级联森林的高原地区云雪分类方法，克服了传统神经网络对云图特征利用率不够的缺陷。为了实现上述技术目的，本发明的技术方案为：

本发明的目的是克服上述背景技术的不足，提供一种基于密集连接卷积神经网络的强化学习方法，克服了传统深度强化学习中卷积神经网络层数加深后计算参数量大，信号传递缓慢的缺陷。为了实现上述技术目的，本发明的技术方案为：

一种多维多粒度级联森林的高原地区云雪分类方法，包括如下步骤：

步骤一、多维多粒度级联森林模型结构的训练：设定多维多粒度扫描的维度与光谱数量相等，利用已标注的样本(X_i,Y_i)，通过不同粒度的窗口对该多维多粒度级联森林的多粒度扫描结构进行特征重表示,使用多维多粒度扫描的级联森林结构对重表示的特征进行学习，得到最优的级联森林参数,其中，X_i为一个n×n的图像块，Y_i表示X_i对应的图像样本的分类，n满足10≤n≤50，i代表第i个样本，i＝1,2,3,...,p，p为样本总数；

步骤二、卫星图片云分类：将卫星图片分成每个像素块大小为n×n×4的小块，作为多维多粒度级联森林的输入数据，得到整个多维多粒度级联森林的输出，根据最后一层级联森林输出的类概率向量的最大值判定云雪样本的种类。

所述多维多粒度级联森林模型的算法包括多维多粒度扫描部分、特征重表示部分和基于级联森林的训练部分；

所述多维多粒度扫描部分通过扫描得到图像的空间信息以及光谱信息维度上的信息提取；

特征重表示部分将多维多粒度扫描部分扫描得到的所有小样本用于一个普通随机森林和一个完全随机森林的预测，得到每个小样本所属的类概率向量拼接起来得到重新表示的特征。给定一定大小的滑动窗口，根据多维多粒度扫描部分的算法原理，一张卫星图像经过多维多粒度扫描后会得到很多个滑动窗口大小的子样本。

基于级联森林的训练部分将重表示的特征作为级联森林的输入，每个级联森林中包含四个随机森林，其中两个为普通随机森林，两个为完全随机森林，基于随机森林理论进行对重表示的特征特征分类学习，得到每一层的级联森林的参数。

对上述技术方案得劲新一步设计为：用不同粒度的窗口获得重表示特征具体包括如下步骤：

a、输入的卫星图片样本X经过不同粒度的窗口，利用窗口尺寸为a和b，步长为s进行扫描，经扫描后，每个样本会得到个小样本，a，b满足a,b＜n且a，b不相等；

b、多粒度扫描后的小样本分别经过一个随机森林和一个完全随机森林，每个随机森林中的每棵树会根据小样本所在的子空间中训练样本的类别占比生成一个类别的概率分布，即每个小样本会得到一个长度为4的类概率向量，将所有小样本得到的类概率向量进行拼接，得到一个长度为的概率向量，以此类概率向量作为得到重表示特征；

c、级联森林中每一层均由四个随机森林组成，其中两个为普通随机森林，两个为完全随机森林，将所得到的的重表示特征作为级联森林的输入，并开始级联森林的训练与构造。

d、每一层级联森林的输出是四个随机森林对重表示特征预测的概率向量，级联森林第j层的输出K_j与第j-1层输出的向量拼接可作级联森林第j+1层的输入，其中第2层的输入为第1层级联森林预测得到的概率向量与重表示特征的拼接向量。级联森林阶段中每层的四个随机森林都采用了K折交叉验证的方法，级联森林中的每一层的构造利用交叉验证方法中的检验集对该层的性能进行评估，如果当前层对检验集的预测准确率相比上一层没有提升，则不再构造级联森林的下一层。

所述步骤c中级联森林的具体算法如下：

首先，设定级联森林的每个随机森林中的决策树为1000个，随机森林中的每棵树会根据样本所在的子空间中训练样本的类别占比生成一个类别的概率分布，然后对随机森林内所有树的各类比例取平均，输出整个随机森林对各类的比例；

然后，将级联森林每层中的各个随机森林所输出的对各类的比例进行拼接，当前层得到的拼接后的概率向量与上一层的输出进行拼接，利用K折交叉验证算法，若当前层的验证准确率相比上一层有提升，则将当前层输出的类概率向量与上一层得到的向量进行拼接，作为级联森林下一层的输入，否则级联森林的构造结束。

所述云雪分类学习的具体步骤为：利用多维多粒度扫描，由单个原始样本产生多个实例，利用两个随机森林的预测所有实例的类概率，将所有实例的类概率向量进行拼接得到重表示特征，作为级联森林结构的输入，利用级联森林结构中每个随机森林的K折交叉验证算法对该重表示特征进行学习，得到级联森林的参数。

所述多维多粒度级联森林输出的云雪分类结果包括四种：无云无雪、仅有云、仅有雪和云雪混合，输出样本设定为对应的类别。

随机森林算法的具体算法为：给定一个测试样本，随机森林中的每棵树会根据样本所在的子空间中训练样本的类别占比生成一个类别的概率分布，然后对随机森林内所有树的各类比例取平均，输出整个随机森林对各类的比例。输入向量在每棵树中都会找到一条路径去找到自己所属的子空间，在不同的决策树上找到的子空间可能是不一样的，所以我们可以对不同类别进行统计获取各类的比例，然后通过对所有树的比例进行求均值生成整个森林的概率分布。

本发明的有益效果为：

本实施例利用多维多粒度扫描的思想实现空间特征和光谱信息的自动提取，并通过构造级联森林的结构实现数据的训练，不需要反向误差学习，是一种基于决策树结构的深度算法，改变了传统深度学习需要误差反向传播的方式，该方式在准确度提高的前提下，在同等硬件条件下样本的训练速度比传统卷积深度学习提高10倍以上，样本的分类速度提高3倍以上，非常适合卫星图像的云雪分类研究。

而本专利中使用的数据样本的不仅包含了三个可见光的光谱，还整合了红外光的光谱信息，样本是N×N×4的，卫星图像的光谱信息更加完整，分类更为准确。

在本发明中，多维多粒度扫描的方式是多维的，一次性扫描出样本的空间信息和4个光谱信息，扫描效率高。

附图说明

图1是本发明的基本流程图。

图2是本发明中多维多粒度扫描结构图。

图3本发明中级联森林结构图。

图4是本发明的多维多粒度级联森林的结构图。

具体实施方式

下面结合附图和具体实施方式对本申请作进一步详细的说明。

以下将结合附图，对本发明的技术方案进行详细说明。

如图1所示，本实施例的多维多粒度级联森林的高原地区云雪分类方法，包括以下步骤：

步骤1：多维多粒度级联森林模型结构的训练：设定多维多粒度扫描的维度与光谱数量相等，不同a，b三种不同粒度的窗口以及步长s，a，b满足a,b＜n且a，b不相等，利用已标注的样本(X_i,Y_i)，对该多维多粒度级联森林的多粒度扫描结构进行特征重表示,使用多维多粒度扫描的级联森林结构对重表示的特征进行学习，得到最优的级联森林参数,其中，X_i为一个n×n的图像块，Y_i表示X_i对应的图像样本的分类(本发明中分为无云无雪、仅有云、仅有雪以及云雪混合)，n满足10≤n≤50，i代表第i个样本，i＝1,2,3,...,p，p为样本总数。

如图2所示，设定多维多粒度扫描结构模型设定扫描的维度总数为光谱数量4，以两种不同粒度大小的窗口14和7，步长为7对原始样本进行多粒度扫描，单个原始样本的尺寸为28×28，经过以上两种尺寸的粒度扫描得到9个14×14×4的实例和16个7×7×4的实例。

在《一种基于多粒度级联森林网络的云图分类方法》中，采用步长为1，采用的是交叉滑动的方式，滑到的样本的相似度极高，这样得到的子样本的数量虽然增加了，但是相应的在在多粒度扫描部分的级联森林的计算量也大了，而得到的重表示的特征向量的维度的会很大，

本发明中，在进行多粒度扫描时分别采用交叉滑动和非交叉滑动的方式，在保证集成学习多样性的前提下，大大减少了计算量。其中交叉滑动方式中采用滑动窗口大小的14，步长为7，这样滑动得到的相邻子样本之间有50％是一样图像信息是一样的，在非交叉滑动方式中，采用滑动窗口的大小是7，步长也为7。使得得到的重表示的特征向量的维度小，由于后面级联森林部分是随该重表示特征向量的反复学习，这样的交叉与非交叉滑动的方式更够使得后面的级联森林的计算量也相应减小。

本发明中多维多粒度扫描阶段的两个随机森林中的每棵树会根据小样本所在的子空间中训练样本的类别占比生成一个类别的概率分布，即得到了每个实例的类概率向量，则每个随机森林得到25个4维的概率向量。将所有小样本经过两个随机森林得到的类概率向量进行拼接，得到一个长度为200的概率向量，拼接后的类概率向量代表重表示的特征。

如图3所示，本发明集中对无云无雪、仅有云、仅有雪、云雪混合四种样本进行四分类。不同于晴天、薄运和厚云的三分类方法在计算厚云与薄云交界处的概率存在一定的误差，本发明在样本的采集过程中包含了云雪交界、云雪覆盖等样本，省去了混合类的计算，使分类更为准确。

因此，每个随机森林对每个输入数据预测都会产生长度为4的概率向量，级联森林中的每一层由4个随机森林，将四个随机森林产生的概率向量拼接起来，那么四个森林就相当于在每一层的级联森林后得到了16个扩充特征，将这16个新的特征和原始特征进行拼接，就得到了新的表征。以此类推，如图1所示，当第N层的级联森林层对检验集的预测准确率比第N-1层的预测准确率有所提升，则将第N层得到的预测概率向量和第N-1层的输出的向量进行拼接，作为第N+1层输入，继续构造级联森林。若准确率没有提升，则级联森林构造结束。

如图4所示，利用多维多粒度扫描得到多个原始样本的子样本，随机森林根据子样本所在样本空间的概率分布产生类概率向量，将所有堆积森林预测实例的类概率向量进行拼接，得到重表示特征，将重表示特征作为简练森林的输入，开始级联森林的构造和训练。

在本发明中，多维多粒度扫描的方式是多维的，一次性扫描出样本的空间信息和4个光谱信息，而现有方法中多维多粒度扫描是先分别在每个光谱数据上进行扫描，然后将扫描后得到的每个光谱数据的信息进行整合得到扫描后的子样本，相当于多粒度扫描的方式重复了3次，这样是比较耗时的，本文在多粒度扫描部分进行了改进，将多粒度扫描部分改为一次性扫描得到空间信息和光谱信息，扫描操作只做了1次，提高了扫描效率。

步骤2：卫星图片云雪分类，将卫星图片分成每个像素大小为28×28的小块，作为神经网络的输入数据，并得到整个网络的输出。通过输出值进行最终分类，本发明采用最后一层级联森林的输出平均类概率向量取最大值方法进行分类，即根据输出的最大值判定云雪图片的种类。本实施例中多维多粒度级联森林输出的云雪分类结果包括四种：无云无雪、仅有云、仅有雪和云雪混合。且设定输出样本设定为对应的一维向量。

以上实施例仅为说明本发明的技术思想，不能以此限定本发明的保护范围，凡是按照本发明提出的技术思想，在技术方案基础上所做的任何改动，均落入本发明保护范围之内。

Claims (6)

1.一种多维多粒度级联森林的高原地区云雪分类方法，其特征在于包括如下步骤：

步骤一、多维多粒度级联森林模型结构的训练：设定多维多粒度扫描的维度与光谱数量相等，利用已标注的样本(X_i,Y_i)，通过不同粒度的窗口对该多维多粒度级联森林的多粒度扫描结构进行特征重表示,使用多维多粒度扫描的级联森林结构对重表示的特征进行学习，得到最优的级联森林参数,其中，X_i为一个n×n的图像块，Y_i表示X_i对应的图像样本的分类，n满足10≤n≤50，i代表第i个样本，i＝1,2,3,...,p，p为样本总数；

步骤二、卫星图片云分类：将卫星图片分成每个像素块大小为n×n×4的小块，作为多维多粒度级联森林的输入数据，得到整个多维多粒度级联森林的输出，根据最后一层级联森林输出的类概率向量的最大值判定云雪样本的种类。

2.根据权利要求1所述一种基于多维多粒度级联森林的云雪分类方法，其特征在于：所述多维多粒度级联森林模型的算法包括多维多粒度扫描部分、特征重表示部分和基于级联森林的训练部分；

所述多维多粒度扫描部分通过扫描得到图像的空间信息以及光谱信息维度上的信息提取；

特征重表示部分将多维多粒度扫描部分扫描得到的所有小样本用于一个普通随机森林和一个完全随机森林的预测，得到每个小样本所属的类概率向量拼接起来得到重新表示的特征。

基于级联森林的训练部分将重表示的特征作为级联森林的输入，每个级联森林中包含四个随机森林，其中两个为普通随机森林，两个为完全随机森林，基于随机森林理论进行对重表示的特征特征分类学习，得到每一层的级联森林的参数。

3.根据权利要求2所述的基于多维多粒度级联森林的高原地区云雪分类方法，其特征在于：用不同粒度的窗口获得重表示特征具体包括如下步骤：

a、输入的卫星图片样本X经过不同粒度的窗口，利用窗口尺寸为a和b，步长为s进行扫描，经扫描后，每个样本会得到个小样本，a，b满足a,b＜n且a，b不相等；

b、多粒度扫描后的小样本分别经过一个随机森林和一个完全随机森林，每个随机森林中的每棵树会根据小样本所在的子空间中训练样本的类别占比生成一个类别的概率分布，即每个小样本会得到一个长度为4的类概率向量，将所有小样本得到的类概率向量进行拼接，得到一个长度为的概率向量，以此类概率向量作为得到重表示特征；

c、级联森林中每一层均由四个随机森林组成，其中两个为普通随机森林，两个为完全随机森林，将所得到的的重表示特征作为级联森林的输入，并开始级联森林的训练与构造。

d、每一层级联森林的输出是四个随机森林对重表示特征预测的概率向量，级联森林第j层的输出K_j与第j-1层输出的向量拼接可作级联森林第j+1层的输入，其中第2层的输入为第1层级联森林预测得到的概率向量与重表示特征的拼接向量。级联森林阶段中每层的四个随机森林都采用了K折交叉验证的方法，级联森林中的每一层的构造利用交叉验证方法中的检验集对该层的性能进行评估，如果当前层对检验集的预测准确率相比上一层没有提升，则不再构造级联森林的下一层。

4.根据权利要求3所述一种基于多维多粒度级联森林的高原地区云雪分类方法，其特征在于：所述步骤c中级联森林的具体算法如下：

首先，设定级联森林的每个随机森林中的决策树为1000个，随机森林中的每棵树会根据样本所在的子空间中训练样本的类别占比生成一个类别的概率分布，然后对随机森林内所有树的各类比例取平均，输出整个随机森林对各类的比例；

然后，将级联森林每层中的各个随机森林所输出的对各类的比例进行拼接，当前层得到的拼接后的概率向量与上一层的输出进行拼接，利用K折交叉验证算法，若当前层的验证准确率相比上一层有提升，则将当前层输出的类概率向量与上一层得到的向量进行拼接，作为级联森林下一层的输入，否则级联森林的构造结束。

5.根据权利要求1所述一种基于多维多粒度级联森林的高原地区云雪分类方法，其特征在于：所述云雪分类学习的具体步骤为：利用多维多粒度扫描，由单个原始样本产生多个实例，利用两个随机森林的预测所有实例的类概率，将所有实例的类概率向量进行拼接得到重表示特征，作为级联森林结构的输入，利用级联森林结构中每个随机森林的K折交叉验证算法对该重表示特征进行学习，得到级联森林的参数。

6.根据权利要求4或5所述一种基于多维多粒度级联森林的高原地区云雪分类方法，其特征在于：所述多维多粒度级联森林输出的云雪分类结果包括四种：无云无雪、仅有云、仅有雪和云雪混合，输出样本设定为对应的类别。