CN111460966A - 基于度量学习和近邻增强的高光谱遥感图像分类方法 - Google Patents

Abstract

本发明提供一种基于度量学习和近邻增强的高光谱遥感图像分类方法，包括：S1、对所有样本数据进行平滑滤波，并划分为训练样本和测试样本；S2、采用度量学习算法从训练样本中学习得到马氏距离度量矩阵；S3、计算马氏距离加权的Tikhonov矩阵，进一步得到光谱正则化项；S4、计算空间距离加权的矩阵，进一步得到空间正则化项；S5、对正则化项进行近邻增强，构建基于协同表示的分类模型；S6、求解分类模型，得到协同表示系数，并根据重构误差最小原则对当前测试样本分配标签；S7、判断是否对所有测试样本进行了预测，若否，则重复步骤S3‑S6，否则输出分类结果图。本方法在高光谱遥感图像分类处理中，具有创新性、前沿性以及实用性。

Description

基于度量学习和近邻增强的高光谱遥感图像分类方法

技术领域

本发明涉及遥感图像处理技术领域，尤其涉及一种基于度量学习和近邻增强的高光谱遥感图像分类方法。

背景技术

高光谱遥感图像是由高光谱传感器同时探测目标的二维空间信息与一维光谱信息获取到的具有高分辨率、多波段等丰富信息的图像数据，被广泛应用于精细农业、资源管理、矿产探查和环境保护等领域。高光谱遥感图像分类任务是高光谱遥感技术领域最基础最重要的任务之一，旨在给每个像素分配一个唯一的地物标签，但高光谱遥感图像自身存在的波段众多、数据冗余大、波段相关性高、训练数据获取难度高等特点，使得一般的机器学习模型分类性能不佳。近年来，支持向量机(Support Vector Machine，SVM)、随机场(Random Field，RF)、稀疏表示(Sparse Representation，SR)、协同表示(CollaborativeRepresentation，CR)、深度学习(Deep Learning，DL)等技术相继应用在高光谱遥感图像分类领域，其中，基于协同表示的分类模型以其具有不事先假设数据具有何种分布、易于实现、高效率等优势受到广泛的关注。

协同表示的分类模型最早应用于人脸识别，因其良好的分类性能表现被应用于高光谱图像分类领域，现有的基于协同表示的分类模型按照有无添加空间信息，可分为基于光谱的协同表示分类模型，以及基于光谱-空谱联合(简称空谱联合)的协同表示分类模型。前者的代表模型主要包括NRS、KCRT、以及DKCRT等，后者的代表模型主要包括GCR、JCR、以及JSaCR等。然而，上述模型虽能取得不错的分类性能，但存在两个缺点：第一，上述模型普遍采用基于距离加权的Tikhonov正则化项来约束表示系数，且其距离采用欧氏距离，忽视了高光谱遥感图像自身存在的特性，即不同波段重要性不一、波段之间存在关联性；第二，协同表示模型让所有训练样本均去线性表示测试样本，表示系数的大小体现了对应的训练样本对重构测试样本的贡献，但这一过程中并未考虑噪声样本的干扰性。

专利号为CN201910504958的中国专利公开了一种基于Bagging的高光谱遥感协同表示集成学习分类方法，利用Bagging的集成方式解决单一协同表示分类器存在的泛化性不强、稳定性不够等问题；专利号为CN201310025247的中国专利公开了一种基于局部协同表示和领域信息约束的高光谱图像分类方法，用于解决现有技术中计算复杂度高的问题；专利号为CN201810895028的中国专利公开了一种基于核协同表示的高光谱图像交互式分类方法，用于解决有限的训练样本的问题；专利号为CN201810012089的中国专利公开了一种加权稀疏和协同表示系数的高光谱影像分类方法，通过结合稀疏表示分类算法(SRC)和协同表示分类算法(CRC)各自的优势，用于解决SRC算法所忽视的同类样本间的协同作用以及CRC对原子不具有选择能力的问题。

上述发明专利要么从模型融合的角度出发，集成多个CRC或者结合其他模型来提高分类性能，比如SRC等，要么从数据预处理的角度出发，选取近邻样本或人工挑选样本，但最后所使用的分类器均为最基础的CRC。这些专利都没有弥补CRC模型自身存在的缺陷，即CRC模型在度量样本之间的相似度时未考虑高光谱遥感图像的波段重要性不一、波段之间存在相关性以及噪声样本的存在等问题。

发明内容

有鉴于此，本发明提供了一种基于度量学习和近邻增强的高光谱遥感图像分类方法，解决高光谱遥感图像波段重要性不一、波段之间存在相关性以及噪声样本的存在等问题。

本发明提供一种基于度量学习和近邻增强的高光谱遥感图像分类方法，包括以下步骤：

S1、对所有高光谱遥感图像样本数据进行平滑滤波，并将平滑滤波后的样本数据划分为训练样本集和测试样本集；

S2、采用度量学习算法从训练样本集中学习得到马氏距离度量矩阵；

S3、从测试样本集中选择一个测试样本作为当前测试样本，根据当前测试样本以及训练样本集计算马氏距离加权的Tikhonov矩阵，进一步得到光谱正则化项；

S4、根据当前测试样本以及训练样本集计算空间距离加权的矩阵，进一步得到空间正则化项；

S5、对所述光谱正则化项以及空间正则化项进行近邻增强，构建基于协同表示的分类模型；

S6、求解所述分类模型，得到协同表示系数，并根据重构误差最小原则对所述测试样本分配标签；

S7、判断是否对所有测试样本集中的样本进行了预测，若否，则重复步骤S3-S6，否则输出分类结果图。

进一步地，其特征在于，所述步骤S1中采用的平滑滤波具体过程为：对于样本x_i，其坐标表示为(p_i,q_i)，以样本x_i为中心的相邻空间为：

Ω(x_i)＝{x(p,q)|p∈[p_i-t,p_i+t],q∈[q_i-t,q_i+t]}，

式中，i表示第i个样本，t＝(r-1)/2，r为正奇数，用于控制平滑滤波空间窗口大小，Ω(x_i)空间包含样本

对样本x_i进行平滑滤波的结果为：

式中，j＝i,i1,i2,…,i(r²-1)。

进一步地，其特征在于，所述步骤S2中，所述度量学习算法为ITML算法。

进一步地，其特征在于，所述步骤S3的具体过程为：

对于当前测试样本y，训练样本集为X＝[x₁,x₂,…,x_N]，计算得到的马氏距离加权的Tikhonov矩阵为

i＝1,2,…,N，N表示训练样本数目，其中，

M表示步骤S2中学习到的马氏距离度量矩阵；由此确定光谱正则化项为

其中，α为协同表示系数。

进一步地，其特征在于，所述步骤S4的具体过程为：

对于当前测试样本y，其对应的空间坐标为(p_y,q_y)，训练样本集为X＝[x₁,x₂,…,x_N]，其中，训练样本x_i对应的空间坐标为(p_i,q_i)，测试样本y与训练样本x_i之间的空间距离为：

s_i＝[dist((p_i,q_i),(p_y,q_y))]^c，

式中，dist(·)表示欧氏距离计算公式，c表示用来调节空间坐标距离的衰减速度，因此空间坐标距离加权的矩阵为S＝diag(s_i)，i＝1,2,…,N，N表示训练样本数目，由此确定空间正则化项为

其中，α为协同表示系数。

进一步地，其特征在于，所述步骤S5中进行近邻增强的具体过程为：

对步骤S3中得到的Tikhonov矩阵Γ中的对角线元素作升序排序，得到与测试样本y在光谱上近邻的k个训练样本集合U_spectral，k为大于零的整数；对步骤S4中得到的矩阵S中的对角线元素作升序排序，得到与测试样本y在空间上近邻的k个训练样本集合U_spatial；求所述两个集合U_spectral、U_spatial的并集，得到近邻样本集合U_ss＝{x₁,x₂,…,x_l}，根据所述近邻样本集合U_ss中元素对矩阵Γ、S中的对角线元素重排序，结果分别为：

s₁,s₂,…,s_l,…,s_N；

其中，前l个元素由近邻样本集合U_ss中的样本得到；由此，得到进行近邻增强后的光谱正则化项

和空间正则化项

其中：

σ表示惩罚系数，用于在协同表示模型中扩大训练样本中近邻区间与非近邻区域的样本对测试样本y的贡献差距。

进一步地，其特征在于，所述步骤S5中构建得到的基于协同表示的分类模型为：

其中，λ、γ分别表示近邻增强后的光谱正则化项和空间正则化项的系数，用于消除量纲差异。

进一步地，所述步骤S6的具体过程为：

利用优化理论求解得到所述分类模型的闭式解为：

由此，根据重构误差最小原则对测试样本y进行预测：

其中，C表示地物类别总数，X_c表示第c类训练样本，α_c表示第c类训练样本X_c对测试样本y的协同表示系数，class(·)表示分类函数，将所有类别的训练样本中对y重构误差最小的那个类标签分配给y。

本发明提供的技术方案带来的有益效果是：解决了高光谱遥感图像波段重要性不一、波段之间存在相关性等问题，改善了样本之间的相似度度量方式，同时采用近邻增强来过滤噪声样本，使得学习到的协同表示系数具有区分度，从而提高了协同表示分类器的分类性能。

附图说明

图1是本发明实施例提供的基于度量学习和近邻增强的高光谱遥感图像分类方法的流程图；

图2是本发明实施例提供的对常用的三种高光谱数据集的分类结果图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明实施方式作进一步地描述。

请参考图1，本发明的实施例提供了一种基于度量学习和近邻增强的高光谱遥感图像分类方法，对常用的高光谱数据集Indian Pines、University of Pavia、以及Salinas数据集进行分类，包括：

S1、采用平滑滤波处理全部高光谱遥感图像样本数据，并将滤波后的数据划分训练样本集和测试样本集。所述平滑滤波的具体过程为：

假设样本x_i的坐标表示为(p_i,q_i)，以样本x_i为中心的相邻空间如下：

Ω(x_i)＝{x(p,q)|p∈[p_i-t,p_i+t],q∈[q_i-t,q_i+t]}，

式中，i表示第i个样本，t＝(r-1)/2，r为正奇数，用于控制平滑滤波空间窗口大小，Ω(x_i)空间包含样本

对样本x_i进行平滑滤波的结果为：

式中，j＝i,i1,i2,…,i(r²-1)。

S2、采用ITML(Information-Theoretic Metric Learning，距离度量学习)算法从训练样本集中学习得到马氏距离度量矩阵。需要说明的是，对于两个任意样本x_i、x_j，它们之间的马氏距离为：

式中，M即为马氏距离度量矩阵，也是ITML算法学习的目标。其中，马氏距离度量矩阵的对角线上的元素能体现出特征对于分类任务的重要性，而其余位置上的元素能体现不同特征之间的相关性；ITML算法作为一种度量学习算法，具备在线学习、高效率、参数少等优势，本发明采用ITML算法从训练样本集中学习高光谱图像波段的重要性以及波段之间的相关性，以达到去除冗余信息从而得到更为精确的相似度的目的。

S3、根据当前测试样本以及训练样本集计算马氏距离加权的Tikhonov矩阵，进一步得到光谱正则化项。具体地，对于当前测试样本y，若训练样本集为X＝[x₁,x₂,…,x_N]，则计算得到的马氏距离加权的Tikhonov矩阵为

i＝1,2,…,N，N表示训练样本数目，由此确定光谱正则化项为

其中，α表示协同表示模型的表示系数。

S4、根据当前测试样本以及训练样本集计算空间坐标距离加权的矩阵，进一步得到空间正则化项。具体地，对于当前测试样本y，其对应的空间坐标为(p_y,q_y)，若训练样本集为X＝[x₁,x₂,…,x_N]，其中，训练样本x_i对应的空间坐标为(p_i,q_i)，则测试样本y与训练样本x_i之间的空间距离为：

s_i＝[dist((p_i,q_i),(p_y,q_y))]^c，

式中，dist(·)表示欧氏距离计算公式，c表示用来调节空间坐标距离的衰减速度，因此空间坐标距离加权的矩阵为S＝diag(s_i)，i＝1,2,…,N，N表示训练样本数目，由此确定空间正则化项为

其中，α表示协同表示模型的表示系数。

S5、对所述光谱正则化项以及空间正则化项进行近邻增强，构建基于协同表示的分类模型。需要说明的是，近邻增强常用于过滤噪声样本，它基于k近邻思想将训练样本集划分为与测试样本相似度高的近邻样本和相似度低的非近邻样本，并通过对非近邻样本施加惩罚，以达到近邻样本对测试样本贡献增强的目的。

具体地，对步骤S3中得到的Tikhonov矩阵Γ中的对角线元素作升序排序，得到与测试样本y在光谱上近邻的k个训练样本集合U_spectral；对步骤S4中得到的矩阵S中的对角线元素作升序排序，得到与测试样本y在空间上近邻的k个训练样本集合U_spatial；求所述两个集合U_spectral、U_spatial的并集，得到近邻样本集合U_ss＝{x₁,x₂,…,x_l}，根据所述近邻样本集合U_ss中元素对矩阵Γ、S中的对角线元素重排序，结果分别为：

s₁,s₂,…,s_l,…,s_N；

其中，前l个元素由近邻样本集合U_ss中的样本得到；由此，得到近邻增强后的光谱正则化项

和空间正则化项

其中：

σ表示惩罚系数，通常取一个较大值，比如σ＝10⁶，用于在协同表示模型中扩大训练样本中近邻区间与非近邻区域的样本对测试样本y的贡献差距。

构建基于协同表示的分类模型如下：

其中，λ、γ分别表示近邻增强后的光谱正则化项和空间正则化项的系数，用于消除量纲差异。

S6、求解所述分类模型，得到协同表示系数α，并根据重构误差最小原则对所述测试样本分配标签。具体地，利用优化理论求解得到所述分类模型的闭式解为：

由此，根据重构误差最小原则对测试样本y进行预测：

其中，C表示地物类别总数，X_c表示第c类训练样本，α_c表示第c类训练样本X_c对测试样本y的协同表示系数，class(·)表示分类函数，将所有类别的训练样本中对y重构误差最小的那个类标签分配给y。

S7、判断是否对所有测试样本集中的样本进行了预测，若否，则重复步骤S3-S6，否则输出分类结果图。请参考图2，图2中(a)部分表示Indian Pines数据集的最终分类结果，(b)部分表示University of Pavia数据集的最终分类结果，(c)部分表示Salinas数据集的最终分类结果。

在本文中，所涉及的前、后、上、下等方位词是以附图中零部件位于图中以及零部件相互之间的位置来定义的，只是为了表达技术方案的清楚及方便。应当理解，所述方位词的使用不应限制本申请请求保护的范围。

在不冲突的情况下，本文中上述实施例及实施例中的特征可以相互结合。

以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (8)

1.基于度量学习和近邻增强的高光谱遥感图像分类方法，其特征在于，包括以下步骤：

S1、对所有高光谱遥感图像样本数据进行平滑滤波，并将平滑滤波后的样本数据划分为训练样本集和测试样本集；

S2、采用度量学习算法从训练样本集中学习得到马氏距离度量矩阵；

S3、从测试样本集中选择一个测试样本作为当前测试样本，根据当前测试样本以及训练样本集计算马氏距离加权的Tikhonov矩阵，进一步得到光谱正则化项；

S4、根据当前测试样本以及训练样本集计算空间距离加权的矩阵，进一步得到空间正则化项；

S5、对所述光谱正则化项以及空间正则化项进行近邻增强，构建基于协同表示的分类模型；

S6、求解所述分类模型，得到协同表示系数，并根据重构误差最小原则对所述测试样本分配标签；

S7、判断是否对所有测试样本集中的样本进行了预测，若否，则重复步骤S3-S6，否则输出分类结果图。

2.根据权利要求1所述的基于度量学习和近邻增强的高光谱遥感图像分类方法，其特征在于，所述步骤S1中采用的平滑滤波具体过程为：对于样本x_i，其坐标表示为(p_i,q_i)，以样本x_i为中心的相邻空间为：

Ω(x_i)＝{x(p,q)|p∈[p_i-t,p_i+t],q∈[q_i-t,q_i+t]}，

式中，i表示第i个样本，t＝(r-1)/2，r为正奇数，用于控制平滑滤波空间窗口大小，Ω(x_i)空间包含样本

对样本x_i进行平滑滤波的结果为：

式中，j＝i,i1,i2,…,i(r²-1)。

3.根据权利要求1所述的基于度量学习和近邻增强的高光谱遥感图像分类方法，其特征在于，所述步骤S2中，所述度量学习算法为ITML算法。

4.根据权利要求1所述的基于度量学习和近邻增强的高光谱遥感图像分类方法，其特征在于，所述步骤S3的具体过程为：

对于当前测试样本y，训练样本集为X＝[x₁,x₂,…,x_N]，计算得到的马氏距离加权的Tikhonov矩阵为

N表示训练样本数目，其中，

M表示步骤S2中学习到的马氏距离度量矩阵；由此确定光谱正则化项为

其中，α为协同表示系数。

5.根据权利要求1所述的基于度量学习和近邻增强的高光谱遥感图像分类方法，其特征在于，所述步骤S4的具体过程为：

对于当前测试样本y，其对应的空间坐标为(p_y,q_y)，训练样本集为X＝[x₁,x₂,…,x_N]，其中，训练样本x_i对应的空间坐标为(p_i,q_i)，测试样本y与训练样本x_i之间的空间距离为：

s_i＝[dist((p_i,q_i),(p_y,q_y))]^c，

式中，dist(·)表示欧氏距离计算公式，c表示用来调节空间坐标距离的衰减速度，因此空间坐标距离加权的矩阵为S＝diag(s_i)，i＝1,2,…,N，N表示训练样本数目，由此确定空间正则化项为

其中，α为协同表示系数。

6.根据权利要求5所述的基于度量学习和近邻增强的高光谱遥感图像分类方法，其特征在于，所述步骤S5中进行近邻增强的具体过程为：

对步骤S3中得到的Tikhonov矩阵Γ中的对角线元素作升序排序，得到与测试样本y在光谱上近邻的k个训练样本集合U_spectral，k为大于零的整数；对步骤S4中得到的矩阵S中的对角线元素作升序排序，得到与测试样本y在空间上近邻的k个训练样本集合U_spatial；求所述两个集合U_spectral、U_spatial的并集，得到近邻样本集合U_ss＝{x₁,x₂,…,x_l}，根据所述近邻样本集合U_ss中元素对矩阵Γ、S中的对角线元素重排序，结果分别为：

s₁,s₂,…,s_l,…,s_N；

其中，前l个元素由近邻样本集合U_ss中的样本得到；由此，得到进行近邻增强后的光谱正则化项

和空间正则化项

其中：

σ表示惩罚系数，用于在协同表示模型中扩大训练样本中近邻区间与非近邻区域的样本对测试样本y的贡献差距。

7.根据权利要求6所述的基于度量学习和近邻增强的高光谱遥感图像分类方法，其特征在于，所述步骤S5中构建得到的基于协同表示的分类模型为：

其中，λ、γ分别表示近邻增强后的光谱正则化项和空间正则化项的系数，用于消除量纲差异。

8.根据权利要求7所述的基于度量学习和近邻增强的高光谱遥感图像分类方法，其特征在于，所述步骤S6的具体过程为：

利用优化理论求解得到所述分类模型的闭式解为：

由此，根据重构误差最小原则对测试样本y进行预测：

其中，C表示地物类别总数，X_c表示第c类训练样本，α_c表示第c类训练样本X_c对测试样本y的协同表示系数，class(·)表示分类函数，将所有类别的训练样本中对y重构误差最小的那个类标签分配给y。

Images