CN104517121A - 一种基于粒子群优化的空间大数据字典学习方法 - Google Patents

Abstract

本发明公开了一种基于粒子群优化的空间大数据字典学习方法，包括步骤1：空间大数据的预处理过程；步骤2：在线字典学习ODL字典学习过程，利用ODL算法处理当前读入的分隔后的遥感数据，得到先验字典；步骤3：粒子群优化模型建立过程；步骤4：粒子群优化算法PSO优化过程，得到优化后的新字典；步骤5：算法稳定机制，引入ODL算法中的中间变量，传递经PSO优化后新字典所产生的稀疏系数矩阵的更新信息；步骤6：判断空间大尺度数据集合中有无数据。本发明的有益效果为：有效的进行大尺度遥感数据的处理，在尽量不增加计算负载的情况下，提高空间大数据表示的精度，并很好抑制重建过程中遥感数据中含有的噪声。

Description

一种基于粒子群优化的空间大数据字典学习方法

技术领域

本发明涉及面向空间大数据字典学习技术，具体来说，涉及一种基于粒子群优化的空间大数据字典学习方法。

背景技术

近年来，随着航天、航空与遥感数据获取技术的快速发展，由此产生了海量的空间数据，面对空间数据的海量式的增长，传统的数据获取和分析方法已经无法适应；因此，数据的稀疏表征思想应运而生；稀疏表征主要涉及两个方面的研究：字典的构建和求解稀疏系数的方法；在非解析超完备字典构建的研究领域，这两方面的研究有一定的耦合性。

字典构建的方法主要分为两种：利用数学工具生成字典，即解析字典和基于训练样本学习字典，即学习字典；解析字典是基于预先定义好的解析基以及基的变形形式，但是非解析字典原子没有固定的形式，也不要求正交性；这种获取字典的方式比使用固定的数学表达要精确，适用性更广泛，表达效果也较解析字典更稀疏，但是计算复杂度也相应的提高。

其中，对于非解析字典比较著名的方法有K均值奇异值分解（K-SVD）、最小二乘字典学习(RLSDL)、在线字典学习(ODL)等。不过从理论上来说，它们不是针对特定的数据集合，在处理空间大数据的时候可能会遇上一些问题。首先，它们对每一个新样本都更新了全部的原子，这对于处理空间大数据时，算法需要的大量原子是不现实的；其次，固定的原子数目对于字典学习过程不太合适。因此，就目前提出的算法而言，进行大样本训练时，没有考虑大规模数据的数据分布特性，因此训练效果不理想；因此应对空间大数据的训练，还是力有不逮。

粒子群算法（PSO）是一种群体智能算法，源于人们对鸟类捕食的研究，鸟类捕食策略是搜寻当前距离食物最近的鸟的周围区域；PSO算法这样解决优化问题：算法中每个粒子都代表问题的潜在解，每个粒子对应一个适应度函数（即目标函数）决定的适应度值，粒子速度决定了粒子移动的方向和距离，速度随自身及其他粒子移动经验动态调整，从而实现个体在可解空间中的寻优；因此，现在急需一种基于粒子群优化的字典学习方法，以提高原子更新的精度，抑制重建过程中遥感数据的噪声。

发明内容

本发明的目的是提供一种基于粒子群优化的空间大数据字典学习方法，以克服目前现有技术存在的上述不足。

本发明的目的是通过以下技术方案来实现：

一种基于粒子群优化的空间大数据字典学习方法，包括以下步骤：

步骤1：对预先采集的大尺度遥感数据进行分割处理，建立空间大尺度遥感数据集合，并对所述空间大尺度遥感数据集合进行归一化处理；

步骤2：利用ODL算法，对进行归一化处理后的所述空间大尺度遥感数据集合进行处理，得到先验字典；

步骤3：根据所述先验字典，利用误差矩阵作为原子筛选机制选取待优化原子，确定所述先验字典总候选原子的初始线性表示结构，并以该候选原子的初始线性表示结构作为粒子；

步骤4：根据预先确定的所述空间大尺度遥感数据的纹理特征，利用PSO算法，优化所述粒子，得到优化后的新字典；

步骤5：算法稳定机制，引入ODL算法中的中间变量，传递经PSO优化后新字典所产生的稀疏系数矩阵的更新信息；

步骤6：根据所述更新信息，判断空间大尺度数据集合中有无数据，在有数据的情况下，重复步骤2至5；否则结束。

进一步的，所述步骤2中，利用ODL算法，对进行归一化处理后的所述空间大尺度遥感数据集合进行处理，得到先验字典包括：

根据所述空间大尺度遥感数据集合，依照总体目标函数对字典D和稀疏系数α分别进行优化，得到先验字典。

进一步的，根据所述空间大尺度遥感数据集合，依照总体目标函数对字典D和稀疏系数α分别进行优化，得到先验字典包括：

根据总体目标函数，ODL算法利用正交匹配追踪OMP算法，固定所述字典D，训练所述稀疏系数α；并且

ODL算法利用梯度下降法策略，针对所述目标函数对字典                                                求偏导，得到相应的梯度，并根据所述梯度构造新字典原子的更新公式，并根据该更新公式，进行ODL算法收敛，得到所述先验字典D和稀疏系数α。

进一步的，所述总体目标函数的表达式如下：

其中，为训练样本集合，为字典，为稀疏矩阵。

进一步的，所述正交匹配追踪OMP计算公式如下：

其中，X_t为样本集中第t个样本， 为正则化参数，为当前样本对应的稀疏系数矩阵。

本发明的有益效果为：通过在在线字典学习处理遥感数据的过程中引入粒子群算法，可以有效的进行大尺度遥感数据的处理，在尽量不增加计算负载的情况下，提高空间大数据表示的精度，很好的抑制重建过程中遥感数据中含有的噪声。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本发明实施例所述的一种基于粒子群优化的空间大数据字典学习方法的流程图；

图2是本发明实施例中对取自陆地8号卫星（Landsat-8）的原始的大尺寸遥感图像测试结果图；

图3是本发明实施例中对取自陆地8号卫星（Landsat-8）的加入噪声后的大尺寸遥感图像测试结果图；

图4是本发明实施例中对取自陆地8号卫星（Landsat-8）的ODL算法的重构图像；

图5是本发明实施例中对取自陆地8号卫星（Landsat-8）的基于粒子群优化的空间大数据字典学习方法的重构图像；

图6是本发明实施例中对取自环境卫星（HJ-1-A）的原始的大尺寸遥感图像的测试结果图；

图7是本发明实施例中对取自环境卫星（HJ-1-A）的加入噪声后的大尺寸遥感图像的测试结果图二；

图8是本发明实施例中对取自环境卫星（HJ-1-A）的ODL算法的重构图像；

图9是本发明实施例中对取自环境卫星（HJ-1-A）的基于粒子群优化的空间大数据字典学习方法的重构图像。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员所获得的所有其他实施例，都属于本发明保护的范围。

如图1所示，根据本发明实施例所述的一种基于粒子群优化的空间大数据字典学习方法，包括以下步骤：

步骤1：空间大数据的预处理过程，利用分块方法分隔预先采集的大尺度遥感数据，建立空间大尺度数据集合，同时对所述大尺度数据集合所对应图像数据进行归一化处理，去除图像灰度平均值。

步骤2：在线字典学习ODL过程，利用在线字典学习算法（ODL）处理当前读入的分隔后的遥感数据，得到先验字典。

利用ODL算法，对进行归一化处理后的所述空间大尺度遥感数据集合进行处理，得到先验字典包括：

根据所述空间大尺度遥感数据集合，依照总体目标函数对字典D和稀疏系数α分别进行优化，得到先验字典。

其中，所述总体目标函数的表达式如下：

其中，为训练样本集合，为字典，为稀疏矩阵。

根据所述空间大尺度遥感数据集合，依照总体目标函数对字典D和稀疏系数α分别进行优化，得到先验字典包括：

根据总体目标函数，ODL算法利用正交匹配追踪OMP算法，固定所述字典D，训练所述稀疏系数α；并且

ODL算法利用梯度下降法策略，针对所述目标函数对字典求偏导，得到相应的梯度，并根据所述梯度构造新字典原子的更新公式，并根据该更新公式，进行ODL算法收敛，得到所述先验字典D和稀疏系数α。

具体的，在线字典学习算法针对当前遥感数据，依照总体目标函数对先验字典和稀疏系数分别进行优化。

在一次迭代过程中，依次进行两个步骤：（1）所述ODL算法采用正交匹配追踪（OMP）算法，固定先验字典，训练稀疏系数，即稀疏编码步骤；

（2）固定稀疏系数，训练字典，即字典构造步骤；在字典构造过程中，ODL利用梯度下降法策略，针对目标函数对字典求偏导，得到相应的梯度，然后构造出新字典原子的更新公式，其中，所述ODL算法收敛后，得到先验字典D和稀疏系数。

步骤3：粒子群优化（PSO）模型建立过程，对步骤2得到的先验字典利用误差矩阵作为一种原子筛选机制，选取待优化原子；得到候选原子初始线性表示结构，并以此作为粒子；粒子初始速度依照粒子各维度数量级进行初始速度自动匹配。

首先利用误差矩阵依次计算出各原子对应的对样本估计的贡献值，选取最大者作为待优化原子；其次，在字典矩阵中找出一个向量组将待优化原子和其他原子线性表征，得到的线性表征的系数作为粒子在步骤4中进行优化；而后，对于粒子的每一维的值，其初始速度依照数量级别进行自动匹配。

步骤4：粒子群算法优化过程，以当前遥感数据集合中的纹理特征为参考依据，利用粒子群优化算法，优化选取的粒子，得到优化后的新字典。

首先，将粒子群代入目标函数，得到个体极值位置和种群极值位置；其次，根据粒子群算法更新公式分别更新各粒子速度和位置直到迭代结束；最终，得到的种群极值位置即为待优化原子的新线性表征系数，利用步骤3选定的向量组即可求得优化后原子。

步骤5：算法稳定机制，引入在线字典算法中的中间变量，传递经粒子群算法PSO优化后新字典所产生的稀疏系数矩阵的更新信息；

步骤6：判断空间大尺度数据集合中有无数据，在有数据的情况下，重复步骤2到5，否则结束方法。

其中，在粒子群优化模型建立过程中，利用一种简单的数量级速度匹配机制避免优化过程陷入局部解。首先，定义原子对于样本估计的贡献值来筛选待出优化原子，以原子线性表示结构作为粒子；然后，粒子初始速度依照粒子各维度数量级自动匹配。由此，本发明方法可以避免粒子速度完全随机化导致的优化过程陷入局部解的现象，并且可以有效的减少粒子寻优的时间。

在粒子群算法优化过程中，利用原子线性结构作为粒子代入粒子群优化算法模型进行优化；由此，本发明方法可以保证优化后的原子保留纹理特征，避免原子图样的噪声化，很好的抑制重建过程中遥感数据含有的噪声；并且，本发明方法可以有效的降低优化问题维度，减少计算负担。

具体应用时，本方法包括以下步骤：

步骤1：空间大数据的预处理过程：利用分块的方法分割大尺度遥感数据，建立空间大尺度数据集合，同时归一化图像的灰度值，去除图像灰度平均值；

步骤2：在线字典学习（ODL）字典学习过程：利用ODL算法处理当前读入的遥感数据，得到先验字典。本发明方法总体目标优化函数如下：

                        

上式中，为训练样本集合，为字典，为稀疏矩阵。ODL的训练过程将主要由两部分组成：

（1）             稀疏编码：使用正交匹配追踪OMP计算，计算公式如下：

其中，Xt为样本集中第t个样本， 为正则化参数，为当前样本对应的稀疏系数矩阵。

（2）原子更新：其中A和B为ODL算法中设定的中间变量，Dt为加入当前样本后得到的新字典，符号Tr表示求矩阵的迹：

中间变量A和B的定义式如下，其中表示的转置矩阵；

由构造函数可推出原子更新策略及归一化过程如下：

                 

其中，A_jj为A矩阵中第j行第j列元素，a_j和b_j为分别为A和B矩阵的第j个列向量。

步骤3：粒子群优化模型建立过程，对步骤2得到的先验字典，利用误差矩阵作为一种原子筛选机制选取待优化原子；得到候选原子初始线性表示结构，并以此作为粒子；粒子初始速度依照粒子各维度数量级进行初始速度自动匹配。

（1）原子筛选机制，将本发明方法总体目标函数做如下变化：

式中为字典中第j个原子，为稀疏系数矩阵的第j行；矩阵E_k为将第k个原子移除后的总误差；这里所说的“最重要”其定义是该原子对于样本估计的贡献值最大；定义如下式：

             

（2）选择粒子机制，ODL训练出的先验字典为过完备字典，根据线性代数定理，必可以在字典矩阵中找到一组向量组将其他原子线性表征；实际上，向量组的向量个数远远小于m，这也是对PSO优化的一种降低维度，减少计算复杂度的措施。

（3）粒子初始速度匹配机制，遥感图像比一般的图像纹理更加复杂，从粒子选择机制中选择的粒子（即线性表征系数）的值范围很大，大致范围是10^-4到10⁴；因此有必要在粒子速度初始化时，对于粒子的每一维的值，其初始速度进行自动匹配。由此，本方法避免粒子速度完全随机化陷入局部解问题，减少了粒子寻优的时间。

步骤4：PSO算法优化过程，以当前遥感数据集合中的纹理特征为参考依据，利用PSO算法，优化选取的粒子，得到优化后的新字典。将筛选机制选出的原子和若干其他原子，利用选定的向量组线性表征后得到初始化粒子群：。其中第i个粒子yi表示为一个m维列向量：。它的物理意义是第i个粒子在m维目标解空间中的位置。第i个粒子速度记为 ：。粒子群中个体极值位置记为：。种群极值位置记为：。第k+1次迭代时，速度更新公式为：

式中为PSO迭代次数,为惯性权重，和为加速度因子；当，且取值为1.49445；和为[0,1]区间的随机数。位置更新公式为：

               

式中，为第k次迭代结束，粒子所在位置。每次迭代粒子根据更新公式更新速度和位置直到迭代结束。最终得到的种群极值位置即为更新原子的新线性表征系数，利用选定的向量组即可求得新原子。

PSO优化目标函数如下：

    

其中为稀疏系数矩阵的第j行。将需要更新的原子和随机选出的原子组成初始原子集合。用选定的向量组线性表征后，得到系数向量集合。该集合作为粒子群在一定范围内进行飞行，随机寻优。每次迭代后将更新的粒子群（表征系数）与选定的向量组进行运算，得到新的原子集合，代入PSO目标函数中进行计算。反复迭代，直到PSO算法收敛。

步骤5：算法稳定机制：引入ODL算法中的中间变量，传递经PSO优化后产生的稀疏系数矩阵的更新信息。从步骤4得到新的字典，利用正交匹配追踪OMP算法得到新的。利用ODL的中间变量A和B再次传递变化信息。

                 

经大量实验得知，式中系数的取值范围通常在0.05到1之间。

步骤6：判断空间大尺度数据集合中有无数据，若有，重复步骤2到5，否则结束方法。

按照以上介绍，设计完成了一套基于粒子群优化的空间大数据字典学习方法，主要适用于空间大数据处理；本方法充分发挥了智能群算法的优势，在尽量不增加计算负载的情况下，提高了空间大数据表示的精度，很好的抑制了重建过程中遥感数据中含有的噪声。

为了验证本发明方法性能，使用添加了噪声的大尺度遥感图像对算法进行了测试。两张图像分别从两个卫星图像集（Landsat-8卫星、HJ-1-A）中提取得来。

关于实验中一些设置：针对相同的测试图像，实验定性定量的对在线字典学习方法ODL和本发明方法PSODL的图像重建性能进行了比较。所谓的定性的比较，就是将原始图像、加噪声图像和两种方法得到的重建图像在视觉上做一个精确地比较。而所谓定量的比较，就是用峰值信噪比（PSNR）值对方法重建性能进行衡量。

如图2-5所示，图中显示了提取自Landsat-8卫星的大尺度遥感图像测试结果，图2是原始的遥感图像；图3是加入噪声后的遥感图像；图4是ODL算法的重构图像；图5是本发明方法的重构图像；其中图4和图5的左下角显示了边缘区域的放大图像，在图4和图5中，我们可以发现，PSODL重构后的图像更加清晰，边缘细节比ODL的要好，由此说明，PSODL的算法性能优于原ODL算法。

如图6-9所示，图中显示了提取自HJ-1-A卫星的大尺度遥感图像测试结果，图6是原始的遥感图像；图7是加入噪声后的遥感图像；图8是ODL算法的重构图像；图9是本发明方法的重构图像；图8和图9的左下角显示了边缘区域的放大图像；与图4和图5得出的结果类似，图8比图9要清晰，边缘更清楚。

本发明方法采用国际常用的图像评价标准，即峰值信噪比PSNR对图像进行了定量评价。PSNR单位为分贝（dB），数值越大表示图像质量越好。

表1具体的描述了ODL算法和PSODL算法在不同噪声等级下（标准差）图像重建性能的比较。表中图2-5来源于Landsat-8卫星，图6-来源于HJ-1-A卫星。由表可见，同等噪声等级下，本发明方法优于原ODL算法。

                        表1

本技术通过将在线字典学习方法得到的字典数据作为先验知识，把粒子群优化方法引入到在线字典算法的原子更新步骤中，建立起以待优化原子的线性表示结构为粒子的粒子群优化模型，使模型中的粒子在空间数据的特征约束和指导下在解空间作半随机的飞行，求得最优解。从而，在不提高计算负载的情况下，提高空间大数据的表征性能，并且，抑制了重建过程中遥感数据的噪声。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (5)

1.一种基于粒子群优化的空间大数据字典学习方法，其特征在于，包括以下步骤：

步骤1：对预先采集的大尺度遥感数据进行分割处理，建立空间大尺度遥感数据集合，并对所述空间大尺度遥感数据集合进行归一化处理；

步骤2：利用ODL算法，对进行归一化处理后的所述空间大尺度遥感数据集合进行处理，得到先验字典；

步骤3：根据所述先验字典，利用误差矩阵作为原子筛选机制选取待优化原子，确定所述先验字典总候选原子的初始线性表示结构，并以该候选原子的初始线性表示结构作为粒子；

步骤4：根据预先确定的所述空间大尺度遥感数据的纹理特征，利用PSO算法，优化所述粒子，得到优化后的新字典；

步骤5：算法稳定机制，引入ODL算法中的中间变量，传递经PSO优化后新字典所产生的稀疏系数矩阵的更新信息；

步骤6：根据所述更新信息，判断空间大尺度数据集合中有无数据，在有数据的情况下，重复步骤2至5；否则结束。

2.根据权利要求1所述的基于粒子群优化的空间大数据字典学习方法，其特征在于，所述步骤2中，利用ODL算法，对进行归一化处理后的所述空间大尺度遥感数据集合进行处理，得到先验字典包括：

根据所述空间大尺度遥感数据集合，依照总体目标函数对字典D和稀疏系数α分别进行优化，得到先验字典。

3.根据权利要求2所述的基于粒子群优化的空间大数据字典学习方法，其特征在于，根据所述空间大尺度遥感数据集合，依照总体目标函数对字典D和稀疏系数α分别进行优化，得到先验字典包括：

根据总体目标函数，ODL算法利用正交匹配追踪OMP算法，固定所述字典D，训练所述稀疏系数α；并且

ODL算法利用梯度下降法策略，针对所述目标函数对字典                                                求偏导，得到相应的梯度，并根据所述梯度构造新字典原子的更新公式，并根据该更新公式，进行ODL算法收敛，得到所述先验字典D和稀疏系数α。

4.根据权利要求2或3所述的基于粒子群优化的空间大数据字典学习方法其特征在于，所述总体目标函数的表达式如下：

其中，为训练样本集合，为字典，为稀疏矩阵。

5.根据权利要求3所述的基于粒子群优化的空间大数据字典学习方法其特征在于，所述正交匹配追踪OMP计算公式如下：

其中，X_t为样本集中第t个样本， 为正则化参数，为当前样本对应的稀疏系数矩阵。