CN109829420A - 一种基于改进蚁狮优化算法的高光谱图像的特征选择方法 - Google Patents

Abstract

本发明公开了一种基于改进蚁狮优化算法的高光谱图像的特征选择方法，首先创建小波支持向量机的分类模型，移除部分高相关度的波段，得到独立波段；然后用二进制编码方式初始化该优化算法参数，用来表示高光谱图像的波段信息；最后对目标函数进行最优值求解，得到最优值从而得到最佳波段组合的分类准确度。采用本发明方法对高光谱图像的特征选择，提高了高光谱图像特征选择的准确率和速度。

Description

一种基于改进蚁狮优化算法的高光谱图像的特征选择方法

技术领域

本发明属于图像识别技术领域，涉及一种高光谱图像的特征选择方法，具体涉及一种基于改进蚁狮算法的高光谱图像的特征选择方法。

背景技术

近年来，随着遥感技术的发展，高光谱图像(HSI)得到了越来越广泛的应用。高光谱图像是由几个相邻的窄波段进行密集采样，每个波段都具有一维特征。高光谱分辨率提供了更高的潜力去识别不同的物理对象，同时还生成了大量的数据。为了减少数据的冗余，特征选择一直是遥感界研究的热点之一。具体来说，为了提高分类的准确性和效率，需要开发性能的特征选择技术。

特征选择是模式识别和数据挖掘应用特别是高维数据集的一项基本任务，是选择独立特征子集用于模型构建的过程。

对于高光谱图像的特征选择来说，已经有很多人提出了不同的方法，Wang提出了基于人工蜂群算法和支持向量机的混合特征选择策略。Su提出了基于粒子群算法的优化系统可以同时确定最优波段数和选择独立波段进行高光谱降维，明显优于目前流行的序列正演选择方法。Ghosh提出了一种利用差分进化算法进行高光谱图像子集生成的新特征选择方法，在分类精度和Kappa系数方面明显优于现有算法。但是上述算法存在一些参数需要人工设置，容易陷入局部最优，难以找到全局最优解。

发明内容

为了克服目前的算法容易陷入局部最优的问题，本发明使用改进蚁狮算法优化高光谱图像的特征选择方法，蚁狮算法是一种新提出的随机全局搜索算法，具有难以陷入局部最优并且有着收敛稳定的最优解，由于标准的蚁狮优化算法不能用来解决离散优化问题，本发明提出了改进的蚁狮优化算法。

本发明所采用的技术方案是：一种基于改进蚁狮优化算法的高光谱图像的特征选择方法，其特征在于，包括以下步骤：

步骤1：根据原始高光谱图像的波段信息创建和训练测试样本；

步骤2：创建小波核函数支持向量机分类模型，得到独立的波段；

步骤3：使用二进制编码的方式生成改进蚁狮算法的初始种群；

步骤4：执行改进蚁狮算法的基本步骤，得到最优波段组合。

本发明中提出了一种用于高光谱图像的特征选择方法，首先，去除部分高相关波段，得到独立波段；然后利用一种新颖的改进蚁狮算法算法得到了最优的波段组合。结果与DE、GSA、CS、GWO和标准ALO算法优化的其他特征选择技术进行了比较。一般情况下，通过去除高相关带可以提高分类精度，群智能算法可以很好地解决特征选择问题。在这些算法中，MALO算法具有更好的性能，能够快速找到最优解，满足一些实时应用；在分类准确率的标准差方面，实验结果始终与小波核函数保持稳定的区间，几乎没有波动，即MALO算法和新提出的特征选择评价准则更适合用于降低基于WSVM分类器的HSI数据集的数据维数，分类精度明显高于原始数据集和mRMR、CMIM、JMI方法、起伏算法等传统特征选择方法。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例的流程图；

图2为本发明实施例优化算法与其它优化算法的效果对比图；Fiv为适应度值的缩写，DE为差分进化算法的缩写，GSA为引力搜索算法的缩写，CS为布谷鸟搜索算法的缩写，GWO为灰狼算法的缩写，GA为遗传算法的缩写，MALO为改进蚁狮算法即本专利使用的算法的缩写。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

为了克服目前的算法容易陷入局部最优的问题，本发明使用改进蚁狮算法优化高光谱图像的特征选择方法，蚁狮算法是一种新提出的随机全局搜索算法，具有难以陷入局部最优并且有着收敛稳定的最优解，由于标准的蚁狮优化算法不能用来解决离散优化问题，本发明提出了改进的蚁狮优化算法。

为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本发明作进一步详细的说明。

请见图1，本发明提供的一种基于改进蚁狮优化算法的高光谱图像的特征选择方法，包括以下步骤：

步骤1：根据原始高光谱图像的波段信息创建训练样本和测试样本；

本实施例中，训练样本测试样本，根据机器学习的基础知识，我们知道，要用机器学习算法进行训练样本，从而得到一个训练优良的分类器，我们使用高光谱图像中的得到的训练样本去训练小波核函数支持向量机；

步骤2：创建小波核函数支持向量机分类模型，得到独立的波段；

本实施例中，小波核函数支持向量机分类模型，为：

其中，σ_i为小波尺度因子，其中x表示原始波段信息的向量，x_i表示原始图像波段的信息的第i的变量的值，x_i’为x_i的转置。

本实施例中，通过移除部分高相关度的波段，获得独立波段；由于强烈的谱熵值之间的关系和失真的程度和类型，块离散余弦变换(DCT)系数矩阵D也计算在8×8块；使用DCT而不是离散傅里叶变换可以减少变换中阻塞的边缘能量。因此，基于DCT系数的谱概率图表示为：

其中D(i,j)是每个特征的DCT系数矩阵；

然后，局部谱熵定义如下：

相关系数可以直观地评价各个频段的相关性，特征选择的主要目的是选择独立波段的子集用于模型构建。因此，可以定义一个独立的频带质量标准如下：

其中，E_f局部谱熵值，C_r为当前频段与获得最大谱熵值频段的相关系数，谱熵是波段能谱的精确描述，相关系数强调的是局域斑块内的主频率和主方向。因此，它能够更清晰地区分每个波段的质量；

步骤3：使用二进制编码的方式生成改进蚁狮算法的初始种群；

本实施例中，二进制编码方式描述如下：

改进蚁狮算法的每一位都用“0”或“1”表示，“1”表示这个频带将选择进行分类，“0”表示不选择此波段。假设整个数据集有10个波段，改进蚁狮算法算法编码为“0100101010”。即选择第2、第5、第7、第9个波段来完成小波核函数支持向量机的分类任务，放弃其他波段。整个代码可以同时表示最优波段组合的解。

步骤4：执行改进蚁狮算法的基本步骤，得到最优波段组合；

具体实现包括以下子步骤：

步骤4.1：对种群进行二进制初始化，设置蚁狮和蚂蚁的总数都为N，即总数为2N个个体，其中每个个体的长度与数据集的波段保持一致，并且每一位每一位都用“0”或“1”表示，“1”表示这个频带将选择进行分类，“0”表示不选择此波段；假设整个数据集有10个波段，改进蚁狮算法算法编码为“0100101010”。即选择第2、第5、第7、第9个波段来完成小波核函数支持向量机的分类任务，放弃其他波段。

ant^t _i表示第t次随机行走时，第i个蚂蚁的位置，antlion^t _i表示第t次随机行走时，第i个蚁狮的位置，当t＝0时，即初始时刻，在解空间随机生成2N个个体：ant⁰ ₁,ant⁰ ₂,...,ant⁰ _N-1,ant⁰ _N,antlion⁰ ₁,antlion⁰ ₂,...,antlion⁰ _N-1,antlion⁰ _N；

其生成的具体公式为：

ant＝randi([0 1],N,dim)；

antlion＝randi([0 1],N,dim)；

步骤4.2：使用小波向量核函数分类器进行分类，并计算适应度值；适应度值计算公式为：

其中，F(i)是第i个蚂蚁的适应度值，n_c和n_s(i)分别是总共的波段和选中的波段数量，λ是权重系数，本实施例设置为λ＝0.9；Acc(i)是每个蚂蚁的分类准确度，定义为：

其中，T_p表示如果测试样本为肯定，且经鉴定也为肯定；T_N表示如果测试结果为否定，且经鉴定也为否定；F_p表示如果测试结果是否定，但经鉴定为肯定；F_N表示如果测试结果是肯定，但经鉴定为否定；

步骤4.3：蚂蚁由于蚁狮制造的陷阱，移动范围减少：由于蚁狮算法是一种基于种群的算法，局部最优规避在本质上是高的。由于采用了随机游动和轮盘赌，该算法具有较高的求解局部最优滞止的概率。蚁群算法中搜索空间的探索是通过蚁群的随机选择和蚁群周围蚂蚁的随机游动来保证的，搜索空间的开发是通过蚁群陷阱的自适应收缩边界来保证的。算法的数学模型可以通过以下步骤来解释。

由于蚂蚁在寻找食物时是随机移动的，所以蚂蚁的随机游动是可以描述为：

X^t＝[0,cumsum(2r(t₁)-1),cumsum(2r(t₂)-1),...,cumsum(2r(t_n)-1)]；

其中，X_t是蚂蚁的随机行走，n是蚂蚁的数量，cumsum()表示累计和函数，t是随机行走的步数即迭代次数，t₁表示第一次迭代，t_n表示第n次迭代，r(t)是一个随机函数定义为：

其中，rand是在[0,1]区间内均匀分布产生的随机数；

为了保证蚂蚁随机游动在搜索空间内，利用定义的归一化方程对蚂蚁随机游动的位置进行归一化，公式为：

其中，a_i是第i个变量随机游走的最小值，b_i是第i个变量随机游走的最大值，c_i ^t迭代t时第i个变量随机游走的最小值，d_i ^t迭代t时第i个变量随机游走的最大值；

根据目前提出的机制，蚁狮能够根据自身的适应性建造陷阱，而蚂蚁则需要随机移动。然而，蚂蚁一旦意识到陷阱里有蚂蚁，它们就会把沙子撒到坑的中央。该行为使试图逃逸的被困的蚂蚁滑下来。为了对蚂蚁的行为进行数学建模，自适应地减小了蚂蚁随机游动超球面的半径，描述公式如下：

其中，c^t表示第t代所有变量最小值的向量，d^t表示第t代所有变量最大值的向量，T为最大迭代次数，ω根据当前迭代次数确定，当t＞0.1T时ω＝2，当t＞0.5T时ω＝3，当t＞0.75T时ω＝4，当t＞0.9T时ω＝5，当t＞0.95T时ω＝6；

步骤4.4：根据全局最佳蚂蚁确定新位置；

列维飞行是生物学领域中能够优化搜索效率的假说，它是一种随机游走策略，其步长具有重尾概率分布。由于随机游动的遍历性和动态性，列维飞行被广泛应用于进化计算领域，以更有效地解决复杂的优化问题。假设蚂蚁的位置由X_i表示，列维飞行将其转换为新的状态LX_i。因此，本发明采用列维飞行构造改进蚁狮算法，定义为：

其中，X_i表示蚂蚁i的位置，LX_i表示蚂蚁i的新位置，α值的大小与问题的规模有关；Levy(λ)表示服从当前迭代次数的t的随机分布，其概率分布为：

Levy～u＝t^-λ，1＜λ＜3，

本专利采用Mantegna于1992年提出的模拟levy飞行来进行搜索，其计算公式如下：

其中s即为Levy(λ)所求得的路径，参数β与λ的关系为λ＝β+1，通常β取值在[0,2]范围内。μ,ν为服从正态分布的随机数，如下式：

其中Γ(x)定义如下：

为了提高标准蚁群算法在优化能力方面的性能，将随机游走作为蚁群算法的局部搜索过程，引入到蚁群算法中，对当前全局最优蚁群X_g进行局部搜索过程，而X_g附近的范围可能是最优解最有前途的区域；随机游动的基本步骤是：根据X_g用列维初始化状态；然后，利用确定当前迭代求解空间的值映射，增加蚂蚁的数量；最后计算每只蚂蚁的适应度值，选择适应度值最优的蚂蚁进行下一次迭代；

步骤4.5：对种群进行二进制编码；

采用的公式如下：

其中，tanh()为双曲正切函数，表示第t代LX_i的取值，蚂蚁二进制编码之后的位置；

步骤4.6：更新蚁狮位置；

根据适应度值对蚂蚁和蚁狮一起排序，取前N个个体作为蚁狮；

步骤4.7交叉操作；

精英主义是群智能算法的一个重要特征，它允许群智能算法在优化过程的任何阶段都能保持得到的最优解，但操作是基于加法的，不适应二进制编码形式。交叉是指取多个父解并从整个种群中产生子解，它是随机游走得到的两个二进制解之间的运算。将每次迭代得到的最优蚁群保存为最优蚁群。因为精英可以被认为是最合适的蚁群，所以它应该能够在迭代过程中影响所有蚂蚁的运动。因此，本发明假设蚂蚁通过轮盘赌的轮盘随机选择一只蚁狮，并与精英同时围绕该蚁狮行走，如下所示:

其中，为迭代t时轮盘赌轮选择的蚁狮的随机游走，迭代t时精英的随机游走；

步骤4.8：判断是否达到设定的迭代次数；

若是，则获得最优波段组合，执行步骤4.9；

若否，则步骤执行步骤4.2；

步骤4.9：输出最优波段组合。

请见图2，本发明实施例优化算法与其它优化算法的效果对比图；Fiv为适应度值的缩写，DE为差分进化算法的缩写，GSA为引力搜索算法的缩写，CS为布谷鸟搜索算法的缩写，GWO为灰狼算法的缩写，GA为遗传算法的缩写，MALO为改进蚁狮算法即本专利使用的算法的缩写；从实验结果即图2中，能明显的看到本算法的精确度在三个数据集的平均水平上是高于其他算法的。

本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。

本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处。综上所述，本说明书内容不应理解为对本发明的限制。

Claims (6)

1.一种基于改进蚁狮优化算法的高光谱图像的特征选择方法，其特征在于，包括以下步骤：

步骤1：根据原始高光谱图像的波段信息创建训练样本和测试样本；

步骤2：创建小波核函数支持向量机分类模型，得到独立的波段；

步骤3：使用二进制编码的方式生成改进蚁狮算法的初始种群；

步骤4：执行改进蚁狮算法的基本步骤，得到最优波段组合。

2.根据权利要求1所述的基于改进蚁狮优化算法的高光谱图像的特征选择方法，其特征在于：步骤1中所述训练样本和测试样本，使用高光谱图像中的得到的训练样本去训练小波核函数支持向量机。

3.根据权利要求1所述的基于改进蚁狮优化算法的高光谱图像的特征选择方法，其特征在于：步骤2中所述小波核函数支持向量机分类模型，公式为：

其中，σ_i为小波尺度因子，其中x表示原始波段信息的向量，x_i表示原始图像波段的信息的第i的变量的值，x_i’为x_i的转置。

4.根据权利要求1所述的基于改进蚁狮优化算法的高光谱图像的特征选择方法，其特征在于：步骤2中，通过移除部分高相关度的波段，从而获得独立波段；

基于DCT系数的谱概率图表示为：

其中D(i,j)是每个特征的DCT系数矩阵；

然后，局部谱熵定义如下：

定义一个独立的频带质量标准如下：

其中，E_f局部谱熵值，C_r为当前频段与获得最大谱熵值频段的相关系数，谱熵是波段能谱的精确描述，相关系数强调的是局域斑块内的主频率和主方向，因此，它能够更清晰地区分每个波段的质量。

5.根据权利要求1所述的基于改进蚁狮优化算法的高光谱图像的特征选择方法，其特征在于：步骤3中，改进蚁狮算法的每一位都用“0”或“1”表示，“1”表示这个波段将选择进行分类，“0”表示不选择此波段。

6.根据权利要求1所述的基于改进蚁狮优化算法的高光谱图像的特征选择方法，其特征在于，步骤4的具体实现包括以下子步骤：

步骤4.1：对种群进行二进制初始化，设置蚁狮和蚂蚁的总数都为N，即总数为2N个个体，其中每个个体的长度与数据集的波段保持一致，并且每一位每一位都用“0”或“1”表示，“1”表示这个频带将选择进行分类，“0”表示不选择此波段；ant^t _i表示第t次随机行走时，第i个蚂蚁的位置，antlion^t _i表示第t次随机行走时，第i个蚁狮的位置，当t＝0时，即初始时刻，在解空间随机生成2N个个体：ant⁰ ₁,ant⁰ ₂,...,ant⁰ _N-1,ant⁰ _N,antlion⁰ ₁,antlion⁰ ₂,...,antlion⁰ _N-1,antlion⁰ _N；

其生成的具体公式为：

ant＝randi([0 1],N,dim)；

antlion＝randi([0 1],N,dim)；

步骤4.2：使用小波向量核函数分类器进行分类，并计算适应度值；适应度值计算公式为：

其中，F(i)是第i个蚂蚁的适应度值，n_c和n_s(i)分别是总共的波段和选中的波段数量，λ是权重系数，Acc(i)是每个蚂蚁的分类准确度，定义为：

其中，T_p表示如果测试样本为肯定，且经鉴定也为肯定；T_N表示如果测试结果为否定，且经鉴定也为否定；F_p表示如果测试结果是否定，但经鉴定为肯定；F_N表示如果测试结果是肯定，但经鉴定为否定；

步骤4.3：蚂蚁的随机游动描述为：

X^t＝[0,cumsum(2r(t₁)-1),cumsum(2r(t₂)-1),...,cumsum(2r(t_n)-1)]；

其中，X_t是蚂蚁的随机行走，n是蚂蚁的数量，cumsum()表示累计和函数，t是随机行走的步数即迭代次数，t₁表示第一次迭代，t_n表示第n次迭代，r(t)是一个随机函数定义为：

其中，rand是在[0,1]区间内均匀分布产生的随机数；

为了保证蚂蚁随机游动在搜索空间内，利用定义的归一化方程对蚂蚁随机游动的位置进行归一化，公式为：

其中，a_i是第i个变量随机游走的最小值，b_i是第i个变量随机游走的最大值，迭代t时第i个变量随机游走的最小值，迭代t时第i个变量随机游走的最大值；

为了对蚂蚁的行为进行数学建模，自适应地减小了蚂蚁随机游动超球面的半径，描述公式如下：

其中，c^t表示第t代所有变量最小值的向量，d^t表示第t代所有变量最大值的向量，T为最大迭代次数，ω根据当前迭代次数确定；

步骤4.4：根据全局最佳蚂蚁确定新位置；

采用列维飞行构造改进蚁狮算法，定义为：

其中，X_i表示蚂蚁i的位置，LX_i表示蚂蚁i的新位置，α值的大小与问题的规模有关；Levy(λ)表示服从当前迭代次数的t的随机分布，其概率分布为：

Levy～u＝t^-λ，1＜λ＜3，

采用模拟levy飞行来进行搜索，其计算公式如下：

其中，s即为Levy(λ)所求得的路径，参数β与λ的关系为λ＝β+1；μ,ν为服从正态分布的随机数，如下式：

其中Γ(x)定义如下：

将随机游走作为蚁群算法的局部搜索过程，引入到蚁群算法中，对当前全局最优蚁群X_g进行局部搜索过程，而X_g附近的范围可能是最优解最有前途的区域；随机游动的基本步骤是：根据X_g用列维初始化状态；然后，利用上述公式：确定当前迭代求解空间的值映射，增加蚂蚁的数量；最后计算每只蚂蚁的适应度值，选择适应度值最优的蚂蚁进行下一次迭代；

步骤4.5：对种群进行二进制编码；

采用的公式如下：

其中，tanh()为双曲正切函数，表示第t代LX_i的取值，蚂蚁二进制编码之后的位置；

步骤4.6：更新蚁狮位置；

根据适应度值对蚂蚁和蚁狮一起排序，取前N个个体作为蚁狮；

步骤4.7交叉操作；

假设蚂蚁通过轮盘赌的轮盘随机选择一只蚁狮，并与精英同时围绕该蚁狮行走，如下所示:

其中，为迭代t时轮盘赌轮选择的蚁狮的随机游走，迭代t时精英的随机游走；

步骤4.8：判断是否达到设定的迭代次数；

若是，则获得最优波段组合，执行步骤4.9；

若否，则步骤执行步骤4.2；

步骤4.9：输出最优波段组合。