CN105631516A - 基于历史经验和实时调整相结合的粒子群优化算法 - Google Patents

Abstract

针对标准粒子群优化算法(PSO)优化高维复杂函数时易出现局部最优的缺陷，提出了基于历史经验和实时调整相结合的粒子群优化算法。在速度更新过程中考虑曾经的不好经验，避免粒子重复搜索曾经找到的最差位置，并充分利用每个粒子的个体最优信息，以提高算法的搜索能力。利用每个粒子的适应度值自适应地改变每个粒子的惯性权重，实时有效的调整全局和局部的搜索能力。用本算法优化4个标准测试函数，与其他3种算法进行比较，以检验本算法能够有效加快全局收敛速度和提高全局优化精度。

Description

基于历史经验和实时调整相结合的粒子群优化算法

技术领域

本发明属于智能算法领域，提出了在速度更新过程中考虑曾经的不好经验，并充分利用每个粒子的个体最优信息，同时采用每个粒子的适应度值自适应地实时调整每个粒子的惯性权重，以致能够有效加快全局收敛速度和提高全局优化精度。

背景技术

Eberhart和Kennedy通过研究鸟群和鱼群的捕食行为而提出了一种基于随机群体的新型智能优化方法—粒子群优化算法(ParticleSwarmOptimization,PSO)。该算法根据群体中粒子的个体性和社会性有机结合所产生的群智能性来指导优化搜索。PSO算法具有建模简单、容易描述和实现、收敛速度快、全局搜索能力较强﹑待调整参数少等优点，因而在许多领域得到广泛应用。但是作为一种新型的智能优化算法，PSO算法在优化一些高维复杂问题时容易陷入局部最优的困境，难以寻找到最优位置。

针对PSO算法的缺点，目前已有很多研究者对其进行了各种改进。文献《基于自适应策略的改进粒子群算法》改进粒子群算法在每次种群进行迭代时，根据每个粒子的适应度值自适应地改变每个粒子的速度权重，动态调整每个种群粒子的活性，提高了算法的全局寻优能力和收敛能力，但只对惯性权重进行改进，效果很有限。文献《筛选和记忆相结合的粒子群算法》在速度更新过程中引入最差粒子，避免粒子重复搜索曾经找到的最差位置，以提高算法的搜索效率，但没有更充分的利用粒子好的经验。文献《基于改进型粒子群算法的有源噪声控制》充分利用粒子个体最优信息，并动态改变其惯性权重，从而增强了种群的多样性，提高了算法的收敛速度和全局优化能力，但是权重改进自适应性不强，也没有充分利用好粒子的有效信息。

为了更好的提高PSO算法的收敛速度和寻优精度，本发明在速度更新过程中汲取曾经的不好经验，避免粒子重复搜索曾经找到的最差位置，提高粒子全局搜索效率，同时采用所有粒子个体最优值的平均值替代速度更新公式中某个粒子的个体最优值，增加粒子多样性，加强粒子间的信息交流和合作，有利于算法迭代中后期跳出局部最优。根据每个粒子的适应度值自适应地动态改变每个粒子的惯性权重，在大小平均适应度之间二次递减的改变惯性权重，这样可以更好的基于每个粒子自身的实际情况选择惯性权重大小，使粒子在优化的过程中更好的平衡好全局和局部搜索能力。本文对各关键方面同时进行最优改进，以达到加快全局收敛速度和提高全局优化精度的目的。

发明内容

针对标准粒子群优化算法(PSO)优化高维复杂函数时易出现局部最优的缺陷，提出了基于历史经验和实时调整相结合的粒子群优化算法。在速度更新过程中考虑曾经的不好经验，避免粒子重复搜索曾经找到的最差位置，并充分利用每个粒子的个体最优信息，以提高算法的搜索能力。利用每个粒子的适应度值自适应地改变每个粒子的惯性权重，实时有效的调整全局和局部的搜索能力。用本算法优化4个标准测试函数，与其他3种算法相比，以验证本算法更优的优化效果。

具体实施方式

本发明包括以下步骤：

1﹑基本的粒子群优化算法。

粒子群优化算法在可行解空间初始化时产生一组随机解，并通过迭代搜寻最优值。分别用一个矢量来描述粒子在解空间的位置和速度，假设D维搜索空间中第i个粒子的速度和位置分别表示为V_i＝(v_i1,v_i2,...,v_iD)和X_i＝(x_i1,x_i2,...,x_iD)。每个粒子都有一个由适应度函数决定的适应度值，将该粒子到目前为止找到的最优位置称为个体最优位置，表示为P_i＝(p_i1,p_i2,...,p_iD)，并将整个群体到目前为止找到的最优位置称为全局最优位置，表示为P_g＝(p_g1,p_g2,...,p_gD)。在每一次迭代中，粒子通过学习借鉴两个最佳位置来更新自己的位置，直至达到迭代次数上限或满足精度要求。

在基本的粒子群优化算法中，粒子根据以下公式更新自己的速度和位置：

$v_{ij}^{t+1}={\mathrm{\ωv}}_{ij}^t+c_1{r}_1(p_{ij}^t-x_{ij}^t)+c_2{r}_2(p_{gj}^t-x_{ij}^t)---(1-1)$

$x_{ij}^{t+1}=x_{ij}^t+v_{ij}^{t+1}---(1-2)$

式中，i＝1,2,...,N，N为粒子的个数，j＝1,2,...,D，t表示当前迭代次数，ω为惯性权重，c₁和c₂为学习因子，r₁和r₂为0到1之间均匀分布的随机数，p_ij表示当前第i个粒子取个体最优值时在第j维上的位置，而p_gj则表示当前取全局最优值时在第j维上的位置。

2﹑粒子群算法的改进。

2.1﹑速度更新方法

为了实现信息的充分分享，增强引导信息的有效性，本发明对速度更新公式进行两方面的改进。一方面改进是在基本速度更新公式中增加粒子对自己不好历史经验认知的项。这样可以指导和鼓励粒子更有效全面的研究学习历史经验，不仅可以使粒子记住自己和群体过去好的学习经验，还可以研究学习自身不好的学习经验，在学习过程中加强自身信息的利用，增强引导信息的效能，减少或避免对历史较差解空间的重复搜索，增加粒子运动过程中寻找到比当前信息更优解的概率。另一方面改进是用所有粒子个体最优值的平均值替代速度更新公式中个体最优值最差粒子的个体最优值。这样可以增加粒子种群的多样性，加强其他粒子好的信息对搜索状态较差粒子的引导，增大搜索到全局最优值的概率，这样同样也是对所有粒子好的学习经验的应用，能增强粒子的活性，保证了算法的全局探索能力。因此，本发明提出新的速度更新公式：

$\begin{array}{c}{v}_{ij}^{t+1}={\mathrm{\ωv}}_{ij}^t+c_1{r}_1(P_j^t-x_{ij}^t)+c_2{r}_2(p_{gj}^t-x_{ij}^t)\\ +c_3{r}_3(x_{ij}^t-P_{worst,ij}^t)\end{array}---(2-1)$

式中，c₁﹑c₂和c₃为加速度系数。c₁体现粒子个体经验对粒子运行轨迹的影响力，c₂体现粒子群体经验对粒子运行轨迹的影响力，c₃体现粒子不好的学习经验对粒子运行轨迹的影响力；r₁﹑r₂和r₃为(0,1)内均匀分布的随机数；表示粒子i在t次迭代过程中自我比较适应度值最差时的位置；即所有粒子取得个体最优值时，将其相同维数上的位置取平均值后得到的个体平均最优位置。

2.2权重更新方法

惯性权重ω反映了粒子的历史速度对当前速度的影响，较大的ω有利于探索能力，较小的ω有利于开发能力，合适的惯性权重可以平衡全局寻优能力和局部寻优能力。粒子群算法的搜索过程是非线性和高度复杂的，线性和非线性递减的惯性权重没有取自当前最佳搜索状态的信息，不能真正反映实际的搜索过程。这原因是如果当前最佳搜索状态的粒子适应性没有显著提高，惯性权重就应下降缓慢，因为粒子仍然需要进行全局搜索。如果当前最佳搜索状态的粒子适应性有显著提高，惯性权重就应快速下降来促进粒子局部搜索，因为算法达到了全局最优状态的附近，此时主要的目标是实现更好的准确性。

因此发明对惯性权重ω进行基于每个粒子的适应度值自适应地实时调整每个粒子的惯性权重。这样对惯性权重的改进是在充分有效利用所有粒子适应度信息基础之上进行的，权重每次都是综合考虑了全局和自我实际情况后而调整的，符合人类的哲学思想，正好体现了粒子群算法的智能性。具体步骤如下：

(1)求每个粒子的适应度值，并求出所有粒子适应度值的平均值。

(2)取出适应度值大于平均适应度值的粒子，计算出它们的平均适应度值f_av1，让适应度值大于f_av1的粒子取最大的惯性权重值。

(3)取出适应度值小于平均适应度值的粒子，计算出它们的平均适应度值f_av2，让适应度值小于f_av2的粒子取最小的惯性权重值。

(4)根据自适应动态调整策略，将适应度值在f_av1，f_av2之间的粒子取在最大和最小惯性权重之间二次递减的惯性权重值。

${\mathrm{\&omega;}}_i=\left\{\begin{array}{cc}{\mathrm{\&omega;}}_{max}& f_i>f_{av1}\\ {\mathrm{\&omega;}}_{\max }-({\mathrm{\&omega;}}_{max}-{\mathrm{\&omega;}}_{min}){\left(\frac{f_{av1}-f_i}{f_{av1}-f_{av2}}\right)}^2& f_{av2}\&le;f_i\&le;f_{av1}\\ {\mathrm{\&omega;}}_{min}& f_i<f_{av2}\end{array}\right.---(2-2)$

适应度值大于f_av1的粒子，反映当前最佳搜索状态的粒子适应性没有显著提高，应该增强粒子的全局搜索能力，所以为了充分发挥全局搜索能力就取最大的惯性权重。适应度值小于f_av2的粒子，反映当前最佳搜索状态的粒子适应性有显著提高，且目前的搜索状态已经在全局最佳搜索状态的附近，应增强粒子的局部搜索能力，所以取最小的惯性权重。适应度值在f_av1，f_av2之间的粒子，当其适应度靠近f_av1时，说明当前的搜索状态离全局最佳搜索状态还比较远，应该以全局搜索为主，所以惯性权重应缓慢下降；当其适应度靠近f_av2时，说明当前的搜索状态离全局最佳搜索状态相对比较近，应快速增加局部开发能力，所以惯性权重应快速下降。因此，适应度值在f_av1，f_av2之间的粒子取在最大和最小惯性权重之间二次递减的惯性权重值能很好的满足当前搜索状态中粒子对全局搜索能力和局部搜索能力的具体需求。式中，ω_min﹑ω_max﹑ω_i分别是最小的惯性权重值﹑最大的惯性权重值﹑粒子i的惯性权重值。改进后粒子的速度和位置迭代更新公式如下：

$\begin{array}{c}{v}_{ij}^{t+1}={\mathrm{\&omega;}}_i{v}_{ij}^t+c_1{r}_1(P_j^t-x_{ij}^t)+c_2{r}_2(p_{gj}^t-x_{ij}^t)\\ +c_3{r}_3(x_{ij}^t-P_{worst,ij}^t)\end{array}---(2-3)$

3﹑改进粒子群算法的计算流程。

Step1：设定改进算法的控制参数值，置粒子群个数N，维数D，最大迭代次数M，学习因子c₁﹑c₂和c₃。

Step2：初始化粒子群的位置和速度。各粒子的初始速度和初始位置均为随机选取。

Step3：评价每个粒子的适应度值。

Step4：记录极值。记录粒子当前的个体最优值P_i及对应的目标函数值f(P_i)，从P_i中确定整体极值P_g，并记录P_g对应的目标函数值f(P_g)。如果成立，则否则则成立，和分别为迭代次数为t时的粒子位置和个体极值。

Step5:计算种群粒子的平均适应度值；计算所有适应度值大于平均适应度值粒子的平均适应度值f_av1；计算所有适应度值小于平均适应度值粒子的平均适应度值f_av2，并按式⑷计算ω_i。

Step6：根据式(2-3)和(1-2)更新每个粒子的速度及位置。

Step7：重复步骤3至步骤6。

Step8：判断是否收敛。当达到预先规定的最大迭代次数时，停止迭代；否则转Step5。

Step9：输出结果。

4﹑仿真实验与分析。

为了验证本文算法的优化效果，采用4个标准测试函数对其进行性能测试，并与PSO算法﹑SAPSO算法和ASYLNCPSO算法作比较。其中SAPSO代表对惯性权重的改进方向，且发明算法的权重改进方法是在此基础上进行的改进。ASYLNCPSO代表对加速度系数改进的方向。4个标准测试函数如下：

⑴Sphere函数:

$f_1\left(x\right)=\underset{i=1}{\overset{D}{\&Sigma;}}{x}_i^2$

⑵Rosenbrock函数：

$f_2\left(x\right)=\underset{i=1}{\overset{D-1}{\&Sigma;}}\&lsqb;100{(x_{i+1}-x_i^2)}^2+{(x_i-1)}^2\&rsqb;$

⑶Rastrigrin函数：

$f_3\left(x\right)=\underset{i=1}{\overset{D}{\&Sigma;}}(x_i^2-10\cos (2{\mathrm{\&pi;x}}_i)+10)$

⑷Griewank函数：

$f_4\left(x\right)=\underset{i=1}{\overset{D}{\&Sigma;}}\frac{x_i^2}{4000}-\underset{i=1}{\overset{D}{\&Pi;}}cos\left(\frac{x_i}{\sqrt{i}}\right)+1$

为了能更好的比较几种优化算法的效果，消除初始数据随机特性影响，对每一个函数寻优时都采用同一组随机粒子。为验证优化算法的收敛性和稳定性，分别用4种算法对上述4种标准测试函数进行100次测试，取100次优化结果的最优值平均值﹑方差和最优值三个指标进行比较。

Claims (3)

1.基于历史经验和实时调整相结合的粒子群优化算法，包括如下步骤：

⑴基本的粒子群优化算法。

⑵粒子群算法的改进。

⑶改进粒子群算法的计算流程。

⑷仿真实验与分析。

2.根据权利要求1所述的基于历史经验和实时调整相结合的粒子群优化算法，其特征在于：为了实现信息的充分分享，增强引导信息的有效性，本发明对速度更新公式进行两方面的改进：一方面改进是在基本速度更新公式中增加粒子对自己不好历史经验认知的项，这样可以指导和鼓励粒子更有效全面的研究学习历史经验，不仅可以使粒子记住自己和群体过去好的学习经验，还可以研究学习自身不好的学习经验，在学习过程中加强自身信息的利用，减少或避免对历史较差解空间的重复搜索，增加粒子运动过程中寻找到比当前信息更优解的概率，另一方面改进是用所有粒子个体最优值的平均值替代速度更新公式中个体最优值最差粒子的个体最优值，这样可以增加粒子种群的多样性，加强其他粒子好的信息对搜索状态较差粒子的引导，增大搜索到全局最优值的概率，同样也是对所有粒子好的学习经验的应用，能增强粒子的活性，保证了算法的全局探索能力，因此，本发明提出新的速度更新公式：

$\begin{array}{c}{v}_{ij}^{t+1}={\mathrm{\&omega;v}}_{ij}^t+c_1{r}_1(P_j^t-x_{ij}^t)+c_2{r}_2(p_{gj}^t-x_{ij}^t)\\ +c_3{r}_3(x_{ij}^t-P_{worst,ij}^t)\end{array}$

式中，c₁﹑c₂和c₃为加速度系数，c₁体现粒子个体经验对粒子运行轨迹的影响力，c₂体现粒子群体经验对粒子运行轨迹的影响力，c₃体现粒子不好的学习经验对粒子运行轨迹的影响力，r₁﹑r₂和r₃为(0,1)内均匀分布的随机数，表示粒子i在t次迭代过程中自我比较适应度值最差时的位置，即所有粒子取得个体最优值时，将其相同维数上的位置取平均值后得到的个体平均最优位置。

3.根据权利要求1所述的基于历史经验和实时调整相结合的粒子群优化算法，其特征在于：粒子群算法的搜索过程是非线性和高度复杂的，线性和非线性递减的惯性权重没有取自当前最佳搜索状态的信息，不能真正反映实际的搜索过程，如果当前最佳搜索状态的粒子适应性没有显著提高，惯性权重就应下降缓慢，因为粒子仍然需要进行全局搜索，如果当前最佳搜索状态的粒子适应性有显著提高，惯性权重就应快速下降来促进粒子局部搜索，因为算法达到了全局最优状态的附近，此时主要的目标是实现更好的准确性，因此本发明对惯性权重ω进行基于每个粒子的适应度值自适应地实时调整每个粒子的惯性权重，具体步骤如下：

(1)求每个粒子的适应度值，并求出所有粒子适应度值的平均值，

(2)取出适应度值大于平均适应度值的粒子，计算出它们的平均适应度值f_av1，让适应度值大于f_av1的粒子取最大的惯性权重值，

(3)取出适应度值小于平均适应度值的粒子，计算出它们的平均适应度值f_av2，让适应度值小于f_av2的粒子取最小的惯性权重值，

(4)根据自适应动态调整策略，将适应度值在f_av1，f_av2之间的粒子取在最大和最小惯性权重之间二次递减的惯性权重值，

${\mathrm{\&omega;}}_i=\left\{\begin{array}{cc}{\mathrm{\&omega;}}_{max}& f_i>f_{av1}\\ {\mathrm{\&omega;}}_{\max }-({\mathrm{\&omega;}}_{max}-{\mathrm{\&omega;}}_{min}){\left(\frac{f_{av1}-f_i}{f_{av1}-f_{av2}}\right)}^2& f_{av2}\&le;f_i\&le;f_{av1}\\ {\mathrm{\&omega;}}_{\min }& f_i<f_{av2}\end{array}\right.$

式中，ω_min﹑ω_max﹑ω_i分别是最小的惯性权重值﹑最大的惯性权重值﹑粒子i的惯性权重值。