CN111539511A - 基于多策略融合的粒子群优化算法 - Google Patents

Abstract

基于多策略融合的粒子群优化算法，包括：提出标准粒子群算法中粒子的速度和位置的更新公式；考虑标准粒子群优化算法存在易陷入局部最优的缺陷，引入三黑洞系统捕获策略和早熟扰动策略；引入多维随机扰动机制；调节算法的全局探索能力与局部开发能力；制定多策略融合的粒子群优化算法流程。本发明一种基于多策略融合的粒子群优化算法，增强了算法的全局搜索能力与局部搜索能力，降低了算法陷入局部最优的概率。仿真结果表明，与其他算法的测试结果进行比较分析，本发明算法具有更快的收敛速度、更高的收敛精度等优势。

Description

基于多策略融合的粒子群优化算法

技术领域

本发明属于智能算法领域，具体涉及一种基于多策略融合的粒子群优化算法。

背景技术

粒子群算法是一种新兴的演化算法，该算法是由Kennedy和Eberhart于1995年提出的，具有原理简单、参数较少、收敛速度快等优点，在神经网络训练、参数优化、图像处理、聚类分析等多个领域得到了广泛的应用。

针对标准粒子群算法易陷入局部最优的问题，学者们提出了各种改进方法，主要有以下3类：1)、改进算法结构策略；2)、引入新的进化策略；3)、与其他智能算法结合。上述对标准粒子群算法的各种改进方法均在一定程度上提升了标准粒子群算法的收敛性能，但由于全局搜索能力与局部搜索能力的彼此制约，限制了标准粒子群算法性能的大幅度提升。

发明内容

为改善标准粒子群算法易于陷入局部最优而使收敛性能较差的缺陷，本发明提出一种多策略融合的粒子群优化算法，增强了全局搜索能力与局部搜索能力，降低了算法陷入局部最优的概率。与其他算法的测试结果进行比较分析，本发明一种基于多策略融合的粒子群优化算法，具有更快的收敛速度、更高的收敛精度等优势。

本发明采取的技术方案为：

基于多策略融合的粒子群优化算法，包括步骤如下：

步骤1、提出标准粒子群算法中粒子的速度和位置的更新公式：

设在D维的搜索空间中，种群大小为N，其中，第i个粒子的位置和速度分别表示为X_i＝(x_i，1，x_i，2，…，x_i，D)和V_i＝(v_i，1，v_i，2，…，v_i，D)，粒子的速度和位置的更新公式为：

其中：v_i,d(t+1)和x_i,d(t+1)分别为第i个粒子的第d维在第t+1代的速度和位置，v_i,d(t)和x_i,d(t)分别为第i个粒子的第d维在第t代的速度和位置，w为惯性权重，c₁和c₂为学习系数，r₁和r₂为[0，1]间均匀分布的随机数，pbest_i,d(t)为第i个粒子的第d维在第t代的个体最优解，gbest_d(t)为粒子的第d维在第t代的全局最优解。

并且通过线性降低的惯性权重w，调节算法的全局探索与局部开发能力，w的调节公式为：

其中：t为当前迭代次数，T为总迭代次数，w_max、w_min分别为最大权重、最小权重。

步骤2、考虑标准粒子群优化算法存在易陷入局部最优的缺陷，引入三黑洞系统捕获策略和早熟扰动策略：

三黑洞系统捕获策略的引入：

设常数阀值p∈[0，1]作为三黑洞系统捕获粒子x_i的能力，对于每一粒子x_i每次迭代产生一随机数l∈[0，1]，若l≤p，则x_i被三黑洞系统捕获，否则按传统方式进行更新；

设x_i的个体最优为x_g，当其被三黑洞系统捕获后，分别以x_g、(x_g+x_max)/2和(x_g+x_min)/2为中心，r为黑洞半径，形成三个黑洞区域；被三黑洞系统捕获的粒子x_i，h产生一随机数l1∈[0，1]，l1>p1，则x_h被系统中黑洞1捕获；若l1∈[p2，p1]，则x_h被黑洞2捕获；若l1<p2，则x_h被黑洞3捕获，被捕获后的粒子位置为：

其中：x_max、x_min为粒子搜索区域的上限和下限，常数阀值p1，p2∈[0，1]，且p1>p2，r1为[-1，1]的随机数，gbest(t)为粒子在第t代的全局最优解。

早熟扰动策略的引入：

采用早熟扰动策略，将粒子位置随机分布在当代最优位置附近，从而跳出局部最优，如式(4)、(5)所示：

|F_g(t)-F_g(t-1)|<0.01·|F_g(t)| (4)

x(t)＝(gbest(t)+gbest(t-1))·r_a (5)

其中：F_g(t)、F_g(t-1)分别为第t、t-1代全局最优值，r_a为[-2，2]的随机数，gbest(t)、gbest(t-1)分别为粒子在第t代和第t+1代的全局最优解。

步骤3、为了保证搜索的稳定性，以提高计算精度，引入多维随机扰动机制：

设常数阈值pp∈[0，1]，对于每一粒子的每一维产生一随机数k∈[0，1]，若k≤pp，则该维采取干扰策略，即：

其中：

为干扰程度，r2为[-1，1]的随机数，x_i,d(t)、v_i,d(t+1)分别为第i个粒子的第d维在第t代的位置和在第t+1的速度。

步骤4、调节算法的全局探索能力与局部开发能力：

在迭代前期，为扩大搜索区域及增强种群多样性，需要较强的全局探索能力；在迭代后期，为提高算法的计算精度，需要较强的局部开发能力；通过协调因子调节全局探索能力与局部开发能力，即：

ε＝exp(-t/T) (7)

其中：ε为协调因子，T为总迭代次数。

步骤5、制定多策略融合的粒子群优化算法流程，包括以下步骤：

步骤5.1：初始化，设置种群规模N，总迭代次数T，粒子的搜索区域[X_min，X_max]和速度限制[V_min，V_max]，随机初始化粒子的位置和速度、适应度、全局最优解和个体最优位置，令迭代次数t＝1。

步骤5.2：按式(7)计算协调因子ε。

步骤5.3：为每一粒子产生一随机数m。

步骤5.4：判断m是否小于ε，若满足，则转步骤5.5，否则转步骤5.6。

步骤5.5：为每一粒子产生一随机数l，若l≤p，则按式(3)更新粒子，否则按式(1)更新粒子。

步骤5.6：按式(6)更新粒子。

步骤5.7：计算粒子的适应度，更新个体最优适应度和个体最优解、全局最优适应度和全局最优解。

步骤5.8：按式(4)判断是否出现早熟，若早熟，则转步骤5.9，否则转步骤5.10。

步骤5.9：按式(5)进行早熟扰动。

步骤5.10：判断是否达到总迭代次数，若满足，则输出当前全局最优解；否则t＝t+1，返回步骤5.2。

将本发明一种基于多策略融合的粒子群优化算法与5种不同的标准粒子群算法的性能进行对比：选取9个典型的测试函数进行仿真实验，与其他5种不同的标准粒子群算法相比，多策略融合的粒子群优化算法在不同的测试函数中均表现出更快的收敛速度及更高的收敛精度。

本发明一种基于多策略融合的粒子群优化算法，技术效果如下：

(1)：三黑洞系统捕获策略的采用使算法全局探索能力增强，种群多样性提高。

(2)：维随机扰动策略的引入使算法局部开发能力增强，收敛精度提高。

(3)：运用协调因子使算法从全局探索向局部开发转变。同时，通过早熟扰动策略有效的降低了算法陷入局部最优的概率。

(4)：本发明算法在不同的测试函数中均表现出更快的收敛速度及更高的收敛精度。因此，在对求解速度与精度要求较高的优化问题中，本发明算法有着良好的应用前景。

附图说明

图1为标准粒子群算法寻优结果箱线图。

图2为粒子位置更新示意图。

图3为多策略粒子群优化算法流程图。

图4为多策略融合的粒子群优化算法寻优结果箱线图。

图5(a)为Rosenbrock测试函数适应度曲线图；

图5(b)为Sphere测试函数适应度曲线图；

图5(c)为Sum of Different Powers测试函数适应度曲线图；

图5(d)为Quartic测试函数适应度曲线图；

图5(e)为Zakharov测试函数适应度曲线图；

图5(f)为Ackley测试函数适应度曲线图；

图5(g)为Griewank测试函数适应度曲线图；

图5(h)为Rastrigin测试函数适应度曲线图；

图5(i)为Schwefel测试函数适应度曲线图。

具体实施方式

下面结合实施例及附图对本发明作进一步详细的描述，

基于多策略融合的粒子群优化算法，具体步骤如下：

步骤1：提出标准粒子群算法中粒子的速度和位置的更新公式：

在标准粒子群算法中，粒子通过学习自身经验(个体最优pbest)与社会经验(全局最优gbest)，改变自身飞行的速度和方向，以达到寻优目的。

假设在D维的搜索空间中，种群大小为N。其中，第i个粒子的位置和速度分别表示为X_i＝(x_i，1，x_i，2，…，x_i，D)和V_i＝(v_i，1，v_i，2，…，v_i，D)，粒子的速度和位置的更新公式为：

其中：v_i，d(t+1)和x_i，d(t+1)分别为第i个粒子的第d维在第t+1代的速度和位置，v_i,d(t)和x_i,d(t)分别为第i个粒子的第d维在第t代的速度和位置，w为惯性权重，c₁和c₂为学习系数，r₁和r₂为[0，1]间均匀分布的随机数，pbest_i,d(t)为第i个粒子的第d维在第t代的个体最优解，gbest_d(t)为粒子的第d维在第t代的全局最优解。

并且通过线性降低的惯性权重w，调节算法的全局探索与局部开发能力，w的调节公式为：

其中：t为当前迭代次数，T为总迭代次数，w_max、w_min分别为最大权重、最小权重。

标准粒子群算法也存在一些缺陷，并且可以通过Schwefel测试函数进行说明，该函数表达式为：

Schwefel测试函数是一个典型的多峰函数，具有欺骗性，在x＝(420.9687，…，42.9687)处取得全局最优，但这一测试函数有多个局部最优点，且全局最优点与其他局部最优点相距很远，一旦陷入局部最优点，极难逃脱局部最优点。如图1为针对Schwefel函数，当D＝2～15时，标准粒子群算法独立运行30次寻优结果的箱线图。

由图1可知，当D＝2时，寻优结果中位值接近全局最优值，标准粒子群算法能有较大几率收敛；但D≥3时，标准粒子群算法已经难以收敛，且收敛性随着维数增加越来越差，主要原因为：

1)：标准粒子群算法的更新公式决定了全局探索与局部开发能力相互制约，无法发挥各自更好的作用。

2)：标准粒子群算法在迭代后期全局探索能力较低，一旦陷入局部最优，极难逃脱局部最优。

步骤2：考虑标准粒子群算法存在易陷入局部最优的缺陷，引入三黑洞系统捕获策略和早熟扰动策略：

三黑洞系统捕获策略的引入：

由于万有引力的存在，微粒有一定概率被黑洞系统捕获，也有一定概率逃逸。受此启发，将三黑洞系统捕获微粒机理引入标准粒子群算法，扩大粒子搜索的区域。

如图2所示，设常数阀值p∈[0，1]作为三黑洞系统捕获粒子x_i的能力。对于每一粒子x_i每次迭代产生一随机数l∈[0，1]，若l≤p，则x_i被三黑洞系统捕获，否则按传统方式进行更新。设x_i的个体最优为x_g，当其被三黑洞系统捕获后，分别以x_g、(x_g+x_max)/2和(x_g+x_min)/2为中心，r为黑洞半径，形成三个黑洞区域。被三黑洞系统捕获的粒子x_i，h产生一随机数l1∈[0，1]。l1>p1，则x_h被系统中黑洞1捕获；若l1∈[p2，p1]，则x_h被黑洞2捕获；若l1<p2，则x_h被黑洞3捕获，被捕获后的粒子位置为：

其中：x_max、x_min为粒子搜索区域的上限和下限，常数阀值p1，p2∈[0，1]，且p1>p2，r1为[-1，1]的随机数，gbest(t)为粒子在第t代的全局最优解。

早熟扰动策略的引入：

在整个迭代过程中，存在容易陷入局部最优的缺陷。为了改善这一不足，本发明采用早熟扰动策略，即若上一代最优值和这一代最优值变化幅度过小，则陷入局部最优，重置粒子的位置，让粒子摆脱当前局部最优的束缚，但脱离局部最优的结果不能过于随机。因此，将粒子位置随机分布在当代最优位置附近，从而跳出局部最优，如式(4)、(5)所示。

|F_g(t)-F_g(t-1)|<0.01·|F_g(t)| (4)

x(t)＝(gbest(t)+gbest(t-1))·r_a (5)

其中：Fg(t)、Fg(t-1)分别为第t、t-1代全局最优值，r_a为[-2，2]的随机数，gbest(t)、gbest(t-1)分别为粒子在第t代和第t+1代的全局最优解。

步骤3：多维随机扰动策略的引入：

科学家发现当环境发生改变时，植物能改变形态、生理和发展性状等，即植物的可塑性，例如光照强度变化时，植物会改变茎节长度、单叶面积等形态。当环境微小变化时，植物通过发生微小的随机干扰，以纠正自身发育误差，即发育渠化作用。可塑性和发育渠化作用相结合，提高了植物对环境的适应性和植物发育的稳定性。受此启发，引入多维随机扰动机制保证了搜索的小幅度变动，以提高计算精度，即搜索的稳定性。

设常数阈值pp∈[0，1]作为采取微小干扰的概率，对于每一粒子的每一维x_i，d产生一随机数k∈[0，1]，若k≤pp，则该维采取干扰策略，即：

其中：

为干扰程度，r2为[-1，1]的随机数，x_i,d(t)、v_i,d(t+1)分别为第i个粒子的第d维在第t代的位置和在第t+1的速度。

步骤4：调节算法的全局探索能力与局部开发能力：

在迭代前期，为扩大搜索区域及增强种群多样性，需要较强的全局探索能力；在迭代后期，为提高算法的计算精度，需要较强的局部开发能力。通过协调因子调节全局探索能力与局部开发能力，即：

ε＝exp(-t/T) (7)

其中：ε为协调因子，T为总迭代次数。

多策略融合的粒子群优化算法选择策略方式为：

每一粒子x_i产生一随机数m，若ε>m，则选择三黑洞系统捕获策略，否则选择多维随机扰动策略。协调因子ε随着迭代次数增加而呈非线性减小，采取三黑洞系统捕获策略的概率降低，采取多维随机扰动策略的概率增大。协调因子ε使算法在前期具有较强的全局探索能力，提高了避免陷入局部最优解的能力，在后期具有较强的局部开发能力，提高了计算精度。同时，局部开发能力随着迭代次数的增加而增强，完成了从全局探索向局部开发的转变。

步骤5：制定多策略融合的粒子群优化算法流程：

步骤5.1：初始化。设置种群规模N，总迭代次数T，粒子的搜索区域[X_min，X_max]和速度限制[V_min，V_max]，随机初始化粒子的位置和速度、适应度、全局最优解和个体最优位置，令迭代次数t＝1。

步骤5.2：按式(7)计算协调因子ε。

步骤5.3：为每一粒子产生一随机数m。

步骤5.4：判断m是否小于ε，若满足，则转步骤5.5，否则转步骤5.6。

步骤5.5：为每一粒子产生一随机数l，若l≤p，则按式(3)更新粒子，否则按式(1)更新粒子。

步骤5.6：按式(6)更新粒子。

步骤5.7：计算粒子的适应度，更新个体最优适应度和个体最优解、全局最优适应度和全局最优解。

步骤5.8：按式(4)判断是否出现早熟，若早熟，则转步骤5.9，否则转步骤5.10。

步骤5.9：按式(5)进行早熟扰动。

步骤5.10：判断是否达到总迭代次数，若满足，则输出当前全局最优解，否则t＝t+1，返回步骤5.2。

多策略融合的粒子群优化算法流程如图3所示。

图4所示为多策略融合的粒子群优化算法在2～15维下对Schwefel测试函数独立运行30次寻优结果的箱线图。可见，多策略融合的粒子群优化算法在2～15维下寻优结果均接近全局最优值,随着维度增加，仍具有较强的收敛精度,其收敛精度高出粒子群优化算法6个数量级，说明多策略融合的粒子群优化算法比粒子群优化算法收敛性更强。其原因主要分为以下几点：

1)引入三黑洞系统捕获策略，使粒子有几率黑洞捕获，为粒子开拓了新的搜索区域，全局搜索能力加强,提高了种群的多样性。

2)引入多维随机干扰策略，使得粒子进行深度搜索，使粒子搜索更加细致，局部搜索能力加强，提高了种群的整体精度。

3)通过协调因子ε的调节，使得迭代前期具有较强的全局搜索能力，迭代后期具有较强的局部搜索能力。

4)通过早熟扰动策略，大幅度地降低了种群陷入早熟收敛的概率。

步骤6：进行仿真实验，将多策略融合的粒子群优化算法与5种不同的粒子群算法的性能进行对比：

本发明选取9个典型的测试函数进行仿真实验，如表1所示。

表1典型测试函数表

仿真实验时，各算法粒子移动速度范围与搜索范围一致，种群规模均为40，总迭代次数均为1000。各算法其他参数设置如下：

1)、标准粒子群算法(SPSO)：最大惯性权重w_max＝0.9，最小惯性权重w_min＝0.4，惯性权重线性下降，学习系数c₁＝c₂＝2。

2)、带压缩因子的粒子群优化算法(PSOCF)：学习系数c₁＝c₂＝2.05，收缩因子

3)、基于随机黑洞的粒子群优化算法(RBHPSO)：w和c₁、c₂与标准粒子群算法保持一致，黑洞捕获粒子的概率p＝0.1，黑洞半径r＝0.01。

4)、独立局部搜索与多区域渐近收敛的新型PSO算法(ILSPSO)：学习系数c＝2，可调参数χ＝0.95。

5)、带多级扰动的混合型粒子群优化算法(MPSO)：在标准标准粒子群算法中，w和c₁、c₂与标准粒子群算法保持一致，在带压缩因子标准粒子群算法中，

和c₁、c₂与粒子群CF算法保持一致。

6)、基于多策略融合的粒子群优化算法(MSPSO)：w与标准粒子群算法保持一致，学习系数c1s＝2.5，c1e＝0.5，c2s＝0.5，c2e＝2.5，c₁线性增加，c₂线性降低，黑洞半径r＝0.1，干扰程度

三黑洞系统捕获粒子的能力p＝0.35，p1＝0.8，p2＝0.2。

本发明为了突出各算法寻优性能，测试函数的维数D均取30，并各算法均独立运行30次。表2给出了6种算法寻优结果的平均值、最优值、最劣值及方差。

表2寻优结果表

为便于展示各算法在不同测试函数下的求解精度，将各测试函数的平均值分别取以10为底的对数，此外，由于计算机的计算精度限定，本发明将计算结果低于10^-300的值默认为0。

各测试函数曲线如图5(a)～图5(i)所示。其中，横坐标表示迭代次数，纵坐标表示平均适应的对数值，结合表2和图5(a)～图5(i)可知：

从算法的收敛速度看：在函数f₁～f₉中，多策略融合的粒子群优化算法的收敛速度最快。

从算法的收敛精度看：

1)、在单峰病态函数f₁中，多策略融合的粒子群优化算法的收敛精度高于其他5种算法，且有很大概率收敛到全局最优值。

2)、在单峰函数f₂～f₅中，多策略融合的粒子群优化算法收敛精度明显高于其他5种算法，高出其他5种算法上百个数量级。

3)、在多峰函数f₆～f₈中，多策略融合的粒子群优化算法与M标准粒子群算法收敛精度大致相同，在f₆中，高出其他4种算法至少10个数量级，在f₇、f₈中，高出其他4种算法上百个数量级。

4)、在多峰欺骗函数f₉中，多策略融合的粒子群优化算法收敛精度高于其他5种算法至少5个数量级。多策略融合的粒子群优化算法能收敛到全局最优，但其他5种算法均不能收敛到全局最优。

综上所述，与其他5种算法相比，对于单峰函数和多峰函数，多策略融合的粒子群优化算法的收敛性能：收敛速度和收敛精度均大幅度提升。

Claims (1)

1.基于多策略融合的粒子群优化算法，其特征在于包括以下步骤：

步骤1、提出标准粒子群算法中粒子的速度和位置的更新公式：

设在D维的搜索空间中，种群大小为N，其中，第i个粒子的位置和速度分别表示为X_i＝(x_i，1，x_i，2，…，x_i，D)和V_i＝(v_i，1，v_i，2，…，v_i，D)，粒子的速度和位置的更新公式为：

其中：v_i,d(t+1)和x_i,d(t+1)分别为第i个粒子的第d维在第t+1代的速度和位置，v_i,d(t)和x_i,d(t)分别为第i个粒子的第d维在第t代的速度和位置，w为惯性权重，c₁和c₂为学习系数，r₁和r₂为[0，1]间均匀分布的随机数，pbest_i,d(t)为第i个粒子的第d维在第t代的个体最优解，gbest_d(t)为粒子的第d维在第t代的全局最优解；

并且通过线性降低的惯性权重w，调节算法的全局探索与局部开发能力，w的调节公式为：

其中：t为当前迭代次数，T为总迭代次数，w_max、w_min分别为最大权重、最小权重；

步骤2、考虑标准粒子群优化算法存在易陷入局部最优的缺陷，引入三黑洞系统捕获策略和早熟扰动策略：

三黑洞系统捕获策略的引入：

设常数阀值p∈[0，1]作为三黑洞系统捕获粒子x_i的能力，对于每一粒子x_i每次迭代产生一随机数l∈[0，1]，若l≤p，则x_i被三黑洞系统捕获，否则按传统方式进行更新；

设x_i的个体最优为x_g，当其被三黑洞系统捕获后，分别以x_g、(x_g+x_max)/2和(x_g+x_min)/2为中心，r为黑洞半径，形成三个黑洞区域；被三黑洞系统捕获的粒子x_i，h产生一随机数l1∈[0，1]，l1>p1，则x_h被系统中黑洞1捕获；若l1∈[p2，p1]，则x_h被黑洞2捕获；若l1<p2，则x_h被黑洞3捕获，被捕获后的粒子位置为：

其中：x_max、x_min为粒子搜索区域的上限和下限，常数阀值p1，p2∈[0，1]，且p1>p2，r1为[-1，1]的随机数，gbest(t)为粒子在第t代的全局最优解；

早熟扰动策略的引入：

采用早熟扰动策略，将粒子位置随机分布在当代最优位置附近，从而跳出局部最优，如式(4)、(5)所示：

|F_g(t)-F_g(t-1)|<0.01·|F_g(t)| (4)

x(t)＝(gbest(t)+gbest(t-1))·r_a (5)

其中：F_g(t)、F_g(t-1)分别为第t、t-1代全局最优值，r_a为[-2，2]的随机数，gbest(t)、gbest(t-1)分别为粒子在第t代和第t+1代的全局最优解；

步骤3、引入多维随机扰动机制：

设常数阈值pp∈[0，1]，对于每一粒子的每一维产生一随机数k∈[0，1]，若k≤pp，则该维采取干扰策略，即：

其中：

为干扰程度，r2为[-1，1]的随机数，x_i,d(t)、v_i,d(t+1)分别为第i个粒子的第d维在第t代的位置和在第t+1的速度；

步骤4、调节算法的全局探索能力与局部开发能力：

通过协调因子调节全局探索能力与局部开发能力，即：

ε＝exp(-t/T) (7)

其中：ε为协调因子，T为总迭代次数；

步骤5：制定多策略融合的粒子群优化算法流程，包括以下步骤：

步骤5.1：初始化，设置种群规模N，总迭代次数T，粒子的搜索区域[X_min，X_max]和速度限制[V_min，V_max]，随机初始化粒子的位置和速度、适应度、全局最优解和个体最优位置，令迭代次数t＝1；

步骤5.2：按式(7)计算协调因子ε；

步骤5.3：为每一粒子产生一随机数m；

步骤5.4：判断m是否小于ε，若满足，则转步骤5.5，否则转步骤5.6；

步骤5.5：为每一粒子产生一随机数l，若l≤p，则按式(3)更新粒子，否则按式(1)更新粒子；

步骤5.6：按式(6)更新粒子；

步骤5.7：计算粒子的适应度，更新个体最优适应度和个体最优解、全局最优适应度和全局最优解；

步骤5.8：按式(4)判断是否出现早熟，若早熟，则转步骤5.9，否则转步骤5.10；

步骤5.9：按式(5)进行早熟扰动；

步骤5.10：判断是否达到总迭代次数，若满足，则输出当前全局最优解；否则t＝t+1，返回步骤5.2。

Images