CN116341605A - 一种基于反向学习策略的灰狼算法混合优化方法 - Google Patents

Abstract

本发明公开了一种基于反向学习策略的灰狼算法混合优化方法，属于软件测试领域，包括以下步骤：针对灰狼算法易陷入局部最优和全局搜索能力不足问题，首先为增加算法的局部搜索和全局搜索能力，对狼群中精英个体位置的更新策略进行优化，采用莱维飞行策略在狼群搜索过程中生成随机跳跃，扩大搜索范围；然后，进一步避免算法陷入局部最优，对狼群个体采用反向学习策略，针对搜索过程中的灰狼精英个体和最差灰狼个体采用反向学习，增加狼群多样性；最后，为平衡算法的局部搜索和全局搜索能力，在狼群迭代过程中对模型控制参数更新进行优化，对参数a采用非线性优化策略，以协调算法的探索和开采能力。

Description

一种基于反向学习策略的灰狼算法混合优化方法

技术领域

本发明属于软件测试技术领域，特别是涉及一种基于反向学习策略的灰狼算法混合优化方法。

背景技术

软件密集型系统在各信息化装备产品领域得到了大规模应用，软件的质量问题已成为影响软件系统质量的重要因素。软件的任何质量问题均可能导致严重后果，零缺陷目标已经成为当前的迫切需要和挑战。但在软件产品研制生产的过程中，长期以来一直存在着重硬件、轻软件、重技术、轻应用的倾向，嵌入式软件通常嵌入设备之中，为了保证软件在使用时，不会出现由于软件失效导致设备无法使用的情况，要求软件自身具备较高的可靠性。

群体智能优化算法以生物群体行为的方式来对所求解的问题进行搜索，以找到全局最优解的启发式搜索算法。群智算法对输入信息直接进行处理和搜索，可以求解那些很难建立形式化模型，不需要所求问题的梯度等数学信息，不要求研究对象是否连续、可导，也不用建立所求问题的精确数学模型。灰狼算法(GWO)模拟灰狼群体的个体等级和狩猎机制。灰狼等级为典型的金字塔结构，α狼为狼群的头狼，负责管理狼群和组织狩猎，根据民主决策意见，并将狼群的狩猎决策逐级传达给下一级个体。β狼为第二层级的灰狼，服从并协助头狼进行狩猎决策和管理狼群，监督命令的执行，在头狼缺失时成为头狼。δ狼为第三层级的灰狼，服从上面两层灰狼的指令，支配ω狼。ω狼为第四层级的灰狼，服从命令对猎物发动攻击。

在灰狼算法迭代求解过程中，头狼的位置始终对应适应度函数最优解。灰狼在头狼的带领下进行捕猎，第一步是将集中种群内所有的灰狼，然后不同层级的灰狼根据不同的角色进行搜索、追踪、追逐以及逼近猎物，灰狼群内的个体向猎物方向进行包围，猎物距离小于设定阈值时，灰狼种群中距离猎物最近的β狼和δ狼在头狼的命令下进行捕猎，如果位于包围中的猎物选择逃离，群体中的其他灰狼会及时对追赶猎物的灰狼进行补充，最终实现狼群对猎物的追踪以及灰狼种群中灰狼个体位置的更新变换，从而出现对猎物持续不断地攻击，实现对包围圈内猎物的捕食。在灰狼算法迭代求解过程中，通过α狼、β狼和δ狼与猎物距离引导调整预测的猎物方向和猎物距离，多次迭代获取最优解，这种位置更新机制存在趋同性问题，迭代过程中易使狼群的多数个体朝向一个方向逼近，增加了陷入局部最优收敛的风险。另外，线性收敛因子在迭代时从2线性变化到0，不能较好地进行全局搜索。

发明内容

本发明目的在于提供一种基于反向学习策略的灰狼算法混合优化方法，解决灰狼算法在求解最优解时，位置更新机制存在的趋同性问题和线性收敛因子导致的全局搜索能力不佳问题，通过反向学习机制和莱维飞行策略，对灰狼个体进行更新以增加种群多样性，避免算法陷入局部最优收敛的风险。采用基于正切的非线性收敛因子，使优化后的算法能够较好地进行全局搜索；将灰狼算法进行混合改进，增强算法的全局搜索能力。

为了实现本发明目的，本发明公开了一种基于反向学习策略的灰狼算法混合优化方法，包括以下步骤：

S1、随机初始化灰狼种群参数，初始化灰狼种群位置，设置最大迭代次数；

S2、计算狼群中每头灰狼的适应值函数，对灰狼个体进行排序，确定引导者α狼、β狼和δ狼，根据灰狼个体位置更新公式保存其个体位置X_∝、X_β、X_γ；

S3、对狼群中的α狼、β狼和δ狼进行反向学习策略，对其进行反向求解；

S4、对狼群中的最差灰狼进行反向学习策略，对其进行反向求解；

S5、重新计算α狼、β狼、δ狼和最差灰狼的4个反向解的适应度值；

S6、将个体反向解的适应度值与本身比较，对全部8个适应度值进行排序，用排序后前4的反向解随机替换种群中的个体；

S7、计算每头灰狼的适应度值，更新个体位置，确定α狼、β狼和δ狼，保存其个体位置X_∝、X_β、X_γ；

S8、采用莱维飞行策略，更新α狼、β狼和δ狼位置，产生新的灰狼个体，加入原有种群中；

S9、对于狼群中的其他灰狼，按照灰狼个体位置更新公式对灰狼的个体位置进行更新，完成狼群更新；

S10、贪心算法更新X_∝、X_β、X_γ并保存，对位置更新公式加入权重，结合对参数a进行随机分布调整控制参数策略控制，替换原算法中的线性收敛因子，更新参数a、收敛因子A和扰动向量系数C；

S11、判断当前迭代次数是否达到要求，在迭代次数未达到设定值的情况下，迭代运行S3-S10；迭代次数满足设定值时，输出最优解。

进一步地，灰狼个体位置更新公式具体如下：

设定狼群灰狼个数为N只，α狼、β狼和δ狼为引导者，ω狼为跟随者；狩猎空间为m，灰狼个体的位置记为x_i＝(x_i1,x_i2,…x_im),i＝1,2…N；狩猎过程位置更新公式为

D＝|C·X_p(t)-X(t)|

C＝2r₁

其中，C扰动向量系数，X_p(t)表示目标位置；X(t)表示第t代灰狼个体的位置；r₁是[0,1]内的随机向量，D是灰狼个体与引导者的距离；

狩猎过程中，其他灰狼个体的位置移动通过迭代计算其与α狼、β狼和δ狼三者的距离进行更新；灰狼包围过程每个灰狼个体与引导者的距离按照下面公式更新

X₁、X₂、X₃表示灰狼个体对应α狼、β狼和δ狼的位置向量，每个灰狼个体的位置更新公式如下

引入比例权重，ω₁、ω₂、ω₃为权重系数，分别对应ω狼对α狼、β狼和δ狼的学习率；

改进后的灰狼优化算法位置更新公式表示为

收敛因子A表示为公式

A＝2ar₂-a

基于随机分布调整控制参数策略对a进行改进

a(t)＝a_initial-(a_initial-a_final)×rand()+σ×randn()

其中，a_initial和a_final为参数α的初始值和最终值；t为当前迭代次数；rand()为[0,1]服从均匀分布的随机数，randn()为服从正态分布的随机数，σ(方差)为度量参数α与其期望的偏离程度。

进一步地，反向学习策略具体如下：

采用随机反向学习机制，即X_best(t+1)＝a+rand(b-X_best(t))，X_best表示当前全局最优灰狼位置向量；X_worst(t+1)＝a+rand(b-X_worst(t))，其中，X_worst表示当前全局最差灰狼位置向量，rand表示区间[0,1]中的均匀分布随机数，a和b分别表示灰狼位置下边界向量和上边界向量。

进一步地，莱维飞行策略位置更新公式具体如下：

其中，a₁＝a₀*(X_i-X_init)，a₀＝0.01，X_init是初始位置，Levy(λ)表示随机搜索路径，

其中u、v服从标准正态分布，/>

与现有技术相比，本发明的显著进步在于：1)在灰狼算法种群初始化完成后，计算适应度函数并对灰狼个体进行排序，确定精英个体和最差个体灰狼，分别使用反向学习机制和莱维飞行策略进行指定灰狼个体的反向求解和位置更新，增加种群多样性；2)改进后的灰狼算法提高了全局搜索能力，可以防止算法陷入局部最优解；3)采用随机反向学习机制求解反向解，增加了最差灰狼的全局搜索能力，同时，只对最差灰狼进行反向学习，能够有效避免影响算法的收敛速度。

为更清楚说明本发明的功能特性以及结构参数，下面结合附图及具体实施方式进一步说明。

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1是一种基于反向学习策略的灰狼算法混合优化方法示意图

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本发明一部分实施例，而不是全部的实施例；基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

如图1所示，基于反向学习策略的灰狼算法混合优化方法的详细流程步骤如下：

S1、随机初始化灰狼种群参数，初始化灰狼种群位置，设置最大迭代次数；

S2、计算狼群中每头灰狼的适应值函数，对灰狼个体进行排序，确定α狼、β狼和δ狼，保存其个体位置X_∝、X_β、X_γ；

假定狼群灰狼个数为N只，α狼、β狼和δ狼为引导者，ω狼为跟随者。狩猎空间为m，灰狼个体的位置记为x_i＝(x_i1,x_i2,…x_im),i＝1,2…N。狩猎过程位置更新公式如下：

D＝|C·X_p(t)-X(t)|

C＝2r₁

其中，C扰动向量系数，X_p(t)表示目标位置；X(t)表示第t代灰狼个体的位置；r₁是[0,1]内的随机向量，D是灰狼个体与引导者的距离。

狩猎过程中，其他灰狼个体的位置移动通过迭代计算其与α狼、β狼和δ狼三者的距离进行更新。灰狼包围过程每个灰狼个体与引导者的距离按照下面公式更新：

X₁、X₂、X₃表示灰狼个体对应α狼、β狼和δ狼的位置向量，每个灰狼个体的位置更新公式如下：

引入比例权重，ω₁、ω₂、ω₃为权重系数，分别对应ω狼对α狼、β狼和δ狼的学习率。

改进后的灰狼优化算法位置更新公式表示为：

收敛因子A表示为公式：

A＝2ar₂-a

基于随机分布调整控制参数策略对a进行改进：

a(t)＝a_initial-(a_initial-a_final)×rand()+σ×randn()

其中，a_initial和a_final为参数α的初始值和最终值；t为当前迭代次数。rand()为[0,1]服从均匀分布的随机数，randn()为服从正态分布的随机数，σ(方差)为度量参数α与其期望的偏离程度。

S3、对狼群中的α狼、β狼和δ狼进行反向学习策略，对其进行反向求解；

S4、对狼群中的最差灰狼进行反向学习策略，对其进行反向求解；

采用随机反向学习机制，即X_best(t+1)＝a+rand(b-X_best(t))，其中，X_best表示当前全局最优灰狼位置向量。

X_worst(t+1)＝a+rand(b-X_worst(t))，其中，X_worst表示当前全局最差灰狼位置向量，rand表示区间[0,1]中的均匀分布随机数，a和b分别表示灰狼位置下边界向量和上边界向量。

S5、重新计算α狼、β狼、δ狼和最差灰狼的4个反向解的适应度值；

S6、将个体反向解的适应度值与本身比较，对全部8个适应度值进行排序，用排序后前4的反向解随机替换种群中的个体；

将个体反向解加入狼群，对灰狼种群中的全部灰狼个体进行位置更新，将4匹最差的狼从狼群中剔除，比较更新每个灰狼个体的位置；

S7、计算每头灰狼的适应度值，更新个体位置，确定α狼、β狼和δ狼，保存其个体位置X_∝、X_β、X_γ；

S8、采用莱维飞行策略，更新α狼、β狼和δ狼位置，产生新的灰狼个体，加入原有种群中；

莱维飞行策略位置更新公式：

其中，a₁＝a₀*(X_i-X_init)，a₀＝0.01，X_init是初始位置，Levy(λ)表示随机搜索路径，

其中u、v服从标准正态分布，/>

S9、对于狼群中的其他灰狼，按照灰狼个体位置更新公式对灰狼的个体位置进行更新，完成狼群更新；

S10、贪心算法更新X_∝、X_β、X_γ并保存，对位置更新公式加入权重，结合对参数a的控制，替换原算法中的线性收敛因子，更新参数a、A和C；

S11、判断当前迭代次数是否达到要求，在迭代次数未达到设定值的情况下，迭代运行S3-S10；迭代次数满足设定值时，输出最优解。

群体智能优化算法的特征就是利用了种群的群体智慧进行协同搜索，基于智能体的相互学习和合作来不断地改变搜索的方向，从而在多个局部解空间内找到最优解。因此，本申请提出一种基于反向学习机制和莱维飞行策略的混合灰狼算法，基于训练结束后的损失函数的值来判断当前模型的训练效果，并将损失函数作为适应值函数，利用混合群体智能算法调整超参数，以更科学的方法让模型能够有效地学习和训练，实现模型选择和超参数优化的自动化的高效处理。

需要说明的是，在本申请中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。

尽管已经示出和描述了本发明的实施例，对于本领域的普通技术人员而言，可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由所附权利要求及其等同物限定。

Claims (4)

1.一种基于反向学习策略的灰狼算法混合优化方法，其特征在于，包括以下步骤：

S1、随机初始化灰狼种群参数，初始化灰狼种群位置，设置最大迭代次数；

S2、计算狼群中每头灰狼的适应值函数，对灰狼个体进行排序，确定引导者α狼、β狼和δ狼，根据灰狼个体位置更新公式保存其个体位置X_∝、X_β、X_γ；

S3、对狼群中的α狼、β狼和δ狼进行反向学习策略，对其进行反向求解；

S4、对狼群中的最差灰狼进行反向学习策略，对其进行反向求解；

S5、重新计算α狼、β狼、δ狼和最差灰狼的4个反向解的适应度值；

S6、将个体反向解的适应度值与本身比较，对全部8个适应度值进行排序，用排序后前4的反向解随机替换种群中的个体；

S7、计算每头灰狼的适应度值，更新个体位置，确定α狼、β狼和δ狼，保存其个体位置X_∝、X_β、X_γ；

S8、采用莱维飞行策略，更新α狼、β狼和δ狼位置，产生新的灰狼个体，加入原有种群中；

S9、对于狼群中的其他灰狼，按照灰狼个体位置更新公式对灰狼的个体位置进行更新，完成狼群更新；

S10、贪心算法更新X_∝、X_β、X_γ并保存，对位置更新公式加入权重，结合对参数a进行随机分布调整控制参数策略控制，替换原算法中的线性收敛因子，更新参数a、收敛因子A和扰动向量系数C；

S11、判断当前迭代次数是否达到要求，在迭代次数未达到设定值的情况下，迭代运行S3-S10；迭代次数满足设定值时，输出最优解。

2.根据权利要求1所述的一种基于反向学习策略的灰狼算法混合优化方法，其特征在于，灰狼个体位置更新公式具体如下：

设定狼群灰狼个数为N只，α狼、β狼和δ狼为引导者，ω狼为跟随者；狩猎空间为m，灰狼个体的位置记为x_i＝(x_i1,x_i2,…x_im),i＝1,2…N；狩猎过程位置更新公式为

D＝|C·X_p(t)-X(t)|

C＝2r₁

其中，C为扰动向量系数，X_p(t)表示目标位置；X(t)表示第t代灰狼个体的位置；r₁是[0,1]内的随机向量，D是灰狼个体与引导者的距离；

狩猎过程中，其他灰狼个体的位置移动通过迭代计算其与α狼、β狼和δ狼三者的距离进行更新；灰狼包围过程每个灰狼个体与引导者的距离按照下面公式更新

X₁、X₂、X₃表示灰狼个体对应α狼、β狼和δ狼的位置向量，每个灰狼个体的位置更新公式如下

引入比例权重，ω₁、ω₂、ω₃为权重系数，分别对应ω狼对α狼、β狼和δ狼的学习率；

改进后的灰狼优化算法位置更新公式表示为

收敛因子A表示为公式

A＝2ar₂-a

基于随机分布调整控制参数策略对a进行改进

a(t)＝a_initial-(a_initial-a_final)×rand()+σ×randn()

其中，a_initial和a_final为参数α的初始值和最终值；t为当前迭代次数；rand()为[0,1]服从均匀分布的随机数，randn()为服从正态分布的随机数，σ(方差)为度量参数α与其期望的偏离程度。

3.根据权利要求1所述的一种基于反向学习策略的灰狼算法混合优化方法，其特征在于，反向学习策略具体如下：

采用随机反向学习机制，即X_best(t+1)＝a+rand(b-X_best(t))，X_best表示当前全局最优灰狼位置向量；X_worst(t+1)＝a+rand(b-X_worst(t))，其中，X_worst表示当前全局最差灰狼位置向量，rand表示区间[0,1]中的均匀分布随机数，a和b分别表示灰狼位置下边界向量和上边界向量。

4.根据权利要求1所述的一种基于反向学习策略的灰狼算法混合优化方法，其特征在于，莱维飞行策略位置更新公式具体如下：

其中，a₁＝a₀*(X_i-X_init)，a₀＝0.01，X_init是初始位置，Levy(λ)表示随机搜索路径，

其中u、v服从标准正态分布，/>

Images