CN104200073A - 一种基于局部Lipschitz估计的自适应群体全局优化方法 - Google Patents

Abstract

一种基于局部Lipschitz估计的自适应群体全局优化方法，在群体进化算法框架下，结合Lipschitz估计理论，首先，设计参数自适应机制来动态调整各变异策略的参数，同时通过提取新个体的邻域信息建立下界支撑面，进而利用下界支撑面估计目标函数值来竞争选择各策略生成的新个体，并指导种群更新；其次，利用下界估计区域极值点快速枚举算法有效的识别出部分无效区域，并借助下界支撑面的下降方向作局部增强。

Description

一种基于局部Lipschitz估计的自适应群体全局优化方法

技术领域

本发明涉及一种智能优化、计算机应用领域，尤其涉及的是，一种基于局部Lipschitz估计的自适应群体全局优化方法。

背景技术

进化算法是模拟生物界的进化过程而产生的一种现代化优化方法，作为一种随机搜索方法，在各种实际优化问题的应用中展现了其独特的优越性。典型的进化算法包括差分进化算法(DE)、遗传算法(GA)、粒子群算法(PSO)、进化规划(EP)及进化策略(ES)。这些算法不仅不需要导数信息，对函数的性态没有要求，而且适用范围广、鲁棒性强。DE算法是由Storn和Price提出的，已被证明是进化算法中简单而最高效的随机性全局优化算法。DE算法通过群体内个体间的合作与竞争产生的群体智能指导优化搜索，具有算法通用，不依赖于问题信息，原理简单，易于实现，记忆个体最优解和种群内信息共享以及较强的全局收敛能力等特点，在电力系统、机械工程、通信、化工、光学及生物信息学等领域得到了广泛应用。

现有文献研究表明，DE算法的性能高度依赖于新个体生成策略(如变异、交叉操作)及其对应的控制参数(如种群规模N_P、增益常数F和交叉概率C_R)。由于不同的优化问题的数学特性不同，因此需要设置不同的策略及参数，不恰当的策略及参数设置不仅会导致算法计算代价较大(如函数评价次数)、收敛速度较慢，而且极易趋于早熟收敛而陷于局部最优解。此外，在进化过程中的不同阶段设置不同的进化策略及参数对提高算法的性能也至关重要。

针对上述问题，国内外学者相继提出了一些策略和参数自适应机制。参照文献1：Qin A K，Huang V L，Suganthan P N.Differential evolution algorithm withstrategy adaptation for global numerical optimization[J].IEEE Transactions onEvolutionary Computation，2009，13(2)：398-417，即Qin A K，Huang V L，SuganthanP N.用于全局数值优化的策略自适应差分进化算法[J].IEEE进化计算，2009，13(2)：398-417，Qin等人利用均匀分布对变异率和交叉率进行了调整，提出一种自适应差分进化算法(SaDE)，通过一种学习过程来自适应调整变异策略及参数，从而使得进化过程的不同阶段自适应的调整新个体生成策略及参数，并引入拟牛顿局部搜索，增强算法的全局搜索能力。参照文献2：Zhang J Q，Sanderson A C.JADE：adaptive differential evolution with optional external archive[J].IEEETransactions on Evolutionary Computation，2009，13(5)：945-958.即Zhang J Q，Sanderson A C.JADE：外部最优存档自适应差分进化算法[J].IEEE进化计算，2009，13(5)：945-958；Zhang等人提出一种带有外部最优存档的自适应差分进化算法(JADE)，对搜索过程中最优解进行存档，并自适应地调整了变异率和交叉率。参照文献3：Wang Y，Cai Z，Zhang Q.Differential evolution with composite trial vectorgeneration strategies and control parameters[J].IEEE Transactions on EvolutionaryComputation，2011，15(1)：55-66.即Wang Y，Cai Z，Zhang Q.具有复合新个体生成策略和控制参数的差分进化算法[J].IEEE进化计算，2011，15(1)：55-66，Wang等人提出一种具有复合新个体生成策略和控制参数的差分进化算法(CoDE)，通过不同的生成策略与不同的控制参数随机组合来竞争产生新个体。参照文献4：MallipeddiR，Suganthan P N，Pan Q K，et al.Differential evolution algorithm with ensemble ofparameters and mutation strategies[J].Applied Soft Computing，2011，11(2)：1679-1696.即Mallipeddi R，Suganthan P N，Pan Q K，et al.具有系综变异策略和参数的差分进化算法[J].应用软计算，2011，11(2)：1679-1696，Mallipeddi等人^[4]提出一种具有系综变异策略和参数的差分进化算法(EPSDE)，对初始种群中的每个个体，从各自的策略和参数池中随机选择策略和参数，同时保留能够产生更好后代的策略和参数，否则重新初始化。这些算法取得了一定的效果，但是对于一些中等或大规模的高维优化问题，计算代价、收敛速度及可靠性仍然存在问题。

因此，现有自适应群体全局优化方法在计算代价、收敛速度及可靠性方面存在着缺陷，需要改进。

发明内容

为了克服现有的全局优化方法由参数设置敏感引起的计算代价、收敛速度及可靠性方面的不足，本发明提出一种计算代价较低，收敛速度较快，且可靠性较高的基于局部Lipschitz估计的自适应群体全局优化方法。

本发明解决其技术问题所采用的技术方案是：

一种基于局部Lipschitz估计的自适应群体全局优化方法，所述方法包括以下步骤：

1)初始化：设置常数C，种群规模N_P，学习代数L_G和各变量的下界a_i和上界b_i，置无效区域IR为空，代数G＝0，均值C_Rm ^t＝0.5，成功进入下一代的新个体的个数N_S ^t＝0，在各变量定义域范围内随机生成初始种群

2)建立n叉树保存各下界估计值：

2.1)根据公式(1)对单位单纯形区域的各顶点进行转换得到点x¹，x²，...x^N+1；

$x_i=x_i^{\′}{\mathrm{\Σ}}_{i=1}^N(b_i-a_i)+a_i,i=\mathrm{1,2},...,N---\left(1\right)$

其中a_i为x_i的下界，b_i为x_i的上界，其中x_i′为各顶点在S中的坐标值；

2.2)根据公式(2)计算各点的支撑向量l¹，l²，...，l^N+1，式中f(x^k)表示x^k对应的目标函数值；

$l^k=(\frac{f\left(x^k\right)}{C}-x_1^k,\frac{f\left(x^k\right)}{C}-x_2^k,...,\frac{f\left(x^k\right)}{C}-x_{N+1}^k)---\left(2\right)$

其中，C为足够大的常数；

2.3)以支撑矩阵L＝{l¹，l²，...，l^N+1}为根建立树，支撑矩阵L如公式(4)；

$L=\left(\begin{array}{cccccc}{l}_1^{k_1}& l_2^{k_1}& .& .& .& l_{N+1}^{k_1}\\ l_1^{k_2}& l_2^{k_2}& .& .& .& l_{N+1}^{k_2}\\ .& .& .& & & .\\ .& .& & .& & .\\ .& .& & & .& .\\ l_1^{k_{N+1}}& l_2^{k_{N+1}}& .& .& .& l_{N+1}^{k_{N+1}}\end{array}\right)---\left(3\right)$

3)判断是否满足终止条件：计算出当前群体中的最优个体x_best和最差个体x_worst，如果满足终止条件(如|f(x_best)-f(x_worst)|≤ε，其中，ε为允许误差)，则保存结果并退出，否则进入步骤4)；

4)利用参数自适应机制交叉、变异产生新个体：

4.1)任意选取四个个体{x^a，x^b，x^c，x^d|a，b，c，d∈{1，2，...，popSize}，a≠b≠c≠d≠k}；

4.2)分别根据公式(4)和(5)的变异策略对{x^a，x^b，x^c，x^d}执行变异操作，生成变异个体

${\hat{x}}^k=x^a+F_k\·(x^b-x^c)---\left(4\right)$

${\hat{x}}^k=x_{\mathrm{pbest}}^{\mathrm{\ψ}}+F_k(x^a-x^b)+F_k(x^c-x^b)---\left(5\right)$

其中，F_k＝normrnd(0.5，0.3)表示第k个目标个体的增益常数，normrnd(0.5，0.3)表示产生均值为0.5，标准偏差为0.3的正态分布随机数，ψ表示[1，0.5N_P]之间的随机整数，表示ψ个个体中的最优个体；

4.3)根据公式(6)分别对公式(4)和公式(5)产生的变异个体执行交叉操作，生成新个体

$x_{\mathrm{trial}}^t\left[i\right]=\left\{\begin{array}{cccc}{\hat{x}}_i^k& \mathrm{if}(\mathrm{randb}\left(\mathrm{0,1}\right)\≤C_{\mathrm{Rk}}^t& \mathrm{or}& i=\mathrm{rnbr}\left(i\right)\\ x_i^k& \mathrm{if}(\mathrm{randb}\left(\mathrm{0,1}\right)>C_{\mathrm{Rk}}^t& \mathrm{or}& i\≠\mathrm{rnbr}\left(i\right)\end{array}\right.i=\mathrm{1,2}...,N---\left(6\right)$

其中，randb(0，1)表示为产生0到1之间的随机小数，rnbr(i)表示随机产生1到N之间的整数，表示第t个变异策略生成的新个体，表示第k个目标个体对应的第t个变异策略的交叉概率，可根据公式(7)和(8)求得；

$C_{\mathrm{Rk}}^t=\mathrm{normrnd}({C_{\mathrm{Rm}}}^t,0.1)---\left(7\right)$

${C_{\mathrm{Rm}}}^t=\frac{\underset{g=G-L_G}{\overset{G-1}{\mathrm{\Σ}}}\underset{i=1}{\overset{N_{\mathrm{Sg}}^t}{\mathrm{\Σ}}}{C}_{\mathrm{RMi},g}^t}{\underset{g=G-L_G}{\overset{G-1}{\mathrm{\Σ}}}{N}_{\mathrm{Sg}}^t},(t=1,...,T;G>L_G)---\left(8\right)$

其中，normrnd(C_Rm ^t，0.1)表示生成均值为C_Rm ^t，标准偏差为0.1的正态分布随机数，表示第g代中第t个变异策略生成的新个体成功进入下一代的数目，表示第g代中第t个策略生成的新个体成功进入下一代的交叉概率值，T表示总共有T个变异策略；

5)找出离新个体最近的两个个体，并对其构建支撑向量：

5.1)根据公式(9)将x^k转换到单位单纯形空间中得到x^k′；

$\begin{array}{cc}\left\{\begin{array}{c}{x}_i^{\′}\≡(x_i-a_i)/{\mathrm{\Σ}}_{i=1}^N(b_i-a_i)\\ x_{N+1}^{\′}\≡1-{\mathrm{\Σ}}_{i=1}^N{x}_i^{\′}\end{array}\right.& ,i=\mathrm{1,2},...,N\end{array}---\left(9\right)$

5.2)根据公式(2)计算x^k′的支撑向量l^k；

5.3)根据条件关系式(10)(11)更新树：

$\∀i,j\∈I,i\≠j:l_i^{k_j}>l_i^{k_i}---\left(10\right)$

$\∀r\∉\{k_1,k_2,...,k_{N+1}\},\∃i\∈I:L_{\mathrm{ii}}=l_i^{k_i}\≥l_i^r---\left(11\right)$

其中，表示存在；

5.3.1)找出针对步骤5.2)构建的支撑向量l^k不满足条件(11)的叶子节点；

5.3.2)用l^k替换步骤5.3.1)中找到的叶子节点矩阵中的第i个支撑向量从而形成新的叶子节点；

5.3.3)判断步骤5.3.2)中产生的新的叶子节点是否满足条件关系式(10)，如果满足，则保留，否则删除；

6)根据下界估计值竞争选择新个体：对个体进行如下操作：

6.1)根据公式(9)对个体作变换得到

6.2)根据公式(12)从树中找出包含个体的树叶在节点TreeNode，其中x^*用代替；

$(x_j^{*}-x_j^{k_j})<(x_i^{*}-x_i^{k_j}),i,j\&Element;I,i\&NotEqual;j---\left(12\right)$

其中为所找的叶子节点矩阵中的元素；

6.3)根据公式(13)计算出所在节点TreeNode的下界估计值其中xⁱ用代替；

$H^K\left(x\right)=\underset{k\&le;K}{\max }\underset{i=1,...N+1}{\min }C(l_i^k+x^i)---\left(13\right)$

其中max表示求最大值，min表示求最小值，xⁱ为单位单纯形空间中的向量；

6.4)比较下界估计值的值，选择最小的新个体作为当前目标个体对应的新个体x_trial；

7)选择：通过如下操作决定新个体x_trial是否可以替换其对应的目标个体x^k：

7.1)如果x_trial被包含在无效区域IR中，则保留x^k不变，并转到步骤7.7)，否则继续步骤7.2)；

7.2)如果x_trial的下界估计值y_trial大于目标个体的函数值f(x^k)，则目标个体不变，并转到7.3)，否则转到步骤7.7)；

7.3)继续根据公式(14)计算出节点TreeNode所对应的下界估计区域的极小值d_min；

$d\left(L\right)=H^K\left(x_{\min }^{\&prime;}\right)=\frac{C(\mathrm{Trace}\left(L\right)+1)}{N+1}---\left(14\right)$

其中Trace(L)表示矩阵的迹，即正对角线元素之和，其中L为支撑矩阵；

7.4)如果d_min大于当前最优值f(x_best)，则将TreeNode所对应的区域视为无效区域，并加入IR中；

7.5)如果x_trial个体的目标函数值f(x_trial)小于f(x_i)，则x_trial个体取代目标个体x^k，并继续步骤7.6)，否则转到步骤7.7)；

7.6)继续做局部增强，进行如下操作：

7.6.1)继续根据公式(15)计算出TreeNode对应区域的下界支撑函数的极小值点x′_min，式中L用TreeNode对应的支撑矩阵代替；

$x_{\min }^{\&prime;}\left(L\right)=\frac{d}{C}-l_i^k---\left(15\right)$

7.6.2)根据公式(1)对x′_min转换得到x_min；

7.6.3)计算x_min对应的目标函数值f(x_min)；

7.6.4)如果f(x_min)小于目标个体的函数值f(x^k)，则x_min取代目标个体x^k；

7.7)删除树并转到步骤3)；

8)设置G＝G+1，并转到步骤3)。

本发明的技术构思为：首先，设计参数自适应机制来动态调整各变异策略的参数，同时结合Lipschitz估计理论，通过提取新个体的邻域信息建立下界支撑面，进而利用下界支撑面估计目标函数值来竞争选择各策略生成的新个体，并指导种群更新；其次，利用下界估计区域极值点快速枚举算法有效的识别出部分无效区域，并借助下界支撑面的下降方向作局部增强。

本发明的有益效果表现在：一方面，根据进化过程中的反馈信息自适应的调整参数，同时利用下界支撑面估计目标函数值来竞争选择不同策略生成的新个体，并指导种群进化，有效的减少了函数评价次数；另一方面，利用下界估计区域极值点快速枚举算法有效的识别出部分无效区域，并借助下界支撑面的下降方向作局部增强，不仅提高了算法的可靠性，而且加快了算法的收敛速度。

附图说明

图1是根据下界估计值竞争选择各变异策略生成的新个体示意图。如图1所示，假设A和B分别为两种策略生成的新个体，对个体A的邻近个体C和D及个体B的邻近个体E和F构建下界支撑面，从而可以利用下界支撑面估计个体A的下界估计值及个体B的下界估计值因为小于则选择个体B为当前目标个体对应的新个体。

图2是利用下界信息指导种群更新示意图。如图2所示，假设G为目标个体，A为通过策略自适应机制选择出的新个体，因为其下界估计值大于G个体的目标函数值，则无需对新个体A作目标函数评价，且保留目标个体G；继续计算出A个体所在估计区域的极小值d_u，如果d_u大于当前种群的最优值，则将A个体所在的区域(即C与D之间的区域，不包括C和D)看作无效区域，并记录下来，且删除C和D个体的下界支撑面.再假设B为通过策略自适应机制选择出的新个体，且不在无效区域中，因为B个体的下界估计值小于目标个体G的目标函数值，则对新个体B作目标函数评价，由于B的目标函数值小于G的目标函数值，则新个体B取代目标个体G。为了进一步加快算法的收敛速度，继续计算出B个体所在下界估计区域的极值点Q(x_u，d(x_u))，及其在目标函数曲面上对应的点Q′(x_u，f(x_u))因为Q′对应的目标函数值小于B个体的函数值，则Q′取代B个体，同时删除E和F个体的下界支撑面。

图3是30维Griewank函数收敛曲线图。

具体实施方式

下面结合附图对本发明作进一步描述。

参照图1～图3，一种基于局部Lipschitz估计的自适应群体全局优化方法，包括以下步骤：

1)初始化：设置常数C，种群规模N_P，学习代数L_G和各变量的下界a_i和上界b_i，置无效区域IR为空，代数G＝0，均值C_Rm ^t＝0.5，成功进入下一代的新个体的个数N_S ^t＝0，在各变量定义域范围内随机生成初始种群

2)建立n叉树保存各下界估计值：

2.1)根据公式(1)对单位单纯形区域的各顶点进行转换得到点x¹，x²，...，x^N+1；

$x_i=x_i^{\&prime;}{\mathrm{\&Sigma;}}_{i=1}^N(b_i-a_i)+a_i,i=\mathrm{1,2},...,N---\left(16\right)$

其中a_i为x_i的下界，b_i为x_i的上界，其中x_i′为各顶点在S中的坐标值；

2.2)根据公式(2)计算各点的支撑向量l¹，l²，...，l^N+1，式中f(x^k)表示x^k对应的目标函数值；

$l^k=(\frac{f\left(x^k\right)}{C}-x_1^k,\frac{f\left(x^k\right)}{C}-x_2^k,...,\frac{f\left(x^k\right)}{C}-x_{N+1}^k)---\left(17\right)$

其中，C为足够大的常数；

2.3)以支撑矩阵L＝{l¹，l²，...，l^N+1}为根建立树，支撑矩阵L如公式(4)；

3)判断是否满足终止条件：计算出当前群体中的最优个体x_best和最差个体x_worst，如果满足终止条件(如|f(x_best)-f(x_worst)|≤ε，其中，ε为允许误差)，则保存结果并退出，否则进入步骤4)；

4)利用参数自适应机制交叉、变异产生新个体：

4.1)任意选取四个个体{x^a，x^b，x^c，x^d|a，b，c，d∈{1，2，...，popSize}，a≠b≠c≠d≠k}；

4.2)分别根据公式(4)和(5)的变异策略对{x^a，x^b，x^c，x^d}执行变异操作，生成变异个体

${\hat{x}}^k=x^a+F_k\&CenterDot;(x^b-x^c)---\left(19\right)$

${\hat{x}}^k=x_{\mathrm{pbest}}^{\mathrm{\&psi;}}+F_k(x^a-x^b)+F_k(x^c-x^d)---\left(20\right)$

其中，F_k＝normrnd(0.5，0.3)表示第k个目标个体的增益常数，normrnd(0.5，0.3)表示产生均值为0.5，标准偏差为0.3的正态分布随机数，ψ表示[1，0.5N_P]之间的随机整数，表示ψ个个体中的最优个体；

4.3)根据公式(6)分别对公式(4)和公式(5)产生的变异个体执行交叉操作，生成新个体

$x_{\mathrm{trial}}^t\left[i\right]=\left\{\begin{array}{cccc}{\hat{x}}_i^k& \mathrm{if}(\mathrm{randb}\left(\mathrm{0,1}\right)\&le;C_{\mathrm{Rk}}^t& \mathrm{or}& i=\mathrm{rnbr}\left(i\right)\\ x_i^k& \mathrm{if}(\mathrm{rnadb}\left(\mathrm{0,1}\right)>C_{\mathrm{Rk}}^t& \mathrm{or}& i\&NotEqual;\mathrm{rnbr}\left(i\right)\end{array},i=\mathrm{1,2},...,N---\left(21\right)\right.$

其中，randb(0，1)表示为产生0到1之间的随机小数，rnbr(i)表示随机产生1到N之间的整数，表示第t个变异策略生成的新个体，表示第k个目标个体对应的第t个变异策略的交叉概率，可根据公式(7)和(8)求得；

$C_{\mathrm{Rk}}^t=\mathrm{normrnd}({C_{\mathrm{Rm}}}^t,0.1)---\left(22\right)$

${C_{\mathrm{Rm}}}^t=\frac{\underset{g=G-L_G}{\overset{G-1}{\mathrm{\&Sigma;}}}\underset{i=1}{\overset{N_{\mathrm{Sg}}^t}{\mathrm{\&Sigma;}}}{C}_{\mathrm{RMi},g}^t}{\underset{g=G-L_G}{\overset{G-1}{\mathrm{\&Sigma;}}}{N}_{\mathrm{Sg}}^t},(t=1,...,T;G>L_G)---\left(23\right)$

其中，normrnd(C_Rm ^t，0.1)表示生成均值为C_Rm ^t，标准偏差为0.1的正态分布随机数，表示第g代中第t个变异策略生成的新个体成功进入下一代的数目，表示第g代中第t个策略生成的新个体成功进入下一代的交叉概率值，T表示总共有T个变异策略；

5)找出离新个体最近的两个个体，并对其构建支撑向量：

5.1)根据公式(9)将x^k转换到单位单纯形空间中得到x^k′；

$\left\{\begin{array}{c}{x}_i^{\&prime;}\&equiv;(x_i-a_i)/{\mathrm{\&Sigma;}}_{i=1}^N(b_i-a_i)\\ x_{N+1}^{\&prime;}\&equiv;1-{\mathrm{\&Sigma;}}_{i=1}^N{x}_i^{\&prime;}\end{array}\right.,i=\mathrm{1,2},...,N---\left(24\right)$

5.2)根据公式(2)计算x^k′的支撑向量l^k；

5.3)根据条件关系式(10)(11)更新树：

$\&ForAll;i,j\&Element;I,i\&NotEqual;j:l_i^{k_j}>l_i^{k_i}---\left(\text{25}\right)$

其中，表示存在；

5.3.1)找出针对步骤5.2)构建的支撑向量l^k不满足条件(11)的叶子节点；

5.3.2)用l^k替换步骤5.3.1)中找到的叶子节点矩阵中的第i个支撑向量从而形成新的叶子节点；

5.3.3)判断步骤5.3.2)中产生的新的叶子节点是否满足条件关系式(10)，如果满足，则保留，否则删除；

6)根据下界估计值竞争选择新个体：对个体进行如下操作：

6.1)根据公式(9)对个体作变换得到

6.2)根据公式(12)从树中找出包含个体的树叶在节点TreeNode，其中x^*用代替；

$(x_j^{*}-x_j^{k_j})<(x_i^{*}-x_i^{k_j}),i,j\&Element;I,i\&NotEqual;j---\left(27\right)$

其中为所找的叶子节点矩阵中的元素；

6.3)根据公式(13)计算出所在节点TreeNode的下界估计值其中xⁱ用代替；

$H^K\left(x\right)=\underset{k\&le;K}{\max }\underset{i=1,...N+1}{\min }C(l_i^k+x^i)---\left(28\right)$

其中max表示求最大值，min表示求最小值，xⁱ为单位单纯形空间中的向量；

6.4)比较下界估计值的值，选择最小的新个体作为当前目标个体对应的新个体x_trial；

7)选择：通过如下操作决定新个体x_trial是否可以替换其对应的目标个体x^k：

7.1)如果x_trial被包含在无效区域IR中，则保留x^k不变，并转到步骤7.7)，否则继续步骤7.2)；

7.2)如果x_trial的下界估计值y_trial大于目标个体的函数值f(x^k)，则目标个体不变，并转到7.3)，否则转到步骤7.7)；

7.3)继续根据公式(14)计算出节点TreeNode所对应的下界估计区域的极小值d_min；

$d\left(L\right)=H^k\left(x_{\min }^{\&prime;}\right)=\frac{C(\mathrm{Trace}\left(L\right)+1)}{N+1}---\left(29\right)$

其中Trace(L)表示矩阵的迹，即正对角线元素之和，其中L为支撑矩阵；

7.4)如果d_min大于当前最优值f(x_best)，则将TreeNode所对应的区域视为无效区域，并加入IR中；

7.5)如果x_trial个体的目标函数值f(x_trial)小于f(x_i)，则x_trial个体取代目标个体x^k，并继续步骤7.6)，否则转到步骤7.7)；

7.6)继续做局部增强，进行如下操作：

7.6.1)继续根据公式(15)计算出TreeNode对应区域的下界支撑函数的极小值点x′_min，式中L用TreeNode对应的支撑矩阵代替；

$x_{\min }^{\&prime;}\left(L\right)=\frac{d}{C}-l_i^k---\left(30\right)$

7.6.2)根据公式(1)对x′_min转换得到x_min；

7.6.3)计算x_min对应的目标函数值f(x_min)；

7.6.4)如果f(x_min)小于目标个体的函数值f(x^k)，则x_min取代目标个体x^k；

7.7)删除树并转到步骤3)；

8)设置G＝G+1，并转到步骤3)。

本实施例以经典的30维Griewank函数为实施例，一种基于局部Lipschitz估计的自适应群体全局优化方法，其中包含以下步骤：

1)初始化：设置常数C＝322320，种群规模N_P＝30，学习代数L_G＝20和各变量的下界a_i＝-600和上界b_i＝600，置无效区域IR为空，代数G＝0，均值C_Rm ^t＝0.5，成功进入下一代的新个体的个数N_S ^t＝0，在各变量定义域范围内随机生成初始种群 $P=\{x_1,x_2,...,x_{N_p}\};$

2)建立n叉树保存各下界估计值：

2.1)根据公式(1)对单位单纯形区域的各顶点进行转换得到点x¹，x²，...，x^N+1；

$x_i=x_i^{\&prime;}{\mathrm{\&Sigma;}}_{i=1}^N(b_i-a_i)+a_i,i=\mathrm{1,2},...,N---\left(31\right)$

其中a_i为x_i的下界，b_i为x_i的上界，其中x_i′为各顶点在S中的坐标值；

2.2)根据公式(2)计算各点的支撑向量l¹，l²，...，l^N+1，式中f(x^k)表示x^k对应的目标函数值；

$l^k=(\frac{f\left(x^k\right)}{C}-x_1^k,\frac{f\left(x^k\right)}{C}-x_2^k,...,\frac{f\left(x^k\right)}{C}-x_{N+1}^k)---\left(32\right)$

其中，C为足够大的常数；

2.3)以支撑矩阵L＝{l¹，l²，...，l^N+1}为根建立树，支撑矩阵L如公式(4)；

$L=\left(\begin{array}{cccccc}{l}_1^{k_1}& l_2^{k_1}& .& .& .& l_{N+1}^{k_1}\\ l_1^{k_2}& l_2^{k_2}& .& .& .& l_{N+1}^{k_2}\\ .& .& .& & & .\\ .& .& & .& & .\\ .& .& & & .& .\\ l_1^{k_{N+1}}& l_2^{k_{N+1}}& .& .& .& l_{N+1}^{k_{N+1}}\end{array}\right)---\left(33\right)$

3)判断是否满足终止条件：计算出当前群体中的最优个体x_best和最差个体x_worst，如果满足终止条件(如|f(x_best)-f(x_worst)|≤ε，其中，ε为允许误差)，则保存结果并退出，否则进入步骤4)；

4)利用参数自适应机制交叉、变异产生新个体：

4.1)任意选取四个个体{x^a，x^b，x^c，x^d|a，b，c，d∈{1，2，...，popSize}，a≠b≠c≠d≠k}；

4.2)分别根据公式(4)和(5)的变异策略对{x^a，x^b，x^c，x^d}执行变异操作，生成变异个体

${\hat{x}}^k=x^a+F_k\&CenterDot;(x^b-x^c)---\left(34\right)$

${\hat{x}}^k=x_{\mathrm{pbest}}^{\mathrm{\&psi;}}+F_k(x^a-x^b)+F_k(x^c-x^d)---\left(35\right)$

其中，F_k＝normrnd(0.5，0.3)表示第k个目标个体的增益常数，normrnd(0.5，0.3)表示产生均值为0.5，标准偏差为0.3的正态分布随机数，ψ表示[1，0.5N_P]之间的随机整数，表示ψ个个体中的最优个体；

4.3)根据公式(6)分别对公式(4)和公式(5)产生的变异个体执行交叉操作，生成新个体

$x_{\mathrm{trial}}^t\left[i\right]=\left\{\begin{array}{cccc}{\hat{x}}_i^k& \mathrm{if}(\mathrm{randb}\left(\mathrm{0,1}\right)\&le;C_{\mathrm{Rk}}^t& \mathrm{or}& i=\mathrm{rnbr}\left(i\right)\\ x_i^k& \mathrm{if}(\mathrm{randb}\left(\mathrm{0,1}\right)>C_{\mathrm{Rk}}^t& \mathrm{or}& i\&NotEqual;\mathrm{rnbr}\left(i\right)\end{array}\right.i=\mathrm{1,2},...,N---\left(36\right)$

其中，randb(0，1)表示为产生0到1之间的随机小数，rnbr(i)表示随机产生1到N之间的整数，表示第t个变异策略生成的新个体，表示第k个目标个体对应的第t个变异策略的交叉概率，可根据公式(7)和(8)求得；

$C_{\mathrm{Rk}}^t=\mathrm{normrnd}({C_{\mathrm{Rm}}}^t,0.1)---\left(37\right)$

${C_{\mathrm{Rm}}}^t=\frac{\underset{g=G-L_G}{\overset{G-1}{\mathrm{\&Sigma;}}}\underset{i=1}{\overset{N_{S_g}^t}{\mathrm{\&Sigma;}}}{C}_{\mathrm{RMi},g}^t}{\underset{g=G-L_G}{\overset{G-1}{\mathrm{\&Sigma;}}}{N}_{S_g}^t},(t=1,...,T;G>L_G)---\left(38\right)$

其中，normrnd(C_Rm ^t，0.1)表示生成均值为C_Rm ^t，标准偏差为0.1的正态分布随机数，表示第g代中第t个变异策略生成的新个体成功进入下一代的数目，表示第g代中第t个策略生成的新个体成功进入下一代的交叉概率值，T表示总共有T个变异策略；

5)找出离新个体最近的两个个体，并对其构建支撑向量：

5.1)根据公式(9)将x^k转换到单位单纯形空间中得到x^k′；

$\left\{\begin{array}{c}{x}_i^{\&prime;}\&equiv;(x_i-a_i)/{\mathrm{\&Sigma;}}_{i=1}^N(b_i-a_i)\\ x_{N+1}^{\&prime;}\&equiv;1-{\mathrm{\&Sigma;}}_{i=1}^N{x}_i^{\&prime;}\end{array}\right.,i=\mathrm{1,2},...,N---\left(39\right)$

5.2)根据公式(2)计算x^k′的支撑向量l^k；

5.3)根据条件关系式(10)(11)更新树：

$\&ForAll;i,j\&Element;I,i\&NotEqual;j:l_i^{k_j}>l_i^{k_i}---\left(40\right)$

$\&ForAll;r\&NotElement;\{k_{1,}{k}_2,...,k_{N+1}\},\&Exists;i\&Element;I:L_{\mathrm{ii}}=l_i^{k_i}\&GreaterEqual;l_i^r---\left(41\right)$

其中，表示存在；

5.3.1)找出针对步骤5.2)构建的支撑向量l^k不满足条件(11)的叶子节点；

5.3.2)用l^k替换步骤5.3.1)中找到的叶子节点矩阵中的第i个支撑向量从而形成新的叶子节点；

5.3.3)判断步骤5.3.2)中产生的新的叶子节点是否满足条件关系式(10)，如果满足，则保留，否则删除；

6)根据下界估计值竞争选择新个体：对个体进行如下操作：

6.1)根据公式(9)对个体作变换得到

6.2)根据公式(12)从树中找出包含个体的树叶在节点TreeNode，其中x^*用代替；

$(x_j^{*}-x_j^{k_j})<(x_i^{*}-x_i^{k_j}),i,j\&Element;I,i\&NotEqual;j---\left(42\right)$

其中为所找的叶子节点矩阵中的元素；

6.3)根据公式(13)计算出所在节点TreeNode的下界估计值其中xⁱ用代替；

$H^K\left(x\right)=\underset{k\&le;K}{\max }\underset{i=1,...N+1}{\min }C(l_i^k+x^i)---\left(43\right)$

其中max表示求最大值，min表示求最小值，xⁱ为单位单纯形空间中的向量；

6.4)比较下界估计值的值，选择最小的新个体作为当前目标个体对应的新个体x_trial；

7)选择：通过如下操作决定新个体x_trial是否可以替换其对应的目标个体x^k：

7.1)如果x_trial被包含在无效区域IR中，则保留x^k不变，并转到步骤7.7)，否则继续步骤7.2)；

7.2)如果x_trial的下界估计值y_trial大于目标个体的函数值f(x^k)，则目标个体不变，并转到7.3)，否则转到步骤7.7)；

7.3)继续根据公式(14)计算出节点TreeNode所对应的下界估计区域的极小值d_min；

$d\left(L\right)=H^K\left(x_{\min }^{\&prime;}\right)=\frac{C(\mathrm{Trace}\left(L\right)+1)}{N+1}---\left(44\right)$

其中Trace(L)表示矩阵的迹，即正对角线元素之和，其中L为支撑矩阵；

7.4)如果d_min大于当前最优值f(x_best)，则将TreeNode所对应的区域视为无效区域，并加入IR中；

7.5)如果x_trial个体的目标函数值f(x_trial)小于f(x_i)，则x_trial个体取代目标个体x^k，并继续步骤7.6)，否则转到步骤7.7)；

7.6)继续做局部增强，进行如下操作：

7.6.1)继续根据公式(15)计算出TreeNode对应区域的下界支撑函数的极小值点x′_min，式中L用TreeNode对应的支撑矩阵代替；

$x_{\min }^{\&prime;}\left(L\right)=\frac{d}{C}-l_i^k---\left(45\right)$

7.6.2)根据公式(1)对x′_min转换得到x_min；

7.6.3)计算x_min对应的目标函数值f(x_min)；

7.6.4)如果f(x_min)小于目标个体的函数值f(x^k)，则x_min取代目标个体x^k；

7.7)删除树并转到步骤3)；

8)设置G＝G+1，并转到步骤3)。

以30维Griewank函数为实施例，运行100次平均成功率为1.00，平均函数评价次数为8402，全局最小值为7.63507-006，收敛曲线图如图3所示。

以上阐述的是本发明给出的一个实施例表现出来的优良优化效果，显然本发明不仅适合上述实施例，而且可以应用到实际工程中的各个领域(如蛋白质结构预测，电力系统，路径规划等优化问题)，同时在不偏离本发明基本精神及不超出本发明实质内容所涉及内容的前提下可对其做种种变化加以实施。

Claims (1)

1.一种基于局部Lipschitz估计的自适应群体全局优化方法，其特征在于：所述全局优化方法包括以下步骤：

1)初始化：设置常数C，种群规模N_P，学习代数L_G和各变量的下界a_i和上界b_i，置无效区域IR为空，代数G＝0，均值C_Rm ^t＝0.5，成功进入下一代的新个体的个数N_s ^t＝0，在各变量定义域范围内随机生成初始种群

2)建立n叉树保存各下界估计值：

2.1)根据公式(1)对单位单纯形区域的各顶点进行转换得到点x¹，x²，...，x^N+1；

$x_i=x_i^{\&prime;}{\mathrm{\&Sigma;}}_{i=1}^N(b_i-a_i)+a_i,i=\mathrm{1,2},...,N---\left(1\right)$

其中a_i为x_i的下界，b_i为x_i的上界，其中x′_i为各顶点在S中的坐标值；

2.2)根据公式(2)计算各点的支撑向量l¹，l²，...，l^N+1，式中f(x^k)表示x^k对应的目标函数值；

$l^k=(\frac{f\left(x^k\right)}{C}-x_1^k,\frac{f\left(x^k\right)}{C}-x_2^k,...,\frac{f\left(x^k\right)}{C}-x_{N+1}^k)---\left(2\right)$

其中，C为足够大的常数；

2.3)以支撑矩阵L＝{l¹，l²，...，l^N+1}为根建立树，支撑矩阵L如公式(4)；

$L=\left(\begin{array}{cccccc}{l}_1^{k_1}& l_2^{k_1}& \&CenterDot;& \&CenterDot;& \&CenterDot;& l_{N+1}^{k_1}\\ l_1^{k_2}& l_2^{k_2}& \&CenterDot;& \&CenterDot;& \&CenterDot;& l_{N+1}^{k_2}\\ \&CenterDot;& \&CenterDot;& \&CenterDot;& & & \&CenterDot;\\ \&CenterDot;& \&CenterDot;& & \&CenterDot;& & \&CenterDot;\\ \&CenterDot;& \&CenterDot;& & & \&CenterDot;& \&CenterDot;\\ l_1^{k_{N+1}}& l_2^{k_{N+1}}& \&CenterDot;& \&CenterDot;& \&CenterDot;& l_{N+1}^{k_{N+1}}\end{array}\right)---\left(3\right)$

3)判断是否满足终止条件：计算出当前群体中的最优个体x_best和最差个体x_worst，如果满足终止条件(如|f(x_best)-f(x_worst)|≤ε，其中，ε为允许误差)，则保存结果并退出，否则进入步骤4)；

4)利用参数自适应机制交叉、变异产生新个体：

4.1)任意选取四个个体{x^a，x^b，x^c，x^d|a，b，c，d∈{1，2，...，popSize}，a≠b≠c≠d≠k)；

4.2)分别根据公式(4)和(5)的变异策略对{x^a，x^b，x^c，x^d}执行变异操作，生成变异个体

${\hat{x}}^k=x^a+F_k\&CenterDot;(x^b-x^c)---\left(4\right)$

${\hat{x}}^k=x_{\mathrm{pbest}}^{\mathrm{\&psi;}}+F_k(x^a-x^b)+F_k(x^c-x^d)---\left(5\right)$

其中，F_k＝normrnd(0.5，0.3)表示第k个目标个体的增益常数，normrnd(0.5，0.3)表示产生均值为0.5，标准偏差为0.3的正态分布随机数，ψ表示[1，0.5N_P]之间的随机整数，表示ψ个个体中的最优个体；

4.3)根据公式(6)分别对公式(4)和公式(5)产生的变异个体执行交叉操作，生成新个体

$x_{\mathrm{trial}}^t\left[i\right]=\begin{array}{cc}\left\{\begin{array}{cccc}{\hat{x}}_i^k& \mathrm{if}(\mathrm{randb}\left(\mathrm{0,1}\right)\&le;C_{\mathrm{Rk}}^t)& \mathrm{or}& i=\mathrm{rnbr}\left(i\right)\\ x_i^k& \mathrm{if}(\mathrm{randb}\left(\mathrm{0,1}\right)>C_{\mathrm{Rk}}^t)& \mathrm{or}& i\&NotEqual;\mathrm{rnbr}\left(i\right)\end{array}\right.& i=\mathrm{1,2},...,N---\left(6\right)\end{array}$

其中，randb(0，1)表示为产生0到1之间的随机小数，rnbr(i)表示随机产生1到N之间的整数，表示第t个变异策略生成的新个体，表示第k个目标个体对应的第t个变异策略的交叉概率，可根据公式(7)和(8)求得；

$C_{\mathrm{Rk}}^t=\mathrm{normrnd}({C_{\mathrm{Rm}}}^t,0.1)---\left(7\right)$

${C_{\mathrm{Rm}}}^t=\frac{\underset{g=G-L_G}{\overset{G-1}{\mathrm{\&Sigma;}}}\underset{i=1}{\overset{N_{\mathrm{Sg}}^t}{\mathrm{\&Sigma;}}}{C}_{\mathrm{RMi},g}^t}{\underset{g=G-L_G}{\overset{G-1}{\mathrm{\&Sigma;}}}{N}_{\mathrm{Sg}}^t},(t=1,...,T;G>L_G)---\left(8\right)$

其中，normrnd(C_Rm ^t，0.1)表示生成均值为C_Rm ^t，标准偏差为0.1的正态分布随机数，表示第g代中第t个变异策略生成的新个体成功进入下一代的数目，表示第g代中第t个策略生成的新个体成功进入下一代的交叉概率值，T表示总共有T个变异策略；

5)找出离新个体最近的两个个体，并对其构建支撑向量：

5.1)根据公式(9)将x^k转换到单位单纯形空间中得到x^k′；

$\left\{\begin{array}{c}{x}_i^{\&prime;}\&equiv;(x_i-a_i)/{\mathrm{\&Sigma;}}_{i=1}^N(b_i-a_i)\\ x_{N+1}^{\&prime;}\&equiv;1-{\mathrm{\&Sigma;}}_{i=1}^N{x}_i^{\&prime;}\end{array},i=\mathrm{1,2},...,N---\left(9\right)\right.$

5.2)根据公式(2)计算x^k′的支撑向量l^k；

5.3)根据条件关系式(10)(11)更新树：

$\&ForAll;i,j\&Element;I,i\&NotEqual;j:l_i^{k_j}>l_i^{k_i}---\left(10\right)$

$\&ForAll;r\&NotElement;\{k_1,k_2,...,k_{N+1}\},\&Exists;i\&Element;I:L_{\mathrm{ii}}=l_i^{k_i}\&GreaterEqual;l_i^r---\left(\text{11}\right)$

其中，表示存在；

5.3.1)找出针对步骤5.2)构建的支撑向量l^k不满足条件(11)的叶子节点；

5.3.2)用l^k替换步骤5.3.1)中找到的叶子节点矩阵中的第i个支撑向量从而形成新的叶子节点；

5.3.3)判断步骤5.3.2)中产生的新的叶子节点是否满足条件关系式(10)，如果满足，则保留，否则删除；

6)根据下界估计值竞争选择新个体：对个体进行如下操作：

6.1)根据公式(9)对个体作变换得到

6.2)根据公式(12)从树中找出包含个体的树叶在节点TreeNode，其中x^*用代替；

$(x_j^{*}-x_j^{k_j})<(x_i^{*}-x_i^{k_j}),i,j\&Element;I,i\&NotEqual;j---\left(12\right)$

其中为所找的叶子节点矩阵中的元素；

6.3)根据公式(13)计算出所在节点TreeNode的下界估计值其中xⁱ用代替；

$H^k\left(x\right)=\underset{k\&le;K}{\max }\underset{i=1,...N+1}{\min }C(l_i^k+x^i)---\left(13\right)$

其中max表示求最大值，min表示求最小值，xⁱ为单位单纯形空间中的向量；

6.4)比较下界估计值的值，选择最小的新个体作为当前目标个体对应的新个体x_trial；

7)选择：通过如下操作决定新个体x_trial是否可以替换其对应的目标个体x^k：

7.1)如果x_trial被包含在无效区域IR中，则保留x^k不变，并转到步骤7.7)，否则继续步骤7.2)；

7.2)如果x_trial的下界估计值y_trial大于目标个体的函数值f(x^k)，则目标个体不变，并转到7.3)，否则转到步骤7.7)；

7.3)继续根据公式(14)计算出节点TreeNode所对应的下界估计区域的极小值d_min；

$d\left(L\right)=H^K\left(x_{\min }^{\&prime;}\right)=\frac{C(\mathrm{Trace}\left(L\right)+1)}{N+1}---\left(14\right)$

其中Trace(L)表示矩阵的迹，即正对角线元素之和，其中L为支撑矩阵；

7.4)如果d_min大于当前最优值f(x_best)，则将TreeNode所对应的区域视为无效区域，并加入LR中；

7.5)如果x_trial个体的目标函数值f(x_trial)小于f(x_i)，则x_trial个体取代目标个体x^k，并继续步骤7.6)，否则转到步骤7.7)；

7.6)继续做局部增强，进行如下操作：

7.6.1)继续根据公式(15)计算出TreeNode对应区域的下界支撑函数的极小值点x′_min，式中L用TreeNode对应的支撑矩阵代替；

$x_{\min }^{\&prime;}\left(L\right)=\frac{d}{C}-l_i^k---\left(15\right)$

7.6.2)根据公式(1)对x′_min转换得到x_min；

7.6.3)计算x_min对应的目标函数值f(x_min)；

7.6.4)如果f(x_min)小于目标个体的函数值f(x^k)，则x_min取代目标个体x^k；

7.7)删除树并转到步骤3)；

8)设置G＝G+1，并转到步骤3)。