CN105224987A - 一种基于动态Lipschitz下界估计的变策略群体全局优化方法 - Google Patents

Abstract

一种基动态Lipschitz下界估计的变策略群体全局优化方法，在基本差分进化算法框架下，首先，对初始种群中的个体建立Lipschitz估计下界支撑面从而形成目标函数的初始下界估计；其次，根据种群个体的拥挤度，即各个体之间的平均距离将整个算法过程分为三个阶段，对各阶段设置不同的变异策略；然后，在第一和第二阶段，利用下界估计信息指导种群更新，在第三阶段，则根据下界估计信息有选择性的对个体进行评价并更新；最后，根据各阶段的更新结果，选取不同的个体建立Lipschitz下界支撑面来动态更新目标函数的下界估计信息。本发明计算代价较低、收敛速度快、不需要进行样本训练、不需要进行模型选择，且解的质量较高。

Description

一种基于动态Lipschitz下界估计的变策略群体全局优化方法

技术领域

本发明涉及一种智能优化、计算机应用领域，尤其涉及的是，一种基于k-近邻Lipschitz下界估计的群体全局优化方法。

背景技术

进化算法是基于自然选择和自然遗传等生物进化机制的一种随机性搜索算法，近年来在经济、科学和工程等领域得到了广泛应用。典型的进化算法包括遗传算法(GA)、差分进化算法(DE)、粒子群算法(PSO)、进化策略(ES)和进化规划(EP)，尽管这些算法都源于不同的思想，但是他们都有共同的特点：求解时不需要目标函数的导数信息，对函数的形态没有要求，结构简单，易于实现，适用范围广，而且鲁棒性强。然而，由于算法需要大量的函数评价次数，导致计算代价较高，尤其对于一些目标函数评价复杂的实际应用问题。例如，在气化炉问题中，函数评价所花时间占整个算法运行时间的99％。

针对上述问题，不少学者通过在进化算法中引入元模型或者代理模型来降低算法的计算代价。进化算法中常用的函数近似模型有二次模型、克里格模型、神经网络模型和径向基函数网络模型。在这些近似策略中，通过近似模型来估计原目标函数值，从而利用近似值来求解原目标函数。然而，算法的性能高度依赖于近似模型的精确性，为了获得一个高精度的近似模型，算法通常需要花费很长的时间来进行学习。另外，由于没有一个代理模型可以适用于所有问题，模型的选择也是一项极具挑战性的工作，模型的选择直接影响着解的质量。

近年来，基于元模型的函数逼近方法被引入到差分进化中来减少目标函数评价次数，例如基于k-近邻预测的差分进化算法(DE-kNN)和基于加速k-近邻预测的差分进化算法(DE-EkNN)。kNN算法通过动态学习机制来建立目标函数的k-近邻估计模型，在算法进化前期，对种群中的所有个体进行目标函数评价，并作为训练样本进行保存，当训练样本达到一定数量后，不再对所有个体进行评价，而是通过新个体的近邻个体来预测目标函数值，并通过对部分预测值较优的个体进行评价来更新样本，从而减少不必要的目标函数评价次数。kNN算法原理简单，但是为了获得更加精确的预测值，算法需要不断增加样本的数量，从而导致极高的空间复杂度，因此不适合于高维问题的求解。

因此，现有基于估计的全局优化方法存在着缺陷，需要改进。

发明内容

为了克服现有的基于估计的全局优化方法模型选择困难、对模型的精确度高度依赖、需要大量的内存保存样本个体等不足，本发明以基本差分进化算法为框架，基于k-近邻预测中样本更新思想，结合Lipschitz下界估计理论，以Lipschitz估计代替k-近邻算法的样本训练，提出一种计算代价较低、收敛速度快、不需要进行样本训练、不需要进行模型选择，且解的质量较高的基于动态Lipschitz下界估计的变策略群体全局优化方法。

本发明解决其技术问题所采用的技术方案是：

一种基于动态Lipschitz下界估计的变策略群体全局优化方法，假设问题维数为N，所述方法包括以下步骤：

1)初始化：设置Lipschitz常数C，种群规模N_P，交叉概率C_R，增益常数F，进化代数g＝0，连续代数T，个体重新评价数量η和η^*，各变量的下界a_j和上界b_j，误差值ε，在各变量定义域范围内随机生成初始种群x^i,g,i＝1,2,…,N_P表示第g代种群中的第i个个体；

2)根据公式(1)计算出初始种群中各个体之间的平均距离；

$d_{initial}=\left(\underset{i=1}{\overset{N_P}{\Σ}}\underset{k=i+1}{\overset{N_P}{\Σ}}\sqrt{\underset{j=1}{\overset{N}{\Σ}}{\left(x_j^i-x_j^k\right)}^2}\right)/\left(N_P\right(N_P-1)/2)---\left(1\right)$

其中，表示第i个个体的第j维元素，表示第k个个体的第j维元素，N为问题维数，N_P为种群规模；

3)建立初始支撑矩阵：

3.1)根据公式(2)对N+1维单位单纯形区域S的各顶点进行转换得到点x′¹,x′²,...,x′^N+1， $S\≡\{x\∈R^{N+1},x_j\≥0,\underset{j=1}{\overset{N+1}{\Σ}}{x}_j=1\};$

$\left\{\begin{array}{c}{x}_j^{\′k}\≡(x_j^k-a_j)/{\Σ}_{j=1}^N(b_j-a_j)\\ x_{N+1}^{\′k}\≡1-{\Σ}_{j=1}^N{x}_j^{\′k}\end{array}\right.,j=1,2,\mathrm{...},N---\left(2\right)$

其中，a_j为的下界，b_j为的上界，其中为点在S中的坐标值，上标k表示单位单纯形区域S的第k个顶点，N为问题维数；

3.2)根据公式(3)计算各点的支撑向量l¹,l²,...,l^N+1，式中f(x^k)表示x^k对应的目标函数值；

$l^k=(\frac{f\left(x^k\right)}{C}-x_1^k,\frac{f\left(x^k\right)}{C}-x_2^k,...,\frac{f\left(x^k\right)}{C}-x_{N+1}^k)---\left(3\right)$

其中，C为Lipschitz常数，分别用代替；

3.3)建立初始矩阵支撑矩阵L＝{l¹,l²,...,l^N+1}^T，支撑矩阵L如公式(4)；

其中，k₁,k₂,…,k_N+1为支撑矩阵的行标，1,2,…,N+1为支撑矩阵的列标，i＝1,2,…,N+1，i＝1,2,…,N+1,j＝1,2,…,N+1表示支持矩阵L的第k_i行第j列的元素；

4)建立n叉树保存各下界估计值：以支撑矩阵L＝{l¹,l²,...,l^N+1}为根建立树；

5)对初始种群P中每个个体x^k,g,k＝1,2,…,N_P建立Lipschitz支撑向量：

5.1)根据公式(3)计算x^k,g的支撑向量l^k，其中

5.2)根据条件关系式(5)(6)更新树：

$\∀i,j\∈\{\mathrm{1,2},\·\·\·,N+1\},i\≠j:l_i^{k_j}>l_i^{k_i}---\left(5\right)$

$\∀r\∉\{k_1,k_2,...,k_{N+1}\},\∃i\∈\{\mathrm{1,2},\·\·\·,N+1\}:L_{\mathrm{ii}}=l_i^{k_i}\≥l_i^r---\left(6\right)$

其中，表示存在；

6)判断是否满足终止条件：计算出当前群体中的最优个体和最差个体如果满足终止条件其中，ε为允许误差，则保存结果并退出，否则进入步骤7)；

7)根据公式(1)计算出当前种群中各个体之间的平均距离

8)对于种群中的每个目标个体x^k，g，k＝1,2,…,Np，执行交叉、变异操作产生新个体

8.1)根据公式(6)对执行变异操作，生成变异个体v^k,g；

$v_j^{k,g}=\left\{\begin{array}{cc}{x}_j^{a,g}+F\&CenterDot;(x_j^{b,g}-x_j^{c,g}),& if{d}_{ave}^g\&GreaterEqual;\frac{2}{3}{d}_{initial}\\ x_j^{a,g}+F\&CenterDot;(x_j^{best,g}-x_j^{a,g})+F\&CenterDot;(x_j^{b,g}-x_j^{c,g}),& \mathrm{if}\frac{1}{3}{d}_{initial}\&le;d_{ave}^g<\frac{2}{3}{d}_{initial}\\ x_j^{best,g}+F\&CenterDot;(x_j^{a,g}-x_j^{b,g}),& otherwise\end{array}\right.---\left(7\right)$

其中，j＝1,2,…,N，N为问题维数，g为进化代数，a,b,c∈{1,2,...,N_p}，a≠b≠c≠K，K为当前目标个体的索引，为第g代种群中第i个目标个体的变异个体的第j维元素，分别为第g代种群中第a、b、c个个体的第j维元素，为当前第g代种群中的最优个体x^best,g的第j维元素，F表示增益常数；

8.2)根据公式(8)对变异个体执行交叉操作，生成新个体

$x_{trial,j}^{k,g}=\left\{\begin{array}{cc}{v}_j^{k,g}& \mathrm{if\; ran}db(0,1)\&le;C_R\mathrm{or\; j}=rnbr\left(j\right)\\ x_j^{k,g}& otherwise\end{array}\right.,j=1,2,\mathrm{...},N---\left(8\right)$

其中，表示第g代种群中第k个新个体的第j维元素，randb(0,1)表示为产生0到1之间的随机小数，rnbr(j)表示随机产生1到N之间的整数；

9)计算每个新个体的下界估计值

9.1)根据公式(9)从树中找出包含x_trial的树叶在节点TreeNode；

$(x_{tiral,j}^{k,g}-x_j^{k_j})<(x_{tiral,i}^{k,g}-x_i^{k_j}),i,j\&Element;\{1,2,...,N+1\},i\&NotEqual;j---\left(9\right)$

其中， 和分别表示所找的叶子节点矩阵中第k_j行第j列和第i列对应的元素；

9.2)根据公式(10)计算出所在节点TreeNode的下界估计值

${\stackrel{\&OverBar;}{y}}_{trial}^{k,g}=\underset{k\&le;N_P}{max}\underset{j=1,...N+1}{min}C(l_j^k+x_{trial,j}^{k,g})---\left(10\right)$

其中max表示求最大值，min表示求最小值，为第k个支撑向量l^k的第j维元素；

10)更新种群和下界估计信息：

10.1)如果则执行如下操作：

10.1.1)根据公式(11)更新种群：

$x^{k,g+1}=\left\{\begin{array}{cc}{x}^{k,g},& if{\stackrel{\&OverBar;}{y}}_{trial}^{k,g}\&GreaterEqual;f\left(x^{k,g}\right)or{\stackrel{\&OverBar;}{y}}_{trial}^{k,g}\&GreaterEqual;f\left(x_{best}^g\right)\\ x_{trial}^{k,g},& elseiff\left(x_{trial}^{k,g}\right)\&le;f\left(x^{k,g}\right)\\ x^{k,g},& otherwise\end{array}\right.---\left(11\right)$

其中，表示第g代种群中最优个体的目标函数值；

10.1.2)如果则根据步骤5)建立的Lipschitz下界支撑面，并更新树；

10.2)如果则执行如下操作：

10.2.1)根据当前种群中新个体的下界估计值从小到大排序；

10.2.2)对前η个个体进行目标函数评价，其余个体的目标函数值则用下界估计值代替；

10.2.3)根据公式(12)更新种群

$x^{k,g+1}=\left\{\begin{array}{cc}{x}_{trial}^{k,g},& iff\left(x_{trial}^{k,g}\right)\&le;f\left(x^{k,g}\right)\\ x^{k,g},& otherwise\end{array}\right.---\left(12\right)$

10.2.4)找出当前种群中的最优个体判断是否与相同，如果不同，则根据步骤5)对建立Lipschitz下界支撑面，并更新树；

10.2.5)如果最优值连续T代没有变化，则η＝η^*；

11)设置g＝g+1，并转到步骤6)。

进一步，步骤5.2)中更新树的方法为：

5.2.1)找出针对步骤5.1构建的支撑向量l^k不满足条件(6)的叶子节点；

5.2.2)用l^k替换步骤5.2.1)中找到的叶子节点矩阵中的第i个支撑向量从而形成新的叶子节点；

5.2.3)判断步骤5.2.2)中产生的新的叶子节点是否满足条件关系式(5)，如果满足，则保留，否则删除。

本发明的技术构思为：在基本差分进化算法框架下，基于Lipschitz下界支撑思想，首先，对初始种群中的个体建立Lipschitz估计下界支撑面从而形成目标函数的初始下界估计；其次，根据种群个体的拥挤度，即各个体之间的平均距离将整个算法过程分为三个阶段，对各阶段设置不同的变异策略；然后，在第一和第二阶段，利用下界估计信息指导种群更新，在第三阶段，则根据下界估计信息有选择性的对个体进行评价并更新；最后，根据各阶段的更新结果，选取不同的个体建立Lipschitz下界支撑面来动态更新目标函数的下界估计信息。

本发明的有益效果表现在：1)根据个体拥挤度将算法分为三个阶段，并对各阶段设置不同的变异策略，从而加快算法的收敛速度；2)在第一和第二阶段，利用下界估计信息指导种群更新，第三阶段，则根据下界估计信息有选择性的对部分较优个体评价，有效减少目标函数评价次数；3)针对不同的阶段选取不同的个体建立下界支撑面动态更新下界估计，从而使得下界估计信息不断向目标函数逼近。

附图说明

图1是基于动态Lipschitz下界估计的变策略群体全局优化方法的基本流程图。

图2是基于动态Lipschitz下界估计的变策略群体全局优化方法对1维Shubert函数优化时最终形成的Lipschitz下界估计。

图3是基于动态Lipschitz下界估计的变策略群体全局优化方法对30维Rastrigin函数优化是的平均收敛曲线图。

具体实施方式

下面结合附图对本发明作进一步描述。

参照图1～图3，一种基于动态Lipschitz下界估计的变策略群体全局优化方法，包括以下步骤：

1)初始化：设置Lipschitz常数C，种群规模N_P，交叉概率C_R，增益常数F，进化代数g＝0，连续代数T，个体重新评价数量η和η^*，各变量的下界a_j和上界b_j，误差值ε，在各变量定义域范围内随机生成初始种群P＝{x^1,g,x^2,g,...,x^NP,g}，x^i,g,i＝1,2,…,N_P表示第g代种群中的第i个个体；

2)根据公式(1)计算出初始种群中各个体之间的平均距离；

$d_{initial}=\left(\underset{i=1}{\overset{N_P}{\&Sigma;}}\underset{k=i+1}{\overset{N_P}{\&Sigma;}}\sqrt{\underset{j=1}{\overset{N}{\&Sigma;}}{\left(x_j^i-x_j^k\right)}^2}\right)/\left(N_P\right(N_P-1)/2)---\left(13\right)$

其中，表示第i个个体的第j维元素，表示第k个个体的第j维元素，N为问题维数，N_P为种群规模；

3)建立初始支撑矩阵：

3.1)根据公式(2)对N+1维单位单纯形区域S的各顶点进行转换得到点x′¹,x′²,...,x′^N+1， $S\&equiv;\{x\&Element;R^{N+1},x_j\&GreaterEqual;0,\underset{j=1}{\overset{N+1}{\&Sigma;}}{x}_j=1\};$

$\left\{\begin{array}{c}{x}_j^{\&prime;k}\&equiv;(x_j^k-a_j)/{\&Sigma;}_{j=1}^N(b_j-a_j)\\ x_{N+1}^{\&prime;k}\&equiv;1-{\&Sigma;}_{j=1}^N{x}_j^{\&prime;k}\end{array}\right.,j=1,2,\mathrm{...},N---\left(14\right)$

其中，a_j为的下界，b_j为的上界，其中为点在S中的坐标值，上标k表示单位单纯形区域S的第k个顶点，N为问题维数；

3.2)根据公式(3)计算各点的支撑向量l¹,l²,...,l^N+1，式中f(x^k)表示x^k对应的目标函数值；

$l^k=(\frac{f\left(x^k\right)}{C}-x_1^k,\frac{f\left(x^k\right)}{C}-x_2^k,...,\frac{f\left(x^k\right)}{C}-x_{N+1}^k)---\left(15\right)$

其中，C为Lipschitz常数，分别用代替；

3.3)建立初始矩阵支撑矩阵L＝{l¹,l²,...,l^N+1}^T，支撑矩阵L如公式(4)；

其中，k₁,k₂,…,k_N+1为支撑矩阵的行标，1,2,…,N+1为支撑矩阵的列标，i＝1,2,…,N+1，i＝1,2,…,N+1,j＝1,2,…,N+1表示支持矩阵L的第k_i行第j列的元素；

4)建立n叉树保存各下界估计值：以支撑矩阵L＝{l¹,l²,...,l^N+1}为根建立树；

5)对初始种群P中每个个体x^k,g,k＝1,2,…,N_P建立Lipschitz支撑向量：

5.1)根据公式(3)计算x^k,g的支撑向量l^k，其中

5.2)根据条件关系式(5)(6)更新树：

$\&ForAll;i,j\&Element;\{\mathrm{1,2},\&CenterDot;\&CenterDot;\&CenterDot;,N+1\},i\&NotEqual;j:l_i^{k_j}>l_i^{k_i}---\left(17\right)$

$\&ForAll;r\&NotElement;\{k_1,k_2,...,k_{N+1}\},\&Exists;i\&Element;\{\mathrm{1,2},\&CenterDot;\&CenterDot;\&CenterDot;,N+1\}:L_{\mathrm{ii}}=l_i^{k_i}\&GreaterEqual;l_i^r---\left(18\right)$

其中，表示存在；

5.2.1)找出针对步骤5.1构建的支撑向量l^k不满足条件(6)的叶子节点；

5.2.2)用l^k替换步骤5.2.1)中找到的叶子节点矩阵中的第i个支撑向量从而形成新的叶子节点；

5.2.3)判断步骤5.2.2)中产生的新的叶子节点是否满足条件关系式(5)，如果满足，则保留，否则删除；

6)判断是否满足终止条件：计算出当前群体中的最优个体和最差个体如果满足终止条件其中，ε为允许误差，则保存结果并退出，否则进入步骤7)；

7)根据公式(1)计算出当前种群中各个体之间的平均距离

8)对于种群中的每个目标个体x^k,g,k＝1,2,…,Np，执行交叉、变异操作产生新个体

8.1)根据公式(6)对执行变异操作，生成变异个体v^k,g；

$v_j^{k,g}=\left\{\begin{array}{cc}{x}_j^{a,g}+F\&CenterDot;(x_j^{b,g}-x_j^{c,g}),& if{d}_{ave}^g\&GreaterEqual;\frac{2}{3}{d}_{initial}\\ x_j^{a,g}+F\&CenterDot;(x_j^{best,g}-x_j^{a,g})+F\&CenterDot;(x_j^{b,g}-x_j^{c,g}),& if\frac{1}{3}{d}_{initial}\&le;d_{ave}^g<\frac{2}{3}{d}_{initial}\\ x_j^{best,g}+F\&CenterDot;(x_j^{a,g}-x_j^{b,g}),& otherwise\end{array}\right.---\left(19\right)$

其中，j＝1,2,…,N，N为问题维数，g为进化代数，a,b,c∈{1,2,...,N_p}，a≠b≠c≠K，K为当前目标个体的索引，为第g代种群中第i个目标个体的变异个体的第j维元素，分别为第g代种群中第a、b、c个个体的第j维元素，为当前第g代种群中的最优个体x^best,g的第j维元素，F表示增益常数；

8.2)根据公式(8)对变异个体执行交叉操作，生成新个体

$x_{trial,j}^{k,g}=\left\{\begin{array}{cc}{v}_j^{k,g}& \mathrm{if}randb(0,1)\&le;C_{R}orj=rnbr\left(j\right)\\ x_j^{k,g}& otherwise\end{array}\right.,j=1,2,\mathrm{...},N---\left(20\right)$

其中，表示第g代种群中第k个新个体的第j维元素，randb(0,1)表示为产生0到1之间的随机小数，rnbr(j)表示随机产生1到N之间的整数；

9)计算每个新个体的下界估计值

9.1)根据公式(9)从树中找出包含x_trial的树叶在节点TreeNode；

$(x_{tiral,j}^{k,g}-x_j^{k_j})<(x_{tiral,i}^{k,g}-x_i^{k_j}),i,j\&Element;\{1,2,...,N+1\},i\&NotEqual;j---\left(21\right)$

其中，和分别表示所找的叶子节点矩阵中第k_j行第j列和第i列对应的元素；

9.2)根据公式(10)计算出所在节点TreeNode的下界估计值

${\stackrel{\&OverBar;}{y}}_{trial}^{k,g}=\underset{k\&le;N_P}{max}\underset{j=1,...N+1}{min}C(l_j^k+x_{trial,j}^{k,g})---\left(22\right)$

其中max表示求最大值，min表示求最小值，为第k个支撑向量l^k的第j维元素；

10)更新种群和下界估计信息：

10.1)如果则执行如下操作：

10.1.1)根据公式(11)更新种群：

$x^{k,g+1}=\left\{\begin{array}{cc}{x}^{k,g},& if{\stackrel{\&OverBar;}{y}}_{trial}^{k,g}\&GreaterEqual;f\left(x^{k,g}\right)or{\stackrel{\&OverBar;}{y}}_{trial}^{k,g}\&GreaterEqual;f\left(x_{best}^g\right)\\ x_{trial}^{k,g},& elseiff\left(x_{trial}^{k,g}\right)\&le;f\left(x^{k,g}\right)\\ x^{k,g},& otherwise\end{array}\right.---\left(23\right)$

其中，表示第g代种群中最优个体的目标函数值；

10.1.2)如果则根据步骤5)建立的Lipschitz下界支撑面，并更新树；

10.2)如果则执行如下操作：

10.2.1)根据当前种群中新个体的下界估计值从小到大排序；

10.2.2)对前η个个体进行目标函数评价，其余个体的目标函数值则用下界估计值代替；

10.2.3)根据公式(12)更新种群

$x^{k,g+1}=\left\{\begin{array}{cc}{x}_{trial}^{k,g},& iff\left(x_{trial}^{k,g}\right)\&le;f\left(x^{k,g}\right)\\ x^{k,g},& otherwise\end{array}\right.---\left(24\right)$

10.2.4)找出当前种群中的最优个体判断是否与相同，如果不同，则根据步骤5)对建立Lipschitz下界支撑面，并更新树；

10.2.5)如果最优值连续T代没有变化，则η＝η^*；

11)设置g＝g+1，并转到步骤6)。

本实施例以经典的30维(N＝30)Rastrigin函数为实施例，一种动态Lipschitz下界估计的变策略群体全局优化方法，其中包含以下步骤：

1)初始化：设置Lipschitz常数C＝500，种群规模N_P＝50，交叉概率C_R＝0.5，增益常数F＝0.5，进化代数g＝0，连续代数T＝15，个体重新评价数量η＝15和η^*＝25，各变量的下界a_j＝-5和上界b_j＝5，误差值ε＝0.00001，在各变量定义域范围内随机生成初始种群x^i,g,i＝1,2,…,N_P表示第g代种群中的第i个个体；

2)根据公式(1)计算出初始种群中各个体之间的平均距离；

$d_{initial}=\left(\underset{i=1}{\overset{N_P}{\&Sigma;}}\underset{k=i+1}{\overset{N_P}{\&Sigma;}}\sqrt{\underset{j=1}{\overset{N}{\&Sigma;}}{\left(x_j^i-x_j^k\right)}^2}\right)/\left(N_P\right(N_P-1)/2)---\left(25\right)$

其中，表示第i个个体的第j维元素，表示第k个个体的第j维元素，N为问题维数，N_P为种群规模；

3)建立初始支撑矩阵：

3.1)根据公式(2)对N+1维单位单纯形区域S的各顶点进行转换得到点x′¹,x′²,...,x′^N+1， $S\&equiv;\{x\&Element;R^{N+1},x_j\&GreaterEqual;0,\underset{j=1}{\overset{N+1}{\&Sigma;}}{x}_j=1\};$

$\left\{\begin{array}{c}{x}_j^{\&prime;k}\&equiv;(x_j^k-a_j)/{\&Sigma;}_{j=1}^N(b_j-a_j)\\ x_{N+1}^{\&prime;k}\&equiv;1-{\&Sigma;}_{j=1}^N{x}_j^{\&prime;k}\end{array}\right.,j=1,2,\mathrm{...},N---\left(26\right)$

其中，a_j为的下界，b_j为的上界，其中为点在S中的坐标值，上标k表示单位单纯形区域S的第k个顶点，N为问题维数；

3.2)根据公式(3)计算各点的支撑向量l¹,l²,...,l^N+1，式中f(x^k)表示x^k对应的目标函数值；

$l^k=(\frac{f\left(x^k\right)}{C}-x_1^k,\frac{f\left(x^k\right)}{C}-x_2^k,...,\frac{f\left(x^k\right)}{C}-x_{N+1}^k)---\left(27\right)$

其中，C为Lipschitz常数，分别用代替；

3.3)建立初始矩阵支撑矩阵L＝{l¹,l²,...,l^N+1}^T，支撑矩阵L如公式(4)；

其中，k₁,k₂,…,k_N+1为支撑矩阵的行标，1,2,…,N+1为支撑矩阵的列标，i＝1,2,…,N+1，i＝1,2,…,N+1,j＝1,2,…,N+1表示支持矩阵L的第k_i行第j列的元素；

4)建立n叉树保存各下界估计值：以支撑矩阵L＝{l¹,l²,...,l^N+1}为根建立树；

5)对初始种群P中每个个体x^k,g,k＝1,2,…,N_P建立Lipschitz支撑向量：

5.1)根据公式(3)计算x^k,g的支撑向量l^k，其中

5.2)根据条件关系式(5)(6)更新树：

$\&ForAll;i,j\&Element;\{\mathrm{1,2},\&CenterDot;\&CenterDot;\&CenterDot;,N+1\},i\&NotEqual;j:l_i^{k_j}>l_i^{k_i}---\left(29\right)$

$\&ForAll;r\&NotElement;\{k_1,k_2,...,k_{N+1}\},\&Exists;i\&Element;\{\mathrm{1,2},\&CenterDot;\&CenterDot;\&CenterDot;,N+1\}:L_{\mathrm{ii}}=l_i^{k_i}\&GreaterEqual;l_i^r---\left(30\right)$

其中，表示存在；

5.2.1)找出针对步骤5.1构建的支撑向量l^k不满足条件(6)的叶子节点；

5.2.2)用l^k替换步骤5.2.1)中找到的叶子节点矩阵中的第i个支撑向量从而形成新的叶子节点；

5.2.3)判断步骤5.2.2)中产生的新的叶子节点是否满足条件关系式(5)，如果满足，则保留，否则删除；

6)判断是否满足终止条件：计算出当前群体中的最优个体和最差个体如果满足终止条件其中，ε为允许误差，则保存结果并退出，否则进入步骤7)；

7)根据公式(1)计算出当前种群中各个体之间的平均距离

8)对于种群中的每个目标个体x^k,g,k＝1,2,…,Np，执行交叉、变异操作产生新个体

8.1)根据公式(6)对执行变异操作，生成变异个体v^k,g；

$v_j^{k,g}=\left\{\begin{array}{cc}{x}_j^{a,g}+F\&CenterDot;(x_j^{b,g}-x_j^{c,g}),& if{d}_{ave}^g\&GreaterEqual;\frac{2}{3}{d}_{initial}\\ x_j^{a,g}+F\&CenterDot;(x_j^{best,g}-x_j^{a,g})+F\&CenterDot;(x_j^{b,g}-x_j^{c,g}),& if\frac{1}{3}{d}_{initial}\&le;d_{ave}^g<\frac{2}{3}{d}_{initial}\\ x_j^{best,g}+F\&CenterDot;(x_j^{a,g}-x_j^{b,g}),& otherwise\end{array}\right.---\left(31\right)$

其中，j＝1,2,…,N，N为问题维数，g为进化代数，a,b,c∈{1,2,...,N_p}，a≠b≠c≠K，K为当前目标个体的索引，为第g代种群中第i个目标个体的变异个体的第j维元素，分别为第g代种群中第a、b、c个个体的第j维元素，为当前第g代种群中的最优个体x^best,g的第j维元素，F表示增益常数；

8.2)根据公式(8)对变异个体执行交叉操作，生成新个体

$x_{trial,j}^{k,g}=\left\{\begin{array}{cc}{v}_j^{k,g}& ifrandb(0,1)\&le;C_{R}orj=rnbr\left(j\right)\\ x_j^{k,g}& otherwise\end{array}\right.,j=1,2,\mathrm{...},N---\left(32\right)$

其中，表示第g代种群中第k个新个体的第j维元素，randb(0,1)表示为产生0到1之间的随机小数，rnbr(j)表示随机产生1到N之间的整数；

9)计算每个新个体的下界估计值

9.1)根据公式(9)从树中找出包含x_trial的树叶在节点TreeNode；

$(x_{tiral,j}^{k,g}-x_j^{k_j})<(x_{tiral,i}^{k,g}-x_i^{k_j}),i,j\&Element;\{1,2,...,N+1\},i\&NotEqual;j---\left(33\right)$

其中，和分别表示所找的叶子节点矩阵中第k_j行第j列和第i列对应的元素；

9.2)根据公式(10)计算出所在节点TreeNode的下界估计值

${\stackrel{\&OverBar;}{y}}_{trial}^{k,g}=\underset{k\&le;N_P}{max}\underset{j=1,...N+1}{min}C(l_j^k+x_{trial,j}^{k,g})---\left(34\right)$

其中max表示求最大值，min表示求最小值，为第k个支撑向量l^k的第j维元素；

10)更新种群和下界估计信息：

10.1)如果则执行如下操作：

10.1.1)根据公式(11)更新种群：

$x^{k,g+1}=\left\{\begin{array}{cc}{x}^{k,g},& if{\stackrel{\&OverBar;}{y}}_{trial}^{k,g}\&GreaterEqual;f\left(x^{k,g}\right)or{\stackrel{\&OverBar;}{y}}_{trial}^{k,g}\&GreaterEqual;f\left(x_{best}^g\right)\\ x_{trial}^{k,g},& elseiff\left(x_{trial}^{k,g}\right)\&le;f\left(x^{k,g}\right)\\ x^{k,g},& otherwise\end{array}\right.---\left(35\right)$

其中，表示第g代种群中最优个体的目标函数值；

10.1.2)如果则根据步骤5)建立的Lipschitz下界支撑面，并更新树；

10.2)如果则执行如下操作：

10.2.1)根据当前种群中新个体的下界估计值从小到大排序；

10.2.2)对前η个个体进行目标函数评价，其余个体的目标函数值则用下界估计值代替；

10.2.3)根据公式(12)更新种群

$x^{k,g+1}=\left\{\begin{array}{cc}{x}_{trial}^{k,g},& iff\left(x_{trial}^{k,g}\right)\&le;f\left(x^{k,g}\right)\\ x^{k,g},& otherwise\end{array}\right.---\left(36\right)$

10.2.4)找出当前种群中的最优个体判断是否与相同，如果不同，则根据步骤5)对建立Lipschitz下界支撑面，并更新树；

10.2.5)如果最优值连续T代没有变化，则η＝η^*；

11)设置g＝g+1，并转到步骤6)。

以30维Rastrigin函数为实施例，独立运行30次平均成功率为100％，平均函数评价次数为14129，60000次函数评价次数内得到的平均全局最小值为2.18E–14，平均收敛曲线图如图3所示。

以上阐述的是本发明给出的一个实施例表现出来的优良优化效果，显然本发明不仅适合上述实施例，而且可以应用到实际工程中的各个领域(如蛋白质结构预测，电力系统，路径规划等优化问题)，同时在不偏离本发明基本精神及不超出本发明实质内容所涉及内容的前提下可对其做种种变化加以实施。

Claims (2)

1.一种基动态Lipschitz下界估计的变策略群体全局优化方法，其特征在于：所述全局优化方法包括以下步骤：

1)初始化：设置Lipschitz常数C，种群规模N_P，交叉概率C_R，增益常数F，进化代数g＝0，连续代数T，个体重新评价数量η和η^*，各变量的下界a_j和上界b_j，误差值ε，在各变量定义域范围内随机生成初始种群x^i,g,i＝1,2,…,N_P表示第g代种群中的第i个个体；

2)根据公式(1)计算出初始种群中各个体之间的平均距离d_initial；

$d_{initial}=\left(\underset{i=1}{\overset{N_P}{\mathrm{\&Sigma;}}}\underset{k=i+1}{\overset{N_P}{\mathrm{\&Sigma;}}}\sqrt{\underset{j=1}{\overset{N}{\mathrm{\&Sigma;}}}{(x_j^i-x_j^k)}^2}\right)/\left(N_P\right(N_P\left)\mathrm{/2}\right)---\left(1\right)$

其中，表示第i个个体的第j维元素，表示第k个个体的第j维元素，N为问题维数，N_P为种群规模；

3)建立初始支撑矩阵L：

3.1)根据公式(2)对N+1维单位单纯形区域S的各顶点进行转换得到点 $\begin{array}{cc}{x}^{\&prime;1},x^{\&prime;2},...,x^{\&prime;N+1},& S\&equiv;\{x\&Element;R^{N+1},x_j\&GreaterEqual;0,\underset{j=1}{\overset{N+1}{\&Sigma;}}{x}_j=1\}\end{array};$

$\left\{\begin{array}{c}{x}_j^{\&prime;k}\&equiv;(x_j^k-a_j)/{\mathrm{\&Sigma;}}_{j=1}^N(b_j-a_j)\\ x_{N+1}^{\&prime;k}\&equiv;1-{\mathrm{\&Sigma;}}_{j=1}^N{x}_j^{\&prime;k}\end{array}\right.,j=1,2,...,N---\left(2\right)$

其中，a_j为的下界，b_j为的上界，其中为点在S中的坐标值，上标k表示单位单纯形区域S的第k个顶点，N为问题维数；

3.2)根据公式(3)计算各点的支撑向量l¹,l²,...,l^N+1，式中f(x^k)表示x^k对应的目标函数值；

$l^k=(\frac{f\left(x^k\right)}{C}-x_1^k,\frac{f\left(x^k\right)}{C}-x_2^k,...,\frac{f\left(x^k\right)}{C}-x_{N+1}^k)---\left(3\right)$

其中，C为Lipschitz常数，分别用代替；

3.3)建立初始矩阵支撑矩阵L＝{l¹,l²,...,l^N+1}^T，支撑矩阵L如公式(4)；

其中，k₁,k₂,…,k_N+1为支撑矩阵的行标，1,2,…,N+1为支撑矩阵的列标， $l^i=(l_1^{k_i},l_2^{k_i},...,l_{N+1}^{k_i}),i=1,2,...,N+1,l_j^{k_i},i=1,2,...,N+1,j=1,2,...,N+1$ 表示支持矩阵L的第k_i行第j列的元素；

4)建立n叉树保存各下界估计值：以支撑矩阵L＝{l¹,l²,...,l^N+1}为根建立树；

5)对初始种群P中每个个体x^k,g,k＝1,2,…,N_P建立Lipschitz支撑向量：

5.1)根据公式(3)计算x^k,g的支撑向量l^k，其中

5.2)根据条件关系式(5)(6)更新树：

$\&ForAll;i,j\&Element;\{1,2,...,N+1\},i\&NotEqual;j:l_i^{k_j}>l_i^{k_i}---\left(5\right)$

$\&ForAll;r\&NotElement;\{k_1,k_2,...,k_{N+1}\},\&Exists;i\&Element;\{1,2,...,N+1\}:L_{ii}=l_i^h\&GreaterEqual;l_i^r---\left(6\right)$

其中，表示存在；

6)判断是否满足终止条件：计算出当前群体中的最优个体和最差个体如果满足终止条件其中，ε为允许误差，则保存结果并退出，否则进入步骤7)；

7)根据公式(1)计算出当前种群中各个体之间的平均距离

8)对于种群中的每个目标个体x^k,g,k＝1,2,…,N_P，执行交叉、变异操作产生新个体

8.1)根据公式(6)对执行变异操作，生成变异个体v^k,g；

$v_j^{k,g}=\left\{\begin{array}{cc}{x}_j^{a,g}+F\&CenterDot;(x_j^{b,g}-x_j^{c,g}),& if{d}_{ave}^g\&GreaterEqual;\frac{2}{3}{d}_{initial}\\ x_j^{a,g}+F\&CenterDot;(x_j^{best,g}-x_j^{a,g})+F\&CenterDot;(x_j^{b,g}-x_j^{c,g}),& if\frac{1}{3}{d}_{initial}\&le;d_{ave}^g<\frac{2}{3}{d}_{initial}\\ x_j^{best,g}+F\&CenterDot;(x_j^{a,g}-x_j^{b,g}),& otherwise\end{array}\right.---\left(7\right)$

其中，j＝1,2,…,N，N为问题维数，g为进化代数，a,b,c∈{1,2,...,N_p}，a≠b≠c≠K，K为当前目标个体的索引，为第g代种群中第i个目标个体的变异个体的第j维元素，分别为第g代种群中第a、b、c个个体的第j维元素，为当前第g代种群中的最优个体x^best,g的第j维元素，F表示增益常数；

8.2)根据公式(8)对变异个体执行交叉操作，生成新个体

$x_{hial,j}^{k,g}=\{\begin{array}{cc}{v}_j^{k,g}& ifrandb(0,1)\&le;C_{R}orj=rnbr\left(j\right)\\ x_j^{k,g}& otherwise\end{array},j=1,2,...,N---\left(8\right)$

其中，表示第g代种群中第k个新个体的第j维元素，randb(0,1)表示为产生0到1之间的随机小数，rnbr(j)表示随机产生1到N之间的整数；

9)计算每个新个体的下界估计值

9.1)根据公式(9)从树中找出包含x_trial的树叶在节点TreeNode；

$(x_{tiral,j}^{k,g}-x_j^{k_j})<(x_{tiral,i}^{k,g}-x_i^{k_j}),i,j\&Element;\{1,2,...,N+1\},i\&NotEqual;j---\left(9\right)$

其中， 和分别表示所找的叶子节点矩阵中第k_j行第j列和第i列对应的元素；

9.2)根据公式(10)计算出所在节点TreeNode的下界估计值

${\stackrel{\&OverBar;}{y}}_{trial}^{k,g}=\underset{k\&le;N_P}{max}\underset{j=1,...N+1}{min}C(l_j^k+x_{trial,j}^{k,g})---\left(10\right)$

其中max表示求最大值，min表示求最小值，为第k个支撑向量l^k的第j维元素；

10)根据Lipschitz下界估计信息更新种群，并根据更新结果更新下界估计信息：

10.1)如果则执行如下操作：

10.1.1)根据公式(11)更新种群：

$x^{k,g+1}=\left\{\begin{array}{cc}{x}^{k,g},& if{\stackrel{\&OverBar;}{y}}_{trial}^{k,g}\&GreaterEqual;f\left(x^{k,g}\right)or{\stackrel{\&OverBar;}{y}}_{trial}^{k,g}\&GreaterEqual;f\left(x^{k,g}\right)\\ x_{trial}^{k,g},& elseiff\left(x_{trial}^{k,g}\right)\&le;f\left(x^{k,g}\right)\\ x^{k,g},& otherwise\end{array}\right.---\left(11\right)$

其中，表示第g代种群中最优个体的目标函数值；

10.1.2)如果则根据步骤5)建立的Lipschitz下界支撑面，并更新树；

10.2)如果则执行如下操作：

10.2.1)根据当前种群中新个体的下界估计值从小到大排序；

10.2.2)对前η个个体进行目标函数评价，其余个体的目标函数值则用下界估计值代替；

10.2.3)根据公式(12)更新种群

$x^{k,g+1}=\left\{\begin{array}{cc}{x}_{trial}^{k,g},& \begin{array}{cc}if& f\left(x_{trial}^{k,g}\right)\&le;f\left(x^{k,g}\right)\end{array}\\ x^{k,g},& otherwise\end{array}\right.---\left(12\right)$

10.2.4)找出当前种群中的最优个体判断是否与相同，如果不同，则根据步骤5)对建立Lipschitz下界支撑面，并更新树；

10.2.5)如果最优值连续T代没有变化，则η＝η^*；

11)设置g＝g+1，并转到步骤6)。

2.如权利要求1所述一种基于动态Lipschitz下界估计的变策略群体全局优化方法，其特征在于：步骤5.2)中更新树的方法为：

5.2.1)找出针对步骤5.1构建的支撑向量l^k不满足条件(6)的叶子节点；

5.2.2)用l^k替换步骤5.2.1)中找到的叶子节点矩阵中的第i个支撑向量从而形成新的叶子节点；

5.2.3)判断步骤5.2.2)中产生的新的叶子节点是否满足条件关系式(5)，如果满足，则保留，否则删除。