CN102708407A - 一种基于种群分解的自适应混合多目标进化方法 - Google Patents

Abstract

本发明提出了一种基于种群分解的自适应混合多目标进化方法，是针对目前多目标进化算法的不足。根据目标空间的分布把种群分解成一系列子种群，每一个子种群负责搜索目标空间的一片子区域。为了避免在搜索过程中丢失子区域之间的边界区域，算法动态地调整搜索范围。不同的子区域可能需要不同的搜索方法，如果一种算法在一个子种群变现越优秀，它被选择来进化这个子种群的相邻种群的可能性就越大。算法为每一个子种群分配一个外部集，在子种群与相应的外部集个体之间进行交叉，变异，外部集以一种很低的运算开销保持种群多样性，扩大了搜索区域。分析和实验证明该方法相比传统多目标进化算法更能有效的解决连续的多目标问题。

Description

一种基于种群分解的自适应混合多目标进化方法

技术领域

本发明涉及智能计算与多目标优化两个领域，具体涉及一种基于种群分解的自适应混合多目标进化方法。

背景技术

最优化在国民经济，国防，教育，科技等社会领域有着广泛的应用。多目标最优化对学者和工程师来说是一个非常重要的研究课题。这不仅仅是由于现实中的很多问题都具有多目标最优化的特征，而且多目标最优化本身也存在很多有研究价值的问题。解决多目标最优化（Multiobjective optimization problem,MOP）问题通常很困难，因为多目标优化问题的各目标往往相互冲突，这使得找到一个解同时优化所有的目标函数变得不可能。因而求解多目标最优化问题倾向于找一组折中的解。传统的优化方法一次只能找到一个最优解，这使得用传统的方法解决多目标最优化问题变得很不方便。在过去的几十年间，涌现出许多多目标函数优化问题的求解方法，大多数方法沿袭一条固定模式的解决路线，即使用对策权衡原理对每个目标的重要性赋权重，构成一个单目标最优化问题。处理单目标最优化的方法相对较成熟，所以多目标最优化转化成了单目标最优化。但是多目标最优化不存在所谓的“最优解”，所以这种转化导致优化结果的不唯一。这种方法的结果与“决策者”直接相关，导致算法没有通用的价值，对目标进行科学优化也没有现实意义。进化算法（evolutionary algorithms）在组合优化问题中取得的巨大成功，启发了人们把进化算法的应用延伸的多目标最优化的领域，实现了一次实验就能找到一系列的折中解。进化算法是以达尔文的进化论思想为基础，一种模拟生物进化过程与机制的自组织、自适应的人工智能技术。生物进化是通过繁殖、变异、竞争和选择实现的；而进化算法则主要通过杂交，变异和选择这三种操作实现优化问题的求解。

进化算法是一种解决多目标最优化问题的理想方法。20世纪80年代中期，作为智能计算的核心的遗传算法理论开始在多目标最优化领域大规模应用，从而形成了一系列的多目标进化算法。多目标进化算法在整个种群中搜索Perato最优解。这种整体的性质在解决多目标最优化问题上有着很明显的优势。很多学者对此很感兴趣，也提出了一系列的算法。它们可以大致的分为两类：一类是基于支配的适应值分配方法，如非支配的基因搜索算法II（nondominated sorting genetic algorithm II,NSGA-II），强Perato进化算法II（strength Pareto evolutionary algorithm II,SPEA-II）；另一类是基于目标的适应值分配方法，如加权法，极大极小法，MOEA/D。

目前，大多数多目标进化算法，包括代表当代水平的算法，都把种群当做一个整体，不能在一个框架中混合不同的多目标进化算法。由“没有免费的午餐定理”可以知道，不存在一种算法适合所有的优化问题。即使是对同一个优化问题，由于多目标优化问题的有效解是一组解，散布在目标空间中，因此对于同一个优化问题的不同子区域都可能需要不同的多目标进化算法。但是，对于某一个优化问题，事先不知道哪种多目标进化算法最合适。如果能够根据问题的特性，自适应地选择一种最合适的算法，这是十分有意义的。另外，目标优化问题的有效解是一组解，散布在目标空间中，显然，当且仅当两个相邻的个体具有相似的小生境，它们之间才存在竞争，相距较远的两个个体可以和平共存。由于目前大多数算法都把种群当成一个整体，每一个都必须与当代种群中的所有个体进行竞争，不利于保持种群的多样性。特别是当种群中出现少数几个特别优良的个体时，很容易产生“支配者效应”。

发明内容

为了克服现有技术的不足，本发明提出一种基于种群分解的自适应混合多目标进化方法。原则上任何多目标进化算法都可以用来优化每一个子种群，因此在算法框架内可以混合使用不同的多目标进化算法，不同的搜索区域可能要求不同的搜索方法。通过种群在目标函数空间的分布把种群分成若干子种群，每个子群体负责目标空间的一个子区域。通过相邻子种群之间的协作学习，每个子种群自适应地选择一个最合适的多目标进化算法。每一个个体只需要与同一个子种群中的其它个体进行比较，减少了最优个体的影响，保持了种群多样性，同时减少了算法复杂度。另外，每一个子种群对应一个外部集，这样可以用很低的运算复杂度来实现保持种群多样性。

本发明的具体技术方案为：

一种基于种群分解的自适应混合多目标进化方法，包括如下步骤：

1）初始化参数、种群规模，分解种群，选择适应值分配策略；随机均匀地产生5N个个体作为种群，采用动态种群分解策略用这5N个个体初始化各个子种群SP_j，其中j=1，2，...，S，为子种群的数量；初始化各个子种群SP_j的随机因子λ_j；对各个子种群SP_j随机分配一种多目标进化算法，并从5N个个体中随机选择

个个体作为子种群SP_j的外部集EP_j，j=1，2，...，S；其中[X]为代表不大于X的最大整数；

2）从子种群SP_j中随机选择一个个体xⁱ，并在xⁱ相对应的外部集EP_j中随机选择一个个体

让xⁱ与进行杂交变异产生一个新个体xⁱ′，i＝1,…N，共产生N个新个体；

3）把新产生的N个新个体用动态种群分解策略分到各个子种群体中；对第i个新个体xⁱ′，令

$J=\arg \underset{i\≤j\≤S}{\min }{\mathrm{\λ}}_{j}d(\frac{f\left(x^{i^{\′}}\right)}{\left|\right|f\left(x^{i^{\′}}\right)\left|\right|},W^j)$

d(A,B)是A和B之间的欧几里得距离，则第i个个体xⁱ′就被划分到第j个子种群；λ_j为子种群SP_j的随机因子，f(xⁱ′)第i个个体对应的目标函数值向量，‖f(xⁱ)‖第i个个体目标函数值向量的模，W^j表示第j个子种群的中心；

4）更新各子种群和外部集；通过步骤1）获得适应值分配策略和分配多目标进化算法时分配的选择算子，在各个子种群SP_j和分配给各个子种群SP_j的新产生的个体中更新子种群，即选择不超过n_j个不同的适应值大的个体作为下一代中的子种群SP′_j，其中j=1,2,3,...S；如果SP_j中的个体和分配给SP_j的新产生的个体总数仍小于n_j，则将这些个体作为下一代的子种群SP′_j，其中j=1,2,3,...S；更新各个子种群SP_j所对应的外部集，如果在更新子种群SP_j时没有剩余个体，则不需要更新外部集；否则，将更新子种群SP_j时剩下的个体随机替代外部集中相同数目的个体；用更新子种群SP_j时的剩余个体随机替换外部集中的相同数目的个体；

5）如果mod(t,K)=0，式中t指的是当前进化的代数，K是预先给定的一个参数，作为控制随机因子λ_j重置的频数，即每隔k代重置随机因子λ_j，重置子种群的随机因子λ_j，并计算每一个子种群所分配的算法的效用值Δ_j：

${\mathrm{\Δ}}_j=\underset{i=1}{\overset{m}{\mathrm{\Σ}}}\frac{{\stackrel{\‾}{f}}_{i,j}^{\mathrm{old}}-{\stackrel{\‾}{f}}_{i,j}^{\mathrm{new}}}{{\stackrel{\‾}{f}}_{i,j}^{\mathrm{old}}}$

通过相邻子种群的协作学习寻找搜索最优点最快多目标进化算法；

6）重复步骤2）至5）直到满足算法终止条件即达到最大进化代数Max_t。

所述的随机因子λ_j的取值范围为[0.8,1]，j=1,…,S。

所述步骤1）的分解种群，用动态种群分解策略把随机产生的5N个个体分到各个子种群SP_j，j=1,2,3,...S，当分配给子种群SP_j的个体数目小于或等于子种群SP_j规模的上界n_j时，子种群SP_j就包括所有分配的个体；否则，通过分配的多目标进化算法从所分配到子种群SP_j的个体中选取n_j个不同的个体作为子群体的下一代。

所述通过分配的多目标进化算法从所分配到子种群SP_j的个体中选取n_j个不同的个体作为子群体的下一代。

所述步骤1）的动态种群分解策略是将每一个子种群看成一个独立的微群体，在每一个子种群中独立地使用各种多目标进化算法。

附图说明

图1本发明的种群分解技术；

图2本发明的种群分解的说明；

图3本发明的流程框架图。

具体实施方式

以下结合附图，进一步对发明的方法进行描述。

在现实生活中的经济，教育，国防很多问题都可以通过建立数学模型归结为多目标最优化问题。多目标最优化问题（multi-objective optimization problem，MOP）是同时优化两个或两个以上的目标函数问题，可以用以下模型来描述：

$\left\{\begin{array}{c}\min f\left(x\right)={(f_1\left(x\right),f_2\left(x\right),...,f_m\left(x\right))}^T\\ x\∈\underset{i=1}{\overset{n}{\mathrm{\Π}}}[a_i,b_i]\end{array}\right.---\left(1\right)$

其中-∞<a_i<b_i<+∞，i＝1,...,n，

是这个多目标最优化的自变量空间，包含m个实值目标函数，R^m为目标函数空间。多目标最优化问题MOP的各个目标函数通常是相关的，彼此相互冲突，即没有一个解可以同时优化所有的目标。因此找到多目标最优化问题MOP的一些折中解。下面介绍运用（MODE/PD）解决多目标最优化的详步骤：

1）种群分解

11）种群分解技术。

把式（1）中的每一个目标函数用

代替，其中i＝1,2,3...m，

是到当前代第i个目标函数的最小值。通过这样一个平移变换就把目标函数空间转化到第一象限。然后把目标函数空间投影到单位超球面上，在单位超球面的第一象限上均匀选取S个点W¹,...,W^j,...W^S，点W^j在第j个子区域的中心点。相应地，把种群分成S个子种群，假定在第t代时，种群中有N个个体x¹,x²,...x^N。f_i(xⁱ)是目标空间中对应于xⁱ的目标函数向量。通过计算f_i(xⁱ)对应的单位向量和所有中心点之间的欧几里得距离，来确定哪一个中心点和f_i(xⁱ)对应的单位向量最近。如果离单位向量最近的中心点是W^j，则个体xⁱ就被划分到第j个子种群(SP_j)。当m=2，S=6时，种群分解可以用图1来说明。W¹,W²,...W⁶是单位圆上均匀分布的中心点，A'是向量A对应的单位向量，A'距离W⁴最近，所以A属于SP₄。

12）动态种群分解技术

如果每一个子种群独立的负责目标函数空间的一个固定的子区域，没有个体从一个子种群迁移到其相邻的种群，这可能会丢失相邻子区域的边界区域，为了克服种群分解技术的这个缺陷，在本发明中提出动态种群分解策略（Dynamical population decomposition）。动态种群分解策略和上面的种群分解策略很相似，在SP_j中引入一个动态随机因子λ_j，其中λ_j是[0.8,1]中的一个随机数(j=1,2,3...S)。随机因子被周期性的重置。对于对i个新个体xⁱ′，令

$J=\arg \underset{i\&le;j\&le;S}{\min }{\mathrm{\&lambda;}}_{j}d(\frac{f\left(x^{i^{\&prime;}}\right)}{\left|\right|f\left(x^{i^{\&prime;}}\right)\left|\right|},W^j)$

其中d(A,B)是A和B之间的欧几里得距离，则个体xⁱ′就被划分到J个子种群。如图1所示，假定λ₃＝8、λ₄＝1，点A就被划分到SP₃。由此可知，一些在不同子区域边界区域的个体将从一个子种群迁移到其相邻的子种群。这种子种群之间的个体迁移交换了子种群之间的信息。克服了目标函数空间子区域之间产生“空隙”和某些子种群的早熟。

2）为子种群自适应的分配算法

通过上述动态种群分解策略，把目标空间分成不相交的若干子区域，每一个子种群负责搜索一个一个子区域。对于种群中的每一个个体，属于仅属于某一个子种群，作用在一个子种群上的进化算子不会影响到其它子种群。因此每一个子种群可以看成是一个独立的微型种群，可以用不同的多目标进化算法独立地优化各个子种群。如图2中所示，SP₁、SP₂、SP₃分别用算法A，B，C进行优化。因此本发明提出的方法可以在一个框架结构中混合多种不同的多目标进化算法。

由没有免费的午餐定理可以知道，不可能存在一种算法适合所有的优化问题。即使是对同一个优化问题，由于多目标优化问题的有效解是一组解，散布在目标函数空间中因此，对于不同的子区域可能需要不同的多目标进化算法。但是，对于某一个优化问题，事先不知道哪种多目标进化算法最合适。因此，本发明提出一种自适应的分配策略，为每一个子种群自适应地分配一种最合适的算法。

为了量化分到每一个子种群的算法的性能，让相邻子种群相互学习，对每一个子种群定义一个效用值Δ_j

${\mathrm{\&Delta;}}_j=\underset{i=1}{\overset{m}{\mathrm{\&Sigma;}}}\frac{{\stackrel{\&OverBar;}{f}}_{i,j}^{\mathrm{old}}-{\stackrel{\&OverBar;}{f}}_{i,j}^{\mathrm{new}}}{{\stackrel{\&OverBar;}{f}}_{i,j}^{\mathrm{old}}}$

其中和

分别是第j个子种群中新个体和旧个体的第i个目标的平均值。通过计算任意两个中心点之间的欧几里得距离，对每一个子种群找到它最近邻子种群。

在算法的初始化时，为每一个子种群随机分配一种多目标进化算法。然后每隔K代，随机选取[0.2S]+1个子种群，让这些子种群与他们最近邻子种群相互学习。计算这些子种群的效用值Δ_j，

是一个随机选择的子种群，是

的最近邻子种群。这些子种群的算法更新方式如下：

a)如果用于优化的多目标算法用

的多目标算法替代；

b)如果用于优化

的多目标算法用

的多目标算法替代。

3）子种群的初始化和更新

在算法初始化时随机均匀产生5N个个体，然后按上叙动态分解策略把这些个体分到各个子种群中。当分配给子种群SP_j的数量小于或等于SP_j规模的上界n_j的时候，子种群就包括所有分配的个体，否则就通过事先分配的多目标进化算法从所分的个体中选取n_j个不同的个体。在第t代的时候，更新子种群的方法和子种群初始化的方法一致。新产生的个体用动态种群分解策略分配给每一个子种群。在SP_j和分配给SP_j的新产生的个体中选择不超过n_j个不同的个体。下一代中的SP_j就包括这不超过n_j的不同个体。

4）外部集的定义以及其作用

由于把种群分成了若干子种群，每一个子种群的种群规模相对较小，不利于保持种群的多样性。为每一个子种群设置一个外部集。外部集的初始化和更新方式如下：在算法的初始时，从初始的5N个个体中随机选取

个个体组成SP_j的外部集，[…]表示取整，j=1,2,...S。在更新子种的外部集时，如果在更新子种群时没有剩余个体，则不需要更新外部集；否则，将更新子种群时剩下的个体随机替代外部集中相同数目的个体。很明显，更新后的外部集的种群规模依然是

通常，作用在相邻两个个体之间的杂交算子有利于探索这两个个体周围好的个体；而作用在相距较远的两个个体之间的杂交算子有利于开发新区域。交叉算子作用在子种群和其相应的外部集上。通过外部集初始化和更新的策略，可以看出外部集中的个体在进化的过程中将逐渐的扩充的其子种群里。当交叉算子作用在子种群中的个体和在其相应的外部集中任意选取的个体上时，就像是作用在两个距离既不是很近又不是很远的个体上。这能体现出交出算子在搜索好的个体和探索新区域两方面的优势。此外，由于把种群分解成了一系列小的子种群，在子种群中的个体不会很多，种群的多样性可能就会消失。外部集在增加种群规模和保持中青多样性方面起了很大的作用。此外，由于外部集的更新时任意选取上代子种群更新剩下的个体，更新外部集几乎不会增加种群的运算复杂度。

整个发明的流程图如图3所示；为了评价算法的性能，使用了D度量。设Q^*是目标空间中沿前沿界面均匀散布的点的集合。令Q是到前沿界面的一个近似，从Q^*到Q的距离定义为：

$\mathrm{IGD}(Q^{*},Q)=\frac{{\mathrm{\&Sigma;}}_{v\&Element;Q^{*}}d(v,Q)}{\left|Q^{*}\right|}$

其中d(v,Q)是v到Q中的点的最小欧几里德距离。显然，IGD的值越小算法性能越好。

将本发明提出的基于种群本自适应混合多目标进化算法与目前主流的2种多目标进化算法MOEA/D和NSGA-II进行比较。对9个连续多目标测试问题进行测试。实验结果表明该算法取得了非常好的效果。

表1：本发明中的算法和MOEA/D、NSGA-II对9个连续测试函数的IGD结果比较

从表1中可以看出，本发明提出的算法的IGD不论是最小值还是平均值都有明显的改进。

Claims (5)

1.一种基于种群分解的自适应混合多目标进化方法，其特征在于包括如下步骤：

1）初始化参数、种群规模，分解种群，选择适应值分配策略；随机均匀地产生5N个个体作为种群，采用动态种群分解策略用这5N个个体初始化各个子种群SP_j，其中j=1，2，...，S，

为子种群的数量；初始化各个子种群SP_j的随机因子λ_j；对各个子种群SP_j随机分配一种多目标进化算法，并从5N个个体中随机选择

个个体作为子种群SP_j的外部集EP_j，j=1，2，...，S；其中[X]为代表不大于X的最大整数；

2）从子种群SP_j中随机选择一个个体xⁱ，并在xⁱ相对应的外部集EP_j中随机选择一个个体

让xⁱ与

进行杂交变异产生一个新个体xⁱ′，i＝1,…N，共产生N个新个体；

3）把新产生的N个新个体用动态种群分解策略分到各个子种群体中；对第i个新个体xⁱ′，令

$J=\arg \underset{i\&le;j\&le;S}{\min }{\mathrm{\&lambda;}}_{j}d(\frac{f\left(x^{i^{\&prime;}}\right)}{\left|\right|f\left(x^{i^{\&prime;}}\right)\left|\right|},W^j)$

d(A,B)是A和B之间的欧几里得距离，则第i个个体xⁱ′就被划分到第j个子种群；λ_j为子种群SP_j的随机因子，f(xⁱ′)第i个个体对应的目标函数值向量，‖f(xⁱ)‖第i个个体目标函数值向量的模，W^j表示第j个子种群的中心；

4）更新各子种群和外部集；通过步骤1）获得适应值分配策略和分配多目标进化算法时分配的选择算子，在各个子种群SP_j和分配给各个子种群SP_j的新产生的个体中更新子种群，即选择不超过n_j个不同的适应值大的个体作为下一代中的子种群SP′_j，其中j=1,2,3,...S；如果SP_j中的个体和分配给SP_j的新产生的个体总数仍小于n_j，则将这些个体作为下一代的子种群SP′_j，其中j=1,2,3,...S；更新各个子种群SP_j所对应的外部集，如果在更新子种群SP_j时没有剩余个体，则不需要更新外部集；否则，将更新子种群SP_j时剩下的个体随机替代外部集中相同数目的个体；用更新子种群SP_j时的剩余个体随机替换外部集中的相同数目的个体；

5）如果mod(t,K)=0，式中t指的是当前进化的代数，K是预先给定的一个参数，作为控制随机因子λ_j重置的频数，即每隔k代重置随机因子λ_j；重置子种群的随机因子λ_j，并计算每一个子种群所分配的算法的效用值Δ_j：

${\mathrm{\&Delta;}}_j=\underset{i=1}{\overset{m}{\mathrm{\&Sigma;}}}\frac{{\stackrel{\&OverBar;}{f}}_{i,j}^{\mathrm{old}}-{\stackrel{\&OverBar;}{f}}_{i,j}^{\mathrm{new}}}{{\stackrel{\&OverBar;}{f}}_{i,j}^{\mathrm{old}}}$

通过相邻子种群的协作学习寻找搜索最优点最快多目标进化算法；

6）重复步骤2）至5）直到满足算法终止条件即达到最大进化代数Max_t。

2.根据权利要求1所述基于种群分解的自适应混合多目标进化方法，其特征在于所述的随机因子λ_j的取值范围为[0.8，1]，j=1,…,S。

3.根据权利要求1所述基于种群分解的自适应混合多目标进化方法，其特征在于所述步骤1）的分解种群，用动态种群分解策略把随机产生的5N个个体分到各个子种群SP_j，j=1,2,3,...S，当分配给子种群SP_j的个体数目小于或等于子种群SP_j规模的上界n_j时，子种群SP_j就包括所有分配的个体；否则，通过分配的多目标进化算法从所分配到子种群SP_j的个体中选取n_j个不同的个体作为子群体的下一代。

4.根据权利要求3所述基于种群分解的自适应混合多目标进化方法，其特征在于所述通过分配的多目标进化算法从所分配到子种群SP_j的个体中选取n_j个不同的个体作为子群体的下一代。

5.根据权利要求1所述基于种群分解的自适应混合多目标进化方法，其特征在于所述步骤1）的动态种群分解策略是将每一个子种群看成一个独立的微群体，在每一个子种群中独立地使用各种多目标进化算法。

Images