CN104778368A - 一种针对高维多目标优化问题的Pareto集个体排序方法 - Google Patents

Abstract

本发明公开了一种针对高维多目标优化问题的Pareto集个体排序方法，该方法在比较种群个体优劣时，引入了一个新的参考点种群，通过比较种群个体与参考点之间的Pareto支配关系，间接地得到种群个体之间的优劣关系，即个体适应度。同时依据参考点与种群个体的支配关系，参考点也获得了一个适应度值。由此，在设计进化多目标优化算法的过程中，可将个体种群和参考点种群协同进化，二者互相促进，最终提高算法的收敛性。经验证该方法在高维多目标优化问题上依然有效。

Description

一种针对高维多目标优化问题的Pareto集个体排序方法

技术领域

本发明属于人工智能领域，特别涉及到的是智能优化算法设计领域。具体而言是一种针对多目标优化问题帕累托(Pareto)集的解个体优劣排序方法,适用于各类多目标智能优化算法，如多目标遗传算法、多目标粒子群、蚁群算法等。

背景技术

在日常生活、科学研究和工程实践中很多决策优化问题，如城市区域划分、网络优化、作业调度等都涉及到多个目标的优化，称为多目标优化问题(Multi-objective OptimizationProblem,MOP)。通常在MOP中，多个优化目标是耦合在一起且处于相互竞争的状态，即某个目标的改善可能引起其他目标性能的降低。不同于单目标优化问题，针对MOP一般不存在一个解能够使所有目标同时达到最优，MOP的解通常是一组Pareto最优解。决策者可根据实际情况或个人偏好选择一个解作为最终实施方案。

传统处理MOP的方法是将多个目标函数通过偏好加权转化为单目标优化问题。其缺陷主要有：1)决策者很难对问题有全面的理解，因而不易获取准确的偏好权重；2)一旦决策者的偏好改变，只能重新进行优化搜索。智能多目标优化方法(Multi-objective evolutionaryalgorithms,MOEAs)，基于种群进化的思想，一次搜索能获得一组Pareto解，无需在验前提供决策者的偏好权重，有效地避免了传统加权方法的缺陷,更适用于实际决策情况,因而近些年被广泛应用。

MOEAs模拟自然界生物的进化过程，通过选择、交叉、变异等操作，不断地寻找更优的解。图1给出一个典型的MOEA算法流程，包括初始化种群个体、个体适应度分配、选择、交叉和变异，种群合并与筛选等操作。其中重要的步骤就是个体适应度分配，也就是对个体优劣的排序，正是本发明针对的部分。

Pareto支配关系是目前广泛应用的进行个体优劣排序的方法。以最小化问题为例，我们称个体x支配个体y，记作x＜y，当且仅当

$\&ForAll;i\&Element;\mathrm{1,2},...,m,f_i\left(x\right)\&le;f_i\left(y\right)\&cap;\&Exists;j\&Element;\mathrm{1,2},...m,f_j\left(x\right)<f_j\left(y\right)$

基于Pareto支配关系的优劣排序在二或三目标优化问题中是有效的，然而随着目标个数的增加，Pareto支配关系逐渐失效，即绝大多数的个体都变得非支配(位于第一Pareto非支配层)。其原因如下：随机生成两个数a,b,那么a＜b的概率为0.5，由此对于m维的两个向量F(x)＝[f₁(x),f₂(x),...,f_m(x)]和F(y)＝[f₁(y),f₂(y),...,f_m(y)],F(x)支配F(y)的概率为(0.5)^m。显然，随着目标维数的增加，随机生成的两个个体之间存在支配关系的概率越来越小。图2显示了随机生成的100个体中，Pareto最优前沿的个体数随目标维数增长急剧增加。

因此，为使智能多目标优化方法能够处理目标个数较多优化问题(称为高维多目标优化问题)，必须设计一种有效的个体优劣排序方法。

发明内容

本发明要解决的技术问题是对Pareto集个体优劣排序，即个体适应度计算。适应度大的个体优于适应度小的个体。传统的Pareto支配关系无法应用到高维多目标优化问题中，针对这一缺陷，本发明提出了一种针对高维多目标优化问题的Pareto集个体排序方法，它是一种基于协同进化思想的个体适应度计算方法。该方法引入了参考点，通过衡量Pareto集个体相对于参考点的支配关系，间接地得到Pareto集个体优劣。

本发明的技术方案是:

一种针对高维多目标优化问题的Pareto集个体排序方法，其步骤如下：

(1)Pareto集个体归一化：针对当前所产生的Pareto集个体(solutions)，获取每一个目标函数f_i的最大值，max(f_i)和最小值，min(f_i)，然后依据公式(1)将个体目标函数值转换到区间[0,1]。

${\stackrel{\&OverBar;}{f}}_i=\frac{f_i-\min \left(f_i\right)}{\max \left(f_i\right)-\min \left(f_i\right)},i=\mathrm{1,2},...,M---\left(1\right)$

(2)将个体进行非劣分层：首先根据Pareto支配关系，将所有非支配个体都分配到第一层，其次将这些个体移除，将剩余个体中的非支配个体分配到第二层，如此重复直至所有个体都非配到相应的非劣层，如图2所示；

(3)生成参考点集(记为R)：将参考点的上下界可以设定为：upper＝(1.2,1.2,...,1.2)设置为参考点的上界，lower＝(0,0,...,0)设置为参考点的下界，在由上下界确定的超立方体内随机生成一组参考点；

(4)个体与参考点的支配关系统计：遍历每一组个体与参考点，确定他们之间的Pareto支配关系。同时假设每个参考点携带1个积分，若某一参考点仅被一个个体支配，那么它的积分全部分配给该个体；若参考点被多个(如k)个体支配，那么它的积分平均分配给这k个个体，即每个个体得到1/k积分。由此得到个体的初始适应度计算公式，如(2)所示；

$F_{p_i}=0+\underset{r\&Element;R|p<r}{\mathrm{\&Sigma;}}\frac{1}{n_r}---\left(2\right)$

其中p表示个体，r表示参考点，n_r表示参考点被个体支配的个数，个体初始适应度值等于该个体能够支配的所有参考点赋予其的积分，若个体不能支配任何参考点，那么若某个参考点被n_r个个体支配，则该参考点的积分为若n_r为0，即该参考点不被任何个体支配(无效参考点)，那么其适应度为0。

相应地，对于参考点，若其被k个支配，则得到积分1/k，若不被任何个体支配，则得到积分0。由此得到参考点的适应度其计算公式，如(3)所示；

$F_{r_i}=\left\{\begin{array}{cc}0,& n_r=0\\ 1/n_r& n_r\&NotEqual;0\end{array}\right.---\left(3\right)$

(5)个体适应度的修正：结合个体所处的非劣层，依据式(4)修正在步骤(4)中计算得到的个体适应度值。保证第i非劣层个体的适应度值高于第i+1非劣层个体的适应度。

$F_{p_i}^{\&prime;}={(1/\mathrm{rn}{k}_i)}^{{\mathrm{rnk}}_i}+{\left(e^{\frac{-1}{1+F_{p_i}}}\right)}^{{\mathrm{rnk}}_i}---\left(4\right)$

其中rnk_i表示个体p_i所处的非劣层。

本发明中：所述步骤(3)中参考点上下界可以依据当前所获得的所有非支配解来生成，具体而言，非支配解在各个目标上的最大值组成的点作为上界。非支配解在各个目标上的最小值组成的点作为下界。当然为了尽可能多的生成有效的参考点(若参考点不被任何解支配，那么由步骤(4)可知，该参考点对于区分解的优劣是没有帮助的，因而称为无效的参考点)，可以直接用非支配解集作为下界。

本发明的有益技术效果是：

(1)个体的优劣不是基于个体间的直接比较，而是通过个体与同一参考点种群的支配关系，间接地确定。

(2)处于同一非劣层的个体，依靠个体所得的积分，可以进一步细分。成功化解了在高维多目标问题中，标准Pareto支配关系失效的问题。

(3)该适应度计算简单有效，特别是其计算复杂度远低于超体积(Hypervolume)的计算复杂度，能够有效地应用在高维多目标优化算法设计中。

(4)该适应度计算方法中涉及到了两个种群，即解集和参考点集。两个种群可同时进行演化，互相促进，进一步提高该适应度分配方法在算法中的有效性。

附图说明

图1典型的智能多目标优化算法流程图

图2个体Pareto非劣分层示意图

图3第一非劣层个体形成的attainment surface示意图

图4种群个体与参考点之间的支配关系示意图

具体实施方式

假设当前搜索过程中，已得到一组解集P，其目标函数值为{(0.5,4),(1.5,3),(2,2),(3,1),(4,0.5),(2,3.5),(3.5,2),(3,3),(3,3.5),(4,3)}(N＝10)，如图2所示，下面以此为例，介绍本发明针对高维多目标优化问题的Pareto集个体排序方法的具体实施步骤：

步骤一、依据式(1)将当前解集种群归一化到区间[0,1]。这里max(f_i)＝3.5,min(f_i)＝1，由此得到的归一化个体目标函数值数据为:{(0,1),(0.2587,0.7143),(0.4286,0.4286)，(0.7143,0.1429),(1,0),(0.4286,0.8571)，(0.8571，0.4286)，(0.7143，0.7143)(1.0000，0.7143),(0.7143，0.8571)}。

步骤二、将个体进行非劣分层，具体方法如下，首先将所有非支配个体都分配到第一层，即F₁＝{(0,1),(0.2587,0.7143),(0.4286,0.4286),(0.7143,0.1429),(1,0)}；其次将这些个体移除，得到个体集P\F₁，将该集合中的非支配个体分配到第二层，如此重复直至所有个体都非配到相应的非劣层，如图2所示。

步骤三、确定参考点种群R的上下界，随机生成指定数量(如N_r＝N＝10)的参考点。在步骤一中已将个体目标值转化到[0,1]区间，因而参考点的上下界可以设定为：upper＝(1.2,1.2,...,1.2)，lower＝(0,0,...,0)。注意参考的上下界必须将所有个体都包含在内,即上界必须大于1。针对下界，如前所述，亦可使用第一非劣层个体F₁构成的attainment surface(如图3)作为下界。假设生成的参考点为{(1.0209，0.7351)，(0.6727，1.1879)，(1.1155，0.6332)，(0.8360，0.5754)，(0.6993，0.9616)，(0.9785，0.2734)，(1.0548，0.5977)，(1.1867，1.0810)，(0.0006，0.6896)，(1.0385，1.0142)}。由此得到个体与参考点之间的支配关系，如图4所示。

步骤四、统计个体与参考点之间的支配关系，若个体p_i支配参考点r_i在，S_ij＝1,否则S_ij＝0。由此得到种群P和R的支配关系矩阵，如表1。

表1个体与参考点的支配关系矩阵

步骤五、依据式(2)和(3)分别计算个体初始适应度和参考点的适应度。以个体p₁为例，其可以支配r₂,r₈,r₁₀，其中由此我们得到以参考点r₁为例，其被7个个体支配，由此由此得到个体p₁到p₁₀的初始适应度分别为{0.4500，0.9262，1.9262，2.3429，0.8429，0.7833，0.8429，0.3429,0.3429,0.2000}；参考点r₁到r₁₀适应度分别为{0.1429，0.2500，0.2500，0.5000，0.3333，1.0000，0.2500，0.1000，0，0.1000}。

步骤六、结合个体所处的非劣层，依据式(4)修正个体适应度值。式(4)保证了位于第i非劣层的个体适应度一定高于位于第i+1非劣层的个体适应度，如第一层个体适应度处于区间[1,2]，第二层个体适应度处于区间[1/4,1/2]。同时，同一非劣层内的个体适应度遵循式(2)中确定的大小次序关系。因此，个体p₁到p₁₀最终的适应度依次为{1.5017，1.5950，1.7105，1.7415，1.5812，0.5758，0.5878，0.4755，0.1441，0.1191}。

由此，在未使用本发明时，基于Pareto支配关系的个体优劣排序为：p₁＝p₂＝p₃＝p₄＝p₅＞p₆＝p₇＝p₈＞p₉＝p₁₀；使用本发明后，由个体适应度可以得到个体的优劣排序为p₄＞p₃＞p₂＞p₅＞p₁＞p₇＞p₆＞p₈＞p₉＞p₁₀。该排序没有违反基于Pareto支配关系的排序，即位于第一非劣层的个体仍然优于位于第二非劣层的个体。另注意修正个体适应度值之后，不同非劣层个体间的适应度差异，不再适用于用判断个体优于另一个体的程度，仅可作为个体优劣排序使用。

本发明的效果可以通过以下仿真实验进一步说明：

实验条件：在CPU为core2 2.26GHZ、内存2G、WINDOW7系统上使用MATLAB2010进行仿真。

实验内容：比较基于本发明的MOEA(记作MOEA1)和基于单纯Pareto非劣分层方法的MOEA(记作MOEA2)在求解2、3、4和9目标DTLZ2问题上的表现。DTLZ是多目标优化算法的基准测试问题，具体定义如下。

$\begin{array}{c}\min f_1\left(x\right)=(1+g\left(X_m\right))\cos \left(\frac{\mathrm{\&pi;}}{2}{x}_2\right)......\cos \left(\frac{\mathrm{\&pi;}}{2}{x}_{m-1}\right)\\ \min f_2\left(x\right)=(1+g\left(X_m\right))\cos \left(\frac{\mathrm{\&pi;}}{2}{x}_2\right)......\sin \left(\frac{\mathrm{\&pi;}}{2}{x}_{m-1}\right)\\ \min f_3\left(x\right)=(1+g\left(X_m\right))\cos \left(\frac{\mathrm{\&pi;}}{2}\left(x_2\right)\right)......\sin \left(\frac{\mathrm{\&pi;}}{2}{x}_{m-2}\right)\\ ......\\ \min f_m\left(x\right)=(1+g\left(X_m\right))\sin \left(\frac{\mathrm{\&pi;}}{2}{x}_1\right)\\ 0<x_i<1,\mathrm{for\; i}=\mathrm{1,2},...,n\end{array}---\left(5\right)$

其中，X_m＝{x_m,x_m+1,...,x_n}

DTLZ2问题的Pareto最优前沿是一个以1为半径的超球面，更具体的，Pareto最优前沿上的点x满足x_i≥0

使用Generational Distance(GD)和Hyper-volume(HV)作为算法比较的评价指标。GD衡量算法搜索到达Pareto非劣解距离Pareto最优前沿的距离，GD越小越好；HV测量算法搜索得到的Pareto非劣解与一个指定的参考点(一般为nadir点)构成的体积，HV越大越好，它可同时衡量Pareto非支配解集的收敛性和分布性。GD和HV是本领域公知的常用指标，这里不再具体叙述。

两个算法的参数设置如下：种群个数：N＝100，运行代数：maxGen＝250，交叉算子：SBX(p_c＝0.9,η_c＝20)变异算子：PM(p_m＝0.01,η_m＝15)。另外，对于MOEA1中的参考点个数：N_p＝100。针对每一个问题，MOEA1和MOEA2各独立运行100次，然后针对每一次运行得到的Pareto非支配解，计算GD和HV指标值。注意在计算HV的参考点取(1.2，1.2，...,1.2)。表2列出了指标的平均值和方差。

表2基于GD和HV的MOEA1和MOEA2算法性能比较结果。

“+”、“-”和“＝”分别表示MOEA1在95％的显著性水平下性能优于、劣于和等于MOEA2。

从表2可以看出，基于本发明的MOEA1算法无论是在GD还是在HV评价指标下，表现都要优于MOEA2算法。由此证明了本发明中所提出的个体优劣排序方法是有效的，能有应用于求解高维多目标优化问题。

综上所述，虽然本发明已以较佳实施揭露如上，然其并非用以限定本发明，任何本领域普通技术人员，在不脱离本发明的精神和范围内，当可作各种更动与润饰，因此本发明的保护范围当视权利要求书界定的范围为准。

Claims (1)

1.一种针对高维多目标优化问题的Pareto集个体排序方法，其特征在于包括以下步骤：

(1)Pareto集个体归一化：针对当前所产生的Pareto集个体，获取每一个目标函数f_i的最大值，max(f_i)和最小值，min(f_i)，然后依据公式(1)将个体目标函数值转换到区间[0,1]；

${\stackrel{\&OverBar;}{f}}_i=\frac{f_i-\min \left(f_i\right)}{\max \left(f_i\right)-\min \left(f_i\right)}i=\mathrm{1,2},...,M---\left(1\right)$

(2)将个体进行非劣分层：首先根据Pareto支配关系，将所有非支配个体都分配到第一层，其次将这些个体移除，将剩余个体中的非支配个体分配到第二层，如此重复直至所有个体都非配到相应的非劣层；

(3)生成参考点集(记为R)：将参考点的上下界设定为：upper＝(1.2,1.2,...,1.2)设置为参考点的上界，lower＝(0,0,...,0)设置为参考点的下界，在由上下界确定的超立方体内随机生成一组参考点；

(4)个体与参考点的支配关系统计：遍历每一组个体与参考点，确定他们之间的Pareto支配关系；同时假设每个参考点携带1个积分，若某一参考点仅被一个个体支配，那么它的积分全部分配给该个体；若参考点被多个个体支配，那么它的积分平均分配给这k个个体，即每个个体得到1/k积分；由此得到个体的初始适应度计算公式，如(2)所示；

$F_{p_i}=0+\underset{r\&Element;R|p<r}{\mathrm{\&Sigma;}}\frac{1}{n_r}---\left(2\right)$

其中p表示个体，r表示参考点，n_r表示参考点被个体支配的个数，个体初始适应度值等于该个体能够支配的所有参考点赋予其的积分，若个体不能支配任何参考点，那么F_pi＝0；若某个参考点被n_r个个体支配，则该参考点的积分为若n_r为0，即该参考点不被任何个体支配，那么其适应度为0；

相应地，对于参考点，若其被k个支配，则得到积分1/k，若不被任何个体支配，则得到积分0；由此得到参考点的适应度其计算公式，如(3)所示；

$F_{r_i}=\left\{\begin{array}{cc}0,& n_r=0\\ 1/n_r& n_r\&NotEqual;0\end{array}\right.---\left(3\right)$

(5)个体适应度的修正：结合个体所处的非劣层，依据式(4)修正在步骤(4)中计算得到的个体适应度值，保证第i非劣层个体的适应度值高于第i+1非劣层个体的适应度；

$F_{p_i}^{\&prime;}={(1/{\mathrm{rnk}}_i)}^{{\mathrm{rnk}}_i}+{\left(e^{\frac{-1}{1+F_{p_i}}}\right)}^{{\mathrm{rnk}}_i}---\left(4\right)$

其中rnk_i表示个体p_i所处的非劣层。