CN109934344B - 一种改进的基于规则模型的多目标分布估计方法 - Google Patents

Abstract

一种改进的基于规则模型的多目标分布估计方法，包括以下步骤，采用基于序列的确定化随机化方法得到高质量的初始种群，并增加了基于差分算法的繁殖策略，将此策略与原有的基于规则模型的多目标分布估计算法中的建模采样繁殖策略通过参数有效地结合在一起；改进了繁殖过程，充分利用种群中个体的局部信息，增加种群个体的多样性，增强算法的全局搜索能力，加快其收敛速度；最后，通过在测试函数上的仿真实验验证所提出算法的有效性和正确性。

Description

一种改进的基于规则模型的多目标分布估计方法

技术领域

本发明属于演化计算中的多目标优化研究领域，涉及一种基于连续多目标问题中规则模型的分布估计方法。

背景技术

多目标问题(Multi-Objective Problems)，是科学研究和工程应用中经常遇到的一类问题，求解多目标问题是一个非常有实际意义和科研价值的课题，我们迫切需要多目标优化理论来指导我们的生产生活。多目标优化问题可以由以下数学公式表达：

其中，

是具有m个目标函数的的目标向量，Y是目标空间；

是具有D维变量的决策变量，每一个x_j有一个下限x _j和上限

X是决策空间。

在多目标优化问题中，多个目标相互之间经常是冲突的，从而导致无法在满足所有约束条件下使得所有目标函数都达到全局最优解，但是存在一个折衷解的集合，使各个子目标都尽可能地达到最优化，这个集合称为Pareto最优解。对于此，做出以下定义：

1)给定两个决策向量

如果

且

则称

支配

记为

2)如果不存在

使得

则决策向量

被称为Pereto最优解。

3)Pareto最优解集(PS)是Pareto最优解的集合，即：

4)Pareto前沿(PF)是Pareto最优解对应的目标向量的集合，即：

研究者们通常采用演化算法去求解多目标优化问题。演化算法通过在代与代之间维持潜在解组成的种群来实现全局搜索，往往得到地是一组解，这种基于种群的方法在搜索MOPs的最优解集具有很大优势。自从1985年Schaffer提出向量估计遗传算法，大量的演化算法被提出，在这些演化算法中，分布估计算法能够比较好的解决繁杂的目标函数问题，该算法通过建立模型描述优化问题的解分布，在解决相同等级大小和复杂度的问题时，分布估计算法往往是最优的算法。

研究发现，在光滑的条件下，根据Karush-Kuhn-Tucker条件可以推导出：连续多目标问题在决策空间中的Pareto最优解集和在目标空间中的Pareto前沿均是一个连续分段的(m-1)维的流形体(m是目标函数的个数)。基于这一规则模型，2007年张青富和周爱民等提出基于规则模型的分布估计多目标算法(RM-MEDA)，他们利用局部主成分分析(LocalPCA)的方法将种群划分为多个聚类，在各个聚类里通过建立线性概率模型对种群的流行结构建模。通过与GDE3、PCX-NSGA-II和MIDEA三种算法在一系列测试函数上的性能比较，该算法表现出色。随后张青富和周爱民为了增强RM-MEDA的全局搜索能力，在RM-MEDA中添加了偏好交叉和偏好初始化两种算子。2012年王勇等人为了建立更为精确的概率模型，在传统的RM-MEDA的基础上添加了删除冗余聚类算子，提出了IRM-MEDA。2013年李洋洋等人提出了IRM-MEDA*，在算法中加入一种新的繁殖策略局部学习，在一定程度上加快了算法收敛速度。通过对已有的RM-MEDA算法进行分析发现RM-MEDA存在以下缺点：

1)采用随机化的方法初始化种群，这使得初始种群不能均匀的分布在可行解空间。

2)利用群体的全局统计消息从宏观上估计解集的分布，这种机制容易导致算法未成熟收敛，且当种群分布还没有呈现一定的规律性时，用建立好的模型指导搜索往往与目标方向相差很远。

3)在解决不规则PF前沿问题时，算法性能大幅度下降。

4)RM-MEDA本质上是一种局部搜索算法，全局搜索能力弱，在求解多模优化问题，容易陷入Pareto局部最优。

发明内容

为了克服上述现有技术的不足，本发明的目的是提供一种改进的基于规则模型的多目标分布估计方法，该算法改进了种群的初始化方法，可以使初始化种群比较均匀地分布在可行解空间，加快了算法在可行解空间搜索最优解的过程；同时该算法改进了建模采样过程，充分利用种群中个体的局部信息，增加种群个体的多样性，增强算法的全局搜索能力，加快其收敛速度。

为了实现上述目的，本发明所采用的技术方案是：一种改进的基于规则模型的多目标分布估计方法，包括以下步骤：

1)初始化种群，在进行种群初始化时，不采用原始的随机化初始化方法，而是采用基于序列的确定化随机化方法得到初始种群；

2)聚类：采用基于规则模型的多目标分布算法RM-MEDA中的局部主成分分析方法进行聚类；

3)繁殖：为增强全局搜索能力，在ERM-MEDA中增加繁殖策略，此繁殖策略是基于全局搜索能力强，多样性好以及收敛速度快的多目标差分算法采用的交叉，变异操作方式变形而来，首先根据当前种群中的个体产生突变向量：

其中，g表示当前迭代的代数，

表示一个突变向量，其中r1,r2,r3是种群中的三个随机个体，F是变异策略中在[0,1]的变异因子，接着对应每一个突变向量产生一个在(0,1)之间的随机数rand_i，若rand_i≤0.4，按照公式(2)生成新个体，否则按照公式(3)生成新个体；

其中，

表示通过突变向量

所产生的第(g+1)代新个体，

为第g代中第i个突变向量的第j个变量，

为第g代中第i个个体的第j个变量，CR为交叉算子，在0到1之间取值，j_rand是1到D之间的一个常数，rand_j为0到1之间的一个随机数，D为决策变量的维数，Q为

所在聚类的协方差矩阵对应的特征向量，并且引入参数θ，通过θ将基于多目标差分算法的繁殖策略与原有的RM-MEDA中建模采样方式有机地结合起来，通过建模采样方式产生N×θ个新个体，通过交叉变异方式产生N×(θ-1)个新个体，其中N为种群大小，θ的定义为：

其中，T为最大迭代代数，与最大函数评价次数有关，t为当前种群所在的迭代代数；

4)选择，采用快速非支配排序方法和拥挤距离选择个体组成新的种群；

5)判断是否满足终止条件，若函数评价次数FES小于最大函数评价次数MAXFES，则返回第2)步，否则，输出结果，即当前非支配解集。

所述的繁殖策略是基于差分算法的繁殖策略。

与现有技术相比，本发明的有益效果是：

采用基于序列的确定化初始化方法可以得到较优秀的初始化种群，有利于之后的搜索迭代过程，在很大程度上加快了算法的收敛速度；有效地将RM-MEDA和多目标差分算法的繁殖新个体的方式形式结合起来，一方面可以利用群体智能消息，另一方面丰富了产生新个体的方式，平衡了算法的全局搜索能力和局部搜索能力，优化了算法的性能。

本发明所提出的ERM-MEDA比现有的RM-MEDA更能够有效地解决连续的复杂多目标问题，下面结合附图和具体实施方式进行进一步说明。

附图说明

图1是本发明ERM-MEDA的算法流程图。

图2是测试函数F8的标准Pareto前沿与ERM-MEDA在F8上运行得到的非支配解集。

图3是测试函数F8的标准Pareto前沿与RM-MEDA在F8上运行得到的非支配解集。

图4是测试函数F8的标准Pareto前沿与IRM-MEDA在F8上运行得到的非支配解集。

图5是测试函数F8的标准Pareto前沿与IRM-MEDA*在F8上运行得到的非支配解集。

图6是测试函数F9的标准Pareto前沿与ERM-MEDA在F9上运行得到的非支配解集。

图7是测试函数F9的标准Pareto前沿与RM-MEDA在F9上运行得到的非支配解集。

图8是测试函数F9的标准Pareto前沿与IRM-MEDA在F9上运行得到的非支配解集。

图9是测试函数F9的标准Pareto前沿与IRM-MEDA在F9上运行得到的非支配解集。

具体实施方式

下面结合附图对本发明做进一步说明，所描述的实施例仅仅为本发明一部分实施例，并非全部实施例。

参照图1，本发明的具体流程如下：

Step1：种群初始化。令t＝0，初始化N个个体，组成一个初始化种群P(t)。

初始化方式如下：

1.1把决策空间的每个变量的搜索区域均匀划分为q段，则划分间隔为：

其中

和x _i表示x_i的最大值和最小值。

1.2按照以下公式生成q个段向量：

1.3生成一系列个体：将段向量的第i维变量的值变为其他段向量的第i维的值；且一次只修改一个段向量的某一维的值，其他维的变量值仍是这个段向量原来的值。因此最多产生个体数：q×(D×(q-1)+1)，其中D为决策空间的变量个数。

1.4计算产生个体的目标函数值，，再利用快速非支配排序方法和拥挤距离从产生的一系列点中挑选出N个点组成种群P(t)。且此时函数评价次数FES＝q×(D×(q-1)+1)。

Step 2：聚类。采用LPCA方法对种群进行聚类，聚类的详细过程为：

2.1初始化：从种群中随机挑选出k个个体，基于选择的个体产生各自的仿射的(m-1)维空间

其中m为目标函数的个数。

2.2聚类：将种群P_t划分为k个不相交的聚类C₁，…，C_k。

其中

表示在决策空间中，种群个体

与它在仿射空间

上的投影的欧式距离。

2.3更新

是聚类C_j中所有点集的主成分，可以根据该聚类中点集的均值和协方差矩阵计算得到。均值和协方差的计算方法如下：

式中

表示聚类C_j的均值，Cov为聚类C_j的协方差矩阵，则聚类C_j点集的仿射空间

被定义为：

其中，

表示聚类C_j的协方差矩阵Cov的第i个主成分，即Cov第i大的特征值对应的特征向量(i∈{1，2，…，k})。

2.4重复执行第2步和第3步，直到聚类中的个体没有变化。

Step 3：繁殖。根据当前种群Pt(t)生成新种群O(t)。

3.1计算θ值：按照公式(4)计算θ值，θ是一个在[0,1]之间，随着当前迭代代数t线性递增的用于繁殖方式的一个参数。

3.2建立模型：基于聚类结果，对每一个聚类建立流行结构的概率模型。首先，我们对各个聚类C_i(i＝1，2，…，k)中的个体在前m-1个主成分方向上的投影范围进行计算，计算公式如下：

其中，

为聚类C_i中点集的平均值，

为聚类C_i的协方差矩阵的第j个主成分，即Cov第j大的特征值对应的特征向量。然后，(m-1)-D维流形体ψⁱ被建立：

3.3采样：采用高斯噪声进行采样。在迭代过程中，每一代都对概率模型进行采样来生成N个新个体(N为种群规模)每个模型ψⁱ(i＝1，2，…，k)产生新个体的概率为：

其中，Aⁱ表示当前产生新个体来自概率模型ψⁱ的事件，vol(ψⁱ)表示(m-1)维超矩形ψⁱ的体积。而每个新个体的产生方式为：

其中

为超矩形ψ^t上随机选取的一个点，

为一个满足N(0,σ_tI)的高斯噪声，I是一个密度矩阵，σ_t的计算方法如下：

其中，

表示聚类C_i的协方差矩阵的第j大的特征值，n为决策变量的维数。

3.4通过建模采样的繁殖方式生成N×θ个新个体，组成新的种群O₁(t)。

3.5根据种群P(t)中的个体按照公式(1)产生N×(1-θ)个突变向量。

3.6接着对应每一个突变向量产生一个在(0,1)之间的随机数rand_i，若rand_i≤0.4，按照公式(2)生成新个体，否则按照公式(3)生成新个体。

3.7通过变异交叉方式生成N×(1-θ)个新个体，组成新的种群O₂(t)。

3.8生成新种群O(t)＝O₁(t)∪O₂(t)。

Step 4：选择。计算新种群O(t)的目标函数值，且FES＝FES+N，采用快速非支配排序方法和拥挤距离从P(t)∪O(t)中选择N个个体组成P(t+1)，令t＝t+1。

Step 5：判断是否满足终止条件。若函数评价次数FES<MAXFES，返回Step 2，否则，则输出非支配解集P(t+1)。其中MAXFES为最大函数评价次数。

本发明的效果通过以下的仿真实验进一步说明。

首先给定测试函数：挑选部分多目标函数进行测试所提出算法的性能，具体如表1所示，其中第二列为决策变量的取值范围以及维数。然后初始化算法参数：本次仿真中，双目标测试函数的种群大小N为100，最大函数评价次数MAXFES为100000，而三目标测试函数的N为300，MAXFES为300000，在初始化过程中,q取10。聚类过程中的聚类数目k为5，差分策略中的变异因子F为0.6，交叉算子CR为0.3。

表1具体的测试函数集

按照上述ERM-MEDA的具体流程在测试函数上进行仿真实验，从而得到测试函数对应的非支配解集。为了更好地说明本发明的效果，选择原始的RM-MEDA和加入删除冗余聚类算子的IRM-MEDA以及加入局部学习策略的IRM-MEDA*同样在测试函数上进行仿真实验，与本发明ERM-MEDA的算法性能进行比较。其中比较的性能指标为反向世代距离(Invertedgenerational distance，IGD)，IGD表示多目标问题的真实Pareto前沿与算法所获得的非支配个体解集之间的平均距离，若P^*均匀分布在Pareto前沿上的一个集合，P为算法所得到非支配解集，则P^*和P之间的IGD可以表示为：

其中，d(v,P)表示点v和集合P的距离，由IGD的定义可知，IGD指标可以同时测量算法最终求得的近似解的多样性和收敛性，且IGD越小，近似解集在目标空间中分布的越均匀，与真实PF的距离越小，所以IGD越小表示算法性能越好，在仿真实验中，对于双目标函数，选择PF上分布均匀的1000个点组成P^*，对于三目标函数，选取2500个点。

将本发明ERM-MEDA和RM-MEDA、IRM-MEDA及IRM-MEDA*算法运行结果所得到的IGD指标进行比较。结果如表2所示：第一行数据为运行20次的IGD的平均值，第二行为对应的IGD的方差。标黄的数据为在测试函数集上运行最优的数据。为了提供算法的统计置信度，采用在0.05显著性水平的Wilcoxon秩和检验方式比较运行的结果，两种算法的性能比较确保有95％的置信度。作为秩和检验的结果，每个算法运行结果的IGD指标后面的符号+、-和≈分别表示ERM-MEDA的性能优于、差于和相似与当前算法的性能。

表2四种算法在F1-F10上运行20次得到IGD指标的实验结果

从表中数据可以得到：在8个实例上，ERM-EDA性能优于RM-MEDA；在7个实例上，ERM-EDA性能优于IRM-MEDA和IRM-MEDA*。所以，总体上ERM–EDA表现良好，具有更好的收敛性和准确性。

将本发明ERM-MEDA和RM-MEDA、MOEA/D_DE算法运行结果所得到的非支配解集进行比较。本说明书选取各个算法在三目标函数F8和双目标函数F9运行结果进行对比。具体如图2-图9所示。这些图说明了算法最终得到的非支配解集在目标空间上的分布。从图中可以看出：图2和图6中ERM-MEDA得到的非支配解集与标准Pareto前沿的重合率最高，说明其得到的非支配解集比较均匀的分布在标准Pareto前沿上，质量较高。

最后应说明的是：以上的实施例仅用于说明本发明的技术方案，而非对其限制；尽管参照参照前述的实施例对本发明进行了详细的说明，本领域的技术人员依然可以对前述实施例所记载的技术方案进行修改，或对本发明进行各种改动和变型而不脱离本发明的精神和范围，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。

Claims (2)

1.一种改进的基于规则模型的多目标分布估计方法，其特征在于，包括以下步骤：

1)初始化种群，在进行种群初始化时，不采用原始的随机化初始化方法，而是采用基于序列的确定化随机化方法得到初始种群；

2)聚类：采用基于规则模型的多目标分布算法RM-MEDA中的局部主成分分析方法进行聚类；

3)繁殖：为增强全局搜索能力，在多目标分布算法ERM-MEDA中增加繁殖策略，此繁殖策略是基于全局搜索能力强，多样性好以及收敛速度快的多目标差分算法采用的交叉，变异操作方式变形而来，首先根据当前种群中的个体产生突变向量：

其中，g表示当前迭代的代数，

表示一个突变向量，其中r1,r2,r3是种群中的三个随机个体，F是变异策略中在[0,1]的变异因子，接着对应每一个突变向量产生一个在(0,1)之间的随机数rand_i，若rand_i≤0.4，按照公式(2)生成新个体，否则按照公式(3)生成新个体；

其中，

表示通过突变向量

所产生的第(g+1)代新个体，

为第g代中第i个突变向量的第j个变量，

为第g代中第i个个体的第j个变量，CR为交叉算子，在0到1之间取值，j_rand是1到D之间的一个常数，rand_j为0到1之间的一个随机数，D为决策变量的维数，Q为

所在聚类的协方差矩阵对应的特征向量，并且引入参数θ，通过θ将基于多目标差分算法的繁殖策略与原有的RM-MEDA中建模采样方式有机地结合起来，通过建模采样方式产生N×θ个新个体，通过交叉变异方式产生N×(θ-1)个新个体，其中N为种群大小，θ的定义为：

其中，T为最大迭代代数，与最大函数评价次数MAXFES有关，t为当前种群所在的迭代代数；

4)选择，采用快速非支配排序方法和拥挤距离选择个体组成新的种群；

5)判断是否满足终止条件，若函数评价次数FES小于最大函数评价次数MAXFES，则返回第2)步，否则，输出结果，即当前非支配解集。

2.根据权利要求1所述的一种改进的基于规则模型的多目标分布估计方法，其特征在于，所述的繁殖策略为基于差分算法的繁殖策略，繁殖策略采用了聚类的协方差矩阵对应的特征向量；并利用参数将此繁殖策略与建模采样繁殖策略有效结合在一起。

Images