CN107516141A - 一种基于支持向量机预测策略的动态多目标进化算法 - Google Patents

一种基于支持向量机预测策略的动态多目标进化算法 Download PDF

Info

Publication number
CN107516141A
CN107516141A CN201710519724.0A CN201710519724A CN107516141A CN 107516141 A CN107516141 A CN 107516141A CN 201710519724 A CN201710519724 A CN 201710519724A CN 107516141 A CN107516141 A CN 107516141A
Authority
CN
China
Prior art keywords
mrow
mtd
msup
mtr
mover
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201710519724.0A
Other languages
English (en)
Inventor
孙浩
崔慧慧
范锐
魏立新
呼子宇
冀晓凯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yanshan University
Original Assignee
Yanshan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yanshan University filed Critical Yanshan University
Priority to CN201710519724.0A priority Critical patent/CN107516141A/zh
Publication of CN107516141A publication Critical patent/CN107516141A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/004—Artificial life, i.e. computing arrangements simulating life
    • G06N3/006—Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/086—Learning methods using evolutionary algorithms, e.g. genetic algorithms or genetic programming
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Strategic Management (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Resources & Organizations (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Economics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Development Economics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Game Theory and Decision Science (AREA)
  • Evolutionary Biology (AREA)
  • Physiology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于支持向量机预测策略的动态多目标进化算法，包括如下步骤：设定时间参数t＝0，初始化种群Pt；启动环境变化检测算子，采用重新评估法进行新环境的评估；将解集种群分为两部分：中心点和轮廓；进行中心点与轮廓预测；以最新产生的P为初始种群，采用MOEA/D‑DE算法优化时间t下的多目标问题。本发明引入支持向量机的人工智能模型预测方法，利用最小二乘支持向量机算法，根据历史近似Pareto解集，实现对新环境下真实Pareto解集的准确预测，使得初始预测种群更加接近真实Pareto前沿。从而提高算法在新环境下的收敛精度和收敛速度。

Description

一种基于支持向量机预测策略的动态多目标进化算法
技术领域
本发明涉及目标优化算法领域，具体涉及一种基于支持向量机预测策略的动态多目标进化算法。
背景技术
在现实世界中，不论是工程问题还是科研问题，解决方案都希望达到最优，从而达到提高效率、降低能耗的目的。而大多数优化问题都是由多个目标组成的，这一系列目标函数的解往往是相互矛盾、此消彼长的。在某些工程实践中，甚至包括各种各样的不确定或动态因素，使问题变的更加复杂。如动态路径规划，在规划方案中，优化目标一般要考虑路程最短，时间最短，道路状况良好等，而在车辆行进过程中，交通事故、交通管制等情况都是随机发生的，这就要求优化算法根据实时信息对优化结果作出调整，进行动态的在线优化，使行车路线最优。这类动态多目标优化问题普遍存在于各个领域，而最终这类问题均可抽象为以下数学模型(以最小化为例)：
s.t.ai≤xi≤bi
其中，F(x，t)为目标函数，t∈[t0，ts]为时间变量，x＝(x1，x2，…，xn)∈Rn为n维决策向量，aibi为决策变量x在第i维的上下限，i＝1，2，…，n。
在动态多目标优化算法中，其关键在于当环境变化后，算法如何应对环境变化所带来的目标函数以及最优Pareto解集的变化。
动态多目标优化进化算法主要研究如何利用进化计算方法求解动态多目标优化问题，其已成为进化计算领城一个新的研究课题.在生产调度、人工智能、组合优化、工程设计、大规模数据处理、城市运输、水库管理、网络通信、数据挖掘和资本预算等诸多优化领域，常常会遇到许多复杂的更为接近现实生活的动态和静态优化问题。在过去的几十年，人们大多致力于静态目标问题 (SOP)的研究，直到近几年，动态目标问题(DOP)才引起越来越多研究者的兴趣。
目前，对动态多目标问题(DMOP)的研究成果还不多，国际上也才刚刚起步，可见到的理论较少。这些成果大多针对离散时间变量设计算法，或者把一些静态多目标优化算法直接用于DMOP的求解。然而，对于DMOP而言，因其具有多个依赖时间(环境)的相互冲突的目标，加之其Pareto最优解随时间的变化会发生改变，因此，对DMOP的优化显得比较困难。
对于动态优化问题，目前其主要分为下面3种类型。1)保持种群的多样性：如Grefenstette提出的随机迁移进化策略、Morrison提出的超变异法及 Lewis提出的变量局部搜索技术等都是用来提高种群多样性的有效方法；2) 基于记忆的方法：对于动态进化算法，增加历史获得的较好解，并在需要的时候重新启动这些解并将其用于进化，在环境变化的情况下，这样会大大提高算法对问题求解的效率和搜索能力。记忆通常分为2种：利用冗余表示的隐式记忆和通过引入额外记忆集存储的显式记忆。如Ryan提出的利用额外二倍体隐式记忆方法，Collins提出的基因分级结构记忆方法等。尽管上述各种隐式记忆的方法能够使进化算法间接地存储一些有效信息，但并不确定算法能否有效地使用这些信息。3)基于多种群的方法：如Farina FM提出的一种邻域搜索算法，Deb K等人在NSGA-II基础上改进初始群体，提出的动态多目标优化进化算法(DNSGA-II)，IasonH等人在求解动态单目标优化进化算法基础上提出了一种向前估计方法(Forward-Looking Approach)，Zhou Aimin等人提出的一种基于种群预测的动态多目标进化算法。
设计求解动态多目标优化问题的进化算法首先需考虑以下关键问题：1) 如何使算法能有效跟踪不同时间(环境)下的Pareto最优解集；2)如何使算法快速准确求得不同时间(环境)下多目标问题的Pareto最优解。本专利即以此为出发点，利用支持向量机人工智能预测方法，对下一环境的Pareto解集进行预测，使得新环境下的初始种群更加接近真实Pareto解集，达到加快算法收敛速度的目的。
求解动态多目标优化问题的实质就是在有限的计算开销下，快速追踪新环境下的Pareto最优解集。目前最常用的方法就是种群预测策略，预测模型多采用传统方法(如一阶线性模型，卡尔曼模型等)，对于一般动态多目标优化问题，其预测精度较高，在新环境下能快速收敛，但对于目标函数变化复杂且剧烈的动态问题，存在预测精度较低，无法在有限时间内收敛的缺陷。
发明内容
为解决上述问题，本发明提供了一种基于支持向量机预测策略的动态多目标进化算法，制定新的环境变化应对策略，使环境变化对最优解集的影响降低到最小，从而使算法在有限的计算开销下，快速追踪到新的Pareto前沿。
为实现上述目的，本发明采取的技术方案为：
一种基于支持向量机预测策略的动态多目标进化算法，引入支持向量机的人工智能模型预测方法，利用最小二乘支持向量机算法，根据历史近似Pareto 解集，实现对新环境下近似Pareto解集；具体包括如下步骤：
S1、设定时间参数t＝0，初始化种群Pt；
S2、启动环境变化检测算子，在新环境t+1下选取环境t下的若干解与相应目标函数值F(x1，t)，F(x2，t)…F(xn，t)，利用这部分解对新环境的目标函数重新计算得到F(x1，t+1)，F(x2，t+1)…F(xn，t+1)，与F(x1，t)，F(x2，t)...F(xn，t)进行对比，如果平均变化幅值大于预设阈值则认为环境发生变化，随即启动种群预测策略；框架中提到的MOEA/D-DE算法为已有算法，这里不做过多叙述。
S3、在种群预测策略中，首先将解集种群分为两部分：中心点和轮廓；在环境t下，Pareto解集(Pareto Set，PS)可用下式表示：
其中，为环境t下近似PSt的中心点，为环境t下近似PSt的轮廓，Pt为环境t下算法输出的近似PSt；以2维决策空间为例，在不同环境t下，历史近似PS、中心点及轮廓移动轨迹可用图1表示。
S4、进行中心点与轮廓预测：将历史中心点看成为时间序列，并采用最小二乘支持向量机的人工智能建模方法对进行预测；在某种意义上，相邻环境的轮廓基本相似，故轮廓的预测只利用和当得到和后，利用公式(1)即可得到预测种群；
S5、以最新产生的P为初始种群，采用MOEA/D-DE算法优化时间t下的多目标问题。
其中，所述环境变化检测算子采用重新评估法。
其中，所述步骤S4中采用两种算法进行中心点与轮廓预测，具体的：
(1)PS中心点预测算法：
在环境t+1下，算法要保存若干历史近似PS的中心点k＝0，1，...，M-1，其中，M为堆栈最大长度，表征保存的历史近似PS的数量；采用最小二乘支持向量机(LSSVM)对历史中心点进行建模，以决策空间的第i维为例，学习样本集：
其中，i＝1，2，...，n，n为决策变量维数，j＝1，2，...，l，I为样本个数，p为支持向量机输入维数，进而得到回归函数形式：
其中，为特征映射，w和b是待求的回归系数。最小二乘支持向量机方法相当于求解下面的最小值问题：
其中，γ为正则化参数，最小值问题(7)的Lagrange函数为：
其中，a＝(a1，a2，...，al)T，由式(7)的平衡条件可知：
即
其中，Y＝[Y1，Y2，…，Yl]T，e＝[e1，e2，…，el]T， a＝[a1，a2，...，al]T，由式(9)可知，消去w和ej之后，可得线性方程组：
记，Ω＝ZZT，Ωij＝K(Xi，Xj)，K(·，·)为核函数，这里取径向基核称式(11)中的Ω+γ-1I为核相关矩阵，若记 A≡Ω+γ-1I，则式(11)等价于：
则由上式可以求得：
由式(13)、(14)和可得回归函数：
即中心点预测模型；
(2)PS轮廓预测算法：
在环境t+1下，是通过和计算而来，具体过程如下：
其中，i＝1，2，...，n，n为决策变量维数，D(A，B)表示相邻PS轮廓间的距离：
其中，|A|为种群A的个体数，||x-y||为x与y之间的欧式距离；
得到PS中心点及轮廓的预测模型，根据式(1)即可得到环境t+1下的预测种群Pt+1。
与现有技术相比，本发明采用的支持向量机人工智能模型，它在解决小样本、非线性及高维模式识别中表现出许多特有的优势，此方法是建立在统计学习理论的VC维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性(即对特定训练样本的学习精度)和学习能力(即无错误地识别任意样本的能力)之间寻求最佳折中，以求获得最好的推广能力。所以本专利所选取的方法其在预测方面具有更加优良的特性，特别是针对复杂变化的情况，也就是当环境变化后，其最优Pareto解集变化剧烈，且在连续时间段内，其变化呈非常复杂的非线性关系，在这种情况下，本发明所提策略将表现出更大的优势；本发明提高了新环境下初始种群的预测精度，使得初始预测种群更加接近真实Pareto前沿；加快新环境下Pareto前沿的收敛速度；提高新环境下 Pareto前沿的收敛精度。
附图说明
图1为近似PS中心点及轮廓移动轨迹。
图2为中心点预测图。
图3为F5-F7算法IGD变化趋势图。
图4为F5-F7真实前沿与近似前沿对比图。
具体实施方式
为了使本发明的目的及优点更加清楚明白，以下结合实施例对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
本发明实施例提供了一种基于支持向量机预测策略的动态多目标进化算法，引入支持向量机的人工智能模型预测方法，利用最小二乘支持向量机算法，根据历史近似Pareto解集，实现对新环境下近似Pareto解集的准确预测；计算框架见表1。
表1计算框架
在此框架下，具体包括如下步骤：
S1、设定时间参数t＝0，初始化种群Pt；
S2、启动环境变化检测算子，所述环境变化检测算子采用重新评估法；在新环境t+1下选取环境t下的若干解与相应目标函数值 F(x1，t)，F(x2，t)…F(xn，t)，利用这部分解对新环境的目标函数重新计算得到 F(x1，t+1)，F(x2，t+1)…F(xn，t+1)，与F(x1，t)，F(x2，t)…F(xn，t)进行对比，如果平均变化幅值大于预设阈值则认为环境发生变化，随即启动种群预测策略；框架1中提到的MOEA/D-DE算法为已有算法，这里不做过多叙述。
S3、在种群预测策略中，首先将解集种群分为两部分：中心点和轮廓；在环境t下，Pareto解集(Pareto Set，PS)可用下式表示：
其中，为环境t下近似PSt的中心点，为环境t下近似PSt的轮廓，Pt为环境t下算法输出的近似PSt；以2维决策空间为例，在不同环境t下，历史近似PS、中心点及轮廓移动轨迹可用图1表示。
S4、进行中心点与轮廓预测：将历史中心点看成为时间序列，并采用最小二乘支持向量机的人工智能建模方法对进行预测；在某种意义上，相邻环境的轮廓基本相似，故轮廓的预测只利用知当得到和后，利用公式(1)即可得到预测种群；
S5、以最新产生的P为初始种群，采用MOEA/D-DE算法优化时间t下的多目标问题。
所述步骤S4中采用两种算法进行中心点与轮廓预测，具体的：
(1)PS中心点预测算法：
在环境t+1下，算法要保存若干历史近似PS的中心点k＝0，1，...，M-1，其中，M为堆栈最大长度，表征保存的历史近似PS的数量；采用最小二乘支持向量机(LSSVM)对历史中心点进行建模，以决策空间的第i维为例，学习样本集：
其中，i＝1，2，...，n，n为决策变量维数，j＝1，2，...，l，I为样本个数，p为支持向量机输入维数，进而得到回归函数形式：
其中，为特征映射，w和b是待求的回归系数。最小二乘支持向量机方法相当于求解下面的最小值问题：
其中，γ为正则化参数，最小值问题(7)的Lagrange函数为：
其中，a＝(a1，a2，...，al)T，由式(7)的平衡条件可知：
即
其中，Y＝[Y1，Y2，…，Yl]T，e＝[e1，e2，…，el]T， a＝[a1，a2，...，al]T，由式(9)可知，消去w和ej之后，可得线性方程组：
记，Ω＝ZZT，Ωij＝K(Xi，Xj)，K(·，·)为核函数，这里取径向基核称式(11)中的Ω+γ-1I为核相关矩阵，若记 A≡Ω+γ-1I，则式(11)等价于：
则由上式可以求得：
由式(13)、(14)和可得回归函数：
即中心点预测模型；(注：此仅为决策变量其中某一维的预测模型)；
(2)PS轮廓预测算法：
在环境t+1下，是通过知计算而来，具体过程如下：
其中，i＝1，2，...，n，n为决策变量维数，D(A，B)表示相邻PS轮廓间的距离：
其中，|A|为种群A的个体数，||x-y||为x与y之间的欧式距离；
得到PS中心点及轮廓的预测模型，根据式(1)即可得到环境t+1下的预测种群Pt+1。基于支持向量机的种群预测策略实现流程如表2所示：
表2种群预测策略实现流程
实施例
由于本申请专注于普遍的动态多目标优化问题，故以国际通用的测试函数来说明算法的优越性。测试函数的具体表达式见表3。
表3测试函数
预测种群越接近环境t下的真实Pareto前沿，则MOEA/D-DE就能更快的收敛于真实Pareto前沿，而预测种群的精度在很大程度上取决于中心点的准确预测，为充分说明预测算法的有效性，利用已知不同时刻下的真实 Pareto前沿，对算法的中心点预测精度进行分析。专利中所采用的LSSVM 算法的参数设置如表4所示：
表4算法的参数设置
由给出的测试函数表达式可知，在真实Pareto解集中，x2～xn解集相同，故测试只给出x1和x2的预测对比，如图2所示，其中虚线为真实值，实线为预测值。
预测值与实际值之间的平均相对误差及相对误差的均方差见表5所示。由表中可以清楚的看出算法的预测精度很高，且有较高的稳定性。
表5算法预测性能
为进一步说明专利算法能够提高动态多目标优化问题的求解精度，本算法对以上测试问题分别独立运行30次，并对优化结果做定性和定量分析。本文算法参数设置如表6所示，其他参数与表4中相同。
表6算法参数设置
为定量分析算法的收敛性和分布性两个重要指标，采用动态反向世代距离作为评价准则，表达式如下：
其中，Pt*为时刻t下的真实Pareto前沿，Pt为时刻t下算法求得的近似 Pareto前沿，d(v，Pt)表示真实Pareto前沿上的点v与近似Pareto前沿的最小欧式距离。
在30次独立运行中，随即挑选任一次实验结果，其IGD变化趋势见图3，由图中可以看出，随着环境因子的不断变化，IGD也在不断减小。图4给出在环境t＝149，150，151，152，153下的Pareto真实前沿和算法求得的近似前沿的对比图，图中内侧线部分为真实Pareto前沿，外侧线部分为近似Pareto 前沿。由图中可以清楚的看出，近似前沿几乎和真实前沿重合，说明本专利算法可以达到较高的收敛精度。
为进一步定量说明本专利算法的优越性，表7给出了30次算法不同目标函数MIGD的平均值及均方差。由表中可以直接看出，专利算法所得MIGD的平均值和均方差都很小，说明专利算法具有很高的收敛精度和分布广度，且具有很高的稳定性。
表7不同目标函数MIGD的平均值及均方差
以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以作出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (3)

1.一种基于支持向量机预测策略的动态多目标进化算法，其特征在于，引入支持向量机的人工智能模型预测方法，利用最小二乘支持向量机算法，根据历史近似Pareto解集，实现对新环境下真实Pareto解集的准确预测；具体包括如下步骤：
S1、设定时间参数t＝0，初始化种群Pt；
S2、启动环境变化检测算子，在新环境t+1下选取环境t下的若干解与相应目标函数值F(x1，t)，F(x2，t)…F(xn，t)，利用这部分解对新环境的目标函数重新计算得到F(x1，t+1)，F(x2，t+1)…F(xn，t+1)，与F(x1，t)，F(x2，t)…F(xn，t)进行对比，如果平均变化幅值大于预设阈值则认为环境发生变化，随即启动种群预测策略；
S3、在种群预测策略中，首先将解集种群分为两部分：中心点和轮廓；在环境t下，Pareto解集(Pareto Set，PS)可用下式表示：
<mrow> <msup> <mi>PS</mi> <mi>t</mi> </msup> <mo>&amp;cong;</mo> <msup> <mover> <mi>x</mi> <mo>&amp;OverBar;</mo> </mover> <mi>t</mi> </msup> <mo>+</mo> <msup> <mover> <mi>C</mi> <mo>~</mo> </mover> <mi>t</mi> </msup> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>1</mn> <mo>)</mo> </mrow> </mrow>
<mrow> <msup> <mover> <mi>x</mi> <mo>&amp;OverBar;</mo> </mover> <mi>t</mi> </msup> <mo>=</mo> <mfrac> <mn>1</mn> <mrow> <mo>|</mo> <msup> <mi>P</mi> <mi>t</mi> </msup> <mo>|</mo> </mrow> </mfrac> <munder> <mo>&amp;Sigma;</mo> <mrow> <msup> <mi>x</mi> <mi>t</mi> </msup> <mo>&amp;Element;</mo> <msup> <mi>P</mi> <mi>t</mi> </msup> </mrow> </munder> <msup> <mi>x</mi> <mi>t</mi> </msup> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>2</mn> <mo>)</mo> </mrow> </mrow>
<mrow> <msup> <mi>x</mi> <mi>t</mi> </msup> <mo>=</mo> <msup> <mover> <mi>x</mi> <mo>&amp;OverBar;</mo> </mover> <mi>t</mi> </msup> <mo>+</mo> <msup> <mover> <mi>x</mi> <mo>~</mo> </mover> <mi>t</mi> </msup> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>3</mn> <mo>)</mo> </mrow> </mrow>
<mrow> <msup> <mover> <mi>C</mi> <mo>~</mo> </mover> <mi>t</mi> </msup> <mo>=</mo> <mo>{</mo> <msup> <mover> <mi>x</mi> <mo>~</mo> </mover> <mi>t</mi> </msup> <mo>}</mo> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>4</mn> <mo>)</mo> </mrow> </mrow>
其中，为环境t下近似PSt的中心点，为环境t下近似PSt的轮廓，Pt为环境t下算法输出的近似PSt；
S4、进行中心点与轮廓预测：将历史中心点看成为时间序列，并采用最小二乘支持向量机的人工智能建模方法对进行预测；在某种意义上，相邻环境的轮廓基本相似，故轮廓的预测只利用和当得到和后，利用公式(1)即可得到预测种群；
S5、以最新产生的P为初始种群，采用MOEA/D-DE算法优化时间t下的多目标问题。
2.如权利要求1所述的一种基于支持向量机预测策略的动态多目标进化算法，其特征在于，所述环境变化检测算子采用重新评估法。
3.如权利要求1所述的一种基于支持向量机预测策略的动态多目标进化算法，其特征在于，所述步骤S4中采用两种算法进行中心点与轮廓预测，具体的：
(1)PS中心点预测算法：
在环境t+1下，算法要保存若干历史近似PS的中心点k＝0，1，...，M-1，其中，M为堆栈最大长度，表征保存的历史近似PS的数量；采用最小二乘支持向量机(LSSVM)对历史中心点进行建模，以决策空间的第i维为例，学习样本集：
<mrow> <mi>S</mi> <mo>=</mo> <msubsup> <mrow> <mo>{</mo> <msub> <mi>s</mi> <mi>j</mi> </msub> <mo>|</mo> <msub> <mi>s</mi> <mi>j</mi> </msub> <mo>=</mo> <mrow> <mo>(</mo> <msub> <mi>X</mi> <mi>j</mi> </msub> <mo>,</mo> <msub> <mi>Y</mi> <mi>j</mi> </msub> <mo>)</mo> </mrow> <mo>,</mo> <msub> <mi>X</mi> <mi>j</mi> </msub> <mo>&amp;Element;</mo> <msup> <mi>R</mi> <mi>p</mi> </msup> <mo>,</mo> <msub> <mi>Y</mi> <mi>j</mi> </msub> <mo>&amp;Element;</mo> <mi>R</mi> <mo>}</mo> </mrow> <mrow> <mi>j</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>l</mi> </msubsup> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>5</mn> <mo>)</mo> </mrow> </mrow>
其中，i＝1，2，...，n，n为决策变量维数，j＝1，2，...，l，l为样本个数，p为支持向量机输入维数，进而得到回归函数形式：
其中，为特征映射，w和b是待求的回归系数。最小二乘支持向量机方法相当于求解下面的最小值问题：
其中，γ为正则化参数，最小值问题(7)的Lagrange函数为：
<mrow> <mi>L</mi> <mrow> <mo>(</mo> <mi>w</mi> <mo>,</mo> <mi>b</mi> <mo>,</mo> <mi>e</mi> <mo>,</mo> <mi>a</mi> <mo>)</mo> </mrow> <mo>=</mo> <mfrac> <mn>1</mn> <mn>2</mn> </mfrac> <mo>|</mo> <mo>|</mo> <mi>w</mi> <mo>|</mo> <msup> <mo>|</mo> <mn>2</mn> </msup> <mo>+</mo> <mfrac> <mi>&amp;gamma;</mi> <mn>2</mn> </mfrac> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>j</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>l</mi> </munderover> <msubsup> <mi>e</mi> <mi>j</mi> <mn>2</mn> </msubsup> <mo>-</mo> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>j</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>l</mi> </munderover> <msub> <mi>a</mi> <mi>j</mi> </msub> <mrow> <mo>(</mo> <mi>w</mi> <mi>&amp;phi;</mi> <mo>(</mo> <msub> <mi>X</mi> <mi>j</mi> </msub> <mo>)</mo> <mo>+</mo> <mi>b</mi> <mo>+</mo> <msub> <mi>e</mi> <mi>j</mi> </msub> <mo>-</mo> <msub> <mi>y</mi> <mi>j</mi> </msub> <mo>)</mo> </mrow> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>8</mn> <mo>)</mo> </mrow> </mrow>
其中，a＝(a1，a2，...，al)T，由式(7)的平衡条件可知：
即
<mrow> <mfenced open = "[" close = "]"> <mtable> <mtr> <mtd> <mi>I</mi> </mtd> <mtd> <mn>0</mn> </mtd> <mtd> <mn>0</mn> </mtd> <mtd> <mrow> <mo>-</mo> <mi>Z</mi> </mrow> </mtd> </mtr> <mtr> <mtd> <mn>0</mn> </mtd> <mtd> <mn>0</mn> </mtd> <mtd> <mn>0</mn> </mtd> <mtd> <mrow> <mo>-</mo> <mover> <mn>1</mn> <mo>&amp;OverBar;</mo> </mover> </mrow> </mtd> </mtr> <mtr> <mtd> <mn>0</mn> </mtd> <mtd> <mn>0</mn> </mtd> <mtd> <mrow> <mi>&amp;gamma;</mi> <mi>I</mi> </mrow> </mtd> <mtd> <mrow> <mo>-</mo> <mi>I</mi> </mrow> </mtd> </mtr> <mtr> <mtd> <mi>Z</mi> </mtd> <mtd> <mover> <mn>1</mn> <mo>&amp;OverBar;</mo> </mover> </mtd> <mtd> <mi>I</mi> </mtd> <mtd> <mn>0</mn> </mtd> </mtr> </mtable> </mfenced> <mfenced open = "[" close = "]"> <mtable> <mtr> <mtd> <mi>w</mi> </mtd> </mtr> <mtr> <mtd> <mi>b</mi> </mtd> </mtr> <mtr> <mtd> <mi>e</mi> </mtd> </mtr> <mtr> <mtd> <mi>a</mi> </mtd> </mtr> </mtable> </mfenced> <mfenced open = "[" close = "]"> <mtable> <mtr> <mtd> <mn>0</mn> </mtd> </mtr> <mtr> <mtd> <mn>0</mn> </mtd> </mtr> <mtr> <mtd> <mn>0</mn> </mtd> </mtr> <mtr> <mtd> <mi>Y</mi> </mtd> </mtr> </mtable> </mfenced> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>10</mn> <mo>)</mo> </mrow> </mrow>
其中，Y＝[Y1，Y2，...，Yl]T，e＝[e1，e2，...，el]T，a＝[a1，a2，...，al]T，由式(9)可知，消去w和ej之后，可得线性方程组：
<mrow> <mfenced open = "[" close = "]"> <mtable> <mtr> <mtd> <mn>0</mn> </mtd> <mtd> <msup> <mover> <mn>1</mn> <mo>&amp;OverBar;</mo> </mover> <mi>T</mi> </msup> </mtd> </mtr> <mtr> <mtd> <mover> <mn>1</mn> <mo>&amp;OverBar;</mo> </mover> </mtd> <mtd> <mrow> <msup> <mi>ZZ</mi> <mi>T</mi> </msup> <mo>+</mo> <msup> <mi>&amp;gamma;</mi> <mrow> <mo>-</mo> <mn>1</mn> </mrow> </msup> <mi>I</mi> </mrow> </mtd> </mtr> </mtable> </mfenced> <mfenced open = "[" close = "]"> <mtable> <mtr> <mtd> <mi>b</mi> </mtd> </mtr> <mtr> <mtd> <mi>a</mi> </mtd> </mtr> </mtable> </mfenced> <mo>=</mo> <mfenced open = "[" close = "]"> <mtable> <mtr> <mtd> <mn>0</mn> </mtd> </mtr> <mtr> <mtd> <mi>Y</mi> </mtd> </mtr> </mtable> </mfenced> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>11</mn> <mo>)</mo> </mrow> </mrow>
记，Ω＝ZZT，Ωij＝K(Xi，Xj)，K(·，·)为核函数，这里取径向基核称式(11)中的Ω+γ-1I为核相关矩阵，若记A≡Ω+γ-1I，则式(11)等价于：
<mrow> <mfenced open = "[" close = "]"> <mtable> <mtr> <mtd> <mn>0</mn> </mtd> <mtd> <msup> <mover> <mn>1</mn> <mo>&amp;OverBar;</mo> </mover> <mi>T</mi> </msup> </mtd> </mtr> <mtr> <mtd> <mover> <mn>1</mn> <mo>&amp;OverBar;</mo> </mover> </mtd> <mtd> <mi>A</mi> </mtd> </mtr> </mtable> </mfenced> <mfenced open = "[" close = "]"> <mtable> <mtr> <mtd> <mi>b</mi> </mtd> </mtr> <mtr> <mtd> <mi>a</mi> </mtd> </mtr> </mtable> </mfenced> <mo>=</mo> <mfenced open = "[" close = "]"> <mtable> <mtr> <mtd> <mn>0</mn> </mtd> </mtr> <mtr> <mtd> <mi>Y</mi> </mtd> </mtr> </mtable> </mfenced> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>12</mn> <mo>)</mo> </mrow> </mrow>
则由上式可以求得：
<mrow> <mi>b</mi> <mo>=</mo> <mfrac> <mrow> <msup> <mover> <mn>1</mn> <mo>&amp;OverBar;</mo> </mover> <mi>T</mi> </msup> <msup> <mi>A</mi> <mrow> <mo>-</mo> <mn>1</mn> </mrow> </msup> <mi>Y</mi> </mrow> <mrow> <msup> <mover> <mn>1</mn> <mo>&amp;OverBar;</mo> </mover> <mi>T</mi> </msup> <msup> <mi>A</mi> <mrow> <mo>-</mo> <mn>1</mn> </mrow> </msup> <mover> <mn>1</mn> <mo>&amp;OverBar;</mo> </mover> </mrow> </mfrac> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>13</mn> <mo>)</mo> </mrow> </mrow>
<mrow> <mi>a</mi> <mo>=</mo> <msup> <mi>A</mi> <mrow> <mo>-</mo> <mn>1</mn> </mrow> </msup> <mrow> <mo>(</mo> <mi>Y</mi> <mo>-</mo> <mi>b</mi> <mover> <mn>1</mn> <mo>&amp;OverBar;</mo> </mover> <mo>)</mo> </mrow> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>14</mn> <mo>)</mo> </mrow> </mrow>
由式(13)、(14)和可得回归函数：
即中心点预测模型；
(2)PS轮廓预测算法：
在环境t+1下，是通过和计算而来，具体过程如下：
<mrow> <msubsup> <mover> <mi>x</mi> <mo>~</mo> </mover> <mi>i</mi> <mrow> <mi>t</mi> <mo>+</mo> <mn>1</mn> </mrow> </msubsup> <mo>=</mo> <msubsup> <mover> <mi>x</mi> <mo>~</mo> </mover> <mi>i</mi> <mi>t</mi> </msubsup> <mo>+</mo> <msubsup> <mi>&amp;epsiv;</mi> <mi>i</mi> <mi>m</mi> </msubsup> </mrow>
<mrow> <msubsup> <mi>&amp;epsiv;</mi> <mi>i</mi> <mi>m</mi> </msubsup> <mo>~</mo> <mi>N</mi> <mrow> <mo>(</mo> <mn>0</mn> <mo>,</mo> <msubsup> <mi>&amp;sigma;</mi> <mi>i</mi> <mi>m</mi> </msubsup> <mo>)</mo> </mrow> </mrow>
<mrow> <msubsup> <mi>&amp;sigma;</mi> <mi>i</mi> <mi>m</mi> </msubsup> <mo>=</mo> <mfrac> <mn>1</mn> <mi>n</mi> </mfrac> <mi>D</mi> <msup> <mrow> <mo>(</mo> <msup> <mover> <mi>C</mi> <mo>~</mo> </mover> <mi>t</mi> </msup> <mo>,</mo> <msup> <mover> <mi>C</mi> <mo>~</mo> </mover> <mrow> <mi>t</mi> <mo>-</mo> <mn>1</mn> </mrow> </msup> <mo>)</mo> </mrow> <mn>2</mn> </msup> </mrow>
其中，i＝1，2，...，n，n为决策变量维数，D(A，B)表示相邻PS轮廓间的距离：
其中，|A|为种群A的个体数，||x-y||为x与y之间的欧式距离；
得到PS中心点及轮廓的预测模型，根据式(1)即可得到环境t+1下的预测种群Pt+1。
CN201710519724.0A 2017-06-24 2017-06-24 一种基于支持向量机预测策略的动态多目标进化算法 Pending CN107516141A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710519724.0A CN107516141A (zh) 2017-06-24 2017-06-24 一种基于支持向量机预测策略的动态多目标进化算法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710519724.0A CN107516141A (zh) 2017-06-24 2017-06-24 一种基于支持向量机预测策略的动态多目标进化算法

Publications (1)

Publication Number Publication Date
CN107516141A true CN107516141A (zh) 2017-12-26

Family

ID=60722082

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710519724.0A Pending CN107516141A (zh) 2017-06-24 2017-06-24 一种基于支持向量机预测策略的动态多目标进化算法

Country Status (1)

Country Link
CN (1) CN107516141A (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109615421A (zh) * 2018-11-28 2019-04-12 安徽大学 一种基于多目标进化算法的个性化商品推荐方法
CN109872007A (zh) * 2019-03-12 2019-06-11 中国地质大学（北京） 基于支持向量机代理模型的油藏注采参数多目标优化方法
CN110309547A (zh) * 2019-06-04 2019-10-08 西南交通大学 一种基于多环境膜系统的大熊猫种群预测方法
CN111523218A (zh) * 2020-04-16 2020-08-11 燕山大学 一种基于动态多目标进化的多目标参数优化方法
CN112308229A (zh) * 2020-11-26 2021-02-02 西安邮电大学 基于自组织映射的动态多目标演化优化方法
CN113656284A (zh) * 2021-07-26 2021-11-16 深圳技术大学 软件缺陷预测方法、装置、电子设备及存储介质
CN115470704A (zh) * 2022-09-16 2022-12-13 烟台大学 一种动态多目标优化方法、装置、设备和计算机可读介质
CN117634302A (zh) * 2023-12-05 2024-03-01 北京大数据先进技术研究院 一种动态服务组合选择方法、装置和产品

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109615421B (zh) * 2018-11-28 2022-12-06 安徽大学 一种基于多目标进化算法的个性化商品推荐方法
CN109615421A (zh) * 2018-11-28 2019-04-12 安徽大学 一种基于多目标进化算法的个性化商品推荐方法
CN109872007A (zh) * 2019-03-12 2019-06-11 中国地质大学（北京） 基于支持向量机代理模型的油藏注采参数多目标优化方法
CN110309547A (zh) * 2019-06-04 2019-10-08 西南交通大学 一种基于多环境膜系统的大熊猫种群预测方法
CN111523218A (zh) * 2020-04-16 2020-08-11 燕山大学 一种基于动态多目标进化的多目标参数优化方法
CN111523218B (zh) * 2020-04-16 2023-08-11 燕山大学 一种基于动态多目标进化的多目标参数优化方法
CN112308229A (zh) * 2020-11-26 2021-02-02 西安邮电大学 基于自组织映射的动态多目标演化优化方法
CN112308229B (zh) * 2020-11-26 2023-11-24 西安邮电大学 基于自组织映射的动态多目标演化优化方法
CN113656284A (zh) * 2021-07-26 2021-11-16 深圳技术大学 软件缺陷预测方法、装置、电子设备及存储介质
CN115470704A (zh) * 2022-09-16 2022-12-13 烟台大学 一种动态多目标优化方法、装置、设备和计算机可读介质
CN115470704B (zh) * 2022-09-16 2023-07-21 烟台大学 一种动态多目标优化方法、装置、设备和计算机可读介质
CN117634302A (zh) * 2023-12-05 2024-03-01 北京大数据先进技术研究院 一种动态服务组合选择方法、装置和产品
CN117634302B (zh) * 2023-12-05 2024-05-14 北京大数据先进技术研究院 一种动态服务组合选择方法、装置和产品

Similar Documents

Publication Publication Date Title
CN107516141A (zh) 一种基于支持向量机预测策略的动态多目标进化算法
Liu et al. Electricity load forecasting by an improved forecast engine for building level consumers
Guo et al. Margin & diversity based ordering ensemble pruning
Wang et al. A hybrid wind speed forecasting model based on phase space reconstruction theory and Markov model: A case study of wind farms in northwest China
CN108090510A (zh) 一种基于间隔优化的集成学习方法及装置
CN102819663B (zh) 一种基于优化的支持向量回归参数的船舶航迹预测方法
CN103488869A (zh) 一种最小二乘支持向量机的风力发电短期负荷预测方法
Xiong et al. JITL based MWGPR soft sensor for multi-mode process with dual-updating strategy
CN104217258B (zh) 一种电力负荷条件密度预测方法
CN106448151A (zh) 一种短时交通流预测方法
CN103544544A (zh) 一种能源消耗预测方法及装置
CN104992244A (zh) 一种基于sarima和rbf神经网络集成组合模型的机场货运量预测分析方法
CN106529818A (zh) 基于模糊小波神经网络的水质评价预测方法
Han et al. Granular-computing based hybrid collaborative fuzzy clustering for long-term prediction of multiple gas holders levels
CN104035037A (zh) 一种新能源汽车动力电池soh在线估算的方法
CN105425583A (zh) 基于协同训练lwpls的青霉素生产过程的控制方法
Yang A novel short-term multi-input–multi-output prediction model of wind speed and wind power with LSSVM based on improved ant colony algorithm optimization
CN107220724A (zh) 客流量预测方法及装置
CN106228232A (zh) 一种基于模糊推理种群预测策略的动态多目标教学优化方法
CN104217296A (zh) 一种上市公司绩效综合评价方法
Hong et al. Short-term traffic flow forecasting: Multi-metric KNN with related station discovery
Rasaizadi et al. Short‐Term Prediction of Traffic State for a Rural Road Applying Ensemble Learning Process
Safari et al. Multi-term electrical load forecasting of smart cities using a new hybrid highly accurate neural network-based predictive model
Lv et al. An improved test selection optimization model based on fault ambiguity group isolation and chaotic discrete PSO
Li et al. A hybrid approach for short-term traffic flow forecasting based on similarity identification

Legal Events

Date Code Title Description
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20171226

RJ01 Rejection of invention patent application after publication