CN113283159A - 基于全局和局部代理辅助的粒子群算法的优化方法及应用 - Google Patents

基于全局和局部代理辅助的粒子群算法的优化方法及应用 Download PDF

Info

Publication number
CN113283159A
CN113283159A CN202110462862.6A CN202110462862A CN113283159A CN 113283159 A CN113283159 A CN 113283159A CN 202110462862 A CN202110462862 A CN 202110462862A CN 113283159 A CN113283159 A CN 113283159A
Authority
CN
China
Prior art keywords
model
individual
global
particle swarm
population
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110462862.6A
Other languages
English (en)
Inventor
胡晓敏
苏文伟
李敏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong University of Technology
Original Assignee
Guangdong University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong University of Technology filed Critical Guangdong University of Technology
Priority to CN202110462862.6A priority Critical patent/CN113283159A/zh
Publication of CN113283159A publication Critical patent/CN113283159A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G06F30/20—Design optimisation, verification or simulation
    • G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2111/00—Details relating to CAD techniques
    • G06F2111/06—Multi-objective optimisation, e.g. Pareto optimisation using simulated annealing [SA], ant colony algorithms or genetic algorithms [GA]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
    • G06F2119/02—Reliability analysis or reliability optimisation; Failure analysis, e.g. worst case scenario performance, failure mode and effects analysis [FMEA]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Computer Hardware Design (AREA)
  • Geometry (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

针对现有的优化算法计算开销大的问题，本发明提供一种基于全局和局部代理辅助的粒子群算法的优化方法及应用，包括：对整个种群进行初始化，得到初始化种群；使用目标函数对所述初始化种群中每个个体进行真实评估，并将所述初始化种群和所述初始化种群中每个个体的适应度值直接保存到数据库DB中；使用全局搜索与局部搜索交替进行的方式，不断通过更新迭代从而把最优个体保存下来；迭代结束后，将现存的最优个体来作为最优组合。本发明所述的方法能够通过全局搜索与局部搜索相结合，有利于加快算法的收敛速度，将搜索与开发达到平衡。

Description

基于全局和局部代理辅助的粒子群算法的优化方法及应用
技术领域
本发明涉及工程技术和进化计算，特别涉及一种基于全局和局部代理辅助的粒子群优化算法的优化方法及应用。
背景技术
随着现代工业和科技的发展，电磁(electromagnetic,EM)设备在航天卫星、交通运输和医疗保健等领域中发挥着重要的作用，EM设备的设计直接影响到其设备的性能，因此，对EM设备进行优化设计具有很大的现实意义与必要性。此外，EM设备设计优化问题一直以来都是计算电磁学的研究热点，如何设计出一种有效的方法来优化EM设备的效率是值得深思的问题。
目前EM设备的优化方法有两种：第一种是通过基于数值计算的EM模拟(例如有限元分析)来设计出高性能的EM；第二种是通过进化算法对EM进行优化设计，由于进化算法能适应不同环境下的问题以及在大多数情况下都能得到令人满意的有效解，其已广泛应用于EM设备的优化设计中。然而，为了获得EM设备的最佳性能估计，这些优化方法均需要花费大量的模拟仿真，对于设计复杂的EM设备，应用是不可能的，因此，在合理的优化时间来优化出EM设备的最佳设计是一大挑战。
由于EM设备的设计直接影响到其性能，EM设备的优化设计显得十分重要。在现实生活中，随着EM设备的设计规范与性能要求日益严格，EM设备的设计优化也需要大量的仿真模拟才能获得最佳设计，例如一个典型的计算电磁模拟可能需要30分钟，这意味着该优化需要花费大量的计算开销。
一种能够加快算法收敛速度，将搜索与开发达到平衡的优化算法亟待开发。
发明内容
针对现有的优化算法计算开销大的问题，本发明提供一种基于全局和局部代理辅助的粒子群算法的优化方法及应用，能够有效解决上述问题。
为了解决上述技术问题，本发明采用的技术手段是：
一种基于全局和局部代理辅助的粒子群算法的优化方法，包括：
对整个种群进行初始化，得到初始化种群；
使用目标函数对所述初始化种群中每个个体进行真实评估，并将所述初始化种群和所述初始化种群中每个个体的适应度值直接保存到数据库DB中；
使用全局搜索与局部搜索交替进行的方式，不断通过更新迭代从而把最优个体保存下来；
迭代结束后，将现存的最优个体来作为最优组合。
所述“对整个种群进行初始化”，包括：
根据设计空间的范围使用Latin hypercube采样方法对整个种群进行初始化的步骤。
所述“全局搜索”方式，包括：
通过集成模型对所述新种群中的新样本进行预测，获得每个所述新样本的预测值；
选择预测值最小的个体进行真实适应度评估，并将所述预测值最小的个体以及所述预测值最小的个体对应的适应度值保存到所述数据库DB中；
判断所述预测值最小的个体是否比目前的最佳个体更优：
若，更优，则替换掉所述目前的最佳个体，直到达到停止条件；
否则切换到所述局部搜索。
所述“集成模型”，包括：
使用所述数据库DB中的全部样本来分别构建：GP模型、多项式回归模型以及RBF模型；
通过加权求和方法来组合所述GP模型、所述多项式回归模型以及所述RBF模型，构成所述集成模型。
所述集成模型，包括：
权重计算公式如下所示：
Figure BDA0003034066920000031
其中εj为第j个代理模型的预测误差度量，wj是第j个代理模型的权重值；代理模型的预测误差度量值为均方根误差值。
每个代理模型的所述均方根误差值通过下式获得：
Figure BDA0003034066920000032
其中，均方根误差值用符号ε来表示；则第j个代理模型的均方根误差值值为εj；y(xi)为xi的真实适应度值，
Figure BDA0003034066920000033
为第j个代理模型对xi的预测值；M为代理模型的训练样本个数。
所述“获得每个所述新样本的预测值”，包括：
所述预测值通过下式获得：
Figure BDA0003034066920000034
Figure BDA0003034066920000035
其中，
Figure BDA0003034066920000036
是所述集成模型的最终预测值，
Figure BDA0003034066920000037
是第j个代理模型对新样本x*的预测值，wj是第j个代理模型的权重，K为代理模型的个数。
所述“局部搜索”方式，包括：
使用粒子群优化算法来对整个种群进行进化，得到新种群；
从所述数据库DB中选择M个最优的样本作为训练样本集；
使用所述训练样本集来构建GP模型；
使用GP模型来预测出新种群个体的LCB值；
使用粒子群优化算法来对具有最小LCB预测值的个体进行真实适应度评估，并将所述具有最小LCB预测值的个体与所述具有最小LCB预测值的个体对应的适应度值保存到数据库DB中；
判断该个体是否比目前的最佳个体更优，若更优，则替换掉最佳个体，直到达到停止条件，否则切换到全局搜索。
所述“使用GP模型来预测出新种群个体的LCB值”，包括：
预测分布
Figure BDA0003034066920000041
对于f(x)的LCB值定义为：
Figure BDA0003034066920000042
其中ω为常数；s2(x)预测的不确定性；x为新种群中的个体；N为正态分布。
一种如上所述的基于全局和局部代理辅助的粒子群算法的优化方法在EM设备进行优化设计方向上的应用。
本发明的有益效果至少包括：
(1)本发明采用具有自适应惯性权重策略的粒子群优化算法作为优化器。由于标准的粒子群优化算法在高维优化问题上存在容易陷入局部最优解的缺点，本发明为了让算法的全局搜索能力和局部搜索能力能达到平衡，因此在标准的粒子群优化算法中引入一种自适应惯性权重策略，将粒子群看做一个整体，从而调整惯性权重。
(2)在本发明的全局和局部代理辅助的粒子群优化算法中，对于EM设备设计的整个搜索空间，采用全局搜索的方法，皆在快速定位有希望的区域。在全局搜索中，通过加权求和方法来组合单个代理模型从而形成一个强大的集成模型，这使得在全局搜索中针对不同情景下的EM优化设计问题，通过更合理的方式为各代理模型分配合适的权重进行组合，最终作出决策。
(3)在本发明的全局和局部代理辅助的粒子群优化算法中，对于有希望区域进行局部搜索，皆在开发出比当前最佳值更优的解决方案。在局部搜索中，通过从数据库DB中选取一定数量的最佳样本作为训练集来训练单个代理模型，进一步使用基于该代理模型的模型管理策略来选择合适的个体进行真实适应度评估，皆在局部区域加快算法的收敛速度，找到更佳的解决方案。
(4)采用一种模型管理策略用于对集成模型进行精准管理。在全局搜索中，先使用代理模型对新种群进行预测并筛选出适应度预测值最佳的个体进行真实适应度评估；而在局部搜索中，通过一定数量的最佳样本来训练代理模型，并使用基于GP模型的LCB准则来筛选出具有最小LCB预测值的个体，从而对其进行真实评估。
本发明所述的方法能够通过全局搜索与局部搜索相结合，有利于加快算法的收敛速度，将搜索与开发达到平衡。
附图说明
图1为本发明所述方法的流程图。
具体实施方式
下面结合附图对本发明进行进一步的说明。
本发明的核心思想是：本发明所述的方法将对EM设备的优化设计问题进行全局搜索和局部搜索：在全局搜索中，先使用优化器对种群进行进化，接着通过使用数据库DB中的全部样本对集成模型进行训练，然后将集成模型用于预测新种群的适应度值并筛选出适应度预测值最佳的个体进行实际函数评估并将其及对应的真实适应度值加入到数据库DB中；在局部搜索中，先通过从数据库DB中选定一些当前最佳的解决方案用于构建局部模型，并使用基于GP模型的最优置信下限(Lower Confidence bound,LCB)准则来选取合适个体进行实际函数评估并将其及对应的真实适应度值加入到数据库DB中。
值得注意的是，如果某个搜索无法找到比当前全局优化解更优的解决方案，全局搜索和局部搜索将交替进行。通过全局搜索与局部搜索相结合，有利于加快算法的收敛速度，有利于将搜索与开发达到平衡。
具体的，如图1，本发明所述的基于全局和局部代理辅助的粒子群算法的优化方法，包括以下步骤：
S1、根据设计空间的范围使用Latin hypercube采样方法对整个种群进行初始化，并使用昂贵的目标函数对种群中每个个体进行真实评估；最后将初始化种群和它们的适应度值直接保存到数据库DB中；
S2、若未达到算法停止条件，则进行全局搜索：
S201.使用粒子群优化算法来对整个种群进行进化，得到新的种群；
S202.使用数据库DB中的全部样本来分别构建GP模型、多项式回归模型和RBF模型，并通过加权求和方法来组合三个模型，从而构成集成模型；
权重计算公式如下所示：
Figure BDA0003034066920000061
其中εj为第j个代理模型的预测误差度量，wj是第j个代理模型的权重值。在本文中，用均方根误差值(RMSE)来作为代理模型的预测误差度量值：
每个代理模型的RMSE可以由以下公式来计算：
Figure BDA0003034066920000062
其中，RMSE用符号ε来表示，则第j个代理模型的RMSE值，y(xi)为xi的真实适应度值，
Figure BDA0003034066920000063
为第j个代理模型对xi的预测值，M为代理模型的训练样本个数。
因此，当集成模型对新样本x*进行预测时，最终的预测值将会由以下公式计算得出：
Figure BDA0003034066920000064
Figure BDA0003034066920000065
其中，
Figure BDA0003034066920000066
是集成模型的最终预测值，
Figure BDA0003034066920000067
是第j个代理模型对新样本x*的预测值，wj是第j个代理模型的权重，K为代理模型的个数。
S203.使用集成模型对整个新种群的候选解进行适应度预测；
S204.选择预测值最小的个体进行真实适应度评估，并将它与其对应的适应度值保存到数据库DB中；
S205.判断该个体是否比目前的最佳个体更优，若更优，则替换掉最佳个体，继续执行步骤1,直到达到停止条件，否则切换到局部搜索；
S3、若未达到算法停止条件，则进行局部搜索：
S301.使用粒子群优化算法来对整个种群进行进化，得到新的种群；
S302.从数据库DB中选择M个最优的样本作为训练样本集A；
S303.使用训练样本集A来构建GP模型；
S304.使用GP模型来预测出新种群个体的LCB值；给出预测分布
Figure BDA0003034066920000071
对于f(x)的LCB值可以定义为：
Figure BDA0003034066920000072
其中ω为常数。
S305.使用粒子群优化算法来对具有最小LCB预测值的个体进行真实适应度评估，并将它与其对应的适应度值保存到数据库DB中；
S306.判断该个体是否比目前的最佳个体更优，若更优，则替换掉最佳个体，继续执行(1),直到达到停止条件，否则切换到全局搜索；
S4、当迭代结束后，将现存的最优个体来作为EM设备的最优变量设计组合。
所述步骤S2和步骤S3中，通过具有自适应惯性权重的粒子群优化算法来作为种群优化器，有利于平衡算法的全局搜索能力和局部搜索能力。
所述步骤S2和步骤S3中，在全局搜索中选取集成模型预测的适应度最佳的个体进行真实适应度评估，从而提高集成模型的精度；在局部搜索中通过基于代理模型的模型管理策略来选择合适的个体进行实际函数评估，进一步加快算法的收敛速度。通过结合全局搜索和局部搜索，从而让算法达到搜索和开发互相平衡。
具体实施方式：
Figure BDA0003034066920000073
Figure BDA0003034066920000081
需要说明的是：
1.本文所述的代理模型的选取可以使用不同的机器学习模型来代理，例如人工神经网络和随机森林等等；
2.可以选取其他的智能优化算法作为优化器，例如差分进化算法和遗传算法等等；
3.可以选取其他集成模型组合策略来组合单个代理模型，例如通过stacking的方法来训练出一个人工神经网络，从而对模型进行组合；
4.可以选取其他模型管理策略来提高模型的精度，例如基于委员会查询(QBC)的模型管理策略。
以上，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易变化或替换，都属于本发明的保护范围之内。因此本发明的保护范围所述以权利要求的保护范围为准。

Claims (10)

1.一种基于全局和局部代理辅助的粒子群算法的优化方法，其特征在于，包括：
对整个种群进行初始化，得到初始化种群；
使用目标函数对所述初始化种群中每个个体进行真实评估，并将所述初始化种群和所述初始化种群中每个个体的适应度值直接保存到数据库DB中；
使用全局搜索与局部搜索交替进行的方式，不断通过更新迭代从而把最优个体保存下来；
迭代结束后，将现存的最优个体来作为最优组合。
2.根据权利要求1所述的基于全局和局部代理辅助的粒子群算法的优化方法，其特征在于，所述“对整个种群进行初始化”，包括：
根据设计空间的范围使用Latin hypercube采样方法对整个种群进行初始化的步骤。
3.根据权利要求1所述的基于全局和局部代理辅助的粒子群算法的优化方法，其特征在于，所述“全局搜索”方式，包括：
通过集成模型对所述初始化种群中的新样本进行预测，获得每个所述新样本的预测值；
选择预测值最小的个体进行真实适应度评估，并将所述预测值最小的个体以及所述预测值最小的个体对应的适应度值保存到所述数据库DB中；
判断所述预测值最小的个体是否比目前的最佳个体更优：
若，更优，则替换掉所述目前的最佳个体，直到达到停止条件；
否则切换到所述局部搜索。
4.根据权利要求3所述的基于全局和局部代理辅助的粒子群算法的优化方法，其特征在于，所述“集成模型”，包括：
使用所述数据库DB中的全部样本来分别构建：GP模型、多项式回归模型以及RBF模型；
通过加权求和方法来组合所述GP模型、所述多项式回归模型以及所述RBF模型，构成所述集成模型。
5.根据权利要求3或4所述的基于全局和局部代理辅助的粒子群算法的优化方法，其特征在于：
所述集成模型，包括：
权重计算公式如下所示：
Figure FDA0003034066910000021
其中εj为第j个代理模型的预测误差度量，wj是第j个代理模型的权重值。
6.根据权利要求5所述的基于全局和局部代理辅助的粒子群算法的优化方法，其特征在于：
每个代理模型的所述均方根误差值通过下式获得：
Figure FDA0003034066910000022
其中，均方根误差值用符号ε来表示；则第j个代理模型的均方根误差值值为εj；y(xi)为xi的真实适应度值，
Figure FDA0003034066910000023
为第j个代理模型对xi的预测值；M为代理模型的训练样本个数。
7.根据权利要求3所述的基于全局和局部代理辅助的粒子群算法的优化方法，其特征在于，所述“获得每个所述新样本的预测值”，包括：
所述预测值通过下式获得：
Figure FDA0003034066910000024
Figure FDA0003034066910000031
其中，
Figure FDA0003034066910000032
是所述集成模型的最终预测值，
Figure FDA0003034066910000033
是第j个代理模型对新样本x*的预测值，wj是第j个代理模型的权重，K为代理模型的个数。
8.根据权利要求1所述的基于全局和局部代理辅助的粒子群算法的优化方法，其特征在于，所述“局部搜索”方式，包括：
使用粒子群优化算法来对整个种群进行进化，得到新种群；
从所述数据库DB中选择M个最优的样本作为训练样本集；
使用所述训练样本集来构建GP模型；
使用GP模型来预测出新种群个体的LCB值；
使用粒子群优化算法来对具有最小LCB预测值的个体进行真实适应度评估，并将所述具有最小LCB预测值的个体与所述具有最小LCB预测值的个体对应的适应度值保存到数据库DB中；
判断该个体是否比目前的最佳个体更优，若更优，则替换掉最佳个体，直到达到停止条件，否则切换到全局搜索。
9.根据权利要求8所述的基于全局和局部代理辅助的粒子群算法的优化方法，其特征在于，所述“使用GP模型来预测出新种群个体的LCB值”，包括：
预测分布
Figure FDA0003034066910000034
对于f(x)的LCB值定义为：
Figure FDA0003034066910000035
其中ω为常数；s2(x)预测的不确定性；x为新种群中的个体；N为正态分布。
10.一种如权利要求1～9所述的基于全局和局部代理辅助的粒子群算法的优化方法在EM设备进行优化设计方向上的应用。
CN202110462862.6A 2021-04-22 2021-04-22 基于全局和局部代理辅助的粒子群算法的优化方法及应用 Pending CN113283159A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110462862.6A CN113283159A (zh) 2021-04-22 2021-04-22 基于全局和局部代理辅助的粒子群算法的优化方法及应用

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110462862.6A CN113283159A (zh) 2021-04-22 2021-04-22 基于全局和局部代理辅助的粒子群算法的优化方法及应用

Publications (1)

Publication Number Publication Date
CN113283159A true CN113283159A (zh) 2021-08-20

Family

ID=77277548

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110462862.6A Pending CN113283159A (zh) 2021-04-22 2021-04-22 基于全局和局部代理辅助的粒子群算法的优化方法及应用

Country Status (1)

Country Link
CN (1) CN113283159A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113723790A (zh) * 2021-08-23 2021-11-30 中国地质大学（武汉） 基于代理模型的供水系统调度策略优化方法和存储介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113723790A (zh) * 2021-08-23 2021-11-30 中国地质大学（武汉） 基于代理模型的供水系统调度策略优化方法和存储介质
CN113723790B (zh) * 2021-08-23 2024-06-07 中国地质大学（武汉） 基于代理模型的供水系统调度策略优化方法和存储介质

Similar Documents

Publication Publication Date Title
CN111262858B (zh) 基于sa_soa_bp神经网络的网络安全态势预测方法
Leng et al. Design for self-organizing fuzzy neural networks based on genetic algorithms
CN116402002B (zh) 一种用于芯片布局问题的多目标分层强化学习方法
CN113722980B (zh) 海洋浪高预测方法、系统、计算机设备、存储介质、终端
Chen et al. The optimal design and application of LSTM neural network based on the hybrid coding PSO algorithm
Zhao et al. Adaptive swarm intelligent offloading based on digital twin-assisted prediction in VEC
Toha et al. ANFIS modelling of a twin rotor system using particle swarm optimisation and RLS
Kaveh et al. Feasibility of PSO-ANFIS-PSO and GA-ANFIS-GA models in prediction of peak ground acceleration
CN116522747A (zh) 一种两阶段优化的挤压铸造工艺参数优化设计方法
Chen et al. Ship track prediction based on DLGWO‐SVR
Duan et al. Dynamic emergency vehicle path planning and traffic evacuation based on salp swarm algorithm
Shen et al. An AI‐based virtual simulation experimental teaching system in space engineering education
CN113283159A (zh) 基于全局和局部代理辅助的粒子群算法的优化方法及应用
Sefati et al. Meet User’s Service Requirements in Smart Cities Using Recurrent Neural Networks and Optimization Algorithm
Das et al. Evolving fuzzy reasoning approach using a novel nature-inspired optimization tool
CN117494567B (zh) 面向混合整数昂贵优化问题的代理模型辅助差分进化方法
Mansour et al. Allocating data to multicomputer nodes by physical optimization algorithms for loosely synchronous computations
CN117973594A (zh) 一种基于qpso-lstm算法的高速铁路负荷预测方法
CN112528556A (zh) 一种基于集成模型辅助社会学习粒子群算法的微机电系统设计优化方法
Khosla et al. A comparison of computational efforts between particle swarm optimization and genetic algorithm for identification of fuzzy models
CN114386309B (zh) 一种云计算环境下代理优化的问题规模统一化方法
CN116011071A (zh) 基于主动学习的空中造楼机结构可靠性分析方法及系统
Lu et al. Laplacian deep echo state network optimized by genetic algorithm
Paramanik et al. Multiple constrained reliability-redundancy optimization under triangular intuitionistic fuzziness using a genetic algorithm
Du et al. GIS‐Based Niche Hybrid Bat Algorithm for Solving Optimal Spatial Search

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20210820