CN114861557B - 一种动态使用神经网络的多目标优化方法及系统 - Google Patents
一种动态使用神经网络的多目标优化方法及系统 Download PDFInfo
- Publication number
- CN114861557B CN114861557B CN202210782872.2A CN202210782872A CN114861557B CN 114861557 B CN114861557 B CN 114861557B CN 202210782872 A CN202210782872 A CN 202210782872A CN 114861557 B CN114861557 B CN 114861557B
- Authority
- CN
- China
- Prior art keywords
- individuals
- cavity
- neural network
- radius
- generation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 75
- 238000000034 method Methods 0.000 title claims abstract description 73
- 238000005457 optimization Methods 0.000 title claims abstract description 52
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 101
- 230000006870 function Effects 0.000 claims abstract description 51
- 230000002068 genetic effect Effects 0.000 claims abstract description 41
- 238000012549 training Methods 0.000 claims abstract description 24
- 238000003062 neural network model Methods 0.000 claims abstract description 9
- 238000004364 calculation method Methods 0.000 claims description 24
- 230000035772 mutation Effects 0.000 claims description 21
- 230000008569 process Effects 0.000 claims description 16
- 238000005070 sampling Methods 0.000 claims description 13
- 238000013461 design Methods 0.000 claims description 9
- 238000012545 processing Methods 0.000 claims description 8
- 238000006243 chemical reaction Methods 0.000 claims description 4
- 230000009466 transformation Effects 0.000 claims description 4
- 230000002040 relaxant effect Effects 0.000 claims description 3
- 238000004088 simulation Methods 0.000 abstract description 10
- 238000010586 diagram Methods 0.000 description 5
- 238000004590 computer program Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 241001415395 Spea Species 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000002860 competitive effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000005672 electromagnetic field Effects 0.000 description 1
- 239000003574 free electron Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000005469 synchrotron radiation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/086—Learning methods using evolutionary algorithms, e.g. genetic algorithms or genetic programming
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/12—Computing arrangements based on biological models using genetic models
- G06N3/126—Evolutionary algorithms, e.g. genetic algorithms or genetic programming
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2111/00—Details relating to CAD techniques
- G06F2111/06—Multi-objective optimisation, e.g. Pareto optimisation using simulated annealing [SA], ant colony algorithms or genetic algorithms [GA]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Software Systems (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Physiology (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Geometry (AREA)
- Computer Hardware Design (AREA)
- Genetics & Genomics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种动态使用神经网络的多目标优化方法及系统,涉及多目标优化算法技术领域,该方法包括获取遗传算法第一代个体的决策变量,并将获取的决策变量放入仿真器以获得对应的性能指标;对神经网络模型进行训练;将遗传算法第一代个体对应的性能指标转化为适应度函数,并基于快速非支配排序算法获得可行解集和不可行解集中的支配关系,然后使用可达性算法在可行解集与不可行解集的非支配前沿中挑选下一代的父代个体;获得当前代个体的决策变量,并将该决策变量放入仿真器以得到性能指标,通过可达性算法挑选下一代的可行的和不可行的父代个体,对下一代各算子产生的个体数量进行动态分配。本发明能够在物理仿真比较复杂而计算资源有限的情况下解决多目标优化问题。
Description
技术领域
本发明涉及多目标优化算法技术领域,具体涉及一种动态使用神经网络的多目标优化方法及系统。
背景技术
多目标优化方法中的遗传算法(如NSGA-II、MOEA/D、SPEA等)在许多工程优化问题中已表现出良好的性能,这些算法借鉴了自然界生物的进化方式,将生物进化的过程算法化,通过在每一代中使用选择、变异、交叉等算子,能够得到具有竞争力的个体,并且形成非支配前沿。在物理优化领域,许多问题需要复杂的仿真才能获得性能指标,这导致在有限的计算资源中遗传算法能够获得的个体规模十分有限。此时,若优化问题中的决策空间非常大并且存在局部最优的情况,则这些算法倾向于收敛到局部最优而非全局最优。
以加速器领域为例,多目标遗传算法在磁聚焦结构(lattice)设计、自由电子激光器等加速器设备的优化方面初步获得了良好的性能。高频腔设计是加速器领域的重要问题之一,其中分路阻抗,无载品质因子以及分路阻抗与无载品质因子的比值等多项指标需要同时关注。在这个问题中,腔的基模频率作为等式约束也需要考虑,它必须限制在给定目标频率附近的极小范围内。尽管多目标遗传算法已多次用于高频腔设计,并初步获得了性能具有竞争力的个体,但这些工作仍然依赖于人工优化流程中的专业知识来设置较小且适当的决策变量的范围。因此,人工优化流程作为工程中最流行的方法,目前依旧不能被现有的多目标优化方法取代。
神经网络已被尝试初步结合到各种多目标遗传算法中以扩大种群规模,同时加快收敛速度。现有主流方法的思路是将多目标遗传算法中用以获取个体性能的仿真器替换为神经网络,而这些方法的区别在于训练神经网络的次数和训练集的选取。以NBMOGA(一种典型的神经网络和多目标遗传结合的算法)举例进行说明,在执行标准 NSGA-II 几代之后,NBMOGA在每一代中首先使用被训练的神经网络来预测得到更多的个体,然后从这些个体中挑选出固定数量的个体进行仿真。NBMOGA尝试被用来同时优化同步辐射光源储存环的Touschek寿命和动力学孔径,在后一目标相同的情况下,Touschek寿命比标准NGSA-II提高约10%。结合神经网络的多目标遗传算法已被证实拥有更快的收敛速度,但是这些算法在神经网络开始训练后完全依赖于预测的结果,如果目标问题中存在较严格的约束条件,则有限时间内获得的较小规模的训练集极容易导致神经网络的预测精度无法满足此类约束的需要。
发明内容
针对现有技术中存在的缺陷,本发明的目的在于提供一种动态使用神经网络的多目标优化方法及系统,能够在物理仿真比较复杂而计算资源有限的情况下解决多目标优化问题。
为达到以上目的,本发明提供的一种动态使用神经网络的多目标优化方法,具体包括以下步骤:
基于拉丁超立方抽样的方法,获取遗传算法第一代个体的决策变量,并将获取的决策变量放入仿真器以获得对应的性能指标;
将获得了性能指标的个体作为最初训练集对神经网络模型进行训练,同时作为遗传算法的初始种群;
将遗传算法第一代个体对应的性能指标转化为适应度函数,并基于快速非支配排序算法获得可行解集和不可行解集中的支配关系,然后使用可达性算法在可行解集与不可行解集的非支配前沿中挑选下一代的父代个体;
将父代个体分别放入神经网络算子、交叉算子、变异算子三个算子中,以获得当前代个体的决策变量,并将该决策变量放入仿真器以得到性能指标;
通过适应度函数得到经过惩罚后所有仿真过的个体的适应度指标,并通过快速非支配排序算法获得可行解集和不可行解集中的支配关系,通过可达性算法挑选下一代的可行的和不可行的父代个体,对下一代各算子产生的个体数量进行动态分配。
在上述技术方案的基础上,适应度函数的适应度指标的计算方式为:
其中,表示决策向量,表示第个目标的适应度函数,其结果为适应度指标,表示含有个目标的适应度向量,表示优化目的为最小
化各个适应度指标的值,和为组成适应度函数的两个部分,表示目标函数,即
需要被优化的性能指标,表示个体总的约束违反程度,表示惩罚因子,、
和的值在每一代中都需要经过归一化。
在上述技术方案的基础上,每一代中所有个体在经过相同函数后得到的值形成一个集合,其中,对函数的值进行归一化的具体计算方式为:
在上述技术方案的基础上,所述惩罚因子的计算方式为:
在上述技术方案的基础上,
所述个体总的约束违反程度的计算方式为:
所述单个约束的违反程度的计算方式为:
在上述技术方案的基础上,所述将父代个体分别放入神经网络算子、交叉算子、变异算子三个算子中,其中,神经网络算子具体的处理步骤为:
循环执行五次以下过程:通过拉丁超立方抽样的方法、交叉、变异三种方法各产生预设个数的个体,使用神经网络对产生的个体的性能指标进行预测,获得所有个体的适应度函数,执行快速非支配排序算法获取非支配前沿作为父代;
对于第五代的非支配前沿,使用可达性算法获取放入仿真器的个体。
在上述技术方案的基础上,所述使用可达性算法挑选下一代的父代个体,具体步骤包括:
创建待选择个体集合和已选择个体集合,并将除边界个体外的所有待选择个体放入待选择集合中,将边界个体放入已选择集合中;
循环执行以下过程直至已选择个体集合中的个体数满足要求:计算每一个待选择个体与所有已选择个体间的可达性,基于计算结果,将最低可达性对应的待选择个体放至已选择个体集合中。
在上述技术方案的基础上,所述计算待选择个体集合中每一个待选择个体与所有已选择个体间的可达性,其中,可达性的计算方式为:
在上述技术方案的基础上,所述动态分配具体规则为:
其中,表示每一代中仿真的个体总数,其数值在迭代过程中是固定的,表示
当前代所有被仿真个体中选中为父代的个体数量;对于任意一个算子,表示该算子在当
前代送入仿真器的个体中被选为父代的数量,表示分配给该算子在下一代中产生的个体
数。
本发明提供的一种动态使用神经网络的多目标优化系统,包括:
获取模块,其用于基于拉丁超立方抽样的方法,获取遗传算法第一代个体的决策变量,并将获取的决策变量放入仿真器以获得对应的性能指标;
训练模块,其用于将获得了性能指标的个体作为最初训练集对神经网络模型进行训练,同时作为遗传算法的初始种群;
转换模块,其用于将遗传算法第一代个体对应的性能指标转化为适应度函数,并基于快速非支配排序算法获得可行解集和不可行解集中的支配关系,然后使用可达性算法在可行解集与不可行解集的非支配前沿中挑选下一代的父代个体;
执行模块,其用于将父代个体分别放入神经网络算子、交叉算子、变异算子三个算子中,以获得当前代个体的决策变量,并将该决策变量放入仿真器以得到性能指标;
计算模块,其用于通过适应度函数得到经过惩罚后所有仿真过的个体的适应度指标,并通过快速非支配排序算法获得可行解集和不可行解集中的支配关系,通过可达性算法挑选下一代的可行的和不可行的父代个体,对下一代各算子产生的个体数量进行动态分配。
与现有技术(包括NSGA-II、NBMOGA等等方法在内)相比,本发明的优点在于:将神经网络与能够同时优化多个目标的遗传算法NSGA-II进行新颖的动态结合,用以在物理仿真比较复杂而计算资源有限的情况下解决多目标优化问题,对于含有一些特殊要求(如目标之间有偏好、存在严格的约束条件等)的优化问题的解决具有指导作用。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍。显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例中一种动态使用神经网络的多目标优化方法的流程图;
图2为本发明多目标优化方法的具体实施流程图;
图3为本发明中可达性算法的结果图;
图4为本发明中的几何形状与几何参数示意图;
图5为本发明中的几何形状的极端情况展示与参数说明。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清晰、完整地描述。显然,所描述的实施例是本申请的一部分实施例,而不是全部的实施例。
参见图1所示,本发明实施例提供一种动态使用神经网络的多目标优化方法,对神经网络结合多目标遗传算法的方式进行了重新设计,能够适用于处理物理学领域需要复杂仿真的优化问题,并且在含有严格约束(如等式约束)、偏好等特殊要求的情况下更有优势。本发明实施例的多目标优化方法具体包括以下步骤:
S1:基于拉丁超立方抽样的方法,获取遗传算法第一代个体的决策变量,并将获取的决策变量放入仿真器以获得对应的性能指标;
S2:将获得了性能指标的个体作为最初训练集对神经网络模型进行训练,同时作为遗传算法的初始种群;
S3:将遗传算法第一代个体对应的性能指标转化为适应度函数,并基于快速非支配排序算法获得可行解集和不可行解集中的支配关系,然后使用可达性算法在可行解集与不可行解集的非支配前沿中挑选下一代的父代个体;
S4:将父代个体分别放入神经网络算子、交叉算子、变异算子三个算子中,以获得当前代个体的决策变量,并将该决策变量放入仿真器以得到性能指标;
S5:通过适应度函数得到经过惩罚后所有仿真过的个体的适应度指标,并通过快速非支配排序算法获得可行解集和不可行解集中的支配关系,通过可达性算法挑选下一代的可行的和不可行的父代个体,对下一代各算子产生的个体数量进行动态分配。
在实际的应该过程中,需循环执行步骤S4和S5,直到满足停止条件,在一种可能的实施方式中,为循环执行40次,当然,循环执行的次数可根据需要灵活调整。
本发明实施例中,适应度函数的适应度指标的计算方式为:
其中,表示决策向量,具体的,,表示决策空间,表示
第个目标的适应度函数,其结果为适应度指标,表示含有个目标的适应度向量,表示优化目的为最小化各个适应度指标的值,和为组成适应度函数的两个部分,表示目标函数,即需要被优化的性能指标,
表示个体总的约束违反程度,表示惩罚因子,、和的值在每一代中都需要
经过归一化。
本发明实施例中,每一代中所有个体在经过相同函数后得到的值形成一个集合,其中,对函数的值进行归一化的具体计算方式为:
本发明实施例中,惩罚因子的计算方式为:
本发明实施例中,个体总的约束违反程度的计算方式为:
本发明实施例中,单个约束的违反程度的计算方式为:
本发明实施例中,使用可达性算法挑选下一代的父代个体,具体步骤包括:
S301:创建待选择个体集合和已选择个体集合,并将除边界个体外的所有待选择个体放入待选择集合中,将边界个体放入已选择集合中;
S302:循环执行以下过程直至已选择个体集合中的个体数满足要求:计算每一个待选择个体与所有已选择个体间的可达性,基于计算结果,将最低可达性对应的待选择个体放至已选择个体集合中。
本发明实施例中,计算待选择个体集合中每一个待选择个体与所有已选择个体间的可达性,其中,可达性的计算方式为:
本发明实施例中,将父代个体分别放入神经网络算子、交叉算子、变异算子三个算子中,其中,神经网络算子具体的处理步骤为:
S401:循环执行五次以下过程:通过拉丁超立方抽样的方法、交叉、变异(需要说明的是,此处的交叉、变异与交叉算子、变异算子是相同的操作在不同地方的使用)三种方法各产生预设个数的个体,使用神经网络对产生的个体的性能指标进行预测,获得所有个体的适应度函数,执行快速非支配排序算法获取非支配前沿作为父代;本发明中,预设个数可以为5000。
S402:对于第五代的非支配前沿,使用可达性算法获取放入仿真器的个体。即对于第五代的非支配前沿,使用可达性算法选择一定数量的个体,作为即将放入仿真器的个体的一部分。需要说明的是,这里由于神经网络预测的结果不是完全准确的,因此不再将可行解与不可行解分开处理。
本发明实施例中,动态分配具体规则为:
其中,表示每一代中仿真的个体总数,其数值在迭代过程中是固定的,表示
当前代所有被仿真个体中选中为父代的个体数量;对于任意一个算子,表示该算子在当
前代送入仿真器的个体中被选为父代的数量,表示分配给该算子在下一代中产生(送入
仿真器)的个体数。
下面再次结合相应的附图对本发明的技术方案进行详细的说明。
参见图2所示,在仿真由拉丁超立方抽样产生的一定数量的个体作为神经网络的训练集和NSGA-II的初始种群之后,主循环开始执行。在主循环中,首先依次使用交叉算子(即图中的执行交叉操作)、变异算子(即图中的执行变异操作)、神经网络算子(即图中父代个体下方的左支路部分)产生放入仿真器的个体,然后将这一代所有仿真个体与之前仿真过的个体混合,并执行适应度函数获得适应度指标。在这之后,可行解的集合需要依次执行快速非支配排序算法和可达性算法,不可行解的集合需要依次执行快速非支配排序算法和可达性算法,即可得到下一代的可行与不可行的父代个体。
本发明提供的方法适用于任何多目标优化问题,并在物理仿真十分复杂,且含有偏好或较严格约束条件等复杂情况的多目标优化问题中具有较大的优势。
下面以两个目标的情况为例对可达性算法的具体操作进行阐述,如下:首先在两
个目标(目标F1和目标F2)上随机产生1000个非支配的个体。由于可达性算法的机制,在只
有两个目标的情况下被选择个体的数量等于时个体的分布更加均匀,因
此在此例中设为33。
(1)算法初始时设置被选择个体集合Q中只包含所有个体中的边界解,待选择个体集合P包含所有剩下的个体;
(2)当Q中个体的数量小于所需个数时,执行以下循环:对每一个待选择个体集合中的个体p,分别计算它们和已选择个体集合中所有个体的可达性:
如图3所示,展示了三种不同情况的结果,并进行对
比。在两个目标的偏好都为0时,被选择个体可以很好地均匀分布在非支配前沿上;在F1偏
好为20,F2没有偏好的情况下,被选择个体的分布向F1性能更好的方向进行偏移;当F2被赋
予更大的偏好时,分布转而开始向有利于F2的方向偏移。本过程可以使用Tensorflow(一个
端到端开源机器学习平台)的GPU版本进行并行计算,有利于降低算法实际复杂度,提高计
算速度。
以下以加速器领域的高频腔设计为例对本发明的流程进行一个具体的阐述,如下:
首先进行问题背景描述:我们同时考虑了谐振腔设计中的四个目标:基模分路阻
抗与无载品质因子的比值最大、基模分路阻抗最大、高阶模频率和
基模频率差最大、高阶模分路阻抗 最小;同时需要满足一个等式约束,即等于499.65 MHz。在本实施例中,仿真器为CST Studio Suite(一款专业的三维电磁场
仿真软件)。
(1)使用拉丁超立方抽样的方法产生一定数量的个体的决策变量;
(2)将这些个体的决策变量放入仿真器,并且得到他们的性能指标;
(3)将这些个体的决策变量作为神经网络的输入,性能指标作为输出,训练神经网络;这里以一个人工神经网络(ANN)为例,对于每一个性能指标分别建立一个独立的神经网络,每个网络含有两个隐藏层,两层中神经元个数分别为12个和8个,总的可训练参数为281个。同时,我们在最后一层使用线性激活函数,其余为“ELU”函数,每一次训练代数都为5000代,整个模型采用Tensorflow的Keras库进行搭建;
(4)根据性能指标计算个体相应的适应度指标,并经过快速非支配算法和可达性算法分别在可行解和不可行解中选择合适的作为父代;
(5)在迭代次数小于40代时,执行以下循环中的内容,否则退出循环,并返回最后一代的可行的非支配前沿。
循环内容为:依次使用神经网络算子、变异算子和交叉算子产生放入仿真器的个体;将这一代所有仿真个体与之前仿真过的个体混合,并执行适应度函数获得经过惩罚的适应度指标;对可行解集和不可行解集分别执行快速非支配排序算法和可达性算法,得到下一代的可行与不可行的父代个体,最后对下一代各个算子产生的个体数量进行动态分配。
其中,为了产生更多的可行个体,标准变异操作替换为调频操作作为一种满足约束并且产生可行个体的辅助方法,如下:
作为补充说明,为了在本实施例中达到更好的效果,每一代父代个体的数量通过以下方式选取:对于经过仿真的所有可行解集与不可行解集,分别赋予常数100和50,两个集合中被选择个体的数量分别为各自非支配前沿个体数的90%和各自常数中的较大值。
为了在更大的空间搜索可行解,需要避免几何参数之间的相互制约关系,因此需
要对所有参数进行非线性变换。13 个几何参数被替换为13 个 0 到 1 之间的相互独立的
变量,使得替换前后变量具有相同的自由度。由于独立性,这13个变量在拉丁超立方抽样中
可以随机生成而不受几何制约,因此以下用表示。具体操作如下:
以下参数在图4中表示几何参数,具体的:表示束管半径,表示腔体长度,表示腔体半径,表示腔体最窄处长度,表示左边腔半径3,表示左边腔
半径2,表示左边腔半径1,表示右边腔半径3,表示右边腔半径2,表
示右边腔半径1,表示左边腔凹陷程度,表示右边腔凹陷程度,表示
束管长度。图4中实线为腔体边界轮廓,点划线为构造线。
其他参数在图5中,作为图4在极端情况下的补充说明,用于解释此处的变换过程。
其中所有黑色参数为几何参数;灰色参数除了(束管与球体切角)外可以认为没有明确的
物理含义,只是方便公式表达;为腔体左侧束管与球体切角。图5中实线为腔体边界轮
廓,粗点划线为腔体在极端情况下边界的几何关系,细点划线为构造线。
本发明提供了一种将含有神经网络的部分看作算子的多目标遗传算法,该算子与交叉、变异两个算子具有相同的功能,但在内部对大量预测的个体进行了预筛选。同时,引入了一种逐代严格的处理有约束问题的惩罚操作,其主要思路是根据当前代数和约束条件的违反程度来得到适应度函数的结果。为了充分发挥各个算子在优化的不同时期的作用,来自各个算子的被仿真个体数量是根据上一代各算子的表现进行动态调整的。最后,引入了可达性算法来解决偏好问题。通过这些做法,本发明有三个优势:首先,相比于一般多目标遗传算法,本方法解决了复杂物理在有限的计算资源条件下导致的种群数量过小、容易早熟的问题。其次,相比于已有的结合了神经网络的多目标遗传算法,本方法能够在具有较严格约束条件的多目标优化问题中表现更好。最后,本方法中提出的用于处理偏好问题的可达性算法不需要额外的参考点,这些参考点在其他处理偏好的方法中需要手动引入,并且引导非支配前沿向这些点移动。
本发明通过将神经网络与能够同时优化多个目标的遗传算法NSGA-II进行联合,以解决在计算资源受限的情况下需要复杂仿真的物理领域的优化问题,对于含有较严格约束、带有偏好等特殊情况的优化问题的解决具有指导作用。由于有限的计算资源条件下复杂的物理仿真无法获得较大的训练集,因此神经网络的精度无法满足约束要求。针对这一现象,本发明提出一种结合神经网络与多目标优化问题的新方法,其创新点主要在四个方面:1)将神经网络作为遗传算法的算子,与交叉算子、变异算子处于同等地位;2)将逐代严格的惩罚操作作用于适应度函数,使得个体逐渐满足约束的条件,并在惩罚操作尚未十分严格时让神经网络在三个算子中处于主导地位,具体表现为让有限的送入仿真器的个体中的大多数来自于神经网络算子,而在惩罚逐渐严格后,用于满足受限条件的辅助手段会逐渐占据主导地位。需要说明的是,在含有物理意义的问题中,寻找合适的辅助满足受限条件的手段是相对容易的;3)动态调整三个算子分别送入仿真器的个体的数量,从而保证放入仿真器的个体的质量;4)提出可达性算法,用于进一步解决带有偏好的多目标优化问题,同时没有偏好的多目标优化问题也可以使用。
本发明实施例提供的一种动态使用神经网络的多目标优化系统,包括获取模块、训练模块、转换模块、执行模块和计算模块。
获取模块用于基于拉丁超立方抽样的方法,获取遗传算法第一代个体的决策变量,并将获取的决策变量放入仿真器以获得对应的性能指标;训练模块用于将获得了性能指标的个体作为最初训练集对神经网络模型进行训练,同时作为遗传算法的初始种群;转换模块用于将遗传算法第一代个体对应的性能指标转化为适应度函数,并基于快速非支配排序算法获得可行解集和不可行解集中的支配关系,然后使用可达性算法在可行解集与不可行解集的非支配前沿中挑选下一代的父代个体;执行模块用于将父代个体分别放入神经网络算子、交叉算子、变异算子三个算子中,以获得当前代个体的决策变量,并将该决策变量放入仿真器以得到性能指标;计算模块通过适应度函数得到经过惩罚后所有仿真过的个体的适应度指标,并通过快速非支配排序算法获得可行解集和不可行解集中的支配关系,通过可达性算法挑选下一代的可行的和不可行的父代个体,对下一代各算子产生的个体数量进行动态分配。
以上所述仅是本申请的具体实施方式,使本领域技术人员能够理解或实现本申请。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的这些实施例,而是要符合与本文所申请的原理和新颖特点相一致的最宽的范围。
本发明是参照根据本发明实施例的方法、设备(系统)和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
Claims (9)
1.一种动态使用神经网络的多目标优化方法,用以实现加速器领域的高频腔设计,其特征在于,具体包括以下步骤:
基于拉丁超立方抽样的方法,获取遗传算法第一代个体的决策变量,并将获取的决策变量放入仿真器以获得对应的性能指标;
将获得了性能指标的个体作为最初训练集对神经网络模型进行训练,同时作为遗传算法的初始种群,所述神经网络模型为人工神经网络ANN,且每一个性能指标分别建立一个独立的人工神经网络ANN,每个人工神经网络ANN均含有两个隐藏层;
将遗传算法第一代个体对应的性能指标转化为适应度函数,并基于快速非支配排序算法获得可行解集和不可行解集中的支配关系,然后使用可达性算法在可行解集与不可行解集的非支配前沿中挑选下一代的父代个体;
将父代个体分别放入神经网络算子、交叉算子、变异算子三个算子中,以获得当前代个体的决策变量,并将该决策变量放入仿真器以得到性能指标;
通过适应度函数得到经过惩罚后所有仿真过的个体的适应度指标,并通过快速非支配排序算法获得可行解集和不可行解集中的支配关系,通过可达性算法挑选下一代的可行的和不可行的父代个体,对下一代各算子产生的个体数量进行动态分配;
其中,所述将父代个体分别放入神经网络算子、交叉算子、变异算子三个算子中,其中,神经网络算子具体的处理步骤为:
循环执行五次以下过程:通过拉丁超立方抽样的方法、交叉、变异三种方法各产生预设个数的个体,使用神经网络对产生的个体的性能指标进行预测,获得所有个体的适应度函数,执行快速非支配排序算法获取非支配前沿作为父代;
对于第五代的非支配前沿,使用可达性算法获取放入仿真器的个体;
其中,在进行高频腔设计时,需满足:基模分路阻抗与无载品质因子的比值最大、基模分路阻抗最大、高阶模频率和基模频率差最大、高阶模分路阻抗最小;
其中,为了产生更多的可行个体,将调频操作作为一种满足约束并且产生可行个体的辅助方法,具体的:
其中,在进行高频腔设计时,为了避免几何参数之间的相互制约关系,因此对参数进行非线性变换,具体的:
6.如权利要求1所述的一种动态使用神经网络的多目标优化方法,其特征在于,所述使用可达性算法挑选下一代的父代个体,具体步骤包括:
创建待选择个体集合和已选择个体集合,并将除边界个体外的所有待选择个体放入待选择集合中,将边界个体放入已选择集合中;
循环执行以下过程直至已选择个体集合中的个体数满足要求:计算每一个待选择个体与所有已选择个体间的可达性,基于计算结果,将最低可达性对应的待选择个体放至已选择个体集合中。
9.一种动态使用神经网络的多目标优化系统,用以实现加速器领域的高频腔设计,其特征在于,包括:
获取模块,其用于基于拉丁超立方抽样的方法,获取遗传算法第一代个体的决策变量,并将获取的决策变量放入仿真器以获得对应的性能指标;
训练模块,其用于将获得了性能指标的个体作为最初训练集对神经网络模型进行训练,同时作为遗传算法的初始种群,所述神经网络模型为人工神经网络ANN,且每一个性能指标分别建立一个独立的人工神经网络ANN,每个人工神经网络ANN均含有两个隐藏层;
转换模块,其用于将遗传算法第一代个体对应的性能指标转化为适应度函数,并基于快速非支配排序算法获得可行解集和不可行解集中的支配关系,然后使用可达性算法在可行解集与不可行解集的非支配前沿中挑选下一代的父代个体;
执行模块,其用于将父代个体分别放入神经网络算子、交叉算子、变异算子三个算子中,以获得当前代个体的决策变量,并将该决策变量放入仿真器以得到性能指标;
计算模块,其用于通过适应度函数得到经过惩罚后所有仿真过的个体的适应度指标,并通过快速非支配排序算法获得可行解集和不可行解集中的支配关系,通过可达性算法挑选下一代的可行的和不可行的父代个体,对下一代各算子产生的个体数量进行动态分配;
其中,所述将父代个体分别放入神经网络算子、交叉算子、变异算子三个算子中,其中,神经网络算子具体的处理步骤为:
循环执行五次以下过程:通过拉丁超立方抽样的方法、交叉、变异三种方法各产生预设个数的个体,使用神经网络对产生的个体的性能指标进行预测,获得所有个体的适应度函数,执行快速非支配排序算法获取非支配前沿作为父代;
对于第五代的非支配前沿,使用可达性算法获取放入仿真器的个体;
其中,在进行高频腔设计时,需满足:基模分路阻抗与无载品质因子的比值最大、基模分路阻抗最大、高阶模频率和基模频率差最大、高阶模分路阻抗最小;
其中,为了产生更多的可行个体,将调频操作作为一种满足约束并且产生可行个体的辅助方法,具体的:
其中,在进行高频腔设计时,为了避免几何参数之间的相互制约关系,因此对参数进行非线性变换,具体的:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210782872.2A CN114861557B (zh) | 2022-07-05 | 2022-07-05 | 一种动态使用神经网络的多目标优化方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210782872.2A CN114861557B (zh) | 2022-07-05 | 2022-07-05 | 一种动态使用神经网络的多目标优化方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114861557A CN114861557A (zh) | 2022-08-05 |
CN114861557B true CN114861557B (zh) | 2022-10-25 |
Family
ID=82626052
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210782872.2A Active CN114861557B (zh) | 2022-07-05 | 2022-07-05 | 一种动态使用神经网络的多目标优化方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114861557B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116307335B (zh) * | 2023-05-22 | 2023-08-04 | 合力(天津)能源科技股份有限公司 | 一种感兴趣区域的巡检路径规划方法及系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109932903A (zh) * | 2019-02-25 | 2019-06-25 | 北京妙微科技有限公司 | 多父代优化网络和遗传算法的风机控制多目标优化方法 |
CN112949165A (zh) * | 2021-01-28 | 2021-06-11 | 哈尔滨工程大学 | 一种基于神经网络模型与nsga-ii遗传算法的射流泵多目标优化方法 |
CN113033093A (zh) * | 2021-03-24 | 2021-06-25 | 南京航空航天大学 | 一种基于仿真模型的系统设计参数多目标优化方法 |
-
2022
- 2022-07-05 CN CN202210782872.2A patent/CN114861557B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109932903A (zh) * | 2019-02-25 | 2019-06-25 | 北京妙微科技有限公司 | 多父代优化网络和遗传算法的风机控制多目标优化方法 |
CN112949165A (zh) * | 2021-01-28 | 2021-06-11 | 哈尔滨工程大学 | 一种基于神经网络模型与nsga-ii遗传算法的射流泵多目标优化方法 |
CN113033093A (zh) * | 2021-03-24 | 2021-06-25 | 南京航空航天大学 | 一种基于仿真模型的系统设计参数多目标优化方法 |
Non-Patent Citations (2)
Title |
---|
Optimisation ramework for Distinctive Vertical Axis Wind Turbine Blade Generation Using Hybrid Multi-Objective Genetic Algorithms and Deep Neural Networks;Joe Joseph等;《AIAA AVIATION 2020 FORUM》;20200608;全文 * |
既有建筑节能改造多目标优化与决策研究;陈鸿;《中国优秀硕士学位论文全文数据库工程科技Ⅱ辑》;20220515;C038-358 * |
Also Published As
Publication number | Publication date |
---|---|
CN114861557A (zh) | 2022-08-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Modiri-Delshad et al. | Multi-objective backtracking search algorithm for economic emission dispatch problem | |
Zamuda et al. | Differential evolution with self-adaptation and local search for constrained multiobjective optimization | |
CN111178487B (zh) | 电力优化调度方法、装置、计算机设备和存储介质 | |
CN106471507A (zh) | 辐射治疗规划系统和方法 | |
Khan et al. | Sampling CAD models via an extended teaching–learning-based optimization technique | |
Almeida et al. | A biased random-key genetic algorithm for the project scheduling problem with flexible resources | |
CN114861557B (zh) | 一种动态使用神经网络的多目标优化方法及系统 | |
KR20200094056A (ko) | 컨벌루션 신경망 파라미터 최적화 방법, 컨벌루션 신경망 연산방법 및 그 장치 | |
Aliniya et al. | CB-ICA: A crossover-based imperialist competitive algorithm for large-scale problems and engineering design optimization | |
CN110222816B (zh) | 深度学习模型的建立方法、图像处理方法及装置 | |
Lu et al. | Adaptive online data-driven closed-loop parameter control strategy for swarm intelligence algorithm | |
Tomczyk et al. | Robust indicator-based algorithm for interactive evolutionary multiple objective optimization | |
Wang et al. | Combining multi-objective genetic algorithm and neural network dynamically for the complex optimization problems in physics | |
CN107273976A (zh) | 一种神经网络的优化方法、装置、计算机及存储介质 | |
Zhang et al. | Probabilistic Pareto plan generation for semiautomated multicriteria radiation therapy treatment planning | |
Barba-González et al. | Artificial decision maker driven by PSO: An approach for testing reference point based interactive methods | |
Barone et al. | Inclusive semi-leptonic $ B_ {(s)} $ mesons decay at the physical $ b $ quark mass | |
KR101987475B1 (ko) | 하드웨어 구현에 적합한 신경망 파라미터 최적화 방법, 신경망 연산방법 및 그 장치 | |
Stefanou et al. | Solving the pulsar equation using physics-informed neural networks | |
Roy et al. | Trust-region based multi-objective optimization for low budget scenarios | |
Al-Faisal et al. | Adaptation of population size in sine cosine algorithm | |
CN114818369B (zh) | 一种连续式跨声速风洞部段设计方法及系统及装置及介质 | |
CN113220437B (zh) | 一种工作流多目标调度方法及装置 | |
Nowak et al. | Rather the Rule than the Exception: Non‐Convex Pareto Sets and their Navigation in Distillation Processes | |
CN113065686B (zh) | 排程数据优化处理方法及装置、设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |