CN109345023A - 一种混合模拟退火和粒子群的最优化算法 - Google Patents
一种混合模拟退火和粒子群的最优化算法 Download PDFInfo
- Publication number
- CN109345023A CN109345023A CN201811221492.1A CN201811221492A CN109345023A CN 109345023 A CN109345023 A CN 109345023A CN 201811221492 A CN201811221492 A CN 201811221492A CN 109345023 A CN109345023 A CN 109345023A
- Authority
- CN
- China
- Prior art keywords
- particle
- algorithm
- population
- annealing
- digital simulation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/004—Artificial life, i.e. computing arrangements simulating life
- G06N3/006—Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Strategic Management (AREA)
- Human Resources & Organizations (AREA)
- Economics (AREA)
- Computational Linguistics (AREA)
- Development Economics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Game Theory and Decision Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Entrepreneurship & Innovation (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种混合模拟退火和粒子群的最优化算法,涉及最优化算法技术领域,包括步骤1、利用模拟退火算法进行M次迭代寻优,实施M次模拟退火过程,得到M个解;步骤2、针对从所述步骤1中获得的所述M个解,实施精英粒子挑选策略,从所述M个解中选出N个精英粒子,将N个所述精英粒子的位置作为下一阶段算法的初始解;步骤3、以N个所述精英粒子作为初始粒子,通过粒子群算法进行精确搜索;步骤4、判断所述步骤3中的所述粒子群算法是否收敛,是否符合迭代终止条件,若符合所述迭代终止条件,迭代结束,并输出全局最优粒子的相关参数。该算法分阶段的对优化问题进行求解,兼顾全局搜索和局部精确搜索两方面的问题,使优化过程更加快速,结果更加准确。
Description
技术领域
本发明涉及最优化算法技术领域,尤其涉及一种混合模拟退火和粒子群的最优化算法。
背景技术
近几年来,现实最优化问题越来越向着高维度、强非线性、非凸的方向的发展,面对越来越复杂的优化问题,传统计算方法的局限性愈加凸显,催生了智能算法特别是启发式算法的快速发展。启发式算法常用来解决难以获得准确数值解的优化问题,其在处理复杂优化问题时虽然不一定能够保证获得精确解,但常常能在合理时间内得到可接受精度的解。启发式算法的关键在于综合求解时间和解的质量,常见的启发式算法有模拟退火算法(SA)、遗传算法(GA)、蚁群算法(ACA)等。众多的启发式算法常常难以兼顾搜索效率和搜索质量,容易过早或过晚收敛,从而陷入局部最优点或影响求解速度。为了克服以上缺点,各领域的研究人员相继提出了各种改良措施。例如,专利CN201410166021.0公开了一种基于优胜劣汰、步步选择的粒子群优化方法,专利CN201310269649.9公开了一种自适应的直接搜索模拟退火算法。这些技术方案对粒子群算法和模拟退火算法进行了一定程度的改进,但没有考虑算法在不同阶段的不同需求,改进程度有限。
因此,本领域的技术人员致力于开发一种混合模拟退火和粒子群的最优化算法,以兼顾全局搜索和局部精确搜索两方面的问题,实现在较短时间内针对线性和非线性最优化问题进行求解,使优化过程更加快速,结果更加准确。
发明内容
有鉴于现有技术的上述缺陷,本发明所要解决的技术问题是如何兼顾全局搜索和局部精确搜索,如何克服在求解非线性优化过程中的早熟和陷入局部最优点。
为实现上述目的,本发明提供了一种混合模拟退火和粒子群的最优化算法,包括以下步骤:
步骤1、利用模拟退火算法进行M次迭代寻优,实施M次模拟退火过程,得到M个解;
步骤2、针对从所述步骤1中获得的所述M个解,实施精英粒子挑选策略,从所述M个解中选出N个精英粒子,将N个所述精英粒子的位置作为下一阶段算法的初始解;
步骤3、以N个所述精英粒子作为初始粒子,通过粒子群算法进行精确搜索;
步骤4、判断所述步骤3中的所述粒子群算法是否收敛,是否符合迭代终止条件,若符合所述迭代终止条件,迭代结束,并输出全局最优粒子的相关参数。
进一步地,所述步骤1中所采用的所述模拟退火算法的粒子更新方式为:在每次循环过程中在原来的解的基础上产生扰动Δx,计算得到新点x'=x+Δx,计算所述新点的函数值并同上一步进行比较,计算差值Δf=f(x'-x),如果所述差值小于零则接受所述新点作为新解,并作为下次循环的初始点,如果所述差值大于零,则计算概率P(Δf);生成一个0~1的随机数,若所述随机数小于所述概率P(Δf),则接受新解,否则放弃。
进一步地,所述概率P(Δf)根据Boltzmann–Gibbs来确定,具体计算公式为:
其中,T为每次循环的温度,K是Boltzmann常数,f是目标函数。
进一步地,所述步骤1中的所述模拟退火算法的整个模拟退火过程就是一个温度下降过程,在所述温度下降过程中,温度从最高温Tmax不断下降达到最低温度Tmin,所述模拟退火算法中采用指数冷却,所述温度T的下降过程按照下式确定:
T(t')=aT(t),0<a<1
其中,a是一个指数冷却常数。
进一步地,所述步骤1中的所述模拟退火算法的状态转移函数按下式确定:
进一步地,所述步骤2中实施精英粒子挑选策略,从所述M个解中选出N个精英粒子的具体方法为,针对所述M个解计算每个解的适应度,并从中选择所述适应度较好的N个粒子作为所述精英粒子。
进一步地,所述步骤3中的所述粒子群算法为基于最优粒子扰动策略的粒子群算法。
进一步地,所述N个精英粒子的速度和解的更新方式如下公式所示:
Gbest′k=N(Gbestk,σ)
xi,k+1=vi,k+1+xi,k
vk+1=w×vk+c1×rand×(Pbestk-xk)+c2×rand×(Gbest′k-xk)
其中,Gbest′k为扰动后的最优粒子,由正态分布N(Gbestk,σ)产生,其中σ是对循环变量t的非增函数,c1和c2为惯性权重。
进一步地,所述惯性权重c1和c2均为可变惯性权重,所述惯性权重c1和c2均从0.9到0.4递减,以进一步平衡搜索效率和搜索质量。
进一步地,所述步骤4中的所述迭代终止条件为达到最大迭代次数或者满足收敛精度这两种情况中的任一种。
与现有技术方案相比,本发明的有益技术效果在于:
(1)本发明将全局搜索能力强的模拟退火算法同精确搜索能力强的量子粒子群进行结合,通过混合两种启发式算法,分阶段的对优化问题进行求解。算法的前期阶段,通过模拟退火算法对可行域进行全局搜索,通过增加种群的多样性,避免遗传算法等传统算法容易陷入局部最优解的误区。
(2)在算法的后期阶段,通过粒子群算法进行精确搜索,为了加快收敛并且提高收敛精度,最优粒子加入高斯扰动策略,提高算法局部搜索能力。
(3)算法结合了模拟退火算法优秀的全局搜索能力和粒子群算法的精确搜索,新算法具有结构简单、收敛速度快、鲁棒性强的特点,结果同遗传算法、传统爬山算法相比较具有更强的适应性。
以下将结合附图对本发明的构思、具体结构及产生的技术效果作进一步说明,以充分地了解本发明的目的、特征和效果。
附图说明
图1是本发明的一个较佳实施例的方法流程图;
图2是本发明用于某非线性模型的求解过程图;
图3是本发明所提混合算法同模拟退火算法下目标函数的下降过程对比图。
具体实施方式
以下参考说明书附图介绍本发明的多个优选实施例,使其技术内容更加清楚和便于理解。本发明可以通过许多不同形式的实施例来得以体现,本发明的保护范围并非仅限于文中提到的实施例。
图1是本发明的一个较佳实施例的方法流程图。对本发明进行试验操作,用于某非线性模型的求解,本发明所提算法通过反复调整模型的输入参数X,使模型输出结果Y同测量参数相匹配,具体过程如图2所示。
本发明所提混合算法同模拟退火算法和牛顿拉普逊方法进行对比,对比结果表如下:
以上详细描述了本发明的较佳具体实施例。应当理解,本领域的普通技术无需创造性劳动就可以根据本发明的构思作出诸多修改和变化。因此,凡本技术领域中技术人员依本发明的构思在现有技术的基础上通过逻辑分析、推理或者有限的实验可以得到的技术方案,皆应在由权利要求书所确定的保护范围内。
Claims (10)
1.一种混合模拟退火和粒子群的最优化算法,其特征在于,包括以下步骤:
步骤1、利用模拟退火算法进行M次迭代寻优,实施M次模拟退火过程,得到M个解;
步骤2、针对从所述步骤1中获得的所述M个解,实施精英粒子挑选策略,从所述M个解中选出N个精英粒子,将N个所述精英粒子的位置作为下一阶段算法的初始解;
步骤3、以N个所述精英粒子作为初始粒子,通过粒子群算法进行精确搜索;
步骤4、判断所述步骤3中的所述粒子群算法是否收敛,是否符合迭代终止条件,若符合所述迭代终止条件,迭代结束,并输出全局最优粒子的相关参数。
2.如权利要求1所述的混合模拟退火和粒子群的最优化算法,其特征在于,所述步骤1中所采用的所述模拟退火算法的粒子更新方式为:在每次循环过程中在原来的解的基础上产生扰动Δx,计算得到新点x'=x+Δx,计算所述新点的函数值并同上一步进行比较,计算差值Δf=f(x'-x),如果所述差值小于零则接受所述新点作为新解,并作为下次循环的初始点,如果所述差值大于零,则计算概率P(Δf);生成一个0~1的随机数,若所述随机数小于所述概率P(Δf),则接受新解,否则放弃。
3.如权利要求2所述的混合模拟退火和粒子群的最优化算法,其特征在于,所述概率P(Δf)根据Boltzmann–Gibbs来确定,具体计算公式为:
其中,T为每次循环的温度,K是Boltzmann常数,f是目标函数。
4.如权利要求2所述的混合模拟退火和粒子群的最优化算法,其特征在于,所述步骤1中的所述模拟退火算法的整个模拟退火过程就是一个温度下降过程,在所述温度下降过程中,温度从最高温Tmax不断下降达到最低温度Tmin,所述模拟退火算法中采用指数冷却,所述温度T的下降过程按照下式确定:
T(t')=aT(t),0<a<1
其中,a是一个指数冷却常数。
5.如权利要求2所述的混合模拟退火和粒子群的最优化算法,其特征在于,所述步骤1中的所述模拟退火算法的状态转移函数按下式确定:
6.如权利要求1所述的混合模拟退火和粒子群的最优化算法,其特征在于,所述步骤2中实施精英粒子挑选策略,从所述M个解中选出N个精英粒子的具体方法为,针对所述M个解计算每个解的适应度,并从中选择所述适应度较好的N个粒子作为所述精英粒子。
7.如权利要求1所述的混合模拟退火和粒子群的最优化算法,其特征在于,所述步骤3中的所述粒子群算法为基于最优粒子扰动策略的粒子群算法。
8.如权利要求7所述的混合模拟退火和粒子群的最优化算法,其特征在于,所述N个精英粒子的速度和解的更新方式如下公式所示:
Gbestk′=N(Gbestk,σ)
xi,k+1=vi,k+1+xi,k
vk+1=w×vk+c1×rand×(Pbestk-xk)+c2×rand×(Gbestk′-xk)
其中,Gbestk′为扰动后的最优粒子,由正态分布N(Gbestk,σ)产生,其中σ是对循环变量t的非增函数,c1和c2为惯性权重。
9.如权利要求8所述的混合模拟退火和粒子群的最优化算法,其特征在于,所述惯性权重c1和c2均为可变惯性权重,所述惯性权重c1和c2均从0.9到0.4递减,以进一步平衡搜索效率和搜索质量。
10.如权利要求1所述的混合模拟退火和粒子群的最优化算法,其特征在于,所述步骤4中的所述迭代终止条件为达到最大迭代次数或者满足收敛精度这两种情况中的任一种。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811221492.1A CN109345023A (zh) | 2018-10-19 | 2018-10-19 | 一种混合模拟退火和粒子群的最优化算法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811221492.1A CN109345023A (zh) | 2018-10-19 | 2018-10-19 | 一种混合模拟退火和粒子群的最优化算法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109345023A true CN109345023A (zh) | 2019-02-15 |
Family
ID=65308870
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811221492.1A Pending CN109345023A (zh) | 2018-10-19 | 2018-10-19 | 一种混合模拟退火和粒子群的最优化算法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109345023A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110086350A (zh) * | 2019-05-30 | 2019-08-02 | 南京邮电大学 | 一种基于模拟退火-爬山混合算法的隔离型双向dc-dc效率优化方法 |
CN112327364A (zh) * | 2020-11-02 | 2021-02-05 | 中国石油大学(华东) | 一种改进型一步法三维crs叠加方法 |
CN112947332A (zh) * | 2021-02-04 | 2021-06-11 | 天津国科医工科技发展有限公司 | 一种基于模拟退火的三重四极质谱仪参数优化方法 |
CN113253989A (zh) * | 2021-07-05 | 2021-08-13 | 南京信息工程大学 | 基于嵌入式系统的软硬件协同一体化集成架构方法 |
-
2018
- 2018-10-19 CN CN201811221492.1A patent/CN109345023A/zh active Pending
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110086350A (zh) * | 2019-05-30 | 2019-08-02 | 南京邮电大学 | 一种基于模拟退火-爬山混合算法的隔离型双向dc-dc效率优化方法 |
CN112327364A (zh) * | 2020-11-02 | 2021-02-05 | 中国石油大学(华东) | 一种改进型一步法三维crs叠加方法 |
CN112947332A (zh) * | 2021-02-04 | 2021-06-11 | 天津国科医工科技发展有限公司 | 一种基于模拟退火的三重四极质谱仪参数优化方法 |
CN112947332B (zh) * | 2021-02-04 | 2022-12-16 | 威高国科质谱医疗科技(天津)有限公司 | 一种基于模拟退火的三重四极质谱仪参数优化方法 |
CN113253989A (zh) * | 2021-07-05 | 2021-08-13 | 南京信息工程大学 | 基于嵌入式系统的软硬件协同一体化集成架构方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109345023A (zh) | 一种混合模拟退火和粒子群的最优化算法 | |
CN109214708B (zh) | 基于交叉熵理论优化支持向量机的电力系统风险评估方法 | |
CN108875788A (zh) | 一种基于改进的粒子群算法的svm分类器参数优化方法 | |
CN111950697A (zh) | 一种基于门控循环单元网络的水泥成品比表面积预测方法 | |
Zhang et al. | Prediction algorithm for network security situation based on bp neural network optimized by sa-soa | |
CN113111577B (zh) | 基于多目标布谷鸟搜索的水泥磨运行指标决策方法 | |
CN105914752B (zh) | 基于快速搜索与密度峰值聚类的主导节点选择方法 | |
Nourianfar et al. | A new technique for investigating wind power prediction error in the multi-objective environmental economics problem | |
Liu et al. | A parallel approximate evaluation-based model for multi-objective operation optimization of reservoir group | |
CN116757078A (zh) | 一种基于作用力的煤粉流速测量方法及系统 | |
CN114137829B (zh) | 基于almbo优化算法的质子交换膜燃料电池子空间辨识方法 | |
Zhaosheng | The optimization design of PID controller parameters based on particle swarm optimization | |
Pang et al. | DV-hop localization algorithm based on RSSI hop number correction and improved artificial immune algorithm optimization | |
Ouyang et al. | A novel multi-objective electromagnetism-like mechanism algorithm with applications in reservoir flood control operation | |
Zhang et al. | A combustion control strategy of hot blast stove based on kernel fuzzy c-means (FCM) | |
Kang et al. | A modified multi-objective particle swarm optimisation with entropy adaptive strategy and Levy mutation in the internet of things environment | |
Ziane et al. | Economic/emission dispatch problem with valve-point effect | |
Dingxue et al. | An adaptive particle swarm optimization algorithm and simulation | |
Li et al. | Fault Detection in Liquid-Propellant Rocket Engines Based on Improved PSO-BP Neural Network. | |
Xiao et al. | Ranking-based elitist differential evolution for many-objective optimization | |
Yang et al. | Power Consumption Portrait of Users Based on Improved ISODATA Clustering Algorithm | |
Miao et al. | A Transformer District Line Loss Calculation Method Based on Data Mining and Machine Learning | |
Li et al. | Federated Learning Empowered Short-Term Load Forecasting Based on Bagging Learning with Self-Attention Mechanism | |
Feng et al. | Multi-Objective Heuristic Information Optimization Algorithm for Path Coverage-Oriented Test Data Generation | |
CN113435628B (zh) | 基于线性判别分析和ialo-elm的中长期径流预测方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20211125 Address after: 200030 No. 1954, Huashan Road, Shanghai, Xuhui District Applicant after: SHANGHAI JIAO TONG University Applicant after: State pipe network group West Pipeline Co., Ltd Address before: 200240 No. 800, Dongchuan Road, Shanghai, Minhang District Applicant before: SHANGHAI JIAO TONG University |
|
TA01 | Transfer of patent application right |