CN107798379B - 改进量子粒子群优化算法的方法及基于改进算法的应用 - Google Patents

改进量子粒子群优化算法的方法及基于改进算法的应用 Download PDF

Info

Publication number
CN107798379B
CN107798379B CN201711183345.5A CN201711183345A CN107798379B CN 107798379 B CN107798379 B CN 107798379B CN 201711183345 A CN201711183345 A CN 201711183345A CN 107798379 B CN107798379 B CN 107798379B
Authority
CN
China
Prior art keywords
particle
population
neural network
particle swarm
updating
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201711183345.5A
Other languages
English (en)
Other versions
CN107798379A (zh
Inventor
于尧
郭磊
滕飞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Northeastern University China
Original Assignee
Northeastern University China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Northeastern University China filed Critical Northeastern University China
Priority to CN201711183345.5A priority Critical patent/CN107798379B/zh
Publication of CN107798379A publication Critical patent/CN107798379A/zh
Application granted granted Critical
Publication of CN107798379B publication Critical patent/CN107798379B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/004Artificial life, i.e. computing arrangements simulating life
    • G06N3/006Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q40/00Finance; Insurance; Tax strategies; Processing of corporate or income taxes

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Biophysics (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Business, Economics & Management (AREA)
  • Accounting & Taxation (AREA)
  • Development Economics (AREA)
  • Economics (AREA)
  • Finance (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • Technology Law (AREA)
  • General Business, Economics & Management (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了改进量子粒子群优化算法的方法及基于改进算法的应用。其中,该方法包括:寻找粒子群中的拐点,其中,拐点是在任一方向上所能进行搜索的极限位置,拐点至少为两个;计算拐点的适应度值;对拐点的适应度值与个体极值的适应度值进行比较,根据比较结果更新粒子的个体极值;更新种群的历史最优位置和中心粒子,其中,中心粒子为所有粒子的个体极值所形成的中心;通过种群的历史最优位置和中心粒子之间的差分结果更新种群的全局极值;根据个体极值和全局极值更新粒子的位置。本发明解决了处理复杂问题时容易产生过早收敛的问题,在算法迭代后期,粒子多样性迅速下降,收敛速度较慢的技术问题。

Description

改进量子粒子群优化算法的方法及基于改进算法的应用
技术领域
本发明涉及预测网络流量领域,具体而言,涉及一种改进量子粒子群优化算法的方法及基于改进算法的应用。
背景技术
目前,现有技术在金融领域中有利用金融时间序列预测的量子粒子群优化递归神经网络方法,具体是首先应用混沌和相空间重构理论,通过饱和关联维(G-P)方法计算混沌金融时间序列吸引子维度,确定神经网络网络RPNN的结构,然后通过量子粒子群优化QPSO算法对递归神经网络RPNN训练、最后确定网络的动态最优权值和阈值,使 RPNN神经网络仿真预测值与实际值达到最小误差精度,所以现有技术中没有在网络流量预测领域应用量子粒子群算法优化的神经网络进行预测的方法。
现有技术中的量子粒子群算法的算法如下:基本思想是通过群体中个体之间的协作和信息共享来达到寻优的目的。在寻优过程中,个体根据自己的个体最优位置(Pbest)和整个种群的全局最优位置(Gbest)来更新自己的位置,从而聚集收敛于全局最优值。粒子位置更新公式为:X(t+1)=p(t)±β|m(t)-X(t)|·ln(1/u),其中: p(t)=θ·Pbest(t)+(1-θ)Gbest(t);
Figure BDA0001479631750000011
pp(t)和pg(t) 分别代表粒子在第t次迭代时的个体最优位置和种群的全局最优位置;θ是在[0,1]上服从均匀分布的随机数;u是在[0,1]上服从均匀分布的随机数;β称为收缩-扩张系数,用来控制粒子的收敛速度,随着迭代的进行,β线性地从a变化到b,通常a=1,b=0.5; Gmax表示最大的迭代次数。粒子群优化算法适应度值F的计算过程是实际和理论输出间的误差绝对值之和。
Figure BDA0001479631750000012
其中,下标i代表第i个样本数据,n为样本数据总数,yi为理论输出,oi为实际输出,k是用于调整适应度值范围大小的系数。
上述量子粒子群算法虽然具有全局搜索能力,但应用在处理复杂问题时(比如,金融、网络流量等)容易产生过早收敛的情况,在算法迭代后期,还会有粒子多样性迅速下降,收敛速度较慢的问题。
针对上述的问题,目前尚未提出有效的解决方案。
发明内容
本发明实施例提供了一种改进量子粒子群优化算法的方法及基于改进算法的应用,以至少解决处理复杂问题时容易产生过早收敛的问题,在算法迭代后期,粒子多样性迅速下降,收敛速度较慢的技术问题。
根据本发明实施例的一个方面,提供了一种改进量子粒子群算法的方法,包括:寻找粒子群中的拐点,其中,所述拐点是在任一方向上所能进行搜索的极限位置,所述拐点至少为两个;计算所述拐点的适应度值;对所述拐点的适应度值与个体极值的适应度值进行比较,根据比较结果更新粒子的个体极值;更新种群的历史最优位置和中心粒子,其中,所述中心粒子为所有粒子的个体极值所形成的中心;通过种群的历史最优位置和中心粒子之间的差分结果更新种群的全局极值;根据所述个体极值和所述全局极值更新粒子的位置。
进一步地,通过所述种群的历史最优位置和所述中心粒子之间的差分结果更新种群的全局极值包括:通过所述种群的历史最优位置和所述中心粒子之间的差分结果进行局部搜索得到局部搜索结果;判断局部搜索结果与种群的历史最优位置的优先级;选择优先级高的值作为得到种群的全局极值。
进一步地,对所述拐点的适应度值与所述个体极值的适应度值进行比较,根据比较结果更新粒子的个体极值包括:比较所述拐点的适应度值与所述个体极值的适应度值的大小;根据比较结果为小的更新更新粒子的个体极值。
根据本发明实施例的另一方面,还提供了一种改进的量子粒子群算法的应用,包括:所述改进的量子粒子群算法应用于神经网络的优化。
根据本发明实施例的另一方面,还提供了一种基于改进的量子粒子群优化神经网络的流量预测方法,包括:获取数据,其中,所述数据是网络流量数据;利用离散小波变换将所述数据分解为低频流量数据和高频流量数据;分别使用所述低频流量数据和所述高频流量数据训练神经网络得到训练后的神经网络,其中,所述神经网络是利用改进的量子粒子群算法来计算权值和阈值的神经网络算法;通过训练后的神经网络来预测网络流量。
进一步地,分别使用所述低频流量数据和所述高频流量数据训练神经网络包括:从所述低频流量数据和所述高频流量数据中各自选取一部分数据分别作为第一训练集和第二训练集;从将所述低频流量数据和所述高频流量数据各自选取一部分数据分别作为第一验证集和第二验证集;利用训练集和验证集对神经网络的权值和阈值进行更新。
根据本发明实施例的另一方面,还提供了一种基于改进的量子粒子群优化神经网络的流量预测系统,包括:获取单元,用于获取数据,其中,所述数据是网络流量数据;处理单元,用于利用离散小波变换将所述数据分解为低频流量数据和高频流量数据;训练单元,用于分别使用所述低频流量数据和所述高频流量数据训练神经网络得到训练后的神经网络,其中,所述神经网络是利用改进的量子粒子群算法来计算权值和阈值的神经网络算法;预测单元,用于通过训练后的神经网络来预测网络流量。
根据本发明实施例的另一方面,还提供了一种存储介质,所述存储介质包括存储的程序,其中,所述程序执行上述任意一项所述的方法。
根据本发明实施例的另一方面,还提供了一种处理器,所述处理器用于运行程序,所述程序运行时执行上述任意一项所述的方法。
在本发明实施例中,采用判断粒子群是否陷入局部最优解;当判断结果为粒子群陷入局部最优解的情况下,则随机生成收缩扩张系数,其中,所述收缩扩张系数是通过粒子群的聚集度得到的,所述粒子群的聚集度是指粒子群的粒子之间的相似性和聚拢度,所述收缩扩张系数服从随机分布;根据所述收缩扩张系数更新粒子的位置;通过调整收缩-扩张系数,帮助粒子跳出局部最优,提高了粒子的全局搜索能力,并且在保证在不增加算法复杂度的同时,提高寻优能力的同时保持了种群的多样性,防止算法在快速收敛的同时出现早熟收敛,进而解决了处理复杂问题时容易产生过早收敛的问题,在算法迭代后期,粒子多样性迅速下降,收敛速度较慢的技术问题。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1是根据本发明实施例的一种改进量子粒子群算法的方法的流程图;
图2是根据本发明实施例的一种粒子飞行路线的示意图;
图3是根据本发明实施例的一种基于改进的量子粒子群优化神经网络的流量预测方法的流程图;
图4是根据本发明实施例的小波变换与神经网络松散结合的示意图;
图5是根据本发明实施例的归一化后的高频和低频数据的示意图;
图6是根据本发明实施例的训练及预测过程的流程图;
图7是根据本发明实施例的高频适应度值曲线;
图8是根据本发明实施例的低频适应度值曲线;
图9是根据本发明实施例的预测值与实际值的对比图;
图10是根据本发明实施例的流量预测的整体流程图;
图11是根据本发明实施例基于改进的量子粒子群优化神经网络的流量预测系统的示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
根据本发明实施例,提供了一种改进量子粒子群算法的方法实施例,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
本发明实施例提供了一种改进量子粒子群算法的方法,图1是根据本发明实施例的一种改进量子粒子群算法的方法的流程图,如图1所示,该方法包括:
步骤S102,寻找粒子群中的拐点,其中,拐点是在任一方向上所能进行搜索的极限位置,拐点至少为两个;
步骤S104,计算拐点的适应度值;
步骤S106,对拐点的适应度值与个体极值的适应度值进行比较,根据比较结果更新粒子的个体极值;
步骤S108,更新种群的历史最优位置和中心粒子,其中,中心粒子为所有粒子的个体极值所形成的中心;
步骤S1010,通过种群的历史最优位置和中心粒子之间的差分结果更新种群的全局极值;
步骤S1012,根据个体极值和全局极值更新粒子的位置。
上述步骤的中心粒子可以根据公式
Figure BDA0001479631750000051
来确定,其中,Pbest代表个体极值,Pcenter代表中心粒子。现有技术中没有引入中心粒子对全局极值进行更新的方式。
下面结合图2对上述步骤S102中寻找粒子群中的拐点进行说明,图2是根据本发明实施例的一种粒子飞行路线的示意图,如图2所示,图中A和B两点是粒子实现区域搜索最大范围的“拐点”,同时这两个拐点也是某一方向搜索的极限位置(最终位置):粒子可以先沿着
Figure BDA0001479631750000052
这个矢量方向,最终到达了p(t)(极限位置),即为A点;再沿着β|m(t)-X(t)|·ln(1/u)方向到更新后的位置。也可以先沿着β|m(t)-X(t)|·ln(1/u)这个矢量方向到达B点,再沿着
Figure BDA0001479631750000053
方向到达更新后的位置。这两个方向先沿着什么方向走再沿着什么方向走有个顺序,该顺序就是按照上述的矢量方式,所以最终会出现 A、B两个点,这里的最终位置并不是指粒子更新后的位置,而是沿着某一方向到达的极限位置。
上述步骤S102-步骤S106通过增加拐点,将拐点的适应度值与个体极值一起比较的方式替代现有技术中的个体极值的选取,使得粒子的搜索最优解的空间更广阔更加符合实际情况,从而选取出更加符合实际情况的个体极值,使得种群能够更快地收敛于最优解。上述实施例中步骤S108-步骤S106通过种群的历史最优位置和中心粒子这两个位置的差分结果来强化算法的局部搜索能力,而现有技术的全局极值计算时不存在中心粒子的概念,而本实施例通过优化进程动态调节差分结果的权重,以提高搜索精度,加快了寻优速度。
上述步骤步骤S1010通过种群的历史最优位置和中心粒子之间的差分结果更新种群的全局极值时,需要判断比较局部搜索的结果与种群的历史最优位置的优先级来确定种群的全局极值,在一个可选的实施方式中,即,通过种群的历史最优位置和中心粒子之间的差分结果进行局部搜索得到局部搜索结果;判断局部搜索的结果与种群的历史最优位置的优先级;选择优先级高的值作为得到种群的全局极值。可以根据公式
Figure BDA0001479631750000061
进行判断优先级,选择合适的值作为种群的全局极值。Gbest代表种群的历史最优位置,G′best代表局部搜索的结果;F函数代表适应度值计算函数。
在根据比较结果更新粒子的个体极值的情况下有比较的标准,在一个可选的实施方式中,即,比较拐点的适应度值与个体极值的适应度值的大小;根据比较结果为小的更新更新粒子的个体极值。
下面结合一个可选的实施方式对上述一种改进量子粒子群算法的方法总的过程进行说明:
如图2所示,将量子粒子群算法粒子位置更新式可以看作由p(t)和β|m(t)-X(t)|·ln(1/u)两项进行矢量合成,合成过程指引着粒子的飞行轨迹。粒子i从起始位置Xt飞行到新位置Xt+1,这一过程从矢量合成角度可以描述为:粒子先沿着平行于p(t)矢量的方向飞行到达位置A,紧接着改变非飞行方向,沿着平行于矢量 |m(t)-X(t)|的方向飞行β|m(t)-X(t)|·ln(1/u)距离到达终点位置Xt+1。同理,也可以是先经过B再到达终点的路线,
现有技术中计算粒子的新位置时,这一过程往往会被简单地认为是一种由Xt到Xt+1的直线运动.然而,在真实的鸟群觅食环境中,这种直线运动方式是很少出现的,鸟群(粒子群)喜欢的仍然是折线运动:Xt——→A(B)——→Xt+1。其优点在于:第一,就单个鸟儿(粒子)而言,折线运动经历的区域比直线方式复杂,其捕食范围能够被最大程度地覆盖在整个搜索空间内,体现在量子粒子群算法中,每个粒子能够在更为广阔的搜索空间内寻找最优解,这样粒子的个体极值就能够得到显著的改善。第二,从鸟群整体来说,每个粒子个体极值的改善将直接影响着种群全局极值的增强,这一影响使得种群能更快地收敛于最优解。
图2中A和B两点是粒子实现区域搜索最大范围的“拐点”,同时这两个拐点也是某一方向搜索的极限位置,根据下述公式更新粒子的个体极值:
F(Pbestt+1)=min(F(A),F(B),F(Pbestt))中的F()代表适应度函数, F(Pbestt+1)代表更新后的个体极值,F(Pbestt)代表粒子的个体极值,t代表第几次迭代,粒子位置会更新多少次。
Figure BDA0001479631750000071
其中,下标i代表第i个样本数据, n为样本数据总数,yi为理论输出,oi为实际输出,k是用于调整适应度值范围大小的系数。
对于全局极值的更新方式引入了中心粒子(Pcenter),中心粒子是由所有粒子个体极值形成的中心,伴随整个搜索过程,该粒子具有与其他普通粒子相同的所有性质。伴随着搜索的进行,全局极值和中心粒子越来越接近于最优解。种群历史最优位置邻域的局部搜索:粒子群在每代飞行更新位置后,更新种群历史最优位置Gbest和中心粒子Pcenter,并利用Gbest与Pcenter之间的差分结果指导Gbest进行局部搜索,增强 Gbest邻域内的搜索能力,具体如下:
G′best=Gbest+r·dt·(Gbest-Pcenter);
公式中,r为[-1,+1]之间均匀分布的随机数,用以控制局部搜索的方向,dt为第t代时的局域缩放因子。一般而言,在进化初期,Gbest距离函数最优解一般较远,这时较大的dt能使其以较大的半径进行局部搜索,加快收敛速度;而到进化末期, Gbest距离函数最优解一般较近,这时则希望通过较小的dt使其开采更高精度的解。线性递减策略,即dt随着种群迭代次数t的增加而线性递减,具体为:
dt+1=dt·(1-t/T);
对局部搜索的结果,采用贪心保留策略,即
Figure BDA0001479631750000072
上述实施方式通过增加A和B两个点,将A、B两点的适应度也一起与个体极值进行比较,比较的标准是适应度越小越好,从而扩大了粒子的搜索,使优化结果具有更好的适应度,提高了算法的求解精度,加快了算法的寻优速度。
上述实施例中的方式可以结合以下另一种改进量子粒子群算法的方法,该方法包括如下步骤:首先,通过粒子群的聚集度随机生成收缩扩张系数,其中,粒子群的聚集度是指粒子群的粒子之间的相似性和聚拢度,收缩扩张系数服从随机分布;然后,根据收缩扩张系数更新粒子的位置。
上述实施方式通过调整收缩-扩张系数解决了处理复杂问题时容易产生过早收敛的问题,在算法迭代后期,粒子多样性迅速下降,收敛速度较慢的技术问题,现有技术中的收缩-扩张系数是在最大迭代次数下线性的进行变化,而本实施例中的方案是随机的并且根据粒子群的相似性与聚拢度帮助粒子跳出局部最优,提高了粒子的全局搜索能力,并且在保证在不增加算法复杂度的同时,提高寻优能力。除此之外,上述实施方式还缓解量子粒子群算法的收敛速度与“早熟”问题之间的矛盾,进一步提高其优化性能,当算法出现“早熟”现象时会启动收缩-扩张系数的自适应调整,使该过程中部分粒子跳出局部最优,从而改善种群的多样性。
下面通过一个可选的实施方式对上述方法进行说明:
现有技术中的标准量子粒子群算法中的收缩-扩张系数β是随着迭代次数的增加而线性递减,而实际的搜索过程是非线性的,所以现有技术的β不能适应复杂的非线性寻优过程。因此本实施例对其进行实现动态的自适应调整,粒子群在迭代过程中越来越趋向于相似,聚拢于全局极值,为了表示群体之间的相似性与聚拢程度,定义粒子群的聚集度A(t)为:
A(t)=∑Sim/N
Figure BDA0001479631750000081
Figure BDA0001479631750000082
其中:其中:Sim是相似度系数;N是粒子群规模,即粒子总数;d(x,y)表示粒子与全局最优粒子的欧几里得距离。xi表示第一个点的第i维坐标yi表示第二个点的第i维坐标;将收缩—扩张系数β表示为粒子群的聚集度A(t)的函数,并使其服从随机分布,实现动态的自适应调整。
粒子群经常会陷入局部最优的情况,而随机产生的β能够使一些粒子跳出局部最优。β的不同取值有不同的效果,当β<1.7时,粒子群收敛,向粒子群的当前全局最优位置靠拢;当β>1.8时,粒子群发散,远离粒子群当前全局最优位置。由于未改进算法中β按线性变化,所以随着迭代的进行,粒子群会逐渐聚集收拢,搜索范围会逐渐减小,直至停滞。鉴于此,定义了聚集度A(t),0<A(t)≤1。粒子群聚拢时,A(t) →1,粒子群多样性降低,反之,A(t)→0,多样性增加。由于收缩—扩张系数β是QPSO 算法中唯一的控制参数,其值直接决定算法的收敛性。与现有技术的计算方式不同,本实施例将收缩—扩张系数β表示为粒子群的聚集度A(t)的函数,并使其服从随机分布而不是传统线性或非线性等确定性变化,实现动态的自适应调整。当粒子群陷入局部最优时,随机生成的β可使一些粒子跳出局部最优,继续搜索全局最优值,保持了粒子群的多样性,可有效减弱粒子群的聚拢趋势,能自适应调整粒子群的聚拢与发散,从而避免早熟收敛问题的发生。所以在A(t)→1的情况下,粒子群可能陷入局部最优,此时随机产生的β较大,使一些粒子向外发散,跳出局部最优,在更大的搜索空间中寻找最优解。
β的计算与现有技术中的不同,本实施例的方法可以是根据公式β=1+α×A(t),α∈(0,1);对β进行计算;当粒子群陷入局部最优时,随机生成的β可使一些粒子跳出局部最优,继续搜索全局最优值,从而保持了粒子群的多样性,有效减弱粒子群的聚拢趋势,自适应调整粒子群的聚拢与发散,避免早熟收敛问题的发生。
本发明实施例提供了另一种改进的量子粒子群算法的应用改进的量子粒子群算法应用于神经网络的优化。可以是将改进的量子粒子群算法应用于优化BP神经网络的权值和阈值,进而利用优化后的神经网络实现对无线信号群流量的预测。
本发明实施例提供了一种基于改进的量子粒子群优化神经网络的流量预测方法,图3是一种基于改进的量子粒子群优化神经网络的流量预测方法的流程图,如图3所示,该方法包括:
步骤S302,获取数据,其中,数据是网络流量数据;
步骤S304,利用离散小波变换将数据分解为低频流量数据和高频流量数据;
步骤S306,分别使用低频流量数据和高频流量数据训练神经网络得到训练后的神经网络,其中,神经网络是利用改进的量子粒子群算法来计算权值和阈值的神经网络算法;
步骤S308,通过训练后的神经网络来预测网络流量。
上述步骤通过利用改进的量子粒子群算法对神经网络BP算法由收敛速度慢、易陷入局部最优等不足之处进行改进,将改进的量子粒子群算法应用到BP神经网络训练过程中,改进的量子粒子群算法作为全局性的优化算法,具有简单易实现且有较快的收敛速度的优点,通过改进的量子粒子群算法与神经网络进行结合,对神经网络的训练过程进行优化。
上述步骤中将无线网络流量作为目标状态矢量,通过神经网络的非线性拟合能力可以将目标的状态方便的估计出来。
网络流量具有自相似性和分形特性,在大尺度上表现出自相似特性,在小尺度上则表现出多重分形特性;离散小波变换分析(简称小波变换)在保持对象的尺度不变形的同时对具有长程依赖性的流量起到了去相关的作用,所以如图4所示使用离散小波变换分析处理网络流量数据,将离散小波变换分析作为神经网络的前置数据处理手段,为神经网络提供输入的特征向量,当信号经小波变换后,再输入给常规神经网络继而完成分类、函数逼近等功能。如果把网络流量曲线看作是不同的信号分量的叠加,对各个分量分别进行预测,则需要最后将各个分量预测结果重新叠加,最后得到预测的结果。
通过上述步骤的小波多分辨率分析(小波分解)把网络流量数据分解为低频流量数据和高频流量数据,这样分解之后既保留了原始数据的自相似、自相关、混纯等特性,又让各个分量近似平稳,方便进行后续分析。然后用分解后的低频流量数据和高频流量数据来训练BP神经网络,最后用训练好的BP神经网络再来预测网络流量。由于利用了小波分解,使得神经网络输入数据的震荡范围变小,加快了神经网络的收敛速率;同时,各不同变化频率的信号序列分别进行训练学习,使得预测的精确度更高。
分别使用低频流量数据和高频流量数据训练神经网络是将数据作为训练集和验证集输入到优化的神经网络算法中,在一个可选的实施方式中,首先,从低频流量数据和高频流量数据中各自选取一部分数据分别作为第一训练集和第二训练集;其次,从将低频流量数据和高频流量数据各自选取一部分数据分别作为第一验证集和第二验证集;最后,利用训练集和验证集对神经网络的权值和阈值进行更新。
上述步骤中的改进量子粒子群算法是对神经网络结构中的权值和阈值进行优化的。每个粒子位置都是由所有的权值和阈值构成的,训练过程中每个粒子在每次迭代时计算适应度值,通过适应度值的优劣判断粒子位置的优劣,也就是权值和阈值的优劣,当算法迭代结束之后,全局极值也就是最优粒子被确定下来,这个粒子的位置就是优化后的权值和阈值。所以所训练过程伴随着优化的过程。验证集就是用优化后的神经网络进行预测并进行对比,验证过程中就没有改进量子粒子群算法参与了。
下面结合一个可选的实施方式对上述网络流量预测方法进行说明:
实施方式的平台为:Windows 7系统,MATLAB R2016a,由于无线网络流量数据序列值存在变化范围较大的问题,可以先对其进行归一化预处理,以此来避免直接对网络流量数据序列集操作时所引起的预测精度的起伏和波动,归一化的结果如图5所示。
在获取有效数据集后,将数据集经过稳定小波变换之后得到多个分量之后,将各分量按一定比例分为训练集、验证集。单独预测某一分量,利用该分量的训练集和验证集,对神经网络的结构和权值阈值进行优化。将优化过后的神经网络作为预测核,把训练集、验证集再次输入到神经网络中,便可得到预测集。
下面结合图6以当同时使用两种改进的量子粒子群算法优化神经网络时的训练及预测过程为例对上述预测进行说明:
a)确定神经网络的拓扑结构。
b)初始化粒子群:粒子群规模、粒子的维数、最大迭代次数及目标误差值。
c)评价每个粒子的适应度。
d)对粒子i更新位置,并记录此次位置更新中A、B两拐点的位置,将其适应度值分别与A、B拐点位置的适应度FA与FB以及自身历史最好位置的适应度值Fi作比较,选择最优适应度,将其当前所在位置作为其个体的最优位置Pb,并记录当前适应度值。
e)对每个粒子,将其个体最优位置Pb的适应度值Fi与全局最优位置Gb的适应度值Fg作比较,如果较好,则将其作为全局最优位置,并记录当前适应度值。
f)计算中心粒子位置并计算其适应度值。根据公式进行种群历史最优位置邻域的局部搜索,计算G′best及其适应度值,对局部搜索的结果,采用贪心保留策略更新Gb
g)计算粒子群聚集度A(t),更新收缩—扩张系数β。
h)判断是否达到目标误差或最大迭代次数,否则返回c)。
i)确定神经网络相应最优参数。
j)输入预测网络流量到训练好的神经网络进行预测。
k)对高、低频预测结果小波重构后输出预测值。
上述步骤中d)和g)均可替换为常规方式,单独使用改进的量子粒子群算法。
通过神经网络有限次数的训练,更新权值阈值,最终得到训练后的神经经网络,进而进行对流量的预测,基于改进量子粒子群优化的神经网络能够较为准确地实现对无线流量的预测。
将上述步骤中每次迭代后全局极值的适应度值所绘制成的曲线图,如图7和图8所示,上述步骤的模型不仅具有较高的收敛精度,同时具有较快的收敛速度。此外,如图7和图8所示,本实施例中的量子自适应粒子群算法在经过若干代运算之后仍保持较高的活性,可以从局部最优中跳离出来,极大地提高了对最优值的全局搜索能力。
图9是预测值与实际值的对比图;如图9所示,这利用改进量子粒子群算法优化神经网络在训练过程中进行。使用验证集经训练后的神经网络预测得到的是高频和低频分量,最后将高、低频分量重构后到预测值。预测值与实际值量化分析如下表1所示;
Figure BDA0001479631750000121
表1
表1是预测结果量化分析表,表1中数据为此模型反复训练预测50次所得结果的平均值。从表中可以看出,模型平均绝对误差和均方根误差都很小,说明模型的预测结果与实际流量最为接近并且精密度最高,误差值的离散程度也最小。平均绝对百分误差指标也十分接近于0。因此,所提出的流量预测模型取得了更好的预测效果。
结合另一个可选的实施例对整个预测过程进行说明,如图10所示,QPSO代表量子粒子群算法,DWT代表离散小波变换,BNN:BP代表神经网络,IDWT代表离线小波逆变换。使用改进的量子粒子群算法对BP神经网络进行优化,数据经过离散小波变化后输入到经过优化的BP神经网络进行训练,将训练预测结果进行离散小波逆变换,输出预测值。
本发明实施例还提供了基于改进的量子粒子群优化神经网络的流量预测系统,该装置可以通过获取单元112、处理单元114、训练单元116、预测单元118,实现其功能。需要说明的是,本发明实施例的基于改进的量子粒子群优化神经网络的流量预测系统可以用于执行本发明实施例所提供的基于改进的量子粒子群优化神经网络的流量预测方法,本发明实施例的基于改进的量子粒子群优化神经网络的流量预测方法也可以通过本发明实施例所提供的基于改进的量子粒子群优化神经网络的流量预测系统来执行。图11是根据本发明实施例的基于改进的量子粒子群优化神经网络的流量预测系统的示意图。如图11所示,基于改进的量子粒子群优化神经网络的流量预测系统包括:
获取单元112,用于获取数据,其中,数据是网络流量数据;
处理单元114,用于利用离散小波变换将数据分解为低频流量数据和高频流量数据;
训练单元116,用于分别使用低频流量数据和高频流量数据训练神经网络得到训练后的神经网络,其中,神经网络是经过改进的量子粒子群算法优化过的;
预测单元118,用于通过训练后的神经网络来预测网络流量。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
在本发明的上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中,应该理解到,所揭露的技术内容,可通过其它的方式实现。其中,以上所描述的装置实施例仅仅是示意性的,例如所述单元的划分,可以为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,单元或模块的间接耦合或通信连接,可以是电性或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。

Claims (4)

1.一种基于改进的量子粒子群优化神经网络的流量预测方法,其特征在于,包括:
获取数据,其中,所述数据是网络流量数据;
利用离散小波变换将所述数据分解为低频流量数据和高频流量数据;
分别使用所述低频流量数据和所述高频流量数据训练神经网络得到训练后的神经网络,其中,所述神经网络是利用改进的量子粒子群算法来计算权值和阈值的神经网络算法;
通过训练后的神经网络来预测网络流量;
所述改进量子粒子群算法包括:寻找粒子群中的拐点,其中,所述拐点是在任一方向上所能进行搜索的极限位置,所述拐点至少为两个;
计算所述拐点的适应度值;
对所述拐点的适应度值与个体极值的适应度值进行比较,根据比较结果更新粒子的个体极值;
更新种群的历史最优位置和中心粒子,其中,所述中心粒子为所有粒子的个体极值所形成的中心;
通过种群的历史最优位置和中心粒子之间的差分结果更新种群的全局极值;
根据所述个体极值和所述全局极值更新粒子的位置;
所述通过所述种群的历史最优位置和所述中心粒子之间的差分结果更新种群的全局极值包括:
通过所述种群的历史最优位置和所述中心粒子之间的差分结果进行局部搜索得到局部搜索结果;
根据以下公式判断局部搜索结果与种群的历史最优位置的优先级,选择优先级高的值作为得到的 种群的全局极值:
Figure FDA0002495659130000011
式中,
Gbest代表种群的历史最优位置,G′best代表局部搜索的结果;F函数代表适应度值计算函数;
对所述拐点的适应度值与所述个体极值的适应度值进行比较,根据比较结果更新粒子的个体极值包括:比较所述拐点的适应度值与所述个体极值的适应度值的大小;根据比较结果为小的适应度值更新粒子的个体极值;
为了表示群体之间的相似性与聚拢程度,定义粒子群的聚集度A(t)为:
A(t)=∑Sim/N
Figure FDA0002495659130000021
Figure FDA0002495659130000022
其中:Sim是相似度系数;N是粒子群规模,即粒子总数;d(x,y)表示粒子与全局最优粒子的欧几里得距离,xi表示第一个点的第i维坐标yi表示第二个点的第i维坐标;将收缩—扩张系数β表示为粒子群的聚集度A(t)的函数,并使其服从随机分布,实现动态的自适应调整,β=1+α×A(t),α∈(0,1)。
2.根据权利要求1所述的方法,其特征在于,分别使用所述低频流量数据和所述高频流量数据训练神经网络包括:
从所述低频流量数据和所述高频流量数据中各自选取一部分数据分别作为第一训练集和第二训练集;
从将所述低频流量数据和所述高频流量数据各自选取一部分数据分别作为第一验证集和第二验证集;
利用训练集和验证集对神经网络的权值和阈值进行更新,其中,所述训练集是第一训练集和第二训练集,所述验证集是第一验证集和第二验证集。
3.一种存储介质,其特征在于,所述存储介质包括存储的程序,其中,所述程序执行权利要求1或2中任意一项所述的方法。
4.一种处理器,其特征在于,所述处理器用于运行程序,其中,所述程序运行时执行权利要求1或2中任意一项所述的方法。
CN201711183345.5A 2017-11-23 2017-11-23 改进量子粒子群优化算法的方法及基于改进算法的应用 Active CN107798379B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201711183345.5A CN107798379B (zh) 2017-11-23 2017-11-23 改进量子粒子群优化算法的方法及基于改进算法的应用

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711183345.5A CN107798379B (zh) 2017-11-23 2017-11-23 改进量子粒子群优化算法的方法及基于改进算法的应用

Publications (2)

Publication Number Publication Date
CN107798379A CN107798379A (zh) 2018-03-13
CN107798379B true CN107798379B (zh) 2020-07-07

Family

ID=61536379

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711183345.5A Active CN107798379B (zh) 2017-11-23 2017-11-23 改进量子粒子群优化算法的方法及基于改进算法的应用

Country Status (1)

Country Link
CN (1) CN107798379B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107995027B (zh) * 2017-11-23 2021-06-25 东北大学 改进的量子粒子群优化算法及应用于预测网络流量的方法
CN108537370B (zh) * 2018-03-23 2021-07-27 华中科技大学 基于混合智能降维算法的特大流域水电站群优化调度方法
CN108921280A (zh) * 2018-04-13 2018-11-30 广东电网有限责任公司 一种基于改进混沌粒子群优化神经网络的高压断路器状态评估方法
CN109029975B (zh) * 2018-06-26 2020-08-04 红河学院 一种风电齿轮箱的故障诊断方法
CN109214460B (zh) * 2018-09-21 2022-01-11 西华大学 基于相对变换与核熵成分分析的电力变压器故障诊断方法
CN109583949B (zh) * 2018-11-22 2021-03-12 中国联合网络通信集团有限公司 一种用户换机预测方法及系统
CN111160513B (zh) * 2020-03-05 2023-08-04 佳源科技股份有限公司 一种电力配电网的能量优化方法
CN112428267B (zh) * 2020-11-09 2022-07-22 西安工程大学 一种快速求解冗余自由度机器人逆解的方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103971174A (zh) * 2014-05-06 2014-08-06 大连理工大学 基于改进量子粒子群算法的水电站群优化调度方法
CN104614718A (zh) * 2015-01-08 2015-05-13 南京大学 基于粒子群算法的激光雷达波形数据分解的方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102010007775A1 (de) * 2010-02-12 2011-08-18 Siemens Aktiengesellschaft, 80333 Vorrichtung und Verfahren zur Simulation von Objektströmen über Teilgebieten
CN105095595A (zh) * 2015-08-25 2015-11-25 国家电网公司 基于种群聚集程度的粒子群算法
CN107203811A (zh) * 2017-05-22 2017-09-26 成都理工大学 一种基于改进qpso算法的rbf神经网络优化方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103971174A (zh) * 2014-05-06 2014-08-06 大连理工大学 基于改进量子粒子群算法的水电站群优化调度方法
CN104614718A (zh) * 2015-01-08 2015-05-13 南京大学 基于粒子群算法的激光雷达波形数据分解的方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于聚集度与向量相似度的粒子群算法;何琼月;《计算机应用与软件》;20131130;第30卷(第11期);第168-171页 *

Also Published As

Publication number Publication date
CN107798379A (zh) 2018-03-13

Similar Documents

Publication Publication Date Title
CN107798379B (zh) 改进量子粒子群优化算法的方法及基于改进算法的应用
CN112380008B (zh) 一种面向移动边缘计算应用的多用户细粒度任务卸载调度方法
Rajakumar Impact of static and adaptive mutation techniques on the performance of genetic algorithm
JP2019164793A (ja) ディープニューラルネットワークの動的適応
Cateni et al. Variable selection and feature extraction through artificial intelligence techniques
CN110363297A (zh) 神经网络训练及图像处理方法、装置、设备和介质
Abdelhamid et al. Optimized Two-Level Ensemble Model for Predicting the Parameters of Metamaterial Antenna.
US11550274B2 (en) Information processing apparatus and information processing method
CN109740757A (zh) 一种基于序贯蒙特卡罗方法的贝叶斯优化方法
CN112990420A (zh) 一种用于卷积神经网络模型的剪枝方法
Gil et al. Quantization-aware pruning criterion for industrial applications
Bolufé-Röhler et al. Differential evolution with thresheld convergence
CN107995027B (zh) 改进的量子粒子群优化算法及应用于预测网络流量的方法
Specht GRNN with double clustering
Zhao et al. Exploiting channel similarity for network pruning
CN112149805B (zh) 基于框架搜索的深度神经网络的加速与压缩方法及系统
CN114186518A (zh) 一种集成电路良率估算方法及存储器
CN111930435B (zh) 一种基于pd-bpso技术的任务卸载决策方法
CN116720260A (zh) 一种基于迁移学习的船型优化方法
CN113157344B (zh) 移动边缘计算环境下基于drl的能耗感知任务卸载方法
Akbar et al. Transfer-based DRL for task scheduling in dynamic environments for cognitive radar
Czarnowski et al. Data reduction algorithm for machine learning and data mining
CN113132482A (zh) 一种基于强化学习的分布式消息系统参数自适应优化方法
Mishchenko et al. Hyperparameters optimization for federated learning system: Speech emotion recognition case study
CN111914865A (zh) 一种基于随机核的概率主组件分析方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant