CN111371607B - 一种基于决策灰狼算法优化lstm的网络流量预测方法 - Google Patents

一种基于决策灰狼算法优化lstm的网络流量预测方法 Download PDF

Info

Publication number
CN111371607B
CN111371607B CN202010129404.6A CN202010129404A CN111371607B CN 111371607 B CN111371607 B CN 111371607B CN 202010129404 A CN202010129404 A CN 202010129404A CN 111371607 B CN111371607 B CN 111371607B
Authority
CN
China
Prior art keywords
wolf
decision
algorithm
making
lstm
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010129404.6A
Other languages
English (en)
Other versions
CN111371607A (zh
Inventor
杜秀丽
司增辉
潘成胜
邱少明
刘庆利
范志宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dalian University
Original Assignee
Dalian University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dalian University filed Critical Dalian University
Priority to CN202010129404.6A priority Critical patent/CN111371607B/zh
Publication of CN111371607A publication Critical patent/CN111371607A/zh
Application granted granted Critical
Publication of CN111371607B publication Critical patent/CN111371607B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14—Network analysis or design
    • H04L41/147—Network analysis or design for predicting network behaviour
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/004—Artificial life, i.e. computing arrangements simulating life
    • G06N3/006—Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0876—Network utilisation, e.g. volume of load or congestion level
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Environmental & Geological Engineering (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于决策灰狼算法优化LSTM的网络流量预测方法，属于网络流量预测领域，该方法包括以下步骤：对第一网络流量数据集进行极差标准化处理，得到第二网络流量数据集，并划分为训练集和测试集，并确定决策灰狼算法优化LSTM神经网络中输入层单元个数、输出层单元个数和隐藏层单元个数；用得到第二网络流量数据集，在过程中利用决策灰狼算法来优化LSTM神经网络的参数，得到训练完成的决策灰狼算法优化LSTM神经网络；决策灰狼优化算法可以有效解决优化中的求解问题，可应用于工程、经济、调度等问题求解。决策灰狼优化算法利用自身的全局最优能力弥补传统LSTM容易收敛于局部最优解的缺点，提高LSTM避免局部最优能力；加快LSTM神经网络参数收速度。实验证明，决策灰狼算法优化LSTM能够有效减少神经网络的训练时间，提高了网络流量预测精度。

Description

一种基于决策灰狼算法优化LSTM的网络流量预测方法
技术领域
本发明涉及网络流量预测领域，尤其涉及一种基于决策灰狼算法优化LSTM的网络流量预测方法。
背景技术
灰狼优化算法(Grey Wolf Optimization，GWO)的灵感来源于狼群的等级制度和狩猎行为，Mirjalili S已经证明GWO算法性能相较于其他群体智能算法的优越性。GWO算法已经在科学，工程和工业等诸多领域得到了应用。根据狼群中α，β，δ和ω的社会等级，将α，β和δ等级映射为GWO算法中的最优解、次优解、次次优解。将ω等级的狼映射为GWO算法中的其他解。这种做法，保证了GWO算法会一直朝着全局最优解的位置移动。狼群的狩猎过程被划分为三个阶段：搜寻猎物，包围猎物，攻击猎物。
(1)搜寻猎物：
狼群在进行捕猎之前，狼群会搜寻猎物，计算出狼与猎物的距离。搜寻猎物的数学模型为：
Figure BDA0002395382840000011
Figure BDA0002395382840000012
其中
Figure BDA0002395382840000013
表示猎物的位置,
Figure BDA0002395382840000014
表示当前狼的位置，t为当前迭代次数，
Figure BDA0002395382840000015
是系数向量，
Figure BDA0002395382840000016
的值是[0,1]范围内的随机数。
(2)包围猎物：
在狩猎过程中，狼群会对猎物进行追逐和骚扰，并试图对猎物进行包围。这一过程中狼群中领头狼带头追，其他狼跟在领头狼的周围。包围猎物的数学模型为：
Figure BDA0002395382840000017
Figure BDA0002395382840000018
Figure BDA0002395382840000019
其中
Figure BDA00023953828400000110
表示猎物的位置，
Figure BDA00023953828400000111
是系数向量，
Figure BDA00023953828400000112
的值是[0,1]范围内的随机数，a从2线性衰减到0，t为当前迭代次数，T为最大迭代次数。
(3)攻击猎物：
在狼群追上猎物后，将其包围迫使猎物停下，此时，领头狼指挥狼群进行攻击。因为没有猎物明确的位置，所以默认狼群中的α狼，β狼和δ狼对猎物的潜在位置有更好的了解。此时，狼群首领指挥狼群进行向猎物的潜在位置移动，对猎物进行攻击。攻击猎物的数学模型为：
Figure BDA0002395382840000021
Figure BDA0002395382840000022
Figure BDA0002395382840000023
其中
Figure BDA0002395382840000024
和
Figure BDA0002395382840000025
分别代表α狼，β狼和δ狼在解空间中的位置。
因为GWO算法在开发阶段容易停滞，在后期收敛速度变慢等问题，所以科研工作者们对GWO算法进行了改进产生了诸多变体。这些变体的改变可以划分为四大类：改进收敛因子a、改进狼群的初始化、改进狼群位置的更新方法、对狼群更新后的α狼，β狼和δ狼再进行优化。
收敛因子a在平衡探索和开发之间的关系中起到至关重要的作用。合理的收敛因子a使GWO具有更好的勘探和开发质量，增强了避免局部最优的能力，但会降低算法的稳定性。
合理的初始化种群对算法的求解精度和收敛速度有着至关重要的作用。合理的初始化种群可以使算法的到更加准确的结果，但会降低算法全局搜索能力。
改进GWO算法中的位置更新算法是被认为是最具挑战性的，合理的更新方法可以增强算法的全局搜索能力，提高算法的求解精度。
对狼群更新后的α狼，β狼和δ狼再进行优化，这会加快GWO算法的收敛速度，但会加大陷入局部最优的风险。
通过对现有4种改进技术方法和实验结果的分析，发现这些技术只是缓解了GWO算法的缺点，并没有从根本上解决这些缺点。
网络流量预测作为网络管理、调控的重要方式之一，已吸引了大量学者的研究。对网络流量预测做出了巨大贡献。采用了很多种不同的模型，可以分为三大类：线性预测模型，非线性预测模型和组合预测模型。
线性流量预测模型具有模型计算简单、计算量小的特点，但只能对网络流量的短相关特性进行描述，且只能对平稳过程进行预测，但其模型建立简单，计算量小，故该类模型常被用于实时性要求较高的在线预测。
非线性流量预测模型能有效的刻画实际的网络流量具有的非线性、自相似性、长相关性、多重分形性且预测精度比较高，但仍然有自己的不足，如(FractionalAutoregressive Integrated Moving Average，FARIMA)不能够描述流量的非平稳特性，计算量大，不能够进行实时预测，且不能很好地捕获突发性；灰色理论模型并行计算能力有限，对系统变化敏感，极易导致重新计算；支持向量机对关键参数的选择算法复杂，且没有统一理论；混沌理论模型在进行多步预测时计算量较大，且存在累积误差效应等。总的来说，非线性模型具有双高特点，即计算复杂度高，计算精度高，对系统资源和模型计算时间是一个考验。
由于人工神经网络具有很强的自适应性和学习能力、非线性映射能力，人工神经网络方法被广泛应用于时间序列的预测中，其中长短期记忆(Long Short-Term Memory，LSTM)循环神经网络具有记忆功能，可以有效避免梯度消失和梯度爆炸。但是神经网络模型训练算法固有的特点使得神经网络模型在实际应用中也存在着容易陷入局部极小值等不足。
发明内容
根据现有技术存在的问题，本发明公开了一种基于决策灰狼算法优化LSTM的网络流量预测方法，包括以下步骤：
步骤1：对第一网络流量数据集进行极差标准化处理，得到第二网络流量数据集；并划分为训练集和测试集，并确定决策灰狼算法优化LSTM神经网络中输入层单元个数、输出层单元个数和隐藏层单元个数；
步骤2：在训练决策灰狼算法优化LSTM的过程中，利用决策灰狼优化算法来训练LSTM神经网络的参数，得到训练完成的决策灰狼算法优化LSTM神经网络；
步骤3：采用训练完成决策灰狼算法优化LSTM神经网络进行网络流量预测。
进一步地，所述决策灰狼优化算法的步骤如下：将训练集输出结果y′和经过前向训练后的输出结果y的差值处理后作为适应度函数F：
步骤1：初始化合适的狼群规模Xi(i＝1,2,…,N)，Xi的维度数与决策灰狼算法优化LSTM神经网络中的权重数相等，并且一一对应，初始化系数向量
Figure BDA0002395382840000031
和
Figure BDA0002395382840000032
衰减系数a；确定当前迭代次数t和最大迭代次数T；
步骤2：根据决策灰狼算法优化LSTM神经网络前向计算出每个狼Xi的输出值y；
步骤3：计算每个狼的适应度值，对适应度值进行降序排列，将适应度值排序前三的狼依次定为α狼，β狼和δ狼，其余定位ω狼；
步骤4：其余的ω狼，根据Xα，Xβ和Xδ更新各自的权重；
步骤5：将α狼，β狼和δ狼各自的权重Xα，Xβ和Xδ分别赋值于Jα，Jβ和Jδ，根据所有ω狼反馈回来权重值更新Jα，Jβ和Jδ对应的权重值；
步骤6：计算Jα，Jβ和Jδ的适应度值F(Jα)，F(Jβ)和F(Jδ)，并分别与F(Xα)，F(Xβ)和F(Xδ)进行一一比较，当F(Jα)小于F(Xα)、F(Jβ)小于F(Xβ)、和F(Jδ)小于F(Xδ)，则Jα，Jβ和Jδ调整后的权重赋予Xα，Xβ和Xδ；否则，则α，β和δ的权重不变；
步骤7：更新参数
Figure BDA0002395382840000041
a和
Figure BDA0002395382840000042
步骤8：当t小于最大迭代次数T，则t＝t+1，返回步骤2，当t大于最大迭代次数T，则输出α狼的权重。
进一步地，S5中向量Jα，Jβ和Jδ更新各自的位置的过程如下：
Jα＝Xα (9)
Jβ＝Xβ (10)
Jδ＝Xδ (11)
Figure BDA0002395382840000043
Figure BDA0002395382840000044
Figure BDA0002395382840000045
其中
Figure BDA0002395382840000046
代表ω狼更新后的位置，
Figure BDA0002395382840000047
代表第j个ω狼第i维的值。将每个ω狼的每个维度分别去替换Jα，Jβ和Jδ中的每个维度。
由于采用了上述技术方案，本发明提供的一种基于决策灰狼算法优化LSTM的网络流量预测方法。该方法弥补传统LSTM容易收敛于局部最优解的缺点，增强了LSTM避免局部最优的能力。决策灰狼算法优化LSTM能够有效减小网络训练时间，并提高了网络流量预测精度。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明决策灰狼优化算法流程图；
图2决策灰狼优化算法中的判断过程图；
图3(a)F1函数二维搜索空间和收敛曲线图；
图3(b)F2函数二维搜索空间和收敛曲线图；
图3(c)F4函数二维搜索空间和收敛曲线图；
图3(d)F6函数二维搜索空间和收敛曲线图；
图4(a)F9函数二维搜索空间和收敛曲线图；
图4(b)F12函数二维搜索空间和收敛曲线图；
图4(c)F13函数二维搜索空间和收敛曲线图；
图4(d)F23函数二维搜索空间和收敛曲线图；
图5(a)CF1函数二维搜索空间和收敛曲线图；
图5(b)CF2函数二维搜索空间和收敛曲线图；
图5(c)CF3函数二维搜索空间和收敛曲线图；
图5(d)CF5函数二维搜索空间和收敛曲线图；
图6训练集误差收敛曲线图。
具体实施方式
为使本发明的技术方案和优点更加清楚，下面结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚完整的描述：
本发明公开了一种基于决策灰狼算法优化LSTM的网络流量预测方法：包括以下步骤：
步骤1：对第一网络流量数据集进行归一化处理，得到第二网络流量数据集，并划分为训练集和测试集，并确定决策灰狼算法优化LSTM神经网络的输入层单元个数、输出层单元个数和隐藏层单元个数；
步骤2：在训练决策灰狼算法优化LSTM的过程中，利用决策灰狼优化算法来训练LSTM神经网络的参数，得到训练完成的决策灰狼算法优化LSTM神经网络；
步骤3：采用训练完成决策灰狼算法优化LSTM神经网络进行网络流量预测。
所述决策灰狼优化算法的步骤如下：
进一步地，图1为本发明决策灰狼优化算法流程图；图2决策灰狼优化算法中的判断过程图；将训练集输出结果y′和经过前向训练后的输出结果y的差值处理后作为适应度函数F：
步骤1：初始化合适的狼群个数Xi(i＝1,2,…,N)，Xi的维度与决策灰狼算法优化LSTM神经网络中的权重一一对应，初始化参数
Figure BDA0002395382840000061
a和
Figure BDA0002395382840000062
确定当前迭代次数t和最大迭代次数T；
步骤2：根据决策灰狼算法优化LSTM神经网络前向计算出每个狼Xi的输出值y；
步骤3：计算每个狼的适应度值，对适应度值进行降序排列，将适应度值排序前三的狼依次定为α狼，β狼和δ狼，其余定位ω狼；
步骤4：其余的ω狼，根据Xα，Xβ和Xδ更新各自的权重；
步骤5：将α狼，β狼和δ狼各自的权重Xα，Xβ和Xδ分别赋值于Jα，Jβ和Jδ，根据所有ω狼反馈回来权重值更新Jα，Jβ和Jδ对应的权重值；
步骤6：计算Jα，Jβ和Jδ的适应度值F(Jα)，F(Jβ)和F(Jδ)，并分别与F(Xα)，F(Xβ)和F(Xδ)进行一一比较，当F(Jα)小于F(Xα)、F(Jβ)小于F(Xβ)、和F(Jδ)小于F(Xδ)，则Jα，Jβ和Jδ调整后的权重赋予Xα，Xβ和Xδ；否则，则α，β和δ的权重不变；
步骤7：更新参数
Figure BDA0002395382840000063
a和
Figure BDA0002395382840000064
步骤8：当t小于最大迭代次数T，则t＝t+1，返回步骤2，当t大于最大迭代次数T，则输出α狼的权重。
狼群也许算得上自然界中效率最高的狩猎机器，然而它们却有约90％的失败率。因此，狼群从不毫无目的地追逐或骚扰猎物。比如狩猎大群驼鹿，狼群首领先是观察，然后命令狼群开始追逐，使鹿群开始逃窜，在追逐过程中，狼群可能会分成两到三个小队，每个小队排成并肩的直线队形，每个小队轮流冲到前面追逐猎物，可能要追逐很久，直至狼群首领最终确认羸弱个体。最后，当这头驼鹿已极为虚弱，再也不会对狼群构成严重威胁时，狼群的首领才会认为机会已到，命令狼群集体攻击，咬住这头驼鹿的鼻子，使其窒息而死。
本文对狼群捕猎行为的数学模型进行了补充，分为了四个阶段：搜寻猎物，判断猎物，包围猎物，攻击猎物,进而形成决策灰狼优化算法。
判断猎物：
在狼群捕猎的真实场景中，狼群首领会对被围住的猎物进行判断，例如猎物是否垂死拼命逃窜改变位置，猎物是否到达极限，是否集体攻击。狼群的首领还会考虑诸多因素，例如在捕猎过程中是否出现其他猎食者或者狼群的天敌；在追逐猎物的过程中是否发现比当前猎物更合适的目标；在追逐过程中是否追入天敌的领地范围；是否具备狩猎条件的地理环境等等。除了这两个因素之外，首领还要接受处理来自于其他狼发来的信息，做出综合的判断。我们将这一过程称之为判断猎物。
每经过一次迭代后，狼群都分布在狼群首领的周围，他们所掌控的信息综合起来要比狼群首领多，对猎物状态和环境因素有更深入的理解。因此，把各种因素映射为狼的每个维度，每一种因素都用一个维度来表示，所有的因素组合起来就构成了狼的空间向量。狼群中ω狼通过每个维度向狼群首领汇报情况，狼群首领综合各种因素对猎物做出判断，对狼群做出更好的指挥。
所述决策灰狼优化算法的步骤如下：
进一步地，决策灰狼算优化LSTM神经网络来实现网络流量预测的方法当中，决策灰狼算法优化LSTM神经网络的权重在收敛过程中的优化问题。决策灰狼算法优化LSTM神经网络属于监督学习，训练集中有输入和输出结果，将训练集输出结果y′和经过前向训练后的输出结果y的差值处理后作为适应度函数F：
Figure BDA0002395382840000071
目标函数是最小值。在训练过程中，决策灰狼算法优化LSTM神经网络的权重随着迭代次数的增加渐渐趋于稳定。在使用测试集进行测试时，适应度值是判断神经网络训练优劣的标准，适应度值越小证明训练的效果越好。
步骤1：初始化合适的狼群个数Xi(i＝1,2,…,N)，Xi的维度与决策灰狼算法优化LSTM神经网络中的权重一一对应，初始化参数
Figure BDA0002395382840000072
a和
Figure BDA0002395382840000073
确定当前迭代次数t和最大迭代次数T；
A，a和C由于下公式得到：
Figure BDA0002395382840000074
Figure BDA0002395382840000075
Figure BDA0002395382840000081
其中
Figure BDA0002395382840000082
和
Figure BDA0002395382840000083
是系数向量，a从2线性衰减到0，
Figure BDA0002395382840000084
和
Figure BDA0002395382840000085
的值是[0,1]范围内的随机数；
步骤2：根据决策灰狼算法优化LSTM神经网络前向计算出每个狼Xi的输出值y；
步骤3：计算每个狼的适应度值，对适应度值进行降序排列，将适应度值排序前三的狼依次定为α狼，β狼和δ狼，其余定位ω狼；
步骤4：其余的ω狼，根据Xα，Xβ和Xδ更新各自的权重；
具体的更新方法如下：
Figure BDA0002395382840000086
Figure BDA0002395382840000087
Figure BDA0002395382840000088
其中
Figure BDA0002395382840000089
表示当前狼的位置，
Figure BDA00023953828400000810
表示更新后的位置，Xα，Xβ和Xδ是三个最优狼的空间位置；
其中
Figure BDA00023953828400000811
表示当前狼的位置，
Figure BDA00023953828400000812
表示更新后的位置，Xα，Xβ和Xδ是三个最优狼的空间位置；
步骤5：将α狼，β狼和δ狼各自的权重Xα，Xβ和Xδ分别赋值于Jα，Jβ和Jδ，根据所有ω狼反馈回来权重值更新Jα，Jβ和Jδ对应的权重值；
步骤6：计算Jα，Jβ和Jδ的适应度值F(Jα)，F(Jβ)和F(Jδ)，并分别与F(Xα)，F(Xβ)和F(Xδ)进行一一比较，当F(Jα)小于F(Xα)、F(Jβ)小于F(Xβ)、和F(Jδ)小于F(Xδ)，则Jα，Jβ和Jδ调整后的权重赋予Xα，Xβ和Xδ；否则，则α，β和δ的权重不变；
步骤7：更新参数
Figure BDA00023953828400000813
a和
Figure BDA00023953828400000814
步骤8：当t小于最大迭代次数T，则t＝t+1，返回步骤2，当t大于最大迭代次数T，则输出α狼的权重。
(1)决策灰狼优化算法测试结果
以下使用了23个基准函数和6个复合函数来进行测试算法能否找到最小值。这些基准函数是许多研究者使用的经典函数。其中包涵单峰函数，多峰函数，固定维度的多峰函数，能准确地反映出的收敛速度和全局收敛能力。为了评估决策灰狼算法(Decision GreyWolf Optimization，DGWO)算法的性能，将DGWO算法与GWO算法，改进灰狼优化(ModifiedGrey Wolf Optimizer，MGWO)算法和随机游走灰狼优化(Random Walk Grey WolfOptimizer，RWGWO)算法进行了比较，并把平均值和标准差好的进行加粗显示。
下面从避免局部最优能力、收敛速度、探索开发能力和鲁棒性分析DGWO算法的性能。
单峰函数分析：
单峰函数适合评估搜索算法的开发强度和收敛速度快慢。表1为单峰基准函数，从表2中7个30维的单峰函数测试结果。可以看出，DGWO算法的平均值在这7个单峰函数上都小于其他三个算法，尤其是在F1，F2，F4和F6函数上表显得尤为明显，如图3(a)F1函数二维搜索空间和收敛曲线图；图3(b)F2函数二维搜索空间和收敛曲线图；图3(c)F4函数二维搜索空间和收敛曲线图；图3(d)F6函数二维搜索空间和收敛曲线图；
这证明DGWO算法具有开发强度高和收敛速度快的优点。因此，在搜索区域的周围区域开发方面，DGWO优于GWO，MGWO和RWGWO。
表1单峰基准函数
Figure BDA0002395382840000091
表2单峰基准函数的结果
Figure BDA0002395382840000092
Figure BDA0002395382840000101
多峰和固定维度多峰函数分析：
多峰函数适合评估搜索算法的探索强度和避免局部最优能力。表3、表4分别为多峰基准函数及不同算法搜索结果。表5、表6分别为固定维度的多峰基准函数及不同算法搜索结果。可以看出，DGWO算法的平均值都小于其他三个算法，尤其是在F9，F12，F13和F23函数上表显得尤为明显，如图4(a)F9函数二维搜索空间和收敛曲线图；图4(b)F12函数二维搜索空间和收敛曲线图；图4(c)F13函数二维搜索空间和收敛曲线图；图4(d)F23函数二维搜索空间和收敛曲线图；
这证明出DGWO算法探索强度高、避免局部最优能力强。因此，在探索搜索空间有希望的区域时，DGWO在大多数问题上都优于GWO，MGWO和RWGWO。
表3
多峰基准函数
Figure BDA0002395382840000102
表4
Figure BDA0002395382840000103
多峰基准函数的结果
Figure BDA0002395382840000111
表5
固定维度的多峰基准函数
Figure BDA0002395382840000112
表6
固定维度的多峰基准函数的结果
Figure BDA0002395382840000113
Figure BDA0002395382840000121
复合函数分析：
复合函数适合评估避免因大量局部最优而导致的局部最优停滞问题的强度，并评估元启发式算法中平衡探索与开发的能力。表7为复合函数。从表8中可以看出，DGWO算法的平均值都小于其他三个算法，尤其是CF1，CF2，CF3和CF5，图5(a)CF1函数二维搜索空间和收敛曲线图；图5(b)CF2函数二维搜索空间和收敛曲线图；图5(c)CF3函数二维搜索空间和收敛曲线图；图5(d)CF5函数二维搜索空间和收敛曲线图，左边是2维空间图，右边是10维目标收敛曲线图。
这证明在避免因大量局部最优而导致的局部最优停滞问题中，DGWO相较于GWO，MGWO和RWGWO有更强的能力。同时，DGWO能很好的平衡探索与开发的关系。
表7
复合函数
Figure BDA0002395382840000122
Figure BDA0002395382840000131
表8
复合函数的结果
Figure BDA0002395382840000132
鲁棒性分析：
标准差适合评估搜索算法的鲁棒性。从上述表中，可以看出29个函数中，有26个函数的标准差都优于其他三个算法，这说明DGWO算法在解决大多数问题中显示出较好的鲁棒性。因此，DGWO算法在解决需求稳定性的问题时，有很好的效果。
(2)基于决策灰狼算法优化LSTM的网络流量预测方法测试结果
为了验证基于决策灰狼算法优化LSTM的网络流量预测方法的有效性，将该方法与基于LSTM的网络流量预测方法进行实验对比，所使用的网络流量数据集来自于MAWI数据库。将数据集进行归一化，然后将数据集进行分割为训练集和测试集，训练集的样本个数会影响到神经网络的训练，如果训练集的样本个数过少会导致欠拟合，反之，会导致过拟合。合适的测试集样本个数可以证明训练完成的网络有很好的泛化能力。本实验训练集样本900个，测试集样本200个。训练次数为500次，训练集的误差收敛曲线如图6所示(其中，基于决策灰狼算法优化LSTM的网络流量预测方法用DGWO-LSTM表示)。测试集的对应的实验预测结果，采用三种误差分析方法验证其精度，即均方误差(Mean Square Error，MSE)，平均绝对误差(Mean Absolute Deviation，MAE)和平均绝对百分比误差(Mean Absolute PercentDeviation，MAPE)，将得到了200个样本的3种误差评判标准取平均值，记录在表9中。
表9
测试集误差比较
Figure BDA0002395382840000141
从图6可以看出，用决策灰狼算法优化LSTM收敛速度快于LSTM，减少了训练次数，节省时间等资源。从表9中的测试集的MSE、MAE、MAPE误差比较可以看出，决策灰狼算法优化LSTM优于LSTM。DGWO算法利用自身的全局最优能力弥补了LSTM容易收敛于局部最优解的不足，增强了LSTM避免局部最优的能力，决策灰狼算法优化LSTM有效提高了网络流量预测精度。
以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，根据本发明的技术方案及其发明构思加以等同替换或改变，都应涵盖在本发明的保护范围之内。

Claims (1)

1.一种基于决策灰狼算法优化LSTM的网络流量预测方法，其特征在于：包括以下步骤：
步骤1：对第一网络流量数据集进行极差标准化处理，得到第二网络流量数据集，并划分为训练集和测试集，并确定决策灰狼算法优化LSTM神经网络中输入层单元个数、输出层单元个数和隐藏层单元个数；
步骤2：在训练决策灰狼算法优化LSTM的过程中，利用决策灰狼优化算法来训练LSTM神经网络的参数，得到训练完成的决策灰狼算法优化LSTM神经网络；
步骤3：采用训练完成决策灰狼算法优化LSTM神经网络进行网络流量预测；
所述决策灰狼优化算法的步骤如下：
将训练集输出结果y′和经过前向训练后的输出结果y的差值处理后作为适应度函数F：
步骤1：初始化合适的狼群规模Xi，i＝1，2，...,N，Xi的维度数与决策灰狼算法优化LSTM神经网络中的权重数相等，并且一一对应，初始化系数向量
Figure FDA0003778788990000011
和
Figure FDA0003778788990000012
衰减系数a；确定当前迭代次数t和最大迭代次数T；
步骤2：根据决策灰狼算法优化LSTM神经网络前向计算出每个狼Xi的输出值y；
步骤3：计算每个狼的适应度值，对适应度值进行降序排列，将适应度值排序前三的狼依次定为α狼，β狼和δ狼，其余定为ω狼；
步骤4：其余的ω狼，根据Xα，Xβ和Xδ更新各自的权重；
步骤5：将α狼，β狼和δ狼各自的权重Xα，Xβ和Xδ分别赋值于Jα，Jβ和Jδ，根据所有ω狼反馈回来权重值更新Jα，Jβ和Jδ对应的权重值；
步骤6：计算Jα，Jβ和Jδ的适应度值F(Jα)，F(Jβ)和F(Jδ)，并分别与F(Xα)，F(Xβ)和F(Xδ)进行一一比较，当F(Jα)小于F(Xα)、F(Jβ)小于F(Xβ)、和F(Jδ)小于F(Xδ)，则Jα，Jβ和Jδ调整后的权重赋予Xα，Xβ和Xδ；否则，则α，β和δ的权重不变；
步骤7：更新参数
Figure FDA0003778788990000013
a和
Figure FDA0003778788990000014
步骤8：当t小于最大迭代次数T，则t＝t+1，返回步骤2，当t大于最大迭代次数T，则输出α狼的权重。
CN202010129404.6A 2020-02-28 2020-02-28 一种基于决策灰狼算法优化lstm的网络流量预测方法 Active CN111371607B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010129404.6A CN111371607B (zh) 2020-02-28 2020-02-28 一种基于决策灰狼算法优化lstm的网络流量预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010129404.6A CN111371607B (zh) 2020-02-28 2020-02-28 一种基于决策灰狼算法优化lstm的网络流量预测方法

Publications (2)

Publication Number Publication Date
CN111371607A CN111371607A (zh) 2020-07-03
CN111371607B true CN111371607B (zh) 2022-09-16

Family

ID=71208295

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010129404.6A Active CN111371607B (zh) 2020-02-28 2020-02-28 一种基于决策灰狼算法优化lstm的网络流量预测方法

Country Status (1)

Country Link
CN (1) CN111371607B (zh)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112116952B (zh) * 2020-08-06 2024-02-09 温州大学 基于扩散及混沌局部搜索的灰狼优化算法的基因选择方法
CN111967187B (zh) * 2020-08-20 2023-10-17 新奥能源动力科技（上海）有限公司 一种预测燃气轮机启动过程输出数据的建模方法及设备
CN112416913B (zh) * 2020-10-15 2023-04-25 中国人民解放军空军工程大学 一种基于gwo-bp算法的飞机燃油系统状态缺失值补充方法
CN113205698A (zh) * 2021-03-24 2021-08-03 上海吞山智能科技有限公司 一种基于igwo-lstm的短时交通流预测的导航提醒方法
CN113279994B (zh) * 2021-04-14 2022-11-11 杭州电子科技大学 基于支持向量机和二型模糊的离心式氮压机故障诊断方法
CN113569467B (zh) * 2021-07-12 2023-11-10 鞍钢股份有限公司 一种基于宽度学习的高炉风口回旋区温度软测量建模方法
CN113705761B (zh) * 2021-09-08 2024-02-09 吉林大学 基于维度学习策略和莱维飞行的灰狼优化方法
CN113993152B (zh) * 2021-10-25 2022-05-10 哈尔滨理工大学 一种通信基站流量预测方法
CN114173280B (zh) * 2021-12-14 2023-10-27 徐州工业职业技术学院 一种基于广义回归神经网络的室内3d定位方法
CN115277354B (zh) * 2022-07-29 2023-06-16 南京信息工程大学 一种面向指挥控制网络管理系统的故障检测方法
CN115828437B (zh) * 2023-02-17 2023-05-12 中汽研汽车检验中心（天津）有限公司 汽车性能指标综合优化方法、计算设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018072351A1 (zh) * 2016-10-20 2018-04-26 北京工业大学 一种基于粒子群优化算法对支持向量机的优化方法
CN108805253A (zh) * 2017-04-28 2018-11-13 普天信息技术有限公司 一种pm2.5浓度预测方法
CN109993270A (zh) * 2019-03-27 2019-07-09 东北大学 基于灰狼群优化lstm网络的锂离子电池剩余寿命预测方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018072351A1 (zh) * 2016-10-20 2018-04-26 北京工业大学 一种基于粒子群优化算法对支持向量机的优化方法
CN108805253A (zh) * 2017-04-28 2018-11-13 普天信息技术有限公司 一种pm2.5浓度预测方法
CN109993270A (zh) * 2019-03-27 2019-07-09 东北大学 基于灰狼群优化lstm网络的锂离子电池剩余寿命预测方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于灰狼优化算法的长短期记忆网络在时间序列预测中的应用;王书芹等;《中国科技论文》;20171023(第20期);全文 *
基于灰狼算法与RBF神经网络对污水出水BOD的预测;鲁明等;《兰州工业学院学报》;20190415(第02期);全文 *

Also Published As

Publication number Publication date
CN111371607A (zh) 2020-07-03

Similar Documents

Publication Publication Date Title
CN111371607B (zh) 一种基于决策灰狼算法优化lstm的网络流量预测方法
Teng et al. An improved hybrid grey wolf optimization algorithm
Wang et al. Opposition-based krill herd algorithm with Cauchy mutation and position clamping
CN108133258B (zh) 一种混合全局优化方法
Ewees et al. Enhanced salp swarm algorithm based on firefly algorithm for unrelated parallel machine scheduling with setup times
Tsai et al. Parallel cat swarm optimization
CN112465151A (zh) 一种基于深度强化学习的多智能体联邦协作方法
CN108416366A (zh) 一种基于气象指数的加权ls-svm的电力系统短期负荷预测方法
CN111262858A (zh) 基于sa_soa_bp神经网络的网络安全态势预测方法
CN109118013A (zh) 一种基于神经网络的经营数据预测方法、可读存储介质和预测系统
CN110533484A (zh) 一种基于pca和改进bp神经网络的产品销量预测方法
CN110110794B (zh) 基于特征函数滤波的神经网络参数更新的图像分类方法
CN111709511A (zh) 一种基于随机无迹Sigma点变异的哈里斯鹰优化算法
Putra et al. Estimation of parameters in the SIR epidemic model using particle swarm optimization
CN115034126A (zh) 一种通过灰狼算法优化lstm神经网络模型的方法与系统
CN110895772A (zh) 基于灰色关联分析与SA-PSO-Elman算法结合的售电量预测方法
CN111008790A (zh) 一种水电站群发电调度规则提取方法
Adeyemo et al. Effects of normalization techniques on logistic regression in data science
CN114880806A (zh) 基于粒子群优化的新能源汽车销量预测模型参数优化方法
CN114912741A (zh) 一种作战体系结构效能评估方法、装置以及存储介质
CN111539508B (zh) 基于改进灰狼算法的发电机励磁系统参数辨识算法
CN116993548A (zh) 基于增量学习的LightGBM-SVM的教育培训机构信用评估方法及系统
Piyaratne et al. A model to analyze weather impact on aphid population dynamics: an application on swallowtail catastrophe model
CN113300884B (zh) 一种基于gwo-svr的分步网络流量预测方法
Zhang et al. AFOA: an adaptive fruit fly optimization algorithm with global optimizing ability

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant