CN110545208B - 一种基于lstm的网络流量预测方法 - Google Patents

一种基于lstm的网络流量预测方法 Download PDF

Info

Publication number
CN110545208B
CN110545208B CN201910900159.1A CN201910900159A CN110545208B CN 110545208 B CN110545208 B CN 110545208B CN 201910900159 A CN201910900159 A CN 201910900159A CN 110545208 B CN110545208 B CN 110545208B
Authority
CN
China
Prior art keywords
predictor
burst
flow
lstm
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910900159.1A
Other languages
English (en)
Other versions
CN110545208A (zh
Inventor
卓永宁
李蕊
段玲
梁雪源
黄林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Electronic Science and Technology of China
Original Assignee
University of Electronic Science and Technology of China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Electronic Science and Technology of China filed Critical University of Electronic Science and Technology of China
Priority to CN201910900159.1A priority Critical patent/CN110545208B/zh
Publication of CN110545208A publication Critical patent/CN110545208A/zh
Application granted granted Critical
Publication of CN110545208B publication Critical patent/CN110545208B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14Network analysis or design
    • H04L41/145Network analysis or design involving simulating, designing, planning or modelling of a network
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14Network analysis or design
    • H04L41/147Network analysis or design for predicting network behaviour

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于LSTM的网络流量预测方法,包括:根据流量信号得到突发脉冲串,突发脉冲串是一个用于模拟突发事件的影响因素信号,将流量信号和突发脉冲串输入到网络流量并行LSTM预测器进行流量预测;其中,网络流量并行LSTM预测器包括两个LSTM预测器,两个LSTM预测器内部各层神经网络的系数相同,内部状态信息可以交换,其中一个为主预测器,另一个用于检测突发时刻,两个预测器之间进行内部状态的交换,主预测器利用突发预测器得到的信息进行多变量预测,使其能够适应突发流量导致的流量模式的变化,从而改进预测的准确度。仿真实验表明,网络流量并行LSTM预测器能够适应不同强度的流量变化,相对于传统的单变量LSTM预测器,其预测准确度提高了10%左右。

Description

一种基于LSTM的网络流量预测方法
技术领域
本发明涉及网络技术领域,特别涉及一种基于LSTM的网络流量预测方法。
背景技术
随着互联网规模不断扩大,网络流量数据与业务种类越来越多,网络资源与网络需求的供需矛盾日趋尖锐。网络流量预测有助于分析网络安全状况,科学管理网络及防范不当网络行为,因此,网络流量预测的研究和实现具有重要意义。基于人工智能神经网的网络流量预测方法具有非线性和自适应特点,且具有很高的预测精度。
近年来,利用深度神经网络对时间序列进行预测成为一个重要的研究方向。LSTM(LongShort-TermMemory)长短期记忆网络,是一种特殊的循环神经网络(RNN),它能够学习序列中的长期依赖关系。传统的LSTM网络主要用于序列的预测,即通过t-1,t-2,…,t-n时刻的真实值对第t时刻的数值进行预测。LSTM在序列建模上很强大,能够记忆上文信息,还具备神经网络拟合非线性的能力。
LSTM技术应用到网络流量的预测时,需要假定在流量中存在某种变化模式,然而计算机网络中业务流量具有较强的突发性,容易发生短时间内出现大量的流量的情况。因此,实际的信息流是模式流量和突发流量的混合。由于突发流量随机产生,无法知道突发发生的时刻和相关的影响因素,传统的LSTM在训练时无法预先获得对突发流量的任何信息,其训练效果很差。在对同时具有突发性和趋势性、周期性的业务流进行训练时,传统的LSTM预测器只会将突发业务流作为一次普通的业务波动进行对待,导致对突发时刻及其之后业务量的预测出现较大的误差。
发明内容
本发明的目的在于克服现有技术中所存在的因突发业务流导致对突发时刻及其之后业务量的预测误差较大的问题,提供一种基于LSTM的网络流量预测方法,以改进对突发性业务流的预测。
为了实现上述发明目的,本发明提供了以下技术方案:
一种基于LSTM的网络流量预测方法,包括步骤如下:
根据流量信号得到突发脉冲串,将流量信号和突发脉冲串输入到网络流量并行LSTM预测器进行流量预测;其中,所述网络流量并行LSTM预测器包括两个LSTM预测器,两个LSTM预测器内部各层神经网络的系数相同,内部状态信息可以交换;所述突发脉冲串是一个用于模拟突发事件的影响因素信号。
优选的,所述的根据流量信号得到突发脉冲串的方法:
采用突变点检测算法来检测流量的突变点,利用这些突变点构建突发脉冲串。
优选的,所述突变点包括流量的低点、高点,其检测方法包括:
S110设定流量变化的第一阈值和第二阈值,查找历史数据的深度范围值,后退步长值;
S120查找所述深度范围值区域内的流量低点,如果该低点是当前低点,则进行下一步,并将其记录成一个低点;
如果当前低点比上一个低点值之差小于第二阈值,则不做处理;否则,认为找到一个新的低点,将上一个后退步长值个时间点内,高于当前低点的值清空;
S130查找所述深度范围值区域内的流量高点,如果该高点是当前高点,则进行下一步,并将其记录为一个高点;
如果当前高点比上一个高点值之差小于第一阈值,则不做处理;否则,认为找到一个新的高点,将上一个后退步长值个时间点内,低于当前高点的值清空。
优选的,所述网络流量并行LSTM预测器包括主预测器,突发预测器;
主预测器,采用流量信号作为输入,输出第一预测结果;突发预测器,流量信号和突发脉冲串作为输入,得到第二预测结果,第二预测结果不直接输出,而是用于与第一预测结果进行比较,以确定突发事件到来的时刻。
优选的,所述主预测器、所述突发预测器事先进行训练,其训练方法包括:
S210利用步骤S110-S130,从训练用的流量信号中检测出训练用的突发脉冲串;
S220利用训练用的流量信号与训练用的突发脉冲串对主预测器和突发预测器分别进行训练。
优选的,所述网络流量并行LSTM预测器进行流量预测的方法:
S310在第t-1时刻,对于主预测器,将当前的内部状态c1(t-1)、h1(t-1)暂存在状态暂存器中,然后以x(t-1)为输入,即xt-1=[x(t-1)0],利用前向算法得到并输出下一个时刻的流量预测值
Figure BDA0002211545240000031
将其输出,同时也存储在结果暂存器中;对于突发预测器,首先将c1(t-1)、h1(t-1)拷贝过来作为自己的内部状态,然后以x(t-1)和当前突发脉冲p(t-1)作为输入,即xt-1=[x(t-1)p(t-1)],利用前向算法得到下一个时刻的流量预测值
Figure BDA0002211545240000041
将其保存在突发预测器的预测结果暂存器中,同时将利用前向算法得到的状态c2(t)、h2(t)和输入脉冲p(t-1)也暂存到状态和输入暂存器中;
S320在第t时刻,对于主预测器,以x(t)为输入,利用前向算法得到并输出下一个时刻的流量预测值
Figure BDA0002211545240000042
对于突发预测器,利用步骤S310得到下一时刻的预测值
Figure BDA0002211545240000043
并保存;由于获得x(t)的真实值,将其与步骤S310暂存的
Figure BDA0002211545240000044
Figure BDA0002211545240000045
进行比较,如果满足
Figure BDA0002211545240000046
Figure BDA0002211545240000047
Th1和Th2为一个经验的阈值,则认为真实流量中发生了突发流量,则启动步骤S330的对主预测器内部状态和预测值
Figure BDA0002211545240000048
的更新过程,否则,回到步骤S310;
S330对突发流量预测值的更新过程:
用之前暂存的突发预测器的状态c2(t)、h2(t)更新主预测器的内部状态寄存器,并将输入值脉冲p(t)拷贝到主预测器的输入端作为输入之一,在主预测器上利用x(t)、脉冲信号p(t)和内部状态c2(t)、h2(t)得到t+1时刻新的预测值
Figure BDA0002211545240000049
并用该值更新步骤S320得到的t+1时刻的原始预测值
Figure BDA00022115452400000410
并输出;更新以后,将主预测器利用前向算法得到的内部状态c1(t)、h1(t)保存到状态暂存器之中。
优选的,所述前向算法,包括:
更新遗忘门输出:
f(t)=σ(Wfh(t-1)+Ufxt+bf)
更新输入门两部分输出:
i(t)=σ(Wih(t-1)+Uixt+bi)
g(t)=tanh(Wgh(t-1)+Ugxt+bg)
更新神经元长期状态:
s(t)=s(t-1)⊙f(t)+i(t)⊙g(t)
更新输出门输出:
o(t)=σ(Woh(t-1)+Uoxt+bo)
h(t)=o(t)⊙tanh(s(t))
其中,f(t)为遗忘门的输出;输入门的第一部分使用σ函数,输出为i(t);输入门的第二部分使用了tanh激活函数,输出为g(t);s(t)为LSTM的长期状态信息;o(t)为当前神经元的输出,h(t)为将要传递给下一步的短期隐藏状态信息;遗忘门的隐藏层神经元的权重系数和偏置项分别为Wf、Uf、bf,输入门的隐藏层权重系数和偏置项分别为Wi、Ui、bi、Wg、Ug、bg,输出层的隐藏层权重系数和偏置项为Wo、Uo、bo;⊙表示Hadarmad乘积。
与现有技术相比,本发明的有益效果:
本发明根据流量信号得到突发脉冲串,所述突发脉冲串是一个用于模拟突发事件的影响因素信号,将流量信号和突发脉冲串输入到网络流量并行LSTM预测器进行流量预测;其中,所述网络流量并行LSTM预测器包括两个LSTM预测器,两个LSTM预测器内部各层神经网络的系数相同,内部状态信息可以交换,其中一个为主预测器,另一个用于检测突发时刻,两个预测器之间进行内部状态的交换,使主预测器可以利用突发预测器得到的信息进行多变量预测,使其能够适应突发流量导致的流量模式的变化,从而改进预测的准确度。仿真实验表明,网络流量并行LSTM预测器能够适应不同强度的流量变化,相对于传统的单变量LSTM预测器,其预测准确度提高了10%左右。
附图说明:
图1为网络流量并行LSTM预测器结构示意图。
图2为传统LSTM预测器结构示意图。
具体实施方式
下面结合试验例及具体实施方式对本发明作进一步的详细描述。但不应将此理解为本发明上述主题的范围仅限于以下的实施例,凡基于本发明内容所实现的技术均属于本发明的范围。
如图1,一种基于LSTM的网络流量预测方法,包括步骤如下:
根据流量信号得到突发脉冲串,将流量信号和突发脉冲串输入到网络流量并行LSTM预测器进行流量预测;其中,所述网络流量并行LSTM预测器包括两个LSTM预测器,两个LSTM预测器内部各层神经网络的系数相同,内部状态信息可以交换;所述突发脉冲串是一个用于模拟突发事件的影响因素信号。
具体的,采用突变点检测算法来检测流量的突变点,利用这些突变点构建突发脉冲串。所述突变点包括流量的低点、高点,其检测方法包括:
S110设定流量变化的第一阈值和第二阈值,查找历史数据的深度范围值,后退步长值;
S120查找所述深度范围值区域内的流量低点,如果该低点是当前低点,则进行下一步,并将其记录成一个低点;
如果当前低点比上一个低点值之差小于第二阈值,则不做处理;否则,认为找到一个新的低点,将上一个后退步长值个时间点内,高于当前低点的值清空;
S130查找所述深度范围值区域内的流量高点,如果该高点是当前高点,则进行下一步,并将其记录为一个高点;
如果当前高点比上一个高点值之差小于第一阈值,则不做处理;否则,认为找到一个新的高点,将上一个后退步长值个时间点内,低于当前高点的值清空。
所述网络流量并行LSTM预测器包括主预测器,突发预测器;主预测器,采用流量信号作为输入,输出第一预测结果;突发预测器,流量信号和突发脉冲串作为输入,得到第二预测结果,第二预测结果不直接输出,而是用于与第一预测结果进行比较,以确定突发事件到来的时刻。所述主预测器、所述突发预测器事先进行训练,其训练方法包括:
S210利用步骤S110-S130,从训练用的流量信号中检测出训练用的突发脉冲串;
S220利用训练用的流量信号与训练用的突发脉冲串对主预测器和突发预测器分别进行训练,即两个预测器进行相同的训练,其内部各层神经网络的系数相同,两个预测器的内部状态信息可以交换。
所述网络流量并行LSTM预测器进行流量预测的方法:
S310在第t-1时刻,对于主预测器,将当前的内部状态c1(t-1)、h1(t-1)暂存在状态暂存器中,然后以x(t-1)为输入,即xt-1=[x(t-1)0],利用前向算法得到并输出下一个时刻的流量预测值
Figure BDA0002211545240000081
将其输出,同时也存储在结果暂存器中;对于突发预测器,首先将c1(t-1)、h1(t-1)拷贝过来作为自己的内部状态,然后以x(t-1)和当前突发脉冲p(t-1)作为输入,即xt-1=[x(t-1)p(t-1)],利用前向算法得到下一个时刻的流量预测值
Figure BDA0002211545240000082
将其保存在突发预测器的预测结果暂存器中,同时将利用前向算法得到的状态c2(t)、h2(t)和输入脉冲p(t-1)也暂存到状态和输入暂存器中;
S320在第t时刻,对于主预测器,以x(t)为输入,利用前向算法得到并输出下一个时刻的流量预测值
Figure BDA0002211545240000083
对于突发预测器,利用步骤S310得到下一时刻的预测值
Figure BDA0002211545240000084
并保存;由于获得x(t)的真实值,将其与步骤S310暂存的
Figure BDA0002211545240000085
Figure BDA0002211545240000086
进行比较,如果满足
Figure BDA0002211545240000087
Figure BDA0002211545240000088
Th1和Th2为一个经验的阈值,则认为真实流量中发生了突发流量,则启动步骤S330的对主预测器内部状态和预测值
Figure BDA0002211545240000089
的更新过程,否则,回到步骤S310;
S330对突发流量预测值的更新过程:
用之前暂存的突发预测器的状态c2(t)、h2(t)更新主预测器的内部状态寄存器,并将输入值脉冲p(t)拷贝到主预测器的输入端作为输入之一,在主预测器上利用x(t)、脉冲信号p(t)和内部状态c2(t)、h2(t)得到t+1时刻新的预测值
Figure BDA00022115452400000810
并用该值更新步骤S320得到的t+1时刻的原始预测值
Figure BDA00022115452400000811
并输出;更新以后,将主预测器利用前向算法得到的内部状态c1(t)、h1(t)保存到状态暂存器之中。
如图2所示,LSTM用以进行预测的前向算法包括:
更新遗忘门输出:
f(t)=σ(Wfh(t-1)+Ufxt+bf)
更新输入门两部分输出:
i(t)=σ(Wih(t-1)+Uixt+bi)
g(t)=tanh(Wgh(t-1)+Ugxt+bg)
更新神经元长期状态:
s(t)=s(t-1)⊙f(t)+i(t)⊙g(t)
更新输出门输出:
o(t)=σ(Woh(t-1)+Uoxt+bo)
h(t)=o(t)⊙tanh(s(t))
其中,f(t)为遗忘门的输出;输入门的第一部分使用σ函数,输出为i(t);输入门的第二部分使用了tanh激活函数,输出为g(t);s(t)为LSTM的长期状态信息;o(t)为当前神经元的输出,h(t)为将要传递给下一步的短期隐藏状态信息;遗忘门的隐藏层神经元的权重系数和偏置项分别为Wf、Uf、bf,输入门的隐藏层权重系数和偏置项分别为Wi、Ui、bi、Wg、Ug、bg,输出层的隐藏层权重系数和偏置项为Wo、Uo、bo;⊙表示Hadarmad乘积。
实施例1
网络流量并行LSTM预测器在t-1时刻用p(t)模拟一个流量突变的影响因素,导致t时刻的流量数据发生了大幅度的变化,则在t-1时刻由突发预测器得到一个t时刻的预测值,然后在t时刻将预测值与实际值进行比较,分下面两种情况:
第一种情况,如果在t时刻实际流量x(t)与主预测器的预测值的误差在相应的门限以内且与突发预测器的误差大于相应的门限,则认为没有突发因素产生,也没有突发流量,直接由主预测器输出一个在t时刻利用自己的内部状态做出的t+1时刻的预测值。
第二种情况,如果满足实际值与主预测器的误差大于相应的门限,实际值与突发预测器的误差在相应的门限以内,则认为已经发生一个突发流量;
此时,突发预测器将内部状态拷贝给主预测器,由主预测器利用拷贝来的内部状态和t时刻的输入x(t)去预测t+1时刻的流量值,即更新了主预测器在t时刻利用自己的内部状态做出的t+1时刻的预测值。
上述预测过程,实际是用p(t)模拟产生一个突发事件,使LSTM由单变量(x(t))预测变为多变量(x(t)与p(t))预测,虽然对突发事件发生的t时刻的预测值没有改变,但由于检测出了突发流量产生的t时刻并在t时刻更新了主预测器的内部状态,修正了t+1时刻的流量预测值。

Claims (6)

1.一种基于LSTM的网络流量预测方法,其特征在于,包括步骤如下:
根据流量信号得到突发脉冲串,将流量信号和突发脉冲串输入到网络流量并行LSTM预测器进行流量预测;其中,所述网络流量并行LSTM预测器包括两个LSTM预测器,两个LSTM预测器内部各层神经网络的系数相同,内部状态信息可以交换;所述突发脉冲串是一个用于模拟突发事件的影响因素信号;
所述网络流量并行LSTM预测器包括主预测器,突发预测器;
所述网络流量并行LSTM预测器进行流量预测包括如下步骤:
S310在第t-1时刻,对于主预测器,将当前的内部状态c1(t-1)、h1(t-1)暂存在状态暂存器中,然后以x(t-1)为输入,即xt-1=[x(t-1)0],利用前向算法得到并输出下一个时刻的流量预测值
Figure FDA0003163289990000011
将其输出,同时也存储在结果暂存器中;对于突发预测器,首先将c1(t-1)、h1(t-1)拷贝过来作为自己的内部状态,然后以x(t-1)和当前突发脉冲p(t-1)作为输入,即xt-1=[x(t-1)p(t-1)],利用前向算法得到下一个时刻的流量预测值
Figure FDA0003163289990000012
将其保存在突发预测器的预测结果暂存器中,同时将利用前向算法得到的状态c2(t)、h2(t)和输入脉冲p(t-1)也暂存到状态和输入暂存器中;
S320在第t时刻,对于主预测器,以x(t)为输入,利用前向算法得到并输出下一个时刻的流量预测值
Figure FDA0003163289990000013
对于突发预测器,利用步骤S310得到下一时刻的预测值
Figure FDA0003163289990000014
并保存;由于获得x(t)的真实值,将其与步骤S310暂存的
Figure FDA0003163289990000015
Figure FDA0003163289990000016
进行比较,如果满足
Figure FDA0003163289990000017
Figure FDA0003163289990000018
Th1和Th2为一个经验的阈值,则认为真实流量中发生了突发流量,则启动步骤S330的对主预测器内部状态和预测值
Figure FDA0003163289990000019
的更新过程,否则,回到步骤S310;
S330对突发流量预测值的更新过程:
用之前暂存的突发预测器的状态c2(t)、h2(t)更新主预测器的内部状态寄存器,并将输入值脉冲p(t)拷贝到主预测器的输入端作为输入之一,在主预测器上利用x(t)、脉冲信号p(t)和内部状态c2(t)、h2(t)得到t+1时刻新的预测值
Figure FDA0003163289990000021
并用该值更新步骤S320得到的t+1时刻的原始预测值
Figure FDA0003163289990000022
并输出;更新以后,将主预测器利用前向算法得到的内部状态c1(t)、h1(t)保存到状态暂存器之中。
2.根据权利要求1所述的基于LSTM的网络流量预测方法,其特征在于,所述的根据流量信号得到突发脉冲串的方法:
采用突变点检测算法来检测流量的突变点,利用这些突变点构建突发脉冲串。
3.根据权利要求2所述的基于LSTM的网络流量预测方法,其特征在于,所述突变点包括流量的低点、高点,其检测方法包括:
S110设定流量变化的第一阈值和第二阈值,查找历史数据的深度范围值,后退步长值;
S120查找所述深度范围值区域内的流量低点,如果该低点是当前低点,则进行下一步,并将其记录成一个低点;
如果当前低点比上一个低点值之差小于第二阈值,则不做处理;否则,认为找到一个新的低点,将上一个后退步长值个时间点内,高于当前低点的值清空;
S130查找所述深度范围值区域内的流量高点,如果该高点是当前高点,则进行下一步,并将其记录为一个高点;
如果当前高点比上一个高点值之差小于第一阈值,则不做处理;否则,认为找到一个新的高点,将上一个后退步长值个时间点内,低于当前高点的值清空。
4.根据权利要求1所述的基于LSTM的网络流量预测方法,其特征在于,所述主预测器,采用流量信号作为输入,输出第一预测结果;所述突发预测器,流量信号和突发脉冲串作为输入,得到第二预测结果,第二预测结果不直接输出,而是用于与第一预测结果进行比较,以确定突发事件到来的时刻。
5.根据权利要求4所述的基于LSTM的网络流量预测方法,其特征在于,所述主预测器、所述突发预测器事先进行训练,其训练方法包括:
S210利用步骤S110-S130,从训练用的流量信号中检测出训练用的突发脉冲串;
S220利用训练用的流量信号与训练用的突发脉冲串对主预测器和突发预测器分别进行训练。
6.根据权利要求1所述的基于LSTM的网络流量预测方法,其特征在于,所述前向算法,包括:
更新遗忘门输出:
f(t)=σ(Wfh(t-1)+Ufxt+bf)
更新输入门两部分输出:
i(t)=σ(Wih(t-1)+Uixt+bi)
g(t)=tanh(Wgh(t-1)+Ugxt+bg)
更新神经元长期状态:
s(t)=s(t-1)⊙f(t)+i(t)⊙g(t)
更新输出门输出:
o(t)=σ(Woh(t-1)+Uoxt+bo)
h(t)=o(t)⊙tanh(s(t))
其中,f(t)为遗忘门的输出;输入门的第一部分使用σ函数,输出为i(t);输入门的第二部分使用了tanh激活函数,输出为g(t);s(t)为LSTM的长期状态信息;o(t)为当前神经元的输出,h(t)为将要传递给下一步的短期隐藏状态信息;遗忘门的隐藏层神经元的权重系数和偏置项分别为Wf、Uf、bf,输入门的隐藏层权重系数和偏置项分别为Wi、Ui、bi、Wg、Ug、bg,输出层的隐藏层权重系数和偏置项为Wo、Uo、bo;⊙表示Hadarmad乘积。
CN201910900159.1A 2019-09-23 2019-09-23 一种基于lstm的网络流量预测方法 Active CN110545208B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910900159.1A CN110545208B (zh) 2019-09-23 2019-09-23 一种基于lstm的网络流量预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910900159.1A CN110545208B (zh) 2019-09-23 2019-09-23 一种基于lstm的网络流量预测方法

Publications (2)

Publication Number Publication Date
CN110545208A CN110545208A (zh) 2019-12-06
CN110545208B true CN110545208B (zh) 2021-10-15

Family

ID=68714317

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910900159.1A Active CN110545208B (zh) 2019-09-23 2019-09-23 一种基于lstm的网络流量预测方法

Country Status (1)

Country Link
CN (1) CN110545208B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114124733B (zh) * 2020-08-27 2024-05-14 中国电信股份有限公司 业务流量的预测方法和装置
CN113992542B (zh) * 2021-10-19 2023-05-12 中国科学院计算机网络信息中心 一种基于新增流数目特征的在线网络流量预测方法及系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106789297A (zh) * 2016-12-29 2017-05-31 淮海工学院 基于神经网络的网络流量预测系统及其流量预测方法
CN109873712A (zh) * 2018-05-18 2019-06-11 新华三信息安全技术有限公司 一种网络流量预测方法及装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10362332B2 (en) * 2017-03-14 2019-07-23 Google Llc Multi-level compound prediction
US10402687B2 (en) * 2017-07-05 2019-09-03 Perceptive Automata, Inc. System and method of predicting human interaction with vehicles
CN109670571A (zh) * 2017-10-16 2019-04-23 优酷网络技术(北京)有限公司 神经网络预测方法及装置
CN108764540B (zh) * 2018-05-16 2021-11-30 杭州电子科技大学 基于并行lstm串联dnn的供水管网压力预测方法
CN109462520B (zh) * 2018-11-19 2021-12-10 电子科技大学 基于lstm模型的网络流量资源态势预测方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106789297A (zh) * 2016-12-29 2017-05-31 淮海工学院 基于神经网络的网络流量预测系统及其流量预测方法
CN109873712A (zh) * 2018-05-18 2019-06-11 新华三信息安全技术有限公司 一种网络流量预测方法及装置

Also Published As

Publication number Publication date
CN110545208A (zh) 2019-12-06

Similar Documents

Publication Publication Date Title
Huang et al. A diffusion-neural-network for learning from small samples
Tian et al. On-line prediction of software reliability using an evolutionary connectionist model
CN110545208B (zh) 一种基于lstm的网络流量预测方法
CN109697512B (zh) 基于贝叶斯网络的个人数据分析方法及计算机存储介质
KR20050007309A (ko) 자동 신경망 모델 생성 및 유지
KR102492205B1 (ko) 역강화학습 기반 배달 수단 탐지 장치 및 방법
JP3102918B2 (ja) ニューラルネットワーク学習方法およびこの学習方法を用いた信号処理装置
CN110309537B (zh) 一种飞行器的智能健康预测方法及系统
CN114118375B (zh) 一种基于时序图Transformer的连续动态网络表征学习方法
WO2019160138A1 (ja) 因果推定装置、因果推定方法、及びプログラム
CN112990464B (zh) 一种知识追踪方法及系统
CN110580213A (zh) 一种基于循环标记时间点过程的数据库异常检测方法
CN114861980A (zh) 一种基于bp-lstm模型的碳预测方法
CN116402352A (zh) 一种企业风险预测方法、装置、电子设备及介质
CN116028315A (zh) 作业运行预警方法、装置、介质及电子设备
CN108459933B (zh) 一种基于深度递归网络的大数据计算机系统故障检测方法
CN107480786B (zh) 基于输出状态限制的循环神经网络轨迹似然概率计算方法
WO2024103639A1 (zh) 支持在线学习的气体识别方法、装置、设备、介质和产品
CN111783940A (zh) 基于ga-bp神经网络算法的降低火灾误警率的方法
CN116258253A (zh) 一种基于贝叶斯神经网络的车辆od预测方法
JP7214672B2 (ja) 情報処理装置、情報処理方法及びコンピュータプログラム
EP1847856A1 (en) Method and system for forecasting an ambient variable
CN110489671B (zh) 一种基于encoder-decoder模型的道路充电桩推荐方法
CN114116692A (zh) 一种基于mask和双向模型的缺失POI轨迹补全方法
CN113837443A (zh) 基于深度BiLSTM的变电站线路负载预测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant