CN110798365A - 基于神经网络的流量预测方法及装置 - Google Patents

基于神经网络的流量预测方法及装置 Download PDF

Info

Publication number
CN110798365A
CN110798365A CN202010009148.7A CN202010009148A CN110798365A CN 110798365 A CN110798365 A CN 110798365A CN 202010009148 A CN202010009148 A CN 202010009148A CN 110798365 A CN110798365 A CN 110798365A
Authority
CN
China
Prior art keywords
sequence
neural network
historical
traffic
flow data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010009148.7A
Other languages
English (en)
Other versions
CN110798365B (zh
Inventor
柳泽波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ant fortune (Shanghai) Financial Information Service Co., Ltd
Original Assignee
Alipay Hangzhou Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alipay Hangzhou Information Technology Co Ltd filed Critical Alipay Hangzhou Information Technology Co Ltd
Priority to CN202010009148.7A priority Critical patent/CN110798365B/zh
Publication of CN110798365A publication Critical patent/CN110798365A/zh
Application granted granted Critical
Publication of CN110798365B publication Critical patent/CN110798365B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14Network analysis or design
    • H04L41/147Network analysis or design for predicting network behaviour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/06Management of faults, events, alarms or notifications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14Network analysis or design
    • H04L41/142Network analysis or design using statistical or mathematical methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00Arrangements for monitoring or testing data switching networks
    • H04L43/08Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0876Network utilisation, e.g. volume of load or congestion level

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Mathematical Analysis (AREA)
  • Probability & Statistics with Applications (AREA)
  • Pure & Applied Mathematics (AREA)
  • Algebra (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Optimization (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Environmental & Geological Engineering (AREA)
  • Traffic Control Systems (AREA)

Abstract

本说明书实施例提供基于神经网络的流量预测方法及装置,其中,所述基于神经网络的流量预测方法包括:获取业务链路的节点在目标时间对应的历史时间周期内的历史流量数据组成的流量数据矩阵,并将所述流量数据矩阵引入注意力机制之后输入采用第一神经网络的编码器进行特征编码,输出所述流量数据矩阵的特征序列,然后将所述特征序列引入注意力机制之后与链路指标序列和对应的时间区间的流量数据序列进行融合,获得目标特征序列,最后将所述目标特征序列输入采用第二神经网络的解码器进行流量预测,输出所述目标时间的预测流量。

Description

基于神经网络的流量预测方法及装置
技术领域
本说明书实施例涉及神经网络技术领域,特别涉及基于神经网络的流量预测方法及装置。
背景技术
在实时计算链路中,任务节点间形成依赖关系,上游任务的输出流量直接影响到下游任务,当某个任务节点的输入流量超过该任务节点的资源负载范围,会造成该任务节点对输入数据无法及时处理而产生延迟,甚至会导致故障。但对于计算实时性要求较高的应用来讲,无论是延迟还是故障都不能被接受,因此需要对任务节点的输入、输出流量进行监控,通过监控来及时发现流量变化,从而来确定实时计算链路中某任务节点存在的流量异常。
发明内容
有鉴于此,本说明书实施例提供了一种基于神经网络的流量预测方法、一种基于神经网络的流量预测装置、一种计算设备以及一种计算机可读存储介质。
本说明书实施例提供一种基于神经网络的流量预测方法,包括:
获取业务链路的节点在目标时间对应的历史时间周期内的历史流量数据组成的流量数据矩阵;
将所述流量数据矩阵引入注意力机制之后输入编码器进行特征编码,输出所述流量数据矩阵的特征序列,所述编码器采用第一神经网络;
将所述特征序列引入注意力机制之后与链路指标序列和所述目标时间对应的时间区间的流量数据序列进行融合,获得目标特征序列;所述链路指标序列由所述业务链路的链路指标数据编码后获得;
将所述目标特征序列输入解码器进行解码和流量预测,输出所述目标时间的预测流量,所述解码器采用第二神经网络。
可选的,所述获取业务链路的节点在目标时间对应的历史时间周期内的历史流量数据组成的流量数据矩阵步骤执行之前,还包括:
读取所述业务链路的节点在所述历史时间周期内历史时间区间的各历史时间点的流量数据,作为所述历史时间周期内的历史流量数据;
对所述流量数据进行标准化处理,获得标准化流量数据;
对所述标准化流量数据进行归一化处理,获得归一化流量数据;
基于所述归一化流量数据构建所述流量数据矩阵。
可选的,所述读取所述业务链路在所述历史时间周期内历史时间区间的各历史时间点的流量数据,作为所述历史时间周期内的历史流量数据步骤执行之后,且所述对所述流量数据进行标准化处理,获得标准化流量数据步骤执行之前,还包括:
判断所述历史流量数据中是否存在流量数据存在缺失的历史时间点;
若是,根据存在流量数据缺失的缺失时间点对应的历史时间点的流量数据,计算所述缺失时间点的流量数据;
其中,所述缺失时间点的流量数据包括:所述缺失时间点在所述历史时间周期内每个历史时间区间对应的历史时间点的流量数据的中位数,所述缺失时间点所属的历史时间区间的各历史时间点的流量数据的中位数。
可选的,所述获取业务链路的节点在目标时间对应的历史时间周期内的历史流量数据组成的流量数据矩阵步骤执行之后,且所述将所述流量数据矩阵引入注意力机制之后输入编码器进行特征编码,输出所述流量数据矩阵的特征序列步骤执行之前,包括:
计算所述流量数据矩阵中各历史时间区间的各时间点的第一时间注意力权重;所述第一时间注意力权重对应于所述历史时间区间;
根据所述第一时间注意力权重和所述流量数据矩阵确定所述编码器的输入矩阵。
可选的,所述第一时间注意力权重,采用如下方式计算:
Figure 315702DEST_PATH_IMAGE001
=
Figure 705412DEST_PATH_IMAGE003
其中,
Figure 443561DEST_PATH_IMAGE004
为所述第一神经网络的隐状态变量,为所述第一神经网络的细胞状态变量,
Figure 13399DEST_PATH_IMAGE006
Figure 503286DEST_PATH_IMAGE007
Figure 95942DEST_PATH_IMAGE008
为所述第一神经网络的可训练参数,
Figure 323978DEST_PATH_IMAGE010
为所述第一神经网络的输入,[ ]表示连接操作,
Figure 351977DEST_PATH_IMAGE011
为第k个历史时间区间内时间点的第一时间注意力权重。
可选的,所述将所述流量数据矩阵引入注意力机制之后输入编码器进行特征编码,输出所述流量数据矩阵的特征序列步骤执行之后,且所述将所述特征序列引入注意力机制之后与链路指标序列和所述目标时间对应的时间区间的流量数据序列进行融合,获得目标特征序列步骤执行之前,包括:
计算所述特征序列中特征数据的第二时间注意力权重;所述第二时间注意力权重对应于所述时间点;
根据所述第二时间注意力权重和所述特征序列确定与所述链路指标序列和所述流量数据序列进行融合的待融合特征序列。
可选的,所述第二时间注意力权重,采用如下方式计算:
Figure 64718DEST_PATH_IMAGE012
=
Figure 788479DEST_PATH_IMAGE013
Figure 953881DEST_PATH_IMAGE014
其中,
Figure 785571DEST_PATH_IMAGE015
为所述第二神经网络的隐状态变量,
Figure 352818DEST_PATH_IMAGE016
为所述第二神经网络的细胞状态变量,
Figure 244551DEST_PATH_IMAGE017
Figure 897249DEST_PATH_IMAGE018
Figure 532630DEST_PATH_IMAGE019
Figure 954384DEST_PATH_IMAGE020
为所述第二神经网络的可训练参数,
Figure 17018DEST_PATH_IMAGE021
为所述第一神经网络的隐状态,[ ]表示连接操作,为第j个时间点的第二时间注意力权重。
可选的,所述将所述特征序列引入注意力机制之后与链路指标序列和所述目标时间对应的时间区间的流量数据序列进行融合,获得目标特征序列步骤执行之前,包括:
获取所述业务链路的链路指标数据并进行编码,获得所述链路指标序列。
可选的,所述将所述特征序列引入注意力机制之后与链路指标序列和所述目标时间对应的时间区间的流量数据序列进行融合,获得目标特征序列,包括:
将所述特征序列引入注意力机制之后与所述链路指标序列和所述流量数据序列进行连接,获得所述目标特征序列;
或者,
基于所述特征序列、所述链路指标序列以及所述流量数据序列各自对应的序列权重,将所述特征序列引入注意力机制之后与所述链路指标序列和所述流量数据序列进行连接,获得所述目标特征序列。
可选的,所述第一神经网络包括下述至少一项:长短期记忆神经网络和循环神经网络。
所述第二神经网络包括下述至少一项:长短期记忆神经网络和循环神经网络。
本说明书实施例还提供一种基于神经网络的流量预测装置,包括:
流量数据矩阵获取模块,被配置为获取业务链路的节点在目标时间对应的历史时间周期内的历史流量数据组成的流量数据矩阵;
特征编码模块,被配置为将所述流量数据矩阵引入注意力机制之后输入编码器进行特征编码,输出所述流量数据矩阵的特征序列,所述编码器采用第一神经网络;
序列融合模块,被配置为将所述特征序列引入注意力机制之后与链路指标序列和所述目标时间对应的时间区间的流量数据序列进行融合,获得目标特征序列;所述链路指标序列由所述业务链路的链路指标数据编码后获得;
流量预测模块,被配置为将所述目标特征序列输入解码器进行解码和流量预测,输出所述目标时间的预测流量,所述解码器采用第二神经网络。
本说明书实施例还提供一种计算设备,包括:
存储器和处理器;
所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令:
获取业务链路的节点在目标时间对应的历史时间周期内的历史流量数据组成的流量数据矩阵;
将所述流量数据矩阵引入注意力机制之后输入编码器进行特征编码,输出所述流量数据矩阵的特征序列,所述编码器采用第一神经网络;
将所述特征序列引入注意力机制之后与链路指标序列和所述目标时间对应的时间区间的流量数据序列进行融合,获得目标特征序列;所述链路指标序列由所述业务链路的链路指标数据编码后获得;
将所述目标特征序列输入解码器进行解码和流量预测,输出所述目标时间的预测流量,所述解码器采用第二神经网络。
本说明书实施例还提供一种计算机可读存储介质,其存储有计算机指令,该指令被处理器执行时实现所述基于神经网络的流量预测方法的步骤。
本说明书一实施例提供的基于神经网络的流量预测方法,在获取业务链路的节点在历史时间周期内的流量数据矩阵的基础上,通过将引入注意力机制的流量数据矩阵输入编码器进行特征编码,并对编码器输出的特征序列引入注意力机制并进行特征融合,不仅通过引入注意力机制充分考虑历史流量数据之间的影响,还通过特征融合提升了特征的丰富程度和精准程度,并且在此基础上进行的流量预测的准确度更高。
附图说明
图1是本说明书实施例提供的一种基于神经网络的流量预测方法处理流程图;
图2是本说明书实施例提供的一种基于神经网络的流量预测架构的示意图;
图3是本说明书实施例提供的一种基于神经网络的流量预测装置的示意图;
图4是本说明书实施例提供的一种计算设备的结构框图。
具体实施方式
在下面的描述中阐述了很多具体细节以便于充分理解本说明书。但是本说明书能够以很多不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本说明书内涵的情况下做类似推广,因此本说明书不受下面公开的具体实施的限制。
在本说明书一个或多个实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本说明书一个或多个实施例。在本说明书一个或多个实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本说明书一个或多个实施例中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本说明书一个或多个实施例中可能采用术语第一、第二等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本说明书一个或多个实施例范围的情况下,第一也可以被称为第二,类似地,第二也可以被称为第一。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
本说明书一个实施例提供一种基于神经网络的流量预测方法、一种基于神经网络的流量预测装置、一种计算设备以及一种计算机可读存储介质。以下分别结合本说明书提供的实施例的附图逐一进行详细说明,并且对方法的各个步骤进行说明。
本说明书提供的一种基于神经网络的流量预测方法实施例如下:
参照附图1,其示出了本说明书实施例提供的一种基于神经网络的流量预测方法处理流程图,参见附图2,其示出了本说明书实施例提供的一种基于神经网络的流量预测架构的示意图。
步骤S102,获取业务链路的节点在目标时间对应的历史时间周期内的历史流量数据组成的流量数据矩阵。
实际应用中,所述业务链路在进行业务处理的过程中,需要对所述业务链路中节点的输入、输出流量进行监控,但监控仅能发现已经发生的流量变化,而无法预知未来可能发生的流量变化异常。本实施例提供的所述基于神经网络的流量预测方法,利用采用编码器和解码器来预测所述业务链路中节点的预期流量,以确定所述节点可能存在的流量异常状况,从而能及时进行预警应急处理;同时,利用所述编码器的输入和所述解码器的输入中引入注意力机制,以此来关注所述业务链路中节点在各时间点的流量数据之间的影响,并且能够有效提取对流量预测最关键的信息,提升流量数据特征的丰富程度和精准程度,从而在此基础上提升流量预测的预测准确度。
本实施例所述目标时间,是指对所述节点进行流量预测的时间点对应的时间信息。比如业务链路中任务节点当前时间点为t,对该任务节点进行流量预测的时间点为t+1。需要说明的是,在对所述业务链路中节点进行流量预测的过程中,不仅可以对所述节点的流量进行单步预测,还可以对所述节点的流量进行多步预测,本实施例以单步预测为例进行说明,多步预测与单步预测实现方式类似,参照本实施例提供的单步预测的具体实施过程即可。
本实施例中,所述业务链路中节点的流量数据按照时间周期进行划分,每个时间周期内包含多个时间区间,每个时间区间包含多个时间点,所述业务链路中节点的流量数据是以时间点为最小时间单位进行统计。例如,业务链路中任务节点的流量数据的时间周期设为7日,每日当中以分钟、秒或者毫秒为时间点记录业务链路中任务节点的流量数据。
所述历史时间周期,是指所述目标时间对应的历史时间周期。例如,预测业务链路中任务节点在D日的t+1时间点(目标时间点)的流量数据的过程中,t+1时间点对应的历史时间周期为D-7日至D-1日这7日组成的历史时间周期,而业务链路中任务节点在D日的t+1时间点的流量数据的预测依赖于两部分流量数据,其一是D-7日至D-1日这7日期间每日当中t-30时间点(历史时间点)至t时间点(历史时间点)之间的流量数据,D-7日至D-1日这期间每日当中t-30时间点(历史时间点)至t时间点(历史时间点)为一个历史时间区间;其二是D日当中t-30时间点至t时间点之间的流量数据,D日当中t-30时间点至t时间点为一个时间区间,且同样与D日的t+1时间点具有对应关系。
具体实施时,通过获取所述业务链路中节点在所述目标时间对应的历史周期内的历史流量数据组成的所述流量数据矩阵,该流量数据矩阵即为编码器的输入。例如,预测业务链路中任务节点在D日的t+1时间点的流量数据的过程中,t+1时间点对应的历史时间周期为D-7日至D-1日这7日组成的历史时间周期,则根据D-7日至D-1日这期间每日当中t-30时间点至t时间点的流量数据构建的流量数据矩阵为30*7的流量数据矩阵。
由此可见,所述流量数据矩阵依赖于所述历史流量数据生成,因此在获取所述流量数据矩阵之前,需将所述业务链路的历史流量数据转化为所述流量数据矩阵,本实施例提供的一种可选实施方式中,采用如下方式实现所述历史流量数据至所述流量数据矩阵的转化:
1)读取所述业务链路中节点在所述历史时间周期内历史时间区间的各历史时间点的流量数据,作为所述历史时间周期内的历史流量数据;
2)对所述流量数据进行标准化处理,获得标准化流量数据;
3)对所述标准化流量数据进行归一化处理,获得归一化流量数据;
4)基于所述归一化流量数据构建所述流量数据矩阵。
例如,预测业务链路中任务节点在D日的t+1时间点的流量数据的过程中,t+1时间点对应的历史时间周期为D-7日至D-1日这7日组成的历史时间周期;在进行从历史流量数据至流量数据矩阵的转化过程中,首先从业务链路的数据存储空间读取任务节点在D-7日至D-1日这期间每日当中t-30时间点(历史时间点)至t时间点(历史时间点)的流量数据;其次对读取的流量数据进行标准化处理和归一化处理,以此来提升历史流量数据的有效性和准确性;最后在标准化处理和归一化处理之后获得的流量数据的基础上构建流量数据矩阵。
实际应用中,获取的所述业务链路中节点在所述历史时间周期内的所述历史流量数据中,难免会存在一个或者多个历史时间点的流量数据存在缺失的情况,为了降低流量数据缺失对流量数据矩阵的影响,进而降低对从流量数据矩阵出发进行的流量预测的影响,本实施例提供的一种可选实施方式中,在上述读取到所述历史时间周期内的历史流量数据之后,且对所述历史流量数据进行标准化处理之前,采用如下方式来对所述历史流量数据中缺失的流量数据进行补充:
判断所述历史流量数据中是否存在流量数据存在缺失的历史时间点;
若是,根据存在流量数据缺失的缺失时间点对应的历史时间点的流量数据,计算所述缺失时间点的流量数据;
其中,所述缺失时间点的流量数据,等于所述缺失时间点在所述历史时间周期内每个历史时间区间对应的历史时间点的流量数据的中位数;
例如,D-7日至D-1日这7日组成的历史时间周期中,D-1日当中t-10时间点的流量数据缺失,则计算D-7日至D-2日这6日当中每日t-10时间点的流量数据的中位数,作为业务链路中任务节点在D-1日当中t-10时间点的流量数据;
除此之外,还可以计算所述缺失时间点所属的历史时间区间的各历史时间点的流量数据的中位数,作为所述缺失时间点的流量数据,对此不做限定;
若否,表明所述历史流量数据中不存在缺失流量数据的历史时间点,执行后续对所述历史流量数据的标准化处理即可。
步骤S104,将所述流量数据矩阵引入注意力机制之后输入编码器进行特征编码,输出所述流量数据矩阵的特征序列。
在上述获取到所述历史时间周期的流量数据矩阵的基础上,在时间维度将所述流量数据矩阵引入注意力机制,以此来实现所述历史流量数据的特征提取的高效性,同时可以关注所述历史流量数据相互之间的影响,并且在将所述流量数据矩阵引入注意力机制之后输入所述编码器进行特征编码的过程中,能够更加有效的提取关键特征。
需要说明的是,所述编码器采用第一神经网络,本实施例中,所述第一神经网络为LSTM(Long Short Term Memory)神经网络,即长短期记忆神经网络。除此之外,所述第一神经网络还可以采用GRU(Gated Recurrent Unit)神经网络、循环神经网络(RecurrentNeural Network,RNN)等神经网络,具体实现方式与基于LSTM神经网络的实现方式类似,参照本实施例提供的基于LSTM神经网络的实现方式即可,本实施例不再一一赘述。
本实施例提供的一种可选实施方式中,所述流量数据矩阵采用如下方式引入注意力机制:
计算所述流量数据矩阵中各历史时间区间的各时间点的第一时间注意力权重;所述第一时间注意力权重对应于所述历史时间区间;
根据所述第一时间注意力权重和所述流量数据矩阵确定所述编码器的输入矩阵。
其中,所述第一时间注意力权重,采用如下方式计算:
Figure 596084DEST_PATH_IMAGE001
=
Figure 872344DEST_PATH_IMAGE002
Figure 105879DEST_PATH_IMAGE003
其中,
Figure 467591DEST_PATH_IMAGE004
为所述编码器采用的第一神经网络的隐状态变量,
Figure 444774DEST_PATH_IMAGE005
为所述第一神经网络的细胞状态变量,
Figure 841120DEST_PATH_IMAGE006
Figure 245557DEST_PATH_IMAGE007
Figure 94564DEST_PATH_IMAGE008
Figure 609859DEST_PATH_IMAGE009
为所述第一神经网络的可训练参数,
Figure 126291DEST_PATH_IMAGE010
为所述第一神经网络的输入,[ ]表示连接操作,
Figure 701629DEST_PATH_IMAGE011
为第k个历史时间区间内时间点的第一时间注意力权重。
Figure 303511DEST_PATH_IMAGE023
的计算与的计算公式一致,二者表示的含义也相同,n表示
Figure 727857DEST_PATH_IMAGE024
能够取值的最大值,i的取值为1至n。
沿用上例,对于根据D-7日至D-1日这期间每日当中t-30时间点至t时间点的流量数据构建的流量数据矩阵为30*7的流量数据矩阵,计算流量数据矩阵中各历史时间点的天(日)注意力权重,如附图2所示,天注意力权重关注的是D-7日至D-1日的历史流量数据在天这一时间级别对t+1时间点的影响;具体的,历史时间点的天注意力权重采用如下公式计算:
Figure 739675DEST_PATH_IMAGE001
=
Figure 300625DEST_PATH_IMAGE002
Figure 688881DEST_PATH_IMAGE003
其中,
Figure 648747DEST_PATH_IMAGE004
为编码器采用的LSTM神经网络的隐状态变量,
Figure 565887DEST_PATH_IMAGE005
为LSTM神经网络的细胞状态变量,
Figure 142362DEST_PATH_IMAGE006
Figure 883102DEST_PATH_IMAGE008
Figure 236723DEST_PATH_IMAGE009
为LSTM神经网络的可训练参数,
Figure 34915DEST_PATH_IMAGE010
为LSTM神经网络的输入,[ ]表示连接操作,
Figure 233815DEST_PATH_IMAGE011
为第k个历史时间区间内时间点的天注意力权重。
Figure 168273DEST_PATH_IMAGE023
的计算与
Figure 958374DEST_PATH_IMAGE001
的计算公式一致,二者表示的含义也相同,n表示能够取值的最大值,i的取值为1至n。
具体实施时,在所述流量数据矩阵引入注意力机制的基础上,为了更加精准关注所述历史流量数据相互之间的影响,针对所述编码器输出的所述流量数据矩阵的特征序列,在时间维度针对所述特征序列引入注意力机制,进一步提升了所述历史流量数据的特征丰富程度。
本实施例提供的一种可选实施方式中,所述特征序列采用如下方式引入注意力机制:
计算所述特征序列中特征数据的第二时间注意力权重;所述第二时间注意力权重对应于所述时间点;
根据所述第二时间注意力权重和所述特征序列确定与所述链路指标序列和所述流量数据序列进行融合的待融合特征序列。
其中,所述第二时间注意力权重,采用如下方式计算:
Figure 980874DEST_PATH_IMAGE012
=
Figure 199683DEST_PATH_IMAGE014
其中,
Figure 706887DEST_PATH_IMAGE015
为解码器采用的第二神经网络的隐状态变量,
Figure 778749DEST_PATH_IMAGE016
为所述第二神经网络的细胞状态变量,
Figure 422219DEST_PATH_IMAGE017
Figure 554124DEST_PATH_IMAGE018
Figure 283045DEST_PATH_IMAGE019
Figure 893018DEST_PATH_IMAGE020
为所述第二神经网络的可训练参数,
Figure 656575DEST_PATH_IMAGE021
为所述第一神经网络的隐状态,[ ]表示连接操作,为第j个时间点的第二时间注意力权重。
Figure 910019DEST_PATH_IMAGE026
的计算与
Figure 338331DEST_PATH_IMAGE012
的计算公式一致,二者表示的含义也相同,n表示
Figure 956394DEST_PATH_IMAGE027
能够取值的最大值,m的取值为1至n。
沿用上例,对于编码器输出的D-7日至D-1日这期间的流量数据的特征序列,计算特征序列中各时间点的时间点注意力权重,如附图2所示,时间点注意力权重关注的是D-7日至D-1日的历史流量数据在时间点这一时间级别对t+1时间点的影响;具体的,特征序列中每个时间点的时间点注意力权重采用如下公式计算:
Figure 898942DEST_PATH_IMAGE012
=
Figure 602456DEST_PATH_IMAGE013
Figure 554231DEST_PATH_IMAGE014
其中,
Figure 26801DEST_PATH_IMAGE015
为解码器采用的LSTM神经网络的隐状态变量,
Figure 405830DEST_PATH_IMAGE016
为解码器采用的LSTM神经网络的细胞状态变量,
Figure 596640DEST_PATH_IMAGE021
为编码器采用的LSTM神经网络的隐状态变量,
Figure 86527DEST_PATH_IMAGE017
Figure 494691DEST_PATH_IMAGE019
为解码器采用的LSTM(Long Short Term Memory)神经网络的可训练参数,[ ]表示连接操作,为第j天内时间点的天注意力权重。
Figure 647958DEST_PATH_IMAGE026
的计算与的计算公式一致,二者表示的含义也相同,n表示
Figure 534192DEST_PATH_IMAGE027
能够取值的最大值(即:7),m的取值为1至n(即,m的取值为1至7)。
步骤S106,将所述特征序列引入注意力机制之后与链路指标序列和所述目标时间对应的时间区间的流量数据序列进行融合,获得目标特征序列。
上述将所述特征序列引入注意力机制之后,获得所述特征序列对应的所述待融合特征序列,在此,将所述特征序列引入注意力机制之后获得的所述待融合特征序列与所述链路指标序列和所述流量数据序列进行融合,其中,所述链路指标序列由所述业务链路的链路指标数据编码后获得,通过多元数据融合机制来考虑所述业务链路的链路指标数据对流量的影响,挖掘了所述业务链路的外部要素对流量的影响,不仅提高了在此基础上进行的流量预测的准确性,同时也提升了所述业务链路的数据利用效率。
本实施例提供的一种可选实施方式中,通过建立所述待融合特征序列、所述链路指标序列和所述流量数据序列的连接来实现三者的融合,融合后获得所述目标特征序列,该目标特征序列也即是所述解码器进行流量预测的输入。
除此之外,在融合所述待融合特征序列、所述链路指标序列和所述流量数据序列三者时,还可以针对所述特征序列、所述链路指标序列以及所述流量数据序列引入权重系数,基于所述特征序列对应的序列权重、所述链路指标序列对应的序列权重以及所述流量数据序列对应的序列权重,建立所述特征序列引入注意力机制之后与所述链路指标序列和所述流量数据序列进行连接,连接后获得所述目标特征序列。
沿用上例,将业务链路的外部指标数据编码后的链路指标序列表示为ex,将业务链路中任务节点在D日的流量数据表示为,并将编码器输出的特征序列引入时间点注意力权重之后获得的待融合序列表示为,如附图2所示,则这三者融合后的目标特征序列可以表示为:
Figure 559282DEST_PATH_IMAGE030
其中,[ ]表示连接操作。
步骤S108,将所述目标特征序列输入解码器进行解码和流量预测,输出所述目标时间的预测流量。
根据上述进行序列融合获得的所述目标融合序列,将所述目标融合序列作为所述解码器的输入,具体的,将所述目标融合序列输入所述解码器进行解码的方式对所述业务链路中节点的流量数据进行预测,输出所述节点在所述目标时间的预测流量。
所述解码器采用第二神经网络,本实施例中,所述第二神经网络为LSTM(LongShort Term Memory)神经网络,即长短期记忆神经网络。除此之外,所述第二神经网络还可以采用GRU(Gated Recurrent Unit)神经网络、循环神经网络(Recurrent NeuralNetwork,RNN)等神经网络,具体实现方式与基于LSTM(Long Short Term Memory)神经网络的实现方式类似,参照本实施例提供的基于LSTM(Long Short Term Memory)神经网络的实现方式即可,本实施例不再一一赘述。
沿用上例,将目标特征序列输入解码器当中,由解码器采用的LSTM神经网络进行特征解码,LSTM神经网络中最后一个单元输出的结果即为业务链路中任务节点在t+1时间点的流量预测值,如附图2所示,其中,解码器内部的计算具体如下:
Figure 847361DEST_PATH_IMAGE032
=
Figure 269115DEST_PATH_IMAGE033
Figure 331749DEST_PATH_IMAGE032
为业务链路中任务节点在t+1时间点的流量预测值,
Figure 206164DEST_PATH_IMAGE034
Figure 379657DEST_PATH_IMAGE035
为解码器采用的LSTM神经网络的可训练参数,
Figure 655917DEST_PATH_IMAGE031
为解码器的输入。
本实施例中,通过所述编码器和所述解码器二者之间的配合实现对所述业务链路的节点流量的预测,除此之外,还可以建立流量预测模型,并在模型内部设置编码器和解码器,由设置的编码器和解码器在模型内部相互配合实现对所述业务链路的节点流量的预测,
具体的,所述流量预测模型设置有第一时间注意力权重计算模块、编码器、第二时间注意力权重计算模块、融合模块和解码器,所述流量预测模型的输入为所述流量数据矩阵,输入所述浏览预测模型的流量数据矩阵由第一时间注意力权重计算模块进行第一时间注意力权重计算,即:对流量数据矩阵引入第一时间注意力权重,将引入第一时间注意力权重的流量数据矩阵输入编码器,由编码器进行特征编码,输出特征序列;
编码器的输出的特征序列由第二时间注意力权重计算模块计算第二时间注意力权重,即:针对特征序列引入第二时间注意力权重,并由融合模块对引入第二时间注意力权重的特征序列、业务链路的链路指标数据编码后获得链路指标序列以及业务链路中节点在当天的数据序列进行融合,融合结果被输入解码器进行业务链路中节点流量的预测,解码器输出的节点在目标时间的预测流量即为所述流量预测模型的输出。所述流量预测模型设置的第一时间注意力权重计算模块、第二时间注意力权重计算模块和融合模块的具体计算过程参见上述实现方式即可,本实施例在此不再赘述。
综上所述,所述基于神经网络的流量预测方法,在获取业务链路的节点在历史时间周期内的流量数据矩阵的基础上,通过将引入注意力机制的流量数据矩阵输入编码器进行特征编码,并对编码器输出的特征序列引入注意力机制并进行特征融合,不仅通过引入注意力机制充分考虑历史流量数据之间的影响,还通过特征融合提升了特征的丰富程度和精准程度,并且在此基础上进行的流量预测的准确度更高。
本说明书提供的一种基于神经网络的流量预测装置实施例如下:
在上述的实施例中,提供了一种基于神经网络的流量预测方法,与之相对应的,还提供了一种基于神经网络的流量预测装置,下面结合附图进行说明。
参照附图3,其示出了本实施例提供的一种基于神经网络的流量预测装置的示意图。
由于装置实施例对应于方法实施例,所以描述得比较简单,相关的部分请参见上述提供的方法实施例的对应说明即可。下述描述的装置实施例仅仅是示意性的。
本说明书提供一种基于神经网络的流量预测装置,包括:
流量数据矩阵获取模块302,被配置为获取业务链路的节点在目标时间对应的历史时间周期内的历史流量数据组成的流量数据矩阵;
特征编码模块304,被配置为将所述流量数据矩阵引入注意力机制之后输入编码器进行特征编码,输出所述流量数据矩阵的特征序列,所述编码器采用第一神经网络;
序列融合模块306,被配置为将所述特征序列引入注意力机制之后与链路指标序列和所述目标时间对应的时间区间的流量数据序列进行融合,获得目标特征序列;所述链路指标序列由所述业务链路的链路指标数据编码后获得;
流量预测模块308,被配置为将所述目标特征序列输入解码器进行解码和流量预测,输出所述目标时间的预测流量,所述解码器采用第二神经网络。
可选的,所述基于神经网络的流量预测装置,还包括:
流量数据读取模块,被配置为读取所述业务链路的节点在所述历史时间周期内历史时间区间的各历史时间点的流量数据,作为所述历史时间周期内的历史流量数据;
标准化处理模块,被配置为对所述流量数据进行标准化处理,获得标准化流量数据;
归一化处理模块,被配置为对所述标准化流量数据进行归一化处理,获得归一化流量数据;
流量数据矩阵构建模块,被配置为基于所述归一化流量数据构建所述流量数据矩阵。
可选的,所述基于神经网络的流量预测装置,还包括:
流量数据判断模块,被配置为判断所述历史流量数据中是否存在流量数据存在缺失的历史时间点;若是,根据存在流量数据缺失的缺失时间点对应的历史时间点的流量数据,计算所述缺失时间点的流量数据;
其中,所述缺失时间点的流量数据包括:所述缺失时间点在所述历史时间周期内每个历史时间区间对应的历史时间点的流量数据的中位数,所述缺失时间点所属的历史时间区间的各历史时间点的流量数据的中位数。
可选的,所述基于神经网络的流量预测装置,还包括:
第一时间注意力权重计算模块,被配置为计算所述流量数据矩阵中各历史时间区间的各时间点的第一时间注意力权重;所述第一时间注意力权重对应于所述历史时间区间;
输入矩阵确定模块,被配置为根据所述第一时间注意力权重和所述流量数据矩阵确定所述编码器的输入矩阵。
可选的,所述第一时间注意力权重,采用如下方式计算:
Figure 889453DEST_PATH_IMAGE001
=
Figure 251164DEST_PATH_IMAGE002
Figure 228347DEST_PATH_IMAGE003
其中,为所述第一神经网络的隐状态变量,
Figure 32060DEST_PATH_IMAGE005
为所述第一神经网络的细胞状态变量,
Figure 881067DEST_PATH_IMAGE006
Figure 661941DEST_PATH_IMAGE007
Figure 912794DEST_PATH_IMAGE008
Figure 488132DEST_PATH_IMAGE009
为所述第一神经网络的可训练参数,
Figure 558856DEST_PATH_IMAGE010
为所述第一神经网络的输入,[ ]表示连接操作,
Figure 877842DEST_PATH_IMAGE036
为第k个历史时间区间内时间点的第一时间注意力权重。
可选的,所述基于神经网络的流量预测装置,还包括:
第二时间注意力权重计算模块,被配置为计算所述特征序列中特征数据的第二时间注意力权重;所述第二时间注意力权重对应于所述时间点;
待融合特征序列确定模块,被配置为根据所述第二时间注意力权重和所述特征序列确定与所述链路指标序列和所述流量数据序列进行融合的待融合特征序列。
可选的,所述第二时间注意力权重,采用如下方式计算:
Figure 983201DEST_PATH_IMAGE012
=
Figure 729440DEST_PATH_IMAGE013
其中,
Figure 410137DEST_PATH_IMAGE015
为所述第二神经网络的隐状态变量,为所述第二神经网络的细胞状态变量,
Figure 83881DEST_PATH_IMAGE017
Figure 129197DEST_PATH_IMAGE018
Figure 789986DEST_PATH_IMAGE019
Figure 869937DEST_PATH_IMAGE020
为所述第二神经网络的可训练参数,
Figure 957979DEST_PATH_IMAGE021
为所述第一神经网络的隐状态,[ ]表示连接操作,
Figure 490592DEST_PATH_IMAGE022
为第j个时间点的第二时间注意力权重。
可选的,所述基于神经网络的流量预测装置,还包括:
链路指标数据编码模块,被配置为获取所述业务链路的链路指标数据并进行编码,获得所述链路指标序列。
可选的,所述序列融合模块306,具体被配置为将所述特征序列引入注意力机制之后与所述链路指标序列和所述流量数据序列进行连接,获得所述目标特征序列;
或者,
基于所述特征序列、所述链路指标序列以及所述流量数据序列各自对应的序列权重,将所述特征序列引入注意力机制之后与所述链路指标序列和所述流量数据序列进行连接,获得所述目标特征序列。
可选的,所述第一神经网络包括下述至少一项:长短期记忆神经网络和循环神经网络。
所述第二神经网络包括下述至少一项:长短期记忆神经网络和循环神经网络。
本说明书提供的一种计算设备实施例如下:
图4是示出了根据本说明书一个实施例提供的计算设备400的结构框图。该计算设备400的部件包括但不限于存储器410和处理器420。处理器420与存储器410通过总线430相连接,数据库450用于保存数据。
计算设备400还包括接入设备440,接入设备440使得计算设备400能够经由一个或多个网络460通信。这些网络的示例包括公用交换电话网(PSTN)、局域网(LAN)、广域网(WAN)、个域网(PAN)或诸如因特网的通信网络的组合。接入设备440可以包括有线或无线的任何类型的网络接口(例如,网络接口卡(NIC))中的一个或多个,诸如IEEE802.11无线局域网(WLAN)无线接口、全球微波互联接入(Wi-MAX)接口、以太网接口、通用串行总线(USB)接口、蜂窝网络接口、蓝牙接口、近场通信(NFC)接口,等等。
在本说明书的一个实施例中,计算设备400的上述部件以及图4中未示出的其他部件也可以彼此相连接,例如通过总线。应当理解,图4所示的计算设备结构框图仅仅是出于示例的目的,而不是对本说明书范围的限制。本领域技术人员可以根据需要,增添或替换其他部件。
计算设备400可以是任何类型的静止或移动计算设备,包括移动计算机或移动计算设备(例如,平板计算机、个人数字助理、膝上型计算机、笔记本计算机、上网本等)、移动电话(例如,智能手机)、可佩戴的计算设备(例如,智能手表、智能眼镜等)或其他类型的移动设备,或者诸如台式计算机或PC的静止计算设备。计算设备400还可以是移动式或静止式的服务器。
本说明书提供一种计算设备,包括存储器410、处理器420及存储在存储器上并可在处理器上运行的计算机指令,所述处理器420用于执行如下计算机可执行指令:
获取业务链路的节点在目标时间对应的历史时间周期内的历史流量数据组成的流量数据矩阵;
将所述流量数据矩阵引入注意力机制之后输入编码器进行特征编码,输出所述流量数据矩阵的特征序列,所述编码器采用第一神经网络;
将所述特征序列引入注意力机制之后与链路指标序列和所述目标时间对应的时间区间的流量数据序列进行融合,获得目标特征序列;所述链路指标序列由所述业务链路的链路指标数据编码后获得;
将所述目标特征序列输入解码器进行解码和流量预测,输出所述目标时间的预测流量,所述解码器采用第二神经网络。
本说明书提供的一种计算机可读存储介质实施例如下:
本说明书一个实施例提供一种计算机可读存储介质,其存储有计算机指令,该指令被处理器执行时实现所述基于神经网络的流量预测方法的步骤。
上述为本实施例的一种计算机可读存储介质的示意性方案。需要说明的是,该存储介质的技术方案与上述的基于神经网络的流量预测方法的技术方案属于同一构思,存储介质的技术方案未详细描述的细节内容,均可以参见上述基于神经网络的流量预测方法的技术方案的描述。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
所述计算机指令包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
需要说明的是,对于前述的各方法实施例,为了简便描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本说明书实施例并不受所描述的动作顺序的限制,因为依据本说明书实施例,某些步骤可以采用其它顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定都是本说明书实施例所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其它实施例的相关描述。
以上公开的本说明书优选实施例只是用于帮助阐述本说明书。可选实施例并没有详尽叙述所有的细节,也不限制该发明仅为所述的具体实施方式。显然,根据本说明书实施例的内容,可作很多的修改和变化。本说明书选取并具体描述这些实施例,是为了更好地解释本说明书实施例的原理和实际应用,从而使所属技术领域技术人员能很好地理解和利用本说明书。本说明书仅受权利要求书及其全部范围和等效物的限制。

Claims (13)

1.一种基于神经网络的流量预测方法,包括:
获取业务链路的节点在目标时间对应的历史时间周期内的历史流量数据组成的流量数据矩阵;
将所述流量数据矩阵引入注意力机制之后输入编码器进行特征编码,输出所述流量数据矩阵的特征序列,所述编码器采用第一神经网络;
将所述特征序列引入注意力机制之后与链路指标序列和所述目标时间对应的时间区间的流量数据序列进行融合,获得目标特征序列;所述链路指标序列由所述业务链路的链路指标数据编码后获得;
将所述目标特征序列输入解码器进行解码和流量预测,输出所述目标时间的预测流量,所述解码器采用第二神经网络。
2.根据权利要求1所述的基于神经网络的流量预测方法,所述获取业务链路的节点在目标时间对应的历史时间周期内的历史流量数据组成的流量数据矩阵步骤执行之前,还包括:
读取所述业务链路的节点在所述历史时间周期内历史时间区间的各历史时间点的流量数据,作为所述历史时间周期内的历史流量数据;
对所述流量数据进行标准化处理,获得标准化流量数据;
对所述标准化流量数据进行归一化处理,获得归一化流量数据;
基于所述归一化流量数据构建所述流量数据矩阵。
3.根据权利要求2所述的基于神经网络的流量预测方法,所述读取所述业务链路在所述历史时间周期内历史时间区间的各历史时间点的流量数据,作为所述历史时间周期内的历史流量数据步骤执行之后,且所述对所述流量数据进行标准化处理,获得标准化流量数据步骤执行之前,还包括:
判断所述历史流量数据中是否存在流量数据存在缺失的历史时间点;
若是,根据存在流量数据缺失的缺失时间点对应的历史时间点的流量数据,计算所述缺失时间点的流量数据;
其中,所述缺失时间点的流量数据包括:所述缺失时间点在所述历史时间周期内每个历史时间区间对应的历史时间点的流量数据的中位数,所述缺失时间点所属的历史时间区间的各历史时间点的流量数据的中位数。
4.根据权利要求2所述的基于神经网络的流量预测方法,所述获取业务链路的节点在目标时间对应的历史时间周期内的历史流量数据组成的流量数据矩阵步骤执行之后,且所述将所述流量数据矩阵引入注意力机制之后输入编码器进行特征编码,输出所述流量数据矩阵的特征序列步骤执行之前,包括:
计算所述流量数据矩阵中各历史时间区间的各时间点的第一时间注意力权重;所述第一时间注意力权重对应于所述历史时间区间;
根据所述第一时间注意力权重和所述流量数据矩阵确定所述编码器的输入矩阵。
5.根据权利要求4所述的基于神经网络的流量预测方法,所述第一时间注意力权重,采用如下方式计算:
Figure 549340DEST_PATH_IMAGE001
=
Figure 483798DEST_PATH_IMAGE002
其中,
Figure 273899DEST_PATH_IMAGE004
为所述第一神经网络的隐状态变量,
Figure 293808DEST_PATH_IMAGE005
为所述第一神经网络的细胞状态变量,
Figure 561978DEST_PATH_IMAGE006
Figure 350943DEST_PATH_IMAGE007
Figure 46366DEST_PATH_IMAGE008
Figure 553571DEST_PATH_IMAGE009
为所述第一神经网络的可训练参数,
Figure 359853DEST_PATH_IMAGE010
为所述第一神经网络的输入,[ ]表示连接操作,
Figure 268903DEST_PATH_IMAGE011
为第k个历史时间区间内时间点的第一时间注意力权重。
6.根据权利要求2所述的基于神经网络的流量预测方法,所述将所述流量数据矩阵引入注意力机制之后输入编码器进行特征编码,输出所述流量数据矩阵的特征序列步骤执行之后,且所述将所述特征序列引入注意力机制之后与链路指标序列和所述目标时间对应的时间区间的流量数据序列进行融合,获得目标特征序列步骤执行之前,包括:
计算所述特征序列中特征数据的第二时间注意力权重;所述第二时间注意力权重对应于所述时间点;
根据所述第二时间注意力权重和所述特征序列确定与所述链路指标序列和所述流量数据序列进行融合的待融合特征序列。
7.根据权利要求6所述的基于神经网络的流量预测方法,所述第二时间注意力权重,采用如下方式计算:
Figure 135228DEST_PATH_IMAGE012
=
其中,
Figure DEST_PATH_IMAGE015
为所述第二神经网络的隐状态变量,
Figure 503258DEST_PATH_IMAGE016
为所述第二神经网络的细胞状态变量,
Figure 540484DEST_PATH_IMAGE017
Figure 756702DEST_PATH_IMAGE018
Figure 170366DEST_PATH_IMAGE019
为所述第二神经网络的可训练参数,为所述第一神经网络的隐状态,[ ]表示连接操作,
Figure 700070DEST_PATH_IMAGE022
为第j个时间点的第二时间注意力权重。
8.根据权利要求1所述的基于神经网络的流量预测方法,所述将所述特征序列引入注意力机制之后与链路指标序列和所述目标时间对应的时间区间的流量数据序列进行融合,获得目标特征序列步骤执行之前,包括:
获取所述业务链路的链路指标数据并进行编码,获得所述链路指标序列。
9.根据权利要求8所述的基于神经网络的流量预测方法,所述将所述特征序列引入注意力机制之后与链路指标序列和所述目标时间对应的时间区间的流量数据序列进行融合,获得目标特征序列,包括:
将所述特征序列引入注意力机制之后与所述链路指标序列和所述流量数据序列进行连接,获得所述目标特征序列;
或者,
基于所述特征序列、所述链路指标序列以及所述流量数据序列各自对应的序列权重,将所述特征序列引入注意力机制之后与所述链路指标序列和所述流量数据序列进行连接,获得所述目标特征序列。
10.根据权利要求1所述的基于神经网络的流量预测方法,所述第一神经网络包括下述至少一项:长短期记忆神经网络和循环神经网络;
所述第二神经网络包括下述至少一项:长短期记忆神经网络和循环神经网络。
11.一种基于神经网络的流量预测装置,包括:
流量数据矩阵获取模块,被配置为获取业务链路的节点在目标时间对应的历史时间周期内的历史流量数据组成的流量数据矩阵;
特征编码模块,被配置为将所述流量数据矩阵引入注意力机制之后输入编码器进行特征编码,输出所述流量数据矩阵的特征序列,所述编码器采用第一神经网络;
序列融合模块,被配置为将所述特征序列引入注意力机制之后与链路指标序列和所述目标时间对应的时间区间的流量数据序列进行融合,获得目标特征序列;所述链路指标序列由所述业务链路的链路指标数据编码后获得;
流量预测模块,被配置为将所述目标特征序列输入解码器进行解码和流量预测,输出所述目标时间的预测流量,所述解码器采用第二神经网络。
12.一种计算设备,包括:
存储器和处理器;
所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令:
获取业务链路的节点在目标时间对应的历史时间周期内的历史流量数据组成的流量数据矩阵;
将所述流量数据矩阵引入注意力机制之后输入编码器进行特征编码,输出所述流量数据矩阵的特征序列,所述编码器采用第一神经网络;
将所述特征序列引入注意力机制之后与链路指标序列和所述目标时间对应的时间区间的流量数据序列进行融合,获得目标特征序列;所述链路指标序列由所述业务链路的链路指标数据编码后获得;
将所述目标特征序列输入解码器进行解码和流量预测,输出所述目标时间的预测流量,所述解码器采用第二神经网络。
13.一种计算机可读存储介质,其存储有计算机指令,该指令被处理器执行时实现权利要求1至10任意一项所述基于神经网络的流量预测方法的步骤。
CN202010009148.7A 2020-01-06 2020-01-06 基于神经网络的流量预测方法及装置 Active CN110798365B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010009148.7A CN110798365B (zh) 2020-01-06 2020-01-06 基于神经网络的流量预测方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010009148.7A CN110798365B (zh) 2020-01-06 2020-01-06 基于神经网络的流量预测方法及装置

Publications (2)

Publication Number Publication Date
CN110798365A true CN110798365A (zh) 2020-02-14
CN110798365B CN110798365B (zh) 2020-04-07

Family

ID=69448603

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010009148.7A Active CN110798365B (zh) 2020-01-06 2020-01-06 基于神经网络的流量预测方法及装置

Country Status (1)

Country Link
CN (1) CN110798365B (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021057245A1 (zh) * 2019-09-23 2021-04-01 北京达佳互联信息技术有限公司 带宽预测方法、装置、电子设备及存储介质
CN112910690A (zh) * 2021-01-18 2021-06-04 武汉烽火技术服务有限公司 基于神经网络模型的网络流量预测方法、装置及设备
CN113391622A (zh) * 2021-06-22 2021-09-14 中国人民解放军国防科技大学 利用多元多步预测技术的航天器姿态系统异常检测方法
CN113408609A (zh) * 2021-06-17 2021-09-17 武汉卓尔信息科技有限公司 一种网络攻击检测方法及系统
CN113556266A (zh) * 2021-07-16 2021-10-26 北京理工大学 一种以流量工程为中心的流量矩阵预测方法
CN113660176A (zh) * 2021-08-16 2021-11-16 中国电信股份有限公司 通信网络的流量预测方法、装置、电子设备及存储介质
CN114124554A (zh) * 2021-11-29 2022-03-01 燕山大学 一种虚拟网络服务链吞吐量预测方法
CN115225518A (zh) * 2021-03-29 2022-10-21 中国移动通信集团福建有限公司 一种基站流量处理方法、装置及网络设备
CN115225546A (zh) * 2022-07-22 2022-10-21 北京天融信网络安全技术有限公司 一种网络流量的预测方法、装置及设备

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180060665A1 (en) * 2016-08-29 2018-03-01 Nec Laboratories America, Inc. Dual Stage Attention Based Recurrent Neural Network for Time Series Prediction
EP3355547A1 (en) * 2017-01-27 2018-08-01 Vectra Networks, Inc. Method and system for learning representations of network flow traffic
CN109194498A (zh) * 2018-07-27 2019-01-11 南京理工大学 一种基于lstm的网络流量预测方法
CN109257760A (zh) * 2018-09-28 2019-01-22 西安交通大学深圳研究院 无线网络中的用户流量预测系统
CN109583656A (zh) * 2018-12-06 2019-04-05 重庆邮电大学 基于a-lstm的城市轨道交通客流量预测方法
CN110149237A (zh) * 2019-06-13 2019-08-20 东北大学 一种Hadoop平台计算节点负载预测方法
CN110474808A (zh) * 2019-08-20 2019-11-19 中国联合网络通信集团有限公司 一种流量预测方法及装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180060665A1 (en) * 2016-08-29 2018-03-01 Nec Laboratories America, Inc. Dual Stage Attention Based Recurrent Neural Network for Time Series Prediction
EP3355547A1 (en) * 2017-01-27 2018-08-01 Vectra Networks, Inc. Method and system for learning representations of network flow traffic
CN109194498A (zh) * 2018-07-27 2019-01-11 南京理工大学 一种基于lstm的网络流量预测方法
CN109257760A (zh) * 2018-09-28 2019-01-22 西安交通大学深圳研究院 无线网络中的用户流量预测系统
CN109583656A (zh) * 2018-12-06 2019-04-05 重庆邮电大学 基于a-lstm的城市轨道交通客流量预测方法
CN110149237A (zh) * 2019-06-13 2019-08-20 东北大学 一种Hadoop平台计算节点负载预测方法
CN110474808A (zh) * 2019-08-20 2019-11-19 中国联合网络通信集团有限公司 一种流量预测方法及装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
KEHAN LI等: "TF2AN: A Temporal-Frequency Fusion Attention Network for Spectrum Energy Level Prediction", 《2019 16TH ANNUAL IEEE INTERNATIONAL CONFERENCE ON SENSING, COMMUNICATION, AND NETWORKING (SECON)》 *

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11374825B2 (en) 2019-09-23 2022-06-28 Beijing Daijia Internet Information Technology Co., Ltd. Method and apparatus for predicting bandwidth
WO2021057245A1 (zh) * 2019-09-23 2021-04-01 北京达佳互联信息技术有限公司 带宽预测方法、装置、电子设备及存储介质
CN112910690A (zh) * 2021-01-18 2021-06-04 武汉烽火技术服务有限公司 基于神经网络模型的网络流量预测方法、装置及设备
CN115225518B (zh) * 2021-03-29 2024-04-12 中国移动通信集团福建有限公司 一种基站流量处理方法、装置及网络设备
CN115225518A (zh) * 2021-03-29 2022-10-21 中国移动通信集团福建有限公司 一种基站流量处理方法、装置及网络设备
CN113408609A (zh) * 2021-06-17 2021-09-17 武汉卓尔信息科技有限公司 一种网络攻击检测方法及系统
CN113391622B (zh) * 2021-06-22 2022-09-02 中国人民解放军国防科技大学 利用多元多步预测技术的航天器姿态系统异常检测方法
CN113391622A (zh) * 2021-06-22 2021-09-14 中国人民解放军国防科技大学 利用多元多步预测技术的航天器姿态系统异常检测方法
CN113556266A (zh) * 2021-07-16 2021-10-26 北京理工大学 一种以流量工程为中心的流量矩阵预测方法
CN113660176A (zh) * 2021-08-16 2021-11-16 中国电信股份有限公司 通信网络的流量预测方法、装置、电子设备及存储介质
CN113660176B (zh) * 2021-08-16 2023-04-07 中国电信股份有限公司 通信网络的流量预测方法、装置、电子设备及存储介质
CN114124554A (zh) * 2021-11-29 2022-03-01 燕山大学 一种虚拟网络服务链吞吐量预测方法
CN114124554B (zh) * 2021-11-29 2022-08-30 燕山大学 一种虚拟网络服务链吞吐量预测方法
CN115225546A (zh) * 2022-07-22 2022-10-21 北京天融信网络安全技术有限公司 一种网络流量的预测方法、装置及设备
CN115225546B (zh) * 2022-07-22 2023-11-28 北京天融信网络安全技术有限公司 一种网络流量的预测方法、装置及设备

Also Published As

Publication number Publication date
CN110798365B (zh) 2020-04-07

Similar Documents

Publication Publication Date Title
CN110798365B (zh) 基于神经网络的流量预测方法及装置
CN111401788B (zh) 业务时序指标的归因方法以及装置
CN109596913B (zh) 充电桩故障原因诊断方法及装置
CN111314121A (zh) 链路异常检测方法以及装置
CN110839040B (zh) 一种流量的监控方法、模型的训练方法、装置及存储介质
CN114580493B (zh) 基于ai的重载铁路桥梁健康监测方法
CN110008977B (zh) 聚类模型构建方法以及装置
CN113240197A (zh) 一种商城客流量的预测方法、装置、电子设备及存储介质
CN116383096B (zh) 基于多指标时序预测的微服务系统异常检测方法及装置
CN115185760A (zh) 异常检测方法以及装置
Zhang et al. Bi-directional gated recurrent unit recurrent neural networks for failure prognosis of proton exchange membrane fuel cells
Xue et al. Detection and quantification of anomalies in communication networks based on LSTM-ARIMA combined model
CN117407770A (zh) 基于神经网络的高压开关柜故障模式分类及预测方法
CN116736130A (zh) 一种锂电池剩余使用寿命预测方法及系统
CN110796450A (zh) 可信关系处理方法以及装置
CN115984742A (zh) 视频选帧模型的训练方法、视频处理方法及装置
CN115514614A (zh) 基于强化学习的云网络异常检测模型训练方法及存储介质
CN114818907A (zh) 输电线路的状态监测方法、装置、设备及存储介质
CN111950928A (zh) 配电网降损方法、装置、存储介质及计算设备
CN109446020B (zh) 云存储系统的动态评估方法以及装置
CN115496175A (zh) 新建边缘节点接入评估方法、装置、终端设备及产品
CN110232482B (zh) 基于神经网络的设备管理方法及装置
CN116050674B (zh) 水利工程运行趋势预测方法以及装置
Ahasan et al. Deep Learning Autoencoder based Anomaly Detection Model on 4G Network Performance Data
CN112465259B (zh) 一种基于深度神经网络的开关故障预测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20200701

Address after: Room 20713, Huangpu Road, Shanghai

Patentee after: Ant fortune (Shanghai) Financial Information Service Co., Ltd

Address before: 310013 801-11, Section B, floor 8, No. 556, Xixi Road, Xihu District, Hangzhou City, Zhejiang Province

Patentee before: Alipay (Hangzhou) Information Technology Co.,Ltd.

TR01 Transfer of patent right