CN112911626A - 基于多图卷积的无线网络流量预测方法 - Google Patents

Abstract

本发明提出一种基于多图卷积的无线网络流量预测方法，首先，在空间上构建相邻图、功能相似图和空域流量相关图，并利用图卷积网络提取空间上的特征；其次，在时域上构建近期、日周期和周周期相关流量，将三种时域流量输入到长短期记忆网络，最后加上注意力机制判断不同时刻流量的重要程度。并引入均方根、平均绝对误差和确定系数评估所提模型的预测性能。本发明方法具有建模合理，预测精度高等特点。

Description

基于多图卷积的无线网络流量预测方法

技术领域

本发明属于无线通信，图论和深度学习技术领域，特别涉及图卷积网络，长短期记忆网络，注意力机制等方面，尤其涉及一种基于多图卷积的无线网络流量预测方法。

背景技术

随着5G时代的到来，无线网络发生了巨大变化，特别是大量布局无线基站，使得无线蜂窝数据急剧上升，因此精确的无线网络流量预测对于运营商来说至关重要；同时面超密集的基站分布，要实现更为高效的流量预测是前所未有的挑战。要实现流量预测首先就要知道流量的时空特性及其相关数据的分布情况，对未来的流量进行合理，准确的预测。传统的流量预测方法在准确度和效率上都欠佳，随着人工智能的迅猛发展，各个领域都逐步探索将人工智能技术引人本领域的研究中。

对流量进行精准预测，能够实现基站能耗控制，流量异常检测，提前知道热点地区，从而为无限资源分配等提供合理的依据，进一步提升用户体验，建立良好的运营生态环境。利用人工智能技术能加快对流量的预测，并且预测精度高，流量预测是后续一系列智能优化的前提，因此流量预测至关重要。

发明内容

有鉴于此，本发明的目的在于提供一种基于多图卷积的无线网络流量预测方法，根据分析历史流量数据，挖掘流量的时空特性，构建与流量预测相关联的不同图信息，再利用图谱理论，人工智能技术对构建的图进行分析，最后提出三种流量预测评价指标，来评估流量预测的效果。

本发明构建多图卷积网络对无线流量进行预测。首先，在空间上构建相邻图、功能相似图和空域流量相关图，并利用图卷积网络提取空间上的特征；其次，在时域上构建近期、日周期和周周期相关流量，将三种时域流量输入到长短期记忆网络，最后加上注意力机制判断不同时刻流量的重要程度。并引入均方根、平均绝对误差和确定系数评估所提模型的预测性能。包括以下步骤：步骤S1：根据历史流量数据，从中选择与无线流量相关流量特征；步骤S2：分析流量时空特性，构建流量预测框架，主要包括构建相邻图，区域功能相似图，空间流量相关图这个三类流量相关信息图；时间特性主要构建三通道流量数据：之前T_r时隙的流量，日周期流量,周周期流量。步骤S3：构建多图的图卷积网络，长短期记忆网络，注意力机制等深度学习技术对流量进行预测。步骤S4：采用均方根、平均绝对误差和确定系数三种指标对预测流量进行评估。

本发明是一种构建多图的图卷积网络进行流量预测，通过设置以上步骤，实现了对流量的预测，且与其他类型的流量预测模型相对比，表现出更好的预测效果。为了对实现对流量的精准预测，首先对数据进行分析，把握与流量相关联的数据特征，根据分析构建了相邻图、区域功能相似图和空间流量相关图来描述与流量相关联的数据信息，并且引入三个时间维度信息：之前T_r时隙的流量模式，每天的流量模式，每个星期的流量模式，再利用图卷积网络、长短期记忆网络和注意力机制实现流量预测，最后采用均方根、平均绝对误差和确定系数三种指标对预测流量进行评估。本发明方法具有建模合理，预测精度高等特点。

本发明具体采用以下技术方案：

一种基于多图卷积的无线网络流量预测方法，其特征在于，包括以下步骤：

步骤S1：根据历史流量数据，从中选择与无线流量相关的流量特征用于预测t+1时刻的流量；

步骤S2：分析流量时空特性，构建流量预测框架：包括构建空间特性的：相邻图、区域功能相似图和空间流量相关图；以及构建时间特性的三通道流量数据：之前T_r时隙的流量、日周期流量和周周期流量；

步骤S3：构建多图的图卷积网络、多通道的长短期记忆网络和注意力机制；其中，注意力机制对流量序列重要程度的不同进行权重的自动匹配。

优选地，还包括：步骤S4：采用均方根、平均绝对误差和确定系数三种指标对预测流量进行评估。

优选地，步骤S1具体包括以下步骤：

步骤S11：将历史流量数据的所属地点网格化；

步骤S12：将每个网格的蜂窝流量信息由时空序列表示。

优选地，在步骤S1中，每个网格包含的数据有三种：短信服务、语音电话和上网流量；数据包括每个网格ID，时间戳，收发短信和呼入呼出的信息；并将时间间隔设置成一小时。

优选地，在步骤S1中，利用的数据还包括：各网格区域的(建筑)兴趣点，社交活动数量和基站分布数量。

在步骤S1中，可以标识每个时隙t各个地区的流量服务类型，并且构建矩阵X^t，标识每个地区的兴趣点，构建矩阵P；标识每个地区的基站数量，构建矩B。

优选地，在步骤S2中，构建相邻图，功能相似图和空间流量相关图具体包括以下过程：

图用G＝(V，A)表示，其中，V表示图的节点即每个网格，A表示邻接矩阵，三种图的邻接矩阵如下：

相邻图G_N＝(V，A^N)中网格节点h和网格节点w之间的邻接矩阵中的元素

利用这两个网格的欧氏距离来表示：

其中，||·||代表二范数，||v_h-v_w||表示节点h，w之间的欧氏距离，σ表示标准差；

功能相似图G_F＝(V，A^F)中网格节点h和网格节点w之间的邻接矩阵中的元素

利用余弦相似函数的计算结果来表示：

其中，<·>代表内积，||·||代表二范数，r_h和r_w分别为节点h和w的特征向量；

空间流量相关图G_S＝(V，A^S)中网格节点h和网格节点w之间的邻接矩阵中的元素

利用两个网格流量之间的皮尔逊系数来表示：

其中，ρ(·)代表皮尔逊系数，v_h，v_m分别表示节点h和w上的流量序列。

优选地，在步骤S2中，构建三通道流量数据具体包括以下过程：

之前T_r时隙的流量:根据流量的时域连续性原则，下一时隙的流量必然与之前T_r个时隙相关，由此构建流量向量X_r：

之前T_d天的日周期流量X_d，例如要预测周三上午8点的流量，就要用周三之前T_d天上午8点的流量构成，其数学表达为:

其中，T_P代表流量序列的长度，T_d代表日周期模块流量的天数；

之前T_w周的周周期流量，例如要预测周三上午8点的流量，就要用到之前T_w个周三上午8点的流量构成，其数学表达为:

其中，T_w代表周周期模块流量的周数。

在步骤S2之中，通过分析流量时空特性，将每个网格当作图的节点，网格之间的特征关系用邻接矩阵表示。考虑到流量预测与多个维度空间特性有关，根据用户在一段时间内的活动范围有限，由此可以构建与当前节点相邻的相邻图，从而发现当前节点的流量与相邻节点的关系；根据每个区域(网格)在某些时间内POI相似的地方应该会具有相似的流量特性，因此可以根据每个区域功能相似的节点构建功能相似图；由于相邻图只体现了位置相关性，因此也可以构建空间流量相关图来描述流量的空间相关特性。在时间域，根据流量的时域连续性原则，下一时隙的流量必然与前几个时隙流量相关，并且与每天和每周相同时隙的流量相关。

其具体实现的过程如下:

1)构建多图：根据图论，图可以用节点和邻接矩阵表示，即G＝(V，A)，相邻图G_N＝(V，A^N)，区域功能相似图G_F＝(V，A^F)，空间流量相关图G_S＝(V，A^s)。相邻图利用两个节点之间的欧式距离来构建邻接矩阵，节点h和w的欧式距离为||v_h-v_w||，功能相似图利用余弦相似函数描述，空间流量相关图利用两个网格流量之间的皮尔逊系数描述。

2)在时间域中利用离散傅立叶变换去观察流量的频率分布；关键信息集中在前T_r时隙的流量，日周期流量,周周期流量。

优选地，在步骤S3中，构建多图的图卷积网络对流量进行预测具体包括：

根据定义的邻接矩阵，得到拉普拉斯矩阵L＝D-A，并归一化拉普拉斯矩阵为L＝I_N-D^-1/2AD^-1/2＝U∧U^T；

其中，I_N为单位矩阵，D∈R^V×V为度矩阵，是对角矩阵，对角线上的元素代表该节点与其他节点连接的个数；邻接矩阵A∈R^V×V是对称矩阵，矩阵U是归一化拉普拉斯矩阵的特征向量，A∈R^V×V是特征值组成的对角矩阵，此外R^V×V表示维度为v×v的实数集；

进一步将图x与卷积核进行卷积写成：

g_θ*_Gx＝g_θ(U∧U^T)x＝Ug_θ(∧)U^Tx

其中，*_G代表图卷积，g_θ是关于拉普拉斯矩阵的特征值的函数，g_θ(∧)可以用切比雪夫多项式T_k(x)近似：

其中，

∧_max是拉普拉斯矩阵的最大特征值，θ_k是切比雪夫数；

因为切比雪夫多项式为：T_k(x)＝2xT_k-1(x)-T_k-2(x)，T₀(x)＝1，T_k-1＝(x)，公式g_θ*_Gx＝g_θ(U∧U^T)x＝Ug_θ(∧)U^Tx重写为：

其中，

优选地，在步骤S3中，构建长短期记忆网络对流量进行预测具体包括：

采用两层长短期记忆网络，将X_r，X_d，X_w输入到长短期记忆网络中；所述长短期记忆网络由遗忘门f_t,输入门i_t,输出门o_t和当前细胞状态c_t组成。

优选地，在步骤S3中，构建注意力机制对流量进行预测具体包括：

在LSTM中嵌入注意力机制，分数s_t＝(s₁，s₂，…，s_t)代表在不同时隙数据的重要程度，在时隙t给定数据集X，则：

其中，U_s，W_xs，W_hs是学习参数，b_s是偏量，

是长短期记忆网络隐藏层输出，tanh作为激活函数；注意力权重表示为：

是对s_t的归一化，权值越大越重要；在时隙t，长短期记忆网络的隐状态

输出和权重和H_t为：

关注权重α取决于输入X和隐变量

所以取决于当前时刻也与前一时刻有关系；注意力权重越大，对预测结果影响越大。

在步骤S3当中，图卷积网络用来提取流量的空间相关性，图卷积网络概括的将数据结构转化成图数据结构的卷积操作。在每个时隙，采取基于图谱理论的图卷积处理信号，具体地说，利用频谱方法分析图的拓扑属性，例如图的连通性等，通过聚合邻接节点的信息来提取相关的时空特征。长短期记忆网络(LSTM)用来描述流量的时间相关性，长短期记忆网络是通过连接多个单元而形成的递归神经网络，提供了一种学习序列之间具有长期依赖关系的实用方法。特别适合处理具有序列关系的数据，流量具有序列性，因此长短期记忆网络很合适用于流量的预测。虽然长短期记忆网络适合用于流量预测，但是流量预测首先依赖的是流量特征的提取，而长短期记忆网络并不能提取不同时隙流量序列的重要程度，因此引入注意力机制(attention mechanism)通过自动分配不同的权重来区分不同时刻流量序列的重要性。

具体步骤如下：

1、为挖掘空域流量特征，构建多图卷积网络,根据图论需要得到图的度矩阵D和邻接矩阵A，邻接矩阵上面已经论述，邻接矩阵是对称矩阵；度矩阵就是每个节点和其他节点相连接的个数，是对角矩阵，从而可以得到拉普拉斯矩阵L＝D-A，归一化形式为

2、建立长短期记忆网络，长短期记忆网络包括遗忘门f_t，输入门i_t和输出门o_t，细胞状态c_t。遗忘门的功能是决定应丢弃或保留哪些信息,包含了当前的输入信号x_t,上一时隙的细胞状态c_t-1，和上一时隙隐藏状态的输出h_t-1,并将保留下来的信息存放在当先细胞中c_t。当前细胞状态：首先，前一层的细胞状态与遗忘向量逐点相乘，如果它接近0的值，意味着在新的细胞状态中，这些信息是需要丢弃掉的。然后再将该值与输入门的输出值逐点相加，将神经网络发现的新信息更新到细胞状态中去，至此，就得到了更新后的细胞状态。输入门用于更新细胞状态，首先，将前一层隐藏状态的信息和当前输入的信息传递sigmoid函数中去。将值调整到0到1之间来决定要更新哪些信息，0表示不重要，1表示重要。输入门包含当前输入信息，上一时隙的输出和细胞状态。输出门用来确定下一个隐藏状态的值，隐藏状态包含了先前输入的信息；输出们包括当前输入信息，上一时隙的输出，当前细胞状态。

3、在长短期记忆网络的基础上嵌入注意力机制：由于在不同的时隙流量序列的重要程度不同，因此引入注意力机制对流量序列重要程度的不同进行权重的自动分配。

与现有技术相比，本发明及其优选方案实现了对流量的预测，且与其他类型的流量预测模型相对比，表现出更好的预测效果。为了对实现对流量的精准预测，首先对数据进行分析，把握与流量相关联的数据特征，根据分析构建了相邻图、区域功能相似图和空间流量相关图来描述与流量相关联的数据信息，并且引入三个时间维度信息：之前T_r时隙的流量模式，每天的流量模式，每个星期的流量模式，再利用图卷积网络、长短期记忆网络和注意力机制实现流量预测，最后采用均方根、平均绝对误差和确定系数三种指标对预测流量进行评估。本发明方法具有建模合理，预测精度高等特点。

附图说明

下面结合附图和具体实施方式对本发明进一步详细的说明：

图1为本发明实施例流量预测框架示意图；

图2为本发明实施例多图卷积网络示意图；

图3为本发明实施例长短期记忆网络和注意力机制示意图；

图4为本发明实施例不同算法的RMSE，MAE，R2指标示意图。

具体实施方式

为让本专利的特征和优点能更明显易懂，下文特举实施例，作详细说明如下：

本实施例提供一种基于多图卷积的无线网络流量预测方法，具体步骤如下步骤实现：

步骤S1:根据历史流量数据，从中选择与无线流量高度相关流量特征用于预测t+1时刻的流量。

1)本实施例采用的历史流量数据是2013.01.11到2014.01.01每间隔十分钟米兰的数据集。将米兰城市分划成100×100网格，每个网格面积大约是0.235×0.235km²。在每个网格中记录了三种流量：短信服务(SMS)，语音电话(call)和上网流量(internet)；数据包括每个网格ID，时间戳，收发短信，呼入呼出等信息。在本方案中将时间间隔设置成一小时。

2)为了描述每个网格的特征,引入描述网格相关数据：各网格区域的(建筑)兴趣点，社交活动数量，基站分布数量，其中兴趣点包行银行，咖啡馆，公园等12种兴趣点。每个网格记为(i，j)，每个网格的兴趣点记为p_(i，j)＝[p^Bank，p^bar，…p^lodging]，整个城市的兴趣点记为P

每个网格的基站分布数量记为b_(i，，j)，整个城市的基站数量分布为B

每个网格的社交活动数量代表用户依赖网络的服务程度，每个网格的社交活动数量记为s_(i，j),整个城市的社交活动表示为S

步骤S2：分析流量时空特性，构建流量预测框架，空间特性主要包括构建相邻图，区域功能相似图，空间流量相关图这个三类流量相关信息图；时间特性主要构建三通道流量数据：之前T_r时隙的流量，日周期流量,周周期流量。

1)本实施例流量预测框架如图1所示，首先分析流量预测相关的信息，构建相邻图，功能相似图和空间流量相关图。图可以用G＝(V，A)，表示，其中V表示图的节点，A表示邻接矩阵，在本方案中V表示每个网格，三种图的邻接矩阵如下。

相邻图G_N＝(V，A^N)中网格节点h和网格节点w之间的邻接矩阵中的元素

利用这两个网格的欧氏距离来表示：

其中，||·||代表二范数，||v_h-v_w||表示节点h，w之间的欧氏距离，σ表示标准差；节点之间距离越近，则表明这两个节点相关性越高。

功能相似图G_F＝(V，A^F)中网格节点h和网格节点w之间的邻接矩阵中的元素

利用余弦相似函数的计算结果来表示：

<·>代表内积，||·||代表二范数，各网格区域的兴趣点矩阵P，社交活动数量矩阵S和基站分布数量B表示，每个网格的特征向量为r_i，j＝[p_i，j，s_i，j，b_i，j]。构建功能相似图可以了解具有相同功能的区域的流量使用情况，公式(5)中的值越大，说明网格的特性越相似。

空间流量相关图G_S＝(V，A^S)中网格节点h和网格节点w之间的邻接矩阵的元素

利用两个网格流量之间的皮尔逊系数表示：

ρ(·)代表节皮尔逊系数，v_h，v_m分别表示节点h和w上的流量序列。空间流量相关图是利用流量数据的相关性构建的，进一步分析各个节点的流量相关性，皮尔逊系数的绝对值越大说明相关性越强。三幅图的构建方式如图1所示。

构建三通道流量数据，如图3所示，具体如下：之前T_r时隙的流量:根据流量的时域连续性原则，下一时隙的流量必然与之前T_r个时隙相关，由此构建流量向量X_r：

之前T_d的日周期流量X_d，例如要预测周三上午8点的流量，就要用周三之前T_d天上午8点的流量构成，其数学表达为:

其中，T_P代表流量序列的长度，T_d代表日周期模块流量的天数

之前T_w周的周周期流量，例如要预测周三上午8点的流量，就要用到之前T_w个周三上午8点的流量构成，其数学表达为:

T_w代表周周期模块流量的周数，比如需要预测这个时刻的流量，则需要知道当前时刻的上个星期，前两个星期等的该时刻流量。

步骤S3：构建多图的图卷积网络，长短期记忆网络，注意力机制等深度学习技术对流量进行预测。

1)图卷积网络：如图2所示，本实施例利用图卷积网络发现流量的空间相关性。根据在步骤S2中定义的邻接矩阵，可以得到拉普拉斯矩阵L＝D-A，归一化拉普拉斯矩阵为L＝I_N-D^-1/2AD^-1/2＝U∧U^T。I_N为单位矩阵，D∈R^V×V为度矩阵，是对角矩阵，对角线上的元素代表该节点与其他节点连接的个数；邻接矩阵A∈R^V×V是对称矩阵，矩阵U是归一化拉普拉斯矩阵的特征向量，A∈R^V×V是特征值组成的对角矩阵。根据傅里叶变换与拉普拉斯矩阵的关系可知，傅里叶变换基e^-jωt对应图的傅里叶变换的基为U^T，傅里叶逆变换基e^jωt对应图的傅里叶变换的基为U，图的傅里叶变换矩阵形式为

其逆变换为

进一步图x与卷积核进行卷积可以写成：

g_θ*_Gx＝g_θ(U∧U^T)x＝Ug_θ(∧)U^Tx (10)

*_G代表图卷积，g_θ是关于拉普拉斯矩阵的特征值的函数，g_θ(∧)可以用切比雪夫多项式(Chebyshev polynomial)T_k(x)近似：

其中

∧_max是拉普拉斯矩阵的最大特征值，θ_k是切比雪夫系数。

因为切比雪夫多项式为：T_k(x)＝2xT_k-1(x)-T_k-2(x)，T₀(x)＝1，T_k-1＝(x)，公式(10)可以重写为：

其中

2)长短期记忆网络，如图2所示。本实施例采用两层长短期记忆网络，X_r，X_d，X_w输入到长短期记忆网络中。长短期记忆网络由遗忘门f_t,输入门i_t,输出门o_t和当前细胞状态c_t组成。遗忘门的功能是决定应丢弃或保留哪些信息

输入门更新细胞状态，首先将前一层隐藏状态的信息和当前输入的信息传递到sigmoid函数中去。将值调整到0到1之间来决定要更新哪些信息，0表示不重要，1表示重要输入门包含当前输入信息，上一时隙的输出和细胞状态。

当先细胞状态：首先，前一层的细胞状态与遗忘向量逐点相乘。如果它接近0的值，意味着在新的细胞状态中，这些信息是需要丢弃掉的。然后再将该值与输入门的输出值逐点相加，将神经网络发现的新信息更新到细胞状态中去，至此，就得到了更新后的细胞状态。

输出门用来确定下一个隐藏状态的值，隐藏状态包含了先前输入的信息；输出们包括当前输入信息，上一时隙的输出，当前细胞状态。

其中

σ代表激活函数，

代表哈达玛积(Hadamard product),W代表权重矩阵，f_i，i_t，c_t，o_t分别代表遗忘门的值，输入门的值，细胞状态的值，输出门的值；x_t，h_t分别代表输入向量和隐藏层输出向量；b_i，b_c，b_o是偏置数(bias)。

3)注意力机制，如图3所示，该机制用于挖掘数据潜在特征，并且选择数据特征重要性程度。因为长短期记忆网络并不能识别数据的重要程度，所以在LSTM中嵌入注意力机制，分数s_t＝(s₁，s₂，…，s_t)代表在不同时隙数据的重要程度，在时隙t给定数据集X，则：

U_s，W_xs，W_hs是学习参数，b_s是偏量，

是长短期记忆网络隐藏层输出。注意力权重可以表示为：

是对s_t的归一化，权值越大越重要。在时隙t，长短期记忆网络的隐状态

输出和权重和H_t为

关注权重α取决于输入X和隐变量

所以取决于当前时刻也与前一时刻有关系。注意力权重越大，对预测结果影响越大。

步骤S4：本实施例采用均方根、平均绝对误差和决定系数三种指标对预测流量进行评估。

均方根(RMSE)

平均绝对误差(MAE)

确定系数(R-Square)

是已知的数据流，μ是预测的流量，n是数据流的大小，

是数据流的均值。其评估结果如图4所示。

本专利不局限于上述最佳实施方式，任何人在本专利的启示下都可以得出其它各种形式的基于多图卷积的无线网络流量预测方法，凡依本发明申请专利范围所做的均等变化与修饰，皆应属本专利的涵盖范围。

Claims (10)

1.一种基于多图卷积的无线网络流量预测方法，其特征在于，包括以下步骤：

步骤S1：根据历史流量数据，从中选择与无线流量相关的流量特征用于预测t+1时刻的流量；

步骤S2：分析流量时空特性，构建流量预测框架：包括构建空间特性的：相邻图、区域功能相似图和空间流量相关图；以及构建时间特性的三通道流量数据：之前T_r时隙的流量、日周期流量和周周期流量；

步骤S3：构建多图的图卷积网络、多通道的长短期记忆网络和注意力机制；其中，注意力机制对流量序列重要程度的不同进行权重的自动匹配。

2.根据权利要求1所述的基于多图卷积的无线网络流量预测方法，其特征在于：还包括：步骤S4：采用均方根、平均绝对误差和确定系数三种指标对预测流量进行评估。

3.根据权利要求1所述的基于多图卷积的无线网络流量预测方法，其特征在于：步骤S1具体包括以下步骤：

步骤S11：将历史流量数据的所属地点网格化；

步骤S12：将每个网格的蜂窝流量信息由时空序列表示。

4.根据权利要求3所述的基于多图卷积的无线网络流量预测方法，其特征在于：在步骤S1中，每个网格包含的数据有三种：短信服务、语音电话和上网流量；数据包括每个网格ID，时间戳，收发短信和呼入呼出的信息；并将时间间隔设置成一小时。

5.根据权利要求4所述的基于多图卷积的无线网络流量预测方法，其特征在于：在步骤S1中，利用的数据还包括：各网格区域的兴趣点，社交活动数量和基站分布数量。

6.根据权利要求3所述的基于多图卷积的无线网络流量预测方法，其特征在于：在步骤S2中，构建相邻图，功能相似图和空间流量相关图具体包括以下过程：

图用G＝(V，A)表示，其中，V表示图的节点即每个网格，A表示邻接矩阵，三种图的邻接矩阵如下：

相邻图G_N＝(V，A^N)中网格节点h和网格节点w之间的邻接矩阵中的元素

利用这两个网格的欧氏距离来表示：

其中，||·||代表二范数，||v_h-v_w||表示节点h，w之间的欧氏距离，σ表示标准差；

功能相似图G_F＝(V，A^F)中网格节点h和网格节点w之间的邻接矩阵中的元素

利用余弦相似函数的计算结果来表示：

其中，<·>代表内积，||·||代表二范数，r_h和r_w分别为节点h和w的特征向量；

空间流量相关图G_S＝(V，A^S)中网格节点h和网格节点w之间的邻接矩阵中的元素

利用两个网格流量之间的皮尔逊系数来表示：

其中，ρ(·)代表皮尔逊系数，v_h，v_m分别表示节点h和w上的流量序列。

7.根据权利要求6所述的基于多图卷积的无线网络流量预测方法，其特征在于：在步骤S2中，构建三通道流量数据具体包括以下过程：

之前T_r时隙的流量X_r：根据流量的时域连续性原则，下一时隙的流量必然与之前T_r个时隙相关，由此构建流量向量X_r：

之前T_d天的日周期流量X_d，其数学表达为：

其中，T_P代表需要预测的流量序列长度，T_d代表日周期模块流量的天数；

之前T_w周的周周期流量X_w，其数学表达为：

其中，T_w代表周周期模块流量的周数。

8.根据权利要求7所述的基于多图卷积的无线网络流量预测方法，其特征在于：在步骤S3中，构建多图的图卷积网络对流量进行预测，其中图卷积算法的具体步骤包括：

根据定义的邻接矩阵，得到拉普拉斯矩阵L＝D-A，并归一化拉普拉斯矩阵为L＝I_N-D^{-1/ 2}AD^-1/2＝U∧U^T；

其中，I_N为单位矩阵，D∈R^V×V为度矩阵，是对角矩阵，对角线上的元素代表该节点与其他节点连接的个数；邻接矩阵A∈R^V×V是对称矩阵，矩阵U是归一化拉普拉斯矩阵的特征向量，A∈R^V×V是特征值组成的对角矩阵，此外R^V×V表示维度为v×v的实数集；

进一步将图x与卷积核进行卷积写成：

g_θ*Gx＝g_θ(U∧U^T)x＝Ug_θ(∧)U^Tx

其中，*_G代表图卷积运算，g_θ是关于拉普拉斯矩阵的特征值的函数，g_θ(∧)可以用切比雪夫多项式T_k(x)近似：

其中，

∧_max是拉普拉斯矩阵的最大特征值，θ_k是切比雪夫系数；

因为切比雪夫多项式为：T_k(x)＝2xT_k-1(x)-T_k-2(x)，T₀(x)＝1，T_k-1＝(x)，公式g_θ*Gx＝g_θ(U∧U^T)x＝Ug_θ(∧)U^Tx重写为：

其中，

9.根据权利要求8所述的基于多图卷积的无线网络流量预测方法，其特征在于：在步骤S3中，构建多通道的长短期记忆网络对流量进行预测具体包括：

采用两层长短期记忆网络，将X_r，X_d，X_w输入到长短期记忆网络中；所述长短期记忆网络由遗忘门f_t，输入门i_t，输出门o_t和当前细胞状态c_t组成。

10.根据权利要求6所述的基于多图卷积的无线网络流量预测方法，其特征在于：在步骤S3中，构建注意力机制对流量序列重要程度的不同进行权重的自动匹配，具体步骤包括：

在LSTM中嵌入注意力机制，分数s_t＝(s₁，s₂，…，s_t)代表在不同时隙数据的重要程度，在时隙t给定数据集X，则：

其中，U_s，W_xs，W_hs是学习参数，b_s是偏量，

是长短期记忆网络隐藏层输出，tanh作为激活函数；注意力权重表示为：

是对s_t的归一化，权值越大越重要；在时隙t，长短期记忆网络的隐状态

输出和权重和H_t为：

关注权重α取决于输入X和隐变量

所以取决于当前时刻也与前一时刻有关系；注意力权重越大，对预测结果影响越大。

Images