CN114202122A - 基于马尔可夫聚类图注意力网络的城市交通流量预测方法 - Google Patents

Abstract

本发明涉及一种基于马尔可夫聚类图注意力网络的城市交通流量预测方法，包括如下步骤：1、根据历史的交通出行数据，获取时间序列流量矩阵；2、基于马尔可夫聚类算法思想提取图中存在的自然结构信息，获得全局相关性结点矩阵；3、建立生成对抗神经网络模型，该模型生成器中改进的图注意力模块在获取空间隐藏特征时不再像图注意力网络仅将邻结点限制在一阶邻居结点内，而是扩展到基于马尔可夫聚类算法得到的全局相关性结点信息中；学习训练模型，将学习好的模型作为区域交通流量预测模型；本发明改进的图注意力模块不仅关注局部的邻结点，并且动态考虑整体图结构中的邻结点信息，对他们赋予不同的权重，提高对空间特征的获取能力。

Description

基于马尔可夫聚类图注意力网络的城市交通流量预测方法

技术领域

本发明涉及一种基于马尔可夫聚类图注意力网络的城市交通流量预测方法，属于交通技术领域。

背景技术

随着经济发展，人民生活水平提高，出行所带来的交通问题也日益严重，对交通数据的挖掘和分析成为研究人员所关注的热点问题，其中对交通数据的预测也随之流行。

传统基于统计学的方法，利用历史数据来预测未来的趋势，例如：自回归综合移动平均(ARIMA)与卡尔曼滤波(KF)，但它们无法处理非线性的交通数据，因为假设未来的预测与过去的数据具有相同的特征；最近几年基于深度学习的神经网络方法，比如图卷积神经网路(GCN)对图结构空间特征的提取，长短期记忆神经网络(LSTM)对时间序列的特征提取，图注意力神经网络(GAT)在图中引入自注意力机制，应用于归纳式学习(inductivelearning)等。但这些方法中仍存在不足，GCN只考虑图的全局结构，不能对邻结点分配不同的重要性，GAT可以对邻结点分配不同的权重值，但在一定程度上放弃了图的整体结构。

发明内容

针对以上不足，本发明所要解决的技术问题是提供一种动态获取图全局时空依赖性的基于马尔可夫聚类图注意力网络的城市交通流量预测方法。

本发明采用如下技术方案：

本发明基于马尔可夫聚类图注意力网络的城市交通流量预测方法，其包括如下步骤：

步骤1：根据历史的交通出行数据，对所选的区域构造时间序列的图的结构信息，获取对应流量矩阵；具体包括以下步骤：

1.1)构造图信息：首先把所选区域划分成等距小范围地块，将其作为图结构的结点，设得到的结点个数为N，并将其依次标注1-N序号；

1.2)获得时间序列流量矩阵：将历史交通出行数据按照时间间隔为t的时间序列(t₁,t₂,…,t_n)进行划分，根据(t₁,t₂,…,t_n)各自对应的交通出行数据，获取所有地块的流量值，将此数值作为权重得到时间序列的流量矩阵(n个)，设其中一个流量矩阵表示为

步骤2：处理时间序列流量矩阵，提取图中存在的自然结构信息，获得时间序列的空间特征矩阵；具体包括以下步骤：

2.1)处理时间序列流量矩阵：基于随机游走的思想，将马尔可夫聚类算法应用于处理时间序列流量矩阵上，使其最终收敛，得到图中自然存在的非连通区域；

2.2)获取全局相关性结点矩阵

马尔可夫聚类算法所得结果结构为多个吸引系统，吸引系统包括一个吸引结点和多个被吸引结点，收敛后的矩阵表现结果为0-1矩阵；

步骤3：建立生成对抗神经网络模型，将时间序列流量矩阵、全局相关性结点矩阵和图的邻接矩阵A作为输入，得到的区域预测交通流量矩阵作为输出，学习训练模型，将学习好的模型作为区域交通流量预测模型。

进一步的，所述生成对抗神经网络模型包括生成器和判别器；

所述生成器包括改进的图注意力模块和LSTM模块；

所述判别器包括LSTM模块和全连接层，用于判别是真实样本还是生成器生成的预测样本，生成器与判别器互相对抗训练，直到判别器不能判别出输入样本是来自生成器还是真实值，此时可以认为生成器学习到输入样本的分布特征，生成的预测值被作为输出结果，即所选区域的预测交通流量矩阵。

进一步的，所述步骤1.1中划分所选区域为等距小范围地块计算公式如下：

N＝column*row (5)

其中，R表示地球半径；change表示将所选区域划分为小范围地块的边长，单位为米；Lon_left,Lon_right表示所选区域的经度最值，单位为度；ΔLon表示change改变所对应的经度的变化量，ΔLat表示change改变所对应纬度的变化量，ΔLon与ΔLat都为弧度制结果；Lat_up,Lat_down表示所选区域的纬度最值；column表示将所选区域划分为等距小范围地块在经度范围内所得到的个数；row表示将所选区域划分为等距小范围地块在纬度范围内所得到的个数；N表示所选区域被划为小范围地块的总个数。

进一步的，所述步骤1.2中获得其中一个流量矩阵

公式如下：

其中，

表示第t_s个时间间隔的流量矩阵，Q_NN表示两个地块之间的流量值。

进一步的，所述步骤2.1中处理时间序列流量矩阵

公式如下：

exp_Mat＝Prob_Mat×Prob_Mat (9)

公式(7)：

表示步骤1.2中得到的流量矩阵按照t_s到t_n时间序列相加之和；

公式(8)对Prob_Mat进行归一化操作，其中：Prob_Mat表示归一化操作后的概率矩阵，i和j表示矩阵索引下标(1≤i≤N)、(1≤j≤N)，I表示对角矩阵，

与I矩阵形状大小一致；

公式(9)：exp_Mat是矩阵乘法的结果，×表示矩阵乘法；

公式(10)对inf_Mat进行归一化操作，其中：*表示哈达玛积，即矩阵对应位置的元素相乘，所得结果与原矩阵形状大小相同。

进一步的，所述步骤2.2中获取全局相关性结点矩阵

包括如下步骤：

步骤a：根据公式(8)将时间序列流量矩阵处理成归一化操作后的概率矩阵；

步骤b：迭代进行公式(9),公式(10)操作，直至inf_Mat矩阵收敛得到

进一步的，所述生成器中首先使用改进的图注意力模块，改进的图注意力模块在计算注意力矩阵时引入步骤2.2得到的

将

的结果作为是否为邻结点判断条件得到注意力矩阵，最终将注意力矩阵与流量矩阵共同作用得到隐藏特征。

进一步的，所述步骤3生成对抗神经网络中生成器将改进的图注意力模块的结果输入到LSTM模块中，得到具有时间依赖的空间特征；

所述LSTM模块由一个LSTM层构成，一层LSTM由1个cell单元组成，cell中具体计算公式如下：

f_t＝σ(W_f·[h_t-1,x_t]+b_f) (11)

i_t＝σ(W_i·[h_t-1,x_t]+b_i) (12)

o_t＝σ(W_o·[h_t-1,x_t]+b_o) (15)

h_t＝o_t*tanh(C_t) (16)

其中，f_t为遗忘门开闭程度，W_f为遗忘门权重参数，b_f为遗忘门偏置参数，h_t-1为上一时刻结果，x_t为本时刻输入，·表示乘法操作，[]表示拼接操作，σ为sigmoid激活函数；i_t输入门开闭程度，W_i为输入门权重参数，b_i为输入门偏置参数，

为旧状态，W_C为权重参数，b_C为偏置参数tanh为激活函数；o_t为输出门开闭程度，W_o为输出门权重参数，b_o为输出门偏置参数，*表示哈达玛积，C_t为新状态，h_t为本时刻输出结果。

本发明所述步骤3生成对抗神经网络中判别器采用LSTM模块和全连接层，全连接层中计算公式为：

F＝σ(W_F·output+b_F) (17)

其中，F为全连接层的结果；output为LSTM模块的结果；W_F表示全连接层权重参数；b_F表示全连接层偏置参数；σ为sigmoid激活函数。

进一步的，生成器和判别器相互对抗训练，先固定生成器，训练判别器，再将训练好的判别器固定，训练生成器，最终生成器得到预测值做为整个模型预测出的下一时间间隔交通流量值。

本发明的技术效果在于：本发明方法根据步骤1中通过交通数据的交互图表示得到交通网络的图信息，据此获取时间序列流量矩阵；步骤2.2获得全局相关性结点矩阵，该步骤考虑到整个图结构的信息，用随机游走的思想发现图内存在的自然结构(非连通区域)；步骤3生成对抗神经网络中使用改进的图注意力模块获取结点之间的隐藏特征，获得空间依赖性；改进的图注意力模块在用邻接矩阵计算注意力值的基础上加入步骤2.2结果所得到的全局相关性结点矩阵，这不仅使注意力值考虑到局部的邻结点信息，还动态考虑到全局结构的邻结点信息，弥补图注意力网络放弃全图结构的不足。使用LSTM模块处理时间序列获取时间依赖性，将改进的图注意力模块和LSTM模块作为生成对抗网络的生成器，将LSTM模块和全连接层作为生成对抗网络的判别器，最后形成一个基于马尔可夫聚类图注意力网络的城市交通流量预测模型，改进的图注意力模块在获取空间隐藏特征时不再像图注意力网络仅将邻结点限制在一阶邻居结点内，而是扩展到基于马尔可夫聚类算法得到的全局相关性结点信息中；本发明改进的图注意力模块不仅关注局部的邻结点，并且动态考虑整体图结构中的邻结点信息，对他们赋予不同的权重，提高对空间特征的获取能力。

附图说明

图1是本发明的生成对抗神经网络结构示意图。

具体实施方式

下面结合附图1对本发明进行详细说明。

如图1所示，一种基于马尔可夫聚类图注意力网络的城市交通流量预测方法，包括如下步骤：

步骤1：根据历史的交通出行数据，对所选的区域构造时间序列的图的结构信息，获取对应流量矩阵；具体操作分为以下分步骤：

1.1)构造图信息：首先把所选区域划分成等距小范围地块，将其作为图结构的结点，设得到的结点个数为N，并将其依次标注1-N序号；将所选区域划分为1km*1km的小范围地块，G＝{N}，其中N＝{N₁，N₂，...，N_N，}为结点集合；划分所选区域为等距小范围地块计算公式如下：

N＝column*row (5)

其中，R表示地球半径；change表示将所选区域划分为小范围地块的边长，单位为米；Lon_left，Lon_right表示所选区域的经度最值，单位为度；ΔLon表示change改变所对应的经度的变化量，ΔLat表示change改变所对应纬度的变化量，ΔLon与ΔLat都为弧度制结果；Lat_up，Lat_down表示所选区域的纬度最值；column表示将所选区域划分为等距小范围地块在经度范围内所得到的个数；row表示将所选区域划分为等距小范围地块在纬度范围内所得到的个数；N表示所选区域被划为小范围地块的总个数；

1.2)获得时间序列流量矩阵：将历史交通出行数据按照时间间隔为t的时间序列(t₁，t₂，...，t_n)进行划分，根据(t₁，t₂，...，t_n)各自对应的交通出行数据，获取所有地块的流量值，将此数值作为权重得到时间序列的流量矩阵(n个)，设其中一个流量矩阵表示为

公式如下：

其中，

表示t_s时间间隔的流量矩阵，O_NN表示两个地块之间的流量值；

步骤2：处理时间序列流量矩阵，提取图中存在的自然结构信息，获得时间序列的空间特征矩阵。具体操作分为以下分步骤：

2.1)处理时间序列流量矩阵：基于随机游走的思想，将马尔可夫聚类算法应用于处理时间序列流量矩阵上，使其最终收敛，得到图中自然存在的非连通区域；处理时间序列流量矩阵

公式如下：

exp_Mat＝Prob_Mat×Prob_Mat (9)

公式(7)：

表示步骤1.2中得到的流量矩阵按照t_s到t_n时间序列相加之和；公式(8)对Prob_Mat进行归一化操作，其中：Prob_Mat表示归一化操作后的概率矩阵，i和j表示矩阵索引下标(1≤i≤N)、(1≤j≤N)，I表示对角矩阵，

与I矩阵形状大小一致；公式(9)：exp_Mat是矩阵乘法的结果，×表示矩阵乘法；公式(10)对inf_Mat进行归一化操作，其中：*表示哈达玛积，即矩阵对应位置的元素相乘，所得结果与原矩阵形状大小相同。

2.2)获取全局相关性结点矩阵

马尔可夫聚类算法所得结果结构为多个吸引系统，吸引系统包括一个吸引结点和多个被吸引结点，收敛后的矩阵表现结果为0-1矩阵；获取全局相关性结点矩阵

包括如下步骤：

步骤a：根据公式(8)将时间序列流量矩阵处理成归一化操作后的概率矩阵；

步骤b：迭代进行(9)，(10)操作，直至inf_Mat矩阵收敛得到

步骤3：建立生成对抗神经网络模型，将时间序列流量矩阵、全局相关性结点矩阵和图的邻接矩阵A作为输入，得到的区域预测交通流量矩阵作为输出，学习训练模型，将学习好的模型作为区域交通流量预测模型。

所述生成对抗神经网络模型包括生成器和判别器；

所述生成器包括改进的图注意力模块和LSTM模块，生成器中改进的图注意力模块使用自注意力机制，用于根据流量矩阵提取预测区域对应为图结构后的深层空间特征；LSTM的应用可以更好地获取时间序列中距离较大的时间步之间的依赖关系；判别器中包括LSTM模块和全连接层，用于判别是真实样本还是生成器生成的预测样本，生成器与判别器互相对抗训练，直到判别器不能判别出输入样本是来自生成器还是真实值，此时可以认为生成器学习到输入样本的分布特征，生成的预测值被作为输出结果，即区域的预测交通流量矩阵。

改进的图注意力模块在计算注意力矩阵时引入步骤2.2得到的

不单单将图的邻接矩阵A作为是否为邻结点的判断条件，而是将

的结果作为是否为邻结点判断条件得到注意力矩阵，最终将注意力矩阵与流量矩阵共同作用得到隐藏特征；将改进的图注意力模块的结果输入到LSTM模块中，得到具有时间依赖的空间特征；LSTM模块由为一个LSTM层构成，一层LSTM由1个cell单元组成，cell中具体计算公式如下：

f_t＝σ(W_f·[h_t-1，x_t]+b_f) (11)

i_t＝σ(W_i·[h_t-1，x_t]+b_i) (12)

o_t＝σ(W_o·[h_t-1，x_t]+b_o) (15)

h_t＝o_t*tanh(C_t) (16)

公式(11)计算遗忘门开闭程度：其中，f_t表示遗忘门开闭程度(取值范围为[0.1])，W_f为遗忘门权重参数，b_f为遗忘门偏置参数，h_t-1为上一时刻结果，x_t本时刻输入，·表示乘法操作，[]表示拼接操作，σ为sigmoid激活函数；公式(12)计算输入门开闭程度：i_t表示输入门开闭程度(取值范围为[0.1])，W_i为输入门权重参数，b_i为输入门偏置参数；公式(13)计算cell旧状态，

为旧状态，W_C为权重参数，b_C为偏置参数，tanh为激活函数；公式(14)计算cell新状态，C_t为新状态，*表示哈达玛积；公式(15)计算输出门开闭程度：o_t表示输出门开闭程度(取值范围为[0.1])，W_o为输出门权重参数，b_o为输出门偏置参数；公式(16)计算输出：h_t为本时刻输出结果。

判别器采用LSTM模块和全连接层，全连接层中计算公式为：

F＝σ(W_F·output+b_F) (17)

其中，F为全连接层的结果，output为LSTM模块的结果，W_F表示全连接层权重参数，b_F表示全连接层偏置参数，σ为sigmoid激活函数。

其中利用改进的图注意力模块对空间特征获取步骤如下：

所述流量矩阵

为某一时间间隔获得的流量矩阵，用前p个时间间隔的历史数据预测下一时间间隔的流量矩阵

首先将p个时间间隔流量矩阵

合并为P∈R^N×N×p三维张量，处理P进行特征提取，F为提取后的特征维度，需要定义参数张量W∈R^p×F，得到处理后的隐层特征张量为X∈R^N×N×F(P∈R^N×N×p与W∈R^p×F张量乘法运算结果)，定义参数矩阵a∈R^F×1，X与a∈R^F×1做张量乘法运算，进一步经过LeakyReLU激活函数处理得到E(类型为张量)，再将邻接矩阵A和步骤2.2中的

相加的结果用作到E上得到注意力矩阵，计算中还需注意将不连接的结点注意力值去掉，本发明定义一个很大的负数γ用来去掉不连接结点的注意力值(如果

E_ij不做改变，否则E_ij＝γ)，使用softmax函数进行标准化，用所得最终注意力矩阵与X做张量乘法的结果进行elu激活函数得到改进的图注意力模块的输出值Y∈R^N×N×1。改进图注意力模块的结果作为LSTM模块的输入，获取时间依赖性，生成器中的损失函数为预测交通流量值与真实交通流量值的均方误差(MSE)，判别器采用LSTM模块和全连接层，判别器采用交叉熵损失函数，判别器的结果表示判别数据为真的概率值，最终用来决策是fakeorreal。本发明采用均方根误差(RMSE)，平均绝对误差(MAE)和平均绝对百分误差(MAPE)衡量模型得到的交通数据预测值与真实交通数据值之间的误差。将石家庄某城区划分为1km*1km小范围地块，共180个，作为构建的图结构中的结点。设置时间序列中的时间间隔为30分钟，选取的历史时间序列个数为6，来预测下一个时间间隔的交通流量值。步骤3生成对抗神经网络中生成器的改进图注意力模块，输入的P∈R^180×180×6，提取隐层特征维数F为2，输出预测值为Y∈R^N×N×1。LeakyReLU()激活函数的负斜率为0.2，模型参数优化使用adam优化器，学习率为1e-2，迭代次数为200。

本发明方法根据步骤1中通过交通数据的交互图表示得到交通网络的图信息，据此获取时间序列流量矩阵；步骤2.2获得全局相关性结点矩阵，该步骤考虑到整个图结构的信息，用随机游走的思想发现图内存在的自然结构(非连通区域)；步骤3生成对抗神经网络中使用改进的图注意力模块获取结点之间的隐藏特征，获得空间依赖性；改进的图注意力模块在用邻接矩阵计算注意力值的基础上加入步骤2.2结果所得到的全局相关性结点矩阵，这不仅使注意力值考虑到局部的邻结点信息，还动态考虑到全局结构的邻结点信息，弥补图注意力网络放弃全图结构的不足。使用LSTM模块处理时间序列获取时间依赖性，将改进的图注意力模块和LSTM模块作为生成对抗网络的生成器，将LSTM模块和全连接层作为生成对抗网络的判别器，最后形成一个基于马尔可夫聚类图注意力网络的城市交通流量预测模型；改进的图注意力模块在获取空间隐藏特征时不再像图注意力网络仅将邻结点限制在一阶邻居结点内，而是扩展到基于马尔可夫聚类算法得到的全局相关性结点信息中；本发明改进的图注意力模块不仅关注局部的邻结点，并且动态考虑整体图结构中的邻结点信息，对他们赋予不同的权重，提高对空间特征的获取能力。

最后说明的是，以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换或改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于马尔可夫聚类图注意力网络的城市交通流量预测方法，其特征在于，其包括如下步骤：

步骤1：根据历史的交通出行数据，对所选的区域构造时间序列的图的结构信息，获取对应流量矩阵；具体包括以下步骤：

1.1)构造图信息：首先把所选区域划分成等距小范围地块，将其作为图结构的结点，设得到的结点个数为N，并将其依次标注1-N序号；

1.2)获得时间序列流量矩阵：将历史交通出行数据按照时间间隔为t的时间序列(t₁，t₂，...，t_n)进行划分，根据(t₁，t₂，...，t_n)各自对应的交通出行数据，获取所有地块的流量值，将此数值作为权重得到时间序列的流量矩阵(n个)，设其中一个流量矩阵表示为

步骤2：处理时间序列流量矩阵，提取图中存在的自然结构信息，获得时间序列的空间特征矩阵；具体包括以下步骤：

2.1)处理时间序列流量矩阵：基于随机游走的思想，将马尔可夫聚类算法应用于处理时间序列流量矩阵上，使其最终收敛，得到图中自然存在的非连通区域；

2.2)获取全局相关性结点矩阵

马尔可夫聚类算法所得结果结构为多个吸引系统，吸引系统包括一个吸引结点和多个被吸引结点，收敛后的矩阵表现结果为0-1矩阵；

步骤3：建立生成对抗神经网络模型，将时间序列流量矩阵、全局相关性结点矩阵和图的邻接矩阵A作为输入，得到的区域预测交通流量矩阵作为输出，学习训练模型，将学习好的模型作为区域交通流量预测模型。

2.根据权利要求1所述的基于马尔可夫聚类图注意力网络的城市交通流量预测方法，其特征在于，所述生成对抗神经网络模型包括生成器和判别器；

所述生成器包括改进的图注意力模块和LSTM模块；

所述判别器包括LSTM模块和全连接层，用于判别是真实样本还是生成器生成的预测样本，生成器与判别器互相对抗训练，直到判别器不能判别出输入样本是来自生成器还是真实值，此时可以认为生成器学习到输入样本的分布特征，生成的预测值被作为输出结果，即所选区域的预测交通流量矩阵。

3.根据权利要求1所述的基于马尔可夫聚类图注意力网络的城市交通流量预测方法，其特征在于，所述步骤1.1中划分所选区域为等距小范围地块计算公式如下：

N＝column*row (5)

其中，R表示地球半径；change表示将所选区域划分为小范围地块的边长，单位为米；Lon_left，Lon_right表示所选区域的经度最值，单位为度；ΔLon表示change改变所对应的经度的变化量，ΔLat表示change改变所对应纬度的变化量，ΔLon与ΔLat都为弧度制结果；Lat_up，Lat_down表示所选区域的纬度最值；column表示将所选区域划分为等距小范围地块在经度范围内所得到的个数；row表示将所选区域划分为等距小范围地块在纬度范围内所得到的个数；N表示所选区域被划为小范围地块的总个数。

4.根据权利要求1所述的基于马尔可夫聚类图注意力网络的城市交通流量预测方法，其特征在于，所述步骤1.2中获得其中一个流量矩阵

公式如下：

其中，

表示第t_s个时间间隔的流量矩阵，Q_NN表示两个地块之间的流量值。

5.根据权利要求1所述的结合时空特征的交通流量预测方法，其特征在于，所述步骤2.1中处理时间序列流量矩阵

公式如下：

exp_Mat＝Prob_Mat×Prob_Mat (9)

公式(7)中

表示步骤1.2中得到的流量矩阵按照t_s到t_n时间序列相加之和；

公式(8)对Prob_Mat进行归一化操作，其中：Prob_Mat表示归一化操作后的概率矩阵，i和j表示矩阵索引下标(1≤i≤N)、(1≤j≤N)，I表示对角矩阵，

与I矩阵形状大小一致；

公式(9)：exp_Mat是矩阵乘法的结果，×表示矩阵乘法；

公式(10)对inf_Mat进行归一化操作，其中：*表示哈达玛积，即矩阵对应位置的元素相乘，所得结果与原矩阵形状大小相同。

6.根据权利要求5所述的基于马尔可夫聚类图注意力网络的城市交通流量预测方法，其特征在于，所述步骤2.2中获取全局相关性结点矩阵

包括如下步骤：

步骤a：根据公式(8)将时间序列流量矩阵处理成归一化操作后的概率矩阵；

步骤b：迭代进行公式(9)，公式(10)操作，直至inf_Mat矩阵收敛得到

7.根据权利要求2所述的基于马尔可夫聚类图注意力网络的城市交通流量预测方法，其特征在于，所述生成器中首先使用改进的图注意力模块，改进的图注意力模块在计算注意力矩阵时引入步骤2.2得到的

将

的结果作为是否为邻结点判断条件得到注意力矩阵，最终将注意力矩阵与流量矩阵共同作用得到隐藏特征。

8.根据权利要求7所述的基于马尔可夫聚类图注意力网络的城市交通流量预测方法，其特征在于，所述步骤3生成对抗神经网络中生成器将改进的图注意力模块的结果输入到LSTM模块中，得到具有时间依赖的空间特征；

所述LSTM模块由一个LSTM层构成，一层LSTM由1个cell单元组成，cell中具体计算公式如下：

f_t＝σ(W_f·[h_t-1，x_t]+b_f) (11)

i_t＝σ(W_i·[h_t-1，x_t]+b_i) (12)

o_t＝σ(W_o·[h_t-1，x_t]+b_o) (15)

h_t＝o_t*tanh(C_t) (16)

其中，f_t为遗忘门开闭程度，W_f为遗忘门权重参数，b_f为遗忘门偏置参数，h_t-1为上一时刻结果，x_t为本时刻输入，·表示乘法操作，[]表示拼接操作，σ为sigmoid激活函数；i_t输入门开闭程度，W_i为输入门权重参数，b_i为输入门偏置参数，

为旧状态，W_C为权重参数，b_C为偏置参数tanh为激活函数；o_t为输出门开闭程度，W_o为输出门权重参数，b_o为输出门偏置参数，*表示哈达玛积，C_t为新状态，h_t为本时刻输出结果。

9.根据权利要求2所述的基于马尔可夫聚类图注意力网络的城市交通流量预测方法，其特征在于，所述步骤3生成对抗神经网络中判别器采用LSTM模块和全连接层，全连接层中计算公式为：

F＝σ(W_F·output+b_F) (17)

其中，F为全连接层的结果；output为LSTM模块的结果；W_F表示全连接层权重参数；b_F表示全连接层偏置参数；σ为sigmoid激活函数。

10.根据权利要求所述的基于马尔可夫聚类图注意力网络的城市交通流量预测方法，其特征在于，生成器和判别器相互对抗训练，先固定生成器，训练判别器，再将训练好的判别器固定，训练生成器，最终生成器得到预测值做为整个模型预测出的下一时间间隔交通流量值。

Images