CN112949828A - 一种基于图学习的图卷积神经网络交通预测方法及系统 - Google Patents

Abstract

本发明公开了一种基于图学习的图卷积神经网络交通预测方法及系统，通过图学习模块学习来得到更为准确的新的邻接矩阵，通过图学习模块能够捕获多种空间关系，提高了交通预测精度；同时时空卷积块包括两个时空卷积层和空间图卷积层，时空卷积层又由扩张卷积和门控机制相结合得到，能够有效地捕获长时间依赖，节省了训练时间和空间资源。

Description

一种基于图学习的图卷积神经网络交通预测方法及系统

技术领域

本发明属于交通预测技术领域，尤其涉及一种基于图学习的图卷积神经网络交通预测方法及系统。

背景技术

交通预测是智能交通系统中的重要部分，准确的交通速度预测可以为交通管理、交通控制、交通规划提供有意义的参考信息。由于复杂的时间和空间依赖，交通预测是一个具有挑战性的问题。

现有的交通预测可以分为传统的机器学习方法和深度学习方法。深度学习方法包括基于递归网络(RNN)及其变体长短时记忆网络(LSTM)和门控递归单元(GRU)、卷积神经网络(CNN)、图卷积神经网络(GCN)及它们的结合。

基于RNN的方法存在耗时的迭代和梯度消失/爆炸的问题。基于CNN的方法在空间特征学习方面有良好的性能，所以被广泛用于交通预测，但是传统的CNN适用于欧几里得空间，如处理图像或网格数据。交通网络有复杂的拓扑结构，本质上是图结构。相比CNN，GCN更适用于交通预测。尽管基于GCN的方法在交通预测方面获得了好的性能，但是已有方法仍然存在一些问题。

首先，这些基于GCN的方法在捕获空间依赖方面只考虑了一种空间关系，而交通网络中存在多种空间依赖关系。已有的方法对于道路之间的空间依赖大都只考虑道路之间的空间距离，如图1所示，图1中横纵坐标的每个坐标代表一条道路，共50条道路，坐标点的颜色表示邻接矩阵的权重，权重越大，颜色越深，两条道路之间的相互影响越强，右侧颜色渐进数字表示权重大小，1表示最大，0表示最小。图1(a)是根据道路之间的速度序列相似性计算得到的邻接矩阵，图1(b)是根据道路之间的空间距离计算得到的邻接矩阵，位置LOC1和位置LOC2说明了两个道路之间尽管距离不近，但是它们之间存在很强的空间依赖关系。速度序列相似性是指一段时间内两条道路的速度向量之间的相似性。

其次，这些方法在捕获长期时间依赖方面不够有效。基于RNN的方法有耗时的迭代和梯度消失/爆炸问题。基于CNN的方法需要堆叠更多的层来捕获长期依赖。

发明内容

本发明的目的在于提供一种基于图学习的图卷积神经网络交通预测方法及系统，以解决已有方法仅考虑单一空间关系，无法捕获交通网络中存在的多种空间关系的问题，以及已有方法在捕获长期时间依赖方面不够有效的问题。

本发明是通过如下的技术方案来解决上述技术问题的：一种基于图学习的图卷积神经网络交通预测方法，包括以下步骤：

步骤1：获取预测路段及其相邻路段n个历史时刻交通速度数据Xⁿ，其中Xⁿ＝[x¹,x²,…,x^k,…,xⁿ]，x^k表示第k个历史时刻交通速度数据；

步骤2：对所述n个历史时刻交通速度数据Xⁿ进行预处理，得到预处理后的n个历史时刻交通速度数据X'ⁿ，其中X'ⁿ＝[x'¹,x'²,…,x'^k,…,x'ⁿ]；

步骤3：根据预处理后的n个历史时刻交通速度数据X'ⁿ，计算预测路段及其相邻路段的距离图邻接矩阵D以及关系图邻接矩阵C；

所述距离图邻接矩阵D表示两条不同道路之间空间距离的接近度，所述关系图邻接矩阵C表示两条不同道路之间速度序列相似性；

步骤4：构建基于图学习的图卷积神经网络预测模型；所述基于图学习的图卷积神经网络预测模型包括图学习模块、多个时空卷积块以及输出层，所述图学习模块的输出端分别与多个时空卷积块的输入端连接，前一个所述时空卷积块的输出端与后一个所述时空卷积块的输入端连接，最后一个所述时空卷积块的输出端与所述输出层的输入端连接；

步骤5：选取预处理后的n个历史时刻交通速度数据X'ⁿ中的h个历史时刻交通速度数据X'^h作为输入数据，选取预处理后的n个历史时刻交通速度数据X'ⁿ中h个历史时刻交通速度数据之后的p个历史时刻交通速度数据X'^p作为输出数据；其中，X'^h＝[x'^t-h+1,x'^t-h+2,…,x'^t]，X'^p＝[x'^t+1,x'^t+2,…,x'^t+p]，X'^h∈X'ⁿ，X'^p∈X'ⁿ；

将所述输入数据X'^h分别输入到第一个时空卷积块和图学习模块，将距离图邻接矩阵D和关系图邻接矩阵C输入到图学习模块，将输出数据X'^p作为所述图卷积神经网络预测模型的输出，对所述图卷积神经网络预测模型进行训练，得到训练好的基于图学习的图卷积神经网络预测模型。

本发明中，预测模型中的图学习模块能够捕获多种空间关系，提高了交通预测精度，同时时空卷积块能够有效地捕获长时间依赖，节省了训练时间和空间资源。

进一步地，所述步骤2中，预处理包括归一化处理，归一化处理公式为：

其中，X'为归一化处理后的交通速度数据，X为归一化处理前的交通速度数据，X_min为n个历史时刻交通速度数据Xⁿ中的最小值，X_max为n个历史时刻交通速度数据Xⁿ中的最大值。

进一步地，所述步骤3中，距离图邻接矩阵的计算公式为：

其中，D_ij表示道路i与道路j之间距离图邻接矩阵，d_ij表示道路i与道路j之间的空间距离，σ表示道路i与道路j之间空间距离的标准偏差，ε表示保证距离图邻接矩阵稀疏性的阈值；

关系图邻接矩阵的计算公式为：

其中，C_ij表示道路i与道路j之间关系图邻接矩阵，ρ表示设定阈值，corr_ij表示道路i与道路j之间的皮尔逊相关系数，

表示第t个历史时刻道路i的交通速度数据，

表示第t个历史时刻道路j的交通速度数据，

表示道路i交通速度数据的均值，

表示道路j交通速度数据的均值。

进一步地，所述步骤4中，每个时空卷积块均包括依次连接的第一时间卷积层、空间图卷积层以及第二时间卷积层；所述第一时间卷积层和第二时间卷积层均由扩张卷积和门控机制相结合。

进一步地，所述步骤5中，对基于图学习的图卷积神经网络预测模型进行训练的具体过程为：

步骤5.1：根据所述输入数据X'^h、距离图邻接矩阵D和关系图邻接矩阵C，所述图学习模块输出新的邻接矩阵A，新的邻接矩阵为：

其中，A_ij表示学习得到的道路i与道路j之间新的邻接矩阵，D_ij表示道路i与道路j之间距离图邻接矩阵，C_ij表示道路i与道路j之间关系图邻接矩阵，

分别表示x_i、x_j降维后的交通速度向量，P表示降维投影矩阵，x_i、x_j分别表示输入的道路i、道路j的交通速度向量，N表示道路的条数，K表示权重向量，K为可调节参数，ReLU()表示线性整流函数；

步骤5.2：根据所述图学习模块的输出和前一个时空卷积块的输出，或根据所述图学习模块的输出和输入数据，所述时空卷积块的输出为：

H＝(K₃*Z)⊙δ(K₄*Z)

H'＝(K₁*X^Nh)⊙δ(K₂*X^Nh)

其中，H表示第二时间卷积层的输出，δ表示sigmoid函数，Z表示空间图卷积层的输出，K₁、K₂、K₃和K₄均表示时间卷积核，H'表示第一时间卷积层的输出，

表示图学习模块输出的新的邻接矩阵加自循环归一化后的矩阵，

表示度矩阵，

是一个对角矩阵，

表示中间矩阵，I表示单位矩阵，W表示权重矩阵，X^Nh表示前一个时空卷积块的输出或输入数据，⊙表示点积；

步骤5.3：构建损失函数，损失函数的表达式为：

L＝L_pre+λ*L_GL

其中，L表示损失函数值，L_pre表示预测损失，L_GL表示图学习模块的损失，λ表示权重系数，p表示预测时刻的数量，

表示第t+k个时刻第j条道路预测的交通速度，

表示第t+k个时刻第j条道路真实的交通速度，β、γ、μ均为超参数，

表示二范数的平方，

表示F范数的平方；

步骤5.4：以所述损失函数作为训练目标，不断训练优化所述基于图学习的图卷积神经网络预测模型，当损失函数值达到要求值时确定所述图卷积神经网络预测模型的参数，从而得到训练好的基于图学习的图卷积神经网络预测模型。

本发明还提供一种基于图学习的图卷积神经网络交通预测系统，包括：

数据获取单元，用于获取预测路段及其相邻路段n个历史时刻交通速度数据Xⁿ，其中Xⁿ＝[x¹,x²,…,x^k,…,xⁿ]，x^k表示第k个历史时刻交通速度数据；

数据预处理单元，用于对所述n个历史时刻交通速度数据Xⁿ进行预处理，得到预处理后的n个历史时刻交通速度数据X'ⁿ，其中X'ⁿ＝[x'¹,x'²,…,x'^k,…,x'ⁿ]；

邻接矩阵计算单元，用于根据预处理后的n个历史时刻交通速度数据X'ⁿ，计算预测路段及其相邻路段的距离图邻接矩阵D以及关系图邻接矩阵C；

所述距离图邻接矩阵D表示两条不同道路之间空间距离的接近度，所述关系图邻接矩阵C表示两条不同道路之间速度序列相似性；

预测模型构建单元，用于构建基于图学习的图卷积神经网络预测模型；所述基于图学习的图卷积神经网络预测模型包括图学习模块、多个时空卷积块以及输出层，所述图学习模块的输出端分别与多个时空卷积块的输入端连接，前一个所述时空卷积块的输出端与后一个所述时空卷积块的输入端连接，最后一个所述时空卷积块的输出端与所述输出层的输入端连接；

预测模型训练单元，用于选取预处理后的n个历史时刻交通速度数据X'ⁿ中的h个历史时刻交通速度数据X'^h作为输入数据，选取预处理后的n个历史时刻交通速度数据X'ⁿ中h个历史时刻交通速度数据之后的p个历史时刻交通速度数据X'^p作为输出数据；其中，X'^h＝[x'^t-h+1,x'^t-h+2,…,x'^t]，X'^p＝[x'^t+1,x'^t+2,…,x'^t+p]，X'^h∈X'ⁿ，X'^p∈X'ⁿ；

将所述输入数据X'^h分别输入到第一个时空卷积块和图学习模块，将距离图邻接矩阵D和关系图邻接矩阵C输入到图学习模块，将输出数据X'^p作为所述图卷积神经网络预测模型的输出，对所述图卷积神经网络预测模型进行训练，得到训练好的基于图学习的图卷积神经网络预测模型。

进一步地，所述预测模型训练单元包括：

输入数据和输出数据选取模块，用于选取预处理后的n个历史时刻交通速度数据X'ⁿ中的h个历史时刻交通速度数据X'^h作为输入数据，选取预处理后的n个历史时刻交通速度数据X'ⁿ中h个历史时刻交通速度数据之后的p个历史时刻交通速度数据X'^p作为输出数据；其中，X'^h＝[x'^t-h+1,x'^t-h+2,…,x'^t]，X'^p＝[x'^t+1,x'^t+2,…,x'^t+p]，X'^h∈X'ⁿ，X'^p∈X'ⁿ；

图学习模块，用于根据所述输入数据X'^h、距离图邻接矩阵D和关系图邻接矩阵C，所述图学习模块输出新的邻接矩阵A，新的邻接矩阵为：

其中，A_ij表示学习得到的道路i与道路j之间新的邻接矩阵，D_ij表示道路i与道路j之间距离图邻接矩阵，C_ij表示道路i与道路j之间关系图邻接矩阵，

分别表示x_i、x_j降维后的交通速度向量，P表示降维投影矩阵，x_i、x_j分别表示输入的道路i、道路j的交通速度向量，N表示道路的条数，K表示权重向量，K为可调节参数，ReLU()表示线性整流函数；

时空卷积块，用于根据所述图学习模块的输出和前一个时空卷积块的输出，或根据所述图学习模块的输出和输入数据，所述时空卷积块的输出为：

H＝(K₃*Z)⊙δ(K₄*Z)

H'＝(K₁*X^Nh)⊙δ(K₂*X^Nh)

其中，H表示第二时间卷积层的输出，δ表示sigmoid函数，Z表示空间图卷积层的输出，K₁、K₂、K₃和K₄均表示时间卷积核，H'表示第一时间卷积层的输出，

表示图学习模块输出的新的邻接矩阵加自循环归一化后的矩阵，

表示度矩阵，

是一个对角矩阵，

表示中间矩阵，I表示单位矩阵，W表示权重矩阵，X^Nh表示前一个时空卷积块的输出或输入数据，⊙表示点积；

损失函数构建模块，用于构建损失函数，损失函数的表达式为：

L＝L_pre+λ*L_GL

其中，L表示损失函数值，L_pre表示预测损失，L_GL表示图学习模块的损失，λ表示权重系数，p表示预测时刻的数量，

表示第t+k个时刻第j条道路预测的交通速度，

表示第t+k个时刻第j条道路真实的交通速度，β、γ、μ均为超参数，

表示二范数的平方，

表示F范数的平方；

训练模块，用于以所述损失函数作为训练目标，不断训练优化所述基于图学习的图卷积神经网络预测模型，当损失函数值达到要求值时确定所述图卷积神经网络预测模型的参数，从而得到训练好的基于图学习的图卷积神经网络预测模型。

有益效果

与现有技术相比，本发明的优点在于：

1、利用图学习模块能够捕获多种空间关系，提高了交通预测精度；

2、利用时空卷积块能够有效地捕获长时间依赖，节省了训练时间和空间资源。

附图说明

为了更清楚地说明本发明的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一个实施例，对于本领域普通技术人员来说，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1(a)是本发明背景技术中基于速度序列相似性的邻接矩阵图；

图1(b)是本发明背景技术中基于空间距离的邻接矩阵图；

图2(a)是本发明实施例中预测模型的结构示意图；

图2(b)是本发明实施例中时空卷积块的结构示意图；

图2(c)是本发明实施例中第一时间卷积层或第二时间卷积层的结构示意图；

图3是本发明实施例中获取新的邻接矩阵的原理图。

具体实施方式

下面结合本发明实施例中的附图，对本发明中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

本实施例所提供的一种基于图学习的图卷积神经网络交通预测方法，包括以下步骤：

步骤1：获取预测路段及其相邻路段n个历史时刻交通速度数据Xⁿ，其中Xⁿ＝[x¹,x²,…,x^k,…,xⁿ]，x^k表示第k个历史时刻交通速度数据。

交通预测是一个时间序列预测问题，利用历史时刻交通速度数据来预测未来时刻交通速度。交通网络可以被视为一个图G＝(V，E)，其中V是一组N＝|V|个节点集，每个节点表示一条道路，E表示一组边，每条边表示道路之间的邻接关系。这些邻接关系也可以表示为一个加权的邻接矩阵A_ij，A_ij表示节点i和j之间的关系强度。h个历史时刻交通速度数据可以表示为一个时间序列X^h＝[x^t-h+1,x^t-h+2,…,x^t]，x^t表示在历史时刻t时N条道路的速度向量，交通预测是根据h个历史时间的交通速度数据[x^t-h+1,x^t-h+2,…,x^t]和邻接矩阵A_ij来预测未来的p个时刻的交通速度数据[x^t+1,x^t+2,…,x^t+p]。

历史时刻交通速度数据来源于文献：

Yu,B.；Yin,H.；and Zhu,Z.2018.Spatio-Temporal Graph

Convolutional Networks:A Deep Learning Framework forTrafficForecasting.In Proceedings of t he Twenty-Seventh International JointConference on Artificial Intelligence,IJCAI,3634–3640.以及

Diao,Z.；Wang,X.；Zhang,D.；Liu,Y.；Xie,K.；and He,S.2019.Dynamic spatial-temporal graph convolutional neural networks for traffic forecasting.InProceedings of the AAAI Conference on Artificial Intelligence,volume 33,890–897.

步骤2：对n个历史时刻交通速度数据Xⁿ进行预处理，得到预处理后的n个历史时刻交通速度数据X'ⁿ，其中X'ⁿ＝[x'¹,x'²,…,x'^k,…,x'ⁿ]。

预处理包括归一化处理过程，归一化是为了缓解数据样本的差异过大造成的预测模型训练时间增加且可能找不到最优解的问题。训练预测模型的目的是要找到目标函数的最优解，如果样本特征X₁和X₂的取值范围分别是[1,10000]和[1,100]，预测模型要兼顾两方面的影响，数据样本之间的差异会造成寻找最优解的路径变长，从而增加了训练时间，并且可能陷入局部最优。而把数据归一化以后，此种弊端会消除。归一化处理公式为：

其中，X'为归一化处理后的交通速度数据，X为归一化处理前的交通速度数据，X_min为n个历史时刻交通速度数据Xⁿ中的最小值，X_max为n个历史时刻交通速度数据Xⁿ中的最大值。

步骤3：根据预处理后的n个历史时刻交通速度数据X'ⁿ，计算预测路段及其相邻路段的距离图邻接矩阵D以及关系图邻接矩阵C。

交通网络包括两种不同空间关系构图，即距离图和关系图，距离图表示交通网络中不同道路的物理距离接近度(空间距离远近)，关系图表示不同道路之间的速度序列相似性。本实施例，采用距离图邻接矩阵D表示两条不同道路之间空间距离的接近度，采用关系图邻接矩阵C表示两条不同道路之间速度序列相似性。

距离图邻接矩阵的计算公式为：

其中，D_ij表示道路i与道路j之间距离图邻接矩阵，d_ij表示道路i与道路j之间的空间距离，σ表示道路i与道路j之间空间距离的标准偏差，ε表示保证距离图邻接矩阵稀疏性的阈值本实施例中，ε设为0.5。

关系图邻接矩阵的计算公式为：

其中，C_ij表示道路i与道路j之间关系图邻接矩阵，ρ表示设定阈值，设定ρ便于选出速度序列相关性高的道路(或节点)，本实施例中，ρ设为0.9，corr_ij表示道路i与道路j之间的皮尔逊相关系数，

表示第t个历史时刻道路i的交通速度数据，

表示第t个历史时刻道路j的交通速度数据，

表示道路i交通速度数据的均值，

表示道路j交通速度数据的均值。

邻接矩阵对图卷积神经网络很重要，它决定了图卷积操作的感知域和邻域的重要性。一个准确的邻接矩阵能改善交通预测精度。为了提高交通速度预测精度，将距离图邻接矩阵D以及关系图邻接矩阵C输入到预测模型的图学习模块中，通过学习得到一个更为准确的新的邻接矩阵A_ij。

步骤4：构建基于图学习的图卷积神经网络预测模型；基于图学习的图卷积神经网络预测模型(简称预测模型)包括图学习模块、多个时空卷积块以及输出层，图学习模块的输出端分别与多个时空卷积块的输入端连接，前一个时空卷积块的输出端与后一个时空卷积块的输入端连接，最后一个时空卷积块的输出端与输出层的输入端连接，如图2(a)～(c)所示。

图2(a)～(c)中，时空卷积块的数量为2，每个时空卷积块均包括依次连接的第一时间卷积层、空间图卷积层以及第二时间卷积层；第一时间卷积层和第二时间卷积层均由扩张卷积和门控机制相结合。扩张卷积相比常规卷积具有相对较少的参数，再结合门控机制可以更好地捕获长期时间依赖关系。

交通预测是一个时空预测问题，构建的预测模型分别使用一个时间处理模块和空间处理模块来提取时间和空间特征，具体结构如图2(a)～(c)所示,采用空间图卷积层提取空间特征，扩张卷积结合门控机制提取时间特征，减小计算资源。

确定历史时间窗口和预测窗口。历史时间窗口表示根据多少个历史时刻的交通速度数据来预测未来的交通速度数据，预测窗口表示要预测未来多少个时刻的交通速度数据，即确定h和p值。

确定隐藏层的层数和神经元个数。即确定时间卷积层和空间图卷积层的数目及过滤器大小和通道数的设置。合适的层数、过滤器大小和通道数对预测模型的性能具有重要的影响。本实施例中，时空卷积块的数量为2，时间卷积层的数量为2，空间图卷积层的数量为1。

输出层的神经元个数取决于预测窗口的大小。本实施例中，输出层的神经元个数为9。

确定了输入层、隐藏层和输出层之后，再将层和层之间用权重全连接，预测模型即构建完成。

步骤5：选取预处理后的n个历史时刻交通速度数据X'ⁿ中的h个历史时刻交通速度数据X'^h作为输入数据，选取预处理后的n个历史时刻交通速度数据X'ⁿ中h个历史时刻交通速度数据之后的p个历史时刻交通速度数据X'^p作为输出数据；其中，X'^h＝[x'^t-h+1,x'^t-h+2,…,x'^t]，X'^p＝[x'^t+1,x'^t+2,…,x'^t+p]，X'^h∈X'ⁿ，X'^p∈X'ⁿ。

将输入数据X'^h分别输入到第一个时空卷积块和图学习模块，将距离图邻接矩阵D和关系图邻接矩阵C输入到图学习模块，将输出数据X'^p作为所述图卷积神经网络预测模型的输出，对所述图卷积神经网络预测模型进行训练，得到训练好的基于图学习的图卷积神经网络预测模型。

为了缓解错误传播，一次性生成多个时刻预测结果，例如假设输入数据为n个历史时刻交通速度数据X'^h，X'^h＝[x'^t-h+1,x'^t-h+2,…,x'^t]，则一次性生成p个时刻的结果X'^p＝[x'^t+1,x'^t+2,…,x'^t+p]，而不是先生成x'^t+1，再生成x'^t+2，…，因t+1预测时刻的数据本身是预测出来的，存在误差，一次性生成多个预测时刻的结果避免了将前一个预测时刻的误差继续传播到下一个预测时刻，提高了预测精度。

预测模型的具体训练过程包括：

步骤5.1：根据输入数据X'^h、距离图邻接矩阵D和关系图邻接矩阵C，图学习模块输出新的邻接矩阵A，新的邻接矩阵为：

其中，A_ij表示学习得到的道路i与道路j之间新的邻接矩阵，D_ij表示道路i与道路j之间距离图邻接矩阵，C_ij表示道路i与道路j之间关系图邻接矩阵，

分别表示x_i、x_j降维后的交通速度向量，P表示降维投影矩阵，x_i、x_j分别表示输入的道路i、道路j的交通速度向量，N表示道路的条数，K表示权重向量，K为可调节参数，ReLU()表示线性整流函数。通过图学习模块来得到一个准确的邻接矩阵前先根据式(6)和(7)将输入数据进行降维处理，再根据式(5)计算得到新的邻接矩阵A_ij，通过降维来减小计算代价，通过图学习模块来得到更为准确的新的邻接矩阵的过程如图3所示。

步骤5.2：根据图学习模块的输出和前一个时空卷积块的输出，或根据图学习模块的输出和输入数据，时空卷积块的输出为：

H＝(K₃*Z)⊙δ(K₄*Z) (8)

H'＝(K₁*X^Nh)⊙δ(K₂*X^Nh) (13)

其中，H表示第二时间卷积层的输出，δ表示sigmoid函数，Z表示空间图卷积层的输出，K₁、K₂、K₃和K₄均表示时间卷积核，H'表示第一时间卷积层的输出，

表示图学习模块输出的新的邻接矩阵加自循环归一化后的矩阵，

表示度矩阵，

是一个对角矩阵，

表示中间矩阵，I表示单位矩阵，W表示权重矩阵，X^Nh表示前一个时空卷积块的输出或输入数据(即当时空卷积块为第一个时空卷积块时)，⊙表示点积。本实施例中，采用切比雪夫过滤器的一阶近似来捕获交通网络中的空间依赖，空间图卷积层的输出的计算公式如式(9)。

步骤5.3：构建损失函数，损失函数的表达式为：

L＝L_pre+λ*L_GL (14)

其中，L表示损失函数值，L_pre表示预测损失，L_GL表示图学习模块的损失，λ表示权重系数，p表示预测时刻的数量，

表示第t+k个时刻第j条道路预测的交通速度，

表示第t+k个时刻第j条道路真实的交通速度，β、γ、μ均为超参数，

表示二范数的平方，

表示F范数的平方。本实施例中，β、γ、μ均设为0.05。

预测模型的训练就是优化损失函数的过程，为了提高预测性能，本实施例中的损失函数包括两个部分，即图学习模块的损失和预测损失，如式(14)。

步骤5.4：以损失函数作为训练目标，不断训练优化基于图学习的图卷积神经网络预测模型，当损失函数值达到要求值时确定图卷积神经网络预测模型的参数(例如权重向量K、权重矩阵W、卷积核等)，从而得到训练好的基于图学习的图卷积神经网络预测模型。

本实施例中，采用BP(反向传播)算法来训练预测模型，BP算法建立在梯度下降法的基础上，是适合于多层神经网络的一种学习算法。采用Adam优化器来优化预测模型。

步骤6：预测模型的验证

将归一化处理后的交通速度数据集分成训练集、验证集和测试集。其中，训练集中的样本用于预测模型学习交通速度变化的特性，验证集中的样本在训练过程中用来验证预测模型的效果，测试集中的样本在预测模型训练好后用来测试预测模型的效果。训练集、验证集、测试集的划分比例为7:1:2。

预测模型训练好后，采用测试集检测模型的效果。把测试样本逐个输入至预测模型，计算预测模型在测试集上的预测精度。本实施例使用MAE(均值绝对误差)和RMSE(均方根误差)作为评价预测模型的指标。

其中，

表示预测模型输出的第t+k个时刻第j条道路的交通速度，

表示真实的第t+k个时刻第j条道路的交通速度。

MAE和RMSE的值越小说明模型的性能越好。

为了证明本发明所提出的交通预测方法的有效性，通过实验将本发明与现有的交通预测方法进行了对比，实验中对比的几个模型分别是；历史平均(HA)，前馈神经网络(FNN)，GCGRU模型、STGCN模型、Graph WaveNet模型。HA是传统的机器学习方法，FNN，GCGCRU、STGCN、Graph WaveNet是神经网络模型。

实验中所使用的数据集是论文Spatio-Temporal Graph ConvolutionalNetworks中提供的PEMS228数据集、PEMS142数据集和Dynamic spatial-temporal graphconvolutional neural networks for traffic forecasting中提供的NYC数据集，PEMS228和PEMS142采集自加州第七区高速公路上的228和142个传感器站，包括2012年5月和六月周一至周五的数据。NYC是数据是采集自纽约曼哈顿地区道路上的50个传感器，包括从2017年12月5日至2018年1月9日的数据。

每五分钟采集一次数据,数据采集好后归一化到[0,1]区间，按7:1:2的比例划分训练集、验证集和测试集。历史时间窗口h为12，预测时间窗口p为9，即采用一个小时历史交通速度预测未来45分钟的交通速度。学习率设置为0.001，时空卷积块中3层的通道分别为64,16,64。输入样本进行预处理，转换为三维的张量输入，[batch_size,seq_len,nodes],batch_size表示更新一次权重所需要的样本数，seq_len表示输入序列的长度，nodes表示节点的数目，它们的具体值分别为50,12和数据集中对应的节点数。

表1是本发明和对比模型在3个数据集上的实验结果。实验结果说明了本方面优于所有对比方法。

表1本发明和其他模型的对比

由表1可知，2.14、2.78、3.18分别表示使用数据集PEMS-228、采用本发明预测方法在15、30、45min时的MAE值，15、30、45min中任意一个对应的MAE值均小于其他模型的MAE值，表明了本发明预测模型性能更优于其他模型。

表2不同数据集使用图学习模块和不使用图学习模块的对比

为了验证图学习模块的有效性，在3个数据集上分别对比了使用图学习模块和不使用图学习模块的实验结果，如表2所示。实验结果说明了图学习模块能提高模型的预测精度，即能得到更低的评价指标值。

在3个数据集上对比本发明和其他模型的计算时间，实验结果如表3所示。由表3的实验结果说明本发明每次训练迭代所需要的时间和在测试集上得到预测结果的时间相比其他模型更少，能节省时间开销。

表3本发明和其他模型的计算时间对比

以上所揭露的仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或变型，都应涵盖在本发明的保护范围之内。

Claims (7)

1.一种基于图学习的图卷积神经网络交通预测方法，其特征在于，包括以下步骤：

步骤1：获取预测路段及其相邻路段n个历史时刻交通速度数据Xⁿ，其中Xⁿ＝[x¹,x²,…,x^k,…,xⁿ]，x^k表示第k个历史时刻交通速度数据；

步骤2：对所述n个历史时刻交通速度数据Xⁿ进行预处理，得到预处理后的n个历史时刻交通速度数据X'ⁿ，其中X'ⁿ＝[x'¹,x'²,…,x'^k,…,x'ⁿ]；

步骤3：根据预处理后的n个历史时刻交通速度数据X'ⁿ，计算预测路段及其相邻路段的距离图邻接矩阵D以及关系图邻接矩阵C；

所述距离图邻接矩阵D表示两条不同道路之间空间距离的接近度，所述关系图邻接矩阵C表示两条不同道路之间速度序列相似性；

步骤4：构建基于图学习的图卷积神经网络预测模型；所述基于图学习的图卷积神经网络预测模型包括图学习模块、多个时空卷积块以及输出层，所述图学习模块的输出端分别与多个时空卷积块的输入端连接，前一个所述时空卷积块的输出端与后一个所述时空卷积块的输入端连接，最后一个所述时空卷积块的输出端与所述输出层的输入端连接；

步骤5：选取预处理后的n个历史时刻交通速度数据X'ⁿ中的h个历史时刻交通速度数据X'^h作为输入数据，选取预处理后的n个历史时刻交通速度数据X'ⁿ中h个历史时刻交通速度数据之后的p个历史时刻交通速度数据X'^p作为输出数据；其中，X'^h＝[x'^t-h+1,x'^t-h+2,…,x'^t]，X'^p＝[x'^t+1,x'^t+2,…,x'^t+p]，X'^h∈X'ⁿ，X'^p∈X'ⁿ；

将所述输入数据X'^h分别输入到第一个时空卷积块和图学习模块，将距离图邻接矩阵D和关系图邻接矩阵C输入到图学习模块，将输出数据X'^p作为所述图卷积神经网络预测模型的输出，对所述图卷积神经网络预测模型进行训练，得到训练好的基于图学习的图卷积神经网络预测模型。

2.如权利要求1所述的图卷积神经网络交通预测方法，其特征在于，所述步骤2中，预处理包括归一化处理，归一化处理公式为：

其中，X'为归一化处理后的交通速度数据，X为归一化处理前的交通速度数据，X_min为n个历史时刻交通速度数据Xⁿ中的最小值，X_max为n个历史时刻交通速度数据Xⁿ中的最大值。

3.如权利要求1所述的图卷积神经网络交通预测方法，其特征在于，所述步骤3中，距离图邻接矩阵的计算公式为：

且

其中，D_ij表示道路i与道路j之间距离图邻接矩阵，d_ij表示道路i与道路j之间的空间距离，σ表示道路i与道路j之间空间距离的标准偏差，ε表示保证距离图邻接矩阵稀疏性的阈值；

关系图邻接矩阵的计算公式为：

且corr_ij＞ρ

其中，C_ij表示道路i与道路j之间关系图邻接矩阵，ρ表示设定阈值，corr_ij表示道路i与道路j之间的皮尔逊相关系数，

表示第t个历史时刻道路i的交通速度数据，

表示第t个历史时刻道路j的交通速度数据，

表示道路i交通速度数据的均值，

表示道路j交通速度数据的均值。

4.如权利要求1所述的图卷积神经网络交通预测方法，其特征在于，所述步骤4中，每个时空卷积块均包括依次连接的第一时间卷积层、空间图卷积层以及第二时间卷积层；所述第一时间卷积层和第二时间卷积层均由扩张卷积和门控机制相结合。

5.如权利要求1～4中任一项所述的图卷积神经网络交通预测方法，其特征在于，所述步骤5中，对基于图学习的图卷积神经网络预测模型进行训练的具体过程为：

步骤5.1：根据所述输入数据X'^h、距离图邻接矩阵D和关系图邻接矩阵C，所述图学习模块输出新的邻接矩阵A，新的邻接矩阵为：

其中，A_ij表示学习得到的道路i与道路j之间新的邻接矩阵，D_ij表示道路i与道路j之间距离图邻接矩阵，C_ij表示道路i与道路j之间关系图邻接矩阵，

分别表示x_i、x_j降维后的交通速度向量，P表示降维投影矩阵，x_i、x_j分别表示输入的道路i、道路j的交通速度向量，N表示道路的条数，K表示权重向量，K为可调节参数，ReLU()表示线性整流函数；

步骤5.2：根据所述图学习模块的输出和前一个时空卷积块的输出，或根据所述图学习模块的输出和输入数据，所述时空卷积块的输出为：

H＝(K₃*Z)⊙δ(K₄*Z)

H'＝(K₁*X^Nh)⊙δ(K₂*X^Nh)

其中，H表示第二时间卷积层的输出，δ表示sigmoid函数，Z表示空间图卷积层的输出，K₁、K₂、K₃和K₄均表示时间卷积核，H'表示第一时间卷积层的输出，

表示图学习模块输出的新的邻接矩阵加自循环归一化后的矩阵，

表示度矩阵，

是一个对角矩阵，

表示中间矩阵，I表示单位矩阵，W表示权重矩阵，X^Nh表示前一个时空卷积块的输出或输入数据，⊙表示点积；

步骤5.3：构建损失函数，损失函数的表达式为：

L＝L_pre+λ*L_GL

其中，L表示损失函数值，L_pre表示预测损失，L_GL表示图学习模块的损失，λ表示权重系数，p表示预测时刻的数量，

表示第t+k个时刻第j条道路预测的交通速度，

表示第t+k个时刻第j条道路真实的交通速度，β、γ、μ均为超参数，

表示二范数的平方，

表示F范数的平方；

步骤5.4：以所述损失函数作为训练目标，不断训练优化所述基于图学习的图卷积神经网络预测模型，当损失函数值达到要求值时确定所述图卷积神经网络预测模型的参数，从而得到训练好的基于图学习的图卷积神经网络预测模型。

6.一种基于图学习的图卷积神经网络交通预测系统，其特征在于，包括：

数据获取单元，用于获取预测路段及其相邻路段n个历史时刻交通速度数据Xⁿ，其中Xⁿ＝[x¹,x²,…,x^k,…,xⁿ]，x^k表示第k个历史时刻交通速度数据；

数据预处理单元，用于对所述n个历史时刻交通速度数据Xⁿ进行预处理，得到预处理后的n个历史时刻交通速度数据X'ⁿ，其中X'ⁿ＝[x'¹,x'²,…,x'^k,…,x'ⁿ]；

邻接矩阵计算单元，用于根据预处理后的n个历史时刻交通速度数据X'ⁿ，计算预测路段及其相邻路段的距离图邻接矩阵D以及关系图邻接矩阵C；

所述距离图邻接矩阵D表示两条不同道路之间空间距离的接近度，所述关系图邻接矩阵C表示两条不同道路之间速度序列相似性；

预测模型构建单元，用于构建基于图学习的图卷积神经网络预测模型；所述基于图学习的图卷积神经网络预测模型包括图学习模块、多个时空卷积块以及输出层，所述图学习模块的输出端分别与多个时空卷积块的输入端连接，前一个所述时空卷积块的输出端与后一个所述时空卷积块的输入端连接，最后一个所述时空卷积块的输出端与所述输出层的输入端连接；

预测模型训练单元，用于选取预处理后的n个历史时刻交通速度数据X'ⁿ中的h个历史时刻交通速度数据X'^h作为输入数据，选取预处理后的n个历史时刻交通速度数据X'ⁿ中h个历史时刻交通速度数据之后的p个历史时刻交通速度数据X'^p作为输出数据；其中，X'^h＝[x'^t-h+1,x'^t-h+2,…,x'^t]，X'^p＝[x'^t+1,x'^t+2,…,x'^t+p]，X'^h∈X'ⁿ，X'^p∈X'ⁿ；

将所述输入数据X'^h分别输入到第一个时空卷积块和图学习模块，将距离图邻接矩阵D和关系图邻接矩阵C输入到图学习模块，将输出数据X'^p作为所述图卷积神经网络预测模型的输出，对所述图卷积神经网络预测模型进行训练，得到训练好的基于图学习的图卷积神经网络预测模型。

7.如权利要求6所述的图卷积神经网络交通预测系统，其特征在于，所述预测模型训练单元包括：

输入数据和输出数据选取模块，用于选取预处理后的n个历史时刻交通速度数据X'ⁿ中的h个历史时刻交通速度数据X'^h作为输入数据，选取预处理后的n个历史时刻交通速度数据X'ⁿ中h个历史时刻交通速度数据之后的p个历史时刻交通速度数据X'^p作为输出数据；其中，X'^h＝[x'^t-h+1,x'^t-h+2,…,x'^t]，X'^p＝[x'^t+1,x'^t+2,…,x'^t+p]，X'^h∈X'ⁿ，X'^p∈X'ⁿ；

图学习模块，用于根据所述输入数据X'^h、距离图邻接矩阵D和关系图邻接矩阵C，所述图学习模块输出新的邻接矩阵A，新的邻接矩阵为：

其中，A_ij表示学习得到的道路i与道路j之间新的邻接矩阵，D_ij表示道路i与道路j之间距离图邻接矩阵，C_ij表示道路i与道路j之间关系图邻接矩阵，

分别表示x_i、x_j降维后的交通速度向量，P表示降维投影矩阵，x_i、x_j分别表示输入的道路i、道路j的交通速度向量，N表示道路的条数，K表示权重向量，K为可调节参数，ReLU()表示线性整流函数；

时空卷积块，用于根据所述图学习模块的输出和前一个时空卷积块的输出，或根据所述图学习模块的输出和输入数据，所述时空卷积块的输出为：

H＝(K₃*Z)⊙δ(K₄*Z)

H'＝(K₁*X^Nh)⊙δ(K₂*X^Nh)

其中，H表示第二时间卷积层的输出，δ表示sigmoid函数，Z表示空间图卷积层的输出，K₁、K₂、K₃和K₄均表示时间卷积核，H'表示第一时间卷积层的输出，

表示图学习模块输出的新的邻接矩阵加自循环归一化后的矩阵，

表示度矩阵，

是一个对角矩阵，

表示中间矩阵，I表示单位矩阵，W表示权重矩阵，X^Nh表示前一个时空卷积块的输出或输入数据，⊙表示点积；

损失函数构建模块，用于构建损失函数，损失函数的表达式为：

L＝L_pre+λ*L_GL

其中，L表示损失函数值，L_pre表示预测损失，L_GL表示图学习模块的损失，λ表示权重系数，p表示预测时刻的数量，

表示第t+k个时刻第j条道路预测的交通速度，

表示第t+k个时刻第j条道路真实的交通速度，β、γ、μ均为超参数，

表示二范数的平方，

表示F范数的平方；

训练模块，用于以所述损失函数作为训练目标，不断训练优化所述基于图学习的图卷积神经网络预测模型，当损失函数值达到要求值时确定所述图卷积神经网络预测模型的参数，从而得到训练好的基于图学习的图卷积神经网络预测模型。

Images