CN114495507B - 融合时空注意力神经网络和交通模型的交通流预测方法 - Google Patents

Abstract

本发明提供一种融合时空注意力神经网络和交通模型的交通流预测方法，将特征数据按照时间片进行划分，在每个时间片上首先对数据进行图注意网络GAT操作，得到流量特征和速度特征的新表示，再将速度特征的新表示输入交通仿真模型Greenshields抛物线模型进行变换得到流量特征的又一新表示，然后将两个流量特征的新表示分别进行门控循环单元网络GRU处理，随后将得到的两种流量表征进行拼接得到全连接层的输入，之后对拼接的特征数据进行全连接层的处理得到最终的预测结果，最后基于深度学习理论训练神经网络模型。用训练得到的网络模型，得出测试集上的预测结果。本方法可在已知道路交通网及其流量特征和速度特征数据的情况下，实现未来时间段的交通流量预测问题。

Description

融合时空注意力神经网络和交通模型的交通流预测方法

技术领域

本发明涉及深度学习、时空序列预测和交通仿真领域，具体涉及一种融合时空注意力神经网络和交通模型的交通流预测方法。

背景技术

随着智能交通系统的发展，可采集的城市交通数据不断丰富，交通预测也越来越受到人们的重视。它是先进交通管理系统的关键部分，是实现交通规划、交通管理和交通控制的重要组成部分。交通预测是分析城市道路交通状况(包括流量、速度和密度等)的过程，挖掘交通模式，预测道路交通趋势。交通预测不仅可以为交通管理者提前感知交通拥堵、限制车辆提供科学依据，还可以为城市出行者选择合适的出行路线、提高出行效率提供保障。

由于城市道路网络拓扑结构的约束和随时间动态变化的规律，即空间依赖性和时间依赖性，交通预测一直被认为是一项具有挑战性的任务。为了同时捕获空间和时间相关性，图注意网络(GAT)用于学习复杂的拓扑结构以捕获空间相关性，而门控循环单元网络(GRU)用于学习交通数据的动态变化以捕获时间相关性。

正确认识和理解速度与流量之间的关系是划分和确定道路服务水平的必要条件，也是公路通行能力研究的基础。此外，速度流量关系模型还可用于公路建设项目前期工作中的交通预测、国民经济评价和财务分析。在速度-流量关系的研究上，Greenshields第一个提出了速度-流量的抛物线模型，基本上反映了这两个特征的依赖关系及变化趋势，但是没能考虑交通道路网络的空间结构。这就需要一种融合深度学习领域和交通仿真领域的交通流预测方法。

发明内容

本发明要解决的技术问题是：目前交通流预测问题不能同时捕获数据的时间相关性和空间相关性，而单纯的速度-流量模型忽略了路网的空间结构的技术问题。本发明提出了一种通过计算节点间的不同重要性，来刻画数据间空间关系的融合图注意力网络、循环神经网络和Greenshields速度-流量模型的交通流预测方法。

本发明的融合深度学习模型和Greenshields抛物线模型(Greenshields速度-流量模型)的交通流预测方法，该方法将整个数据集分为训练和测试两部分：首先选取部分特征数据集训练深度神经网络模型，然后用训练好的网络模型检测剩余的数据集，以此验证通过训练得到的深度神经网络模型的预测性能。具体如下：

一种融合时空注意力神经网络和交通模型的交通流预测方法，步骤包括：

步骤101，输入交通路网的特征数据和邻接矩阵；特征数据分别是流量数据和速度数据；

步骤102，将输入的特征数据分别按照时间片划分，在每个时间片上进行GAT表征得到节点特征的新表示，节点特征的新表示分别是速度特征的新表示和流量特征的新表示；

步骤103，将步骤102中得到的速度特征的新表示输入进速度-流量模型中，得到流量特征的又一新表示；

步骤104，将步骤102中得到的流量特征的新表示和步骤103中得到的流量数据的又一新表示分别经过门控循环单元网络GRU处理：

GRU中，对于每一个时间步，输入由两部分组成：当前时间片的输入和前一时间片的隐状态；则先由此计算出网络的重置门R_t、更新门Z_t和候选状态

再将更新门在前一时间步的隐状态H_t-1和当前时间步的候选状态/>

之间进行组合计算即可得到当前时间片的隐状态，亦为输出状态：

步骤105，将经过GRU处理处理得到的流量特征的两种新表征拼接起来，作为全连接层的输入；

步骤106，把步骤105输出数据分为测试集和训练集；

步骤107，用训练集的数据训练循环神经网络RNN：

用全连接层full connected layer计算循环神经网络RNN的输出，从而得到最终的预测结果；

步骤108，根据步骤107计算的预测结果和相应的真实数据，计算网络模型预测的损失值loss；当网络模型的损失值收敛到最小或者训练到指定的迭代次数，则结束训练，输出训练好的网络模型即为预测模型；

步骤109，用预测模型检测其在测试集上的表现；

步骤110，用全连接层计算最终预测结果并输出。

本发明方法通过结合深度学习模型和交通仿真模型进行交通流数据的预测，首先基于深度学习理论训练模型；然后用训练好的交通仿真模型来预测交通特征值(交通流量)。

将深度学习中的神经网络模型与交通仿真进行有效融合，在进行交通流量预测的时不止运用到了节点的流量特征，同时也考虑到了节点的速度特征，并经由交通仿真模型将速度特征转换成流量特征。

交通仿真模型的引入可以对深度学习模型进行校正，从而提高深度学习模型的预测能力。

本方法可以在已知道路交通网及其流量特征和速度特征数据的情况下，实现未来时间段的交通流量预测问题。

附图说明

图1为本发明实施例所提供的交通流预测方法的流程图；

图2为本发明的整体算法框架流程图。

具体实施方式

为了更好的理解本发明的技术方案，下面结合附图对本发明实施例进行详细描述。应当明确，所描述的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。

参考图1，一种融合时空注意力神经网络和交通模型(Greenshields抛物线模型)的交通流预测方法，包括以下步骤：

步骤101，输入交通路网的特征数据和邻接矩阵。分别输入路网的流量数据和速度数据；

步骤102，将输入的特征数据分别按照时间片划分，在每个时间片上进行GAT表征得到节点特征的新表示。对输入的流量特征数据和速度特征数据分别进行GAT操作，通过计算不同节点间的重要性来实现数据间空间依赖关系的提取。

步骤103，将步骤102中得到的速度特征的新表示输入进速度-流量模型中，得到流量特征的又一新表示。对于输入的速度特征，速度-流量根据下面的算式计算得出对应的流量特征：

步骤104，将步骤102中得到的流量新表示和步骤103中通过速度得到的流量数据新表示分别经过GRU处理。对于每一个时间步，输入由两部分组成：当前时间片的输入和前一时间片的隐状态，由此计算出网络的重置门R_t、更新门Z_t和候选状态

然后将更新门在前一时间步的隐状态H_t-1和当前时间步的候选状态/>

之间进行组合计算即可得到当前时间片的隐状态(也为输出状态)：

步骤105，将经过步骤104处理得到的流量特征的两种新表征拼接起来，作为全连接层的输入；

步骤106，用于判断是否属于训练阶段，决定后续的运行流程。本实施例中采用80％的数据集来训练模型。训练完成之后，用得到的网络模型来测试另外20％的数据集。在测试阶段，所有测试集中的数据和训练阶段的数据一样，都要经过步骤101至105的处理。

步骤107，用全连接层(full connected layer)计算循环神经网络(RNN)的输出，从而得到最终的预测结果；

步骤108，根据上述计算的预测结果和相应的真实数据，计算网络模型预测的损失值(loss)，列出下式：

网络模型根据计算出的损失值，来判断当前模型的预测效果，继续调整网络中的权重参数，优化网络模型。当网络模型的损失值收敛到最小或者训练到指定的迭代次数，则结束训练，输出训练好的网络模型。

步骤109，用训练好的网络模型检测其在测试集上的表现。在测试阶段，使用测试集数据重复上述步骤，不同的是不需要进行训练，直接使用训练好的网络模型参数。

步骤110，用全连接层计算最终预测结果并输出。

参考图2，本实施例的算法实现包括以下步骤：

步骤1.根据真实道路交通网络中实体间的关系构建网络拓扑结构，使用无向图G＝(V，E，A)表示节点之间的空间关系和时间变化，其中v_i∈V表示地理位置，e_ij∈E表示v_i和v_j之间的关联性，如果两者之间存在邻接关系，值为1；否则，值为0。网络邻接矩阵A＝{e_ij}，i，j∈[1，N]；

步骤2.明确数据形式及预测问题定义，

表示过去τ个时间片内所有节点的所有特征值，N为节点的数量，F表示每个节点的特征数量；给定过去τ个时间片内所有节点的历史观测值X，预测未来T_p个时间内所有节点的时间序列

步骤3.将应用对象实体的流量特征值进行GAT表征，计算注意力系数表示节点j的特征对节点i的重要性，列出式：

其中：

表示一组节点特征，在对象实体上实现自注意——一种共享的注意力机制a：/>

F′表示输出的特征维数，由人工设定；

表示权重矩阵，对节点特征进行线性变换。由计算式(1)获得描述节点间相关性的注意力系数，为了使不同对象实体之间的系数易于比较，使用softmax函数进行归一化，即可得到计算式(2)，列出式：

其中，

表示节点i的所有邻居节点，/>

.T表示转置操作，||表示拼接操作。

由计算式(3)得到的归一化的注意力系数用来计算其对应的特征的线性组合，作为每个节点的新特征表示。

步骤4.和步骤3类似，将节点的速度特征值使用GAT进行表征，具体计算方法与步骤3一致，得到节点速度特征值的新表示。

步骤5.对步骤4得到的速度特征值的新表示进行Greenshields速度-流量抛物线模型的变换，该模型指出交通流量和速度之间存在某种特定关系，列出式：

其中，Q为平均车流量(辆/小时)，K_j为车辆密集到无法移动时的最大车流密度(辆/公里)，V_f为自由流速度(公里/小时)，V为平均车流速度(公里/小时)。

速度-流量模型将输入的速度特征值转换成流量特征值，从而得到节点流量特征值的又一新表示；

步骤6.将步骤3得到的流量特征表示输入门控循环单元网络(GRU)中，将输入特征按照时间片进行划分输入。对于时间片t，使用

表示时间步t的隐藏状态，其中h为隐藏单元个数，重置门/>

和更新门/>

的计算如下，列出式：

R_t＝σ(X_tW_xr+H_t-1W_hr+b_r)， (4)

z_t＝σ(X_tW_xz+H_t-1W_hz+b_z)， (5)

其中

和/>

是权重参数，/>

是偏置参数，σ为sigmoid函数，将输入值转换到区间(0,1)。更新门用来控制上一时刻的细胞状态以及当前的候选隐藏层中有多少信息被带入当前状态，更新门的值越大说明前一时刻的状态信息带入越多。重置门控制上一时刻的状态有多少信息被写入到当前候选隐藏层，重置门越大说明输出越依赖于前一时刻的信息。

将重置门R_t与前一时间步t-1的隐状态更新机制集成，得到在时间步t的候选隐状态

列出式：

其中

和/>

是权重参数，/>

是偏置项，符号⊙是Hadamard积(按元素乘积)运算符，使用tanh非线性激活函数来确保候选隐状态中的值保持在(-1,1)中。

结合更新门Z_t来确定新的隐状态

在多大程度上来自旧的状态H_t-1和新的候选状态/>

当前时间步的输出状态即为隐状态H_t，列出式如下：

即使在不同的时间步，门控循环单元网络也总是使用这些模型参数，即门控循环单元网络的参数开销不会随着时间步的增加而增加；

步骤7.和步骤6类似，将步骤5得到的流量特征表示进行GRU处理，具体计算方法与步骤6一致，得到节点流量特征值的新表示。

步骤8.将步骤6和步骤7得到的节点流量的新表示进行拼接操作，得到最终需要输入全连接层的特征表示；

步骤9.用全连接层将循环神经网络的输出进行变换得到最终的预测；

步骤10.根据全连接层预测的流量特征结果和相应预测时间段的流量特征真实数据，按照神经网络模型中的损失值计算公式输出预测的损失值；通过分析该损失值的变化趋势，依据梯度下降算法，调整网络模型中的权重参数，使得下一次预测的损失值减小，从而达到进一步优化网络模型的目的；

步骤11.判定当前网络模型损失值是否收敛到最小，或者是否达到指定的迭代次数；若未达到，则回到步骤3，继续训练模型；若已经达到，则结束训练，输出训练好的模型；

步骤12.用训练好的网络模型测试待预测的数据，预测方式采用步骤3～9相同的方法。

采用MAE(平均绝对误差)对本模型的表现进行评估，其比现有的较优预测算法准确度提高25％左右。此外，速度-流量模型能够评估每个节点(即探测器)的速度和流量之间的关系；交通仿真模型的引入使得深度学习模型预测算法具备了一定程度的可解释性，同时预测精度也能得到提升。

以上所述的实施例只是本发明的一种较佳的方案，并非对本发明作任何形式上的限制，在不超出权利要求所记载的技术方案的前提下还有其它的变体及改型。

Claims (5)

1.一种融合时空注意力神经网络和交通模型的交通流预测方法，其特征是步骤包括：

步骤101，输入交通路网的特征数据和邻接矩阵；特征数据分别是流量数据和速度数据；

步骤102，将输入的特征数据分别按照时间片划分，在每个时间片上进行图注意网络GAT表征得到节点特征的新表示，节点特征的新表示分别是速度特征的新表示和流量特征的新表示；

步骤103，将步骤102中得到的速度特征的新表示输入进速度-流量模型中，得到流量特征的又一新表示；

对于输入的速度特征的新表示，速度-流量根据下面的算式计算得出对应的流量特征：

其中，Q为平均车流量，单位是辆/小时；K_j为车辆密集到无法移动时的最大车流密度，单位是辆/公里；V_f为自由流速度，单位是公里/小时；V表示平均车流速度，单位是公里/小时；

步骤104，将步骤102中得到的流量特征的新表示和步骤103中得到的流量数据的又一新表示分别经过门控循环单元网络GRU处理：

GRU中，对于每一个时间片，输入由两部分组成：当前时间片的输入和前一时间片的隐状态；则先由此计算出网络的重置门R_t、更新门Z_t和候选状态

再将更新门在前一时间片的隐状态H_t-1和当前时间片的候选状态/>

之间进行组合计算即可得到当前时间片的隐状态，亦为输出状态：

步骤105，将经过GRU处理得到的流量特征的两种新表征拼接起来，作为全连接层的输入；

步骤106，把步骤105输出数据分为测试集和训练集；

步骤107，用训练集的数据训练循环神经网络RNN：

用全连接层full connected layer计算循环神经网络RNN的输出，从而得到最终的预测结果；

步骤108，根据步骤107计算的预测结果和相应的真实数据，计算网络模型预测的损失值loss；当网络模型的损失值收敛到最小或者训练到指定的迭代次数，则结束训练，输出训练好的网络模型即为预测模型；

步骤109，用预测模型检测其在测试集上的表现；

步骤110，用全连接层计算最终预测结果并输出。

2.根据权利要求1所述的融合时空注意力神经网络和交通模型的交通流预测方法，其特征是步骤101中，根据真实道路交通网络中实体间的关系构建网络拓扑结构，使用无向图G＝(V，E，A)表示节点之间的空间关系和时间变化；

其中：v_i∈V表示图中的节点，对应实际交通路网中的探测器；v_i和v_j分别表示节点i和节点j，即探测器i和探测器j；

e_ij∈E表示v_i和v_j之间的关联性，如果两者之间存在邻接关系，值为1，否则，值为0；

网络邻接矩阵A＝{e_ij}，i，j∈[1，N]，N为对象实体的数量；实体是指车辆。

3.根据权利要求1所述的融合时空注意力神经网络和交通模型的交通流预测方法，其特征是步骤102中，明确数据形式及预测问题定义，

表示过去τ个时间片内所有节点的所有特征值，N为对象实体的数量，F表示每个对象实体的特征数量；给定过去τ个时间片内所有节点的历史观测值X，预测未来T_p个时间内所有节点的时间序列

将应用对象实体的流量特征进行GAT表征，计算注意力系数表示节点j的特征对节点i的重要性，列出式：

其中：

表示一组节点特征，在对象实体上实现自注意，注意力机制a：/>

F′表示输出的特征维数，由人工设定；/>

表示权重矩阵，对节点特征进行线性变换；

由计算式(1)获得描述节点间相关性的注意力系数，使用邻接矩阵对其进行筛选，只有对象实体之间存在连接才会存在注意力系数；为了使不同对象实体之间的系数易于比较，使用softmax函数进行归一化，即可得到计算式(2)，列出式：

其中，

表示节点i的所有邻居节点，/>

T表示转置操作，||表示拼接操作；

由计算式(2)得到的归一化的注意力系数用来计算其对应的特征的线性组合，作为每个节点流量特征的新表示；

同样方法，将应用对象实体的速度特征使用GAT进行表征，得到速度特征的新表示。

4.根据权利要求3所述的融合时空注意力神经网络和交通模型的交通流预测方法，其特征是步骤104中，把步骤102得到的流量特征的新表示输入GRU中，GRU将输入特征按照时间片进行划分输入；

对于时间片t，使用

表示时间片t的隐藏状态，其中h为隐藏单元个数，重置门

和更新门/>

的计算如下，列出式：

R_t＝σ(X_tW_xr+H_t-1W_hr+b_r)， (4)

Z_t＝σ(X_tW_xz+H_t-1W_hz+b_z)， (5)

其中

和/>

是权重参数，/>

是偏置参数，σ为sigmoid函数，将输入值转换到区间(0,1)；

更新门用来控制上一时刻的细胞状态以及当前的候选隐藏层中有多少信息被带入当前状态，更新门的值越大说明前一时刻的状态信息带入越多；

重置门控制上一时刻的状态有多少信息被写入到当前候选隐藏层，重置门越大说明输出越依赖于前一时刻的信息；

将重置门R_t与前一时间片t-1的隐状态更新机制集成，得到在时间片t的候选隐状态

列出式：

其中

和/>

是权重参数，/>

是偏置项，符号⊙是Hadamard积即按元素乘积运算符，使用tanh非线性激活函数来确保候选隐状态中的值保持在(-1,1)中；

结合更新门Z_t来确定新的隐状态

在多大程度上来自旧的状态H_t-1和新的候选状态/>

当前时间片的输出即为隐状态H_t，列出式如下：

即使在不同的时间片，门控循环单元网络也总是使用这些模型参数，即门控循环单元网络的参数开销不会随着时间片的增加而增加；

同样方法，把步骤103得到的流量特征的又一新表示输入GRU中进行处理。

5.根据权利要求1所述的融合时空注意力神经网络和交通模型的交通流预测方法，其特征是步骤108中，根据全连接层预测的流量特征结果和相应预测时间段的流量特征真实数据，按照神经网络模型中的损失值计算公式输出预测的损失值；通过分析该损失值的变化趋势，依据梯度下降算法，调整网络模型中的权重参数，使得下一次预测的损失值减小，从而达到进一步优化网络模型的目的；

判定当前网络模型损失值是否收敛到最小，或者是否达到指定的迭代次数；若未达到，则继续训练模型；若已经达到，则结束训练，输出训练好的模型。

Images