CN115936069A - 一种基于时空注意力网络的交通流预测方法 - Google Patents

一种基于时空注意力网络的交通流预测方法 Download PDF

Info

Publication number
CN115936069A
CN115936069A CN202211616313.0A CN202211616313A CN115936069A CN 115936069 A CN115936069 A CN 115936069A CN 202211616313 A CN202211616313 A CN 202211616313A CN 115936069 A CN115936069 A CN 115936069A
Authority
CN
China
Prior art keywords
time
space
traffic flow
attention
node
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202211616313.0A
Other languages
English (en)
Inventor
马创
颜莉
刘帅武
冉鑫
胡锦浩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chongqing University of Post and Telecommunications
Original Assignee
Chongqing University of Post and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chongqing University of Post and Telecommunications filed Critical Chongqing University of Post and Telecommunications
Priority to CN202211616313.0A priority Critical patent/CN115936069A/zh
Publication of CN115936069A publication Critical patent/CN115936069A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02TCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00Road transport of goods or passengers
    • Y02T10/10Internal combustion engine [ICE] based vehicles
    • Y02T10/40Engine management systems

Landscapes

  • Traffic Control Systems (AREA)

Abstract

本发明属于时空数据预测领域,具体涉及一种基于时空注意力网络的交通流预测方法,包括:采集实时交通流数据,对实时交通流数据进行预处理;将预处理后的实时交通流数据输入到时空注意力网络模型提取实时交通流数据的时间特征、空间特征;将时间特征和空间特征拼接并输入时空注意力模块,自适应的融合时间特征和空间特征,输出时空特征;将时空注意力网络输出的时空特征通过全连接层生成预测的交通流数据。本发明通过使用附有残差连接的时间卷积网络缓解了处理长时间序列可能遇到的梯度消失问题和网络深度增加的网络退化问题;通过图注意力机制结合node2vec能够更有效的建模空间相关性并自适应地学习空间特征,提高了交通流预测精确度。

Description

一种基于时空注意力网络的交通流预测方法
技术领域
本发明属于交通流预测领域,具体涉及一种基于时空注意力网络的交通流预测方法。
背景技术
交通流预测作为智能交通系统和人们日常便捷出行高需求的措施,吸引了许多的研究人员投入其中。它的准确性不仅可以辅助交通部门部署、提高道路运行效率、缓解交通拥堵等,它也有助于汽车自动驾驶预测交通情况和规划最优行动轨迹。由于交通道路网络具有复杂的拓扑结构和随机时间动态变化的交通状态,使得交通预测对交通研究人员来说仍然是一个具有挑战性的问题。
交通流预测本质上是根据交通道路的历史交通状态对未来一定时期内的交通道路状态进行预测。目前已经很多交通流预测方法,多数方法都侧重于时间依赖性的研究,通常使用递归神经网络(RNN)、长短期记忆(LSTM)、门控循环单元(GRU)等神经网络来捕获时间特征。然而交通状态的变化同样也受到交通网络上复杂的拓扑结构影响,因此交通预测任务中获取空间相关性也至关重要。近几年,一些方法在关注时间依赖性的同时也注意到了空间相关性,主要使用卷积神经网络(CNN)或图卷积神经网络(GCN)这类基于卷积算子的方法来建模空间相关性。然而,基于卷积的方法在融合节点特征和拓扑结构的能力远未达到最优,不能充分的建模空间相关性。同时,传统的循环神经网络,例如LSTM、GRU等存在梯度消失问题和网络深度增加的网络退化问题,通常无法捕捉到较为长期的时间相关性。
发明内容
为解决上述技术问题,本发明提出一种基于时空注意力网络的交通流预测方法,包括:
S1:通过城市交通道路上的传感器采集实时交通流数据,对采集到的实时交通流数据进行预处理;
所述交通流数据包括:各个路段的每间隔t时刻的车道内平均车速、通过的车辆数目和车道内的车辆密度;
S2:将预处理后的历实时交通流数据输入到时空注意力网络模型,时空注意力模型包括空间相关性提取模块、时间相关性提取模块和时空注意力模块;
S3:通过时间相关性提取模块提取实时交通流数据的时间特征;
S4:通过空间相关性提取模块提取实时交通流数据的空间特征;
S5:将提取到的时间特征和空间特征拼接并输入时空注意力模块,自适应的融合时间特征和空间特征,输出时空特征;
S6:将时空注意力网络输出的时空特征通过全连接层生成预测的交通流数据。
本发明的有益效果:
1.本发明通过使用附有残差连接的时间卷积网络缓解了基于循环神经网络模型处理长时间序列可能遇到的梯度消失问题和网络深度增加遇到的网络退化问题。
2.本发明相较于现有的基于卷积算子的图神经网络模型,通过图注意力机制结合带有随机游走机制的node2vec能够更有效的建模空间相关性并自适应地学习空间特征,提高了交通流预测精确度。
附图说明
图1为本发明的整体流程图;
图2(a),(b)为本发明的因果卷积和因果扩张卷积结构示意图;
图3为本发明的时间相关性提取模块结构示意图;
图4为本发明的图注意力网络注意力系数计算过程流程图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
一种基于时空注意力网络的交通流预测方法,如图1所示,包括以下步骤:
S1:对采集到的原始交通数据进行预处理;
S2:将历史交通流数据输入到时空注意力网络模型,时空注意力网络模型包括空间相关性提取模块、时间相关性提取模块和注意力模块;
S3:通过时间相关性提取模块提取交通数据中的时间特征;
S4:通过空间相关性提取模块提取交通数据中的空间特征;
S5:将时间相关性提取模块和空间相关性提取模块获取的时间特征和空间特征连接,输入注意力模块,自适应的为时间特征和空间特征分配权重,融合时空特征;
S6:预测层,将时空注意力网络输出的时空特征通过全连接层生成预测的交通流数据。
具体地,所述数据预处理阶段,具体包括:
交通数据指城市交通道路上传感器收集的各个路段上的交通流信息和交通路网,交通流信息通常指各个路段的每间隔t时刻的车道内平均车速、通过的车辆数目和车道内的车辆密度。
交通道路网络拓扑结构用于表示交通道路之间错综复杂的连通性,将交通道路网络拓扑结构表示为一个无向图G=(V,E,A);将每一条路段(传感器)看作图中的一个节点;V表示节点集合,V中的每个节点均为其对应属性的特征矩阵;E表示路段之间的边缘集合;路段之间的连通使用邻接矩阵A∈RN×N表示,N表示节点的数量,所示邻接矩阵由数字0和1组成,Aij=1表示节点i和节点j相连,Aij=0则表示节点i和节点j不相连;
则交通道路网络拓扑结构图具体表示为如下式(1):
Figure BDA0004000394400000041
其中,G表示交通道路网络拓扑结构构成的无向图,V表示节点集合,vi表示节点i,vj表示节点j,E表示节点之间的边缘集合,
Figure BDA0004000394400000045
为自连接矩阵,I为单位对角矩阵,Aij表示vi和vj的连接情况;
交通流时间序列,假设我们总共有T个时间步,那么交通网络的交通流时间序列表示为下式(2):
Y={Yt|t∈T};                      (2)
其中t表示时间步;Yt={y1,y2,…,yN}表示在时间步t所有节点的交通流特征矩阵,Yt中的yi表示vi∈V的交通流特征。
具体地,所述的输入时空注意力网络模型的数据为
Figure BDA0004000394400000042
交通流预测的目标主要是通过给定的前M个时间步的交通流序列和其它因素预测接下来Q个时间步的交通流序列。因此,交通流预测可以看作是在交通道路网络拓扑结构G和交通流时间序列Y的前提下学习映射函数f(·),并在此基础上进行预测。交通流预测目标函数定义为如下式(3):
Figure BDA0004000394400000043
(3)式中
Figure BDA0004000394400000044
表示预测的N个节点在t时刻的交通流。
具体地,所述时间相关性提取模块使用时间卷积网络来提取时间相关性,输入为交通流时间序列Y,具体步骤如下:
时间卷积网络主要包括扩张因果卷积层和残差连接层。
卷积层是卷积神经网络的核心,从输入数据中提取特征。卷积层结合因果卷积和扩张卷积,因果卷积保证时刻t处的输出特征仅与来自时刻t和时刻t以前的数据学习得到,扩张卷积保证输出与输入长度相同,通过堆叠多个扩张卷积使网络具有更大的感受野,并以较少的层数捕获长时间依赖性;图2(a)、图2(b)分别为因果卷积和扩张因果卷积。
扩张因果卷积允许过滤器跳过一定时间步长的输入值来达到一个大于其长度的区域。给定一个单维的交通流时间序列,卷积核为w的扩张因果卷积在时刻t的输出时间特征ht表示如下式(4):
Figure BDA0004000394400000051
其中d表示膨胀因子,k表示卷积核大小。通过扩张卷积可以扩大卷积核的感受夜,第i层的扩张系数d表示如下式(5):
d=2i-1                (5)
这里i≥1。在实际的任务中,需要根据输入数据的长度l、卷积核的大小k以及扩张系数的基数b等参数综合确定模型所需要的最小层数;计算方式如下式(6):
Figure BDA0004000394400000052
考虑到网络的深度,通过增加残差结构来解决网络深度增加带来的梯度消失和网络退化问题,简化网络训练,残差连接结构如图3,通过残差连接输出的
时间特征h′t如下式(7):
h′t=ReLU([ht||Y]Wh+bh)             (7)
其中,||是连接操作,ReLU为非线性激活函数。Wh和bh分别表示训练过程中的权重和偏差。
具体地,所述空间相关性提取模块,输入为交通道路网络拓扑结构图和交通流时间序列
Figure BDA0004000394400000053
包括:
S41:使用图注意力网络(GAT)提取交通道路网络中节点与节点之间的复杂空间相关性,具体步骤包括:
首先,使用注意力系数来表示表示交通网络节点之间的空间相关性权重。通过图注意力机制,我们可以获取每一个节点对于其邻居节点的注意力系数,对于每个时间步t,计算节点j对节点i的注意力系数公式如下式(8):
Figure BDA0004000394400000061
其中,yi,t,yj,t分别为时刻t节点vi,vj的交通状态;W是一个可学习的节点特征变换矩阵,用于特征提取;eij,t表示时刻t vj对vi的重要性;a为可学习权重参数向量;LeakyReLU为非线性激活函数。使用softmax归一化函数对所有邻居计算出的注意力权重进行统一的归一化处理,计算公式如下式(9):
Figure BDA0004000394400000062
其中,αij,t表示时刻t vj对vi的归一化注意力系数;
Figure BDA00040003944000000610
表示vi的邻居节点集合,注意力系数计算过程如图4;将vi所有一阶邻域vj的特征和对应系数αij,t进行加权求和,通过非线性层获取到每个节点的空间特征输出,计算方式如下式(10):
Figure BDA0004000394400000063
其中,
Figure BDA0004000394400000064
表示vi的一阶邻域空间特征,αij,t表示时刻t节点vj对节点vi的归一化注意力系数,
Figure BDA0004000394400000065
为可学习的权值矩阵;σ表示非线性激活函数Relu。
S42:学习更高阶邻域空间特征,具体步骤包括:
GAT是对一阶邻域空间特征的学习,为保留更高阶邻域的空间特征,使用node2vec方法来学习带有全局信息的节点空间特征表示,将这些特征向量输入到一层全连接神经网络,得到更全局的空间特征嵌入使其与整个模型共同训练,表示为
Figure BDA0004000394400000066
将学习到的一阶邻域空间特征
Figure BDA00040003944000000611
和更高阶邻域的空间特征
Figure BDA0004000394400000067
通过连接操作,得到vi的最终输出空间特征
Figure BDA0004000394400000068
如下式(11):
Figure BDA0004000394400000069
具体地,所述注意力模块具体步骤如下:
首先将空间特征
Figure BDA0004000394400000071
和时间特征ht通过连接操作,得到初始的时空特征TSt,如下式(8):
TSt=[h′t||St]
(12)
将TSt输入注意力模块,自适应融合时间特征和空间特征得到时刻t的时空特征TS′t,计算方式如下:
attt=ReLU(TStW1+b1)                           (13)
att′t=softmax(attt)
(14)
TS′t=ReLU(TS′tatt′tW2+b2)
(15)
其中att′t为时空注意力的注意力权重,W1,W2和b1,b2为模型训练时的可学习权重矩阵和偏差。
具体地,所述预测层的具体步骤如下:
将经过时空注意网络获取到的前M个时刻所有节点的时空特征TS=[TS′t|t=1,…,M],通过全连接层fc最终获取到接下来Q个时刻所有节点的交通流预测结果,如下式(15):
Figure BDA0004000394400000072
其中
Figure BDA0004000394400000073
为预测的时刻t的交通流。
为了在模型的训练中最大程度的减少交通流预测中实际交通流和预测交通流之间的误差,时空注意力网络模型的损失函数定义如下式(17):
Figure BDA0004000394400000074
其中,
Figure BDA0004000394400000075
为损失值;第一项为平均绝对误差,Yt为真实的交通流值,
Figure BDA0004000394400000076
为预测的交通流值;第二项Lreg为L2正则化项,用于缓解过度拟合;λ为超参数。
尽管已经示出和描述了本发明的实施例,对于本领域的普通技术人员而言,可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由所附权利要求及其等同物限定。

Claims (9)

1.一种基于时空注意力网络的交通流预测方法,其特征在于,包括:
S1:通过城市交通道路上的传感器采集实时交通流数据,对采集到的实时交通流数据进行预处理;
所述交通流数据包括:各个路段的每间隔t时刻的车道内平均车速、通过的车辆数目和车道内的车辆密度;
S2:将预处理后的实时交通流数据输入到时空注意力网络模型,时空注意力模型包括空间相关性提取模块、时间相关性提取模块和时空注意力模块;
S3:通过时间相关性提取模块提取实时交通流数据的时间特征;
S4:通过空间相关性提取模块提取实时交通流数据的空间特征;
S5:将提取到的时间特征和空间特征拼接并输入时空注意力模块,自适应的融合时间特征和空间特征,输出时空特征;
S6:将时空注意力网络输出的时空特征通过全连接层生成预测的交通流数据。
2.根据权利要求1所述的一种基于时空注意力网络的交通流预测方法,其特征在于,对采集到的实时交通流数据进行预处理,包括:
将采集到的交通流数据根据城市道路网络的连接属性构建交通道路网络拓扑结构图,根据通道路网络拓扑结构图使用极大化法将交通流数据进行标准化处理并生成交通流时间序列。
3.根据权利要求1所述的一种基于时空注意力网络的交通流预测方法,其特征在于,通过时间相关性提取模块提取实时交通流数据的时间特征,包括:
h′t=ReLU([ht||Y]Wh+bh)
其中,h′t表示时间特征,ht表示扩张因果卷积在时刻t的输出时间特征,Y表示交通流时间序列,Wh和bh分别表示训练过程中的权重和偏差量。
4.根据权利要求1所述的一种基于时空注意力网络的交通流预测方法,其特征在于,通过空间相关性提取模块提取实时交通流数据的空间特征,包括:
所述空间相关性提取模块包括:图注意力网络层、非线性层、node2vec层、全连接神经网络层;
S41:使用图注意力网络层学习交通道路网络中节点与节点之间的复杂一阶邻域空间相关性,根据节点与节点之间的复杂一阶邻域空间相关性通过图注意力机制获取每一个节点对于其一阶邻域节点的注意力系数,使用softmax函数对所有一阶邻居节点计算出的注意力权重进行统一的归一化处理,将节点i所有一阶邻域节点j的特征和对应的注意力权重系数进行加权求和,通过非线性层生成每个节点的一阶邻域空间特征;
S42:通过node2vec层学习交通道路网络中带有全局信息的节点空间特征表示,将学习到的特征向量输入全连接神经网络层,得到带有全局信息的空间特征,将学习到的一阶邻域空间特征和带有全局信息的空间特征进行连接操作,得到节点的输出空间特征。
5.根据权利要求4所述的一种基于时空注意力网络的交通流预测方法,其特征在于,获取每一个节点对于其一阶邻域节点的注意力系数,包括:
eij,t=LeakyReLU(aT[Wyi,t||Wyj,t])
其中,eij,t表示节点vj对节点vi的注意力系数,yi,t,yj,t分别表示时刻t节点vi,vj的交通状态,W表示可学习的节点特征变换矩阵,a表示可学习权重参数向量,LeakyReLU()表示Leaky ReLU激活函数。
6.根据权利要求4所述的一种基于时空注意力网络的交通流预测方法,其特征在于,使用softmax函数对所有一阶邻居节点计算出的注意力权重进行统一的归一化处理,包括:
Figure FDA0004000394390000021
其中,αij,t表示时刻t节点vj对节点vi的归一化后的注意力系数,
Figure FDA0004000394390000031
表示vi的邻居节点集合。
7.根据权利要求4所述的一种基于时空注意力网络的交通流预测方法,其特征在于,将节点i所有一阶邻域节点j的特征和对应的注意力权重系数进行加权求和,通过非线性层生成每个节点的一阶邻域空间特征,包括:
Figure FDA0004000394390000032
其中,
Figure FDA0004000394390000033
表示节点vi的一阶邻域空间特征,αij,t表示时刻t节点vj对节点vi的归一化后的注意力系数,W表示可学习的节点特征变换矩阵,
Figure FDA0004000394390000034
表示节点vj的一阶邻域空间特征,σ表示非线性激活函数,t表示时刻。
8.根据权利要求1所述的一种基于时空注意力网络的交通流预测方法,其特征在于,时空注意力模块自适应的融合时间特征和空间特征,输出时空特征,包括:
TS′t=ReLU(TStatt′tW2+b2)
其中,TS′t表示时空特征,TSt表示初始的时空特征,TSt=[ht||St],St表示空间特征,
Figure FDA0004000394390000037
Figure FDA0004000394390000038
表示节点vi的一阶邻域空间特征,t表示时刻,ht表示时间特征,att′t表示时空注意力的注意力权重,W1,W2和b1,b2分别表示模型训练时的第一、第二可学习权重矩阵和第一、第二偏差,ReLU()表示激活函数。
9.根据权利要求1所述的一种基于时空注意力网络的交通流预测方法,其特征在于,将时空注意力网络输出的时空特征通过全连接层生成预测的交通流数据,包括:
Figure FDA0004000394390000035
其中,
Figure FDA0004000394390000036
为预测的时刻t的交通流,fc()表示全连接层,TS′t表示时空特征。
CN202211616313.0A 2022-12-15 2022-12-15 一种基于时空注意力网络的交通流预测方法 Pending CN115936069A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211616313.0A CN115936069A (zh) 2022-12-15 2022-12-15 一种基于时空注意力网络的交通流预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211616313.0A CN115936069A (zh) 2022-12-15 2022-12-15 一种基于时空注意力网络的交通流预测方法

Publications (1)

Publication Number Publication Date
CN115936069A true CN115936069A (zh) 2023-04-07

Family

ID=86553747

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211616313.0A Pending CN115936069A (zh) 2022-12-15 2022-12-15 一种基于时空注意力网络的交通流预测方法

Country Status (1)

Country Link
CN (1) CN115936069A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116504076A (zh) * 2023-06-19 2023-07-28 贵州宏信达高新科技有限责任公司 基于etc门架数据的高速公路车流量预测方法
CN116596151A (zh) * 2023-05-25 2023-08-15 湖北工业大学 基于时空图注意力的交通流量预测方法及计算设备

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116596151A (zh) * 2023-05-25 2023-08-15 湖北工业大学 基于时空图注意力的交通流量预测方法及计算设备
CN116596151B (zh) * 2023-05-25 2024-03-15 湖北工业大学 基于时空图注意力的交通流量预测方法及计算设备
CN116504076A (zh) * 2023-06-19 2023-07-28 贵州宏信达高新科技有限责任公司 基于etc门架数据的高速公路车流量预测方法

Similar Documents

Publication Publication Date Title
CN109887282B (zh) 一种基于层级时序图卷积网络的路网交通流预测方法
CN111612243B (zh) 交通速度预测方法、系统及存储介质
CN112241814B (zh) 一种基于强化时空图神经网络的交通预测方法
CN111223301B (zh) 一种基于图注意力卷积网络的交通流量预测方法
Ge et al. Temporal graph convolutional networks for traffic speed prediction considering external factors
CN115936069A (zh) 一种基于时空注意力网络的交通流预测方法
CN110991713A (zh) 基于多图卷积和gru的不规则区域流量预测方法
CN114299723B (zh) 一种交通流量预测方法
CN111382686B (zh) 一种基于半监督生成对抗网络的车道线检测方法
CN105354273A (zh) 一种快速检索高速公路逃费车辆高相似度图像的方法
CN113313947A (zh) 短期交通预测图卷积网络的路况评估方法
CN110570035B (zh) 同时建模时空依赖性和每日流量相关性的人流量预测系统
Zhang et al. Multistep speed prediction on traffic networks: A graph convolutional sequence-to-sequence learning approach with attention mechanism
CN115578851A (zh) 一种基于mgcn的交通预测方法
CN111047078A (zh) 交通特征预测方法、系统及存储介质
CN114021809A (zh) 一种无人驾驶用交通流量预测的图层级卷积神经网络模型
CN114299728A (zh) 结合注意力机制与动态时空卷积模型的车辆流量预测方法
CN114973678B (zh) 一种基于图注意力神经网络和时空大数据的交通预测方法
CN115935796A (zh) 一种基于时空异质的和同步的图卷积网络交通流预测方法
CN112785848A (zh) 一种交通数据预测方法以及系统
CN115273466B (zh) 一种基于柔性车道管控算法的监控方法与系统
CN114692762A (zh) 一种基于图注意力交互机制的车辆轨迹预测方法
CN115376317A (zh) 一种基于动态图卷积和时序卷积网络的交通流预测方法
CN116011684A (zh) 一种基于时空图卷积网络的交通流量预测方法
CN116307152A (zh) 时空交互式动态图注意力网络的交通预测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination