CN117456730A - 一种基于自适应部分注意力扩散图卷积神经网络的交通流量预测方法 - Google Patents
一种基于自适应部分注意力扩散图卷积神经网络的交通流量预测方法 Download PDFInfo
- Publication number
- CN117456730A CN117456730A CN202311410220.7A CN202311410220A CN117456730A CN 117456730 A CN117456730 A CN 117456730A CN 202311410220 A CN202311410220 A CN 202311410220A CN 117456730 A CN117456730 A CN 117456730A
- Authority
- CN
- China
- Prior art keywords
- matrix
- data
- nodes
- period
- attention
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 36
- 238000013527 convolutional neural network Methods 0.000 title claims abstract description 13
- 239000011159 matrix material Substances 0.000 claims abstract description 130
- 238000009792 diffusion process Methods 0.000 claims abstract description 37
- 230000003442 weekly effect Effects 0.000 claims abstract description 25
- 230000006870 function Effects 0.000 claims abstract description 21
- 230000004927 fusion Effects 0.000 claims abstract description 19
- 238000012549 training Methods 0.000 claims abstract description 17
- 238000013528 artificial neural network Methods 0.000 claims abstract description 13
- 239000013598 vector Substances 0.000 claims abstract description 5
- 238000004364 calculation method Methods 0.000 claims description 28
- 230000003044 adaptive effect Effects 0.000 claims description 23
- 230000002708 enhancing effect Effects 0.000 claims description 12
- 238000012544 monitoring process Methods 0.000 claims description 11
- 230000002776 aggregation Effects 0.000 claims description 10
- 238000004220 aggregation Methods 0.000 claims description 10
- 230000008569 process Effects 0.000 claims description 10
- 230000004913 activation Effects 0.000 claims description 9
- 230000007246 mechanism Effects 0.000 claims description 9
- 238000012546 transfer Methods 0.000 claims description 9
- 238000013459 approach Methods 0.000 claims description 6
- 230000007547 defect Effects 0.000 claims description 4
- 230000001965 increasing effect Effects 0.000 claims description 4
- 201000010099 disease Diseases 0.000 claims description 3
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 claims description 3
- 230000000717 retained effect Effects 0.000 claims description 3
- 238000006243 chemical reaction Methods 0.000 claims description 2
- 238000005259 measurement Methods 0.000 claims description 2
- 238000012545 processing Methods 0.000 abstract description 2
- 238000000605 extraction Methods 0.000 abstract 1
- 238000010586 diagram Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 238000007726 management method Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 206010039203 Road traffic accident Diseases 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/01—Detecting movement of traffic to be counted or controlled
- G08G1/0104—Measuring and analyzing of parameters relative to traffic conditions
- G08G1/0137—Measuring and analyzing of parameters relative to traffic conditions for specific applications
- G08G1/0145—Measuring and analyzing of parameters relative to traffic conditions for specific applications for active traffic flow control
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/01—Detecting movement of traffic to be counted or controlled
- G08G1/0104—Measuring and analyzing of parameters relative to traffic conditions
- G08G1/0108—Measuring and analyzing of parameters relative to traffic conditions based on the source of data
- G08G1/0116—Measuring and analyzing of parameters relative to traffic conditions based on the source of data from roadside infrastructure, e.g. beacons
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/01—Detecting movement of traffic to be counted or controlled
- G08G1/0104—Measuring and analyzing of parameters relative to traffic conditions
- G08G1/0125—Traffic data processing
- G08G1/0129—Traffic data processing for creating historical data or processing based on historical data
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/01—Detecting movement of traffic to be counted or controlled
- G08G1/052—Detecting movement of traffic to be counted or controlled with provision for determining speed or overspeed
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于自适应部分注意力扩散图卷积神经网络的交通流量预测方法,包括如下步骤:准备交通流量数据集,将数据划分为三个时间周期分段,即最近周期、每日周期和每周周期,每个周期数据分别进入深度神经网络进行学习,建模不同的交通模式;进入神经网络之前,将数据集进行标准化处理;利用节点嵌入算法,设置两个节点嵌入向量,构建自适应的节点关联矩阵;定义节点间的注意力函数,设置节点的距离阈值,构建节点部分注意力矩阵,并将其与节点关联矩阵融合获得动态节点关联矩阵;将标准化的历史数据与动态节点关联矩阵一同送入图卷积和扩散卷积层中,获得处理过空间关系的数据;进入时间层,使用门控扩散卷积进行时间关联提取,通过线性层得到预测结果;将三个周期预测结果进行加权融合得出最终预测结果。本发明选择图神经网络,可以很好的对图数据进行特征捕捉,并结合扩散卷积层简化训练,对交通流量数据进行建模。
Description
技术领域
本发明属于时空数据挖掘领域,应用图神经网络和自适应学习实现的交通流量预测方法。
背景技术
智能交通系统(ITS)是一种综合利用信息技术、通信技术和传感器技术等先进技术手段,以提高交通运输系统的安全性、效率、便捷性和环保性为目标的系统。旨在将现代信息和通信技术与交通管理和运输系统相结合,以实现更智能、更高效的交通运输方式。ITS的实施可以在城市交通管理、高速公路、机场、港口等各种交通场景中发挥作用,有助于提高交通运输系统的整体效率,减少交通事故和拥堵,提高出行便捷性,降低环境影响,同时也为城市规划和未来交通发展提供了新的思路和解决方案。目前,汽车的数量正在迅速增长。交通流量的增长带来了许多问题,使城市交通系统不堪重负。快速准确地预测未来交通流量,对于交通控制、道路运输和公共便利具有重要意义。
交通流量预测是城市治理的核心任务,对智能交通系统的发展起着至关重要的作用。其是一项经典的时空任务,其目的是模拟未来一段时间内某一交通区域的道路状况。如何关联和挖掘交通数据中的信息是需要深入思考的问题。然而,交通流量具有高度的随机性和不确定性,而且许多其他因素,如意外事件和天气,也会影响交通状况,这使得预测交通流量更具挑战性。
近年来,深度学习因其对数据进行高维非线性建模的能力而受到关注,并在交通流量预测中取得了良好的效果。但是大都依赖基于先验知识的预定义邻接矩阵作为时空关联建模的基础,但固定的图结构不能充分描述交通节点之间的依赖关系。现实中的关系往往是动态的,瞬息万变的。现有的模型并未充分考虑如何使用图神经网络和扩散机制来模拟交通节点间这种动态的关联性。
发明内容
现有交通流量预测的方法,主要依赖于先验知识,即预定义的图结构。但是预定义的邻接矩阵不能很好地表示节点依赖关系,且图神经网络在进行多次信息聚合后,节点的低阶邻居信息会被高阶节点覆盖,导致关系建模不准确。同时,现有研究多采用GRU、LSTM等递归神经网络来处理时间序列关系。但在实际应用中存在模型复杂度高、梯度不稳定、并行化困难等缺陷。为解决上述问题,本发明的目的是提出一种基于自适应部分注意力扩散图卷积神经网络的交通流量预测方法。
为实现上述目的,本发明采用的技术方案为:
一种基于自适应部分注意力扩散图卷积神经网络的交通流量预测方法,包括如下步骤:
步骤1,准备交通流量数据集,交通流量数据包含有监测点个数及每个历史时刻内每个监测点所记录的交通流量数据值,并包含有监测节点的图拓扑关系;将数据集使用Z-Score进行标准化预处理;再将数据集划分为三个不同的时间周期,分别是最近周期、每日周期和每周周期的交通流量数据。
所述步骤1中,我们使用了加州交通运输局测量系统(PeMS)统计的加州高速公路的真实数据,包括39000多个物理传感器,每五分钟集成一次数据。每五分钟集成一次数据。选取其中PeMS03、PeMS04、PeMS07、PeMS08四个数据集,以PeMS03为例,其中包含有358个监测节点、547条节点边、26208个时间步、3种交通流量特征值,本实施选择其中的速度观测值作为主要预测值。预处理后得到了三个不同的时间周期,分别是最近周期、每日周期和每周周期的交通流量数据。三个不同时间周期数据的计算可以定义如下:
(1)最近周期:这是历史上与预测周期在时间上最接近且密切相关的时刻。这个时候的交通状况对预测周期有重要影响。这段时间记为:
(2)每日周期:指前一天同一时刻的数据,是前一天与预测时段相同的时刻。在一个固定的路段,人们通常有一定的日常生活模式,这意味着交通可能呈现出相似的模式。例如在工作日的早晚,会出现早晚高峰,这是一个明显的交通模式。但仍有许多流量特征和模式是无法直观识别的。因此,我们选择日周期来捕获每日的隐藏特征。这段时间记为:
(3)每周周期:这段时间周期是前几周与预测时间相同的一段周期。一般来说,每周的流量模式都是相似的。例如,每周五的交通状况相似,但周末的交通模式却有很大的差异。因此,我们希望通过每周周期对周流量模式进行建模和研究。这段时间记为:
步骤2,构建空间关联矩阵A,其输入为经历过预处理的数据集。首先通过节点嵌入算法,在不依赖先验知识的情况下,自适应地从数据中构建节点之间的依赖关系,构建自适应邻接矩阵A1,可以用以表示节点间潜在的连接关系。其次,构建部分注意力矩阵A2,通过限制注意力的生效范围,增强在多次图卷积后节点对低阶临近节点信息的聚合能力。并将部分注意力矩阵与自适应邻接矩阵进行融合,通过多次重复训练后增强模型平稳性,得到空间关联矩阵A。模型A用以描述节点的空间关联关系,并作为后续卷积层的输入。
所述步骤2中,空间关联矩阵A的整体结构如下:
其中,input X为交通流量数据,包括三个不同的时间周期,分别是最近周期、每日周期和每周周期的交通流量数据。空间关联矩阵A将此三种数据分别作为三个不同的平行输入。为A融合部分注意力矩阵和自适应邻接矩阵后生成的节点空间关联程度得分,用于描述交通节点之间的空间关系信息。
自适应邻接矩阵的计算可以定义如下:
其中SoftMax的功能是标准化嵌入。ReLu为激活函数,用于消除Emd1和Emd2之间的弱连接,从而跳过拉普拉斯矩阵的计算以加快训练速度。此外,对于未知图结构的数据也使用自适应邻接矩阵,挖掘潜在的连接关系。
部分注意力矩阵的计算可以定义如下:
其中是h层的输入。/> 是要学习的参数。矩阵Aatt∈RN×N为部分注意力的权重矩阵,/>表示节点i和j之间的关联值,/>的值越大,表示节点i和j之间的空间联系越强。仅对中心节点的邻近节点施加注意力权重,以加强邻近节点信息的聚合。如果对所有节点施加注意力权重,也会导致多次卷积后附近节点的信息丢失。它还通过省去许多不必要的建模来加快模型的训练过程。随后,我们使用SoftMax函数对注意力矩阵进行归一化处理,以确保节点i的关系节点权重之和为1。矩阵/>是归一化的注意力权重矩阵。
在得到部分注意力矩阵后,将其融入自适应邻接矩阵中。为了保证建模学习的平稳性,我们使用K训练结果K重复训练后的平均值作为最终的邻接矩阵。节点空间关联矩阵A的计算可以定义如下:
其中λ为超参数,表示具有注意力权重的邻接矩阵的融合度。当λ接近1时,说明没有采用局部注意力矩阵。当λ接近0时,意味着完全使用局部注意力矩阵作为节点关联矩阵。
步骤3:构建卷积层Conv,其输入为步骤2中的空间关联矩阵A。通过图卷积神经网络和扩散卷积,经过多次图卷积过程,卷积聚合交通节点间的信息,并将节点的特征增加到高维,发现隐藏的空间特征,扩散卷积利用前后向转移矩阵模拟扩散,学习节点空间信息。经过Conv卷积层,已完成对交通流量数据的空间关系建模。
所述步骤3中,卷积层Conv的整体结构如下:
其中,input X为步骤2中得到的空间关联矩阵A,用来描述交通节点间的空间关系。卷积层Conv将空间关联矩阵A作为输入,作为替换卷积中的预定义邻接矩阵。为经过多轮图卷积与扩散卷积后计算得到的节点的向量表示,代表聚合过节点间空间关联的节点信息表示。
图卷积神经网络层的计算可以定义如下:
其中h表示卷积执行的数量,h越多,聚合的信息节点越多。X(0)∈RN×d是输入特征矩阵(即时刻i的交通信号数据),D是对角矩阵。其中A是邻接矩阵,IN是单位矩阵。矩阵W是一个可学习的参数。函数σ(·)是激活函数(例如sigmoid或ReLU)。是一个归一化的邻接矩阵,它是聚合一个节点的邻接节点的信息。对于节点来说,GCN的意义在于转换特征。输入数据中每个节点的数据为F特征信号。GCN的功能是聚合信息并将节点的特征增加到高维,发现隐藏的空间特征。
扩散卷积层的计算可以定义如下:
其中和/>是扩散过程中的前向和后向转移矩阵,θ0,θ1,W0,W1是要学习的参数矩阵。/> 和/>的函数表示节点之间的转移概率,K为扩散步数。通过对转移矩阵进行乘法运算来模拟卷积的扩散过程。矩阵QD还可以进一步增强对邻近节点信息的聚合能力,弱化多层卷积带来的弊端。
卷积层Conv将图卷积与扩散卷积进行融合,其计算可以定义如下:
步骤4:构建时间关联模块GTCN,其输入为步骤3中进行过空间关联建模的数据。通过一维扩散卷积核与门控机制对交通流量的时间关联进行建模,并可以增强对长时间序列数据建模的能力。
所述步骤4中,时间关联模块GTCN的整体结构如下:
其中,输入为卷积层Conv聚合过节点间空间关联的节点信息表示。多时间关联模块GTCN在此基础上对交通流量的时间信息进行建模。为GTCN预测出的未来交通流量数据。
多时间关联模块GTCN的计算可以定义如下:
其中X为DTCN的输入,Y(h-1)为l层的输入。θ1,θ2是卷积核。b和c是需要学习的模型参数。⊙是哈达玛积。g(·)和σ(·)是激活函数。dl=2l-1是扩散步长。我们使用σ(·)控制可以保留多少信息。我们使用空洞卷积扩大时间序列上的感受野,增强了对长时间序列数据建模的能力。
步骤5:多模组融合,输入为三个时间周期在经历步骤4后的数据。通过将三个时间段的预测结果进行整合,融合不同交通模式下的流量数据,增强预测的准确性。
所述步骤5中,在经过步骤4后,已得出三种不同时间周期各自的预测结果,通过结合注意力机制,对三种结果进行加权融合,以达到对时间段数据不同关注的目的。多模组融合的整体结构如下:
Hrecent,Hday,Hweek→多模组融合→h
其中,输入为三种时间周期的数据在经过步骤4GTCN所得出的预测结果,多模组融合通过注意力机制对三种预测结果进行加权融合。得出最终的交通流量预测得分h。
多模组融合的计算过程可以定义如下:
其中Linear为线性层,Concat表示拼接操作。和/>分别代表最近的周期、每天的周期和每周的周期的结果。
附图说明
图1为本发明中多模组的整体结构图;
图2为本发明中空间关联矩阵A的整体结构图;
图3为本发明中构建卷积层Conv的整体结构图;
图4为本发明中时间关联模块GTCN的整体结构图;
图5为本发明中模型的整体结构图;
具体实施方式
下面将结合本发明实施例中的附图,对本发明做更进一步的解释。
本发明的一种基于自适应部分注意力扩散图卷积神经网络的交通流量预测方法,包括如下步骤:
步骤1,准备交通流量数据集,交通流量数据包含有监测点个数及每个历史时刻内每个监测点所记录的交通流量数据值,并包含有监测节点的图拓扑关系;将数据集使用Z-Score进行标准化预处理;再将数据集划分为三个不同的时间周期,分别是最近周期、每日周期和每周周期的交通流量数据。
步骤2,构建空间关联矩阵A,其输入为经历过预处理的数据集。首先通过节点嵌入算法,在不依赖先验知识的情况下,自适应地从数据中构建节点之间的依赖关系,构建自适应邻接矩阵A1,可以用以表示节点间潜在的连接关系。其次,构建部分注意力矩阵A2,通过限制注意力的生效范围,增强在多次图卷积后节点对低阶临近节点信息的聚合能力。并将部分注意力矩阵与自适应邻接矩阵进行融合,通过多次重复训练后增强模型平稳性,得到空间关联矩阵A。模型A用以描述节点的空间关联关系,并作为后续卷积层的输入。
步骤3:构建卷积层Conv,其输入为步骤2中的空间关联矩阵A。通过图卷积神经网络和扩散卷积,经过多次图卷积过程,卷积聚合交通节点间的信息,并将节点的特征增加到高维,发现隐藏的空间特征,扩散卷积利用前后向转移矩阵模拟扩散,学习节点空间信息。经过Conv卷积层,已完成对交通流量数据的空间关系建模。
步骤4:构建时间关联模块GTCN,其输入为步骤3中进行过空间关联建模的数据。通过一维扩散卷积核与门控机制对交通流量的时间关联进行建模,并可以增强对长时间序列数据建模的能力。
步骤5:多模组融合,输入为三个时间周期在经历步骤4后的数据。通过将三个时间段的预测结果进行整合,融合不同交通模式下的流量数据,增强预测的准确性。
所述步骤1中,多模组的整体结构请参阅图1,多模组的整体结构如下:
预处理后得到了三个不同的时间周期,分别是最近周期、每日周期和每周周期的交通流量数据。三个不同时间周期数据的计算可以定义如下:
(1)最近周期:这是历史上与预测周期在时间上最接近且密切相关的时刻。这个时候的交通状况对预测周期有重要影响。这段时间记为:
(2)每日周期:指前一天同一时刻的数据,是前一天与预测时段相同的时刻。在一个固定的路段,人们通常有一定的日常生活模式,这意味着交通可能呈现出相似的模式。例如在工作日的早晚,会出现早晚高峰,这是一个明显的交通模式。但仍有许多流量特征和模式是无法直观识别的。因此,我们选择日周期来捕获每日的隐藏特征。这段时间记为:
(3)每周周期:这段时间周期是前几周与预测时间相同的一段周期。一般来说,每周的流量模式都是相似的。例如,每周五的交通状况相似,但周末的交通模式却有很大的差异。因此,我们希望通过每周周期对周流量模式进行建模和研究。这段时间记为:
所述步骤2中,空间关联矩阵A的整体结构请参阅图2,空间关联矩阵A的整体结构如下:
其中,input X为交通流量数据,包括三个不同的时间周期,分别是最近周期、每日周期和每周周期的交通流量数据。空间关联矩阵A将此三种数据分别作为三个不同的平行输入。为A融合部分注意力矩阵和自适应邻接矩阵后生成的节点空间关联程度得分,用于描述交通节点之间的空间关系信息。
自适应邻接矩阵的计算可以定义如下:
其中SoftMax的功能是标准化嵌入。ReLu为激活函数,用于消除Emd1和Emd2之间的弱连接,从而跳过拉普拉斯矩阵的计算以加快训练速度。此外,对于未知图结构的数据也使用自适应邻接矩阵,挖掘潜在的连接关系。
部分注意力矩阵的计算可以定义如下:
其中是h层的输入。/> 是要学习的参数。矩阵Aatt∈RN×N为部分注意力的权重矩阵,/>表示节点i和j之间的关联值,/>的值越大,表示节点i和j之间的空间联系越强。仅对中心节点的邻近节点施加注意力权重,以加强邻近节点信息的聚合。如果对所有节点施加注意力权重,也会导致多次卷积后附近节点的信息丢失。它还通过省去许多不必要的建模来加快模型的训练过程。随后,我们使用SoftMax函数对注意力矩阵进行归一化处理,以确保节点i的关系节点权重之和为1。矩阵/>是归一化的注意力权重矩阵。
在得到部分注意力矩阵后,将其融入自适应邻接矩阵中。为了保证建模学习的平稳性,我们使用K训练结果K重复训练后的平均值作为最终的邻接矩阵。节点空间关联矩阵A的计算可以定义如下:
其中λ为超参数,表示具有注意力权重的邻接矩阵的融合度。当λ接近1时,说明没有采用局部注意力矩阵。当λ接近0时,意味着完全使用局部注意力矩阵作为节点关联矩阵。
所述步骤3中,卷积层Conv的整体结构请参阅图3,卷积层Conv的整体结构如下:
其中,input X为步骤2中得到的空间关联矩阵A,用来描述交通节点间的空间关系。卷积层Conv将空间关联矩阵A作为输入,作为替换卷积中的预定义邻接矩阵。为经过多轮图卷积与扩散卷积后计算得到的节点的向量表示,代表聚合过节点间空间关联的节点信息表示。
图卷积神经网络层的计算可以定义如下:
其中,inputX为步骤2中得到的空间关联矩阵A,用来描述交通节点间的空间关系。卷积层
为经过多轮图卷积与扩散卷积后计算得到的节点的向量表示,代表聚合过节点间空间关联的节点图卷积神经网络层的计算可以定义如下:
其中h表示卷积执行的数量,h越多,聚合的信息节点越多。X(0)
∈RN×d是输入特征矩阵(即时刻i的交通信号数据),D是对角矩阵。
∈RN×N,其中A是邻接矩阵,IN
是单位矩阵。矩阵W是一个可学习的参数。函数σ(
·)是激活函数
(例如sigmoid或ReLU)。是一个归一化的邻接矩阵,它是聚合一个节点的邻接节点的信息。对于节点来说,GCN的意义在扩散卷积层的计算可以定义如下:
其中和/>
是扩散过程中的前向和后向转移矩阵,θ0,θ1,W0,W1
是要学习的参数矩阵。
和/>的函数表示节点之间的转移概率,K为扩散步数。通过对转移矩阵进行乘法运算来模拟卷积的扩QD还可以进一步增强对邻近节点信息的聚合能力,弱化多层卷积带来的弊端。
卷积层Conv将图卷积与扩散卷积进行融合,其计算可以定义如下:
所述步骤4中,时间关联模块GTCN的整体结构请参阅图3,时间关联模块GTCN的整体结构如下:
其中,输入为卷积层Conv聚合过节点间空间关联的节点信息表示。多时间关联模块GTCN在此基础上对交通流量的时间信息进行建模。为GTCN预测出的未来交通流量数据。
多时间关联模块GTCN的计算可以定义如下:
其中X为DTCN的输入,Y(h-1)为l层的输入。θ1,θ2是卷积核。b和c是需要学习的模型参数。⊙是哈达玛积。g(·)和σ(·)是激活函数。dl=2l-1是扩散步长。我们使用σ(·)控制可以保留多少信息。我们使用空洞卷积扩大时间序
列上的感受野,增强了对长时间序列数据建模的能力。
所述步骤5中,多模组融合的整体结构请参阅图3,多模组融合的整体结构
如下:
Hrecent,Hday,Hweek→多模组融合→h
其中,输入为三种时间周期的数据在经历过步骤4GTCN所得出的预测结果,多模组融合通过注意力机制对三种预测结果进行加权融合。得出最终的交通流量预测得分h,多模组融合的计算过程如下:
其中Linear为线性层,Concat表示拼接操作。和/>
分别代表最近的周期、每天的周期和每周的周期的结果。
本发明中,在数据集的处理方面,不同于一般的流量预测算法,本发明采用真实的交通流量数据集用作训练,增强了算法的真实可用性;在网络结构方面,本发明使用了自适应部分注意扩散图卷积网络,动态的模拟交通流量模式,加强了对交通流量预测的准确性;在预测目标方面,本发明选择以未来短期时间内的交通流量预测作为目标,使得本发明的预测内容更为精准实时。通过实验发现,使用本方法提供的模型基本可以实现对交通流量实现有效预测,并且最终得到的效果具有真实性。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
Claims (6)
1.一种基于自适应部分注意力扩散图卷积神经网络的交通流量预测方法,包括如下步骤:
步骤1,准备交通流量数据集,交通流量数据包含有监测点个数及每个历史时刻内每个监测点所记录的交通流量数据值,并包含有监测节点的图拓扑关系;将数据集使用Z-Score进行标准化预处理;再将数据集划分为三个不同的时间周期,分别是最近周期、每日周期和每周周期的交通流量数据。
步骤2,构建空间关联矩阵A,其输入为经历过预处理的数据集。首先通过节点嵌入算法,在不依赖先验知识的情况下,自适应地从数据中构建节点之间的依赖关系,构建自适应邻接矩阵A1,可以用以表示节点间潜在的连接关系。其次,构建部分注意力矩阵A2,通过限制注意力的生效范围,增强在多次图卷积后节点对低阶临近节点信息的聚合能力。并将部分注意力矩阵与自适应邻接矩阵进行融合,通过多次重复训练后增强模型平稳性,得到空间关联矩阵A。模型A用以描述节点的空间关联关系,并作为后续卷积层的输入。
步骤3:构建卷积层Conv,其输入为步骤2中的空间关联矩阵A。通过图卷积神经网络和扩散卷积,经过多次图卷积过程,卷积聚合交通节点间的信息,并将节点的特征增加到高维,发现隐藏的空间特征,扩散卷积利用前后向转移矩阵模拟扩散,学习节点空间信息。经过Conv卷积层,已完成对交通流量数据的空间关系建模。
步骤4:构建时间关联模块GTCN,其输入为步骤3中进行过空间关联建模的数据。通过一维扩散卷积核与门控机制对交通流量的时间关联进行建模,并可以增强对长时间序列数据建模的能力。
步骤5:多模组融合,输入为三个时间周期在经历步骤4后的数据。通过将三个时间段的预测结果进行整合,融合不同交通模式下的流量数据,增强预测的准确性。
2.根据权利要求1所述的一种基于自适应部分注意力扩散图卷积神经网络的交通流量预测方法,其特征在于:所述步骤1中,我们使用了加州交通运输局测量系统(PeMS)统计的加州高速公路的真实数据,包括39000多个物理传感器,每五分钟集成一次数据。每五分钟集成一次数据。选取其中PeMS03、PeMS04、PeMS07、PeMS08四个数据集,以PeMS03为例,其中包含有358个监测节点、547条节点边、26208个时间步、3种交通流量特征值,本实施选择其中的速度观测值作为主要预测值。预处理后得到了三个不同的时间周期,分别是最近周期、每日周期和每周周期的交通流量数据。三个不同时间周期数据的计算可以定义如下:
(1)最近周期:这是历史上与预测周期在时间上最接近且密切相关的时刻。这个时候的交通状况对预测周期有重要影响。这段时间记为:
(2)每日周期:指前一天同一时刻的数据,是前一天与预测时段相同的时刻。在一个固定的路段,人们通常有一定的日常生活模式,这意味着交通可能呈现出相似的模式。例如在工作日的早晚,会出现早晚高峰,这是一个明显的交通模式。但仍有许多流量特征和模式是无法直观识别的。因此,我们选择日周期来捕获每日的隐藏特征。这段时间记为:
(3)每周周期:这段时间周期是前几周与预测时间相同的一段周期。一般来说,每周的流量模式都是相似的。例如,每周五的交通状况相似,但周末的交通模式却有很大的差异。因此,我们希望通过每周周期对周流量模式进行建模和研究。这段时间记为:
3.根据权利要求1所述的一种基于自适应部分注意力扩散图卷积神经网络的交通流量预测方法,其特征在于:所述步骤2中,空间关联矩阵A的整体结构如下:
input X→空间关联矩阵
其中,input X为交通流量数据,包括三个不同的时间周期,分别是最近周期、每日周期和每周周期的交通流量数据。空间关联矩阵A将此三种数据分别作为三个不同的平行输入。为A融合部分注意力矩阵和自适应邻接矩阵后生成的节点空间关联程度得分,用于描述交通节点之间的空间关系信息。
自适应邻接矩阵的计算可以定义如下:
其中SoftMax的功能是标准化嵌入。ReLu为激活函数,用于消除Emd1和Emd2之间的弱连接,从而跳过拉普拉斯矩阵的计算以加快训练速度。此外,对于未知图结构的数据也使用自适应邻接矩阵,挖掘潜在的连接关系。
部分注意力矩阵的计算可以定义如下:
其中是h层的输入。Vs,bs∈RN×N,/> 是要学习的参数。矩阵Aatt∈RN×N为部分注意力的权重矩阵,/>表示节点i和j之间的关联值,/>的值越大,表示节点i和j之间的空间联系越强。仅对中心节点的邻近节点施加注意力权重,以加强邻近节点信息的聚合。如果对所有节点施加注意力权重,也会导致多次卷积后附近节点的信息丢失。它还通过省去许多不必要的建模来加快模型的训练过程。随后,我们使用SoftMax函数对注意力矩阵进行归一化处理,以确保节点i的关系节点权重之和为1。矩阵/>是归一化的注意力权重矩阵。
在得到部分注意力矩阵后,将其融入自适应邻接矩阵中。为了保证建模学习的平稳性,我们使用K训练结果K重复训练后的平均值作为最终的邻接矩阵。节点空间关联矩阵A的计算可以定义如下:
其中λ为超参数,表示具有注意力权重的邻接矩阵的融合度。当λ接近1时,说明没有采用局部注意力矩阵。当λ接近0时,意味着完全使用局部注意力矩阵作为节点关联矩阵。
4.根据权利要求1所述的一种基于自适应部分注意力扩散图卷积神经网络的交通流量预测方法,其特征在于,所述步骤3中,卷积层Conv的整体结构如下:
input X→卷积层
其中,input X为步骤2中得到的空间关联矩阵A,用来描述交通节点间的空间关系。卷积层Conv将空间关联矩阵A作为输入,作为替换卷积中的预定义邻接矩阵。为经过多轮图卷积与扩散卷积后计算得到的节点的向量表示,代表聚合过节点间空间关联的节点信息表示。
图卷积神经网络层的计算可以定义如下:
其中h表示卷积执行的数量,h越多,聚合的信息节点越多。X(0)∈RN×d是输入特征矩阵(即时刻i的交通信号数据),D是对角矩阵。其中A是邻接矩阵,IN是单位矩阵。矩阵W是一个可学习的参数。函数σ(·)是激活函数(例如sigmoid或ReLU)。/>是一个归一化的邻接矩阵,它是聚合一个节点的邻接节点的信息。对于节点来说,GCN的意义在于转换特征。输入数据中每个节点的数据为F特征信号。GCN的功能是聚合信息并将节点的特征增加到高维,发现隐藏的空间特征。
扩散卷积层的计算可以定义如下:
其中和/>是扩散过程中的前向和后向转移矩阵,θ0,θ1,W0,W1是要学习的参数矩阵。/> 和/>的函数表示节点之间的转移概率,K为扩散步数。通过对转移矩阵进行乘法运算来模拟卷积的扩散过程。矩阵QD还可以进一步增强对邻近节点信息的聚合能力,弱化多层卷积带来的弊端。
卷积层Conv将图卷积与扩散卷积进行融合,其计算可以定义如下:
5.根据权利要求1所述的一种基于自适应部分注意力扩散图卷积神经网络的交通流量预测方法,其特征在于,所述步骤4中,时间关联模块GTCN的整体结构如下:
Conv→多时间关联模块
其中,输入为卷积层Conv聚合过节点间空间关联的节点信息表示。多时间关联模块GTCN在此基础上对交通流量的时间信息进行建模。为GTCN预测出的未来交通流量数据。
多时间关联模块GTCN的计算可以定义如下:
其中X为DTCN的输入,Y(h-1)为l层的输入。θ1,θ2是卷积核。b和c是需要学习的模型参数。⊙是哈达玛积。g(·)和σ(·)是激活函数。dl=2l-1是扩散步长。我们使用σ(·)控制可以保留多少信息。我们使用空洞卷积扩大时间序列上的感受野,增强了对长时间序列数据建模的能力。
6.根据权利要求1所述的一种基于自适应部分注意力扩散图卷积神经网络的交通流量预测方法,其特征在于:所述步骤5中,在经过步骤4后,已得出三种不同时间周期各自的预测结果,通过结合注意力机制,对三种结果进行加权融合,以达到对时间段数据不同关注的目的。多模组融合的整体结构如下:
Hrecent,Hday,Hweek→多模组融合→h
其中,输入为三种时间周期的数据在经过步骤4GTCN所得出的预测结果,多模组融合通过注意力机制对三种预测结果进行加权融合。得出最终的交通流量预测得分h。
多模组融合的计算过程可以定义如下:
其中Linear为线性层,Concat表示拼接操作。和/>分别代表最近的周期、每天的周期和每周的周期的结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311410220.7A CN117456730A (zh) | 2023-10-27 | 2023-10-27 | 一种基于自适应部分注意力扩散图卷积神经网络的交通流量预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311410220.7A CN117456730A (zh) | 2023-10-27 | 2023-10-27 | 一种基于自适应部分注意力扩散图卷积神经网络的交通流量预测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117456730A true CN117456730A (zh) | 2024-01-26 |
Family
ID=89582994
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311410220.7A Pending CN117456730A (zh) | 2023-10-27 | 2023-10-27 | 一种基于自适应部分注意力扩散图卷积神经网络的交通流量预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117456730A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117688453A (zh) * | 2024-02-02 | 2024-03-12 | 山东科技大学 | 一种基于时空嵌入注意力网络的交通流量预测方法 |
-
2023
- 2023-10-27 CN CN202311410220.7A patent/CN117456730A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117688453A (zh) * | 2024-02-02 | 2024-03-12 | 山东科技大学 | 一种基于时空嵌入注意力网络的交通流量预测方法 |
CN117688453B (zh) * | 2024-02-02 | 2024-04-30 | 山东科技大学 | 一种基于时空嵌入注意力网络的交通流量预测方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112801404B (zh) | 一种基于自适应空间自注意力图卷积的交通预测方法 | |
CN111612206B (zh) | 一种基于时空图卷积神经网络的街区人流预测方法及系统 | |
CN109697852B (zh) | 基于时序交通事件的城市道路拥堵程度预测方法 | |
CN110827546B (zh) | 一种信号交叉口路段短期速度预测方法 | |
CN113313947B (zh) | 短期交通预测图卷积网络的路况评估方法 | |
CN110059581A (zh) | 基于场景深度信息的人群计数方法 | |
CN113792929B (zh) | 交通流量预测方法、电子设备及存储介质 | |
Yan et al. | Spatial-temporal chebyshev graph neural network for traffic flow prediction in iot-based its | |
Zhang et al. | Curb-gan: Conditional urban traffic estimation through spatio-temporal generative adversarial networks | |
CN105354273A (zh) | 一种快速检索高速公路逃费车辆高相似度图像的方法 | |
CN114299723B (zh) | 一种交通流量预测方法 | |
CN115578851A (zh) | 一种基于mgcn的交通预测方法 | |
CN117456730A (zh) | 一种基于自适应部分注意力扩散图卷积神经网络的交通流量预测方法 | |
CN113642403B (zh) | 基于边缘计算的人群异动智能安全检测系统 | |
CN113283581B (zh) | 多融合图网络协同多通道注意力模型及其应用和应用方法 | |
CN114944053A (zh) | 一种基于时空超图神经网络的交通流预测方法 | |
CN114973678B (zh) | 一种基于图注意力神经网络和时空大数据的交通预测方法 | |
CN116307152A (zh) | 时空交互式动态图注意力网络的交通预测方法 | |
Zhang et al. | Off-deployment traffic estimation—a traffic generative adversarial networks approach | |
CN115762147B (zh) | 一种基于自适应图注意神经网络的交通流量预测方法 | |
CN115565370B (zh) | 一种局部时空图卷积交通流量预测方法及系统 | |
CN115565388A (zh) | 基于多通道车辆检测与立体特征标注的交通灯控制方法 | |
Feng et al. | Predicting vacant parking space availability zone-wisely: a densely connected ConvLSTM method | |
Jiang et al. | Vehicle tracking with non-overlapping views for multi-camera surveillance system | |
Xing et al. | GRU‐CNN Neural Network Method for Regional Traffic Congestion Prediction Serving Traffic Diversion Demand |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |