CN116070778A - 一种基于多尺度空间特征挖掘的交通流量预测方法 - Google Patents

一种基于多尺度空间特征挖掘的交通流量预测方法 Download PDF

Info

Publication number
CN116070778A
CN116070778A CN202310191458.9A CN202310191458A CN116070778A CN 116070778 A CN116070778 A CN 116070778A CN 202310191458 A CN202310191458 A CN 202310191458A CN 116070778 A CN116070778 A CN 116070778A
Authority
CN
China
Prior art keywords
time
layer
model
space
feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310191458.9A
Other languages
English (en)
Inventor
白鑫珂
宋云
邓泽林
范文东
杨选正
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hubei Wujing Expressway Development Co ltd
Changsha University of Science and Technology
Original Assignee
Hubei Wujing Expressway Development Co ltd
Changsha University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hubei Wujing Expressway Development Co ltd, Changsha University of Science and Technology filed Critical Hubei Wujing Expressway Development Co ltd
Priority to CN202310191458.9A priority Critical patent/CN116070778A/zh
Publication of CN116070778A publication Critical patent/CN116070778A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/40—Business processes related to the transportation industry
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/01—Detecting movement of traffic to be counted or controlled
    • G08G1/0104—Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0125—Traffic data processing
    • G08G1/0129—Traffic data processing for creating historical data or processing based on historical data
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Strategic Management (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • General Business, Economics & Management (AREA)
  • Mathematical Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • Marketing (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • Tourism & Hospitality (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Development Economics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Operations Research (AREA)
  • Game Theory and Decision Science (AREA)
  • Quality & Reliability (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Primary Health Care (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明提出了一种基于多尺度空间特征挖掘的交通流量预测方法。该方法引入多尺度空间关系捕捉和依赖于注意力机制的空间关联权重模型来抓取交通流中全方位的空间依赖关系。该方法通过时间卷积网络和图卷积门控机制来逐级扩充模型的时空特征提取能力，充分提取历史交通时空流中的关联特征关系。在预测问题的求解过程中，通过层级间的图卷积网络操作提取空间特征，采用不同层级的图卷积网络构建多尺度的空间关系，建模随时间变化的空间关系。最后，通过注意力机制将逐层隐藏特征进行聚合，从全局特征的角度建模历史时空特征，从而更加精准地预测未来的交通状况。

Description

一种基于多尺度空间特征挖掘的交通流量预测方法
技术领域
本发明涉及一种基于多尺度空间特征挖掘的交通流量预测方法
技术背景
智慧交通是城市智能化发展建设过程中的重要组成部分，交通流量预测(trafficflow predication)作为智慧交通系统的底层构件，近年来成为研究的热点方向。借助于深度学习技术发展所带来的时空特征分析工具，交通预测的准确性在近年来有了跨越式的提升。此类方法不仅可以通过构建模型在高维特征空间中抓取交通流的时间和空间特征，而且可以进一步通过多组件协同来对时空关联同时抓取，从而进一步提高历史数据之间隐含关联的挖掘能力，更加精准的做出对未来时段的交通状况的预测。
交通预测问题具体的可做出如下定义：
Figure BDA0004105659830000011
其中
Figure BDA0004105659830000012
表示历史交通数据，其中This表示选取的历史侦测时间序列的时间片数量，N表示侦测的交通节点数，F表示历史数据的特征维度。Φ表示在交通预测过程中所使用的额外附加信息，如某一时刻的天气状况，侦测节点的道路车道数等。f(*)表示预测模型，其根据历史交通数据和额外的附加信息来生成未来时段的预测交通状况
Figure BDA0004105659830000013
Tpre表示预测的时间长度，F′表示预测的特征维度。
交通流量的预测不但需要考虑单一节点上交通流随时间的变化趋势，也要对节点之间的相互影响进行建模，因此是一类典型的多元时间序列预测问题。同时，序列的预测问题是一类典型的回归问题，即通过分析历史数据的时空特征来拟合预测时间多节点交通变化曲线。因此为尽可能优化模型性能，模型的训练过程即为寻找能够是预测结果和真实未来时段交通状况相匹配的模型参数，使预测和真实未来交通状况之间的误差尽可能小，因此预测问题转化为了对损失函数(Loss Function)的优化问题，等价于如下公式：
Figure BDA0004105659830000014
其中Opimizer(·)表示优化过程,Loss(·)表示损失函数。深度学习的训练过程主要分为前向传播和反向传播两者过程，前向传播过程即根据模型的架构和参数和输入的历史数据生成预测结果，在传播过程中模型会记录每个参数执行的运算步骤从而在损失函数计算出误差后来计算梯度从而执行反向传播过程使模型朝着最小化误差的方向收敛到全局最优解。目前常用的反向传播算法主要包括随机梯度下降(Stochastic GradientDescent,SGD)，冲量法(momentum method)，Adam以及AdamW等。
本发明实施例是提供一种多尺度空间特征挖掘的交通流量预测方法，根据交通流随时间变化的特征来建模节点间的多尺度空间关系，进而提高模型预测的精确性，为智慧交通系统的构建提供坚实底层模块。
发明内容：
本发明解决上述问题的方案如下：一种基于多尺度空间特征挖掘的交通流量预测方法，其特征在于：在交通流量预测中引入多尺度空间特征提取模块，利用基于时间卷积网络(Temporal Convolution Network,TCN)的基础上，逐层且依照交通时空特征沿时间轴顺序增添不同适度的图卷积网络(Graph Convolution Network，GCN)来提取交通流中隐含时空特征，同时为增引入自注意力机制(Self-attention mechanism)和残差网络来提升模型对全局时空特征的感知能力。
模型架构以时间卷积网络作为主体，每层时间卷积层的操作可抽象为如下操作:
Figure BDA0004105659830000021
其中
Figure BDA0004105659830000022
为时间卷积第l层的特征序列，Conv(*)k表示卷积核大小为k的1维时间卷积，LayerNormal为层归一化操作，LeakyReLU为激活函数。T表示第l层特征序列的长度，c表示时空特征的特征通道数。第一层输入为Xh，即原始交通时空序列。
为在特征提取的过程中能够提取到交通侦测节点之间的相互作用关系即节点间的空间关联，模型在时间卷积层之上设计了多尺度空间特征提取模块用来抓取节点间的空间关系。首先，模型多尺度空间特征提取模块采用多组不同层数GCN构建块组成，每个GCN构建块包含两层GCN和一个GLU操作具体如下：
Figure BDA0004105659830000023
其中
Figure BDA0004105659830000024
为模型第l层的第i个时间片上的GCN构建块的输出。tanh为双曲正切函数，LeakyReLU操作中α为调整操作数x在小于等于0时的斜率调整系数。
Figure BDA0004105659830000025
是第l层的第i个时间片上的交通特征，通过在时间轴上根据顺序来堆叠不同数量的GCN构建块，解除了单层GCN仅能够捕获邻接节点之间空间关联的限制。同时，本方法根据历史数据所处的时间位置来确定图卷积的层数，为规避多层图卷积所带来的过度平滑问题在每个构建块中使用了残差连接。通过将多尺度空间特征提取模块的输出沿时间方向进行拼接得到：
Figure BDA0004105659830000031
Figure BDA0004105659830000032
即模型第l层多尺度空间特征提取模块的输出。
上述过程的GCN操作使用图傅里叶变换将原始的图节点信息从空间域转换到谱域来进行卷积运算从而聚合节点之间的空间信息：
Figure BDA0004105659830000033
其中
Figure BDA00041056598300000314
为可学习的参数，X为图结构数据。
Figure BDA0004105659830000034
为傅里叶偏置，是归一化图拉普拉斯算子
Figure BDA0004105659830000035
的特征向量矩阵。
Figure BDA0004105659830000036
是单位矩阵，
Figure BDA0004105659830000037
是对角度矩阵，其中Dii＝∑jAij。A是表示图节点间关系的邻接矩阵。
Figure BDA0004105659830000038
是L的特征值对角矩阵。由于上述计算过程中需要计算出图拉普拉斯矩阵的特征值，这一过程的计算时间复杂度为O(n2)，因此引入切比雪夫多项式来降低式(4)的复杂度：
Figure BDA0004105659830000039
其中λmax为拉普拉斯矩阵L的最大特征值，
Figure BDA00041056598300000310
表示缩放拉普拉斯矩阵。
模型通过节点嵌入来从时空数据中自适应学习节点的向量表征形式从而生成邻接矩阵用以执行图卷积操作。具体如下：
Figure BDA00041056598300000311
其中
Figure BDA00041056598300000312
表示节点嵌入矩阵，e为节点嵌入的维数，一般根据式(7)的方式进行选取。
Figure BDA00041056598300000313
为根据节点嵌入生成的节点邻接矩阵。
e＝min{e|2e≥N}  (9)
更进一步，对于多尺度空间特征提取得到的时空特征矩阵，一方面直接将其直接进行LayerNormal和激活函数操作，同时引入自注意力机制来提取全局时空特征作为残差连接，具体操作如下：
Figure BDA0004105659830000041
Figure BDA0004105659830000042
Figure BDA0004105659830000043
Figure BDA0004105659830000044
其中XQ,XK以及XV是模型中每一层中图卷积结果序列Xst经过线性变换之后得到的结果，对应自注意力机制中的Query,Key以及Value向量。W′Ql,W′Kl以及W′Vl是对应的显性变换矩阵。之后将XQ和XK执行缩放点积后执行Softmax(*)操作得到注意力分，然后将该注意力分和XV相乘得到最终结果
Figure BDA0004105659830000045
Tl为模型中每一层输出的时空序列长度。同时多头机制进一步扩展了模型的时间特征提取能力：
Figure BDA0004105659830000046
whereheadi＝Attention(Qi,Ki,Vi)
Xaal即为多头自注意力机制模块的输出，其中Qi,Ki和Vi是第i个注意力头部所对应的Query，Key和Value。
通过堆叠固定层数的上述时间卷积层，交通时空序列的时空特征经过聚合来生成预测目标时段的交通数据。预测时段结果按照期望的时间片间隔来进行生成，在预测时段的模型首层输入为上一时刻的预测值，按照所需的序列长度来进行迭代生成最终的预测序列。
严格按照时间顺序来进行迭代预测在没有真实交通数据作为支撑的基础上容易出现误差累积效应，即随着预测步长的增加误差也会随之增大。为减弱该效应在预测阶段的不利影响，对应预测阶段的残差连接均采用历史交通特征中生成Xt+1时刻交通特征时的中间时空特征矩阵来进行运算。
本发明的有益之处在于：本发明所述的一种基于多尺度空间特征挖掘的交通流量预测方法，该方法首先将历史交通流数据转化为模型处理所需的形式，通过堆叠多层多尺度时空卷积来进行对交通流中暗含的时空特征进行提取，在每一层时空特征提取层中，首先利用时间卷积网络(TCN)来进行时间特征的提取。之后使用依照时间片顺序进行的多尺度图卷积空间特征提取模块来提取不同邻域感知范围的空间特征。在此之后，引入自注意力机制来获取非局部特征并将局部特征和非局部特征相融合来生成该层最终的时空特征矩阵。在模型的预测阶段，我们使用特征提取阶段对应时空特征提取层的自注意力机制模块生成的特征来规避误差累积效应从而做出更为精准的预测。
在上述技术方案的基础上，本发明还可作如下改进
由于不同时刻所对应节点间空间关联不同，因此可在不同的时空模块和多尺度空间特征提取模块中使用不同的邻接矩阵来建模节点之间的空间关联。即在空间特征提取模块中增添一个线性层来将不同的层级以及不同时间片上的层级进行映射，从而达到分时分块建模的目标，具体如下：
Figure BDA0004105659830000051
Figure BDA0004105659830000052
即为每层时空特征提取块上对应时间片使用的空间关系邻接矩阵。该方法使用了多个全连接网络来匹配不同层级以及不同时间片上的空间特征，使模型的训练参数数量急剧增加，因此可将其中的全连接线性网络替换为1×1卷积进行升维操作，按照每层序列长度生成特定的邻接矩阵用以表征在不同时刻的空间相关性。
Figure BDA0004105659830000053
Figure BDA0004105659830000054
表示对应每一层的节点空间邻接矩阵的集合，CT表示集合中的邻接矩阵个数。CT的值和该层要处理的序列长度相同。然后在每层上使用对应时间片的邻接矩阵来进行多尺度空间特征提取，进一步强化模型对空间特征的感知。
附图说明:
图1为本发明涉及的一种基于多尺度空间特征挖掘的交通流量预测方法的结构图。
图2为本发明设计的一种基于多尺度空间特征挖掘的交通流量预测方法的流程总图。
图3为本发明采用的时间空卷积中分层操作中每一层的内部操作流程图。
具体实施方式
以下结合附图并对本发明的原理和特征进行描述，所举实例只用于解释本发明，并非用于限定本发明的范围。
图1为本发明涉及的一种基于多尺度空间特征挖掘的交通流量预测方法的结构图；图2为本发明设计的一种基于多尺度空间特征挖掘的交通流量预测方法的流程总图；图3为本发明采用的时间空卷积中分层操作中每一层的内部操作流程图。如图2，3所示，一种基于多尺度空间特征挖掘的交通流量预测方法的具体步骤如下：
由用户提供具体的原始交通时空特征数据
步骤一：首先将原始交通序列规整化为一个时空特征序列矩阵，对多元交通侦测节点上的序列数据进行对齐，然后进行正规化等预处理操作生成一组空间特征值矩阵
Figure BDA0004105659830000061
其中N表示侦测数据的交通节点总数，T表示总时间片数，F表示交通特征维度，即
Figure BDA0004105659830000062
Figure BDA0004105659830000063
将该组时空特征作为模型处理的初始多元时空特征序列。
步骤二：将获取到的多元时空特征序列送入到第一层线性层进行升维，扩张数据的信息表征维度得到高维特征矩阵
Figure BDA0004105659830000064
其中Ch表示升维后的特征维度。
步骤三：将模型送入时间卷积层来提取时间特征。然后提取后的时间序列的长度来生成对应的多尺度空间特征图卷积模块。根据图卷积中拉普拉斯矩阵的性质可知，在执行多次图卷积后可以聚合N阶邻居的空间特征，且相隔越久的时间片其所需聚合的空间邻居就越远，因此模型随时间逐个增加图卷积块的个数来进行空间特征的聚合。在最靠近预测目标时段的高维时间特征上使用一层图卷积块来进行空间特征的提取，每个图卷积块包含两层如卷积和一个残差连接，表征如下：
Figure BDA0004105659830000065
其中
Figure BDA0004105659830000066
表示模型第l层提取到的时空特征，
Figure BDA0004105659830000067
表示模型第l层的时间卷积的结果。在多尺度空间特征提取过程中上述运算过程会随时间片所处时间序列的位置来进行多次迭代从而生成该层最终的时空特征表示。
步骤四：时间卷积网络在每次聚合相邻时间片上的交通时间特征，因此能够有效聚合局部时间特征。为从全局视角观测交通特征的演化，在多尺度空间卷积层后模型采用自注意力机制来直接从时间特征全局来对交通流随时间演化的模式进行建模，其操作如下：
Figure BDA0004105659830000068
Figure BDA0004105659830000069
Figure BDA00041056598300000610
Figure BDA00041056598300000611
其中XQ,XK和XV分别表征自注意力机制中的Query，Key以及Calue矩阵，Ch为运算过程中的特征通道数。然后通过多头注意力机制来扩充模型的特征提取能力：
Figure BDA00041056598300000612
whereheadi＝Attention(Qi,Ki,Vi)
Xaal即为多头自注意力机制生成的结果，其中包含非局部时间特征。通过上述操作所提取到的时空特征包含局部和非局部的时间特征以及多尺度的空间特征，因此能够较好表征交通流量的特性。
在模型的每一层中，我们使用残差连接将注意力机制和每层得到的时空特征相融合，以进一步提高模型的非线性表达能力和时空特征提取能力，其可表达为如下：
Figure BDA0004105659830000071
其中
Figure BDA0004105659830000072
即为模型中每一层的输出，在特征提取阶段模型通过堆叠多层来提取交通流的时空特征。
步骤五：预测阶段模型的构建方式和特征提取阶段相同。该阶段通过迭代的方式生成最终的预测序列，模型通过每次迭代来生成未来时间片的预测值，同时该预测值将作为下一时刻预测的输入。同时为了避免误差的累积效应，模型在预测阶段不执行自注意力机制来提取全局特征，而是借用特征提取阶段最后一个自注意力模块生成的时空特征来构建预测值。通过设定所需的预测目标序列长度，最终生成满足需求的预测序列
Figure BDA0004105659830000073
其中Tp为预测序列长度，Cp为预测的特征通道数。
以上所述仅为本发明的较佳实施例子，并不用以限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护之内。

Claims (2)

1.一种基于多尺度空间特征挖掘的交通流量预测方法，其特征在于：在交通流量预测中引入多尺度空间特征提取模块，利用基于时间卷积网络的基础上，逐层且依照交通时空特征沿时间轴顺序增添不同适度的图卷积网络来提取交通流中隐含时空特征，同时为增引入自注意力机制和残差网络来提升模型对全局时空特征的感知能力。
模型架构以时间卷积网络作为主体，每层时间卷积网络的操作可抽象为如下操作：
Figure FDA0004105659820000011
其中
Figure FDA0004105659820000012
为时间卷积第l层的特征序列，Conv(*)k表示卷积核大小为k的1维时间卷积，LayerNormal为层归一化操作，LeakyReLU为激活函数。T表示第l层特征序列的长度，c表示时空特征的特征通道数。第一层输入为Xh，即原始交通时空序列。
多尺度空间特征提取模块采用多组不同层数GCN构建块组成，每个GCN构建块包含两层GCN和一个GLU操作具体如下：
Figure FDA0004105659820000013
其中
Figure FDA0004105659820000014
为模型第l层的第i个时间片上的GCN构建块的输出。tanh为双曲正切函数，LeakyReLU操作中α为调整操作数x在小于等于0时的斜率调整系数。
Figure FDA0004105659820000015
是第l层的第i个时间片上的交通特征。
通过将多尺度空间特征提取模块的输出沿时间方向进行拼接得到：
Figure FDA0004105659820000016
Figure FDA0004105659820000017
即模型第l层多尺度空间特征提取模块的输出。引入切比雪夫多项式来执行GCN操作：
Figure FDA0004105659820000018
其中λmax为拉普拉斯矩阵L的最大特征值，
Figure FDA0004105659820000019
表示缩放拉普拉斯矩阵。
通过节点嵌入来从时空数据中自适应学习节点的向量表征形式，生成邻接矩阵用以执行图卷积操作。具体如下：
Figure FDA0004105659820000021
其中
Figure FDA0004105659820000022
表示节点嵌入矩阵，e为节点嵌入的维数，一般根据式(7)的方式进行选取。
Figure FDA0004105659820000023
为根据节点嵌入生成的节点邻接矩阵。
e＝min{e|2e≥N}    (6)
多元空间特征提取模块的最终输出
Figure FDA0004105659820000024
在每层空间特征提取到局部时间特征和多尺度空间特征Xsl之后，采用自注意力机制来提取模型的非局部时间相关性，具体步骤如下：
Figure FDA0004105659820000025
其中XQ,XK以及XV是模型中每一层中图卷积结果序列Xst经过线性变换之后得到的结果，对应自注意力机制中的Query,Key以及Value向量，W′Ql,W′Kl以及W′Vl是对应的显性变换矩阵。之后将XQ和XK执行缩放点积后执行Softmax(*)操作得到注意力分，然后将该注意力分和XV相乘得到最终结果
Figure FDA0004105659820000026
Tl为模型中每一层输出的时空序列长度。同时多头机制进一步扩展了模型的时间特征提取能力：
Figure FDA0004105659820000027
Xaal即为多头自注意力机制模块的输出，其中Qi,Ki和Vi是第i个注意力头部所对应的Query，Key和Value。
在模型的每一层中使用残差连接将注意力机制和每层得到的时空特征相融合提高模型的非线性表达能力和时空特征提取能力，其可表达为如下：
Figure FDA0004105659820000028
其中
Figure FDA0004105659820000029
即为模型中每一层的输出，在特征提取阶段模型通过堆叠多层时空特征提取层来提取交通流的时空特征。
2.根据权利要求1所述的一种基于多尺度空间特征挖掘的交通流量预测方法，其特征在于，上述过程描述了模型的特征提取过程，模型的预测过程中每层的搭建方式与特征提取过程的不同之处在于，为避免为了避免误差的累积效应，模型在预测阶段不执行自注意力机制来提取全局特征，而是借用特征提取阶段最后一个自注意力模块生成的时空特征来构建预测值。
模型的预测过程采用迭代的方式进行，每层仍有时间卷积层，多尺度空间特征提取层。在每层对应的自注意力机制和多尺度空间特征提取模块生成的当前局部时间特征
Figure FDA0004105659820000031
即当前预测的某一时间片上，模型使用特征提取阶段对应层数
Figure FDA0004105659820000032
中最后一个时间片上的数据与之相加从而在预测阶段引入无预测误差的时空特征。
在通过多次迭代后，模型生成预测多元时间序列
Figure FDA0004105659820000033
其中Tp为预测序列长度，Cp为预测的特征通道数。
CN202310191458.9A 2023-03-02 2023-03-02 一种基于多尺度空间特征挖掘的交通流量预测方法 Pending CN116070778A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310191458.9A CN116070778A (zh) 2023-03-02 2023-03-02 一种基于多尺度空间特征挖掘的交通流量预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310191458.9A CN116070778A (zh) 2023-03-02 2023-03-02 一种基于多尺度空间特征挖掘的交通流量预测方法

Publications (1)

Publication Number Publication Date
CN116070778A true CN116070778A (zh) 2023-05-05

Family

ID=86174976

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310191458.9A Pending CN116070778A (zh) 2023-03-02 2023-03-02 一种基于多尺度空间特征挖掘的交通流量预测方法

Country Status (1)

Country Link
CN (1) CN116070778A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117114192A (zh) * 2023-08-29 2023-11-24 淮阴工学院 基于多尺度时空图变换网络的海上风电功率预测方法及装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117114192A (zh) * 2023-08-29 2023-11-24 淮阴工学院 基于多尺度时空图变换网络的海上风电功率预测方法及装置

Similar Documents

Publication Publication Date Title
CN110851782A (zh) 一种基于轻量级时空深度学习模型的网络流量预测方法
CN114818515A (zh) 一种基于自注意力机制和图卷积网络的多维时序预测方法
CN112070277B (zh) 基于超图神经网络的药物-标靶相互作用预测方法
CN109741364B (zh) 目标跟踪方法及装置
CN113852432B (zh) 基于rcs-gru模型的频谱预测感知方法
CN112949828A (zh) 一种基于图学习的图卷积神经网络交通预测方法及系统
CN115953900A (zh) 一种基于多维度时间和空间依赖挖掘的交通流量预测方法
Huan et al. Efficient algorithm for training interpolation RBF networks with equally spaced nodes
CN113190688A (zh) 基于逻辑推理和图卷积的复杂网络链接预测方法及系统
CN116070778A (zh) 一种基于多尺度空间特征挖掘的交通流量预测方法
CN113469891A (zh) 一种神经网络架构搜索方法、训练方法、图像补全方法
CN115018193A (zh) 基于lstm-ga模型的时间序列风能数据预测方法
CN114124734B (zh) 一种基于GCN-Transformer集成模型的网络流量预测方法
CN116596109A (zh) 一种基于门控时间卷积网络的交通流预测模型
CN115376317A (zh) 一种基于动态图卷积和时序卷积网络的交通流预测方法
Loni et al. Densedisp: Resource-aware disparity map estimation by compressing siamese neural architecture
CN112562312B (zh) 一种基于融合特征的GraphSAGE交通路网数据预测的方法
Xu et al. Multi‐Dimensional Attention Based Spatial‐Temporal Networks for Traffic Forecasting
CN116386312A (zh) 一种交通量预测模型的构建方法和系统
Zhang et al. A hierarchical tensor error correction GRU model
CN114970336A (zh) 一种基于改进GCN-attention算法的交通流预测方法
CN114169493B (zh) 基于尺度感知神经架构搜索的多变量时间序列预测方法
Jeong et al. Aerodynamic optimization design with Kriging model
CN114004421B (zh) 一种基于时空集成学习的交通数据缺失值插补方法
CN115359654B (zh) 流量预测系统的更新方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination