CN115048862A - 一种基于多元传递熵和图神经网络的沥青路面车辙预测方法 - Google Patents

Abstract

本发明涉及一种基于多元传递熵和图神经网络的沥青路面车辙预测方法，包括以下步骤：步骤1：采集历年沥青路面服役性能监测数据及沥青路面使用性能影响因素数据，根据采集到的数据进行分类；步骤2：将车辙以及影响车辙的多个变量的时间序列转化为图形结构，图形的节点数就是变量的个数，边定义为典型变量与待预测变量的因果关系，步骤3：将图中的节点嵌入门循环单元和自注意力机制可以看作是一个预先训练的模型；步骤4：采用基于谱的图神经网络模型，创建多层模型结构对上述步骤得到的变量节点关系图进行训练，输出多步预测序列。该技术方案基于提出了一种基于多元传递熵和图神经网络的车辙预测模型，提高了车辙预测的精度和泛化能力。

Description

一种基于多元传递熵和图神经网络的沥青路面车辙预测方法

技术领域

本发明涉及一种预测方法，具体涉及一种基于多元传递熵和图神经网络的沥青路面车辙预测方法，属于沥青路面使用性能预测技术领域。

背景技术

车辙变形是高等级沥青路面的主要病害之一，不仅会降低高速车辆的舒适性和路面耐久性，还会给车辆在行驶过程中带来潜在的安全隐患。因此，车辙预测是路面结构领域一项极其重要的任务。准确预测沥青路面车辙也是指导沥青路面设计、养护和维修的重要依据。为了获得准确的车辙发展曲线，并建立车辙与影响因素之间的关系，在过去几十年中，人们对车辙试验方法进行了大量的研究。车辙试验方法可分为实验室车辙试验、加速路面试验(APT)和长期路面性能跟踪(LTPP)。全尺寸轨道作为一种典型的APT方法，可用于同时比较多个路面结构和材料性能的时间和空间等效性，已引起许多研究机构和研究人员的注意。因此，许多国家都修建了全尺寸轨道，例如美国的AASHTO轨道、MnROAD轨道和NCAT轨道，法国的IFSTTAR试验轨道，以及南非的HVS轨道。公路运输部轨道研究所(RIOHTrack)于2017年在中国北京成立，旨在研究建立中国新一代长寿命路面设计与施工技术体系。该轨道由多组路面结构组成，并收集了大量现场数据。

发明内容

本发明正是针对现有技术中存在的问题，提供一种基于多元传递熵和图神经网络的沥青路面车辙预测方法。考虑到沥青路面车辙实验数据采集的高成本问题，本发明提供一种基于多元传递熵和图神经网络的沥青路面车辙预测方法，主要由三个模块组成：基于多元传递熵(mTE)的图表示模块、基于GRU-attention的节点嵌入模块和基于GNN的车辙预测模型。

为了实现上述目标，本发明的具体技术方案如下：

步骤1：采集历年沥青路面服役性能监测数据及沥青路面使用性能影响因素数据，根据采集到的数据进行分类；

步骤2：将车辙以及影响车辙的多个变量的时间序列转化为图形结构，图形的节点数就是变量的个数，边定义为典型变量与待预测变量的因果关系，由计算变量之间的传递熵得知；

步骤3：将图中的节点嵌入门循环单元(GRU)和自注意力机制(self-attentionmechanism)。可以看作是一个预先训练的模型；

步骤4：采用基于谱的图神经网络模型，创建多层模型结构对上述步骤得到的变量节点关系图进行训练，输出多步预测序列。

作为本发明的一种改进，步骤1具体如下，采集历年沥青路面服役性能监测数据及沥青路面使用性能影响因素数据，根据采集到的数据进行分类，确定车辙预测模型的输入输出变量，将路面的车辙、弯沉中心值、弯沉盆面积、温度、荷载等数据的时间序列作为模型的输入,输入的时间序列I∈R^n×t,其中n即车辙和其他相关变量的数量，t是每个时间序列的大小，输出关于路面车辙数据的多步预测数据，以便于计算步骤2中各变量对待预测变量的传递熵。

作为本发明的一种改进，步骤2具体如下，将步骤1中的变量n用图结构表示为G＝{V,E},其中V＝{v₁,v₂,…},E＝{e_1,2,e_1,3,…},分别代表变量和变量之间的关系，其中边关系通过计算多元传递熵获得。传递熵是基于信息论和有阶马尔可夫过程提出的一种度量过程间因果关系的非参数统计方法。以信息熵为基础，从条件熵计算而来，信息熵用于测量过程中不确定度的平均水平。给定的一个过程X_t＝x₁,x₂,…,x_t，其信息熵表示为

其中p(x_i)是变量分量x_i的概率，过程中信息量越大，过程的信息熵越大。条件熵是在给定另一个过程X的情况下，表示过程Y中不确定性的一种度量。考虑两个过程X_t＝x₁,x₂,…,x_t和Y_t＝y₁,y₂,…,y_t分别表示时间序列X和Y的历史值。则给定X，Y的条件熵可表示为

则过程X到Y的互信息可以表示为

量化了Y的平均不确定度的减少量。

将X_t＝x_τ-1,x_τ-2,…,x_τ-t和Y_t＝y_τ-1,y_τ-2,…,y_τ-t看作为X和Y的特征过程，则从X_t到Y_t的传递熵可以表示为

其中

是被预测值y_τ与

联合分布的条件熵，

是y_τ和历史序列

的条件熵，k是滑动窗口的大小。传递熵被定义为对于下一步y_τ，变量X_t和历史变量Y_t的信息减少量，传递熵的值已被证明和条件互信息的值相等。

对于多元变量过程X＝X₁,X₂,…,X_n对Y的集体传递熵定义为Y的历史信息、每个元素子集Z(Z∈Xⁿ)的增量贡献以及其他不确定性的总和：

其中

是用以捕捉Y的历史信息的活跃的信息存储；

是一个滑动窗口大小为k的联合向量；

是条件互信息增量的总和，其中每一项都是来自偶然源子集Z^<n到X和Y的信息，这些子集可以定义为

U_Y是Y基于集体传递熵的内在不确定性。引入多元转移熵来捕捉仅通过相互作用表现的因果关系，从而减少冗余环节。此外，还可以通过设置一个阈值，将低于阈值的传递熵设为0，这样可以减少低相关性变量之间的影响，提高方法的泛化能力。

作为本发明的一种改进，步骤3具体如下，利用GRU提取各输入变量的时间特征，将其视为节点嵌入多元传递熵图的表示。GRU的隐藏单元由LSTM单元驱动，通过门机制捕获不同时间序列的依赖关系。给定一个输入的时间序列X＝x₁,x₂,…,x_t以及前一个隐藏状态H＝h₁,h₂,…,h_t-1，则隐藏状态h_t在时间步t定义为

h_t＝Z_t⊙tanh(W_hx_t+U_h(r_t⊙h_t-1)+(1-Z_t⊙h_t-1))

z_t＝σ(W_zx_t+U_zh_t-1)，r_t＝σ(W_rx_t+U_rh_t-1)

其中z_t和r_t分别是更新门和重置门；σ和tanh是逻辑sigmoid函数和正切双曲函数；⊙是指两个矩阵对应元素相乘；W_h、U_h、W_z、U_z、W_r、U_r分别都是可学习的参数。更新门z_t的输出范围是[0,1]，越接近1记忆住的信息则越多。接着使用基于attention-GRU的编码器模块去生成输入时间序列表示为emb_v,v∈G作为嵌入多元传递熵图中的节点。其中编码器在第n步的输出为

其中向量q,k,v是中间矩阵Q，K，V中的时间步的向量表示，指输入时间序列的线性变换，即Q＝W_QX,K＝W_KX,V＝W_KX；α(q_i,k_j)指q_i,k_j在时间步i，j处的相似性。利用均方误差函数(MSE)来用于此模型预训练。利用传递熵来衡量变量的历史数据对待预测变量车辙数据的影响大小，有利于找出关键变量，减少冗余变量的影响。

作为本发明的一种改进，步骤4具体如下，由步骤2和步骤3将输入的多元时间序列转换为具有节点特征的有向图G＝(V,E)。接下来选择基于谱的图神经网络模型，基于谱的GNN通过计算拉普拉斯矩阵的特征分解，在傅里叶域上操作网络的卷积，该矩阵表示网络之间的信息传播。卷积运算是输入x和滤波器g之间的乘积，滤波器g是拉普拉斯矩阵的函数。

y＝g_θ(L)x＝g₈(UΛU^T)x＝Ug_g(Λ)xU^T

其中U是一个矩阵，其列向量是网络拉普拉斯矩阵的单位特征向量，Λ是一个对角矩阵，元素是拉普拉斯矩阵的特征值。图卷积神经网络的传播规则为

其中l是当前层数H^l代表第l层的节点，

W^(l)是可学习的矩阵参数。基于谱的图神经网络模型面临的挑战为拉普拉斯矩阵的不对称性，受到有向图卷积网络模型(DGCN)通过构造对称拉普拉斯矩阵的启发，提出多元传递熵图卷积神经网络(mTEGCN)，基于Perron-Frobenius定理，图的拉普拉斯矩阵为

其中

A是有向图的转移概率矩阵，Φ＝diag(φ)是由P的Perron向量φ构成的对角矩阵。在DGCN中，有向拉普拉斯矩阵的定义是

L^sym＝I-Φ^1/2PΦ^-1/2

其中归一化拉普拉斯算子是对称的。设置多层模型来进行训练，以两层为例，信息传播方式表达为

Y＝W_Y(H)+B_Y

其中

是图的邻接矩阵；

是每个节点在图中的嵌入表示，由节点嵌入模块计算得出；H是DGCN层的输出，W¹和W²是每一层的参数矩阵；Y就是最后的预测值，通过线性变换计算，W_Y和B_Y是参数。所有有向图卷积网络中的参数都由均方误差(MSE)损失函数训练。基于谱的图卷积神经网络能够避免遍历图节点和边信息带来的高时间复杂度，提高了训练的效率。

相对于现有技术，本发明的优点如下，该技术方案基于提出了一种基于多元传递熵和图神经网络的车辙预测模型。利用计算多元传递熵可以更好的衡量变量与待预测变量车辙之间的因果关系，找出关键变量，从而避免冗余变量对待预测变量车辙的影响；引入GRU和self-attention mechanism可以更好的处理各个变量的历史数据对车辙数据的影响，提高了模型的泛化能力；选择基于谱的图卷积神经网络可以避免遍历图节点和边带来的高运算复杂度，提高了模型的运算效率；总体上与传统的统计学、机器学习方法以及深度学习方法相比，提高了车辙预测的精度和泛化能力。

附图说明

图1为RIOHTRACK测试段示意图；

图2为基于多元传递熵和图神经网络的沥青路面车辙预测方法框架图；

图3为RIOHTrack中的19种沥青路面实验结构图；

图4为本发明的整体流程图。

具体实施方式

为了加深对本发明的理解，下面结合附图对本实施例做详细说明。

实施例1：参见图2，一种基于多元传递熵和图神经网络的沥青路面车辙预测方法。所述方法包括以下步骤：

步骤1：采集历年沥青路面服役性能监测数据及沥青路面使用性能影响因素数据，根据采集到的数据进行分类；

步骤2：将车辙以及影响车辙的多个变量的时间序列转化为图形结构，图形的节点数就是变量的个数，边定义为典型变量与待预测变量的因果关系，由计算变量之间的传递熵得知；

步骤3：将图中的节点嵌入门循环单元(GRU)和自注意力机制(self-attentionmechanism)。可以看作是一个预先训练的模型；

步骤4：采用基于谱的图神经网络模型，创建多层模型结构对上述步骤得到的变量节点关系图进行训练，输出多步预测序列。

其中，步骤1具体如下，采集历年沥青路面服役性能监测数据及沥青路面使用性能影响因素数据，根据采集到的数据进行分类，确定车辙预测模型的输入输出变量，将路面的车辙、弯沉中心值、弯沉盆面积、温度、荷载等数据的时间序列作为模型的输入,输入的时间序列I∈R^n×t,其中n即车辙和其他相关变量的数量，t是每个时间序列的大小，输出关于路面车辙数据的多步预测数据。

其中，步骤2具体如下，将步骤1中的变量n用图结构表示为G＝{V,E},其中V＝{v₁,v₂,…},E＝{e_1,2,e_1,3,…},分别代表变量和变量之间的关系，其中边关系通过计算多元传递熵获得。传递熵是基于信息论和有阶马尔可夫过程提出的一种度量过程间因果关系的非参数统计方法。以信息熵为基础，从条件熵计算而来，信息熵用于测量过程中不确定度的平均水平。给定的一个过程X_t＝x₁,x₂,…,x_t，其信息熵表示为

其中p(x_i)是变量分量x_i的概率，过程中信息量越大，过程的信息熵越大。条件熵是在给定另一个过程X的情况下，表示过程Y中不确定性的一种度量。考虑两个过程X_t＝x₁,x₂,…,x_t和Y_t＝y₁,y₂,…,y_t分别表示时间序列X和Y的历史值。则给定X，Y的条件熵可表示为

则过程X到Y的互信息可以表示为

量化了Y的平均不确定度的减少量。

将X_t＝x_τ-1,x_τ-2,…,x_τ-t和Y_t＝y_τ-1,y_τ-2,…,y_τ-t看作为X和Y的特征过程，则从X_t到Y_t的传递熵可以表示为

其中

是被预测值y_τ与

联合分布的条件熵，

是y_τ和历史序列

的条件熵，k是滑动窗口的大小。传递熵被定义为对于下一步y_τ，变量X_t和历史变量Y_t的信息减少量，传递熵的值已被证明和条件互信息的值相等。

对于多元变量过程X＝X₁,X₂,…,X_n对Y的集体传递熵定义为Y的历史信息、每个元素子集Z(Z∈Xⁿ)的增量贡献以及其他不确定性的总和：

其中

是用以捕捉Y的历史信息的活跃的信息存储；

是一个滑动窗口大小为k的联合向量；

是条件互信息增量的总和，其中每一项都是来自偶然源子集Z^<n到X和Y的信息，这些子集可以定义为

U_Y是Y基于集体传递熵的内在不确定性。引入多元转移熵来捕捉仅通过相互作用表现的因果关系，从而减少冗余环节。此外，还可以通过设置一个阈值，将低于阈值的传递熵设为0，这样可以减少低相关性变量之间的影响，提高方法的泛化能力。

其中，步骤3具体如下，利用GRU提取各输入变量的时间特征，将其视为节点嵌入多元传递熵图的表示。GRU的隐藏单元由LSTM单元驱动，通过门机制捕获不同时间序列的依赖关系。给定一个输入的时间序列X＝x₁,x₂,…,x_t以及前一个隐藏状态H＝h₁,h₂,…,h_t-1，则隐藏状态h_t在时间步t定义为

h_t＝Z_t⊙tanh(W_hx_t+U_h(r_t⊙h_t-1)+(1-Z_tOh_t-1))

z_t＝σ(W_zx_t+U_zh_t-1)，r_t＝σ(W_rx_t+U_rh_t-1)

其中z_t和r_t分别是更新门和重置门；σ和tanh是逻辑sigmoid函数和正切双曲函数；⊙是指两个矩阵对应元素相乘；W_h、U_h、W_z、U_z、W_r、W_r分别都是可学习的参数。更新门z_t的输出范围是[0,1]，越接近1记忆住的信息则越多。接着使用基于attention-GRU的编码器模块去生成输入时间序列表示为emb_v,v∈G作为嵌入多元传递熵图中的节点。其中编码器在第n步的输出为

其中向量q,k,v是中间矩阵Q，K，V中的时间步的向量表示，指输入时间序列的线性变换，即Q＝W_QX,K＝W_KX,V＝W_KX；α(q_i,k_j)指q_i,k_j在时间步i，j处的相似性。利用均方误差函数(MSE)来用于此模型预训练。

其中，步骤4具体如下，由步骤2和步骤3将输入的多元时间序列转换为具有节点特征的有向图G＝(V,E)。接下来选择基于谱的图神经网络模型，基于谱的GNN通过计算拉普拉斯矩阵的特征分解，在傅里叶域上操作网络的卷积，该矩阵表示网络之间的信息传播。卷积运算是输入x和滤波器g之间的乘积，滤波器g是拉普拉斯矩阵的函数。

y＝g_θ(L)x＝g₈(UΛU^T)x＝Ug_g(Λ)xU^T

其中U是一个矩阵，其列向量是网络拉普拉斯矩阵的单位特征向量，Λ是一个对角矩阵，元素是拉普拉斯矩阵的特征值。图卷积神经网络的传播规则为

其中l是当前层数H^l代表第l层的节点，

W^(l)是可学习的矩阵参数。基于谱的图神经网络模型面临的挑战为拉普拉斯矩阵的不对称性，受到有向图卷积网络模型(DGCN)通过构造对称拉普拉斯矩阵的启发，提出多元传递熵图卷积神经网络(mTEGCN)，基于Perron-Frobenius定理，图的拉普拉斯矩阵为

其中

A是有向图的转移概率矩阵，Φ＝diag(φ)是由P的Perron向量φ构成的对角矩阵。在DGCN中，有向拉普拉斯矩阵的定义是

L^sym＝I-Φ^1/2PΦ^-1/2

其中归一化拉普拉斯算子是对称的。设置多层模型来进行训练，以两层为例，信息传播方式表达为

Y＝W_Y(H)+B_Y

其中

是图的邻接矩阵；

是每个节点在图中的嵌入表示，由节点嵌入模块计算得出；H是DGCN层的输出，W¹和W²是每一层的参数矩阵；Y就是最后的预测值，通过线性变换计算，W_Y和B_Y是参数。所有有向图卷积网络中的参数都由均方误差(MSE)损失函数训练。

具体实施例：本发明的数据来源于中国第一个全规模环道—RIOHTRACK。如图1所示，环道是一条椭圆形的封闭曲线，分为直线段和圆柱段两段，全长2093米，宽15米。主要试验段设置在直线上，由19种沥青路面结构组成，即STR1-STR19。路面结构按其结构组合可分为7类。这些路面中沥青混凝土结构层的厚度分别为12、18、24、28、36、48(52)m。19种沥青路面的详细结构如图3所示。轨道道路由封闭式拖车装载，每天白天运行12小时，平均速度为40-50km\/h。轨道道路性能测试数据包括实时数据和周期数据。实时数据包括采集结构内部的应力和应变信息、感应车辆轴重以及结构内外的环境监测。从实时数据中选取车辆轴重和表面温度，从周期数据中选取落锤式弯沉仪(FWD)中心点弯沉和FWD弯沉盆面积作为车辙预测的特征。将车辆轴载和路面温度作为影响沥青路面车辙的外部因素，将表征路面材料特性的FWD中心点弯沉和FWD弯沉盆面积作为影响车辙的内部因素。如下表

表1车辙深度和影响因素的详细信息

变量名	变量含义	数值范围	单位
				轴载	车辆轴重	[4.45,7.62]	lg(Ne)
温度	路表温度	[-3.8,32.8]	℃
				弯沉盆深度	落锤式弯沉仪中心点弯沉	[4.34,43.39]	mm
弯沉盆面积	落锤式弯沉仪弯沉盆面积	[51.0,315.4]	mm<sup>2</sup>
				车辙	车辙深度	[6.03,107.8]	mm

首先，将上述变量的数据进行预处理，使其都处于同一个时间序列维度，得到我们预测方法的输入—5个变量的时间序列，可用时间序列的总数是112，将回望窗口的大小设置为12个时间步，按4个时间步滑动，因此时间窗口的数量为25个；紧接着计算这5个变量之间的传递熵，得到一个5×5的传递熵矩阵，将其作为图的边的权重信息；其次利用GRU提取5个变量的时间特征，将5个变量的时间序列作为GRU的输入，使用基于attention—GRU的编码器模块去生成时间序列的嵌入信息，隐藏层数和单元数分别为2和16，注意机制中使用softmax函数作为主动函数，从而选择出关键变量的信息，通过均方误差函数(MSE)来进行参数的调整。最后选择上述提出的mTEGCN中的图神经网络来训练上述得到的图结构，GNN的层数设置为2，每层的卷积核数为1，隐藏单元数为64，通过均方根误差(RMSE)、平均绝对误差(MAE)和决定系数R²来衡量模型的预测性能。最后将前80％的数据用作训练和验证集，最后20％用作测试集。

需要说明的是上述实施例，并非用来限定本发明的保护范围，在上述技术方案的基础上所作出的等同变换或替代均落入本发明权利要求所保护的范围。

Claims (5)

1.一种基于多元传递熵和图神经网络的沥青路面车辙预测方法，其特征在于，所述方法包含以下步骤：

步骤1：采集历年沥青路面服役性能监测数据及沥青路面使用性能影响因素数据，根据采集到的数据进行分类；

步骤2：将车辙以及影响车辙的多个变量的时间序列转化为图形结构，图形的节点数就是变量的个数，边定义为典型变量与待预测变量的因果关系，由计算变量之间的传递熵得知；

步骤3：将图中的节点嵌入门循环单元(GRU)和自注意力机制(self-attentionmechanism)，可以看作是一个预先训练的模型；

步骤4：采用基于谱的图神经网络模型，创建多层模型结构对上述步骤得到的变量节点关系图进行训练，输出多步预测序列。

2.根据权利要求1所述的基于多元传递熵和图神经网络的沥青路面车辙预测方法，其特征在于，步骤1具体如下，采集历年沥青路面服役性能监测数据及沥青路面使用性能影响因素数据，根据采集到的数据进行分类，确定车辙预测模型的输入输出变量，将路面的车辙、弯沉中心值、弯沉盆面积、温度、荷载数据的时间序列作为模型的输入,输入的时间序列I∈R^n×t,其中n即车辙和其他相关变量的数量，t是每个时间序列的大小，输出关于路面车辙数据的多步预测数据。

3.根据权利要求1所述的基于多元传递熵和图神经网络的沥青路面车辙预测方法，其特征在于，步骤2具体如下，将步骤1中的变量n用图结构表示为G＝{V,E},其中V＝{v₁,v₂,…},E＝{e_1,2,e_1,3,…},分别代表变量和变量之间的关系，其中边关系通过计算多元传递熵获得，传递熵是基于信息论和有阶马尔可夫过程提出的一种度量过程间因果关系的非参数统计方法，以信息熵为基础，从条件熵计算而来，信息熵用于测量过程中不确定度的平均水平，给定的一个过程X_t＝x₁,x₂,…,x_t，其信息熵表示为

其中p(x_i)是变量分量x_i的概率，过程中信息量越大，过程的信息熵越大，条件熵是在给定另一个过程X的情况下，表示过程Y中不确定性的一种度量，考虑两个过程X_t＝x₁,x₂,…,x_t和Y_t＝y₁,y₂,…,y_t分别表示时间序列X和Y的历史值，则给定X，Y的条件熵表示为

则过程X到Y的互信息可以表示为

量化了Y的平均不确定度的减少量；

将X_t＝x_τ-1,x_τ-2,…,x_τ-t和Y_t＝y_τ-1,y_τ-2,…,y_τ-t看作为X和Y的特征过程，则从X_t到Y_t的传递熵可以表示为

其中

是被预测值y_τ与

联合分布的条件熵，

是y_τ和历史序列

的条件熵，k是滑动窗口的大小，传递熵被定义为对于下一步y_τ，变量X_t和历史变量Y_t的信息减少量，传递熵的值已被证明和条件互信息的值相等，对于多元变量过程X＝X₁,X₂,…,X_n对Y的集体传递熵定义为Y的历史信息、每个元素子集Z(Z∈Xⁿ)的增量贡献以及其他不确定性的总和：

其中

是用以捕捉Y的历史信息的活跃的信息存储；

是一个滑动窗口大小为k的联合向量；

是条件互信息增量的总和，其中每一项都是来自偶然源子集Z^<n到X和Y的信息，这些子集可以定义为

U_Y是Y基于集体传递熵的内在不确定性，引入多元转移熵来捕捉仅通过相互作用表现的因果关系，从而减少冗余环节，通过设置一个阈值，将低于阈值的传递熵设为0。

4.根据权利要求1所述的基于多元传递熵和图神经网络的沥青路面车辙预测方法，其特征在于，步骤3具体如下，利用GRU提取各输入变量的时间特征，将其视为节点嵌入多元传递熵图的表示，GRU的隐藏单元由长短时间记忆(LSTM)单元驱动，通过门机制捕获不同时间序列的依赖关系，给定一个输入的时间序列X＝x₁,x₂,…,x_t以及前一个隐藏状态H＝h₁,h₂,…,h_t-1，则隐藏状态h_t在时间步t定义为

h_t＝z_t⊙tanh(W_hx_t+U_h(r_t⊙h_t-1)+(1-z_t⊙h_t-1))

z_t＝σ(W_zx_t+U_zh_t-1),r_t＝σ(W_rx_t+U_rh_t-1)

其中z_t和r_t分别是更新门和重置门；σ和tanh是逻辑sigmoid函数和正切双曲函数；⊙是指两个矩阵对应元素相乘；W_h、U_h、W_z、U_z、W_r、U_r分别都是可学习的参数，更新门z_t的输出范围是[0,1]，越接近1记忆住的信息则越多，接着使用基于attention-GRU的编码器模块去生成输入时间序列表示为emb_v,v∈G作为嵌入多元传递熵图中的节点，其中编码器在第n步的输出为

其中向量q,k,v是中间矩阵Q，K，V中的时间步的向量表示，指输入时间序列的线性变换，即Q＝W_QX,K＝W_KX,V＝W_KX；α(q_i,k_j)指q_i,k_j在时间步i，j处的相似性，利用均方误差函数(MSE)来用于此模型预训练。

5.根据权利要求1所述的基于多元传递熵和图神经网络的沥青路面车辙预测方法，其特征在于，步骤4具体如下，由步骤2和步骤3将输入的多元时间序列转换为具有节点特征的有向图G＝(V,E)，选择基于谱的图神经网络模型，基于谱的GNN通过计算拉普拉斯矩阵的特征分解，在傅里叶域上操作网络的卷积，该矩阵表示网络之间的信息传播，卷积运算是输入x和滤波器g之间的乘积，滤波器g是拉普拉斯矩阵的函数，

y＝g_θ(L)x＝g_θ(UΛU^T)x＝Ug_θ(Λ)xU^T

其中U是一个矩阵，其列向量是网络拉普拉斯矩阵的单位特征向量，Λ是一个对角矩阵，元素是拉普拉斯矩阵的特征值，图卷积神经网络的传播规则为

其中l是当前层数H^l代表第l层的节点，

W^(l)是可学习的矩阵参数，基于Perron-Frobenius定理，图的拉普拉斯矩阵为

其中

A是有向图的转移概率矩阵，Φ＝diag(φ)是由P的Perron向量φ构成的对角矩阵，在DGCN中，有向拉普拉斯矩阵的定义是

L^sym＝I-Φ^1/2PΦ^-1/2

其中归一化拉普拉斯算子是对称的，设置多层模型来进行训练，信息传播方式表达为

Y＝W_Y(H)+B_Y

其中

是图的邻接矩阵；

是每个节点在图中的嵌入表示，由节点嵌入模块计算得出；H是DGCN层的输出，W¹和W²是每一层的参数矩阵；Y就是最后的预测值，通过线性变换计算，W_Y和B_Y是参数，所有有向图卷积网络中的参数都由均方误差(MSE)损失函数训练。

Images