CN113537580A - 一种基于自适应图学习的公共交通客流预测方法及系统 - Google Patents

Abstract

本发明公开了一种基于自适应图学习的公共交通客流预测方法及系统，该方法通过构造图学习模块来生成可能的关系矩阵，然后以交替训练的方式来优化图学习模块和预测网络模块的可学习参数，在以一方为最优估计的情况下实现另一方的期望最大化，最终得到最优的关系矩阵；然后基于最优的关系矩阵对公共交通客流进行预测。本发明能够从城市公共交通客流数据中自适应学习其隐藏的复杂空间依赖关系，使得网络预测模型中的关系矩阵更加合理可靠，从而能够进一步提升客流量预测的准确性。

Description

一种基于自适应图学习的公共交通客流预测方法及系统

技术领域

本发明涉及一种基于自适应图学习的公共交通客流预测方法及系统，属于公共交通管理技术领域。

背景技术

公共交通客流具有较大波动，如果能提前预测客流信息，能为公交车辆调度提供决策依据，有利于提高公共交通运行效率、改善城市交通环境。

随着深度学习算法的广泛应用，基于图神经网络的时空模型在公共交通客流预测任务中取得了显著的效果，已经成为当前研究热点。然而，实际公共交通路网的拓扑结构错综复杂，节点间的依赖关系难以准确量化，这为构建可靠有效的关系图带来了极大的挑战。在当前阶段，基于图神经网络的时空预测网络模型往往存在两大缺陷：其一，实际路网的结构一般是不确定的，而预定义的关系矩阵依赖于专家经验且不够准确，这会阻碍网络对数据空间特征的提取；其二，对于包含图学习模块的网络模型，端到端的训练无法较好地引导参数的学习方向，这使得生成的图结构意义不明确，对预测性能的提升也十分有限。这是因为，对于除图学习模块外的其它网络模块，其可参数训练依赖于准确的图结构，而对于图学习模块，其对图结构的适应性学习又依赖于其它模块的有效性，最终导致两者可训练参数的优化方向难以控制，无法保证可靠的性能提升。

发明内容

本发明的目的在于提供一种基于自适应图学习的公共交通客流预测方法及系统，

为达到上述目的，本发明采用的技术方案如下：

本发明提供一种基于自适应图学习的公共交通客流预测方法，包括：

基于当前关系矩阵，训练预测网络，得到预测网络的最优参数；所述预测网络以公交线路历史客流量为输入，以公交线路未来预测时段的客流量为输出；所述关系矩阵是指描述公交线路之间关系类型的邻接矩阵构成的矩阵，邻接矩阵为关系矩阵的一个子图；

基于当前关系矩阵和当前图学习模块学习参数，生成新的邻接矩阵；

基于训练后的预测网络最优参数和生成的新的邻接矩阵对公交线路客流量进行预测，并计算新的预测误差；

基于新的预测误差，新的邻接矩阵及当前关系矩阵对图学习模块进行训练，得到图学习模块最优学习参数，并以此更新当前图学习模块学习参数；

基于新的邻接矩阵，更新当前关系矩阵，再次训练预测网络；

以此循环，迭代训练，直至达到结束条件，得到最优的关系矩阵；

基于最优的关系矩阵采用训练好的预测网络对公交线路客流量进行预测。

进一步的，采用公交线路客流量分布的Spearman相关系数表示描述公交线路之间关系类型的邻接矩阵。

进一步的，所述预测网络采用扩散卷积递归神经网络，基于注意力的时空卷积网络或时态图卷积网络。

进一步的，所述训练预测网络，包括：

基于当前关系矩阵及公交线路历史客流量，采用预测网络对未来预测时段客流量进行预测，得到：

其中，

为公交线路客流量预测值，P为预测模型，X为输入的公交线路历史客流量，Θ为预测网络参数；

基于预测结果计算预测损失：

其中，

为预测损失，Y为公交线路客流量真实值，|·|₁为L1损失函数；

采用Adam优化算法和预测损失训练预测网络，得到最优的预测网络参数。

进一步的，所述基于当前关系矩阵和当前图学习模块学习参数，生成新的邻接矩阵，包括：

其中，A_new为生成的新的邻接矩阵，A为当前关系矩阵，D₁,D₂为对角矩阵，

为对角矩阵D₁对角线上的元素，

为对角矩阵D₂对角线上的元素，

Λ∈R^N为图学习模块学习参数，N为公交线路个数，F₀为预定义维度，Diag(Λ)为Λ的对角化矩阵，∈∈(0,1)为超参数，ReLU为线性整流函数，

当前关系矩阵表示为：

其中，A_k为第k种关系类型对应的邻接矩阵，每个邻接矩阵为关系矩阵的一个子图，N_r为子图的数量。

进一步的，所述基于新的预测误差，新的邻接矩阵及当前关系矩阵对图学习模块进行训练，包括：

基于新的预测误差，新的邻接矩阵及当前关系矩阵计算图损失：

ΔA＝ReLU[Π(A_new)-Π(A)]；

其中，

为图损失，

为新的预测误差，δ为超参数，ΔA(ⁱ,j)为矩阵ΔA中第i行第j列元素，Π(·)为指示函数；

采用Adam优化算法和图损失训练图学习模块，得到最优的图学习模块学习参数M₁,M₂,Λ。

进一步的，所述更新当前关系矩阵，包括：

将新的邻接矩阵加入到当前关系矩阵中，

计算所有子图的预测损失：

l_k＝L_R[P(X|A_k,Θ),Y]；

其中，L_k为第k个子图的预测损失，P为预测网络的预测模型，

通过softmax函数计算权重向量w＝(w₁,w₂,…,w_Nr')^T，如下所示：

w＝softmax(L_max-L)；

其中，L为预测损失向量，L＝(L₁,L₂,…,L_Nr')^T，L_i为第i个子图的预测损失，L_max为最大损失值，L_max＝max_1≤i≤Nr'L_i，Nr'为加入新的邻接矩阵后的子图个数，

通过加权求和的方式来更新当前关系矩阵，如下：

其中，A^*为更新后的当前关系矩阵，D为对角矩阵，D^(i,i)为对角矩阵D中第i个对角位置的元素。

进一步的，采用早停法停止迭代训练，

结束条件为：当连续5轮迭代的预测误差都小于上一轮时，停止训练，以及设定最大迭代次数为100。

进一步的，如果加入新的邻接矩阵后的子图数量超过预设的集合容量N_max，则删除预测损失最大的子图。

本发明还提供一种基于自适应图学习的公共交通客流预测系统，包括：

预测网络模块，用于基于当前关系矩阵和公交线路历史客流量，对公交线路未来预测时段的客流量进行预测；所述关系矩阵是指描述公交线路之间关系类型的邻接矩阵构成的矩阵；其中，采用公交线路客流量分布的Spearman相关系数描述公交线路之间关系类型的邻接矩阵；

关系矩阵模块，用于存储关系矩阵，以及基于当前关系矩阵和当前图学习模块学习参数生成新的邻接矩阵，以及基于新的邻接矩阵，更新当前关系矩阵；

图学习模块，用于基于预测网络预测误差，生成的邻接矩阵及当前关系矩阵进行自适应学习，得到图学习模块最优学习参数，并以此更新当前图学习模块学习参数。

本发明的有益效果在于，

本发明通过构造图学习模块来训练学习参数生成可能的关系矩阵，以交替训练的方式来优化图学习模块和预测网络模块的可学习参数，得到最优的关系矩阵，基于最优的关系矩阵对公共交通客流进行预测。本发明能够从城市公共交通客流数据中自适应学习其隐藏的复杂空间依赖关系，使得网络预测模型中的关系矩阵更加合理可靠，从而能够进一步提升客流量预测的准确性。

附图说明

图1为本发明提出的基于自适应图学习的公共交通客流预测方法流程图。

图2为本发明提出的基于自适应图学习的公共交通客流预测系统结构图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本发明作进一步的详细说明。

以公交线路预测为例，其拓扑结构可以用

表示。其中，各公交线路构成图中的节点集合V，V的模等于公交线路的数量，即|V|＝N，而线路之间的连接及其强度则通过邻接矩阵集合A＝{A_k|k＝1,2,…,N_r}来描述，A_k∈R^N×N为第k种关系类型对应的邻接矩阵，N_r为邻接矩阵的数量。公交线路预测的历史数据如下：

其中，

为第t个时间步第j条线路的客流量值，

为第t个时间步各线路客流量值构成的向量。

公共交通客流量预测旨在利用这些历史测量数据，对未来一个或多个时间步上各线路上的客流量进行预测，如下所示：

其中，P_t(·)：R^τ×N→R^k×N为预测函数，即网络模型的学习目标。

目前已经有多种通用的图网络结构，可以用于公共交通客流预测，其中包括扩散卷积递归神经网络(Diffusion Convolution RecurrentNeural Network，DCRNN)、基于注意力的时空卷积网络(Attentionbased spatial-temporal graphconvolutionalNetworks，ASTGCN)、时态图卷积(Temporal Graph ConvolutionNetwork，TCGN)等。

图网络的初始关系矩阵可以通过以下方式计算：

根据各线路的客流量分布，使用Spearman相关系数来计算不同节点的相互联系，如下式所示：

其中，

表示节点Ri在第k个时段下的客流量分布，Th_k为一个预设的阈值，以保证矩阵的稀疏性。Spearman相关系数SPCC的计算方法如下：

其中，x_i，y_i表示变量X，Y的第i个观测值，

为变量x_i在变量X所有观测值中的排名。

Spearman相关系数的取值范围为[-1,1]，其中-1表示X和Y完全负相关，1表示完全正相关，0表示不相关，相关系数的绝对值越接近1，两个变量间的相关性越强。

本发明提出一种基于自适应图学习的公共交通客流预测方法，包括：

基于当前关系矩阵，训练预测网络，得到预测网络的最优参数；

基于当前预测网络最优参数，训练图学习模块，得到图学习模块最优参数，并生成新的关系矩阵；

基于新生成的关系矩阵，更新当前关系矩阵，再次训练预测网络；

以此循环，直至达到结束条件，得到最优的关系矩阵；

基于最优的关系矩阵采用训练好的预测网络对公共交通客流进行预测。

作为本发明的一个实施例，一种基于自适应图学习的公共交通客流预测方法，其具体实施过程，参见图1，包括：

步骤101：进行参数初始化；

根据初始子图集合

计算初始关系矩阵

其中，N_r为子图的数量，A_k为第k种关系类型(如相关性、距离等)对应的邻接矩阵，每个邻接矩阵都可以认为是完整关系矩阵的一个子图。

初始化预测网络模型P_Θ，下标Θ为基于图卷积的预测网络模块参数；预测网络模型的输入为所有的历史数据X_t,t＝1,2,…N_s，N_s为样本的数量(X_t前面有定义)，输出为未来一个或多个时间步上各节点的客流量大小。

初始化关系矩阵学习参数

Λ∈R^N，其中N为节点个数，F₀为预定义维度；

初始化集合容量N_max，超参数σ,δ∈(0,1)，训练次数K。

步骤102：运行预测网络模型，计算预测结果：

其中X为输入历史客流量数量。

步骤103：计算预测损失：

其中，

为预测值，Y为真实值，|·|₁为L1损失函数。

步骤104：通过Adam优化算法训练预测网络模块参数Θ；

步骤105：生成新的邻接矩阵A_new＝G(A；M₁,M₂,Λ)，

其中，D₁,D₂为对角矩阵，

Λ∈R^N为可训练的学习参数，N为节点个数，Diag(Λ)为Λ的对角化矩阵，∈∈(0,1)为超参数，ReLU为线性整流函数。

步骤106：基于训练后的预测网络模块参数Θ和生成的邻接矩阵A_new，计算预测结果：

步骤107：计算图损失：

ΔA＝ReLU[Π(A_new)-Π(A)]

其中，

为图损失，δ为超参数，Π(·)为指示函数，即

步骤108：采用并固定步骤104训练得到的预测网络模块参数Θ，利用Adam优化算法训练图学习模块参数。

图学习模块用于，在原关系矩阵的基础上，自适应地修改旧的关系或生成新的邻接关系，从而提取出更为有效的空间特征。图学习模块的输入：A；输出为参数：M₁,M₂,Λ；

图损失作为损失函数，用以训练图学习模块的参数。

步骤109：将A_new加入子图集合

计算

中所有子图的预测损失。

步骤110：如果子图数量超过预设的集合容量N_max，则删除预测损失最大的子图。

步骤111：更新关系矩阵A，计算方式为：

首先计算

中所有子图对于验证集的预测损失，如下所示，

L_k＝L_P[P(X|A_k,Θ),Y]

其中，P为预测网络模型，Θ为预测网络模块的所有参数；

然后，记预测损失向量为：L＝(L₁,L₂,…,L_Nr')^T，记L_max＝max_1≤i≤Nr'L_i为最大损失值，Nr'为加入新的邻接矩阵后子图集合

中的子图个数，

通过softmax函数来计算权重向量w＝(w₁,w₂,…,w_Nr')^T，如下所示：

w＝softmax(L_max-L)

对应任意向量x＝(x₁,x₂,…,x_c)^T，softmax函数的定义如下：

最后，通过加权求和的方式来更新当前关系矩阵A，如下：

其中，D为对角矩阵，且

步骤112：如果达到结束条件，程序结束，以当前预测网络模型参数作为最优网络参数Θ^*，当前关系矩阵A作为最优关系矩阵A^*，由网络预测模型

预测未来一个或多个时间步上各节点的客流量大小，否则返回步骤102。

本发明实施例中，采用早停法来作为停止训练标准即结束条件，当连续5轮迭代的预测误差都小于上一轮时，停止训练。另外，设定最大迭代次数为100。

本发明实施例中，步骤102和106中的图网络模型，可以采用通用网络模型，包括扩散卷积递归神经网络(Diffusion Convolution RecurrentNeural Network，DCRNN)、基于注意力的时空卷积网络(Attention based spatial-temporal graph convolutionalNetworks，ASTGCN)、时态图卷积(Temporal Graph ConvolutionNetwork，TCGN)等。

本发明实施例中，步骤104和108中，Adam优化算法的初始学习率为0.001，权重衰减为0.0001，批训练的样本数量为64。

本发明实施例中，步骤101中，预定义维度F_O的优选值为64，集合容量N_max的优选值为3，超参数σ,δ的优选值分别为

和0.02，K的优选值为5。

作为本发明的另一个实施例，提出一种基于自适应图学习的公共交通客流预测系统，该系统结构如图2所示，主要分为以下几部分：

预测网络模块，用于基于当前关系矩阵和公交线路历史客流量，对公交线路未来预测时段的客流量进行预测；所述关系矩阵是指描述公交线路之间关系类型的邻接矩阵构成的矩阵；其中，采用公交线路客流量分布的Spearman相关系数描述公交线路之间关系类型的邻接矩阵；

关系矩阵模块，用于存储关系矩阵，以及基于当前关系矩阵和当前图学习模块学习参数生成新的邻接矩阵，以及基于新的邻接矩阵，更新当前关系矩阵；

图学习模块，用于基于预测网络预测误差，生成的邻接矩阵及当前关系矩阵进行自适应学习，得到图学习模块最优学习参数，并以此更新当前图学习模块学习参数。

实施例

为了验证本发明方法的有效性，针对DCRNN、ASTGCN和TCGN三种图卷积网络开展了实验，实验条件如下：

(1)DCRNN：GRU的隐藏层数为64，层数为1；

(2)ASTGCN：隐藏层数设为64，卷积的输出通道数设为64，卷积核大小为1×3，模块的数量为2；

(3)TCGN：模块数量为2，GRU的隐藏层数为64，GCN的隐藏层数为64。

对某城市的公共交通客流数据开展了实验，验证了本发明提出方法的效果，结果如下表所示：

表1采用不同方法的公共交通客流预测结果

表中，MAE——绝对误差期望(MeanAbsolute Error)，RMSE——均方根误差期望(Root Mean Square Error)，MAPE——平均绝对百分比误差(MeanAbsolute PercentageError)，AGL——基于图卷积网络的自适应图学习算法(graph convolutionalnetworkbasedAdaptive Graph Learning algorithm)；

可以看出，表示应用本发明提出的方法后的效果，可以看出，应用之后，预测精度都有一定程度的提升，验证了本方法的有益效果。

本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

最后应当说明的是：以上实施例仅用以说明本发明的技术方案而非对其限制，尽管参照上述实施例对本发明进行了详细的说明，所属领域的普通技术人员应当理解：依然可以对本发明的具体实施方式进行修改或者等同替换，而未脱离本发明精神和范围的任何修改或者等同替换，其均应涵盖在本发明的权利要求保护范围之内。

Claims (10)

1.一种基于自适应图学习的公共交通客流预测方法，其特征在于，包括：

基于当前关系矩阵，训练预测网络，得到预测网络的最优参数；所述预测网络以公交线路历史客流量为输入，以公交线路未来预测时段的客流量为输出；所述关系矩阵是指描述公交线路之间关系类型的邻接矩阵构成的矩阵，邻接矩阵为关系矩阵的一个子图；

基于当前关系矩阵和当前图学习模块学习参数，生成新的邻接矩阵；

基于训练后的预测网络最优参数和生成的新的邻接矩阵对公交线路客流量进行预测，并计算新的预测误差；

基于新的预测误差，新的邻接矩阵及当前关系矩阵对图学习模块进行训练，得到图学习模块最优学习参数，并以此更新当前图学习模块学习参数；

基于新的邻接矩阵，更新当前关系矩阵，再次训练预测网络；

以此循环，迭代训练，直至达到结束条件，得到最优的关系矩阵；

基于最优的关系矩阵采用训练好的预测网络对公交线路客流量进行预测。

2.根据权利要求1所述的一种基于自适应图学习的公共交通客流预测方法，其特征在于，采用公交线路客流量分布的Spearman相关系数表示描述公交线路之间关系类型的邻接矩阵。

3.根据权利要求1所述的一种基于自适应图学习的公共交通客流预测方法，其特征在于，所述预测网络采用扩散卷积递归神经网络，基于注意力的时空卷积网络或时态图卷积网络。

4.根据权利要求3所述的一种基于自适应图学习的公共交通客流预测方法，其特征在于，所述训练预测网络，包括：

基于当前关系矩阵及公交线路历史客流量，采用预测网络对未来预测时段客流量进行预测，得到：

其中，

为公交线路客流量预测值，P为预测模型，X为输入的公交线路历史客流量，Θ为预测网络参数；

基于预测结果计算预测损失：

其中，

为预测损失，Y为公交线路客流量真实值，|·|₁为L1损失函数；

采用Adam优化算法和预测损失训练预测网络，得到最优的预测网络参数。

5.根据权利要求4所述的一种基于自适应图学习的公共交通客流预测方法，其特征在于，所述基于当前关系矩阵和当前图学习模块学习参数，生成新的邻接矩阵，包括：

其中，A_new为生成的新的邻接矩阵，A为当前关系矩阵，D₁，D₂为对角矩阵，

为对角矩阵D₁对角线上的元素，

为对角矩阵D₂对角线上的元素，

Λ∈R^N为图学习模块学习参数，N为公交线路个数，F₀为预定义维度，Diag(Λ)为Λ的对角化矩阵，∈∈(0，1)为超参数，ReLU为线性整流函数，

当前关系矩阵表示为：

其中，A_k为第k种关系类型对应的邻接矩阵，每个邻接矩阵为关系矩阵的一个子图，N_r为子图的数量。

6.根据权利要求5所述的一种基于自适应图学习的公共交通客流预测方法，其特征在于，所述基于新的预测误差，新的邻接矩阵及当前关系矩阵对图学习模块进行训练，包括：

基于新的预测误差，新的邻接矩阵及当前关系矩阵计算图损失：

ΔA＝ReLU[Π(A_new)-Π(A)]；

其中，

为图损失，

为新的预测误差，δ为超参数，ΔA^(i，j)为矩阵ΔA中第i行第j列元素，Π(·)为指示函数；

采用Adam优化算法和图损失训练图学习模块，得到最优的图学习模块学习参数M₁，M₂，Λ。

7.根据权利要求6所述的一种基于自适应图学习的公共交通客流预测方法，其特征在于，所述更新当前关系矩阵，包括：

将新的邻接矩阵加入到当前关系矩阵中，

计算所有子图的预测损失：

L_k＝L_P[P(X|A_k，Θ)，Y]；

其中，L_k为第k个子图的预测损失，P为预测网络的预测模型，

通过softmax函数计算权重向量w＝(w₁，w₂，...，w_Nr′)^T，如下所示：

w＝softmax(L_max-L)；

其中，L为预测损失向量，L＝(L₁，L₂，...，L_Nr′)^T，L_i为第i个子图的预测损失，L_max为最大损失值，L_max＝max_{1≤i≤Nr′}L_i，Nr′为加入新的邻接矩阵后的子图个数，

通过加权求和的方式来更新当前关系矩阵，如下：

其中，A^*为更新后的当前关系矩阵，D为对角矩阵，D^(i，i)为对角矩阵D中第i个对角位置的元素。

8.根据权利要求7所述的一种基于自适应图学习的公共交通客流预测方法，其特征在于，如果加入新的邻接矩阵后的子图数量超过预设的集合容量N_max，则删除预测损失最大的子图。

9.根据权利要求1所述的一种基于自适应图学习的公共交通客流预测方法，其特征在于，采用早停法停止迭代训练，

结束条件为：当连续5轮迭代的预测误差都小于上一轮时，停止训练，以及设定最大迭代次数为100。

10.一种基于自适应图学习的公共交通客流预测系统，其特征在于，包括：

预测网络模块，用于基于当前关系矩阵和公交线路历史客流量，对公交线路未来预测时段的客流量进行预测；所述关系矩阵是指描述公交线路之间关系类型的邻接矩阵构成的矩阵；其中，采用公交线路客流量分布的Spearman相关系数描述公交线路之间关系类型的邻接矩阵；

关系矩阵模块，用于存储关系矩阵，以及基于当前关系矩阵和当前图学习模块学习参数生成新的邻接矩阵，以及基于新的邻接矩阵，更新当前关系矩阵；

图学习模块，用于基于预测网络预测误差，生成的邻接矩阵及当前关系矩阵进行自适应学习，得到图学习模块最优学习参数，并以此更新当前图学习模块学习参数。

Images