CN111540193B - 一种基于图卷积时序生成对抗网络的交通数据修复方法 - Google Patents

Abstract

本发明公开了一种基于图卷积时序生成对抗网络的交通数据修复方法，包括以下步骤：获取交通设备采集到的原始交通数据集，采用一元高斯分布离群点筛选方法对上述获得的原始交通数据集进行异常值处理；从异常值处理后的数据集中选择一段时间内的数据集作为完整的真实数据集，将真实数据集按不同的比例进行随机删除，得多份待修复的数据集；利用生成网络、判别网络构建具有修复交通数据的生成对抗网络模型，将待修复的数据集输入生成网络得到重建数据集，之后将重建数据集和真实数据集一同输入判别网络，完成生成网络与判别网络动态对抗训练，使得判别网络不能分辨重建数据和真实数据集；将训练完成的生成对抗网络进行交通数据修复。

Description

一种基于图卷积时序生成对抗网络的交通数据修复方法

技术领域

本发明涉及智能交通技术领域，更具体的，涉及一种基于图卷积时序生成对抗网络的交通数据修复方法。

背景技术

随着城市智能交通系统的发展和应用，城市交通数据如射频识别(RadioFrequency Identification,RFID)自动车牌识别数据(Automatic Number PlateRecognition,ANPR)、全球定位系统(Global Positioning System,GPS)数据、线圈数据、手机信令等数据得到大量收集，其弥补了传统的居民交通出行调查耗费大量人力和财力时间成本，且时效性与准确性都很低的缺陷。这些数据集捕获了交通网络和整个系统的基础状态及动态信息，为交通政策制定、交通规划与设计、交通控制与管理、交通信息发布等决策提供可靠的信息支持。但是，制约这一系列时空数据使用的关键问题是“数据缺失”，可能的原因如硬件/软件故障，网络通信问题及浮动/众包系统的有限报告，其导致特定位置的设备收集的数据不断丢失观测值，直到更换或维修为止。为充分利用不完整的时空数据，对时空交通数据集中那些缺失项提供可靠的估计成为了研究关键问题之一。

目前的交通数据补全方式主要有均值插值、中值插值；线性时序插值、矩阵分解；基于机器学习(KNN、EM、RNN)等的修复方法，取得了一定的效果。但是，由于现实中采集的交通流量、路段车速、占有率等交通观测数据变化趋势十分剧烈，不仅与前后历史时期有关，还与邻接路口的路况模式有关。这使得之前的方法在数据修复的过程以较简单的相邻路口相关模式简单地修复缺失的交通数据，对于路网图中路口间关联紧密的相关基本交通参数不能很好地捕获表示，导致对交通路况模式突变的情况不存在较好的修复能力。尤其对于数据缺失率较高的场景，一般的时序插值方法重构基本无效。

发明内容

本发明基于上述交通数据修复中遇到的问题，提出了一种基于图卷积时序生成对抗网络的交通数据修复方法，其能很好地改善了交通数据的修复能力，在数据缺失较高的场景仍能发挥很好的效果。

为实现上述本发明目的，采用的技术方案如下：一种基于图卷积时序生成对抗网络的交通数据修复方法，所述方法包括以下步骤：

S1：获取交通设备采集到的原始交通数据集，其包括交通流量、道路车速及道路占有率；

S2：采用一元高斯分布离群点筛选方法对上述获得的原始交通数据集进行异常值处理；

S3：从异常值处理后的数据集中选择一段时间内的数据集作为完整的真实数据集，将真实数据集按不同的比例进行随机删除，得不同的比例待修复的数据集；

S4：利用生成网络、判别网络构建具有修复交通数据的生成对抗网络模型；

S5：将待修复的数据集输入生成网络得到重建数据集，之后将重建数据集和真实数据集一同输入判别网络，完成生成网络与判别网络动态对抗训练，使得判别网络不能分辨重建数据和真实数据集；

S6：将训练完成的生成对抗网络进行交通数据修复。

本发明的有益效果如下：

本发明基于图卷积层提取待修复路口的空间信息，基于循环层提取数据的时序信息，利用生成器与判别器进行对抗训练，很好地改善了交通数据的修复能力，在数据缺失较高的场景仍能发挥很好的效果。

附图说明

图1是实施例1交通数据修复技术的流程图。

图2是实施例1待修复数据集处理的流程图。

图3是实施例1生成对抗网络模型搭建结构图。

图4是实施例1完整的数据集张量的示意图。

图5是实施例1中10％缺失数据修复前、修复后的数据对比图。

图6是实施例1中20％缺失数据修复前、修复后的数据对比图。

图7是实施例1中30％缺失数据修复前、修复后的数据对比图。

图8是实施例1中40％缺失数据修复前、修复后的数据对比图。

其中图5～图8中(a)为缺失的数据集张量，(b)为修复后的数据集张量。

具体实施方式

下面结合附图和具体实施方式对本发明做详细描述。

实施例1

如图1所示，一种基于图卷积时序生成对抗网络的交通数据修复方法，所述方法包括以下步骤：

S1：首先需要从城市交通数据中心获取交通设备采集到的原始交通数据集，其包括交通流量、道路车速及道路占有率。

S2：采用一元高斯分布离群点筛选方法对上述获得的原始交通数据集进行异常值处理；这里以某个路口流量进行举例，该路口的流量看成变量进行分析，不同时间下观测的流量值作为一维序列。以该变量的均值加减2倍变量方差为阈值。若当前样本小于最低阈值或大于最高阈值，则将其标记为异常值，并在数据集中的对应位置处将已有的值进行删除。

S3：从异常值处理后的数据集中选择一段时间内比较完整的数据集作为完整的真实数据集，将真实数据集按10％、20％、30％、40％的比例进行随机删除，得不同的比例待修复的数据集；如图2所示。

S4：利用生成网络、判别网络构建具有修复交通数据的生成对抗网络模型，在一个具体的实施例中，所述的生成网络为一个去噪自编码器，其中包括两层图卷积层，一层循环层及一层全连接层构成编码器，一层全连接层及一层循环层构成解码器。判别网络为两层图卷积层，一层循环层及一层全连接层。其中所述图卷积层用于捕获路网中个路口间的空间相关联程度，所述循环层用于捕获单个路口时间序列上的相关联程度，每一层之间进行Batch Normalization操作，并采用Relu激活函数进行非线性化，最后一层接Dropout层进一步增强模型的泛化能力，所述判别网络在最后接一层sigmod进行判别分类，如图3所示。

S5：将待修复的数据集输入生成网络得到重建数据集，之后将重建数据集和真实数据集一同输入判别网络，完成生成网络与判别网络动态对抗训练，使得判别网络不能分辨重建数据和真实数据集。

S6：将训练完成的生成对抗网络进行交通数据修复。

在一个具体的实施例中，对收集到原始交通数据集进行处理，主要包含数据项：交通流量、道路车速、道路占有率。其可根据实际需求，进行特征工程，原始交通数据集为：

X＝(X₁，…，X_t，…，X_T)∈R^V×F×T

其中，

V为路网路口的总数，v为路口编号，T为时间段切片总数，实际中，一般以一周作为最长的时间研究序列，如果以5min收集一次数据，则T的取值为60×24×7÷5＝2016，t为切片编号，F为特征的总数。

由于原始交通数据集存在一定程度的缺失且有时收集回来的流量数据存在一定异常值的情况，因此，需要首先进行异常值处理，异常值处理考虑特征间的相关性，同时用一元高斯分布的离群点筛选方法进行异常值处理，如下式所示，

若当前观测值x，其满足μ-2σ≤x≤μ+2σ，则为正常值，否则即为异常值。这样即可得到张量X中异常值的位置，记为张量M∈R^V×F×T，如下式所示，

因此，对于原始数据集X，对其进行下述运算，得到缺失的数据集张量，筛选出不存在流量缺失的数据作为后述的训练集。

X’＝X⊙M

在一个具体的实施例中，对于生成对抗网络模型中生成网络G、判别网络D的详细结构，如图3所示，本实施例所述生成对抗网络模型结构设计的目的是为了使生成对抗网络在后期的训练过程中能捕获到空间和时间相关的模式，使得网络训练学习的过程中能精准抓取到路网拓扑、时间信息与交通模式间的联系，以便更准确地重建样本填充到缺失的流量数据中，这里我们在生成网络与判别网络中均引入了图卷积层，用于捕获路网中个路口间的空间相关联程度，定义拉普拉斯算子如下，

其中，A为邻接矩阵，其表示矩阵行列都路网中的V个路口，若两个路口相连接矩阵中的值为1，其它为0。D为度矩阵，其表示当前路口与其它路口有连接的总数，其为对角矩阵。I_v是V×V的单位矩阵。

采用拉普拉斯算子提取路网信息进行卷积运算，以

作为输入为例进行如下傅里叶变换，

g_θ*G_x＝g_θ(L)x＝g_θ(UΛU^T)x＝Ug_θ(Λ)U^Tx

其中，L进行矩阵分解，U为傅里叶变换矩阵，Λ为daig[λ₁，λ₂，…，λ_v]，其可成

通过上述变换，即完成数据集空间模式的提取。

在一个具体的实施例中，由于上述公式需要进行特征值分解，当路网图较大时，特征分解计算效率较低，为加快卷积运算效率，可以引入切比雪夫多项式进行近似优化，可大大减少训练过程中的运算时间，如下可将g_θ*Gx转化为，

其中，

λ_max是拉普拉斯矩阵中最大的特征值，切比雪夫多项式T_k(x)＝2xT_k-1(x)-T_k-2(x)，其中T₀(x)＝1，T₁(x)＝x，K为切比雪夫式的递归次数，其越大，与实际矩阵分解后的结果更接近，记g_θ*Gx为g(x，A)。

在一个具体的实施例中，为了提取有效的时间序列信息，我们选择采用循环层进行捕获数据集中的时间模式，其在一定程度能防止网络在后续的训练过程中出现梯度消失的状况。

具体地，将g(x，A)作为输入传给循环层，如下为数据流在隐层时间单元中传递的表达式：

u_t＝σ(W_u[g(x，A)，h_t-1]+b_u)

r_t＝σ(W_r[g(x，A)，h_t-1]+b_r)

c_t＝tanh(W_c[g(x，A)，(r_t*h_t-1)]+b_c)

h_t＝u_t*h_t-1+(1-u_t)*c_t

其中，u_t表示更新门，r_t表示重置门，h_t为t时刻隐层状态输出。

为了防止在后续的训练过程中，循环层存在梯度爆炸等情况，需要在训练的反向传播过程中进行梯度裁剪，避免训练梯度过大导致训练还未收敛就提前结束。

在一个具体的实施例中，步骤S5，将待修复的数据集输入到生成对抗网络，所述的生成对抗网络主要分为生成网络与判别网络两部分，其基本思想是随机噪声通过生成网络输出重建数据(假样本)，之后生成网络生成的重建数据和真实数据一同输入判别网络。其后，判别网络力求最大化分辨真实数据的能力，生成网络力求使得生成的数据以假乱真迷惑判别网络，两者动态“博弈”直到判别网络不能分辨真假样本。

设z为噪声变量，每次训练时，抽取n个样本

{z⁽¹⁾，…，z⁽ⁿ⁾}

同时，从训练数据集中选出相同数量的真实样本

所述的生成对抗网络的损失函数主要包括：生成对抗损失和样本重构损失。

这里，为了使得生成网络G生成的数据尽可能地逼近真实的样本X，在训练生成对抗网络时，引入样本重构损失，具体如下：

Loss_recons＝||G(z)⊙M-X’||

此公式中，使用了L₂范数的损失函数；其函数连续平滑，对异常值有较大的惩罚，加快了前期网络的训练速度。另一方面，只计算了张量数据中非缺失位置的损失，这样能避免无效运算。

同时，在生成对抗网络中还需加入对抗网络架构的损失：

其中，D为判别网络，G为生成网络，ln(D(x))表示判别网络判断x属于真实分布的概率，ln(D(G(z)))表示判别网络判断由生成网络从噪声z生成的数据G(z)属于真实分布的概率。

因此，确定最终联合得到的综合损失函数为：

其中，λ为超参数，其可通过网格参数搜索、贝叶斯超参数搜索等方法确定。

由此可知，本实施例综合考虑样本重构损失、样本生成损失、判别损失三部分损失。

其中样本重构损失主要是为了使得生成网络G生成的数据尽可能地逼近真实的样本X，同时引入L₂损失函数进行优化，使得训练过程中对以异常值的惩罚加大，加快前期网络的训练速度。

所述的样本生成损失主要是为了使生成网络生成的数据能“取代”真实的样本数据集，判别网络难以区分两者，其致使真假样本分类判别的交叉熵损失朝着更小的方向训练。

所述的判别损失主要是为了使得判别器具备更强的能力区分重建数据集与真实数据集，其致使真假样本分类判别的交叉熵损失朝着更大的方向训练；

综合上述三类损失，最终建立的生成对抗网络模型是使损失朝着不断减小的方向优化。

在一个具体的实施例中，步骤S5，所述的生成网络与判别网络动态对抗训练，具体如下：

S501：随机初始化生成对抗网络模型的参数；确定超参数λ，其可采用网格参数搜索、贝叶斯超参数搜索等方法确定。

S502：将待修复的数据集输入生成网络后得到重建数据集，之后将重建数据集和真实数据集一同输入判别网络；

S503：将重建数据集与真实数据集通过综合损失函数进行对比计算，得到各部分的损失函数值；

S504：综合损失的梯度值经过网络的梯度反向传播和链式求导，使得生成对抗网络模型的参数往综合损失降低的方向调整；

具体地，训练过程参数的调整如下所示，

设判别网络D的参数为θ_d，得到损失关于参数的梯度，

更新参数θ_d时，加上该梯度参数；

设生成网络G的参数为θ_g，求出损失关于参数的梯度，

更新参数θ_g时，减去该梯度参数；

S505：当生成损失、判别损失共同下降至收敛，即完成了模型的训练过程，否则重复步骤S502～S504；

S506：将待修复数据集中的缺失项用生成的数据集进行填充；

通过以上训练步骤完成得到泛化能力、鲁棒性更强的生成对抗网络模型。将训练完成后的生成对抗网络模型运用到真实缺失的数据库中进行修复即可。

本实施例基于以上所述的交通数据修复方法，进行如下实验：

我们的实验数据为2018.10-2019.1月贵阳市城区的缺失数据上进行实验测试，包含56个交叉口及若干道路，数据形式如下表1所示，

表1传感器采集的数据集格式

路口编号

时间段

(E)流量

(E)车速

(E)占有率

(S)流量

(N)占有率

GS1

17:15-17:30

233

35.75

0.0509

456

…

GS2

17:15-17:30

28.31

0.0245

…

GS3

17:15-17:30

213

23.1

0

333

…

由上表可知，在实际的生产环境中，交通设备经常丢失了一些时段的记录。

在选取数据集时，选择了一段时间天数，数据缺失存在较少的数据集，可将其视为较完整的真实数据集，对其中的数据进行随机删除，按照10％、20％、30％、40％的比例进行随机删除，删除后的数据集即为待修复数据，如图4所示，为完整的数据集张量，按照10％的比例随机删除如图5中的(a)所示，修复后的数据集张量如如图5中的(b)所示；按照20％的比例随机删除如图6中的(a)所示，修复后的数据集张量如如图6中的(b)所示；按照30％的比例随机删除如图7中的(a)所示，修复后的数据集张量如如图7中的(b)所示；按照40％的比例随机删除如图8中的(a)所示，修复后的数据集张量如如图8中的(b)所示。

在后续调用模型实际应用时，评估待修复的数据的整体缺失率，选用缺失率相近的训练模型进行修复。通过本实施例所述的交通数据修复方法完成生成对抗网络模型的构建、训练，进行数据修复。

本实施例对生成对抗网络模型的评估性能可以采用MAE作为评价指标：

也可采用RMSE作为评价指标：

其中，x_i是完整数据集中还未删除的真实数据，

是完整数据集删除后经过本实施例训练完成后的生成对抗网络模型复原后得的重构值。

显然，本发明的上述实施例仅仅是为清楚地说明本发明所作的举例，而并非是对本发明的实施方式的限定。凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明权利要求的保护范围之内。

Claims (5)

1.一种基于图卷积时序生成对抗网络的交通数据修复方法，其特征在于：所述方法包括以下步骤：

S1：获取交通设备采集到的原始交通数据集，其包括交通流量、道路车速及道路占有率；

S2：采用一元高斯分布离群点筛选方法对上述获得的原始交通数据集进行异常值处理；

S3：从异常值处理后的数据集中选择一段时间内的数据集作为完整的真实数据集，将真实数据集按不同的比例进行随机删除，得不同的比例待修复的数据集；

S4：利用生成网络、判别网络构建具有修复交通数据的生成对抗网络模型；

S5：将待修复的数据集输入生成网络得到重建数据集，之后将重建数据集和真实数据集一同输入判别网络，完成生成网络与判别网络动态对抗训练，使得判别网络不能分辨重建数据和真实数据集；

S6：将训练完成的生成对抗网络进行交通数据修复；

步骤S2，采用一元高斯分布离群点筛选方法进行异常值处理，如下式所示，

若当前观测值x，其满足μ-2σ≤x≤μ+2σ，则为正常值，否则即为异常值；即可得到原始交通数据集X中异常值的位置，记为张量M∈R^V×F×T，其中V为路网路口数量，F为特征数量，T为收集的时间窗数量，如下式所示，

因此，对于原始交通数据集，对其进行下述运算，得到缺失的数据集张量，筛选出不存在流量缺失的数据作为后述网络的训练集；

X’＝X⊙M；

步骤S4，所述的生成网络为一个去噪自编码器，其包括两层第一图卷积层、一层第一循环层及一层第一全连接层构成编码器，一层第二全连接层及一层第二循环层构成解码器；所述的判别网络为两层第二图卷积层、一层第三循环层及一层第三全连接层；

其中所述第一图卷积层、第二图卷积层均用于捕获路网中各个路口间的空间相关联程度，所述第一循环层、第三循环层用于捕获单个路口时间序列上的相关联程度，每一层之间进行Batch Normalization操作，并采用Relu激活函数进行非线性化，最后一层接Dropout层进一步增强模型的泛化能力，所述判别网络在最后接一层sigmod进行判别二分类；

所述第一图卷积层、第二图卷积层用于捕获路网中个路口间的空间相关联程度，具体如下：定义拉普拉斯算子如下，

其中，A为邻接矩阵，其表示矩阵行列都路网中的V个路口，若两个路口相连接矩阵中的值为1，其它为0；D₁为度矩阵，其表示当前路口与其它路口有连接的总数，其为对角矩阵，I_V是V×V的单位矩阵；

采用拉普拉斯算子提取路网信息进行卷积运算，以

作为输入进行如下傅里叶变换：

g_θ*Gx＝g_θ(L)x＝g_θ(UΛU^T)x＝Ug_θ(Λ)U^Tx

其中，将L进行矩阵分解，U为傅里叶变换矩阵，Λ为daig[λ₁，λ₂，…，λ_V]，其可写成

通过上述变换，即完成数据集空间模式的提取；

为了加快卷积运算效率，引入切比雪夫多项式进行近似优化，如下可将g_θ*Gx转化为，

其中，

λ_max是拉普拉斯矩阵中最大的特征值，切比雪夫多项式T_k(x)＝2xT_k-1(x)-T_k-2(x)，其中T₀(x)＝1，T₁(x)＝x，K为切比雪夫式的递归次数，记g_θ*Gx为g(x，A)。

2.根据权利要求1所述的基于图卷积时序生成对抗网络的交通数据修复方法，其特征在于：步骤S4，所述编码器的第一循环层和判别网络的第三循环层用于捕获单个路口时间序列上的相关联程度，具体地：

将g(x，A)作为输入传给第一循环层、或第三循环层，如下为数据流在隐层时间单元中传递的表达式：

u_t＝σ(W_u[g(x，A)，h_t-1]+b_u)

r_t＝σ(W_r[g(x，A)，h_t-1]+b_r)

c_t＝tanh(W_c[g(x，A)，(r_t*h_t-1)]+b_c)

h_t＝u_t*h_t-1+(1-u_t)*c_t

其中，u_t表示更新门，r_t表示重置门，h_t为t时刻隐层状态输出。

3.根据权利要求2所述的基于图卷积时序生成对抗网络的交通数据修复方法，其特征在于：步骤S5，为了使得生成网络生成的重建数据集尽可能的逼近原始交通数据X，在对生成对抗网络模型进行训练时，引入样本重构损失，如下：

Loss_recons＝||G(z)⊙M-X’||

此公式中，使用了L₂范数的损失函数；

同时，还加入对抗网络架构的损失：

其中，D为判别网络，G为生成网络，ln(D(x))表示判别网络判断x属于真实分布的概率，InD(1-G(z))表示判别网络判断由生成网络从噪声z生成的数据G(z)属于真实分布的概率；

因此，联合得到综合损失函数为，

其中，λ为超参数。

4.根据权利要求3所述的基于图卷积时序生成对抗网络的交通数据修复方法，其特征在于：步骤S5，所述的生成网络与判别网络动态对抗训练，具体如下：

S501：随机初始化生成对抗网络模型的参数，确定超参数λ；

S502：将待修复的数据集输入生成网络后得到重建数据集，之后将重建数据集和真实数据集一同输入判别网络；

S503：将重建数据集与真实数据集通过综合损失函数进行对比计算，得到各部分的损失函数值；

S504：综合损失的梯度值经过网络的梯度反向传播和链式求导，使得生成对抗网络模型的参数往综合损失降低的方向调整；

S505：当生成损失、判别损失共同下降至收敛，即完成了模型的训练过程，否则重复步骤S502～S504；

S506：将待修复数据集中的缺失项用生成的数据集进行填充。

5.根据权利要求4所述的基于图卷积时序生成对抗网络的交通数据修复方法，其特征在于：步骤S504，具体地，训练过程中的参数调整如下：

设判别网络D的参数为θ_d，得到损失关于参数的梯度，

更新参数θ_d时，加上该梯度参数；

设生成网络G的参数为θ_g，求出损失关于参数的梯度，

更新参数θ_g时，减去该梯度参数。

Images