CN115115082A - 一种基于联邦学习的长距离高速公路交通流量预测方法 - Google Patents

Abstract

本发明提供了一种基于联邦学习的长距离高速公路交通流量预测方法，属于交通预测和信息安全技术领域。解决了现有交通预测模型对长距离高速公路进行交通流量预测，准确率不高，监测点使用损耗较大，浪费能源，且未考虑交通数据信息安全的问题。其技术方案为：包括以下步骤：步骤一、LSTM‑RNN搭建；步骤二、数据处理；步骤三、联邦学习；步骤四、模型预测。本发明的有益效果为：本发明提高交通流量预测的准确率，防止信息泄露，降低能源消耗，降低监测点的使用损耗。

Description

一种基于联邦学习的长距离高速公路交通流量预测方法

技术领域

本发明涉及交通预测和信息安全技术领域，尤其涉及一种基于联邦学习的长距离高速公路交通流量预测方法。

背景技术

随着中国经济的快速发展和人们生活质量的不断提高，全国汽车数量也在不断增加，这使国内各大城市的交通压力愈来愈重。能够准确地预测出道路的交通流量，提高道路的通行效率变得尤为重要。这一问题得到了社会各界的关注，已经有许多科研工作人员在交通预测领域中深入研究。交通预测是以历史交通数据为基础，通过建立数学模型，完成对未来交通状况的预测，其目标是为了提高道路的通行效率，提高居民出行效率。

现有的交通预测模型多数是对短距离高速公路进行交通流量预测。当对长距离高速公路进行交通流量预测时，模型的预测准确率会降低。其原因在于长距离高速公路中存在道路汇入或汇出岔口，而岔口前后的交通流量数据存在一定的差异。现有的交通预测模型在训练模型时，大量的交通数据会在服务器和监测点之间进行传输，这可能会使交通数据泄露，然而大多数模型并没有考虑到数据安全问题。使用基于联邦学习构建的交通流量预测模型，在服务器和监测点之间只需要传输模型的权重参数即可，这避免了因传输交通数据而泄露汽车行驶信息。

一般情况下，需要预测交通流量的长距离高速公路多为高速公路主干道，其汇入汇出岔口的道路为交通流较小的支路。使用现有的交通预测模型也可通过设置多个连续监测点，并对每个监测点的交通情况进行预测，以获得长距离高速公路的交通流量情况。但大多数情况下，部分相邻监测点的交通情况基本相似，其预测结果大致相同，这意味着存在部分监测点在做无用功，浪费能源。通过联邦学习和间隔选择，选择部分监测点工作的模型即可完成现有交通预测模型对长距离高速公路的交通流量预测任务，还可以降低监测点的使用损耗以及节省能源。因此，需要提出一种新的交通流量预测方法。

发明内容

本发明的目的在于提供一种基于联邦学习的长距离高速公路交通流量预测方法，解决了交通预测模型对长距离高速公路进行交通流量预测准确率不高，监测点使用损耗较大，浪费能源，且未考虑交通数据信息安全的技术问题；本发明通过使用基于联邦学习构建的交通流量预测模型，在服务器和监测点之间只需要传输模型的权重参数就能避免因传输交通数据而泄露汽车行驶信息，通过间隔选择监测点工作，降低监测点的使用损耗，节省能源。

本发明是通过如下措施实现的：一种基于联邦学习的长距离高速公路交通流量预测方法，在一条长度为L千米的待预测高速公路主干道路，从道路起始点开始设定L/10个等距离分布的交通监测点，监测点收集到的数据为每小时内通过该监测点的车辆数量(辆/时)，共有L/10个交通数据DataID(Data01、Data02……Data L/10)，如图1所示。

所述联邦学习的长距离高速公路交通流量预测方法包括以下步骤：

步骤一、LSTM-RNN搭建阶段，在Windows+Python+Tensorflow的环境下，搭建一个LSTM-RNN网络模型；LSTM、RNN结构如图2、3所示，LSTM-RNN模型如图4所示；

步骤二、数据处理阶段，监测点收集的数据为每小时内通过该监测点的车辆数量，对数据进行缺失值处理、归一化处理、滑动窗口处理，每个监测点的数据处理阶段是相互独立的，使用自身的数据进行缺失值处理、归一化处理、滑动窗口处理；

步骤三、联邦学习阶段，设监测点为客户端，联邦数据聚合中心为服务端，每个客户端采用步骤一中的LSTM-RNN模型，将所有监测点分为两部分，每周进行交替工作，每间隔一个监测点选中一个作为联邦学习的客户端，未被选中的监测点只收集交通数据，不使用其数据训练模型，仍接收服务端下发的模型参数，直接使用其数据进行交通流量预测；

步骤四、模型预测阶段，紧接着步骤三完成联邦学习阶段后，所有监测点使用服务端下发的模型权重进行交通流量预测，将经过数据处理阶段后的数据输入到模型中，进行运算，将结果再进行反归一化,计算出每个监测点的交通流量预测值。

进一步地，所述步骤一中采用LSTM-RNN计算，具体包括如下步骤：

(1)LSTM遗忘门：当前输入为x_t，计算上一个时间戳的记忆为c_t-1,输出为h_t-1，对当前时间戳的影响，并计算当前时间戳的状态向量c′_t。

g_f＝σ(W_f[h_t-1,x_t])

c′_t＝g_f·c_t-1

其中W_f为遗忘门的权重参数，σ为激活函数；

(2)LSTM输入门：当前输入为x_t，上一个时间戳的输出为h_t-1，做非线性变换得到新的输入,并更新当前时间戳的状态向量c_t，

g_i＝σ(W_i[h_t-1,x_t])

其中W_c、W_i分别为输入门的权重参数，tanh为激活函数；

(3)LSTM输出门：

g_o＝σ(W_o[h_t-1,x_t])

h_t＝g_o·tanh(c_t)

(4)RNN:

o_t＝h_t＝σ(W_xhx_t+W_hhh_t-1)

其中W_xh、W_hh为RNN的权重参数，σ为激活函数；

(5)Dense1-Dense2：将RNN的输出作为输入，通过全连接层计算出预测值，

O_p＝(X_RNN·W_d1)·W_d2

其中O_p为Dense层输出,X_RNN为RNN的输出，W_d1为Dense1的权重参数，W_d2为Dense2的权重参数，Dense1-Dense2结构如图5所示。

LSTM-RNN模型参数如下表1所示：

表1 LSTM-RNN模型参数

进一步地，所述步骤二中，使用自身的数据进行缺失值处理、归一化处理、滑动窗口处理具体步骤如下：

(1)缺失值处理：缺失值用缺失值前一时刻的值和后一时刻的值的平均值来替换，如下公式所示，

X_ti：缺失值替换值，X_t-1：缺失值前一时刻的值，X_t+1：缺失值后一时刻的值；

(2)归一化处理：

X：每小时内通过监测点的车辆数量，X_min,X_max分别为每小时内通过监测点的车辆数量的最小值和最大值，X_norm：X经过归一化处理后的值；

(3)滑动窗口处理：将经过缺失值处理和归一化处理后的数据，进行滑动窗口处理，将前24个小时的数据作为LSTM-RNN模型的训练数据，第25个小时的数据作为LSTM-RNN模型的训练标签，如图6所示。

进一步地，所述步骤三的联邦学习，设监测点为客户端，联邦数据聚合中心为服务端，每个客户端都采用步骤一中的LSTM-RNN模型，为了延长每个监测点的使用寿命，将所有监测点分为两部分，每周进行交替工作，每间隔一个监测点选中一个作为联邦学习的客户端，未被选中的监测点只收集交通数据，不使用其数据训练模型，仍接收服务端下发的模型参数，直接使用其数据进行交通流量预测。L千米的高速公路方案如图7所示，从道路起始点开始设定L/10个等距离分布的交通监测点。

每个客户端对本地交通数据进行Epoch＝2的模型训练，客户端完成训练后将模型的权重参数发送给服务端，服务端对L/20个客户端上传的模型权重进行数据聚合，将聚合完成后的模型权重再下发给这L/20个客户端，客户端使用聚合后的模型权重继续进行Epoch＝2的训练。每当客户端进行Epoch＝2的模型训练后，向服务端上传一次模型权重，服务端将聚合后的模型权重再下发给客户端的这一过程称为一轮客户端-服务端通信,设置N轮通信(N建议取值为100)，完成N轮通信后，服务端将聚合后的模型权重下发给L/10个客户端；

服务端模型权重聚合策略：

设客户端k第t轮通信上传到服务器的参数为

L_k为客户端k的损失函数,η为模型学习率，服务器对模型权重聚合后的参数为W^t+1。

p_k为客户端k的聚合权重，且

每个客户端的聚合权重p_k，直接影响聚合后模型的收敛速度和准确率。为使聚合后的模型的性能更好，采用如下策略计算p_k。先计算每个客户端上传的权重参数与服务器的权重参数的内积G_k，再根据单调递增映射函数f_k，计算p_k。

f_k＝ln(G_k+1)

当G_k<0时，令p_k＝0；当G_k≥0时，令

进一步地，所述步骤四中的模型预测，完成联邦学习阶段后，所有监测点使用服务端下发的模型权重进行交通流量预测，将经过数据处理阶段后的数据输入到模型中，进行运算，将结果再进行反归一化,即可计算出每个监测点的交通流量预测值，预测流程如图8所示，预测值的衡量指标采用均方误差(MSE)、均方根误差(RMSE)、平均绝对误差(MAE)、R²；

其中M为样本总数，y_m为样本值，

样本预测值,

为样本均值。

与现有技术相比，本发明的有益效果为：

1、本发明能够提高交通流量预测的准确率，在服务器和监测点之间只需要传输模型的权重参数即可，避免了因传输交通数据而泄露汽车行驶信息，通过间隔选择监测点工作，降低监测点的使用损耗，节省能源。

2、本发明使用基于联邦学习构建的交通流量预测模型，服务端的模型权重数据聚合策略并没有采用常用的联邦平均策略，而是提出了新策略。新策略与联邦平均策略相比较，在相同的训练周期下，新策略使模型收敛速度更快，误差更小。

附图说明

附图用来提供对本发明的进一步理解，并且构成说明书的一部分，与本发明的实施例一起用于解释本发明，并不构成对本发明的限制。

图1为本发明在L千米高速公路的监测点设置方案图。

图2为本发明LSTM结构图。

图3为本发明RNN结构图。

图4为本发明LSTM-RNN模型图。

图5为本发明中Dense1-Dense2结构图。

图6为本发明中数据处理滑动窗口图。

图7为本发明中间隔选择监测点作为联邦学习客户端的联邦学习训练图。

图8为本发明中交通流量预测流程图。

图9为本发明实施例中4个监测点的位置设置方案图。

图10为本发明实施例中监测点1的交通流量真实值与预测值曲线图。

图11为本发明实施例中监测点2的交通流量真实值与预测值曲线图。

图12为本发明实施例中监测点3的交通流量真实值与预测值曲线图。

图13为本发明实施例中监测点4的交通流量真实值与预测值曲线图。

图14为本发明对比例中监测点1的交通流量真实值与预测值曲线图。

图15为本发明对比例中监测点2的交通流量真实值与预测值曲线图。

图16为本发明对比例中监测点3的交通流量真实值与预测值曲线图。

图17为本发明对比例中监测点4的交通流量真实值与预测值曲线图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。当然，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。

实施例

在本实例中，使用某高速公路数据集，设置4个监测点，其中监测点1与监测点2之间存在一个道路汇出岔口，监测点3与监测点4之间存在一个道路汇入岔口，如图9所示，对这4个监测点的交通流量进行预测。

实施例具体步骤：(1)构建LSTM-RNN模型，模型参数与发明内容所述的参数一致；(2)对监测点1、2、3、4的数据进行处理(与发明内容所述的缺失值处理、归一化处理、滑动窗口处理一致)；(3)使用联邦学习训练模型，此处不考虑间隔选择监测点工作，四个监测点均作为联邦学习客户端。服务端的模型权重聚合策略与发明内容所述一致；(4)四个监测点使用联邦学习训练好的模型权重预测各自的未来交通流量；(5)对预测值进行反归一化，并进行误差分析，结果如图10至图13所示。

监测点1误差指标：

均方误差:2355.94714

均方根误差:48.53810

平均绝对误差:31.75967

R²:0.93709

监测点2误差指标：

均方误差:1496.05265

均方根误差:38.67884

平均绝对误差:25.33063

R²:0.93730

监测点3误差指标：

均方误差:1524.53634

均方根误差:39.04531

平均绝对误差:26.24062

R²:0.93606

监测点4误差指标：

均方误差:830.50261

均方根误差:28.81844

平均绝对误差:19.27426

R²:0.93651

对比例

在该对比例中，仅使用监测点1的数据对LSTM-RNN模型进行训练，不进行联邦学习训练。并使用该模型对监测点2、3、4进行交通流量预测。具体步骤：(1)构建LSTM-RNN模型，模型参数与发明内容中的模型参数一致；(2)对监测点1、2、3、4的数据进行处理(与发明内容所述的缺失值处理、归一化处理、滑动窗口处理一致；(3)仅使用监测点1处理后的数据，训练LSTM-RNN模型；(4)使用监测点1数据训练好的模型对监测点2、3、4进行交通流量预测；(5)对预测值进行反归一化，并进行误差分析。结果分别如图14至17所示。

监测点1误差指标：

均方误差:2818.59954

均方根误差:53.09048

平均绝对误差:35.71357

R²:0.92625

监测点2误差指标：

均方误差:1789.15770

均方根误差:42.29844

平均绝对误差:28.46578

R²:0.92686

监测点3误差指标：

均方误差:1887.24482

均方根误差:43.44243

平均绝对误差:29.22426

R²:0.92694

监测点4误差指标：

均方误差:1038.36066

均方根误差:32.22360

平均绝对误差:21.51088

R²:0.92678

通过观察实施例中联邦学习方案和对比例的预测结果及误差指标，可知对比例中各监测点的误差均比实施例的误差大。

以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (5)

1.一种基于联邦学习的长距离高速公路交通流量预测方法，其特征在于，包括以下步骤：

步骤一、LSTM-RNN搭建，在Windows+Python+Tensorflow的环境下，搭建一个LSTM-RNN网络模型；

步骤二、数据处理，监测点收集的数据为每小时内通过该监测点的车辆数量，对数据进行缺失值处理、归一化处理、滑动窗口处理，每个监测点的数据处理阶段是相互独立的，使用自身的数据进行缺失值处理、归一化处理、滑动窗口处理；

步骤三、联邦学习，设监测点为客户端，联邦数据聚合中心为服务端，每个客户端采用步骤一中的LSTM-RNN模型，将所有监测点分为两部分，每周进行交替工作，每间隔一个监测点选中一个作为联邦学习的客户端，未被选中的监测点只收集交通数据，不使用其数据训练模型，仍接收服务端下发的模型参数，直接使用其数据进行交通流量预测；

步骤四、模型预测，紧接着步骤三完成联邦学习阶段后，所有监测点使用服务端下发的模型权重进行交通流量预测，将经过数据处理阶段后的数据输入到模型中，进行运算，将结果再进行反归一化，计算出每个监测点的交通流量预测值。

2.根据权利要求1所述的基于联邦学习的长距离高速公路交通流量预测方法，其特征在于，所述步骤一中采用LSTM-RNN计算，具体包括如下步骤：

(1)LSTM遗忘门：当前输入为x_t，计算上一个时间戳的记忆为c_t-1，输出为h_t-1，对当前时间戳的影响，并计算当前时间戳的状态向量c′_t；

g_f＝σ(W_f[h_t-1，x_t])

c′_t＝g_f·c_t-1

其中W_f为遗忘门的权重参数，σ为激活函数；

(2)LSTM输入门：当前输入为x_t，上一个时间戳的输出为h_t-1，做非线性变换得到新的输入，并更新当前时间戳的状态向量c_t，

g_i＝σ(W_i[h_t-1，x_t])

其中W_c、W_i分别为输入门的权重参数，tanh为激活函数；

(3)LSTM输出门：

g_o＝σ(W_o[h_t-1，x_t])

h_t＝g_o·tanh(c_t)

(4)RNN：

o_t＝h_t＝σ(W_xhx_t+W_hhh_t-1)

其中W_xh、W_hh为RNN的权重参数，σ为激活函数；

(5)Dense1-Dense2：将RNN的输出作为输入，通过全连接层计算出预测值，

O_p＝(X_RNN·W_d1)·W_d2

其中O_p为Dense层输出，X_RNN为RNN的输出，W_d1为Dense1的权重参数，W_d2为Dense2的权重参数。

3.根据权利要求1所述的基于联邦学习的长距离高速公路交通流量预测方法，其特征在于，所述步骤二中，使用自身的数据进行缺失值处理、归一化处理、滑动窗口处理具体步骤如下：

(1)缺失值处理：缺失值用缺失值前一时刻的值和后一时刻的值的平均值来替换，如下公式所示，

X_ti：缺失值替换值，X_t-1：缺失值前一时刻的值，X_t+1：缺失值后一时刻的值；

(2)归一化处理：

X：每小时内通过监测点的车辆数量，X_min，X_max分别为每小时内通过监测点的车辆数量的最小值和最大值，X_norm：X经过归一化处理后的值；

(3)滑动窗口处理：将经过缺失值处理和归一化处理后的数据，进行滑动窗口处理，将前24个小时的数据作为LSTM-RNN模型的训练数据，第25个小时的数据作为LSTM-RNN模型的训练标签。

4.根据权利要求1所述的基于联邦学习的长距离高速公路交通流量预测方法，其特征在于，在所述步骤三联邦学习中，

服务端模型权重聚合策略：

设客户端k第t轮通信上传到服务端的参数为

L_k为客户端k的损失函数，η为模型学习率，服务端对模型权重聚合后的参数为W^t+1，

p_k为客户端k的聚合权重，且

每个客户端的聚合权重p_k，采用如下策略计算p_k，先计算每个客户端上传的权重参数与服务端的权重参数的内积G_k，再根据单调递增映射函数f_k，计算p_k；

f_k＝ln(G_k+1)

当G_k＜0时，令p_k＝0；当G_k≥0时，令

5.根据权利要求1所述的基于联邦学习的长距离高速公路交通流量预测方法，其特征在于，所述步骤四中，预测值的衡量指标采用均方误差(MSE)、均方根误差(RMSE)、平均绝对误差(MAE)、R²；

其中M为样本总数，y_m为样本值，

样本预测值，

为样本均值。

Images