CN106096767A - 一种基于lstm的路段行程时间预测方法 - Google Patents

Abstract

本发明公开一种基于LSTM的路段行程时间预测方法，其特征在于，该方法包括预测模型生成和未来时段的行程时间的预测两部分；预测模型生成包括：步骤A1，对指定路段的历史行程时间数据进行数据归一化处理；步骤A2，利用归一化处理后的历史行程时间数据训练LSTM递归神经网络获得预测模型；未来时段的行程时间的预测包括：步骤B1，将当前行程时间数据采用步骤A1同样的方法进行数据归一化处理，然后输入预测模型进行未来时段的行程时间的预测，对预测结果进行反归一化处理得到未来时段的行程时间。能够挖掘行程时间数据的短时关联模式和长时关联模式，根据当前状态自动调整历史信息对当前预测的贡献，预测精度高、鲁棒性好。

Description

一种基于LSTM的路段行程时间预测方法

技术领域

本发明属于智能交通系统领域，特别涉及一种路段行程时间预测方法。

背景技术

路段行程时间是反映交通状况的重要指标，同时也是民众出行最关注的交通信息之一。路段行程时间具有采集难度大、受影响因素多的特点。随着现代社会生活节奏的加快，计划出行日益成为民众出行的优先选择，提前获取预测的行程时间成为民众出行的迫切需求。路段行程时间预测不仅能满足民众出行的现实需要，也有助于实现有效的交通诱导。

现有的行程时间预测方法主要基于线性模型、时间序列模型、谱分析模型、卡尔曼滤波模型、神经网络模型、最近邻模型以及支持向量回归模型。这些模型在早期的研究中取得了一定的预测效果，并被应用于不同的交通场景。但是随着社会的发展，交通系统越来越复杂，交通数据量越来越大，路段行程时间数据的波动性越来越强，这些或结构上比较简单或实现上不能适应大数据或性能上不能实时跟踪数据波动的方法越来越不能满足预测需求。

这促使我们重新思考利用大规模的行程时间数据，研究能够挖掘并记忆行程时间数据模式的预测方法。LSTM(Long-Short Term Memory)递归神经网络作为近几年取得重大突破的方法，在许多任务上取得了显著的成功。这种网络结构能够学习时序数据之间的长短时间关联关系，对于输入的时间序列数据自动决定历史数据对预测数据的贡献。目前还没有基于LSTM递归神经网络的路段行程时间预测方法。本发明针对路段行程时间的实际应用需求，提出一种基于LSTM递归神经网络结构的路段行程时间预测方法，包括数据归一化处理，递归神经网络训练，利用递归神经网络进行未来时段行程时间的预测。本方法能够挖掘行程时间数据的短时关联模式和长时关联模式，根据当前状态自动调整历史信息对当前预测的贡献，预测精度高、鲁棒性好。

发明内容

本发明的目的是给出一种基于LSTM的行程时间预测方法，从而实现对行程时间进行高精度的预测。

本发明提出的一种基于LSTM的路段行程时间预测方法，该方法包括预测模型生成和未来时段的行程时间的预测两部分；

预测模型生成：

步骤A1：对指定路段的历史行程时间数据进行数据归一化处理；

步骤A2：利用归一化处理后的历史行程时间数据训练LSTM递归神经网络获得预测模型；

未来时段的行程时间的预测：

步骤B1：将当前行程时间数据采用步骤A1同样的方法进行数据归一化处理，然后输入步骤A2所获得的预测模型进行未来时段的行程时间的预测，对预测结果进行反归一化处理得到未来时段的行程时间。

优选的，所述步骤A1中的数据归一化处理方法包括以下步骤：

步骤A11：提取指定路段的最长历史行程时间T_max；

步骤A12：提取指定路段的行驶里程L和最高限速V_max，计算指定路段的限制最短行程时间T_min；

步骤A13：使用min-max标准化方法对指定路段的历史行程时间数据进行归一化处理，使历史行程时间数据映射到[0,1]的区间。

优选的，所述步骤A2进一步包括以下步骤：

步骤A21，将归一化处理后的历史行程时间数据按照序列的时间顺序分为两组，时间顺序靠前的一组作为训练集数据、时间顺序靠后的一组作为验证集数据；

步骤A22，设定LSTM递归神经网络的输入维度和输出维度为1，设定LSTM模块的维度为M，其中M＝1,2,3,…M_max，M_max为预设值；

步骤A23，依次在M的每个取值所对应的LSTM递归神经网络结构上，利用训练集数据迭代地训LSTM练递归神经网中的参数，并利用验证集数据对每次训练后的网络进行评估，更新并保存M的每个取值下性能最优的LSTM递归神经网络，评估性能满足终止条件则终止训练；对比M的每个取值对应的训练完成并保存的性能最优网络，选取相对性能最优的网络作为LSTM递归神经网络结构的行程时间的预测模型。

优选的，所述步骤A23进一步包括以下步骤：

步骤A231：进行外循环初始化，设定M＝1；进行设定误差值的设置；

步骤A232：进行内循环初始化，设定迭代次数＝1，设定当前最小误差为无穷大，设定最大迭代次数；

步骤A233：基于结构风险最小化原理，利用训练集数据进行LSTM递归神经网络的训练；

步骤A234：将验证集数据输入步骤A233训练好的LSTM递归神经网络，利用经验风险函数进行验证集误差的计算；

步骤A235：若验证集误差大于或等于当前最小误差，则直接迭代次数+1；

若验证集误差小于当前最小误差，则将验证集误差的值赋予当前最小误差，则把当前LSTM递归神经网络作为最优网络，更新并存储最优网络的参数和验证集误差，然后进行如下判断：

若验证集误差小于设定误差，则读取当前LSTM递归神经网络的参数，并执行步骤A238；若验证集误差大于或等于设定误差则迭代次数+1；

步骤A236：若迭代次数小于或等于最大迭代次数，则执行步骤A233；

若迭代次数大于最大迭代次数则M＝M+1，然后进行如下判断：

若M＞M_max则执行步骤A237；若M≤M_max则执行步骤A232；

步骤A237：对比不同M值时最优网络的验证集误差，选取验证集误差最小的最优网络，并读取所对应的LSTM递归神经网络的参数；

步骤A238：依据所选择的网络参数确定LSTM递归神经网络结构的行程时间的预测模型。

优选的，所述步骤B1进一步包括以下步骤：

步骤B11，获取指定路段当前时段的行程时间数据T_t，以及当前时段之前的行程时间数据T_t-1,T_t-2,…,T_t-N；

步骤B12，采用步骤A1同样的方法对T_t-N,T_t-(N-1),…,T_t-1,T_t进行数据归一化处理；

步骤B13，依次将归一化处理后的行程时间x_t-N,x_t-(N-1),…,x_t-1,x_t输入步骤A2所获得的预测模型，经过递推计算得到x_t对应的输出即为未来下一时段的行程时间的归一化预测值；

步骤B14，将x_t-N,x_t-(N-1),…,x_t,，…，输入预测模型，经过递推计算得到对应的输出即为未来第(K+1)个时段的行程时间的归一化预测值；

步骤B15，所得到的归一化预测值进行反归一化，得到预测的未来时段的行程时间。

本发明的有益效果是：本发明所述的一种基于LSTM的路段行程时间预测方法能够挖掘行程时间数据的短时关联模式和长时关联模式，根据当前状态自动调整历史信息对当前预测的贡献，预测精度高、鲁棒性好。

附图说明

图1是本发明路段行程时间预测方法框图；

图2是LSTM递归神经网络结构图；

图3是LSTM模块结构图；

图4是递归神经网络结构训练流程示意图。

具体实施方式

下面将结合附图对本发明加以详细说明，应指出的是，所描述的实施例仅旨在便于对本发明的理解，而对其不起任何限定作用。

本发明给出一种基于LSTM的路段行程时间预测方法。如图1所示，该方法包括预测模型生成和未来时段的行程时间的预测两部分；

预测模型生成：

步骤A1：对指定路段的历史行程时间数据进行数据归一化处理；

所述历史行程时间数据来源于交通数据采集系统，可以通过路段出口处和入口处的自动车辆识别设备获取车辆进入路段和驶出路段的时刻，进而计算车辆在指定路段的行程时间，通过统计各个时段进入指定路段的车辆在指定路段的行程时间，得到各个时段指定路段的车辆行程时间的平均值，作为该路段各个时段的行程时间。

数据归一化处理方法包括以下步骤：

步骤A11：提取指定路段的最长历史行程时间T_max；

步骤A12：提取指定路段的行驶里程L和最高限速V_max，计算指定路段的限制最短行程时间T_min，具体如公式(1)所示；

$T_{min}=\frac{L}{V_{\max }}---\left(1\right)$

步骤A13：使用min-max标准化方法对指定路段的历史行程时间数据进行归一化处理，使历史行程时间数据T_t映射到[0,1]的区间。

归一化后的行程时间数据x_t定义如公式(2)所示为，

$x_t=\frac{T_t-T_{\min }}{T_{\max }-T_{\min }}---\left(2\right)$

步骤A2：利用归一化处理后的历史行程时间数据训练LSTM递归神经网络获得预测模型；

所述递归神经网络结构预测模型如图2所示。其中，网络的隐层由LSTM模块构成，LSTM模块的结构如图3所示。递归神经网络的输入为归一化处理后第t个时段的行程时间x_t，输出为预测的第t+1个时段的行程时间考虑到各个时段之间的时序关联，第t个时段的隐层连接至第t+1个时段的隐层，第t个时段的隐层输出为h_t。递归神经网络隐层的LSTM模块包含3个控制门：输入门(input gate)、记忆门(forget gate)、输出门(outputgate)。3个控制门的输入都是本时段输入x_t和上时段隐层输出h_t-1。3个控制门的输出分别是i_t、f_t、o_t。为输入的模块状态，C_t为当前的模块状态，h_t为模块的输出即递归神经网络的隐层输出。

递归神经网络从输入到输出的计算过程如公式(3)～(9)所示：

输入门：i_t＝σ(W_i·[x_t,h_t-1]+b_i) (3)

记忆门：f_t＝σ(W_f·[x_t,h_t-1]+b_f) (4)

输出门：o_t＝σ(W_o·[x_t,h_t-1]+b_o) (5)

输入的模块状态：

当前的模块状态：

模块的输出(递归神经网络的隐层输出)：h_t＝o_t*tanh(C_t) (8)

递归神经网络的输出：

其中，W_i、W_f、W_o、W_C是连接递归神经网络输入层和隐层的权重参数，这4个参数组成图2中的参数W₁；b_i、b_f、b_o、b_C分别是输入门、记忆门、输出门和输入的模块状态的偏置参数；W₂是连接递归神经网络隐层和输出层的权重参数，b是递归神经网络输出层的偏置参数。σ为sigmoid函数tanh为双曲正切函数

训练递归神经网络的目标是使得网络的预测输出和实际的观测值相等。给定训练集{x₁,x₂,…,x_Num,x_Num+1}，定义网络的经验风险函数如公式(10)所示：

$J_0=\frac{1}{2Num}\underset{t=1}{\overset{Num}{\Σ}}{(x_{t+1}-{\tilde{x}}_{t+1})}^2---\left(10\right)$

通过梯度下降法最小化J₀可以推导出递归神经网络中的参数W_i,W_f,W_o,W_C,b_i,b_f,b_o,b_C,W₂,b，为了便于描述本实施例用θ进行表示。为了避免“过拟合”现象，在经验风险函数上添加表示模型复杂度的正则化项，得到网络的结构风险函数如公式(11)所示：

$J_1=J_0+\frac{\mathrm{\λ}}{2}{||\mathrm{\θ}||}^2---\left(11\right)$

其中λ≥0是权衡经验风险和模型复杂度的系数。通过最小化J₁可以推导出递归神经网络中的参数θ，得到正则化的预测模型。

具体的训练过程包括以下步骤：

步骤A21，将归一化处理后的历史行程时间数据按照序列的时间顺序分为两组，时间顺序靠前的一组作为训练集数据、时间顺序靠后的一组作为验证集数据；

步骤A22，设定LSTM递归神经网络的输入维度和输出维度为1，设定LSTM模块的维度为M，其中M＝1,2,3,…M_max，M_max为预设值；

步骤A23，依次在M的每个取值所对应的LSTM递归神经网络结构上，利用训练集数据迭代地训LSTM练递归神经网中的参数，并利用验证集数据对每次训练后的网络进行评估，更新并保存M的每个取值下性能最优的LSTM递归神经网络，评估性能满足终止条件则终止训练；对比M的每个取值对应的训练完成并保存的性能最优网络，选取相对性能最优的网络作为LSTM递归神经网络结构的行程时间的预测模型。

一般LSTM模块的维度M的最优值是输入维度的1到3倍，为了对LSTM模块的更多的维度进行训练优化以得到更多维度下的性能最优网络，从而增加相对性能最优的网络的选择空间，本实施例选择5倍的输入维度作为M_max，即M_max＝5。

步骤A23的过程如图4所示，包括以下步骤：

步骤A231：进行外循环初始化，设定M＝1；进行设定误差值的设置；

步骤A232：进行内循环初始化，设定迭代次数＝1，设定当前最小误差为无穷大，设定最大迭代次数；

步骤A233：基于结构风险最小化原理，利用训练集数据进行LSTM递归神经网络的训练；

步骤A234：将验证集数据输入步骤A233训练好的LSTM递归神经网络，利用经验风险函数进行验证集误差的计算；

步骤A235：若验证集误差大于或等于当前最小误差，则直接迭代次数+1；

若验证集误差小于当前最小误差，则将验证集误差的值赋予当前最小误差，则把当前LSTM递归神经网络作为最优网络，更新并存储最优网络的参数和验证集误差，然后进行如下判断：

若验证集误差小于设定误差，则读取当前LSTM递归神经网络的参数，并执行步骤A238；若验证集误差大于或等于设定误差则迭代次数+1；

步骤A236：若迭代次数小于或等于最大迭代次数，则执行步骤A233；

若迭代次数大于最大迭代次数则M＝M+1，然后进行如下判断：

若M＞M_max则执行步骤A237；若M≤M_max则执行步骤A232；

步骤A237：对比不同M值时最优网络的验证集误差，选取验证集误差最小的最优网络，并读取所对应的LSTM递归神经网络的参数；

步骤A238：依据所选择的网络参数确定LSTM递归神经网络结构的行程时间的预测模型。

未来时段的行程时间的预测：

步骤B1：将当前行程时间数据采用步骤A1同样的方法进行数据归一化处理，然后输入步骤A2所获得的预测模型进行未来时段的行程时间的预测，对预测结果进行反归一化处理得到未来时段的行程时间。

步骤B11，获取指定路段当前时段的行程时间数据T_t，以及当前时段之前的行程时间数据T_t-1,T_t-2,…,T_t-N；

步骤B12，采用步骤A1同样的方法对T_t-N,T_t-(N-1),…,T_t-1,T_t进行数据归一化处理；

步骤B13，依次将归一化处理后的行程时间x_t-N,x_t-(N-1),…,x_t-1,x_t输入步骤A2所获得的预测模型，经过递推计算得到x_t对应的输出即为未来下一时段的行程时间的归一化预测值。

步骤B14，将x_t-N,x_t-(N-1),…,x_t,，…，输入预测模型，经过递推计算得到对应的输出即为未来第(K+1)个时段的行程时间的归一化预测值。

步骤B15，所得到的归一化预测值进行反归一化，得到预测的未来时段的行程时间。

反归一化后，预测的未来时段的行程时间如公式(12)所示，

${\tilde{T}}_{t+1}={\tilde{x}}_{t+1}(T_{\max }-T_{\min })+T_{\min }---\left(12\right)$

以上所述，仅为本发明中的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉该技术的人在本发明所揭露的技术范围内，可理解想到的变换或替换，都应涵盖在本发明的包含范围之内，因此，本发明的保护范围应该以权利要求书的保护范围为准。

Claims (5)

1.一种基于LSTM的路段行程时间预测方法，其特征在于，该方法包括预测模型生成和未来时段的行程时间的预测两部分；

预测模型生成：

步骤A1：对指定路段的历史行程时间数据进行数据归一化处理；

步骤A2：利用归一化处理后的历史行程时间数据训练LSTM递归神经网络获得预测模型；

未来时段的行程时间的预测：

步骤B1：将当前行程时间数据采用步骤A1同样的方法进行数据归一化处理，然后输入步骤A2所获得的预测模型进行未来时段的行程时间的预测，对预测结果进行反归一化处理得到未来时段的行程时间。

2.根据权利要求1所述的方法，其特征在于，所述步骤A1中的数据归一化处理方法包括以下步骤：

步骤A11：提取指定路段的最长历史行程时间T_max；

步骤A12：提取指定路段的行驶里程L和最高限速V_max，计算指定路段的限制最短行程时间T_min；

步骤A13：使用min-max标准化方法对指定路段的历史行程时间数据进行归一化处理，使历史行程时间数据映射到[0,1]的区间。

3.根据权利要求1所述的方法，其特征在于，所述步骤A2进一步包括以下步骤：

步骤A21，将归一化处理后的历史行程时间数据按照序列的时间顺序分为两组，时间顺序靠前的一组作为训练集数据、时间顺序靠后的一组作为验证集数据；

步骤A22，设定LSTM递归神经网络的输入维度和输出维度为1，设定LSTM模块的维度为M，其中M＝1,2,3,…M_max，M_max为预设值；

步骤A23，依次在M的每个取值所对应的LSTM递归神经网络结构上，利用训练集数据迭代地训LSTM练递归神经网中的参数，并利用验证集数据对每次训练后的网络进行评估，更新并保存M的每个取值下性能最优的LSTM递归神经网络，评估性能满足终止条件则终止训练；对比M的每个取值对应的训练完成并保存的性能最优网络，选取相对性能最优的网络作为LSTM递归神经网络结构的行程时间的预测模型。

4.根据权利要求3所述的方法，其特征在于，所述步骤A23进一步包括以下步骤：

步骤A231：进行外循环初始化，设定M＝1；进行设定误差值的设置；

步骤A232：进行内循环初始化，设定迭代次数＝1，设定当前最小误差为无穷大，设定最大迭代次数；

步骤A233：基于结构风险最小化原理，利用训练集数据进行LSTM递归神经网络的训练；

步骤A234：将验证集数据输入步骤A233训练好的LSTM递归神经网络，利用经验风险函数进行验证集误差的计算；

步骤A235：若验证集误差大于或等于当前最小误差，则直接迭代次数+1；

若验证集误差小于当前最小误差，则将验证集误差的值赋予当前最小误差，则把当前LSTM递归神经网络作为最优网络，更新并存储最优网络的参数和验证集误差，然后进行如下判断：

若验证集误差小于设定误差，则读取当前LSTM递归神经网络的参数，并执行步骤A238；若验证集误差大于或等于设定误差则迭代次数+1；

步骤A236：若迭代次数小于或等于最大迭代次数，则执行步骤A233；

若迭代次数大于最大迭代次数则M＝M+1，然后进行如下判断：

若M＞M_max则执行步骤A237；若M≤M_max则执行步骤A232；

步骤A237：对比不同M值时最优网络的验证集误差，选取验证集误差最小的最优网络，并读取所对应的LSTM递归神经网络的参数；

步骤A238：依据所选择的网络参数确定LSTM递归神经网络结构的行程时间的预测模型。

5.根据权利要求1-4中任一项所述的方法，其特征在于，所述步骤B1进一步包括以下步骤：

步骤B11，获取指定路段当前时段的行程时间数据T_t，以及当前时段之前的行程时间数据T_t-1,T_t-2,…,T_t-N；

步骤B12，采用步骤A1同样的方法对T_t-N,T_t-(N-1),…,T_t-1,T_t进行数据归一化处理；

步骤B13，依次将归一化处理后的行程时间x_t-N,x_t-(N-1),…,x_t-1,x_t输入步骤A2所获得的预测模型，经过递推计算得到x_t对应的输出即为未来下一时段的行程时间的归一化预测值；

步骤B14，将输入预测模型，经过递推计算得到对应的输出即为未来第(K+1)个时段的行程时间的归一化预测值；

步骤B15，所得到的归一化预测值进行反归一化，得到预测的未来时段的行程时间。