CN109583656A - 基于a-lstm的城市轨道交通客流量预测方法 - Google Patents

Abstract

本发明属于机器学习领域，本发明请求保护一种基于A‑LSTM的城市轨道交通客流量预测方法，所述方法涉及时间特征、空间特征提取以及预测算法设计三个部分；时间特征主要是通过分层聚类的方法对星期这个因素进行聚类分析，寻找星期之间的联系；空间特征指的是不同地铁站的客流量分布特征，通过对不同站点进行分析，寻找空间上的客流量分布关系；预测算法主要是通过基于一种改进的LSTM的神经网络，加入注意力机制，使LSTM网络更加关注模型对预测影响更大的输入特征，从而对客流量数据进行更精确的预测。

Description

基于A-LSTM的城市轨道交通客流量预测方法

技术领域

本发明涉及一种基于A-LSTM(Attention Long Short Term Memory)的城市轨道交通客流量预测方法；为城市轨道交通的调度提供服务，属于轨道交通与数据挖掘的交叉领域。

背景技术

城市规模的快速发展、路网总量的不断提升、机动车保有量快速增长，交通问题已经成为城市发展和管理最重要的问题之一。随着道路通行能力的有限供给相对于交通需求总量快速增长的落后差距拉大，交通需求与交通供给之间矛盾日益凸显，虽然很多城市都已经建设了城市轨道交通系统，但是早晚高峰期的交通拥堵问题依然是城市人非常关心的问题之一。而且，随着生活素质不断提升，人们对城市轨道交通的安全、快捷、便利的需求越来越高，不仅如此，交通拥堵如果解决不好，还会阻碍一个城市或地区的经济发展、影响一个城市或地区的形象。交通问题不仅在发展中国家，就是在发达国家也是令人困扰的严重问题。由于严重的生命和财产损失，公众和政府更加关注交通问题。

中国的城市轨道交通虽然起步较晚，但近年来发展十分迅速，目前已有北京、上海、广州、天津、大连、深圳、南京和重庆等城市建成了城市轨道交通运营线路。然而，随着城市轨道交通网络的日益完善，进站或出站客流量不断增加，轨道交通面临着严重的拥挤问题，这给有关部门的运营组织管理工作提出了新的课题。对于解决城市轨道交通拥堵问题，不仅需要加快建设新的轨道交通路线，还需要发展城市轨道交通控制系统，而准确的进站或出站客流预测在各种城市轨道交通控制系统中有相当重要的作用。由于传统预测方法的预测精度不够理想且效率很低，影响交通控制。可靠和高效的短期城市轨道交通客流量预测是实现有效的城市轨道交通管理所必需的条件。城市轨道交通客流量预测是一项复杂的工作，逐渐成为许多研究的热点课题。所以，城市轨道交通客流量预测已经引起了人们的关注。

交通系统客流预测属于复杂的非线性问题，其中，轨道交通系统是一个有人参与的、时变的复杂系统，它显著的特点之一是具有高度的不确定性。这种不确定性给轨道交通客流预测带来了困难，尤其是短期客流受更多随机因素的影响，规律性更不明显、不确定性更强，这也是短期交通客流预测相对于中长期客流预测更难的关键所在。

发明内容

为了克服上述现有技术中存在的缺陷，本发明在前人的研究基础上，采用A-LSTM模型结合分层聚类算法实现城市轨道交通进站或出站客流量预测：

(1)研究城市轨道交通客流量数据，分析提取轨道交通客流量的时间及空间特征；

(2)采用分层聚类的方法对星期特征进行聚类，有效划分样本类型，进一步提高预测精度；

(3)结合上一步分层聚类的结果，采用A-LSTM模型预测城市轨道交通进站或出站客流量。

对于交通流时间序列而言，特定路段的车流量在时间关系上并不是完全无关的，交通流量有复杂的历史依赖性，此刻的状态与上一刻的历史状态有一定程度的关系，且可能导致下一刻的变化，故采用循环神经网络是非常合适的。

隐藏神经元通常称为神经网络本体，正是由于隐藏神经元的存在，神经网络的循环才能实现。RNN(Recurrent Neural Networks)网络的基本作用其实就是一个数据推理机，当本发明给出的数据量足够大的时候，就能够获取从x_t到y_t的概率分布函数，分析出两个时间序列之间的关联度，从而实现预测的功能。

S1：获取城市轨道交通客流量数据，获得其客流量空间分布特征及时间分布特征；

S2：对空间分布特征进行处理，提取出不同地铁站的线路特征、站点特征和断面客流量特征，这三个特征即空间特征；

S3：对时间分布特征进行预处理，采用分层聚类的方法对时间分布特征进行聚类分析，划分出不同样本类型；提取出一个星期中每天的客流量分布特征，再将每天的客流量分布特征划分为多个时间段，提取出多个时间段的客流量分布特征；这两个分布特征即时间特征；

S4：采用基于注意力机制的长短时记忆神经网络A-LSTM模型，利用带有空间特征和时间特征的历史客流量数据对模型进行训练，获得预估出的客流量数据，将预估出的客流量数据与真实客流量数据进行比较，计算损失函数值，直至其最小化；

S5：输入测试集数据中t时刻窗口的轨道交通进站或出站客流量结合时间特征和空间特征，从而预测出第t+1时刻窗口城市轨道交通进站或出站客流量的值；

输入测试集数据中t时刻窗口的轨道交通进站或出站客流量结合时间特征和空间特征，从而预测出第t+1时刻窗口城市轨道交通进站或出站客流量的值；

其中，窗口的长度为n，表示为t_total表示为一天的总时间，t_period表示为每个客流量数据的时间跨度。

进一步的，所述采用分层聚类的方法对时间分布特征进行聚类分析包括将N个城市轨道交通客流量数据样本建立成N个类别，计算出各个类别之间的距离矩阵，将符合类间距离定义要求的两类合并为一个新类，计算新类与其他各类之间的距离，直到类数为1，画出谱系图，利用谱系图和分类需求，将时间特征分为合适的类数。

进一步的，所述步骤S4中包括将历史客流量数据和时空特征的输入数据x＝(x₁，x₂，…，x_T)通过注意力机制进行选择性学习，再输入到长短时记忆神经网络中，与隐藏向量序列h＝(h₁，h₂，…，h_T)进行运算，从而预估出客流量数据表示为：将预估出的客流量数据与该时刻真实客流量数据y＝(y₁，y₂，…，y_T)进行比较，来计算损失函数值，使得误差最小化，完成对基于注意力机制的长短时记忆神经网络模型的训练；t∈{1,2,...,T}；T表示一个历史客流量数据周期。

其中，x_t表示为t时刻的输入向量，包含t时刻的时空特征数据和时间段为[t-n,t-1]的历史客流量数据；n为滑动窗口长度；h_t表示隐藏向量的第t时刻的数据；表示在时间段[t,t+n-1]客流量数据的预测值；y_t表示为在时间段[t,t+n-1]的真实客流量数据，即所述步骤S5中的滑动窗口W_t。

进一步的，所述t时刻客流量数据的预测值表示为：

其中，W_hy表示隐层输出的权重矩阵；Z_t为注意力机制层的输出；b_h为隐层偏向量。

进一步的，所述注意力机制层的输出表示为Z_t＝W_ah(h_t+x_t)+b_a；W_ah为注意力机制层到隐层的权重矩阵，b_a为注意力机制层的偏向量。

进一步的，所述隐藏向量的第t时刻的数据包括：

h_t＝Η(W_xhx_t+W_hhh_t-1+Z_t-1+b_h)

其中，W_xh表示隐层输入的权重矩阵，W_hh表示隐层状态输入的权重矩阵，b_h为隐层偏向量；H为隐层函数，h_t-1表示隐藏向量的第t-1时刻的数据，Z_t-1为第t-1时刻的注意力机制值。

进一步的，所述输入测试集数据中第t时间窗口的轨道交通进站或出站客流量W_t结合时间和空间特征，从而预测出第t+1时间窗口城市轨道交通进站或出站客流量W_t+1的值包括每个时刻的窗口定义如下：W_t＝(p_t,p_t+1,…,p_t+n-1)，其中p_t表示第t个时间段的进站或者出战客流量，n为时间滑动窗口时间跨度；得到下一个窗口客流量矩阵预测值其真实值W_t+1表示为：W_t+1＝(p_t+1,p_t+2,…,p_t+n)。

进一步的，所述损失函数的计算方式包括：

其中，e_t+1表示t+1时刻的损失函数，表示在时间段[t+1,t+n]客流量数据的预测值；y_t+1＝W_t+1表示为在时间段[t+1,t+n]的真实客流量数据。

LSTM是一种特殊的RNN网络，是增加了长短时记忆功能的RNN，可以保持RNN网络的持久性，使模型能够长时间依赖。实际上长期记忆信息功能是LSTM的自身行为，不同于其他通过数据训练而学习的模型。标准RNN网络会有梯度消失问题，LSTM网络就是为了克服梯度消失问题而生，让信息不再衰减。LSTM单元是专门设计用来帮助RNN更好地记忆长期情况的单元。LSTM RNN体系结构由一个输入层，一个基本单元为内存块而不是传统神经元节点的循环隐藏层和一个输出层组成。内存块是一组经常连接的子网。每个模块包含一个或多个自连接的存储单元和三个乘法单元：输入，输出和忘记门，它们提供对单元的写，读和复位操作的连续模拟。乘法门允许LSTM存储单元长时间存储和访问信息，从而减轻梯度消失问题。

本发明的有益效果：

1、本发明摒弃了传统预测方法中直接采用历史流量进行预测的方法，而是采用了分层聚类方法对时间特征进行分类，能够按照不同观察指标将相似度较大的样本聚合为一类；有效划分样本类型，进一步提高预测精度；

2、本发明采用了A-LSTM网络，相对应传统的LSTM网络，本发明加入了attentionmechanism，能够让LSTM网络更加关注于对模型更为重要的信息，能够对预测结果影响更明显的数据。

附图说明

图1为本发明的模型框架图；

图2是本发明中的分层聚类谱系图；

图3是本发明的A-LSTM单个神经元结构；

图4是本发明中用到的注意力机制模型；

图5是本发明中A-LSTM模型结构；

图6是本发明的模型训练过程图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。

下面结合附图对本发明的具体实施作进一步的详细阐明。

本发明的一种基于A-LSTM的城市轨道交通客流量预测方法，其结构图如图1所示，包括采集历史客流量数据，获取城市轨道交通客流量数据，获得其客流量空间分布特征及时间分布特征；对空间分布特征进行处理，提取出不同地铁站的线路特征、站点特征和断面客流量特征，这三个特征即空间特征；

对时间分布特征进行预处理，采用分层聚类的方法对时间分布特征进行聚类分析，划分出不同样本类型；提取出一个星期中每天的客流量分布特征，再将每天的客流量分布特征划分为多个时间段，提取出多个时间段的客流量分布特征；

采用基于注意力机制的长短时记忆神经网络A-LSTM模型，对带有空间特征和时间特征的历史客流量数据对模型进行训练，获得预估出的客流量数据，将预估出的客流量数据与真实客流量数据进行比较，计算损失函数值，直至其最小化；

输入测试集数据中t时刻窗口的轨道交通进站或出站客流量结合时间特征和空间特征，从而预测出第t+1时刻窗口城市轨道交通进站或出站客流量的值；输入测试集数据中t时刻窗口的轨道交通进站或出站客流量结合时间特征和空间特征，从而预测出第t+1时刻窗口城市轨道交通进站或出站客流量的值；

实施例1

本实施例主要是对本发明步骤S3中对时间分布特征进行预处理，采用分层聚类的方法对时间分布特征进行聚类分析，划分出不同样本类型进行进一步的限定：

首先对时间分布特征进行分层聚类，对于本发明所研究的一批样本，存在多个观测指标，各项指标之间存在不同程度的相似性，因此提出了聚类分析方法。该方法将相似程度较大的样本(或指标)聚合为一类，其中，关系密切的聚合到一个小的分类单位，关系疏远的聚合到一个大的分类单位，从而形成不同的划分类型，得到一个由小到大的分类系统，最后以谱系图的形式将所有样本(或指标)间的亲疏关系呈现出来。基本步骤有：

(1)选择客流量数据样本之间距离的定义及类间距的定义，本发明选择了平方欧氏距离。

(2)计算每个样本两两之间的距离，得到距离矩阵。设初始样本共有N个，每个样本自成一类，即建立N类，计算各类之间的距离(初始时即为各个样本之间的距离)，得到一个N×N维的距离矩阵D⁽⁰⁾。聚类开始运算前的状态即为(0)。

(3)构造个类，每类只含有一个样本。

(4)合并符合各类间距离定义要求的两类为一个新类。求得前一步聚类运算所得距离矩阵D⁽ⁿ⁾(n为逐渐聚类合并的次数)中的最小元素，加入的该元素即为和类之间的距离，将和合并为一类以建立新的分类：

(5)计算新类与当前其他各类之间的距离，得D⁽ⁿ⁺¹⁾，直到类数为1。

(6)画出聚类谱系图。

(7)通过对聚类谱系图的分析，决定类的个数。如图2所示，作为一种可选方式，可以将周一至周四归为一类，周五单独为一类，周六周日归为一类，因此可以总共划分为三类。

实施例2

本实施例主要是对本发明的基于注意力机制的长短时记忆神经网络A-LSTM模型进行进一步的说明：

将上一步中得到的聚类之后的带有空间特征和时间特征的历史客流量数据，带入A-LSTM模型中进行训练。其中，图3为LSTM具体结构，假设历史客流量数据和时空特征的输入数据为：x＝(x₁，x₂，…，x_T)，LSTM计算隐层向量的序列为：h＝(h₁，h₂，…，h_T)，真实的客流量数据为y＝(y₁，y₂，…，y_T)，由下面的方程迭代得到预测值：

h_t＝Η(W_xhx_t+W_hhh_t-1+Z_t-1+b_h) (1)

其中，W_xh表示隐层输入的权重矩阵，W_hh表示隐层状态输入的权重矩阵，b_h为隐层偏向量；H为隐层函数，h_t-1表示隐藏向量的第t-1时刻的数据，Z_t-1为第t-1时刻的注意力机制值；t时刻客流量数据的预测值表示为：

其中，Z_t＝W_ah(h_t+x_t)+b_a，W_hy表示隐层输出的权重矩阵；b_h为隐层偏向量；h_t表示隐藏向量的第t时刻的数据，Z_t为注意力机制层的输出，W_ah为注意力机制层到隐层的权重矩阵，x_t表示为t时刻的输入向量，包含t时刻的时空特征数据和时间段为[t-n,t-1]的历史客流量数据；b_a为注意力机制层的偏向量。

目前有两种算法用来训练RNN模型，分别为BPTT(Back Propagation ThroughTime)和RTRL(Real Time Recurrent Learning)。本发明使用BPTT，因为它在概念上更简单，而且计算数据更快。平方差被用作为损失函数，定义如下：

其中，e_t+1表示损失函数，表示在时间段[t+1,t+n]客流量数据的预测值；y_t+1＝W_t+1表示为在时间段[t+1,t+n]的真实客流量数据。

可以理解的是，本发明也可采用其他损失函数，可不限于真实数据与测量数据的平方差作为损失函数。

实施例3

在前两个实施例的基础上，作为一种可选方式，本发明用到的注意力模型如图4所示，该模型需要n个隐层状态：h＝(h₁,h₂,...,h_n)和客流量数据x＝(x₁,x₂,...,x_n)；返回向量z，返回向量z可以将其理解为注意力机制值Z_t的集合。

本发明构建的A-LSTM模型如图5所示，在LSTM网络中加入一层注意力机制，用于接收隐层状态和输入的客流量数据，从而动态的调整输入的客流量数据的权重。

实施例4

本实施例是对本发明的技术效果进行详细上的说明，本发明准备建立的RNN模型使用A-LSTM作为基本隐层单元；如下图6所示，使用滑动窗口W_t作为输入，预测下一个窗口W_t+1的值。可以看出，本发明能够有效根据前一时刻的历史客流量数据和其空时特征，预测出根据下一时刻的客流量数据。

每个时刻的窗口定义如下：

W₀＝(p₀,p₁,...,p_n-1) (4)

W₁＝(p₁,p₂,...,p_n) (5)

…

W_t＝(p_t,p_t+1,...,p_n+t-1) (6)

其中p₀表示第1个时间段的进站或者出站客流量，得到下一个窗口W_t+1的值：

W_t+1＝(p_t+1,p_t+2,...,p_n+t) (7)

也可以用如下公式来表示希望得到的预测函数： 为t+1时刻的预测值，W_t+1为t+1时刻的真实值。

作为一种可选方式，可通过计算预测值和真实值W_t+1来计算损失函数值，使得误差最小化，从而再进行模型参数的优化。

至此，通过分层聚类算法提取特征，在通过加入注意力机制来改进LSTM网络，最后通过使用滑动窗口的方式确定模型的输入和输出形式，得到了一种基于分层聚类和A-LSTM的城市轨道交通客流量预测模型。

本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，该程序可以存储于一计算机可读存储介质中，存储介质可以包括：ROM、RAM、磁盘或光盘等。

以上所举实施例，对本发明的目的、技术方案和优点进行了进一步的详细说明，所应理解的是，以上所举实施例仅为本发明的优选实施方式而已，并不用以限制本发明，凡在本发明的精神和原则之内对本发明所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (8)

1.一种基于A-LSTM的城市轨道交通客流量预测方法，其特征在于，所述方法包括以下步骤：

S1：获取城市轨道交通客流量数据，获得其客流量空间分布特征及时间分布特征；

S2：对空间分布特征进行处理，提取出不同地铁站的线路特征、站点特征和断面客流量特征，这三个特征即空间特征；

S3：对时间分布特征进行预处理，采用分层聚类的方法对时间分布特征进行聚类分析，划分出不同样本类型；提取出一个星期中每天的客流量分布特征，再将每天的客流量分布特征划分为多个时间段，提取出每个时间段的客流量分布特征；这两个分布特征即时间特征；

S4：采用基于注意力机制的长短时记忆神经网络A-LSTM模型，利用带有空间特征和时间特征的历史客流量数据对模型进行训练，获得预估出的客流量数据，将预估出的客流量数据与真实客流量数据进行比较，计算损失函数值，直至使其最小化；

S5：输入测试集数据中t时刻窗口的轨道交通进站或出站客流量结合时间特征和空间特征，从而预测出第t+1时刻窗口城市轨道交通进站或出站客流量的值；

其中，窗口的长度为n，表示为t_total表示为一天的总时间，t_period表示为每个客流量数据的时间跨度。

2.根据权利要求1所述的基于A-LSTM的城市轨道交通客流量预测方法，其特征在于，所述采用分层聚类的方法对时间分布特征进行聚类分析包括将N个城市轨道交通客流量数据样本建立成N个类别，计算出各个类别之间的距离矩阵，将符合类间距离定义要求的两类合并为一个新类，计算新类与其他各类之间的距离，直到类数为1，画出谱系图，利用谱系图和分类需求，将时间特征分为合适的类数。

3.根据权利要求1所述的基于A-LSTM的城市轨道交通客流量预测方法，其特征在于，所述步骤S4中包括将历史客流量数据和时空特征的输入数据x＝(x₁，x₂，…，x_T)通过注意力机制进行选择性学习，再输入到长短时记忆神经网络中，与隐藏向量序列h＝(h₁，h₂，…，h_T)进行运算，从而预估出客流量数据表示为：将预估出的客流量数据与该时刻真实客流量数据y＝(y₁，y₂，…，y_T)进行比较，来计算损失函数值，使得误差最小化，完成对基于注意力机制的长短时记忆神经网络模型的训练；

其中，x_t表示为t时刻的输入向量，包含t时刻的时空特征数据和时间段为[t-n,t-1]的历史客流量数据；n为滑动窗口长度；h_t表示隐藏向量的第t时刻的数据；表示在时间段[t,t+n-1]客流量数据的预测值；y_t表示为在时间段[t,t+n-1]的真实客流量数据；t∈{1,2,...,T}；T表示一个历史客流量数据周期。

4.根据权利要求3所述的基于A-LSTM的城市轨道交通客流量预测方法，其特征在于，所述t时刻客流量数据的预测值表示为：

其中，W_hy表示隐层输出的权重矩阵；Z_t为注意力机制层的输出；b_h为隐层偏向量。

5.根据权利要求4所述的基于A-LSTM的城市轨道交通客流量预测方法，其特征在于，所述注意力机制层的输出表示为Z_t＝W_ah(h_t+x_t)+b_a；W_ah为注意力机制层到隐层的权重矩阵，b_a为注意力机制层的偏向量。

6.根据权利要求3所述的基于A-LSTM的城市轨道交通客流量预测方法，其特征在于，所述隐藏向量的第t时刻的数据包括：

h_t＝Η(W_xhx_t+W_hhh_t-1+Z_t-1+b_h)

其中，W_xh表示隐层输入的权重矩阵，W_hh表示隐层状态输入的权重矩阵，b_h为隐层偏向量；H为隐层函数，h_t-1表示隐藏向量的第t-1时刻的数据，Z_t-1为第t-1时刻的注意力机制值。

7.根据权利要求1所述的基于A-LSTM的城市轨道交通客流量预测方法，其特征在于，所述输入测试集数据中第t时刻窗口的轨道交通进站或出站客流量结合时间和空间特征，从而预测出第t+1时刻窗口城市轨道交通进站或出站客流量的值包括每个时刻的窗口定义如下：W_t＝(p_t,p_t+1,…,p_t+n-1)，其中p_t表示第t个时间段的进站或出站客流量；得到下一个时刻窗口客流量矩阵预测值其真实值W_t+1表示为：W_t+1＝(p_t+1,p_t+2,…,p_t+n)。

8.根据权利要求1～7任一所述的基于A-LSTM的城市轨道交通客流量预测方法，其特征在于，所述损失函数的计算方式包括：

其中，e_t+1表示t+1时刻的损失函数，表示在时间段[t+1,t+n]客流量数据的预测值；y_t+1＝W_t+1表示为在时间段[t+1,t+n]的真实客流量数据。