CN113326960A - 基于粒子群算法优化lstm的地铁牵引能耗预测方法 - Google Patents

Abstract

本发明公开了一种基于粒子群算法优化LSTM的地铁牵引能耗预测方法，方法为：首先获取地铁牵引能耗原始数据，根据灰色关联分析法选取牵引能耗的影响因素作为模型的输入；然后将数据集分为训练集和测试集，对训练集数据进行归一化处理；接着用改进的粒子群算法优化LSTM神经网络预测模型的超参数，结合训练样本和所得的最优参数组合构建用于地铁牵引能耗预测的LSTM网络模型；最后将测试集输入回归预测模型，预测地铁下个时间段的牵引能耗值。本发明提高了LSTM神经网络超参数寻优的搜索能力，提高了地铁牵引能耗预测的准确率。

Description

基于粒子群算法优化LSTM的地铁牵引能耗预测方法

技术领域

本发明涉及城市轨道交通牵引能耗预测技术领域，特别是一种基于粒子群算法优化LSTM的地铁牵引能耗预测方法。

背景技术

城市轨道交通运营管理过程中，准确预测列车的牵引能耗有利于合理制定运输组织模式和评价牵引用能效率，成为辅助行业运营和服务的有力工具，并为进行节能优化研究提供支持。牵引能耗数据是时间序列数据，随着机器学习及深度学习的推进，对牵引能耗的预测方法也在不断改善。

在统计特性研究层面，有趋势外推法、线性回归、隐形马尔科夫预测模型及卡尔曼滤波等；在机器学习方法层面，通过挖掘历史数据隐含的信息，实现牵引能耗的迭代估计，支持向量机、决策树、随机森林、贝叶斯网络、小波理论、BP神经网络等不同模型都应用在牵引能耗预测中。

在深度学习中，LSTM因其特殊的网络结构，可以兼顾数据的时序性和非线性关系并弥补RNN的梯度消亡和长期记忆能力不足等问题，适合于地铁的牵引能耗预测，但该方法需要对LSTM神经网络的多种参数进行调整，才能拥有较高的预测精度。目前对于LSTM神经网络预测模型参数选取研究多是采用根据经验设置、遍历多网格搜索算法、控制变量精细调参，本质都是人工搜索寻找最优值，计算资源消耗量大。

发明内容

本发明的目的在于提供一种训练的收敛速度快、参数寻优的搜索能力强、地铁牵引能耗预测的准确率高的地铁牵引能耗预测方法。

实现本发明目的的技术解决方案为：一种基于粒子群算法优化LSTM的地铁牵引能耗预测方法，包括如下步骤：

步骤1：获取地铁牵引能耗原始数据；

步骤2：根据灰色关联分析法选取牵引能耗的影响因素作为模型的输入；

步骤3：将数据集划分为训练集和测试集，对训练集数据进行归一化处理；

步骤4：用改进的粒子群算法优化LSTM神经网络预测模型的超参数，结合训练样本和所得的最优参数组合构建用于地铁牵引能耗预测的LSTM网络模型；

步骤5：将测试集输入回归预测模型，预测地铁下个时间段的牵引能耗值。

进一步地，步骤1中所述的获取地铁牵引能耗原始数据，具体如下：

从SCADA系统中获取地铁牵引能耗原始数据，原始数据包括待预测日之前设定天数的地铁牵引能耗历史数据以及温度、客流、运行里程、开行列次的历史数据。

进一步地，步骤2所述的根据灰色关联分析法选取牵引能耗的影响因素作为模型的输入，具体如下：

步骤2.1：选取地铁日牵引能耗为参考数列，能耗的影响因素变量为比较数列，记为Z_i＝{z_i(k)|k＝1,2,…,n},i＝0,1,2,…m；

其中，z_i(k)为选取出来的参考数列和比较数列，将参考数列设为z₀(k)，i为参考数列和比较数列各自的编号，m为参考数列和比较数列的总数，k为选取数据的日期，n为总的天数；

步骤2.2：对地铁日牵引能耗与各影响因素进行无量纲化：

其中，

为序列Z_i的算术平均值；

步骤2.3：计算各影响因素与地铁日牵引能耗的关联系数：

其中，Δ_i(k)＝|z₀(k)-z′_i(k)|，z′_i(k)为对z_i(k)进行无量纲化后的值，

为所选日期中Δ_i(k)的最大值，

为所选取日期中Δ_i(k)的最小值，ρ称为分辨系数，设置为0.5；

步骤2.4：计算各影响因素与地铁日牵引能耗的关联度r_0i：

其中，ξ_0i(k)为步骤2.3求得的关联系数，k为选取数据的日期，n为总的天数；

步骤2.5：按求得的关联度数值大小，选取关联系数值大于0.6的影响因素作为模型的输入变量。

进一步地，步骤3中所述的对训练集数据进行归一化处理，具体如下：

数据归一化方法采用Z-score标准化，公式如下：

其中，d^*为归一化后的数据，d为原始数据，

为训练集数据的均值，σ为训练集数据的标准差。

进一步地，步骤4所述的用改进的粒子群算法优化LSTM神经网络预测模型的超参数，结合训练样本和所得的最优参数组合构建用于地铁牵引能耗预测的LSTM网络模型，具体如下：

步骤4.1：通过动态调节惯性权重ω来改进粒子群算法，改进后粒子群算法的速度更新公式、位置更新公式以及惯性权重ω分别如下：

其中，v为当前粒子的速度；x为当前粒子的位置；pbest为个体最优位置；gbest为全局最优位置；ω是惯性权重，它描述了粒子上一代速度对当前代速度的影响水平；c₁和c₂是学习因子，分别用于调节向个体最优位置pbest和全局最优位置gbest的步长；r₁和r₂为介于(0,1)之间的随机数；k为当前迭代次数；i为当前粒子标号；d是维数的标号；ω_max和ω_min分别为惯性权重的最大值和最小值；K_max为最大迭代次数；

步骤4.2：用改进的粒子群算法优化LSTM神经网络预测模型的超参数，包括LSTM神经网络隐藏层神经元个数、批处理样本数量、训练迭代次数、学习速率和时间窗口大小；

步骤4.3：在参数搜索空间里，以预测误差最小为目标函数，结合训练样本对参数组合进行优化，得到粒子群算法优化好的参数组合，采用时间窗口大小参数对输入数据进行处理，通过隐藏层神经元个数、批处理样本数量、训练迭代次数、学习速率来对LSTM神经网络进行设置，构建用于地铁牵引能耗预测的LSTM神经网络预测模型。

本发明与现有技术相比，其显著优点在于：(1)加快了训练的收敛速度，提高了地铁牵引能耗预测的效率；(2)提高了参数寻优的搜索能力，以及地铁牵引能耗预测的准确率，为实际运营中合理制定运输组织模式提供可靠的数据支持。

附图说明

图1为本发明基于粒子群算法优化LSTM的地铁牵引能耗预测方法的流程示意图。

图2为本发明实施例中采用本发明方法与另外两种现有模型的预测结果比较图。

具体实施方式

本发明基于粒子群算法优化LSTM的地铁牵引能耗预测方法，包括如下步骤：

步骤1：获取地铁牵引能耗原始数据；

步骤2：根据灰色关联分析法选取牵引能耗的影响因素作为模型的输入；

步骤3：将数据集划分为训练集和测试集，对训练集数据进行归一化处理；

步骤4：用改进的粒子群算法优化LSTM神经网络预测模型的超参数，结合训练样本和所得的最优参数组合构建用于地铁牵引能耗预测的LSTM网络模型；

步骤5：将测试集输入回归预测模型，预测地铁下个时间段的牵引能耗值。

进一步地，步骤1中所述的获取地铁牵引能耗原始数据，具体如下：

从SCADA系统中获取地铁牵引能耗原始数据，原始数据包括待预测日之前设定天数的地铁牵引能耗历史数据以及温度、客流、运行里程、开行列次的历史数据。

进一步地，步骤2所述的根据灰色关联分析法选取牵引能耗的影响因素作为模型的输入，具体如下：

步骤2.1：选取地铁日牵引能耗为参考数列，能耗的影响因素变量为比较数列，记为Z_i＝{z_i(k)|k＝1,2,…,n},i＝0,1,2,…m；

其中，z_i(k)为选取出来的参考数列和比较数列，将参考数列设为z₀(k)，i为参考数列和比较数列各自的编号，m为参考数列和比较数列的总数，k为选取数据的日期，n为总的天数；

步骤2.2：对地铁日牵引能耗与各影响因素进行无量纲化：

其中，

为序列Z_i的算术平均值；

步骤2.3：计算各影响因素与地铁日牵引能耗的关联系数：

其中，Δ_i(k)＝|z₀(k)-z′_i(k)|，z′_i(k)为对z_i(k)进行无量纲化后的值，

为所选日期中Δ_i(k)的最大值，

为所选取日期中Δ_i(k)的最小值，ρ称为分辨系数，设置为0.5；

步骤2.4：计算各影响因素与地铁日牵引能耗的关联度r_0i：

其中，ξ_0i(k)为步骤2.3求得的关联系数，k为选取数据的日期，n为总的天数；

步骤2.5：按求得的关联度数值大小，选取关联系数值大于0.6的影响因素作为模型的输入变量。

进一步地，步骤3中所述的对训练集数据进行归一化处理，具体如下：

数据归一化方法采用Z-score标准化，公式如下：

其中，d^*为归一化后的数据，d为原始数据，

为训练集数据的均值，σ为训练集数据的标准差。

进一步地，步骤4所述的用改进的粒子群算法优化LSTM神经网络预测模型的超参数，结合训练样本和所得的最优参数组合构建用于地铁牵引能耗预测的LSTM网络模型，具体如下：

步骤4.1：通过动态调节惯性权重ω来改进粒子群算法，改进后粒子群算法的速度更新公式、位置更新公式以及惯性权重ω分别如下：

其中，v为当前粒子的速度；x为当前粒子的位置；pbest为个体最优位置；gbest为全局最优位置；ω是惯性权重，它描述了粒子上一代速度对当前代速度的影响水平；c₁和c₂是学习因子，分别用于调节向个体最优位置pbest和全局最优位置gbest的步长；r₁和r₂为介于(0,1)之间的随机数；k为当前迭代次数；i为当前粒子标号；d是维数的标号；ω_max和ω_min分别为惯性权重的最大值和最小值；K_max为最大迭代次数；

步骤4.2：用改进的粒子群算法优化LSTM神经网络预测模型的超参数，包括LSTM神经网络隐藏层神经元个数、批处理样本数量、训练迭代次数、学习速率和时间窗口大小；

步骤4.3：在参数搜索空间里，以预测误差最小为目标函数，结合训练样本对参数组合进行优化，得到粒子群算法优化好的参数组合，采用时间窗口大小参数对输入数据进行处理，通过隐藏层神经元个数、批处理样本数量、训练迭代次数、学习速率来对LSTM神经网络进行设置，构建用于地铁牵引能耗预测的LSTM神经网络预测模型。

以下结合附图和具体实施例对本发明进行进一步的详细说明。

实施例

结合图1，本发明的基于粒子群算法优化LSTM的地铁牵引能耗预测方法，包括以下步骤：

步骤1：获取地铁牵引能耗原始数据，具体如下：

从SCADA系统中获取地铁牵引能耗原始数据，原始数据包括待预测日之前若干天的地铁牵引能耗历史数据以及温度、客流、运行里程、开行列次的历史数据。

步骤2：根据灰色关联分析法选取牵引能耗的影响因素作为模型的输入，具体如下：

步骤2.1：选取地铁日牵引能耗为参考数列，能耗的影响因素变量为比较数列，记为Z_i＝{z_i(k)|k＝1,2,…,n},i＝0,1,2,…m；

其中，z_i(k)为选取出来的参考数列和比较数列，通常将参考数列设为z₀(k)，i为参考数列和比较数列各自的编号，m为参考数列和比较数列的总数，k为选取数据的日期，n为总的天数；

步骤2.2：对地铁日牵引能耗与各影响因素进行无量纲化：

其中，

为序列Z_i的算术平均值；

步骤2.3：计算各影响因素与地铁日牵引能耗的关联系数：

其中，Δ_i(k)＝|z₀(k)-z′_i(k)|，z′_i(k)为对z_i(k)进行无量纲化后的值，

为所选日期中Δ_i(k)的最大值，

为所选取日期中Δ_i(k)的最小值，ρ称为分辨系数，本实施例设置为0.5；

步骤2.4：计算各影响因素与地铁日牵引能耗的关联度r_0i：

其中，ξ_0i(k)为步骤2.3求得的关联系数，k为选取数据的日期，n为总的天数；

步骤2.5：按求得的关联度数值大小，选取关联系数值大于0.6的影响因素作为模型的输入变量。

步骤3：将数据集分为训练集和测试集，对训练集数据进行归一化处理，具体如下：

读取获得的原始牵引能耗等历史数据，采用Z-score标准化方法对数据归一化：

其中，d^*为归一化后的数据，d为原始数据，

为训练集数据的均值，σ为训练集数据的标准差。

步骤4：用改进的粒子群算法优化LSTM神经网络预测模型的超参数，结合训练样本和所得的最优参数组合构建用于地铁牵引能耗预测的LSTM网络模型，具体如下：

步骤4.1：通过动态调节惯性权重ω来改进粒子群算法，改进后粒子群算法的速度更新公式、位置更新公式以及惯性权重ω分别如下：

其中，v为当前粒子的速度；x为当前粒子的位置；pbest为个体最优位置；gbest为全局最优位置；ω是惯性权重，表示粒子上一代速度对当前代速度的影响水平；c₁和c₂是学习因子，分别用于调节向个体最优位置pbest和全局最优位置gbest的步长；r₁和r₂为介于(0,1)之间的随机数；k为当前迭代次数；i为当前粒子标号；d是维数的标号；ω_max和ω_min分别为惯性权重的最大值和最小值；K_max为最大迭代次数。

步骤4.2：用改进的粒子群算法优化LSTM神经网络预测模型的超参数，包括LSTM神经网络隐藏层神经元个数、批处理样本数量、训练迭代次数、学习速率和时间窗口大小；

步骤4.3：在参数搜索空间里，以预测误差最小为目标函数，对参数组合进行优化，得到优化后的最优参数组合，由时间窗口大小参数对输入数据进行处理，通过隐藏层神经元个数、批处理样本数量、训练迭代次数、学习速率来对LSTM神经网络进行设置，构建用于地铁牵引能耗预测的LSTM神经网络预测模型。

步骤5：将测试集输入回归预测模型，预测地铁下个时间段的牵引能耗值，具体如下：

根据步骤2和步骤3将测试集数据输入到步骤4所得的回归预测模型，即可预测地铁下一时间段的牵引能耗值。

本实施例采用本发明提出的一种基于粒子群算法优化LSTM的地铁牵引能耗预测方法，对采集的牵引能耗及其影响因素历史数据进行预处理，并划分为训练集和测试集；采用改进的粒子群算法对LSTM神经网络中的超参数进行优化；利用优化得到的最优参数构建LSTM预测模型；用训练集数据对LSTM预测模型进行训练；调用预测模型对测试集数据进行预测并评估预测误差。结合图2，将本发明所述的PSO-LSTM方法与另外两种现有模型LR(多元线性回归模型)和RFR(随机森林回归模型)的预测结果进行比较，可以看出，本发明方法提高了LSTM神经网络超参数寻优的搜索能力，并最终提高了地铁牵引能耗预测的准确率。

Claims (5)

1.一种基于粒子群算法优化LSTM的地铁牵引能耗预测方法，其特征在于，包括如下步骤：

步骤1：获取地铁牵引能耗原始数据；

步骤2：根据灰色关联分析法选取牵引能耗的影响因素作为模型的输入；

步骤3：将数据集划分为训练集和测试集，对训练集数据进行归一化处理；

步骤4：用改进的粒子群算法优化LSTM神经网络预测模型的超参数，结合训练样本和所得的最优参数组合构建用于地铁牵引能耗预测的LSTM网络模型；

步骤5：将测试集输入回归预测模型，预测地铁下个时间段的牵引能耗值。

2.根据权利要求1所述的基于粒子群算法优化LSTM的地铁牵引能耗预测方法，其特征在于，步骤1中所述的获取地铁牵引能耗原始数据，具体如下：

从SCADA系统中获取地铁牵引能耗原始数据，原始数据包括待预测日之前设定天数的地铁牵引能耗历史数据以及温度、客流、运行里程、开行列次的历史数据。

3.根据权利要求1所述的基于粒子群算法优化LSTM的地铁牵引能耗预测方法，其特征在于，步骤2所述的根据灰色关联分析法选取牵引能耗的影响因素作为模型的输入，具体如下：

步骤2.1：选取地铁日牵引能耗为参考数列，能耗的影响因素变量为比较数列，记为Z_i＝{z_i(k)|k＝1,2,…,n},i＝0,1,2,…m；

其中，z_i(k)为选取出来的参考数列和比较数列，将参考数列设为z₀(k)，i为参考数列和比较数列各自的编号，m为参考数列和比较数列的总数，k为选取数据的日期，n为总的天数；

步骤2.2：对地铁日牵引能耗与各影响因素进行无量纲化：

其中，

为序列Z_i的算术平均值；

步骤2.3：计算各影响因素与地铁日牵引能耗的关联系数：

其中，Δ_i(k)＝|z₀(k)-z′_i(k)|，z′_i(k)为对z_i(k)进行无量纲化后的值，

为所选日期中Δ_i(k)的最大值，

为所选取日期中Δ_i(k)的最小值，ρ称为分辨系数，设置为0.5；

步骤2.4：计算各影响因素与地铁日牵引能耗的关联度r_0i：

其中，ξ_0i(k)为步骤2.3求得的关联系数，k为选取数据的日期，n为总的天数；

步骤2.5：按求得的关联度数值大小，选取关联系数值大于0.6的影响因素作为模型的输入变量。

4.根据权利要求1所述的基于粒子群算法优化LSTM的地铁牵引能耗预测方法，其特征在于，步骤3中所述的对训练集数据进行归一化处理，具体如下：

数据归一化方法采用Z-score标准化，公式如下：

其中，d^*为归一化后的数据，d为原始数据，

为训练集数据的均值，σ为训练集数据的标准差。

5.根据权利要求1所述的基于粒子群算法优化LSTM的地铁牵引能耗预测方法，其特征在于，步骤4所述的用改进的粒子群算法优化LSTM神经网络预测模型的超参数，结合训练样本和所得的最优参数组合构建用于地铁牵引能耗预测的LSTM网络模型，具体如下：

步骤4.1：通过动态调节惯性权重ω来改进粒子群算法，改进后粒子群算法的速度更新公式、位置更新公式以及惯性权重ω分别如下：

其中，v为当前粒子的速度；x为当前粒子的位置；pbest为个体最优位置；gbest为全局最优位置；ω是惯性权重，它描述了粒子上一代速度对当前代速度的影响水平；c₁和c₂是学习因子，分别用于调节向个体最优位置pbest和全局最优位置gbest的步长；r₁和r₂为介于(0,1)之间的随机数；k为当前迭代次数；i为当前粒子标号；d是维数的标号；ω_max和ω_min分别为惯性权重的最大值和最小值；K_max为最大迭代次数；

步骤4.2：用改进的粒子群算法优化LSTM神经网络预测模型的超参数，包括LSTM神经网络隐藏层神经元个数、批处理样本数量、训练迭代次数、学习速率和时间窗口大小；

步骤4.3：在参数搜索空间里，以预测误差最小为目标函数，结合训练样本对参数组合进行优化，得到粒子群算法优化好的参数组合，采用时间窗口大小参数对输入数据进行处理，通过隐藏层神经元个数、批处理样本数量、训练迭代次数、学习速率来对LSTM神经网络进行设置，构建用于地铁牵引能耗预测的LSTM神经网络预测模型。

Images