CN111144286A

CN111144286A - 一种融合emd和lstm的城市pm2.5浓度预测方法

Info

Publication number: CN111144286A
Application number: CN201911359480.XA
Authority: CN
Inventors: 李永; 李辩
Original assignee: Beijing University of Technology
Current assignee: Beijing University of Technology
Priority date: 2019-12-25
Filing date: 2019-12-25
Publication date: 2020-05-12

Abstract

一种融合EMD和LSTM的城市PM_2.5浓度预测方法涉及空气质量浓度预测领域。首先，获取每小时时间序列数据，对获取的数据进行数据清洗；然后，使用经验模态分解EMD对PM_2.5浓度数据进行平稳化处理，得到多个分量；接着，确定滑动时间窗口T，对每个分量进行数据序列段切分处理，并归一化统一量纲，得到多个数据集；将数据集划分为训练集和测试集，分别构建LSTM网络模型进行训练，最后使用训练好的模型对各个分量进行预测，并对其进行反归一化处理，得到最终的城市PM_2.5浓度预测结果。在此基础上构建长短期记忆神经网络LSTM模型并进行训练；最后，使用训练好的模型进行预测，并对其进行反归一化处理，得到最终的城市PM_2.5浓度预测结果。

Description

一种融合EMD和LSTM的城市PM2.5浓度预测方法

技术领域

本发明涉及一种空气质量浓度预测方法，尤其是涉及一种融合EMD和 LSTM的深度学习城市PM_2.5浓度预测方法

背景技术

随着我国城市化和工业化的快速发展，大部分城市，特别是北方地区，都出现了严重的空气污染问题。空气污染不仅严重影响了日常的交通出行，还会导致许多的健康问题，例如呼吸道疾病、心血管疾病等。自从2011年北京空气污染数据在美国大使馆发布之后，城市居民的环境保护意识日益提高，越来越多的人开始重视城市的空气质量问题。随着大数据和深度学习等新型信息技术的日益发展，如何利用空气污染大数据及深度学习技术对城市空气污染物浓度进行科学有效的预测是当前大气污染治理领域的热点问题。

城市PM_2.5浓度预测是一个典型的时间序列预测问题。近年来，学术界运用多种方法对时间序列预测模型进行研究。如ARIMA预测模型、支持向量回归预测模型等。然而，ARIMA预测模型等不能很好的对非线性时间序列进行预测，随着大数据和深度学习的发展，BP神经网络和RNN神经网络的出现解决了这一难题。长短期记忆网络(Long Short-Term Memory，LSTM)是1997 年提出的一种RNN改进模型，其模型设计的主要目的是为了解决标准RNN 在处理长期依赖问题时容易发生梯度消失和梯度爆炸的问题，目前已被广泛的应用在股票预测、交通流量预测等领域。但是神经网络预测模型只能挖掘不同时段相同维度上的数据信号，不能对噪音等进行平稳处理，因此本文提出了一种融合EMD和LSTM的深度学习时间序列预测方法。

发明内容

发明目的：本发明的目的就是针对现有技术存在的问题，提出了一种融合EMD和LSTM的城市PM_2.5浓度预测方法来提高预测模型的精度。

技术方案：本发明所诉的一种融合EMD和LSTM的城市PM_2.5浓度预测方法，包括以下的步骤：

步骤S1：获取每小时时间序列数据，对获取的数据进行数据清洗；

步骤S2：使用经验模态分解EMD对PM_2.5浓度数据进行平稳化处理，得到多个分量；

步骤S3：确定滑动时间窗口T，对每个分量进行数据序列段切分处理，并归一化统一量纲，得到多个数据集；

步骤S4：将数据集划分为训练集和测试集，分别构建LSTM网络模型进行训练；

步骤S5：使用训练好的模型对各个分量进行预测，并对其进行反归一化处理，得到最终的城市PM_2.5浓度预测结果；

步骤S1所述的数据清洗包括删除异常值，通过线性插值方法填充缺失值，公式如下：

其中，t表示缺失数据的时刻，m表示大于t时刻的最近有值的时刻，n表示小于t时刻的最近有值时刻，X_m表示m时刻的数据，X_n表示n时刻的数据，X_t表示待填充的数据。

步骤S2所述的经验模态分解EMD方法，其关键是将非线性、非平稳性的PM_2.5时间序列数据分解为12个具有不同尺度、平稳性和周期波动性特点的本征模函数(IMF)和一个代表原始信号总体趋势的残余量(RES)：

步骤S3所述的滑动时间窗口T设置为3，LSTM模型的输入是一个滑动时间窗口为T的序列段，即预测T+1时刻的PM_2.5浓度值需要将前T时刻的空气污染物历史数据和气象数据作为输入，因此需要对时间序列段进行切分处理，本文采用时间窗口为3，移动步长step为1的滑动窗口切分法。

步骤S3所述的数据标准化将不同量级的数据统一转化为同一个量级，计算公式为：

其中，x_ori表示待处理的数据，μ表示样本数据的平均值，σ表示样本数据的标准差，x表示经过z-score标准化后的输出数据。

步骤S4采用LSTM对分解后的各IMF分量和残余量RES分别进行建模，将数据集按照80％，10％，10％的比例划分为训练集、验证集和测试集，将前 3小时的空气污染物数据、气象数据作为输入数据来预测未来1小时的PM_2.5浓度，设置模型的输入层神经元个数为13，隐藏层神经元个数为7，输出层神经元个数为1，模型的损失函数为MSE损失函数，优化器选择为Adam优化器，学习率为0.001，模型的评价指标为均方根误差函数RMSE和平均绝对百分误差函数MAPE。

步骤S5所诉的反归一化计算公式为：

x_out＝σ×x_Pred+μ

其中，x_pred表示经过步骤S4网络模型输出的数据，μ表示样本的平均值， σ表示样本的标准差，x_out表示经过反归一化后的PM_2.5浓度预测结果。

有益效果：

与现有技术相比，本发明具有以下的有益效果：

1)利用经验模态分解EMD算法对PM_2.5浓度数据进行处理，降低数据的不平稳性、噪音对模型预测的影响。

2)提出了一种基于深度学习算法LSTM的多变量时间序列预测模型。

3)预测模型的精度较传统的预测方法更高，更有利于城市空气污染治理的实施。

附图说明

图1是本发明实施例的流程示意图

图2是本发明所构建的预测模型的结构示意图

图3是本发明实施例的经验模态分解图

具体实施方式

下面结合附图对本发明做进一步的详细阐述，本实施例以本发明技术方案为前提进行实施，给出了具体的实施方式和详细的操作过程，但本发明的保护范围不限于下述的实施例。

一种融合EMD和LSTM的城市PM_2.5浓度预测方法，如图1～图3所示，包括：

根据影响城市PM_2.5浓度扩散的因素，分别从中国环境监测总站的全国城市空气质量实时发布平台和美国国家气候数据中心(NCDC)收集2015～2017 年太原市PM_2.5、PM₁₀、SO₂、CO、NO₂、O₃、AQI、温度、露点、气压、风速、风向、云量共13维特征的实时历史数据。

对获取的数据进行数据清洗，空气污染监测数据和气象数据都有其范围，删除不在有效范围内的异常值，通过线性插值的方式填充缺失值，填充公式如下：

经验模态分解EMD是一种处理非线性、非平稳信号的时序信号分解方法，该方法无需预设基函数，依据原始信号自适应地将非线性、非平稳性的PM_2.5时间序列数据分解为如图3所示的12个具有不同尺度、平稳性和周期波动性特点的本征模函数(IMF)和一个代表原始信号总体趋势的残余量(RES)，不同时间尺度的IMF分量包含原始信号的局部特征信息，从而使非平稳的原始信号数据平稳化，用公式表示为：

其中，每个IMF分量必须同时满足两个条件：原始信号局部极值点和过零点的数目相等或相差1个；在任意时刻，原始信号的上包络线和下包络线平均值必须为零。

经验模态分解过程如下所示：

1)找到原始信号S(t)的最大值点和最小值点。

2)用三次样条插值函数拟合形成原数据的上包络线S_max(t)和下包络线S_min(t)，并求其均值

3)用原始信号S(t)减去均值m(t)得到一个新的信号h(t)＝S(t)- m(t)，h(t)若满足IMF分量的条件则成为一个IMF，否则将h(t)作为原始信号重复上述的步骤，直到满足IMF分量的条件为止。

4)将满足条件的h(t)记为c₁，c₁对应第一个IMF分量，余量 r₁＝S(t)-c₁，将余量r₁作为原始信号重复上述的步骤直至分解出多个 IMF分量和最后一个残余量RES。

设步骤S1获得的长度为t的时间序列为

其中，矩阵的每一行为某一时刻m个特征项的值，LSTM模型的输入是一个滑动时间窗口为T的序列段，即预测T+1 时刻的PM_2.5浓度值需要将前T时刻的空气污染物历史数据和气象数据作为输入，因此需要对时间序列段进行切分处理，本文采用时间窗口为3，移动步长step为1的滑动窗口切分法，则得到的第一个数据为X1＝{X1(t-2)，X1(t- 1)，X1(t)}，依此类推，一个长度为t的交通流时间序列按时间步长T可产生 t-T条样本数据；

将通过滑动窗口切分法处理后的数据进行数据标准化处理以提高模型的训练速度和预测精度，本实例采用Z-score标准化处理方法，将数据转换到[0,1] 范围区间内，计算公式如下：

将数据集按照80％，10％，10％的比例划分为训练集、验证集和测试集作为研究对象，利用LSTM模型来预测未来1小时的PM_2.5浓度。

如下表所示为LSTM模型构建时设置的超参数和方法：

Table 1：Hyper-Parameters and Learning Algorithm

如上所诉，设置LSTM网络模型，利用前3小时的空气污染物浓度值和气象数据共13维特征数据作为整个模型的输入，预测未来1小时的PM_2.5浓度。模型反向传播过程使用Adam优化器，初始学习率为0.001，损失函数为MSE 函数，对模型进行100次迭代训练得到最终的预测模型。

长短期记忆神经网络(LSTM)隐含层的基本单元是一个特殊的细胞结构，每个细胞由输入门、输出门和遗忘门3部分组成，用来实现信息的保护和控制。x_t表示t时刻输入层的时间序列；h_t-1、h_t表示t-1、t时刻隐藏层的输出；c_t是存放在记忆细胞中的独有信息；σ是遗忘门中的激活函数；tanh表示双曲正切激活函数；W_f、W_i、W_c、W_o表示权值矩阵；b_f、b_i、b_c、b_o表示偏置。模型训练的过程即是对权值矩阵的不断学习过程，细胞更新的具体过程通过以下的步骤来实现，迭代重复。

首先通过遗忘门来决定从cell状态中丢弃哪些无用的空气污染物数据和气象数据

f_t＝σ(W_f·[h_t-1，x_t]+b_f)

然后通过输入门来决定哪些信息需要被加入到cell状态中来，

i_t＝σ(W_i·[h_t-1，x_t]+b_i)

期间旧状态的更新为：

最后通过输出门来确定需要输出的信息，即输出的PM_2.5浓度预测结果

o_t＝σ(W_o·[h_t-1，x_t]+b_o)

h_t＝o_t*tanh(C_t)

为了防止过拟合现象的发生，在模型的训练过程中引入Dropout策略对模型的权值参数进行“惩罚”约束，即每次迭代的过程中放弃一部分训练好的参数。Dropout的工作流程是在一次循环中先随机的选取神经层的一些单元将其隐藏，然后再进行神经网络的训练和优化过程，在下一次循环中又隐藏一些神经元直至训练结束。

利用测试集数据对预测模型进行性能评估，模型的评价指标为均方根误差函数RMSE和平均绝对百分误差函数MAPE，计算公式为：

其中，y_i为样本数据的真实值，

为样本数据的预测值， n为测试数据的样本量。

把各IMF分量和残余量RES的预测结果相加求和，作为融合EMD和 LSTM预测模型的最终预测结果。反归一化计算公式为：

x_out＝σ×x_Pred+μ

为了验证模型的有效性，将EMD_LSTM预测模型和传统的机器学习模型及其他神经网络模型对比，结果表明，融合EMD和LSTM的城市PM_2.5浓度预测方法具有更好的预测精度，实验结果如下表所示：

Claims

1.一种融合EMD和LSTM的城市PM_2.5浓度预测方法，其特征在于，包括以下的步骤：

步骤S5：使用训练好的模型对各个分量进行预测，并对其进行反归一化处理，得到最终的城市PM_2.5浓度预测结果。

2.根据权利要求1所述的一种融合EMD和LSTM的城市PM_2.5浓度预测方法，其特征在于，步骤S1所述的数据清洗包括删除异常值，通过线性插值方法填充缺失值，公式如下：

3.根据权利要求1所述的一种融合EMD和LSTM的城市PM_2.5浓度预测方法，其特征在于，步骤S2所述的经验模态分解EMD方法，将非线性、非平稳性的PM_2.5时间序列数据分解为12个具有不同尺度、平稳性和周期波动性特点的本征模函数(IMF)和一个代表原始信号总体趋势的残余量(RES)：

4.根据权利要求1所述的一种融合EMD和LSTM的城市PM_2.5浓度预测方法，其特征在于，步骤S3所述的滑动时间窗口T设置为3，LSTM模型的输入是一个滑动时间窗口为T的序列段，即预测T+1时刻的PM_2.5浓度值需要将前T时刻的空气污染物历史数据和气象数据作为输入，因此需要对时间序列段进行切分处理，采用时间窗口为3，移动步长step为1的滑动窗口切分法；

5.根据权利要求1所述的一种融合EMD和LSTM的城市PM_2.5浓度预测方法，其特征在于，步骤S4采用LSTM对分解后的各IMF分量和残余量RES分别进行建模，将数据集按照80％，10％，10％的比例划分为训练集、验证集和测试集，将前3小时的空气污染物数据、气象数据作为输入数据来预测未来1小时的PM_2.5浓度，设置模型的输入层神经元个数为13，隐藏层神经元个数为7，输出层神经元个数为1，模型的损失函数为MSE损失函数，优化器选择为Adam优化器，学习率为0.001，模型的评价指标为均方根误差函数RMSE和平均绝对百分误差函数MAPE。

6.根据权利要求1所述的一种融合EMD和LSTM的城市PM_2.5浓度预测方法，其特征在于，步骤S5所述的反归一化计算公式为：

x_out＝σ×x_pred+μ

其中，x_pred表示经过步骤S4网络模型输出的数据，μ表示样本的平均值，σ表示样本的标准差，x_out表示经过反归一化后的PM_2.5浓度预测结果。