CN108268935A - 一种基于时序循环神经网络的pm2.5浓度值预测方法及系统 - Google Patents

Abstract

一种基于时序循环神经网络的PM2.5浓度值预测方法，包括如下步骤：步骤1、原始数据采集；步骤2、预处理各项原始数据；步骤3、采用循环神经网络预测PM2.5浓度值，创建一个包含输入层、隐含层和输出层的三层神经网络；分别设定各个层的训练函数、连接函数和输出函数；设定网络的期望误差最小值、最大迭代次数和学习率；将预处理后的时序模拟训练数据输入到循环神经网络，并且训练循环神经网络；根据误差调整各层权值；在达到最大迭代次数时结束；将预处理的模拟数据输入到循环神经网络中，输出PM2.5浓度值。以及提供一种基于时序循环神经网络的PM2.5浓度值预测系统。本发明有效地提高当前PM2.5浓度值的预测精度。

Description

一种基于时序循环神经网络的PM2.5浓度值预测方法及系统

技术领域

本发明涉及空气颗粒物PM2.5浓度值的预测技术领域，尤其涉及一种基于时序循环神经网络的PM2.5浓度值预测方法及系统。

背景技术

PM2.5是指大气中直径小于或等于2.5微米的颗粒物，富含大量的有毒、有害物质且在大气中的停留时间长、输送距离远，因而对人体健康和大气环境质量的影响更大，PM2.5超标还带来了另外一个影响——灰霾天气。空气污染如今已经成为人们关注的焦点，而在空气污染指标中，PM2.5浓度值已经成为衡量空气质量的标志性检测指标。现如今，根据历史数据对未来时间段PM2.5浓度值的预测已经成为具有较强学术意义和应用价值的研究问题。

为了解决上述问题，张怡文等人在论文《基于神经网络的PM2.5预测模型》中，通过选择神经网络方法进行PM2.5的浓度值预测。乔俊飞等人在论文《基于BP人工神经网络的城市PM2.5浓度空间预测》中，提出了基于T-S模糊神经网络模型进行预测PMA2.5的浓度值。王敏等人在论文《基于改进型PSO的模糊神经网络PM2.5浓度预测》中，采用BP人工神经网络模型预测PM2.5的浓度值。裴雨潇等人在论文《基于小波和过程神经网络的PM2.5预测模型》中，提出基于小波和过程神经网络的预测模型实现了PM2.5浓度值的预测。付彦丽在论文《基于神经网络的PM2.5质量浓度预测研究》中，使用遗传算法优化的神经网络对PM2.5质量浓度进行预测。李祥等人在论文《基于小波分解和ARMA模型的空气污染预报研究》中，利用小波多尺度分析方法改进ARMA预测模型,并将其应用于短时PM2.5浓度预测。苏盈盈等人在专利《基于无迹卡尔曼神经网络的PM2.5浓度预测方法》中，提供了一种基于无迹卡尔曼神经网络的PM2.5浓度预测方法。

经文献调研分析，目前已提出的PM2.5浓度值预测方法均以神经网络为核心架构，对PM2.5浓度值以及其他相关指标(比如AQI、PM10、NO2、CO、SO2、O3)进行非线性回归分析。神经网络模型包含ANN，DNN，FNN和BPNN等，以及结合遗传算法、随机森林等优化算法优化后的混合方法。但是，经文献调研，现有PM2.5浓度值预测方法中仅对原始数据进行了时序分析，而在核心的神经网络模型中并没有体现PM2.5浓度值的时序特性，在训练时依赖于独立的数据输入，而不擅于处理序列输入。在对时间序列PM2.5浓度值数据进行训练时，前一时刻的数值对后一时刻的数值优化是有时序影响的。如果仅考虑独立的数据训练，那么所设计的PM2.5浓度值预测系统很难准确模拟PM2.5浓度值的时序变化规律。

发明内容

为了克服已有PM2.5浓度值预测方式无法描述PM2.5浓度值的时序变化发展规律、预测精度较低的不足，本发明在对PM2.5浓度值历史数据、PM2.5浓度值相关指标历史数据和气象历史数据进行非线性相关分析之外，还引入时序分析方法对原始数据进行预处理，并结合可以展示动态时序行为的循环神经网络，将每一步隐含层的优化结果加权处理并入下一步的输入层中，提供一种准确描述PM2.5浓度值的时序变化规律、提高预测精度的基于时序循环神经网络的PM2.5浓度值预测方法及系统。

本发明解决其技术问题所采用的技术方案是：

一种基于时序循环神经网络的PM2.5浓度值预测方法，所述方法包括如下步骤：

步骤1、原始数据采集，原始数据包括PM2.5浓度值历史数据、PM2.5浓度值指标(比如AQI、PM10、NO2、CO、SO2、O3)历史数据和气象历史数据；

步骤2、采用时序分析方法分别预处理各项原始数据，过程如下：

步骤2.1、假设每一个指标的原始数据都是有M通道的时序信号，将指标A记为{A}＝{a₁,a₂,…,a_M}，选取其中一个通道的信号a₁∈A作为处理对象并简记为a，对a进行分解；

步骤2.2、对a加入I组高斯白噪声生成新信号aⁱ，表示为：

aⁱ＝a+β_kwⁱ ⑴

其中，wⁱ为一组高斯白噪声变量，β_k为分解信号与所添加噪声信噪比的倒数。

步骤2.3、对aⁱ进行模态分解处理后得到第1个余项r₁，以及第1个分解波如下：

r₁＝<M(xⁱ)>

步骤2.4、对于余下的r_k(k＝2，3，…，K)，K是模拟函数的总数，并得到第k个分解波如下所示：

r_k＝<M(r_k-₁+β_k-1E(wⁱ))> ⑵

针对不同的指标，分别重复以上步骤2，得到所有的模拟数据；

步骤3、采用循环神经网络预测PM2.5浓度值，过程如下：

步骤3.1、创建一个包含输入层、隐含层和输出层的三层神经网络，设定隐含层和输出层的节点个数，所述隐含层的节点个数采用经验公式给出估计值，所述经验公式如下：

上式中，m和n分别为输入层和输出层的神经元个数，q是[0,10]之间的常数；

步骤3.2、分别设定隐含层、连接层和输出层的训练函数、连接函数和输出函数：

h^(t)＝σ(z^(t))＝σ(Ux^(t)+Wh^(t-1)+b) ⑸

o^(t)＝Vh^(t)+c ⑹

其中，x^(t)代表t时刻训练样本的输入；h^(t)代表t时刻模型的隐藏状态，h^(t)由x^(t)和h^(t-1)共同决定；o^(t)代表t时刻模型的输出，o^(t)只由模型当前的隐藏状态h^(t)决定；y^(t)代表t时刻训练样本序列的真实输出；U，W，V这三个矩阵是模型的线性关系参数；

步骤3.3、设定网络的期望误差最小值、最大迭代次数和学习率；

步骤3.4、将所述预处理后的时序模拟训练数据输入到已创建的循环神经网络，并且训练循环神经网络，计算损失函数：

步骤3.5、根据误差调整循环神经网络的各层权值，其中V，c的梯度计算如下：

在反向传播时，在某一序列位置t的梯度损失由当前位置的输出对应的梯度损失和序列索引位置t+1时的梯度损失两部分共同决定。对于W在某一序列位置t的梯度损失需要反向传播一步步地计算，定义序列索引t位置的隐藏状态的梯度为：

W，U，b的梯度计算表达式：

c，b为偏置值；

步骤3.6、判断循环网络是否收敛，当误差小于期望误差最小值时，算法收敛，在达到最大迭代次数时结束算法，所述循环神经网络训练完成；

步骤3.7、将所述时序分析预处理的模拟数据输入到所述训练完成的循环神经网络中，输出PM2.5浓度值的最终预测值。

进一步，所述步骤1中，所述PM2.5浓度值指标历史数据包括AQI(空气质量指数)、PM10(Particulate Matter 10)、SO₂(二氧化硫)、CO(一氧化碳)、CO₂(二氧化碳)、O₃(臭氧)，所述气象历史数据包括平均气温、露点、相对湿度、压强、风速、降水量。

一种基于时序循环神经网络的PM2.5浓度值预测系统，所述系统包括原始数据预处理单元和循环神经网络单元；

所述原始数据预处理单元，用于将收集到的原始数据按照时间序列分别进行降噪滤波处理，分解得到模拟序列；

所述循环神经网络单元，用于将t时刻的模拟序列以及t-1时刻的隐含层输出值作为输入层的t时刻输入数据，加权相加得到输入层t时刻的输出值，经激活函数后作为隐含层t时刻的输入值，再经加权相加后得到隐含层t时刻的输出值，经激活函数后得到输出数据。

本发明的技术构思为：在对PM2.5浓度值历史数据，PM2.5浓度值相关指标的历史数据(AQI、PM10、NO₂、CO、SO₂、O₃)和气象历史数据(气温、相对湿度、气压、风速、降水量等)数据时序分析预处理之后，重点引入了基于时间序列的循环神经网络来进行PM2.5浓度值的预测。进一步，将预处理后的模拟数据通过反向误差传播算法在循环神经网络中训练，进而预测PM2.5浓度值。

本发明的有益效果主要表现在：本发明的技术方案能够准确地处理以序列输入的训练样本，模拟PM2.5浓度值在时间上的变化规律，并分析其与其他相关指标间的关系，有效地提高当前PM2.5浓度值的预测精度，实现时间序列上的精准预测。

附图说明

图1是一种基于时序循环神经网络的PM2.5浓度值预测方法示意图。

图2是时序分析的数据预处理流程图。

图3是循环神经网络的训练流程图。

具体实施方式

下面结合附图对本发明作进一步描述。

参照图1～图3，一种基于时序循环神经网络的PM2.5浓度值预测方法，所述方法包括如下步骤：

步骤1、原始数据采集，原始数据包括PM2.5浓度值历史数据、PM2.5浓度值指标历史数据和气象历史数据，进一步，所述PM2.5浓度值指标历史数据包括AQI(空气质量指数)、PM10(Particulate Matter10)、SO₂(二氧化硫)、CO(一氧化碳)、CO₂(二氧化碳)和O₃(臭氧)，所述气象历史数据包括平均气温、露点、相对湿度、压强、风速和降水量；

本发明采集杭州市的历史样本数据。杭州市2017年的AQI(空气质量指数)、PM2.5(Particulate Matter 2.5)、PM10(Particulate Matter 10)、SO₂(二氧化硫)、CO(一氧化碳)、CO₂(二氧化碳)、O₃(臭氧)在中国空气质量在线监测分析平台网站收集，杭州市2017年的平均气温、露点、相对湿度、压强、风速、降水量在WEATHER UNDERGROUND网站收集。

步骤2、采用时序分析方法分别预处理各项原始数据，过程如下：

步骤2.1、假设每一个指标的原始数据都是有M通道的时序信号，记各项指标为A,B,C,D…并将指标A记为{A}＝{a₁,a₂,…,a_M}。选取其中一个通道的信号a₁∈A作为处理对象并简记为a，对a进行分解；

步骤2.2、对a加入I组高斯白噪声生成新信号aⁱ，表示为：

aⁱ＝a+β_kwⁱ ⑴

其中，wⁱ为一组高斯白噪声变量，β_k为分解信号与所添加噪声信噪比的倒数；

步骤2.3、对aⁱ进行模态分解处理后得到第1个余项r₁，以及第1个分解波如下：

r₁＝<M(xⁱ)>

步骤2.4、对于余下的r_k(k＝2，3，…，K)，K是模拟函数的总数，并得到第k个分解波如下所示：

r_k＝<M(r_k-1+β_k-1E(wⁱ))> ⑵

针对不同的指标，分别重复以上步骤2，得到所有各项指标的模拟数据；

步骤3、采用循环神经网络预测PM2.5浓度值，过程如下：

步骤3.1、创建一个包含输入层、隐含层和输出层的三层神经网络，设定隐含层和输出层的节点个数，所述隐含层的节点个数采用经验公式给出估计值，所述经验公式如下：

上式中，m和n分别为输入层和输出层的神经元个数，q是[0,10]之间的常数；

步骤3.2、设定隐含层、连接层和输出层的训练函数、连接函数和输出函数：

h^(t)＝σ(z^(t))＝σ(Ux^(t)+Wh^(t-1)+b) ⑸

o^(t)＝Vh^(t)+c ⑹

其中，x^(t)代表t时刻训练样本的输入；h^(t)代表t时刻模型的隐藏状态，h^(t)由x^(t)和h^(t-1)共同决定；o^(t)代表t时刻模型的输出，o^(t)只由模型当前的隐藏状态h^(t)决定；y^(t)代表t时刻训练样本序列的真实输出；U，W，V这三个矩阵是模型的线性关系参数；

步骤3.3、设定损失函数为对数损失函数，输出的激活函数为softmax函数，隐藏层的激活函数为tanh函数；

步骤3.4、设定网络的期望误差最小值、最大迭代次数和学习率；

步骤3.5、将所述预处理后的时序模拟训练数据输入到已创建的循环神经网络，并且训练循环神经网络，计算损失函数：

步骤3.6、根据误差调整循环神经网络的各层权值。其中V，c的梯度计算如下：

在反向传播时，在某一序列位置t的梯度损失由当前位置的输出对应的梯度损失和序列索引位置t+1时的梯度损失两部分共同决定，对于W在某一序列位置t的梯度损失需要反向传播一步步地计算，定义序列索引t位置的隐藏状态的梯度为：

W，U，b的梯度计算表达式：

c，b为偏置值；

步骤3.7、判断循环网络是否收敛，当误差小于期望误差最小值时，算法收敛，在达到最大迭代次数时结束算法，所述循环神经网络训练完成；

步骤3.8、将所述时序分析预处理的模拟数据输入到所述训练完成的循环神经网络中，输出PM2.5浓度值的最终预测值。

一种基于时序循环神经网络的PM2.5浓度值预测系统，所述系统包括原始数据预处理单元和循环神经网络单元；

所述原始数据预处理单元，用于将收集到的原始数据按照时间序列分别进行降噪滤波处理，分解得到模拟序列；

所述循环神经网络单元，用于将t时刻的模拟序列以及t-1时刻的隐含层输出值作为输入层的t时刻输入数据，加权相加得到输入层t时刻的输出值，经激活函数后作为隐含层t时刻的输入值，再经加权相加后得到隐含层t时刻的输出值，经激活函数后得到输出数据。

Claims (3)

1.一种基于时序循环神经网络的PM2.5浓度值预测方法，其特征在于：所述方法包括如下步骤：

步骤1、原始数据采集，原始数据包括PM2.5浓度值历史数据、PM2.5浓度值指标历史数据和气象历史数据；

步骤2、采用时序分析方法分别预处理各项原始数据，过程如下：

步骤2.1、假设每一个指标的原始数据都是有M通道的时序信号，将指标A记为{A}＝{a₁，a₂，...，a_M}，选取其中一个通道的信号a₁∈A作为处理对象并简记为a，对a进行分解；

步骤2.2、对a加入I组高斯白噪声生成新信号aⁱ，表示为：

aⁱ＝a+β_kwⁱ ⑴

其中，wⁱ为一组高斯白噪声变量，β_k为分解信号与所添加噪声信噪比的倒数；

步骤2.3、对aⁱ进行模态分解处理后得到第1个余项r₁，以及第1个分解波如下：

r₁＝<M(xⁱ)>

步骤2.4、对于余下的r_k(k＝2，3，…，K)，K是模拟函数的总数，并得到第k个分解波如下所示：

r_k＝<M(r_k-1+β_k-1E(wⁱ))> ⑵

针对不同的指标，分别重复以上步骤2，得到所有的模拟数据；

步骤3、采用循环神经网络预测PM2.5浓度值，过程如下：

步骤3.1、创建一个包含输入层、隐含层和输出层的三层神经网络，设定隐含层和输出层的节点个数，所述隐含层的节点个数采用经验公式给出估计值，所述经验公式如下：

上式中，m和n分别为输入层和输出层的神经元个数，q是[0,10]之间的常数；

步骤3.2、分别设定隐含层、连接层和输出层的训练函数、连接函数和输出函数：

h^(t)＝σ(z^(t))＝σ(Ux^(t)+Wh^(t-1)+b) ⑸

o^(t)＝Vh^(t)+c ⑹

其中，x^(t)代表t时刻训练样本的输入；h^(t)代表t时刻模型的隐藏状态，h^(t)由x^(t)和h^(t-1)共同决定；o^(t)代表t时刻模型的输出，o^(t)只由模型当前的隐藏状态h^(t)决定；y^(t)代表t时刻训练样本序列的真实输出；U，W，V这三个矩阵是模型的线性关系参数；

步骤3.3、设定网络的期望误差最小值、最大迭代次数和学习率；

步骤3.4、将所述预处理后的时序模拟训练数据输入到已创建的循环神经网络，并且训练循环神经网络，计算损失函数：

步骤3.5、根据误差调整循环神经网络的各层权值，其中V，c的梯度计算如下：

在反向传播时，在某一序列位置t的梯度损失由当前位置的输出对应的梯度损失和序列索引位置t+1时的梯度损失两部分共同决定，对于W在某一序列位置t的梯度损失需要反向传播一步步地计算，定义序列索引t位置的隐藏状态的梯度为：

W，U，b的梯度计算表达式：

c，b为偏置值；

步骤3.6、判断循环网络是否收敛，当误差小于期望误差最小值时，算法收敛；在达到最大迭代次数时结束算法，所述循环神经网络训练完成。

步骤3.7、将所述时序分析预处理的模拟数据输入到所述训练完成的循环神经网络中，输出PM2.5浓度值的最终预测值。

2.如权利要求1所述的一种基于时序循环神经网络的PM2.5浓度值预测方法，其特征在于：所述步骤1中，所述PM2.5浓度值指标历史数据包括空气质量指数AQI、PM10、二氧化硫SO₂、一氧化碳CO、二氧化碳CO₂和臭氧O₃；所述气象历史数据包括平均气温、露点、相对湿度、压强、风速和降水量。

3.一种如权利要求1所述的一种基于时序循环神经网络的PM2.5浓度值预测方法实现的系统，其特征在于：所述系统包括原始数据预处理单元和循环神经网络单元；

所述原始数据预处理单元，用于将收集到的原始数据按照时间序列分别进行降噪滤波处理，分解得到模拟序列；

所述循环神经网络单元，用于将t时刻的模拟序列以及t-1时刻的隐含层输出值作为输入层的t时刻输入数据，加权相加得到输入层t时刻的输出值，经激活函数后作为隐含层t时刻的输入值，再经加权相加后得到隐含层t时刻的输出值，经激活函数后得到输出数据。