CN110782093A - 一种融合ssae深度特征学习和lstm网络的pm2.5小时浓度预测方法及系统 - Google Patents

Abstract

本发明涉及一种融合SSAE深度特征学习和LSTM网络的PM_2.5小时浓度预测方法及系统，构建SSAE‑LSTM模型，将一定时间步长的空气污染物时间序列输入该模型，采用SSAE网络通过无监督的方法提取输入数据的抽象特征，将提取的特征作为LSTM网络的输入特征，获取一定时间步长内空气污染物信息的特征分布，最后结合全连接网络预测PM_2.5小时浓度。本发明能够有效提高预测的准确率。

Description

一种融合SSAE深度特征学习和LSTM网络的PM2.5小时浓度预测 方法及系统

技术领域

本发明涉及PM_2.5预测领域，特别是一种融合SSAE深度特征学习和LSTM网络的PM_2.5小时浓度预测方法及系统。

背景技术

近年来，以PM_2.5为重要组分的雾霾污染高度频发，给人类生活和生态环境带来了严重的危害。考虑到大气环境的时效性及动态性，实现精准的PM_2.5浓度小时预测，可以有效地提高对空气污染的预报预警能力，亦是当前空气质量预报和防治的重要研究方向。

目前空气污染物浓度预测模型大致分为机理模型和非机理模型两种。其中，机理模型通过模拟空气污染物的扩散过程预测污染物浓度，其结果的优劣很大程度上依赖于空气污染物排放源清单的精度。非机理模型以污染物浓度及气象要素的历史数据为基础，采用多元线性回归、随机森林、人工神经网络等方法预测空气污染物浓度，其具有构建简单、数据易获取等优点，在空气质量预报中得到广泛应用。非机理模型中，具有时序记忆性的长短期记忆神经网络(long-short term memory,LSTM)在PM_2.5预测方面取得了一定成果，但仍存在以下2个问题：1)现有的一些方法仅考虑了气象因素对PM_2.5的影响或者仅考虑空气污染物对PM_2.5的影响，忽略了PM_2.5的空间相关性且没有将PM_2.5的影响因素综合起来考虑；2)现有的方法根据某种评价准则或根据经验知识从大量影响特征中选取对PM_2.5具有重要影响力的特征，很难选出最优的组合。

发明内容

有鉴于此，本发明的目的是提出一种融合SSAE深度特征学习和LSTM网络的PM_2.5小时浓度预测方法及系统，能够有效提高预测的准确率。

本发明采用以下方案实现：一种融合SSAE深度特征学习和LSTM网络的PM_2.5小时浓度预测方法，具体为：构建SSAE-LSTM模型，将一定时间步长的空气污染物时间序列输入该模型，采用SSAE网络通过无监督的方法提取输入数据的抽象特征，将提取的特征作为LSTM网络的输入特征，获取一定时间步长内空气污染物信息的特征分布，最后结合全连接网络预测PM_2.5小时浓度。

进一步地，所述一定时间步长的空气污染物时间序列为X＝(X₁,X₂,...,X_t,...X_M)，M为输入时间序列的步长，X_t包含站点s_n在t时刻的空气污染物变量、气象变量、时间特征变量和空间特征变量的小时值数据，其中空气污染物变量包括站点位置处的包括PM_2.5、PM₁₀、SO₂、NO₂、O₃和CO在内的空气污染物小时浓度数据及24小时浓度均值；气象变量包括站点位置处的气温、相对湿度、降雨量、风速和风向小时数据；时间特征变量包括年份、季节、月份、日内小时时刻；空间特征变量包括站点位置、站点所在的城市、以及距离站点最邻近的k个站点的包括PM_2.5、PM₁0、SO₂、NO₂、O₃和CO在内的空气污染物小时浓度数据及24小时浓度均值。

进一步地，k＝6。

进一步地，所述SSAE-LSTM模型包括SSAE网络模块、LSTM网络模块以及全连接网络模块；

所述SSAE网络模块由3个SAE堆叠而成，各SAE之间，前一个SAE的隐含层作为下一个SAE的输入层，最后一个SAE的隐含层h_t为输入向量X_t最终的深度特征表示；

所述LSTM网络模块由三个门控制，这三个门分别是遗忘门、输入门和输出门；其中遗忘门遗忘记忆单元中无用的历史信息，输入门根据t时刻SSAE网络模块的输出向量以及t-1时刻LSTM网络模块的输出向量对t-1时刻的记忆单元进行状态更新并得到t时刻的记忆单元，输出门对t时刻记忆单元的信息进行筛选并得到t时刻LSTM网络的输出变量；

所述全连接网络模块由2个全连接层组成，以多层人工神经网络的方式对LSTM网络模块的输出特征进行整合和降维，并输出下一时刻的PM2.5小时浓度预测值。

进一步地，全连接网络模块得到预测值后，计算预测值和真实值的误差，以调整网络各层的连接权值。

进一步地，所述SSAE-LSTM模型的训练和验证具体为：从空气污染物时间序列中选取样本集，并划分为训练数据集、测试数据集和验证数据集，通过训练数据集和验证数据集对所述的SSAE-LSTM模型进行训练和验证。

进一步地，所述SSAE-LSTM模型的训练和验证具体包括以下步骤：

步骤S1：对于任一站点，按照时间顺序依次从空气污染物时间序列中提取样本，第i个样本结构为

其中，

为第i时刻、距离i时刻最近的6个时刻、距离i时刻24小时的时刻的历史时序数据，

为i+1时刻PM_2.5小时浓度值；

步骤S2：将样本集划分为测试集、训练集和验证集，验证集用于验证模型的预测效果并防止过拟合；

步骤S3：通过训练数据集对SSAE-LSTM模型进行训练，其中，模型训练分为2个阶段，分别是逐层预训练和整体微调；在逐层预训练阶段，采用无监督学习机制利用逐层贪婪学习方法训练同结构的SSAE网络模块，这一阶段SSAE网络的输入和输出均为样本中的部分；在整体精调阶段，采用监督学习机制，首先将训练得到的SSAE网络参数设为SSAE-LSTM模型中SSAE网络模块的初始参数，然后以预测数据与真实数据之间的损失值为网络收敛代价，使用梯度下降法调整SSAE-LSTM模型的整体权值，这一阶段SSAE-LSTM模型的输入为样本中的部分，输出为样本中的

部分；

步骤S4：通过验证数据集对SSAE-LSTM模型进行验证，首先计算SSAE-LSTM模型在验证集上的预测效果，如果预测效果低于预设的阈值，则调整模型SSAE-LSTM参数，继续训练网络，反之则停止训练，保存SSAE-LSTM模型。

进一步地，在逐层预训练阶段，SSAE网络模块的训练目标为最小化输入X_t与输出

的重构误差。

进一步地，在整体精调阶段，SSAE-LSTM模型的训练目标为最小化预测值与真实值

的均方误差。

本发明还提供了一种融合SSAE深度特征学习和LSTM网络的PM_2.5小时浓度预测系统，包括存储器、处理器以及存储在存储器上并能够在处理器上运行的计算机程序，当所述处理器执行所述计算机程序时能够实现如上文所述的方法步骤。

本发明还提供了一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，当该计算机程序被处理器执行时，能够实现如上文所述的方法步骤。

与现有技术相比，本发明有以下有益效果：

1、本发明综合考虑了时间因素、空间因素、气象因素和相关空气污染物对PM_2.5的影响，使得SSAE-LSTM模型能够同时对各个空气监测站点的PM_2.5浓度进行协同训练和预测，解决了传统机器学习方法需对每个站点进行逐个训练和预测的问题，并在一定程度上提高了预测准确率。

2、本发明采用栈式稀疏自编码器从大量PM_2.5影响特征中自动选取抽象特征，且相较于传统的特征提取方法，本发明中基于栈式稀疏自编码器的特征提取方法具有通用性，更加实用。

附图说明

图1为本发明实施例的SSAE-LSTM网络结构示意图。

图2为本发明实施例的SSAE网络结构示意图。

图3为本发明实施例的LSTM网络结构示意图。

图4为本发明实施例的方法流程示意图。

具体实施方式

下面结合附图及实施例对本发明做进一步说明。

应该指出，以下详细说明都是示例性的，旨在对本申请提供进一步的说明。除非另有指明，本文使用的所有技术和科学术语具有与本申请所属技术领域的普通技术人员通常理解的相同含义。

需要注意的是，这里所使用的术语仅是为了描述具体实施方式，而非意图限制根据本申请的示例性实施方式。如在这里所使用的，除非上下文另外明确指出，否则单数形式也意图包括复数形式，此外，还应当理解的是，当在本说明书中使用术语“包含”和/或“包括”时，其指明存在特征、步骤、操作、器件、组件和/或它们的组合。

本实施例提供了一种融合SSAE深度特征学习和LSTM网络的PM_2.5小时浓度预测方法，具体为：构建SSAE-LSTM模型，将一定时间步长的空气污染物时间序列输入该模型，采用SSAE网络通过无监督的方法提取输入数据的抽象特征，将提取的特征作为LSTM网络的输入特征，获取一定时间步长内空气污染物信息的特征分布，最后结合全连接网络预测PM_2.5小时浓度。

较佳的，分析PM_2.5的影响因素发现：1)PM_2.5与PM₁₀、SO₂、NO₂、CO、O₃等空气污染物浓度具有较强的相关性；2)PM_2.5浓度与温度、风速、降雨呈负相关关系，与相对湿度呈正相关关系，且不同风向对PM_2.5影响显著；3)PM_2.5浓度在年、季度、月度、日内小时等四个时间尺度上具有不同的时间变化规律。4)空气监测站点的空气质量浓度与空间上邻近站点的空气质量浓度有较强的相关性，且不同站点由于所处城市不同，而具有不同的PM_2.5分布特征。故本实施例选取上述各个影响因素为PM_2.5的预测特征，收集相关的空气污染物数据和气象要素数据，对空气污染物时间序列进行属性扩展。

具体的，在本实施例中，所述一定时间步长的空气污染物时间序列为X＝(X₁,X₂,...,X_t,...X_M)，M为输入时间序列的步长，X_t包含站点s_n在t时刻的空气污染物变量、气象变量、时间特征变量和空间特征变量的小时值数据，其中空气污染物变量包括站点位置处的包括PM_2.5、PM₁₀、SO₂、NO₂、O₃和CO在内的空气污染物小时浓度数据及24小时浓度均值；气象变量包括站点位置处的气温、相对湿度、降雨量、风速和风向小时数据；时间特征变量包括年份、季节、月份、日内小时时刻；空间特征变量包括站点位置、站点所在的城市、以及距离站点最邻近的k个站点的包括PM_2.5、PM₁0、SO₂、NO₂、O₃和CO在内的空气污染物小时浓度数据及24小时浓度均值。

经分析发现PM_2.5与邻近6个站点的空气污染物具有较强的相关性，因此，本实施例中，k＝6。

在本实施例中，所述SSAE-LSTM模型包括SSAE网络模块、LSTM网络模块以及全连接网络模块；如图1所示，输入数据模块按照时间维度将空气污染物序列输入到SSAE网络中；SSAE网络模块提取输入数据的抽象特征，并按照时间先后序列将SSAE网络最后一个隐藏层的最高阶特征输入到LSTM网络中；LSTM网络模块输出空气污染物信息的分布特征；全连接网络模块以多层人工神经网络的方式对LSTM模块的输出特征进行整合和降维，并预测空气监测站点在后一时刻的PM_2.5小时浓度。

各模块的具体内容如下：

如图2所示，所述SSAE网络模块由3个SAE堆叠而成，各SAE之间，前一个SAE的隐含层作为下一个SAE的输入层，最后一个SAE的隐含层h_t为输入向量X_t最终的深度特征表示；

SAE是一种对称的3层神经网络，分为输入层、隐含层和输出层3层。在编码阶段，通过式(1)将输入层的X_t映射到低维隐含层，得到编码向量h_t：

h_t＝f(W₁X_t+b₁)；(1)

式中，f(*)是激活函数，本实施例采用Relu激活函数，W₁表示编码层的权重矩阵，b₁表示编码层的偏置。

在解码阶段，通过式(2)将隐含层的低维编码向量h_t映射到高维输出层，对输入X_t进行重建：

式中，f(*)是激活函数，本实施例采用Relu激活函数，W₂表示解码层的权重矩阵，b₂表示解码层的偏置。

SAE训练目标为尽可能减少输入X_t和输出

的重构误差，损失函数可以表示为：

式中，

为输入X_t和输出的均方误差代价函数项，M为时间序列步长。

为隐含层神经元的稀疏性约束项,β表示稀疏性约束项的权重，s₂表示网络隐含层的神经元数目,索引j表示第j个隐含层神经元，KL表示Kullback-Leibler散度函数，表示隐含层神经元的平均活跃度，ρ为稀疏性参数，是一个接近于0的常量，通常取0.01。表示分别以

和ρ为均值的两个变量之间的相对熵，计算公式如下：

如图3所示，所述LSTM网络模块由三个门控制，这三个门分别是遗忘门、输入门和输出门；其中遗忘门遗忘记忆单元中无用的历史信息，输入门根据t时刻SSAE网络模块的输出向量以及t-1时刻LSTM网络模块的输出向量对t-1时刻的记忆单元进行状态更新并得到t时刻的记忆单元，输出门对t时刻记忆单元的信息进行筛选并得到t时刻LSTM网络的输出变量；

令S_t表示t时刻SSAE网络的输出向量，h_t-1表示t-1时刻LSTM网络的输出向量，C_t-1表示t-1时刻LSTM网络的记忆单元，则LSTM的具体工作机制如下：

首先，遗忘门将记忆单元C_t-1乘上衰减系数f_t，遗忘记忆单元中无用的历史信息，f_t的计算公式如下：

f_t＝σ(W_f·[h_t-1，S_t]+b_f)；

接着，输入门根据S_t和h_t-1对记忆单元C_t-1进行状态更新：

i_t＝σ(W_i·[h_t-1，S_t]+b_i)；

最后，输出门输出当前时刻h_t的信息：

o_t＝σ(W_σ·[h_t-1，S_t]+b_σ)；

h_t＝o_t*tanh(C_t)；

其中，σ是sigmoid函数，tanh是tanh激活函数，W_f，W_i，W_C，W_σ和b_f，b_i，b_C，b_σ分别表示权重矩阵和偏置。

所述全连接网络模块由2个全连接层组成，以多层人工神经网络的方式对LSTM网络模块的输出特征进行整合和降维，并输出下一时刻的PM2.5小时浓度预测值。全连接层主要公式如下：

式中，f(·)为Relu激活函数,w_ij为第l层的节点j到第l+1层的节点i的权值，B^l为偏置。

在本实施例中，全连接网络模块得到预测值后，计算预测值和真实值的误差，以调整网络各层的连接权值。假定输出的预测序列为

真实的PM_2.5小时浓度为Y＝(y₁，...，y_i，...，y_n)，定义全连接层的损失函数为预测值和真实值的平方损失函数，公式如下：

在本实施例中，所述SSAE-LSTM模型的训练和验证具体为：从空气污染物时间序列中选取样本集，并划分为训练数据集、测试数据集和验证数据集，通过训练数据集和验证数据集对所述的SSAE-LSTM模型进行训练和验证。

在本实施例中，所述SSAE-LSTM模型的训练和验证具体包括以下步骤：

步骤S1：对于任一站点，按照时间顺序依次从空气污染物时间序列中提取样本，第i个样本结构为其中，

为第i时刻、距离i时刻最近的6个时刻、距离i时刻24小时的时刻的历史时序数据，

为i+1时刻PM_2.5小时浓度值；

步骤S2：将样本集划分为测试集、训练集和验证集，验证集用于验证模型的预测效果并防止过拟合；

步骤S3：通过训练数据集对SSAE-LSTM模型进行训练，其中，模型训练分为2个阶段，分别是逐层预训练和整体微调；在逐层预训练阶段，采用无监督学习机制利用逐层贪婪学习方法训练同结构的SSAE网络模块，这一阶段SSAE网络的输入和输出均为样本中的

部分，训练目标为最小化输入X_t与输出的重构误差；在整体精调阶段，采用监督学习机制，首先将训练得到的SSAE网络参数设为SSAE-LSTM模型中SSAE网络模块的初始参数，然后以预测数据与真实数据之间的损失值为网络收敛代价，使用梯度下降法调整SSAE-LSTM模型的整体权值，这一阶段SSAE-LSTM模型的输入为样本中的

部分，输出为样本中的

部分；在该整体精调阶段，SSAE-LSTM模型的训练目标为最小化预测值与真实值

的均方误差；

步骤S4：通过验证数据集对SSAE-LSTM模型进行验证，首先计算SSAE-LSTM模型在验证集上的预测效果，如果预测效果低于预设的阈值，则调整模型SSAE-LSTM参数，继续训练网络，反之则停止训练，保存SSAE-LSTM模型。

本实施例还提供了一种融合SSAE深度特征学习和LSTM网络的PM_2.5小时浓度预测系统，包括存储器、处理器以及存储在存储器上并能够在处理器上运行的计算机程序，当所述处理器执行所述计算机程序时能够实现如上文所述的方法步骤。

本实施例还提供了一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，当该计算机程序被处理器执行时，能够实现如上文所述的方法步骤。

特别的，为了更好地说明本实施例的技术效果，接下来结合具体的例子进行说明。

如图4所示，本实施例提供以下具体步骤：

步骤S1：收集数据。实例以PM_2.5空气污染较严重的京津冀地区为研究区域，使用的实验数据包括两类：地面监测站实测空气质量浓度数据以及城市气象监测数据。

空气质量监测数据来自于中国环境监测总站的全国城市空气质量实时发布平台，考虑到数据缺失问题，选取了2016年1月1日至2018年12月31日期间京津冀地区71个监测站点的空气质量监测数据，共186万多条，数据更新频率为1次/h，除时间标识外，每条数据包括当前时刻的PM_2.5、PM₁₀、SO₂、NO₂、O₃、CO小时浓度，以及此前24小时的PM_2.5、PM₁₀、SO₂、NO₂、O₃、CO浓度均值。

气象监测数据来自与环境云官方网站(http://www.envicloud.cn/)，通过环境云网站提供的城市编码和指定小时历史天气API获取了2016年1月1日至2018年12月31日期间京津冀71个空气监测站点所在的城市城区的天气数据，共16万多条，数据更新频率为1次/h，除时间标识外，每条数据包括当前时刻的气温，相对湿度，降雨量，风向，风速等5个指标。

步骤S2：数据预处理。数据质量直接影响预测模型的效果，因此需对数据进行预处理，数据预处理主要包括数据缺失值处理、异常值处理、量纲归一化和特征化处理。

步骤S3：属性扩展。选取时间因素、空间因素、气象因素和相关空气污染物等PM_2.5的各个影响因素，对京津冀地区71个站点的空气污染数据数据进行属性扩展。由于有研究表明京津冀地区空气监测站点与渤海湾的相对位置不同(渤海湾以南或渤海湾以北)而具有不同的PM_2.5分布特征，故实例在空间因素中加入‘站点相对于渤海湾的位置’变量。对于任一站点，在2016/1/1至2018/12/31期间内共获取26304条小时数据，组成的时间序列为X＝(X₁，X₂，...，X_t，...，X₂₆₃₀₄)，每个X_t为属性扩展后的向量，X_t包含站点在t时刻的空气污染物、气象要素、时间特征和空间特征等96项相关特征：

(1)空气污染物变量：站点位置处的PM_2.5、PM₁₀、SO₂、NO₂、O₃和CO等空气污染物小时浓度数据及24小时浓度均值，共12个空气污染物变量。

(2)气象变量：站点位置处的气温、相对湿度、降雨量、风速和风向数据，共5个变量气象变量。

(3)时间特征变量：年份、季节、月份、日内小时时刻，共4个时间特征变量。

(4)空间特征变量：站点位置(由于部分站点距离较近，站点间的经纬度差异不明显，故本实例用站点编号表示站点位置，将不同站点分开)、站点所在的城市、站点相对于渤海湾的位置(渤海湾以南或渤海湾以北)、以及距离站点最邻近的6个站点的PM_2.5、PM₁₀、SO₂、NO₂、O₃和CO等空气污染物小时浓度和24小时浓度均值，共75个空间特征变量。

步骤S4：选取样本集。从每个站点的时间序列中提取样本集。对于任一站点，按照时间顺序依次从序列X提取样本，第i个样本结构为

其中，

为第i时刻、距离i时刻最近的6个时刻、距离i时刻24小时的时刻的历史时序数据，

为i+1时刻PM_2.5小时浓度值，每个站点共提取26280个样本，71个站点共提取1,865,880个样本，构成样本集。

步骤S5：从样本集中选取训练集、测试集和验证集。为了验证模型对不同季节的PM_2.5的预测效果，实例按季节划分训练样本集和测试样本集。综合考虑光照、温度等各种因素，以3、4、5月为春季；6、7、8月为夏季，9、10、11月为秋季，12、1、2月为冬季。从每个站点中选取每个季度最后15天的样本为测试集，其余的为训练集，另外，采用Holdout验证法防止过拟合，在训练集中抽取2％的样本作为模型训练时的验证集。

步骤S6：构建SSAE-LSTM模型。由于SSAE-LSTM预测模型中SSAE的层数和LSTM的层数没有一个固定的确定算法，实例中根据经验和一般原则设计了4种SSAE-LSTM网络模型，即SSAE3-LSTM1、SSAE4-LSTM1、SSAE3-LSTM2和SSAE4-LSTM2。令ssae_1，ssae_2，ssae_3，ssae_4分别代表SSAE网络的第一层，第二层，第三层，第四层，lstm_1和lstm_2分别代表LSTM网络的第一层和第二层，dense_1和dense_2分别代表全连接网络的第一层和第二层，构建的4种SSAE-LSTM网络模型的具体结构如表1所示，表中数字代表代表模型在对应网络层的神经元数量，none代表模型不具有该网络层。

表1 4种SSAE-LSTM网络模型的具体结构

模型训练过程中涉及到的重要参数包括包括时间步参数(M)、预训练阶段学习率(p_lr)、微调阶段学习率(f_lr)、预训练阶段训练批次(p_batch)、微调阶段训练批次(f_batch)、预训练阶段训练次数(p_epoch)、微调阶段训练次数(f_epoch)、随机失活率(dropout)、SSAE网络的稀疏性约束项的权重(β)和稀疏性参数(ρ)，这些参数共同作用影响神经网络模型的计算效率和预测效果，需要进行设置。对于时间步参数的设置，实例综合考虑PM_2.5的时变性和周期性，在对目标时刻的PM_2.5小时浓度进行预测时选取该时刻、距离该时刻最近的6个时刻、距离该时刻24小时的时刻的历史时序数据作为模型的输入，因此在SSAE-LSTM模型中输入序列的时间步设置为8，LSTM网络的时间步参数也设置为8。此外，对于其它参数，采用网格搜索法进行实验，确定的最佳参数如表2所示：

表2 SSAE-LSTM预测模型参数设置

步骤S7：训练SSAE-LSTM模型。将训练样本输入至构建好的SSAE-LSTM模型进行训练，训练包括逐层预训练和整体精调2个阶段。

步骤S8：模型验证。计算模型在验证集上的精度，并设置期望精度，比较验证集精度和期望精度，如果预测效果低于期望精度则调整SSAE-LATM模型参数，继续训练网络，重复步骤S7，直到达到预期精度。

步骤S9：保存模型，对PM_2.5进行在线实时预测。由于收集的空气、气象数据集为历史数据，故本案例实施中假设测试样本为对应空气监测站点获取的实时数据，将实时数据输入至已训练好的SSAE-LSTM模型中，通过前向传播，输出站点在后一时刻PM_2.5小时浓度，实现PM_2.5在线实时预测。

本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

以上所述，仅是本发明的较佳实施例而已，并非是对本发明作其它形式的限制，任何熟悉本专业的技术人员可能利用上述揭示的技术内容加以变更或改型为等同变化的等效实施例。但是凡是未脱离本发明技术方案内容,依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化与改型，仍属于本发明技术方案的保护范围。

Claims (10)

1.一种融合SSAE深度特征学习和LSTM网络的PM_2.5小时浓度预测方法，其特征在于，构建SSAE-LSTM模型，将一定时间步长的空气污染物时间序列输入该模型，采用SSAE网络通过无监督的方法提取输入数据的抽象特征，将提取的特征作为LSTM网络的输入特征，获取一定时间步长内空气污染物信息的特征分布，最后结合全连接网络预测PM_2.5小时浓度。

2.根据权利要求1所述的一种融合SSAE深度特征学习和LSTM网络的PM_2.5小时浓度预测方法，其特征在于，所述一定时间步长的空气污染物时间序列为X＝(X₁,X₂,...,X_t,...X_M)，M为输入时间序列的步长，X_t包含站点s_n在t时刻的空气污染物变量、气象变量、时间特征变量和空间特征变量的小时值数据，其中空气污染物变量包括站点位置处的包括PM_2.5、PM₁₀、SO₂、NO₂、O₃和CO在内的空气污染物小时浓度数据及24小时浓度均值；气象变量包括站点位置处的气温、相对湿度、降雨量、风速和风向小时数据；时间特征变量包括年份、季节、月份、日内小时时刻；空间特征变量包括站点位置、站点所在的城市、以及距离站点最邻近的k个站点的包括PM_2.5、PM₁0、SO₂、NO₂、O₃和CO在内的空气污染物小时浓度数据及24小时浓度均值。

3.根据权利要求2所述的一种融合SSAE深度特征学习和LSTM网络的PM_2.5小时浓度预测方法，k＝6。

4.根据权利要求1所述的一种融合SSAE深度特征学习和LSTM网络的PM_2.5小时浓度预测方法，其特征在于，所述SSAE-LSTM模型包括SSAE网络模块、LSTM网络模块以及全连接网络模块；

所述SSAE网络模块由3个SAE堆叠而成，各SAE之间，前一个SAE的隐含层作为下一个SAE的输入层，最后一个SAE的隐含层h_t为输入向量X_t最终的深度特征表示；

所述LSTM网络模块由三个门控制，这三个门分别是遗忘门、输入门和输出门；其中遗忘门遗忘记忆单元中无用的历史信息，输入门根据t时刻SSAE网络模块的输出向量以及t-1时刻LSTM网络模块的输出向量对t-1时刻的记忆单元进行状态更新并得到t时刻的记忆单元，输出门对t时刻记忆单元的信息进行筛选并得到t时刻LSTM网络的输出变量；

所述全连接网络模块由2个全连接层组成，以多层人工神经网络的方式对LSTM网络模块的输出特征进行整合和降维，并输出下一时刻的PM2.5小时浓度预测值。

5.根据权利要求4所述的一种融合SSAE深度特征学习和LSTM网络的PM_2.5小时浓度预测方法，其特征在于，全连接网络模块得到预测值后，计算预测值和真实值的误差，以调整网络各层的连接权值。

6.根据权利要求1所述的一种融合SSAE深度特征学习和LSTM网络的PM_2.5小时浓度预测方法，其特征在于，所述SSAE-LSTM模型的训练和验证具体为：从空气污染物时间序列中选取样本集，并划分为训练数据集、测试数据集和验证数据集，通过训练数据集和验证数据集对所述的SSAE-LSTM模型进行训练和验证。

7.根据权利要求6所述的一种融合SSAE深度特征学习和LSTM网络的PM_2.5小时浓度预测方法，其特征在于，所述SSAE-LSTM模型的训练和验证具体包括以下步骤：

步骤S1：对于任一站点，按照时间顺序依次从空气污染物时间序列中提取样本，第i个样本结构为

其中，

为第i时刻、距离i时刻最近的6个时刻、距离i时刻24小时的时刻的历史时序数据，

为i+1时刻PM_2.5小时浓度值；

步骤S2：将样本集划分为测试集、训练集和验证集，验证集用于验证模型的预测效果并防止过拟合；

步骤S3：通过训练数据集对SSAE-LSTM模型进行训练，其中，模型训练分为2个阶段，分别是逐层预训练和整体微调；在逐层预训练阶段，采用无监督学习机制利用逐层贪婪学习方法训练同结构的SSAE网络模块，这一阶段SSAE网络的输入和输出均为样本中的部分；在整体精调阶段，采用监督学习机制，首先将训练得到的SSAE网络参数设为SSAE-LSTM模型中SSAE网络模块的初始参数，然后以预测数据与真实数据之间的损失值为网络收敛代价，使用梯度下降法调整SSAE-LSTM模型的整体权值，这一阶段SSAE-LSTM模型的输入为样本中的

部分，输出为样本中的

部分；

步骤S4：通过验证数据集对SSAE-LSTM模型进行验证，首先计算SSAE-LSTM模型在验证集上的预测效果，如果预测效果低于预设的阈值，则调整模型SSAE-LSTM参数，继续训练网络，反之则停止训练，保存SSAE-LSTM模型。

8.根据权利要求7所述的一种融合SSAE深度特征学习和LSTM网络的PM_2.5小时浓度预测方法，其特征在于，在逐层预训练阶段，SSAE网络模块的训练目标为最小化输入X_t与输出

的重构误差。

9.根据权利要求7所述的一种融合SSAE深度特征学习和LSTM网络的PM_2.5小时浓度预测方法，其特征在于，在整体精调阶段，SSAE-LSTM模型的训练目标为最小化预测值与真实值

的均方误差。

10.一种融合SSAE深度特征学习和LSTM网络的PM_2.5小时浓度预测系统，包括存储器、处理器以及存储在存储器上并能够在处理器上运行的计算机程序，其特征在于，当所述处理器执行所述计算机程序时能够实现如权利要求1-8任一项所述的方法步骤。

Images