CN112668775A - 一种基于时序卷积网络算法的空气质量预测方法 - Google Patents

Abstract

本发明涉及一种基于时序卷积网络算法的空气质量预测方法，以解决现有的空气质量预测方法难以建立精准的预测模型问题。该方法包括以下步骤：1)从一个地区多个观测站获取历史数据并进行预处理；2)将待预测观测站过去第一时间段内的历史数据作为训练集，将其余观测站过去第二时间段内相同时刻的历史数据均值作为验证集，训练集与验证集的样本数比为6:4‑8:2；将训练集和验证集的数据归一化，并转换为三通道格式；3)搭建由因果卷积、膨胀卷积和5层残差块组成的TCN模型；设置模型超参数，利用训练集与验证集对TCN模型进行训练；4)将当前时刻之前若干小时的历史数据作为输入，利用训练结果进行推理，得到未来若干小时的空气质量预测值。

Description

一种基于时序卷积网络算法的空气质量预测方法

技术领域

本发明涉及一种基于时序卷积网络算法的空气质量预测方法。

背景技术

近年来，空气污染问题已成为社会热点问题，在空气污染治理方面，实时掌握空气的污染情况，并且对空气质量进行中长期趋势预测，能够为空气污染治理工作提供可靠的依据。

传统的空气质量预测主要有数值模式法和统计学预报法，由于空气质量受多个因素的耦合影响，影响机理十分复杂，因此采用传统单一的空气质量预测方法很难建立精准的预测模型。

发明内容

本发明的目的是解决现有的空气质量预测方法难以建立精准的预测模型问题，而提供了一种基于时序卷积网络算法的空气质量预测方法。

本发明的思路是：大气污染的影响因素复杂，包括气象因素、地形因素等，各观测站测量值包括PM2.5、PM10、O₃等多个表征，是一个复杂的多输入、多输出的时序问题，难以用精确的数学模型进行描述。各级观测站得到的观测数据目前只提供了参考作用，无法提供精准的空气质量实时预警，观测站得到的海量数据并未挖掘出其背后真实的关联关系，而人工智能恰恰是一个基于大数据进行信息深度挖掘的技术，完美地契合了大气污染预警预报的应用场景。深度学习是近几年人工智能领域兴起的一种新的算法，可以对大量输入数据的特征进行有效学习，得到精准的预测模型。通过深度学习中的时序卷积网络算法(Temporal Convolutional Network，TCN)，寻找空气质量影响因素的内在关联关系，能够实现短期精准预测和中长期趋势预测。

本发明所采用的技术方案是：

一种基于时序卷积网络算法的空气质量预测方法，其特殊之处在于，包括以下步骤：

1)数据获取及预处理

1.1)从一个地区的多个观测站获取历史数据，所述历史数据包括历史空气质量数据和历史气象数据；其中，空气质量数据包括SO₂、NO₂、O₃、CO、PM10和PM2.5数值，气象数据包括风速、风向、气压、温度和湿度；

1.2)对历史数据中的噪声点基于3-σ准则进行检测，并对检测出的噪声点采用K最近邻法进行补齐；对历史数据中的缺失值和错误值采用K最近邻法进行补齐和处理；对历史数据中与空气质量预测无关的数据进行删除；

2)输入数据处理

2.1)预处理完成后，将待预测观测站过去第一时间段内的历史数据作为训练集，将其余观测站过去第二时间段内相同时刻的历史数据均值作为验证集；所述训练集与验证集的样本数比为6:4-8:2；

2.2)将训练集和验证集的数据归一化；

2.3)将归一化后的数据格式转换为[样本数、基准步长、特征数]的三通道格式；

3)模型搭建及训练

3.1)搭建由因果卷积、膨胀卷积和残差块组成的TCN模型；所述残差块为5层结构，5层残差块的膨胀率分别为2⁰K、2¹K、2²K、2³K、2⁴K，其中K为基础膨胀率；

所述残差块通过以下步骤确定：

a)用一个1×1的卷积对当前层的输入x做变换得到当前层的输出f(x)，将当前层的输入x与当前层的输出f(x)直接相加得到当前层残差块；

b)对每个残差块选择ReLU函数作为激活函数，所述ReLU函数为：y＝max(0,x′)，其中x′为激活函数层的输入，y为激活函数层的输出；

c)在每个残差块中加入Dropout进行正则化；

3.2)设置模型超参数，利用训练集与验证集对TCN模型进行训练，并选用均方误差作为训练的评价指标；所述模型超参数包括训练代数epoch以及一次训练所选取的样本数batch_size；

4)模型推理

将当前时刻之前若干小时的空气质量数据和气象数据作为输入，利用步骤3.2)的训练结果进行推理，得到未来若干小时的空气质量预测值。

进一步地，步骤2.3)中，所述基准步长为过去的4T时长，T为预测的未来时长。

进一步地，步骤3.2)中，所述模型超参数通过遗传算法寻优的方式确定。

进一步地，步骤3.2)中，所述训练代数epoch＝100；所述一次训练所选取的样本数batch_size＝64。

进一步地，步骤4)中，所述当前时刻之前若干小时为未来若干小时的3-5倍。

进一步地，步骤2.1)中，所述过去第一时间段具体为过去6-8个月；所述过去第二时间段具体为过去2-4个月。

进一步地，步骤2.1)中，所述训练集与验证集的比例为7:3。

进一步地，步骤2.2)中，所述归一化的方法为极小值-极大值归一化法。

进一步地，步骤3.1)中，所述K＝1。

本发明相比现有技术的有益效果是：

(1)本发明提供的一种基于时序卷积网络算法的空气质量预测方法，将TCN模型引入到空气质量预测问题中，基于历史空气质量数据和历史气象数据，实现对单个观测站空气质量参数的短期精准预测和中长期趋势预测；通过不断积累新的空气质量数据和气象数据提升TCN模型的预测精度，同时又解决了传统深度学习算法使用循环神经网络(RNN)模型进行时序预测时难以并行训练的问题；

(2)传统的空气质量预测方法仅能预测PM10、PM2.5等主要参数项，预测能力有限，而本发明提供的空气质量预测方法能够预测所有的空气质量参数，便于观察分析空气质量的变化情况；

(3)传统的空气质量预测方法需要融合大量复杂的数学、物理、化学模型，计算过程需要在专用服务器上处理，且计算周期较长，而本发明提供的空气质量预测方法在GPU(Graphics Processing Unit)计算机上预测时间小于1分钟，在CPU(Central ProcessingUnit)计算机上预测时间小于5分钟，对计算平台要求较低，且响应速度快。

附图说明

图1是本发明基于时序卷积网络算法的空气质量预测方法中TCN模型示意图；

图2是本发明基于时序卷积网络算法的空气质量预测方法的预测值与实测值对比图；

图3是本发明基于时序卷积网络算法的空气质量预测方法中TCN程序结构图；

图4是运行本发明方法程序的系统框架结构示意图。

具体实施方式

下面结合附图和具体实施方式对本发明进行详细说明。

本发明提供的空气质量预测方法通过远程采集影响空气质量的相关数据，包括历史空气质量数据(SO₂、NO₂、O₃、CO、PM10、PM2.5数值)和历史气象数据(风速、风向、气压、温度、湿度)，并对采集的历史数据进行重新审核和校验，对其中的噪声点基于3-σ准则进行检测，对检测出的噪声点以及缺失值和错误值采用K最近邻法进行补齐和处理，以提高数据的质量；由于空气质量数据和气象数据中的有些参数与待预测参数之间是强相关的，有些是弱相关的，有些是不相关的，因此采用计算Pearson相关系数的方法对其进行判断，从而筛选出与待预测参数强相关的参数参与预测。考虑到TCN在时序预测问题中具有训练复杂度低、捕获长距离依赖能力强的优点，深度学习算法采用TCN为基础架构，结合输入数据量的大小，最终设计了5层残差块结构，以提高TCN跨时间步提取特征的能力。每一层残差块采用了类似于ResNet中的结构，这样做的好处是在模型较深时能够抑制梯度消失的现象，使得模型具有更强的泛化能力。最后通过遗传算法寻优的方式，确定TCN的模型超参数。将预处理后的原始数据转换为[样本数、基准步长、特征数]的三通道格式，并输入到深度学习模型中，设置损失函数为均方误差(Mean Squared Error，MSE)，在GPU上进行TCN的训练，得到模型文件*.h5，将其加载到推理模型中。将观测站近期历史数据作为测试数据，输入到TCN推理模型中，即可得到预测值。

考虑到不同空气质量参数的变化程度不一，基于以上5层残差块的TCN结构，针对每一项空气质量参数设计了独立的网络结构(包括网络层数、卷积核大小(kernel_size)、膨胀率(dilation rate))，使模型更适应空气质量参数的变化情况。

由于空气质量参数随季节不同而呈现不同的变化趋势，因此有必要定期基于近期测量数据，对TCN模型进行重新训练，并将重新训练后的模型迭代升级之前的旧模型。

以某地三个观测站(观测站1、观测站2、观测站3)的PM10预测为例，包括以下步骤：

1)数据获取及预处理

1.1)从观测站1、观测站2、观测站3获取多组历史数据，包括历史空气质量数据(SO₂、NO₂、O₃、CO、PM10和PM2.5数值)和历史气象数据(风速、风向、气压、温度和湿度)，用于模型训练。

1.2)对历史数据中的噪声点基于3-σ准则进行检测，并对检测出的噪声点采用K最近邻法进行补齐；对历史数据中的缺失值和错误值采用K最近邻法进行补齐和处理；对历史数据中与空气质量预测无关的数据，如观测站区域、观测站名称、观测时间等进行删除。

2)输入数据处理

2.1)考虑到PM10与季节的相关性，将历史数据分为同比数据和环比数据一并作为输入数据进行处理。预处理完成后，将观测站1过去7个月内的历史数据作为一个训练集；对观测站2和观测站3过去3个月内相同时刻的同一项参数求平均值，得到多个时刻各项参数的均值，作为一个验证集。训练集与验证集的样本数比为7：3。

2.2)将训练集和验证集的数据归一化。不同的参数往往具有不同的量纲和量纲单位，这样的情况会影响到数据分析的结果，为了消除参数之间的量纲影响，需要进行数据的归一化处理。采用min-max(极小值-极大值)归一化方法进行处理。

2.3)TCN是一维卷积变形之后在时序问题上的应用，TCN的卷积和普通一维卷积最大的不同就是用了扩张卷积(Dilated Convolutions)。将归一化后的数据格式转换为[样本数、基准步长、特征数]的三通道格式。当对未来24小时的PM10进行预测时，基准步长可以选择过去96小时。

3)模型搭建及训练

3.1)搭建由因果卷积、膨胀卷积和残差块组成的TCN模型，如图1所示。根据训练数据量大小和问题描述，通过模型超参数优化过程，对PM10预测确定了5层残差块的基础网络结构，对其它空气质量参数预测，在此基础上进行微调。在5层残差块中分别将膨胀率设为2⁰K、2¹K、2²K、2³K、2⁴K，其中K为基础膨胀率，此处K＝1，逐层加大模型的感受野，让每个卷积输出都包含较大范围的历史信息。

残差块通过以下步骤确定：

a)残差块采用了跳层连接的思想，来解决深度网络引起的梯度消失问题，具体而言就是将当前层的输入x与当前层的输出f(x)直接相加，考虑到二者的通道数可能不一样，设计了一个1×1的卷积来对输入x做变换，使变换后的x与输出f(x)可以直接相加得到当前层残差块；

b)对每个残差块选择ReLU函数作为激活函数，ReLU函数能够克服梯度消失的问题，加快训练速度，且由于计算公式简单，计算资源占用较少。ReLU函数为：y＝max(0,x′)，其中x′为激活函数层的输入，y为激活函数层的输出；

c)考虑到模型训练过程中的过拟合问题，在每个残差块中加入Dropout进行正则化；

3.2)设置模型超参数，利用训练集与验证集对TCN模型进行训练，并设置损失函数为均方误差(Mean Squared Error，MSE)作为训练的评价指标；模型超参数通过遗传算法寻优的方式确定，包括训练代数epoch以及一次训练所选取的样本数batch_size，epoch＝100，batch_size＝64。

4)模型推理

将当前时刻之前96小时的空气质量数据和气象数据作为输入，利用步骤3.2)的训练结果进行推理，得到未来24小时的PM10预测值，预测结果与实测值的对比如图2所示。

上述方法的TCN程序结构如图3所示，运行上述方法程序的系统包括数据处理、模型训练、后台统计分析三大模块，通过数据采集、数据清洗、特征选择、模型训练和推理的过程，实现对空气质量参数的精准预测，系统框架结构如图4所示。其中，数据处理模块主要完成数据采集、数据清洗、特征选择功能，模型训练模块主要完成TCN模型超参数寻优、模型训练、模型调优过程，后台统计分析模块主要完成报警推送、报警统计、污染日历展示等功能。

Claims (9)

1.一种基于时序卷积网络算法的空气质量预测方法，其特征在于，包括以下步骤：

1)数据获取及预处理

1.1)从一个地区的多个观测站获取历史数据，所述历史数据包括历史空气质量数据和历史气象数据；其中，空气质量数据包括SO₂、NO₂、O₃、CO、PM10和PM2.5数值，气象数据包括风速、风向、气压、温度和湿度；

1.2)对历史数据中的噪声点基于3-σ准则进行检测，并对检测出的噪声点采用K最近邻法进行补齐；对历史数据中的缺失值和错误值采用K最近邻法进行补齐和处理；对历史数据中与空气质量预测无关的数据进行删除；

2)输入数据处理

2.1)预处理完成后，将待预测观测站过去第一时间段内的历史数据作为训练集，将其余观测站过去第二时间段内相同时刻的历史数据均值作为验证集；所述训练集与验证集的样本数比为6:4-8:2；

2.2)将训练集和验证集的数据归一化；

2.3)将归一化后的数据格式转换为[样本数、基准步长、特征数]的三通道格式；

3)模型搭建及训练

3.1)搭建由因果卷积、膨胀卷积和残差块组成的TCN模型；所述残差块为5层结构，5层残差块的膨胀率分别为2⁰K、2¹K、2²K、2³K、2⁴K，其中K为基础膨胀率；

所述残差块通过以下步骤确定：

a)用一个1×1的卷积对当前层的输入x做变换得到当前层的输出f(x)，将当前层的输入x与当前层的输出f(x)直接相加得到当前层残差块；

b)对每个残差块选择ReLU函数作为激活函数，所述ReLU函数为：y＝max(0,x′)，其中x′为激活函数层的输入，y为激活函数层的输出；

c)在每个残差块中加入Dropout进行正则化；

3.2)设置模型超参数，利用训练集与验证集对TCN模型进行训练，并选用均方误差作为训练的评价指标；所述模型超参数包括训练代数epoch以及一次训练所选取的样本数batch_size；

4)模型推理

将当前时刻之前若干小时的空气质量数据和气象数据作为输入，利用步骤3.2)的训练结果进行推理，得到未来若干小时的空气质量预测值。

2.根据权利要求1所述的基于时序卷积网络算法的空气质量预测方法，其特征在于：

步骤2.3)中，所述基准步长为过去的4T时长，T为预测的未来时长。

3.根据权利要求2所述的基于时序卷积网络算法的空气质量预测方法，其特征在于：

步骤3.2)中，所述模型超参数通过遗传算法寻优的方式确定。

4.根据权利要求3所述的基于时序卷积网络算法的空气质量预测方法，其特征在于：

步骤3.2)中，所述训练代数epoch＝100；所述一次训练所选取的样本数batch_size＝64。

5.根据权利要求4所述的基于时序卷积网络算法的空气质量预测方法，其特征在于：

步骤4)中，所述当前时刻之前若干小时为未来若干小时的3-5倍。

6.根据权利要求1至5任一所述的基于时序卷积网络算法的空气质量预测方法，其特征在于：

步骤2.1)中，所述过去第一时间段具体为过去6-8个月；所述过去第二时间段具体为过去2-4个月。

7.根据权利要求6所述的基于时序卷积网络算法的空气质量预测方法，其特征在于：

步骤2.1)中，所述训练集与验证集的比例为7:3。

8.根据权利要求7所述的基于时序卷积网络算法的空气质量预测方法，其特征在于：

步骤2.2)中，所述归一化的方法为极小值-极大值归一化法。

9.根据权利要求8所述的基于时序卷积网络算法的空气质量预测方法，其特征在于：

步骤3.1)中，所述K＝1。

Images