CN115456314B - 一种大气污染物时空分布预测系统及方法 - Google Patents
一种大气污染物时空分布预测系统及方法 Download PDFInfo
- Publication number
- CN115456314B CN115456314B CN202211408732.5A CN202211408732A CN115456314B CN 115456314 B CN115456314 B CN 115456314B CN 202211408732 A CN202211408732 A CN 202211408732A CN 115456314 B CN115456314 B CN 115456314B
- Authority
- CN
- China
- Prior art keywords
- time
- space
- self
- connection path
- feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000009826 distribution Methods 0.000 title claims abstract description 66
- 239000003344 environmental pollutant Substances 0.000 title claims abstract description 29
- 231100000719 pollutant Toxicity 0.000 title claims abstract description 29
- 238000000034 method Methods 0.000 title claims abstract description 25
- 230000004927 fusion Effects 0.000 claims abstract description 49
- 238000000605 extraction Methods 0.000 claims abstract description 32
- 230000008859 change Effects 0.000 claims abstract description 6
- 230000007246 mechanism Effects 0.000 claims description 43
- 230000007704 transition Effects 0.000 claims description 15
- 230000006870 function Effects 0.000 claims description 14
- 238000012549 training Methods 0.000 claims description 14
- 238000005457 optimization Methods 0.000 claims description 11
- 230000004913 activation Effects 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 5
- 238000013528 artificial neural network Methods 0.000 claims description 3
- 238000013527 convolutional neural network Methods 0.000 claims description 3
- 125000004122 cyclic group Chemical group 0.000 claims description 3
- 230000005764 inhibitory process Effects 0.000 claims description 3
- 238000011176 pooling Methods 0.000 claims description 3
- 230000000737 periodic effect Effects 0.000 abstract description 11
- 230000005540 biological transmission Effects 0.000 abstract description 6
- 230000009191 jumping Effects 0.000 abstract description 6
- 238000012937 correction Methods 0.000 abstract description 4
- 230000007613 environmental effect Effects 0.000 abstract description 2
- 230000000694 effects Effects 0.000 description 7
- 238000004422 calculation algorithm Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 241000282414 Homo sapiens Species 0.000 description 3
- 239000000443 aerosol Substances 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 208000013641 Cerebrofacial arteriovenous metameric syndrome Diseases 0.000 description 1
- 239000005427 atmospheric aerosol Substances 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 238000012417 linear regression Methods 0.000 description 1
- 239000007788 liquid Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 230000037361 pathway Effects 0.000 description 1
- 238000001556 precipitation Methods 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 238000012950 reanalysis Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Strategic Management (AREA)
- Human Resources & Organizations (AREA)
- Economics (AREA)
- Computational Linguistics (AREA)
- Development Economics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Game Theory and Decision Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Entrepreneurship & Innovation (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供了一种大气污染物时空分布预测系统及方法，涉及环境预测领域，通过特征提取单元将所述时空分布信息分别输入顺序连接通路和跳跃连接通路进行特征提取，顺序连接通路可以提取连续的时序特征，得到一个连续的变化趋势，用于后续时刻的预测；跳跃连接通路是跳跃着连接不同周期同一时刻的数据，通过跳跃连接通路对特征的传递，当前时刻的特征中可以融入前面周期内相同时刻的数据特征，用更明显的周期性特征来预测当前时刻的特征，对当前时刻的预测有一个辅助修正的作用；结合PM2.5时空分布的连续性变化趋势和周期性变化特征，融合单元将两条连接通路提取的特征相融合，使得预测结果更加准确，可用于预测很长一段时间之后的PM2.5时空分布情况。
Description
技术领域
本发明涉及环境预测技术领域，具体而言，涉及一种大气污染物时空分布预测系统及方法。
背景技术
PM2.5是一种常见的大气污染物，早在几年前就因雾霾问题而饱受关注。气溶胶（指悬浮在气体介质中的固态或液态颗粒所组成的气态分散系统）与人类生产生活息息相关，精确地预测气溶胶含量可以帮助市民和相关机构做出相应的决策，从而减少带来的损害。然而，精准地预测气溶胶是一项巨大的挑战。
大气气溶胶复杂多变，影响因素多，影响关系复杂，数据变化剧烈。传统的一些预测方法使用模拟的方式，需要消耗大量的计算资源，且预测的准确度不够高。另外有些方法使用线性回归、随机森林等机器学习模型，在这些方法中，虽然学习模型小，计算量少，但由于这些模型的建模能力有限，预测效果也不足以满足空气预报的需求。近几年时空序列预测算法逐渐兴起，与各学科的交叉取得了极大的成果，如降水预测、车流量预测等。这些时空序列预测算法也可以用于PM2.5的时空分布预测，但这些算法并不是针对PM2.5预测设计的，对PM2.5的时空分布特性没有很好的利用。这些方法只使用了相邻时刻的数据，时间上不相邻的数据没有进行很好的交互，这样难以利用更深的数据特征，很难有更准确的预测，预测结果比真实结果相差较大，使得这些模型的预测结果随着预测时间的延长，误差越来越高，这不利于较长时间的PM2.5的分布预测，模型的预测效果有待提升。
发明内容
本发明所要解决的问题是如何使得大气污染物的预测结果更准确。
为解决上述问题，一方面，本发明提供了一种大气污染物时空分布预测系统，包括:
特征提取单元，用于将连续时间段内的大气污染物的时空分布信息分别输入顺序连接通路和跳跃连接通路进行特征提取，得到顺序连接特征和跳跃连接特征，其中，所述顺序连接通路按照时间顺序依次读取所述时空分布信息，所述跳跃连接通路按照设定的跳跃周期长度间隔式的读取所述时空分布信息；
融合单元，用于将所述顺序连接特征和所述跳跃连接特征融合，得到融合特征；
解码单元，用于对所述融合特征进行解码，得到最终预测结果。
进一步地，所述顺序连接通路和所述跳跃连接通路上的特征提取单元均为ConvGRU单元，所述ConvGRU单元包括卷积神经网络和循环神经网路。
进一步地，所述ConvGRU单元内的特征提取运算过程为：
其中，“∗”表示卷积操作，“∘”表示Hadamard乘积，Zt为更新门，Rt为重置门，Ht−1表示前一时刻的特征，Xt是t时刻的输入图像，
表示隐含层候选值，Ht表示当前时刻的特征。Wxz，Whz，Wxr，Whr，Wxh和Whh分别是卷积操作的卷积核，σ表示Sigmoid激活函数，ReLU表示单侧抑制激活函数，输出结果为隐含层候选值。
进一步地，所述融合单元包括卷积层和自注意力层，所述自注意力层包括通道自注意力机制和空间自注意力机制，所述通道自注意力机制与所述空间自注意力机制叠加。
进一步地，将所述顺序连接特征和所述跳跃连接特征进行拼接，并将拼接结果输入到所述卷积层中，所述卷积层计算多个所述拼接结果的加权和，得到过渡特征，将所述过渡特征输入到自注意力层中得到融合单元的输出结果。
进一步地，所述自注意力层中的所述通道自注意力机制对所述过渡特征进行卷积，包括：
attened_c=ECA(X)∗X+X，
ECA(X)=σ(C1Dk(g(X)))，
其中，attened_c表示所述通道自注意力机制的输出结果，X为卷积层得到的过渡特征HConvt，“∗”表示卷积操作，σ表示Sigmoid激活函数，C1Dk表示通道上的一维卷积，k是卷积核的大小，g(X)表示全局平均池化，W和H分别表示图片的长和宽，i和j表示图片的第i行，第j列，Xij表示当前时刻图片的第i行第j列的特征。
进一步地，所述自注意力层中的所述空间自注意力机制对所述通道自注意力机制的输出结果进行卷积，包括：
fusioned_X=Attention(Wq*attened_c,Wk*attened_c,Wv*attened_c)∗attened_c+attened_c，
其中，fusioned_X是所述融合单元的输出结果，Wq，Wk和Wv分别为3*3的卷积核，attened_c表示所述通道自注意力机制的输出结果。
进一步地，所述解码单元还用于分别对所述顺序连接特征和所述跳跃连接特征进行解码，得到顺序预测结果和跳跃预测结果。
进一步地，对得到的所述最终预测结果、顺序预测结果和跳跃预测结果进行梯度下降优化，并将优化结果作为新的输入更新到所述特征提取单元中，对所述特征提取单元和所述融合单元进行优化训练。
另外一方面，本发明还提供了一种大气污染物时空分布预测方法，包括：
获取连续时间段内的大气污染物的时空分布信息；
将所述时空分布信息分别输入顺序连接通路和跳跃连接通路进行特征提取，得到顺序连接特征和跳跃连接特征，其中，所述顺序连接通路按照时间顺序依次读取所述时空分布信息，所述跳跃连接通路按照设定的跳跃周期长度间隔式的读取所述时空分布信息；
将所述顺序连接特征和所述跳跃连接特征融合，得到融合特征；
对所述融合特征进行解码，得到最终预测结果。
与现有技术相比，本发明具有如下有益效果：
本发明提供的一种大气污染物时空分布预测系统及方法，通过特征提取单元将所述时空分布信息分别输入顺序连接通路和跳跃连接通路进行特征提取，顺序连接通路可以提取连续的时序特征，得到一个连续的变化趋势，用于后续时刻的预测；跳跃连接通路是跳跃着连接不同周期同一时刻的数据，通过跳跃连接通路对特征的传递，当前时刻的特征中可以融入前面周期内相同时刻的数据特征，用更明显的周期性特征来预测当前时刻的特征，对当前时刻的预测有一个辅助修正的作用；结合PM2.5时空分布的连续性变化趋势和周期性变化特征，融合单元将两条连接通路提取的特征相融合，使得预测结果更加准确，可以用于预测很长一段时间之后的PM2.5时空分布情况。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单的介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1示出了本发明实施例中大气污染物时空分布预测系统的流程框图；
图2示出了本发明实施例中顺序连接通路和跳跃连接通路的示意图；
图3示出了本发明实施例中特征提取单元信息处理流程示意图；
图4示出了本发明实施例中融合单元信息处理流程示意图；
图5示出了本发明实施例中大气污染物时空分布预测方法的流程图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地说明，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
图1示出了本发明实施例中大气污染物时空分布预测系统的流程框图，所述大气污染物时空分布预测系统，包括：
特征提取单元，用于将连续时间段内的大气污染物的时空分布信息分别输入顺序连接通路和跳跃连接通路进行特征提取，得到顺序连接特征和跳跃连接特征，其中，所述顺序连接通路按照时间顺序依次读取所述时空分布信息，所述跳跃连接通路按照设定的跳跃周期长度间隔式的读取所述时空分布信息。
PM2.5的时空分布具有明显的周期性，具体表现为，每天的相同时刻有较高的PM2.5浓度，另一相同时刻有较低的PM2.5浓度，这是由于人类活动等因素造成的。现有的时空序列预测模型都是使用顺序连接的通路，即，数据特征的传播在时间上是连续地由上一时刻传递到下一时刻的，这样的传递，由于不能使不相邻的时刻的图像直接进行交互，因此很难清晰地建模数据的周期性特征，而PM2.5的周期性特征又十分明显，对周期性的建模显然可以帮助做出更准确的预测。因此，为了更好地建模PM2.5分布的周期性，我们设计了两条模型提取特征的传递链路，一条是顺序连接通路，即使用t-1时刻的所述顺序连接特征预测t时刻的所述顺序连接特征；另一条是跳跃连接通路，即使用t-T时刻的所述跳跃连接特征预测t时刻的所述跳跃连接特征，其中T为所述跳跃周期长度。
融合单元，用于将所述顺序连接特征和所述跳跃连接特征融合，得到融合特征。
解码单元，用于对所述融合特征进行解码，得到最终预测结果。另外，所述解码单元还用于分别对所述顺序连接特征和所述跳跃连接特征进行解码，得到顺序预测结果和跳跃预测结果。
图1中，Hseqt−1表示t−1时刻的顺序连接通路得到的特征，Hskipt−T表示t−T时刻的跳跃连接通路得到的特征。Hseqt是t时刻的顺序连接通路得到的特征，Hskipt是t时刻的跳跃连接通路得到的特征。Ht是t时刻的融合特征，解码后即是t时刻输出的预测结果。为了更好的说明两条通路的关系，结合图2进一步举例说明。
以欧空局CAMS数据中的PM2.5再分析场数据为例，数据的时间间隔为3小时，因此一天有8张图片，第一天的图片为X1到X8，第二天的图片为X9到X16，以此类推。那么顺序连接是图中的空心箭头指出的通路，是X1的特征传递给X2所在时刻，再传递到X3所在时刻；跳跃连接的通路是图中填色箭头指出的内容，即X1的特征传递给X9所在时刻，再传递给X17所在时刻，X2的特征传递给X10时刻，再传递给X18时刻，以此类推。
系统输入是一段连续时间内的PM2.5时空分布，数据分别从特征提取单元中的跳跃连接通路和顺序连接通路提取特征，这两条通路都是使用ConvGRU单元提取特征，对提取出的两种特征，使用一个门控融合单元融合出当前时刻的融合特征，其中，门控融合单元使用的是卷积和自注意力机制结合的方式。分别对跳跃连接特征、顺序连接特征和融合特征进行解码，得到的三种预测结果一起进行梯度下降的优化，以此训练系统中的计算模型，并最终以融合特征解码的结果作为最后的预测结果。输出是后一段连续时间内的PM2.5时空分布。
通过特征提取单元将所述时空分布信息分别输入顺序连接通路和跳跃连接通路进行特征提取，顺序连接通路可以提取连续的时序特征，得到一个连续的变化趋势，用于后续时刻的预测；跳跃连接通路是跳跃着连接不同周期同一时刻的数据，通过跳跃连接通路对特征的传递，当前时刻的特征中可以融入前面周期内相同时刻的数据特征，用更明显的周期性特征来预测当前时刻的特征，对当前时刻的预测有一个辅助修正的作用；结合PM2.5时空分布的连续性变化趋势和周期性变化特征，融合单元将两条连接通路提取的特征相融合，使得预测结果更加准确，可以用于预测很长一段时间之后的PM2.5时空分布情况。
其中，所述顺序连接通路和所述跳跃连接通路上的特征提取单元均为ConvGRU单元，所述ConvGRU单元包括卷积神经网络和循环神经网路。具有模型参数量小，易于训练等特征，能较好地建模时空序列数据。还可以使用的模型有ConvLSTM,TrajGRU，PredRNN以及MIM等。
在本发明的一种实施例中，如图3，所述ConvGRU单元内的特征提取运算过程为：
其中，“∗”表示卷积操作，“∘”表示Hadamard乘积，Zt为更新门，决定有多少前一时刻的特征Ht−1要更新到当前神经元中，Rt为重置门，决定前一时刻的特征Ht−1在当前时刻多大程度被遗忘掉，Xt是t时刻的输入图像，Ht−1表示前一时刻的特征，ConvGRU使用更新门和遗忘门来融合这两部分的信息得到当前时刻的特征Ht，
表示隐含层候选值，Ht表示当前时刻的特征。Wxz，Whz，Wxr，Whr，Wxh和Whh分别是卷积操作的卷积核，为3*3的权重矩阵，其中，Wxz表示从Xt卷积得到生成Zt的参数时的卷积核，Wxr表示由Xt卷积得到生成Rt的参数时的卷积核，以此类推，σ表示Sigmoid激活函数，其作用是将值归一化到0到1的区间内，ReLU表示单侧抑制激活函数，输出结果为隐含层候选值。
在本发明的一种实施例中，所述融合单元包括卷积层和自注意力层，所述自注意力层包括通道自注意力机制和空间自注意力机制，所述自注意力层是由通道自注意力机制叠加空间自注意力机制构成。能够更好地融合跳跃连接通路和顺序连接通路提取出的两种特征，如图4所示。
其中，将所述顺序连接特征和所述跳跃连接特征进行拼接，并将拼接结果输入到所述卷积层中，所述卷积层计算多个所述拼接结果的加权和，得到过渡特征，将所述过渡特征输入到自注意力层中得到融合单元的输出结果。假设当前时刻的顺序连接通路得到的特征是Hseqt，跳跃连接通路得到的特征是Hskipt，它们具有相同的形状。在通道上对两者进行拼接，得到的结果是[Hseqt,Hskipt]，拼接的结果输入到卷积层中，卷积层由多个1×1的卷积核构成。1×1的卷积核的作用原理是对每个通道的数据进行加权和，多个卷积核就有多种权重组和，可以提取多种[Hseqt,Hskipt]的拼接特征。
卷积层得到的输出结果过渡特征HConvt再输入到一个自注意力层中，自注意力层使用一个通道自注意力机制叠加一个空间自注意力机制的方式。通道自注意力机制旨在增加通道之间的交互，提取一些更高阶的特征。具体来说，使用的是ECA通道自注意力机制。ECA通道自注意力机制使用通道上的一维卷积来代替常用的通道自注意力机制SENet中的全连接层，并且只考虑局部跨通道交互，根据通道数自适应地决定一维卷积的视野，是一种轻量高效的通道卷积。
在本发明的一种实施例中，所述自注意力层中的所述通道自注意力机制对所述过渡特征进行卷积，所述ECA通道自注意力机制的公式为：
ECA(X)=σ(C1Dk(g(X)))，
其中，“∗”表示卷积操作，σ表示Sigmoid激活函数，C1Dk表示通道上的一维卷积，k是卷积核的大小，本实施例中取k=5，g(X)表示全局平均池化（GAP），W和H分别表示图片的长和宽，i和j表示图片的第i行，第j列，Xij表示当前时刻图片的第i行第j列的特征。
综上，通道自注意力层的总体过程是，对前序步骤得到的结果，代入ECA通道自注意力公式，使得通道注意力结果叠加到原特征上，总体公式为：
attened_c=ECA(X)∗X+X，
其中，attened_c表示所述通道自注意力机制的输出结果，X为卷积层得到的过渡特征HConvt。
在本发明的一种实施例中，空间自注意力机制是在通道自注意力机制上进行叠加的。空间自注意力机制采用的是传统的QKV实现方式，对通道自注意力的输出结果attened_c分别用三个不同的3*3卷积核进行卷积，得到Q、K和V，代入空间自注意力公式Attention(Q,K,V)，得到的结果简记为attened_st,沿用之前的注意力叠加的方式叠加到输入的特征上，所述自注意力层中的所述空间自注意力机制对所述通道自注意力机制的输出结果进行卷积，具体用公式表示为：
fusioned_X=Attention(Wq*attened_c,Wk*attened_c,Wv*attened_c)∗attened_c+attened_c，
其中，fusioned_X是所述融合单元的输出结果，Wq，Wk和Wv分别为3*3的卷积核，attened_c表示所述通道自注意力机制的输出结果。
在本发明的一种实施例中，对得到的所述最终预测结果、顺序预测结果和跳跃预测结果进行梯度下降优化，并将优化结果作为新的输入更新到所述特征提取单元中，对所述特征提取单元和所述融合单元进行优化训练。为了使模型可以更好地得到训练，基于多任务学习的训练机制，通过顺序连接通路和跳跃连接通路分别可以得到一种预测结果，通过最后的融合单元也可以得到一种预测结果，这三种预测结果分别通过系统中不同的特征传递路径得到，融合了不同的特征，它们的预测结果都是有效的，只是准确度不同，其中，通过融合单元得到的是最准确的预测结果。对不同的结果利用梯度下降算法进行更新，可以更新到不同通路上的参数。虽然最终将通过融合单元的通路得到的预测结果输出，但可以使用多任务学习的训练机制，对三个通路的输出一同进行梯度下降，两条通路的不断训练更新，能够使得融合单元的训练效果更好，帮助融合单元更快地学习参数。
上述系统利用PM2.5在时间上周期性分布的特征，在ConvLSTM模型的基础上构建跳跃连接通路，并且使用基于卷积和自注意力机制的融合单元，将不同周期同一相位的时刻的PM2.5空间分布和当前的相邻时刻的PM2.5空间分布有机地融合在一起，通过建模周期性得到更准确的预测结果，且预测结果随着预测时间的延长，可以表现出比其他时空序列预测模型更明显的准确性。
图5示出了本发明实施例中大气污染物时空分布预测方法的流程图，结合图1，所述大气污染物时空分布预测方法包括：
步骤1：获取连续时间段内的大气污染物的时空分布信息。
步骤2：将所述时空分布信息分别输入顺序连接通路和跳跃连接通路进行特征提取，得到顺序连接特征和跳跃连接特征，其中，所述顺序连接通路按照时间顺序依次读取所述时空分布信息。所述跳跃连接通路按照设定的跳跃周期长度间隔式的读取所述时空分布信息。
步骤3：将所述顺序连接特征和所述跳跃连接特征融合，得到融合特征。
步骤4：对所述融合特征进行解码，得到最终预测结果。
本实施所述的方法可以适用于全国各地的PM2.5时空分布预测，顺序连接通路可以提取连续的时序特征，得到一个连续的变化趋势，用于后续时刻的预测；跳跃连接通路是跳跃着连接不同周期同一时刻的数据，通过跳跃连接通路对特征的传递，当前时刻的特征中可以融入前面周期内相同时刻的数据特征，用更明显的周期性特征来预测当前时刻的特征，对当前时刻的预测有一个辅助修正的作用；结合PM2.5时空分布的连续性变化趋势和周期性变化特征，将两条连接通路提取的特征相融合，使得预测结果更加准确，可以用于预测很长一段时间之后的PM2.5时空分布情况。通过这两条通路对当前时刻进行预测时，可以清楚地知道前面一段连续时间的PM2.5浓度的时空分布变化趋势，每个周期中相同时刻的PM2.5浓度会处于什么样的水平，以及前面连续的几天内同一时刻的PM2.5同比变化趋势。此外，PM2.5与人类生产生活息息相关，精确地预测PM2.5含量可以帮助市民和单位等相关机构做出相应的决策，从而减少污染带来的损害。
在本发明的一种实施例中，所述将所述时空分布信息分别输入顺序连接通路和跳跃连接通路进行特征提取，得到顺序连接特征和跳跃连接特征之后，所述大气污染物时空分布预测方法还包括：
分别对所述顺序连接特征和所述跳跃连接特征进行解码，得到顺序预测结果和跳跃预测结果。这两个预测结果也可以在短期内当做最后的预测结果，但是如果想要预测更长时间以后的PM2.5时空分布情况，还需要将两者结合。
在本发明的一种实施例中，所述对所述融合特征进行解码，得到最终预测结果之后，所述大气污染物时空分布预测方法还包括：
对得到的所述最终预测结果、所述顺序预测结果和所述跳跃预测结果进行梯度下降优化，以此对特征提取算法和特征融合算法进行优化。最后使用一个多任务学习的训练机制，用ADAM优化器进行模型的训练。在训练的时候，两条连接通路输出的顺序预测结果和跳跃预测结果可以用作对顺序连接通路和跳跃连接通路内的特征提取模型进行训练，同时还可以用作对融合单元内的融合模型进行训练。这样每条通路和融合单元均在保持更新优化，并且每条通路的更新优化效果还会叠加到融合单元的更新优化中，使得融合单元的训练效果更好，融合单元内的融合模型学习速度更快。
尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (8)
1.一种大气污染物时空分布预测系统，其特征在于，包括：
特征提取单元，用于将连续时间段内的大气污染物的时空分布信息分别输入顺序连接通路和跳跃连接通路进行特征提取，得到顺序连接特征和跳跃连接特征，其中，所述顺序连接通路按照时间顺序依次读取所述时空分布信息，所述跳跃连接通路按照设定的跳跃周期长度间隔式的读取所述时空分布信息；
融合单元，用于将所述顺序连接特征和所述跳跃连接特征融合，得到融合特征；
解码单元，用于对所述融合特征进行解码，得到最终预测结果；
所述融合单元包括卷积层和自注意力层，所述自注意力层包括通道自注意力机制和空间自注意力机制，所述通道自注意力机制与所述空间自注意力机制叠加；
将所述顺序连接特征和所述跳跃连接特征进行拼接，并将拼接结果输入到所述卷积层中，所述卷积层计算多个所述拼接结果的加权和，得到过渡特征，将所述过渡特征输入到自注意力层中得到融合单元的输出结果。
2.根据权利要求1所述的大气污染物时空分布预测系统，其特征在于，所述顺序连接通路和所述跳跃连接通路上的特征提取单元均为ConvGRU单元，所述ConvGRU单元包括卷积神经网络和循环神经网路。
3.根据权利要求2所述的大气污染物时空分布预测系统，其特征在于，所述ConvGRU单元内的特征提取运算过程为：
其中，“∗”表示卷积操作，“∘”表示Hadamard乘积，Zt为更新门，Rt为重置门，Ht−1表示前一时刻的特征，Xt表示t时刻的输入图像，
表示隐含层候选值，Ht表示当前时刻的特征，Wxz，Whz，Wxr，Whr，Wxh和Whh分别是卷积操作的卷积核，σ表示Sigmoid激活函数，ReLU表示单侧抑制激活函数，输出结果为隐含层候选值。
4.根据权利要求1所述的大气污染物时空分布预测系统，其特征在于，所述自注意力层中的所述通道自注意力机制对所述过渡特征进行卷积，包括：
attened_c=ECA(X)∗X+X，
ECA(X)=σ(C1Dk(g(X)))，
其中，attened_c表示所述通道自注意力机制的输出结果，X表示所述卷积层得到的所述过渡特征，“∗”表示卷积操作，σ表示Sigmoid激活函数，C1Dk表示通道上的一维卷积，k表示卷积核的大小，g(X)表示全局平均池化，W和H分别表示图片的长和宽，i和j表示图片的第i行，第j列，Xij表示当前时刻图片的第i行第j列的特征。
5.根据权利要求4所述的大气污染物时空分布预测系统，其特征在于，所述自注意力层中的所述空间自注意力机制对所述通道自注意力机制的输出结果进行卷积，包括：
fusioned_X=Attention(Wq*attened_c,Wk*attened_c,Wv*attened_c)∗attened_c+attened_c，
其中，fusioned_X表示所述融合单元的输出结果，Wq，Wk和Wv分别为3*3的卷积核，attened_c表示所述通道自注意力机制的输出结果。
6.根据权利要求1所述的大气污染物时空分布预测系统，其特征在于，所述解码单元还用于分别对所述顺序连接特征和所述跳跃连接特征进行解码，得到顺序预测结果和跳跃预测结果。
7.根据权利要求6所述的大气污染物时空分布预测系统，其特征在于，对得到的所述最终预测结果、顺序预测结果和跳跃预测结果进行梯度下降优化，并将优化结果作为新的输入更新到所述特征提取单元中，对所述特征提取单元和所述融合单元进行优化训练。
8.一种大气污染物时空分布预测方法，其特征在于，包括：
获取连续时间段内的大气污染物的时空分布信息；
将所述时空分布信息分别输入顺序连接通路和跳跃连接通路进行特征提取，得到顺序连接特征和跳跃连接特征，其中，所述顺序连接通路按照时间顺序依次读取所述时空分布信息，所述跳跃连接通路按照设定的跳跃周期长度间隔式的读取所述时空分布信息；
将所述顺序连接特征和所述跳跃连接特征融合，得到融合特征；
对所述融合特征进行解码，得到最终预测结果；
将所述顺序连接特征和所述跳跃连接特征进行拼接，并将拼接结果输入到卷积层中，所述卷积层计算多个所述拼接结果的加权和，得到过渡特征，将所述过渡特征输入到自注意力层中得到所述融合特征。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211408732.5A CN115456314B (zh) | 2022-11-11 | 2022-11-11 | 一种大气污染物时空分布预测系统及方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211408732.5A CN115456314B (zh) | 2022-11-11 | 2022-11-11 | 一种大气污染物时空分布预测系统及方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN115456314A CN115456314A (zh) | 2022-12-09 |
| CN115456314B true CN115456314B (zh) | 2023-03-24 |
Family
ID=84295623
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202211408732.5A Active CN115456314B (zh) | 2022-11-11 | 2022-11-11 | 一种大气污染物时空分布预测系统及方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115456314B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117312832B (zh) * | 2023-11-28 | 2024-07-12 | 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院) | 一种基于深度序列模型的中长期云量预测方法及系统 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113326981A (zh) * | 2021-05-26 | 2021-08-31 | 北京交通大学 | 基于动态时空注意力机制的大气环境污染物预测模型 |
| CN114240000A (zh) * | 2021-12-31 | 2022-03-25 | 北京工业大学 | 一种基于时空图卷积网络的空气质量预测方法 |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108364087A (zh) * | 2018-01-11 | 2018-08-03 | 安徽优思天成智能科技有限公司 | 一种城市机动车尾气浓度的时空预测方法 |
| CN110503139A (zh) * | 2019-08-07 | 2019-11-26 | 中国科学技术大学 | 一种城市区域尾气污染预测方法 |
| CN112561191B (zh) * | 2020-12-22 | 2024-02-27 | 北京百度网讯科技有限公司 | 预测模型的训练、预测方法、装置、设备、程序和介质 |
| CN115018727A (zh) * | 2022-06-14 | 2022-09-06 | 中国地质大学（武汉） | 一种多尺度图像修复方法、存储介质及终端 |
-
2022
- 2022-11-11 CN CN202211408732.5A patent/CN115456314B/zh active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113326981A (zh) * | 2021-05-26 | 2021-08-31 | 北京交通大学 | 基于动态时空注意力机制的大气环境污染物预测模型 |
| CN114240000A (zh) * | 2021-12-31 | 2022-03-25 | 北京工业大学 | 一种基于时空图卷积网络的空气质量预测方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN115456314A (zh) | 2022-12-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109887282B (zh) | 一种基于层级时序图卷积网络的路网交通流预测方法 | |
| Noaeen et al. | Reinforcement learning in urban network traffic signal control: A systematic literature review | |
| CN112863180B (zh) | 交通速度预测方法、装置、电子设备及计算机可读介质 | |
| CN110717627B (zh) | 一种基于对偶图框架的全量交通预测方法 | |
| Chen et al. | A novel reinforced dynamic graph convolutional network model with data imputation for network-wide traffic flow prediction | |
| CN114299723B (zh) | 一种交通流量预测方法 | |
| CN115240425A (zh) | 一种基于多尺度时空融合图网络的交通预测方法 | |
| CN110570035B (zh) | 同时建模时空依赖性和每日流量相关性的人流量预测系统 | |
| CN109460855A (zh) | 一种基于聚焦机制的群体流量预测模型及方法 | |
| CN116187555A (zh) | 基于自适应动态图的交通流预测模型构建方法及预测方法 | |
| CN115456314B (zh) | 一种大气污染物时空分布预测系统及方法 | |
| CN112990485A (zh) | 基于强化学习的知识策略选择方法与装置 | |
| CN115204478A (zh) | 一种结合城市兴趣点和时空因果关系的公共交通流量预测方法 | |
| Xu et al. | AGNP: Network-wide short-term probabilistic traffic speed prediction and imputation | |
| CN115544239A (zh) | 一种基于深度学习模型的布局偏好预测方法 | |
| CN116596109A (zh) | 一种基于门控时间卷积网络的交通流预测模型 | |
| CN115376317A (zh) | 一种基于动态图卷积和时序卷积网络的交通流预测方法 | |
| Wang et al. | Building transportation foundation model via generative graph transformer | |
| CN116523104A (zh) | 基于情景感知和深度学习的异常群体流量预测方法及装置 | |
| Zhang et al. | A spatiotemporal graph wavelet neural network for traffic flow prediction | |
| CN116975686A (zh) | 训练学生模型的方法、行为预测方法和装置 | |
| CN116777539A (zh) | 基于层次区域结构图的毛鸡品种毛利趋势预测系统及方法 | |
| CN116258253A (zh) | 一种基于贝叶斯神经网络的车辆od预测方法 | |
| CN114781696B (zh) | 一种面向城市路网的无模型事故影响范围预测方法 | |
| CN113190632B (zh) | 一种轨迹复原算法的模型建立方法及系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |