CN110991690A - 一种基于深度卷积神经网络的多时次风速预测方法 - Google Patents

一种基于深度卷积神经网络的多时次风速预测方法 Download PDF

Info

Publication number
CN110991690A
CN110991690A CN201910987871.XA CN201910987871A CN110991690A CN 110991690 A CN110991690 A CN 110991690A CN 201910987871 A CN201910987871 A CN 201910987871A CN 110991690 A CN110991690 A CN 110991690A
Authority
CN
China
Prior art keywords
time
layer
neural network
prediction
convolutional neural
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910987871.XA
Other languages
English (en)
Other versions
CN110991690B (zh
Inventor
陈巧特
何彩芬
符冉迪
周阳涨
金炜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ningbo University
Original Assignee
Ningbo University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ningbo University filed Critical Ningbo University
Priority to CN201910987871.XA priority Critical patent/CN110991690B/zh
Publication of CN110991690A publication Critical patent/CN110991690A/zh
Application granted granted Critical
Publication of CN110991690B publication Critical patent/CN110991690B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/04Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • G06Q50/26Government or public services

Abstract

本发明公开了一种基于深度卷积神经网络的多时次风速预测方法,特点是首先构建模型输入特征图,再基于深度卷积神经网络建立预测模型,最后根据建立的预测模型进行风速的多时次提前预测;优点是使用滑动窗口的方式从历史实测数据和数值天气预报模型的预测数据中构造了二维的特征图,这种形式的输入数据保留了原始数据的时序信息并可以参与卷积运算,构建的预测模型不仅利用了一维卷积神经网络提取相邻时域内各个气象变量之间的浅层局部特征,而且还利用了二维卷积神经网络由浅入深地挖掘浅层局部特征中潜在的深层抽象特征信息,为回归预测层提供了有效的深度特征数据,提高了模型的整体预测性能。

Description

一种基于深度卷积神经网络的多时次风速预测方法
技术领域
本发明涉及多时次的风速预测方法,尤其是一种基于深度卷积神经网络的多时次风速预测方法。
背景技术
强风灾害是一种由气候变化引起的极端天气灾害,它不仅带来了严重的经济损失,而且深深地制约了社会的健康发展,是我国沿海地区的主要自然灾害之一。近年来,国内外许多学者已对风速预测进行了大量的研究,提出的众多风速预测方法可分为以下三类:1)物理方法,主要包括基于数值天气预报和空间相关法的预测方法,此类方法需要利用低层的大气物理信息和地形等详细信息,建立基于流体动力学模型,它通常应用于中短期风速预测任务,主要缺点在于计算的复杂度较高,需要在超级计算机上连续运算数小时;2)统计学方法,例如回归分析法、卡尔曼滤波法和自回归滑动平均法等,这些方法的基本思想是从历史的风速时间序列中挖掘出与所预测的风速序列之间的关联,其缺点是对数据的质量要求较高,而且其预测精度会随着预测步长的增加而下降;3)人工智能方法,如基于支持向量回归的风速预测方法和基于极限学习机方法,这些基于传统神经网络设计的模型更倾向于学习浅层的抽象特征,预测的准确性已经无法满足实际需求,且时效性较差。
发明内容
本发明所要解决的技术问题是提供一种基于深度卷积神经网络的多时次风速预测方法,将深度学习中的卷积神经网络模型应用于风速的多时次预测中,提高风速预测精度和时效性。
本发明解决上述技术问题所采用的技术方案为:一种基于深度卷积神经网络的多时次风速预测方法,包括以下步骤:
①构建模型输入的特征图,具体过程如下:
①-1从气象自动观测站中采集特定时间段内每个时刻的实测气象历史数据,将特定时间段的总时长记为n小时,n为整数且n>8,并从数值天气预报模式系统中获取该特定时间段内每个时刻的历史预测数据,将n个时刻中第i时刻下实测气象历史数据中的实测输入变量的集合记为Fi,Fi={fi 1,fi 2,fi 3,fi 4,fi 5,fi 6,fi 7,fi 8},其中,1≤i≤n且i为整数,fi 1表示n个时刻中第i时刻下实测气象历史数据中的风速,fi 2表示n个时刻中第i时刻下实测气象历史数据中的风向,fi 3表示n个时刻中第i时刻下实测气象历史数据中的温度,fi 4表示n个时刻中第i时刻下实测气象历史数据中的相对湿度,fi 5表示n个时刻中第i时刻下实测气象历史数据中的露点温度,fi 6表示n个时刻中第i时刻下实测气象历史数据中的风冷却指数,fi 7表示n个时刻中第i时刻下实测气象历史数据中的降水量,fi 8表示n个时刻中第i时刻下实测气象历史数据中的大气压强,将n个时刻中第i时刻下数值天气预报模式系统中的历史预测输入变量的集合记为
Figure BDA0002237276850000021
Figure BDA0002237276850000022
其中,
Figure BDA0002237276850000023
表示n个时刻中第i时刻下数值天气预报模式系统中的风速,
Figure BDA0002237276850000024
表示n个时刻中第i时刻下数值天气预报模式系统中的风向,
Figure BDA0002237276850000025
表示n个时刻中第i时刻下数值天气预报模式系统中的温度,
Figure BDA0002237276850000026
表示n个时刻中第i时刻下数值天气预报模式系统中的相对湿度,
Figure BDA0002237276850000027
表示n个时刻中第i时刻下数值天气预报模式系统中的露点温度,
Figure BDA0002237276850000028
表示n个时刻中第i时刻下数值天气预报模式系统中的风冷却指数,
Figure BDA0002237276850000029
表示n个时刻中第i时刻下数值天气预报模式系统中的降水量,
Figure BDA00022372768500000210
表示n个时刻中第i时刻下数值天气预报模式系统中的大气压强;
①-2对实测输入变量进行数据清洗得到清洗后的实测输入变量,然后对清洗后的实测输入变量和历史预测输入变量进行归一化操作得到归一化后的实测输入变量和归一化后的历史预测输入变量;
①-3定义在同一时刻的归一化后的实测输入变量组成一个实测时间序列单元,定义在同一时刻的归一化后的历史预测输入变量组成一个历史预测时间序列单元,将实测时间序列单元组成的序列记为S1,S1={G1,…,Gi,…,Gn},其中,Gi表示第i时刻下的实测时间序列单元,将历史预测时间序列单元组成的序列记为S2
Figure BDA00022372768500000211
Figure BDA00022372768500000212
表示第i时刻下的历史预测时间序列单元;
①-4使用滑动窗口的方式分别同时截取S1和S2,将截取S1的窗口定义为第一窗口,第一窗口的长度设置为7,将截取S2的窗口定义为第二窗口,第二窗口的长度设置为1,第一窗口从n个时刻中第1个时刻开始滑动,第二窗口从n个时刻中第8个时刻开始滑动,第一窗口和第二窗口的移动步长均为1,将每个时刻第一窗口和第二窗口同时截取的两种数据拼接成一张与该时刻对应的特征图一共得到n-8张特征图,将n-8张特征图组成特征图集M,M={M1,…,Mj,…,Mn-8},1≤j≤n-8,其中,
Figure BDA0002237276850000031
Figure BDA0002237276850000032
每张特征图的样本标签为实测气象历史数据中与该特征图中第二窗口所对应的时刻下的风速,将每张特征图的样本标签的集合记为ML
Figure BDA0002237276850000033
Figure BDA0002237276850000038
表示第1张特征图的样本标签,
Figure BDA0002237276850000034
表示第j张特征图的样本标签,
Figure BDA0002237276850000035
表示第n-8张特征图的样本标签;
②利用深度卷积神经网络建立风速预测模型,具体步骤如下:
②-1使用一维卷积神经网络构造深度卷积神经网络的第一层,使用0和1之间的随机数来初始化一维卷积神经网络的网络参数得到初始的偏置项b1和初始的8×3维的滤波器矩阵w,w对应的滤波器的移动步长为1,w对应的滤波器的个数为32,并将特征图及与特征图对应的样本标签输入深度卷积神经网络的第一层,深度卷积神经网络的第一层对输入的特征图进行特征提取后输出对应的特征映射,其中,将一维卷积神经网络对输入的第j张特征图Mj进行特征提取后输出的特征映射记为
Figure BDA0002237276850000036
Figure BDA0002237276850000037
其中,σ为sigmoid激活函数,·表示矩阵数乘,最终输出与Mj对应的32个通道的大小为1×8特征映射,将第一层输出的与每张特征图对应的32个通道的大小为1×8特征映射拼接成对应的一张大小为32×8的新特征映射;
使用二维卷积神经网络构造深度卷积神经网络的第二层,使用0和1之间的随机数来初始化二维卷积神经网络的网络参数得到初始的偏置项和初始的3×3维的滤波器矩阵,二维卷积神经网络具有两个二维卷积层,其滤波器大小均为3×3,其中第一个卷积层使用了32个滤波器,第一个卷积层后设置有第一池化层作为输出的采样层,第二个卷积层使用了64个滤波器,第二个卷积层后设置有第二池化层作为输出的采样层,将与每张特征图对应的大小为32×8的新特征映射输入至二维卷积神经网络,第一池化层对第一个卷积层输出的特征映射进行竖直方向的特征压缩,特征压缩中目标的接受域大小为2×1,选取接受域中的最大值进行池化采样后将输出值输入第二个卷积层,第二池化层对第二个卷积层输出的特征映射进行竖直方向的特征压缩,特征压缩中目标的接受域大小为2×1,选取接受域中的最大值进行池化采样后输出对应的特征映射;
最后,使用具有三层结构的全连接网络构造深度卷积神经网络的第三层,将深度卷积神经网络的第二层输出的与每张特征图对应的64个通道的大小为8×8的特征映射输入至具有三层结构的全连接网络中,使用0和1之间的随机数来初始化全连接网络中的网络参数,全连接网络中的网络参数包括第一层的连接权值U1和偏置项
Figure BDA0002237276850000041
第二层的连接权值U2和偏置项
Figure BDA0002237276850000042
以及第三层的连接权值U3和偏置项
Figure BDA0002237276850000043
全连接网络中的第一层对
Figure BDA0002237276850000044
的处理过程如下:
Figure BDA0002237276850000045
全连接网络中的第二层对
Figure BDA0002237276850000046
的处理过程如下:
Figure BDA0002237276850000047
全连接网络中的第三层对
Figure BDA00022372768500000418
的处理过程如下:
Figure BDA0002237276850000048
其中,
Figure BDA0002237276850000049
为全连接层中的第一层的输出值,
Figure BDA00022372768500000410
为全连接层中第二层的输出值,
Figure BDA00022372768500000411
为Mj对应的未来1小时的风速预测数值;
②-2根据保相似性原则定义预测模型的损失函数,获取步骤②-1得到的每张特征图对应的未来1小时的风速预测数值和对应的样本标签之间的差值,并将该差值进行反向传播,设定最大迭代次数,利用随机梯度下降算法进行迭代优化,直至损失函数的数值收敛或者迭代次数大于设定的最大迭代次数时,停止迭代过程并完成深度卷积神经网络的训练,得到训练完成的风速预测模型;
③使用实测气象历史数据和数值天气预报模式系统中未来8小时的预测数据构造其中每个整点时刻的当前预测时间点输入样本,将每个当前预测时间点输入样本依次输入训练完成的风速预测模型,输出的结果依次为未来8个时次的风速预测值,完成对未来8个时次的风速预测。
所述的步骤②-1中二维卷积层的处理过程为:
Figure BDA00022372768500000412
Figure BDA00022372768500000413
为二维卷积层输出的特征映射,
Figure BDA00022372768500000414
为输入至二维卷积层的特征映射,·表示矩阵数乘,b′为二维卷积神经网络的偏置项,w′为二维卷积神经网络的3×3维的滤波器矩阵,σ为sigmoid激活函数。
所述的步骤②-2中利用随机梯度下降算法进行迭代的具体过程如下:
定义损失函数如下:
Figure BDA00022372768500000415
其中,
Figure BDA00022372768500000416
g(·)表示的是全连接层,U表示全连接层中的连接权值,U={U1,U2,U3},bf表示的全连接层中的偏置项,
Figure BDA00022372768500000417
f(·)表示的是一维卷积神经网络和二维卷积神经网络的特征转换函数,W和b表示的是一维卷积神经网络和二维卷积神经网络中的连接权值和偏置项,W={w,w′},b={b1,b′},λ1和λ2为设置的权重衰减系数,
Figure BDA0002237276850000056
为2-范数符号;定义
Figure BDA0002237276850000051
则网络参数更新过程可表示为:
Figure BDA0002237276850000052
Figure BDA0002237276850000053
符号“←”表示更新符号,η表示学习率,
Figure BDA0002237276850000057
为计算偏导的符号,
Figure BDA0002237276850000054
Figure BDA0002237276850000055
所述的步骤②-2中λ1=0.001,λ2=0.001。
所述的步骤②-2中设定的最大迭代次数为500次。
所述的步骤③的具体过程如下:
③-1从气象自动观测站中采集当前整点预测时刻前7个时刻内每个整点时刻的实测气象历史数据,从实测气象历史数据中选取每个时刻的风速、风向、温度、相对湿度、露点温度、风冷却指数、降水量和大气压强作为当前实测输入变量,从数值天气预报模式系统中获取未来8小时内每个时刻的预测数据,从预测数据中选取每个时刻的风速、风向、温度、相对湿度、露点温度、风冷却指数、降水量和大气压强作为当前预测输入变量;
③-2根据当前实测输入变量和当前预测输入变量构造当前实测时间序列单元和当前预测时间序列单元,将当前实测时间序列单元和当前预测时间序列单元按照时间进程合并得到合并后的序列,然后使用长度为8的滑动窗口对合并后的序列进行特征图截取,窗口的移动步长为1,一共获得8张特征图;
③-3将8张特征图按照时间顺序依次输入至训练完成的风速预测模型中,输出的结果依次为未来8个时次的风速预测值,完成对未来8个时次的风速预测。
与现有技术相比,本发明的优点在于整个过程可分三大部分:第一部分为模型输入特征图的构建,第二部分为基于深度卷积神经网络的预测模型建立,第三部分为风速的多时次提前预测;其中,模型输入特征图的构建是为了提供深度卷积神经网络模型的训练样本集,将原始的一维数据构造成二维的特征图的形式,这种形式的输入数据能够保留原始数据中的时序信息,参与卷积运算;所构建的深度卷积神经网络的第一层用于对特征图的局部特征信息提取并将提取的特征映射输入至深度卷积神经网络的第二层,深度卷积神经网络的第二层通过二维卷积操作和最大池化采样对输入的特征映射进行深层特征提取和数据降维,得到深层的特征映射,再将得到深层的特征映射输入深度卷积神经网络第三层的回归预测层中进行预测;最后,结合历史真实数据和数值天气预报模式的预测数据,利用训练完毕的模型执行风速的多时次提前预测,可以预测未来连续8小时风速大小;其中,使用滑动窗口的方式从历史实测数据和数值天气预报模型的预测数据中构造了二维的特征图,这种形式的输入数据保留了原始数据的时序信息并可以参与卷积运算;接下来,通过卷积层、池化层和全连接层的使用,搭建了一种具有深度结构的预测模型,该模型不仅利用了一维卷积神经网络提取相邻时域内各个气象变量之间的浅层局部特征,而且还利用了二维卷积神经网络由浅入深地挖掘浅层局部特征中潜在的深层抽象特征信息,为回归预测层提供了有效的深度特征数据,提高了模型的整体预测性能,通过简单改变其中参数,即可预测未来连续其它时长的风速大小。
具体实施方式
以下对本发明作进一步详细描述。
一种基于深度卷积神经网络的多时次风速预测方法,包括以下步骤:
①构建模型输入的特征图,具体过程如下:
①-1从气象自动观测站中采集特定时间段内每个时刻的实测气象历史数据,将特定时间段的总时长记为n小时,n为整数且n>8,并从数值天气预报模式系统中获取该特定时间段内每个时刻的历史预测数据,将n个时刻中第i时刻下实测气象历史数据中的实测输入变量的集合记为Fi,Fi={fi 1,fi 2,fi 3,fi 4,fi 5,fi 6,fi 7,fi 8},其中,1≤i≤n且i为整数,fi 1表示n个时刻中第i时刻下实测气象历史数据中的风速,fi 2表示n个时刻中第i时刻下实测气象历史数据中的风向,fi 3表示n个时刻中第i时刻下实测气象历史数据中的温度,fi 4表示n个时刻中第i时刻下实测气象历史数据中的相对湿度,fi 5表示n个时刻中第i时刻下实测气象历史数据中的露点温度,fi 6表示n个时刻中第i时刻下实测气象历史数据中的风冷却指数,fi 7表示n个时刻中第i时刻下实测气象历史数据中的降水量,fi 8表示n个时刻中第i时刻下实测气象历史数据中的大气压强,将n个时刻中第i时刻下数值天气预报模式系统中的历史预测输入变量的集合记为
Figure BDA0002237276850000061
Figure BDA0002237276850000062
其中,
Figure BDA0002237276850000063
表示n个时刻中第i时刻下数值天气预报模式系统中的风速,
Figure BDA0002237276850000071
表示n个时刻中第i时刻下数值天气预报模式系统中的风向,
Figure BDA0002237276850000072
表示n个时刻中第i时刻下数值天气预报模式系统中的温度,
Figure BDA0002237276850000073
表示n个时刻中第i时刻下数值天气预报模式系统中的相对湿度,
Figure BDA0002237276850000074
表示n个时刻中第i时刻下数值天气预报模式系统中的露点温度,
Figure BDA0002237276850000075
表示n个时刻中第i时刻下数值天气预报模式系统中的风冷却指数,
Figure BDA0002237276850000076
表示n个时刻中第i时刻下数值天气预报模式系统中的降水量,
Figure BDA0002237276850000077
表示n个时刻中第i时刻下数值天气预报模式系统中的大气压强;
①-2对实测输入变量进行数据清洗得到清洗后的实测输入变量,然后对清洗后的实测输入变量和历史预测输入变量进行归一化操作得到归一化后的实测输入变量和归一化后的历史预测输入变量;
①-3定义在同一时刻的归一化后的实测输入变量组成一个实测时间序列单元,定义在同一时刻的归一化后的历史预测输入变量组成一个历史预测时间序列单元,将实测时间序列单元组成的序列记为S1,S1={G1,…,Gi,…,Gn},其中,Gi表示第i时刻下的实测时间序列单元,将历史预测时间序列单元组成的序列记为S2
Figure BDA0002237276850000078
Figure BDA0002237276850000079
表示第i时刻下的历史预测时间序列单元;
①-4使用滑动窗口的方式分别同时截取S1和S2,将截取S1的窗口定义为第一窗口,第一窗口的长度设置为7,将截取S2的窗口定义为第二窗口,第二窗口的长度设置为1,第一窗口从n个时刻中第1个时刻开始滑动,第二窗口从n个时刻中第8个时刻开始滑动,第一窗口和第二窗口的移动步长均为1,将每个时刻第一窗口和第二窗口同时截取的两种数据拼接成一张与该时刻对应的特征图一共得到n-8张特征图,将n-8张特征图组成特征图集M,M={M1,…,Mj,…,Mn-8},1≤j≤n-8,其中,
Figure BDA00022372768500000710
Figure BDA00022372768500000711
每张特征图的样本标签为实测气象历史数据中与该特征图中第二窗口所对应的时刻下的风速,将每张特征图的样本标签的集合记为ML
Figure BDA00022372768500000712
Figure BDA00022372768500000713
表示第1张特征图的样本标签,
Figure BDA00022372768500000714
表示第j张特征图的样本标签,
Figure BDA00022372768500000715
表示第n-8张特征图的样本标签。
②利用深度卷积神经网络建立风速预测模型,具体步骤如下:
②-1使用一维卷积神经网络构造深度卷积神经网络的第一层,使用0和1之间的随机数来初始化一维卷积神经网络的网络参数得到初始的偏置项b1和初始的8×3维的滤波器矩阵w,w对应的滤波器的移动步长为1,w对应的滤波器的个数为32,并将特征图及与特征图对应的样本标签输入深度卷积神经网络的第一层,深度卷积神经网络的第一层对输入的特征图进行特征提取后输出对应的特征映射,其中,将一维卷积神经网络对输入的第j张特征图Mj进行特征提取后输出的特征映射记为
Figure BDA0002237276850000081
Figure BDA0002237276850000082
其中,σ为sigmoid激活函数,·表示矩阵数乘,最终输出与Mj对应的32个通道的大小为1×8特征映射,将第一层输出的与每张特征图对应的32个通道的大小为1×8特征映射拼接成对应的一张大小为32×8的新特征映射;
使用二维卷积神经网络构造深度卷积神经网络的第二层,使用0和1之间的随机数来初始化二维卷积神经网络的网络参数得到初始的偏置项和初始的3×3维的滤波器矩阵,二维卷积神经网络具有两个二维卷积层,其滤波器大小均为3×3,其中第一个卷积层使用了32个滤波器,第一个卷积层后设置有第一池化层作为输出的采样层,第二个卷积层使用了64个滤波器,第二个卷积层后设置有第二池化层作为输出的采样层,将与每张特征图对应的大小为32×8的新特征映射输入至二维卷积神经网络,第一池化层对第一个卷积层输出的特征映射进行竖直方向的特征压缩,特征压缩中目标的接受域大小为2×1,选取接受域中的最大值进行池化采样后将输出值输入第二个卷积层,第二池化层对第二个卷积层输出的特征映射进行竖直方向的特征压缩,特征压缩中目标的接受域大小为2×1,选取接受域中的最大值进行池化采样后输出对应的特征映射,其中,二维卷积层的处理过程为:
Figure BDA0002237276850000083
Figure BDA0002237276850000084
为二维卷积层输出的特征映射,
Figure BDA0002237276850000085
为输入至二维卷积层的特征映射,·表示矩阵数乘,b′为二维卷积神经网络的偏置项,w′为二维卷积神经网络的3×3维的滤波器矩阵,σ为sigmoid激活函数;
最后,使用具有三层结构的全连接网络构造深度卷积神经网络的第三层,将深度卷积神经网络的第二层输出的与每张特征图对应的64个通道的大小为8×8的特征映射输入至具有三层结构的全连接网络中,使用0和1之间的随机数来初始化全连接网络中的网络参数,全连接网络中的网络参数包括第一层的连接权值U1和偏置项
Figure BDA0002237276850000086
第二层的连接权值U2和偏置项
Figure BDA0002237276850000087
以及第三层的连接权值U3和偏置项
Figure BDA0002237276850000088
全连接网络中的第一层对
Figure BDA0002237276850000089
的处理过程如下:
Figure BDA00022372768500000911
全连接网络中的第二层对
Figure BDA00022372768500000912
的处理过程如下:
Figure BDA00022372768500000913
全连接网络中的第三层对
Figure BDA00022372768500000914
的处理过程如下:
Figure BDA00022372768500000915
其中,
Figure BDA00022372768500000916
为全连接层中的第一层的输出值,
Figure BDA00022372768500000917
为全连接层中第二层的输出值,
Figure BDA00022372768500000918
为Mj对应的未来1小时的风速预测数值;
②-2根据保相似性原则定义预测模型的损失函数,获取步骤②-1得到的每张特征图对应的未来1小时的风速预测数值和对应的样本标签之间的差值,并将该差值进行反向传播,设定最大迭代次数,利用随机梯度下降算法进行迭代优化,直至损失函数的数值收敛或者迭代次数大于设定的最大迭代次数时,停止迭代过程并完成深度卷积神经网络的训练,得到训练完成的风速预测模型,其中,利用随机梯度下降算法进行迭代的具体过程如下:
定义损失函数如下:
Figure BDA0002237276850000091
其中,
Figure BDA0002237276850000092
g(·)表示的是全连接层,U表示全连接层中的连接权值,U={U1,U2,U3},bf表示的全连接层中的偏置项,
Figure BDA0002237276850000093
f(·)表示的是一维卷积神经网络和二维卷积神经网络的特征转换函数,W和b表示的是一维卷积神经网络和二维卷积神经网络中的连接权值和偏置项,W={w,w′},b={b1,b′},λ1和λ2为设置的权重衰减系数,
Figure BDA0002237276850000094
为2-范数符号;定义
Figure BDA0002237276850000095
则网络参数更新过程可表示为:
Figure BDA0002237276850000096
Figure BDA0002237276850000097
符号“←”表示更新符号,η表示学习率,
Figure BDA0002237276850000098
为计算偏导的符号,
Figure BDA0002237276850000099
Figure BDA00022372768500000910
λ1=0.001,λ2=0.001,设定的最大迭代次数可为500次。
③使用实测气象历史数据和数值天气预报模式系统中未来8小时的预测数据构造其中每个整点时刻的当前预测时间点输入样本,将每个当前预测时间点输入样本依次输入训练完成的风速预测模型,输出的结果依次为未来8个时次的风速预测值,完成对未来8个时次的风速预测,具体过程如下:
③-1从气象自动观测站中采集当前整点预测时刻前7个时刻内每个整点时刻的实测气象历史数据,从实测气象历史数据中选取每个时刻的风速、风向、温度、相对湿度、露点温度、风冷却指数、降水量和大气压强作为当前实测输入变量,从数值天气预报模式系统中获取未来8小时内每个时刻的预测数据,从预测数据中选取每个时刻的风速、风向、温度、相对湿度、露点温度、风冷却指数、降水量和大气压强作为当前预测输入变量;
③-2根据当前实测输入变量和当前预测输入变量构造当前实测时间序列单元和当前预测时间序列单元,将当前实测时间序列单元和当前预测时间序列单元按照时间进程合并得到合并后的序列,然后使用长度为8的滑动窗口对合并后的序列进行特征图截取,窗口的移动步长为1,一共获得8张特征图;
③-3将8张特征图按照时间顺序依次输入至训练完成的风速预测模型中,输出的结果依次为未来8个时次的风速预测值,完成对未来8个时次的风速预测。

Claims (6)

1.一种基于深度卷积神经网络的多时次风速预测方法,其特征在于包括以下步骤:
①构建模型输入的特征图,具体过程如下:
①-1从气象自动观测站中采集特定时间段内每个时刻的实测气象历史数据,将特定时间段的总时长记为n小时,n为整数且n>8,并从数值天气预报模式系统中获取该特定时间段内每个时刻的历史预测数据,将n个时刻中第i时刻下实测气象历史数据中的实测输入变量的集合记为Fi,Fi={fi 1,fi 2,fi 3,fi 4,fi 5,fi 6,fi 7,fi 8},其中,1≤i≤n且i为整数,fi 1表示n个时刻中第i时刻下实测气象历史数据中的风速,fi 2表示n个时刻中第i时刻下实测气象历史数据中的风向,fi 3表示n个时刻中第i时刻下实测气象历史数据中的温度,fi 4表示n个时刻中第i时刻下实测气象历史数据中的相对湿度,fi 5表示n个时刻中第i时刻下实测气象历史数据中的露点温度,fi 6表示n个时刻中第i时刻下实测气象历史数据中的风冷却指数,fi 7表示n个时刻中第i时刻下实测气象历史数据中的降水量,fi 8表示n个时刻中第i时刻下实测气象历史数据中的大气压强,将n个时刻中第i时刻下数值天气预报模式系统中的历史预测输入变量的集合记为
Figure FDA0002237276840000011
Figure FDA0002237276840000012
其中,
Figure FDA0002237276840000013
表示n个时刻中第i时刻下数值天气预报模式系统中的风速,
Figure FDA0002237276840000014
表示n个时刻中第i时刻下数值天气预报模式系统中的风向,
Figure FDA0002237276840000015
表示n个时刻中第i时刻下数值天气预报模式系统中的温度,
Figure FDA0002237276840000016
表示n个时刻中第i时刻下数值天气预报模式系统中的相对湿度,
Figure FDA0002237276840000017
表示n个时刻中第i时刻下数值天气预报模式系统中的露点温度,
Figure FDA0002237276840000018
表示n个时刻中第i时刻下数值天气预报模式系统中的风冷却指数,
Figure FDA0002237276840000019
表示n个时刻中第i时刻下数值天气预报模式系统中的降水量,
Figure FDA00022372768400000110
表示n个时刻中第i时刻下数值天气预报模式系统中的大气压强;
①-2对实测输入变量进行数据清洗得到清洗后的实测输入变量,然后对清洗后的实测输入变量和历史预测输入变量进行归一化操作得到归一化后的实测输入变量和归一化后的历史预测输入变量;
①-3定义在同一时刻的归一化后的实测输入变量组成一个实测时间序列单元,定义在同一时刻的归一化后的历史预测输入变量组成一个历史预测时间序列单元,将实测时间序列单元组成的序列记为S1,S1={G1,…,Gi,…,Gn},其中,Gi表示第i时刻下的实测时间序列单元,将历史预测时间序列单元组成的序列记为S2
Figure FDA0002237276840000021
Figure FDA0002237276840000022
表示第i时刻下的历史预测时间序列单元;
①-4:使用滑动窗口的方式分别同时截取S1和S2,将截取S1的窗口定义为第一窗口,第一窗口的长度设置为7,将截取S2的窗口定义为第二窗口,第二窗口的长度设置为1,第一窗口从n个时刻中第1个时刻开始滑动,第二窗口从n个时刻中第8个时刻开始滑动,第一窗口和第二窗口的移动步长均为1,将每个时刻第一窗口和第二窗口同时截取的两种数据拼接成一张与该时刻对应的特征图一共得到n-8张特征图,将n-8张特征图组成特征图集M,M={M1,…,Mj,…,Mn-8},1≤j≤n-8,其中,
Figure DEST_PATH_BDA0002237276850000031
Figure FDA0002237276840000024
每张特征图的样本标签为实测气象历史数据中与该特征图中第二窗口所对应的时刻下的风速,将每张特征图的样本标签的集合记为ML
Figure FDA0002237276840000025
f8 1表示第1张特征图的样本标签,
Figure FDA0002237276840000027
表示第j张特征图的样本标签,
Figure FDA0002237276840000028
表示第n-8张特征图的样本标签;
②利用深度卷积神经网络建立风速预测模型,具体步骤如下:
②-1使用一维卷积神经网络构造深度卷积神经网络的第一层,使用0和1之间的随机数来初始化一维卷积神经网络的网络参数得到初始的偏置项b1和初始的8×3维的滤波器矩阵w,w对应的滤波器的移动步长为1,w对应的滤波器的个数为32,并将特征图及与特征图对应的样本标签输入深度卷积神经网络的第一层,深度卷积神经网络的第一层对输入的特征图进行特征提取后输出对应的特征映射,其中,将一维卷积神经网络对输入的第j张特征图Mj进行特征提取后输出的特征映射记为
Figure FDA0002237276840000029
Figure FDA00022372768400000210
其中,σ为sigmoid激活函数,·表示矩阵数乘,最终输出与Mj对应的32个通道的大小为1×8特征映射,将第一层输出的与每张特征图对应的32个通道的大小为1×8特征映射拼接成对应的一张大小为32×8的新特征映射;
使用二维卷积神经网络构造深度卷积神经网络的第二层,使用0和1之间的随机数来初始化二维卷积神经网络的网络参数得到初始的偏置项和初始的3×3维的滤波器矩阵,二维卷积神经网络具有两个二维卷积层,其滤波器大小均为3×3,其中第一个卷积层使用了32个滤波器,第一个卷积层后设置有第一池化层作为输出的采样层,第二个卷积层使用了64个滤波器,第二个卷积层后设置有第二池化层作为输出的采样层,将与每张特征图对应的大小为32×8的新特征映射输入至二维卷积神经网络,第一池化层对第一个卷积层输出的特征映射进行竖直方向的特征压缩,特征压缩中目标的接受域大小为2×1,选取接受域中的最大值进行池化采样后将输出值输入第二个卷积层,第二池化层对第二个卷积层输出的特征映射进行竖直方向的特征压缩,特征压缩中目标的接受域大小为2×1,选取接受域中的最大值进行池化采样后输出对应的特征映射;
最后,使用具有三层结构的全连接网络构造深度卷积神经网络的第三层,将深度卷积神经网络的第二层输出的与每张特征图对应的64个通道的大小为8×8的特征映射输入至具有三层结构的全连接网络中,使用0和1之间的随机数来初始化全连接网络中的网络参数,全连接网络中的网络参数包括第一层的连接权值U1和偏置项
Figure FDA0002237276840000031
第二层的连接权值U2和偏置项
Figure FDA0002237276840000032
以及第三层的连接权值U3和偏置项
Figure FDA0002237276840000033
全连接网络中的第一层对
Figure FDA0002237276840000034
的处理过程如下:
Figure FDA0002237276840000035
全连接网络中的第二层对
Figure FDA0002237276840000036
的处理过程如下:
Figure FDA0002237276840000037
全连接网络中的第三层对
Figure FDA0002237276840000038
的处理过程如下:
Figure FDA0002237276840000039
其中,
Figure FDA00022372768400000310
为全连接层中的第一层的输出值,
Figure FDA00022372768400000311
为全连接层中第二层的输出值,
Figure FDA00022372768400000312
为Mj对应的未来1小时的风速预测数值;
②-2根据保相似性原则定义预测模型的损失函数,获取步骤②-1得到的每张特征图对应的未来1小时的风速预测数值和对应的样本标签之间的差值,并将该差值进行反向传播,设定最大迭代次数,利用随机梯度下降算法进行迭代优化,直至损失函数的数值收敛或者迭代次数大于设定的最大迭代次数时,停止迭代过程并完成深度卷积神经网络的训练,得到训练完成的风速预测模型;
③使用实测气象历史数据和数值天气预报模式系统中未来8小时的预测数据构造其中每个整点时刻的当前预测时间点输入样本,将每个当前预测时间点输入样本依次输入训练完成的风速预测模型,输出的结果依次为未来8个时次的风速预测值,完成对未来8个时次的风速预测。
2.根据权利要求1所述的一种基于深度卷积神经网络的多时次风速预测方法,其特征在于所述的步骤②-1中二维卷积层的处理过程为:
Figure FDA00022372768400000313
Figure FDA00022372768400000314
为二维卷积层输出的特征映射,
Figure FDA00022372768400000315
为输入至二维卷积层的特征映射,·表示矩阵数乘,b′为二维卷积神经网络的偏置项,w′为二维卷积神经网络的3×3维的滤波器矩阵,σ为sigmoid激活函数。
3.根据权利要求2所述的一种基于深度卷积神经网络的多时次风速预测方法,其特征在于所述的步骤②-2中利用随机梯度下降算法进行迭代的具体过程如下:
定义损失函数如下:
Figure FDA0002237276840000041
其中,
Figure FDA0002237276840000042
g(·)表示的是全连接层,U表示全连接层中的连接权值,U={U1,U2,U3},bf表示的全连接层中的偏置项,
Figure FDA0002237276840000043
f(·)表示的是一维卷积神经网络和二维卷积神经网络的特征转换函数,W和b表示的是一维卷积神经网络和二维卷积神经网络中的连接权值和偏置项,W={w,w′},b={b1,b′},λ1和λ2为设置的权重衰减系数,
Figure FDA0002237276840000044
为2-范数符号;定义
Figure FDA0002237276840000045
则网络参数更新过程可表示为:
Figure FDA0002237276840000046
Figure FDA0002237276840000047
符号“←”表示更新符号,η表示学习率,
Figure FDA0002237276840000048
为计算偏导的符号,
Figure FDA0002237276840000049
Figure FDA00022372768400000410
4.根据权利要求3所述的一种基于深度卷积神经网络的多时次风速预测方法,其特征在于所述的步骤②-2中λ1=0.001,λ2=0.001。
5.根据权利要求1所述的一种基于深度卷积神经网络的多时次风速预测方法,其特征在于所述的步骤②-2中设定的最大迭代次数为500次。
6.根据权利要求1所述的一种基于深度卷积神经网络的多时次风速预测方法,其特征在于所述的步骤③的具体过程如下:
③-1从气象自动观测站中采集当前整点预测时刻前7个时刻内每个整点时刻的实测气象历史数据,从实测气象历史数据中选取每个时刻的风速、风向、温度、相对湿度、露点温度、风冷却指数、降水量和大气压强作为当前实测输入变量,从数值天气预报模式系统中获取未来8小时内每个时刻的预测数据,从预测数据中选取每个时刻的风速、风向、温度、相对湿度、露点温度、风冷却指数、降水量和大气压强作为当前预测输入变量;
③-2根据当前实测输入变量和当前预测输入变量构造当前实测时间序列单元和当前预测时间序列单元,将当前实测时间序列单元和当前预测时间序列单元按照时间进程合并得到合并后的序列,然后使用长度为8的滑动窗口对合并后的序列进行特征图截取,窗口的移动步长为1,一共获得8张特征图;
③-3将8张特征图按照时间顺序依次输入至训练完成的风速预测模型中,输出的结果依次为未来8个时次的风速预测值,完成对未来8个时次的风速预测。
CN201910987871.XA 2019-10-17 2019-10-17 一种基于深度卷积神经网络的多时次风速预测方法 Active CN110991690B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910987871.XA CN110991690B (zh) 2019-10-17 2019-10-17 一种基于深度卷积神经网络的多时次风速预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910987871.XA CN110991690B (zh) 2019-10-17 2019-10-17 一种基于深度卷积神经网络的多时次风速预测方法

Publications (2)

Publication Number Publication Date
CN110991690A true CN110991690A (zh) 2020-04-10
CN110991690B CN110991690B (zh) 2023-05-12

Family

ID=70082105

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910987871.XA Active CN110991690B (zh) 2019-10-17 2019-10-17 一种基于深度卷积神经网络的多时次风速预测方法

Country Status (1)

Country Link
CN (1) CN110991690B (zh)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111736629A (zh) * 2020-06-30 2020-10-02 华南农业大学 基于wsn的植保无人机防雾滴飘移路径微调系统及方法
CN111736157A (zh) * 2020-08-26 2020-10-02 蔻斯科技(上海)有限公司 基于ppi数据的临近预报的预测方法及设备
CN111882128A (zh) * 2020-07-28 2020-11-03 中原工学院 基于tcn的汛期气候趋势预测方法
CN112183897A (zh) * 2020-11-02 2021-01-05 成都卡普数据服务有限责任公司 基于深度学习的架空输电线路覆冰厚度的长时间预测方法
CN112231979A (zh) * 2020-10-16 2021-01-15 中国船舶重工集团海装风电股份有限公司 基于计算流体力学和机器学习的山区瞬时风况预报方法
CN112308322A (zh) * 2020-11-03 2021-02-02 华翔翔能科技股份有限公司 一种多风场时空风速预测方法、装置及电子设备
CN112348253A (zh) * 2020-11-06 2021-02-09 中国石油大学(华东) 一种基于全连接神经网络的固态发酵效用预测方法
CN112906871A (zh) * 2021-03-24 2021-06-04 临沂大学 基于混合多层神经网络模型的温度预测方法及系统
CN112990354A (zh) * 2021-04-15 2021-06-18 中国气象局公共气象服务中心(国家预警信息发布中心) 一种构建用于风速预测的深度卷积回归网络的方法及装置
CN113971372A (zh) * 2021-11-02 2022-01-25 浙江凌镜智能有限公司 基于神经网络的风速预测方法及装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105654729A (zh) * 2016-03-28 2016-06-08 南京邮电大学 一种基于卷积神经网络的短时交通流量预测方法
CN107180530A (zh) * 2017-05-22 2017-09-19 北京航空航天大学 一种基于深度时空卷积循环网络的路网状态预测方法
US20170286826A1 (en) * 2016-03-30 2017-10-05 Nec Laboratories America, Inc. Real-time deep learning for danger prediction using heterogeneous time-series sensor data
CN108647834A (zh) * 2018-05-24 2018-10-12 浙江工业大学 一种基于卷积神经网络结构的交通流预测方法
CN109657839A (zh) * 2018-11-22 2019-04-19 天津大学 一种基于深度卷积神经网络的风电功率预测方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105654729A (zh) * 2016-03-28 2016-06-08 南京邮电大学 一种基于卷积神经网络的短时交通流量预测方法
US20170286826A1 (en) * 2016-03-30 2017-10-05 Nec Laboratories America, Inc. Real-time deep learning for danger prediction using heterogeneous time-series sensor data
CN107180530A (zh) * 2017-05-22 2017-09-19 北京航空航天大学 一种基于深度时空卷积循环网络的路网状态预测方法
CN108647834A (zh) * 2018-05-24 2018-10-12 浙江工业大学 一种基于卷积神经网络结构的交通流预测方法
CN109657839A (zh) * 2018-11-22 2019-04-19 天津大学 一种基于深度卷积神经网络的风电功率预测方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
SHUBHI HARBOLA ET AL: "One dimensional convolutional neural network architectures for wind prediction", ENERGY CONVERSION AND MANAGEMENT *

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111736629B (zh) * 2020-06-30 2021-04-27 华南农业大学 基于wsn的植保无人机防雾滴飘移路径微调系统及方法
CN111736629A (zh) * 2020-06-30 2020-10-02 华南农业大学 基于wsn的植保无人机防雾滴飘移路径微调系统及方法
CN111882128B (zh) * 2020-07-28 2021-09-28 中原工学院 基于tcn的汛期气候趋势预测方法
CN111882128A (zh) * 2020-07-28 2020-11-03 中原工学院 基于tcn的汛期气候趋势预测方法
CN111736157B (zh) * 2020-08-26 2021-01-05 蔻斯科技(上海)有限公司 基于ppi数据的临近预报的预测方法及设备
CN111736157A (zh) * 2020-08-26 2020-10-02 蔻斯科技(上海)有限公司 基于ppi数据的临近预报的预测方法及设备
CN112231979A (zh) * 2020-10-16 2021-01-15 中国船舶重工集团海装风电股份有限公司 基于计算流体力学和机器学习的山区瞬时风况预报方法
CN112183897A (zh) * 2020-11-02 2021-01-05 成都卡普数据服务有限责任公司 基于深度学习的架空输电线路覆冰厚度的长时间预测方法
CN112308322A (zh) * 2020-11-03 2021-02-02 华翔翔能科技股份有限公司 一种多风场时空风速预测方法、装置及电子设备
CN112308322B (zh) * 2020-11-03 2023-11-24 华翔翔能科技股份有限公司 一种多风场时空风速预测方法、装置及电子设备
CN112348253A (zh) * 2020-11-06 2021-02-09 中国石油大学(华东) 一种基于全连接神经网络的固态发酵效用预测方法
CN112348253B (zh) * 2020-11-06 2023-04-07 中国石油大学(华东) 一种基于全连接神经网络的固态发酵效用预测方法
CN112906871A (zh) * 2021-03-24 2021-06-04 临沂大学 基于混合多层神经网络模型的温度预测方法及系统
CN112990354A (zh) * 2021-04-15 2021-06-18 中国气象局公共气象服务中心(国家预警信息发布中心) 一种构建用于风速预测的深度卷积回归网络的方法及装置
CN112990354B (zh) * 2021-04-15 2021-08-13 中国气象局公共气象服务中心(国家预警信息发布中心) 一种构建用于风速预测的深度卷积回归网络的方法及装置
CN113971372A (zh) * 2021-11-02 2022-01-25 浙江凌镜智能有限公司 基于神经网络的风速预测方法及装置

Also Published As

Publication number Publication date
CN110991690B (zh) 2023-05-12

Similar Documents

Publication Publication Date Title
CN110991690B (zh) 一种基于深度卷积神经网络的多时次风速预测方法
CN109492822B (zh) 空气污染物浓度时空域关联预测方法
CN107909206B (zh) 一种基于深层结构循环神经网络的pm2.5预测方法
CN107529651A (zh) 一种基于深度学习的城市交通客流预测方法和设备
CN108009674A (zh) 基于cnn和lstm融合神经网络的空气pm2.5浓度预测方法
CN114092832B (zh) 一种基于并联混合卷积网络的高分辨率遥感影像分类方法
CN112949945A (zh) 一种改进双向长短期记忆网络的风电功率超短期预测方法
CN103177301A (zh) 一种台风灾害风险预估方法
CN111428942B (zh) 基于变网格技术提取微地形因子的线路覆冰厚度预测方法
CN109215380B (zh) 一种有效停车泊位的预测方法
CN111580151B (zh) 一种基于SSNet模型的地震事件到时识别方法
CN110619432A (zh) 一种基于深度学习的特征提取水文预报的方法
CN115951014A (zh) 一种结合气象特征的cnn-lstm-bp多模态空气污染物预测方法
CN113988263A (zh) 工业物联网边缘设备中基于知识蒸馏的空时预测方法
CN114265913A (zh) 工业物联网边缘设备上基于联邦学习的空时预测算法
CN113075462A (zh) 一种基于神经网络的电磁场分布定位方法
CN116796168A (zh) 一种基于多头注意力机制的CNN-BiLSTM高海拔多因素输电线路可听噪声预测方法
CN201716727U (zh) 基于遥感与gis的地理模拟系统
CN117370766A (zh) 一种基于深度学习的卫星任务规划方案评估方法
CN116364203A (zh) 一种基于深度学习的水质预测方法、系统和装置
CN113344290B (zh) 基于U-Net网络的次季节降水气象预报订正方法
CN115600494A (zh) 一种低压台区拓扑自动识别方法及装置
CN113792919A (zh) 一种基于迁移学习深度学习相结合的风电功率预测方法
CN112270123A (zh) 一种基于卷积生成对抗网络的流域水库群径流随机生成方法
Fan et al. Construction of a neural network and its application on target classification

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant