CN111695297B - 一种近海面气温反演方法 - Google Patents

一种近海面气温反演方法 Download PDF

Info

Publication number
CN111695297B
CN111695297B CN202010490275.3A CN202010490275A CN111695297B CN 111695297 B CN111695297 B CN 111695297B CN 202010490275 A CN202010490275 A CN 202010490275A CN 111695297 B CN111695297 B CN 111695297B
Authority
CN
China
Prior art keywords
air temperature
network
parameters
layer
sea
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010490275.3A
Other languages
English (en)
Other versions
CN111695297A (zh
Inventor
高峰
周诗楠
刘厂
郭少彬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Harbin Engineering University
Original Assignee
Harbin Engineering University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Harbin Engineering University filed Critical Harbin Engineering University
Priority to CN202010490275.3A priority Critical patent/CN111695297B/zh
Publication of CN111695297A publication Critical patent/CN111695297A/zh
Application granted granted Critical
Publication of CN111695297B publication Critical patent/CN111695297B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G06F30/20—Design optimisation, verification or simulation
    • G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Computer Hardware Design (AREA)
  • Geometry (AREA)
  • Feedback Control In General (AREA)

Abstract

本发明公开了一种近海面气温反演方法，具体包括步骤一：选择海区并对区域内的数据进行提取和预处理。步骤二：确定输入、输出参量，建立基于循环神经网络近海面气温反演模型。步骤三：权重初始化。步骤四：加入L2参数范式罚项。步骤五：进行BPTT算法的初始化。步骤六：前向传播获得预测值。步骤七：反向传播更新连接权值。步骤八：计算损失函数。步骤九：返回存储网络参数相比于大多数近海面气温方法仅仅利用线性回归及浅层神经网络的方法建模，本发明使用深度神经网络进行建模和训练，从而提高近海面气温反演的精度。

Description

一种近海面气温反演方法
技术领域
本发明涉及一种近海面气温反演方法，属于大气海洋数据处理方法研究的技术领域。
背景技术
近海面气温是一个非常重要，却难以获得的海气参数。由于海气参数之间存在着一定的相关性，因此可以利用相关的海气参数，通过反演的手段实现近海面气温的获取。近海面气温的反演有利于海洋大气相互作用的研究，也有利于人们对气候变化的理解。同时，通过反演的手段获取近海面气温也能够为海洋大气的多方面研究提供支持，有助于海洋资源开发、海洋环境保护等领域的发展。
大数据是近年来众多领域中的热点话题，其特点有数据规模大、类型繁多、时效性强、价值密度低等。海气数据往往是通过多种观测手段获得的，经过长时间的积累，数据体量十分庞大，同时，海气数据的资料来源广泛，包括遥感数据、船测数据、浮标数据等，具有多样性，且不同属性的数据相互依赖相互影响。在先进技术的推动之下，海气数据采集的周期不断缩短，更新更加频繁，也导致了海气数据的价值密度低。大量的数据在给海洋大气领域带来机遇的同时，也带来了许多挑战。
传统的海气数据处理手段需要耗费大量的人力物力，在数据量与日俱增的今天，这些方法已经不再适用。深度学习是一种以海量数据为基础，通过多层神经网络的逐层处理，从输入数据中提取信息，并建立变量之间关系的一种人工智能方法，在当代信息技术领域占据着十分重要的地位，且在一定程度上能够提高数据处理的质量。因此，将深度学习应用于海洋信息处理的意义深远。
发明内容
针对上述现有技术，本发明要解决的技术问题是提供一种近海面气温反演方法，使用深度神经网络进行建模和训练，从而提高近海面气温反演的精度。
为解决上述技术问题，本发明的一种近海面气温反演方法，包括以下步骤：
步骤一：选择海区并对区域内的数据进行提取和预处理，预处理包括重复性检验、相关性分析与归一化处理。
步骤二：确定输入、输出参量，根据控制变量法确定循环神经网络输入层、隐藏层、以及输出层的节点数，建立采用循环神经网络近海面气温反演模型；
步骤三：选择He initialization对网络权重矩阵进行初始化；
步骤四：加入L2参数范式罚项，具体为：
Figure BDA0002520698570000021
其中，θ为两节点之间的权重；
步骤五：进行BPTT算法的初始化
步骤六：前向传播获得预测值，具体为：
x为输入，h为隐藏单元，o为输出，y为训练集标签，L为损失函数，右上角的t表示t时刻，t时刻前向传播时，隐层单元表示为：
h(t)＝f(Ux(t)+Wh(t-1)+b)
其中，f为激活函数，b为偏置；
t时刻的输出可以表示如下：
ot＝Vh(t)
训练过程中，需要寻优的参数分别是输入层与循环层之间的权值矩阵U、循环层之间的权值矩阵W、循环层与输出层之间的权值矩阵V，U、W两个参数的寻优需要考虑历史数据，V的求解需要关注当前状态，具体可以表示如下：
Figure BDA0002520698570000022
Figure BDA0002520698570000023
步骤七：反向传播更新连接权值，具体为：
U、W的求解需要涉及到历史数据：
Figure BDA0002520698570000024
Figure BDA0002520698570000025
将激活函数f带入上式中的累乘部分，则有：
Figure BDA0002520698570000026
步骤八：计算损失函数，网络的损失可表示为：
Figure BDA0002520698570000027
步骤九：返回存储网络参数，当网络损失满足要求或达到最大迭代次数时结束训练，否则返回前向传播，继续训练网络。
本发明还包括：
步骤二中输入参量包括经度、纬度、海表水温、风速、气压，输出参量为近海面气温。
本发明的有益效果：
本发明具体包括确定近海面气温反演的输入输出参量，对数据集进行预处理，建立基于循环神经网络的近海面气温反演模型，根据数据特性对BPTT算法进行改进，改善了循环神经网络泛化性不佳等关键内容。相比于大多数近海面气温方法仅仅利用线性回归及浅层神经网络的方法建模，本发明使用深度神经网络进行建模和训练，从而提高近海面气温反演的精度。
(1)分析并得出了近海面气温与其他海气参数的相关性，同时本发明提出了一种有效的数据预处理方法，提高了数据处理的效率。
(2)根据数据特性，实验得出了恰当的权重初始化方法，优化权重初始矩阵，提高了训练效率和精度。
(3)分析循环神经网络在近海面气温反演问题上的适用性，同时，针对循环神经网络泛化性弱的问题，引入L2参数范式罚项加以改进，提高了反演精度。
附图说明
图1：本发明流程图；
图2：相关性分析图；
图3：经改进的基于循环神经网络和BPTT算法的反演方法流程图。
具体实施方式
下面结合附图对本发明具体实施方式做进一步说明。
本发明提出一种通过建立基于循环神经网络训练模型，实现对近海面气温进行反演的方法。该方法的具体实施包括确定模型输入输出参量类型，数据预处理方法，权重初始化方法及循环神经网络结构改进等关键内容。本发明所述的近海面气温方法以BPTT算法作为反演方法，执行流程如图1所示。
本发明提出的一种新的近海面气温反演方法，具体包括以下几个步骤：
步骤一：选择海区并对区域内的数据进行提取和预处理。
由于目前海洋大气数据来源众多，因此数据提取包括陆地数据剔除、气象学界限检查和重复性检验，这样能够保证数据的有效性，大幅度减少无效数据。
目前的统计分析中，常用的相关系数有三种，分别是Pearson(皮尔逊)相关系数、Kendall(肯德尔)相关系数和Spearman(斯皮尔曼)相关系数。考虑到目前获取到的海洋气象资料的分布未知，且属于离散变量，根据以往的研究经验，两个变量之间的关系一般是单调上升或者是单调下降的，因而本发明中，利用斯皮尔曼系数来衡量海洋气象参量之间的相关性。常见的海洋气象要素包括气温、气压、湿度、风、水温、海浪、海流、降雨等。本发明中将1960年到2015年的ICOADS数据进行了处理，选取我国南海部分区域(东经110度～130度，北纬10度～30度)的海洋大气参数作为实验对象，并进行了相关性分析，全年相关系数低于0.01则忽略不计。结果表明，近海面气温与海浪、海流的相关性几乎为0，与湿度之间的相关性低于0.01，可以忽略。近海面气温与海表水温、风速、气压、降雨具有明显的相关关系，但是在本发明所使用的数据集中，降雨的数据信息很少，因此本发明选用海表水温、风速、气压联合反演近海面气温。全年相关系数如图2所示，sst-at代表海表水温和近海面气温之间的相关系数；ws-at代表海表风速和近海面气温之间的相关系数；slp-at代表海面气压和近海面气温之间的相关系数。
步骤二：确定输入、输出参量，建立基于循环神经网络近海面气温反演模型。
根据步骤一可以得知，输入参量为经度、纬度、海表水温、风速、气压，输出参量为近海面气温。由于神经网络模型中参数的选择没有明确的规则，因此本发明通过实验得出了一个较优模型参数，如下表所示：
Figure BDA0002520698570000041
步骤三：权重初始化
目前比较常用的权重初始化方法包括Xaiver initialization和Heinitialization，前者主要针对全连接神经网络，而后者更适合于复杂的神经网络类型，因此本发明选择He initialization对权重矩阵进行初始化。
步骤四：加入L2参数范式罚项
由于网络训练过程中经常会出现过拟合的现象，导致模型的泛化能力不佳。经过L2参数范式罚项处理的部分的值会比较小，因此又称为权重衰减，正则项可以降低模型的复杂程度，避免将训练数据中的噪声和异常点也进行拟合，从而提高模型的泛化能力。因此加入L2参数范式罚项改善网络的拟合情况。
Figure BDA0002520698570000051
步骤五：进行BPTT算法的初始化
步骤六：前向传播获得预测值
x为输入，h为隐藏单元，o为输出，y为训练集标签，L为损失函数，右上角的t表示t时刻，对于t时刻而言，前向传播时，隐层单元表示为：
h(t)＝f(Ux(t)+Wh(t-1)+b)
其中，f为激活函数，b为偏置。
t时刻的输出可以表示如下：
ot＝Vh(t)
训练过程中，需要寻优的参数分别是输入层与循环层之间的权值矩阵U、循环层之间的权值矩阵W、循环层与输出层之间的权值矩阵V，与BP算法不同的是，U、W两个参数的寻优需要考虑历史数据，V的求解相对简单，只需要关注当前状态，具体可以表示如下：
Figure BDA0002520698570000052
Figure BDA0002520698570000053
步骤七：反向传播更新连接权值
U、W的求解需要涉及到历史数据
Figure BDA0002520698570000054
Figure BDA0002520698570000055
将激活函数f带入上式中的累乘部分，则有：
Figure BDA0002520698570000056
步骤八：计算损失函数
网络的损失可表示为：
Figure BDA0002520698570000057
步骤九：返回存储网络参数
当网络损失满足要求或达到最大迭代次数时结束训练，否则返回前向传播，继续训练网络。
本发明具体实施方式还包括：
步骤一：选择海区并对区域内的数据进行提取和预处理。
数据预处理包括重复性检验、相关性分析与归一化处理。
步骤二：确定输入、输出参量，建立基于循环神经网络近海面气温反演模型。
根据控制变量法确定循环神经网络输入层、隐藏层、以及输出层的节点数。
步骤三：权重初始化
选择He initialization对网络权重矩阵进行初始化，有助于后续步骤的进行和训练精度的提升。
步骤四：加入L2参数范式罚项
由于网络训练过程中经常会出现过拟合的现象，导致模型的泛化能力不佳。经过L2参数范式罚项处理的部分的值会比较小，因此又称为权重衰减，正则项可以降低模型的复杂程度，避免将训练数据中的噪声和异常点也进行拟合，从而提高模型的泛化能力。因此加入L2参数范式罚项改善网络的拟合情况。
Figure BDA0002520698570000061
步骤五：进行BPTT算法的初始化
步骤六：前向传播获得预测值
x为输入，h为隐藏单元，o为输出，y为训练集标签，L为损失函数，右上角的t表示t时刻，对于t时刻而言，前向传播时，隐层单元表示为：
h(t)＝f(Ux(t)+Wh(t-1)+b)
其中，f为激活函数，b为偏置。
t时刻的输出可以表示如下：
ot＝Vh(t)
训练过程中，需要寻优的参数分别是输入层与循环层之间的权值矩阵U、循环层之间的权值矩阵W、循环层与输出层之间的权值矩阵V，与BP算法不同的是，U、W两个参数的寻优需要考虑历史数据，V的求解相对简单，只需要关注当前状态，具体可以表示如下：
Figure BDA0002520698570000062
Figure BDA0002520698570000063
步骤七：反向传播更新连接权值
U、W的求解需要涉及到历史数据
Figure BDA0002520698570000071
Figure BDA0002520698570000072
将激活函数f带入上式中的累乘部分，则有：
Figure BDA0002520698570000073
步骤八：计算损失函数
网络的损失可表示为：
Figure BDA0002520698570000074
步骤九：返回存储网络参数
当网络损失满足要求或达到最大迭代次数时结束训练，否则返回前向传播，继续训练网络。

Claims (1)

1.一种近海面气温反演方法，其特征在于，包括以下步骤：
步骤一：选择海区并对区域内的数据进行提取和预处理，预处理包括重复性检验、相关性分析与归一化处理；
步骤二：确定输入、输出参量，所述输入参量包括经度、纬度、海表水温、风速、气压，输出参量为近海面气温；
根据控制变量法确定循环神经网络输入层、隐藏层、以及输出层的节点数，建立采用循环神经网络近海面气温反演模型；
步骤三：选择He initialization对网络权重矩阵进行初始化；
步骤四：加入L2参数范式罚项，具体为：
Figure FDA0003636239450000011
其中，θ为两节点之间的权重；
步骤五：进行BPTT算法的初始化
步骤六：前向传播获得预测值，具体为：
x为输入，h为隐藏单元，o为输出，y为训练集标签，L为损失函数，右上角的t表示t时刻，t时刻前向传播时，隐层单元表示为：
h(t)＝f(Ux(t)+Wh(t-1)+b)
其中，f为激活函数，b为偏置；
t时刻的输出可以表示如下：
ot＝Vh(t)
训练过程中，需要寻优的参数分别是输入层与循环层之间的权值矩阵U、循环层之间的权值矩阵W、循环层与输出层之间的权值矩阵V，U、W两个参数的寻优需要考虑历史数据，V的求解需要关注当前状态，具体可以表示如下：
Figure FDA0003636239450000012
Figure FDA0003636239450000013
步骤七：反向传播更新连接权值，具体为：
U、W的求解需要涉及到历史数据：
Figure FDA0003636239450000014
Figure FDA0003636239450000015
将激活函数f带入上式中的累乘部分，则有：
Figure FDA0003636239450000021
步骤八：计算损失函数，网络的损失可表示为：
Figure FDA0003636239450000022
步骤九：返回存储网络参数，当网络损失满足要求或达到最大迭代次数时结束训练，否则返回前向传播，继续训练网络。
CN202010490275.3A 2020-06-02 2020-06-02 一种近海面气温反演方法 Active CN111695297B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010490275.3A CN111695297B (zh) 2020-06-02 2020-06-02 一种近海面气温反演方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010490275.3A CN111695297B (zh) 2020-06-02 2020-06-02 一种近海面气温反演方法

Publications (2)

Publication Number Publication Date
CN111695297A CN111695297A (zh) 2020-09-22
CN111695297B true CN111695297B (zh) 2022-08-02

Family

ID=72479212

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010490275.3A Active CN111695297B (zh) 2020-06-02 2020-06-02 一种近海面气温反演方法

Country Status (1)

Country Link
CN (1) CN111695297B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112445856B (zh) * 2020-12-01 2023-04-21 海南长光卫星信息技术有限公司 一种海面高度影响关联分析方法和装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107293291A (zh) * 2016-03-30 2017-10-24 中国科学院声学研究所 一种基于自适应学习率的端到端的语音识别方法
CN110222901A (zh) * 2019-06-13 2019-09-10 河海大学常州校区 一种基于深度学习的Bi-LSTM的电负荷预测方法
WO2020083918A1 (en) * 2018-10-25 2020-04-30 Koninklijke Philips N.V. Method and system for adaptive beamforming of ultrasound signals

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107293291A (zh) * 2016-03-30 2017-10-24 中国科学院声学研究所 一种基于自适应学习率的端到端的语音识别方法
WO2020083918A1 (en) * 2018-10-25 2020-04-30 Koninklijke Philips N.V. Method and system for adaptive beamforming of ultrasound signals
CN110222901A (zh) * 2019-06-13 2019-09-10 河海大学常州校区 一种基于深度学习的Bi-LSTM的电负荷预测方法

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
A Deep Recurrent Neural Network for Air Quality Classification;Xiaosong Zhao 等;《Journal of Information Hiding and Multimedia Signal Processing》;20180331;第9卷(第2期);346-354 *
An Adaptive Scale Sea Surface Temperature Predicting Method Based on Deep Learning With Attention Mechanism;Jiang Xie 等;《IEEE Geoscience and Remote Sensing Letters》;20200530;第17卷(第5期);740-744 *
Optimal Configuration Method of Sampling Points Based on Variability of Sea Surface Temperature;Chang Liu等;《Advances in Meteorology》;20171219;1-10 *
人工神经网络在南海近海面气温反演中的应用研究;吴新荣 等;《热带海洋学报》;20120315;第31卷(第2期);7-14 *
基于双向循环神经网络的河流相储层预测方法及应用;朱剑兵 等;《石油物探》;20200325;第59卷(第02期);250-257 *
基于深度学习的气象预测研究;杨函;《中国优秀硕士学位论文全文数据库 基础科学辑》;20180215(第2期);A009-40 *

Also Published As

Publication number Publication date
CN111695297A (zh) 2020-09-22

Similar Documents

Publication Publication Date Title
CN109993280B (zh) 一种基于深度学习的水下声源定位方法
CN112949387B (zh) 基于迁移学习的智能抗干扰目标检测方法
CN112785034B (zh) 基于融合神经网络的台风路径预报方法、系统、介质及终端
CN112946784B (zh) 一种基于深度学习的SuperDARN雷达对流图短期预报方法
CN114004163B (zh) 一种基于modis和长短时记忆网络模型的pm2.5反演方法
CN107133686A (zh) 基于时空数据模型的城市级pm2.5浓度预测方法
CN115442191B (zh) 基于相对平均生成对抗网络的通信信号降噪方法及系统
CN111695297B (zh) 一种近海面气温反演方法
Zhao et al. Radar HRRP target recognition via semi-supervised multi-task deep network
CN113630202A (zh) 一种复杂气象环境海上无线通信信道衰落估计方法
CN112183452A (zh) 一种基于气象卫星图像和深度迁移学习的海雾识别方法
CN114970378A (zh) 一种基于gan网络的海杂波样本库构建方法
CN117933095B (zh) 一种基于机器学习的地表发射率实时反演及同化方法
CN115859116A (zh) 一种基于径向基函数回归插值法的海洋环境场重建方法
Si-qi et al. The BP neural network optimized by Beetle Antenna Search Algorithm for storm surge prediction
CN113343924B (zh) 一种基于循环谱特征和生成对抗网络的调制信号识别方法
CN115540832A (zh) 基于VGGNet的卫星测高海底地形校正方法及系统
CN115032682A (zh) 一种基于图论的多站台地震震源参数估计方法
Wang et al. LSTM wastewater quality prediction based on attention mechanism
CN114415157A (zh) 一种基于水声传感器网络的水下目标多模型跟踪方法
CN114398819A (zh) 一种基于深度学习的非结构网格有效波高预测方法与系统
CN111931412A (zh) 一种基于生成式对抗网络的水中目标噪声lofar谱图仿真方法
CN110020614A (zh) 基于全局拟合的活动轮廓sar图像河流提取方法
Wang et al. Multimodal fusion for sea level anomaly forecasting
CN115047408B (zh) 一种基于单层大卷积核神经网络的水下多声源定位方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant