CN112365091B - 一种基于分类节点图注意力网络的雷达定量降水估计方法 - Google Patents

Abstract

本发明提供了一种基于分类节点图注意力网络的雷达定量降水估计方法，包括：观测区域的图表示；对气象雷达回波拼图和自动雨量计观测降水率的数据预处理得到训练样本集；利用训练样本集训练CNGAT模型，通过前向传播得到模型输出，再通过反向传播更新模型参数使其收敛；通过对输出数据处理得到降水率估计值。

Description

一种基于分类节点图注意力网络的雷达定量降水估计方法

技术领域

本发明属于大气探测中地面气象观测技术领域，尤其涉及一种基于分类节点图注意力网络的雷达定量降水估计方法。

背景技术

定量降水估计(Quantitative Precipitation Estimation，QPE)是气象和水文应用领域的一个重要问题，因为降水是全球水和能量循环的主要组成部分。多普勒天气雷达能够以高时空分辨率探测大范围的降水，因此雷达定量降水估计(Radar QuantitativePrecipitation Estimation，RQPE)成为QPE最常用的方法之一。多普勒天气雷达测量的降水粒子的雷达反射率(Z)与降水率(R)密切相关，它们之间的关系通常称为Z-R关系。最常用的Z-R关系是指数方程Z＝aR^b，其中的两个参数a和b通常是根据气候时间尺度上观测的雷达与降水数据的统计特性预先设定的经验值。但是，由于不同降水类型的雷达回波特征往往差异明显，将其应用到具体的降水事件时，其估计精度往往较低。为了提高指数Z-R关系精度，学者们提出的主要改进工作可以概括为两个主要方面。一种被称为分类Z-R关系，它首先根据雷达回波场识别降水类型，不同的降水类型采用不同的参数a和b。另一种被称为动态Z-R关系，它根据最近降水事件的观测动态调整参数。这些方法都引入了特定领域的知识，如降水类型或降水场的时间分布特征，并利用雨量计的降水观测来修正模型参数。然而，这些Z-R模型的局限性在于只能进行单点估计，并且把降水看成是静态的，忽略了降水场的时空分布特征。为了能表示降水场中可能存在的复杂的时空相关性，需要引入一个更复杂的模型。

近年来，越来越多的气象研究人员开始将基于“深度学习”的数据驱动方法应用到气象观测或预报领域，这些方法往往比传统方法更高效并且更灵活。然而，由于雨量计位置分布的稀疏性和不规则性，常规深度学习方法无法利用完整的雷达回波图像进行有效的训练。另一方面，图神经网络(Graph Neural Networks，GNNs)因其能够表示复杂结构的数据而受到越来越多的关注。

发明内容

发明目的：本发明所要解决的技术问题是针对现有的雷达定量降水估计方法无法有效利用雷达回波场的时空分布特征导致估计精度低的问题，提出了一种基于分类节点图注意力网络CNGAT(Categorical Node Graph Attention Network,CNGAT)的雷达定量降水估计方法，包括以下步骤：

步骤1：观测区域的图表示：将气象雷达回波拼图覆盖区域用图表示，并且确定图中节点之间的连接方式。

步骤2：处理训练数据：对气象雷达回波拼图作归一化处理，再将连续K帧的归一化图像按顺序排列在一起组成一个训练样本，所有训练样本构成的集合为训练集的输入数据部分。对观测区域内的离散分布的自动雨量计测得的降水率数据进行对数变化，将对数变化后的值作为对应节点输出标签，构成训练集的输出数据部分。训练集包含输入-输出样本对的个数为TrainingsetSize。

步骤3：初始化模型参数：设置节点类型分配规则，设计分类节点图注意力网络CNGAT的结构，确定每一层节点隐状态向量维数。

步骤4：训练参数初始化：设置学习率为0.001，每次迭代输入一个样本，一个训练周期迭代的次数为TrainingsetSize，设模型训练的周期数为NumEpoch，总迭代次数为NumIteration＝TrainingsetSize×NumEpoch。当且迭代次数IterationNo＝1。

步骤5：读取训练样本：每次迭代从步骤2获得的训练集中随机读取1个训练样本对，包括一个由K幅连续图像构成的输入图像序列{x₁,x₂,…,x_K}，和对应的输出标签y；x_K表示第K幅图像；

步骤6：前向传播：利用分类节点图注意力网络CNGAT提取输入图像序列的特征，再将每一层提取的特征向量拼接得到一个长特征向量，将长特征向量输入到最后的输入到输出映射层，得到的预测结果

步骤7：误差反向传播更新参数：定义损失函数

利用损失函数计算输出误差，将误差从后至前传递，逐层计算分类节点图注意力网络CNGAT中每一层的误差，再计算误差与模型参数的梯度，根据梯度采用梯度下降法更新模型参数。

步骤8：输出数据处理：将步骤6中得到的预测结果

通过下式得到最终的估计降水场

即：

步骤1包括以下步骤：

步骤1-1，确定图节点：设气象雷达回波拼图的分辨率为M×N，其中M指在纬度方向的像素数点个数为M，即每一行有M个像素；N指在经度方向上的像素点个数为N，即共有N行；每个像素代表观测区域的一个子区域，则每一子区域用一个节点表示；一个气象雷达回波拼图由M×N个节点表示；

步骤1-2，确定节点之间的连接关系：设节点v_i与节点v_j之间的距离为r_ij；对于中心节点i，利用距离阈值R(通常为5km左右)确定节点j是否与它有边相连：如果r_ij≤R，则节点j有边e_ji连接到节点i，否则没有。

步骤2包括以下步骤：

步骤2-1：训练输入数据规范化处理：原始气象雷达回波拼图为雷达反射率因子图Z的对数形式，即10lgZ。将原始气象雷达回波拼图的每个像素点的值除以100，得到规范化的气象雷达回波拼图X，即X＝lgZ/10。

步骤2-2：训练输出数据规范化处理：设观测区域内的自动雨量计测得的降水率为R，利用对数变换将R转换为输出标签Y，即Y＝lg(R+1)。

步骤2-3：构造训练样本集：将规范化后的气象雷达回波拼图按照时间顺序排列得到一个气象雷达回波拼图序列{X₁,X₂,…,X_N}，X_N为第N个时刻的规范化雷达回波拼图；将规范化后的输出标签也按照时间顺序额排列得到一个标签序列{Y₁,Y₂,…,Y_N}，Y_N为第N个时刻的规范化输出标签；选择一个长度为K(K一般小于10)的滑动窗口，从雷达回波拼图序列的第一个图像开始，每次取K幅图像出来组成一个训练样本的输入数据部分，并将这K幅图像中的最后一幅图像对应时刻的自动雨量站的规范化标签作为训练样本的输出部分；再向后平移一个图像，取出下一组作为下一个样本；如此循环往复，直到剩余图像数量少于K为止；按照上述方法构成的第n个训练样本

为如下形式，

yⁿ＝Y_n+K-1。

其中

为第n个训练样本的输入图像序列，序列长度为K，

是第n个训练样本中的第K个输入图像；

yⁿ为第n个训练样本的输出标签。

步骤3包括以下步骤：

步骤3-1，确定节点类型分配规则：设节点类型数为C，设置C-1个阈值{threshold₁,threshold₂,…,threshold_C-1}，threshold_j表示第j个阈值，利用这些阈值将规范化的雷达反射率因子的值域划分成C个区间，则节点i所属类别c的判断规则如下：

其中，X(i)为节点i所对应的规范化雷达反射率因子值。类型数C一般为2或3，即把雷达反射率因子划分为2或3个值域区间，对应的阈值的个数为1或2。

步骤3-2，构造分类节点图注意力网络CNGAT的特征提取模块：特征提取模块由分类节点图注意力网络CNGAT的7个卷积层叠加组成，每个卷积层由两部分组成，第一部分为特征转换子层，第二部分为聚合子层。

步骤3-3，构造分类节点图注意力网络CNGAT的输出映射模块：输出映射模块为一个多层感知机，其输入向量为特征提取模块的输出，输出为CNGAT模型对规范化降水率的估计值。

步骤3-2包括以下步骤：

步骤3-2-1，所述特征转换子层包含三层，即输入层、隐藏层和输出层。对于分类节点图注意力网络CNGAT第一层卷积层，特征转换子层的输入层维数K，隐藏层维数为M，输出层维数为D。对于分类节点图注意力网络CNGAT其它卷积层，特征转换子层的输入层维数为D，隐藏层维数为M，输出层维数为D。

每一个聚合子层对每个节点的直接相邻节点的特征向量加权求和(包括本节点的特征向量)后，通过非线性变换得到该节点的新特征向量。聚合子层包含一个注意力权重系数计算模块，权重系数通过注意力权重系数计算模块计算得到，相邻节点权重系数由本节点的特征向量和该相邻节点的特征向量共同决定。

步骤3-2-2，将特征转换子层的参数初始化。对于第一个卷积层，特征转换子层的输入层到隐藏层权重矩阵的每个元素初始取值为

隐藏层到输出层的权重矩阵的每个元素初始取值为

对于其它卷积层，特征转换子层的输入层到隐藏层权重矩阵的每个元素初始取值为

隐藏层到输出层的权重矩阵的每个元素初始取值为

rand(·)为随机数生成函数。

步骤3-2-4，将聚合子层的注意力权重系数初始化，每一节点的注意力权重系数计算模块中的每个参数初始取值为

步骤3-3包含以下步骤：

步骤3-3-1，输出映射模块包含3层，即输入层、隐藏层和输出层，输入层的维数为6×D+K，隐藏层的维数为6×D+K，输出层的维数为1。

步骤3-3-2，初始化输出映射模块参数：输入层到隐藏层的权重矩阵的每个参数的初始值为

隐藏层到输出层的权重矩阵的每个参数的初始值为

步骤5包括以下步骤：

步骤5-1，对于当前迭代次数IterationNo，从集合{1,2,3,…,TrainingsetSize}中随机抽取一个数m；

步骤5-2，从训练样本集中取出第m个样本，即：

Y＝Y^m。

其中

为第m个样本的输入规范化雷达回波拼图序列的第k幅拼图；y^m为第m个样本的输出标签；

为取出的输入规范化雷达回波拼图序列的第k幅拼图；y为取出的拼图序列对应的输出标签。

步骤6包括以下步骤：

步骤6-1：根据输入规范化气象雷达回波拼图序列确定每个节点的类型。

步骤6-2：每个节点的输入特征向量经过分类节点图注意力网络CNGAT特征提取模块多次卷积后输出提取特征。

步骤6-3：将分类节点图注意力网络CNGAT特征提取模块输出的特征向量输入到输出映射层，得到每个节点的规范化降水率估计值。

步骤6-1包括以下步骤：

步骤6-1-1，求{x₁,x₂,…,x_K}的在时间序列上的平均值x_mean：

x_mean＝(x₁+x₂+…+x_K)/K；

步骤6-1-2，对于节点i，根据其对应的平均后规范化雷达反射率因子的值判断其节点类型：

其中x_mean(i)为节点i的平均后规范化雷达反射率因子，threshold_j为第j个阈值，c_i为节点i的类别。

步骤6-2包括以下步骤：

步骤6-2-1，对于每个节点i，第1层卷积层将输入特征向量

转换成第1层节点特征向量

步骤6-2-2，对每个节点i，第l层卷积层将第l-1层特征向量

转换成第l层特征向量，2≤l≤7；

步骤6-2-3，对每个节点i，输出映射模块将输入节点特征与每一个卷积层的特征向量拼接而成的长特征向量

转换成规范化降水率估计值

具体计算过程如下：

其中，ReLU(x)为一种非线性激活函数，其具体形式为：

ReLU(x)＝max(0,x)。

其中o₁、o₂为权值矩阵。

步骤6-2-1包括以下步骤：

步骤6-2-1-1，第1层卷积层利用特征转换子层对每个节点的输入特征向量进行维数变换：

其中，

上式中Tanh(x)的具体形式为：

为节点i经过维数变换后的第1层中间特征向量。

x_k(i)为节点i对应的输入规范化雷达反射率因子序列的第k个规范化雷达反射率因子；

和

分别为

的第一层和第二层的权值矩阵；

步骤6-2-1-2，求节点i的每个邻居节点的注意力权重

并且，

上式中LeakyReLU(x)是一种非线性激活函数，其具体形式为：

LeakyReLU(x)＝max(0,x)-0.1×min(0,x)；

为权值向量；

步骤6-2-1-3，完成节点i的邻居节点的信息聚合，得到第2层的特征向量

具体过程如下：

其中，N^c(i)为节点i的属于类别c的邻居节点的集合。

为第1层节点i的邻居节点中属于类别c的邻居节点聚合后的特征向量。

步骤6-2-2包括以下步骤：

步骤6-2-2-1，第l层(2≤l≤7)卷积层利用特征转换子层对每个节点的输入特征向量进行维数变换：

其中，

步骤6-2-2-2，求节点i的每个邻居节点的注意权重

并且，

其中，

为权值向量；

步骤6-2-2-3，完成节点i的邻居节点的信息聚合，得到第l层的特征向量

具体过程如下：

为第l层节点i的邻居节点中属于类别c的邻居节点聚合后的特征向量。

步骤7包括以下步骤：

步骤7-1，利用损失函数计算损失：对于节点i，如果其有标签，则先求其损失L_i：

其中，ω_i＝10^y(i)。则输出损失L为：

其中，N_labeled为被标注的节点的集合。

步骤7-2，将输出损失看成是模型参数的函数，利用链式求导法则，计算CNGAT的输出映射层的每一层误差项。

步骤7-3，利用链式求导法则，由后向前逐层计算每一层卷积层的误差项。

步骤7-4，计算梯度。根据步骤7-2和步骤7-3的误差项，计算CNGAT每个参数的梯度，关于利用链式求导法则计算误差项以及利用误差项更新参数的思想与方法在文献“Rumelhart D E,Hinton G E,Williams R J.Learning representations by back-propagating errors[J].Nature,1986,323(6088):533-536.”中有详细描述。

步骤7-5，更新参数。利用步骤7-4得到的参数的梯度和学习率，得到每个参数的更新项，将原参数值与更新项相减，得到更新后的参数值。

图卷积网络(Graph Convolution Network，GCN)及其变体如图注意力网络(GraphAttention Network，GAT)可以将具有不定大小的无序排列邻居的不规则数据表示为一个图结构，并根据局部或全局的图结构来获取相邻节点的附加信息，这也被称为消息聚合。受其启发，本发明提出了一种分类节点图注意力网络(Category Node Graph AttentionNetwork，CNGAT)模型，将网格化天气雷达回波和无序分布的雨量计数据结合起来，学习雷达回波场与降水场之间的映射关系。CNGAT根据雷达反射率将节点划分为不同的类别，并采用注意机制来学习相邻节点的重要性。因此，它能更擅长处理复杂的图结构。该模型还将前K帧(包括当前帧)的连续雷达回波作为输入节点特征，有效地结合了雷达回波序列的时间特征，从而能更好地预测雨滴的最终降落点和地面降水强度。

有益效果：本发明将图神经网络(GNN)应用到雷达定量降水估计。提出了一种分类节点图注意力(CNGAT)模型，该模型能实现多类节点之间的信息聚合。比常规图卷积网络能表示更复杂的图特征。利用多层CNGAT的卷积，该模型能够很好的从天气雷达回波序列中提取出不同范围的局部的时空分布特征，并能有效的利用离散分布自动雨量计的降水观测数据进行训练。相较于传统的雷达反射率因子-降水强度关系模型即Z-R关系模型，该模型的降水估计精度有大幅提升。

附图说明

下面结合附图和具体实施方式对本发明做更进一步的具体说明，本发明的上述和/或其他方面的优点将会变得更加清楚。

图1为观测区域的图表示方法示意图。

图2为CNGAT卷积层结构图示意图。

具体实施方式

本发明提供了一种基于分类节点图注意力网络的雷达定量降水估计方法，包括以下步骤：

步骤1：观测区域的图表示：将气象雷达回波拼图覆盖区域用图表示，并且确定图中节点之间的连接方式。

步骤2：处理训练数据：对气象雷达回波拼图作归一化处理，再将连续K帧的归一化图像按顺序排列在一起组成一个训练样本，所有训练样本构成的集合为训练集的输入数据部分；对观测区域内的离散分布的自动雨量计测得的降水率数据进行对数变化，将对数变化后的值作为对应节点输出标签，构成训练集的输出数据部分；训练集包含输入-输出样本对的个数为TrainingsetSize；

步骤3：初始化模型参数：设置节点类型分配规则，设计分类节点图注意力网络CNGAT的结构，确定每一层节点隐状态向量维数；

步骤4：初始化训练参数：设置学习率，每次迭代输入一个样本，一个训练周期迭代的次数为TrainingsetSize，设模型训练的周期数为NumEpoch，总迭代次数为NumIteration＝TrainingsetSize×NumEpoch；当且迭代次数IterationNo＝1；

步骤5：读取训练样本：每次迭代从步骤2获得的训练集中随机读取1个训练样本对，包括一个由K幅连续图像构成的输入图像序列{x₁,x₂,…,x_K}，和对应的输出标签y；x_K表示第K幅图像；

步骤6：前向传播：利用分类节点图注意力网络CNGAT提取输入图像序列的特征，再将每一层提取的特征向量拼接得到一个长特征向量，将长特征向量输入到最后的输入到输出映射层，得到的预测结果

步骤7：误差反向传播更新参数：定义损失函数

利用损失函数计算输出误差，将误差从后至前传递，逐层计算分类节点图注意力网络CNGAT中每一层的误差，再计算误差与模型参数的梯度，根据梯度采用梯度下降法更新模型参数；

步骤8：输出数据处理：将步骤6中得到的预测结果

通过下式得到最终的估计降水场

即：

步骤1包括以下步骤：

步骤1-1，确定图节点：设气象雷达回波拼图的分辨率为M×N，其中M指在纬度方向的像素数点个数为M，即每一行有M个像素；N指在经度方向上的像素点个数为N，即共有N行。每个像素代表观测区域的一个子区域，则每一子区域用一个节点表示；一个气象雷达回波拼图由M×N个节点表示；以华东地区雷达回波拼图为例，其分辨率为600×800。

步骤1-2，确定节点之间的连接关系：设节点v_i与节点v_j之间的距离为r_ij；对于中心节点i，利用距离阈值R确定节点j是否与它有边相连：如果r_ij≤R，则节点j有边e_ji连接到节点i，否则没有。图1给出了连接规则示意，可以看到按照距离阈值确定的边是双向连接的。对于华东地区雷达拼图，相邻节点之间的平均距离约为1.5km，若取距离阈值R＝3km，则每一个节点平均约有12个节点与其直接相连。

步骤2包括以下步骤：

步骤2-1：训练输入数据规范化处理：原始气象雷达回波拼图为雷达反射率因子图Z的对数形式，即10lgZ。将原始气象雷达回波拼图的每个像素点的值除以100，得到规范化的气象雷达回波拼图X，即X＝lgZ/10。

步骤2-2：训练输出数据规范化处理：设观测区域内的自动雨量计测得的降水率为R，利用对数变换将R转换为输出标签Y，即Y＝lg(R+1)。

步骤2-3：构造训练样本集：将规范化后的气象雷达回波拼图按照时间顺序排列得到一个气象雷达回波拼图序列{X₁,X₂,…,X_N}，X_N为第N个时刻的规范化雷达回波拼图；将规范化后的输出标签也按照时间顺序额排列得到一个标签序列{Y₁,Y₂,…,Y_N}，Y_N为第N个时刻的规范化输出标签；选择一个长度为K(K一般小于10)的滑动窗口，这个序列中的第一个图像开始，每次取K幅图像出来组成一个训练样本的输入数据部分，并将这K幅图像中的最后一幅图像对应时刻的自动雨量站的规范化标签作为训练样本的输出部分；再向后平移一个图像，取出下一组作为下一个样本；如此循环往复，直到剩余图像数量少于K为止；若取K＝5，则按照上述方法构成的第n个训练样本

如下，

yⁿ＝Y_n+4。

其中

为第n个训练样本的输入图像序列，序列长度为K，yⁿ为第n个训练样本的输出标签。

步骤3包括以下步骤：

步骤3-1，确定节点类型分配规则：设节点类型数为C，设置C-1个阈值{threshold₁,threshold₂,…,threshold_C-1}，threshold_j-1表示第j-1个阈值，利用这些阈值将规范化的雷达反射率因子的值域划分成C个区间，则节点i所属类别c的判断规则如下：

其中，X(i)为节点i所对应的规范化雷达反射率因子值。类型数C一般为2或3，即把雷达反射率因子划分为2或者3个值域区间，对应的阈值的个数为1或2。以C＝2为例，取threshold₁＝0.35。则：

步骤3-2，构造分类节点图注意力网络CNGAT的特征提取模块：特征提取模块由分类节点图注意力网络CNGAT的7个卷积层叠加组成，每个卷积层由两部分组成，第一部分为特征转换子层，第二部分为聚合子层。如图2所示为CNGAT卷积层结构图示意图。

步骤3-3，构造分类节点图注意力网络CNGAT的输出映射模块：输出映射模块为一个多层感知机，其输入向量为特征提取模块的输出，输出为模型对规范化降水率的估计值。

步骤3-2包括以下步骤：

步骤3-2-1，所述特征转换子层包含三层，即输入层、隐藏层和输出层。对于分类节点图注意力网络CNGAT第一层卷积层，特征转换子层的输入层维数K＝5，隐藏层维数为M＝16，输出层维数为D＝16。对于分类节点图注意力网络CNGAT其它卷积层，特征转换子层的输入层维数为D＝16，隐藏层维数为M＝16，输出层维数为D＝16。

每一个聚合子层则对每个节点的直接相邻节点的特征向量加权求和(包括本节点的特征向量)后，通过非线性变换得到该节点的新特征向量。权重系数通过注意力机制得到，相邻节点权重系数由本节点的特征向量和该相邻节点的特征向量共同决定。

步骤3-2-2，将特征转换子层的参数初始化。对于第一个卷积层，特征转换子层的输入层到隐藏层权重矩阵的每个元素初始取值为

隐藏层到输出层的权重矩阵的每个元素初始取值为

对于其它卷积层，特征转换子层的输入层到隐藏层权重矩阵的每个元素初始取值为

隐藏层到输出层的权重矩阵的每个元素初始取值为

rand(·)为随机数生成函数。

步骤3-2-4，将聚合子层的注意力权重系数初始化，每一节点的注意力权重系数计算模块中的每个参数初始取值为

步骤3-3包含以下步骤：

步骤3-3-1，输出映射模块包含3层，即输入层、隐藏层和输出层，输入层的维数为6×16+5，隐藏层的维数为6×16+5，输出层的维数为1。

步骤3-3-2，初始化输出映射模块参数：输入层到隐藏层的权重矩阵的每个参数的初始值为

隐藏层到输出层的权重矩阵的每个参数的初始值为

步骤5包括以下步骤：

步骤5-1，对于当前迭代次数IterationNo，从集合{1,2,3,…,TrainingsetSize}中随机抽取一个数m；

步骤5-2，从训练样本集中取出第m个样本，即：

y＝y^m。

步骤6包括以下步骤：

步骤6-1：根据输入规范化气象雷达回波拼图序列确定每个节点的类型。

步骤6-2：每个节点的输入特征向量经过分类节点图注意力网络CNGAT特征提取模块多次卷积后输出提取特征。

步骤6-3：将分类节点图注意力网络CNGAT特征提取模块输出的特征向量输入到输出映射层，得到每个节点的规范化降水率估计值。

步骤6-1包括以下步骤：

步骤6-1-1，求{x₁,x₂,…,x₅}的在时间序列上的平均值x_mean：

x_mean＝(x₁+x₂+…+x₅)/5；

步骤6-1-2，对于节点i，根据其对应的平均后规范化雷达反射率因子的值判断其节点类型：

步骤6-2包括以下步骤：

步骤6-2-1，对于每个节点i，第1层卷积层将输入特征向量

转换成第1层节点特征向量

步骤6-2-2，对每个节点i，第l层卷积层将第l-1层特征向量

转换成第l层特征向量，2≤l≤7；

步骤6-2-3，对每个节点i，输出映射模块将输入节点特征与每一个卷积层的特征向量拼接而成的长特征向量

转换成规范化降水率估计值

具体计算过程如下：

其中，ReLU(x)为一种非线性激活函数，其具体形式为：

ReLU(x)＝max(0,x)。

步骤6-2-1包括以下步骤：

步骤6-2-1-1，第1层卷积层利用特征转换子层对每个节点的输入特征向量进行维数变换：

其中，

上式中Tanh(x)的具体形式为：

x_k(i)为节点i对应的输入规范化雷达反射率因子序列的第k个规范化雷达反射率因子。

和

分别为

的第一层和第二层的权值矩阵。

步骤6-2-1-2，求节点i的每个邻居节点的注意权重

并且，

上式中LeakyReLU(x)是一种非线性激活函数，其具体形式为：

LeakyReLU(x)＝max(0,x)-0.1×min(0,x)；

步骤6-2-1-3，完成节点i的邻居节点的信息聚合，得到第2层的特征向量

具体过程如下：

其中，N^c(i)为节点i的属于类别c的邻居节点的集合；

为第1层节点i的邻居节点中属于类别c的邻居节点聚合后的特征向量。

步骤6-2-2包括以下步骤：

步骤6-2-2-1，第l层(2≤l≤7)卷积层利用特征转换子层对每个节点的输入特征向量进行维数变换：

其中，

步骤6-2-2-2，求节点i的每个邻居节点的注意权重

并且，

步骤6-2-2-3，完成节点i的邻居节点的信息聚合，得到第l层的特征向量

具体过程如下：

为第l层节点i的邻居节点中属于类别c的邻居节点聚合后的特征向量。

步骤7包括以下步骤：

步骤7-1，利用损失函数计算损失：对于节点i，如果其有标签，则先求其损失：

其中，ω_i＝10^y(i)。则输出损失L为：

其中，N_labeled为被标注的节点的集合。

步骤7-2，将输出损失看成是模型参数的函数，利用链式求导法则，计算CNGAT的输出映射层的每一层误差项。

步骤7-3，利用链式求导法则，由后向前逐层计算每一层卷积层的误差项。

步骤7-4，计算梯度。根据步骤7-2和步骤7-3的误差项，计算CNGAT每个参数的梯度。

步骤7-5，更新参数。利用步骤7-4得到的参数的梯度和学习率，得到每个参数的更新项，将原参数值与更新项相减，得到更新后的参数值。

本发明提供了一种基于分类节点图注意力网络的雷达定量降水估计方法，具体实现该技术方案的方法和途径很多，以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。本实施例中未明确的各组成部分均可用现有技术加以实现。

Claims (6)

1.一种基于分类节点图注意力网络的雷达定量降水估计方法，其特征在于，包括以下步骤：

步骤1：观测区域的图表示：将气象雷达回波拼图覆盖区域用图表示，并且确定图中节点之间的连接方式；

步骤1包括以下步骤：

步骤1-1，确定图节点：设气象雷达回波拼图的分辨率为M×N，其中M指在纬度方向的像素数点个数为M，即每一行有M个像素；N指在经度方向上的像素点个数为N，即共有N行；每个像素代表观测区域的一个子区域，则每一子区域用一个节点表示；一个气象雷达回波拼图由M×N个节点表示；

步骤1-2，确定节点之间的连接关系：设节点i与节点j之间的距离为r_ij；对于中心节点i，利用距离阈值R确定节点j是否与它有边相连：如果r_ij≤R，则节点j有边e_ji连接到节点i，否则没有；

步骤2：处理训练数据：对气象雷达回波拼图作归一化处理，再将连续K帧的归一化图像按顺序排列在一起组成一个训练样本，所有训练样本构成的集合为训练集的输入数据部分；对观测区域内的离散分布的自动雨量计测得的降水率数据进行对数变化，将对数变化后的值作为对应节点输出标签，构成训练集的输出数据部分；训练集包含输入-输出样本对的个数为TrainingsetSize；

步骤3：初始化模型参数：设置节点类型分配规则，设计分类节点图注意力网络CNGAT的结构，确定每一层节点隐状态向量维数；

步骤3包括以下步骤：

步骤3-1，确定节点类型分配规则：设节点类型数为C，设置C-1个阈值{threshold₁,threshold₂,…,threshold_h,…,threshold_C-1}，threshold_h表示第h个阈值，利用这些阈值将规范化的雷达反射率因子的值域划分成C个区间，则节点i所属类别c的判断规则如下：

其中，X(i)为节点i所对应的规范化雷达反射率因子值；

步骤3-2，构造分类节点图注意力网络CNGAT的特征提取模块：特征提取模块由分类节点图注意力网络CNGAT的7个卷积层叠加组成，每个卷积层由两部分组成，第一部分为特征转换子层，第二部分为聚合子层；

步骤3-3，构造分类节点图注意力网络CNGAT的输出映射模块：输出映射模块为一个多层感知机，其输入向量为特征提取模块的输出，输出为CNGAT模型对规范化降水率的估计值；

步骤4：初始化训练参数：设置学习率，每次迭代输入一个样本，一个训练周期迭代的次数为TrainingsetSize，设模型训练的周期数为NumEpoch，总迭代次数为NumIteration＝TrainingsetSize×NumEpoch；当且迭代次数IterationNo＝1；

步骤5：读取训练样本：每次迭代从步骤2获得的训练集中随机读取1个训练样本对，包括一个由K幅连续图像构成的输入图像序列{x₁,x₂,…,x_K}，和对应的输出标签y；_K表示第K幅图像；

步骤6：前向传播：利用分类节点图注意力网络CNGAT提取输入图像序列的特征，再将每一层提取的特征向量拼接得到一个长特征向量，将长特征向量输入到最后的输入到输出映射层，得到的预测结果

步骤6包括以下步骤：

步骤6-1：根据输入规范化气象雷达回波拼图序列确定每个节点的类型；

步骤6-2：每个节点的输入特征向量经过分类节点图注意力网络CNGAT特征提取模块卷积后输出提取特征；

步骤6-3：将分类节点图注意力网络CNGAT特征提取模块输出的特征向量输入到输出映射层，得到每个节点的规范化降水率估计值；

步骤6-1包括以下步骤：

步骤6-1-1，求{x₁,x₂,…,x_K}在时间序列上的平均值x_mean：

x_mean＝(x₁+x₂+…+x_K)/K；

步骤6-1-2，对于节点i，根据其对应的平均后规范化雷达反射率因子的值判断其节点类型：

其中x_mean(i)为节点i的平均后规范化雷达反射率因子，threshold_h为第h个阈值，c_i为节点i的类别；

步骤6-2包括以下步骤：

步骤6-2-1，对于每个节点i，第1层卷积层将输入特征向量

转换成第1层节点特征向量

步骤6-2-2，对每个节点i，第l层卷积层将第l-1层特征向量

转换成第l层特征向量，2≤l≤7；

步骤6-2-3，对每个节点i，输出映射模块将输入节点特征与每一个卷积层的特征向量拼接而成的长特征向量

转换成规范化降水率估计值

具体计算过程如下：

其中，ReLU(x)为一种非线性激活函数，其具体形式为：

ReLU(x)＝max(0,x)，

其中o₁、o₂为权值矩阵；

步骤7：误差反向传播更新参数：定义损失函数

利用损失函数计算输出误差，将误差从后至前传递，逐层计算分类节点图注意力网络CNGAT中每一层的误差，再计算误差与模型参数的梯度，根据梯度采用梯度下降法更新模型参数；

步骤8：输出数据处理：将步骤6中得到的预测结果

通过下式得到最终的估计降水场

即：

2.根据权利要求1所述的方法，其特征在于，步骤2包括以下步骤：

步骤2-1：训练输入数据规范化处理：原始气象雷达回波拼图为雷达反射率因子图Z的对数形式，即10lgZ；将原始气象雷达回波拼图的每个像素点的值除以100，得到规范化的气象雷达回波拼图X，即X＝lgZ/10；

步骤2-2：训练输出数据规范化处理：设观测区域内的自动雨量计测得的降水率为R，利用对数变换将R转换为输出标签Y，即Y＝lg(R+1)；

步骤2-3：构造训练样本集：将规范化后的气象雷达回波拼图按照时间顺序排列得到一个气象雷达回波拼图序列{X₁,X₂,…,X_N}，X_N为第N个时刻的规范化雷达回波拼图；将规范化后的输出标签也按照时间顺序排列得到一个标签序列{Y₁,Y₂,…,Y_N}，Y_N为第N个时刻的规范化输出标签；选择一个长度为K的滑动窗口，从雷达回波拼图序列的第一个图像开始，每次取K幅图像出来组成一个训练样本的输入数据部分，并将这K幅图像中的最后一幅图像对应时刻的自动雨量的规范化标签作为训练样本的输出部分；再向后平移一个图像，取出下一组作为下一个样本；如此循环往复，直到剩余图像数量少于K为止；按照上述方法构成的第n个训练样本

为如下形式，

yⁿ＝Y_n+K-1，

其中

为第n个训练样本的输入图像序列，序列长度为K，

是第n个训练样本中的第K个输入图像；

yⁿ为第n个训练样本的输出标签。

3.根据权利要求2所述的方法，其特征在于，步骤3-2包括以下步骤：

步骤3-2-1，所述特征转换子层包含三层，即输入层、隐藏层和输出层；对于分类节点图注意力网络CNGAT第一层卷积层，特征转换子层的输入层维数K，隐藏层维数为M，输出层维数为D；对于分类节点图注意力网络其它CNGAT卷积层，特征转换子层的输入层维数为D，隐藏层维数为M，输出层维数为D；

每一个聚合子层对每个节点的直接相邻节点的特征向量加权求和后，通过非线性变换得到该节点的新特征向量；聚合子层包含一个注意力权重系数计算模块，权重系数通过注意力权重系数计算模块计算得到，相邻节点权重系数由本节点的特征向量和该相邻节点的特征向量共同决定；

步骤3-2-2，将特征转换子层的参数初始化：对于第一个卷积层，特征转换子层的输入层到隐藏层权重矩阵的每个元素初始取值为

隐藏层到输出层的权重矩阵的每个元素初始取值为

对于其它卷积层，特征转换子层的输入层到隐藏层权重矩阵的每个元素初始取值为

隐藏层到输出层的权重矩阵的每个元素初始取值为

rand(·)为随机数生成函数；

步骤3-2-4，将聚合子层的注意力权重系数初始化，每一节点的注意力权重系数计算模块中的每个参数初始取值为

步骤3-3包含以下步骤：

步骤3-3-1，输出映射模块包含3层，即输入层、隐藏层和输出层，输入层的维数为6×D+K，隐藏层的维数为6×D+K，输出层的维数为1；

步骤3-3-2，初始化输出映射模块参数：输入层到隐藏层的权重矩阵的每个参数的初始值为

隐藏层到输出层的权重矩阵的每个参数的初始值为

4.根据权利要求3所述方法，其特征在于，步骤5包括以下步骤：

步骤5-1，对于当前迭代次数IterationNo，从集合{1,2,3,…,TrainingsetSize}中随机抽取一个数m；

步骤5-2，从训练样本集中取出第m个样本，即：

y＝y^m，

其中

为第m个样本的输入规范化雷达回波拼图序列的第K幅拼图，y^m为第m个样本的输出标签；

为取出的输入规范化雷达回波拼图序列的第K幅拼图；y为取出的拼图序列对应的输出标签。

5.根据权利要求4所述方法，其特征在于，步骤6-2-1包括以下步骤：

步骤6-2-1-1，第1层卷积层利用特征转换子层对每个节点的输入特征向量进行维数变换：

其中，

上式中Tanh(x)的具体形式为：

为节点i经过维数变换后的第1层中间特征向量；

x_k(i)为节点i对应的输入规范化雷达反射率因子序列的第k个规范化雷达反射率因子；

和

分别为

的第一层和第二层的权值矩阵；

步骤6-2-1-2，求节点i的每个邻居节点的注意力权重

并且，

上式中LeakyReLU(x)是一种非线性激活函数，其具体形式为：

LeakyReLU(x)＝max(0,x)-0.1×min(0,x)；

为权值向量；

步骤6-2-1-3，完成节点i的邻居节点的信息聚合，得到第2层的特征向量

具体过程如下：

其中，N^c(i)为节点i的属于类别c的邻居节点的集合；

为第1层节点i的邻居节点中属于类别c的邻居节点聚合后的特征向量；

步骤6-2-2包括以下步骤：

步骤6-2-2-1，第l层卷积层利用特征转换子层对每个节点的输入特征向量进行维数变换：

其中，

步骤6-2-2-2，求节点i的每个邻居节点的注意权重

并且，

其中，

为权值向量；

步骤6-2-2-3，完成节点i的邻居节点的信息聚合，得到第l层的特征向量

具体过程如下：

为第l层节点i的邻居节点中属于类别c的邻居节点聚合后的特征向量。

6.根据权利要求5所述方法，其特征在于，步骤7包括以下步骤：

步骤7-1，利用损失函数计算损失：对于节点i，如果其有标签，则先求其损失L_i：

其中，ω_i＝10^y(i)，则输出损失L为：

其中，N_labeled为被标注的节点的集合；

步骤7-2，将输出损失看成是模型参数的函数，利用链式求导法则，计算CNGAT的输出映射层的每一层误差项；

步骤7-3，利用链式求导法则，由后向前逐层计算每一层CNGAT卷积层的误差项；

步骤7-4，计算梯度：根据步骤7-2和步骤7-3的误差项，通过对参数求偏导计算得到CNGAT每个参数的梯度；

步骤7-5，更新参数：利用步骤7-4得到的参数的梯度和学习率，得到每个参数的更新项，将原参数值与更新项相减，得到更新后的参数值。

Images