CN113379107A - 基于lstm和gcn的区域电离层tec预报方法 - Google Patents

Abstract

本发明公开了一种基于LSTM和GCN的区域电离层TEC预报方法，涉及空间环境预报的技术领域。所述预报方法包括以下步骤：首先获取电离层TEC数据集、太阳活动指数F10.7和地磁指数Dst，并对其进行数据清洗、填充等处理，继而将其划分为训练集、测试集并进行零均值标准化处理；确定区域电离层TEC预报模型拓扑结构和网络参数，训练基于LSTM‑GCN网络的区域电离层TEC短期预报模型；最后输入测试集数据运行预报模型，将输出序列进行反标准化还原数据，并进行误差分析和模型性能评估。本发明综合了LSTM和GCN的网络优势，有效地提取了电离层TEC序列的时空特征，能够提高区域电离层TEC的预报精度。

Description

基于LSTM和GCN的区域电离层TEC预报方法

技术领域

本发明涉及一种基于LSTM和GCN的区域电离层TEC预报方法，属于空间环境预报技术领域。

背景技术

电离层是地球大气层的重要组成成分，位于地面60～1000km范围内的大气部分，由于太阳射线、宇宙射线和其他沉降离子的综合作用下，电离层中大气分子发生电离，因此电离层中含有大量的离子和自由电子，这些离子和自由电子会对无线电波的传播造成很大的影响，例如，电离层会导致无线通信、导航定位、超视距雷达等系统产生工作误差。电离层总电子含量(Total Electric Contents,TEC)是单位面积上电离层的总电子含量，用来表征电离层形态结构、延迟特性的重要参数。理论上，电离层TEC的空间分布和时间变化都反映了电离层的变化特性，因此加强对电离层TEC建模和分析，可以研究电离层不同时空尺度下的变化。在应用上，已知卫星信号频率时，只需要确定传播路径上的TEC，就可以计算出电离层延迟，因此，电离层TEC的预报和建模对保障通信、导航和卫星定位等系统工作稳定性具有重要的意义。

电离层TEC的建模最早采用的是经验模型，其中具有代表性的电离层经验模型有国际参考电离层(International Reference Ionosphere,IRI)、Bent模型、Klobuchar模型。近些年，人工智能技术快速发展，由于神经网络能够很好地描述复杂的非线性输入输出关系，越来越多的学者利用神经网络技术进行电离层参数预报，其中，长短时记忆网络(Long Short-term Memory,LSTM)由于其良好的序列学习和序列转换能力常被用于电离层TEC预报模型中，该网络模型法可以很好地捕捉电离层TEC的时域特性，但缺少对电离层空间分布特征的提取，因此无法较好地适用于区域和全球性电离层TEC预报。

鉴于以上问题，有必要提出一种适用于区域电离层TEC的精确预报方法，以此来保障通信、导航和卫星定位等系统稳定工作。

发明内容

为了解决现有的基于深度学习方法的电离层TEC预报模型无法较好地适用于区域或全球性电离层TEC预报的问题，本发明提出了一种基于LSTM和GCN的区域电离层TEC预报方法，能够较好地提高区域电离层TEC的预报精度，既保障通信、导航和卫星定位等系统稳定工作，又为电离层空间环境的分析研究提供了参考价值。

为解决上述技术问题，本发明采用了如下技术手段：

本发明提出了基于LSTM和GCN的区域电离层TEC预报方法，包括以下步骤：

步骤1、获取历史电离层TEC数据、太阳活动指数F10.7和地磁指数Dst，并统一三种数据的时间分辨率；

步骤2、对历史电离层TEC数据、太阳活动指数F10.7和地磁指数Dst进行异常数据清洗和缺失数据填补处理，获取完整数据；

步骤3、将完整数据划分为训练集、测试集并进行零均值标准化处理，完成数据预处理；

步骤4、基于LSTM和GCN网络确定区域电离层TEC预报模型的拓扑结构，并进行模型搭建；

步骤5、将训练集批次输入搭建好的区域电离层TEC预报模型中，利用误差反向传播算法训练区域电离层TEC预报模型，获得训练好的区域电离层TEC预报模型；

步骤6、根据模型误差要求分析模型训练结果，当误差值满足模型误差要求，完成模型训练，当误差值不满足模型误差要求，则更新模型参数，并重新执行步骤四至步骤六，再次进行模型训练，直至误差在预计范围内；

步骤7、将测试集数据输入至训练好的区域电离层TEC预报模型中，获得长度为24的多组序列，并将该序列进行零均值反标准化处理，得到最终的TEC预报结果；

步骤8、根据TEC预报结果和真实观测数据，利用均方根误差、平均绝对误差和平均百分比误差评估区域电离层TEC预报模型的预报性能，并根据预报性能评估结果优化区域电离层TEC预报模型。

进一步的，步骤1中，通过线性插值方法将历史电离层TEC数据、太阳活动指数F10.7和地磁指数Dst的时间分辨率统一为1h。

进一步的，步骤2中，利用径向基插值方法进行缺失数据填补处理。

进一步的，步骤3的具体操作如下：

根据预设比例对完整数据进行数据集划分，获得训练集、测试集，训练集和测试集中均包括历史电离层TEC数据、太阳活动指数F10.7和地磁指数Dst；

在[-1,1]范围内对训练集和测试集中的历史电离层TEC数据进行零均值标准化处理，零均值标准化处理的公式如下：

其中，x′表示标准化处理后的历史电离层TEC数据，x表示训练集或测试集中的历史电离层TEC数据，μ表示训练集或测试集中历史电离层TEC数据的均值，σ表示训练集或测试集中历史电离层TEC数据的标准误差；

利用零均值标准化处理的公式依次对训练集和测试集中的太阳活动指数F10.7和地磁活动指数Dst进行零均值标准化处理，完成数据预处理。

进一步的，步骤4中，区域电离层TEC预报模型包括输入层、隐藏层和输出层，所述隐藏层包括双层LSTM和双层GCN；输入层的输入数据包含历史电离层TEC数据、太阳活动指数F10.7和地磁指数Dst；隐藏层先利用双层LSTM提取电离层TEC时域特征，再利用双层GCN捕捉电离层TEC空间特性，输出层采用线性回归层融合电离层TEC时域特征和电离层TEC空间特性，得到TEC预报结果。

进一步的，步骤5中，区域电离层TEC预报模型利用前24个时间段的电离层TEC数据预测下一个时间段的电离层TEC数据；区域电离层TEC预报模型的隐藏层的维度为264，优化器为Adam，训练损失函数为均方差损失，初始学习率为0.0001。

进一步的，步骤8中，利用均方根误差、平均绝对误差和平均百分比误差评估区域电离层TEC预报模型的预报性能的具体操作如下：

根据TEC预报结果和真实观测数据计算均方根误差、平均绝对误差、平均百分比误差，计算公式如下：

其中，MAE为平均绝对误差，MAPE为平均百分比误差，RMSE为均方根误差，Y_j表示测试集中j时刻的测试数据对应的TEC预报结果，Q_j表示j时刻真实观测的电离层TEC数据，j＝1,2,…,l，l为测试集的时间长度；

将均方根误差、平均绝对误差、平均百分比误差的值与预设值比较，获得区域电离层TEC预报模型的预报性能的评估结果。

进一步的，所述方法还包括如下步骤：

利用不同区域、不同时间的电离层TEC数据重复测试区域电离层TEC预报模型，实现全面的模型评估。

采用以上技术手段后可以获得以下优势：

本发明提出了一种基于LSTM和GCN的区域电离层TEC预报方法，与单纯地基于长短时记忆网络(LSTM)的电离层TEC预报方法相比，本发明引入图卷积网络(GCN)搭建电离层TEC空间拓扑结构图，有效地捕捉了电离层TEC复杂的空间变化特性，同时通过线性网络将电离层TEC的两个特征进行融合，可以很好地反映电离层TEC的时间和空间特性。此外，本发明预报方法还有效地减弱了信息传递过程中因信息丢失产生误差的现象，且可以缩短模型的训练时间，能够较好地提高区域电离层TEC的预报精度。

本发明丰富了现有电离层TEC预报模型的功能，为保障通信、导航和卫星定位等系统稳定工作和电离层空间环境的分析研究提供了有意义的参考价值。

附图说明

图1为本发明基于LSTM和GCN的区域电离层TEC预报方法的步骤流程图；

图2为本发明实施例中区域电离层TEC预报方法的操作流程图；

图3为本发明实施例中区域电离层TEC预报模型的网络结构图。

具体实施方式

下面结合附图对本发明的技术方案作进一步说明。显然，所描述的实施例仅仅时本发明的一部分实施例，并不是全部实施例，基于本发明的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获的的所有其他实施例，均属于本发明保护的范围。

本发明提出了一种基于LSTM和GCN的区域电离层TEC预报方法，如图1、2所示，具体包括如下步骤：

步骤1、获取历史电离层TEC数据、太阳活动指数F10.7和地磁指数Dst，并统一三种数据的时间分辨率。

在本发明实施例中，首先从欧洲定轨中心获取2001-2016年的电离层TEC数据，再将获取的电离层TEC数据处理成时间序列数据，处理好的时间序列数据包含电离层TEC的时间、经纬度、TEC数值等；其次，从全球网格点中提取需要研究的北京站、武汉站、海口站TEC数值和中国区域(5-35°N，75-135°E)电离层TEC数值。由于2014年前电离层TEC数据的时间分辨率为2h，2014年之后电离层TEC数据的时间分辨率为1h，太阳活动指数F10.7和地磁指数Dst的时间分辨率分别为1day和1h，为了方便后续操作，本发明方法通过线性插值的方法将历史电离层TEC数据、太阳活动指数F10.7和地磁指数Dst的时间分辨率统一为1h。

步骤2、对历史电离层TEC数据、太阳活动指数F10.7和地磁指数Dst进行异常数据清洗和缺失数据填补处理，获取完整数据。

本发明实施例中步骤2的具体操作如下：

步骤201、对历史电离层TEC数据、太阳活动指数F10.7和地磁指数Dst进行异常数据清洗，获得清洗后的数据。

步骤202、通过径向基插值的方法对清洗后的数据进行缺失数据填补处理，获取完整数据，即完整的历史电离层TEC数据、太阳活动指数F10.7和地磁指数Dst。

步骤3、将完整数据划分为训练集、测试集并进行零均值标准化处理，完成数据预处理，具体操作如下：

步骤301、根据预设比例对完整数据进行数据集划分，获得训练集、测试集。在本发明实施例中，按照4:1的比例依次对完整的历史电离层TEC数据、太阳活动指数F10.7和地磁指数Dst进行数据集划分，将其中4/5的数据存入训练集，另外1/5的数据存入测试集。

步骤302、由于电离层TEC数据、太阳活动指数F10.7和地磁指数Dst在整个数据空间幅度相差较大，因此需要将其进行零均值标准化处理，零均值标准化处理的公式如下：

其中，x′表示标准化处理后的数据，x表示训练集或测试集数据，μ表示训练集或测试集数据的均值，σ表示训练集或测试集数据的标准误差。

基于零均值标准化处理的公式，在[-1,1]范围内对训练集和测试集数据进行零均值标准化处理。

以训练集中电离层TEC数据为例，假设训练集中的历史电离层TEC数据的时间序列为X_tr＝{x₁,x₂,…,x_t,…,x_m}，其中，x_t表示t时刻的历史电离层TEC数据，t＝1,2,…,m，m为历史电离层TEC数据时间序列的时间长度，则本发明可以通过下列公式对训练集中的历史电离层TEC数据进行零均值标准化处理：

其中，x_t′表示训练集中标准化之后t时刻的历史电离层TEC数据。

步骤4、基于LSTM和GCN网络确定区域电离层TEC预报模型的拓扑结构，并进行模型搭建。

如图3所示，本发明中的区域电离层TEC预报模型的网络结构设计为6层，具体包括输入层、隐藏层和输出层，其中，输入层的输入数据包括2001-2016年电离层TEC和预报因子太阳活动指数F10.7、地磁指数Dst；隐藏层包括双层LSTM和双层GCN，隐藏层利用长短时记忆网络单元间的动态变化，提取电离层TEC时间序列的特征，紧接着构建邻接矩阵以及相对应的特征矩阵，捕捉选取区域网格点TEC的空间拓扑结构，将其一起输入图卷积网络，学习电离层各个网格点的空间特性；输出层线采用线性回归层融合电离层TEC时域特征和电离层TEC空间特性，得到TEC预报结果。

本发明区域电离层TEC预报模型可以利用当前时刻前24个时间段的电离层TEC数据预测下一个时间段的电离层TEC数据。区域电离层TEC预报模型的隐藏层的维度为264，优化器为Adam，训练损失函数为均方差损失，初始学习率为0.0001。由于模型在训练中会发生过拟合的问题，本发明设计模型通过加入Dropout丢失层随机丢失一部分特征来降低过拟合的问题。

步骤5、将训练集批次输入搭建好的区域电离层TEC预报模型中，利用误差反向传播算法训练区域电离层TEC预报模型，获得训练好的区域电离层TEC预报模型。

步骤501、将训练集中的数据批次输入搭建好的区域电离层TEC预报模型中的双层LSTM，区域电离层TEC预报模型中的每一层LSTM会进行如下操作：

(1)利用LSTM的遗忘门选择忘记过去的一些信息，遗忘门函数f_t为：

f_t＝σ(w_fx·x_t+w_fhh_t-1+b_f) (7)

其中，σ为激活函数，h_t-1表示上一次LSTM的输出，x_t为当前时刻LTSM的输入，即训练数据集中的数据，w_fx为遗忘门的权系数矩阵，b_f为遗忘门的偏置项。

(2)利用输入门控制着LSTM每个隐藏单元的输入有多少新的信息加入内部状态C_t里，输入门函数i_t和内部状态C_t的表达式为：

i_t＝σ(w_ix·x_t+w_ihh_t-1+b_i) (8)

C_t＝f_t*C_t-1+i_t*tanh(w_cx·x_t+w_chh_t-1+b_c) (9)

其中，w_ix和w_ih分别为输入门的权系数矩阵，b_i为输入门的偏置项，C_t表示当前输入的内部状态，C_t-1表示上一次的内部状态，tanh为双曲函数，w_cx和w_ch分别为计算内部状态的权系数矩阵，b_c为计算内部状态的偏置项。

(3)利用输出门把控LSTM每个单元被保留的激活信息和不相关的信息，具体的，先运行sigmoid层来确定cell状态中输出部分，再用tanh函数进行处理，其运行函数为：

o_t＝σ(w_ox·x_t+w_ohh_t-1+b_o) (10)

h_t＝o_t*tanh(C_t) (11)

y_t＝w_hyh_t+b_y (12)

其中，o_t表示输出门函数，w_ox和w_oh分别为输出门的权系数矩阵，b_o为输出门的偏置项，h_t表示当前时刻LSTM的输出，y_t表示t时刻电离层TEC的时间特征，w_hy为计算时间特征的权系数矩阵，b_y为计算时间特征的偏置项。

步骤502、将LSTM网络的输出结果作为GCN网络的输入数据，以此继续捕捉电离层TEC空间依赖特性。

(1)GCN网络的输入数据由特征矩阵和邻接矩阵构成，每个网格点构成的特征矩阵在拓扑结构图G基础上训练学习，然后训练预测下一时刻的时序信息，其公式为：

[Y_t+1,…,Y_t+p]＝f(G；(Y_t-m,…,Y_t-1,Y_t)) (13)

其中，p为GCN网络输出预报的时间序列的长度，Y_t+p表示t+p时刻预报的电离层TEC数据。

(2)两层GCN捕捉电离层TEC的时空依赖，其具体表达式为：

其中，f(Y,A)表示GCN网络的输出信号，Y表示各个节点数据构成的特征矩阵，A表示图的邻接矩阵，

表示拉普拉斯矩阵的对称标准化处理步骤，W₀为GCN输入层到GCN隐藏层训练的权重矩阵，W₁表示GCN隐含层到GCN输出层训练的权重矩阵，在两层GCN网络之间用tanh激活函数进行连接，提高模型的学习能力。

步骤503、利用性回归层将LSTM-GCN网络的各个单元的输出特征进行相加融合，获得训练集中数据对应的TEC预报结果。

步骤504、采用误差反向传播算法训练区域电离层TEC预报模型，即根据损失函数不断对学习率、学习步长和网络权重等参数进行调整，并利用参数调整后的区域电离层TEC预报模型重复步骤501～504，直到达到最大迭代次数或者损失函数值趋于平稳，获得当前阶段的训练好的区域电离层TEC预报模型。

步骤6、根据模型误差要求分析模型训练结果，利用训练集中数据对应的TEC预报结果和真实观测数据比较，计算当前阶段模型的误差值，并将该误差值与预设的模型误差要求比较，当误差值满足模型误差要求，完成模型训练，当误差值不满足模型误差要求，则需要更新模型参数，并重新执行步骤四至步骤六，再次进行模型训练，直至达到模型误差要求，搭建符合要求的区域电离层TEC预报模型。

步骤7、利用训练好的区域电离层TEC预报模型处理测试集，将测试集中的每一组数据输入到训练好的区域电离层TEC预报模型，获得长度为24的多组序列，并将该序列进行零均值反标准化处理，得到测试集中数据对应的最终的TEC预报结果。

步骤8、根据TEC预报结果和真实观测数据，利用均方根误差、平均绝对误差和平均百分比误差评估区域电离层TEC预报模型的预报性能，并根据预报性能评估结果优化区域电离层TEC预报模型。

步骤801、在本发明实施例中，选取均方根误差、平均绝对误差和平均百分比误差这3个性能指标来判断区域电离层TEC预报模型的有效性。根据测试集对应的TEC预报结果和真实观察到的电离层TEC数据计算3个性能指标的值，3个性能指标的值越小表示预报数据与实际观测数据越接近，则TEC预报结果和真实观测数据越接近，模型拟合程度更好，区域电离层TEC预报模型的预报性能越好。

均方根误差、平均绝对误差、平均百分比误差的计算公式如下：

其中，MAE为平均绝对误差，MAPE为平均百分比误差，RMSE为均方根误差，Y_j表示测试集中j时刻的测试数据对应的TEC预报结果，Q_j表示j时刻真实观测的电离层TEC数据，j＝1,2,…,l，l为测试集的时间长度。

步骤802、将均方根误差、平均绝对误差、平均百分比误差的值与预设值比较，获得区域电离层TEC预报模型的预报性能的评估结果。

为了进一步提高TEC预报的精度，本发明可以给定一个模型预期效果，即预设值，将均方根误差、平均绝对误差、平均百分比误差的值与模型预期效果比较，如果没有达到预期，可以再次调整模型的网络结构和参数，并重复步骤4～8，直到获得满足预期的最优区域电离层TEC预报模型。

步骤9、利用不同区域、不同时间的电离层TEC数据重复测试区域电离层TEC预报模型，全面评估区域电离层TEC预报模型。

与现有技术中的预报模型相比，本发明方法通过LSTM捕捉电离层TEC时间特性，通过GCN反映电离层TEC网格点的拓扑建构，保留电离层TEC网格点空间特征，基于LSTM和GCN构建的区域电离层TEC预报模型可以有效地提取电离层TEC时空特性，在面对复杂的电离层TEC变化时能够实现对区域或全球电离层TEC的准确预报。本发明方法还可以加快模型训练速度，获取准确可靠的模型参数，提升了深度学习方法在电离层TEC预报的应用，可以更好地处理电离层时空上复杂的变化规则和一些不规律的异常变化，进一步提高了电离层TEC预报精度，为电离层空间环境的分析研究提供了参考价值。

以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明技术原理的前提下，还可以做出若干改进和变形，这些改进和变形也应视为本发明的保护范围。

Claims (8)

1.基于LSTM和GCN的区域电离层TEC预报方法，其特征在于，包括以下步骤：

步骤1、获取历史电离层TEC数据、太阳活动指数F10.7和地磁指数Dst，并统一三种数据的时间分辨率；

步骤2、对历史电离层TEC数据、太阳活动指数F10.7和地磁指数Dst进行异常数据清洗和缺失数据填补处理，获取完整数据；

步骤3、将完整数据划分为训练集、测试集并进行零均值标准化处理，完成数据预处理；

步骤4、基于LSTM和GCN网络确定区域电离层TEC预报模型的拓扑结构，并进行模型搭建；

步骤5、将训练集批次输入搭建好的区域电离层TEC预报模型中，利用误差反向传播算法训练区域电离层TEC预报模型，获得训练好的区域电离层TEC预报模型；

步骤6、根据模型误差要求分析模型训练结果，当误差值满足模型误差要求，完成模型训练，当误差值不满足模型误差要求，则更新模型参数，并重新执行步骤四至步骤六，再次进行模型训练，直至误差在预计范围内；

步骤7、将测试集数据输入至训练好的区域电离层TEC预报模型中，获得长度为24的多组序列，并将该序列进行零均值反标准化处理，得到最终的TEC预报结果；

步骤8、根据TEC预报结果和真实观测数据，利用均方根误差、平均绝对误差和平均百分比误差评估区域电离层TEC预报模型的预报性能，并根据预报性能评估结果优化区域电离层TEC预报模型。

2.根据权利要求1所述的基于LSTM和GCN的区域电离层TEC预报方法，其特征在于，步骤1中，通过线性插值方法将历史电离层TEC数据、太阳活动指数F10.7和地磁指数Dst的时间分辨率统一为1h。

3.根据权利要求1所述的基于LSTM和GCN的区域电离层TEC预报方法，其特征在于，步骤2中，利用径向基插值方法进行缺失数据填补处理。

4.根据权利要求1所述的基于LSTM和GCN的区域电离层TEC预报方法，其特征在于，步骤3的具体操作如下：

根据预设比例对完整数据进行数据集划分，获得训练集、测试集，训练集和测试集中均包括历史电离层TEC数据、太阳活动指数F10.7和地磁指数Dst；

在[-1,1]范围内对训练集和测试集中的历史电离层TEC数据进行零均值标准化处理，零均值标准化处理的公式如下：

其中，x′表示标准化处理后的历史电离层TEC数据，x表示训练集或测试集中的历史电离层TEC数据，μ表示训练集或测试集中历史电离层TEC数据的均值，σ表示训练集或测试集中历史电离层TEC数据的标准误差；

利用零均值标准化处理的公式依次对训练集和测试集中的太阳活动指数F10.7和地磁活动指数Dst进行零均值标准化处理，完成数据预处理。

5.根据权利要求1所述的基于LSTM和GCN的区域电离层TEC预报方法，其特征在于，步骤4中，区域电离层TEC预报模型包括输入层、隐藏层和输出层，所述隐藏层包括双层LSTM和双层GCN；输入层的输入数据包含历史电离层TEC数据、太阳活动指数F10.7和地磁指数Dst；隐藏层先利用双层LSTM提取电离层TEC时域特征，再利用双层GCN捕捉电离层TEC空间特性；输出层采用线性回归层融合电离层TEC时域特征和电离层TEC空间特性，得到TEC预报结果。

6.根据权利要求1或5所述的基于LSTM和GCN的区域电离层TEC预报方法，其特征在于，步骤5中，区域电离层TEC预报模型利用前24个时间段的电离层TEC数据预测下一个时间段的电离层TEC数据；区域电离层TEC预报模型的隐藏层的维度为264，优化器为Adam，训练损失函数为均方差损失，初始学习率为0.0001。

7.根据权利要求1所述的基于LSTM和GCN的区域电离层TEC预报方法，其特征在于，步骤8中，利用均方根误差、平均绝对误差和平均百分比误差评估区域电离层TEC预报模型的预报性能的具体操作如下：

根据TEC预报结果和真实观测数据计算均方根误差、平均绝对误差、平均百分比误差，计算公式如下：

其中，MAE为平均绝对误差，MAPE为平均百分比误差，RMSE为均方根误差，Y_j表示测试集中j时刻的测试数据对应的TEC预报结果，Q_j表示j时刻真实观测的电离层TEC数据，j＝1,2,…,l，l为测试集的时间长度；

将均方根误差、平均绝对误差、平均百分比误差的值与预设值比较，获得区域电离层TEC预报模型的预报性能的评估结果。

8.根据权利要求1所述的基于LSTM和GCN的区域电离层TEC预报方法，其特征在于，所述方法还包括如下步骤：

利用不同区域、不同时间的电离层TEC数据重复测试区域电离层TEC预报模型，实现全面的模型评估。

Images