CN113642235B - 一种基于局部时空特征融合的覆冰预测方法 - Google Patents

Abstract

本发明公开了一种基于局部时空特征融合的覆冰预测方法，它包括：步骤1、采集传感器覆冰拉力以及气象数据构建数据集；步骤2、进行数据预处理；步骤3、图网络构建；步骤4、模型训练，直到训练条件终止，生成训练好的模型，用于预测未来覆冰拉力值；解决了现有技术对电网的覆冰情况预测由于覆冰形成过程复杂，环境影响因素多样，覆冰状况具有时空差异性，相关的理论分析不充分，尚未建立鲁棒性强、适应性好的覆冰预测模型；覆冰预测精度差等问题等技术问题。

Description

一种基于局部时空特征融合的覆冰预测方法

技术领域

本发明属于电网覆冰预测技术领域，尤其涉及一种基于局部时空特征融合的覆冰预测方法。

背景技术

随着国民的家用以及商用对电力需求的日益增涨，我国电力系统及电网逐渐朝着大规模、智能化的方向发展。输电线路具有覆盖区域广、分散性大、线路距离长、途经荒芜地区环境恶劣、微气象条件复杂等特性，极易遭遇恶劣天气以及多种自然灾害影响。其中，覆冰作为一种常见的自然现象，对电网的安全稳定运行有着极大威胁。电网覆冰是指由于线路电压、温度、湿度、风速、水滴直径、地形等因素综合影响的线路发生结冰的一类物理现象。电网覆冰是电网安全运行最为严重的威胁之一，可能引起的电路过负载、不均匀覆冰、脱冰及导线舞动会造成输电线路跳闸等问题，严重时甚至引发地线断线、倒塔等事故，从而导致大范围停电，给电网及工农业生产造成巨大的经济损失，给人们生活用电造成极大困扰，由线路覆冰引起的电气和机械事故也会给电网带来巨大的经济损失。对电网的覆冰情况进行预测，及时发现覆冰厚度的变化趋势，能够有效防止覆冰事故的发生，给电网的防冰和除冰提供决策依据。

由于覆冰序列数据受微气象等因素影响，具有非线性和相互关联性等问题，如何有效地构建更准确的预测模型是覆冰预测的关键技术问题之一。研究学者针对这一关键问题提出了很多的研究模型与方法，现有的电网覆冰预测模型可以分为两类，一类是基于物理过程的预测模型，一类是基于数据驱动的预测模型。基于物理过程的预测模型研究，主要是从电网覆冰的形成过程和产生机理出发，结合流体力学、热力学等相关理论进行覆冰模型的构建。然而，由于覆冰形成过程复杂，环境影响因素多样，覆冰状况具有时空差异性，相关的理论分析不充分，尚未建立鲁棒性强、适应性好的覆冰预测模型。基于数据驱动的覆冰预测模型研究，主要以历史的电网覆冰数据为主，分析覆冰过程的影响因素，结合深度神经网络的非线性映射以及深度特征抽取能力，对复杂的气象数据和覆冰之间的关系进行学习。

由于不同环境气象数据之间通常存在复杂的非线性关系，传统方法模型难以挖掘与覆冰相关的各类序列数据之间的关系，导致覆冰预测精度差等问题。

发明内容

本发明要解决的技术问题是：提供一种基于局部时空特征融合的覆冰预测方法，以解决现有技术对电网的覆冰情况预测由于覆冰形成过程复杂，环境影响因素多样，覆冰状况具有时空差异性，相关的理论分析不充分，尚未建立鲁棒性强、适应性好的覆冰预测模型；覆冰预测精度差等问题等技术问题。

本发明的技术方案是：

一种基于局部时空特征融合的覆冰预测方法，它包括：

步骤1、采集传感器覆冰拉力以及气象数据构建数据集；

步骤2、进行数据预处理；

步骤3、图网络构建；

步骤4、模型训练，直到训练条件终止，生成训练好的模型，用于预测未来覆冰拉力值。

步骤5、为了验证基于局部空间的时序覆冰预测方法的有效性，采用真实数据集对LSTM、GRU和基于局部空间的时序覆冰预测方法进行覆冰预测对比实验，将RMSE和MAE作为模型误差分析指标，用于评估各种方法的序列预测性能。

它还包括：所述误差分析指标计算公式如下：

其中代表预测的覆冰拉力，y_i代表真实的覆冰拉力值，n是测试数据集样本数量。

所述真实数据集每间隔60分钟进行采样，输入的历史窗口长度为48小时，预测长度为24小时，传感器终端数量303个，经过异常数据处理后，训练集16785条，验证集3895条，测试集4901条。

所述构建数据集包括：构建覆冰拉力序列数据集:X＝{x_t|t＝1,2...,n},x_t∈R^l,需要预测的拉力序列:Y＝{y_t|t＝1,2...,n},y_t∈R^l，相对应的环境变量序列数据集:F＝{f_t|t＝1,2...,n},f_t∈R^l×9样本数量为n，输入历史窗口大小为l；前向预测步数为p。

所述进行数据预处理的方法为：V＝(v-mean)/σ，其中mean为平均值，σ为标准差；取X以及F的前60％为训练集，剩余的两个20％为验证集和测试集，构建训练集D_train＝(X_60％,F_60％,Y_60％)，验证集D_valid＝(X_20％，F_20％，Y_20％)，测试集D_test＝(X_20％，F_20％，Y_20％)。

所述图网络构建的方法为：

依次从训练集D_train中选择批处理样本B＝{x_i,f_i,y_i|i＝1,2,...,b}，b为一个批次样本数量，为批次的每个样本按照半径r构建局部气象的k近邻图，处理的图结构为:G＝{g_i|i＝1,2,...,b},g_i∈R^k×l×9，输入网络的数据形式为:B′＝{x_i,g_i,y_i|i＝1,2,...,b}；

首先基于图注意力网络层，接受图结构数据g_i输入，每个图包含k个节点，每个节点特征向量为h_i，维度为d：

h＝{h₁,h₂,...,h_k},h_i∈R^d，

节点j是节点i的邻居，则可以使用注意力机制计算节点j对于节点i的重要性：

e_ij＝Attention(Wh_i,Wh_j)，

经过Attention之后，节点i的特征如下：

最后基于LSTM网络，将节点i的特征h_i′以及拉力特征x_i拼接得到m_t作为网络输入；f_t，i_t，o_t分别为LSTM的遗忘门、输入门、输出门，C_t是记忆单元，s_t为隐藏层状态，LSTM的工作方式如下：

f_t＝σ(W_f·[s_t-1,m_t]+b_f)

i_t＝σ(w_i·[s_t-1,m_t]+b_i)

o_t＝σ(w_o·[s_t-1,m_t]+b_o)

h_t＝o_t*tanh(C_t)。

所述Attention的具体方法为：把向量h_i和h_j拼接，然后与向量计算内积，激活函数采用LeakyReLU，公式如下：

本发明有益效果：

本发明使用图注意力网络对设备局部空间特征信息建模，能自动学习多环境变量的隐含表示和非线性相关特征；将图注意力网络和LSTM网络结合，可以同时融合学习终端设备周围的局部空间特征信息以及覆冰的时序依赖特征信息；解决了现有技术对电网的覆冰情况预测由于覆冰形成过程复杂，环境影响因素多样，覆冰状况具有时空差异性，相关的理论分析不充分，尚未建立鲁棒性强、适应性好的覆冰预测模型；覆冰预测精度差等问题等技术问题。

附图说明

图1为本发明设计的网络结构示意图；

图2为图注意力网络GAT的结构示意图；

图3-5为覆冰预测结果图。

具体实施方式

本发明具体实施步骤如下：

步骤1：构建训练集。对传感器覆冰拉力以及相关的气象数据进行预处理，构建覆冰拉力序列数据集:X＝{x_t|t＝1,2...,n},x_t∈R^l以及需要预测的拉力序列:Y＝{y_t|t＝1,2...,n},y_t∈R^l，相对应的多环境变量序列数据集:F＝{f_t|t＝1,2...,n},f_t∈R^l×9，其中n为样本数量，R^l、R^l×9分别表示样本序列长度以及气象数据特征维度，输入历史窗口大小为l；前向预测步数为p；覆冰相关的多环境变量(本方法考虑了温度、湿度、风向、风速、1分钟平均风速、10分钟平均风速、1分钟平均风向、10分钟平均风向以及最大风速)共9个，这些因素对覆冰拉力变化较为明显；

步骤2：数据预处理。构建好的拉力数据集X＝{x_t|t＝1,2...,n},x_t∈R^l以及多环境数据集Y＝{y_t|t＝1,2...,n},y_t∈R^l，进一步对每个数值列进行归一化计算，计算公式为：V＝(v-mean)/σ，其中mean为平均值，σ为标准差，v是每个样本的特征。取X以及F的前60％为训练集，剩余的两个20％为验证集和测试集，构建D_train＝(X_60％,F_60％,Y_60％)，验证集D_valid＝(X_20％，F_20％，Y_20％)，测试集D_test＝(X_20％，F_20％，Y_20％)。

步骤3：图网络的构建。依次从训练集D_train中选择批处理样本B＝{x_i,f_i,y_i|i＝1,2,...,b}，b为一个批次样本数量，为批次的每个样本按照半径r构建局部气象的k近邻图，处理的图结构为:G＝{g_i|i＝1,2,...,b},g_i∈R^k×l×9，R^k×l×9表示k个邻居气象特征，输入网络的数据形式为:B′＝{x_i,g_i,y_i|i＝1,2,...,b}；

首先基于图注意力网络层，接受图结构数据g_i输入，每个图包含k个节点，每个节点特征向量为h_i，属于R^d空间，维度为d：

h＝{h₁,h₂,...,h_k},h_i∈R^d，

节点j是节点i的邻居，则可以使用注意力机制计算节点j对于节点i的重要性e_ij，通过Softmax可以计算出节点i周围k个邻居的注意力得分α_ij：

e_ij＝Attention(Wh_i,Wh_j)，

图注意力网络的Attention具体做法如下，把向量h_i和h_j拼接，然后与向量计算内积，N_i表示节点i周围邻居节点的索引，W是特征变换矩阵，Wh_i、Wh_j分别对目标节点和邻居节点进行特征变换，符号||表示拼接操作，激活函数采用LeakyReLU，具体公式如下：

经过Attention之后，节点i的特征如下：

最后基于LSTM网络，将节点i的特征h_i′以及拉力特征x_i拼接得到m_t作为网络输入。f_t，i_t，o_t分别为LSTM的遗忘门、输入门、输出门，C_t是记忆单元，s_t为隐藏层状态，σ为激活函数，b_f，b_i，b_o分别是三个状态门的偏置项，LSTM的工作方式如下：

f_t＝σ(W_f·[s_t-1,m_t]+b_f)

i_t＝σ(w_i·[s_t-1,m_t]+b_i)

o_t＝σ(w_o·[s_t-1,m_t]+b_o)

h_t＝o_t*tanh(C_t)

步骤4：优化迭代。重复步骤1，2，3，知道满足训练终止条件，生成训练好的模型，用于预测未来多步覆冰拉力值。实验中，采用提前终止作为终止条件，将误差损失变化作为指标，设定8个批次，如果在8个批次内损失没有比之前的更低，则提前终止训练，防止过拟合。

为了验证基于局部空间的时序覆冰预测方法的有效性，在真实数据集上进行了覆冰预测对比实验，采用Pytorch的开源深度学习库来构建深度学习模型。另外将本方法与以下基准方法进行比较：

·LSTM，这是用于处理序列任务的深度学习方法，LSTM和GRU(门控循环单位)，是两种最流行的基于RNN变体的深度学习模型。

将RMSE和MAE作为模型误差分析指标，用于评估各种方法的序列预测性能，误差指标计算公式如下：

其中代表预测的覆冰拉力，y_i代表真实的覆冰拉力值，n是测试数据集样本数量。

实验采用的数据集是由南方电网提供的数据，覆冰数据集是一个典型的多变量时间序列，实验所用的数据集时间跨度为2013年12月1日至2013年12月31日，该数据集每间隔60分钟进行采样，输入的历史窗口长度为48小时(2天)，预测长度为24小时(1天)，其中传感器终端数量303个，经过异常数据处理后，训练集16785条，验证集3895条，测试集4901条。

图3-5是在覆冰数据集对比实验中，不同方法预测的覆冰拉力值与真实值曲线对比图，图3-5分别是3个传感器的测试数据，蓝色曲线表示真实的拉力值，绿色曲线表示LSTM网络预测的未来24小时拉力，红色曲线表示本方法预测的拉力值。其中横坐标表示观测时间步长，纵坐标表示拉力值。

由于本方法是对拉力值的预测，而基于数值的预测波动较大(异常因素、传感器的型号、导线长度等都会使得拉力值呈不同尺度范围的分布)，从数百到上万的拉力值，这对预测也是一个挑战。从对比图可以看到，本方法的预测性能优于LSTM模型，特别是对于趋势的预测情况，本方法的预测都能和真实的趋势保持近似。采用图网络学习到的局部信息能够使网络更稳定地预测拉力值变化，本方法在数值上也较为接近真实值。

综上，通过在真实的覆冰拉力数据集上进行的实验评估分析，本方法相比基准方法具有更好的预测性能，本方法的覆冰拉力趋势可以与真实的变化趋势保持较好的匹配。

Claims (5)

1.一种基于局部时空特征融合的覆冰预测方法，它包括：

步骤1、采集传感器覆冰拉力以及气象数据构建数据集；

所述构建数据集包括：构建覆冰拉力序列数据集:X＝{x_t|t＝1,2...,n},x_t∈R^l,需要预测的拉力序列:Y＝{y_t|t＝1,2...,n},y_t∈R^l，相对应的环境变量序列数据集:F＝{f_t|t＝1,2...,n},f_t∈R^l×9，样本数量为n，输入历史窗口大小为l；前向预测步数为p；

步骤2、进行数据预处理；

所述进行数据预处理的方法为：V＝(v-mean)/σ，其中mean为平均值，σ为标准差；取X、Y以及F的前60％为训练集，剩余的两个20％为验证集和测试集，构建训练集D_train＝(X_60％,F_60％,Y_60％)，验证集D_valid＝(X_20％，F_20％，Y_20％)，测试集D_test＝(X_20％，F_20％，Y_20％)；

步骤3、图网络构建；

所述图网络构建的方法为：

依次从训练集D_train中选择批处理样本B＝{x_i,f_i,y_i|i＝1,2,...,b}，b为一个批次样本数量，为批次的每个样本按照半径r构建局部气象的k近邻图，处理的图结构为:G＝{g_i|i＝1,2,...,b},g_i∈R^k×l×9，输入网络的数据形式为:B′＝{x_i,g_i,y_i|i＝1,2,...,b}；

首先基于图注意力网络层，接受图结构数据g_i输入，每个图包含k个节点，每个节点特征向量为h_i，维度为d：

h＝{h₁,h₂,...,h_k},h_i∈R^d，

节点j是节点i的邻居，则使用注意力机制计算节点j对于节点i的重要性：

e_ij＝Attention(Wh_i,Wh_j)，

经过Attention之后，节点i的特征如下：

最后基于LSTM网络，将节点i的特征h_i′以及拉力特征x_i拼接得到m_t作为网络输入；f_t，i_t，o_t分别为LSTM的遗忘门、输入门、输出门，C_t是记忆单元，s_t为隐藏层状态，LSTM的工作方式如下：

f_t＝σ(W_f·[s_t-1,m_t]+b_f)

i_t＝σ(w_i·[s_t-1,m_t]+b_i)

o_t＝σ(w_o·[s_t-1,m_t]+b_o)

h_t＝o_t*tanh(C_t)；

步骤4、模型训练，直到训练条件终止，生成训练好的模型，用于预测未来覆冰拉力值。

2.根据权利要求1所述的一种基于局部时空特征融合的覆冰预测方法，其特征在于：它还包括：步骤5、为了验证基于局部时空特征融合的覆冰预测方法的有效性，采用真实数据集对基于局部时空特征融合的覆冰预测方法进行覆冰预测对比实验，将RMSE和MAE作为模型误差分析指标，用于评估各种方法的序列预测性能。

3.根据权利要求2所述的一种基于局部时空特征融合的覆冰预测方法，其特征在于：它还包括：所述误差分析指标计算公式如下：

其中代表预测的覆冰拉力，y_i代表真实的覆冰拉力值，n是测试数据集样本数量。

4.根据权利要求2所述的一种基于局部时空特征融合的覆冰预测方法，其特征在于：所述真实数据集每间隔60分钟进行采样，输入的历史窗口长度为48小时，预测长度为24小时，传感器终端数量303个，经过异常数据处理后，训练集16785条，验证集3895条，测试集4901条。

5.根据权利要求1所述的一种基于局部时空特征融合的覆冰预测方法，其特征在于：所述Attention的具体方法为：

把向量h_i和h_j拼接，然后与向量计算内积，激活函数采用LeakyReLU，公式如下：