CN110188397B - 一种架空输电线路覆冰预测模型和方法 - Google Patents
一种架空输电线路覆冰预测模型和方法 Download PDFInfo
- Publication number
- CN110188397B CN110188397B CN201910370812.8A CN201910370812A CN110188397B CN 110188397 B CN110188397 B CN 110188397B CN 201910370812 A CN201910370812 A CN 201910370812A CN 110188397 B CN110188397 B CN 110188397B
- Authority
- CN
- China
- Prior art keywords
- icing
- data
- layer
- model
- neural network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
- G06Q50/06—Electricity, gas or water supply
-
- H—ELECTRICITY
- H02—GENERATION; CONVERSION OR DISTRIBUTION OF ELECTRIC POWER
- H02J—CIRCUIT ARRANGEMENTS OR SYSTEMS FOR SUPPLYING OR DISTRIBUTING ELECTRIC POWER; SYSTEMS FOR STORING ELECTRIC ENERGY
- H02J3/00—Circuit arrangements for ac mains or ac distribution networks
-
- H—ELECTRICITY
- H02—GENERATION; CONVERSION OR DISTRIBUTION OF ELECTRIC POWER
- H02J—CIRCUIT ARRANGEMENTS OR SYSTEMS FOR SUPPLYING OR DISTRIBUTING ELECTRIC POWER; SYSTEMS FOR STORING ELECTRIC ENERGY
- H02J2203/00—Indexing scheme relating to details of circuit arrangements for AC mains or AC distribution networks
- H02J2203/20—Simulating, e g planning, reliability check, modelling or computer assisted design [CAD]
Abstract
本发明公开了一种架空输电线路覆冰预测模型和方法,所述模型通过如下步骤构建:步骤1,从线路在线监测系统中获取覆冰相关数据,筛选和处理所获取的数据;步骤2,建立和训练时序卷积神经网络模型,该模型用于预测覆冰因素;步骤3,建立和训练支持向量回归模型,该模型用于建立覆冰因素与覆冰厚度的映射,时序卷积神经网络模型和支持向量回归模型共同组成架空输电线路覆冰预测模型。使用建立的模型即能够进行覆冰预测。
Description
技术领域
本发明涉及机器学习和电力系统架空输电线路状态监测技术领域,具体涉及一种架空输电线路覆冰预测模型和方法。
背景技术
架空高压输电线路是现代社会的大动脉,其安全稳定运行对社会至关重要。冰灾是威胁架空输电线路的主要自然灾害之一。电力线路覆冰轻则引起闪络跳闸事故,重则引发金具损坏、断线、倒塔等严重事故,严重威胁电力系统的安全稳定运行,给社会经济造成巨大的损失。由于我国广阔复杂的地理条件,以及全球气候变暖的影响,输电线路覆冰灾害频发。因此建立一个能及时准确预测覆冰的模型,在灾害发生前及时预警具有重要意义。
导线覆冰的机制十分复杂,具有多因素、非线性、突发性、不确定性等特点。气象因素是输电线路覆冰成因的必要条件,主要包括空气中的温度、相对湿度(空气中过冷却水滴或液态水含量)、降水量、风速和风向等。环境因素对导线覆冰的类型和覆冰程度具有一定地影响,通常包括海拔高度、凝结高度、地形地貌等。对导线覆冰有影响的线路因素主要有导线走向、导线直径、导线刚度、导线悬挂高度、负荷电流和电场等几个方面。
传统的模型有Imai模型、Lenhard模型、Goodwin模型、Chaine模型、Markkonen模型等。这些模型只考虑有限几个覆冰因素并且作了较强的限定,实际覆冰过程的复杂性导致了这些模型适用范围相当有限。还有基于神经网络的覆冰模型,但模型的结构只是简单的浅层网络,性能有限,而且没有考虑覆冰厚度数据不足的问题。
机器学习近几年发展迅速,尤其是深度学习。深度人工神经网络已经在计算机视觉、自然语言处理等领域取得了接近甚至超越人类表现的成绩。深度神经网络之所以能取得如此大的成功,原因之一在于其善于捕捉多维度、非线性、不确定的复杂关系。深度神经网络需要大量的训练数据,虽然线路覆冰在线监测系统在智能电网技术的推动下已有初步发展,但采集到的覆冰厚度数据量还不能满足深度网络的训练需求。
发明内容
本发明所要解决的技术问题是针对输电线路覆冰过程的多因素、非线性、突发性、不确定性等特性,同时覆冰厚度数据量有限的情况下,结合深度神经网络与支持向量机技术,建立一个输电线路覆冰预测模型。
为解决上述技术问题,本发明采用的技术方案是:
一种架空输电线路覆冰预测模型,所述模型通过如下步骤构建:
步骤1,从线路在线监测系统中获取覆冰因素数据和覆冰厚度数据,筛选和处理所获取的数据;
步骤2,建立和训练时序卷积神经网络模型,该模型用于预测覆冰因素;
步骤3,建立和训练支持向量回归模型,该模型用于建立覆冰因素与覆冰厚度的回归关系,时序卷积神经网络模型和支持向量回归模型共同组成架空输电线路覆冰预测模型。
本发明中,步骤1包括:
步骤1-1,从线路在线监测系统中获取覆冰因素数据,所述覆冰因素数据分为时序覆冰因素数据和非时序覆冰因素数据,时序覆冰因素指随时间变动的覆冰因素,包括气温、湿度、风速、风向、降水、光照,非时序覆冰因素指固定不变的覆冰因素,包括导线走向、导线直径、海拔和地形地貌,非时序覆冰因素数据作为常数序列与时序覆冰因素数据合并作为覆冰因素时序数据;
步骤1-2,从线路在线监测系统中获取覆冰厚度数据,覆冰厚度数据的每个样本由覆冰因素向量和覆冰厚度值两项构成,覆冰因素向量为各种覆冰因素的数据值组成,按照覆冰厚度值将覆冰厚度数据分为不同的组,等概率地随机选一个非空组从中抽出一个样本,重复该操作直至只有覆冰厚度为0的组为非空组,去掉未被抽出的样本,保留所有抽出的样本,如此可使不同程度覆冰厚度的样本之间比例均衡,以防止训练结果陷入局部最优解;
步骤1-3,确定时序卷积神经网络模型时间步(即时序数据的时间间隔)的大小,不能小于时序覆冰因素传感器的采样周期,也不能太大,否则降低了时序卷积神经网络模型的精确度,本发明神经网络模型时间步设为1小时;
步骤1-4,删除故障传感器获取到的异常数据,填补缺失数据,可以用备用传感器数据、相邻杆塔的数据、历史数据、插值;
步骤1-5,对所有覆冰因素时序数据进行归一化:
其中,是覆冰因素时序数据的原值,min是最小值,max是最大值,是归一化的值。不同的时间变量变化范围差异较大,将变量值归一化后消除了这种差异。min、max的取值应依据历史数据恰当设置,不能过小或过大。小于最小值或大于最大值的数据如果不是异常数据,可以截断为最小值或最大值;
步骤1-6,将归一化后的数据进行离散化:
本发明中,步骤2中,通过如下步骤建立和训练时序卷积神经网络模型:
其中,表示实数集,T是时间序列的长度,n是时间序列输入变量的维数,即卷积的输入通道数,d是空洞系数,k是卷积核大小,符号"·"表示向量内积运算,f(i)是卷积核的第i个权重向量,xt-di是输入序列的第t-di时间步的输入;
空洞相当于在卷积的每两个相邻步之间引入固定步长。当d=1时,空洞卷积变回普通的1维卷积。所谓因果指时间t的卷积只跟过去和现在的输入xt-di有关,而与未来无关。
本发明卷积神经网络的卷积核大小k=2。本发明卷积神经网络的空洞系数d随着网络的深度指数地增加,即在网络的第l层级处空洞系数d=2l,这样可以在网络的高层高效地扩大卷积核的接受域,使网络能够建模更长的时间依赖关系;
步骤2-2,建立残差块:残差块包含一个残差映射和一个恒等映射,残差块的输出即为两者(即一个残差映射和一个恒等映射)的和,定义为:
y=F(x,{Wi})+Wsx,
x和y分别表示所在层的输入向量和输出向量,F(x,{Wi})就是深度神经网络的网络层要学习的残差映射,Wi是残差映射F的参数,当输入和输出的维数相等时,Ws是一个单位矩阵,Wsx即为恒等映射,当输入和输出的维数不相等时,Ws是一个参数矩阵,恒等映射用一般的线性映射替代。
残差映射F的形式是灵活的,在本发明中F就是上述空洞因果卷积。
步骤2-3,建立深度神经网络:所述深度神经网络由步骤2-2中所述的残差块堆叠而成,深度神经网络的相邻层之间的关系为:
y[l]=F[l](x[l])
x[l+1]=σ[l](y[l])
其中,l=1,2,…,L,l是当前网络层的层数,L表示网络的深度,x[l]是当前层的输入,x[l+1]为下一层的输入,F[l]表示当前层的残差块,y[l]是当前层的输出,σ[l]是当前层的激活函数。深度神经网络的第一层称为输入层,第一层和最后一层之间的网络层称为隐藏层,最后一层称为输出层。
增加网络的深度可以提高网络的性能,但更深的网络意味着更难训练。残差块可以有效地缓解这个问题,实际上,残差网络的深度可以达到上百层,在本发明中,网络的深度为十层。
步骤2-3中,输入层和隐藏层的激活函数使用修正线性单元ReLU,输出层的激活函数使用归一化指数函数Softmax;
网络以步骤1准备的覆冰因素时序数据和一个掩码矩阵作为输入数据。掩码矩阵m是一个二值矩阵,其元素与时序数据x的元素一一对应,掩码值1表示对应时序数据的元素有效,而掩码值0表示对应时序数据的元素无效。神经网络的输入层的输入x[1]由覆冰因素时序数据x和掩码矩阵m的元素积与掩码矩阵m合并而成,即:x[1]=[x⊙m,m],其中,运算符⊙表示元素积。神经网络的隐藏层以前一层的输出为输入,然后其输出又作为下一层的输入,最后神经网络的输出层输出下一个时间步覆冰因素概率分布的预测。
步骤2-4,建立损失函数:使用交叉熵损失函数loss:
步骤2-5,正则化:训练时序卷积神经网络模型时,嵌入脱网Dropout层实现正则化;正则化是防止过拟合的方法,本发明使用脱网(Dropout)正则化,所谓Dropout,是训练神经网络时,网络节点以一定的概率p被关闭的技术。通过在网络层间嵌入Dropout层即可实现Dropout;
深度神经网络训练过程中有协变漂移(covariate shift)问题,该问题的存在使得网络训练过程不稳定,收敛速度慢。批标准化(Batch Normalization)是解决该问题的一个有效方法,本发明在网络层的卷积与激活函数之间嵌入了批标准化层,使用了批标准化解决协变漂移问题(参考文献:batch normalization:accelerating deep networktrainning by reducing internal covariate shift作者:Sergey Ioffe,ChristianSzegedy);
步骤2-6,训练时序卷积神经网络模型时,使用基于梯度下降的优化算法进行优化。
步骤2-6中,所述优化算法使用随机梯度下降算法,参数迭代更新方式为:
优化算法还可以使用随机梯度下降算法SGD的某种变体,如AdaGrad、RMSProp、Adam等。本发明使用mini-batch提高训练的稳定性,从数据集中采样一批数据进行每一次迭代,而不是仅采样一个样本。
利用掩码矩阵提升训练效果,掩码矩阵的元素以概率q被设为0,以概率1-q保持为1,掩码概率q可以设为0.1,这样的掩码矩阵可以将覆冰因素时序数据中的部分元素无效化。由于时序数据中各种覆冰因素之间有相互纠缠的关系,数据中不可避免的含有噪声,采样数据的传感器有几率故障或者有偏差,所以使用掩码矩阵进行训练可以提升网络对时序数据异常的抵抗能力。
本发明中,步骤3包括:
输入覆冰厚度数据的覆冰因素向量xi,覆冰厚度yi,i=1,2,…,n,给定参数C>0和ε>0,支持向量回归模型的原型问题如下:
s.t.yi-wTφ(xi)-b≤ε+ζi,
其中,n为覆冰厚度数据的样本数,w,b是模型参数,C是惩罚系数,ζ,ζ*是松弛变量,ε是损失边界。
上述问题的拉格朗日对偶为:
s.t.eT(α-α*)=0
其中,e为元素全为1的向量,α,α*为所引入的拉格朗日乘子向量,Qij≡K(xi,xj)为核矩阵Q第i行第j列的元素,使用径向基函数RBF(Radial Basis Function简称RBF)核K(xi,xj)=exp(-||xi-xj‖2),γ>0,γ为核函数的参数,xi,xj分别表示x的第i个元素和第j个元素;
求解上述问题后,覆冰厚度的近似函数为:
本发明还公开了一种架空输电线路覆冰预测方法,包括:结合时序卷积神经网络模型和支持向量回归模型,使用时序卷积神经网络模型预测覆冰因素,将覆冰因素输入支持向量回归模型,支持向量回归模型输出覆冰厚度预测值。与现有技术相比,本发明具有如下优点:
本发明应用深度神经网络技术和机器学习技术,建立了一个基于时序卷积神经网络和支持向量回归相结合的输电线路覆冰预测模型。
(1)本发明是一种多变量非线性模型,可以建模多种覆冰因子与覆冰增长的非线性关系;
(2)本发明使用了空洞系数随深度指数增大的空洞卷积网络,可以极大地增大接受域,因而能捕捉长期的时间依赖关系;
(3)本发明使用残差连接、Dropout、mini-batch、批标准化这些深度神经网络技术,能够加速收敛速度、提升泛化性能、提高训练稳定性;
(4)本发明基于卷积网络,具有很好的并行性,可以利用高性能的GPU加速计算;
(5)本发明将深度神经网络与支持向量机结合,利用深度网络预测多变量覆冰因素,再使用支持向量回归覆冰厚度,因而训练神经网络不需要覆冰厚度数据,有效降低了模型对覆冰厚度数据的需求。
附图说明
下面结合附图和具体实施方式对本发明做更进一步的具体说明,本发明的上述或其他方面的优点将会变得更加清楚。
图1是残差块。
图2是时序空洞卷积神经网络。
图3是温度预测图。
图4是模型数据流程图。
具体实施方式
下面结合附图及实施例对本发明做进一步说明。
实施例
1.数据集
本实施例神经网络数据集来自一个气象观测站点约3年多的数据,连续性较好,缺失样本很少。使用气象数据集训练时序卷积网络预测影响覆冰的主要气象因子,如温度、湿度、风速、降雨等。支持向量回归模型需要覆冰厚度数据集。为了采集覆冰厚度数据,输电线路在线监测装置需要安装有覆冰厚度数据采集设备,覆冰厚度数据采集设备将覆冰厚度数据上传至数据库服务器中。
模型时间间隔设为1小时,即时序数据的1个时间步为1个小时。以下是一段原始温度时序数据(单位:摄氏度℃):13.3,12.4,11.4,11.2,10.6,10.2,-9999.0,-9999.0,-9999.0,-9999.0,-9999.0,-9999.0,-9999.0,-9999.0,-9999.0,11.6,13.7,14.1,14.7,15.4,16.1,16.4,15.8,15.2,14.4,12.6,11.9,11.6,11.2,10.1,10.3,9.7,8.6,9.1,8.8,9.1,11.5,14.0,14.8,15.7,-9999.0,16.8,17.6,17.4,17.6,16.8,15.0,13.4,11.6,10.5。接下来以这段序列为例说明如何处理数据。
时序数据中的异常值一般被用特殊数值填充,在这段序列中,-9999.0就是这段序列的异常数据填充值。用线性插值的方法替换掉这些异常数据填充值,处理后数据:13.3,12.4,11.4,11.2,10.6,10.2,10.34,10.48,10.62,10.76,10.9,11.04,11.18,11.32,11.46,11.6,13.7,14.1,14.7,15.4,16.1,16.4,15.8,15.2,14.4,12.6,11.9,11.6,11.2,10.1,10.3,9.7,8.6,9.1,8.8,9.1,11.5,14.0,14.8,15.7,16.25,16.8,17.6,17.4,17.6,16.8,15.0,13.4,11.6,10.5。
下一步要将数据归一化,为此需要设定最小值和最大值。根据经验,将温度的最小值和最大值分别设为-45℃和55℃,以此将数据归一化:0.583,0.574,0.564,0.56200004,0.556,0.552,0.5534,0.5548,0.55619997,0.5576,0.559,0.5604,0.5618,0.5632,0.5646,0.566,0.587,0.59099996,0.597,0.60400003,0.611,0.614,0.608,0.602,0.59400004,0.576,0.569,0.566,0.56200004,0.551,0.553,0.547,0.536,0.541,0.538,0.541,0.565,0.59,0.598,0.607,0.6125,0.618,0.626,0.624,0.626,0.618,0.6,0.584,0.566,0.555。
最后一步离散化数据,为了将精度保留到0.1℃以内,将温度的离散数设为1000,离散后最终数据:0.583,0.574,0.564,0.562,0.556,0.552,0.553,0.554,0.556,0.557,0.559,0.560,0.561,0.563,0.564,0.566,0.587,0.590,0.597,0.604,0.611,0.614,0.608,0.602,0.594,0.576,0.569,0.566,0.562,0.551,0.553,0.547,0.536,0.541,0.538,0.541,0.565,0.590,0.598,0.607,0.612,0.618,0.626,0.624,0.626,0.618,0.600,0.584,0.566,0.555。
其它覆冰因素的时序数据都以上述方式进行类似处理。
2.时序卷积网络
温度是主要覆冰因素之一,本实施例以温度为预测目标建立一个10层的时序卷积网络。时间间隔为1小时,预测1-24小时后的温度。常用深度学习框架有tensorflow、Keras、pytorch等,使用深度学习框架可以方便地实现时序卷积网络。
首先建立基于空洞因果卷积的残差块,如图1所示。再将空洞因子倍增的残差块逐层堆叠建立深层时序卷积网络,如图2所示,d是空洞系数,卷积核大小为2。可以使用网格搜索选择合适的超参数。选择合适的优化算法,如Adam算法,在气象数据集上进行迭代训练网络。
时序数据和掩码矩阵的形式如下表1所示:
表1
时序数据x的每一列对应一种覆冰因素,例如,表1中前3列分别为温度、相对湿度、风速。掩码矩阵m的元素与时序数据x的元素一一对应,在训练阶段,掩码矩阵的元素以概率q被设为0,以概率1-q保持为1,将q设为0.1。
将训练好的网络用于温度预测,此时掩码矩阵的元素值要根据对应的时序数据元素值的有效性设定,图3为温度预测曲线与真实值的对比,实线为真实值,虚线为预测值。
3.支持向量回归
使用覆冰厚度历史数据集作为训练数据集,建立覆冰因素与覆冰厚度的支持向量回归模型。将覆冰厚度数据按照覆冰厚度值(以毫米为单位取整)分为不同的组,如‘0’组、‘1’组、‘2’组等,会发现不同组之间样本数量差异巨大,‘0’组的样本数必然会非常多,因为一年中有覆冰的天数本就很少。因此为了保证数据集的均衡性,需要去除多余的样本。一种可行的筛选方法是重复地从一个均匀随机选出的非空组中抽出一个样本,直至只剩‘0’组为非空组,此时已将所有有覆冰的样本全部抽出,将‘0’组中所有剩余样本去除,保留所有抽出的样本。
许多机器学习工具包可以用来实现支持向量回归模型,比如LIBSVM。构造支持向量回归模型时,有3个参数需要确定,即惩罚系数C,损失边界ε,以及核参数γ。网格搜索是确定这3个参数的常用方法。如惩罚系数C的候选值为0.1,1,10,损失边界ε的候选值为0.1,0.5,1,核参数γ的候选值为0.01,0.1,1时,3个参数的候选值构成了一个3×3×3的网格,网格搜索通过在网格的每一个网格点上逐一实验确定最优参数。
建立覆冰因素与覆冰厚度关系的支持向量回归模型,使用覆冰厚度数据集拟合模型。使用覆冰因素预测网络预测覆冰因素,再由支持向量回归模型基于覆冰因素预测值输出覆冰厚度的预测值。图4为本发明的整体数据流程图,使用卷积神经网络模型对主要覆冰因素进行预测,再用支持向量回归模型基于神经网络模型的覆冰因素预测推断覆冰厚度。
本发明提供了一种架空输电线路覆冰预测模型和方法,具体实现该技术方案的方法和途径很多,以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。本实施例中未明确的各组成部分均可用现有技术加以实现。
Claims (2)
1.一种架空输电线路覆冰预测模型,其特征在于,所述模型通过如下步骤构建:
步骤1,从线路在线监测系统中获取覆冰因素数据和覆冰厚度数据,筛选和处理所获取的数据;
步骤2,建立和训练时序卷积神经网络模型,该模型用于预测覆冰因素;
步骤3,建立和训练支持向量回归模型,该模型用于建立覆冰因素与覆冰厚度的回归关系,时序卷积神经网络模型和支持向量回归模型共同组成架空输电线路覆冰预测模型;
步骤1包括:
步骤1-1,从线路在线监测系统中获取覆冰因素数据,所述覆冰因素数据分为时序覆冰因素数据和非时序覆冰因素数据,非时序覆冰因素数据作为常数序列与时序覆冰因素数据合并作为覆冰因素时序数据;
步骤1-2,从线路在线监测系统中获取覆冰厚度数据,覆冰厚度数据的每个样本由覆冰因素向量和覆冰厚度值两项构成,覆冰因素向量为各种覆冰因素的数据值组成,按照覆冰厚度的值将覆冰厚度数据分为不同的组,等概率地随机选一个非空组从中抽出一个样本,重复该操作直至只有覆冰厚度为0的组为非空组,去掉未被抽出的样本,保留所有抽出的样本,使不同程度覆冰厚度的样本之间比例均衡;
步骤1-3,确定时序卷积神经网络模型时间步即时序数据的时间间隔的大小;
步骤1-4,删除获取到的异常数据,填补缺失数据;
步骤1-5,对所有覆冰因素时序数据进行归一化:
步骤1-6,将归一化后的数据进行离散化:
步骤2中,通过如下步骤建立和训练时序卷积神经网络模型:
其中,表示实数集,T是时间序列的长度,n是时间序列输入变量的维数,即卷积的输入通道数,d是空洞系数,k是卷积核大小,符号·表示向量内积运算,f(i)是卷积核的第i个权重向量,xt-di是输入序列的第t-di时间步的输入;
步骤2-2,建立残差块:残差块包含一个残差映射和一个恒等映射,残差块的输出即为两者的和,定义为:
y=F(x,{Wi})+Wsx,
x和y分别表示所在层的输入向量和输出向量,F(x,{Wi})就是深度神经网络的网络层要学习的残差映射,Wi是残差映射F的参数,当输入和输出的维数相等时,Ws是一个单位矩阵,Wsx即为恒等映射,当输入和输出的维数不相等时,Ws是一个参数矩阵,恒等映射被线性映射替代;残差映射F即为空洞因果卷积;
步骤2-3,建立深度神经网络:所述深度神经网络由步骤2-2中所述的残差块堆叠而成,深度神经网络的相邻层之间的关系为:
y[l]=F[l](x[l])
x[l+1]=σ[l](y[l])
其中,l=1,2,…,L,l是当前网络层的层数,L表示网络的深度,x[l]是当前层的输入,x[l +1]为下一层的输入,F[l]是当前层的残差块,y[l]是当前层的输出,σ[l]是当前层的激活函数;深度神经网络的第一层称为输入层,第一层和最后一层之间的网络层称为隐藏层,最后一层称为输出层;
步骤2-4,建立损失函数:使用交叉熵损失函数loss:
步骤2-5,正则化:训练时序卷积神经网络模型时,嵌入脱网Dropout层实现正则化,同时使用了批标准化解决协变漂移问题;
步骤2-6,训练时序卷积神经网络模型时,使用基于梯度下降的优化算法进行优化;
步骤2-3中,输入层和隐藏层的激活函数使用修正线性单元ReLU,输出层的激活函数使用归一化指数函数Softmax;
神经网络的输入层的输入x[1]由覆冰因素时序数据x和掩码矩阵m的元素积与掩码矩阵m合并而成,即:x[1]=[x⊙m,m],其中,运算符⊙表示元素积,掩码矩阵m是一个二值矩阵,其元素与覆冰因素时序数据x的元素一一对应,掩码值1表示对应覆冰因素时序数据的元素有效,而掩码值0表示对应覆冰因素时序数据的元素无效;
神经网络的隐藏层以前一层的输出为输入,然后其输出又作为下一层的输入,最后神经网络的输出层输出下一个时间步覆冰因素概率分布的预测;
步骤2-6中,所述优化算法使用随机梯度下降算法,参数迭代更新方式为:
步骤3包括:
输入覆冰厚度数据的覆冰因素向量xi,覆冰厚度yi,i=1,2,…,n,给定参数C>0和ε>0,支持向量回归模型的原型问题如下:
s.t.yi-wTφ(xi)-b≤ε+ζi,
其中,n为覆冰厚度数据的样本数,w,b是模型参数,C是惩罚系数,ζ,ζ*是松弛变量,ε是损失边界;
上述问题的拉格朗日对偶为:
s.t.eT(α-α*)=0
其中,e为元素全为1的向量,α,α*为所引入的拉格朗日乘子向量,Qij≡K(xi,xj)为核矩阵Q第i行第j列的元素,使用径向基函数RBF核K(xi,xj)=exp(-||xi-xj‖2),γ>0,为核函数的参数,xi,xj分别表示x的第i个元素和第j个元素;
求解上述问题后,覆冰厚度的近似函数为:
2.一种应用权利要求1所述模型的架空输电线路覆冰预测方法,其特征在于,包括:结合时序卷积神经网络模型和支持向量回归模型,使用时序卷积神经网络模型预测覆冰因素,将覆冰因素输入支持向量回归模型,支持向量回归模型输出覆冰厚度预测值。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910370812.8A CN110188397B (zh) | 2019-05-06 | 2019-05-06 | 一种架空输电线路覆冰预测模型和方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910370812.8A CN110188397B (zh) | 2019-05-06 | 2019-05-06 | 一种架空输电线路覆冰预测模型和方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110188397A CN110188397A (zh) | 2019-08-30 |
CN110188397B true CN110188397B (zh) | 2022-07-19 |
Family
ID=67715519
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910370812.8A Active CN110188397B (zh) | 2019-05-06 | 2019-05-06 | 一种架空输电线路覆冰预测模型和方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110188397B (zh) |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110633851B (zh) * | 2019-09-11 | 2022-04-19 | 电子科技大学 | 基于多源数据的输电走廊覆冰预警方法 |
CN110909453A (zh) * | 2019-11-01 | 2020-03-24 | 中国地质大学(武汉) | 一种基于eemd的输电线路覆冰等级预测方法 |
CN111489025B (zh) * | 2020-04-08 | 2024-02-02 | 成都卡普数据服务有限责任公司 | 一种类别失衡的架空输电线路覆冰预测方法 |
CN111551593A (zh) * | 2020-04-23 | 2020-08-18 | 西安工程大学 | 一种基于rbf-nn的绝缘子融冰含水率监测方法 |
CN111458769B (zh) * | 2020-05-26 | 2021-05-28 | 南京大学 | 用于输电线路环境气象数据预测的方法及系统 |
CN112187730A (zh) * | 2020-09-08 | 2021-01-05 | 华东师范大学 | 一种入侵检测系统 |
CN112202722A (zh) * | 2020-09-08 | 2021-01-08 | 华东师范大学 | 一种入侵检测方法 |
CN112183897A (zh) * | 2020-11-02 | 2021-01-05 | 成都卡普数据服务有限责任公司 | 基于深度学习的架空输电线路覆冰厚度的长时间预测方法 |
CN112465035A (zh) * | 2020-11-30 | 2021-03-09 | 上海寻梦信息技术有限公司 | 物流配送任务分配方法、系统、设备及存储介质 |
CN112597629B (zh) * | 2020-12-01 | 2022-11-01 | 中国电建集团江西省电力设计院有限公司 | 导线覆冰有无决策树模型的建立方法及对覆冰有无判定和预测覆冰持续时间的方法 |
CN112949109B (zh) * | 2021-01-26 | 2023-04-07 | 西北核技术研究所 | 基于深度神经网络的架空线电磁脉冲传导环境的预测方法 |
CN112949920B (zh) * | 2021-02-26 | 2023-04-07 | 中国电力工程顾问集团西南电力设计院有限公司 | 一种基于观冰代表站数据的区域覆冰预测及预警方法 |
CN113469268B (zh) * | 2021-07-16 | 2023-03-31 | 云南电网有限责任公司电力科学研究院 | 基于误差统计分析的输电线路杆塔雨量修正方法及装置 |
CN113642234A (zh) * | 2021-08-09 | 2021-11-12 | 贵州电网有限责任公司 | 一种基于多源特征时间卷积深度学习的电网覆冰预测方法 |
CN113723669B (zh) * | 2021-08-09 | 2023-01-06 | 贵州电网有限责任公司 | 一种基于Informer模型的输电线路覆冰预测方法 |
CN114676540B (zh) * | 2022-04-19 | 2024-01-19 | 国网吉林省电力有限公司长春供电公司 | 一种基于多信息融合的架空输电线路覆冰舞动预测方法 |
CN116306893B (zh) * | 2023-05-24 | 2023-07-28 | 华东交通大学 | 一种接触网覆冰预警方法 |
CN116576924A (zh) * | 2023-07-13 | 2023-08-11 | 陕西协成测试技术有限公司 | 一种长距离输电线路的检测报警装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104361414A (zh) * | 2014-11-24 | 2015-02-18 | 武汉大学 | 一种基于相关向量机的输电线路覆冰预测方法 |
CN109492792A (zh) * | 2018-09-28 | 2019-03-19 | 昆明理工大学 | 一种基于粒子群优化小波神经网络输电线路覆冰预测的方法 |
-
2019
- 2019-05-06 CN CN201910370812.8A patent/CN110188397B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104361414A (zh) * | 2014-11-24 | 2015-02-18 | 武汉大学 | 一种基于相关向量机的输电线路覆冰预测方法 |
CN109492792A (zh) * | 2018-09-28 | 2019-03-19 | 昆明理工大学 | 一种基于粒子群优化小波神经网络输电线路覆冰预测的方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110188397A (zh) | 2019-08-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110188397B (zh) | 一种架空输电线路覆冰预测模型和方法 | |
CN110135630B (zh) | 基于随机森林回归和多步寻优的短期负荷需求预测方法 | |
CN110197282B (zh) | 一种基于遗传模糊逻辑树的威胁估计与态势评估方法 | |
CN104216954A (zh) | 突发事件话题状态的预测装置及预测方法 | |
CN110288046A (zh) | 一种基于小波神经网络与隐马尔科夫模型的故障预测方法 | |
CN110969290A (zh) | 一种基于深度学习的径流概率预测方法及系统 | |
CN108133225A (zh) | 一种基于支持向量机的覆冰闪络故障预警方法 | |
CN111178585A (zh) | 基于多算法模型融合的故障接报量预测方法 | |
CN111611744B (zh) | 基于循环卷积网络及变分推理的滚动轴承寿命预测方法 | |
CN109471698B (zh) | 云环境下虚拟机异常行为检测系统和方法 | |
CN111160626B (zh) | 一种基于分解融合的电力负荷时间序列控制方法 | |
CN112308281A (zh) | 一种温度信息预测方法及装置 | |
CN113657814B (zh) | 一种航空网络风险预测方法及风险等级评估方法 | |
Yang et al. | Remaining useful life prediction based on normalizing flow embedded sequence-to-sequence learning | |
CN112085869A (zh) | 一种基于飞参数据的民机飞行安全性分析方法 | |
CN114358389A (zh) | 结合vmd分解和时间卷积网络的短期电力负荷预测方法 | |
CN112217674A (zh) | 基于因果网络挖掘和图注意力网络的告警根因识别方法 | |
CN115186923A (zh) | 光伏发电功率的预测方法、装置及电子设备 | |
CN113758652B (zh) | 换流变压器漏油检测方法、装置、计算机设备和存储介质 | |
CN111539842A (zh) | 基于气象和地理环境的架空输电线路覆冰预测方法 | |
CN116451608A (zh) | 一种复杂地形的混合风功率预测方法及装置 | |
CN106548259B (zh) | 完全截断数据条件下旋转机械健康状态预测的几何方法 | |
CN108509537A (zh) | 一种输电线路舞动概率预报系统及方法 | |
CN114565004A (zh) | 一种风电机组功率曲线异常散点剔除方法及装置 | |
Zhu et al. | Prediction of air quality index based on wavelet transform combination model |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |