CN112684284A - 将注意力机制与深度学习融合的电压暂降扰动源定位方法 - Google Patents

将注意力机制与深度学习融合的电压暂降扰动源定位方法 Download PDF

Info

Publication number
CN112684284A
CN112684284A CN202011374314.XA CN202011374314A CN112684284A CN 112684284 A CN112684284 A CN 112684284A CN 202011374314 A CN202011374314 A CN 202011374314A CN 112684284 A CN112684284 A CN 112684284A
Authority
CN
China
Prior art keywords
data
attention mechanism
voltage sag
layer
neural network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011374314.XA
Other languages
English (en)
Inventor
邓亚平
贾颢
邱晓东
王璐
同向前
林邵杰
郑定坤
张楠
张亮
殷珩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xian University of Technology
Original Assignee
Xian University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xian University of Technology filed Critical Xian University of Technology
Priority to CN202011374314.XA priority Critical patent/CN112684284A/zh
Publication of CN112684284A publication Critical patent/CN112684284A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

本发明公开了一种将注意力机制与深度学习融合的电压暂降扰动源定位方法,可以直接从原始的监测数据中自主学习由电动机启动、变压器投切、短路故障(含单相短路故障、两相短路故障、三相短路故障)原因引起的电压暂降所对应的特征信息,能够最大程度上保证了电压暂降信息的完整性,避免了繁琐手工特征提取过程,提高了电压暂降扰动源的定位准确率。

Description

将注意力机制与深度学习融合的电压暂降扰动源定位方法
技术领域
本发明属于电能质量分析与检测方法技术领域,涉及一种将注意力机制与深度学习融合的电压暂降扰动源定位方法。
背景技术
随着敏感负荷越来越多地接入到电网中,电压暂降的已成为一种最突出的电能质量问题。电压暂降不仅会带来严重的经济损失还可能造成一定的社会影响。因此,准确定位电压暂降扰动源,是进行事件责任划分及采取有效应对措施的重要手段和前提基础,具有重要的理论价值和现实意义。
目前,关于电压暂降扰动源定位问题的一种研究主要采用的是基于物理模型的方法,即通过建立数学模型,分析电压、电流信号在电压暂降发生前与发生后的电压、电流、功率或阻抗的变化量,进而根据变化量的幅值大小和方向进行电压暂降扰动源的定位。这类方法主要有扰动功率法、扰动能量法、扰动有功电流法、阻抗实部法等,其存在以下共性问题:
(1)仅实现了对电压暂降扰动源的上下游的定位,根本无法定位电压暂降扰动源在整体电网中的具体位置;
(2)仅适用于单辐射网络,无法实现网络结构复杂的电网中电压暂降扰动源定位。
关于电压暂降扰动源定位问题的另一种研究主要采用的是基于浅层学习的方法,即通过对整体电网中多个监测装置测量得到的电压、电流信号进行变换或重构后提取信号特征量,进而基于分类、优化等数学算法实现电压暂降源的定位。这类方法主要存在如下缺点:
(1)选取哪些特征量及选取方法均须深入理解信号特性或者依据专家先验知识去尝试,且定位准确率严重依赖于人工事先设计的扰动特征量;
(2)针对由电动机启动和变压器投切引起的电压暂降,单纯提取它们的幅值与频率特征已经不能很好地对它们进行反映,导致定位准确率低。
发明内容
本发明的目的是提供一种将注意力机制与深度学习融合的电压暂降扰动源定位方法,解决了现有定位方法中存在的定位准确率低,且根本无法对由电动机启动和变压器投切引起的电压暂降源进行精准定位的缺点问题。
本发明所采用的技术方案是,一种将注意力机制与深度学习融合的电压暂降扰动源定位方法,具体包括如下步骤:
步骤1,针对待检测的电力系统网络,对网络中的支路进行编号,在每条支路发生电动机启动、变压器投切、短路故障原因引起的各类电压暂降时,获得监测数据;
步骤2,计算经步骤1采集到数据的电压均方根值,若只要存在任意一个监测数据的电压均方根值下降至额定值的90%~10%,则将其保留,构成一组电压暂降数据样本;否则将其从经步骤1采集到的数据中踢除;
步骤3,将经步骤2处理后得到的每组电压暂降数据样本,依次分别标注其所对应的支路编号;
步骤4,将经步骤3标注后的数据样本分为训练集和测试集,采用随机抽样的方式,抽取其中80%的数据样本作为训练集,其余20%的数据样本作为测试集;
步骤5,构建注意力机制与独立循环神经网络融合的模型结构;
步骤6,将经步骤5构建完成的注意力机制与独立循环神经网络融合模型进行训练;
步骤7,对步骤6训练后的模型进行过拟合判断,获取泛化性好的注意力机制与独立循环神经网络融合模型;
步骤8,使用经步骤7所得的注意力机制与独立循环神经网络融合模型进行电压暂降扰动源定位,输入数据为步骤1所得的监测数据,输出数据为步骤1中的电压暂降扰动源所处的网络支路编号。
本发明的特点还在于,
步骤2的具体过程为:
根据如下公式(1)计算经步骤1采集到数据的电压均方根值:
Figure BDA0002807779330000031
其中,N为每个周期采集的数据点数,x1,x2,x3,……,xN依次为每个采样数据点所对应的数据。
步骤5的具体过程为:
注意力机制与独立循环神经网络融合模型包括四部分,即由下到上依次连接的输入层部分、隐含层部分、注意力层部分、输出层部分;
第一部分为输入层部分,仅包含一个输入层;第二部分为隐含层部分,包含多个隐含层,每一个隐含层中都含有独立循环神经网络层、批规范化层;第三部分为注意力层部分,仅包含一个注意力层;第四部分为输出层部分,包含全连接层、Softmax层;
除第一层输入层外其余神经网络层均通过激活函数与前一层神经网络层连接。
输入层,是整体模型的接口处,负责对监测数据进行预处理,采用式(2)所示的最大-最小规范化方法获得检测数据:
Figure BDA0002807779330000041
其中,x为监测数据采集值,x*为处理后的监测数据,xmin为监测数据最小值,xmax为监测数据最大值。
隐含层中的独立循环神经网络如式(3)所示:
ht=σ(Wxt+U⊙ht-1+b) (3);
其中,⊙表示Hadamard算子,实现权重向量U与h中的元素对应单独相乘,运算得到的矩阵与原矩阵维度相同;W、U为权重向量,ht-1为上一时刻的输出,ht为当前时刻的输出,b为偏置向量,σ为激活函数。
隐含层中的批规范化的表示如式(4)~式(7)所示:
Figure BDA0002807779330000042
Figure BDA0002807779330000043
Figure BDA0002807779330000044
Figure BDA0002807779330000045
其中,xt为输入数据,μβ为输入数据的平均值,σβ 2为入输数据的方差,缩放参数γ和移动参数β为待优化参数;yi即为输入数据经过批规范化后的输出,ε为平滑参数,T为一批运算中所包含的数据样本的数量;
Figure BDA0002807779330000046
为归一化后的数据;yi为输入数据经过变换后的输出量。
步骤6的具体过程为:
训练过程中,每次训练遍历训练集中的每一个训练数据,每次遍历被称为一个世代,使网络模型进行多个世代训练,直至式(8)所示损失值loss达到期望值后,即得到训练完成的注意力机制与独立循环神经网络融合模型:
Figure BDA0002807779330000051
其中,Oi为真实值,即步骤3中电压暂降扰动源在整个电网中所处支路编号的实际标注向量,
Figure BDA0002807779330000052
表示由模型计算所得的电压暂降扰动源在整个电网中所处支路的编号值。
步骤7的具体过程为:
使用经步骤6训练完成后的注意力机制与独立循环神经网络融合模型,用测试集中的80%数据来进行测试,得到式(9)所示的准确率,然后用剩余20%的测试集数据进行测试,若此时的准确率下降超过3%,则出现过拟合现象,需要重新调整注意力机制与独立循环神经网络融合模型的超参数、更改每层的神经元数量、修改正则化系数;然后,按照步骤6重新进行模型训练,且训练后再次进行过拟合判断,如此循环,直至未出现过拟合,从而得到泛化性好的注意力机制与独立循环神经网络融合模型;
Figure BDA0002807779330000053
本发明的有益效果如下:
(1)本发明可以直接从原始的监测数据中自主学习由电动机启动、变压器投切、短路故障(含单相短路故障、两相短路故障、三相短路故障)原因引起的电压暂降所对应的特征信息,能够最大程度上保证了电压暂降信息的完整性,避免了繁琐手工特征提取过程,提高了电压暂降扰动源的定位准确率。
(2)无需事先对噪声或信号采集误差作任何假设或处理,具有更强的抗背景噪声干扰能力与鲁棒性。
(3)注意力机制与深度学习的融合,其在特征提取的过程中不仅会提取到反映电压暂降信号的本质特征,还会赋予所获得的电压暂降信号特征量不同的注意力权值,从而加强对有利于电压暂降扰动定位的重点信息的关注,提高电压暂降扰动源定位的准确率。
附图说明
图1是本发明将注意力机制与深度学习融合的电压暂降扰动源定位方法中构建注意力机制与独立循环神经网络融合的模型结构的流程图;
图2是本发明将注意力机制与深度学习融合的电压暂降扰动源定位方法实施例中IEEE39节点的系统结构图。
具体实施方式
下面结合附图和具体实施方式对本发明进行详细说明。
本发明将注意力机制与深度学习融合的电压暂降扰动源定位方法,具体按照以下步骤实施:
步骤1,针对待检测的电力系统网络,对网络中的支路进行编号,在每条支路发生电动机启动、变压器投切、短路故障(含单相短路故障、两相短路故障、三相短路故障)原因引起的各类电压暂降时,获得监测数据。具体监测数据的获取可以有两种途径,一是利用电能质量监测设备或者其余测量仪器采集数据并收集所有设备所获得的数据;二是利用仿真软件,建立仿真模型,通过仿真获得数据。数据收集过程中应遵循以下原则:a、采集到的数据必须包含由电动机启动、变压器投切、短路故障(含单相短路故障、两相短路故障、三相短路故障)原因引起的各类电压暂降所对应的工况;b、无需获取系统参数、结构;c、每组电压暂降发生时,需要明确其所对应的支路编号;
步骤2,按照式(1),计算经步骤1采集到数据的电压均方根值,若只要存在任意一个监测数据的电压均方根值下降至额定值的90%~10%,则将其保留,构成一组电压暂降数据样本;否则将其从经步骤1采集到的数据中踢除;
Figure BDA0002807779330000071
其中,N为每个周期采集的数据点数,x1,x2,x3,……,xN依次为每个采样数据点所对应的数据。
步骤3,样本标注;
将经步骤2处理后得到的每组电压暂降数据样本,依次分别标注其所对应的支路编号;
步骤4,将经步骤3标注后的数据样本分为训练集和测试集,采用随机抽样的方式,抽取其中80%的数据样本作为训练集,其余20%的数据样本作为测试集;
步骤5,构建注意力机制与独立循环神经网络融合的模型结构。如附图1所示,整体模型结构其中可以划分为四个部分,即由下到上依次连接的输入层部分、隐含层部分、注意力层部分、输出层部分。其中,第一部分为输入层部分,仅包含一个输入层;第二部分为隐含层部分,包含多个隐含层,每一个隐含层中都含有独立循环神经网络层、批规范化层;第三部分为注意力层部分,仅包含一个注意力层;第四部分为输出层部分,包含全连接层、Softmax层。除第一层输入层外其余神经网络层均通过激活函数与前一层神经网络层连接。例如:使用一层输入层,使用八层隐含层,隐含层依次为独立循环神经网络层,批规范化层,独立循环神经网络层,批规范化层,独立循环神经网络层,批规范化层,独立循环神经网络层,批规范化层;之后为一层注意力层部分;最后为输出层部分,包含全连接层、批规范化层、Softmax层。
输入层,是整体模型的接口处,负责对监测数据进行预处理,如采用式(2)所示的最大-最小规范化方法:
Figure BDA0002807779330000081
其中,x为监测数据采集值,x*为处理后的监测数据,xmin为监测数据最小值,xmax为监测数据最大值。
所述隐含层中的独立循环神经网络的表示如式(3)所示:
ht=σ(Wxt+U⊙ht-1+b) (3);
其中,⊙表示Hadamard算子,可实现两个维度相同的矩阵相同位置处的元素相乘,实现权重向量U与h中的元素对应单独相乘,运算得到的矩阵与原矩阵维度相同;W、U为权重向量,ht-1为上一时刻的输出,ht为当前时刻的输出,b为偏置向量,σ为激活函数。
隐含层中的批规范化的表示如式(4)~(7)所示:
Figure BDA0002807779330000091
Figure BDA0002807779330000092
Figure BDA0002807779330000093
Figure BDA0002807779330000094
其中,xt为输入数据,μβ为输入数据的平均值,σβ 2为输入数据的方差,缩放参数γ和移动参数β为待优化参数,在训练的过程中会对其进行优化;yi即为输入数据经过批规范化后的输出。ε为平滑参数,是为避免被0除而引入的微小正数,通常取为10-3。T为一批运算中所包含的数据样本的数量。
Figure BDA0002807779330000095
为归一化后的数据。yi为输入数据经过变换后的输出量。
步骤6,将经步骤5构建完成的注意力机制与独立循环神经网络融合模型进行训练,且模型中的权重参数采用随机初始化的方式。训练过程中,每次训练遍历训练集中的每一个训练数据,每次遍历被称为一个世代,使网络模型进行多个世代训练,直至式(8)所示损失值loss达到期望值。即经过若干个世代,得到训练完成的注意力机制与独立循环神经网络融合模型。
Figure BDA0002807779330000096
其中,Oi为真实值,即步骤3中电压暂降扰动源在整个电网中所处支路编号的实际标注向量,
Figure BDA0002807779330000097
表示由模型计算所得的电压暂降扰动源在整个电网中所处支路的编号值。
步骤7,过拟合判断
使用经步骤6训练完成后的注意力机制与独立循环神经网络融合模型,用测试集中的80%数据来进行测试,得到式(9)所示的准确率,然后用剩余20%的测试集数据进行测试,若此时的准确率大幅下降超过3%,则出现过拟合现象,则需要重新调整注意力机制与独立循环神经网络融合模型的超参数,譬如修更改全连接层数量、修改学习率、调整隐含层数量(如减少独立循环神经网络层)、更改每层的神经元数量、修改正则化系数等。然后,按照步骤6重新进行模型训练,且训练后再次执行步骤7所述的过拟合判断,如此循环,直至未出现过拟合,从而得到泛化性好的注意力机制与独立循环神经网络融合模型;
Figure BDA0002807779330000101
步骤8,使用经步骤7再次训练好的注意力机制与独立循环神经网络融合模型进行电压暂降扰动源定位,输入数据为步骤1所述的监测数据,输出数据为电压暂降扰动源的定位结果,即步骤1所述的电压暂降扰动源所处的网络支路编号。
实施例
基于注意力机制与独立循环神经网络深度学习融合模型的电压暂降扰动源定位方法,具体按照以下步骤实施:
步骤1,针对本例中附图2所示的待检测的电力系统网络IEEE39节点系统,共有34条线路,故对网络中的支路依次进行编号1~34。本实施例采用Matlab仿真软件,在每条支路发生电动机启动、变压器投切、短路故障(含单相短路故障、两相短路故障、三相短路故障)原因引起的各类电压暂降时,获得监测点3,8,24,38四个监测点处的监测数据。数据收集过程中应遵循以下原则:a、采集到的数据必须包含由电动机启动、变压器投切、短路故障(含单相短路故障、两相短路故障、三相短路故障)原因引起的各类电压暂降所对应的工况;b、无需获取系统参数、结构;c、每组电压暂降发生时,需要明确其所对应的支路编号;
步骤2,依据式(1),计算经步骤1采集到3,8,24,38四个监测点处的电压均方根值,若四个监测点中只要存在任意一个监测点的电压均方根值下降至额定值的90%~10%,则将其保留,构成一组电压暂降数据样本;否则将其从经步骤1采集到的数据中踢除;
Figure BDA0002807779330000111
其中,N为每个周期采集的数据点数,x1,x2,x3,……,xN依次为每个采样数据点所对应的数据。
步骤3,样本标注
将经步骤2处理后得到的每组电压暂降数据样本,依次分别标注其所对应的支路编号;
步骤4,将经步骤3标注后的数据样本分为训练集和测试集,采用随机抽样的方式,抽取其中80%的数据样本作为训练集,其余20%的数据样本作为测试集;
步骤5,构建注意力机制与独立循环神经网络融合的模型结构。如附图1所示,整体模型结构其中可以划分为四个部分,即由下到上依次连接的输入层部分、隐含层部分、注意力层部分、输出层部分。其中,第一部分为输入层部分,仅包含一个输入层;第二部分为隐含层部分,包含多个隐含层,每一个隐含层中都含有独立循环神经网络层、批规范化层;第三部分为注意力层部分,仅包含一个注意力层;第四部分为输出层部分,包含全连接层、Softmax层。通过训练后的注意力机制与独立循环神经网络融合模型通过最后一层Softmax层来输出电压暂降扰动源的定位结果。除第一层输入层外其余神经网络层均通过激活函数与前一层神经网络层连接。本例中,使用一层输入层,使用八层隐含层,隐含层依次为独立循环神经网络层,批规范化层,独立循环神经网络层,批规范化层,独立循环神经网络层,批规范化层,独立循环神经网络层,批规范化层;之后为一层注意力层部分;最后为输出层部分,包含全连接层、批规范化层、Softmax层。
输入层,是整体模型的接口处,负责对监测数据进行预处理,如采用式(2)所示的最大-最小规范化方法:
Figure BDA0002807779330000121
其中,x为监测数据采集值,x*为处理后的监测数据,xmin为监测数据最小值,xmax为监测数据最大值。
隐含层中的每层独立循环神经网络的表示如式(3)所示,本例中,共设置8层独立循环神经网络,每层独立循环神经网络单元层设置为512个隐含单元。
ht=σ(Wxt+U⊙ht-1+b)(3)
其中,⊙表示Hadamard算子,可实现两个维度相同的矩阵相同位置处的元素相乘,实现权重向量U与h中的元素对应单独相乘,运算得到的矩阵与原矩阵维度相同;W、U为权重向量,ht-1为上一时刻的输出,ht为当前时刻的输出,b为偏置向量。σ为激活函数。
隐含层中的批规范化的表示如式(4)~式(7)所示:
Figure BDA0002807779330000131
Figure BDA0002807779330000132
Figure BDA0002807779330000133
Figure BDA0002807779330000134
其中,xt为输入数据,μβ为输入数据的平均值,σβ 2为输入数据的方差,缩放参数γ和移动参数β为待优化参数,在训练的过程中会对其进行优化;yi即为输入数据经过批规范化后的输出。ε为平滑参数,是为避免被0除而引入的微小正数,通常取为10-3。T为一批运算中所包含的数据样本的数量。
Figure BDA0002807779330000135
为归一化后的数据。yi为输入数据经过变换后的输出量。
输出层的输出结果为与输入监测数据相对应的电压暂降扰动源在整个电网中的支路编号。
步骤6,将经步骤5构建完成的注意力机制与独立循环神经网络融合模型进行训练,且模型中的权重参数采用随机初始化的方式。训练过程中,每次训练遍历训练集中的每一个训练数据,每次遍历被称为一个世代,使网络模型进行多个世代训练,直至式(8)所示损失值loss达到期望值。即经过若干个世代,得到训练完成的注意力机制与独立循环神经网络融合模型。
Figure BDA0002807779330000136
其中,Oi为真实值,即步骤3中电压暂降扰动源在整个电网中所处支路编号的实际标注向量,
Figure BDA0002807779330000137
表示由模型计算所得的电压暂降扰动源在整个电网中所处支路的编号值。
训练过程中,每次训练遍历训练集中的每一个训练数据,每次遍历被称为一个世代,使网络模型进行多个世代训练,即经过若干个世代,得到训练完成的注意力机制与独立循环神经网络融合模型。本例中,使用全局随机初始化的方式来进行参数初始化,使用亚当优化器训练或Momentum优化器或SGD优化器,训练5000个世代,学习率为0.00015。
步骤7,过拟合判断
使用经步骤6训练完成后的注意力机制与独立循环神经网络融合模型,用测试集中的80%数据来进行测试,得到式(9)所示的准确率,然后用剩余20%的测试集数据进行测试,若此时的准确率大幅下降超过3%,则出现过拟合现象,则需要重新调整注意力机制与独立循环神经网络融合模型的超参数,譬如修更改全连接层数量、修改学习率、调整隐含层数量(如减少独立循环神经网络层)、更改每层的神经元数量、修改正则化系数等。。然后按照步骤6重新进行模型训练,且训练后再次执行步骤7所述的过拟合判断,如此循环,直至未出现过拟合,从而得到泛化性好的注意力机制与独立循环神经网络融合模型;
Figure BDA0002807779330000141
步骤8,使用经步骤7最终训练完成的注意力机制与独立循环神经网络融合模型进行电压暂降扰动源定位,输入数据为步骤1所述的监测数据,输出数据为电压暂降扰动源的定位结果,即步骤1所述的电压暂降扰动源所处的网络支路编号。
本发明的网络模型中隐含层数量可以进行修改,增加或减少独立循环神经网络层、全连接层以及全连接层单元数量。
本发明中除第一层输入层外其余神经网络层均通过激活函数与前一层神经网络层连接,其中激活函数可以为ReLU或Leaky Relu或Sigmoid或tanh作为激活函数。
本发明中神经网络超参数可以根据实际情况进行调整,如训练世代的数量、学习率、输入监测数据长度及迭代次数。
本实施例基于IEEE39系统,以下给出电压暂降源的定位以证明本发明提出方法的检测效果。以下分别记录统计了模型训练过程中的训练准确率,测试准确率,损失值(loss)。表1为模型训练过程中的统计信息,结果表明随着训练世代数目的增加,训练准确率在逐步提高,损失值在逐渐下降。表2为模型训练完成后的统计信息,结果表明随着训练世代数目的增加,损失值在逐渐下降,且表明经过有效训练后的模型可在测试集上实现100%的定位准确率。表3为注意力机制与独立循环神经网络融合模型与单一独立循环神经网络模型的对比结果。结果表明,注意力机制与独立循环神经网络融合模型可以提高定位准确率,加速模型的训练效率,即模型可以实现100%的定位准确率且训练时间缩短。
1训练过程中信息统计
世代数目 训练准确率 测试准确率 损失值
1 93.43% 95.14% 0.34206
40 100% 100% 0.00730
80 100% 100% 0.00072
120 100% 100% 0.00038
160 100% 100% 0.00016
260 100% 100% 1.2e-6
表2训练完成后的信息统计
名称 时间或世代数目
每个世代花费时间 24.8s
loss到达10e-1数量级的世代 1世代
loss到达10e-2数量级的世代 4世代
loss到达10e-3数量级的世代 29世代
loss到达10e-4数量级的世代 79世代
loss到达10e-5数量级的世代 171世代
loss到达10e-6数量级的世代 187世代
loss到达10e-7数量级的世代 264世代
使用测试集测试准确率 100%
到达最高准确率世代数目 105世代
最高准确率所用时长 43.4min
表3注意力机制与独立循环神经网络融合模型与单一独立循环神经网络模型的对比结果
Figure BDA0002807779330000171

Claims (7)

1.一种将注意力机制与深度学习融合的电压暂降扰动源定位方法,其特征在于:具体包括如下步骤:
步骤1,针对待检测的电力系统网络,对网络中的支路进行编号,在每条支路发生电动机启动、变压器投切、短路故障原因引起的各类电压暂降时,获得监测数据;
步骤2,计算经步骤1采集到数据的电压均方根值,若只要存在任意一个监测数据的电压均方根值下降至额定值的90%~10%,则将其保留,构成一组电压暂降数据样本;否则将其从经步骤1采集到的数据中踢除;
步骤3,将经步骤2处理后得到的每组电压暂降数据样本,依次分别标注其所对应的支路编号;
步骤4,将经步骤3标注后的数据样本分为训练集和测试集,采用随机抽样的方式,抽取其中80%的数据样本作为训练集,其余20%的数据样本作为测试集;
步骤5,构建注意力机制与独立循环神经网络融合的模型结构;
步骤6,将经步骤5构建完成的注意力机制与独立循环神经网络融合模型进行训练;
步骤7,对步骤6训练后的模型进行过拟合判断,获取泛化性好的注意力机制与独立循环神经网络融合模型;
步骤8,使用经步骤7所得的注意力机制与独立循环神经网络融合模型进行电压暂降扰动源定位,输入数据为步骤1所得的监测数据,输出数据为步骤1中的电压暂降扰动源所处的网络支路编号。
2.根据权利要求1所述的将注意力机制与深度学习融合的电压暂降扰动源定位方法,其特征在于:所述步骤2的具体过程为:
根据如下公式(1)计算经步骤1采集到数据的电压均方根值:
Figure FDA0002807779320000021
其中,N为每个周期采集的数据点数,x1,x2,x3,……,xN依次为每个采样数据点所对应的数据。
3.根据权利要求1所述的将注意力机制与深度学习融合的电压暂降扰动源定位方法,其特征在于:所述步骤5的具体过程为:
所述注意力机制与独立循环神经网络融合模型包括四部分,即由下到上依次连接的输入层部分、隐含层部分、注意力层部分、输出层部分;
第一部分为输入层部分,仅包含一个输入层;第二部分为隐含层部分,包含多个隐含层,每一个隐含层中都含有独立循环神经网络层、批规范化层;第三部分为注意力层部分,仅包含一个注意力层;第四部分为输出层部分,包含全连接层、Softmax层;
除第一层输入层外其余神经网络层均通过激活函数与前一层神经网络层连接。
4.根据权利要求3所述的将注意力机制与深度学习融合的电压暂降扰动源定位方法,其特征在于:所述输入层,是整体模型的接口处,负责对监测数据进行预处理,采用式(2)所示的最大-最小规范化方法获得检测数据:
Figure FDA0002807779320000022
其中,x为监测数据采集值,x*为处理后的监测数据,xmin为监测数据最小值,xmax为监测数据最大值。
5.根据权利要求4所述的将注意力机制与深度学习融合的电压暂降扰动源定位方法,其特征在于:所述隐含层中的独立循环神经网络如式(3)所示:
ht=σ(Wxt+U⊙ht-1+b) (3);
其中,⊙表示Hadamard算子,实现权重向量U与h中的元素对应单独相乘,运算得到的矩阵与原矩阵维度相同;W、U为权重向量,ht-1为上一时刻的输出,ht为当前时刻的输出,b为偏置向量,σ为激活函数。
所述隐含层中的批规范化的表示如式(4)~式(7)所示:
Figure FDA0002807779320000031
Figure FDA0002807779320000032
Figure FDA0002807779320000033
Figure FDA0002807779320000034
其中,xt为输入数据,μβ为输入数据的平均值,σβ 2为入输数据的方差,缩放参数γ和移动参数β为待优化参数;yi即为输入数据经过批规范化后的输出,ε为平滑参数,T为一批运算中所包含的数据样本的数量;
Figure FDA0002807779320000035
为归一化后的数据;yi为输入数据经过变换后的输出量。
6.根据权利要求5所述的将注意力机制与深度学习融合的电压暂降扰动源定位方法,其特征在于:所述步骤6的具体过程为:
训练过程中,每次训练遍历训练集中的每一个训练数据,每次遍历被称为一个世代,使网络模型进行多个世代训练,直至式(8)所示损失值loss达到期望值后,即得到训练完成的注意力机制与独立循环神经网络融合模型:
Figure FDA0002807779320000041
其中,Oi为真实值,即步骤3中电压暂降扰动源在整个电网中所处支路编号的实际标注向量,
Figure FDA0002807779320000042
表示由模型计算所得的电压暂降扰动源在整个电网中所处支路的编号值。
7.根据权利要求6所述的将注意力机制与深度学习融合的电压暂降扰动源定位方法,其特征在于:所述步骤7的具体过程为:
使用经步骤6训练完成后的注意力机制与独立循环神经网络融合模型,用测试集中的80%数据来进行测试,得到式(9)所示的准确率,然后用剩余20%的测试集数据进行测试,若此时的准确率下降超过3%,则出现过拟合现象,则需要重新调整注意力机制与独立循环神经网络融合模型的超参数、更改每层的神经元数量、修改正则化系数;然后,按照步骤6重新进行模型训练,且训练后再次进行过拟合判断,如此循环,直至未出现过拟合,从而得到泛化性好的注意力机制与独立循环神经网络融合模型;
Figure FDA0002807779320000043
CN202011374314.XA 2020-11-30 2020-11-30 将注意力机制与深度学习融合的电压暂降扰动源定位方法 Pending CN112684284A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011374314.XA CN112684284A (zh) 2020-11-30 2020-11-30 将注意力机制与深度学习融合的电压暂降扰动源定位方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011374314.XA CN112684284A (zh) 2020-11-30 2020-11-30 将注意力机制与深度学习融合的电压暂降扰动源定位方法

Publications (1)

Publication Number Publication Date
CN112684284A true CN112684284A (zh) 2021-04-20

Family

ID=75446916

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011374314.XA Pending CN112684284A (zh) 2020-11-30 2020-11-30 将注意力机制与深度学习融合的电压暂降扰动源定位方法

Country Status (1)

Country Link
CN (1) CN112684284A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114626957A (zh) * 2022-01-28 2022-06-14 西安理工大学 基于门控循环单元深度学习模型的电压暂降状态评估方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109766853A (zh) * 2019-01-16 2019-05-17 华北电力大学 基于lstm的电压暂降扰动分类方法
CN109784276A (zh) * 2019-01-16 2019-05-21 东南大学 一种基于dbn的电压暂降特征提取与暂降源辨识方法
CN109903557A (zh) * 2019-03-04 2019-06-18 南京邮电大学 基于改进独立循环神经网络的高速公路交通流预测方法
CN110222826A (zh) * 2019-06-11 2019-09-10 上海海事大学 一种基于改进的EEMD-IndRNN船舶流量预测方法
CN110503200A (zh) * 2019-08-22 2019-11-26 国网山东省电力公司德州供电公司 一种基于综合判据和神经网络的电压暂降源定位方法
CN209784471U (zh) * 2018-12-29 2019-12-13 郑州大学 一种改进型电压暂降定位及检测装置
CN110672905A (zh) * 2019-09-16 2020-01-10 东南大学 基于cnn的自监督电压暂降源辨识方法
CN111650472A (zh) * 2020-06-05 2020-09-11 众诚开源电气科技(成都)有限公司 一种电压暂降源定位的方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN209784471U (zh) * 2018-12-29 2019-12-13 郑州大学 一种改进型电压暂降定位及检测装置
CN109766853A (zh) * 2019-01-16 2019-05-17 华北电力大学 基于lstm的电压暂降扰动分类方法
CN109784276A (zh) * 2019-01-16 2019-05-21 东南大学 一种基于dbn的电压暂降特征提取与暂降源辨识方法
CN109903557A (zh) * 2019-03-04 2019-06-18 南京邮电大学 基于改进独立循环神经网络的高速公路交通流预测方法
CN110222826A (zh) * 2019-06-11 2019-09-10 上海海事大学 一种基于改进的EEMD-IndRNN船舶流量预测方法
CN110503200A (zh) * 2019-08-22 2019-11-26 国网山东省电力公司德州供电公司 一种基于综合判据和神经网络的电压暂降源定位方法
CN110672905A (zh) * 2019-09-16 2020-01-10 东南大学 基于cnn的自监督电压暂降源辨识方法
CN111650472A (zh) * 2020-06-05 2020-09-11 众诚开源电气科技(成都)有限公司 一种电压暂降源定位的方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
SHUAI LI 等: "Deep Independently Recurrent Neural Networ k", 《ARXIV COMPUTER SCIENCE - COMPUTER VISION AND PATTERN RECOGNITION》 *
WILSON LEAL RODRIGUES JUNIOR 等: "Localization of Voltage Sag Sources Using Convolutional Neural Network in IEEE 34-bus System", 《2020 IEEE INTERNATIONAL CONFERENCE ON SYSTEMS, MAN, AND CYBERNETICS (SMC)》 *
杨明极 等: "注意力机制与改进RNN的混合音乐推荐算法研究", 《小型微型计算机系统》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114626957A (zh) * 2022-01-28 2022-06-14 西安理工大学 基于门控循环单元深度学习模型的电压暂降状态评估方法
CN114626957B (zh) * 2022-01-28 2024-10-18 西安理工大学 基于门控循环单元深度学习模型的电压暂降状态评估方法

Similar Documents

Publication Publication Date Title
Cui et al. Deep learning-based time-varying parameter identification for system-wide load modeling
CN107894564B (zh) 一种基于交叉小波特征的模拟电路故障诊断方法
CN109670553B (zh) 基于自适应神经模糊推理系统的光伏阵列故障诊断方法
CN111475909B (zh) 一种基于长短期记忆网络的风电机组出力相关性映射建模方法
CN110705456A (zh) 一种基于迁移学习的微型电机异常检测方法
CN108535635A (zh) 一种基于eemd和hmm的模拟电路间歇故障诊断方法
CN113804997B (zh) 基于双向WaveNet深度学习的电压暂降源定位方法
CN112180204A (zh) 一种基于电气量信息的电网线路故障诊断方法
CN115481666B (zh) 一种齿轮箱小样本故障诊断方法、系统及设备
CN105787219B (zh) 一种利用临近频点采样建立传导干扰耦合通道多元线性回归模型的方法
CN103530819A (zh) 并网型光伏电站发电系统的输出功率的测定方法及设备
CN112147474A (zh) Xlpe电力电缆典型缺陷局部放电类型识别系统及方法
CN113514743B (zh) 一种基于多维特征的gis局部放电模式识别系统构建方法
CN113866552B (zh) 一种基于机器学习的中压配网用户用电异常诊断方法
CN116707331B (zh) 基于模型预测的逆变器输出电压高精度调节方法及系统
CN113850320A (zh) 基于改进支持向量机回归算法的变压器故障检测方法
CN112684284A (zh) 将注意力机制与深度学习融合的电压暂降扰动源定位方法
CN115840119A (zh) 利用数据库样本的电力电缆线路劣化诊断系统及方法
CN114021424B (zh) 一种基于pca-cnn-lvq的电压暂降源识别方法
CN113361782B (zh) 基于改进mkpls的光伏发电功率短期滚动预测方法
CN117708707B (zh) 大数据下台区线损率异常智能预警方法和系统
CN114626957B (zh) 基于门控循环单元深度学习模型的电压暂降状态评估方法
CN115128410B (zh) 一种基于tpa-lstm的直流电缆局部放电故障模式识别方法
CN117077546A (zh) 基于数据驱动的电力系统负荷建模方法及其系统
CN113537573B (zh) 基于双重时空特征提取的风电功率运行趋势预测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20210420