CN108664950A - 一种基于深度学习的电能质量扰动识别与分类方法 - Google Patents

Abstract

本发明公开了一种基于深度学习的电能质量扰动识别与分类方法，包括如下步骤：1)构建电能质量扰动模型，生成训练集；2)构建深度神经网络；3)利训练集对深度神经网络进行训练；4)验证深度神经网络的性能；该基于深度学习的电能质量扰动识别与分类方法将传统方法中信号分析、特征选择、分类器构建三部分内容合而为一，通过深度神经网络的训练解决这三个问题，从而避免了信号分析中计算量大，对噪声敏感等问题，克服了人工特征选择步骤繁琐、鲁棒性差的缺点，有利于更准确迅速地发现电能质量问题所属类别。

Description

一种基于深度学习的电能质量扰动识别与分类方法

技术领域

本发明涉及电能质量分析技术领域，特别涉及一种基于深度学习的电能质量扰动识别与分类方法。

背景技术

近年来，电能质量问题日益突出，引起了供电部门和广大电力用户的普遍重视，研究影响电能质量的各种因素，及时发现引起电能质量下降的各种问题，并对这些问题实现有效分类，对最终解决电能质量问题既十分必要，也具有重大的现实意义。

传统的电能质量分析方法包括两个步骤，首先通过傅里叶变换、短时傅里叶变换、小波变换、dq变换、S变换等数字信号处理方法，对电能质量扰动进行特征提取，然后通过人工神经网络、支持向量机、决策树等方法对电能质量扰动进行分类。

现有技术存在以下问题：已有的数字信号处理方法对噪声干扰很敏感，而且处理耗时较长，需要人工对信号分析得到的特征进行提取，以确定所用特征组合具有最优的分类效果，步骤繁琐。

发明内容

本发明的目的是提供一种基于深度学习的电能质量扰动识别与分类方法。

为此，本发明技术方案如下：

一种基于深度学习的电能质量扰动识别与分类方法，包括如下步骤：

1)构建电能质量扰动模型，根据电能质量扰动模型在参数约束范围内随机生成若干扰动数据作为训练集；

2)构建深度神经网络，所述的深度神经网络包括卷基层、池化层、BN层和softmax层；

3)利用步骤1)中的训练集对步骤2)中构建的深度神经网络进行训练，并判断是否达到训练指标，若判单结果为“是”，则进入下一步，如判断结果为“否”，则重复步骤3)，继续训练；

4)利用步骤1)中的扰动模型在参数约束范围内随机生成若干扰动数据作为测试集，验证深度神经网络的性能；若性能符合要求，利用训练好的深度神经网络对电能扰动质量进行识别和分类。

进一步的，所述的卷积层计算方法为：

l表示网络层数，K表示卷积核，B表示偏置向量，表示l层输出，表示l层输入，f表示激励函数。

进一步的，所述的激励函数为ReLU。

进一步的，所述的池化层的算法采用最大池化法，最大值池化方法的计算公式为：

l表示网络层数，K表示卷积核，B表示偏置向量，表示l层输出，表示l层输入，f表示激励函数。

进一步的，所述的BN层用于在神经网络的训练过程中对每层的输入数据增加标准化处理，处理方法为：

式中，x_i为输入，μ_x为输入x的均值，为输入x的方差，γ、β为正则项，保证规则化后的输出满足均值为0，方差为1的标准高斯分布。

进一步的，所述的softmax层softmax值S_i的计算公式为：

S_i表示输入属于对应类别的概率，Z表示序列。

进一步的，所述的步骤3)在对深度神经网络进行性训练时采用的损失函数的计算公式为：

y_i表示深度神经网络的输出，a_i为目标输出，i为softmax层神经元数量。

进一步的，所述的训练集和验证集随机添加20dB-50dB的噪声。

进一步的，所述的步骤3)中深度神经网络的训练采用GPU并行计算，硬件为NVIDIAGTX1060 6G，采用NVIDIA的cuDNN包进行加速。

与现有技术相比，该基于深度学习的电能质量扰动识别与分类方法将传统方法中信号分析、特征选择、分类器构建三部分内容合而为一，通过深度神经网络的训练解决这三个问题，从而避免了信号分析中计算量大，对噪声敏感等问题，克服了人工特征选择步骤繁琐、鲁棒性差的缺点，有利于更准确迅速地发现电能质量问题所属类别。

附图说明

图1为电能质量扰动波形。

图2为深度卷积神经网络分类原理示意图。

图3为深度卷积神经网络结构。

图4为卷积运算原理示意图。

图5为softmax层进行分类的原理图。

图6为分类准确率及损失值变化过程仿真图。

具体实施方式

下面结合附图及具体实施例对本发明做进一步的说明，但下述实施例绝非对本发明有任何限制。

实施例：

1)构建如表1所示的电能质量扰动模型，电能质量扰动样本的数学模型基于Python的Numpy包搭建；根据电能质量扰动模型在参数约束范围内随机生成768000组扰动数据作为训练集；生成的电能质量扰动波形如图1所示；

2)构建深度神经网络，深度神经网络基于Keras构建，后端引擎采用TensorFlow；深度神经网络的训练及后续试验采用GPU并行计算，硬件为NVIDIA GTX1060 6G，采用NVIDIA的cuDNN包进行加速；所述的深度神经网络包括卷基层、池化层、BN层和softmax层；

卷积层具有稀疏连接、权值共享、池化及易于堆叠的特性，从本质来看，卷积层相当于一系列可训练的滤波器，输入数据通过卷积核过滤后得到富含局部细节特征的输出。图像处理场景中输入是RGB三个颜色通道堆叠的二维像素数据，而电能质量扰动样本输入是一维的时序数据，因而对二维卷积层进行维度缩减；设卷积层的输入为一维矩阵(n×1)，通过一维卷积核(k×1)进行卷积运算，经激活函数后得到本层的输出矩阵(m×1)，其中m＝n-k+1。计算公式为：

l表示网络层数，K表示卷积核，B表示偏置向量，表示l层输出，表示l层输入，f表示激励函数；

所述的激励函数f采用ReLU函数，其表达式为：函数f(x)＝max(0,x)，一维卷积运算过程如图4所示。

池化层用于对卷积后的数据进行缩放映射以减少数据维度，能够在一定程度上防止过拟合；池化层功能上相当于一个模糊滤波器，常见的池化方法有均值池化、最大值池化等；本实施例采用了最大值池化方法，计算公式为：

BN层用于在神经网络的训练过程中对每层的输入数据增加标准化处理，从而保证深度神经网络在训练过程中每层的输入保持相同的分布；BN层的引入能保证深度神经网络以较高的学习率进行训练，极大地提高了深度神经网络的训练速度，同时在一定程度上避免了过拟合问题。其计算过程如下：

式中，x_i为输入，μ_x为输入x的均值，为输入x的方差，γ、β为正则项，保证规则化后的输出满足均值为0，方差为1的标准高斯分布。

电能质量扰动识别问题是一个典型的多分类问题，因此在网络最后添加softmax层，该层的神经元个数等于类别标签的数量；对于一个含j个元素的序列Z，i为Z的下标，以Si表示softmax值，计算公式为：

Si表示输入属于对应类别的概率，softmax层的15个神经元将产生15个softmax值，对应15个候选扰动类型，取最大值对应的类型即可实现多类分类，分类原理图如图5所示；

3)利用步骤1)中的训练集对步骤2)中构建的深度神经网络进行训练，并判断是否达到训练指标，若判单结果为“是”，则进入下一步，如判断结果为“否”，则重复步骤3)，继续训练；

深度神经网络的训练采用反向传播算法，首先通过前向计算得到整个网络的输出值，然后计算输出与目标值之间的损失值，反向更新网络权重以减小输出误差；该实施例采用类别交叉熵作为损失函数，计算公式为：

y_i表示深度神经网络的输出，a_i为目标输出，i为softmax层神经元数量。式中，y_i表示深度神经网络的输出，a_i表示预期输出，i表示softmax层神经元的个数。通过损失值的反向传播实现网络权重的更新，训练的目标是最小化损失函数值，通过优化算法来实现。求解深度神经网络的模型参数问题是一个无约束优化问题，在最小化损失函数时，可以通过梯度下降法迭代求解，得到最小化的损失函数及模型参数。目前已有多种基于梯度下降的改进算法，称为优化器，常用优化器有Adagrad,Adadelta,RMSprop,Adam。实际训练时，由于样本数量多，不可能在整个样本空间上实现反向传播算法，因此采用小批量数据计算梯度的方法。本实施例将批训练数量设置为64，采用NAdam作为优化器，其优势在于能实现自适应的学习率调整，训练高效。

将生成数据中对应的标签信息转化为one-hot编码以计算损失值，如编码{1,0,0,0,0,0,0,0,0,0}表示共有十类，样本属于第一类。在训练数据中随机添加20dB-50dB的噪声，用以增强模型的泛化性能。从训练集中选择10％数据作为验证集，如果验证集上连续20个epoch未见性能提高，则提前终止训练。深度神经网络训练阶段，准确率及损失值变化如图6所示。由图6可见，在前10个epoch的训练中网络性能迅速提高，准确率超过99％后网络性能提升缓慢并开始出现过拟合倾向，此时实施例采用的EarlyStop训练策略及时停止了训练，有效降低了过拟合风险。

4)利用步骤1)中的扰动模型在参数约束范围内随机生成若干扰动数据作为测试集，验证深度神经网络的性能；若性能符合要求，利用训练好的深度神经网络对电能扰动质量进行识别和分类。

对于每种扰动类型生成1000组测试数据，并分别添加40dB，30dB，20dB的噪声。使用训练得到的模型进行分类，以测试不同噪声条件下模型的性能。测试结果如表2所示。

由2表可见，凭借深度神经网络强大的学习能力，经过76万组数据的反复训练后，本发明所提出的深度神经网络对所有扰动类型均有极好的区分能力；得益于训练过程中训练集随机添加的20dB-50dB噪声，即便在最严重的20dB噪声条件下，仍能达到99％以上的识别正确率，这是传统方法不可能实现的。值得注意的是，随着噪声信号强度的增加，识别准确率下降最多的是正常波形，深度神经网络有一定概率将含有高斯噪声的正常波形识别为其他扰动，这表明正常波形的特征相对来说不够突出且更容易受到噪声的污染。

由表3可见，本文所述深度学习方法相对于现有方法在识别精度上及抗噪声能力上具有绝对优势，并且彻底改变了传统的信号处理+分类器构建的分析流程，无需人工参与特征的选择，大大降低了电能质量扰动建模难度。

分析可见，本发明提出的基于深度学习到的电能质量扰动识别方法将传统的信号处理、特征选择、分类器构建三个步骤通过一个深度神经网络进行实现，简化了电能质量扰动识别问题的建模步骤；深度神经网络融合了卷积神经网络的特征学习优势，克服了传统信号处理方法的固有缺点，解决了人工特征选择准确性差的问题，在识别精度及抗噪声能力上有显著提高。同时支持GPU并行计算，计算效率高，易于在分布式集群部署，为大数据分析电能质量扰动问题提供了有利条件。

表1

表2

表3

*表中“---”表示原文献未进行该条件下的试验。

Claims (9)

1.一种基于深度学习的电能质量扰动识别与分类方法，其特征在于，包括如下步骤：

1)构建电能质量扰动模型，根据电能质量扰动模型在参数约束范围内随机生成若干扰动数据作为训练集；

2)构建深度神经网络，所述的深度神经网络包括卷基层、池化层、BN层和softmax层；

3)利用步骤1)中的训练集对步骤2)中构建的深度神经网络进行训练，并判断是否达到训练指标，若判单结果为“是”，则进入下一步，如判断结果为“否”，则重复步骤3)，继续训练；

4)利用步骤1)中的扰动模型在参数约束范围内随机生成若干扰动数据作为测试集，验证深度神经网络的性能；若性能符合要求，利用训练好的深度神经网络对电能扰动质量进行识别和分类。

2.根据权利要求1所述的基于深度学习的电能质量扰动识别与分类方法，其特征在于，所述的卷积层计算方法为：

l表示网络层数，K表示卷积核，B表示偏置向量，表示l层输出，表示l层输入，f表示激励函数。

3.根据权利要求2所述的基于深度学习的电能质量扰动识别与分类方法，其特征在于，所述的激励函数为ReLU。

4.根据权利要求1所述的基于深度学习的电能质量扰动识别与分类方法，其特征在于，所述的池化层的算法采用最大池化法，最大值池化方法的计算公式为：

l表示网络层数，K表示卷积核，B表示偏置向量，表示l层输出，表示l层输入，f表示激励函数。

5.根据权利要求4所述的基于深度学习的电能质量扰动识别与分类方法，其特征在于，所述的BN层用于在神经网络的训练过程中对每层的输入数据增加标准化处理，处理方法为：

式中，x_i为输入，μ_x为输入x的均值，为输入x的方差，γ、β为正则项，保证规则化后的输出满足均值为0，方差为1的标准高斯分布。

6.根据权利要求5所述的基于深度学习的电能质量扰动识别与分类方法，其特征在于，所述的softmax层softmax值S_i的计算公式为：

S_i表示输入属于对应类别的概率，Z表示序列。

7.根据权利要求6所述的基于深度学习的电能质量扰动识别与分类方法，其特征在于，所述的步骤3)在对深度神经网络进行性训练时采用的损失函数的计算公式为：

y_i表示深度神经网络的输出，a_i为目标输出，i为softmax层神经元数量。

8.根据权利要求1～7中任意一项权利要求所述的基于深度学习的电能质量扰动识别与分类方法，其特征在于，所述的训练集和验证集随机添加20dB-50dB的噪声。

9.根据权利要求1所述的基于深度学习的电能质量扰动识别与分类方法，其特征在于，所述的步骤3)中深度神经网络的训练采用GPU并行计算，硬件为NVIDIA GTX1060 6G，采用NVIDIA的cuDNN包进行加速。