CN109948726B - 一种基于深度森林的电能质量扰动分类方法 - Google Patents

Abstract

本发明公开了一种基于深度森林的电能质量扰动分类方法，包括以下步骤：步骤一：通过多粒度扫描从电能质量扰动波形数据集中自动提取特征，从而得到原始数据的特征表达；步骤二：通过级联森林进行逐层学习获得深度特征，级联森林不断重复，直至收敛性能达到要求，最终实现电能质量扰动分类；步骤三：通过使用不同的扰动信号采样频率和向扰动信号中添加噪声来验证所提出的方法的鲁棒性。本发明利用具有级联结构的深度森林集合进行数据的表征学习，并且通过多粒度扫描来学习数据的深层特征，这种基于决策树的方法超参数较少，容易训练，具有良好的鲁棒性，并且在少量数据的情况下仍然能表现出优异的性能，在分类问题中取得了很好的效果。

Description

一种基于深度森林的电能质量扰动分类方法

技术领域

本发明涉及一种基于深度森林的电能质量扰动分类方法。

背景技术

近年来，随着各种电力电子器件的广泛使用和新能源发电装置与冲击性、非线性、波动性负荷接入电网，电力系统的电能质量问题日益突出，各种电能质量扰动事件对工业生产和居民生活造成非常严重的影响。而且随着社会的发展和生活水平的提高，越来越多对电能质量敏感的用电设备对电能质量提出了更高的要求。因此，作为分析电能质量情况和排除电能质量故障的前提条件，正确监测和扰动分类已经电能质量分析领域的一个重要方向。

目前，国内外学者已经提出的电能质量扰动分类方法通常包括特征提取和扰动识别两个步骤。1)特征提取步骤主要对电能质量扰动波形信号进行变换和重构，然后从中提取出实现扰动分类的特征量。目前常用的特征提取方法包括快速傅里叶变换(FFT)、S变换、小波变换(WT)和希尔伯特—黄变换(HHT)等。其中FFT主要反映信号所分析时段上的整体信息，无法反映信号的局部特性。WT具有良好的时域局部化特征，但易受噪声影响，对低频扰动分析效果不明显，且小波基选择困难。与FFT和WT相比，S变换在时频表现更加直观，具有良好的时频分析和特征提取特性，高频部分的分解也更加细致，但S变换对信号奇异点的检测不如小波变换敏感，且计算量大。HHT方法能自适应地分析非平稳信号，具有检测精度高，抗噪性能好的特点，但存在端点效应和模态混叠现象，而且经验模态分解不彻底会出现虚假分量，影响检测的准确性。2)扰动识别步骤主要用于确定扰动信号的类别，现有扰动识别方法有人工神经网络(ANN)、聚类算法、决策树(DT)和支持向量机(SVM)等。其中ANN结构简单，问题求解能力强，且可较好地处理噪声数据，但训练时间较长且准确性也有待提高。DT主要通过制定规则和模仿人类的逻辑思维完成分类，SVM能识别的扰动种类较多且分类精度较高，有相关文献结合了SVM与DT两种方法对电能质量进行分类，但分类器设计难度大，计算量会随着扰动类别的增加而增加，而且某些类别的特征阈值设定易受噪声影响，因此该方法在当前包含很多两种甚至三种以上的复合扰动的电力系统中并不适用。

发明内容

为了解决上述技术问题，本发明提供一种算法简单、分类精度高的基于深度森林的电能质量扰动分类方法。

本发明解决上述问题的技术方案是：一种基于深度森林的电能质量扰动分类方法，包括以下步骤：

步骤一：通过多粒度扫描从电能质量扰动波形数据集中自动提取特征，从而得到原始数据的特征表达；

步骤二：通过级联森林进行逐层学习获得深度特征，级联的每个级别包含三个随机森林和三个完全随机森林，其中级联中每一级接收到由前一级处理的特征信息，并将信息传递给下一级；级联森林不断重复，直至收敛性能达到要求，最终实现电能质量扰动分类；

步骤三：通过使用不同的扰动信号采样频率和向扰动信号中添加噪声来验证所提出的方法的鲁棒性。

上述基于深度森林的电能质量扰动分类方法，所述步骤一中，输入的原始特征向量采用多个粒度的滑动窗口进行扫描，假设电能质量复合扰动共有20类，原始输入数据是200维向量，分别使用60,80,100三个粒度对数据进行扫描，每次滑动步长为1；当滑动窗口为60时，每滑动一次就会生成一个60维的向量，总共生成141个60维向量；每个向量经过随机森林后会产生一个20维的类向量，141个类向量连接起来就形成了一个2820维的输入向量。

上述基于深度森林的电能质量扰动分类方法，所述步骤二中，级联森林中的每个森林都由多棵决策树组成，在每个决策树中，把当前样本划分为两个子样本，使得生成的每个非叶子结点都有两个分支，在每一步的决策时只能是“是”或者“否”，即使一个特征有多个取值，也是把数据分为两部分；决策树采用CART算法，CART算法步骤为：

假定当前样本集合D中第m类样本所占的比例为p_m，m＝1,2,…,|y|，|y|为非零证书，则D的纯度用基尼指数来度量：

Gini(D)反映了从数据集D中随机抽取两个样本，其类别标记不一致的概率，因此，Gini(D)越小，则数据集D的纯度越高；假定离散属性a有V个可能的取值{a¹,a²,…,a^V}，若使用a来对样本集D进行划分，则会产生V个分支节点，其中第v个分支节点包含在D中的所有在a上取值为a^v的样本，记为D^v，则属性a的基尼指数定义为：

Gain(D^v)表示特征取值为v的数据集的基尼值，于是，在候选属性集合A中，选择使得划分后基尼指数最小的属性作为最优划分属性a_*：

a_*＝arg min Gain_index(D,a)a∈A (3)。

上述基于深度森林的电能质量扰动分类方法，所述步骤二中，在随机森林中，对于决策树的每个结点，假设某个节点的属性集合有M个，先从该结点的属性集合中随机选择一个包含q个属性的子集，然后再从这个子集中选择一个最优属性用于划分，参数q控制了随机性的引入程度，

而完全随机森林中，是从M个属性集合中选择一个最优属性用于划分，其他方面与随机森林相同；

每个森林会通过计算落入的叶节点处的不同类的训练样本的百分比，然后对森林中的所有决策树计算平均值，即为该随机森林对当前样本的分类结果，得到的分类结果即为该层森林的类向量。

上述基于深度森林的电能质量扰动分类方法，所述步骤二中，假设随机森林输入的样本包含三类，估计的类分布形成一个类向量，然后将类向量与原始特征向量连接以输入到下一级联，类向量由三折交叉验证产生，级联中级的数量自动确定，训练集被分为两个部分，即增长集和验证集，使用增长集使级联扩展新的级，验证级验证整个级联的增益，如果下一级的增长没有性能上的提高，那么级联的增长就会自动停止，并且获得级别数。

上述基于深度森林的电能质量扰动分类方法，所述步骤二中，为了降低过度拟合的风险，每个森林产生的类矢量是通过k折交叉验证产生的；每个实例将被用作k-1次的训练数据，产生k-1个类向量，然后对其进行平均以产生最终类矢量作为下一级级联的增强特征，获得增强特征后，将对验证集进行整体级联性能评估，如果没有显著的识别率增长，训练程序将终止；

级联通过合并增长集和验证集，再次进行训练；对于训练集数据，采用80％的数据作为增长集，20％的数据作为验证集。

本发明的有益效果在于：本发明利用具有级联结构的深度森林集合进行数据的表征学习，并且通过多粒度扫描来学习数据的深层特征，这种基于决策树的方法超参数较少，容易训练，具有良好的鲁棒性，并且在少量数据的情况下仍然能表现出优异的性能，在分类问题中取得了很好的效果。

附图说明

图1为本发明的流程框图。

图2为随机森林类向量生成图。

图3为级联森林的结构示意图。

图4为9种电能质量扰动波形图。

图5为不同隐含层数量对应的故障诊断实验结果。

具体实施方式

下面结合附图和实施例对本发明作进一步的说明。

如图1所示，一种基于深度森林的电能质量扰动分类方法，包括以下步骤：

步骤一：通过多粒度扫描从电能质量扰动波形数据集中自动提取特征，从而得到原始数据的特征表达。

为了获取原始数据中更多的特征信息，进行更加灵活的数据重构，深度森林中引入了多粒度扫描的方法，以此来增强级联森林。如图1所示，输入的原始特征向量会采用多个粒度的滑动窗口进行扫描，可以使得变换特征向量中包含更多的特征信息，提高分类的准确率。假设电能质量复合扰动共有20类，原始输入数据是200维向量，分别使用60,80,100三个粒度对数据进行扫描，每次滑动步长为1。当滑动窗口为60时，每滑动一次就会生成一个60维的向量，总共生成141个60维向量。每个向量经过随机森林后会产生一个20维的类向量，141个类向量连接起来就形成了一个2820维的输入向量，在其他扫描粒度下也是如此。

经过多粒度扫描的过程，原始的输入数据会被很大程度地放大，这非常有利于特征的提取和决策树的学习，使得深度森林在只有小样本数据的情况下也能取得很好的分类效果。

步骤二：通过级联森林进行逐层学习获得深度特征，级联的每个级别包含三个随机森林和三个完全随机森林，其中级联中每一级接收到由前一级处理的特征信息，并将信息传递给下一级；级联森林不断重复，直至收敛性能达到要求，最终实现电能质量扰动分类。

级联森林中的每个森林都由多棵决策树组成，在每个决策树中，把当前样本划分为两个子样本，使得生成的每个非叶子结点都有两个分支，在每一步的决策时只能是“是”或者“否”，即使一个特征有多个取值，也是把数据分为两部分，随着划分过程的不断进行，我们希望决策树的分支结点所包含的样本尽可能地属于同一类别，即结点的纯度越来越高，最终生成的决策树是结构简洁的二叉树，并且具有很好的解释能力。决策树学习的关键是如何选择最优划分属性，本发明的决策树采用CART算法，CART算法步骤为：

假定当前样本集合D中第m类样本所占的比例为p_m，m＝1,2,…,|y|，|y|为非零证书，则D的纯度用基尼指数来度量：

Gini(D)反映了从数据集D中随机抽取两个样本，其类别标记不一致的概率，因此，Gini(D)越小，则数据集D的纯度越高；假定离散属性a有V个可能的取值{a¹,a²,…,a^V}，若使用a来对样本集D进行划分，则会产生V个分支节点，其中第v个分支节点包含在D中的所有在a上取值为a^v的样本，记为D^v，则属性a的基尼指数定义为：

Gain(D^v)表示特征取值为v的数据集的基尼值，于是，在候选属性集合A中，选择使得划分后基尼指数最小的属性作为最优划分属性a_*：

a_*＝arg min Gain_index(D,a)a∈A (3)。

为了使用较少的数据就获取较好的分类效果，使森林中的个体学习器具有更好的多样性，每一级森林中使用不同的类型的森林。为了简单起见，本发明每一级森林中使用一个随机森林和一个完全随机森林，森林中决策树的数量由分类效果决定。

决策树因为其简洁性和很好的解释能力收到了很大的关注，但是单个决策树容易出现过拟合问题。而随机森林作为一种并行式集成学习方法把多个CART决策树组合起来，通过多棵决策树的集合获得比单一学习器显著优越的泛化性能，并且在此基础上，进一步在决策树的训练过程中引入了随机属性的选择。具体来说，传统决策树在选择划分属性时是在当前结点的属性集合中选择一个最优属性，而在随机森林中，对于决策树的每个结点，假设某个节点的属性集合有M个，先从该结点的属性集合中随机选择一个包含q个属性的子集，然后再从这个子集中选择一个最优属性用于划分，参数q控制了随机性的引入程度，

而完全随机森林中，是从M个属性集合中选择一个最优属性用于划分，其他方面与随机森林相同；

随机森林中的训练样本选取也是随机的，虽然每一棵树的训练样本个数都是样本总数N，但是每一个样本的随机选取都是有放回的选取，这样，每一颗树的训练样本几乎都不相同。通过随机选择的过程，随机森林可以有效地防止过拟合的发生，也因此避免了决策树剪枝所带来的附加计算。

随机森林分类过程如图2所示，给定一个实例，每个森林会通过计算在相关实例落入的叶节点处的不同类的训练样本的百分比，其中红色部分突出了每个实例遍历到叶节点的路径，然后对森林中的所有决策树计算平均值，即为该随机森林对当前样本的分类结果，得到的分类结果即为该层森林的类向量。

假设输入的样本包含三类，估计的类分布形成一个类向量，然后将类向量与原始特征向量连接以输入到下一级联，类向量由三折交叉验证产生，级联中级的数量自动确定，训练集被分为两个部分，即增长集和估计集，使用增长集使级联扩展新的级，验证级验证整个级联的增益，如果下一级的增长没有性能上的提高，那么级联的增长就会自动停止，并且获得级别数。例如，假设有三个类，那么四个森林中的每一个将产生三维类向量；因此，下一级级联将获得12(3×4)增强特征。

为了降低过度拟合的风险，每个森林产生的类矢量是通过k折交叉验证产生的。每个实例将被用作k-1次的训练数据，产生k-1个类向量，然后对其进行平均以产生最终类矢量作为下一级级联的增强特征。获得增强特征后，将对验证集进行整体级联性能评估，如果没有显著的识别率增长，训练程序将终止；因此，深度森林能自动确定级联电平的数量。与模型的复杂度固定的大多数深度神经网络相反，深度森林通过适当的终止训练来自适应的决定其模型的复杂性。这使其能适用于不同规模的训练数据，不限于大规模训练数据。

级联通过合并增长集和验证集，再次进行训练。对于训练集数据，采用80％的数据作为增长集，20％的数据作为验证集。对于多粒度扫描流程，采用3种大小的窗口，对于d维原始特征，分别使用尺寸为d/16、d/9、d/4大小的特征窗口。

步骤三：通过使用不同的扰动信号采样频率和向扰动信号中添加噪声来验证所提出的方法的鲁棒性。

本文的扰动信号基波频率f选取为50Hz，振幅A＝1(pu)，ω＝2πf，扰动信号的采样频率f_s为12.8kHz，每个扰动信号基频周期采样256点，长度为10个基频周期，即采样2560个点，每个扰动信号生成266组，共计2394组，并随机打乱顺序，9种扰动波形，如图4。

深度森林采用级联结构，其中级联接收由其前一级别森林处理的特征信息，并将处理结果输出到下一级。每层包含两个随机森林和两个完全随机森林，这是基于多样性的考虑，每个层次都是集合的集合。每个随机森林包含500颗树，完全随机森林是由1000颗决策树组成，每棵树随机选取一个特征作为分裂树的分裂节点，然后一直生长，直到每个叶节点细分到只有1个类别或者不多于10个样本。类似的，普通随机森林由1000颗决策树构成，每棵树通过随机选取sqrt个候选特征，sqrt为机选随机数，然后通过gini分数筛选分裂节点。所以两种森林的主要区别在于候选特征空间，完全随机森林是在完整的特征空间中随机选取特征来分裂，而普通随机森林是在一个随机特征子空间内通过gini系数来选取分裂节点。注意，每个森林里的树木数量是一个超参数。

利用本发明所提出的方法对电能质量扰动进行分类。这里采用混淆矩阵对电能质量扰动分类效果进行可视化，如图5所示。纵坐标代表的是9种电能质量扰动样本的实际类别，横坐标代表的是样本的预测类别。从混淆矩阵中可以看出，每种电能质量扰动类型的分类准确度都达到了99％以上，总体分类准确度达到了99.84％。实验结果表明本文所提出的方法能以很高的精度完成电能质量扰动分类。

步骤四：算例仿真。

(1)级联森林数量对模型效果的影响：

当隐含层神经元的数量较少时，所学习到的特征有限，容易导致模型的特征表达能力不足。数量对故障诊断结果的影响。故障诊断准确度会随着神经元数目的增加而增加，当2个隐含层的神经元数目分别为120和120时实验结果最好，达到97.13％。此外，从图5中可以看出，隐含层节点数越多时，故障诊断准确度不一定越高，过多的节点数可能会导致栈式稀疏自动编码器过拟合。

(2)滑动窗口尺寸对模型效果的影响：

随着隐含层数量的增加，模型的能学习更高层、更抽象的数据特征表示，但隐含层数量过多时又容易导致模型过拟合，因此有必要讨论隐含层数量对故障诊断效果的影响。本文设置栈式稀疏自动编码器中隐含层的数量分别为{1,2,3}，隐含层神经元数分别为{150,120,100,90}，且各层神经元数量保持一致，设置稀疏参数ρ＝0.2。图5是不同隐含层数量对应的故障诊断实验结果。从图5中可以看出，当隐含层数量为2时，实验结果最好，故障诊断准确度为97.13％。当隐含层数量为3时，故障诊断准确度明显下降，说明此时栈式稀疏自动编码器出现过拟合。由以上分析可知，隐含层数量设置得过大或者过小都会使故障诊断准确度降低。

(3)采样频率：

采用在不同的采样频率下对电能质量扰动信号进行分类，实验中分别采用1.6kHz，3.2kHz，6.4kHz，12.8kHz，25.6kHz等五种不同的采样频率，结果如表1所示。

表1采样频率对电能质量扰动分类的影响

实验表明本文所提出的方法在不同的采样频率下都可以达到很高的分类准确率，采样频率对分类准确率的影响可以忽略不计，同时也说明了该方法具有很好的适应性。

(4)信噪比对分类效果的影响：

在9种电能量扰动信号的基础上叠加SNR分别为50dB、40dB、30dB、20dB、10dB的高斯白噪声，生成同样数量的电能质量扰动信号数据样本，检验本文分类方法的准确率，仿真测试结果如表2所示。

表2噪声对电能质量扰动分类的影响

可以看出，本文方法在不同信噪比下的分类准确率能够稳定在99％以上，表明本文基于稀疏自动编码器的电能质量扰动分类方法具有很好的鲁棒性。

Claims (4)

1.一种基于深度森林的电能质量扰动分类方法，包括以下步骤：

步骤一：通过多粒度扫描从电能质量扰动波形数据集中自动提取特征，从而得到原始数据的特征表达；

步骤二：通过级联森林进行逐层学习获得深度特征，级联的每个级别包含三个随机森林和三个完全随机森林，其中级联中每一级接收到由前一级处理的特征信息，并将信息传递给下一级；级联森林不断重复，直至收敛性能达到要求，最终实现电能质量扰动分类；

级联森林中的每个森林都由多棵决策树组成，在每个决策树中，把当前样本划分为两个子样本，使得生成的每个非叶子结点都有两个分支，在每一步的决策时只能是“是”或者“否”，即使一个特征有多个取值，也是把数据分为两部分；决策树采用CART算法，CART算法步骤为：

假定当前样本集合D中第m类样本所占的比例为p_m，m＝1,2,…,|y|，|y|为非零证书，则D的纯度用基尼指数来度量：

Gini(D)反映了从数据集D中随机抽取两个样本，其类别标记不一致的概率，因此，Gini(D)越小，则数据集D的纯度越高；假定离散属性a有V个可能的取值{a¹,a²,…,a^V}，若使用a来对样本集D进行划分，则会产生V个分支节点，其中第v个分支节点包含在D中的所有在a上取值为a^v的样本，记为D^v，则属性a的基尼指数定义为：

Gain(D^v)表示特征取值为v的数据集的基尼值，于是，在候选属性集合A中，选择使得划分后基尼指数最小的属性作为最优划分属性a_*：

a_*＝arg min Gain_index(D,a)a∈A (3)

所述步骤二中，在随机森林中，对于决策树的每个结点，假设某个节点的属性集合有M个，先从该结点的属性集合中随机选择一个包含q个属性的子集，然后再从这个子集中选择一个最优属性用于划分，参数q控制了随机性的引入程度，

而完全随机森林中，是从M个属性集合中选择一个最优属性用于划分，其他方面与随机森林相同；

每个森林会通过计算落入的叶节点处的不同类的训练样本的百分比，然后对森林中的所有决策树计算平均值，即为该随机森林对当前样本的分类结果，得到的分类结果即为该层森林的类向量；

步骤三：通过使用不同的扰动信号采样频率和向扰动信号中添加噪声来验证所提出的方法的鲁棒性。

2.根据权利要求1所述的基于深度森林的电能质量扰动分类方法，其特征在于：所述步骤一中，输入的原始特征向量采用多个粒度的滑动窗口进行扫描，假设电能质量复合扰动共有20类，原始输入数据是200维向量，分别使用60,80,100三个粒度对数据进行扫描，每次滑动步长为1；当滑动窗口为60时，每滑动一次就会生成一个60维的向量，总共生成141个60维向量；每个向量经过随机森林后会产生一个20维的类向量，141个类向量连接起来就形成了一个2820维的输入向量。

3.根据权利要求2所述的基于深度森林的电能质量扰动分类方法，其特征在于：所述步骤二中，假设随机森林输入的样本包含三类，估计的类分布形成一个类向量，然后将类向量与原始特征向量连接以输入到下一级联，类向量由三折交叉验证产生，级联中级的数量自动确定，训练集被分为两个部分，即增长集和验证集，使用增长集使级联扩展新的级，验证级验证整个级联的增益，如果下一级的增长没有性能上的提高，那么级联的增长就会自动停止，并且获得级别数。

4.根据权利要求3所述的基于深度森林的电能质量扰动分类方法，其特征在于：所述步骤二中，为了降低过度拟合的风险，每个森林产生的类矢量是通过k折交叉验证产生的；每个实例将被用作k-1次的训练数据，产生k-1个类向量，然后对其进行平均以产生最终类矢量作为下一级级联的增强特征，获得增强特征后，将对验证集进行整体级联性能评估，如果没有显著的识别率增长，训练程序将终止；

级联通过合并增长集和验证集，再次进行训练；对于训练集数据，采用80％的数据作为增长集，20％的数据作为验证集。

Images