CN107909118A - 一种基于深度神经网络的配电网工况录波分类方法 - Google Patents

Abstract

本发明公开了一种基于深度神经网络的配电网工况分类方法，所述配电网工况分类方法包括对工况录波进行波形预处理；构建包含卷积层区域和全连接区域的深度神经网络工况分类器框架；利用工况录波分类数据集对深度神经网络进行超参数机器训练以获得最优深度神经网络工况分类器模型；将预处理波形输入最优深度神经网络工况分类器模型以获得该工况录波的工况类型，本发明能够实现对波形本身简单预处理后直接建模识别，机器学习模型自身带有特征提取和工况分类的功能，此种端对端训练模型的方法能进一步提升识别正确率。

Description

一种基于深度神经网络的配电网工况录波分类方法

技术领域

本发明涉及电力技术领域，尤其涉及一种基于深度神经网络的配电网工况录波分类方法。

背景技术

配电网是电力系统中的重要组成部分，随着智能电网的快速发展，分布式电源的大量的不确定接入，使得配电网故障信息越发复杂，故障的准确快速分析变得越发困难。为保障配电网高度智能化运行，需要对馈线运行数据进行实时监控、异常情况及时预警及故障快速发现处理，其中对馈线异常工况的识别是智能配电网的重要功能。传统的配电网工况分类一直采用仿真数据，仿真数据太过理想，处理起来简单。近几年，随着配电网线路监测系统的出现，配电网实际运行中的电流电压数据被采集，并开始运用传统的提取特征方法结合一些机器学习方法对工况进行分类。如CN103136587A中公开了一种传统小波包提取仿真数据特征与支持向量机结合的配电网工况分类方法。CN103245881A中公开了一种基于潮流分布特征的配电网故障分析方法及装置。CN107340456A中公开了一种基于多特征分析的配电网工况智能识别方法。上述现有技术中均是通过人工提取特征并同时结合简单的机器学习模型的方式进行配电网工况分类。而上述方法至少存在如下缺陷：1.采用人工提取录波特征时，在提取过程中会造成关键数据信息的丢失，导致录波分类不准确。2.提取特征与录波分类被分成了不能同步修正的两个过程，这种非端对端的训练方式限制了识别正确率上限。3.现有方法中使用的机器学习模型无法直接处理波形数据，无法实现提取特征模型和分类模型一体化的。

发明内容

本发明所要解决的技术问题之一是不再采用人工对波形进行特征提取，然后使用提取的特征来识别工况的方案。而是对波形本身简单预处理后直接建模识别，机器学习模型自身带有特征提取和工况分类的功能，此种端对端训练模型的方法能进一步提升识别正确率。

本发明所要解决的技术问题还在于使用深度神经网络以实现直接将波形本身作为模型输入。

为了解决上述技术问题，本发明提供了一种基于深度神经网络的配电网工况分类方法，所述配电网工况分类方法包括对工况录波进行波形预处理以获得预处理波形；构建包含卷积层区域和全连接区域的深度神经网络工况分类器框架，所述卷积层区域包含卷积块；利用工况录波分类数据集对深度神经网络进行超参数机器训练以获得最优深度神经网络工况分类器模型；将预处理波形输入最优深度神经网络工况分类器模型以获得该工况录波的工况类型。

在一个实施例中，所述波形预处理包括对工况录波的波形截取和对工况录波所截取的波形区段进行降采样处理或插值处理，所述波形截取方法可以是二次差分法、滑动窗口傅里叶变换法或小波变换法。

在一个实施例中，所述卷积块的结构可以为双层卷积层叠加结构，或者为多通道的且每一通道由双层卷积层叠加的结构构成，或者为多通道的且每一通道包含1至3层卷积层的结构构成。

在一个实施例中，所述卷积层区域中的卷积块之间设置有残量连接，所述残量连接是指将一个卷积块的输入和输出取和，并将取和结果作为输入传递至下一卷积块。

在一个实施例中，所述工况录波分类数据集包括训练数据集、验证数据集和测试数据集，所述训练数据集、验证数据集和测试数据集包含短路、接地、停电、复电、大负荷投入、大负荷切出和雷击中至少一种的工况数据。

根据本发明的另一方面，还提供了一种用于对深度神经网络工况分类器框架进行超参数机器训练的方法，所述方法包括：

a.将深度神经网络分类器结构输入超参数随机生成器；

b.由超参数随机生成器形成超参数组合模型池；

c.利用测试数据集对超参数组合模型池中的每一个超参数组合模型进行测试，如果测试通过则结束训练将该超参数组合模型输入已训练超参数组合模型池，如测试未通过，则利用训练数据集对该超参数组合模型进行优化，优化后再次测试，直到该模型测试通过。

d.利用验证数据集对已训练超参数组合模型池中的每一超参数组合模型进行验证，验证通过的超参数组合模型即为最优超参数组合模型。

在一个实施例中，所述训练数据集、验证数据集和测试数据集，所述训练数据集、验证数据集和测试数据集包含短路、接地、停电、复电、大负荷投入、大负荷切出和雷击中至少一种的工况数据。

在一个实施例中，所述训练数据集、验证数据集和测试数据集针对短路、接地、停电、复电、大负荷投入、大负荷切出和雷击7中工况，每种工况选取5000个数据；其中训练数据集每种工况选取4200个，测试数据集和验证数据集每种工况分别选取400个数据。

在一个实施例中，所述最优超参数组合模型至少包括构成最优深度神经网络工况分类器模型的卷积块个数、每个卷积块内部的通道数、卷积核的长宽及数量、全连接层神经元数量。

在一个实施例中，对超参数组合模型进优化时采用的优化方法为批量Adam后向传输法。

以下对本发明的波形预处理、深度神经网络分类器框架及超参数的机器训练做出进一步的详细说明。

<波形预处理>

图1为本发明的基于深度神经网络的配电网工况录波分类方法流程示意图，其中的波形预处理过程包括两个步骤。第一步，从工况录波中截取出所需波形区段。第二步，对所截取的波形区段进行降采样处理或插值处理，使波形数据转换为至预期频率。

在第一步的波形截取中，所述的所需波形区段定义为电流或电场中包含了除工作频率外的其他频率分量的异常区段。本发明中可以使用三种所需提取波形区段的方法具体为二次差分法、滑动窗口傅里叶变换法和小波变换法。

所述的二次差分法是指令N(t)＝{n₁,n₂,…,n_k}为原始波形时序信号，提取波形的一次差分为N'(t)＝{n₂-n₁,n₃-n₂,…,n_k-n_k-1}，提取波形的二次差分则为，N"(t)＝{n₃-2n₂+n₁,n₄-2n₃+n₂,…,n_k-2n_k-1+n_K-2}。

所述的滑动窗口傅里叶变换，是对整个波形以一个窗口的长度滑动，每次对窗口内的数据进行离散傅里叶变换，傅里叶变换定义为其中x(i)为各频率点的系数。使用傅里叶能量熵，能够检测波形窗口中各时段内能量在不同频段分布的混乱程度。定义窗口内不同频率的能量E_i＝|x(i)|²，E＝∑E_i为窗口内信号的能量和。则窗口傅里 叶能量熵FEE可以定义为，其中p_i＝E_i/E。

所述的小波变换是指，令其中D_i(k)为信号经J阶小波分解重构得到的i阶频率分量系数。使用小波能量熵检测波形中各时段内信号能量在不同频段分布的混乱程度，达到提取异常区段的目的。定义在不同尺度i时间k上的信号能谱E_i(k)＝|D_i(k)|²，E_i＝∑E_i(k)为尺度i上所有时刻的能量和。则小波能量熵WEE可以定义为，其中p_i＝E_i/i，近似为信号的总能量。

在上述三种不同的波形提取方法中，使用波形的二次差分绝对值能够很好的识别出波形的突变点，该方法的计算量小，能够节约计算资源，因此可以在计算资源有限制时使用，但该方法不能计算出波形包含不同频率信息的丰富程度。使用窗口傅里叶能量熵能够很好的排除工频分量，得到其它不同频段能量的混乱程度，但窗口大小需固定，不能灵活得到每个时间的混乱信息，同时其快速算法计算量比较小，因此可以再在精度与计算量需要平衡的情况下使用。小波能量熵在检测所需区段上精度比窗口傅里叶能量熵高，但计算量也要大，可以在精度需求高的情况下使用。

本发明中对所截取的波形区段进行降采样处理或插值处理可以采用三次样条插值法，将波形频率变为700Hz。

<深度神经网络分类器>

如图2所述为本发明的深度神经网络分类器框架示意结构，该深度神经网络分类器包括卷积层区域和全连接层区域，在卷积层区域包括输入卷积层、卷积块、平均池化层，本发明中的卷积层中所涉及的卷积运算采用现有技术中公知的卷积运算方法，但本发明中在卷积运算中所使用的卷积核及相关参数是通过本发明的超参数机器训练得到的优化超参数。时序波形时间间隔小的采样点相关性强，越大则越弱，适宜用卷积层提取特征。在卷积层区域中通过设置多层卷积层以实现对局部到全局的特征提取，以及抽象到具体的特征提取。卷积层区域后连接全连接区域，该全连接区域内部含两层全连接层及softmax输出层，最后输出工况类型。所述全连接层区域中的第一全连接层的神经元个数同样是通过本发明的超参数机器训练得到的优化超参数，而第二全连接层的神经元个数设置与工况类型个数相同。

如图3a至3b所示的是本发明卷积块具体结构，其中图3a中所示为两层卷积结构，由两层卷积层叠加构成。图3b中所示为多通道结构，且每一通道均有两层卷积层叠加构成。图3c中所示为另一多通道结构，每一通道由1至3层卷积层构成。上述卷积块中的卷积核的相关参数以及通道数量，又或每一通道的卷积层数均可由超参数机器训练得到。

本发明中还可以在卷积块的输入与输出之间增加残量连接，即将每一个卷积块的输入与该卷积块的输出取和作为该卷积块的输出值，则有F(x)+x＝H(x)，其中F(.)为卷积块函数，H(.)为下个模块的输入，x为上个模块的输出。又F(x)＝H(x)-x，残量x的增加有利于F(.)参数的训练。

<超参数的机器训练>

图4中所示为本发明的超参数机器训练流程图，该超参数机器训练的目的在于，根据所提供训练数据集、验证数据集和测试数据集训练得到上述深度神经网络分类器中所需的全部参数，并形成深度神经网络分类器的最优超参数组合模型。该机器训练过程如下：

a.将深度神经网络分类器结构输入超参数随机生成器；

b.由超参数随机生成器形成超参数组合模型池；

c.利用测试数据集对超参数组合模型池中的每一个超参数组合模型进行测试，如果测试通过则结束训练将该超参数组合模型输入已训练超参数组合模型池，如测试未通过，则利用训练数据集对该超参数组合模型进行优化，优化后再次测试，直到该模型测试通过。

d.利用验证数据集对已训练超参数组合模型池中的每一超参数组合模型进行验证，验证通过的超参数组合模型即为最优超参数组合模型。

本发明中所使用的训练数据集、验证数据集和测试数据集可以是包含短路、接地、停电、复电、大负荷投入、大负荷切出和雷击中至少一种的工况数据。所述训练数据集、验证数据集和测试数据集中的数据均取自现有技术中的各种配电网在线监测终端所获取的录波数据。

与现有技术相比，本发明的一个或多个实施例可以具有如下优点：

1.本发明不再采用人工对波形进行特征提取，然后使用提取的特征来识别工况的方法。而是对波形本身简单预处理后直接建模识别，深度神经网络模型自身带有特征提取和工况分类的功能，此种端对端训练模型的方法能进一步提升识别正确率。

2.本发明所使用深度神经网络能够实现直接将波形本身作为模型输入。

本发明的其它特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本发明而了解。本发明的目的和其他优点可通过在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。

附图说明

附图用来提供对本发明的进一步理解，并且构成说明书的一部分，与本发明的实施例共同用于解释本发明，并不构成对本发明的限制。在附图中：

图1是本发明的基于深度神经网络的配电网工况录波分类方法流程示意图；

图2是本发明的深度神经网络框架示意图；

图3a-3c是本发明的卷积块结构示意图；

图4是本发明的超参数机器训练流程示意图；

图5是本发明第一实施例的最优化深度神经网络模型示意图。

图6是本发明第二实施例的最优化深度神经网络模型示意图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚，以下结合附图对本发明作进一步地详细说明。

第一实施例

图5是根据本发明第一实施例的最优化深度神经网络模型示意图。下面结合图5对本方法进行说明。

本实施例中，首先利用二次差分法对配电网终端获取的录波数据进行处理，以截取出所需波形区段，随后利用三次样条插值法，将波形频率变为700Hz。

接下来，按照如图4所示的超参数机器训练流程获取最优超参数组合模型的参数，其中获得的最优参数包括卷积块数，还包括每一卷积块内部卷积层的卷积核的长度、宽度及个数数值，以及每一卷积块所包含的通道个数及每一通道上卷积层的层数，此外还包括全连接层中使用的神经元个数。上述参数在如下叙述中会进一步的阐述。

本实施例在进行超参数机器训练流程时所使用的训练数据集、验证数据集和测试数据集训共使用7种工况数据，分别为短路、接地、停电、复电、大负荷投入、大负荷切出和雷击，每种工况共5000个数据，共35000个数据。训练数据集每种使用4200个，测试和验证数据集分别每种使用400个数据。训练流程中的优化方法为批量Adam后向传输，当测试数据集正确率大于98％或训练超过10000轮时，训练停止，否则继续优化，多个超参数组合模型中验证数据集正确率最高的组合为最优超参数组合模型。

经过上述超参数机器训练流程所获得的最优超参数组合模型即为如图5所示的深度神经网络分类器结构，在该深度神经网络分类器中输入卷积层中的卷积核的宽和长为6×5，个数为8。卷积块Ⅰ为单通道的双层卷积层，其中第一卷积层的卷积核的宽和长为1×3，个数为8，第二卷积层的卷积核的宽和长为1×3，个数为16。卷积块Ⅱ设置为具有三通道的卷积层，其通道a为双层卷积层，其中第一卷积层的卷积核的宽和长为1×2，个数为16，第二卷积层的卷积核的宽和长为1×3，个数为32。通道b为双层卷积层，其中第一卷积层的卷积核的宽和长为1×3，个数为32，第二卷积层的卷积核的宽和长为1×3，个数为32。通道c为三层卷积层，其中第一卷积层的卷积核的宽和长为1×3，个数为16，第二卷积层的卷积核的宽和长为1×4，个数为16，第三卷积层的卷积核的宽和长为1×3，个数为32，将卷积块Ⅱ三个通道的结果取和输入卷积块Ⅲ。卷积块Ⅲ设置为具有8个通道的卷积层，其每个通道均有双层卷积层构成，其中第一卷积层的卷积核的宽和长为1×3，个数为32，第二卷积层的卷积核的宽和长为1×3，个数为64。随后，将卷积块Ⅲ中8个通道的输出结果取和输入平均池化层。

将平均池化层的输出结果输入第一全连接层，所述第一全连接层的神经元个数为24，第一全连接层输出结果输入第二全连接层，第二全连接层的神经元个数设置为与训练集的工况类型个数相同，设置为7个。将第二全连接层的输出结果输入softmax输出层从而获得录波数据的工况类型分析结果。

根据本实施例可知，本发明没有采用人工对波形进行特征提取，而是直接对波形本身简单预处理后进行直接建模识别，深度神经网络分类器自身带有特征提取和工况分类的功能。另一方面，本实施例中，利用超参数机器训练，利用已知数据构成的训练集可以直接获得最优模型参数组合，相较于人工设定超参数，本实施获得参数组合更为准确。

第二实施例

图6是根据本发明第二实施例的最优化深度神经网络模型示意图。下面结合图6对本方法进行说明。

与第一实施例相同的，本实施例中，首先利用二次差分法对配电网终端获取的录波数据进行处理，以截取出所需波形区段，随后利用三次样条插值法，将波形频率变为700Hz。

接下来，按照如图4所示的超参数机器训练流程获取最优超参数组合模型的参数，其中获得的最优参数包括卷积块数，还包括每一卷积块内部卷积层的卷积核的长度、宽度及个数数值，以及每一卷积块所包含的通道个数及每一通道上卷积层的层数，此外还包括全连接层中使用的神经元个数。上述参数在如下叙述中会进一步的阐述。

本实施例在进行超参数机器训练流程时所使用的训练数据集、验证数据集和测试数据集训共使用7种工况数据，分别为短路、接地、停电、复电、大负荷投入、大负荷切出和雷击，每种工况共5000个数据，共35000个数据。训练数据集每种使用4200个，测试和验证数据集分别每种使用400个数据。训练流程中的优化方法为批量Adam后向传输，当测试数据集正确率大于98％或训练超过10000轮时，训练停止，否则继续优化，多个超参数组合模型中验证数据集正确率最高的组合为最优超参数组合模型。

经过上述超参数机器训练流程所获得的最优超参数组合模型即为如图5所示的深度神经网络分类器结构，在该深度神经网络分类器中输入卷积层中的卷积核的宽和长为6×5，个数为8。卷积块Ⅰ为单通道的双层卷积层，其中第一卷积层的卷积核的宽和长为1×3，个数为8，第二卷积层的卷积核的宽和长为1×3，个数为16。卷积块Ⅱ设置为具有三通道的卷积层，其通道a为双层卷积层，其中第一卷积层的卷积核的宽和长为1×2，个数为16，第二卷积层的卷积核的宽和长为1×3，个数为32。通道b为双层卷积层，其中第一卷积层的卷积核的宽和长为1×3，个数为32，第二卷积层的卷积核的宽和长为1×3，个数为32。通道c为三层卷积层，其中第一卷积层的卷积核的宽和长为1×3，个数为16，第二卷积层的卷积核的宽和长为1×4，个数为16，第三卷积层的卷积核的宽和长为1×3，个数为32，将卷积块Ⅱ三个通道的结果取和输入卷积块Ⅲ。卷积块Ⅲ设置为具有8个通道的卷积层，其每个通道均有双层卷积层构成，其中第一卷积层的卷积核的宽和长为1×3，个数为32，第二卷积层的卷积核的宽和长为1×3，个数为64。随后，将卷积块Ⅲ中8个通道的输出结果取和输入平均池化层。

如图6所示，本实施例中，在卷积块Ⅰ、卷积块Ⅱ、卷积块Ⅲ之间设置了残量连接，即输入卷积层输出结果与卷积块Ⅰ输出结果取和输入卷积块Ⅱ，卷积块Ⅰ输出结果与卷积块Ⅱ输出结果取和输入卷积块Ⅲ，卷积块Ⅱ输出结果与卷积块Ⅲ输出结果取和输入平均池化层。通过设置残量连接可以加强卷积块Ⅰ、卷积块Ⅱ、卷积块Ⅲ的参数训练。

将平均池化层的输出结果输入第一全连接层，所述第一全连接层的神经元个数为24，第一全连接层输出结果输入第二全连接层，第二全连接层的神经元个数设置为与训练集的工况类型个数相同，设置为7个。将第二全连接层的输出结果输入softmax输出层从而获得录波数据的工况类型分析结果。

根据本实施例可知，本发明没有采用人工对波形进行特征提取，而是直接对波形本身简单预处理后进行直接建模识别，深度神经网络分类器自身带有特征提取和工况分类的功能。另一方面，本实施例中，利用超参数机器训练，利用已知数据构成的训练集可以直接获得最优模型参数组合，相较于人工设定超参数，本实施获得参数组合更为准确。

以上所述，仅为本发明的具体实施案例，本发明的保护范围并不局限于此，任何熟悉本技术的技术人员在本发明所述的技术规范内，对本发明的修改或替换，都应在本发明的保护范围之内。

Claims (10)

1.一种基于深度神经网络的配电网工况分类方法，其特征在于：所述配电网工况分类方法包括：

对工况录波进行波形预处理以获得预处理波形；

构建包含卷积层区域和全连接区域的深度神经网络工况分类器框架，所述卷积层区域包含卷积块；

利用超参数生成器生成多个深度神经网络模型，使用工况录波分类数据集对该多个深度神经网络模型分别训练以获得最优深度神经网络工况分类器模型；

将预处理波形输入最优深度神经网络工况分类器模型以获得该工况录波的工况类型。

2.根据权利要求1所述的配电网工况分类方法，其特征在于，所述波形预处理包括对工况录波的波形截取和对工况录波所截取的波形区段进行降采样处理或插值处理，所述波形截取方法可以是二次差分法、滑动窗口傅里叶变换法或小波变换法。

3.根据权利要求1所述的配电网工况分类方法，其特征在于，所述卷积块的结构可以为双层卷积层叠加结构，或者为多通道的且每一通道由双层卷积层叠加的结构构成，或者为多通道的且每一通道包含1至3层卷积层的结构构成。

4.根据权利要求1所述的配电网工况分类方法，其特征在于，所述卷积层区域中的卷积块之间设置有残量连接，所述残量连接是指将一个卷积块的输入和输出取和，并将取和结果作为输入传递至下一卷积块。

5.根据权利要求1所述的配电网工况分类方法，其特征在于，所述工况录波分类数据集包括训练数据集、验证数据集和测试数据集，所述训练数据集、验证数据集和测试数据集包含短路、接地、停电、复电、大负荷投入、大负荷切出和雷击中至少一种的工况数据。

6.一种用于对深度神经网络工况分类器框架进行超参数机器训练的方法，所述方法包括：

a.将深度神经网络分类器结构输入超参数随机生成器；

b.由超参数随机生成器形成超参数组合模型池；

c.利用测试数据集对超参数组合模型池中的每一个超参数组合模型进行测试，如果测试通过则结束训练将该超参数组合模型输入已训练超参数组合模型池，如测试未通过，则利用训练数据集对该超参数组合模型进行优化，优化后再次测试，直到该模型测试通过；

d.利用验证数据集对已训练超参数组合模型池中的每一超参数组合模型进行验证，验证通过的超参数组合模型即为最优超参数组合模型。

7.根据权利要求6所述的超参数机器训练的方法，其特征在于，所述训练数据集、验证数据集和测试数据集，所述训练数据集、验证数据集和测试数据集包含短路、接地、停电、复电、大负荷投入、大负荷切出和雷击中至少一种的工况数据。

8.根据权利要求7所述的超参数机器训练的方法，所述训练数据集、验证数据集和测试数据集针对短路、接地、停电、复电、大负荷投入、大负荷切出和雷击7中工况，每种工况选取不少于5000个数据；其中训练数据集每种工况选取不少于4200个，测试数据集和验证数据集每种工况分别选取不少于400个数据。

9.根据权利要求6所述的超参数机器训练的方法，所述最优超参数组合模型至少包括构成最优深度神经网络工况分类器模型的卷积块个数、每个卷积块内部的通道数、卷积核的长宽及数量、全连接层神经元数量。

10.一种基于深度神经网络的配电网工况分类装置，所述装置采用如权利要求1-5之一所述的配电网工况分类方法对配电网工况录波进行分类。