CN110705694A - 基于特征提取的面向边缘数据中心的窃电监测方法 - Google Patents

Abstract

本发明公开了一种基于特征提取的面向边缘数据中心的窃电监测方法，包括以下步骤：S1，深度卷积生成对抗网络训练，并提取特征；S2，将提取的特征输入L2SVM算法进行训练；S3，利用训练后的L2SVM算法进行窃电监测。本发明实施例的技术方案通过在集中式数据中心训练深度卷积生成对抗网络，克服了在边缘数据中心训练深度学习网络算力不足的缺点；将DCGAN鉴别器作为特征提取模型，由于深度学习网络具有非线性以及逐层映射的特点，可以实现信息的有效提取；在边缘数据中心，基于DCGAN提取得到特征，部署采用L2SVM算法的窃电监测模型，实现窃电监测的准确度与计算效率的兼顾。

Description

基于特征提取的面向边缘数据中心的窃电监测方法

技术领域

本发明涉及一种基于特征提取的面向边缘数据中心的窃电监测方法，属于 数据处理技术领域。

背景技术

随着电网中传感器设备的大量接入、数据处理能力的不断提高，电网朝着 具有全面感知、可靠通信以及智能数据处理能力的泛在电力物联网(ubiquitous power internetof things,UPIoT)不断发展。目前，由传感器采集到的数据 主要依靠集中式数据中心完成如安全稳定校核、发电调度计划制定等高级分析 功能。然而，随着传感器采集到的数据量的增大，集中化的数据处理方式将给 数据传输和集中存储造成巨大的压力，并造成数据处理的实时性能较差。边缘 数据中心作为连接集中式数据中心和终端用户的中间平台，辅助集中式数据中 心完成一部分计算功能是针对上述问题的有效解决方法。

由传感器直接采集到的数据包含大量的噪声和不确定成分，需要在边缘数 据中心进行预处理后才能为后续的分析功能提供可靠的数据源。由于采集、传 输设备故障或者是恶意攻击造成的异常数据则需要通过数据预处理进行筛查。 窃电行为是一种恶意数据攻击方式，其给供电公司造成了严重的财产损失，因 此，亟待研究基于边缘数据中心的窃电监测方法。目前，反窃电的研究主要围 绕三种方法：1)基于状态估计；2)基于博弈论；3)基于机器学习的方法。其 中，基于状态估计的方法往往需要知道电网拓扑结构和各个节点的量测信息， 配电网结构复杂且各支路开关的变化会导致结构实时的改变，对配网结构进行 感知本身是一个亟待解决的挑战。

基于深度学习的方法与传统机器学习的方法相比可以取得更高的窃电监测 准确度，然而，训练深度学习网络往往需要大量的计算资源，边缘数据中心的 算力往往不能满足其要求，因此适合于边缘数据中心的窃电监测算法需要兼顾 高准确度与节省算力两个挑战。

现有的窃电监测方法具有监测精度低、对计算资源要求高等问题。此外， 目前线性特征提取方法难以有效提取数据中含有的信息，为在边缘数据中心部 署窃电监测功能带来了前所未有的挑战：1)基于以SVM为代表的浅层机器学习 窃电监测模型监测精度、计算效率等均较低，不适合与在边缘数据中心部署。2) 基于深度学习的窃电监测模型需要消耗大量的计算资源，边缘数据中心含有的 计算资源往往难以满足其需要。3)主成分分析法等线性特征提取方法，由于缺 乏较强特征学习能力，难以有效提取数据中含有的信息。

发明内容

针对以上方法存在的不足，本发明提出了一种基于特征提取的面向边缘数 据中心的窃电监测方法，其能够实现准确、快速地进行窃电监测。

本发明解决其技术问题采取的技术方案是：

本发明实施例提供的一种基于特征提取的面向边缘数据中心的窃电监测方 法，包括以下步骤：

S1，深度卷积生成对抗网络训练，并提取特征；

S2，将提取的特征输入L2SVM算法进行训练；

S3，利用训练后的L2SVM算法进行窃电监测。

作为本实施例一种可能的实现方式，在步骤S1中，在由正常数据组成的训 练集上对深度卷积生成对抗网络进行训练。

作为本实施例一种可能的实现方式，在步骤S1中，在集中式数据中心中对 深度卷积生成对抗网络进行训练，训练结束后，集中式数据中心将提取的鉴别 器模型结构及其参数传递给边缘数据中心。

作为本实施例一种可能的实现方式，在步骤S2中，在集中式数据中心中进 行L2SVM算法训练，L2SVM算法的输入是训练集经训练后深度卷积生成对抗 网络的鉴别器提取特征。

作为本实施例一种可能的实现方式，所述步骤S2包括：

利用鉴别器提取特征；

求解L2SVM算法的分类参数。

作为本实施例一种可能的实现方式，在步骤S3中，利用训练后的L2SVM 算法对用电数据进行窃电监测。

作为本实施例一种可能的实现方式，所述深度卷积生成对抗网络训练为生 成器和鉴别器进行零和非合作博弈的过程，当生成器和鉴别器达到纳什均衡时， 训练收敛；

深度卷积生成对抗网络训练的目标函数如下：

其中，P_data为真实数据遵循的分布，P_Z为潜在空间向量遵循的分布；x为真 实数据，D(x)为鉴别器输出，G(z)为生成器合成数据。

当达到纳什均衡时，鉴别器被用作Jensen-Shannon散度的度量：

V(G,D^*)＝-2log2+2JSD(P_data(x)||P_G(x))

其中，P_G(x)是由生成器产生数据所遵循的概率分布，JSD(·)为 Jensen-Shannon散度；

当训练收敛时，即

生成器产生符合真实数据特征的负 荷序列。

作为本实施例一种可能的实现方式，所述L2SVM算法的表达式如下：

s.t.y_i(w^Tx_i+b)≥1-ξ_i

y_i＝{-1,1}

ξ_i≥0(i＝1,2,...,m)

其中C是对误分类的惩罚项，y_i为分类标签，w,b,ξ_i为决策变量

作为本实施例一种可能的实现方式，所述窃电监测的过程为：

窃电模式如下：

h₁(x)＝αx,α＝random(0.1,0.8)

h₃(x)＝γ·x,γ_t＝random(0.1,0.8)

h₄(x)＝γ·mean(x),γ_t＝random(0.1,0.8)

h₅(x)＝mean(x)

h₆(x_t)＝x_24-t

式中，x＝{x₁,x₂,...,x₂₄}，t＝1,2,...,24；

将所有数据均被归一化至[-1,1]区间，连续144小时的正常负荷值被用作训 练的深度卷积生成对抗网络的输入提取特征，并利用在训练后的L2SVM算法对 用电数据进行升采样，进行正常数据量与异常数据量区分。

本发明实施例的技术方案可以具有的有益效果如下：

本发明实施例的技术方案通过在集中式数据中心训练深度卷积生成对抗网 络(deep convolutional generative adversarial networks,DCGAN)，克服了 在边缘数据中心训练深度学习网络算力不足的缺点；将DCGAN鉴别器作为特征 提取模型，由于深度学习网络具有非线性以及逐层映射的特点，可以实现信息 的有效提取；在边缘数据中心，基于DCGAN提取得到特征，部署采用L2SVM算 法的窃电监测模型，实现窃电监测的准确度与计算效率的兼顾。

本发明将DCGAN鉴别器隐藏层输出作为提取得到的特征，利用深度学习网 络较强的非线性映射和特征提取能力，将输入的高维原始数据映射为包含重要 信息的较低维度的特征；尽管深度生成对抗网络在计算机领域有广泛的应用， 然而其在能源领域的应用主要集中在场景生成方面，首次探讨其在用电数据特 征提取方面的应用。

附图说明：

图1是根据一示例性实施例示出的一种基于特征提取的面向边缘数据中心 的窃电监测方法的流程图；

图2是DCGAN架构示意图；

图3是DCGAN动态训练性能示意图；

图4是生成数据和真实数据经验累积概率分布比较示意图；

图5是不同监测方法混淆矩阵热图比较示意图。

具体实施方式

下面结合附图与实施例对本发明做进一步说明：

为能清楚说明本方案的技术特点，下面通过具体实施方式，并结合其附图， 对本发明进行详细阐述。下文的公开提供了许多不同的实施例或例子用来实现 本发明的不同结构。为了简化本发明的公开，下文中对特定例子的部件和设置 进行描述。此外，本发明可以在不同例子中重复参考数字和/或字母。这种重复 是为了简化和清楚的目的，其本身不指示所讨论各种实施例和/或设置之间的关 系。应当注意，在附图中所图示的部件不一定按比例绘制。本发明省略了对公 知组件和处理技术及工艺的描述以避免不必要地限制本发明。

图1是根据一示例性实施例示出的一种基于特征提取的面向边缘数据中心 的窃电监测方法的流程图。如图1所示，本发明实施例提供的一种基于特征提 取的面向边缘数据中心的窃电监测方法，包括以下步骤：

S1，深度卷积生成对抗网络训练，并提取特征；

S2，将提取的特征输入L2SVM算法进行训练；

S3，利用训练后的L2SVM算法进行窃电监测。

作为本实施例一种可能的实现方式，在步骤S1中，在由正常数据组成的训 练集上对深度卷积生成对抗网络进行训练，训练结束后，鉴别器(discriminator) 即可实现特征提取。

作为本实施例一种可能的实现方式，在步骤S1中，由于训练深度学习网络 需要消耗大量的算力，因此在集中式数据中心中对深度卷积生成对抗网络进行 训练，训练结束后，集中式数据中心将提取的鉴别器模型结构及其参数传递给 边缘数据中心。此外，DCGAN的训练资料遵循的分布在相对长的一段时间内 不会发生改变，因此DCGAN的网络参数不需要被频繁更新。此外，窃电监测 对训练DCGAN没有实时性的要求，因此该步骤适合在集中式数据中心进行处 理。

作为本实施例一种可能的实现方式，在步骤S2中，在集中式数据中心中进 行L2SVM算法训练，L2SVM算法的输入是训练集(包括异常和正常数据)经 训练后深度卷积生成对抗网络的鉴别器提取特征。

作为本实施例一种可能的实现方式，所述步骤S2包括：

利用鉴别器提取特征；

求解L2SVM算法的分类参数。

特征提取主要涉及神经网络的前向传播，而L2SVM由于采用线性核函数， 计算复杂度也相对较低，因此适合在边缘数据中心中进行处理。

作为本实施例一种可能的实现方式，在步骤S3中，利用训练后的L2SVM 算法对用电数据进行窃电监测。

在对用电数据进行窃电监测前，对L2SVM算法的窃电监测能力进行测试：为 研究在边缘数据中心未来运行情况，L2SVM窃电监测能力测试在异常和正常数 据的测试集上进行，其输入是数据经鉴别器提取后的特征，监测准确度反映出 了模型泛化能力的好坏。

DCGAN是生成对抗网络的一种，如图2所示，因其生成器(generator)和鉴别器 的网络结构均为深度卷积网络而得名。其在训练过程中不需要对数据进行标记， 是一种无监督学习过程。通过对网络参数的学习，生成器将潜在空间(latent space)中的向量投影为符合真实数据统计规律的负荷序列

其中，z 为从高斯分布或均匀分布随机采样得到的潜在空间中的向量；而鉴别器则同时 接受来自生成器生成的数据与真实数据，并输出数据来源于真实数据的概率， D:Ωa[0,1]，当其输出越接近于1时，则表示鉴别器输入数据来自于真实数据 的可能性越大。

DCGAN的训练过程是生成器和鉴别器进行零和非合作博弈的过程，根据博弈 论，当生成器和鉴别器达到纳什均衡时，训练收敛。其目标函数如下：

其中，P_data为真实数据遵循的分布，P_Z为潜在空间向量遵循的分布，x为真实 数据，D(x)为鉴别器输出，G(z)为生成器合成数据。当达到纳什均衡时，鉴别 器可以被用作Jensen-Shannon散度(JS散度)的度量:

V(G,D^*)＝-2log2+2JSD(P_data(x)||P_G(x))

其中，P_G(x)是由生成器产生数据所遵循的概率分布，JSD(·)即为JS散度。因 此当训练收敛时，即

生成器可以学习到如何产生符合真实 数据特征的负荷序列。

本发明采用鉴别器最后一层的输出作为提取的特征，对于输入

通过前 向传播的一系列矩阵运算，得到提取的特征Dis_l(x)。考虑到边缘数据中心的算 力限制以及窃电检测准确度的要求，提取的特征需要满足以下几个特点：

1)节约算力：所提出的特征提取过程只涉及到深度神经网络的前向传播运算 过程，其主要为矩阵运算，运算效率较高。此外，提取的特征相较于原始数据， 维数有所减少，从而也在一定程度上减轻了计算负担。

2)具有较强的特征提取能力：将提取的特征作为线性模型的输入，并根据输 入输出的映射关系进行有监督学习是检验特征表示能力的一种常用手段。本发 明采用类似的方式对所选特征的合理性进行了证明：基于MNIST数据集训练DCGAN网络，并提取特征Dis_l(x)，并采用L2SVM算法进行手写数字的分类， 其在测试集上的准确度达到96.3％，结果表明可以进行准确分类。

在边缘数据中心上，采用基于L2SVM的线性分类器对窃电行为进行监测。与 基于非线性核函数的SVM相比，L2SVM采用线性函数作为映射，计算复杂度小， 更适合于边缘数据中心处理。L2SVM不具备特征提取能力，其假设样本点在特 征空间上可以被线性分割，因此，特征选择对于L2SVM十分重要。本发明L2SVM 的输入数据是经鉴别器前向传播运算后提取的特征，即Dis_l(x)，因此L2SVM分 类的准确度一定程度上也反映出鉴别器的特征提取能力。

窃电监测问题为一个二值分类问题，因此对其构造如下优化问题进行求解：

s.t.y_i(w^Tx_i+b)≥1-ξ_i

y_i＝{-1,1}

ξ_i≥0(i＝1,2,...,m)

其中C是对误分类的惩罚项，y_i为分类标签，w,b,ξ_i为决策变量。与L1SVM 相比，L2SVM对误分类的惩罚更为严格，因此往往可以取得更好的分类效果。 选取GEFCom2012比赛提供数据作为正常用电样本数据集，本发明采用2004 年至2005年区域1每小时的用电数据，并对以下6种窃电类型进行模拟。对于 24小时正常用电样本x＝{x₁,x₂,...,x₂₄}，可能的窃电模式如下，t＝1,2,...,24：

1)h₁(x)＝αx,α＝random(0.1,0.8)

2)

3)h₃(x)＝γ·x,γ_t＝random(0.1,0.8)

4)h₄(x)＝γ·mean(x),γ_t＝random(0.1,0.8)

5)h₅(x)＝mean(x)

6)h₆(x_t)＝x_24-t

所有数据均被归一化至[-1,1]区间，连续144小时的正常负荷值被用作DCGAN 的输入，在对L2SVM训练过程中，对正常数据进行升采样，以实现正常与异常 数据量的平衡。对窃电监测采用准确率(precision,PRE)、召回率(recall,REC)、F1 得分以及准确度(accuracy,Acc)等指标进行评价。

为了测试DCGAN的动态收敛性能，本发明选择训练过程中生成器以及鉴别 器的损失函数，以及鉴别器的输出进行分析。如图3所示，生成器以及鉴别器 的损失函数在训练迭代300次时迅速收敛并逐渐稳定，在迭代约3300次时，损 失函数均有明显增大，但之后迅速收敛。而鉴别器针对真实和合成数据的输出 也具有类似的变化，在训练结束后，鉴别器几乎无法分辨输入数据是来自真实 数据还是由生成器合成的数据，表明生成器已经可以学习到真实数据所遵循的 概率分布。DCGAN在训练过程中不稳定的现象则是由生成器和鉴别器进行零和 博弈造成的，但最后训练收敛，说明生成器和鉴别器最终达到了纳什平衡。

测试集数据以及由DCGAN合成数据的经验累积概率分布如图4所示，经验 累积概率分布曲线几乎完全重合，该现象表明，尽管生成器从未见过来自测试 集的数据，但当训练完成时，由生成器生成的数据和测试集上的数据几乎遵循 一样的经验累积概率分布，因此网络具有良好的收敛和泛化性能。

将本发明所提的特征提取方法与基于PCA的特征提取方法进行对比，其中 PCA的变异量(variance)选为99％，并同样采用L2SVM针对提取的特征进行窃电 监测。将两种方法的监测准确度进行比较，结果如表1所示。可以看出，与基 于PCA的特征提取方法相比，本发明所提方法在测试集上准确度提高40.34％， 且所用时间更短。结果表示，本发明所提出的基于鉴别器的非线性特征提取方 法具有更加优异的特征提取性能，可以有效提取原始数据中包含的有价值信息。

表1不同特征提取方法比较

表2不同窃电监测方法分类指标比较

将所提方法与基于径向基核函数的SVM进行对比，其中SVM的输入数据 是未经特征提取的原始数据。两种方法在训练集，测试集上窃电监测准确度以 及所用时间如表2所示。其中，所提方法所用时间远小于SVM方法用时，而计 算时间在一定程度上可以反映计算复杂度，因此本发明所提方法仅需较少的计 算资源，适合在边缘数据中心中部署。就窃电监测准确度而言，两种方法在训 练集与测试集上的准确度相近，表明模型均不存在过拟合问题。本发明提出方 法与SVM方法相比，测试集准确度提高18.5％，表明原始数据经鉴别器进行特 征提取后，正常与异常数据在特征空间上更易被线性分割。

此外，为进一步表示所提方法的分类性能，两种方法的混淆矩阵热图如图 5所示，分类评价指标如表2所示，其中F1得分指标是准确率与召回率的综合 性指标，本发明所提方法的准确率和F1得分均优于SVM，并且混淆矩阵热图 表明，SVM方法容易将正常数据错误划分为异常数据，因此其对于正常负荷的 鲁棒性变化不够。

本发明将DCGAN鉴别器隐藏层输出作为提取得到的特征，利用深度学习网 络较强的非线性映射和特征提取能力，将输入的高维原始数据映射为包含重要 信息的较低维度的特征；尽管深度生成对抗网络在计算机领域有广泛的应用， 然而其在能源领域的应用主要集中在场景生成方面，首次探讨其在用电数据特 征提取方面的应用。

与基于PCA的特征提取方法相比，本发明所提方法在测试集准确度上不仅 大幅度提高，而且所用时间更短，实现了信息更加有效的提取。

与典型的窃电监测算法SVM相比，本发明不仅提高了准确度，而且计算复 杂度更低，对于正常用电负荷变化更具鲁棒性，因此适合在边缘数据中心部署， 具有有较好的特征提取能力。

本发明具有较强的创新性和可操作性。

以上所述只是本发明的优选实施方式，对于本技术领域的普通技术人员来 说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和 润饰也被视作为本发明的保护范围。

Claims (9)

1.一种基于特征提取的面向边缘数据中心的窃电监测方法，其特征是，包括以下步骤：

S1，深度卷积生成对抗网络训练，并提取特征；

S2，将提取的特征输入L2SVM算法进行训练；

S3，利用训练后的L2SVM算法进行窃电监测。

2.根据权利要求1所述的基于特征提取的面向边缘数据中心的窃电监测方法，其特征是，在步骤S1中，在由正常数据组成的训练集上对深度卷积生成对抗网络进行训练。

3.根据权利要求2所述的基于特征提取的面向边缘数据中心的窃电监测方法，其特征是，在步骤S1中，在集中式数据中心中对深度卷积生成对抗网络进行训练，训练结束后，集中式数据中心将提取的鉴别器模型结构及其参数传递给边缘数据中心。

4.根据权利要求3所述的基于特征提取的面向边缘数据中心的窃电监测方法，其特征是，在步骤S2中，在集中式数据中心中进行L2SVM算法训练，L2SVM算法的输入是训练集经训练后深度卷积生成对抗网络的鉴别器提取特征。

5.根据权利要求4所述的基于特征提取的面向边缘数据中心的窃电监测方法，其特征是，所述步骤S2包括：

利用鉴别器提取特征；

求解L2SVM算法的分类参数。

6.根据权利要求5所述的基于特征提取的面向边缘数据中心的窃电监测方法，其特征是，在步骤S3中，利用训练后的L2SVM算法对用电数据进行窃电监测。

7.根据权利要求1-6任意一项所述的基于特征提取的面向边缘数据中心的窃电监测方法，其特征是，所述深度卷积生成对抗网络训练为生成器和鉴别器进行零和非合作博弈的过程，当生成器和鉴别器达到纳什均衡时，训练收敛；深度卷积生成对抗网络训练的目标函数如下：

其中，P_data为真实数据遵循的分布，P_Z为潜在空间向量遵循的分布；x为真实数据，D(x)为鉴别器输出，G(z)为生成器合成数据。

当达到纳什均衡时，鉴别器被用作Jensen-Shannon散度的度量：

V(G,D^*)＝-2log2+2JSD(P_data(x)||P_G(x))

其中，P_G(x)是由生成器产生数据所遵循的概率分布，P_data(x)为真实数据所遵循的概率分布，JSD(·)为Jensen-Shannon散度；

当训练收敛时，即

生成器产生符合真实数据特征的负荷序列。

8.根据权利要求1-6任意一项所述的基于特征提取的面向边缘数据中心的窃电监测方法，其特征是，所述L2SVM算法的表达式如下：

s.t.y_i(w^Tx_i+b)≥1-ξ_i

y_i＝{-1,1}

ξ_i≥0(i＝1,2,...,m)

其中C是对误分类的惩罚项，y_i为分类标签，w,b,ξ_i为决策变量。

9.根据权利要求1-6任意一项所述的基于特征提取的面向边缘数据中心的窃电监测方法，其特征是，所述窃电监测的过程为：

窃电模式如下：

h₁(x)＝αx,α＝random(0.1,0.8)

h₃(x)＝γ·x,γ_t＝random(0.1,0.8)

h₄(x)＝γ·mean(x),γ_t＝random(0.1,0.8)

h₅(x)＝mean(x)

h₆(x_t)＝x_24-t

式中，x＝{x₁,x₂,...,x₂₄}，t＝1,2,...,24；

将所有数据均被归一化至[-1,1]区间，连续144小时的正常负荷值被用作训练的深度卷积生成对抗网络的输入提取特征，并利用在训练后的L2SVM算法对用电数据进行升采样，进行正常数据量与异常数据量区分。

Images