CN113343876A - 基于对抗生成网络的家用设备电器指纹数据生成方法 - Google Patents

基于对抗生成网络的家用设备电器指纹数据生成方法 Download PDF

Info

Publication number
CN113343876A
CN113343876A CN202110679438.7A CN202110679438A CN113343876A CN 113343876 A CN113343876 A CN 113343876A CN 202110679438 A CN202110679438 A CN 202110679438A CN 113343876 A CN113343876 A CN 113343876A
Authority
CN
China
Prior art keywords
data
module
discriminator
generator
training
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110679438.7A
Other languages
English (en)
Inventor
张珊珊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Mengxiang Intelligent Technology Co ltd
Original Assignee
Shanghai Mengxiang Intelligent Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Mengxiang Intelligent Technology Co ltd filed Critical Shanghai Mengxiang Intelligent Technology Co ltd
Priority to CN202110679438.7A priority Critical patent/CN113343876A/zh
Publication of CN113343876A publication Critical patent/CN113343876A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12Classification; Matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明属于用电负荷监测技术领域,具体为一种基于对抗生成网络的家用设备电器指纹数据生成方法。本发明采用对抗生成网络PowerTransGan,生成真正随机的、贴近真实的家用设备电器指纹数据,作为训练非侵入式负荷监测方法的数据增强手段。具体包括:明确PowerTransGan的整体结构,包含七组以Transformer编码器为基础的生成器和判别器模块,引入对生成器和判别器的限制条件,并且针对性设计不同的损失函数,以实现更好的优化,最后在网络的训练过程中采用基于模块融合的阶段性学习过程,依据训练轮次交替进行生成器和判别器的训练,最终得到生成器能够生成接近真实样本的、判别器也无法辨别的电力数据。

Description

基于对抗生成网络的家用设备电器指纹数据生成方法
技术领域
本发明属于用电负荷监测技术领域,具体涉及一种基于对抗生成网络的家用设备电器指纹数据生成方法。
背景技术
获得家庭用户的用电功耗特性,能够使得能源供货商更好的预测用户未来的需求,更好的进行能源的调度,同时也能够允许用户对家用电器的电力消耗有更好的了解,减少能源的浪费。非侵入式负荷监测(NILM)只使用一个家庭的智能电表读数,通过一些机器学习或优化算法能推断电器功耗分布的近似值。
这些方法的性能很大程度上取决于训练数据代表真实分布的程度,NILM需要更多的电力数据集来进行训练和测试,所以电力数据的收集一直是NILM主要的研究内容之一,目前有一些数据集推动着NILM的发展,但这些数据集都只涵盖了电力消耗分布状况中的一部分,如持续时间、采样频率等。造成这种现象的主要原因在于数据不易收集以及负荷分解困难,通过电表的家庭用电数据杂乱充满变数导致电力数据繁杂难以收集,且存在的噪音干扰较大,对收集的数据进行分解提取电器指纹十分困难。
发明内容
为解决现有技术存在的电力数据收集不易以及提取电器指纹困难等问题,本发明提供一种基于对抗生成网络的家用设备电器指纹数据生成方法。
本发明提供的基于对抗生成网络的家用设备电器指纹数据生成方法,采用生成数据的方法来丰富用于训练NILM的数据,避开了数据收集和电器指纹提取的步骤,从而可以解决上述技术中存在的困难。
本发明提供的利用对抗生成网络来生成家用设备的电器指纹数据生成方法,具体步骤为:
步骤1:新增PowerTransGan的生成器(G)和判别器(D)模块;
步骤2:现有模块与新增模块的融合,即将已有模块与新增模块的输出按照一定比重计算进行联合输出;具体根据训练迭代次数是否小于Nf来判断是否需要进行模块融合步骤,Nf为根据实际情况设定的常数;
步骤3:训练生成器,根据噪声代码合成生成的信号数据,并与训练样本的信号数据一同输入判别器中,对判别器进行训练;
步骤4:交替进行生成器和判别器的损失计算,以及对应的优化;
步骤5:阶段性学习,即采用阶段性学习的方法;每一阶段,即新的模块的加入时会经历Ne轮次的训练,所使用的对抗生成网络共有Nm组生成器和判别器模块;因此,每一阶段训练迭代次数未达Ne次时,返回步骤2;若生成器和判别器模块数未达Nm组时,返回步骤1;Ne以及Nm根据实际情况确定,一般地,分别为3000以及7;
步骤6:经过上述步骤1到步骤5的网络训练,得到PowerTransGan,无需再对样本数据进行手动建模,即可用于合成相似于样本数据分布的家用设备电器指纹数据。
下面对各步骤作进一步的具体说明。
步骤1.新增生成器和判别器模块
本发明采用的PowerTransGan网络需设定多组生成器和判别器模块,故总模块数未达设定组数时需要新增生成器和判别器的模块,PowerTransGan总共包含7组生成器和判别器模块。
(1)Transformer编码器
生成器和判别器都以Transformer编码器(Vaswani et al.,2017)【1】为基础块,每一个Transformer编码器由一个多头自注意力模块(multi-head self-attentionmodule)以及一个具有非线性GELU的前馈多层感知机(MLP)共两部分构成,输入会经过层归一化(Ba et al.,2016)【2】到达这两个部分,所有的模块部分都具有残差连接。自输入端到输出端的结构描述:层归一化,多头自注意力模块,残差链接,层归一化,多层感知机,残差链接。
(2)生成器
生成器由多层感知机、堆叠的多个Transformer编码器以及上采样模块构成,整体结构为三层结构,每一层分别堆叠了若干个Transformer编码器模块,自输入端到输出端的结构描述,依次为:多层感知机,5层堆叠的Transformer编码器,2x的上采样模块,2层堆叠的Transformer编码器,2x的上采样模块,2层堆叠的Transformer编码器以及线性逆扁平层。
输入的随机噪声经过一个多层感知机转换成向量形式的信号数据Nz xC(Nz为噪声代码的维度,C为样本数据集中不同数据类别的数量),在经过多次Transformer编码器以及上采样模块之后,输入的数据逐步成为同样本信号数据Ns x 1(Ns为样本数据的维度)相同维度的信号数据。
(3)判别器
判别器由三部分组成,自输入端到输出端的结构描述:一个线性扁平层,7层堆叠的Transformer编码器模块,进行分类预测的模块。
首先输入数据(Ns x(C+1))被分割成8x 8个信号数据块,通过线性扁平层转换成一维序列,并在其中添加可学习的位置编码以及在头部添加[cls]标记,用于下游的分类任务,通过堆叠的Transformer编码器之后,分类预测的模块仅利用[cls]标记进行分类输出真/假的判别结果(Dosovitskiy et al.,2020)【3】。
(4)连接
“To Time-Series”和“From Time-Series”模块都是通过一维卷积实现。在生成器部分,输出先经过一个“To Time-Series”模块,随后再经过一个“FromTime-Series”模块,最后输入到判别器中。
步骤2.现有模块与新增模块的融合,具体包括:
(1)设定参数
设定参数α=min(1,ep/EPf),ep为当前迭代的次数,EPf为每一新增模块需进行模块融合步骤的迭代次数。
(2)输出
新增生成器模块的输出与参数α相乘,再加上已有生成器模块的输出乘以1-α的值,得到模块融合步骤的生成器输出。
(3)完成新增模块
随着迭代次数的增加,α=min(1,ep/EPf)最终为1,此时模块融合步骤结束,新增模块成为现有模块的一部分,这个步骤能够使得新增模块逐步适应在早期的训练过程中获得的知识。
步骤3.训练生成器,根据噪声代码合成真实的信号数据,并与训练样本的信号数据一同输入判别器中,对判别器进行训练,包括以下步骤:
生成器和判别器的输入都包括当前输入电力数据的类别标签l(1xC),C为样本数据集中不同数据类别的数量;
判别器的输入有两种情况,一是从真实数据中获取相应的样本数据以及对应的类别标签,二是利用生成器合成相同数据量以及类别标签的数据。输入信号数据(Ns x 1)与扩展后的类别标签l(1 x C->Ns x C)简单连接得到判别器的输入(Ns x(C+1)),其中Ns为当前信号数据的长度。判别器的输入经过分割成8x 8个信号数据块作为输入。每个数据块经过线性扁平层变为一维序列,然后增添上可学习的位置编码,并在序列的第一个位置附上[cls]标记,用于下游的分类任务;
训练生成器根据噪声代码(Nz x 1)生成尽量接近真实的信号数据,首先扩展噪声代码和类别标签l的维度(1 x C->Nz x C),两者相乘得到生成器的输入矩阵表示形式
Figure BDA0003122294270000033
Figure BDA0003122294270000031
Figure BDA0003122294270000032
相当于将噪声代码的部分放在相应的列矩阵中,其中
Figure BDA0003122294270000041
表示Nz×C维矩阵,
Figure BDA0003122294270000042
上标T表示周期时间内的T维数据长,下标从0~C表示不同数据类别的标签。
步骤4.交替进行生成器和判别器的损失计算,以及对应的优化;具体包括:
(1)定义参数
按照一定规律交替进行生成器的训练,定义ep为当前迭代的次数,R为判别器对生成器训练迭代次数的比率,Sr为真实样本,用来训练判别器的数据,这些数据来自于现有的电器指纹相关数据集;Sg为生成样本,是生成器所生成的、接近真实样本的电器指纹相关数据;Sr以及Sg均为Ns x(C+1)维数据。
(2)判断
l为当前输入的电力数据的类别标签;下标α为步骤2中定义的参数,Dα表示当前迭代次数下根据步骤2处理得到的判别器输入数据;
Figure BDA0003122294270000043
为依据(K.G.Hartmann.,2018)【4】进行当前生成样本数据Sg下的损失计算函数。当ep==0modR为真时,计算生成器的损失
Figure BDA0003122294270000044
为:
Figure BDA0003122294270000045
并依次进行生成器的优化步骤。
(3)损失计算及优化
每次迭代都会进行判别器的训练,计算判别器的损失
Figure BDA0003122294270000046
如下,并进行判别器的优化步骤:
Figure BDA0003122294270000047
其中,
Figure BDA0003122294270000048
为梯度惩罚,其中
Figure BDA0003122294270000049
是真实样本和生成样本的随机加权混合,
Figure BDA00031222942700000410
包含的数据位于真实样本和生成样本之间,Dw表示当前判别器估计的推土机(Wasserstein)距离,当Dw较低时需要及时进行优化,为其梯度惩罚分配较低的权重,该自适应权重确保在反向传播中Dw的值能保持为一个常数值:
Figure BDA00031222942700000411
同时为了确保判别器的输出取值在0的附近,本发明采用了一个小的损失组件
Figure BDA00031222942700000412
其中ε<<1,这个损失有助于提高数值稳定性以及解释训练过程中的损失值:
Figure BDA00031222942700000413
和现有技术相比,本发明的有益效果如下:
本发明提供了一种基于对抗生成网络的家用设备电器指纹数据生成方法,通过设定合理的组织结构,包括不同的输入输出形式和特定的限制条件,对生成对抗网络进行分阶段性训练,实现对家用电器电力签名数据的合成。经过上述步骤充分训练的PowerTransGan网络能够合成真正随机的、贴近真实的家用电器设备的电力签名,能够作为训练非侵入式负荷监测方法的数据增强手段,不需要进行复杂的数据收集和困难的电器指纹提取过程,就能为非侵入式负荷监测方法提供电器指纹数据集来进行训练和测试。
附图说明
图1为本发明PowerTransGan网络的简易训练流程图。
图2为Transformer编码器的结构图,图中
Figure BDA0003122294270000051
表示矩阵加法。
具体实施方式
以下结合附图和实施例对本发明的技术方案进行详细阐述。
实施例:
本发明提出的基于对抗生成网络的家用设备电器指纹数据生成方法,其流程图如图1所示,可分为如下几个步骤:
步骤1:新增PowerTransGan的生成器(G)和判别器(D)模块;
步骤2:根据训练迭代次数是否小于Nf判断是否需要进行模块融合步骤,模块融合步骤是将已有模块与新增模块的输出按照一定比重计算进行联合输出的步骤,本案例中设定Nf为1000;
步骤3:训练生成器根据噪声代码合成生成的信号数据,并与来自REFIT数据集(D.Murray,2017)【5】的信号数据一同输入判别器中对判别器进行训练;
步骤4:交替进行生成器和判别器的损失计算以及对应的优化过程;
步骤5:若训练迭代次数未达3000次,返回步骤2,若生成器和判别器模块数未达7组,返回步骤1;
步骤6:训练完成的PowerTransGan能够合成多样且真实的家用设备电器指纹数据。
1.新增生成器和判别器模块
本发明采用的是阶段性学习的方法,故每一阶段新模块的加入时会经历一定轮次的训练,本案例中PowerTransGan网络设定7组生成器和判别器模块,当总模块数未达7组时需要重复步骤1。
(1)Transformer编码器
生成器和判别器都以Transformer编码器为基础块,每一个Transformer编码器自输入端到输出端的结构描述:层归一化,多头自注意力模块,残差链接,层归一化,多层感知机,残差链接,第一个残差链接为第一个层归一化之前的数据与多头自注意力模块处理后的数据相连,第二个残差链接为第二个层归一化之前的数据与多头感知机处理后的数据相连。
(2)生成器
生成器由多层感知机、堆叠的多个Transformer编码器以及上采样模块构成,整体结构为三层结构,每一层分别堆叠了若干个Transformer编码器模块,自输入端到输出端的结构描述:多层感知机,5层堆叠的Transformer编码器,2x的上采样模块,2层堆叠的Transformer编码器,2x的上采样模块,2层堆叠的Transformer编码器以及线性逆扁平层;
输入的随机噪声经过一个多层感知机转换成向量形式的信号数据(Nz xC,Nz为噪声代码的维度,C为样本数据集中不同数据类别的数量),在经过多次Transformer编码器以及上采样模块之后,输入的数据逐步成为同样本信号数据(Ns x 1,Ns为1/8赫兹条件下的采样维度)相同维度的信号数据。
(3)判别器
判别器由三部分组成,自输入端到输出端的结构描述:一个线性扁平层,7层堆叠的Transformer编码器模块,进行分类预测的模块。
首先输入数据(Ns x(C+1))被分割成8x8个信号数据块,通过线性扁平层转换成一维序列,并在其中添加可学习的位置编码以及在头部添加[cls]标记,用于下游的分类任务,通过堆叠的Transformer编码器之后,分类预测的模块仅利用[cls]标记进行分类输出真/假的判别结果。
(4)连接
“To Time-Series”和“From Time-Series”模块都是通过一维卷积实现。在生成器部分,输出先经过一个“To Time-Series”模块,随后再经过一个“FromTime-Series”模块,最后输入到判别器中。
2.判断是否进行模块融合步骤
(1)设定参数
设定参数α=min(1,ep/EPf),ep为当前迭代的次数,EPf为每一新增模块需进行模块融合步骤的迭代次数,此案例中设定为1000;
(2)输出
新增生成器模块的输出与参数α相乘,再加上已有生成器模块的输出乘以1-α的值得到模块融合步骤的生成器输出;
(3)完成新增模块
当迭代次数大于等于1000次时,α=min(1,ep/EPf)等于1,此时模块融合步骤结束,新增模块成为现有模块的一部分,这个步骤能够使得新增模块逐步适应在早期的训练过程中获得的知识。
3.数据处理
训练生成器根据噪声代码合成真实的信号数据,并与训练样本的信号数据一同输入判别器中对判别器进行训练,包括以下步骤:
本案例中,生成器和判别器的输入都包括当前输入电力数据的类别标签l(1xC),C为20,总共包含5种电器设备的4种状态类别,5种电器设备分别为冰箱(连同冰箱和混合冰箱)、洗衣机、滚筒式烘干机、洗碗机和微波炉,4种状态分别为开启瞬态,多变状态,动态运行状态以及持续运行(周期性)状态;
判别器的输入有两种情况,一是从真实数据中获取相应的样本数据以及对应的类别标签,二是利用生成器合成相同数据量以及类别标签的数据。输入信号数据(Ns x 1)与扩展后的类别标签l(1 x C->Ns x C)简单连接得到判别器的输入(Ns x(C+1)),其中Ns为当前信号数据的长度。判别器的输入经过分割成8x8个信号数据块作为输入。每个数据块经过线性扁平层变为一维序列,然后增添上可学习的位置编码,并在序列的第一个位置附上[cls]标记,用于下游的分类任务;
训练生成器根据噪声代码(Nz x 1)生成尽量接近真实的信号数据,首先扩展噪声代码和类别标签l的维度(1 x C->Nz x C),两者相乘得到生成器的输入矩阵表示形式
Figure BDA0003122294270000075
Figure BDA0003122294270000071
Figure BDA0003122294270000072
相当于将噪声代码的部分放在相应的列矩阵中,其中
Figure BDA0003122294270000073
表示Nz×20维矩阵,
Figure BDA0003122294270000074
上标T表示周期时间内的T维数据长,下标从0~20表示不同电器设备处于不同状态下的标签。
4.交替进行生成器和判别器的优化
(1)定义参数
按照一定规律交替进行生成器的训练,定义ep为当前迭代的次数,R为判别器对生成器训练迭代次数的比率,Sr为真实样本,用来训练判别器的数据,这些数据来自于现有的电器指纹相关数据集;Sg为生成样本,是生成器所生成的、接近真实样本的电器指纹相关数据;Sr以及Sg均为Ns x(C+1)维数据。
(2)判断
l为当前输入的电力数据的类别标签;下标α为步骤2中定义的参数,Dα表示当前迭代次数下根据步骤2处理得到的判别器输入数据;
Figure BDA0003122294270000081
为依据进行当前生成样本数据Sg下的损失计算函数。当ep==0modR为真时,计算生成器的损失
Figure BDA0003122294270000082
为:
Figure BDA0003122294270000083
并依次进行生成器的优化步骤。
(3)损失计算及优化
每次迭代都会进行判别器的训练,计算判别器的损失
Figure BDA0003122294270000084
并进行判别器的优化步骤:
Figure BDA0003122294270000085
其中,
Figure BDA0003122294270000086
为梯度惩罚,其中
Figure BDA0003122294270000087
是真实样本和生成样本的随机加权混合,
Figure BDA0003122294270000088
包含的数据位于真实样本和生成样本之间,取均值,Dw表示当前判别器估计的推土机(Wasserstein)距离,当Dw较低时需要及时进行优化,为其梯度惩罚分配较低的权重,该自适应权重确保在反向传播中Dw的值能保持为一个常数值:
Figure BDA0003122294270000089
同时为了确保判别器的输出取值在0的附近,本发明采用了一个小的损失组件
Figure BDA00031222942700000810
设定ε=1×10-10,这个损失有助于提高数值稳定性以及解释训练过程中的损失值:
Figure BDA00031222942700000811
5.阶段性学习
本发明采用的是阶段性学习的方法,所以每一阶段,即新的模块的加入时会经历3000个轮次的训练,PowerTransGan网络共有7组生成器和判别器模块,故每一阶段训练迭代次数不足3000时返回步骤2,总模块数未达7组时返回步骤1。
6.合成数据
经过上述步骤1到步骤5的网络训练过程,得到的PowerTransGan无需再对样本数据进行手动建模,就能够合成相似于样本数据分布的家用设备的电器指纹数据;
(1)对于冰箱这一类电器生成的电器指纹数据保持了其周期性的性质以及开启瞬态的功耗峰值,动态运行状态下的频率和激活过程中的占空比均变化较小;
(2)生成的洗衣机电器指纹准确地保留了各种洗涤循环状态的复杂状态转变,对于多变状态这一情形处理的很好,能够生成在洗衣机的自旋周期中发生的可变运行状态电器指纹数据;
(3)滚筒式烘干机周期性发生的功耗下降特征能够在生成的电器指纹数据中准确的进行反映,并在运行窗口内捕捉到多个激活状态;
(4)生成的洗碗机电器指纹能够保持原始洗碗机的多状态特性,且不会产生大量的开关噪音;
(5)微波炉使用时间短暂,生成的微波炉电器指纹数据能够描绘真实工作状态下的低占空比特性,并且能够生成快速切换状态(如解冻程序)下的微波炉运行状态电器指纹数据。
本发明提供了一种基于对抗生成网络的家用设备电器指纹数据生成方法,通过设定合理的组织结构,包括不同的输入输出形式和特定的限制条件,对生成对抗网络进行分阶段性训练,实现对家用设备的电器指纹数据合成。经过上述步骤充分训练的PowerTransGan网络能够合成真正随机的、贴近真实的家用设备的电器指纹数据,能够作为训练非侵入式负荷监测方法的数据增强手段,不需要进行复杂的数据收集和困难的电器指纹提取过程,就能为非侵入式负荷监测方法提供电器指纹数据集来进行训练和测试。
虽然本案例是在特定数据集上进行训练的,但是PowerTransGan可以作为增强工具生成训练数据,帮助研究人员训练非侵入式负荷监测方法,并且本发明所提出的框架可以作用于任何期望用来训练的电力数据集上,并且可在任何采样频率上进行训练,具有通用性。
参考文献
【1】Vaswani,A.,Shazeer,N.,Parmar,N.,Uszkoreit,J.,Jones,L.,Gomez,A.N.,Kaiser,
Figure BDA0003122294270000091
andPolosukhin,I.Attention is all you need.In Advances in neuralinformation processing systems,pp.5998–6008,2017.
【2】Ba,J.L.,Kiros,J.R.,and Hinton,G.E.Layer normalization.arXivpreprint arXiv:1607.06450,2016.
【3】Brock,A.,Donahue,J.,and Simonyan,K.Large scale gantraining forhigh fidelity natural image synthesis.arXivpreprint arXiv:1809.11096,2018.
【4】K.G.Hartmann,R.T.Schirrmeister,and T.Ball,“Eeg-gan:Generativeadversarial networks for electroencephalograhic(eeg)brain signals,”arXiv preprint arXiv:1806.01875,2018.
【5】D.Murray,L.Stankovic,and V.Stankovic,“An electrical loadmeasurements dataset of united kingdom households from a two-yearlongitudinalstudy,”Scientific data,vol.4,no.1,pp.1–12,2017.。

Claims (5)

1.一种基于对抗生成网络的家用设备电器指纹数据生成方法,其特征在于,具体步骤为:
步骤1:新增PowerTransGan的生成器(G)和判别器(D)模块;
步骤2:现有模块与新增模块的融合,即将已有模块与新增模块的输出按照一定比重计算进行联合输出;具体根据训练迭代次数是否小于Nf来判断是否需要进行模块融合步骤,Nf为根据实际情况设定的常数;
步骤3:训练生成器,根据噪声代码合成生成的信号数据,并与训练样本的信号数据一同输入判别器中,对判别器进行训练;
步骤4:交替进行生成器和判别器的损失计算,以及对应的优化;
步骤5:阶段性学习,即采用阶段性学习的方法;每一阶段,即新的模块的加入时会经历Ne轮次的训练,所使用的对抗生成网络共有Nm组生成器和判别器模块;因此,每一阶段训练迭代次数未达Ne次时,返回步骤2;若生成器和判别器模块数未达Nm组时,返回步骤1;Ne以及Nm根据实际情况确定;
步骤6:经过上述步骤1到步骤5的网络训练,得到PowerTransGan,用于合成相似于样本数据分布的家用设备电器指纹数据;
步骤1中,采用的PowerTransGan网络需设定多组生成器和判别器模块,总模块数未达设定组数时需要新增生成器和判别器的模块,PowerTransGan总共包含7组生成器和判别器模块;其中:
(1)所述生成器,由多层感知机、堆叠的多个Transformer编码器以及上采样模块构成,整体结构为三层结构,每一层分别堆叠了若干个Transformer编码器模块,自输入端到输出端的结构描述,依次为:多层感知机,5层堆叠的Transformer编码器,2x的上采样模块,2层堆叠的Transformer编码器,2x的上采样模块,2层堆叠的Transformer编码器以及线性逆扁平层;
输入的随机噪声经过一个多层感知机转换成向量形式的信号数据Nz xC,Nz为噪声代码的维度,C为样本数据集中不同数据类别的数量,在经过多次Transformer编码器以及上采样模块之后,输入的数据逐步成为同样本信号数据Ns x1相同维度的信号数据,Ns为样本数据的维度;
(2)所述判别器,由三部分组成,自输入端到输出端的结构依次为:一个线性扁平层,7层堆叠的Transformer编码器模块,进行分类预测的模块;
首先,输入数据Ns x(C+1)被分割成8x8个信号数据块,通过线性扁平层转换成一维序列,并在其中添加可学习的位置编码以及在头部添加[cls]标记,用于下游的分类任务,通过堆叠的Transformer编码器之后,分类预测的模块仅利用[cls]标记进行分类输出真/假的判别结果;
(3)采用“To Time-Series”和“From Time-Series”进行连接;即在生成器部分,输出先经过一个“To Time-Series”模块,随后再经过一个“FromTime-Series”模块,最后输入到判别器中;所述“To Time-Series”和“From Time-Series”模块通过一维卷积实现;
其中,所述Transformer编码器,由一个多头自注意力模块以及一个具有非线性GELU的前馈多层感知机(MLP)构成,输入经过层归一化到达这两个部分,所有的模块部分都具有残差连接;自输入端到输出端的结构依次为:层归一化,多头自注意力模块,残差链接,层归一化,多层感知机,残差链接。
2.根据权利要求1所述的基于对抗生成网络的家用设备电器指纹数据生成方法,其特征在于,步骤2中所述现有模块与新增模块的融合,具体包括:
(1)设定参数
设定参数α=min(1,ep/EPf),ep为当前迭代的次数,EPf为每一新增模块需进行模块融合步骤的迭代次数;
(2)输出
新增生成器模块的输出与参数α相乘,再加上已有生成器模块的输出乘以1-α的值,得到模块融合步骤的生成器输出;
(3)完成新增模块
随着迭代次数的增加,α=min(1,ep/EPf)最终为1,此时模块融合步骤结束,新增模块成为现有模块的一部分。
3.根据权利要求2所述的基于对抗生成网络的家用设备电器指纹数据生成方法,其特征在于,步骤3中所述训练生成器,根据噪声代码合成真实的信号数据,并与训练样本的信号数据一同输入判别器中,对判别器进行训练,具体包括:
生成器和判别器的输入都包括当前输入电力数据的类别标签l(1xC),C为样本数据集中不同数据类别的数量;
判别器的输入有两种情况,一是从真实数据中获取相应的样本数据以及对应的类别标签,二是利用生成器合成相同数据量以及类别标签的数据;输入信号数据Ns x1与扩展后的类别标签l(1x C->Ns x C)简单连接得到判别器的输入Ns x(C+1),其中,Ns为当前信号数据的长度;判别器的输入经过分割成8x8个信号数据块作为输入;每个数据块经过线性扁平层变为一维序列,然后增添上可学习的位置编码,并在序列的第一个位置附上[cls]标记,用于下游的分类任务;
训练生成器根据噪声代码Nz x1生成尽量接近真实的信号数据,首先扩展噪声代码和类别标签l的维度(1x C->Nz x C),两者相乘得到生成器的输入矩阵表示形式
Figure FDA0003122294260000031
Figure FDA0003122294260000032
Figure FDA0003122294260000033
相当于将噪声代码的部分放在相应的列矩阵中,其中
Figure FDA0003122294260000034
表示Nz×C维矩阵,
Figure FDA0003122294260000035
上标T表示周期时间内的T维数据长,下标从0~C表示不同数据类别的标签。
4.根据权利要求3所述的基于对抗生成网络的家用设备电器指纹数据生成方法,其特征在于,步骤4中所述交替进行生成器和判别器的损失计算,以及对应的优化,具体包括:
(1)定义参数
按照一定规律交替进行生成器的训练,定义ep为当前迭代的次数,R为判别器对生成器训练迭代次数的比率,Sr为真实样本,用来训练判别器的数据,这些数据来自于现有的电器指纹相关数据集;Sg为生成样本,是生成器所生成的、接近真实样本的电器指纹相关数据;Sr以及Sg均为Ns x(C+1)维数据;
(2)判断
l为当前输入的电力数据的类别标签;下标α为步骤2中定义的参数,Dα表示当前迭代次数下根据步骤2处理得到的判别器输入数据;
Figure FDA0003122294260000036
为当前生成样本数据Sg下的损失计算函数;当ep==0modR为真时,计算生成器的损失
Figure FDA0003122294260000037
为:
Figure FDA0003122294260000038
并依次进行生成器的优化;
(3)损失计算及优化
每次迭代都会进行判别器的训练,计算判别器的损失
Figure FDA0003122294260000039
如下,并进行判别器的优化步骤:
Figure FDA00031222942600000310
其中,
Figure FDA00031222942600000311
为梯度惩罚,
Figure FDA00031222942600000312
是真实样本和生成样本的随机加权混合,
Figure FDA00031222942600000313
包含的数据位于真实样本和生成样本之间,Dw表示当前判别器估计的推土机距离,当Dw较低时需要及时进行优化,为其梯度惩罚分配较低的权重,该自适应权重确保在反向传播中Dw的值能保持为一个常数值:
Figure FDA0003122294260000041
同时为了确保判别器的输出取值在0的附近,采用一个小的损失组件
Figure FDA0003122294260000042
其中ε<<1,这个损失有助于提高数值稳定性以及解释训练过程中的损失值:
Figure FDA0003122294260000043
5.根据权利要求1-4之一所述的基于对抗生成网络的家用设备电器指纹数据生成方法,其特征在于,所述Ne取为3000,所述Nm取为7。
CN202110679438.7A 2021-06-18 2021-06-18 基于对抗生成网络的家用设备电器指纹数据生成方法 Pending CN113343876A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110679438.7A CN113343876A (zh) 2021-06-18 2021-06-18 基于对抗生成网络的家用设备电器指纹数据生成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110679438.7A CN113343876A (zh) 2021-06-18 2021-06-18 基于对抗生成网络的家用设备电器指纹数据生成方法

Publications (1)

Publication Number Publication Date
CN113343876A true CN113343876A (zh) 2021-09-03

Family

ID=77477458

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110679438.7A Pending CN113343876A (zh) 2021-06-18 2021-06-18 基于对抗生成网络的家用设备电器指纹数据生成方法

Country Status (1)

Country Link
CN (1) CN113343876A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113537416A (zh) * 2021-09-17 2021-10-22 深圳市安软科技股份有限公司 基于生成式对抗网络的文本转换图像的方法及相关设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110489661A (zh) * 2019-07-24 2019-11-22 武汉大学 一种基于生成对抗网络和迁移学习的社交关系预测方法
US20200160176A1 (en) * 2018-11-16 2020-05-21 Royal Bank Of Canada System and method for generative model for stochastic point processes
CN111275057A (zh) * 2020-02-13 2020-06-12 腾讯科技(深圳)有限公司 图像处理方法、装置及设备
US20210104975A1 (en) * 2019-10-04 2021-04-08 The Florida International University Board Of Trustees Systems and methods for power management

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200160176A1 (en) * 2018-11-16 2020-05-21 Royal Bank Of Canada System and method for generative model for stochastic point processes
CN110489661A (zh) * 2019-07-24 2019-11-22 武汉大学 一种基于生成对抗网络和迁移学习的社交关系预测方法
US20210104975A1 (en) * 2019-10-04 2021-04-08 The Florida International University Board Of Trustees Systems and methods for power management
CN111275057A (zh) * 2020-02-13 2020-06-12 腾讯科技(深圳)有限公司 图像处理方法、装置及设备

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
ALON HARELL ET AL.: "PowerGAN: Synthesizing Appliance Power Signatures Using Generative Adversarial Networks", 《ARXIV.ORG》 *
EMILY DENTON ET AL.: "Deep Generative Image Models using a Laplacian Pyramid of Adversarial Networks", 《ARXIV.ORG》 *
YIFAN JIANG ET AL.: "TransGAN: Two Transformers Can Make One Strong GAN", 《ARXIV.ORG》 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113537416A (zh) * 2021-09-17 2021-10-22 深圳市安软科技股份有限公司 基于生成式对抗网络的文本转换图像的方法及相关设备

Similar Documents

Publication Publication Date Title
Faustine et al. Adaptive weighted recurrence graphs for appliance recognition in non-intrusive load monitoring
Liu et al. Energy disaggregation of appliances consumptions using ham approach
CN109685314B (zh) 一种基于长短期记忆网络的非侵入负荷分解方法和系统
Uyar et al. An effective wavelet-based feature extraction method for classification of power quality disturbance signals
Fang et al. Nonintrusive appliance identification with appliance-specific networks
CN109165604A (zh) 基于协同训练的非侵入式负荷识别方法及其测试系统
Li et al. A nonintrusive load identification model based on time-frequency features fusion
CN103020459A (zh) 一种多维度用电行为的感知方法及系统
de Paiva Penha et al. Convolutional neural network applied to the identification of residential equipment in non-intrusive load monitoring systems
CN109214356A (zh) 一种基于dcnn模型的风机传动系统故障智能诊断方法
CN111639586B (zh) 非侵入式负荷识别模型构建方法、负荷识别方法及系统
CN114722873A (zh) 一种基于残差卷积和注意力机制的非侵入式负荷分解方法
CN113902104A (zh) 联合无监督域自适应策略和注意力机制的非侵入式负荷监测方法
CN114692506A (zh) 一种基于改进TimeGAN模型的小样本故障诊断方法
Kang et al. Adaptive non-intrusive load monitoring based on feature fusion
CN109840691A (zh) 基于深度神经网络的非侵入式分项电量估计方法
CN114595858A (zh) 基于滚动时间序列和支持向量机的短期风速预测方法和系统
CN113343876A (zh) 基于对抗生成网络的家用设备电器指纹数据生成方法
CN113076985A (zh) 电力用户负荷识别方法、装置及计算机可读介质
CN117272230A (zh) 一种基于多任务学习模型的非侵入式负荷监测方法和系统
Ma et al. Deep flexible transmitter networks for non-intrusive load monitoring of power distribution networks
Li et al. Adaptive fusion feature transfer learning method for NILM
CN115859190A (zh) 一种基于因果关系的非侵入式家庭电气分类方法
CN116167654A (zh) 一种基于多任务学习的非侵入式负荷监测方法
CN111539275B (zh) 一种基于负载特性可视化的电气负载分类方法和系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20210903