CN110837934A

CN110837934A - 一种基于深度学习的智能电网短期住宅负荷预测方法

Info

Publication number: CN110837934A
Application number: CN201911094641.7A
Authority: CN
Inventors: 周颖杰; 洪晔; 朱策; 李子璐; 李政辉
Original assignee: Sichuan University
Current assignee: Sichuan University
Priority date: 2019-11-11
Filing date: 2019-11-11
Publication date: 2020-02-25
Anticipated expiration: 2039-11-11
Also published as: CN110837934B

Abstract

本发明公开了一种基于深度学习的智能电网短期住宅负荷预测方法，该负荷预测方法包括采集用电设备负荷数据，对用电设备负荷数据进行数据预处理，建立基于迭代残差块的深度神经网络模型并进行训练，同时对超参数进行优化，利用训练好的IRBDNN模型进行负荷预测。本发明根据用电设备负荷数据之间的时空相关性，建立基于迭代残差块的深度神经网络模型进行深度学习，同时利用序列网格搜索方法进行参数调优，显著提高了短期负荷预测的性能和预测精度。

Description

一种基于深度学习的智能电网短期住宅负荷预测方法

技术领域

本发明涉及智能电网技术领域，具体涉及一种基于深度学习的智能电网短期住宅负荷预测方法。

背景技术

近年来，电力系统住宅需求响应问题引起了学术界和工业界的广泛关注。需求响应对于维持智能电网系统可靠高效运行至关重要。在住宅配电中，需求响应可以管理电力系统向用户的供电，使系统负荷平稳。短期负荷预测(Short-Term Load Forecasting，以下简称STLF)预测用户近期的需求，为住宅需求响应决策提供关键信息。一方面，STLF可以满足用户的用电需求，降低停电的风险。另一方面，STLF可以帮助电力公司和居民用户在经济上受益。现有的STLF方法可分为两类:综合负荷预测和个体用户负荷预测。综合负荷预测是对某一特定区域(如城市或居住小区)所有用户的总用电量进行估算，已得到广泛的研究，其可以帮助电力系统调度发电和输电。然而，针对个人住宅用户的负荷预测仍具有挑战性和一定难度，主要因为个人用户的用电行为具有随机性和动态性。目前，国内外已对个人住宅用户短期负荷预测做了一定研究，提出了很多方法。这些方法主要有如下两类：一种是采用聚类技术获取具有相似用电行为的用户群体，如T.Teeraratkul等人提出的一种基于形状的STLF聚类方法；另一种是利用深度学习技术进行STLF，如W.Kong等人提出的一种基于长短时记忆递归神经网络(LSTM-RNN)的住宅STLF框架，及Kim等人提出的CNN-LSTM模型。

虽然上述方法在某些方面取得了一定的进展，但没有考虑到以不同用电设备负荷数据为代表的不同类型的用电行为之间的时空相关性，即不同类型用电设备的用电行为之间的时空相关，以及历史用电行为与未来用电行为之间的时空相关。对于个人用户，不同用电设备的用户用电行为存在空间相关性。时间相关性是指历史用电行为与未来用电行为的相似性。更具体地说，未来发生的用电行为(如洗衣机用电量)很可能与过去发生相同行为的时间相近。这些相关性存在于负荷分布中，对个人用户的负荷预测具有重要意义。

发明内容

针对现有技术中的上述不足，本发明提供的一种基于深度学习的智能电网短期住宅负荷预测方法，利用用电设备负荷数据之间的时空相关性，提高了STLF的性能和预测精度。

为了达到上述发明目的，本发明采用的技术方案为：

一种基于深度学习的智能电网短期住宅负荷预测方法，包括以下步骤：

S1、采集智能电网用户包含不同用电行为之间时空相关性的用电设备负荷数据；

S2、对步骤S1采集的用电设备负荷数据进行数据预处理；

S3、建立基于迭代残差块的深度神经网络模型，利用步骤S2预处理后的用电设备负荷数据进行模型训练，并采用序列网格搜索方法进行超参数优化处理；

S4、利用步骤S3处理后的模型对待预测用电设备负荷数据进行负荷预测。

进一步地，所述步骤S2中数据预处理包括数据清洗、数据集成和数据转换；

所述数据清洗具体为判断用电设备负荷数据缺失值持续时间长度是否小于设定阈值；若是则根据缺失值前后的值以及对应时间内其他日期的值来估计当前缺失值，否则忽略当天的负荷数据；

所述数据集成具体为计算负荷数据在一定时间内的总量，以形成比原始数据集记录频率更低的数据集；同时对每台用电设备的负荷数据进行归一化处理；

所述数据转换具体为将数据集成后的数据集转换为满足预测需求的记录频率更低的数据集。

进一步地，所述步骤S2进行数据预处理后还包括根据预处理后的用电设备负荷数据构造多个时间序列，形成基于迭代残差块的深度神经网络模型的输入，将预测总负荷E₀(t₀+1)的序列表示为：

X(t₀)＝{E₁(t₀-T+1),E₁(t₀-T+2),...,E₁(t₀),...,

E₂(t₀-T+1),E₂(t₀-T+2),...,E₂(t₀),...,

E_i(t₀-T+1),E_i(t₀-T+2),...,E_i(t₀),...,

E₀(t₀-T+1),E₀(t₀-T+2),...,E_i(t₀)}

其中，X(t₀)为输入向量，E_i(t₀)为用电设备i在时间间隔t₀内的预处理后各用电设备负荷数据，E₀(t₀)为时间间隔t₀内的总体负荷数据，T为用于预测的历史记录长度。

进一步地，所述步骤S3建立的基于迭代残差块的深度神经网络模型由堆叠层和迭代残差块构成；当迭代次数t＝0时，残差块退化为非迭代结构，基于迭代残差块的深度神经网络模型退化为深度神经网络模型；当迭代次数t＝t₀时，残差块t₀由m个堆叠层、残差块(t₀+1)和一个跨层连接组成；当迭代次数t为最后一次迭代时，残差块(t₀+1)退化为n个堆叠层。

进一步地，所述基于迭代残差块的深度神经网络模型的迭代过程表示为：

y＝F(x₁,θ₁)+W(x₀)

F(x₁,θ₁)＝F(x₂,θ₂)+W₁(x₁)

...

F(x_t,θ_t)＝F(x_t+1,θ_t+1)+W_t(x_t)

其中，F(x_t+1,θ_t+1)是以x_t为输入，经过残差块(t+1)中m+n个堆叠层的输出；y为基于迭代残差块的深度神经网络模型的输出，θ为与模型相关的权重和偏置，W_t为适配可能的维数变化的线性映射。

进一步地，所述采用序列网格搜索方法进行超参数优化处理具体包括以下分步骤：

A1、将预处理后的用电设备负荷数据划分为训练集和测试集；

A2、初始化神经元数量、学习率和初始化器；

A3、利用当前超参数训练基于迭代残差块的深度神经网络模型，得到当前模型的预测效果；

A4、判断在当前学习率和初始化器设置下是否遍历完神经元数量；若是则进行步骤A5，否则更新神经元数量后返回步骤A3；

A5、判断在当前初始化器设置下是否遍历完学习率；若是则进行步骤A6，否则更新学习率后返回步骤A3；

A6、将模型的神经元数量和学习率定义为最优神经元数量和学习率；

A7、利用当前超参数训练基于迭代残差块的深度神经网络模型，得到当前模型的预测效果；

A8、判断是否遍历完初始化器；若是则进行步骤A9，否则更新初始化器后返回步骤A7；

A9、将模型的神经元数量、学习率和初始化器定义为最优神经元数量、学习率以及初始化器。

进一步地，所述利用当前超参数训练基于迭代残差块的深度神经网络模型，得到当前模型的预测效果，具体包括以下分步骤：

B1、根据已定义的超参数建立基于迭代残差块的深度神经网络模型，输入训练集；

B2、训练后得到基于迭代残差块的深度神经网络模型中各层的最优权重和偏置；

B3、将验证集输入至基于迭代残差块的深度神经网络模型；

B4、记录基于迭代残差块的深度神经网络模型对验证集处理得到的负荷预测结果，得到预测准确度，以预测准确度作为预测效果的评价指标。

本发明具有以下有益效果：

(1)本发明利用用电设备负荷数据之间的时空相关性，提高了STLF的性能和预测精度；

(2)本发明使用具有迭代残差块结构的深度神经网络，用于学习框架中不同类型的用电行为之间的时空相关性，该结构能够具有较强的学习能力且易于训练；

(3)本发明使用序列网格搜索方法进行参数调优，序列网格搜索方法能够较高效地对所构建模型进行超参数调优。

附图说明

图1为本发明基于深度学习的智能电网短期住宅负荷预测方法流程示意图。

图2为堆叠层和残差块的结构示意图；其中图(a)为堆叠层结构，图(b)为残差块结构。

图3为IRBDNN模型结构示意图。

图4为序列网格搜索方法流程示意图。

图5为权重和偏置优化方法流程示意图。

具体实施方式

下面对本发明的具体实施方式进行描述，以便于本技术领域的技术人员理解本发明，但应该清楚，本发明不限于具体实施方式的范围，对本技术领域的普通技术人员来讲，只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内，这些变化是显而易见的，一切利用本发明构思的发明创造均在保护之列。

本发明实施例提供了一种基于深度学习的智能电网短期住宅负荷预测方法，由数据采集、数据预处理、模型训练以及负荷预测四个步骤组成；如图1所示，包括以下步骤S1至S4：

S1、采集智能电网用户包含不同用电行为之间时空相关性的用电设备负荷数据。

在本实施例中，通过从家庭智能电表中采集测量数据，智能电表为每个家庭用户报告用电设备用电数据，用电设备用电数据中包含了时空相关性。

采集住宅STLF用电设备的负荷数据，用电设备负荷数据包含了不同用电行为之间的时空相关性。

住宅STLF用电设备的负荷数据的获取有以下两种方法：

一种方法是为每个用电设备安装负载监控基础设施，它可以报告用电设备的电力使用情况。但是这种方式需要额外的电力监测设备，会增加电力系统的成本。

另一种方法是使用非侵入式的用电设备负荷监测技术，该技术应用分解算法将整个家庭负荷分解为用电设备的负荷数据，或者将某些用电设备的负荷从家庭总负荷中分解出来。进行分解之后，得到了包含时空相关性的用电设备负荷。

S2、对步骤S1采集的用电设备负荷数据进行数据预处理。

在本实施例中，数据预处理包括数据清洗、数据集成和数据转换操作，以提高STLF模型输入的数据质量。

上述数据清洗操作可以采用两种方式来处理数据缺失问题，即判断用电设备负荷数据缺失值持续时间长度是否小于设定阈值；若是则可以根据缺失值前后的值以及对应时间内其他日期的值来估计当前缺失值，否则忽略当天的负荷数据。

上述数据集成操作是由于负荷监测设备的记录频率可能不同，因此需要进行数据集成来为预测模型的输入提供统一的格式；其中一种数据集成方法是计算负荷数据在一定时间内的总量。由于原始数据的采样频率可能不是等间隔的，因此可以采用数据集成将原始数据集成，将非等间隔采样频率下的数据计算为等间隔的采样频率更低一些的数据，例如原始数据的采样频率可能是每1-3s一条记录，通过数据集成后得到采样频率为每1min一条记录。

同时，数据集成还需要对每台用电设备的负荷数据进行归一化处理，使不同类型的用电设备负荷数据对预测结果的影响相等。

上述数据转换操作是由于负荷监测基础设施的记录频率的单位通常是秒。但是，在秒级别的负荷数据通常不适用于STLF。其中一个原因是是用户用电行为的动态性和随机性；另一个原因是秒级别的负荷记录噪声过大，增加了预测模型的训练难度。因此有必要进行数据转换处理，将数据集成后的数据集转换为记录频率更低的数据集，以获得负荷STLF预测要求的原始数据集的简化表示。经过数据转换处理后，被处理数据集的记录频率将低于数据集成后的数据集，例如，将数据集成后得到采样频率为每1min一条记录转换为采样频率为每30min一条记录或每60min一条记录。

在进行数据预处理后，本方案还包括根据预处理后的用电设备负荷数据构造多个时间序列，形成基于迭代残差块的深度神经网络模型的输入。时间序列由多个负荷值组成，每个负荷值表示一段时间内的电力消耗。在本方案中，使用“时间间隔”来表示持续时间。用电设备i在时间间隔t₀内的预处理负荷数据表示为E_i(t₀)，时间间隔t₀内的总体负荷(如某一住户的总体电力消耗)表示为E₀(t₀)。

将预测总负荷E₀(t₀+1)的序列表示为：

X(t₀)＝{E₁(t₀-T+1),E₁(t₀-T+2),...,E₁(t₀),...,

E₂(t₀-T+1),E₂(t₀-T+2),...,E₂(t₀),...,

E_i(t₀-T+1),E_i(t₀-T+2),...,E_i(t₀),...,

E₀(t₀-T+1),E₀(t₀-T+2),...,E_i(t₀)}

S3、建立基于迭代残差块的深度神经网络模型，利用步骤S2预处理后的用电设备负荷数据进行模型训练，并采用序列网格搜索方法进行超参数优化处理。

在本实施例中，本方案提出了一种基于迭代残差块的深度神经网络(IterativeResblocks Based Deep Neural Network，以下简称IRBDNN)模型，该模型在深度神经网络(Deep Neural Network，以下简称DNN)中使用迭代残差块，能够学习不同用户用电行为之间的时空相关性。

一般来说，模型深度的增加能够增强神经网络的学习能力。然而，在实践中，深层学习模型的性能可能会下降，可能因为数据本身的特性或者是深度学习模型的优化较为困难，因此本方案提出的IRBDNN模型利用迭代残差块在STLF任务中学习时空相关性，从而保证了模型的学习能力。

上述IRBDNN模型由堆叠层和迭代残差块构成，如图2和3所示。当迭代次数t＝0时，残差块退化为非迭代结构，基于迭代残差块的深度神经网络模型退化为深度神经网络模型；当t＝1时，第一个残差块(下称残差块1)的输入通过跨层连接添加到残差块1的输出中，残差块1由三个部分组成：m个堆叠层、残差块2和一个跨层连接；当迭代次数t＝t₀时，迭代重复t₀次，残差块t₀由m个堆叠层、残差块(t₀+1)和一个跨层连接组成；当迭代次数t为最后一次迭代时，残差块(t₀+1)退化为n个堆叠层(m>0,n>0)。

残差块是一种不同于堆叠层的结构，它与广泛应用于图像分类问题的残差网络的构建块类似，但是有不同之处。残差块中跨层连接(Skip Connection)的输入和输出可以有着不同的维度，而在残差网络的构建块中，它们通常是相同的。残差块的基本结构由两个部分组成，少数堆叠层和一个跨层连接。堆叠层由少量隐藏层组成，相邻层直接相连。图2(a)示出了两个堆叠层的结构。堆叠层的输入为x，堆叠层的输出为y＝F(x)。图2(b)示出了一个残差块的结构，它由两个堆叠层和一个跳跨层连接组成。当跨层连接的输入和输出具有相同的维度时，它是典型的恒等映射(Identical Mapping)。因此，对应的残差块的输出为y＝F(x)+x，当跨层连接的输入和输出在不同维度时，跨层连接作为线性映射来匹配维度的变化。对应的残差块的输出是y＝F(x)+Wx，其中W是一个线性映射。当堆叠层与残差块包含相同数量的隐藏层时，跨层连接可以确保残差块的学习能力不低于堆叠层的学习能力。

IRBDNN模型的结构使得模型能够同时学习输入向量的深层特征和浅层特征。此外，迭代残差块的结构使得深层IRBDNN模型的学习能力不比浅层IRBDNN模型差。

对于IRBDNN模型中的每一个残差块，其输入通过跨层连接直接与输出链接，从而保证当前嵌入更深的残差块的学习能力不劣于没有嵌入更深的残差块。该结构使得模型能够充分利用不同用电行为之间的时空相关性。如上所述，当迭代次数为0时，IRBDNN模型的结构退化为DNN结构。当迭代次数不小于1时，IRBDNN方法的迭代过程表示为：

y＝F(x₁,θ₁)+W(x₀)

F(x₁,θ₁)＝F(x₂,θ₂)+W₁(x₁)

...

F(x_t,θ_t)＝F(x_t+1,θ_t+1)+W_t(x_t)

下面针对IRBDNN模型超参数优化的序列网格搜索方法进行说明。

IRBDNN体系结构由堆叠层和迭代残差块组成，IRBDNN模型中各层隐藏神经元数量相同，记为n。连接第(l-1)层和第l层的隐藏神经元的权值矩阵为W_l，权值矩阵W_l是一个N×N矩阵。b_l是一个包含N个元素的向量，表示第l层隐藏神经元的偏置。第(l-1)层的输出记作a^l-1。因此第l层的输出表示为a^l＝σ(W^la^l-1+b^l)，其中σ表示激活函数。

IRBDNN模型中的损失函数为：

其中，t(n)和p(n)表示第n个时间间隔内的真实负荷数据和预测负荷数据，N为训练集中预测时间间隔的数量。

在深度学习方法中，需要对超参数的个数进行优化。由于对所有超参数进行全面的网格搜索非常耗时，因此本方案提出了一种序列网格搜索方法来优化IRBDNN模型的超参数，即每层神经元的数量、学习率和可用于IRBDNN模型参数的初始化器。

如图4所示，上述采用序列网格搜索方法进行超参数优化处理具体包括以下分步骤：

A2、初始化神经元数量、学习率和初始化器；

在本实施例中，初始化神经元数量N＝100、学习率LR＝0.001、初始化器I＝GlorotUniform。

在本实施例中，具体设置神经元数量在{100,150,200,300,400,450,500}中搜索。

在本实施例中，具体设置学习率在{0.001,0.0001,0.00001}中搜索。

在本实施例中，最优神经元数量N^*和学习率LR^*为IRBDNN模型取得最佳性能时的神经元数量和学习率。

在本实施例中，具体设置初始化器在{Normal,Uniform,Glorot Normal,GlorotUniform}中搜索。

在本实施例中，最优初始化器I^*为IRBDNN模型取得最佳性能时的初始化器。

如图5所示，上述步骤A3和A7利用当前超参数训练基于迭代残差块的深度神经网络模型，得到当前模型的预测效果，具体包括以下分步骤：

B3、将验证集输入至基于迭代残差块的深度神经网络模型；

参照上述序列网格搜索方法，可以划分为三个部分。第一部分对超参数进行初始化，建立初始IRBDNN模型；由于神经元数量N和学习率LR对IRBDNN模型的学习能力有显著影响，因此在第二部分同步优化N和LR来定义IRBDNN模型1；再设置初始化器I，然后在第三部分对其进行优化。经过上述过程，IRBDNN模型2定义为最优的N、LR和I。

在本实施例中，经过步骤S3进行IRBDNN模型训练后，利用训练好的IRBDNN模型对待预测用电设备负荷数据进行负荷预测。

本领域的普通技术人员将会意识到，这里所述的实施例是为了帮助读者理解本发明的原理，应被理解为本发明的保护范围并不局限于这样的特别陈述和实施例。本领域的普通技术人员可以根据本发明公开的这些技术启示做出各种不脱离本发明实质的其它各种具体变形和组合，这些变形和组合仍然在本发明的保护范围内。

Claims

1.一种基于深度学习的智能电网短期住宅负荷预测方法，其特征在于，包括以下步骤：

S2、对步骤S1采集的用电设备负荷数据进行数据预处理；

2.根据权利要求1所述的基于深度学习的智能电网短期住宅负荷预测方法，其特征在于，所述步骤S2中数据预处理包括数据清洗、数据集成和数据转换；

3.根据权利要求2所述的基于深度学习的智能电网短期住宅负荷预测方法，其特征在于，所述步骤S2进行数据预处理后还包括根据预处理后的用电设备负荷数据构造多个时间序列，形成基于迭代残差块的深度神经网络模型的输入，将预测总负荷E₀(t₀+1)的序列表示为：

X(t₀)＝{E₁(t₀-T+1),E₁(t₀-T+2),...,E₁(t₀),...,

E₂(t₀-T+1),E₂(t₀-T+2),...,E₂(t₀),...,

E_i(t₀-T+1),E_i(t₀-T+2),...,E_i(t₀),...,

E₀(t₀-T+1),E₀(t₀-T+2),...,E_i(t₀)}

4.根据权利要求3所述的基于深度学习的智能电网短期住宅负荷预测方法，其特征在于，所述步骤S3建立的基于迭代残差块的深度神经网络模型由堆叠层和迭代残差块构成；当迭代次数t＝0时，残差块退化为非迭代结构，基于迭代残差块的深度神经网络模型退化为深度神经网络模型；当迭代次数t＝t₀时，残差块t₀由m个堆叠层、残差块(t₀+1)和一个跨层连接组成；当迭代次数t为最后一次迭代时，残差块(t₀+1)退化为n个堆叠层。

5.根据权利要求4所述的基于深度学习的智能电网短期住宅负荷预测方法，其特征在于，所述基于迭代残差块的深度神经网络模型的迭代过程表示为：

y＝F(x₁,θ₁)+W(x₀)

F(x₁,θ₁)＝F(x₂,θ₂)+W₁(x₁)

...

F(x_t,θ_t)＝F(x_t+1,θ_t+1)+W_t(x_t)

6.根据权利要求5所述的基于深度学习的智能电网短期住宅负荷预测方法，其特征在于，所述采用序列网格搜索方法进行超参数优化处理具体包括以下分步骤：

A2、初始化神经元数量、学习率和初始化器；

7.根据权利要求6所述的基于深度学习的智能电网短期住宅负荷预测方法，其特征在于，所述利用当前超参数训练基于迭代残差块的深度神经网络模型，得到当前模型的预测效果，具体包括以下分步骤：

B3、将验证集输入至基于迭代残差块的深度神经网络模型；