CN115600717A - 一种基于联邦学习的分行业电力负荷预测方法、设备和存储介质 - Google Patents

一种基于联邦学习的分行业电力负荷预测方法、设备和存储介质 Download PDF

Info

Publication number
CN115600717A
CN115600717A CN202210542181.5A CN202210542181A CN115600717A CN 115600717 A CN115600717 A CN 115600717A CN 202210542181 A CN202210542181 A CN 202210542181A CN 115600717 A CN115600717 A CN 115600717A
Authority
CN
China
Prior art keywords
layer
time
industry
sequence
load
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210542181.5A
Other languages
English (en)
Inventor
王蓓蓓
朱竞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Southeast University
Original Assignee
Southeast University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Southeast University filed Critical Southeast University
Priority to CN202210542181.5A priority Critical patent/CN115600717A/zh
Publication of CN115600717A publication Critical patent/CN115600717A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/04Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/06Electricity, gas or water supply
    • HELECTRICITY
    • H02GENERATION; CONVERSION OR DISTRIBUTION OF ELECTRIC POWER
    • H02JCIRCUIT ARRANGEMENTS OR SYSTEMS FOR SUPPLYING OR DISTRIBUTING ELECTRIC POWER; SYSTEMS FOR STORING ELECTRIC ENERGY
    • H02J3/00Circuit arrangements for ac mains or ac distribution networks
    • H02J3/003Load forecast, e.g. methods or systems for forecasting future load demand
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y04INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
    • Y04SSYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
    • Y04S10/00Systems supporting electrical power generation, transmission or distribution
    • Y04S10/50Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications

Abstract

本发明公开一种基于联邦学习的分行业电力负荷预测方法、设备和存储介质,该方法包括步骤(1)分析电力负荷的影响因素;(2)对原始电力负荷数据进行预处理;(3)根据负荷影响因素构建行业用户数据集;(4)基于LSTNet建立负荷预测模型;(5)基于FedAvg算法和FedML框架建立基于联邦学习的分行业负荷预测模型。

Description

一种基于联邦学习的分行业电力负荷预测方法、设备和存储 介质
技术领域
本发明涉及电力技术,尤其涉及一种基于联邦学习的分行业电力负荷预测方法、设备和存储介质。
背景技术
我国能源正向绿色化、低碳化方向加速转型,大量分布式发电和储能等设备接入到配电网中,传统配电网正逐步转变为主动配电网,然而,随着主动配电网下售电市场的逐渐开放,大量用户侧的数据由于在负荷预测等方面具有巨大应用价值而被各方收集和利用,现有研究已经不再能满足用户对隐私安全性的迫切需求,因此,对电力用户隐私保护的研究亟需推进。
传统负荷预测基于时间序列预测的研究而展开,时间序列预测通过历史时间序列预测未来一段时间的时间序列,主要包括ARIMA,VAR,随机森林 (random forest,RF),门控循环单元(gated recurrent unit,GRU),极限学习机 (extreme learning machine,ELM),长短时记忆网络(long short-term memory, LSTM)等方法,这些方法需要使用智能电表等设备采集的用电数据来进行负荷预测,极易暴露用户隐私。
发明内容
本发明旨在提供一种基于联邦学习的分行业电力负荷预测方法、设备和存储介质。首先,分析负荷的影响因素,选择天气、经济和时间因素作为负荷的关联因素,在此基础上对原始电力负荷数据进行预处理,构建了行业用户数据集,基于LSTNet建立负荷预测模型,同时利用FedAvg算法和FedML框架建立了基于联邦学习的分行业负荷预测模型。
本发明目的可以通过以下技术方案实现:一种基于联邦学习的分行业电力负荷预测方法,包括以下步骤:
步骤1:根据负荷影响因素构建行业用户数据集;
步骤2:基于LSTNet建立负荷预测模型;
步骤3:基于FedAvg算法和FedML框架建立基于联邦学习的分行业负荷预测模型。
可选地,所述负荷的影响因素包括:天气因素、经济因素与时间因素。
可选地,所述步骤1之前对所述对原始电力负荷数据进行预处理,包括以下步骤:
(1)用3-Sigma准则检测负荷数据集可能存在的异常值;
(2)按式(1)-(2)进行缺失值填充:
xij=Xi-1(1-wij)+Xiwij,i=2,3,...,T,j=1,2,...,N (1)
Figure RE-GDA0003970853570000021
其中,X为原序列第i小时的数据值,xij为插值后序列第i个小时内第j个数据值,wij为Xi→xij的权重,N为1小时内拆分点的总数,T为原序列总小时数;
(3)采用均值方差归一化进行特征的缩放:
Figure RE-GDA0003970853570000022
其中,xi,μ,σ分别表示为某项特征对应的第i个输入数据,输入数据的均值以及输入数据的方差;
(4)设置长度为P的输入序列滑动窗口和长度为N的输出序列滑动窗口,将这两个滑动窗口作用在时间序列上,得到长度为P的输入序列xt-1,...,xt-P和长度为N的输出序列xt,...,xt+N-1
输入序列输入到时间序列预测模型后得到预测序列,如式(4)所示:
Figure RE-GDA0003970853570000031
其中,xt表示t时刻的输入值,xt表示t时刻的预测值,xt-1,...,xt-P表示长度为P 的输入序列,
Figure RE-GDA0003970853570000032
表示长度为N的预测序列。通过评价指标量化输出序列和预测序列之间的差异,能够评估时间序列预测模型的预测性能。
可选地,所述的步骤1所述根据负荷影响因素构建行业用户数据集,包括以下步骤:
选择负荷、天气和时间作为负荷预测模型输入数据的特征类型;天气包括温度、相对湿度、降水量、风速和气压;时间数据包括节假日信息,工作日信息、年月日时分及星期信息。
可选地,所述的步骤2中所述基于LSTNet建立负荷预测模型,包括以下步骤:
(1)卷积层设置dc个大小为(m,n)的卷积核,其中,m为卷积核的宽度,n 为特征数。第k个卷积核扫描输入序列后输出长度为T的hk向量,如式(5)所示:
hk=RELU(Wk*X+bk) (5)
其中,*为卷积运算,Wk和bk分别为权重系数和偏置。卷积层的输出矩阵由dc个hk向量组成,大小为(dc,T),对应的权重系数和偏置分别为WC和bC
(2)循环层为GRU模型,GRU的单元结构由更新门和重置门组成,激活函数为RELU,公式如式(6)-(9)所示:
rt=σ(Wr[ht-1,xt]+br) (6)
zt=σ(Wz[ht-1,xt]+bz) (7)
ct=RELU(Wc[rt*ht-1,xt]+bc) (8)
ht=(1-zt)*ht-1+zt*ct (9)
其中,rt、zt和ct分别为t时刻的重置门系数、更新门系数和候选隐藏层系数; Wr、Wz和Wc分别为重置门、更新门和候选隐藏层的权重系数;br、bz和bc分别为重置门、更新门和候选隐藏层的偏置;ht-1和ht分别为t-1时刻和t时刻循环层的输出值;
(3)循环-跳跃层为GRU模型,引入p来捕捉时间序列的周期性,公式如式(10)-(13)所示:
rt=σ(Wr[ht-p,xt]+br) (10)
zt=σ(Wz[ht-p,xt]+bz) (11)
ct=RELU(Wc[rt*ht-p,xt]+bc) (12)
ht=(1-zt)*ht-p+zt*ct (13)
其中,p为跳过隐藏单元的数量,ht-p为t-p时刻循环-跳跃层的输出值。为了区分循环层和循环-跳跃层,令
Figure RE-GDA0003970853570000041
为t时刻循环层的输出值,
Figure RE-GDA0003970853570000042
为t时刻循环跳跃层的输出值;
(4)全连接层接收循环层和循环-跳跃层的输出,如式(14)所示:
Figure RE-GDA0003970853570000043
其中,
Figure RE-GDA0003970853570000044
为t时刻全连接层的输出值,
Figure RE-GDA0003970853570000045
为t-i时刻循环-跳跃层的输出值,WR和Wi S分别为t时刻循环层和i时刻循环-跳跃层的权重系数,bD为全连接层的偏置。;
(5)自回归层负责提供线性分量,有助于在大规模数据中提高预测效率。如式(15)所示:
Figure RE-GDA0003970853570000046
其中,
Figure RE-GDA0003970853570000047
为自回归层的输出,q ar为作用在输入序列上的输入窗口的大小,War和bar分别为自回归层的权重系数和偏置;
(6)最终输出的预测结果为神经网络的输出和自回归层的线性分量的叠加,如式(16)所示:
Figure RE-GDA0003970853570000051
其中,yt为t时刻的预测结果。记卷积层对应的权重系数为WC,偏置为bC,循环层对应的权重系数为WR,偏置为bR,循环-跳跃层对应的权重系数为WS,偏置为bS,全连接层的偏置为bD,自回归层对应的权重系数为War,偏置为bar。将LSTNet中各层的权重系数W={WC,WR,WS,War}和偏置b={bC,bR,bS,bD,bar}统记为
ω∈{W,b} (17) 其中,ω代表各层神经元的权重系数和偏置,即LSTNet的模型参数。
可选地,所述的步骤3基于FedAvg算法和FedML框架建立基于联邦学习的分行业负荷预测模型,包括以下步骤:
(1)令交互轮次t=0,2,...,T为响应用户传送给位于主动配电网运营商的中央服务器本地模型参数的次数,本地训练批次e=1,2,...,E为响应用户基于 LSTNet负荷预测模型本地训练迭代的次数,模型参数ω如式(18)所示,
Figure RE-GDA0003970853570000052
ωt为第t轮交互中本地训练批次达到E后LSTNet各层神经元的权重系数或偏置。
(2)位于主动配电网运营商的中央服务器将初始化后的模型参数ω0发给所有响应用户;
(3)响应用户接收到模型参数后,在本地基于梯度下降算法训练LSTNet 模型;
(4)在第t轮交互中,响应用户k更新ωt k后发给位于主动配电网运营商的中央服务器;
(5)中央服务器在收集到所有响应用户更新后的模型参数
Figure RE-GDA0003970853570000061
后,对参数做聚合处理生成全局参数
Figure RE-GDA0003970853570000062
其中,nk为响应用户k的样本数量,n为所有响应用户的样本总数。
(6)中央服务器将全局参数ωt发送给所有响应用户,响应用户基于全局参数更新本地参数
Figure RE-GDA0003970853570000063
后继续训练直至完成第T次交互。
一种设备,包括:
一个或多个处理器;
存储器,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如上述的基于联邦学习的分行业电力负荷预测方法。
一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行上述任一所述的基于联邦学习的分行业电力负荷预测方法。
有益效果:本发明是在充分考虑隐私保护的基础上,对电力用户用电负荷进行预测,可以使同行业的用户在不共享负荷数据的前提下进行联邦训练,有效保护用户用电隐私。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1为本发明实施例中的基于联邦学习的分行业电力负荷预测方法的流程示意图;
图2为LSTNet结构图;
图3为基于联邦学习的分行业负荷预测整体架构;
图4为医药制造业传统方案和本文方案两天的负荷预测值的对比结果;
图5为食品制造业传统方案和本文方案两天的负荷预测值的对比结果。
图6是本发明实施例提供的一种设备的结构示意图。
具体实施方式
下面结合附图和具体的实施例对本发明技术方案作进一步的详细描述,以使本领域的技术人员可以更好的理解本发明并能予以实施,但所举实施例不作为对本发明的限定。
本实施例提供了一种基于联邦学习的分行业电力负荷预测方法,如图1所示,包括:
步骤1、分析电力负荷的影响因素;
步骤2、对原始电力负荷数据进行预处理;
步骤3、根据负荷影响因素构建行业用户数据集;
步骤4、基于LSTNet建立负荷预测模型;
步骤5、基于FedAvg算法和FedML框架建立基于联邦学习的分行业负荷预测模型。
下面以一个具体实例来说明本发明实施例提供的基于联邦学习的分行业电力负荷预测方法的执行过程以及所能达到的有益效果。
使用的行业用户负荷数据集包含2015年1月1日到2016年12月31日江苏省各城市的行业用户用电数据,数据的时间间隔为15min,一天共有96条记录。
为了在负荷预测中考虑天气的影响,还需要当地同一时段的实际天气数据。选择某地区2015年1月1日到2016年12月31日的天气数据,受数据采集频率的影响,数据的时间间隔为1h,一天共有24条记录,涵盖温度(℃)、相对湿度(%)、降水量(mm)、风速(m/s2)和气压(Pa)5项特征。
综合考虑负荷的影响因素后,最终选择负荷数据,天气数据,时间数据作为负荷预测模型的输入信息。天气数据包括温度、相对湿度、降水量、风速和气压,用于反映天气因素对负荷的影响。时间数据包括节假日信息,工作日信息和年月日时分及星期信息,用于反映负荷的周期性。其中,节假日信息根据我国2015年和2016年的法定节假日确定;工作日信息包括周中和由于调休产生的工作日。
进一步,对原始电力负荷数据进行异常检测、缺失值填充、归一化处理、滑动窗口处理等数据集预处理,构建行业用户数据集,具体如表1所示:
表1数据集的特征选取和特征转换
Figure RE-GDA0003970853570000091
基于LSTNet建立负荷预测模型,LSTNet由卷积层、循环层和循环-跳跃层、全连接层和自回归层三部分组成,如图2所示。
基于FedAvg算法和FedML框架建立基于联邦学习的分行业负荷预测模型,如图3所示。主体包括主动配电网运营商、主动配电网运营商设置的中央服务器、用户以及售电公司,整个流程分为7步,如下所示:
(1)主动配电网运营商向某目标行业对应的用户发出训练请求;
(2)考虑到用户需要在本地完成训练,用户可以决定是否参与到联邦训练中。参与的用户为响应用户,响应用户在本地预处理自己的数据集并将数据集输入到LSTNet负荷预测模型中进行本地训练,完成一轮训练后将LSTNet各层的神经元参数传递给中央服务器;
(3)中央服务器基于FedAvg算法聚合响应用户传递的本地模型参数生成全局模型参数并将全局模型参数传递给响应用户,在多次交互后中央服务器获得行业全局模型;
(4)中央服务器将行业全局模型传递给主动配电网运营商;
(5)主动配电网运营商根据响应用户对行业全局模型的贡献程度分发相应的奖励;
(6)售电公司根据所需的行业,向主动配电网运营商提出模型需求申请;
(7)主动配电网运营商返回所需行业全局模型并获取收益。
根据表2设置联邦学习训练场景,其中,交互轮次指每个行业的中央服务器向各响应用户更新全局参数的次数,而本地训练批次指各响应用户本地迭代的次数。基于行业用电特性的负荷预测以行业为单位训练模型。设置有2个行业,分别为医药制造业和食品制造业,每个行业使用3个响应用户的数据集,基于FedAvg算法融合同类行业下不同响应用户的数据集,捕捉单一行业的行业共性用电特征特性,得到最终的行业负荷预测模型。不考虑行业用电特性的训练方式则是6个响应用户不分行业,由同一个中央服务器聚合来自不同响应用户的本地模型参数,最终得到适用于6个响应用户的一个全局模型。
表2联邦学习训练场景设置
Figure RE-GDA0003970853570000111
选取RMSE和SMAPE作为短期负荷预测结果的评价指标,表达式如式 (21)和式(22)所示:
Figure RE-GDA0003970853570000112
Figure RE-GDA0003970853570000113
其中,N表示样本总数,
Figure RE-GDA0003970853570000114
和yi分别表示第i时刻的预测值和实际值。RMSE 利用平方项放大了较大误差和较小误差之间的差距,使得RMSE对预测偏差较大的数据更为敏感。RMSE越小,表示模型预测准确性越好,SMAPE越小,预测性能越好。
联邦学习不同场景预测准确率如表3和表4所示,RMSE值和SMAPE值较低,说明预测精度较高。
表3联邦学习不同场景预测准确率RMSE对比
Figure RE-GDA0003970853570000115
表4联邦学习不同场景预测准确率SMAPE对比
Figure RE-GDA0003970853570000121
图3和图4分别为传统不考虑隐私保护的先累加后预测的方案和本文方案在医药制造业和食品制造业中某两天的预测值对比。相比传统方案,本文方案的预测值与实际值更为接近。
图6是本发明实施例提供的一种设备的结构示意图,本发明实施例为本发明上述实施例基于联邦学习的分行业电力负荷预测方法的实现提供服务。图6 示出了适于用来实现本发明实施方式的示例性设备12的框图。图6显示的设备 12仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图6所示,设备12以通用计算设备的形式表现。设备12的组件可以包括但不限于:一个或者多个处理器或者处理单元16,系统存储器28,连接不同系统组件(包括系统存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构 (ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
设备12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被设备12访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
系统存储器28可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)30和/或高速缓存存储器32。设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统34可以用于读写不可移动的、非易失性磁介质。每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40,可以存储在例如存储器28中,这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
设备12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器 24等)通信,还可与一个或者多个使得用户能与该设备12交互的设备通信,和 /或与使得该设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且,设备12还可以通过网络适配器20与一个或者多个网络(例如局域网 (LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图6所示,网络适配器20通过总线18与设备12的其它模块通信。应当明白,尽管图中未示出,可以结合设备12使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元16通过运行存储在系统存储器28中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例所提供的基于联邦学习的分行业电力负荷预测方法。
以上仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。

Claims (8)

1.一种基于联邦学习的分行业电力负荷预测方法,其特征在于,包括以下步骤:
步骤1:根据负荷影响因素构建行业用户数据集;
步骤2:基于LSTNet建立负荷预测模型;
步骤3:基于FedAvg算法和FedML框架建立基于联邦学习的分行业负荷预测模型。
2.根据权利要求1所述的一种基于联邦学习的分行业电力负荷预测方法,其特征在于,所述负荷的影响因素包括:天气因素、经济因素与时间因素。
3.根据权利要求1所述的一种基于联邦学习的分行业电力负荷预测方法,其特征在于,所述步骤1之前对所述对原始电力负荷数据进行预处理,包括以下步骤:
(1)用3-Sigma准则检测负荷数据集中的异常值;
(2)按式(1)-(2)进行缺失值填充:
xij=Xi-1(1-wij)+Xiwij,i=2,3,...,T,j=1,2,...,N (1)
Figure FDA0003648696460000011
其中,X为原序列第i小时的数据值,xij为插值后序列第i个小时内第j个数据值,wij为Xi→xij的权重,N为1小时内拆分点的总数,T为原序列总小时数;
(3)采用均值方差归一化进行特征的缩放:
Figure FDA0003648696460000012
其中,xi,μ,σ分别表示为某项特征对应的第i个输入数据,输入数据的均值以及输入数据的方差;
(4)设置长度为P的输入序列滑动窗口和长度为N的输出序列滑动窗口,将这两个滑动窗口作用在时间序列上,得到长度为P的输入序列xt-1,...,xt-P和长度为N的输出序列xt,...,xt+N-1
输入序列输入到时间序列预测模型后得到预测序列,如式(4)所示:
Figure FDA0003648696460000021
其中,xt表示t时刻的输入值,xt表示t时刻的预测值,xt-1,...,xt-P表示长度为P的输入序列,
Figure FDA0003648696460000022
表示长度为N的预测序列;通过评价指标量化输出序列和预测序列之间的差异,能够评估时间序列预测模型的预测性能。
4.根据权利要求1所述的一种基于联邦学习的分行业电力负荷预测方法,其特征在于,所述的步骤1所述根据负荷影响因素构建行业用户数据集,包括以下步骤:
选择负荷、天气和时间作为负荷预测模型输入数据的特征类型;天气包括温度、相对湿度、降水量、风速和气压;时间数据包括节假日信息,工作日信息、年月日时分及星期信息。
5.根据权利要求1所述的基于联邦学习的分行业电力负荷预测方法,其特征在于,所述的步骤2中所述基于LSTNet建立负荷预测模型,包括以下步骤:
(1)卷积层设置dc个大小为(m,n)的卷积核,其中,m为卷积核的宽度,n为特征数;第k个卷积核扫描输入序列后输出长度为T的hk向量,如式(5)所示:
hk=RELU(Wk*X+bk) (5)
其中,*为卷积运算,Wk和bk分别为权重系数和偏置。卷积层的输出矩阵由dc个hk向量组成,大小为(dc,T),对应的权重系数和偏置分别为WC和bC
(2)循环层为GRU模型,GRU的单元结构由更新门和重置门组成,激活函数为RELU,公式如式(6)-(9)所示:
rt=σ(Wr[ht-1,xt]+br) (6)
zt=σ(Wz[ht-1,xt]+bz) (7)
ct=RELU(Wc[rt*ht-1,xt]+bc) (8)
ht=(1-zt)*ht-1+zt*ct (9)
其中,rt、zt和ct分别为t时刻的重置门系数、更新门系数和候选隐藏层系数;Wr、Wz和Wc分别为重置门、更新门和候选隐藏层的权重系数;br、bz和bc分别为重置门、更新门和候选隐藏层的偏置;ht-1和ht分别为t-1时刻和t时刻循环层的输出值;
(3)循环-跳跃层为GRU模型,引入p来捕捉时间序列的周期性,公式如式(10)-(13)所示:
rt=σ(Wr[ht-p,xt]+br) (10)
zt=σ(Wz[ht-p,xt]+bz) (11)
ct=RELU(Wc[rt*ht-p,xt]+bc) (12)
ht=(1-zt)*ht-p+zt*ct (13)
其中,p为跳过隐藏单元的数量,ht-p为t-p时刻循环-跳跃层的输出值。为了区分循环层和循环-跳跃层,令
Figure FDA0003648696460000031
为t时刻循环层的输出值,
Figure FDA0003648696460000032
为t时刻循环跳跃层的输出值;
(4)全连接层接收循环层和循环-跳跃层的输出,如式(14)所示:
Figure FDA0003648696460000033
其中,
Figure FDA0003648696460000034
为t时刻全连接层的输出值,
Figure FDA0003648696460000035
为t-i时刻循环-跳跃层的输出值,WR和Wi S分别为t时刻循环层和i时刻循环-跳跃层的权重系数,bD为全连接层的偏置;
(5)自回归层负责提供线性分量,有助于在大规模数据中提高预测效率。如式(15)所示:
Figure FDA0003648696460000036
其中,
Figure FDA0003648696460000041
为自回归层的输出,q ar为作用在输入序列上的输入窗口的大小,War和bar分别为自回归层的权重系数和偏置;
(6)最终输出的预测结果为神经网络的输出和自回归层的线性分量的叠加,如式(16)所示:
Figure FDA0003648696460000042
其中,yt为t时刻的预测结果;记卷积层对应的权重系数为WC,偏置为bC,循环层对应的权重系数为WR,偏置为bR,循环-跳跃层对应的权重系数为WS,偏置为bS,全连接层的偏置为bD,自回归层对应的权重系数为War,偏置为bar;将LSTNet中各层的权重系数W={WC,WR,WS,War}和偏置b={bC,bR,bS,bD,bar}统记为
ω∈{W,b} (17)其中,ω代表各层神经元的权重系数和偏置,即LSTNet的模型参数。
6.根据权利要求1所述的一种基于联邦学习的分行业电力负荷预测方法,其特征在于,所述的步骤3基于FedAvg算法和FedML框架建立基于联邦学习的分行业负荷预测模型,包括以下步骤:
(1)令交互轮次t=0,2,...,T为响应用户传送给位于主动配电网运营商的中央服务器本地模型参数的次数,本地训练批次e=1,2,...,E为响应用户基于LSTNet负荷预测模型本地训练迭代的次数,模型参数ω如式(18)所示,
Figure FDA0003648696460000043
ωt为第t轮交互中本地训练批次达到E后LSTNet各层神经元的权重系数或偏置;
(2)位于主动配电网运营商的中央服务器将初始化后的模型参数ω0发给所有响应用户;
(3)响应用户接收到模型参数后,在本地基于梯度下降算法训练LSTNet模型;
(4)在第t轮交互中,响应用户k更新
Figure FDA0003648696460000051
后发给位于主动配电网运营商的中央服务器;
(5)中央服务器在收集到所有响应用户更新后的模型参数
Figure FDA0003648696460000052
后,对参数做聚合处理生成全局参数:
Figure FDA0003648696460000053
其中,nk为响应用户k的样本数量,n为所有响应用户的样本总数;
(6)中央服务器将全局参数ωt发送给所有响应用户,响应用户基于全局参数更新本地参数
Figure FDA0003648696460000054
后继续训练直至完成第T次交互。
7.一种设备,其特征在于,包括:
一个或多个处理器;
存储器,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-6中任一所述的基于联邦学习的分行业电力负荷预测方法。
8.一种包含计算机可执行指令的存储介质,其特征在于,所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-6中任一所述的基于联邦学习的分行业电力负荷预测方法。
CN202210542181.5A 2022-09-07 2022-09-07 一种基于联邦学习的分行业电力负荷预测方法、设备和存储介质 Pending CN115600717A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210542181.5A CN115600717A (zh) 2022-09-07 2022-09-07 一种基于联邦学习的分行业电力负荷预测方法、设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210542181.5A CN115600717A (zh) 2022-09-07 2022-09-07 一种基于联邦学习的分行业电力负荷预测方法、设备和存储介质

Publications (1)

Publication Number Publication Date
CN115600717A true CN115600717A (zh) 2023-01-13

Family

ID=84842063

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210542181.5A Pending CN115600717A (zh) 2022-09-07 2022-09-07 一种基于联邦学习的分行业电力负荷预测方法、设备和存储介质

Country Status (1)

Country Link
CN (1) CN115600717A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116826745A (zh) * 2023-08-30 2023-09-29 山东海兴电力科技有限公司 一种电力系统背景下的分层分区短期负荷预测方法及系统
CN117350439A (zh) * 2023-11-16 2024-01-05 华南理工大学 基于横向联邦学习的能源聚合服务商负荷预测方法及系统
CN117728587A (zh) * 2024-02-07 2024-03-19 华能江苏综合能源服务有限公司 一种新能源发电设备运行数据的实时监控系统及方法
CN117728587B (zh) * 2024-02-07 2024-05-10 华能江苏综合能源服务有限公司 一种新能源发电设备运行数据的实时监控系统及方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116826745A (zh) * 2023-08-30 2023-09-29 山东海兴电力科技有限公司 一种电力系统背景下的分层分区短期负荷预测方法及系统
CN116826745B (zh) * 2023-08-30 2024-02-09 山东海兴电力科技有限公司 一种电力系统背景下的分层分区短期负荷预测方法及系统
CN117350439A (zh) * 2023-11-16 2024-01-05 华南理工大学 基于横向联邦学习的能源聚合服务商负荷预测方法及系统
CN117728587A (zh) * 2024-02-07 2024-03-19 华能江苏综合能源服务有限公司 一种新能源发电设备运行数据的实时监控系统及方法
CN117728587B (zh) * 2024-02-07 2024-05-10 华能江苏综合能源服务有限公司 一种新能源发电设备运行数据的实时监控系统及方法

Similar Documents

Publication Publication Date Title
Wang et al. Short-term load forecasting for industrial customers based on TCN-LightGBM
Fan et al. Deep learning-based feature engineering methods for improved building energy prediction
US20220358528A1 (en) Methods and apparatus for self-adaptive time series forecasting engine
CN108280551B (zh) 一种利用长短期记忆网络的光伏发电功率预测方法
Luo et al. A two-stage supervised learning approach for electricity price forecasting by leveraging different data sources
Fiot et al. Electricity demand forecasting by multi-task learning
Gao et al. Interpretable deep learning model for building energy consumption prediction based on attention mechanism
CN115600717A (zh) 一种基于联邦学习的分行业电力负荷预测方法、设备和存储介质
US20150317589A1 (en) Forecasting system using machine learning and ensemble methods
CN110264270B (zh) 一种行为预测方法、装置、设备和存储介质
Lu et al. A hybrid model based on convolutional neural network and long short-term memory for short-term load forecasting
WO2022021727A1 (zh) 城市综合体用电量预测方法、装置、电子设备及存储介质
Shaqour et al. Electrical demand aggregation effects on the performance of deep learning-based short-term load forecasting of a residential building
CN112766596A (zh) 建筑能耗预测模型的构建方法、能耗预测方法及装置
Yu et al. A model integrating ARIMA and ANN with seasonal and periodic characteristics for forecasting electricity load dynamics in a state
Zulfiqar et al. Hyperparameter optimization of support vector machine using adaptive differential evolution for electricity load forecasting
CN112990583B (zh) 一种数据预测模型的入模特征确定方法及设备
Ismail et al. Principal component regression with artificial neural network to improve prediction of electricity demand.
Sun et al. Short-term load forecasting model based on multi-label and BPNN
CN113743667A (zh) 一种台区用电量预测方法、装置、设备及存储介质
Jalalifar et al. SAC-ConvLSTM: A novel spatio-temporal deep learning-based approach for a short term power load forecasting
Kong et al. A novel ConvLSTM with multifeature fusion for financial intelligent trading
Mo et al. Powerformer: A temporal-based transformer model for wind power forecasting
Wei et al. Stock index prices prediction via temporal pattern attention and long-short-term memory
Qu et al. Data imputation of wind turbine using generative adversarial nets with deep learning models

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination