CN116845884A - 基于联邦学习的电力负荷预测方法及系统 - Google Patents

基于联邦学习的电力负荷预测方法及系统 Download PDF

Info

Publication number
CN116845884A
CN116845884A CN202310954352.XA CN202310954352A CN116845884A CN 116845884 A CN116845884 A CN 116845884A CN 202310954352 A CN202310954352 A CN 202310954352A CN 116845884 A CN116845884 A CN 116845884A
Authority
CN
China
Prior art keywords
global
training
terminal equipment
representing
local training
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310954352.XA
Other languages
English (en)
Inventor
王鑫
李新民
张文谦
段雯雯
肖家锴
王峰
刘丽
张晓强
蔡翔
李龙跃
马俊杰
邢璐
付颖
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chengdu Products Quality Inspection Research Institute Co ltd
Electric Power Research Institute of State Grid Anhui Electric Power Co Ltd
Southwest University of Science and Technology
Original Assignee
Chengdu Products Quality Inspection Research Institute Co ltd
Electric Power Research Institute of State Grid Anhui Electric Power Co Ltd
Southwest University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chengdu Products Quality Inspection Research Institute Co ltd, Electric Power Research Institute of State Grid Anhui Electric Power Co Ltd, Southwest University of Science and Technology filed Critical Chengdu Products Quality Inspection Research Institute Co ltd
Priority to CN202310954352.XA priority Critical patent/CN116845884A/zh
Publication of CN116845884A publication Critical patent/CN116845884A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H02—GENERATION; CONVERSION OR DISTRIBUTION OF ELECTRIC POWER
    • H02J—CIRCUIT ARRANGEMENTS OR SYSTEMS FOR SUPPLYING OR DISTRIBUTING ELECTRIC POWER; SYSTEMS FOR STORING ELECTRIC ENERGY
    • H02J3/00—Circuit arrangements for ac mains or ac distribution networks
    • H02J3/003—Load forecast, e.g. methods or systems for forecasting future load demand
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
    • G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
    • G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/098—Distributed learning, e.g. federated learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/06—Energy or water supply

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioethics (AREA)
  • Economics (AREA)
  • Water Supply & Treatment (AREA)
  • General Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • Public Health (AREA)
  • Power Engineering (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Computer Hardware Design (AREA)
  • Computer Security & Cryptography (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明公开了基于联邦学习的电力负荷预测方法及系统，涉及电力负荷分析技术领域，其技术方案要点是：依据设备选择率随机选取参与全局训练的终端设备；依据终端设备的用电量数据进行电力负荷预测模型的本地训练，得到本地训练网络参数；依据网络参数上传阈值判断是否将本地训练网络参数上传至服务器；将服务器所接收的本地训练网络参数聚合为全局参数；将全局参数下发至所选取的终端设备进行电力负荷预测模型的全局训练；通过训练完成的电力负荷预测模型进行电力负荷预测。本发明基于设备选择率随机选取参与全局训练的终端设备，以及基于网络参数上传阈值判断是否上传本地训练网络的网络参数，提高了FL预测模型的收敛速度。

Description

基于联邦学习的电力负荷预测方法及系统
技术领域
本发明涉及电力负荷分析技术领域，更具体地说，它涉及基于联邦学习的电力负荷预测方法及系统。
背景技术
电网数据分析影响着电网计划的制定，对能源系统的高效运行、能源平衡和能源储备管理至关重要。其中，电力负荷的精准预测有助于电网制定调度计划，平衡各阶段的电网输送，可减少电力事故，维护电网安全。然而，电力数据传输过程中可能会泄露数据造成数据隐私问题。原始电力数据的数据量大，传输时间长，难以保证电力负荷的实时预测。
联邦学习(Federated Learning,FL)技术是一种分布式机器学习，通过终端设备本地训练，终端设备与服务器的参数交互，可保护电力数据隐私，减少传输时间。因此，在电力系统中采用FL技术，能在保护数据隐私，保证实时预测的同时提高电力负荷预测的准确性。但是，终端设备上传的网络参数直接影响FL预测模型的训练效果，选择不可靠的终端设备参与FL预测模型的训练，会导致该模型的收敛速度慢，收敛性差。
因此，如何研究设计一种能够克服上述缺陷的基于联邦学习的电力负荷预测方法及系统是我们目前急需解决的问题。
发明内容
为解决现有技术中的不足，本发明的目的是提供基于联邦学习的电力负荷预测方法及系统，本发明基于设备选择率随机选取参与全局训练的终端设备，以及基于网络参数上传阈值判断是否上传本地训练网络的网络参数，提高了FL预测模型的收敛速度。
本发明的上述技术目的是通过以下技术方案得以实现的：
第一方面，提供了基于联邦学习的电力负荷预测方法，包括以下步骤：
依据设备选择率随机选取参与全局训练的终端设备；
依据终端设备的用电量数据进行电力负荷预测模型的本地训练，得到本地训练网络参数；
依据网络参数上传阈值判断是否将本地训练网络参数上传至服务器；
将服务器所接收的本地训练网络参数聚合为全局参数；
将全局参数下发至所选取的终端设备进行电力负荷预测模型的全局训练；
通过训练完成的电力负荷预测模型进行电力负荷预测，得到电力负荷预测结果。
进一步的，所述依据网络参数上传阈值判断是否将本地训练网络参数上传至服务器的过程具体为：
确定当前次与上一次本地训练的平均损失函数的差值；
若两次平均损失函数的差值大于或等于网络参数上传阈值，则对应终端设备的通信状态有效，对应的终端设备将相应的本地训练网络参数上传至服务器；
若两次平均损失函数的差值小于网络参数上传阈值，则对应终端设备的通信状态无效，对应的终端设备不将相应的本地训练网络参数上传至服务器。
进一步的，所述平均损失函数的表达式具体为：
其中，表示终端设备k第n次本地训练时的平均损失函数；|Sk|表示终端设备k的训练数据集数；/>表示终端设备k的第i个数据集Si在本地训练网络参数为/>时的均方误差；/>表示参与第m次全局训练的终端设备k在第n次本地训练时的本地训练网络参数；yk,i、xk,i分别为终端设备k第i个数据集的真实输出和输入；/>为xk,i在本地训练网络参数为/>时的预测输出。
进一步的，所述网络参数上传阈值的计算公式具体为：
其中，表示参与第m次全局训练的终端设备k的网络参数上传阈值；Emax表示终端设备与服务器的最大通信次数；Ek表示终端设备k的全局通信次数；/>表示本地训练网络的平均损失函数；/>表示当前次本地训练的本地训练网络参数；/>表示上一次本地训练的本地训练网络参数；q1、q2均表示第一权重系数。
进一步的，所述全局参数的聚合公式具体为：
其中，wm+1表示下一次全局训练的全局参数；表示当前次本地训练的本地训练网络参数；/>表示终端设备k第m次全局训练时采用的数据集；K表示终端设备的总数量；Sm表示第m次全局训练时采用的数据集总数。
进一步的，所述设备选择率的计算公式具体为：
rm＝min(p1((Emax-∑Ek)/Emax)+p2log10Fm-1-p3rm-1,1)
其中，rm表示当前次全局训练的设备选择率；rm-1表示上一次全局训练的设备选择率；p1、p2、p3为第二权重参数；Emax表示终端设备与服务器的最大通信次数；Ek表示终端设备k的全局通信次数；Fm-1表示上一次全局训练的全局平均损失函数。
进一步的，该方法还包括：
在全局通信次数受限的情况下，通过优化各终端设备的本地训练网络参数以最小化电力系统的整体预测误差，优化目标函数表达式为：
s.t.C1:Nk≤Nmax,k≤K
C3:Ck＝{0,1},k≤K
其中，Fm表示第m次全局训练的全局平均损失函数；表示当前次本地训练的本地训练网络参数；Nk为第k个终端设备的本地训练次数；Nmax为终端设备的最大本地训练次数；Ek表示终端设备k的全局通信次数；Emax表示所有终端设备的最大全局通信次数；Ck表示终端设备k的通信状态，Ck＝0代表终端设备k处于无效通信状态，Ck＝1代表终端设备k处于有效通信状态。
进一步的，所述全局平均损失函数的表达式具体为：
其中，Fm表示第m次全局训练的全局平均损失函数；|Sk|表示终端设备k的训练数据集数；表示本地训练网络的平均损失函数；K表示终端设备的总数量。
进一步的，所述终端设备利用LSTM网络进行本地训练。
第二方面，提供了基于联邦学习的电力负荷预测系统，包括：
设备选取模块，用于依据设备选择率随机选取参与全局训练的终端设备；
本地训练模块，用于依据终端设备的用电量数据进行电力负荷预测模型的本地训练，得到本地训练网络参数；
参数判断模块，用于依据网络参数上传阈值判断是否将本地训练网络参数上传至服务器；
参数聚合模块，用于将服务器所接收的本地训练网络参数聚合为全局参数；
全局训练模块，用于将全局参数下发至所选取的终端设备进行电力负荷预测模型的全局训练；
负荷预测模块，用于通过训练完成的电力负荷预测模型进行电力负荷预测，得到电力负荷预测结果。
与现有技术相比，本发明具有以下有益效果：
1、本发明提供的基于联邦学习的电力负荷预测方法，此电力负荷预测过程不涉及电力原始数据的交互，可保证电力负荷预测的数据隐私，且数据量较少的网络参数交互减少了数据传输时间，可保证电力负荷的实时预测；此外，本发明基于设备选择率随机选取参与全局训练的终端设备，以及基于网络参数上传阈值判断是否上传本地训练网络的网络参数，提高了FL预测模型的收敛速度；
2、本发明依据训练过程中的具体场景，适应性的调整网络参数上传阈值和设备选择率，可进一步提高训练效率；
3、本发明采用时序敏感的LSTM网络进行本地训练，可提高电力负荷预测的准确性。
附图说明
此处所说明的附图用来提供对本发明实施例的进一步理解，构成本申请的一部分，并不构成对本发明实施例的限定。在附图中：
图1是本发明实施例1中的电力系统示意图；
图2是本发明实施例1中的电力负荷预测逻辑图；
图3是本发明实施例1中的电力负荷预测流程图；
图4是本发明实施例1中单个LSTM网络结构的示意图；
图5是本发明实施例2中的系统框图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白，下面结合实施例和附图，对本发明作进一步的详细说明，本发明的示意性实施方式及其说明仅用于解释本发明，并不作为对本发明的限定。
实施例1：基于联邦学习的电力负荷预测方法
现有技术通常采用循环神经网络RNN(Recurrent Neural Network,RNN)等作为本地训练网络以获得终端设备的本地网络参数，但该网络容易出现梯度爆炸或消失问题。此外，电力数据通常呈周期性变化，电力数据的时序性特点使得现有技术的电力负荷预测准确性较差。
如图1所示，考虑由电力信息中心实现计算的服务器和K个终端设备组成的电力系统。电力信息中心实现计算的服务器根据设备选择率r∈(0,1]，随机选择r×K个终端设备参与此次全局训练，并下发全局参数w至被选中的终端设备。未被选中的终端设备不参与此次全局训练，不接收服务器下发的全局参数，也不上传其本地训练网络参数至服务器。参与此次全局训练的终端设备根据所得全局参数w及本地电力负荷数据，在LSTM网络中进行本地训练。终端设备k完成Nk次本地训练，得到本地训练网络参数并根据网络参数上传阈值判断其通信状态C，进而决定是否上传其本地训练网络参数至电力信息中心实现计算的服务器。具体而言，若C＝1，即终端设备的通信状态有效时，上传其本地训练网络参数至电力信息中心实现计算的服务器。反之，C＝0，即终端设备通信状态无效时，不上传其本地训练网络参数。电力信息中心实现计算的服务器将接收到的本地训练网络参数进行联邦平均，得到新的全局参数并下发给参与全局训练的终端设备。此电力负荷预测过程不涉及电力原始数据的交互，可保证电力负荷预测的数据隐私。数据量较少的网络参数交互减少了数据传输时间，可保证电力负荷的实时预测。采用时序敏感的LSTM网络进行本地训练，可提高电力负荷预测的准确性。此外，基于设备选择率选取参与全局训练的终端设备，基于网络参数上传阈值判断是否上传本地训练网络的网络参数，提高了FL预测模型的收敛速度。
本发明采用以LSTM为本地训练网络的FL技术，以在保护数据隐私，保证实时预测的同时实现FL预测模型的快速收敛和精准的电力负荷预测。
如图2所示，在第m次全局训练开始时，参与此次全局训练的终端设备k以一个小时为预测尺度，按照不同时刻将其本地电力数据Sk分为S1,S2，...,Si等多个数据集，同时根据本地训练网络的损失函数训练本地网络。
为实现精准的电力负荷预测，终端设备k第n次本地训练时的平均损失函数为：
其中，|Sk|为该终端设备的训练数据集数，为终端设备k的第i个数据集Si在网络参数为/>时的均方误差，/>为参与第m次全局训练的终端设备k在第n次本地训练时的网络参数。
需要说明的是，在本实施例中，各个公式字符的上角标m表示第m次全局训练过程。
其中，yk,i和xk,i分别为终端设备k第i个数据集的真实输出和输入，为xk,i在本地训练网络参数为/>时的预测输出。终端设备k完成Nk次本地训练后，终端设备先判断其通信状态，再根据其通信状态上传其本地训练网络参数上传至电力信息中心实现计算的服务器。
本发明根据本地训练网络的损失函数，该设备在第m次全局训练的网络参数上传阈值判断其通信状态，但不限于此。
时，终端设备k通信状态有效即Ck＝1，上传其网络参数/>至电力信息中心实现计算的服务器。服务器采用联邦平均算法聚合所得参数为新全局参数：/>并下发至选中终端开始下次全局训练。此外，本发明将第m次全局训练的全局平均损失函数建模为：以衡量电力系统的整体预测性能。
本发明在保护电力负荷数据隐私，保证电力负荷实时预测的需求下，最小化电力系统的整体预测误差，但不仅限于此。在终端设备与电力信息中心计算服务器的全局通信次数受限情况下，选择不可靠的终端设备参与FL预测模型的训练，会导致该模型的收敛速度更慢，收敛性更差。因此通过优化各终端设备的本地训练网络参数以最小化电力系统的整体预测误差的优化问题如下：
s.t.C1:Nk≤Nmax,k≤K
C3:Ck＝{0,1},k≤K
其中，Nk为第k个终端设备的本地训练次数，Nmax为终端设备的最大本地训练次数，Ek表示终端设备k的全局通信次数，Emax表示所有终端设备的最大全局通信次数，Ck表示终端设备k的通信状态，Ck＝0代表设备k处于无效通信状态，Ck＝1代表设备k处于有效通信状态。约束C1表示终端设备本地训练次数不大于最大本地训练次数以保证终端设备与电力信息中心实现计算的服务器之间能及时交互参数。约束C2表示所有终端设备的全局通信次数不得大于Emax，调整该参数可控制全局训练时间，保证电力负荷预的实时预测。约束C3表示终端设备只存在有效通信和无效通信两种通信状态。
基于联邦学习的电力负荷预测流程图，如图3所示，该方法由以下步骤实现。
(1)电力系统初始化：设置各终端设备批处理数据大小B，终端设备本地训练的最大次数Nk，终端设备与服务器的最大通信次数Emax，学习率λ，全局收敛阈值δ等。
(2)电力信息中心实现计算的服务器下发初始全局参数：第m次全局训练开始时，电力信息中心实现计算的服务器初始化全局参数wm和设备选择率rm。
本发明根据剩余全局通信次数Emax-∑Ek，上次全局训练的全局平均损失函数Fm-1和上次全局训练的终端设备选择率rm-1采用rm＝min(p1((Emax-∑Ek)/Emax)+p2 log10 Fm-1-p3rm-1，1)计算此次全局训练的设备选择率，但不限于此。p1、p2和p3为第二权重参数，本发明采用p1＝p2＝p3＝1/3，但不限于此。电力信息中心实现计算的服务器根据设备选择率随机选择rm×K个终端参与此次全局训练，下发wm至选中终端。
(3)终端设备本地训练：被选中的终端设备k复制全局参数wm，在本地数据集Sk中批量选取大小为B的数据，并将数据送入LSTM网络中进行本地训练。
A、单个LSTM网络结构如图4所示，其时输入为当前时刻的输入Xt即电力数据序列，上一时刻的细胞状态信息ct-1和网络参数ht-1，输出为当前时刻的细胞状态信息和网络参数ht＝o(t)*tanh(ct-1)。ft*ct-1代表列向量ft和ct-1的逐元素矩阵乘法运算，若ft的第i位为0即[ft]i＝0，则[ft*ct-1]i＝0，消除ct-1第i位全部信息。若ft的第i位为1即[ft*ct-1]i＝1，则[ft*ct-1i]＝，完整保留ct-1第i位全部信息。ft＝σ(Wf·[ht-1,Xt]+bf为遗忘门输出，σ，Wf和bf分別是遗忘门的激活函数，网络权重和偏置。[ht-1,Xt]表示将维度为Dh×1的列向量ht-1与维度为DX×1的列向量Xt拼接为维度是(Dh+DX)×1的列向量。为更新门的输出，it＝σ(Wi·[ht-1,Xt]+bi为需更新的信息，/>为待选细胞信息。ot＝σ(Wo·[ht-1,Xt]+bo为输出门的输出。
B、终端设备k完成第n本地训练，得到本地训练的网络参数及平均损失函数则终端设备k本地训练网络参数的更新公式为
C、终端设备k完成Nk次本地训练后得到本地训练网络参数及网络参数上传阈值/>
本发明根据剩余全局通信次数Emax-ΣEk、本地训练网络的损失函数以及此次本地训练与上次本地训练的网络参数差值/>计算参与第m次全局训练的终端设备k的网络参数上传阈值/>
例如，但不限于此。其中q1，q2为第一权重参数，本发明采用q1＝q2＝1，但不限于此。根据网络参数上传阈值可判断终端设备k的通信状态Ck，若此次与上次本地训练的平均损失函数的差值大于或等于预先设置的阈值即/>则该设备处于有效通信状态即Ck＝1。若/>则Ck＝0。
(4)终端设备上传参数：终端设备k根据其通信状态Ck决定是否上传其本地训练网络的参数至电力信息中心实现计算的服务器。具体而言，若终端设备k的通信状态无效即Ck＝0，则该终端设备不上传其本地训练网络的参数至电力信息中心实现计算的服务器。反之，若Ck＝1，则该终端设备上传其本地训练网络的参数至电力信息中心实现计算的服务器。
(5)电力信息中心实现计算的服务器聚合参数并下发新的全局参数：通信状态有效的终端设备将训练得到的局部参数上传到电力信息中心实现计算的服务器。电力信息中心实现计算的服务器采用联邦平均方案聚合所得参数，以得到下一次全局训练的全局参数wm+1并将其下发至终端设备。
全局参数的更新公式为：
其中，为第m次全局训练时采用的数据集总数，/>为终端设备k第m次全局训练时采用的数据集。
(6)全局训练：重复步骤(3)、(4)和(5)，直至终端设备的全局通信次数大于设定的全局通信阈值Emax，即ΣEk＞Emax，完成此次全局训练。此外，每Mf次全局训练，即计数器的计数值mf＝Mf时，服务器下发全局参数至所有的终端设备以解决终端设备长时间不与电力信息中心实现计算的服务器进行参数交互的问题。重复全局训练至全局训练次数大于最大全局训练次数即m＞M，或全局平均损失函数小于设定阈值δ即Fm＜δ。
最后，根据训练完成的电力负荷预测网络进行电力负荷预测，即可在保护数据隐私，保证实时预测的同时，提高电力负荷数据预测的准确性。
实施例2：基于联邦学习的电力负荷预测系统
该系统用于实现实施例1中所记载的基于联邦学习的电力负荷预测方法，如图5所示，包括设备选取模块、本地训练模块、参数判断模块、参数聚合模块、全局训练模块和负荷预测模块。
其中，设备选取模块，用于依据设备选择率随机选取参与全局训练的终端设备；本地训练模块，用于依据终端设备的用电量数据进行电力负荷预测模型的本地训练，得到本地训练网络参数；参数判断模块，用于依据网络参数上传阈值判断是否将本地训练网络参数上传至服务器；参数聚合模块，用于将服务器所接收的本地训练网络参数聚合为全局参数；全局训练模块，用于将全局参数下发至所选取的终端设备进行电力负荷预测模型的全局训练；负荷预测模块，用于通过训练完成的电力负荷预测模型进行电力负荷预测，得到电力负荷预测结果。
工作原理：本发明中的电力负荷预测过程不涉及电力原始数据的交互，可保证电力负荷预测的数据隐私，且数据量较少的网络参数交互减少了数据传输时间，可保证电力负荷的实时预测；此外，本发明基于设备选择率随机选取参与全局训练的终端设备，以及基于网络参数上传阈值判断是否上传本地训练网络的网络参数，在全局通信次数受限的情况下提高了FL预测模型的收敛速度。
以上所述的具体实施方式，对本发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施方式而已，并不用于限定本发明的保护范围，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.基于联邦学习的电力负荷预测方法，其特征是，包括以下步骤：
依据设备选择率随机选取参与全局训练的终端设备；
依据终端设备的用电量数据进行电力负荷预测模型的本地训练，得到本地训练网络参数；
依据网络参数上传阈值判断是否将本地训练网络参数上传至服务器；
将服务器所接收的本地训练网络参数聚合为全局参数；
将全局参数下发至所选取的终端设备进行电力负荷预测模型的全局训练；
通过训练完成的电力负荷预测模型进行电力负荷预测，得到电力负荷预测结果。
2.根据权利要求1所述的基于联邦学习的电力负荷预测方法，其特征是，所述依据网络参数上传阈值判断是否将本地训练网络参数上传至服务器的过程具体为：
确定当前次与上一次本地训练的平均损失函数的差值；
若两次平均损失函数的差值大于或等于网络参数上传阈值，则对应终端设备的通信状态有效，对应的终端设备将相应的本地训练网络参数上传至服务器；
若两次平均损失函数的差值小于网络参数上传阈值，则对应终端设备的通信状态无效，对应的终端设备不将相应的本地训练网络参数上传至服务器。
3.根据权利要求1所述的基于联邦学习的电力负荷预测方法，其特征是，所述平均损失函数的表达式具体为：
其中，表示终端设备k第n次本地训练时的平均损失函数；|Sk|表示终端设备k的训练数据集数；/>表示终端设备k的第i个数据集Si在本地训练网络参数为/>时的均方误差；/>表示参与第m次全局训练的终端设备k在第n次本地训练时的本地训练网络参数；yk,i、xk,i分别为终端设备k第i个数据集的真实输出和输入；/>为xk,i在本地训练网络参数为/>时的预测输出。
4.根据权利要求1所述的基于联邦学习的电力负荷预测方法，其特征是，所述网络参数上传阈值的计算公式具体为：
其中，表示参与第m次全局训练的终端设备k的网络参数上传阈值；Emax表示终端设备与服务器的最大通信次数；Ek表示终端设备k的全局通信次数；/>表示本地训练网络的平均损失函数；/>表示当前次本地训练的本地训练网络参数；/>表示上一次本地训练的本地训练网络参数；q1、q2均表示第一权重系数。
5.根据权利要求1所述的基于联邦学习的电力负荷预测方法，其特征是，所述全局参数的聚合公式具体为：
其中，wm+1表示下一次全局训练的全局参数；表示当前次本地训练的本地训练网络参数；/>表示终端设备k第m次全局训练时采用的数据集；K表示终端设备的总数量；Sm表示第m次全局训练时采用的数据集总数。
6.根据权利要求1所述的基于联邦学习的电力负荷预测方法，其特征是，所述设备选择率的计算公式具体为：
rm＝min(p1((Emax-∑Ek)/Emax)+p2log10Fm-1-p3rm-1,1)
其中，rm表示当前次全局训练的设备选择率；rm-1表示上一次全局训练的设备选择率；p1、p2、p3为第二权重参数；Emax表示终端设备与服务器的最大通信次数；Ek表示终端设备k的全局通信次数；Fm-1表示上一次全局训练的全局平均损失函数。
7.根据权利要求1所述的基于联邦学习的电力负荷预测方法，其特征是，该方法还包括：
在全局通信次数受限的情况下，通过优化各终端设备的本地训练网络参数以最小化电力系统的整体预测误差，优化目标函数表达式为：
(P1):
s.t.C1:Nk≤Nmax,k≤K
C2:
C3:Ck＝{0,1},k≤K
其中，Fm表示第m次全局训练的全局平均损失函数；表示当前次本地训练的本地训练网络参数；Nk为第k个终端设备的本地训练次数；Nmax为终端设备的最大本地训练次数；Ek表示终端设备k的全局通信次数；Emax表示所有终端设备的最大全局通信次数；Ck表示终端设备k的通信状态，Ck＝0代表终端设备k处于无效通信状态，Ck＝1代表终端设备k处于有效通信状态。
8.根据权利要求7所述的基于联邦学习的电力负荷预测方法，其特征是，所述全局平均损失函数的表达式具体为：
其中，Fm表示第m次全局训练的全局平均损失函数；|Sk|表示终端设备k的训练数据集数；表示本地训练网络的平均损失函数；K表示终端设备的总数量。
9.根据权利要求1所述的基于联邦学习的电力负荷预测方法，其特征是，所述终端设备利用LSTM网络进行本地训练。
10.基于联邦学习的电力负荷预测系统，其特征是，包括：
设备选取模块，用于依据设备选择率随机选取参与全局训练的终端设备；
本地训练模块，用于依据终端设备的用电量数据进行电力负荷预测模型的本地训练，得到本地训练网络参数；
参数判断模块，用于依据网络参数上传阈值判断是否将本地训练网络参数上传至服务器；
参数聚合模块，用于将服务器所接收的本地训练网络参数聚合为全局参数；
全局训练模块，用于将全局参数下发至所选取的终端设备进行电力负荷预测模型的全局训练；
负荷预测模块，用于通过训练完成的电力负荷预测模型进行电力负荷预测，得到电力负荷预测结果。
CN202310954352.XA 2023-07-28 2023-07-28 基于联邦学习的电力负荷预测方法及系统 Pending CN116845884A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310954352.XA CN116845884A (zh) 2023-07-28 2023-07-28 基于联邦学习的电力负荷预测方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310954352.XA CN116845884A (zh) 2023-07-28 2023-07-28 基于联邦学习的电力负荷预测方法及系统

Publications (1)

Publication Number Publication Date
CN116845884A true CN116845884A (zh) 2023-10-03

Family

ID=88170848

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310954352.XA Pending CN116845884A (zh) 2023-07-28 2023-07-28 基于联邦学习的电力负荷预测方法及系统

Country Status (1)

Country Link
CN (1) CN116845884A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117291845A (zh) * 2023-11-27 2023-12-26 成都理工大学 一种点云地面滤波方法、系统、电子设备及存储介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117291845A (zh) * 2023-11-27 2023-12-26 成都理工大学 一种点云地面滤波方法、系统、电子设备及存储介质
CN117291845B (zh) * 2023-11-27 2024-03-19 成都理工大学 一种点云地面滤波方法、系统、电子设备及存储介质

Similar Documents

Publication Publication Date Title
CN111176929A (zh) 一种面向边缘联邦学习的高能效计算通信联合优化方法
CN109086531B (zh) 基于神经网络的天线设计方法
CN116845884A (zh) 基于联邦学习的电力负荷预测方法及系统
CN110059867B (zh) 一种swlstm结合gpr的风速预测方法
US11784931B2 (en) Network burst load evacuation method for edge servers
CN110213784B (zh) 一种流量预测方法及装置
CN111461445B (zh) 短期风速预测方法、装置、计算机设备及存储介质
CN113852432A (zh) 基于rcs-gru模型的频谱预测感知方法
CN110300417B (zh) 无人机通信网络的能量效率优化方法和装置
CN113191564A (zh) 一种光伏功率预测方法、装置及服务器
CN115469627B (zh) 基于物联网的智能工厂运行管理系统
CN112260733A (zh) 基于多智能体深度强化学习的mu-miso混合预编码设计方法
CN114757441A (zh) 一种负荷预测方法及相关装置
CN114595542A (zh) 一种线损预测方法
CN113961204A (zh) 一种基于多目标强化学习的车联网计算卸载方法及系统
CN117332897A (zh) 人工智能驱动的新能源小时间尺度功率插值集成预测方法
CN116911178A (zh) 一种基于气象预报的中小型水库容量预测方法及系统
Peng et al. Hmm-lstm for proactive traffic prediction in 6g wireless networks
Peng et al. Meteorological satellite operation prediction using a BiLSTM deep learning model
CN114501518B (zh) 流量预测方法、装置、设备、介质和程序产品
CN114726463B (zh) 基于神经网络的移动通信用户时空分布预测方法及装置
CN115688569A (zh) 增益调整方法、装置、计算机设备和存储介质
CN113298329A (zh) 训练、策略生成方法、系统、计算机装置及存储介质
CN112561050A (zh) 一种神经网络模型训练方法及装置
CN110458284A (zh) 一种模拟神经网芯片的设计方法及模拟神经网芯片

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination