CN113610303A - 一种负荷预测方法及系统 - Google Patents

一种负荷预测方法及系统 Download PDF

Info

Publication number
CN113610303A
CN113610303A CN202110910283.3A CN202110910283A CN113610303A CN 113610303 A CN113610303 A CN 113610303A CN 202110910283 A CN202110910283 A CN 202110910283A CN 113610303 A CN113610303 A CN 113610303A
Authority
CN
China
Prior art keywords
model
federal learning
load prediction
user terminal
matching strategy
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110910283.3A
Other languages
English (en)
Other versions
CN113610303B (zh
Inventor
王宣元
王莉
徐连明
费爱国
闫敏
刘蓁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing University of Posts and Telecommunications
State Grid Jibei Electric Power Co Ltd
Original Assignee
Beijing University of Posts and Telecommunications
State Grid Jibei Electric Power Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing University of Posts and Telecommunications, State Grid Jibei Electric Power Co Ltd filed Critical Beijing University of Posts and Telecommunications
Priority to CN202110910283.3A priority Critical patent/CN113610303B/zh
Publication of CN113610303A publication Critical patent/CN113610303A/zh
Application granted granted Critical
Publication of CN113610303B publication Critical patent/CN113610303B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06315—Needs-based resource requirements planning or analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/06—Energy or water supply
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
    • Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
    • Y04S10/00—Systems supporting electrical power generation, transmission or distribution
    • Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Economics (AREA)
  • Strategic Management (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Marketing (AREA)
  • Entrepreneurship & Innovation (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Biomedical Technology (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Development Economics (AREA)
  • Molecular Biology (AREA)
  • Game Theory and Decision Science (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Public Health (AREA)
  • Water Supply & Treatment (AREA)
  • Primary Health Care (AREA)
  • Educational Administration (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明提供一种负荷预测方法及系统，该方法包括：101，根据当前联邦学习最优分组匹配策略，每个边缘服务器将对应分组的本地模型进行聚合，得到每个边缘服务器的全局模型；102，用户终端通过各自用电负荷数据，对接收到的全局模型进行本地训练，得到每个用户终端在当前联邦学习的本地模型；103，根据全局模型和每个本地模型间的模型相似度，以及每个用户终端完成本地训练所需时延，获取下一联邦学习最优分组匹配策略；104，重复101至103，得到目标分组匹配策略和不同分组负荷预测模型；105，基于目标分组匹配策略，通过每个分组负荷预测模型，对各自组内用户终端进行负荷预测。本发明提升负荷预测精度，减少模型训练时间。

Description

一种负荷预测方法及系统
技术领域
本发明涉及电力负荷技术领域，尤其涉及一种负荷预测方法及系统。
背景技术
越来越多可再生能源的加入，给电网带来很大的波动性和不确定性，虚拟电厂(Virtual Power Plants，简称VPP)则可以通过聚合分布式发电、柔性负荷和储能等分布式能源参与电力市场运行，促进供需互动，减少可再生能源随机性和波动性对电力系统的影响。要想实现这个目标，其中最关键的一步则是精准及时的预测单个用户的用电需求，使得VPP提前知道不同用户所需电量是实现其灵活性电力调度的前提与关键所在。
现有研究表明，使用深度神经网络进行负荷预测的性能优于其他预测方法，如自回归综合移动平均(Auto Regressive Integrated Moving Average，简称ARIMA)和支持向量回归(Support Vector Regression，简称SVR)方法。尤其是作为时间序列模型的循环神经网络(Recurrent Neural Networks，简称RNNs)，该神经网络可以根据t时刻之前的数据，预测t时刻即将产生的数据，这一特点非常适用于单个用户的负荷预测问题。然而，现有的基于RNN的负荷预测框架，都是假设将所有数据传输到云服务器上进行模型训练，负荷数据中包含了很多敏感信息，如用电设备使用情况、家庭居住情况和电费账单等，通过网络将这些数据传输出去，会使其面临恶意拦截和滥用，从而导致隐私安全无法被保证。
联邦学习(Federated Learning，简称FL)作为保护用户隐私安全的有效手段最近被广泛关注，最新的研究也提出了基于FL的负荷预测方法，该方法不需要传输原始的用电数据，而只需要传输训练出来的模型参数即可。中心服务器首先将初始化模型参数下发给客户端，客户端进行本地模型训练后，将本地模型上传到中心服务器，中心服务器将所有客户端的本地模型进行聚合再下发给客户端，如此循环下去，直到满足收敛条件为止。该方法是通过聚合用户的模型参数来获取所有用户共享的负荷规律，最终得到的是一个全局的负荷预测模型。然而，从信息的角度来看，VPP中不同的用户设备之间具有很大的异质性，会对FL训练效率带来很大的影响；从能源的角度来看，不同用户的用电行为和规律存在差异化，因此使用FL得到的全局模型对所有的用户进行负荷预测时，会导致负荷预测准确率下降的问题。因此，现在亟需一种负荷预测方法及系统来解决上述问题。
发明内容
针对现有技术存在的问题，本发明提供一种负荷预测方法及系统。
本发明提供一种负荷预测方法，包括：
101，根据当前轮次联邦学习的最优分组匹配策略，每个边缘服务器将对应分组内上一轮次联邦学习得到的本地模型进行聚合，得到每个边缘服务器在当前轮次联邦学习的全局模型，并将各自当前轮次联邦学习的全局模型发送到对应分组的用户终端；
102，每个用户终端通过各自的用电负荷数据，对接收到的当前轮次联邦学习的全局模型进行本地训练，得到每个用户终端在当前轮次联邦学习的本地模型；
103，根据当前轮次联邦学习得到的全局模型和当前轮次联邦学习得到的每个本地模型之间的模型相似度，以及当前轮次联邦学习的每个用户终端完成本地训练所需的时延，获取下一轮次联邦学习的最优分组匹配策略；
104，重复步骤101至步骤103，若满足预设训练条件，得到多组训练好的负荷预测模型，并将训练结束时最后一轮次联邦学习得到的最优分组匹配策略作为目标分组匹配策略；
105，基于所述目标分组匹配策略，通过每组训练好的负荷预测模型，对各自组内的用户终端进行负荷预测，得到每个用户终端的负荷预测结果。
根据本发明提供的一种负荷预测方法，所述方法还包括：
在第一轮联邦学习过程中，通过边缘服务器向每个用户终端发送初始全局模型，所述初始全局模型是由边缘服务器从中心服务器获取得到的；
每个用户终端通过各自的用电负荷数据，对接收到的所述初始全局模型进行本地训练，得到每个用户终端的初始本地模型；
根据所述初始全局模型和每个初始本地模型之间的模型相似度，以及每个用户终端完成本地训练所需的时延，将每个用户终端划分到对应的边缘服务器，得到后续联邦学习过程中用户终端和边缘服务器之间的初始分组匹配策略。
根据本发明提供的一种负荷预测方法，所述根据当前轮次联邦学习得到的全局模型和当前轮次联邦学习得到的每个本地模型之间的模型相似度，以及当前轮次联邦学习的每个用户终端完成本地训练所需的时延，获取下一轮次联邦学习的最优分组匹配策略，包括：
在当前轮次联邦学习过程中，以最小化每个边缘服务器的全局模型和每个用户终端的本地模型之间的模型相似度距离，最小化每个用户终端的计算时延和模型参数上传通信时延为优化目标，构建分组匹配策略优化问题，并对所述分组匹配策略优化问题进行求解，得到下一轮次联邦学习的最优分组匹配策略。
根据本发明提供的一种负荷预测方法，所述分组匹配策略优化问题的公式为：
Figure BDA0003203437380000041
s.t.
Figure BDA0003203437380000042
Figure BDA0003203437380000043
其中，ri k表示第i个用户终端是否属于第k个边缘服务器，ri k取值为1或0；
Figure BDA0003203437380000044
表示本地模型Wi和边缘服务器上全局模型
Figure BDA0003203437380000045
之间的模型相似度距离，
Figure BDA0003203437380000046
表示在第i个用户终端上进行本地训练所需要的计算时延，
Figure BDA0003203437380000047
表示第i个用户终端和第k个边缘服务器之间的模型参数上传通信时延，Tmax表示最大时延阈值。
根据本发明提供的一种负荷预测方法，所述对所述分组匹配策略优化问题进行求解，得到下一轮次联邦学习的最优分组匹配策略，包括：
基于Kuhn-Munkres匹配算法，对分组匹配策略优化问题进行求解，得到最优分组匹配策略。
根据本发明提供的一种负荷预测方法，所述对所述分组匹配策略优化问题进行求解，得到下一轮次联邦学习的最优分组匹配策略，还包括：
基于盖尔-沙普利匹配算法，对分组匹配策略优化问题进行求解，得到最优分组匹配策略。
根据本发明提供的一种负荷预测方法，所述训练好的负荷预测模型是由长短期记忆网络构建得到的。
本发明还提供一种负荷预测系统，包括：
组内全局模型发送模块，用于执行步骤101，根据当前轮次联邦学习的最优分组匹配策略，每个边缘服务器将对应分组内上一轮次联邦学习得到的本地模型进行聚合，得到每个边缘服务器在当前轮次联邦学习的全局模型，并将各自当前轮次联邦学习的全局模型发送到对应分组的用户终端；
组内本地训练模块，用于执行步骤102，每个用户终端通过各自的用电负荷数据，对接收到的当前轮次联邦学习的全局模型进行本地训练，得到每个用户终端在当前轮次联邦学习的本地模型；
最优分组匹配策略计算模块，用于执行步骤103，根据当前轮次联邦学习得到的全局模型和当前轮次联邦学习得到的每个本地模型之间的模型相似度，以及当前轮次联邦学习的每个用户终端完成本地训练所需的时延，获取下一轮次联邦学习的最优分组匹配策略；
循环训练模块，用于执行步骤104，重复步骤101至步骤103，若满足预设训练条件，得到多组训练好的负荷预测模型，并将训练结束时最后一轮次联邦学习得到的最优分组匹配策略作为目标分组匹配策略；
多分组负荷预测模块，用于执行步骤105，基于所述目标分组匹配策略，通过每组训练好的负荷预测模型，对各自组内的用户终端进行负荷预测，得到每个用户终端的负荷预测结果。
本发明还提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如上述任一种所述负荷预测方法的步骤。
本发明还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如上述任一种所述负荷预测方法的步骤。
本发明提供的一种负荷预测方法及系统，基于边缘服务器和用户终端之间协同的多分组联邦学习的负荷预测架构，对所有的用户终端进行分组，一个边缘服务器对应一个分组，通过边缘服务器聚合组内多个用户终端的信息，得到属于本组用户终端的负荷预测模型。在保护用户隐私的同时，提出适用于负荷预测的新型联邦学习算法，提升负荷预测的精度，减少模型训练时间具有实际意义，高效精准的负荷预测有助于VPP精细化地感知用户的用电需求，从而实现更加精准及时的调度，以消纳更多的新能源。
附图说明
为了更清楚地说明本发明或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明提供的负荷预测方法的流程示意；
图2为本发明提供的基于边端协同的多分组联邦学习负荷预测架构的示意图；
图3为本发明提供的RMSE指标对比的实验结果示意图；
图4为本发明提供的MAPE指标对比的实验结果示意图；
图5为本发明提供的模型训练时效性对比结果示意图；
图6为本发明提供的负荷预测系统的结构示意图；
图7为本发明提供的电子设备的结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚，下面将结合本发明中的附图，对本发明中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
虚拟电厂作为解决新能源发电不确定性的有效手段，可以聚合大量分布式电源、负荷和储能等灵活性资源，通过VPP智能管控云平台，对灵活性资源进行调度，以更好的应对新能源发电的实时变化，实现电网中的供需实时平衡。在这个过程中，最关键的是需要预测不同用户负荷需求，以便于更好的制定调度计划。在现有的FL中，可以通过收集分布式终端上的信息，来学习到一个中心化的模型，通过迭代训练，最终得到用于负荷预测的模型。在现有基于FL的负荷预测方法中，一次迭代包含有四个步骤：1、中心服务器初始化一个全局模型
Figure BDA0003203437380000071
并下发给所有的终端设备，在负荷预测的实例中，终端设备可以是智能电表等；2、终端设备通过自己的数据对下发的全局模型进行训练，即智能电表根据本地存储的用电负荷数据进行模型训练，并将本地训练好的模型参数上传到云平台；3、云平台收到本地训练好的模型参数{W1，W2，...，Wm}后，将其聚合得到一个新的全局模型
Figure BDA0003203437380000072
以上步骤重复迭代直到满足停止条件为止(如达到了期望的精度或者预设的训练时间)。
具体地，第i个用户终端上的本地私有数据Di为：
Figure BDA0003203437380000073
其中，xj表示输入的第j个特征，yj表示输入的第j个特征对应的标签值。通过W来表示神经网络模型的参数，Li(W)表示
Figure BDA0003203437380000074
数据集上的损失函数。在负荷预测中，损失函数往往用均方误差来表示：
Figure BDA0003203437380000075
其中，f(·)表示神经网络模型函数。训练的过程就是在上述数据集中最小化损失函数，这个训练过程通常是通过随机梯度下降(Stochastic Gradient Descent，简称SGD)的方法进行求解，即：
Figure BDA0003203437380000081
其中，η表示学习率，即梯度下降算法里的步长，r表示本地训练的轮次。
在经过多轮本地训练后，每个终端设备可以得到各自的模型参数Wi。假设有m个终端设备，终端上的用电负荷数据为
Figure BDA0003203437380000082
在进行负荷预测模型训练时，为了保护用户隐私，这些负荷数据都不能直接上传，中心服务器只能将所有终端设备上训练得到的模型参数
Figure BDA0003203437380000083
进行聚合，通过求平均的方式得到一个全局的
Figure BDA0003203437380000084
具体过程可表示为：
Figure BDA0003203437380000085
由此可见，现有FL最终只能得到一个全局的模型。然而，一方面，每个用户的用电模式具有差异化特点，不同类别的用户所需要的负荷预测模型应该是不一样的，所以在使用现有的FL进行负荷预测，会存在模型异质性的问题，导致模型预测精度低；另一方面，不同终端设备上的计算资源，以及该终端设备和云平台之间的通信时延也存在差异化的特点，所以会存在资源异质性问题，导致模型训练的时延高。
图1为本发明提供的负荷预测方法的流程示意图，如图1所示，本发明提供了一种负荷预测方法，包括：
步骤101，根据当前轮次联邦学习的最优分组匹配策略，每个边缘服务器将对应分组内上一轮次联邦学习得到的本地模型进行聚合，得到每个边缘服务器在当前轮次联邦学习的全局模型，并将各自当前轮次联邦学习的全局模型发送到对应分组的用户终端；
步骤102，每个用户终端通过各自的用电负荷数据，对接收到的当前轮次联邦学习的全局模型进行本地训练，得到每个用户终端在当前轮次联邦学习的本地模型；
步骤103，根据当前轮次联邦学习得到的全局模型和当前轮次联邦学习得到的每个本地模型之间的模型相似度，以及当前轮次联邦学习的每个用户终端完成本地训练所需的时延，获取下一轮次联邦学习的最优分组匹配策略；
在本发明中，引入边缘服务器，提出了基于多分组FL的负荷预测架构，图2为本发明提供的基于边端协同的多分组联邦学习负荷预测架构的示意图，如图2所示，所有的用户终端(本实施例以智能电表进行说明)会形成总共K个分组，表示为C1,…,CK，每个分组对应一个边缘服务器进行联邦学习。在本发明中，在当前轮次联邦学习的分组确定之后，一次迭代包含有四个步骤：1、边缘服务器初始化一个全局模型Wk发送给对应的本组用户终端，即第k个边缘服务器将自身的全局模型发送到本组内每个用户终端；2、用户终端通过各自的本地数据对该全局模型进行训练，得到一组模型参数
Figure BDA0003203437380000091
并将该参数上传给对应的边缘服务器；3、边缘服务器对本组内上传的这些模型进行聚合，从而形成一个新的全局模型
Figure BDA0003203437380000092
Figure BDA0003203437380000093
其中，ri k表示用户终端i是否属于分组k，即：
Figure BDA0003203437380000094
由于多分组FL把用户终端分成了多个组分别进行FL的训练，所以其中Wi和
Figure BDA0003203437380000101
之间的距离，要比现有集中式FL中Wi和
Figure BDA0003203437380000102
之间的距离小。由FL的原理可知，Wi和
Figure BDA0003203437380000103
之间的距离越小，整体FL的损失函数也就越小，可以提升负荷预测的精度，需要说明的是，在本发明中，通过L2距离计算本地模型与全局模型(聚合模型)之间的距离，通过该距离定义两个模型之间的相似度，距离越小说明两个模型越相似。此外，多分组FL架构还需要最小化模型训练的通信时延和计算时延，从而得到边缘服务器和用户终端之间的优化匹配。
步骤104，重复步骤101至步骤103，若满足预设训练条件，得到多组训练好的负荷预测模型，并将训练结束时最后一轮次联邦学习得到的最优分组匹配策略作为目标分组匹配策略。
在本发明中，迭代以上步骤，直到满足预设训练条件为之，例如，训练结果满足了所要求的模型准确率，或者训练时间超过了规定的时长。并且，在训练结束之后，也同时确定了边缘服务器和用户终端之间的最终分组，从而在后续的负荷预测中，每个分组的边缘服务器和用户终端进行组内的负荷预测。
在上述实施例的基础上，所述方法还包括：
在第一轮联邦学习过程中，通过边缘服务器向每个用户终端发送初始全局模型，所述初始全局模型是由边缘服务器从中心服务器获取得到的；
每个用户终端通过各自的用电负荷数据，对接收到的所述初始全局模型进行本地训练，得到每个用户终端的初始本地模型；
根据所述初始全局模型和每个初始本地模型之间的模型相似度，以及每个用户终端完成本地训练所需的时延，将每个用户终端划分到对应的边缘服务器，得到后续联邦学习过程中用户终端和边缘服务器之间的初始分组匹配策略。
在本发明中，在进行上述重复步骤之前，边缘服务器首先从中心服务器获取到一个相同的初始全局模型，在第一轮联邦学习过程中，所有用户终端都会通过边缘服务器获取到该初始全局模型。进一步地，在第一轮联邦学习过程中，每个用户终端均是对这个初始全局模型进行本地训练，进而根据该初始全局模型和每个初始本地模型之间的模型相似度，以及每个用户终端完成本地训练所需的时延，将每个用户终端划分到对应的边缘服务器，得到一个初始分组匹配策略，并将该初始分组匹配策略作为后续循环训练过程。在后续循环训练过程中，中心服务器不再对用户终端的本地模型进行聚合，而是通过每个分组内的边缘服务器进行组内的模型聚合。
步骤105，基于所述目标分组匹配策略，通过每组训练好的负荷预测模型，对各自组内的用户终端进行负荷预测，得到每个用户终端的负荷预测结果。
在本发明中，每个分组内的边缘服务器和用户终端，对应一个训练好的负荷预测模型，基于该负荷模型，可对差异性较小或用电规律相似的用户终端进行负荷预测。本发明提供的负荷预测方法，可运用于居民用电和企业用电的负荷预测中，实现居民用电和企业用电之间的分组负荷预测，更进一步地，实现不同生活习惯的居民用电分组，和不同生产规律的企业用电分组的负荷预测。需要说明的是，本发明还可以应用于其他负荷预测领域中，例如，电动汽车充电领域中，进行不同类型(例如，私家车充电场和公共交通充电场)，不同区域(例如，老城区的充电场和高新区的充电场)的负荷预测。
本发明提供的负荷预测方法，基于边缘服务器和用户终端之间协同的多分组联邦学习的负荷预测架构，对所有的用户终端进行分组，一个边缘服务器对应一个分组，通过边缘服务器聚合组内多个用户终端的信息，得到属于本组用户终端的负荷预测模型。在保护用户隐私的同时，提出适用于负荷预测的新型联邦学习算法，提升负荷预测的精度，减少模型训练时间具有实际意义，高效精准的负荷预测有助于VPP精细化地感知用户的用电需求，从而实现更加精准及时的调度，以消纳更多的新能源。
在上述实施例的基础上，所述根据当前轮次联邦学习得到的全局模型和当前轮次联邦学习得到的每个本地模型之间的模型相似度，以及当前轮次联邦学习的每个用户终端完成本地训练所需的时延，获取下一轮次联邦学习的最优分组匹配策略，包括：
在当前轮次联邦学习过程中，以最小化每个边缘服务器的全局模型和每个用户终端的本地模型之间的模型相似度距离，最小化每个用户终端的计算时延和模型参数上传通信时延为优化目标，构建分组匹配策略优化问题，并对所述分组匹配策略优化问题进行求解，得到下一轮次联邦学习的最优分组匹配策略。
在本发明中，针对现有FL的负荷预测中，能源域的模型异质性和信息域的资源异质性问题，将能源域和信息域的问题联合建模，最小化每个用户终端本地模型和组内中心聚合模型之间距离的同时，也最小化模型训练所需的通信和计算时延。其中，模型异质性是指不同类型用户的用电行为不同，所需的负荷预测模型应该是差异化的，然而传统FL只聚合成一个单一的模型；资源异质性是指不同的用户终端的通信和计算资源差异化，会严重影响模型的训练效率。因此，本发明在多分组FL架构下，对能源域和信息域的两个问题进行联合建模。
具体地，针对能源域的模型异质性问题，本发明将用户终端划分为具有相似用电模式的多个组，而不是将所有的用户用户一起训练，得到一个全局的负荷预测模型。由于FL中要以保护用户隐私安全为前提，所以不能直接通过用户的负荷数据进行分组，因此本发明通过不同用户终端本地训练出来的模型参数，对用户终端进行分组，以最小化组内全局模型和本地模型之间的距离为优化目标，从而得到最优分组结果，即：
Figure BDA0003203437380000121
其中，Dist(·)表示一个可以测量本地模型Wi和边缘服务器上的聚合模型
Figure BDA0003203437380000131
之间的相似程度，该值越小说明两个模型越相似，本发明采用了L2距离进行计算，即：
Figure BDA0003203437380000132
进一步地，针对信息域中资源异质性的问题，由于不同的用户终端上的计算资源不同，所以每个用户终端完成本地训练的时延将会有很大差异。而且，由于5G等无线通信的低成本、高速率的优势，越来越多的智能终端开始使用无线通信的方式，因此不同设备的位置不同以及发射功率的不同等，都会造成其通信时延的的差异化。针对这一特点，在对用户终端进行分组时，除了要考虑模型参数之间的距离以外，还需要结合当前的资源状况，最小化FL过程中本地更新模型的计算时延，以及用户终端将模型参数上传给边缘服务器的通信时延。需要说明的是，本发明定义边缘服务器的资源是相对充足且稳定的，因此，边缘服务器上进行模型聚合的计算时延和边缘服务器下发模型的通信时延在本发明不作考虑。所以，基于信息域中资源异质性，最小化每个用户终端的计算时延和模型参数上传通信时延为优化目标，表示为：
Figure BDA0003203437380000133
其中，
Figure BDA0003203437380000134
表示在第i个用户终端上进行本地训练所需要的计算时延，
Figure BDA0003203437380000135
表示第i个用户终端和第k个边缘服务器之间的通信时延，即用户终端将模型参数上传到边缘服务器的通信时延，表示为：
Figure BDA0003203437380000136
其中，D表示上传的模型参数大小，P表示用户终端上的发射功率，B表示从用户终端到边缘服务器上传模型的无线信道的带宽，g表示小尺度衰弱下的信道增益，dik表示第i个用户终端和第k个分组边缘服务器之间的距离，a表示路径损耗指数因子，σ2表示噪声功率。
综上所述，在进行多分组的FL时，需要联合考虑上述两方面的优化目标。首先，需要最小化分组内全局模型和终端本地模型之间的距离；其次，需要最小化训练时间。因此，该问题可联合建模为：
Figure BDA0003203437380000141
s.t.
Figure BDA0003203437380000142
Figure BDA0003203437380000143
Figure BDA0003203437380000144
其中，第一个约束条件表示每个用户终端进行一轮本地训练时，所需要的通信和计算时延要小于一个阈值，即小于最大时延阈值；第二个约束条件表示多个用户终端可以被选择分在一个组，第三个约束条件表示一个用户终端仅能被分在一个分组里。
进一步地，本发明在多分组FL负荷预测的架构下，提出了将边缘服务器和用户终端之间的分组匹配策略求解与FL中的参数优化进行交替迭代更新的算法，主要采用了一种随机最大期望(Stoch-astic Expectation Maximization，简称SEM)的优化框架，其主要步骤为：1、固定Wi，更新边缘服务器和用户终端之间的匹配策略
Figure BDA0003203437380000145
2、基于得到的匹配策略
Figure BDA0003203437380000146
更新得到本组新的初始化全局模型
Figure BDA0003203437380000147
3、基于新的初始化全局模型
Figure BDA0003203437380000148
进行本地模型更新。
在上述实施例的基础上，所述对所述分组匹配策略优化问题进行求解，得到下一轮次联邦学习的最优分组匹配策略，包括：基于Kuhn-Munkres匹配算法，对分组匹配策略优化问题进行求解，得到最优分组匹配策略。
在上述实施例的基础上，所述对所述分组匹配策略优化问题进行求解，得到下一轮次联邦学习的最优分组匹配策略，还包括：基于盖尔-沙普利匹配算法，对分组匹配策略优化问题进行求解，得到最优分组匹配策略。
在本发明中，可采用两种匹配算法对上述联合建模得到的优化问题进行求解，即基于Kuhn-Munkres(简称KM)匹配算法和盖尔-沙普利匹配算法(Gale-Shapley，简称GS)分别设计了FL-KM算法和FL-GS算法。
进一步地，基于每个用户终端上初始化的Wi以及不同用户终端上进行本地模型训练的计算和通信时延，通过上述匹配算法对问题进行求解，得到边缘服务器和用户终端之间在当前联邦学习的最优分组匹配策略
Figure BDA0003203437380000151
本发明根据拉格朗日乘子法，将上述联合建模得到的优化问题重新表达，得到所述分组匹配策略优化问题的公式为：
Figure BDA0003203437380000152
s.t.
Figure BDA0003203437380000153
Figure BDA0003203437380000154
其中，ri k表示第i个用户终端是否属于第k个边缘服务器，ri k取值为1或0；
Figure BDA0003203437380000155
表示本地模型Wi和边缘服务器上全局模型
Figure BDA0003203437380000156
之间的模型相似度距离，
Figure BDA0003203437380000157
表示在第i个用户终端上进行本地训练所需要的计算时延，
Figure BDA0003203437380000158
表示第i个用户终端和第k个边缘服务器之间的模型参数上传通信时延，Tmax表示最大时延阈值。
当采用FL-KM匹配算法进行求解时，该算法详细过程如下所示：
Figure BDA0003203437380000159
Figure BDA0003203437380000161
在上述FL-KM匹配算法中，首先，边缘服务器将初始化的模型参数Wi下发给用户终端；然后，通过KM匹配算法得到匹配策略ri k。具体地，边缘服务器和用户终端之间的匹配可以描述为一个二分图G，其中，一边的顶点代表边缘服务器Sk，另一边的顶点代表用户终端设备Ci，由于KM匹配算法是最大权值匹配，而本发明是最小化优化目标，因此将Sk和Ci之间的边权值设置为优化目标的倒数，即：
Figure BDA0003203437380000162
将二分图中所有的三元组(k,i,Weightki)输入到KM算法，即可得到最优分组匹配策略ri k。
最后，根据得到的最优分组匹配结果ri k和Wi，边缘服务器更新对应分组的全局模型
Figure BDA0003203437380000163
然后，将
Figure BDA0003203437380000164
下发给本组的用户终端，用户终端进行新一轮的本地更新得到新的Wi，迭代以上过程直到满足循环结束条件为止，如训练满足了所要求的模型准确率或者训练时间超过了预设时长。
此外，GS算法作为一种分布式的稳定匹配算法，也可以对上述优化问题进行求解。GS算法主要是根据双方的偏好排名得到最优的匹配策略ri k，当采用FL-GS匹配算法进行求解时，该算法详细过程如下所示：
Figure BDA0003203437380000171
在上述FL-GS匹配算法中，对于每个边缘服务器Sk，以Weightki的值降序排序得到偏好列表为EK，所有边缘服务器得到的偏好列表集合为E＝{E1，E2，...，EK，...，EK}；同样地，用户终端得到的偏好列表集合为C＝{C1，C2，...，Ci，...，CM}。将E和C输入GS算法中，即可得到当前联邦学习的最优分组匹配策略ri k。最后，根据得到的最优分组匹配结果ri k和Wi，边缘服务器更新对应分组的全局模型
Figure BDA0003203437380000172
然后，将
Figure BDA0003203437380000173
下发给本组的用户终端，用户终端进行新一轮的本地更新得到新的Wi，迭代以上过程直到满足循环结束条件为止，如训练满足了所要求的模型准确率或者训练时间超过了预设时长。
本发明通过FL-KM和FL-GS算法，在FL模型训练的同时，联合优化了边缘服务器和用户终端之间的匹配策略，又可以在新的匹配策略下更高效地对FL模型进行训练，最终在降低模型预测误差的同时，减少模型训练时间。
在上述实施例的基础上，所述训练好的负荷预测模型是由长短期记忆网络构建得到的。
在本发明中，所训练的预测模型采用基于时间序列的长短期记忆(Long Short-Term Memory，简称LSTM)神经网络。LSTM作为一种有效的RNN架构，是专门用来处理具有时间依赖性的数据的。它能够建立先前信息和当前环境之间的时间相关性，即在t-1时间点所做的决策可能会影响t时间点所作的决策。LSTM的这种特性非常适合于单个用户的负荷预测问题，因为有研究表明，用户本身每天的前一段时间的用电量是影响后一段时间用电量的最重要因素之一。
同时，LSTM保留了RNN时序性特点，也解决了传统RNN在处理长期依赖时存在的梯度消失问题。梯度消失主要是指由于长期时间依赖会使得梯度值很小，导致权重永远不会改变。LSTM模型在RNN的基础上增加了输入门、输出门和遗忘门，通过控制哪些记忆信息应该被遗忘。对于短期的负荷预测来说，则可以通过LSTM模型从历史数据中形成用户用电模式的抽象，保留有用的记忆信息，对未来的用电情况进行预测。
在一实施例中，为了验证本发明提供的负荷预测方法的有效性，使用的验证数据来自爱尔兰能源监管委员会(Commission for Energy Regulation，简称CER)发起的智能计量电力客户行为试验(CBTs)。试验于2009年7月1日至2010年12月31日进行，有超过5000名爱尔兰居民消费者和中小企业参与。在本实施例中，随机地选择了其中的60个用户进行分析，每个用户的用电负荷数据为间隔1小时的用电功率。
为了进一步的分析，需要对用电负荷数据进行预处理。首先，将用电负荷数据进行归一化为0到1之间的值；然后，将归一化数据的时间序列转换为根据前12个时间点预测下一个时间点的值；最后，将预处理后的数据分为训练集(70％)和测试集(30％)。使用最常用的均方根误差(Root Mean Square Error，简称RMSE)和平均绝对百分比误差(MeanAbsolute Percentage Error，简称MAPE)来评估模型的性能，其中，RMSE可以用来定量的衡量预测误差，MAPE是用来量化相对于真实值的百分比误差，它们的表达式如下：
Figure BDA0003203437380000191
Figure BDA0003203437380000192
其中，
Figure BDA0003203437380000193
是真实的值，yi为预测得到的值，Q为预测值的数量，这两个指标都是值越小说明模型性能越好。
在本实施例中，仿真实验是在8核、2.1GHz的主频、16G内存的服务器上进行的，该服务器带有2080TI-11G的GPU显卡。使用Pytorch 1.7.1的深度学习框架来构建LSTM深度神经网络。具体地，假设有3个边缘服务器、60个终端，随机生成边缘服务器的位置，在其周围随机生成用户终端的位置。对于边缘服务器和用户终端之间的通信信道，设置为用户终端向边缘服务器上行的带宽为1MHz，信道增益g的均值为1，路径损耗指数因子a为3.5，噪声功率σ2为10-10W，每个用户终端上的功率P设置为0.1W到0.2W之间的一个随机值。对于用于终端上的计算时延，随机地设置为1s到10s中的一个值，因为本实施例测试一轮训练在单个GPU上运行需要0.1s，而用户终端的计算能力较弱，所需的计算时延是GPU上的10到100倍。
进一步地，本实施例对于负荷预测的深度学习模型使用的是LSTM模型，该LSTM模型为两层结构，第一层有50个神经元，第二层有100个神经元，最后接一个全连接层。损失函数使用的是均方误差，优化器使用的是自适应矩估计(Adam)方法，学习率设置为0.01。由于本实施例主要是为了评估FL的性能，因此对于LSTM中的超参数不做过多的分析。
通过上述的仿真设置进行仿真实验之后，对仿真结果进行分析。首先，比较所提出的FL-KM算法的负荷预测误差，所选择的基准为1、传统的集中式联邦学习(FL)：通过聚合不同用户终端上的预测模型，得到一个全局的负荷预测模型；2、基于终端聚类的多中心FL(FL-Cluster)：在FL的过程中，根据用户终端上的模型参数，对用户终端进行聚类，最终每个类别得到一个预测模型，该方法可以有效解决模型异质性的问题，但是未考虑资源异质性导致的训练效率低的问题。本实施例进一步提出了FL-KM和FL-GS算法，不仅解决了模型异质性问题，还考虑了资源异质性，在提升预测准确率的同时也降低了模型训练所需的时延。
图3为本发明提供的RMSE指标对比的实验结果示意图，如图3所示，横坐标表示FL的训练轮次，实验结果表明本实施例所提出的FL-KM算法相比传统的FL方法，预测误差降低了12.58％、相比FL-Cluster预测误差降低了8.11％。此外，FL-GS算法虽然优于其他方法，但性能要低于FL-KM算法，主要是因为KM算法属于集中式匹配算法，可以根据全局信息进行匹配，而GS算法属于分布式匹配算法，仅根据偏好列表里的信息进行匹配，所以其匹配的性能要比KM算法差。但FL-GS算法的性能仍优于FL和FL-Cluster算法，可见通过匹配算法和FL的优化过程相结合，可以很好的提升FL中负荷预测模型的精度。
图4为本发明提供的MAPE指标对比的实验结果示意图，如图4所示，FL-KM和FL-GS算法在相对于真实值的百分比误差上要优于其他两个基准方法。由此可见，本实施例可以将具有相同数据分布的用户聚集在一个组进行FL，突破了FL下模型异质性的限制，降低了负荷预测的误差。
进一步地，在比较训练时效性时，图5为本发明提供的模型训练时效性对比结果示意图，如图5所示，主要对比了FL-KM、FL-GS和FL-Cluster的性能，横坐标是指在仿真环境下的训练时间。实验结果表明，利用匹配理论驱动下的FL算法和FL-Cluster在时间维度上的对比，要比从训练轮次维度上的对比差距更大。由此可见，FL-KM、FL-GS通过将计算和通信时延作为匹配的考虑因素，显著的减少了达到某个误差所需要的训练时间。模型训练时效性定量对比结果如表1所示：
表1
T<sub>0.09</sub>(s) T<sub>0.08</sub>(s) T<sub>0.07</sub>(s)
FL-Cluster 3438 5663 14168
FL-GS 1150 1293 1437
FL-KM 426 426 1364
减少百分比 87.60％ 92.47％ 90.37％
其中，Tα表示当RMSE的值达到a时所需的训练时间。实验结果表明，FL-KM和FL-GS算法下模型的训练时间要比FL-Cluster少，当训练达到误差为0.07时，FL-KM所需的训练时间比FL-Cluster减少了90.37％。由此可见，本实施例将通信和计算时延作为匹配算法需要考虑的重要因素之一，突破资源异质性对模型训练的约束，显著降低了模型训练时延。
本发明提供的负荷预测方法，在保护用户数据隐私安全的同时，提升了负荷预测模型的精度以及训练效率，通过能源域和信息域深度融合的新思路，将能源角度上负荷预测模型的精准拟合与信息角度上通信和计算资源的约束深度融合，提出了能源信息紧耦合下的高效负荷预测方法，为虚拟电厂中的灵活调度决策提供更加精准及时的预测数据支撑。
图6为本发明提供的负荷预测系统的结构示意图，如图6所示，本发明提供了一种负荷预测系统，包括组内全局模型发送模块601、组内本地训练模块602、最优分组匹配策略计算模块603、循环训练模块604和多分组负荷预测模块605，其中，组内全局模型发送模块601用于执行步骤101，根据当前轮次联邦学习的最优分组匹配策略，每个边缘服务器将对应分组内上一轮次联邦学习得到的本地模型进行聚合，得到每个边缘服务器在当前轮次联邦学习的全局模型，并将各自当前轮次联邦学习的全局模型发送到对应分组的用户终端；组内本地训练模块602用于执行步骤102，每个用户终端通过各自的用电负荷数据，对接收到的当前轮次联邦学习的全局模型进行本地训练，得到每个用户终端在当前轮次联邦学习的本地模型；最优分组匹配策略计算模块603用于执行步骤103，根据当前轮次联邦学习得到的全局模型和当前轮次联邦学习得到的每个本地模型之间的模型相似度，以及当前轮次联邦学习的每个用户终端完成本地训练所需的时延，获取下一轮次联邦学习的最优分组匹配策略；循环训练模块604用于执行步骤104，重复步骤101至步骤103，若满足预设训练条件，得到多组训练好的负荷预测模型，并将训练结束时最后一轮次联邦学习得到的最优分组匹配策略作为目标分组匹配策略；多分组负荷预测模块605用于执行步骤105，基于所述目标分组匹配策略，通过每组训练好的负荷预测模型，对各自组内的用户终端进行负荷预测，得到每个用户终端的负荷预测结果。
本发明提供的负荷预测系统，基于边缘服务器和用户终端之间协同的多分组联邦学习的负荷预测架构，对所有的用户终端进行分组，一个边缘服务器对应一个分组，通过边缘服务器聚合组内多个用户终端的信息，得到属于本组用户终端的负荷预测模型。在保护用户隐私的同时，提出适用于负荷预测的新型联邦学习算法，提升负荷预测的精度，减少模型训练时间具有实际意义，高效精准的负荷预测有助于VPP精细化地感知用户的用电需求，从而实现更加精准及时的调度，以消纳更多的新能源。
本发明提供的系统是用于执行上述各方法实施例的，具体流程和详细内容请参照上述实施例，此处不再赘述。
图7为本发明提供的电子设备的结构示意图，如图7所示，该电子设备可以包括：处理器(processor)701、通信接口(CommunicationsInterface)702、存储器(memory)703和通信总线704，其中，处理器701，通信接口702，存储器703通过通信总线704完成相互间的通信。处理器701可以调用存储器703中的逻辑指令，以执行负荷预测方法，该方法包括：101，根据当前轮次联邦学习的最优分组匹配策略，每个边缘服务器将对应分组内上一轮次联邦学习得到的本地模型进行聚合，得到每个边缘服务器在当前轮次联邦学习的全局模型，并将各自当前轮次联邦学习的全局模型发送到对应分组的用户终端；102，每个用户终端通过各自的用电负荷数据，对接收到的当前轮次联邦学习的全局模型进行本地训练，得到每个用户终端在当前轮次联邦学习的本地模型；103，根据当前轮次联邦学习得到的全局模型和当前轮次联邦学习得到的每个本地模型之间的模型相似度，以及当前轮次联邦学习的每个用户终端完成本地训练所需的时延，获取下一轮次联邦学习的最优分组匹配策略；104，重复步骤101至步骤103，若满足预设训练条件，得到多组训练好的负荷预测模型，并将训练结束时最后一轮次联邦学习得到的最优分组匹配策略作为目标分组匹配策略；105，基于所述目标分组匹配策略，通过每组训练好的负荷预测模型，对各自组内的用户终端进行负荷预测，得到每个用户终端的负荷预测结果。
此外，上述的存储器703中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-OnlyMemory)、随机存取存储器(RAM，RandomAccessMemory)、磁碟或者光盘等各种可以存储程序代码的介质。
另一方面，本发明还提供一种计算机程序产品，所述计算机程序产品包括存储在非暂态计算机可读存储介质上的计算机程序，所述计算机程序包括程序指令，当所述程序指令被计算机执行时，计算机能够执行上述各方法所提供的负荷预测方法，该方法包括：101，根据当前轮次联邦学习的最优分组匹配策略，每个边缘服务器将对应分组内上一轮次联邦学习得到的本地模型进行聚合，得到每个边缘服务器在当前轮次联邦学习的全局模型，并将各自当前轮次联邦学习的全局模型发送到对应分组的用户终端；102，每个用户终端通过各自的用电负荷数据，对接收到的当前轮次联邦学习的全局模型进行本地训练，得到每个用户终端在当前轮次联邦学习的本地模型；103，根据当前轮次联邦学习得到的全局模型和当前轮次联邦学习得到的每个本地模型之间的模型相似度，以及当前轮次联邦学习的每个用户终端完成本地训练所需的时延，获取下一轮次联邦学习的最优分组匹配策略；104，重复步骤101至步骤103，若满足预设训练条件，得到多组训练好的负荷预测模型，并将训练结束时最后一轮次联邦学习得到的最优分组匹配策略作为目标分组匹配策略；105，基于所述目标分组匹配策略，通过每组训练好的负荷预测模型，对各自组内的用户终端进行负荷预测，得到每个用户终端的负荷预测结果。
又一方面，本发明还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现以执行上述各实施例提供的负荷预测方法，该方法包括：101，根据当前轮次联邦学习的最优分组匹配策略，每个边缘服务器将对应分组内上一轮次联邦学习得到的本地模型进行聚合，得到每个边缘服务器在当前轮次联邦学习的全局模型，并将各自当前轮次联邦学习的全局模型发送到对应分组的用户终端；102，每个用户终端通过各自的用电负荷数据，对接收到的当前轮次联邦学习的全局模型进行本地训练，得到每个用户终端在当前轮次联邦学习的本地模型；103，根据当前轮次联邦学习得到的全局模型和当前轮次联邦学习得到的每个本地模型之间的模型相似度，以及当前轮次联邦学习的每个用户终端完成本地训练所需的时延，获取下一轮次联邦学习的最优分组匹配策略；104，重复步骤101至步骤103，若满足预设训练条件，得到多组训练好的负荷预测模型，并将训练结束时最后一轮次联邦学习得到的最优分组匹配策略作为目标分组匹配策略；105，基于所述目标分组匹配策略，通过每组训练好的负荷预测模型，对各自组内的用户终端进行负荷预测，得到每个用户终端的负荷预测结果。
以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种负荷预测方法，其特征在于，包括：
101，根据当前轮次联邦学习的最优分组匹配策略，每个边缘服务器将对应分组内上一轮次联邦学习得到的本地模型进行聚合，得到每个边缘服务器在当前轮次联邦学习的全局模型，并将各自当前轮次联邦学习的全局模型发送到对应分组的用户终端；
102，每个用户终端通过各自的用电负荷数据，对接收到的当前轮次联邦学习的全局模型进行本地训练，得到每个用户终端在当前轮次联邦学习的本地模型；
103，根据当前轮次联邦学习得到的全局模型和当前轮次联邦学习得到的每个本地模型之间的模型相似度，以及当前轮次联邦学习的每个用户终端完成本地训练所需的时延，获取下一轮次联邦学习的最优分组匹配策略；
104，重复步骤101至步骤103，若满足预设训练条件，得到多组训练好的负荷预测模型，并将训练结束时最后一轮次联邦学习得到的最优分组匹配策略作为目标分组匹配策略；
105，基于所述目标分组匹配策略，通过每组训练好的负荷预测模型，对各自组内的用户终端进行负荷预测，得到每个用户终端的负荷预测结果。
2.根据权利要求1所述的负荷预测方法，其特征在于，所述方法还包括：
在第一轮联邦学习过程中，通过边缘服务器向每个用户终端发送初始全局模型，所述初始全局模型是由边缘服务器从中心服务器获取得到的；
每个用户终端通过各自的用电负荷数据，对接收到的所述初始全局模型进行本地训练，得到每个用户终端的初始本地模型；
根据所述初始全局模型和每个初始本地模型之间的模型相似度，以及每个用户终端完成本地训练所需的时延，将每个用户终端划分到对应的边缘服务器，得到后续联邦学习过程中用户终端和边缘服务器之间的初始分组匹配策略。
3.根据权利要求1所述的负荷预测方法，其特征在于，所述根据当前轮次联邦学习得到的全局模型和当前轮次联邦学习得到的每个本地模型之间的模型相似度，以及当前轮次联邦学习的每个用户终端完成本地训练所需的时延，获取下一轮次联邦学习的最优分组匹配策略，包括：
在当前轮次联邦学习过程中，以最小化每个边缘服务器的全局模型和每个用户终端的本地模型之间的模型相似度距离，最小化每个用户终端的计算时延和模型参数上传通信时延为优化目标，构建分组匹配策略优化问题，并对所述分组匹配策略优化问题进行求解，得到下一轮次联邦学习的最优分组匹配策略。
4.根据权利要求3所述的负荷预测方法，其特征在于，所述分组匹配策略优化问题的公式为：
Figure FDA0003203437370000021
s.t.
Figure FDA0003203437370000022
Figure FDA0003203437370000023
其中，ri k表示第i个用户终端是否属于第k个边缘服务器，ri k取值为1或0；
Figure FDA0003203437370000024
表示本地模型Wi和边缘服务器上全局模型
Figure FDA0003203437370000025
之间的模型相似度距离，
Figure FDA0003203437370000026
表示在第i个用户终端上进行本地训练所需要的计算时延，
Figure FDA0003203437370000027
表示第i个用户终端和第k个边缘服务器之间的模型参数上传通信时延，Tmax表示最大时延阈值。
5.根据权利要求4所述的负荷预测方法，其特征在于，所述对所述分组匹配策略优化问题进行求解，得到下一轮次联邦学习的最优分组匹配策略，包括：
基于Kuhn-Munkres匹配算法，对分组匹配策略优化问题进行求解，得到最优分组匹配策略。
6.根据权利要求4所述的负荷预测方法，其特征在于，所述对所述分组匹配策略优化问题进行求解，得到下一轮次联邦学习的最优分组匹配策略，还包括：
基于盖尔-沙普利匹配算法，对分组匹配策略优化问题进行求解，得到最优分组匹配策略。
7.根据权利要求1所述的负荷预测方法，其特征在于，所述训练好的负荷预测模型是由长短期记忆网络构建得到的。
8.一种负荷预测系统，其特征在于，包括：
组内全局模型发送模块，用于执行步骤101，根据当前轮次联邦学习的最优分组匹配策略，每个边缘服务器将对应分组内上一轮次联邦学习得到的本地模型进行聚合，得到每个边缘服务器在当前轮次联邦学习的全局模型，并将各自当前轮次联邦学习的全局模型发送到对应分组的用户终端；
组内本地训练模块，用于执行步骤102，每个用户终端通过各自的用电负荷数据，对接收到的当前轮次联邦学习的全局模型进行本地训练，得到每个用户终端在当前轮次联邦学习的本地模型；
最优分组匹配策略计算模块，用于执行步骤103，根据当前轮次联邦学习得到的全局模型和当前轮次联邦学习得到的每个本地模型之间的模型相似度，以及当前轮次联邦学习的每个用户终端完成本地训练所需的时延，获取下一轮次联邦学习的最优分组匹配策略；
循环训练模块，用于执行步骤104，重复步骤101至步骤103，若满足预设训练条件，得到多组训练好的负荷预测模型，并将训练结束时最后一轮次联邦学习得到的最优分组匹配策略作为目标分组匹配策略；
多分组负荷预测模块，用于执行步骤105，基于所述目标分组匹配策略，通过每组训练好的负荷预测模型，对各自组内的用户终端进行负荷预测，得到每个用户终端的负荷预测结果。
9.一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述负荷预测方法的步骤。
10.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述负荷预测方法的步骤。
CN202110910283.3A 2021-08-09 2021-08-09 一种负荷预测方法及系统 Active CN113610303B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110910283.3A CN113610303B (zh) 2021-08-09 2021-08-09 一种负荷预测方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110910283.3A CN113610303B (zh) 2021-08-09 2021-08-09 一种负荷预测方法及系统

Publications (2)

Publication Number Publication Date
CN113610303A true CN113610303A (zh) 2021-11-05
CN113610303B CN113610303B (zh) 2024-03-19

Family

ID=78307775

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110910283.3A Active CN113610303B (zh) 2021-08-09 2021-08-09 一种负荷预测方法及系统

Country Status (1)

Country Link
CN (1) CN113610303B (zh)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113783193A (zh) * 2021-11-15 2021-12-10 国网江西省电力有限公司电力科学研究院 一种基于边端协同的乡村供用能系统优化调控方法及系统
CN114465900A (zh) * 2022-03-01 2022-05-10 北京邮电大学 基于联邦边缘学习的数据共享时延优化方法及装置
CN114611790A (zh) * 2022-03-11 2022-06-10 北京邮电大学 面向新能源消纳的负荷调节能力预测方法及系统
CN115049522A (zh) * 2022-08-17 2022-09-13 南京邮电大学 一种面向电力物联网的电力终端多任务联邦学习方法
CN115208604A (zh) * 2022-02-22 2022-10-18 长沙理工大学 一种ami网络入侵检测的方法、装置及介质
CN115329989A (zh) * 2022-10-13 2022-11-11 合肥本源物联网科技有限公司 边缘计算场景下基于模型分割的同步联邦学习加速方法
CN116151495A (zh) * 2023-04-24 2023-05-23 北京智芯微电子科技有限公司 基于联邦学习的用电预测方法及系统、计算机设备
CN116582840A (zh) * 2023-07-13 2023-08-11 江南大学 车联网通信的电平分配方法、装置、存储介质及电子设备
CN116894163A (zh) * 2023-09-11 2023-10-17 国网信息通信产业集团有限公司 基于信息安全的充放电设施负荷预测信息生成方法和装置
CN117077186A (zh) * 2023-10-18 2023-11-17 南方电网科学研究院有限责任公司 一种联邦学习实现隐私保护的电力负荷预测方法
WO2024001867A1 (zh) * 2022-06-27 2024-01-04 中兴通讯股份有限公司 通信负荷预测的方法、计算机可读存储介质
WO2024087573A1 (zh) * 2022-10-29 2024-05-02 华为技术有限公司 一种联邦学习方法及装置
WO2024113092A1 (zh) * 2022-11-28 2024-06-06 华为技术有限公司 模型训练方法、服务器以及客户端设备

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109343951A (zh) * 2018-08-15 2019-02-15 南京邮电大学 移动计算资源分配方法、计算机可读存储介质和终端
CN110297848A (zh) * 2019-07-09 2019-10-01 深圳前海微众银行股份有限公司 基于联邦学习的推荐模型训练方法、终端及存储介质
CN110444263A (zh) * 2019-08-21 2019-11-12 深圳前海微众银行股份有限公司 基于联邦学习的疾病数据处理方法、装置、设备及介质
CN111724000A (zh) * 2020-06-29 2020-09-29 南方电网科学研究院有限责任公司 一种用户电费回收风险预测方法、装置及系统
CN111753006A (zh) * 2020-06-10 2020-10-09 北京智源人工智能研究院 一种基于联邦学习的预测系统及方法
CN111901392A (zh) * 2020-07-06 2020-11-06 北京邮电大学 一种面向移动边缘计算的内容部署与分发方法及系统
CN112488322A (zh) * 2020-12-15 2021-03-12 杭州电子科技大学 一种基于数据特征感知聚合的联邦学习模型训练方法
CN112633513A (zh) * 2019-10-09 2021-04-09 中国电信股份有限公司 数据处理方法、系统、装置及计算机可读存储介质
CN112668128A (zh) * 2020-12-21 2021-04-16 国网辽宁省电力有限公司物资分公司 联邦学习系统中终端设备节点的选择方法及装置
CN112817653A (zh) * 2021-01-22 2021-05-18 西安交通大学 一种基于云边端的联邦学习计算卸载计算系统及方法
CN113033820A (zh) * 2021-03-25 2021-06-25 支付宝(杭州)信息技术有限公司 联邦学习方法、装置以及设备
US20210211733A1 (en) * 2020-01-07 2021-07-08 Nokia Technologies Oy High Level Syntax for Compressed Representation of Neural Networks
CN113169957A (zh) * 2019-04-12 2021-07-23 杭州锘崴信息科技有限公司 个人医疗数据安全共享和所有权去中心化的所有权系统
CN113177645A (zh) * 2021-06-29 2021-07-27 腾讯科技（深圳）有限公司 联邦学习方法、装置、计算设备及存储介质
CN113191503A (zh) * 2021-05-20 2021-07-30 清华大学深圳国际研究生院 一种非共享数据的去中心化的分布式学习方法及系统

Patent Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109343951A (zh) * 2018-08-15 2019-02-15 南京邮电大学 移动计算资源分配方法、计算机可读存储介质和终端
CN113169957A (zh) * 2019-04-12 2021-07-23 杭州锘崴信息科技有限公司 个人医疗数据安全共享和所有权去中心化的所有权系统
CN110297848A (zh) * 2019-07-09 2019-10-01 深圳前海微众银行股份有限公司 基于联邦学习的推荐模型训练方法、终端及存储介质
CN110444263A (zh) * 2019-08-21 2019-11-12 深圳前海微众银行股份有限公司 基于联邦学习的疾病数据处理方法、装置、设备及介质
CN112633513A (zh) * 2019-10-09 2021-04-09 中国电信股份有限公司 数据处理方法、系统、装置及计算机可读存储介质
US20210211733A1 (en) * 2020-01-07 2021-07-08 Nokia Technologies Oy High Level Syntax for Compressed Representation of Neural Networks
CN111753006A (zh) * 2020-06-10 2020-10-09 北京智源人工智能研究院 一种基于联邦学习的预测系统及方法
CN111724000A (zh) * 2020-06-29 2020-09-29 南方电网科学研究院有限责任公司 一种用户电费回收风险预测方法、装置及系统
CN111901392A (zh) * 2020-07-06 2020-11-06 北京邮电大学 一种面向移动边缘计算的内容部署与分发方法及系统
CN112488322A (zh) * 2020-12-15 2021-03-12 杭州电子科技大学 一种基于数据特征感知聚合的联邦学习模型训练方法
CN112668128A (zh) * 2020-12-21 2021-04-16 国网辽宁省电力有限公司物资分公司 联邦学习系统中终端设备节点的选择方法及装置
CN112817653A (zh) * 2021-01-22 2021-05-18 西安交通大学 一种基于云边端的联邦学习计算卸载计算系统及方法
CN113033820A (zh) * 2021-03-25 2021-06-25 支付宝(杭州)信息技术有限公司 联邦学习方法、装置以及设备
CN113191503A (zh) * 2021-05-20 2021-07-30 清华大学深圳国际研究生院 一种非共享数据的去中心化的分布式学习方法及系统
CN113177645A (zh) * 2021-06-29 2021-07-27 腾讯科技（深圳）有限公司 联邦学习方法、装置、计算设备及存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
TAKAYUKI NISHIO 等: "Client Selection for Federated Learning with Heterogeneous Resources in Mobile Edge", 《ICC-2019》, pages 1 - 7 *

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113783193A (zh) * 2021-11-15 2021-12-10 国网江西省电力有限公司电力科学研究院 一种基于边端协同的乡村供用能系统优化调控方法及系统
CN115208604B (zh) * 2022-02-22 2024-03-15 长沙理工大学 一种ami网络入侵检测的方法、装置及介质
CN115208604A (zh) * 2022-02-22 2022-10-18 长沙理工大学 一种ami网络入侵检测的方法、装置及介质
CN114465900A (zh) * 2022-03-01 2022-05-10 北京邮电大学 基于联邦边缘学习的数据共享时延优化方法及装置
CN114611790A (zh) * 2022-03-11 2022-06-10 北京邮电大学 面向新能源消纳的负荷调节能力预测方法及系统
WO2024001867A1 (zh) * 2022-06-27 2024-01-04 中兴通讯股份有限公司 通信负荷预测的方法、计算机可读存储介质
CN115049522B (zh) * 2022-08-17 2022-11-25 南京邮电大学 一种面向电力物联网的电力终端多任务联邦学习方法
CN115049522A (zh) * 2022-08-17 2022-09-13 南京邮电大学 一种面向电力物联网的电力终端多任务联邦学习方法
CN115329989B (zh) * 2022-10-13 2023-02-14 合肥本源物联网科技有限公司 边缘计算场景下基于模型分割的同步联邦学习加速方法
CN115329989A (zh) * 2022-10-13 2022-11-11 合肥本源物联网科技有限公司 边缘计算场景下基于模型分割的同步联邦学习加速方法
WO2024087573A1 (zh) * 2022-10-29 2024-05-02 华为技术有限公司 一种联邦学习方法及装置
WO2024113092A1 (zh) * 2022-11-28 2024-06-06 华为技术有限公司 模型训练方法、服务器以及客户端设备
CN116151495A (zh) * 2023-04-24 2023-05-23 北京智芯微电子科技有限公司 基于联邦学习的用电预测方法及系统、计算机设备
CN116582840A (zh) * 2023-07-13 2023-08-11 江南大学 车联网通信的电平分配方法、装置、存储介质及电子设备
CN116894163A (zh) * 2023-09-11 2023-10-17 国网信息通信产业集团有限公司 基于信息安全的充放电设施负荷预测信息生成方法和装置
CN116894163B (zh) * 2023-09-11 2024-01-16 国网信息通信产业集团有限公司 基于信息安全的充放电设施负荷预测信息生成方法和装置
CN117077186A (zh) * 2023-10-18 2023-11-17 南方电网科学研究院有限责任公司 一种联邦学习实现隐私保护的电力负荷预测方法
CN117077186B (zh) * 2023-10-18 2024-02-02 南方电网科学研究院有限责任公司 一种联邦学习实现隐私保护的电力负荷预测方法

Also Published As

Publication number Publication date
CN113610303B (zh) 2024-03-19

Similar Documents

Publication Publication Date Title
CN113610303B (zh) 一种负荷预测方法及系统
Li et al. Wind power forecasting considering data privacy protection: A federated deep reinforcement learning approach
Yan et al. Deep reinforcement learning for continuous electric vehicles charging control with dynamic user behaviors
Wang et al. Predictive scheduling framework for electric vehicles with uncertainties of user behaviors
Mocanu et al. Deep learning for estimating building energy consumption
CN109190802B (zh) 云储能环境下基于发电预测的多微网博弈优化方法
Eksin et al. Demand response management in smart grids with heterogeneous consumer preferences
Zhang et al. A systematic approach for the joint dispatch of energy and reserve incorporating demand response
Latifi et al. A Bayesian real-time electric vehicle charging strategy for mitigating renewable energy fluctuations
CN114004450A (zh) 一种电动汽车充电负荷交互式实时定价策略引导的有序充电模型
Nazir et al. Forecasting energy consumption demand of customers in smart grid using Temporal Fusion Transformer (TFT)
Kong et al. Refined peak shaving potential assessment and differentiated decision-making method for user load in virtual power plants
Yang Price-responsive early charging control based on data mining for electric vehicle online scheduling
CN109800917A (zh) 一种电动汽车停车场的规划方法、装置和计算设备
US20180166880A1 (en) Data-Driven Demand Charge Management Solution
CN109508826A (zh) 基于梯度提升决策树的电动汽车集群可调度容量预测方法
Hu et al. A user selection algorithm for aggregating electric vehicle demands based on a multi‐armed bandit approach
Tucker et al. Constrained thompson sampling for real-time electricity pricing with grid reliability constraints
CN116862551A (zh) 一种考虑用户隐私保护的新能源消纳电价决策方法
Feng et al. Saturated load forecasting based on clustering and logistic iterative regression
Alizadeh et al. Capturing aggregate flexibility in demand response
CN116933318A (zh) 一种基于联邦学习的用电数据隐私保护方法
CN115496627A (zh) 一种可调资源响应潜力的评估方法及系统
Feng et al. Robust federated deep reinforcement learning for optimal control in multiple virtual power plants with electric vehicles
Zhang et al. A hybrid electric vehicle load classification and forecasting approach based on GBDT algorithm and temporal convolutional network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant