CN115049522A - 一种面向电力物联网的电力终端多任务联邦学习方法 - Google Patents

一种面向电力物联网的电力终端多任务联邦学习方法 Download PDF

Info

Publication number
CN115049522A
CN115049522A CN202210986128.4A CN202210986128A CN115049522A CN 115049522 A CN115049522 A CN 115049522A CN 202210986128 A CN202210986128 A CN 202210986128A CN 115049522 A CN115049522 A CN 115049522A
Authority
CN
China
Prior art keywords
power
task
global model
power terminal
service provider
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210986128.4A
Other languages
English (en)
Other versions
CN115049522B (zh
Inventor
杨健
陈春玲
周焱
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Posts and Telecommunications
Original Assignee
Nanjing University of Posts and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Posts and Telecommunications filed Critical Nanjing University of Posts and Telecommunications
Priority to CN202210986128.4A priority Critical patent/CN115049522B/zh
Publication of CN115049522A publication Critical patent/CN115049522A/zh
Application granted granted Critical
Publication of CN115049522B publication Critical patent/CN115049522B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/06—Energy or water supply
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G06N20/20—Ensemble learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/12—Computing arrangements based on biological models using genetic models
    • G06N3/126—Evolutionary algorithms, e.g. genetic algorithms or genetic programming
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16Y—INFORMATION AND COMMUNICATION TECHNOLOGY SPECIALLY ADAPTED FOR THE INTERNET OF THINGS [IoT]
    • G16Y10/00—Economic sectors
    • G16Y10/35—Utilities, e.g. electricity, gas or water

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Computing Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Economics (AREA)
  • Biophysics (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • Evolutionary Biology (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Accounting & Taxation (AREA)
  • Public Health (AREA)
  • Genetics & Genomics (AREA)
  • Computational Linguistics (AREA)
  • Development Economics (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Physiology (AREA)
  • Water Supply & Treatment (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • Supply And Distribution Of Alternating Current (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种面向电力物联网的电力终端多任务联邦学习方法，1）电力服务提供商在云平台发布联邦学习任务后，云平台初始化全局模型；2）云平台将全局模型依次分发到边缘聚合器和电力终端，在电力终端通过使用本地能量数据训练本地模型，本地模型训练完毕后上传到边缘聚合器；3）利用边缘聚合器在边缘平台中执行边缘聚合后将局部模型发送到云平台进行中心聚合，获得全局模型；全局模型预测电量。

Description

一种面向电力物联网的电力终端多任务联邦学习方法
技术领域
本发明涉及一种面向电力物联网的电力终端多任务联邦学习方法，属于电力物联网环境下的私人能源数据共享技术领域。
背景技术
在传统的物联网人工智能领域中，分布在用户物联网设备上的大量个人能源数据需要迁移到中央存储器（如云平台或边缘设备），才能进行内容提取，这可能会带来严重的隐私侵犯和数据滥用风险。
联邦学习作为一种极具吸引力的基于人工智能的隐私保护方式，使电力终端能够在不暴露本地能源数据的情况下合作训练共享人工智能模型。然而，由于数据的非独立同分布，本地模型的低质量共享以及潜在的安全和效率等问题，阻碍了电力物联网中基于联邦学习的物联网人工智能服务的部署。随着智能设备在电力物联网中的普及，大量的能源数据是由单个智能设备产生的。此外，用户还可以享受个性化的能源服务，提高体验质量。尽管联邦学习带来了巨大的好处，但在电力物联网中的私人能源数据共享方面，联邦学习仍面临一系列基本挑战。
在电力物联网中，异构用户（如住宅区、商业区和工业区）拥有的训练数据通常是非独立同分布的。现有研究表明，与独立同分布数据相比，使用非独立同分布数据的联邦学习的准确性可能会下降，进而增加了电力服务提供商评估学习过程中准确度损失成本的难度。
发明内容
本发明所要解决的技术问题是克服现有技术的缺陷，提供一种面向电力物联网的电力终端多任务联邦学习方法。
为达到上述目的，本发明提供一种面向电力物联网的电力终端多任务联邦学习方法，包括J个电力服务提供商、I个电力终端和L个边缘聚合器，
J'={1,2,…,J}，I'={1,2,…,I}，L'={1,2,…,L}，具体步骤如下：
步骤一、电力服务提供商j在云平台发布一组联邦学习任务集γ=｛γ j,1,…,γ j,k ,…,
Figure 489788DEST_PATH_IMAGE001
｝，j∈J'，其中，γ j,k 为电力服务提供商j的第k个任务，K j 为电力服务提供商j的任务总数；
云平台初始化全局模型
Figure 875770DEST_PATH_IMAGE002
，k=1,2,…，K j ，回合索引t初始化为0；
步骤二、云平台将全局模型
Figure 389928DEST_PATH_IMAGE003
分发到每个边缘聚合器，
Figure 503247DEST_PATH_IMAGE003
表示回合t中电力服务提供商j的第k个任务的全局模型；
边缘聚合器将接收到的全局模型
Figure 786460DEST_PATH_IMAGE003
发送到边缘聚合器覆盖范围内的电力终端；
步骤三、将训练获得的全局模型作为该电力终端i在回合t中的本地模型
Figure 343344DEST_PATH_IMAGE004
；
将本地模型
Figure 79218DEST_PATH_IMAGE004
上传到覆盖电力终端i的边缘聚合器l。
优先地，步骤四、收集边缘聚合器l的覆盖范围内所有电力终端的本地模型
Figure 12539DEST_PATH_IMAGE005
；
对电力终端的本地模型执行边缘聚合，得到局部模型
Figure 415839DEST_PATH_IMAGE006
：
Figure 628777DEST_PATH_IMAGE007
其中，
Figure 117527DEST_PATH_IMAGE008
为边缘聚合器l覆盖范围内的所有电力终端集合，
Figure 588959DEST_PATH_IMAGE009
为电力终端
Figure 581186DEST_PATH_IMAGE010
参 与电力服务提供商j的第k个任务γ j,k 的训练数据集大小，
Figure 479872DEST_PATH_IMAGE010
∈
Figure 705186DEST_PATH_IMAGE008
；
边缘聚合完成后，所有边缘聚合器将局部模型发送到云平台进行中心聚合，得到全局模型
Figure 449151DEST_PATH_IMAGE011
：
Figure 827043DEST_PATH_IMAGE012
，
Figure 631051DEST_PATH_IMAGE013
，
其中，
Figure 94393DEST_PATH_IMAGE014
为边缘聚合器l的权重；
步骤五、判断全局模型
Figure 389852DEST_PATH_IMAGE015
是否达到预定精度，若没有达到则t的数值按照设定的规则变化，并执行步骤二，否则结束运行。
优先地，向全局模型
Figure 622250DEST_PATH_IMAGE015
输入某地区待计算月份的前三个月历史用电量参数，预测输出某地区待计算月份的用电量预测值；
历史用电量参数包括某地区每日平均用电时长、某地区每日平均用电功率、某地区住户总数和某地区工厂总数。
优先地，步骤三中，训练获得全局模型，通过以下步骤实现：
获取电力终端i参与电力服务提供商j的第k个任务γ j,k 的训练数据集
Figure 862738DEST_PATH_IMAGE016
以及数据质量因子Q i,j,k ，
Figure 547798DEST_PATH_IMAGE016
大小为
Figure 164724DEST_PATH_IMAGE017
；
电力终端i采用监督学习方式，利用训练数据集
Figure 986049DEST_PATH_IMAGE016
训练电力终端i的全局模型
Figure 912286DEST_PATH_IMAGE018
；
将训练数据集
Figure 84641DEST_PATH_IMAGE016
拆分为若干个批次；
通过随机梯度下降算法将每个批次输入全局模型
Figure 239679DEST_PATH_IMAGE018
进行训练，获得最终的全局模型。
优先地，步骤三中，获取电力终端参与电力服务提供商j的第k个任务γ j,k 的训练数据集
Figure 181090DEST_PATH_IMAGE016
和Q i,j,k ，通过以下步骤实现：
步骤3-1）：建立电力终端i参与电力服务提供商j的第k个任务γ j,k 的效益函数：
Figure 28961DEST_PATH_IMAGE019
其中，ϖ是平衡收入和成本的权重参数，δ i,j,k 是在γ j,k 中电力终端i的本地模型推理精度
Figure 423033DEST_PATH_IMAGE020
达到设定的最高阈值时的付款，C i,j,k 是执行γ j,k 时电力终端i的总成本；
Figure 132494DEST_PATH_IMAGE020
的表达式为：
Figure 662832DEST_PATH_IMAGE021
Figure 681604DEST_PATH_IMAGE022
，
其中，λ n 为正曲线拟合参数，1≤n≤6，W i,j,k 为电力终端i参与γ j,k 的样本分布差异值，
Figure 828552DEST_PATH_IMAGE023
代表标签集合，P i,j,k (y=u)代表标签u的样本在训练数据集
Figure 325392DEST_PATH_IMAGE016
所占的的比例，P j,k (y=u)代表标签u的样本在训练数据集
Figure 241395DEST_PATH_IMAGE024
中所占的比例，
Figure 149177DEST_PATH_IMAGE025
是加入γ j,k 的一组电力终端，I j,k 是加入γ j,k 的电力终端的总数量；Q i,j,k 代表样本的数据质量，Q i,j,k ∈[0,1]；
步骤3-2）：建立电力服务提供商j在γ j,k 中的效益函数π j,k ：
Figure 783421DEST_PATH_IMAGE026
，
Figure 83952DEST_PATH_IMAGE027
，
其中，μ是平衡全局模型推理精度和总奖励的权重参数，λ c 是调节参数；
Figure 854462DEST_PATH_IMAGE025
是加入γ j,k 的一组电力终端，δ i,j,k 是在γ j,k 中电力终端i的本地模型推理精度
Figure 949457DEST_PATH_IMAGE028
达到设定的最高阈值时的付款，
Figure 553221DEST_PATH_IMAGE029
是电力服务提供商j向云平台支付的全局模型聚合成本，
Figure 391864DEST_PATH_IMAGE030
代表全局模型
Figure 16880DEST_PATH_IMAGE003
大小，I j,k 代表参与γ j,k 的电力终端数量，p cloud 是电力服务提供商向云平台支付的单位款项，
Figure 548355DEST_PATH_IMAGE031
代表γ j,k 的全局模型推理精度；
Figure 626033DEST_PATH_IMAGE032
的表达式为：
Figure 533946DEST_PATH_IMAGE033
,
Figure 528316DEST_PATH_IMAGE034
Figure 965113DEST_PATH_IMAGE035
是参与γ j,k 中所有电力终端W i,j,k 的平均值；
步骤3-3）：建立联合优化问题：
问题1：
Figure 795666DEST_PATH_IMAGE036
问题2：
Figure 241691DEST_PATH_IMAGE037
，
其中，u i,j,k 指电力终端i参与电力服务提供商j的γ j,k 的效益函数，
Figure 575720DEST_PATH_IMAGE038
为电力终端i参与γ j,k 的最大的训练数据集的样本数量，
Figure 448998DEST_PATH_IMAGE039
为电力服务提供商j对γ j,k 的最大预算；
步骤3-4）：利用遗传算法求解步骤3-3）的联合优化问题，得到Q i,j,k 、S i,j,k 和δ i,j,k 的解。
优先地，设定的最高阈值为
Figure 252000DEST_PATH_IMAGE040
。
优先地，总成本包括本地数据成本、本地计算成本和通信成本。
优先地，t的数值按照设定的规则变化，具体是指：
t的数值增加1的设定倍数。
一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现上述任一项所述方法的步骤。
一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现上述任一项所述方法的步骤。
本发明所达到的有益效果：
（1）本发明可以更好地预测用电量，本方法与之前大部分研究中假设电力终端的训练数据遵循理想的独立同分布不同，重点研究关注训练样本数据的非独立同分布情况；
（2）本方法考虑到电力终端可能通过传播低质量、冗余或无意义的本地模型来欺骗电力服务提供商，本发明方法步骤三中，相较之前现有技术中只研究的单一性，本发明考虑到多维电力终端私有信息，如培训成本、数据质量和数据分布差异等，数据效用评估方法更加全面。
（3）步骤三中，与之前大部分研究中假设电力终端的训练数据遵循理想的独立同分布不同，本发明重点研究关注在实际情况中更为普遍的训练样本数据的非独立同分布情况。
（4）步骤三中，在本发明提出的数据效用评估方法以及非独立同分布的电力终端回报模型基础之上，考虑到电力终端可能会通过传播低质量、冗余或无意义的本地模型来欺骗电力服务提供商的情况，本发明针对电力终端和电力服务提供商提出效益函数和联合优化问题，以提高学习的公平性，从而提高通信效率和电力终端的隐私保护。
（5）本方法在提出的数据效用评估方法基础之上，针对电力终端和电力服务提供商提出效益函数和联合优化问题。
附图说明
图1是本发明的框架图；
图2是本发明的流程图。
附图标记含义，1-电力服务提供商；2-云平台；3-聚合器；4-电力终端。
具体实施方式
以下实施例仅用于更加清楚地说明本发明的技术方案，而不能以此来限制本发明的保护范围。
实施例一
一种面向电力物联网的电力终端多任务联邦学习方法，包括J个电力服务提供商、I个电力终端和L个边缘聚合器，
J'={1,2,…,J}，I'={1,2,…,I}，L'={1,2,…,L}，具体步骤如下：
步骤一、电力服务提供商j在云平台发布一组联邦学习任务集γ=｛γ j,1,…,γ j,k ,…,
Figure 236137DEST_PATH_IMAGE001
｝，j∈J'，其中，γ j,k 为电力服务提供商j的第k个任务，K j 为电力服务提供商j的任务总数；
云平台初始化全局模型
Figure 955831DEST_PATH_IMAGE002
，k=1,2,…，K j ，回合索引t初始化为0；
步骤二、云平台将全局模型
Figure 734431DEST_PATH_IMAGE003
分发到每个边缘聚合器，
Figure 539576DEST_PATH_IMAGE003
表示回合t中电力服务提供商j的第k个任务的全局模型；
边缘聚合器将接收到的全局模型
Figure 311092DEST_PATH_IMAGE003
发送到边缘聚合器覆盖范围内的电力终端；
步骤三、将训练获得的全局模型作为该电力终端i在回合t中的本地模型
Figure 885293DEST_PATH_IMAGE004
；
将本地模型
Figure 100374DEST_PATH_IMAGE041
上传到覆盖电力终端i的边缘聚合器l。
进一步地，本实施例中步骤四、收集边缘聚合器l的覆盖范围内所有电力终端的本地模型
Figure 861656DEST_PATH_IMAGE041
；
对电力终端的本地模型执行边缘聚合，得到局部模型
Figure 453175DEST_PATH_IMAGE042
：
Figure 881882DEST_PATH_IMAGE007
其中，
Figure 750087DEST_PATH_IMAGE008
为边缘聚合器l覆盖范围内的所有电力终端集合，
Figure 529825DEST_PATH_IMAGE043
为电力终端
Figure 393875DEST_PATH_IMAGE044
参 与电力服务提供商j的第k个任务γ j,k 的训练数据集大小，
Figure 677089DEST_PATH_IMAGE044
∈
Figure 233972DEST_PATH_IMAGE008
；
边缘聚合完成后，所有边缘聚合器将局部模型发送到云平台进行中心聚合，得到全局模型
Figure 235426DEST_PATH_IMAGE011
：
Figure 418015DEST_PATH_IMAGE012
，
Figure 290156DEST_PATH_IMAGE013
，
其中，
Figure 17941DEST_PATH_IMAGE014
为边缘聚合器l的权重；
步骤五、判断全局模型
Figure 506691DEST_PATH_IMAGE015
是否达到预定精度，若没有达到则t的数值按照设定的规则变化，并执行步骤二，否则结束运行。
进一步地，本实施例中向全局模型
Figure 978123DEST_PATH_IMAGE015
输入某地区待计算月份的前三个月历史用电量参数，预测输出某地区待计算月份的用电量预测值；
历史用电量参数包括某地区每日平均用电时长、某地区每日平均用电功率、某地区住户总数和某地区工厂总数。
进一步地，本实施例中步骤三中，训练获得全局模型，通过以下步骤实现：
获取电力终端i参与电力服务提供商j的第k个任务γ j,k 的训练数据集
Figure 721083DEST_PATH_IMAGE016
以及数据质量因子Q i,j,k ，
Figure 885348DEST_PATH_IMAGE016
大小为
Figure 330236DEST_PATH_IMAGE017
；
电力终端i采用监督学习方式，利用训练数据集
Figure 605359DEST_PATH_IMAGE016
训练电力终端i的全局模型
Figure 717672DEST_PATH_IMAGE018
；
将训练数据集
Figure 787259DEST_PATH_IMAGE016
拆分为若干个批次；
通过随机梯度下降算法将每个批次输入全局模型
Figure 499869DEST_PATH_IMAGE018
进行训练，获得最终的全局模型。
进一步地，本实施例中步骤三中，获取电力终端参与电力服务提供商j的第k个任务γ j,k 的训练数据集
Figure 47525DEST_PATH_IMAGE016
和Q i,j,k ，通过以下步骤实现：
步骤3-1）：建立电力终端i参与电力服务提供商j的第k个任务γ j,k 的效益函数：
Figure 279923DEST_PATH_IMAGE019
其中，ϖ是平衡收入和成本的权重参数，δ i,j,k 是在γ j,k 中电力终端i的本地模型推理精度
Figure 520411DEST_PATH_IMAGE020
达到设定的最高阈值时的付款，C i,j,k 是执行γ j,k 时电力终端i的总成本；
Figure 205471DEST_PATH_IMAGE020
的表达式为：
Figure 822397DEST_PATH_IMAGE021
Figure 391525DEST_PATH_IMAGE022
，
其中，λ n 为正曲线拟合参数，1≤n≤6，W i,j,k 为电力终端i参与γ j,k 的样本分布差异值，
Figure 68494DEST_PATH_IMAGE023
代表标签集合，P i,j,k (y=u)代表标签u的样本在训练数据集
Figure 240849DEST_PATH_IMAGE016
所占的的比例，P j,k (y=u)代表标签u的样本在训练数据集
Figure 130308DEST_PATH_IMAGE024
中所占的比例，
Figure 337298DEST_PATH_IMAGE025
是加入γ j,k 的一组电力终端，I j,k 是加入γ j,k 的电力终端的总数量；Q i,j,k 代表样本的数据质量，Q i,j,k ∈[0,1]；
步骤3-2）：建立电力服务提供商j在γ j,k 中的效益函数π j,k ：
Figure 903278DEST_PATH_IMAGE026
，
Figure 562929DEST_PATH_IMAGE027
，
其中，μ是平衡全局模型推理精度和总奖励的权重参数，λ c 是调节参数；
Figure 521658DEST_PATH_IMAGE025
是加入γ j,k 的一组电力终端，δ i,j,k 是在γ j,k 中电力终端i的本地模型推理精度
Figure 317576DEST_PATH_IMAGE028
达到设定的最高阈值时的付款，
Figure 336347DEST_PATH_IMAGE029
是电力服务提供商j向云平台支付的全局模型聚合成本，
Figure 217716DEST_PATH_IMAGE030
代表全局模型
Figure 465288DEST_PATH_IMAGE003
大小，I j,k 代表参与γ j,k 的电力终端数量，p cloud 是电力服务提供商向云平台支付的单位款项，
Figure 115713DEST_PATH_IMAGE031
代表γ j,k 的全局模型推理精度；
Figure 305385DEST_PATH_IMAGE032
的表达式为：
Figure 939629DEST_PATH_IMAGE033
,
Figure 974581DEST_PATH_IMAGE034
Figure 745091DEST_PATH_IMAGE035
是参与γ j,k 中所有电力终端W i,j,k 的平均值；
步骤3-3）：建立联合优化问题：
问题1：
Figure 354933DEST_PATH_IMAGE036
问题2：
Figure 210893DEST_PATH_IMAGE037
，
其中，u i,j,k 指电力终端i参与电力服务提供商j的γ j,k 的效益函数，
Figure 49536DEST_PATH_IMAGE038
为电力终端i参与γ j,k 的最大的训练数据集的样本数量，
Figure 674553DEST_PATH_IMAGE039
为电力服务提供商j对γ j,k 的最大预算；
步骤3-4）：利用遗传算法求解步骤3-3）的联合优化问题，得到Q i,j,k 、S i,j,k 和δ i,j,k 的解。
进一步地，本实施例中设定的最高阈值为
Figure 206028DEST_PATH_IMAGE040
。
进一步地，本实施例中总成本包括本地数据成本、本地计算成本和通信成本。
进一步地，本实施例中t的数值按照设定的规则变化，具体是指：
t的数值增加1的设定倍数。
一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现上述任一项所述方法的步骤。
一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现上述任一项所述方法的步骤。
电力服务提供商、云平台、聚合器和电力终端上述部件在现有技术中可采用的型号很多，本领域技术人员可根据实际需求选用合适的型号，本实施例不再一一举例。
实施例二
如图1所示，一种面向电力物联网的电力终端多任务联邦学习方法，该方法首先提出了一个边缘云辅助的联邦学习框架，用于电力物联网中高效通信和保护隐私的能源数据共享。电力服务提供商可以向云平台发布一组联邦学习任务，并从电力终端共享的个人能源数据中获取数据。云平台将全局模型分发至边缘聚合器集群，对边缘聚合器发送回来的经过局部聚合后的局部模型中心聚合。边缘聚合器作为边缘计算节点，可以为其覆盖区域内的电力终端提供边缘计算和局部模型聚合服务，缓解联邦学习中远程数据传输所涉及的高延迟和间歇性连接。不同边缘聚合器覆盖范围内的电力终端被分为不同的集合区域，其产生的本地训练数据是属于非独立同分布的。基于该框架的的整体联邦学习流程主要包括任务发布和模型初始化、本地更新、边缘聚合、中心聚合。
如图2所示，考虑到异构用户的非独立同分布，将独立同分布视为特例，开发了联邦学习中的数据评估机制，并给出了电力终端和电力服务提供商的效益函数及其优化问题。特别是，采取搭便车行为（Q i,j,k =0）的电力终端将受到零支付机制的惩罚，以提高学习的公平性。
为了补偿电力终端在联邦学习过程中的学习成本，电力服务提供商j为参与任务γ j,k 的电力终端i确定其支付策略作为对其贡献的奖励。
其中，ϖ是平衡收入和成本的权重参数，δ i,j,k 是在γ j,k 中电力终端i的本地模型推理精度
Figure 31509DEST_PATH_IMAGE020
达到设定的最高阈值时的付款，C i,j,k 是执行γ j,k 时电力终端i的总成本；
Figure 939422DEST_PATH_IMAGE020
的表达式为：
Figure 418945DEST_PATH_IMAGE021
Figure 121321DEST_PATH_IMAGE022
，
其中，λ n 为正曲线拟合参数，1≤n≤6，W i,j,k 为电力终端i参与γ j,k 的样本分布差异值，
Figure 686295DEST_PATH_IMAGE023
代表标签集合，P i,j,k (y=u)代表标签u的样本在训练数据集
Figure 866740DEST_PATH_IMAGE016
所占的的比例，P j,k (y=u)代表标签u的样本在训练数据集
Figure 450037DEST_PATH_IMAGE024
中所占的比例，
Figure 57736DEST_PATH_IMAGE025
是加入γ j,k 的一组电力终端，I j,k 是加入γ j,k 的电力终端的总数量；Q i,j,k 代表样本的数据质量，Q i,j,k ∈[0,1]；
通过
Figure 375585DEST_PATH_IMAGE028
可知随着W i,j,k 值的增大，本地模型推理精度下降，联邦学习性能随之退化。指数项
Figure 94142DEST_PATH_IMAGE045
和
Figure 564569DEST_PATH_IMAGE046
反映出当数据质量因子Q i,j,k 和数据大小S i,j,k 越大时，本地模型推理精度越高。
电力服务提供商对不参与联邦学习过程（即S i,j,k =0）或采取欺骗行为（即Q i,j,k =0）的电力终端采取零支付策略。
将达到预定精度的全局模型
Figure 608749DEST_PATH_IMAGE011
交付给相应的电力服务提供商，电力服务提供商j根据电力终端的贡献向电力终端支付相应的费用；
电力服务提供商j根据贡献向电力终端i支付相应的费用δ i,j ：
Figure 148314DEST_PATH_IMAGE047
，
其中，K j 是电力服务提供商j的任务总数，δ i,j,k 是在γ j,k 中电力终端i的本地模型推理精度
Figure 936142DEST_PATH_IMAGE020
达到设定的最高阈值时的付款。
Figure 244763DEST_PATH_IMAGE035
是参与γ j,k 中所有电力终端的W i,j,k 的平均值：
Figure 459844DEST_PATH_IMAGE048
；
很显然，当
Figure 735973DEST_PATH_IMAGE049
时，不同电力终端间的数据满足独立同分布，这种情况属于特例。
本申请是参照根据本申请实施例的方法、设备（系统）、和计算机程序产品的流程图和／或方框图来描述的。应理解可由计算机程序指令实现流程图和／或方框图中的每一流程和／或方框、以及流程图和／或方框图中的流程和／或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的步骤。
以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明技术原理的前提下，还可以做出若干改进和变形，这些改进和变形也应视为本发明的保护范围。

Claims (9)

1.一种面向电力物联网的电力终端多任务联邦学习方法，其特征在于，包括J个电力服务提供商、I个电力终端和L个边缘聚合器，
J'={1,2,…,J}，I'={1,2,…,I}，L'={1,2,…,L}，具体步骤如下：
步骤一、电力服务提供商j在云平台发布一组联邦学习任务集γ=｛γ j,1,…,γ j,k ,…,
Figure 130302DEST_PATH_IMAGE002
｝，j∈J'，其中，γ j,k 为电力服务提供商j的第k个任务，K j 为电力服务提供商j的任务总数；
云平台初始化全局模型
Figure 293431DEST_PATH_IMAGE004
，k=1,2,…，K j ，回合索引t初始化为0；
步骤二、云平台将全局模型
Figure 335205DEST_PATH_IMAGE006
分发到每个边缘聚合器，
Figure 114942DEST_PATH_IMAGE006
表示回合t中电力服务提供商j的第k个任务的全局模型；
边缘聚合器将接收到的全局模型
Figure 978993DEST_PATH_IMAGE006
发送到边缘聚合器覆盖范围内的电力终端；
步骤三、将训练获得的全局模型作为该电力终端i在回合t中的本地模型
Figure 996627DEST_PATH_IMAGE008
；
将本地模型
Figure 819090DEST_PATH_IMAGE008
上传到覆盖电力终端i的边缘聚合器l；
步骤四、收集边缘聚合器l的覆盖范围内所有电力终端的本地模型
Figure 305697DEST_PATH_IMAGE008
；
对电力终端的本地模型执行边缘聚合，得到局部模型
Figure 973439DEST_PATH_IMAGE010
：
Figure 111159DEST_PATH_IMAGE012
其中，
Figure 838944DEST_PATH_IMAGE014
为边缘聚合器l覆盖范围内的所有电力终端集合，
Figure 62115DEST_PATH_IMAGE016
为电力终端
Figure DEST_PATH_IMAGE018_7A
参与电力服务提供商j的第k个任务γ j,k 的训练数据集大小，
Figure DEST_PATH_IMAGE018_8A
∈
Figure 671563DEST_PATH_IMAGE014
；
边缘聚合完成后，所有边缘聚合器将局部模型发送到云平台进行中心聚合，得到全局模型
Figure 663790DEST_PATH_IMAGE020
：
Figure 562476DEST_PATH_IMAGE022
，
Figure 272943DEST_PATH_IMAGE024
，
其中，
Figure 548066DEST_PATH_IMAGE026
为边缘聚合器l的权重；
步骤五、判断全局模型
Figure 644067DEST_PATH_IMAGE027
是否达到预定精度，若没有达到则t的数值按照设定的规则变化，并执行步骤二，否则结束运行。
2.根据权利要求1所述的一种面向电力物联网的电力终端多任务联邦学习方法，其特征在于，
向全局模型
Figure 979233DEST_PATH_IMAGE027
输入某地区待计算月份的前三个月历史用电量参数，预测输出某地区待计算月份的用电量预测值；
历史用电量参数包括某地区每日平均用电时长、某地区每日平均用电功率、某地区住户总数和某地区工厂总数。
3.根据权利要求1所述的一种面向电力物联网的电力终端多任务联邦学习方法，其特征在于，
步骤三中，训练获得全局模型，通过以下步骤实现：
获取电力终端i参与电力服务提供商j的第k个任务γ j,k 的训练数据集
Figure 176997DEST_PATH_IMAGE029
以及数据质量因子Q i,j,k ，
Figure 990232DEST_PATH_IMAGE029
大小为
Figure 222630DEST_PATH_IMAGE031
；
电力终端i采用监督学习方式，利用训练数据集
Figure 197539DEST_PATH_IMAGE029
训练电力终端i的全局模型
Figure 898910DEST_PATH_IMAGE033
；
将训练数据集
Figure 250257DEST_PATH_IMAGE029
拆分为若干个批次；
通过随机梯度下降算法将每个批次输入全局模型
Figure 337162DEST_PATH_IMAGE033
进行训练，获得最终的全局模型。
4.根据权利要求3所述的一种面向电力物联网的电力终端多任务联邦学习方法，其特征在于，
步骤三中，获取电力终端参与电力服务提供商j的第k个任务γ j,k 的训练数据集
Figure 482972DEST_PATH_IMAGE029
和Q i,j,k ，通过以下步骤实现：
步骤3-1）：建立电力终端i参与电力服务提供商j的第k个任务γ j,k 的效益函数：
Figure 655328DEST_PATH_IMAGE035
其中，ϖ是平衡收入和成本的权重参数，δ i,j,k 是在γ j,k 中电力终端i的本地模型推理精度
Figure 59633DEST_PATH_IMAGE037
达到设定的最高阈值时的付款，C i,j,k 是执行γ j,k 时电力终端i的总成本；
Figure 1044DEST_PATH_IMAGE037
的表达式为：
Figure 848915DEST_PATH_IMAGE039
Figure 242987DEST_PATH_IMAGE041
，
其中，λ n 为正曲线拟合参数，1≤n≤6，W i,j,k 为电力终端i参与γ j,k 的样本分布差异值，
Figure 201715DEST_PATH_IMAGE043
代表标签集合，P i,j,k (y=u)代表标签u的样本在训练数据集
Figure 997633DEST_PATH_IMAGE029
所占的的比例，P j,k (y=u)代表标签u的样本在训练数据集
Figure 787645DEST_PATH_IMAGE045
中所占的比例，
Figure 403434DEST_PATH_IMAGE047
是加入γ j,k 的一组电力终端，I j,k 是加入γ j,k 的电力终端的总数量；Q i,j,k 代表样本的数据质量，Q i,j,k ∈[0,1]；
步骤3-2）：建立电力服务提供商j在γ j,k 中的效益函数π j,k ：
Figure 165854DEST_PATH_IMAGE049
，
Figure 816278DEST_PATH_IMAGE051
，
其中，μ是平衡全局模型推理精度和总奖励的权重参数，λ c 是调节参数；
Figure 5951DEST_PATH_IMAGE047
是加入γ j,k 的一组电力终端，δ i,j,k 是在γ j,k 中电力终端i的本地模型推理精度
Figure 640194DEST_PATH_IMAGE052
达到设定的最高阈值时的付款，
Figure 924414DEST_PATH_IMAGE054
是电力服务提供商j向云平台支付的全局模型聚合成本，
Figure 429345DEST_PATH_IMAGE056
代表全局模型
Figure 524340DEST_PATH_IMAGE006
大小，I j,k 代表参与γ j,k 的电力终端数量，p cloud 是电力服务提供商向云平台支付的单位款项，
Figure 380300DEST_PATH_IMAGE058
代表γ j,k 的全局模型推理精度；
Figure 969676DEST_PATH_IMAGE059
的表达式为：
Figure 860271DEST_PATH_IMAGE061
,
Figure 126168DEST_PATH_IMAGE063
Figure 469424DEST_PATH_IMAGE065
是参与γ j,k 中所有电力终端W i,j,k 的平均值；
步骤3-3）：建立联合优化问题：
问题1：
Figure 846179DEST_PATH_IMAGE067
问题2：
Figure 591281DEST_PATH_IMAGE069
，
其中，u i,j,k 指电力终端i参与电力服务提供商j的γ j,k 的效益函数，
Figure 277346DEST_PATH_IMAGE071
为电力终端i参与γ j,k 的最大的训练数据集的样本数量，
Figure 107899DEST_PATH_IMAGE073
为电力服务提供商j对γ j,k 的最大预算；
步骤3-4）：利用遗传算法求解步骤3-3）的联合优化问题，得到Q i,j,k 、S i,j,k 和δ i,j,k 的解。
5.根据权利要求4所述的一种面向电力物联网的电力终端多任务联邦学习方法，其特征在于，
设定的最高阈值为
Figure 288345DEST_PATH_IMAGE075
。
6.根据权利要求4所述的一种面向电力物联网的电力终端多任务联邦学习方法，其特征在于，
总成本包括本地数据成本、本地计算成本和通信成本。
7.根据权利要求1所述的一种面向电力物联网的电力终端多任务联邦学习方法，其特征在于，
t的数值按照设定的规则变化，具体是指：
t的数值增加1的设定倍数。
8.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现权利要求1至7中任一项所述方法的步骤。
9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现权利要求1至7中任一项所述方法的步骤。
CN202210986128.4A 2022-08-17 2022-08-17 一种面向电力物联网的电力终端多任务联邦学习方法 Active CN115049522B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210986128.4A CN115049522B (zh) 2022-08-17 2022-08-17 一种面向电力物联网的电力终端多任务联邦学习方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210986128.4A CN115049522B (zh) 2022-08-17 2022-08-17 一种面向电力物联网的电力终端多任务联邦学习方法

Publications (2)

Publication Number Publication Date
CN115049522A true CN115049522A (zh) 2022-09-13
CN115049522B CN115049522B (zh) 2022-11-25

Family

ID=83168425

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210986128.4A Active CN115049522B (zh) 2022-08-17 2022-08-17 一种面向电力物联网的电力终端多任务联邦学习方法

Country Status (1)

Country Link
CN (1) CN115049522B (zh)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113139341A (zh) * 2021-04-23 2021-07-20 广东安恒电力科技有限公司 基于联邦集成学习的电量需求预测方法和系统
WO2021163213A1 (en) * 2020-02-11 2021-08-19 Ventana Medical Systems, Inc. Federated learning system for training machine learning algorithms and maintaining patient privacy
CN113610303A (zh) * 2021-08-09 2021-11-05 北京邮电大学 一种负荷预测方法及系统
WO2022119929A1 (en) * 2020-12-01 2022-06-09 Owkin, Inc. Systems and methods for administrating a federated learning network

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021163213A1 (en) * 2020-02-11 2021-08-19 Ventana Medical Systems, Inc. Federated learning system for training machine learning algorithms and maintaining patient privacy
WO2022119929A1 (en) * 2020-12-01 2022-06-09 Owkin, Inc. Systems and methods for administrating a federated learning network
CN113139341A (zh) * 2021-04-23 2021-07-20 广东安恒电力科技有限公司 基于联邦集成学习的电量需求预测方法和系统
CN113610303A (zh) * 2021-08-09 2021-11-05 北京邮电大学 一种负荷预测方法及系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
RICARDO J.BESSA等: "privacy-preserving distributed learning for renewable energy forecasting", 《IEEE TRANSACTIONS ON SUSTAINABLE ENERGY》 *
郑楷洪等: ""一个面向电力计量系统的联邦学习框架"", 《中国电机工程学报》 *

Also Published As

Publication number Publication date
CN115049522B (zh) 2022-11-25

Similar Documents

Publication Publication Date Title
Hassija et al. Scheduling drone charging for multi-drone network based on consensus time-stamp and game theory
Fekri et al. Distributed load forecasting using smart meter data: Federated learning with Recurrent Neural Networks
Zhou et al. A truthful online mechanism for location-aware tasks in mobile crowd sensing
CN113992676B (zh) 端边云架构和完全信息下分层联邦学习的激励方法及系统
Qi et al. High-quality model aggregation for blockchain-based federated learning via reputation-motivated task participation
CN113610303A (zh) 一种负荷预测方法及系统
Jie et al. Online task scheduling for edge computing based on repeated Stackelberg game
CN109377218B (zh) 一种遏制虚假感知攻击的方法、服务器及移动终端
CN113610311B (zh) 双层协同架构下考虑碳减排的综合能源服务商合作运行优化方法
Gao et al. A learning-based credible participant recruitment strategy for mobile crowd sensing
CN105528248A (zh) 多任务合作应用下的群智感知激励机制
CN108668253A (zh) 一种基于演化博弈的群智合作感知激励方法
Luo et al. A hierarchical blockchain architecture based V2G market trading system
Lopez et al. Peer-to-peer energy trading for photo-voltaic prosumers
Aloqaily et al. Fairness-aware game theoretic approach for service management in vehicular clouds
CN116862551A (zh) 一种考虑用户隐私保护的新能源消纳电价决策方法
Lu et al. Auction design for cross-edge task offloading in heterogeneous mobile edge clouds
Yang et al. A two-stage pricing strategy for electric vehicles participating in emergency power supply for important loads
Dynge et al. LCOE-based pricing for DLT-enabled local energy trading platforms
Zhou et al. Multi-objective distributional reinforcement learning for large-scale order dispatching
CN115049522B (zh) 一种面向电力物联网的电力终端多任务联邦学习方法
Saadatmand et al. MRA: A modified reverse auction based framework for incentive mechanisms in mobile crowdsensing systems
Lin et al. Efficient collaborative multi-agent deep reinforcement learning for large-scale fleet management
Zhang et al. A crowdsourcing logistics solution based on digital twin and four-party evolutionary game
CN114219338A (zh) 基于联合学习的资源分配方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant