CN113194489A - 无线边缘网络中有效联邦学习的最小-最大代价优化方法 - Google Patents
无线边缘网络中有效联邦学习的最小-最大代价优化方法 Download PDFInfo
- Publication number
- CN113194489A CN113194489A CN202110358311.5A CN202110358311A CN113194489A CN 113194489 A CN113194489 A CN 113194489A CN 202110358311 A CN202110358311 A CN 202110358311A CN 113194489 A CN113194489 A CN 113194489A
- Authority
- CN
- China
- Prior art keywords
- local
- edge network
- intelligent device
- subcarrier
- energy consumption
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000005457 optimization Methods 0.000 title claims abstract description 40
- 238000000034 method Methods 0.000 title claims abstract description 39
- 238000005265 energy consumption Methods 0.000 claims abstract description 38
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 27
- 238000013468 resource allocation Methods 0.000 claims abstract description 20
- 238000004364 calculation method Methods 0.000 claims abstract description 12
- 230000009977 dual effect Effects 0.000 claims abstract description 11
- 238000004891 communication Methods 0.000 claims abstract description 7
- 230000005540 biological transmission Effects 0.000 claims description 26
- 239000000126 substance Substances 0.000 claims description 12
- 238000012549 training Methods 0.000 claims description 10
- 101100177269 Arabidopsis thaliana HCAR gene Proteins 0.000 claims description 9
- 238000010801 machine learning Methods 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 9
- 230000006870 function Effects 0.000 claims description 5
- 239000003990 capacitor Substances 0.000 claims description 3
- 238000004088 simulation Methods 0.000 abstract description 7
- 238000000354 decomposition reaction Methods 0.000 abstract description 2
- 239000000969 carrier Substances 0.000 abstract 1
- 238000013459 approach Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000011160 research Methods 0.000 description 4
- 230000007547 defect Effects 0.000 description 3
- 230000007786 learning performance Effects 0.000 description 3
- 230000007423 decrease Effects 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000010845 search algorithm Methods 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000002354 daily effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 238000005562 fading Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008092 positive effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W24/00—Supervisory, monitoring or testing arrangements
- H04W24/02—Arrangements for optimising operational condition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/20—Ensemble learning
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W52/00—Power management, e.g. TPC [Transmission Power Control], power saving or power classes
- H04W52/04—TPC
- H04W52/30—TPC using constraints in the total amount of available transmission power
- H04W52/34—TPC management, i.e. sharing limited amount of power among users or channels or data types, e.g. cell loading
- H04W52/346—TPC management, i.e. sharing limited amount of power among users or channels or data types, e.g. cell loading distributing total power among users or channels
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W72/00—Local resource management
- H04W72/04—Wireless resource allocation
- H04W72/044—Wireless resource allocation based on the type of the allocated resource
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W72/00—Local resource management
- H04W72/04—Wireless resource allocation
- H04W72/044—Wireless resource allocation based on the type of the allocated resource
- H04W72/0453—Resources in frequency domain, e.g. a carrier in FDMA
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W72/00—Local resource management
- H04W72/04—Wireless resource allocation
- H04W72/044—Wireless resource allocation based on the type of the allocated resource
- H04W72/0473—Wireless resource allocation based on the type of the allocated resource the resource being transmission power
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W72/00—Local resource management
- H04W72/50—Allocation or scheduling criteria for wireless resources
- H04W72/53—Allocation or scheduling criteria for wireless resources based on regulatory allocation policies
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Mobile Radio Communication Systems (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Small-Scale Networks (AREA)
Abstract
本发明属于通信技术领域,公开了一种无线边缘网络中有效联邦学习的最小‑最大代价优化方法,通过局部精度、子载波分配、发射功率分配和计算资源分配的联合优化,以达到无线边缘网络中有效联邦学习的最佳性能;其中,子载波分配和功率分配采用拉格朗日对偶分解法,CPU周期频率采用启发式算法,通过迭代算法获得局部精度。为了降低直接求解问题的计算复杂度,本发明将原问题分解为若干个子问题进行求解并设计了高效的算法。仿真结果表明,本发明所提出的算法具有良好的收敛性能,能够在能量消耗和学习时间之间实现折衷,并且在成本方面能够为所有智能设备提供公平性,并通过与现有方案的比较,本发明能够在能量消耗和学习时间之间实现折衷。
Description
技术领域
本发明属于通信技术领域,尤其涉及一种无线边缘网络中有效联邦学习的最小-最大代价优化方法。
背景技术
目前,随着智能设备的空前快速发展,它们已经成为人们日常生活中不可缺少的一部分,每天都会产生大量的数据。丰富的数据可以为基于机器学习的应用提供支持,例如训练用户活动模型和预测健康事件模型。在传统的集中式机器学习技术中,智能设备用户直接将数据上传到云服务器上进行模型训练。然而由于数据上传到中心服务器,用户的私人信息可能会被泄露。
联邦学习(FL)被认为是解决此问题的一种有效方法,其在云服务器上训练一个优秀的全局模型。FL本质上是一种分布式机器学习,它允许用户在本地训练数据,而无需将数据直接上传到云服务器。在FL中,云服务器首先将当前的全局模型发送给每个本地用户,然后使用本地数据更新共享模型,最后将更新后的模型发送回服务器。FL技术避免了集中训练,有效地保护了用户的隐私。联邦学习是一种能够保护用户数据隐私的分布式机器学习技术,因此越来越受到业界和学术界的重视。
除了隐私问题,资源优化是联邦学习的一个挑战。因为本地用户需要更新共享模型并将模型参数上传到服务器,所以联邦学习需要大量的计算和无线资源。虽然已有一些研究对联邦学习的资源优化进行了研究,但也存在一些新的挑战。一方面,联邦学习的时间由两部分决定:本地计算时间和通信时间。在已知准确度的前提下,学习时间是联邦学习的重要性能指标之一。由于所有参与者的模型参数只有在同时上传到服务器时才能进行聚合,因此每个参与者更新模型参数的时间会影响联邦学习的收敛速度。因此,需要考虑单个智能设备的学习时间。另一方面,由于智能设备的能源有限,如何实现计算资源和无线资源的最优分配以达到能源消耗的最小化是一个主要问题。同时,现有的研究大多侧重于整个过程的成本优化,而不能考虑单个参与者的成本。
通过上述分析,现有技术存在的问题及缺陷为:
(1)在传统的集中式机器学习技术中,智能设备用户直接将数据上传到云服务器上进行模型训练。然而由于数据上传到中心服务器,用户的私人信息可能会被泄露。
(2)由于所有参与者的模型参数只有在同时上传到服务器时才能进行聚合,因此每个参与者更新模型参数的时间会影响联邦学习的收敛速度。
(3)由于智能设备的能源有限,如何实现计算资源和无线资源的最优分配以达到能源消耗的最小化是一个主要问题。
(4)现有的针对联邦学习的研究大多侧重于整个过程的成本优化,而不能考虑单个参与者的成本。
解决以上问题及缺陷的难度为:
(1)智能设备与云之间的数据传输是不可避免的,且传统的云学习架构本质上是中心式的,很难保证用户的隐私,避免用户收到分布式拒绝服务或断电的影响。
(2)由于海量的用户终端设备的接入和大量的移动计算的存在,数据流量呈现爆发式地增长,网络负载急速加剧,很难在应对这些需求的同时实现网络的计算资源与无线资源的合理分配。
解决以上问题及缺陷的意义为:
(1)处理和存储数据分布在边缘设备上,用户数据与模型参数在本地进行处理,减少了处于安全与隐私暴露风险中的数据量,保护用户隐私不泄露,加快联邦学习的收敛速度。
(2)智能设备对计算的处理时延和能耗十分敏感,并且智能设备的资源是有限的,实现网络资源的最优分配,以达用户对网络的时延和能耗等方面的更高要求是边缘学习的必经之路。
发明内容
针对现有技术存在的问题,本发明提供了一种无线边缘网络中有效联邦学习的最小-最大代价优化方法。
本发明是这样实现的,一种无线边缘网络中有效联邦学习的最小-最大代价优化方法,所述无线边缘网络中有效联邦学习的最小-最大代价优化方法包括以下步骤:
步骤一,获得局部精度θ;
步骤二,设置初始值V0=0、l=0、m=0与算法精度σ;
步骤三,设置初始对偶变量β(m)、ν(m)、μ(m)与算法精度ε;
步骤六,更新对偶变量β(m+1)、ν(m+1)、μ(m+1);
步骤七,基于步骤五计算i(m)、j(m)、z(m),如果||i(m)||2≤ε,||j(m)||2≤ε,||z(m)||2≤ε,则执行步骤七;否则,m=m+1,从步骤三重新执行;
步骤八,计算运行一次全局迭代时能量消耗和延迟的权和的最大值是否小于算法精度σ,若小于,则得到最优资源分配x*、P*与V*;否则,计算Vl+1,l=l+1,从步骤三重新执行;
步骤九,设置参数最大距离带宽BWmax与最小距离带宽BWmin、最大迭代次数NI、W、和声记忆考虑率与基音调整率的均值μHCMR、μPRAm与方差σHCMRs、σPRAs,迭代指数w=1与I=0;
步骤十,初始化和声记忆HM并计算目标函数Φ(f);
步骤十一,基于步骤八计算服从正态分布的和声记忆考虑率HMCR、基音调整率PAR;
步骤十二,计算距离带宽BW(I);
步骤十三,计算新的和声向量Fnew;
步骤十四,获得最坏的和声矢量FD,如果Φ(Fnew)<Φ(FD),则更新和声记忆为FD=Fnew,并存储HMCR与PAR的值;
步骤十五,如果w=W,基于步骤十四计算新的μHCMR、μPRAm,并重置w=1;否则w=w+1;
步骤十六,如果I<NI,则I=I+1,从步骤十开始重新执行;否则,输出最优计算资源分配f。
即在给定CPU周期频率和局部精度θ的情况下,通过求解步骤一至步骤八得到最优子载波分配x*和最优功率分配P*。进而在给定无线资源分配策略{x*,P*}和局部精度θ下通过求解步骤九至步骤十六得到最优计算资源分配策略f。
进一步,步骤一中,所述θ表示如下:
要确定θ的最优值需要确立以下步骤:
(1)设置最大值η=0、υ=0以及精度ξ;
(2)基于ηυ计算局部精度θυ;
其中,y+定义为max{0,y}。
其中,
进一步,步骤六中,所述对偶变量表示如下:
βn(l+m)=[βn(m)+o(m)Δβn(m)]+
υn(l+m)=[υn(m)+q(m)Δυn(m)]+
μn(l+m)=[μn(m)+g(m)Δμn(m)]+;
其中,
l是迭代的指数,o(m)、q(m)、g(m)是非常小的正步长,αn,k=xn,k×rn,k。
进一步,步骤七中,所述i(m)、j(m)、z(m)表示如下:
i(m)=β(m+1)-β(m)
j(m)=υ(m+1)-υ(m)
z(m)=μ(m+1)-μ(m)。
进一步,步骤八中,所述运行一次全局迭代时能量消耗和延迟的权和表示如下:
所述V*与Vl+1表示如下:
进一步,步骤十二中,所述BW(I)表示如下:
进一步,步骤十三中,所述计算Fnew的步骤如下:
(1)获取智能设备数N并设置j=1;
(2)如果r1<HMCR,则Fnew(j)=Fi(j)±r2×BW(I),并转到步骤(3)执行;否则Fnew(j)=FL(j)+r2×(FU(j)-FL(j));
(3)获得最好的和声矢量FB,如果r3<PAR,则Fnew(j)=FB(j)。
进一步,所述无线边缘网络中有效联邦学习的最小-最大代价优化方法,还包括:
无线边缘网络由配备有边缘服务器的基站BS和N个智能设备SDs组成,由集合Ν={1,2,...,N}索引。假设每个参与的智能设备n∈N都有一个本地数据集Dn,其大小定义为Dn=|Dn|;总数据大小用表示。通过使用所述SD上的数据,SDs可以协作训练部署在无线边缘网络中的机器学习模型。
让Cn表示智能设备n处理一个数据样本所需的CPU周期数。假设所有数据样本都具有相同的位数。那么,当运行一个本地迭代时,智能设备n所需的CPU周期总数是CnDn。f=(fn)表示智能设备n执行一次局部迭代所需的CPU周期频率。功耗被建模为其中kn是智能设备n处CPU的有效开关电容。智能设备n每次局部迭代所需的计算时间为
在联邦学习中,考虑通信阶段基于OFDMA的移动边缘网络系统。有K个子载波,其集合被表示为K={1,2,...,K},并且每个子载波的带宽是B0。设P=(Pn,k)和H=(hn,k)分别表示智能设备n在子载波k上的发射功率和信道增益,智能设备n在子载波k上的传输速率由下式给出:
智能设备n的总发射速率和总发射功率分别表示为:
提出移动边缘网络中联合学习的局部精度和资源分配联合优化问题。智能设备n的代价定义为运行一次全局迭代时能量消耗和延迟的权和:与分别是智能设备n的能耗和时延权值分别表示能量消耗和延迟的权重,为全局迭代次数的上界;将局部精度θ、局部计算的CPU周期频率f、子载波分配x和发射功率分配P的联合优化公式如下:
其中,是基本传输速率,是上传更新后的本地模型参数时智能设备n的最大传输功率。(C1)是智能设备n的CPU周期频率约束;(C2)表示智能设备n更新一个局部模型的计算时间不能超过最大容许时间;(C3)确保智能设备的基本费率要求;(C4)和(C5)表示一个智能设备最多可以分配一个子载波;(C6)是智能设备的发射功率限制;(C7)是局部精度的可行域约束;通过联合优化局部精度、子载波分配、发射功率分配和计算资源分配,使联邦学习的收敛性能最优。
结合上述的所有技术方案,本发明所具备的优点及积极效果为:本发明提供的无线边缘网络中有效联邦学习的最小-最大代价优化方法,涉及无线边缘网络(WirelessEdge Networks)中有效联邦学习(Federated learning,FL)的资源优化,具体涉及局部精度、子载波分配、发射功率分配和计算资源分配的联合优化。本发明通过联合优化局部精度、子载波分配、发射功率分配和计算资源分配以达到无线边缘网络中有效联邦学习的最佳性能。具体地,本发明提出了一个混合-整数非线性规划问题,为了降低直接解决这个问题的复杂度,本发明将其分解为若干个子问题并设计了高效的算法。
本发明为最小化最坏情况下参与者成本提出了一个无线边缘网络中联邦学习性能的优化框架,通过局部精度、子载波分配、发射功率分配和计算资源分配的联合优化,使联邦学习的收敛性能最优。大量的数值仿真结果表明了本发明算法的收敛性能,并在代价和公平性之间进行了折衷。同时,与现有算法相比,本发明算法在代价方面具有更好的性能。
本发明为最小化最坏情况下参与者成本提出了一个无线边缘网络中联邦学习性能的优化框架,本发明联合优化了局部精度、子载波分配、发射功率分配以及计算资源分配,以满足系统的性能要求。
特别地,为了降低直接求解问题的计算复杂度,本发明将原问题分解为若干个子问题进行求解。本发明提出了一种迭代算法来获得子载波分配和功率分配最优解,提出了一个自适应和声搜索算法来获得本地CPU循环频率,并且提出了一种迭代算法来获得局部精度。最后,仿真结果表明,本发明所提出的算法具有良好的收敛性能,能够在能量消耗和学习时间之间实现折衷,并且在成本方面能够为所有智能设备提供公平性。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例中所需要使用的附图做简单的介绍,显而易见地,下面所描述的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的无线边缘网络中有效联邦学习的最小-最大代价优化方法流程图。
图2是本发明实施例提供的可应用的一个系统架构示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
针对现有技术存在的问题,本发明提供了一种无线边缘网络中有效联邦学习的最小-最大代价优化方法,下面结合附图对本发明作详细的描述。
联邦学习是一种能够保护用户数据隐私的分布式机器学习技术,因此越来越受到业界和学术界的重视。然而,现有的研究大多侧重于整个过程的成本优化,而不能考虑单个参与者的成本。在本发明中,本发明研究了一个最小-最大代价的优化问题,以保证在无线边缘网络中联邦学习的收敛速度。特别地,本发明使最坏情况下参与者的延迟、局部CPU周期频率、功率分配、局部精度和子载波分配约束的成本最小化。针对该公式的混合整数非线性规划问题,本发明分解了几个子问题进行求解,其中子载波分配和功率分配采用拉格朗日对偶分解法,CPU周期频率采用启发式算法,通过迭代算法获得局部精度。仿真结果表明了该算法的收敛性,并通过与现有方案的比较,在代价和公平性之间取得了折衷。
下面结合实施例对本发明的技术方案作进一步描述。
考虑某用户终端设备与云服务器进行数据交互,数据将在边缘设备进行存储、计算和处理,形成“云端-边缘端-用户终端”三级架构,边缘端是由部署在基站上的边缘服务器组成的。数据将由一些部署在边缘设备上的联邦学习算法进行处理,完成魔性的训练与应用。
实施例1
参照图2,本发明实施例提供的无线边缘网络中有效联邦学习的最小-最大代价优化方法包括以下步骤:
Step 1:获得局部精度θ;
Step2:设置初始值V0=0、l=0、m=0与算法精度σ;
Step 3:设置初始对偶变量β(m)、ν(m)、μ(m)与算法精度ε;
Step6:更新对偶变量β(m+1)、ν(m+1)、μ(m+1);
Step7:基于Step5计算i(m)、j(m)、z(m),如果||i(m)||2≤ε,||j(m)||2≤ε,||z(m)||2≤ε,则执行Step7;否则,m=m+1,从Step3重新执行;
Step8:计算运行一次全局迭代时能量消耗和延迟的权和的最大值是否小于算法精度σ,若小于,则得到最优资源分配x*、P*与V*;否则,计算Vl+1,l=l+1,从Step3重新执行;
Step9:设置参数最大距离带宽BWmax与最小距离带宽BWmin、最大迭代次数NI、W、和声记忆考虑率与基音调整率的均值μHCMR、μPRAm与方差σHCMRs、σPRAs,迭代指数w=1与I=0;
Step10:初始化和声记忆HM并计算目标函数Φ(f);
Step11:基于Step8计算服从正态分布的和声记忆考虑率HMCR、基音调整率PAR;
Step12:计算距离带宽BW(I);
Step13:计算新的和声向量Fnew;
Step14:获得最坏的和声矢量FD,如果Φ(Fnew)<Φ(FD),则更新和声记忆为FD=Fnew,并存储HMCR与PAR的值;
Step15:如果w=W,基于Step14计算新的μHCMR、μPRAm,并重置w=1;否则w=w+1;
Step16:如果I<NI,则I=I+1,从Step10开始重新执行;否则,输出最优计算资源分配f。
在Step1中θ表示如下:
要确定θ的最优值需要确立以下步骤:
第一步:设置最大值η=0、υ=0以及精度ξ;
第二步:基于ηυ计算局部精度θυ;
其中,y+定义为max{0,y}。
其中,
在Step6中对偶变量表示如下:
βn(l+m)=[βn(m)+o(m)Δβn(m)]+
υn(l+m)=[υn(m)+q(m)Δυn(m)]+
μn(l+m)=[μn(m)+g(m)Δμn(m)]+;
其中,
l是迭代的指数,o(m)、q(m)、g(m)是非常小的正步长,αn,k=xn,k×rn,k。在Step7中i(m)、j(m)、z(m)表示如下:
i(m)=β(m+1)-β(m)
j(m)=υ(m+1)-υ(m)
z(m)=μ(m+1)-μ(m)。
在Step8中运行一次全局迭代时能量消耗和延迟的权和表示如下:
在Step8中V*与Vl+1表示如下:
在Step12中BW(I)表示如下:
在Step13中计算Fnew的步骤如下:
第一步:获取智能设备数N并设置j=1;
第二步:如果r1<HMCR,则Fnew(j)=Fi(j)±r2×BW(I),并转到第三步执行;否则Fnew(j)=FL(j)+r2×(FU(j)-FL(j));
第三步:获得最好的和声矢量FB,如果r3<PAR,则Fnew(j)=FB(j)。
本发明为最小化最坏情况下参与者成本提出了一个无线边缘网络中联邦学习性能的优化框架,本发明联合优化了局部精度、子载波分配、发射功率分配以及计算资源分配,以满足系统的性能要求。
特别地,为了降低直接求解问题的计算复杂度,本发明将原问题分解为若干个子问题进行求解。本发明提出了一种迭代算法来获得子载波分配和功率分配最优解;提出了一个自适应和声搜索算法来获得本地CPU循环频率,并且提出了一种迭代算法来获得局部精度。最后,仿真结果表明,所提出的算法具有良好的收敛性能,能够在能量消耗和学习时间之间实现折衷,并且在成本方面能够为所有智能设备提供公平性。
实施例2
在这一部分中,本发明首先介绍了无线边缘网络上的联邦学习的描述,然后讨论了本地计算模型和通信模型,最后提出了一个使系统中最坏情况用户的代价最小化的优化问题。
A.无线边缘网络中的联邦学习模型
如图2所示,考虑在无线边缘网络中部署联邦学习,该网络由配备有边缘服务器的基站(base station,BS)和N个智能设备(smart devices,SDs)组成,由集合Ν={1,2,...,N}索引。假设每个参与的智能设备n∈N都有一个本地数据集Dn,其大小定义为Dn=|Dn|。总数据大小用表示。通过使用这些SD上的数据,SDs可以协作训练部署在无线边缘网络中的机器学习模型。
让Cn表示智能设备n处理一个数据样本所需的CPU周期数。本发明假设所有数据样本都具有相同的位数。那么,当运行一个本地迭代时,智能设备n所需的CPU周期总数是CnDn。f=(fn)表示智能设备n执行一次局部迭代所需的CPU周期频率。采用动态电压频率缩放(DVFS)技术,智能设备可以自适应地改变计算速度,降低功耗,缩短计算时间。功耗被建模为其中kn是智能设备n处CPU的有效开关电容。智能设备n每次局部迭代所需的计算时间为
在联邦学习中,本发明考虑了一个在通信阶段基于OFDMA的移动边缘网络系统。有K个子载波,其集合被表示为K={1,2,...,K},并且每个子载波的带宽是B0。设P=(Pn,k)和H=(hn,k)分别表示智能设备n在子载波k上的发射功率和信道增益。然后,智能设备n在子载波k上的传输速率由下式给出:
然后,智能设备n的总发射速率和总发射功率分别表示为:
本发明提出了移动边缘网络中联合学习的局部精度和资源分配联合优化问题。智能设备n的代价定义为运行一次全局迭代时能量消耗和延迟的权和:与分别是智能设备n的能耗和时延权值分别表示能量消耗和延迟的权重,为全局迭代次数的上界;特别地,本发明将局部精度θ、局部计算的CPU周期频率f、子载波分配x和发射功率分配P的联合优化公式如下:
其中,是基本传输速率,是上传更新后的本地模型参数时智能设备n的最大传输功率。(C1)是智能设备n的CPU周期频率约束;(C2)表示智能设备n更新一个局部模型的计算时间不能超过最大容许时间;(C3)确保智能设备的基本费率要求;(C4)和(C5)表示一个智能设备最多可以分配一个子载波;(C6)是智能设备的发射功率限制;(C7)是局部精度的可行域约束;本发明通过联合优化局部精度、子载波分配、发射功率分配和计算资源分配,使联邦学习的收敛性能最优。
在仿真模拟中,考虑了一个由8个智能设备和一个基站组成的蜂窝网络,其散射面积为1×1km2。该信道被建模为一个频率选择性信道,由12个独立的Rayleigh多径组成。本发明采用Clarkes平坦衰落模型作为12个多径的分量。十二个多径分量的相对功率设置为[-2.5,-4,-3.2,0,-5.2,-7.5,-5.5,-2.8,-10,-8.7,-12,-11]dB。本发明考虑这两个基线方案来验证所提出的方案的性能。第一种方案侧重于整个系统的成本,而不考虑单个智能设备的成本。这种方案称为网络成本优化方案(NCS)。第二种方案主要研究在总功率约束下系统的训练时间最小化问题,称为训练时间最小化方案(TTS)。
通过仿真结果本发明观察到,在恶劣的信道条件和有限的计算资源下,网络控制系统以牺牲每个智能设备的效率为代价来节省系统开销。另一方面,本发明的方案可以平衡每个智能设备的成本。本发明从不同的角度对三种方案(NCS、TTS和本发明提出的方案)在系统成本方面的性能进行了比较。
本发明从系统成本、最坏成本和最佳成本三个方面比较了方案之间的系统性能。结果显示,NCS和TTS系统的最差和最佳成本之间存在着很大的差异,而本发明的方案中每个智能设备的成本都很均衡,系统成本略有增加。系统成本和单个智能设备公平性之间的权衡类似于吞吐量和公平性之间的权衡。并且观察到,随着智能设备数量的增加,网络训练模型就越精确,成本会慢慢降低,此时该方案的性能最好,其次是NCS,TTS最差。
本发明仿真模拟了权重值对能量消耗和学习时间的影响。因此,本发明设置了三个权重参数来显示该方案的性能,其中三个参数分别设置为 和观察到,对于给定的数据大小,能量消耗和学习时间随着的增加而减少。此外,对于给定的观察到功耗和学习时间的值随着数据大小Dn的增加而增加。但是,当数据大小超过某个值时,学习时间会缓慢增长。这是因为本发明的方案可以在能量消耗和学习时间之间实现折衷。
本发明仿真模拟了不同条件下的能源消耗最大发射功率可以观察到,最大发射功率越大,能量消耗越大。然而,观察到能量消耗的增长并不是随着的增加而无限增加,而是在大于该阈值时保持不变。这是因为必须确保学习时间。另外,该方案的性能最好,其次是NCS,TTS最差。
本发明仿真模拟了了最大计算能力对学习时间的影响。可以看出因为计算时间在CPU周期频率中是单调递减的,所以所有方案的学习时间都随着智能设备最大计算能力的增加而减少。此外,还观察到该方案的性能优于其他方案。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用全部或部分地以计算机程序产品的形式实现,所述计算机程序产品包括一个或多个计算机指令。在计算机上加载或执行所述计算机程序指令时,全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输)。所述计算机可读取存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘SolidState Disk(SSD))等。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,都应涵盖在本发明的保护范围之内。
Claims (10)
1.一种无线边缘网络中有效联邦学习的最小-最大代价优化方法,其特征在于,所述无线边缘网络中有效联邦学习的最小-最大代价优化方法包括以下步骤:
步骤一,获得局部精度θ;
步骤二,设置初始值V0=0、l=0、m=0与算法精度σ;
步骤三,设置初始对偶变量β(m)、ν(m)、μ(m)与算法精度ε;
步骤六,更新对偶变量β(m+1)、ν(m+1)、μ(m+1);
步骤七,基于步骤五计算i(m)、j(m)、z(m),如果||i(m)||2≤ε,||j(m)||2≤ε,||z(m)||2≤ε,则执行步骤七;否则,m=m+1,从步骤三重新执行;
步骤八,计算运行一次全局迭代时能量消耗和延迟的权和的最大值是否小于算法精度σ,若小于,则得到最优资源分配x*、P*与V*;否则,计算Vl+1,l=l+1,从步骤三重新执行;
步骤九,设置参数最大距离带宽BWmax与最小距离带宽BWmin、最大迭代次数NI、W、和声记忆考虑率与基音调整率的均值μHCMR、μPRAm与方差σHCMRs、σPRAs,迭代指数w=1与I=0;
步骤十,初始化和声记忆HM并计算目标函数Φ(f);
步骤十一,基于步骤八计算服从正态分布的和声记忆考虑率HMCR、基音调整率PAR;
步骤十二,计算距离带宽BW(I);
步骤十三,计算新的和声向量Fnew;
步骤十四,获得最坏的和声矢量FD,如果Φ(Fnew)<Φ(FD),则更新和声记忆为FD=Fnew,并存储HMCR与PAR的值;
步骤十五,如果w=W,基于步骤十四计算新的μHCMR、μPRAm,并重置w=1;否则w=w+1;
步骤十六,如果I<NI,则I=I+1,从步骤十开始重新执行;否则,输出最优计算资源分配f。
6.如权利要求1所述的无线边缘网络中有效联邦学习的最小-最大代价优化方法,其特征在于,步骤七中,所述i(m)、j(m)、z(m)表示如下:
i(m)=β(m+1)-β(m)
j(m)=υ(m+1)-υ(m)
z(m)=μ(m+1)-μ(m)。
9.如权利要求1所述的无线边缘网络中有效联邦学习的最小-最大代价优化方法,其特征在于,步骤十三中,所述计算Fnew的步骤如下:
(1)获取智能设备数N并设置j=1;
(2)如果r1<HMCR,则Fnew(j)=Fi(j)±r2×BW(I),并转到步骤(3)执行;否则Fnew(j)=FL(j)+r2×(FU(j)-FL(j));
(3)获得最好的和声矢量FB,如果r3<PAR,则Fnew(j)=FB(j)。
10.如权利要求1所述的无线边缘网络中有效联邦学习的最小-最大代价优化方法,其特征在于,所述无线边缘网络中有效联邦学习的最小-最大代价优化方法,还包括:
无线边缘网络由配备有边缘服务器的基站BS和N个智能设备SDs组成,由集合Ν={1,2,...,N}索引;假设每个参与的智能设备n∈N都有一个本地数据集Dn,其大小定义为Dn=|Dn|;总数据大小用表示;通过使用所述SD上的数据,SDs可以协作训练部署在无线边缘网络中的机器学习模型;
让Cn表示智能设备n处理一个数据样本所需的CPU周期数;假设所有数据样本都具有相同的位数;那么,当运行一个本地迭代时,智能设备n所需的CPU周期总数是CnDn;f=(fn)表示智能设备n执行一次局部迭代所需的CPU周期频率;功耗被建模为其中kn是智能设备n处CPU的有效开关电容;智能设备n每次局部迭代所需的计算时间为
在联邦学习中,考虑通信阶段基于OFDMA的移动边缘网络系统;有K个子载波,其集合被表示为K={1,2,...,K},并且每个子载波的带宽是B0;设P=(Pn,k)和H=(hn,k)分别表示智能设备n在子载波k上的发射功率和信道增益,智能设备n在子载波k上的传输速率由下式给出:
智能设备n的总发射速率和总发射功率分别表示为:
提出移动边缘网络中联合学习的局部精度和资源分配联合优化问题;智能设备n的代价定义为运行一次全局迭代时能量消耗和延迟的权和: 与分别是智能设备n的能耗和时延权值分别表示能量消耗和延迟的权重,为全局迭代次数的上界;将局部精度θ、局部计算的CPU周期频率f、子载波分配x和发射功率分配P的联合优化公式如下:
(C7):0≤θ≤1,;
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110358311.5A CN113194489B (zh) | 2021-04-01 | 2021-04-01 | 无线边缘网络中有效联邦学习的最小-最大代价优化方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110358311.5A CN113194489B (zh) | 2021-04-01 | 2021-04-01 | 无线边缘网络中有效联邦学习的最小-最大代价优化方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113194489A true CN113194489A (zh) | 2021-07-30 |
CN113194489B CN113194489B (zh) | 2022-09-13 |
Family
ID=76974515
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110358311.5A Active CN113194489B (zh) | 2021-04-01 | 2021-04-01 | 无线边缘网络中有效联邦学习的最小-最大代价优化方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113194489B (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114040425A (zh) * | 2021-11-17 | 2022-02-11 | 中国电信集团系统集成有限责任公司 | 一种基于全局资源效用率优化的资源分配方法 |
CN114363923A (zh) * | 2021-11-30 | 2022-04-15 | 山东师范大学 | 一种基于联邦边缘学习的工业物联网资源分配方法及系统 |
CN114650228A (zh) * | 2022-03-18 | 2022-06-21 | 南京邮电大学 | 一种异构网络中基于计算卸载的联邦学习调度方法 |
CN114726706A (zh) * | 2022-04-15 | 2022-07-08 | 河海大学 | 一种面向多层无线网络联邦学习的模型同步方法及系统 |
CN115278708A (zh) * | 2022-07-25 | 2022-11-01 | 中国电子科技集团公司第五十四研究所 | 一种面向联邦学习的移动边缘计算资源管理方法 |
CN115329987A (zh) * | 2022-08-04 | 2022-11-11 | 苏州大学 | 一种联邦学习系统中用户选择的方法 |
WO2024103291A1 (zh) * | 2022-11-16 | 2024-05-23 | 华为技术有限公司 | 一种联邦学习方法及通信装置 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111416735A (zh) * | 2020-03-02 | 2020-07-14 | 河海大学 | 基于联邦学习的移动边缘环境下安全QoS预测方法 |
CN111708640A (zh) * | 2020-06-23 | 2020-09-25 | 苏州联电能源发展有限公司 | 一种面向边缘计算的联邦学习方法和系统 |
WO2020192896A1 (en) * | 2019-03-26 | 2020-10-01 | Huawei Technologies Co., Ltd. | Apparatus and method for hyperparameter optimization of a machine learning model in a federated learning system |
CN111756848A (zh) * | 2020-06-28 | 2020-10-09 | 河海大学 | 移动边缘环境下基于联邦学习和移动感知的QoS优化方法 |
CN111866954A (zh) * | 2020-07-21 | 2020-10-30 | 重庆邮电大学 | 一种基于联邦学习的用户选择和资源分配方法 |
CN112181666A (zh) * | 2020-10-26 | 2021-01-05 | 华侨大学 | 一种基于边缘智能的设备评估和联邦学习重要性聚合方法、系统、设备和可读存储介质 |
CN112232528A (zh) * | 2020-12-15 | 2021-01-15 | 之江实验室 | 一种联邦学习模型训练方法、装置及联邦学习系统 |
CN112565331A (zh) * | 2020-11-02 | 2021-03-26 | 中山大学 | 一种基于边缘计算的端-边协同联邦学习优化方法 |
-
2021
- 2021-04-01 CN CN202110358311.5A patent/CN113194489B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020192896A1 (en) * | 2019-03-26 | 2020-10-01 | Huawei Technologies Co., Ltd. | Apparatus and method for hyperparameter optimization of a machine learning model in a federated learning system |
CN111416735A (zh) * | 2020-03-02 | 2020-07-14 | 河海大学 | 基于联邦学习的移动边缘环境下安全QoS预测方法 |
CN111708640A (zh) * | 2020-06-23 | 2020-09-25 | 苏州联电能源发展有限公司 | 一种面向边缘计算的联邦学习方法和系统 |
CN111756848A (zh) * | 2020-06-28 | 2020-10-09 | 河海大学 | 移动边缘环境下基于联邦学习和移动感知的QoS优化方法 |
CN111866954A (zh) * | 2020-07-21 | 2020-10-30 | 重庆邮电大学 | 一种基于联邦学习的用户选择和资源分配方法 |
CN112181666A (zh) * | 2020-10-26 | 2021-01-05 | 华侨大学 | 一种基于边缘智能的设备评估和联邦学习重要性聚合方法、系统、设备和可读存储介质 |
CN112565331A (zh) * | 2020-11-02 | 2021-03-26 | 中山大学 | 一种基于边缘计算的端-边协同联邦学习优化方法 |
CN112232528A (zh) * | 2020-12-15 | 2021-01-15 | 之江实验室 | 一种联邦学习模型训练方法、装置及联邦学习系统 |
Non-Patent Citations (5)
Title |
---|
CONG SHEN: "Federated Learning with Heterogeneous Quantization", 《2020 IEEE/ACM SYMPOSIUM ON EDGE COMPUTING (SEC)》 * |
HAIFENG SUN: "Toward Communication-Efficient Federated Learning in the Internet of Things With Edge Computing", 《IEEE INTERNET OF THINGS JOURNAL》 * |
JIE FENG: "Energy-Efficient Resource Allocation in Fog Computing Supported IoT with Min-Max Fairness Guarantees", 《2018 IEEE INTERNATIONAL CONFERENCE ON COMMUNICATIONS (ICC)》 * |
SHIQIANG WANG: "Adaptive_Federated_Learning_in_Resource_Constrained_Edge_Computing_Systems", 《IEEE JOURNAL ON SELECTED AREAS IN COMMUNICATIONS》 * |
芦效峰: "一种面向边缘计算的高效异步联邦学习机制", 《计算机研究与发展》 * |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114040425A (zh) * | 2021-11-17 | 2022-02-11 | 中国电信集团系统集成有限责任公司 | 一种基于全局资源效用率优化的资源分配方法 |
CN114040425B (zh) * | 2021-11-17 | 2024-03-15 | 中电信数智科技有限公司 | 一种基于全局资源效用率优化的资源分配方法 |
CN114363923A (zh) * | 2021-11-30 | 2022-04-15 | 山东师范大学 | 一种基于联邦边缘学习的工业物联网资源分配方法及系统 |
CN114363923B (zh) * | 2021-11-30 | 2024-03-26 | 山东师范大学 | 一种基于联邦边缘学习的工业物联网资源分配方法及系统 |
CN114650228A (zh) * | 2022-03-18 | 2022-06-21 | 南京邮电大学 | 一种异构网络中基于计算卸载的联邦学习调度方法 |
CN114650228B (zh) * | 2022-03-18 | 2023-07-25 | 南京邮电大学 | 一种异构网络中基于计算卸载的联邦学习调度方法 |
CN114726706A (zh) * | 2022-04-15 | 2022-07-08 | 河海大学 | 一种面向多层无线网络联邦学习的模型同步方法及系统 |
CN114726706B (zh) * | 2022-04-15 | 2023-03-14 | 河海大学 | 一种面向多层无线网络联邦学习的模型同步方法及系统 |
CN115278708A (zh) * | 2022-07-25 | 2022-11-01 | 中国电子科技集团公司第五十四研究所 | 一种面向联邦学习的移动边缘计算资源管理方法 |
CN115278708B (zh) * | 2022-07-25 | 2024-05-14 | 中国电子科技集团公司第五十四研究所 | 一种面向联邦学习的移动边缘计算资源管理方法 |
CN115329987A (zh) * | 2022-08-04 | 2022-11-11 | 苏州大学 | 一种联邦学习系统中用户选择的方法 |
WO2024103291A1 (zh) * | 2022-11-16 | 2024-05-23 | 华为技术有限公司 | 一种联邦学习方法及通信装置 |
Also Published As
Publication number | Publication date |
---|---|
CN113194489B (zh) | 2022-09-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113194489B (zh) | 无线边缘网络中有效联邦学习的最小-最大代价优化方法 | |
Ning et al. | Partial computation offloading and adaptive task scheduling for 5G-enabled vehicular networks | |
You et al. | Efficient task offloading using particle swarm optimization algorithm in edge computing for industrial internet of things | |
Wang et al. | MAP based modeling method and performance study of a task offloading scheme with time-correlated traffic and VM repair in MEC systems | |
WO2020168761A1 (zh) | 训练模型的方法和装置 | |
CN112105062B (zh) | 时敏条件下移动边缘计算网络能耗最小化策略方法 | |
CN108416465B (zh) | 一种移动云环境下的工作流优化方法 | |
CN113268341B (zh) | 电网边缘计算任务的分配方法、装置、设备和存储介质 | |
WO2011106950A1 (zh) | 复杂网络配置方法和系统及服务器资源配置管理模块 | |
CN112231085B (zh) | 一种协同环境下基于时间感知的移动终端任务迁移方法 | |
CN111556089A (zh) | 基于使能区块链移动边缘计算系统的资源联合优化方法 | |
Dong et al. | Joint optimization with DNN partitioning and resource allocation in mobile edge computing | |
CN112668877B (zh) | 结合联邦学习和强化学习的事物资源信息分配方法及系统 | |
Foukas et al. | Iris: Deep reinforcement learning driven shared spectrum access architecture for indoor neutral-host small cells | |
Chiang et al. | Deep Q-learning-based dynamic network slicing and task offloading in edge network | |
Hu et al. | Dynamic task offloading in MEC-enabled IoT networks: A hybrid DDPG-D3QN approach | |
CN113315806B (zh) | 一种面向云网融合的多接入边缘计算架构 | |
Cheng et al. | Resilient edge service placement under demand and node failure uncertainties | |
Bui et al. | Energy efficiency in cloud computing based on mixture power spectral density prediction | |
Ren et al. | Smig-rl: An evolutionary migration framework for cloud services based on deep reinforcement learning | |
CN115499876A (zh) | Msde场景下基于dqn算法的计算卸载策略 | |
Cheng et al. | Efficient deep learning approach for computational offloading in mobile edge computing networks | |
CN114785692A (zh) | 一种虚拟电厂聚合调控通信网络流量均衡方法及装置 | |
Fan et al. | Data placement in distributed data centers for improved SLA and network cost | |
CN113709817A (zh) | 多基站多服务器场景下的任务卸载和资源调度方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right |
Effective date of registration: 20221206 Address after: 710000 Room 010, F2002, 20th Floor, Building 4-A, Xixian Financial Port, Fengdong New City Energy Jinmao District, Xixian New District, Xi'an, Shaanxi Patentee after: Shaanxi Liancheng Zhiyuan Technology Co.,Ltd. Address before: 710071 Xi'an Electronic and Science University, 2 Taibai South Road, Shaanxi, Xi'an Patentee before: XIDIAN University |
|
TR01 | Transfer of patent right |