CN116939681A - 一种基于智能超表面和空中计算的联邦学习系统 - Google Patents
一种基于智能超表面和空中计算的联邦学习系统 Download PDFInfo
- Publication number
- CN116939681A CN116939681A CN202310793659.6A CN202310793659A CN116939681A CN 116939681 A CN116939681 A CN 116939681A CN 202310793659 A CN202310793659 A CN 202310793659A CN 116939681 A CN116939681 A CN 116939681A
- Authority
- CN
- China
- Prior art keywords
- representing
- user
- intelligent
- model
- federal learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004364 calculation method Methods 0.000 title claims abstract description 30
- 238000005457 optimization Methods 0.000 claims abstract description 55
- 238000000034 method Methods 0.000 claims abstract description 31
- 238000004891 communication Methods 0.000 claims abstract description 28
- 230000005540 biological transmission Effects 0.000 claims abstract description 21
- 238000012549 training Methods 0.000 claims description 18
- 230000006870 function Effects 0.000 claims description 15
- 230000008569 process Effects 0.000 claims description 14
- 230000002776 aggregation Effects 0.000 claims description 10
- 238000004220 aggregation Methods 0.000 claims description 10
- 230000009466 transformation Effects 0.000 claims description 4
- 238000013507 mapping Methods 0.000 claims description 3
- 239000011159 matrix material Substances 0.000 claims description 3
- 238000006116 polymerization reaction Methods 0.000 claims description 3
- 230000017105 transposition Effects 0.000 claims description 3
- 238000010606 normalization Methods 0.000 claims description 2
- 238000012546 transfer Methods 0.000 claims description 2
- 238000011144 upstream manufacturing Methods 0.000 claims description 2
- 238000004422 calculation algorithm Methods 0.000 description 12
- 210000004027 cell Anatomy 0.000 description 7
- 230000008901 benefit Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 230000007786 learning performance Effects 0.000 description 4
- 238000013461 design Methods 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 238000012417 linear regression Methods 0.000 description 3
- 238000001228 spectrum Methods 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 210000002569 neuron Anatomy 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W24/00—Supervisory, monitoring or testing arrangements
- H04W24/06—Testing, supervising or monitoring using simulated traffic
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/098—Distributed learning, e.g. federated learning
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W24/00—Supervisory, monitoring or testing arrangements
- H04W24/02—Arrangements for optimising operational condition
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W52/00—Power management, e.g. TPC [Transmission Power Control], power saving or power classes
- H04W52/02—Power saving arrangements
- H04W52/0203—Power saving arrangements in the radio access network or backbone network of wireless communication networks
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
本发明公开了一种基于智能超表面和空中计算的联邦学习系统,涉及基于无线通信的联邦学习领域,包括以下步骤:S1、建立一个智能超表面辅助无线携能通信和空中计算的联邦学习系统模型,建立智能超表面辅助无线携能通信的下行模型和智能超表面辅助空中计算的上行传输模型;S2、构建一个通信‑学习联合优化问题最小化接收端MSE并保证下行全局参数的信噪比约束;S3、引入辅助变量将原问题进一步分解为两个子问题;S4、利用低复杂度的交替优化和连续凸逼近方法对两个子问题分别求解以得到联合优化问题的解。本发明提出的一种基于智能超表面和空中计算的联邦学习系统可以显著提升学习收敛性和准确性。
Description
技术领域
本发明涉及无线通信技术领域,具体涉及一种基于智能超表面和空中计算的联邦学习系统。
背景技术
联邦学习(FL)是近年来提出的一种新的分布式学习算法,可以避免在训练过程中由于大量数据传输到接入点(AP)而造成的数据泄露等风险,进一步保证数据的隐私性。在FL框架中,每个边缘设备或者用户仅需要在本地进行训练,然后将得到的训练参数或者梯度上传到AP进行模型聚合或梯度聚合,之后AP将更新后的全局参数广播给所有设备进行下一次的训练。通过以上训练过程即可得到最终的全局模型参数,显著减轻了通信负担,降低了用户隐私数据泄露的风险。
虽然FL具有以上的优势,但是有限的频谱资源进一步限制了参与训练的用户数量,从而延长训练时间,影响训练模型的准确性。由于无线信道的不确定性,训练过程中的无线传输无法保证传输参数的准确性,从而影响最终的训练结果。此外,有限的电池容量也无法保证用户的长期训练。因此,如何在有限的频谱资源条件下提高参与训练的用户数量,为用户提供可持续的能源供应并且降低无线传输的干扰是联邦学习系统中亟待解决的问题。现有文献(H.Liu,X.Yuan,and Y.-J.A.Zhang,“Reconfigurable intelligent surfaceenabled federated learning:Aunified communication-learning design approach,”IEEE Trans.Wireless Commun.,vol.20,no.11,pp.7595–7609,2021.)仅考虑将智能超表面应用在联邦学习模型中的上行传输过程中,用来提高上传的准确性,忽视了智能超表面在下行中的作用,并且没有考虑到全局模型在下行传输的约束条件,没有考虑设备的有限能量,无法保证用户的长时间可持续运行。
发明内容
本发明提供一种基于智能超表面和空中计算的联邦学习系统,包括一种新颖的接收端设计和智能超表面参数设计的交替优化方法,旨在解决上述所提到现有联邦学习系统中的缺陷。本发明着重挖掘智能超表面在上下行传输的优势,并且采用无线传能技术为设备提供能量,保持长时间可靠的运行,具有显著的优势。
本发明至少通过如下技术方案之一实现。
一种基于智能超表面和空中计算的联邦学习系统,包括以下步骤:
S1、建立智能超表面辅助无线携能通信和空中计算的联邦学习系统模型,建立智能超表面辅助无线携能通信的下行模型和智能超表面辅助空中计算的上行传输模型;
S2、构建通信-学习联合优化问题最小化接收端MSE并保证下行全局参数的信噪比约束;
S3、引入辅助变量将原问题进一步分解为两个子问题;
S4、利用低复杂度的交替优化和连续凸逼近方法对两个子问题分别求解以得到联合优化问题的解。
进一步地,联邦学习系统模型包括一个M根发射和接收天线的接入点(AP)、一个具有N个单元的智能超表面和U个单天线用户,户用集合每个用户/>具有K个样本数据用来训练学习模型,相应的局部损失函数定义为:
其中表示用户u的数据集,/>表示用户u的D维本地模型参数,表示用户u在数据集/>和模型参数wu条件下的损失函数,di表示数据集的第i个数据、f(wu;di)表示在数据di和模型参数wu条件下的损失函数、/>表示维度为D的实数域。
进一步地,定义整个联邦学习系统模型的全局损失函数为:
其中w表示全局模型参数;联邦学习是通过AP和用户之间的合作获得统一的模型参数,表示为最小化全局损失得到最优的全局参数:
w*=argminwF(w)
其中w*表示最优的全局模型参数;联邦学习在每次迭代t的过程包括:AP向用户广播全局参数w,每个用户收到参数后根据自身的数据集计算本地梯度:
其中表示损失函数在第t次迭代过程中的梯度,然后每个用户将本地梯度上传到AP进行聚合,AP根据收到的参数更新全局变量/>其中λ表示学习率;通过AP和用户之间的不断迭代直到达到收敛标准即可得到最终的全局参数w*3。
进一步地,下行模型采用智能超表面辅助的无线携能通信同时传输全局信息w和无线能量给所有用户;定义和Gdl为接入点AP到用户u、智能超表面到用户u和接入点AP到智能超表面的信道参数,其中H表示共轭转置操作;定义智能超表面的下行参数向量为/>其中/>表示第N个单元的幅度参数,表示第N个单元的相位参数,其中j表示虚数单位,H表示共轭转置运算;每个用户u采用混合信息和功率传输接收器从接收到的射频信号中获取功率。
进一步地,下行模型能量收集的具体表达式为:
其中ηu表示能量接收效率,ρu表示分配给信息解码的功率因子,表示AP到智能超表面到用户u之间的级联信道,diag(·)表示对角矩阵转化操作,v表示AP的发射向量,相应的用户u接收到全局参数的信噪比(SNR)为其中ρ2表示噪声功率。
进一步地,上行传输模型采用智能超表面辅助的空中计算方案同时传输所有用户的梯度参数gu给AP用于聚合信息更新全局参数;定义hu,a、hu,r和Gul为用户u到AP、用户u到智能超表面和智能超表面到AP的信道参数;定义智能超表面的上行参数向量为其中/>表示第N个单元的幅度参数,表示第N个单元的相位参数;每个用户首先将自身的梯度信息进行处理,然后直接发射给AP用户聚合。
进一步地,上行传输模型具体如下:首先每个用户u计算均值和方差/>
其中D表示模型参数的数据维度,gu[d]表示梯度向量gu的第d个值;每个用户的梯度映射为零均值标准方差的符号μu表示用户u的梯度向量的值的标准差,通过发射功率因子pu映射为发射信号xu=pusu,并且满足约束条件通过线性接收向量f,AP接收到的第d个聚合的信号为:
其中fH表示线性接收向量的共轭转置、hu,ul表示用户u到AP的信道参数、xu[d]表示用户的发送信号在第d个时隙的值、nd表示在第d个时隙的信道噪声,β表示归一化参数因子,f满足单位模约束||f||2=1;
采用均方误差(MSE)来评估接收值与真实值之间的误差,即为了尽可能降低降低聚合误差,令根据功率约束|pu|2≤Pu,得到/>因此得到最小的/>
进一步地,在步骤S2中,构建通信-学习联合优化问题最小化接收端MSE并保证下行全局参数的信噪比约束,具体优化问题如下:
C2:||v||2≤Pmax
C4:||f||2=1
其中σ2表示噪声功率,v表示AP的发射向量,f表示线性接收向量,θdl表示智能超表面的下行参数向量,θul表示智能超表面的上行参数向量,表示户用集合,Pu表示功率,γu表示全局参数的信噪比,v表示AP的发射向量,N表示有N个单元的智能超表面,ρu表示分配给用户u的信息解码的功率因子,fH表示线性接收向量的共轭转置、hu,ul表示用户u到AP的信道参数,C1表示下行全局参数SNR约束,Γ0表示准确解码所需的最小SNR阈值,C2表示AP发射向量功率约束,Pmax表示最大发射功率,C3和C5表示智能超表面反射系数约束,每个反射系数的模值不能超过1,C4表示接收向量约束,C6表示功率分配因子约束。
进一步地,步骤S3中引入辅助变量将原问题进一步分解为两个子问题,具体过程如下:首先引入非负变量τ将通信-学习联合优化问题等效化简为以下优化问题:
C1-C6
其中约束C7表示转化后的优化问题与原问题等价;将等效后的问题分解为下行无线携能通信优化子问题和上行空中计算优化子问题;下行无线携能通信优化子问题表示为:
s.t.C1-C3,C6,C7
上行空中计算优化子问题表示为:
进一步地,在步骤S4中,利用低复杂度的交替优化和连续凸逼近方法对两个子问题分别求解以得到联合优化问题的解,具体包括以下过程:首先以最大化最小用户接收功率为目标优化下行无线携能通信子问题,通过交替优化v、ρ和θdl三个变量即可得到下行优化问题的解,并且在优化智能超表面反射系数时采用连续凸逼近方法进一步降低复杂度;根据下行问题的解得到每个用户的最大可用发射功率Pu,然后进一步交替优化f和θul两个变量得到上行空中计算优化子问题的解;最后将上述优化结果应用到联邦学习系统中即可得到最终的收敛模型。
本发明相对于现有技术具有如下的优点及效果:
1)本发明利用空中计算技术可以实现在现有频谱资源条件下,显著提高参与训练的用户数。
2)本发明利用无线携能通信达到同时传输全局参数和无线功率的目的,进一步保证用户长期训练所需要的能量,实现显著的节能效果。
3)本发明利用智能超表面改善无线信道,可以同时提高下行无线携能通信和上行空中计算传输的性能。
附图说明
图1是本发明实施例中基于智能超表面辅助无线携能通信和空中计算的系统模型图;
图2是本发明实施例中所提方案在不同用户数量条件下的收敛性分析图;
图3是本发明实施例中不同算法在线性回归模型下训练损失与迭代次数之间的关系图;
图4是本发明实施例中不同算法在MNIST数据库下迭代次数与识别准确率之间的关系图;
图5是本发明实施例中不同算法在MNIST数据库下解码全局参数所需SNR要求下与识别准确率之间的关系图。
具体实施方式
以下通过特定的具体实例说明本发明的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本发明的精神下进行各种修饰或改变。需要说明的是,以下实施例中所提供的图示仅以示意方式说明本发明的基本构想,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
附图仅用于示例性说明,表示的仅是示意图,而非实物图,不能理解为对本发明的限制;为了更好地说明本发明的实施例,附图某些部件会有省略、放大或缩小,并不代表实际产品的尺寸;对本领域技术人员来说,附图中某些公知结构及其说明可能省略是可以理解的。
如图1所示,本实施例的应用场景包括一个接入点(AP)、一个智能超表面和U个用户。本实施例中,AP可以通过控制器控制智能超表面的反射系数达到控制无线信道的模板。此外,AP可以获得准确的信道状态信息,通过这些信息进行优化控制智能超表面反射系数和自身的发射和接收向量结果。
如图1所示,一种基于智能超表面和空中计算的联邦学习系统,应用于基于无线通信的联邦学习系统,该方法包括以下步骤:
S1、建立一个智能超表面辅助无线携能通信和空中计算的联邦学习系统模型,建立智能超表面辅助无线携能通信的下行模型和智能超表面辅助空中计算的上行传输模型;
S2、构建一个通信-学习联合优化问题最小化接收端MSE并保证下行全局参数的信噪比约束;
S3、引入辅助变量将原问题进一步分解为两个子问题;
S4、利用低复杂度的交替优化和连续凸逼近方法对两个子问题分别求解以得到联合优化问题的解。
进一步地,所述S1具体包括:
B1、建立一个智能超表面辅助无线携能通信和空中计算的联邦学习系统模型;
建立的联邦系统模型包括一个M根发射和接收天线的接入点(AP)、一个具有N个单元的智能超表面和U个单天线用户,户用集合每个用户/>具有K个样本数据(这些数据可以是用户通过自身传感器收集的图片、文字、声音等信息)用来训练学习模型,相应的局部损失函数定义为/>其中/>表示用户u的数据集,/>表示用户u的D维本地模型参数;可以进一步定义整个联邦学习的全局损失函数为/>其中w表示全局模型参数,/>表示用户u在数据集/>和模型参数wu(一般表示整个神经网络里面每个神经元的权重和偏置参数)条件下的损失函数、di表示第i个数据、f(wu;di)表示在数据di和模型参数wu条件下的损失函数、/>表示维度为D的实数域;联邦学习的主要目的是通过AP和用户之间的合作获得统一的模型参数,可以表示为最小化全局损失得到最优的全局参数w*=arg minwF(w),其中w*表示最优的全局模型参数;联邦学习在每次迭代t的主要过程包括:AP向用户广播全局参数w,每个用户收到参数后根据自身的数据集/>计算本地梯度/>其中/>表示损失函数在第t次迭代过程中的梯度,然后每个用户将本地梯度上传到AP进行聚合,AP根据收到的参数更新全局变量/>其中λ表示学习率;通过AP和用户之间的不断迭代直到达到收敛标准即可得到最终的全局参数w*;
B2、下行采用智能超表面辅助的无线携能通信技术同时传输全局信息w和无线能量给所有用户;定义和Gdl为AP到用户u,智能超表面到用户u和AP到智能超表面的信道参数,其中H表示共轭转置操作;定义智能超表面的下行参数向量为其中/>表示第N个单元的幅度参数,j表示虚数单位,H表示共轭转置运算,/>表示第N个单元的相位参数;每个用户u采用混合信息和功率传输接收器从接收到的射频信号中获取功率,具体表达式为:其中ηu表示能量接收效率,ρu表示分配给信息解码的功率因子,表示AP到智能超表面到用户u之间的级联信道,diag(·)表示对角矩阵转化操作,v表示AP的发射向量;相应的用户u接收到全局参数的信噪比(SNR)为其中σ2表示噪声功率;
B3、上行采用智能超表面辅助的空中计算技术同时传输所有用户的梯度参数gu给AP用于聚合信息更新全局参数;定义hu,a,hu,r和Gul为用户u到AP,用户u到智能超表面和智能超表面到AP的信道参数;定义智能超表面的上行参数向量为其中/>表示第n个单元的幅度参数,表示第n个单元的相位参数;每个用户首先将自身的梯度信息进行处理,然后直接发射给AP用户聚合,具体过程如下:首先每个用户u计算均值/>和方差其中gu[d]表示梯度向量gu的第d个值,D表示模型参数的数据维度;然后每个用户的梯度可以映射为零均值标准方差的符号/>μu表示用户u的梯度向量的值的标准差),进一步通过发射功率因子pu映射为发射信号xu=pusu,并且满足约束条件/>通过线性接收向量f,AP接收到的第d个聚合的信号为/>其中β表示归一化参数因子,f满足单位模约束||f||2=1,其中fH表示线性接收向量的共轭转置、hu,ul表示用户u到AP的信道参数、xu[d]表示用户的发送信号在第d个时隙的值、nd表示在第d个时隙的信道噪声;采用均方误差(MSE)来评估接收值与真实值之间的误差,即/>为了尽可能降低降低聚合误差,可以令/>根据功率约束|pu|2≤Pu,可以进一步得到/>因此可以得到最小的/>
进一步地,在步骤S2中,构建一个通信-学习联合优化问题最小化接收端MSE并保证下行全局参数的信噪比约束,具体优化问题如下所示
C2:||v||2≤Pmax
C4:||f||2=1
其中C1表示下行全局参数SNR约束,Γ0表示准确解码所需的最小SNR阈值,C2表示AP发射向量功率约束,Pmax表示最大发射功率,C3和C5表示智能超表面反射系数约束,每个反射系数的模值不能超过1,C4表示接收向量约束,C6表示功率分配因子约束。
进一步地,在步骤S3中引入辅助变量将原问题进一步分解为两个子问题,具体过程如下:首先引入非负变量τ将上述问题等效化简为以下优化问题
C1-C6
其中约束C7表示转化后的优化问题与原问题等价。
为了进一步求解上述问题,将其分解为下行无线携能通信优化子问题和上行空中计算优化子问题;具体来说,下行无线携能通信优化子问题表示为:
s.t.C1-C3,C6,C7
上行空中计算优化子问题可以表示为:
s.t.C4,C5,C7
在步骤S4中,利用低复杂度的交替优化和连续凸逼近方法对两个子问题分别求解以得到联合优化问题的解,具体包括以下过程:首先以最大化最小用户接收功率为目标优化下行无线携能通信子问题,通过交替优化v、ρ和θdl三个变量即可得到下行优化问题的解,并且在优化智能超表面反射系数时采用连续凸逼近方法进一步降低复杂度;根据下行问题的解可以得到每个用户的最大可用发射功率Pu,然后进一步交替优化f和θul两个变量得到上行空中计算优化子问题的解;最后将上述优化结果应用到联邦学习系统中即可得到最终的收敛模型。
实施例1
实施例1主要分析所提系统的收敛性。在该实施例条件下,仿真参数设置如下:用户数为10到20,智能超表面有40个反射单元,AP具有10根天线,最大发射功率为40dBm。图2给出了所提系统解决下行优化问题在不同用户数量条件下的收敛性。图2中的上图表示用户获取功率与收敛次数的关系,从这个图可以看出所提系统在4次迭代以内既可以收敛,并且随着迭代次数的提升收集的功率不断增加,表明了所提系统的收敛性是非常快的,便于实际系统的实施。
实施例2
实施例2主要分析在线性回归模型下的性能。仿真参数设置如下:用户数为10,智能超表面有40个反射单元,AP具有10根天线,最大发射功率为40dBm,学习率为0.3。这里使用的数据从函数产生y=-2x+1+0.4n(其中x为[0,1]之间的随机数,y表示输出值,n表示噪声服从均值为0方差为1的高斯分布)。图3表示所提方案在线性回归模型下的训练损失,从图中可以看出随着训练次数的增加,损失会越来越低,并且所提方案接近最优的学习性能。其中无干扰信道表示最优的学习性能;基准算法1表示所有智能超表面系数随机生成,不采用所提系统进行优化;基准算法2表示不部署智能超表面进行信道改进策略。
实施例3
实施例3主要分析在图像识别模型下的性能。系统参数设置如下:用户数为10,智能超表面有40个反射单元,AP具有10根天线,最大发射功率为40dBm。每个用户从MNIST中随机选择200-300个数据。考虑一个全连接网络,具有一个784单元输入层、两个隐藏层神经元数为64和16,两个ReLu激活层和一个10单元softmax输出层。学习率设置为0.0012。
图4和图5给出了不同联邦学习系统在MNIST数据库下的识别准确性的性能。在图4中,给出了不同算法在MNIST数据库下迭代次数与识别准确率之间的关系图。如图4所示,可以发现本发明所提出的系统达到了接近无错误界限的性能,并且高于其他基准算法。其中无干扰信道表示最优的学习性能;基准算法1表示所有智能超表面系数随机生成,不采用所提系统进行优化;基准算法2表示不部署智能超表面进行信道改进策略。
在图5中,给出了不同算法在MNIST数据库下解码全局参数所需SNR要求下与识别准确率之间的关系图。从图5可以发现,所提系统极大的优于其他基准算法,并且随着SNR的提升,学习性能下降缓慢,具有很好的抗干扰性能。
上述实施例为本发明较佳的实施方式,但本发明的实施方式并不受上述实施例的限制,其他的任何未背离本发明的精神实质与原理下所做的改变、修饰、替代、组合、简化,均应为等效的置换方式,都包含在本发明的保护范围之内。
Claims (10)
1.一种基于智能超表面和空中计算的联邦学习系统,其特征在于,包括以下步骤:
S1、建立智能超表面辅助无线携能通信和空中计算的联邦学习系统模型,建立智能超表面辅助无线携能通信的下行模型和智能超表面辅助空中计算的上行传输模型;
S2、构建通信-学习联合优化问题最小化接收端MSE并保证下行全局参数的信噪比约束;
S3、引入辅助变量将原问题进一步分解为两个子问题;
S4、利用低复杂度的交替优化和连续凸逼近方法对两个子问题分别求解以得到联合优化问题的解。
2.根据权利要求1所述的一种基于智能超表面和空中计算的联邦学习系统,其特征在于,联邦学习系统模型包括一个M根发射和接收天线的接入点(AP)、一个具有N个单元的智能超表面和U个单天线用户,户用集合每个用户/>具有K个样本数据用来训练学习模型,相应的局部损失函数定义为:
其中表示用户u的数据集,/>表示用户u的D维本地模型参数,/>表示用户u在数据集/>和模型参数wu条件下的损失函数,di表示数据集的第i个数据、f(wu;di)表示在数据di和模型参数wu条件下的损失函数、/>表示维度为D的实数域。
3.根据权利要求1所述的一种基于智能超表面和空中计算的联邦学习系统,其特征在于,定义整个联邦学习系统模型的全局损失函数为:
其中w表示全局模型参数;联邦学习是通过AP和用户之间的合作获得统一的模型参数,表示为最小化全局损失得到最优的全局参数:
w*=argminwF(w)
其中w*表示最优的全局模型参数;联邦学习在每次迭代t的过程包括:AP向用户广播全局参数w,每个用户收到参数后根据自身的数据集计算本地梯度:
其中表示损失函数在第t次迭代过程中的梯度,然后每个用户将本地梯度上传到AP进行聚合,AP根据收到的参数更新全局变量/>其中λ表示学习率;通过AP和用户之间的不断迭代直到达到收敛标准即可得到最终的全局参数w*3。
4.根据权利要求1所述的一种基于智能超表面和空中计算的联邦学习系统,其特征在于,下行模型采用智能超表面辅助的无线携能通信同时传输全局信息w和无线能量给所有用户;定义和Gdl为接入点AP到用户u、智能超表面到用户u和接入点AP到智能超表面的信道参数,其中H表示共轭转置操作;定义智能超表面的下行参数向量为其中/>表示第N个单元的幅度参数,表示第N个单元的相位参数,其中j表示虚数单位,H表示共轭转置运算;每个用户u采用混合信息和功率传输接收器从接收到的射频信号中获取功率。
5.根据权利要求4所述的一种基于智能超表面和空中计算的联邦学习系统,其特征在于,下行模型能量收集的具体表达式为:
其中ηu表示能量接收效率,ρu表示分配给信息解码的功率因子,表示AP到智能超表面到用户u之间的级联信道,diag(·)表示对角矩阵转化操作,v表示AP的发射向量,相应的用户u接收到全局参数的信噪比(SNR)为其中σ2表示噪声功率。
6.根据权利要求1所述的一种基于智能超表面和空中计算的联邦学习系统,其特征在于,上行传输模型采用智能超表面辅助的空中计算方案同时传输所有用户的梯度参数gu给AP用于聚合信息更新全局参数;定义hu,a、hu,r和Gul为用户u到AP、用户u到智能超表面和智能超表面到AP的信道参数;定义智能超表面的上行参数向量为其中/>表示第N个单元的幅度参数,表示第N个单元的相位参数;每个用户首先将自身的梯度信息进行处理,然后直接发射给AP用户聚合。
7.根据权利要求1所述的一种基于智能超表面和空中计算的联邦学习系统,其特征在于,上行传输模型具体如下:首先每个用户u计算均值和方差/>
其中D表示模型参数的数据维度,gu[d]表示梯度向量gu的第d个值;每个用户的梯度映射为零均值标准方差的符号μu表示用户u的梯度向量的值的标准差,通过发射功率因子pu映射为发射信号xu=pusu,并且满足约束条件通过线性接收向量f,AP接收到的第d个聚合的信号为:
其中fH表示线性接收向量的共轭转置、hu,ul表示用户u到AP的信道参数、xu[d]表示用户的发送信号在第d个时隙的值、nd表示在第d个时隙的信道噪声,β表示归一化参数因子,f满足单位模约束||f||2=1;
采用均方误差(MSE)来评估接收值与真实值之间的误差,即为了尽可能降低降低聚合误差,令根据功率约束|pu|2≤Pu,得到/>因此得到最小的/>
8.根据权利要求1所述的一种基于智能超表面和空中计算的联邦学习系统,其特征在于,在步骤S2中,构建通信-学习联合优化问题最小化接收端MSE并保证下行全局参数的信噪比约束,具体优化问题如下:
C2:||v||2≤Pmax
C4:||f||2=1
其中σ2表示噪声功率,v表示AP的发射向量,f表示线性接收向量,θdl表示智能超表面的下行参数向量,θul表示智能超表面的上行参数向量,表示户用集合,Pu表示功率,γu表示全局参数的信噪比,v表示AP的发射向量,N表示有N个单元的智能超表面,ρu表示分配给用户u的信息解码的功率因子,fH表示线性接收向量的共轭转置、hu,ul表示用户u到AP的信道参数,C1表示下行全局参数SNR约束,Γ0表示准确解码所需的最小SNR阈值,C2表示AP发射向量功率约束,Pmax表示最大发射功率,C3和C5表示智能超表面反射系数约束,每个反射系数的模值不能超过1,C4表示接收向量约束,C6表示功率分配因子约束。
9.根据权利要求8所述的一种基于智能超表面和空中计算的联邦学习系统,其特征在于,步骤S3中引入辅助变量将原问题进一步分解为两个子问题,具体过程如下:首先引入非负变量τ将通信-学习联合优化问题等效化简为以下优化问题:
C1-C6
其中约束C7表示转化后的优化问题与原问题等价;将等效后的问题分解为下行无线携能通信优化子问题和上行空中计算优化子问题;下行无线携能通信优化子问题表示为:
s.t.C1-C3,C6,C7
上行空中计算优化子问题表示为:
10.根据权利要求9所述的一种基于智能超表面和空中计算的联邦学习系统,其特征在于,在步骤S4中,利用低复杂度的交替优化和连续凸逼近方法对两个子问题分别求解以得到联合优化问题的解,具体包括以下过程:首先以最大化最小用户接收功率为目标优化下行无线携能通信子问题,通过交替优化v、ρ和θdl三个变量即可得到下行优化问题的解,并且在优化智能超表面反射系数时采用连续凸逼近方法进一步降低复杂度;根据下行问题的解得到每个用户的最大可用发射功率Pu,然后进一步交替优化f和θul两个变量得到上行空中计算优化子问题的解;最后将上述优化结果应用到联邦学习系统中即可得到最终的收敛模型。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310793659.6A CN116939681A (zh) | 2023-06-30 | 2023-06-30 | 一种基于智能超表面和空中计算的联邦学习系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310793659.6A CN116939681A (zh) | 2023-06-30 | 2023-06-30 | 一种基于智能超表面和空中计算的联邦学习系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116939681A true CN116939681A (zh) | 2023-10-24 |
Family
ID=88374765
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310793659.6A Pending CN116939681A (zh) | 2023-06-30 | 2023-06-30 | 一种基于智能超表面和空中计算的联邦学习系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116939681A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117354837A (zh) * | 2023-11-10 | 2024-01-05 | 西南科技大学 | 空中计算系统的参数联合优化方法、均方误差降低方法 |
-
2023
- 2023-06-30 CN CN202310793659.6A patent/CN116939681A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117354837A (zh) * | 2023-11-10 | 2024-01-05 | 西南科技大学 | 空中计算系统的参数联合优化方法、均方误差降低方法 |
CN117354837B (zh) * | 2023-11-10 | 2024-04-05 | 西南科技大学 | 空中计算系统的参数联合优化方法、均方误差降低方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Sery et al. | On analog gradient descent learning over multiple access fading channels | |
WO2020253690A1 (zh) | 一种基于近似消息传递算法的深度学习波束域信道估计方法 | |
Gao et al. | Deep neural network based resource allocation for V2X communications | |
CN109450834A (zh) | 基于多特征关联和贝叶斯网络的通信信号分类识别方法 | |
CN114580498A (zh) | 一种无线通信场景下高通信效率的联邦学习方法 | |
CN110113179A (zh) | 一种基于深度学习的携能noma系统的资源分配方法 | |
CN108123772A (zh) | 一种基于梯度投影的无人机时频资源分配方法 | |
CN116939681A (zh) | 一种基于智能超表面和空中计算的联邦学习系统 | |
CN114169243B (zh) | Mimo干扰信道下空中计算多任务联邦学习方法 | |
CN113625751A (zh) | 面向空地一体联邦学习的无人机位置与资源联合优化方法 | |
CN114374981B (zh) | 一种通信无人机的节能按需预部署方法 | |
CN113242066B (zh) | 一种多小区大规模mimo通信智能功率分配方法 | |
CN114885340B (zh) | 一种基于深度迁移学习的超密集无线网络功率分配方法 | |
Zhong et al. | UAV-assisted hierarchical aggregation for over-the-air federated learning | |
CN113037668B (zh) | 一种毫米波点对点通信信道均衡方法 | |
US20220123966A1 (en) | Data-driven probabilistic modeling of wireless channels using conditional variational auto-encoders | |
CN117639903B (zh) | 一种基于noma辅助的多用户卫星通信方法及系统 | |
Wen et al. | Joint scheduling and resource allocation for federated learning in SWIPT-enabled micro UAV swarm networks | |
CN114757224A (zh) | 一种基于持续学习和联合特征提取的特定辐射源识别方法 | |
Gez et al. | Subgradient descent learning over fading multiple access channels with over-the-air computation | |
Zhang et al. | Completion time minimization for data collection in a UAV-enabled IoT network: A deep reinforcement learning approach | |
CN114143150A (zh) | 一种用户公平性通信传输方法 | |
Yadav et al. | Application of Machine Learning Framework for Next‐Generation Wireless Networks: Challenges and Case Studies | |
CN117560104A (zh) | 一种混合交通中可解释性机器学习辅助的信道模型的构建方法 | |
Guo et al. | SemiAMR: Semi-Supervised Automatic Modulation Recognition With Corrected Pseudo Label and Consistency Regularization |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |