CN114125861A

CN114125861A - 一种无线联邦学习方法及装置

Info

Publication number: CN114125861A
Application number: CN202111422214.4A
Authority: CN
Inventors: 田辉; 倪万里; 刘旭锋
Original assignee: Beijing University of Posts and Telecommunications
Current assignee: Beijing University of Posts and Telecommunications
Priority date: 2021-11-26
Filing date: 2021-11-26
Publication date: 2022-03-01

Abstract

本发明公开了一种无线联邦学习方法及装置，方法包括步骤：基于空中计算的分布式学习用户和基于非正交多址接入的集中式学习用户通过双功能智能超表面辅助的并发传输，共享上行频谱资源，将本地数据和模型参数同时发送到基站进行混合学习；基站首先对基于非正交多址接入的集中式用户进行信号译码，从而获得每个集中式学习用户的本地数据，用以计算其模型参数；然后基站利用串行干扰消除及空中计算技术得到联邦学习用户的平均模型参数；基站结合前述两类模型参数，更新全局模型；之后基站将全局模型下发至所有联邦学习用户以进行下一轮学习，直至全局模型收敛或达到最大迭代次数。本发明可以显著降低通信开销和降低传输时延以及获得更好的学习性能。

Description

一种无线联邦学习方法及装置

技术领域

本发明涉及无线通信技术领域，尤其涉及一种无线联邦学习系统架构训练的方法、装置及电子设备。

背景技术

随着分布式学习技术的不断发展，联邦学习技术使得位置分散的设备能够在用户端处理原始数据的同时协同执行模型训练。当前，可以通过基于空中计算的联邦学习来降低通信开销和延迟的问题。

双功能智能超表面技术是一种新型的无线信号传播环境智能重构技术，智能超表面是由大量低成本无源反射元件组成的平面，每个元件能够独立地诱导入射信号的振幅和相位变化，从而协同实现精细的三维反射波束形成。双功能智能超表面可以同时支持反射和折射两种工作模式，通过同时调整全方向入射信号的相位与幅度主动改善基站与用户之间的信道条件，进而实现信息的并行传输。

由于联邦学习具有分散性，所有参与者都需要在本地设备上执行模型计算。但是在实践中，本地用户之间的计算能力是多种多样的，这使得计算能力不足但数据量大的设备难以协同训练共享模型。

因此，我们亟需一种针对用户异构性问题的技术，以解决用户计算能力不足导致以协同训练的问题。

发明内容

本发明针对上述问题，提出一种无线联邦学习方法及装置，以提高无线联邦学习系统在计算资源受限情境中的性能。

为了实现上述目的，本发明提供如下技术方案：

第一方面，本发明提供了一种无线联邦学习方法，包括以下步骤：

S201、基于空中计算的分布式学习用户和基于非正交多址接入的集中式学习用户通过双功能智能超表面辅助的并发传输，共享上行频谱资源，将本地数据和模型参数同时发送到基站进行混合学习；

S202、基站首先对基于非正交多址接入的集中式用户进行信号译码，从而获得每个集中式学习用户的本地数据，用以计算其模型参数；然后基站利用串行干扰消除及空中计算技术得到联邦学习用户的平均模型参数；

S203、基站结合前述两类模型参数，更新全局模型；之后基站将全局模型下发至所有联邦学习用户以进行下一轮学习，直至全局模型收敛或达到最大迭代次数。

进一步地，步骤S201的具体方法为：有计算能力的用户通过本地计算得到模型参数，利用空中计算上传到基站；没有计算能力的用户通过使用非正交多址接入技术将他们的本地数据集传输到基站，并由基站来代替其进行模型计算，从而参与到学习的过程中；借助双功能智能超表面，使得集中式学习的本地数据与联邦学习的模型参数得以并行上传，从而将两者集成到一个统一的框架中。

进一步地，步骤S201中，所有用户集合表示为U＝N∪K，其中，联邦学习用户集合表示为

集中式学习用户的集合表示为

根据双功能智能超表面的空间设置，将其自由空间分为折射区域与反射区域，对于分别位于这两个区域内的用户的信号传输到反射面时，双功能智能超表面分别采用折射和反射大的模式将信号传送到基站，具体形式为：

其中

为第u个用户到基站直射径信道响应，

为第u个用户到双功能智能超表面的信道响应，

为所述双功能智能超表面到基站的信道响应，定义

分别代表双功能智能反射面的反射向量(χ＝R)或者折射向量(χ＝T)，其中

Θ_u＝diag(q_χ)为双功能智能超表面的相移矩阵，s_n代表集中式学习用户上传的本地数据，s_k代表联邦学习用户发送的模型参数，p_n和p_k分别表示信号的发送功率，z₀～CN(0,σ²)为AWGN信道噪声。

进一步地，步骤S202的具体方法为：

联邦学习用户的平均梯度为：

集中式学习用户的平均梯度：

其中g_k和g_n分别表示联邦学习用户和集中式学习用户的梯度，有

表示本地的梯度，其中F_u(w；D_u)为每个用户的损失函数，D_u表示每个用户的数据集。

进一步地，步骤S202中，基站通过使用连续干扰消除解码，将来自强用户的单个信号一一解码，并且利用来自弱用户的残差信号进行函数计算，通过双功能智能超表面调整信道响应

使其满足：

基站通过连续干扰消除解码后，获得所有集中式学习用户的信号；之后通过空中计算技术得到的联邦学习用户的平均参数为：

进一步地，步骤S203的具体方法为：

联邦学习用户的训练在本地完成：

集中式学习用户的训练有基站代替完成：

全局的模型更新为：

表示每个本地的梯度，其中F_u(w；D_u)为每个用户的损失函数，D_u表示每个用户的数据集，g为最后求得的全局梯度；

在得到全局模型后，基站将模型下发至联邦学习用户，联邦学习用户再次利用本地数据得到模型参数，并上传至基站；基站利用集中式学习用户上传的本地数据进行训练，并接收的联邦学习用户的模型参数，进行下一轮更新，循环迭代这样的训练，直到收敛或者达到最大迭代次数限制。

第二方面，本发明提供了一种无线联邦学习系统架构装置，所述装置包括：

无线通信模块，用于完成基站每一轮训练前用户端到基站端的数据上行传输以及每轮训练完成后模型下发的下行传输，其中依靠双功能智能超表面完成上行传输过程中的并行传输；

数据存储模块，用于存储用户上传的数据，包括集中式学习用户的本地数据集以及联邦学习用户的平均模型参数；其中，联邦学习用户的平均模型参数会在每轮上行通信完成后更新；

数据处理模块，用于对基于非正交多址接入的集中式用户进行信号译码，从而获得每个集中式学习用户的本地数据，然后基站利用空中计算技术得到联邦学习用户的平均模型参数；其中，处理后获得的数据将由数据存储模块储存。

模型训练模块，用于完成联邦学习用户和基站端的模型迭代训练，更新全局模型。

第三方面，本发明提供了一种电子设备，包括处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信；

存储器，用于存放计算机程序；

处理器，用于执行存储器上所存放的程序时，实现上述第一方面提供的任一资源分配方法的步骤。

第四方面，本发明提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述第一方面提供的任一资源分配方法的步骤。

第五方面，本发明提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述第一方面提供的任一资源分配方法的步骤。

与现有技术相比，本发明的有益效果为：

本发明提出的无线联邦学习方法及装置，与现有的集中式学习方法相比，所提方法可以显著降低通信开销和降低传输时延；另外，与传统的联邦学习方法相比，所提方法可以获得更好的学习性能。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明中记载的一些实施例，对于本领域普通技术人员来讲，还可以根据这些附图获得其他的附图。

图1为一种无线联邦学习的场景示意图；

图2为本发明实施例提供的无线联邦学习系统架构范式的流图；

图3为本发明实施例提供的一种无线联邦学习系统运行方法的流程示意图；

图4为本发明实施例提供的一种无线联邦学习系统装置的结构示意图；

图5为本发明实施例提供的一种电子设备的结构示意图。

具体实施方式

为了更好地理解本技术方案，下面结合附图对本发明的方法做详细的说明。

当前，在现实的情境中，本地用户之间的计算能力是多种多样的，这使得计算能力不足但数据量大的设备难以协同训练共享模型。因此，当前亟需一种更加普适性的联邦学习范式，以解决用户的异构性所带来的的问题。

为了解决上述用户异构性问题，本发明实施例提供了一种无线联邦学习系统架构范式。其中，本发明实施例提供的一种无线联邦学习的系统架构可以适用于任意用户计算资源和信道资源受限的现有联邦学习系统中，并且，该系统中可以包括：一个预先布置的双功能智能超表面、至少一个用户、基站。

根据用户设备的算力不同，异构用户被划分为集中式学习用户和联邦学习用户。为了充分利用分布式数据，考虑到频谱的稀缺性，集中式学习用户和联邦学习用户都以非正交方式提供服务。将来自集中式学习用户的原始数据集(如图片，文字等)和来自联邦学习用户的机器学习所需的信息(如梯度)并发上行通信。利用双功能智能超表面主动修改上传信道条件，进行干扰管理与覆盖性增强。我们将这样的联邦学习系统成为半联邦学习系统。

本实施例中所提出的半联邦学习模型范式可以同时获取联邦学习用户的梯度和集中式学习用户的本地数据，并将两类数据在基站进行联合训练，从而通过增强的数据可访问性提高了全局模型的准确性。

例如，如图1所示，为一种半联邦学习的场景示意图。包括：所有用户集合，表示为U＝N∪K，其中，联邦学习用户集合表示为

集中式学习用户的集合表示为

一个双功能智能超表面(Simultaneously Transmitting andReflecting Reconfigurable Intelligent Surface,STAR-RIS)；以及一个基站(basestation，BS)。如图1，用户按照双功能智能超表面的布置分为折射与反射两个区域。

其中，各个用户位于某个指定半联邦学习系统内，将用户依据其设备的计算能力，划分为集中式学习用户和联邦学习用户。集中式学习用户直接将本地的数据上传至基站，需要说明的是，上传的数据为参与机器学习的数据，可以为图像，文字，音频等，对此本发明实施例不进行限制。联邦学习用户利用本地数据训练本地模型参数，并将本地模型参数上传到基站。需要说明的是，各个用户上传的本地模型参数可以为：本地模型的权重、本地模型的梯度等模型信息的数据，对此，本发明实施例不对各个用户上传本地模型参数的类型进行限定。

需要说明的是，各个用户都拥有各自的本地数据集，不同用户的数据集之间可以有重叠部分，也可以完全不同，对此，本发明实施例不对各个用户的本地数据的内容进行限定。

需要说明的是，各个用户的本地模型参数上传过程中包括两条路径：用户到基站的直射径、用户到智能超表面与智能超表面到基站所组成的折射径或者用户到智能超表面与智能超表面到基站所组成的反射径。

无论是集中式学习用户上传的本地数据还是空中计算用户上传的本地模型，在通过无线信号上传之前，都需要对于数据进行预处理，需要说明的是，用户对本地模型数据进行预处理的方式可以包括：编码、调制等方法，对此，本发明实施例不对用户的预处理的方法进行限定。

双功能智能超表面的组成单元可以同时完成折射和反射的传输，通过实时调节无线信号的幅度和相位实现信道条件的改善。需要说明的是，在本实施例中，双功能智能超表面的组成单元仅实时调节无线信号的相位，而不调节无线信号的幅度。

基站首先对基于非正交多址接入的集中式用户进行信号译码，从而获得每个集中式学习用户的本地数据，同时计算其模型参数，然后基站利用空中计算技术得到联邦学习用户的平均模型参数。

基站在获得这两类用户的数据后需要进行后处理。需要说明的是，基站对于用户数据的后处理的方式可以包括：解调、译码等方法，对此，本发明实施例不对基站的进行后处理的方法进行限定。

在基站完成对信号的后处理之后，基站需要依靠两类数据更新全局模型。之后基站将全局模型下发至所有联邦学习用户，基站和联邦学习用户会同时开始训练。其中，基站以非正交多址接入用户上传的本地数据进行，而联邦学习用户则以用户本地数据进行。训练结束后，联邦学习用户会将模型参数发送到基站，由基站再次更新全局模型。对这一流程进行循环迭代，直至收敛或达到最大迭代次数。

本发明提供的一种无线联邦学习方法的运行流程图如图2所示，联邦学习用户基于本地数据集获得本地模型数据，集中式学习用户直接向基站传输数据；在经过对数据做预处理后，所有用户在双功能智能超平面的辅助下以同一频段并发上行传输；基站先对信号进行分离，之后进行后处理，得到两类数据；利用这些数据进行训练，得到全局模型。将全局模型下发给联邦学习用户，基站利用集中式学习用户上传的数据，联邦学习用户利用本地数据分别计算模型参数，联邦学习用户将数据以相同方式上传至基站，更新全局模型，重复迭代，完成训练过程。

此外，本发明实施例提供的一种无线联邦学习系统架构可以应用于双功能智能超表面辅助的联邦学习系统中的控制设备，并且，该控制设备可以安装在基站内，也可以是部署在基站外的一独立设备。进一步的，该控制设备可以是任一类型的电子设备，例如，微型计算机、单片机等。对此，本发明实施例不对控制设备的安装位置和设备类型进行限定。

下面，对本发明实施例提供的一种无线半联邦学习系统架构进行具体说明。

图3为本发明实施例提供的一种无线联邦学习方法的流程示意图。如图3所示，该模型流程可以包括如下步骤：

步骤S201：基于空中计算的分布式学习用户和基于非正交多址接入技术的集中式学习用户通过双功能智能超表面的辅助并发传输，共享上行，将信号发送到基站

其中，集中式学习用户和联邦学习用户的划分标准主要依靠本地计算能力。用户的划分是在数据的传输开始前完成的，本发明实施例不对用户划分方法进行具体限制。

例如，有计算能力的用户通过本地计算得到模型参数，利用空中计算上传到基站；没有计算能力的用户通过使用非正交多址接入技术将他们的本地数据集传输到基站，并由基站来代替其进行模型计算，从而参与到学习的过程中；借助双功能智能超表面，使得集中式学习的本地数据与联邦学习的模型参数得以并行上传，从而将两者集成到一个统一的框架中。

系统架构包括U个用户、一个双功能智能超表面(包含M的处理单元)、一个基站。经过用户划分后：

所有用户集合表示为U＝N∪K，其中，联邦学习用户集合表示为

集中式学习用户的集合表示为

在用户划分结束后，基站会将全局模型下发至联邦学习用户。

其中，用户上传数据的物理链路包括从用户到基站的直射径和用户到双功能智能超表面，再由双功能智能超表面到基站的折射径或反射径。折射径或者反射径的选择由用户的空间位置确定，需要在每轮数据上传开始前确定。在此，本发明实施例不对折射或反射径的选择进行具体限制。

基站在接收到的信号形式可以表示为：

其中

为第u个用户到基站直射径信道响应，

为第u个用户到双功能智能超表面的信道响应，

为所述双功能智能超表面到基站的信道响应，定义

其中，需要通过双功能智能超表面调整信道响应

使其满足：

这里的主要目的是为了后续的通过连续干扰消除进行信号解调。

S202：基站首先对基于非正交多址接入的集中式用户进行信号译码，从而获得每个集中式学习用户的本地数据，同时计算其模型参数，然后基站利用空中计算技术得到联邦学习用户的平均模型参数；

其中，计算模型参数主要依靠所建构的机器学习模型的损失函数等因素，本发明实施例不进行具体限制。

以梯度为例，

联邦学习用户的平均梯度为：

集中式学习用户的平均梯度：

S203：接着基站结合前述的两类模型参数，更新模型；最后基站将全局模型下发至所有基于空中计算的分布式计算用户，进行循环迭代，直至收敛或达到最大迭代次数。

以梯度为例，

联邦学习用户的训练在本地完成：

集中式学习用户的训练有基站代替完成：

全局的模型更新为：

在得到全局模型后，基站将全局模型下发通过无线信道，可以采用任意的多址复用方式，如时分复用，码分复用、正交频分复用等，对此，本发明实施例不做限制。

在完成下发后，基站利用上传的集中式学习用户的数据，联邦学习用户利用本地数据同时进行模型训练，联邦学习用户在完成模型训练后，将模型参数上传至基站，上传方式与之前所述步骤相同。

基站将模型下发至联邦学习用户，联邦学习用户再次利用本地数据得到模型参数，并上传至基站；基站利用集中式学习用户上传的本地数据进行训练，并接收的联邦学习用户的模型参数，进行下一轮更新，循环迭代这样的训练，直到收敛或者达到最大迭代次数限制。完成本次半联邦学习过程。其中，可选的，最大迭代次数限制为由基站进行预先设定。

相应于上述本发明实施例提供一种无线联邦学习方法，本发明实施例提供了一种无线联邦学习系统架构装置。

图4为本发明实施例提供的一种无线联邦学习系统架构的结构示意图。如图4所示，该资源分配装置可以包括：

310无线通信模块，用于完成基站每一轮训练前用户端到基站端的数据上行传输以及每轮训练完成后模型下发的下行传输，其中依靠双功能智能超表面完成上行传输过程中的并行传输。

320数据存储模块，用于存储用户上传的数据，包括集中式学习用户的本地数据集以及联邦学习用户的平均模型参数。其中，联邦学习用户的平均模型参数会在每轮上行通信完成后更新。

330数据处理模块，用于对基于非正交多址接入的集中式用户进行信号译码，从而获得每个集中式学习用户的本地数据，然后基站利用空中计算技术得到联邦学习用户的平均模型参数。其中，处理后获得的数据将由数据存储模块储存。

340模型训练模块，用于完成联邦学习用户和基站端的模型迭代训练，更新全局模型。

相应于上述本发明实施例提供的一种无线联邦学习系统架构实施方案，本发明实施例还提供了一种电子设备，如图4所示，包括处理器401、通信接口402、存储器403和通信总线404，其中，处理器401，通信接口402，存储器403通过通信总线404完成相互间的通信，

存储器403，用于存放计算机程序，以及用户上传的本地数据；

处理器401，用于执行存储器403上所存放的程序时，实现上述本发明实施例提供的任一无线联邦学习系统资源分配方法的步骤。

上述电子设备提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect，PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture，EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示，图中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。

通信接口用于上述电子设备与其他设备之间的通信。

存储器可以包括随机存取存储器(Random Access Memory，RAM)，也可以包括非易失性存储器(Non-Volatile Memory，NVM)，例如至少一个磁盘存储器。可选的，存储器还可以是至少一个位于远离前述处理器的存储装置。

上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器(Digital SignalProcessing，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

在本发明提供的又一实施例中，还提供了一种计算机可读存储介质，该计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述本发明实施例提供的任一无线联邦学习系统资源分配方法的步骤。

在本发明提供的又一实施例中，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述本发明实施例提供的任一无线联邦学习系统资源分配方法的步骤。

在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置实施例、电子设备实施例、计算机可读存储介质实施例和计算机程序产品实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

以上所述仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本发明的保护范围内。

Claims

1.一种无线联邦学习方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的无线联邦学习方法，其特征在于，步骤S201的具体方法为：有计算能力的用户通过本地计算得到模型参数，利用空中计算上传到基站；没有计算能力的用户通过使用非正交多址接入技术将他们的本地数据集传输到基站，并由基站来代替其进行模型计算，从而参与到学习的过程中；借助双功能智能超表面，使得集中式学习的本地数据与联邦学习的模型参数得以并行上传，从而将两者集成到一个统一的框架中。

3.根据权利要求1所述的无线联邦学习方法，其特征在于，步骤S201中，所有用户集合表示为U＝N∪K，其中，联邦学习用户集合表示为