CN116128070B - 基于无线空中计算和多比特量化压缩感知的联邦学习方法 - Google Patents

Abstract

本发明采用多比特量化压缩感知，结合空中计算技术，提出了一种基于无线空中计算和多比特量化压缩感知的联邦学习方法。本发明通过在各个设备上对模型差进行稀疏、压缩感知、量化的操作，将原来维度较大的模型差压缩成维度较小的向量进行传输，进而大大减少整个训练过程中的通信开销，并有着较快收敛速度，提升了无线联邦学习的通信效率。同时，在迭代训练信息聚合的这一过程中，通过空中计算技术在中心服务器端进行信息聚合，利用多址接入信道的波形叠加特性使多个设备同时同频进行传输，很大程度上减少了联邦学习中设备的每轮通信的开销。

Description

基于无线空中计算和多比特量化压缩感知的联邦学习方法

技术领域

本发明涉及一种基于无线空中计算和多比特量化压缩感知的联邦学习方法，属于无线通信领域。

背景技术

联邦学习是一种分布式机器学习模型，其运用分布在各个不同设备上的数据进行训练推理。联邦学习近年来也被广泛运用于保护数据安全、保护用户数据隐私的场景之下。联邦学习的训练的步骤大致如下：各个设备基于本地数据进行训练；而后将本地模型的更新参数上传到中心节点处；在中心节点处，将各个设备发来的参数进行聚合更新；而后将聚合得到的结果用于更新中心节点处的全局模型；最后中心节点会把已经更新后的模型参数重新传回各个设备；如此往复直到模型最终收敛。通过这样的更新方式，最终训练的模型可以达到数据集中式训练的性能。但联邦学习的好处在于避免了本地数据传输，保护了用户隐私和安全。同时，随着当前机器学习旨在应对现实中更复杂的场景和应用，其模型也日益复杂，例如神经网络模型，其模型参数量可达十几万甚至更多。当训练复杂深度学习模型的时候，通常面临的问题是庞大的参数量需要传输，但在资源有限的无线通信场景中，进行庞大参数量的通信开销也是巨大的，且难以在现实系统中实现，也难以满足现实对通信时延的要求。目前针对模型参数量巨大的问题，在机器学习领域稀疏化、压缩感知和量化是用于压缩模型参数的典型方案。其中稀疏化指的是将参数中某些的维度置为零，一般来说倾向于保留那些对于模型更新较为重要的维度，帮助模型训练并达到最终收敛。而量化指的是将原本连续取值的值近似为有限多个离散的值的过程。利于以上这三个方法，可以有效减轻通信传输量，缓解通信瓶颈的问题。

为了设计高通信效率的联邦学习并将其应用于实际中，目前有大量文献和研究工作。然而，现有的工作主要是基于数字通信考虑量化压缩感知或者是在模拟通信场景下的单比特量化压缩感知无线通信，而没有考虑到使用多比特量化压缩感知。在数字通信的场景下，联邦学习的通信瓶颈和传输时延的开销正比于参与学习的用户数量，因此当用户数量很大的情况下，系统很可能产生难以接受的通信时延，并产生通信瓶颈的问题。而在模拟通信下的单比特量化压缩感知，受限于单比特量化技术，其产生的量化误差是远远大于多比特量化的。而因为误差的增大，会进一步需要较多的训练轮数以达到所需的模型精度，造成总体通信开销的增大。因此，为了设计高通信效率的联邦学习，发明人决定采用基于无线空中计算的多比特量化压缩感知技术来实现训练过程中的模型更新，通过无线空中计算技术来达到多个用户同时传输模型更新参数的效果，并利用多比特量化压缩感知技术进一步减少通信传输量，有效减少量化误差，达到更快的收敛速度和训练出表现更好的模型。其中，无线空中计算技术是通过多址接入信道的波形叠加的特性让多个用户设备能够做到同时同频传输，从而使得通信开销大大减少、减少通信时延。因此，设计高通信效率的联邦学习是无线场景下的重要目标。

发明内容

本发明要解决的技术问题是：针对无线通信场景下的联邦学习，缺乏通信高效的解决方案。

为了解决上述技术问题，本发明的技术方案是公开了一种基于无线空中计算和多比特量化压缩感知的联邦学习方法，其特征在于，包括以下步骤：

步骤一、初始化：

每个设备i对本地模型参数进行随机初始化，并将模型差估计值初始化为当前梯度/>其中，/>表示根据本地损失函数求梯度的操作；

中心服务器将模型参数估计值随机初始化为w⁽⁰⁾，并将模型差估计值初始化为其中，/>表示根据全局损失函数求梯度的操作；

步骤二、稀疏化：

每个设备i对本地梯度估计值进行稀疏化操作，通过稀疏化后得到的向量可以表示为t表示第t轮迭代，S表示稀疏率；

步骤三、压缩感知：

将每个设备i稀疏化后的本地模型差估计值进行压缩操作，其中，每个设备i都用测量矩阵A进行压缩操作，压缩后的模型差向量为/>

步骤四、量化：

每个设备i对已经压缩后的模型差向量进行量化操作，得到量化后的模型差向量为Q为量化比特数；

步骤五、信息混合：

通过空中计算技术，每个设备i同时将量化后的模型差向量传输给中心服务器，中心服务器基于当前信道信息进行信息聚合，包括以下步骤：

步骤501、根据设备i与中心服务器的信道状态信息以及待传输的模型差参数信息完成传输过程中功率/>以及功率控制因子/>的优化，获得功率控制因子/>的最优解，使噪声影响最小；

步骤502、各个设备i通过时钟技术同步地分别将量化后的模型差向量上传至中心服务器，中心服务器利用多址信道的波形叠加性质，使用空中计算技术对来自各个设备的模型差估计值分别进行聚合后进行解码；

步骤六、恢复信号：

在中心服务器得到解码后的信号后，使用压缩感知恢复算法将信号/>恢复出来；

步骤七、估计值更新：

中心服务器在得到恢复后得到的模型差估计值后，将全局模型参数估计值更新为：

其中，η^(t)为学习率，w^(t)为第t轮迭代的全局模型参数估计值；

步骤八、本地更新：

在中心服务器得到更新后的全局模型参数估计值后，中心服务器将更新的全局模型参数估计值发送给各个设备i，本地设备根据本地数据集、收到的全局模型参数估计值更新本地模型参数值，且在本地做E轮迭代梯度下降，表示为：

其中η^(t)为学习率,

各个设备i根据本地迭代前后的模型得到传输模型差

且该模型差也是下一轮迭代需要进行稀疏化、压缩感知、量化操作后进行传输的向量。

优选地，步骤四中，进行量化操作时使用非均匀量化器。

优选地，步骤501中，功率以及功率控制因子/>的优化问题表示为下式：

式中： 为设备i本地数据集合，/>为本地数据集的数量，为一个比例因子，/> 为一个与量化相关的常数；N为原模型差向量维度；/>为有效模型差方差，为设备i数据集所占整体系统数据集的比例，/>为有效高斯白噪声的方差，/>为信道高斯白噪声的方差；/>为整体等效噪声的方差，/>为量化产生的常数，/>du也是一个与量化相关的常数，/>为有效模型差均值；P₀为最大传输能量；R＝N/M为压缩率，0<R<1；/>为系统用户数量；

用相关凸优化算法对上式进行求解得到最优解b^(t)，使噪声影响最小。

优选地，步骤502中，聚合得到的信号表示为：

式中，n^(t)为方差为的高斯白噪声；

根据接收到的信号，将相关参数取值带入化简后，中心服务器将其解码得到：

式中，为有效量化噪声，/>为原始量化噪声，/>为比例因子，为有效高斯白噪声。

本发明采用多比特量化压缩感知，结合空中计算技术，提出了一个具有高通信效率的联邦学习方法。本发明通过在各个设备上对模型差进行稀疏、压缩感知、量化的操作，将原来维度较大的模型差压缩成维度较小的向量进行传输，进而大大减少整个训练过程中的通信开销，并有着较快收敛速度，提升了无线联邦学习的通信效率。同时，在迭代训练信息聚合的这一过程中，通过空中计算技术在中心服务器端进行信息聚合，利用多址接入信道的波形叠加特性使多个设备同时同频进行传输，很大程度上减少了联邦学习中设备的每轮通信的开销。

附图说明

图1为本发明一实施例提供的基于空中计算的多比特量化压缩感知联邦学习系统架构图；

图2为本发明一实施例提供的基于空中计算和多比特量化压缩感知技术的联邦学习方法流程图；

图3为本发明提出的方法与另两种联邦学习方法在MNIST数据集下的学习性能对比，其中两种方法分别为基于单比特量化压缩感知的模拟通信无线联邦学习方法，以及基于数字通信的多比特量化压缩感知的无线联邦学习方法。

具体实施方式

下面结合具体实施例，进一步阐述本发明。应理解，这些实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解，在阅读了本发明讲授的内容之后，本领域技术人员可以对本发明作各种改动或修改，这些等价形式同样落于本申请所附权利要求书所限定的范围。

本实施例公开的一种基于无线空中计算和多比特量化压缩感知的联邦学习方法包括以下步骤：

步骤一、初始化：

每个设备i首先对本地模型参数进行随机初始化，并将模型差估计值初始化为当前梯度/>表示根据本地损失函数求梯度的操作。

对于中心服务器而言，将模型参数估计值随机初始化为w⁽⁰⁾，并将模型差估计值初始化为表示根据全局损失函数求梯度的操作。

步骤二、稀疏化：

每个设备i对本地梯度估计值进行稀疏化操作。假设稀疏率为S，其中0<S<1，表示保留模型差中的梯度的绝对大小前S比例的维数，选取其余1-的比例的维数全部设置为0，则通过稀疏化后得到的向量可以表示为/>t表示第t轮迭代。

步骤三、压缩感知：

将每个设备i稀疏化后的本地模型差估计值进行压缩操作。假设每个设备i以及中心服务器共享测量矩阵且每个设备i都用测量矩阵A进行压缩操作，其中，测量矩阵A满足如下性质：/><N，则对于每个设备i可得压缩后的模型差向量为/>其中，/>

步骤四、量化：

每个设备i对已经压缩后的模型差向量进行量化操作。假设每个设备i的目标量化比特数相同，令量化比特数为Q∈N⁺，则可得到量化后的模型差向量为这里使用非均匀量化器，以使量化误差更下，帮助模型更快收敛，减少全局训练通信量。

步骤五、信息混合：

每个设备i将量化后的模型差向量通过空中计算技术，各个设备同时将量化后的模型差向量传输给中心服务器，中心服务器基于当前信道信息进行信息聚合，进一步包括以下步骤：

首先，假设当前为第t轮训练迭代。假设设备与设备之间的无线信道视为一个分块的衰落信道，每个时间块被分为M个时间槽来满足模型差估计值的传输，其中，M为传输量化后模型差估计值的维度。

随后根据设备i与中心服务器的信道状态信息以及待传输的模型差参数信息完成传输过程中相关系统参数：功率/>以及功率控制因子/>的优化，来减少噪声对传输造成的影响以提高多比特量化压缩感知空中计算联邦学习的性能。这里假设各个设备i和中心服务器均为单天线。系统优化过程中首先将功率和功率控制因子的取值建模为如下问题

式中：为设备i本地数据集合，/>为本地数据集的数量，为一个比例因子，/> 为一个与量化相关的常数；N为原模型差向量维度；/>为有效模型差方差，为设备i数据集所占整体系统数据集的比例，/>为有效高斯白噪声的方差，/>为信道高斯白噪声的方差；/>为整体等效噪声的方差，/>为量化产生的常数，/>du也是一个与量化相关的常数，/>为有效模型差均值；P₀为最大传输能量；R＝N/M为压缩率，0<R<1，/>为系统用户数量。

从以上问题可以看出这个优化是一个凸问题，因此可以用相关凸优化算法进行求解得到最优解b^(t)，使噪声影响最小。

接下来，各个设备通过时钟技术同步地分别将模型差估计值上传至中心服务器。中心服务器利用多址信道的波形叠加性质，使用空中计算技术对来自各个设备的模型差估计值分别进行聚合，聚合得到的信号如下：

式中，n^(t)为方差为的高斯白噪声。根据接收到的信号，将相关参数取值带入化简后，中心服务器将其解码得到：

式中，为有效量化噪声，/>为量化噪声，/>为比例因子，为有效高斯白噪声。

该步骤充分利用了空中计算技术的同时同频传输的特性，从而实现各设备从各个设备上聚合模型模型差估计值的过程，能够极大地节省了通信、计算开销。

步骤六、恢复信号：

在中心服务器得到解码后的信号后，需要使用压缩感知恢复算法将信号/>恢复出来。利用压缩感知恢复算法，中心服务器恢复得到的信号可以表示为：

其中，为压缩感知恢复算法。该步骤利用压缩感知恢复算法，将原各个设备模型差聚合的值恢复出来，用恢复后的信号进行后续的模型更新操作。

步骤七、估计值更新：中心服务器在得到恢复后得到的模型差估计值后，将全局模型参数估计值更新为：

其中，η^(t)为学习率，w^(t)为第t轮迭代的全局模型参数估计值。该步骤通过梯度下降的方式完成全局模型差估计值。

步骤八、本地更新：

在中心服务器得到更新后的全局模型参数估计值后，中心服务器将更新的全局模型参数估计值发送给各个设备i，本地设备根据本地数据集、收到的全局模型参数估计值更新本地模型参数值，且在本地做E轮迭代梯度下降，可以表示为：

其中η^(t)为学习率,各个设备i根据本地迭代前后的模型得到传输模型差/>

且该模型差也是下一轮迭代需要进行稀疏化、压缩感知、量化操作后进行传输的向量。该步骤通过梯度下降对本地模型参数进行多轮更新，得到模型差，使得整个训练迭代过程中能更快收敛，减少通信轮数，提升通信效率。

上述技术方案与现有两种联邦学习方法在MNIST数据集下的学习性能对比如图3所示，图中，损失值越小或测试集准确率越高代表模型性能越好。由图3可见，与另两种联邦学习方法相比，本发明所提出的方法能够获得与数字通信相似的损失值和测试准确率，且效果好于单比特量化压缩感知的模拟通信无线联邦学习方法，实现了高通信效率的多比特量化压缩感知联邦学习。

Claims (3)

1.一种基于无线空中计算和多比特量化压缩感知的联邦学习方法，其特征在于，包括以下步骤：

步骤一、初始化：

每个设备i对本地模型参数进行随机初始化，并将模型差估计值初始化为当前梯度/>其中，/>表示根据本地损失函数求梯度的操作；

中心服务器将模型参数估计值随机初始化为w⁽⁰⁾，并将模型差估计值初始化为其中，/>表示根据全局损失函数求梯度的操作；

步骤二、稀疏化：

每个设备i对本地梯度估计值进行稀疏化操作，通过稀疏化后得到的向量可以表示为t表示第t轮迭代，S表示稀疏率；

步骤三、压缩感知：

将每个设备i稀疏化后的本地模型差估计值进行压缩操作，其中，每个设备i都用测量矩阵A进行压缩操作，压缩后的模型差向量为/>

步骤四、量化：

每个设备i对已经压缩后的模型差向量进行量化操作，得到量化后的模型差向量为Q为量化比特数；

步骤五、信息混合：

通过空中计算技术，每个设备i同时将量化后的模型差向量传输给中心服务器，中心服务器基于当前信道信息进行信息聚合，包括以下步骤：

步骤501、根据设备i与中心服务器的信道状态信息以及待传输的模型差参数信息完成传输过程中功率/>以及功率控制因子/>的优化，获得功率控制因子/>的最优解，使噪声影响最小，其中：

功率以及功率控制因子/>的优化问题表示为下式：

式中：为设备i本地数据集合，/>为本地数据集的数量，为一个比例因子，/> 为一个与量化相关的常数；N为原模型差向量维度；/>为有效模型差方差，为设备i数据集所占整体系统数据集的比例，/>为有效高斯白噪声的方差，/>为信道高斯白噪声的方差；/>为整体等效噪声的方差，/>为量化产生的常数，/>也是一个与量化相关的常数，/>为有效模型差均值；P₀为最大传输能量；R＝N/M为压缩率，0<R<1；K为系统用户数量；

用相关凸优化算法对上式进行求解得到最优解b^(t)，使噪声影响最小；

步骤502、各个设备i通过时钟技术同步地分别将量化后的模型差向量上传至中心服务器，中心服务器利用多址信道的波形叠加性质，使用空中计算技术对来自各个设备的模型差估计值分别进行聚合后进行解码；

步骤六、恢复信号：

在中心服务器得到解码后的信号后，使用压缩感知恢复算法将信号/>恢复出来；

步骤七、估计值更新：

中心服务器在得到恢复后得到的模型差估计值后，将全局模型参数估计值更新为：

其中，η^(t)为学习率，w^(t)为第t轮迭代的全局模型参数估计值；

步骤八、本地更新：

在中心服务器得到更新后的全局模型参数估计值后，中心服务器将更新的全局模型参数估计值发送给各个设备i，本地设备根据本地数据集、收到的全局模型参数估计值更新本地模型参数值，且在本地做E轮迭代梯度下降，表示为：

其中η^(t)为学习率,

各个设备i根据本地迭代前后的模型得到传输模型差

且该模型差也是下一轮迭代需要进行稀疏化、压缩感知、量化操作后进行传输的向量。

2.如权利要求1所述的一种基于无线空中计算和多比特量化压缩感知的联邦学习方法，其特征在于，步骤四中，进行量化操作时使用非均匀量化器。

3.如权利要求1所述的一种基于无线空中计算和多比特量化压缩感知的联邦学习方法，其特征在于，步骤502中，聚合得到的信号表示为：

式中，n^(t)为方差为的高斯白噪声；

根据接收到的信号，将相关参数取值带入化简后，中心服务器将其解码得到：

式中，为有效量化噪声，/>为量化噪声，/>为比例因子，为有效高斯白噪声。