CN113098806B - 一种联邦学习下边端协同的信道适应性梯度压缩方法 - Google Patents

Abstract

本发明公开了一种联邦学习下边端协同的信道适应性梯度压缩方法，包括以下步骤：S1、每个终端利用上行信道向边缘服务器发送已知的训练序列；S2、边缘服务器根据每个终端发送的训练序列通过信道后受到的劣化程度估计各个终端的上行信道状况，存储各个上行信道的信道增益参数；S3、边缘服务器利用终端的信道状况和设定的总量化比特数，求解优化问题，进行量化比特数分配；S4、边缘服务器向参与联邦学习的终端广播各自可以使用的量化比特数信息；S5、终端在广播的信息中找到自己可以使用的量化比特数，对本地更新梯度进行量化。本发明具有有效缓解无线通信信道劣化对联邦学习训练效果的影响，缓解通信瓶颈，提高系统抗噪性能等优点。

Description

一种联邦学习下边端协同的信道适应性梯度压缩方法

技术领域

本发明属于联邦学习梯度压缩技术领域，具体涉及一种联邦学习下边端协同的信道适应性梯度压缩方法。

背景技术

随着移动智能设备的兴起，大量数据分散在边缘端，有限的通信资源和用户对隐私的保护使得分布式机器学习框架——联邦学习快速发展。在联邦学习框架中，终端利用本地数据进行本地模型训练，将训练得到的本地模型参数上传至边缘服务器，边缘服务器聚合所有本地模型参数后更新全局模型参数，随后广播全局模型参数，整个联邦学习进行上述步骤的迭代直至全局模型收敛。然而，由于用户数据复杂性逐渐提升，需要上传的本地模型参数维度呈指数型增长，这使得基于梯度压缩的联邦学习方案逐渐引起重视。一般地，基于SGD(Stochastic Gradient Descent)的联邦学习方案可以取得较好的训练效果，在这种策略下，用户进行本地迭代后上传的是本地损失函数的随机梯度，由于训练模型日趋复杂，随机梯度的维度也逐渐增加。针对以上问题，现有方案多采用随机梯度量化的方法，以有效地压缩梯度维度、降低数据规模、缓解通信瓶颈。

但现有方案中，仍然存在以下问题：

1、终端集群通常位于同一个边缘服务器的服务范围内，其上行信道可视为由总上行信道划分的多个独立正交的子信道，总信道容量是有限的。

2、终端的上行信道存在无线通信信道中普遍存在的信道衰落和信道噪声，当量化后的随机梯度通过该类衰落信道进行传输后，数据会受到一定的损坏。当边缘服务器利用有损失的随机梯度进行聚合和全局迭代时，得到的全局模型将会和理想的全局模型存在偏差，使得联邦学习表现变差。

发明内容

本发明的主要目的在于克服现有技术的缺点与不足，提出一种联邦学习下边端协同的信道适应性梯度压缩方法。

为了达到上述目的，本发明采用以下技术方案：

一种联邦学习下边端协同的信道适应性梯度压缩方法，基于联邦学习系统，包括以下步骤：

S1、每个终端利用自己的上行信道向边缘服务器发送已知的训练序列；

S2、边缘服务器根据每个终端发送的训练序列通过信道后受到的劣化程度估计各个终端的上行信道状况，存储各个上行信道的信道信息；

S3、边缘服务器利用终端的信道状况和设定的总量化比特数，求解优化问题，进行量化比特数分配；

S4、边缘服务器向参与联邦学习的终端广播所有终端各自可以使用的量化比特数信息；

S5、终端在广播的信息中找到自己可以使用的量化比特数，对本地更新梯度进行量化。

进一步的，所述联邦学习系统，包括边缘服务器以及若干个终端；

所述边缘服务器布设在基站中，所述边缘服务器包括计算单元、存储单元、训练单元以及发送单元；

所述终端包括量化单元、存储单元、训练单元以及发送单元；

所述边缘服务器和所述终端用于协作完成指定任务，任务需要使用的原始数据分布于终端中，边缘服务器无法接触到原始数据；

所述边缘服务器和所述终端还用于完成本地模型更新和全局模型更新的交换，终端利用本地原始数据和边缘服务器广播的全局模型更新本地模型，边缘服务器利用终端更新的本地模型更新全局模型。

进一步的，所述边缘服务器和所述终端在系统中协作完成联邦学习任务，联邦学习具体包括以下步骤：

边缘服务器选择参加本次参与联邦学习迭代的终端；

终端上传训练序列，边缘服务器估计终端信道，分配终端分别可以使用的量化比特数，广播量化比特数分配情况；

若此次全局迭代为初次全局迭代，则边缘服务器进行模型初始化，并将初始化的全局模型广播至本次参与训练的终端；否则，将上次全局迭代后得到的更新的全局模型广播至本次参与训练的终端；

终端利用接收到的全局模型和本地存储的数据进行一次或若干次本地训练，得到更新的本地梯度信息；

终端利用分配的量化比特数，量化更新的本地梯度信息，得到用于上传的量化的本地更新梯度；

终端将所述量化的本地更新梯度通过独立不相干的用户信道上传到边缘服务器；

所述边缘服务器接收到经过终端信道扰动的实际更新梯度，将所述实际更新梯度进行聚合，聚合后的梯度用于更新边缘服务器上的全局模型，若全局模型收敛，则本次联邦学习结束；否则，从头开始执行联邦学习的各步骤，直至全局模型收敛。

进一步的，步骤S1具体为：

参与联邦学习的终端向边缘服务器发送存储于存储单元中的训练序列，所述训练序列存储于边缘服务器模块的存储单元中，为终端和边缘服务器均已知的信息，并在所述训练序列前端加上包含终端模块编号的信息块，形成待估计训练序列块。

进一步的，步骤S2具体为：

所述边缘服务器接收所述终端发送的待估计训练序列块，待估计训练序列块通过终端上行信道后受到一定程度的劣化，边缘服务器在存储单元中以队列的形式依次存储受到信道劣化的待估计训练序列块；

边缘服务器每次调用队列中的一个受到信道劣化的待估计训练序列块，利用待估计训练序列块中受到信道劣化的训练序列，和存储单元中的已知训练序列，利用判决准则，在计算单元中进行信道估计；

复制已经完成信道估计的待估计训练序列块前端的终端编号，所述终端编号采用重复发送的方式确保传输无误，在所述终端编号后端加上信道估计后得到的信道增益信息，得到每个终端的信道增益单元，通过将信道增益单元首尾相接后，得到信道增益信息块，存储于存储单元中。

进一步的，步骤S3具体为：

边缘服务器通过调用存储单元中预先设定的总量化比特数和在所述步骤S1和步骤S2中估计的参与所述联邦学习的终端的信道增益信息块，代入参数未知、具体模型已经确定的优化问题中，分别求解每个终端分配到的量化比特数，并复制信道增益信息单元前端的终端编号，得到量化比特数分配单元，首尾相接后得到量化比特数分配信息块，并以队列的形式存储于存储单元中。

进一步的，所述优化问题具体为：

b_k≥1

其中，

为终端k传输的随机梯度到达边缘服务器后的总信噪比，

h_k为终端k的信道增益系数，g_k为终端k向边缘服务器上传的随机梯度，s_k为终端k分配到的量化位数，与终端k可以使用的量化比特数的关系为

B为整个联邦学习系统总共可以使用的量化比特数；

SNR_k越大，说明边缘服务器接收到的终端k的随机梯度越可靠；目标函数的最大化说明通过使得所有参与的终端的总信噪比SNR_k的和最大，边缘服务器使用的训练数据的可靠性能得到最大化。

进一步的，步骤S4具体为：

边缘服务器通过发送单元向终端广播量化比特数分配信息块。

进一步的，步骤S5具体为：

终端接收到所述量化比特数分配信息块，通过量化比特数分配信息块中每个量化比特数分配单元前端的终端序号，查找到自己分配到的量化比特数，存储于存储单元中；终端利用存储单元中存储的量化比特数，使用均匀量化方法对本地模型的更新梯度进行量化。

进一步的，所述均匀量化方法中的子量化区间为总量化区间均匀划分后得到，当待量化数值位于某个子量化区间时，按一定的量化规则量化为子量化区间的左端点或右端点，均匀量化方法的具体量化规则为：

将所述的更新梯度展平为向量，每个向量的分量映射的码本的取值规则如下：

Q_s(v_i)＝||v||₂sgn(v_i)ξ_i(v，s)，i＝1，2，...，n,

其中，Q_s(v_i)为所述更新梯度展平后的向量v的第i个分量的取值，sgn(v_i)为所述向量的第i个分量的符号，量化位数s与所述量化比特数b关系如下：

s＝2^b+1

其中，ξ_i(v，s)为独立随机变量，表示所述向量v的第i个分量的按概率取值，具体为：

其中，概率p为

1为小于等于s的非负整数；

所述均匀量化方法量化后，采用三元组(||v||₂，σ，ζ)来表示量化后的更新梯度，在传输时只需要传输三元组的信息，所述三元组的具体内容为：

所述向量的长度||v||₂、所述向量分量的符号按原顺序构成的向量σ以及所述向量分量映射的整数以原顺序排列构成的向量ζ，其中ζ_i＝s·ξ_i(v，s)。

本发明与现有技术相比，具有如下优点和有益效果：

1、本发明充分利用了联邦学习的边缘服务器和终端的交互性，使得边缘服务器通过获取终端上行信道的优劣情况，对终端上传的更新梯度进行量化比特数可自适应调整的均匀量化，充分发掘了边端协同的能动性。

2、本发明根据终端的上行信道状况进行信道适应性的量化比特数分配，对具有恶劣信道环境的终端给予更大的量化比特数的均匀量化，通过更加精确的量化，有效缓解不良信道对终端上传的量化梯度的劣化，通过提高参与联邦学习的更新梯度的质量，进一步地提高联邦学习在实际信道环境下的训练效果，提高系统在无线通信环境中的抗噪性。

3、本发明采用的均匀量化方法，由需要传输整个梯度向量变为只需要传输包含梯度向量信息的三元组，量化后终端上传的数据规模明显减小，且具有较小的量化方差。

4、本发明具有较好的扩展潜力，通过使用高效的编码方式，可以进一步减小量化后上传的数据规模，且可以根据需要在量化后增加稀疏方法，达到更好程度的数据压缩效果。

5、本发明不需要在原有的联邦学习系统中增加额外装置，有效降低系统布设成本，简单有效，节点之间交互开销小。

附图说明

图1是本发明方法的流程图；

图2是本发明的联邦学习系统示意图；

图3是本发明的联邦学习系统的边缘服务器模块结构示意图；

图4是本发明的联邦学习系统的终端模块结构示意图；

图5是本发明联邦学习的流程图；

图6为本发明实施例终端发送的用于信道估计的待估计训练序列块；

图7为本发明实施例信道估计后得到的信道增益信息块；

图8为本发明实施例量化比特数分配后得到的量化比特数分配信息块。

具体实施方式

下面结合实施例及附图对本发明作进一步详细的描述，但本发明的实施方式不限于此。

实施例

如图1所示，本发明，一种联邦学习下边端协同的信道适应性梯度压缩方法，方法基于联邦学习系统，包括以下步骤：

S1、每个终端利用自己的上行信道向边缘服务器发送已知的训练序列；

在本实施例中，如图2、图3以及图4所示，所述联邦学习系统包括边缘服务器以及若干个终端；

所述边缘服务器布设在基站中，所述边缘服务器包括计算单元、存储单元、训练单元以及发送单元；

所述终端包括量化单元、存储单元、训练单元以及发送单元；

所述边缘服务器和所述终端协作完成指定任务，任务需要使用的原始数据分布于终端中，边缘服务器无法接触到原始数据；

所述终端和所述边缘服务器之间需要完成本地模型更新和全局模型更新的交换，终端利用本地原始数据和边缘服务器广播的全局模型更新本地模型，边缘服务器利用终端更新的本地模型更新全局模型。

由于所述终端通常为手机、智能手表等便携式移动智能设备，电池体积有限，无法提供充足的资源来发送数据规模庞大的本地模型更新，因此本发明所提出的边端协同的信道适应性梯度压缩方法可用于缓解所述联邦学习系统中所述边缘服务器和所述终端交互时产生的通信瓶颈。

在本实施例中，步骤S1具体为：

参与联邦学习的终端向边缘服务器发送存储于存储单元中的训练序列，所述训练序列存储于边缘服务器模块的存储单元中，为终端和边缘服务器均已知的信息，并在所述训练序列前端加上包含的终端模块编号的信息块，形成待估计训练序列块，如图6所示。

S2、边缘服务器根据每个终端发送的训练序列通过信道后受到的劣化程度估计各个终端的上行信道状况，存储各个上行信道的信道增益参数，在本实施例中，具体为：

所述边缘服务器接收所述终端发送的待估计训练序列块，待估计训练序列块通过终端上行信道后受到一定程度的劣化，边缘服务器在存储单元中以队列的形式依次存储受到信道劣化的待估计训练序列块；

边缘服务器每次调用队列中的一个受到信道劣化的待估计训练序列块，利用待估计训练序列块中受到信道劣化的训练序列，和存储单元中的已知训练序列，利用判决准则，在计算单元中进行信道估计；

复制已经完成信道估计的信道估计信息块前端的终端编号，所述终端编号采用重复发送的方式确保传输无误，在所述终端编号后端加上信道估计后得到的信道增益，得到每个终端的信道增益单元，通过将信道增益单元首尾相接后，得到信道增益信息块，存储于存储单元中，如图7所示，为信道增益信息块。

S3、边缘服务器利用终端的信道状况和设定的总量化比特数，求解优化问题，进行量化比特数分配，在本实施例中，具体为：

边缘服务器通过调用存储单元中预先设定的总量化比特数和在步骤S1、S2中估计的参与所述联邦学习的终端的信道增益信息块，代入参数未知、具体模型已经确定的优化问题中，分别求解每个终端分配到的量化比特数，并复制信道增益信息单元前端的终端编号，得到量化比特数分配单元，首尾相接后得到量化比特数分配信息块，以队列的形式存储于存储单元中，如图8所示，为量化比特数分配后得到的量化比特数分配信息块。

所述优化问题具体为：

b_k≥1 (2)

其中，

为终端k传输的随机梯度到达边缘服务器后的总信噪比，

h_k为终端k的信道系数，g_k为终端k向边缘服务器上传的随机梯度，s_k为终端k分配到的量化位数，与终端k可以使用的量化比特数b_k的关系为

B为整个系统总共可以使用的量化比特数；

SNR_k越大，说明边缘服务器接收到的终端k的随机梯度越可靠；目标函数说明通过使得所有参与的终端的总信噪比SNR_k的和最大，使得边缘服务器使用的训练数据的可靠性最大化。限制条件(1)，即公式(1)体现了由于总上行信道容量的限制，终端使用的量化比特数总数不可以无限大。限制条件(2)，即公式(2)则说明了量化比特数的最低数值。

S4、边缘服务器向参与联邦学习的终端广播所有终端各自可以使用的量化比特数信息，在本实施例中，具体为边缘服务器通过发送单元向终端广播量化比特数分配信息块。

S5、终端在广播的信息中找到自己可以使用的量化比特数，对本地更新梯度进行量化，在本实施例中，具体为：

终端接收到所述量化比特数分配信息块，通过量化比特数分配信息块中每个量化比特数分配单元前端的终端序号，查找到自己分配到的量化比特数，存储于存储单元中；终端利用存储单元中存储的量化比特数，使用均匀量化方法对本地模型的更新梯度进行量化；

对本地更新梯度进行量化的量化方法为均匀量化方法，均匀量化方法中的子量化区间为总量化区间均匀划分后得到，当待量化数值位于某个子量化区间时，按一定的量化规则量化为子量化区间的左端点或右端点，均匀量化方法的具体量化规则为：

将所述的更新梯度展平为向量，每个向量的分量映射的码本的取值规则如下：

Q_s(v_i)＝||v||₂sgn(v_i)ξ_i(v，s)，i＝1，2，...，n，

其中，Q_s(v_i)为所述更新梯度展平后的向量v的第i个分量的取值，sgn(v_i)为所述向量的第i个分量的符号，量化位数s与所述量化比特数b关系如下：

s＝2^b+1

其中，ξ_i(v，s)为独立随机变量，表示所述向量v的第i个分量的按概率取值，具体为：

其中，概率p为

l为小于等于s的非负整数。

均匀化量化后采用三元组(||v||₂，σ，ζ)来表示量化后的更新梯度，在传输时只需要传输三元组的信息，所述三元组的具体内容为：

所述向量的长度||v||₂、所述向量分量的符号按原顺序构成的向量σ以及所述向量分量映射的整数以原顺序排列构成的向量ζ，其中ζ_i＝s·ξ_i(v，s)。

在本实施例中，如图5所示，所述边缘服务器和所述终端在系统中协作完成联邦学习任务，联邦学习具体包括以下步骤：

S101、边缘服务器按照设定的比例随机选取若干个终端参与本次迭代；

S102、所述的被选择的终端通过上行信道向边缘服务器发送终端和服务器端都已知的训练序列；

S103、边缘服务器接收所有终端发送的受到信道扰动的训练序列，根据训练序列分别估计并存储所有终端的信道状况信息；

S104、边缘服务器根据参与的终端的上行信道状况求解优化问题，分配量化比特数；

S105、边缘服务器广播终端分别可以使用的量化比特数信息；

S106、终端从广播的量化比特数信息中查询并记录自己分配到的量化比特数；

S107、若为初次全局迭代，则边缘服务器和终端均进行初始化，否则只有终端进行初始化；

S108、边缘服务器向参与的终端广播全局模型参数，此后的广播亦只针对参与的终端；

S109、终端利用边缘服务器广播的全局模型参数和本地数据集，计算本地模型随机梯度；

S110、终端利用分配到的量化比特数量化本地模型随机梯度；

S111、终端上传量化后的本地模型随机梯度；

S112、边缘服务器聚合全部的量化的本地随机梯度，更新全局模型参数；

S113、若全局模型收敛，则本次联邦学习结束；若全局模型不收敛，则重复步骤S101-S113，直至全局模型收敛。

在本实施例中，参与联邦学习的若干个终端共享终端到基站的容量有限的上行信道，在固定时间内总上行信道可传输的比特数有限；此外，过分地进行更新梯度压缩将劣化联邦学习训练效果。因此，所述的信道适应性梯度压缩方法需根据总信道容量和训练效果的指标设置所有终端共享的总量化比特数。

还需要说明的是，在本说明书中，诸如术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其他实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (9)

1.一种联邦学习下边端协同的信道适应性梯度压缩方法，其特征在于，基于联邦学习系统，包括以下步骤：

S1、每个终端利用自己的上行信道向边缘服务器发送已知的训练序列；

S2、边缘服务器根据每个终端发送的训练序列通过信道后受到的劣化程度估计各个终端的上行信道状况，存储各个上行信道的信道信息；

S3、边缘服务器利用终端的信道状况和设定的总量化比特数，求解优化问题，进行量化比特数分配；

S4、边缘服务器向参与联邦学习的终端广播所有终端各自可以使用的量化比特数信息；

S5、终端在广播的信息中找到自己可以使用的量化比特数，对本地更新梯度进行量化；

所述边缘服务器和所述终端在系统中协作完成联邦学习任务，联邦学习具体包括以下步骤：

边缘服务器选择参加本次参与联邦学习迭代的终端；

终端上传训练序列，边缘服务器估计终端信道，分配终端分别可以使用的量化比特数，广播量化比特数分配情况；

若此次全局迭代为初次全局迭代，则边缘服务器进行模型初始化，并将初始化的全局模型广播至本次参与训练的终端；否则，将上次全局迭代后得到的更新的全局模型广播至本次参与训练的终端；

终端利用接收到的全局模型和本地存储的数据进行一次或若干次本地训练，得到更新的本地梯度信息；

终端利用分配的量化比特数，量化更新的本地梯度信息，得到用于上传的量化的本地更新梯度；

终端将所述量化的本地更新梯度通过独立不相干的用户信道上传到边缘服务器；

所述边缘服务器接收到经过终端信道扰动的实际更新梯度，将所述实际更新梯度进行聚合，聚合后的梯度用于更新边缘服务器上的全局模型，若全局模型收敛，则本次联邦学习结束；否则，从头开始执行联邦学习的各步骤，直至全局模型收敛。

2.根据权利要求1所述的一种联邦学习下边端协同的信道适应性梯度压缩方法，其特征在于，所述联邦学习系统，包括边缘服务器以及若干个终端；

所述边缘服务器布设在基站中，所述边缘服务器包括计算单元、存储单元、训练单元以及发送单元；

所述终端包括量化单元、存储单元、训练单元以及发送单元；

所述边缘服务器和所述终端用于协作完成指定任务，任务需要使用的原始数据分布于终端中，边缘服务器无法接触到原始数据；

所述边缘服务器和所述终端还用于完成本地模型更新和全局模型更新的交换，终端利用本地原始数据和边缘服务器广播的全局模型更新本地模型，边缘服务器利用终端更新的本地模型更新全局模型。

3.根据权利要求2所述的一种联邦学习下边端协同的信道适应性梯度压缩方法，其特征在于，步骤S1具体为：

参与联邦学习的终端向边缘服务器发送存储于存储单元中的训练序列，所述训练序列存储于边缘服务器模块的存储单元中，为终端和边缘服务器均已知的信息，并在所述训练序列前端加上包含终端模块编号的信息块，形成待估计训练序列块。

4.根据权利要求3所述的一种联邦学习下边端协同的信道适应性梯度压缩方法，其特征在于，步骤S2具体为：

所述边缘服务器接收所述终端发送的待估计训练序列块，待估计训练序列块通过终端上行信道后受到一定程度的劣化，边缘服务器在存储单元中以队列的形式依次存储受到信道劣化的待估计训练序列块；

边缘服务器每次调用队列中的一个受到信道劣化的待估计训练序列块，利用待估计训练序列块中受到信道劣化的训练序列，和存储单元中的已知训练序列，利用判决准则，在计算单元中进行信道估计；

复制已经完成信道估计的待估计训练序列块前端的终端编号，所述终端编号采用重复发送的方式确保传输无误，在所述终端编号后端加上信道估计后得到的信道增益信息，得到每个终端的信道增益单元，通过将信道增益单元首尾相接后，得到信道增益信息块，存储于存储单元中。

5.根据权利要求2或4所述的一种联邦学习下边端协同的信道适应性梯度压缩方法，其特征在于，步骤S3具体为：

边缘服务器通过调用存储单元中预先设定的总量化比特数和在所述步骤S1和步骤S2中估计的参与所述联邦学习的终端的信道增益信息块，代入参数未知、具体模型已经确定的优化问题中，分别求解每个终端分配到的量化比特数，并复制信道增益信息单元前端的终端编号，得到量化比特数分配单元，首尾相接后得到量化比特数分配信息块，并以队列的形式存储于存储单元中。

6.根据权利要求1所述的一种联邦学习下边端协同的信道适应性梯度压缩方法，其特征在于，所述优化问题具体为：

P1:

b_k≥1

其中，

为终端k传输的随机梯度到达边缘服务器后的总信噪比，

h_k为终端k的信道增益系数，g_k为终端k向边缘服务器上传的随机梯度，s_k为终端k分配到的量化位数，与终端k可以使用的量化比特数的关系为

B为整个联邦学习系统总共可以使用的量化比特数；

SNR_k越大，说明边缘服务器接收到的终端k的随机梯度越可靠；目标函数的最大化说明通过使得所有参与的终端的总信噪比SNR_k的和最大，边缘服务器使用的训练数据的可靠性能得到最大化。

7.根据权利要求2所述的一种联邦学习下边端协同的信道适应性梯度压缩方法，其特征在于，步骤S4具体为：

边缘服务器通过发送单元向终端广播量化比特数分配信息块。

8.根据权利要求7所述的一种联邦学习下边端协同的信道适应性梯度压缩方法，其特征在于，步骤S5具体为：

终端接收到所述量化比特数分配信息块，通过量化比特数分配信息块中每个量化比特数分配单元前端的终端序号，查找到自己分配到的量化比特数，存储于存储单元中；终端利用存储单元中存储的量化比特数，使用均匀量化方法对本地模型的更新梯度进行量化。

9.根据权利要求8所述的一种联邦学习下边端协同的信道适应性梯度压缩方法，其特征在于，所述均匀量化方法中的子量化区间为总量化区间均匀划分后得到，当待量化数值位于某个子量化区间时，按一定的量化规则量化为子量化区间的左端点或右端点，均匀量化方法的具体量化规则为：

将所述的更新梯度展平为向量，每个向量的分量映射的码本的取值规则如下：

Q_s(v_i)＝‖v‖₂sgn(v_i)ξ_i(v,s),i＝1,2,…,n,

其中，Q_s(v_i)为所述更新梯度展平后的向量v的第i个分量的取值，sgn(v_i)为所述向量的第i个分量的符号，量化位数s与所述量化比特数b关系如下：

s＝2^b+1

其中，ξ_i(v,s)为独立随机变量，表示所述向量v的第i个分量的按概率取值，具体为：

其中，概率p为

l为小于等于s的非负整数；

所述均匀量化方法量化后，采用三元组(‖v‖₂,σ,ε)来表示量化后的更新梯度，在传输时只需要传输三元组的信息，所述三元组的具体内容为：

所述向量的长度‖v‖₂、所述向量分量的符号按原顺序构成的向量σ以及所述向量分量映射的整数以原顺序排列构成的向量ζ，其中ζ_i＝s·ξ_i(v,s)。

Images