CN111708640A - 一种面向边缘计算的联邦学习方法和系统 - Google Patents

Abstract

本发明提供一种面向边缘计算的联邦学习方法，包括：处于空闲的所有设备主动向服务器获取当前全局模型，按照预设的优化目标在本地异步执行模型训练，再将训练好的局部模型上传服务器；所述服务器接收任意一个设备上传的模型式，采用加权平均的方法更新全局模型。本发明能够将异步训练与联邦学习进行结合，在本发明的异步联邦优化中，所有空闲设备被用于异步模型训练，服务器使用加权平均来更新全局模型，充分利用了各个边缘设备的空闲时间，使模型训练更加高效。

Description

一种面向边缘计算的联邦学习方法和系统

技术领域

本发明涉及模型训练领域，具体而言涉及一种面向边缘计算的联邦学习方法和系统。

背景技术

随着各种各样的边缘设备的增多，比如智能电网、智能手机、物联网设备等，越来越多的数据被用于机器学习的训练，因此将用于模型训练的数据传输到服务器中集中训练的传统的模型训练方式会带来许多问题，比如巨大的通信开销、有限的计算资源、以及隐私安全隐患。相比于带来巨大的通信开销和极大的安全隐患等问题的传统的直接在服务器中训练机器学习模型，联邦学习可以很好地解决这些问题。在联邦学习中，模型的训练被转移到各个边缘设备或边缘节点上，很好地解决了由于大量数据传输造成的通信开销问题，同时避免了传输数据时可能涉及的用户隐私问题。

相比于传统的SGD方式，联邦学习很大程度上提高了模型训练的效率。通常情况下，联邦学习大多都是采用同步训练的方式，即服务器将初始化的全局模型下发给选择的某些边缘设备，被选择的边缘设备再使用本地数据进行模型更新，然后由服务器将更新后的本地模型进行聚合得到更新后的全局模型。许多研究学者针对联邦学习效率的优化几乎都是在同步训练的基础上。在同步联邦优化中，服务器需要等到所有选中的边缘设备本地更新完成才能更新全局模型。但大多数边缘设备的计算资源以及通信能力是受限的，比如电池能量低、网络拥堵、GPU数量和计算能力有限、以及网络流量收费等，这导致它们训练模型以及上传模型所需的时间可能较长，因此整个联邦学习过程效率较低。而且，同步联邦优化未能充分利用设备的空闲时间进行模型训练。比如，在某一轮训练时那些未被选中的空闲设备没有被利用起来，或者设备在上传完更新后的本地模型就空闲下来可能不再被选中。此外，由于边缘设备的异构性，训练本地模型的数据是非独立同分布的，因此联邦学习还需要解决非独立同分布造成的模型差异问题。

发明内容

本发明目的在于提供一种面向边缘计算的联邦学习方法和系统，将异步训练与联邦学习进行结合，在本发明的异步联邦优化中，所有空闲设备被用于异步模型训练，服务器使用加权平均来更新全局模型，充分利用了各个边缘设备的空闲时间，使模型训练更加高效。

为达成上述目的，结合图1，本发明提出一种面向边缘计算的联邦学习方法，所述方法包括：

处于空闲的所有设备主动向服务器获取当前全局模型，按照预设的优化目标在本地异步执行模型训练，再将训练好的局部模型上传服务器；所述服务器接收任意一个设备上传的模型式，采用加权平均的方法更新全局模型。

进一步地，所述方法还包括：

S1，服务器初始化全局模型；

S2，服务器接收空闲的边缘设备向服务器发送的获取训练任务请求，将接收到的获取训练任务请求放入请求队列；

S3，服务器的协调程序依次从请求队列中选取获取训练任务请求，从获取训练任务请求中提取设备信息，将当前全局模型发送给对应的边缘设备，使该边缘设备在本地异步训练接收到的当前全局模型，得到更新后的局部模型；

S4，服务器的更新程序接收到任意一个设备上传的更新后的局部模型，采用加权平均方法更新当前全局模型，转入步骤S2，直至服务器上的全局模型达到预期性能。

进一步地，所述协调程序和更新程序并行运行。

进一步地，步骤S3中，所述边缘设备在本地对接收到的模型进行异步训练后，按照接收到模型的时间戳h生成更新后的局部模型(ω_new，h)，ω_new是训练后得到的局部模型。

进一步地，所述采用加权平均的方法更新全局模型是指：

设其中一个设备上传至服务器的本地模型为(ω_new，h)，采用下述公式更新当前全局模型ω_t：

ω_t＝α_tω_new+(1-α_t)ω_t-1

其中，α_t←α×(t-h+1)^-0.5，α∈(0,1)。

进一步地，所述预设的优化目标为：

其中

k为第k个设备

其中N为联邦学习环境中所有边缘设备的总数；x_k是第k个设备所拥有的数据D_k分布下的样本；ω为全局模型的权重，F(ω)则为在权重ω下的全局局模型的损失；f(ω；x_k)表示第k个设备在使用其参数为ω的模型对样本x_k进行推断的损失，则E_xk～Dkf(ω；x_k)表示第k个设备在样本x_k服从本地数据D_k分布下损失的期望。

进一步地，所述方法还包括：

引入惩罚项，将所述预设的优化目标更新为：

其中，λ≥0，在训练过程根据损失大小的变化以预设步长自动调整其大小。

8、根据权利要求7所述的面向边缘计算的联邦学习方法，其特征在于，所述预设步长为0.005。

基于前述方法，本发明还提及一种面向边缘计算的联邦学习系统，所述系统包括服务器和N个边缘设备，所述N为大于1的正整数；

所述边缘设备包括空闲和忙碌两种工作状态；

所述服务器包括初始化模块、请求处理模块、请求队列、协调模块和更新模块；

所述初始化模块用于初始化全局模型；

所述请求处理模块用于接收空闲的边缘设备向服务器发送的获取训练任务请求，将接收到的获取训练任务请求放入请求队列；

所述协调模块用于依次从请求队列中选取获取训练任务请求，从获取训练任务请求中提取设备信息，将当前全局模型发送给对应的边缘设备，使该边缘设备在本地异步训练接收到的当前全局模型，得到更新后的局部模型；

所述更新模块用于接收到任意一个设备上传的更新后的局部模型，采用加权平均方法更新当前全局模型，发布下一轮全局训练指令直至服务器上的全局模型达到预期性能。

以上本发明的技术方案，与现有相比，其显著的有益效果在于，

(1)将异步训练与联邦学习进行结合，在异步联邦优化中，所有空闲设备被用于异步模型训练，服务器使用加权平均来更新全局模型，充分利用了各个边缘设备的空闲时间，使模型训练更加高效。

(2)无需考虑非独立同分布造成的模型差异问题，训练过程清晰高效，适用性强。

(3)合理设置边缘设备本地训练时的优化目标，提高训练效率；另外，添加惩罚项，避免本地的局部最优解可能会影响全局模型的收敛的问题，使模型更趋于在t轮下的全局模型。

(4)协调程序和更新程序并行运行，进一步提高服务器运行效率和模型训练效率。

应当理解，前述构思以及在下面更加详细地描述的额外构思的所有组合只要在这样的构思不相互矛盾的情况下都可以被视为本公开的发明主题的一部分。另外，所要求保护的主题的所有组合都被视为本公开的发明主题的一部分。

结合附图从下面的描述中可以更加全面地理解本发明教导的前述和其他方面、实施例和特征。本发明的其他附加方面例如示例性实施方式的特征和/或有益效果将在下面的描述中显见，或通过根据本发明教导的具体实施方式的实践中得知。

附图说明

附图不意在按比例绘制。在附图中，在各个图中示出的每个相同或近似相同的组成部分可以用相同的标号表示。为了清晰起见，在每个图中，并非每个组成部分均被标记。现在，将通过例子并参考附图来描述本发明的各个方面的实施例，其中：

图1是本发明的面向边缘计算的联邦学习方法的流程图。

图2是协调程序和更新程序的协议流程示意图。

图3是其中一种用于实现本发明的联邦学习方法的程序示意图。

具体实施方式

为了更了解本发明的技术内容，特举具体实施例并配合所附图式说明如下。

在本公开中参照附图来描述本发明的各方面，附图中示出了许多说明的实施例。本公开的实施例不必定义在包括本发明的所有方面。应当理解，上面介绍的多种构思和实施例，以及下面更加详细地描述的那些构思和实施方式可以以很多方式中任意一种来实施，这是因为本发明所公开的构思和实施例并不限于任何实施方式。另外，本发明公开的一些方面可以单独使用，或者与本发明公开的其他方面的任何适当组合来使用。

结合图1，本发明提出一种面向边缘计算的联邦学习方法，所述方法包括：

处于空闲的所有设备主动向服务器获取当前全局模型，按照预设的优化目标在本地异步执行模型训练，再将训练好的局部模型上传服务器；所述服务器接收任意一个设备上传的模型式，采用加权平均的方法更新全局模型。

假设联邦学习环境中有N设备，这N个设备每当有空闲时间就使用各自的数据通过异步的方式在本地进行模型训练，在服务器端每当有设备上传模型时则使用加权平均来更新全局模型，因此全局的优化目标如下：

其中

k为第k个设备

x_k是第k个设备所拥有的数据D_k分布下的样本。

由于异步方式下，设备获取到的全局模型和时间戳(ω_h,h)相比当前时刻的(ω_t,t)存在滞后性，因此当任意设备上传本地模型(ω_new,h)时，服务器端在聚合模型时根据采用加权平均的方式：

ω_t＝α_tω_new+(1-α_t)ω_t-1

其中α_t←α×(t-h+1)^-0.5，α∈(0,1)。

不同设备所拥有的数据分布不同，因此在弱凸问题的求解时，本地的局部最优解可能会影响全局模型的收敛，为了限制这种影响使模型更趋于在t轮下的全局模型，我们添加了惩罚项

即在整体数据的非独立同分布下，任意的本地设备训练时的优化目标如下：

其中λ≥0，在训练过程根据损失大小的变化以步长0.005自动调整其大小。

在提出的框架中，协议如下，本地设备在空闲时会主动向服务器发出获取训练任务的请求，然后服务器的协调程序收到请求后将其放入请求队列，并在请求队列中获取客户端，并将当前最新的全局模型发送给获取的设备；服务器的更新程序接收客端发来的本地模型使用加权平均的方式来更新全局模型。协调程序和更新程序是并行的，协议流程如图2。具体过程详见表1。

表1

综上所述，本发明提出的面向边缘计算的联邦学习方法能够充分利用了各个边缘设备的空闲时间，将异步训练与联邦学习进行结合。在该异步联邦优化过程中，所有空闲设备被用于异步模型训练，服务器使用加权平均来更新全局模型，有效提高了模型训练效率。

虽然本发明已以较佳实施例揭露如上，然其并非用以限定本发明。本发明所属技术领域中具有通常知识者，在不脱离本发明的精神和范围内，当可作各种的更动与润饰。因此，本发明的保护范围当视权利要求书所界定者为准。

Claims (9)

1.一种面向边缘计算的联邦学习方法，其特征在于，所述方法包括：

处于空闲的所有设备主动向服务器获取当前全局模型，按照预设的优化目标在本地异步执行模型训练，再将训练好的局部模型上传服务器；所述服务器接收任意一个设备上传的模型式，采用加权平均的方法更新全局模型。

2.根据权利要求1所述的面向边缘计算的联邦学习方法，其特征在于，所述方法还包括：

S1，服务器初始化全局模型；

S2，服务器接收空闲的边缘设备向服务器发送的获取训练任务请求，将接收到的获取训练任务请求放入请求队列；

S3，服务器的协调程序依次从请求队列中选取获取训练任务请求，从获取训练任务请求中提取设备信息，将当前全局模型发送给对应的边缘设备，使该边缘设备在本地异步训练接收到的当前全局模型，得到更新后的局部模型；

S4，服务器的更新程序接收到任意一个设备上传的更新后的局部模型，采用加权平均方法更新当前全局模型，转入步骤S2，直至服务器上的全局模型达到预期性能。

3.根据权利要求2所述的面向边缘计算的联邦学习方法，其特征在于，所述协调程序和更新程序并行运行。

4.根据权利要求2所述的面向边缘计算的联邦学习方法，其特征在于，步骤S3中，所述边缘设备在本地对接收到的模型进行异步训练后，按照接收到模型的时间戳h生成更新后的局部模型(ω_net，h)，ω_new是训练后得到的局部模型。

5.根据权利要求2所述的面向边缘计算的联邦学习方法，其特征在于，所述采用加权平均的方法更新全局模型是指：

设其中一个设备上传至服务器的本地模型为(ω_new，h)，采用下述公式更新当前全局模型ω_t：

ω_t＝α_tω_new+(1-α_t)ω_t-1

其中，α_t←α×(t-h+1)^-0.5，α∈(0,1)。

6.根据权利要求1-5任意一项中所述的面向边缘计算的联邦学习方法，其特征在于，所述预设的优化目标为：

其中

k为第k个设备

其中N为联邦学习环境中所有边缘设备的总数；x_k是第k个设备所拥有的数据D_k分布下的样本；ω为全局模型的权重，F(ω)则为在权重ω下的全局局模型的损失；f(ω；x_k)表示第k个设备在使用其参数为ω的模型对样本x_k进行推断的损失，则

表示第k个设备在样本x_k服从本地数据D_k分布下损失的期望。

7.根据权利要求6所述的面向边缘计算的联邦学习方法，其特征在于，所述方法还包括：

引入惩罚项，将所述预设的优化目标更新为：

其中，λ≥0，在训练过程根据损失大小的变化以预设步长自动调整其大小。

8.根据权利要求7所述的面向边缘计算的联邦学习方法，其特征在于，所述预设步长为0.005。

9.一种面向边缘计算的联邦学习系统，其特征在于，所述系统包括服务器和N个边缘设备，所述N为大于1的正整数；

所述边缘设备包括空闲和忙碌两种工作状态；

所述服务器包括初始化模块、请求处理模块、请求队列、协调模块和更新模块；

所述初始化模块用于初始化全局模型；

所述请求处理模块用于接收空闲的边缘设备向服务器发送的获取训练任务请求，将接收到的获取训练任务请求放入请求队列；

所述协调模块用于依次从请求队列中选取获取训练任务请求，从获取训练任务请求中提取设备信息，将当前全局模型发送给对应的边缘设备，使该边缘设备在本地异步训练接收到的当前全局模型，得到更新后的局部模型；

所述更新模块用于接收到任意一个设备上传的更新后的局部模型，采用加权平均方法更新当前全局模型，发布下一轮全局训练指令直至服务器上的全局模型达到预期性能。

Images