CN110378488A - 客户端变化的联邦训练方法、装置、训练终端及存储介质 - Google Patents

Abstract

本发明公开了一种客户端变化的联邦训练方法，通过检测参与本轮联邦迭代训练的客户端是否发生变化；当检测到参与本轮联邦迭代训练的客户端发生变化时，获取所述客户端发生变化的变化类型；根据所述变化类型，确定本轮联邦迭代训练的目标全局模型；根据所述目标全局模型，进行本轮联邦迭代训练，以得到待训练的联邦学习模型的最终参数。本发明还公开了一种客户端变化的联邦训练装置、训练终端以及存储介质。本发明解决了参与联邦的训练客户端变化时，采用现有的联邦训练方法得到的最终模型参数可靠性低的技术问题。

Description

客户端变化的联邦训练方法、装置、训练终端及存储介质

技术领域

本发明涉及人工智能技术领域，尤其涉及金融科技(Fintech)技术领域，具体涉及一种客户端变化的联邦训练方法、装置、训练终端及存储介质。

背景技术

随着金融科技(Fintech)，尤其是互联网科技金融的不断发展，越来越多的技术应用在金融领域。

联邦模型是利用技术算法加密建造的机器学习模型，联邦学习系统中的多个联邦客户端在模型训练时不用给出己方数据，而是根据协作端下发的参数加密的全局模型和客户端本地的数据集来训练本地模型，并返回本地模型参数供协作端聚合更新全局模型，更新后的全局模型重新下发到客户端，循环往复，直到收敛。联邦学习通过加密机制下参数交换的方式保护客户端数据隐私，客户端数据和客户端的本地模型本身不会进行传输，本地数据不会被反猜，联邦模型在较高程度保持数据完整性的同时，保障了数据隐私。

按照学习任务的不同，可以将联邦训练分为离线联邦训练和在线联邦训练。离线联邦训练在训练过程中客户端保持固定不变，而在线联邦训练在训练过程中客户端并不固定，在线联邦训练在训练过程中客户端可以随意地增加或删除。由于在线联邦训练在训练过程中客户端在不断地发生变化，若按照正常的模型训练过程进行训练，则可能会影响联邦模型的模型参数，导致待训练的联邦学习模型最终参数的可靠性低。

上述内容仅用于辅助理解本发明的技术方案，并不代表承认上述内容是现有技术。

发明内容

本发明的主要目的在于提供一种客户端变化的联邦训练方法，旨在解决参与联邦的训练客户端变化时，采用现有的联邦训练方法得到的最终模型参数可靠性低的技术问题。

为实现上述目的，本发明提供一种客户端变化的联邦训练方法，包括：

检测参与本轮联邦迭代训练的客户端是否发生变化；

当检测到参与本轮联邦迭代训练的客户端发生变化时，获取所述客户端发生变化的变化类型；

根据所述变化类型，确定本轮联邦迭代训练的目标全局模型；

根据所述目标全局模型，进行本轮联邦迭代训练，以得到待训练的联邦学习模型的最终参数。

可选地，所述当检测到参与本轮联邦迭代训练的客户端发生变化时，获取所述客户端发生变化的变化类型的步骤包括：

当检测到参与本轮联邦迭代训练的客户端发生变化时，检测参与本轮联邦学习训练的客户端中是否存在新增客户端；

若检测到参与本轮联邦迭代训练的客户端中存在新增客户端，则确定所述客户端发生变化的变化类型为增量变化；

若检测到参与本轮联邦迭代训练的客户端中不存在新增客户端，则确定所述客户端发生变化的变化类型为删除变化。

可选地，所述根据所述变化类型，确定本轮联邦迭代训练的目标全局模型的步骤包括：

若所述变化类型为所述增量变化，则获取待训练的联邦学习模型的初始全局模型；

根据所述初始全局模型，确定本轮联邦迭代训练的目标全局模型。

可选地，所述根据所述变化类型，确定本轮联邦迭代训练的目标全局模型的步骤包括：

若所述变化类型为所述删除变化，则获取上一轮联邦迭代训练聚合后得到的聚合全局模型；

根据所述聚合全局模型，确定本轮联邦迭代训练的目标全局模型。

可选地，所述根据所述目标全局模型，进行本轮联邦迭代训练，以得到待训练的联邦学习模型的最终参数的步骤包括：

将所述目标全局模型发送至参与本轮联邦迭代训练的各个客户端；

获取参与本轮联邦迭代训练的各个客户端基于所述目标全局模型反馈的损失值；

根据所述损失值，确定待训练的联邦学习模型的最终参数。

可选地，其特征在于，所述检测参与本轮联邦迭代训练的客户端是否发生变化的步骤包括：

获取参与上一轮联邦迭代训练的各个历史客户端；

获取参与本轮联邦迭代训练的各个目标客户端；

检测是否每一个所述历史客户端均存在映射相同的所述目标客户端；

若检测到一个或以上的所述历史客户端不存在映射相同的所述目标客户端，则确定参与本轮联邦迭代训练的客户端发生变化。

可选地，所述检测是否每一个所述历史客户端均存在映射相同的所述目标客户端的步骤之后还包括：

若检测到每一个所述历史客户端均存在映射相同的所述目标客户端，则检测是否每一个所述目标客户端均存在映射相同的所述历史客户端；

若每一个所述目标客户端均存在映射相同的所述历史客户端，则确定参与本轮联邦迭代训练的客户端未发生变化；

所述根据所述目标全局模型，进行本轮联邦迭代训练，以得到待训练的联邦学习模型的最终参数的步骤之前还包括：

获取上一轮联邦迭代训练聚合后的聚合全局模型，以作为本轮联邦迭代训练的目标全局模型。

此外，为实现上述目的，本发明还提供一种客户端变化的联邦训练装置，所述客户端变化的联邦训练装置包括：

检测模块，用于检测参与本轮联邦迭代训练的客户端是否发生变化；

变化类型获取模块，用于当检测到参与本轮联邦迭代训练的客户端发生变化时，获取所述客户端发生变化的变化类型；

模型确定模块，用于根据所述变化类型，确定本轮联邦迭代训练的目标全局模型；

迭代训练模块，用于根据所述目标全局模型，进行本轮联邦迭代训练，以得到待训练的联邦学习模型的最终参数。

此外，为实现上述目的，本发明还提供一种训练终端，所述训练终端包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的客户端变化的联邦训练程序，所述客户端变化的联邦训练程序被所述处理器执行时实现如上所述的客户端变化的联邦训练方法的步骤。

此外，为实现上述目的，本发明还提供一种存储介质，所述存储介质上存储有客户端变化的联邦训练程序，所述客户端变化的联邦训练程序被处理器执行时实现如上所述的客户端变化的联邦训练方法的步骤。

本发明实施例提出的一种客户端变化的联邦训练方法、装置、训练终端及存储介质，通过检测参与本轮联邦迭代训练的客户端是否发生变化，并获取参与本轮联邦迭代训练的客户端发生变化的变化类型，确定不同的全局模型作为本轮联邦迭代训练的目标全局模型，采用目标全局模型进行本轮联邦迭代训练，以得到待训练的联邦学习模型的最终参数。从而避免了由于客户端删除或客户端增加时，保持采用上一轮联邦迭代训练聚合更新后的全局模型进行本轮联邦迭代训练，会给联邦迭代训练过程造成的数据误差，影响联邦模型的模型参数，导致待训练的联邦学习模型最终参数的可靠性低的问题。

附图说明

图1为本发明客户端变化的联邦训练方法第一实施例的流程示意图；

图2为本发明客户端变化的联邦训练方法第一实施例中参与联邦训练过程的客户端变化示意图；

图3为本发明客户端变化的联邦训练装置优选实施例的功能模块示意图；

图4为本发明实施例方案涉及的训练终端的硬件运行环境的结构示意图。

本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。

具体实施方式

应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

本发明提供一种客户端变化的联邦训练方法，参照图1，图1为本发明客户端变化的联邦训练方法较佳实施例的流程示意图。

本发明实施例提供了客户端变化的联邦训练方法的实施例，需要说明的是，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

客户端变化的联邦训练方法应用于服务器或者训练终端中，训练终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(Personal Digital Assistant，PDA)等移动终端，以及诸如数字TV、台式计算机等固定终端。在客户端变化的联邦训练方法的各个实施例中，为了便于描述，以训练终端为执行主体进行阐述各个实施例。在本发明客户端变化的联邦训练方法第一实施例中，所述客户端变化的联邦训练方法包括：

步骤S10，检测参与本轮联邦迭代训练的客户端是否发生变化；

在对待训练的联邦学习模型进行联邦训练的过程中，若进行的联邦训练为在线联邦训练，则参与上一轮联邦迭代训练的客户端，在本轮联邦迭代训练中可能会出现掉线的情况，或者没有加入上一轮联邦迭代训练的客户端，在本轮联邦迭代训练中新增进来。

为了方便理解，参照图2，图2为参与联邦训练过程的客户端变化的示意图。例如，对待训练的联邦学习模型进行联邦训练的过程共包括：第一阶段S1、第二阶段S2、第三阶段S3和第四阶段S4。在第一阶段的第一轮至第三轮联邦迭代训练的客户端为：m1、m2、m3；在第二阶段的第一轮至第四轮联邦迭代训练的客户端为：m1、m3；在第三阶段的第一轮至第二轮联邦迭代训练的客户端为：m1、m3、m4；在第四阶段的第一轮至第四轮联邦迭代训练的客户端为：m1、m4、m5。则：

由第一阶段的第三轮联邦迭代训练进入至第二阶段的第一轮联邦迭代训练时，删除了客户端m2；

由第二阶段的第四轮联邦迭代训练进入至第三阶段的第一轮联邦迭代训练时，增加了客户端m4；

由第三阶段的第二轮联邦迭代训练进入至第四阶段的第一轮联邦迭代训练时，删除了客户端m3，并增加了客户端m4。

其中，第一阶段进入第二阶段、第二阶段进入第三阶段或第三阶段进入第四阶段，均表示客户端发生变化。

在线联邦训练的联邦迭代训练过程中，往往会存在客户端新增或客户端删除等客户端变化。为了避免由于客户端变化，对待训练的联邦学习模型的最终参数造成影响，在本发明实施例中，通过检测出客户端的变化情况，并针对客户端的变化情况，进行下一轮的联邦迭代训练。

首先，检测出参与本轮联邦迭代训练的客户端是否发生变化。具体地，一种实施方式为，获取参与上一轮联邦迭代训练的各个客户端，并获取参与本轮联邦迭代训练的各个客户端，检测参与本轮联邦迭代训练的客户端是否与上一轮联邦迭代训练的客户端完全相同(包括数量相同)，即检测参与本轮联邦迭代训练的客户端是否均参与了上一轮联邦迭代训练，且参与了上一轮联邦迭代训练的客户端是否均参与本轮联邦迭代训练。

若存在一个或以上参与本轮联邦迭代训练的客户端未参与上一轮联邦迭代训练，或者存在一个或以上参与上一轮联邦迭代训练的客户端未参与本轮联邦迭代训练，则确定参与本轮联邦迭代训练的客户端发生变化。若参与本轮联邦迭代训练的客户端均参与了上一轮联邦迭代训练，且参与了上一轮联邦迭代训练的客户端均参与本轮联邦迭代训练，则确定参与本轮联邦迭代训练的客户端未发生变化。

一种实施方式为，检测参与本轮联邦迭代训练的客户端数量是否与上一轮联邦迭代训练的客户端数量相同。

若检测到参与本轮联邦迭代训练的客户端数量与上一轮联邦迭代训练的客户端数量不相同，则确定参与本轮联邦迭代训练的客户端发生变化。

若检测到参与本轮联邦迭代训练的客户端数量与上一轮联邦迭代训练的客户端数量相同，则获取参与本轮联邦迭代训练的本轮客户端的标识和上一轮联邦迭代训练的上一轮客户端的标识，并检测是否每个本轮客户端均存在一个与之标识相同的上一轮客户端。

若检测到每个本轮客户端均存在一个与之标识相同的上一轮客户端，则确定参与本轮联邦迭代训练的客户端未发生变化。若检测到一个或以上本轮客户端不存在一个与之标识相同的上一轮客户端，则确定参与本轮联邦迭代训练的客户端发生变化。

步骤S20，当检测到参与本轮联邦迭代训练的客户端发生变化时，获取所述客户端发生变化的变化类型；

其中，变化类型，是指相对于上一轮联邦迭代训练的客户端，本轮联邦迭代训练客户端增加或客户端删除的情况；在本发明实施例中，变化类型包括增量变化和删除变化，变化类型为增量变化是指：只存在客户端增加的情况，或同时存在客户端增加和客户端删除的情况；变化类型为删除变化是指：只存在客户端删除的情况。

具体地，一种实施方式为，当检测到参与本轮联邦迭代训练的客户端发生变化时，检测参与本轮联邦迭代训练的每个客户端是否均为参与上一轮联邦迭代训练的客户端。

若检测到参与本轮联邦迭代训练的每个客户端均为参与上一轮联邦迭代训练的客户端，则确定参与本轮联邦迭代训练的客户端发生变化的变化类型为删除变化。若检测到参与本轮联邦迭代训练的其中一个或者多个客户端不是参与上一轮联邦迭代训练的客户端，则确定参与本轮联邦迭代训练的客户端发生变化的变化类型为增量变化。

一种实施方式为，当检测到参与本轮联邦迭代训练的客户端发生变化时，检测参与本轮联邦学习训练的客户端中是否存在新增客户端。

若检测到参与本轮联邦迭代训练的客户端中存在新增客户端，则确定客户端发生变化的变化类型为增量变化。若检测到参与本轮联邦迭代训练的客户端中不存在新增客户端，则确定客户端发生变化的变化类型为删除变化。其中，新增客户端，是指参与本轮联邦迭代训练，但未参与上一轮联邦迭代训练的客户端。

步骤S30，根据所述变化类型，确定本轮联邦迭代训练的目标全局模型；

具体地，一种实施方式为，若检测到参与本轮联邦迭代训练的客户端发生变化的变化类型为增量变化，则获取待训练的联邦学习模型的初始全局模型，以作为目标全局模型。

一种实施方式为，若检测到参与本轮联邦迭代训练的客户端发生变化的变化类型为删除变化，则获取上一轮联邦迭代训练聚合后得到的聚合全局模型，以作为目标全局模型。

其中，目标全局模型，是指用于本轮联邦迭代训练的全局模型。

初始全局模型，是指在对待训练的联邦学习模型进行联邦训练过程中，第一次迭代训练时采用的全局模型。

聚合全局模型，是指在进行本轮联邦迭代训练的前一轮联邦迭代训练时，在协作端聚合更新后的全局模型。

步骤S40，根据所述目标全局模型，进行本轮联邦迭代训练，以得到待训练的联邦学习模型的最终参数。

将目标全局模型分别发送至参与本轮联邦迭代训练的各个客户端，以供参与联邦迭代训练的每个客户端在接收到目标全局模型后，基于目标全局模型和客户端本地的数据集来训练本地模型，并返回本地模型参数。获取每个客户端基于目标全局模型反馈的本地模型参数，并根据各个客户端反馈的本地模型参数确定待训练的联邦学习模型是否收敛。

若确定待训练的联邦学习模型收敛，则将目标全局模型的模型参数作为待训练的联邦学习模型的最终参数。若待训练的联邦学习模型未收敛，则根据各个客户端反馈的本地模型参数进行聚合，以更新目标全局模型。其中，本地模型参数包括损失值和梯度值。

其中，最终参数，是指经过联邦迭代训练后，待训练的联邦学习模型达到收敛状态时的模型参数。

在本实施例中，通过检测参与本轮联邦迭代训练的客户端是否发生变化，并获取参与本轮联邦迭代训练的客户端发生变化的变化类型，确定不同的全局模型作为本轮联邦迭代训练的目标全局模型，采用目标全局模型进行本轮联邦迭代训练，以得到待训练的联邦学习模型的最终参数。从而避免了由于客户端删除或客户端增加时，保持采用上一轮联邦迭代训练聚合更新后的全局模型进行本轮联邦迭代训练，会给联邦迭代训练过程造成的数据误差，影响联邦模型的模型参数，导致待训练的联邦学习模型最终参数的可靠性低的问题。

进一步地，基于上述第一实施例，提出本发明客户端变化的联邦训练方法的第二实施例，步骤S20包括：

步骤A1，当检测到参与本轮联邦迭代训练的客户端发生变化时，检测参与本轮联邦学习训练的客户端中是否存在新增客户端；

其中，新增客户端，是指参与本轮联邦迭代训练，但未参与上一轮联邦迭代训练的客户端。

一种实施方式为，当检测到参与本轮联邦迭代训练的客户端发生变化时，检测到参与本轮联邦迭代训练的每个客户端均为参与上一轮联邦迭代训练的客户端。具体地，检测参与本轮联邦迭代训练的客户端是否为参与上一轮联邦迭代训练的客户端的一种实施方式为：逐个获取参与本轮联邦迭代训练的客户端，并遍历参与上一轮联邦迭代训练的客户端，检测参与上一轮联邦迭代训练的客户端中，是否存在与该客户端相同的客户端。

若检测到参与本轮联邦迭代训练的每个客户端均为参与上一轮联邦迭代训练的客户端，则确定参与本轮联邦学习训练的客户端中不存在新增客户端。若检测到参与本轮联邦迭代训练的其中一个或者多个客户端不是参与上一轮联邦迭代训练的客户端，则确定参与本轮联邦迭代训练的客户端中，存在新增客户端。

一种实施方式为，当检测到参与本轮联邦迭代训练的客户端发生变化时，检测到参与本轮联邦迭代训练的客户端中，是否存在与上一轮联邦迭代训练的客户端中不同的客户端。若检测到参与本轮联邦迭代训练的客户端中，存在与上一轮联邦迭代训练的客户端中不同的客户端，则确定参与本轮联邦迭代训练的客户端中，存在新增客户端。若检测到参与本轮联邦迭代训练的客户端中，不存在与上一轮联邦迭代训练的客户端中不同的客户端，则确定参与本轮联邦迭代训练的客户端中，不存在新增客户端。

步骤A2，若检测到参与本轮联邦迭代训练的客户端中存在新增客户端，则确定所述客户端发生变化的变化类型为增量变化；

具体地，一种实施方式为，若检测到参与本轮联邦迭代训练的客户端中存在新增客户端(即由上一轮联邦迭代训练进入本轮联邦迭代训练存在客户端增加的情况)，同时由上一轮联邦迭代训练进入本轮联邦迭代训练存在客户端删除的情况，则确定参与本轮联邦迭代训练的客户端发生变化的变化类型为增量变化。

一种实施方式，若检测到参与本轮联邦迭代训练的客户端中存在新增客户端，并且由上一轮联邦迭代训练进入本轮联邦迭代训练不存在客户端删除的情况，即由上一轮联邦迭代训练进入本轮联邦迭代训练只存在客户端增加的情况，则确定参与本轮联邦迭代训练的客户端发生变化的变化类型为增量变化。

其中，增量变化，是指由上一轮联邦迭代训练进入本轮联邦迭代训练只存在客户端增加的情况，或者由上一轮联邦迭代训练进入本轮联邦迭代训练存在客户端增加的情况，并且由上一轮联邦迭代训练进入本轮联邦迭代训练存在客户端删除的情况。

步骤A3，若检测到参与本轮联邦迭代训练的客户端中不存在新增客户端，则确定所述客户端发生变化的变化类型为删除变化。

若检测到参与本轮联邦迭代训练的客户端中不存在新增客户端，即由上一轮联邦迭代训练进入本轮联邦迭代训练只存在客户端删除的情况，则确定参与本轮联邦迭代训练的客户端发生变化的变化类型为删除变化。

其中，删除变化，是指由上一轮联邦迭代训练进入本轮联邦迭代训练只存在客户端删除的情况。

在本实施例中，通过检测参与本轮联邦学习训练的客户端中是否存在新增客户端，从而确定由上一轮联邦迭代训练进入本轮联邦迭代训练，客户端增加或减少的情况，以确定参与本轮联邦迭代训练的客户端发生变化的变化类型为增量变化或删除变化，为后续确定本轮联邦迭代训练的目标全局模型提供了准确的数据依据。

进一步地，基于上述第二实施例，提出本发明客户端变化的联邦训练方法的第三实施例，步骤S30包括：

若所述变化类型为所述增量变化，则获取待训练的联邦学习模型的初始全局模型；

根据所述初始全局模型，确定本轮联邦迭代训练的目标全局模型。

具体地，一种实施方式为，若参与本轮联邦迭代训练的客户端发生变化的变化类型为增量变化，且增量变化为：由上一轮联邦迭代训练进入本轮联邦迭代训练存在客户端增加的情况，同时由上一轮联邦迭代训练进入本轮联邦迭代训练存在客户端删除的情况，则获取对待训练的联邦学习模型进行联邦训练过程中，第一次迭代训练时采用的全局模型(即待训练的联邦学习模型的初始全局模型)，以作为本轮联邦迭代训练的目标全局模型。

一种实施方式为，若参与本轮联邦迭代训练的客户端发生变化的变化类型为增量变化，且增量变化为：由上一轮联邦迭代训练进入本轮联邦迭代训练存在客户端增加的情况，由上一轮联邦迭代训练进入本轮联邦迭代训练不存在客户端删除的情况，则获取对待训练的联邦学习模型进行联邦训练过程中，第一次迭代训练时采用的全局模型(即待训练的联邦学习模型的初始全局模型)，以作为本轮联邦迭代训练的目标全局模型。

在本实施例中，当参与本轮联邦迭代训练的客户端发生变化的变化类型为增量变化时，即相对于上一轮联邦迭代训练，出现新的客户端参与本轮联邦迭代时，获取待训练的联邦学习模型的初始全局模型进行联邦迭代训练，避免了中途新加入的客户端的数据对当前联邦迭代训练的模型参数造成影响，导致联邦学习模型的最终参数可靠性低。

进一步地，基于上述第二实施例，提出本发明客户端变化的联邦训练方法的第四实施例，步骤S30包括：

若所述变化类型为所述删除变化，则获取上一轮联邦迭代训练聚合后得到的聚合全局模型；

根据所述聚合全局模型，确定本轮联邦迭代训练的目标全局模型。

若参与本轮联邦迭代训练的客户端发生变化的变化类型为删除变化，即由上一轮联邦迭代训练进入本轮联邦迭代训练只存在客户端删除的情况，不存在客户端增加的情况，则获取在进行本轮联邦迭代训练的前一轮联邦迭代训练时，在协作端聚合更新后的全局模型(即上一轮联邦迭代训练聚合后得到的聚合全局模型)，以作为本轮联邦迭代训练的目标全局模型。

其中，聚合全局模型，是指相对于本轮联邦迭代训练而言，上一轮联邦迭代训练在协作端聚合更新后的全局模型。

在本实施例中，当参与本轮联邦迭代训练只是发生了删除客户端的变化，并没有新加入客户端，不会对当前联邦迭代训练的模型参数造成影响；故针对参与本轮联邦迭代训练的客户端只发生了删除变化，采用上一轮迭代训练聚合更新后的聚合全局模型作为目标全局模型；以避免客户端只发生了变化情况下(即不会有新增客户端对当前联邦迭代训练的模型参数造成影响情况下)，依然采用待训练的联邦学习模型的初始全局模型进行联邦迭代训练，造成重复的联邦迭代训练，影响待训练的联邦学习模型的训练效率。

进一步地，基于上述第一实施例，提出本发明客户端变化的联邦训练方法的第五实施例，步骤S40包括：

步骤B1，将所述目标全局模型发送至参与本轮联邦迭代训练的各个客户端；

将目标全局模型分别发送至参与本轮联邦迭代训练的各个客户端，以供参与联邦迭代训练的每个客户端在接收到目标全局模型后，基于目标全局模型和客户端本地的数据集来训练本地模型，并返回本地模型参数。其中，本地模型参数包括损失值和梯度值。

步骤B2，获取参与本轮联邦迭代训练的各个客户端基于所述目标全局模型反馈的损失值；

获取每个客户端基于目标全局模型反馈的本地模型参数，并根据每个客户端反馈的本地模型参数，确定该客户端基于目标全局模型反馈的损失值。

步骤B3，根据所述损失值，确定待训练的联邦学习模型的最终参数。

在得到各个客户端基于目标全局模型反馈的损失值后，将各个损失值相加后得到损失和。并检测损失和是否小于预设阈值，以确定待训练的联邦学习模型是否收敛。其中，预设阈值可以根据模型的精度需求进行设置，在本实施例中对预设阈值的数值不作具体限制。

若检测到损失和小于预设阈值，则确定待训练的联邦学习模型收敛，则将目标全局模型的模型参数作为待训练的联邦学习模型的最终参数。

若若检测到损失和大于或等于预设阈值，则确定待训练的联邦学习模型未收敛。根据各个客户端反馈的本地模型参数进行聚合，以更新目标全局模型，得到本轮联邦迭代训练在协作端聚合后的聚合全局模型，并继续进行下一轮的联邦迭代训练，继续执行以上步骤S10及之后的各步骤，直至待训练的联邦学习模型收敛，并在待训练的联邦学习模型收敛时，获取目标全局模型的模型参数作为待训练的联邦学习模型的最终参数。

在本实施例中，在针对不同的客户端变化情况，确定不同的目标全局模型后，将目标全局模型作为本轮联邦迭代训练的全局模型进行联邦训练，以确定待训练的联邦学习模型的最终参数，从而使得不同的客户端变化情况，不会对当前联邦迭代训练的模型参数造成影响，进而提高了待训练的联邦学习模型训练结果的可靠性。

进一步地，基于上述第一实施例、第二实施例、第三实施例、第四实施例或第五实施例，提出本发明客户端变化的联邦训练方法的第六实施例，步骤S10包括：

步骤C1，获取参与上一轮联邦迭代训练的各个历史客户端；

获取参与上一轮联邦迭代训练的各个客户端，并将参与上一轮联邦迭代训练的每个客户端作为一个历史客户端。

其中，历史客户端，是指相对本轮联邦迭代训练而言，参与至上一轮联邦迭代训练中的客户端。

步骤C2，获取参与本轮联邦迭代训练的各个目标客户端；

获取参与本轮联邦迭代训练的各个客户端，并将参与本轮联邦迭代训练的每个客户端作为一个目标客户端。

其中，目标客户端，是指准备参与到本轮联邦迭代训练中的客户端。历史客户端和目标客户端都是指参与联邦迭代训练的客户端，不同的是，目标客户端是指参与本轮联邦迭代训练的客户端，而历史客户端是指相对于本轮联邦迭代训练而言，参与上一轮联邦迭代训练的客户端。

步骤C3，检测是否每一个所述历史客户端均存在映射相同的所述目标客户端；

其中，映射相同，是指针对每一个不同的历史客户端，在各个目标客户端中均存在且只存在一个与之相同的目标客户端。

从各个历史客户端中，逐次获取一个历史客户端，将每个历史客户端分别各个目标客户端进行对比，确定在各个目标客户端中是否存在与之映射相同的客户端。同理，检测每个历史客户端是否存在与之映射相同的目标客户端。

步骤C4，若检测到一个或以上的所述历史客户端不存在映射相同的所述目标客户端，则确定参与本轮联邦迭代训练的客户端发生变化。

若检测到在各个历史客户端中，有一个或一个以上的历史客户端不存在有映射相同关系的目标客户端，则确定相对上一轮联邦迭代训练，参与本轮联邦迭代训练的客户端发生了变化。

若检测到每一个历史客户端均存在映射相同的目标客户端，则进一步检测各个目标客户端中，是否每一个目标客户端均存在映射相同的历史客户端。若各个目标客户端中，每一个目标客户端均存在映射相同的历史客户端，则确定参与本轮联邦迭代训练的客户端未发生变化。若检测到各个目标客户端中，有一个或一个以上的目标客户端不存在有映射相同关系的历史客户端，则确定参与本轮联邦迭代训练的客户端发生了变化。

在本实施例中，通过检测每一个历史客户端均存在映射相同的目标客户端，并且每一个目标客户端均存在映射相同的历史客户端，从而确定参与本轮联邦迭代训练的客户端与上一轮联邦迭代训练的客户端是否完全相同(包括数量相同)，进而精准地确定相对上一轮联邦迭代训练而言，本轮联邦迭代训练的客户端是否发生变化，为后续确定目标全局模型提供了精准的数据依据。

进一步地，基于上述第七实施例，提出本发明客户端变化的联邦训练方法的第八实施例，步骤C3之后还包括：

步骤C5，若检测到每一个所述历史客户端均存在映射相同的所述目标客户端，则检测是否每一个所述目标客户端均存在映射相同的所述历史客户端；

若检测到每一个历史客户端均存在映射相同的目标客户端，则进一步检测各个目标客户端中，是否每一个目标客户端均存在映射相同的历史客户端，以供后续确定参与本轮联邦迭代训练的客户端是否发生变化。

步骤C6，若每一个所述目标客户端均存在映射相同的所述历史客户端，则确定参与本轮联邦迭代训练的客户端未发生变化；

若检测到每一个历史客户端均存在映射相同的目标客户端，并且每一个目标客户端均存在映射相同的历史客户端，则确定参与本轮联邦迭代训练的客户端未发生变化。若检测到每一个历史客户端均存在映射相同的目标客户端，但在各个目标客户端中，有一个或一个以上的目标客户端不存在有映射相同关系的历史客户端，则确定参与本轮联邦迭代训练的客户端发生了变化。

步骤S40之前还包括：

获取上一轮联邦迭代训练聚合后的聚合全局模型，以作为本轮联邦迭代训练的目标全局模型。

在检测到参与本轮联邦迭代训练的客户端未发生变化情况下，则获取相对于本轮联邦迭代训练而言的上一轮联邦迭代训练在协作端聚合后的聚合全局模型，作为本轮联邦迭代训练的目标全局模型。并根据确定目标全局模型，进行本轮联邦迭代训练，以得到待训练的联邦学习模型的最终参数。

在本实施例中，针对参与本轮联邦迭代训练的客户端未发生变化情况下，获取上一轮联邦迭代训练聚合后的聚合全局模型作为本轮联邦迭代训练的目标全局模型，进行本轮联邦迭代训练，从而保证了待训练的联邦学习模型的训练过程顺利进行，得出可靠性高的待训练的联邦学习模型参数。

此外，本发明实施例还提出一种客户端变化的联邦训练装置。

参照图3，图3为本发明客户端变化的联邦训练装置优选实施例的功能模块示意图。

本实施例中，客户端变化的联邦训练装置包括：

检测模块10，用于检测参与本轮联邦迭代训练的客户端是否发生变化；

变化类型获取模块20，用于当检测到参与本轮联邦迭代训练的客户端发生变化时，获取所述客户端发生变化的变化类型；

模型确定模块30，用于根据所述变化类型，确定本轮联邦迭代训练的目标全局模型；

迭代训练模块40，用于根据所述目标全局模型，进行本轮联邦迭代训练，以得到待训练的联邦学习模型的最终参数

进一步的，所述变化类型获取模块20包括：

第一检测单元，用于当检测到参与本轮联邦迭代训练的客户端发生变化时，检测参与本轮联邦学习训练的客户端中是否存在新增客户端；

第一类型确定单元，用于若检测到参与本轮联邦迭代训练的客户端中存在新增客户端，则确定所述客户端发生变化的变化类型为增量变化；

第二类型确定单元，用于若检测到参与本轮联邦迭代训练的客户端中不存在新增客户端，则确定所述客户端发生变化的变化类型为删除变化。

进一步的，所述模型确定模块30包括：

第一模型确定单元，用于若所述变化类型为所述增量变化，则获取待训练的联邦学习模型的初始全局模型；

根据所述初始全局模型，确定本轮联邦迭代训练的目标全局模型。

进一步的，所述模型确定模块30包括：

第二模型确定单元，用于若所述变化类型为所述删除变化，则获取上一轮联邦迭代训练聚合后得到的聚合全局模型；

根据所述聚合全局模型，确定本轮联邦迭代训练的目标全局模型。

进一步的，所述迭代训练模块40包括：

发送单元，用于将所述目标全局模型发送至参与本轮联邦迭代训练的各个客户端；

第一获取单元，用于获取参与本轮联邦迭代训练的各个客户端基于所述目标全局模型反馈的损失值；

模型参数确定单元，用于根据所述损失值，确定待训练的联邦学习模型的最终参数。

进一步的，所述检测模块10包括：

第二获取单元，用于获取参与上一轮联邦迭代训练的各个历史客户端；

第三单元，用于获取参与本轮联邦迭代训练的各个目标客户端；

第二检测单元，用于检测是否每一个所述历史客户端均存在映射相同的所述目标客户端；

第一变化检测单元，用于若检测到一个或以上的所述历史客户端不存在映射相同的所述目标客户端，则确定参与本轮联邦迭代训练的客户端发生变化。

进一步的，所述检测模块10还包括：

第三检测单元，用于若检测到每一个所述历史客户端均存在映射相同的所述目标客户端，则检测是否每一个所述目标客户端均存在映射相同的所述历史客户端；

第二变化检测单元，用于若每一个所述目标客户端均存在映射相同的所述历史客户端，则确定参与本轮联邦迭代训练的客户端未发生变化；

所述模型确定模块30还用于获取上一轮联邦迭代训练聚合后的聚合全局模型，以作为本轮联邦迭代训练的目标全局模型。

如图4所示，图4是本发明实施例方案涉及的训练终端硬件运行环境的结构示意图。

本发明实施例训练终端可以是PC，也可以是智能手机、平板电脑、电子书阅读器、MP3(Moving Picture Experts Group Audio Layer III，动态影像专家压缩标准音频层面3)播放器、MP4(Moving Picture Experts Group Audio Layer IV，动态影像专家压缩标准音频层面3)播放器、便携计算机等可移动式终端设备。

如图4所示，该训练终端可以包括：处理器1001，例如CPU，网络接口1004，用户接口1003，存储器1005，通信总线1002。其中，通信总线1002用于实现这些组件之间的连接通信。用户接口1003可以包括显示屏(Display)、输入单元比如键盘(Keyboard)，可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。存储器1005可以是高速RAM存储器，也可以是稳定的存储器(non-volatile memory)，例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储装置。

可选地，训练终端还可以包括摄像头、RF(Radio Frequency，射频)电路，传感器、音频电路、WiFi模块等等。

本领域技术人员可以理解，图4中示出的训练终端结构并不构成对训练终端的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。

如图4所示，作为一种计算机存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及客户端变化的联邦训练程序。

在图4所示的训练终端中，网络接口1004主要用于连接后台服务器，与后台服务器进行数据通信；用户接口1003主要用于连接客户端(用户端)，与客户端进行数据通信；而处理器1001可以用于调用存储器1005中存储的客户端变化的联邦训练程序，并执行如上所述客户端变化的联邦训练方法的方法的步骤。

本发明训练终端具体实施方式与上述客户端变化的联邦训练方法各实施例基本相同，在此不再赘述。

此外，本发明实施例还提出一种存储介质，所述存储介质上存储有客户端变化的联邦训练程序，所述客户端变化的联邦训练程序被处理器执行时实现如上所述的客户端变化的联邦训练方法的步骤。

本发明存储介质具体实施方式可以参照上述客户端变化的联邦训练方法各实施例，在此不再赘述。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在如上所述的一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。

以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种客户端变化的联邦训练方法，其特征在于，所述客户端变化的联邦训练方法包括：

检测参与本轮联邦迭代训练的客户端是否发生变化；

当检测到参与本轮联邦迭代训练的客户端发生变化时，获取所述客户端发生变化的变化类型；

根据所述变化类型，确定本轮联邦迭代训练的目标全局模型；

根据所述目标全局模型，进行本轮联邦迭代训练，以得到待训练的联邦学习模型的最终参数。

2.如权利要求1所述的客户端变化的联邦训练方法，其特征在于，所述当检测到参与本轮联邦迭代训练的客户端发生变化时，获取所述客户端发生变化的变化类型的步骤包括：

当检测到参与本轮联邦迭代训练的客户端发生变化时，检测参与本轮联邦学习训练的客户端中是否存在新增客户端；

若检测到参与本轮联邦迭代训练的客户端中存在新增客户端，则确定所述客户端发生变化的变化类型为增量变化；

若检测到参与本轮联邦迭代训练的客户端中不存在新增客户端，则确定所述客户端发生变化的变化类型为删除变化。

3.如权利要求2所述的客户端变化的联邦训练方法，其特征在于，所述根据所述变化类型，确定本轮联邦迭代训练的目标全局模型的步骤包括：

若所述变化类型为所述增量变化，则获取待训练的联邦学习模型的初始全局模型；

根据所述初始全局模型，确定本轮联邦迭代训练的目标全局模型。

4.如权利要求2所述的客户端变化的联邦训练方法，其特征在于，所述根据所述变化类型，确定本轮联邦迭代训练的目标全局模型的步骤包括：

若所述变化类型为所述删除变化，则获取上一轮联邦迭代训练聚合后得到的聚合全局模型；

根据所述聚合全局模型，确定本轮联邦迭代训练的目标全局模型。

5.如权利要求1所述的客户端变化的联邦训练方法，其特征在于，所述根据所述目标全局模型，进行本轮联邦迭代训练，以得到待训练的联邦学习模型的最终参数的步骤包括：

将所述目标全局模型发送至参与本轮联邦迭代训练的各个客户端；

获取参与本轮联邦迭代训练的各个客户端基于所述目标全局模型反馈的损失值；

根据所述损失值，确定待训练的联邦学习模型的最终参数。

6.如权利要求1-5任一项所述的客户端变化的联邦训练方法，其特征在于，所述检测参与本轮联邦迭代训练的客户端是否发生变化的步骤包括：

获取参与上一轮联邦迭代训练的各个历史客户端；

获取参与本轮联邦迭代训练的各个目标客户端；

检测是否每一个所述历史客户端均存在映射相同的所述目标客户端；

若检测到一个或以上的所述历史客户端不存在映射相同的所述目标客户端，则确定参与本轮联邦迭代训练的客户端发生变化。

7.如权利要求6所述的客户端变化的联邦训练方法，其特征在于，所述检测是否每一个所述历史客户端均存在映射相同的所述目标客户端的步骤之后还包括：

若检测到每一个所述历史客户端均存在映射相同的所述目标客户端，则检测是否每一个所述目标客户端均存在映射相同的所述历史客户端；

若每一个所述目标客户端均存在映射相同的所述历史客户端，则确定参与本轮联邦迭代训练的客户端未发生变化；

所述根据所述目标全局模型，进行本轮联邦迭代训练，以得到待训练的联邦学习模型的最终参数的步骤之前还包括：

获取上一轮联邦迭代训练聚合后的聚合全局模型，以作为本轮联邦迭代训练的目标全局模型。

8.一种客户端变化的联邦训练装置，其特征在于，所述客户端变化的联邦训练装置包括：

检测模块，用于检测参与本轮联邦迭代训练的客户端是否发生变化；

变化类型获取模块，用于当检测到参与本轮联邦迭代训练的客户端发生变化时，获取所述客户端发生变化的变化类型；

模型确定模块，用于根据所述变化类型，确定本轮联邦迭代训练的目标全局模型；

迭代训练模块，用于根据所述目标全局模型，进行本轮联邦迭代训练，以得到待训练的联邦学习模型的最终参数。

9.一种训练终端，其特征在于，所述训练终端包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的客户端变化的联邦训练程序，所述客户端变化的联邦训练程序被所述处理器执行时实现如权利要求1至7中任一项所述的客户端变化的联邦训练方法的步骤。

10.一种存储介质，其特征在于，所述存储介质上存储有客户端变化的联邦训练程序，所述客户端变化的联邦训练程序被处理器执行时实现如权利要求1至7中任一项所述的客户端变化的联邦训练方法的步骤。