CN112801307A - 基于区块链的联邦学习方法、装置和计算机设备 - Google Patents

Abstract

本申请涉及一种基于区块链的联邦学习方法、装置、计算机设备和存储介质。所述方法包括：第一个共识节点对联邦模型进行训练，获取梯度值，并加密后发送至区块链系统；从第二个共识节点开始，共识节点按预设顺序获取前一个共识节点的梯度值并进行解密，将解密后的梯度值与本节点对联邦模型进行训练获取的梯度值相加后再次进行加密后发送至区块链，直至最后一个共识节点发送最新加密后的梯度值至区块链；第一个共识节点将最后一个共识节点发送至区块链的加密后的梯度值进行解密，获取最终梯度值，并发送至所述区块链；所有共识节点从区块链获取最终梯度值，根据最终梯度值对模型进行更新。采用本方法能够降低梯度数据泄露和被劫持的风险。

Description

基于区块链的联邦学习方法、装置和计算机设备

技术领域

本申请涉及区块链技术领域，特别是涉及一种基于区块链的联邦学习方法、装置、计算机设备和存储介质。

背景技术

联邦学习致力于解决多用户在不公开各自数据集的情形下，协同完成模型的训练。例如在电商场景中，各商家拥有不同的样本数据。每家拥有的数据量有限，如果仅仅基于自身的数据来训练模型，受样本量的限制，模型精度难以达到预期的水平。如果能将各家数据聚合来训练，则可以大幅提升模型精度。然而这不可能实现，因为出于商家的竞争以及对数据隐私的监管，商家不会将自身的数据对外发布。联邦学习的出现，使得商家在不泄露自身数据的情形下，共同训练机器学习模型成为可能。

现有技术中，通常会使用梯度下降方法来更新联邦模型的参数。传统的联邦学习方案中会有一个协调方来负责收集各个参与方的梯度并进行汇总，再将汇总后的结果分发给各个节点。

目前的联邦学习方法中，由于各参与方给中心节点发送的梯度数据以明文进行传输，因此存在着数据泄露和数据被劫持的风险。

发明内容

基于此，有必要针对上述技术问题，提供一种能够防止梯度数据被泄露和被劫持的基于区块链的联邦学习方法、装置、计算机设备和存储介质。

一种基于区块链的联邦学习方法，所述方法包括：

第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值，并将所述梯度值加密后发送至区块链系统；所述本地样本数据是当前共识节点处的样本数据；

从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密，将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密，并将最新加密后的梯度值发送至区块链系统，直至最后一个共识节点发送最新加密后的梯度值至所述区块链系统；

第一个共识节点将最后一个共识节点发送至所述区块链系统的最新加密后的梯度值进行解密，获取最终梯度值，并将所述最终梯度值发送至所述区块链系统；

所有共识节点从所述区块链系统获取所述最终梯度值，根据所述最终梯度值对所述联邦模型进行更新。

在其中一个实施例中，还包括：将联邦学习的各参与方分别注册成为所述区块链系统上的节点，包括发起节点和不少于一个共识节点；所述发起节点建立智能合约；所述智能合约中包含联邦模型的初始信息；所有共识节点获取发起节点中联邦模型的初始信息；所述初始信息包含用于训练所述联邦模型的特征参数。

在其中一个实施例中， 还包括：第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值；将所述梯度值与随机生成初始噪声相加，获取添加噪声后的梯度值；将所述添加噪声后的梯度值通过下一个共识节点的公钥进行加密，将加密后的梯度值发送至区块链系统。

在其中一个实施例中，还包括：从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统的加密后的梯度值；每个共识节点根据自身的私钥对从所述区块链系统获取的加密后的梯度值进行解密，获取解密后的梯度值。

在其中一个实施例中，还包括：每个共识节点根据本地样本数据对所述联邦模型进行训练，获取对应的梯度值；每个共识节点将自身通过训练获取的梯度值与解密后的梯度值相加生成最新梯度值；将所述最新梯度值通过下一个共识节点的公钥进行加密，获取加密后的最新梯度值；若所述最新梯度值是最后一个共识节点生成的，通过第一个共识节点的公钥进行加密；将所述加密后的最新梯度值发送至所述区块链系统。

在其中一个实施例中，还包括：第一个共识节点获取最后一个共识节点发送至所述区块链系统的最新加密后的梯度值；通过自身的私钥对所述最新加密后的梯度值进行解密，获取解密后的梯度值；从所述解密后的梯度值中减去所述初始噪声，获取最终梯度值。

在其中一个实施例中，还包括：重复上述步骤，直至所述联邦模型收敛。

一种基于区块链的联邦学习装置，所述装置包括：

第一处理模块，用于通过第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值，并将所述梯度值加密后发送至区块链系统；所述本地样本数据是当前共识节点处的样本数据；

第二处理模块，用于从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密，将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密，并将最新加密后的梯度值发送至区块链系统，直至最后一个共识节点发送最新加密后的梯度值至所述区块链系统；

第三处理模块，用于通过第一个共识节点将最后一个共识节点发送至所述区块链系统的最新加密后的梯度值进行解密，获取最终梯度值，并将所述最终梯度值发送至所述区块链系统；

更新模块，用于通过所有共识节点从所述区块链系统获取所述最终梯度值，根据所述最终梯度值对所述联邦模型进行更新。

一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现以下步骤：

第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值，并将所述梯度值加密后发送至区块链系统；所述本地样本数据是当前共识节点处的样本数据；

从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密，将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密，并将最新加密后的梯度值发送至区块链系统，直至最后一个共识节点发送最新加密后的梯度值至所述区块链系统；

第一个共识节点将最后一个共识节点发送至所述区块链系统的最新加密后的梯度值进行解密，获取最终梯度值，并将所述最终梯度值发送至所述区块链系统；

所有共识节点从所述区块链系统获取所述最终梯度值，根据所述最终梯度值对所述联邦模型进行更新。

一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现以下步骤：

第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值，并将所述梯度值加密后发送至区块链系统；所述本地样本数据是当前共识节点处的样本数据；

从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密，将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密，并将最新加密后的梯度值发送至区块链系统，直至最后一个共识节点发送最新加密后的梯度值至所述区块链系统；

第一个共识节点将最后一个共识节点发送至所述区块链系统的最新加密后的梯度值进行解密，获取最终梯度值，并将所述最终梯度值发送至所述区块链系统；

所有共识节点从所述区块链系统获取所述最终梯度值，根据所述最终梯度值对所述联邦模型进行更新。

上述基于区块链的联邦学习方法、装置、计算机设备和存储介质，通过从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密，将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密，并将最新加密后的梯度值发送至区块链系统，直至最后一个共识节点发送最新加密后的梯度值至区块链系统。最后通过第一个共识节点将最后一个共识节点发送至区块链系统的最新加密后的梯度值进行解密，获取最终梯度值，所有共识节点根据最终梯度值对联邦模型进行更新。对联邦学习过程中生成的梯度值通过后面节点的公钥进行加密，降低了梯度数据泄露和被劫持的风险。

附图说明

图1为一个实施例中基于区块链的联邦学习方法的应用环境图；

图2为一个实施例中基于区块链的联邦学习方法的流程示意图；

图3为一个实施例中最终梯度值生成步骤的流程示意图；

图4为一个实施例中基于区块链的联邦学习装置的结构框图；

图5为一个实施例中计算机设备的内部结构图。

具体实施方式

为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。

本申请提供的基于区块链的联邦学习方法，可以应用于如图1所示的应用环境中。其中，共识节点102与共识节点104通过网络与区块链106进行连接。共识节点102根据本地样本数据对联邦模型进行训练，获取对应的梯度值，并将所述梯度值加密后发送至区块链系统；所述本地样本数据是当前共识节点处的样本数据；共识节点104以及其他共识节点按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密，将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密，并将最新加密后的梯度值发送至区块链系统，直至最后一个共识节点发送最新加密后的梯度值至所述区块链系统；通过第一个共识节点将最后一个共识节点发送至所述区块链系统的最新加密后的梯度值进行解密，获取最终梯度值，并将所述最终梯度值发送至所述区块链系统；通过所有共识节点从所述区块链系统获取所述最终梯度值，根据所述最终梯度值对所述联邦模型进行更新。

其中，共识节点102和共识节点104可以是同一个服务器集群中的服务器，也可以分别由多个服务器组成的服务器集群来实现。

在一个实施例中，如图2所示，提供了一种基于区块链的联邦学习方法，以该方法应用于图1中的区块链106为例进行说明，包括以下步骤：

步骤202，第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值，并将所述梯度值加密后发送至区块链系统；所述本地样本数据是当前共识节点处的样本数据；

其中，联邦模型是基于横向联邦学习构建的联合模型；横向联邦学习是在两个数据集的用户特征重叠较多，而用户重叠较少的情况下，把数据集按照横向切分，并取出双方用户特征相同而用户不完全相同的部分数据进行训练的方法。横向联邦模型分别在多组模型参数的基础上，以横向联邦学习的方式进行训练，得到对应的梯度值。

具体地，第一个共识节点是预设的，可以是区块链系统中的任一共识节点；第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值。本地样本数据是当前共识节点处的样本数据，用于在本共识节点处对联邦模型进行训练生成对应的梯度值。梯度值是对联邦模型进行训练后生成的联邦模型的参数，根据梯度值能够确定联邦模型。获取第一个共识节点生成的梯度值以后，还需要将梯度值进行加密并将加密后的梯度值发送至区块链。

步骤204，从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密，将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密，并将最新加密后的梯度值发送至区块链系统，直至最后一个共识节点发送最新加密后的梯度值至所述区块链系统。

具体地，从第二个共识节点开始，每个共识节点都需要按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密。如第二个共识节点就获取第一个共识节点发送至区块链系统中的梯度值，并将该梯度值进行解密。将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密。如第二个共识节点将自身的样本数据对联邦模型进行训练，并将训练后生成的梯度值与从区块链系统获取的第一个共识节点上传至区块链的梯度值进行相加，并将相加后的梯度值再次进行加密。最后将最新加密后的梯度值发送至区块链系统，直至最后一个共识节点发送最新加密后的梯度值至所述区块链系统。第二个共识节点将之前获取的加密后的梯度值发送至区块链系统，其他的共识节点采用和第二个共识节点相同的方法，获取之前的共识节点的梯度值并进行解密，与本节点训练生成的梯度值相加后再加密，并将加密后的梯度值发送至区块链系统，直至最后一个共识节点将所有共识节点的梯度值的和加密后发送至区块链系统。

步骤206，第一个共识节点将最后一个共识节点发送至所述区块链系统的最新加密后的梯度值进行解密，获取最终梯度值，并将所述最终梯度值发送至所述区块链系统。

具体地，最后一个共识节点将所有共识节点的梯度值的和加密后发送至区块链系统以后，第一个共识节点将最后一个共识节点发送至所述区块链系统的最新加密后的梯度值进行解密，获取最终梯度值，并将所述最终梯度值发送至所述区块链系统。

步骤208，所有共识节点从所述区块链系统获取所述最终梯度值，根据所述最终梯度值对所述联邦模型进行更新。

具体地，第一个共识节点将最后一个共识节点发送至所述区块链系统的最新加密后的梯度值进行解密后获取最终梯度值，并将最终梯度值发送至所述区块链系统。所有的共识节点从区块链系统中获取最终梯度值，并根据最终梯度值更新自身经过训练后的联邦模型，完成一轮训练过程。

上述基于区块链的联邦学习方法中，通过从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密，将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密，并将最新加密后的梯度值发送至区块链系统，直至最后一个共识节点发送最新加密后的梯度值至区块链系统。最后通过第一个共识节点将最后一个共识节点发送至区块链系统的最新加密后的梯度值进行解密，获取最终梯度值，所有共识节点根据最终梯度值对联邦模型进行更新。通过对联邦学习过程中生成的梯度值进行加密和解密，降低了梯度数据泄露和被劫持的风险。

在一个实施例中，所述第一个共识节点根据本地样本数据对联邦模型进行训练，之前还包括：

将联邦学习的各参与方分别注册成为所述区块链系统上的节点，包括发起节点和不少于一个共识节点；

所述发起节点建立智能合约；所述智能合约中包含联邦模型的初始信息；

所有共识节点获取发起节点中联邦模型的初始信息；所述初始信息包含用于训练所述联邦模型的特征参数。

具体地，第一个共识节点根据本地样本数据对联邦模型进行训练之前还需要从发起节点中获取联邦模型的初始信息，初始信息包含用于训练所述联邦模型的特征参数，如包括建模的适用群体、好坏客户标签的定义方式以及用于模型训练的特征参数等。联邦学习的各参与方分别注册成为区块链系统上的节点，包括发起节点和不少于一个共识节点；发起节点建立智能合约；智能合约中包含联邦模型的初始信息。共识节点用于按照预设顺序对联邦模型进行训练，并生成对应的梯度值。

本实施例中，将联邦学习的各参与方分别注册成为所述区块链系统上的节点，包括发起节点和不少于一个共识节点；发起节点建立智能合约；所述智能合约中包含联邦模型的初始信息。实现了将联邦学习和区块链的结合，并根据区块链的公私钥对梯度值进行加密解密，降低了梯度数据泄露和被劫持的风险。

在一个实施例中，所述第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值，并将所述梯度值加密后发送至区块链系统包括：

第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值；

将所述梯度值与随机生成初始噪声相加，获取添加噪声后的梯度值；

将所述添加噪声后的梯度值通过下一个共识节点的公钥进行加密，将加密后的梯度值发送至区块链系统。

具体地，第一个共识节点根据本地样本数据对联邦模型进行训练后获取对应的梯度值，并随机生成一个初始噪声，将初始噪声与梯度值进行相加，获取添加噪声后的梯度值。最后将添加噪声后的梯度值通过下一个共识节点的公钥进行加密，并将加密后的梯度值发送至区块链系统。

例如，第一个共识节点1随机生成一个初始噪声e，并与自身对联邦模型进行训练获取的的梯度值g1进行相加得到e+g1，并将e+g1使用第二个共识节点的公钥进行加密，并将加密后的数据发送到区块链上。

本实施例中，第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值，并与随机生成初始噪声相加，获取添加噪声后的梯度值；最后将添加噪声后的梯度值通过下一个共识节点的公钥进行加密，将加密后的梯度值发送至区块链系统，提高了第一个共识节点生成的梯度值的安全性，降低了梯度值泄露的风险。

在一个实施例中，所述从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密包括：

从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统的加密后的梯度值；

每个共识节点根据自身的私钥对从所述区块链系统获取的加密后的梯度值进行解密，获取解密后的梯度值。

具体地，从第二个共识节点开始，每个共识节点按预设的顺序获取前一个共识节点发送至所述区块链系统的加密后的梯度值，然后每个共识节点根据自身的私钥对从区块链系统获取的前一个共识节点发送至所述区块链系统的加密后的梯度值进行解密，获取解密后的梯度值。由于前一个共识节点发送至所述区块链系统的加密后的梯度值是使用后一个共识节点的公钥进行加密的，因此后一个共识节点能够使用自身的私钥对前一个共识节点加密后的梯度值进行解密。

例如，第二个共识节点使用自身的私钥将前一个共识节点发送至所述区块链系统的加密后的梯度值进行解密还原出e+g1，并基于自身的数据训练联邦模型计算出用于更新参数的梯度值g2，并将g2与e+g1相加，得到e+g1+g2，并使用第三个共识节点的公钥加密e+g1+g2并发送到区块链上。

本实施例中，从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统的加密后的梯度值，并根据自身的私钥对从所述区块链系统获取的加密后的梯度值进行解密，获取解密后的梯度值。通过共识节点自身的私钥对获取的加密后的梯度值进行解密，提高了梯度值传输的安全性。

在一个实施例中，所述将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密，并将最新加密后的梯度值发送至区块链系统包括：

每个共识节点根据本地样本数据对所述联邦模型进行训练，获取对应的梯度值；

每个共识节点将自身通过训练获取的梯度值与解密后的梯度值相加生成最新梯度值；

将所述最新梯度值通过下一个共识节点的公钥进行加密，获取加密后的最新梯度值；若所述最新梯度值是最后一个共识节点生成的，通过第一个共识节点的公钥进行加密；

将所述加密后的最新梯度值发送至所述区块链系统。

具体地，从第二个共识节点开始，每个共识节点根据本地样本数据对所述联邦模型进行训练，获取对应的梯度值，并将自身通过训练获取的梯度值与解密后的梯度值相加生成最新梯度值；最后使用下一个共识节点的公钥进行加密，获取加密后的最新梯度值，将加密后的最新梯度值发送至区块链系统。从第二个共识节点开始，每个共识节点都进行一次解密和加密的过程，直至最后一个节点将加密后的所有共识节点的梯度值和初始噪声的和发送至区块链系统。

本实施例中，每个共识节点通过间自身对联邦模型进行训练后获取的梯度值与解密后获取的梯度值以及初始噪声相加后发送至区块链系统，实现了对每个共识节点的梯度值的加密和解密，提高了安全性。

在一个实施例中，所述第一个共识节点将最后一个共识节点发送至所述区块链系统的最新加密后的梯度值进行解密，获取最终梯度值包括：

第一个共识节点获取最后一个共识节点发送至所述区块链系统的最新加密后的梯度值；

通过自身的私钥对所述最新加密后的梯度值进行解密，获取解密后的梯度值；

从所述解密后的梯度值中减去所述初始噪声，获取最终梯度值。

具体地，最后一个共识节点将所有共识节点的梯度值和初始噪声的和发送至区块链系统以后，第一个共识节点获取最后一个共识节点发送至所述区块链系统的最新加密后的梯度值；第一个共识节点通过自身的私钥对所述最新加密后的梯度值进行解密，获取解密后的梯度值；从所述解密后的梯度值中减去所述初始噪声，获取最终梯度值。

如图3所示，图3为一个实施例中最终梯度值生成步骤的流程示意图，第一个共识节点接收到最后一个共识节点将所有共识节点的梯度值和初始噪声的和e+g1+g2+…+gN以后，用自身的私钥解密后，减去最初的初始噪声e，便得到了所有共识节点的梯度之和g1+g2+…+gN作为最终梯度值，并将该最终梯度值发送到区块链。

本实施例中，通过第一个共识节点的私钥对最新加密后的梯度值进行解密，去除初始噪声，获取最终梯度值，完成对联邦模型的一轮训练。提高了训练过程的安全性，避免了梯度值的泄露。

在一个实施例中，所述所有共识节点从所述区块链系统获取所述最终梯度值，根据所述最终梯度值对所述联邦模型进行更新，之后还包括：

重复上述步骤，直至所述联邦模型收敛。

具体地，在完成一轮联邦模型训练以后，还可以根据需要设置多轮训练过程，直至实现联邦模型的收敛。

本实施中，通过对联邦模型进行多次训练，提高了对联邦模型的训练效果，提高了联邦模型的准确率。

应该理解的是，虽然图2-3的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，这些步骤可以以其它的顺序执行。而且，图2-3中的至少一部分步骤可以包括多个步骤或者多个阶段，这些步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，这些步骤或者阶段的执行顺序也不必然是依次进行，而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。

在一个实施例中，如图4所示，提供了一种基于区块链的联邦学习装置，包括：第一处理模块401、第二处理模块402、第三处理模块403和更新模块404，其中：

第一处理模块401，用于通过第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值，并将所述梯度值加密后发送至区块链系统；所述本地样本数据是当前共识节点处的样本数据。

第二处理模块402，用于从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密，将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密，并将最新加密后的梯度值发送至区块链系统，直至最后一个共识节点发送最新加密后的梯度值至所述区块链系统。

第三处理模块403，用于通过第一个共识节点将最后一个共识节点发送至所述区块链系统的最新加密后的梯度值进行解密，获取最终梯度值，并将所述最终梯度值发送至所述区块链系统。

更新模块404，用于通过所有共识节点从所述区块链系统获取所述最终梯度值，根据所述最终梯度值对所述联邦模型进行更新。

在一个实施例中，所述第一处理模块401，还用于：将联邦学习的各参与方分别注册成为所述区块链系统上的节点，包括发起节点和不少于一个共识节点；所述发起节点建立智能合约；所述智能合约中包含联邦模型的初始信息；所有共识节点获取发起节点中联邦模型的初始信息；所述初始信息包含用于训练所述联邦模型的特征参数。

在一个实施例中，所述第一处理模块401，具体用于：第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值；将所述梯度值与随机生成初始噪声相加，获取添加噪声后的梯度值；将所述添加噪声后的梯度值通过下一个共识节点的公钥进行加密，将加密后的梯度值发送至区块链系统。

在一个实施例中，所述第二处理模块402，具体用于：从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统的加密后的梯度值；每个共识节点根据自身的私钥对从所述区块链系统获取的加密后的梯度值进行解密，获取解密后的梯度值。

在一个实施例中，所述第二处理模块402，还用于：每个共识节点根据本地样本数据对所述联邦模型进行训练，获取对应的梯度值；每个共识节点将自身通过训练获取的梯度值与解密后的梯度值相加生成最新梯度值；将所述最新梯度值通过下一个共识节点的公钥进行加密，获取加密后的最新梯度值；若所述最新梯度值是最后一个共识节点生成的，通过第一个共识节点的公钥进行加密；将所述加密后的最新梯度值发送至所述区块链系统。

在一个实施例中，所述第三处理模块403，还用于：第一个共识节点获取最后一个共识节点发送至所述区块链系统的最新加密后的梯度值；通过自身的私钥对所述最新加密后的梯度值进行解密，获取解密后的梯度值；从所述解密后的梯度值中减去所述初始噪声，获取最终梯度值。

在一个实施例中，所述更新模块404，还用于：重复第一处理模块、第二处理模块和第三处理模块中的步骤，直至完成对所述联邦模型的训练目标。

上述基于区块链的联邦学习装置，通过从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密，将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密，并将最新加密后的梯度值发送至区块链系统，直至最后一个共识节点发送最新加密后的梯度值至区块链系统。最后通过第一个共识节点将最后一个共识节点发送至区块链系统的最新加密后的梯度值进行解密，获取最终梯度值，所有共识节点根据最终梯度值对联邦模型进行更新。对联邦学习过程中生成的梯度值通过后面节点的公钥进行加密，降低了梯度数据泄露和被劫持的风险。

关于基于区块链的联邦学习装置的具体限定可以参见上文中对于基于区块链的联邦学习方法的限定，在此不再赘述。上述基于区块链的联邦学习装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中，也可以以软件形式存储于计算机设备中的存储器中，以便于处理器调用执行以上各个模块对应的操作。

在一个实施例中，提供了一种计算机设备，该计算机设备可以是服务器，其内部结构图可以如图5所示。该计算机设备包括通过系统总线连接的处理器、存储器和网络接口。其中，该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种基于区块链的联邦学习方法。

本领域技术人员可以理解，图5中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。

在一个实施例中，提供了一种计算机设备，包括存储器和处理器，存储器中存储有计算机程序，该处理器执行计算机程序时实现以下步骤：

第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值，并将所述梯度值加密后发送至区块链系统；所述本地样本数据是当前共识节点处的样本数据；

从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密，将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密，并将最新加密后的梯度值发送至区块链系统，直至最后一个共识节点发送最新加密后的梯度值至所述区块链系统；

第一个共识节点将最后一个共识节点发送至所述区块链系统的最新加密后的梯度值进行解密，获取最终梯度值，并将所述最终梯度值发送至所述区块链系统；

所有共识节点从所述区块链系统获取所述最终梯度值，根据所述最终梯度值对所述联邦模型进行更新。

在一个实施例中，处理器执行计算机程序时还实现以下步骤：将联邦学习的各参与方分别注册成为所述区块链系统上的节点，包括发起节点和不少于一个共识节点；所述发起节点建立智能合约；所述智能合约中包含联邦模型的初始信息；所有共识节点获取发起节点中联邦模型的初始信息；所述初始信息包含用于训练所述联邦模型的特征参数。

在一个实施例中，处理器执行计算机程序时还实现以下步骤：第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值；将所述梯度值与随机生成初始噪声相加，获取添加噪声后的梯度值；将所述添加噪声后的梯度值通过下一个共识节点的公钥进行加密，将加密后的梯度值发送至区块链系统。

在一个实施例中，处理器执行计算机程序时还实现以下步骤：从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统的加密后的梯度值；每个共识节点根据自身的私钥对从所述区块链系统获取的加密后的梯度值进行解密，获取解密后的梯度值。

在一个实施例中，处理器执行计算机程序时还实现以下步骤：每个共识节点根据本地样本数据对所述联邦模型进行训练，获取对应的梯度值；每个共识节点将自身通过训练获取的梯度值与解密后的梯度值相加生成最新梯度值；将所述最新梯度值通过下一个共识节点的公钥进行加密，获取加密后的最新梯度值；若所述最新梯度值是最后一个共识节点生成的，通过第一个共识节点的公钥进行加密；将所述加密后的最新梯度值发送至所述区块链系统。

在一个实施例中，处理器执行计算机程序时还实现以下步骤：第一个共识节点获取最后一个共识节点发送至所述区块链系统的最新加密后的梯度值；通过自身的私钥对所述最新加密后的梯度值进行解密，获取解密后的梯度值；从所述解密后的梯度值中减去所述初始噪声，获取最终梯度值。

在一个实施例中，处理器执行计算机程序时还实现以下步骤：重复第一处理模块、第二处理模块和第三处理模块中的步骤，直至所述联邦模型收敛。

上述计算机设备，从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密，将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密，并将最新加密后的梯度值发送至区块链系统，直至最后一个共识节点发送最新加密后的梯度值至区块链系统。最后通过第一个共识节点将最后一个共识节点发送至区块链系统的最新加密后的梯度值进行解密，获取最终梯度值，所有共识节点根据最终梯度值对联邦模型进行更新。对联邦学习过程中生成的梯度值通过后面节点的公钥进行加密，降低了梯度数据泄露和被劫持的风险。

在一个实施例中，提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现以下步骤：

第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值，并将所述梯度值加密后发送至区块链系统；所述本地样本数据是当前共识节点处的样本数据；

从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密，将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密，并将最新加密后的梯度值发送至区块链系统，直至最后一个共识节点发送最新加密后的梯度值至所述区块链系统；

第一个共识节点将最后一个共识节点发送至所述区块链系统的最新加密后的梯度值进行解密，获取最终梯度值，并将所述最终梯度值发送至所述区块链系统；

所有共识节点从所述区块链系统获取所述最终梯度值，根据所述最终梯度值对所述联邦模型进行更新。

在一个实施例中，计算机程序被处理器执行时还实现以下步骤：将联邦学习的各参与方分别注册成为所述区块链系统上的节点，包括发起节点和不少于一个共识节点；所述发起节点建立智能合约；所述智能合约中包含联邦模型的初始信息；所有共识节点获取发起节点中联邦模型的初始信息；所述初始信息包含用于训练所述联邦模型的特征参数。

在一个实施例中，计算机程序被处理器执行时还实现以下步骤：第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值；将所述梯度值与随机生成初始噪声相加，获取添加噪声后的梯度值；将所述添加噪声后的梯度值通过下一个共识节点的公钥进行加密，将加密后的梯度值发送至区块链系统。

在一个实施例中，计算机程序被处理器执行时还实现以下步骤：从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统的加密后的梯度值；每个共识节点根据自身的私钥对从所述区块链系统获取的加密后的梯度值进行解密，获取解密后的梯度值。

在一个实施例中，计算机程序被处理器执行时还实现以下步骤：每个共识节点根据本地样本数据对所述联邦模型进行训练，获取对应的梯度值；每个共识节点将自身通过训练获取的梯度值与解密后的梯度值相加生成最新梯度值；将所述最新梯度值通过下一个共识节点的公钥进行加密，获取加密后的最新梯度值；若所述最新梯度值是最后一个共识节点生成的，通过第一个共识节点的公钥进行加密；将所述加密后的最新梯度值发送至所述区块链系统。

在一个实施例中，计算机程序被处理器执行时还实现以下步骤：第一个共识节点获取最后一个共识节点发送至所述区块链系统的最新加密后的梯度值；通过自身的私钥对所述最新加密后的梯度值进行解密，获取解密后的梯度值；从所述解密后的梯度值中减去所述初始噪声，获取最终梯度值。

在一个实施例中，计算机程序被处理器执行时还实现以下步骤：重复第一处理模块、第二处理模块和第三处理模块中的步骤，直至所述联邦模型收敛。

上述存储介质，从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密，将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密，并将最新加密后的梯度值发送至区块链系统，直至最后一个共识节点发送最新加密后的梯度值至区块链系统。最后通过第一个共识节点将最后一个共识节点发送至区块链系统的最新加密后的梯度值进行解密，获取最终梯度值，所有共识节点根据最终梯度值对联邦模型进行更新。对联邦学习过程中生成的梯度值通过后面节点的公钥进行加密，降低了梯度数据泄露和被劫持的风险。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机可读取存储介质中，该计算机程序在执行时，可包括如上述各方法的实施例的流程。其中，本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器（Read-Only Memory，ROM）、磁带、软盘、闪存或光存储器等。易失性存储器可包括随机存取存储器（Random Access Memory，RAM）或外部高速缓冲存储器。作为说明而非局限，RAM可以是多种形式，比如静态随机存取存储器（Static Random Access Memory，SRAM）或动态随机存取存储器（Dynamic Random Access Memory，DRAM）等。

以上实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。

以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请专利的保护范围应以所附权利要求为准。

Claims (10)

1.一种基于区块链的联邦学习方法，应用于区块链系统，其特征在于，所述方法包括：

第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值，并将所述梯度值加密后发送至区块链系统；所述本地样本数据是当前共识节点处的样本数据；

从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密，将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密，并将最新加密后的梯度值发送至区块链系统，直至最后一个共识节点发送最新加密后的梯度值至所述区块链系统；

第一个共识节点将最后一个共识节点发送至所述区块链系统的最新加密后的梯度值进行解密，获取最终梯度值，并将所述最终梯度值发送至所述区块链系统；

所有共识节点从所述区块链系统获取所述最终梯度值，根据所述最终梯度值对所述联邦模型进行更新。

2.根据权利要求1所述的方法，其特征在于，所述第一个共识节点根据本地样本数据对联邦模型进行训练，之前还包括：

将联邦学习的各参与方分别注册成为所述区块链系统上的节点，包括发起节点和不少于一个共识节点；

所述发起节点建立智能合约；所述智能合约中包含联邦模型的初始信息；

所有共识节点获取发起节点中联邦模型的初始信息；所述初始信息包含用于训练所述联邦模型的特征参数。

3.根据权利要求1所述的方法，其特征在于，所述第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值，并将所述梯度值加密后发送至区块链系统包括：

第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值；

将所述梯度值与随机生成初始噪声相加，获取添加噪声后的梯度值；

将所述添加噪声后的梯度值通过下一个共识节点的公钥进行加密，将加密后的梯度值发送至区块链系统。

4.根据权利要求1所述的方法，其特征在于，所述从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密包括：

从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统的加密后的梯度值；

每个共识节点根据自身的私钥对从所述区块链系统获取的加密后的梯度值进行解密，获取解密后的梯度值。

5.根据权利要求4所述的方法，其特征在于，所述将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密，并将最新加密后的梯度值发送至区块链系统包括：

每个共识节点根据本地样本数据对所述联邦模型进行训练，获取对应的梯度值；

每个共识节点将自身通过训练获取的梯度值与解密后的梯度值相加生成最新梯度值；

将所述最新梯度值通过下一个共识节点的公钥进行加密，获取加密后的最新梯度值；若所述最新梯度值是最后一个共识节点生成的，通过第一个共识节点的公钥进行加密；

将所述加密后的最新梯度值发送至所述区块链系统。

6.根据权利要求3所述的方法，其特征在于，所述第一个共识节点将最后一个共识节点发送至所述区块链系统的最新加密后的梯度值进行解密，获取最终梯度值包括：

第一个共识节点获取最后一个共识节点发送至所述区块链系统的最新加密后的梯度值；

通过自身的私钥对所述最新加密后的梯度值进行解密，获取解密后的梯度值；

从所述解密后的梯度值中减去所述初始噪声，获取最终梯度值。

7.根据权利要求1所述的方法，其特征在于，所述所有共识节点从所述区块链系统获取所述最终梯度值，根据所述最终梯度值对所述联邦模型进行更新，之后还包括：

重复上述步骤，直至所述联邦模型收敛。

8.一种基于区块链的联邦学习装置，其特征在于，所述装置包括：

第一处理模块，用于通过第一个共识节点根据本地样本数据对联邦模型进行训练，获取对应的梯度值，并将所述梯度值加密后发送至区块链系统；所述本地样本数据是当前共识节点处的样本数据；

第二处理模块，用于从第二个共识节点开始，每个共识节点按预设顺序获取前一个共识节点发送至所述区块链系统中的梯度值并进行解密，将解密后的梯度值与本节点通过对联邦模型进行训练获取的梯度值相加后再次进行加密，并将最新加密后的梯度值发送至区块链系统，直至最后一个共识节点发送最新加密后的梯度值至所述区块链系统；

第三处理模块，用于通过第一个共识节点将最后一个共识节点发送至所述区块链系统的最新加密后的梯度值进行解密，获取最终梯度值，并将所述最终梯度值发送至所述区块链系统；

更新模块，用于通过所有共识节点从所述区块链系统获取所述最终梯度值，根据所述最终梯度值对所述联邦模型进行更新。

9.一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述的方法的步骤。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。

Images