CN113467927A - 一种基于区块链的参与方可信任的联邦学习方法和装置 - Google Patents

Abstract

本发明公开了一种基于区块链的参与方可信任的联邦学习方法和装置，包括：参与方身份注册和认证，建立智能合约，绑定参与方与区块链中矿工节点；参与方加密上传局部模型参数和历史信用评级至绑定的矿工节点，矿工节点依据参与方的历史信用评级筛选验证并第一次滤除不可信参与方后，对剩下参与方的局域模型参数进行全局相似性判断以第二次滤除不可信参与方后，依据全局相似性对剩下的可信参与方进行历史信用评级更新，依据新历史信用评级按照比例为可信参与方发放奖励；依据矿工节点的算力或矿工节点的历史信用评级投票选择超级节点；超级节点对可信参与方的局域模型参数进行聚合得到全局模型参数和参数训练更新，以获得安全且高鲁棒性的模型。

Description

一种基于区块链的参与方可信任的联邦学习方法和装置

技术领域

本发明属于联邦学习领域，具体涉及一种基于区块链的参与方可信任的联邦学习方法和装置。

背景技术

近年来，人工智能已逐渐深入人们的生活，例如活体检测、无人驾驶、人脸识别等。众所周知，一个好的人工智能需要大量优质数据进行训练才能满足需求。然而，在实际场景中，只有少数行业巨头公司才能拥有大量优质的训练数据，而绝大多数企业仅能拥有较少的或者质量较低的数据，往往难以支撑良好的人工智能技术的实现。此外，由于商用数据往往具有较高的商业价值并且具有隐私性，因此，企业对数据保密性的重视程度也越来越高；国内外对于数据保护的措施和政策也在逐步完善。以上原因导致了各方数据相互隔离，形成了所谓的数据孤岛，这些都不利于大规模的人工智能技术的实现。

为了打破这种僵局，谷歌公司在2016年提出了一种分布式机器学习技术，即联邦学习，主要通过采用差分隐私、同态加密、多方安全计算等技术来解决数据隐私保护和数据孤岛问题，使得参与训练的各方获益，从而在保护本地数据的前提下，实现数据可用不可见，推动技术的发展。然而联邦学习也面临着一些挑战，包括：(1)多方互信问题：由于参与方彼此之间存在不信任关系，因此联邦学习需要在各方不信任的情况下协作运行，这可能影响模型训练时的可靠性；(2)安全风险：各参与方提供的数据质量参差不齐，这可能影响整个模型训练的质量；(3)通信链路的可靠性问题：各方上传参数数据在传输中容易受到攻击或篡改，将可能影响最终模型的训练效果。因此，如何使联邦学习中各训练参与方可信任，提高联邦学习模型的安全性和可信任度是一个关键问题。

此外，由于模型依赖用单一的中央服务器，当服务器模型故障时，其他训练参与方的模型更新也将受到影响。因此，如何削弱联邦学习框架中服务器的中心性，以减小因设备故障带来的影响也是重中之重。

区块链技术是一种可以处理多个不可信参与方之间问题的安全技术，具有匿名性、不可篡改性、以及去中心化的特征。其身份管理、分布式账本、数据记录、激励机制以及共识机制等技术特性使得区块链适用于存在去中心化、多方参与和写入数据的需求、对数据真实性要求高以及初始情况下相互不信任的多个参与者建立分布式信任的需求等场景。因此，区块链技术能够较好地与联邦学习的互补。

发明内容

鉴于上述，本发明的目的是提供一种基于区块链的参与方可信任的联邦学习系统，通过筛选掉不可信任的参与方来提升模型的鲁棒性。

第一方面，本发明实施例提供了一种基于区块链的参与方可信任的联邦学习方法，包括以下步骤：

参与方身份注册和认证，建立智能合约，绑定参与方与区块链中矿工节点；

参与方加密上传局部模型参数和历史信用评级至绑定的矿工节点，矿工节点依据参与方的历史信用评级筛选验证并第一次滤除不可信参与方后，对剩下参与方的局域模型参数进行全局相似性判断以第二次滤除不可信参与方后，依据全局相似性对剩下的可信参与方进行历史信用评级更新，依据新历史信用评级按照比例为可信参与方发放奖励；

依据矿工节点的算力或矿工节点的历史信用评级投票选择超级节点；

超级节点对可信参与方的局域模型参数进行聚合得到全局模型参数，并基于全局模型参数进行一次参数优化后，将优化后的全局模型参数下发至各可信参与方，完成一轮联邦学习。

第二方面，本发明实施例提供了一种基于区块链的参与方可信任的联邦学习装置，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上执行的计算机程序，所述处理器执行所述计算机程序时实现第一方面所述的基于区块链的参与方可信任的联邦学习方法。

实施例提供的基于区块链的参与方可信任的联邦学习方法和装置有益效果主要表现在：(1)利用区块链的去中心化特性，将联邦学习的服务器模型功能赋予产生于矿工节点的超级节点，从而减弱服务器模型的中心性，降低因服务器故障带来的全局影响。(2)利用区块链的记账功能和不可篡改性，建立一套信任机制，增强各训练参与方之间的信任度，提高联合训练模型的质量。(3)通过区块链奖励机制，激励训练参与方提供优质模型数据，提高联合训练的效果。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图做简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动前提下，还可以根据这些附图获得其他附图。

图1是一实施例中基于区块链的参与方可信任的联邦学习方法中参与方与矿工节点之间的通信过程图；

图2是一实施例中基于区块链的参与方可信任的联邦学习方法的流程示意图；

图3是一实施例中超级节点筛选示意图。

具体实施方式

为使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例对本发明进行进一步的详细说明。应当理解，此处所描述的具体实施方式仅仅用以解释本发明，并不限定本发明的保护范围。

针对联邦学习框架中存在的训练参与方之间不信任、数据安全风险以及通信链路不可靠问题，实施例利用区块链的不可篡改性等安全机制，提供了一种基于区块链的参与方可信任的联邦学习方法和装置，通过引入区块链技术的去中心化特点，可以使联邦学习中服务器模型中心化程度降低，减轻潜在的因设备故障而导致的全局模型的性能下降风险；利用区块链技术的记账功能以及不可篡改性，引入一套信任机制，通过参与方上传的模型参数质量为各参与方进行信用评分，根据个体的信用评分提高自己的信用度，提高模型的训练质量，增强使用者对模型的信任度；根据个体的信用评分以及矿工团体的信用评分筛选可靠的超级节点，用于聚合上传的各本地模型参数；通过基于信用评分的奖励机制激励参与方上传高质量参数，从而提高模型联合训练的效果。

图1是一实施例中基于区块链的参与方可信任的联邦学习方法中参与方与矿工节点之间的通信过程图；图2是一实施例中基于区块链的参与方可信任的联邦学习方法的流程示意图。如图1和图2所示，实施例提供的基于区块链的参与方可信任的联邦学习方法包括以下步骤：

S101，参与方身份注册和认证，建立智能合约，绑定参与方与区块链中矿工节点。

联邦学习任务主要是分布在边缘端的多个参与方利用本地样本对相同的模型结构进行训练以优化模型参数，然后中心端对所有边缘端的模型参数进行聚合再优化，以进行联邦学习，该联邦学习在电信领域中，可以用于汇聚智能设备的模型更新，在保护数据隐私的前提下，整合生成公共的AI模型，提高模型的泛化能力；在金融领域中，金融机构合作者共建反洗钱模型，利用各自的反洗钱样本进行本地训练，在不泄露本地数据的前提下优化一个共同的反洗钱模型；在医疗健康领域，各医院使用各自的患者就诊记录进行本地模型训练，聚合各方参数后共同训练出更有效的疾病预测模型。实施例中，在联邦学习之前，需要进行准备工作，具体包括：参与联邦学习的边缘端的参与方(客户端)需要进行身份注册和认真、建立智能合约，绑定参与方与区块链中矿工节点，准备工作结束后，即进行联邦学习过程。

实施例中，参与方身份注册和认证包括：参与方上传身份信息，并使用身份ID对参与方进行身份核验，初始参与方的初始信用评级。参与方身份注册和认证过程中，参与方会上传身份信息至管理者，其中身份信息包括身份ID、计算能力、传输能力，传输能力一般指传输速率，传输数据的大小等。管理者在收到身份信息后，基于参与方的身份ID对参与方进行身份核验，身份核验通过的参与方才可以参与联邦学习。管理者还为每个通过身份验证的参与方初始化初始信用评级，举例初始信用评级可为0。

实施例中，建立的智能合约包括数字签名加密方式、模型头部信息、在多参与方情况下选择并关联矿工节点方式、奖惩机制。其中，数字签名加密方式约束了对模型参数和模型头部信息进行数字签名加密的方式，参与到联邦学习的参与方与绑定的矿工节点之间均采用智能合约中约定的数字签名加密方式，但是签名过程采用的参数可以由参与方自行定义并传给绑定的矿工节点以告知。模型头部信息主要是模型结构信息，该模型头部信息作为数字签名认证的内容，以保证后续上传的模型参数与模型结构相对应的，避免出错。在多参与方情况下选择并关联矿工节点方式约定了参与方与区块链中具有计算能力的计算设备(矿工节点)之间进行绑定时的规则和方式，具体包括选取计算能力最强的节点作为矿工节点或从参与方中随机选取矿工节点。奖励机制约束了对参与方进行奖励的方式，具体对贡献大的可信参与方进行奖励，对不能按时完成或上传恶意数据或被攻击的不可信参与方进行惩罚，以此激励参与方上传优质模型参数，摒弃恶意或质量不佳的模型参数数据。

实施例中，为了利用区块链进行联邦学习，需要将参与方与区块链中的矿工节点进行绑定。所述绑定参与方与区块链中矿工节点包括：依据智能合约中约定的选择并关联矿工节点方式，为每个参与方绑定关联1个矿工节点，其中，1个矿工节点至少绑定关联1个参与方，当1个矿工节点绑定多个参与方时，多个参与方会形成1个矿工团体。绑定的矿工节点主要完成对局域模型参数的收集功能和判断滤除功能。

S102，参与方加密上传局部模型参数和历史信用评级至绑定的矿工节点。

参与方使用本地数据对模型进行参数优化得到局域模型参数，对局域模型参数加密上传至绑定的矿工节点。一个实施例中，参与方加密上传局部模型参数至绑定的矿工节点包括：

参与方按照智能合约中约定的数字签名加密方式对模型头部信息进行加密形成第一签名，对局域模型参数进行加密形成密文后，上传第一签名、数字签名加密方式中采用的加密参数至绑定的矿工节点；

矿工节点在收到第一签名、数字签名加密方式中采用的加密参数后，利用数字签名加密方式中采用的加密参数对智能合约约定的模型头部信息进行加密处理，得到第二签名，当第二签名和第一签名相等时，则签名验证通过，实现密文的安全传输。

实施例中，在对局域模型参数上传时，参与方采用sign＝m^e mod r对模型头部信息m按照参数e和r加密形成第一签名sign，并将第一签名sign、参数e和r上传至矿工节点，矿工节点根据接收的参数e和r采用sign'＝m^e mod r对模型头部信息m进行第二次签名得到第二签名sign'，当sign'＝sign时，签名通过，完成签名检验，然后实现链路密文数据的安全传输。其中，密文数据C＝M^e mod r，其中，M为局域模型参数。

S103，参与方上历史信用评级至绑定的矿工节点，矿工节点依据参与方的历史信用评级筛选验证并第一次滤除不可信参与方。

同时为了保证上传局域模型参数的质量，提高参与方的可信任度，参与在上传局域模型参数时，需要同时上传历史信用评分，矿工节点在收到历史信用评分时，对参与方进行信用验证并滤除掉信用不好的参与方。在一个实施例中，依据参与方的历史信用评级筛选验证并第一次滤除不可信参与方包括：

矿工节点在收到上传的历史信用评级后，从历史账本中查找记载的历史信用评级，当两个历史信用评级不相等时，直接判定参与方不可信，对不可信的参与方进行第一次滤除。

一个实施例中，依据历史信用评级筛选验证滤除不可信参与方的过程实施在签名验证之前，对剩下的参与方进行签名验证，签名验证通过后，实现密文的安全传输。这样先滤除不可信参与方后上传局域模型参数的方式可以大大节省通信资源和通信消耗。

参与方在上传历史信用评级时，还上传参数有效性证明P，其中有效性证明P可以是本次训练与上一次训练的任务效果之差。还有效性证明P用于第二次滤除不可信参与方。

S104，对剩下的参与方的局域模型参数进行全局相似性判断以第二次滤除不可信参与方，得到可信参与方。

一个实施例中，剩下的参与方的局域模型参数进行全局相似性判断以第二次滤除不可信参与方包括：

当迭代次数为1时，以剩下参与方上传的所有局域模型参数的均值作为基准参数；

当迭代次数大于1时，依据剩下参与方上传的参数有效性证明筛选前预设比例高的参数有效性证明对应的参与方；并将筛选得到的参与方的局域模型参数的均值作为基准参数；

每轮次中，计算每个剩下参与方与基准参数的全局相似度，将全局相似度小于阈值参与方进行第二次滤除，得到可信参与方。

实施例中，针对完成局域模型参数数据上传的n个参与方，当迭代次数为1时，以n参与方的局域模型参数M_i的均值作为基准参数μ^t，即

预设比例主要作为筛选高质量局域模型参数的分界线，可以优选为1/2。当迭代次数大于1时，将对各个参与方上传的局域模型参数有效性证明P进行从高到低排序，取前1/2的局域模型参数组成高质量参数集合M_h，对高质量参数集合M_h中的所有局域模型参数求平均作为基准参数μ^t，即

s.t.

and M_i∈M_h

每轮次中，计算参与方与基准参数的全局相似度d为：

其中，基准参数μ与局域模型参数M的维度相同，均为K×L，k和l为基准参数μ与局域模型参数M中元素的索引。然后，将局域模型参数相似度小于阈值或者最低的参与方认为是有可能是受攻击或者恶意的参与方，矿工节点在收集各个参与方的局域模型参数时，丢弃该局域模型参数，剩下的参与方为可信参与方，对应的局域模型参数用于聚合。

S105，依据全局相似性对可信参与方进行历史信用评级更新。

在获得可信参与方之后，矿工节点再次查询历史账本，得到可信参与方的历史信用评级，然后根据全局相似性对可信参与方进行历史信用评级更新，包括：

采用以下公式更新历史信用评级：

其中，表示全局相似度，K_t-1、K_t分别表示t-1次和t次的历史信用评级。

S106，依据新历史信用评级按照比例为可信参与方发放奖励。

实施例中，还会为可信参数与方发放奖励。矿工运行工作量证明机制POW。当矿工完成POW时，产生一个新的区块，其中记录了经过信用验证的参与方上传的局域模型参数更新，以及参与方的历史信用评分更新。矿工节点获得奖励，根据矿工节点的每个参与方的历史信用评级为每个参与方发放奖励：

其中，R_total为总奖励值，R_i为第i个参与方获得的奖励，以此激励各个参与方上传更优质的局域模型参数数据。

S107，依据矿工节点的算力或矿工节点的历史信用评级投票选择超级节点。

实施例中，超级节点的产生减弱了联邦学习框架中服务器模型的中心性，可以有效减轻因服务器模型故障带来的全局影响，即使某个超级节点因故障失效，也可以从剩余的矿工节点中筛选产生新超级节点，使得联邦模型能够继续训练。超级节点的筛选可以使用两种方式完成，如图3所示：

方式一：算力测试题的发布节点向算力池中发布算力测试题，候选矿工节点从算力池中获取测试题进行求解，并返回求解结果。算力测试题发布节点公布答案，选取答案最接近的候选矿工节点作为超级节点。

方式二：根据矿工节点的历史信用评级，由各个矿工节点之间投票产生。

S108，超级节点对可信参与方的局域模型参数进行聚合得到全局模型参数，并基于全局模型参数进行一次参数优化后，将优化后的全局模型参数下发至各可信参与方，完成一轮联邦学习。

一个实施例中，超级节点对可信参与方的局域模型参数进行聚合得到全局模型参数包括：

计算每个矿工团体内所有参与方的历史信用评级的平均值作为矿工团体的可信任度；

以每个矿工团队的可信任度的占比作为权重对矿工团体的局域模型参数进行加权，得到矿工团体加权后的局域模型参数；

对所有矿工团体加权后的局域模型参数进行平均聚合或者加权聚合，得到全局模型参数。

实施例中，查询矿工团体历史账本记录，进行矿工团体可信任度判定，即超级节点首先对每个矿工节点的各个参与方的历史信用评分进行查询，并对每个矿工团体求团体可信任度为

在聚合局域模型参数前，假设有m个矿工团体，根据团体可信任度对矿工团体上传的模型参数M_j进行加权得到

j为矿工团体的索引。

当超级节点在既定时间内收到所有矿工团体提供的加权后的局域模型参数数据M_j'后，对局域模型参数M_j'进行解密，获得真实的局域模型参数，对解密后的局域模型参数进行聚合得到全局模型。此处的聚合操作可以采用联邦学习中常用的聚合方式，如平均聚合

或加权聚合

其中，w_j为可训练参数，可以自适应地为每个参与方上传的局域模型参数进行加权。

在获得全局模型之后，超级节点对利用梯度下降法等对全局模型进行第训练，进行一次参数优化后，优化后的全局模型参数、各个矿工团体的历史信用评分以及参与方的历史信用评分进行打包并存储到区块中，进行广播，记账等操作，将更新的区块添加至区块链中。各个参与方可从中下载相关数据，进行下一轮本地模型的训练。重复上述过程，当满足迭代结束条件时，联邦模型达到预期效果，结束训练。

上述实施例提供的基于区块链的参与方可信任的联邦学习方法，一方面利用区块链的去中心化来削弱联邦学习框架中服务器模型的中心性，可以减轻因设备故障带来的全局影响；另一方面利用区块链账本工具以及不可篡改性的特点，建立一套信任机制，增强各训练参与方之间的信任度，提高联合训练模型的质量，再一方面通过区块链奖励机制，激励训练参与方提供优质模型数据，提高联合训练的效果。

实施例还提供了一种基于区块链的参与方可信任的联邦学习装置，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上执行的计算机程序，所述处理器执行所述计算机程序时实现上述基于区块链的参与方可信任的联邦学习方法。

具体应用时，存储器可以为在近端的易失性存储器，如RAM，还可以是非易失性存储器，如ROM，FLASH，软盘，机械硬盘等，还可以是远端的存储云。处理器可以为中央处理器(CPU)、微处理器(MPU)、数字信号处理器(DSP)、或现场可编程门阵列(FPGA)，即可以通过这些处理器实现基于区块链的参与方可信任的联邦学习的步骤。

以上所述的具体实施方式对本发明的技术方案和有益效果进行了详细说明，应理解的是以上所述仅为本发明的最优选实施例，并不用于限制本发明，凡在本发明的原则范围内所做的任何修改、补充和等同替换等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于区块链的参与方可信任的联邦学习方法，其特征在于，包括以下步骤：

参与方身份注册和认证，建立智能合约，绑定参与方与区块链中矿工节点；

参与方加密上传局部模型参数和历史信用评级至绑定的矿工节点，矿工节点依据参与方的历史信用评级筛选验证并第一次滤除不可信参与方后，对剩下参与方的局域模型参数进行全局相似性判断以第二次滤除不可信参与方后，依据全局相似性对剩下的可信参与方进行历史信用评级更新，依据新历史信用评级按照比例为可信参与方发放奖励；

依据矿工节点的算力或矿工节点的历史信用评级投票选择超级节点；

超级节点对可信参与方的局域模型参数进行聚合得到全局模型参数，并基于全局模型参数进行一次参数优化后，将优化后的全局模型参数下发至各可信参与方，完成一轮联邦学习。

2.如权利要求1所述的基于区块链的参与方可信任的联邦学习方法，其特征在于，所述参与方身份注册和认证包括：参与方上传身份信息，并使用身份ID对参与方进行身份核验，初始参与方的初始信用评级；所述身份信息包括身份ID、计算能力、传输能力；

所述智能合约包括数字签名加密方式、模型头部信息、在多参与方情况下选择并关联矿工节点方式、奖惩机制。

3.如权利要求2所述的基于区块链的参与方可信任的联邦学习方法，其特征在于，所述绑定参与方与区块链中矿工节点包括：依据智能合约中约定的选择并关联矿工节点方式，为每个参与方绑定关联1个矿工节点，其中，1个矿工节点至少绑定关联1个参与方，当1个矿工节点绑定多个参与方时，多个参与方会形成1个矿工团体。

4.如权利要求1所述的基于区块链的参与方可信任的联邦学习方法，其特征在于，参与方加密上传局部模型参数至绑定的矿工节点包括：

参与方按照智能合约中约定的数字签名加密方式对模型头部信息进行加密形成第一签名，对局域模型参数进行加密形成密文后，上传第一签名、数字签名加密方式中采用的加密参数至绑定的矿工节点；

矿工节点在收到第一签名、数字签名加密方式中采用的加密参数后，利用数字签名加密方式中采用的加密参数对智能合约约定的模型头部信息进行加密处理，得到第二签名，当第二签名和第一签名相等时，则签名验证通过，实现密文的安全传输。

5.如权利要求1所述的基于区块链的参与方可信任的联邦学习方法，其特征在于，矿工节点依据参与方的历史信用评级筛选验证并第一次滤除不可信参与方包括：

矿工节点在收到上传的历史信用评级后，从历史账本中查找记载的历史信用评级，当两个历史信用评级不相等时，直接判定参与方不可信，对不可信的参与方进行第一次滤除。

6.如权利要求4所述的基于区块链的参与方可信任的联邦学习方法，其特征在于，依据历史信用评级筛选验证滤除不可信参与方的过程实施在签名验证之前，对剩下的参与方进行签名验证，签名验证通过后，实现密文的安全传输。

7.如权利要求1所述的基于区块链的参与方可信任的联邦学习方法，其特征在于，所述对剩下参与方的局域模型参数进行全局相似性判断以第二次滤除不可信参与方包括：

当迭代次数为1时，以剩下参与方上传的所有局域模型参数的均值作为基准参数；

当迭代次数大于1时，依据剩下参与方上传的参数有效性证明筛选前预设比例高的参数有效性证明对应的参与方；并将筛选得到的参与方的局域模型参数的均值作为基准参数；

每轮次中，计算每个剩下参与方与基准参数的全局相似度，将全局相似度小于阈值参与方进行第二次滤除，得到可信参与方。

8.如权利要求1所述的基于区块链的参与方可信任的联邦学习方法，其特征在于，所述依据全局相似性对剩下的可信参与方进行历史信用评级更新包括：

采用以下公式更新历史信用评级：

其中，表示全局相似度，K_t-1、K_t分别表示t-1次和t次的历史信用评级。

9.如权利要求1所述的基于区块链的参与方可信任的联邦学习方法，其特征在于，所述超级节点对可信参与方的局域模型参数进行聚合得到全局模型参数包括：

计算每个矿工团体内所有参与方的历史信用评级的平均值作为矿工团体的可信任度；

以每个矿工团队的可信任度的占比作为权重对矿工团体的局域模型参数进行加权，得到矿工团体加权后的局域模型参数；

对所有矿工团体加权后的局域模型参数进行平均聚合或者加权聚合，得到全局模型参数。

10.一种基于区块链的参与方可信任的联邦学习装置，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上执行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1～9任一项所述的基于区块链的参与方可信任的联邦学习方法。

Images