CN112784994A - 基于区块链的联邦学习数据参与方贡献值计算和激励方法 - Google Patents

Abstract

本发明公开一种基于区块链的联邦学习数据参与方贡献值计算和激励方法，该方法包括步骤：对数据参与方的本地训练模型进行特征提取，获得模型更新数据；数据需求方对所述模型更新数据解码，得到中间验证模型；数据需求方对中间验证模型分批次评估得到评估指标；根据所述评估指标计算所述数据参与方的贡献度；根据所述数据参与方的贡献度向数据参与方分配激励值；将数据参与方的激励值和地址形成奖励队列放入区块链上。本发明以由数据需求方对数据参与方的贡献进行评估和计算，再以各方贡献为分配依据进行奖励的分配，保证公平性，同时提高数据拥有方参与联邦学习的热情；有效地鼓励和吸引数据拥有方参与到联邦学习中来。

Description

基于区块链的联邦学习数据参与方贡献值计算和激励方法

技术领域

本发明涉及联邦学习技术领域，具体涉及一种基于区块链的联邦学习数据参与方贡献值计算和激励方法。

背景技术

近几年人工智能技术快速发展，在各行各业得到了很大的应用，借助大数据环境驱动的人工智能进入了黄金发展时期。目前存在的一些潜在的问题可能造成大数据驱动的人工智能技术进入发展低谷，需要面对和解决：一是数据源的问题，包括有限的数据量和数据的质量问题。在很多行业，数据是以数据孤岛的形式存在的，行业之间甚至行业内数据的整合存在的重重障碍。二是数据隐私和数据安全问题。如何在保证数据隐私和安全的情况下有效地整合和利用数据是当前不得不面对的难题。针对这两个问题，谷歌Google在2016年提出了联邦学习(Federated Learning)，有效帮助多个机构在满足用户隐私保护、数据安全和政府法规的要求下，进行数据使用和机器学习建模。

联邦学习定义了机器学习框架，在此框架下通过设计虚拟模型解决不同数据拥有方在不交换数据的情况下进行协作的问题。虚拟模型是各方将数据聚合在一起的最优模型，各自区域依据模型为本地目标服务。联邦学习要求此建模结果应当无限接近传统模式，即将多个数据拥有方的数据汇聚到一处进行建模的结果。在联邦机制下，各参与者的身份和地位相同，可建立共享数据策略，由于数据不发生转移，因此不会泄露用户隐私或影响数据规范。但是传统联邦学习缺少鼓励和吸引数据拥有方参与到联邦学习中来的激励机制，为联邦学习框架引入激励机制可以有效地提高联邦学习获得信息的能力。

CN111967610A公开了一种基于区块链的联邦学习激励方法、装置、设备及存储介质，其中，该方法包括：获取各个参与方的本地数据和本地模型；基于联邦学习框架对所有参与方的本地数据进行训练，得到联邦模型；分别计算各个本地模型的性能指数，计算联邦模型的性能指数；针对每个参与方，根据该参与方的本地模型的性能指数和联邦模型的性能指数，计算该参与方的本地数据对所述联邦学习框架的数据贡献度；根据各个参与方的数据贡献度，向各个参与方分配激励值，将相关数据存区块链上。

该方案促使参与方更加积极地为联邦学习提供数据，有利于优化联邦模型，有利于联邦学习框架的推广，该方法具有准确性、可靠性。该方法通过将参与方的数据贡献度与本地模型的性能和联邦模型的性能关联起来，而不考虑各个参与方提供数据的质量和数量，使得将数据贡献度量化问题转化为数值化、简单化。参与方的贡献度计算仅仅考虑了训练效果即模型性能，贡献度由效果评估指标(性能指数)直接导出。评估方法和奖励机制存在不准确、不公平。同时该方法中将包括联邦学习过程中的模型信息、参与方的训练后模型、测试数据以及贡献度等都存放在区块链中，因区块链的公开性，可能存在学习模型甚至数据隐私泄露的风险。

综上所述，本发明专利设计了一种联邦学习框架中的数据参与方贡献计算和和激励算法(即本发明专利所述的基于区块链技术的联邦学习数据参与方贡献计算及激励方法)。本发明专利认为在激励参与方时应该根据参与方所做的贡献进行分配，参与方贡献大小由其提供的数据和模型的训练效果决定，提供的数据和模型的训练效果能够较好地反映参与方的成本和贡献。引入数字货币作为激励手段，本发明专利认为相较于以往联邦学习框架，该方法能够有效地吸引数据拥有方参与到联邦学习的体系中。

发明内容

本发明目的在于解决联邦学习中缺少鼓励和吸引数据拥有方参与到联邦学习中来的激励机制，提供一种基于区块链技术的联邦学习数据参与方贡献计算及激励方法，该方法在奖励参与方时根据参与方所做的贡献进行奖励分配，参与方贡献大小由其提供的数据和模型的训练效果决定，数据方提供的数据和模型的训练效果能够较好地反映参与方的成本和贡献，能够体现收益分配的公平性；该方法基于区块链技术引入数字货币作为激励手段，鼓励和吸引数据拥有方参与到联邦学习中来，此外，区块链去中心化、透明和不可篡改的特点能够有效地保证联邦学习数字货币体系的安全性。

为实现上述目的，本发明采用的技术方案是：

一种基于区块链的联邦学习数据参与方贡献值计算和激励方法，该方法包括：

对数据参与方的本地训练模型进行特征提取，获得模型更新数据；

数据需求方对所述模型更新数据解码，得到中间验证模型；

数据需求方对中间验证模型分批次评估，得到评估指标；

根据所述评估指标计算所述数据参与方的贡献度；

根据所述数据参与方的贡献度，向数据参与方分配激励值；

将数据参与方的激励值和地址形成奖励队列放入区块链上。

为了有效地鼓励和吸引数据拥有方参与到联邦学习中来，公平的激励机制是有利的支撑，而为了做到对参与方进行公平的激励，需要合理的激励依据。本发明中数据参与方的贡献由数据参与方训练效果计算得到，作为奖励的分配依据；并按照益分配方法进行奖励的分配，保证公平性，同时提高数据拥有方参与联邦学习的热情。最后本发明将联邦学习对数据参与方的奖励以数字货币的形式进行发送，保存在区块链中。数据需求方在获得联邦学习对各个数据参与方的奖励信息后，便可以根据经典区块链的算法进行转账，以数字货币的形式奖励数据参与方。

所述本地训练模型是数据参与方基于自身的本地数据对分发的模型训练得到。

所述模型更新数据包括梯度变化、本地训练模型版本号、本地训练模型数据集大小、数据参与方身份识别、训练成本等信息。

所述梯度变化采用梯度下降算法，具体为：

δ_li＝T′_li-T_li

其中，δ_li表示第i个数据参与方的第l轮次的梯度变化，T′_li表示第i个数据参与方的第l轮次中本地数据训练后的梯度，T_li表示数据参与方第l轮次本地数据训练前的梯度。

所述数据参与方的贡献度计算完成后，对梯度变化进行更新，更新方法为：

其中，T_li表示第i个数据参与方的第l轮次的本地数据训练前的梯度，η_li表示第i个数据参与方的评估指标，δ_li表示第i个数据参与方第l轮次的梯度变化，N表示数据参与方的数量。

所述评估设置边缘阈值thres_bad和thres_good，当指标小于thres_bad时，评价等级为bad；当指标大于thres_good时，评价等级为good；当指标处于两个阈值之间时，评价等级为uncertain，分别用阶跃函数b(a_ij)、g(a_ij)和u(a_ij)表示：

对评估后的阶跃函数汇总、归一化处理，得到评估指标η_li，各类评估的出现次数汇总表示为：

并对汇总结果进行归一化处理，表示为：

根据各批次测试和评估结果得到第i个数据参与方第l轮次的评估指标η_li，表示为：

η_li＝normal_goodi+k*normal_uncertaini

其中，m表示数据需求方对中间验证模型共分m批次进行评估，j表示数据需求方第j批次评估，normal_badi表示第i个数据需求方评价等级为bad的归一化结果，normal_goodi表示第i个数据需求方评价等级为good的归一化结果，normal_uncertaini表示第i个数据需求方评价等级为uncertain的归一化结果；k表示评价等级为uncertain的数据被接收为评价等级为good的系数。

所述数据参与方的贡献度为：

con_i＝cost_iη_li

其中，con_i表示第i个数据参与方的贡献度，cost_i＝λn_i，η_li表示第i个数据参与方第l轮次的评估指标，，cost_i表示本地训练模型的训练成本，n_i表示第i个数据需求方本地训练集大小；λ为相关系数，取值1。

所述数据参与方的激励值r_i为：

其中，W表示中间验证模型的总贡献度，

R表示数据需求方提供的奖励总额；con_i表示第i个数据参与方的贡献度，N表示数据参与方的数量。

将奖励队列放入区块链上包括：针对每个数据参与方，数据需求方取出奖励队列中该数据参与方的奖励信息，对奖励信息进行私钥加密，将数据参与方的转账信息、私钥、密文以及非对称解密验证码存储在区块链上。

在本发明中所有的数据参与方、数据需求方都注册成为所述区块链上的用户，可以获取区块链中公开的数据和信息。奖励信息包括数据参与方的激励值及数据参与方地址等相关信息。

与现有技术相比，本发明具有以下有益效果：

本发明以由数据需求方对数据参与方的贡献进行评估和计算，再以贡献计算方法得到的各方贡献为分配依据，按照收益分配方法进行奖励的分配，保证公平性，同时提高数据拥有方参与联邦学习的热情；有效地鼓励和吸引数据拥有方参与到联邦学习中来。

附图说明

图1为本发明基于区块链技术的联邦学习数据参与方贡献计算及激励方法的实施流程图；

图2为实施例基于区块链技术的联邦学习数据参与方贡献计算及激励方法的梯度变化计算方法；

图3为实施例中基于区块链技术的联邦学习数据参与方贡献计算及激励方法的中间验证模型评估流程图；

图4为实施例中基于区块链技术的联邦学习数据参与方贡献计算及激励方法的数据参与方贡献计算和奖励实施流程图；

图5为实施例中基于区块链技术的联邦学习数据参与方贡献计算及激励方法的区块链技术应用框架。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。本领域技术人员在理解本发明的技术方案基础上进行修改或等同替换，而未脱离本发明技术方案的精神和范围，均应涵盖在本发明的保护范围内。

实施例

如图1所示，一种基于区块链的联邦学习数据参与方贡献值计算和激励方法，该方法包括步骤：

首先联邦学习模型给每个数据参与方分发模型，数据参与方接收分发的模型，利用本地基于自身的本地数据对分发的模型训练，得到本地训练模型；

对数据参与方的本地训练模型进行特征提取，计算本地训练模型的梯度变化，获得模型更新数据；

如图2所示，梯度变化采用梯度下降算法(Gradient Descent Optimization)，根据梯度下降的公式

在简化学习率的影响的情况下，参与方i本地模型的梯度变化由该轮次分发的联邦模型使用参与方i本地数据d_i进行训练前后的梯度相减得到，第i个数据参与方的第l轮次的梯度变化δ_li表示为：

δ_li＝T′_li-T_li

其中，T′_li表示第i个数据参与方的第l轮次中本地数据训练后的梯度，T_li表示数据参与方第l轮次本地数据训练前的梯度。

数据参与方将得到包括梯度变化、本地训练模型版本号、本地训练模型数据集大小、数据参与方身份识别、训练成本等信息的模型更新数据回传数据；

如图3所示，数据需求方对回传数据中模型更新数据进行解码，根据解码得到的数据参与方i的梯度和联邦模型数据生成中间验证模型；

数据需求方用自身保留的验证集数据对中间验证模型分m批次评估，根据模型任务的不同，计算生成不同的评估指标，例如分类模型AUC指标、回归模型的mAP指标等，得到评估指标；

评估设置边缘阈值thres_bad和thres_good，当指标小于thres_bad时，评价等级为bad；当指标大于thres_good时，评价等级为good；当指标处于两个阈值之间时，评价等级为uncertain，分别用阶跃函数b(a_ij)、g(a_ij)和u(a_ij)表示：

在各个批次的测试都完成后，汇总各类评估的出现次数，各类评估的出现次数汇总表示为：

并对统计结果进行归一化处理：

最终，根据各个批次的测试和评估结果生成最终的第i个数据参与方第l轮次的评估结果为：

η_li＝normal_goodi+k*normal_uncertaini

其中，j表示数据需求方第j次评估，k表示评价等级为uncertain的数据被接收为评价等级为good的系数，取值0.5。

如图4所示，根据得到的评估指标计算第i个数据参与方的贡献度con_i，表示为：

con_i＝cost_iη_li

其中，cost_i＝λn_i，η_li表示第i个数据参与方第l轮次的评估指标，n_i表示第i个数据需求方本地训练集大小；cost_i表示本地训练模型的训练成本，各数据参与方的贡献由其训练的模型效果的成绩决定，而根据实验可知数据参与方使用本地数据d参与模型训练的成本与其数据集大小线性相关，λ为相关系数，取值1。

通过上述方法，计算得到该轮次提供有效模型更新的总贡献为：

基于数据参与方的贡献大小对数据参与方分配激励值，R表示该轮次数据需求方给出的奖励总额，有：

其中，N表示数据参与方的数量。

所述数据参与方的贡献度计算完成后，对梯度变化进行更新，更新方法为：

其中，T_li表示第i个数据参与方的第l轮次的本地数据训练前的梯度，η_li表示第i个数据参与方的评估指标，δ_li表示第i个数据参与方第l轮次的梯度变化，N表示数据参与方的数量。

最后如图5所示，将数据参与方的激励值和地址形成奖励队列Q的形式，放入区块链上。针对每个数据参与方，数据需求方在完成奖励分配后，依次取出奖励队列Q中数据参与方i的收款地址和其对应的奖励r_i，并对该转账信息进行hash运算，得到转账摘要，然后利用自己的私钥对摘要进行加密，得到一段密文msg_i并向外界广播其对参与方i的转账信息、自己的公钥和密文msg_i，以提供给矿工进行非对称解密验证。矿工在完成区块打包后转账即完成，转账信息将公开透明的记录在区块链中，可追溯且不可篡改。

为了有效地鼓励和吸引数据拥有方参与到联邦学习中来，公平的激励机制是有利的支撑，而为了做到对参与方进行公平的激励，需要合理的激励依据。本发明中数据参与方的贡献由数据参与方训练效果计算得到，作为奖励的分配依据；并按照益分配方法进行奖励的分配，保证公平性，同时提高数据拥有方参与联邦学习的热情。最后本发明将联邦学习对数据参与方的奖励以数字货币的形式进行发送，保存在区块链中。数据需求方在获得联邦学习对各个数据参与方的奖励信息后，便可以根据经典区块链的算法进行转账，以数字货币的形式奖励数据参与方。

Claims (9)

1.一种基于区块链的联邦学习数据参与方贡献值计算和激励方法，其特征在于，该方法包括：

对数据参与方的本地训练模型进行特征提取，获得模型更新数据；

数据需求方对所述模型更新数据解码，得到中间验证模型；

数据需求方对中间验证模型分批次评估，得到评估指标；

根据所述评估指标计算所述数据参与方的贡献度；

根据所述数据参与方的贡献度，向数据参与方分配激励值；

将数据参与方的激励值和地址形成奖励队列放入区块链上。

2.根据权利要求1所述的基于区块链的联邦学习数据参与方贡献值计算和激励方法，其特征在于，所述本地训练模型是数据参与方基于自身的本地数据对分发的模型训练得到。

3.根据权利要求1所述的基于区块链的联邦学习数据参与方贡献值计算和激励方法，其特征在于，所述模型更新数据包括梯度变化、本地训练模型版本号、本地训练模型数据集大小、数据参与方身份识别。

4.根据权利要求3所述的基于区块链的联邦学习数据参与方贡献值计算和激励方法，其特征在于，所述梯度变化采用梯度下降算法，具体为：

δ_li＝T′_li-T_li

其中，δ_li表示第i个数据参与方的第l轮次的梯度变化，T′_li表示第i个数据参与方的第l轮次中本地数据训练后的梯度，T_li表示数据参与方第l轮次本地数据训练前的梯度。

5.根据权利要求1或3所述的基于区块链的联邦学习数据参与方贡献值计算和激励方法，其特征在于，所述数据参与方的贡献度计算完成后，对梯度变化进行更新，更新方法为：

其中，T_li表示第i个数据参与方的第l轮次的本地数据训练前的梯度，η_li表示第i个数据参与方的评估指标，δ_li表示第i个数据参与方第l轮次的梯度变化，N表示数据参与方的数量。

6.根据权利要求1所述的基于区块链的联邦学习数据参与方贡献值计算和激励方法，其特征在于，所述评估设置边缘阈值thres_bad和thres_good，当指标小于thres_bad时，评价等级为bad；当指标大于thres_good时，评价等级为good；当指标处于两个阈值之间时，评价等级为uncertain，分别用阶跃函数b(a_ij)、g(a_ij)和u(a_ij)表示：

汇总各类评估结果，表示为：

并对汇总结果进行归一化处理，表示为：

根据各批次测试和评估结果得到第i个数据参与方第l轮次的评估指标η_li，表示为：

η_li＝normal_goodi+k*normal_uncertaini

其中，m表示数据需求方对中间验证模型共分m批次进行评估，j表示数据需求方第j批次评估；

normal_badi表示第i个数据需求方评价等级为bad的归一化结果，normal_goodi表示第i个数据需求方评价等级为good的归一化结果，normal_uncertaini表示第i个数据需求方评价等级为uncertain的归一化结果；k表示评价等级为uncertain的数据被接收为评价等级为good的系数。

7.根据权利要求1所述的基于区块链的联邦学习数据参与方贡献值计算和激励方法，其特征在于，所述数据参与方的贡献度为：

con_i＝cost_iη_li

其中，con_i表示第i个数据参与方的贡献度，cost_i＝λh_i，η_li表示第i个数据参与方第l轮次的评估指标，cost_i表示本地训练模型的训练成本，n_i表示第i个数据需求方本地训练集大小；λ为相关系数。

8.根据权利要求1所述的基于区块链的联邦学习数据参与方贡献值计算和激励方法，其特征在于，所述数据参与方的激励值r_i为：

其中，W表示中间验证模型的总贡献度，

R表示数据需求方提供的奖励总额；con_i表示第i个数据参与方的贡献度，N表示数据参与方的数量。

9.根据权利要求1所述的基于区块链的联邦学习数据参与方贡献值计算和激励方法，其特征在于，将奖励队列放入区块链上包括：

针对每个数据参与方，数据需求方取出奖励队列中该数据参与方的奖励信息，对奖励信息进行私钥加密，将数据参与方的转账信息、私钥、密文以及非对称解密验证码存储在区块链上。

Images