CN115622777A - 一种基于联盟链的多中心联邦学习数据共享方法 - Google Patents

Abstract

本发明公开了一种基于联盟链的多中心联邦学习数据共享方法，包括由联盟链网络、星际文件系统网络以及联邦学习单元组成的系统，还包括以下步骤：S1：初始化；S2：身份注册和授权；S3：联合建模准备；S4：联合建模训练；S5：联合建模组内聚合；S6：联合建模组间聚合；S7：联合建模结束；本发明中既能够确保数据不可篡改，又能够实现数据溯源；提升了系统的高可用性和安全性；既能够排除恶意节点，又能够提高吞吐量；采用信誉值评估机制，提高共享模型的质量。

Description

一种基于联盟链的多中心联邦学习数据共享方法

技术领域

本发明属于模型敏感数据隐私保护技术领域，涉及一种基于联盟链的多中心联邦学习数据共享方法。

背景技术

随着信息技术的快速发展，医疗服务逐渐向数字化、信息化转型。医疗数据作为重要数据资产也在不断被分析和挖掘，不同组织机构之间的医疗数据交换与共享能够使得医疗数据发挥更高价值；单个医疗机构存在数据不足和维度不够丰富的问题。因此，跨地区、跨机构的医疗数据共享需求日益增长。然而，近年来在数据共享过程中数据安全事件屡见不鲜，伴随着出现了数据保护与数据利用之间的矛盾冲突，也导致“数据饥饿”新的问题出现。

为了解决上述问题；当前有如下三种解决方案：第一种方案是采用区块链技术结合MPC实现数据共享虽然能够保护数据的隐私，但是这种方式计算开销大、能耗高，并且对网络的带宽和延迟要求较高；第二种方案是采用区块链技术结合TEE实现数据共享，该方案利用TEE的高效率计算，弥补区块链技术的计算缺陷，然而在现有系统上升级硬件环境，这会导致硬件成本增加，系统设计的复杂度增大；第三种方案是采用区块链技术结合FL实现数据安全共享方案虽然能够在不共享原始数据的情况下，完成了计算任务并且保护了数据所有者的隐私，但是这种架构会存在众多安全威胁。

所以为了解决这些挑战，急需提出一种基于联盟链的多中心联邦学习数据共享方法。

发明内容

针对上述问题，本发明提出了一种提高了系统吞吐量、有效抵御恶意攻击者参与建模的基于联盟链的多中心联邦学习数据共享方法。

为了实现上述目的，本发明采用的技术方案如下：一种基于联盟链的多中心联邦学习数据共享方法，包括由联盟链网络、星际文件系统网络以及联邦学习单元组成的系统，还包括以下步骤：

S1：初始化；将意向组成联盟的所有节点进行资格审查，将审查通过的节点根据共识算法动态分成多个小组，每个小组内选出一个节点作为汇聚节点，小组之间形成联盟链网络；

S2：身份注册和授权；每个节点均需要联盟链网络中的智能合约单元完成身份检验，每个节点能够作为任务发布者上传任务需要和任务信息到联盟链网络；

S3：联合建模准备；任务发布者可作为数据请求方并需要提供统一的联邦学习单元和共享模型，剩余部分或者全部节点可作为数据提供方通过联邦学习单元和共享模型进行本地数据处理和模型测试，数据提供方再将数据处理和模型测试的结果发布到联盟链网络；

S4：联合建模训练；任务发布者通告所有数据提供方开始训练任务，数据提供方在本地数据集训练局部模型，训练完成后，将本地模型参数上传到星际文件系统网络并获取返回值，再将返回值上传到联盟链网络，当上传的数据提供方的数量达到阈值时，汇聚节点给智能合约单元发出聚合任务请求并执行步骤S5；

S5：联合建模组内聚合；汇聚节点将组内其他数据提供方上传的本地模型参数下载到本体，并根据基于信誉值的加权联邦平均算法进行组内聚合任务；

S6：联合建模组间聚合；当所有汇聚节点完成组内聚合任务后，采用轮询机制从汇聚节点中选出一个节点承担组间聚合任务，将所有小组上传的本地模型参数聚合成新模型参数，并更新共享模型；

S7：联合建模结束；在步骤S6完成本轮更新共享模型后，根据历史行为和当前行为评估数据提供方的信誉值，完成数据提供方的信誉值更新；在根据全局配置信息，继续进行下一轮训练任务，执行步骤4、步骤5、步骤6、步骤7直到共享模型收敛。

进一步的，所述共识算法包括节点分组步骤和共识通信步骤。

进一步的，所述节点分组步骤描述如下：

设联盟链网络中有N个节点，选择不同地区的G个节点作为中心节点，将其他节点表示为n_o，中心节点表示为n_g；当节点n_o与中心节点n_g的距离是最近的时候，则n_o属于Cg集群，其计算方法如下：

先获取联盟链网络中所有节点的物理位置，通过计算欧式距离对节点进行分组，其他节点到中心节点的距离表示为Dist，计算公式如下：

其中，o∈[1，N-G]，g∈[1，G]，n_o坐标为(x_o，y_o)，n_g坐标为(x_g，y_g)；

在C个小组中，依次在每个组内计算某个节点到组内其他节点的欧式距离之和最小，当该节点为中心节点，则迭代结束；否则该节点替代中心节点，继续执行下述计算公式：

其中，n_i代表Cg集群中的一个节点，n_j代表Cg集群中的其他节点。

进一步的，所述共识通信步骤描述如下：

A、区块通告：联盟链网络中的一个汇聚节点将一段时间数据请求打包成区块，封装成通告消息，并通告给其他小组的汇聚节点；

B、组内共识：各个组的汇聚节点收到通告消息后，各个小组在组内进行PBFT共识，并发送确认信息a给汇聚节点，则进入组间共识；

C、组间共识：当汇聚节点收到[G/2]个汇聚节点的确认消息a后，汇聚节点再次发送确认消息b，其他汇聚节点接收到重复确认消息b后，再次向汇聚节点发送确认信息c，并进入区块同步；

D、区块同步：组内和组间的共识过程均完成，由小组的汇聚节点发送执行信息d，通知组内接入及诶点执行区块写入到本地，待所有汇聚节点发送消息e，完成共识通信。

进一步的，所述基于信誉值的加权联邦平均算法包括信誉值计算步骤和模型聚合步骤。

进一步的，所述信誉值计算步骤描述如下：

首先信誉值属性矩阵表示为P，其中x_o表示参与者模型训练历史评估的信誉值，x_i表示模型测试准确率，x₂表示模型测试损失，x₃表示训练集大小，x₄表示学习率，x₅表示局部迭代轮次，x₆表示局部批处理大小；信誉值的计算公式如下：

采用均值方差归一化对信誉值属性集合进行预处理；

其中，x_ij为第i个数据提供方的第j个指标的数据值，y_ij为归一化后的数据值，μ表示信誉值属性集合的均值，S表示信誉值属性集合的方差；

接着计算各属性的信息熵，计算公式如下：

其中，N为节点总数，

如果p_ij＝0；则定义

接着，根据信息熵确定各信誉值属性的权重值，计算公式如下：

其中，t为属性的个数，E_j为第j个属性的信息熵；

最后根据属性权重，计算信誉值，计算公式如下：

进一步的，所述模型聚合步骤描述如下：

首先，小组内采用汇聚节点承担聚合任务；其次，有轮询机制选择一个汇聚节点，汇聚节点完成组间的聚合任务，生成共享模型；最后，本轮任务训练结束，将共享模型参数分发给所述数据提供方更新本地模型，迭代直至收敛。

与现有技术相比，本发明具有以下有益效果：

本发明中，可以采用联盟链网络记录医疗数据共享过程，既能够确保数据不可篡改，又能够实现数据溯源；

本发明中，采用多个汇聚节点组成多中心节点轮流承担中心服务器，并且采用信誉机制选举节点，提升了系统的高可用性和安全性；

本发明中，采用共识算法，既能够排除恶意节点，又能够提高吞吐量；

本发明中，采用信誉值评估机制，提高共享模型的质量。

具体实施方式

下面将对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明所述的一种基于联盟链的多中心联邦学习数据共享方法，包括由联盟链网络、星际文件系统网络以及联邦学习单元组成的系统，还包括以下步骤：

S1：初始化；将意向组成联盟的所有节点进行资格审查，将审查通过的节点根据共识算法动态分成多个小组，每个小组内选出一个节点作为汇聚节点，小组之间形成联盟链网络；

S2：身份注册和授权；每个节点均需要联盟链网络中的智能合约单元完成身份检验，每个节点能够作为任务发布者上传任务需要和任务信息到联盟链网络；

S3：联合建模准备；任务发布者可作为数据请求方并需要提供统一的联邦学习单元和共享模型，剩余部分或者全部节点可作为数据提供方通过联邦学习单元和共享模型进行本地数据处理和模型测试，数据提供方再将数据处理和模型测试的结果发布到联盟链网络；

S4：联合建模训练；任务发布者通告所有数据提供方开始训练任务，数据提供方在本地数据集训练局部模型，训练完成后，将本地模型参数上传到星际文件系统网络并获取返回值，再将返回值上传到联盟链网络，当上传的数据提供方的数量达到阈值时，汇聚节点给智能合约单元发出聚合任务请求并执行步骤S5；

S5：联合建模组内聚合；汇聚节点将组内其他数据提供方上传的本地模型参数下载到本体，并根据基于信誉值的加权联邦平均算法进行组内聚合任务；

S6：联合建模组间聚合；当所有汇聚节点完成组内聚合任务后，采用轮询机制从汇聚节点中选出一个节点承担组间聚合任务，将所有小组上传的本地模型参数聚合成新模型参数，并更新共享模型；

S7：联合建模结束；在步骤S6完成本轮更新共享模型后，根据历史行为和当前行为评估数据提供方的信誉值，完成数据提供方的信誉值更新；在根据全局配置信息，继续进行下一轮训练任务，执行步骤4、步骤5、步骤6、步骤7直到共享模型收敛。

本发明中，可以采用联盟链网络记录医疗数据共享过程，既能够确保数据不可篡改，又能够实现数据溯源；采用多个汇聚节点组成多中心节点轮流承担中心服务器，并且采用信誉机制选举节点，提升了系统的高可用性和安全性；采用共识算法，既能够排除恶意节点，又能够提高吞吐量；采用信誉值评估机制，提高共享模型的质量。

本发明中，所述共识算法包括节点分组步骤和共识通信步骤；具体的，所述节点分组步骤描述如下：

设联盟链网络中有N个节点，选择不同地区的G个节点作为中心节点，将其他节点表示为n_o，中心节点表示为n_g；当节点n_o与中心节点n_g的距离是最近的时候，则n_o属于Cg集群，其计算方法如下：

先获取联盟链网络中所有节点的物理位置，通过计算欧式距离对节点进行分组，其他节点到中心节点的距离表示为Dist，计算公式如下：

其中，o∈[1，N-G]，g∈[1，G]，n_o坐标为(x_o，y_o)，n_g坐标为(x_g，y_g)；

在C个小组中，依次在每个组内计算某个节点到组内其他节点的欧式距离之和最小，当该节点为中心节点，则迭代结束；否则该节点替代中心节点，继续执行下述计算公式：

其中，n_i代表Cg集群中的一个节点，n_j代表Cg集群中的其他节点。

具体的，所述共识通信步骤描述如下：

A、区块通告：联盟链网络中的一个汇聚节点将一段时间数据请求打包成区块，封装成通告消息，并通告给其他小组的汇聚节点；

B、组内共识：各个组的汇聚节点收到通告消息后，各个小组在组内进行PBFT共识，并发送确认信息a给汇聚节点，则进入组间共识；

C、组间共识：当汇聚节点收到[G/2]个汇聚节点的确认消息a后，汇聚节点再次发送确认消息b，其他汇聚节点接收到重复确认消息b后，再次向汇聚节点发送确认信息c，并进入区块同步；

D、区块同步：组内和组间的共识过程均完成，由小组的汇聚节点发送执行信息d，通知组内接入及诶点执行区块写入到本地，待所有汇聚节点发送消息e，完成共识通信。

本发明中，所述基于信誉值的加权联邦平均算法包括信誉值计算步骤和模型聚合步骤。

具体的，所述信誉值计算步骤描述如下：

首先信誉值属性矩阵表示为P，其中x_o表示参与者模型训练历史评估的信誉值，x_i表示模型测试准确率，x₂表示模型测试损失，x₃表示训练集大小，x₄表示学习率，x₄表示局部迭代轮次，x₆表示局部批处理大小；信誉值的计算公式如下：

采用均值方差归一化对信誉值属性集合进行预处理；

其中，x_ij为第i个数据提供方的第j个指标的数据值，y_ij为归一化后的数据值，μ表示信誉值属性集合的均值，S表示信誉值属性集合的方差；

接着计算各属性的信息熵，计算公式如下：

其中，N为节点总数，

如果p_ij＝0；则定义

接着，根据信息熵确定各信誉值属性的权重值，计算公式如下：

其中，t为属性的个数，E_j为第j个属性的信息熵；

最后根据属性权重，计算信誉值，计算公式如下：

所述模型聚合步骤描述如下：

首先，小组内采用汇聚节点承担聚合任务；其次，有轮询机制选择一个汇聚节点，汇聚节点完成组间的聚合任务，生成共享模型；最后，本轮任务训练结束，将共享模型参数分发给所述数据提供方更新本地模型，迭代直至收敛；

具体的；更新本地模型中，假设训练集由H个参与者组成，第h个参与者数据的组成的集合为Dh，学习率为η，当前全局模型参数为wt，第h个数据提供方使用本地数据训练并更新本地模型参数。

H个参与者分别在本地计算梯度和本地更新参数：

再进行组内聚合时，参与者h将本地训练更新后的模型参数上传到联盟链网络。当接收到H个参与者模型参数，触发智能合约通知汇聚节点开始聚合任务。此时汇聚节点n_g更新临时全局模型参数，表示为：

其中，R_h表示参与者h在第t轮评估的信誉值；

再进行组间聚合时，汇聚节点n_g将本组聚合的模型参数上传到联盟链网络。当接收到临时全局模型参数达到阈值，触发智能合约单元通知承担组间聚合任务的汇聚节点n_g，开始模型参数聚合，此时汇聚节点n_g更新全局模型参数W_t+1，表示为：

其中，Rg表示汇聚节点g在第t轮评估的信誉值。

尽管参照前述实施例对本发明进行了详细的说明，对于本领域的技术人员来说，其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (7)

1.一种基于联盟链的多中心联邦学习数据共享方法，其特征在于，包括由联盟链网络、星际文件系统网络以及联邦学习单元组成的系统，还包括以下步骤：

S1：初始化；将意向组成联盟的所有节点进行资格审查，将审查通过的节点根据共识算法动态分成多个小组，每个小组内选出一个节点作为汇聚节点，小组之间形成联盟链网络；

S2：身份注册和授权；每个节点均需要联盟链网络中的智能合约单元完成身份检验，每个节点能够作为任务发布者上传任务需要和任务信息到联盟链网络；

S3：联合建模准备；任务发布者可作为数据请求方并需要提供统一的联邦学习单元和共享模型，剩余部分或者全部节点可作为数据提供方通过联邦学习单元和共享模型进行本地数据处理和模型测试，数据提供方再将数据处理和模型测试的结果发布到联盟链网络；

S4：联合建模训练；任务发布者通告所有数据提供方开始训练任务，数据提供方在本地数据集训练局部模型，训练完成后，将本地模型参数上传到星际文件系统网络并获取返回值，再将返回值上传到联盟链网络，当上传的数据提供方的数量达到阈值时，汇聚节点给智能合约单元发出聚合任务请求并执行步骤S5；

S5：联合建模组内聚合；汇聚节点将组内其他数据提供方上传的本地模型参数下载到本体，并根据基于信誉值的加权联邦平均算法进行组内聚合任务；

S6：联合建模组间聚合；当所有汇聚节点完成组内聚合任务后，采用轮询机制从汇聚节点中选出一个节点承担组间聚合任务，将所有小组上传的本地模型参数聚合成新模型参数，并更新共享模型；

S7：联合建模结束；在步骤S6完成本轮更新共享模型后，根据历史行为和当前行为评估数据提供方的信誉值，完成数据提供方的信誉值更新；在根据全局配置信息，继续进行下一轮训练任务，执行步骤4、步骤5、步骤6、步骤7直到共享模型收敛。

2.根据权利要求1所述的基于联盟链的多中心联邦学习数据共享方法，其特征在于：所述共识算法包括节点分组步骤和共识通信步骤。

3.根据权利要求2所述的基于联盟链的多中心联邦学习数据共享方法，其特征在于：所述节点分组步骤描述如下：

设联盟链网络中有N个节点，选择不同地区的G个节点作为中心节点，将其他节点表示为n_o，中心节点表示为n_g；当节点n_o与中心节点n_g的距离是最近的时候，则n_o属于Cg集群，其计算方法如下：

先获取联盟链网络中所有节点的物理位置，通过计算欧式距离对节点进行分组，其他节点到中心节点的距离表示为Dist，计算公式如下：

其中，O∈[1，N-G]，g∈[1，G]，n_o坐标为(x_o，y_o)，n_g坐标为(x_g，y_g)；

在C个小组中，依次在每个组内计算某个节点到组内其他节点的欧式距离之和最小，当该节点为中心节点，则迭代结束；否则该节点替代中心节点，继续执行下述计算公式：

其中，n_i代表Cg集群中的一个节点，n_j代表Cg集群中的其他节点。

4.根据权利要求3所述的基于联盟链的多中心联邦学习数据共享方法，其特征在于：所述共识通信步骤描述如下：

A、区块通告：联盟链网络中的一个汇聚节点将一段时间数据请求打包成区块，封装成通告消息，并通告给其他小组的汇聚节点；

B、组内共识：各个组的汇聚节点收到通告消息后，各个小组在组内进行PBFT共识，并发送确认信息a给汇聚节点，则进入组间共识；

C、组间共识：当汇聚节点收到[G/2]个汇聚节点的确认消息a后，汇聚节点再次发送确认消息b，其他汇聚节点接收到重复确认消息b后，再次向汇聚节点发送确认信息c，并进入区块同步；

D、区块同步：组内和组间的共识过程均完成，由小组的汇聚节点发送执行信息d，通知组内接入及诶点执行区块写入到本地，待所有汇聚节点发送消息e，完成共识通信。

5.根据权利要求1所述的基于联盟链的多中心联邦学习数据共享方法，其特征在于：所述基于信誉值的加权联邦平均算法包括信誉值计算步骤和模型聚合步骤。

6.根据权利要求5所述的基于联盟链的多中心联邦学习数据共享方法，其特征在于：所述信誉值计算步骤描述如下：

首先信誉值属性矩阵表示为P，其中x_o表示参与者模型训练历史评估的信誉值，x_i表示模型测试准确率，x₂表示模型测试损失，x₃表示训练集大小，x₄表示学习率，x₅表示局部迭代轮次，x₆表示局部批处理大小；信誉值的计算公式如下：

采用均值方差归一化对信誉值属性集合进行预处理；

其中，x_ij为第i个数据提供方的第j个指标的数据值，y_ij为归一化后的数据值，μ表示信誉值属性集合的均值，S表示信誉值属性集合的方差；

接着计算各属性的信息熵，计算公式如下：

其中，N为节点总数，

如果p_ij＝0；则定义

接着，根据信息熵确定各信誉值属性的权重值，计算公式如下：

其中，t为属性的个数，E_j为第j个属性的信息熵；

最后根据属性权重，计算信誉值，计算公式如下：

7.根据权利要求5所述的基于联盟链的多中心联邦学习数据共享方法，其特征在于：所述模型聚合步骤描述如下：

首先，小组内采用汇聚节点承担聚合任务；其次，有轮询机制选择一个汇聚节点，汇聚节点完成组间的聚合任务，生成共享模型；最后，本轮任务训练结束，将共享模型参数分发给所述数据提供方更新本地模型，迭代直至收敛。