CN113536382A - 利用联邦学习基于区块链的医疗数据共享隐私保护方法 - Google Patents

Abstract

本发明涉及一种利用联邦学习基于区块链的医疗数据共享隐私保护方法，属于区块链隐私保护技术领域。本方法使用联邦学习技术，在保证原始数据不离开本地的情况下，对数据进行联合建模。此外，在局部模型训练过程中加入差分隐私噪声，防止攻击者利用学习到的模型推断用户的敏感信息。本发明使用区块链来存储和共享全局模型，从而避免中心化聚合器出现单点故障等问题。为减轻区块链上的存储压力，本发明将训练好的局部模型上传到星际文件系统，然后计算文件哈希作为交易上传到区块链。经过聚合的全局训练模型经过共识验证后存储到区块链账本中。对比现有技术，本方法具有良好的隐私性、可靠性和可扩展性。

Description

利用联邦学习基于区块链的医疗数据共享隐私保护方法

技术领域

本发明涉及一种医疗数据共享隐私保护方法，属于区块链隐私保护技术领域。

背景技术

随着物联网、云计算、机器学习等技术的快速发展，大数据时代已经到来。智能设备和数字医疗仪器迅速普及，大量的个人健康数据不断产生。这些医疗数据具有很高的挖掘及利用价值，但却涉及用户隐私问题。在数据收集、存储、共享和分析过程中，个人隐私信息很有可能被泄露。因此，实现在大数据环境下的医疗数据隐私保护，具有重要的现实意义。

在区块链系统中，所有节点都平等地参与数据记录，上链数据对所有节点都是公开透明的，具有可追踪的特点。此外，分布式的存储机制将数据进行多次备份，可以避免因单点故障造成的数据丢失，从而保证数据的安全性。

直接或间接使用差分隐私技术来保护区块链的隐私信息，是当前研究热点。差分隐私，其核心思想是当对手试图从数据库中查询个人信息时，对信息进行一定混淆，使对手无法从查询结果中判别个人级别的敏感性信息。给数据添加噪声主要有两种方法，一种是根据离散值的指数分布选择噪声，即指数机制。另一种是根据函数的灵敏度来添加噪声，即拉普拉斯机制。对于拉普拉斯机制，有研究人员使用拉普拉斯算子对选定数据的访问频率增加噪声，从而保护数据隐私。也有研究人员提出，将噪声添加到能量成本集中，并在区块链中实施差分隐私技术，防止数据挖掘使区块信息受到攻击。

星际文件系统IPFS，使用散列加密为海量数据生成不可改变的永久IPFS地址，然后将地址信息存储到区块链上。这相当于将原始数据在上链之前简化为IPFS地址，既保证了数据的安全性，又考虑了区块链的可扩展性。区块链和IPFS两种技术相辅相成，提供了一条将区块链作为服务来跟踪与给定文件相关的所有活动的明确路径，从而提高了数据的可靠性。IPFS有如下优点：

(1)内容可寻址。内容是经过哈希的，便于查找和跟踪。

(2)无重复内容。系统中的哈希值是唯一的，相同的内容会产生相同的哈希值，因此会被判断为重复并被删除。

(3)内容不可篡改：系统内容需要通过哈希验证，如果内容被篡改，哈希值也会随之发生变化。

联邦机器学习(Federated machine learning/Federated Learning，)，简称联邦学习，是一个机器学习框架，旨在建立一个基于分布式数据集的联邦学习模型，能有效帮助多个机构在满足用户隐私保护、数据安全和政府法规的要求下，进行数据使用和机器学习建模。

在传统的联邦学习模式下，中央服务器将初始模型发送给每个参与者，参与者使用自己的数据集训练模型，并将模型中的权重更新发送给中央服务器。中央服务器聚合从参与者接收的模型进行更新，并将聚合的模型更新再次发送给参与者。整个过程将重复进行，直到模型收敛，达到预设最大迭代次数或最长训练时间。

联邦学习主要用于构建具有以下特征的机器学习模型：

(1)每个参与者都有大量的训练数据来参与模型训练。

(2)在联邦学习模型训练期间，原始数据不会离开本地。

(3)需要确保参与的任何一方都无法推断出其他参与者的原始数据。

(4)所有数据集中训练得到的机器学习模型应该能够完全逼近理想模型。

在这种架构中，参与者的原始数据由自己保存，既保护了用户的隐私和数据安全，又减少了发送原始数据带来的通信开销。

由于网络安全隔离和行业隐私，不同行业和部门之间存在数据壁垒，从而形成一个个数据孤岛导致数据无法安全共享。基于各部门独立数据训练的机器学习模型很多时候并不理想。联邦学习技术可以使参与者在无需共享原始数据的情况下共同构建全局机器学习模型。

然而，基于联邦学习的医疗数据安全共享仍然存在一些挑战。联邦学习通常采用中心化的聚合器，在训练过程中，模型的更新信息不断上报给第三方或中心化服务器，容易出现单点故障。此外，虽然在训练过程中只传递了梯度而没有传递原始数据，第三方可以持续收集不同轮次所有参与者的数据，有机会对原始信息进行分析和推导，但仍存在暴露隐私的风险。

发明内容

本发明的目的是为了解决医疗数据共享过程中的隐私信息保护问题，提出一种基于区块链的医疗数据共享隐私保护方法。

为了达到上述目的，本发明采取如下技术方案。

首先，说明相关概念：

定义1：医疗数据保护

指使用一定的技术手段避免医疗数据信息泄露，可能涉及的数据信息包括病人的病史资料、关键技术数据、科研数据等。

定义2：数据隐私

指数据中直接或间接蕴含的，数据所有者不愿公开的信息，需要在数据收集、存储、查询、分析和发布过程中加以保护。

定义3：联邦学习

是在本地数据上使用分布式机器学习或深度学习技术，构建公共虚拟模型的技术，在整个训练和交互过程中，各方原始数据始终保存在本地，只进行模型梯度的交换和更新。

定义4：区块链账本

用于存储机器学习训练模型的分布式数据库。

定义5：差分隐私

指通过一些密码学技术保护由数据源中的一点微小改动导致的隐私泄露问题。当从统计数据库中查询时，在最大化数据查询准确性的同时最大限度减少识别其他无关记录的机会。

定义6：拉普拉斯噪声

指通过拉普拉斯算子引入的干扰信号。

定义7：星际文件系统

一种点对点的分布式文件系统，其连接的计算设备都具有相同的文件管理模式。其旨在创建持久且分布式存储的共享文件的网络传输协议，是内容可寻址的对等超媒体分发协议。

一种基于区块链的医疗数据共享隐私保护方法，包括以下步骤：

步骤1：使用区块链存储随机选择参数的初始模型。

每个联邦学习的参与者都能够向区块链发送请求获取该初始模型。区块链为所有参与者提供可信的模型存储机制。

步骤2：联邦学习参与者在本地进行模型训练。

各参与者从区块链获取到最新可用模型后，依据本地获取的数据进行训练，并更新本地模型。

步骤3：添加噪声。

各参与者将敏感度标定的噪声加入到训练好的局部模型，使用拉普拉斯机制在局部模型中实现差分隐私，从而在模型查询时能够最大化查询准确度且能最大限度减少识别其他记录，防止攻击者对查询到的模型参数进行差分攻击反推出原数据。

然后，将添加了噪声的模型上传到星际文件系统，星际文件系统计算模型参数的哈希值并将其作为交易发送到区块链系统。

步骤4：进行验证交易。

在区块链中，由诚实节点组成的委员会负责验证交易和生产区块。经过委员会验证交易签名合法，交易格式正确，且无重复交易后，该交易被认定为有效交易，然后被提交到区块链账本。

步骤5：进行全局融合。

委员会验证通过交易后，智能合约利用联邦平均算法对模型进行聚合。当模型参数收敛时，完全停止模型训练，将获得的全局模型上传到区块链进行存储。

当医院对患者进行诊疗时，从区块链中查询训练好的全局模型，输入患者病例信息，根据全局模型得到辅助诊疗结果。

性能优秀的机器学习模型离不开大量高质量医疗数据的支撑，联邦学习可以在保护各个医院内部病例数据隐私的情况下，打破医院间的病例数据隔离。在全局模型的训练过程，有多个参与医院的本地数据作为支撑，将具有更好的诊断性能表现。

有益效果

本发明方法，与现有技术相比，具有如下优点：

1.本方法具有良好的隐私性。本方法使用联邦学习技术，在保证原始数据不离开本地的情况下，对数据进行联合建模。此外，在局部模型训练过程中加入差分隐私噪声，防止攻击者利用学习到的模型推断用户的敏感信息。

2.本方法具有良好的可靠性。本发明使用区块链来存储和共享全局模型，从而避免中心化聚合器出现单点故障等问题。

3.本方法具有良好的可扩展性。为减轻区块链上的存储压力，本发明将训练好的局部模型上传到星际文件系统，然后计算文件哈希作为交易上传到区块链。经过聚合的全局训练模型经过共识验证后存储到区块链账本中。

附图说明

图1为本发明方法的流程图。

具体实施方式

下面结合附图和实施例对本发明方法做进一步详细说明。

实施例

如图1所示，具体地，本实施例详细阐述了使用联邦学习的基于区块链的医疗数据共享隐私保护方案，该方案的性能由最终所得模型准确度来体现。

本实施例描述了本发明方法对基于区块链的医疗数据共享进行隐私保护。

在本实施例中，联邦学习系统中有K个参与者，每个参与者都有自己的一组固定的本地数据。

步骤1：在医疗区块链中存储初始训练模型w₀(参数随机选择)。每个联邦学习的参与者(用户)都向区块链发送请求获取该初始模型，区块链为所有参与者提供可信的模型存储机制。

步骤2：各参与者(用户)从区块链获取到最新模型后，依据本地获取的数据进行模型训练，并更新本地模型。

当进行本地进行模型训练时，采用小批量随机梯度下降算法，实现具有固定学习率η的分布式梯度下降，方法如下：

在每轮更新全局模型参数时，参与者(用户)计算当前模型参数下局部数据的平均梯度，然后聚合这些梯度，并根据式1更新模型参数信息：

其中，w_t+1、w_t分别是第t+1轮、第t轮的模型参数，η代表学习率，K代表联邦学习参与者(用户)的总数，k代表当前参与者(用户)的编号，n_k表示参与者(用户)k的数据点索引集的基，n表示训练集总数，g_k表示批的梯度。

之后，区块链节点向每个参与者(用户)发送更新的模型参数w_t+1。或者，将平均梯度

发送给每个参与者(用户)，参与者(用户)将计算更新模型参数。

步骤3：参与者向本地更新的模型参数添加拉普拉斯噪声，并对模型的参数结果进行加权平均计算。

具体地，将敏感度标定的噪声加入到训练好的局部模型，使用拉普拉斯机制在局部模型中实现差分隐私，即，通过加入噪声(少量)，在模型查询时能够最大化查询准确度且能最大限度减少识别其他记录，防止攻击者对查询到的模型参数进行差分攻击反推出原数据。

其中，添加噪声的方法为：

将敏感度s标定的噪声加入训练好的局部模型m_i，得到新的局部模型m′。使用式2计算敏感度s：

其中，D和D′是两个仅有一条记录的不同的相邻数据集，随机化机制M提供了差分隐私。ε代表隐私预算，ε越小，说明隐私保护密度越高；ε越大，说明数据可用性越高，但数据保密度越低。

根据式3计算新的局部模型m′：

m′＝m_i+Laplace(s/ε) (3)

其中，m_i代表训练得到的局部模型，m′为加入敏感度s标定的噪声后得到新的局部模型，Laplace为拉普拉斯噪声机制，隐私预算ε反应了数据保密程度。

最后，将最终汇总的添加了噪声的模型上传到星际文件系统，星际文件系统计算模型参数的哈希值，将其作为交易发送到区块链系统。

步骤4：验证交易。

由诚实节点组成的委员会负责验证交易和生产区块。经过委员会的验证，只有符合条件的交易才会被提交到区块链账本；

步骤5：全局聚合。

对交易进行验证并通过后，使用安全的联邦平均算法对模型进行聚合平均。然后，将得到的全局模型上传到区块链中存储。

当医院对患者进行诊疗时，从区块链中查询训练好的全局模型，输入患者病例信息，根据全局模型得到辅助诊疗结果。

具体地，本实施例中的方法涉及的字符如表1所示：

表1本实施例中方法涉及字符说明

本发明提出的一种结合区块链与差分隐私技术的安全联邦学习方法，具体流程如下：

输入：w₀，C_t，K,D_k，S，ε

输出：

(1)initialize w₀ broadcast the w₀ to all participants

(2)for round t＝1,2,...,do

(3)C_t＝max(ρK,1)

(4)for each participant k∈C_t do in parallel

(5)

(6)end for

(7)

(8)end for

(9)

(10)

(11)for local iteration i from 1to I do

(12)batches←(Randomly divide the data set Dkinto the size ofbatch M)

(13)

//从上次迭代中获取局部模型参数

(14)for b from 1to

(15)Calculate

(16)

(17)end for

(18)end for

(19)

(20)

其中，输入包括初始模型，联邦学习参与者，参与者拥有的数据集，差分隐私的敏感性及隐私预算。算法的输出为加入差分隐私噪声后的更新的模型。

Claims (4)

1.利用联邦学习基于区块链的医疗数据共享隐私保护方法，其特征在于，包括以下步骤：

步骤1：使用区块链存储随机选择参数的初始模型；

每个联邦学习的参与者都能够向区块链发送请求获取该初始模型，区块链为所有参与者提供可信的模型存储机制；

步骤2：联邦学习参与者在本地进行模型训练；

各参与者从区块链获取到最新可用模型后，依据本地获取的数据进行训练，并更新本地模型；

步骤3：添加噪声；

各参与者将敏感度标定的噪声加入到训练好的局部模型，使用拉普拉斯机制在局部模型中实现差分隐私，从而在模型查询时能够最大化查询准确度且能最大限度减少识别其他记录，防止攻击者对查询到的模型参数进行差分攻击反推出原数据；

然后，将添加了噪声的模型上传到星际文件系统，星际文件系统计算模型参数的哈希值并将其作为交易发送到区块链系统；

步骤4：进行验证交易；

在区块链中，由诚实节点组成的委员会负责验证交易和生产区块；经过委员会验证交易签名合法，交易格式正确，且无重复交易后，该交易被认定为有效交易，然后被提交到区块链账本；

步骤5：进行全局融合；

委员会验证通过交易后，智能合约利用联邦平均算法对模型进行聚合；当模型参数收敛时，完全停止模型训练，将获得的全局模型上传到区块链进行存储；

当医院对患者进行诊疗时，从区块链中查询训练好的全局模型，输入患者病例信息，根据全局模型得到辅助诊疗结果。

2.如权利要求1所述的利用联邦学习基于区块链的医疗数据共享隐私保护方法，其特征在于，步骤2中，进行本地进行模型训练时，采用小批量随机梯度下降算法实现具有固定学习率η的分布式梯度下降的方法如下：

在每轮更新全局模型参数时，参与者计算当前模型参数下局部数据的平均梯度，然后聚合这些梯度，并根据式1更新模型参数信息：

其中，w_t+1、w_t分别是第t+1轮、第t轮的模型参数，η代表学习率，K代表联邦学习参与者(用户)的总数，k代表当前参与者(用户)的编号，n_k表示参与者(用户)k的数据点索引集的基，n表示训练集总数，g_k表示批的梯度；

之后，区块链节点向每个参与者发送更新的模型参数w_t+1。

3.如权利要求2所述的利用联邦学习基于区块链的医疗数据共享隐私保护方法，其特征在于，步骤2中，将平均梯度

发送给每个参与者，参与者将计算更新模型参数。

4.如权利要求1所述的利用联邦学习基于区块链的医疗数据共享隐私保护方法，其特征在于，步骤3中，其添加噪声的方法为：

将敏感度s标定的噪声加入训练好的局部模型m_i，得到新的局部模型m′，使用式2计算敏感度s：

其中，D和D′是两个仅有一条记录的不同的相邻数据集，随机化机制M提供了差分隐私；ε代表隐私预算，ε越小，说明隐私保护密度越高；ε越大，说明数据可用性越高，但数据保密度越低；

根据式3计算新的局部模型m′：

m′＝m_i+Laplace(s/ε) (3)

其中，m_i代表训练得到的局部模型，m′为加入敏感度s标定的噪声后得到新的局部模型，Laplace为拉普拉斯噪声机制，隐私预算ε反应了数据保密程度。

Images