CN114841364A - 一种满足个性化本地差分隐私需求的联邦学习方法 - Google Patents

Abstract

本发明涉及一种满足个性化本地差分隐私需求的联邦学习方法，属于网络与信息安全技术领域。在联邦学习的每一个迭代轮次中，每个客户端在完成本地模型训练后，根据自己设置的隐私预算对原始的本地模型参数进行扰动，然后发送给服务器。服务器收集所有客户端扰动后的本地模型参数，并根据每个客户端设置的隐私预算计算其对应的概率参数，在聚合全局模型时根据概率参数来决定使用哪些客户端的本地模型。对比现有技术，本发明可抵抗来自不可信服务器的隐私攻击，客户端可设置不同的隐私预算，支持“个性化”的隐私保护。客户端选择机制可以在隐私预算个性化设置的情形下，使服务器获得更准确的全局模型，平衡了数据可用性与隐私性。

Description

一种满足个性化本地差分隐私需求的联邦学习方法

技术领域

本发明涉及一种满足个性化本地差分隐私需求的联邦学习方法，属于网络与信息安全技术领域。

背景技术

对于许多企业单位面临的数据孤岛问题，联邦学习(Federated Learning)给出了一个可行的解决方案。在联邦学习中，数据分析者(也称服务器)不收集客户端的原始数据，而只收集客户端的本地模型训练结果，用于训练一个中心化的“全局模型”。

目前，已有研究表明，攻击者可通过分析客户端分享的本地模型推断客户端隐私。为增强隐私保护，技术人员将差分隐私(Differential Privacy)应用于联邦学习。根据信任假设的不同，现有的差分隐私机制大致分为两类：中心化差分隐私(CentralDifferential Privacy)和本地化差分隐私(Local Differential Privacy)。

基于中心化差分隐私的联邦学习框架虽然能维持较高的准确度，但其依赖于一个可信任的服务器收集客户端的本地模型参数并对模型进行扰动。基于本地化差分隐私的联邦学习框架默认服务器是不可信的，也不在乎服务器拥有何种背景知识，客户端在向服务器发送模型参数之前先进行扰动以保护自己的隐私。

在基于本地化差分隐私的联邦学习框架中，所有客户端需要在本地使用相同的数据扰动方式，也需要发送相同类型的数据给服务器。但是，不同客户端对隐私的定义不同，期望得到的隐私保护程度也不同。本地化差分隐私机制主要通过隐私预算(PrivacyBudget)这个参数来度量隐私保护程度，客户端可以通过设置不同的隐私预算来表达不同的隐私需求。基于本地化差分隐私的联邦学习框架理应适配这种“个性化”隐私设置的场景。

在传统的联邦学习框架中，参与学习的客户端一般有着相同的地位，即对服务器来说，所有客户端提供的本地模型数据都是同等重要的。在基于本地化差分隐私的联邦学习中，当某些客户端设置的隐私预算较高时，如果服务器仍对所有客户端一视同仁，全局模型的准确度可能较低。当允许客户端设置个性化的隐私预算时，服务器有必要采取一定措施来调整客户端权重，以获得准确度较高的全局模型。

发明内容

本发明的目的是针对现有基于本地化差分隐私的联邦学习技术存在的缺陷，为在不同客户端设置不同隐私预算的情形下保证全局模型具有较高准确度，创造性地提出一种满足个性化本地差分隐私需求的联邦学习方法。

本发明的创新点在于：在联邦学习的每一个迭代轮次中，每个客户端在完成本地模型训练后，根据自己设置的隐私预算对原始的本地模型参数进行扰动，即，在原始模型参数上添加随机噪声，然后发送给服务器。服务器收集所有客户端扰动后的本地模型参数，并根据每个客户端设置的隐私预算计算其对应的概率参数，在聚合全局模型时根据概率参数来决定使用哪些客户端的本地模型。

本发明通过以下技术方案实现。

一种满足个性化本地差分隐私需求的联邦学习方法，联邦学习场景包括服务器和客户端。如图1所示。

服务器：是一个不可信的实体，负责收集各客户端的本地模型参数、计算各客户端对应的概率参数，以及生成全局模型。服务器同时也是全局模型的需求者。

客户端：拥有联邦学习任务所需的训练数据，负责训练本地模型、裁切和扰动原始模型参数，生成扰动后的本地模型。由多个客户端共同参与联邦学习过程，各个客户端的训练数据集是独立同分布的。

步骤1：生成初始全局模型。

服务器生成初始全局模型，并将初始全局模型参数发送给各客户端。

步骤2：训练原始模型。

每个客户端根据服务器分发的全局模型参数，在本地训练数据集上应用随机梯度下降(Stochastic Gradient Descent)算法，获得原始的本地模型。

步骤3：模型参数裁切。

每个客户端对训练得到的原始模型的参数进行裁切。模型参数裁切过程，使用事先设定的裁切阈值。裁切阈值的计算过程包括模型参数向量范数计算和取中间值运算。

对原始模型参数进行裁切，能够在一定程度上防止后续扰动过程中引入过大的噪声。

步骤4：本地模型扰动。

每个客户端对经过裁切后的原始模型参数进行扰动，即，添加高斯随机噪声。具体地，客户端根据设定的隐私预算计算高斯分布的标准差，并生成相应的高斯噪声叠加在原始模型的参数向量上。

之后，客户端将扰动后的参数向量作为本地模型参数向量，发送给服务器。

步骤5：选择客户端，生成全局模型。

服务器首先收集来自客户端的本地模型参数。

然后，服务器根据客户端设置的隐私预算，计算其对应的概率参数。其中，概率参数表示某个客户端的本地模型参数被服务器选中用于计算本轮全局模型参数的概率。

被选中的客户端地位平等。服务器使用这些客户端的本地模型参数计算本轮全局模型参数，并将全局模型参数发送给各客户端。

重复步骤2至步骤5，直到迭代结束。

有益效果

本发明对比现有技术，具有以下优点：

1.本发明，首次针对个性化的本地差分隐私保护提出带有客户端选择机制的联邦学习方法，可抵抗来自不可信服务器的隐私攻击。

2.本发明中，客户端可设置不同的隐私预算，即，本发明支持“个性化”的隐私保护。

3.本发明的客户端选择机制可以在隐私预算个性化设置的情形下，使服务器获得比普通方法更准确的全局模型，平衡了数据可用性与隐私性。

附图说明

图1是本发明方法的应用场景示意图。

图2是本发明方法的实施步骤时序图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图对本发明做进一步详细说明。

如图2所示，一种满足个性化本地差分隐私需求的联邦学习方法，包括以下步骤：

步骤1：生成初始全局模型。

服务器生成初始全局模型，并将初始全局模型参数发送给各客户端。

具体地，包括以下步骤：

步骤1.1：服务器生成初始全局模型参数W₀。

其中，W₀是一个d维向量，

表示由实数组成的d维向量空间，向量中的每个元素为0。N个客户端{Client₁,Client₂,...,Client_N}所持有的原始数据集D是独立同分布的，分别为{D₁,D₂,...,D_N}。

步骤1.2：服务器将初始全局模型参数W₀发送给N个客户端{Client₁,Client₂,...,Client_N}。

步骤2：训练原始模型。

每个客户端根据服务器分发的全局模型参数，在本地训练数据集上应用随机梯度下降(Stochastic Gradient Descent)算法，获得原始的本地模型。

具体地，在迭代的第r轮，第i个客户端Client_i根据服务器发送来的全局模型参数W_r-1和本地训练数据集D_i，使用随机梯度下降法得到原始模型参数

其中，原始模型参数

η为学习速率，

表示使用随机梯度下降算法后得到的梯度。

步骤3：模型参数裁切。

每个客户端对训练得到的原始模型的参数进行裁切。模型参数裁切过程，使用事先设定的裁切阈值。裁切阈值的计算过程包括模型参数向量范数计算和取中间值运算。

具体地，在迭代的第r轮，第i个客户端Client_i根据事先设定好的裁切阈值c对其原始模型参数向量

进行裁切，得到裁切后的本地模型参数

优选地，裁切的具体方法为，将向量

中值大于c的元素置换为c，将值小于-c的元素置换为-c。经裁切后的

中每一个元素，都在[-c,c]内取值。

步骤4：本地模型扰动。

具体地，在迭代的第r轮，第i个客户端Client_i对经过裁切后的原始模型参数

进行扰动，即添加噪声。

优选地，包括如下步骤：

步骤4.1：根据客户端Client_i设置的隐私预算ε_i，计算得到高斯分布的标准差σ_i。

其中，隐私预算∈_i满足ε_low≤∈_i≤∈_high。隐私预算下界∈_low通常可以取1，隐私预算上界∈_high通常可以取10。

高斯分布标准差σ_i的计算公式为：

其中，q表示对Client_i所拥有的数据集D_i进行随机抽样的概率，δ_i表示数据集D_i大小的倒数，R表示总迭代轮数。

步骤4.2：根据Client_i的高斯分布标准差σ_i生成高斯噪声N(0,σ_i ²)，叠加在经裁切后的原始模型参数

上，得到经裁切、扰动后的本地模型参数

其中，高斯噪声的概率密度函数Gauss为：

π表示圆周率，σ表示高斯分布标准差，x表示随机变量。

对于向量

中的每一个元素p，扰动后变成

步骤4.3：客户端Client_i将第r轮的本地模型参数

发送给服务器。

步骤5：选择客户端，生成全局模型。

优选地，包括如下步骤：

步骤5.1：服务器计算客户端的概率参数{P₁,P₂,...,P_N}。每个客户端的概率参数P是根据步骤4中高斯分布标准差计算得到的。

对于第i个客户端，服务器首先计算其高斯分布标准差σ_i的倒数，记为ρ_i，然后对ρ_i进行归一化处理，得到客户端i的概率参数

N为客户端的总数。

步骤5.2：根据各个客户端所对应的概率参数，对N个候选客户端进行随机抽取，选出M个客户端，1≤M≤N。

优选地，随机抽取的方法为：由服务器生成一个0-1之间的均匀分布的随机数ω。对于第i个客户端Client_i，如果它所对应的概率参数P_i大于服务器生成的随机数ω，则Client_i参与本轮全局模型的生成，如果P_i小于随机数ω则不参与本轮全局模型的生成。

步骤5.3：服务器基于选中的M个客户端，计算第r轮全局模型参数W_r。全局模型参数是被选中的客户端提交的本地模型参数的平均值，即

表示经裁切、扰动后的本地模型参数。

在每个迭代轮次的最后，服务器将本轮计算得到的全局模型参数W_r发送给N个客户端。

然后，开始新一轮迭代，即，重复步骤2至步骤5，直到迭代R轮结束。

Claims (8)

1.一种满足个性化本地差分隐私需求的联邦学习方法，其特征在于，包括以下步骤：

步骤1：服务器生成初始全局模型，并将初始全局模型参数发送给各客户端；

其中，服务器是一个不可信的实体，负责收集各客户端的本地模型参数、计算各客户端对应的概率参数，以及生成全局模型；服务器同时也是全局模型的需求者；

客户端拥有联邦学习任务所需的训练数据，负责训练本地模型、裁切和扰动原始模型参数，生成扰动后的本地模型；由多个客户端共同参与联邦学习过程，各个客户端的训练数据集是独立同分布的；

步骤2：每个客户端根据服务器分发的全局模型参数，在本地训练数据集上获得原始的本地模型；

步骤3：每个客户端对训练得到的原始模型的参数进行裁切；

步骤4：每个客户端对经过裁切后的原始模型参数进行扰动，即，添加高斯随机噪声，客户端根据设定的隐私预算计算高斯分布的标准差，并生成相应的高斯噪声叠加在原始模型的参数向量上；

之后，客户端将扰动后的参数向量作为本地模型参数向量，发送给服务器；

步骤5：选择客户端，生成全局模型；

首先，服务器收集来自客户端的本地模型参数；

然后，服务器根据客户端设置的隐私预算，计算其对应的概率参数；其中，概率参数表示某个客户端的本地模型参数被服务器选中用于计算本轮全局模型参数的概率；

被选中的客户端地位平等；服务器使用这些客户端的本地模型参数计算本轮全局模型参数，并将全局模型参数发送给各客户端；

重复步骤2至步骤5，直到迭代结束。

2.如权利要求1所述的一种满足个性化本地差分隐私需求的联邦学习方法，其特征在于，步骤1包括以下步骤：

步骤1.1：服务器生成初始全局模型参数W₀；

其中，W₀是一个d维向量，

表示由实数组成的d维向量空间，向量中的每个元素为0；N个客户端{Client₁,Client₂,...,Client_N}所持有的原始数据集D是独立同分布的，分别为{D₁,D₂,...,D_N}；

步骤1.2：服务器将初始全局模型参数W₀发送给N个客户端{Client₁,Client₂,...,Client_N}。

3.如权利要求1所述的一种满足个性化本地差分隐私需求的联邦学习方法，其特征在于，步骤3中的模型参数裁切过程，使用事先设定的裁切阈值，裁切阈值的计算过程包括模型参数向量范数计算和取中间值运算。

4.如权利要求1所述的一种满足个性化本地差分隐私需求的联邦学习方法，其特征在于，步骤2中，在迭代的第r轮，第i个客户端Client_i根据服务器发送来的全局模型参数W_r-1和本地训练数据集D_i，使用随机梯度下降法得到原始模型参数

其中，原始模型参数

η为学习速率，

表示使用随机梯度下降算法后得到的梯度；

步骤3中，在迭代的第r轮，第i个客户端Client_i根据事先设定好的裁切阈值c对其原始模型参数

进行裁切，得到裁切后的本地模型参数

步骤4中，在迭代的第r轮，第i个客户端Client_i对经过裁切后的原始模型参数

进行扰动，即添加噪声，包括以下步骤：

步骤4.1：根据客户端Client_i设置的隐私预算∈_i，计算得到高斯分布的标准差σ_i；

其中，隐私预算∈_i满足∈_low≤∈_i≤∈_high；

高斯分布标准差σ_i的计算公式为：

其中，q表示对Client_i所拥有的数据集D_i进行随机抽样的概率，δ_i表示数据集D_i大小的倒数；R表示总迭代轮数；

步骤4.2：根据Client_i的高斯分布标准差σ_i生成高斯噪声N(0,σ_i ²)，叠加在经裁切后的原始模型参数

上，得到经裁切、扰动后的本地模型参数

其中，高斯噪声的概率密度函数Gauss为：

π表示圆周率，σ表示高斯分布标准差，x表示随机变量；

对于向量

中的每一个元素p，扰动后变成

步骤4.3：客户端Client_i将第r轮的本地模型参数

发送给服务器；

步骤5包括如下步骤：

步骤5.1：服务器计算客户端的概率参数{P₁,P₂,...,P_N}；每个客户端的概率参数P是根据步骤4中高斯分布标准差计算得到的；

对于第i个客户端，服务器首先计算其高斯分布标准差σ_i的倒数，记为ρ_i，然后对ρ_i进行归一化处理，得到客户端i的概率参数

N为客户端的总数；

步骤5.2：根据各个客户端所对应的概率参数，对N个候选客户端进行随机抽取，选出M个客户端，1≤M≤N；

步骤5.3：服务器基于选中的M个客户端，计算第r轮全局模型参数W_r；全局模型参数是被选中的客户端提交的本地模型参数的平均值，即

表示经裁切、扰动后的本地模型参数；

在每个迭代轮次的最后，服务器将本轮计算得到的全局模型参数W_r发送给N个客户端。

5.如权利要求4所述的一种满足个性化本地差分隐私需求的联邦学习方法，其特征在于，步骤3中裁切的具体方法为，将向量

中值大于c的元素置换为c，将值小于-c的元素置换为-c，经裁切后的

中每一个元素，都在[-c,c]内取值。

6.如权利要求4所述的一种满足个性化本地差分隐私需求的联邦学习方法，隐私预算下界∈_low取1。

7.如权利要求4所述的一种满足个性化本地差分隐私需求的联邦学习方法，隐私预算上界∈_high取10。

8.如权利要求4所述的一种满足个性化本地差分隐私需求的联邦学习方法，步骤5.2中，随机抽取的方法为：

由服务器生成一个0-1之间的均匀分布的随机数ω；对于第i个客户端Client_i，如果它所对应的概率参数P_i大于服务器生成的随机数ω，则Client_i参与本轮全局模型的生成，如果P_i小于随机数ω则不参与本轮全局模型的生成。

Images