CN112989411A - 隐私预算计算方法、装置、存储介质以及终端 - Google Patents

Abstract

本申请公开了一种隐私预算计算方法，涉及数据处理技术领域。首先获取数据查询请求，基于差分隐私机制从用户数据集中得到数据查询请求对应的查询结果，其中差分隐私机制中使用预设隐私预算；然后根据查询结果计算出数据查询请求对应的后置信念，后置信念为预设数据集构成用户数据集的概率；最后计算后置信念对应的最大后置信念，基于最大后置信念确定预设隐私预算的取值范围，以及根据取值范围对预设隐私预算进行更新。由于可以预先计算出后置信念，并根据最大后置信念确定预设隐私预算的取值范围，实现了隐私预算与差分攻击可能性之间的量化关系，能够从理论上测算出符合条件的隐私预算，从而在保证数据隐私的情况下最大化数据可用性。

Description

隐私预算计算方法、装置、存储介质以及终端

技术领域

本申请涉及数据处理技术领域，尤其涉及一种隐私预算计算方法、装置、存储介质以及终端。

背景技术

随着科学技术的发展，人们使用终端的场合也越来越多，人们在使用终端时会产生一些具有隐私性的行为数据，如何保护这类行为数据也成为本领域技术人员研究的重点之一。

在相关技术中，在数据查询、计算过程中使用差分隐私机制则，可以使得数据计算结果在一定程度上无法受到恶意的差分攻击，然而差分隐私机制的本质是寻找数据可用性和数据隐私性的平衡点，该平衡点由隐私预算来衡量，太小的隐私预算能够很好的保护数据隐私，然而数据可用性大大降低；太大的隐私预算能够保证数据可用性，然而却以相对高概率的数据隐私泄露可能为代价，因此亟需一种准确计算出隐私预算的方法。

发明内容

本申请提供一种隐私预算计算方法、装置、存储介质以及终端，可以解决相关技术中不能准确计算出隐私预算的技术问题。

第一方面，本申请提供一种隐私预算计算方法，该方法包括：

获取数据查询请求，基于差分隐私机制从用户数据集中得到所述数据查询请求对应的查询结果，其中所述差分隐私机制中使用预设隐私预算；

根据所述查询结果计算出所述数据查询请求对应的后置信念，所述后置信念为预设数据集构成所述用户数据集的概率；

计算所述后置信念对应的最大后置信念，基于所述最大后置信念确定所述预设隐私预算的取值范围，以及根据所述取值范围所述对所述预设隐私预算进行更新。

可选地，所述基于差分隐私机制从用户数据集中得到所述数据查询请求对应的查询结果，包括：

获取查询函数，根据所述查询函数对相邻数据集D₁和D₂分别进行查询；

基于差分隐私机制对查询结果进行加噪，得到加噪查询结果M(D₁)和M(D₂)，M(D₁)和M(D₂)满足以下公式：

Pr[M(D₁)＝S]≤exp(ε)×Pr[M(D₂)＝S]；

其中，ε为预设隐私预算。

可选地，所述基于差分隐私机制对查询结果进行加噪，得到加噪查询结果M(D₁)和M(D₂)，包括：

基于所述查询函数f以及对应的数据集D₁，通过差分隐私机制M_f查询后得到带有噪声Y的结果M(D₁)＝f(D₁)+Y；

基于所述查询函数f以及对应的数据集D₂，通过差分隐私机制M_f查询后得到带有噪声Y的结果M(D₂)＝f(D₂)+Y；

其中，Y为通过预设函数分布生成的预设函数噪声。

可选地，所述根据所述查询结果计算出所述数据查询请求对应的后置信念，包括：

获取预设数据集，根据所述查询结果以及所述预设数据集计算出所述数据查询请求对应的后置信念，所述后置信念β(ω_k)满足以下公式：

其中，所述预设数据集为ω_k，所述查询结果为γ。

可选地，所述计算所述后置信念对应的最大后置信念，包括：

根据预设函数噪声以及绝对值不等式性质对所述后置信念进行变换，得到所述后置信念的取值范围；

根据所述后置信念的取值范围，得到所述后置信念对应的最大后置信念。

可选地，所述预设函数噪声为拉普拉斯函数噪声，所述根据预设函数噪声以及不等式性质对所述后置信念进行变换，得到所述后置信念的取值范围，包括：

将所述拉普拉斯函数噪声带入所述后置信念对应的公式中，得到所述后置信念β(ω_k)满足以下公式：

将所述后置信念β(ω_k)满足的公式上下同时除以

并根据绝对值不等式的性质，得到所述后置信念β(ω_k)满足以下公式：

将

带入所述后置信念β(ω_k)满足的公式，得到所述后置信念β(ω_k)的取值范围为：

其中

可选地，其特征在于，所述基于所述最大后置信念确定所述预设隐私预算的取值范围，以及根据所述取值范围所述对所述预设隐私预算进行更新，包括：

获取预设概率ρ，所述预设概率ρ为查询者预设的所述用户数据中的个体隐私数据泄露的最大概率数值；

将所述最大后置信念与所述预设概率进行比较，确定所述预设隐私预算ε的取值范围满足以下关系：

根据所述预设隐私预算ε的取值范围满足的关系，对所述预设隐私预算值ε进行修改。

第二方面，本申请实施例提供一种隐私预算计算装置，该装置包括：

查询结果获取模块，用于获取数据查询请求，基于差分隐私机制从用户数据集中得到所述数据查询请求对应的查询结果，其中所述差分隐私机制中使用预设隐私预算；

后置信念计算模块，用于根据所述查询结果计算出所述数据查询请求对应的后置信念，所述后置信念为预设数据集构成所述用户数据集的概率；

隐私预算计算模块，用于计算所述后置信念对应的最大后置信念，基于所述最大后置信念确定所述预设隐私预算的取值范围，以及根据所述取值范围所述对所述预设隐私预算进行更新。

第三方面，本申请实施例提供一种计算机存储介质，所述计算机存储介质存储有多条指令，所述指令适于由处理器加载并执行上述的方法的步骤。

第四方面，本申请实施例提供一种终端，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述的方法的步骤。

本申请一些实施例提供的技术方案带来的有益效果至少包括：

本申请提供一种隐私预算计算方法，首先获取数据查询请求，基于差分隐私机制从用户数据集中得到数据查询请求对应的查询结果，其中差分隐私机制中使用预设隐私预算；然后根据查询结果计算出数据查询请求对应的后置信念，后置信念为预设数据集构成用户数据集的概率；最后计算后置信念对应的最大后置信念，基于最大后置信念确定预设隐私预算的取值范围，以及根据取值范围对预设隐私预算进行更新。由于可以预先计算出后置信念，并根据最大后置信念确定预设隐私预算的取值范围，实现了隐私预算与差分攻击可能性之间的量化关系，从而解脱了数据持有者对于差分攻击先验经验的束缚，并且能够从理论上测算出符合条件的隐私预算，从而在保证数据隐私的情况下最大化数据可用性。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本申请实施例提供的一种隐私预算计算方法的示例性系统架构图；

图2为本申请实施例提供的一种隐私预算计算方法的流程示意图；

图3为本申请另一实施例提供的一种隐私预算计算装置的结构示意图；

图4为本申请实施例提供的一种终端的结构示意图。

具体实施方式

为使得本申请的特征和优点能够更加的明显和易懂，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而非全部实施例。基于本申请中的实施例，本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反，它们仅是如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。

图1为本申请实施例提供的一种隐私预算计算方法的示例性系统架构图。

如图1所示，系统架构可以包括至少一个终端110、服务器120以及网络130，网络130用于在终端110和服务器120之间提供通信链路的介质。网络130可以包括各种类型的有线通信链路或无线通信链路，例如：有线通信链路包括光纤、双绞线或同轴电缆的，无线通信链路包括蓝牙通信链路、无线保真(Wireless-Fidelity，Wi-Fi)通信链路或微波通信链路等。

终端110可以是硬件，也可以是软件。当终端110为硬件时，可以是具有显示屏的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携式计算机和台式计算机等。当终端110为软件时，可以是安装在上述所列举的电子设备中，其可以实现成多个软件或软件模块(例如：用来提供分布式服务)，也可以实现成单个软件或软件模块，在此不作具体限定。

服务器120可以是提供各种服务的业务服务器。需要说明的是，服务器120可以是硬件，也可以是软件。当服务器120为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器120为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块，在此不做具体限定。

应理解，图1中的终端、网络和服务器的数目仅是示意性的。根据实现需要，可以是任意数量的终端、网络和服务器。

请参阅图2，图2为本申请实施例提供的一种隐私预算计算方法的流程示意图。

如图2所示，该方法包括：

S201、获取数据查询请求，基于差分隐私机制从用户数据集中得到数据查询请求对应的查询结果，其中差分隐私机制中使用预设隐私预算。

可以理解的，获取数据查询请求的一方可以认为是数据请求方，其中基于差分隐私机制从用户数据集中得到数据查询请求对应的查询结果，包括：获取查询函数，根据查询函数对相邻数据集D₁和D₂分别进行查询。其中查询函数可以是平均值函数，最大值函数以及最小值函数等。本申请实施例中，查询方法可以是基于差分隐私机制，也即通过比较两次查询数据的差异来推断原始数据，上述数据可以是任何用户数据，例如可以是用户行为数据，具体可以是用户应用程序行为数据，下面实施例中均以用户应用程序行为数据为例进行介绍。

对于上述查询方法，也即基于差分隐私的用户应用程序行为数据查询，本申请实施例中，可以利用差分隐私机制使得根据对于相邻数据集(最多相差一个元素的数据集)的两次查询返回值无法分辨出确定性差异。具体的，对于用户应用程序行为数据来说，如果对相邻数据集合进行均值查询，则有一定概率(用隐私预算ε衡量)返回相同的值，因此可以有效保护具有一定背景知识的差分攻击。那么可以根据查询函数对相邻数据集D₁和D₂分别进行查询，然后基于差分隐私机制对查询结果进行加噪，得到加噪查询结果M(D₁)和M(D₂)，M(D₁)和M(D₂)满足以下公式：

Pr[M(D₁)＝S]≤exp(ε)×Pr[M(D₂)＝S]；

其中，ε为预设隐私预算。

进一步地，基于差分隐私机制对查询结果进行加噪，得到加噪查询结果M(D₁)和M(D₂)，包括：

基于查询函数f以及对应的数据集D₁，通过差分隐私机制M_f查询后得到带有噪声Y的结果M(D₁)＝f(D₁)+Y；

基于查询函数f以及对应的数据集D₂，通过差分隐私机制M_f查询后得到带有噪声Y的结果M(D₂)＝f(D₂)+Y；

其中，Y为通过预设函数分布生成的预设函数噪声。

具体的，对于一次查询f(比如平均值，最大值，最小值等)和一个对应的用户应用程序行为数据集D,通过差分隐私随机机制M_f查询后得到带有噪声Y的结果f(D)+Y，通常，Y可以通过预设函数分布生成的预设函数噪声。

为方便描述，下面以预设函数分布为拉普拉斯分布为例，介绍噪声Y：

拉普拉斯分布(分布密度函数为：

其中μ为数据集中的平均值，

)生成噪声Y(即拉普拉斯噪声)，即：

其中Δf表示数据集的敏感性，即对于任意相邻数据集x,y,有：

S202、根据查询结果计算出数据查询请求对应的后置信念，后置信念为预设数据集构成用户数据集的概率。

可以理解的，为了保护用户隐私，用户应用程序行为数据持有者会根据经验或实验的方式来确定相关查询的差分隐私预算，然而不论是基于经验还是实验的方式都无法准确量化隐私预算和数据泄露风险(收到差分攻击)之间的关系，因此本申请实施例提出后置信念的定义，来解决相关业务问题。

具体的，获取预设数据集，根据查询结果以及预设数据集计算出数据查询请求对应的后置信念，后置信念β(ω_k)满足以下公式：

其中，预设数据集为ω_k，查询结果为γ，在本申请实施例中，后置信念为预设数据集构成用户数据集的概率，也即后置信念指的是查询者对于可能用户应用程序行为数据集构成的后验概率。

S203、计算后置信念对应的最大后置信念，基于最大后置信念确定预设隐私预算的取值范围，以及根据取值范围对预设隐私预算进行更新。

在上述实施例中，介绍了预设函数噪声为拉普拉斯函数噪声，那么一次查询f后，当查询者得到用户应用程序行为数据的后置信念β(ω_k)时，对于特定数据构成ω_k的隐私泄露可以通过量化β(ω_k)来表征。具体的，根据预设函数噪声以及不等式性质对后置信念进行变换，得到后置信念的取值范围，包括：

将拉普拉斯函数噪声带入后置信念对应的公式中，得到后置信念β(ω_k)满足以下公式：

将后置信念β(ω_k)满足的公式上下同时除以

并根据绝对值不等式的性质，得到后置信念β(ω_k)满足以下公式：

将

带入后置信念β(ω_k)满足的公式，得到后置信念β(ω_k)的取值范围为：

其中

由上述公式可以得到后置信念的最大值为

也就是说后置信念的最大值为查询者对于可能用户应用程序行为数据集构成的最大后验概率。

进一步地，基于最大后置信念确定预设隐私预算的取值范围，以及根据取值范围对预设隐私预算进行更新，包括：获取预设概率ρ，预设概率ρ为查询者预设的用户数据中的个体隐私数据泄露的最大概率数值，也即如果希望经过一次差分隐私机制的查询后，用户应用程序行为数据集因差分攻击造成的个体隐私泄露的概率小于ρ，则将最大后置信念与预设概率进行比较，确定预设隐私预算ε的取值范围满足以下关系：

整理上式得到本次查询f的易预设隐私预算取值：

根据预设隐私预算ε的取值范围满足的关系，对预设隐私预算值ε进行修改。具体的，由于得到了隐私预算与数据泄露可能性之间的量化关系，如果希望本次查询后用户应用程序行为数据集个体隐私泄露的概率最大值为ρ，则需要隐私预算的最大值为

在本申请实施例中，通过定义后置信念，从数学上推到出严格的差分隐私预算与差分攻击可能性之间的量化关系，从而解脱了数据持有者对于差分攻击先验经验的束缚，并且能够从理论上测算出符合条件的最大隐私预算，从而在保证数据隐私的情况下最大化数据可用性。另一方面，由于提出了差分隐私中的查询后置信念，从而填补了差分隐私预算与差分攻击可能性之间量化关系的理论空白。数据持有者基于查询后置信念和可以接受的差分攻击概率，即可准确计算出隐私运算的最大值，从而实现隐私保护状态下的数据可用性最大化。

可选地，本申请实施例中的噪声是基于拉普拉斯噪声而推导的，其他噪声机制(例如指数分布噪声)也能够满足差分隐私需求，本申请实施例中提出的查询后置信念的概念同样可以拓展到基于非拉普拉斯噪声的差分隐私机制中；本申请实施例中以用户应用程序行为数据的查询展开论述，其方法可以拓展到任意用户隐私相关数据集的查询。

在本申请实施例中，首先获取数据查询请求，基于差分隐私机制从用户数据集中得到数据查询请求对应的查询结果，其中差分隐私机制中使用预设隐私预算；然后根据查询结果计算出数据查询请求对应的后置信念，后置信念为预设数据集构成用户数据集的概率；最后计算后置信念对应的最大后置信念，基于最大后置信念确定预设隐私预算的取值范围，以及根据取值范围对预设隐私预算进行更新。由于可以预先计算出后置信念，并根据最大后置信念确定预设隐私预算的取值范围，实现了隐私预算与差分攻击可能性之间的量化关系，从而解脱了数据持有者对于差分攻击先验经验的束缚，并且能够从理论上测算出符合条件的隐私预算，从而在保证数据隐私的情况下最大化数据可用性。

请参阅图3，图3为本申请另一实施例提供的一种隐私预算计算装置的结构示意图。

如图3所示，隐私预算计算装置300包括：

查询结果获取模块310，用于获取数据查询请求，基于差分隐私机制从用户数据集中得到数据查询请求对应的查询结果，其中差分隐私机制中使用预设隐私预算；

后置信念计算模块320，用于根据查询结果计算出数据查询请求对应的后置信念，后置信念为预设数据集构成用户数据集的概率；

隐私预算计算模块330，用于计算后置信念对应的最大后置信念，基于最大后置信念确定预设隐私预算的取值范围，以及根据取值范围对预设隐私预算进行更新。

可选地，查询结果获取模块310还用于获取查询函数，根据查询函数对相邻数据集D₁和D₂分别进行查询；

基于差分隐私机制对查询结果进行加噪，得到加噪查询结果M(D₁)和M(D₂)，M(D₁)和M(D₂)满足以下公式：

Pr[M(D₁)＝S]≤exp(ε)×Pr[M(D₂)＝S]；

其中，ε为预设隐私预算。

可选地，查询结果获取模块310还用于基于查询函数f以及对应的数据集D₁，通过差分隐私机制M_f查询后得到带有噪声Y的结果M(D₁)＝f(D₁)+Y；

基于查询函数f以及对应的数据集D₂，通过差分隐私机制M_f查询后得到带有噪声Y的结果M(D₂)＝f(D₂)+Y；

其中，Y为通过预设函数分布生成的预设函数噪声。

可选地，后置信念计算模块320，还用于获取预设数据集，根据查询结果以及预设数据集计算出数据查询请求对应的后置信念，后置信念β(ω_k)满足以下公式：

其中，预设数据集为ω_k，查询结果为γ。

隐私预算计算模块330，还用于根据预设函数噪声以及绝对值不等式性质对后置信念进行变换，得到后置信念的取值范围；

根据后置信念的取值范围，得到后置信念对应的最大后置信念。

隐私预算计算模块330，还用于将拉普拉斯函数噪声带入后置信念对应的公式中，得到后置信念β(ω_k)满足以下公式：

将后置信念β(ω_k)满足的公式上下同时除以

并根据绝对值不等式的性质，得到后置信念β(ω_k)满足以下公式：

将

带入后置信念β(ω_k)满足的公式，得到后置信念β(ω_k)的取值范围为：

其中

隐私预算计算模块330，还用于获取预设概率ρ，预设概率ρ为查询者预设的用户数据中的个体隐私数据泄露的最大概率数值；

将最大后置信念与预设概率进行比较，确定预设隐私预算ε的取值范围满足以下关系：

根据预设隐私预算ε的取值范围满足的关系，对预设隐私预算值ε进行修改。

在本申请实施例中，一种隐私预算计算装置包括：查询结果获取模块，用于获取数据查询请求，基于差分隐私机制从用户数据集中得到数据查询请求对应的查询结果，其中差分隐私机制中使用预设隐私预算；后置信念计算模块，用于根据查询结果计算出数据查询请求对应的后置信念，后置信念为预设数据集构成用户数据集的概率；隐私预算计算模块，用于计算后置信念对应的最大后置信念，基于最大后置信念确定预设隐私预算的取值范围，以及根据取值范围对预设隐私预算进行更新。由于可以预先计算出后置信念，并根据最大后置信念确定预设隐私预算的取值范围，实现了隐私预算与差分攻击可能性之间的量化关系，从而解脱了数据持有者对于差分攻击先验经验的束缚，并且能够从理论上测算出符合条件的隐私预算，从而在保证数据隐私的情况下最大化数据可用性。

本申请实施例还提供了一种计算机存储介质，计算机存储介质存储有多条指令，指令适于由处理器加载并执行如上述实施例中的任一项的方法的步骤。

请参见图4，图4为本申请实施例提供的一种终端的结构示意图。如图4所示，终端400可以包括：至少一个处理器401，至少一个网络接口404，用户接口403，存储器405，至少一个通信总线402。

其中，通信总线402用于实现这些组件之间的连接通信。

其中，用户接口403可以包括显示屏(Display)、摄像头(Camera)，可选用户接口403还可以包括标准的有线接口、无线接口。

其中，网络接口404可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。

其中，处理器401可以包括一个或者多个处理核心。处理器401利用各种接口和线路连接整个终端400内的各个部分，通过运行或执行存储在存储器405内的指令、程序、代码集或指令集，以及调用存储在存储器405内的数据，执行终端400的各种功能和处理数据。可选的，处理器401可以采用数字信号处理(Digital Signal Processing，DSP)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)、可编程逻辑阵列(Programmable LogicArray，PLA)中的至少一种硬件形式来实现。处理器401可集成中央处理器(CentralProcessing Unit，CPU)、图像处理器(Graphics Processing Unit，GPU)和调制解调器等中的一种或几种的组合。其中，CPU主要处理操作系统、用户界面和应用程序等；GPU用于负责显示屏所需要显示的内容的渲染和绘制；调制解调器用于处理无线通信。可以理解的是，上述调制解调器也可以不集成到处理器401中，单独通过一块芯片进行实现。

其中，存储器405可以包括随机存储器(Random Access Memory，RAM)，也可以包括只读存储器(Read-Only Memory，ROM)。可选的，该存储器405包括非瞬时性计算机可读介质(non-transitory computer-readable storage medium)。存储器405可用于存储指令、程序、代码、代码集或指令集。存储器405可包括存储程序区和存储数据区，其中，存储程序区可存储用于实现操作系统的指令、用于至少一个功能的指令(比如触控功能、声音播放功能、图像播放功能等)、用于实现上述各个方法实施例的指令等；存储数据区可存储上面各个方法实施例中涉及到的数据等。存储器405可选的还可以是至少一个位于远离前述处理器401的存储装置。如图4所示，作为一种计算机存储介质的存储器405中可以包括操作系统、网络通信模块、用户接口模块以及隐私预算计算程序。

在图4所示的终端400中，用户接口403主要用于为用户提供输入的接口，获取用户输入的数据；而处理器401可以用于调用存储器405中存储的隐私预算计算程序，并具体执行以下操作：

获取数据查询请求，基于差分隐私机制从用户数据集中得到数据查询请求对应的查询结果，其中差分隐私机制中使用预设隐私预算；

根据查询结果计算出数据查询请求对应的后置信念，后置信念为预设数据集构成用户数据集的概率；

计算后置信念对应的最大后置信念，基于最大后置信念确定预设隐私预算的取值范围，以及根据取值范围对预设隐私预算进行更新。

可选地，基于差分隐私机制从用户数据集中得到数据查询请求对应的查询结果，包括：

获取查询函数，根据查询函数对相邻数据集D₁和D₂分别进行查询；

基于差分隐私机制对查询结果进行加噪，得到加噪查询结果M(D₁)和M(D₂)，M(D₁)和M(D₂)满足以下公式：

Pr[M(D₁)＝S]≤exp(ε)×Pr[M(D₂)＝S]；

其中，ε为预设隐私预算。

可选地，基于差分隐私机制对查询结果进行加噪，得到加噪查询结果M(D₁)和M(D₂)，包括：

基于查询函数f以及对应的数据集D₁，通过差分隐私机制M_f查询后得到带有噪声Y的结果M(D₁)＝f(D₁)+Y；

基于查询函数f以及对应的数据集D₂，通过差分隐私机制M_f查询后得到带有噪声Y的结果M(D₂)＝f(D₂)+Y；

其中，Y为通过预设函数分布生成的预设函数噪声。

可选地，根据查询结果计算出数据查询请求对应的后置信念，包括：

获取预设数据集，根据查询结果以及预设数据集计算出数据查询请求对应的后置信念，后置信念β(ω_k)满足以下公式：

其中，预设数据集为ω_k，查询结果为γ。

可选地，计算后置信念对应的最大后置信念，包括：

根据预设函数噪声以及绝对值不等式性质对后置信念进行变换，得到后置信念的取值范围；

根据后置信念的取值范围，得到后置信念对应的最大后置信念。

可选地，预设函数噪声为拉普拉斯函数噪声，根据预设函数噪声以及不等式性质对后置信念进行变换，得到后置信念的取值范围，包括：

将拉普拉斯函数噪声带入后置信念对应的公式中，得到后置信念β(ω_k)满足以下公式：

将后置信念β(ω_k)满足的公式上下同时除以

并根据绝对值不等式的性质，得到后置信念β(ω_k)满足以下公式：

将

带入后置信念β(ω_k)满足的公式，得到后置信念β(ω_k)的取值范围为：

其中

可选地，其特征在于，基于最大后置信念确定预设隐私预算的取值范围，以及根据取值范围对预设隐私预算进行更新，包括：

获取预设概率ρ，预设概率ρ为查询者预设的用户数据中的个体隐私数据泄露的最大概率数值；

将最大后置信念与预设概率进行比较，确定预设隐私预算ε的取值范围满足以下关系：

根据预设隐私预算ε的取值范围满足的关系，对预设隐私预算值ε进行修改。

在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个模块或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或模块的间接耦合或通信连接，可以是电性，机械或其它的形式。

作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理模块，即可以位于一个地方，或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。

另外，在本申请各个实施例中的各功能模块可以集成在一个处理模块中，也可以是各个模块单独物理存在，也可以两个或两个以上模块集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。

集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

需要说明的是，对于前述的各方法实施例，为了简便描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本申请并不受所描述的动作顺序的限制，因为依据本申请，某些步骤可以采用其它顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定都是本申请所必须的。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其它实施例的相关描述。

以上为对本申请所提供的一种隐私预算计算方法、装置、存储介质以及终端的描述，对于本领域的技术人员，依据本申请实施例的思想，在具体实施方式及应用范围上均会有改变之处，综上，本说明书内容不应理解为对本申请的限制。

Claims (10)

1.一种隐私预算计算方法，其特征在于，所述方法包括：

获取数据查询请求，基于差分隐私机制从用户数据集中得到所述数据查询请求对应的查询结果，其中所述差分隐私机制中使用预设隐私预算；

根据所述查询结果计算出所述数据查询请求对应的后置信念，所述后置信念为预设数据集构成所述用户数据集的概率；

计算所述后置信念对应的最大后置信念，基于所述最大后置信念确定所述预设隐私预算的取值范围，以及根据所述取值范围所述对所述预设隐私预算进行更新。

2.根据权利要求1所述的方法，其特征在于，所述基于差分隐私机制从用户数据集中得到所述数据查询请求对应的查询结果，包括：

获取查询函数，根据所述查询函数对相邻数据集D₁和D₂分别进行查询；

基于差分隐私机制对查询结果进行加噪，得到加噪查询结果M(D₁)和M(D₂)，M(D₁)和M(D₂)满足以下公式：

Pr[M(D₁)＝S]≤exp(ε)×Pr[M(D₂)＝S]；

其中，ε为预设隐私预算。

3.根据权利要求2所述的方法，其特征在于，所述基于差分隐私机制对查询结果进行加噪，得到加噪查询结果M(D₁)和M(D₂)，包括：

基于所述查询函数f以及对应的数据集D₁，通过差分隐私机制M_f查询后得到带有噪声Y的结果M(D₁)＝f(D₁)+Y；

基于所述查询函数f以及对应的数据集D₂，通过差分隐私机制M_f查询后得到带有噪声Y的结果M(D₂)＝f(D₂)+Y；

其中，Y为通过预设函数分布生成的预设函数噪声。

4.根据权利要求1所述的方法，其特征在于，所述根据所述查询结果计算出所述数据查询请求对应的后置信念，包括：

获取预设数据集，根据所述查询结果以及所述预设数据集计算出所述数据查询请求对应的后置信念，所述后置信念β(ω_k)满足以下公式：

其中，所述预设数据集为ω_k，所述查询结果为γ。

5.根据权利要求4所述的方法，其特征在于，所述计算所述后置信念对应的最大后置信念，包括：

根据预设函数噪声以及绝对值不等式性质对所述后置信念进行变换，得到所述后置信念的取值范围；

根据所述后置信念的取值范围，得到所述后置信念对应的最大后置信念。

6.根据权利要求5所述的方法，其特征在于，所述预设函数噪声为拉普拉斯函数噪声，所述根据预设函数噪声以及不等式性质对所述后置信念进行变换，得到所述后置信念的取值范围，包括：

将所述拉普拉斯函数噪声带入所述后置信念对应的公式中，得到所述后置信念β(ω_k)满足以下公式：

将所述后置信念β(ω_k)满足的公式上下同时除以

并根据绝对值不等式的性质，得到所述后置信念β(ω_k)满足以下公式：

将

带入所述后置信念β(ω_k)满足的公式，得到所述后置信念β(ω_k)的取值范围为：

其中

7.根据权利要求6所述的方法，其特征在于，所述基于所述最大后置信念确定所述预设隐私预算的取值范围，以及根据所述取值范围所述对所述预设隐私预算进行更新，包括：

获取预设概率ρ，所述预设概率ρ为查询者预设的所述用户数据中的个体隐私数据泄露的最大概率数值；

将所述最大后置信念与所述预设概率进行比较，确定所述预设隐私预算ε的取值范围满足以下关系：

根据所述预设隐私预算ε的取值范围满足的关系，对所述预设隐私预算值ε进行修改。

8.一种隐私预算计算装置，其特征在于，所述装置包括：

查询结果获取模块，用于获取数据查询请求，基于差分隐私机制从用户数据集中得到所述数据查询请求对应的查询结果，其中所述差分隐私机制中使用预设隐私预算；

后置信念计算模块，用于根据所述查询结果计算出所述数据查询请求对应的后置信念，所述后置信念为预设数据集构成所述用户数据集的概率；

隐私预算计算模块，用于计算所述后置信念对应的最大后置信念，基于所述最大后置信念确定所述预设隐私预算的取值范围，以及根据所述取值范围所述对所述预设隐私预算进行更新。

9.一种计算机存储介质，其特征在于，所述计算机存储介质存储有多条指令，所述指令适于由处理器加载并执行如权利要求1～7任意一项的所述方法的步骤。

10.一种终端，其特征在于，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现权利要求1～7任一项所述方法的步骤。

Images