CN112668054A - 一种基于张量分解的数据流量隐私保护恢复方法及设备 - Google Patents
一种基于张量分解的数据流量隐私保护恢复方法及设备 Download PDFInfo
- Publication number
- CN112668054A CN112668054A CN202110055234.6A CN202110055234A CN112668054A CN 112668054 A CN112668054 A CN 112668054A CN 202110055234 A CN202110055234 A CN 202110055234A CN 112668054 A CN112668054 A CN 112668054A
- Authority
- CN
- China
- Prior art keywords
- tensor
- privacy
- information
- matrixes
- decomposition
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000354 decomposition reaction Methods 0.000 title claims abstract description 103
- 238000000034 method Methods 0.000 title claims abstract description 92
- 238000011084 recovery Methods 0.000 title claims abstract description 54
- 239000011159 matrix material Substances 0.000 claims abstract description 74
- 238000012545 processing Methods 0.000 claims abstract description 51
- 230000007246 mechanism Effects 0.000 claims abstract description 43
- 230000004044 response Effects 0.000 claims abstract description 21
- 239000013256 coordination polymer Substances 0.000 claims description 19
- 230000015654 memory Effects 0.000 claims description 14
- 230000004931 aggregating effect Effects 0.000 claims description 4
- 238000004321 preservation Methods 0.000 claims 2
- 238000005516 engineering process Methods 0.000 abstract description 17
- 238000004422 calculation algorithm Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 11
- 238000009826 distribution Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 10
- 230000006870 function Effects 0.000 description 7
- 230000000694 effects Effects 0.000 description 6
- 238000002474 experimental method Methods 0.000 description 5
- 230000002776 aggregation Effects 0.000 description 4
- 238000004220 aggregation Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000004807 localization Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000003094 perturbing effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000009827 uniform distribution Methods 0.000 description 1
- 239000013598 vector Substances 0.000 description 1
Images
Landscapes
- Storage Device Security (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种基于张量分解的数据流量隐私保护恢复方法及设备。本发明实现了张量分解和差分隐私恢复张量技术的有效结合,一方面服务器接收来自用户端发送的三阶张量,将三阶张量分解成因子矩阵,对包含用户个人隐私的因子矩阵进行差分隐私保护处理,最后重构成新的三阶张量;另一方面服务器接收由用户端进行随机响应机制下的本地化差分隐私处理得到多个信息矩阵,将多个信息矩阵聚合成三阶矩阵,然后再进行张量分解和重构。本发明实现了张量分解和差分隐私恢复张量技术的有效结合,生成的三阶张量数据即满足隐私保护的要求,也一定程度上维持了数据可用性。
Description
技术领域
本发明涉及数据流量隐私保护技术领域,特别涉及一种基于张量分解的数据流量隐私保护恢复方法及设备。
背景技术
网络流数据恢复是指通过提取网络流数据历史数据的特征,加以分析,来恢复出下一个时间点的流量数据。目前,物联网新型应用发展迅速,通过5G运输的网络流数据也逐渐增加,所以如何快速有效的恢复网络流数据是一个迫在眉睫的问题。
网络流数据是一个拥有很多参数的张量,包括用户的个人信息、地点、时间。恢复网络流数据一直是一个很棘手的问题,因为这样的数据拥有大量的参数,需要进行的计算量是十分巨大的。但是与此同时,还需要考虑的问题就是隐私保护。
由于差分隐私是一个较新出现的课题,关于该领域的研究尚不够透彻,目前主要侧重在隐私度数学公式的证明。目前大部分工作中心在如何解决恢复精度的问题上,但对于一些特定场所,如医院、酒店等地点。这些场所的用户可能更多的在隐私保护上有了一定的要求。
目前存在许多可供解决计算复杂问题的张量分解方法,但往往输入的数据涉及到了用户的隐私信息,例如推荐系统、医疗信息等。张量分解的方法比矩阵分解的恢复精度更好,但是同时隐私保护的难度也越大。因此还没有能够将张量分解的方法和差分隐私结合在一起的方案,能够同时保证数据的隐私度和效率。
发明内容
本发明旨在至少解决现有技术中存在的技术问题。为此,本发明提出一种基于张量分解的数据流量隐私保护恢复方法及设备,实现了张量分解和差分隐私保护的有效结合,生成的数据既满足隐私保护的要求,也一定程度上维持了数据可用性。
本发明的第一方面,提供了一种基于张量分解的数据流量隐私保护恢复方法,应用于可信的服务器,包括以下步骤:
获取用户端发送的第一信息,所述第一信息包括第一三阶张量或多个信息矩阵;
若所述第一信息包括第一三阶张量,则对获取的所述第一三阶张量进行张量分解,得到三个因子矩阵;若所述第一信息包括所述多个信息矩阵,则对所述多个信息矩阵进行聚合,并对聚合后的结果进行张量分解,得到三个因子矩阵;
对包含用户个人隐私的所述因子矩阵进行差分隐私保护处理;
对经过差分隐私保护处理后的所述因子矩阵和剩余所述因子矩阵进行重构,得到第二三阶张量。
根据本发明的实施例,至少具有如下技术效果:
目前的网络流数据张量恢复工作大多中心在提升计算速率问题上,虽然提出了许多有效的张量分解方法,但并没有针对数据中心的用户个人信息的泄露问题提出隐私保护的方法,所以本方法针对三阶网络流数据张量提出了一种可行的隐私保护方法包括:可信的第三方服务器接收到用户端发送的三阶张量或多个信息矩阵之后,首先将三阶张量(若第三方服务器接收到多个信息矩阵,则需要将多个信息矩阵聚合成三阶张量)进行张量分解,得到三个因子矩阵,然后对包含用户个人隐私的因子矩阵进行差分隐私保护处理,最后进行重构后恢复成新的网络流三阶张量。相较于现有的张量分解和张量恢复方案容易暴露用户隐私信息,本方法实现了张量分解和差分隐私恢复张量技术的有效结合,本方法对张量分解后得到的具有个人隐私的因子矩阵进行差分隐私处理,差分隐私处理添加合适的噪声后,进行重构成新的三阶张量,实现了对张量分解后的因子矩阵进行差分隐私,生成的数据满足隐私保护的要求,也一定程度上维持了数据可用性。
本发明的第二方面,提供了一种基于张量分解的数据流量隐私保护恢复方法,应用于用户端,所述用户端与可信的服务器进行通信,所述方法包括以下步骤:
向所述服务器发送第一信息,所述第一信息包括第一三阶张量或多个信息矩阵,若所述第一信息包括第一三阶张量,则以使所述服务器对所述第一三阶张量进行张量分解以得到三个因子矩阵,以使所述服务器对包含用户个人隐私的所述因子矩阵进行差分隐私保护处理,并对经过差分隐私保护处理后的所述因子矩阵和剩余所述因子矩阵进行重构以得到第二三阶张量;若所述第一信息包括多个信息矩阵,则以使所述服务器对所述多个信息矩阵进行聚合,并以使所述服务器对聚合后的结果进行张量分解以得到三个因子矩阵,以使所述服务器对包含用户个人隐私的所述因子矩阵进行差分隐私保护处理,并对经过差分隐私保护处理后的所述因子矩阵和剩余所述因子矩阵进行重构以得到第二三阶张量。
根据本发明的实施例,至少具有如下技术效果:
相较于现有的张量分解和张量恢复方案容易暴露用户隐私信息,本方法实现了张量分解和差分隐私恢复张量技术的有效结合,本方法对张量分解后得到的具有个人隐私的因子矩阵进行差分隐私处理,差分隐私处理添加合适的噪声后,进行重构成新的三阶张量,实现了对张量分解后的因子矩阵进行差分隐私,生成的数据满足隐私保护的要求,也一定程度上维持了数据可用性。
本发明的第三方面,提供了一种基于张量分解的数据流量隐私保护恢复方法,应用于服务器,包括以下步骤:
接收用户端发送的多个信息矩阵;所述信息矩阵由所述用户端进行随机响应机制下的本地化差分隐私处理得到;
将所述多个信息矩阵聚合成第一三阶张量;
对所述第一三阶张量进行张量分解,得到三个因子矩阵;
对三个所述因子矩阵进行重构,得到第二三阶张量。
根据本发明的实施例,至少具有如下技术效果:
相较于现有的张量分解和张量恢复方案容易暴露用户隐私信息,本方法实现了张量分解和本地化差分隐私恢复张量技术的有效结合,本方法首先通过用户端对用户个人信息矩阵进行随机响应机制下的本地化差分隐私处理而得到多个信息矩阵,本地化差分隐私处理添加合适的噪声,切断了信息泄露的源头,而且噪声的大小可以由用户端进行选择,最后由服务器进行聚合、张量分解和重构成新的三阶张量,本方法实现了张量分解和本地化差分隐私保护的有效结合,生成的数据既满足隐私保护的要求,也一定程度上维持了数据可用性。
本发明的第四方面,提供了一种基于张量分解的数据流量隐私保护恢复方法,应用于用户端,所述用户端与服务器进行通信,包括以下步骤:
将经过随机响应机制下的本地化差分隐私处理后得到的信息矩阵发送至所述服务器;以使所述服务器将接收到的所述信息矩阵聚合成第一三阶张量,并使所述服务器对所述第一三阶张量进行张量分解以得到三个因子矩阵,并对三个所述因子矩阵进行重构,得到第二三阶张量。
根据本发明的实施例,至少具有如下技术效果:
相较于现有的张量分解和张量恢复方案容易暴露用户隐私信息,本方法实现了张量分解和本地化差分隐私恢复张量技术的有效结合,本方法首先通过用户端对用户个人信息矩阵进行随机响应机制下的本地化差分隐私处理而得到多个信息矩阵,本地化差分隐私处理添加合适的噪声,切断了信息泄露的源头,而且噪声的大小可以由用户端进行选择,最后由服务器进行聚合、张量分解和重构成新的三阶张量,本方法实现了张量分解和本地化隐私保护的有效结合,生成的数据既满足隐私保护的要求,也一定程度上维持了数据可用性。
附图说明
图1为本发明第一实施例提供的一种基于张量分解的数据流量隐私保护恢复方法的流程示意图;
图2为本发明第一实施例提供的差分隐私的示意图;
图3为本发明第一实施例提供的拉普拉斯分布图;
图4为本发明第二实施例提供的一种基于张量分解的数据流量隐私保护恢复方法的流程示意图;
图5为本发明第二实施例提供的中心化差分隐私示意图;
图6为本发明第三实施例提供的一种基于张量分解的数据流量隐私保护恢复方法的流程示意图;
图7为本发明第三实施例提供的本地化差分隐私示意图;
图9为本发明第四实施例提供的一种基于张量分解的数据流量隐私保护恢复方法的流程示意图;
图10为本发明第五实施例提供的一种基于张量分解的数据流量隐私保护恢复方法的流程示意图;
图11为本发明第六实施例提供的差分隐私和中心化差分隐私RMSE结果对比示意图;
图12为本发明第六实施例提供的不同ε下本地化差分隐私原始均值和估计均值对比示意图;
图13为本发明第六实施例提供的ε与噪音规模或者概率p的函数关系示意图;
图14为本发明第七实施例提供的一种张量分解和差分隐私流程图;
图15为本发明第七实施例提供的CP分解加差分隐私恢复的张量与CP分解恢复的张量的对比示意图;
图16为本发明第八实施例提供的一种基于张量分解的数据流量隐私保护恢复设备的结构示意图。
具体实施方式
第一实施例;
参照图1,本发明的一个实施例,提供了一种基于张量分解的数据流量隐私保护恢复方法,用于可信的第三方服务器,包括以下步骤:
S101、第三方服务器获取用户端发送的第一三阶张量。
S102、第三方服务器对获取的第一三阶张量进行CP分解,得到三个因子矩阵。
需要注意的是,本文实施例均以三阶张量进行CP分解为例进行说明。但本文实施例还可适用于Tucker分解的方案中,本领域技术人员完全可以通过以CP分解为例,将本方案适用于Tucker分解方案中。
根据上述介绍,在本实施例中步骤S101和S102中,用户端的网络流量数据集里可以构成一个3阶张量(用户×地点×时间,即其中I指代用户维度,J指代地点维度,K指代时间维度)。因为可能存在传感器故障、传输数据丢失等一些不可避免原因的损失问题,中的元素有一部分未被采样到,所以将观察到的条目记为一个集合,用Ω表示定义。
或者
其中R为CP-ranks。目标函数为:
其中λ1,λ2,λ3分别为因子矩阵A,B,C的正则化参数。因子矩阵A包含了用户信息。对目标函数中的决策变量air,bjr,ckr求偏导:
随着偏导梯度下降更新air,bjr,ckr,
其中,α为梯度下降的学习率。直到误差范围符合设定的误差阈值为止,输出因子矩阵A,B,C。具体的,CP分解的算法过程如下:
S103、第三方服务器对包含用户个人隐私的因子矩阵进行拉普拉斯机制的差分隐私处理。
S104、第三方服务器对进行差分隐私保护处理的因子矩阵和剩余因子矩阵进行重构,恢复成第二三阶张量。
基于上述步骤S102,服务器对进行CP分解后,得到因子矩阵A,B,C,因为因子矩阵A中包含用户信息,故对其进行隐私保护。本实施例选择差分隐私中的拉普拉斯机制对因子矩阵A进行处理,即向因子矩阵A中添加符合拉普拉斯分布的噪音。图2示出了差分隐私的示意图。
拉普拉斯分布的定义为:设随机变量X具有密度函数:
其中λ,μ为常数,且λ>0,则称x服从参数为λ,μ的拉普拉斯分布。如图3所示,可以看到参数λ不同取值的拉普拉斯分布曲线,这里μ的取值为0。
通过以下算法来随机生成一组和因子矩阵A行列相同的拉普拉斯噪音矩阵,再通过与因子矩阵A的添加运算,即因子矩阵A元素均受到了一定规律的噪音干扰,达到了隐私保护的作用,又因为生成的噪音符合拉普拉斯分布曲线,虽然对数据可用性产生的影响会随着拉普拉斯的方差而不同,但是数据可用性也得到了一定的保持。算法2的过程如下:
设在因子矩阵A上添加噪声η,受到扰动的目标函数为:
所以
本实施例具有的有益效果:目前的网络流数据张量恢复工作大多中心在提升计算速率问题上,虽然提出了许多有效的张量分解方法,但并没有针对数据中心的用户个人信息的泄露问题提出隐私保护的方法,所以本方法实施例针对三阶网络流数据张量提出了一种可行的隐私保护方法。本方法的主要流程是:可信的第三方服务器接收到用户端发送的三阶张量之后,首先将三阶张量进行CP分解,变成三个因子矩阵,然后再通过拉普拉斯机制的差分隐私技术对包含用户个人信息的因子矩阵A进行隐私保护,得到添加噪音后的因子矩阵最后用三个因子矩阵进行重构后恢复网络流张量。相较于现有的张量分解和张量恢复方案容易暴露用户隐私信息,本方法实现了张量分解和差分隐私恢复张量技术的有效结合,本方法对张量分解后得到的具有个人隐私的因子矩阵进行差分隐私处理,差分隐私处理添加合适的噪声后,进行重构成新的三阶张量,实现了对张量分解后的因子矩阵进行差分隐私,生成的数据满足隐私保护的要求,也一定程度上维持了数据可用性。
第二实施例;
参照图4,本发明的一个实施例,提供了一种基于张量分解的数据流量隐私保护恢复方法,本方法用于可信的第三方服务器,包括以下步骤:
S201、第三方服务器获取用户端发送的多个信息矩阵。
其中,信息矩阵即二阶张量。
S202、第三方服务器对获取的全部信息矩阵进行聚合,得到第一三阶张量。
S203、第三方服务器对第一三阶张量进行CP分解,得到三个因子矩阵。
S204、第三方服务器对包含用户个人隐私的因子矩阵进行高斯机制的中心化差分隐私处理。
S205、第三方服务器对进行差分隐私保护处理的因子矩阵和剩余因子矩阵进行重构,恢复成第二三阶张量。
需要注意的是,本实施例与第一实施例的不同点在于:本实施例中的步骤S204是对包含用户个人隐私的因子矩阵进行高斯机制的中心化差分隐私处理。中心化差分隐私在第一实施例提供的拉普拉斯机制的差分隐私的基础上,考虑到了每个用户不同的需求,如图5所示,假设前提还是为第三方服务器可信,第三方服务器收到每个用户原始、真实的数据,然后在整个服务器里聚合、计算添加相应的噪音再返回恢复结果。具体的:
标准的高斯分布(正态分布)为:
令μ表示均值,σ2表示方差,一般的正态分布为:
Apriv←A+NA
其中,NA为高斯噪音,隐私预算为ε,L2敏感度为Δ2(A)=supD,D′||A(D)-A(D′)||2。只要高斯机制的算法N满足:
那么,算法N则满足(ε,δ)-差分隐私。隐私性证明同差分隐私,此处不再细述。
中心化差分隐私与差分隐私最大的不同在于数据的收集部分,中心化差分隐私比差分隐私多一步聚合的工作,每个用户端发送自己的数据到可信的第三方服务器,服务器先将所有用户信息聚合起来再统一进行分解加噪。
本实施例具有的有益效果:目前的网络流数据张量恢复工作大多中心在提升计算速率问题上,虽然提出了许多有效的张量分解方法,但并没有针对数据中心的用户个人信息的泄露问题提出隐私保护的方法,所以本方法实施例针对三阶网络流数据张量提出了一种可行的隐私保护方法。本方法的主要流程是:可信的第三方服务器接收到用户端发送的多个信息矩阵之后,首先将多个信息矩阵进行聚合成三阶张量,其次将三阶张量进行CP分解,变成三个因子矩阵然后再通过高斯机制的中心化差分隐私技术对包含用户个人信息的因子矩阵进行隐私保护,得到添加噪音后的因子矩阵最后用三个因子矩阵进行重构后恢复网络流张量。相较于现有的张量分解和张量恢复方案容易暴露用户隐私信息,本方法实现了张量分解和差分隐私恢复张量技术的有效结合,本方法对张量分解后得到的具有个人隐私的因子矩阵进行差分隐私处理,差分隐私处理添加合适的噪声后,进行重构成新的三阶张量,实现了对张量分解后的因子矩阵进行差分隐私,生成的数据满足隐私保护的要求,也一定程度上维持了数据可用性。
第三实施例;
参照图6至图8(图8中深色为噪音部分),本发明的一个实施例,提供了一种基于张量分解的数据流量隐私保护恢复方法,用于第三方服务器,包括以下步骤
S301、第三方服务器接收用户端发送的多个信息矩阵;信息矩阵由用户端进行随机响应机制下的本地化差分隐私处理得到;
S302、第三方服务器将信息矩阵聚合成三阶张量;
S303、第三方服务器对三阶张量进行CP分解,得到三个因子矩阵;
S304、第三方服务器对三个因子矩阵进行重构,得到新的三阶张量。
本方法实施例与第一实施例和第二实施例是基于相同的发明构思,即基于张量分解和差分隐私恢复张量技术的有效结合,但本实施例与第一实施例和第二实施例不同之处在于:(1)用户端向服务器发送的信息矩阵是由用户端对用户个人信息矩阵进行随机响应机制下的本地化差分隐私处理而得到,这样从源头上切断了信息泄露的源头。(2)本实施例中的服务器可以是可信的服务器,也可以是不可信的服务器。
用户端对用户个人信息矩阵进行随机响应机制下的本地化差分隐私处理的一种具体实施方式为:
本地化差分隐私的最大的改变在于去掉了拉普拉斯机制的差分隐私技术和高斯机制的中心化差分隐私技术的第三方服务器可信假设,本地化差分隐私允许每个用户在自己的用户端上添加噪音干扰他们的真实值,第三方服务器仅对用户端发送过来的数据进行聚合得到一个最终的答案
用户本身在用户端上的网络流量数据为一个矩阵每个用户根据随即响应机制来对自身的数据进行加噪声保护,如果随机概率小于ε,数据就传送真实数据。如果随机概率大于ε,用户可以根据其他机制来添加有规律的噪声,以至于数据可用性有所保障。
本地化差分隐私保护技术利用随机响应的扰动机制抵抗不可信的第三方数据收集者带来的隐私攻击。
性质1:给定数据集合D和n个隐私算法{M1,...,Mn},且Mi(1≤i≤n)满足εi-本地化差分隐私,那么{M1,...,Mn}在D上的序列组合满足ε-本地化差分隐私,其中,性质2:给定数据集合D,将其划分为n个互不相交的子集,D={D1,...,Dn},设M为任一满足ε-本地化差分隐私的隐私算法,则算法M在{D1,...,Dn}上满足ε-本地化差分隐私。
本实施例具有的有益效果:相较于现有的张量分解和张量恢复方案容易暴露用户隐私信息,本方法实现了张量分解和本地化差分隐私恢复张量技术的有效结合,本方法首先通过用户端对用户个人信息矩阵进行随机响应机制下的本地化差分隐私处理而得到多个信息矩阵,本地化差分隐私处理添加合适的噪声,切断了信息泄露的源头,而且噪声的大小可以由用户端进行选择,最后由服务器进行聚合、张量分解和重构成新的三阶张量,本方法实现了张量分解和本地化隐私保护的有效结合,生成的数据既满足隐私保护的要求,也一定程度上维持了数据可用性。
第四实施例;
参照图9,本发明的一个实施例,提供了一种基于张量分解的数据流量隐私保护恢复方法,应用于用户端,用户端与可信的服务器进行通信,方法包括以下步骤:
S401、用户端向服务器发送第一信息,第一信息包括第一三阶张量或多个信息矩阵,若第一信息包括第一三阶张量,则以使服务器对第一三阶张量进行张量分解以得到三个因子矩阵,以使服务器对包含用户个人隐私的因子矩阵进行差分隐私保护处理,并对经过差分隐私保护处理后的因子矩阵和剩余因子矩阵进行重构以得到第二三阶张量;若第一信息包括多个信息矩阵,则以使服务器对多个信息矩阵进行聚合,并以使服务器对聚合后的结果进行张量分解以得到三个因子矩阵,以使服务器对包含用户个人隐私的因子矩阵进行差分隐私保护处理,并对经过差分隐私保护处理后的因子矩阵和剩余因子矩阵进行重构以得到第二三阶张量。
需要说明的是,本方法实施例与上述实施例是基于相同的发明构思,具体过程和原理可以参见第一实施例和第二实施例,此处不再赘述。
第五实施例;
参照图10,本发明的一个实施例,提供了一种基于张量分解的数据流量隐私保护恢复方法,用于用户端,用户端与服务器进行通信,包括以下步骤:
S501、用户端将经过随机响应机制下的本地化差分隐私处理后得到的信息矩阵发送至服务器;以使服务器将接收到的多个信息矩阵聚合成第一三阶张量,并使服务器对第一三阶张量进行张量分解以得到三个因子矩阵,并对三个因子矩阵进行重构,得到第二三阶张量。
需要说明的是,本方法实施例与上述实施例是基于相同的发明构思,具体过程和原理可以参见第三实施例,此处不再赘述。
第六实施例;
基于上述实施例,提供一组实验数据;
在数据集Aliene上做实验,Aliene数据集包含一个Sparse_Tensor,大小为这里代入到的模型中,即存在144个用户,288个采集地点,168个时间点,例如为用户1在地点1时间点1所采集的网络流量数据。由于对于张量的秩的求解往往是一个NP-Hard问题,所以在设计实验时要预先给定秩的值,参考其他权威文献以及低秩性要求,将秩设定为10。所以分解出来的三个因子矩阵
(1)在差分隐私和中心化差分隐私上采用均方根误差(Root Mean SquaredError,RMSE)和均方误差(Mean Squared Error,MSE)。(2)在本地化差分隐私上,因为存在随机响应,所以采用均值统计。即第四实施例至第五实施例的方法使用均值作为评价指标;
(1)差分隐私和中心化差分隐私实验结果:根据不同的隐私度设置,自然也会有不同的RMSE结果。实验时,将隐私预算ε按照从0.2到2.0,每0.2一次的增幅来调整参数,从图11可以看出随着隐私预算的增大,差分隐私和中心化差分隐私的RMSE评测结果呈现出两种不同趋势的曲线。随着∈的取值不断增大,差分隐私相应的RMSE前期降低的速度较快,后期较为缓慢降低。由此可得,基于拉普拉斯机制的差分隐私随着的取值不断增大,隐私度越低,数据可用性越高。而中心化差分隐私恢复的网络流数据量RMSE结果随着ε取值增大也不断增大,这可以证明基于高斯机制下的中心化差分隐私随着隐私度越大,数据可用性越低。这两条曲线也证明了隐私预算可以影响数据可用性和隐私保护程度。需要根据实际不同的应用来合理的设置隐私预算参数。
(2)本地化差分隐私实验结果:本地化差分隐私主要优势在于可以在用户本地用户端进行添加噪声的工作,这也切断了信息泄露的源头。并且是否添加噪音和添加噪音的大小都由随机响应机制和噪音机制控制,也有效的提高了数据可用性。
初步设置的概率po决定随机响应的结果,由本地用户端随机生成一个概率p,如果这个概率p>po,那么用户需要传送带有噪音的数据,噪音大小可参照其他差分隐私的高斯机制、拉普拉斯机制等。反之,如果这个概率p<po,那么用户直接传送给服务器真实数据。所有的随机响应过程均在用户端完成,服务器仅对接受到的数据进行处理,并不会知道用户返回的是真实值还是虚假值,这也在数据源头有效的切断了隐私数据的泄露。
从图12可以看出,隐私度ε从0.2调至2.0的情况下,经过多次实验取得的均值结果,随着隐私预算的增大,结果越来越接近真实值。再结合图13分析,因为随着隐私预算的增大,基于拉普拉斯机制的差分隐私添加的噪音规模成越来越小,所以数据可用性得到了缓解,相应的均方根误差也下降了。而基于高斯机制的中心化差分隐私的噪音规模随着隐私预算的增大,呈现出较大浮动波动的正负噪音,规模也越来越大,所以相应的均方根误差越来越大。
而本地化差分隐私随着隐私预算的增大,随机响应机制回答真实答案的概率也越来越大,所以由图12的三个不同预算得到的实验结果图可以看出,即用户以更高的概率响应真是结果。因此,对于均值统计来说,都提高了数据的可用性。
综上所述,本发明提出张量分解与隐私保护结合,并且能达到数据可用性和隐私保护的一个权衡。
第七实施例;
参照图14和图15,为了便于本领域技术人员比较本发明技术方案与现有方案的区别,这里提供一个实施例:
网络流量数据集里包含一个3阶张量I指代用户维度,J指代地点维度,K指代时间维度。虽然物联网的传感器涉及面广且数量众多,但因为传感器故障、网络卡顿或传送时刻设置的一些不可避免原因的损失,关于每个时间点的用户网络流量数据仍有些记录不完全,所以如果想更加精确的分析网络流量数据再在其基础上进行应用拓展,恢复流量数据是一项至关重要的工作。
将里能观察到的条目记为一个集合,用Ω表示。用一个3阶张量(用户×地点×时间)来记录原始测量数据,通常是一个不完全张量。CP分解可以将张量分解为三个因子矩阵A,B,C的乘积:简称为此时根据分解出来的因子矩阵A,B,C重构原始张量的恢复版本:
虽然根据CP分解方式恢复出来的张量效果较好,但往往中间过程会暴露用户个人隐私信息,于是利用本发明实施例提供的多种差分隐私技术对分解后的因子矩阵A添加噪音,以使恢复出来的张量满足隐私保护要求。根据更新后的因子矩阵A*,根据CP分解的逆运算重构隐私完全张量如图15所示,对于原始不完全张量根据CP分解恢复的张量可以更加全面的提取用户特征,但是容易暴露用户隐私信息,根据CP分解和差分隐私恢复的张量在一定隐私预算内所恢复的数据是符合用户特征规律的,可以在不暴露用户具体真实信息的同时进行分析和处理。另外,需根据不同的隐私预算来实验得出不同的数据可用性和隐私度。三种差分隐私技术有利有弊,隐私度和可用性有好有坏,需要根据真实需求情况选择不同的方案。图14中,DP model表示拉普拉斯机制的差分隐私处理;CDP model表示高斯机制的中心化差分隐私处理;LDP model表示随机响应机制下的本地化差分隐私处理。
第八实施例;
参照图16,本发明的一个实施例,提供了一种基于张量分解的数据流量隐私保护恢复设备,该设备可以是任意类型的智能终端,例如手机、平板电脑、个人计算机等。具体地,该设备包括:一个或多个控制处理器和存储器,这里以一个控制处理器为例。控制处理器和存储器可以通过总线或者其他方式连接,这里以通过总线连接为例。存储器作为一种非暂态计算机可读存储介质,可用于存储非暂态软件程序、非暂态性计算机可执行程序以及模块,如本发明实施例中的基于张量分解的数据流量隐私保护恢复设备对应的程序指令/模块。控制处理器通过运行存储在存储器中的非暂态软件程序、指令以及模块,从而实现上述方法实施例的所述的基于张量分解的数据流量隐私保护恢复方法。存储器可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储器可以包括高速随机存取存储器,还可以包括非暂态存储器,例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中,存储器可选包括相对于控制处理器远程设置的存储器,这些远程存储器可以通过网络连接至该基于张量分解的数据流量隐私保护恢复设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。所述一个或者多个模块存储在所述存储器中,当被所述一个或者多个控制处理器执行时,执行上述方法实施例的所述的基于张量分解的数据流量隐私保护恢复方法。
本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,该计算机可执行指令被一个或多个控制处理器执行上述方法实施例的所述的基于张量分解的数据流量隐私保护恢复方法。
通过以上的实施方式的描述,本领域技术人员可以清楚地了解到各实施方式可借助软件加通用硬件平台的方式来实现。本领域技术人员可以理解实现上述实施例方法中的全部或部分流程是可以通过计算机程序来指令相关的硬件来完成,程序可存储于计算机可读取存储介质中,该程序在执行时,可包括如上述方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(Read Only Memory,ROM)或随机存储记忆体(RandomAccess Memory,RAM)等。
尽管已经示出和描述了本发明的实施例,本领域的普通技术人员可以理解:在不脱离本发明的原理和宗旨的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由权利要求及其等同物限定。
Claims (10)
1.一种基于张量分解的数据流量隐私保护恢复方法,其特征在于,应用于可信的服务器,包括以下步骤:
获取用户端发送的第一信息,所述第一信息包括第一三阶张量或多个信息矩阵;
若所述第一信息包括第一三阶张量,则对获取的所述第一三阶张量进行张量分解,得到三个因子矩阵;若所述第一信息包括所述多个信息矩阵,则对所述多个信息矩阵进行聚合,并对聚合后的结果进行张量分解,得到三个因子矩阵;
对包含用户个人隐私的所述因子矩阵进行差分隐私保护处理;
对经过差分隐私保护处理后的所述因子矩阵和剩余所述因子矩阵进行重构,得到第二三阶张量。
2.根据权利要求1所述的一种基于张量分解的数据流量隐私保护恢复方法,其特征在于,对包含用户个人隐私的所述因子矩阵进行差分隐私保护处理,包括以下之一的方法:
对包含用户个人隐私的所述因子矩阵进行拉普拉斯机制的差分隐私处理;或
对包含用户个人隐私的所述因子矩阵进行高斯机制的中心化差分隐私处理。
3.根据权利要求1所述的一种基于张量分解的数据流量隐私保护恢复方法,其特征在于,对获取的所述第一信息进行张量分解包括如下之一的方法:
对获取的所述第一信息进行CP分解;或
对获取的所述第一信息进行Tucker分解。
4.一种基于张量分解的数据流量隐私保护恢复方法,其特征在于,应用于用户端,所述用户端与可信的服务器进行通信,所述方法包括以下步骤:
向所述服务器发送第一信息,所述第一信息包括第一三阶张量或多个信息矩阵,若所述第一信息包括第一三阶张量,则以使所述服务器对所述第一三阶张量进行张量分解以得到三个因子矩阵,以使所述服务器对包含用户个人隐私的所述因子矩阵进行差分隐私保护处理,并对经过差分隐私保护处理后的所述因子矩阵和剩余所述因子矩阵进行重构以得到第二三阶张量;若所述第一信息包括多个信息矩阵,则以使所述服务器对所述多个信息矩阵进行聚合,并以使所述服务器对聚合后的结果进行张量分解以得到三个因子矩阵,以使所述服务器对包含用户个人隐私的所述因子矩阵进行差分隐私保护处理,并对经过差分隐私保护处理后的所述因子矩阵和剩余所述因子矩阵进行重构以得到第二三阶张量。
5.根据权利要求4所述的一种基于张量分解的数据流量隐私保护恢复方法,其特征在于,以使所述服务器对包含用户个人隐私的所述因子矩阵进行差分隐私保护处理,包括以下之一的方法:
以使所述服务器对包含用户个人隐私的所述因子矩阵进行拉普拉斯机制的差分隐私处理;或
以使所述服务器对包含用户个人隐私的所述因子矩阵进行高斯机制的中心化差分隐私处理。
6.根据权利要求4所述的一种基于张量分解的数据流量隐私保护恢复方法,其特征在于,以使所述服务器对所述第一信息进行张量分解包括如下之一的方法:
以使所述服务器对所述第一信息进行CP分解;或
以使所述服务器对所述第一信息进行Tucker分解。
7.一种基于张量分解的数据流量隐私保护恢复方法,其特征在于,应用于服务器,包括以下步骤:
接收用户端发送的多个信息矩阵;所述信息矩阵由所述用户端进行随机响应机制下的本地化差分隐私处理得到;
将所述多个信息矩阵聚合成第一三阶张量;
对所述第一三阶张量进行张量分解,得到三个因子矩阵;
对三个所述因子矩阵进行重构,得到第二三阶张量。
8.一种基于张量分解的数据流量隐私保护恢复方法,其特征在于,应用于用户端,所述用户端与服务器进行通信,包括以下步骤:
将经过随机响应机制下的本地化差分隐私处理后得到的信息矩阵发送至所述服务器;以使所述服务器将接收到的所述信息矩阵聚合成第一三阶张量,并使所述服务器对所述第一三阶张量进行张量分解以得到三个因子矩阵,并对三个所述因子矩阵进行重构,得到第二三阶张量。
9.一种基于张量分解的数据流量隐私保护恢复设备,其特征在于,包括:至少一个控制处理器和用于与所述至少一个控制处理器通信连接的存储器;所述存储器存储有可被所述至少一个控制处理器执行的指令,所述指令被所述至少一个控制处理器执行,以使所述至少一个控制处理器能够执行如权利要求1至8任一项所述的一种基于张量分解的数据流量隐私保护恢复方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令用于使计算机执行如权利要求1至8任一项所述的一种基于张量分解的数据流量隐私保护恢复方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110055234.6A CN112668054B (zh) | 2021-01-15 | 2021-01-15 | 一种基于张量分解的数据流量隐私保护恢复方法及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110055234.6A CN112668054B (zh) | 2021-01-15 | 2021-01-15 | 一种基于张量分解的数据流量隐私保护恢复方法及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112668054A true CN112668054A (zh) | 2021-04-16 |
CN112668054B CN112668054B (zh) | 2024-07-19 |
Family
ID=75415333
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110055234.6A Active CN112668054B (zh) | 2021-01-15 | 2021-01-15 | 一种基于张量分解的数据流量隐私保护恢复方法及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112668054B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117574436A (zh) * | 2024-01-15 | 2024-02-20 | 南京邮电大学 | 一种基于张量的大数据隐私安全防护方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106600053A (zh) * | 2016-12-12 | 2017-04-26 | 西安交通大学 | 一种基于时空轨迹和社会网络的用户属性预测系统 |
CN107392049A (zh) * | 2017-07-26 | 2017-11-24 | 安徽大学 | 一种基于差分隐私保护的推荐方法 |
CN107770405A (zh) * | 2017-10-23 | 2018-03-06 | 北京邮电大学 | 图像加密方法及装置 |
CN109376901A (zh) * | 2018-09-07 | 2019-02-22 | 苏州大学 | 一种基于去中心化矩阵分解的服务质量预测方法 |
US20190121889A1 (en) * | 2017-10-19 | 2019-04-25 | Pure Storage, Inc. | Ensuring reproducibility in an artificial intelligence infrastructure |
CN110008402A (zh) * | 2019-02-22 | 2019-07-12 | 苏州大学 | 一种基于社交网络的去中心化矩阵分解的兴趣点推荐方法 |
JP2020017101A (ja) * | 2018-07-26 | 2020-01-30 | Kddi株式会社 | 匿名化装置、匿名化方法及び匿名化プログラム |
US20200058368A1 (en) * | 2018-08-17 | 2020-02-20 | Ancestry.Com Dna, Llc | Prediction of phenotypes using recommender systems |
-
2021
- 2021-01-15 CN CN202110055234.6A patent/CN112668054B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106600053A (zh) * | 2016-12-12 | 2017-04-26 | 西安交通大学 | 一种基于时空轨迹和社会网络的用户属性预测系统 |
CN107392049A (zh) * | 2017-07-26 | 2017-11-24 | 安徽大学 | 一种基于差分隐私保护的推荐方法 |
US20190121889A1 (en) * | 2017-10-19 | 2019-04-25 | Pure Storage, Inc. | Ensuring reproducibility in an artificial intelligence infrastructure |
CN107770405A (zh) * | 2017-10-23 | 2018-03-06 | 北京邮电大学 | 图像加密方法及装置 |
JP2020017101A (ja) * | 2018-07-26 | 2020-01-30 | Kddi株式会社 | 匿名化装置、匿名化方法及び匿名化プログラム |
US20200058368A1 (en) * | 2018-08-17 | 2020-02-20 | Ancestry.Com Dna, Llc | Prediction of phenotypes using recommender systems |
CN109376901A (zh) * | 2018-09-07 | 2019-02-22 | 苏州大学 | 一种基于去中心化矩阵分解的服务质量预测方法 |
CN110008402A (zh) * | 2019-02-22 | 2019-07-12 | 苏州大学 | 一种基于社交网络的去中心化矩阵分解的兴趣点推荐方法 |
Non-Patent Citations (2)
Title |
---|
JUN FENG: "Privacy-Preserving Tensor Decomposition Over Encrypted Data in a Federated Cloud Environment", pages 1 - 12, Retrieved from the Internet <URL:《互联网在线公开:https://ieeexplore.ieee.org/abstract/document/8536415》> * |
孔令军等: "边缘计算下的AI检测与识别算法综述", 《无线电通信技术》, vol. 45, no. 5, 4 September 2019 (2019-09-04), pages 453 - 462 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117574436A (zh) * | 2024-01-15 | 2024-02-20 | 南京邮电大学 | 一种基于张量的大数据隐私安全防护方法 |
CN117574436B (zh) * | 2024-01-15 | 2024-03-19 | 南京邮电大学 | 一种基于张量的大数据隐私安全防护方法 |
Also Published As
Publication number | Publication date |
---|---|
CN112668054B (zh) | 2024-07-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Beck et al. | {PrivApprox}:{Privacy-Preserving} Stream Analytics | |
EP3622402A1 (en) | Real time detection of cyber threats using behavioral analytics | |
CN112347500B (zh) | 分布式系统的机器学习方法、装置、系统、设备及存储介质 | |
CN111669366A (zh) | 一种本地化差分隐私数据交换方法及存储介质 | |
CN113221153B (zh) | 图神经网络训练方法、装置、计算设备及存储介质 | |
CN110210248A (zh) | 一种面向隐私保护的网络结构去匿名化系统及方法 | |
Wang et al. | Missing data recovery based on tensor-CUR decomposition | |
EP3327702B1 (en) | Secure computation device, method therefor, and program | |
Gorgi | Integer‐valued autoregressive models with survival probability driven by a stochastic recurrence equation | |
Nepomuceno et al. | On the use of interval extensions to estimate the largest Lyapunov exponent from chaotic data | |
CN115842627A (zh) | 基于安全多方计算的决策树评估方法、装置、设备及介质 | |
CN113901679B (zh) | 电力系统的可靠性分析方法、装置和计算机设备 | |
CN112668054A (zh) | 一种基于张量分解的数据流量隐私保护恢复方法及设备 | |
Long et al. | Fault detection for networked control systems subject to quantisation and packet dropout | |
Obuchi et al. | Statistical mechanical analysis of sparse linear regression as a variable selection problem | |
Lyubushin | Long-range coherence between seismic noise properties in Japan and California before and after Tohoku mega-earthquake | |
Wan et al. | Fault detection for discrete-time networked nonlinear systems with incomplete measurements | |
CN114862416B (zh) | 一种联邦学习环境下的跨平台信用评价方法 | |
Zhang et al. | Causal direction inference for network alarm analysis | |
WO2022170853A1 (zh) | 信息生成方法、装置、电子设备和计算机可读介质 | |
CN116383864A (zh) | 分布式环境下隐私保护联邦学习方法、系统、设备及介质 | |
CN113254996B (zh) | 图神经网络训练方法、装置、计算设备及存储介质 | |
CN109886825B (zh) | 一种农业物联网数据多视角投影聚类重构方法及系统 | |
CN114021732A (zh) | 一种比例风险回归模型训练方法、装置、系统及存储介质 | |
Lazar et al. | Consistent recovery of sensory stimuli encoded with MIMO neural circuits |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |