CN103150515A - 一种分布式环境下隐私保护的关联规则挖掘方法 - Google Patents

Abstract

本发明提供一种分布式环境下隐私保护的关联规则挖掘方法，对多个数据方进行全局挖掘，包括构造项集随机干扰矩阵、对数据进行扰乱变换、统计扰乱后支持数矩阵之和、重构数据分布、精确计算剪枝后空间中的项集全局支持度等步骤。本发明的方法通过构造随机干扰矩阵对多个属性同时扰乱，扰乱过程中考虑属性之间相关性，从而有效地提高恢复精度；使用扰乱方法估算出项集的支持数后，根据最小支持度进行剪枝后再使用安全多方计算确定最终的全局频繁项集，从而有效减少了通信量，提高了挖掘效率，可以获取挖掘效率与挖掘精度之间较好的折衷，具有更广泛的应用范围。

Description

一种分布式环境下隐私保护的关联规则挖掘方法

技术领域

本发明涉及数据挖掘中隐私保护技术领域，具体而言涉及一种分布式环境下隐私保护的关联规则挖掘方法。

背景技术

信息时代带来了数据的爆炸性增长，也催生了从海量数据中提取出有用知识的富有挑战性的研究领域――数据挖掘。数据挖掘作为一个强有力的数据分析工具，可以发现数据中潜在的模式和规律(如：决策树、聚类、关联规则、神经网络或其它方式表示的知识），在商务决策、生物医疗和科学研究等领域扮演着非常重要的角色，具有广泛的应用前景。然而，传统的数据挖掘技术直接在原始数据集上进行，会引起隐私数据的泄露。例如，疾病控制中心从各医疗机构收集病人的病例信息，以进行疾病的分析与控制。在这个过程中，传统数据挖掘技术不可避免地暴露敏感数据，如病人所患疾病，而这些敏感数据是数据所有者(医疗机构、病人）不希望被揭露的。企业间的数据共享能给企业带来巨大的利益，但每个企业数据集中都蕴涵着大量的敏感知识，它们的泄露，可能给商业上的竞争者带来可乘之机。

通过数据挖掘可以预测未来趋势及行为，可以发现两个或多个事物之间存在某种关联关系，帮助决策者调整市场策略，减少风险，做出正确的决策，增加企业利润。然而考虑到隐私问题，人们往往不愿意将自己的信息提供给数据挖掘者或提供虚假的信息，企业也可能不愿意提供自己的真实信息给数据挖掘者以防止泄露企业内部机密或失去市场竞争力，从而可能挖掘出错误的知识，使得决策者做出错误的决策，不利于社会进步。而只有在隐私得到保护的情况，个人或企业才愿意提供相关的信息。因此，隐私保护技术的出现就是为了解决上述问题，如何在各种数据库应用中保护数据的隐私，成为近年来学术界的研究热点。

分布式环境下的隐私保护关联规则挖掘需要保护的隐私内容有原始数据信息和各数据方的关联规则信息。目前已有的方法主要有:安全多方计算(SMC:Secure Multi-party Computation）和数据扰乱(data obscuration）。安全多方计算，采用基于比特的公钥加密技术来管理大量候选频繁项集，从中搜索出频繁项集，算法复杂度较高、效率太低、通信量太大；基于扰乱的隐私保护技术能够快速地实现数据扰乱和重构，但由于对单个属性进行干扰，破坏了属性之间的相关性，导致挖掘精度下降。

发明内容

针对现有技术中存在的问题和不足，本发明旨在提供一种分布式环境下隐私保护的关联规则挖掘方法，采用安全多方计算与随机干扰相结合的方法，即混合方法来实现对隐私信息的有效保护，并且扰乱方法采用的是对多个属性同时扰乱，能够有效保持属性之间的相关性，提高挖掘精度；安全多方计算只用来计算剪枝后的项集支持数，可以减少通信量和计算量，从而可以获取挖掘精度与挖掘效率之间较好的平衡。

本发明的上述目的通过独立权利要求的技术特征实现，从属权利要求以另选或有利的方式发展独立权利要求的技术特征。

为达成上述目的，本发明提出一种分布式环境下隐私保护的关联规则挖掘方法，该分布式环境下有多个数据方S₁，…，S_n参与全局关联规则挖掘，该多个数据方构成k-项集，其最小支持度为MST，最小置信度为MCT，每一数据方为一站点，其中数据方S₁为主站点，S₂，…，S_n为局部站点，该方法包括以下步骤：

1）主站点S₁根据k-项集，构造项集随机干扰矩阵P_L并发送给各局部站点；

2）各局部站点根据P_L干扰其所有的记录，然后统计干扰后的数据库中的k-项集的支持数，并将它们构成支持数行矩阵发送给半诚信的第三方站点SP；

3）半诚信第三方站点SP对各局部站点发送过来的所有项集支持数矩阵进行求和，得到求和后的支持数矩阵MS’，并将其发送给主站点S₁；

4）主站点S₁使用P_L的逆矩阵P_L ^-1来恢复MS’中各项集在原始数据中的支持计数MS，找出大于等于预定阈值(MST-w）的近似全局频繁项集，其恢复公式为：

MS=MS’·P_L ^-1

5）各站点根据安全多方计算方法，使用安全求和协议求出步骤4）得到的近似全局频繁项集的支持数；

6）主站点S₁根据步骤5计算得出近似全局频繁项集，使用关联规则挖掘算法Apriori迭代计算生成候选频繁(k+1）项集，直到全局频繁k-项集的数目等于零，生成全局频繁项集的支持数；

7）主站点S₁根据全局频繁项集的支持数和MCT生成全局关联规则，并广播给各站点。

进一步，前述的步骤1）中，其中项集随机干扰矩阵P_L具有以下特性：

$P_L=\left(\begin{array}{c}{a}_{11}\·\·\·a_{1m}\\ \·\·\·\\ a_{m1}\·\·\·a_{\mathrm{mm}}\end{array}\right)$

其中a_ij(1≤i≤m，1≤j≤m）表示项集X_i转换为项集X_i的概率，并且①a_ij≥0；②对任意i都有

③干扰矩阵P_L的逆矩阵P_L ^-1存在。

进一步，在前述的步骤2）中，各局部站点利用P_L对进行扰乱变换并统计干扰后的数据库中的k-项集的支持数的方法如下：

2.1将支持数矩阵各元素初始化为0

2.2从数据库中读一条事务；

2.3找出该事务中包含的所有候选频繁k-项集；

2.4根据项集随机干扰矩阵P_L，逐个随机干扰这些项集；

2.5根据干扰后的项集，将支持数矩阵中相应项集支持数加1；

2.6重复上述步骤2.2-2.5，直到读完所有事务。

由以上本发明的技术方案可知，本发明的有益效果在于：

（1）隐私信息保护方面，本发明采用安全多方计算方法和数据扰乱方法对隐私信息进行保护，将构造随机干扰矩阵的站点和统计扰乱后的数据的站点分离，从而有效保护各分布站点的关联规则。

（2）挖掘精度和效率方面，本发明提出一种新颖的数据扰乱方法，针对多个属性同时扰乱，扰乱过程中考虑了属性之间相关性，从而有效地提高了恢复精度。使用扰乱方法估算出项集的支持数后，根据最小支持度进行剪枝后再使用安全多方计算确定最终的全局频繁项集，从而安全多方计算只针对少量的信息，有效减少了计算量和通信量，提高了挖掘效率。因此本发明可以在获取挖掘效率与挖掘精度之间较好地平衡，具有更广泛的应用范围。

附图说明

图1为本发明较优实施例的分布式环境下隐私保护的关联规则挖掘方法的流程示意图。

图2为图1实施例中安全计算项集全局支持数的原理示意图。

具体实施方式

为了更了解本发明的技术内容，特举具体实施例并配合所附图式说明如下。

总体而言，本发明的分布式环境下隐私保护的关联规则挖掘方法，采用安全多方计算与随机干扰相结合的方法，即混合方法来实现对隐私信息的有效保护，首先利用随机干扰方法快速估算出全局候选项集的支持数，根据给定的阈值对其进行剪枝，以缩小全局候选频繁项集的搜索空间，减少计算与通信开销，然后在缩小后的空间中，利用安全多方计算精确地计算候选项集的支持度，找出最终的频繁项集用于生成关联规则。扰乱方法采用的是对多个属性同时扰乱，能够有效保持属性之间的相关性，提高挖掘精度；安全多方计算只用来计算剪枝后的项集支持数，可以减少通信量和计算量，从而可以获取挖掘精度与挖掘效率之间较好地平衡。

根据本发明的较优实施例，分布式环境下隐私保护的关联规则挖掘方法，目的是在不泄露各站点原始数据和统计信息的条件下，挖掘出全局关联规则，包括以下步骤：

（1）主站点定义项集随机干扰矩阵

主站点根据候选k-项集的大小定义项集随机干扰矩阵，设L是m个k-项集X₁，X₂，…，X_m的集合，则定义L的项集随机干扰矩阵P_L（以下简称干扰矩阵P_L）：

$P_L=\left(\begin{array}{c}{a}_{11}\·\·\·a_{1m}\\ \·\·\·\\ a_{m1}\·\·\·a_{\mathrm{mm}}\end{array}\right)$

其中a_ij(1≤i≤m，1≤j≤m）表示项集X_i转换为项集x_i的概率，并且①a_ij≥0；②对任意i都有

③干扰矩阵P_L的逆矩阵P_L ^-1存在。

（2）各站点利用干扰矩阵P_L对数据进行扰乱变换

各站点扫描自身数据库内的数据集，每读取一条事务，统计该事务中包含的候选频繁项集C，对所有项集X_u∈L∩C(1≤u≤m），随机地将X_u变为集合L中的另一个项集X_v，从而保护原始数据信息。X_u变为X_v的概率为干扰矩阵P_L中第u行、v列的元素a_uv值。

（3）统计各个站点扰乱后的项集支持数

借助第三方即服务器方(Server Party，SP）来统计各站点的支持数矩阵之和。服务器方没有自身的数据，其主要任务是监控各站点之间的通信、接收并存储各站点发送过来的数据以及求支持数矩阵之和。将统计的各数据方项集支持数矩阵站点与重构原始数据集项集支持数矩阵站点相分离，从而达到对各数据方关联规则的保护。

（4）重构数据分布

根据变换后的数据来恢复项集在各站点的原始数据集中的支持数，服务器方将统计后的支持数矩阵发送给主站点，主站点恢复项集在原始数据集中的支持数，其恢复方法如下：D(X₁，X₂，…，X_m）＝D’(X₁，X₂，…，X_m）P_L ^-1，其中：D(X₁，X₂，…，X_m）表示m个项集X₁，X₂，…，X_m在原始数据集D中的支持计数组成的行矩阵，D’(X₁，X₂，…，X_m）表示m个项集X₁，X₂，…，X_m在干扰后的数据集D’中的支持计数组成的行矩阵，P_L ^-1为项集随机干扰矩阵的逆矩阵。

(5）计算剪枝后空间中项集的支持数

由步骤（4）可以得到各项集的近似支持度，根据最小支持度进行剪枝，然后各站点根据安全多方计算方法，协作运用安全计算协议，计算出剪枝后空间中项集支持数，从而确定最终的全局频繁项集，并产生全局关联规则。这里的安全计算协议主要用于保护各站点的统计信息。

参考图1和图2所示，假设有S₁，…，S_n共n个数据方合作进行全局关联规则挖掘，最小支持度为MST，最小置信度为MCT，每一数据方为一站点指定S1为主站点，引入一个半诚信第三方站点SP。

具体实施方式为：

BEGIN（开始）

k=1;//1-项集

Repeat

{

1）S₁根据候选k-项集，构造项集随机干扰矩阵P_L发送给其它局部站点。

2）各局部站点根据P_L干扰其所有的记录，然后统计干扰后的数据库中的k-项集的支持数，并将它们构成支持数行矩阵发送给半诚信第三方站点SP。

3）半诚信第三方站点SP将各个局部站点发送过来的所有项集支持数矩阵进行求和，得到求和后的支持数矩阵MS’，并将其发送给S₁。

4）S₁使用P_L ^-1(P_L的逆矩阵）恢复MS’中各项集在原始数据中的支持计数MS，找出大于等于阈值(MST-w）(这里设置参数w，主要是为了使估算后可以得到更多的近似频繁项集，从而使更多的项集将有机会通过安全计算确定其精确的支持度，使挖掘结果更精确）的近似全局频繁项集。恢复公式为：

MS=MS’·P_L ^-1

5）各局部站点根据安全多方计算方法，使用安全求和协议精确求出上一步骤得到的近似全局频繁项集的支持数。

例如，需要计算项集ABC的支持数，S_i方数据集大小为|DB_i|，项集ABC的支持数为V_i，S₁产生一个随机数R并计算R+V₁-|DB₁|*MST将结果送给S₂，S₂计算

并将其传送给S₃，依此类推，S_n最终计算得到

并将其传递给主站点S₁，主站点S₁将得到的结果与随机数R比较，若结果大于等于R则ABC是全局频繁的，否则不是并将其删除。

如图2，假设V₁=8，V₂=6，V₃=20，|DB₁|=100，|DB₂|=200，|DB₃|=300最小支持度MST＝5%，S₁产生一个随机数R＝17并计算R+V₁-|DB₁|*MST＝17+8－100*5%＝20，将20传递给S₂，S₂计算20+V₂-|DB₂|*MST＝20+6-200*5%=16，并将16传递给S₃，S₃计算16+V₃-|DB₃|*MST＝16+20-300*5%=21，并将该指21传递给S₁，S₁将21与随机数R比较，如果21≥R，则说明项集ABC是全局频繁的，否则项集ABC就不是全局频繁的，并将其删除。过程中添加一个随机数有效保护了各站点的项集支持数的统计信息。

6）S₁根据最终的精确计算得出的频繁项集，使用关联规则挖掘算法Apriori生成候选频繁(k+1）项集，

k=k+1;//迭代计算全局k+1项集

}Until全局频繁k-项集的数目等于零。

7）S₁站点根据全局频繁项集的支持数和MCT生成全局关联规则，并广播给各站点。

END

其中，关于步骤2）的详细描述：

将支持数矩阵各元素初始化为0；

Repeat

{

2.1从数据库中读一条事务；

2.2找出该事务中包含的所有候选频繁k-项集；

2.3根据项集随机干扰矩阵P_L，逐个随机干扰这些项集；

2.4根据干扰后的项集，将支持数矩阵中相应项集支持数加1。

}Until读完所有事务

例如：假设k＝3,候选频繁3-项集为{abc,abd,abe,bcd,bce,cde}，一条事务T为{abcd}，读取到事务T之前支持数矩阵为(a₁,a₂,a₃,a₄,a₅,a₆）。

步骤2.2后，发现T中包含3个候选频繁3-项集，即{abc,abd,bcd}；

步骤2.3后，根据P_L，假设abc被随机变换为bcd，abd被随机变换为abe，bcd被随机变换为cde；

步骤2.4后，得到支持数矩阵为(a₁,a₂,a₃+1,a₄+1,a₅,a₆+1）。并将支持数矩阵中相应项集支持数加1。

虽然本发明已以较佳实施例揭露如上，然其并非用以限定本发明。本发明所属技术领域中具有通常知识者，在不脱离本发明的精神和范围内，当可作各种的更动与润饰。因此，本发明的保护范围当视权利要求书所界定者为准。

Claims (3)

1.一种分布式环境下隐私保护的关联规则挖掘方法，该分布式环境下有多个数据方S₁，…，S_n参与全局关联规则挖掘，该多个数据方构成k-项集，其最小支持度为MST，最小置信度为MCT，每一数据方为一站点，其中数据方S₁为主站点，S₂，…，S_n为局部站点，其特征在于，该方法包括以下步骤：

1）主站点S₁根据k-项集，构造项集随机干扰矩阵P_L并发送给各局部站点；

2）各局部站点根据P_L干扰其所有的记录，然后统计干扰后的数据库中的k-项集的支持数，并将它们构成支持数行矩阵发送给半诚信的第三方站点SP；

3）半诚信第三方站点SP对各局部站点发送过来的所有项集支持数矩阵进行求和，得到求和后的支持数矩阵MS’，并将其发送给主站点S₁；

4）主站点S₁使用P_L的逆矩阵P_L ^-1来恢复MS’中各项集在原始数据中的支持计数MS，找出大于等于预定阈值(MST-w）的近似全局频繁项集，其恢复公式为：

MS=MS’·P_L ^-1

5）各站点根据安全多方计算方法，使用安全求和协议求出步骤4）得到的近似全局频繁项集的支持数；

6）主站点S₁根据步骤5计算得出近似全局频繁项集，使用关联规则挖掘算法Apriori迭代计算生成候选频繁(k+1）项集，直到全局频繁k-项集的数目等于零，生成全局频繁项集的支持数；

7）主站点S₁根据全局频繁项集的支持数和MCT生成全局关联规则，并广播给各站点。

2.根据权利要求1所述的分布式环境下隐私保护的关联规则挖掘方法，其特征在于，前述的步骤1）中，其中项集随机干扰矩阵P_L具有以下特性：

$P_L=\left(\begin{array}{c}{a}_{11}\·\·\·a_{1m}\\ \·\·\·\\ a_{m1}\·\·\·a_{\mathrm{mm}}\end{array}\right)$

其中a_ij(1≤i≤m，1≤j≤m）表示项集X_i转换为项集X_j的概率，并且①a_ij≥0；②对任意i都有

③干扰矩阵P_L的逆矩阵P_L ^-1存在。

3.根据权利要求1所述的分布式环境下隐私保护的关联规则挖掘方法，其特征在于，在前述的步骤2）中，各局部站点利用P_L对进行扰乱变换并统计干扰后的数据库中的k-项集的支持数的方法如下：

2.1将支持数矩阵各元素初始化为0

2.2从数据库中读一条事务；

2.3找出该事务中包含的所有候选频繁k-项集；

2.4根据项集随机干扰矩阵P_L，逐个随机干扰这些项集；

2.5根据干扰后的项集，将支持数矩阵中相应项集支持数加1；

2.6重复上述步骤2.2-2.5，直到读完所有事务。

Images