CN109359588B - 一种新的隐私保护下非交互式的k近邻分类方法 - Google Patents

Abstract

本发明公开了一种新的隐私保护下非交互式的K近邻分类方法，涉及大数据安全技术领域，步骤如下：1.客户端通过向量同态加密方法对由若干个带有标签的训练数据组成的训练数据集中的训练数据进行特征加密，得到密文数据集和中间矩阵，并上传至云端；2.客户端接收待分类明文向量组并对其进行加密，得到密文向量组，并上传至云端；3.云端根据密文数据集和中间矩阵计算密文向量组中每一个密文向量与密文数据集包含的所有密文数据的相似度，再根据近邻分类算法得出该密文向量组的分类结果集，将分类结果集发送至客户端。本发明极大地提高了加密的效率和安全性，实现非交互式技术，达到真正的外包计算，减小了客户端的计算压力。

Description

一种新的隐私保护下非交互式的K近邻分类方法

技术领域

本发明涉及大数据安全技术领域，具体涉及一种新的隐私保护下非交互式的K近邻分类方法。

背景技术

K近邻分类算法，是研究分类问题的一种统计分析方法，也是数据挖掘的一个重要算法，同时也是最简单的机器学习算法之一。K近邻分类算法的输入为实例的特征向量，即对应高维特征空间中的一个点。K近邻分类算法以向量相似性为基础，即是向量之间的距离度量，一般采用欧式距离。输出为实例的类别，可以取多类，K近邻分类法假设给定一个包含有若干个训练数据的训练数据集，其中的训练数据的类别为已知，即训练数据集中的训练数据是带标签的，是一种监督学习方法。分类时，对新的输入实例，在训练数据集中找到与该输入实例最近邻的K个训练数据的类别，通过多数表决的形式进行预测分类，即这K个训练数据中的大多数属于某一个类别，该输入实例也就属于这个类别。因此，在某种程度上，K近邻分类算法不具有显示的学习过程，实际上是利用训练数据集对输入实例的特征向量空间进行划分，作为其分类的模型。

目前的大数据时代，复杂的计算往往外包给第三方云。然而在这个过程中，外包的数据可能包含用户的一些敏感的数据，通过现有的K近邻分类算法将数据外包给第三方云时，可能导致用户的隐私信息被泄露，给用户造成巨大损失。同时，传统的技术手段为交互式分类处理，即第三方云将客户端上传的数据进行计算后，将计算结果发送给客户端，需要用户在客户端进行解密操作后，才能完成最终的分类判断，此手段既不能完全实现外包计算，又增加了客户端的计算压力。因此，提供一种在将数据迁移至第三方云上后产生的数据隐私不会被泄露、非交互式的分类方法，真正实现完全外包的隐私保护K近邻分类方法是很有必要的。

发明内容

本发明的目的在于：为解决K近邻分类方法存在将数据迁移至第三方云后，容易产生数据隐私泄露，以及需要和客户端进行交互，将计算结果发回客户端解密，不能完全通过外包计算导致的客户端计算负担重的问题，提供了一种新的隐私保护下非交互式的K近邻分类方法，该方法具有高效、安全性高、泄密可能性小、非交互式、真正外包计算的特点。

本发明采用的技术方案如下：

一种新的隐私保护下非交互式的K近邻分类方法，包括以下步骤：

步骤1.客户端通过向量同态加密方法对由若干个带有标签的训练数据组成的训练数据集R中的训练数据进行特征加密，得到密文数据集D和中间矩阵H，并将密文数据集D和中间矩阵H上传至云端；

步骤2.客户端接收待分类明文向量组x(x₁，x₂，...，x_n)，并对待分类明文向量组x进行加密，得到密文向量组c(c₁，c₂，...，c_n)，将密文向量组c上传至云端；

步骤3.云端根据密文数据集D和中间矩阵H并利用密文下向量相似性度量方法，计算密文向量组c中每一个密文向量c_i与密文数据集D包含的所有密文数据的相似度，再根据K近邻分类算法得出该密文向量组c的分类结果集G，将分类结果集G发送至客户端。

进一步地，步骤1中，通过向量同态加密方法得到密文数据集D和中间矩阵H的具体步骤如下：

步骤1.1.对训练数据集R＝{(D₁，t₁)，(D₂，t₂)，...，(D_r，t_r)}中的训练数据进行特征加密，得到单位矩阵I、密钥转换矩阵M、密文数据集D＝{D₁′，D₂′，...，D_r′}、标签向量t＝{t₁，t₂，...，t_r}；

步骤1.2.令I＝BM，求解中间变量B，并定义中间矩阵H＝B^TB；

步骤1.3.客户端将密文数据集D和中间矩阵H上传至云端。

进一步地，步骤1.1中，得到单位矩阵I的具体方法为：生成随机矩阵T及一对可逆矩阵对P_s和P_m，且满足P_s·P_m＝I，同时生成大整数w，且大整数w远大于随机矩阵T中的任一元素。其中，T∈Z^m×K，P_s，P_m∈Z^(m+k)×(m+k)，I表示单位矩阵，m表示待分类明文向量组x的维度，随机矩阵T为m行k列的矩阵。随机矩阵T通过随机生成函数生成，k的取值越大，加密的安全性越高。

进一步地，步骤1.1中，得到密钥转换矩阵M的具体方法为：根据随机矩阵T、单位矩阵I和可逆矩阵对P_s、P_m计算密钥矩阵S和密钥转换矩阵M。其中，密钥矩阵S＝[I，T]·P_s，密钥转换矩阵

A表示随机矩阵。

进一步地，得到随机矩阵A的具体方法为：获取随机矩阵T的列数a以及单位矩阵I的列数b，将列数a作为随机矩阵A的行数，将列数b作为随机矩阵A的列数，调用随机生成函数，生成随机矩阵A中的元素。

进一步地，步骤2中，得到密文向量组c(c₁，c₂，...，c_n)的具体方法为：根据密钥转换矩阵M计算密文向量组c(c₁，c₂，...，c_n)；其中，密文向量c_i(1≤i≤n)的计算方式为c_i＝M(wx_i)+e，e表示通过随机生成函数产生的维度与密钥转换矩阵M的行数相等的随机噪音向量，x_i表示待分类明文向量组x中下标为i的元素。

进一步地，步骤3中，利用密文下向量相似性度量方法和K近邻分类算法得到密文向量组c的分类结果集G，具体步骤如下：

步骤3.1.令p＝1，进入步骤3.2；

步骤3.2.利用密文下向量相似性度量方法计算密文向量c_p与密文数据集D＝{D₁′，D₂′，...，D_r′}中每个密文数据D_i′(1≤i≤r)的相似度，并将每次计算结果保存在邻接矩阵Dist^r×1中，进入步骤3.3；

步骤3.3.查找邻接矩阵Dist^r×1中相似度最高的u个向量，并在标签向量t中查找与其对应的u个标签值，进入步骤3.4；

步骤3.4.统计u个标签值中不同标签值的数量，将数量最大的标签值作为密文向量c_p的标签值，并将其保存到分类结果集G中，进入步骤3.5；

步骤3.5.p＝p+1，判断p是否小于n，若小于，则循环执行步骤3.2至步骤3.5；若p等于n，则停止计算。

进一步地，步骤3.2中，计算密文向量c_p和密文数据D_i′之间的相似度的具体方法为：计算c_p-D_i′，邻接矩阵Dist^r×1中的元素Dist_i1＝(c_p-D_i′)^TH(c_p-D_i′)。

进一步地，步骤3.3中，相似度最高的u个向量为明文下，欧氏距离最近的u个向量。

综上所述，由于采用了上述技术方案，本发明的有益效果是：

1、本发明中，客户端在对云端保密的情况下，通过改进的向量同态加密方法对数据进行加密，比传统的向量同态加密方法更安全、更高效，提高了数据加密的效率、隐私可靠性及安全性，大幅减小了加密过程需要的通信代价和计算资源。向量同态加密方法在对加密数据进行运算时，可保证运算函数的私密性。

2、本发明中，将数据外包给云端进行计算，云端利用密文下向量相似性度量方法和K近邻分类算法对数据进行高效准确的分类，实现了非交互式的、真正的外包计算，克服了在云端完成计算后，需要客户端进行解密、判断数据分类等诸多问题，减小了客户端的计算压力。

3、本发明中，采用非交互式方式进行数据类别分类，即将待分类明文向量组发送至云端后，云端通过K近邻分类算法对待分类明文向量组进行分类，云端直接将分类结果发送至客户端，客户端无需再和云端进行交互，提高了对待分类明文向量组类型判断的效率，扩大了对待分类明文向量组类型判断的应用范围。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1为本发明的流程示意图；

图2为本发明的K近邻分类算法的流程示意图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明，即所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

需要说明的是，术语“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

以下结合实施例对本发明的特征和性能作进一步的详细描述。

实施例1

本发明较佳实施例提供的一种新的隐私保护下非交互式的K近邻分类方法，如图1所示，包括以下步骤：

步骤1.客户端通过向量同态加密方法对由若干个带有标签的训练数据组成的训练数据集R中的训练数据进行特征加密，得到密文数据集D和中间矩阵H，并将密文数据集D和中间矩阵H上传至云端。该向量同态加密方法支持向量加法、线性变换和加权内积的同态运算。通过向量同态加密方法得到密文数据集D和中间矩阵H的具体步骤如下：

步骤1.1.对训练数据集R＝{(D₁，t₁)，(D₂，t₂)，...，(D_r，t_r)}中的训练数据进行特征加密，得到单位矩阵I、密钥转换矩阵M、密文数据集D＝{D₁′，D₂′，...，D_r′}、标签向量t＝{t₁，t₂，...，t_r}。得到单位矩阵I的具体方法为：生成随机矩阵T及一对可逆矩阵对P_s和P_m，且满足P_s·P_m＝I，同时生成大整数w，且大整数w远大于随机矩阵T中的任一元素。其中，T∈Z^{m ×k}，P_s，P_m∈Z^(m+k)×(m+k)，I表示单位矩阵，m表示待分类明文向量组x的维度，随机矩阵T为m行k列的矩阵。随机矩阵T通过随机生成函数生成，k的取值越大，加密的安全性越高。得到密钥转换矩阵M的具体方法为：根据随机矩阵T、单位矩阵I和可逆矩阵对P_s、P_m计算密钥矩阵S和密钥转换矩阵M。其中，密钥矩阵S＝[I，T]·P_s，密钥转换矩阵

A表示随机矩阵。得到随机矩阵A的具体方法为：获取随机矩阵T的列数a以及单位矩阵I的列数b，将列数a作为随机矩阵A的行数，将列数b作为随机矩阵A的列数，调用随机生成函数，生成随机矩阵A中的元素。

步骤1.2.令I＝BM，求解中间变量B，并定义中间矩阵H＝B^TB。

步骤1.3.客户端将密文数据集D和中间矩阵H上传至云端。

步骤2.客户端接收待分类明文向量组x(x₁，x₂，...，x_n)，通过密钥转换矩阵M对待分类明文向量组x进行加密，得到密文向量组c(c₁，c₂，...，c_n)，并将密文向量组c上传至云端。得到密文向量组c(c₁，c₂，...，c_n)的具体方法为：根据密钥转换矩阵M计算密文向量组c(c₁，c₂，...，c_n)；其中，密文向量c_i(1≤i≤n)的计算方式为c_i＝M(wx_i)+e，e表示通过随机生成函数产生的维度与密钥转换矩阵M的行数相等的随机噪音向量，x_i表示待分类明文向量组x中下标为i的元素。

步骤3.如图2所示，云端根据密文数据集D和中间矩阵H并利用密文下向量相似性度量方法，计算密文向量组c中每一个密文向量c_i(1≤i≤n)与密文数据集D包含的所有密文数据的相似度，再根据K近邻分类算法得出该密文向量组c的分类结果集G，将分类结果集G发送至客户端。利用密文下向量相似性度量方法和K近邻分类算法得到密文向量组c的分类结果集G的具体步骤如下：

步骤3.1.令p＝1，进入步骤3.2。

步骤3.2.利用密文下向量相似性度量方法计算密文向量c_p与密文数据集D＝{D₁′，D₂′，...，D_r′}中每个密文数据D_i′(1≤i≤r)的相似度，并将每次计算结果保存在邻接矩阵Dist^r×1中，进入步骤3.3。计算密文向量c_p和密文数据D_i′之间的相似度的具体方法为：计算c_p-D_i′，邻接矩阵Dist^r×1中的元素Dist_i1＝(c_p-D_i′)TH(c_p-D_i′)。

步骤3.3.查找邻接矩阵Dist^r×1中相似度最高的u个向量，并在标签向量t中查找与其对应的u个标签值，进入步骤3.4。其中，相似度最高的u个向量为明文下，欧氏距离最近的u个向量。

步骤3.4.统计u个标签值中不同标签值的数量，将数量最大的标签值作为密文向量c_p的标签值，并将其保存到分类结果集G中，进入步骤3.5。

步骤3.5.p＝p+1，判断p是否小于n，若小于，则循环执行步骤3.2至步骤3.5；若p等于n，则停止计算。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (9)

1.一种新的隐私保护下非交互式的K近邻分类方法，其特征在于，包括以下步骤：

步骤1.客户端通过向量同态加密方法对由若干个带有标签的训练数据组成的训练数据集R中的训练数据进行特征加密，得到密文数据集D和中间矩阵H，并将密文数据集D和中间矩阵H上传至云端；

步骤2.客户端接收待分类明文向量组x(x₁，x₂，...，x_n)，并对待分类明文向量组x进行加密，得到密文向量组c(c₁，c₂，...，c_n)，将密文向量组c上传至云端；

步骤3.云端根据密文数据集D和中间矩阵H并利用密文下向量相似性度量方法，计算密文向量组c中每一个密文向量c_i与密文数据集D包含的所有密文数据的相似度，再根据K近邻分类算法得出该密文向量组c的分类结果集G，将分类结果集G发送至客户端。

2.根据权利要求1所述的一种新的隐私保护下非交互式的K近邻分类方法，其特征在于，步骤1中，通过向量同态加密方法得到密文数据集D和中间矩阵H的具体步骤如下：

步骤1.1.对训练数据集R＝{(D₁，t₁)，(D₂，t₂)，...，(D_r，t_r)}中的训练数据进行特征加密，得到单位矩阵I、密钥转换矩阵M、密文数据集D＝{D₁′，D₂′，...，D_r′}、标签向量t＝{t₁，t₂，...，t_r}；

步骤1.2.令I＝BM，求解中间变量B，并定义中间矩阵H＝B^TB；

步骤1.3.客户端将密文数据集D和中间矩阵H上传至云端。

3.根据权利要求2所述的一种新的隐私保护下非交互式的K近邻分类方法，其特征在于，步骤1.1中，得到单位矩阵I的具体方法为：生成随机矩阵T及一对可逆矩阵对P_s和P_m，且满足P_s·P_m＝I，同时生成大整数w，且大整数w远大于随机矩阵T中的任一元素；其中，T∈Z^{m ×k}，P_s，P_m∈Z^(m+k)×(m+k)，I表示单位矩阵，m表示待分类明文向量组x的维度，随机矩阵T为m行k列的矩阵。

4.根据权利要求3所述的一种新的隐私保护下非交互式的K近邻分类方法，其特征在于，步骤1.1中，得到密钥转换矩阵M的具体方法为：根据随机矩阵T、单位矩阵I和可逆矩阵对P_s、P_m计算密钥矩阵S和密钥转换矩阵M；其中，密钥矩阵S＝[I，T]·P_s，密钥转换矩阵

A表示随机矩阵。

5.根据权利要求4所述的一种新的隐私保护下非交互式的K近邻分类方法，其特征在于，得到随机矩阵A的具体方法为：获取随机矩阵T的列数a以及单位矩阵I的列数b，将列数a作为随机矩阵A的行数，将列数b作为随机矩阵A的列数，调用随机生成函数，生成随机矩阵A中的元素。

6.根据权利要求4所述的一种新的隐私保护下非交互式的K近邻分类方法，其特征在于，步骤2中，得到密文向量组c(c₁，c₂，...，c_n)的具体方法为：根据密钥转换矩阵M计算密文向量组c(c₁，c₂，...，c_n)；其中，密文向量c_i(1≤i≤n)的计算方式为c_i＝M(wx_i)+e，e表示通过随机生成函数产生的维度与密钥转换矩阵M的行数相等的随机噪音向量，x_i表示待分类明文向量组x中下标为i的元素。

7.根据权利要求1所述的一种新的隐私保护下非交互式的K近邻分类方法，其特征在于，

步骤3中，利用密文下向量相似性度量方法和K近邻分类算法得到密文向量组c的分类结果集G，具体步骤如下：

步骤3.1.令p＝1，进入步骤3.2；

步骤3.2.利用密文下向量相似性度量方法计算密文向量c_p与密文数据集D＝{D₁′，D₂′，...，D_r′}中每个密文数据D_i′(1≤i≤r)的相似度，并将每次计算结果保存在邻接矩阵Dist^r×1中，进入步骤3.3；

步骤3.3.查找邻接矩阵Dist^r×1中相似度最高的u个向量，并在标签向量t中查找与其对应的u个标签值，进入步骤3.4；

步骤3.4.统计u个标签值中不同标签值的数量，将数量最大的标签值作为密文向量c_p的标签值，并将其保存到分类结果集G中，进入步骤3.5；

步骤3.5.p＝p+1，判断p是否小于n，若小于，则循环执行步骤3.2至步骤3.5；若p等于n，则停止计算。

8.根据权利要求7所述的一种新的隐私保护下非交互式的K近邻分类方法，其特征在于，步骤3.2中，计算密文向量c_p和密文数据D_i′之间的相似度的具体方法为：计算c_p-D_i′，邻接矩阵Dist^r×1中的元素Dist_i1＝(c_p-D_i′)¹H(c_p-D_i′)。

9.根据权利要求7所述的一种新的隐私保护下非交互式的K近邻分类方法，其特征在于，步骤3.3中，相似度最高的u个向量为明文下，欧氏距离最近的u个向量。

Images