CN112487415A - 计算任务的安全性检测方法及装置 - Google Patents

Abstract

本发明提供了一种计算任务的安全性检测方法及装置，通过获取目标计算任务；对目标计算任务进行预处理，得到原子计算任务；利用原子计算任务及预设的判断规则，检测目标计算任务的数据泄漏几率，本发明中，可以通过将目标计算任务预处理为至少一个原子计算任务，从而降低目标计算任务的复杂程度，使得确定单一的原子计算任务的数据泄露几率的难度大大降低，进而由所有原子计算任务的数据泄露几率得到目标计算任务的数据泄露几率，让目标计算任务的安全性得到了量化，使得可以通过目标计算任务的数据泄露几率，实现对目标计算任务的风险管控，满足计算任务的安全性需求，降低数据泄露的几率。

Description

计算任务的安全性检测方法及装置

技术领域

本发明属于计算机技术领域，特别是涉及一种计算任务的安全性检测方法及装置。

背景技术

随着大数据时代的到来，如何保护数据安全和防止数据泄露成为当前面临的重大挑战，隐私计算系统专注于解决数据安全和数据泄露问题。

在目前，隐私计算系统除了需要关注计算协议本身的安全性，也需要关注输入到系统中的计算任务的安全性问题，具体的，隐私计算系统可以在计算过程中进行相应的安全设计，如，使用随机数遮盖原数据或对原数据进行加密，从而来提高数据安全性。

发明人在实现本发明过程中，发现当前方案至少存在以下问题：目前的安全设计较为简单，在无法检测计算任务本身安全性的情况下，会导致参与计算的原数据出现数据泄露。

发明内容

本发明提供一种计算任务的安全性检测方法及装置，以便解决现有技术中产生数据泄露的安全隐患的问题。

为了解决上述技术问题，本发明是这样实现的：

第一方面，本发明实施例提供了一种计算任务的安全性检测方法，所述方法应用于不泄漏参与计算的数据原文的隐私计算系统，所述方法包括：

获取目标计算任务；

对所述目标计算任务进行预处理，得到原子计算任务；

利用所述原子计算任务及预设的判断规则，检测所述目标计算任务的数据泄漏几率。

第二方面，本发明实施例提供了一种计算任务的安全性检测装置，所述装置应用于不泄漏参与计算的数据原文的隐私计算系统，所述装置包括：

获取模块，用于获取目标计算任务；

预处理模块，用于对所述目标计算任务进行预处理，得到原子计算任务；

检测模块，用于利用所述原子计算任务及预设的判断规则，检测所述目标计算任务的数据泄漏几率。

本发明实施例的第三方面，提供了一种计算机可读存储介质，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现上述所述的计算任务的安全性检测方法的步骤。

本发明实施例的第四方面，提供了一种电子设备，包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现上述所述的计算任务的安全性检测方法的步骤。

在本发明实施例中，本发明通过获取目标计算任务；对目标计算任务进行预处理，得到原子计算任务；利用原子计算任务及预设的判断规则，检测目标计算任务的数据泄漏几率，本发明中，可以通过将目标计算任务预处理为至少一个原子计算任务，从而降低目标计算任务的复杂程度，使得确定单一的原子计算任务的数据泄露几率的难度大大降低，进而由所有原子计算任务的数据泄露几率得到目标计算任务的数据泄露几率，让目标计算任务的安全性得到了量化，使得可以通过目标计算任务的数据泄露几率，实现对目标计算任务的风险管控，满足计算任务的安全性需求，降低数据泄露的几率。

附图说明

图1是本发明实施例提供的一种隐私计算系统的架构图；

图2是本发明实施例提供的一种计算任务的安全性检测方法的步骤流程图；

图3是本发明实施例提供的一种计算任务的安全性检测方法的具体步骤流程图；

图4是本发明实施例提供的一种审核界面图；

图5是本发明实施例提供的一种计算任务的安全性检测装置的框图；

图6是本申请的一种用于计算任务的安全性检测的装置的框图；

图7是本申请的一些实施例中服务器的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

在本发明实施例中，参照图1，其示出了本发明实施例提供的一种隐私计算系统的架构图，隐私计算系统用于获取任务发起方发送的计算任务以及数据方发送的计算数据，通过计算模块对计算数据和计算任务进行处理，得到计算结果。

其中，数据方可以通过数据服务模块，通过加密处理对计算数据进行加密后发送至隐私计算系统，加密处理可以包括使用秘密共享(secret sharing)加密方式、同态加密方式等。

任务发起方可以通过数据服务模块，通过加密处理对计算任务进行加密后发送至隐私计算系统，加密处理的方式可参照数据方的加密方式。另外，任务发起方也可以将明文的计算任务(非保密场景)直接发送给隐私计算系统。

在本发明实施例中，在进行计算任务的处理之前，隐私计算系统可以基于预设的判断规则、历史计算记录、模型等方式，通过安全性检测模块确定每个计算任务的数据泄露几率，该数据泄露几率是指通过计算任务的已知信息和计算结果，推导出参与计算的计算数据原文的几率。当计算任务的数据泄露几率大于预设阈值的情况下，可以认为该计算任务存在较大的数据泄露隐患，为了数据安全性考虑，隐私计算系统可以禁止该计算任务的执行，或者通过审核模块对该计算任务进行重新审核，在审核通过的情况下传入计算模块进行处理。另外，针对于已经进行了执行的计算任务，隐私计算系统可以在认为该计算任务存在较大的数据泄露隐患时，禁止发送目标计算任务的结果给结果获取方，或在通过审核验证后执行发送目标计算任务的结果给结果获取方。

图2是本发明实施例提供的一种计算任务的安全性检测方法的步骤流程图，应用于不泄漏参与计算的数据原文的隐私计算系统，如图2所示，该方法可以包括：

步骤101、获取目标计算任务。

本发明实施例可以应用于一种多方安全计算(SMC，Secure Multi-PartyComputation)场景，多方安全计算实现的是使多个非互信数据库之间可以在数据相互保密的前提下进行数据计算或融合，目的在于数据参与方在无可信第三方的场景中共同约定计算函数，互相不暴露原始数据。具体的，假设多个数据方各自持有私有数据，各数据方希望以这些数据为输入共同完成对某计算任务的计算，并要求每个参与方除计算结果外均不能得到其他参与方的任何私有信息。

参照图1，目标计算任务可以为由任务发起方发送至隐私计算系统的计算任务，目标计算任务在填充了数据方发送的密文的计算数据后，可以作为一个可执行的计算任务进行计算处理，具体的，由于数据方发送的密文的计算数据隐私性和安全性的要求较高，则隐私计算系统需要在对目标计算任务的执行过程中，尽可能的降低目标计算任务的计算数据的真实值被反推得到的几率，也就是要降低目标计算任务的数据泄漏几率。

步骤102、对所述目标计算任务进行预处理，得到原子计算任务。

由于一个目标计算任务通常较为复杂，并可能包含有多个计算步骤，每个计算步骤都有计算数据参与，并存在一定的数据泄露几率，因此，直接对目标计算任务的整体进行分析以确定其数据泄漏几率，较难有行之有效的方法，使得确定过程较为困难。

在本发明实施例中，为了实现对目标计算任务的数据泄漏几率的确定，可以采用一种化繁为简，由目标计算任务的局部的数据泄露几率来确定其整体的数据泄露几率的方法，具体的，本发明实施例可以通过对目标计算任务进行预处理，将其拆分为至少一个原子计算任务，并通过确定所有原子计算任务的数据泄露几率，来进一步得到目标计算任务的数据泄露几率。

具体的，原子计算任务可以为整个计算任务被拆分的最小的计算单元，原子计算任务的计算类型可以包括但不限于：计算数据与常数比较、计算数据与常数加和、计算数据与常数相乘、多个计算数据相加、多个计算数据相乘等，将目标计算任务预处理为至少一个原子计算任务之后，可以降低原目标计算任务的复杂程度，使得确定单一的原子计算任务的数据泄露几率的难度大大降低，进而由所有原子计算任务的数据泄露几率，可以得到目标计算任务的数据泄露几率。

例如，假设一个目标计算任务为:

F(x)＝compare(x，4)×6+compare(x,40000)+100。

将其进行预处理，可以得到四个原子计算任务：原子计算任务1为与常数4比较大小；原子计算任务2为与常数6相乘；原子计算任务3为与常数40000比较大小；原子计算任务4为与常数100相加。

步骤103、利用所述原子计算任务及预设的判断规则，检测所述目标计算任务的数据泄漏几率。

在本发明实施例中，不同计算类型的原子计算任务具有不同的数据泄露几率。这是因为不同计算类型的原子计算任务的计算复杂度不同，越简单的原子计算任务具有越高的据泄露几率，根据这种分析方法，可以事先建立每种计算类型的原子计算任务与数据泄露几率之间的对应关系，本发明实施例可以获取这种对应关系，并通过将目标计算任务预处理后得到的原子计算任务与对应关系进行匹配，确定每个原子计算任务对应的数据泄露几率。

进一步的，根据预处理得到的原子计算任务的数据泄露几率的乘积和预设的判断规则，可以得到目标计算任务的数据泄漏几率。

其中，仅将预处理得到的原子计算任务的数据泄露几率的乘积作为目标计算任务的数据泄漏几率，会使得整个安全性分析过程脱离了实际应用场景，从而降低最终数据的准确性，因此，本发明实施例可以基于计算任务应用场景建立预设判断规则，该预设判断规则会影响到目标计算任务的数据泄漏几率。如，历史计算任务的数据泄露几率、目标计算任务的计算数据的隐私程度权重等，比如，历史计算任务的数据泄露几率越大，则目标计算任务的数据泄漏几率越大，目标计算任务的计算数据的隐私程度权重，则目标计算任务的数据泄漏几率越大。

例如，假设一个目标计算任务compare(x+y+z，2000)，预处理得到两个原子计算子任务：原子计算任务1为compare(x，2000)，即x与常数2000比较大小；原子计算任务2为x+y+z。原子计算任务1的计算结果为小于；原子计算任务2的计算结果为300，且x为目标计算任务的应用场景中为正数。则通过查询不同计算类型的原子计算任务与数据泄露几率之间的对应关系，可以得知计算类型为多个数相加的原子计算任务2对应的数据泄露几率为1/(2^p)，其中，p为原子计算任务2所涉及的计算数据的存储空间大小。进一步的，通过查询该对应关系，可以得知计算类型为与常数比较的原子计算任务1对应的数据泄露几率为1/(常数-x的下限值)＝1/2000。则目标计算任务的数据泄漏几率可以为1/2000与1/(2^p)的乘积。

在确定了目标计算任务的数据泄露几率后，可以对目标计算任务的安全性进行检验，在目标计算任务的数据泄露几率大于预设的阈值的情况下，可以认为该计算任务存在较大的数据泄露隐患，为了数据安全性考虑，隐私计算系统可以禁止该计算任务的执行，或者通过审核模块对该计算任务进行重新审核，在审核通过的情况下传入计算模块进行处理。从而保证计算任务的数据安全性。另外，针对于已经进行了执行的计算任务，隐私计算系统可以在认为该计算任务存在较大的数据泄露隐患时，禁止发送目标计算任务的结果给结果获取方，或在通过审核验证后执行发送目标计算任务的结果给结果获取方。

综上，本发明实施例提供的一种计算任务的安全性检测方法，通过获取目标计算任务；对目标计算任务进行预处理，得到原子计算任务；利用原子计算任务及预设的判断规则，检测目标计算任务的数据泄漏几率，本发明中，可以通过将目标计算任务预处理为至少一个原子计算任务，从而降低目标计算任务的复杂程度，使得确定单一的原子计算任务的数据泄露几率的难度大大降低，进而由所有原子计算任务的数据泄露几率得到目标计算任务的数据泄露几率，让目标计算任务的安全性得到了量化，使得可以通过目标计算任务的数据泄露几率，实现对目标计算任务的风险管控，满足计算任务的安全性需求，降低数据泄露的几率。

图3是本发明实施例提供的一种计算任务的安全性检测方法的具体步骤流程图，如图3所示，该方法可以包括：

步骤201、获取目标计算任务。

该步骤具体可以参照上述子步骤101，此处不再赘述。

步骤202、对所述目标计算任务进行预处理，得到原子计算任务。

该步骤具体可以参照上述子步骤102，此处不再赘述。

可选的，所述原子计算任务包括但不限于如下任一项或多项：计算数据与常数比较、计算数据与常数相加、计算数据与常数相乘、多个计算数据相加、多个计算数据相乘。

具体的，通过对计算任务的计算步骤进行统计分析，可以将作为最小计算单元的原子计算任务分为计算数据与常数比较、计算数据与常数相加、计算数据与常数相乘、多个计算数据相加、多个计算数据相乘等计算类型，这些原子计算任务可以作为一个独立的个体去计算数据泄漏几率，进而由所有原子计算任务的数据泄露几率，可以得到目标计算任务的数据泄露几率，将目标计算任务拆分为原子计算任务，达到了降低目标计算任务的复杂度的目的。

可选的，在一种实现方式中，步骤202可以包括：

子步骤2021、按照所述目标计算任务的计算层次，将所述目标计算任务进行拆分，得到依次排序的多个原子计算任务。

在本发明实施例中，目标计算任务具有相应的计算层次，计算层次是指按照计算任务中计算步骤的优先级划分的层次，不同优先级的计算步骤可以处于不同的计算层次中，本发明实施例能够对目标计算任务按照该计算层次进行划分，从而得到每个计算层次对应的原子计算任务集合，在执行计算任务以及从计算任务的计算结果反推计算数据时，计算层次对应的原子计算任务集合可以当做一个计算任务的临时中间值。

例如，假设一个目标计算任务为:

F(x)＝compare(x，4)×6+compare(x,40000)+100。

将目标计算任务包括的计算步骤按照优先级进行划分，可以得到两个计算层次，以及两个计算层次各自包括的原子计算任务集合：

第一层：compare(x，4)和compare(x,40000)；

第二层：compare(x，4)×6和compare(x,40000)+100；

因此继续对计算层次包括的原子计算任务集合进行拆分，可以得到4个原子计算任务：原子计算任务1为与常数4比较大小；原子计算任务2为与常数6相乘；原子计算任务3为与常数40000比较大小；原子计算任务4为与常数100相加。

可选的，在另一种实现方式中，步骤202可以包括：

子步骤2022、对所述目标计算任务中与多个常数连续执行的计算进行等效合并，得到合并后的目标计算任务，并按照所述目标计算任务的计算层次，将所述目标计算任务进行拆分，得到所述原子计算任务。

在本发明实施例中，一些情况下，目标计算任务不但具有相应的计算层次，目标计算任务中还包含有与多个常数连续执行的计算步骤，这些计算步骤是可以进行等效合并的，从而能够在简化目标计算任务复杂度的情况下，进一步提升对目标计算任务的预处理效率。

例如，假设一个目标计算任务为:

目标计算任务F(x)＝compare(x，4)×3×2+compare(x,40000)+99+1

其中，(×3×2)的计算步骤可以等效合并为×6，(+99+1)的计算步骤可以等效合并为+100。

则经过等效合并后的目标计算任务为：

F(x)＝compare(x，4)×6+compare(x,40000)+100。

按照等效合并后的目标计算任务的计算层次对目标计算任务进行拆分，可以得到依次排序的4个原子计算任务：原子计算任务1为与常数4比较大小；原子计算任务2为与常数6相乘；原子计算任务3为与常数40000比较大小；原子计算任务4为与常数100相加。

步骤203、将所述原子计算任务按照执行顺序从后往前的顺序与预设的原子计算特征库中的计算类型比较，得到每个原子计算任务的数据泄漏几率；所述原子计算特征库中保存有各原子计算任务相应的计算类型所对应的数据泄漏几率。

具体的，不同计算类型的原子计算任务具有不同的数据泄露几率。这是因为不同计算类型的原子计算任务的计算复杂度不同，越简单的原子计算任务具有越高的据泄露几率，根据这种分析方法，本申请实施例可以建立反映这种特性的原子计算特征库，原子计算特征库包括每种计算类型的原子计算任务与数据泄露几率之间的对应关系。

如，表1示出了原子计算特征库中的部分内容：

表1

其中，p为计算数据占用的存储空间大小，1表示100％的数据泄露几率，1/2表示50％的数据泄露几率。

由此可以看出，原子计算特征库对每种计算类型的原子计算任务对应的数据泄露几率。

例如：x为正数，对目标计算任务：

F(x)＝compare(x，4)×3×2+compare(x,40000)+99+1＝106预处理，可以得到四个原子计算任务：与常数比较的计算类型的原子计算任务1：与常数4比较大小；与常数相乘的计算类型的原子计算任务2：与常数6相乘；与常数比较的计算类型的原子计算任务3：与常数40000比较大小；与常数相加的计算类型的原子计算任务4：与常数100相加。其中，与常数比较大小的原子计算任务，若x大于常数，则成立，该原子计算任务的结果为1，若x小于常数，则不成立，该原子计算任务的结果为0。由F(x)的计算结果为106进行反推，可以得知原子计算任务1：compare(x，4)的结果为1，原子计算任务2：compare(x，40000)的结果为0，即x大于4，x小于40000。则常数为40000，x的下限值为4。

由于在进行计算数据的真实值反推时，需要按照计算顺序从后往前的顺序进行，因此，后执行的原子计算任务为原子计算任务4和原子计算任务2，先执行的原子计算任务为原子计算任务1和原子计算任务3，可以按照原子计算任务从后往前的执行顺序，通过查询表1，查询得到原子计算任务4和原子计算任务2的数据泄露几率为100％；之后查询到原子计算任务3和原子计算任务1的数据泄露几率为1/(40000-4)，其中，40000为常数，x的下限为4。

可选的，在所述目标计算任务为密文的情况下，可以通过密文比对确定所述原子计算任务对应的计算类型。在本发明实施例中，当目标计算任务为密文的情况下，其预处理后的原子计算任务同样为密文，则本发明实施例可以通过原子计算任务的密文比较操作，确定每个原子计算任务对应的计算类型。

可选的，原子计算特征库中还包括各计算类型针对不同数据类型所对应的数据泄漏几率。

在计算任务处理的场景中，计算任务的计算数据存在多种不同的数据类型，如，boolean数据类型、integer数据类型、fixpoint数据类型、float point数据类型等，参照表1，本发明实施例还可以针对数据类型的不同，在原子计算特征库中添加各计算类型针对不同数据类型所对应的数据泄漏几率，从而提高原子计算特征库的适用性。

步骤204、依据所述原子计算任务的数据泄漏几率，确定所述目标计算任务的数据泄漏几率。

在本发明实施例中，根据预处理得到的原子计算任务的数据泄露几率的乘积，可以得到目标计算任务的数据泄漏几率。其中，一种实现方式中，可以将预处理得到的原子计算任务的数据泄露几率的乘积作为目标计算任务的数据泄漏几率，另一种实现方式中，由于仅将预处理得到的原子计算任务的数据泄露几率的乘积作为目标计算任务的数据泄漏几率，会使得整个安全性分析过程脱离了实际应用场景，从而降低最终数据的准确性，因此，本发明实施例可以基于计算任务应用场景建立预设判断规则，该预设判断规则会影响到目标计算任务的数据泄漏几率。如，历史计算任务的数据泄露几率、目标计算任务的计算数据的隐私程度权重等。

可选的，在一种实现方式中，步骤204可以包括：

子步骤2041、将所述原子计算任务的数据泄漏几率的乘积确定为所述目标计算任务的数据泄漏几率。

在该步骤中，可以直接将按照执行顺序从后往前的顺序确定的原子计算任务的数据泄漏几率的乘积，作为目标计算任务的数据泄漏几率，从而实现由目标计算任务的局部计算部分的数据泄漏几率，得到目标计算任务的整体的数据泄露几率的目的。参照上述步骤203的示例，可以推出目标计算任务：F(x)＝compare(x，4)×3×2+compare(x,40000)+99+1的数据泄露几率为：1/(40000-4)。

可选的，在另一种实现方式中，步骤204可以包括：

子步骤2042、确定所述原子计算任务的数据泄漏几率的乘积。

子步骤2043、将所述乘积与如下两项中的至少一项结合来确定所述目标计算任务的数据泄漏几率，所述两项包括：历史计算任务的数据泄漏几率和所述目标计算任务使用的数据的隐私程度权重。

在另一种实现方式中，由于仅将预处理得到的原子计算任务的数据泄露几率的乘积作为目标计算任务的数据泄漏几率，会使得整个安全性分析过程脱离了实际应用场景，从而降低最终数据的准确性，因此，本发明实施例还可以引入计算任务的历史任务记录，通过目标计算任务对应的历史计算任务的数据泄漏几率，来进一步的确定该次目标计算任务的数据泄漏几率。另外，本发明实施例还可以根据计算数据的数据特性，预先划分计算数据的不同隐私程度，并为每个隐私程度设置对应的隐私程度权重，并参照计算数据的不同隐私程度对应的隐私程度权重，来进一步的确定该次目标计算任务的数据泄漏几率。

在确定了当前目标计算任务的各个原子计算任务的数据泄漏几率的乘积后，可以将该乘积作为目标计算任务的初始数据泄露几率，之后再根据该初始数据泄露几率和目标计算任务对应的历史计算任务的数据泄漏几率，来确定目标计算任务在累计了历史数据泄露几率后最终得到的数据泄漏几率。具体的，可以通过查询历史任务记录，来查找历史执行的与目标计算任务相同的历史计算任务的执行次数，以及每个历史计算任务的数据泄漏几率，并将所有历史计算任务的数据泄漏几率进行累计计算(如累加)，将累计结果与目标计算任务的初始数据泄露几率相加，可以得到目标计算任务在累计了历史数据泄露几率后最终得到的数据泄漏几率。

另外，在确定了当前目标计算任务的各个原子计算任务的数据泄漏几率的乘积后，可以将该乘积作为目标计算任务的初始数据泄露几率，之后再确定参与目标计算任务的计算数据所属的隐私程度，以及该隐私程度对应的隐私程度权重，通过隐私程度权重对目标计算任务的初始数据泄露几率进行加权，得到目标计算任务的最终的数据泄露几率，使得目标计算任务的最终的数据泄漏几率参考了应用场景中不同隐私程度的需求，适用性增强。

例如，假设存在三级隐私程度：假设存在三级隐私程度：1级隐私程度为采用金融数据、个人医疗数据进行计算的目标计算任务所属的隐私程度；2级为采用个人生物识别数据进行计算的目标计算任务所属的隐私程度；3级为采用个人身份数据进行计算的目标计算任务所属的隐私程度。

1级隐私程度的隐私程度权重为0.4，2级隐私程度的隐私程度权重为0.6，3级隐私程度的隐私程度权重为0.8。

若当前的目标计算任务的计算数据属于2级隐私程度，则目标计算任务的数据泄露几率为目标计算任务的各个原子计算任务的数据泄漏几率的乘积与隐私程度权重0.6的加权结果。

可选的，在另一种实现方式中，步骤204可以包括：

子步骤2044、利用所述原子计算任务及预先训练的安全性检测模型，确定所述目标计算任务的数据泄漏几率。

可选的，所述安全性检测模型是以历史计算任务数据训练获得，输入包括：历史计算任务数据、数据类型、辅助判断条件，所述辅助判断条件包括：历史计算任务所使用的数据的隐私程度阈值。

在本发明实施例的另一种实现方式中，还可以利用历史计算任务数据为训练数据，来训练得到用于确定目标计算任务的数据泄漏几率的安全性检测模型，具体的，可以将历史计算任务、历史计算任务的原子计算任务，历史原子计算任务的数据类型、历史计算任务的计算结果，历史计算任务的数据泄露几率作为训练集，实现对安全性检测模型的训练。

该安全性检测模型可以以目标计算任务的原子计算任务为模型输入，以目标计算任务的数据泄漏几率为模型输出，从而通过基于神经网络的深度学习策略，在无监督的方式下得到能够快速准确确定目标计算任务的数据泄漏几率的方式，并且通过不断利用历史计算任务数据进行安全性检测模型的迭代训练，还可后续增加该模型的输出精度，提高了目标计算任务的数据泄漏几率的准确度。其中，辅助判断条件还可以包括一些计算任务的已知条件，例如，计算任务的计算数据a为正数、计算数据b为数据方2的所有数据，数据方1拥有计算数据a，且同时为目标计算任务的发起方，数据方3拥有计算数据c等。

需要说明的是，安全性检测模型也可以引入对历史计算任务的数据泄漏几率和目标计算任务使用的数据的隐私程度权重的关注，具体可以参照上述步骤2043，此处不再赘述。

进一步的，本发明实施例可以根据应用场景的需求，事先划分不同的隐私程度以及对每个隐私程度设定的数据泄露几率阈值，并要求所属于某一隐私程度的目标计算任务的数据泄露几率，在小于或等于该隐私程度对应的数据泄露几率阈值的情况下，确定其具备安全性，可以执行；在目标计算任务的数据泄露几率大于该隐私程度对应的数据泄露几率阈值的情况下，确定其不具备安全性，禁止执行或需要进行审核。

因此，本发明实施例可以在安全性检测模型的训练集中，进一步添加不同的隐私程度，以及针对每个隐私程度设定的数据泄露几率阈值，并为每个历史计算任务添加相应的标签，如，安全标签，其反映了对应的历史计算任务具备安全性可以执行；不具备安全性标签，其反映了对应的历史计算任务不具备安全性，禁止执行或需要进行审核。通过该训练集进一步训练得到的安全性检测模型，可以以以目标计算任务的原子计算任务和目标计算任务所属的隐私程度为模型输入，以目标计算任务的标签为模型输出，根据输出的标签，可以得知目标计算任务的安全性，这样可以使得目标计算任务的安全性的表达更加直观明确。

步骤205、在所述目标计算任务的数据泄漏几率大于预设阈值的情况下，禁止发送所述目标计算任务的结果给结果获取方，或在通过审核验证后发送所述目标计算任务的结果给结果获取方。

在本发明实施例中，在目标计算任务的数据泄漏几率小于预设阈值的情况下，可以认为该目标计算任务具备安全性，可以进行执行，隐私计算系统可以通过计算模块对目标计算任务进行处理；在目标计算任务的数据泄漏几率大于预设阈值的情况下，可以认为该目标计算任务不具备安全性，具有较高的数据泄露风险，需要进行禁止执行目标计算任务，或在通过隐私计算系统的审核模块审核验证后执行目标计算任务的操作。另外，针对于已经进行了执行的计算任务，隐私计算系统可以在认为该计算任务存在较大的数据泄露隐患时，禁止发送目标计算任务的结果给结果获取方，或在通过审核验证后执行发送目标计算任务的结果给结果获取方。其中，预设阈值可以为根据实际需求设定的阈值。

进一步的，针对目标计算任务的安全性判断，还可以进行2层判断逻辑，具体为，对每层判断逻辑设定对应的预设阈值，在第一层判断逻辑中，在根据目标计算任务的原子计算任务的数据泄露几率确定了目标计算任务的数据泄露几率后，若目标计算任务的数据泄漏几率大于第一层判断逻辑的预设阈值，则禁止执行目标计算任务，或在通过审核验证后执行所述目标计算任务；若目标计算任务的数据泄漏几率小于或等于第一层判断逻辑的预设阈值，则进入第二层判断逻辑。

在第二层判断逻辑中，根据当前的目标计算任务的数据泄露几率，以及该目标计算任务对应的历史计算任务的数据泄漏几率，确定累计了历史计算任务的数据泄漏几率后目标计算任务最终的数据泄漏几率，若目标计算任务最终的数据泄漏几率大于第二层判断逻辑的预设阈值，则禁止执行目标计算任务，或在通过审核验证后执行所述目标计算任务；若目标计算任务最终的数据泄漏几率小于或等于第二层判断逻辑的预设阈值，则确定目标计算任务具备安全性，可以进行执行。

需要说明的是，2层判断逻辑各自的预设阈值还可以由目标计算任务所属的隐私程度进行确定，如，假设存在三级隐私程度：1级隐私程度为采用金融数据、个人医疗数据进行计算的目标计算任务所属的隐私程度；2级为采用个人生物识别数据进行计算的目标计算任务所属的隐私程度；3级为采用个人身份数据进行计算的目标计算任务所属的隐私程度。

一级隐私程度中，第一层判断逻辑的预设阈值可以为1/100，第二层判断逻辑的预设阈值可以为1/10；

二级隐私程度中，第一层判断逻辑的预设阈值可以为1/200，第二层判断逻辑的预设阈值可以为1/20；

三级隐私程度中，第一层判断逻辑的预设阈值可以为1/500，第二层判断逻辑的预设阈值可以为1/50。

通过隐私程度的划分设定不同层判断逻辑的预设阈值，可以提升目标计算任务的安全性判断逻辑的适用性。

在本发明实施例中，参照图1，在目标计算任务不具备安全性的情况下，还可以通过隐私计算系统的审核模块对该目标计算任务进行重新审核，在审核通过的情况下传入计算模块进行处理。

参照图4，其示出了本发明实施例提供的一种审核界面图，其中，审核界面展示了：附属判断条件区域10，其反映了待审核的目标计算任务的一些已知信息；历史记录区域20，其反映了同一任务发起方的历史计算任务的历史记录；目标计算任务的数据泄露几率区域30，其反映了各个待审核的目标计算任务的数据泄露几率(被反推概率)；发起方区域40，其反映了待审核的目标计算任务的发起方的信息。审核区域50，其供审核人员根据判断，对待审核的目标计算任务进行最终处理结果的选择，处理结果包括允许执行和禁止执行。

综上，本发明实施例提供的计算任务的安全性检测方法，通过获取目标计算任务；对目标计算任务进行预处理，得到原子计算任务；利用原子计算任务及预设的判断规则，检测目标计算任务的数据泄漏几率，本发明中，可以通过将目标计算任务预处理为至少一个原子计算任务，从而降低目标计算任务的复杂程度，使得确定单一的原子计算任务的数据泄露几率的难度大大降低，进而由所有原子计算任务的数据泄露几率得到目标计算任务的数据泄露几率，让目标计算任务的安全性得到了量化，使得可以通过目标计算任务的数据泄露几率，实现对目标计算任务的风险管控，满足计算任务的安全性需求，降低数据泄露的几率。

图5是本发明实施例提供的一种计算任务的安全性检测装置的结构图，如图5所示，该装置可以包括：

获取模块301，用于获取目标计算任务；

预处理模块302，用于对所述目标计算任务进行预处理，得到原子计算任务；

可选的，所述预处理模块302包括如下任意一项子模块：

第一拆分子模块，用于按照所述目标计算任务的计算层次，将所述目标计算任务进行拆分，得到依次排序的多个原子计算任务；

第二拆分子模块，用于对所述目标计算任务中与多个常数连续执行的计算进行等效合并，得到合并后的目标计算任务，并按照所述目标计算任务的计算层次，将所述目标计算任务进行拆分，得到所述原子计算任务。

检测模块303，用于利用所述原子计算任务及预设的判断规则，检测所述目标计算任务的数据泄漏几率。

可选的，所述检测模块303包括：

匹配子模块，用于将所述原子计算任务按照执行顺序从后往前的顺序与预设的原子计算特征库中的计算类型比较，得到每个原子计算任务的数据泄漏几率；所述原子计算特征库中保存有各原子计算任务相应的计算类型所对应的数据泄漏几率；

计算子模块，用于依据所述原子计算任务的数据泄漏几率和所述判断规则，确定所述目标计算任务的数据泄漏几率。

可选的，所述计算子模块包括：

第一计算单元，用于将所述原子计算任务的数据泄漏几率的乘积确定为所述目标计算任务的数据泄漏几率。

可选的，所述计算子模块包括：

第二计算单元，用于确定所述原子计算任务的数据泄漏几率的乘积；

第三计算单元，用于将所述乘积与如下两项中的至少一项结合来确定所述目标计算任务的数据泄漏几率，所述两项包括：历史计算任务的数据泄漏几率和所述目标计算任务使用的数据的隐私程度权重。

可选的，所述原子计算特征库中还包括各计算类型针对不同数据类型所对应的数据泄漏几率。

可选的，所述原子计算任务包括如下任一项或多项：计算数据与常数比较、计算数据与常数相加、计算数据与常数相乘、多个计算数据相加、多个计算数据相乘。

可选的，所述检测模块303包括：

安全性检测模型模块，用于利用所述原子计算任务及预先训练的安全性检测模型，确定所述目标计算任务的数据泄漏几率。

可选的，所述安全性检测模型是以历史计算任务数据训练获得，输入包括：历史计算任务数据、数据类型、辅助判断条件，所述辅助判断条件包括：历史计算任务所使用的数据的隐私程度阈值。

可选的，在所述目标计算任务为密文的情况下，所述装置还可以包括：

类型确定模块，用于通过密文比对确定所述原子计算任务对应的计算类型。

可选的，所述装置还包括：

禁止执行模块，用于在所述目标计算任务的数据泄漏几率大于预设阈值的情况下，禁止发送所述目标计算任务的结果给结果获取方，或在通过审核验证后发送所述目标计算任务的结果给结果获取方。

综上，本发明实施例提供的计算任务的安全性检测装置，通过获取目标计算任务；对目标计算任务进行预处理，得到原子计算任务；利用原子计算任务及预设的判断规则，检测目标计算任务的数据泄漏几率，本发明中，可以通过将目标计算任务预处理为至少一个原子计算任务，从而降低目标计算任务的复杂程度，使得确定单一的原子计算任务的数据泄露几率的难度大大降低，进而由所有原子计算任务的数据泄露几率得到目标计算任务的数据泄露几率，让目标计算任务的安全性得到了量化，使得可以通过目标计算任务的数据泄露几率，实现对目标计算任务的风险管控，满足计算任务的安全性需求，降低数据泄露的几率。

图6是根据一示例性实施例示出的一种用于计算任务的安全性检测的装置800的框图。例如，装置800可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。

参照图6，装置800可以包括以下一个或多个组件：处理组件802，存储器804，电源组件806，多媒体组件808，音频组件810，输入/输出(I/O)的接口812，传感器组件814，以及通信组件816。

处理组件802通常控制装置800的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理元件802可以包括一个或多个处理器820来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件802可以包括一个或多个模块，便于处理组件802和其他组件之间的交互。例如，处理组件802可以包括多媒体模块，以方便多媒体组件808和处理组件802之间的交互。

存储器804被配置为存储各种类型的数据以支持在设备800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。

电源组件806为装置800的各种组件提供电力。电源组件806可以包括电源管理系统，一个或多个电源，及其他与为装置800生成、管理和分配电力相关联的组件。

多媒体组件808包括在所述装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件808包括一个前置摄像头和/或后置摄像头。当设备800处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。待匹配前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。

音频组件810被配置为输出和/或输入音频信号。例如，音频组件810包括一个麦克风(MIC)，当装置800处于操作模式，如呼叫模式、记录模式和语音信息处理模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中，音频组件810还包括一个扬声器，用于输出音频信号。

I/O接口812为处理组件802和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。

传感器组件814包括一个或多个传感器，用于为装置800提供各个方面的状态评估。例如，传感器组件814可以检测到设备800的打开/关闭状态，组件的相对定位，例如所述组件为装置800的显示器和小键盘，传感器组件814还可以检测装置800或装置800一个组件的位置改变，用户与装置800接触的存在或不存在，装置800方位或加速/减速和装置800的温度变化。传感器组件814可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件814还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。

通信组件816被配置为便于装置800和其他设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件816还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频信息处理(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。

在示例性实施例中，装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。

在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器804，上述指令可由装置800的处理器820执行以完成上述方法。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。

图7是本申请的一些实施例中服务器的结构示意图。该服务器1900可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上中央处理器(central processingunits，CPU)1922(例如，一个或一个以上处理器)和存储器1932，一个或一个以上存储应用程序1942或数据1944的存储介质1930(例如一个或一个以上海量存储设备)。其中，存储器1932和存储介质1930可以是短暂存储或持久存储。存储在存储介质1930的程序可以包括一个或一个以上模块(图示没标出)，待匹配模块可以包括对服务器中的一系列指令操作。更进一步地，中央处理器1922可以设置为与存储介质1930通信，在服务器1900上执行存储介质1930中的一系列指令操作。

服务器1900还可以包括一个或一个以上电源1926，一个或一个以上有线或无线网络接口1950，一个或一个以上输入输出接口1958，一个或一个以上键盘1956，和/或，一个或一个以上操作系统1941，例如Windows ServerTM，Mac OS XTM，UnixTM,LinuxTM，FreeBSDTM等等。

一种非临时性计算机可读存储介质，当所述存储介质中的指令由装置(服务器或者终端)的处理器执行时，使得装置能够执行上述实施例提供的计算任务的安全性检测方法。

一种非临时性计算机可读存储介质，当所述存储介质中的指令由装置(服务器或者终端)的处理器执行时，使得装置能够执行一种计算任务的安全性检测方法。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本申请的真正范围和精神由下面的权利要求指出。

应当理解的是，本申请并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。

以上所述仅为本申请的较佳实施例，并不用以限制本申请，凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。

以上对本申请所提供的一种计算任务的安全性检测方法、一种计算任务的安全性检测装置和一种用于计算任务的安全性检测的装置，进行了详细介绍，本文中应用了具体个例对本申请的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本申请的方法及其核心思想；同时，对于本领域的一般技术人员，依据本申请的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本申请的限制。

Claims (10)

1.一种计算任务的安全性检测方法，其特征在于，所述方法应用于不泄漏参与计算的数据原文的隐私计算系统，所述方法包括：

获取目标计算任务；

对所述目标计算任务进行预处理，得到原子计算任务；

利用所述原子计算任务及预设的判断规则，检测所述目标计算任务的数据泄漏几率。

2.根据权利要求1所述的方法，其特征在于，所述对所述目标计算任务进行预处理的步骤包括如下任意一项：

按照所述目标计算任务的计算层次，将所述目标计算任务进行拆分，得到依次排序的多个原子计算任务；

对所述目标计算任务中与多个常数连续执行的计算进行等效合并，得到合并后的目标计算任务，并按照所述目标计算任务的计算层次，将所述目标计算任务进行拆分，得到所述原子计算任务。

3.根据权利要求2所述的方法，其特征在于，在所述目标计算任务为密文的情况下，所述方法还包括：

通过密文比对确定所述原子计算任务对应的计算类型。

4.根据权利要求1或2所述的方法，其特征在于，所述利用所述原子计算任务及预设的判断规则，检测所述目标计算任务的数据泄漏几率，包括：

将所述原子计算任务按照执行顺序从后往前的顺序与预设的原子计算特征库中的计算类型比较，得到每个原子计算任务的数据泄漏几率；所述原子计算特征库中保存有各原子计算任务相应的计算类型所对应的数据泄漏几率；

依据所述原子计算任务的数据泄漏几率和所述判断规则，确定所述目标计算任务的数据泄漏几率。

5.根据权利要求4所述的方法，其特征在于，所述原子计算特征库中还包括各计算类型针对不同数据类型所对应的数据泄漏几率。

6.根据权利要求4所述的方法，其特征在于，所述依据每个原子计算任务的数据泄漏几率和所述判断规则，确定所述目标计算任务的数据泄漏几率包括：

将所述原子计算任务的数据泄漏几率的乘积确定为所述目标计算任务的数据泄漏几率。

7.根据权利要求4所述的方法，其特征在于，所述依据每个原子计算任务的数据泄漏几率和所述判断规则，确定所述目标计算任务的数据泄漏几率包括：

确定所述原子计算任务的数据泄漏几率的乘积；

将所述乘积与如下两项中的至少一项结合来确定所述目标计算任务的数据泄漏几率，所述两项包括：历史计算任务的数据泄漏几率和所述目标计算任务使用的数据的隐私程度权重。

8.一种计算任务的安全性检测装置，其特征在于，所述装置应用于不泄漏参与计算的数据原文的隐私计算系统，所述装置包括：

获取模块，用于获取目标计算任务；

预处理模块，用于对所述目标计算任务进行预处理，得到原子计算任务；

检测模块，用于利用所述原子计算任务及预设的判断规则，检测所述目标计算任务的数据泄漏几率。

9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的计算任务的安全性检测方法的步骤。

10.一种电子设备，其特征在于，包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如权利要求1至7中任一项所述的计算任务的安全性检测方法的步骤。

Images