CN112085590B - 规则模型的安全性的确定方法、装置和服务器 - Google Patents

Abstract

本说明书提供了规则模型的安全性的确定方法、装置和服务器。在一个实施例中，该方法通过先根据待检测的规则模型和样本集，确定出多种命中情况下目标属性的数据值分布；再根据上述多种命中情况下的目标属性的数据值分布，与基于样本集所确定出的预设的安全阈值进行比较，来确定规则模型是否存在安全性风险，是否会泄露数据提供方的数据资源，从而能够有效、准确地确定出规则模型的安全性，降低数据提供方由于运行不安全的规则模型导致数据发生泄露的风险。

Description

规则模型的安全性的确定方法、装置和服务器

技术领域

本说明书属于互联网技术领域，尤其涉及规则模型的安全性的确定方法、装置和服务器。

背景技术

在一些数据处理场景中，模型生成方与数据提供方往往是分离的。

通常数据提供方可以响应模型生成方的请求，利用己方所拥有的数据资源，运行模型生成方提供的规则模型，得到相应的处理结果；再将上述处理结果反馈给模型生成方。这样模型生成方可以在不接触到数据提供方所拥有的数据资源的前提下，得到相应的处理结果；并可以根据上述处理结果进行具体的数据处理。

但是，如果上述规则模型本身不安全，那么数据提供方在运行规则模型的过程中，可能会泄露出数据提供方所拥有的数据资源。

因此，亟需一种能够较为有效、准确地确定规则模型的安全性的方法。

发明内容

本说明书实施例提供了一种规则模型的安全性的确定方法、装置和服务器，以便能够有效、准确地确定出规则模型的安全性，降低数据提供方由于运行不安全的规则模型导致数据发生泄露的风险。

本说明书提供的规则模型的安全性的确定方法、装置和服务器是这样实现的：

一种规则模型的安全性的确定方法，包括：获取规则模型和样本集；其中，所述规则模型包括规则集，所述规则集包含目标属性，所述样本集包括多个样本数据；根据所述规则模型和所述样本集，确定出多种命中情况下的目标属性的数据值分布；根据所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值，确定所述规则模型是否存在安全性风险。

一种规则模型的安全性的确定装置，包括：获取模块，用于获取规则模型和样本集；其中，所述规则模型包括规则集，所述规则集包含目标属性，所述样本集包括多个样本数据；第一确定模块，用于根据所述规则模型和所述样本集，确定出多种命中情况下的目标属性的数据值分布；第二确定模块，用于根据所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值，确定所述规则模型是否存在安全性风险。

一种服务器，包括处理器以及用于存储处理器可执行指令的存储器，所述处理器执行所述指令时实现获取规则模型和样本集；其中，所述规则模型包括规则集，所述规则集包含目标属性，所述样本集包括多个样本数据；根据所述规则模型和所述样本集，确定出多种命中情况下的目标属性的数据值分布；根据所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值，确定所述规则模型是否存在安全性风险。

一种计算机可读存储介质，其上存储有计算机指令，所述指令被执行时实现获取规则模型和样本集；其中，所述规则模型包括规则集，所述规则集包含目标属性，所述样本集包括多个样本数据；根据所述规则模型和所述样本集，确定出多种命中情况下的目标属性的数据值分布；根据所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值，确定所述规则模型是否存在安全性风险。

本说明书提供的规则模型的安全性的确定方法、装置和服务器，通过先根据待检测的规则模型和样本集，确定出多种命中情况下目标属性的数据值分布；再根据上述多种命中情况下的目标属性的数据值分布，与基于样本集所确定出的预设的安全阈值进行比较，来确定规则模型是否存在安全性风险，是否会泄露数据提供方的数据资源，从而能够有效、准确地确定出规则模型的安全性，降低数据提供方由于运行不安全的规则模型导致数据发生泄露的风险。

附图说明

为了更清楚地说明本说明书实施例，下面将对实施例中所需要使用的附图作简单地介绍，下面描述中的附图仅仅是本说明书中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是应用本说明书实施例提供的规则模型的安全性的确定方法的系统的结构组成的一个实施例的示意图；

图2是在一个场景示例中，应用本说明书实施例提供的规则模型的安全性的确定方法的一种实施例的示意图；

图3是在一个场景示例中，应用本说明书实施例提供的规则模型的安全性的确定方法的一种实施例的示意图；

图4是本说明书的一个实施例提供的规则模型的安全性的确定方法的流程示意图；

图5是本说明书的一个实施例提供的服务器的结构组成示意图；

图6是本说明书的一个实施例提供的规则模型的安全性的确定装置的结构组成示意图。

具体实施方式

为了使本技术领域的人员更好地理解本说明书中的技术方案，下面将结合本说明书实施例中的附图，对本说明书实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本说明书保护的范围。

本说明书实施例提供一种规则模型的安全性的确定方法，该方法具体可以应用于一种包含有第一服务器和第二服务器的系统架构中。

具体可以参阅图1所示。上述第一服务器具体可以包括布设于模型生成方一侧的服务器。上述第二服务器具体可以包括布设于数据提供方一侧的服务器。

具体实施时，第一服务器为了能够利用数据提供方所拥有的数据资源进行相应的数据处理(例如，确定用户的信用风险)，可以配置并构建包含有一个或多个规则集的规则模型，并将上述规则模型发送给第二服务器。

第二服务器在利用己方所拥有的数据资源运行该规则模型之前，可以先对该规则模型的安全性进行检测。

在本实施例中，具体实施实施，第一服务器在将规则模型发送至第二服务器的同时，还可以将规则模型的基本信息(例如，规则模型中所包含的规则集的标识信息、规则集中属性的标识信息等允许透露给数据提供方的信息)一同发送给第二服务器，以便第二服务器可以结合上述规则模型的基本信息来检测规则模型的安全性。

第二服务器可以获取包含有多个样本数据的样本集以及上述规则模型。同时，第二服务器可以先根据上述规则模型的基本信息，确定出目标属性，以及多种命中情况。再利用上述样本集，通过运行规则模型，得到样本数据的处理结果；根据样本数据的处理结果，确定出多种命中情况下的目标属性的数据值分布。进而可以将上述多种命中情况下的目标属性的数据值分布，与基于样本集得到的预设的安全阈值进行比较，来确定所述规则模型是否存在安全性风险。

在确定上述规则模型不存在安全性风险的情况下，第二服务器可以正常地利用己方所拥有的数据资源运行该规则模型，得到对应的处理结果；再将上述处理结果反馈给第一服务器。进而第一服务器可以根据上述处理结果，完成相应的数据处理。

在确定上述规则模型存在安全性风险的情况下，第二服务器可以拒绝利用己方所拥有的数据资源来运行该规则模型，从而可以有效地避免数据提供方所拥有的数据资源遭到泄露。

在本实施例中，所述第一服务器、第二服务器具体可以包括一种应用于数据处理系统一侧，能够实现数据传输、数据处理等功能的服务器。具体的，所述第一服务器、第二服务器例如可以为一个具有数据运算、存储功能以及网络交互功能的电子设备。或者，所述第一服务器、第二服务器也可以为运行于该电子设备中，为数据处理、存储和网络交互提供支持的软件程序。在本实施例中，并不具体限定所述第一服务器、第二服务器所包含的服务器的数量。所述第一服务器、第二服务器具体可以为一个服务器，也可以为几个服务器，或者，由若干服务器形成的服务器集群。

在一个具体的场景示例中，可以参阅图2所示。在用户的信用风险检测场景中，A购物网站(作为模型生成方)计划对该购物网站的上用户的信用风险进行确定，以便后续可以根据用户的信用风险，有区分地为不同用户提供适配的服务。

但A购物网站所拥有的与用户的信用相关的信息数据相对有限，不够全面。而B银行(作为数据提供方)拥有大量与用户的信用相关的信息数据。例如，B银行拥有一个庞大的用户数据库，该用户数据库中记录并保存有大量与用户的信用相关的信息数据，例如，用户的还贷数据、用户的收入数据、用户的支出数据、用户的违约数据等等。

A购物网站与B银行达成合作，由A购物网站配置生成用于检测用户的信用风险的规则模型。

具体实施时，A购物网站的第一服务器可以先根据具体需求配置与用户的信用相关的判定规则；并组合上述规则得到相应的规则集；再根据上述规则集构建对应的规则模型。

例如，第一服务器可以先配置出以下所示的三个规则。规则1：用户的月收入>500元。规则2：用户的违约次数>5次。以及规则3：用户的违约率>0.5。进一步，第一服务器可以单独将规则1作为一个规则集，可以表示为规则集1(记为RuleSet_1)：规则1。将规则2和规则3通过逻辑连接词“或”组合在一起作为一个规则集，可以表示为规则集2(记为RuleSet_2)：规则1或规则2。再根据上述规则集1和规则集2，构建一个同时包含有两个规则集的规则模型。

第一服务器在构建出上述规则模型后，可以生成并向B银行的第二服务器发送相应的数据处理请求。该数据处理请求具体可以用于请求第二服务器利用银行B所拥有的数据资源运行规则模型。

其中，该数据处理请求可以携带有规则模型，以及待检测信用风险的用户的身份ID。

进一步，上述数据处理请求中还可以携带有该规则模型的基本信息，例如，规则模型中所包含的规则集的标识信息：RuleSet_1和RuleSet_2，以及规则集中属性的标识信息：月收入、违约次数和违约率等。

第二服务器接收并根据上述数据处理请求，获取规则模型、规则模型的基本信息，以及用户的身份ID。第二服务器在利用己方所拥有的数据资源运行上述规则模型之前，为了避免由于该规则模型不安全导致运行时泄露数据资源，可以先对规则模型的安全性进行检测。

具体实施时，参阅图3所示，第二服务器可以从预先准备好的样本数据中检索出与规则模型匹配的多个样本数据(例如，100个样本数据)，作为用于检测该规则模型的安全性的样本集(可以记为SampleSet)。其中，上述每个样本数据至少可以包含有所对应的样本对象的月收入数据、违约次数数据和违约率数据等属性的数据值。

第二服务器可以根据规则模型的基本信息中属性的标识信息，确定出规则模型所包含的3种不同类型的属性(包括：月收入、违约次数和违约率)作为目标属性。

进一步，第二服务器可以根据样本集中各个样本数据所包含的样本对象的月收入数据、违约次数数据和违约率数据，通过数据统计，确定出样本集中各个目标属性的数据值分布，并根据样本集中各个目标属性的数据值分布设置相应的预设的安全阈值。

具体的，针对属性1月收入，通过统计可以确定出在样本集中的月收入的数据值包括：500元、1000元、2000元；并且样本集中月收入的数据值为500元、1000元、2000元的样本数据的数量分别为：20个、50个、30个。相应的，可以确定出该样本集中月收入的数据值(即500元、1000元、2000元)分布为：2:5:3。可以将该分布记为属性1的数据值分布(或者属性1的原始分布)。

针对属性2违约次数，通过统计可以确定出样本集中的违约次数的数据值包括：0次、1次、3次、6次、7次；并且样本集中违约次数的数据值为0次、1次、3次、6次、7次的样本数据的数量分别为：40个、30个、10个、10个、10个。相应的，可以确定出该样本集中违约次数的数据值(即0次、1次、3次、6次、7次)分布为：4:3:1:1:1。可以将该分布记为属性2的数据值分布(或者属性2的原始分布)。

针对属性3违约率，通过统计可以确定出在样本集中的违约率的数据值包括：0、0.1、0.6；并且样本集中违约率的数据值为0、0.1、0.6的样本数据的数量分别为：60个、30个、10个。相应的，可以确定出该样本集中违约率的数据值(即0、0.1、0.6)分布为：6:3:1。可以将该分布记为属性3的数据值分布(或者属性3的原始分布)。

进而可以根据上述3种基于样本集所得到的不同属性的数据值分布，结合具体的误差容忍度、数据值变化的灵敏度等因素，设置与3种属性分别对应的预设的安全阈值。例如，可以根据属性1的原始分布，计算关于属性1的最大猜中概率，再根据属性1的最大猜中概率，确定出对应属性1的预设的安全阈值等。

同时，第二服务器可以根据规则模型的基本信息中的规则集的标识信息，确定出该规则模型包含有两个规则集分别为规则集1和规则集2，进而可以通过排列组合等方式确定出样本数据在输入规则模型后可能出现的总共4种命中情况，分别为：同时命中规则集1和规则集2(记为命中情况1)、命中规则集1但没有命中规则集2(记为命中情况2)、命中规则集2但没有命中规则集1(记为命中情况3)、同时没有命中规则集1和规则集2(记为命中情况4)。

接着，第二服务器可以将上述样本集中所包含的100个样本数据分别输入至上述规则模型中，并运行该规则模型，输出各个样本数据所命中的规则集的编号(即规则集的一种标识信息)，作为针对该样本数据的处理结果。

例如，将样本集中编号为8的样本数据输入至规则模型，输出的处理结果为：规则集的编号1。根据上述处理结果可知：编号为8的样本数据只命中了规则集1，但没有命中规则集2，属于命中情况2。进而可以确定编号为8的样本数据属于命中情况2。

按照上述方式，可以根据样本集中各个样本数据的处理结果，将样本数据划分到所对应的命中情况下，得到多个命中情况下的子样本集。

具体的，通过划分可以得到与4种命中情况分别对应的4个子样本集，分别记为：SampleSet_1(与命中情况1对应)、SampleSet_2(与命中情况2对应)、SampleSet_3(与命中情况3对应)、SampleSet_4(与命中情况4对应)。

进一步，第二服务器可以针对上述多种命中情况，根据所对应的子样本集，通过数据统计，分别确定各种命中情况下的目标属性的数据值分布。其中，上述目标属性的数据值分布具体可以理解为在已知所命中的规则集的情况下，目标属性的不同数据值的分布比例。

具体的，例如，针对命中情况1，上述子样本集SampleSet_1包含有30个样本数据，并且已经明确该30个样本数据都是同时命中规则集1和规则集2的样本数据。

基于子样本集SampleSet_1所包含的样本数据，通过统计可以确定出命中情况1下的子样本集中的月收入的数据值包括：1000元、2000元；并且子样本集中月收入为1000元、2000元的样本数据的数量分别为：27个、3个。相应的，可以确定出命中情况1下的子样本集中月收入的数据值(即1000元、2000元)分布为：27:3。可以将该分布记为命中情况1下的属性1的数据值分布。

按照类似的方式，可以分别确定出命中情况1下的属性2的数据值分布、命中情况1下的属性3的数据值分布、命中情况2下的属性1的数据值分布、命中情况2下的属性2的数据值分布、命中情况2下的属性3的数据值分布、命中情况3下的属性1的数据值分布、命中情况3下的属性2的数据值分布、命中情况3下的属性3的数据值分布。

进一步，第二服务器可以将各个属性的预设的安全阈值与不同命中情况下的相同属性的数据值分布分别进行比较，得到比较结果。再根据上述比较结果，来判断规则模型是否存在安全性风险。

例如，将属性1的预设的安全阈值，与命中情况1下的属性1的数据值分布进行比较，发现：命中情况1下的属性1的数据值分布大于属性1的预设的安全阈值。

这时，基于命中情况1下的属性1的数据值分布可知：在已知样本数据属于命中情况1(即同时命中规则集1和规则集2)的前提下，猜中属性1的数据值的猜中概率，相对于基于原始的样本集的猜中概率有了较大的提高。

例如，在不知道样本数据所属的命中情况下，盲猜一个样本数据的月收入为1000元时猜中概率为50％。而在经过规则模型处理之后确定出命中情况，在已经知道样本数据属于命中情况1的前提下，盲猜样本数据的月收入为1000元时猜中概率已经变为90％。

可见通过运行该规则模型后，模型生成方或者其他第三方可以根据规则模型输出的处理结果更加容易地猜出月收入的具体数据值。即，通过运行该规则模型会导致更容易泄露B银行所拥有的数据资源，B银行的数据资源的泄露风险会明显升高。

因此，第二服务器可以确定该规则模型存在安全性风险。这种情况下，为了保护银行B的数据资源的安全，避免银行B所拥有的数据资源由于运行规则模型遭到泄露，可以拒绝运行该规则模型。

进一步，第二服务器还可以生成相应的提示信息，反馈给第一服务器，以提示第一服务器当前所生成的规则模型存在安全性风险，第二服务器拒绝运行。并且通过上述提示信息还可以提示第一服务器需修改当前的规则模型，以提供更加安全的规则模型。

第一服务器在接收到提示信息后，可以响应该提示信息，修改规则模型，得到修改后的规则模型。再将上述修改后的规则模型发送给第二服务器。

第二服务器可以按照同样的方式，检测修改后的规则模型是否存在安全性风险。在确定修改后的规则模型不存在安全性风险的情况下，第二服务器才可以根据数据处理请求中携带用户的身份ID，查询B银行的用户数据库，获取A购物网站所要求查询的用户的信息数据。再将上述用户的信息数据输入规则模型；并运行规则模型，输出上述用户所命中的规则模型中的规则集的编号，作为处理结果。第二服务器可以将上述处理结果反馈给第一服务器，而不需要担心第一服务器会根据上述处理结果很容易猜出用户的具体信息数据。

第一服务器可以根据上述处理结果，确定出用户所命中的规则集，进而可以根据用户所命中的规则集，来确定出用户的信用风险。

由上述场景示例可见，本说明书实施例提供的规则模型的安全性的确定方法，能够有效、准确地确定出规则模型的安全性，降低数据提供方由于运行不安全的规则模型导致数据发生泄露的风险。

参阅图4所示，本说明书实施例提供了一种规则模型的安全性的确定方法。

S401：获取规则模型和样本集；其中，所述规则模型包括规则集，所述规则集包含有目标属性，所述样本集包括多个样本数据。

在一些实施例中，该方法具体可以应用于布设于数据提供方一侧的第二服务器。

在一些实施例中，该方法也可以应用于布设于第三方一侧的第三服务器。其中，上述第三方可以是独立于数据提供方和模型生产方，且为数据提供方和模型生成方共同信任的负责检测规则模型的安全性的服务提供方。具体的，例如，第一服务器在将所生成的规则模型发送至第二服务器的同时，还会将相同的规则模型发送至第三服务器，第三服务器在应用该方法确定规则模型不存在安全性的风险的情况下，才会向第二服务器生成并发送安全提示信息，第二服务器在接收到上述安全提示信息后才会利用己方的数据资源运行该规则模型。

在一些实施例中，在模型生成方需要对所生成的规则模型进行自检的情况下，该方法还可以应用于布设于模型生成方一侧的第一服务器。即，也可以由模型生成方通过第一服务器来对所生成的规则模型的安全性进行检测。具体的，第一服务器在通过该方法检测确定所生成的规则模型不存在安全性风险的情况下，才会将该规则模型发送至第二服务器。

本说明书的实施例主要以将该方法应用于第二服务器为例进行具体说明。对于应用于第三服务器、第一服务器的情况，可以参阅下述应用于第二服务器的实施例。

在一些实施例中，上述规则模型具体可以理解为一种由模型生成方生成或提供的用于检测数据对象(例如，用户对象等)是否满足某些判定规则的数据模型。

具体的，上述规则模型具体可以包括一个或多个规则集。其中，上述每一个规则集具体又可以包括一个或多个规则。规则中包含有属性。

在一些实施例中，上述规则用于检测数据对象的某种属性特征是否满足某个预设的数据值范围。上述规则具体可以包括：属性、操作符和数据阈值等数据元素。

其中，上述属性具体可以理解为一种用于表征数据对象的某种属性特征的参数数据。例如，上述属性具体可以是月收入、违约率、身高、职业等。上述数据阈值具体可以理解为规则中针对某一个属性所设置的数据值的上限值和/或下限值。例如，1000元、15次、5％等。上述操作符具体可以理解为规则中用于限定属性和数据阈值之间判定关系的符号。例如，>(大于号)、<(小于号)、≥(大于或等于号)等。当然，上述所列举的属性、操作符、数据阈值只是一种示意性说明。

具体的，例如，在规则1“用户的月收入>1000元”中，属性为“月收入”，操作符为“>”，数据阈值为“1000元”。如果一个用户的月收入数据为2000元，大于1000元，则可以理解为该用户命中规则1。如果一个用户的月收入数据为500元，小于1000元，则可以理解为该用户没有命中规则1。

在一些实施例中，上述规则集可以只包括一个规则。例如，规则集1可以只包含有规则1这一个规则。如果一个用户命中了规则1，则可以理解为该用户命中规则集1。如果一个用户没有命中规则1，则可以理解为该用户没有命中规则集1。

在一些实施例中，上述规则集还可以包括多个不同的规则。其中，上述多个不同的规则可以通过预设的逻辑连接词连接在一起构成一个规则集。上述预设的逻辑连接词具体可以包括“与”(例如and)、“或”(例如or)等连接词。

例如，在规则集2“用户的违约次数>5次(可以记为规则2)，或，用户的违约率>0.5(可以记为规则3)”中，规则2和规则3是通过逻辑连接词“或”连接在一起构成了一个规则集，即规则集2的。如果一个用户命中了上述规则2和规则3中的至少一个，则可以理解为该用户命中规则集2。如果一个用户既没有命中规则2同时也没有命中规则3，则可以理解为该有用户没有命中规则集2。

在一些实施例中，模型生成方可以根据具体的应用场景和数据处理需求，配置相应的规则；并组合规则，得到对应的规则集；再根据上述规则集来构建对应的规则模型(也可以称为基于规则的模型)。再由数据提供方，使用所拥有的数据资源运行上述规则模型，得到对应的处理结果，以进行具体的数据处理。

在一些实施例中，模型生成方与数据提供方往往是分离的。这种情况下，模型生成方可以将上述规则模型发送给数据提供方。数据提供方可以利用己方所拥有的数据资源，例如，包含有大量数据对象的信息数据的数据库等，来运行规则模型，得到对应的处理结果；再将上述处理结果反馈给模型生成方，以便模型生成方可以得到并利用上述处理结果完成相应的数据处理。这样也降低了数据提供方所拥有的数据资源遭到泄露的风险。

在一些实施例中，由于一些规则模型本身就存在安全性风险，数据提供方在利用己方所拥有的数据资源运行这类规则模型得到对应的处理结果时，仍然存在数据泄露的风险，对数据提供方的数据安全构成威胁。

例如，模型生成方在生成规则模型时，有意将规则模型中的规则集n配置为“用户的月收入＝5000元”。这时，数据提供方如果直接利用所拥有的数据资源，查询到待检测的用户L的信息数据(例如，用户L的月收入为5000元)；将上述用户L的信息数据输入到规则模型，得到用户L命中规则集n的处理结果(例如，命中规则集n)，并将该处理结果反馈给模型生成方。在这种情况下，虽然数据提供方没有直接向模型生成方泄露用户L的月收入数据为5000元这条信息数据，但是模型生成方根据上述处理结果，是可以准确地猜出用户L的月收入数据为5000元。即，数据提供方的数据资源已经遭到了泄露。

因此，为了避免数据提供方在运行规则模型时导致所拥有的数据资源遭到泄露，保护数据提供方的数据安全，数据提供方在利用己方的数据资源运行规则模型之前，可以先对规则模型的安全性进行检测；在确定规则模型不存在安全性风险的情况下，再利用己方的数据资源来运行规则模型。

在一些实施例中，上述第二服务器具体可以理解为布设于数据提供方一侧的服务器。本说明书实施例所提供的规则模型的安全性的确定方法具体可以应用于第二服务器一侧。相对的，在模型生成方一侧，还可以布设有第一服务器。

在一些实施例中，上述样本集具体可以理解为一种用于检测规则模型是否存在安全性风险的样本数据的集合。其中，上述样本集可以包括多个样本数据。

具体的，上述每一个样本数据可以包含有与一个样本对象(也可以称样本数据对象)相关的信息数据。例如，在信用风险检测场景中，上述样本数据具体可以是样本用户的违约次数数据、违约率数据、月收入数据等与样本用户的信用相关的信息数据。

在一些实施例中，具体实施前，第二服务器可以采集并根据真实的数据对象的信息数据来构建样本集。第二服务器也可以是通过仿真模拟的方式，使用所生成的虚拟的数据对象的信息数据来构建样本集。

在一些实施例中，具体实施时，第二服务器可以接收到来自第一服务器的数据处理请求。其中，上述数据处理请求可以携带有第一服务器所提供的规则模型。相应的，第二服务器可以通过接收数据处理请求获取规则模型。

进一步，上述数据处理请求还可以携带有待处理的数据对象的身份标识(例如，待检测的用户的身份ID)。

上述数据处理请求具体可以用于请求第二服务器利用己方所拥有的数据资源，查询并根据上述数据对象的信息数据，运行规则模型，以确定出待处理的数据对象所命中的规则集。

在一些实施例中，第二服务器还可以获取第一服务器直接发送的待检测的规则模型。

在一些实施例中，第二服务器在接收到上述数据处理请求后，可以从数据处理请求中获取规则模型。进一步，第二服务器在利用己方所拥有的数据资源，根据所查询到的数据对象的信息数据运行该规则模型之前，还可以先获取与该规则模型匹配的样本集(例如，包含有规则模型中出现的属性的信息数据的样本集)，用以检测该规则模型是否存在安全性风险。

在一些实施例中，第一服务器将规则模型发送至第二服务器的同时，还可以将一些允许透露给第二服务器的与规则模型相关的信息，例如，规则模型中所包含的规则集的标识信息、规则集中属性的标识信息、规则模型中各个属性的出现次数等作为规则模型的基本信息发送给第二服务器，用以辅助第二服务器进行规则模型的安全性检测。相应的，第二服务器可以通过第一服务器获取上述规则模型的基本信息。

其中，上述规则集的标识信息具体可以是规则集的名称，也可以是规则集的编号等。一个规则集的标识信息与一个规则集对应。上述属性的标识信息具体可以是属性的名称，也可以是属性的编号等。一个属性的标识信息与一个属性对应。

在一些实施例中，第二服务器在得到规则模型后，还可以先使用测试样本集输入规则模型中进行测试；根据规则模型输出的处理结果，确定出规则模型中所包含的规则集的标识信息。

在一些实施例中，第二服务器可以根据规则集中属性的标识信息，确定出目标属性。

在一些实施例中，上述目标属性具体可以包括一个属性，也可以包括多个属性。在目标属性包括多个属性的情况下，可以构建对象的目标属性集，可以记为Xin。

在一些实施例中，具体实施时，第二服务器可以根据规则集中属性的标识信息，将规则模型中出现的属性确定为目标属性。

在一些实施例中，具体实施时，第二服务器还可以根据具体情况和处理需要，从规则模型中出现的属性中进一步筛选出重要程度较高或者用户较为关注的一个或多个属性作为目标属性。

在一些实施例中，所述命中情况具体可以理解为样本数据所命中的规则模型中的规则集的情况。

在一些实施例中，具体实施时，第二服务器可以根据规则模型中规则集的标识信息，确定出规则模型所包含的规则集；再根据规则模型所包含的规则集，确定出可能出现的多种命中情况。

具体的，例如，如果根据规则模型中规则集的标识信息，确定规则模型只包含有一个规则集1(可以记为RuleSet_1)，可以确定存在2^1＝2种命中情况，即分别为：命中规则集1，和没有命中规则集2。

如果根据规则模型中规则集的标识信息，确定规则模型包含有两个规则集：规则集1(RuleSet_1)和规则集2(可以记为RuleSet_2)，可以确定存在2^2＝4种命中情况，即分别为：同时命中规则集1和规则集2，命中规则集1但没有命中规则集2，命中规则集2但没有命中规则集1，同时没有命中规则集1和规则集2。

以此类推，如果规则模型包含有n个规则集：规则集1(RuleSet_1)、规则集2(RuleSet_2)……规则集n(可以记为RuleSet_n)，则可以确定存在2^n种命中情况。具体的命中情况可以参阅表1所示。表中，0表示没有命中该规则集，1表示命中该规则集。

表1

在一些实施例中，第二服务器可以先根据样本集确定出与目标属性对应的预设的安全阈值。

在一些实施例中，在目标属性的数据值为离散型数据的情况下，可以通过检索样本集，从样本集中获取样本对象的目标属性的数据值；根据样本集，统计该目标属性的各个数据值所对应的样本对象(或者样本对象)的数量；根据该目标属性的各个数据值所对应的样本对象的数量，确定出目标属性的数据值分布；再根据目标属性的数据值分布，结合误差容忍度、目标属性的数据值变化灵敏度等，确定该目标属性的预设的安全阈值。

具体的，例如，对于目标属性月收入，通过检索样本集，获取到月收入的数据值包括：500元、1000元、2000元这三种数据值。通过对样本集的数据统计，可以确定月收入为500元的用户数量为20人，月收入为1000元的用户数量为50人，月收入为2000元的用户数量为30人。进而可以确定出关于月收入这个目标属性的数据值(500元、1000元和2000元)分布为2:5:3。再根据上述目标属性的数据值分布，计算基于上述数据值分布的猜中概率；再结合误差容忍度、目标属性的数据值变化灵敏度，确定出与月收入对应的预设的安全阈值。

在一些实施例中，在目标属性的数据值为连续型数据的情况下，可以先通过检索样本集，从样本集中确定出目标属性的数据值的最大值和最低值；根据预设的数值间隔，在目标属性的最大值和最低值之间划分出多个数据值区间；根据样本集，将样本对象(或者样本数据)分别划分到对应的数据值区间中；统计并根据各个数据值区间中样本对象的数量，以确定出目标属性的预设的安全阈值。

在一些实施例中，可以将按照上述方式，单独基于样本集，在未经过规则模型处理的前提下，根据目标属性的数据值分布(或者称原始分布)，结合具体的误差容忍度、目标属性的数据值变化灵敏度等因素，确定出对应的预设的安全阈值。

利用上述预设的安全阈值可以反映出在没有经过规则模型处理的情况下猜中样本集中的某个样本对象的目标属性的数据值的概率的上限值。

S402：根据所述规则模型和所述样本集，确定出多种命中情况下的目标属性的数据值分布。

在一些实施例中，具体实施时，可以将上述样本集中的多个样本数据分别输入至规则模型中；并运行规则模型，输出各个样本数据所命中的规则集的标识信息，作为样本数据的处理结果。

进一步，可以根据样本数据的处理结果，将样本集中的样本数据分别划分到对应的命中情况中，以建立得到多种命中情况下的子样本集。

进而，可以对多种命中情况下的子样本集分别进行数据统计，以确定多种命中情况下目标属性的数据值分布。

其中，上述命中情况下目标属性的数据值分布具体可以理解为在已知所命中的规则集的情况下，目标属性的不同数据值的分布比例。

利用上述目标属性的数据值分布可以反映出经过规则模型处理后，在已经确定样本对象所命中的规则集的情况下，猜中该样本对象的目标属性的数据值的概率大小。

具体实施时，可以针对多种命中情况中的每一种命中情况，根据该命中情况下的子样本集中的样本数据，通过数据统计确定出该命中情况下目标属性的数据值分布。

S403：根据所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值，确定所述规则模型是否存在安全性风险。

在一些实施例中，具体实施时，可以通过将目标属性的预设的安全阈值与多种命中情况下相同目标属性的数据值分布分别进行数值比较，得到比较结果。进而可以根据上述比较结果，来判断经过规则模型处理后，在已知样本对象所命中的规则集的情况下，猜中该样本对象的目标属性的数据值的概率是否发生了较大改变。进而可以反向推断出所检测的规则模型是否存在安全性风险，数据提供方在运行该规则模型时是否会泄露己方所拥有的数据资源。

具体的，例如，对于样本集中目标属性月收入的原始分布为：2:5:3(分别对应于月收入数据500元、1000元和2000元)。而在已确定命中某种命中情况(例如，同时命中规则集1和规则集5)下月收入的数据值分布变为了：1:8:1。可见经过规则模型处理后，在已知命中上述命中情况后，月收入的数据值分布已经发生了变化。如果在已知命中上述命中情况后的数据值分布的变化较大，甚至大于基于原始分布所确定的预设的安全阈值，则在已知命中上述命中情况的前提下，来猜月收入的数据值的猜中概率会得到较明显的提高。例如，在上述实施例中，显然有相对较大的概率能猜出用户真实的月收入数据为1000元，使得数据提供方的数据资源遭到泄露。这种情况下，可以判定该规则模型是存在安全性风险的。

在一些实施例中，具体实施时，可以将所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值分别进行比较处理，得到比较结果；其中，所述预设的安全阈值可以根据未经过规则模型处理的样本集确定。根据所述比较结果，在确定所述多种命中情况下的目标属性的数据值分布中至少存在一种命中情况下的目标属性的数据值分布大于所述预设的安全阈值的情况下，确定所述规则模型存在安全性风险。根据所述比较结果，在确定所述多种命中情况下的目标属性的数据值分布都小于或等于所述预设的安全阈值的情况下，确定所述规则模型存在安全性风险。

其中，上述预设的安全阈值的具体数值可以根据样本集，以及目标属性的数据值变化的灵敏度、误差容忍度等因素确定。

具体的，例如，对于一些精度要求较高的应用场景，误差容忍度通常较小；同时如果目标属性数据值本身的变化幅度又较小，灵敏度较高时，可以将上述预设的安全阈值的数值设置得相对较小，以便可以灵敏、精准地发现目标属性的数据值分布的变化。

相对的，对于一些精度要求较低的应用场景，误差容忍度通常较大；同时如果目标属性数据值本身变化幅度又较大，灵敏度较小时，可以将上述预设的安全阈值的数值设置得相对较大，以降低误报率。

在一些实施例中，在按照上述方式，根据所述比较结果，在确所述多种命中情况下的目标属性的数据值分布都小于或等于预设的安全阈值的情况下，可以确定所述规则模型不存在安全性风险。这时，第二服务器可以正常地使用己方所拥有的数据资源来运行该规则模型。

在一些实施例中，在确定规则模型不存在安全性风险的情况下，具体实施时，第二服务器可以根据数据处理请求中携带的数据对象的身份标识(例如，用户的身份ID等)，从所拥有的数据资源(例如，数据库)中检索出与数据对象的身份标识匹配的信息数据。再将上述信息数据输入至规则模型中，并运行规则模型，输出数据对象所命中的规则集的标识信息作为处理结果。

进而可以第二服务器可以将上述处理结果反馈给第一服务器。第一服务器可以根据上述处理结果进行相应的数据处理。例如，第一服务器可以根据处理结果中用户对象所命中的规则集，按照预设的信用风险评级规则，来确定用户具体的信用风险等。

在一些实施例中，在按照上述方式，根据所述比较结果，在确定所述多种命中情况下的目标属性的数据值分布中至少存在一种命中情况下的目标属性的数据值分布大于所述预设的安全阈值的情况下，可以确定所述规则模型存在安全性风险。这时，第二服务器为了避免己方所拥有的数据资源在运行该规则模型时遭到泄露或者泄露超过容忍范围的信息数据，可以拒绝使用己方所拥有的数据资源来运行该规则模型。从而可以有效地保护数据提供方的数据安全，降低数据提供方所拥有的数据资源遭到泄露的风险。

在上述实施例中，通过先根据待检测的规则模型和样本集，确定出多种命中情况下目标属性的数据值分布；再根据上述多种命中情况下的目标属性的数据值分布，与单独基于样本集所确定出的预设的安全阈值进行比较，来确定规则模型是否存在安全性风险，是否会泄露数据提供方的数据资源，从而能够有效、准确地确定出规则模型的安全性，降低数据提供方由于运行不安全的规则模型导致数据发生泄露的风险。

在一些实施例中，所述根据所述规则模型和所述样本集，确定出多种命中情况下的目标属性的数据值分布，具体实施时，可以包括以下内容：利用所述规则模型处理所述样本集中的多个样本数据，得到多个样本数据的处理结果；其中，所述处理结果包括样本数据所命中的规则集的标识信息；根据所述多个样本数据的处理结果，确定出样本数据所命中的规则集；根据样本数据所命中的规则集，将所述多个样本数据划分为多种命中情况下的子样本集；根据所述多种命中情况下的子样本集，确定出多种命中情况下的目标属性的数据值分布。

在一些实施例中，所述根据所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值，确定所述规则模型是否存在安全性风险，具体实施时，可以包括以下内容：将所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值分别进行比较处理，得到比较结果；其中，所述预设的安全阈值根据所述样本集确定；根据所述比较结果，在确定所述多种命中情况下的目标属性的数据值分布中至少存在一种命中情况下的目标属性的数据值分布大于所述预设的安全阈值的情况下，确定所述规则模型存在安全性风险。

在一些实施例中，具体进行比较处理时，可以将目标属性的预设的安全阈值，与多种命中情况下的目标属性的数据值分布依次进行比较，在检测到某种命中情况下的目标属性的数据值分布大于预设的安全阈值的情况下，就可以确定该规则模型存在安全性风险，停止后续的比较处理，以减少数据处理量。

在一些实施例中，上述目标属性具体可以包括多个属性。具体实施时，可以参照基于一个目标属性的实施例，确定出多个属性的预设的安全阈值，以及多种命中情况下的多个属性的数据值分布。在对多种命中情况中的当前命中情况进行处理时，可以将多个属性的预设的安全阈值，与当前命中情况下的多个属性的数据值分布分别进行比较处理，在发现至少存在一个当前命中情况下的属性的数据值分布，大于相同属性的预设的安全阈值的情况下，可以确定该规则模型存在安全性风险。其中，对应不同属性的预设的安全阈值的数值可以不同。

在一些实施例中，又考虑到在具体的应用场景中，虽然某些命中情况下的数据对象的目标属性的数据值相对更容易猜出，但是被划分进这种命中情况下的数据对象本身数量占比相对较小。例如，1000万个样本数据中只有1个样本数据被划分到该命中情况。因此，通过这部分样本数据所能泄露出的信息数据量相对较少，仍然属于可容忍范围，这时的规则模型的安全性还是可以接受的。

在一些实施例中，为了能够更加精准地确定规则模型的安全性，在确定所述多种命中情况下的目标属性的数据值分布中至少存在一种命中情况下的目标属性的数据值分布大于所述预设的安全阈值的情况下，所述方法具体实施时，还可以包括以下内容：将大于所述预设的安全阈值的目标属性的数据值分布所对应的命中情况确定为风险命中情况；统计属于风险命中情况的样本数据在所述样本集中的比值，作为风险样本占比；根据所述风险样本占比，确定所述规则模型是否存在安全性风险。

在一些实施例中，所述根据所述风险样本占比，确定所述规则模型是否存在安全性风险，具体实施时，可以包括以下内容：比较所述风险样本占比和预设的占比阈值；在确定所述风险样本占比大于所述预设的占比阈值的情况下，确定所述规则模型存在安全性风险。

在一些实施例中，上述预设的占比阈值具体可以根据容忍度等来确定。具体的，例如，上述预设的占比阈值可以为30％。对于上述预设的占比阈值的具体数值，本说明书不作限定。

在一些实施例中，在确定所述风险样本占比大于预设的占比阈值的情况下，可以判断在运行该规则模型进行具体的数据处理时，会有数量相对较多的数据对象被划分进风险命中情况中，进而有较高的概率被猜出目标属性的数据值。对数据提供方的数据资源的数据安全的影响相对较大，超出了可容忍范围。这时，可以确定上述规则模型存在安全性风险。

在一些实施例中，在确定所述风险样本占比小于或等于预设的占比阈值的情况下，可以判断在运行该规则模型进行具体的数据处理时，只有数量相对较少的数据对象被划分进风险命中情况中。对数据提供方的数据资源的数据安全的影响相对较小，在可容忍的范围内。这时，可以确定上述规则模型不存在安全性风险。

在一些实施例中，在确定规则模型存在安全风险的情况下，进一步还可以更加精细地确定出规则模型中具体哪个规则集存在风险。

具体的，所述方法还可以包括：检索所述风险命中情况中命中的规则集，从所述风险命中情况中命中的规则集中确定出包含有目标属性的规则集作为风险规则集。

具体实施时，可以结合规则模型的基本信息中的规则集中属性的标识信息，从所述风险命中情况中命中的规则集中确定出包含有目标属性的规则集作为风险规则集。

其中，上述风险规则集具体可以理解为存在安全性风险的，会泄露数据提供方拥有的关于目标属性的数据值的规则集。

在一些实施例中，为了能够更加准确、精细地根据所述多种命中情况下的目标属性的数据值分布确定所述规则模型是否存在安全性风险，还可以引入安全指标参数作为媒介来更加精准地根据多种命中情况下的目标属性的数据值分布来检测规则模型的安全性。

其中，上述安全指标参数具体可以是目标属性的最大猜中概率。当然，上述所列举的指标参数只是一种示意性说明。具体实施时，根据具体情况和处理需求，还可以引入除上述所列举的指标参数以外其他类型的指标参数(例如，信息熵等)作为安全指标参数来表征多种命中情况下的目标属性的数据值分布，再根据上述安全指标参数和预设安全阈值来确定规则模型是否存在安全性风险。

在一些实施例中，具体实施时，可以根据所述多种命中情况下的目标属性的数据值分布，确定多种命中情况下目标属性的最大猜中概率作为对应命中情况下目标属性的安全指标参数；再将上述多种命中情况下目标属性的安全指标参数，与目标属性的预设的安全阈值分别进行比较，以确定出所述规则模型是否存在安全性风险。

在一些实施例中，第一服务器在自检时，或者第一服务器允许第二服务器或第三服务器拆解规则模型了解规则模型中的具体规则时，为了能降低数据处理量，以便更高效地发现存在安全性风险的规则模型，还可以检测所述规则模型中的规则集是否包含预设的操作符；在检测到所述规则模型中至少一个规则集包含预设的操作符的情况下，确定所述规则模型存在安全性风险。

其中，上述预设的操作符具体可以理解为一种具有较高概率泄露数据信息的操作符。例如，等于号(“＝”)、约等号(“≈”)等。当然，上述所列举的预设的操作符只是一种示意性说明。具体实施时，根据具体情况和处理需求，还可以引入其他合适的操作符作为上述预设的操作符。对此，本说明书不作限定。

在一些实施例中，在按照上述方式检测到规则模型中至少一个规则集包含有预设的操作符的情况下，可以直接确定该规则模型存在安全性风险，进而可以不需要耗费处理资源和处理时间再根据样本集和规则模型，通过确定并根据多种命中情况下的目标属性的数据值分布和预设的安全阈值来检测规则模型的安全性，从而可以有效地降低数据处理量。

在检测到规则模型中规则集都不包含有预设的操作符的情况下，可以再根据样本集和规则模型，通过确定并根据多种命中情况下的目标属性的数据值分布和预设的安全阈值来检测规则模型的安全性。

在一些实施例中，在根据所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值，确定所述规则模型是否存在安全性风险之后，所述方法具体实施时，还可以包括以下内容：在确定所述规则模型存在安全性风险的情况下，可以生成风险提示信息。其中，所述风险提示信息用于提示数据提供方拒绝运行所述规则模型。相应的，第二服务器可以根据上述风险提示信息，拒绝运行该规则模型，从而可以降低数据提供方的数据资源遭到泄露的风险。

在一些实施例中，在根据所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值，确定所述规则模型不存在安全性风险的情况下，可以生成安全提示信息。相应的，第二服务器可以根据上述安全提示信息，正常地使用己方所拥有的数据资源运行该规则模型，并得到对应的处理结果。再将上述处理结果发送给第一服务器，以反馈给模型生成方。

在一些实施例中，所述方法具体实施时，还可以包括以下内容：获取规则集中属性的标识信息；根据所述规则集中属性的标识信息，从所述规则模型中筛选出包含目标属性的规则集作为目标规则集；根据所述目标规则集，确定与目标属性关联的多种目标命中情况；根据所述样本数据，和所述规则模型，确定出多种目标命中情况下目标属性的数据值分布；根据所述多种目标命中情况下目标属性的数据值分布，和所述预设的安全阈值，确定所述规则模型是否存在安全性风险。

在一些实施例中，具体的，可以从第一服务器主动提供的规则模型的基本信息中获取规则集中属性标识信息，以确定出各个规则集所包含的属性。

在一些实施例中，为了降低数据处理量，提高处理效率，具体实施时，还可以针对目标属性，从规则模型中筛选出包含有目标属性的规则集作为目标规则集，再通过对目标规则集进行排列组合，得到与目标属性关联的多种目标命中情况。进而可以针对上述目标命中情况，有针对性地根据样本集中的样本数据，确定出多种目标命中情况下目标属性的数据值分布。进一步，可以利用上述多种目标命中情况下的目标属性的数据值分布，与目标属性的预设的安全阈值进行比较，以确定出规则模型是否存在安全性风险。这样在比较的过程中，只需要考虑较少数量的目标命中情况下的目标属性的数据值分布就可以确定出规则模型的安全性，提高了处理效率。

在一些实施例中，上述规则模型的安全性的确定方法可以应用于用户信用风险的检测场景中。具体的，在用户信用风险的检测场景中，模型生成方可以为需要确定用户的信用风险的购物网站、金融平台等，数据提供方可以为拥有大量与用户的信用相关的信息数据的银行等金融机构。相应的，所述规则模型具体可以包括模型生成方生成的用于确定用户的信用风险的规则模型。其中，上述规则模型中的规则集具体可以包括与用户的信用信息相关的判定规则。

在一些实施例中，上述规则模型的安全性的确定方法还可以应用于疾病检测场景中。具体的，在疾病检测场景中，模型生成方可以为向用户提供疾病检测服务的机构，数据提供方可以为保管有大量用户的体检数据的机构，例如，医院、体检中心等。相应的，所述规则模型具体可以包括模型生成方生成的用于确定用户罹患疾病风险的规则模型。其中，上述规则模型中的规则集具体可以包括与用户的体检数据相关的判定规则。

当然，需要说明的是，上述所列举的应用场景，以及所使用的规则模型和规则集只是一种示意性说明。具体实施时，根据具体情况，还可以将上述规则模型的安全性的确定方法应用于其他的应用场景中。对此，本说明书不作限定。

在一些实施例中，考虑到当规则模型所包含的规则集的数量较多时，所要考虑的多种命中情况的数量(2^n)数值相对较大，势必需要耗费较大数据处理量来逐个地去确定各种命中情况下的目标属性的数据值分布。为了能够有效地降低数据处理量，提高整体的数据处理效率，具体实施时，还可以根据规则模型中目标属性的出现次数，有针对性地从多种命中情况中筛选出一部分参考价值较高的命中情况，作为参考命中情况。进而可以只对上述参考命中情况下的目标属性的数据值的分布进行分析和处理，而不需要对多种命中情况下的目标属性的数据值分布都进行分析和处理，就能较为高效地确定出规则模型是否存在安全性风险。

在一些实施例中，所述方法具体实施时，还可以包括以下内容：获取规则模型中各个属性的出现次数；将出现次数最多的属性确定为参考属性，并将参考属性在规则模型中的出现次数确定为参考参数；根据所述参考参数，从多种命中情况中筛选出符合预设要求的命中情况作为参考命中情况；根据所述样本数据和所述规则模型，确定出参考命中情况下的目标属性的数据值分布；根据所述参考命中情况下的目标属性的数据值分布，和所述预设的安全阈值，确定所述规则模型是否存在安全性风险。

其中，上述符合预设要求的命中情况具体可以包括：命中规则模型中的预设个数的规则集的情况。所述预设个数的取值为大于等于1，且小于等于上述参考参数的多个整数。

在一些实施例中，具体实施时，可以根据第一服务器主动所提供的规则模型的基本信息，获取各个属性的出现次数。再统计规则模型中各个属性的出现次数，将出现次数最大的属性确定为参考属性；并将该参考属性的出现次数确定为参考次数。

进一步，可以根据上述参考次数，根据预设规则从多种命中情况中筛选出符合预设要求的命中情况作为参考命中情况。具体的，例如，参考参数为k，根据预设规则可以从多种命中情况中筛选出命中0个规则集的命中情况、命中1个规则集的命中情况……命中(k-1)个规则集的命中情况、命中k个规则集的命中情况，作为符合预设要求的参考命中情况。

进而，可以根据样本集和规则模型，确定出多种参考命中情况下的目标属性的数据值分布，而不需要去确定多种命中情况下目标属性的数据值分布。再将上述多种参考命中情况下的目标属性的数据值分布，分别与目标属性的预设的安全阈值进行比较，来确定规则模型是否存在安全性风险，是否会泄露数据提供方的数据资源。

具体的，如果确定至少一种参考命中情况下的目标属性的数据值分布大于目标属性的预设的安全阈值时，可以确定所述规则模型存在安全性风险。如果确定多种参考命中情况下的目标属性的数据值分布都不大于预设的安全阈值时，可以确定所述规则模型不存在安全性风险。

在一些实施例中，在精度要求较高的场景中，在根据多种参考命中情况下的目标属性的数据值分布与目标属性的预设的安全阈值，确定规则模型不存在安全性风险的情况下，还可以进一步再去确定多种命中情况中除参考命中情况以外的其他命中情况下的目标属性的数据值分布；再根据上述其他命中情况下的目标属性的数据值分布与目标属性的预设的安全阈值，来确定规则模型是否存在安全性风险，是否会泄露数据提供方的数据资源。

由上可见，本说明书实施例提供的规则模型的安全性的确定方法，通过先根据待检测的规则模型和样本集，确定出多种命中情况下目标属性的数据值分布；再根据上述多种命中情况下的目标属性的数据值分布，与单独基于样本集所确定出的预设的安全阈值进行比较，来确定规则模型是否存在安全性风险，是否会泄露数据提供方的数据资源，从而能够有效、准确地确定出规则模型的安全性，降低数据提供方由于运行不安全的规则模型导致数据发生泄露的风险。还通过先从规则模型中筛选出包含目标属性的规则集作为目标规则集，并根据上述目标规则集，有针对性地确定与目标属性关联的多种目标命中情况；再根据样本数据，确定出多种目标命中情况下目标属性的数据值分布；进而可以利用上述多种目标命中情况下的目标属性的数据值分布来代替多种命中情况下的目标属性的数据值分布，来确定所述规则模型是否存在安全性风险，从而可以降低检测规则模型的安全性过程中的数据处理量，提高处理效率。

本说明书实施例还提供一种服务器，包括处理器以及用于存储处理器可执行指令的存储器，所述处理器具体实施时可以根据指令执行以下步骤：获取规则模型和样本集；其中，所述规则模型包括规则集，所述规则集包含有目标属性，所述样本集包括多个样本数据；根据所述规则模型和所述样本集，确定出多种命中情况下的目标属性的数据值分布；根据所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值，确定所述规则模型是否存在安全性风险。

为了能够更加准确地完成上述指令，参阅图5所示，本说明书实施例还提供了另一种具体的服务器，其中，所述服务器包括网络通信端口501、处理器502以及存储器503，上述结构通过内部线缆相连，以便各个结构可以进行具体的数据交互。

其中，所述网络通信端口501，具体可以用于获取规则模型和样本集；其中，所述规则模型包括规则集，所述规则集包含有目标属性，所述样本集包括多个样本数据。

所述处理器502，具体可以用于根据所述规则模型和所述样本集，确定出多种命中情况下的目标属性的数据值分布；根据所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值，确定所述规则模型是否存在安全性风险。

所述存储器503，具体可以用于存储相应的指令程序。

在本实施例中，所述网络通信端口501可以是与不同的通信协议进行绑定，从而可以发送或接收不同数据的虚拟端口。例如，所述网络通信端口可以是负责进行web数据通信的端口，也可以是负责进行FTP数据通信的端口，还可以是负责进行邮件数据通信的端口。此外，所述网络通信端口还可以是实体的通信接口或者通信芯片。例如，其可以为无线移动网络通信芯片，如GSM、CDMA等；其还可以为Wifi芯片；其还可以为蓝牙芯片。

在本实施例中，所述处理器502可以按任何适当的方式实现。例如，处理器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application SpecificIntegrated Circuit，ASIC)、可编程逻辑控制器和嵌入微控制器的形式等等。本说明书并不作限定。

在本实施例中，所述存储器503可以包括多个层次，在数字系统中，只要能保存二进制数据的都可以是存储器；在集成电路中，一个没有实物形式的具有存储功能的电路也叫存储器，如RAM、FIFO等；在系统中，具有实物形式的存储设备也叫存储器，如内存条、TF卡等。

本说明书实施例还提供了一种基于上述规则模型的安全性的确定方法的计算机存储介质，所述计算机存储介质存储有计算机程序指令，在所述计算机程序指令被执行时实现：获取规则模型和样本集；其中，所述规则模型包括规则集，所述规则集包含有目标属性，所述样本集包括多个样本数据；根据所述规则模型和所述样本集，确定出多种命中情况下的目标属性的数据值分布；根据所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值，确定所述规则模型是否存在安全性风险。

在本实施例中，上述存储介质包括但不限于随机存取存储器(Random AccessMemory,RAM)、只读存储器(Read-Only Memory,ROM)、缓存(Cache)、硬盘(Hard DiskDrive,HDD)或者存储卡(Memory Card)。所述存储器可以用于存储计算机程序指令。网络通信单元可以是依照通信协议规定的标准设置的，用于进行网络连接通信的接口。

在本实施例中，该计算机存储介质存储的程序指令具体实现的功能和效果，可以与其它实施方式对照解释，在此不再赘述。

参阅图6所示，在软件层面上，本说明书实施例还提供了一种规则模型的安全性的确定装置，该装置具体可以包括以下的结构模块。

获取模块601，具体可以用于获取规则模型和样本集；其中，所述规则模型包括规则集，所述规则集包含目标属性，所述样本集包括多个样本数据。

第一确定模块602，具体可以用于根据所述规则模型和所述样本集，确定出多种命中情况下的目标属性的数据值分布。

第二确定模块603，具体可以用于根据所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值，确定所述规则模型是否存在安全性风险。

在一些实施例中，所述第二确定模块603具体可以用于将所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值分别进行比较处理，得到比较结果；其中，所述预设的安全阈值根据所述样本集确定；根据所述比较结果，在确定所述多种命中情况下的目标属性的数据值分布中至少存在一种命中情况下的目标属性的数据值分布大于所述预设的安全阈值的情况下，确定所述规则模型存在安全性风险。

在一些实施例中，所述装置具体实施时，还可以用于获取规则集中属性的标识信息；根据所述规则集中属性的标识信息，从所述规则模型中筛选出包含目标属性的规则集作为目标规则集；根据所述目标规则集，确定与目标属性关联的多种目标命中情况；根据所述样本数据，和所述规则模型，确定出多种目标命中情况下目标属性的数据值分布；根据所述多种目标命中情况下目标属性的数据值分布，和所述预设的安全阈值，确定所述规则模型是否存在安全性风险。

需要说明的是，上述实施例阐明的单元、装置或模块等，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。为了描述的方便，描述以上装置时以功能分为各种模块分别描述。当然，在实施本说明书时可以把各模块的功能在同一个或多个软件和/或硬件中实现，也可以将实现同一功能的模块由多个子模块或子单元的组合实现等。以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

由上可见，本说明书实施例提供的规则模型的安全性的确定装置，能够有效、准确地确定出规则模型的安全性，降低数据提供方由于运行不安全的规则模型导致数据发生泄露的风险。

虽然本说明书提供了如实施例或流程图所述的方法操作步骤，但基于常规或者无创造性的手段可以包括更多或者更少的操作步骤。实施例中列举的步骤顺序仅仅为众多步骤执行顺序中的一种方式，不代表唯一的执行顺序。在实际中的装置或客户端产品执行时，可以按照实施例或者附图所示的方法顺序执行或者并行执行(例如并行处理器或者多线程处理的环境，甚至为分布式数据处理环境)。术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、产品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、产品或者设备所固有的要素。在没有更多限制的情况下，并不排除在包括所述要素的过程、方法、产品或者设备中还存在另外的相同或等同要素。第一，第二等词语用来表示名称，而并不表示任何特定的顺序。

本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内部包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。

本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构、类等等。也可以在分布式计算环境中实践本说明书，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。

通过以上的实施例的描述可知，本领域的技术人员可以清楚地了解到本说明书可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，本说明书的技术方案本质上可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，移动终端，服务器，或者网络设备等)执行本说明书各个实施例或者实施例的某些部分所述的方法。

本说明书中的各个实施例采用递进的方式描述，各个实施例之间相同或相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。本说明书可用于众多通用或专用的计算机系统环境或配置中。例如：个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。

虽然通过实施例描绘了本说明书，本领域普通技术人员知道，本说明书有许多变形和变化而不脱离本说明书的精神，希望所附的权利要求包括这些变形和变化而不脱离本说明书的精神。

Claims (13)

1.一种规则模型的安全性的确定方法，包括：

获取规则模型和样本集；其中，所述规则模型包括规则集，所述规则集包含有目标属性，所述样本集包括多个样本数据；

根据所述规则模型和所述样本集，确定出多种命中情况下的目标属性的数据值分布；其中，根据所述规则模型和所述样本集，确定出多种命中情况下的目标属性的数据值分布，包括：利用所述规则模型处理所述样本集中的多个样本数据，得到多个样本数据的处理结果；其中，所述处理结果包括样本数据所命中的规则集的标识信息；根据所述多个样本数据的处理结果，确定出样本数据所命中的规则集；根据样本数据所命中的规则集，将所述多个样本数据划分为多种命中情况下的子样本集；根据所述多种命中情况下的子样本集，确定出多种命中情况下的目标属性的数据值分布；所述目标属性的数据值分布用于反映经过规则模型处理后，在已经确定样本对象所命中的规则集的情况下，猜中该样本对象的目标属性的数据值的概率大小；

根据所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值，确定所述规则模型是否存在安全性风险；其中，所述预设的安全阈值根据样本集中各个目标属性的数据值分布设置。

2.根据权利要求1所述的方法，所述根据所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值，确定所述规则模型是否存在安全性风险，包括：

将所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值分别进行比较处理，得到比较结果；其中，所述预设的安全阈值根据所述样本集确定；

根据所述比较结果，在确定所述多种命中情况下的目标属性的数据值分布中至少存在一种命中情况下的目标属性的数据值分布大于所述预设的安全阈值的情况下，确定所述规则模型存在安全性风险。

3.根据权利要求2所述的方法，在确定所述多种命中情况下的目标属性的数据值分布中至少存在一种命中情况下的目标属性的数据值分布大于所述预设的安全阈值的情况下，所述方法还包括：

将大于所述预设的安全阈值的目标属性的数据值分布所对应的命中情况确定为风险命中情况；

统计属于风险命中情况的样本数据在所述样本集中的比值，作为风险样本占比；

根据所述风险样本占比，确定所述规则模型是否存在安全性风险。

4.根据权利要求3所述的方法，所述根据所述风险样本占比，确定所述规则模型是否存在安全性风险，包括：

比较所述风险样本占比和预设的占比阈值；

在确定所述风险样本占比大于所述预设的占比阈值的情况下，确定所述规则模型存在安全性风险。

5.根据权利要求3所述的方法，所述方法还包括：

检索所述风险命中情况中命中的规则集，从所述风险命中情况中命中的规则集中确定出包含有目标属性的规则集作为风险规则集。

6.根据权利要求1所述的方法，在根据所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值，确定所述规则模型是否存在安全性风险之后，所述方法还包括：

在确定所述规则模型存在安全性风险的情况下，生成风险提示信息；其中，所述风险提示信息用于提示数据提供方拒绝运行所述规则模型。

7.根据权利要求1所述的方法，所述方法还包括：

获取规则集中属性的标识信息；

根据所述规则集中属性的标识信息，从所述规则模型中筛选出包含目标属性的规则集作为目标规则集；

根据所述目标规则集，确定与目标属性关联的多种目标命中情况；

根据所述样本数据，和所述规则模型，确定出多种目标命中情况下目标属性的数据值分布；

根据所述多种目标命中情况下目标属性的数据值分布，和所述预设的安全阈值，确定所述规则模型是否存在安全性风险。

8.根据权利要求1所述的方法，所述方法还包括：

获取规则模型中各个属性的出现次数；

将出现次数最多的属性确定为参考属性，并将参考属性在规则模型中的出现次数确定为参考参数；

根据所述参考参数，从多种命中情况中筛选出符合预设要求的命中情况作为参考命中情况；

根据所述样本数据和所述规则模型，确定出参考命中情况下的目标属性的数据值分布；

根据所述参考命中情况下的目标属性的数据值分布，和所述预设的安全阈值，确定所述规则模型是否存在安全性风险。

9.根据权利要求1所述的方法，所述规则模型包括用于确定用户的信用风险的规则模型，相应的，所述规则集包括与用户的信用相关的判定规则。

10.一种规则模型的安全性的确定装置，包括：

获取模块，用于获取规则模型和样本集；其中，所述规则模型包括规则集，所述规则集包含目标属性，所述样本集包括多个样本数据；

第一确定模块，用于根据所述规则模型和所述样本集，确定出多种命中情况下的目标属性的数据值分布；其中，所述第一确定模块具体用于利用所述规则模型处理所述样本集中的多个样本数据，得到多个样本数据的处理结果；其中，所述处理结果包括样本数据所命中的规则集的标识信息；根据所述多个样本数据的处理结果，确定出样本数据所命中的规则集；根据样本数据所命中的规则集，将所述多个样本数据划分为多种命中情况下的子样本集；根据所述多种命中情况下的子样本集，确定出多种命中情况下的目标属性的数据值分布；所述目标属性的数据值分布用于反映经过规则模型处理后，在已经确定样本对象所命中的规则集的情况下，猜中该样本对象的目标属性的数据值的概率大小；

第二确定模块，用于根据所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值，确定所述规则模型是否存在安全性风险；其中，所述预设的安全阈值根据样本集中各个目标属性的数据值分布设置。

11.根据权利要求10所述的装置，所述第二确定模块具体用于将所述多种命中情况下的目标属性的数据值分布，和预设的安全阈值分别进行比较处理，得到比较结果；其中，所述预设的安全阈值根据所述样本集确定；根据所述比较结果，在确定所述多种命中情况下的目标属性的数据值分布中至少存在一种命中情况下的目标属性的数据值分布大于所述预设的安全阈值的情况下，确定所述规则模型存在安全性风险。

12.一种服务器，包括处理器以及用于存储处理器可执行指令的存储器，所述处理器执行所述指令时实现权利要求1至9中任一项所述方法的步骤。

13.一种计算机可读存储介质，其上存储有计算机指令，所述指令被执行时实现权利要求1至9中任一项所述方法的步骤。

Images