CN111144718A - 基于私有数据保护的风险决策方法、装置、系统及设备 - Google Patents

Abstract

本说明书实施例提供一种私有数据保护的风险决策方法、装置、系统及设备。方法应用于目标联邦学习训练中的目标成员对象，包括：将属于私有数据的风险特征集合输入至本地的第一风控模型，确定目标风险特征维度的预测贡献值，目标风险特征维度为该风险特征集合和第一风控模型对应的其中一个风险特征维度，第一风控模通过目标联邦学习训练得到。接收目标联邦学习训练的其他成员对象发送的目标风险特征维度的预测贡献值，其他成员对象确定的目标风险特征维度的预测贡献值的方法与目标成员对象一致。基于包含自身在内的至少两个成员对象确定的目标风险特征维度的预测贡献值，确定目标风险特征维度的重要性的解释数据，以进行风险决策。

Description

基于私有数据保护的风险决策方法、装置、系统及设备

技术领域

本文件涉及人工智能技术领域，尤其涉及一种基于私有数据保护的风险决策方法、装置、系统及设备。

背景技术

风控模型凭借机械化的风险预测能力，被越来越多的机构所重视。联邦学习能够在保证机构私有数据隐私的基础上，帮助机构之间协作建模，从而解决风险样本数据分布割裂的问题。

现阶段，联邦学习的应用只局限于建模，通过这种方式只能得到风控模型的预测能力，但无法对风险进行解释。相比于风险预测结果，机构更看重的是导致风险的原因。为此，有必要提出一种通过联邦学习训练的风控模型对风险进行解释，从而挖掘风险更深层的信息，以辅助机构进行风控决策的技术方案。

发明内容

本文件目的是提供一种基于私有数据保护的风险决策方法、装置、系统及设备，能够通过联邦学习训练的风控模型对风险进行解释，从而挖掘风险更深层的信息，以辅助机构进行风险决策。

为了实现上述目的，本说明书实施例是这样实现的：

第一方面，提供一种私有数据保护的风险决策方法，包括：

目标联邦学习训练中的目标成员对象将属于私有数据的风险特征集合输入至本地的第一风控模型，确定目标风险特征维度的预测贡献值，其中，所述目标风险特征维度为所述目标成员对象的风险特征集合和所述第一风控模型对应的其中一个风险特征维度，所述第一风控模通过所述目标联邦学习训练得到；

所述目标成员对象接收所述目标联邦学习训练中的其他成员对象发送的所述目标风险特征维度的预测贡献值，其中，所述其他成员对象发送的目标风险特征维度的预测贡献值是所述其他成员对象将属于私有数据的风险特征集合输入至所述其他成员对象的第二风控模型确定得到的，所述第二风控模通过所述目标联邦学习训练得到，所述目标风险特征维度为所述其他成员对象的风险特征集合和所述第二风控模型对应的其中一个风险特征维度；

所述目标成员对象基于包含所述目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值，确定所述目标风险特征维度的重要性的解释数据，以基于所述解释数据进行风险决策。

第二方面，提供一种私有数据保护的风险决策装置，包括：

预测模块，将目标联邦学习训练中的目标成员对象的风险特征集合输入至所述目标成员对象的第一风控模型，确定目标风险特征维度的预测贡献值，其中，所述目标风险特征维度为所述目标成员对象的风险特征集合和所述第一风控模型对应的其中一个风险特征维度，所述第一风控模通过所述目标联邦学习训练得到；

接收模块，接收所述目标联邦学习训练中的其他成员对象发送的所述目标风险特征维度的预测贡献值，其中，所述其他成员对象发送的目标风险特征维度的预测贡献值是所述其他成员对象将属于私有数据的风险特征集合输入至所述其他成员对象的第二风控模型确定得到的，所述第二风控模通过所述目标联邦学习训练得到，所述目标风险特征维度为所述其他成员对象的风险特征集合和所述第二风控模型对应的其中一个风险特征维度；

决策模块，基于包含所述目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值，确定所述目标风险特征维度的重要性的解释数据，以基于所述解释数据进行风险决策。

第三方面，提供一种风险决策系统，包括：包括：目标联邦学习训练中的至少两个成员对象，其中，

所述至少两个成员对象中的目标成员对象将本地的属于私有数据的风险特征集合输入至本地的第一风控模型，确定目标风险特征维度的预测贡献值，其中，所述目标风险特征维度为本地的风险特征集合和所述第一风控模型对应的其中一个风险特征维度，所述第一风控模通过所述目标联邦学习训练得到的；

所述目标成员对象接收所述目标联邦学习训练中的其他成员对象发送的所述目标风险特征维度的预测贡献值，其中，所述其他成员对象发送的目标风险特征维度的预测贡献值是所述其他成员对象将属于私有数据的风险特征集合输入至所述其他成员对象的第二风控模型确定得到的，所述第二风控模通过所述目标联邦学习训练得到，所述目标风险特征维度为所述其他成员对象的风险特征集合和所述第二风控模型对应的其中一个风险特征维度；

所述目标成员对象基于包含所述目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值，确定所述目标风险特征维度的重要性的解释数据，以基于所述解释数据进行风险决策。

第四方面，提供一种电子设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行：

将目标联邦学习训练中的目标成员对象的风险特征集合输入至所述目标成员对象的第一风控模型，确定目标风险特征维度的预测贡献值，其中，所述目标风险特征维度为所述目标成员对象的风险特征集合和所述第一风控模型对应的其中一个风险特征维度，所述第一风控模通过所述目标联邦学习训练得到；

接收所述目标联邦学习训练中的其他成员对象发送的所述目标风险特征维度的预测贡献值，其中，所述其他成员对象发送的目标风险特征维度的预测贡献值是所述其他成员对象将属于私有数据的风险特征集合输入至所述其他成员对象的第二风控模型确定得到的，所述第二风控模通过所述目标联邦学习训练得到，所述目标风险特征维度为所述其他成员对象的风险特征集合和所述第二风控模型对应的其中一个风险特征维度；

基于包含所述目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值，确定所述目标风险特征维度的重要性的解释数据，以基于所述解释数据进行风险决策。

第五方面，提供一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如下步骤：

将目标联邦学习训练中的目标成员对象的风险特征集合输入至所述目标成员对象的第一风控模型，确定目标风险特征维度的预测贡献值，其中，所述目标风险特征维度为所述目标成员对象的风险特征集合和所述第一风控模型对应的其中一个风险特征维度，所述第一风控模通过所述目标联邦学习训练得到；

接收所述目标联邦学习训练中的其他成员对象发送的所述目标风险特征维度的预测贡献值，其中，所述其他成员对象发送的目标风险特征维度的预测贡献值是所述其他成员对象将属于私有数据的风险特征集合输入至所述其他成员对象的第二风控模型确定得到的，所述第二风控模通过所述目标联邦学习训练得到，所述目标风险特征维度为所述其他成员对象的风险特征集合和所述第二风控模型对应的其中一个风险特征维度；

基于包含所述目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值，确定所述目标风险特征维度的重要性的解释数据，以基于所述解释数据进行风险决策。

本说明书实施例的方案中，各成员对象联邦学习训练自己的风控模型，利用风控模型对私有数据的风险特征进行解释，确定目标风险特征维度的预测贡献值，并将本地确定的目标风险特征维度的预测贡献值共享至其他成员对象，使得任何成员对象均可以根据不同成员对象所确定的目标风险特征维度的预测贡献值，多维度评估目标风险特征维度的重要性，从而执行合理的风险决策。整个过程中，各成员对象交互的是预测贡献值，而敏感性较强的属于私有数据的风险特征不会出阈，因此可保护私有数据的隐私，实现成员对象之间互惠互利的技术效果。

附图说明

为了更清楚地说明本说明书实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书实施例中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为联邦学习训练的示意图。

图2为本说明书实施例提供的私有数据保护的风险决策方法的步骤示意图。

图3为本说明书实施例提供的私有数据保护的风险决策装置的结构示意图；

图4为本说明书实施例提供的风险决策系统的结构示意图；

图5为本说明书实施例提供的电子设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本说明书中的技术方案，下面将结合本说明书实施例中的附图，对本说明书实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本说明书保护的范围。

如前所述，联邦学习能够在保证机构私有数据隐私的基础上，帮助机构之间协作建模，从而解决风险样本数据分布割裂的问题。目前联邦学习的应用只局限于建模，通过这种方式只能得到风控模型的预测能力，但无法对风险进行解释。相比于风险预测结果，机构更看重的是导致风险的原因。

在此背景下，本文件旨在提出一种能够通过联邦学习训练的风控模型对风险进行解释，以辅助机构进行风险决策的技术方案。

为更方便理解本文件的方案，下面对联邦学习训练进行介绍。

参考图1，假设企业A和企业B联合训练一个机器学习模型，它们的业务系统分别拥有各自用户的相关数据。此外，企业B还拥有模型需要预测的标签数据。出于数据隐私保护和安全考虑，A和B无法直接进行数据交换，可使用联邦学习训练模型。

其中，联邦学习训练包括：

第一部分：(加密)样本对齐。由于两家企业的用户群体并非完全重合，系统利用基于加密的用户样本对齐技术，在A和B不公开各自数据的前提下确认双方的共有用户，并且不暴露不互相重叠的用户，以便联合这些用户的特征进行建模。

第二部分：加密模型训练。在确定共有用户群体后，就可以利用这些数据训练机器学习模型。为了保证训练过程中数据的保密性，需要借助第三方协作者C进行加密训练。以线性回归模型为例，训练过程可分为以下4步：

第①步：协作者C把公钥分发给A和B，用以对训练过程中需要交换的数据进行加密。

第②步：A和B之间以加密形式交互用于计算梯度的中间结果。

第③步：A和B分别基于加密的梯度值进行计算，同时B根据其标签数据计算损失，并把结果汇总给C。C通过汇总结果计算总梯度值并将其解密。

第④步：C将解密后的总梯度值分别回传给A和B，A和B根据总梯度值更新各自模型的参数。这里，A和B各自的模型具有相同的风险特征维度，但更新各自模型的参数方法并不一定相同，也就是说，模型A和模型B中风险特征的权重值可能存在差异。

通过迭代上述步骤直至损失函数收敛，这样就完成了整个联邦学习训练过程。在样本对齐及模型训练过程中，A和B各自的私有数据始终保留在本地，不存在暴露的风险。

在联邦学习训练的基础上，本说明书实施例具体提供一种私有数据保护的风险决策方法。图2是本说明书实施例私有数据保护的风险决策方法的流程图。图2所示的方法可以由下文相对应的装置执行，包括：

步骤S202，目标联邦学习训练中的目标成员对象将属于私有数据的风险特征集合输入至本地的第一风控模型，确定目标风险特征维度的预测贡献值，其中，目标风险特征维度为目标成员对象的风险特征集合和第一风控模型对应的其中一个风险特征维度，第一风控模通过目标联邦学习训练得到。

其中，目标联邦学习训练中的目标成员对象可以是提供具有一定风险业务的服务机构，比如银行机构、支付应用机构、商户机构等，这些机构能够通过自身开展的业务，收集风险特征。

应理解，在目标联邦学习训练中，基于安全多方计算协议，各成员对象之间不会将自己私有数据的风险特征集合暴露给其他成员对象。

具体地，目标成员对象确定目标风险特征维度的预测贡献值的具体步骤包括：

步骤S2021，目标成员对象按照本地的第一风控模型具有的风险特征维度，确定多种风险特征维度组合，该多种风险特征维度组合中的至少一部分不包含有目标风险特征维度。

步骤S2022，目标成员对象按照所述多种风险特征维度组合，将属于私有数据的风险特征集合输入至本地的第一风控模型，确定多种预测结果。

步骤S2023，目标成员对象基于对应有目标风险特征维度的预测结果的预测值总和，以及未对应有目标风险特征维度的预测结果的预测值总和，确定目标风险特征维度的预测贡献值。

作为步骤S2021至步骤S2023的示例性介绍：

假设第一风控模型的风险特征维度包括风险特征维度“年龄”、“职业”和“居住地”，则目标成员对象可以穷举出风险特征维度A、B、C所有可能的风险特征维度组合，包括：

风险特征维度组合1：“年龄”+“职业”+“居住地”。

风险特征维度组合2：“年龄”+“职业”。

风险特征维度组合3：“职业”+“居住地”。

进一步地，假设目标成员对象的风险特征集合为{年龄：16岁、25岁；职业：学生、公司职员；居住地：北京、天津}，则将风险特征集合按照风险特征维度组合1输入至第一风控模型可以包括:

将{16岁、学生、北京}输入第一风控模型。

将{16岁、公司职员、北京}输入第一风控模型。

将{16岁、学生、天津}输入第一风控模型。

将{16岁、公司职员、天津}输入第一风控模型。

将{25岁、学生、北京}输入第一风控模型。

将{25岁、公司职员、北京}输入第一风控模型。

将{25岁、学生、天津}输入第一风控模型。

将{25岁、公司职员、天津}输入第一风控模型。

显然，将风险特征集合按照风险特征维度组合1输入至第一风控模型是指，按照风险特征维度组合1，穷举出风险特征集合中所有风险特征组合，并基于第一风控模型对所有风险特征组合进行预测，得到各个风险特征组合。

假设“年龄”作为目标风险特征维度，则目标成员对象可以确定出具有“年龄”风险特征的风险特征组合的预测值总和，以及未具有“年龄”风险特征的风险特征组合的预测值总和。显然，通过对比两者的预测值总和，可以确定出“年龄”对预测结果所产生的影响。比如，两者的预测值总和差值越大，则说明“年龄”对预测结果的影响越重要，对应的预测贡献值也就越高。

步骤S204，目标成员对象接收目标联邦学习训练中的其他成员对象发送的目标风险特征维度的预测贡献值，其中，其他成员对象发送的目标风险特征维度的预测贡献值是其他成员对象将属于私有数据的风险特征集合输入至其他成员对象的第二风控模型确定得到的，第二风控模通过目标联邦学习训练得到，目标风险特征维度为其他成员对象的风险特征集合和第二风控模型对应的其中一个风险特征维度。

应理解，其他成员对象所确定的目标风险特征维度的预测贡献值的方法与所述目标成员对象确定的目标风险特征维度的预测贡献值的方法一致，由于原理相同，本文不再赘述介绍。

步骤S206，目标成员对象基于包含目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值，确定目标风险特征维度的重要性的解释数据，以基于解释数据进行风险决策。

应理解，目标成员对象可以通过自身确定的目标风险特征维度的预测贡献值，与其他成员对象确定的目标风险特征维度的预测贡献值进行对比，或对至少两个成员对象确定的目标风险特征维度的预测贡献值进行加权计算，从而以全局角度评估目标风险特征维度的对于风险预测的重要性，以执行合理的风险决策。

比如，某一支付应用服务方获知某个风险特征维度对风险预测的重要性较高，则将在支付认证过程中，特意获取用户关于这一风险特征维度的特征值，并基于这个特征值进行风险评估。

本说明书实施例的风险决策方法中，各成员对象联邦学习训练自己的风控模型，利用风控模型对私有数据的风险特征进行解释，确定目标风险特征维度的预测贡献值，并将本地确定的目标风险特征维度的预测贡献值共享至其他成员对象，使得任何成员对象均可以根据不同成员对象所确定的目标风险特征维度的预测贡献值，多维度评估目标风险特征维度的重要性，从而执行合理的风险决策。整个过程中，各成员对象交互的是预测贡献值，而敏感性较强的属于私有数据的风险特征不会出阈，因此可保护私有数据的隐私，实现成员对象之间互惠互利的技术效果。

此外，目标成员对象还可以将目标成员对象确定到的目标风险特征维度的预测贡献值发送至目标联邦学习训练中的其他成员对象，使得其他成员对象也可以确定目标风险特征维度的重要性的解释数据。

这里需要说明的是，本说明书实施例不对第一风控模型和第二风控模型作具体限定，第一风控模型和第二风控模型可以是对风险具有分类功能模型，比如，极度梯值Xgboost模型、梯度提升迭代决策树GBDT模型等。

下面结合实际的应用场景，对本说明书实施例的风险决策方法进行示介绍。

本应用场景中，假设目标联邦学习训练的成员对象包括某地区的银行、商户。这些机构的用户群体包含了该地区内大部分居民，因此用户的交集较大。但是银行记录的都是用户的收支行为与信用评级，而商户则记录用户的浏览与购买历史，显然这些机构收集的风险特征交集较小，且具有很大局限性，因此通过纵向联邦学习训练的方式实现多风险特征维度的模型搭建。

应理解，在纵向联邦学习训练中，银行和商户都会提供出符合各自业务特点的风险特征维度，以作为风控模型的底层向量。也就是说，通过纵向联邦学习训练所构建的风控模型会具有银行和商户各自的业务特点的风险特征维度。比如，符合商户业务特点的风险特征维度可以包括用户的“月购物积分”、“是否为购物会员”，符合银行业务特点的风险特征维度可以包括用户的“年逾期次数”、“月还贷金额”等。

为方便理解，限定本应用场景的风控模型包括风险特征维度A、B、C、D。其中，风险特征维度A、B为银行业务特点的风险特征维度，风险特征维度C、D为商户业务特点的风险特征维度。

这里，银行并不清楚风险特征维度A是否可以作为判断用户具有风险的依据，因此需要联合商户，使用各自的风控模型对风险特征维度A进行解释。

其中，对于银行侧来讲，银行需要将自己的风险特征集合输入至本地的与商户纵向联邦学习训练构建的风控模型中，以评估风险特征维度A的预测贡献值。同理，对于商户侧来讲，商户也需要将自己的风险特征集合输入至本地的银行纵向联邦学习训练构建的风控模型中，以评估风险特征维度A的预测贡献值。

商户在确定出风险特征维度A的预测贡献值后，可以将风险特征维度A的预测贡献值发送给银行，由银行基于自己用户数据所确定的风险特征维度A的预测贡献值，与来自商户的用户数据所确定的风险特征维度A的预测贡献值进行对比，评估出风险特征维度A对判断用户是否具有风险的重要性。

显然，在本应用场景中，银行、商户会根据自身业务需求，在纵向联邦训练中，提供符合各自业务特点的风险特征维度。人和社会是复杂的，银行提供的风险特征维度具有很大的局限性，银行本身不能证明出风险特征维度A可以作为判断用户存在风险的依据。通过本说明书实施例的风险决策方法，银行可以与商户约定基于共同联邦学习训练的风控模型，以各自业务领域的用户数据对风险特征维度A的进行解释，从而使银行能够从全局多维度的角度客观分析风险特征维度A对风险预测的重要性，进而指定出更符合客观规律的风险决策。

以上是对本说明书实施例的方法的介绍。应理解，在不脱离本文上述原理基础之上，还可以进行适当的变化，这些变化也应视为本说明书实施例的保护范围。比如，目标成员对象基于目标风险特征维度的重要性的解释数据，确定目标联邦学习训练中提供目标风险特征维度的成员对象的贡献值，其中，目标联邦学习训练中成员对象的贡献值与成员对象在所述目标联邦学习训练中的赋能策略相关联。简单举例来讲：假设本说明书实施例中，目标联邦学习训练中的成员对象包括：银行、商户、独立软件开发商和支付应用服务方。如果目标风险特征维度是独立软件开发商提出的(目标风险特征维度符合独立软件开发商的业务特点)，当银行、商户和支付应用服务方确定出目标风险特征维度的重要性较低时，则可以确定独立软件开发商对于目标联邦学习所作出的贡献较低，对应地，独立软件开发商在目标联邦学习中所赋予的权利也相应受到限制。

与上述风险决策方法相对应地，本说明书实施例还提供一种私有数据保护的风险决策装置。图3为私有数据保护的风险决策装置300的结构示意图，包括：

预测模块310，将目标联邦学习训练中的目标成员对象的风险特征集合输入至所述目标成员对象的第一风控模型，确定目标风险特征维度的预测贡献值，其中，所述目标风险特征维度为所述目标成员对象的风险特征集合和所述第一风控模型对应的其中一个风险特征维度，所述第一风控模通过所述目标联邦学习训练得到；

接收模块320，接收所述目标联邦学习训练中的其他成员对象发送的所述目标风险特征维度的预测贡献值，其中，所述其他成员对象发送的目标风险特征维度的预测贡献值是所述其他成员对象将属于私有数据的风险特征集合输入至所述其他成员对象的第二风控模型确定得到的，所述第二风控模通过所述目标联邦学习训练得到，所述目标风险特征维度为所述其他成员对象的风险特征集合和所述第二风控模型对应的其中一个风险特征维度；

解释模块330，基于包含所述目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值，确定所述目标风险特征维度的重要性的解释数据，以基于所述解释数据进行风险决策。

本说明书实施例的非赋能成员对象基于安全多方计算协议，将加密处理的私有风险特征发送给赋能成员对象，由赋能成员对象对各成员对象的私有风险特征进行汇总，并输入至联邦风控模型以进行风险预测，确定出各私有风险特征的预测贡献值，并将各风险特征的预测贡献值的解释数据发送至非赋能成员对象。基于该解释数据，非赋能成员对象可以确定自己提供的私有风险特征在全局中的预测贡献水准，从而确定自己提供的私有风险特征是否可以作为判断风险的依据，进而执行合理的风险决策。对于非赋能成员对象来讲，在安全多方计算协议下，自己的风险特征数据不会暴露给其他成员对象，因此参与联邦学习训练的积极性较强，对于联合风控的发展起到一定的促进作用。

应理解，本说明书实施例的非赋能成员对象可以实现图1所示的风险决策方法中关于非赋能成员所执行的全部步骤，因此起到了图1所示的风险决策方法中非赋能成员对象所对应的技术效果。由于原理相同，本文不再赘述。

与上述风险决策方法相对应地，本说明书实施例还提供一种私有数据保护的风险决策装置。图3为赋能成员对象300的结构示意图，包括：

预测模块310，将目标联邦学习训练中的目标成员对象的风险特征集合输入至所述目标成员对象的第一风控模型，确定目标风险特征维度的预测贡献值，其中，所述目标风险特征维度为所述目标成员对象的风险特征集合和所述第一风控模型对应的其中一个风险特征维度，所述第一风控模通过所述目标联邦学习训练得到。

接收模块320，接收所述目标联邦学习训练中的其他成员对象发送的所述目标风险特征维度的预测贡献值，其中，所述其他成员对象发送的目标风险特征维度的预测贡献值是所述其他成员对象将属于私有数据的风险特征集合输入至所述其他成员对象的第二风控模型确定得到的，所述第二风控模通过所述目标联邦学习训练得到，所述目标风险特征维度为所述其他成员对象的风险特征集合和所述第二风控模型对应的其中一个风险特征维度。

决策模块330，基于包含所述目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值，确定所述目标风险特征维度的重要性的解释数据，其中，所述解释数据用于风险决策。

基于本说明书实施例的风险决策装置中，各成员对象联邦学习训练自己的风控模型，利用风控模型对私有数据的风险特征进行解释，确定目标风险特征维度的预测贡献值，并将本地确定的目标风险特征维度的预测贡献值共享至其他成员对象，使得任何成员对象均可以根据不同成员对象所确定的目标风险特征维度的预测贡献值，多维度评估目标风险特征维度的重要性，从而为后续制定风险决策提供数据支持。整个过程中，各成员对象交互的是预测贡献值，而敏感性较强的属于私有数据的风险特征不会出阈，因此可保护私有数据的隐私，实现成员对象之间互惠互利的技术效果。

可选地，所述预测模块310在执行时，具体按照联邦风控模型具有的风险特征维度，确定属于私有数据的风险特征集合的多种风险特征组合；将所述多种风险特征组合输入至联邦风控模型，得到所述多种风险特征组合的预测值；基于包含有所述目标风险特征维度的风险特征的风险特征组合的预测值总和，以及未包含有所述目标风险特征维度的风险特征的风险特征组合的预测值总和，确定所述目标风险特征维度的预测贡献值。

可选地，所述解释模块330在执行时，具体对包含所述目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值进行加权计算，确定所述目标风险特征维度的重要性的解释数据。

可选地，所述目标联邦学习训练属于纵向联邦学习训练。

可选地，所述目标成员对象基于所述目标风险特征维度的重要性的解释数据，确定所述目标联邦学习训练中提供所述目标风险特征维度的成员对象的贡献值，其中，所述目标联邦学习训练中成员对象的贡献值与成员对象在所述目标联邦学习训练中的赋能策略相关联。

可选地，本说明书实施例的风险决策装置还包括：

发送模块，将所述目标成员对象确定到的目标风险特征维度的预测贡献值发送至所述目标联邦学习训练中的其他成员对象。

应理解，本说明书实施例的风险决策装置可以作为图2所示的风险决策方法的执行主体，实现该风险决策方法在图2所实现的功能。由于原理相同，本文不再赘述。

此外，与上述风险决策方法相对应地，本说明书实施例还提供一种风险决策系统。图4是该风险决策系统的结构示意图，包括：目标联邦学习训练中的至少两个成员对象，其中，

所述至少两个成员对象中的目标成员对象410将本地的属于私有数据的风险特征集合输入至本地的第一风控模型，确定目标风险特征维度的预测贡献值，其中，所述目标风险特征维度为本地的风险特征集合和所述第一风控模型对应的其中一个风险特征维度，所述第一风控模通过所述目标联邦学习训练得到的。

所述目标成员对象410接收所述目标联邦学习训练中的其他成员对象420发送的所述目标风险特征维度的预测贡献值，其中，所述其他成员对象420发送的目标风险特征维度的预测贡献值是所述其他成员对象420将属于私有数据的风险特征集合输入至所述其他成员对象420的第二风控模型确定得到的，所述第二风控模通过所述目标联邦学习训练得到，所述目标风险特征维度为所述其他成员对象420的风险特征集合和所述第二风控模型对应的其中一个风险特征维度。

所述目标成员对象410基于包含所述目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值，确定所述目标风险特征维度的重要性的解释数据，以基于所述解释数据进行风险决策。

本说明书实施例的风险决策系统中，各成员对象联邦学习训练自己的风控模型，利用风控模型对私有数据的风险特征进行解释，确定目标风险特征维度的预测贡献值，并将本地确定的目标风险特征维度的预测贡献值共享至其他成员对象，使得任何成员对象均可以根据不同成员对象所确定的目标风险特征维度的预测贡献值，多维度评估目标风险特征维度的重要性，从而执行合理的风险决策。整个过程中，各成员对象交互的是预测贡献值，而敏感性较强的属于私有数据的风险特征不会出阈，因此可保护私有数据的隐私，实现成员对象之间互惠互利的技术效果。

显然，本说明书实施例的风险决策系统可以作为上述图2所示的风险决策方法的执行主体，因此实现了该风险决策方法在图2所实现的功能。由于原理相同，本文不再赘述。

图5是本说明书的一个实施例电子设备的结构示意图。请参考图5，在硬件层面，该电子设备包括处理器，可选地还包括内部总线、网络接口、存储器。其中，存储器可能包含内存，例如高速随机存取存储器(Random-Access Memory，RAM)，也可能还包括非易失性存储器(non-volatile memory)，例如至少1个磁盘存储器等。当然，该电子设备还可能包括其他业务所需要的硬件。

处理器、网络接口和存储器可以通过内部总线相互连接，该内部总线可以是ISA(Industry Standard Architecture，工业标准体系结构)总线、PCI(PeripheralComponent Interconnect，外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture，扩展工业标准结构)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图5中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。

存储器，用于存放程序。具体地，程序可以包括程序代码，所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器，并向处理器提供指令和数据。

处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，在逻辑层面上形成上述私有数据保护的风险决策方装置。处理器，执行存储器所存放的程序，并具体用于执行以下操作：

将目标联邦学习训练中的目标成员对象的风险特征集合输入至所述目标成员对象的第一风控模型，确定目标风险特征维度的预测贡献值，其中，所述目标风险特征维度为所述目标成员对象的风险特征集合和所述第一风控模型对应的其中一个风险特征维度，所述第一风控模通过所述目标联邦学习训练得到。

接收所述目标联邦学习训练中的其他成员对象发送的所述目标风险特征维度的预测贡献值，其中，所述其他成员对象发送的目标风险特征维度的预测贡献值是所述其他成员对象将属于私有数据的风险特征集合输入至所述其他成员对象的第二风控模型确定得到的，所述第二风控模通过所述目标联邦学习训练得到，所述目标风险特征维度为所述其他成员对象的风险特征集合和所述第二风控模型对应的其中一个风险特征维度。

基于包含所述目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值，确定所述目标风险特征维度的重要性的解释数据，以基于所述解释数据进行风险决策。

基于本说明书实施例的电子设备，各成员对象联邦学习训练自己的风控模型，利用风控模型对私有数据的风险特征进行解释，确定目标风险特征维度的预测贡献值，并将本地确定的目标风险特征维度的预测贡献值共享至其他成员对象，使得任何成员对象均可以根据不同成员对象所确定的目标风险特征维度的预测贡献值，多维度评估目标风险特征维度的重要性，从而执行合理的风险决策。整个过程中，各成员对象交互的是预测贡献值，而敏感性较强的属于私有数据的风险特征不会出阈，因此可保护私有数据的隐私，实现成员对象之间互惠互利的技术效果。

上述如本说明书图1所示实施例揭示的业务风险控制方法可以应用于处理器中，或者由处理器实现。处理器可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器(Digital SignalProcessor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本说明书实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本说明书实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。

应理解，本说明书实施例的电子设备可以实现上述风险决策装置在图2所示的实施例的功能。由于原理相同，本文不再赘述。

当然，除了软件实现方式之外，本说明书的电子设备并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。

此外，本说明书实施例还提出了一种计算机可读存储介质，该计算机可读存储介质存储一个或多个程序。其中，该一个或多个程序包括指令，该指令当被包括多个应用程序的便携式电子设备执行时，能够使该便携式电子设备执行图2所示实施例的方法，并具体用于执行以下方法：

将目标联邦学习训练中的目标成员对象的风险特征集合输入至所述目标成员对象的第一风控模型，确定目标风险特征维度的预测贡献值，其中，所述目标风险特征维度为所述目标成员对象的风险特征集合和所述第一风控模型对应的其中一个风险特征维度，所述第一风控模通过所述目标联邦学习训练得到。

接收所述目标联邦学习训练中的其他成员对象发送的所述目标风险特征维度的预测贡献值，其中，所述其他成员对象发送的目标风险特征维度的预测贡献值是所述其他成员对象将属于私有数据的风险特征集合输入至所述其他成员对象的第二风控模型确定得到的，所述第二风控模通过所述目标联邦学习训练得到，所述目标风险特征维度为所述其他成员对象的风险特征集合和所述第二风控模型对应的其中一个风险特征维度。

基于包含所述目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值，确定所述目标风险特征维度的重要性的解释数据，以基于所述解释数据进行风险决策。

上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。

以上仅为本说明书的实施例而已，并不用于限制本说明书。对于本领域技术人员来说，本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本说明书的权利要求范围之内。此外，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本文件的保护范围。

Claims (10)

1.一种私有数据保护的风险决策方法，包括：

目标联邦学习训练中的目标成员对象将属于私有数据的风险特征集合输入至本地的第一风控模型，确定目标风险特征维度的预测贡献值，其中，所述目标风险特征维度为所述目标成员对象的风险特征集合和所述第一风控模型对应的其中一个风险特征维度，所述第一风控模通过所述目标联邦学习训练得到；

所述目标成员对象接收所述目标联邦学习训练中的其他成员对象发送的所述目标风险特征维度的预测贡献值，其中，所述其他成员对象发送的目标风险特征维度的预测贡献值是所述其他成员对象将属于私有数据的风险特征集合输入至所述其他成员对象的第二风控模型确定得到的，所述第二风控模通过所述目标联邦学习训练得到，所述目标风险特征维度为所述其他成员对象的风险特征集合和所述第二风控模型对应的其中一个风险特征维度；

所述目标成员对象基于包含所述目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值，确定所述目标风险特征维度的重要性的解释数据，以基于所述解释数据进行风险决策。

2.根据权利要求1所述的方法，

目标联邦学习训练中的目标成员对象将属于私有数据的风险特征集合输入至本地的第一风控模型，确定目标风险特征维度的预测贡献值，包括：

目标联邦学习训练中的目标成员对象按照本地的第一风控模型具有的风险特征维度，确定多种风险特征维度组合，所述多种风险特征维度组合中的至少一部分不包含有所述目标风险特征维度；

所述目标成员对象按照所述多种风险特征维度组合，将属于私有数据的风险特征集合输入至本地的第一风控模型，确定多种预测结果；

所述目标成员对象基于对应有目标风险特征维度的预测结果的预测值总和，以及未对应有目标风险特征维度的预测结果的预测值总和，确定所述目标风险特征维度的预测贡献值。

3.根据权利要求1所述的方法，

所述目标成员对象基于包含所述目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值，确定所述目标风险特征维度的重要性的解释数据，包括：

所述目标成员对象对包含所述目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值进行加权计算，确定所述目标风险特征维度的重要性的解释数据。

4.根据权利要求1-3中任一项所述的方法，

所述目标联邦学习训练属于纵向联邦学习训练。

5.根据权利要求4中任一项所述的方法，还包括：

所述目标成员对象基于所述目标风险特征维度的重要性的解释数据，确定所述目标联邦学习训练中提供所述目标风险特征维度的成员对象的贡献值，其中，所述目标联邦学习训练中成员对象的贡献值与成员对象在所述目标联邦学习训练中的赋能策略相关联。

6.根据权利要求1-3中任一项所述的方法，还包括：

所述目标成员对象将所述目标成员对象确定到的目标风险特征维度的预测贡献值发送至所述目标联邦学习训练中的其他成员对象。

7.一种私有数据保护的风险决策装置，包括：

预测模块，将目标联邦学习训练中的目标成员对象的风险特征集合输入至所述目标成员对象的第一风控模型，确定目标风险特征维度的预测贡献值，其中，所述目标风险特征维度为所述目标成员对象的风险特征集合和所述第一风控模型对应的其中一个风险特征维度，所述第一风控模通过所述目标联邦学习训练得到；

接收模块，接收所述目标联邦学习训练中的其他成员对象发送的所述目标风险特征维度的预测贡献值，其中，所述其他成员对象发送的目标风险特征维度的预测贡献值是所述其他成员对象将属于私有数据的风险特征集合输入至所述其他成员对象的第二风控模型确定得到的，所述第二风控模通过所述目标联邦学习训练得到，所述目标风险特征维度为所述其他成员对象的风险特征集合和所述第二风控模型对应的其中一个风险特征维度；

决策模块，基于包含所述目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值，确定所述目标风险特征维度的重要性的解释数据，以基于所述解释数据进行风险决策。

8.一种风险决策系统，包括：目标联邦学习训练中的至少两个成员对象，其中，

所述至少两个成员对象中的目标成员对象将本地的属于私有数据的风险特征集合输入至本地的第一风控模型，确定目标风险特征维度的预测贡献值，其中，所述目标风险特征维度为本地的风险特征集合和所述第一风控模型对应的其中一个风险特征维度，所述第一风控模通过所述目标联邦学习训练得到的；

所述目标成员对象接收所述目标联邦学习训练中的其他成员对象发送的所述目标风险特征维度的预测贡献值，其中，所述其他成员对象发送的目标风险特征维度的预测贡献值是所述其他成员对象将属于私有数据的风险特征集合输入至所述其他成员对象的第二风控模型确定得到的，所述第二风控模通过所述目标联邦学习训练得到，所述目标风险特征维度为所述其他成员对象的风险特征集合和所述第二风控模型对应的其中一个风险特征维度；

所述目标成员对象基于包含所述目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值，确定所述目标风险特征维度的重要性的解释数据，以基于所述解释数据进行风险决策。

9.一种电子设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行：

将目标联邦学习训练中的目标成员对象的风险特征集合输入至所述目标成员对象的第一风控模型，确定目标风险特征维度的预测贡献值，其中，所述目标风险特征维度为所述目标成员对象的风险特征集合和所述第一风控模型对应的其中一个风险特征维度，所述第一风控模通过所述目标联邦学习训练得到；

接收所述目标联邦学习训练中的其他成员对象发送的所述目标风险特征维度的预测贡献值，其中，所述其他成员对象发送的目标风险特征维度的预测贡献值是所述其他成员对象将属于私有数据的风险特征集合输入至所述其他成员对象的第二风控模型确定得到的，所述第二风控模通过所述目标联邦学习训练得到，所述目标风险特征维度为所述其他成员对象的风险特征集合和所述第二风控模型对应的其中一个风险特征维度；

基于包含所述目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值，确定所述目标风险特征维度的重要性的解释数据，以基于所述解释数据进行风险决策。

10.一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如下步骤：

将目标联邦学习训练中的目标成员对象的风险特征集合输入至所述目标成员对象的第一风控模型，确定目标风险特征维度的预测贡献值，其中，所述目标风险特征维度为所述目标成员对象的风险特征集合和所述第一风控模型对应的其中一个风险特征维度，所述第一风控模通过所述目标联邦学习训练得到；

接收所述目标联邦学习训练中的其他成员对象发送的所述目标风险特征维度的预测贡献值，其中，所述其他成员对象发送的目标风险特征维度的预测贡献值是所述其他成员对象将属于私有数据的风险特征集合输入至所述其他成员对象的第二风控模型确定得到的，所述第二风控模通过所述目标联邦学习训练得到，所述目标风险特征维度为所述其他成员对象的风险特征集合和所述第二风控模型对应的其中一个风险特征维度；

基于包含所述目标成员对象在内的至少两个成员对象确定的目标风险特征维度的预测贡献值，确定所述目标风险特征维度的重要性的解释数据，以基于所述解释数据进行风险决策。

Images