CN113379062B - 用于训练模型的方法和装置 - Google Patents

Abstract

本申请实施例公开了用于训练模型的方法和装置。该方法的一具体实施方式包括：获取用户数据集；初始化待训练模型；利用用户数据集对待训练模型进行训练，得到基于用户数据集中的用户数据计算得到的原始模型参数梯度；对基于用户数据集中的用户数据计算得到的原始模型参数梯度进行差分隐私处理，得到基于用户数据集中的用户数据计算得到的处理模型参数梯度；利用基于用户数据集中的用户数据计算得到的处理模型参数梯度更新待训练模型的模型参数，得到训练完成模型。该实施方式提供了一种能够抵抗模型逆向攻击的方法，有效保护用户数据的隐私。

Description

用于训练模型的方法和装置

技术领域

本申请实施例涉及计算机技术领域，具体涉及用于训练模型的方法和装置。

背景技术

当前机器学习技术已经广泛应用在很多行业。例如，在金融、医疗、交通、网络安全等诸多领域，训练好的机器学习模型正在发挥着越来越重要的、具有革命性的作用。大规模数据是训练机器学习模型的原材料。然而，使用大量用户数据训练出来的模型在提供服务的同时，也面临着各种各样的威胁和攻击，模型逆向攻击就是其中一种典型的攻击。模型逆向攻击能够在正常使用模型服务的同时发起攻击，从模型预测结果中提取训练集数据的信息，从而获取到用户数据的敏感特征，造成隐私泄露。

目前，针对模型逆向攻击问题，普遍采取如下三种解决方案：其一，改变训练过程中敏感特征的训练位置。比如，在决策树模型的训练过程中，将敏感特征放在模型的顶部或者底部，降低训练出来的模型在敏感特征上的敏感性，更好地保护用户数据的敏感特征。其二，模型的预测结果近似处理，增大攻击者根据预测结果进行模型逆向攻击的难度。比如，对于物体分类或人脸识别的模型，对模型返回的每一类预测结果的概率值进行四舍五入之类的处理或者减少预测的种类数量，而不是精确地返回每一类别下的概率值。其三，对训练好的模型做处理。比如，使用差分隐私的方法在训练好的模型上做处理，以提供更加严格的隐私保护程度的证明。

发明内容

本申请实施例提出了用于训练模型的方法和装置。

第一方面，本申请实施例提出了一种用于训练模型的方法，包括：获取用户数据集；初始化待训练模型；利用用户数据集对待训练模型进行训练，得到基于用户数据集中的用户数据计算得到的原始模型参数梯度；对基于用户数据集中的用户数据计算得到的原始模型参数梯度进行差分隐私处理，得到基于用户数据集中的用户数据计算得到的处理模型参数梯度；利用基于用户数据集中的用户数据计算得到的处理模型参数梯度更新待训练模型的模型参数，得到训练完成模型。

在一些实施例中，初始化待训练模型，包括：初始化待训练模型的训练参数和模型参数，其中，训练参数包括以下至少一项：总隐私预算、系统参数和学习速率。

在一些实施例中，利用用户数据集对待训练模型进行训练，得到基于用户数据集中的用户数据计算得到的原始模型参数梯度，包括：对于用户数据集中的第t批用户数据，执行以下训练步骤：确定总隐私预算是否有剩余；若总隐私预算有剩余，从总隐私预算中分配训练第t批用户数据所需的隐私预算；从第t批用户数据中选择敏感特征；按照第t批用户数据的维度d将训练第t批用户数据所需的隐私预算切分成d份隐私预算，其中，d份隐私预算中的前m份隐私预算对应第t批用户数据中的非敏感特征，d份隐私预算中的后n份隐私预算对应第t批用户数据中的敏感特征；基于第t批用户数据和损失函数计算基于第t批用户数据计算得到的原始模型参数梯度。

在一些实施例中，对基于用户数据集中的用户数据计算得到的原始模型参数梯度进行差分隐私处理，得到基于用户数据集中的用户数据计算得到的处理模型参数梯度，包括：将满足d份隐私预算的差分隐私的高斯噪声加入基于第t批用户数据计算得到的原始模型参数梯度，得到基于第t批用户数据计算得到的处理模型参数梯度。

在一些实施例中，利用基于用户数据集中的用户数据计算得到的处理模型参数梯度更新待训练模型的模型参数，得到训练完成模型，包括：利用基于第t批用户数据计算得到的处理模型参数梯度更新待训练模型的模型参数；确定待训练模型是否满足预设条件，其中，预设条件包括以下至少一项：模型收敛、模型满足预期效果；若待训练模型满足预设条件，将待训练模型作为训练完成模型；响应于待训练模型不满足预设条件，将t加1，以及继续执行训练步骤。

在一些实施例中，利用用户数据集对待训练模型进行训练，得到基于用户数据集中的用户数据计算得到的原始模型参数梯度，还包括：若总隐私预算没有剩余，将待训练模型作为训练完成模型。

在一些实施例中，训练第t批用户数据所需的隐私预算与t正相关。

在一些实施例中，从第t批用户数据中选择敏感特征，包括：利用特征选择方法，得到第t批用户数据的特征重要性表示量，其中，特征选择方法包括以下至少一项：过滤式特征选择方法、嵌入式特征选择方法；计算第t批用户数据的特征重要性表示量与重要性阈值的差值作为第t批用户数据的特征敏感度；基于第t批用户数据的特征敏感度从第t批用户数据中选择敏感特征。

在一些实施例中，d份隐私预算满足以下至少一个条件：d份隐私预算的和等于训练第t批用户数据所需的隐私预算、前m份隐私预算相同且大于后n份隐私预算、敏感特征的敏感度与其对应的隐私预算负相关。

第二方面，本申请实施例提出了一种用于训练模型的装置，包括：获取单元，被配置成获取用户数据集；初始单元，被配置成初始化待训练模型；训练单元，被配置成利用用户数据集对待训练模型进行训练，得到基于用户数据集中的用户数据计算得到的原始模型参数梯度；处理单元，被配置成对基于用户数据集中的用户数据计算得到的原始模型参数梯度进行差分隐私处理，得到基于用户数据集中的用户数据计算得到的处理模型参数梯度；更新单元，被配置成利用基于用户数据集中的用户数据计算得到的处理模型参数梯度更新待训练模型的模型参数，得到训练完成模型。

在一些实施例中，初始单元进一步被配置成：初始化待训练模型的训练参数和模型参数，其中，训练参数包括以下至少一项：总隐私预算、系统参数和学习速率。

在一些实施例中，训练单元进一步被配置成：对于用户数据集中的第t批用户数据，执行以下训练步骤：确定总隐私预算是否有剩余；若总隐私预算有剩余，从总隐私预算中分配训练第t批用户数据所需的隐私预算；从第t批用户数据中选择敏感特征；按照第t批用户数据的维度d将训练第t批用户数据所需的隐私预算切分成d份隐私预算，其中，d份隐私预算中的前m份隐私预算对应第t批用户数据中的非敏感特征，d份隐私预算中的后n份隐私预算对应第t批用户数据中的敏感特征；基于第t批用户数据和损失函数计算基于第t批用户数据计算得到的原始模型参数梯度。

在一些实施例中，处理单元进一步被配置成：将满足d份隐私预算的差分隐私的高斯噪声加入基于第t批用户数据计算得到的原始模型参数梯度，得到基于第t批用户数据计算得到的处理模型参数梯度。

在一些实施例中，更新单元进一步被配置成：利用基于第t批用户数据计算得到的处理模型参数梯度更新待训练模型的模型参数；确定待训练模型是否满足预设条件，其中，预设条件包括以下至少一项：模型收敛、模型满足预期效果；若待训练模型满足预设条件，将待训练模型作为训练完成模型；响应于待训练模型不满足预设条件，将t加1，以及继续执行训练步骤。

在一些实施例中，训练单元进一步被配置成：若总隐私预算没有剩余，将待训练模型作为训练完成模型。

在一些实施例中，训练第t批用户数据所需的隐私预算与t正相关。

在一些实施例中，训练单元进一步被配置成：利用特征选择方法，得到第t批用户数据的特征重要性表示量，其中，特征选择方法包括以下至少一项：过滤式特征选择方法、嵌入式特征选择方法；计算第t批用户数据的特征重要性表示量与重要性阈值的差值作为第t批用户数据的特征敏感度；基于第t批用户数据的特征敏感度从第t批用户数据中选择敏感特征。

在一些实施例中，d份隐私预算满足以下至少一个条件：d份隐私预算的和等于训练第t批用户数据所需的隐私预算、前m份隐私预算相同且大于后n份隐私预算、敏感特征的敏感度与其对应的隐私预算负相关。

第三方面，本申请实施例提供了一种电子设备，该电子设备包括：一个或多个处理器；存储装置，其上存储有一个或多个程序；当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。

第四方面，本申请实施例提供了一种计算机可读介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如第一方面中任一实现方式描述的方法。

本申请实施例提供的用于训练模型的方法和装置，首先获取用户数据集，以及初始化待训练模型；之后利用用户数据集对待训练模型进行训练，得到基于用户数据集中的用户数据计算得到的原始模型参数梯度；然后对基于用户数据集中的用户数据计算得到的原始模型参数梯度进行差分隐私处理，得到基于用户数据集中的用户数据计算得到的处理模型参数梯度；最后利用基于用户数据集中的用户数据计算得到的处理模型参数梯度更新待训练模型的模型参数，得到训练完成模型。提供了一种能够抵抗模型逆向攻击的方法，有效保护用户数据的隐私。无需改变原有模型的网络结构或训练过程中敏感特征的先后位置，使用方便，不会带来改动开销。无需对模型的预测结果做处理，使得模型能够提供真实、精确的预测结果。在模型训练过程中对模型参数梯度采取安全的差分隐私处理方法，不但能够证明隐私保护程度，保证模型能够很好地抵抗模型逆向攻击，而且能够保证模型的准确度。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：

图1是本申请可以应用于其中的示例性系统架构；

图2是根据本申请的用于训练模型的方法的一个实施例的流程图；

图3是根据本申请的用于训练模型的方法的又一个实施例的流程图；

图4是根据本申请的用于训练模型的装置的一个实施例的结构示意图；

图5是适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。

具体实施方式

下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

图1示出了可以应用本申请的用于训练模型的方法或用于训练模型的装置的实施例的示例性系统架构100。

如图1所示，系统架构100中可以包括存储设备101、网络102和服务器103。网络102用以在存储设备101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

存储设备101可以通过网络102与服务器103交互，以接收或发送消息等。存储设备101中可以提供用户数据集或基于用户数据集中的用户数据计算得到的处理模型参数梯度，包括但不限于数据库、用户终端等等。

服务器103可以是具有模型计算能力的独立服务器，也可以是具有计算能力的处理模块。例如，服务器103可以是模型服务器。模型服务器可以对从存储设备101获取到的用户数据集或基于用户数据集中的用户数据计算得到的处理模型参数梯度等数据进行分析等处理，并生成处理结果(例如训练完成模型)。

需要说明的是，服务器103可以是硬件，也可以是软件。当服务器103为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器103为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。

需要说明的是，本申请实施例所提供的用于训练模型的方法一般由服务器103执行，相应地，用于训练模型的装置一般设置于服务器103中。

继续参考图2，其示出了根据本申请的用于训练模型的方法的一个实施例的流程200。该用于训练模型的方法包括以下步骤：

步骤201，获取用户数据集。

在本实施例中，用于训练模型的方法的执行主体(例如图1所示的服务器103)可以从存储设备(例如图1所示的存储设备101)获取用户数据集。其中，用户数据集中可以包括大量用户数据。用户数据可以是用于描述用户的数据，包括但不限于用户姓名、用户年龄、用户身份证号码、用户手机号码、用户住址、用户职业、用户收入、用户图像等等。

在一些实施例中，大量用户数据可以直接收集并集中存放在数据库中。在此场景下，上述执行主体可以从数据库中获取用户数据集。在一些实施例中，大量用户数据可以存储在用户终端中。在此场景下，上述执行主体可以从用户终端获取用户数据集或基于用户数据集中的用户数据计算得到的处理模型参数梯度。

步骤202，初始化待训练模型。

在本实施例中，上述执行主体可以初始化待训练模型。其中，待训练模型可以由大量参数和网络结构组成。例如，上述执行主体可以根据模型训练目的设置待训练模型的网络结构，以及初始化待训练模型的参数。其中，待训练模型的参数可以包括训练参数和模型参数。训练参数可以包括但不限于以下至少一项：总隐私预算、系统参数和学习速率等等。

步骤203，利用用户数据集对待训练模型进行训练，得到基于用户数据集中的用户数据计算得到的原始模型参数梯度。

在本实施例中，上述执行主体可以利用用户数据集对待训练模型进行训练，得到基于用户数据集中的用户数据计算得到的原始模型参数梯度。例如，在利用用户数据集中的每批用户数据训练待训练模型的过程中，使用每批用户数据计算对应的原始模型参数梯度。其中，每批用户数据可以包括至少一条用户数据。

步骤204，对基于用户数据集中的用户数据计算得到的原始模型参数梯度进行差分隐私处理，得到基于用户数据集中的用户数据计算得到的处理模型参数梯度。

在本实施例中，上述执行主体可以对基于用户数据集中的用户数据计算得到的原始模型参数梯度进行差分隐私处理，得到基于用户数据集中的用户数据计算得到的处理模型参数梯度。其中，差分隐私可以对用户数据进行扰动添加噪声，从而隐藏真实用户数据，以保护用户隐私。例如，对用户数据集中的基于每批用户数据计算得到的原始模型参数梯度进行差分隐私处理，得到基于每批用户数据计算得到的处理模型参数梯度。

步骤205，利用基于用户数据集中的用户数据计算得到的处理模型参数梯度更新待训练模型的模型参数，得到训练完成模型。

在本实施例中，上述执行主体可以利用基于用户数据集中的用户数据计算得到的处理模型参数梯度更新待训练模型的模型参数，得到训练完成模型。通常，使用处理模型参数梯度完成模型参数更新，能够保证训练完成模型不会泄露用户数据中的敏感信息。

需要说明的是，本申请实施例提供的用于训练模型的方法同样适用于用户数据存放在用户终端的场景。在这种场景下，用户终端执行步骤201-204，得到基于用户数据集中的用户数据计算得到的处理模型参数梯度。随后，用户终端只需将基于用户数据集中的用户数据计算得到的处理模型参数梯度的全部或部分发送给服务器。服务器使用收集到的所有在线用户终端上传的处理模型参数梯度执行步骤205，以完成模型参数的更新即可。这样的方式使得在训练机器学习模型的整个过程中，用户数据始终没有离开过用户终端，只有被差分隐私处理过后的参数梯度上传给了服务器，因而极大地保护了用户数据的敏感信息。

本申请实施例提供的用于训练模型的方法，首先获取用户数据集，以及初始化待训练模型；之后利用用户数据集对待训练模型进行训练，得到基于用户数据集中的用户数据计算得到的原始模型参数梯度；然后对基于用户数据集中的用户数据计算得到的原始模型参数梯度进行差分隐私处理，得到基于用户数据集中的用户数据计算得到的处理模型参数梯度；最后利用基于用户数据集中的用户数据计算得到的处理模型参数梯度更新待训练模型的模型参数，得到训练完成模型。提供了一种能够抵抗模型逆向攻击的方法，有效保护用户数据的隐私。无需改变原有模型的网络结构或训练过程中敏感特征的先后位置，使用方便，不会带来改动开销。无需对模型的预测结果做处理，使得模型能够提供真实、精确的预测结果。在模型训练过程中对模型参数梯度采取安全的差分隐私处理方法，不但能够证明隐私保护程度，保证模型能够很好地抵抗模型逆向攻击，而且能够保证模型的准确度。

进一步参考图3，其示出了根据本申请的用于训练模型的方法的又一个实施例的流程300。该用于训练模型的方法包括以下步骤：

步骤301，获取用户数据集。

在本实施例中，步骤301具体操作已在图2所示的实施例中步骤201进行了详细的介绍，在此不再赘述。

步骤302，初始化待训练模型的训练参数和模型参数。

在本实施例中，用于训练模型的方法的执行主体(例如图1所示的服务器103)可以初始化待训练模型的训练参数和模型参数。其中，训练参数可以包括但不限于以下至少一项：总隐私预算、系统参数和学习速率等等。

步骤303，对于用户数据集中的第t批用户数据，确定总隐私预算是否有剩余。

在本实施例中，对于用户数据集中的第t批用户数据，上述执行主体可以确定总隐私预算是否有剩余。若总隐私预算有剩余，执行步骤304；若总隐私预算无剩余，执行步骤311。其中，第t批用户数据可以用于对待训练模型进行第t次训练。t>0，且为正整数。通常，若总隐私预算大于0，则确定总隐私预算有剩余，反之，则确定总隐私预算无剩余。

步骤304，从总隐私预算中分配训练第t批用户数据所需的隐私预算。

在本实施例中，若总隐私预算有剩余，上述执行主体可以从总隐私预算中分配训练第t批用户数据所需的隐私预算。通常，训练第t批用户数据所需的隐私预算大于0，且不大于总隐私预算。

在本实施例的一些可选的实现方式中，训练第t批用户数据所需的隐私预算可以与t正相关。也就是说，训练第t批用户数据所需的隐私预算随着t的增加而增加。意味着越到后面的训练，其对应的隐私预算越大。这样就使得接近得到准确模型的时候，差分隐私处理带来的噪声影响将会变小，从而使得模型正确收敛，保证准确性。

例如，训练第t批用户数据所需的隐私预算可以通过如下公式计算：

ε_t＝αt+β；

其中，ε为总隐私预算，ε_t为训练第t批用户数据所需的隐私预算，α和β为系统参数，其值均大于0，用于调整训练前后隐私预算分配的多少。

步骤305，从第t批用户数据中选择敏感特征。

在本实施例中，上述执行主体可以从第t批用户数据中选择敏感特征。通常，敏感特征可以是用户数据中涉及隐私而不便于向公众开放的数据，包括但不限于用户手机号码、用户身份证号码、用户收入等等。

在本实施例的一些可选的实现方式中，上述执行主体可以首先利用特征选择方法，得到第t批用户数据的特征重要性表示量；然后计算第t批用户数据的特征重要性表示量与重要性阈值的差值作为第t批用户数据的特征敏感度；最后基于第t批用户数据的特征敏感度从第t批用户数据中选择敏感特征。其中，特征选择方法可以包括但不限于以下至少一项：过滤式特征选择方法、嵌入式特征选择方法等等。例如，用户数据中的每个特征都可以对应一个特征重要性表示量v，设定一个重要性阈值θ，若v>θ，则将其标记为敏感特征，并记其敏感度s＝v-θ。若共标记得到的敏感特征的数量为n(n>0，且为正整数)，则敏感度为s_i(i＝1,…,n)。

步骤306，按照第t批用户数据的维度d将训练第t批用户数据所需的隐私预算切分成d份隐私预算。

在本实施例中，上述执行主体可以按照第t批用户数据的维度d将训练第t批用户数据所需的隐私预算切分成d份隐私预算。其中，第t批用户数据的维度d等于第t批用户数据中的特征的数目。d份隐私预算中的前m份隐私预算对应第t批用户数据中的非敏感特征，d份隐私预算中的后n份隐私预算对应第t批用户数据中的敏感特征。d、m和n均为大于0的正整数，且d＝m+n。

在本实施例的一些可选的实现方式中，d份隐私预算通常满足以下至少一个条件：

1、d份隐私预算的和等于训练第t批用户数据所需的隐私预算。

如果d份隐私预算中第i份隐私预算为

那/>

2、前m份隐私预算相同且大于后n份隐私预算。

对于

且/>

则/>

例如，前m份隐私预算与后n份隐私预算的关系可以通过如下公式确定：

其中，γ为系统参数，且0＜γ＜1。通常，γ可以在训练每批用户数据时进行一定的随机调整。例如，在(0.7,0.9)范围内随机选取，用于调整隐私预算在不同维度下的分配。

3、敏感特征的敏感度与其对应的隐私预算负相关。

对于

若s_i＜s_j，则/>

例如，敏感度与其对应的隐私预算的关系可以通过如下公式确定：

其中，μ为系统参数，且μ>1。通常，μ可以在训练每批用户数据时进行一定的随机调整。例如，在(1,1.5)范围内随机选取，用于调整敏感度对隐私预算的影响。

训练每批用户数据时，通过随机调整γ和μ的值，会产生新的d份隐私预算，这样就会提高所添加噪声分布的随机性，使得攻击者进行模型逆向攻击时的难度更大，提高模型的安全性。通过考虑用户数据不同维度特征的敏感度，在敏感特征维度上分配了较小的隐私预算，加入较大的噪声扰动，使得训练出来的模型对于包含敏感特征的用户数据不会过拟合，从而避免了从中泄露用户数据的敏感信息。

步骤307，基于第t批用户数据和损失函数计算基于第t批用户数据计算得到的原始模型参数梯度。

在本实施例中，上述执行主体可以基于第t批用户数据和损失函数计算基于第t批用户数据计算得到的原始模型参数梯度。

步骤308，将满足d份隐私预算的差分隐私的高斯噪声加入基于第t批用户数据计算得到的原始模型参数梯度，得到基于第t批用户数据计算得到的处理模型参数梯度。

在本实施例中，上述执行主体可以将满足d份隐私预算的差分隐私的高斯噪声加入基于第t批用户数据计算得到的原始模型参数梯度，得到基于第t批用户数据计算得到的处理模型参数梯度。

通常，上述执行主体可以通过如下公式计算基于第t批用户数据计算得到的处理模型参数梯度：

其中，

为基于第t批用户数据中第i个特征计算得到的处理模型参数梯度，/>

为基于第t批用户数据中第i个特征计算得到的原始模型参数梯度，/>

为使得处理结果满足

的差分隐私的高斯噪声，/>

为d份隐私预算中第i份隐私预算，δ∈(0,1)，且泄露隐私的概率小于δ。

对参数梯度加入噪声扰动，极大地减少通过参数梯度泄露的用户数据分布的信息，有效抵抗攻击者发起的模型逆向攻击。

步骤309，利用基于第t批用户数据计算得到的处理模型参数梯度更新待训练模型的模型参数。

在本实例中，上述执行主体可以利用基于第t批用户数据计算得到的处理模型参数梯度更新待训练模型的模型参数。通常，上述执行主体可以通过如下公式更新待训练模型的模型参数：

其中，w_t为利用第t批用户数据训练后的模型参数，w_t-1为利用第t-1批用户数据训练后的模型参数，η为学习速率，

为基于第t批用户数据计算得到的处理模型参数梯度。

步骤310，确定待训练模型是否满足预设条件。

在本实施例中，上述执行主体可以确定待训练模型是否满足预设条件。若满足预设条件，执行步骤311；若不满足预设条件，执行步骤312。其中，预设条件可以包括但不不限于以下至少一项：模型收敛、模型满足预期效果等等。

步骤311，将待训练模型作为训练完成模型。

在本实施例中，若待训练模型满足预设条件，上述执行主体可以停止对待训练模型的训练，以及将待训练模型作为训练完成模型。

步骤312，将t加1。

在本实施例中，若待训练模型不满足预设条件，上述执行主体可以将t加1，以及继续执行步骤303。如此循环往复训练，直至得到训练完成模型。

从图3中可以看出，与图2对应的实施例相比，本实施例中的用于训练模型的方法的流程300突出了训练步骤。由此，本实施例描述的方案在进行参数梯度差分隐私处理的时候，采取了增加随机性和前后隐私预算值差异化使用的做法，使得模型更加安全和有效地抵抗模型逆向攻击。

进一步参考图4，作为对上述各图所示方法的实现，本申请提供了一种用于训练模型的装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图4所示，本实施例的用于训练模型的装置400可以包括：获取单元401、初始单元402、训练单元403、处理单元404和更新单元405。其中，获取单元401，被配置成获取用户数据集；初始单元402，被配置成初始化待训练模型；训练单元403，被配置成利用用户数据集对待训练模型进行训练，得到基于用户数据集中的用户数据计算得到的原始模型参数梯度；处理单元404，被配置成对基于用户数据集中的用户数据计算得到的原始模型参数梯度进行差分隐私处理，得到基于用户数据集中的用户数据计算得到的处理模型参数梯度；更新单元405，被配置成利用基于用户数据集中的用户数据计算得到的处理模型参数梯度更新待训练模型的模型参数，得到训练完成模型。

在本实施例中，用于训练模型的装置400中：获取单元401、初始单元402、训练单元403、处理单元404和更新单元405的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201-205的相关说明，在此不再赘述。

在本实施例的一些可选的实现方式中，初始单元402进一步被配置成：初始化待训练模型的训练参数和模型参数，其中，训练参数包括以下至少一项：总隐私预算、系统参数和学习速率。

在本实施例的一些可选的实现方式中，训练单元403进一步被配置成：对于用户数据集中的第t批用户数据，执行以下训练步骤：确定总隐私预算是否有剩余；若总隐私预算有剩余，从总隐私预算中分配训练第t批用户数据所需的隐私预算；从第t批用户数据中选择敏感特征；按照第t批用户数据的维度d将训练第t批用户数据所需的隐私预算切分成d份隐私预算，其中，d份隐私预算中的前m份隐私预算对应第t批用户数据中的非敏感特征，d份隐私预算中的后n份隐私预算对应第t批用户数据中的敏感特征；基于第t批用户数据和损失函数计算基于第t批用户数据计算得到的原始模型参数梯度。

在本实施例的一些可选的实现方式中，处理单元404进一步被配置成：将满足d份隐私预算的差分隐私的高斯噪声加入基于第t批用户数据计算得到的原始模型参数梯度，得到基于第t批用户数据计算得到的处理模型参数梯度。

在本实施例的一些可选的实现方式中，更新单元405进一步被配置成：利用基于第t批用户数据计算得到的处理模型参数梯度更新待训练模型的模型参数；确定待训练模型是否满足预设条件，其中，预设条件包括以下至少一项：模型收敛、模型满足预期效果；若待训练模型满足预设条件，将待训练模型作为训练完成模型；响应于待训练模型不满足预设条件，将t加1，以及继续执行训练步骤。

在本实施例的一些可选的实现方式中，训练单元403进一步被配置成：若总隐私预算没有剩余，将待训练模型作为训练完成模型。

在本实施例的一些可选的实现方式中，训练第t批用户数据所需的隐私预算与t正相关。

在本实施例的一些可选的实现方式中，训练单元403进一步被配置成：利用特征选择方法，得到第t批用户数据的特征重要性表示量，其中，特征选择方法包括以下至少一项：过滤式特征选择方法、嵌入式特征选择方法；计算第t批用户数据的特征重要性表示量与重要性阈值的差值作为第t批用户数据的特征敏感度；基于第t批用户数据的特征敏感度从第t批用户数据中选择敏感特征。

在本实施例的一些可选的实现方式中，d份隐私预算满足以下至少一个条件：d份隐私预算的和等于训练第t批用户数据所需的隐私预算、前m份隐私预算相同且大于后n份隐私预算、敏感特征的敏感度与其对应的隐私预算负相关。

下面参考图5，其示出了适于用来实现本申请实施例的电子设备(例如图1所示的服务器103)的计算机系统500的结构示意图。图5示出的电子设备仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。

如图5所示，计算机系统500包括中央处理单元(CPU)501，其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中，还存储有系统500操作所需的各种程序和数据。CPU 501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。

以下部件连接至I/O接口505：包括键盘、鼠标等的输入部分506；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507；包括硬盘等的存储部分508；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器510上，以便于从其上读出的计算机程序根据需要被安装入存储部分508。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分509从网络上被下载和安装，和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(CPU)501执行时，执行本申请的方法中限定的上述功能。

需要说明的是，本申请所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本申请的操作的计算机程序代码，所述程序设计语言包括面向目标的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如”C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或电子设备上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括获取单元、初始单元、训练单元、处理单元和更新单元。其中，这些单元的名称在种情况下并不构成对该单元本身的限定，例如，获取单元还可以被描述为“获取用户数据集的单元”。

作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取用户数据集；初始化待训练模型；利用用户数据集对待训练模型进行训练，得到基于用户数据集中的用户数据计算得到的原始模型参数梯度；对基于用户数据集中的用户数据计算得到的原始模型参数梯度进行差分隐私处理，得到基于用户数据集中的用户数据计算得到的处理模型参数梯度；利用基于用户数据集中的用户数据计算得到的处理模型参数梯度更新待训练模型的模型参数，得到训练完成模型。

以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (16)

1.一种用于训练模型的方法，包括：

获取用户数据集；

初始化待训练模型；

利用所述用户数据集对所述待训练模型进行训练，得到基于所述用户数据集中的用户数据计算得到的原始模型参数梯度，包括：对于所述用户数据集中的第

批用户数据，执行以下训练步骤：确定所述待训练模型的总隐私预算是否有剩余；若所述总隐私预算有剩余，从所述总隐私预算中分配训练所述第/>

批用户数据所需的隐私预算；从所述第/>

批用户数据中选择敏感特征；按照所述第/>

批用户数据的维度/>

将训练所述第/>

批用户数据所需的隐私预算切分成/>

份隐私预算，其中，所述/>

份隐私预算中的前/>

份隐私预算对应所述第/>

批用户数据中的非敏感特征，所述/>

份隐私预算中的后/>

份隐私预算对应所述第/>

批用户数据中的敏感特征；基于所述第/>

批用户数据和损失函数计算基于所述第/>

批用户数据计算得到的原始模型参数梯度；

将满足所述

份隐私预算的差分隐私的高斯噪声加入基于所述第/>

批用户数据计算得到的原始模型参数梯度，得到基于所述第/>

批用户数据计算得到的处理模型参数梯度；

利用基于所述用户数据集中的用户数据计算得到的处理模型参数梯度更新所述待训练模型的模型参数，得到训练完成模型。

2.根据权利要求1所述的方法，其中，所述初始化待训练模型，包括：

初始化所述待训练模型的训练参数和模型参数，其中，所述训练参数包括以下至少一项：总隐私预算、系统参数和学习速率。

3.根据权利要求2所述的方法，其中，所述利用基于所述用户数据集中的用户数据计算得到的处理模型参数梯度更新所述待训练模型的模型参数，得到训练完成模型，包括：

利用基于所述第

批用户数据计算得到的处理模型参数梯度更新所述待训练模型的模型参数；

确定所述待训练模型是否满足预设条件，其中，所述预设条件包括以下至少一项：模型收敛、模型满足预期效果；

若所述待训练模型满足所述预设条件，将所述待训练模型作为所述训练完成模型；

响应于所述待训练模型不满足所述预设条件，将

加1，以及继续执行所述训练步骤。

4.根据权利要求1所述的方法，其中，所述利用所述用户数据集对所述待训练模型进行训练，得到基于所述用户数据集中的用户数据计算得到的原始模型参数梯度，还包括：

若所述总隐私预算没有剩余，将所述待训练模型作为所述训练完成模型。

5.根据权利要求1所述的方法，其中，训练所述第

批用户数据所需的隐私预算与/>

正相关。

6.根据权利要求1所述的方法，其中，所述从所述第

批用户数据中选择敏感特征，包括：

利用特征选择方法，得到所述第

批用户数据的特征重要性表示量，其中，所述特征选择方法包括以下至少一项：过滤式特征选择方法、嵌入式特征选择方法；

计算所述第

批用户数据的特征重要性表示量与重要性阈值的差值作为所述第/>

批用户数据的特征敏感度；

基于所述第

批用户数据的特征敏感度从所述第/>

批用户数据中选择敏感特征。

7.根据权利要求1所述的方法，其中，所述

份隐私预算满足以下至少一个条件：所述/>

份隐私预算的和等于训练所述第/>

批用户数据所需的隐私预算、所述前/>

份隐私预算相同且大于所述后/>

份隐私预算、敏感特征的敏感度与其对应的隐私预算负相关。

8.一种用于训练模型的装置，包括：

获取单元，被配置成获取用户数据集；

初始单元，被配置成初始化待训练模型；

训练单元，被配置成利用所述用户数据集对所述待训练模型进行训练，得到基于所述用户数据集中的用户数据计算得到的原始模型参数梯度，进一步被配置成：对于所述用户数据集中的第

批用户数据，执行以下训练步骤：确定所述待训练模型的总隐私预算是否有剩余；若所述总隐私预算有剩余，从所述总隐私预算中分配训练所述第/>

批用户数据所需的隐私预算；从所述第/>

批用户数据中选择敏感特征；按照所述第/>

批用户数据的维度/>

将训练所述第/>

批用户数据所需的隐私预算切分成/>

份隐私预算，其中，所述/>

份隐私预算中的前

份隐私预算对应所述第/>

批用户数据中的非敏感特征，所述/>

份隐私预算中的后/>

份隐私预算对应所述第/>

批用户数据中的敏感特征；基于所述第/>

批用户数据和损失函数计算基于所述第/>

批用户数据计算得到的原始模型参数梯度；

处理单元，被配置成将满足所述

份隐私预算的差分隐私的高斯噪声加入基于所述第/>

批用户数据计算得到的原始模型参数梯度，得到基于所述第/>

批用户数据计算得到的处理模型参数梯度；

更新单元，被配置成利用基于所述用户数据集中的用户数据计算得到的处理模型参数梯度更新所述待训练模型的模型参数，得到训练完成模型。

9.根据权利要求8所述的装置，其中，所述初始单元进一步被配置成：

初始化所述待训练模型的训练参数和模型参数，其中，所述训练参数包括以下至少一项：总隐私预算、系统参数和学习速率。

10.根据权利要求9所述的装置，其中，所述更新单元进一步被配置成：

利用基于所述第

批用户数据计算得到的处理模型参数梯度更新所述待训练模型的模型参数；

确定所述待训练模型是否满足预设条件，其中，所述预设条件包括以下至少一项：模型收敛、模型满足预期效果；

若所述待训练模型满足所述预设条件，将所述待训练模型作为所述训练完成模型；

响应于所述待训练模型不满足所述预设条件，将

加1，以及继续执行所述训练步骤。

11.根据权利要求8所述的装置，其中，所述训练单元进一步被配置成：

若所述总隐私预算没有剩余，将所述待训练模型作为所述训练完成模型。

12.根据权利要求8所述的装置，其中，训练所述第

批用户数据所需的隐私预算与/>

正相关。

13.根据权利要求8所述的装置，其中，所述训练单元进一步被配置成：

利用特征选择方法，得到所述第

批用户数据的特征重要性表示量，其中，所述特征选择方法包括以下至少一项：过滤式特征选择方法、嵌入式特征选择方法；

计算所述第

批用户数据的特征重要性表示量与重要性阈值的差值作为所述第/>

批用户数据的特征敏感度；

基于所述第

批用户数据的特征敏感度从所述第/>

批用户数据中选择敏感特征。

14.根据权利要求8所述的装置，其中，所述

份隐私预算满足以下至少一个条件：所述/>

份隐私预算的和等于训练所述第/>

批用户数据所需的隐私预算、所述前/>

份隐私预算相同且大于所述后/>

份隐私预算、敏感特征的敏感度与其对应的隐私预算负相关。

15.一种电子设备，包括：

一个或多个处理器；

存储装置，其上存储有一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。

16.一种计算机可读介质，其上存储有计算机程序，其中，所述计算机程序被处理器执行时实现如权利要求1-7中任一所述的方法。

Images