CN112949670A - 用于联邦学习模型的数据集切换方法和装置 - Google Patents

Abstract

本公开的实施例公开了用于联邦学习模型的数据集切换方法和装置。该方法的一具体实施方式包括：获取待替换的数据集的数据属性信息；根据该数据属性信息，从预设的备选数据集集合中确定目标备选数据集；将该目标备选数据集加载至该联邦学习模型进行模型训练。该实施方式实现了将相近数据源作为备选，以保证联邦学习模型的训练效果和稳定性。

Description

用于联邦学习模型的数据集切换方法和装置

技术领域

本公开的实施例涉及计算机技术领域，具体涉及用于联邦学习模型的数据集切换方法和装置。

背景技术

随着机器学习技术的发展，联邦学习(Federated Learning)因其能有效帮助多个机构在满足用户隐私保护、数据安全和政府法规的要求下，进行数据使用和机器学习建模，逐渐得到越来越多的应用。

当参与联邦学习的多个机构中的数据源出现问题(例如无法访问或数据质量难以满足要求)而无法继续使用时，相关的方式通常是将发生上述问题的数据源进行缺失值处理，重新训练模型。

发明内容

本公开的实施例提出了用于联邦学习模型的数据集切换方法和装置。

第一方面，本公开的实施例提供了一种用于联邦学习模型的数据集切换方法，该方法包括：获取待替换的数据集的数据属性信息；根据数据属性信息，从预设的备选数据集集合中确定目标备选数据集；将目标备选数据集加载至联邦学习模型进行模型训练。

在一些实施例中，上述根据数据属性信息，从预设的备选数据集集合中确定目标备选数据集，包括：按照预设的选取规则从预设的备选数据集集合中选取目标数目个准备选数据集；从目标数目个准备选数据集中确定目标备选数据集。

在一些实施例中，上述数据属性信息包括数据的特征信息；以及上述按照预设的选取规则从预设的备选数据集集合中选取目标数目个准备选数据集，包括：根据与数据的特征信息相似程度由高至低的顺序从预设的备选数据集集合中选取目标数目个准备选数据集。

在一些实施例中，上述数据属性信息包括历史合作数据信息；以及上述按照预设的选取规则从预设的备选数据集集合中选取目标数目个准备选数据集，包括：获取历史合作数据信息所指示的至少一个数据集的历史模型评价信息，其中，数据集的历史模型评价信息用于指示加入数据集对模型效果带来的增益大小；根据数据集的历史模型评价信息所指示的增益大小从预设的备选数据集集合中选取目标数目个准备选数据集。

在一些实施例中，上述从目标数目个准备选数据集中确定目标备选数据集，包括：获取目标数目个准备选数据集各自的数据成本信息；根据数据成本信息和历史模型评价信息所指示的增益大小，从目标数目个准备选数据集中确定目标备选数据集。

在一些实施例中，上述数据属性信息包括特征统计向量，上述特征统计向量中的元素用于指示特征的统计值；以及上述按照预设的选取规则从预设的备选数据集集合中选取目标数目个准备选数据集，包括：根据特征统计向量，对预设的备选数据集集合中的备选数据集进行聚类，生成至少一个备选数据集组；将与待替换的数据集属于同一备选数据集组的其他备选数据集确定为目标数目个准备选数据集。

在一些实施例中，上述预设的备选数据集集合通过以下步骤得到：获取预设的原始备选数据集集合；根据数据属性信息所指示的待替换的数据集的数据格式，对预设的原始备选数据集集合中的原始备选数据集进行数据清洗，生成预设的备选数据集集合。

第二方面，本公开的实施例提供了一种用于联邦学习模型的数据集切换装置，该装置包括：获取单元，被配置成获取待替换的数据集的数据属性信息；确定单元，被配置成根据数据属性信息，从预设的备选数据集集合中确定目标备选数据集；加载单元，被配置成将目标备选数据集加载至联邦学习模型进行模型训练。

在一些实施例中，上述确定单元包括：选取子单元，被配置成按照预设的选取规则从预设的备选数据集集合中选取目标数目个准备选数据集；确定子单元，被配置成从目标数目个准备选数据集中确定目标备选数据集。

在一些实施例中，上述数据属性信息包括数据的特征信息。上述选取子单元进一步被配置成根据与数据的特征信息相似程度由高至低的顺序从预设的备选数据集集合中选取目标数目个准备选数据集。

在一些实施例中，上述数据属性信息包括历史合作数据信息。上述选取子单元包括：第一获取模块，被配置成获取历史合作数据信息所指示的至少一个数据集的历史模型评价信息，其中，数据集的历史模型评价信息用于指示加入数据集对模型效果带来的增益大小；选取模块，被配置成根据数据集的历史模型评价信息所指示的增益大小从预设的备选数据集集合中选取目标数目个准备选数据集。

在一些实施例中，上述确定子单元，包括：第二获取模块，被配置成获取目标数目个准备选数据集各自的数据成本信息；第一确定模块，被配置成根据数据成本信息和历史模型评价信息所指示的增益大小，从目标数目个准备选数据集中确定目标备选数据集。

在一些实施例中，上述数据属性信息包括特征统计向量，上述特征统计向量中的元素用于指示特征的统计值。上述选取子单元，包括：聚类模块，被配置成根据特征统计向量，对预设的备选数据集集合中的备选数据集进行聚类，生成至少一个备选数据集组；第二确定模块，被配置成将与待替换的数据集属于同一备选数据集组的其他备选数据集确定为目标数目个准备选数据集。

在一些实施例中，上述预设的备选数据集集合通过以下步骤得到：获取预设的原始备选数据集集合；根据数据属性信息所指示的待替换的数据集的数据格式，对预设的原始备选数据集集合中的原始备选数据集进行数据清洗，生成预设的备选数据集集合。

第三方面，本公开的实施例提供了一种服务器，该服务器包括：一个或多个处理器；存储装置，其上存储有一个或多个程序；当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。

第四方面，本公开的实施例提供了一种计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如第一方面中任一实现方式描述的方法。

本公开的实施例提供的用于联邦学习模型的数据集切换方法和装置，首先获取待替换的数据集的数据属性信息；而后，根据数据属性信息，从预设的备选数据集集合中确定目标备选数据集；最后，将目标备选数据集加载至联邦学习模型进行模型训练。从而实现了将相近数据源作为备选，以保证联邦学习模型的训练效果和稳定性。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本公开的其它特征、目的和优点将会变得更明显：

图1是本公开的一个实施例可以应用于其中的示例性系统架构图；

图2是根据本公开的用于联邦学习模型的数据集切换方法的一个实施例的流程图；

图3是根据本公开的实施例的用于联邦学习模型的数据集切换方法的一个应用场景的示意图；

图4是根据本公开的用于联邦学习模型的数据集切换方法的又一个实施例的流程图；

图5是根据本公开的用于联邦学习模型的数据集切换装置的一个实施例的结构示意图；

图6是适于用来实现本公开的实施例的电子设备的结构示意图。

具体实施方式

下面结合附图和实施例对本公开作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。

图1示出了可以应用本公开的用于联邦学习模型的数据集切换方法或用于联邦学习模型的数据集切换装置的示例性架构100。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、机器学习模型训练类应用等。

终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是具有显示屏并且支持人机交互的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。

服务器105可以是提供各种服务的服务器，例如为终端设备101、102、103上机器学习模型训练类应用提供支持的后台服务器。后台服务器可以对接收到的联邦学习请求进行分析处理，并根据上述请求执行相应的处理(例如在数据集无效时切换备选数据集)，还可以将生成的处理结果(如训练好的模型)反馈给终端设备。

需要说明的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。

需要说明的是，本公开的实施例所提供的用于联邦学习模型的数据集切换方法一般由服务器105执行，相应地，用于联邦学习模型的数据集切换装置一般设置于服务器105中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

继续参考图2，示出了根据本公开的用于联邦学习模型的数据集切换方法的一个实施例的流程200。该用于联邦学习模型的数据集切换方法包括以下步骤：

步骤201，获取待替换的数据集的数据属性信息。

在本实施例中，用于联邦学习模型的数据集切换方法的执行主体(如图1所示的服务器105)可以通过有线连接方式或者无线连接方式获取待替换的数据集的数据属性信息。其中，上述数据集通常为用于联邦学习模型训练的数据集。上述用于数据属性信息可以用于描述数据集的数据特点。作为示例，上述数据属性信息可以包括提供用于联邦学习模型训练的数据集的机构的信息，例如机构的所属行业。

具体地，上述执行主体可以获取预先存储于本地的待替换的数据集的数据属性信息，也可以从与之通信连接的电子设备(例如数据库服务器)获取上述待替换的数据集的数据属性信息。

在本实施例的一些可选的实现方式中，上述数据属性信息可以包括数据的特征信息。其中，上述数据的特征信息可以包括数据各个维度的特征。作为示例，上述数据的特征信息可以包括年龄、地区、收入情况等等。

在本实施例的一些可选的实现方式中，上述数据属性信息可以包括历史合作数据信息。其中，上述历史合作数据信息可以用于表征此前与待替换的数据集进行过联邦学习模型的训练的数据集的特点。作为示例，上述历史合作数据信息可以是与待替换的数据集进行过联邦学习模型的训练的数据集与待替换的数据集之间的样本重合度。作为又一示例，上述历史合作数据信息可以是与待替换的数据集进行过联邦学习模型的训练的数据集与待替换的数据集共同进行联邦学习所生成的模型的模型有效性(validation ofecosystem models)。

在本实施例的一些可选的实现方式中，上述数据属性信息可以包括特征统计向量。其中，上述特征统计向量中的元素可以用于指示特征的统计值。作为示例，上述特征可以包括但不限于以下至少一项：近一个月消费额，近三个月消费额，半年消费额，生活消费比重，教育消费比重，娱乐消费比重，奢侈品消费比重，贷款次数，贷款总额，网购年限，单位网购时长(例如网购浏览时长/消费总额比例)，促销购物占比(例如促销物品消费额/消费总额)，海外消费总额，通讯费用。上述统计值可以包括但不限于以下至少一项：平均值，中位数，众数。例如，上述数据集A的数据属性信息可以为

上述数据集B的数据属性信息可以为

其中，上述

等元素可以用于表征特征的统计值。

步骤202，根据数据属性信息，从预设的备选数据集集合中确定目标备选数据集。

在本实施例中，根据步骤201所获取的待替换的数据集的数据属性信息，上述执行主体可以通过各种方式从预设的备选数据集集合中确定目标备选数据集。

根据上述数据属性信息包括的提供用于联邦学习模型寻的数据集的机构的所属行业，作为示例，上述执行主体可以从属于同一行业的机构中随机选取一个机构所提供的数据集。作为又一示例，上述执行主体可以按照与上述所属行业匹配的机构优先级顺序，从上述预设的备选数据集集合中确定目标备选数据集。其中，上述机构优先级顺序用于表征该行业中各机构提供的数据集被选取的优先级。

在本实施例的一些可选的实现方式中，根据上述数据属性信息包括的数据的特征信息，上述执行主体可以从上述预设的备选数据集集合中选取数据的特征信息与上述数据属性信息之间的相似度符合预设选取条件的备选数据集作为上述目标备选数据集。其中，上述预设选取条件例如可以是相似度大于预设相似度阈值；上述预设选取条件还可以是相似度最高。

在本实施例的一些可选的实现方式中，上述执行主体可以按照如下步骤从预设的备选数据集集合中确定目标备选数据集：

第一步，按照预设的选取规则从预设的备选数据集集合中选取目标数目个准备选数据集。

在这些实现方式中，按照预设的选取规则，上述执行主体可以通过各种方式从预设的备选数据集集合中选取目标数目个准备选数据集。其中，上述目标数目可以是根据实际的应用需求，预先指定的任意数目(例如3个)。

可选地，上述执行主体可以根据与数据的特征信息相似程度由高至低的顺序从预设的备选数据集集合中选取目标数目个准备选数据集。其中，上述目标数目可以是根据实际的应用需求，预先指定的任意数目(例如3个)。上述目标数目也可以是根据规则而定的数目，例如相似程度大于预设阈值的备选数据集的数目。

可选地，基于上述数据属性信息可以包括特征统计向量，上述执行主体还可以按照如下步骤从预设的备选数据集集合中选取目标数目个准备选数据集：

S1、根据特征统计向量，对预设的备选数据集集合中的备选数据集进行聚类，生成至少一个备选数据集组。

在这些实现方式中，根据特征统计向量，上述执行主体可以通过各种方式对预设的备选数据集集合中的备选数据集进行聚类，从而生成至少一个备选数据集组。其中，上述聚类的方法可以包括但不限于以下至少一项：K-均值聚类(K-Means)算法，均值漂移聚类，层次凝聚聚类算法(Hierarchical Agglomerative Clustering，HAC)。

可选地，上述执行主体还可以根据上述预设的备选数据集集合中的备选数据集集合的数目确定所生成的备选数据集组的组数，以保证上述每个备选数据集组中通常包括3～5个备选数据集。从而，既可以应对仅有的一个备选数据集也不可用的极端情况，又可以分散数据源，保证备选数据集的数据多样性。

S2、将与待替换的数据集属于同一备选数据集组的其他备选数据集确定为目标数目个准备选数据集。

在这些实现方式中，上述执行主体可以根据上述步骤S1所生成的至少一个备选数据集组，将与上述待替换的数据集属于同一备选数据集组的其他备选数据集确定为目标数目个准备选数据集。

由于聚类的依据采用数据特征的统计值而非备选数据集中各明细数据，因此能够满足联邦学习的保密性要求。

第二步，从目标数目个准备选数据集中确定目标备选数据集。

在这些实现方式中，上述执行主体可以通过各种方式从上述第一步所选取的目标数目个准备选数据集中确定目标备选数据集。作为示例，上述执行主体可以从上述目标数目个准备选数据集中随机确定目标备选数据集。作为又一示例，上述执行主体还可以根据目标数目个准备选数据集的数据获取成本，选取数据获取成本最低的准备选数据集作为上述目标备选数据集。

在本实施例的一些可选的实现方式中，上述预设的备选数据集集合可以通过以下步骤得到：

第一步，获取预设的原始备选数据集集合。

在这些实现方式中，上述执行主体可以通过各种方式获取预设的原始备选数据集集合。其中，上述原始备选数据集通常为各机构提供的用于联邦学习模型训练的原始数据集。上述袁术备选数据集中的数据的特征的维度通常随着机构的不同而不同。

在这些实现方式中，作为示例，上述执行主体可以通过有线或无线连接的方式从通信连接的各机构的后台服务器获取上述原始备选数据集集合。

第二步，根据数据属性信息所指示的待替换的数据集的数据格式，对预设的原始备选数据集集合中的原始备选数据集进行数据清洗，生成预设的备选数据集集合。

在这些实现方式中，根据数据属性信息所指示的待替换的数据集的数据格式，上述执行主体可以通过各种方式对上述第一步所获取的预设的原始备选数据集集合中的原始备选数据集进行数据清洗，生成预设的备选数据集集合。作为示例，上述数据清洗可以包括对数据进行一致性检查(consistency check)。上述数据清洗依赖于数据属性信息所指示的数据格式，例如数据特征的“年龄”维度为非负值。作为又一示例，上述数据清洗可以包括对数据中的无效值和缺失值进行处理，以保证基本统计量、缺失值分布等无异常。

可选地，上述执行主体还可以在进行上述数据清洗前对预设的原始备选数据集集合中的原始备选数据集的数据进行格式化，以保证来自于不同数据集的数据在同一特征维度下满足相同格式。

步骤203，将目标备选数据集加载至联邦学习模型进行模型训练。

在本实施例中，上述执行主体可以将步骤202所确定的目标备选数据集加载至联邦学习模型进行模型训练。从而，上述目标备选数据集可以替代上述待替换的数据集作为样本参与联邦学习模型的模型训练。

需要说明的是，上述用于训练联邦学习模型的执行主体可以与上述用于联邦学习模型的数据集切换方法的执行主体相同或不同。如果相同，上述执行主体可以将上述目标备选数据集直接加载至联邦学习模型进行模型训练；如果不同，上述执行主体可以将上述目标备选数据集发送至上述用于训练联邦学习模型的执行主体，以加载至联邦学习模型进行模型训练。

在本实施例的一些可选的实现方式中，上述执行主体还可以对采用上述目标备选数据集进行联邦学习模型训练的模型进行评价，生成评价结果。其中，上述评价结果可以包括模型稳定度指标(population stability index,PSI)、模型有效性等。可选地，上述评价结果还可以为上述目标备选数据集的数据属性信息提供数据基础。

继续参见图3，图3是根据本公开的实施例的用于联邦学习模型的数据集切换方法的应用场景的一个示意图。在图3的应用场景中，用户301使用终端设备302向后台服务器303发送联邦学习模型训练请求304。后台服务器303分别从机构A、机构B的服务器3051、服务器3052获取数据集A₁、B₁。而后，上述数据集B₁无法使用。后台服务器303获取数据集B₁的数据属性信息。上述数据属性信息指示机构B属于电商行业。根据上述数据属性信息后台服务器303可以根据电商行业机构列表306所指示的机构优先级顺序从预设的备选数据集集合中确定机构J提供的数据集J₁为目标备选数据集。之后，上述后台服务器303可以从机构J的服务器3053获取上述数据集J₁。并且，上述后台服务器303可以将上述数据集J₁加载至联邦学习框架对模型进行训练。可选地，在模型训练完成后，上述后台服务器303还可以向终端设备302发送表征联邦学习模型训练完成的信息307。

目前，现有技术之一通常是对不能使用的数据集进行缺失值处理而利用联邦学习框架重新训练模型，导致模型训练过程对于参与训练的数据集过于依赖，从而一方面影响模型的训练稳定性，另一方面影响整体模型的训练效果。而本公开的上述实施例提供的方法，通过从备选数据集集合中确定与不能使用的数据集匹配的目标备选数据集并进行替换，以继续通过联邦学习训练模型，实现了将相近数据源作为备选，以保证联邦学习模型的训练效果和稳定性。

进一步参考图4，其示出了用于联邦学习模型的数据集切换方法的又一个实施例的流程400。该用于联邦学习模型的数据集切换方法的流程400，包括以下步骤：

步骤401，获取待替换的数据集的数据属性信息。

在本实施例中，上述数据属性信息可以包括历史合作数据信息。上述历史合作数据信息可以用于指示在联邦学习框架下、与上述待替换的数据集共同参与过同一模型训练的数据集。

步骤402，获取历史合作数据信息所指示的至少一个数据集的历史模型评价信息。

在本实施例中，用于联邦学习模型的数据集切换方法的执行主体(例如图1所示的服务器105)可以通过有线或无线连接的方式获取历史合作数据信息所指示的至少一个数据集的历史模型评价信息。其中，上述数据集的历史模型评价信息可以用于指示加入数据集对模型效果带来的增益大小。上述模型效果可以包括但不限于以下至少一项：稳定性，有效性。作为示例，上述执行主体可以从本地或通信连接的数据库服务器获取上述历史合作数据信息所指示的各数据集对应的历史模型评价信息。

步骤403，根据数据集的历史模型评价信息所指示的增益大小从预设的备选数据集集合中选取目标数目个准备选数据集。

在本实施例中，根据数据集的历史模型评价信息所指示的增益大小，上述执行主体可以通过各种方式从预设的备选数据集集合中选取目标数目个准备选数据集。其中，上述目标数目可以是根据实际的应用需求，预先指定的任意数目(例如3个)。上述目标数目也可以是根据规则而定的数目，例如增益值大于预设增益阈值的备选数据集的数目。

在本实施例的一些可选的实现方式中，上述预设的备选数据集集合可以通过以下步骤得到：

第一步，获取预设的原始备选数据集集合；

第二步，根据数据属性信息所指示的待替换的数据集的数据格式，对预设的原始备选数据集集合中的原始备选数据集进行数据清洗，生成预设的备选数据集集合。

在这些实现方式中，上述步骤可以与前述实施例中的步骤202的可选的实现方式的相应内容一致，此处不再赘述。

步骤404，从目标数目个准备选数据集中确定目标备选数据集。

在本实施例的一些可选的实现方式中，上述执行主体可以按照如下步骤从目标数目个准备选数据集中确定目标备选数据集：

第一步，获取目标数目个准备选数据集各自的数据成本信息。

在这些实现方式中，上述执行主体可以通过各种方式获取上述步骤403所选取的目标数目个准备选数据集各自的数据成本信息。其中，上述数据成本信息可以用于表征获取上述备选数据集的各种费用。上述费用可以包括但不限于以下至少一项：数据获取成本(或数据获取单价和查询次数)，数据传输成本，人员合作成本。其中，上述获取单价可以用于表示查询一条数据的费用。上述查询次数可以为数据集的样本数目。

第二步，根据数据成本信息和历史模型评价信息所指示的增益大小，从目标数目个准备选数据集中确定目标备选数据集。

在这些实现方式中，上述执行主体可以根据上述第一步所获取的数据成本信息和历史模型评价信息所指示的增益大小，通过各种方式从目标数目个准备选数据集中确定目标备选数据集。

在这些实现方式中，上述执行主体可以根据所获取的数据成本信息和历史模型评价信息所指示的增益大小构造数据价值函数。其中，上述数据价值函数的值通常与数据成本信息所指示的费用呈负相关，与历史模型评价信息所指示的增益大小呈正相关。作为示例，上述数据价值函数可以为上述执行主体可以将上述数据价值函数的数值最大的备选数据集确定为上述目标备选数据集。

步骤405，将目标备选数据集加载至联邦学习模型进行模型训练。

上述步骤401、步骤404、步骤405分别与前述实施例中的步骤201、步骤202的可选的实现方式、步骤203一致，上文针对步骤201、步骤202的可选的实现方式和步骤203的描述也适用于步骤401、步骤404和步骤405，此处不再赘述。

从图4中可以看出，本实施例中的用于联邦学习模型的数据集切换方法的流程400体现了根据数据集的历史模型评价信息所指示的增益大小从预设的备选数据集集合中选取目标数目个准备选数据集的步骤。由此，本实施例描述的方案可以综合历史合作数据信息选取匹配的备选数据集，从而提升了数据集替换后的模型训练效果。

进一步参考图5，作为对上述各图所示方法的实现，本公开提供了用于联邦学习模型的数据集切换装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图5所示，本实施例提供的用于联邦学习模型的数据集切换装置500包括获取单元501、确定单元502和加载单元503。其中，获取单元501，被配置成获取待替换的数据集的数据属性信息；确定单元502，被配置成根据数据属性信息，从预设的备选数据集集合中确定目标备选数据集；加载单元503，被配置成将目标备选数据集加载至联邦学习模型进行模型训练。

在本实施例中，用于联邦学习模型的数据集切换装置500中：获取单元501、确定单元502和加载单元503的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201、步骤202和步骤203的相关说明，在此不再赘述。

在本实施例的一些可选的实现方式中，上述确定单元502可以包括：选取子单元(图中未示出)，确定子单元(图中未示出)。其中，上述选取子单元，可以被配置成按照预设的选取规则从预设的备选数据集集合中选取目标数目个准备选数据集。上述确定子单元，可以被配置成从目标数目个准备选数据集中确定目标备选数据集。

在本实施例的一些可选的实现方式中，上述数据属性信息可以包括数据的特征信息。上述选取子单元可以进一步被配置成根据与数据的特征信息相似程度由高至低的顺序从预设的备选数据集集合中选取目标数目个准备选数据集。

在本实施例的一些可选的实现方式中，上述数据属性信息可以包括历史合作数据信息。上述选取子单元可以包括：第一获取模块(图中未示出)，选取模块(图中未示出)。其中，上述第一获取模块，可以被配置成获取历史合作数据信息所指示的至少一个数据集的历史模型评价信息。其中，上述数据集的历史模型评价信息可以用于指示加入数据集对模型效果带来的增益大小。上述选取模块，可以被配置成根据数据集的历史模型评价信息所指示的增益大小从预设的备选数据集集合中选取目标数目个准备选数据集。

在本实施例的一些可选的实现方式中，上述确定子单元可以包括：第二获取模块(图中未示出)，第一确定模块(图中未示出)。其中，上述第二获取模块，可以被配置成获取目标数目个准备选数据集各自的数据成本信息。上述第一确定模块，可以被配置成根据数据成本信息和历史模型评价信息所指示的增益大小，从目标数目个准备选数据集中确定目标备选数据集。

在本实施例的一些可选的实现方式中，上述数据属性信息可以包括特征统计向量。上述特征统计向量中的元素可以用于指示特征的统计值。上述选取子单元可以包括：聚类模块(图中未示出)、第二确定模块(图中未示出)。其中，上述聚类模块，可以被配置成根据特征统计向量，对预设的备选数据集集合中的备选数据集进行聚类，生成至少一个备选数据集组。上述第二确定模块，可以被配置成将与待替换的数据集属于同一备选数据集组的其他备选数据集确定为目标数目个准备选数据集。

在本实施例的一些可选的实现方式中，上述预设的备选数据集集合可以通过以下步骤得到：获取预设的原始备选数据集集合；根据数据属性信息所指示的待替换的数据集的数据格式，对预设的原始备选数据集集合中的原始备选数据集进行数据清洗，生成预设的备选数据集集合。

本公开的上述实施例提供的装置，通过获取单元501获取待替换的数据集的数据属性信息。而后，确定单元502根据数据属性信息，从预设的备选数据集集合中确定目标备选数据集。最后，加载单元503将目标备选数据集加载至联邦学习模型进行模型训练。从而实现了将相近数据源作为备选，以保证联邦学习模型的训练效果和稳定性。

下面参考图6，其示出了适于用来实现本公开的实施例的电子设备(例如图1中的服务器)600的结构示意图。本公开的实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图6示出的服务器仅仅是一个示例，不应对本公开的实施例的功能和使用范围带来任何限制。

如图6所示，电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

通常，以下装置可以连接至I/O接口605：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606；包括例如液晶显示器(LCD，LiquidCrystal Display)、扬声器、振动器等的输出装置607；包括例如磁带、硬盘等的存储装置608；以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图6中示出的每个方框可以代表一个装置，也可以根据需要代表多个装置。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置609从网络上被下载和安装，或者从存储装置608被安装，或者从ROM 602被安装。在该计算机程序被处理装置601执行时，执行本公开的实施例的方法中限定的上述功能。

需要说明的是，本公开的实施例所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的实施例中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的实施例中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(Radio Frequency，射频)等等，或者上述的任意合适的组合。

上述计算机可读介质可以是上述服务器中所包含的；也可以是单独存在，而未装配入该服务器中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该服务器执行时，使得该服务器：获取待替换的数据集的数据属性信息；根据数据属性信息，从预设的备选数据集集合中确定目标备选数据集；将目标备选数据集加载至联邦学习模型进行模型训练。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的实施例的操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开的各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开的实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器，包括获取单元、确定单元、加载单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，获取单元还可以被描述为“获取待替换的数据集的数据属性信息的单元”。

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开的实施例中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (10)

1.一种用于联邦学习模型的数据集切换方法，包括：

获取待替换的数据集的数据属性信息；

根据所述数据属性信息，从预设的备选数据集集合中确定目标备选数据集；

将所述目标备选数据集加载至所述联邦学习模型进行模型训练。

2.根据权利要求1所述的方法，其中，所述根据所述数据属性信息，从预设的备选数据集集合中确定目标备选数据集，包括：

按照预设的选取规则从所述预设的备选数据集集合中选取目标数目个准备选数据集；

从所述目标数目个准备选数据集中确定所述目标备选数据集。

3.根据权利要求2所述的方法，其中，所述数据属性信息包括数据的特征信息；以及

所述按照预设的选取规则从所述预设的备选数据集集合中选取目标数目个准备选数据集，包括：

根据与所述数据的特征信息相似程度由高至低的顺序从所述预设的备选数据集集合中选取目标数目个准备选数据集。

4.根据权利要求2所述的方法，其中，所述数据属性信息包括历史合作数据信息；以及

所述按照预设的选取规则从所述预设的备选数据集集合中选取目标数目个准备选数据集，包括：

获取所述历史合作数据信息所指示的至少一个数据集的历史模型评价信息，其中，所述数据集的历史模型评价信息用于指示加入所述数据集对模型效果带来的增益大小；

根据所述数据集的历史模型评价信息所指示的增益大小从所述预设的备选数据集集合中选取目标数目个准备选数据集。

5.根据权利要求4所述的方法，其中，所述从所述目标数目个准备选数据集中确定所述目标备选数据集，包括：

获取所述目标数目个准备选数据集各自的数据成本信息；

根据数据成本信息和历史模型评价信息所指示的增益大小，从所述目标数目个准备选数据集中确定所述目标备选数据集。

6.根据权利要求2所述的方法，其中，所述数据属性信息包括特征统计向量，所述特征统计向量中的元素用于指示特征的统计值；以及

所述按照预设的选取规则从所述预设的备选数据集集合中选取目标数目个准备选数据集，包括：

根据所述特征统计向量，对所述预设的备选数据集集合中的备选数据集进行聚类，生成至少一个备选数据集组；

将与所述待替换的数据集属于同一备选数据集组的其他备选数据集确定为所述目标数目个准备选数据集。

7.根据权利要求1-6之一所述的方法，其中，所述预设的备选数据集集合通过以下步骤得到：

获取预设的原始备选数据集集合；

根据所述数据属性信息所指示的待替换的数据集的数据格式，对所述预设的原始备选数据集集合中的原始备选数据集进行数据清洗，生成所述预设的备选数据集集合。

8.一种用于联邦学习模型的数据集切换装置，包括：

获取单元，被配置成获取待替换的数据集的数据属性信息；

确定单元，被配置成根据所述数据属性信息，从预设的备选数据集集合中确定目标备选数据集；

加载单元，被配置成将所述目标备选数据集加载至所述联邦学习模型进行模型训练。

9.一种服务器，包括：

一个或多个处理器；

存储装置，其上存储有一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。

10.一种计算机可读介质，其上存储有计算机程序，其中，该程序被处理器执行时实现如权利要求1-7中任一所述的方法。

Images