CN113962401A - 联邦学习系统、联邦学习系统中的特征选择方法及装置 - Google Patents

联邦学习系统、联邦学习系统中的特征选择方法及装置 Download PDF

Info

Publication number
CN113962401A
CN113962401A CN202111404913.6A CN202111404913A CN113962401A CN 113962401 A CN113962401 A CN 113962401A CN 202111404913 A CN202111404913 A CN 202111404913A CN 113962401 A CN113962401 A CN 113962401A
Authority
CN
China
Prior art keywords
sample
feature
participant
distance
samples
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111404913.6A
Other languages
English (en)
Inventor
周一竞
张宇
孟丹
李宏宇
李晓林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Bodun Xiyan Technology Co ltd
Original Assignee
Hangzhou Bodun Xiyan Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Bodun Xiyan Technology Co ltd filed Critical Hangzhou Bodun Xiyan Technology Co ltd
Priority to CN202111404913.6A priority Critical patent/CN113962401A/zh
Publication of CN113962401A publication Critical patent/CN113962401A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/211—Selection of the most significant subset of features
    • G06F18/2113—Selection of the most significant subset of features by ranking or filtering the set of features, e.g. using a measure of variance or of feature cross-correlation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
    • G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
    • G06F21/6245—Protecting personal data, e.g. for financial or medical purposes

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Bioethics (AREA)
  • Evolutionary Biology (AREA)
  • Medical Informatics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computer Hardware Design (AREA)
  • Computer Security & Cryptography (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请提供了一种联邦学习系统、联邦学习系统中的特征选择方法及装置，系统至少包括第一参与方和第二参与方，第一参与方持有样本的第一特征以及样本标签，第二参与方持有样本的第二特征；第一参与方配置为：基于第一特征计算得到联合样本集中各样本分别与中心样本之间的第一距离，并获取第二参与方基于第二特征计算得到的联合样本集中各样本分别与中心样本之间的第二距离；基于第二距离对第一距离进行更新，得到联合样本集中各样本分别与中心样本之间的综合距离；基于样本标签以及综合距离，筛选出第一同类样本和第一异类样本；对第一特征的权重进行更新，并对第一特征进行筛选。本申请提高了第一参与方对其所持有第一特征进行特征选择的精准度。

Description

联邦学习系统、联邦学习系统中的特征选择方法及装置
技术领域
本申请涉及人工智能领域，具体涉及一种联邦学习系统、联邦学习系统中的特征选择方法及装置。
背景技术
在人工智能领域中，为有效地解决数据孤岛问题，可以采用联邦学习技术，多个参与方联合起来进行机器学习模型的训练。在机器学习模型的训练过程中，可以通过特征选择来减少样本所包含的特征，以提高机器学习模型的训练效率。
现有技术中，联邦学习系统中的特征选择，首先由参与方根据线下沟通确定特征选择的需求，各参与方分别对其所拥有样本进行特征选择。这种线下沟通的方式所进行的特征选择受限于其沟通途径的局限性，对于联邦学习系统中的数据利用率不足，使得联邦过程中的特征选择与实际特征需求的匹配度不高，特征选择的准确率难以满足要求。
发明内容
本申请的一个目的在于提出一种联邦学习系统、联邦学习系统中的特征选择方法及装置，在保证第二参与方所持有第二特征不透露给第一参与方的前提下，将第一参与方用于特征选择的数据源从第一特征拓展为了包含有第二特征的综合特征，提高了第一参与方对于联邦学习系统中数据的利用率，从而提高了第一参与方对其所持有第一特征进行特征选择的精准度。
根据本申请实施例的一方面，公开了一种联邦学习系统，所述系统至少包括第一参与方和第二参与方，所述第一参与方持有样本的第一特征以及样本的样本标签，所述第二参与方持有样本的第二特征，所述第一参与方以及所述第二参与方分别选取相同样本组成的联合样本集，并分别从所述联合样本集中选取相同的一个样本作为中心样本R；
所述第一参与方配置为：
基于所述第一特征计算得到所述联合样本集中各样本分别与所述中心样本R之间的第一距离，并获取所述第二参与方基于所述第二特征计算得到的所述联合样本集中各样本分别与所述中心样本R之间的第二距离；
基于所述第二距离对所述第一距离进行更新，得到所述联合样本集中各样本分别与所述中心样本R之间的综合距离；
基于所述样本标签以及所述综合距离，从与所述中心样本R标签相同的样本中筛选出综合距离最近的k个样本作为第一同类样本，以及从与所述中心样本R标签不同的各类样本中分别筛选出综合距离最近的k个样本作为第一异类样本，其中，k为大于0的自然数；
基于所述第一同类样本与所述中心样本R在各第一特征上的特征距离，以及所述第一异类样本与所述中心样本R在各第一特征上的特征距离，对各第一特征的权重进行更新，并根据各第一特征更新后的权重对第一特征进行筛选。
在本申请的一示例性实施例中，所述第一参与方配置为：
与所述第二参与方预先约定一个随机数种子，使得所述第一参与方以及所述第二参与方每次根据所述随机数种子进行采样，分别选取出所述联合样本集。
在本申请的一示例性实施例中，所述第一参与方配置为：
从所述联合样本集中随机选取一个样本作为中心样本R，并将所述中心样本R的标识发送给所述第二参与方，以使得所述第二参与方根据所述标识选取所述中心样本R。
在本申请的一示例性实施例中，所述第一参与方配置为：
计算所述第一距离与所述第二距离之间的向量距离，将所述向量距离作为更新后的第一距离，并将所述更新后的第一距离作为对应样本与所述中心样本R之间的综合距离。
在本申请的一示例性实施例中，所述第一参与方配置为：
筛选得到更新后权重大于预设权重阈值的第一特征；
或者，按照更新后权重从大到小的顺序对所述第一特征进行排序，筛选得到排序靠前的预设数目个第一特征。
根据本申请实施例的一方面，公开了一种联邦学习系统，所述系统中至少包括第一参与方以及第二参与方，所述第一参与方持有样本的第一特征以及样本的样本标签，所述第二参与方持有样本的第二特征，所述第一参与方以及所述第二参与方分别选取相同样本组成的联合样本集，并分别将所述联合样本集中的同一样本作为中心样本R；
所述第二参与方配置为：
通过隐私计算的方式对所述第一参与方生成的第一矩阵以及所述第二参与方生成的第二矩阵进行处理，得到第二同类样本与所述中心样本R在各第二特征上的特征距离，以及第二异类样本与所述中心样本R在各第二特征上的特征距离，其中，所述第一矩阵用于描述所述联合样本集中各样本的样本标签，所述第二矩阵用于描述所述联合样本集中各样本的第二特征，所述第二同类样本为基于第二特征确定的与所述中心样本R标签相同且距离所述中心样本R最近的k个样本，所述第二异类样本为基于第二特征确定的与所述中心样本R标签不同的每一类样本中距离所述中心样本R最近的k个样本；
基于所述第二同类样本与所述中心样本R在各第二特征上的特征距离，以及所述第二异类样本与所述中心样本R在各第二特征上的特征距离，对各第二特征的权重进行更新，并根据各第二特征更新后的权重对第二特征进行筛选。
在本申请的一示例性实施例中，所述第二参与方配置为：
若所述第二特征为连续值，则对所述第二特征进行归一化处理，并基于归一化处理后的第二特征生成所述第二矩阵。
在本申请的一示例性实施例中，所述系统还包括可信第三方，所述可信第三方配置为：
从所述第一参与方接收所述第一矩阵，并从所述第二参与方接收所述第二矩阵；
基于所述第一矩阵以及所述第二矩阵，计算得到所述第二同类样本与所述中心样本在各第二特征上的特征距离，以及所述第二异类样本与所述中心样本在各第二特征上的特征距离；
将所述第二同类样本与所述中心样本在各第二特征上的特征距离，以及所述第二异类样本与所述中心样本在各第二特征上的特征距离发送给所述第二参与方。
根据本申请实施例的一方面，公开了一种联邦学习系统中的特征选择方法，所述系统中至少包括第一参与方以及第二参与方，所述第一参与方持有样本的第一特征以及样本的样本标签，所述第二参与方持有样本的第二特征，所述第一参与方以及所述第二参与方分别选取相同样本组成的联合样本集，并分别从所述联合样本集中选取相同的一个样本作为中心样本R，所述方法应用于所述第一参与方，所述方法包括：
基于所述第一特征计算得到所述联合样本集中各样本分别与所述中心样本R之间的第一距离，并获取所述第二参与方基于所述第二特征计算得到的所述联合样本集中各样本分别与所述中心样本R之间的第二距离；
基于所述第二距离对所述第一距离进行更新，得到所述联合样本集中各样本分别与所述中心样本R之间的综合距离；
基于所述样本标签以及所述综合距离，从与所述中心样本R标签相同的样本中筛选出综合距离最近的k个样本作为第一同类样本，以及从与所述中心样本R标签不同的各类样本中分别筛选出综合距离最近的k个样本作为第一异类样本，其中，k为大于0的自然数；
基于所述第一同类样本与所述中心样本R在各第一特征上的特征距离，以及所述第一异类样本与所述中心样本R在各第一特征上的特征距离，对各第一特征的权重进行更新，并根据各第一特征更新后的权重对第一特征进行筛选。
根据本申请实施例的一方面，公开了一种联邦学习系统中的特征选择装置，所述系统中至少包括第一参与方以及第二参与方，所述第一参与方持有样本的第一特征以及样本的样本标签，所述第二参与方持有样本的第二特征，所述第一参与方以及所述第二参与方分别选取相同样本组成的联合样本集，并分别从所述联合样本集中选取相同的一个样本作为中心样本R，所述装置设于所述第一参与方，所述装置包括：
距离计算模块，配置为基于所述第一特征计算得到所述联合样本集中各样本分别与所述中心样本R之间的第一距离，并获取所述第二参与方基于所述第二特征计算得到的所述联合样本集中各样本分别与所述中心样本R之间的第二距离；
距离更新模块，配置为基于所述第二距离对所述第一距离进行更新，得到所述联合样本集中各样本分别与所述中心样本R之间的综合距离；
样本筛选模块，配置为基于所述样本标签以及所述综合距离，从与所述中心样本R标签相同的样本中筛选出综合距离最近的k个样本作为第一同类样本，以及从与所述中心样本R标签不同的各类样本中分别筛选出综合距离最近的k个样本作为第一异类样本，其中，k为大于0的自然数；
第一特征筛选模块，配置为基于所述第一同类样本与所述中心样本R在各第一特征上的特征距离，以及所述第一异类样本与所述中心样本R在各第一特征上的特征距离，对各第一特征的权重进行更新，并根据各第一特征更新后的权重对第一特征进行筛选。
根据本申请实施例的一方面，公开了一种联邦学习系统中的特征选择方法，所述系统中至少包括第一参与方以及第二参与方，所述第一参与方持有样本的第一特征以及样本的样本标签，所述第二参与方持有样本的第二特征，所述第一参与方以及所述第二参与方分别选取相同样本组成的联合样本集，并分别从所述联合样本集中选取相同的一个样本作为中心样本R，所述方法应用于所述第二参与方，所述方法包括：
通过隐私计算的方式对所述第一参与方生成的第一矩阵以及所述第二参与方生成的第二矩阵进行处理，得到第二同类样本与所述中心样本R在各第二特征上的特征距离，以及第二异类样本与所述中心样本R在各第二特征上的特征距离，其中，所述第一矩阵用于描述所述联合样本集中各样本的样本标签，所述第二矩阵用于描述所述联合样本集中各样本的第二特征，所述第二同类样本为基于第二特征确定的与所述中心样本R标签相同且距离所述中心样本R最近的k个样本，所述第二异类样本为基于第二特征确定的与所述中心样本R标签不同的每一类样本中距离所述中心样本R最近的k个样本；
基于所述第二同类样本与所述中心样本R在各第二特征上的特征距离，以及所述第二异类样本与所述中心样本R在各第二特征上的特征距离，对各第二特征的权重进行更新，并根据各第二特征更新后的权重对第二特征进行筛选。
根据本申请实施例的一方面，公开了一种联邦学习系统中的特征选择装置，所述系统中至少包括第一参与方以及第二参与方，所述第一参与方持有样本的第一特征以及样本的样本标签，所述第二参与方持有样本的第二特征，所述第一参与方以及所述第二参与方分别选取相同样本组成的联合样本集，并分别从所述联合样本集中选取相同的一个样本作为中心样本R，所述装置设于所述第二参与方，所述装置包括：
隐私计算模块，配置为通过隐私计算的方式对所述第一参与方生成的第一矩阵以及所述第二参与方生成的第二矩阵进行处理，得到第二同类样本与所述中心样本R在各第二特征上的特征距离，以及第二异类样本与所述中心样本R在各第二特征上的特征距离，其中，所述第一矩阵用于描述所述联合样本集中各样本的样本标签，所述第二矩阵用于描述所述联合样本集中各样本的第二特征，所述第二同类样本为基于第二特征确定的与所述中心样本R标签相同且距离所述中心样本R最近的k个样本，所述第二异类样本为基于第二特征确定的与所述中心样本R标签不同的每一类样本中距离所述中心样本R最近的k个样本；
第二特征筛选模块，配置为基于所述第二同类样本与所述中心样本R在各第二特征上的特征距离，以及所述第二异类样本与所述中心样本R在各第二特征上的特征距离，对各第二特征的权重进行更新，并根据各第二特征更新后的权重对第二特征进行筛选。
根据本申请实施例的一方面，公开了一种电子设备，包括：存储器，存储有计算机可读指令；处理器，读取存储器存储的计算机可读指令，以执行以上权利要求中的任一个所述的方法。
根据本申请实施例的一方面，公开了一种计算机程序介质，其上存储有计算机可读指令，当所述计算机可读指令被计算机的处理器执行时，使计算机执行以上权利要求中的任一个所述的方法。
根据本申请实施例的一个方面，提供了一种计算机程序产品或计算机程序，计算机程序产品或计算机程序包括计算机指令，计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取计算机指令，处理器执行计算机指令，使得计算机设备执行上述各种可选实现方式中提供的方法。
本申请实施例中，持有样本标签的第一参与方从第二参与方处获取以第二特征为数据源计算得到的第二距离，进而基于第二距离对以第一特征为数据源计算得到的第一距离进行更新，从而得到以综合特征为数据源计算得到的综合距离。该综合特征指的是第一特征与第二特征组成的集合。在这一过程中，第一参与方用于特征选择的数据源从第一特征拓展为了综合特征，因此第一参与方对其所持有第一特征进行特征选择的精准度得到了提高。与此同时，第二参与方的第二特征并未透露给第一参与方，因此第二参与方的数据安全得到了保证。由此可见，本申请在保证第二参与方所持有第二特征不透露给第一参与方的前提下，将第一参与方用于特征选择的数据源从第一特征拓展为了包含有第二特征的综合特征，提高了第一参与方对于联邦学习系统中数据的利用率，从而提高了第一参与方对其所持有第一特征进行特征选择的精准度。
本申请的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本申请的实践而习得。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性的，并不能限制本申请。
附图说明
通过参考附图详细描述其示例实施例，本申请的上述和其它目标、特征及优点将变得更加显而易见。
图1示出了根据本申请一个实施例的联邦学习系统中的特征选择方法流程图。
图2示出了根据本申请又一个实施例的联邦学习系统中的特征选择方法流程图。
图3示出了根据本申请一个实施例的联邦学习系统中各参与方的特征选择示意图。
图4示出了根据本申请一个实施例的联邦学习系统中的特征选择装置框图。
图5示出了根据本申请又一个实施例的联邦学习系统中的特征选择装置框图。
图6示出了根据本申请一个实施例的电子设备硬件图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些示例实施方式使得本申请的描述将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。附图仅为本申请的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。
此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多示例实施方式中。在下面的描述中，提供许多具体细节从而给出对本申请的示例实施方式的充分理解。然而，本领域技术人员将意识到，可以实践本申请的技术方案而省略所述特定细节中的一个或更多，或者可以采用其它的方法、组元、步骤等。在其它情况下，不详细示出或描述公知结构、方法、实现或者操作以避免喧宾夺主而使得本申请的各方面变得模糊。
附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
图1示出了本申请一实施例中的联邦学习系统中的特征选择方法流程图。
联邦学习系统通常包括至少两个参与方，为了对本申请中参与方进行区分，本申请的联邦系统包括第一参与方和第二参与方，第一参与方持有样本的第一特征以及样本的样本标签，第二参与方持有样本的第二特征。在一次完整的特征选择过程中，第一参与方一般只有一个，第二参与方可以有多个。
为了进行特征选择，选取n个样本作为第一参与方和第二参与方的联合样本集，从联合样本集中选取一个样本R作为中心样本。n为大于1的自然数。例如：第一参与方和第二参与方均选取ID为1～10的10个样本作为联合样本集，并均选择ID为5的样本作为中心样本R。
图1所示方法应用于第一参与方，该方法包括：
步骤S110、基于第一特征计算得到联合样本集中各样本分别与中心样本R之间的第一距离，并获取第二参与方基于第二特征计算得到的联合样本集中各样本分别与中心样本R之间的第二距离；
步骤S120、基于第二距离对第一距离进行更新，得到联合样本集中各样本分别与中心样本R之间的综合距离；
步骤S130、基于样本标签以及综合距离，从与中心样本R样本标签相同的样本中筛选出综合距离最近的k个样本作为第一同类样本，以及从与中心样本R样本标签不同的各类样本中分别筛选出综合距离最近的k个样本作为第一异类样本，其中，k为大于0的自然数；
步骤S140、基于第一同类样本与中心样本R在各第一特征上的特征距离，以及第一异类样本与中心样本R在各第一特征上的特征距离，对各第一特征的权重进行更新，并根据各第一特征更新后的权重对第一特征进行筛选。
详细的，本申请实施例中，联合样本集包括多个特征维度组合，样本的第一特征指的是样本在第一特征维度组合上的特征，样本的第二特征指的是样本在第二特征维度组合上的特征，第一特征维度组合通常不同于第二特征维度组合。例如：第一参与方持有样本在特征维度xa1、xa2…xaf上的特征，则第一参与方拥有样本的af个第一特征X_A，记为X_A＝(xa1,xa2,...,xaf)；第二参与方持有样本在特征维度xb1、xb2…xbf上的特征，则第二参与方拥有样本的bf个第二特征X_B，记为X_B＝(xb1,xb2,...,xbf)。
选取出中心样本R后，第一参与方基于其所持有的第一特征计算联合样本集中各样本分别与中心样本R之间的第一距离，第二参与方基于其所持有的第二特征计算联合样本集中各样本分别与中心样本R之间的第二距离。第一距离描述的是以第一特征为数据源计算得到的样本距离，第二距离描述的是以第二特征为数据源计算得到的样本距离。
第一参与方从第二参与方处获取第二距离，进而基于第二距离对第一距离进行更新(例如：将第一距离与第二距离之间的向量距离作为更新后的第一距离)，将更新后的第一距离作为联合样本集中各样本分别与中心样本R之间的综合距离。由于综合距离是基于第二距离对第一距离更新得到的，而第二距离描述的是以第二特征为数据源计算得到的样本距离，因此，综合距离用于描述以综合特征为数据源计算得到的样本距离(这里的综合特征指的是第一特征与第二特征组成的集合)。
得到联合样本集中各样本分别对应的综合距离后，第一参与方基于其所持有的样本标签，筛选与中心样本R样本标签相同且综合距离最近的k个样本作为第一同类样本，并从与中心样本R样本标签不同的各类样本中分别筛选出综合距离最近的k个样本作为第一异类样本。具体的，第一参与方基于其所持有的样本标签，确定与中心样本R的样本标签相同的样本作为同类样本，进而按照综合距离从近到远的顺序对这些同类样本进行排序，挑选出前k个作为第一同类样本；同理，确定与中心样本R的样本标签不同的样本作为异类样本，进而按照综合距离从近到远的顺序对每一种异类样本单独进行排序，从每一种异类样本中挑选出前k个作为第一异类样本。k为大于0的自然数。若异类样本有F种，则筛选出的第一异类样本的数量为F*k。
筛选出第一同类样本后，第一参与方确定第一同类样本与中心样本R在各第一特征上的特征距离，即，第一同类样本作为一个整体时与中心样本R在各第一特征上的特征距离。同理，筛选出第一异类样本后，第一参与方确定第一异类样本与中心样本R在各第一特征上的特征距离。
进而第一参与方基于第一同类样本与中心样本R在各第一特征上的特征距离，以及第一异类样本与中心样本R在各第一特征上的特征距离，对各第一特征的权重进行更新。其中，第一特征的权重用于描述将对应的第一特征用于区分样本类别时，对应的第一特征所发挥类别区分作用的强弱。针对特定的第一特征，其权重越大，说明相比于异类样本与中心样本R在该第一特征上的相似程度，同类样本与中心样本R在该第一特征上的相似程度更大，说明该第一特征所发挥的类别区分作用越强；反之，针对特定的第一特征，其权重越小，说明该第一特征所发挥的类别区分作用越弱。
进而第一参与方根据更新后的权重，将所有第一特征划分为两部分：第一部分中的任一第一特征的权重，大于或等于第二部分中的任一第一特征的权重。进而剔除第二部分中的第一特征，并保留第一部分中的第一特征，实现特征选择。特征选择后的样本所描述信息，与特征选择前的样本所描述信息近似有效；同时相比于特征选择前的样本描述信息所使用第一特征的数量，特征选择后的样本描述信息所使用第一特征的数量更少，因此对样本进行特征选择后，第一参与方使用其所持有数据训练机器学习模型的效率能够得到提高。
本申请实施例中，持有样本标签的第一参与方从第二参与方处获取以第二特征为数据源计算得到的第二距离，进而基于第二距离对以第一特征为数据源计算得到的第一距离进行更新，从而得到以综合特征为数据源计算得到的综合距离。该综合特征指的是第一特征与第二特征组成的集合。在这一过程中，第一参与方用于特征选择的数据源从第一特征拓展为了综合特征，因此第一参与方对其所持有第一特征进行特征选择的精准度得到了提高。与此同时，第二参与方的第二特征并未透露给第一参与方，因此第二参与方的数据安全得到了保证。由此可见，本申请在保证第二参与方所持有第二特征不透露给第一参与方的前提下，将第一参与方用于特征选择的数据源从第一特征拓展为了包含有第二特征的综合特征，提高了第一参与方对于联邦学习系统中数据的利用率，从而提高了第一参与方对其所持有第一特征进行特征选择的精准度。
为了便于展示本申请实施例的具体实施过程，记第一参与方为A；第二参与方为B；基于第一特征计算得到的第一距离为d1；基于第二特征计算得到的第二距离为d2；综合距离为d；同类样本中与R最近的第j个样本为Hj，j＝1,...,k；各类异类样本C中与R最近的第j个样本为Mj(C)，j＝1,...,k。
在一实施例中，第一参与方与第二参与方预先约定一个随机数种子，使得第一参与方以及第二参与方每次根据随机数种子进行采样，分别选取出相同样本组成的联合样本集。
本实施例中，A与B预先约定相同的一个随机数种子。A根据该随机数种子对样本集进行采样，得到包含n个样本的联合样本集。B同样根据该随机数种子对样本集进行采样，得到包含n个样本的联合样本集。根据同样的随机数种子选取出的n个样本，其样本ID列保持一致，从而使得双方选取出相同样本组成的联合样本集。
在一实施例中，第一参与方与第二参与方还可以通过预先约定采样点分布的方式进行采样(例如：从同一样本ID出发，按照相同的采样间隔采样n次)，从而分别选取出相同样本组成的联合样本集。
在一实施例中，第一参与方从联合样本集中随机选取一个样本作为中心样本R，并将中心样本R的标识发送给第二参与方，以使得第二参与方根据该标识选取中心样本R。
在一实施例中，第一参与方计算第一距离与第二距离之间的向量距离，将向量距离作为更新后的第一距离，并将更新后的第一距离作为对应样本与中心样本R之间的综合距离。
本实施例中，针对联合样本集中的各样本，A确定样本与R之间的第一距离d1，并确定样本与R之间的第二距离d2，进而计算d1与d2之间的向量距离。将向量距离作为更新后的第一距离，并将更新后的第一距离作为样本与R之间的综合距离d。
在一实施例中，第一参与方通过如下所示公式更新第一特征的权重：
Figure BDA0003372492290000121
Figure BDA0003372492290000122
本实施例中，f为第一特征，wf为第一特征的权重，diff(f,R,Hj)为第一同类样本与R在第一特征f上的特征距离，diff(f,R,Mj(C))为类别C中第一异类样本与R在第一特征f上的特征距离，p(C)为类别C占总样本的比例，p(class(R))为R的同类样本占总样本的比例。
在一实施例中，第一参与方筛选得到更新后权重大于预设权重阈值的第一特征。
本实施例中，记预设权重阈值为σ。第一特征的权重停止更新后，A将权重小于或等于σ的第一特征剔除，保留权重大于σ的第一特征。
在一实施例中，第一参与方按照更新后权重从大到小的顺序对第一特征进行排序，筛选得到排序靠前的预设数目个第一特征。
本实施例中，记预设数目为z。第一特征的权重停止更新后，A按照更新后权重从大到小的顺序对第一特征进行排序，进而保留前z个第一特征，剔除其他第一特征。
在一实施例中，多次更新各第一特征的权重，更新次数达到预设次数阈值后，再根据最新权重对第一特征进行筛选。
图2示出了本申请又一实施例中的联邦学习系统中的特征选择方法流程图，该方法应用于第二参与方，该方法包括：
步骤S210、通过隐私计算的方式对第一参与方生成的第一矩阵以及第二参与方生成的第二矩阵进行处理，得到第二同类样本与中心样本R在各第二特征上的特征距离，以及第二异类样本与中心样本R在各第二特征上的特征距离。
其中，第一矩阵用于描述联合样本集中各样本的样本标签，第二矩阵用于描述联合样本集中各样本的第二特征，第二同类样本为基于第二特征确定的与中心样本R标签相同且距离中心样本R最近的k个样本，第二异类样本为基于第二特征确定的与中心样本R标签不同的每一类样本中距离中心样本R最近的k个样本。
步骤S220、基于第二同类样本与中心样本R在各第二特征上的特征距离，以及第二异类样本与中心样本R在各第二特征上的特征距离，对各第二特征的权重进行更新，并根据各第二特征更新后的权重对第二特征进行筛选。
本实施例中，A根据其所持有样本的样本标签，生成用于描述联合样本集中各样本的样本标签的第一矩阵mat1。B根据其所持有样本的第二特征，生成用于描述联合样本集中各样本的第二特征的第二矩阵mat2。
进而第二参与方通过隐私计算的方式(例如：通过多方安全计算的方式，或者通过可信执行环境的方式)对第一矩阵mat1以及第二矩阵mat2进行处理，得到B的diff(f,R,Hj)以及diff(f,R,Mj(C))。在这一过程中，A所持有的样本的样本标签并未透露给B方。
进而B通过如下所示公式更新第二特征的权重：
Figure BDA0003372492290000141
Figure BDA0003372492290000142
本实施例中，wf为第二特征的权重，diff(f,R,Hj)为第二同类样本与R在第二特征f上的特征距离，diff(f,R,Mj(C))为类别C中第二异类样本与R在第二特征f上的特征距离，p(C)为类别C占总样本的比例，p(class(R))为R的同类样本占总样本的比例。
需要说明的是，由于第二参与方未持有样本标签，因此第二参与方无法独自区分样本的类别，也便无法独自确定第二同类样本与中心样本R在各第二特征上的特征距离，以及无法独自确定第二异类样本与中心样本R在各第二特征上的特征距离。因此第二参与方无法独自基于上述两类特征距离对第二特征进行特征选择。通过本实施例的这种方法，第一参与方无需向第二参与方透露自己所持有的样本标签，第二参与方也能够间接地根据第一参与方所持有的样本标签确定第二同类样本与中心样本R在各第二特征上的特征距离，以及确定第二异类样本与中心样本R在各第二特征上的特征距离，从而对其所持有第二特征进行特征选择。
由此可见，本实施例使得原本由于未持有样本标签而无法独自对其所持有第二特征进行特征选择的第二参与方，能够对其所持有第二特征进行特征选择。
在一实施例中，大小为n*1的第一矩阵中，R的数值为1，Hj以及Mj(C)的数值为-1，其余为0。
在一实施例中，第二参与方筛选得到更新后权重大于预设权重阈值的第二特征。
本实施例中，记预设权重阈值为σ。第二特征的权重停止更新后，B将权重小于或等于σ的第二特征剔除，保留权重大于σ的第二特征。
在一实施例中，第二参与方按照更新后权重从大到小的顺序对第二特征进行排序，筛选得到排序靠前的预设数目个第二特征。
本实施例中，记预设数目为z。第二特征的权重停止更新后，B按照更新后权重从大到小的顺序对第二特征进行排序，进而保留前z个第二特征，剔除其他第二特征。
在一实施例中，若第二特征为连续值，则第二参与方对第二特征进行归一化处理，并基于归一化处理后的第二特征生成第二矩阵。
本实施例中，若第二特征为连续值，则B对第二特征进行归一化处理后再生成第二矩阵mat2；若第二特征为离散值，则B直接根据第二特征生成第二矩阵mat2。
在一实施例中，系统还包括作为中间方的可信第三方。可信第三方从第一参与方接收第一矩阵，并从第二参与方接收第二矩阵。基于第一矩阵以及第二矩阵，计算得到第二同类样本与中心样本R在各第二特征上的特征距离，以及第二异类样本与中心样本R在各第二特征上的特征距离。将第二同类样本与中心样本R在各第二特征上的特征距离，以及第二异类样本与中心样本R在各第二特征上的特征距离发送给第二参与方。
本实施例中，通过多方安全计算(Secure Multi-Party Computation，简称MPC)的方式，可信第三方从A接收第一矩阵mat1，从B接收第二矩阵mat2，通过矩阵乘法得到B的diff(f,R,Hj)以及diff(f,R,Mj(C))，进而将B的diff(f,R,Hj)以及diff(f,R,Mj(C))提供给B，以供B对其所持有的第二特征进行筛选。
在一实施例中，还可以在系统中设置可信执行环境(Trusted ExecutionEnvironment，简称TEE)，通过可信执行环境的方式，针对第一矩阵与第二矩阵的处理实现隐私计算。
在一实施例中，多次更新各第二特征的权重，更新次数达到预设次数阈值后，再根据最新权重对第二特征进行筛选。
本申请实施例中的各类距离可以采用欧式距离进行度量，也可以采用余弦相似度进行度量，还可以采用Manhatten距离进行度量，此处不再一一列举。
图3示出了本申请一实施例的联邦学习系统中各参与方的特征选择示意图。
本实施例中，各参与方预先约定好一个随机数种子后，根据随机数种子各自采样，从而分别选取n个样本作为联合样本集。A随机从联合样本集中抽取一个样本作为中心样本R，并将R的标识发送给B。从而，A计算联合样本集中各样本与R的第一距离d1，B计算联合样本集中各样本与R的第二距离d2。
进而各参与方按照如下所示算法流程对各自所持有的特征进行筛选。
1.设每个特征权重wf＝0；
2.for i＝1to m do；
3.A随机选取一个中心样本R，计算第一距离d1；B计算第二距离d2；A计算综合距离d，进而根据综合距离d，从与R样本标签相同的样本中找到最近的k个样本作为第一同类样本H，从与R样本标签不同的每一类样本中分别找到最近的k个样本作为第一异类样本M；
4.for f＝1to F do
5.A根据确定的H以及M，按照如下所示公式更新其所持有特征的权重；B根据MPC计算得到的B的diff(f,R,Hj)和diff(f,R,Mj(C))，同样按照如下所示公式更新其所持有特征的权重：
Figure BDA0003372492290000161
进而各参与方选取权重最大的前z个特征或是权重大于预设权重阈值的特征用于模型训练。
图4示出了本申请一实施例的联邦学习系统中的特征选择装置，所述系统中至少包括第一参与方以及第二参与方，所述第一参与方持有样本的第一特征以及样本的样本标签，所述第二参与方持有样本的第二特征，所述第一参与方以及所述第二参与方分别选取相同样本组成的联合样本集，并分别从所述联合样本集中选取相同的一个样本作为中心样本R，所述装置设于所述第一参与方，所述装置包括：
距离计算模块310，配置为基于所述第一特征计算得到所述联合样本集中各样本分别与所述中心样本R之间的第一距离，并获取所述第二参与方基于所述第二特征计算得到的所述联合样本集中各样本分别与所述中心样本R之间的第二距离；
距离更新模块320，配置为基于所述第二距离对所述第一距离进行更新，得到所述联合样本集中各样本分别与所述中心样本R之间的综合距离；
样本筛选模块330，配置为基于所述样本标签以及所述综合距离，从与所述中心样本R标签相同的样本中筛选出综合距离最近的k个样本作为第一同类样本，以及从与所述中心样本R标签不同的各类样本中分别筛选出综合距离最近的k个样本作为第一异类样本，其中，k为大于0的自然数；
第一特征筛选模块240，配置为基于所述第一同类样本与所述中心样本R在各第一特征上的特征距离，以及所述第一异类样本与所述中心样本R在各第一特征上的特征距离，对各第一特征的权重进行更新，并根据各第一特征更新后的权重对第一特征进行筛选。
图5示出了本申请又一实施例的联邦学习系统中的特征选择装置，所述系统中至少包括第一参与方以及第二参与方，所述第一参与方持有样本的第一特征以及样本的样本标签，所述第二参与方持有样本的第二特征，所述第一参与方以及所述第二参与方分别选取相同样本组成的联合样本集，并分别从所述联合样本集中选取相同的一个样本作为中心样本R，所述装置设于所述第二参与方，所述装置包括：
隐私计算模块410，配置为通过隐私计算的方式对所述第一参与方生成的第一矩阵以及所述第二参与方生成的第二矩阵进行处理，得到第二同类样本与所述中心样本R在各第二特征上的特征距离，以及第二异类样本与所述中心样本R在各第二特征上的特征距离，其中，所述第一矩阵用于描述所述联合样本集中各样本的样本标签，所述第二矩阵用于描述所述联合样本集中各样本的第二特征，所述第二同类样本为基于第二特征确定的与所述中心样本R标签相同且距离所述中心样本R最近的k个样本，所述第二异类样本为基于第二特征确定的与所述中心样本R标签不同的每一类样本中距离所述中心样本R最近的k个样本；
第二特征筛选模块420，配置为基于所述第二同类样本与所述中心样本R在各第二特征上的特征距离，以及所述第二异类样本与所述中心样本R在各第二特征上的特征距离，对各第二特征的权重进行更新，并根据各第二特征更新后的权重对第二特征进行筛选。
下面参考图6来描述根据本申请实施例的电子设备50。图6显示的电子设备50仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。
如图6所示，电子设备50以通用计算设备的形式表现。电子设备50的组件可以包括但不限于：上述至少一个处理单元510、上述至少一个存储单元520、连接不同系统组件(包括存储单元520和处理单元510)的总线530。
其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元510执行，使得所述处理单元510执行本说明书上述示例性方法的描述部分中描述的根据本发明各种示例性实施方式的步骤。例如，所述处理单元510可以执行如图1或图2中所示的各步骤。
存储单元520可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)5201和/或高速缓存存储单元5202，还可以进一步包括只读存储单元(ROM)5203。
存储单元520还可以包括具有一组(至少一个)程序模块5205的程序/实用工具5204，这样的程序模块5205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线530可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备50也可以与一个或多个外部设备600(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与电子设备50交互的设备通信，和/或与使得电子设备50能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口550进行。输入/输出(I/O)接口550与显示单元540相连。并且，电子设备50还可以通过网络适配器560与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器560通过总线530与电子设备50的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备50使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本申请实施方式的技术方案可以以软件产品的形式体现出来，软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本申请实施方式的方法。
在本申请的示例性实施例中，还提供了一种计算机可读存储介质，其上存储有计算机可读指令，当所述计算机可读指令被计算机的处理器执行时，使计算机执行上述方法实施例部分描述的方法。
根据本申请的一个实施例，还提供了一种用于实现上述方法实施例中的方法的程序产品，其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本发明的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如JAVA、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本申请的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外，尽管在附图中以特定顺序描述了本申请中方法的各步骤，但是，这并非要求或者暗示必须按照特定顺序来执行这些步骤，或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的，可以省略某些步骤，将多个步骤合并为一个步骤执行，以及/或者将一个步骤分解为多个步骤执行等。
通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本申请实施方式的技术方案可以以软件产品的形式体现出来，软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本申请实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本申请的真正范围和精神由所附的权利要求指出。

Claims (10)

1.一种联邦学习系统，其特征在于，所述系统至少包括第一参与方和第二参与方，所述第一参与方持有样本的第一特征以及样本的样本标签，所述第二参与方持有样本的第二特征，所述第一参与方以及所述第二参与方分别选取相同样本组成的联合样本集，并分别从所述联合样本集中选取相同的一个样本作为中心样本R；
所述第一参与方配置为：
基于所述第一特征计算得到所述联合样本集中各样本分别与所述中心样本R之间的第一距离，并获取所述第二参与方基于所述第二特征计算得到的所述联合样本集中各样本分别与所述中心样本R之间的第二距离；
基于所述第二距离对所述第一距离进行更新，得到所述联合样本集中各样本分别与所述中心样本R之间的综合距离；
基于所述样本标签以及所述综合距离，从与所述中心样本R标签相同的样本中筛选出综合距离最近的k个样本作为第一同类样本，以及从与所述中心样本R标签不同的各类样本中分别筛选出综合距离最近的k个样本作为第一异类样本，其中，k为大于0的自然数；
基于所述第一同类样本与所述中心样本R在各第一特征上的特征距离，以及所述第一异类样本与所述中心样本R在各第一特征上的特征距离，对各第一特征的权重进行更新，并根据更新后的权重对第一特征进行筛选。
2.根据权利要求1所述的系统，其特征在于，所述第一参与方配置为：
与所述第二参与方预先约定一个随机数种子，使得所述第一参与方以及所述第二参与方每次根据所述随机数种子进行采样，分别选取出所述联合样本集。
3.根据权利要求1所述的系统，其特征在于，所述第一参与方配置为：
从所述联合样本集中随机选取一个样本作为中心样本R，并将所述中心样本R的标识发送给所述第二参与方，以使得所述第二参与方根据所述标识选取所述中心样本R。
4.根据权利要求1所述的系统，其特征在于，所述第一参与方配置为：
计算所述第一距离与所述第二距离之间的向量距离，将所述向量距离作为更新后的第一距离，并将所述更新后的第一距离作为对应样本与所述中心样本R之间的综合距离。
5.根据权利要求1-4任一项所述的系统，其特征在于，所述第一参与方配置为：
筛选得到更新后权重大于预设权重阈值的第一特征；
或者，按照更新后权重从大到小的顺序对所述第一特征进行排序，筛选得到排序靠前的预设数目个第一特征。
6.一种联邦学习系统，其特征在于，所述系统中至少包括第一参与方以及第二参与方，所述第一参与方持有样本的第一特征以及样本的样本标签，所述第二参与方持有样本的第二特征，所述第一参与方以及所述第二参与方分别选取相同样本组成的联合样本集，并分别将所述联合样本集中的同一样本作为中心样本R；
所述第二参与方配置为：
通过隐私计算的方式对所述第一参与方生成的第一矩阵以及所述第二参与方生成的第二矩阵进行处理，得到第二同类样本与所述中心样本R在各第二特征上的特征距离，以及第二异类样本与所述中心样本R在各第二特征上的特征距离，其中，所述第一矩阵用于描述所述联合样本集中各样本的样本标签，所述第二矩阵用于描述所述联合样本集中各样本的第二特征，所述第二同类样本为基于第二特征确定的与所述中心样本R标签相同且距离所述中心样本R最近的k个样本，所述第二异类样本为基于第二特征确定的与所述中心样本R标签不同的每一类样本中距离所述中心样本R最近的k个样本；
基于所述第二同类样本与所述中心样本R在各第二特征上的特征距离，以及所述第二异类样本与所述中心样本R在各第二特征上的特征距离，对各第二特征的权重进行更新，并根据更新后的权重对第二特征进行筛选。
7.根据权利要求6所述的系统，其特征在于，所述第二参与方配置为：
若所述第二特征为连续值，则对所述第二特征进行归一化处理，并基于归一化处理后的第二特征生成所述第二矩阵。
8.根据权利要求6或7所述的系统，其特征在于，所述系统还包括可信第三方，所述可信第三方配置为：
从所述第一参与方接收所述第一矩阵，并从所述第二参与方接收所述第二矩阵；
基于所述第一矩阵以及所述第二矩阵，计算得到所述第二同类样本与所述中心样本在各第二特征上的特征距离，以及所述第二异类样本与所述中心样本在各第二特征上的特征距离；
将所述第二同类样本与所述中心样本在各第二特征上的特征距离，以及所述第二异类样本与所述中心样本在各第二特征上的特征距离发送给所述第二参与方。
9.一种联邦学习系统中的特征选择方法，其特征在于，所述系统中至少包括第一参与方以及第二参与方，所述第一参与方持有样本的第一特征以及样本的样本标签，所述第二参与方持有样本的第二特征，所述第一参与方以及所述第二参与方分别选取相同样本组成的联合样本集，并分别从所述联合样本集中选取相同的一个样本作为中心样本R，所述方法应用于所述第一参与方，所述方法包括：
基于所述第一特征计算得到所述联合样本集中各样本分别与所述中心样本R之间的第一距离，并获取所述第二参与方基于所述第二特征计算得到的所述联合样本集中各样本分别与所述中心样本R之间的第二距离；
基于所述第二距离对所述第一距离进行更新，得到所述联合样本集中各样本分别与所述中心样本R之间的综合距离；
基于所述样本标签以及所述综合距离，从与所述中心样本R标签相同的样本中筛选出综合距离最近的k个样本作为第一同类样本，以及从与所述中心样本R标签不同的各类样本中分别筛选出综合距离最近的k个样本作为第一异类样本，其中，k为大于0的自然数；
基于所述第一同类样本与所述中心样本R在各第一特征上的特征距离，以及所述第一异类样本与所述中心样本R在各第一特征上的特征距离，对各第一特征的权重进行更新，并根据更新后的权重对第一特征进行筛选。
10.一种联邦学习系统中的特征选择装置，其特征在于，所述系统中至少包括第一参与方以及第二参与方，所述第一参与方持有样本的第一特征以及样本的样本标签，所述第二参与方持有样本的第二特征，所述第一参与方以及所述第二参与方分别选取相同样本组成的联合样本集，并分别从所述联合样本集中选取相同的一个样本作为中心样本R，所述装置设于所述第一参与方，所述装置包括：
距离计算模块，配置为基于所述第一特征计算得到所述联合样本集中各样本分别与所述中心样本R之间的第一距离，并获取所述第二参与方基于所述第二特征计算得到的所述联合样本集中各样本分别与所述中心样本R之间的第二距离；
距离更新模块，配置为基于所述第二距离对所述第一距离进行更新，得到所述联合样本集中各样本分别与所述中心样本R之间的综合距离；
样本筛选模块，配置为基于所述样本标签以及所述综合距离，从与所述中心样本R标签相同的样本中筛选出综合距离最近的k个样本作为第一同类样本，以及从与所述中心样本R标签不同的各类样本中分别筛选出综合距离最近的k个样本作为第一异类样本，其中，k为大于0的自然数；
第一特征筛选模块，配置为基于所述第一同类样本与所述中心样本R在各第一特征上的特征距离，以及所述第一异类样本与所述中心样本R在各第一特征上的特征距离，对各第一特征的权重进行更新，并根据更新后的权重对第一特征进行筛选。
CN202111404913.6A 2021-11-24 2021-11-24 联邦学习系统、联邦学习系统中的特征选择方法及装置 Pending CN113962401A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111404913.6A CN113962401A (zh) 2021-11-24 2021-11-24 联邦学习系统、联邦学习系统中的特征选择方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111404913.6A CN113962401A (zh) 2021-11-24 2021-11-24 联邦学习系统、联邦学习系统中的特征选择方法及装置

Publications (1)

Publication Number Publication Date
CN113962401A true CN113962401A (zh) 2022-01-21

Family

ID=79471803

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111404913.6A Pending CN113962401A (zh) 2021-11-24 2021-11-24 联邦学习系统、联邦学习系统中的特征选择方法及装置

Country Status (1)

Country Link
CN (1) CN113962401A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114520721A (zh) * 2022-03-22 2022-05-20 杭州博盾习言科技有限公司 多方安全计算隐私求交方法、装置、设备及存储介质
CN114884675A (zh) * 2022-04-29 2022-08-09 杭州博盾习言科技有限公司 基于比特传输的多方隐私求交方法、装置、设备及介质

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114520721A (zh) * 2022-03-22 2022-05-20 杭州博盾习言科技有限公司 多方安全计算隐私求交方法、装置、设备及存储介质
CN114520721B (zh) * 2022-03-22 2024-03-29 杭州博盾习言科技有限公司 多方安全计算隐私求交方法、装置、设备及存储介质
CN114884675A (zh) * 2022-04-29 2022-08-09 杭州博盾习言科技有限公司 基于比特传输的多方隐私求交方法、装置、设备及介质
CN114884675B (zh) * 2022-04-29 2023-12-05 杭州博盾习言科技有限公司 基于比特传输的多方隐私求交方法、装置、设备及介质

Similar Documents

Publication Publication Date Title
CN109583332B (zh) 人脸识别方法、人脸识别系统、介质及电子设备
US11128668B2 (en) Hybrid network infrastructure management
US20200065710A1 (en) Normalizing text attributes for machine learning models
CN112990294B (zh) 行为判别模型的训练方法、装置、电子设备及存储介质
US8121967B2 (en) Structural data classification
CN113962401A (zh) 联邦学习系统、联邦学习系统中的特征选择方法及装置
CN112667805B (zh) 一种工单类别确定方法、装置、设备及介质
CN110162518B (zh) 数据分组方法、装置、电子设备及存储介质
CN112887371B (zh) 边缘计算方法、装置、计算机设备及存储介质
CN112883990A (zh) 数据分类方法及装置、计算机存储介质、电子设备
CN110276243A (zh) 分数映射方法、人脸比对方法、装置、设备及存储介质
CN115130711A (zh) 一种数据处理方法、装置、计算机及可读存储介质
CN113435859A (zh) 信访件处理方法、装置、电子设备和计算机可读介质
CN112925785A (zh) 数据清洗方法和装置
WO2022152018A1 (zh) 用于识别一人多账号的方法及装置
CN110781849A (zh) 一种图像处理方法、装置、设备及存储介质
CN108830302B (zh) 一种图像分类方法、训练方法、分类预测方法及相关装置
CN113591881B (zh) 基于模型融合的意图识别方法、装置、电子设备及介质
US11227231B2 (en) Computational efficiency in symbolic sequence analytics using random sequence embeddings
US20230230081A1 (en) Account identification method, apparatus, electronic device and computer readable medium
CN114357195A (zh) 基于知识图谱的问答对生成方法、装置、设备及介质
CN111667018B (zh) 一种对象聚类的方法、装置、计算机可读介质及电子设备
CN109902698A (zh) 信息生成方法和装置
CN110532304B (zh) 数据处理方法及装置、计算机可读存储介质以及电子设备
CN114329127B (zh) 特征分箱方法、装置及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination