CN110503207A - 联邦学习信用管理方法、装置、设备及可读存储介质 - Google Patents

联邦学习信用管理方法、装置、设备及可读存储介质 Download PDF

Info

Publication number
CN110503207A
CN110503207A CN201910802526.4A CN201910802526A CN110503207A CN 110503207 A CN110503207 A CN 110503207A CN 201910802526 A CN201910802526 A CN 201910802526A CN 110503207 A CN110503207 A CN 110503207A
Authority
CN
China
Prior art keywords
equipment
credit
score
participation
model parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910802526.4A
Other languages
English (en)
Inventor
程勇
李苏毅
刘洋
陈天健
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
WeBank Co Ltd
Original Assignee
WeBank Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by WeBank Co Ltd filed Critical WeBank Co Ltd
Priority to CN201910802526.4A priority Critical patent/CN110503207A/zh
Priority to PCT/CN2019/119235 priority patent/WO2021036014A1/zh
Publication of CN110503207A publication Critical patent/CN110503207A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/018—Certifying business or products
    • G06Q30/0185—Product, service or business identity fraud
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]
    • G06Q30/0609—Buyer or seller confidence or verification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
    • G06Q40/02—Banking, e.g. interest calculation or account maintenance

Landscapes

  • Business, Economics & Management (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Economics (AREA)
  • Development Economics (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Technology Law (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Financial Or Insurance-Related Operations Such As Payment And Settlement (AREA)

Abstract

本发明公开了一种联邦学习信用管理方法、装置、设备及可读存储介质，该方法包括：接收参与联邦学习的各参与设备发送的模型参数更新；按照预设信用检测算法对各所述模型参数更新进行检测，得到各所述参与设备的信用检测结果；根据所述信用检测结果对各所述参与设备进行信用管理。本发明实现了在联邦学习过程中主动地对各参与设备进行信用检测，以识别联邦学习过程中出现的恶意攻击者或者行为异常者；并在进行模型参数更新的融合操作之前进行检测，实现及时地发现恶意攻击者，以避免恶意攻击者窃取联邦学习的成果。

Description

联邦学习信用管理方法、装置、设备及可读存储介质
技术领域
本发明涉及系统安全技术领域，尤其涉及一种联邦学习信用管理方法、装置、设备及可读存储介质。
背景技术
随着联邦学习技术的发展，联邦学习也被应用到越来越多的领域。在现实场景中应用横向联邦学习技术时，一个联邦学习系统可能包括很多个参与者，例如，当联合多个移动终端进行横向联邦学习时，就可能涉及数以万计的移动终端。由于不能直接查看参与者的数据(例如，考虑参与者的数据隐私和安全)，也不能确认每个参与者的诚实性(例如，参与者是随机选择的移动终端)，实际横向联邦学习系统的参与者就可能会出现一些恶意攻击者或者破坏者。
这些恶意攻击者和破坏者可能会影响联邦学习模型的训练，例如，影响模型训练时间或导致模型训练不收敛。而由于不知道哪些参与者是攻击者或者破坏者，横向联邦学习的成果也会被这些攻击者和破坏者窃取，甚至系统在不知情的情况下还会给这些攻击者或者破坏者分配奖励/激励。这样就严重影响了联邦学习系统的公平性，会影响诚实参与者的积极性，影响联邦学习系统的实际应用。
发明内容
本发明的主要目的在于提供一种联邦学习信用管理方法、装置、设备及可读存储介质，旨在解决目前横向联邦学习中可能会出现恶意攻击者影响联邦学习训练过程的问题。
为实现上述目的，本发明提供一种联邦学习信用管理方法，所述联邦学习信用管理方法包括以下步骤：
接收参与联邦学习的各参与设备发送的模型参数更新；
按照预设信用检测算法对各所述模型参数更新进行检测，得到各所述参与设备的信用检测结果；
根据所述信用检测结果对各所述参与设备进行信用管理。
可选地，所述信用检测结果为各所述参与设备的信用分数或异常分数，所述根据所述信用检测结果对各所述参与设备进行信用管理的步骤包括：
根据所述信用分数或所述异常分数对应确定各所述参与设备的权重值；
根据各所述参与设备的权重值，对各所述参与设备的所述模型参数更新进行加权平均，得到联合模型参数；
将所述联合模型参数发送给各所述参与设备，以供各所述参与设备根据所述联合模型参数进行本地模型训练，以对各所述参与设备进行信用管理。
可选地，所述根据所述信用分数或所述异常分数对应确定各所述参与设备的权重值的步骤包括：
当所述信用分数小于预设信用分数，或所述异常分数大于预设异常分数时，将所述信用分数或所述异常分数对应参与设备的权重值设置为零；
所述将所述联合模型参数发送给各所述参与设备的步骤包括：
将所述联合模型参数发送给各所述参与设备中所述权重值不为零的参与设备。
可选地，所述根据所述信用分数或所述异常分数对应确定各所述参与设备的权重值的步骤之前，还包括：
根据所述信用分数或所述异常分数确定各所述参与设备是否为异常设备；
当确定目标参与设备为异常设备时，在联邦学习的参与设备名单中删除所述目标参与设备或将所述目标参与设备加入黑名单；
所述根据所述信用分数或所述异常分数对应确定各所述参与设备的权重值的步骤包括：
根据所述信用分数或所述异常分数对应确定当前联邦学习参与设备名单中各参与设备的权重值。
可选地，所述根据所述信用分数或所述异常分数确定各所述参与设备是否为异常设备的步骤包括：
对每次模型更新中所述信用分数小于预设信用分数，或所述异常分数大于预设异常分数的参与设备进行记录，得到各所述参与设备的异常次数；
检测各所述参与设备的异常次数是否大于预设次数；
将所述异常次数大于所述预设次数的参与设备确定为异常设备。
可选地，所述根据各所述参与设备的权重值，对各所述参与设备的所述模型参数更新进行加权平均，得到联合模型参数的步骤之前，还包括：
将所述信用分数、所述异常分数或所述权重值对应发送给各所述参与设备；
接收目标参与设备发送的认证信息，其中，所述目标参与设备在检测到所述信用分数小于预设信用分数，或所述异常分数大于预设异常分数，或所述权重值小于预设权重值时发送所述认证信息；
根据所述认证信息对所述目标参与设备进行身份认证，得到身份认证结果；
所述根据各所述参与设备的权重值，对各所述参与设备的所述模型参数更新进行加权平均，得到联合模型参数的步骤包括：
根据所述身份认证结果和各所述参与设备的权重值，对各所述参与设备的所述模型参数更新进行加权平均，得到联合模型参数。
可选地，所述按照预设信用检测算法对各所述模型参数更新进行检测，得到各所述参与设备的信用检测结果的步骤包括：
将各所述模型参数更新分别进行降维处理，得到低维度的模型参数更新；
按照预设信用检测算法对各所述低维度的模型参数更新进行检测，得到各所述参与设备的信用检测结果。
为实现上述目的，本发明还提供一种联邦学习信用管理装置，所述联邦学习信用管理装置包括：
接收模块，用于接收参与联邦学习的各参与设备发送的模型参数更新；
检测模块，用于按照预设信用检测算法对各所述模型参数更新进行检测，得到各所述参与设备的信用检测结果；
管理模块，用于根据所述信用检测结果对各所述参与设备进行信用管理。
为实现上述目的，本发明还提供一种联邦学习信用管理设备，所述联邦学习信用管理设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的联邦学习信用管理程序，所述联邦学习信用管理程序被所述处理器执行时实现如上所述的联邦学习信用管理方法的步骤。
此外，为实现上述目的，本发明还提出一种计算机可读存储介质，所述计算机可读存储介质上存储有联邦学习信用管理程序，所述联邦学习信用管理程序被处理器执行时实现如上所述的联邦学习信用管理方法的步骤。
本发明中，通过在模型更新时，接收到各参与设备发送的模型参数更新后，先按照预设信用检测算法对模型参数更新进行检测，并根据检测得到的信用检测结果来对各参与设备进行信用管理，实现了在联邦学习过程中主动地对各参与设备进行信用检测，以识别联邦学习过程中出现的恶意攻击者或者行为异常者；并在进行模型参数更新的融合操作之前进行检测，实现及时地发现恶意攻击者，以避免恶意攻击者窃取联邦学习的成果。
附图说明
图1是本发明实施例方案涉及的硬件运行环境的结构示意图；
图2为本发明联邦学习信用管理方法第一实施例的流程示意图；
图3为本发明联邦学习信用管理装置较佳实施例的功能示意图模块图。
本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
如图1所示，图1是本发明实施例方案涉及的硬件运行环境的设备结构示意图。
需要说明的是，本发明实施例联邦学习信用管理设备可以是智能手机、个人计算机和服务器等设备，在此不做具体限制。
如图1所示，该联邦学习信用管理设备可以包括：处理器1001，例如CPU，网络接口1004，用户接口1003，存储器1005，通信总线1002。其中，通信总线1002用于实现这些组件之间的连接通信。用户接口1003可以包括显示屏(Display)、输入单元比如键盘(Keyboard)，可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。存储器1005可以是高速RAM存储器，也可以是稳定的存储器(non-volatile memory)，例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储装置。
本领域技术人员可以理解，图1中示出的设备结构并不构成对联邦学习信用管理设备的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。
如图1所示，作为一种计算机存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及联邦学习信用管理程序。其中，操作系统是管理和控制设备硬件和软件资源的程序，支持联邦学习信用管理程序以及其它软件或程序的运行。
在图1所示的设备中，用户接口1003主要用于与客户端进行数据通信；网络接口1004主要用于与各参与设备建立通信连接；而处理器1001可以用于调用存储器1005中存储的联邦学习信用管理程序，并执行以下操作：
接收参与联邦学习的各参与设备发送的模型参数更新；
按照预设信用检测算法对各所述模型参数更新进行检测，得到各所述参与设备的信用检测结果；
根据所述信用检测结果对各所述参与设备进行信用管理。
进一步地，所述信用检测结果为各所述参与设备的信用分数或异常分数，所述根据所述信用检测结果对各所述参与设备进行信用管理的步骤包括：
根据所述信用分数或所述异常分数对应确定各所述参与设备的权重值；
根据各所述参与设备的权重值，对各所述参与设备的所述模型参数更新进行加权平均，得到联合模型参数；
将所述联合模型参数发送给各所述参与设备，以供各所述参与设备根据所述联合模型参数进行本地模型训练，以对各所述参与设备进行信用管理。
进一步地，所述根据所述信用分数或所述异常分数对应确定各所述参与设备的权重值的步骤包括：
当所述信用分数小于预设信用分数，或所述异常分数大于预设异常分数时，将所述信用分数或所述异常分数对应参与设备的权重值设置为零；
所述将所述联合模型参数发送给各所述参与设备的步骤包括：
将所述联合模型参数发送给各所述参与设备中所述权重值不为零的参与设备。
进一步地，所述根据所述信用分数或所述异常分数对应确定各所述参与设备的权重值的步骤之前，处理器1001可以用于调用存储器1005中存储的联邦学习信用管理程序，还执行以下操作：
根据所述信用分数或所述异常分数确定各所述参与设备是否为异常设备；
当确定目标参与设备为异常设备时，在联邦学习的参与设备名单中删除所述目标参与设备或将所述目标参与设备加入黑名单；
所述根据所述信用分数或所述异常分数对应确定各所述参与设备的权重值的步骤包括：
根据所述信用分数或所述异常分数对应确定当前联邦学习参与设备名单中各参与设备的权重值。
进一步地，所述根据所述信用分数或所述异常分数确定各所述参与设备是否为异常设备的步骤包括：
对每次模型更新中所述信用分数小于预设信用分数，或所述异常分数大于预设异常分数的参与设备进行记录，得到各所述参与设备的异常次数；
检测各所述参与设备的异常次数是否大于预设次数；
将所述异常次数大于所述预设次数的参与设备确定为异常设备。
进一步地，所述根据各所述参与设备的权重值，对各所述参与设备的所述模型参数更新进行加权平均，得到联合模型参数的步骤之前，处理器1001可以用于调用存储器1005中存储的联邦学习信用管理程序，还执行以下操作：
将所述信用分数、所述异常分数或所述权重值对应发送给各所述参与设备；
接收目标参与设备发送的认证信息，其中，所述目标参与设备在检测到所述信用分数小于预设信用分数，或所述异常分数大于预设异常分数，或所述权重值小于预设权重值时发送所述认证信息；
根据所述认证信息对所述目标参与设备进行身份认证，得到身份认证结果；
所述根据各所述参与设备的权重值，对各所述参与设备的所述模型参数更新进行加权平均，得到联合模型参数的步骤包括：
根据所述身份认证结果和各所述参与设备的权重值，对各所述参与设备的所述模型参数更新进行加权平均，得到联合模型参数。
进一步地，所述按照预设信用检测算法对各所述模型参数更新进行检测，得到各所述参与设备的信用检测结果的步骤包括：
将各所述模型参数更新分别进行降维处理，得到低维度的模型参数更新；
按照预设信用检测算法对各所述低维度的模型参数更新进行检测，得到各所述参与设备的信用检测结果。
基于上述的结构，提出联邦学习信用管理方法的各个实施例。
参照图2，图2为本发明联邦学习信用管理方法第一实施例的流程示意图。
本发明实施例提供了联邦学习信用管理方法的实施例，需要说明的是，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。本发明联邦学习信用管理方法的各个实施例的执行主体可以是联邦学习中的协调设备，以下各实施例中以协调设备为执行主体进行阐述，所述协调设备与多个参与设备通信连接。在本实施例中，联邦学习信用管理方法包括：
步骤S10，接收参与联邦学习的各参与设备发送的模型参数更新；
目前，联邦学习的各个参与者中可能会出现恶意的攻击者或破坏者，影响联邦学习的模型训练，如影响模型训练时间或导致模型训练不收敛。目前可通过防守技术来降低攻击者对所造成影响，但是通过防守技术不能识别哪些参与者是攻击者，那么攻击者仍然会窃取联邦学习模型训练的成果，甚至仍然会获得奖励或激励。还有通过商业手段的方法，例如，逐个认证每个参与者的可靠性，来保证联邦学习系统里不出现恶意攻击者或者破坏者，但这种认证方法的适用范围很有限，例如，不能用在大量的移动终端上，因此无法确定每个参与横向联邦学习的移动终端的可靠性和诚实性。
在本实施例中，提出一种联邦学习信用管理方法，实现在联邦学习过程中，对各个参与设备主动地进行信用检测，并根据检测结果对各个参与设备进行信用管理，以避免联邦学习过程中出现的恶意攻击者对联邦学习造成影响。
具体地，在联邦学习过程中，经过多次模型更新，完成对联邦学习模型的训练。在一次模型更新中，协调设备向各个参与设备发送本次模型更新的联合模型参数；各个参与设备利用本次的联合模型参数和各自的本地数据分别对联邦学习模型进行本地训练，得到模型参数更新并返回给协调设备；协调设备接收各个参与设备发送的模型参数更新，并对模型参数更新进行融合处理，得到新的联合模型参数，并在下次模型更新时，将新的联合模型再次发送给各个参与设备。其中，联合模型参数可以是联邦学习模型的参数，例如，神经网络的节点之间连接的权重参数，也可以是联邦学习模型的梯度信息，例如，神经网络梯度下降算法中的梯度信息，梯度信息可以是梯度值或压缩后的梯度值。模型参数更新可以是对联合模型参数的更新，如更新后的神经网络的权重参数。
在上述联邦学习模型的训练过程中，协调设备在每次模型更新时，接收参与联邦学习的各个参与设备发送的模型参数更新。
步骤S20，按照预设信用检测算法对各所述模型参数更新进行检测，得到各所述参与设备的信用检测结果；
协调设备在接收到各个参与设备发送的模型参数更新后，先按照预设信用检测算法对各模型参数更新进行检测，得到各参与设备的信用检测结果。其中，预设信用检测算法可以是预先配置的用于对各模型参数更新进行检测的算法，其原理可以是异常检测、新奇检测或者离群点检测。具体地，由于各个参与设备在一次模型更新过程中，在正常情况下，也即在没有恶意攻击者或行为异常者(因设备故障引起异常行为的参与设备)的情况下，各参与设备训练得到的模型参数更新应该是相似的，例如将各个模型参数更新映射在空间坐标中，各个模型参数更新在空间坐标中的位置应该是比较集中的，而作为恶意攻击者或行为异常者的参与设备，其发送的模型参数更新应该与其他正常的模型参数更新相似性较低，例如与其他正常的模型参数更新在空间上的距离较远。基于上述原理，预设信用检测算法可以采用常用的异常检测算法，如One Class SVM、Isolation Forest、Local OutlierFactor、聚类算法和统计模型等，目的是将恶意攻击者或行为异常者发送的模型参数更新从各正常的模型参数更新中区分出来，协调设备还可以采用预先训练的自编码器(auto-encoder)对收到的模型参数更新进行检测。需要说明的是，在本实施例中，对协调设备所采用的预设信用检测算法不作具体限制。
协调设备得到的信用检测结果可以是各个参与设备是否为异常设备，具体可以通过将预设信用检测算法的输出配置为0和1来实现，若参与设备的模型参数更新对应的结果是1，则表示该参与设备是诚实的设备，若对应的结果为0，则表示该参与设备是异常设备，也即攻击者。信用检测结果也可以是各个参与设备的异常分数或信用分数，其中，异常分数越高或信用分数越低，表示该参与设备越可能是恶意攻击者，具体地，可以通过将预设信用检测算法的输出配置为异常值或信用值来实现，如通过对各个模型参数更新进行聚类分析，得到多个分组，按照各个组所包含的模型参数更新的数量给各个组计算异常值或信用值，组内模型参数更新的数量越多，对应的异常值越低或信用值越高。
步骤S30，根据所述信用检测结果对各所述参与设备进行信用管理。
协调设备在得到各个参与设备的信用检测结果后，对各个参与设备进行信用管理。具体地，当信用检测结果是各个参与设备是否为异常设备的结果时，协调设备的信用管理过程可以是：根据信用检测结果确定本次模型更新中是否存在异常设备；若存在异常设备，则可以对该异常设备进行异常处理；若不存在异常设备，则说明不存在恶意攻击者，各参与设备均是诚实可信的，此时，协调设备可对各个参与设备的模型参数更新进行融合处理，得到联合模型参数更新。其中，异常处理可包括三种不同处罚严厉度的处理方式，协调设备可以选择其中一种。第一种是在本次模型更新中，不考虑该异常设备的贡献，即协调设备在进行模型参数更新的融合处理时，将该异常设备的模型参数更新不计算在内，只对其他正常参与设备的模型参数更新进行融合处理，并且得到的联合模型参数也不发送给该异常设备；第二种是协调设备将该异常设备从联邦学习参与设备名单中删除，使得该异常设备不能够参与本次联邦学习的后续模型更新，也不能得到对应的奖励或激励；第三种是协调设备在联邦学习参与设备名单中拉黑该异常设备，也即将该异常设备加入黑名单，并在本次联邦学习和以后的联邦学习过程中，均不允许被拉黑的设备参与联邦学习。
当信用检测结果是各个参与设备的异常分数或信用分数时，协调设备的信用管理过程可以是：根据异常分数或信用分数选择上述三种异常处理结果。具体地，以信用检测结果为异常分数的情况进行举例说明(信用分数的场景类似)，协调设备设置三个异常阈值，a<b<c,当协调设备检测到参与设备的异常分数不大于a时，可确定参与设备不是异常设备，在本次模型更新中是可信的，对该参与设备的模型参数更新进行正常的融合操作；当检测到异常分数大于a时，可以确定该参与设备为异常设备，此时，协调设备检测该参与设备的异常分数是否大于b，若不大于b，则可选择处罚严厉度较低的第一种方式；若大于b，则检测异常分数是否大于c，若不大于c，则可选择处罚严厉度较高的第二种方式；若大于c，则可选择处罚严厉度最高的第三种方式。
需要说明的是，协调设备可以在每次模型更新时都进行信用检测，也可以是每隔几次进行一次信用检测，也即可以预先根据需要设置协调设备进行信用检测的频率，以调整协调设备对整个联邦学习系统的信任程度。
在本实施例中，通过在模型更新时，接收到各参与设备发送的模型参数更新后，先按照预设信用检测算法对模型参数更新进行检测，并根据检测得到的信用检测结果来对各参与设备进行信用管理，实现了在联邦学习过程中主动地对各参与设备进行信用检测，以识别联邦学习过程中出现的恶意攻击者或者行为异常者；并在进行模型参数更新的融合操作之前进行检测，实现及时地发现恶意攻击者，以避免恶意攻击者窃取联邦学习的成果；此外，通过协调设备主动地进行信用检测，免去了各参与设备每次模型更新时都发送认证信息进行认证的繁琐操作。
进一步地，基于上述第一实施例，提出本发明联邦学习信用管理方法第二实施例，在本发明联邦学习信用管理方法第二实施例中，所信用检测结果为各所述参与设备的信用分数或异常分数，所述步骤S30包括：
步骤S301，根据所述信用分数或所述异常分数对应确定各所述参与设备的权重值；
在本实施例中，当信用检测结果为各个参与设备的信用分数或异常分数时，协调设备对各参与设备的信用管理方式还可以是：
当协调设备对各模型参数更新进行检测后，得到的信用检测结果为各个参与设备的信用分数或异常分数时，协调设备可根据信用分数或异常分数对应确定各个参与设备的权重值。具体地，协调设备根据信用分数或异常分数确定各个参与设备的权重值的原理是：参与设备的信用分数越小或异常分数越大时，说明该参与设备是攻击者的可能性越大，从而就越不可信，此时，协调设备应该不采用或者较少地采用该参与设备在本次模型更新中作出的贡献，因此，可以给该参与设备分配较小的权重值；当参与设备的信用分数越大或异常分数越小时，说明该参与设备是攻击者的可能性越小，信用度越高，此时，协调设备应该较多地采用该参与设备在本次模型更新中作出的贡献，因此，可以给该参与设备分配较大的权重值。
协调设备可以根据一定的算法对信用分数或异常分数进行计算得到各个参与设备的权重值，以使得异常分数越大或信用分数越小时，计算得到的参与设备对应的权重值越小，异常分数越小或信用分数越大时，计算得到的参与设备对应的权重值越大，也即使得异常分数与权重值呈反比，或信用分数与权重值呈正比。如，协调设备检测得到K个参与设备对应的异常分数{a1(t)，a2(t)，…，ak(t)}，其中，t是模型更新的序号，表示第t次模型更新，根据异常分数确定各参与设备的权重值{p1(t)，p2(t)，…，pk(t)}，协调设备可使用softmax函数：
协调设备还可以是预先设置多个分数段以及各个分数段对应的权重值，如将异常分数划分为多个分数段，分数值高的分数段对应的权重值设置得较低，分数值低的分数段对应的权重值设置得较高。协调设备确定各个参与设备的异常分数落入哪个分数段，从而确定各个参与设备的权重值。
步骤S302，根据各所述参与设备的权重值，对各所述参与设备的所述模型参数更新进行加权平均，得到联合模型参数；
协调设备在确定各个参与设备的权重值后，根据确定的各个权重值对各个参与设备的模型参数更新进行加权平均，得到联合模型参数。具体地，协调设备可先将每个参与设备对应的模型参数更新与权重值相乘，得到各个参与设备模型参数更新加权的结果，然后将各个参与设备模型参数更新加权的结果相加，得到的结果即作为本次模型更新得到的新的联合模型参数。
步骤S303，将所述联合模型参数发送给各所述参与设备，以供各所述参与设备根据所述联合模型参数进行本地模型训练，以对各所述参与设备进行信用管理。
协调设备将加权平均得到的联合模型参数发送给各个参与设备，以开始新一轮的模型更新。各个参与设备在接收到协调设备发送的联合模型参数后，各自根据联合模型参数和其本地数据，对联邦学习模型进行本地模型训练，得到新一轮模型更新的模型参数更新，其中，本地数据是参与设备本地拥有的用于对联邦学习模型进行训练的数据。各参与设备将得到的新一轮的模型参数更新发送给协调设备，协调设备根据新一轮的模型参数更新，继续进行信用检测，循环直到协调设备检测到联邦学习模型收敛后，将最终确定的联邦学习模型的参数发送给各个参与设备，即完成了本次联邦学习。
在本实施例中，通过当对各模型参数更新进行检测，得到各个参与设备的信用分数或异常分数后，根据信用分数或异常分数确定各个参与设备的权重值，根据权重值对各个参与设备的模型参数更新进行加权平均，得到联合模型参数，将联合模型参数发送给各个参与设备，使得当参与设备的信用分数越低或异常分数越高时，对该参与设备的模型参数更新的利用越少，从而减少作为恶意攻击者的参与设备或可能是恶意攻击者的参与设备对联邦学习的影响，从而有效地提高了联邦学习的学习质量。并且，随着联邦学习模型训练的进行，协调设备给每个参与设备分配的权重值是动态变化的，随着信用检测结果而变，可以防止只根据一次信用检测结果就错误的把一个诚实的参与设备判定为攻击者。
进一步地，步骤S301包括：
步骤S3011，当所述信用分数小于预设信用分数，或所述异常分数大于预设异常分数时，将所述信用分数或所述异常分数对应参与设备的权重值设置为零；
当协调设备检测得到各参与设备的信用分数或异常分数后，可检测各参与设备的信用分数是否小于预设信用分数，或检测各参与设备的异常分数是否大于预设异常分数。其中，预设信用分数和预设异常分数可根据需要进行设置，可将预设信用分数设置得较小，以使得参与设备的信用分数小于该预设信用分数时，表示该参与设备的模型参数更新异常，极可能是恶意攻击者，同样，可将预设异常分数设置得较大。
当协调设备检测到参与设备的信用分数小于预设信用分数，或异常分数大于预设异常分数时，将该参与设备的权重值设置为零，也即，当协调设备可以确定在本次模型更新中参与设备可能是攻击者时，可通过将该参与设备的权重值设置为零，以实现在本次模型更新中不采用该参与设备的模型参数更新，不考虑该参与设备的贡献，从而避免可能是攻击者的该参与设备对联邦学习的影响。
需要说明的时，对于信用分数不小于预设信用分数，或异常分数不大于预设异常分数的其他参与设备，协调设备可采用上述通过算法或分数段确定权重值的方式，来确定其他参与设备的权重值，以使得当参与设备的信用分数越低或异常分数越高时，对该参与设备的模型参数更新的利用越少，从而减少作为恶意攻击者的参与设备或可能是恶意攻击者的参与设备对联邦学习的影响。
所述步骤S303包括：
步骤S3031，将所述联合模型参数发送给各所述参与设备中所述权重值不为零的参与设备。
当协调设备将联合模型参数发送给各个参与设备时，协调设备可以将联合模型参数发送给各个参与设备中权重值不为零的参与设备，也即，不发送给权重值为零的参与设备，因为在本次模型更新中，协调设备并未采用该参与设备的模型参数更新，因此，也不将计算得到的联合模型参数发送给该参与设备，从而避免可能是恶意攻击者的该参与设备窃取联邦学习的成果，从而保证联邦学习的公平性。
进一步地，基于上述第二实施例，提出本发明联邦学习信用管理方法第三实施例，在本发明联邦学习信用管理方法第三实施例中，所述步骤S301之前，包括：
步骤S304，根据所述信用分数或所述异常分数确定各所述参与设备是否为异常设备；
协调设备在每次模型更新确定各个参与设备的权重值之前，可以先根据本次检测得到的各参与设备的信用分数或异常分数，确定各参与设备是否是异常设备。具体地，协调设备可检测参与设备的信用分数是否小于预设信用分数，或者检测参与设备的异常分数是否大于预设信用分数，以使得当参与设备的信用分数小于该预设信用分数，或异常分数小于该预设异常分数时，可判定该参与设备是恶意攻击者。需要说明的是，步骤S304中的预设信用分数、预设异常分数，与步骤S3011中的可以相同，此时协调设备择一实施步骤S304和步骤S3011；也可以不相同，通过预先设置使得步骤S304中的预设信用分数大于步骤S3011中的预设信用分数，或步骤S304中的预设异常分数小于步骤S3011中的预设异常分数，此时，协调设备可先进行步骤S304的判断，再进行S3011的判断，从而实现根据异常分数或信用分数的不同分数段，选择不同严厉度的管理方式。
步骤S305，当确定目标参与设备为异常设备时，在联邦学习的参与设备名单中删除所述目标参与设备或将所述目标参与设备加入黑名单；
当协调设备确定目标参与设备为异常设备时，在联邦学习的参与设备名单中删除该目标参与设备或者将该目标参与设备加入黑名单。其中，将该参与设备加入联邦学习的黑名单中，当前联邦学习的参与设备名单中也不再有该参与设备。
需要说明的是，对于异常设备以外的其他正常参与设备，协调设备可采用上述通过算法或分数段确定权重值的方式，来确定其他参与设备的权重值，以使得当参与设备的信用分数越低或异常分数越高时，对该参与设备的模型参数更新的利用越少，从而减少作为恶意攻击者的参与设备或可能是恶意攻击者的参与设备对联邦学习的影响。
所述步骤S301包括：
步骤S3012，根据所述信用分数或所述异常分数对应确定当前联邦学习参与设备名单中各参与设备的权重值。
协调设备根据信用分数或异常分数对应确定当前联邦学习参与设备名单中各参与设备的权重值。此步骤与步骤S301的区别是，此步骤中，协调设备仅确定当前联邦学习参与设备名单中各参与设备的权重值，对于不在名单内，也即被删除或拉黑的参与设备，联邦学习在本次联邦学习后续的模型更新中不再采用该参与设备的模型参数更新，也就不再给该参与设备分配权重值，进一步地，对于被拉黑的参与设备，协调设备在以后的联邦学习中，也不再允许该参与设备参与联邦学习。
在本实施例中，通过当明确参与设备是异常设备，即攻击者时，对该参与设备采取除名或拉黑的严厉管理措施，以使得该参与设备不能够对联邦学习造成影响，也不能窃取联邦学习的训练成果，从而提高了联邦学习的公平性，提高了诚实参与设备的积极性。
进一步地，所述步骤S304包括：
步骤S3041，对每次模型更新中所述信用分数小于预设信用分数，或所述异常分数大于预设异常分数的参与设备进行记录，得到各所述参与设备的异常次数；
为避免只根据一次信用检测结果就错误的把一个诚实的参与设备判定为异常设备、攻击者，协调设备确定异常设备的方式可以是：协调设备可在每次模型更新检测得到各参与设备的信用分数或异常分数时，对信用分数小于预设信用分数，或异常分数大于预设异常分数的参与设备进行记录，统计得到各参与设备的异常次数。如协调设备在已经经历的5次模型更新中，第4次和第5次时都检测到参与设备1的信用分数小于预设信用分数，在本次，即第6次模型更新时，协调设备检测得到各个参与设备的信用分数后，检测到参与设备1的信用分数小于预设信用分数，则协调设备对参与设备1进行记录，得到参与设备1的异常次数为3次；对于6次模型更新中信用分数均不小于预设信用分数的参与设备，协调设备统计得到该参与设备的异常次数为0。也即，协调设备在每次模型更新检测得到各参与设备的异常分数或信用分数后，更新各个参与设备的异常次数。
需要说明的是，步骤S3041中的预设信用分数、预设异常分数与步骤S3011中的预设信用分数、预设异常分数可以相同，也可以不相同，在此不作限制。
步骤S3042，检测各所述参与设备的异常次数是否大于预设次数；
协调设备在得到各个参与设备的异常次数后，检测各个参与设备的异常次数是否大于预设次数，其中，预设次数可根据需要进行设置，为实现避免一次误判的效果，预设次数应当设置得大于或等于1。
步骤S3043，将所述异常次数大于所述预设次数的参与设备确定为异常设备。
当协调设备检测参与设备的异常次数大于预设次数时，将该参与设备确定为异常设备。也即，当参与设备在多次模型更新中发送的模型参数更新都异常时，可肯定该参与设备出现异常，几乎可以肯定该参与设备是攻击者。
在本实施例中，通过在模型更新时，统计各个参与设备的异常次数，并当异常次数大于预设次数时，就将该参与设备判定为异常设备，对该异常设备进行除名或拉黑的异常处理，避免了根据参与设备的一次信用检测结果异常就判定该参与设备是异常设备，从而提高了判定攻击者的准确性。
进一步地，基于上述第二或第三实施例，提出本发明联邦学习信用管理方法第四实施例，在本发明联邦学习信用管理方法第四实施例中，所述步骤S302之前，包括：
步骤S306，将所述信用分数、所述异常分数或所述权重值对应发送给各所述参与设备；
协调设备可以根据异常分数或信用分数确定各个参与设备的权重值之后，在根据权重值对各个参与设备的模型参数更新进行融合处理之前，将信用分数、异常分数或者是权重值发送给对应的参与设备。协调设备也可以是在确定参与设备的权重值之前，将信用分数或异常分数发送给对应的参与设备。
步骤S307，接收目标参与设备发送的认证信息，其中，所述目标参与设备在检测到所述信用分数小于预设信用分数，或所述异常分数大于预设异常分数，或所述权重值小于预设权重值时发送所述认证信息；
各参与设备在接收到协调设备发送的信用分数、异常分数或权重值后，可检测信用分数是否小于预设信用分数，或者检测异常分数是否大于预设异常分数，或者检测权重值是否小于预设权重值，当参与设备检测到信用分数小于预设信用分数，或检测到异常分数大于预设异常分数，或检测到权重值小于预设权重值时，发送认证信息给协调设备。其中，认证信息中可携带预先与协调设备商定的认证密码或其他认证数据。
协调设备接收目标参与设备发送的认证信息。
需要说明的是，步骤S307中的预设信用分数、预设异常分数与上述实施例中的预设信用分数、预设异常分数可以相同也可以不相同，不作具体限制。
步骤S308，根据所述认证信息对所述目标参与设备进行身份认证，得到身份认证结果；
协调设备根据接收到的认证信息对目标参与设备进行身份认证，得到身份认证结果。具体地，协调设备可提取认证信息中的认证密码或其他认证数据，将提取到的认证密码与预先存储的认证密码进行比对，或将提取到的认证数据与或预先存储认证数据进行比对，若是一致的，则身份认证结果是该参与设备是诚实的参与设备，不是攻击者，若不是一致的，则身份认证结果是该参与设备是恶意攻击者。
所述步骤S302包括：
步骤S3021，根据所述身份认证结果和各所述参与设备的权重值，对各所述参与设备的所述模型参数更新进行加权平均，得到联合模型参数。
此步骤与步骤S302的区别在于，此步骤中，协调设备可根据身份认证结果确定是否对各个参与设备的权重值、信用分数或异常分数进行调整，具体地，当参与设备的身份认证结果是该参与设备不是攻击者时，协调设备可将该参与设备对应较低的权重值调高，或者将该参与设备的信用分数调为满分，或将该参与设备的异常分数调为零分；或者是当协调设备在本次模型更新时已经将该参与设备拉黑或从参与设备名单中删除时，协调设备可将该参与设备重新添加至参与设备名单中，并为该参与设备分配较高的权重值；或者是协调设备在本次模型更新时已将该参与设备的异常次数加一时，协调设备可将该参与设备的异常次数清零。
在本实施例中，通过将各个参与设备的信用分数、异常分数或权重值发送给各个参与设备，使得参与设备在被怀疑时(即异常分数很高、或信用分数很低、或权重值很低时)，可以向协调设备发送认证信息进行申述，从而进一步地避免了诚实的参与设备被误判为攻击者。此外，也有效避免了参与设备每次向协调设备发送模型参数更新时都要携带认证信息，而只有当该参与设备被怀疑时才向协调设备发送认证信息，可以有效节省通信带宽和减低计算量。
进一步地，为减少协调设备的计算量，步骤S20包括：
步骤S201，将各所述模型参数更新分别进行降维处理，得到低维度的模型参数更新；
协调设备对各个模型参数更新进行降维处理，得到低维度的模型参数更新。由于参与设备发送的模型参数更新可能是一个很高维度的向量，特别是当联邦学习模型是深度学习模型时，模型参数更新的维度可能高达100万维，甚至1千万维。因此，协调设备可对模型参数更新进行降维处理。具体地，协调设备可以采用随机采样的方法进行降维处理，例如从100万维的模型参数更新中随机抽取100维，作为低维度的模型参数更新。协调设备还可以采用特征工程的方式进行降维度处理，例如从模型参数更新中抽取与该参与设备的前次模型参数更新相比变化较大的维度。当联邦学习模型是神经网络时，协调设备还可以选取神经网络的最后一层的参数作为低维度的模型参数更新。需要说明的是，在本实施例中，对协调设备的降维方式不作具体限定，优选是使得降维后的低维度模型参数更新任能够反映原模型参数更新的特征的降维方式。
步骤S202，按照预设信用检测算法对各所述低维度的模型参数更新进行检测，得到各所述参与设备的信用检测结果。
协调设备按照预设信用检测算法对各个低维度的模型参数更新进行检测，得到各个参与设备的信用检测结果。需要说明的是，此步骤中的信用检测算法与步骤S20中的信用检测算法相同，不再详细赘述，此步骤与步骤S20的区别在于，此步骤中协调设备对低维度的模型参数更新进行检测，降低了计算复杂度，从而节省了协调设备的检测时间，加快了联邦学习模型的训练速度。
此外，此外本发明实施例还提出一种联邦学习信用管理装置，参照图3，所述联邦学习信用管理装置包括：
接收模块10，用于接收参与联邦学习的各参与设备发送的模型参数更新；
检测模块20，用于按照预设信用检测算法对各所述模型参数更新进行检测，得到各所述参与设备的信用检测结果；
管理模块30，用于根据所述信用检测结果对各所述参与设备进行信用管理。
进一步地，所述信用检测结果为各所述参与设备的信用分数或异常分数，所述管理模块30包括：
确定单元，用于根据所述信用分数或所述异常分数对应确定各所述参与设备的权重值；
计算单元，用于根据各所述参与设备的权重值，对各所述参与设备的所述模型参数更新进行加权平均，得到联合模型参数；
发送单元，用于将所述联合模型参数发送给各所述参与设备，以供各所述参与设备根据所述联合模型参数进行本地模型训练，以对各所述参与设备进行信用管理。
进一步地，所述确定单元包括：
设置子单元，用于当所述信用分数小于预设信用分数，或所述异常分数大于预设异常分数时，将所述信用分数或所述异常分数对应参与设备的权重值设置为零；
所述发送单元还用于将所述联合模型参数发送给各所述参与设备中所述权重值不为零的参与设备。
进一步地，所述确定单元还用于在根据所述信用分数或所述异常分数对应确定各所述参与设备的权重值之前，根据所述信用分数或所述异常分数确定各所述参与设备是否为异常设备；
所述管理模块30还包括：
异常处理单元，用于当确定目标参与设备为异常设备时，在联邦学习的参与设备名单中删除所述目标参与设备或将所述目标参与设备加入黑名单；
所述确定单元还用于根据所述信用分数或所述异常分数对应确定当前联邦学习参与设备名单中各参与设备的权重值。
进一步地，所述确定单元还包括：
记录子单元，用于对每次模型更新中所述信用分数小于预设信用分数，或所述异常分数大于预设异常分数的参与设备进行记录，得到各所述参与设备的异常次数；
检测子单元，用于检测各所述参与设备的异常次数是否大于预设次数；
确定子单元，用于将所述异常次数大于所述预设次数的参与设备确定为异常设备。
进一步地，所述发送单元还用于在根据各所述参与设备的权重值，对各所述参与设备的所述模型参数更新进行加权平均，得到联合模型参数之前，将所述信用分数、所述异常分数或所述权重值对应发送给各所述参与设备；
所述管理模块30还包括：
接收单元，用于接收目标参与设备发送的认证信息，其中，所述目标参与设备在检测到所述信用分数小于预设信用分数，或所述异常分数大于预设异常分数，或所述权重值小于预设权重值时发送所述认证信息；
认证单元，用于根据所述认证信息对所述目标参与设备进行身份认证，得到身份认证结果；
所述计算单元还用于根据所述身份认证结果和各所述参与设备的权重值，对各所述参与设备的所述模型参数更新进行加权平均，得到联合模型参数。
进一步地，所述检测模块20包括：
降维处理单元，用于将各所述模型参数更新分别进行降维处理，得到低维度的模型参数更新；
检测单元，用于按照预设信用检测算法对各所述低维度的模型参数更新进行检测，得到各所述参与设备的信用检测结果。
本发明联邦学习信用管理装置的具体实施方式的拓展内容与上述联邦学习信用管理方法各实施例基本相同，在此不做赘述。
此外，本发明实施例还提出一种计算机可读存储介质，所述存储介质上存储有联邦学习信用管理程序，所述联邦学习信用管理程序被处理器执行时实现如下所述的联邦学习信用管理方法的步骤。
本发明联邦学习信用管理设备和计算机可读存储介质的各实施例，均可参照本发明联邦学习信用管理方法各个实施例，此处不再赘述。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种联邦学习信用管理方法，其特征在于，所述联邦学习信用管理方法包括以下步骤：
接收参与联邦学习的各参与设备发送的模型参数更新；
按照预设信用检测算法对各所述模型参数更新进行检测，得到各所述参与设备的信用检测结果；
根据所述信用检测结果对各所述参与设备进行信用管理。
2.如权利要求1所述的联邦学习信用管理方法，其特征在于，所述信用检测结果为各所述参与设备的信用分数或异常分数，所述根据所述信用检测结果对各所述参与设备进行信用管理的步骤包括：
根据所述信用分数或所述异常分数对应确定各所述参与设备的权重值；
根据各所述参与设备的权重值，对各所述参与设备的所述模型参数更新进行加权平均，得到联合模型参数；
将所述联合模型参数发送给各所述参与设备，以供各所述参与设备根据所述联合模型参数进行本地模型训练。
3.如权利要求2所述的联邦学习信用管理方法，其特征在于，所述根据所述信用分数或所述异常分数对应确定各所述参与设备的权重值的步骤包括：
当所述信用分数小于预设信用分数，或所述异常分数大于预设异常分数时，将所述信用分数或所述异常分数对应参与设备的权重值设置为零；
所述将所述联合模型参数发送给各所述参与设备的步骤包括：
将所述联合模型参数发送给各所述参与设备中所述权重值不为零的参与设备。
4.如权利要求2所述的联邦学习信用管理方法，其特征在于，所述根据所述信用分数或所述异常分数对应确定各所述参与设备的权重值的步骤之前，还包括：
根据所述信用分数或所述异常分数确定各所述参与设备是否为异常设备；
当确定目标参与设备为异常设备时，在联邦学习的参与设备名单中删除所述目标参与设备或将所述目标参与设备加入黑名单；
所述根据所述信用分数或所述异常分数对应确定各所述参与设备的权重值的步骤包括：
根据所述信用分数或所述异常分数对应确定当前联邦学习参与设备名单中各参与设备的权重值。
5.如权利要求4所述的联邦学习信用管理方法，其特征在于，所述根据所述信用分数或所述异常分数确定各所述参与设备是否为异常设备的步骤包括：
对每次模型更新中所述信用分数小于预设信用分数，或所述异常分数大于预设异常分数的参与设备进行记录，得到各所述参与设备的异常次数；
检测各所述参与设备的异常次数是否大于预设次数；
将所述异常次数大于所述预设次数的参与设备确定为异常设备。
6.如权利要求2所述的联邦学习信用管理方法，其特征在于，所述根据各所述参与设备的权重值，对各所述参与设备的所述模型参数更新进行加权平均，得到联合模型参数的步骤之前，还包括：
将所述信用分数、所述异常分数或所述权重值对应发送给各所述参与设备；
接收目标参与设备发送的认证信息，其中，所述目标参与设备在检测到所述信用分数小于预设信用分数，或所述异常分数大于预设异常分数，或所述权重值小于预设权重值时发送所述认证信息；
根据所述认证信息对所述目标参与设备进行身份认证，得到身份认证结果；
所述根据各所述参与设备的权重值，对各所述参与设备的所述模型参数更新进行加权平均，得到联合模型参数的步骤包括：
根据所述身份认证结果和各所述参与设备的权重值，对各所述参与设备的所述模型参数更新进行加权平均，得到联合模型参数。
7.如权利要求1至6任一项所述的联邦学习信用管理方法，其特征在于，所述按照预设信用检测算法对各所述模型参数更新进行检测，得到各所述参与设备的信用检测结果的步骤包括：
将各所述模型参数更新分别进行降维处理，得到低维度的模型参数更新；
按照预设信用检测算法对各所述低维度的模型参数更新进行检测，得到各所述参与设备的信用检测结果。
8.一种联邦学习信用管理装置，其特征在于，所述联邦学习信用管理装置包括：
接收模块，用于接收参与联邦学习的各参与设备发送的模型参数更新；
检测模块，用于按照预设信用检测算法对各所述模型参数更新进行检测，得到各所述参与设备的信用检测结果；
管理模块，用于根据所述信用检测结果对各所述参与设备进行信用管理。
9.一种联邦学习信用管理设备，其特征在于，所述联邦学习信用管理设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的联邦学习信用管理程序，所述联邦学习信用管理程序被所述处理器执行时实现如权利要求1至7中任一项所述的联邦学习信用管理方法的步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有联邦学习信用管理程序，所述联邦学习信用管理程序被处理器执行时实现如权利要求1至7中任一项所述的联邦学习信用管理方法的步骤。
CN201910802526.4A 2019-08-28 2019-08-28 联邦学习信用管理方法、装置、设备及可读存储介质 Pending CN110503207A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201910802526.4A CN110503207A (zh) 2019-08-28 2019-08-28 联邦学习信用管理方法、装置、设备及可读存储介质
PCT/CN2019/119235 WO2021036014A1 (zh) 2019-08-28 2019-11-18 联邦学习信用管理方法、装置、设备及可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910802526.4A CN110503207A (zh) 2019-08-28 2019-08-28 联邦学习信用管理方法、装置、设备及可读存储介质

Publications (1)

Publication Number Publication Date
CN110503207A true CN110503207A (zh) 2019-11-26

Family

ID=68588718

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910802526.4A Pending CN110503207A (zh) 2019-08-28 2019-08-28 联邦学习信用管理方法、装置、设备及可读存储介质

Country Status (2)

Country Link
CN (1) CN110503207A (zh)
WO (1) WO2021036014A1 (zh)

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110874647A (zh) * 2020-01-16 2020-03-10 支付宝(杭州)信息技术有限公司 联盟学习中的私有数据评估、联盟学习方法、装置及系统
CN111539810A (zh) * 2020-04-30 2020-08-14 深圳前海微众银行股份有限公司 防诈骗方法、装置、系统、设备及存储介质
CN111709534A (zh) * 2020-06-19 2020-09-25 深圳前海微众银行股份有限公司 基于演化计算的联邦学习方法、装置、设备及介质
CN112214342A (zh) * 2020-09-14 2021-01-12 德清阿尔法创新研究院 一种联邦学习场景中高效的错误数据检测方法
CN112257063A (zh) * 2020-10-19 2021-01-22 上海交通大学 一种基于合作博弈论的联邦学习中后门攻击的检测方法
CN112418434A (zh) * 2020-11-06 2021-02-26 中国石油大学(华东) 一种基于强化学习的联邦学习模型融合策略
CN112446025A (zh) * 2020-11-23 2021-03-05 平安科技（深圳）有限公司 联邦学习防御方法、装置、电子设备及存储介质
CN112966233A (zh) * 2021-02-23 2021-06-15 杭州安恒信息技术股份有限公司 用户风险操作的检测方法、装置和计算机设备
WO2021159753A1 (zh) * 2020-09-21 2021-08-19 平安科技（深圳）有限公司 一种联邦学习模型训练方法、装置、终端设备及存储介质
WO2021196701A1 (zh) * 2020-03-31 2021-10-07 深圳前海微众银行股份有限公司 一种应对攻击的方法及联邦学习装置
WO2021232754A1 (zh) * 2020-05-22 2021-11-25 深圳前海微众银行股份有限公司 联邦学习建模方法、设备及计算机可读存储介质
CN114079902A (zh) * 2020-08-13 2022-02-22 Oppo广东移动通信有限公司 联邦学习的方法和装置
CN114285556A (zh) * 2021-12-15 2022-04-05 重庆邮电大学 一种基于联邦学习的隐私保护特征工程方法
CN114363082A (zh) * 2022-01-12 2022-04-15 平安普惠企业管理有限公司 网络攻击检测方法、装置、设备及计算机可读存储介质
WO2022110721A1 (zh) * 2020-11-24 2022-06-02 平安科技（深圳）有限公司 基于客户端分类聚合的联合风险评估方法及相关设备
CN114650288A (zh) * 2020-12-02 2022-06-21 中国科学院深圳先进技术研究院 分布式训练方法及系统、终端设备、计算机可读存储介质
WO2023011728A1 (en) * 2021-08-06 2023-02-09 Nokia Technologies Oy Trustworthy federated learning
CN115907003A (zh) * 2022-12-07 2023-04-04 中国人民解放军国防科技大学 基于度量学习的联邦学习恶意模型更新的检测方法及系统

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11909482B2 (en) * 2020-08-18 2024-02-20 Qualcomm Incorporated Federated learning for client-specific neural network parameter generation for wireless communication

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106886915A (zh) * 2017-01-17 2017-06-23 华南理工大学 一种基于时间衰减采样的广告点击预估方法
CN109685536A (zh) * 2017-10-18 2019-04-26 北京京东尚科信息技术有限公司 用于输出信息的方法和装置
CN109871702A (zh) * 2019-02-18 2019-06-11 深圳前海微众银行股份有限公司 联邦模型训练方法、系统、设备及计算机可读存储介质
CN110008980A (zh) * 2019-01-02 2019-07-12 阿里巴巴集团控股有限公司 识别模型生成方法、识别方法、装置、设备及存储介质

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180089587A1 (en) * 2016-09-26 2018-03-29 Google Inc. Systems and Methods for Communication Efficient Distributed Mean Estimation
US11270201B2 (en) * 2017-12-29 2022-03-08 Intel Corporation Communication optimizations for distributed machine learning
CN109165515A (zh) * 2018-08-10 2019-01-08 深圳前海微众银行股份有限公司 基于联邦学习的模型参数获取方法、系统及可读存储介质
CN110008696A (zh) * 2019-03-29 2019-07-12 武汉大学 一种面向深度联邦学习的用户数据重建攻击方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106886915A (zh) * 2017-01-17 2017-06-23 华南理工大学 一种基于时间衰减采样的广告点击预估方法
CN109685536A (zh) * 2017-10-18 2019-04-26 北京京东尚科信息技术有限公司 用于输出信息的方法和装置
CN110008980A (zh) * 2019-01-02 2019-07-12 阿里巴巴集团控股有限公司 识别模型生成方法、识别方法、装置、设备及存储介质
CN109871702A (zh) * 2019-02-18 2019-06-11 深圳前海微众银行股份有限公司 联邦模型训练方法、系统、设备及计算机可读存储介质

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110874647A (zh) * 2020-01-16 2020-03-10 支付宝(杭州)信息技术有限公司 联盟学习中的私有数据评估、联盟学习方法、装置及系统
WO2021196701A1 (zh) * 2020-03-31 2021-10-07 深圳前海微众银行股份有限公司 一种应对攻击的方法及联邦学习装置
CN111539810A (zh) * 2020-04-30 2020-08-14 深圳前海微众银行股份有限公司 防诈骗方法、装置、系统、设备及存储介质
WO2021232754A1 (zh) * 2020-05-22 2021-11-25 深圳前海微众银行股份有限公司 联邦学习建模方法、设备及计算机可读存储介质
CN111709534A (zh) * 2020-06-19 2020-09-25 深圳前海微众银行股份有限公司 基于演化计算的联邦学习方法、装置、设备及介质
CN114079902A (zh) * 2020-08-13 2022-02-22 Oppo广东移动通信有限公司 联邦学习的方法和装置
CN112214342A (zh) * 2020-09-14 2021-01-12 德清阿尔法创新研究院 一种联邦学习场景中高效的错误数据检测方法
CN112214342B (zh) * 2020-09-14 2024-05-24 德清阿尔法创新研究院 一种联邦学习场景中高效的错误数据检测方法
WO2021159753A1 (zh) * 2020-09-21 2021-08-19 平安科技（深圳）有限公司 一种联邦学习模型训练方法、装置、终端设备及存储介质
CN112257063A (zh) * 2020-10-19 2021-01-22 上海交通大学 一种基于合作博弈论的联邦学习中后门攻击的检测方法
CN112418434A (zh) * 2020-11-06 2021-02-26 中国石油大学(华东) 一种基于强化学习的联邦学习模型融合策略
CN112446025A (zh) * 2020-11-23 2021-03-05 平安科技（深圳）有限公司 联邦学习防御方法、装置、电子设备及存储介质
WO2021208721A1 (zh) * 2020-11-23 2021-10-21 平安科技（深圳）有限公司 联邦学习防御方法、装置、电子设备及存储介质
CN112446025B (zh) * 2020-11-23 2024-07-26 平安科技（深圳）有限公司 联邦学习防御方法、装置、电子设备及存储介质
WO2022110721A1 (zh) * 2020-11-24 2022-06-02 平安科技（深圳）有限公司 基于客户端分类聚合的联合风险评估方法及相关设备
CN114650288A (zh) * 2020-12-02 2022-06-21 中国科学院深圳先进技术研究院 分布式训练方法及系统、终端设备、计算机可读存储介质
CN114650288B (zh) * 2020-12-02 2024-03-08 中国科学院深圳先进技术研究院 分布式训练方法及系统、终端设备、计算机可读存储介质
CN112966233A (zh) * 2021-02-23 2021-06-15 杭州安恒信息技术股份有限公司 用户风险操作的检测方法、装置和计算机设备
WO2023011728A1 (en) * 2021-08-06 2023-02-09 Nokia Technologies Oy Trustworthy federated learning
CN114285556A (zh) * 2021-12-15 2022-04-05 重庆邮电大学 一种基于联邦学习的隐私保护特征工程方法
CN114285556B (zh) * 2021-12-15 2023-12-01 西藏北纬科技有限公司 一种基于联邦学习的隐私保护特征工程方法
CN114363082A (zh) * 2022-01-12 2022-04-15 平安普惠企业管理有限公司 网络攻击检测方法、装置、设备及计算机可读存储介质
CN114363082B (zh) * 2022-01-12 2024-05-03 南昌首页科技股份有限公司 网络攻击检测方法、装置、设备及计算机可读存储介质
CN115907003A (zh) * 2022-12-07 2023-04-04 中国人民解放军国防科技大学 基于度量学习的联邦学习恶意模型更新的检测方法及系统

Also Published As

Publication number Publication date
WO2021036014A1 (zh) 2021-03-04

Similar Documents

Publication Publication Date Title
CN110503207A (zh) 联邦学习信用管理方法、装置、设备及可读存储介质
CN109344583B (zh) 阈值确定及核身方法、装置、电子设备及存储介质
Blackburn et al. Branded with a scarlet" C" cheaters in a gaming social network
CN109847366B (zh) 用于游戏的数据处理方法和装置
CN106789844B (zh) 一种恶意用户识别方法及装置
CN109658222A (zh) 风险分析方法、装置、设备及计算机可读存储介质
CN111738294B (zh) Ai模型的训练方法、使用方法、计算机设备及存储介质
CN108809979A (zh) 基于Q-learning的自动入侵响应决策方法
CN113179263A (zh) 一种网络入侵检测方法、装置及设备
CN108805689A (zh) 一种贷款风险评估控制方法及装置
CN110075524A (zh) 异常行为检测方法和装置
CN106487603A (zh) 一种响应测试方法及装置
CN109636565A (zh) 风险数据的处理方法、装置、设备及计算机可读存储介质
CN109831459A (zh) 安全访问的方法、装置、存储介质和终端设备
CN110336815A (zh) 基于区块链的攻击防御方法、装置、设备及可读存储介质
CN109582581A (zh) 一种基于众包任务的结果确定方法及相关设备
CN109636583A (zh) 一种贷款资金监控方法和装置
CN113822160B (zh) 深度伪造检测模型的评测方法、系统及设备
Jing Applications of game theory and advanced machine learning methods for adaptive cyberdefense strategies in the digital music industry
Li et al. An Analysis of User Behaviors in Phishing eMail using Machine Learning Techniques.
CN115374216B (zh) 共识方案的构建方法、装置、终端设备及计算机介质
CN114679600B (zh) 数据处理方法及装置
Cuihua et al. An information system security evaluation model based on AHP and GRAP
CN110084143A (zh) 一种用于人脸识别的情绪信息保护方法及系统
CN108306937A (zh) 短信验证码的发送方法、获取方法、服务器及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination