CN114330746A - 模型学习方法、装置、系统及计算机可读存储介质 - Google Patents

模型学习方法、装置、系统及计算机可读存储介质 Download PDF

Info

Publication number
CN114330746A
CN114330746A CN202111647637.6A CN202111647637A CN114330746A CN 114330746 A CN114330746 A CN 114330746A CN 202111647637 A CN202111647637 A CN 202111647637A CN 114330746 A CN114330746 A CN 114330746A
Authority
CN
China
Prior art keywords
gradient
malicious
forecast
client
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111647637.6A
Other languages
English (en)
Inventor
邱炜伟
詹士潇
曾磊
黄方蕾
张珂杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Qulian Technology Co Ltd
Original Assignee
Hangzhou Qulian Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Qulian Technology Co Ltd filed Critical Hangzhou Qulian Technology Co Ltd
Priority to CN202111647637.6A priority Critical patent/CN114330746A/zh
Publication of CN114330746A publication Critical patent/CN114330746A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Computer And Data Communications (AREA)

Abstract

本发明提供了一种模型学习方法、装置、系统及计算机可读存储介质,涉及算法学习技术领域。该方法包括:获取客户端通过区域链发送的梯度并对所述梯度进行编号;按照编号根据梯度的方向和大小确定梯度是否为预报恶意梯度;通过客户端判断被确定为预报恶意梯度的梯度是否为恶意梯度,剔除被判断为恶意梯度的梯度并进行下一轮迭代,直至恶意梯度被剔除,得到非恶意梯度;对非恶意梯度进行平均聚合来更新客户端的模型,直至模型收敛。本发明的模型学习方法、装置、系统及计算机可读存储介质,通过客户端根据梯度的方向和大小以及投票机制判断出恶意梯度后将恶意梯度剔除,并对剩余的梯度进行平均聚合来更新客户端的模型并重复进行上述步骤直至模型收敛,达到了防止恶意梯度通过平均聚合更新模型后会对模型造成恶劣影响的技术效果。

Description

模型学习方法、装置、系统及计算机可读存储介质
技术领域
本发明涉及算法学习技术领域,尤其是涉及一种模型学习方法、装置、系统及计算机可读存储介质。
背景技术
拜占庭攻击在模型学习过程中是十分常见的,恶意节点可对梯度进行任意的修改,并可向服务器发送虚假的梯度信息如从梯度的方向与模长上对数据进行修改,使得通过对修改后的梯度进行聚合来更新模型后,会对训练模型造成恶劣的影响。
因此,需要提出一种新方法以改善上述问题。
发明内容
有鉴于此,本发明的目的在于提供一种模型学习方法、装置、系统及计算机可读存储介质,以改善上述技术问题。
第一方面,本发明实施例提供了一种模型学习方法,所述方法包括以下步骤:
获取客户端通过区域链发送的梯度并对所述梯度进行编号,其中,每个所述客户端对应一个梯度;
按照所述编号根据所述梯度的方向和大小确定所述梯度是否为预报恶意梯度;
通过所述客户端判断被确定为预报恶意梯度的所述梯度是否为恶意梯度,并在所述梯度被判断为恶意梯度超过预定次数时,剔除所述梯度对应的客户端;
对剩余客户端对应的梯度进行平均聚合来更新所述客户端的模型并重复上述步骤,直至所述模型收敛。
结合第一方面,本发明实施例提供了第一方面的第一种可能的实施方式,其中,所述按照所述编号根据所述梯度的方向和大小确定所述梯度是否为预报恶意梯度,包括:
计算梯度总和减去待判断的梯度的新梯度总和;
对所述新梯度总和与所述待判断的梯度进行点积,得到点积结果;
当所述点积结果小于零时,确定所述梯度为第一预报恶意梯度。
结合第一方面的第一种可能的实施方式,本发明实施例提供了第一方面的第二种可能的实施方式,其中,所述按照所述编号根据所述梯度的方向和大小确定所述梯度是否为预报恶意梯度,还包括:
当所述点积结果大于零时,确定所述梯度的比例倍数;
当所述比例倍数大于预设阈值时,确定所述梯度为第二预报恶意梯度。
结合第一方面,本发明实施例提供了第一方面的第三种可能的实施方式的第二种可能的实施方式,其中,所述比例倍数通过下式得出:
Figure BDA0003445629600000021
其中,i为所述梯度的编号,gi为编号为i的梯度;g′sum为梯度总和减去待判断的梯度的新梯度总和。
结合第一方面的第二种可能的实施方式或第三种可能的实施方式,本发明实施例提供了第一方面的第四种可能的实施方式,其中,所述通过所述客户端判断被确定为预报恶意梯度的所述梯度是否为恶意梯度,包括:
通过所述客户端对被确定为第一预报恶意梯度或第二预报恶意梯度的梯度进行投票,当所述客户端中超过二分之一的客户端认为所述第一预报恶意梯度或所述第二预报恶意梯度为恶意梯度时,确定所述第一预报恶意梯度或所述第二预报恶意梯度为恶意梯度。
第二方面,本发明实施例提供了一种模型学习装置,所述装置包括:
梯度获取模块,用于获取客户端通过区域链发送的梯度并对所述梯度进行编号,其中,每个所述客户端对应一个梯度;
梯度确定模块,用于按照所述编号根据所述梯度的方向和大小确定所述梯度是否为预报恶意梯度;
梯度剔除模块,用于通过所述客户端判断被确定为预报恶意梯度的所述梯度是否为恶意梯度,并在所述梯度被判断为恶意梯度超过预定次数时,剔除所述梯度对应的客户端;
模型更新模块,用于对剩余客户端对应的梯度进行平均聚合来更新所述客户端的模型并重复上述步骤,直至所述模型收敛。
结合第二方面,本发明实施例提供了第二方面的第一种可能的实施方式,其中,所述梯度确定模块用于:
计算梯度总和减去待判断的梯度的新梯度总和;
对所述新梯度总和与所述待判断的梯度进行点积,得到点积结果;
当所述点积结果于小零时,确定所述梯度为第一预报恶意梯度。
结合第二方面,本发明实施例提供了第二方面的第二种可能的实施方式,其中,所述梯度确定模块还用于:
当所述点积结果大于零时,确定所述梯度的比例倍数;
当所述比例倍数大于预设阈值时,确定所述梯度为第二预报恶意梯度。
第三方面,本发明实施例还提供一种模型学习系统,该系统包括存储器、处理器,所述存储器中存储有可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述方法。
第四方面,本发明实施例还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行上述方法的步骤。
本发明实施例带来了以下有益效果:本发明实施例提供的一种模型学习方法、装置、系统及计算机可读存储介质,首先获取客户端通过区域链发送的梯度并对梯度进行编号,然后按照编号根据梯度的方向和大小确定梯度是否为预报恶意梯度,并通过客户端判断被确定为预报恶意梯度的梯度是否为恶意梯度,并在梯度被判断为恶意梯度超过预定次数时,剔除该梯度对应的客户端,最后对剩余客户端对应的梯度进行平均聚合来更新客户端的模型并重复上述步骤,直至模型收敛。本发明的模型学习方法、装置、系统及计算机可读存储介质,通过客户端根据梯度的方向和大小以及投票机制判断出恶意梯度后将恶意梯度剔除,并对剩余的梯度进行平均聚合来更新客户端的模型并重复上述步骤直至模型收敛,达到了防止恶意梯度通过平均聚合更新模型后会对模型造成恶劣影响的技术效果。
本发明的其他特征和优点将在随后的说明书中阐述,并且部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点在说明书、权利要求书以及附图中所特别指出的结构中实现和获得。
为使本发明的上述目的、特征和优点能够更加明显易懂,下文特举优选实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本发明的具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图进行简单的介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种模型学习方法的流程图;
图2为本发明实施例提供的另一种模型学习方法的流程图;
图3为本发明实施例提供的一种模型学习装置的结构框图;
图4为本发明实施例提供的一种模型学习系统的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合附图对本发明的技术方案进行清楚、完整的描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
拜占庭攻击在模型学习过程中是十分常见的,恶意节点可对梯度进行任意的修改,并可向服务器发送虚假的梯度信息如从梯度的方向与模长上对数据进行修改,使得通过对修改后的梯度进行聚合来更新模型后,会对训练模型造成恶劣的影响。基于此,本发明实施例提供了一种模型学习方法、装置、系统及计算机可读存储介质,以缓解上述问题。
为了便于对本实施例进行理解,首先对本发明实施例所公开的一种模型学习方法进行详细介绍。
本发明实施例提供了一种模型学习方法,该方法可以由具有数据处理能力的电子设备执行,该电子设备可以是台式机、笔记本电脑、掌上电脑、平板电脑或手机等。参见图1所示的一种模型学习方法的流程图,该方法主要包括以下步骤:
步骤S102:获取客户端通过区域链发送的梯度并对该梯度进行编号。
其中,每个上述客户端对应一个梯度。
可选地,首先,训练学习方通过区域链向客户端发送各自的梯度,并根据上链顺序进行编号。
步骤S104:按照上述编号根据梯度的方向和大小确定该梯度是否为预报恶意梯度。
步骤S106:通过客户端判断被确定为预报恶意梯度的梯度是否为恶意梯度,并在梯度被判断为恶意梯度超过预定次数时,剔除梯度对应的客户端。
步骤S108:对剩余客户端对应的梯度进行平均聚合来更新客户端的模型并重复上述步骤,直至模型收敛。
本发明实施例带来了以下有益效果:本发明实施例通过一种模型学习方法,首先获取客户端通过区域链发送的梯度并对梯度进行编号,然后按照编号根据梯度的方向和大小确定梯度是否为预报恶意梯度,并通过客户端判断被确定为预报恶意梯度的梯度是否为恶意梯度,并在梯度被判断为恶意梯度超过预定次数时,剔除梯度对应的客户端,最后对剩余客户端对应的梯度进行平均聚合来更新客户端的模型并重复上述步骤,直至该模型收敛。本发明的模型学习方法、装置、系统及计算机可读存储介质,通过客户端根据梯度的方向和大小以及投票机制判断出恶意梯度后将恶意梯度剔除,并对剩余的梯度进行平均聚合来更新客户端的模型并重复上述步骤直至该模型收敛,达到了防止恶意梯度通过平均聚合更新模型后会对模型造成恶劣影响的技术效果。
为了便于对图1中的方法的理解,我们对图1中的内容进行了进一步的细化,参照图2所示的另一种模型学习方法的流程图,该方法还可以通过以下步骤实现:
步骤S202:获取客户端通过区域链发送的梯度并对该梯度进行编号。
其中,每个上述客户端对应一个梯度。
步骤S204:计算梯度总和减去待判断的梯度的新梯度总和。
步骤S206:对上述新梯度总和与上述待判断的梯度进行点积,得到点积结果。
当上述点积结果小于零时,继续执行步骤S208;当上述点积结果小于零时,执行步骤S210。
步骤S208:当上述点积结果小于零时,确定上述梯度为第一预报恶意梯度。
步骤S210:当上述点积结果大于零时,确定上述梯度的比例倍数。
步骤S212:当上述比例倍数大于预设阈值时,确定上述梯度为第二预报恶意梯度。
其中,上述比例倍数通过下式得出:
Figure BDA0003445629600000071
其中,i为梯度的编号,gi为编号为i的梯度;g′sum为梯度总和减去待判断的梯度的新梯度总和。
步骤S214:通过客户端对被确定为第一预报恶意梯度或第二预报恶意梯度的梯度进行投票,当客户端中超过二分之一的客户端认为第一预报恶意梯度或第二预报恶意梯度为恶意梯度时,确定第一预报恶意梯度或第二预报恶意梯度为恶意梯度。
可选地,当每次迭代过程中,超过一半客户端认为某梯度为恶意梯度且在预设次数的迭代过程中均认为该梯度为恶意梯度,则可以确定该梯度为恶意梯度,并剔除该梯度。根据该方法对所有梯度进行判断,从而能够将所有被确定为恶意梯度的梯度剔除。
步骤S216:对剩余客户端对应的梯度进行平均聚合来更新客户端的模型并重复上述步骤,直至模型收敛。
综上所述,本发明的模型学习方法,首先获取客户端通过区域链发送的梯度并对梯度进行编号,然后按照编号根据梯度的方向和大小确定梯度是否为预报恶意梯度,并通过客户端判断被确定为预报恶意梯度的梯度是否为恶意梯度,并在梯度被判断为恶意梯度超过预定次数时,剔除梯度对应的客户端,最后对剩余客户端对应的梯度进行平均聚合来更新客户端的模型并重复上述步骤,直至该模型收敛。本发明的模型学习方法、装置、系统及计算机可读存储介质,通过客户端根据梯度的方向和大小以及投票机制判断出恶意梯度后将恶意梯度剔除,并对剩余的梯度进行平均聚合来更新客户端的模型并重复上述步骤直至模型收敛,达到了防止恶意梯度通过平均聚合更新模型后会对模型造成恶劣影响的技术效果。
对应于上述实施方式提供的模型学习方法,本发明实施例还提供了一种模型学习装置,图3本发明实施例提供的一种模型学习装置的结构框图。如图3所示,该装置包括:
梯度获取模块301,用于获取客户端通过区域链发送的梯度并对该梯度进行编号。
其中,每个上述客户端对应一个梯度;
梯度确定模块302,用于按照上述编号根据梯度的方向和大小确定该梯度是否为预报恶意梯度;
梯度剔除模块303,用于通过客户端判断被确定为预报恶意梯度的梯度是否为恶意梯度,并在梯度被判断为恶意梯度超过预定次数时,剔除梯度对应的客户端;
模型更新模块304,用于对剩余客户端对应的梯度进行平均聚合来更新客户端的模型并重复上述步骤,直至模型收敛。
综上所述,本发明的模型学习装置,首先获取客户端通过区域链发送的梯度并对梯度进行编号,然后按照编号根据梯度的方向和大小确定梯度是否为预报恶意梯度,并通过客户端判断被确定为预报恶意梯度的梯度是否为恶意梯度,并在梯度被判断为恶意梯度超过预定次数时,剔除梯度对应的客户端,最后对剩余客户端对应的梯度进行平均聚合来更新客户端的模型并重复上述步骤,直至该模型收敛。本发明的模型学习方法、装置、系统及计算机可读存储介质,通过客户端根据梯度的方向和大小以及投票机制判断出恶意梯度后将恶意梯度剔除,并对剩余的梯度进行平均聚合来更新客户端的模型并重复上述步骤直至模型收敛,达到了防止恶意梯度通过平均聚合更新模型后会对模型造成恶劣影响的技术效果。
进一步地,上述梯度确定模块302具体用于:
计算梯度总和减去待判断的梯度的新梯度总和;
对新梯度总和与待判断的梯度进行点积,得到点积结果;
当上述点积结果于小零时,确定梯度为第一预报恶意梯度。
进一步地,上述梯度确定模块302还具体用于:
当上述点积结果大于零时,确定梯度的比例倍数;
当上述比例倍数大于预设阈值时,确定梯度为第二预报恶意梯度。
进一步地,上述梯度剔除模块303具体用于:
通过客户端对被确定为第一预报恶意梯度或第二预报恶意梯度的梯度进行投票,当客户端中超过二分之一的客户端认为第一预报恶意梯度或第二预报恶意梯度为恶意梯度时,确定第一预报恶意梯度或第二预报恶意梯度为恶意梯度。
进一步地,比例倍数通过下式得出:
Figure BDA0003445629600000091
其中,i为梯度的编号,gi为编号为i的梯度;g′sum为梯度总和减去待判断的梯度的新梯度总和。
本发明实施例提供的模型学习装置,与上述实施例提供的模型学习方法具有相同的技术特征,所以也能解决相同的技术问题,达到相同的技术效果。
本发明实施例还提供了一种模型学习系统。参见图4所示的一种模型学习的结构示意图,该模型学习系统包括:处理器400,存储器401,总线402和通信接口403,处理器400、通信接口403和存储器401通过总线402连接;处理器400用于执行存储器401中存储的可执行模块,例如计算机程序。
具体地,该模型学习系统包括两两互连的药师端、医护端和上报服务器;该药师端和该医护端均用于将模型学习至上报服务器。
上述药师端包括第一存储器、第一处理器,该第一存储器中存储有可在该第一处理器上运行的第一计算机程序,该第一处理器执行所述第一计算机程序时实现上述权利要求中任一项所述的方法。
上述医护端包括第二存储器、第二处理器,该第二存储器中存储有可在该第二处理器上运行的第二计算机程序,该第二处理器执行所述第二计算机程序时实现上述权利要求中任一项所述的方法。
其中,存储器401可能包含随机存取存储器(Random Access Memory,简称RAM),也可能还包括非易失性存储器(non-volatile memory,简称NVM),例如至少一个磁盘存储器。通过至少一个通信接口(可以是有线或者无线)实现该系统网元与至少一个其他网元之间的通信连接,可以使用互联网,广域网,本地网,城域网等。
总线402可以是工业标准体系结构(Industry Standard Architecture,简称ISA)总线、外设部件互连标准(Peripheral Component Interconnect,简称PCI)总线或扩展工业标准结构(Extended Industry Standard Architecture,简称EISA)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示,图4中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。
其中,存储器401用于存储程序,所述处理器400在接收到执行指令后,执行所述程序,前述本发明实施例任一实施例揭示的流程定义的装置所执行的方法可以应用于处理器400中,或者由处理器400实现。
处理器400可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器400中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器400可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(DigitalSignal Processing,简称DSP)、专用集成电路(Application Specific IntegratedCircuit,简称ASIC)、现成可编程门阵列(Field-Programmable Gate Array,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器401,处理器400读取存储器401中的信息,结合其硬件完成上述方法的步骤。
另外,本发明实施例还提供了一种模型学习,模型学习存储有计算机可执行指令,所述计算机可执行指令在被处理器调用和执行时,计算机可执行指令促使处理器实现上文所述的方法。
本发明实施例所提供的模型学习方法、装置、系统及计算机可读存储介质的计算机程序产品,包括存储了程序代码的模型学习,所述程序代码包括的指令可用于执行前面方法实施例中所述的方法,具体实现可参见方法实施例,在此不再赘述。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
另外,在本发明实施例的描述中,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,ReaD-Only Memory)、随机存取存储器(RAM,RanDom Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
在本发明的描述中,需要说明的是,术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”、“第三”仅用于描述目的,而不能理解为指示或暗示相对重要性。
最后应说明的是:以上实施例,仅为本发明的具体实施方式,用以说明本发明的技术方案,而非对其限制,本发明的保护范围并不局限于此,尽管参照前述实施例对本发明进行了详细的说明,本领域技术人员应当理解:任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。

Claims (10)

1.一种模型学习方法,其特征在于,所述方法包括:
获取客户端通过区域链发送的梯度并对所述梯度进行编号,其中,每个所述客户端对应一个梯度;
按照所述编号根据所述梯度的方向和大小确定所述梯度是否为预报恶意梯度;
通过所述客户端判断被确定为预报恶意梯度的所述梯度是否为恶意梯度,并在所述梯度被判断为恶意梯度超过预定次数时,剔除所述梯度对应的客户端;
对剩余客户端对应的梯度进行平均聚合来更新所述客户端的模型并重复上述步骤,直至所述模型收敛。
2.根据权利要求1所述的模型学习方法,其特征在于,所述按照所述编号根据所述梯度的方向和大小确定所述梯度是否为预报恶意梯度,包括:
计算梯度总和减去待判断的梯度的新梯度总和;
对所述新梯度总和与所述待判断的梯度进行点积,得到点积结果;
当所述点积结果小于零时,确定所述梯度为第一预报恶意梯度。
3.根据权利要求2所述的模型学习方法,其特征在于,所述按照所述编号根据所述梯度的方向和大小确定所述梯度是否为预报恶意梯度,还包括:
当所述点积结果大于零时,确定所述梯度的比例倍数;
当所述比例倍数大于预设阈值时,确定所述梯度为第二预报恶意梯度。
4.根据权利要求3所述的模型学习方法,其特征在于,所述比例倍数通过下式得出:
Figure FDA0003445629590000011
其中,i为所述梯度的编号,gi为编号为i的梯度;
Figure FDA0003445629590000021
为梯度总和减去待判断的梯度的新梯度总和。
5.根据权利要求2或3所述的模型学习方法,其特征在于,所述通过所述客户端判断被确定为预报恶意梯度的所述梯度是否为恶意梯度,包括:
通过所述客户端对被确定为第一预报恶意梯度或第二预报恶意梯度的梯度进行投票,当所述客户端中超过二分之一的客户端认为所述第一预报恶意梯度或所述第二预报恶意梯度为恶意梯度时,确定所述第一预报恶意梯度或所述第二预报恶意梯度为恶意梯度。
6.一种模型学习装置,其特征在于,所述装置包括:
梯度获取模块,用于获取客户端通过区域链发送的梯度并对所述梯度进行编号,其中,每个所述客户端对应一个梯度;
梯度确定模块,用于按照所述编号根据所述梯度的方向和大小确定所述梯度是否为预报恶意梯度;
梯度剔除模块,用于通过所述客户端判断被确定为预报恶意梯度的所述梯度是否为恶意梯度,并在所述梯度被判断为恶意梯度超过预定次数时,剔除所述梯度对应的客户端;
模型更新模块,用于对剩余客户端对应的梯度进行平均聚合来更新所述客户端的模型并重复上述步骤,直至所述模型收敛。
7.根据权利要求6所述的模型学习装置,其特征在于,所述梯度确定模块用于:
计算梯度总和减去待判断的梯度的新梯度总和;
对所述新梯度总和与所述待判断的梯度进行点积,得到点积结果;
当所述点积结果小于零时,确定所述梯度为第一预报恶意梯度。
8.根据权利要求7所述的模型学习装置,其特征在于,所述梯度确定模块还用于:
当所述点积结果大于零时,确定所述梯度的比例倍数;
当所述比例倍数大于预设阈值时,确定所述梯度为第二预报恶意梯度。
9.一种模型学习系统,其特征在于,包括存储器、处理器,所述存储器中存储有可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现权利要求1-5中任一项所述的方法。
10.一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,其特征在于,所述计算机程序被处理器运行时执行上述权利要求1至5任一项所述的方法的步骤。
CN202111647637.6A 2021-12-30 2021-12-30 模型学习方法、装置、系统及计算机可读存储介质 Pending CN114330746A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111647637.6A CN114330746A (zh) 2021-12-30 2021-12-30 模型学习方法、装置、系统及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111647637.6A CN114330746A (zh) 2021-12-30 2021-12-30 模型学习方法、装置、系统及计算机可读存储介质

Publications (1)

Publication Number Publication Date
CN114330746A true CN114330746A (zh) 2022-04-12

Family

ID=81017335

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111647637.6A Pending CN114330746A (zh) 2021-12-30 2021-12-30 模型学习方法、装置、系统及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN114330746A (zh)

Similar Documents

Publication Publication Date Title
CN112132277A (zh) 联邦学习模型训练方法、装置、终端设备及存储介质
CN107346433B (zh) 一种文本数据分类方法及服务器
CN109257390B (zh) Cc攻击的检测方法、装置及电子设备
CN115618371B (zh) 一种非文本数据的脱敏方法、装置及存储介质
CN109738972B (zh) 空气污染物预报方法、装置及电子设备
CN107682350B (zh) 基于网站安全评分的主动防御方法、装置及电子设备
CN112861346A (zh) 数据处理系统、方法及电子设备
CN110851113A (zh) 字节序列随机性的检测方法、装置、存储介质及电子设备
CN110851906A (zh) 样板间家具布局应用方法及装置
CN110868419A (zh) Web后门攻击事件的检测方法、装置及电子设备
CN110866259A (zh) 一种基于多维度数据计算安全隐患评分方法和系统
CN109495556B (zh) 一种文件处理方法及装置
CN110798481A (zh) 基于深度学习的恶意域名检测方法及装置
CN110674488A (zh) 基于神经网络的验证码识别方法、系统及计算机设备
CN114330746A (zh) 模型学习方法、装置、系统及计算机可读存储介质
CN109246083B (zh) 一种dga域名的检测方法及装置
CN110852091A (zh) 错别字的监测方法、装置、电子设备和计算机可读介质
CN110866831A (zh) 资产活跃度等级的确定方法、装置及服务器
CN109460555B (zh) 公文判定方法、装置及电子设备
US11997116B2 (en) Detection device and detection method for malicious HTTP request
WO2023050670A1 (zh) 虚假信息检测方法、系统、计算机设备及可读存储介质
CN109379186B (zh) 活禽屠宰数字证书生成方法及装置
CN115082993A (zh) 一种基于张嘴动作的人脸活检方法和装置
CN111782301B (zh) 卸载动作集合获取方法及装置
CN111651761B (zh) 一种黑产电子设备检测方法、装置、服务器及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination