CN115865521A - 一种模型局部数据处理方法、装置、设备及存储介质 - Google Patents
一种模型局部数据处理方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN115865521A CN115865521A CN202310085461.2A CN202310085461A CN115865521A CN 115865521 A CN115865521 A CN 115865521A CN 202310085461 A CN202310085461 A CN 202310085461A CN 115865521 A CN115865521 A CN 115865521A
- Authority
- CN
- China
- Prior art keywords
- parameters
- target
- model
- preset
- destruction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 26
- 230000006378 damage Effects 0.000 claims abstract description 200
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 72
- 238000012545 processing Methods 0.000 claims abstract description 56
- 238000000034 method Methods 0.000 claims description 28
- 238000004590 computer program Methods 0.000 claims description 15
- 238000012549 training Methods 0.000 claims description 13
- 238000012163 sequencing technique Methods 0.000 claims description 4
- 238000010801 machine learning Methods 0.000 abstract description 5
- 238000004364 calculation method Methods 0.000 abstract description 2
- 238000004891 communication Methods 0.000 description 6
- 238000004806 packaging method and process Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000011156 evaluation Methods 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Storage Device Security (AREA)
Abstract
本申请公开了一种模型局部数据处理方法、装置、设备及存储介质,涉及机器学习与隐私计算领域,包括:利用预设参数选取规则从目标模型的模型参数中确定若干目标参数,并生成与若干目标参数对应的下标系数,以得到目标下标系数集;利用预设破坏方式对若干目标参数进行破坏处理,以得到若干破坏后参数;利用预设加密算法对预设破坏方式以及目标下标系数集进行加密,以得到加密后数据;将若干破坏后参数、预设加密算法、加密后数据发送至解密端,以便解密端利用预设加密算法和加密后数据对若干破坏后参数进行恢复处理,以得到所述目标模型的所述若干目标参数。这样一来,可以通过对模型的局部数据进行加密解密来提高加密效率。
Description
技术领域
本发明涉及机器学习与隐私计算领域,特别涉及一种模型局部数据处理方法、装置、设备及存储介质。
背景技术
随着社会数字化进程越来越快,产生了大量数据。通过机器学习经过大量数据训练出来的机器学习模型已经应用在各类场景中,联邦学习本质上是一种分布式机器学习框架,做到了在保障数据隐私安全的基础上,实现数据共享,共同建模。它的核心思想是在多个数据源共同参与模型训练时,不需要进行原始数据流转的前提下,仅通过交互模型中间参数进行模型联合训练,原始数据可以不出本地,即各参与方只交换模型文件,不交换隐私数据。
现有技术中,多个终端在交换模型参数的时为了保护模型,会对模型参数进行加密。模型同时在不同的终端使用私有的数据去训练一段时间,然后再加密发送到一个公共的管理服务器去合并,再由管理服务器将合并后的模型分发到各个终端再训练,如此往复就可以保证即使用了私有数据,又不会暴露隐私信息给其他终端。现有技术中,各个终端传输模型时,为了防止模型暴露往往会对模型做加密,但是频繁的对一整个巨大的模型做加密和解密会导致效率很低。
发明内容
有鉴于此,本发明的目的在于提供一种模型局部数据处理方法、装置、设备及存储介质,可以在确定模型参数后,生成相应的参数下标,并利用破坏系数对模型参数进行包装处理,加密参数时只对破坏系数与参数下标进行加密,并将加密后的破坏系数以及参数下标,包装后模型参数以及加密算法发送至解密端模型,以便解密端模型利用所述加密后的破坏系数以及参数下标、加密算法对包装后模型参数进行还原,这样一来,只对局部参数进行加密,避免加密整个模型,有效提高了加密效率。其具体方案如下:
第一方面,本申请公开了一种模型局部数据处理方法,应用于加密端,包括:
利用预设参数选取规则从目标模型的模型参数中确定若干目标参数,并生成与所述若干目标参数对应的下标系数,以得到目标下标系数集;
利用预设破坏方式对所述若干目标参数进行破坏处理,以得到相应的若干破坏后参数;
利用预设加密算法对所述预设破坏方式以及所述目标下标系数集进行加密,以得到加密后数据;
将所述若干破坏后参数、所述预设加密算法、所述加密后数据发送至解密端,以便所述解密端利用所述预设加密算法和所述加密后数据对所述若干破坏后参数进行恢复处理,以得到所述目标模型的所述若干目标参数。
可选的,所述利用预设参数选取规则从目标模型的模型参数中确定若干目标参数,包括:
对目标模型的模型参数进行绝对值取值处理,并对处理后模型参数进行排序,以得到排序后模型参数;
从所述排序后模型参数中选取若干目标参数;所述若干目标参数为进行绝对值取值后,参数大小不小于所述排序后模型参数中其他参数大小的参数。
可选的,所述利用预设破坏方式对所述若干目标参数进行破坏处理,以得到相应的若干破坏后参数,包括:
利用预设破坏系数集中的破坏系数与所述若干目标参数进行乘积取值处理,以得到所述若干破坏后参数。
可选的,所述利用预设破坏系数集中的破坏系数与所述若干目标参数进行乘积取值处理,以得到所述若干破坏后参数,包括:
基于所述目标下标系数集确定所述若干目标参数的数量,以得到目标参数数量;
从所述预设破坏系数集中选取所述目标参数数量个破坏系数,并利用所述目标参数数量个破坏系数与所述若干目标参数进行逐个相乘,以得到所述若干破坏后参数。
可选的,所述利用预设破坏方式对所述若干目标参数进行破坏处理,以得到相应的若干破坏后参数之前,还包括:
生成若干破坏系数,并收集所述若干破坏系数,以得到预设破坏系数集;所述若干破坏系数均为数值大小小于-1的系数。
第二方面,本申请公开了一种模型局部数据处理方法,应用于解密端,包括:
接收加密端发送的若干破坏后参数、目标加密算法、加密后数据;
在预设可信区域利用所述目标加密算法对所述加密后数据进行解密,以得到预设破坏方式以及目标下标系数集;
在预设可信区域利用所述预设破坏方式以及所述目标下标系数集对所述若干破坏后参数进行解密,以得到与所述若干破坏后参数对应的若干目标参数,并利用所述若干目标处理参数对解密端待训练模型进行训练。
可选的,所述在预设可信区域利用所述预设破坏方式以及所述目标下标系数集对所述若干破坏后参数进行解密之前,还包括:
基于解密端系统生成相应的可信区域,以便在所述可信区域进行相应的解密操作。
第三方面,本申请公开了一种模型局部数据处理装置,应用于加密端,包括:
系数集确定模块,用于利用预设参数选取规则从目标模型的模型参数中确定若干目标参数,并生成生与所述若干目标参数对应的下标系数,以得到目标下标系数集;
参数破坏模块,用于利用预设破坏方式对所述若干目标参数进行破坏处理,以得到相应的若干破坏后参数;
数据加密模块,用于利用预设加密算法对所述预设破坏方式以及所述目标下标系数集进行加密,以得到加密后数据;
数据发送模块,用于将将所述若干破坏后参数、所述预设加密算法、所述加密后数据发送至解密端,以便所述解密端利用所述预设加密算法和所述加密后数据对所述若干破坏后参数进行恢复处理,以得到所述目标模型的所述若干目标参数。
第四方面,本申请公开了一种模型局部数据处理装置,应用于解密端,包括:
数据接收模块,用于接收加密端发送的若干破坏后参数、目标加密算法、加密后数据;
数据解密模块,用于在预设可信区域利用所述目标加密算法对所述加密后数据进行解密,以得到预设破坏方式以及目标下标系数集;
模型训练模块,用于在预设可信区域利用所述预设破坏方式以及所述目标下标系数集对所述若干破坏后参数进行解密,以得到与所述若干破坏后参数对应的若干目标参数,并利用所述若干目标处理参数对解密端待训练模型进行训练。
第五方面,本申请公开了一种电子设备,包括:
存储器,用于保存计算机程序;
处理器,用于执行所述计算机程序以实现如前述的模型局部数据处理方法。
第六方面,本申请公开了一种计算机可读存储介质,用于保存计算机程序,所述计算机程序被处理器执行时实现如前述的模型局部数据处理方法。
本申请中,首先利用预设参数选取规则从目标模型的模型参数中确定若干目标参数,并生成与所述若干目标参数对应的下标系数,以得到目标下标系数集,然后利用预设破坏方式对所述若干目标参数进行破坏处理,以得到相应的若干破坏后参数,并利用预设加密算法对所述预设破坏方式以及所述目标下标系数集进行加密,以得到加密后数据,最后将所述若干破坏后参数、所述预设加密算法、所述加密后数据发送至解密端,以便所述解密端利用所述预设加密算法和所述加密后数据对所述若干破坏后参数进行恢复处理,以得到所述目标模型的所述若干目标参数。由此可见,利用本申请中的模型局部数据处理方法,可以在确定模型参数后,生成相应的参数下标,并利用破坏系数对模型参数进行破坏包装,加密参数时只对破坏系数与参数下标进行加密,并将加密后的破坏系数以及参数下标,包装后模型参数以及加密算法发送至解密端模型,以便解密端模型利用所述加密后的破坏系数以及参数下标、加密算法对包装后模型参数进行还原,这样一来,利用本申请中的所述模型局部数据处理方法针对局部参数进行加密,避免加密整个模型,有效提高了加密效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本申请提供的一种模型局部数据处理方法流程图;
图2为本申请提供的一种具体的模型局部数据处理方法流程图;
图3为本申请提供的一种数据加密流程图;
图4为本申请提供的一种具体的模型局部数据处理方法流程图;
图5为本申请提供的一种数据解密流程图;
图6为本申请提供的一种模型局部数据处理方法装置结构示意图;
图7为本申请提供的一种模型局部数据处理方法装置结构示意图;
图8为本申请提供的一种电子设备结构图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
现有技术中,联邦学习中的模型终端在交换模型参数的时为了保护模型,会对模型参数进行加密,但是各个终端传输模型时,为了防止模型暴露往往会对模型做加密,但是频繁的对一整个巨大的模型做加密和解密会导致效率很低。
为了克服上述技术问题,本申请提供了一种模型局部数据处理方法,可以在确定模型参数后,生成相应的参数下标,并利用破坏系数对模型参数进行破坏包装,加密参数时只对破坏系数与参数下标进行加密,并将加密后的破坏系数以及参数下标,包装后模型参数以及加密算法发送至解密端模型,以便解密端模型利用所述加密后的破坏系数以及参数下标、加密算法对包装后模型参数进行还原,这样一来,利用本申请中的所述模型局部数据处理方法针对局部参数进行加密,避免加密整个模型,有效提高了加密效率。
参见图1所示,本发明实施例公开了一种模型局部数据处理方法,应用于加密端,包括:
步骤S11、利用预设参数选取规则从目标模型的模型参数中确定若干目标参数,并生成与所述若干目标参数对应的下标系数,以得到目标下标系数集。
本实施例中,利用预设参数选取规则从目标模型的模型参数中确定若干目标参数,也即首先需要从模型参数中选择若干对模型影响较大的参数作为目标参数,需要进行说明的是,模型参数的绝对值越大,则所述模型参数发生改变时对模型的影响越大,由此可知,选取所述目标模型参数时,需要对模型参数进行绝对值取值,然后从经过绝对值取值的模型参数中选择若干数值较大的参数作为目标参数。
进一步需要进行说明的是,生成与所述若干目标参数对应的下标系数,以得到目标下标系数集,也即在确定了若干目标模型参数后,需要生成与所述若干目标模型参数对应的下标系数,以便利用所述下标系数对目标模型参数进行追踪,基于所述下标系数可以对所述目标模型参数进行一一限定,当存在发生改变的模型参数后,可以利用所述下标系数确定出发生变化的目标模型参数。这样一来,利用下标系数对目标模型参数进行限定,可以有效提高本申请中模型局部数据处理方法的有效性以及准确性。
步骤S12、利用预设破坏方式对所述若干目标参数进行破坏处理,以得到相应的若干破坏后参数。
本实施例中,利用预设破坏方式对所述若干目标参数进行破坏处理,以得到相应的若干破坏后参数,也即利用预设的参数破坏方式对已经确定的所述若干目标参数进行破坏,需要进行说明的是,本申请中对参数进行破坏,是对参数进行包装,使参数发生一定的变化,但发生变化的参数依然可以使用,并非对参数数据进行破坏,使参数数据产生损坏,处于不可用状态。
进一步需要进行说明的是,本实施例中所述预设破坏方式为,生成用于使参数发生变化的破坏系数集,利用所述破坏系数集中的破坏系数与确定的目标模型参数进行乘积处理,以便实现对所述目标模型参数的破坏,得到破坏后参数。
步骤S13、利用预设加密算法对所述预设破坏方式以及所述目标下标系数集进行加密,以得到加密后数据。
本实施例中,在生成了目标下标系数集以及预设破坏方式中的破坏系数集,并且已经利用所述破坏系数集中的破坏系数对目标模型参数进行破坏后,需要对所述目标下标系数集以及所述破坏系数集进行加密,需要进行说明的是,对所述目标下标系数集以及所述破坏系数集进行加密的加密算法可以为任意一种数据加密算法,例如AES(AdvancedEncryption Standard)算法,在对所述目标下标系数集以及所述破坏系数集进行加密后,以得到加密后数据。
步骤S14、将所述若干破坏后参数、所述预设加密算法、所述加密后数据发送至解密端,以便所述解密端利用所述预设加密算法和所述加密后数据对所述若干破坏后参数进行恢复处理,以得到所述目标模型的所述若干目标参数。
本实施例中,在对目标下标系数集以及所述破坏系数集进行加密,得到加密后数据之后,需要将对若干目标参数进行破坏处理得到的若干破坏后参数,预设加密算法,加密后数据发送至解密端,以便解密端利用所述预设加密算法对所述加密后数据进行相应的解密,以得到目标下标系数集以及破坏系数集,然后利用所述目标下标系数集以及所述破坏系数集对所述破坏后参数进行还原,得到原始的若干目标参数,并利用所述若干目标参数对解密端的模型进行训练。这样一来,通过对模型的局部数据,也即对模型的目标下标系数集以及破坏系数集进行加密,避免了在联邦学习中对整个模型进行加密,通过对局部数据的加密,有效提高了模型加密解密的效率,提高了模型训练的效率。
由此可见,本实施例中首先利用预设参数选取规则从目标模型的模型参数中确定若干目标参数,并生成与所述若干目标参数对应的下标系数,以得到目标下标系数集,然后利用预设破坏方式对所述若干目标参数进行破坏处理,以得到相应的若干破坏后参数,并利用预设加密算法对所述预设破坏方式以及所述目标下标系数集进行加密,以得到加密后数据,最后将所述若干破坏后参数、所述预设加密算法、所述加密后数据发送至解密端,以便所述解密端利用所述预设加密算法和所述加密后数据对所述若干破坏后参数进行恢复处理,以得到所述目标模型的所述若干目标参数。由此可见,利用本申请中的模型局部数据处理方法,可以在确定模型参数后,生成相应的参数下标,并利用破坏系数对模型参数进行破坏包装,加密参数时只对破坏系数与参数下标进行加密,并将加密后的破坏系数以及参数下标,包装后模型参数以及加密算法发送至解密端模型,以便解密端模型利用所述加密后的破坏系数以及参数下标、加密算法对包装后模型参数进行还原,这样一来,利用本申请中的所述模型局部数据处理方法针对局部参数进行加密,避免加密整个模型,有效提高了加密效率。
本申请中,在对模型参数进行破坏包装之前,需要先确定需要进行破坏包装的参数,并且在确定了需要及逆行破坏包装的参数之后,再利用破坏系数对参数进行破坏,为此本实施例对如何确定需要进行破坏的参数以及如何对参数进行破坏做了详细的说明,参见图2所示,本发明实施例公开了一种模型局部数据处理方法,包括:
步骤S21、对目标模型的模型参数进行绝对值取值处理,并对处理后模型参数进行排序,以得到排序后模型参数。
本实施例中,在确定了联邦学习中目标模型的模型参数后,需要对所属目标模型的模型参数进行绝对值取值处理,需要进行说明的是,经过绝对值取值的参数值越大,则该参数发生变化后对模型的影响越大,由此一来,在对模型参数进行绝对值取值后,需要对处理后模型参数进行排序,以确定排序后的模型参数,进一步需要进行说明的是,排序方式可以为由小到大排序,也可以是由大到小排序,排序方式可以由用户端自行设定,但排序的目的是为了从排序后模型参数中筛选出绝对值较大的参数。
步骤S22、从所述排序后模型参数中选取若干目标参数;所述若干目标参数为进行绝对值取值后,参数大小不小于所述排序后模型参数中其他参数大小的参数。
本实施例中,从所述排序后模型参数中选取若干目标参数,也即在对模型参数进行绝对值取值,并完成排序后,需要从排序后模型参数中筛选出参数大小不小于排序后模型参数中其他参数大小的参数作为目标参数。这样一来,通过对模型参数进行绝对值取值与排序处理来选取目标参数,可以确保选中的目标参数为对模型训练影响较大的参数,以确保本申请中模型局部数据处理方法的准确性与可靠性。
步骤S23、利用预设破坏系数集中的破坏系数与所述若干目标参数进行乘积取值处理,以得到所述若干破坏后参数。
本实施例中,利用预设破坏系数集中的破坏系数与所述若干目标参数进行乘积取值处理,以得到所述若干破坏后参数的具体实施方式如下所示:基于所述目标下标系数集确定所述若干目标参数的数量,以得到目标参数数量;从所述预设破坏系数集中选取所述目标参数数量个破坏系数,并利用所述目标参数数量个破坏系数与所述若干目标参数进行逐个相乘,以得到所述若干破坏后参数。也即,通过如下公式,并如图3所示。
如图3所示,在确定了需要进行破坏的模型参数后,需要利用破坏系数与所述需要进行破坏的模型参数进行相乘,以实现对模型参数的破坏包装,并且通过参数下标,可以实现对模型参数的追踪以及对破坏系数的追踪,以便后续对破坏后模型参数进行解密时利用相应的破坏系数对破坏后模型参数进行恢复,其中,图3中的为加密后破坏系数集,/>为破坏后模型参数集,/>为加密后下标系数集。
进一步需要进行说明的是,利用预设破坏方式对所述若干目标参数进行破坏处理,以得到相应的若干破坏后参数之前,还包括:生成若干破坏系数,并收集所述若干破坏系数,以得到预设破坏系数集;所述若干破坏系数均为数值大小小于-1的系数。也即,需要先生成破坏系数,以便利用破坏系数对模型参数进行破坏包装,并且生成的破坏系数均为数值大小小于-1的系数。
步骤S24、利用预设加密算法对所述预设破坏方式以及所述目标下标系数集进行加密,以得到加密后数据。
步骤S25、将所述若干破坏后参数、所述预设加密算法、所述加密后数据发送至解密端,以便所述解密端利用所述预设加密算法和所述加密后数据对所述若干破坏后参数进行恢复处理,以得到所述目标模型的所述若干目标参数。
需要进行说明的是,本实施例中关于步骤S24、步骤S25更加具体的描述可以参靠前述实施例,在此不在进行赘述。
由此可见,本实施例中首先对目标模型的模型参数进行绝对值取值处理,并对处理后模型参数进行排序,以得到排序后模型参数,并从所述排序后模型参数中选取若干目标参数;所述若干目标参数为进行绝对值取值后,参数大小不小于所述排序后模型参数中其他参数大小的参数,然后利用预设破坏系数集中的破坏系数与所述若干目标参数进行乘积取值处理,以得到所述若干破坏后参数,最后利用预设加密算法对所述预设破坏方式以及所述目标下标系数集进行加密,以得到加密后数据,并将所述若干破坏后参数、所述预设加密算法、所述加密后数据发送至解密端。这样一来,通过对模型参数的选择,以及对模型局部数据,也即破坏系数集与下标系数集的加密,可以有效提高本申请中模型局部数据处理方法的可靠性与数据加密的效率。
参见图4所示,本发明实施例公开了一种模型局部数据处理方法,应用于解密端,包括:
步骤S31、接收加密端发送的若干破坏后参数、目标加密算法、加密后数据。
本实施例中,如图5所示,解密端需要接收加密端发送的若干破坏后参数、目标加密算法、加密后数据,以便利用所述目标加密算法对所述加密后数据中的破坏参数集与下标系数集进行解密,并通过解密后得到的破坏参数集与下标系数集对破坏后参数进行恢复。
步骤S32、在预设可信区域利用所述目标加密算法对所述加密后数据进行解密,以得到预设破坏方式以及目标下标系数集。
本实施例中,在接收到加密端发送的若干破坏后参数、目标加密算法、加密后数据后,需要在系统预设的可信区域利用所述目标加密算法对所述加密后数据进行解密,以得到破坏参数集与下标系数集。
需要进行说明的是,在预设可信区域利用所述预设破坏方式以及所述目标下标系数集对所述若干破坏后参数进行解密之前,还包括:基于解密端系统生成相应的可信区域,以便在所述可信区域进行相应的解密操作。也即,解密端需要根据自身系统生成相应的可信区域,以便在所述可信区域进行解密操作,并且进一步需要进行说明的是,在所述可信区域进行解密操作时,系统内除可信区域外的任何区域均不能获取解密的数据,这样一来,可以保证数据解密的安全性,避免了恶意获取解密数据的情况。
步骤S33、在预设可信区域利用所述预设破坏方式以及所述目标下标系数集对所述若干破坏后参数进行解密,以得到与所述若干破坏后参数对应的若干目标参数,并利用所述若干目标处理参数对解密端待训练模型进行训练。
本实施例中,在通过目标加密算法对加密后数据进行解密,得到破坏参数集与下标系数集之后,需要在所述可信区域利用所述破坏参数集与所述下标系数集对破坏后参数进行还原。需要进行说明的是,利用下标系数集可以确定出破坏参数被破坏参数破坏时对应的破坏参数,这样一来,可以通过下标系数的确定,快速追踪参数破坏过程中模型参数与所述模型参数对应的破坏系数,例如,模型参数为,则可以快速确定出与所述模型参数对应的破坏系数为/>,以便利用破坏系数对破坏后参数进行还原,并利用还原后得到的模型参数对解密端待训练模型进行训练。
由此可见,本实施例中首先接收加密端发送的若干破坏后参数、目标加密算法、加密后数据,然后在预设可信区域利用所述目标加密算法对所述加密后数据进行解密,以得到预设破坏方式以及目标下标系数集,最后在预设可信区域利用所述预设破坏方式以及所述目标下标系数集对所述若干破坏后参数进行解密,以得到与所述若干破坏后参数对应的若干目标参数,并利用所述若干目标处理参数对解密端待训练模型进行训练。这样一来,可以在预设可信区域进行解密操作,并利用解密后得到的破坏参数集与下标系数集对破坏后模型参数进行还原,有效提高了本申请中模型局部数据处理的可靠性。
参见图6所示,本发明实施例公开了一种模型局部数据处理装置,应用于加密端,包括:
系数集确定模块11,用于利用预设参数选取规则从目标模型的模型参数中确定若干目标参数,并生成生与所述若干目标参数对应的下标系数,以得到目标下标系数集;
参数破坏模块12,用于利用预设破坏方式对所述若干目标参数进行破坏处理,以得到相应的若干破坏后参数;
数据加密模块13,用于利用预设加密算法对所述预设破坏方式以及所述目标下标系数集进行加密,以得到加密后数据;
数据发送模块14,用于将将所述若干破坏后参数、所述预设加密算法、所述加密后数据发送至解密端,以便所述解密端利用所述预设加密算法和所述加密后数据对所述若干破坏后参数进行恢复处理,以得到所述目标模型的所述若干目标参数。
由此可见,本实施例中首先利用预设参数选取规则从目标模型的模型参数中确定若干目标参数,并生成与所述若干目标参数对应的下标系数,以得到目标下标系数集,然后利用预设破坏方式对所述若干目标参数进行破坏处理,以得到相应的若干破坏后参数,并利用预设加密算法对所述预设破坏方式以及所述目标下标系数集进行加密,以得到加密后数据,最后将所述若干破坏后参数、所述预设加密算法、所述加密后数据发送至解密端,以便所述解密端利用所述预设加密算法和所述加密后数据对所述若干破坏后参数进行恢复处理,以得到所述目标模型的所述若干目标参数。由此可见,利用本申请中的模型局部数据处理方法,可以在确定模型参数后,生成相应的参数下标,并利用破坏系数对模型参数进行破坏包装,加密参数时只对破坏系数与参数下标进行加密,并将加密后的破坏系数以及参数下标,包装后模型参数以及加密算法发送至解密端模型,以便解密端模型利用所述加密后的破坏系数以及参数下标、加密算法对包装后模型参数进行还原,这样一来,利用本申请中的所述模型局部数据处理方法针对局部参数进行加密,避免加密整个模型,有效提高了加密效率。
在一些实施例中,所述系数集确定模块11,具体可以包括:
参数排序单元,用于对目标模型的模型参数进行绝对值取值处理,并对处理后模型参数进行排序,以得到排序后模型参数;
参数确定单元,用于从所述排序后模型参数中选取若干目标参数;所述若干目标参数为进行绝对值取值后,参数大小不小于所述排序后模型参数中其他参数大小的参数。
在一些实施例中,所述参数破坏模块12,具体可以包括:
参数处理子模块,用于利用预设破坏系数集中的破坏系数与所述若干目标参数进行乘积取值处理,以得到所述若干破坏后参数。
在一些实施例中,所述参数处理子模块,具体可以包括:
参数数量确定单元,用于基于所述目标下标系数集确定所述若干目标参数的数量,以得到目标参数数量;
参数破坏单元,用于从所述预设破坏系数集中选取所述目标参数数量个破坏系数,并利用所述目标参数数量个破坏系数与所述若干目标参数进行逐个相乘,以得到所述若干破坏后参数。
在一些实施例中,所述模型局部数据处理装置,还可以包括:
下标系数生成模块,用于生成若干破坏系数,并收集所述若干破坏系数,以得到预设破坏系数集;所述若干破坏系数均为数值大小小于-1的系数。
参见图7所示,本发明实施例公开了一种模型局部数据处理装置,应用于解密端,包括:
数据接收模块21,用于接收加密端发送的若干破坏后参数、目标加密算法、加密后数据;
数据解密模块22,用于在预设可信区域利用所述目标加密算法对所述加密后数据进行解密,以得到预设破坏方式以及目标下标系数集;
模型训练模块23,用于在预设可信区域利用所述预设破坏方式以及所述目标下标系数集对所述若干破坏后参数进行解密,以得到与所述若干破坏后参数对应的若干目标参数,并利用所述若干目标处理参数对解密端待训练模型进行训练。
由此可见,本实施例中首先接收加密端发送的若干破坏后参数、目标加密算法、加密后数据,然后在预设可信区域利用所述目标加密算法对所述加密后数据进行解密,以得到预设破坏方式以及目标下标系数集,最后在预设可信区域利用所述预设破坏方式以及所述目标下标系数集对所述若干破坏后参数进行解密,以得到与所述若干破坏后参数对应的若干目标参数,并利用所述若干目标处理参数对解密端待训练模型进行训练。这样一来,可以在预设可信区域进行解密操作,并利用解密后得到的破坏参数集与下标系数集对破坏后模型参数进行还原,有效提高了本申请中模型局部数据处理的可靠性。
在一些实施例中,所述模型局部数据处理装置,还可以包括:
可信区域生成模块,用于基于解密端系统生成相应的可信区域,以便在所述可信区域进行相应的解密操作。
进一步的,本申请实施例还公开了一种电子设备,图8是根据一示例性实施例示出的电子设备30结构图,图中的内容不能认为是对本申请的使用范围的任何限制。
图8为本申请实施例提供的一种电子设备30的结构示意图。该电子设备 30,具体可以包括:至少一个处理器31、至少一个存储器32、电源33、通信接口34、输入输出接口35和通信总线36。其中,所述存储器32用于存储计算机程序,所述计算机程序由所述处理器31加载并执行,以实现前述任一实施例公开的模型局部数据处理方法中的相关步骤。另外,本实施例中的电子设备30具体可以为电子计算机。
本实施例中,电源33用于为电子设备30上的各硬件设备提供工作电压;通信接口34能够为电子设备30创建与外界设备之间的数据传输通道,其所遵循的通信协议是能够适用于本申请技术方案的任意通信协议,在此不对其进行具体限定;输入输出接口35,用于获取外界输入数据或向外界输出数据,其具体的接口类型可以根据具体应用需要进行选取,在此不进行具体限定。
另外,存储器32作为资源存储的载体,可以是只读存储器、随机存储器、磁盘或者光盘等,其上所存储的资源可以包括操作系统321、计算机程序322等,存储方式可以是短暂存储或者永久存储。
其中,操作系统321用于管理与控制电子设备30上的各硬件设备以及计算机程序322,其可以是Windows Server、Netware、Unix、Linux等。计算机程序322除了包括能够用于完成前述任一实施例公开的由电子设备30执行的模型局部数据处理方法的计算机程序之外,还可以进一步包括能够用于完成其他特定工作的计算机程序。
进一步的,本申请还公开了一种计算机可读存储介质,用于存储计算机程序;其中,所述计算机程序被处理器执行时实现前述公开的模型局部数据处理方法。关于该方法的具体步骤可以参考前述实施例中公开的相应内容,在此不再进行赘述。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上对本申请所提供的技术方案进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的一般技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。
Claims (11)
1.一种模型局部数据处理方法,其特征在于,应用于加密端,包括:
利用预设参数选取规则从目标模型的模型参数中确定若干目标参数,并生成与所述若干目标参数对应的下标系数,以得到目标下标系数集;
利用预设破坏方式对所述若干目标参数进行破坏处理,以得到相应的若干破坏后参数;
利用预设加密算法对所述预设破坏方式以及所述目标下标系数集进行加密,以得到加密后数据;
将所述若干破坏后参数、所述预设加密算法、所述加密后数据发送至解密端,以便所述解密端利用所述预设加密算法和所述加密后数据对所述若干破坏后参数进行恢复处理,以得到所述目标模型的所述若干目标参数。
2.根据权利要求1所述的模型局部数据处理方法,其特征在于,所述利用预设参数选取规则从目标模型的模型参数中确定若干目标参数,包括:
对目标模型的模型参数进行绝对值取值处理,并对处理后模型参数进行排序,以得到排序后模型参数;
从所述排序后模型参数中选取若干目标参数;所述若干目标参数为进行绝对值取值后,参数大小不小于所述排序后模型参数中其他参数大小的参数。
3.根据权利要求1所述的模型局部数据处理方法,其特征在于,所述利用预设破坏方式对所述若干目标参数进行破坏处理,以得到相应的若干破坏后参数,包括:
利用预设破坏系数集中的破坏系数与所述若干目标参数进行乘积取值处理,以得到所述若干破坏后参数。
4.根据权利要求3所述的模型局部数据处理方法,其特征在于,所述利用预设破坏系数集中的破坏系数与所述若干目标参数进行乘积取值处理,以得到所述若干破坏后参数,包括:
基于所述目标下标系数集确定所述若干目标参数的数量,以得到目标参数数量;
从所述预设破坏系数集中选取所述目标参数数量个破坏系数,并利用所述目标参数数量个破坏系数与所述若干目标参数进行逐个相乘,以得到所述若干破坏后参数。
5.根据权利要求1至4任一项所述的模型局部数据处理方法,其特征在于,所述利用预设破坏方式对所述若干目标参数进行破坏处理,以得到相应的若干破坏后参数之前,还包括:
生成若干破坏系数,并收集所述若干破坏系数,以得到预设破坏系数集;所述若干破坏系数均为数值大小小于-1的系数。
6.一种模型局部数据处理方法,其特征在于,应用于解密端,包括:
接收加密端发送的若干破坏后参数、目标加密算法、加密后数据;
在预设可信区域利用所述目标加密算法对所述加密后数据进行解密,以得到预设破坏方式以及目标下标系数集;
在预设可信区域利用所述预设破坏方式以及所述目标下标系数集对所述若干破坏后参数进行解密,以得到与所述若干破坏后参数对应的若干目标参数,并利用所述若干目标处理参数对解密端待训练模型进行训练。
7.根据权利要求6所述的模型局部数据处理方法,其特征在于,所述在预设可信区域利用所述预设破坏方式以及所述目标下标系数集对所述若干破坏后参数进行解密之前,还包括:
基于解密端系统生成相应的可信区域,以便在所述可信区域进行相应的解密操作。
8.一种模型局部数据处理装置,其特征在于,应用于加密端,包括:
系数集确定模块,用于利用预设参数选取规则从目标模型的模型参数中确定若干目标参数,并生成生与所述若干目标参数对应的下标系数,以得到目标下标系数集;
参数破坏模块,用于利用预设破坏方式对所述若干目标参数进行破坏处理,以得到相应的若干破坏后参数;
数据加密模块,用于利用预设加密算法对所述预设破坏方式以及所述目标下标系数集进行加密,以得到加密后数据;
数据发送模块,用于将将所述若干破坏后参数、所述预设加密算法、所述加密后数据发送至解密端,以便所述解密端利用所述预设加密算法和所述加密后数据对所述若干破坏后参数进行恢复处理,以得到所述目标模型的所述若干目标参数。
9.一种模型局部数据处理装置,其特征在于,应用于解密端,包括:
数据接收模块,用于接收加密端发送的若干破坏后参数、目标加密算法、加密后数据;
数据解密模块,用于在预设可信区域利用所述目标加密算法对所述加密后数据进行解密,以得到预设破坏方式以及目标下标系数集;
模型训练模块,用于在预设可信区域利用所述预设破坏方式以及所述目标下标系数集对所述若干破坏后参数进行解密,以得到与所述若干破坏后参数对应的若干目标参数,并利用所述若干目标处理参数对解密端待训练模型进行训练。
10.一种电子设备,其特征在于,包括:
存储器,用于保存计算机程序;
处理器,用于执行所述计算机程序以实现如权利要求1至7任一项所述的模型局部数据处理方法。
11.一种计算机可读存储介质,其特征在于,用于保存计算机程序,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的模型局部数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310085461.2A CN115865521B (zh) | 2023-02-09 | 2023-02-09 | 一种模型局部数据处理方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310085461.2A CN115865521B (zh) | 2023-02-09 | 2023-02-09 | 一种模型局部数据处理方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115865521A true CN115865521A (zh) | 2023-03-28 |
CN115865521B CN115865521B (zh) | 2023-05-09 |
Family
ID=85657797
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310085461.2A Active CN115865521B (zh) | 2023-02-09 | 2023-02-09 | 一种模型局部数据处理方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115865521B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112617855A (zh) * | 2020-12-31 | 2021-04-09 | 平安科技(深圳)有限公司 | 基于联邦学习的心电图分析方法、装置及相关设备 |
CN113011587A (zh) * | 2021-03-24 | 2021-06-22 | 支付宝(杭州)信息技术有限公司 | 一种隐私保护的模型训练方法和系统 |
CN113221105A (zh) * | 2021-06-07 | 2021-08-06 | 南开大学 | 一种基于部分参数聚合的鲁棒性联邦学习算法 |
CN113688855A (zh) * | 2020-05-19 | 2021-11-23 | 华为技术有限公司 | 数据处理方法、联邦学习的训练方法及相关装置、设备 |
US20220108177A1 (en) * | 2019-05-16 | 2022-04-07 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Concepts for federated learning, client classification and training data similarity measurement |
CN115438355A (zh) * | 2022-07-01 | 2022-12-06 | 上海大学 | 无人机辅助车联网中隐私保护联邦学习系统及方法 |
US20220414223A1 (en) * | 2021-06-29 | 2022-12-29 | EMC IP Holding Company LLC | Training data protection for artificial intelligence model in partitioned execution environment |
-
2023
- 2023-02-09 CN CN202310085461.2A patent/CN115865521B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220108177A1 (en) * | 2019-05-16 | 2022-04-07 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Concepts for federated learning, client classification and training data similarity measurement |
CN113688855A (zh) * | 2020-05-19 | 2021-11-23 | 华为技术有限公司 | 数据处理方法、联邦学习的训练方法及相关装置、设备 |
CN112617855A (zh) * | 2020-12-31 | 2021-04-09 | 平安科技(深圳)有限公司 | 基于联邦学习的心电图分析方法、装置及相关设备 |
CN113011587A (zh) * | 2021-03-24 | 2021-06-22 | 支付宝(杭州)信息技术有限公司 | 一种隐私保护的模型训练方法和系统 |
CN113221105A (zh) * | 2021-06-07 | 2021-08-06 | 南开大学 | 一种基于部分参数聚合的鲁棒性联邦学习算法 |
US20220414223A1 (en) * | 2021-06-29 | 2022-12-29 | EMC IP Holding Company LLC | Training data protection for artificial intelligence model in partitioned execution environment |
CN115438355A (zh) * | 2022-07-01 | 2022-12-06 | 上海大学 | 无人机辅助车联网中隐私保护联邦学习系统及方法 |
Non-Patent Citations (3)
Title |
---|
S. WANG ET AL;: "Efficient and Verifiable Privacy-Preserving Federal Learning Framework" * |
周俊;方国英;吴楠;: "联邦学习安全与隐私保护研究综述" * |
潘如晟;韩东明;潘嘉铖;周舒悦;魏雅婷;梅鸿辉;陈为;: "联邦学习可视化:挑战与框架" * |
Also Published As
Publication number | Publication date |
---|---|
CN115865521B (zh) | 2023-05-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10554403B2 (en) | Secure database backup and recovery | |
CN108932410B (zh) | 一种数字资源版权鉴权方法、装置、系统和存储介质 | |
CN109754226B (zh) | 数据管理方法、设备和存储介质 | |
CN113032357A (zh) | 文件的存储方法、装置和服务器 | |
CN113128999B (zh) | 一种区块链隐私保护方法及装置 | |
WO2017006118A1 (en) | Secure distributed encryption system and method | |
CN111404892B (zh) | 数据监管方法、装置和服务器 | |
Huang et al. | Implementing publish/subscribe pattern for CoAP in fog computing environment | |
CN105404470B (zh) | 数据存储方法及安全装置、数据存储系统 | |
CN108965278B (zh) | 交易请求处理方法及装置 | |
CN107133517B (zh) | 一种基于内存中数据加密和计算的数据还原方法 | |
CN116455572B (zh) | 数据加密方法、装置及设备 | |
KR101497067B1 (ko) | 디지털 포렌식 기반의 전자기록물 이관 방법 및 이관 장치 | |
US20190305948A1 (en) | Secure database backup and recovery | |
CN114363094B (zh) | 一种数据分享方法、装置、设备及存储介质 | |
CN115865521A (zh) | 一种模型局部数据处理方法、装置、设备及存储介质 | |
CN110765095A (zh) | 基于Ceph的RBD数据存储方法、系统、服务器及存储介质 | |
CN113254989B (zh) | 目标数据的融合方法、装置和服务器 | |
CN113064899B (zh) | 资产类证券型通证交易凭证的存储方法、装置和电子设备 | |
CN114650188A (zh) | 一种基于代理节点的数据安全传输方法及装置 | |
Kumar et al. | Hash based approach for providing privacy and integrity in cloud data storage using digital signatures | |
CN113556333A (zh) | 一种计算机网络数据安全传输方法、装置 | |
JP2020155801A (ja) | 情報管理システム及びその方法 | |
CN111130788A (zh) | 数据处理方法和系统、数据读取方法和iSCSI服务器 | |
Rezaei et al. | Designing Multi-Layer Security Using Chaotic Map in Cloud Environment |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CP03 | Change of name, title or address |
Address after: No. 205, Building B1, Huigu Science and Technology Industrial Park, No. 336 Bachelor Road, Bachelor Street, Yuelu District, Changsha City, Hunan Province, 410000 Patentee after: Wisdom Eye Technology Co.,Ltd. Address before: Building 14, Phase I, Changsha Zhongdian Software Park, No. 39 Jianshan Road, Changsha High tech Development Zone, Changsha City, Hunan Province, 410205 Patentee before: Wisdom Eye Technology Co.,Ltd. |
|
CP03 | Change of name, title or address |