CN117811722A - 全局参数模型构建方法、秘钥生成方法、装置及服务器 - Google Patents
全局参数模型构建方法、秘钥生成方法、装置及服务器 Download PDFInfo
- Publication number
- CN117811722A CN117811722A CN202410233001.4A CN202410233001A CN117811722A CN 117811722 A CN117811722 A CN 117811722A CN 202410233001 A CN202410233001 A CN 202410233001A CN 117811722 A CN117811722 A CN 117811722A
- Authority
- CN
- China
- Prior art keywords
- data
- servers
- server
- public key
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 83
- 238000010276 construction Methods 0.000 title claims abstract description 18
- 238000004891 communication Methods 0.000 claims abstract description 65
- 230000006870 function Effects 0.000 claims description 80
- 238000012545 processing Methods 0.000 claims description 29
- 230000015654 memory Effects 0.000 claims description 28
- 230000008569 process Effects 0.000 claims description 28
- 238000012549 training Methods 0.000 claims description 15
- 239000013598 vector Substances 0.000 claims description 8
- 230000002776 aggregation Effects 0.000 description 6
- 238000004220 aggregation Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000010801 machine learning Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 239000000203 mixture Substances 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 229910001092 metal group alloy Inorganic materials 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 241001391944 Commicarpus scandens Species 0.000 description 1
- 239000000654 additive Substances 0.000 description 1
- 230000000996 additive effect Effects 0.000 description 1
- 230000004931 aggregating effect Effects 0.000 description 1
- 238000012550 audit Methods 0.000 description 1
- 238000013499 data model Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 239000012634 fragment Substances 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 229910052738 indium Inorganic materials 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Abstract
本发明涉及计算机技术领域,公开了一种全局参数模型构建方法、秘钥生成方法、装置及服务器,该方法包括:在当前轮次内获取与第一服务器建立通信连接的多个客户端分别反馈的s组密文数据;对同组别的密文数据进行求和处理,获取第一数据集合;将第一数据集合发送至其他服务器;接收其他服务器分别反馈的第二数据集合;将第一数据集合和第二数据集合输入至联合解密模型进行联合解密操作,获取联合解密结果;基于联合解密结果,以及第一服务器在前一轮次获取的全局参数模型,构建新的全局参数模型,并生成总体损失函数;当总体损失函数达到预设条件时,确定新的全局参数模型为最终模型;否则,将新的全局参数模型分发至其他服务器。
Description
技术领域
本发明涉及计算机技术领域,具体涉及全局参数模型构建方法、秘钥生成方法、装置及服务器。
背景技术
随着智能终端设备的快速普及,大量的个人信息数据被各种网络平台所采集。而在现实生活中,个人信息的泄露已屡见不鲜。但是目前的技术中,很多机器学习方法都需要收集用户的个人信息,并基于个人信息完成训练和测试,进而进入应用阶段。
传统的机器学习需要先把信息都收集到中心服务器,然后再进行模型训练,导致客户端的隐私数据很容易遭到泄露。虽然,也有一些方法可以从某种程度上稍微的保护用户的隐私的,但是恶意服务器依然能够自行获取客户端的本地梯度或者数据模型,甚至是和客户端勾结,进而获取用户隐私数据,导致用户隐私数据无法得到有效的保护。
发明内容
有鉴于此,本发明提供了一种全局参数模型构建方法、秘钥生成方法、装置及服务器,以解决的问题。
第一方面,本发明提供了一种全局参数模型构建方法,该方法适用于全局参数模型构建系统,该系统包括多个服务器,每一个服务器与多个客户端建立通信连接,该方法由多个服务器中的第一服务器执行,第一服务器为多个服务器中的任一个服务器,该方法包括:
在当前轮次内获取与第一服务器建立通信连接的多个客户端中每一个客户端分别反馈的s组密文数据,其中,密文数据为利用预生成的加法同态加密秘钥中的公钥对明文数据进行加法同态加密后生成的密文数据,s为大于1的正整数;
对每一个客户端反馈的同组别的密文数据进行求和处理,获取s组密文求和构成的第一数据集合;
将第一数据集合分别发送至多个服务器中除第一服务器之外的其他服务器;
接收多个服务器中除第一服务器之外的其他服务器分别反馈的第二数据集合;
将第一数据集合和第二数据集合输入至预购建的联合解密模型进行联合解密操作,获取联合解密结果,其中,联合解密模型为基于不同服务器生成的私钥构建的联合解密模型;
基于联合解密结果,以及第一服务器在前一轮次获取的全局参数模型,构建新的全局参数模型,并生成总体损失函数;
当总体损失函数达到预设条件时,确定新的全局参数模型为最终模型;
或者,当确定总体损失函数达不到预设条件时,将新的全局参数模型分发至除第一服务器之外的其他服务器,以便其他服务器将新的全局参数模型分发至不同客户端进行下一轮次的训练。
本发明提供的一种全局参数模型构建方法,具有如下优点:
在上述方法中,多个服务器中每一个服务器都可以获取到与自身建立通信连接的多个客户端分别反馈的s组密文数据,且密文数据均是通过预生成的加法同态加密秘钥中的公钥进行加密后的数据。在对数据处理过程中,首先每一个服务器都需要对接收到的所有客户端反馈的密文数据进行求和处理。然后再将求和处理后的密文数据集合,也即是第一数据集合广播到其他服务器。如此一来,每一个服务器都可以获取到多个服务器分别经过处理后的密文数据集合。每一个服务器都可以基于多个服务器分别生成的密文数据集合进行一次联合解密。为减少资源的占用,此时可以只选择一个服务器执行联合解密操作,进而获取联合解密结果。最终根据联合解密结果,以及第一服务器在前一轮次获取的全局参数模型,构建新的全局参数模型,以及生成总体损失函数。并且判断总体损失函数是否达到预设条件,进而判定当前所获取的全局参数模型是否为已经符合预设标准的全局参数模型。
因为密文数据为利用公钥分别进行加密后的密文数据,所以联合解密的时候则需要利用私钥进行联合解密。上述方式中,使用门限密码方案,并采用多个服务器的模式,将解密任务分配到每一个服务器,当所有的服务器都参与到解密过程中时,才能得到正确的解密结果,且采用能够抵抗量子攻击的加法同态加密秘钥中的公钥对数据进行加密,服务器之间利用同态性进行聚合,能够有效防止服务器合谋对用户隐私数据的攻击。
在一种可选的实施方式中, 将第一数据集合和第二数据集合输入至预购建的联合解密模型进行联合解密操作,获取多个服务器分别建立通信连接的客户端的参数总量、与多个服务器分别建立通信连接的同组别的客户端对应的模型数据增量和参数总量之间的乘积,以及,与多个服务器分别建立通信连接的客户端对应的损失函数与参数总量之间的乘积,包括:
分别基于第一数据集合和第二数据集合中同组别的密文数据进行求和,获取第三数据集合;
将第三数据集合输入到预构建的联合解密模型中进行联合解密操作,获取多个服务器分别建立通信连接的客户端的参数总量、与多个服务器分别建立通信连接的同组别的客户端对应的模型数据增量和参数总量之间的乘积,以及,与多个服务器分别建立通信连接的客户端对应的损失函数与参数总量之间的乘积。
具体的,基于第一数据集合和第二数据集合中同组别的密文数据进行求和,获取第三数据集合。就相当于每个服务器接收与其建立联系客户端的数据,然后进行初步聚合,接着再在这些服务器之间完成模型的聚合与更新,通过上述方式,能够对网络通信效率进行有效的改善。
在一种可选的实施方式中,联合解密模型通过如下公式表示:
(公式1)
其中,m为经过联合解密操作后所生成的数据,[ ]代表取模操作,M为大于或者等于的数据,/>为明文数据的总数,/>为一个常数,且常数为一个大于或者等于明文数据中所有系数中最大系数的绝对值的数据; q为大于/>并且模/>等于1的素数, d为明文数据中多项式的最高幂数,/>,/>,,/>,/>为服务器的总个数,/>为第j个服务器对应的私钥,/>为第三数据集合中的密文元素,j为大于或者等于1的正整数。
在一种可选的实施方式中,明文数据包括第一客户端利用本地数据对前一轮次已接收的第一服务器发送的全局参数模型进行训练后,获取的训练后全局参数模型的参数数量、不同参数分别对应的数据增量与参数数量之间的第一乘积,以及本地生成的损失函数与参数数量之间的第二乘积,其中,数据增量为第一服务器发送的全局参数模型和训练后全局参数模型中同一参数数据之间的增量,数据增量的数量与参数数量相同。
在一种可选的实施方式中,密文数据的表达式参见如下表示:
(公式2)
其中,为第i个客户端对应的密文数据,/>为第i个客户端对应的明文数据的向量表示,/>为/>中的随机数,A为加法同态加密秘钥中的公钥,V/>,q为大于并且模/>等于1的素数,d为明文数据中多项式的最高幂数,/>,,M为大于或者等于/>的数据,/>为明文数据的总数,/>为一个常数,且常数为一个大于或者等于明文数据中所有系数中最大系数的绝对值的数据。
在一种可选的实施方式中,对每一个客户端反馈的同组别的密文数据进行求和处理,获取s组密文求和构成的第一数据集合,通过如下公式表示:
(公式3)
其中,为第一服务器中对应的客户端集合,i为客户端集合中的第i个客户端,为客户端集合中每一个客户端中第一组别密文数据的求和,/>为客户端集合中每一个客户端中第s组别密文数据的求和,/>为第一数据集合。
具体的,通过上述公式,实现对每一个服务器中分别获取的客户端反馈的密文数据进行初步聚合。
在一种可选的实施方式中,分别基于第一数据集合和第二数据集合中同组别的密文数据进行求和,获取第三数据集合,具体通过如下公式表示:
(公式4)
其中,为第三数据集合,/>为第一数据集合和第二数据集合中分别对应的第一组别的密文数据求和,即多个服务器中每一个服务器分别对应的多个客户端的第一组别密文数据求和,n为服务器的总个数,/>为第一数据集合和第二数据集合中分别对应的第s组别的密文数据求和。
具体的,通过上述公式,实现对多个服务器中分别获取的客户端反馈的密文数据进行二次聚合。
在一种可选的实施方式中,将第三数据集合输入到预构建的联合解密模型中进行联合解密操作,获取多个服务器分别建立通信连接的客户端的参数总量、与多个服务器分别建立通信连接的同组别的客户端对应的模型数据增量和参数总量之间的乘积,以及,与多个服务器分别建立通信连接的客户端对应的损失函数与参数总量之间的乘积,分别通过如下公式表示:
(公式5)
(公式6)
(公式7)
其中,公式5表示为n个服务器中所有客户端的参数总量;
公式6中的元素表示为与多个服务器分别建立通信连接的同属于第1组别的客户端对应的模型数据增量和参数总量之间的乘积,表示为与多个服务器分别建立通信连接的同属于第u组别的客户端对应的模型数据增量和参数总量之间的乘积,/>表示为与多个服务器分别建立通信连接的同组别的客户端对应的模型数据增量和参数总量之间的乘积的集合;
公式7表示为与多个服务器分别建立通信连接的客户端对应的损失函数与参数总量之间的乘积。
在一种可选的实施方式中,该方法还包括:根据每一个客户端所属的地域和/或网络信号,和/或服务器的带宽,选择与每一个服务器分别建立通信连接的多个客户端。
具体的,将客户端按照地域、服务器带宽等信息分配给指定的服务器,在客户端数量过大、分布区域较为分散时,可以在一定程度上缓解网络的拥堵与延迟的问题。
在一种可选的实施方式中,该方法还包括:
获取第一公钥生成因子,以及第二公钥生成因子;
基于预配置的私钥、第一公钥生成因子,以及第二公钥生成因子,生成第三公钥生成因子;
将第三公钥生成因子进行广播,以便多个服务器中除第一服务器之外的其他服务器接收到第三公钥生成因子;
接收多个服务器中除第一服务器之外的其他服务器分别反馈的第四公钥生成因子,其中,第四公钥生成因子为基于其他服务器各自对应的第一公钥生成因子、第二公钥生成因子,以及私钥生成的公钥生成因子;
基于第一公钥生成因子、第三公钥生成因子,以及多个服务器中除第一服务器之外的其他服务器分别反馈的第四公钥生成因子,生成公钥。
具体的,第三公钥生成因子的生成需要结合第一服务器的私钥,而公钥的生成,不仅仅涉及第一服务器的私钥,还包括其他服务器的私钥,具体可以通过其他服务器分别反馈的第四公钥生成因子体现。如此一来,公钥就结合了每一个服务器各自对应的第一公钥生成因子、第二公钥生成因子以及私钥生成。进而,在进行解密的时候,才需要联合所有服务器的私钥才能够进行解密。进而,只有所有服务器相互勾结的情况下才能够破解密码,而这种情况的发生微乎其微,因此可以大大加强客户端的隐私信息的保护。
在一种可选的实施方式中,基于预配置的私钥、第一公钥生成因子,以及第二公钥生成因子,生成第三公钥生成因子,包括:
(公式8)
其中,为第三公钥生成因子,/>为加法同态加密秘钥中的私钥,/>为第一公钥生成因子,/>为第二公钥生成因子,M为大于或者等于/>的数据,/>为明文数据的总数,/>为一个常数,且常数为一个大于或者等于明文数据中所有系数中最大系数的绝对值的数据。
在一种可选的实施方式中,基于第一公钥生成因子、第三公钥生成因子,以及多个服务器中除第一服务器之外的其他服务器分别反馈的第四公钥生成因子,生成公钥,包括:
基于第三公钥生成因子以及多个服务器中除第一服务器之外的其他服务器分别反馈的第四公钥生成因子,生成第五公钥生成因子;
基于第一公钥生成因子和第五公钥生成因子,生成公钥。
第二方面,本发明提供了一种全局参数模型构建装置,该装置适用于全局参数模型构建系统,系统包括多个服务器,每一个服务器与多个客户端建立通信连接,装置对应于多个服务器中的第一服务器,第一服务器为多个服务器中的任一个服务器,该装置包括:
获取模块,用于在当前轮次内获取与第一服务器建立通信连接的多个客户端中每一个客户端分别反馈的s组密文数据,其中,密文数据为利用预生成的加法同态加密秘钥中的公钥对明文数据进行加法同态加密后生成的密文数据,s为大于1的正整数;
处理模块,用于对每一个客户端反馈的同组别的密文数据进行求和处理,获取s组密文求和构成的第一数据集合;
发送模块,用于将第一数据集合分别发送至多个服务器中除第一服务器之外的其他服务器;
接收模块,用于接收多个服务器中除第一服务器之外的其他服务器分别反馈的第二数据集合;
解密模块,用于将第一数据集合和第二数据集合输入至预购建的联合解密模型进行联合解密操作,获取多个服务器分别建立通信连接的客户端的参数总量、与多个服务器分别建立通信连接的同组别的客户端对应的模型数据增量和参数总量之间的乘积,以及,与多个服务器分别建立通信连接的客户端对应的损失函数与参数总量之间的乘积,其中,不同组别的客户端对应的模型数据增量和参数总量之间的乘积构成乘积集合,联合解密模型为基于不同服务器生成的私钥构建的联合解密模型;
处理模块,还用于基于参数总量、乘积集合,以及第一服务器在前一轮次获取的全局参数模型,构建新的全局参数模型;基于与多个服务器分别建立通信连接的客户端对应的损失函数与参数总量之间的乘积,以及参数总量,构建总体损失函数;当总体损失函数达到预设条件时,确定新的全局参数模型为最终模型;或者,当确定总体损失函数达不到预设条件时,将新的全局参数模型分发至除第一服务器之外的其他服务器,以便其他服务器将新的全局参数模型分发至不同客户端进行下一轮次的训练。
本发明提供的一种全局参数模型构建装置,具有如下优点:
多个服务器中每一个服务器都可以获取到与自身建立通信连接的多个客户端分别反馈的s组密文数据,且密文数据均是通过预生成的加法同态加密秘钥中的公钥进行加密后的数据。在对数据处理过程中,首先每一个服务器都需要对接收到的所有客户端反馈的密文数据进行求和处理。然后再将求和处理后的密文数据集合,也即是第一数据集合广播到其他服务器。如此一来,每一个服务器都可以获取到多个服务器分别经过处理后的密文数据集合。每一个服务器都可以基于多个服务器分别生成的密文数据集合进行一次联合解密。为减少资源的占用,此时可以只选择一个服务器执行联合解密操作,进而获取联合解密结果。最终根据联合解密结果,以及第一服务器在前一轮次获取的全局参数模型,构建新的全局参数模型,以及生成总体损失函数。并且判断总体损失函数是否达到预设条件,进而判定当前所获取的全局参数模型是否为已经符合预设标准的全局参数模型。
因为密文数据为利用公钥分别进行加密后的密文数据,所以联合解密的时候则需要利用私钥进行联合解密。上述方式中,使用门限密码方案,并采用多个服务器的模式,将解密任务分配到每一个服务器,当所有的服务器都参与到解密过程中时,才能得到正确的解密结果,且采用能够抵抗量子攻击的加法同态加密秘钥中的公钥对数据进行加密,服务器之间利用同态性进行聚合,能够有效防止服务器合谋对用户隐私数据的攻击。
因为密文数据为利用公钥分别进行加密后的密文数据,所以联合解密的时候则需要利用私钥进行联合解密。上述方式中,使用门限密码方案,并采用多个服务器的模式,将解密任务分配到每一个服务器,当所有的服务器都参与到解密过程中时,才能得到正确的解密结果,且采用能够抵抗量子攻击的加法同态加密秘钥中的公钥对数据进行加密,服务器之间利用同态性进行聚合,能够有效防止服务器合谋对用户隐私数据的攻击。
第三方面,本发明提供了一种服务器,包括:存储器和处理器,存储器和处理器之间互相通信连接,存储器中存储有计算机指令,处理器通过执行计算机指令,从而执行上述第一方面或其对应的任一实施方式的全局参数模型构建方法。
第四方面,本发明提供了一种计算机可读存储介质,该计算机可读存储介质上存储有计算机指令,计算机指令用于使计算机执行上述第一方面或其对应的任一实施方式的全局参数模型构建方法。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种全局参数模型构建方法的流程图;
图2是本发明实施例提供的另一种全局参数模型构建方法的流程图;
图3是本发明实施例提供的另一种全局参数模型构建方法的流程图;
图4是本发明实施例提供的全局参数模型构建系统的整体系统架构图;
图5是本发明实施例提供的一种全局参数模型构建装置结构框图;
图6是本发明实施例提供的服务器的硬件结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
随着智能终端设备的快速普及,大量的个人信息数据被各种网络平台所采集。而在现实生活中,个人信息的泄露已屡见不鲜。在近年来,不仅个人对隐私数据的保密愈发关注,相关部门也相继出台了许多网络个人隐私保护和网络安全建设方面的规定。传统的机器学习需要先把信息都收集到中心服务器,然后再进行模型训练,导致客户端的隐私数据很容易遭到泄露。
联邦学习作为一种分布式的机器学习模式,它不需要让数据离开本地客户端,进而对数据隐私起到一定的保护作用。在实际操作过程中,它首先由云服务器建立全局模型,并将其发送至每个客户端。然后在客户端进行模型训练,训练完成之后,客户端把本地模型参数上传到云服务器。接着由云服务器对上传的模型参数进行聚合,并计算得到新的全局模型。最后重复以上过程,直到损失函数收敛或者迭代次数达到要求。
但是共享本地梯度或者模型数据会导致隐私的泄露。为了保护数据的隐私信息,有一些学者采用了差分隐私的方法,通过对模型参数添加噪声的方式,使攻击者不能获取隐私数据信息。但是恶意的服务器依然能够获取客户端的本地梯度或者模型数据,从而得到客户端的隐私信息。
相关技术中,还提出了基于非交互零知识证明的加法同态加密系统对联邦学习的保密性进行增强。基本思路是在本地客户端对模型参数进行加密处理,然后发送到服务端,由服务端对加密后的模型参数进行聚合,接着再对聚合后的数据解密,最后再计算得到新的全局模型。但是,如果服务器是恶意的,会造成用户隐私信息的泄露。
为解决上述问题,本发明实施例,提供了一种隐私保护实施例,需要说明的是,在附图的流程图示出的步骤可以在包括诸如一组计算机可执行指令的计算机系统(服务器)中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
在本实施例中提供了一种全局参数模型构建方法,该方法适用于全局参数模型构建系统,系统包括多个服务器,每一个服务器与多个客户端建立通信连接,该方法由多个服务器中的第一服务器执行,第一服务器为多个服务器中的任一个服务器。图1是本发明实施例提供的全局参数模型构建方法的流程图,如图1所示。
在介绍本申请实施例的具体方法步骤之前,首先说明全局参数模型构建系统中服务器和客户端之间的关系。全局参数模型的构建需要多个服务器联合加解密才能完成本申请实施例的步骤。在本申请中应用到了联邦学习的思想,并且创建了基于拉格朗日格问题加密方案 (ring learning with error,简称RLWE)的加法同态加密秘钥。
具体的,对基础的联邦学习过程进行简单描述:
假设在联邦学习中存在一个服务器,个客户端。用/>表示第/>个客户端数据的集合,用/>表示集合/>中的数据个数。第/>个客户端关于/>的损失函数定义为:
(公式9)
其中是用户指定的损失函数,可以根据需求选取均方误差损失函数、交叉熵损失函数等。
总体的损失函数定义为
(公式10)
其中是客户端的权重,并且/>。常用的一种设置是根据客户端的数据个数分配权重。
对于联邦学习过程,这里主要介绍模型参数的加权平均算法(梯度平均算法过程与此算法类似),其基本过程如下所示:
1、由服务器建立全局参数模型,以及对应的损失函数,并将模型和损失函数发送给客户端。
设全局模型参数为。
2、随机选取个客户端,/>个客户端分别使用本地数据进行训练(可以采用随机梯度下降法),得到本地模型数据,并计算模型数据的增量,以及本地损失函数。将数据个数、模型数据的增量、以及本地损失函数发送给服务器。
设个客户端的索引的集合为/>。对于其中的某个客户端/>,设其在训练后得到的本地模型参数为/>,那么相应的模型增量为/>,数据个数为/>,对应的本地损失函数为/>,将/>发送给服务器。
3、服务器计算得到新的全局模型参数,并计算得到总体损失函数。
全局模型参数通过公式11计算得到:
(公式11)
其中。
总体损失函数通过公式12计算得到:
(公式12)
4、重复步骤2-3,直到总体损失函数收敛或者迭代次数达到要求,最后得到的全局模型参数即为所求。
显然,在以上过程中,直接将数据个数、模型数据的增量、以及本地损失函数发送给服务器,会导致用户的隐私信息产生泄露的风险。
目前有一些工作是对这些隐私信息加密后再发送给服务器,这需要依赖于服务器是可信任的,事实上在很多场景中这是做不到的。并且,当客户端数量巨大,分布地区比较广泛时,由于地域、服务器带宽等原因,某些客户端与服务器之间的通信会存在很大的网络延迟,在只使用一个服务器的情况下,会导致通信效率特别低,从而影响整体的学习效率。
因此,在本申请实施例中采用多个服务器的联合工作的模式,将解密任务分配到每一个服务器,当所有的服务器都参与到解密过程中时,才能得到正确的解密结果,因而能够对用户的隐私信息起到进行很好的保护作用。而且,在计算过程中,首先根据用户的地域、网络信号、服务器带宽等信息选择客户端与哪个服务器建立联系,由每个服务器接收与其建立联系客户端的数据,然后进行初步聚合,接着再在这些服务器之间完成模型的聚合与更新,能够对网络通信效率进行有效的改善。并且,由于量子计算越来越趋于实际,对于较为重要的用户隐私信息,只使用传统的公钥加密方式,很容易被量子计算机所攻破,因此,在本申请中生成一种能够抵抗量子攻击的,基于RLWE的门限密码对数据进行加密。
在一个可选的例子中,根据地域、服务器带宽等信息将客户端分配给指定的服务器,可以通过但不限于如下方法步骤实现:
步骤1,收集客户端信息。
在客户端连接服务器之前,可以通过一些手段(例如域名系统(Domain NameSystem,简称DNS)解析、负载均衡器等)获取到客户端的地域、网络类型、IP地址等信息。
步骤2,服务器选择算法,根据收集到的客户端信息,结合服务器的地域、带宽、负载等信息,选择最合适的服务器。
其中,常用的选择算法包括:轮询算法、加权轮询算法、最小连接数算法(LeastConnections)、IP哈希算法(IP Hash)、路由配置等等。
步骤3、请求转发。
具体的,当客户端发送请求时,路由器或负载均衡器会根据路由配置将请求转发到指定的服务器。其中,该步骤可以通过网络层的转发功能实现,也可以通过HTTP层的代理等方式实现。
步骤4、响应返回。
具体的,服务器收到请求后处理并生成响应,然后通过网络将响应返回给客户端。客户端会等待指定的超时时间来接收响应,如果超时则可以选择重新发送请求或者尝试连接其他服务器。
通过以上步骤,可以实现客户端根据地域、服务器带宽等信息被分配到指定的服务器。当然,在实际场景中,也可能会使用更复杂的算法和技术来进行服务器的选择和请求转发,以满足不同的需求和性能要求。
再者,在创建基于RLWD的门限密码,也即是基于RLWL的加法同态加密秘钥时,包括创建公钥和私钥。且所创建的公钥和私钥需要满足如下特点:
1、任意用户都可以使用公钥对数据进行加密。
2、私钥的所有权由多个指定的秘密持有者联合控制,只有满足数目的秘密持有者合作,将解密分片聚合,才能实现解密。
具体的,在构建秘钥之前,首先做一些解释性说明,具体参见如下:
符号表示:读作/>模/>,表示/>除以/>的余数,/>表示/>除以/>的余数与a相同。如果/>,表示/>是/>模/>的乘法逆元,记做/>,此时/>也是/>模/>的乘法逆元。/>表示对/>向下取整,/>表示对/>向上取整。如果/>是两个向量,/>则表示它们的内积。
对于,如果对于任意的正数/>,都存在/>,使得当/>时,始终满足,则可以用/>表示。符号/>表示将后方表达式的数值结果赋值给前方的变量。
基于RLWE中的门限密码构建中,需要设置一个安全参数。
假设,令,其中/>是一个素数;令/>以及,并令/>是/>上的一个分布。
均匀地抽取,然后通过均匀地抽取/>,抽取/>,并设置/>而得到/>。
其中,首先是一个整数上的/>次不可约多项式。/>表示所有的整系数多项式模/>形成的环,它的元素是系数为整数,次数小于/>的多项式,Z[x]为系数为整数的多项式。/>表示/>是/>的函数。/>表示/>模/>形成的多项式环,在本文中,它的元素表示次数小于/>,且多项式系数取自/>内整数的多项式。若/>,/>表示在模/>意义下,将/>归约到/>内,也就是得到的/>的系数与/>的系数模/>同余,并且有/>。
上述公式中的“/”是商集,商集(Quotient Set)是指在集合论中,对于一个给定的集合,通过等价关系将其划分成若干个等价类所组成的集合。每个等价类是满足等价关系的元素的集合。具体来说,给定一个集合A和一个等价关系R,商集A/R是由A中所有满足等价关系R的元素所构成的集合。商集的元素是等价类的集合,每个等价类代表了A中具有相同特征或属性的元素。
特殊的,如果,使用/>表示/>的Euclid范数,它是/>的所有系数平方和的算术平方根。如果/>,/>表示/>和/>对应的系数相加,/>表示/>和/>对应的系数相乘。表示由/>个/>中的元素组成的向量,/>由/>个/>中的元素组成的大小为/>的矩阵。/>表示随机均匀地抽取/>个/>中的元素组成向量/>。/>表示按照分布/>随机地抽取/>个/>中的元素组成向量/>。
对任何(假设是2的幂),环/>,素数/>,以及,存在一个有效的可抽样分布/>,它以压倒性的概率输出长度最多为/>的/>中的元素。若/>(即/>服从/>分布),那么以压倒性的概率有/>,一般/>分布可以取格上的高斯分布。
在构建秘钥时,介绍一下参数设置,包括:
根据安全参数,选择满足安全性要求的参数/>,具体的参数选择方式在下方进行说明,其中/>一般可取为2的幂,例如128,256等。并且这里设置/>分布满足从其中选取的元素/>以压倒性的概率有/>。
私钥的生成:
多个服务器中的每一个服务器选取密钥/>。其中,n是服务器的总数量,/>将/>作为自己的私钥。
公钥的生成,则可以包括如下方法步骤:
步骤1)获取第一公钥生成因子,以及第二公钥生成因子。
具体的,可以事先选择第一公钥生成因子给每个服务器使用。
然后,每一个服务器都可以自行选取第二公钥因子/>。
步骤2)基于预配置的私钥、第一公钥生成因子,以及第二公钥生成因子,生成第三公钥生成因子。
具体的,第三公钥因子的生成可以通过如下公式表示:
(公式13)
其中,为第三公钥生成因子,/>为加法同态加密秘钥中的私钥,/>为第一公钥生成因子,/>为第二公钥生成因子,M为大于或者等于/>的数据,/>为明文数据的总数,/>为一个常数,且常数为一个大于或者等于明文数据中所有系数中最大系数的绝对值的数据,V,q为大于/>并且模/>等于1的素数,d为明文数据中多项式的最高幂数,/>,/>。
步骤3)将第三公钥生成因子进行广播。
步骤4)接收多个服务器中除第一服务器之外的其他服务器分别反馈的第四公钥生成因子。
具体的,每一个服务器都需要将自身一侧生成的第三公钥生成因子进行广播,以便其他服务器可以接收到自身一侧所生成的第三公钥生成因子,并基于其他公钥生成因子和私钥来生成公钥。因此,第一服务器也会将第三公钥生成因子发送至多个服务器中除第一服务器之外的其他服务器。自然,也可以接收多个服务器中除第一服务器之外的其他服务器分别反馈的“第三公钥生成因子”。为了加以区分,本实施例中将其他服务器反馈的“第三公钥生成因子”定义为第四公钥生成因子。而其他服务器反馈的第四公钥生成因子的生成过程同第一服务器生成第三公钥生成因子的过程,即,第四公钥生成因子为基于其他服务器各自对应的第一公钥生成因子、第二公钥生成因子,以及私钥生成的公钥生成因子,因此这里不再赘述。
步骤5),基于第一公钥生成因子、第三公钥生成因子,以及多个服务器中除第一服务器之外的其他服务器分别反馈的第四公钥生成因子,生成公钥。
具体的,当第一服务器接收到其他服务器分别反馈的第四公钥生成因子后,可以做如下计算处理:
(公式14)
其中,等为n个服务器中每一个服务器分别反馈的第三(四)公钥生成因子。
令公钥。
需要说明的是,任一个服务器都可以生成公钥,并将公钥转发给其他服务器,以便其他服务器将公钥分发至与自身建立通信连接的客户端。也可以是每一个服务器分别生成该公钥,然后再分发至与自身建立通信连接的客户端。每一个服务器分别将公钥A分发至于自身建立通信连接的客户端后,客户端可以基于公钥A对明文数据进行加密。
在一个具体的例子中,假设前一轮全局模型参数为,也就是可以将模型参数看作一个/>维向量。每一个客户端计算模型数据的增量,以及本地损失函数。将数据个数、模型数据的增量乘以对应参数总数、以及本地损失函数乘以参数总数放在一起进行分组,每/>个数据一组,使用前述的公钥加密后发送给与其建立联系的服务器。
以第个服务器为例进行说明。设该服务器选择的客户端的索引集合为/>。对于其中的某个客户端/>,设其在训练后得到的本地模型参数为/>,那么相应的模型增量为/>。设参数总数为/>,对应的本地损失函数为/>。将/>共/>个数据进行分组,从左到右每/>个数据一组,剩下的不够/>个数据的,使用较小的随机数补充。对每一组的/>个数据可以使用公钥进行加密。
假设这个客户端加密得到的数据为。即一共分成了/>组,并且/>中的每个元素分别是每一组的加密结果。
在一个可选的例子中,加密后的密文数据表达式参见如下:
(公式15)
其中,为第i个客户端对应的密文数据,/>为第i个客户端对应的明文数据的向量表示,/>为/>中的随机数,A为加法同态加密秘钥中的公钥。
在一个可选的例子中,明文数据例如可以包括但不限于:
客户端利用本地数据对前一轮次已接收的,与自身建立通信连接的服务器发送的全局参数模型进行训练后所获取的训练后全局参数模型中的参数数量、不同参数分别对应的数据增量与参数数量之间的第一乘积,以及本地生成的损失函数与参数数量之间的第二乘积,其中,数据增量为第一服务器发送的全局参数模型和训练后全局参数模型中同一参数数据之间的增量,数据增量的数量与参数数量相同。
在介绍上述内容之后,进一步介绍本申请实施例中服务器所执行的操作,下文中仅仅是以第一服务器为例进行说明,该方法流程包括如下步骤:
步骤S101,在当前轮次内获取与第一服务器建立通信连接的多个客户端中每一个客户端分别反馈的s组密文数据。
具体的,每一个客户端在前一轮次获取到第一服务器反馈的全局参数模型后,将会使用本地数据对模型参数进行训练,训练完成之后,使用利用预生成的加法同态加密秘钥中的公钥,也即是前文中所介绍的公钥生成方法生成的公钥,对明文数据进行加法同态加密后生成的密文数据,其中,s为大于1的正整数。
步骤S102,对每一个客户端反馈的同组别的密文数据进行求和处理,获取s组密文求和构成的第一数据集合。
具体的,求和处理后的第一数据集合中的元素,表达式包括:,/>,/>,其中i为大于或者等于1的正整数,/>为客户端的索引集合。
步骤S103,将第一数据集合分别发送至多个服务器中除第一服务器之外的其他服务器。
具体的,第一服务器需要将第一数据集合分别发送至多个服务器中除第一服务器之外的其他服务器。类似的道理,其他服务器也会发送自身对应的客户端发送的明文数据进行求和处理后的数据集合,以此每一个服务器才可以分别获取到不同客户端反馈的密文数据求和处理后的数据集合。
步骤S104,接收多个服务器中除第一服务器之外的其他服务器分别反馈的第二数据集合。
步骤S105,将第一数据集合和第二数据集合输入至预购建的联合解密模型进行联合解密操作,获取联合解密结果。
具体的,联合解密模型参见如下所示:
(公式16)
其中,m为经过联合解密操作后所生成的数据,[ ]代表取模操作,M为大于或者等于的数据,/>为明文数据的总数,/>为一个常数,且常数为一个大于或者等于明文数据中所有系数中最大系数的绝对值的数据; q为大于/>并且模/>等于1的素数, d为明文数据中多项式的最高幂数,/>,/>,,/>,/>为服务器的总个数,/>为第j个服务器对应的私钥,/>为第三数据集合中的密文元素,j为大于或者等于1的正整数。
利用如上联合解密模型进行联合解密操作后,可以获取联合解密结果。
步骤S106,基于联合解密结果,以及第一服务器在前一轮次获取的全局参数模型,构建新的全局参数模型,并生成总体损失函数。
当总体损失函数达到预设条件时,确定新的全局参数模型为最终模型;
或者,当确定总体损失函数达不到预设条件时,将新的全局参数模型分发至除第一服务器之外的其他服务器,以便其他服务器将新的全局参数模型分发至不同客户端进行下一轮次的训练。
本实施例提供的全局参数模型构建方法,多个服务器中每一个服务器都可以获取到与自身建立通信连接的多个客户端分别反馈的s组密文数据,且密文数据均是通过预生成的加法同态加密秘钥中的公钥进行加密后的数据。在对数据处理过程中,首先每一个服务器都需要对接收到的所有客户端反馈的密文数据进行求和处理。然后再将求和处理后的密文数据集合,也即是第一数据集合广播到其他服务器。如此一来,每一个服务器都可以获取到多个服务器分别经过处理后的密文数据集合。每一个服务器都可以基于多个服务器分别生成的密文数据集合进行一次联合解密。为减少资源的占用,此时可以只选择一个服务器执行联合解密操作,进而获取联合解密结果。最终根据联合解密结果,以及第一服务器在前一轮次获取的全局参数模型,构建新的全局参数模型,以及生成总体损失函数。并且判断总体损失函数是否达到预设条件,进而判定当前所获取的全局参数模型是否为已经符合预设标准的全局参数模型。
因为密文数据为利用公钥分别进行加密后的密文数据,所以联合解密的时候则需要利用私钥进行联合解密。上述方式中,使用门限密码方案,并采用多个服务器的模式,将解密任务分配到每一个服务器,当所有的服务器都参与到解密过程中时,才能得到正确的解密结果,且采用能够抵抗量子攻击的加法同态加密秘钥中的公钥对数据进行加密,服务器之间利用同态性进行聚合,能够有效防止服务器合谋对用户隐私数据的攻击。
在本实施例中提供了一种全局参数模型构建方法,适用于全局参数模型构建系统,系统包括多个服务器,每一个服务器与多个客户端建立通信连接,方法由多个服务器中的第一服务器执行,如图2所示,图2是本发明实施例提供的另一种全局参数模型构建方法的流程图,该流程包括如下步骤:
步骤S201,在当前轮次内获取与第一服务器建立通信连接的多个客户端中每一个客户端分别反馈的s组密文数据。
步骤S202,对每一个客户端反馈的同组别的密文数据进行求和处理,获取s组密文求和构成的第一数据集合。
步骤S203,将第一数据集合分别发送至多个服务器中除第一服务器之外的其他服务器。
步骤S204,接收多个服务器中除第一服务器之外的其他服务器分别反馈的第二数据集合。
步骤S201至步骤S204的介绍,详细请参见图1所示实施例的步骤S101至步骤104,在此不再赘述。
步骤S205,将第一数据集合和第二数据集合输入至预购建的联合解密模型进行联合解密操作,获取联合解密结果。
其中,联合解密模型为基于不同服务器生成的私钥构建的联合解密模型。
在一个可选的例子中,将第一数据集合和第二数据集合输入至预购建的联合解密模型进行联合解密操作,获取联合解密结果,包括如下方法步骤:
步骤2051,分别基于第一数据集合和第二数据集合中同组别的密文数据进行求和,获取第三数据集合。
具体的,第一数据集合例如采用如下公式表示:
(公式17)
第二数据集合的表示形式类似公式17,因为都是不同服务器分别对应的多个客户端的反馈的同组别的密文数据进行求和处理,获取s组密文求和构成的数据集合,因此这里不再通过公式表达。
而第三数据集合的表达形式例如参见如下所示:
(公式18)
其中n指示服务器的总数量,j为第j个服务器。
步骤2052,将第三数据集合输入到预构建的联合解密模型中进行联合解密操作,获取联合解密结果。
具体的,联合解密模型具体参见如下公式所示:
(公式19)
其中,m为经过联合解密操作后所生成的数据,[ ]代表取模操作,M为大于或者等于的数据,/>为明文数据的总数,/>为一个常数,且常数为一个大于或者等于明文数据中所有系数中最大系数的绝对值的数据; q为大于/>并且模/>等于1的素数, d为明文数据中多项式的最高幂数,/>,/>,,/>,/>为服务器的总个数,/>为第j个服务器对应的私钥, j为大于或者等于1的正整数,/>为第三数据集合中的密文元素。即/>为/>中的一个。
联合解密时:个服务器中的每个服务器,令/>,其中/>都是/>中的元素,然后计算/>,并将其公布。最后, 需要解密的参与者接收到其他参与者公布的结果/>后,计算得到/>。
在一个具体的例子中,1、假设要加密的所有数据满足,也就是多项式/>的所有系数均小于/>。取/>。范数表示向量中的绝对值最大的元素的绝对值。
2、由于是2的幂,可以取/>,/>,并取一个大于/>并且模/>等于1的素数/>。取/>。这里/>是/>的扩展因子。
关于将此算法推广到实数范围的方法。由于在实际应用中的数据精度是有限的,对于加密过程,在加密前将数据统一乘以某一倍数(假设为),可以将数据转化为整数,然后可以直接使用以上的门限密码算法加密。对于解密过程,在以上的门限密码算法解密后,除以/>即可得到最终的解密结果。
根据以上的门限密码算法的同态性,很容易验证推广到实数范围内的门限密码算法依然满足加法同态性。分别用/>和/>表示将以上的门限密码方案推广到实数范围后对明文/>的加密和对密文/>的解密。可以得到,当/>时,有
(公式20)
在一个可选的实施方式中,联合解密结果包括多个服务器分别建立通信连接的客户端的参数总量、与多个服务器分别建立通信连接的同组别的客户端对应的模型数据增量和参数总量之间的乘积,以及,与多个服务器分别建立通信连接的客户端对应的损失函数与参数总量之间的乘积,其中,不同组别的客户端对应的模型数据增量和参数总量之间的乘积构成乘积集合。
其中,因为i用以指示第i个客户端,而每次取/>中的一个,所以/>的取值个数包括s个,/>的取值个数基于/>确定,所以包括n个。而最终获取到的明文数据是d次幂多项式,所以,系数包括d个,因此,最终得到的明文数据中的多项式的总数为nsd个。
依次将nsd个多项式的系数进行排列,从开始到结束,可以得到如下数据:
、/>、/>、/>、等u+1个数据,如果u+1个数据的总量小于nsd,则后续的数据则是随机数据进行补齐。
步骤S206,基于联合解密结果,以及第一服务器在前一轮次获取的全局参数模型,构建新的全局参数模型,并生成总体损失函数。
在一个可选的实施方式中,基于联合解密结果,以及第一服务器在前一轮次获取的全局参数模型,构建新的全局参数模型,并生成总体损失函数,包括如下方法步骤,具体参见图3所示:
步骤S301,基于参数总量、乘积集合,以及第一服务器在前一轮次获取的全局参数模型,构建新的全局参数模型。
具体的,新的全局参数模型通过如下公式表示:
(公式21)
为当前轮的新的全局参数模型,/>为前一轮生成的全局参数模型。
步骤S302,基于与多个服务器分别建立通信连接的客户端对应的损失函数与参数总量之间的乘积,以及参数总量,生成总体损失函数。
具体的,总体损失函数通过如下公式表示:
(公式22)
其中,为本轮生成的总体损失函数。
当总体损失函数达到预设条件时,确定新的全局参数模型为最终模型;
或者,当确定总体损失函数达不到预设条件时,将新的全局参数模型分发至除第一服务器之外的其他服务器,以便其他服务器将新的全局参数模型分发至不同客户端进行下一轮次的训练。
具体的,预设条件例如是,总体损失函数小于或者等于预设损失函数阈值。具体的预审损失函数阈值则可以根据实际情况设定。
图4为本发明实施例提供的全局参数模型构建系统的整体系统架构图。参见图4所示,包括服务器1至服务器n。每一个服务器中分别对应多个客户端,用以建立通信连接,并执行上述的方法步骤。例如服务器1对应的客户端包括客户端1_1,至客户端1_m,服务器2对应的客户端包括2_1,至客户端2_m。以及服务器n对应的客户端包括n_1,至客户端n_m。虽然附图4中示意的是每一个服务器均对应同等数量的客户端,但是在实际应用过程中,也可以是不同服务器对应不同的客户端数量。具体根据实际情况限定,这里不再赘述。
在本实施例中还提供了一种全局参数模型构建装置,该装置用于实现上述实施例及优选实施方式,已经进行过说明的不再赘述。如以下所使用的,术语“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现,但是硬件,或者软件和硬件的组合的实现也是可能并被构想的。
本实施例提供一种全局参数模型构建装置,该装置适用于全局参数模型构建系统,系统包括多个服务器,每一个服务器与多个客户端建立通信连接,装置对应于多个服务器中的第一服务器,第一服务器为多个服务器中的任一个服务器,如图5示,该装置包括:获取模块501、处理模块502、发送模块503、接收模块504,以及解密模块505。
获取模块501,用于在当前轮次内获取与第一服务器建立通信连接的多个客户端中每一个客户端分别反馈的s组密文数据,其中,密文数据为利用预生成的加法同态加密秘钥中的公钥对明文数据进行加法同态加密后生成的密文数据,s为大于1的正整数;
处理模块502,用于对每一个客户端反馈的同组别的密文数据进行求和处理,获取s组密文求和构成的第一数据集合;
发送模块503,用于将第一数据集合分别发送至多个服务器中除第一服务器之外的其他服务器;
接收模块504,用于接收多个服务器中除第一服务器之外的其他服务器分别反馈的第二数据集合;
解密模块505,用于将第一数据集合和第二数据集合输入至预购建的联合解密模型进行联合解密操作,获取联合解密结果,其中,联合解密模型为基于不同服务器生成的私钥构建的联合解密模型;
处理模块502,还用于基于联合解密结果,以及第一服务器在前一轮次获取的全局参数模型,构建新的全局参数模型,并生成总体损失函数;当总体损失函数达到预设条件时,确定新的全局参数模型为最终模型;或者,当确定总体损失函数达不到预设条件时,将新的全局参数模型分发至除第一服务器之外的其他服务器,以便其他服务器将新的全局参数模型分发至不同客户端进行下一轮次的训练。
在一个可选的实施方式中,解密模块505,具体用于:
分别基于第一数据集合和第二数据集合中同组别的密文数据进行求和,获取第三数据集合;
将第三数据集合输入到预构建的联合解密模型中进行联合解密操作,获取联合解密结果。
在一个可选的实施方式中,联合解密结果包括多个服务器分别建立通信连接的客户端的参数总量、与多个服务器分别建立通信连接的同组别的客户端对应的模型数据增量和参数总量之间的乘积,以及,与多个服务器分别建立通信连接的客户端对应的损失函数与参数总量之间的乘积,其中,不同组别的客户端对应的模型数据增量和参数总量之间的乘积构成乘积集合;
处理模块502,具体用于:基于参数总量、乘积集合,以及第一服务器在前一轮次获取的全局参数模型,构建新的全局参数模型;
基于与多个服务器分别建立通信连接的客户端对应的损失函数与参数总量之间的乘积,以及参数总量,生成总体损失函数。
在一个可选的实施方式中,联合解密模型通过如下公式表示:
(公式23)
其中,m为经过联合解密操作后所生成的数据,[ ]代表取模操作,M为大于或者等于的数据,/>为明文数据的总数,/>为一个常数,且常数为一个大于或者等于明文数据中所有系数中最大系数的绝对值的数据; q为大于/>并且模/>等于1的素数, d为明文数据中多项式的最高幂数,/>,/>,,/>,/>为服务器的总个数,/>为第j个服务器对应的私钥, j为大于或者等于1的正整数,/>为第三数据集合中的密文元素。即/>为/>中的一个。/>
在一个可选的实施方式中,明文数据包括第一客户端利用本地数据对前一轮次已接收的第一服务器发送的全局参数模型进行训练后,获取的训练后全局参数模型的参数数量、不同参数分别对应的数据增量与参数数量之间的第一乘积,以及本地生成的损失函数与参数数量之间的第二乘积,其中,数据增量为第一服务器发送的全局参数模型和训练后全局参数模型中同一参数数据之间的增量,数据增量的数量与参数数量相同。
在一个可选的实施方式中,密文数据的表达式参见如下表示:
(公式24)
其中,为第i个客户端对应的密文数据,/>为第i个客户端对应的明文数据的向量表示,/>为/>中的随机数,A为加法同态加密秘钥中的公钥,V/>,q为大于并且模/>等于1的素数,d为明文数据中多项式的最高幂数,/>,,M为大于或者等于/>的数据,/>为明文数据的总数,/>为一个常数,且常数为一个大于或者等于明文数据中所有系数中最大系数的绝对值的数据。
在一个可选的实施方式中,处理模块502对每一个客户端反馈的同组别的密文数据进行求和处理,获取s组密文求和构成的第一数据集合,通过如下公式表示:
(公式25)
其中,为第一服务器中对应的客户端集合,i为客户端集合中的第i个客户端,为客户端集合中每一个客户端中第一组别密文数据的求和,/>为客户端集合中每一个客户端中第s组别密文数据的求和,/>为第一数据集合。
在一个可选的实施方式中,处理模分别基于第一数据集合和第二数据集合中同组别的密文数据进行求和,获取第三数据集合,具体通过如下公式表示:
(公式26)
其中,为第三数据集合,/>为第一数据集合和第二数据集合中分别对应的第一组别的密文数据求和,即多个服务器中每一个服务器分别对应的多个客户端的第一组别密文数据求和,n为服务器的总个数,/>为第一数据集合和第二数据集合中分别对应的第s组别的密文数据求和。
在一个可选的实施方式中,解密模块505将第三数据集合输入到预构建的联合解密模型中进行联合解密操作,获取多个服务器分别建立通信连接的客户端的参数总量、与多个服务器分别建立通信连接的同组别的客户端对应的模型数据增量和参数总量之间的乘积,以及,与多个服务器分别建立通信连接的客户端对应的损失函数与参数总量之间的乘积,分别通过如下公式表示:
(公式27)
(公式28)
(公式29)
其中,公式27表示为n个服务器中所有客户端的参数总量;
公式28中的元素表示为与多个服务器分别建立通信连接的同属于第1组别的客户端对应的模型数据增量和参数总量之间的乘积,表示为与多个服务器分别建立通信连接的同属于第u组别的客户端对应的模型数据增量和参数总量之间的乘积,/>表示为与多个服务器分别建立通信连接的同组别的客户端对应的模型数据增量和参数总量之间的乘积的集合;
公式29表示为与多个服务器分别建立通信连接的客户端对应的损失函数与参数总量之间的乘积。
在一个可选的实施方式中,该装置还包括:选择模块506;
选择模块506,用于根据每一个客户端所属的地域和/或网络信号,和/或服务器的带宽,选择与每一个服务器分别建立通信连接的多个客户端。
在一个可选的实施方式中,该装置还包括:广播模块507;
获取模块501,还用于获取第一公钥生成因子,以及第二公钥生成因子;
处理模块502,还用于基于预配置的私钥、第一公钥生成因子,以及第二公钥生成因子,生成第三公钥生成因子;
广播模块507,用于将第三公钥生成因子进行广播,以便多个服务器中除第一服务器之外的其他服务器接收到第三公钥生成因子;
接收模块504,还用于接收多个服务器中除第一服务器之外的其他服务器分别反馈的第四公钥生成因子,其中,第四公钥生成因子为基于其他服务器各自对应的第一公钥生成因子、第二公钥生成因子,以及私钥生成的公钥生成因子;
处理模块502,还用于基于第一公钥生成因子、第三公钥生成因子,以及多个服务器中除第一服务器之外的其他服务器分别反馈的第四公钥生成因子,生成公钥。
在一个可选的实施方式中,处理模块502基于预配置的私钥、第一公钥生成因子,以及第二公钥生成因子,生成第三公钥生成因子,采用如下公式表示:
(公式30)
其中,为第三公钥生成因子,/>为加法同态加密秘钥中的私钥,/>为第一公钥生成因子,/>为第二公钥生成因子,M为大于或者等于/>的数据,/>为明文数据的总数,/>为一个常数,且常数为一个大于或者等于明文数据中所有系数中最大系数的绝对值的数据。
处理模块502具体用于,基于第三公钥生成因子以及多个服务器中除第一服务器之外的其他服务器分别反馈的第四公钥生成因子,生成第五公钥生成因子;
基于第一公钥生成因子和第五公钥生成因子,生成公钥。
本实施例中的全局参数模型构建装置是以功能模块的形式来呈现,这里的模块是指专用集成电路(Application Specific Integrated Circuit,简称ASIC),执行一个或多个软件或固定程序的处理器和存储器,和/或其他可以提供上述功能的器件。
上述各个模块和单元的更进一步的功能描述与上述对应实施例相同,在此不再赘述。
本发明实施例提供的一种全局参数模型构建装置,多个服务器中每一个服务器都可以获取到与自身建立通信连接的多个客户端分别反馈的s组密文数据,且密文数据均是通过预生成的加法同态加密秘钥中的公钥进行加密后的数据。在对数据处理过程中,首先每一个服务器都需要对接收到的所有客户端反馈的密文数据进行求和处理。然后再将求和处理后的密文数据集合,也即是第一数据集合广播到其他服务器。如此一来,每一个服务器都可以获取到多个服务器分别经过处理后的密文数据集合。每一个服务器都可以基于多个服务器分别生成的密文数据集合进行一次联合解密。为减少资源的占用,此时可以只选择一个服务器执行联合解密操作,进而获取联合解密结果。最终根据联合解密结果,以及第一服务器在前一轮次获取的全局参数模型,构建新的全局参数模型,以及生成总体损失函数。并且判断总体损失函数是否达到预设条件,进而判定当前所获取的全局参数模型是否为已经符合预设标准的全局参数模型。
因为密文数据为利用公钥分别进行加密后的密文数据,所以联合解密的时候则需要利用私钥进行联合解密。上述方式中,使用门限密码方案,并采用多个服务器的模式,将解密任务分配到每一个服务器,当所有的服务器都参与到解密过程中时,才能得到正确的解密结果,且采用能够抵抗量子攻击的加法同态加密秘钥中的公钥对数据进行加密,服务器之间利用同态性进行聚合,能够有效防止服务器合谋对用户隐私数据的攻击。
本发明实施例还提供一种服务器,具有上述图5所示的全局参数模型构建装置。
请参阅图6,图6是本发明可选实施例提供的一种服务器的结构示意图,如图6所示,该服务器包括:一个或多个处理器10、存储器20,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相通信连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在服务器内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在一些可选的实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个服务器,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图6中以一个处理器10为例。
处理器10可以是中央处理器,网络处理器或其组合。其中,处理器10还可以进一步包括硬件芯片。上述硬件芯片可以是专用集成电路,可编程逻辑器件或其组合。上述可编程逻辑器件可以是复杂可编程逻辑器件,现场可编程逻辑门阵列,通用阵列逻辑或其任意组合。
其中,存储器20存储有可由至少一个处理器10执行的指令,以使至少一个处理器10执行实现上述实施例示出的方法。
存储器20可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据一种小程序落地页的展现的服务器的使用所创建的数据等。此外,存储器20可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些可选的实施方式中,存储器20可选包括相对于处理器10远程设置的存储器,这些远程存储器可以通过网络连接至该服务器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
存储器20可以包括易失性存储器,例如,随机存取存储器;存储器也可以包括非易失性存储器,例如,快闪存储器,硬盘或固态硬盘;存储器20还可以包括上述种类的存储器的组合。
该服务器还包括输入装置30和输出装置40。处理器10、存储器20、输入装置30和输出装置40可以通过总线或者其他方式连接,图6中以通过总线连接为例。
输入装置30可接收输入的数字或字符信息,以及产生与该服务器的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等。输出装置40可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。上述显示设备包括但不限于液晶显示器,发光二极管,显示器和等离子体显示器。在一些可选的实施方式中,显示设备可以是触摸屏。
本发明实施例还提供了一种计算机可读存储介质,上述根据本发明实施例的方法可在硬件、固件中实现,或者被实现为可记录在存储介质,或者被实现通过网络下载的原始存储在远程存储介质或非暂时机器可读存储介质中并将被存储在本地存储介质中的计算机代码,从而在此描述的方法可被存储在使用通用计算机、专用处理器或者可编程或专用硬件的存储介质上的这样的软件处理。其中,存储介质可为磁碟、光盘、只读存储记忆体、随机存储记忆体、快闪存储器、硬盘或固态硬盘等;进一步地,存储介质还可以包括上述种类的存储器的组合。可以理解,计算机、处理器、微处理器控制器或可编程硬件包括可存储或接收软件或计算机代码的存储组件,当软件或计算机代码被计算机、处理器或硬件访问且执行时,实现上述实施例示出的方法。
虽然结合附图描述了本发明的实施例,但是本领域技术人员可以在不脱离本发明的精神和范围的情况下做出各种修改和变型,这样的修改和变型均落入由所附权利要求所限定的范围之内。
Claims (15)
1.一种全局参数模型构建方法,其特征在于,所述方法适用于全局参数模型构建系统,所述系统包括多个服务器,每一个服务器与多个客户端建立通信连接,所述方法由多个服务器中的第一服务器执行,所述第一服务器为多个所述服务器中的任一个服务器,所述方法包括:
在当前轮次内获取与所述第一服务器建立通信连接的多个客户端中每一个客户端分别反馈的s组密文数据,其中,所述密文数据为利用预生成的加法同态加密秘钥中的公钥对明文数据进行加法同态加密后生成的密文数据,s为大于1的正整数;
对每一个客户端反馈的同组别的密文数据进行求和处理,获取s组密文求和构成的第一数据集合;
将所述第一数据集合分别发送至多个所述服务器中除所述第一服务器之外的其他服务器;
接收多个所述服务器中除所述第一服务器之外的其他服务器分别反馈的第二数据集合;
将所述第一数据集合和所述第二数据集合输入至预购建的联合解密模型进行联合解密操作,获取联合解密结果,其中,所述联合解密模型为基于不同服务器生成的私钥构建的联合解密模型;
基于所述联合解密结果,以及所述第一服务器在前一轮次获取的全局参数模型,构建新的全局参数模型,并生成总体损失函数;
当所述总体损失函数达到预设条件时,确定所述新的全局参数模型为最终模型;
或者,当确定所述总体损失函数达不到所述预设条件时,将所述新的全局参数模型分发至除所述第一服务器之外的其他服务器,以便所述其他服务器将所述新的全局参数模型分发至不同客户端进行下一轮次的训练。
2.根据权利要求1所述的方法,其特征在于,所述将所述第一数据集合和所述第二数据集合输入至预购建的联合解密模型进行联合解密操作,获取联合解密结果,包括:
分别基于所述第一数据集合和所述第二数据集合中同组别的密文数据进行求和,获取第三数据集合;
将所述第三数据集合输入到预构建的联合解密模型中进行联合解密操作,获取所述联合解密结果。
3.根据权利要求1所述的方法,其特征在于,所述联合解密结果包括多个服务器分别建立通信连接的客户端的参数总量、与多个服务器分别建立通信连接的同组别的客户端对应的模型数据增量和所述参数总量之间的乘积,以及,与多个服务器分别建立通信连接的客户端对应的损失函数与所述参数总量之间的乘积,其中,不同组别的客户端对应的模型数据增量和所述参数总量之间的乘积构成乘积集合;
所述基于所述联合解密结果,以及所述第一服务器在前一轮次获取的全局参数模型,构建新的全局参数模型,并生成总体损失函数,包括:
基于所述参数总量、所述乘积集合,以及所述第一服务器在前一轮次获取的全局参数模型,构建新的全局参数模型;
基于与多个服务器分别建立通信连接的客户端对应的损失函数与所述参数总量之间的乘积,以及所述参数总量,生成所述总体损失函数。
4.根据权利要求2所述的方法,其特征在于,所述联合解密模型通过如下公式表示:
(公式1)
其中,m为经过联合解密操作后所生成的数据,[ ]代表取模操作,M为大于或者等于的数据,/>为所述明文数据的总数,/>为一个常数,且所述常数为一个大于或者等于所述明文数据中所有系数中最大系数的绝对值的数据; q为大于/>并且模等于1的素数, d为所述明文数据中多项式的最高幂数,/>,,/>,/>,/>为服务器的总个数,/>为第j个服务器对应的私钥,/>为所述第三数据集合中的密文元素,j为大于或者等于1的正整数。
5.根据权利要求1至4任一项所述的方法,其特征在于,所述明文数据包括第一客户端利用本地数据对前一轮次已接收的所述第一服务器发送的全局参数模型进行训练后,获取的训练后全局参数模型的参数数量、不同参数分别对应的数据增量与所述参数数量之间的第一乘积,以及本地生成的损失函数与所述参数数量之间的第二乘积,其中,所述数据增量为所述第一服务器发送的全局参数模型和训练后全局参数模型中同一参数数据之间的增量,所述数据增量的数量与所述参数数量相同。
6.根据权利要求1-4任一项所述的方法,其特征在于,所述密文数据的表达式参见如下表示:
(公式2)
其中,为第i个客户端对应的密文数据,/>为第i个客户端对应的明文数据的向量表示,/>为/>中的随机数,A为所述加法同态加密秘钥中的公钥,V/>,q为大于并且模/>等于1的素数,d为所述明文数据中多项式的最高幂数,,/>,M为大于或者等于/>的数据,/>为所述明文数据的总数,/>为一个常数,且所述常数为一个大于或者等于所述明文数据中所有系数中最大系数的绝对值的数据。
7.根据权利要求1至4任一项所述的方法,其特征在于,所述对每一个客户端反馈的同组别的密文数据进行求和处理,获取s组密文求和构成的第一数据集合,通过如下公式表示:
(公式3)
其中,为所述第一服务器中对应的客户端集合,i为所述客户端集合中的第i个客户端,所述/>为所述客户端集合中每一个客户端中第一组别密文数据的求和,所述为所述客户端集合中每一个客户端中第s组别密文数据的求和,/>为所述第一数据集合。
8.根据权利要求2所述的方法,其特征在于,所述分别基于所述第一数据集合和所述第二数据集合中同组别的密文数据进行求和,获取第三数据集合,具体通过如下公式表示:
(公式4)
其中,为所述第三数据集合,/>为所述第一数据集合和所述第二数据集合中分别对应的第一组别的密文数据求和,即多个服务器中每一个服务器分别对应的多个客户端的第一组别密文数据求和,n为服务器的总个数,/>为所述第一数据集合和所述第二数据集合中分别对应的第s组别的密文数据求和。
9.根据权利要求2所述的方法,其特征在于,将所述第三数据集合输入到预构建的联合解密模型中进行联合解密操作,获取所述联合解密结果,分别通过如下公式表示:
(公式5)
(公式6)
(公式7)
其中,公式5表示为n个服务器中所有客户端的参数总量;
公式6中的元素表示为与多个服务器分别建立通信连接的同属于第1组别的客户端对应的模型数据增量和所述参数总量之间的乘积,表示为与多个服务器分别建立通信连接的同属于第u组别的客户端对应的模型数据增量和所述参数总量之间的乘积,/>表示为与多个服务器分别建立通信连接的同组别的客户端对应的模型数据增量和所述参数总量之间的乘积的集合;
公式7表示为与多个服务器分别建立通信连接的客户端对应的损失函数与所述参数总量之间的乘积。
10.根据权利要求1至4中任一项所述的方法,其特征在于,所述方法还包括:
根据每一个客户端所属的地域和/或网络信号,和/或服务器的带宽,选择与每一个服务器分别建立通信连接的多个客户端。
11.根据权利要求1至4任一项所述的方法,其特征在于,所述方法还包括:
获取第一公钥生成因子,以及第二公钥生成因子;
基于预配置的私钥、所述第一公钥生成因子,以及所述第二公钥生成因子,生成第三公钥生成因子;
将所述第三公钥生成因子进行广播,以便所述多个服务器中除所述第一服务器之外的其他服务器接收到所述第三公钥生成因子;
接收多个所述服务器中除所述第一服务器之外的其他服务器分别反馈的第四公钥生成因子,其中,所述第四公钥生成因子为基于其他服务器各自对应的第一公钥生成因子、第二公钥生成因子,以及私钥生成的公钥生成因子;
基于所述第一公钥生成因子、所述第三公钥生成因子,以及多个所述服务器中除所述第一服务器之外的其他服务器分别反馈的第四公钥生成因子,生成公钥。
12.根据权利要求11所述的方法,其特征在于,所述基于预配置的私钥、所述第一公钥生成因子,以及所述第二公钥生成因子,生成第三公钥生成因子,包括:
(公式8)
其中,所述为所述第三公钥生成因子,所述/>为加法同态加密秘钥中的私钥,/>为所述第一公钥生成因子,/>为所述第二公钥生成因子,M为大于或者等于/>的数据,/>为所述明文数据的总数,/>为一个常数,且所述常数为一个大于或者等于所述明文数据中所有系数中最大系数的绝对值的数据。
13.一种全局参数模型构建装置,其特征在于,所述装置适用于全局参数模型构建系统,所述系统包括多个服务器,每一个服务器与多个客户端建立通信连接,所述装置对应于多个服务器中的第一服务器,所述第一服务器为多个所述服务器中的任一个服务器,所述装置包括:
获取模块,用于在当前轮次内获取与所述第一服务器建立通信连接的多个客户端中每一个客户端分别反馈的s组密文数据,其中,所述密文数据为利用预生成的加法同态加密秘钥中的公钥对明文数据进行加法同态加密后生成的密文数据,s为大于1的正整数;
处理模块,用于对每一个客户端反馈的同组别的密文数据进行求和处理,获取s组密文求和构成的第一数据集合;
发送模块,用于将所述第一数据集合分别发送至多个所述服务器中除所述第一服务器之外的其他服务器;
接收模块,用于接收多个所述服务器中除所述第一服务器之外的其他服务器分别反馈的第二数据集合;
解密模块,用于将所述第一数据集合和所述第二数据集合输入至预购建的联合解密模型进行联合解密操作,获取联合解密结果,其中,所述联合解密模型为基于不同服务器生成的私钥构建的联合解密模型;
所述处理模块,还用于基于所述联合解密结果,以及所述第一服务器在前一轮次获取的全局参数模型,构建新的全局参数模型,并生成总体损失函数;当所述总体损失函数达到预设条件时,确定所述新的全局参数模型为最终模型;或者,当确定所述总体损失函数达不到所述预设条件时,将所述新的全局参数模型分发至除所述第一服务器之外的其他服务器,以便所述其他服务器将所述新的全局参数模型分发至不同客户端进行下一轮次的训练。
14.一种服务器,其特征在于,包括:
存储器和处理器,所述存储器和所述处理器之间互相通信连接,所述存储器中存储有计算机指令,所述处理器通过执行所述计算机指令,从而执行权利要求1至12中任一项所述的全局参数模型构建方法。
15.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机指令,所述计算机指令用于使服务器执行权利要求1至12中任一项所述的全局参数模型构建方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410233001.4A CN117811722A (zh) | 2024-03-01 | 2024-03-01 | 全局参数模型构建方法、秘钥生成方法、装置及服务器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410233001.4A CN117811722A (zh) | 2024-03-01 | 2024-03-01 | 全局参数模型构建方法、秘钥生成方法、装置及服务器 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117811722A true CN117811722A (zh) | 2024-04-02 |
Family
ID=90433876
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410233001.4A Pending CN117811722A (zh) | 2024-03-01 | 2024-03-01 | 全局参数模型构建方法、秘钥生成方法、装置及服务器 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117811722A (zh) |
Citations (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190394019A1 (en) * | 2018-06-20 | 2019-12-26 | Clemson University | System And Method For Homomorphic Encryption |
CN112822005A (zh) * | 2021-02-01 | 2021-05-18 | 福州大学 | 基于同态加密的安全迁移学习系统 |
US20210376995A1 (en) * | 2020-05-27 | 2021-12-02 | International Business Machines Corporation | Privacy-enhanced decision tree-based inference on homomorphically-encrypted data |
CN114817958A (zh) * | 2022-04-24 | 2022-07-29 | 山东云海国创云计算装备产业创新中心有限公司 | 一种基于联邦学习的模型训练方法、装置、设备及介质 |
CN114978533A (zh) * | 2022-05-12 | 2022-08-30 | 西安邮电大学 | 基于有权重分层异步联邦学习的可验证安全聚合方法 |
CN115062323A (zh) * | 2022-06-17 | 2022-09-16 | 山东云海国创云计算装备产业创新中心有限公司 | 增强隐私保护的多中心联邦学习方法及计算机设备 |
CN115242369A (zh) * | 2022-05-11 | 2022-10-25 | 西安电子科技大学 | 基于多密钥同态加密的联邦学习隐私保护方法及其装置 |
CN115270145A (zh) * | 2022-06-22 | 2022-11-01 | 国网河北省电力有限公司信息通信分公司 | 一种基于联盟链和联邦学习的用户窃电行为检测方法及系统 |
CN115293256A (zh) * | 2022-08-02 | 2022-11-04 | 西北大学 | 一种由区块链辅助的联邦学习无线网络模型 |
US20230017542A1 (en) * | 2021-07-06 | 2023-01-19 | The Governing Council Of The University Of Toronto | Secure and robust federated learning system and method by multi-party homomorphic encryption |
CN115906172A (zh) * | 2022-12-07 | 2023-04-04 | 中国电子科技集团公司第三十研究所 | 一种联邦学习数据保护方法 |
CN116167088A (zh) * | 2023-03-17 | 2023-05-26 | 山东云海国创云计算装备产业创新中心有限公司 | 一种两方联邦学习中进行隐私保护的方法、系统及终端 |
CN116488906A (zh) * | 2023-04-25 | 2023-07-25 | 重庆邮电大学 | 一种安全高效的模型共建方法 |
CN116628744A (zh) * | 2023-05-24 | 2023-08-22 | 华东师范大学 | 一种具有轻量级验证机制的隐私保护联邦学习方法 |
CN116667996A (zh) * | 2023-05-30 | 2023-08-29 | 华东师范大学 | 一种基于混合同态加密的可验证联邦学习方法 |
CN116681141A (zh) * | 2023-01-30 | 2023-09-01 | 山东云海国创云计算装备产业创新中心有限公司 | 隐私保护的联邦学习方法、终端及存储介质 |
US20230291541A1 (en) * | 2022-01-10 | 2023-09-14 | The Regents Of The University Of California | Methods of operating on data in a fully homomorphic encryption system using in-situ processing-in-memory and related circuits |
CN116760523A (zh) * | 2022-10-19 | 2023-09-15 | 中国电建集团华东勘测设计研究院有限公司 | 一种面向抽水蓄能电站智能巡检的联邦学习隐私保护方法 |
CN116861239A (zh) * | 2023-07-10 | 2023-10-10 | 西安交通大学 | 一种联邦学习方法和系统 |
CN116862551A (zh) * | 2023-06-15 | 2023-10-10 | 国网湖北省电力有限公司电力科学研究院 | 一种考虑用户隐私保护的新能源消纳电价决策方法 |
CN116933899A (zh) * | 2023-07-10 | 2023-10-24 | 中国人民解放军战略支援部队信息工程大学 | 基于多同态属性的数据安全聚合方法及系统 |
CN117134945A (zh) * | 2023-07-24 | 2023-11-28 | 山东云海国创云计算装备产业创新中心有限公司 | 数据处理方法、系统、装置、计算机设备及存储介质 |
-
2024
- 2024-03-01 CN CN202410233001.4A patent/CN117811722A/zh active Pending
Patent Citations (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190394019A1 (en) * | 2018-06-20 | 2019-12-26 | Clemson University | System And Method For Homomorphic Encryption |
US20210376995A1 (en) * | 2020-05-27 | 2021-12-02 | International Business Machines Corporation | Privacy-enhanced decision tree-based inference on homomorphically-encrypted data |
CN112822005A (zh) * | 2021-02-01 | 2021-05-18 | 福州大学 | 基于同态加密的安全迁移学习系统 |
US20230017542A1 (en) * | 2021-07-06 | 2023-01-19 | The Governing Council Of The University Of Toronto | Secure and robust federated learning system and method by multi-party homomorphic encryption |
US20230291541A1 (en) * | 2022-01-10 | 2023-09-14 | The Regents Of The University Of California | Methods of operating on data in a fully homomorphic encryption system using in-situ processing-in-memory and related circuits |
CN114817958A (zh) * | 2022-04-24 | 2022-07-29 | 山东云海国创云计算装备产业创新中心有限公司 | 一种基于联邦学习的模型训练方法、装置、设备及介质 |
CN115242369A (zh) * | 2022-05-11 | 2022-10-25 | 西安电子科技大学 | 基于多密钥同态加密的联邦学习隐私保护方法及其装置 |
CN114978533A (zh) * | 2022-05-12 | 2022-08-30 | 西安邮电大学 | 基于有权重分层异步联邦学习的可验证安全聚合方法 |
CN115062323A (zh) * | 2022-06-17 | 2022-09-16 | 山东云海国创云计算装备产业创新中心有限公司 | 增强隐私保护的多中心联邦学习方法及计算机设备 |
CN115270145A (zh) * | 2022-06-22 | 2022-11-01 | 国网河北省电力有限公司信息通信分公司 | 一种基于联盟链和联邦学习的用户窃电行为检测方法及系统 |
CN115293256A (zh) * | 2022-08-02 | 2022-11-04 | 西北大学 | 一种由区块链辅助的联邦学习无线网络模型 |
CN116760523A (zh) * | 2022-10-19 | 2023-09-15 | 中国电建集团华东勘测设计研究院有限公司 | 一种面向抽水蓄能电站智能巡检的联邦学习隐私保护方法 |
CN115906172A (zh) * | 2022-12-07 | 2023-04-04 | 中国电子科技集团公司第三十研究所 | 一种联邦学习数据保护方法 |
CN116681141A (zh) * | 2023-01-30 | 2023-09-01 | 山东云海国创云计算装备产业创新中心有限公司 | 隐私保护的联邦学习方法、终端及存储介质 |
CN116167088A (zh) * | 2023-03-17 | 2023-05-26 | 山东云海国创云计算装备产业创新中心有限公司 | 一种两方联邦学习中进行隐私保护的方法、系统及终端 |
CN116488906A (zh) * | 2023-04-25 | 2023-07-25 | 重庆邮电大学 | 一种安全高效的模型共建方法 |
CN116628744A (zh) * | 2023-05-24 | 2023-08-22 | 华东师范大学 | 一种具有轻量级验证机制的隐私保护联邦学习方法 |
CN116667996A (zh) * | 2023-05-30 | 2023-08-29 | 华东师范大学 | 一种基于混合同态加密的可验证联邦学习方法 |
CN116862551A (zh) * | 2023-06-15 | 2023-10-10 | 国网湖北省电力有限公司电力科学研究院 | 一种考虑用户隐私保护的新能源消纳电价决策方法 |
CN116861239A (zh) * | 2023-07-10 | 2023-10-10 | 西安交通大学 | 一种联邦学习方法和系统 |
CN116933899A (zh) * | 2023-07-10 | 2023-10-24 | 中国人民解放军战略支援部队信息工程大学 | 基于多同态属性的数据安全聚合方法及系统 |
CN117134945A (zh) * | 2023-07-24 | 2023-11-28 | 山东云海国创云计算装备产业创新中心有限公司 | 数据处理方法、系统、装置、计算机设备及存储介质 |
Non-Patent Citations (7)
Title |
---|
ALBERTO PEDROUZO-ULLOA: "Practical Multi-Key Homomorphic Encryption for More Flexible and Efficient Secure Federated Average Aggregation", 2023 IEEE INTERNATIONAL CONFERENCE ON CYBER SECURITY AND RESILIENCE (CSR), 28 August 2023 (2023-08-28) * |
娄宇;朱更明;: "RLWE同态加密算法的多候选人电子投票协议", 计算机工程与科学, no. 03, 15 March 2018 (2018-03-15) * |
张恩;裴瑶瑶;杜蛟;: "基于RLWE的密文策略属性代理重加密", 通信学报, no. 11, 25 November 2018 (2018-11-25) * |
李宗育;桂小林;顾迎捷;李雪松;戴慧;张学军;: "同态加密技术及其在云计算隐私保护中的应用", 软件学报, no. 07, 17 October 2017 (2017-10-17) * |
窦佐超;陈峰;邓杰仁;陈如梵;郑灏;孙琪;谢康;沈百荣;王爽;: "联盟学习在生物医学大数据隐私保护中的原理与应用", 医学信息学杂志, no. 05, 25 May 2020 (2020-05-25) * |
窦家维;刘旭红;周素芳;李顺东;: "高效的集合安全多方计算协议及应用", 计算机学报, no. 08, 19 January 2018 (2018-01-19) * |
魏立斐;陈聪聪;张蕾;李梦思;陈玉娇;王勤;: "机器学习的安全问题及隐私保护", 计算机研究与发展, no. 10, 9 October 2020 (2020-10-09) * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109981641B (zh) | 一种基于区块链技术的安全发布订阅系统及发布订阅方法 | |
CN107257381B (zh) | 一种隐私保护空间众包的任务分配系统模型及实现方法 | |
CN101807991B (zh) | 密文政策属性基加密系统和方法 | |
CN110719159A (zh) | 抗恶意敌手的多方隐私集合交集方法 | |
CN113518092B (zh) | 实现多方隐私的集合交集方法 | |
CN110690959B (zh) | 一种基于云平台的无人机安全可认证信息通信处理方法 | |
CN111817845B (zh) | 反爬虫方法及计算机存储介质 | |
US9703963B2 (en) | Trusted and privacy-preserving mechanism for electricity usage data disclosure using verifiable noise | |
US20150358167A1 (en) | Certificateless Multi-Proxy Signature Method and Apparatus | |
JP5405658B2 (ja) | リセット可能な耐タンパー性ハードウェアトークンを使用する、効率的な秘匿関数計算の方法 | |
Arboleda et al. | Chaotic rivest-shamir-adlerman algorithm with data encryption standard scheduling | |
Singh et al. | Secured user's authentication and private data storage-access scheme in cloud computing using Elliptic curve cryptography | |
Fan et al. | PPMCK: Privacy-preserving multi-party computing for K-means clustering | |
CN115801220A (zh) | 加速设备、计算系统及加速方法 | |
WO2021098152A1 (zh) | 基于区块链的数据处理方法、装置及计算机设备 | |
Thapa et al. | Asymmetric social proximity based private matching protocols for online social networks | |
CN115664629A (zh) | 一种基于同态加密的智慧物联平台数据隐私保护方法 | |
CN114760023A (zh) | 基于联邦学习的模型训练方法、装置及存储介质 | |
CN107786580B (zh) | 基于云计算平台的Paillier加密方法 | |
CN117134945A (zh) | 数据处理方法、系统、装置、计算机设备及存储介质 | |
CN117355834A (zh) | 使用隐私信息检索和安全多方计算的隐私安全批量检索 | |
CN116681141A (zh) | 隐私保护的联邦学习方法、终端及存储介质 | |
CN111246407A (zh) | 用于短信传输的数据加密、解密方法及装置 | |
CN117811722A (zh) | 全局参数模型构建方法、秘钥生成方法、装置及服务器 | |
CN115599959A (zh) | 数据共享方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |