CN114006769B - 基于横向联邦学习的模型训练方法及其设备 - Google Patents
基于横向联邦学习的模型训练方法及其设备 Download PDFInfo
- Publication number
- CN114006769B CN114006769B CN202111414213.5A CN202111414213A CN114006769B CN 114006769 B CN114006769 B CN 114006769B CN 202111414213 A CN202111414213 A CN 202111414213A CN 114006769 B CN114006769 B CN 114006769B
- Authority
- CN
- China
- Prior art keywords
- encrypted
- training
- model
- initial model
- cloud server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012549 training Methods 0.000 title claims abstract description 171
- 238000000034 method Methods 0.000 title claims abstract description 59
- 238000013473 artificial intelligence Methods 0.000 abstract description 6
- 230000005540 biological transmission Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 6
- 238000004590 computer program Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 238000012545 processing Methods 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000004140 cleaning Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/04—Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks
- H04L63/0428—Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks wherein the data content is protected, e.g. by encrypting or encapsulating the payload
- H04L63/0442—Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks wherein the data content is protected, e.g. by encrypting or encapsulating the payload wherein the sending and receiving network entities apply asymmetric encryption, i.e. different keys for encryption and decryption
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Computer Networks & Wireless Communication (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Computer Security & Cryptography (AREA)
- Signal Processing (AREA)
- Computing Systems (AREA)
- Medical Informatics (AREA)
- Artificial Intelligence (AREA)
- Computer Hardware Design (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请提供一种基于横向联邦学习的模型训练方法及其设备，可应用于计算机领域、人工智能领域或者金融领域，应用于设备集群中的每个设备，对云服务器发送的加密初始模型进行解密，得到初始模型；获取历史样本数据集，利用历史样本数据集对初始模型进行训练，得到训练参数；对训练参数进行加密，得到加密训练数据，并将加密训练数据发送给云服务器，以使云服务器将各个设备的加密训练数据进行聚合，得到聚合加密数据，并利用聚合加密数据对加密初始模型进行训练，直至加密初始模型达到收敛，将得到的目标模型发送给各个设备；当接收到云服务器发送的目标模型时，利用目标模型进行数据预测。本发明，能够解决现有的模型训练方法存在数据泄露的问题。
Description
技术领域
本发明涉及人工智能技术领域，更具体地说，涉及一种基于横向联邦学习的模型训练方法及其设备。
背景技术
随着人工智能的发展，神经网络模型广泛应用于各个领域，包括语音识别、计算机视觉、医学医疗和智能博弈等。神经网络模型需要训练完成之后才能投入使用。
现有模型训练过程中，通常会将用户数据集中后再进行训练。但是这种方式容易造成数据泄露，在数据集中的过程中，也会存在数据泄密的风险，并且，在模型训练好后，模型本身会记住部分训练数据，从而导致发布模型也会造成训练数据泄露的风险。
发明内容
有鉴于此，本发明提供一种基于横向联邦学习的模型训练方法及其设备，以解决现有的模型训练方法存在数据泄露的问题。
本发明第一方面公开一种基于横向联邦学习的模型训练方法，应用于设备集群中的每个设备，所述方法包括：
当接收到云服务器发送的加密初始模型时，对所述加密初始模型进行解密，得到初始模型；其中，所述加密初始模型是所述云服务器对所述初始模型进行加密得到；
获取历史样本数据集，并利用历史样本数据集对所述初始模型进行训练，得到训练参数；其中，每个所述设备的历史样本数据集中每个历史样本数据的维度相同；
对所述训练参数进行加密，得到加密训练数据，并将所述加密训练数据发送给所述云服务器，以使所述云服务器将各个所述设备的所述加密训练数据进行聚合，得到聚合加密数据，并利用所述聚合加密数据对所述加密初始模型进行训练，直至所述加密初始模型达到收敛，将得到的目标模型发送给各个所述设备；
当接收到所述云服务器发送的所述目标模型时，利用所述目标模型进行数据预测。
可选的，所述方法还包括：
初始化一对公私钥对；所述公私钥对包括目标公钥和目标私钥；
将所述目标公钥上传给所述云服务器，并将所述目标私钥存储至本地数据库中。
可选的，所述当接收到云服务器发送的加密初始模型时，对所述加密初始模型进行解密，得到初始模型，包括：
所述当接收到云服务器发送的加密初始模型时，利用所述私钥对所述加密初始模型进行解密，得到初始模型；
其中，所述加密初始模型是云服务器利用所述目标公钥对所述初始模型进行加密得到。
可选的，所述对所述训练参数进行加密，得到加密训练数据，并将所述加密训练数据发送给所述云服务器，以使所述云服务器将各个所述设备的所述加密训练数据进行聚合，得到聚合加密数据，并利用所述聚合加密数据对所述加密初始模型进行迭代训练，直至所述加密初始模型达到收敛，将得到的目标模型发送给各个所述设备，包括：
利用所述目标公钥对所述训练参数进行加密，得到加密训练数据，并将所述加密训练数据发送给所述云服务器，以使所述云服务器将各个所述设备的所述加密训练数据进行加和，得到聚合加密数据，并利用所述聚合加密数据对所述加密初始模型进行训练，直至所述加密初始模型达到收敛，将得到的目标模型发送给各个所述设备。
可选的，每个所述设备设置有AI芯片，所述获取历史样本数据集，并利用历史样本数据集对所述初始模型进行训练，得到训练参数，包括：
获取历史样本数据集；
基于所述AI芯片，利用所述历史样本数据集对所述初始模型进行训练，获取训练参数；
其中，所述当接收到所述云服务器发送的所述目标模型时，利用所述目标模型进行数据预测，包括：
所述当接收到所述云服务器发送的所述目标模型时，利用所述目标私钥对所述目标模型进行解密，得到解密目标模型；
基于所述AI芯片，利用所述解密目标模型进行数据预测。
本发明第二方面公开一种基于横向联邦学习的模型训练装置，应用于设备集群中的每个设备，所述装置包括：
解密单元，用于当接收到云服务器发送的加密初始模型时，对所述加密初始模型进行解密，得到初始模型；其中，所述加密初始模型是所述云服务器对所述初始模型进行加密得到；
训练单元，用于获取历史样本数据集，并利用历史样本数据集对所述初始模型进行训练，得到训练参数；其中，每个所述设备的历史样本数据集中每个历史样本数据的维度相同；
数据发送单元，用于对所述训练参数进行加密，得到加密训练数据，并将所述加密训练数据发送给所述云服务器，以使所述云服务器将各个所述设备的所述加密训练数据进行聚合，得到聚合加密数据，并利用所述聚合加密数据对所述加密初始模型进行训练，直至所述加密初始模型达到收敛，将得到的目标模型发送给各个所述设备；
数据预测单元，用于当接收到所述云服务器发送的所述目标模型时，利用所述目标模型进行数据预测。
可选的，所述装置还包括：
初始化单元，用于初始化一对公私钥对；所述公私钥对包括目标公钥和目标私钥；
上传单元，用于将所述目标公钥上传给所述云服务器，并将所述目标私钥存储至本地数据库中。
可选的，所述解密单元，包括：
解密子单元，用于所述当接收到云服务器发送的加密初始模型时，利用所述私钥对所述加密初始模型进行解密，得到初始模型；
其中，所述加密初始模型是云服务器利用所述目标公钥对所述初始模型进行加密得到。
本发明第三方面公开一种电子设备，其特征在于，所述电子设备包括处理器和存储器，所述存储器用于存储基于横向联邦学习的模型训练的程序代码和数据，所述处理器用于调用所述存储器中的程序指令执行如上述本发明第一方面公开的一种基于横向联邦学习的模型训练方法。
本发明第三方面公开一种存储介质，其特征在于，所述存储介质包括存储程序，其中，在所述程序运行时控制所述存储介质所在设备执行如上述本发明第一方面公开的一种基于横向联邦学习的模型训练方法。
本发明提供一种基于横向联邦学习的模型训练方法及其设备，云服务器将初始模型进行加密后，将得到的加密初始模型发送给设备集群中的各个设备，每个设备在对接收到的加密初始模型进行解密得到初始模型后，利用历史训练样本数据集对初始模型进行训练，得到训练参数之后，对训练参数进行加密并将得到加密训练数据发送给云服务器，以便云服务器将接收到的各个设备的加密训练数据进行聚合，得到聚合加密数据，并利用所述聚合加密数据对所述加密初始模型进行训练，直至所述加密初始模型达到收敛，将得到的目标模型发送给各个所述设备，每个设备当接收到所述云服务器发送的所述目标模型时，利用所述目标模型进行数据预测。本发明提供的技术方案，在数据传输过程中，传输的是加密数据，避免数据泄露，并且在模型训练过程中采用的模型和参数都是加密的，能够进一步避免数据泄露，从而保证数据传输、存储、计算，以及训练模型的安全性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
图1为本发明实施例提供的一种基于横向联邦学习的模型训练系统的结构示意图；
图2为本发明实施例提供的一种基于横向联邦学习的模型训练方法的流程示意图；
图3为本发明实施例提供的一种基于横向联邦学习的模型训练装置的结构示意图；
图4为本发明实施例提供的一种电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
在本申请中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
需要说明的是，本发明提供的一种基于横向联邦学习的模型训练方法可用于人工智能领域、云计算领域、大数据领域、数据处理技术领域或金融领域。上述仅为示例，并不对本发明提供的发明名称的应用领域进行限定。
本发明提供的一种基于横向联邦学习的模型训练方法可用于人工智能领域、金融领域或其他领域，例如，可用于金融领域中的数据预测应用场景。其他领域为除金融领域之外的任意领域，例如，云计算领域。上述仅为示例，并不对本发明提供的一种基于横向联邦学习的模型训练方法的应用领域进行限定。
同态加密算法：是基于数学难题的计算复杂性理论的密码学技术。对经过同态加密的数据进行处理得到一个输出，将这一输出进行解密，其结果与用同一方法处理未加密的原始数据得到的输出结果是一样的。
横向联邦学习：联合多个参与者的具有相同特征的多行样本进行联邦学习。
AI芯片：也被称为AI加速器或计算卡，即专门用于处理人工智能应用中的大量计算任务的模块(其他非计算任务仍由CPU负责)。当前，AI芯片主要分为GPU、FPGA、ASIC。
参见图1示出了本发明实施例提供的一种基于横向联邦学习的模型训练系统的结构示意图，该横向联邦学习的模型训练系统包括云服务器101和设备集群102；其中，设备集群中包括多台设备。每个设备中设置有采集设备和AI芯片。每个设备通过安全通讯信道与云服务器建立通讯连接。
针对每个设备，用于初始化一对公私钥对；公私钥对包括目标公钥和目标私钥；将目标公钥上传给云服务器，并将目标私钥存储至本地数据库中。当接收到云服务器发送的加密初始模型时，利用私钥对加密初始模型进行解密，得到初始模型；获取历史样本数据集；基于AI芯片，利用历史样本数据集对初始模型进行训练，获取训练参数；利用目标公钥对训练参数进行加密，得到加密训练数据，并将加密训练数据发送给云服务器；当接收到云服务器发送的目标模型时，利用目标私钥对目标模型进行解密，得到解密目标模型。
其中，每个设备的历史样本数据集中每个历史样本数据的维度相同。
云服务器，用于当接收到各个设备发送的目标公钥时，利用目标公钥对初始模型进行加密，得到加密初始模型；当接收到各个设备发送的加密训练数据时，将各个设备的加密训练数据进行聚合，得到聚合加密数据，并利用聚合加密数据对加密初始模型进行训练，直至加密初始模型达到收敛，将得到的目标模型发送给各个设备。
参见图2，示出了本发明实施例提供的基于横向联邦学习的模型训练方法的流程示意图，该基于横向联邦学习的模型训练方法应用于如图1所示的设备集群中的每个设备，该基于横向联邦学习的模型训练方法具体包括以下步骤：
S201：初始化一对公私钥对；公私钥对包括目标公钥和目标私钥。
在具体执行步骤S201的过程中，针对每个设备，该设备可以通过同态加密算法初始化一对公私钥对。
其中，公私钥对包括目标公钥和目标私钥。
S202：将目标私钥存储至本地数据库中，并将目标公钥上传给云服务器，以使云服务器将利用目标公钥对初始模型进行加密得到的加密初始模型发送给各个设备。
在具体执行步骤S202的过程中，针对每个设备，在初始化得到一对公私钥对之后，可以将公私钥对中的目标私钥存储至本地数据库中，并将公私钥对中的公钥发送给云服务器。
在本申请实施例中，云服务器可以通过初始化一个初始模型，以便在接收到各个设备发送的目标公钥之后，利用接收到任意一个目标公钥对初始模型进行加密，得到加密初始模型，并将得到的加密初始模型下发给各个设备。
S203：当接收到云服务器发送的加密初始模型时，对加密初始模型进行解密，得到初始模型。
其中，加密初始模型是云服务器对初始模型进行加密得到。
在具体执行步骤S203的过程中，针对每个设备，当接收到云服务器下发的加密初始模型后，从本地数据库中获取目标私钥，并利用该目标私钥对加密初始模型进行解密，得到初始模型。
S204：获取历史样本数据集，并利用历史样本数据集对初始模型进行训练，得到训练参数；其中，每个设备的历史样本数据集中每个历史样本数据的维度相同。
在具体执行步骤S204的过程中，针对每个设备，基于该设备中的AI芯片从本地数据库中获取历史样本数据集，并对历史样本数据集中的每个历史样本数据进行数据清洗，从进行数据清洗后的每个历史样本数据中提取相应的样本特征，将提取出的样本特征输入初始模型中，对初始模型进行训练，并获取训练过程中产生的训练参数。
需要说明的是，每个设备的历史样本数据集中每个历史样本数据的维度相同。
S205：对训练参数进行加密，得到加密训练数据，并将加密训练数据发送给云服务器，以使云服务器将各个设备的加密训练数据进行聚合，得到聚合加密数据，并利用聚合加密数据对加密初始模型进行训练，直至加密初始模型达到收敛，将得到的目标模型发送给各个设备。
在具体执行步骤S205的过程中，针对每个设备，在获取到对应的训练参数之后，可以利用目标公钥对获取到的训练参数进行加密，得到加密训练数据，并将得到的加密训练数据发送给云服务器。
云服务器在接收到各个设备发送的加密训练数据之后，将各个设备发送的加密训练数据进行加和，得到聚合加密数据，利用聚合加密数据对加密初始模型进行迭代训练，直至加密初始模型达到收敛，将得到的目标模型发送给各个设备。
S206：当接收到云服务器发送的目标模型时，利用目标模型进行数据预测。
在具体执行步骤S206的过程中，针对每个设备，当接收到云服务器发送的目标模型时，从本地数据库中获取目标私钥，并利用目标私钥对目标模型进行解密，得到解密目标模型；基于预先部署的AI芯片从本地数据库中获取当前数据，并将当前数据输入解密目标模型中进行数据预测，
本发明提供一种基于横向联邦学习的模型训练方法，云服务器将初始模型进行加密后，将得到的加密初始模型发送给设备集群中的各个设备，每个设备在对接收到的加密初始模型进行解密得到初始模型后，利用历史训练样本数据集对初始模型进行训练，得到训练参数之后，对训练参数进行加密并将得到加密训练数据发送给云服务器，以便云服务器将接收到的各个设备的加密训练数据进行聚合，得到聚合加密数据，并利用聚合加密数据对加密初始模型进行训练，直至加密初始模型达到收敛，将得到的目标模型发送给各个设备，每个设备当接收到云服务器发送的目标模型时，利用目标模型进行数据预测。本发明提供的技术方案，在数据传输过程中，传输的是加密数据，避免数据泄露，并且在模型训练过程中采用的模型和参数都是加密的，能够进一步避免数据泄露，从而保证数据传输、存储、计算，以及训练模型的安全性。
与上述本发明实施例公开的一种基于横向联邦学习的模型训练方法相对应，本发明实施例还提供了一种基于横向联邦学习的模型训练装置，如图3，该基于横向联邦学习的模型训练装置应用于设备集群中的每个设备，该装置包括：
解密单元31，用于当接收到云服务器发送的加密初始模型时，对加密初始模型进行解密，得到初始模型；其中，加密初始模型是云服务器对初始模型进行加密得到；
训练单元32，用于获取历史样本数据集，并利用历史样本数据集对初始模型进行训练，得到训练参数；其中，每个设备的历史样本数据集中每个历史样本数据的维度相同；
数据发送单元33，用于对训练参数进行加密，得到加密训练数据，并将加密训练数据发送给云服务器，以使云服务器将各个设备的加密训练数据进行聚合，得到聚合加密数据，并利用聚合加密数据对加密初始模型进行训练，直至加密初始模型达到收敛，将得到的目标模型发送给各个设备；
数据预测单元34，用于当接收到云服务器发送的目标模型时，利用目标模型进行数据预测。
上述本发明实施例公开的基于横向联邦学习的模型训练装置中各个单元具体的原理和执行过程，与上述本发明实施例图2公开基于横向联邦学习的模型训练方法相同，可参见上述本发明实施例图2公开的基于横向联邦学习的模型训练方法中相应的部分，这里不再进行赘述。
本发明提供一种基于横向联邦学习的模型训练装置，通过云服务器将初始模型进行加密后，将得到的加密初始模型发送给设备集群中的各个设备，每个设备在对接收到的加密初始模型进行解密得到初始模型后，利用历史训练样本数据集对初始模型进行训练，得到训练参数之后，对训练参数进行加密并将得到加密训练数据发送给云服务器，以便云服务器将接收到的各个设备的加密训练数据进行聚合，得到聚合加密数据，并利用聚合加密数据对加密初始模型进行训练，直至加密初始模型达到收敛，将得到的目标模型发送给各个设备，每个设备当接收到云服务器发送的目标模型时，利用目标模型进行数据预测。本发明提供的技术方案，在数据传输过程中，传输的是加密数据，避免数据泄露，并且在模型训练过程中采用的模型和参数都是加密的，能够进一步避免数据泄露，从而保证数据传输、存储、计算，以及训练模型的安全性。
进一步的，本发明提供的基于横向联邦学习的模型训练装置，还包括：
初始化单元，用于初始化一对公私钥对；公私钥对包括目标公钥和目标私钥；
上传单元，用于将目标公钥上传给云服务器，并将目标私钥存储至本地数据库中。
可选的，解密单元，包括：
解密子单元，用于当接收到云服务器发送的加密初始模型时，利用私钥对加密初始模型进行解密，得到初始模型；
其中，加密初始模型是云服务器利用目标公钥对初始模型进行加密得到。
可选的，数据发送单元，包括：
数据发送子单元，用于利用目标公钥对训练参数进行加密，得到加密训练数据，并将加密训练数据发送给云服务器，以使云服务器将各个设备的加密训练数据进行加和，得到聚合加密数据，并利用聚合加密数据对加密初始模型进行训练，直至加密初始模型达到收敛，将得到的目标模型发送给各个设备。
可选的，每个设备设置有AI芯片，训练单元，包括：
历史样本数据集获取单元，用于获取历史样本数据集；
训练子单元，用于基于AI芯片，利用历史样本数据集对初始模型进行训练，获取训练参数；
其中，解析单元，还用于当接收到云服务器发送的目标模型时，利用目标私钥对目标模型进行解密，得到解密目标模型；基于AI芯片，利用解密目标模型进行数据预测。
本申请实施例还提供一种电子设备，该电子设备包括：处理器以及存储器，所述处理器以及存储器通过通信总线相连；其中，所述处理器，用于调用并执行所述存储器中存储的程序；所述存储器，用于存储程序，该程序用于实现基于横向联邦学习的模型训练方法。
下面参考图4，其示出了适于用来实现本发明公开实施例的电子设备的结构示意图。本发明公开实施例中的电子设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图4示出的电子设备仅仅是一个示例，不应对本发明公开实施例的功能和使用范围带来任何限制。
如图4所示，电子设备可以包括处理装置(例如中央处理器、图形处理器等)401，其可以根据存储在只读存储器(ROM)402中的程序或者从存储装置406加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。在RAM 403中，还存储有电子设备操作所需的各种程序和数据。处理装置401、ROM 402以及RAM 403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。
通常，以下装置可以连接至I/O接口405：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置406；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置407；包括例如磁带、硬盘等的存储装置408；以及通信装置409。通信装置409可以允许电子设备与其他设备进行无线或有线通信以交换数据。虽然图4示出了具有各种装置的电子设备，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地，根据本发明公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明公开的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置409从网络上被下载和安装，或者从存储装置408被安装，或者从ROM 402被安装。在该计算机程序被处理装置401执行时，执行本发明公开实施例的方法中限定的上述功能。
更进一步的，本发明实施例还提供一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机可执行指令，所述计算机可执行指令用于执行智能问答方法。
上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：当接收到云服务器发送的加密初始模型时，对所述加密初始模型进行解密，得到初始模型；其中，所述加密初始模型是所述云服务器对所述初始模型进行加密得到；获取历史样本数据集，并利用历史样本数据集对所述初始模型进行训练，得到训练参数；其中，每个所述设备的历史样本数据集中每个历史样本数据的维度相同；对所述训练参数进行加密，得到加密训练数据，并将所述加密训练数据发送给所述云服务器，以使所述云服务器将各个所述设备的所述加密训练数据进行聚合，得到聚合加密数据，并利用所述聚合加密数据对所述加密初始模型进行训练，直至所述加密初始模型达到收敛，将得到的目标模型发送给各个所述设备；当接收到所述云服务器发送的所述目标模型时，利用所述目标模型进行数据预测。
在本发明公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
需要说明的是，本发明公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统或系统实施例而言，由于其基本相似于方法实施例，所以描述得比较简单，相关之处参见方法实施例的部分说明即可。以上所描述的系统及系统实施例仅仅是示意性的，其中作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。
专业人员还可以进一步意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
以上仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。
Claims (7)
1.一种基于横向联邦学习的模型训练方法，其特征在于，应用于设备集群中的每个设备，每个所述设备设置有AI芯片，所述方法包括：
当接收到云服务器发送的加密初始模型时，对所述加密初始模型进行解密，得到初始模型；其中，所述加密初始模型是所述云服务器对所述初始模型进行加密得到；
初始化一对公私钥对；所述公私钥对包括目标公钥和目标私钥；
将所述目标公钥上传给所述云服务器，并将所述目标私钥存储至本地数据库中；
获取历史样本数据集；
基于所述AI芯片，利用所述历史样本数据集对所述初始模型进行训练，获取训练参数；其中，每个所述设备的历史样本数据集中每个历史样本数据的维度相同；
利用云服务器中的目标公钥对所述训练参数进行加密，得到加密训练数据，并将所述加密训练数据发送给所述云服务器，以使所述云服务器将各个所述设备的所述加密训练数据进行聚合，得到聚合加密数据，并利用所述聚合加密数据对所述加密初始模型进行训练，直至所述加密初始模型达到收敛，将得到的目标模型发送给各个所述设备；
所述当接收到所述云服务器发送的所述目标模型时，利用所述目标私钥对所述目标模型进行解密，得到解密目标模型；
基于所述AI芯片，利用所述解密目标模型进行数据预测。
2.根据权利要求1所述的方法，其特征在于，所述当接收到云服务器发送的加密初始模型时，对所述加密初始模型进行解密，得到初始模型，包括：
所述当接收到云服务器发送的加密初始模型时，利用所述私钥对所述加密初始模型进行解密，得到初始模型；
其中，所述加密初始模型是云服务器利用所述目标公钥对所述初始模型进行加密得到。
3.根据权利要求1所述的方法，其特征在于，所述对所述训练参数进行加密，得到加密训练数据，并将所述加密训练数据发送给所述云服务器，以使所述云服务器将各个所述设备的所述加密训练数据进行聚合，得到聚合加密数据，并利用所述聚合加密数据对所述加密初始模型进行迭代训练，直至所述加密初始模型达到收敛，将得到的目标模型发送给各个所述设备，包括：
利用所述目标公钥对所述训练参数进行加密，得到加密训练数据，并将所述加密训练数据发送给所述云服务器，以使所述云服务器将各个所述设备的所述加密训练数据进行加和，得到聚合加密数据，并利用所述聚合加密数据对所述加密初始模型进行训练，直至所述加密初始模型达到收敛，将得到的目标模型发送给各个所述设备。
4.一种基于横向联邦学习的模型训练装置，其特征在于，应用于设备集群中的每个设备，每个设备设置有AI芯片，所述装置包括：
解密单元，用于当接收到云服务器发送的加密初始模型时，对所述加密初始模型进行解密，得到初始模型；其中，所述加密初始模型是所述云服务器对所述初始模型进行加密得到；
训练单元，用于获取历史样本数据集，并利用历史样本数据集对所述初始模型进行训练，得到训练参数；其中，每个所述设备的历史样本数据集中每个历史样本数据的维度相同；
数据发送单元，用于利用云服务器中的目标公钥对所述训练参数进行加密，得到加密训练数据，并将所述加密训练数据发送给所述云服务器，以使所述云服务器将各个所述设备的所述加密训练数据进行聚合，得到聚合加密数据，并利用所述聚合加密数据对所述加密初始模型进行训练，直至所述加密初始模型达到收敛，将得到的目标模型发送给各个所述设备；
数据预测单元，用于当接收到所述云服务器发送的所述目标模型时，利用所述目标模型进行数据预测；
所述装置还包括：
初始化单元，用于初始化一对公私钥对；所述公私钥对包括目标公钥和目标私钥；
上传单元，用于将所述目标公钥上传给所述云服务器，并将所述目标私钥存储至本地数据库中；
训练单元，包括：
历史样本数据集获取单元，用于获取历史样本数据集；
训练子单元，用于基于AI芯片，利用历史样本数据集对初始模型进行训练，获取训练参数；
其中，解析单元，具体用于当接收到云服务器发送的目标模型时，利用目标私钥对目标模型进行解密，得到解密目标模型；基于AI芯片，利用解密目标模型进行数据预测。
5.根据权利要求4所述的装置，其特征在于，所述解密单元，包括：
解密子单元，用于所述当接收到云服务器发送的加密初始模型时，利用所述私钥对所述加密初始模型进行解密，得到初始模型；
其中，所述加密初始模型是云服务器利用所述目标公钥对所述初始模型进行加密得到。
6.一种电子设备，其特征在于，所述电子设备包括处理器和存储器，所述存储器用于存储基于横向联邦学习的模型训练的程序代码和数据，所述处理器用于调用所述存储器中的程序指令执行如权利要求1-3中任一项所述的一种基于横向联邦学习的模型训练方法。
7.一种存储介质，其特征在于，所述存储介质包括存储程序，其中，在所述程序运行时控制所述存储介质所在设备执行如权利要求1-3中任一项所述的一种基于横向联邦学习的模型训练方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111414213.5A CN114006769B (zh) | 2021-11-25 | 2021-11-25 | 基于横向联邦学习的模型训练方法及其设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111414213.5A CN114006769B (zh) | 2021-11-25 | 2021-11-25 | 基于横向联邦学习的模型训练方法及其设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114006769A CN114006769A (zh) | 2022-02-01 |
| CN114006769B true CN114006769B (zh) | 2024-02-06 |
Family
ID=79930393
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111414213.5A Active CN114006769B (zh) | 2021-11-25 | 2021-11-25 | 基于横向联邦学习的模型训练方法及其设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114006769B (zh) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114580665B (zh) * | 2022-03-15 | 2023-10-20 | 星环信息科技(上海)股份有限公司 | 一种联邦学习系统、方法、装置、设备及存储介质 |
| CN114707606B (zh) * | 2022-04-11 | 2023-12-22 | 中国电信股份有限公司 | 基于联邦学习的数据处理方法及装置、设备、存储介质 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109886417A (zh) * | 2019-03-01 | 2019-06-14 | 深圳前海微众银行股份有限公司 | 基于联邦学习的模型参数训练方法、装置、设备及介质 |
| CN111950740A (zh) * | 2020-07-08 | 2020-11-17 | 光之树(北京)科技有限公司 | 联邦学习模型的训练方法及装置 |
| CN112287377A (zh) * | 2020-11-25 | 2021-01-29 | 南京星环智能科技有限公司 | 基于联邦学习的模型训练方法、计算机设备及存储介质 |
| CN112949760A (zh) * | 2021-03-30 | 2021-06-11 | 平安科技（深圳）有限公司 | 基于联邦学习的模型精度控制方法、装置及存储介质 |
| CN113033828A (zh) * | 2021-04-29 | 2021-06-25 | 江苏超流信息技术有限公司 | 模型训练方法、使用方法、系统、可信节点及设备 |
| CN113609508A (zh) * | 2021-08-24 | 2021-11-05 | 上海点融信息科技有限责任公司 | 一种基于区块链的联邦学习方法、装置、设备及存储介质 |
-
2021
- 2021-11-25 CN CN202111414213.5A patent/CN114006769B/zh active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109886417A (zh) * | 2019-03-01 | 2019-06-14 | 深圳前海微众银行股份有限公司 | 基于联邦学习的模型参数训练方法、装置、设备及介质 |
| CN111950740A (zh) * | 2020-07-08 | 2020-11-17 | 光之树(北京)科技有限公司 | 联邦学习模型的训练方法及装置 |
| CN112287377A (zh) * | 2020-11-25 | 2021-01-29 | 南京星环智能科技有限公司 | 基于联邦学习的模型训练方法、计算机设备及存储介质 |
| CN112949760A (zh) * | 2021-03-30 | 2021-06-11 | 平安科技（深圳）有限公司 | 基于联邦学习的模型精度控制方法、装置及存储介质 |
| CN113033828A (zh) * | 2021-04-29 | 2021-06-25 | 江苏超流信息技术有限公司 | 模型训练方法、使用方法、系统、可信节点及设备 |
| CN113609508A (zh) * | 2021-08-24 | 2021-11-05 | 上海点融信息科技有限责任公司 | 一种基于区块链的联邦学习方法、装置、设备及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114006769A (zh) | 2022-02-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110245510B (zh) | 用于预测信息的方法和装置 | |
| CN114006769B (zh) | 基于横向联邦学习的模型训练方法及其设备 | |
| CN111428887B (zh) | 一种基于多个计算节点的模型训练控制方法、装置及系统 | |
| CN112434620B (zh) | 场景文字识别方法、装置、设备和计算机可读介质 | |
| CN110555300A (zh) | 应用程序授权方法、客户端、服务器、终端设备及介质 | |
| CN112966287B (zh) | 获取用户数据的方法、系统、设备和计算机可读介质 | |
| CN112149168B (zh) | 一种文件数据加密方法、装置及电子设备 | |
| CN111199037A (zh) | 登录方法、系统和装置 | |
| CN112381000A (zh) | 基于联邦学习的人脸识别方法、装置、设备及存储介质 | |
| CN114881247A (zh) | 基于隐私计算的纵向联邦特征衍生方法、装置、介质 | |
| CN110765490A (zh) | 用于处理信息的方法和装置 | |
| CN112242978B (zh) | 一种处理数据的方法和装置 | |
| CN116346885B (zh) | 标识信息生成方法、装置、电子设备和计算机可读介质 | |
| CN116129440B (zh) | 异常用户端告警方法、装置、电子设备和介质 | |
| CN112434619B (zh) | 病例信息提取方法、装置、设备和计算机可读介质 | |
| CN113961931A (zh) | adb工具使用方法、装置和电子设备 | |
| CN111786955B (zh) | 用于保护模型的方法和装置 | |
| CN113672954A (zh) | 特征提取方法、装置和电子设备 | |
| CN116910630B (zh) | 用户识别信息存储方法、装置、电子设备和介质 | |
| CN116758661B (zh) | 智能解锁方法、装置、电子设备和计算机可读介质 | |
| CN110619218B (zh) | 用于生成信息的方法和装置 | |
| CN110492998A (zh) | 加解密数据的方法 | |
| CN113807530B (zh) | 信息处理系统、方法和装置 | |
| CN115987661B (zh) | 云服务器数据自存储方法、装置、设备及存储介质 | |
| CN116226888B (zh) | 基于隐私保护的电力数据交互加密方法、系统与设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |