CN112861152A - 一种基于许可链的联邦学习激励方法及系统 - Google Patents

一种基于许可链的联邦学习激励方法及系统 Download PDF

Info

Publication number
CN112861152A
CN112861152A CN202110181556.5A CN202110181556A CN112861152A CN 112861152 A CN112861152 A CN 112861152A CN 202110181556 A CN202110181556 A CN 202110181556A CN 112861152 A CN112861152 A CN 112861152A
Authority
CN
China
Prior art keywords
client
chain
training
license
parameters
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110181556.5A
Other languages
English (en)
Other versions
CN112861152B (zh
Inventor
王荣
蔡维德
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beihang University
Original Assignee
Beihang University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beihang University filed Critical Beihang University
Priority to CN202110181556.5A priority Critical patent/CN112861152B/zh
Publication of CN112861152A publication Critical patent/CN112861152A/zh
Application granted granted Critical
Publication of CN112861152B publication Critical patent/CN112861152B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G06F21/602—Providing cryptographic facilities or services
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/10—Protecting distributed programs or content, e.g. vending or licensing of copyrighted material ; Digital rights management [DRM]
    • G06F21/101—Protecting distributed programs or content, e.g. vending or licensing of copyrighted material ; Digital rights management [DRM] by binding digital rights to specific entities
    • G06F21/1014—Protecting distributed programs or content, e.g. vending or licensing of copyrighted material ; Digital rights management [DRM] by binding digital rights to specific entities to tokens
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G06F21/64—Protecting data integrity, e.g. using checksums, certificates or signatures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G06N20/20—Ensemble learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Computer Security & Cryptography (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioethics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Multimedia (AREA)
  • Technology Law (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开一种基于许可链的联邦学习激励方法及系统，涉及区块链技术领域，该方法包括：客户端注册和认证，各个客户端向许可链进行注册，许可链对各个客户端进行认证，发放证书；许可链的智能合约运行，从一组符合资格要求的客户端中进行采样；客户端从许可链下载训练模型和程序；客户端通过执行训练程序在本地计算对模型的参数进行更新，并将更新之后的参数进行加密上传到许可链上；许可链节点收到客户端加密的数据，对数据进行解密并进行正确性验证；许可链节点进行共识，共识通过之后，计算客户端的信誉值和贡献值，并生成新的区块；智能合约对模型参数进行聚合，更新参数；智能合约判断是否达到模型预设收敛条件，如果没有则进行下一轮训练，如果到达则终止训练，根据客户端贡献值发放激励。本发明运用许可区块链和智能合约技术，解决联邦学习恶意客户端或参与方利用错误的梯度搜集和参数更新破坏训练的正确性，提供一种激励机制，增加各参与方之间提供数据、更新网络模型参数的积极性，同时提高了隐私数据的安全性。

Description

一种基于许可链的联邦学习激励方法及系统
技术领域
本发明涉及针对区块链领域，特别是涉及一种基于许可链的联邦学习激励方法及系统。
背景技术
许可链是由若干个机构共同参与管理的区块链，每个机构都运行着一个或多个节点，只有被许可的节点才能参与投票、记账、建块。传统的机器学习将数据集中到服务端，通过运行机器学习算法训练相应的模型。当前，随着用户对隐私保护的重视，此类算法面临着巨大的隐私挑战。而联邦学习将用户数据留存在本地，仅收集模型参数，从而大大降低用户数据泄露的风险。
联邦学习系统作为一个多个客户端贡献本地数据合作训练一个统一的模型的学习方法，其局限性在于该模型只依赖于一个单一的中央服务器，容易受到服务器故障的影响以及如何公平地评估各个参与方的贡献量，如何保护数据的隐私性。
基于此，提出一种基于许可链的联邦学习激励方法及系统，解决联邦学习正确性、公平激励机制，以及提高数据的隐私性。
发明内容
有鉴于现有技术的上述缺陷，本发明所要解决的技术问题是提供本发明针对目前技术发展的需求和不足之处，提供一种基于许可链的联邦学习激励方法及系统。
首先，本发明提供一种基于许可链的联邦学习激励方法，解决上述技术问题采的技术方案如下：
S01、客户端注册和认证，各个客户端向许可链进行注册，许可链对各个客户端进行认证，发放证书；
S02、许可链的智能合约运行，从一组符合资格要求的客户端中采样；
S03、客户端从许可链下载训练模型和程序；
S04、客户端通过执行训练程序在本地计算对模型的参数进行更新，并将更新之后的参数进行加密上传到许可链上；
S05、许可链节点收到客户端加密的数据，对数据进行解密并进行正确性验证；
S06、许可链节点进行共识，共识通过之后，计算客户端的信誉值和贡献值，并生成新的区块；
S07、智能合约对模型参数进行聚合，更新参数；
S08、智能合约判断是否达到模型预设收敛条件，如果没有则进行下一轮训练，如果到达则终止训练，根据客户端贡献值发放激励。
其次，本发明还提供一种基于许可链的联邦学习激励系统，解决上述技术问题采的技术方案如下：
一种基于许可链的联邦学习激励系统，其包括：
(1)客户端，为数据拥有方，能够独立在本地进行机器学习训练，可以是各种终端设备也可以是服务器；
(2)许可链，为由若干个机构或单位共同参与管理的区块链，能够提供存储可信交易；
(3)智能合约，为运行在许可链的程序，是一种执行合约条款的可计算交易协议，通过程序代码规定合约条款和触发条件，一旦满足出发条件合约便会自行执行，能够对外提供联邦学习服务。
具体的，所涉及客户端认证方式可以是数字证书、令牌认证等认证方式。许可链是由若干个机构共同参与管理的区块链，每个机构都运行着一个或多个节点，只有被许可的节点才能参与投票、记账、建块。智能合约是运行在许可链上，联邦学习任务是通过智能合约进行管理，用户可以根据智能合约。智能合约运行根据预设条件选取一组符合资格要求的客户端中进行采样。客户端从许可链下载训练模型和程序，客户端通过智能合约获取初始的训练模型和程序地址，下载初始的训练模型和程序之后，在本地完成初始化，使用梯度下降方法在本地进行训练。加密方式可以是RSA算法、DSA算法、ECC算法、DH算法等非对称加密算法。正确性验证是共识节点验证模型参数是否有效，并进行投票共识。共识算法使用拜占庭类共识算法，各个共识节点验证客户端模型参数的准确性，并计算更新客户端的贡献值和信誉值存储在许可链上，其中贡献值与客户端数据量相关，信誉值与贡献次数、贡献准确次数相关。智能合约将收到的模型参数进行聚合，对收到的模型参数使用可以使用加权平均，也可以是中位数取值。智能合约通过判断聚合之后模型参数是否到达收敛条件，根据客户端贡献值发放激励。
附图说明
后文将参照附图以示例性而非限制性的方式详细描述本发明的一些具体实施例。附图中相同的附图标记标示了相同或类似的部件或部分。本领域技术人员应该理解，这些附图未必是按比例绘制的。本发明的目标及特征考虑到如下结合附图的描述将更加明显，附图中：
图1为本发明基于许可链的联邦学习激励方法及系统的方法流程图。
具体实施方式
本发明本实施例提出一种基于许可链的联邦学习激励方法，该方法的实现过程包括：
S01、客户端C1、C2、C3、C4向许可链B进行注册，许可链B验证客户端C1、C2、C3、C4注册信息，通过认证之后向许可链B客户端C1、C2、C3、C4发放证书。
S02、用户U1根据联邦学习的智能合约模板创建智能合约S1，智能合约S1运行许可链B上，开始从客户端C1、C2、C3、C4采样，根据客户端的任务情况、硬件配置要求和信誉值，从客户端C1、C2、C3、C4选取客户端C1、C3进行联邦学习；
S03、客户端C1、C3从许可链B下载训练模型M和程序P，并进行本地初始化；
S04、客户端通过执行程序P在本地计算进行训练，采用梯度下降方法训练，计算梯度，梯度计算公式如下：
Figure BDA0002941585260000031
本地更新模型参数，并将更新之后的参数进行加密上传到许可链B上；
S05、许可链B各个节点收到客户端C1、C3加密的数据，对数据进行解密并进行正确性验证，正确性验证是共识节点对模型参数加载运行判断验证模型参数是否有效；
S06、许可链B节点进行共识，共识通过之后，计算客户端C1、C3的信誉值和贡献值，并生成新的区块；
S07、智能合约S模型M数进行聚合，聚合公式如下：
Figure BDA0002941585260000032
即当前模型ωt的客户端C1、C3数据集上计算平均梯度，然后将这些梯度集合起来并应用于更新中。
S08、智能合约S判断是否达到模型M预设收敛条件，如果没有则进行下一轮训练，如果到达则终止训练，智能合约根据客户端C1、C3贡献值发放对应的激励。

Claims (11)

1.一种基于许可链的联邦学习激励方法及系统，其特征在于，该方法的实现过程包括：
S01、客户端注册和认证，各个客户端向许可链进行注册，许可链对各个客户端进行认证，发放证书；
S02、许可链的智能合约运行，从一组符合资格要求的客户端中采样；
S03、客户端从许可链下载训练模型和程序；
S04、客户端通过执行训练程序在本地计算对模型的参数进行更新，并将更新之后的参数进行加密上传到许可链上；
S05、许可链节点收到客户端加密的数据，对数据进行解密并进行正确性验证；
S06、许可链节点进行共识，共识通过之后，计算客户端的信誉值和贡献值，并生成新的区块；
S07、智能合约对模型参数进行聚合，更新参数；
S08、智能合约判断是否达到模型预设收敛条件，如果没有则进行下一轮训练，如果到达则终止训练，并根据客户端贡献值发放激励。
2.根据权利要求1所述的一种基于许可链的联邦学习激励方法及系统，其特征在于，所述步骤S01中认证方式可以是数字证书、令牌认证等认证方式。
3.根据权利要求1所述的一种基于许可链的联邦学习激励方法及系统，其特征在于，所述步骤S01中许可链是由若干个机构共同参与管理的区块链，每个机构都运行着一个或多个节点，只有被许可的节点才能参与投票、记账、建块。
4.根据权利要求1所述的一种基于许可链的联邦学习激励方法及系统，其特征在于，所述步骤S02中智能合约是运行在许可链上，联邦学习任务是通过智能合约进行管理，用户可以根据智能合约。智能合约运行根据预设条件选取一组符合资格要求的客户端中进行采样。
5.根据权利要求1所述的一种基于许可链的联邦学习激励方法及系统，其特征在于，所述步骤S03客户端从许可链下载训练模型和程序，客户端通过智能合约获取初始的训练模型和程序地址，下载初始的训练模型和程序之后，在本地完成初始化，使用梯度下降方法在本地进行训练。
6.根据权利要求1所述的一种基于许可链的联邦学习激励方法及系统，其特征在于，所述步骤S04加密方式可以是RSA算法、DSA算法、ECC算法、DH算法等非对称加密算法。
7.根据权利要求1所述的一种基于许可链的联邦学习激励方法及系统，其特征在于，所述步骤S05正确性验证是通过验证模型的参数。
8.根据权利要求1所述的一种基于许可链的联邦学习激励方法及系统，其特征在于，所述步骤S06中共识算法使用拜占庭类共识算法，各个共识节点验证客户端模型参数的准确性，并计算更新客户端的贡献值和信誉值存储在许可链上，其中贡献值与客户端数据量相关，信誉值与贡献次数、贡献准确次数相关，信誉值直接影响到下次联邦学习任务执行客户端选取。
9.根据权利要求1所述的一种基于许可链的联邦学习激励方法及系统，其特征在于，所述步骤S07将收到的模型参数进行聚合，对收到的模型参数使用可以使用加权平均，也可以是中位数取值。
10.根据权利要求1所述的一种基于许可链的联邦学习激励方法及系统，其特征在于，所述步骤S08智能合约通过判断聚合之后模型参数是否到达收敛条件，如果到达则终止训练，根据客户端贡献值发放激励。
11.根据权利要求1所述的一种基于许可链的联邦学习激励方法及系统，其特征在于，其包括：
(1)客户端，为数据拥有方，能够独立在本地进行机器学习训练，可以是各种终端设备也可以是服务器；
(2)许可链，为由若干个机构或单位共同参与管理的区块链，能够提供存储可信交易；
(3)智能合约，为运行在许可链的程序，是一种执行合约条款的可计算交易协议，通过程序代码规定合约条款和触发条件，一旦满足出发条件合约便会自行执行，能够对外提供联邦学习服务。
CN202110181556.5A 2021-02-08 2021-02-08 一种基于许可链的联邦学习激励方法及系统 Active CN112861152B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110181556.5A CN112861152B (zh) 2021-02-08 2021-02-08 一种基于许可链的联邦学习激励方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110181556.5A CN112861152B (zh) 2021-02-08 2021-02-08 一种基于许可链的联邦学习激励方法及系统

Publications (2)

Publication Number Publication Date
CN112861152A true CN112861152A (zh) 2021-05-28
CN112861152B CN112861152B (zh) 2024-02-20

Family

ID=75989574

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110181556.5A Active CN112861152B (zh) 2021-02-08 2021-02-08 一种基于许可链的联邦学习激励方法及系统

Country Status (1)

Country Link
CN (1) CN112861152B (zh)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113408746A (zh) * 2021-06-22 2021-09-17 深圳大学 一种基于区块链的分布式联邦学习方法、装置及终端设备
CN113434269A (zh) * 2021-06-10 2021-09-24 湖南天河国云科技有限公司 基于区块链的分布式隐私计算方法及装置
CN113570065A (zh) * 2021-07-08 2021-10-29 国网河北省电力有限公司信息通信分公司 基于联盟链和联邦学习的数据管理方法、装置及设备
CN113591060A (zh) * 2021-08-24 2021-11-02 杭州电力设备制造有限公司 一种电网数据的应用方法、装置及系统
CN113657608A (zh) * 2021-08-05 2021-11-16 浙江大学 一种激励驱动的区块链联邦学习方法
CN113762528A (zh) * 2021-09-10 2021-12-07 北京航空航天大学 一种基于区块链的联邦信用评估方法
CN113992360A (zh) * 2021-10-01 2022-01-28 浙商银行股份有限公司 一种基于区块链跨链的联邦学习方法及设备
CN114070775A (zh) * 2021-10-15 2022-02-18 上海智能网联汽车技术中心有限公司 面向5g智能网联系统的区块链网络切片安全智能优化方法
CN114493594A (zh) * 2022-01-27 2022-05-13 中山大学 基于区块链和联邦学习的海洋数据共享方法、系统及介质
CN114707663A (zh) * 2022-04-15 2022-07-05 中国电信股份有限公司 分布式机器学习方法、装置、电子设备及存储介质
CN115017458A (zh) * 2022-04-29 2022-09-06 北京龙腾佳讯科技股份公司 安全多方计算数据中位数的方法及系统
CN116611851A (zh) * 2023-07-18 2023-08-18 四川远方云天食品科技有限公司 一种基于区块链的火锅底料产品溯源方法和系统
CN116957110A (zh) * 2023-09-20 2023-10-27 中国科学技术大学 一种基于联盟链的可信联邦学习方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190238316A1 (en) * 2018-01-31 2019-08-01 Salesforce.Com, Inc. Systems, methods, and apparatuses for implementing intelligent consensus, smart consensus, and weighted consensus models for distributed ledger technologies in a cloud based computing environment
CN111125779A (zh) * 2019-12-17 2020-05-08 山东浪潮人工智能研究院有限公司 一种基于区块链的联邦学习方法及装置
CN111901309A (zh) * 2020-07-03 2020-11-06 北京邮电大学 一种数据安全共享方法、系统及装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190238316A1 (en) * 2018-01-31 2019-08-01 Salesforce.Com, Inc. Systems, methods, and apparatuses for implementing intelligent consensus, smart consensus, and weighted consensus models for distributed ledger technologies in a cloud based computing environment
CN111125779A (zh) * 2019-12-17 2020-05-08 山东浪潮人工智能研究院有限公司 一种基于区块链的联邦学习方法及装置
CN111901309A (zh) * 2020-07-03 2020-11-06 北京邮电大学 一种数据安全共享方法、系统及装置

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113434269A (zh) * 2021-06-10 2021-09-24 湖南天河国云科技有限公司 基于区块链的分布式隐私计算方法及装置
CN113408746B (zh) * 2021-06-22 2023-03-14 深圳大学 一种基于区块链的分布式联邦学习方法、装置及终端设备
CN113408746A (zh) * 2021-06-22 2021-09-17 深圳大学 一种基于区块链的分布式联邦学习方法、装置及终端设备
CN113570065A (zh) * 2021-07-08 2021-10-29 国网河北省电力有限公司信息通信分公司 基于联盟链和联邦学习的数据管理方法、装置及设备
CN113657608A (zh) * 2021-08-05 2021-11-16 浙江大学 一种激励驱动的区块链联邦学习方法
CN113591060A (zh) * 2021-08-24 2021-11-02 杭州电力设备制造有限公司 一种电网数据的应用方法、装置及系统
CN113591060B (zh) * 2021-08-24 2024-01-23 杭州电力设备制造有限公司 一种电网数据的应用方法、装置及系统
CN113762528A (zh) * 2021-09-10 2021-12-07 北京航空航天大学 一种基于区块链的联邦信用评估方法
CN113992360A (zh) * 2021-10-01 2022-01-28 浙商银行股份有限公司 一种基于区块链跨链的联邦学习方法及设备
CN113992360B (zh) * 2021-10-01 2024-01-30 浙商银行股份有限公司 一种基于区块链跨链的联邦学习方法及设备
CN114070775A (zh) * 2021-10-15 2022-02-18 上海智能网联汽车技术中心有限公司 面向5g智能网联系统的区块链网络切片安全智能优化方法
CN114493594A (zh) * 2022-01-27 2022-05-13 中山大学 基于区块链和联邦学习的海洋数据共享方法、系统及介质
CN114493594B (zh) * 2022-01-27 2023-11-21 中山大学 基于区块链和联邦学习的海洋数据共享方法、系统及介质
CN114707663A (zh) * 2022-04-15 2022-07-05 中国电信股份有限公司 分布式机器学习方法、装置、电子设备及存储介质
CN114707663B (zh) * 2022-04-15 2024-02-23 中国电信股份有限公司 分布式机器学习方法、装置、电子设备及存储介质
CN115017458A (zh) * 2022-04-29 2022-09-06 北京龙腾佳讯科技股份公司 安全多方计算数据中位数的方法及系统
CN116611851A (zh) * 2023-07-18 2023-08-18 四川远方云天食品科技有限公司 一种基于区块链的火锅底料产品溯源方法和系统
CN116957110A (zh) * 2023-09-20 2023-10-27 中国科学技术大学 一种基于联盟链的可信联邦学习方法及系统
CN116957110B (zh) * 2023-09-20 2024-01-05 中国科学技术大学 一种基于联盟链的可信联邦学习方法及系统

Also Published As

Publication number Publication date
CN112861152B (zh) 2024-02-20

Similar Documents

Publication Publication Date Title
CN112861152A (zh) 一种基于许可链的联邦学习激励方法及系统
CN110473105B (zh) 一种区块链交易结算方法、系统及相关设备
US11210661B2 (en) Method for providing payment gateway service using UTXO-based protocol and server using same
US11477032B2 (en) System and method for decentralized-identifier creation
CN110419053B (zh) 用于信息保护的系统和方法
WO2021043063A1 (zh) 凭证验证方法、装置、设备与可读存储介质
CN102438013B (zh) 基于硬件的证书分发
Mukta et al. Blockchain-based verifiable credential sharing with selective disclosure
CN112187712B (zh) 一种去中心移动众包中对信任的匿名认证方法及系统
CN112527912B (zh) 基于区块链网络的数据处理方法、装置及计算机设备
CN106254374A (zh) 一种具备去重功能的云数据公开审计方法
CN110535648A (zh) 电子凭证生成及验证和密钥控制方法、装置、系统和介质
CN112953978B (zh) 一种多重签名认证方法、装置、设备及介质
CN111815321A (zh) 交易提案的处理方法、装置、系统、存储介质和电子装置
CN112291062B (zh) 一种基于区块链的投票方法及装置
CN112565264B (zh) 一种基于区块链的云存储数据完整性检测方法
CN107920052A (zh) 一种加密方法及智能装置
CN113344222A (zh) 一种基于区块链的安全可信的联邦学习机制
CN104125230A (zh) 一种短信认证服务系统以及认证方法
WO2019005612A1 (en) SYSTEM AND METHOD FOR CRYPTOGRAPHIC CHAIN-BASED VERIFICATION OF POSTAGE TRANSACTION RECORDINGS
CN114187006A (zh) 一种基于区块链监管的联邦学习方法
CN115277010A (zh) 身份认证方法、系统、计算机设备和存储介质
CN110138558A (zh) 会话密钥的传输方法、设备及计算机可读存储介质
CN110910110A (zh) 一种数据处理方法、装置及计算机存储介质
US11362806B2 (en) System and methods for recording codes in a distributed environment

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant