CN113194126B - 一种基于区块链的横向联邦学习模型构建方法 - Google Patents
一种基于区块链的横向联邦学习模型构建方法 Download PDFInfo
- Publication number
- CN113194126B CN113194126B CN202110428509.6A CN202110428509A CN113194126B CN 113194126 B CN113194126 B CN 113194126B CN 202110428509 A CN202110428509 A CN 202110428509A CN 113194126 B CN113194126 B CN 113194126B
- Authority
- CN
- China
- Prior art keywords
- node
- federal learning
- transverse
- blockchain
- learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000010276 construction Methods 0.000 title claims abstract description 11
- 230000002776 aggregation Effects 0.000 claims abstract description 79
- 238000004220 aggregation Methods 0.000 claims abstract description 79
- 238000012549 training Methods 0.000 claims abstract description 47
- 238000000034 method Methods 0.000 claims abstract description 20
- 238000012360 testing method Methods 0.000 claims abstract description 12
- 238000004422 calculation algorithm Methods 0.000 claims description 10
- 230000007246 mechanism Effects 0.000 claims description 5
- 238000004891 communication Methods 0.000 claims description 4
- 238000004088 simulation Methods 0.000 claims description 4
- 125000004122 cyclic group Chemical group 0.000 claims description 3
- 238000001514 detection method Methods 0.000 claims description 3
- 230000008569 process Effects 0.000 description 7
- 238000010801 machine learning Methods 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 238000013526 transfer learning Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000002860 competitive effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000035515 penetration Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/104—Peer-to-peer [P2P] networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/133—Protocols for remote procedure calls [RPC]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L9/00—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
- H04L9/08—Key distribution or management, e.g. generation, sharing or updating, of cryptographic keys or passwords
- H04L9/0816—Key establishment, i.e. cryptographic processes or cryptographic protocols whereby a shared secret becomes available to two or more parties, for subsequent use
- H04L9/0819—Key transport or distribution, i.e. key establishment techniques where one party creates or otherwise obtains a secret value, and securely transfers it to the other(s)
- H04L9/0825—Key transport or distribution, i.e. key establishment techniques where one party creates or otherwise obtains a secret value, and securely transfers it to the other(s) using asymmetric-key encryption or public key infrastructure [PKI], e.g. key signature or public key certificates
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L9/00—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
- H04L9/50—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols using hash chains, e.g. blockchains or hash trees
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Computer Security & Cryptography (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供一种基于区块链的横向联邦学习模型构建方法,包括如下步骤:在每个本地服务器上均同时部署横向联邦学习节点和区块链节点;初始化;各横向联邦学习节点接收到中心聚合节点发起的训练请求后进行训练并得到梯度值;分别将各梯度值发送至区块链和中心聚合节点;生成学习模型;利用测试集对学习模型进行预测,在预测准确率低于阈值时,将中心聚合节点收到梯度值的与区块链存储的梯度值进行对比,并降低或者清零可疑节点的聚合权重,再重新进行训练与聚合分析,直至生成符合要求的学习模型。本发明能够及时发现并剔除恶意节点,避免生成错误或者失效模型,防止出现更严重的问题。
Description
技术领域
本发明涉及一种基于区块链的横向联邦学习模型构建方法。
背景技术
联邦学习的本质是一种分布式的机器学习框架,不同的节点分别部署在不同的服务器中,并且每个节点对应一个数据提供者的实体。在进行新一轮的联邦学习训练时,由某个中心聚合节点发起训练的请求,通过网络传输将训练信息发送给其他若干节点。其他节点在接收到训练请求信息后,根据本地数据库所记录的数据进行本地化机器学习训练,并且将训练的梯度返回给中心聚合节点。中心节点在接收到其他节点返回的梯度值后,进行模型参数的聚合或根据结果调整训练策略,进行下一轮的训练,并最终聚合生成模型参数,获得联邦机器学习的模型,并将其发布到训练参与者的网络中,提供给其他参与者进行使用。联邦学习的训练方式可以避免参与者上传自身的数据,仅仅将训练后的梯度上传,这样将大大保证参与者自身的数据安全。
总的来说,联邦学习分为三大类型:横向联邦学习(Horizontal FederateLearning),纵向联邦学习(Vertical Federate Learning)和联邦迁移学习(FederateTransfer Learning),横向联邦学习的参与节点的本地数据特征相似,但每个节点的本地数据量较少,单个节点不足以完成一次完整的机器学习,因此进行联合训练;纵向联邦学习的参与节点的本地数据特征不同,样本数据量充足,但由于本地节点的特征较少,因此需要同其他节点一起进行联合训练;联邦迁移学习的不同参与节点间,特征重叠少,用户重叠也少,因此需要进行迁移学习算法才能完成训练。
过去几年,联邦学习在计算机科学领域内大放异彩,其最大的贡献在于解决了数据孤岛的问题,能够将不同实体的宝贵数据进行联合训练,使这些数据产生更大的价值。但现有的联邦学习框架只保护了数据的安全,并没有保护聚合模型的安全。各联邦学习节点需要通过网络协议向中心聚合节点反馈梯度值,如此即导致中心聚合节点所接收到的梯度值可能是已经被恶意篡改过的,或者某个联邦学习节点受到攻击者的控制,在训练后对联邦学习节点返回的梯度值进行参考,从而发送给中心聚合节点错误的信息,而中心聚合节点并不能很好的将其分辨出来,这样会导致最后生成的模型有很大的偏差,甚至生成失效模型。如果其他联邦学习节点在不知情的情况下使用了该模型进行预测,则会导致更严重的问题。
发明内容
本发明的目的是针对现有技术的不足,提出一种基于区块链的横向联邦学习模型构建方法,能够及时发现并剔除恶意节点,避免生成错误或者失效模型,防止出现更严重的问题。
本发明通过以下技术方案实现:
一种基于区块链的横向联邦学习模型构建方法,包括如下步骤:
A、在每个本地服务器上均同时部署横向联邦学习节点和区块链节点,在中心服务器上部署横向联邦学习的中心聚合节点,中心聚合节点通
过相应的网络协议分别与各横向联邦学习节点连接;
B、使各横向联邦学习节点和区块链节点进行网络的初始化,并对区块
链进行初始化;
C、中心聚合节点发起联邦学习的训练请求,中心服务器通过网络协议将该训练请求发送至各参与的横向联邦学习节点所在的本地服务器上,各本地服务器上的横向联邦学习节点接收到该训练请求后进行训练,训练结束后,各横向联邦学习节点所在的本地服务器均得到对应的梯度值,与横向联邦学习节点部署在同一本地服务器上的区块链节
点即得到该梯度值;
D、各区块链节点将其对应的梯度值发送至区块链进行记录和存储;各横向联邦学习节点则将其对应的梯度值反馈至中心聚合节点;
E、中心聚合节点收到各横向联邦学习节点反馈的梯度值后,根据各横向联邦学习节点当前的聚合权重进行聚合分析,以计算出模型参数,并根据已确定的生成算法和该模型参数生成学习模型;
F、中心聚合节点利用预设的测试集对学习模型进行模拟预测,并判断得出的预测准确率是否低于预设的阈值,若是,则进入步骤G;否则,进入步骤L;
G、由中心聚合节点发起质询,读取区块链所记录的每个横向联邦学习节点对应的梯度值,将从区块链读取的梯度值与收到的梯度值进行对比,判断是否有横向联邦学习节点反馈的梯度值与其记录在区块链中的梯度值不符的情况,若有,进入步骤H;否则,进入步骤K;
H、中心聚合节点判断该横向联邦学习节点出现步骤F所述的不符的情况的次数,若小于n次,则进入步骤I;若等于n次,则进入步骤J;其中,n为不小于2的整数;
I、中心聚合节点对出现所述不符的横向联邦学习节点打上不可信标签,并将该横向联邦学习节点的聚合权重降低m;并进入步骤C;其中, m>0;
J、中心聚合节点将该横向联邦学习节点的聚合权重设置为零;并进入步骤C;
K、调整生成算法,并进入步骤C;
L、中心聚合节点将生成的学习模型公布至各参与学习的横向联邦学习节点。
进一步的,所述步骤A中,利用开源的自动化脚本语言FATE语言编写横向联邦学习节点程序,并在横向联邦学习节点程序内加入区块链节点程序,以实现将横向联邦学习节点和区块链节点部署在同一本地服务器上。
进一步的,所述步骤F中,所述测试集提供有输入数据和预期输出,利用测试集提供的输入数据对学习模型进行模拟预测后得到模型输出,预测准确率=|预期输出-模型输出|/预期输出*100%。
进一步的,所述步骤C中,中心聚合节点向各参与学习的横向联邦学习节点所在的本地服务器发送训练请求的广播,各横向联邦学习节点收到广播后开始读取训练内容,再根据训练内容加载本地服务器上的本地数据,进行训练。
进一步的,所述步骤D中,本地服务器调用API接口,将梯度值发送给区块链的智能合约的RPC接口,再通过区块链的共识机制将梯度值记录和存储在区块链中。
进一步的,所述步骤E中,中心聚合节点收到各横向联邦学习节点反馈的梯度值后,检查是否有横向联邦学习节点出现断线或者未发回信息的情况,如果有则启动通讯故障排查程序,如果没有则进行所述聚合分析。
进一步的,所述步骤I中,m为该横向联邦学习节点当前聚合权重的 10%-30%。
进一步的,所述步骤H中,n取值为3。
进一步的,所述步骤B中对区块链进行初始化包括如下步骤:
B1、由区块链的系统工程师根据整体系统网络,配置并创建第一个创世区块,该创世区块被标记为0号区块;
B2、每个区块链节点都生成自己的公私钥对,公钥广播到区块链中,让其他区块链节点知悉,私钥留存在本地用以进行签名等操作;
B3、各个区块链节点完成第一轮循环检索与共识,当初始化检测成功完成后,即表示区块链系统启动成功。
进一步的,所述各本地服务器上的本地数据特征相同或者相似。
本发明具有如下有益效果:
1、本发明利用区块链存储各横向联邦学习节点训练得出的梯度值,中心聚合节点在进行聚合分析时,考虑各横向联邦学习节点当前的聚合权重,生成学习模型后,利用预设的测试集对学习模型进行模拟预测,当预测准确率低于预设的阈值时,则将该横向联邦学习节点反馈的梯度值与存储在区块链中的梯度值进行比较,因区块链具有不可篡改的特性,所记录在区块链中的梯度值是绝对可靠的,所以若发现两者不相同,则判断该横向联邦节点可能为恶意节点,进而降低其聚合权重,考虑到可能出现恶意篡改之外的意外情况,在出现不相同的情况小于n次时,并不完全剔除该横向联邦学习节点,仅降低其聚合权重,但若该横向联邦学习节点出现n次不相同的情况,则确定该横向联邦节点为恶意节点,则在进行下一轮聚合时,将该横向联邦学习节点反馈的梯度值剔除,以保证最终生成的学习模型的正确性。横向联邦学习节点和区块链节点同时部署在同一本地服务器上,使横向联邦学习框架与区块链的底层系统紧密结合,从而实现在区块链的智能合约上记录联邦学习的过程,不同于将横向联邦学习节点和区块链节点分别布置在不同的本地服务器上的方案,横向联邦学习节点训练后得到的梯度值无需经过网络传输即可被区块链节点知悉,故而区块链在记录和存储梯度值的过程不涉及如网络模块之类的第三方模块,进一步增强安全性和保密性;再者,虽然区块链中记录和存储有绝对正确的梯度值,但中心聚合节点依然是从各横向联邦学习节点获得梯度值,而不是直接从区块链中读取各横向联邦学习节点的梯度值,这是因为区块链的去中心化特性,导致了其计算和运行效率均相对低下,虽然其提供了非常高的安全保障,但是横向联邦学习模型构建通常涉及大规模的横向联邦学习节点,若每次都是通过区块链查询所有的梯度值再进行计算,整体的训练速度将会大大降低,甚至导致整个方案不具备可行性,而仅利用区块链进行记录和存储,当需要进行比对的时候再查询特定的某个或者某些梯度值,则既能保障训练速度,又能保障训练准确性。
附图说明
下面结合附图对本发明做进一步详细说明。
图1为本发明的框架示意图。
图2为本发明的流程图。
其中,1、本地服务器;11、横向联邦学习节点;12、区块链节点;13、 API接口;2、中心服务器;21、中心聚合节点;3、智能合约。
具体实施方式
区块链开创了一种在不可信的竞争环境中低成本建立信任的新型计算方式和协作模式,凭借其独有的信任建立机制,实现了穿透式监管和信任逐级传递。区块链源于加密数字货币,目前正在向垂直领域延伸,蕴含着巨大的变革潜力,有望成为数字经济信息基础设施的重要组件,正在改变诸多行业的发展图景。区块链的本质是一个去中心化的分布式数据库,参与区块链维护的各方被看作是一个独立的节点,每一个节点都有该区块链上所有数据的拷贝,如果攻击者想要篡改其中的某一条数据,则需要在很短的时间内同时修改大部分节点的数据库,并在下一次共识进行的时候生效。同时攻入多台服务器的防火墙并篡改同一条数据是非常困难的,仅在理论上存在可行性,因此区块链被认为具有非常强大的不可篡改性。
基于区块链的上述特性,为了保障横向联邦学习模型的准确性,将区块链结合进横向联邦学习框架。具体地,如图1和图2所示,基于区块链的横向联邦学习模型构建方法,包括如下步骤:
A、在每个本地服务器1上均同时部署横向联邦学习节点11和区块链节点12,在中心服务器2上部署横向联邦学习的中心聚合节点21,中心聚合节点21通过相应的网络协议分别与各横向联邦学习节点11连接;具体地,利用开源的自动化脚本语言FATE语言编写横向联邦学习节点11程序,并在横向联邦学习节点11程序内加入区块链节点12程序,以实现将横向联邦学习节点11和区块链节点12同时部署在同一
本地服务器1上;
B、使各横向联邦学习节点11和区块链节点12进行网络的初始化,并对区块链进行初始化;横向联邦学习节点11和区块链节点12进行网络初始化的具体过程为现有技术;区块链的初始化则包括如下步骤:
B1、由区块链的系统工程师根据整体系统网络,配置并创建第一个创世区块,该创世区块被标记为0号区块;
B2、每个区块链节点12都生成自己的公私钥对,公钥广播到区块链中,让其他区块链节点12知悉,私钥留存在本地用以进行签名等操作;
B3、各个区块链节点12完成第一轮循环检索与共识,当初始化检测成功完成后,即表示区块链系统启动成功;
C、中心聚合节点21发起联邦学习的训练请求,中心服务器2通过网络协议将该训练请求发送至各参与学习的横向联邦学习节点11所在的本地服务器1上,各本地服务器1上的横向联邦学习节点11接收到该训练请求后进行训练,训练结束后,各横向联邦学习节点11所在的本地服务器1均得到对应的梯度值,与横向联邦学习节点11部署在同一本地服务器1上的区块链节点12即得到该梯度值;更具体地,中心聚合节点21向各横向联邦学习节点11所在的本地服务器1发送训练请求的广播,各横向联邦学习节点11收到广播后开始读取训练内容,再根据训练内容加载服务器上的本地数据,进行训练;其中,网络协议
为现有技术;
D、各区块链节点12将其对应的梯度值发送至区块链进行记录和存储, 具体地,本地服务器1调用API接口13,将梯度值发送给区块链的智能合约3的RPC接口,再通过区块链的共识机制将梯度值记录和存储在区块链中;各横向联邦学习节点11则通过网络协议将其对应的梯度值反馈至中心聚合节点21;其中,区块链的共识机制为现有技术;
E、中心聚合节点21收到各横向联邦学习节点11反馈的梯度值后,检查是否有横向联邦学习节点11出现断线或者未发回信息的情况,如果有则启动通讯故障排查程序,如果没有,则根据各横向联邦学习节点11当前的聚合权重进行聚合分析,以计算出模型参数,并根据已确定的生成算法和该模型参数生成学习模型;其中,检查是否出现断线或者未发回信息的过程、以及通讯故障排查程序,均为现有技术;
F、中心聚合节点21利用预设的测试集对学习模型进行模拟预测,并判断得出的预测准确率是否低于预设的阈值,若是,则进入步骤G;否则,进入步骤L;其中,测试集为预先设定好的数据集,其提供有输入数据和预期输出,利用测试集提供的输入数据对学习模型进行模拟预测后得到模型输出,则预测准确率=|预期输出-模型输出|/预期输出 *100%;
G、由中心聚合节点21发起质询,读取区块链所记录的每个横向联邦学习节点11对应的梯度值,将从区块链读取的梯度值与收到的梯度值进行对比,判断是否有横向联邦学习节点11反馈的梯度值与其记录在区块链中的梯度值不符的情况,若有,进入步骤H;否则,进入步骤K; H、中心聚合节点21判断该横向联邦学习节点11出现步骤F所述的不符的情况的次数,若小于n次,则进入步骤I;若等于n次,则进入步骤J;其中,n为不小于2的整数;在本实施例中,n取值为3;其中,根据该横向联邦学习节点11被打上不可信标签的次数来确定出现不符情况的次数,判断过程为现有技术;
I、中心聚合节点21对出现所述不符的横向联邦学习节点11打上不可信标签,并将该横向联邦学习节点11的聚合权重降低m;并进入步骤 C;其中,m>0,且具体为该横向联邦学习节点11当前聚合权重的 10%-30%,在本实施例中,m取值为20%;其中,打上不可信标签的过
程为现有技术;
J、中心聚合节点21将该横向联邦学习节点11的聚合权重设置为零,如此即能够在进行下一轮聚合分析时,将该横向联邦学习节点11剔除;并进入步骤C;各本地服务器1上的本地数据特征相同或者相似,因此在聚合分析时,将某些横向联邦学习节点11剔除,也不会影响训练数
据的特征,仍然能够得到正确的结果;
K、调整生成算法,并进入步骤C;生成算法是现有技术,在不存在恶意节点的情况下,聚合分析所得到的学习模型仍然不正确,那就意味着生成算法选择不够准确,即需要对生成算法进行调整,该调整过程
也为现有技术;
L、中心聚合节点21将生成的学习模型公布至各横向联邦学习节点11。
以上所述,仅为本发明的较佳实施例而已,故不能以此限定本发明实施的范围,即依本发明申请专利范围及说明书内容所作的等效变化与修饰,皆应仍属本发明专利涵盖的范围内。
Claims (10)
1.一种基于区块链的横向联邦学习模型构建方法,其特征在于:包括如下步骤:
A、在每个本地服务器上均同时部署横向联邦学习节点和区块链节点,在中心服务器上部署横向联邦学习的中心聚合节点,中心聚合节点通过相应的网络协议分别与各横向联邦学习节点连接;
B、使各横向联邦学习节点和区块链节点进行网络的初始化,并对区块链进行初始化;
C、中心聚合节点发起联邦学习的训练请求,中心服务器通过网络协议将该训练请求发送至各参与的横向联邦学习节点所在的本地服务器上,各本地服务器上的横向联邦学习节点接收到该训练请求后进行训练,训练结束后,各横向联邦学习节点所在的本地服务器均得到对应的梯度值,与横向联邦学习节点部署在同一本地服务器上的区块链节点即得到该梯度值;
D、各区块链节点将其对应的梯度值发送至区块链进行记录和存储;各横向联邦学习节点则将其对应的梯度值反馈至中心聚合节点;
E、中心聚合节点收到各横向联邦学习节点反馈的梯度值后,根据各横向联邦学习节点当前的聚合权重进行聚合分析,以计算出模型参数,
并根据已确定的生成算法和该模型参数生成学习模型;
F、中心聚合节点利用预设的测试集对学习模型进行模拟预测,并判断得出的预测准确率是否低于预设的阈值,若是,则进入步骤G;否则,进入步骤L;
G、由中心聚合节点发起质询,读取区块链所记录的每个横向联邦学习节点对应的梯度值,将从区块链读取的梯度值与收到的梯度值进行对比,判断是否有横向联邦学习节点反馈的梯度值与其记录在区块链中的梯度值不符的情况,若有,进入步骤H;否则,进入步骤K;
H、中心聚合节点判断该横向联邦学习节点出现步骤F所述的不符的情况的次数,若小于n次,则进入步骤I;若等于n次,则进入步骤J;其中,n为不小于2的整数;
I、中心聚合节点对出现所述不符的横向联邦学习节点打上不可信标签,并将该横向联邦学习节点的聚合权重降低m;并进入步骤C;其中,m>0;
J、中心聚合节点将该横向联邦学习节点的聚合权重设置为零;并进入步骤C;
K、调整生成算法,并进入步骤C;
L、中心聚合节点将生成的学习模型公布至各参与学习的横向联邦学习节点。
2.根据权利要求1所述的一种基于区块链的横向联邦学习模型构建方法,其特征在于:所述步骤A中,利用开源的自动化脚本语言FATE语言编写横向联邦学习节点程序,并在横向联邦学习节点程序内加入区块链节点程序,以实现将横向联邦学习节点和区块链节点部署在同一本地服务器上。
3.根据权利要求1所述的一种基于区块链的横向联邦学习模型构建方法,其特征在于:所述步骤F中,所述测试集提供有输入数据和预期输出,利用测试集提供的输入数据对学习模型进行模拟预测后得到模型输出,预测准确率=|预期输出-模型输出|/预期输出*100%。
4.根据权利要求1或2或3所述的一种基于区块链的横向联邦学习模型构建方法,其特征在于:所述步骤C中,中心聚合节点向各参与学习的横向联邦学习节点所在的本地服务器发送训练请求的广播,各横向联邦学习节点收到广播后开始读取训练内容,再根据训练内容加载本地服务器上的本地数据,进行训练。
5.根据权利要求1或2或3所述的一种基于区块链的横向联邦学习模型构建方法,其特征在于:所述步骤D中,本地服务器调用API接口,将梯度值发送给区块链的智能合约的RPC接口,再通过区块链的共识机制将梯度值记录和存储在区块链中。
6.根据权利要求1或2或3所述的一种基于区块链的横向联邦学习模型构建方法,其特征在于:所述步骤E中,中心聚合节点收到各横向联邦学习节点反馈的梯度值后,检查是否有横向联邦学习节点出现断线或者未发回信息的情况,如果有则启动通讯故障排查程序,如果没有则进行所述聚合分析。
7.根据权利要求1或2或3所述的一种基于区块链的横向联邦学习模型构建方法,其特征在于:所述步骤I中,m为该横向联邦学习节点当前聚合权重的10%-30%。
8.根据权利要求1或2或3所述的一种基于区块链的横向联邦学习模型构建方法,其特征在于:所述步骤H中,n取值为3。
9.根据权利要求1或2或3所述的一种基于区块链的横向联邦学习模型构建方法,其特征在于:所述步骤B中对区块链进行初始化包括如下步骤:
B1、由区块链的系统工程师根据整体系统网络,配置并创建第一个创世区块,该创世区块被标记为0号区块;
B2、每个区块链节点都生成自己的公私钥对,公钥广播到区块链中,让其他区块链节点知悉,私钥留存在本地用以进行签名等操作;
B3、各个区块链节点完成第一轮循环检索与共识,当初始化检测成功完成后,即表示区块链系统启动成功。
10.根据权利要求1或2或3所述的一种基于区块链的横向联邦学习模型构建方法,其特征在于:所述各本地服务器上的本地数据特征相同或者相似。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110428509.6A CN113194126B (zh) | 2021-04-21 | 2021-04-21 | 一种基于区块链的横向联邦学习模型构建方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110428509.6A CN113194126B (zh) | 2021-04-21 | 2021-04-21 | 一种基于区块链的横向联邦学习模型构建方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113194126A CN113194126A (zh) | 2021-07-30 |
CN113194126B true CN113194126B (zh) | 2023-10-27 |
Family
ID=76978033
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110428509.6A Active CN113194126B (zh) | 2021-04-21 | 2021-04-21 | 一种基于区块链的横向联邦学习模型构建方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113194126B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114070775B (zh) * | 2021-10-15 | 2023-07-07 | 上海智能网联汽车技术中心有限公司 | 面向5g智能网联系统的区块链网络切片安全智能优化方法 |
CN114124522A (zh) * | 2021-11-22 | 2022-03-01 | 北京天融信网络安全技术有限公司 | 用于多级系统的模型训练方法、装置、设备及存储介质 |
CN114372581B (zh) * | 2022-02-25 | 2024-03-19 | 中国人民解放军国防科技大学 | 基于区块链的联邦学习方法、装置和计算机设备 |
CN114330759B (zh) * | 2022-03-08 | 2022-08-02 | 富算科技(上海)有限公司 | 一种纵向联邦学习模型的训练方法及系统 |
CN114297722B (zh) * | 2022-03-09 | 2022-07-05 | 广东工业大学 | 一种基于区块链的隐私保护异步联邦共享方法及系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111125779A (zh) * | 2019-12-17 | 2020-05-08 | 山东浪潮人工智能研究院有限公司 | 一种基于区块链的联邦学习方法及装置 |
CN111212110A (zh) * | 2019-12-13 | 2020-05-29 | 清华大学深圳国际研究生院 | 一种基于区块链的联邦学习系统及方法 |
CN111552986A (zh) * | 2020-07-10 | 2020-08-18 | 鹏城实验室 | 基于区块链的联邦建模方法、装置、设备及存储介质 |
CN112631605A (zh) * | 2020-12-31 | 2021-04-09 | 深圳前海微众银行股份有限公司 | 联邦学习模型的代码编译方法、装置、设备及存储介质 |
-
2021
- 2021-04-21 CN CN202110428509.6A patent/CN113194126B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111212110A (zh) * | 2019-12-13 | 2020-05-29 | 清华大学深圳国际研究生院 | 一种基于区块链的联邦学习系统及方法 |
CN111125779A (zh) * | 2019-12-17 | 2020-05-08 | 山东浪潮人工智能研究院有限公司 | 一种基于区块链的联邦学习方法及装置 |
CN111552986A (zh) * | 2020-07-10 | 2020-08-18 | 鹏城实验室 | 基于区块链的联邦建模方法、装置、设备及存储介质 |
CN112631605A (zh) * | 2020-12-31 | 2021-04-09 | 深圳前海微众银行股份有限公司 | 联邦学习模型的代码编译方法、装置、设备及存储介质 |
Non-Patent Citations (1)
Title |
---|
机器学习的隐私保护研究综述;刘俊旭;孟小峰;;计算机研究与发展(第02期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113194126A (zh) | 2021-07-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113194126B (zh) | 一种基于区块链的横向联邦学习模型构建方法 | |
CN111181946B (zh) | 一种基于区块链和物联网的可信溯源系统及方法 | |
CN111612613B (zh) | 一种部署有中心化系统的区块链网络 | |
CN112765677B (zh) | 一种基于区块链的联邦学习方法、装置和系统 | |
CN105653315B (zh) | 一种基于区块链技术的节点化操作系统下载方法 | |
CN113992360A (zh) | 一种基于区块链跨链的联邦学习方法及设备 | |
CN110995448A (zh) | 一种基于区块链的物联网设备身份认证方法、认证系统 | |
CN112069550B (zh) | 一种基于智能合约方式的电子合同存证系统 | |
CN111737352B (zh) | 一种基于区块链的供应链信息协同管理方法 | |
CN114580009B (zh) | 基于联邦学习的区块链数据管理方法、系统及存储介质 | |
CN110414983A (zh) | 基于区块链的征信信息处理方法、装置、设备及存储介质 | |
CN111555860B (zh) | 一种区块链节点共识方法、装置、电子设备及存储介质 | |
Lin et al. | DRL-based adaptive sharding for blockchain-based federated learning | |
CN110060157B (zh) | 信誉度评估方法及系统 | |
CN109284333A (zh) | 基于区块链的产业链数据维护方法及平台 | |
CN112101940A (zh) | 用区块链实施的随机可验证样本选取系统 | |
CN111625474B (zh) | 一种联盟链的自动测试方法 | |
CN110730074A (zh) | 一种嵌套式可溯源数字孪生体的实现方法及数据结构 | |
CN111865595A (zh) | 一种区块链的共识方法及装置 | |
CN117171786A (zh) | 一种抵御投毒攻击的去中心化联邦学习方法 | |
CN112699406A (zh) | 基于区块链的医疗影像数据安全管理方法和系统 | |
CN116797346A (zh) | 基于联邦学习的金融欺诈行为检测方法及系统 | |
CN115640846A (zh) | 一种基于区块链的面向数据不平衡问题的联邦学习方法 | |
CN112581097A (zh) | 一种基于区块链的责任追溯方法 | |
CN114499872B (zh) | 一种基于工业互联网的星火链跨链方法及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |