CN111966698B - 一种基于区块链的可信联邦学习方法、系统、装置及介质 - Google Patents

一种基于区块链的可信联邦学习方法、系统、装置及介质 Download PDF

Info

Publication number
CN111966698B
CN111966698B CN202010636559.9A CN202010636559A CN111966698B CN 111966698 B CN111966698 B CN 111966698B CN 202010636559 A CN202010636559 A CN 202010636559A CN 111966698 B CN111966698 B CN 111966698B
Authority
CN
China
Prior art keywords
committee
initial
model
determining
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010636559.9A
Other languages
English (en)
Other versions
CN111966698A (zh
Inventor
朱佳
马晓东
黄晋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
South China Normal University
Original Assignee
South China Normal University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by South China Normal University filed Critical South China Normal University
Priority to CN202010636559.9A priority Critical patent/CN111966698B/zh
Publication of CN111966698A publication Critical patent/CN111966698A/zh
Application granted granted Critical
Publication of CN111966698B publication Critical patent/CN111966698B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/23—Updating
    • G06F16/2379—Updates performed during online database operations; commit processing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
    • G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
    • G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
    • G06F21/6263—Protecting personal data, e.g. for financial or medical purposes during internet communication, e.g. revealing personal data from cookies
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G06N20/20—Ensemble learning
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Bioethics (AREA)
  • Medical Informatics (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Computer Hardware Design (AREA)
  • Computer Security & Cryptography (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于区块链的可信联邦学习方法、系统、装置及介质，方法包括：在区块链中选取客户节点组成初始委员会，确定初始共享全局模型；通过区块链中各个客户节点对所述初始共享全局模型进行训练，得到各个客户节点的本地模型更新信息；根据各个客户节点的本地模型更新信息，由所述初始委员会生成目标全局模型；通过动态多权重信誉模型确定目标委员会，开始新一轮训练，直至得到满足收敛要求的目标全局模型。本发明运用区块链技术去除了中心服务器，使得分布式客户端节点分散存储，提高了隐私数据的安全性，可广泛应用于区块链技术领域。

Description

一种基于区块链的可信联邦学习方法、系统、装置及介质
技术领域
本发明涉及区块链技术领域，尤其是一种基于区块链的可信联邦学习方法、系统、装置及介质。
背景技术
随着人工智能(AI)的飞速发展，各类手机应用为移动用户带来了出色的客户体验。但是，大多数AI技术需要大量的用户数据和个人隐私信息于中央服务器进行模型训练，从而导致过多不适用于移动设备的计算产生。另外，移动设备还面临严重的隐私泄露风险。
Google首先提出了联邦学习来解决协同计算下的隐私问题。传统的联邦学习由参与设备和中央服务器组成，参与设备不上传私有数据而只是迭代地将本地模型更新发送到中央服务器，中央服务器汇总各参与设备模型更新以聚合生成全局模型。尽管有上述巨大的好处，联邦学习仍然面临一些关键挑战。例如，集中式服务器可以使全局通过偏爱某些参与设备来建模，从而使整个制度不公平。此外，某些恶意中央服务器可能会破坏模型甚至收集设备更新中的隐私数据，安全性不高。
发明内容
有鉴于此，本发明实施例提供一种安全性高的基于区块链的可信联邦学习方法、系统、装置及介质。
本发明的第一方面提供了一种基于区块链的可信联邦学习方法，包括：
在区块链中选取客户节点组成初始委员会，确定初始共享全局模型；
通过区块链中各个客户节点对所述初始共享全局模型进行训练，得到各个客户节点的本地模型更新信息；
根据各个客户节点的本地模型更新信息，由所述初始委员会生成目标全局模型；
通过动态多权重信誉模型确定目标委员会，开始新一轮训练，直至得到满足收敛要求的目标全局模型。
在一些实施例中，所述在区块链中选取客户节点组成初始委员会，确定初始共享全局模型，包括：
确定目标比例；
从所述区块链中选取目标比例的客户节点组成初始委员会；
通过所述初始委员会随机确定初始共享全局模型；
将所述初始共享全局模型进行全网广播。
在一些实施例中，所述根据各个客户节点的本地模型更新信息，由所述初始委员会生成目标全局模型，包括：
所述初始委员会对各个客户节点的本地模型更新信息进行审核验证；
记录通过审核验证的本地模型更新信息；
将所述通过审核验证的本地模型更新信息聚合生成目标全局模型；
将所述目标全局模型上传至区块链。
在一些实施例中，所述通过动态多权重信誉模型确定目标委员会，包括：
将区块链中的客户节点划分为初始委员会和工作者；
计算所述初始委员会与所述工作者之间的互动效应值；
计算所述初始委员会与所述工作者之间的互动新鲜度；
计算各个客户节点的本地模型更新信息的验证分数；
根据所述互动效应值、互动新鲜度和验证分数，生成新的目标委员会和可信工作者。
在一些实施例中，所述计算所述初始委员会与所述工作者之间的互动效应值，包括：
确定所述工作者与所述初始委员会中的成员之间的互动次数；
确定正相互作用和负相互作用的权重值；
根据初始委员会对所述本地模型更新信息的审核验证结果，确定对应工作者的互动方向，所述互动方向包括正面互动和负面互动；
根据所述互动次数、权重值以及互动方向，计算互动效应值。
在一些实施例中，所述计算所述初始委员会与所述工作者之间的互动新鲜度，包括：
确定交互新鲜度的参数；
确定新鲜度褪色程度的时间段；
根据所述参数和所述时间段，计算工作者对委员会中的成员的互动新鲜度。
在一些实施例中，所述计算各个客户节点的本地模型更新信息的验证分数，包括：
通过委员会中的每个成员对工作者上传的本地模型更新信息进行质量评估，获取每个工作者的验证分数；
计算所有工作者的平均验证分数；
当所述平均验证分数小于指定阈值，则拒绝接受当前的本地模型更新信息。
本发明的第二方面提供了一种基于区块链的可信联邦学习系统，包括：
初始模型构建模块，用于在区块链中选取客户节点组成初始委员会，确定初始共享全局模型；
训练模块，用于通过区块链中各个客户节点对所述初始共享全局模型进行训练，得到各个客户节点的本地模型更新信息；
目标模型构建模块，用于根据各个客户节点的本地模型更新信息，由所述初始委员会生成目标全局模型；
目标模型优化模块，用于通过动态多权重信誉模型确定目标委员会，开始新一轮训练，直至得到满足收敛要求的目标全局模型。
本发明的第三方面提供了一种装置，包括处理器以及存储器；
所述存储器用于存储程序；
所述处理器用于根据所述程序执行如第一方面所述的方法。
本发明的第四方面提供了一种存储介质，所述存储介质存储有程序，所述程序被处理器执行完成如第一方面所述的方法。
本发明的实施例通过在区块链中选取客户节点组成初始委员会，确定初始共享全局模型；通过区块链中各个客户节点对所述初始共享全局模型进行训练，得到各个客户节点的本地模型更新信息；根据各个客户节点的本地模型更新信息，由所述初始委员会生成目标全局模型；通过动态多权重信誉模型确定目标委员会，开始新一轮训练，直至得到满足收敛要求的目标全局模型。本发明运用区块链技术去除了中心服务器，使得分布式客户端节点分散存储，提高了隐私数据的安全性。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例的联邦学习架构示意图；
图2为本发明实施例的整体步骤流程图；
图3为本发明实施例的基于FEMINST数据集的实验结果；
图4为本发明实施例的基于Credit 1数据集的实验结果。
具体实施方式
下面结合说明书附图和具体实施例对本发明作进一步解释和说明。对于本发明实施例中的步骤编号，其仅为了便于阐述说明而设置，对步骤之间的顺序不做任何限定，实施例中的各步骤的执行顺序均可根据本领域技术人员的理解来进行适应性调整。
针对现有技术存在的问题，本发明提供了一种基于区块链的架构来可以实现可靠的联邦学习。如图1所示，在此架构中，底层采用区块链技术存储全局模型并支持模型更新等系列操作上链，上层由各移动设备工作者构成联邦学习生态。与传统联邦学习不同的是，本发明采用去中心化散列存储的区块链技术作为底层技术代替传统联邦学习中。
参见图2，基于图1所示的整体架构，本发明的基于区块链的可信联邦学习方法包括以下步骤：
1)、区块链在所有客户节点中随机选取N％个客户节点组成委员会，委员会从预定义范围中随机选择具有初始参数的模型作为共享全局模型并全网广播。
2)、全局模型上链之后，各客户节点(在本实施例中也称为联邦学习工作者)可提交申请获取全局模型，并运用本地数据训练该全局模型。
3)、各客户节点训练得到本地模型梯度更新之后，将该梯度更新发送至委员会进行审核。
4)、委员会接受各客户节点发至的模型梯度更新，审核验证后有效记录本次更新。
5)、委员会收集到足够多的客户节点模型梯度更新后，汇总所有本地更新并聚合生成新的全局模型。
6)、委员会上传和更新全局模型到区块链，区块链智能合约调用动态多权重信誉模型选取新委员会。
7)、重复步骤2)-7)，直到模型收敛到理想效果，模型训练结束。
另外，在区块链工作流程中存在一个重要问题，即可信的工作者选择。由于移动网络架构的开放性和复杂性，充当工作者的设备可能会执行恶意且不可靠的模型更新。一方面，恶意工作者可能会故意发起严重攻击，例如，中毒攻击，即恶意工作者故意将有毒数据注入训练数据集中或修改训练数据集，以减少训练数据的真实性。另一方面，工作者可能会无意中产生的高流动性或计算约束。而有意和无意行为都具有对全局模型的准确性和收敛时间的负面影响，因此设计一个可信工作者选择模型必不可少的。
在可信联邦学习训练过程中，具有可靠培训数据的高信誉工作者起着至关重要的作用，因此解决可信工作者选择问题是可信联邦学习训练过程中必不可少的一环。本发明为了解决可信工作者选择问题，提出了动态多重权重信誉模型。本发明提出的可信联邦学习架构主要由工作者和委员会成员组成，最初的委员会成员是由区块链随机选取一定比例客户端节点组成，例如占总数的N％节点数，将被随机选为委员会成员，其余节点将充当工作者来执行训练。在每次迭代训练中，委员会将基于多种因素为每个工作者计算信誉。其中包括工人和委员会之间的互动效应、新鲜度以及委员会对工作者作用于全局模型的奖励得分。经过计算，信誉得分最高的前N％工人将被选为下一次迭代训练中的委员会成员，以替换当前的委员会成员并开启下一轮迭代训练。
下面将详细描述如何计算动态多重权重信誉模型的每个影响因子。
1、工作者与委员会之间的互动效应
通过本地模型更新的评估，工作者与委员会之间可分为正面和负面互动。积极互动可以增加工人的信誉，反之则减小，同时负面互动对信誉的影响更大，这意味着更高的惩罚。因此，对于时间窗口{t1,…,ty}，工作者j对委员会成员i的信誉价值可以表示为时间段ty(例如10分钟)的一个三元组：
Figure BDA0002568890490000051
其中，
Figure BDA0002568890490000052
和/>
Figure BDA0002568890490000053
分别表示相信、不相信和怀疑。本实施例将正和负相互作用的权重分别表示为k和η。k≤η和k+η＝1。因此，本实施例确定以下公式(1)：
Figure BDA0002568890490000054
其中，
Figure BDA0002568890490000055
表示数据包传输成功的概率；/>
Figure BDA0002568890490000056
是该时段ty内的正面或者负面的互动次数。如果委员会认为由工作者提供的本地模型更新是有用且可靠的，则可以将培训迭代视为自身与工人之间的积极互动，相反则记为负面互动，削减工人信誉值。
2、工作者与委员会之间的互动新鲜度
工作者的可信赖度是随着时间而动态变化的，并且在工作者与委员会之间的交互过程中，工作者将不会永远被信任，与此同时，具有更多新鲜度的交互比旧的交互具有更高的权重。因此，为了反映时间对声誉的影响，本实施例定义了一个函数来说明交互作用的新鲜度θ(ty)＝θy＝zY-y，其中z∈(0,1)是有关交互新鲜度的给定参数,而y∈[1,Y]是确定新鲜度褪色程度的时间段。因此，工作者j对委员会成员i的信誉价值在时间窗口中t可表示如下：
Figure BDA0002568890490000061
3、平均验证分数和最终信誉分数
一个联邦学习可以用不同的优化模型训练,例如AlexNet。具体而言，区块链委员会从预定义范围中随机选择具有初始参数的模型作为共享全局模型，其他工作者请求该模型进行本地训练，完成训练后他们的本地模型更新上传到区块链委员会。委员会的每个成员都会对其数据上的本地模型更新进行质量评估，以获得验证评分。一旦从所有委员会成员那里收集了验证分数，就可以计算平均验证分数AVS。如果本地模型更新的平均验证分数低于指定的阈值，则该本地模型更新将被拒绝。
此外，本实施例还检查了NON-IID(数量不平衡并且分布不独立)数据方案的局部模型更新的梯度更新多样性，如果他们在每次迭代中重复上传外观相似的渐变，则可以初步认定为不可靠的工作者。
每轮训练结束后都可计算得到最终的信誉得分FPS，如等式(3)所示，其中α∈[0,1]是系数,表示不确定性对声誉的影响程度。需要说明的一点是，本发明中用于计算的值都是先标准化的。最后，委员会为每个相关工作者分配FPS，区块链系统则选取最高FPS的N％工作者作为下一次迭代的委员会成员，完成可实现可信工作者的选择。
Figure BDA0002568890490000062
为了评估我们架构的有效性，本发明实施例在两个真实的联邦学习数据集上进行了评估，FEMNIST和Credit 1。FEMNIST数据集用于手写字符图像分类任务，Credit 1是用户是否会遭受严重财务问题的数据集。对于这两个数据集，本实施例模拟了100个设备，其中本地数据集是数量不平衡并且分布不独立(NON-IID)。本实施例采用了具有基于PBFT的开源区块链框架，并在一台Intel XEON E5-2678V3，时钟频率为2.50GHz，具有12个内核和每个内核2个线程的服务器上测试。学习训练模型采用Python 3.6.4和Tensorflow 1.14.0，在2个Geforce RTX 2080Ti GPU上执行。
实验中，本实施例主要做攻击下的测试，因为恶意工作者生成有害更新将大大降低全局模型的效果。通过模拟恶意节点攻击以演示本发明提出的框架BRFL，并将本发明的框架BRFL和传统技术的BFLC，Basic FL和CwMed做对比。
实验中，假设工作者的袭击是具有逐点高斯随机噪声的随机扰动。在本实验中评估了不同百分比的恶意工作者的影响，分别为10％，20％，30％，40％和50％。结果如下图3和图4所示，Basic FL没有实施任何防御措施，并且恶意工作者生成的模型更新也将被其整合，因此严重影响模型训练性能。CwMed构造了一个全局渐变，其中每个条目都是局部渐变具有相同的坐标，性能一般。BFLC和BRFL均依靠委员会的共识来抵抗攻击，工人的每次更新都会从委员会获得分数，由图可见，该两者表现普遍比前两者好。但是，相比BFLC，本发明引入动态多权重信誉模型的BRFL表现更加突出，尤其是在Credit 1数据集上。
本发明实施例还提供了一种基于区块链的可信联邦学习系统，包括：
初始模型构建模块，用于在区块链中选取客户节点组成初始委员会，确定初始共享全局模型；
训练模块，用于通过区块链中各个客户节点对所述初始共享全局模型进行训练，得到各个客户节点的本地模型更新信息；
目标模型构建模块，用于根据各个客户节点的本地模型更新信息，由所述初始委员会生成目标全局模型；
目标模型优化模块，用于通过动态多权重信誉模型确定目标委员会，开始新一轮训练，直至得到满足收敛要求的目标全局模型。
本发明实施例还提供了一种装置，包括处理器以及存储器；
所述存储器用于存储程序；
所述处理器用于根据所述程序执行上述的方法。
本发明实施例还提供了一种存储介质，所述存储介质存储有程序，所述程序被处理器执行完成如上述的方法。
在一些可选择的实施例中，在方框图中提到的功能/操作可以不按照操作示图提到的顺序发生。例如，取决于所涉及的功能/操作，连续示出的两个方框实际上可以被大体上同时地执行或所述方框有时能以相反顺序被执行。此外，在本发明的流程图中所呈现和描述的实施例以示例的方式被提供，目的在于提供对技术更全面的理解。所公开的方法不限于本文所呈现的操作和逻辑流程。可选择的实施例是可预期的，其中各种操作的顺序被改变以及其中被描述为较大操作的一部分的子操作被独立地执行。
此外，虽然在功能性模块的背景下描述了本发明，但应当理解的是，除非另有相反说明，所述的功能和/或特征中的一个或多个可以被集成在单个物理装置和/或软件模块中，或者一个或多个功能和/或特征可以在单独的物理装置或软件模块中被实现。还可以理解的是，有关每个模块的实际实现的详细讨论对于理解本发明是不必要的。更确切地说，考虑到在本文中公开的装置中各种功能模块的属性、功能和内部关系的情况下，在工程师的常规技术内将会了解该模块的实际实现。因此，本领域技术人员运用普通技术就能够在无需过度试验的情况下实现在权利要求书中所阐明的本发明。还可以理解的是，所公开的特定概念仅仅是说明性的，并不意在限制本发明的范围，本发明的范围由所附权利要求书及其等同方案的全部范围来决定。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，“计算机可读介质”可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。
计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。
应当理解，本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如，如果用硬件来实现，和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
尽管已经示出和描述了本发明的实施例，本领域的普通技术人员可以理解：在不脱离本发明的原理和宗旨的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由权利要求及其等同物限定。
以上是对本发明的较佳实施进行了具体说明，但本发明并不限于所述实施例，熟悉本领域的技术人员在不违背本发明精神的前提下还可做作出种种的等同变形或替换，这些等同的变形或替换均包含在本申请权利要求所限定的范围内。

Claims (5)

1.一种基于区块链的可信联邦学习方法，其特征在于，包括：
在区块链中选取客户节点组成初始委员会，确定初始共享全局模型；
通过区块链中各个客户节点对所述初始共享全局模型进行训练，得到各个客户节点的本地模型更新信息；
根据各个客户节点的本地模型更新信息，由所述初始委员会生成目标全局模型；
通过动态多权重信誉模型确定目标委员会，开始新一轮训练，直至得到满足收敛要求的目标全局模型；
所述通过动态多权重信誉模型确定目标委员会，包括：
将区块链中的客户节点划分为初始委员会和工作者；
计算所述初始委员会与所述工作者之间的互动效应值；
计算所述初始委员会与所述工作者之间的互动新鲜度；
计算各个客户节点的本地模型更新信息的验证分数；
根据所述互动效应值、互动新鲜度和验证分数，生成新的目标委员会和可信工作者；
所述计算所述初始委员会与所述工作者之间的互动效应值，包括：
确定所述工作者与所述初始委员会中的成员之间的互动次数；
确定正相互作用和负相互作用的权重值；
根据初始委员会对所述本地模型更新信息的审核验证结果，确定对应工作者的互动方向，所述互动方向包括正面互动和负面互动；
根据所述互动次数、权重值以及互动方向，计算互动效应值；
所述计算所述初始委员会与所述工作者之间的互动新鲜度，包括：
确定交互新鲜度的参数；
确定新鲜度褪色程度的时间段；
根据所述参数和所述时间段，计算工作者对委员会中的成员的互动新鲜度；
所述计算各个客户节点的本地模型更新信息的验证分数，包括：
通过委员会中的每个成员对工作者上传的本地模型更新信息进行质量评估，获取每个工作者的验证分数；
计算所有工作者的平均验证分数；
当所述平均验证分数小于指定阈值，则拒绝接受当前的本地模型更新信息。
2.根据权利要求1所述的一种基于区块链的可信联邦学习方法，其特征在于，所述在区块链中选取客户节点组成初始委员会，确定初始共享全局模型，包括：
确定目标比例；
从所述区块链中选取目标比例的客户节点组成初始委员会；
通过所述初始委员会随机确定初始共享全局模型；
将所述初始共享全局模型进行全网广播。
3.根据权利要求1所述的一种基于区块链的可信联邦学习方法，其特征在于，所述根据各个客户节点的本地模型更新信息，由所述初始委员会生成目标全局模型，包括：
所述初始委员会对各个客户节点的本地模型更新信息进行审核验证；
记录通过审核验证的本地模型更新信息；
将所述通过审核验证的本地模型更新信息聚合生成目标全局模型；
将所述目标全局模型上传至区块链。
4.一种基于区块链的可信联邦学习装置，其特征在于，包括处理器以及存储器；
所述存储器用于存储程序；
所述处理器用于根据所述程序执行如权利要求1-3中任一项所述的方法。
5.一种存储介质，其特征在于，所述存储介质存储有程序，所述程序被处理器执行完成如权利要求1-3中任一项所述的方法。
CN202010636559.9A 2020-07-03 2020-07-03 一种基于区块链的可信联邦学习方法、系统、装置及介质 Active CN111966698B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010636559.9A CN111966698B (zh) 2020-07-03 2020-07-03 一种基于区块链的可信联邦学习方法、系统、装置及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010636559.9A CN111966698B (zh) 2020-07-03 2020-07-03 一种基于区块链的可信联邦学习方法、系统、装置及介质

Publications (2)

Publication Number Publication Date
CN111966698A CN111966698A (zh) 2020-11-20
CN111966698B true CN111966698B (zh) 2023-06-13

Family

ID=73362351

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010636559.9A Active CN111966698B (zh) 2020-07-03 2020-07-03 一种基于区块链的可信联邦学习方法、系统、装置及介质

Country Status (1)

Country Link
CN (1) CN111966698B (zh)

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112686369B (zh) * 2020-12-10 2024-02-27 广州广电运通金融电子股份有限公司 中心方选择方法、存储介质和系统
CN112434280B (zh) * 2020-12-17 2024-02-13 浙江工业大学 一种基于区块链的联邦学习防御方法
CN112863175B (zh) * 2020-12-31 2022-11-22 平安科技（深圳）有限公司 汽车道路监测数据处理方法、装置、设备及存储介质
CN112784995B (zh) * 2020-12-31 2024-04-23 杭州趣链科技有限公司 联邦学习方法、装置、设备及存储介质
CN112685783B (zh) * 2021-01-05 2024-02-27 西安电子科技大学 金融许可区块链中支持隐私保护的数据共享方法
CN112990921B (zh) * 2021-01-29 2024-02-09 腾讯科技（深圳）有限公司 基于区块链的数据处理方法、装置、计算机及存储介质
CN112949868B (zh) * 2021-01-29 2022-12-27 北京邮电大学 一种基于区块链的异步联邦学习方法、装置及电子设备
CN112990276B (zh) * 2021-02-20 2023-07-21 平安科技（深圳）有限公司 基于自组织集群的联邦学习方法、装置、设备及存储介质
CN113033652B (zh) * 2021-03-23 2023-03-24 电子科技大学 一种基于区块链与联邦学习的图像识别系统及方法
CN112732470B (zh) * 2021-03-29 2021-07-06 南方电网数字电网研究院有限公司 电能量数据的联邦学习可靠性评估方法和装置
CN113204787B (zh) * 2021-05-06 2022-05-31 广州大学 基于区块链的联邦学习隐私保护方法、系统、设备和介质
CN113282418A (zh) * 2021-06-03 2021-08-20 光大科技有限公司 一种模型聚合处理方法及装置
CN113408746B (zh) * 2021-06-22 2023-03-14 深圳大学 一种基于区块链的分布式联邦学习方法、装置及终端设备
CN113344222B (zh) * 2021-06-29 2023-05-16 福建师范大学 一种基于区块链的安全可信的联邦学习机制
CN113645197B (zh) * 2021-07-20 2022-04-29 华中科技大学 一种去中心化的联邦学习方法、装置及系统
CN113609781B (zh) * 2021-08-16 2023-12-26 广域铭岛数字科技有限公司 基于联邦学习的汽车生产模具优化方法、系统、设备及介质
CN113591060B (zh) * 2021-08-24 2024-01-23 杭州电力设备制造有限公司 一种电网数据的应用方法、装置及系统
CN113782111B (zh) * 2021-09-16 2023-07-18 平安科技（深圳）有限公司 一种基于药物研发模型的协同训练方法、系统及存储介质
CN113556405B (zh) * 2021-09-18 2021-12-07 深圳时空云科技有限公司 隐私信息的分布式管理方法及装置
CN113849805A (zh) * 2021-09-23 2021-12-28 国网山东省电力公司济宁供电公司 移动用户可信认证方法及装置、电子设备、存储介质
CN113947215A (zh) * 2021-10-26 2022-01-18 平安科技（深圳）有限公司 联邦学习管理方法、装置、计算机设备及存储介质
CN114153982B (zh) * 2021-11-09 2024-04-02 浙江师范大学 联邦教育知识图谱补全方法、设备及介质
CN114239862A (zh) * 2021-12-23 2022-03-25 电子科技大学 一种保护用户数据隐私的抗拜占庭攻击的联邦学习方法
CN114003821B (zh) * 2021-12-30 2022-05-13 江苏奥斯汀光电科技股份有限公司 一种基于联邦学习的个性化行为推荐方法
CN114519306B (zh) * 2022-02-21 2023-03-28 山西大学 一种去中心化的终端节点网络模型训练方法及系统
CN114389824B (zh) * 2022-03-24 2022-07-12 湖南天河国云科技有限公司 基于区块链的可信计算信任链的验证更新方法及装置
CN115660114A (zh) * 2022-11-11 2023-01-31 湖北文理学院 基于区块链的异步联邦学习架构系统及方法
CN115796275A (zh) * 2023-01-05 2023-03-14 成都墨甲信息科技有限公司 基于区块链的联邦学习方法、装置、电子设备及存储介质
CN115994588B (zh) * 2023-03-16 2023-07-25 杭州海康威视数字技术股份有限公司 基于区块链与合同理论的数据处理方法、装置及设备
CN116016610B (zh) * 2023-03-21 2024-01-09 杭州海康威视数字技术股份有限公司 基于区块链的车联网数据安全共享方法、装置及设备

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111062044A (zh) * 2019-12-09 2020-04-24 支付宝(杭州)信息技术有限公司 基于区块链的模型联合训练方法及装置
CN111125779A (zh) * 2019-12-17 2020-05-08 山东浪潮人工智能研究院有限公司 一种基于区块链的联邦学习方法及装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3503012A1 (en) * 2017-12-20 2019-06-26 Accenture Global Solutions Limited Analytics engine for multiple blockchain nodes

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111062044A (zh) * 2019-12-09 2020-04-24 支付宝(杭州)信息技术有限公司 基于区块链的模型联合训练方法及装置
CN111125779A (zh) * 2019-12-17 2020-05-08 山东浪潮人工智能研究院有限公司 一种基于区块链的联邦学习方法及装置

Also Published As

Publication number Publication date
CN111966698A (zh) 2020-11-20

Similar Documents

Publication Publication Date Title
CN111966698B (zh) 一种基于区块链的可信联邦学习方法、系统、装置及介质
CN110647765B (zh) 协同学习框架下基于知识迁移的隐私保护方法及系统
Babaioff et al. On bitcoin and red balloons
Banks et al. Adversarial risk analysis
CN104200090B (zh) 基于多源异构数据的预测方法和装置
Bugday et al. Creating consensus group using online learning based reputation in blockchain networks
CN108809979A (zh) 基于Q-learning的自动入侵响应决策方法
Cai et al. 2cp: Decentralized protocols to transparently evaluate contributivity in blockchain federated learning environments
Wang et al. Blockchain-based federated learning in mobile edge networks with application in internet of vehicles
Tabatabaei et al. Understanding blockchain: Definitions, architecture, design, and system comparison
Li et al. Global manipulation by local obfuscation
Grimaldo et al. A simulation of disagreement for control of rational cheating in peer review
Shutters Punishment leads to cooperative behavior in structured societies
Zola et al. Attacking Bitcoin anonymity: generative adversarial networks for improving Bitcoin entity classification
You et al. Accuracy degrading: Towards participation-fair federated learning
CN117077806A (zh) 一种基于随机选举验证区块链的差分隐私化联邦学习方法
Monaco et al. Bots
Dong et al. Defending Against Malicious Behaviors in Federated Learning with Blockchain
Jin Application analysis of intelligent particle swarm algorithm in the development of modern tourism intelligence
Qi et al. A hybrid incentive mechanism for decentralized federated learning
Broadstock et al. Fintech unicorns
Zhong et al. Agent-based simulation of online trading
Wierzbicki et al. Fairness emergence in reputation systems
Adeli et al. Toward Understanding the Dynamics of Bidder Behavior in Continuous Combinatorial Auctions: Agent-Based Simulation Approach.
Gordon The boundaries of quantitative forecasting methods: Respecting the limits of determinism

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant