CN113806764B - 一种基于区块链和隐私保护的分布式支持向量机及其优化方法 - Google Patents
一种基于区块链和隐私保护的分布式支持向量机及其优化方法 Download PDFInfo
- Publication number
- CN113806764B CN113806764B CN202110889795.6A CN202110889795A CN113806764B CN 113806764 B CN113806764 B CN 113806764B CN 202110889795 A CN202110889795 A CN 202110889795A CN 113806764 B CN113806764 B CN 113806764B
- Authority
- CN
- China
- Prior art keywords
- node
- blockchain
- model
- consensus
- distributed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 104
- 238000012706 support-vector machine Methods 0.000 title claims abstract description 31
- 238000005457 optimization Methods 0.000 title claims abstract description 29
- 230000008569 process Effects 0.000 claims abstract description 86
- 238000012549 training Methods 0.000 claims abstract description 36
- 238000004364 calculation method Methods 0.000 claims abstract description 19
- 238000013468 resource allocation Methods 0.000 claims abstract description 8
- 230000003993 interaction Effects 0.000 claims abstract description 6
- 238000012795 verification Methods 0.000 claims description 16
- 238000004458 analytical method Methods 0.000 claims description 11
- 230000002776 aggregation Effects 0.000 claims description 10
- 238000004220 aggregation Methods 0.000 claims description 10
- 238000004422 calculation algorithm Methods 0.000 claims description 10
- 230000006870 function Effects 0.000 claims description 10
- 238000005516 engineering process Methods 0.000 claims description 7
- 230000007246 mechanism Effects 0.000 claims description 7
- 238000002360 preparation method Methods 0.000 claims description 5
- 238000012545 processing Methods 0.000 claims description 3
- 230000011218 segmentation Effects 0.000 claims description 3
- 238000012790 confirmation Methods 0.000 claims description 2
- 239000000284 extract Substances 0.000 claims description 2
- 238000011478 gradient descent method Methods 0.000 claims description 2
- 238000012821 model calculation Methods 0.000 claims description 2
- 238000004806 packaging method and process Methods 0.000 claims description 2
- 238000013475 authorization Methods 0.000 claims 1
- 230000000903 blocking effect Effects 0.000 claims 1
- 238000012360 testing method Methods 0.000 claims 1
- 238000004088 simulation Methods 0.000 abstract description 8
- 238000005265 energy consumption Methods 0.000 abstract description 7
- 238000010801 machine learning Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 4
- 238000009826 distribution Methods 0.000 description 3
- 230000004931 aggregating effect Effects 0.000 description 2
- 230000006854 communication Effects 0.000 description 2
- 238000009795 derivation Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/64—Protecting data integrity, e.g. using checksums, certificates or signatures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/602—Providing cryptographic facilities or services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Computer Security & Cryptography (AREA)
- Mathematical Physics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioethics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Hardware Design (AREA)
- Databases & Information Systems (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Medical Informatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于区块链和隐私保护的分布式支持向量机及其优化方法，包括：建立基于区块链的具有隐私保护的分布式支持向量机系统模型，并依据区块链共识PBFT协议完成节点间的交互过程。通过分析本地节点在训练过程及共识过程中的计算复杂度，给出基于能耗及系统能量利用率考虑的计算资源分配的优化方法。仿真结果表明，本发明的技术方案和模型在训练和共识过程中可以为节点及模型提供隐私保护，在能耗约束的条件下，通过对各节点各步骤的资源进行优化，提高系统总能量的利用率和分布式支持向量机学习过程的性能。
Description
技术领域
本发明涉及分布式机器学习中隐私保护、数据分配及资源分配相关技术领域，具体来说，是一种基于区块链和隐私保护的分布式支持向量机及其优化方法，进一步涉及到结合纵向分布式数据节点、区块链中的联盟链的构建方式、PBFT共识机制与部分同态加密算法隐私保护算法的计算方法及资源分配优化方法。
背景技术
近年来，互联网数据日益增长，因此处理数据的机器学习方法应用逐渐广泛。传统机器学习方法把所有数据汇总于一台机器或是一个数据中心，由一个数据分析者进行集中式的模型训练。但由于隐私安全的问题，大多数情况下，各学习的参与方很难完全共享数据，因此存在着十分严重的“数据孤岛”问题；且在训练过程中，传统机器学习会造成隐私泄露问题；同时，由于现下处在一个互联网信息爆炸时代，单一节点去完成一个完整数据库的获取和后续的训练困难十分大。分布式机器学习的目标是将具有庞大数据和计算量的任务分布式地部署到多台机器上，以提高数据计算地速度和可扩展性，减少任务耗时。
联盟链：只针对特定某个群体的成员和有限的第三方，内部指定多个预选的节点为记账人，每个块的生成由所有的预选节点共同决定，其他接入节点可以参与交易，但不过问记账过程，其他第三方可以通过该区块链开放的API进行限定查询。为了获得更好的性能，联盟链对于共识或验证节点的配置和网络环境有一定要求。有了准入机制，可以使得交易性能更容易提高，避免由参次不齐的参与者产生的一些问题。
PBFT共识机制：PBFT是Practical Byzantine Fault Tolerance的缩写，即：实用拜占庭容错算法，是一种区块链共识机制，是在联盟链共识节点较少的情况下BFT的一种解决方案。
发明内容
本发明针对已有的技术发展问题需求以及不足之处，提供了一种基于区块链和隐私保护的分布式支持向量机及其优化方法。该方法基于纵向分割数据库的分布式机器学习框架训练一个支持向量机模型，融入区块链和同态加密技术。区块链去中心化的特点可以保证本模型在进行通信过程中的安全性，同态加密技术可以保证分布式数据的隐私性；同时结合能耗公式与计算复杂度实现各节点在训练、交互与聚合的过程中的资源优化配置，以便在固定能耗的前提下，实现能量利用最大化地完成含有PBFT共识协议的训练过程。
为解决上述问题，本发明采用如下的技术方案：
一种基于区块链和隐私保护的分布式支持向量机及其优化方法包括以下步骤：
S1、结合区块链和隐私保护技术建立分布式支持向量机学习过程
S2、各参与节点利用智能合约完成分布式共识过程
S3、分布式支持向量机学习过程及区块链共识过程的性能分析
S4、能源约束下的资源分配优化
具体的，本发明采用分布式学习的框架，允许各参与节点Pi既是原始数据的持有者，也作为分布式支持向量机学习过程的参与者。各节点各自获取具有不同属性的纵向分割数据作为原始数据；训练过程中不存在任何原始数据的交互，训练模型的中间值通过引入部分同态加密技术实现隐私保护；分类器采用利用超平面进行二分类的支持向量机(SVM)算法；最终采用PBFT共识协议规定训练与聚合交互过程，实现数据的处理。
借助智能合约将交易形式的训练参数进行传递与记录，所有节点间形成的分布式共识过程包括三类，分别为参与方对局部参数的密文反馈交易(ELW)、参与方对局部参数的聚合反馈交易(ELW-A)、参与方对聚合参数局部中间值解密交易(DGW-A)。
在本发明的整个系统可以被大体分为两个过程：分布式学习训练过程与区块链的共识过程。在本发明中，通过建立基于联盟链具有隐私保护的分布式支持向量机学习模型，详细分析各个节点Pi在不同过程中的任务，结合计算复杂度、计算成本和损失函数优化进行固定能源下，系统总能量利用率的整体优化。
附图说明
图1为本发明的整体系统模型
图2为PBFT共识机制流程图
图3为分布式学习训练结果图(N＝4，无优化)
图4为在不同总能量的限制条件下资源分配优化前后模型训练结果
具体实施方式
下面结合附图和实施例对本发明做进一步说明。
S1、结合区块链和隐私保护技术建立分布式支持向量机学习过程
S11、结合区块链建立的分布式支持向量机学习过程
图1为本发明的系统模型。结合区块链建立的分布式支持向量机学习过程可以被描述为：所有获取信任得到许可的参与节点被部署在区块链内，形成可信的环境。各节点利用各自获取的原始数据进行本地的局部模型训练，并加密训练出的模型中间值进行交互，利用聚合后的中间值进行判断，实现基于随机梯度下降法的SVM训练任务。
在本发明中，设N个参与节点的集合为P＝{P1,P2,…,PN}，Pi表示拥有子数据集的参与者，Di(i＝1,2,…,N)表示参与方Pi拥有的子数据集。
首先需要明确，y＝(wTx+b)为支持向量机需要通过学习数据找到的超平面，该发明中，引入多个参与节点对纵向分割后的数据进行学习、聚合，其支持向量机的原始优化问题改写如下：
其中m为数据集的大小，为参与者Pi的数据集中的第j条数据。
对于参与者Pi基于随机梯度下降的SVM如式(2)：
对于每次迭代来说，可以根据式(3)来计算梯度：
当(wxj<1)，I[(wxj<1)]＝1；反之，I[(wxi<1)]＝0。根据上述判断，我们可以确定w的更新方向，利用式(4)来更新w：
wt+1＝wt-λΔt
由于本方案中虽然不需要共享原始数据，但需要通过多个参与者Pi共享中间量，并根据式(2)，共同确定模型更新方向，因此判断更新的过程如式(5)：
S12、结合隐私保护技术建立的分布式支持向量机学习过程
由于在多方学习的过程中，各个节点都需要涉及到与区块链共享中间值的过程，传递wi,等中间量，期间各节点训练出的模型中间量w会在传递过程中涉及到隐私问题，为在保护隐私的同时，完成无可信第三方的通信过程，本发明引入了Paillier加密方案的阈值变体。
阈值Paillier是一种具有加法同态特性的加密方案，其加法同态特性如下：
综上，结合隐私保护技术建立的分布式机器学习过程可以描述为：密钥对的产生与私钥份额的下发，利用其同态性质完成在密文状态下中间值的聚合，通过聚合超过阈值设定的解密份额形成明文为全局参数更新提供参照。
结合S11中所述，在区块链网络内，密文模型参数借助智能合约以交易的形式在节点见进行传递和更新。
S2、各参与节点利用智能合约完成分布式共识过程
本发明采用的区块链中的共识机制选用PBFT算法，该算法在保有较高的容错率的基础上，可以保证系统一定的性能，工作流程具体如图2所示。通过智能合约完成将模型中间值与相关参数以交易的形式在参与节点间更新、交互并实现上链认证。
本发明的共识过程中，包括三种交易类型，分别是：参与方对局部参数的密文反馈交易(ELW)、参与方对局部参数的聚合反馈交易(ELW-A)、参与方对聚合参数局部中间值解密交易(DGW-A)。共识过程采用智能合约驱动交易并进行区块验证入链。即当参与方收到彼此的ELW交易后，实现本地的聚合与解密完成ELW-A交易，后利用Paillier的阈值变体进行解密聚合完成DGW-A交易，后在参与方本地进行局部的权值更新，即对本地数据在明文状态下进行局部参数的更新计算，后提交新的ELW交易。
S3、分布式支持向量机学习过程及区块链共识过程的性能分析
本发明根据计算消耗分为两个部分：分布式学习过程、区块链共识过程。每个节点的计算能力用fi(CPU cycles per second)表示，i＝1,2,3,…,N，其中，设每个节点Pi分配在分布式学习过程上(L)的资源为分配给区块链共识过程(S)的资源为/>以某节点Pi来考虑，由于本模型假设所有的过程皆为串行过程，那么意味着可以在训练过程中将前三个步骤及分布式学习过程的资源合并分配，后五个步骤即共识过程的资源合并分配，那么模型计算与共识两部分的性能分析如下：
S31、分布式学习过程性能分析
在分布式学习过程中，每个节点的计算能力用表示，μ1和μ2分别表示节点进行任意一步明文计算和任意一步密文计算所需要的CPU cycles。结合S2中的交易类型分析，以算法复杂度衡量的计算成本和时间如下：
S32、区块链共识过程性能分析
PBFT算法的主要包括预准备(Pre-Prepare)、准备(Prepare)和确认(Commit)三个步骤，一整套共识过程中还包括最初的请求(Request)和最终的回应客户端(Reply)两个过程，如图2所示。
整个过程可以被描述为：终端将请求消息签名和MAC提交到区块链的主节点。主节点首先对收到的客户端请求消息签名和MAC进行验证；如果验证有效，则按照智能合约的约定，执行其中的计算过程，然后将符合一定数量的有效交易及计算结果打包成一个新区块，并广播给其余验证节点；各验证节点验证各自接收到的区块，验证区块和交易的签名和MAC，核实后按照智能合约要求验证交易内部的计算结果；并向所有其他验证节点发送其验证结果；当新区块内的计算结果在所有有效验证节点中依据PBFT协议达成一致后，它将被附加到区块链中。
在共识过程中，每个节点的计算能力用表示；，β和θ分别代表各节点生成或验证一个签名和生成或验证一个MAC需要的CPU cycles；主节点每隔时间从交易池中按顺序提取一次迭代过程的全部交易数量为K＝3N；α为在主节点上调用智能合约验证所需的计算任务所消耗的CPU周期的均值。
PBFT共识过程的计算成本和时间可表示为：
在上述过程中，如果节点承担作为主节点的职责，则此时的 反之，若此时的节点只作为副节点参与共识过程，则此时的
S4、固定能耗下的资源分配优化
S41、资源优化方案
本模型设分布式学习迭代次数为R轮，每次迭代后得到的模型参数为w(R)，引入理想损失函数F(w*)，(w*表示基于全部数据训练可获得的理想模型参数)，将最小化可达损失函数的目标等效为：
则可将目标函数初步定为以下形式：
arg min F(w(R))-F(w*)＝arg max R
C4:R(El+Es)≤E
其中，C1限制了训练时间；C2限制了共识时间；C3限制了计算资源；C4限制了能耗；E为提供的系统总能量。
训练过程中产生的能耗可以表示为；
共识过程中，系统的能源成本可以表示为：
其中，其中γ是与硬件体系结构相关的常量；δsi＝[δsi]，δsi＝0,1用来表示节点Pi是否参与每个共识过程S，例如δn'＝[1,0,1,1,1]，表示主节点n'在共识过程中各个步骤的参与情况；δn”≠n'＝[0,1,1,1,0]表示其他验证节点。
S42、资源优化方案求解
当能量约束取等号时，优化目标迭代次数R可以取到最大值，可以利用约束条件C4表示出此时的迭代次数R，此时的优化问题可以表示如下：
利用拉格朗日函数对上述问题进行求解，列出拉格朗日函数如下：
对进行求偏导，并使偏导数等于0，形如下式：
对进行求偏导，并使偏导数等于0，形如下式：
λ可以进行如下式更新：
其中，ε为一个对于拉格朗日乘子λ的更新系数，此模型中设ε为常数，联立上述过程式，更新拉格朗日乘子λ，对此拉格朗日函数求解得到条件极值，即对原始优化问题求得最优解。
下面给出了仿真参数的设置与仿真结果和分析：
仿真利用了MATLAB搭建了支持向量机的模型，并通过设定节点数实现了分布式多方共同进行学习和聚合的过程，在该过程中，将代码分为较为清晰的分布式支持向量机学习过程以及资源配置优化过程。
仿真选用了Banknote Dataset(BD)数据集。仿真过程中的一些参数设置为：α＝0.2M cycles，β＝0.8M cycles，θ＝0.005M cycles，γ＝10-11。
仿真图3为本地节点数为4时，整个系统模型不采用优化，规定那个资源分配和参数后，通过分布式支持向量机学习共同训练模型的学习结果。
仿真图4为在固定学习率、各部分时间限制L＝8500的前提下，通过控制总能量E的大小，观察到的在不同能量下，优化资源配置的训练与固定资源分配的训练对于模型的影响与模型的训练效果。如图所示，随着系统能量的增大，模型可训练次数会增多，因此无论是否进行优化配置，模型的有效性都会随之增大；然而相较于固定分配的模式，进行资源优化配置的系统模型更容易在总能量与资源相同的情况下，耗费更小的资源与能量训练出效果更好的模型。也就说明，一方面，在有足够的能量提供的情况下，无论是否进行资源优化配置，模型的训练最终都可以达到较好的效果；另一方面，在进行资源优化配置的情况下，系统模型的训练过程会减少不必要的损耗，将资源分配给更复杂、消耗更多的步骤上，以减小虚耗的同时，增加模型训练的迭代次数，以在能量有限的情况下，尽可能大地增加模型的准确性。综上，本发明的有效性得以证明。
以上实施例仅为本发明的示例性实施例，不用于限制本发明，本发明的保护范围由权利要求书限定。本领域技术人员可以在本发明的实质和保护范围内，对本发明做出各种修改或等同替换，这种修改或等同替换也应视为落在本发明的保护范围内。
Claims (3)
1.一种基于区块链和隐私保护的分布式支持向量机的优化方法，其特征在于，包括以下步骤：
S1、结合区块链和隐私保护技术建立分布式支持向量机学习过程；
所有获取信任得到许可的参与节点被部署在区块链内，形成可信的环境；各节点利用各自获取的原始数据进行本地的局部模型训练，并加密训练出的模型中间值进行交互，利用聚合后的中间值进行判断，实现基于随机梯度下降法的SVM训练任务；
S2、各参与节点利用智能合约完成分布式共识过程；
采用的区块链中的共识机制选用PBFT算法，通过智能合约完成将模型中间值与相关参数以交易的形式在参与节点间更新、交互并实现上链认证；
共识过程中，包括三种交易类型，分别是：参与方对局部参数的密文反馈交易ELW、参与方对局部参数的聚合反馈交易ELW-A、参与方对聚合参数局部中间值解密交易DGW-A；
S3、分布式学习过程及区块链共识过程的性能分析；
节点Pi模型计算与共识两部分的性能分析如下：
S31、分布式学习过程性能分析
在分布式学习过程中，每个节点的计算能力用表示，μ1和μ2分别表示节点进行任意一步明文计算和任意一步密文计算所需要的CPU cycles；
S32、区块链共识过程性能分析
PBFT算法的包括预准备Pre-Prepare、准备Prepare和确认Commit三个步骤，一整套共识过程中还包括最初的请求Request和最终的回应客户端Reply两个过程；
整个过程被描述为：终端将请求消息签名和MAC提交到区块链的主节点；主节点首先对收到的客户端请求消息签名和MAC进行验证；如果验证有效，则按照智能合约的约定，执行其中的计算过程，然后将符合预定数量的有效交易及计算结果打包成一个新区块，并广播给其余验证节点；各验证节点验证各自接收到的区块，验证区块和交易的签名和MAC，核实后按照智能合约要求验证交易内部的计算结果；并向所有其他验证节点发送其验证结果；当新区块内的计算结果在所有有效验证节点中依据PBFT协议达成一致后，它将被添加到区块链中；
在共识过程中，每个节点的计算能力用表示；β和θ分别代表各节点生成或验证一个签名和生成或验证一个MAC需要的CPU cycles；主节点每隔时间从交易池中按顺序提取一次迭代过程的全部交易数量为K＝3N；α为在主节点上调用智能合约验证所需的计算任务所消耗的CPU周期的均值；
S4、固定能源下的资源分配优化；
S41、资源优化方案；
设分布式学习迭代次数为R轮，每次迭代后得到的模型参数为w(R)，引入理想损失函数F(w*)，w*表示基于全部数据训练可获得的理想模型参数，将最小化可达损失函数的目标等效；
S42、资源优化方案求解；
当能量约束取等号时，优化目标迭代次数R取到最大值，利用约束条件C4表示出此时的迭代次数R，并利用拉格朗日函数对问题进行求解。
2.根据权利要求1所述的一种基于区块链和隐私保护的分布式支持向量机的优化方法，其特征在于：涉及到以下措施：
a)隐私保护的模型训练过程：模型训练过程中，采用纵向分割数据的形式保证原始数据的隐私性，所有原始数据不需进行交互，只存于本地，同时所有的模型训练过程只需要在本地完成；利用“加密”对模型中间值实现保护，即所有需要上传通信实现区块链共享的模型中间值都会被密钥实现加密，即在密文状态下实现一个训练中间值的上传与获取，因此在整个训练过程中，每个用户节点只能获取本地自身的明文数据与已加密的他方模型中间值；
b)隐私保护的模型更新过程：将“加密”的具体方案改进成为了利用Paillier加密方案的阈值变体的方案，完成不需要可信第三方的模型训练方案，使节点间的中间量共享通过密文完成；即利用Paillier的公钥pk对模型中间量进行加密，并在密文状态下进行打块上链，在区块链测层面实现共享，后获取到需要的其他中间量利用私钥份额ski解密，在密文状态下实现聚合[[ai]]，通过加工成新的中间值[[ar1+r2]]解密来实现梯度更新，更新的参照值和1进行比较；
c)隐私保护的区块链模型：采用联盟链保证节点的数量明确的；所有节点通过授权获取权限，成为链中的一个记录节点；在后续的操作中，随机指定主节点，每个节点都会拥有不同的身份来参与区块链数据上链的过程。
3.根据权利要求1所述的一种基于区块链和隐私保护的分布式支持向量机的优化方法，其特征在于：基于区块链和隐私保护的分布式支持向量机学习过程根据计算消耗分为两部分：分布式学习与区块链共识，N个节点参与学习，每个节点的计算能力用fi即CPUcycles per second表示，i＝1,2,3,…,N，其中，设每个节点Pi分配在学习过程上L的资源为分配给区块链共识过程S的资源为/>
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110889795.6A CN113806764B (zh) | 2021-08-04 | 2021-08-04 | 一种基于区块链和隐私保护的分布式支持向量机及其优化方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110889795.6A CN113806764B (zh) | 2021-08-04 | 2021-08-04 | 一种基于区块链和隐私保护的分布式支持向量机及其优化方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113806764A CN113806764A (zh) | 2021-12-17 |
| CN113806764B true CN113806764B (zh) | 2023-11-10 |
Family
ID=78893328
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110889795.6A Active CN113806764B (zh) | 2021-08-04 | 2021-08-04 | 一种基于区块链和隐私保护的分布式支持向量机及其优化方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113806764B (zh) |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108712260A (zh) * | 2018-05-09 | 2018-10-26 | 曲阜师范大学 | 云环境下保护隐私的多方深度学习计算代理方法 |
| CN111104968A (zh) * | 2019-12-02 | 2020-05-05 | 北京理工大学 | 一种基于区块链的安全svm训练方法 |
| CN111800274A (zh) * | 2020-07-03 | 2020-10-20 | 北京工业大学 | 一种基于区块链的可验证计算能耗优化方法 |
| CN111915294A (zh) * | 2020-06-03 | 2020-11-10 | 东南大学 | 一种基于区块链技术的安全、隐私保护、可交易的分布式机器学习框架 |
| CN113204787A (zh) * | 2021-05-06 | 2021-08-03 | 广州大学 | 基于区块链的联邦学习隐私保护方法、系统、设备和介质 |
-
2021
- 2021-08-04 CN CN202110889795.6A patent/CN113806764B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108712260A (zh) * | 2018-05-09 | 2018-10-26 | 曲阜师范大学 | 云环境下保护隐私的多方深度学习计算代理方法 |
| CN111104968A (zh) * | 2019-12-02 | 2020-05-05 | 北京理工大学 | 一种基于区块链的安全svm训练方法 |
| CN111915294A (zh) * | 2020-06-03 | 2020-11-10 | 东南大学 | 一种基于区块链技术的安全、隐私保护、可交易的分布式机器学习框架 |
| CN111800274A (zh) * | 2020-07-03 | 2020-10-20 | 北京工业大学 | 一种基于区块链的可验证计算能耗优化方法 |
| CN113204787A (zh) * | 2021-05-06 | 2021-08-03 | 广州大学 | 基于区块链的联邦学习隐私保护方法、系统、设备和介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113806764A (zh) | 2021-12-17 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Choudhuri et al. | Fairness in an unfair world: Fair multiparty computation from public bulletin boards | |
| Zhang et al. | Reliable and privacy-preserving truth discovery for mobile crowdsensing systems | |
| Xu et al. | Privacy-preserving federated deep learning with irregular users | |
| Hao et al. | Towards efficient and privacy-preserving federated deep learning | |
| Wang et al. | Authenticated garbling and efficient maliciously secure two-party computation | |
| Huang et al. | Scalable and redactable blockchain with update and anonymity | |
| Hahn et al. | Versa: Verifiable secure aggregation for cross-device federated learning | |
| CN112804064B (zh) | 基于区块链的属性加密访问控制系统及方法 | |
| CN109617699A (zh) | 一种密钥生成方法、区块链网络服务平台及存储介质 | |
| CN110599163B (zh) | 一种面向区块链交易监管的交易记录外包方法 | |
| Wang et al. | Enhancing privacy preservation and trustworthiness for decentralized federated learning | |
| Lyu et al. | Towards fair and decentralized privacy-preserving deep learning with blockchain | |
| CN113420886B (zh) | 纵向联邦学习模型的训练方法、装置、设备及存储介质 | |
| CN116049897B (zh) | 基于线性同态哈希和签密的可验证隐私保护联邦学习方法 | |
| CN115270145A (zh) | 一种基于联盟链和联邦学习的用户窃电行为检测方法及系统 | |
| CN114363043A (zh) | 一种对等网络中基于可验证聚合和差分隐私的异步联邦学习方法 | |
| Wang et al. | VOSA: Verifiable and oblivious secure aggregation for privacy-preserving federated learning | |
| CN112583598A (zh) | 一种复杂物联网联盟链系统通信机制 | |
| CN115795518A (zh) | 一种基于区块链的联邦学习隐私保护方法 | |
| Xie et al. | A novel blockchain-based and proxy-oriented public audit scheme for low performance terminal devices | |
| Dolev et al. | SodsBC: a post-quantum by design asynchronous blockchain framework | |
| Zhou et al. | Efficient construction of verifiable timed signatures and its application in scalable payments | |
| CN117527183A (zh) | 一种面向电力数据的去中心化共享与跨链计算方法及系统 | |
| Asad et al. | Towards privacy-aware federated learning for user-sensitive data | |
| CN112287040A (zh) | 一种基于区块链的权益合并方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |