CN109409738A - 基于区块链平台进行深度学习的方法、电子装置 - Google Patents
基于区块链平台进行深度学习的方法、电子装置 Download PDFInfo
- Publication number
- CN109409738A CN109409738A CN201811252535.2A CN201811252535A CN109409738A CN 109409738 A CN109409738 A CN 109409738A CN 201811252535 A CN201811252535 A CN 201811252535A CN 109409738 A CN109409738 A CN 109409738A
- Authority
- CN
- China
- Prior art keywords
- deep learning
- task
- calculate node
- block platform
- platform chain
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013135 deep learning Methods 0.000 title claims abstract description 173
- 238000000034 method Methods 0.000 title claims abstract description 33
- 238000012549 training Methods 0.000 claims abstract description 64
- 238000013136 deep learning model Methods 0.000 claims abstract description 47
- 230000006870 function Effects 0.000 claims description 11
- 230000000694 effects Effects 0.000 abstract description 4
- 230000009467 reduction Effects 0.000 abstract description 4
- 238000012545 processing Methods 0.000 description 15
- 238000013473 artificial intelligence Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 230000013016 learning Effects 0.000 description 4
- 238000007726 management method Methods 0.000 description 4
- 238000012856 packing Methods 0.000 description 4
- 238000012360 testing method Methods 0.000 description 3
- 238000013480 data collection Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 230000001537 neural effect Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 239000002699 waste material Substances 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000013499 data model Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 239000004744 fabric Substances 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 230000008092 positive effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
Landscapes
- Business, Economics & Management (AREA)
- Human Resources & Organizations (AREA)
- Engineering & Computer Science (AREA)
- Economics (AREA)
- Strategic Management (AREA)
- Entrepreneurship & Innovation (AREA)
- Development Economics (AREA)
- Quality & Reliability (AREA)
- Signal Processing (AREA)
- Game Theory and Decision Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Educational Administration (AREA)
- Tourism & Hospitality (AREA)
- Physics & Mathematics (AREA)
- General Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于区块链平台进行深度学习的方法、电子装置,其中,该方法包括:接收任务发布者在区块链平台选定的深度学习模型;接收所述任务发布者输入的训练集;根据所述训练集和所述深度学习模型,生成深度学习任务;将所述深度学习任务分发至所述区块链平台中的计算节点;通过分发至的计算节点,对所述深度学习任务进行深度学习。通过上述方案解决了现有的深度学习成本过高、训练效率低下的技术问题,达到了降低训练成本、提升训练效率的技术效果。
Description
技术领域
本发明涉及区块链技术领域,具体涉及一种基于区块链平台进行深度学习的方法、电子装置及计算机可读存储介质。
背景技术
深度学习需要进行通过神经网络计算来训练模型,然而,数据模型训练过程需要消耗大量的计算资源,人工智能产品如果希望达到更好的产品指标,除了算法之外就需要海量的数据来进行训练。然而,越多的数据,在同等计算资源的情况下,意味着更长时间的训练,例如:超过一周甚至一个月到几个月的时间。
如果训练过程中有参数不正确,需要反复地进行训练,训练时间太长,对于企业产品迭代更新是极其不利的,很可能在行业竞争中失败,从而导致很多厂商不得不投入大量资金购置GPU、FPGA等硬件资源,成本投入过高。
针对上述问题,目前尚未提出有效的解决方案。
发明内容
本发明的目的在于提供一种基于区块链平台进行深度学习的方法、电子装置及计算机可读存储介质,进而解决现有的深度学习的成本过高的技术问题。
本发明是通过下述技术方案来解决上述技术问题:
根据本发明的一个方面,提供了一种基于区块链平台进行深度学习的方法,包括如下步骤:
接收任务发布者在区块链平台选定的深度学习模型;
接收所述任务发布者输入的训练集;
根据所述训练集和所述深度学习模型,生成深度学习任务;
将所述深度学习任务分发至所述区块链平台中的计算节点;
通过分发至的计算节点,对所述深度学习任务进行深度学习。
在一个实施方式中,将所述深度学习任务分发至所述区块链平台中的计算节点,包括:
在所述区块链平台发布所述深度学习任务,其中,发布信息中携带有单位任务量对应的价格;
接收计算节点对发布的深度学习任务的认领请求,其中,所述认领请求中携带有认领的任务量;
向认领请求对应的计算节点分配请求认领的任务量的深度学习任务。
在一个实施方式中,将所述深度学习任务在所述区块链平台进行发布,包括:
将所述深度学习任务划分为多个单位任务量;
计算单位任务量的价格;
根据所述深度学习任务所需的计算环境,确定可申领所述深度学习任务的计算节点;
向可申领所述深度学习任务的计算节点发布所述深度学习任务。
在一个实施方式中,通过分发至的计算节点,对所述深度学习任务进行深度学习,包括:
所述计算节点接收分发至自身的深度学习任务,其中,分发至自身的深度学习任务中携带有:深度学习模型和训练集;
所述计算节点将所述训练集作为训练样本输入所述深度学习模型中进行训练,得到训练后的深度学习模型;
其中,所述区块链平台中的计算节点包括以下至少之一:FPGA服务器集群运行的全功能节点、企业中空闲的GPU计算节点、个人闲置的GPU计算节点。
在一个实施方式中,通过分发至的计算节点,对所述深度学习任务进行深度学习之后,所述方法还包括:
获取所述深度学习任务的执行信息和完成状态;
将所述执行信息和所述完成状态,以交易的形式记录在所述区块链平台中。
另一方面,提供了一种电子装置,包括存储器和处理器,所述存储器用于存储可被所述处理器执行的基于区块链平台进行深度学习的系统,所述基于区块链平台进行深度学习的系统包括:
第一接收模块,用于接收任务发布者在区块链平台选定的深度学习模型;
第二接收模块,用于接收所述任务发布者输入的训练集;
生成模块,用于根据所述训练集和所述深度学习模型,生成深度学习任务;
分发模块,用于将所述深度学习任务分发至所述区块链平台中的计算节点;
深度学习模块,用于通过分发至的计算节点,对所述深度学习任务进行深度学习。
在一个实施方式中,所述分发模块包括:
发布单元,用于在所述区块链平台发布所述深度学习任务,其中,发布信息中携带有单位任务量对应的价格;
接收单元,用于接收计算节点对发布的深度学习任务的认领请求,其中,所述认领请求中携带有认领的任务量;
分配单元,用于向认领请求对应的计算节点分配请求认领的任务量的深度学习任务。
在一个实施方式中,所述深度学习模块包括:
接收单元,用于计算节点接收分发至自身的深度学习任务,其中,分发至自身的深度学习任务中携带有:深度学习模型和训练集;
输入单元,用于所述计算节点将所述训练集作为训练样本输入所述深度学习模型中进行训练,得到训练后的深度学习模型;
其中,所述区块链平台中的计算节点包括以下至少之一:FPGA服务器集群运行的全功能节点、企业中空闲的GPU计算节点、个人闲置的GPU计算节点。
根据本发明的又一个方面,提供了一种计算机设备,包括:存储器和处理器,其中,所述处理器用于执行上述方法的步骤。
根据本发明的又一个方面,提供了一种非易失性计算机可读存储介质,其上存储有计算机指令,所述指令被执行时实现上述方法的步骤。
本发明的积极进步效果在于:接收任务发布者在区块链平台选定的深度学习模型和输入的训练集,以生成深度学习任务;在任务发布者确认发布所述深度学习任务之后,将所述深度学习任务分发至所述区块链平台中的计算节点进行深度学习。在上述方案中通过区块链平台对训练任务进行分发处理,从而解决了现有的深度学习成本过高、训练效率低下的技术问题,达到了降低训练成本、提升训练效率的技术效果。
附图说明
图1是根据本发明实施例的基于区块链的深度学习的方法流程图;
图2是根据本发明实施例的基于区块链的深度学习的系统的结构框图;
图3是根据本发明实施例的基于区块链的深度学习的系统的结构框图;
图4是根据本发明实施例的电子装置的一种可选的硬件架构示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
考虑到现有的人工产品在上线过后仍然需要通过神经网络计算来进行解码,用户量越大需要的计算量就越大,成本也就越高,且用户在不同时间周期中访问频率也会有所变化,一次性购买大量的计算资源,必然会出现很多时候的闲置浪费。人工智能三要素是算力、算法、数据,其中,数据量是影响人工智能产品指标的很重要因素,做人工智能产品的公司需要不断通过对低质量的数据进行人工标注处理或者直接购买高质量的数据,但是很多数据不但涉及到用户隐私,同时对于数据提供方来说也希望数据具有不可复制性,仅仅出售数据使用权,不出售拥有权,然而,如果数据接收方接触不到数据,那么就无法基于数据进行训练。
基于此,在本例中提供了基于区块链的深度学习的方法、电子设备,下面对该方法和电子设备进行具体说明如下:
实施例一
下面结合附图对本发明提供的基于区块链的深度学习的方法进行说明。
图1为本发明基于区块链的深度学习的方法的一种可选的流程示意图,如图1所示,该方法可以包括以下步骤:
步骤101:接收任务发布者在区块链平台选定的深度学习模型;
具体的,在接收任务发布者在区块链平台选定的深度学习模型之前,可以接收用户打包发布的深度学习模型,其中,所述深度学习模型中携带有:运行环境、输入数据格式、输出数据格式;将所述深度学习模型发布至区块链平台,用于任务发布者进行选择。
在实际实现的时候,研究者可以在针对某一人工智能应用研发出了深度学习模型之后,开源并打包发布至深度学习区块链,提供运行环境以及输入输出数据格式标准,并可以选择用公开数据集提交训练/测试任务。其中,发布的深度学习模型被他人使用时,发布者可获得相应回报。
步骤102:接收所述任务发布者输入的训练集;
步骤103:根据所述训练集和所述深度学习模型,生成深度学习任务;
为了使得任务发布者可以知道训练任务的费用以及处理情况等,在根据所述训练集和所述深度学习模型,生成深度学习任务之后,可以生成并显示深度学习任务的任务处理信息,其中,所述任务处理信息包括以下至少之一:预估的费用、可用的计算节点、单位成本;其中,通过动态调整所有深度学习模型的单位成本,使得所述区块链平台中所有计算节点执行任一学习任务的总体回报是相同的。
步骤104:将所述深度学习任务分发至所述区块链平台中的计算节点;
其中,上述所述区块链平台中的计算节点可以包括但不限于以下至少之一:FPGA服务器集群运行的全功能节点、企业中空闲的GPU计算节点、个人闲置的GPU计算节点。
步骤105:通过分发至的计算节点,对所述深度学习任务进行深度学习。
具体的,在通过分发至的计算节点,对所述深度学习任务进行深度学习之后,可以获取深度学习任务的执行信息和完成状态;将所述执行信息和所述完成状态,以交易的形式记录在所述区块链平台中,因为以交易的形式记录在区块链平台中,因此,后续可以对这些任务的处理情况进行追溯和查询。
在实际实现的过程中,将所述深度学习任务分发至所述区块链平台中的计算节点,可以包括:
S1:在所述区块链平台发布所述深度学习任务,其中,发布信息中携带有单位任务量对应的价格;
S2:接收计算节点对发布的深度学习任务的认领请求,其中,所述认领请求中携带有认领的任务量;
S3:向认领请求对应的计算节点分配请求认领的任务量的深度学习任务。
即,将任务分发至申领平台,由计算节点按照自身情况自主进行申领。
具体的,在发布的过程中,可以将深度学习任务划分为多个单位任务量;计算单位任务量的价格;根据所述深度学习任务所需的计算环境,确定可申领所述深度学习任务的计算节点;向可申领所述深度学习任务的计算节点发布所述深度学习任务。
对于计算节点而言,通过分发至的计算节点,对所述深度学习任务进行深度学习,可以包括:
S1:计算节点接收分发至自身的深度学习任务,其中,分发至自身的深度学习任务中携带有:深度学习模型和训练集;
S2:计算节点将所述训练集作为训练样本输入所述深度学习模型中进行训练,得到训练后的深度学习模型。
下面结合一个具体实施例对上述方法进行说明,然而,值得注意的是,该具体实施例仅是为了更好地说明本申请,并不构成对本申请的不当限定。
在本例中,提供了一种基于区块链技术的去中心化的、低成本的、隐私的深度学习计算平台,链上的深度学习计算节点可由多种形态组成,例如,可以包括:大型GPU或者FPGA服务器集群运行的全功能节点(永久节点)、中小型企业闲散的空余GPU服务器计算节点以及个人闲置GPU计算节点。
具体的,深度学习区块链基于智能合约进行交易,并根据智能合约设计的奖励系统对挖矿节点进行激励。在保证系统安全、稳定运行的同时,也让所有的参与者都能从中获取回报,从而使得人工智能厂商可以在低成本的情况下就能获取到神经网络深度学习计算能力。
具体的,深度学习区块链可以按照如下原则设计:
1)扩展原则:每一个模块是松耦合的,很容易添加新的模块进来,每个模块自身的更新不需要依赖其他模块接口的变化。
2)伸缩原则:客户产品用户访问是波动的,如果大量用户访问到一个节点的时候,必然会带来节点的服务崩溃,因此设置节点的容器本身是可以自动化部署的,当用户请求出现压力时,可以快速实现横向扩展。
3)隐私原则:生态的各方参与者、挖矿节点、人工智能厂商、数据提供者等可以得到隐私保护,参与者可以根据自己的需求来选择性开放。
上述的深度学习区块链平台可以包括如下模块:
1)深度学习计算模块:
深度学习计算模块用于完成:计算任务分发、容器计算量分发。具体的,计算容器被部署成功之后,做验证计算,在验证计算通过之后,计算任务通过区块链网络进行全网分发。
2)计算容器:
用于为单个用户或者使用群组管理容器实例的整个生命周期,根据用户需求来提供虚拟服务,负责容器的创建、挂起、暂停、调整、迁移、重启、销毁等操作。
当用户的并发请求计算容量达到容器分配量特定值(该值可以由用户自己设定)的时候,容器计算引擎会启动报警工作,并且会开始自动化部署容器进入其他正常节点进行扩容。
具体的,可以先读取配置文件,读取配置参数,并且根据配置完成初始化消息队列,用以后续与别的组件进行内部消息交互。同时,根据配置文件中的配置项启动DB服务器,配置文件中的每一个API对应一个服务器。另外根据系统的GPU核心数n,每个DB服务器都会有n个协程去处理请求。
3)镜像管理系统:
一套虚拟容器镜像查找和检索系统,有创建镜像、上传镜像、删除镜像、编辑镜像基本信息的功能镜像管理系统主要由镜像管理API和镜像管理寄存器这两种服务组成。
其中,镜像管理API是镜像管理系统服务的入口,负责接收用户的API请求。镜像管理寄存器处理的是镜像元数据相关的请求,当镜像管理API收到用户的API请求后,如果判断该请求是与元数据相关,就把该请求转给镜像管理寄存器服务。然后,镜像管理寄存器会解析用户元数据请求的内容,并和数据库交互存取和更新镜像的元数据。
基于上述深度学习区块链平台可以按照如下方式进行深度学习:
S1,研究者针对某一人工智能应用研发了深度学习模型后,开源并打包发布至深度学习区块链,提供运行环境以及输入输出数据格式标准,并可以选择用公开数据集提交训练/测试任务。其中,发布的深度学习模型被他人使用时,发布者可获得相应回报。
S2,训练任务发布:发布者选择已发布的模型算法,打包数据后发布训练/测试任务。提交前可以显示:预估的费用消耗、可用的节点、单位成本等信息,通过动态调整所有模型算法的单位成本,可达到全网所有节点执行任一深度计算任务的总体回报相同。其中,任务的执行情况及任务完成状态以交易形式记录在区块中。
S3,任务分配与领取:接收广播到深度学习区块链中的任务以及其他节点的运行状态,每隔一定时间创建一个区块并根据算法选择运行的任务并加以执行。节点最终的回报除了任务发布者支付的费用外,任务完成后会在区块链中统计总的计算量,并按每个节点的执行情况按比例进行分配。
在上例中,为了解决现有的深度学习集群资源耗费巨大、不能共享、存在一定程度浪费以及深度学习集群弹性不足的问题,提出了一种基于区块链的深度学习集群系统,在区块链网络中,各方具备深度学习资源和能力的平台可接入到整个深度学习网络中,依靠智能算法,对于深度学习的任务进行编排调度,从而有效提升了平台资源利用率。且任务之间相互竞争节点能力,使得集群更加高效。因为建立的是区块链系统,从而使得任务具备隐私性,信息安全得到有效保护。进一步的,根据区块链平台产生的任务调度费用,受到多方记账并认可,提升了信任度。网络中任务均由各深度学习节点协同完成,避免了中心化节点泄露任务内容和结果的问题。
在上述实施例中,接收任务发布者在区块链平台选定的深度学习模型和输入的训练集,以生成深度学习任务;在任务发布者确认发布所述深度学习任务之后,将所述深度学习任务分发至所述区块链平台中的计算节点进行深度学习。在上述方案中通过区块链平台对训练任务进行分发处理,从而解决了现有的深度学习成本过高、训练效率低下的技术问题,达到了降低训练成本、提升训练效率的技术效果。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。
实施例二
基于上述实施例一中提供的基于区块链平台进行深度学习的方法,本实施例中提供一种基于区块链平台进行深度学习的系统,具体地,图2和图3示出了该基于区块链平台进行深度学习的系统的可选的结构框图,该基于区块链平台进行深度学习的系统被分割成一个或多个程序模块,一个或者多个程序模块被存储于存储介质中,并由一个或多个处理器所执行,以完成本发明。本发明所称的程序模块是指能够完成特定功能的一系列计算机程序指令段,比程序本身更适合描述基于区块链平台进行深度学习的系统在存储介质中的执行过程,以下描述将具体介绍本实施例各程序模块的功能:
如图2所示,基于区块链平台进行深度学习的系统20包括:
第一接收模块201,用于接收任务发布者在区块链平台选定的深度学习模型;
第二接收模块202,用于接收所述任务发布者输入的训练集;
生成模块203,用于根据所述训练集和所述深度学习模型,生成深度学习任务;
分发模块204,用于将所述深度学习任务分发至所述区块链平台中的计算节点;
深度学习模块205,用于通过分发至的计算节点,对所述深度学习任务进行深度学习。
在一个实施方式中,上述区块链平台中的计算节点可以包括但不限于以下至少之一:FPGA服务器集群运行的全功能节点、企业中空闲的GPU计算节点、个人闲置的GPU计算节点。
在一个实施方式中,如图3所示,上述系统还可以包括:第三接收模块301,用于在接收任务发布者在区块链平台选定的深度学习模型之前,接收用户打包发布的深度学习模型,其中,所述深度学习模型中携带有:运行环境、输入数据格式、输出数据格式;发布模块302,用于将所述深度学习模型发布至区块链平台,用于任务发布者进行选择。
在一个实施方式中,根据所述训练集和所述深度学习模型,生成深度学习任务之后,上述系统还可以生成所述深度学习任务的任务处理信息,其中,所述任务处理信息包括以下至少之一:预估的费用、可用的计算节点、单位成本;其中,通过动态调整所有深度学习模型的单位成本,使得所述区块链平台中所有计算节点执行任一学习任务的总体回报是相同的;显示所述任务处理信息。
在一个实施方式中,通过分发至的计算节点,对所述深度学习任务进行深度学习之后,上述系统还可以获取深度学习任务的执行信息和完成状态;将所述执行信息和所述完成状态,以交易的形式记录在所述区块链平台中。
在一个实施方式中,上述分发模块可以包括:发布单元,用于在所述区块链平台发布所述深度学习任务,其中,发布信息中携带有单位任务量对应的价格;接收单元,用于接收计算节点对发布的深度学习任务的认领请求,其中,所述认领请求中携带有认领的任务量;分配单元,用于向认领请求对应的计算节点分配请求认领的任务量的深度学习任务。
在一个实施方式中,所述发布单元包括:划分子单元,用于将所述深度学习任务划分为多个单位任务量;计算子单元,用于计算单位任务量的价格;确定子单元,用于根据所述深度学习任务所需的计算环境,确定可申领所述深度学习任务的计算节点;发布子单元,用于向可申领所述深度学习任务的计算节点发布所述深度学习任务。
在一个实施方式中,深度学习模块具体用于所述计算节点接收分发至自身的深度学习任务,其中,分发至自身的深度学习任务中携带有:深度学习模型和训练集;所述计算节点将所述训练集作为训练样本输入所述深度学习模型中进行训练,得到训练后的深度学习模型。
关于上述实施例中的装置,其中各个单元、模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
在本实施例的各个实施方式中,接收任务发布者在区块链平台选定的深度学习模型和输入的训练集,以生成深度学习任务;在任务发布者确认发布所述深度学习任务之后,将所述深度学习任务分发至所述区块链平台中的计算节点进行深度学习。在上述方案中通过区块链平台对训练任务进行分发处理,从而解决了现有的深度学习成本过高、训练效率低下的技术问题,达到了降低训练成本、提升训练效率的技术效果。
实施例三
在本发明优选的实施例三中提供一种电子装置。图4是根据本发明电子装置一实施例的硬件架构示意图。本实施例中,电子装置2是一种能够按照事先设定或者存储的指令,自动进行数值计算和/或信息处理的设备。例如,可以是智能手机、平板电脑、笔记本电脑、台式计算机、机架式服务器、刀片式服务器、塔式服务器或机柜式服务器(包括独立的服务器,或者多个服务器所组成的服务器集群)等。如图所示,电子装置2至少包括但不限于:可通过系统总线相互通信连接存储器21、处理器22、网络接口23、以及基于区块链平台进行深度学习的系统20。其中:
存储器21至少包括一种类型的计算机可读存储介质,可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中,存储器21可以是电子装置2的内部存储模块,例如该电子装置2的硬盘或内存。在另一些实施例中,存储器21也可以是电子装置2的外部存储设备,例如该电子装置2上配备的插接式硬盘,智能存储卡(Smart MediaCard,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。当然,存储器21还可以既包括电子装置2的内部存储模块也包括其外部存储设备。本实施例中,存储器21通常用于存储安装于电子装置2的操作系统和各类应用软件,例如基于区块链平台进行深度学习的系统20的程序代码等。此外,存储器21还可以用于暂时地存储已经输出或者将要输出的各类数据。
处理器22在一些实施例中可以是中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器22通常用于控制电子装置2的总体操作,例如执行与电子装置2进行数据交互或者通信相关的控制和处理等。本实施例中,处理器22用于运行存储器21中存储的程序代码或者处理数据,例如运行的基于区块链平台进行深度学习的系统20等。
网络接口23可包括无线网络接口或有线网络接口,该网络接口23通常用于在电子装置2与其他电子装置之间建立通信连接。例如,网络接口23用于通过网络将电子装置2与外部终端相连,在电子装置2与外部终端之间的建立数据传输通道和通信连接等。网络可以是企业内部网(Intranet)、互联网(Internet)、全球移动通讯系统(Global System ofMobile communication,GSM)、宽带码分多址(Wideband Code Division MultipleAccess,WCDMA)、4G网络、5G网络、蓝牙(Bluetooth)、Wi-Fi等无线或有线网络。
需要指出的是,图4仅示出了具有部件21-23的电子装置,但是应理解的是,并不要求实施所有示出的部件,可以替代的实施更多或者更少的部件。
在本实施例中,存储于存储器21中的基于区块链平台进行深度学习的系统20还可以被分割为一个或者多个程序模块,一个或者多个程序模块被存储于存储器21中,并由一个或多个处理器(本实施例为处理器22)所执行,以完成本发明。
实施例四
本实施例还提供一种计算机可读存储介质,计算机可读存储介质内存储有基于区块链平台进行深度学习的系统,监控拨打任务的系统可被至少一个处理器所执行,以使至少一个处理器执行如实施例一的基于区块链平台进行深度学习的方法的步骤。
本实施例中,计算机可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中,计算机可读存储介质可以是计算机设备的内部存储单元,例如该计算机设备的硬盘或内存。在另一些实施例中,计算机可读存储介质也可以是计算机设备的外部存储设备,例如该计算机设备上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。当然,计算机可读存储介质还可以既包括计算机设备的内部存储单元也包括其外部存储设备。本实施例中,计算机可读存储介质通常用于存储安装于计算机设备的操作系统和各类应用软件,例如实施例二的客户保障分析系统的程序代码等。此外,计算机可读存储介质还可以用于暂时地存储已经输出或者将要输出的各类数据。
显然,本领域的技术人员应该明白,上述的本发明实施例的各模块或各步骤可以用通用的计算装置来实现,它们可以集中在单个的计算装置上,或者分布在多个计算装置所组成的网络上,可选地,它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,并且在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本发明实施例不限制于任何特定的硬件和软件结合。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。
Claims (10)
1.一种基于区块链平台进行深度学习的方法,其特征在于,包括如下步骤:
接收任务发布者在区块链平台选定的深度学习模型;
接收所述任务发布者输入的训练集;
根据所述训练集和所述深度学习模型,生成深度学习任务;
将所述深度学习任务分发至所述区块链平台中的计算节点;
通过分发至的计算节点,对所述深度学习任务进行深度学习。
2.根据权利要求1所述的方法,其特征在于,将所述深度学习任务分发至所述区块链平台中的计算节点,包括:
在所述区块链平台发布所述深度学习任务,其中,发布信息中携带有单位任务量对应的价格;
接收计算节点对发布的深度学习任务的认领请求,其中,所述认领请求中携带有认领的任务量;
向认领请求对应的计算节点分配请求认领的任务量的深度学习任务。
3.根据权利要求2所述的方法,其特征在于,将所述深度学习任务在所述区块链平台进行发布,包括:
将所述深度学习任务划分为多个单位任务量;
计算单位任务量的价格;
根据所述深度学习任务所需的计算环境,确定可申领所述深度学习任务的计算节点;
向可申领所述深度学习任务的计算节点发布所述深度学习任务。
4.根据权利要求1所述的方法,其特征在于,通过分发至的计算节点,对所述深度学习任务进行深度学习,包括:
所述计算节点接收分发至自身的深度学习任务,其中,分发至自身的深度学习任务中携带有:深度学习模型和训练集;
所述计算节点将所述训练集作为训练样本输入所述深度学习模型中进行训练,得到训练后的深度学习模型;
其中,所述区块链平台中的计算节点包括以下至少之一:FPGA服务器集群运行的全功能节点、企业中空闲的GPU计算节点、个人闲置的GPU计算节点。
5.根据权利要求1所述的方法,其特征在于,通过分发至的计算节点,对所述深度学习任务进行深度学习之后,所述方法还包括:
获取所述深度学习任务的执行信息和完成状态;
将所述执行信息和所述完成状态,以交易的形式记录在所述区块链平台中。
6.一种电子装置,包括存储器和处理器,其特征在于,所述存储器用于存储可被所述处理器执行的基于区块链平台进行深度学习的系统,所述基于区块链平台进行深度学习的系统包括:
第一接收模块,用于接收任务发布者在区块链平台选定的深度学习模型;
第二接收模块,用于接收所述任务发布者输入的训练集;
生成模块,用于根据所述训练集和所述深度学习模型,生成深度学习任务;
分发模块,用于将所述深度学习任务分发至所述区块链平台中的计算节点;
深度学习模块,用于通过分发至的计算节点,对所述深度学习任务进行深度学习。
7.根据权利要求6所述的电子装置,其特征在于,所述分发模块包括:
发布单元,用于在所述区块链平台发布所述深度学习任务,其中,发布信息中携带有单位任务量对应的价格;
接收单元,用于接收计算节点对发布的深度学习任务的认领请求,其中,所述认领请求中携带有认领的任务量;
分配单元,用于向认领请求对应的计算节点分配请求认领的任务量的深度学习任务。
8.根据权利要求6所述的电子装置,其特征在于,所述深度学习模块包括:
接收单元,用于计算节点接收分发至自身的深度学习任务,其中,分发至自身的深度学习任务中携带有:深度学习模型和训练集;
输入单元,用于所述计算节点将所述训练集作为训练样本输入所述深度学习模型中进行训练,得到训练后的深度学习模型;
其中,所述区块链平台中的计算节点包括以下至少之一:FPGA服务器集群运行的全功能节点、企业中空闲的GPU计算节点、个人闲置的GPU计算节点。
9.一种计算机设备,包括:存储器和处理器,其中,所述处理器用于执行权利要求1至5中任一项所述方法的步骤。
10.一种非易失性计算机可读存储介质,其上存储有计算机指令,所述指令被执行时实现权利要求1至5中任一项所述方法的步骤。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811252535.2A CN109409738A (zh) | 2018-10-25 | 2018-10-25 | 基于区块链平台进行深度学习的方法、电子装置 |
PCT/CN2019/070289 WO2020082611A1 (zh) | 2018-10-25 | 2019-01-03 | 基于区块链平台进行深度学习的方法、电子装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811252535.2A CN109409738A (zh) | 2018-10-25 | 2018-10-25 | 基于区块链平台进行深度学习的方法、电子装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109409738A true CN109409738A (zh) | 2019-03-01 |
Family
ID=65469643
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811252535.2A Pending CN109409738A (zh) | 2018-10-25 | 2018-10-25 | 基于区块链平台进行深度学习的方法、电子装置 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN109409738A (zh) |
WO (1) | WO2020082611A1 (zh) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110197285A (zh) * | 2019-05-07 | 2019-09-03 | 清华大学 | 基于区块链的安全协作深度学习方法及装置 |
CN111327692A (zh) * | 2020-02-05 | 2020-06-23 | 北京百度网讯科技有限公司 | 模型训练方法、装置及集群系统 |
CN111679905A (zh) * | 2020-05-11 | 2020-09-18 | 天津大学 | 算网融合网络模型 |
CN111753984A (zh) * | 2020-06-28 | 2020-10-09 | 中国银行股份有限公司 | 基于区块链进行分布式ai训练方法、装置及系统 |
CN112150152A (zh) * | 2020-10-09 | 2020-12-29 | 浙江专线宝网阔物联科技有限公司 | 基于区块链与模糊认知映射融合的b-f神经网络可追溯算法 |
CN112181599A (zh) * | 2020-10-16 | 2021-01-05 | 中国联合网络通信集团有限公司 | 模型训练方法、装置及存储介质 |
CN112968897A (zh) * | 2021-02-25 | 2021-06-15 | 浙江清华长三角研究院 | 一种在去中心化系统中运行的容器计算方法 |
WO2022089198A1 (en) * | 2020-10-29 | 2022-05-05 | International Business Machines Corporation | Blockchain for artificial intelligence training |
WO2022161081A1 (zh) * | 2021-01-28 | 2022-08-04 | 华为技术有限公司 | 集成学习模型的训练方法、装置、系统和相关设备 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105808500A (zh) * | 2016-02-26 | 2016-07-27 | 山西牡丹深度智能科技有限公司 | 深度学习的实现方法、装置 |
CN107864198A (zh) * | 2017-11-07 | 2018-03-30 | 济南浪潮高新科技投资发展有限公司 | 一种基于深度学习训练任务的区块链共识方法 |
CN108323200A (zh) * | 2018-01-25 | 2018-07-24 | 深圳前海达闼云端智能科技有限公司 | 基于区块链的数据训练方法、装置、存储介质及区块链节点 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106529682A (zh) * | 2016-10-28 | 2017-03-22 | 北京奇虎科技有限公司 | 一种在大数据集群中处理深度学习任务的方法和装置 |
CN106529673B (zh) * | 2016-11-17 | 2019-05-03 | 北京百度网讯科技有限公司 | 基于人工智能的深度学习网络训练方法及装置 |
-
2018
- 2018-10-25 CN CN201811252535.2A patent/CN109409738A/zh active Pending
-
2019
- 2019-01-03 WO PCT/CN2019/070289 patent/WO2020082611A1/zh active Application Filing
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105808500A (zh) * | 2016-02-26 | 2016-07-27 | 山西牡丹深度智能科技有限公司 | 深度学习的实现方法、装置 |
CN107864198A (zh) * | 2017-11-07 | 2018-03-30 | 济南浪潮高新科技投资发展有限公司 | 一种基于深度学习训练任务的区块链共识方法 |
CN108323200A (zh) * | 2018-01-25 | 2018-07-24 | 深圳前海达闼云端智能科技有限公司 | 基于区块链的数据训练方法、装置、存储介质及区块链节点 |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110197285B (zh) * | 2019-05-07 | 2021-03-23 | 清华大学 | 基于区块链的安全协作深度学习方法及装置 |
CN110197285A (zh) * | 2019-05-07 | 2019-09-03 | 清华大学 | 基于区块链的安全协作深度学习方法及装置 |
CN111327692A (zh) * | 2020-02-05 | 2020-06-23 | 北京百度网讯科技有限公司 | 模型训练方法、装置及集群系统 |
WO2021155667A1 (zh) * | 2020-02-05 | 2021-08-12 | 北京百度网讯科技有限公司 | 模型训练方法、装置及集群系统 |
CN111679905A (zh) * | 2020-05-11 | 2020-09-18 | 天津大学 | 算网融合网络模型 |
CN111753984A (zh) * | 2020-06-28 | 2020-10-09 | 中国银行股份有限公司 | 基于区块链进行分布式ai训练方法、装置及系统 |
CN112150152A (zh) * | 2020-10-09 | 2020-12-29 | 浙江专线宝网阔物联科技有限公司 | 基于区块链与模糊认知映射融合的b-f神经网络可追溯算法 |
CN112150152B (zh) * | 2020-10-09 | 2023-08-08 | 浙江专线宝网阔物联科技有限公司 | 基于区块链与模糊认知映射融合的b-f神经网络可追溯算法 |
CN112181599A (zh) * | 2020-10-16 | 2021-01-05 | 中国联合网络通信集团有限公司 | 模型训练方法、装置及存储介质 |
CN112181599B (zh) * | 2020-10-16 | 2023-05-16 | 中国联合网络通信集团有限公司 | 模型训练方法、装置及存储介质 |
WO2022089198A1 (en) * | 2020-10-29 | 2022-05-05 | International Business Machines Corporation | Blockchain for artificial intelligence training |
WO2022161081A1 (zh) * | 2021-01-28 | 2022-08-04 | 华为技术有限公司 | 集成学习模型的训练方法、装置、系统和相关设备 |
CN112968897A (zh) * | 2021-02-25 | 2021-06-15 | 浙江清华长三角研究院 | 一种在去中心化系统中运行的容器计算方法 |
Also Published As
Publication number | Publication date |
---|---|
WO2020082611A1 (zh) | 2020-04-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109409738A (zh) | 基于区块链平台进行深度学习的方法、电子装置 | |
Xu et al. | Unleashing the power of edge-cloud generative ai in mobile networks: A survey of aigc services | |
Verdecchia et al. | Green IT and green software | |
CN107729139A (zh) | 一种并发获取资源的方法和装置 | |
CN103942099B (zh) | 基于Hive的并行执行任务方法及装置 | |
CN107920103B (zh) | 一种信息推送的方法和系统及客户端和服务器 | |
CN109754072B (zh) | 网络离线模型的处理方法、人工智能处理装置及相关产品 | |
CN109388667A (zh) | 组件化大数据处理方法、系统及计算机可读存储介质 | |
CN104050275A (zh) | 项目评审方法和系统 | |
CN103258248A (zh) | 一种微博流行趋势预测方法、装置及系统 | |
CN111031133B (zh) | 业务引擎的运行方法和装置、存储介质、电子装置 | |
CN106951254B (zh) | 支付系统中相似业务功能模块复用的方法及装置 | |
CN107807935B (zh) | 应用推荐方法及装置 | |
CN112486491A (zh) | 页面生成方法、装置、计算机设备及存储介质 | |
CN110633959A (zh) | 基于图结构的审批任务创建方法、装置、设备及介质 | |
CN112308590B (zh) | 一种参数处理方法、装置以及计算设备、存储介质 | |
CN113765942A (zh) | 一种云算力分配方法、用户终端、云算力平台和系统 | |
CN102929636B (zh) | 一种人机交互界面创建方法和装置 | |
CN112148276A (zh) | 用于深度学习的可视化编程 | |
CN110109684A (zh) | 区块链节点管理代理服务安装方法、电子装置及存储介质 | |
CN113760983A (zh) | 数据处理方法、系统及非瞬时性计算机可读存储介质 | |
CN110457010A (zh) | 基于协作平台批量更改任务单的方法及装置 | |
CN110427260A (zh) | 主机作业调度方法、装置及系统 | |
CN110210885A (zh) | 挖掘潜在客户的方法、装置、设备及可读存储介质 | |
CN107688582A (zh) | 资源推荐模型的获取方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |