CN112507387A - 一种基于区块链的分布式数据和模型的计算方法及装置 - Google Patents
一种基于区块链的分布式数据和模型的计算方法及装置 Download PDFInfo
- Publication number
- CN112507387A CN112507387A CN202110153170.3A CN202110153170A CN112507387A CN 112507387 A CN112507387 A CN 112507387A CN 202110153170 A CN202110153170 A CN 202110153170A CN 112507387 A CN112507387 A CN 112507387A
- Authority
- CN
- China
- Prior art keywords
- target
- transaction
- data
- model
- node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
- G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/602—Providing cryptographic facilities or services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/64—Protecting data integrity, e.g. using checksums, certificates or signatures
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Bioethics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computer Security & Cryptography (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Financial Or Insurance-Related Operations Such As Payment And Settlement (AREA)
Abstract
本发明提供了一种基于区块链的分布式数据和模型的计算方法及装置,基于区块链和智能合约,在保护数据拥有方的数据、模型拥有方的模型的基础上,进行计算环境、数据、模型、算力的发布,通过异步执行、多阶段关联一组区块链交易及其协同的方式克服区块链协议栈有关各节点完全对等的要求以及智能计算耗时可能超出区块链共识过程限制的情况,能够做到计算环境、数据、模型、算力和计算过程全程可信可追溯,支撑实现多源多主的分布式数据和模型的可控共享以及分布式的数据智能和隐私计算。
Description
技术领域
本发明涉及分布式数据智能领域,尤其是基于区块链支撑实现可控的分布式数据智能和隐私计算这一技术领域。
背景技术
数字时代的核心是数据。数字生态的基础就是数据共享,通过共享实现协同、互通有无,进而形成生态。数字时代,也许不是一切即数据,但数据无处不在,而且天然就是多源、多主、分布式的。数据智能和隐私计算,依赖数据和大数据分析模型/人工智能模型,而这些模型也是数据,只不过是可以作用于数据之上的“可执行”的、特殊形式的数据。在大数据分析和人工智能/深度学习环境中,我们称可执行的数据为模型,能够更好的显示其在数据智能流程中的角色和作用。
数据共享和数据智能的成效,受制于数据的真实性、完整性和共享及智能计算全流程的可追溯性。
传统上,数据共享的三种方式,都不能满足数字时代数据智能对数据和模型的访问要求和保护要求:
(1)数据归集:通过买卖、交换、命令等方式归集数据。因为数据拥有者和数据看护者意识到数据的现实和长远价值,收集分布式的数据的阻力越来越大。
(2)API接口:数据拥有方通过编程接口提供受限的数据查询、分析功能给内外部的调用者。如果是简单的查询和分析,自然不能满足数据智能要求的灵活性。如果这个API接口支持导入大数据分析模型和人工智能/深度学习模型,则该模型能够在数据拥有方沉淀下来,不能保护模型拥有方的利益。
(3)数据沙箱:数据拥有方提供线下或线上的数据沙箱环境(如果是线上,等同于支持模型导入的API接口方式),供用户自带模型在数据沙箱内进行大数据分析和人工智能/深度学习训练等数据智能运算。这种方式与支持模型导入的API接口方式一样,模型能够在数据拥有方沉淀下来,不能保护模型拥有方的利益。
在多源、多主、分布式的环境下,如何以可控、可信、可追溯的方式,在保护数据拥有方、模型拥有方的利益的前提下,实现可控的数据共享、支撑分布式的数据智能和隐私计算,是数字时代的巨大挑战。
发明内容
为了解决上述技术问题中的至少一个,本发明提供了一种基于区块链的分布式数据和模型的计算方法、装置、电子设备和可读存储介质。
本发明的第一方面,提供了一种基于区块链的分布式数据和模型的计算方法,包括:
区块链的第一节点通过第一合约,在所述区块链发布包含算力的元数据的第一交易;
所述第一节点通过第二合约,接收所述区块链的第二节点发布的包含数据的元数据的第二交易;
所述第一节点通过第三合约,接收所述区块链的第三节点发布的包含模型的元数据的第三交易;
目标第一节点接收在所述区块链发布的包括目标数据标识、目标模型标识、目标算力标识的第四交易;所述目标第一节点是与所述目标算力标识对应的所述第一节点;
所述目标第一节点根据所述数据的元数据获取与所述目标数据标识对应的目标数据,以及,根据所述模型的元数据获取与所述目标模型标识对应的目标模型;
所述目标第一节点执行与所述目标数据和所述目标模型关联的计算;
所述目标第一节点在所述区块链发布包含计算结果相关信息的第五交易。
具体地,数据的元数据包括:数据类型、格式、数量、哈希、URL、算力信任等级、描述中的至少一项;模型的元数据包括:模型类型、格式、计算环境、数据类型、数据格式、哈希、URL、算力信任等级、描述中的至少一项;算力的元数据包括:系统固件、操作系统、CPU、内存、存储、带宽、描述中的至少一项。
可选地,所述第四交易还包含目标计算环境标识;
所述目标第一节点执行与所述目标数据和所述目标模型关联的计算之前,还包括:
所述目标第一节点加载与所述目标计算环境标识对应的目标计算环境。
可选地,目标计算环境是目标第一节点预存的。
可选地,方法还包括:
所述第一节点通过第四合约,接收环境服务端在所述区块链发布的包含计算环境相关信息的第六交易;
所述目标第一节点加载与所述目标计算环境标识对应的目标计算环境之前,还包括:
所述目标第一节点根据所述计算环境相关信息获取与所述目标计算环境标识对应的目标计算环境。
可选地,所述目标第一节点接收在所述区块链发布的包括目标数据标识、目标模型标识、目标算力标识的第四交易之后,还包括:
所述目标第一节点通过第五合约,在所述区块链发布包含第一状态的第七交易,所述第一状态指示已收到所述第四交易;
所述目标第一节点根据所述数据的元数据获取与所述目标数据标识对应的目标数据之后,还包括:
所述目标第一节点通过所述第五合约,在所述区块链发布包含第二状态的第七交易,所述第二状态指示已获取所述目标数据;
所述目标第一节点根据所述模型的元数据获取与所述目标模型标识对应的目标模型之后,还包括:
所述目标第一节点通过所述第五合约,在所述区块链发布包含第三状态的第七交易,所述第三状态指示已获取所述目标模型;
所述目标第一节点加载与所述目标计算环境标识对应的目标计算环境之后,还包括:
所述目标第一节点通过所述第五合约,在所述区块链发布包含第四状态的第七交易,所述第四状态指示已准备所述目标计算环境;
所述目标第一节点执行与所述目标数据和所述目标模型关联的计算之后,还包括:
所述目标第一节点通过所述第五合约,在所述区块链发布包含第五状态的第七交易,所述第五状态指示已完成所述第四交易对应的计算作业;
所述目标第一节点在所述区块链发布包含计算结果相关信息的第五交易之后,还包括:
所述目标第一节点通过所述第五合约,在所述区块链发布包含第六状态的第七交易,所述第六状态指示已发布计算结果相关信息。
可选地,所述目标第一节点通过所述第五合约,在所述区块链发布包含第三状态的第七交易之后,还包括:
所述目标第一节点获取所述目标模型的安全检查结果;其中,所述目标模型的安全检查包括检查所述目标模型是否泄露数据、或者破坏数据、或者破环计算环境,当确认所述目标模型不安全时,清除所述目标模型;
若确认所述目标模型安全,则通过所述第五合约,在所述区块链发布包含第七状态的第七交易,所述第七状态指示已确认所述目标模型是安全的;
若确认所述目标模型不安全,则通过所述第五合约,在所述区块链发布包含第八状态的第七交易,所述第八状态指示已清除所述目标模型。
可选地,所述目标第一节点通过所述第五合约,在所述区块链发布包含第五状态的第七交易之后,还包括:
所述目标第一节点获取计算结果的安全检查结果;其中,所述计算结果的安全检查包括检查所述计算结果是否泄露预设的敏感数据,当确认所述计算结果不安全时,清除所述敏感数据;
若确认所述计算结果安全,则通过所述第五合约,在所述区块链发布包含第九状态的第七交易,所述第九状态指示已确认所述计算结果是安全的;
若确认所述计算结果不安全,则通过所述第五合约,在所述区块链发布包含第十状态的第七交易,所述第十状态指示已清除所述敏感数据。
可选地,所述目标第一节点根据所述数据的元数据获取与所述目标数据标识对应的目标数据,包括:
所述目标第一节点根据所述数据的元数据,采用端到端安全通道获取与所述目标数据标识对应的目标数据;
所述目标第一节点根据所述模型的元数据获取与所述目标模型标识对应的目标模型,包括:
所述目标第一节点根据所述模型的元数据,采用端到端安全通道获取与所述目标模型标识对应的目标模型。
可选地,所述目标第一节点在所述区块链发布包含计算结果相关信息的第五交易之后,还包括:
所述目标第一节点删除所述目标数据和所述目标模型。
可选地,所述计算结果相关信息,包括:
与所述计算结果对应的链接;或者,
使用服务请求端的公钥加密所述计算结果后的数据。
本发明的第二方面,提供了一种基于区块链的分布式数据和模型的计算装置,包括:
第一合约模块,用于通过第一合约,在所述区块链发布包含算力的元数据的第一交易;
第二合约模块,用于通过第二合约,接收所述区块链上发布的包含数据的元数据的第二交易;
第三合约模块,用于通过第三合约,接收所述区块链上发布的包含模型的元数据的第三交易;
计算需求获取模块,用于接收在所述区块链发布的包括目标数据标识、目标模型标识、目标算力标识的第四交易;
所述第一合约模块,还用于确定本节点是否是与所述目标算力标识对应的节点;如果是,则触发所述第二合约模块根据所述数据的元数据获取与所述目标数据标识对应的目标数据,触发所述第三合约模块根据所述模型的元数据获取与所述目标模型标识对应的目标模型,以及,触发计算执行模块执行与所述目标数据和所述目标模型关联的计算;
结果发布模块,用于在所述区块链发布包含计算结果相关信息的第五交易。
可选地,所述计算需求获取模块接收的所述第四交易还包含目标计算环境标识;
所述装置还包括:
计算环境加载模块,用于加载与所述目标计算环境标识对应的目标计算环境。
可选地,装置还包括:
第四合约模块,用于通过第四合约,接收环境服务端在所述区块链发布的包含计算环境相关信息的第六交易;以及,根据所述计算环境相关信息获取与所述目标计算环境标识对应的目标计算环境。
可选地,装置还包括:
第五合约模块,用于在所述计算需求获取模块接收所述第四交易之后,通过第五合约,在所述区块链发布包含第一状态的第七交易,所述第一状态指示已收到所述第四交易;在所述第二合约模块根据所述数据的元数据获取与所述目标数据标识对应的目标数据之后,通过所述第五合约,在所述区块链发布包含第二状态的第七交易,所述第二状态指示已获取所述目标数据;在所述第三合约模块根据所述模型的元数据获取与所述目标模型标识对应的目标模型之后,通过所述第五合约,在所述区块链发布包含第三状态的第七交易,所述第三状态指示已获取所述目标模型;在所述计算环境加载模块加载与所述目标计算环境标识对应的目标计算环境之后,通过所述第五合约,在所述区块链发布包含第四状态的第七交易,所述第四状态指示已准备所述目标计算环境;在所述计算执行模块执行与所述目标数据和所述目标模型关联的计算之后,通过所述第五合约,在所述区块链发布包含第五状态的第七交易,所述第五状态指示已完成所述第四交易对应的计算作业;在所述结果发布模块在所述区块链发布包含计算结果相关信息的第五交易之后,通过所述第五合约,在所述区块链发布包含第六状态的第七交易,所述第六状态指示已发布计算结果相关信息。
可选地,所述第五合约模块还用于:
在通过所述第五合约,在所述区块链发布包含第三状态的第七交易之后,获取所述目标模型的安全检查结果;其中,所述目标模型的安全检查包括检查所述目标模型是否泄露数据、或者破坏数据、或者破环计算环境,当确认所述目标模型不安全时,清除所述目标模型;若确认所述目标模型安全,则通过所述第五合约,在所述区块链发布包含第七状态的第七交易,所述第七状态指示已确认所述目标模型是安全的;若确认所述目标模型不安全,则通过所述第五合约,在所述区块链发布包含第八状态的第七交易,所述第八状态指示已清除所述目标模型。
可选地,所述第五合约模块还用于:
在通过所述第五合约,在所述区块链发布包含第五状态的第七交易之后,获取计算结果的安全检查结果;其中,所述计算结果的安全检查包括检查所述计算结果是否泄露预设的敏感数据,当确认所述计算结果不安全时,清除所述敏感数据;
若确认所述计算结果安全,则通过所述第五合约,在所述区块链发布包含第九状态的第七交易,所述第九状态指示已确认所述计算结果是安全的;
若确认所述计算结果不安全,则通过所述第五合约,在所述区块链发布包含第十状态的第七交易,所述第十状态指示已清除所述敏感数据。
可选地,所述第二合约模块用于根据所述数据的元数据获取与所述目标数据标识对应的目标数据时,具体用于:
根据所述数据的元数据,采用端到端安全通道获取与所述目标数据标识对应的目标数据;
所述第三合约模块用于根据所述模型的元数据获取与所述目标模型标识对应的目标模型时,具体用于:
根据所述模型的元数据,采用端到端安全通道获取与所述目标模型标识对应的目标模型。
可选地,装置还包括:
数据删除模块,用于所述结果发布模块在所述区块链发布包含计算结果相关信息的第五交易之后,删除所述目标数据和所述目标模型。
可选地,装置还包括:
结果生成模块,用于生成与所述计算结果对应的链接;其中,所述第五交易包含与所述计算结果对应的链接;或者,使用服务请求端的公钥加密所述计算结果;其中,所述第五交易包含与所述计算结果的加密数据。
本发明的第三方面,提供了一种电子设备,包括存储器和处理器,所述存储器用于存储计算机指令,所述计算机指令被所述处理器执行以实现如本发明第一方面所述的方法。
本发明的第四方面,提供了一种可读存储介质,其上存储有计算机指令,所述计算机指令被处理器执行时实现本发明第一方面所述的方法。
本发明的第五方面,提供一种基于区块链的分布式数据和模型的计算系统,包括:
所述区块链的第一节点、第二节点和第三节点;
所述第一节点用于通过第一合约,在所述区块链发布包含算力的元数据的第一交易;
所述第二节点用于通过第二合约,在所述区块链发布包含数据的元数据的第二交易;
所述第三节点用于通过第三合约,在所述区块链发布包含模型的元数据的第三交易;
所述第一节点、所述第二节点、所述第三节点还用于接收在所述区块链发布的包括目标数据标识、目标模型标识、目标算力标识的第四交易;
与所述目标算力标识对应的目标第一节点用于根据所述数据的元数据获取与所述目标数据标识对应的目标数据,以及,根据所述模型的元数据获取与所述目标模型标识对应的目标模型;执行与所述目标数据和所述目标模型关联的计算;在所述区块链发布包含计算结果相关信息的第五交易。
可选地,所述第四交易还包含目标计算环境标识;
所述目标第一节点还用于:在执行与所述目标数据和所述目标模型关联的计算之前,加载与所述目标计算环境标识对应的目标计算环境。
可选地,系统还包括环境服务端;
所述环境服务端用于在所述区块链发布包含计算环境相关信息的第六交易;
所述目标第一节点还用于:在加载与所述目标计算环境标识对应的目标计算环境之前,根据所述计算环境相关信息获取与所述目标计算环境标识对应的目标计算环境。
可选地,系统还包括:
目录服务端,用于侦听所述第一节点发布的所述第一交易、所述第二节点发布的所述第二交易和所述第三节点发布的所述第三交易;提供包含所述算力的元数据、所述数据的元数据、所述模型的元数据的目录服务。
可选地,所述目录服务端还用于提供包含计算环境相关信息的目录服务。
可选地,系统还包括:
服务请求端,用于查询所述目录服务,在所述区块链发布所述第四交易;以及,侦听所述区块链,通过所述第五交易获取所述计算结果相关信息。
可选地,所述计算结果相关信息,包括:所述计算结果对应的链接地址;
所述服务请求端还用于:访问所述计算结果对应的链接地址;
所述目标第一节点还用于:接收所述服务请求端的对所述计算结果对应的链接地址的访问;根据所述第四交易和所述第五交易,认证所述服务请求端;在认证通过后,采用端到端安全通道传输所述计算结果。
可选地,所述目标第一节点还用于:在接收所述第四交易之后,通过第五合约,发布包含第一状态的第七交易,所述第一状态指示已收到所述第四交易;在通过所述第二合约获取与所述目标数据标识对应的目标数据之后,通过第五合约,发布包含第二状态的第七交易,所述第二状态指示已获取所述目标数据;在通过所述第三合约获取与所述目标模型标识对应的目标模型之后,通过所述第五合约,发布包含第三状态的第七交易,所述第三状态指示已获取所述目标模型;在准备与所述目标计算环境标识对应的目标计算环境之后,通过所述第五合约,发布包含第四状态的第七交易,所述第四状态指示已准备所述目标计算环境;在执行与所述目标数据和所述目标模型关联的计算之后,通过所述第五合约,发布包含第五状态的第七交易,所述第五状态指示已完成所述第四交易对应的计算作业;在所述区块链发布包含计算结果相关信息的第五交易之后,通过所述第五合约,发布包含第六状态的第七交易,所述第六状态指示已发布计算结果相关信息。
可选地,所述目标第一节点还用于:在通过所述第五合约,发布包含第三状态的第七交易之后,获取所述目标模型的安全检查结果;其中,所述目标模型的安全检查包括检查所述目标模型是否泄露数据、或者破坏数据、或者破环计算环境,当确认所述目标模型不安全时,清除所述目标模型;若确认所述目标模型安全,则通过所述第五合约,发布包含第七状态的第七交易,所述第七状态指示已确认所述目标模型是安全的;若确认所述目标模型不安全,则通过所述第五合约,发布包含第八状态的第七交易,所述第八状态指示已清除所述目标模型。
可选地,所述目标第一节点还用于:
在通过所述第五合约,发布包含第五状态的第七交易之后,获取计算结果的安全检查结果;其中,所述计算结果的安全检查包括检查所述计算结果是否泄露预设的敏感数据,当确认所述计算结果不安全时,清除所述计算结果;若确认所述计算结果安全,则通过所述第五合约,发布包含第九状态的第七交易,所述第九状态指示已确认所述计算结果是安全的;若确认所述计算结果不安全,则通过所述第五合约,发布包含第十状态的第七交易,所述第十状态指示已清除敏感数据。
可选地,所述目标第一节点用于根据所述数据的元数据获取与所述目标数据标识对应的目标数据时,具体用于:
根据所述数据的元数据,采用端到端安全通道获取与所述目标数据标识对应的目标数据;
所述目标第一节点用于根据所述模型的元数据获取与所述目标模型标识对应的目标模型时,具体用于:
根据所述模型的元数据,采用端到端安全通道获取与所述目标模型标识对应的目标模型。
可选地,所述第二节点还用于:根据所述第四交易对所述目标第一节点进行认证,仅在认证通过后,建立所述端到端安全通道;
所述第三节点还用于:根据所述第四交易对所述目标第一节点进行认证,仅在认证通过后,建立所述端到端安全通道。
可选地,所述目标第一节点还用于:
在所述区块链发布包含计算结果相关信息的第五交易之后,删除所述目标数据和所述目标模型。
可选地,所述目标第一节点还用于:
生成与所述计算结果对应的链接;其中,所述第五交易包含与所述计算结果对应的链接;或者,使用服务请求端的公钥加密所述计算结果;其中,所述第五交易包含与所述计算结果的加密数据。
本发明的基于区块链的分布式数据智能方法,支持多源多主的数据和模型的分布式共享,强制数据和模型在符合信任条件的算力节点暂存和参与数据智能计算,而且能够用过即删,确保保护数据拥有方和模型拥有方的利益,并在整个数据智能过程中做到数据、模型、计算环境和计算过程的可信追溯。
附图说明
附图示出了本发明的示例性实施方式,并与其说明一起用于解释本发明的原理,其中包括了这些附图以提供对本发明的进一步理解,并且附图包括在本说明书中并构成本说明书的一部分。
图1示例本发明涉及的主要功能模块。
图2示例本发明中进行算力发布的工作流程。
图3示例本发明中进行数据发布的工作流程。
图4示例本发明中的进行模型发布的工作流程。
图5示例本发明中实现分布式数据智能的工作流程。
具体实施方式
下面结合附图和实施方式对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施方式仅用于解释相关内容,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分。
需要说明的是,在不冲突的情况下,本发明中的实施方式及实施方式中的特征可以相互组合。下面将参考附图并结合实施方式来详细说明。
在分布式环境下,在保护数据和模型拥有方利益的同时,实现对多源、多主的数据和模型的共享,进而支撑分布式的数据智能的前提是可信追溯和可控共享。
可信追溯,包含可信和追溯。只有不可抵赖、不可篡改的追溯才有意义,正所谓可信追溯。实现可信追溯,需要做到计算环境(算力服务商和软件环境)、数据(完整性、真实性)、模型(完整性、真实性),以及数据共享和数据智能全流程的可信追溯。
可控共享,是常规的信息安全范畴。经由一系列的管理的(比如政审准入、职业培训等)、物理的(比如数据中心加固、服务器机箱加固等)及技术的(服务器固件、操作系统、平台软件、身份认证、权限控制、加密存储、传输和使用、流程审计等)安全措施,可以对数据和模型实现不同层级的可控共享。当然,在分布式环境下,可控共享需要可信追溯帮助共享平台和各个相关方“自证清白”。
显而易见,可信可追溯是分布式环境下数据共享和数据智能的重要前提。
区块链基于分布式控制和密码学,在各方之间自动维护一个不可抵赖、不可篡改的分布式账本,以忠实的记录各相关方基于智能合约(区块链上的服务应用)实现协同和共享的所有操作及结果状态。它逻辑上天然适合于分布式的数据共享和数据智能。
但是,区块链技术并不能简单适用于分布式的数据共享和数据智能。因为,区块链技术要求区块链网络上的每一个区块链节点(计算设备)都有所有的智能合约,每一个节点执行同一个区块链交易,必须达成同样的结果。而分布式数据共享和数据智能环境下,数据、模型和大数据分析/人工智能算力分散在不同的节点,极端情况下每个节点可能各不相同(特定的数据、特定的模型、特定的算力环境等等)。
通过子链或侧链架构(超级账本的通道机制,也类似子链),将不完全相同的节点分散在不同的子链或侧链的方式,也不适合分布式的数据共享和数据智能。因为,分布式数据共享和数据智能环境下,每个节点的角色和数据/模型基本各不相同,而且可能数量巨大,造成子链或侧链的数量巨大。一个数据智能的计算任务,可能需要协同多个不同的数据节点、不同的模型节点、不同的算力节点,如果他们数量过多,不但协同非常复杂,数据共享和数据智能的效率也会很差。
更不用说,一个大数据分析和人工智能/深度学习运算相对区块链交易的耗时通常要长很多,很可能会超过区块链区块生成、区块验证及整个共识过程允许的时间,而使得简单的区块链智能合约交易方式不能用于实现分布式的数据共享和数据智能。
本发明基于区块链,实现分布式环境下的计算环境、数据、模型和计算过程的可信发布和追溯,通过基于智能合约的多阶段、异步执行的一组区块链交易及其协同实现一种可控、可信、可追溯的分布式数据共享和数据智能方法。
(一)总体架构
如图1的架构图所示,数据拥有方在数据节点(提供数据的区块链节点)部署数据合约(图块107),连接本地的数据仓(图中未显示)到数据合约,并通过数据发布工具(图块110),发起包含数据情况(即数据的元数据,包括数据类型、格式、数量、哈希、URL、算力信任等级、描述等)的、由其签名的数据发布交易(TXd)到区块链网络(图块105)。区块链网络上各个区块链节点的数据合约,执行TXd,记录并发布该数据可用(不是发布数据本身上链)。
模型拥有方在模型节点(提供模型的区块链节点)部署模型合约(图块109),连接本地的模型(图中未显示)到模型合约,并通过模型发布工具(图块113),发起包含模型情况(即模型的元数据,包括模型类型、格式、计算环境、数据类型、数据格式、哈希、URL、算力信任等级、描述等)的、由其签名的数据发布交易(TXm)到区块链网络。区块链网络上各个区块链节点的模型合约,执行TXm,记录并发布该模型可用(不是发布模型本身上链)。
数据合约和模型合约,除了分别执行TXd和TXm以维护发布上链的数据和模型之外,还有网络接口(比如HTTPS服务)以便算力节点安全获取数据和模型。
算力拥有方在算力节点(提供的区块链节点)部署算力合约(图块108),并通过算力发布工具(图块111),发起包含算力情况(即算力的元数据,包括系统固件、操作系统、CPU、内存、存储、带宽、描述等)的、由其签名的数据发布交易(TXc)到区块链网络。区块链网络上各个区块链节点的算力合约,执行TXc,记录并发布该算力可用。
审核准入的、安全可靠的软件计算环境(系统固件、操作系统、区块链协议栈、大数据/人工智能框架等),由开发者用环境发布工具(图块103)发布由其签名的、包含计算环境情况(环境名称、类型、运行平台、作用、哈希值、描述等)的环境发布交易TXo到区块链上的环境合约,记录并发布该计算环境可用。同时上传计算环境本身到中枢的环境服务模块(图块104)。环境服务模块,会验证上传的计算环境,确保其与链上发布的一致。
中枢的目录服务(图块101)侦听所有发布上链的数据、模型、算力和计算环境的交易,并相应更新。
外部应用程序(图块100),浏览中枢的目录服务(图块101),决定其完成数据共享和数据智能运算需要的数据A、模型B、算力C和计算环境D,并向区块链网络(图块105)提交数据智能交易TXe。目标算力节点的算力合约执行TXe时,会调用状态合约(图块106),状态合约标识该交易对应的作业状态为“收到”(received),然后算力合约启动一个异步计算线程(不一定对应操作系统线程,也可能是一个或多个操作系统线程或进程),该异步线程从中枢的环境服务(图块104)获取并安装设置相应的计算环境(图块112),从目标数据节点获取数据,从目标模型节点获取模型,然后检查模型确保其安全性,执行模型,运算结束之后以不可逆的方式删除模型(如果需要的话),然后检查结果数据,确保其可以安全导出而不损害数据拥有方利益,最终提交一个计算结果交易TXr给区块链网络(图块105),其中包括用外部应用程序(图块100)的密码学公钥加密的、用于安全获取计算结果的URL(或者通过安全的消息通道)。区块链网络上每个节点的状态合约(图块106)执行TXr,将上述TXe对应的作业状态标识为“结束”(completed)。在这个过程中,算力合约启动的异步计算线程,可能会适时提交一个或多个计算进行交易TXp(其中包含TXe和当前进展阶段),状态合约(图块106)执行并更新TXe对应的计算作业的状态。
外部应用程序(图块100)侦听区块链网络(图块105)或随时查询状态合约(图块106)获知计算作业的当前状态,并在收到TXr时,如果成功,从算力节点(图块108)或其指定的URL安全获取结果数据。
(二)算力发布上链流程
算力拥有者决定可控共享的算力之后,准备算力并发布其算力的元数据上链。流程如图2所示,描述如下:
(1)算力拥有者用算力发布模块(图块201)从中枢的环境服务(图块204)下载基本算力环境。基本算力环境,包括服务器固件、操作系统、区块链协议栈、执行数据共享和数据智能计算的算力合约(图块202)、记录数据智能作业执行情况的状态合约等。
(2)算力拥有者用算力发布模块(图块201)安装运行基本算力环境。
(3)算力拥有者用算力发布模块(图块201)提交签名的算力发布交易TXc,其中包含算力的元数据,比如系统固件、操作系统、CPU、内存、存储、带宽、描述等。
(4)区块链网络上的每个区块链节点的算力合约(图块202)执行TXc,记录并发布该算力可用。
(5)中枢的目录服务(图块203)侦听TXc。
(6)中枢的目录服务(图块203)维护中心化的算力目录,以兹查询。
算力发布之后,区块链网络上的内外部应用场景即可开始可控的使用该算力。
(三)数据发布上链流程
数据拥有者决定可控共享的数据之后,准备数据并发布其数据的元数据上链。流程如图3所示,描述如下:
(1)数据拥有者用数据发布模块(图块301)从中枢的环境服务(图块304)下载基本数据环境。基本数据环境,包括区块链协议栈、记录上链数据列表的数据合约(图块302)、记录数据智能作业执行情况的状态合约等。
(2)数据拥有者用数据发布模块(图块301)安装运行基本数据环境。
(3)数据拥有者用数据发布模块(图块301)打包数据(比如用gzip格式),并将其导入数据合约的安全数据获取模块,以便授权的算力节点为授权的数据智能作业安全获取。
(4)数据拥有者用数据发布模块(图块301)提交签名的数据发布交易TXd,其中包含数据的元数据,比如数据类型、格式、数量、哈希、URL、算力信任等级、描述等。
(5)区块链网络上的每个区块链节点的数据合约(图块302)执行TXd,记录并发布该数据可用。
(6)中枢的目录服务(图块303)侦听TXd。
(7)中枢的目录服务(图块303)维护中心化的数据目录,以兹查询。
数据发布之后,区块链网络上的内外部应用场景即可开始可控的使用该数据。
(四)模型发布上链流程
模型拥有者决定可控共享的模型之后,准备模型并发布其模型的元数据上链。流程如图4所示,描述如下:
(1)模型拥有者用模型发布模块(图块401)从中枢的环境服务(图块404)下载基本数据环境。基本数据环境,包括区块链协议栈、记录上链模型列表的模型合约(图块402)、记录数据智能作业执行情况的状态合约等。
(2)模型拥有者用模型发布模块(图块401)安装运行基本模型环境。
(3)模型拥有者用模型发布模块(图块401)打包模型(比如用gzip格式),并将其导入模型合约的安全模型获取模块,以便授权的算力节点为授权的数据智能作业安全获取。
(4)模型拥有者用模型发布模块(图块401)提交签名的模型发布交易TXm,其中包含模型的元数据,比如类型、格式、计算环境、数据类型、数据格式、哈希、URL、算力信任等级、描述等。
(5)区块链网络上的每个区块链节点的模型合约(图块402)执行TXm,记录并发布该模型可用。
(6)中枢的目录服务(图块403)侦听TXm。
(7)中枢的目录服务(图块403)维护中心化的模型目录,以兹查询。
模型发布之后,区块链网络上的内外部应用场景即可开始可控的使用该模型。
(五)可控共享和数据智能流程
数据拥有方和模型拥有方将各自的数据和模型发布上链之后,授权的外部应用即可开始以受控的方式使用这些数据和模型,以实现分布式的数据共享、数据智能和隐私计算作业。整个流程如图5 所示,描述如下:
(1)外部应用程序(图块500)浏览中心化的目录服务(图块501)。
(2)外部应用程序(图块500)决定用数据A、模型B,在算力C的计算环境D下获取共享的数据或进行数据智能和隐私计算。
(3)外部应用程序(图块500)提交数据智能交易TXe到区块链网络,其中包含目标数据标识、目标模型标识、目标算力标识、计算环境标识、安全访问应用提供的数据和模型的URL等。
(4)每个区块链节点的算力合约(图块505),转交TXe给状态合约(图块503)执行。状态合约设定该作业的状态为“收到”(received)。
(5)如果是目标算力节点,算力合约(图块505)则启动异步执行线程(图块507),该线程异步执行该可控共享和数据智能作业。
在目标算力节点上,算力合约(图块505)的异步执行线程(图块507)执行可控共享和数据智能作业的流程如下:
(6)从中心化的环境服务(图块502)获取计算环境D。
(7)构建安全的计算环境D,确保其信任等级符合数据和模型的安全要求。
(8)从数据节点的数据合约(图块504),安全获取目标数据:数据节点依据接收的TXe,认证算力节点,基于数据的访问授权、共享策略和目标算力的信任等级决定是否允许共享。如果允许共享,则建立端到端安全通道传递数据。
(9)从模型节点的模型合约(图块506),安全获取目标模型:模型节点依据接收的TXe,认证算力节点,基于模型的访问授权、共享策略和目标算力的信任等级决定是否允许共享。如果允许共享,则建立端到端安全通道传递模型。
(10)提交计算进行交易TXp(其中包含TXe和当前进展阶段),所有节点的状态合约(图块503)执行并更新作业的当前状态(环境准备完成、数据/模型准备完成)。
(11)在安全计算环境内,用可选的inspector工具对模型进行检查,确保模型不会泄露数据或破坏数据/环境。
(12)提交计算进行交易TXp(其中包含TXe和当前进展阶段),所有节点的状态合约(图块503)执行并更新作业的当前状态(模型检查完成)。
(13)在安全计算环境内,用可选的executor工具调用目标模型B对目标数据A进行数据智能和隐私运算;如果是获取共享数据,则使用相应的数据获取模型即可。
(14)提交计算进行交易TXp(其中包含TXe和当前进展阶段),所有节点的状态合约(图块503)执行并更新作业的当前状态(计算作业完成)。
(15)在安全计算环境内,用可选的exporter工具对结果数据进行输出检查,确保敏感数据没有泄露。
(16)提交计算进行交易TXp(其中包含TXe和当前进展阶段),所有节点的状态合约(图块503)执行并更新作业的当前状态(结果数据审核完成)。
(17)【可选】清除敏感的数据和模型,以保护数据拥有方和模型拥有方的利益。
(18)提交计算进行交易TXp(其中包含TXe和当前进展阶段),所有节点的状态合约(图块503)执行并更新作业的当前状态(敏感模型/数据清除完成)。
(19)发送计算结果交易TXr(其中包含TXe,用TXe发起方,即外部应用程序(图块500)的密码学公钥加密的结果数据URL);各个区块链节点的状态合约(图块503)收到TXr之后,会在分布式账本更新作业状态。当然,可以不用URL,而是用TXe发起方的公钥加密数据(或其他安全方式)然后经由消息通道送达外部应用程序(图块500)。
在异步执行线程(图块507)执行共享和计算作业过程中,外部应用程序可以侦听TXp和TXr,以及时掌握作业执行状态:
(20)外部应用程序(图块500)侦听到计算结果交易TXr。
(21)外部应用程序(图块500)用私钥解密获得TXr中的结果数据URL,然后从该URL安全获取结果数据:算力节点依据TXe和TXr,认证外部应用程序并建立端到端安全通道传递结果数据,完成分布式的数据智能运算。
外部收到结果数据之后,整个分布式数据共享、数据智能合伙隐私计算作业结束。
本发明基于区块链进行计算环境、数据、模型、算力的发布,以及基于区块链实现异步执行、多阶段关联的数据共享、数据智能和隐私计算的方法,能够在做到计算环境、数据、模型、算力和计算过程全程可信可追溯的前提下,实现多源多主的分布式数据和模型的可控共享和分布式的数据智能和隐私计算,能够助力构建可控可信的数字全生态。
应当理解,这里描述的各种技术可结合硬件或软件,或者它们的组合一起实现。从而,本发明的方法和设备,或者本发明的方法和设备的某些方面或部分可采取嵌入有形媒介,例如软盘、CD-ROM、硬盘驱动器或者其它任意机器可读的存储介质中的程序代码(即指令)的形式,其中当程序被载入诸如计算机之类的机器,并被该机器执行时,该机器变成实践本发明的设备。
在程序代码在可编程计算机上执行的情况下,计算设备一般包括处理器、处理器可读的存储介质(包括易失性和非易失性存储器和/或存储元件),至少一个输入装置,和至少一个输出装置。其中,存储器被配置用于存储程序代码;处理器被配置用于根据该存储器中存储的该程序代码中的指令,执行本发明的各种方法。
以示例而非限制的方式,计算机可读介质包括计算机存储介质和通信介质。计算机可读介质包括计算机存储介质和通信介质。计算机存储介质存储诸如计算机可读指令、数据结构、程序模块或其它数据等信息。通信介质一般以诸如载波或其它传输机制等已调制数据信号来体现计算机可读指令、数据结构、程序模块或其它数据,并且包括任何信息传递介质。以上的任一种的组合也包括在计算机可读介质的范围之内。
本领域那些技术人员应当理解在本文所发明的示例中的设备的模块或单元或组件可以布置在如该实施例中所描述的设备中,或者可替换地可以定位在与该示例中的设备不同的一个或多个设备中。前述示例中的模块可以组合为一个模块或者此外可以分成多个子模块。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中发明的所有特征以及如此发明的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中发明的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
如在此所使用的那样,除非另行规定,使用序数词“第一”、“第二”、“第三”等等来描述普通对象仅仅表示涉及类似对象的不同实例,并且并不意图暗示这样被描述的对象必须具有时间上、空间上、排序方面或者以任意其它方式的给定顺序。
尽管根据有限数量的实施例描述了本发明,但是受益于上面的描述,本技术领域内的技术人员明白,在由此描述的本发明的范围内,可以设想其它实施例。此外,应当注意,本说明书中使用的语言主要是为了可读性和教导的目的而选择的,而不是为了解释或者限定本发明的主题而选择的。因此,在不偏离所附权利要求书的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。对于本发明的范围,对本发明所做的发明是说明性的,而非限制性的,本发明的范围由所附权利要求书限定。
Claims (34)
1.一种基于区块链的分布式数据和模型的计算方法,其特征在于,包括:
区块链的第一节点通过第一合约,在所述区块链发布包含算力的元数据的第一交易;
所述第一节点通过第二合约,接收所述区块链的第二节点发布的包含数据的元数据的第二交易;
所述第一节点通过第三合约,接收所述区块链的第三节点发布的包含模型的元数据的第三交易;
目标第一节点接收在所述区块链发布的包括目标数据标识、目标模型标识、目标算力标识的第四交易;所述目标第一节点是与所述目标算力标识对应的所述第一节点;
所述目标第一节点根据所述数据的元数据获取与所述目标数据标识对应的目标数据,以及,根据所述模型的元数据获取与所述目标模型标识对应的目标模型;
所述目标第一节点执行与所述目标数据和所述目标模型关联的计算;
所述目标第一节点在所述区块链发布包含计算结果相关信息的第五交易。
2.如权利要求1所述的方法,其特征在于,
所述第四交易还包含目标计算环境标识;
所述目标第一节点执行与所述目标数据和所述目标模型关联的计算之前,还包括:
所述目标第一节点加载与所述目标计算环境标识对应的目标计算环境。
3.如权利要求2所述的方法,其特征在于,还包括:
所述第一节点通过第四合约,接收环境服务端在所述区块链发布的包含计算环境相关信息的第六交易;
所述目标第一节点加载与所述目标计算环境标识对应的目标计算环境之前,还包括:
所述目标第一节点根据所述计算环境相关信息获取与所述目标计算环境标识对应的目标计算环境。
4.如权利要求2所述的方法,其特征在于,
所述目标第一节点接收在所述区块链发布的包括目标数据标识、目标模型标识、目标算力标识的第四交易之后,还包括:
所述目标第一节点通过第五合约,在所述区块链发布包含第一状态的第七交易,所述第一状态指示已收到所述第四交易;
所述目标第一节点根据所述数据的元数据获取与所述目标数据标识对应的目标数据之后,还包括:
所述目标第一节点通过所述第五合约,在所述区块链发布包含第二状态的第七交易,所述第二状态指示已获取所述目标数据;
所述目标第一节点根据所述模型的元数据获取与所述目标模型标识对应的目标模型之后,还包括:
所述目标第一节点通过所述第五合约,在所述区块链发布包含第三状态的第七交易,所述第三状态指示已获取所述目标模型;
所述目标第一节点加载与所述目标计算环境标识对应的目标计算环境之后,还包括:
所述目标第一节点通过所述第五合约,在所述区块链发布包含第四状态的第七交易,所述第四状态指示已准备所述目标计算环境;
所述目标第一节点执行与所述目标数据和所述目标模型关联的计算之后,还包括:
所述目标第一节点通过所述第五合约,在所述区块链发布包含第五状态的第七交易,所述第五状态指示已完成所述第四交易对应的计算作业;
所述目标第一节点在所述区块链发布包含计算结果相关信息的第五交易之后,还包括:
所述目标第一节点通过所述第五合约,在所述区块链发布包含第六状态的第七交易,所述第六状态指示已发布计算结果相关信息。
5.如权利要求4所述的方法,其特征在于,
所述目标第一节点通过所述第五合约,在所述区块链发布包含第三状态的第七交易之后,还包括:
所述目标第一节点获取所述目标模型的安全检查结果;其中,所述目标模型的安全检查包括检查所述目标模型是否泄露数据、或者破坏数据、或者破环计算环境,当确认所述目标模型不安全时,清除所述目标模型;
若确认所述目标模型安全,则通过所述第五合约,在所述区块链发布包含第七状态的第七交易,所述第七状态指示已确认所述目标模型是安全的;
若确认所述目标模型不安全,则通过所述第五合约,在所述区块链发布包含第八状态的第七交易,所述第八状态指示已清除所述目标模型。
6.如权利要求4所述的方法,其特征在于,所述目标第一节点通过所述第五合约,在所述区块链发布包含第五状态的第七交易之后,还包括:
所述目标第一节点获取计算结果的安全检查结果;其中,所述计算结果的安全检查包括检查所述计算结果是否泄露预设的敏感数据,当确认所述计算结果不安全时,清除所述敏感数据;
若确认所述计算结果安全,则通过所述第五合约,在所述区块链发布包含第九状态的第七交易,所述第九状态指示已确认所述计算结果是安全的;
若确认所述计算结果不安全,则通过所述第五合约,在所述区块链发布包含第十状态的第七交易,所述第十状态指示已清除所述敏感数据。
7.如权利要求1所述的方法,其特征在于,
所述目标第一节点根据所述数据的元数据获取与所述目标数据标识对应的目标数据,包括:
所述目标第一节点根据所述数据的元数据,采用端到端安全通道获取与所述目标数据标识对应的目标数据;
所述目标第一节点根据所述模型的元数据获取与所述目标模型标识对应的目标模型,包括:
所述目标第一节点根据所述模型的元数据,采用端到端安全通道获取与所述目标模型标识对应的目标模型。
8.如权利要求1所述的方法,其特征在于,所述目标第一节点在所述区块链发布包含计算结果相关信息的第五交易之后,还包括:
所述目标第一节点删除所述目标数据和所述目标模型。
9.如权利要求1所述的方法,其特征在于,所述计算结果相关信息,包括:
与所述计算结果对应的链接;或者,
使用服务请求端的公钥加密所述计算结果后的数据。
10.一种基于区块链的分布式数据和模型的计算装置,其特征在于,包括:
第一合约模块,用于通过第一合约,在所述区块链发布包含算力的元数据的第一交易;
第二合约模块,用于通过第二合约,接收所述区块链上发布的包含数据的元数据的第二交易;
第三合约模块,用于通过第三合约,接收所述区块链上发布的包含模型的元数据的第三交易;
计算需求获取模块,用于接收在所述区块链发布的包括目标数据标识、目标模型标识、目标算力标识的第四交易;
所述第一合约模块,还用于确定本节点是否是与所述目标算力标识对应的节点;如果是,则触发所述第二合约模块根据所述数据的元数据获取与所述目标数据标识对应的目标数据,触发所述第三合约模块根据所述模型的元数据获取与所述目标模型标识对应的目标模型,以及,触发计算执行模块执行与所述目标数据和所述目标模型关联的计算;
结果发布模块,用于在所述区块链发布包含计算结果相关信息的第五交易。
11.如权利要求10所述的装置,其特征在于,
所述计算需求获取模块接收的所述第四交易还包含目标计算环境标识;
所述装置还包括:
计算环境加载模块,用于加载与所述目标计算环境标识对应的目标计算环境。
12.如权利要求11所述的装置,其特征在于,还包括:
第四合约模块,用于通过第四合约,接收环境服务端在所述区块链发布的包含计算环境相关信息的第六交易;以及,根据所述计算环境相关信息获取与所述目标计算环境标识对应的目标计算环境。
13.如权利要求11所述的装置,其特征在于,还包括:
第五合约模块,用于在所述计算需求获取模块接收所述第四交易之后,通过第五合约,在所述区块链发布包含第一状态的第七交易,所述第一状态指示已收到所述第四交易;在所述第二合约模块根据所述数据的元数据获取与所述目标数据标识对应的目标数据之后,通过所述第五合约,在所述区块链发布包含第二状态的第七交易,所述第二状态指示已获取所述目标数据;在所述第三合约模块根据所述模型的元数据获取与所述目标模型标识对应的目标模型之后,通过所述第五合约,在所述区块链发布包含第三状态的第七交易,所述第三状态指示已获取所述目标模型;在所述计算环境加载模块加载与所述目标计算环境标识对应的目标计算环境之后,通过所述第五合约,在所述区块链发布包含第四状态的第七交易,所述第四状态指示已准备所述目标计算环境;在所述计算执行模块执行与所述目标数据和所述目标模型关联的计算之后,通过所述第五合约,在所述区块链发布包含第五状态的第七交易,所述第五状态指示已完成所述第四交易对应的计算作业;在所述结果发布模块在所述区块链发布包含计算结果相关信息的第五交易之后,通过所述第五合约,在所述区块链发布包含第六状态的第七交易,所述第六状态指示已发布计算结果相关信息。
14.如权利要求13所述的装置,其特征在于,所述第五合约模块还用于:
在通过所述第五合约,在所述区块链发布包含第三状态的第七交易之后,获取所述目标模型的安全检查结果;其中,所述目标模型的安全检查包括检查所述目标模型是否泄露数据、或者破坏数据、或者破环计算环境,当确认所述目标模型不安全时,清除所述目标模型;若确认所述目标模型安全,则通过所述第五合约,在所述区块链发布包含第七状态的第七交易,所述第七状态指示已确认所述目标模型是安全的;若确认所述目标模型不安全,则通过所述第五合约,在所述区块链发布包含第八状态的第七交易,所述第八状态指示已清除所述目标模型。
15.如权利要求13所述的装置,其特征在于,所述第五合约模块还用于:
在通过所述第五合约,在所述区块链发布包含第五状态的第七交易之后,获取计算结果的安全检查结果;其中,所述计算结果的安全检查包括检查所述计算结果是否泄露预设的敏感数据,当确认所述计算结果不安全时,清除所述敏感数据;
若确认所述计算结果安全,则通过所述第五合约,在所述区块链发布包含第九状态的第七交易,所述第九状态指示已确认所述计算结果是安全的;
若确认所述计算结果不安全,则通过所述第五合约,在所述区块链发布包含第十状态的第七交易,所述第十状态指示已清除所述敏感数据。
16.如权利要求10所述的装置,其特征在于,
所述第二合约模块用于根据所述数据的元数据获取与所述目标数据标识对应的目标数据时,具体用于:
根据所述数据的元数据,采用端到端安全通道获取与所述目标数据标识对应的目标数据;
所述第三合约模块用于根据所述模型的元数据获取与所述目标模型标识对应的目标模型时,具体用于:
根据所述模型的元数据,采用端到端安全通道获取与所述目标模型标识对应的目标模型。
17.如权利要求10所述的装置,其特征在于,还包括:
数据删除模块,用于所述结果发布模块在所述区块链发布包含计算结果相关信息的第五交易之后,删除所述目标数据和所述目标模型。
18.如权利要求10所述的装置,其特征在于,还包括:
结果生成模块,用于生成与所述计算结果对应的链接;其中,所述第五交易包含与所述计算结果对应的链接;或者,使用服务请求端的公钥加密所述计算结果;其中,所述第五交易包含与所述计算结果的加密数据。
19.一种电子设备,包括存储器和处理器,所述存储器用于存储计算机指令,其特征在于,所述计算机指令被所述处理器执行以实现如权利要求1-9的任一项所述的方法。
20.一种可读存储介质,其上存储有计算机指令,其特征在于,所述计算机指令被处理器执行时实现如权利要求1-9的任一项所述的方法。
21.一种基于区块链的分布式数据和模型的计算系统,其特征在于,包括:
所述区块链的第一节点、第二节点和第三节点;
所述第一节点用于通过第一合约,在所述区块链发布包含算力的元数据的第一交易;
所述第二节点用于通过第二合约,在所述区块链发布包含数据的元数据的第二交易;
所述第三节点用于通过第三合约,在所述区块链发布包含模型的元数据的第三交易;
所述第一节点、所述第二节点、所述第三节点还用于接收在所述区块链发布的包括目标数据标识、目标模型标识、目标算力标识的第四交易;
与所述目标算力标识对应的目标第一节点用于根据所述数据的元数据获取与所述目标数据标识对应的目标数据,以及,根据所述模型的元数据获取与所述目标模型标识对应的目标模型;执行与所述目标数据和所述目标模型关联的计算;在所述区块链发布包含计算结果相关信息的第五交易。
22.如权利要求21所述的系统,其特征在于,
所述第四交易还包含目标计算环境标识;
所述目标第一节点还用于:在执行与所述目标数据和所述目标模型关联的计算之前,加载与所述目标计算环境标识对应的目标计算环境。
23.如权利要求22所述的系统,其特征在于,还包括环境服务端;
所述环境服务端用于在所述区块链发布包含计算环境相关信息的第六交易;
所述目标第一节点还用于:在加载与所述目标计算环境标识对应的目标计算环境之前,根据所述计算环境相关信息获取与所述目标计算环境标识对应的目标计算环境。
24.如权利要求21所述的系统,其特征在于,还包括:
目录服务端,用于侦听所述第一节点发布的所述第一交易、所述第二节点发布的所述第二交易和所述第三节点发布的所述第三交易;提供包含所述算力的元数据、所述数据的元数据、所述模型的元数据的目录服务。
25.如权利要求24所述的系统,其特征在于,所述目录服务端还用于提供包含计算环境相关信息的目录服务。
26.如权利要求24或25所述的系统,其特征在于,还包括:
服务请求端,用于查询所述目录服务,在所述区块链发布所述第四交易;以及,侦听所述区块链,通过所述第五交易获取所述计算结果相关信息。
27.如权利要求26所述的系统,其特征在于,所述计算结果相关信息,包括:所述计算结果对应的链接地址;
所述服务请求端还用于:访问所述计算结果对应的链接地址;
所述目标第一节点还用于:接收所述服务请求端的对所述计算结果对应的链接地址的访问;根据所述第四交易和所述第五交易,认证所述服务请求端;在认证通过后,采用端到端安全通道传输所述计算结果。
28.如权利要求22所述的系统,其特征在于,所述目标第一节点还用于:在接收所述第四交易之后,通过第五合约,发布包含第一状态的第七交易,所述第一状态指示已收到所述第四交易;在通过所述第二合约获取与所述目标数据标识对应的目标数据之后,通过第五合约,发布包含第二状态的第七交易,所述第二状态指示已获取所述目标数据;在通过所述第三合约获取与所述目标模型标识对应的目标模型之后,通过所述第五合约,发布包含第三状态的第七交易,所述第三状态指示已获取所述目标模型;在准备与所述目标计算环境标识对应的目标计算环境之后,通过所述第五合约,发布包含第四状态的第七交易,所述第四状态指示已准备所述目标计算环境;在执行与所述目标数据和所述目标模型关联的计算之后,通过所述第五合约,发布包含第五状态的第七交易,所述第五状态指示已完成所述第四交易对应的计算作业;在所述区块链发布包含计算结果相关信息的第五交易之后,通过所述第五合约,发布包含第六状态的第七交易,所述第六状态指示已发布计算结果相关信息。
29.如权利要求28所述的系统,其特征在于,所述目标第一节点还用于:在通过所述第五合约,发布包含第三状态的第七交易之后,获取所述目标模型的安全检查结果;其中,所述目标模型的安全检查包括检查所述目标模型是否泄露数据、或者破坏数据、或者破环计算环境,当确认所述目标模型不安全时,清除所述目标模型;若确认所述目标模型安全,则通过所述第五合约,发布包含第七状态的第七交易,所述第七状态指示已确认所述目标模型是安全的;若确认所述目标模型不安全,则通过所述第五合约,发布包含第八状态的第七交易,所述第八状态指示已清除所述目标模型。
30.如权利要求28所述的系统,其特征在于,所述目标第一节点还用于:
在通过所述第五合约,发布包含第五状态的第七交易之后,获取计算结果的安全检查结果;其中,所述计算结果的安全检查包括检查所述计算结果是否泄露预设的敏感数据,当确认所述计算结果不安全时,清除所述计算结果;若确认所述计算结果安全,则通过所述第五合约,发布包含第九状态的第七交易,所述第九状态指示已确认所述计算结果是安全的;若确认所述计算结果不安全,则通过所述第五合约,发布包含第十状态的第七交易,所述第十状态指示已清除敏感数据。
31.如权利要求21所述的系统,其特征在于,
所述目标第一节点用于根据所述数据的元数据获取与所述目标数据标识对应的目标数据时,具体用于:
根据所述数据的元数据,采用端到端安全通道获取与所述目标数据标识对应的目标数据;
所述目标第一节点用于根据所述模型的元数据获取与所述目标模型标识对应的目标模型时,具体用于:
根据所述模型的元数据,采用端到端安全通道获取与所述目标模型标识对应的目标模型。
32.如权利要求31所述的系统,其特征在于,
所述第二节点还用于:根据所述第四交易对所述目标第一节点进行认证,仅在认证通过后,建立所述端到端安全通道;
所述第三节点还用于:根据所述第四交易对所述目标第一节点进行认证,仅在认证通过后,建立所述端到端安全通道。
33.如权利要求21所述的系统,其特征在于,所述目标第一节点还用于:
在所述区块链发布包含计算结果相关信息的第五交易之后,删除所述目标数据和所述目标模型。
34.如权利要求21所述的系统,其特征在于,所述目标第一节点还用于:
生成与所述计算结果对应的链接;其中,所述第五交易包含与所述计算结果对应的链接;或者,使用服务请求端的公钥加密所述计算结果;其中,所述第五交易包含与所述计算结果的加密数据。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110153170.3A CN112507387B (zh) | 2021-02-04 | 2021-02-04 | 一种基于区块链的分布式数据和模型的计算方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110153170.3A CN112507387B (zh) | 2021-02-04 | 2021-02-04 | 一种基于区块链的分布式数据和模型的计算方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112507387A true CN112507387A (zh) | 2021-03-16 |
CN112507387B CN112507387B (zh) | 2021-06-01 |
Family
ID=74952693
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110153170.3A Active CN112507387B (zh) | 2021-02-04 | 2021-02-04 | 一种基于区块链的分布式数据和模型的计算方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112507387B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113076375A (zh) * | 2021-03-29 | 2021-07-06 | 湖北央中巨石信息技术有限公司 | 基于区块链的多方同步抽样共识方法及系统及装置及介质 |
CN113344535A (zh) * | 2021-06-21 | 2021-09-03 | 上海计算机软件技术开发中心 | 一种基于区块链的软件开发外包控制系统及实现方法 |
CN115460222A (zh) * | 2022-09-05 | 2022-12-09 | 蚂蚁区块链科技(上海)有限公司 | 区块链数据流计算装置 |
WO2024041130A1 (zh) * | 2022-08-25 | 2024-02-29 | 华为技术有限公司 | 权益分配方法及装置 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108647966A (zh) * | 2018-05-09 | 2018-10-12 | 深圳市融讯科技有限公司 | 一种基于区块链的数据交互方法及装置 |
CN109035014A (zh) * | 2018-06-26 | 2018-12-18 | 上海数据交易中心有限公司 | 数据交易系统 |
CN109388960A (zh) * | 2018-10-24 | 2019-02-26 | 全链通有限公司 | 基于区块链的信息共享及安全多方计算模型 |
CN109685511A (zh) * | 2018-05-30 | 2019-04-26 | 上海分壳信息技术股份有限公司 | 基于区块链的数据使用权交易方法 |
CN110245514A (zh) * | 2019-04-30 | 2019-09-17 | 清华大学 | 一种基于区块链的分布式计算方法及系统 |
CN110782343A (zh) * | 2018-07-30 | 2020-02-11 | 中移(苏州)软件技术有限公司 | 分布式网络中基于区块链的算力流通方法及系统 |
KR20200023706A (ko) * | 2018-08-22 | 2020-03-06 | 주식회사 머니브레인 | 스마트 계약을 지원하는 블록체인에 기반한, 분산형 컴퓨팅 자원 공유 시스템 및 컴퓨팅 장치 |
CN111061713A (zh) * | 2019-12-11 | 2020-04-24 | 北京时代云链信息科技有限公司 | 区块链数据融合方法、装置、设备以及存储介质 |
CN111368262A (zh) * | 2018-12-26 | 2020-07-03 | 谈建中 | 一种基于区块链的人工智能模型保护、松耦合分布式训练方法 |
CN111652728A (zh) * | 2020-06-17 | 2020-09-11 | 深圳前海微众银行股份有限公司 | 一种交易处理方法及装置 |
CN111651517A (zh) * | 2020-04-21 | 2020-09-11 | 李引 | 一种基于区块链的数据采集、挖掘、交易、推送的系统 |
CN111858519A (zh) * | 2020-07-10 | 2020-10-30 | 北京远景视点科技有限公司 | 一种区块链上机密数据分享的系统及方法 |
-
2021
- 2021-02-04 CN CN202110153170.3A patent/CN112507387B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108647966A (zh) * | 2018-05-09 | 2018-10-12 | 深圳市融讯科技有限公司 | 一种基于区块链的数据交互方法及装置 |
CN109685511A (zh) * | 2018-05-30 | 2019-04-26 | 上海分壳信息技术股份有限公司 | 基于区块链的数据使用权交易方法 |
CN109035014A (zh) * | 2018-06-26 | 2018-12-18 | 上海数据交易中心有限公司 | 数据交易系统 |
CN110782343A (zh) * | 2018-07-30 | 2020-02-11 | 中移(苏州)软件技术有限公司 | 分布式网络中基于区块链的算力流通方法及系统 |
KR20200023706A (ko) * | 2018-08-22 | 2020-03-06 | 주식회사 머니브레인 | 스마트 계약을 지원하는 블록체인에 기반한, 분산형 컴퓨팅 자원 공유 시스템 및 컴퓨팅 장치 |
CN109388960A (zh) * | 2018-10-24 | 2019-02-26 | 全链通有限公司 | 基于区块链的信息共享及安全多方计算模型 |
CN111368262A (zh) * | 2018-12-26 | 2020-07-03 | 谈建中 | 一种基于区块链的人工智能模型保护、松耦合分布式训练方法 |
CN110245514A (zh) * | 2019-04-30 | 2019-09-17 | 清华大学 | 一种基于区块链的分布式计算方法及系统 |
CN111061713A (zh) * | 2019-12-11 | 2020-04-24 | 北京时代云链信息科技有限公司 | 区块链数据融合方法、装置、设备以及存储介质 |
CN111651517A (zh) * | 2020-04-21 | 2020-09-11 | 李引 | 一种基于区块链的数据采集、挖掘、交易、推送的系统 |
CN111652728A (zh) * | 2020-06-17 | 2020-09-11 | 深圳前海微众银行股份有限公司 | 一种交易处理方法及装置 |
CN111858519A (zh) * | 2020-07-10 | 2020-10-30 | 北京远景视点科技有限公司 | 一种区块链上机密数据分享的系统及方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113076375A (zh) * | 2021-03-29 | 2021-07-06 | 湖北央中巨石信息技术有限公司 | 基于区块链的多方同步抽样共识方法及系统及装置及介质 |
CN113344535A (zh) * | 2021-06-21 | 2021-09-03 | 上海计算机软件技术开发中心 | 一种基于区块链的软件开发外包控制系统及实现方法 |
WO2024041130A1 (zh) * | 2022-08-25 | 2024-02-29 | 华为技术有限公司 | 权益分配方法及装置 |
CN115460222A (zh) * | 2022-09-05 | 2022-12-09 | 蚂蚁区块链科技(上海)有限公司 | 区块链数据流计算装置 |
Also Published As
Publication number | Publication date |
---|---|
CN112507387B (zh) | 2021-06-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112507387B (zh) | 一种基于区块链的分布式数据和模型的计算方法及装置 | |
US11544708B2 (en) | User controlled storage and sharing of personal user information on a blockchain | |
US10708060B2 (en) | System and method for blockchain-based notification | |
Gai et al. | Blockchain meets cloud computing: A survey | |
US11171789B2 (en) | System and method for implementing a resolver service for decentralized identifiers | |
EP3721603B1 (en) | System and method for creating decentralized identifiers | |
CN102170440B (zh) | 适用于存储云间数据安全迁移的方法 | |
US20220318907A1 (en) | Systems and methods for generating secure, encrypted communications across distributed computer networks for authorizing use of cryptography-based digital repositories in order to perform blockchain operations in decentralized applications | |
US10084788B2 (en) | Peer to peer enterprise file sharing | |
US11917088B2 (en) | Integrating device identity into a permissioning framework of a blockchain | |
US11367055B2 (en) | Decentralized pooled mining for enabling proof-of-work on blockchains | |
US11736456B2 (en) | Consensus service for blockchain networks | |
US9197611B2 (en) | Topic protection policy for publish-subscribe messaging system | |
He et al. | Securing over-the-air IoT firmware updates using blockchain | |
CN110598434B (zh) | 基于区块链网络的房屋信息处理方法、装置、电子设备及存储介质 | |
KR20220160021A (ko) | 낮은 신뢰 권한 액세스 관리 | |
US20220004647A1 (en) | Blockchain implementation to securely store information off-chain | |
WO2019114098A1 (zh) | 基于区块链的存储系统的下载方法 | |
US20120204232A1 (en) | System And Method For Managing Usage Rights Of Software Applications | |
US20220294637A1 (en) | System and Method of Establishing a Trusted Relationship in a Distributed System | |
JP2024501401A (ja) | 非集中型のブロードキャスト暗号化および鍵生成ファシリティ | |
US20200051078A1 (en) | Fair transaction ordering in blockchains | |
US20100030805A1 (en) | Propagating information from a trust chain processing | |
CN116561820B (zh) | 可信数据处理方法及相关装置 | |
CN117726351A (zh) | 一种数据产品的认证方法、装置及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |