CN112182108A - 基于区块链的分布式数据存储更新方法和电子设备 - Google Patents
基于区块链的分布式数据存储更新方法和电子设备 Download PDFInfo
- Publication number
- CN112182108A CN112182108A CN202011090654.XA CN202011090654A CN112182108A CN 112182108 A CN112182108 A CN 112182108A CN 202011090654 A CN202011090654 A CN 202011090654A CN 112182108 A CN112182108 A CN 112182108A
- Authority
- CN
- China
- Prior art keywords
- target data
- data block
- storage
- data blocks
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2453—Query optimisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/602—Providing cryptographic facilities or services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/062—Securing storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0638—Organizing or formatting or addressing of data
- G06F3/064—Management of blocks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Human Computer Interaction (AREA)
- Computational Linguistics (AREA)
- Computing Systems (AREA)
- Health & Medical Sciences (AREA)
- Bioethics (AREA)
- General Health & Medical Sciences (AREA)
- Computer Hardware Design (AREA)
- Computer Security & Cryptography (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开的实施例公开了基于区块链的分布式数据存储更新方法和电子设备。该方法的一具体实施方式包括:获取待更新的目标数据块和目标元数据;基于目标数据块和目标元数据,确定编码目标数据块集合和校验目标数据块集合;将编码目标数据块集合和校验目标数据块集合存储于所述存储节点组中;基于目标元数据、编码目标数据块集合和校验目标数据块集合,确定存储关系集合;将存储关系集合存储于至少一个元数据管理节点中;更新区块链。这种方法在保证分布式存储数据隐私性和安全性的同时实现了冗余存储,基于目标元数据查找以及基于目标数据块更新的方式提高了存储更新的效率。
Description
技术领域
本公开实施例涉及区块链和数据存储领域,具体涉及一种基于区块链的分布式数据存储和更新方法、电子设备。
背景技术
分布式存储是随着云计算和虚拟化技术兴起的新的存储模式,通过上层应用软件结合虚拟化技术协同大量不同类型的存储设备来满足用户的不同存储需求。依托区块链的去中心化、可追溯性特点,依托区块链的分布式存储有效保证了存储与通信的机密性、可信性,推动了基于区块链的分布式数据存储的发展和应用。
然而,当在实际业务中采用上述方法进行大规模分布式数据存储时,仍会面临以下技术问题:
第一,多副本机制是保证分布式存储系统数据可靠性最重要的容错机制,但是这种完全复制的容错方式会产生大量的冗余,特别是如今面临大数据的潮流,采用多副本机制的存储成本将会非常巨大。
第二,当数据量大时,对数据进行更新处理耗时长、成本大。特别是对支撑应用系统的数据更新,低效的数据更新影响了实际业务处理的及时性。
发明内容
本公开的内容部分用于以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
本公开的一些实施例提出了基于区块链的分布式数据存储更新方法和电子设备,来解决以上背景技术部分提到的技术问题中的一项或多项。
第一方面,本公开的一些实施例提供了一种基于区块链的分布式数据存储更新方法,该方法包括:获取待更新的目标数据块和目标元数据;基于目标数据块和目标元数据,确定编码目标数据块集合和校验目标数据块集合;将编码目标数据块集合和校验目标数据块集合存储于所述存储节点组中;基于目标元数据、编码目标数据块集合和校验目标数据块集合,确定存储关系集合;将存储关系集合存储于至少一个元数据管理节点中;更新区块链。
第二方面,本公开的一些实施例提供了一种基于区块链的分布式数据存储更新装置,装置包括:接收单元,被配置成获取待更新的目标数据块和目标元数据;生成单元,被配置成基于目标数据块和目标元数据,确定编码目标数据块集合和校验目标数据块集合;第一存储单元,被配置成将编码目标数据块集合和校验目标数据块集合存储于存储节点组中;确定单元,被配置成基于目标元数据、编码目标数据块集合和校验目标数据块集合,确定存储关系集合;第二存储单元,被配置成将存储关系集合存储于至少一个元数据管理节点中;处理单元,被配置成更新区块链。
第三方面,本公开的一些实施例提供了一种电子设备,包括:一个或多个处理器;存储装置,其上存储有一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如第一方面中任一的方法。
第四方面,本公开的一些实施例提供了一种计算机可读介质,其上存储有计算机程序,其中,程序被处理器执行时实现如第一方面中任一的方法。
本公开的上述各个实施例具有如下有益效果:首先,对原始数据块集合进行加密和编码处理后存储在存储节点组中。应用编码处理技术,具有可靠性高和存储空间开销低等优点,在发生数据破坏或数据丢失的问题时,能够快速复原数据。其次,更新数据时,基于目标元数据进行查找。替换目标数据块后生成目标数据块集合。对目标数据块集合进行加密和编码处理后更新存储。基于目标元数据进行查找,提高了查找效率。更新过程利用数据块集合中的数据块可分离、单独存储的特性,基于目标数据块进行更新,提升了数据更新的效率。最后,将存储记录表记录到区块链中。利用区块链的去中心化、可追溯特点,实现基于区块链的分布式数据存储。该方法在保证分布式存储数据隐私性和安全性的同时实现了冗余存储,基于目标元数据查找以及基于目标数据块的更新方式提高了存储更新的效率。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。
图1是本公开的一些实施例可以应用于其中的示例性系统的架构图;
图2是根据本公开的一些实施例的基于区块链的分布式数据存储更新方法的一些实施例的流程图;
图3是根据本公开的一些实施例的基于区块链的分布式数据存储更新装置的一些实施例的流程图;
图4是适于用来实现本公开的一些实施例的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例。相反,提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
下面将参考附图并结合实施例来详细说明本公开。
图1示出了可以应用本公开的基于区块链的分布式数据存储更新方法的实施例的示例性系统架构100。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如数据存储应用、数据加密应用、数据分析应用等。
终端设备101、102、103可以是硬件,也可以是软件。当终端设备101、102、103为硬件时,可以是具有显示屏的各种终端设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时,可以安装在上述所列举的终端设备中。其可以实现成多个软件或软件模块(例如用来提供目标数据块输入等),也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103输入的目标数据进行存储的服务器等。服务器可以对接收到的目标数据进行加密以及分发、存储等处理,并将处理结果(例如编码后的编码数据)反馈给终端设备。
需要说明的是,本公开实施例所提供的基于区块链的分布式数据存储更新方法可以由服务器105,也可以由终端设备执行。
需要指出的是,服务器105的本地也可以直接存储数据,服务器105可以直接提取本地的数据通过编码处理后得到编码数据,此时,示例性系统架构100可以不包括终端设备101、102、103和网络104。
还需要指出的是,终端设备101、102、103中也可以安装有存储类应用,此时,编码处理方法也可以由终端设备101、102、103执行。此时,示例性系统架构100也可以不包括服务器105和网络104。
需要说明的是,服务器105可以是硬件,也可以是软件。当服务器105为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当服务器为软件时,可以实现成多个软件或软件模块(例如用来提供存储服务),也可以实现成单个软件或软件模块。在此不做具体限定。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的电子设备、网络和服务器。
继续参考图2,示出了根据本公开的基于区块链的分布式数据存储更新方法的一些实施例的流程200。该基于区块链的分布式数据存储更新方法,包括以下步骤:
步骤201,获取待更新的目标数据块和目标元数据。
在一些实施例中,基于区块链的分布式数据存储更新方法的执行主体(例如图1所示的电子设备)可以直接获取目标用户待更新的目标数据块和目标元数据。可选的,目标用户是指提供待更新的目标数据块的用户。目标元数据是电子目录,目标元数据记录目标数据块集合的存储位置、目标数据块集合名称、目标数据块集合创建时间、私钥、公钥。
可选的,区块链包括至少一个元数据管理节点和存储节点组。至少一个元数据管理节点存储元数据。存储节点组包括第一数目个存储节点,存储节点组用于存储数据块。
步骤202,基于目标数据块和目标元数据,确定编码目标数据块集合和校验目标数据块集合。
在一些实施例中,上述执行主体在获取待更新的目标数据块和目标元数据之前获取原始数据块集合和原始元数据。其中,原始数据块集合包括第二数目个原始数据块。对原始数据块集合进行加密处理,以得到加密原始数据块集合。生成编码矩阵。将加密原始数据块集合和编码矩阵相乘,以得到编码原始数据块集合和校验原始数据块集合。将编码原始数据块集合和校验原始数据块集合存储于存储节点组中。基于原始元数据、编码原始数据块集合和校验原始数据块集合,确定原始存储关系集合。将原始存储关系集合存储于至少一个元数据管理节点中。
在一些实施例的一些可选的实现方式中,上述执行主体基于目标元数据,在原始元数据中查找到目标数据块对应的原始数据块。具体的,将目标元数据与原始元数据进行匹配。响应于匹配到原始元数据,根据原始元数据中记录的目标数据块集合的存储位置查找到目标数据块对应的原始数据块。基于原始数据块,确定原始数据块集合。具体的,根据原始数据块,查找到该原始数据块所属的原始数据块集合。使用目标数据块替换掉原始数据块集合中对应的原始数据块,以得到目标数据块集合。对目标数据块集合进行加密处理,以得到加密目标数据块集合。
可选的,基于加密目标数据块集合,生成编码目标数据块集合和校验目标数据块集合。生成第一整数集合A={a1,a2,...,an}和第二整数集合B={b1,b2,...,bm}。其中,A表示第一整数集合,a表示任意整数。a1表示第一整数集合中的第一个元素,a2表示第一整数集合中的第二个元素,an表示第一整数集合中的第n个元素。第一整数集合中包括n个元素,第一整数集合中不存在相同的整数。B表示第二整数集合,b表示任意整数。b1表示第二整数集合中的第一个元素,b2表示第二整数集合中的第二个元素,bm表示第二整数集合中的第m个元素。第二整数集合中不存在相同的整数。n=m+k,m为第二数目,m表示加密目标数据块集合中的加密目标数据块数目。k为任意正整数,k表示校验目标数据块集合中的校验目标数据块数目。
基于第一整数集合和第二整数集合,利用下式生成编码矩阵:
其中,x、y、p分别为权重系数,x、y、p可以是任意整数,a表示任意整数。a1表示第一整数集合中的第一个元素,a2表示第一整数集合中的第二个元素,an表示第一整数集合中的第n个元素。b表示任意整数,b1表示第二整数集合中的第一个元素,b2表示第二整数集合中的第二个元素,bm表示第二整数集合中的第m个元素。C表示编码矩阵,C包含n行和m列。n=m+k,m为第二数目,m表示加密目标数据块集合中的加密目标数据块数目。k为任意正整数,k表示校验目标数据块集合中的校验目标数据块数目。
利用下式生成编码数据矩阵:
S=D×C',
其中,D表示加密目标数据块集合对应的矩阵,C表示编码矩阵,C'表示C的逆矩阵,S表示编码数据矩阵。D=[D1,...,Dm],m表示第二数目,D包括第二数目个加密目标数据块。D1表示第一个加密目标数据块,Dm表示第m个加密目标数据块。S=[S1,...,Sn],n=m+k,m为第二数目。m表示加密目标数据块集合中的加密目标数据块数目。k为任意正整数,k表示校验目标数据块集合中的校验目标数据块数目。S包括第n数目个编码子块,S1表示第一个编码子块,Sn表示第n个编码子块。
将编码数据矩阵的前第二数目个列确定为编码目标数据块矩阵。根据编码目标数据块矩阵,确定编码目标数据块集合。将编码数据矩阵的从第二数目加1列到第n列确定为校验目标数据块矩阵。根据校验目标数据块矩阵,确定校验目标数据块集合。
上述公式作为本公开的实施例的一个发明点,解决了背景技术提及的技术问题一“多副本机制是保证分布式存储系统数据可靠性最重要的容错机制,但是这种完全复制的容错方式会产生大量的冗余,特别是如今面临大数据的潮流,采用多副本机制的存储成本将会非常巨大”。首先,利用整数域的集合生成编码矩阵,满足编码处理后原始的目标数据块与编码数据中新增加的冗余部分相互独立的要求,方便在数据恢复的过程中直接提取原始的目标数据块集合中的信息。其次,编码矩阵中的元素计算都是整数域中的加、减、乘、除基本运算,计算速度快、内存占用率低,计算效率高。最后,使用编码矩阵处理后的编码数据具备冗余度,在进行数据恢复的过程中,可以根据编码矩阵实现快速精准的存储故障修复,提高了分布式存储的数据可靠性、实时可用性和安全性,从而解决了技术问题一。
步骤203,将编码目标数据块集合和校验目标数据块集合存储于存储节点组中。
在一些实施例中,上述执行主体将编码目标数据块集合和校验目标数据块集合存储于存储节点组中。可选的,上述执行主体确定存储编码原始数据块集合和校验原始数据块集合的待处理存储节点集合。从待处理存储节点集合中删除编码原始数据块集合和校验原始数据块集合。将编码目标数据块集合和校验目标数据块集合存储于待处理存储节点集合中。
上述方法作为本公开的实施例的一个发明点,解决了背景技术提及的技术问题二“当数据量大时,对数据进行更新处理耗时长、成本大。特别是对支撑应用系统的数据更新,低效的数据更新影响了实际业务处理的及时性。”。首先,在存储更新的执行过程中,基于目标元数据进行查找,提高了查找的效率。不直接使用原始数据查找,减少了数据暴露的风险,提高了分布式存储的安全性。其次,在数据更新过程中,利用数据块集合中的数据块可分离、单独存储的特性,基于目标数据块进行更新。仅更新查找到的存储编码原始数据块集合和校验原始数据块集合的待处理存储节点集合。当数据量大时,对数据进行更新处理耗时短,提高了更新效率,节约了更新成本,从而解决了技术问题二。
步骤204,基于目标元数据、编码目标数据块集合和校验目标数据块集合,确定存储关系集合。
在一些实施例中,上述执行主体基于目标元数据、编码目标数据块集合和校验目标数据块集合,确定存储关系集合。可选的,对于编码目标数据块集合中的每个编码目标数据块,将该编码目标数据块的起始字节与目标元数据的集合确定为该编码目标数据块的数据标签组,以得到数据标签组集合。
对于校验目标数据块集合中的每个校验目标数据块,将该校验目标数据块的起始字节与目标元数据的集合确定为该校验目标数据块的校验标签组,以得到校验标签组集合。
对于数据标签组集合中的每个数据标签组,将该数据标签组与存储该数据标签组对应的编码目标数据块的存储节点的组合,确定为该编码目标数据块的数据存储关系,以得到数据存储关系集合。对于校验标签组集合中的每个校验标签组,将该校验标签组与存储该校验标签组对应的校验目标数据块的存储节点的组合,确定为该校验目标数据块的校验存储关系,以得到校验存储关系集合。
将数据存储关系集合和校验存储关系集合的集合,确定为存储关系集合。
步骤205,将存储关系集合存储于至少一个元数据管理节点中。
在一些实施例中,上述执行主体将存储关系集合存储于至少一个元数据管理节点中。可选的,至少一个元数据管理节点用于存储区块链中的元数据。元数据是电子目录,元数据记录数据块集合的存储位置、数据块集合名称、数据块集合创建时间、私钥、公钥。存储关系集合用于表征数据块集合的存储位置。
将存储关系结合存储于至少一个元数据管理节点中。从至少一个元数据管理节点中随机确定目标元数据管理节点。将存储关系结合存储于目标元数据管理节点中。
步骤206,更新区块链。
在一些实施例中,上述执行主体将存储关系集合记录到区块链中,更新区块链。可选的,调用智能合约,其中,智能合约包括智能合约代码、实例和执行数据。智能合约包括智能合约代码、实例和执行数据。智能合约是一套以数字形式定义的承诺。智能合约可以控制区块链中的数据,约定区块链中各个参与终端的权利和义务。智能合约可以由计算机系统自动执行。具体的,智能合约包括智能合约代码、实例和执行数据。智能合约代码可以是智能合约的源代码。智能合约代码可以是一份计算机系统能够执行的代码。实例可以是区块链中运行智能合约的一个实际业务。执行数据可以是执行一个实例后在区块链中留存的数据。
运行所述智能合约代码,将存储该存储关系集合的目标元数据管理节点存储在区块链中。具体的,可以将目标元数据管理节点确定为一个区块。运行智能合约代码,将该区块添加到区块链中。具体的,记录该区块的智能合约在运行过程中产生实例和执行数据。将该实例和执行数据记录在区块链中。
图2给出的一个实施例具有如下有益效果:首先,对原始数据块集合进行加密和编码处理后存储在存储节点组中。应用编码处理技术,具有可靠性高和存储空间开销低等优点,在发生数据破坏或数据丢失的问题时,能够快速复原数据。其次,更新数据时,基于目标元数据进行查找。替换目标数据块后生成目标数据块集合。对目标数据块集合进行加密和编码处理后更新存储。基于目标元数据进行查找,提高了查找效率。更新过程利用数据块集合中的数据块可分离、单独存储的特性,基于目标数据块进行更新,提升了数据更新的效率。最后,将存储记录表记录到区块链中。利用区块链的去中心化、可追溯特点,实现基于区块链的分布式数据存储。该方法在保证分布式存储数据隐私性和安全性的同时实现了冗余存储,基于目标元数据查找以及基于目标数据块的更新方式提高了存储更新的效率。
进一步参考图3,作为对上述各图上述方法的实现,本公开提供了一种基于区块链的分布式数据存储更新装置的一些实施例,这些装置实施例与图2上述的那些方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图3所示,一些实施例的基于区块链的分布式数据存储更新装置300,装置包括:接收单元301、生成单元302、第一存储单元303、确定单元304、第二存储单元305、处理单元306。其中,第一接收单元301,被配置成获取待更新的目标数据块和目标元数据;生成单元302,被配置成基于目标数据块和目标元数据,确定编码目标数据块集合和校验目标数据块集合;第一存储单元303,被配置成将编码目标数据块集合和校验目标数据块集合存储于存储节点组中;确定单元304,被配置成基于目标元数据、编码目标数据块集合和校验目标数据块集合,确定存储关系集合;第二存储单元305,被配置成将存储关系集合存储于至少一个元数据管理节点中;处理单元306,被配置成更新区块链。
可以理解的是,该装置300中记载的诸单元与参考图2描述的方法中的各个步骤相对应。由此,上文针对方法描述的操作、特征以及产生的有益效果同样适用于装置300及其中包含的单元,在此不再赘述。
下面参考图4,其示出了适于用来实现本公开实施例的服务器的计算机系统400的结构示意图。图4示出的服务器仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图4所示,计算机系统400包括中央处理单元(CPU,Central Processing Unit)401,其可以根据存储在只读存储器(ROM,Read Only Memory)402中的程序或者从存储部分408加载到随机访问存储器(RAM,Random Access Memory)403中的程序而执行各种适当的动作和处理。在RAM 403中,还存储有系统400操作所需的各种程序和数据。CPU 401、ROM402以及RAM 403通过总线404彼此相连。输入/输出(I/O,Input/Output)接口405也连接至总线404。
以下部件连接至I/O接口405:包括硬盘等的存储部分406;以及包括诸如LAN(局域网,Local Area Network)卡、调制解调器等的网络接口卡的通信部分407。通信部分407经由诸如因特网的网络执行通信处理。驱动器408也根据需要连接至I/O接口405。可拆卸介质409,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器408上,以便于从其上读出的计算机程序根据需要被安装入存储部分406。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分407从网络上被下载和安装,和/或从可拆卸介质409被安装。在该计算机程序被中央处理单元(CPU)401执行时,执行本公开的方法中限定的上述功能。需要说明的是,本公开所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如C语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (10)
1.一种基于区块链的分布式数据存储更新方法,其中,所述区块链包括至少一个元数据管理节点和存储节点组,所述至少一个元数据管理节点存储元数据,所述存储节点组包括第一数目个存储节点,所述存储节点组用于存储数据,所述方法包括:
获取待更新的目标数据块和目标元数据;
基于所述目标数据块和所述目标元数据,确定编码目标数据块集合和校验目标数据块集合;
将所述编码目标数据块集合和所述校验目标数据块集合存储于所述存储节点组中;
基于所述目标元数据、所述编码目标数据块集合和所述校验目标数据块集合,确定存储关系集合;
将所述存储关系集合存储于所述至少一个元数据管理节点中;
更新所述区块链。
2.根据权利要求1所述的方法,其中,所述获取待更新的目标数据块和目标元数据之前,所述方法还包括:
获取原始数据块集合和原始元数据,其中,所述原始数据块集合包括第二数目个原始数据块;
对所述原始数据块集合进行加密处理,以得到加密原始数据块集合;
生成编码矩阵;
将所述加密原始数据块集合和所述编码矩阵相乘,以得到编码原始数据块集合和校验原始数据块集合;
将所述编码原始数据块集合和所述校验原始数据块集合存储于所述存储节点组中;
基于所述原始元数据、所述编码原始数据块集合和所述校验原始数据块集合,确定原始存储关系集合;
将所述原始存储关系集合存储于所述至少一个元数据管理节点中。
3.根据权利要求2所述的方法,其中,所述目标元数据是电子目录,所述目标元数据记录目标数据块集合的存储位置、目标数据块集合名称、目标数据块集合创建时间、私钥、公钥。
4.根据权利要求3所述的方法,其中,所述基于所述目标数据块和所述目标元数据,确定编码目标数据块集合和校验目标数据块集合,包括:
基于所述目标元数据,在所述原始元数据中查找到所述目标数据块对应的原始数据块;
基于所述原始数据块,确定原始数据块集合;
使用所述目标数据块替换掉所述原始数据块集合中对应的所述原始数据块,以得到目标数据块集合;
对所述目标数据块集合进行加密处理,以得到加密目标数据块集合;
基于所述加密目标数据块集合,生成所述编码目标数据块集合和校验目标数据块集合。
5.根据权利要求4所述的方法,其中,所述将所述编码目标数据块集合和所述校验目标数据块集合存储于所述存储节点组中,包括:
确定存储所述编码原始数据块集合和所述校验原始数据块集合的待处理存储节点集合;
从所述待处理存储节点集合中删除所述编码原始数据块集合和所述校验原始数据块集合;
将所述编码目标数据块集合和所述校验目标数据块集合存储于所述待处理存储节点集合中。
6.根据权利要求5所述的方法,其中,所述基于所述目标元数据、所述编码目标数据块集合和所述校验目标数据块集合,确定存储关系集合,包括:
对于所述编码目标数据块集合中的每个编码目标数据块,将该编码目标数据块的起始字节与所述目标元数据的集合确定为该编码目标数据块的数据标签组,以得到数据标签组集合;
对于所述校验目标数据块集合中的每个校验目标数据块,将该校验目标数据块的起始字节与所述目标元数据的集合确定为该校验目标数据块的校验标签组,以得到校验标签组集合;
对于所述数据标签组集合中的每个数据标签组,将该数据标签组与存储该数据标签组对应的编码目标数据块的存储节点的组合,确定为该编码目标数据块的数据存储关系,以得到数据存储关系集合;
对于所述校验标签组集合中的每个校验标签组,将该校验标签组与存储该校验标签组对应的校验目标数据块的存储节点的组合,确定为该校验目标数据块的校验存储关系,以得到校验存储关系集合;
将所述数据存储关系集合和所述校验存储关系集合的集合,确定为所述存储关系集合。
7.根据权利要求1-6之一所述的方法,其中,所述基于所述加密目标数据块集合,生成所述编码目标数据块集合和校验目标数据块集合,包括;
生成第一整数集合A={a1,a2,...,an}和第二整数集合B={b1,b2,...,bm},其中,A表示第一整数集合,a表示任意整数,a1表示所述第一整数集合中的第一个元素,a2表示所述第一整数集合中的第二个元素,an表示所述第一整数集合中的第n个元素,所述第一整数集合中包括n个元素,所述第一整数集合中不存在相同的整数,B表示第二整数集合,b表示任意整数,b1表示所述第二整数集合中的第一个元素,b2表示所述第二整数集合中的第二个元素,bm表示所述第二整数集合中的第m个元素,所述第二整数集合中不存在相同的整数,n=m+k,m为第二数目,m表示所述加密目标数据块集合中的加密目标数据块数目,k为任意正整数,k表示所述校验目标数据块集合中的校验目标数据块数目;
基于所述第一整数集合和所述第二整数集合,利用下式生成编码矩阵:
其中,x、y、p分别为权重系数,x、y、p可以是任意整数,a表示任意整数,a1表示所述第一整数集合中的第一个元素,a2表示所述第一整数集合中的第二个元素,an表示所述第一整数集合中的第n个元素,b表示任意整数,b1表示所述第二整数集合中的第一个元素,b2表示所述第二整数集合中的第二个元素,bm表示所述第二整数集合中的第m个元素,C表示所述编码矩阵,C包含n行和m列,n=m+k,m为第二数目,m表示所述加密目标数据块集合中的加密目标数据块数目,k为任意正整数,k表示所述校验目标数据块集合中的校验目标数据块数目;
利用下式生成编码数据矩阵:
S=D×C',
其中,D表示所述加密目标数据块集合对应的矩阵,C表示所述编码矩阵,C'表示C的逆矩阵,S表示所述编码数据矩阵,D=[D1,...,Dm],m表示第二数目,D包括第二数目个加密目标数据块,D1表示第一个加密目标数据块,Dm表示第m个加密目标数据块,S=[S1,...,Sn],n=m+k,m为第二数目,m表示所述加密目标数据块集合中的加密目标数据块数目,k为任意正整数,k表示所述校验目标数据块集合中的校验目标数据块数目,S包括第n数目个编码子块,S1表示第一个编码子块,Sn表示第n个编码子块;
将所述编码数据矩阵的前第二数目个列确定为编码目标数据块矩阵;
根据所述编码目标数据块矩阵,确定所述编码目标数据块集合;
将所述编码数据矩阵的从第二数目加1列到第n列确定为校验目标数据块矩阵;
根据所述校验目标数据块矩阵,确定所述校验目标数据块集合。
8.根据权利要求7所述的方法,其中,所述更新所述区块链,包括:
调用智能合约,其中,所述智能合约包括智能合约代码、实例和执行数据;
运行所述智能合约代码,将所述目标管理节点中的所述密文头、所述密钥和所述存储记录表发布到所述区块链中。
9.一种基于分布式系统的数据存储更新装置,包括:
接收单元,被配置成获取待更新的目标数据块和目标元数据;
生成单元,被配置成基于所述目标数据块和所述目标元数据,确定编码目标数据块集合和校验目标数据块集合;
第一存储单元,被配置成将所述编码目标数据块集合和所述校验目标数据块集合存储于所述存储节点组中;
确定单元,被配置成基于所述目标元数据、所述编码目标数据块集合和所述校验目标数据块集合,确定存储关系集合;
第二存储单元,被配置成将所述存储关系集合存储于所述至少一个元数据管理节点中;
处理单元,被配置成更新所述区块链。
10.一种第一终端设备,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-8中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011090654.XA CN112182108A (zh) | 2020-10-13 | 2020-10-13 | 基于区块链的分布式数据存储更新方法和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011090654.XA CN112182108A (zh) | 2020-10-13 | 2020-10-13 | 基于区块链的分布式数据存储更新方法和电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112182108A true CN112182108A (zh) | 2021-01-05 |
Family
ID=73949814
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011090654.XA Withdrawn CN112182108A (zh) | 2020-10-13 | 2020-10-13 | 基于区块链的分布式数据存储更新方法和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112182108A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112968922A (zh) * | 2021-01-19 | 2021-06-15 | 河北蜂之巢互联网技术有限公司 | 一种流数据存储的方法及流数据存储系统 |
CN115269734A (zh) * | 2022-09-27 | 2022-11-01 | 北京奥星贝斯科技有限公司 | 分布式数据库的存储管理方法及装置 |
-
2020
- 2020-10-13 CN CN202011090654.XA patent/CN112182108A/zh not_active Withdrawn
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112968922A (zh) * | 2021-01-19 | 2021-06-15 | 河北蜂之巢互联网技术有限公司 | 一种流数据存储的方法及流数据存储系统 |
CN115269734A (zh) * | 2022-09-27 | 2022-11-01 | 北京奥星贝斯科技有限公司 | 分布式数据库的存储管理方法及装置 |
CN115269734B (zh) * | 2022-09-27 | 2022-11-29 | 北京奥星贝斯科技有限公司 | 分布式数据库的存储管理方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11640474B2 (en) | Method and apparatus for operating database | |
US10958416B2 (en) | Encrypted and compressed data transmission with padding | |
TW201638798A (zh) | 用於在加密資料上進行查詢處理的資料庫伺服器及客戶端 | |
CN111950030A (zh) | 基于区块链的数据共享存储方法、终端设备和存储介质 | |
CN109522751B (zh) | 访问权限控制方法、装置、电子设备及计算机可读介质 | |
CN110391895B (zh) | 数据预处理方法、密文数据获取方法、装置和电子设备 | |
US10601580B2 (en) | Secure order preserving string compression | |
CN112181307A (zh) | 基于区块链的分布式数据冗余存储方法和电子设备 | |
CN111629063A (zh) | 基于区块链的分布式文件下载的方法和电子设备 | |
CN111611621A (zh) | 基于区块链的分布式数据加密存储方法和电子设备 | |
CN112182109A (zh) | 基于区块链的分布式数据编码存储方法和电子设备 | |
CN111611622A (zh) | 基于区块链的文件存储方法和电子设备 | |
CN112182108A (zh) | 基于区块链的分布式数据存储更新方法和电子设备 | |
CN111950032A (zh) | 基于区块链的数据存储方法、终端设备和存储介质 | |
CN112541775A (zh) | 基于区块链的交易溯源方法、电子设备和计算机存储介质 | |
WO2021033072A1 (en) | Opaque encryption for data deduplication | |
CN115858488A (zh) | 基于数据治理的平行迁移方法、装置及可读介质 | |
Prajapati et al. | Efficient Cross User Client Side Data Deduplication in Hadoop. | |
CN111610938B (zh) | 分布式数据编码存储方法、电子设备和计算机可读存储介质 | |
CN112182112A (zh) | 基于区块链的分布式数据动态存储方法和电子设备 | |
CN111046010A (zh) | 日志储存方法、装置、系统、电子设备和计算机可读介质 | |
CN112436943B (zh) | 基于大数据的请求去重方法、装置、设备及存储介质 | |
CN111931204A (zh) | 用于分布式系统的加密去重存储方法、终端设备 | |
CN111949738A (zh) | 基于区块链的数据存储去重方法、终端设备和存储介质 | |
CN112181308A (zh) | 基于区块链的分布式数据存储方法和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20210105 |
|
WW01 | Invention patent application withdrawn after publication |