CN113885797B - 一种数据存储方法、装置、设备及存储介质 - Google Patents
一种数据存储方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN113885797B CN113885797B CN202111122503.2A CN202111122503A CN113885797B CN 113885797 B CN113885797 B CN 113885797B CN 202111122503 A CN202111122503 A CN 202111122503A CN 113885797 B CN113885797 B CN 113885797B
- Authority
- CN
- China
- Prior art keywords
- storage
- files
- sector
- data
- storage pool
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013500 data storage Methods 0.000 title claims abstract description 47
- 238000000034 method Methods 0.000 title claims abstract description 40
- 239000007787 solid Substances 0.000 claims abstract description 33
- 238000004590 computer program Methods 0.000 claims description 10
- 238000012545 processing Methods 0.000 claims description 4
- 238000005538 encapsulation Methods 0.000 claims description 3
- 230000004044 response Effects 0.000 abstract description 14
- 238000010586 diagram Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000009471 action Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 238000012423 maintenance Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 210000001503 joint Anatomy 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000003032 molecular docking Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012856 packing Methods 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0638—Organizing or formatting or addressing of data
- G06F3/0644—Management of space entities, e.g. partitions, extents, pools
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/061—Improving I/O performance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0638—Organizing or formatting or addressing of data
- G06F3/064—Management of blocks
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Abstract
本申请公开了一种数据存储方法、装置、设备及存储介质，包括：获取公链上的目标数据；通过Filecoin系统对所述目标数据进行封装，以得到相应的扇区文件及与所述扇区文件对应的用于证明所述扇区文件完整存储的标识文件；分别利用分布式存储系统的由机械硬盘组成的第一存储池和由固态硬盘组成的第二存储池对所述扇区文件和所述标识文件进行存储。本申请通过Filecoin系统将公链上的数据封装成扇区文件和标识文件两部分，在进行分布式存储时对扇区文件和标识文件分开存储，利用大容量、慢响应的第一存储池存储数据量较大的扇区文件，并利用高性能、快响应的第二存储池存储数据量较小的标识文件，提高数据存储及读取效率。
Description
技术领域
本发明涉及数据存储技术领域，特别涉及一种数据存储方法、装置、设备及存储介质。
背景技术
IPFS(InterPlanetary File System，星际文件存储)是一个旨在创建持久且分布式存储和共享文件的网络传输协议。它是一种内容可寻址的对等超媒体分发协议。在IPFS网络中的节点将构成一个分布式文件系统。IPFS结合了分布式散列表、鼓励块交换和一个自我认证的名字空间。IPFS没有单点故障，并且节点不需要相互信任。分布式内容传递可以节约带宽，和防止HTTP方案可能遇到的DDoS攻击。
Filecoin系统是一个基于IPFS的去中心化的分布式存储项目。Filecoin系统的区块链技术底层依托于分布式存储进行数据存储，在区块链公链上进行Filecoin节点维护和提供存储功能的用户，公链会给予他们代币奖励。所以对于文件的写入和读取越快，用户得到奖励的机率越大，反之，如果文件无法及时读取到数据或者数据丢失，用户就无法获得奖励甚至还要扣除一定量的代币。因此，如何提高区块链中的数据的存取效率是本领域技术人员亟待解决的技术问题。
发明内容
有鉴于此，本发明的目的在于提供一种数据存储方法、装置、设备及存储介质，能够提高数据存储及读取效率。其具体方案如下：
本申请的第一方面提供了一种数据存储方法，包括：
获取公链上的目标数据；
通过Filecoin系统对所述目标数据进行封装，以得到相应的扇区文件及与所述扇区文件对应的用于证明所述扇区文件完整存储的标识文件；
分别利用分布式存储系统的由机械硬盘组成的第一存储池和由固态硬盘组成的第二存储池对所述扇区文件和所述标识文件进行存储。
可选的，所述分别利用分布式存储系统的由机械硬盘组成的第一存储池和由固态硬盘组成的第二存储池对所述扇区文件和所述标识文件进行存储，包括：
将所述扇区文件和所述标识文件写入分布式存储系统的由固态硬盘组成的第二存储池；
对所述第一存储池中写入的所述扇区文件和所述标识文件进行分类，将写入的所述扇区文件存储至所述第一存储池；其中，所述第二存储池存储所述标识文件。
可选的，所述将所述扇区文件和所述标识文件写入分布式存储系统的由固态硬盘组成的第二存储池，包括：
通过挂载目录的方式将所述扇区文件和所述标识文件写入分布式存储系统的由固态硬盘组成的第二存储池。
可选的，所述对所述第一存储池中写入的所述扇区文件和所述标识文件进行分类，包括：
根据写入文件的大小对所述第一存储池中写入的所述扇区文件和所述标识文件进行分类。
可选的，所述分别利用分布式存储系统的由机械硬盘组成的第一存储池和由固态硬盘组成的第二存储池对所述扇区文件和所述标识文件进行存储之后，还包括：
接收所述公链发送的时空证明指令，并根据所述时空证明指令从所述第二存储池存储的所述标识文件中读取相应的数据块；
利用所述数据块生成相应的存储证明信息，并将所述存储证明信息返回至所述公链以对所述扇区文件的完整存储进行验证。
可选的于，所述接收所述公链发送的时空证明指令，并根据所述时空证明指令从所述第二存储池存储的所述标识文件中读取相应的数据块，包括：
接收所述公链发送的携带目标地址的时空证明指令，如果所述目标地址为所述第二存储池中的地址，则读取所述第二存储池中所述目标地址处的数据块。
可选的，所述利用所述数据块生成相应的存储证明信息，包括：
通过所述Filecoin系统利用时空证明算法对所述数据块进行处理，以生成相应的存储证明信息。
本申请的第二方面提供了一种数据存储装置，包括：
数据获取模块，用于获取公链上的目标数据；
数据封装模块，用于通过Filecoin系统对所述目标数据进行封装，以得到相应的扇区文件及与所述扇区文件对应的用于证明所述扇区文件完整存储的标识文件；
数据存储模块，用于分别利用分布式存储系统的由机械硬盘组成的第一存储池和由固态硬盘组成的第二存储池对所述扇区文件和所述标识文件进行存储。
本申请的第三方面提供了一种电子设备，所述电子设备包括处理器和存储器；其中所述存储器用于存储计算机程序，所述计算机程序由所述处理器加载并执行以实现前述数据存储方法。
本申请的第四方面提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机可执行指令，所述计算机可执行指令被处理器加载并执行时，实现前述数据存储方法。
本申请中，先获取公链上的目标数据；然后通过Filecoin系统对所述目标数据进行封装，以得到相应的扇区文件及与所述扇区文件对应的用于证明所述扇区文件完整存储的标识文件；最后分别利用分布式存储系统的由机械硬盘组成的第一存储池和由固态硬盘组成的第二存储池对所述扇区文件和所述标识文件进行存储。可见，本申请通过Filecoin系统将公链上的数据封装成扇区文件和标识文件两部分，在进行分布式存储时对扇区文件和标识文件分开存储，将扇区文件存储至机械硬盘组成的第一存储池，同时将标识文件存储至固态硬盘组成的第二存储池。利用大容量、慢响应的第一存储池存储数据量较大的扇区文件，并利用高性能、快响应的第二存储池存储数据量较小的标识文件，提高数据存储及读取效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
图1为本申请提供的一种数据存储方法流程图；
图2为本申请提供的一种数据存储交互示意图；
图3为本申请提供的一种存储数据完整性证明方法流程图；
图4为本申请提供的一种数据存储装置结构示意图；
图5为本申请提供的一种数据存储电子设备结构图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
Filecoin系统是一个基于IPFS的去中心化的分布式存储项目。Filecoin系统的区块链技术底层依托于分布式存储进行数据存储，在区块链公链上进行Filecoin节点维护和提供存储功能的用户，公链会给予他们代币奖励。所以对于文件的写入和读取越快，用户得到奖励的机率越大，反之，如果文件无法及时读取到数据或者数据丢失，用户就无法获得奖励甚至还要扣除一定量的代币。针对上述技术缺陷，本身请提供一种数据存储方案，通过Filecoin系统将公链上的数据封装成扇区文件和标识文件两部分，在进行分布式存储时对扇区文件和标识文件分开存储，将扇区文件存储至机械硬盘组成的第一存储池，同时将标识文件存储至固态硬盘组成的第二存储池。利用大容量、慢响应的第一存储池存储数据量较大的扇区文件，并利用高性能、快响应的第二存储池存储数据量较小的标识文件，提高数据存储及读取效率。
图1为本申请实施例提供的一种数据存储方法流程图。参见图1所示，该数据存储方法包括：
S11：获取公链上的目标数据。
本实施例中，获取公链上的目标数据。所述公链也称公有链，指全世界任何人都可读取、发送交易且交易能获得有效确认的、也可以参与其中共识过程的区块链。所述目标数据为Filecoin公链上的有效数据，对所述目标数据进行高效存取及运维，能够获得更多Filecoin区块链代币。
本实施例数据交互依赖图2所示架构，包括区块链公链、Filecoin系统及分布式存储系统，各部分分工协作。在实施之前，需要首先部署所述Filecoin系统及所述分布式存储系统，并完成对接。其中，所述Filecoin系统作为上层业务软件与区块链公链对接，一方面从所述区块链公链获取有效数据写入存储，另一方面从存储中读取数据生成证明信息提交至所述公链，接收区块链公链的代币奖励。所述分布式存储存储系统也称为分布式集群，它同时具备高性能、高可靠性和高扩展性的优点，它还能够同时提供块存储、文件存储和对象存储。与传统集中式存储相比，分布式存储数据均衡性、可扩展性高，可以轻松扩展至上千个节点，提供PB级以上的存储空间，去中心化的设计，确保没有单点故障，多种故障场景也能自动进行修复自愈等。本实施例的所述分布式存储系统作为底层存储角色，用于存储Filecoin系统封装好的数据，且具备单独的文件(数据)收发模块，该模块主要负责文件写入和读取，能精准的对文件进行分配，快速找到文件的位置。
S12：通过Filecoin系统对所述目标数据进行封装，以得到相应的扇区文件及与所述扇区文件对应的用于证明所述扇区文件完整存储的标识文件。
本实施例中，从所述公链获取到数据后，通过Filecoin系统对所述目标数据进行封装，以得到相应的扇区文件及与所述扇区文件对应的用于证明所述扇区文件完整存储的标识文件。作为业务软件角色的Filecoin系统，接受到公链网络上传来的用户要存储的所述目标数据后，首先会进行封装数据，这些数据会封装成一个或多个所述扇区文件和一个较小的所述标识文件，所述扇区文件的大小一般是32GB或者64GB，较小的所述标识文件大小有70MB左右。在进行时空证明时，所需的90％数据块均在所述标识文件，将其存入快速存储池(第二存储池)中能够进行快速读取并证明。
S13：分别利用分布式存储系统的由机械硬盘组成的第一存储池和由固态硬盘组成的第二存储池对所述扇区文件和所述标识文件进行存储。
本实施例中，分别利用分布式存储系统的由机械硬盘组成的第一存储池和由固态硬盘组成的第二存储池对所述扇区文件和所述标识文件进行存储。所述Filecoin系统会把封装好的数据写入所述分布式存储系统里，在将所述Filecoin系统中数据写入所述分布式存储系统时，由所述文件收发模块来控制文件数据的多线程写入分布式存储，以提高并发性。在存储领域内，SSD固态盘的性能比机械硬盘的性能要好很多，但是如果追求性能全部使用SSD固态盘，又会造成成本的极大提高。因此，本实施例搭建好所述分布式存储系统后，需要进一步配置由固态硬盘组成的快速存储池(第二存储池)和由机械硬盘组成的容量存储池(第一存储池)，用于数据的可靠性维护和数据的存储。利用大容量、慢响应的第一存储池存储数据量较大的扇区文件，并利用高性能、快响应的第二存储池存储数据量较小的标识文件，提高数据存储及读取效率。
在实施时，为了进一步提高存储效率，首先将所述扇区文件和所述标识文件写入分布式存储系统的由固态硬盘组成的第二存储池，具体可以通过挂载目录的方式将所述扇区文件和所述标识文件写入分布式存储系统的由固态硬盘组成的第二存储池。然后对所述第一存储池中写入的所述扇区文件和所述标识文件进行分类，将写入的所述扇区文件存储至所述第一存储池；其中，所述第二存储池存储所述标识文件。例如，可以根据写入文件的大小对所述第一存储池中写入的所述扇区文件和所述标识文件进行分类。具体的，所述文件收发模块会优先把需要存储的全部数据存储到分布式存储中由固态盘组成的快速存储池中，完成数据的快速写入。写入完成后通过对写入文件大小进行甄别以快速分类，来确定文件最终存入快速存储池还是容量存储池，最终是把文件大小70MB左右的文件保留在快速存储池中，把32GB或者64GB的大文件迁移存入容量存储池中。
可见，本申请实施例先获取公链上的目标数据；然后通过Filecoin系统对所述目标数据进行封装，以得到相应的扇区文件及与所述扇区文件对应的用于证明所述扇区文件完整存储的标识文件；最后分别利用分布式存储系统的由机械硬盘组成的第一存储池和由固态硬盘组成的第二存储池对所述扇区文件和所述标识文件进行存储。本申请实施例通过Filecoin系统将公链上的数据封装成扇区文件和标识文件两部分，在进行分布式存储时对扇区文件和标识文件分开存储，将扇区文件存储至机械硬盘组成的第一存储池，同时将标识文件存储至固态硬盘组成的第二存储池。利用大容量、慢响应的第一存储池存储数据量较大的扇区文件，并利用高性能、快响应的第二存储池存储数据量较小的标识文件，提高数据存储及读取效率。
在上述实施例基础上，图3为本申请实施例提供的一种存储数据完整性证明方法流程图。参见图3所示，该存储数据完整性证明方法包括：
S21：接收所述公链发送的时空证明指令，并根据所述时空证明指令从所述第二存储池存储的所述标识文件中读取相应的数据块。
所述Filecoin系统会定时进行时空证明，证明有两种方式，windowspost和winning来证明已经存储的数据未受到损坏。如果证明不成功，用户会受到大量的代币处罚，反之，如果用户在规定时间内提交上证明，则会获得代币奖励。由于目前区块链公链上用户较多，提交等待时间较长，因此对于后端与存储交互的要求就比较高，要求存储具有非常快速的读取速度。所述Filecoin系统在进行时空证明的时候，从所述分布式存储系统读取已写入的文件。
本实施例中，接收所述公链发送的时空证明指令，并根据所述时空证明指令从所述第二存储池存储的所述标识文件中读取相应的数据块。所述公链每天对所述Filecoin系统中已经封装好的数据进行检查，需要所述Filecoin系统提供时空证明来证明存储数据的完整性。所述Filecoin系统接收到所述公链发出的证明需求后，需要从存储中读取相应的数据块，进行证明信息生成。具体来说，接收所述公链发送的携带目标地址的时空证明指令，如果所述目标地址为所述第二存储池中的地址，则读取所述第二存储池中所述目标地址处的数据块。
所述Filecoin系统读取数据时，所述分布式存储系统的所述文件收发模块获得数据地址，判断数据存储的位置以获取相应的数据块。对于之前的写入数据，已经按照文件大小分别存储在快速存储池和容量存储池中，由于证明信息生成所需的数据块90％量都位于70MB的所述标识文件中，所以在快速存储池中可以获得大部分证明信息生成时所需的数据块。需要说明的是，如果在所述第二存储池中读取不到相应的数据块，则在从所述第一存储池中读取。
S22：通过所述Filecoin系统利用时空证明算法对所述数据块进行处理，以生成相应的存储证明信息。
S23：将所述存储证明信息返回至所述公链以对所述扇区文件的完整存储进行验证。
本实施例中，利用所述数据块生成相应的存储证明信息的具体过程可以为通过所述Filecoin系统利用时空证明算法对所述数据块进行处理，以生成相应的存储证明信息。所述时空证明算法(Election-PoSt算法)是一种融合了节点领导选举和时空证明的算法，这种算法要求矿工必须在每一轮打包区块时提交证明，证明他们确实贡献了存储空间。所述Filecoin系统获得数据块，按照标准时空证明算法，生成证明信息，然后将所述存储证明信息返回至所述公链以对所述扇区文件的完整存储进行验证。
可见，本申请实施例基于利用大容量、慢响应的第一存储池存储数据量较大的扇区文件，并利用高性能、快响应的第二存储池存储数据量较小的标识文件的机制，在进行时空证明时，能够所述时空证明指令从第二存储池存储的标识文件中快速、高效及精准读取相应的数据块以生成证明信息，并返回至公链中对存储数据完整性进行验证，避免低效读取数据导致验证结果有误。
参见图4所示，本申请实施例还相应公开了一种数据存储装置，包括：
数据获取模块11，用于获取公链上的目标数据；
数据封装模块12，用于通过Filecoin系统对所述目标数据进行封装，以得到相应的扇区文件及与所述扇区文件对应的用于证明所述扇区文件完整存储的标识文件；
数据存储模块13，用于分别利用分布式存储系统的由机械硬盘组成的第一存储池和由固态硬盘组成的第二存储池对所述扇区文件和所述标识文件进行存储。
可见，本申请实施例先获取公链上的目标数据；然后通过Filecoin系统对所述目标数据进行封装，以得到相应的扇区文件及与所述扇区文件对应的用于证明所述扇区文件完整存储的标识文件；最后分别利用分布式存储系统的由机械硬盘组成的第一存储池和由固态硬盘组成的第二存储池对所述扇区文件和所述标识文件进行存储。本申请实施例通过Filecoin系统将公链上的数据封装成扇区文件和标识文件两部分，在进行分布式存储时对扇区文件和标识文件分开存储，将扇区文件存储至机械硬盘组成的第一存储池，同时将标识文件存储至固态硬盘组成的第二存储池。利用大容量、慢响应的第一存储池存储数据量较大的扇区文件，并利用高性能、快响应的第二存储池存储数据量较小的标识文件，提高数据存储及读取效率。
在一些具体实施例中，所述数据存储模块13，具体包括：
第一写入单元，用于将所述扇区文件和所述标识文件写入分布式存储系统的由固态硬盘组成的第二存储池；
分类单元，用于对所述第一存储池中写入的所述扇区文件和所述标识文件进行分类；
第二写入单元，用于将写入的所述扇区文件存储至所述第一存储池；其中，所述第二存储池存储所述标识文件。
在一些具体实施例中，所述第一写入单元，具体用于通过挂载目录的方式将所述扇区文件和所述标识文件写入分布式存储系统的由固态硬盘组成的第二存储池。
在一些具体实施例中，所述分类单元，具体用于根据写入文件的大小对所述第一存储池中写入的所述扇区文件和所述标识文件进行分类。
在一些具体实施例中，所述数据存储装置还包括：
读取模块，用于接收所述公链发送的时空证明指令，并根据所述时空证明指令从所述第二存储池存储的所述标识文件中读取相应的数据块；
生成模块，用于利用所述数据块生成相应的存储证明信息，并将所述存储证明信息返回至所述公链以对所述扇区文件的完整存储进行验证。
进一步的，本申请实施例还提供了一种电子设备。图5是根据一示例性实施例示出的电子设备20结构图，图中的内容不能认为是对本申请的使用范围的任何限制。
图5为本申请实施例提供的一种电子设备20的结构示意图。该电子设备20，具体可以包括：至少一个处理器21、至少一个存储器22、电源23、通信接口24、输入输出接口25和通信总线26。其中，所述存储器22用于存储计算机程序，所述计算机程序由所述处理器21加载并执行，以实现前述任一实施例公开的数据存储方法中的相关步骤。
本实施例中，电源23用于为电子设备20上的各硬件设备提供工作电压；通信接口24能够为电子设备20创建与外界设备之间的数据传输通道，其所遵循的通信协议是能够适用于本申请技术方案的任意通信协议，在此不对其进行具体限定；输入输出接口25，用于获取外界输入数据或向外界输出数据，其具体的接口类型可以根据具体应用需要进行选取，在此不进行具体限定。
另外，存储器22作为资源存储的载体，可以是只读存储器、随机存储器、磁盘或者光盘等，其上所存储的资源可以包括操作系统221、计算机程序222及数据223等，存储方式可以是短暂存储或者永久存储。
其中，操作系统221用于管理与控制电子设备20上的各硬件设备以及计算机程序222，以实现处理器21对存储器22中海量数据223的运算与处理，其可以是Windows Server、Netware、Unix、Linux等。计算机程序222除了包括能够用于完成前述任一实施例公开的由电子设备20执行的数据存储方法的计算机程序之外，还可以进一步包括能够用于完成其他特定工作的计算机程序。数据223可以包括电子设备20收集到的目标数据。
进一步的，本申请实施例还公开了一种存储介质，所述存储介质中存储有计算机程序，所述计算机程序被处理器加载并执行时，实现前述任一实施例公开的数据存储方法步骤。
本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个…”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上对本发明所提供的数据存储方法、装置、设备及存储介质进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。
Claims (9)
1.一种数据存储方法，其特征在于，包括：
获取公链上的目标数据；
通过Filecoin系统对所述目标数据进行封装，以得到相应的扇区文件及与所述扇区文件对应的用于证明所述扇区文件完整存储的标识文件；
分别利用分布式存储系统的由机械硬盘组成的第一存储池和由固态硬盘组成的第二存储池对所述扇区文件和所述标识文件进行存储；
所述分别利用分布式存储系统的由机械硬盘组成的第一存储池和由固态硬盘组成的第二存储池对所述扇区文件和所述标识文件进行存储，包括：
将所述扇区文件和所述标识文件写入分布式存储系统的由固态硬盘组成的第二存储池；
对所述第一存储池中写入的所述扇区文件和所述标识文件进行分类，将写入的所述扇区文件存储至所述第一存储池；其中，所述第二存储池存储所述标识文件。
2.根据权利要求1所述的数据存储方法，其特征在于，所述将所述扇区文件和所述标识文件写入分布式存储系统的由固态硬盘组成的第二存储池，包括：
通过挂载目录的方式将所述扇区文件和所述标识文件写入分布式存储系统的由固态硬盘组成的第二存储池。
3.根据权利要求1所述的数据存储方法，其特征在于，所述对所述第一存储池中写入的所述扇区文件和所述标识文件进行分类，包括：
根据写入文件的大小对所述第一存储池中写入的所述扇区文件和所述标识文件进行分类。
4.根据权利要求1至3任一项所述的数据存储方法，其特征在于，所述分别利用分布式存储系统的由机械硬盘组成的第一存储池和由固态硬盘组成的第二存储池对所述扇区文件和所述标识文件进行存储之后，还包括：
接收所述公链发送的时空证明指令，并根据所述时空证明指令从所述第二存储池存储的所述标识文件中读取相应的数据块；
利用所述数据块生成相应的存储证明信息，并将所述存储证明信息返回至所述公链以对所述扇区文件的完整存储进行验证。
5.根据权利要求4所述的数据存储方法，其特征在于，所述接收所述公链发送的时空证明指令，并根据所述时空证明指令从所述第二存储池存储的所述标识文件中读取相应的数据块，包括：
接收所述公链发送的携带目标地址的时空证明指令，如果所述目标地址为所述第二存储池中的地址，则读取所述第二存储池中所述目标地址处的数据块。
6.根据权利要求4所述的数据存储方法，其特征在于，所述利用所述数据块生成相应的存储证明信息，包括：
通过所述Filecoin系统利用时空证明算法对所述数据块进行处理，以生成相应的存储证明信息。
7.一种数据存储装置，其特征在于，包括：
数据获取模块，用于获取公链上的目标数据；
数据封装模块，用于通过Filecoin系统对所述目标数据进行封装，以得到相应的扇区文件及与所述扇区文件对应的用于证明所述扇区文件完整存储的标识文件；
数据存储模块，用于分别利用分布式存储系统的由机械硬盘组成的第一存储池和由固态硬盘组成的第二存储池对所述扇区文件和所述标识文件进行存储；
其中，所述数据存储模块包括：
第一写入单元，用于将所述扇区文件和所述标识文件写入分布式存储系统的由固态硬盘组成的第二存储池；
分类单元，用于对所述第一存储池中写入的所述扇区文件和所述标识文件进行分类；
第二写入单元，用于将写入的所述扇区文件存储至所述第一存储池；其中，所述第二存储池存储所述标识文件。
8.一种电子设备，其特征在于，所述电子设备包括处理器和存储器；其中所述存储器用于存储计算机程序，所述计算机程序由所述处理器加载并执行以实现如权利要求1至6任一项所述的数据存储方法。
9.一种计算机可读存储介质，其特征在于，用于存储计算机可执行指令，所述计算机可执行指令被处理器加载并执行时，实现如权利要求1至6任一项所述的数据存储方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111122503.2A CN113885797B (zh) | 2021-09-24 | 2021-09-24 | 一种数据存储方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111122503.2A CN113885797B (zh) | 2021-09-24 | 2021-09-24 | 一种数据存储方法、装置、设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113885797A CN113885797A (zh) | 2022-01-04 |
| CN113885797B true CN113885797B (zh) | 2023-12-22 |
Family
ID=79006600
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111122503.2A Active CN113885797B (zh) | 2021-09-24 | 2021-09-24 | 一种数据存储方法、装置、设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113885797B (zh) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115292243B (zh) * | 2022-06-29 | 2023-10-20 | 苏州科技大学 | 一种基于区块链的非准入分布式文件存储系统及存储方法 |
| CN116644050A (zh) * | 2023-06-19 | 2023-08-25 | 深圳市青葡萄科技有限公司 | 一种文件vdi环境下的分布式存储方法 |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103678149A (zh) * | 2013-12-19 | 2014-03-26 | 华为技术有限公司 | 数据处理的方法及设备 |
| CN104391807A (zh) * | 2014-10-23 | 2015-03-04 | 浪潮电子信息产业股份有限公司 | 一种提升存储服务器性能的方法及系统 |
| CN104679661A (zh) * | 2013-11-27 | 2015-06-03 | 阿里巴巴集团控股有限公司 | 混合存储的控制方法及混合存储系统 |
| CN106055277A (zh) * | 2016-05-31 | 2016-10-26 | 重庆大学 | 一种去中心化的分布式异构存储系统数据分布方法 |
| CN108710474A (zh) * | 2018-05-18 | 2018-10-26 | 郑州云海信息技术有限公司 | 一种数据存储方法、装置及计算机存储介质 |
| CN109302442A (zh) * | 2018-07-26 | 2019-02-01 | 深圳市元征科技股份有限公司 | 一种数据存储证明方法及相关设备 |
| CN110209345A (zh) * | 2018-12-27 | 2019-09-06 | 中兴通讯股份有限公司 | 数据存储的方法及装置 |
| CN112463880A (zh) * | 2020-11-06 | 2021-03-09 | 苏州浪潮智能科技有限公司 | 一种区块链数据存储方法及相关装置 |
| CN112817544A (zh) * | 2021-03-05 | 2021-05-18 | 北京星网锐捷网络技术有限公司 | 一种数据处理方法、存储系统及存储设备 |
-
2021
- 2021-09-24 CN CN202111122503.2A patent/CN113885797B/zh active Active
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104679661A (zh) * | 2013-11-27 | 2015-06-03 | 阿里巴巴集团控股有限公司 | 混合存储的控制方法及混合存储系统 |
| CN103678149A (zh) * | 2013-12-19 | 2014-03-26 | 华为技术有限公司 | 数据处理的方法及设备 |
| CN104391807A (zh) * | 2014-10-23 | 2015-03-04 | 浪潮电子信息产业股份有限公司 | 一种提升存储服务器性能的方法及系统 |
| CN106055277A (zh) * | 2016-05-31 | 2016-10-26 | 重庆大学 | 一种去中心化的分布式异构存储系统数据分布方法 |
| CN108710474A (zh) * | 2018-05-18 | 2018-10-26 | 郑州云海信息技术有限公司 | 一种数据存储方法、装置及计算机存储介质 |
| CN109302442A (zh) * | 2018-07-26 | 2019-02-01 | 深圳市元征科技股份有限公司 | 一种数据存储证明方法及相关设备 |
| CN110209345A (zh) * | 2018-12-27 | 2019-09-06 | 中兴通讯股份有限公司 | 数据存储的方法及装置 |
| CN112463880A (zh) * | 2020-11-06 | 2021-03-09 | 苏州浪潮智能科技有限公司 | 一种区块链数据存储方法及相关装置 |
| CN112817544A (zh) * | 2021-03-05 | 2021-05-18 | 北京星网锐捷网络技术有限公司 | 一种数据处理方法、存储系统及存储设备 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113885797A (zh) | 2022-01-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11614867B2 (en) | Distributed storage system-based data processing method and storage device | |
| Almeida et al. | ChainReaction: a causal+ consistent datastore based on chain replication | |
| CN106407040B (zh) | 一种远程数据复制方法及系统 | |
| CN106815218B (zh) | 数据库访问方法、装置和数据库系统 | |
| CN113885797B (zh) | 一种数据存储方法、装置、设备及存储介质 | |
| CN112311596B (zh) | 数据管理方法、装置、设备及计算机存储介质 | |
| WO2017048924A1 (en) | Distributed data processing method and system | |
| CN109684099B (zh) | 消息处理方法及装置 | |
| US9372879B1 (en) | Balanced append tree data structure | |
| CN105187523B (zh) | 一种目录访问方法及装置 | |
| CN104020961A (zh) | 分布式数据存储方法、装置及系统 | |
| CN107580032B (zh) | 数据处理方法、装置及设备 | |
| CN112199419A (zh) | 一种分布式时序数据库、存储方法、设备及存储介质 | |
| EP4310691A1 (en) | Blockchain-based data processing method, apparatus, and device, and storage medium | |
| CN113395340A (zh) | 一种信息更新方法、装置、设备、系统和可读存储介质 | |
| CN105224541B (zh) | 数据的唯一性控制方法、信息存储方法及装置 | |
| CN113542405B (zh) | 基于区块链的网络通信系统、方法、设备及存储介质 | |
| US10545667B1 (en) | Dynamic data partitioning for stateless request routing | |
| US9578120B1 (en) | Messaging with key-value persistence | |
| WO2024001304A1 (zh) | 一种数据处理方法及相关设备 | |
| CN110298031B (zh) | 一种词典服务系统及模型版本一致性配送方法 | |
| US11481142B2 (en) | Method and device for downloading resources | |
| WO2012171363A1 (zh) | 分布式缓存系统中的数据操作方法和装置 | |
| CN114172853B (zh) | 流量转发及裸机服务器的配置方法、装置 | |
| CN110442645A (zh) | 数据索引方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |