CN112817543B - 一种数据存储方法、系统、装置、设备及介质 - Google Patents
一种数据存储方法、系统、装置、设备及介质 Download PDFInfo
- Publication number
- CN112817543B CN112817543B CN202110218594.3A CN202110218594A CN112817543B CN 112817543 B CN112817543 B CN 112817543B CN 202110218594 A CN202110218594 A CN 202110218594A CN 112817543 B CN112817543 B CN 112817543B
- Authority
- CN
- China
- Prior art keywords
- storage
- data
- main
- storage space
- space
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0604—Improving or facilitating administration, e.g. storage management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0629—Configuration or reconfiguration of storage systems
- G06F3/0631—Configuration or reconfiguration of storage systems by allocating resources to storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0646—Horizontal data movement in storage systems, i.e. moving data in between storage devices or systems
- G06F3/0647—Migration mechanisms
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请涉及数据处理技术领域,提供一种数据存储方法、系统、装置、设备及介质,用于提高分配数据存储空间的灵活性。该方法应用于多个主存储设备中任一主存储设备,多个主存储设备设置在数据存储系统中,数据存储系统还包括存储控制设备,每个主存储设备的多个存储空间中任意两个存储空间用于存储不同类型的数据,该方法包括:若任一主存储设备的任一存储空间的剩余存储空间小于相应的预设值,则向存储控制设备请求扩容,存储控制设备为任一主存储设备分配其他主存储设备中用于存储对应类型数据的存储空间,以提高分配数据存储空间的灵活性。
Description
技术领域
本申请涉及数据处理技术领域,具体涉及一种数据存储方法、系统、装置、设备及介质。
背景技术
随着移动互联网的发展,个人和企业所产生的数据越来越多,这对现有的数据存储方式所能提供的数据存储的空间要求也越来越大。
目前,数据存储方式一般是利用数据存储集群存储数据,数据存储集群包括多个节点,每个节点均用于存储数据,一旦某个节点中存储容量不足,则通过下一个节点进行存储,但这种方式实际与单个设备存储数据的方式并无实质差异,没有合理划分多个节点的存储空间,以至于无法满足持续增长的数据的存储需求。
发明内容
本申请实施例提供一种数据存储方法、系统、装置、设备及介质,用于提高分配数据存储空间的灵活性。
第一方面,提供一种数据存储方法,应用于多个主存储设备中任一主存储设备,所述多个主存储设备设置在数据存储系统中,所述数据存储系统还包括存储控制设备,每个主存储设备的多个存储空间中任意两个存储空间用于存储不同类型的数据;所述方法包括:
检测所述任一主存储设备的每个存储空间的剩余存储空间;
若任一存储空间的剩余存储空间小于相应的预设值,则向所述存储控制设备请求扩容,以使所述存储控制设备为所述任一主存储设备分配其他主存储设备中用于存储对应类型数据的存储空间,其中,所述其他主存储设备为所述多个主存储设备中除所述任一主存储设备之外的主存储设备。
本申请实施例中,当任一主存储设备的任一存储空间的剩余存储空间不足时,通过存储控制设备为该主存储设备分配其他主存储设备的存储空间,以满足该主存储设备的扩容需求,从而实现各个主存储设备的存储空间的灵活分配,以提升资源利用率。且,数据存储系统包括多个主存储设备,可为该主存储设备分配大量的其他主存储设备的存储空间,从而满足持续增长的数据量的存储需求。
在一种可能的实施例中,所述多个主存储设备中每个主存储设备包括第一存储空间和第二存储空间;
若任一存储空间的剩余存储空间小于相应的预设值,则向所述存储控制设备请求扩容,以使所述存储控制设备为所述任一主存储设备分配其他主存储设备中用于存储对应类型数据的存储空间,包括:
若所述任一主存储设备的第一存储空间的剩余存储空间小于第一预设值,则向所述存储控制设备请求扩容,以使所述存储控制设备为所述任一主存储设备分配所述其他主存储设备中的第一存储空间;
若所述任一主存储设备的第二存储空间的剩余存储空间小于第二预设值,则向所述存储控制设备请求扩容,以使所述存储控制设备为所述任一主存储设备分配所述其他主存储设备中的第二存储空间。
本申请实施例中,当任一主存储设备的第一存储空间的剩余存储空间不足时,为该主存储设备分配其他主存储设备中的第一存储空间,当任一主存储设备的第二存储空间的剩余存储空间不足时,为该主存储设备分配其他主存储设备中的第二存储空间,以满足用于存储不同数据的各类存储空间的扩容需求,进而满足不同类型的数据的存储需求。
在一种可能的实施例中,所述每个主存储设备中任一存储空间的数据的类型在预设条件下转换为其它存储空间的数据对应的类型,其它存储空间为所述每个主存储设备的多个存储空间中除所述任一存储空间之外的存储空间;
在检测所述任一主存储设备的每个存储空间中的剩余存储空间之前,所述方法还包括:
若所述任一主存储设备中的任一存储空间中存储的数据的类型发生转换,则将发生类型转换的数据迁移至所述任一主存储设备中与转换后的类型对应的存储空间中。
本申请实施例中,当任一存储空间中存储的数据的类型发生转换时,将发生类型转换的数据迁移至与转换后的类型对应的存储空间中,以保证每个存储空间存储的是对应类型的数据,以提高数据分类存储的准确性。
在一种可能的实施例中,每个主存储设备中的第一存储空间用于存储热数据,每个主存储设备中的第二存储空间用于存储温数据;
所述若所述任一主存储设备中的任一存储空间中存储的数据的类型发生转换,则将发生类型转换的数据迁移至所述任一主存储设备中与转换后的类型对应的存储空间中,包括:
若所述任一主存储设备的第一存储空间中的热数据存在转换为温数据的数据,则将所述转换为温数据的数据迁移至所述任一主存储设备的第二存储空间中;和/或,
若所述任一主存储设备的第二存储空间中的温数据存在转换为热数据的数据,则将所述转换为热数据的数据迁移至所述任一主存储设备的第一存储空间中。
本申请实施例,任一主存储设备将第一存储空间中转换为温数据的数据迁移至第二存储空间中,和/或将第二存储空间中转换为热数据的数据迁移至第一存储空间中,以保证第一存储空间存储的都是热数据,第二存储空间存储的都是温数据,进一步提高数据分类存储的准确性。
在一种可能的实施例中,所述数据存储系统还包括多个备用存储设备;
在检测所述任一主存储设备的每个存储空间中的剩余存储空间之前,所述方法还包括:
若所述任一主存储设备的第二存储空间中的温数据存在转换为冷数据的数据,则向所述存储控制设备请求冷数据迁移,以使所述存储控制设备执行如下过程:
存储所述转换为冷数据的数据,或者,通知所述多个备用存储设备中的第一备用存储设备存储所述转换为冷数据的数据;
通知所述多个备用存储设备中的第二备用存储设备备份所述转换为冷数据的数据。
本申请实施例中,选择存储控制设备或者第一备用存储设备来进行冷数据迁移,第二备用存储设备来进行冷数据备份,从而不影响主存储设备的正常工作。且,本申请实施例将冷数据存储在存储控制设备或者第一备用存储设备,冷数据备份在第二备用存储设备,通过不同的设备实现物理隔离,进而实现风险隔离,即使存储冷数据的第一备用存储设备出现故障,也不影响第二备用存储设备中备份的冷数据。
在一种可能的实施例中,所述存储控制设备记录有用于存储所述冷数据的第一标识和备份所述冷数据的第二标识,在将所述转换为冷数据的数据备份至多个备用存储设备中的第二备用存储设备中之后,所述方法还包括:
若所述任一主存储设备需要访问目标冷数据,则从所述存储控制设备获取所述第一标识,其中,所述目标冷数据为所述冷数据中的部分或全部数据;
根据所述第一标识,从所述第一标识对应的设备获取所述目标冷数据,并将所述目标冷数据迁移至所述任一主存储设备的第一存储空间中;
若从所述第一标识对应的设备获取所述目标冷数据失败,则从所述存储控制设备获取所述第二标识,并从所述第二标识对应的设备获取所述目标冷数据,并将所述目标冷数据迁移至所述任一主存储设备的第一存储空间中。
本申请实施例存储控制设备记录有用于存储冷数据的第一标识和备份冷数据的第二标识,方便主存储设备根据设备对应的标识快速锁定存储冷数据的设备。且,本申请实施例先根据第一标识获取目标冷数据,在获取失败的情况下,再根据第二标识获取目标冷数据,以确定目标冷数据丢失,以便后续根据第二标识对应的设备中的冷数据,重新备份冷数据。
在一种可能的实施例中,在从所述第二标识对应的设备获取所述目标冷数据,并将所述目标冷数据迁移至所述任一主存储设备的第一存储空间中之后,所述方法还包括:
向所述存储控制设备请求备份,以使所述存储控制设备通知所述多个备用存储设备中的第三备用存储设备存储所述冷数据中除了所述目标冷数据之外的冷数据。
本申请实施例在第一备用存储设备中冷数据丢失的情况下,通过第三备用存储设备重新备份第二备用存储设备中剩余的冷数据,防止第二备用存储设备中的冷数据丢失,主存储设备不能获取相应的冷数据。
第二方面,提供一种数据存储系统,包括多个主存储设备和存储控制设备,其中:
所述多个主存储设备中任一主存储设备,用于检测所述任一主存储设备的每个存储空间的剩余存储空间;以及,
若任一存储空间的剩余存储空间小于相应的预设值,则向所述存储控制设备请求扩容,其中,所述任一主存储设备的多个存储空间中任意两个存储空间用于存储不同类型的数据;
所述存储控制设备,用于为所述任一主存储设备分配其他主存储设备中用于存储对应类型数据的存储空间,其中,所述其他主存储设备为所述多个主存储设备中除所述任一主存储设备之外的主存储设备。
在一种可能的实施例中,所述多个主存储设备中每个主存储设备包括第一存储空间和第二存储空间;所述多个主存储设备中任一主存储设备具体用于:
若所述任一主存储设备的第一存储空间的剩余存储空间小于第一预设值,则向所述存储控制设备请求扩容,以使所述存储控制设备为所述任一主存储设备分配所述其他主存储设备中的第一存储空间;
若所述任一主存储设备的第二存储空间的剩余存储空间小于第二预设值,则向所述存储控制设备请求扩容,以使所述存储控制设备为所述任一主存储设备分配所述其他主存储设备中的第二存储空间。
在一种可能的实施例中,所述每个主存储设备中任一存储空间的数据的类型在预设条件下转换为其它存储空间的数据对应的类型,其它存储空间为所述每个主存储设备的多个存储空间中除所述任一存储空间之外的存储空间;所述多个主存储设备中任一主存储设备还用于:
在检测所述任一主存储设备的每个存储空间中的剩余存储空间之前,若所述任一主存储设备中的任一存储空间中存储的数据的类型发生转换,则将发生类型转换的数据迁移至所述任一主存储设备中与转换后的类型对应的存储空间中。
在一种可能的实施例中,每个主存储设备中的第一存储空间用于存储热数据,每个主存储设备中的第二存储空间用于存储温数据;所述多个主存储设备中任一主存储设备具体用于:
若所述任一主存储设备的第一存储空间中的热数据存在转换为温数据的数据,则将所述转换为温数据的数据迁移至所述任一主存储设备的第二存储空间中;和/或,
若所述任一主存储设备的第二存储空间中的温数据存在转换为热数据的数据,则将所述转换为热数据的数据迁移至所述任一主存储设备的第一存储空间中。
在一种可能的实施例中,所述数据存储系统还包括多个备用存储设备,其中:所述任一主存储设备,还用于若所述任一主存储设备的第二存储空间中的温数据存在转换为冷数据的数据,则向所述存储控制设备请求冷数据迁移;
所述存储控制设备,还用于存储所述转换为冷数据的数据,或者,通知所述多个备用存储设备中的第一备用存储设备存储所述转换为冷数据的数据;
多个备用存储设备中的第二备用存储设备,用于备份所述转换为冷数据的数据。
在一种可能的实施例中,所述任一主存储设备以第一存储介质用于存储热数据和温数据;
所述存储控制设备或所述多个备用存储设备中的各备用存储设备以第二存储介质存储冷数据,其中,所述第一存储介质的数据读写效率大于所述第二存储介质的数据读写效率。
第三方面,提供一种数据存储装置,所述装置设置于多个主存储设备中任一主存储设备中,所述多个主存储设备设置在数据存储系统中,所述数据存储系统还包括存储控制设备,每个主存储设备的多个存储空间中任意两个存储空间用于存储不同类型的数据;所述装置包括:
检测模块,用于检测所述任一主存储设备的每个存储空间的剩余存储空间;
请求模块,用于若任一存储空间的剩余存储空间小于相应的预设值,则向所述存储控制设备请求扩容,以使所述存储控制设备为所述任一主存储设备分配其他主存储设备中用于存储对应类型数据的存储空间,其中,所述其他主存储设备为所述多个主存储设备中除所述任一主存储设备之外的主存储设备。
在一种可能的实施例中,所述多个主存储设备中每个主存储设备包括第一存储空间和第二存储空间;所述检测模块具体用于:
若所述任一主存储设备的第一存储空间的剩余存储空间小于第一预设值,则向所述存储控制设备请求扩容,以使所述存储控制设备为所述任一主存储设备分配所述其他主存储设备中的第一存储空间;
若所述任一主存储设备的第二存储空间的剩余存储空间小于第二预设值,则向所述存储控制设备请求扩容,以使所述存储控制设备为所述任一主存储设备分配所述其他主存储设备中的第二存储空间。
在一种可能的实施例中,所述每个主存储设备中任一存储空间的数据的类型在预设条件下转换为其它存储空间的数据对应的类型,其它存储空间为所述每个主存储设备的多个存储空间中除所述任一存储空间之外的存储空间;所述装置还包括迁移模块,所述迁移模块用于:
在检测所述任一主存储设备的每个存储空间中的剩余存储空间之前,若所述任一主存储设备中的任一存储空间中存储的数据的类型发生转换,则将发生类型转换的数据迁移至所述任一主存储设备中与转换后的类型对应的存储空间中。
在一种可能的实施例中,每个主存储设备中的第一存储空间用于存储热数据,每个主存储设备中的第二存储空间用于存储温数据;所述迁移模块具体用于:
若所述任一主存储设备的第一存储空间中的热数据存在转换为温数据的数据,则将所述转换为温数据的数据迁移至所述任一主存储设备的第二存储空间中;和/或,
若所述任一主存储设备的第二存储空间中的温数据存在转换为热数据的数据,则将所述转换为热数据的数据迁移至所述任一主存储设备的第一存储空间中。
在一种可能的实施例中,所述数据存储系统还包括多个备用存储设备;所述请求模块还用于:
在检测所述任一主存储设备的每个存储空间中的剩余存储空间之前,若所述任一主存储设备的第二存储空间中的温数据存在转换为冷数据的数据,则向所述存储控制设备请求冷数据迁移,以使所述存储控制设备执行如下过程:
存储所述转换为冷数据的数据,或者,通知所述多个备用存储设备中的第一备用存储设备存储所述转换为冷数据的数据;
通知所述多个备用存储设备中的第二备用存储设备备份所述转换为冷数据的数据。
在一种可能的实施例中,所述存储控制设备记录有用于存储所述冷数据的第一标识和备份所述冷数据的第二标识,所述装置还包括获取模块,所述获取模块用于:
在将所述转换为冷数据的数据备份至多个备用存储设备中的第二备用存储设备中之后,若所述任一主存储设备需要访问目标冷数据,则从所述存储控制设备获取所述第一标识,其中,所述目标冷数据为所述冷数据中的部分或全部数据;
根据所述第一标识,从所述第一标识对应的设备获取所述目标冷数据,并将所述目标冷数据迁移至所述任一主存储设备的第一存储空间中;
若从所述第一标识对应的设备获取所述目标冷数据失败,则从所述存储控制设备获取所述第二标识,并从所述第二标识对应的设备获取所述目标冷数据,并将所述目标冷数据迁移至所述任一主存储设备的第一存储空间中。
在一种可能的实施例中,所述请求模块还用于:
在从所述第二标识对应的设备获取所述目标冷数据,并将所述目标冷数据迁移至所述任一主存储设备的第一存储空间中之后,向所述存储控制设备请求备份,以使所述存储控制设备通知所述多个备用存储设备中的第三备用存储设备存储所述冷数据中除了所述目标冷数据之外的冷数据。
第四方面,提供一种数据存储设备,包括:
至少一个处理器,以及
与所述至少一个处理器通信连接的存储器;
其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述至少一个处理器通过执行所述存储器存储的指令实现如第一方面中任一项所述的方法。
第五方面,提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,当所述计算机指令在计算机上运行时,使得计算机执行如第一方面中任一项所述的方法。
附图说明
图1A为本申请实施例提供的一种数据存储方法的应用场景图;
图1B为本申请实施例提供的数据存储系统的结构示意图;
图2为本申请实施例提供的图1A所示的各个设备间的交互示意图;
图3为本申请实施例提供的一种数据存储装置的结构示意图;
图4为本申请实施例提供的一种数据存储设备的结构示意图。
具体实施方式
为了更好的理解本申请实施例提供的技术方案,下面将结合说明书附图以及具体的实施方式进行详细的说明。
为了提高分配数据存储空间的灵活性,本申请实施例提供一种数据存储方法,该方法应用于数据存储系统中,数据存储系统包括存储设备,存储设备可以包括主存储设备和存储控制设备,存储设备还可以包括备用存储设备,主存储设备、存储控制设备均可以通过个人计算机、服务器实现。存储控制设备可以分别与各主存储设备之间可以互相通信,存储控制设备也可以与各备份存储设备之间相互通信,各主存储设备也可以与各备份存储设备之间相互通信。
主存储设备可以用于存储数据。存储控制设备用于监听、管理主存储设备和备用存储设备。备用存储设备可以作为主存储设备的备用设备,用于备份数据。
其中,每个存储设备的资源配置可以是相同的,也可以是不同的。资源配置例如软件资源配置或硬件资源配置,软件资源配置例如操作系统或存储空间等,硬件资源配置例如存储介质等。
例如,主存储设备和备份存储设备各自对应的资源配置可以不同,还用于存储不同类型的数据,举例说明,主存储设备和备份存储设备硬件资源配置不同时,主存储设备和备份存储设备各自的存储的数据可能不同,主存储设备例如存储A类型的数据,备份存储设备例如存储B类型的数据。
请参照图1A,为本申请实施例涉及的数据存储方法的应用场景图,或可以理解为数据存储系统的部署示意图。该应用场景包括主存储设备、存储控制设备和备用存储设备。主存储设备、存储控制设备和备用存储设备备可以均配置有以太网卡,以太网卡的接口类型有多种,例如串行小型计算机系统接口(Serial Attached Small Computer SystemInterface,SAS)。如果主存储设备、存储控制设备和备用存储设备中的以太网卡的接口类型为SAS,主存储设备可以以SAS与存储控制设备和备用存储设备分别进行通信。每个存储设备都可以通过SAS访问数据存储系统内的其他设备所存储的数据。另外,任意两个存储设备之间通过传输控制协议/网际协议(Transmission Control Protocol/InternetProtocol,TCP/IP)实现通讯消息机制。
在一种可能的实施例中,数据存储系统中存储的数据可以分为不同的类型,每个主存储设备可以划分对应数量的存储空间,以存储对应类型的数据。其中,每个主存储设备包括多个存储空间,多个是指两个或两个以上,任意两个存储空间的大小可以相同或者不同,任意两个存储空间用于存储不同类型的数据。
具体来说,数据存储系统中存储的数据可以按访问数据的访问频率划分为不同类型,访问频率是指数据存储在数据存储系统之后,查找该数据的频率。访问频率具体可以是以预设时间段内的访问次数表示,例如将访问频率在第一预设范围内的数据划分为热数据,将访问频率在第二预设范围内的数据划分为温数据,将访问频率在第三预设范围内的数据划分为冷数据。其中,第二预设范围的最大值小于第一预设范围的最小值,第三预设范围的最大值小于第二预设范围的最小值,例如,访问频率在[50,100)范围内的数据为热数据,访问频率在[20,50)范围内的数据为温数据,访问频率在[0,20)范围内的数据为冷数据。
数据也可以按数据关联的事件的重要程度划分为不同类型,事件的重要程度可以分为多个重要程度,例如包括第一重要程度和第二重要程度,第一重要程度对应的事件优先级大于第二重要程度对应事件的优先级,第一重要程度对应的事件例如为紧急事件,第二重要程度对应的事件例如对应普通事件,紧急事件例如为监控到的火灾事件、停电事件等,普通事件例如为监控到正常作息事件等。
数据还可以按存储时间划分为不同类型,存储时间指数据存入数据存储系统的时间,例如将数据按照存储时间00:00~08:00、8:00~16:00和16:00~24:00分别划分为第一类型的数据、第二类型的数据和第三类型的数据。
同理,作为一种实施例,存储控制设备以及备份存储设备也可以包括多个存储空间,以分别存储对应类型的数据。存储控制设备存储的数据的类型与主存储设备中存储的数据的类型可以是不同的,也可以是相同的。备份存储设备存储的数据的类型与主存储设备中存储的数据的类型可以是不同的,也可以是相同的。当然,存储控制设备以及备份存储设备也可以分别用于存储单一类型的数据,本申请不对此进行具体限制。
下面以主存储设备存储热数据和温数据为例,对主存储设备存储数据过程进行示意介绍:
以主存储设备包括第一存储空间和第二存储空间为例,例如用于存储热数据的第一存储空间可以称为热数据盘组,用于存储温数据的第二存储空间可以称为温数据盘组。
例如主存储设备可以存储热数据和温数据,备用存储设备或存储控制设备可以存储冷数据,其中用于存储冷数据的存储空间可以称为冷数据盘组。
作为一种实施例,为了节约整个数据存储系统的成本,任意两个存储设备中用于存储不同类型的数据的存储介质可以不同。
例如,主存储设备以第一存储介质存储热数据和温数据,存储控制设备或备用存储设备以第二存储介质存储冷数据。第一存储介质的数据读写效率大于第二存储介质的数据读写效率,例如,第一存储介质和第二存储介质可以按照存储数据的原理不同进行划分,例如分别为固态硬盘(Solid State Drive,SSD)和机械硬盘(Hard Disk Drive,HDD),或者例如第一存储介质和第二存储介质可以按照存储数据的可靠性不同进行划分,例如分别为企业级硬盘和监控级硬盘。
应当说明的是,图1A中是以主存储设备包括第一主存储设备110和第二主存储设备120为例,备用存储设备包括第一备用存储设备140、第二备用存储设备150和第三备用存储设备160为例,存储控制设备包括一个存储控制设备130为例,实际不限制主存储设备、存储控制设备和备用存储设备的数量。
下面继续以数据存储系统存储热数据、温数据和冷数据为例,对数据存储系统的结构进一步说明。
请参照图1B,为本申请实施例提供的数据存储系统的结构示意图。图1B所示的数据存储系统中存储控制设备与主存储设备和备用存储设备之间分别通过SAS连接,由于一个设备具有的SAS数量有限,因此在本申请实施例中,可以在各存储设备之间设置端口拓展器,端口扩展器用于扩展主存储设备、存储控制设备和备用存储设备的SAS数量。
主存储设备具体包括用于存储热数据的热数据盘组和用于存储温数据的温数据盘组,存储控制设备包括冷数据盘组1和冷数据备份盘组1,备用存储设备包括冷数据盘组2和冷数据备份盘组2。其中,冷数据盘组用于存储冷数据,冷数据备份盘组用于备份冷数据。
下面基于图1A~图1B中论述的应用场景,对本申请实施例涉及的数据存储方法进行介绍。其中,每个主存储设备执行数据存储方法的过程相同,下面以图1A中第一主存储设备110执行数据存储方法为例进行介绍。
请参照图2,为图1A所示的各个设备间的交互示意图,该交互过程包括:
S201,第一主存储设备存入数据。
具体的,当数据存储系统有新的数据需要存储时,例如数据存储系统从其他设备获取新的数据,则确定存在有新的数据需要存储,或者例如数据存储系统周期性或不定时访问固定的其他设备,以存入其他设备的数据。第一主存储设备根据该数据的类型将该数据存储到第一主存储设备中对应类型数据的存储空间中。例如第一主存储设备包括用于存储热数据的第一存储空间和用于存储温数据第二存储空间,第一主存储设备获得热数据后,可以存入第一存储空间,第一主存储设备获得温数据后,可以存入第二存储空间。
其中涉及到第一主存储设备在存入数据时,具体如何确定数据的类型,下面进行示例说明:
示例一:第一主存储设备可以根据数据的采集时间,确定数据的类型。
第一主存储设备可以预存有每个采集时间段与数据的类型之间的对应关系,在第一主存储设备获得某个采集时间的数据之后,可以根据数据的采集时间,从而确定该数据的类型。
举例来说,第一主存储设备可以根据采集时间将安防业务中早上8:00到晚上8:00的录像数据确定为热数据,将晚上8:00到早上8:00的录像数据确定为温数据。
示例二:第一主存储设备可以根据数据对应信息量,以确定数据的类型。
第一主存储设备确定信息量大于或等于预设条件,则确定该数据为热数据,如果第一主存储设备确定信息量小于预设条件,则确定该数据为温数据。
信息量可以以数据的信息熵进行表示。或者,当数据为视频数据时,信息量可以以数据中包含的目标的数量进行表示,第一主存储设备在获得新的数据之后,可以分析数据中包括的目标的数量,所谓目标的数量可以是一个视频帧中识别到目标的数量,目标例如行人、车辆等。如果目标的数量大于或等于预设阈值,则确定新的数据为热数据,如果目标的数量小于预设阈值,则确定为温数据。
应当说明的是,第一主存储设备获得的新的数据里面也可能同时有热数据和温数据,热数据存储到第一存储空间,温数据存储到第二存储空间。
S202,第一主存储设备将发生类型转换的数据迁移至第一主存储设备中与转换后的类型对应的存储空间中。
在本申请实施例中,任一存储空间的数据的类型在预设条件下可以转换为其它存储空间的数据对应的类型。预设条件可以是数据的访问频率在预设时间段内满足变化范围,具体来说,热数据的访问频率下降至第二变化范围,则热数据转换为温数据,温数据的访问频率上升至第一变化范围,则温数据转换为热数据。其中,第二变化范围的最大值小于第一变化范围的最小值,其它存储空间为每个主存储设备的多个存储空间中除任一存储空间之外的存储空间。
为了保证数据分类存储的准确性,本申请实施例中第一主存储设备可以实时地检测每个存储空间的数据的类型是否发生转换,例如检测每个存储空间的数据的访问频率,以便及时将转换后的数据迁移到对应类型数据的存储空间中。或者,考虑到实时检测对主存储设备的要求较高,负担较大,因此第一主存储设备可以周期性地检测每个存储空间的数据的类型是否发生转换,从而可以减少第一主存储设备的处理量,其中,检测每个存储空间的数据的类型是否发生转换的周期称为第一检测周期。
应当说明的是,针对检测同一个主存储设备的任意两个存储空间各自的第一检测周期可以相同或者不同,例如检测第一主存储设备的第一存储空间的第一检测周期和检测第一主存储设备的第二存储空间的第一检测周期可以相同或者不同。针对检测任意两个主存储设备的相同数据类型的存储空间各自的第一检测周期可以相同或者不同,例如检测第一主存储设备的第一存储空间的第一检测周期和检测第二主存储设备的第一存储空间的第一检测周期可以相同或者不同。
进一步,第一主存储设备在检测每个存储空间的数据的类型是否发生转换之后,若确定任一存储空间中存储的数据的类型发生转换,则将发生类型转换的数据迁移至第一主存储设备中与转换后的类型对应的存储空间中。
每个主存储设备包括多个存储空间,下面以每个主存储设备包括用于存储热数据的第一存储空间和用于存储温数据的第二存储空间为例,对第一主存储设备中的数据迁移涉及的三种情况进行介绍:
第一种情况,若第一主存储设备的第一存储空间中的热数据存在转换为温数据的数据,则将转换为温数据的数据迁移至第一主存储设备的第二存储空间中。
具体的,在第一时间段内,若第一主存储设备的第二存储空间中的热数据中存在部分数据的访问频率降低至第二预设范围内,说明该部分数据已经转换为温数据,若第一主存储设备的第二存储空间中的热数据中全部数据的访问频率降低至第二预设范围内,说明热数据中全部数据已经转换为温数据,将转换为温数据的数据迁移至第一主存储设备用于存储温数据的第二存储空间中。第一时间段可以是前面论述的第一检测周期的部分时长或者全部时长。
第二种情况,若第一主存储设备的第二存储空间中的温数据存在转换为热数据的数据,则将转换为热数据的数据迁移至第一主存储设备的第一存储空间中。
具体的,在第二时间段内,若第一主存储设备的第二存储空间中的温数据中存在部分数据的访问频率提升至第一预设范围内,说明此访问频率提升至第一预设范围内的部分数据已经转换为热数据,若第一主存储设备的第二存储空间中的温数据中全部数据的访问频率提升至第一预设范围内,说明温数据中全部数据已经转换为热数据,将转换为热数据的数据迁移至第一主存储设备用于存储热数据的第一存储空间中。第二时间段可以是前面所述的第一检测周期中的部分时长或者全部时长。第一时间段和第二时间段可以相同或者不同。
第三种情况,在第三时间段内,若第一主存储设备的第一存储空间中的热数据存在转换为温数据的数据,且,第二存储空间中的温数据存在转换为热数据的数据,则将转换为温数据的数据迁移至第一主存储设备的第二存储空间中,并将转换为热数据的数据迁移至第一主存储设备的第一存储空间中。第三时间段可以是前面所述的第一检测周期中的部分时长或者全部时长。第一时间段、第二时间段和第三时间段可以相同或者不同。
S203,第一主存储设备向存储控制设备发送冷数据迁移请求。
具体的,第一主存储设备的第二存储空间中的温数据的访问频率可能会提升也可能会下降。如果第一主存储设备的第二存储空间中的温数据中存在部分数据的访问频率下降至第三变化范围内,第三变化范围的最大值小于第二变化范围的最小值,说明该部分数据已经转换为冷数据,若第一主存储设备的第二存储空间中的温数据中全部数据的访问频率下降至第三变化范围内,说明温数据中的全部数据已经转换为冷数据,则向存储控制设备发送冷数据迁移请求,冷数据迁移请求用于指示将第一主存储设备存储的冷数据存储到其他存储设备中,冷数据迁移请求包括需要迁移的冷数据的第一地址,该第一地址具体可以是冷数据在第一主存储设备的第二存储空间中的存储地址。
S204,存储控制设备存储转换为冷数据的数据。
具体的,存储控制设备在收到第一主存储设备发送的冷数据迁移请求之后,若确定自身设备空闲且存储空间充足,设备空闲指没有用户在使用该设备,存储空间充足指转换为冷数据的数据量小于该设备的剩余存储空间,可以存储第一主存储设备的第二存储空间中转换为冷数据的数据。
例如,存储控制设备可以根据冷数据迁移请求中冷数据的第一地址,直接访问第一主存储设备的第二存储空间,读取转换为冷数据的数据,存储到存储控制设备中。
S205,存储控制设备向第一备用存储设备发送冷数据迁移通知。
具体的,存储控制设备在收到第一主存储设备的冷数据迁移请求之后,如果确定自身设备繁忙或者存储空间不足,设备繁忙指用户正在使用该设备,存储空间不足指转换为冷数据的数据量大于或等于该设备的剩余存储空间,则可以获取多个备用存储设备中每个备用存储设备的空闲情况和存储情况,进而确定用于存储冷数据的备用存储设备。例如,存储控制设备确定第一备用存储设备空闲且存储空间充足,可以向第一备用存储设备发送冷数据迁移通知,冷数据迁移通知用于指示第一备用存储设备存储转换为冷数据的数据。冷数据迁移通知包括需要迁移的冷数据的第一地址,该第一地址的含义可以参照前文论述的内容,此处不再赘述。
为了便于后续能够快速找到冷数据,作为一种实施例,存储控制设备可以记录用于存储该冷数据的设备的标识,设备的标识用于唯一标识设备,例如可以用设备的地址来表示。如果存储控制设备存储的冷数据,那么存储控制设备记录存储控制设备的标识,如果第一备用存储设备存储的冷数据,存储控制设备可以记录第一备用存储设备的标识。
作为一种实施例,由于数据存储系统中可能存在多个待迁移的冷数据,为了便于各个存储设备能够快速找到对应的冷数据,存储控制设备还可以在记录设备的标识时,记录该设备存储的冷数据的标识,即存储控制设备中相当于存储了存储冷数据的设备的标识与存储该冷数据的设备所存储的冷数据的第一数据标识,冷数据的第一数据标识用于标识该冷数据,以区分该冷数据与其他冷数据,例如可以用该冷数据的采集时间表示。需要说明的是,由于一个存储设备可能存储多个冷数据,因此一个设备的标识可以对应一个或多个冷数据的第一数据标识。
S206,第一备用存储设备存储转换为冷数据的数据。
具体的,第一备用存储设备在收到存储控制设备的迁移通知后,将转换为冷数据的数据从第一主存储设备的第二存储空间中迁移出来,存储到第一备用存储设备中。第一备用存储设备获得转换为冷数据的数据的过程请参照前文论述的S204中存储控制设备获得转换为冷数据的数据的过程,此处不再赘述。
应当说明的是,S204和S205~S206为存储数据过程中可能出现的两种情况,在存储一个冷数据时,只执行其中的一种情况。
S207,存储控制设备向第二备用存储设备发送备份通知。
具体的,在第一主存储设备的第二存储空间中转换为冷数据的数据被迁移之后,为了防止冷数据的丢失,存储控制设备确定第二备用存储设备空闲且存储空间充足时,向第二备用存储设备发送备份通知。备份通知用于指示第二备用存储设备进行备份。备份通知包括需要备份的冷数据的第二地址,该第二地址具体可以是存储控制设备或者第一备用存储设备中需要备份的冷数据所在的存储空间中的存储地址。设备空闲和存储空间充足的含义可以参照前文论述的内容,此处不再赘述。
作为一种实施例,为了后续访问冷数据失败情况下能够快速获取备份的冷数据,存储控制设备在通知第二备用存储设备对冷数据进行备份时,可以记录用于备份该冷数据的设备的标识,设备的标识的含义可以参照前文论述的内容,此处不再赘述。
作为一种实施例,由于数据存储系统中可能存在多个待备份的冷数据,为了便于各个存储设备能够快速找到对应的备份的冷数据,存储控制设备还可以在记录备份该冷数据的设备的标识时,记录该设备备份的冷数据的第二数据标识,即存储控制设备中相当于存储了备份冷数据的设备的标识与备份该冷数据的设备所备份的冷数据的第二数据标识,第二数据标识的含义请参照前文论述的第一数据标识的含义,此处不再赘述,例如可以用任意字符串或任意符号表示,字符串例如为冷数据的采集时间等。第二数据标识和第一数据标识可以相同的,也可以是不同的,例如第一数据标识为“1”,第二数据标识为“1-1”。需要说明的是,由于一个存储设备可能备份多个冷数据,因此一个设备的标识可以对应一个或多个冷数据的第二数据标识。
为了便于区分,在本申请实施例中,可以将用于存储冷数据的第一备用存储设备或存储控制设备的设备的标识简称为第一标识,将用于备份冷数据的第二备用存储设备的设备的标识称为第二标识。
需要说明的是,S207可以在S204之后执行,或者在S205~S206之后执行。
S208,第二备用存储设备备份转换为冷数据的数据。
具体的,第二备用存储设备在收到存储控制设备的备份通知后,将转换为冷数据的数据进行备份,存储到第二备用存储设备中,例如第二备用存储设备根据备份通知中转换为冷数据的数据的第二地址,直接访问存储控制设备或者第一备用存储设备中转换为冷数据的数据所在的存储空间,读取转换为冷数据的数据,复制后存储到第二备用存储设备中。
本申请实施例中S204~S208所示的实施例中,通过不同的设备来存储冷数据,由于不同设备之间是相对独立的,因此即使存储冷数据的存储控制设备出现故障或者存储冷数据的第一备用存储设备出现故障,也不影响第二备用存储设备中备份的冷数据,以降低数据丢失的风险。
应当说明的是,S202~S208为可选的步骤。例如若第一主存储设备确定任一存储空间中存储的数据的类型没有发生转换,则可以不执行S202~S208。
S209,第一主存储设备检测每个存储空间的剩余存储空间。
具体的,由于数据的迁移,每个存储空间中存储的数据量都可能变化,因此,在第一主存储设备检测任一存储空间中存储的数据的类型是否发生转换之后,第一主存储设备可以实时检测每个存储空间的剩余存储空间,剩余存储空间为该存储空间能存储的最大数据量与该存储空间已存储的数据量的差值,以便及时发现剩余存储空间不足的情况。或者,第一主存储设备也可以周期性地检测每个存储空间的的剩余存储空间,以减少第一主存储设备的处理量。其中,检测每个存储空间的剩余存储空间的周期称为第二检测周期,第一检测周期和第二检测周期可以相同或者不同。
S210,第一主存储设备向存储控制设备发送扩容请求。
若第一主存储设备的任一存储空间的剩余存储空间小于相应的预设值,说明该存储空间的剩余存储空间不足,则向存储控制设备发送扩容请求。扩容请求用于指示存储控制设备为第一主存储设备分配存储空间,扩容请求包括第一主存储设备中需要扩容的存储空间对应的存储介质的端口地址,以及需要扩容的存储空间所存储的数据类型。下面以第一主存储设备包括第一存储空间和第二存储空间为例,对应地第一主存储设备向存储控制设备请求扩容的条件具体包括三种:
第一种,若第一主存储设备的第一存储空间的剩余存储空间小于第一预设值,则向存储控制设备请求扩容。
具体的,第一预设值为针对第一存储空间预先设置的警戒值,第一预设值可以设置为固定值,例如,第一预设值设置为0.1G,若第一主存储设备的第一存储空间的剩余存储空间小于0.1G,则向存储控制设备请求扩容。第一预设值可以根据即将存储的数据量动态变化,例如,即将存储的数据量为1G,第一预设值根据即将存储的数据量也设置为1G,若第一主存储设备的第一存储空间的剩余存储空间小于即将存储的数据量,则向存储控制设备请求扩容。
第二种,若第一主存储设备的第二存储空间的剩余存储空间小于第二预设值,则向存储控制设备请求扩容。
具体的,第二预设值和第一预设值可以相同或者不同,第二预设值的设置方法请参照第一预设值的设置方法,此处不再赘述。
第三种,若第一主存储设备的第一存储空间的剩余存储空间小于第一预设值,且,第一主存储设备的第二存储空间的剩余存储空间小于第二预设值,则向存储控制设备请求扩容。
具体的,第一预设值和第二预设值的设置方法请参照前文论述的内容,此处不再赘述。
S211,存储控制设备为第一主存储设备分配第二主存储设备中用于存储对应类型数据的存储空间。
存储控制设备可以获知每个主存储设备的存储情况,若存储控制设备确定第二主存储设备的存储空间充足,存储空间充足的含义可以参照前文S204步骤中论述的内容,此处不再赘述,则为第一主存储设备分配第二主存储设备中用于存储对应类型数据的存储空间,以实现动态扩容的功能。
由于第一主存储设备向存储控制设备请求扩容的条件包括三种,相应的,存储控制设备为第一主存储设备分配第二主存储设备的存储空间对应三种,具体介绍如下:
针对S210步骤中的第一种,如果第一主存储设备在第一存储空间的剩余存储空间小于第一预设值时,向存储控制设备发送扩容请求,那么存储控制设备为第一主存储设备分配第二主存储设备中的第一存储空间。此时,第二主存储设备中的第一存储空间可以称为热数据扩容盘组。
例如,存储控制设备根据扩容请求中第一存储空间对应的存储介质的端口地址和第一存储空间存储的数据的类型,将第二主存储设备中第一存储空间对应的存储介质的端口分配给第一主存储设备,使第一主存储设备中第一存储空间对应的存储介质的端口通过端口扩展器可以连接第二主存储设备中第一存储空间对应的存储介质的端口。
针对S210步骤中的第二种,如果第一主存储设备在第二存储空间的剩余存储空间小于第二预设值时,向存储控制设备请求扩容,那么存储控制设备为第一主存储设备分配第二主存储设备中的第二存储空间。此时,第二主存储设备中的第二存储空间可以称为温数据扩容盘组。
例如,存储控制设备根据扩容请求中第二存储空间对应的存储介质的端口地址和第二存储空间存储的数据的类型,将第二主存储设备中第二存储空间对应的存储介质的端口分配给第一主存储设备,使第一主存储设备中第二存储空间对应的存储介质的端口通过端口扩展器可以连接第二主存储设备中第二存储空间对应的存储介质的端口。
针对S210步骤中的第三种,如果第一主存储设备在第一存储空间的剩余存储空间小于第一预设值,且第二存储空间的剩余存储空间小于第二预设值时,向存储控制设备请求扩容,那么存储控制设备为第一主存储设备分配第二主存储设备中的第一存储空间和第二存储空间。
例如,存储控制设备根据扩容请求中第一存储空间和第二存储空间对应的存储介质的端口地址、以及第一存储空间和第二存储空间存储的数据的类型,将第二主存储设备中第一存储空间对应的存储介质的端口和第二存储空间对应的存储介质的端口分配给第一主存储设备,使第一主存储设备中第一存储空间对应的存储介质的端口通过端口扩展器可以连接第二主存储设备中第一存储空间对应的存储介质的端口,第一主存储设备中第二存储空间对应的存储介质的端口通过端口扩展器可以连接第二主存储设备中第二存储空间对应的存储介质的端口。
应当说明的是,S210~S211为可选的步骤。例如若第一主存储设备确定任一存储空间的剩余存储空间均大于或等于相应的预设值,则不需要执行S210~S211的过程。
本申请实施例中S209~S211所示的实施例中,当任一主存储设备的第一存储空间的剩余存储空间不足时,为该主存储设备分配其他主存储设备中的第一存储空间,当任一主存储设备的第二存储空间的剩余存储空间不足时,为该主存储设备分配其他主存储设备中的第二存储空间,以满足用于存储不同数据的各类存储空间的扩容需求,进而满足不同类型的数据的存储需求。
S212,第一主存储设备访问第一标识对应的设备。
具体的,存储控制设备记录有用于存储冷数据的第一标识和备份冷数据的第二标识,第一标识为存储冷数据的设备的标识,例如存储控制设备的标识或第一备用存储设备的标识,第二标识为备份冷数据的设备的标识,例如第二备用存储设备的标识。
若第一主存储设备需要访问目标冷数据,目标冷数据为冷数据中的部分数据或全部数据,则从存储控制设备获取用于存储目标冷数据的第一标识。根据第一标识,从第一标识对应的设备获取目标冷数据,并将目标冷数据迁移至第一主存储设备的第一存储空间中。
在一种可能的实施例中,为了保证冷数据的安全,存储控制设备还记录了访问第一标识对应设备的第一密码,第一密码用于验证访问第一标识对应设备的身份是否合法。第一主存储设备获取第一标识的同时,还获取了第一密码。第一主存储设备向第一标识对应的设备中输入正确的第一密码,才能访问该第一标识对应的设备,进而从第一标识对应的设备获取目标冷数据。
S213,第一主存储设备访问第二标识对应的设备。
具体的,由于第一标识对应的设备所存储的目标冷数据可能丢失,导致第一主存储设备从第一标识对应的设备获取目标冷数据失败。为了能够成功获取到目标冷数据,第一主存储设备可以从存储控制设备获取第二标识,并从第二标识对应的设备获取目标冷数据,并将目标冷数据迁移至第一主存储设备的第一存储空间中。
在一种可能的实施例中,为了保证冷数据的备份安全,存储控制设备还记录了访问第二标识对应设备的第二密码,第二密码用于验证访问第二标识对应设备的身份是否合法。第一主存储设备获取第二标识的同时,还获取了第二密码。第一主存储设备向第二标识对应的设备中输入正确的第二密码,才能访问该第二标识对应的设备,才能从第二标识对应的设备获取目标冷数据。
S214,第一主存储设备向存储控制设备发送备份请求。
具体的,当第一主存储设备访问第二标识对应的设备时,说明第一标识对应的设备所存储的冷数据已经丢失,因此第一主存储设备从第二标识对应的设备获取目标冷数据,将目标冷数据迁移至第一主存储设备的第一存储空间中之后,可以向存储控制设备发送备份请求,备份请求用于指示存储控制设备对冷数据进行备份。备份请求包括需要备份的冷数据的第三地址,该第三地址具体可以是第二标识对应的设备中需要备份的冷数据所在的存储空间中的存储地址。
S215,存储控制设备向通知多个备用存储设备中的第三备用存储设备发送备份通知。
具体的,存储控制设备在收到第一主存储设备的备份请求之后,从多个备用存储设备中确定出空闲且存储空间充足的第三备用存储设备,设备空闲和存储空间充足的含义可以参照论述的内容,此处不再赘述,向通知第三备用存储设备发送备份通知,备份通知用于指示第三备用存储设备对冷数据进行备份。备份通知包括需要备份的冷数据的第三地址,该第三地址的含义请参照前文论述的内容,此处不再赘述。
本申请实施例中S212~S215所示的实施例中,先根据第一标识获取目标冷数据,在获取失败的情况下,再根据第二标识获取目标冷数据,以确定目标冷数据丢失,以便后续根据第二标识对应的设备中的冷数据,重新备份剩余的冷数据。
S216,第三备用存储设备存储冷数据中除了目标冷数据之外的冷数据。
具体的,第三备用存储设备在收到存储控制设备的备份通知后,对第二备用存储设备中除了目标冷数据之外的冷数据进行备份,存储在第三备用存储设备中。第三备用存储设备备份冷数据中除了目标冷数据之外的冷数据的过程可以参考前文论述的第二备用存储设备备份冷数据的过程,此处不再赘述。
应当说明的是,S212~S215为可选的步骤。例如若第一主存储设备从第一标识对应的设备获取目标冷数据成功,则不需要执行S212~S215的步骤。
需要说明的是,图2中实施例中的第一主存储设备可以以图1A中的第一主存储设备110为例、第二主存储设备以图1A中的第二主存储设备120为例、存储控制设备以图1A中的存储控制设备130为例、第一备用存储设备以图1A中的第一备用存储设备140为例、第二备用存储设备以图1A中的第二备用存储设备150为例、以及第三备用存储设备以图1A中的第三备用存储设备160为例。
基于同一发明构思,本申请实施例提供一种数据存储系统,该数据存储系统的结构可以参照图1A和图1B,该数据存储系统包括:主存储设备、存储控制设备和备用存储设备。每个设备的功能请参照前文论述的数据存储方法中的设备功能,此处不再赘述。
基于同一发明构思,本申请实施例提供一种数据存储装置,该装置相当于设置在前文论述的第一主存储设备中,多个主存储设备设置在数据存储系统中,数据存储系统还包括存储控制设备,每个主存储设备的多个存储空间中任意两个存储空间用于存储不同类型的数据,请参照图3,该装置包括:
检测模块301,用于检测任一主存储设备的每个存储空间的剩余存储空间;
请求模块302,用于若任一存储空间的剩余存储空间小于相应的预设值,则向存储控制设备请求扩容,以使存储控制设备为任一主存储设备分配其他主存储设备中用于存储对应类型数据的存储空间,其中,其他主存储设备为多个主存储设备中除任一主存储设备之外的主存储设备。
在一种可能的实施例中,多个主存储设备中每个主存储设备包括第一存储空间和第二存储空间;检测模块301具体用于:
若任一主存储设备的第一存储空间的剩余存储空间小于第一预设值,则向存储控制设备请求扩容,以使存储控制设备为任一主存储设备分配其他主存储设备中的第一存储空间;
若任一主存储设备的第二存储空间的剩余存储空间小于第二预设值,则向存储控制设备请求扩容,以使存储控制设备为任一主存储设备分配其他主存储设备中的第二存储空间。
在一种可能的实施例中,每个主存储设备中任一存储空间的数据的类型在预设条件下转换为其它存储空间的数据对应的类型,其它存储空间为每个主存储设备的多个存储空间中除任一存储空间之外的存储空间;装置还包括迁移模块,迁移模块303用于:
在检测任一主存储设备的每个存储空间中的剩余存储空间之前,若任一主存储设备中的任一存储空间中存储的数据的类型发生转换,则将发生类型转换的数据迁移至任一主存储设备中与转换后的类型对应的存储空间中。
在一种可能的实施例中,每个主存储设备中的第一存储空间用于存储热数据,每个主存储设备中的第二存储空间用于存储温数据;迁移模块303具体用于:
若任一主存储设备的第一存储空间中的热数据存在转换为温数据的数据,则将转换为温数据的数据迁移至任一主存储设备的第二存储空间中;和/或,
若任一主存储设备的第二存储空间中的温数据存在转换为热数据的数据,则将转换为热数据的数据迁移至任一主存储设备的第一存储空间中。
在一种可能的实施例中,数据存储系统还包括多个备用存储设备;请求模块302还用于:
在检测任一主存储设备的每个存储空间中的剩余存储空间之前,若任一主存储设备的第二存储空间中的温数据存在转换为冷数据的数据,则向存储控制设备请求冷数据迁移,以使存储控制设备执行如下过程:
存储转换为冷数据的数据,或者,通知多个备用存储设备中的第一备用存储设备存储转换为冷数据的数据;
通知多个备用存储设备中的第二备用存储设备备份转换为冷数据的数据。
在一种可能的实施例中,存储控制设备记录有用于存储冷数据的第一标识和备份冷数据的第二标识,装置还包括获取模块,获取模块304用于:
在将转换为冷数据的数据备份至多个备用存储设备中的第二备用存储设备中之后,若任一主存储设备需要访问目标冷数据,则从存储控制设备获取第一标识,其中,目标冷数据为冷数据中的部分或全部数据;
根据第一标识,从第一标识对应的设备获取目标冷数据,并将目标冷数据迁移至任一主存储设备的第一存储空间中;
若从第一标识对应的设备获取目标冷数据失败,则从存储控制设备获取第二标识,并从第二标识对应的设备获取目标冷数据,并将目标冷数据迁移至任一主存储设备的第一存储空间中。
在一种可能的实施例中,请求模块302还用于:
在从第二标识对应的设备获取目标冷数据,并将目标冷数据迁移至任一主存储设备的第一存储空间中之后,向存储控制设备请求备份,以使存储控制设备通知多个备用存储设备中的第三备用存储设备存储冷数据中除了目标冷数据之外的冷数据。
基于同一发明构思,本申请实施例提供一种数据存储设备,该设备相当于前文论述的第一主存储设备,包括:
至少一个处理器401,以及
与至少一个处理器401通信连接的存储器402;
其中,存储器402存储有可被至少一个处理器401执行的指令,至少一个处理器401通过执行存储器402存储的指令实现如图2所述的数据存储方法。
处理器401可以是一个中央处理单元(central processing unit,CPU),或者为数字处理单元、或为图像处理器等中的一种或多种组合。存储器402可以是易失性存储器(volatile memory),例如随机存取存储器(random-access memory,RAM);存储器402也可以是非易失性存储器(non-volatile memory),例如只读存储器,快闪存储器(flashmemory),硬盘(hard disk drive,HDD)或固态硬盘(solid-state drive,SSD)、或者存储器402是能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质,但不限于此。存储器402可以是上述存储器的组合。
作为一种实施例,图4中的处理器401可以实现前文论述的数据存储方法,处理器401还可以实现前文图3论述的装置的功能。
基于同一发明构思,本申请实施例提供一种计算机可读存储介质,计算机可读存储介质存储有计算机指令,当计算机指令在计算机上运行时,使得计算机执行前文论述的的数据存储方法。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
显然,本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。这样,倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内,则本申请也意图包含这些改动和变型在内。
Claims (14)
1.一种数据存储方法,其特征在于,应用于多个主存储设备中任一主存储设备,所述多个主存储设备设置在数据存储系统中,所述数据存储系统还包括存储控制设备与多个备用存储设备,每个主存储设备的多个存储空间中任意两个存储空间用于存储不同类型的数据;所述存储控制设备与每个主存储设备、每个备用存储设备均通过串行小型计算机系统接口SAS连接;所述方法包括:
检测所述任一主存储设备的每个存储空间的剩余存储空间;
若任一存储空间的剩余存储空间小于相应的预设值,则向所述存储控制设备请求扩容,以使所述存储控制设备为所述任一主存储设备分配其他主存储设备中用于存储对应类型数据的存储空间,其中,所述其他主存储设备为所述多个主存储设备中除所述任一主存储设备之外的主存储设备。
2.如权利要求1所述的方法,其特征在于,所述多个主存储设备中每个主存储设备包括第一存储空间和第二存储空间;
若任一存储空间的剩余存储空间小于相应的预设值,则向所述存储控制设备请求扩容,以使所述存储控制设备为所述任一主存储设备分配其他主存储设备中用于存储对应类型数据的存储空间,包括:
若所述任一主存储设备的第一存储空间的剩余存储空间小于第一预设值,则向所述存储控制设备请求扩容,以使所述存储控制设备为所述任一主存储设备分配所述其他主存储设备中的第一存储空间;
若所述任一主存储设备的第二存储空间的剩余存储空间小于第二预设值,则向所述存储控制设备请求扩容,以使所述存储控制设备为所述任一主存储设备分配所述其他主存储设备中的第二存储空间。
3.如权利要求1所述的方法,其特征在于,所述每个主存储设备中任一存储空间的数据的类型在预设条件下转换为其它存储空间的数据对应的类型,其它存储空间为所述每个主存储设备的多个存储空间中除所述任一存储空间之外的存储空间;
在检测所述任一主存储设备的每个存储空间中的剩余存储空间之前,所述方法还包括:
若所述任一主存储设备中的任一存储空间中存储的数据的类型发生转换,则将发生类型转换的数据迁移至所述任一主存储设备中与转换后的类型对应的存储空间中。
4.如权利要求3所述的方法,其特征在于,每个主存储设备中的第一存储空间用于存储热数据,每个主存储设备中的第二存储空间用于存储温数据;
所述若所述任一主存储设备中的任一存储空间中存储的数据的类型发生转换,则将发生类型转换的数据迁移至所述任一主存储设备中与转换后的类型对应的存储空间中,包括:
若所述任一主存储设备的第一存储空间中的热数据存在转换为温数据的数据,则将所述转换为温数据的数据迁移至所述任一主存储设备的第二存储空间中;和/或,
若所述任一主存储设备的第二存储空间中的温数据存在转换为热数据的数据,则将所述转换为热数据的数据迁移至所述任一主存储设备的第一存储空间中。
5.如权利要求4所述的方法,其特征在于,所述数据存储系统还包括多个备用存储设备;
在检测所述任一主存储设备的每个存储空间中的剩余存储空间之前,所述方法还包括:
若所述任一主存储设备的第二存储空间中的温数据存在转换为冷数据的数据,则向所述存储控制设备请求冷数据迁移,以使所述存储控制设备执行如下过程:
存储所述转换为冷数据的数据,或者,通知所述多个备用存储设备中的第一备用存储设备存储所述转换为冷数据的数据;
通知所述多个备用存储设备中的第二备用存储设备备份所述转换为冷数据的数据。
6.如权利要求5所述的方法,其特征在于,所述存储控制设备记录有用于存储所述冷数据的第一标识和备份所述冷数据的第二标识,在将所述转换为冷数据的数据备份至多个备用存储设备中的第二备用存储设备中之后,所述方法还包括:
若所述任一主存储设备需要访问目标冷数据,则从所述存储控制设备获取所述第一标识,其中,所述目标冷数据为所述冷数据中的部分或全部数据;
根据所述第一标识,从所述第一标识对应的设备获取所述目标冷数据,并将所述目标冷数据迁移至所述任一主存储设备的第一存储空间中;
若从所述第一标识对应的设备获取所述目标冷数据失败,则从所述存储控制设备获取所述第二标识,并从所述第二标识对应的设备获取所述目标冷数据,并将所述目标冷数据迁移至所述任一主存储设备的第一存储空间中。
7.如权利要求6所述的方法,其特征在于,在从所述第二标识对应的设备获取所述目标冷数据,并将所述目标冷数据迁移至所述任一主存储设备的第一存储空间中之后,所述方法还包括:
向所述存储控制设备请求备份,以使所述存储控制设备通知所述多个备用存储设备中的第三备用存储设备存储所述冷数据中除了所述目标冷数据之外的冷数据。
8.一种数据存储系统,其特征在于,包括多个主存储设备、多个备用存储设备和存储控制设备,所述存储控制设备与每个主存储设备、每个备用存储设备均通过串行小型计算机系统接口SAS连接,其中:
所述多个主存储设备中任一主存储设备,用于检测所述任一主存储设备的每个存储空间的剩余存储空间;以及,
若任一存储空间的剩余存储空间小于相应的预设值,则向所述存储控制设备请求扩容,其中,所述任一主存储设备的多个存储空间中任意两个存储空间用于存储不同类型的数据;
所述存储控制设备,用于为所述任一主存储设备分配其他主存储设备中用于存储对应类型数据的存储空间,其中,所述其他主存储设备为所述多个主存储设备中除所述任一主存储设备之外的主存储设备。
9.如权利要求8所述的系统,其特征在于,所述多个主存储设备中任一主存储设备还用于:
若所述任一主存储设备中的任一存储空间中存储的数据的类型发生转换,则将发生类型转换的数据迁移至所述任一主存储设备中与转换后的类型对应的存储空间中。
10.如权利要求8所述的系统,其特征在于,所述数据存储系统还包括多个备用存储设备,其中:
所述任一主存储设备,还用于若所述任一主存储设备的第二存储空间中的温数据存在转换为冷数据的数据,则向所述存储控制设备请求冷数据迁移;
所述存储控制设备,还用于存储所述转换为冷数据的数据,或者,通知所述多个备用存储设备中的第一备用存储设备存储所述转换为冷数据的数据;以及通知所述多个备用存储设备中的第二备用存储设备备份所述转换为冷数据的数据。
11.如权利要求10所述的系统,其特征在于,
所述任一主存储设备以第一存储介质用于存储热数据和温数据;
所述存储控制设备或所述多个备用存储设备中的各备用存储设备以第二存储介质存储冷数据,其中,所述第一存储介质的数据读写效率大于所述第二存储介质的数据读写效率。
12.一种数据存储装置,其特征在于,所述装置设置于多个主存储设备中任一主存储设备中,所述多个主存储设备设置在数据存储系统中,所述数据存储系统还包括存储控制设备与多个备用存储设备,每个主存储设备的多个存储空间中任意两个存储空间用于存储不同类型的数据;所述存储控制设备与每个主存储设备、每个备用存储设备均通过串行小型计算机系统接口SAS连接;所述装置包括:
检测模块,用于检测所述任一主存储设备的每个存储空间的剩余存储空间;
请求模块,用于若任一存储空间的剩余存储空间小于相应的预设值,则向所述存储控制设备请求扩容,以使所述存储控制设备为所述任一主存储设备分配其他主存储设备中用于存储对应类型数据的存储空间,其中,所述其他主存储设备为所述多个主存储设备中除所述任一主存储设备之外的主存储设备。
13.一种数据存储设备,其特征在于,包括:
至少一个处理器,以及
与所述至少一个处理器通信连接的存储器;
其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述至少一个处理器通过执行所述存储器存储的指令实现如权利要求1-7中任一项所述的方法。
14.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,当所述计算机指令在计算机上运行时,使得计算机执行如权利要求1-7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110218594.3A CN112817543B (zh) | 2021-02-24 | 2021-02-24 | 一种数据存储方法、系统、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110218594.3A CN112817543B (zh) | 2021-02-24 | 2021-02-24 | 一种数据存储方法、系统、装置、设备及介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112817543A CN112817543A (zh) | 2021-05-18 |
CN112817543B true CN112817543B (zh) | 2023-06-02 |
Family
ID=75863989
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110218594.3A Active CN112817543B (zh) | 2021-02-24 | 2021-02-24 | 一种数据存储方法、系统、装置、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112817543B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114185493B (zh) * | 2022-02-15 | 2022-05-06 | 烟台市地理信息中心 | 测绘数据的分割及存储方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105701028A (zh) * | 2014-11-28 | 2016-06-22 | 国际商业机器公司 | 分布式存储系统中的磁盘管理方法和设备 |
CN105978981A (zh) * | 2016-05-19 | 2016-09-28 | 北京春鸿企业管理咨询有限公司 | 基于公有云存储账户的数据备份的线性扩容方法及系统 |
CN108170789A (zh) * | 2017-12-27 | 2018-06-15 | 郑州云海信息技术有限公司 | 一种基于分布式文件系统的分级存储方法以及相关装置 |
CN111177025A (zh) * | 2019-12-30 | 2020-05-19 | 深圳云天励飞技术有限公司 | 数据存储方法、装置及终端设备 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9298389B2 (en) * | 2013-10-28 | 2016-03-29 | Lenovo Enterprise Solutions (Singapore) Pte. Ltd. | Operating a memory management controller |
US11243705B2 (en) * | 2019-08-01 | 2022-02-08 | EMC IP Holding Company LLC | Method and system for policy class based data migration |
-
2021
- 2021-02-24 CN CN202110218594.3A patent/CN112817543B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105701028A (zh) * | 2014-11-28 | 2016-06-22 | 国际商业机器公司 | 分布式存储系统中的磁盘管理方法和设备 |
CN105978981A (zh) * | 2016-05-19 | 2016-09-28 | 北京春鸿企业管理咨询有限公司 | 基于公有云存储账户的数据备份的线性扩容方法及系统 |
CN108170789A (zh) * | 2017-12-27 | 2018-06-15 | 郑州云海信息技术有限公司 | 一种基于分布式文件系统的分级存储方法以及相关装置 |
CN111177025A (zh) * | 2019-12-30 | 2020-05-19 | 深圳云天励飞技术有限公司 | 数据存储方法、装置及终端设备 |
Also Published As
Publication number | Publication date |
---|---|
CN112817543A (zh) | 2021-05-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11144415B2 (en) | Storage system and control software deployment method | |
US8473462B1 (en) | Change tracking for shared disks | |
CN108023967B (zh) | 一种数据平衡方法、装置及分布式存储系统中的管理设备 | |
JP5158074B2 (ja) | ストレージ管理プログラム、ストレージ管理方法、ストレージ管理装置およびストレージシステム | |
JP5381336B2 (ja) | 管理プログラム、管理装置および管理方法 | |
CN110022337A (zh) | 资源调度方法、装置、设备和系统 | |
CN107506266B (zh) | 一种数据恢复方法及系统 | |
US20160342357A1 (en) | Management of pinned storage in flash based on flash-to-disk capacity ratio | |
US10827205B2 (en) | Video data storage system, operation method thereof, and retrieval server | |
CN108475201B (zh) | 一种虚拟机启动过程中的数据获取方法和云计算系统 | |
US10282120B2 (en) | Method, apparatus and system for inserting disk | |
JP2009230596A (ja) | サーバ装置のユーザデータ保護方法、サーバ装置及びコンピュータプログラム | |
CN111464589A (zh) | 智能合约处理方法、计算机设备及存储介质 | |
CN112817543B (zh) | 一种数据存储方法、系统、装置、设备及介质 | |
CN114237989B (zh) | 数据库服务部署、容灾方法及装置 | |
CN113064553B (zh) | 数据存储方法、装置、设备及介质 | |
CN113296931A (zh) | 一种资源的控制方法、系统、计算设备及存储介质 | |
CN115756955A (zh) | 一种数据备份、数据恢复的方法、装置及计算机设备 | |
CN113312339B (zh) | 一种数据迁移的方法及装置、计算机设备和存储介质 | |
CN105183799B (zh) | 一种权限管理的方法及客户端 | |
CN106708865B (zh) | 流处理系统中访问窗口数据的方法和装置 | |
US10228885B2 (en) | Deallocating portions of data storage based on notifications of invalid data | |
CN109634524B (zh) | 一种数据处理守护进程的数据分区配置方法、装置及设备 | |
CN103685359B (zh) | 数据处理方法及装置 | |
CN111367467A (zh) | 一种存储资源挂载方法、装置、服务器及分布式系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |