CN109783018A - 一种数据存储的方法及装置 - Google Patents
一种数据存储的方法及装置 Download PDFInfo
- Publication number
- CN109783018A CN109783018A CN201811599606.6A CN201811599606A CN109783018A CN 109783018 A CN109783018 A CN 109783018A CN 201811599606 A CN201811599606 A CN 201811599606A CN 109783018 A CN109783018 A CN 109783018A
- Authority
- CN
- China
- Prior art keywords
- storage
- data
- cached copies
- layer
- stored
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Abstract
本发明适用于数据存储技术领域,提供了一种数据存储的方法及装置,包括:将数据存储至一级存储层;根据所述数据生成第一缓存副本,将所述第一缓存副本存储至二级存储层;将所述第一缓存副本打包生成第二缓存副本,将所述第二缓存副本存储至蓝光存储层;当所述数据在所述一级存储层的存储时长达到第一预设时长,则删除所述数据;当所述第一缓存副本在所述二级存储层的存储时长达到第二预设时长,则删除所述第一缓存副本。本发明通过底层的蓝光存储和多级存储,对数据进行分级存放和处理,具有存储寿命长和能耗小等优势,有效提高了存储资源的利用率。
Description
技术领域
本发明属于数据存储技术领域,尤其涉及一种数据存储的方法及装置、终端设备、计算机可读存储介质。
背景技术
随着信息时代的到来,全球范围迎来数据的爆发式增张,尤其是非结构化数据占主要地位。传统对非结构化数据的存储大多采用存储区域网络(SAN)和网络连接存储(NAS)。其中,SAN是共享存储设备(例如磁盘存储阵列和磁带自动化系统)网络。借助SAN体系结构,连接局域网(LAN)或广域网(WAN)的多台服务器均可获得存储资源,因为存储数据不是直接驻留在任何网络服务器上、处理能力针对企业应用程序进行了优化并且服务器上的存储容量被配置在最需要的位置。而NAS是专业存储服务器,其配备私有IP地址,可提供给连接局域网(LAN)或广域网(WAN)的多台客户机和服务器。预安装的网络通信协议将予以启用,以便异构环境中具有不同操作系统的客户机和操作系统可以读写NAS服务器上的数据。但是传统的SAN和NAS单一的存储方案,面对爆发式增长的复杂数据结构,不仅存储寿命存在着一定的局限性,同时也增加了存储能耗。
发明内容
有鉴于此,本发明实施例提供了一种数据存储的方法及终端设备、计算机可读存储介质,以解决现有技术中存储寿命和存储能耗的问题。
本发明实施例的第一方面提供了一种数据存储的方法,包括:将数据存储至一级存储层;
根据所述数据生成第一缓存副本,将所述第一缓存副本存储至二级存储层;
将所述第一缓存副本打包生成第二缓存副本,将所述第二缓存副本存储至蓝光存储层;
当所述数据在所述一级存储层的存储时长达到第一预设时长,则删除所述数据;当所述第一缓存副本在所述二级存储层的存储时长达到第二预设时长,则删除所述第一缓存副本。
本发明实施例的第二方面提供了一种数据存储的装置,包括:
存储单元,用于将数据存储至一级存储层;将所述第一缓存副本存储至二级存储层;将所述第二缓存副本存储至蓝光存储层;
创建单元,用于根据所述数据生成第一缓存副本;将所述第一缓存副本打包生成第二缓存副本;
删除单元,用于当所述数据在所述一级存储层的存储时长达到第一预设时长,则删除所述数据;当所述第一缓存副本在所述二级存储层的存储时长达到第二预设时长,则删除所述第一缓存副本。
本发明实施例的第三方面提供了一种数据存储的终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述第一方面和/或第二方面所述方法的步骤。
本发明实施例的第四方面提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面和/或第二方面所述方法的步骤。
本发明实施例与现有技术相比存在的有益效果是:本发明通过底层的蓝光存储和多级存储,对数据进行分级存放和处理,充分利用蓝光存储的特性对数据进行存储。与传统的单一存储方式相比,具有存储寿命长和能耗小等优势,有效提高了存储资源的利用率。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种数据存储的方法实现流程图;
图2是本发明实施例提供的一种数据存储的方法中步骤S102的具体实现流程示意图;
图3是本发明实施例提供的一种数据存储的方法中步骤S103另一种实现方式的实现流程示意图;
图4是本发明实施例提供的另一种数据存储的方法的实现流程示意图;
图5是本发明实施例提供的一种数据存储的装置的示意图;
图6是本发明实施例提供的一种数据存储的终端设备的示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
随着互联网的发展,云计算、大数据等技术正逐渐被大众所熟知,尤其是非结构化数据占主要地位,所述非结构化数据是指不方便使用数据库二维逻辑表来表现的数据,包括所有格式的办公文档、文本、图片、XML,HTML、各类报表、图像和音频/视频信息等。而在传统企业转型的过程中不难发现,数据对于企业发展的重要性,企业对于数据存储的要求也越来越高。“软件定义存储(SDS)”的概念出现之后,对软硬件的一体化、虚拟化和自动化等方方面面都有了更灵活的诠释。其中,本发明所述的存储方式也是一种软件定义存储,所述软件定义存储是一种数据存储方式,所有存储相关的控制工作都仅在相对于物理存储硬件的外部软件中。这个软件不是作为存储设备中的固件,而是在一个服务器上或者作为操作系统(OS)或hypervisor的一部分。
本发明所述存储方式具体是一种融合存储的方式,通过底层的蓝光存储和多级存储实现融合存储。目前国内数据存储主要有三种方式:磁带(数据流)、硬盘和蓝光光盘。其中,磁带存储容易受潮脱磁断带,保存时间较短,寿命一般在10年左右,资料需重新拷贝复制。而硬盘存储由于其物理特性,使用寿命和安全性使得它不适合做为长久存储的介质;从目前以及长远来看,蓝光存储是进行数据安全长期存储的最好选择。蓝光产品有着以下优点:寿命更长、风险更低、兼容性高、成本更低、能耗更低。本发明充分利用蓝光存储的优势,通过以下存储方式,实现长寿命、低能耗的新一代融合存储方式。请参见图1,图1是本发明实施例提供的一种数据存储的方法实现流程图。如图1所示的一种数据存储的方法包括:
S101,将数据存储至一级存储层。
本实施例对所述数据和副本进行分层存储,满足用户对数据不同访问频率的需求。其中,一级存储层通常存储热数据,而所述数据即为热数据。所述一级存储层作为交换层,实现上传、下载、归档、提档、数据维护等。所述热数据主要是指新产生的热点数据,包括影片、图片和评论等,热数据的特点是一段时间内被频繁访问,需要高性能的存储设备来保存。
所述一级存储层具体可以采用网络存储器(Network Attached Storage,NAS)和本地存储。其中,NAS作为一种特殊的专用数据存储服务器,包括存储器件(例如磁盘阵列、CD/DVD驱动器、磁带驱动器或可移动的存储介质)和内嵌系统软件,可提供跨平台文件共享功能。NAS通常在一个LAN上占有自己的节点,无需应用服务器的干预,允许用户在网络上存取数据,在这种配置中,NAS集中管理和处理网络上的所有数据,将负载从应用或企业服务器上卸载下来,有效降低总拥有成本,保护用户投资。NAS本身能够支持多种协议(如NFS、CIFS、FTP、HTTP等),而且能够支持各种操作系统。通过任何一台工作站,采用IE或Netscape浏览器就可以对NAS设备进行直观方便的管理。NAS作为网络存储让数据访问更便捷,而本地存储作为一种高速存储方式也可运用到所述一级存储层,但是本地存储只供内部访问,外部设备无法访问内部数据,可结合实际需求进行选择。
S102,根据所述数据生成第一缓存副本,将所述第一缓存副本存储至二级存储层。
在步骤S101中的所述数据,若选择归档则根据所述数据生成第一缓存副本并存储至二级存储层。在本实施例中二级存储层存储温数据,而所述第一缓存副本即为温数据。所述温数据是指平时很少被访问,但是在需要访问的时候,需要较高的时效性的保证,这部分数据被称为温数据。温存储的应运而生就是要节约能源、提供高速的访问,同时还要有极高的磁盘利用率。充分考虑到数据服务的时效性和网络资源的利用率,形成分区域多级站点存储服务,有效解决网络热点和网络压力等问题。所述二级存储层作为缓存层,提供优质缓存服务,缓解冷数据提取效率瓶颈。
所述二级存储层具体可以采用Hadoop分布式存储和普通PC存储。所述Hadoop分布式存储实现了一个分布式文件系统(Hadoop Distributed File System,HDFS)。HDFS有高容错性的特点,并且设计用来部署在低廉的硬件上。而且它提供高吞吐量来访问应用程序的数据,适合那些有着超大数据集的应用程序。HDFS放宽了POSIX的要求,可以以流的形式访问文件系统中的数据。Hadoop的框架最核心的设计就是:HDFS和MapReduce。HDFS为海量的数据提供了存储,而MapReduce为海量的数据提供了计算。而所述分布式存储是指一群独立计算机集合共同对外提供服务,但是对于系统的用户来说,就像是一台计算机在提供服务一样。分布式意味着可以采用更多的普通计算机(相对于昂贵的大型机)组成分布式集群对外提供服务。计算机越多,CPU、内存、存储资源等也就越多,能够处理的并发访问量也就越大。而普通PC存储的部署简单,可以作为初期临时缓存,相比较而言Hadoop分布式存储部署维护要比普通PC复杂,但是扩展性和安全性以及效率较高。一些大型网站常常需要处理海量数据,单台计算机往往无法提供足够的内存空间,就可以对这些数据进行Hadoop分布式存储。上述两种存储方式用户可以根据实际需求进行选择。
S103,将所述第一缓存副本打包生成第二缓存副本,将所述第二缓存副本存储至蓝光存储层。
在本实施例中蓝光存储层存储冷数据,而所述第二缓存副本即为冷数据。冷数据是指大部分数据产生后,很少被访问,甚至在他的生命周期里不会再被访问,其中以视频监控和日志等为代表。而所述蓝光存储层作为持久化层,提供安全、环保、可靠的存储方式。将所述第二缓存副本存储至蓝光光碟中,实现对所述数据的归档。
所述蓝光存储层采用蓝光光盘为存储介质,蓝光光碟(Blu-ray Disc,BD)是DVD之后下一时代的高画质影音储存光盘媒体(可支持Full HD影像与高音质规格)。蓝光或称蓝光光碟利用波长较短的蓝色激光读取和写入数据,并因此而得名。蓝光极大地提高了光盘的存储容量,对于光存储产品来说,蓝光提供了一个跳跃式发展的机会,可以无限向下格式兼容,保存期限一般在50年以上,目前最大容量的蓝光盘达到100GB。作为专业档案级存储介质,蓝光盘目前主要应用于广电行业,已逐渐覆盖到政府、教育、金融、公共事业等有存储刚性需求的行业和企业。
S104,当所述数据在所述一级存储层的存储时长达到第一预设时长,则删除所述数据。
为了缓解所述一级存储层和所述二级存储层的存储压力。本实施例,通过对数据存储时长的限制,释放所述一级存储层和所述二级存储层的存储空间,提高存储空间利用率,减少数据冗余。
示例性的,将一级存储层的第一预设时长设为一个月,当所述数据存储时长超过一个月,则删除所述数据,释放存储空间。
S105,当所述第一缓存副本在所述二级存储层的存储时长达到第二预设时长,则删除所述第一缓存副本。
将二级存储层第二预设时长设为六个月,当所述第一缓存副本的存储时长超过六个月,则删除所述第一缓存副本。
所述第二缓存文件则持久化存储在蓝光存储层。且在步骤S103中通过将第一缓存副本打包生成第二缓存副本,有效增加了蓝光存储层的存储空间利用率。虽然数据打包可能会导致读取速率下降,但是本实施例所述一级存储层和所述二级存储层将数据按照一定的预设时间存储至所述一级存储层和所述二级存储层,提高服务器存储利用率,减少采购投入的同时,提供优质缓存服务,缓解冷数据提取效率瓶颈。实现了安全、可靠、环保、智能新一代融合存储方案。
在本发明实施例中,通过一级存储层、二级存储层、蓝光存储层分级存放,定期清理一级存储层和二级存储层历史数据,有效减少一级存储层和二级存储层的整体使用,大量使用节能环保的蓝光存储设备。一方面,克服了一级存储层、二级存储层存储寿命短和能耗高的问题。另一方面,通过多级存储层的存储逻辑和高速缓存,缓解了蓝光存储层提取效率的瓶颈。
需要说明的是,首先,本实施例中所述一级存储层和所述二级存储层,并不是将分级存储层限定于这两级存储层,存储层之间也可以增加额外的存储层实现多级存储。而蓝光存储层,也可以通过更高效、更大容量或者更低廉成本的存储介质的替代,可以作为任何一级存储的替代方案,最终平衡点还是要综合考虑安全、可靠、环保、智能等各项指标,依据存储需求而定。
其次,本发明的存储方式不仅实现多级存储,还承担应用计算的等角色,将计算、存储,合二为一。具体体现在数据中心、计算中心、存储中心,其中,数据中心实现了系统备份、电子保单、用户镜像、双录视频等;计算中心实现了数据质检、图像识别、图像去重、证件识别、保单识别等;存储中心实现了实时存储、高速缓存、冷存储、离线存储、监控中心等。形成新一代的智能融合数据存储模式。
具体地,上述图1所示实施例中步骤S102,具体通过以下步骤S201至S202实现,请参见图2,图2是本发明实施例提供的一种数据存储的方法中步骤S102的具体实现流程示意图。如图2所示,步骤S102包括:
S201,所述数据通过质检后,根据所述数据建立第一缓存副本。
数据质检是计算中心提供的存储服务。数据质检包括:数据冗余、数据一致性、完整性、特征提取、图像识别等智能检测服务。通过数据冗余质检可以进一步将一些冗余的数据排除,节约存储空间。通过数据一致性和完整性之间有效提高非结构化数据的访问效率和价值。通过特征提取所述数据特征,可提升对多级副本的提取效率。
S202,根据所述第一缓存副本生成第一镜像文件,将所述第一缓存副本和所述第一镜像文件存储至二级存储层。
镜像文件是虚拟文件系统的产物,用于保存用户目录的目录结构和文件特征,基本不占用实际的存储空间,用于虚拟文件系统后台管理和调度使用。在所述第一缓存副本生成后建立镜像文件,所述第一镜像文件保存所述第一缓存副本目录的目录结构和文件特征,实际是指向第一缓存副本的指针。当用户或管理员在前端WEB页面上对数据进行操作时,是通过后台根据镜像文件判断所述第一缓存副本的存储目录后,提取对应数据,与用户操作本地文件目录的习惯一致。
在本发明实施例中,通过对数据进一步质检生成缓存副本,提高非结构化数据的访问效率和价值,并且根据所述缓存副本建立镜像文件,提高数据读取的效率。
可选地,在上述图1所示实施例中步骤S103,还可以通过以下方式实现存储,请参见图3,图3是本发明实施例提供的一种数据存储的方法中步骤S103另一种实现方式的实现流程示意图,包括:
S301,根据所述第二缓存副本生成第二镜像文件。
在根据第一缓存副本建立第一镜像文件的基础上,本实施例,根据所述第二缓存副本建立第二镜像文件,所述第二镜像文件保存所述第二缓存副本目录的目录结构和文件特征,实际是指向第二缓存副本的指针。
S302,将所述第二镜像文件存储至二级存储层。
所述第一镜像文件和第二镜像文件存储至二级存储层,以便后续提取数据。当用户或管理员在前端WEB页面上对数据进行操作时,通过后台根据第一镜像文件优先判断二级存储层中所述第一缓存文件是否存在,若有则直接提取。若无则通过第二镜像文件在蓝光存储层提取所述第二缓存文件。
在本发明实施例中,通过将所述第一缓存文件的第一镜像文件和所述第二缓存文件的第二镜像文件,分别作为二级存储层和蓝光存储层实体文件的指针,提高了数据提取的效率。
可选地,在上述图1所示实施例所示的方法步骤,,还可以通过以下方式实现数据存储,请参见图4,图4是本发明实施例提供的另一种数据存储的方法的实现流程示意图,包括:
S401,将数据存储至一级存储层。
本实施例中S401与上一实施例中S101相同,具体请参阅上一实施例中S101的相关描述,此处不赘述。
S402,根据所述数据生成第一缓存副本,将所述第一缓存副本存储至二级存储层。
本实施例中S402与上一实施例中S102相同,具体请参阅上一实施例中S102的相关描述,此处不赘述。
S403,将所述第一缓存副本打包生成第二缓存副本,将所述第二缓存副本存储至蓝光存储层。
本实施例中S403与上一实施例中S103相同,具体请参阅上一实施例中S103的相关描述,此处不赘述。
S404,当所述一级存储层的剩余存储容量达到阈值,则按照存储时间先后顺序删除所述数据。
本实施例中,所述一级存储层和二级存储层对所述数据存储时长的控制,通过各个存储层实际的剩余存储容量来界定。当所述数据存入一级存储层时超过了剩余存储容量阈值,则优先删除最早存入一级存储层的数据,以此类推,直至删除所述数据(即所述按照存储时间先后顺序删除所述数据)。
S405,当所述二级存储层的剩余存储容量达到阈值,则按照存储时间先后顺序删除所述第一缓存副本。
当所述第一缓存副本存入二级存储层时超过了剩余存储容量阈值,则优先删除最早存入二级存储层的所述第一缓存副本,以此类推,直至删除所述第一缓存副本(即所述按照存储时间先后顺序删除所述第一缓存副本)。
在本发明实施例中,通过按照存储层的剩余存储容量决定数据存储时长,释放存储空间的方式,可以更加精确得控制存储池资源和存储能耗。
如图5本发明提供了一种数据存储的装置5,请参见图5,图5是本发明实施例提供的一种数据存储的装置的示意图,如图5所示一种数据存储的装置包括:
存储单元51,用于将数据存储至一级存储层;将所述第一缓存副本存储至二级存储层;将所述第二缓存副本存储至蓝光存储层;
创建单元52,用于根据所述数据生成第一缓存副本;将所述第一缓存副本打包生成第二缓存副本;
删除单元53,用于当所述数据在所述一级存储层的存储时长达到第一预设时长,则删除所述数据;当所述第一缓存副本在所述二级存储层的存储时长达到第二预设时长,则删除所述第一缓存副本。
具体地,所述存储单元51和创建单元52,具体用于:
所述数据通过质检后,根据所述数据建立第一缓存副本;
根据所述第一缓存副本生成第一镜像文件,将所述第一缓存副本和所述第一镜像文件存储至二级存储层。
可选地,所述存储单元51和创建单元52,还用于:
根据所述第二缓存副本生成第二镜像文件;
将所述第二镜像文件存储至二级存储层。
可选地,所述装置,还用于:
当所述一级存储层的剩余存储容量达到阈值,则按照存储时间先后顺序删除所述数据;
当所述二级存储层的剩余存储容量达到阈值,则按照存储时间先后顺序删除所述第一缓存副本。
本发明提供的一种数据存储的装置,通过一级存储层、二级存储层、蓝光存储层分级存放,定期删除一级存储层和二级存储层数据,有效减少一级存储层和二级存储层的整体使用,大量使用节能环保的蓝光存储设备。一方面,克服了一级存储层、二级存储层存储寿命短和能耗高的问题。另一方面,通过本实施例,不仅利用了蓝光存储安全、可靠、环保的特性,也通过多级存储层的存储逻辑,缓解了蓝光存储层提取效率的瓶颈。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
图6是本发明实施例提供的一种数据存储的终端设备的示意图。如图6所示,该实施例的一种数据存储的终端设备6包括:处理器60、存储器61以及存储在所述存储器61中并可在所述处理器60上运行的计算机程序62,例如一种数据存储的程序。所述处理器60执行所述计算机程序62时实现上述各个一种数据存储的方法实施例中的步骤,例如图1所示的步骤S101至S105。或者,所述处理器60执行所述计算机程序62时实现上述各装置实施例中各单元的功能,例如图5所示单元51至53的功能。
示例性的,所述计算机程序62可以被分割成一个或多个单元,所述一个或者多个单元被存储在所述存储器61中,并由所述处理器60执行,以完成本发明。所述一个或多个单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序62在所述一种数据存储的终端设备6中的执行过程。例如,所述计算机程序62可以被分割成存储单元、创建单元、删除单元,各单元具体功能如下:
存储单元,用于将数据存储至一级存储层;将所述第一缓存副本存储至二级存储层;将所述第二缓存副本存储至蓝光存储层;
创建单元,用于根据所述数据生成第一缓存副本;将所述第一缓存副本打包生成第二缓存副本;
删除单元,用于当所述数据在所述一级存储层的存储时长达到第一预设时长,则删除所述数据;当所述第一缓存副本在所述二级存储层的存储时长达到第二预设时长,则删除所述第一缓存副本。
所述一种数据存储的终端设备6可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述一种数据存储的终端设备可包括,但不仅限于,处理器60、存储器61。本领域技术人员可以理解,图6仅仅是一种数据存储的终端设备6的示例,并不构成对一种数据存储的终端设备6的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述一种数据存储的终端设备还可以包括输入输出设备、网络接入设备、总线等。
所称处理器60可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器61可以是所述一种数据存储的终端设备6的内部存储单元,例如一种数据存储的终端设备6的硬盘或内存。所述存储器61也可以是所述一种数据存储的终端设备6的外部存储设备,例如所述一种数据存储的终端设备6上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器61还可以既包括所述一种数据存储的终端设备6的内部存储单元也包括外部存储设备。所述存储器61用于存储所述计算机程序以及所述一种数据存储的终端设备所需的其他程序和数据。所述存储器61还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的终端设备和方法,可以通过其它的方式实现。例如,以上所描述的终端设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random AccessMemory,RAM)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
以上所述实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之间。
Claims (10)
1.一种数据存储的方法,其特征在于,所述的方法包括:
将数据存储至一级存储层;
根据所述数据生成第一缓存副本,将所述第一缓存副本存储至二级存储层;
将所述第一缓存副本打包生成第二缓存副本,将所述第二缓存副本存储至蓝光存储层;
当所述数据在所述一级存储层的存储时长达到第一预设时长,则删除所述数据;
当所述第一缓存副本在所述二级存储层的存储时长达到第二预设时长,则删除所述第一缓存副本。
2.如权利要求1所述的方法,其特征在于,所述根据所述数据生成第一缓存副本,将所述第一缓存副本存储至二级存储层,包括:
所述数据通过质检后,根据所述数据建立第一缓存副本;
根据所述第一缓存副本生成第一镜像文件,将所述第一缓存副本和所述第一镜像文件存储至二级存储层。
3.如权利要求1所述的方法,其特征在于,所述将所述第一缓存副本打包生成第二缓存副本,将所述第二缓存副本存储至蓝光存储层后,还包括:
根据所述第二缓存副本生成第二镜像文件;
将所述第二镜像文件存储至二级存储层。
4.如权利要求1所述的方法,其特征在于,所述方法还包括:
当所述一级存储层的剩余存储容量达到阈值,则按照存储时间先后顺序删除所述数据;
当所述二级存储层的剩余存储容量达到阈值,则按照存储时间先后顺序删除所述第一缓存副本。
5.一种数据存储的装置,其特征在于,包括:
存储单元,用于将数据存储至一级存储层;将所述第一缓存副本存储至二级存储层;将所述第二缓存副本存储至蓝光存储层;
创建单元,用于根据所述数据生成第一缓存副本;将所述第一缓存副本打包生成第二缓存副本;
删除单元,用于当所述数据在所述一级存储层的存储时长达到第一预设时长,则删除所述数据;当所述第一缓存副本在所述二级存储层的存储时长达到第二预设时长,则删除所述第一缓存副本。
6.如权利要求5所述的装置,其特征在于,所述创建单元和存储单元,具体用于:
所述数据通过质检后,根据所述数据建立第一缓存副本;
根据所述第一缓存副本生成第一镜像文件,将所述第一缓存副本和所述第一镜像文件存储至二级存储层。
7.如权利要求5所述的装置,其特征在于,所述创建单元和存储单元,还用于:
根据所述第二缓存副本生成第二镜像文件;
将所述第二镜像文件存储至二级存储层。
8.如权利要求5所述的装置,其特征在于,所述删除单元,还用于:
当所述一级存储层的剩余存储容量达到阈值,则按照存储时间先后顺序删除所述数据;
当所述二级存储层的剩余存储容量达到阈值,则按照存储时间先后顺序删除所述第一缓存副本。
9.一种数据存储的终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至4任一项所述方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至4任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811599606.6A CN109783018A (zh) | 2018-12-26 | 2018-12-26 | 一种数据存储的方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811599606.6A CN109783018A (zh) | 2018-12-26 | 2018-12-26 | 一种数据存储的方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109783018A true CN109783018A (zh) | 2019-05-21 |
Family
ID=66498401
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811599606.6A Pending CN109783018A (zh) | 2018-12-26 | 2018-12-26 | 一种数据存储的方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109783018A (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112540733A (zh) * | 2020-12-23 | 2021-03-23 | 华录光存储研究院(大连)有限公司 | 一种数据管理方法、装置、电子设备及存储介质 |
CN112540204A (zh) * | 2020-12-09 | 2021-03-23 | 国网四川省电力公司电力科学研究院 | 一种功率源控制装置 |
CN112883026A (zh) * | 2021-01-28 | 2021-06-01 | 青岛海尔科技有限公司 | 数据处理方法和装置 |
CN113360425A (zh) * | 2021-06-28 | 2021-09-07 | 深圳市高德信通信股份有限公司 | 一种分布式多级缓存系统 |
CN113867621A (zh) * | 2021-08-20 | 2021-12-31 | 帝杰曼科技股份有限公司 | 一种区块链本地化云计算大数据应用分析方法 |
TWI782856B (zh) * | 2022-01-17 | 2022-11-01 | 大陸商北京集創北方科技股份有限公司 | 顯示數據之儲存和顯示方法及利用其之顯示裝置和資訊處理裝置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104850358A (zh) * | 2015-05-26 | 2015-08-19 | 华中科技大学 | 一种磁光电混合存储系统及其数据获取和存储方法 |
CN106547474A (zh) * | 2015-09-22 | 2017-03-29 | 辛力彬 | 一种箱式混合存储数据中心 |
CN106648961A (zh) * | 2016-09-27 | 2017-05-10 | 上海爱数信息技术股份有限公司 | 一种一体化蓝光光盘库备份归档方法 |
CN107704211A (zh) * | 2017-10-31 | 2018-02-16 | 武汉光忆科技有限公司 | 一种磁光电混合光盘库及其管理方法和管理系统 |
CN207133828U (zh) * | 2017-05-12 | 2018-03-23 | 华录光存储研究院(大连)有限公司 | 非结构化数据归档装置 |
-
2018
- 2018-12-26 CN CN201811599606.6A patent/CN109783018A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104850358A (zh) * | 2015-05-26 | 2015-08-19 | 华中科技大学 | 一种磁光电混合存储系统及其数据获取和存储方法 |
CN106547474A (zh) * | 2015-09-22 | 2017-03-29 | 辛力彬 | 一种箱式混合存储数据中心 |
CN106648961A (zh) * | 2016-09-27 | 2017-05-10 | 上海爱数信息技术股份有限公司 | 一种一体化蓝光光盘库备份归档方法 |
CN207133828U (zh) * | 2017-05-12 | 2018-03-23 | 华录光存储研究院(大连)有限公司 | 非结构化数据归档装置 |
CN107704211A (zh) * | 2017-10-31 | 2018-02-16 | 武汉光忆科技有限公司 | 一种磁光电混合光盘库及其管理方法和管理系统 |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112540204A (zh) * | 2020-12-09 | 2021-03-23 | 国网四川省电力公司电力科学研究院 | 一种功率源控制装置 |
CN112540204B (zh) * | 2020-12-09 | 2023-09-05 | 国网四川省电力公司电力科学研究院 | 一种功率源控制装置 |
CN112540733A (zh) * | 2020-12-23 | 2021-03-23 | 华录光存储研究院(大连)有限公司 | 一种数据管理方法、装置、电子设备及存储介质 |
CN112883026A (zh) * | 2021-01-28 | 2021-06-01 | 青岛海尔科技有限公司 | 数据处理方法和装置 |
CN113360425A (zh) * | 2021-06-28 | 2021-09-07 | 深圳市高德信通信股份有限公司 | 一种分布式多级缓存系统 |
CN113867621A (zh) * | 2021-08-20 | 2021-12-31 | 帝杰曼科技股份有限公司 | 一种区块链本地化云计算大数据应用分析方法 |
CN113867621B (zh) * | 2021-08-20 | 2024-04-26 | 帝杰曼科技股份有限公司 | 一种区块链本地化云计算大数据应用分析方法 |
TWI782856B (zh) * | 2022-01-17 | 2022-11-01 | 大陸商北京集創北方科技股份有限公司 | 顯示數據之儲存和顯示方法及利用其之顯示裝置和資訊處理裝置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109783018A (zh) | 一种数据存储的方法及装置 | |
US10489422B2 (en) | Reducing data volume durability state for block-based storage | |
US9983825B2 (en) | Efficient data volume replication for block-based storage | |
US9489233B1 (en) | Parallel modeling and execution framework for distributed computation and file system access | |
JP6336675B2 (ja) | 複数の異種データ管理システムからの情報資産メタデータを集約するためのシステム及び方法 | |
US20200050694A1 (en) | Burst Performance of Database Queries According to Query Size | |
CA2892889C (en) | Scaling computing clusters | |
WO2016180055A1 (zh) | 数据存储、读取的方法、装置及系统 | |
JP2012504262A (ja) | 分散キャッシュ配置 | |
CN109218100A (zh) | 分布式对象存储集群及其请求响应方法、系统和存储介质 | |
US9600486B2 (en) | File system directory attribute correction | |
CN103595799A (zh) | 一种实现分布式共享数据库的方法 | |
CN111813332A (zh) | 一种高性能、高扩展和高安全的智能分布式存储系统 | |
EP4062624B1 (en) | Managed data export to a remote network from edge devices | |
Pingle et al. | Big data processing using apache hadoop in cloud system | |
CN103246716B (zh) | 基于对象集群文件系统的对象副本高效管理方法及系统 | |
CN103152377B (zh) | 一种面向ftp服务的数据访问方法 | |
Yan | Cloud Storage Services | |
CN105389368A (zh) | 一种mpp架构数据库集群元数据管理方法 | |
US9436407B1 (en) | Cursor remirroring | |
US10311019B1 (en) | Distributed architecture model and management | |
Rao | Data duplication using Amazon Web Services cloud storage | |
Arora et al. | Opportunities, Concerns and Challenges in the Adoption of Cloud Storage | |
Wang et al. | Ensuring readability of electronic records based on virtualization technology in cloud storage | |
US11757703B1 (en) | Access requests processing and failover handling across multiple fault tolerance zones |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190521 |
|
RJ01 | Rejection of invention patent application after publication |