CN109391647B - 存储资源回收方法、装置及系统 - Google Patents

存储资源回收方法、装置及系统 Download PDF

Info

Publication number
CN109391647B
CN109391647B CN201710660494.XA CN201710660494A CN109391647B CN 109391647 B CN109391647 B CN 109391647B CN 201710660494 A CN201710660494 A CN 201710660494A CN 109391647 B CN109391647 B CN 109391647B
Authority
CN
China
Prior art keywords
target channel
information
storage
coverage
node
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710660494.XA
Other languages
English (en)
Other versions
CN109391647A (zh
Inventor
张克涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Hikvision System Technology Co Ltd
Original Assignee
Hangzhou Hikvision System Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Hikvision System Technology Co Ltd filed Critical Hangzhou Hikvision System Technology Co Ltd
Priority to CN201710660494.XA priority Critical patent/CN109391647B/zh
Priority to PCT/CN2018/098478 priority patent/WO2019024910A1/zh
Publication of CN109391647A publication Critical patent/CN109391647A/zh
Application granted granted Critical
Publication of CN109391647B publication Critical patent/CN109391647B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/40Support for services or applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1097Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/56Provisioning of proxy services
    • H04L67/568Storing data temporarily at an intermediate stage, e.g. caching
    • H04L67/5682Policies or rules for updating, deleting or replacing the stored data

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

一种存储资源回收方法、装置及系统。所述方法包括:在执行对云存储系统中已存储的目标通道对应的数据文件的定期清理任务时,若存储节点中存储有目标通道的覆盖周期信息,则检测目标通道对应的数据文件中是否存在过期数据文件;若目标通道对应的数据文件中存在过期数据文件,则删除过期数据文件。在本发明实施例中,在云存储系统中扩充了为通道设置覆盖周期信息的功能,以使得存储节点能够根据覆盖周期信息所指示的最大保存时长对各个通道对应的过期数据文件进行清理,在保证云存储系统的存储空间充足的前提下,对各个通道对应的数据文件在云存储系统中的保存时长进行灵活控制,更加符合用户的实际使用需求。

Description

存储资源回收方法、装置及系统
技术领域
本发明实施例涉及云存储技术领域,特别涉及一种存储资源回收方法、装置及系统。
背景技术
云存储系统是一种广泛应用的数据存储系统。例如,在视频监控领域,采用云存储系统保存监控设备采集的录像文件。若云存储系统的存储空间的使用量达到预设阈值,则需要删除部分已存储的数据文件,以回收存储资源。
实际应用中,通常以资源池的形式对云存储系统进行管理。具体地,云存储系统被划分为多个资源池,每个资源池对应有一个或多个存储设备。每个资源池所对应的存储设备中存储的数据文件,也即是该资源池中存储的数据文件。
现有技术提供的存储资源回收方法如下:每个资源池均设置有相应的资源池回收策略,并根据相应的资源池回收策略对该资源池中存储的数据文件统一管理。例如,资源池回收策略可以是为资源池设置存储空间的预设阈值,示例性地,预设阈值为上述资源池的存储空间的85%,若达到上述预设阈值,则对在先存储的数据文件进行删除。再例如,资源池回收策略还可以是为上述资源池设置数据文件的最大保存时长,若数据文件的已保存时长达到上述最大保存时长,则将上述数据文件进行删除。
上述现有技术提供的存储资源回收方法存在如下问题:每个资源池根据资源池回收策略管理该资源池中的全部数据文件,回收存储资源的灵活性较低。
发明内容
本发明实施例提供了一种存储资源回收方法、装置及系统,用以解决现有技术所存在的回收存储资源不够灵活的问题。所述技术方案如下:
第一方面,提供了一种存储资源回收方法,应用于云存储系统的存储节点中,所述云存储系统用于为n个通道各自对应的数据文件提供数据存储服务,n为正整数;
所述方法包括:
在执行对所述云存储系统中已存储的目标通道对应的数据文件的定期清理任务时,若所述存储节点中存储有所述目标通道的覆盖周期信息,则检测所述目标通道对应的数据文件中是否存在过期数据文件,其中,所述目标通道的覆盖周期信息用于指示所述目标通道对应的数据文件在所述云存储系统中的最大保存时长,所述过期数据文件是指已保存时长达到所述最大保存时长的数据文件,所述目标通道是所述n个通道中的任意一个;
若所述目标通道对应的数据文件中存在所述过期数据文件,则删除所述过期数据文件。
可选地,所述检测所述目标通道对应的数据文件中是否存在过期数据文件之前,还包括:
从所述云存储系统的管理节点获取所述目标通道的覆盖周期信息。
可选地,所述从所述云存储系统的管理节点获取所述目标通道的覆盖周期信息,包括:
接收所述管理节点发送的信息更新通知,所述信息更新通知用于指示所述管理节点中存储的覆盖周期信息已更新;
根据所述信息更新通知向所述管理节点发送第一信息获取请求,所述第一信息获取请求用于请求获取更新的覆盖周期信息,所述更新的覆盖周期信息包括所述目标通道的覆盖周期信息;
接收所述管理节点发送的所述更新的覆盖周期信息。
可选地,所述从所述云存储系统的管理节点获取所述目标通道的覆盖周期信息,包括:
向所述管理节点发送第二信息获取请求,所述第二信息获取请求用于请求获取所述管理节点中保存的至少一个通道的覆盖周期信息,所述至少一个通道的覆盖周期信息包括所述目标通道的覆盖周期信息;
接收所述管理节点发送的所述至少一个通道的覆盖周期信息。
可选地,所述从所述云存储系统的管理节点获取所述目标通道的覆盖周期信息之后,还包括:
接收所述管理节点发送的查询请求,所述查询请求用于请求查询所述存储节点中是否存储有所述目标通道对应的数据文件;
向所述管理节点发送与所述查询请求对应的查询响应,以使得所述管理节点在根据所述云存储系统中的各个所述存储节点反馈的查询响应,确定出所有存储节点中均未存储所述目标通道对应的数据文件时,删除所述目标通道的覆盖周期信息。
可选地,所述目标通道的覆盖周期信息存在多条,所述目标通道的每一条覆盖周期信息用于指示所述目标通道对应的数据文件在所述云存储系统的一个资源池中的最大保存时长。
第二方面,提供了一种存储资源回收方法,应用于云存储系统的管理节点中,所述云存储系统用于为n个通道各自对应的数据文件提供数据存储服务,n为正整数;
所述方法包括:
获取目标通道的覆盖周期信息,所述目标通道的覆盖周期信息用于指示所述目标通道对应的数据文件在所述云存储系统中的最大保存时长;
向所述云存储系统中的存储节点提供所述至少一个通道的覆盖周期信息,以使得所述存储节点在执行对所述云存储系统中已存储的目标通道对应的数据文件的定期清理任务时,若所述存储节点中存储有所述目标通道的覆盖周期信息,并且所述目标通道对应的数据文件中存在过期数据文件,删除所述过期数据文件,所述过期数据文件是指已保存时长达到所述最大保存时长的数据文件,所述目标通道是所述n个通道中的任意一个。
可选地,所述向所述云存储系统中的存储节点提供所述目标通道的覆盖周期信息,包括:
向所述存储节点发送信息更新通知,所述信息更新通知用于指示所述管理节点中存储的覆盖周期信息已更新;
接收所述存储节点根据所述信息更新通知发送的第一信息获取请求,所述第一信息获取请求用于请求获取更新的覆盖周期信息,所述更新的覆盖周期信息包括所述目标通道的覆盖周期信息;
向所述存储节点发送所述更新的覆盖周期信息。
可选地,所述向所述云存储系统中的存储节点提供所述目标通道的覆盖周期信息,包括:
接收所述存储节点发送的第二信息获取请求,所述第二信息获取请求用于请求获取所述管理节点中保存的至少一个通道的覆盖周期信息,所述至少一个通道的覆盖周期信息包括所述目标通道的覆盖周期信息;
向所述存储节点发送至少一个通道的覆盖周期信息。
可选地,所述获取目标通道的覆盖周期信息之后,还包括:
向所述存储节点发送查询请求,所述查询请求用于请求查询所述存储节点中是否存储有目标通道对应的数据文件;
接收所述存储节点发送的与所述查询请求对应的查询响应;
在根据所述云存储系统中的各个所述存储节点反馈的查询响应,确定出所有存储节点中均未存储所述目标通道对应的数据文件时,删除所述目标通道的覆盖周期信息。
可选地,所述目标通道的覆盖周期信息存在多条,所述目标通道的每一条覆盖周期信息用于指示所述目标通道对应的数据文件在所述云存储系统的一个资源池中的最大保存时长。
可选地,所述获取目标通道的覆盖周期信息之后,还包括:
在分布式组件和数据库中分别存储所述目标通道的覆盖周期信息,所述分布式组件用于向所述存储节点提供所述目标通道的覆盖周期信息,所述数据库用于对所述目标通道的覆盖周期信息进行备份。
第三方面,提供了一种存储资源回收装置,应用于云存储系统的存储节点中,所述云存储系统用于为n个通道各自对应的数据文件提供数据存储服务,n为正整数;
所述装置包括:
文件检测模块,用于在执行对所述云存储系统中已存储的目标通道对应的数据文件的定期清理任务时,若所述存储节点中存储有所述目标通道的覆盖周期信息,则检测所述目标通道对应的数据文件中是否存在过期数据文件,其中,所述目标通道的覆盖周期信息用于指示所述目标通道对应的数据文件在所述云存储系统中的最大保存时长,所述过期数据文件是指已保存时长达到所述最大保存时长的数据文件,所述目标通道是所述n个通道中的任意一个;
文件删除模块,用于若所述目标通道对应的数据文件中存在所述过期数据文件,则删除所述过期数据文件。
可选地,所述装置还包括:
信息获取模块,用于从所述云存储系统的管理节点获取所述目标通道的覆盖周期信息。
可选地,所述信息获取模块,用于:
接收所述管理节点发送的信息更新通知,所述信息更新通知用于指示所述管理节点中存储的覆盖周期信息已更新;
根据所述信息更新通知向所述管理节点发送第一信息获取请求,所述第一信息获取请求用于请求获取更新的覆盖周期信息,所述更新的覆盖周期信息包括所述目标通道的覆盖周期信息;
接收所述管理节点发送的所述更新的覆盖周期信息。
可选地,所述信息获取模块,用于:
向所述管理节点发送第二信息获取请求,所述第二信息获取请求用于请求获取所述管理节点中保存的至少一个通道的覆盖周期信息,所述至少一个通道的覆盖周期信息包括所述目标通道的覆盖周期信息;
接收所述管理节点发送的所述至少一个通道的覆盖周期信息。
可选地,所述装置还包括:
请求接收模块,用于接收所述管理节点发送的查询请求,所述查询请求用于请求查询所述存储节点中是否存储有目标通道对应的数据文件,所述目标通道是在所述管理节点中存储有相应的覆盖周期信息的通道;
响应发送模块,用于向所述管理节点发送与所述查询请求对应的查询响应,以使得所述管理节点在根据所述云存储系统中的各个所述存储节点反馈的查询响应,确定出所有存储节点中均未存储所述目标通道对应的数据文件时,删除所述目标通道的覆盖周期信息。
可选地,所述目标通道的覆盖周期信息存在多条,所述目标通道的每一条覆盖周期信息用于指示所述目标通道对应的数据文件在所述云存储系统的一个资源池中的最大保存时长。
第四方面,提供了一种存储资源回收装置,应用于云存储系统的管理节点中,所述云存储系统用于为n个通道各自对应的数据文件提供数据存储服务,n为正整数;
所述装置包括:
信息获取模块,用于获取目标通道的覆盖周期信息,所述目标通道的覆盖周期信息用于指示所述目标通道对应的数据文件在所述云存储系统中的最大保存时长;
信息提供模块,用于向所述云存储系统中的存储节点提供所述至少一个通道的覆盖周期信息,以使得所述存储节点在执行对所述云存储系统中已存储的目标通道对应的数据文件的定期清理任务时,若所述存储节点中存储有所述目标通道的覆盖周期信息,并且所述目标通道对应的数据文件中存在过期数据文件,删除所述过期数据文件,所述过期数据文件是指已保存时长达到所述最大保存时长的数据文件,所述目标通道是所述n个通道中的任意一个。
可选地,所述信息提供模块,用于:
向所述存储节点发送信息更新通知,所述信息更新通知用于指示所述管理节点中存储的覆盖周期信息已更新;
接收所述存储节点根据所述信息更新通知发送的第一信息获取请求,所述第一信息获取请求用于请求获取更新的覆盖周期信息,所述更新的覆盖周期信息包括所述目标通道的覆盖周期信息;
向所述存储节点发送所述更新的覆盖周期信息。
可选地,所述信息提供模块,用于:
接收所述存储节点发送的第二信息获取请求,所述第二信息获取请求用于请求获取所述管理节点中保存的至少一个通道的覆盖周期信息,所述至少一个通道的覆盖周期信息包括所述目标通道的覆盖周期信息;
向所述存储节点发送至少一个通道的覆盖周期信息。
可选地,所述装置还包括:
请求发送模块,用于向所述存储节点发送查询请求,所述查询请求用于请求查询所述存储节点中是否存储有目标通道对应的数据文件,所述目标通道是在所述管理节点中存储有相应的覆盖周期信息的通道;
响应接收模块,用于接收所述存储节点发送的与所述查询请求对应的查询响应;
信息删除模块,用于在根据所述云存储系统中的各个所述存储节点反馈的查询响应,确定出所有存储节点中均未存储所述目标通道对应的数据文件时,删除所述目标通道的覆盖周期信息。
可选地,所述目标通道的覆盖周期信息存在多条,所述目标通道的每一条覆盖周期信息用于指示所述目标通道对应的数据文件在所述云存储系统的一个资源池中的最大保存时长。
可选地,所述装置还包括:
信息存储模块,用于在分布式组件和数据库中分别存储所述目标通道的覆盖周期信息,所述分布式组件用于向所述存储节点提供所述目标通道的覆盖周期信息,所述数据库用于对所述目标通道的覆盖周期信息进行备份。
第五方面,提供了一种云存储系统,所述云存储系统包括:存储节点和管理节点;
所述存储节点包括如第三方面所述的装置;
所述管理节点包括如第四方面所述的装置。
第六方面,提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一条指令,所述指令由处理器加载并执行以实现如第一方面所述的存储资源回收方法。
第七方面,提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一条指令,所述指令由处理器加载并执行以实现如第二方面所述的存储资源回收方法。
本发明实施例提供的技术方案可以带来如下有益效果:
通过在云存储系统中扩充了为通道设置覆盖周期信息的功能,以使得存储节点能够根据覆盖周期信息所指示的最大保存时长对各个通道对应的过期数据文件进行清理,在保证云存储系统的存储空间充足的前提下,对各个通道对应的数据文件在云存储系统中的保存时长进行灵活控制,更加符合用户的实际使用需求。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一个实施例提供的云存储系统的示意图;
图2是本发明一个实施例提供的存储资源回收方法的流程图;
图3是本发明一个实施例提供的存储节点获取覆盖周期信息的流程图;
图4是本发明一个实施例提供的存储节点与管理节点的结构示意图;
图5是本发明一个实施例提供的存储资源回收装置的框图;
图6是本发明另一个实施例提供的存储资源回收装置的框图;
图7是本发明一个实施例提供的电子设备的结构方框图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明实施方式作进一步地详细描述。
请参考图1,其示出了本发明一个实施例提供的云存储系统10的示意图。该云存储系统10包括:至少一个存储节点11、至少一个存储设备12和至少一个管理节点13。
存储节点11用于管理存储设备12,提供对待存储数据的写入功能以及对已存储数据的读取功能。一个存储节点11可以管理一个或多个存储设备12。存储节点11可以是服务器。
存储设备12用于提供数据存储服务。可选地,存储设备12可以是PD(相变式可重复擦写光盘驱动器,Phase Change Rewritable Optical DiskDrive)光驱、闪存卡、移动硬盘等。
管理节点13用于管理各个存储节点11,例如,分配存储节点11所管理的存储设备12。一个管理节点13可以管理多个存储节点11,一个存储节点11也可以被多个管理节点13管理。当存在多个管理节点13时,各个管理节点13之间建立有通信连接。管理节点13可以是服务器。
存储节点11可以通过网络分别与存储设备12、管理节点13之间建立通信连接。该网络可以是无线网络,也可以是有线网络。
当上述云存储系统应用于视频监控场景时,上述存储节点11可以是云录像存储(Cloud Video Storage,CVS)节点,上述管理节点13可以是云录像管理(Cloud VideoManage,CVM)节点。
CVS节点用于将各个通道对应的录像文件写入存储设备12,并提供对存储设备12所存储的数据的读取及删除功能。CVM节点用于管理各个CVS节点,例如,分配CVS节点所管理的存储设备12等等。
可选地,当上述云存储系统应用于视频监控场景时,该云存储系统中还可以包括云录像接入(Cloud Video Access,CVA)节点和前端设备。CVA节点用于从前端设备获取各个通道对应的监控数据。前端设备用于从各个监控设备中获取监控数据,并向CVA节点提供上述监控数据。
在本发明实施例中,提供了一种回收云存储系统的存储资源的技术方案,在云存储系统中扩充了为通道设置覆盖周期信息的功能,以使得存储节点能够根据通道的覆盖周期信息所指示的最大保存时长对该通道对应的过期数据文件进行清理,在保证云存储系统的存储资源充足的前提下,对各个通道对应的数据文件在云存储系统中的保存时长进行灵活控制,更加符合用户的实际使用需求。
下面,将基于上面所述的本发明实施例的共性方面,对本发明实施例进行介绍说明。
请参考图2,其示出了本发明一个实施例提供的存储资源回收方法的流程图。该方法应用于图1所示的云存储系统中,该云存储系统用于为n个通道各自对应的数据文件提供数据存储服务,n为正整数。
该方法可以包括如下几个步骤。
步骤201,管理节点获取目标通道的覆盖周期信息。
目标通道是n个通道中的任意一个通道。目标通道的覆盖周期信息用于指示目标通道对应的数据文件在云存储系统中的最大保存时长。目标通道的覆盖周期信息包括目标通道的标识,以及用于指示最大保存时长的时间参数。通道的标识用于唯一标识通道。例如,通道1的覆盖周期信息包括:通道1,30天,表示通道1对应的数据文件在云存储系统中的最大保存时长为30天。
可选地,目标通道的覆盖周期信息还包括资源池的标识,此时目标通道的覆盖周期信息用于指示目标通道对应的数据文件在该资源池中的最大保存时长。资源池的标识用于唯一标识资源池。例如,通道2的覆盖周期信息包括:通道2,资源池A,30天,表示通道2对应的数据文件在云存储系统的资源池A中的最大保存时长为30天。
目标通道的覆盖周期信息可以是一条,也可以是多条。当目标通道的覆盖周期信息为一条时,该目标通道的覆盖周期信息中可以包括资源池的标识,也可以不包括资源池的标识;当目标通道的覆盖周期信息是多条时,则目标通道的覆盖周期信息中包括资源池的标识。需要说明的是,目标通道对应的数据文件在不同的资源池中的最大保存时长可以相同,也可以不同,本发明实施例对此不做限定。
目标通道的覆盖周期信息可以由用户根据实际需求设置得到。可选地,管理节点与终端之间建立连接,终端中运行有客户端,用户可通过客户端访问云存储系统,并设置目标通道的覆盖周期信息。管理节点可以在云存储系统获取待存储的数据文件之前获取目标通道的覆盖周期信息,也可以在云存储系统获取待存储的数据文件的同时获取目标通道的覆盖周期信息。
以云存储系统用于存储视频监控场景下生成的数据文件为例,云存储系统从前端设备中获取待存储的数据文件存在两种方式。针对不同的方式,管理节点获取目标通道的覆盖周期信息的时机并不相同。下面将分别结合两种方式,对管理节点获取目标通道的覆盖周期信息的时机进行介绍说明。
1)前端设备向云存储系统中的管理节点发送至少一个通道的通道信息以及录像计划信息,管理节点根据录像计划信息分配各个CVA节点执行取流任务,各个CVA节点向前端设备发送数据文件获取请求,接收前端设备发送的数据文件,并保存至云存储系统中。其中,通道信息包括但不限于前端设备的标识、通道的标识等。录像计划信息用于指示前端设备对应的录像计划,比如对哪几个通道进行录像,对每个通道录像的时间段等等。
上述方式可以称之为“主动取流方式”。针对“主动取流方式”,前端设备在发送至少一个通道的通道信息以及录像计划信息的同时,也即在向云存储系统发送待存储的数据文件之前,将至少一个通道的覆盖周期信息发送至管理节点,上述至少一个通道的覆盖周期信息包括目标通道的覆盖周期信息。
2)管理节点与终端建立通信连接,终端中运行有客户端。管理节点向客户端发送存储配置信息,存储配置信息用于指示存储有通道对应的数据文件的各个存储节点对应的标识及地址等信息,客户端根据上述存储配置信息向各个存储节点发送通道对应的数据文件以及通道的标识,再由存储节点将通道对应的数据文件保存至云存储系统中。
上述方式可以称之为“被动取流方式”。针对“被动取流方式”,客户端根据上述存储配置信息向各个存储节点发送通道对应的数据文件的同时,也即在向云存储系统发送待存储的数据文件的同时,将至少一个通道的覆盖周期信息发送至管理节点,上述至少一个通道的覆盖周期信息包括目标通道的覆盖周期信息。
可选地,在步骤201之后,还包括如下步骤:管理节点在分布式组件和数据库中分别存储目标通道的覆盖周期信息。
分布式组件用于向存储节点提供目标通道的覆盖周期信息,示例性地,上述分布式组件可以是Zookeeper组件。数据库用于对目标通道的覆盖周期信息进行备份,示例性地,上述数据库可以是H Base数据库。分布式组件所存储的覆盖周期信息的格式是分布式组件指定的协议格式,数据库所存储的覆盖周期信息的格式是数据库表格式。下述表-1示出了根据数据库表格式保存的覆盖周期信息。
表-1
字段 字段类型 备注
camera_id String 通道的标识
Camera_cycle Unsigned int 最大保存时长
Pool_id Unsigned long long 资源池的标识
分布式组件所存储的覆盖周期信息应当与数据库所存储的覆盖周期信息完全一致。通过上述方式,提供了对覆盖周期信息的冗余备份机制,保证覆盖周期信息的安全性与可靠性。
在一个示例中,若分布式组件出现故障,导致分布式组件所存储的覆盖周期信息丢失,则将数据库所存储的覆盖周期信息同步至分布式组件。具体地,由管理节点从数据库中读取全部的覆盖周期信息,并根据分布式组件指定的协议格式将上述全部的覆盖周期信息写入分布式组件。
在另一个示例中,若数据库出现故障,导致数据库所存储的覆盖周期信息丢失,则将分布式组件所存储的覆盖周期信息同步至数据库。具体地,管理节点会停止云存储系统的所有服务,从分布式组件中读取全部的覆盖周期信息,并根据数据库表的格式将上述全部的覆盖周期信息写入数据库,之后恢复云存储系统的所有服务。其中,在对数据库中存储的覆盖周期信息进行修复时,管理节点将云存储系统的所有服务暂停,以使得整个修复过程可以高效地进行。此外,若需要对数据库所存储的覆盖周期信息进行恢复,则需要数据库对应的配置文件中“自动恢复配置”选项处于开启状态。“自动恢复配置”选项用于指示在数据库出现故障时,自动地对数据库所存储的信息进行修复。
步骤202,管理节点向存储节点提供上述目标通道的覆盖周期信息。
在云存储系统中,由存储节点对云存储系统所存储的数据文件执行定期清理任务,因此管理节点在获取目标通道的覆盖周期信息之后,需要向存储节点提供上述目标通道的覆盖周期信息。
可选地,管理节点可以采用以下两种可能的实现方式中的任意一种或全部两种,以实现向存储节点提供上述目标通道的覆盖周期信息。
在第一种可能的实现方式中,步骤202包括如下几个子步骤:
步骤202a,管理节点向存储节点发送信息更新通知;
信息更新通知用于指示管理节点中存储的覆盖周期信息已更新。例如,对某个通道的覆盖周期信息执行了删除、修改等操作;再例如,管理节点新获取了某个通道的覆盖周期信息。信息更新通知包括覆盖周期信息发生更新的通道的标识,可选地,信息更新通知还包括覆盖周期信息发生更新的时间。
在一个示例中,管理节点向各个存储节点发送信息更新通知。在另一个示例中,管理节点仅向覆盖周期信息发生更新的通道对应的存储节点发送信息更新通知。例如,通道1的覆盖周期信息发生更新,云存储系统中包括存储节点A、B和C,其中,存储节点A所管理的存储设备中存储有通道1对应的数据文件,则管理节点仅向存储节点A发送信息更新通知。
可选地,管理节点在更新覆盖周期信息之后立刻向存储节点发送信息更新通知。在其它可能的示例中,管理节点在覆盖周期信息发生更新后的预设时间内向存储节点发送信息更新通知。
步骤202b,存储节点在接收到管理节点发送的信息更新通知之后,向管理节点发送第一信息获取请求;
第一信息获取请求用于请求获取更新的覆盖周期信息,更新的覆盖周期信息中包括目标通道的覆盖周期信息。第一信息获取请求包括存储节点的标识。
若管理节点向各个存储节点均发送了信息更新通知,在一个示例中,每个存储节点均向管理节点发送第一信息获取请求;在另一个示例中,存储节点检测信息更新通知中携带的通道的标识中是否包括该存储节点对应的通道的标识,若包括,则向管理节点发送第一信息获取请求,若不包括,则不向管理节点发送第一信息获取请求。
此外,若管理节点发送的信息更新通知用于指示删除了某个通道的覆盖周期信息,此时存储节点不向管理节点发送第一信息获取请求,而是根据信息更新通知删除将该通道的覆盖周期信息。
步骤202c,管理节点向存储节点发送更新的覆盖周期信息。
管理节点根据第一信息获取请求向存储节点发送更新的覆盖周期信息。在一个示例中,更新的覆盖周期信息是指更新后管理节点存储的全部覆盖周期信息。在另一个示例中,更新的覆盖周期信息是指发生更新的覆盖周期信息,而并非管理节点存储的全部覆盖周期信息。例如,通道1的覆盖周期信息发生了修改,则管理节点向存储节点发送修改后的通道1的覆盖周期信息。相应地,存储节点接收管理节点发送的更新的覆盖周期信息,并将上述更新的覆盖周期信息保存至本地数据库中。
在第二种可能的实现方式中,步骤202包括如下几个子步骤:
步骤202d,管理节点接收存储节点发送的第二信息获取请求;
可选地,存储节点每隔预设时间向管理节点发送第二信息获取请求,第二信息获取请求用于请求获取管理节点中保存的至少一个通道的覆盖周期信息,该至少一个通道的覆盖周期信息中包括目标通道的覆盖周期信息。第二信息获取请求包括存储节点的标识。
在第一个示例中,第二信息获取请求用于请求管理节点存储的全部的覆盖周期信息。在第二个示例中,第二信息获取请求用于请求存储节点对应的通道的覆盖周期信息。存储节点对应的通道是指存储节点所管理的存储设备存储的数据文件对应的通道。例如,存储节点A所管理的存储设备中保存有通道1和通道2对应的数据文件,则存储节点A向管理节点发送的第二信息获取请求用于请求通道1和通道2的覆盖周期信息。
需要说明的是,若第二信息获取请求用于请求存储节点对应的通道的覆盖周期信息,第二信息获取请求还包括存储节点对应的通道的标识。
步骤202e,管理节点向存储节点发送至少一个通道的覆盖周期信息。
相应地,存储节点接收管理节点发送的至少一个通道的覆盖周期信息。至少一个通道的覆盖周期信息可以是管理节点存储的全部覆盖周期信息,还可以是存储节点对应的通道的覆盖周期信息。
在管理节点发送全部覆盖周期信息,并且存储节点中也存储有全部覆盖周期信息的情况下,或者,在管理节点向存储节点发送存储节点对应的通道的覆盖周期信息,并且存储节点中仅存储对应的通道的覆盖周期信息的情况下,存储节点检测本地数据库中保存的覆盖周期信息是否与管理节点发送的覆盖周期信息完全相同,若不完全相同,则将管理节点发送的覆盖周期信息同步至本地数据库。
在管理节点发送全部覆盖周期信息,存储节点中仅存储对应的通道的覆盖周期信息的情况下,存储节点检测管理节点发送的全部覆盖周期信息中该存储节点对应的通道的覆盖周期信息,是否与本地数据库存储的覆盖周期信息完全相同,若不完全相同,则将管理节点发送的全部覆盖周期信息中该存储节点对应的通道的覆盖周期信息同步至本地数据库。
上述两种可能的实现方式相结合,能够保证存储节点所保存的覆盖周期信息的准确性,并保证存储节点所保存的覆盖周期信息能及时更新。
需要说明的是,若存储节点出现故障时,比如,存储节点的本地数据库崩溃、存储节点中的文件系统损坏时造成本地数据库所保存的覆盖周期文件丢失,存储节点向管理节点发送第三信息获取请求,第三信息获取请求用于请求获取管理节点中保存的至少一个通道的覆盖周期信息,管理节点根据第三信息获取请求向存储节点发送至少一个通道的覆盖周期信息。第三信息更新请求包括存储节点的标识。
在第一个示例中,第三信息获取请求用于请求管理节点存储的全部的覆盖周期信息。在第二个示例中,第三信息获取请求用于请求存储节点对应的通道的覆盖周期信息。若第三信息获取请求用于请求存储节点对应的通道的覆盖周期信息,则第三信息获取请求还包括存储节点对应的通道的标识。
结合参考图3,其示出了本发明一个实施例示出的存储节点获取目标通道的覆盖周期信息的流程图。该过程包括如下几个步骤:
①客户端向管理节点发送目标通道的覆盖周期信息;
客户端通过应用程序编程接口向管理节点发送目标通道的覆盖周期信息。
②管理节点对目标通道的覆盖周期信息进行适配处理;
若管理节点不能直接识别上述目标通道的覆盖周期信息,则需要对目标通道的覆盖周期信息进行适配处理,以将不能被管理节点直接识别的覆盖周期信息,适配成能被管理节点直接识别的覆盖周期信息。
③管理节点向客户端返回确认响应;
确认响应用于指示管理节点已成功接收并识别目标通道的覆盖周期信息。
④管理节点将目标通道的覆盖周期信息分别存储至分布式组件和数据库;
⑤管理节点向存储节点发送信息更新通知;
⑥存储节点向管理节点发送第一信息获取请求;
⑦管理节点向存储节点发送更新的覆盖周期信息;
更新的覆盖周期信息中包括目标通道的周期信息。
⑧存储节点将更新的覆盖周期信息存储至本地数据库;
⑨存储节点向管理节点发送第二信息获取请求;
⑩管理节点向存储节点发送至少一个通道的覆盖周期信息;
至少一个通道的覆盖周期信息包括目标通道的覆盖周期信息。
Figure BDA0001370440750000151
存储节点将至少一个通道的覆盖周期信息同步至本地数据库。
步骤203,在执行对云存储系统中已存储的目标通道对应的数据文件的定期清理任务时,若存储节点中存储有目标通道的覆盖周期信息,则检测目标通道对应的数据文件中是否存在过期数据文件。
定期清理任务用于清理云存储系统所存储的过期数据文件。实际应用中,云存储系统的存储容量有限,而各个通道对应的数据文件不断地被存储至云存储系统中,若不执行定期清理任务,则可能导致云存储系统的存储空间越来越小,影响云存储系统的性能。
如上文介绍,目标通道是n个通道中的任意一个。目标通道的覆盖周期信息用于指示目标通道对应的数据文件在云存储系统中的最大保存时长。若目标通道的覆盖周期信息存在多条,则目标通道的每一条覆盖周期信息用于指示目标通道对应的数据文件在云存储系统的一个资源池中的最大保存时长。过期数据文件是指已保存时长达到最大保存时长的数据文件。
在一个示例中,当目标通道的覆盖周期信息存在一条时,存储节点可以将目标通道的标识作为索引,也可以将目标通道的标识和资源池的标识作为索引,在本地数据库中查询是否存在目标通道的覆盖周期信息。
在另一个示例中,当目标通道存在多个覆盖周期信息时,存储节点将目标通道的标识和资源池的标识作为索引,在本地数据库中查询是否存在目标通道的覆盖周期信息。
需要说明的是,由于在实际应用中,每个存储节点所管理的存储设备仅存储部分通道对应的数据文件,因此每个存储节点仅在本地数据库中查询是否存在指定通道的覆盖周期信息,上述指定通道是每个存储节点所管理的存储设备存储的数据文件对应的通道。例如,存储节点A所管理的存储设备存储有通道1、2和3分别对应的数据文件,则存储节点A仅在本地数据库中查询是否存在通道1、2和3的覆盖周期信息。
若存储节点中存储有目标通道的覆盖周期信息,则存储节点对已保存的目标通道对应的每一个数据文件进行检测,进而判断出目标通道对应的数据文件中的过期数据文件。可选地,存储节点通过如下方式检测目标通道对应的数据文件中是否存在过期数据文件。
步骤203a,根据当前时间点与最大保存时长计算覆盖时间点;
步骤203b,若目标通道对应的数据文件的保存时间点早于上述覆盖时间点,则上述目标通道对应的数据文件为过期数据文件;
步骤203c,若目标通道对应的数据文件的保存时间点晚于上述覆盖时间点,则上述目标通道对应的数据文件不为过期数据文件。
当前时间点是指当前时刻。覆盖时间点是指存储节点所管理的存储设备保存目标通道对应的数据文件的最早时间点,在本发明实施例中,覆盖时间点用做判断目标通道对应的数据文件是否为过期数据文件的判断依据。
若目标通道的覆盖周期信息用于指示目标通道对应的数据文件在云存储系统中的最大保存时长,则目标通道对应的数据文件的保存时间点是指云存储系统保存该数据文件的时间点;目标通道的每一条覆盖周期信息用于指示目标通道对应的数据文件在云存储系统的一个资源池中的最大保存时长,则目标通道对应的数据文件的保存时间点是指在该资源池中保存该数据文件的时间点。
例如,当前时间点为7月2日,最大保存时长为30天,从当前时间点往前推30天得到覆盖时间点为6月2日。若存在目标通道对应的数据文件f1的保存时间点为5月29日,则上述数据文件f1为过期数据文件;若存在目标通道对应的数据文件f2的保存时间点为6月3日,则上述数据文件f2不为过期文件。
在其它可能的示例中,存储节点每保存一个数据文件,对该数据文件的保存时间进行计数,每过预设时间则对该数据文件对应的计数值进行更新,例如,每保存一天则计数值加1,若存储节点需要检测目标通道对应的数据文件是否存在过期数据文件时,先获取对目标通道对应的每一个数据文件对应的计数值,然后判断上述计数值是否超过最大保存时长,若计数值超过最大保存时长,则该计数值对应的数据文件为过期数据文件;若计数值未超过最大保存时长,则该计数值对应的数据文件不为过期数据文件。
例如,最大保存时长为30天,若存在目标通道对应的数据文件f3对应的计数值为27,则上述数据文件f3不为过期数据文件,若存在目标通道对应的数据文件f4对应的计数值为32,则上述数据文件f4为过期数据文件。
需要说明的是,若存储节点中未存储目标通道的覆盖周期信息,则可以根据资源池回收策略对目标通道对应的数据文件进行管理。上述资源池回收策略可以是资源池的存储空间达到第一预设阈值时,将已保存时长最大的数据文件删除;上述资源池回收策略还可以是将超时数据文件删除,超时数据文件是指已保存时长达到第二预设阈值的数据文件。上述第一预设阈值和第二预设阈值均可以根据实际需求设定,本发明实施例对此不做限定。
步骤204,若目标通道对应的数据文件中存在过期数据文件,则删除过期数据文件。
存储节点调用删除接口将目标通道对应的数据文件中的过期数据文件删除,并继续保存目标通道对应的数据文件中除过期数据文件之外的其它数据文件,直至上述其它数据文件成为过期数据文件。
可选地,存储节点将目标通道对应的数据文件中的过期数据文件删除之后,还需要更新存储有目标通道对应的数据文件的资源池的最早时间点,资源池的最早时间点是存储设备保存符合目标预设条件的数据文件的时间点,上述符合目标预设条件的数据文件是资源池中已保存时长最大的数据文件。
由于资源池原有的资源池回收策略与基于通道的覆盖周期信息进行存储资源回收属于两套独立的回收机制。在存储节点删除目标通道对应的过期数据文件后,若不及时更新资源池的最早时间点,则可能对资源池原有的资源池回收策略造成影响。
例如,资源池原有的资源池回收策略是将存储时间超过30天的数据文件删除,而存储节点将保存时间为6月2号的目标通道对应的过期数据文件删除后,若不更新资源池的最早时间点,则在7月2日,存储节点根据资源池原有的资源池回收策略执行对保存时间为6月2号的数据文件的清理任务。
可选地,存储节点根据如下方式更新存储目标通道对应的数据文件的资源池的最早时间点:
1、存储节点向管理节点发送存储节点所对应的最早时间点;
存储节点对应的最早时间点是存储节点管理的存储设备保存的数据文件的最早时间。
2、管理节点确定存储节点所属的资源池的最早时间点;
管理节点根据如下两种方式确定存储节点所对应的最早时间点:
在第一种可能的实现方式中,管理节点保存有存储节点所属的资源池的最早时间点,将存储节点对应的最早时间点与存储节点所属的资源池的最早时间点进行比对,进而决定是否更新存储节点所属的资源池的最早时间点,若存储节点对应的最早时间点早于存储节点所属的资源池的最早时间点,则更新存储节点所属的资源池的最早时间点,若存储节点对应的最早时间点晚于存储节点所属的资源池的最早时间点,则不更新存储节点所属的资源池的最早时间点。
例如,存储节点所属的资源池的最早时间点为7月2日,存储节点对应的最早时间点为7月4日,则不更新存储节点所属的资源池的最早时间点。
在第二种可能的实现方式中,管理节点向存储节点所属的资源池中的其它存储节点发送时间点获取请求,上述其它存储节点向管理节点发送对应的最早时间点,管理节点将存储节点所属的资源池中各个存储节点对应的最早时间点进行比对,进而确定存储节点所属的资源池的最早时间点。
例如,存储节点A所属的资源池中包括3个存储节点,分别为存储节点A、B和C,存储节点A对应的最早时间点为7月2日,存储节点B对应的最早时间点为7月3日,存储节点A对应的最早时间点为7月4日,进而确定存储节点A所属的资源池的最早时间点为7月2日。
3、管理节点向存储节点所属的资源池中的各个存储节点发送上述资源池的最早时间点。
存储节点接收管理节点发送的资源池的最早时间点,之后更新资源池的最早时间点。
综上所述,本发明实施例提供的方法,在云存储系统中扩充了为通道设置覆盖周期信息的功能,以使得存储节点能够根据覆盖周期信息所指示的最大保存时长对各个通道对应的过期数据文件进行清理,在保证云存储系统的存储空间充足的前提下,对各个通道对应的数据文件在云存储系统中的保存时长进行灵活控制,更加符合用户的实际使用需求。
本发明实施例提供的方法,还通过在分布式组件和数据库中分别存储通道的覆盖周期信息,提供了对覆盖周期信息的冗余备份机制,保证覆盖周期信息的安全性与可靠性。
本发明实施例提供的方法,还通过在删除目标通道对应的过期数据文件之后,对存储有目标通道对应的数据文件的资源池的最早时间点进行更新,避免干扰存储节点对未设置覆盖周期信息的通道执行定期清理任务。
在基于图2所示实施例提供的一个可选实施例中,在管理节点获取目标通道的覆盖周期信息之后,该存储资源回收方法还包括如下步骤。
步骤301,管理节点向存储节点发送查询请求。
查询请求用于请求查询存储节点中是否存储有目标通道对应的数据文件,目标通道是在管理节点中存储有相应的覆盖周期信息的通道。查询请求包括目标通道的标识。
实际应用中,若云存储系统中未存储目标通道对应的数据文件,却存储了目标通道对应的覆盖周期信息,则目标通道的覆盖周期信息是冗余的。例如,原来的录像计划中存在2个通道对应的数据文件中需要存储至云存储系统中,分别为通道1和通道2,其中,通道2的覆盖周期信息用于指示通道2对应的数据文件在云存储系统中的最大保存时长为15天,若更新后的录像计划中无需将通道2对应的数据文件存储至云存储系统,则15天之后云存储系统未存储通道2对应的任何数据文件,此时通道2的覆盖周期信息冗余。
管理节点可通过查询各个存储节点中是否存储目标通道对应的数据文件,进而确定目标通道的覆盖周期信息是否是冗余的,最终决定是否将目标通道的覆盖周期信息删除。
在一个示例中,管理节点在各个存储节点均在线的情况下,向各个存储节点发送查询请求。由于管理节点与各个存储节点均建立通信连接,因此管理节点能获悉各个存储节点是否在线。
在另一个示例中,管理节点在指定存储节点均在线的情况下,向各个指定存储节点发送查询请求,上述指定存储节点是用于管理存储有目标通道对应的数据文件的存储设备的存储节点。
相应地,存储节点接收管理节点发送的查询请求。
步骤302,存储节点向管理节点发送查询响应。
查询响应用于指示是否存储目标通道对应的数据文件。
相应地,管理节点接收存储节点发送的查询响应。
步骤303,确定出各个存储节点中均未存储目标通道对应的数据文件时,删除目标通道的覆盖周期信息。
当管理节点接收到各个存储节点发送的查询响应均用于指示未存储目标通道对应的数据文件时,确定出各个存储节点中均未存储目标通道对应的数据文件时,确定目标通道的覆盖周期信息是冗余的,并将目标通道的覆盖周期信息删除。
可选地,管理节点每隔预设时间向存储节点发送查询请求,并在确定出各个存储节点中均未存储目标通道对应的数据文件的次数符合预设条件时,删除目标通道的覆盖周期信息。上述预设条件是指管理节点确定出各个存储节点中均未存储目标通道对应的数据文件的连续次数超过预设次数。预设次数可以根据实际需求设定,比如,预设次数为3次。
综上所述,本发明实施例提供的方法,还通过对冗余的覆盖周期信息进行清理,仅保存有效的覆盖周期信息,避免冗余的覆盖周期信息占用太多存储空间,还可以使存储节点在执行定期清理任务时,检索通道的覆盖周期信息的效率提高,进而提高回收存储资源的效率。
需要说明的一点是,在上述图2和图3实施例中,仅以目标通道为例,对与目标通道的覆盖周期信息相关的清理过期数据文件的过程和清理覆盖周期信息的过程进行了介绍说明。在实际应用中,图2实施例涉及的目标通道可以是云存储系统所提供服务的任意一个通道,也即上述图2实施例提供的清理过期数据文件的过程对任意一个通道均适用。图3实施例涉及的目标通道可以是云存储系统中存在覆盖周期信息的任意一个通道,也即上述图3实施例提供的清理覆盖周期信息的过程对存在覆盖周期信息的任意一个通道均适用。另外,图2实施例中涉及的“目标通道”和图3实施例中涉及的“目标通道”可以是相同的通道,也可以是不同的通道,本发明实施例对此不作限定。
在上述方法实施例中,有关存储节点一侧的步骤可以单独实现成为存储节点侧的存储资源回收方法,有关管理节点一侧的步骤可以单独实现成为管理节点侧的存储资源回收方法。
结合参考图4,其示出了本发明一个实施例提供的管理节点和存储节点的结构示意图。
管理节点中包括数据接收模块、适配模块、分布式组件和数据库。其中,数据接收模块用于实现覆盖周期信息的收发功能;适配模块用于对不能被管理节点识别的覆盖周期信息进行适配处理,进而得到能被管理节点识别的覆盖周期信息;分布式组件用于存储覆盖周期信息,存储节点可通过访问分布式组件以获取覆盖周期信息;数据库用于对至少一个通道的覆盖周期信息进行备份。
存储节点中包括资源回收模块、适配模块和数据库。资源回收模块用于接收覆盖周期信息,并定期清理云存储系统中的过期数据文件;适配模块用于对不能被存储节点识别的覆盖周期信息进行适配处理,进而得到能被存储节点识别的覆盖周期信息;数据库用于存储覆盖周期信息。
下述为本发明装置实施例,可以用于执行本发明方法实施例。对于本发明装置实施例中未披露的细节,请参照本发明方法实施例。
请参考图5,其示出了本发明一个实施例提供的存储资源回收装置的框图。该装置应用于云存储系统的存储节点中,所述云存储系统用于为n个通道各自对应的数据文件提供数据存储服务,n为正整数。该装置具有实现上述方法示例中存储节点侧的功能,所述功能可以由硬件实现,也可以由硬件执行相应的软件实现。该装置可以包括:文件检测模块501和文件删除模块502。
文件检测模块501,用于在执行对所述云存储系统中已存储的目标通道对应的数据文件的定期清理任务时,若所述存储节点中存储有所述目标通道的覆盖周期信息,则检测所述目标通道对应的数据文件中是否存在过期数据文件,其中,所述目标通道的覆盖周期信息用于指示所述目标通道对应的数据文件在所述云存储系统中的最大保存时长,所述过期数据文件是指已保存时长达到所述最大保存时长的数据文件,所述目标通道是所述n个通道中的任意一个。
文件删除模块502,用于若所述目标通道对应的数据文件中存在所述过期数据文件,则删除所述过期数据文件。
综上所述,本发明实施例提供的装置,在云存储系统中扩充了为通道设置覆盖周期信息的功能,以使得存储节点能够根据覆盖周期信息所指示的最大保存时长对各个通道对应的过期数据文件进行清理,在保证云存储系统的存储空间充足的前提下,对各个通道对应的数据文件在云存储系统中的保存时长进行灵活控制,更加符合用户的实际使用需求。
在基于图5所示实施例提供的一个可选的实施例中,所述装置还包括:信息获取模块(图中未示出)。
信息获取模块,用于从所述云存储系统的管理节点获取所述目标通道的覆盖周期信息。
在基于图5所示实施例提供的另一个可选的实施例中,所述信息获取模块,用于:
接收所述管理节点发送的信息更新通知,所述信息更新通知用于指示所述管理节点中存储的覆盖周期信息已更新;
根据所述信息更新通知向所述管理节点发送第一信息获取请求,所述第一信息获取请求用于请求获取更新的覆盖周期信息,所述更新的覆盖周期信息中包括所述目标通道的覆盖周期信息;
接收所述管理节点发送的所述更新的覆盖周期信息。
在基于图5所示实施例提供的另一个可选的实施例中,所述信息获取模块,用于:
向所述管理节点发送第二信息获取请求,所述第二信息获取请求用于请求获取所述管理节点中保存的至少一个通道的覆盖周期信息,所述至少一个通道的覆盖周期信息中包括所述目标通道的覆盖周期信息;
接收所述管理节点发送的所述至少一个通道的覆盖周期信息。
在基于图5所示实施例提供的另一个可选的实施例中,所述装置还包括:请求接收模块和响应发送模块(图中未示出)。
请求接收模块,用于接收所述管理节点发送的查询请求,所述查询请求用于请求查询所述存储节点中是否存储有目标通道对应的数据文件。
响应发送模块,用于向所述管理节点发送与所述查询请求对应的查询响应,以使得所述管理节点在根据所述云存储系统中的各个所述存储节点反馈的查询响应,确定出所有存储节点中均未存储所述目标通道对应的数据文件时,删除所述目标通道的覆盖周期信息。
在基于图5所示实施例提供的另一个可选的实施例中,所述目标通道的覆盖周期信息存在多条,所述目标通道的每一条覆盖周期信息用于指示所述目标通道对应的数据文件在所述云存储系统的一个资源池中的最大保存时长。
请参考图6,其示出了本发明一个实施例提供的存储资源回收装置的框图。该装置应用于云存储系统的管理节点中,所述云存储系统用于为n个通道各自对应的数据文件提供数据存储服务,n为正整数。该装置具有实现上述方法管理节点侧示例的功能,所述功能可以由硬件实现,也可以由硬件执行相应的软件实现。该装置可以包括:信息获取模块601和信息提供模块602。
信息获取模块601,用于获取至少一个通道的覆盖周期信息,所述至少一个通道的覆盖周期信息用于指示所述至少一个通道对应的数据文件在所述云存储系统中的最大保存时长。
信息提供模块602,用于向所述云存储系统中的存储节点提供所述至少一个通道的覆盖周期信息,以使得所述存储节点在执行对所述云存储系统中已存储的目标通道对应的数据文件的定期清理任务时,若所述存储节点中存储有所述目标通道的覆盖周期信息,并且所述目标通道对应的数据文件中存在过期数据文件,删除所述过期数据文件,所述过期数据文件是指已保存时长达到所述最大保存时长的数据文件,所述目标通道是所述n个通道中的任意一个。
综上所述,本发明实施例提供的装置,在云存储系统中扩充了为通道设置覆盖周期信息的功能,以使得存储节点能够根据覆盖周期信息所指示的最大保存时长对各个通道对应的过期数据文件进行清理,在保证云存储系统的存储空间充足的前提下,对各个通道对应的数据文件在云存储系统中的保存时长进行灵活控制,更加符合用户的实际使用需求。
在基于图6所示实施例提供的一个可选的实施例中,所述信息提供模块602,用于:
向所述存储节点发送信息更新通知,所述信息更新通知用于指示所述管理节点中存储的覆盖周期信息已更新;
接收所述存储节点根据所述信息更新通知发送的第一信息获取请求,所述第一信息获取请求用于请求获取更新的覆盖周期信息,所述更新的覆盖周期信息中包括所述目标通道的覆盖周期信息;
向所述存储节点发送所述更新的覆盖周期信息。
在基于图6所示实施例提供的另一个可选的实施例中,所述信息提供模块602,用于:
接收所述存储节点发送的第二信息获取请求,所述第二信息获取请求用于请求获取所述管理节点中保存的至少一个通道的覆盖周期信息,所述至少一个通道的覆盖周期信息中包括所述目标通道的覆盖周期信息;
向所述存储节点发送至少一个通道的覆盖周期信息。
在基于图6所示实施例提供的另一个可选的实施例中,所述装置还包括:请求发送模块、响应接收模块和信息删除模块(图中未示出)。
请求发送模块,用于向所述存储节点发送查询请求,所述查询请求用于请求查询所述存储节点中是否存储有目标通道对应的数据文件,所述目标通道是在所述管理节点中存储有相应的覆盖周期信息的通道。
响应接收模块,用于接收所述存储节点发送的与所述查询请求对应的查询响应。
信息删除模块,用于在根据所述云存储系统中的各个所述存储节点反馈的查询响应,确定出所有存储节点中均未存储所述目标通道对应的数据文件时,删除所述目标通道的覆盖周期信息。
在基于图6所示实施例提供的另一个可选的实施例中,所述目标通道的覆盖周期信息存在多条,所述目标通道的每一条覆盖周期信息用于指示所述目标通道对应的数据文件在所述云存储系统的一个资源池中的最大保存时长。
在基于图6所示实施例提供的另一个可选的实施例中,所述装置还包括:信息存储模块(图中未示出)。
信息存储模块,用于在分布式组件和数据库中分别存储所述目标通道的覆盖周期信息,所述分布式组件用于向所述存储节点提供所述目标通道的覆盖周期信息,所述数据库用于对所述目标通道的覆盖周期信息进行备份。
需要说明的是,上述实施例提供的装置,在实现其功能时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的装置与方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
请参考图7,其示出了本发明一个实施例提供的电子设备700的结构方框图。电子设备700可以是存储节点,还可以是管理节点。所述电子设备700包括中央处理单元(CPU)701、包括随机存取存储器(RAM)702和只读存储器(ROM)703的系统存储器704,以及连接系统存储器704和中央处理单元701的系统总线705。所述电子设备700还包括帮助计算机内的各个器件之间传输信息的基本输入/输出系统(I/O系统)706,和用于存储操作系统713、应用程序714和其他程序模块715的大容量存储设备707。
所述基本输入/输出系统706包括有用于显示信息的显示器708和用于用户输入信息的诸如鼠标、键盘之类的输入设备709。其中所述显示器708和输入设备709都通过连接到系统总线705的输入输出控制器710连接到中央处理单元701。所述基本输入/输出系统706还可以包括输入输出控制器710以用于接收和处理来自键盘、鼠标、或电子触控笔等多个其他设备的输入。类似地,输入输出控制器710还提供输出到显示屏、打印机或其他类型的输出设备。
所述大容量存储设备707通过连接到系统总线705的大容量存储控制器(未示出)连接到中央处理单元701。所述大容量存储设备707及其相关联的计算机可读介质为电子设备700提供非易失性存储。也就是说,所述大容量存储设备707可以包括诸如硬盘或者CD-ROM驱动器之类的计算机可读介质(未示出)。
不失一般性,所述计算机可读介质可以包括计算机存储介质和通信介质。计算机存储介质包括以用于存储诸如计算机可读指令、数据结构、程序模块或其他数据等信息的任何方法或技术实现的易失性和非易失性、可移动和不可移动介质。计算机存储介质包括RAM、ROM、EPROM、EEPROM、闪存或其他固态存储其技术,CD-ROM、DVD或其他光学存储、磁带盒、磁带、磁盘存储或其他磁性存储设备。当然,本领域技术人员可知所述计算机存储介质不局限于上述几种。上述的系统存储器704和大容量存储设备707可以统称为存储器。
根据本发明的各种实施例,所述电子设备700还可以通过诸如因特网等网络连接到网络上的远程计算机运行。也即电子设备700可以通过连接在所述系统总线705上的网络接口单元711连接到网络712,或者说,也可以使用网络接口单元711来连接到其他类型的网络或远程计算机系统(未示出)。
当电子设备700为存储节点时,所述存储器中存储有至少一条指令,所述指令由所述处理器加载并执行以实现存储节点侧的存储资源回收方法。
当电子设备700为管理节点时,所述存储器中存储有至少一条指令,所述指令由所述处理器加载并执行以实现管理节点侧的存储资源回收方法。
在示例性实施例中,还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一条指令,所述指令由存储节点的处理器加载并执行以实现上述方法实施例中存储节点侧的各个步骤。
在示例性实施例中,还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一条指令,由管理节点的处理器加载并执行以实现上述方法实施例中管理节点侧的各个步骤。
在示例性实施例中,还提供了一种计算机程序产品,当该计算机程序产品被执行时,其用于实现上述方法实施例中的存储节点侧的各个步骤的功能。
在示例性实施例中,还提供了一种计算机程序产品,当该计算机程序产品被执行时,其用于实现上述方法实施例中的管理节点侧的各个步骤的功能。
应当理解的是,在本文中提及的“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。本文中使用的“第一”、“第二”以及类似的词语并不表示任何顺序、数量或者重要性,而只是用来区分不同的组成部分。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
以上所述仅为本发明的示例性实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (23)

1.一种存储资源回收方法,其特征在于,应用于云存储系统的存储节点中,所述云存储系统用于为n个通道各自对应的数据文件提供数据存储服务,n为正整数;
所述方法包括:
在执行对所述云存储系统中已存储的目标通道对应的数据文件的定期清理任务时,若所述存储节点中存储有所述目标通道的覆盖周期信息,则检测所述目标通道对应的数据文件中是否存在过期数据文件,其中,所述目标通道的覆盖周期信息存在多条,所述目标通道的每一条覆盖周期信息用于指示所述目标通道对应的数据文件在所述云存储系统的一个资源池中的最大保存时长,所述目标通道对应的数据文件在所述云存储系统中的不同的资源池中的最大保存时长相同或不同,所述过期数据文件是指已保存时长达到所述最大保存时长的数据文件,所述目标通道是所述n个通道中的任意一个,所述存储节点所属的资源池中存储有多个通道对应的数据文件,所述多个通道对应的数据文件的最大保存时长相同或不同;
若所述目标通道对应的数据文件中存在所述过期数据文件,则删除所述过期数据文件;
所述方法还包括:
若所述存储节点中未存储所述目标通道的覆盖周期信息,则根据资源池回收策略对所述目标通道对应的数据文件执行定期清理任务。
2.根据权利要求1所述的方法,其特征在于,所述检测所述目标通道对应的数据文件中是否存在过期数据文件之前,还包括:
从所述云存储系统的管理节点获取所述目标通道的覆盖周期信息。
3.根据权利要求2所述的方法,其特征在于,所述从所述云存储系统的管理节点获取所述目标通道的覆盖周期信息,包括:
接收所述管理节点发送的信息更新通知,所述信息更新通知用于指示所述管理节点中存储的覆盖周期信息已更新;
根据所述信息更新通知向所述管理节点发送第一信息获取请求,所述第一信息获取请求用于请求获取更新的覆盖周期信息,所述更新的覆盖周期信息包括所述目标通道的覆盖周期信息;
接收所述管理节点发送的所述更新的覆盖周期信息。
4.根据权利要求2所述的方法,其特征在于,所述从所述云存储系统的管理节点获取所述目标通道的覆盖周期信息,包括:
向所述管理节点发送第二信息获取请求,所述第二信息获取请求用于请求获取所述管理节点中保存的至少一个通道的覆盖周期信息,所述至少一个通道的覆盖周期信息包括所述目标通道的覆盖周期信息;
接收所述管理节点发送的所述至少一个通道的覆盖周期信息。
5.根据权利要求2所述的方法,其特征在于,所述从所述云存储系统的管理节点获取所述目标通道的覆盖周期信息之后,还包括:
接收所述管理节点发送的查询请求,所述查询请求用于请求查询所述存储节点中是否存储有所述目标通道对应的数据文件;
向所述管理节点发送与所述查询请求对应的查询响应,以使得所述管理节点在根据所述云存储系统中的各个所述存储节点反馈的查询响应,确定出所有存储节点中均未存储所述目标通道对应的数据文件时,删除所述目标通道的覆盖周期信息。
6.一种存储资源回收方法,其特征在于,应用于云存储系统的管理节点中,所述云存储系统用于为n个通道各自对应的数据文件提供数据存储服务,n为正整数;
所述方法包括:
获取目标通道的覆盖周期信息,所述目标通道的覆盖周期信息存在多条,所述目标通道的每一条覆盖周期信息用于指示所述目标通道对应的数据文件在所述云存储系统的一个资源池中的最大保存时长,所述目标通道对应的数据文件在所述云存储系统中的不同的资源池中的最大保存时长相同或不同,所述存储节点所属的资源池中存储有多个通道对应的数据文件,所述多个通道对应的数据文件的最大保存时长相同或不同;
向所述云存储系统中的存储节点提供所述目标通道的覆盖周期信息,以使得所述存储节点在执行对所述云存储系统中已存储的所述目标通道对应的数据文件的定期清理任务时,若所述存储节点中存储有所述目标通道的覆盖周期信息,并且所述目标通道对应的数据文件中存在过期数据文件,则删除所述过期数据文件,所述过期数据文件是指已保存时长达到所述最大保存时长的数据文件,所述目标通道是所述n个通道中的任意一个;
所述存储节点还用于若所述存储节点中未存储所述目标通道的覆盖周期信息,则根据资源池回收策略对所述目标通道对应的数据文件执行定期清理任务。
7.根据权利要求6所述的方法,其特征在于,所述向所述云存储系统中的存储节点提供所述目标通道的覆盖周期信息,包括:
向所述存储节点发送信息更新通知,所述信息更新通知用于指示所述管理节点中存储的覆盖周期信息已更新;
接收所述存储节点根据所述信息更新通知发送的第一信息获取请求,所述第一信息获取请求用于请求获取更新的覆盖周期信息,所述更新的覆盖周期信息包括所述目标通道的覆盖周期信息;
向所述存储节点发送所述更新的覆盖周期信息。
8.根据权利要求6所述的方法,其特征在于,所述向所述云存储系统中的存储节点提供所述目标通道的覆盖周期信息,包括:
接收所述存储节点发送的第二信息获取请求,所述第二信息获取请求用于请求获取所述管理节点中保存的至少一个通道的覆盖周期信息,所述至少一个通道的覆盖周期信息包括所述目标通道的覆盖周期信息;
向所述存储节点发送所述至少一个通道的覆盖周期信息。
9.根据权利要求6所述的方法,其特征在于,所述获取目标通道的覆盖周期信息之后,还包括:
向所述存储节点发送查询请求,所述查询请求用于请求查询所述存储节点中是否存储有所述目标通道对应的数据文件;
接收所述存储节点发送的与所述查询请求对应的查询响应;
在根据所述云存储系统中的各个所述存储节点反馈的查询响应,确定出所有存储节点中均未存储所述目标通道对应的数据文件时,删除所述目标通道的覆盖周期信息。
10.根据权利要求6至9任一项所述的方法,其特征在于,所述获取目标通道的覆盖周期信息之后,还包括:
在分布式组件和数据库中分别存储所述目标通道的覆盖周期信息,所述分布式组件用于向所述存储节点提供所述目标通道的覆盖周期信息,所述数据库用于对所述目标通道的覆盖周期信息进行备份。
11.一种存储资源回收装置,其特征在于,应用于云存储系统的存储节点中,所述云存储系统用于为n个通道各自对应的数据文件提供数据存储服务,n为正整数;
所述装置包括:
文件检测模块,用于在执行对所述云存储系统中已存储的目标通道对应的数据文件的定期清理任务时,若所述存储节点中存储有所述目标通道的覆盖周期信息,则检测所述目标通道对应的数据文件中是否存在过期数据文件,其中,所述目标通道的覆盖周期信息存在多条,所述目标通道的每一条覆盖周期信息用于指示所述目标通道对应的数据文件在所述云存储系统的一个资源池中的最大保存时长,所述目标通道对应的数据文件在所述云存储系统中的不同的资源池中的最大保存时长相同或不同,所述过期数据文件是指已保存时长达到所述最大保存时长的数据文件,所述目标通道是所述n个通道中的任意一个,所述存储节点所属的资源池中存储有多个通道对应的数据文件,所述多个通道对应的数据文件的最大保存时长相同或不同;
文件删除模块,用于若所述目标通道对应的数据文件中存在所述过期数据文件,则删除所述过期数据文件;
所述装置还包括执行若所述存储节点中未存储所述目标通道的覆盖周期信息,则根据资源池回收策略对所述目标通道对应的数据文件执行定期清理任务的模块。
12.根据权利要求11所述的装置,其特征在于,所述装置还包括:
信息获取模块,用于从所述云存储系统的管理节点获取所述目标通道的覆盖周期信息。
13.根据权利要求12所述的装置,其特征在于,所述信息获取模块,用于:
接收所述管理节点发送的信息更新通知,所述信息更新通知用于指示所述管理节点中存储的覆盖周期信息已更新;
根据所述信息更新通知向所述管理节点发送第一信息获取请求,所述第一信息获取请求用于请求获取更新的覆盖周期信息,所述更新的覆盖周期信息包括所述目标通道的覆盖周期信息;
接收所述管理节点发送的所述更新的覆盖周期信息。
14.根据权利要求12所述的装置,其特征在于,所述信息获取模块,用于:
向所述管理节点发送第二信息获取请求,所述第二信息获取请求用于请求获取所述管理节点中保存的至少一个通道的覆盖周期信息,所述至少一个通道的覆盖周期信息包括所述目标通道的覆盖周期信息;
接收所述管理节点发送的所述至少一个通道的覆盖周期信息。
15.根据权利要求12所述的装置,其特征在于,所述装置还包括:
请求接收模块,用于接收所述管理节点发送的查询请求,所述查询请求用于请求查询所述存储节点中是否存储有所述目标通道对应的数据文件;
响应发送模块,用于向所述管理节点发送与所述查询请求对应的查询响应,以使得所述管理节点在根据所述云存储系统中的各个所述存储节点反馈的查询响应,确定出所有存储节点中均未存储所述目标通道对应的数据文件时,删除所述目标通道的覆盖周期信息。
16.一种存储资源回收装置,其特征在于,应用于云存储系统的管理节点中,所述云存储系统用于为n个通道各自对应的数据文件提供数据存储服务,n为正整数;
所述装置包括:
信息获取模块,用于获取目标通道的覆盖周期信息,所述目标通道的覆盖周期信息存在多条,所述目标通道的每一条覆盖周期信息用于指示所述目标通道对应的数据文件在所述云存储系统的一个资源池中的最大保存时长,所述目标通道对应的数据文件在所述云存储系统中的不同的资源池中的最大保存时长相同或不同,所述存储节点所属的资源池中存储有多个通道对应的数据文件,所述多个通道对应的数据文件的最大保存时长相同或不同;
信息提供模块,用于向所述云存储系统中的存储节点提供所述目标通道的覆盖周期信息,以使得所述存储节点在执行对所述云存储系统中已存储的目标通道对应的数据文件的定期清理任务时,若所述存储节点中存储有所述目标通道的覆盖周期信息,并且所述目标通道对应的数据文件中存在过期数据文件,删除所述过期数据文件,所述过期数据文件是指已保存时长达到所述最大保存时长的数据文件,所述目标通道是所述n个通道中的任意一个;
所述存储节点还用于若所述存储节点中未存储所述目标通道的覆盖周期信息,则根据资源池回收策略对所述目标通道对应的数据文件执行定期清理任务。
17.根据权利要求16所述的装置,其特征在于,所述信息提供模块,用于:
向所述存储节点发送信息更新通知,所述信息更新通知用于指示所述管理节点中存储的覆盖周期信息已更新;
接收所述存储节点根据所述信息更新通知发送的第一信息获取请求,所述第一信息获取请求用于请求获取更新的覆盖周期信息,所述更新的覆盖周期信息包括所述目标通道的覆盖周期信息;
向所述存储节点发送所述更新的覆盖周期信息。
18.根据权利要求16所述的装置,其特征在于,所述信息提供模块,用于:
接收所述存储节点发送的第二信息获取请求,所述第二信息获取请求用于请求获取所述管理节点中保存的至少一个通道的覆盖周期信息,所述至少一个通道的覆盖周期信息包括所述目标通道的覆盖周期信息;
向所述存储节点发送至少一个通道的覆盖周期信息。
19.根据权利要求16所述的装置,其特征在于,所述装置还包括:
请求发送模块,用于向所述存储节点发送查询请求,所述查询请求用于请求查询所述存储节点中是否存储有所述目标通道对应的数据文件;
响应接收模块,用于接收所述存储节点发送的与所述查询请求对应的查询响应;
信息删除模块,用于在根据所述云存储系统中的各个所述存储节点反馈的查询响应,确定出所有存储节点中均未存储所述目标通道对应的数据文件时,删除所述目标通道的覆盖周期信息。
20.根据权利要求16至19任一项所述的装置,其特征在于,所述装置还包括:
信息存储模块,用于在分布式组件和数据库中分别存储所述目标通道的覆盖周期信息,所述分布式组件用于向所述存储节点提供所述目标通道的覆盖周期信息,所述数据库用于对所述目标通道的覆盖周期信息进行备份。
21.一种云存储系统,其特征在于,所述云存储系统包括:存储节点和管理节点;
所述存储节点包括如权利要求11至15任一项所述的装置;
所述管理节点包括如权利要求16至19任一项所述的装置。
22.一种计算机可读存储介质,所述存储介质包括至少一条指令,所述至少一条指令由存储节点的处理器加载并执行以实现权利要求1-5任一项所述的存储资源回收方法。
23.一种计算机可读存储介质,所述存储介质包括至少一条指令,所述至少一条指令由管理节点的处理器加载并执行以实现权利要求6-10任一项所述的存储资源回收方法。
CN201710660494.XA 2017-08-04 2017-08-04 存储资源回收方法、装置及系统 Active CN109391647B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201710660494.XA CN109391647B (zh) 2017-08-04 2017-08-04 存储资源回收方法、装置及系统
PCT/CN2018/098478 WO2019024910A1 (zh) 2017-08-04 2018-08-03 存储资源回收方法、装置及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710660494.XA CN109391647B (zh) 2017-08-04 2017-08-04 存储资源回收方法、装置及系统

Publications (2)

Publication Number Publication Date
CN109391647A CN109391647A (zh) 2019-02-26
CN109391647B true CN109391647B (zh) 2021-08-17

Family

ID=65233165

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710660494.XA Active CN109391647B (zh) 2017-08-04 2017-08-04 存储资源回收方法、装置及系统

Country Status (2)

Country Link
CN (1) CN109391647B (zh)
WO (1) WO2019024910A1 (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110069457A (zh) * 2019-04-24 2019-07-30 苏州浪潮智能科技有限公司 一种基于分布式文件存储系统中过期文件删除方法及系统
CN112181938B (zh) * 2019-07-05 2024-06-14 杭州海康威视数字技术股份有限公司 数据库清理方法、装置和计算机可读存储介质
CN111404978B (zh) * 2019-09-06 2023-05-02 杭州海康威视系统技术有限公司 一种数据存储方法及云存储系统
CN111404980B (zh) * 2019-09-29 2023-04-18 杭州海康威视系统技术有限公司 一种数据存储方法及一种对象存储系统
CN111104456A (zh) * 2019-10-12 2020-05-05 深圳壹账通智能科技有限公司 数据持久化存储方法、装置、计算机设备及存储介质
CN113032414B (zh) * 2021-04-21 2022-09-23 杭州海康威视系统技术有限公司 数据管理方法、装置、系统、计算设备及存储介质
CN114153399B (zh) * 2021-12-07 2023-10-20 四川云从天府人工智能科技有限公司 存储系统的数据存储方法、装置、控制装置和介质
CN114661240A (zh) * 2022-03-30 2022-06-24 阿里巴巴(中国)有限公司 一种数据处理方法和存储系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105516664A (zh) * 2015-12-11 2016-04-20 深圳市奔迈科技有限公司 一种基于云存储的智能监控系统及其监控方法
WO2016149903A1 (en) * 2015-03-24 2016-09-29 Intellectual Ventures Hong Kong Limited High bit rate covert channel in cloud storage systems
CN106850710A (zh) * 2015-12-03 2017-06-13 杭州海康威视数字技术股份有限公司 一种数据云存储系统、客户终端、存储服务器及应用方法
CN106961569A (zh) * 2017-03-21 2017-07-18 深圳英飞拓科技股份有限公司 一种录像覆盖方法、装置及网络硬盘录像机

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7610348B2 (en) * 2003-05-07 2009-10-27 International Business Machines Distributed file serving architecture system with metadata storage virtualization and data access at the data server connection speed
US7536424B2 (en) * 2004-05-02 2009-05-19 Yoram Barzilai System and methods for efficiently managing incremental data backup revisions
CN101997884B (zh) * 2009-08-18 2014-05-14 升东网络科技发展(上海)有限公司 分布式存储系统和方法
CN103152423A (zh) * 2013-03-15 2013-06-12 安科智慧城市技术(中国)有限公司 一种云存储系统及其数据存取方法
CN103353892A (zh) * 2013-07-05 2013-10-16 北京东方网信科技股份有限公司 一种适应海量存储的数据清理方法及系统
CN105338027B (zh) * 2014-07-30 2019-01-25 杭州海康威视系统技术有限公司 进行视频数据云存储的方法、系统及装置
CN104219283B (zh) * 2014-08-06 2017-12-29 上海爱数信息技术股份有限公司 基于云存储的文件按需下载和自动同步方法及其装置
CN106126407B (zh) * 2016-06-22 2018-07-17 西安交通大学 一种针对分布式存储系统的性能监控调优系统及方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016149903A1 (en) * 2015-03-24 2016-09-29 Intellectual Ventures Hong Kong Limited High bit rate covert channel in cloud storage systems
CN106850710A (zh) * 2015-12-03 2017-06-13 杭州海康威视数字技术股份有限公司 一种数据云存储系统、客户终端、存储服务器及应用方法
CN105516664A (zh) * 2015-12-11 2016-04-20 深圳市奔迈科技有限公司 一种基于云存储的智能监控系统及其监控方法
CN106961569A (zh) * 2017-03-21 2017-07-18 深圳英飞拓科技股份有限公司 一种录像覆盖方法、装置及网络硬盘录像机

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
"面向云计算的多维数据索引研究";何婧;《中国博士学位论文全文数据库(电子期刊)》;20170215;全文 *

Also Published As

Publication number Publication date
WO2019024910A1 (zh) 2019-02-07
CN109391647A (zh) 2019-02-26

Similar Documents

Publication Publication Date Title
CN109391647B (zh) 存储资源回收方法、装置及系统
CN109857737B (zh) 一种冷热数据存储方法及装置、电子设备
CN104462563A (zh) 一种文件存储方法和系统
CN103024329B (zh) 一种监控录像的存储管理方法
CN104679772A (zh) 分布式数据仓库中删除文件的方法、装置、设备及系统
CN112506870B (zh) 数据仓库增量更新方法、装置及计算机设备
CN108762984B (zh) 一种连续性数据备份的方法及装置
CN103902405B (zh) 一种准连续性数据复制方法及装置
CN105338027A (zh) 进行视频数据云存储的方法、系统及装置
CN111399764B (zh) 数据存储方法、读取方法、装置、设备及存储介质
JP2012103847A (ja) データベース移行管理装置及びその方法
CN101533416A (zh) 一种音视频文件管理方法及系统
CN108140035B (zh) 分布式系统的数据库复制方法及装置
CN106331047A (zh) 一种集群设备性能同步统计方法及系统
CN103716384A (zh) 跨数据中心实现云存储数据同步的方法和装置
CN112069195A (zh) 基于数据库的消息传输方法、装置、电子设备及存储介质
CN109542841B (zh) 集群中创建数据快照的方法及终端设备
CN107562568B (zh) 备份文件的方法及装置
CN111654671B (zh) 视频数据的存储方法、装置、设备及存储介质
CN102325171B (zh) 一种监控系统中数据的存储方法及其系统
CN106998436B (zh) 录像备份方法及装置
CN110324385A (zh) 数据同步方法及装置、分布式系统
CN101431429B (zh) 一种设备中物理实体信息管理方法及设备与设备管理端
CN113434492A (zh) 数据的检测方法、装置、存储介质和电子装置
CN114281250A (zh) 存储文件的清理方法及装置、存储介质、电子装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant