CN109558065A - 数据删除方法及分布式存储系统 - Google Patents
数据删除方法及分布式存储系统 Download PDFInfo
- Publication number
- CN109558065A CN109558065A CN201710876800.3A CN201710876800A CN109558065A CN 109558065 A CN109558065 A CN 109558065A CN 201710876800 A CN201710876800 A CN 201710876800A CN 109558065 A CN109558065 A CN 109558065A
- Authority
- CN
- China
- Prior art keywords
- data
- subregion
- storage
- time
- deleted
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 84
- 238000003860 storage Methods 0.000 claims abstract description 490
- 238000012217 deletion Methods 0.000 claims abstract description 91
- 230000037430 deletion Effects 0.000 claims abstract description 91
- 238000005192 partition Methods 0.000 claims description 55
- 238000012163 sequencing technique Methods 0.000 claims description 9
- 238000007726 management method Methods 0.000 description 124
- 230000003993 interaction Effects 0.000 description 21
- 238000010586 diagram Methods 0.000 description 18
- 238000004891 communication Methods 0.000 description 14
- 230000001360 synchronised effect Effects 0.000 description 13
- 238000012545 processing Methods 0.000 description 7
- 230000005540 biological transmission Effects 0.000 description 6
- 238000004590 computer program Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000013316 zoning Methods 0.000 description 6
- 239000004744 fabric Substances 0.000 description 4
- 238000013500 data storage Methods 0.000 description 3
- 238000000151 deposition Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000000737 periodic effect Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- VYPSYNLAJGMNEJ-UHFFFAOYSA-N silicon dioxide Inorganic materials O=[Si]=O VYPSYNLAJGMNEJ-UHFFFAOYSA-N 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000000802 evaporation-induced self-assembly Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 239000010453 quartz Substances 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0608—Saving storage space on storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0638—Organizing or formatting or addressing of data
- G06F3/0644—Management of space entities, e.g. partitions, extents, pools
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例提供了一种数据删除方法及分布式存储系统,应用于分布式存储系统中的管理服务器的方法,包括:当确定需要批量删除数据时,根据预设的数据删除规则,确定目标时间点;将所确定的目标时间点发送给存储服务器,以使接收到所述目标时间点的存储服务器按照所述目标时间点删除待删除数据,其中,所述待删除数据为存储时间在所述目标时间点之前的已存储数据。应用本发明实施例提供的数据删除方法,可以提高存储空间释放的效率。
Description
技术领域
本发明涉及数据处理技术领域,特别是涉及一种数据删除方法及分布式存储系统。
背景技术
分布式存储系统是将不同的服务器通过网络进行互联并协同工作,以向用户提供海量数据存储功能的系统。分布式存储系统主要包括:管理服务器和存储服务器,管理服务器用于存储的数据的索引信息,数据的索引信息包括数据的大小、存储时间以及存储位置等信息,在数据分块存储的情况下,数据的索引信息还包括该数据对应的数据的数据块的索引信息;示例性的,管理服务器可以为对象存储系统中的元数据服务器((MetadataServer,MDS);存储服务器主要用于存储数据,示例性的,存储服务器可以为对象存储服务器(Object-based Storage Device,OSD)。
由于分布式存储系统的存储空间不可能无限扩展,随着用户的存储需求越来越多,需要存储的数据越来越多,为了满足用户的存储需求,可以批量删除部分已经存储的数据,释放存储空间,使得分布式存储系统能够存储更多的新的数据。
现有的数据删除方法为:管理服务器定期根据预设的存储周期和数据的存储时间,确定过期的数据;针对所确定的过期的数据中的每一数据,确定存储有该数据的存储服务器,并针对该数据的每一数据块生成一个删除指令;向所确定的存储服务器发送删除指令以使接收到删除指令的存储服务器删除该删除指令对应的数据块。管理服务器可以在向存储服务器发送删除指令后删除所确定的数据的索引信息。
在上述方法中,管理服务器针对一个数据块生成一个删除指令,并通过网络协议将删除指令发送给存储服务器,通过网络协议进行指令的传输这种网络交互需要一定的时间,当存在大量的删除指令需要发送的情况下,会产生大量的网络交互,这些网络交互会消耗大量的时间,从而会导致批量删除数据时速度比较慢,存储空间释放的效率不高。
发明内容
本发明实施例的目的在于提供一种数据删除方法及分布式存储系统,以实现提高存储空间释放的效率。具体技术方案如下:
第一方面,为了达到上述目的,本发明实施例提供了一种数据删除方法,应用于分布式存储系统中的管理服务器,所述方法包括:
当确定需要批量删除数据时,根据预设的数据删除规则,确定目标时间点;
将所确定的目标时间点发送给存储服务器,以使接收到所述目标时间点的存储服务器按照所述目标时间点删除待删除数据,其中,所述待删除数据为存储时间在所述目标时间点之前的已存储数据。
可选的,所述方法还包括:
定时根据各个存储服务器的系统时间,获得标准时间,其中,所述标准时间为对各个存储服务器的系统时间进行同步处理后的时间;
所述存储时间为存储服务器存储数据时的标准时间;
所述目标时间点为所述待删除数据的存储时间中最晚的存储时间。
可选的,所述定时根据各个存储服务器的系统时间,获得标准时间,包括:
定时获取各个存储服务器的系统时间;
判断所获得的所有系统时间的个数是否大于预设数量;
如果是,将除一个最大系统时间和一个最小系统时间之外的其他所有系统时间按照大小进行排序,将排序排在中间的系统时间,作为标准时间,
或,
计算除一个最大系统时间和一个最小系统时间之外的其他所有系统时间的平均值,作为标准时间;
如果否,计算所获得的所有系统时间的平均值,作为标准时间。
可选的,所述根据预设的数据删除规则,确定目标时间点,包括:
根据预设的每个分区的数据删除规则,确定每个要删除数据的第一分区的目标时间点;
在所述将所确定的目标时间点发送给存储服务器之前,所述方法还包括:
获取每个第一分区的分区标识;
所述将所确定的目标时间点发送给存储服务器,以使接收到所述目标时间点的存储服务器按照所述目标时间点删除待删除数据,包括:
将每个第一分区的目标时间点及对应的分区标识发送给各个第一分区对应的存储服务器,以使接收到第一分区的目标时间点和对应的分区标识的存储服务器,按照第一分区的目标时间点和对应的分区标识,删除对应第一分区中所存储的待删除数据。
可选的,所述根据预设的每个分区的数据删除规则,确定每个要删除数据的第一分区的目标时间点,包括:
获得当前时间;
针对每个第一分区,将所获得的当期时间与该第一分区预设的存储周期之差,作为该第一分区的目标时间点。
可选的,所述根据预设的每个分区的数据删除规则,确定每个要删除数据的第一分区的目标时间点,包括:
根据每一分区当前的存储量以及针对每一分区预设的存储阈值,确定每一分区的待删除存储量;
针对待删除存储量不为零的每个第一分区,根据预先记录的该第一分区已存储数据的数据大小,按照预先记录的该第一分区已存储数据的存储时间的先后顺序,确定该第一分区的待删除数据,直至所确定的所有待删除数据的数据总量与该第一分区的待删除存储量之差在预设数据范围内;
针对每个第一分区,从针对该第一分区所确定的所有待删除数据的存储时间中,选择最晚的存储时间,作为该第一分区的目标时间点。
可选的,在根据预设的数据删除规则,确定目标时间点之后,所述方法还包括:
删除在所述目标时间点之前存储的数据的索引信息。
可选的,所述删除在所述目标时间点存储的数据的索引信息,包括:
针对每一第一分区,删除针对该第一分区在该第一分区的目标时间点之前存储的数据的索引信息。
第二方面,为达到上述目的,本发明实施例还提供了一种数据删除方法,应用于分布式存储系统中的存储服务器,所述方法包括:
接收管理服务器发送的目标时间点,其中,所述目标时间点是所述管理服务器确定需要批量删除数据时,根据预设的数据删除规则确定的;
根据目标时间点确定待删除数据;
删除所确定的待删除数据。
第三方面,为了达到上述目的,本发明实施例还提供了一种数据删除方法,应用于分布式存储系统,所述分布式存储系统包括管理服务器和存储服务器,所述方法包括:
所述管理服务器当确定需要批量删除数据时,根据预设的数据删除规则,确定目标时间点;将所确定的目标时间点发送给所述存储服务器;
所述存储服务器在将接收到目标时间点后,根据所述目标时间点,确定待删除数据;删除所确定的待删除数据,其中,所述待删除数据为存储时间在所述目标时间点之前的已存储数据。
第四方面,为了达到上述目的,本发明实施例公开了一种分布式存储系统,所述系统包括管理服务器和存储服务器,
所述管理服务器,用于当确定需要批量删除数据时,根据预设的数据删除规则,确定目标时间点;将所确定的目标时间点发送给所述存储服务器;
所述存储服务器,用于在接收到所述目标时间点后,根据所述目标时间点,确定待删除数据;删除所确定的待删除数据,其中,所述待删除数据为存储时间在所述目标时间点之前的已存储数据。
本发明实施例提供的数据删除方法及分布式存储系统,管理服务器可以向存储服务器发送目标时间点,使得存储服务器可以根据该目标时间点删除待存储数据,不需要针对每个数据块发送删除指令,减少了大量的网络信息交互,因此减少了管理服务器与存储服务器之间的网络交互而消耗的时间,提高存储空间释放的效率。当然,实施本发明的任一产品或方法必不一定需要同时达到以上所述的所有优点。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的数据删除方法的一种流程示意图;
图2为本发明实施例提供的数据删除方法的又一种流程示意图;
图3为本发明实施例提供的数据删除方法的另一种流程示意图;
图4为本发明实施例提供的另一种数据删除方法的流程示意图;
图5为本发明实施例提供的另一种数据删除方法的流程示意图;
图6本发明实施例提供的分布式存储系统的结构示意图;
图7为本发明实施例提供的数据删除装置的结构示意图;
图8为本发明实施例提供的另一种数据删除装置的结构示意图;
图9为本发明实施例提供的管理服务器的结构示意图;
图10为本发明实施例提供的存储服务器的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
为了解决现有技术批量删除数据时速度比较慢,存储空间释放的效率不高的技术问题,本发明实施例提供了一种数据删除方法及分布式存储系统。
下面首先对本发明实施例提供的一种数据删除方法进行详细说明。
本发明实施例提供的数据删除方法可以优选应用于分布式存储系统中的管理服务器,也可以优选应用于分布式存储系统中的存储服务器,还可以优选应用于分布式存储系统。分布式存储系统包括管理服务器和存储服务器,管理服务器主要用于存储数据的索引信息的服务器,存储服务器主要用于存储数据。在本实施例中,管理服务器当确定需要批量删除数据时,根据预设的数据删除规则,确定目标时间点,并将所确定的目标时间点发送给存储服务器,存储服务器按照按照所述目标时间点删除待删除数据。管理服务器不需要针对每个数据块发送删除指令,减少了大量的网络信息交互,因此减少了管理服务器与存储服务器之间的网络交互而消耗的时间,提高存储空间释放的效率。在本发明实施例中,分布式存储系统可以为对象存储系统,对象存储系统可以为用户提供海量、安全、高可靠和易扩展的云存储服务,当分布式存储系统为对象存储系统时,管理服务器可以为MDS,存储服务器可以为OSD。
图1为本发明实施例提供的数据删除方法的一种流程示意图,应用于分布式存储系统中的管理服务器,方法包括:
S101:当确定需要批量删除数据时,根据预设的数据删除规则,确定目标时间点。
本实施例中,可以有如下2种方式来确定是否需要批量删除数据:
第一种:按照预设时间间隔,当距离上一次确定是否需要批量删除数据达到预设时间时间间隔时,确定是否需要批量删除数据。
预设时间间隔可以基于在预设时长内待存储的数据量和存储服务器的存储容量确定,也可以根据存储的数据的类型确定,当然,也可以根据其他的方式确定,本发明实施例在此并不进行限定。示例性的,如果存储的数据是监控视频,预设时长内产生了海量的视频数据,可以将时间间隔设置的短一些;如果存储的用户的购物数据,因为每一个购物数据所占用的存储空间都很小,可以将时间间隔的可以设置的长一些;在存储的视频数据,有购物数据,也有其他类型的数据的情况下,可以根据实际情况将设置时间间隔。
第二种:管理服务器收到用户发送的指令。
这里所说的指令是批量删除指令,管理服务器在收到指令后,会根据预设的数据删除规则,确定目标时间点。
数据删除规则可以是预先根据实际情况设置,具体的,可以基于预先设置的存储周期确定,也可以基于预设的存储阈值确定。
分布式存储系统中,数据还可以分区进行存储,在数据分区进行存储的情况下,需要分区的目标时间点,则根据预设的数据删除规则,确定目标时间点,可以包括:
根据预设的每个分区的数据删除规则,确定每个要删除数据的第一分区的目标时间点。
这里所说的分区是逻辑上的分区,可以是针对用户的分区,一个分区与一个用户对应,一个用户可以对应多个分区。属于同一个分区的数据可以存储在不同的存储服务器中。针对不同的分区可以设置不同的数据删除规则,也可以设置相同的数据删规则。
第一分区是指待删除数据量不为零的分区,如果一个分区的待删除数据量为零,说明该分区中不存在需要删除的数据,进一步说明根据该分区的数据删除,无法确定目标时间点。
因为第一分区可能存在很多个,对应的,第一分区的目标时间点也有很多,为了使存储服务器能够正确地确定分区与分区的目标时间点之间的关系,需要获取第一分区的分区标识。
分区标识可以是分区的名称,也可以为分区的编号,具体的分区标识可以包括文字、数字、字母、字符中的至少一种。分区标识是预先存储在数据库中,也可以存储在管理服务器的内存中。
S102:将所确定的目标时间点发送给存储服务器,以使接收到所述目标时间点的存储服务器按照所述目标时间点删除待删除数据,其中,所述待删除数据为存储时间在所述目标时间点之前的已存储数据。
本实施例中,如果管理服务器是元数据服务器,还可以在确定目标时间点后,向存储服务器发送之前,确定待删除数据,并删除待删除的索引信息。
存储服务器接收到目标时间点时间后,按照目标时间点,确定待删除数据,并删除所有确定出的待删除数据。存储服务器确定待删除数据的方法可以为:判断自身所记录的数据的存储时间中,是否存在不晚于目标时间点的存储时间,如果存在,将不晚于目标时间点的存储时间对应的数据,确定为待删除数据。
在获取第一分区的目标时间点和分区标识后,可以将每个第一分区的目标时间点及对应的分区标识发送给各个第一分区对应的存储服务器,以使接收到第一分区的目标时间点和对应的分区标识的存储服务器,按照第一分区的目标时间点和对应的分区标识,删除对应第一分区中所存储的待删除数据。
存储服务器在接收到第一分区的目标时间点及对应的分区标识后,确定分区标识所对应的第一分区,根据预先记录的所确定的第一分区的已存储数据的存储时间,确定在该第一分区的目标时间点之前存储的数据,作为该第一分区对应的待删除数据,删除所确定的该第一分区对应的待删除数据。这里所说的对应的分区标识,是指所发送的第一分区的目标时间点对应的第一分区的分区标识。当第一分区只有一个时,将该第一分区的目标时间点和该第一分区的分区标识发送给存储服务器,当第一分区有多个时,将一个第一分区的目标时间点与该第一分区的分区标识作为一个整体发送给存储服务器。
在现有技术中,存储服务器接收一个删除指令,删除已存储的与删除指令对应的数据块,存储服务器与管理服务器之间会产生大量的网络交互,这些网络交互会消耗大量的时间,导致数据删除速度比较慢。如果数据的存储速度很快,数据的存储速度很有可能大于数据的删除速度。在这种情况下,存储服务器的存储空间不断地被占用,最终会导致存储空间不足,存储空间不足,会使得后续的待存储数据存储失败。在本发明实施例中,管理服务器通过发送目标时间点给存储服务器,存储服务器删除在目标时间点之前存储的数据,以减少管理服务器与存储服务器之间的网络交互而消耗的时间,减少存储服务器等待指令的时间,提高了数据删除速度。相较于现有技术,在相同的存储速度下,不会发生空间不足的情况,尽可能可以存储全部的待存储数据。
本发明实施例中,管理服务器在确定目标时间点后,将所确定的目标时间点发送给存储服务器,使得存储服务器可以根据目标时间点删除待删除数据,具体是将在目标时间点之前存储的数据均删除,也就是可以删除多个数据块,相较于现有技术中存储服务器接收到一个删除指令,删除一个数据块,可以减少管理服务器与存储服务器之间的网络交互而消耗的时间,减少存储服务器等待指令的时间,提高了数据删除速度,进而提高存储空间释放的效率进而提高存储空间释放的效率。
在本发明实施例的一种具体实施方式中,目标时间点可以根据一个与存储服务器系统时间同步的标准时间来确定。例如,可以采用如下步骤来确定标准时间:
定时根据各个存储服务器的系统时间,获得标准时间,其中,所述标准时间为对各个存储服务器的系统时间进行同步处理后的时间;
所述存储时间为存储服务器存储数据时的标准时间;
所述目标时间点为所述待删除数据的存储时间中最晚的存储时间。
在本发明实施例中,定时的时长可以与上述所说的预设的时间间隔可以相同,也可以不同,在这里不进行限定,具体的定时的时长可以根据实际情况而定。
存储服务器的系统时间是指存储服务器当前的系统时间,可以是存储服务器发送给管理服务器的,也可以是其他服务器收集存储服务器的系统时间,并将所搜集的系统时间发送给管理服务器。存储服务器将自身的系统时间上报给管理服务器,管理服务器立即将所获得的系统时间保存到内存中,并对各个存储服务器的系统时间进行同步处理,获得标准时间,标准时间是对存储服务器系统时间进行同步处理后的时间,这里所说的标准时间与存储服务器的系统时间之间的差值在预设时间阈值内,在一般情况下,标准时间与大多数存储服务器的系统时间的差别在秒级。
管理服务器在接收到存储服务器的系统时间后,可以通过以下步骤对各个存储服务器的系统时间进行同步处理,获得标准时间:
定时获取各个存储服务器的系统时间;
判断所获得的所有系统时间的个数是否大于预设数量;
如果是,将除一个最大系统时间和一个最小系统时间之外的其他所有系统时间按照大小进行排序,将排序排在中间的系统时间,作为标准时间,
或,
计算除一个最大系统时间和一个最小系统时间之外的其他所有系统时间的平均值,作为标准时间;
如果否,计算所获得的所有系统时间的平均值,作为标准时间。
存储服务器的系统时间有可能会跑偏,在获取多个存储服务器的系统时间的情况下,需要剔除跑偏的系统时间,避免影响到所获得的标准时间的准确性,具体的做法可以为:在判断出所获取的所有系统时间的个数大于预设数量的情况下,剔除一个最大的系统时间和一个最小的系统时间,按照大小对剩下的系统时间进行排序,将排在中间的系统时间,作为标准时间,这样既可以避免跑偏的系统时间影响所获得的目标时间点的准确性,同时也可以选择一个比较接近于大多数存储服务器的系统时间,可以使得所获得的标准时间与绝大多数存储服务器的系统时间相差在预设的时间范围内。当然,也可以计算剩下的系统时间的平均值,作为准时间,这样也可以避免跑偏的系统时间影响所获得的目标时间点的准确性。
在所获得的系统时间的数量不大于预设数量的情况下,可以直接将所获得的所有系统时间的平均值,作为标准时间。
在本发明实施例中,存储服务器有可能出现故障导致服务器不在线,所获取的是在线存储服务器的系统时间,并且是所获得的系统时间的数量是变化的,是获取存储服务器的系统时间时在线存储服务器的数量。
在获得标准时间后,可以将保存每次获得的标准时间,重启时获得所保存的标准时间。
保存所获得的标准时间,具体的,可以将获得的标准时间保存到数据库中,数据库(Data Base,DB)是指在计算机的存储设备上合理存放的相关联的有结构的数据集合,一个数据库含有各种成分,包括表、视图、存储过程、记录、字段、索引等。
保存所获得的管理服务器的标准时间也可以方便管理服务器重启时读取,在管理服务器重启时,有可能不能立即获得存储服务器的系统时间,从而获得标准时间,但有可能接收到待存储数据,此时可以获得所保存的管理服务器的标准时间,在将当前所保存的标准时间作为待存储数据的存储时间,尽量保证管理服务器所记载的数据的存储时间与存储服务器记载的该数据的存储时间一致。
获得标准时间的主要目的是为了使得管理服务器保存的数据的索引信息中记载的数据的存储时间和存储服务器记录的该数据的存储时间一致。为了实现这一目的,可以在保存根据各个存储服务器的系统时间获得标准时间之后,按照预设的时间步长,在当前所保存的标准时间上增加时间步长,管理服务器在保存数据的索引信息时,将该数据的存储时间记载为当前的标准时间。
为了获得比较准确的标准时间,需要存储服务器的系统时间同步,存储服务器系统时间同步的方式为:
各个存储服务器的系统时间均可以通过网络时间协议NTP与NTP服务器的系统时间同步的。
NTP(Network Time Protocol)是用来使计算机时间同步化的一种协议,可以使计算机对其服务器或时钟源(如石英钟,GPS(Global Positioning System,全球定位系统)等等)做同步化,从而提供高精准度的时间校正。具体的,可以是存储服务器与NTP服务器建立通信连接,将自身的系统时间与NTP服务器的系统时间保持同步。这里所说的NTP服务器可以为专业的NTP服务器,示例性的,可以是国家授时中心服务器的NTP服务器;也可以为分布式存储系统中专门设置的服务器。
下面以一个具体实例说明时间同步的过程:
服务器A为存储服务器,未与NTP服务器的系统时间同步之前,服务器A的系统时间为上午10:00:00,NTP服务器的系统时间为上午11:00:00。则时间同步的具体工作过程为:
1、服务器A发送一个NTP消息包给NTP服务器,该NTP消息包携带有该NTP消息包离开服务器A时的时间戳,该时间戳为上午10:00:00(t1)。
2、当此NTP消息包到达NTP服务器时,NTP服务器加上自己的时间戳,该时间戳为上午11:00:01(t2)。
3、当此NTP消息包离开NTP服务器时,NTP服务器再加上自己的时间戳,该时间戳为上午11:00:02(t3)。
4、当服务器A接收到该响应消息包时,加上一个新的时间戳,该时间戳为上午10:00:03(t4)。
服务器A通过计算可以得到:NTP消息包来回一个周期的时延=(t4-t1)-(t3-t2)。服务器A相较于NTP服务器的时间差=((t2-t1)+(t3-t4))/2。服务器A利用这些信息,可以将自身的系统时间设置为11:00:03。每一个存储服务器通过以上方式与NTP服务器的系统时间保持同步,则一个存储服务器的系统时间与其他存储服务器的系统时间保持同步。
可见,本实施例中获得对各个存储服务器的系统时间进行同步处理后的标准时间,能够使得管理服务器记录索引时所使用的存储时间与存储服务器存储数据时所记录的存储时间同步,从而进一步保证删除数据的准确性。
在本发明实施例的另一种具体实施方式中,目标时间点可以直接根据管理服务器的系统时间来确定,这种具体实施方式中,为了保证记录索引信息所用到的存储时间与存储数据时所记录的存储时间同步,可以使管理服务器和存储服务器分别通过网络时间协议NTP与NTP服务器的系统时间同步,管理服务器的系统时间与NTP服务器的系统时间同步的方式可以与存储服务器的系统时间跟NTP服务器的系统时间同步的方式相同,这里不再赘述。
可见,本实施例中管理服务器和存储服务器均与NTP服务器同步了系统时间,也能够进一步保证管理服务器记录索引时所使用的存储时间与存储服务器存储数据时所记录的存储时间同步,从而进一步保证删除数据的准确性。
管理服务器会存储每一个数据的索引信息,当存储服务器将数据删除之后,为了节省管理服务器的存储空间,也为了在请求读取已经删除的数据时,减少用户的等待时间,可以删除在目标时间点之间存储的数据的索引信息。因为索引信息中包括数据的最后修改时间,即数据的存储时间,可以将数据的存储时间在目标时间点之前的数据对应的索引信息确定为待删除索引信息,删除待删除索引信息。
作为本发明实施例的一种实施方式,删除在目标时间点存储的数据的索引信息,包括:
针对每一第一分区,删除针对该第一分区在该第一分区的目标时间点之前存储的数据的索引信息。
第一分区是待删除数据量不为零的分区,说明需要删除第一分区已存储的待删除数据,也需要删除第一分区已存储的待删除数据的索引信息。管理服务器从针对第一分区存储的数据的索引信息中,确定存储时间在该第一分区的目标时间点的数据的索引信息,作为该第一分区的待删除索引信息,并删除该第一分区的待删除索引信息。
为了能够将待删除数据和待删除数据的索引信息均删除,需要保持管理服务器存储的数据的索引信息中记载的存储时间和存储服务器记载的该数据的存储时间一致,进一步地,是保持记录索引信息所使用的时间与存储服务器记录数据的存储时间所使用的时间一致。在本发明实施例中,记录索引信息所使用的时间可以是当前所保存的标准时间,存储服务器记录数据的存储时间所使用的时间可以是存储服务器的系统时间,存储服务器的系统时间与NTP的系统时间保持同步;另外在管理服务器的系统时间、存储服务器的系统时间均与NTP服务器的系统时间保持同步的情况下,记录索引信息所使用的时间可以是管理服务器的系统时间,存储服务器记录数据的存储时间所使用的时间可以是存储服务器的系统时间。
可见,管理服务器删除在目标时间点之前存储的索引信息,不仅可以节省管理服务器的存储空间。由于管理服务器和的存储服务器并发执行删除操作,可以避免请求等待,极大的提高存储空间释放的效率,避免磁盘空间释放不及时造成的空间释放慢的而导致的最新待存储数据丢失的问题。
下面结合另一具体实施例,对本发明实施例所提供的一种数据删除方法进行介绍。
图2为本发明实施例提供的数据删除方法的又一种流程示意图,方法包括:
S201:当确定需要批量删除数据时,获得当前时间。
当前时间可以是管理服务器的系统时间,也可以是数据库中当前存储的标准时间。数据库中当前存储的标准时间可以为基于存储服务器的系统时间所获得的标准时间,也可以是在基于存储服务器的系统时间所获得的标准时间的基础上每隔预设的时间步长增加该时间步长所得到的。这里所说的管理服务器的系统时间可以是与存储服务器的系统时间同步后的系统时间。
S202:针对每个第一分区,将所获得的当期时间与该第一分区预设的存储周期之差,作为该第一分区的目标时间点。
分区的存储周期是根据用户的需求设置的,不同的分区可以设置相同的存储周期,也可以设置不同的存储周期。在获得当前时间和第一分区的存储周期之后,获得该第一分区的目标时间点。示例性的,当前时间为2017年8月15日上午9:00,第一分区为分区A,分区A的预设的存储周期为10天,则计算出的分区A的目标时间点为2017年8月5日上午9:00。需要说明的是,在本发明实施例中,将当前时间与第一分区的存储周期之差,作为该第一分区的目标时间点可以理解为是通过周期覆盖逻辑原理确定的目标时间点。
S203:获取每个第一分区的分区标识。
S204:将每个第一分区的目标时间点及对应的分区标识发送给各个第一分区对应的存储服务器,以使以使接收到第一分区的目标时间点和对应的分区标识的存储服务器,按照第一分区的目标时间点和对应的分区标识,删除对应第一分区中所存储的待删除数据。
本发明实施例中,管理服务器通过周期覆盖原理确定第一分区的目标时间点,将所确定的第一分区目标时间点和对应的分区标识发送给存储服务器,使得存储服务器可以删除第一分区中存储的待删除数据,一次可以删除多个数据块,相较于现有技术中存储服务器接收到一个删除指令,删除一个数据块,本发明实施例中,可以减少管理服务器与存储服务器之间的网络交互而消耗的时间,减少存储服务器等待指令的时间,提高了数据删除速度,进而提高存储空间释放的效率进而提高存储空间释放的效率。
下面结合另一具体实施例,对本发明实施例所提供的一种数据删除方法进行介绍。
图3为本发明实施例提供的数据删除方法的另一种流程示意图,方法包括:
S301:当确定需要批量删除数据时,根据每一分区当前的存储量以及针对每一分区预设的存储阈值,确定每一分区的待删除存储量。
管理服务器中会保存每一分区存储的数据的索引信息,索引信息中包含每一数据的数据大小,基于所保存的索引信息,可以计算该分区当前的存储量,当然,管理服务器也可以记录有分区当前的存储量,当一个数据存储至该分区后,管理服务器在记录的该分区的存储量上增加该数据的大小。
每一分区的存储阈值是预先根据实际情况设置的,存储阈值可以是一个固定的值,也可以是根据分区的存储总量和该分区预设的存储比例阈值确定的,示例性的,预先可以将分区B的存储阈值设置为15G,分区B当前的存储量为20G,则可以确定分区B的待删除存储量为5G;分区C的存储总量为15G,预设的存储比例阈值为80%,则分区C的存储阈值为12G,进而确定分区C的待删除存储量为3G。
S302:针对待删除存储量不为零的每个第一分区,根据预先记录的该第一分区已存储数据的数据大小,按照预先记录的该第一分区已存储数据的存储时间的先后顺序,确定该第一分区的待删除数据,直至所确定的所有待删除数据的数据总量与该第一分区的待删除存储量之差在预设数据范围内。
如果一个分区待删除存储量为零,说明当前该分区不存在需要删除的数据,则该分区不能称之为第一分区。
针对一个第一分区,管理服务器按照该第一分区已存储数据的存储时间的先后顺序,确定该第一分区的待删除数据,具体的实现方式可以为:将存储时间最早的数据确定为待删除数据,判断所有待删除的数量总量是否与该第一分区的待删除存储量之差在预设数据范围内,该预设的数据范围针对不同的分区可以相同,也可以不同,针对同一个分区,预设数据范围也可以不同;如果否,则将除已经确定为待删除数据之外的存储的其他数据中,存储时间最早的数据也确定为待删除数据,执行判断所有待删除的数量总量是否与该第一分区的待删除存储量之差在预设数据范围内的在步骤;如果是,则执行S303。
所确定的待删除数据的数据总量有很大可能性不等于该第一分区的待删除数据量,因此,需要满足以下条件即可不继续确定待删除数据:
所确定的所有待删除数据的数据总量与该第一分区的待删除存储量之差在预设数据范围内。
S303:针对每个第一分区,从针对该第一分区所确定的所有待删除数据的存储时间中,选择最晚的存储时间,作为该第一分区的目标时间点。
针对每个第一分区所确定待删除数据均是按照存储时间先后顺序确定的,选择最晚的存储时间作为该第一分区的目标时间点,可以理解为将最后确定的待存储数据的存储时间,作为该第一分区的目标时间点。当然,也可以理解为将所有待删除数据的存储时间按时间先后进行排序,选择最晚的存储时间作为该第一分区的目标时间点。
上面所说的确定第一分区的目标时间点是利用容量覆盖逻辑确定的,容量覆盖是根据设置的容量阈值,把最早存储的数据删除,以达到容量符合设置要求。
S304:获取每个第一分区的分区标识。
S305:将每个第一分区的目标时间点及对应的分区标识发送给各个第一分区对应的存储服务器,以使接收到第一分区的目标时间点和对应的分区标识的存储服务器,按照第一分区的目标时间点和对应的分区标识,删除对应第一分区中所存储的待删除数据。
本发明实施例中,管理服务器通过容量覆盖原理确定第一分区的目标时间点,将所确定的第一分区目标时间点和对应的分区标识发送给存储服务器,使得存储服务器可以删除第一分区中存储的待删除数据,一次可以删除多个数据块,相较于现有技术中存储服务器接收到一个删除指令,删除一个数据块,本发明实施例中,可以减少管理服务器与存储服务器之间的网络交互而消耗的时间,减少存储服务器等待指令的时间,提高了数据删除速度,进而提高存储空间释放的效率进而提高存储空间释放的效率。
图4为本发明实施例提供的另一种数据删除方法的流程示意图,应用于分布式存储系统中的存储服务器,方法包括:
S401:接收管理服务器发送的目标时间点,其中,所述目标时间点是所述管理服务器确定需要批量删除数据时,根据预设的数据删除规则确定的。
在数据是分区存储的情况下,接收管理服务器发送的目标时间点,可以包括:
接收管理服务器发送的第一分区的目标时间点。
存储服务器在接收第一分区的目标时间点的同时,还会接收第一分区的分区标识。
S402:根据目标时间点确定待删除数据。
存储服务器在接收到目标时间点后,可以根据自身记录的每一数据的存储时间,确定是否存在在目标时间点时间之前存储的数据,如果存在,将在目标时间点之前存储的数据确定为待删除数据。
当数据是分区存储的情况下,根据目标时间点确定待删除数据,可以包括:
针对每一第一分区,根据该第一分区的分区标识判断所述存储服务器是否存储有该第一分区对应的数据;
如果是,则将该第一分区在该第一分区的目标时间点之前已存储的数据,确定为该第一分区的待删除数据。
一个第一分区的数据可以存储在一个存储服务器中,也可以存储在多个存储服务器中,同样的,一个存储服务器可以存储一个分区的数据,也可以存储多个分区的数据。当存储服务器接收到第一分区的目标时间点和对应的分区标识后,先根据第一分区的分区标识,判断自身是否存储有该第一分区对应的数据,如果有,第一分区在该第一分区的目标时间点之前已存储的数据,确定为该第一分区的待删除数据。示例性的,第一分区为分区1,分区1分区标识为A1,存储服务器记录的分区标识中包括A1,则确定存储服务器存储有分区1对应的数据,将分区1已存储的数据中,在分区1目标时间点之前存储的数据确定为分区1的待删除数据。
S403:删除所确定的待删除数据。
作为本发明实施例的一种实施方式,删除所确定的待删除数据,包括:
删除所确定的每一第一分区的待删除数据。
本发明实施例中,存储服务器可以根据该目标时间点确定待删除数据,并删除所确定的待删除数据,具体是将在目标时间点之前存储的数据均删除,也就是可以删除多个数据块,相较于现有技术中存储服务器接收到一个删除指令,删除一个数据块,可以减少管理服务器与存储服务器之间的网络交互而消耗的时间,减少存储服务器等待指令的时间,提高了数据删除速度,进而提高存储空间释放的效率进而提高存储空间释放的效率。
作为本发明实施例的一种实施方式,方法还可以包括:
定时向管理服务器发送所述存储服务器自身的系统时间,以使所述管理服务器定时根据各个存储服务器的系统时间获得标准时间,其中,所述标准时间为对各个存储服务器的系统时间进行同步处理后的时间。
作为本发明实施例的一种实施方式,存储服务器的系统时间通过NTP与NTP服务器的系统时间同步。
在本发明实施例中,每一存储服务器的系统时间均可以通过NTP与NTP服务器的系统时间同步,同步的方法与上述所说的同步方法相同,在这里不进行赘述。
图5为本发明实施例提供的又一种数据删除方法的流程示意图,该数据删除方法应用于分布式存储系统,分布式存储系统包括管理服务器和存储服务器,方法包括:
S501:所述管理服务器当确定需要批量删除数据时,根据预设的数据删除规则,确定目标时间点;将所确定的目标时间点发送给所述存储服务器。
作为本发明的一种实施方式,管理服务器根据预设的数据删除规则,确定目标时间点,包括:
根据预设的每个分区的数据删除规则,确定每个要删除数据的第一分区的目标时间点;
所述管理服务器在所述将所确定的目标时间点发送给存储服务器之前,获取每个第一分区的分区标识;
所述管理服务器将所确定的目标时间发送给存储服务器,包括:
将每个第一分区的目标时间点及对应的分区标识发送给各个第一分区对应的存储服务器。
作为本发明的一种实施方式,所述管理服务器根据预设的每个分区的数据删除规则,确定每个要删除数据的第一分区的目标时间点,包括:
获得当前时间;
针对每个第一分区,将所获得的当期时间与该第一分区预设的存储周期之差,作为该第一分区的目标时间点。
作为本发明的一种实施方式,所述管理服务器根据预设的每个分区的数据删除规则,确定每个要删除数据的第一分区的目标时间点,包括:
根据每一分区当前的存储量以及针对每一分区预设的存储阈值,确定每一分区的待删除存储量;
针对待删除存储量不为零的每个第一分区,根据预先记录的该第一分区已存储数据的数据大小,按照预先记录的该第一分区已存储数据的存储时间的先后顺序,确定该第一分区的待删除数据,直至所确定的所有待删除数据的数据总量与该第一分区的待删除存储量之差在预设数据范围内;
针对每个第一分区,从针对该第一分区所确定的所有待删除数据的存储时间中,选择最晚的存储时间,作为该第一分区的目标时间点。
作为本发明的一种实施方式,所述管理服务器删除在所述目标时间点之前存储的数据的索引信息。
作为本发明的一种实施方式,所述管理服务器删除在所述目标时间点存储的数据的索引信息,包括:
针对每一第一分区,删除针对该第一分区在该第一分区的目标时间点之前存储的数据的索引信息。
S502:存储服务器在将接收到目标时间后,根据所述目标时间点,确定待删除数据;删除所确定的待删除数据,其中,所述待删除数据为存储时间在所述目标时间点之前的已存储数据。
作为本发明的一种实施方式,所述存储服务器接收所述管理服务器发送的第一分区的目标时间点和对应的分区标识;
所述存储服务器根据目标时间点确定待删除数据,包括:
针对每一第一分区,根据该第一分区的分区标识判断所述存储服务器是否存储有该第一分区对应的数据;
如果是,则将该第一分区在该第一分区的目标时间点之前已存储的数据,确定为该第一分区的待删除数据;
所述存储服务器删除所确定的待删除数据,包括:
删除所确定的每一第一分区的待删除数据。
作为本发明的一种实施方式,所述存储服务器定时向所述管理服务器发送所述存储服务器自身的系统时间;
所述管理服务器定时根据各个存储服务器的系统时间,获得标准时间,其中,所述标准时间为对各个存储服务器的系统时间进行同步处理后的时间;
所述存储时间为存储服务器存储数据时的标准时间;
所述目标时间点为所述待删除数据的存储时间中最晚的存储时间。
作为本发明的一种实施方式,所述管理服务器定时根据各个存储服务器的系统时间,获得标准时间,包括:
定时获取各个存储服务器的系统时间;
判断所获得的所有系统时间的个数是否大于预设数量;
如果是,将除一个最大系统时间和一个最小系统时间之外的其他所有系统时间按照大小进行排序,将排序排在中间的系统时间,作为标准时间,
或,
计算除一个最大系统时间和一个最小系统时间之外的其他所有系统时间的平均值,作为标准时间;
如果否,计算所获得的所有系统时间的平均值,作为标准时间。
本发明实施例中,管理服务器在确定目标时间点后,将所确定的目标时间点发送给存储服务器,存储服务器可以根据目标时间点删除待删除数据,具体是将在目标时间点之前存储的数据均删除,也就是可以删除多个数据块,相较于现有技术中存储服务器接收到一个删除指令,删除一个数据块,可以减少管理服务器与存储服务器之间的网络交互而消耗的时间,减少存储服务器等待指令的时间,提高了数据删除速度,进而提高存储空间释放的效率进而提高存储空间释放的效率。
图6为本发明实施例提供的分布式存储系统的结构示意图,分布式存储系统包括管理服务器610和存储服务器620,其中,
管理服务器610,用于当确定需要批量删除数据时,根据预设的数据删除规则,确定目标时间点;将所确定的目标时间点发送给所述存储服务器620;
存储服务器620,用于在接收到所述目标时间点后,根据所述目标时间点,确定待删除数据;删除所确定的待删除数据,其中,所述待删除数据为存储时间在所述目标时间点之前的已存储数据。
本发明实施例中,管理服务器在确定目标时间点后,将所确定的目标时间点发送给存储服务器,存储服务器可以根据该目标时间点删除待删除数据,具体是将在目标时间点之前存储的数据均删除,也就是可以删除多个数据块,相较于现有技术中存储服务器接收到一个删除指令,删除一个数据块,可以减少管理服务器与存储服务器之间的网络交互而消耗的时间,减少存储服务器等待指令的时间,提高了数据删除速度,进而提高存储空间释放的效率进而提高存储空间释放的效率。
作为本发明的一种实施方式,存储服务器620,用于定时向所述管理服务器610发送所述存储服务器620自身的系统时间;
所述管理服务器610,用于定时根据各个存储服务器620的系统时间,获得标准时间,其中,所述标准时间为对各个存储服务器620的系统时间进行同步处理后的时间;
所述存储时间为存储服务器620存储数据时的标准时间;
所述目标时间点为所述待删除数据的存储时间中最晚的存储时间。
作为本发明的一种实施方式,所述管理服务器610定时根据各个存储服务器620的系统时间,获得标准时间,包括:
定时获取各个存储服务器620的系统时间;
判断所获得的所有系统时间的个数是否大于预设数量;
如果是,将除一个最大系统时间和一个最小系统时间之外的其他所有系统时间按照大小进行排序,将排序排在中间的系统时间,作为标准时间,
或,
计算除一个最大系统时间和一个最小系统时间之外的其他所有系统时间的平均值,作为标准时间;
如果否,计算所获得的所有系统时间的平均值,作为标准时间。
作为本发明的一种实施方式,所述管理服务器610用于根据预设的每个分区的数据删除规则,确定每个要删除数据的第一分区的目标时间点;获取每个第一分区的分区标识;将每个第一分区的目标时间点及对应的分区标识发送给各个第一分区对应的存储服务器620;
所述存储服务器620,用于接收所述管理服务器610发送的第一分区的目标时间点和对应的分区标识;针对每一第一分区,根据该第一分区的分区标识判断所述存储服务器620是否存储有该第一分区对应的数据;如果是,则将该第一分区在该第一分区的目标时间点之前已存储的数据,确定为该第一分区的待删除数据;删除所确定的每一第一分区的待删除数据。
作为本发明的一种实施方式,所述管理服务器610,用于根据预设的每个分区的数据删除规则,确定每个要删除数据的第一分区的目标时间点,包括:
获得当前时间;
针对每个第一分区,将所获得的当期时间与该第一分区预设的存储周期之差,作为该第一分区的目标时间点。
作为本发明的一种实施方式,所述管理服务器610,用于根据每一分区当前的存储量以及针对每一分区预设的存储阈值,确定每一分区的待删除存储量;针对待删除存储量不为零的每个第一分区,根据预先记录的该第一分区已存储数据的数据大小,按照预先记录的该第一分区已存储数据的存储时间的先后顺序,确定该第一分区的待删除数据,直至所确定的所有待删除数据的数据总量与该第一分区的待删除存储量之差在预设数据范围内;针对每个第一分区,从针对该第一分区所确定的所有待删除数据的存储时间中,选择最晚的存储时间,作为该第一分区的目标时间点。
作为本发明的一种实施方式,所述管理服务器610,用于删除在所述目标时间点之前存储的数据的索引信息。
作为本发明的一种实施方式,所述管理服务器610,用于针对每一第一分区,删除针对该第一分区在该第一分区的目标时间点之前存储的数据的索引信息。
与上述方法实施例相对应,本发明实施例还提供一种数据删除设置。
图7为本发明实施例提供的数据删除装置的结构示意图,数据删除装置应用于分布式存储系统中的管理服务器,包括第一确定模块701和第一发送模块702,其中,
第一确定模块701,用于当确定需要批量删除数据时,根据预设的数据删除规则,确定目标时间点;
第一发送模块702,用于将所确定的目标时间点发送给存储服务器,以使接收到目标时间点的存储服务器按照目标时间点删除待删除数据,其中,待删除数据为存储时间在目标时间点之前的已存储数据。
本发明实施例中,管理服务器在确定目标时间点后,将所确定的目标时间点发送给存储服务器,使得存储服务器可以根据该目标时间点删除待删除数据,具体是将在目标时间点之前存储的数据均删除,也就是可以删除多个数据块,相较于现有技术中存储服务器接收到一个删除指令,删除一个数据块,可以减少管理服务器与存储服务器之间的网络交互而消耗的时间,减少存储服务器等待指令的时间,提高了数据删除速度,进而提高存储空间释放的效率进而提高存储空间释放的效率。
作为本发明实施例的一种实施方式,第一获得模块,用于定时根据各个存储服务器的系统时间,获得标准时间,其中,所述标准时间为对各个存储服务器的系统时间进行同步处理后的时间;
所述存储时间为存储服务器存储数据时的标准时间;
所述目标时间点为所述待删除数据的存储时间中最晚的存储时间。。
作为本发明实施例的一种实施方式,第一获得模块,包括:
获取子模块,用于定时获取各个存储服务器的系统时间;
判断子模块,用于判断所获得的所有系统时间的个数是否大于预设数量;
第一确定子模块,用于在判断子模块的判断结果为是的情况下,将除一个最大系统时间和一个最小系统时间之外的其他所有系统时间按照大小进行排序,将排序排在中间的系统时间,作为标准时间,
或,
计算除一个最大系统时间和一个最小系统时间之外的其他所有系统时间的平均值,作为标准时间;
计算子模块,用于计算所获得的所有系统时间的平均值,作为标准时间。
作为本发明实施例的一种实施方式,该装置还可以包括:
保存模块,用于保存每次获得的标准时间;
第一获得模块,用于重启时获得所保存的标准时间。
作为本发明实施例的一种实施方式,一个存储服务器的系统时间可以是通过网络时间协议NTP与其他服务器的系统时间同步的。
作为本发明实施例的一种实施方式,第一确定模块为分区目标时间点确定模块,
该分区目标时间点确定模块,用于根据预设的每个分区的数据删除规则,确定每个要删除数据的第一分区的目标时间点;
装置还包括:
获取模块,用于获取每个第一分区的分区标识;
发送模块,具体用于:
将每个第一分区的目标时间点及对应的分区标识发送给各个第一分区对应的存储服务器,以使接收到第一分区的目标时间点和对应的分区标识的存储服务器,按照第一分区的目标时间点和对应的分区标识,删除对应第一分区中所存储的待删除数据。
作为本发明实施例的一种实施方式,分区目标时间点确定模块,包括:
获得子模块,用于获得当前时间;
第二确定子模块,用于针对每个第一分区,将所获得的当期时间与该第一分区预设的存储周期之差,作为该第一分区的目标时间点。
作为本发明实施例的一种实施方式,分区目标时间点确定模块,包括:
第三确定子模块,用于根据每一分区当前的存储量以及针对每一分区预设的存储阈值,确定每一分区的待删除存储量;
第四确定子模块,用于针对待删除存储量不为零的每个第一分区,根据预先记录的该第一分区已存储数据的数据大小,按照预先记录的该第一分区已存储数据的存储时间的先后顺序,确定该第一分区的待删除数据,直至所确定的所有待删除数据的数据总量与该第一分区的待删除存储量之差在预设数据范围内;
选择子模块,用于针对每个第一分区,从针对该第一分区所确定的所有待删除数据的存储时间中,选择最晚的存储时间,作为该第一分区的目标时间点。
作为本发明实施例的一种实施方式,装置还包括:
第一删除模块,用于删除在目标时间点之前存储的数据的索引信息。
作为本发明实施例的一种实施方式,第一删除模块,具体用于:
针对每一第一分区,删除针对该第一分区在该第一分区的目标时间点之前存储的数据的索引信息。
作为本发明实施例的一种实施方式,管理服务器的系统时间通过NTP与NTP服务器的系统时间同步。
图8为本发明实施例提供的另一种数据删除装置的结构示意图,数据删除装置应用于分布式存储系统中的存储服务器,包括接收模块801、第二确定模块802和第二删除模块803,其中,
接收模块801,用于接收管理服务器发送的目标时间点,其中,所述目标时间点是所述管理服务器确定需要批量删除数据时,根据预设的数据删除规则确定的;
第二确定模块802,用于根据目标时间点确定待删除数据;
第二删除模块803,用于删除所确定的待删除数据。
本发明实施例中,存储服务器可以根据该目标时间点确定待删除数据,并删删除所确定的待删除数据,具体是将在目标时间点之前存储的数据均删除,也就是可以删除多个数据块,相较于现有技术中存储服务器接收到一个删除指令,删除一个数据块,可以减少管理服务器与存储服务器之间的网络交互而消耗的时间,减少存储服务器等待指令的时间,提高了数据删除速度,进而提高存储空间释放的效率进而提高存储空间释放的效率。
作为本发明实施例的一种实施方式,接收模块801,还用于接收第一分区的分区标识;
第二确定模块802,具体用于针对每一第一分区,根据该第一分区的分区标识判断所述存储服务器是否存储有该第一分区对应的数据;如果是,则将该第一分区在该第一分区的目标时间点之前已存储的数据,确定为该第一分区的待删除数据;
第二删除模块803,具体用于删除所确定的每一第一分区的待删除数据。
作为本发明实施例的一种实施方式,该装置还可以包括:
第二发送模块,用于定时向管理服务器发送所述存储服务器自身的系统时间,以使所述管理服务器定时根据各个存储服务器的系统时间,获得标准时间,其中,所述标准时间为对各个存储服务器的系统时间进行同步处理后的时间。
作为本发明实施例的一种实施方式,存储服务器的系统时间可以通过NTP与NTP服务器的系统时间同步。
本发明实施例还提供了一种管理服务器,如图8所示,包括第一处理器901、第一通信接口902、第一存储器903和第一通信总线904,其中,第一处理器901,第一通信接口902,第一存储器903通过第一通信总线904完成相互间的通信,
第一存储器903,用于存放计算机程序;
第一处理器901,用于执行第一存储器903上所存放的程序时,实现如下步骤:
当确定需要批量删除数据时,根据预设的数据删除规则,确定目标时间点;
将所确定的目标时间点发送给存储服务器,以使接收到所述目标时间点的存储服务器按照所述目标时间点删除待删除数据,其中,所述待删除数据为存储时间在所述目标时间点之前的已存储数据。
上述管理服务器提到的第一通信总线可以是外设部件互连标准(PeripheralComponent Interconnect,简称PCI)总线或扩展工业标准结构(Extended IndustryStandard Architecture,简称EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
第一通信接口用于上述管理服务器与其他设备之间的通信。
第一存储器可以包括随机存取存储器(Random Access Memory,简称RAM),也可以包括非易失性存储器(non-volatile memory),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的第一处理器可以是通用处理器,包括中央处理器(Central ProcessingUnit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(Digital Signal Processing,简称DSP)、专用集成电路(Application SpecificIntegrated Circuit,简称ASIC)、现场可编程门阵列(Field-Programmable Gate Array,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
本发明实施例中,管理服务器在确定目标时间点后,将所确定的目标时间点发送给存储服务器,使得存储服务器可以根据该目标时间点删除待删除数据,具体是将在目标时间点之前存储的数据均删除,也就是可以删除多个数据块,相较于现有技术中存储服务器接收到一个删除指令,删除一个数据块,可以减少管理服务器与存储服务器之间的网络交互而消耗的时间,减少存储服务器等待指令的时间,提高了数据删除速度,进而提高存储空间释放的效率进而提高存储空间释放的效率。
在本发明的又一实施例中,还提供了一种计算机可读存储介质,计算机可读存储介质内存储有计算机程序,计算机程序被处理器执行时实现上述实施例中任一所述的应用于管理服务器的数据删除方法。
本发明实施例中,管理服务器在确定目标时间点后,将所确定的目标时间点发送给存储服务器,使得存储服务器可以根据该目标时间点删除待删除数据,具体是将在目标时间点之前存储的数据均删除,也就是可以删除多个数据块,相较于现有技术中存储服务器接收到一个删除指令,删除一个数据块,可以减少管理服务器与存储服务器之间的网络交互而消耗的时间,减少存储服务器等待指令的时间,提高了数据删除速度,进而提高存储空间释放的效率进而提高存储空间释放的效率。
本发明实施例还提供了一种存储服务器,如图10所示,包括第二处理器1001、第二通信接口1002、第二存储器1003和第二通信总线1004,其中,第二处理器1001,第二通信接口1002,第二存储器1003通过第二通信总线1004完成相互间的通信,
第二存储器1003,用于存放计算机程序;
第二处理器1001,用于执行第二存储器803上所存放的程序时,实现如下步骤:
接收管理服务器发送的目标时间点,其中,所述目标时间点是所述管理服务器确定需要批量删除数据时,根据预设的数据删除规则确定的;
根据目标时间点确定待删除数据;
删除所确定的待删除数据。
本发明实施例中,存储服务器可以根据该目标时间点确定待删除数据,并删删除所确定的待删除数据,具体是将在目标时间点之前存储的数据均删除,也就是可以删除多个数据块,相较于现有技术中存储服务器接收到一个删除指令,删除一个数据块,可以减少管理服务器与存储服务器之间的网络交互而消耗的时间,减少存储服务器等待指令的时间,提高了数据删除速度,进而提高存储空间释放的效率进而提高存储空间释放的效率。
在本发明的又一实施例中,还提供了一种计算机可读存储介质,计算机可读存储介质内存储有计算机程序,计算机程序被处理器执行时实现上述实施例中任一所述的应用于存储服务器的数据删除方法。
本发明实施例中,存储服务器可以根据该目标时间点确定待删除数据,并删删除所确定的待删除数据,具体是将在目标时间点之前存储的数据均删除,也就是可以删除多个数据块,相较于现有技术中存储服务器接收到一个删除指令,删除一个数据块,可以减少管理服务器与存储服务器之间的网络交互而消耗的时间,减少存储服务器等待指令的时间,提高了数据删除速度,进而提高存储空间释放的效率进而提高存储空间释放的效率。
对于应用于分布式存储系统的数据删除方法/分布式存储系统/数据删除装置/管理服务器/存储服务器/计算机可读存储介质实施例而言,由于其基本相似于对应的方法实施例,所以描述的比较简单,相关之处参见图1-图4方法实施例的部分说明即可。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。
以上所述仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。
Claims (27)
1.一种数据删除方法,其特征在于,应用于分布式存储系统中的管理服务器,所述方法包括:
当确定需要批量删除数据时,根据预设的数据删除规则,确定目标时间点;
将所确定的目标时间点发送给存储服务器,以使接收到所述目标时间点的存储服务器按照所述目标时间点删除待删除数据,其中,所述待删除数据为存储时间在所述目标时间点之前的已存储数据。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
定时根据各个存储服务器的系统时间,获得标准时间,其中,所述标准时间为对各个存储服务器的系统时间进行同步处理后的时间;
所述存储时间为存储服务器存储数据时的标准时间;
所述目标时间点为所述待删除数据的存储时间中最晚的存储时间。
3.根据权利要求2所述的方法,其特征在于,所述定时根据各个存储服务器的系统时间,获得标准时间,包括:
定时获取各个存储服务器的系统时间;
判断所获得的所有系统时间的个数是否大于预设数量;
如果是,将除一个最大系统时间和一个最小系统时间之外的其他所有系统时间按照大小进行排序,将排序排在中间的系统时间,作为标准时间,
或,
计算除一个最大系统时间和一个最小系统时间之外的其他所有系统时间的平均值,作为标准时间;
如果否,计算所获得的所有系统时间的平均值,作为标准时间。
4.根据权利要求1所述的方法,其特征在于,所述根据预设的数据删除规则,确定目标时间点,包括:
根据预设的每个分区的数据删除规则,确定每个要删除数据的第一分区的目标时间点;
在所述将所确定的目标时间点发送给存储服务器之前,所述方法还包括:
获取每个第一分区的分区标识;
所述将所确定的目标时间点发送给存储服务器,以使接收到所述目标时间点的存储服务器按照所述目标时间删除待删除数据,包括:
将每个第一分区的目标时间点及对应的分区标识发送给各个第一分区对应的存储服务器,以使接收到第一分区的目标时间点和对应的分区标识的存储服务器,按照第一分区的目标时间点和对应的分区标识,删除对应第一分区中所存储的待删除数据。
5.根据权利要求4所述的方法,其特征在于,所述根据预设的每个分区的数据删除规则,确定每个要删除数据的第一分区的目标时间点,包括:
获得当前时间;
针对每个第一分区,将所获得的当期时间与该第一分区预设的存储周期之差,作为该第一分区的目标时间点。
6.根据权利要求4所述的方法,其特征在于,所述根据预设的每个分区的数据删除规则,确定每个要删除数据的第一分区的目标时间点,包括:
根据每一分区当前的存储量以及针对每一分区预设的存储阈值,确定每一分区的待删除存储量;
针对待删除存储量不为零的每个第一分区,根据预先记录的该第一分区已存储数据的数据大小,按照预先记录的该第一分区已存储数据的存储时间的先后顺序,确定该第一分区的待删除数据,直至所确定的所有待删除数据的数据总量与该第一分区的待删除存储量之差在预设数据范围内;
针对每个第一分区,从针对该第一分区所确定的所有待删除数据的存储时间中,选择最晚的存储时间,作为该第一分区的目标时间点。
7.根据权利要求1所述的方法,其特征在于,在根据预设的数据删除规则,确定目标时间点之后,所述方法还包括:
删除在所述目标时间点之前存储的数据的索引信息。
8.根据权利要求7所述的方法,其特征在于,所述删除在所述目标时间点存储的数据的索引信息,包括:
针对每一第一分区,删除针对该第一分区在该第一分区的目标时间点之前存储的数据的索引信息。
9.一种数据删除方法,其特征在于,应用于分布式存储系统中的存储服务器,所述方法包括:
接收管理服务器发送的目标时间点,其中,所述目标时间点是所述管理服务器确定需要批量删除数据时,根据预设的数据删除规则确定的;
根据所述目标时间点,确定待删除数据;
删除所确定的待删除数据。
10.根据权利要求9所述的方法,其特征在于,在接收管理服务器发送的目标时间点之前,所述方法还包括:
接收所述管理器发送的第一分区的分区标识;
接收管理服务器发送的目标时间点,包括:
接收管理服务器发送的第一分区的目标时间点;
所述根据目标时间点确定待删除数据的步骤,包括:
针对每一第一分区,根据该第一分区的分区标识判断所述存储服务器是否存储有该第一分区对应的数据;
如果是,则将该第一分区在该第一分区的目标时间点之前已存储的数据,确定为该第一分区的待删除数据;
所述删除所确定的待删除数据的步骤,包括:
删除所确定的每一第一分区的待删除数据。
11.根据权利要求9所述的方法,其特征在于,所述方法还包括:
定时向管理服务器发送所述存储服务器自身的系统时间,以使所述管理服务器定时根据各个存储服务器的系统时间,获得标准时间,其中,所述标准时间为对各个存储服务器的系统时间进行同步处理后的时间。
12.一种数据删除方法,其特征在于,应用于分布式存储系统,所述分布式存储系统包括管理服务器和存储服务器,所述方法包括:
所述管理服务器当确定需要批量删除数据时,根据预设的数据删除规则,确定目标时间点;将所确定的目标时间点发送给所述存储服务器;
所述存储服务器在将接收到目标时间点后,根据所述目标时间点,确定待删除数据;删除所确定的待删除数据,其中,所述待删除数据为存储时间在所述目标时间点之前的已存储数据。
13.根据权利要求12所述的方法,其特征在于,所述存储服务器定时向所述管理服务器发送所述存储服务器自身的系统时间;
所述管理服务器定时根据各个存储服务器的系统时间,获得标准时间,其中,所述标准时间为对各个存储服务器的系统时间进行同步处理后的时间;
所述存储时间为存储服务器存储数据时的标准时间;
所述目标时间点为所述待删除数据的存储时间中最晚的存储时间。
14.根据权利要求13所述的方法,其特征在于,所述管理服务器获得对各个存储服务器的系统时间进行同步处理后的时间,作为标准时间,包括:
定时获取各个存储服务器的系统时间;
判断所获得的所有系统时间的个数是否大于预设数量;
如果是,将除一个最大系统时间和一个最小系统时间之外的其他所有系统时间按照大小进行排序,将排序排在中间的系统时间,作为标准时间,
或,
计算除一个最大系统时间和一个最小系统时间之外的其他所有系统时间的平均值,作为标准时间;
如果否,计算所获得的所有系统时间的平均值,作为标准时间。
15.根据权利要求12所述的方法,其特征在于,所述管理服务器根据预设的数据删除规则,确定目标时间点,包括:
根据预设的每个分区的数据删除规则,确定每个要删除数据的第一分区的目标时间点;
所述管理服务器在所述将所确定的目标时间点发送给存储服务器之前,获取每个第一分区的分区标识;
所述管理服务器将所确定的目标时间发送给存储服务器,包括:
将每个第一分区的目标时间点及对应的分区标识发送给各个第一分区对应的存储服务器;
所述存储服务器接收所述管理服务器发送的第一分区的目标时间点和对应的分区标识;
所述存储服务器根据目标时间点确定待删除数据,包括:
针对每一第一分区,根据该第一分区的分区标识判断所述存储服务器是否存储有该第一分区对应的数据;
如果是,则将该第一分区在该第一分区的目标时间点之前已存储的数据,确定为该第一分区的待删除数据;
所述存储服务器删除所确定的待删除数据,包括:
删除所确定的每一第一分区的待删除数据。
16.根据权利要求15所述的方法,其特征在于,所述管理服务器根据预设的每个分区的数据删除规则,确定每个要删除数据的第一分区的目标时间点,包括:
获得当前时间;
针对每个第一分区,将所获得的当期时间与该第一分区预设的存储周期之差,作为该第一分区的目标时间点。
17.根据权利要求15所述的方法,其特征在于,所述管理服务器根据预设的每个分区的数据删除规则,确定每个要删除数据的第一分区的目标时间点,包括:
根据每一分区当前的存储量以及针对每一分区预设的存储阈值,确定每一分区的待删除存储量;
针对待删除存储量不为零的每个第一分区,根据预先记录的该第一分区已存储数据的数据大小,按照预先记录的该第一分区已存储数据的存储时间的先后顺序,确定该第一分区的待删除数据,直至所确定的所有待删除数据的数据总量与该第一分区的待删除存储量之差在预设数据范围内;
针对每个第一分区,从针对该第一分区所确定的所有待删除数据的存储时间中,选择最晚的存储时间,作为该第一分区的目标时间点。
18.根据权利要求12所述的方法,其特征在于,所述管理服务器删除在所述目标时间点之前存储的数据的索引信息。
19.根据权利要求18所述的方法,其特征在于,所述管理服务器删除在所述目标时间点存储的数据的索引信息,包括:
针对每一第一分区,删除针对该第一分区在该第一分区的目标时间点之前存储的数据的索引信息。
20.一种分布式存储系统,其特征在于,所述系统包括管理服务器和存储服务器,
所述管理服务器,用于当确定需要批量删除数据时,根据预设的数据删除规则,确定目标时间点;将所确定的目标时间点发送给所述存储服务器;
所述存储服务器,用于在接收到所述目标时间点后,根据所述目标时间点,确定待删除数据;删除所确定的待删除数据,其中,所述待删除数据为存储时间在所述目标时间点之前的已存储数据。
21.根据权利要求20所述的系统,其特征在于,所述存储服务器,用于定时向所述管理服务器发送所述存储服务器自身的系统时间;
所述管理服务器,用于定时根据各个存储服务器的系统时间,获得标准时间,其中,所述标准时间为对各个存储服务器的系统时间进行同步处理后的时间;
所述存储时间为存储服务器存储数据时的标准时间;
所述目标时间点为所述待删除数据的存储时间中最晚的存储时间。
22.根据权利要求21所述的系统,其特征在于,所述管理服务器定时根据各个存储服务器的系统时间,获得标准时间,包括:
定时获取各个存储服务器的系统时间;
判断所获得的所有系统时间的个数是否大于预设数量;
如果是,将除一个最大系统时间和一个最小系统时间之外的其他所有系统时间按照大小进行排序,将排序排在中间的系统时间,作为标准时间,
或,
计算除一个最大系统时间和一个最小系统时间之外的其他所有系统时间的平均值,作为标准时间;
如果否,计算所获得的所有系统时间的平均值,作为标准时间。
23.根据权利要求20所述的系统,其特征在于,所述管理服务器用于根据预设的每个分区的数据删除规则,确定每个要删除数据的第一分区的目标时间点;获取每个第一分区的分区标识;将每个第一分区的目标时间点及对应的分区标识发送给各个第一分区对应的存储服务器;
所述存储服务器,用于接收所述管理服务器发送的第一分区的目标时间点和对应的分区标识;针对每一第一分区,根据该第一分区的分区标识判断所述存储服务器是否存储有该第一分区对应的数据;如果是,则将该第一分区在该第一分区的目标时间点之前已存储的数据,确定为该第一分区的待删除数据;删除所确定的每一第一分区的待删除数据。
24.根据权利要求23所述的系统,其特征在于,所述管理服务器,用于根据预设的每个分区的数据删除规则,确定每个要删除数据的第一分区的目标时间点,包括:
获得当前时间;
针对每个第一分区,将所获得的当期时间与该第一分区预设的存储周期之差,作为该第一分区的目标时间点。
25.根据权利要求23所述的系统,其特征在于,所述管理服务器,用于根据每一分区当前的存储量以及针对每一分区预设的存储阈值,确定每一分区的待删除存储量;针对待删除存储量不为零的每个第一分区,根据预先记录的该第一分区已存储数据的数据大小,按照预先记录的该第一分区已存储数据的存储时间的先后顺序,确定该第一分区的待删除数据,直至所确定的所有待删除数据的数据总量与该第一分区的待删除存储量之差在预设数据范围内;针对每个第一分区,从针对该第一分区所确定的所有待删除数据的存储时间中,选择最晚的存储时间,作为该第一分区的目标时间点。
26.根据权利要求20所述的系统,其特征在于,所述管理服务器,用于删除在所述目标时间点之前存储的数据的索引信息。
27.根据权利要求26所述的系统,其特征在于,所述管理服务器,用于针对每一第一分区,删除针对该第一分区在该第一分区的目标时间点之前存储的数据的索引信息。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710876800.3A CN109558065B (zh) | 2017-09-25 | 2017-09-25 | 数据删除方法及分布式存储系统 |
PCT/CN2018/107277 WO2019057193A1 (zh) | 2017-09-25 | 2018-09-25 | 数据删除方法及分布式存储系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710876800.3A CN109558065B (zh) | 2017-09-25 | 2017-09-25 | 数据删除方法及分布式存储系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109558065A true CN109558065A (zh) | 2019-04-02 |
CN109558065B CN109558065B (zh) | 2020-11-27 |
Family
ID=65809549
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710876800.3A Active CN109558065B (zh) | 2017-09-25 | 2017-09-25 | 数据删除方法及分布式存储系统 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN109558065B (zh) |
WO (1) | WO2019057193A1 (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110767291A (zh) * | 2019-10-15 | 2020-02-07 | 武汉联影医疗科技有限公司 | 医学图像处理方法、装置和存储介质 |
CN110851402A (zh) * | 2019-10-18 | 2020-02-28 | 惠州高盛达科技有限公司 | 基于嵌入式系统的文件删除方法及系统 |
CN111399754A (zh) * | 2019-09-03 | 2020-07-10 | 杭州海康威视系统技术有限公司 | 存储空间的释放方法、装置及分布式系统 |
CN111859040A (zh) * | 2020-07-17 | 2020-10-30 | 苏州浪潮智能科技有限公司 | 一种数据匹配方法、装置及相关设备 |
CN113126929A (zh) * | 2021-04-23 | 2021-07-16 | 重庆紫光华山智安科技有限公司 | 一种特征数据去重的方法、系统、介质和终端 |
CN113537530A (zh) * | 2021-09-17 | 2021-10-22 | 中建电子信息技术有限公司 | 基于智慧社区物联网大数据的智能分析及应用方法 |
CN114328437A (zh) * | 2021-12-29 | 2022-04-12 | 苏州浪潮智能科技有限公司 | 一种历史数据快速删除方法、装置、设备及介质 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111552667B (zh) * | 2020-04-29 | 2023-11-03 | 杭州海康威视系统技术有限公司 | 一种数据删除方法、装置及电子设备 |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050216534A1 (en) * | 2004-03-24 | 2005-09-29 | Mitsuru Ikezawa | Wide area distributed storage system for checking erasion of worm file |
CN101232514A (zh) * | 2008-01-24 | 2008-07-30 | 创新科存储技术(深圳)有限公司 | 网络附加存储节点的元数据同步方法及网络附加存储节点 |
CN201726424U (zh) * | 2009-08-18 | 2011-01-26 | 升东网络科技发展(上海)有限公司 | 分布式存储系统 |
CN103366573A (zh) * | 2013-07-10 | 2013-10-23 | 中兴智能交通(无锡)有限公司 | 一种基于云计算的车辆行驶信息追踪方法及系统 |
CN103443757A (zh) * | 2012-12-31 | 2013-12-11 | 华为技术有限公司 | 数据擦除方法、装置和系统 |
CN103700133A (zh) * | 2013-12-20 | 2014-04-02 | 广东威创视讯科技股份有限公司 | 三维场景分布式渲染同步刷新方法和系统 |
CN103747276A (zh) * | 2013-12-24 | 2014-04-23 | 乐视网信息技术(北京)股份有限公司 | 一种cdn数据删除方法及cdn服务器 |
CN104639859A (zh) * | 2013-11-08 | 2015-05-20 | 浙江大华技术股份有限公司 | 一种视频监控设备及其进行数据同步的方法 |
CN104702700A (zh) * | 2015-03-30 | 2015-06-10 | 四川神琥科技有限公司 | 一种邮件提取方法 |
CN105095489A (zh) * | 2015-08-18 | 2015-11-25 | 浪潮(北京)电子信息产业有限公司 | 一种分布式文件删除方法、装置和系统 |
CN105306858A (zh) * | 2014-05-29 | 2016-02-03 | 杭州海康威视系统技术有限公司 | 一种视频数据存储方法和装置 |
CN105677240A (zh) * | 2015-12-30 | 2016-06-15 | 上海联影医疗科技有限公司 | 数据删除方法及系统 |
CN105989102A (zh) * | 2015-02-12 | 2016-10-05 | 广东欧珀移动通信有限公司 | 一种备份数据的删除方法及装置 |
CN106569733A (zh) * | 2015-10-12 | 2017-04-19 | 北京国双科技有限公司 | 缓存数据的处理方法和装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102799514B (zh) * | 2011-05-24 | 2017-02-15 | 中兴通讯股份有限公司 | 一种日志记录管理方法和系统 |
CN104679851B (zh) * | 2015-02-12 | 2019-02-05 | Oppo广东移动通信有限公司 | 一种数据删除方法及终端 |
CN104821907B (zh) * | 2015-03-30 | 2018-01-30 | 四川神琥科技有限公司 | 一种电子邮件处理方法 |
CN106484906B (zh) * | 2016-10-21 | 2020-01-10 | 焦点科技股份有限公司 | 一种分布式对象存储系统闪回方法及装置 |
-
2017
- 2017-09-25 CN CN201710876800.3A patent/CN109558065B/zh active Active
-
2018
- 2018-09-25 WO PCT/CN2018/107277 patent/WO2019057193A1/zh active Application Filing
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050216534A1 (en) * | 2004-03-24 | 2005-09-29 | Mitsuru Ikezawa | Wide area distributed storage system for checking erasion of worm file |
CN101232514A (zh) * | 2008-01-24 | 2008-07-30 | 创新科存储技术(深圳)有限公司 | 网络附加存储节点的元数据同步方法及网络附加存储节点 |
CN201726424U (zh) * | 2009-08-18 | 2011-01-26 | 升东网络科技发展(上海)有限公司 | 分布式存储系统 |
CN103443757A (zh) * | 2012-12-31 | 2013-12-11 | 华为技术有限公司 | 数据擦除方法、装置和系统 |
CN103366573A (zh) * | 2013-07-10 | 2013-10-23 | 中兴智能交通(无锡)有限公司 | 一种基于云计算的车辆行驶信息追踪方法及系统 |
CN104639859A (zh) * | 2013-11-08 | 2015-05-20 | 浙江大华技术股份有限公司 | 一种视频监控设备及其进行数据同步的方法 |
CN103700133A (zh) * | 2013-12-20 | 2014-04-02 | 广东威创视讯科技股份有限公司 | 三维场景分布式渲染同步刷新方法和系统 |
CN103747276A (zh) * | 2013-12-24 | 2014-04-23 | 乐视网信息技术(北京)股份有限公司 | 一种cdn数据删除方法及cdn服务器 |
CN105306858A (zh) * | 2014-05-29 | 2016-02-03 | 杭州海康威视系统技术有限公司 | 一种视频数据存储方法和装置 |
CN105989102A (zh) * | 2015-02-12 | 2016-10-05 | 广东欧珀移动通信有限公司 | 一种备份数据的删除方法及装置 |
CN104702700A (zh) * | 2015-03-30 | 2015-06-10 | 四川神琥科技有限公司 | 一种邮件提取方法 |
CN105095489A (zh) * | 2015-08-18 | 2015-11-25 | 浪潮(北京)电子信息产业有限公司 | 一种分布式文件删除方法、装置和系统 |
CN106569733A (zh) * | 2015-10-12 | 2017-04-19 | 北京国双科技有限公司 | 缓存数据的处理方法和装置 |
CN105677240A (zh) * | 2015-12-30 | 2016-06-15 | 上海联影医疗科技有限公司 | 数据删除方法及系统 |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111399754A (zh) * | 2019-09-03 | 2020-07-10 | 杭州海康威视系统技术有限公司 | 存储空间的释放方法、装置及分布式系统 |
CN111399754B (zh) * | 2019-09-03 | 2023-11-03 | 杭州海康威视系统技术有限公司 | 存储空间的释放方法、装置及分布式系统 |
CN110767291A (zh) * | 2019-10-15 | 2020-02-07 | 武汉联影医疗科技有限公司 | 医学图像处理方法、装置和存储介质 |
CN110851402A (zh) * | 2019-10-18 | 2020-02-28 | 惠州高盛达科技有限公司 | 基于嵌入式系统的文件删除方法及系统 |
CN111859040A (zh) * | 2020-07-17 | 2020-10-30 | 苏州浪潮智能科技有限公司 | 一种数据匹配方法、装置及相关设备 |
CN111859040B (zh) * | 2020-07-17 | 2022-05-13 | 苏州浪潮智能科技有限公司 | 一种数据匹配方法、装置及相关设备 |
CN113126929A (zh) * | 2021-04-23 | 2021-07-16 | 重庆紫光华山智安科技有限公司 | 一种特征数据去重的方法、系统、介质和终端 |
CN113126929B (zh) * | 2021-04-23 | 2022-04-22 | 重庆紫光华山智安科技有限公司 | 一种特征数据去重的方法、系统、介质和终端 |
CN113537530A (zh) * | 2021-09-17 | 2021-10-22 | 中建电子信息技术有限公司 | 基于智慧社区物联网大数据的智能分析及应用方法 |
CN114328437A (zh) * | 2021-12-29 | 2022-04-12 | 苏州浪潮智能科技有限公司 | 一种历史数据快速删除方法、装置、设备及介质 |
CN114328437B (zh) * | 2021-12-29 | 2024-01-12 | 苏州浪潮智能科技有限公司 | 一种历史数据快速删除方法、装置、设备及介质 |
Also Published As
Publication number | Publication date |
---|---|
WO2019057193A1 (zh) | 2019-03-28 |
CN109558065B (zh) | 2020-11-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109558065A (zh) | 数据删除方法及分布式存储系统 | |
CN109739929B (zh) | 数据同步方法、装置及系统 | |
CN109165229B (zh) | 本地区块同步的检验方法、装置、设备及存储介质 | |
US6038564A (en) | Method and apparatus for integrating distributed information | |
CN105338078B (zh) | 用于存储系统的数据存储方法和装置 | |
CN103338243B (zh) | Web节点的缓存数据更新方法和系统 | |
CN103595566B (zh) | 一种检测空闲ip地址的方法及装置 | |
CN101771723A (zh) | 数据同步方法 | |
CN110162270A (zh) | 基于分布式存储系统的数据存储方法、存储节点及介质 | |
CN104052565B (zh) | 一种时间同步方法和通信终端 | |
CN106383668A (zh) | 一种信息存储方法、存储管理设备及客户端 | |
CN111427670A (zh) | 任务调度方法和系统 | |
CN109976942A (zh) | 一种数据备份和恢复方法、备份服务器和源服务器 | |
CN111552701A (zh) | 确定分布式集群中数据一致性的方法及分布式数据系统 | |
CN110196780B (zh) | 确定服务器状态的方法、装置、存储介质和电子装置 | |
CN101895568B (zh) | 一种同步数据清理的方法和系统 | |
CN101778131A (zh) | 数据同步系统 | |
CN101789963A (zh) | 数据同步系统 | |
CN116304390B (zh) | 时序数据处理方法、装置、存储介质及电子设备 | |
CN110413684A (zh) | 一种数据库同步方法、装置及系统 | |
CN101833585A (zh) | 数据库服务器操作控制系统、方法及设备 | |
CN108829735B (zh) | 并行执行计划的同步方法、装置、服务器及存储介质 | |
CN111309693A (zh) | 一种数据同步方法、装置、系统、电子设备及存储介质 | |
CN115221116A (zh) | 一种数据写入方法、装置、设备及可读存储介质 | |
CN109241365B (zh) | 区块链系统的构造方法、介质、计算机设备及区块链系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |