CN111061423B - 一种数据处理方法、装置和管理节点 - Google Patents
一种数据处理方法、装置和管理节点 Download PDFInfo
- Publication number
- CN111061423B CN111061423B CN201811210214.6A CN201811210214A CN111061423B CN 111061423 B CN111061423 B CN 111061423B CN 201811210214 A CN201811210214 A CN 201811210214A CN 111061423 B CN111061423 B CN 111061423B
- Authority
- CN
- China
- Prior art keywords
- time point
- storage node
- coverage
- data
- reported
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0614—Improving the reliability of storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0646—Horizontal data movement in storage systems, i.e. moving data in between storage devices or systems
- G06F3/0652—Erasing, e.g. deleting, data cleaning, moving of data to a wastebasket
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请提供一种数据处理方法、装置和管理节点。本申请提供的数据处理方法,包括:接收各个存储节点上报的资源池信息,所述资源池信息至少包括:目标数据覆盖时间点和目标录制时间点,在确定数据覆盖条件达到时,针对每一存储节点,依据该存储节点上报的目标数据覆盖时间点和所有存储节点上报的目标录制时间点判断该存储节点在之前是否正常执行覆盖任务;如果否,依据该存储节点上报的目标数据覆盖时间点,为该存储节点确定待执行覆盖任务的第一数据覆盖时间点,并将所述第一数据覆盖时间点携带在覆盖任务中下发给该存储节点。本申请提供的数据处理方法、装置和管理节点,可在故障的存储节点恢复正常后,平滑的删除该存储节点存储的视频数据。
Description
技术领域
本申请涉及云存储技术领域,尤其涉及一种数据处理方法、装置和管理节点。
背景技术
近年来,随着云存储技术的发展,云存储系统均支持循环覆盖,以删除云存储系统中的历史数据,保证存储空间的重复利用。
相关技术提出了一种数据处理方法,在该方法中,管理节点以最近一次下发覆盖任务时该覆盖任务携带的数据覆盖时间点和指定时间点中时间较晚的时间点为基准时间点确定待执行覆盖任务的目标数据覆盖时间点,并向各个存储节点下发携带该目标数据覆盖时间点的覆盖任务,以指示存储节点将录制时间点处于该目标数据覆盖时间点之前的视频数据删除。其中,指定时间点为各个存储节点上报的最早的视频数据的录制时间点中时间最早的录制时间点。
然而,由于各种原因,存储节点会故障。这样,当故障的存储节点恢复正常后,由于该存储节点因故障长时间未执行覆盖任务,该存储节点对应的最早的视频数据的录制时间点远远早于依据上述方法确定出的覆盖时间点。这样,该存储节点执行本次覆盖任务后,将导致该存储节点上的视频数据被一次性大量删除。这样,将导致用户没有足够的时间利用该存储节点上的视频数据,造成数据资源的浪费。
发明内容
有鉴于此,本申请提供一种数据处理方法、装置和管理节点,以在故障的存储节点恢复正常后,平滑的删除该存储节点存储的视频数据,以给用户预留足够的时间利用该存储节点存储的视频数据。
本申请第一方面提供一种数据处理方法,所述方法应用于云存储系统中的管理节点,所述方法包括:
接收各个存储节点上报的资源池信息,所述资源池信息至少包括:目标数据覆盖时间点和目标录制时间点,所述目标数据覆盖时间点为最近的数据覆盖时间点,所述目标录制时间点为最早的视频数据录制时间点;
在确定数据覆盖条件达到时,针对每一存储节点,依据该存储节点上报的目标数据覆盖时间点和所有存储节点上报的目标录制时间点判断该存储节点在之前是否正常执行覆盖任务;
若否,依据该存储节点上报的目标数据覆盖时间点,为该存储节点确定待执行覆盖任务的第一数据覆盖时间点,并将所述第一数据覆盖时间点携带在覆盖任务中下发给该存储节点。
本申请第二方面提供一种数据处理装置,所述装置应用于云存储系统中的管理节点,所述装置包括接收模块、判断模块和处理模块,其中,
所述接收模块,用于接收各个存储节点上报的资源池信息,所述资源池信息至少包括:目标数据覆盖时间点和目标录制时间点,所述目标数据覆盖时间点为最近的数据覆盖时间点,所述目标录制时间点为最早的视频数据录制时间点;
所述判断模块,用于在确定数据覆盖条件达到时,针对每一存储节点,依据该存储节点上报的目标数据覆盖时间点和所有存储节点上报的目标录制时间点判断该存储节点在之前是否正常执行覆盖任务;
所述处理模块,用于在所述判断模块判断该存储节点在之前未正常执行覆盖任务时,依据该存储节点上报的目标数据覆盖时间点,为该存储节点确定待执行覆盖任务的第一数据覆盖时间点,并将所述第一数据覆盖时间点携带在覆盖任务中下发给该存储节点。
本申请第三方面提供一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现本申请第一方面提供的任一所述方法的步骤。
本申请第四方面提供一种管理节点,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现本申请第一方面提供的任一所述方法的步骤。
本申请提供的数据处理方法、装置和管理节点,通过接收各个存储节点上报的资源池信息,并在确定数据覆盖条件达到时,针对每一存储节点,依据该存储节点上报的目标数据覆盖时间点和所有存储节点上报的目标录制时间点判断该存储节点在之前是否正常执行覆盖任务,进而在判断该存储节点在之前未正常执行覆盖任务时,依据该存储节点上报的目标数据覆盖时间点,为该存储节点确定待执行覆盖任务的第一数据覆盖时间点,并将所述第一数据覆盖时间点携带在覆盖任务中下发给该存储节点。这样,在确定一个存储节点为之前未正常执行覆盖任务的存储节点后,依据该存储节点上报的目标数据覆盖时间点,为该存储节点确定待执行覆盖任务的第一数据覆盖时间点,而该存储节点上报的目标数据覆盖时间为最近的数据覆盖时间点,即为该存储节点最近一次执行覆盖任务时该覆盖任务携带的数据覆盖时间点。这样,依据该目标数据覆盖时间点确定出的第一数据覆盖时间点与该目标数据覆盖时间点相差不大,该存储节点执行本次覆盖任务后,该存储节点存储的视频数据不会被一次性大量删除掉,可实现平滑删除该存储节点存储的视频数据的目的,以给用户预留足够的时间利用该存储节点上的视频数据。
附图说明
图1为本申请提供的数据处理方法和装置的应用场景示意图;
图2为本申请提供的数据处理方法实施例一的流程图;
图3为本申请提供的数据处理方法实施例二的流程图;
图4为本申请提供的数据处理方法实施例三的流程图;
图5为本申请一示例性实施例示出的数据处理装置所在管理节点的硬件结构图;
图6为本申请提供的数据处理装置实施例一的结构示意图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
在本申请使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本申请。在本申请和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本申请可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本申请范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
本申请提供一种数据处理方法、装置和管理节点,以在故障的存储节点恢复正常后,平滑的删除该存储节点存储的视频数据,以给用户预留足够的时间利用该存储节点存储的视频数据。
下面给出几个具体的实施例,用以详细介绍本申请的技术方案。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。
图1为本申请提供的数据处理方法和装置的应用场景示意图。请参照图1,本申请提供的数据处理方法和装置,可应用于图1所示的管理节点1。该管理节点1通过向存储节点2下发覆盖任务,可指示接收到该覆盖任务的存储节点2进行数据覆盖,删除历史数据,保证存储空间的重复利用。具体的,覆盖任务携带数据覆盖时间点,存储节点2在接收到覆盖任务时,会将该存储节点存储的视频数据中录制时间点处于该覆盖任务携带的数据覆盖时间点之前的视频数据删除。下面将给出具体的实施例,用于详细介绍管理节点向存储节点下发覆盖任务的具体过程,此处不再赘述。
图2为本申请提供的数据处理方法实施例一的流程图。本实施例提供的方法,应用于图1所示的管理节点。请参照图2,本实施例提供的方法,可以包括:
S201、接收各个存储节点上报的资源池信息,上述资源池信息至少包括:目标数据覆盖时间点和目标录制时间点,上述目标数据覆盖时间点为最近的数据覆盖时间点,上述目标录制时间点为最早的视频数据的录制时间点。
具体的,存储节点会按照预设时间间隔向管理节点上报资源池信息。该资源池信息可以包括目标数据覆盖时间点和目标录制时间点。其中,目标数据覆盖时间点为最近的数据覆盖时间点,即该目标数据覆盖时间点为该存储节点最近一次执行覆盖任务时该覆盖任务携带的数据覆盖时间点。此外,上述目标录制时间点为最早的视频数据的录制时间点。
需要说明的是,该预设时间间隔是根据实际需要设定的,本实施例中,不对该预设时间间隔的具体值进行限定。例如,一实施例中,该预设时间间隔可以为25秒。
S202、在确定数据覆盖条件达到时,针对每一存储节点,依据该存储节点上报的目标数据覆盖时间点和所有存储节点上报的目标录制时间点判断该存储节点在之前是否正常执行覆盖任务。
具体的,管理节点会按照预设时间间隔检测数据覆盖条件是否达到。例如,一实施例中,管理节点每隔15分就检测一次数据覆盖条件是否达到。进一步地,一实施例中,当检测到资源池剩余容量小于或等于第一预设阈值时(该第一预设阈值可以等于资源池总容量的百分之十),或者是,当检测到在线存储节点的剩余总容量小于或等于第一预设阈值、且在线存储节点的剩余总容量小于或等于第二预设阈值(该第二预设阈值可以等于在线存储节点的总容量的百分之十)时,确定数据覆盖条件达到。
需要说明的是,有关确定数据覆盖条件是否达到的具体实现原理和实现过程可以参见相关技术中的描述,此处不再赘述。
具体的,在确定数据覆盖条件达到时,本步骤中,就针对每一存储节点,依据该存储节点上报的目标数据覆盖时间点和所有存储节点上报的目标录制时间点判断该存储节点是否在之前未正常执行覆盖任务。需要说明的是,有关该步骤的具体实现原理将在下面的实施例中详细介绍,此处不再赘述。
S203、若否,依据该存储节点上报的目标数据覆盖时间点,为该存储节点确定待执行覆盖任务的第一数据覆盖时间点,并将上述第一数据覆盖时间点携带在覆盖任务中下发给该存储节点。
具体的,针对每一存储节点,当确定该存储节点在之前未正常执行覆盖任务时,此时,针对该存储节点,就依据该存储节点上报的目标数据覆盖时间点,为该存储节点确定待执行覆盖任务的第一数据覆盖时间点,并将第一数据覆盖时间点携带在覆盖任务中下发给该存储节点,以指示该存储节点在接收到该覆盖任务时,将本地存储的视频数据中录制时间点处于该第一数据覆盖时间点之前的视频数据删除,实现平滑删除历史数据的目的。
可选地,在本申请一可能的实现方式中,依据该存储节点上报的目标数据覆盖时间点,为该存储节点确定待执行覆盖任务的第一数据覆盖时间点,可以包括:
计算该存储节点上报的目标数据覆盖时间点与第二指定时长的和值,并将上述和值确定为上述第一数据覆盖时间点。
具体的,第二指定时长是根据实际需要设定的。本实施例中,不对第二指定时长的具体值进行限定。例如,一实施例中,第二指定时长可以为5h。再例如,另一实施例中,第二指定时长可以为6h。下面以“第二指定时长为6h”为例进行说明。
本实施例提供的方法,通过接收各个存储节点上报的资源池信息,并在确定数据覆盖条件达到时,针对每一存储节点,依据该存储节点上报的目标数据覆盖时间点和所有存储节点上报的目标录制时间点判断该存储节点在之前是否正常执行覆盖任务,进而在判断该存储节点在之前未正常执行覆盖任务时,依据该存储节点上报的目标数据覆盖时间点,为该存储节点确定待执行覆盖任务的第一数据覆盖时间点,并将所述第一数据覆盖时间点携带在覆盖任务中下发给该存储节点。这样,在确定一个存储节点为之前未正常执行覆盖任务的存储节点后,依据该存储节点上报的目标数据覆盖时间点,为该存储节点确定待执行覆盖任务的第一数据覆盖时间点,而该存储节点上报的目标数据覆盖时间为最近的数据覆盖时间点,即该存储节点最近一次执行覆盖任务时上述覆盖任务携带的数据覆盖时间点。这样,依据该目标数据覆盖时间点确定出的第一数据覆盖时间与该目标数据覆盖时间点相差不大,该存储节点执行本次覆盖任务后,该存储节点存储的视频数据不会被一次性大量删除掉,可实现平滑删除该存储节点存储的视频数据的目的,以给用户预留足够的时间利用该存储节点上的视频数据。
图3为本申请提供的数据处理方法实施例二的流程图。请参照图3,本实施例提供的方法,在上述实施例的基础上,步骤S202,可以包括:
S301、从所有存储节点上报的目标录制时间点中查找时间最早的候选目标录制时间点。
例如,一实施例中,共有3个存储节点,分别记为2i,i等于1到3(其中,2i为存储节点的标识信息)。进一步地,存储节点21上报的资源池信息为:目标数据覆盖时间点为2018年8月10日9:05:23,目标录制时间点为2018年8月10日9:31:55。存储节点22上报的资源池信息为:目标数据覆盖时间点为2018年8月7日23:03:01,目标录制时间点为2018年8月8日01:00:08;存储节点23上报的资源池信息为:目标数据覆盖时间点为2018年8月10日9:05:23,目标录制时间点为2018年8月10日9:05:23。本步骤中,确定候选目标录制时间点为2018年8月8日19:00:08。
S302、从上述候选目标录制时间点和本设备最近一次记录的参考时间点中选择时间较晚的时间点作为基准时间点。
需要说明的是,本设备记录的参考时间点为本设备每次向之前正常执行覆盖任务的正常存储节点下发的覆盖任务携带的覆盖时间点。最近一次记录的参考时间点即为最近一次向正常存储节点下发的覆盖任务携带的覆盖时间点。
参见前面的例子,例如,本设备最近一次记录的参考时间点为2018年8月10日9:05:23。此时,候选目标录制时间点为2018年8月8日19:00:08,本设备最近一次记录的参考时间点为2018年8月10日9:05:23,这两个时间点中时间较晚的时间点为2018年8月10日9:05:23。因此,本步骤中,就确定基准时间点为2018年8月10日9:05:23。
S303、依据该存储节点上报的目标数据覆盖时间点和上述基准时间点判断该存储节点在之前是否正常执行覆盖任务。
具体的,该步骤的具体实现过程,可以包括:
(1)判断所述基准时间点与该存储节点上报的目标数据覆盖时间点的差值是否大于或者等于第一指定时长;
(2)若是,确定该存储节点在之前未正常执行覆盖任务。
(3)若否,确定该存储节点在之前正常执行覆盖任务。
需要说明的是,第一指定时长是根据实际需要设定的,本实施例中,不对第一指定时长的具体值进行限定。下面以“第一指定时长为6小时”为例进行说明。
结合上面的例子,针对存储节点21,判断基准时间点(2018年8月10日9:05:23)与该存储节点21上报的目标数据覆盖时间点(2018年8月10日9:05:23)的差值小于第一指定时长,此时,确定存储节点21在之前正常执行覆盖任务。
进一步地,针对存储节点22,判断基准时间点(2018年8月10日9:05:23)与该存储节点22上报的目标数据覆盖时间点(2018年8月7日23:03:01)的差值大于第一指定时长,此时,确定该存储节点22在之前未正常执行覆盖任务。结合实施例一中的介绍,此时,就依据该存储节点22上报的目标数据覆盖时间点,为该存储节点22确定待执行覆盖任务的第一数据覆盖时间点。例如,一实施例中,为该存储节点22确定待执行覆盖任务的第一数据覆盖时间点为2018年8月8日5:03:01。其中,该第一数据覆盖时间点(2018年8月8日5:03:01)等于该存储节点22上报的目标数据覆盖时间点(2018年8月7日23:03:01)加6h。需要说明的是,存储节点22在接收到该覆盖任务时,会将录制时间点早于2018年8月8日5:03:01的视频数据删除。
此外,针对存储节点23,本例中,判断基准时间点(2018年8月10日9:05:23)与该存储节点23上报的目标数据覆盖时间点(2018年8月10日9:05:23)的差值小于第一指定时长,此时,确定存储节点23在之前正常执行覆盖任务。
本实施例提供的方法,提供了一种判断存储节点在之前是否正常执行覆盖任务的方法,通过该方法,可准确找出之前未正常执行覆盖任务的存储节点,进而依据该存储节点上报的目标数据覆盖时间点确定该存储节点待执行覆盖任务的第一数据覆盖时间点,以实现平滑删除该存储节点存储的视频数据的目的。
图4为本申请提供的数据处理方法实施例三的流程图。请参照图4,本实施例提供的方法,可以包括:
S401、接收各个存储节点上报的资源池信息;上述资源池信息至少包括:目标数据覆盖时间点和目标录制时间点,上述目标数据覆盖时间点为最近的数据覆盖时间点,上述目标录制时间点为最早的视频数据的录制时间点。
S402、在确定数据覆盖条件达到时,从所有存储节点上报的目标录制时间点中查找时间最早的候选目标录制时间点。
S403、从上述候选目标录制时间点和本设备最近一次记录的参考时间点中选择时间较晚的时间点作为基准时间点。
S404、针对每一存储节点,判断上述基准时间点与该存储节点上报的目标数据覆盖时间点的差值是否大于或者等于第一指定时长。
S405、若是,确定该存储节点在之前未正常执行覆盖任务,依据该存储节点上报的目标数据覆盖时间点,为该存储节点确定待执行覆盖任务的第一数据覆盖时间点,并将上述第一数据覆盖时间点携带在覆盖任务中下发给该存储节点。
具体的,步骤S401至S405的具体实现过程和实现原理可以参见前面实施例中的描述,此处不再赘述。
S406、若否,确定该存储节点在之前正常执行覆盖任务,依据上述基准时间点,为该存储节点确定待执行覆盖任务的第二数据覆盖时间点,并将上述第二数据覆盖时间点携带在覆盖任务中下发给该存储节点;其中,上述第二数据覆盖时间点等于上述基准时间与第三指定时长的和值。
具体的,第三指定时长是根据实际需要限定的,本实施例中,不对第三指定时长的具体值进行限定。下面以“第三指定时长为1h”为例进行说明。
结合实施例二中的例子,例如,针对存储节点21和存储节点23,经判断,确定这两个存储节点在之前正常执行覆盖任务,此时,就确定这两个存储节点待执行覆盖任务时的第二数据覆盖时间点为2018年8月10日10:05:23。其中,这两个存储节点待执行覆盖任务时的第二数据覆盖时间点等于这两个存储节点上报的目标数据覆盖时间点(2018年8月10日9:05:23)加1h。
S407、将上述第二数据覆盖时间点作为参考时间点记录在本地。
具体的,结合上面的例子,本步骤中,就将2018年8月10日10:05:23作为参考时间点记录在本地。这样,在下一次确定数据覆盖条件达到时,即可基于该参考时间点判断各个存储节点是否在之前未正常执行覆盖任务。
本实施例提供的方法,通过接收各个存储节点上报的资源池信息,并在确定数据覆盖条件达到时,针对每一存储节点,依据该存储节点上报的目标数据覆盖时间点和所有存储节点上报的目标录制时间点判断该存储节点在之前是否正常执行覆盖任务,进而在判断该存储节点在之前未正常执行覆盖任务时,依据该存储节点上报的目标数据覆盖时间点,为该存储节点确定待执行覆盖任务的第一数据覆盖时间点,并将所述第一数据覆盖时间点携带在覆盖任务中下发给该存储节点。这样,在确定一个存储节点在之前未正常执行覆盖任务时,依据该存储节点上报的目标数据覆盖时间点,为该存储节点确定待执行覆盖任务的第一数据覆盖时间点,而该存储节点上报的目标数据覆盖时间为最近的数据覆盖时间点。这样,依据该目标数据覆盖时间点确定出的第一数据覆盖时间点与该目标数据覆盖时间点相差不大,该存储节点执行本次覆盖任务后,该存储节点存储的视频数据不会被一次性大量删除掉,可实现平滑删除该存储节点存储的视频数据的目的,以给用户预留足够的时间利用该存储节点上的视频数据。
可选地,在本申请一可能的实现方式中,第二指定时长大于第三指定时长。
例如,第二指定时长为5h,第三指定时长为1h。
进一步地,在本申请一可能的实现方式中,第二指定时长与第三指定时长的比值等于第一指定时长对应的小时数。
例如,第二指定时长为6h,第三指定时长为1h,第一指定时长为21600s。此时,第二指定时长与第三指定时长的比值为6,等于第一指定时长对应的小时数(第一指定时长对应的小时数为6)。
需要说明的是,通过将第二指定时长设置为大于第三指定时长,这样,可使在之前未正常执行覆盖任务的存储节点删除数据的速度快于在之前正常执行覆盖任务的存储节点删除数据的速度。这样,使得各个存储节点在执行过几次覆盖任务后,覆盖时间点趋于一致,实现逐步平滑删除历史数据的目的。
与前述数据处理方法的实施例相对应,本申请还提供了数据处理装置的实施例。
本申请数据处理装置的实施例可以应用在管理节点上。装置实施例可以通过软件实现,也可以通过硬件或者软硬件结合的方式实现。以软件实现为例,作为一个逻辑意义上的装置,是通过其所在管理节点的处理器将存储器中对应的计算机程序指令读取到内存中运行形成的。从硬件层面而言,如图5所示,为本申请一示例性实施例示出的数据处理装置所在管理节点的硬件结构图,除了图5所示的存储器510、处理器520、内存530和网络接口540之外,实施例中装置所在的管理节点通常根据该数据处理装置的实际功能,还可以包括其他硬件,对此不再赘述。
图6为本申请提供的数据处理装置实施例一的结构示意图。本实施例的装置,可应用于图1所示的管理节点。请参照图6,本实施例提供的装置,可以包括接收模块610、判断模块620和处理模块630,其中,
所述接收模块610,用于接收各个存储节点上报的资源池信息,所述资源池信息至少包括:目标数据覆盖时间点和目标录制时间点,所述目标数据覆盖时间点为最近的数据覆盖时间点,所述目标录制时间点为最早的视频数据的录制时间点;
所述判断模块620,用于在确定数据覆盖条件达到时,针对每一存储节点,依据该存储节点上报的目标数据覆盖时间点和所有存储节点上报的目标录制时间点判断该存储节点在之前是否正常执行覆盖任务;
所述处理模块630,用于在所述判断模块620判断该存储节点在之前未正常执行覆盖任务时,依据该存储节点上报的目标数据覆盖时间点,为该存储节点确定待执行覆盖任务的第一数据覆盖时间点,并将所述第一数据覆盖时间点携带在覆盖任务中下发给该存储节点。
具体的,本实施例的装置,可用于执行图2所示方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
进一步地,所述判断模块620,具体用于从所有存储节点上报的目标录制时间点中查找时间最早的候选目标录制时间点,并从所述候选目标录制时间点和本设备最近一次记录的参考时间点中选择时间较晚的时间点作为基准时间点,以及依据该存储节点上报的目标数据覆盖时间点和所述基准时间点判断该存储节点在之前是否正常执行覆盖任务。
进一步地,所述判断模块620,具体用于判断所述基准时间点与该存储节点上报的目标数据覆盖时间点的差值是否大于或者等于第一指定时长,并在判断所述基准时间点与该存储节点上报的目标数据覆盖时间点的差值大于或者等于第一指定时长时,确定该存储节点在之前未正常执行覆盖任务,以及在判断所述基准时间点与该存储节点上报的目标数据覆盖时间点的差值小于第一指定时长时,确定该存储节点在之前正常执行覆盖任务。
进一步地,所述处理模块630,具体用于计算该存储节点上报的目标数据覆盖时间点与第二指定时长的和值,并将所述和值确定为所述第一数据覆盖时间点。
进一步地,所述处理模块630,还用于在所述判断模块620判断该存储节点在之前正常执行覆盖任务时,依据所述基准时间点,为该存储节点确定待执行覆盖任务的第二数据覆盖时间点,并将所述第二数据覆盖时间点携带在覆盖任务中下发给该存储节点,以及将所述第二数据覆盖时间点作为参考时间点记录在本地;其中,所述第二数据覆盖时间点等于所述基准时间点与第三指定时长的和值。
进一步地,所述第二指定时长大于所述第三指定时长。
本申请还提供一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现本申请提供的任一项所述方法的步骤。
具体的,适合于存储计算机程序指令和数据的计算机可读介质包括所有形式的非易失性存储器、媒介和存储器设备,例如包括半导体存储器设备(例如EPROM、EEPROM和闪存设备)、磁盘(例如内部硬盘或可移动盘)、磁光盘以及CD ROM和DVD-ROM盘。
请继续参照图5,本申请还提供一种管理节点,包括存储器510、处理器520及存储在存储器510上并可在处理器520上运行的计算机程序,所述处理器520执行所述程序时实现本申请提供的任一项所述方法的步骤。
以上所述仅为本申请的较佳实施例而已,并不用以限制本申请,凡在本申请的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本申请保护的范围之内。
Claims (9)
1.一种数据处理方法,其特征在于,所述方法应用于云存储系统中的管理节点;所述方法包括:
接收各个存储节点上报的资源池信息,所述资源池信息至少包括:目标数据覆盖时间点和目标录制时间点,所述目标数据覆盖时间点为最近的数据覆盖时间点,所述目标录制时间点为最早的视频数据的录制时间点;
在确定数据覆盖条件达到时,针对每一存储节点,依据该存储节点上报的目标数据覆盖时间点和所有存储节点上报的目标录制时间点判断该存储节点在之前是否正常执行覆盖任务;
若否,依据该存储节点上报的目标数据覆盖时间点,为该存储节点确定待执行覆盖任务的第一数据覆盖时间点,包括:计算该存储节点上报的目标数据覆盖时间点与第二指定时长的和值,并将所述和值确定为所述第一数据覆盖时间点;并将所述第一数据覆盖时间点携带在覆盖任务中下发给该存储节点。
2.根据权利要求1所述的方法,其特征在于,所述依据该存储节点上报的目标数据覆盖时间点和所有存储节点上报的目标录制时间点判断该存储节点在之前是否正常执行覆盖任务,包括:
从所有存储节点上报的目标录制时间点中查找时间最早的候选目标录制时间点;
从所述候选目标录制时间点和本设备最近一次记录的参考时间点中选择时间较晚的时间点作为基准时间点;
依据该存储节点上报的目标数据覆盖时间点和所述基准时间点判断该存储节点在之前是否正常执行覆盖任务。
3.根据权利要求2所述的方法,其特征在于,所述依据该存储节点上报的目标数据覆盖时间点和所述基准时间点判断该存储在之前是否正常执行覆盖任务,包括:
判断所述基准时间点与该存储节点上报的目标数据覆盖时间点的差值是否大于或者等于第一指定时长;
若是,确定该存储节点在之前未正常执行覆盖任务;
若否,确定该存储节点在之前正常执行覆盖任务。
4.根据权利要求3所述的方法,其特征在于,若判断该存储节点在之前正常执行覆盖任务,所述方法还包括:
依据所述基准时间点,为该存储节点确定待执行覆盖任务的第二数据覆盖时间点;所述第二数据覆盖时间点等于所述基准时间点与第三指定时长的和值;
将所述第二数据覆盖时间点携带在覆盖任务中下发给该存储节点,并将所述第二数据覆盖时间点作为参考时间点记录在本地。
5.根据权利要求4所述的方法,其特征在于,所述第二指定时长大于所述第三指定时长。
6.一种数据处理装置,其特征在于,所述装置应用于云存储系统中的管理节点,所述装置包括接收模块、判断模块和处理模块,其中,
所述接收模块,用于接收各个存储节点上报的资源池信息,所述资源池信息至少包括:目标数据覆盖时间点和目标录制时间点,所述目标数据覆盖时间点为最近的数据覆盖时间点,所述目标录制时间点为最早的视频数据录制时间点;
所述判断模块,用于在确定数据覆盖条件达到时,针对每一存储节点,依据该存储节点上报的目标数据覆盖时间点和所有存储节点上报的目标录制时间点判断该存储节点在之前是否正常执行覆盖任务;
所述处理模块,用于在所述判断模块判断该存储节点在之前未正常执行覆盖任务时,依据该存储节点上报的目标数据覆盖时间点,为该存储节点确定待执行覆盖任务的第一数据覆盖时间点,包括:计算该存储节点上报的目标数据覆盖时间点与第二指定时长的和值,并将所述和值确定为所述第一数据覆盖时间点;并将所述第一数据覆盖时间点携带在覆盖任务中下发给该存储节点。
7.根据权利要求6所述的装置,其特征在于,所述判断模块,具体用于从所有存储节点上报的目标录制时间点中查找时间最早的候选目标录制时间点,并从所述候选目标录制时间点和本设备最近一次记录的参考时间点中选择时间较晚的时间点作为基准时间点,以及依据该存储节点上报的目标数据覆盖时间点和所述基准时间点判断该存储节点在之前是否正常执行覆盖任务。
8.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现权利要求1-5任一项所述方法的步骤。
9.一种管理节点,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现权利要求1-5任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811210214.6A CN111061423B (zh) | 2018-10-17 | 2018-10-17 | 一种数据处理方法、装置和管理节点 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811210214.6A CN111061423B (zh) | 2018-10-17 | 2018-10-17 | 一种数据处理方法、装置和管理节点 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111061423A CN111061423A (zh) | 2020-04-24 |
CN111061423B true CN111061423B (zh) | 2023-09-26 |
Family
ID=70297112
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811210214.6A Active CN111061423B (zh) | 2018-10-17 | 2018-10-17 | 一种数据处理方法、装置和管理节点 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111061423B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115904235B (zh) * | 2022-11-11 | 2024-07-05 | 深圳市数存科技有限公司 | 一种数据生命周期管理方法及装置 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004260482A (ja) * | 2003-02-25 | 2004-09-16 | Sharp Corp | 画像処理装置及び画像処理方法 |
JP2008141639A (ja) * | 2006-12-05 | 2008-06-19 | Matsushita Electric Ind Co Ltd | データ蓄積システム |
US8001085B1 (en) * | 2003-11-25 | 2011-08-16 | Symantec Operating Corporation | Remote data access for local operations |
CN104581400A (zh) * | 2015-02-10 | 2015-04-29 | 飞狐信息技术(天津)有限公司 | 视频内容处理方法及装置 |
WO2017008477A1 (zh) * | 2015-07-14 | 2017-01-19 | 杭州海康威视数字技术股份有限公司 | 一种集群视频分析方法和系统 |
CN107910024A (zh) * | 2017-10-10 | 2018-04-13 | 深圳市金立通信设备有限公司 | 一种录制数据的方法、终端及计算机可读存储介质 |
CN107967117A (zh) * | 2016-10-20 | 2018-04-27 | 杭州海康威视数字技术股份有限公司 | 一种数据存储、读取、清理方法、装置及云存储系统 |
CN108076317A (zh) * | 2016-11-17 | 2018-05-25 | 杭州海康威视数字技术股份有限公司 | 视频数据存储方法及系统、视频接入方法及节点 |
CN108319618A (zh) * | 2017-01-17 | 2018-07-24 | 阿里巴巴集团控股有限公司 | 一种分布式存储系统的数据分布控制方法、系统及装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4941500B2 (ja) * | 2009-04-17 | 2012-05-30 | 株式会社デンソー | ノード装置および車両ネットワークシステム |
US10372546B2 (en) * | 2014-02-07 | 2019-08-06 | International Business Machines Corporation | Creating a restore copy from a copy of source data in a repository having source data at different point-in-times |
US10176048B2 (en) * | 2014-02-07 | 2019-01-08 | International Business Machines Corporation | Creating a restore copy from a copy of source data in a repository having source data at different point-in-times and reading data from the repository for the restore copy |
US10764366B2 (en) * | 2017-01-03 | 2020-09-01 | Wipro Limited | System and method for storing data in data storage unit of virtual storage area network |
-
2018
- 2018-10-17 CN CN201811210214.6A patent/CN111061423B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004260482A (ja) * | 2003-02-25 | 2004-09-16 | Sharp Corp | 画像処理装置及び画像処理方法 |
US8001085B1 (en) * | 2003-11-25 | 2011-08-16 | Symantec Operating Corporation | Remote data access for local operations |
JP2008141639A (ja) * | 2006-12-05 | 2008-06-19 | Matsushita Electric Ind Co Ltd | データ蓄積システム |
CN104581400A (zh) * | 2015-02-10 | 2015-04-29 | 飞狐信息技术(天津)有限公司 | 视频内容处理方法及装置 |
WO2017008477A1 (zh) * | 2015-07-14 | 2017-01-19 | 杭州海康威视数字技术股份有限公司 | 一种集群视频分析方法和系统 |
CN107967117A (zh) * | 2016-10-20 | 2018-04-27 | 杭州海康威视数字技术股份有限公司 | 一种数据存储、读取、清理方法、装置及云存储系统 |
CN108076317A (zh) * | 2016-11-17 | 2018-05-25 | 杭州海康威视数字技术股份有限公司 | 视频数据存储方法及系统、视频接入方法及节点 |
CN108319618A (zh) * | 2017-01-17 | 2018-07-24 | 阿里巴巴集团控股有限公司 | 一种分布式存储系统的数据分布控制方法、系统及装置 |
CN107910024A (zh) * | 2017-10-10 | 2018-04-13 | 深圳市金立通信设备有限公司 | 一种录制数据的方法、终端及计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111061423A (zh) | 2020-04-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107643880B (zh) | 基于分布式文件系统的文件数据迁移的方法及装置 | |
US8108364B2 (en) | Representation of system clock changes in time based file systems | |
CN111506251B (zh) | 数据处理方法、装置、smr存储系统及存储介质 | |
CN109558457B (zh) | 一种数据写入方法、装置、设备及存储介质 | |
US9112750B2 (en) | Job management server and job management method | |
CN102446217A (zh) | 复合事件处理设备和复合事件处理方法 | |
CN111797172B (zh) | 数据迁移方法、装置、设备、分布式系统及存储介质 | |
CN101763321B (zh) | 数据容灾的方法、装置及系统 | |
CN111124643A (zh) | 一种分布式存储中的删除任务调度方法、系统及相关装置 | |
US20130111153A1 (en) | Distributed storage system, apparatus and method for managing a distributed storage in consideration of latency elements | |
CN112256433B (zh) | 基于Kafka集群的分区迁移方法和装置 | |
CN113467993A (zh) | 一种云平台资源的还原方法、系统、设备及存储介质 | |
CN111061423B (zh) | 一种数据处理方法、装置和管理节点 | |
CN109521969B (zh) | 一种固态硬盘数据回收方法、装置和计算机可读存储介质 | |
CN110879764B (zh) | 一种位图设置方法、装置、设备及可读存储介质 | |
CN110704244B (zh) | 一种磁盘离线处理方法、装置、设备及可读存储介质 | |
US8825600B2 (en) | File backup apparatus and method for backing up one or more directories | |
CN110662027B (zh) | 存储完整性检测方法、装置和计算机设备 | |
US9973421B2 (en) | Method and device for connection management in a telecommunication network | |
CN107577433B (zh) | 一种存储介质和文件数据的迁移方法、装置及设备 | |
CN110874182B (zh) | 一种条带索引的处理方法、装置及设备 | |
CN106959888B (zh) | 云存储系统中的任务处理方法及装置 | |
CN112181277B (zh) | 一种数据存储空间管理方法、装置、存储介质及电子设备 | |
US20170060914A1 (en) | Recording medium, log management method, and log management apparatus | |
KR101974091B1 (ko) | 머신러닝 기반 쓰레드풀을 관리하는 방법 및 이를 사용한 컴퓨팅 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |