CN110658979B - 一种数据重构方法、装置、电子设备及存储介质 - Google Patents
一种数据重构方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN110658979B CN110658979B CN201810694042.8A CN201810694042A CN110658979B CN 110658979 B CN110658979 B CN 110658979B CN 201810694042 A CN201810694042 A CN 201810694042A CN 110658979 B CN110658979 B CN 110658979B
- Authority
- CN
- China
- Prior art keywords
- reconstructed
- video data
- type
- data
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 89
- 238000012163 sequencing technique Methods 0.000 claims description 22
- 238000013523 data management Methods 0.000 claims description 21
- 238000004590 computer program Methods 0.000 claims description 9
- 238000007726 management method Methods 0.000 claims description 7
- 238000003672 processing method Methods 0.000 claims description 6
- 238000005516 engineering process Methods 0.000 claims description 5
- 238000010191 image analysis Methods 0.000 claims description 3
- 238000011084 recovery Methods 0.000 abstract description 12
- 230000008569 process Effects 0.000 description 27
- 230000002159 abnormal effect Effects 0.000 description 9
- 238000013500 data storage Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 5
- 230000009471 action Effects 0.000 description 3
- 230000001174 ascending effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000012369 In process control Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 210000004544 dc2 Anatomy 0.000 description 1
- 238000003703 image analysis method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000004190 ion pair chromatography Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/08—Error detection or correction by redundancy in data representation, e.g. by using checking codes
- G06F11/10—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's
- G06F11/1076—Parity data used in redundant arrays of independent storages, e.g. in RAID systems
- G06F11/1088—Reconstruction on already foreseen single or plurality of spare disks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0614—Improving the reliability of storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0614—Improving the reliability of storage systems
- G06F3/0619—Improving the reliability of storage systems in relation to data integrity, e.g. data losses, bit errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0629—Configuration or reconfiguration of storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0629—Configuration or reconfiguration of storage systems
- G06F3/0634—Configuration or reconfiguration of storage systems by changing the state or mode of one or more devices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/0671—In-line storage system
- G06F3/0683—Plurality of storage devices
- G06F3/0689—Disk arrays, e.g. RAID, JBOD
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Security & Cryptography (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Quality & Reliability (AREA)
- Management Or Editing Of Information On Record Carriers (AREA)
- Television Signal Processing For Recording (AREA)
Abstract
本发明实施例提供了一种数据重构方法、装置、电子设备及存储介质。所述方法包括:获得多个待重构数据对应的属性信息;其中,任一待重构数据对应的属性信息为丢失该待重构数据之前所记录的信息;基于所述多个待重构数据对应的属性信息,按照预设的目标排序方式,确定所述多个待重构数据对应的重构顺序;其中,所述目标排序方式为:基于重要数据优先重构的原则所设定的、关于所述属性信息的排序方式。应用本发明实施例能够优先重构重要数据,提高重要数据恢复率。
Description
技术领域
本发明涉及云存储领域,特别是涉及一种数据重构方法、装置、电子设备及存储介质。
背景技术
在云存储中,为避免存储集群中各个节点存储的数据丢失,可以使用网络磁盘阵列(Redundant Arrays of Independent Disks,RAID)技术对存储的数据进行跨节点保护,即当存储集群中某一节点发生异常时利用其它节点进行数据重构。目前常见的RAID实现方式主要是基于EC(erasure code,纠删码)技术。
具体的,现有的数据重构过程为:按照各个待重构数据的写入先后顺序,对各个待重构数据进行数据重构,即通过其他节点的数据把丢失的数据重新计算并还原出来。
发明人发现:将写入先后顺序作为重构顺序,对于写入时排序在后的重要数据而言,一旦数据重构过程中存储集群再次发生异常,这些重要数据极有可能无法被及时恢复,影响重要数据的恢复率。
发明内容
本发明实施例的目的在于提供一种数据重构方法、装置、电子设备及存储介质,以实现提高重要数据恢复率的目的。具体技术方案如下:
第一方面,本发明实施例提供了一种数据重构方法,所述方法包括:
获得多个待重构数据对应的属性信息;其中,任一待重构数据对应的属性信息为丢失该待重构数据之前所记录的信息;
基于所述多个待重构数据对应的属性信息,按照预设的目标排序方式,确定所述多个待重构数据对应的重构顺序;
其中,所述目标排序方式为:基于重要数据优先重构的原则所设定的、关于所述属性信息的排序方式。
可选的,所述多个待重构数据包括:多个待重构视频数据;
所述属性信息包括:数据类型;
其中,所述数据类型包括非告警类型、告警类型和智能类型三种类型。
可选的,所述目标排序方式包括:智能类型先于告警类型,告警类型先于非告警类型;
所述基于所述多个待重构数据对应的属性信息,按照预设的目标排序方式,确定所述多个待重构数据对应的重构顺序的步骤,包括:
从所述多个待重构视频数据中,分别确定所对应数据类型为智能类型的第一类待重构视频数据,所对应数据类型为告警类型的第二类待重构视频数据,所对应数据类型为非告警类型的第三类待重构视频数据;
将所述多个待重构视频数据对应的重构顺序确定为:所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据。
可选的,所述属性信息还包括:存储时间;
所述目标排序方式还包括:同一数据类型下,以存储时间作为排序关键字进行排序;
所述将所述多个待重构视频数据对应的重构顺序确定为:所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据的步骤,包括:
按照存储时间,分别将所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据中的各个待重构视频数据进行排序;
确定所述多个待重构视频数据对应的重构顺序为:排序后的第一类待重构视频数据、排序后的第二类待重构视频数据、排序后的第三类待重构视频数据。
可选的,所述属性信息还包括:回放频率和设定状态;
其中,所述设定状态包括锁定状态和非锁定状态两种状态。
可选的,所述目标排序方式包括:
第一批数据为所对应回放频率满足预设条件的待重构视频数据,第二批数据为所对应设定状态为锁定状态的待重构视频数据,第三批数据为所对应数据类型为智能类型的待重构视频数据,第四批数据为所对应数据类型为告警类型的待重构视频数据,第五批数据为除第一批数据、第二批数据、第三批数据和第四批数据以外的待重构视频数据;
所述基于所述多个待重构数据对应的属性信息,按照预设的目标排序方式,确定所述多个待重构数据对应的重构顺序的步骤,包括:
从所述多个待重构视频数据中,确定所对应回放频率满足预设条件的第一类待重构视频数据;
从除所述第一类待重构视频数据以外的待重构视频数据中,确定所对应设定状态为锁定状态的第二类待重构视频数据;
从除所述第一类待重构视频数据和所述第二类待重构视频数据以外的待重构视频数据中,确定所对应数据类型为智能类型的第三类待重构视频数据;
从除所述第一类待重构视频数据、所述第二类待重构视频数据和所述第三类待重构视频数据以外的待重构视频数据中,确定所对应数据类型为告警类型的第四类待重构视频数据;
将除所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据和所述第四类待重构视频数据以外的待重构视频数据,确定为第五类待重构视频数据;
将所述多个待重构视频数据对应的重构顺序确定为:所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据、所述第四类待重构视频数据、所述第五类待重构视频数据。
可选的,所述属性信息还包括:存储时间;
所述目标排序方式还包括:同一批次下,以存储时间作为排序关键字进行排序;
所述将所述多个待重构视频数据对应的重构顺序确定为:所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据、所述第四类待重构视频数据、所述第五类待重构视频数据的步骤,包括:
按照存储时间,分别将所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据、所述第四类待重构视频数据、所述第五类待重构视频数据中的各个待重构视频数据进行排序;
确定所述多个待重构视频数据对应的重构顺序为:排序后的第一类待重构视频数据、排序后的第二类待重构视频数据、排序后的第三类待重构视频数据、排序后的第四类待重构视频数据、排序后的第五类待重构视频数据。
第二方面,本发明实施例提供了一种数据重构装置,所述装置包括:
获得模块,用于获得多个待重构数据对应的属性信息;其中,任一待重构数据对应的属性信息为丢失该待重构数据之前所记录的信息;
确定模块,用于基于所述多个待重构数据对应的属性信息,按照预设的目标排序方式,确定所述多个待重构数据对应的重构顺序;其中,所述目标排序方式为:基于重要数据优先重构的原则所设定的、关于所述属性信息的排序方式。
可选的,所述多个待重构数据包括:多个待重构视频数据;
所述属性信息包括:数据类型;
其中,所述数据类型包括非告警类型、告警类型和智能类型三种类型。
可选的,所述目标排序方式包括:智能类型先于告警类型,告警类型先于非告警类型;
所述确定模快,包括:
第一子模块,用于从所述多个待重构视频数据中,分别确定所对应数据类型为智能类型的第一类待重构视频数据,所对应数据类型为告警类型的第二类待重构视频数据,所对应数据类型为非告警类型的第三类待重构视频数据;
第二子模块,用于将所述多个待重构视频数据对应的重构顺序确定为:所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据。
可选的,所述属性信息还包括:存储时间;
所述目标排序方式还包括:同一数据类型下,以存储时间作为排序关键字进行排序;
所述第二子模块,具体用于:
按照存储时间,分别将所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据中的各个待重构视频数据进行排序;
确定所述多个待重构视频数据对应的重构顺序为:排序后的第一类待重构视频数据、排序后的第二类待重构视频数据、排序后的第三类待重构视频数据。
可选的,所述属性信息还包括:回放频率和设定状态;
其中,所述设定状态包括锁定状态和非锁定状态两种状态。
可选的,所述目标排序方式包括:
第一批数据为所对应回放频率满足预设条件的待重构视频数据,第二批数据为所对应设定状态为锁定状态的待重构视频数据,第三批数据为所对应数据类型为智能类型的待重构视频数据,第四批数据为所对应数据类型为告警类型的待重构视频数据,第五批数据为除第一批数据、第二批数据、第三批数据和第四批数据以外的待重构视频数据;
所述确定模块,包括:
第一子模块,用于从所述多个待重构视频数据中,确定所对应回放频率满足预设条件的第一类待重构视频数据;
从除所述第一类待重构视频数据以外的待重构视频数据中,确定所对应设定状态为锁定状态的第二类待重构视频数据;
从除所述第一类待重构视频数据和所述第二类待重构视频数据以外的待重构视频数据中,确定所对应数据类型为智能类型的第三类待重构视频数据;
从除所述第一类待重构视频数据、所述第二类待重构视频数据和所述第三类待重构视频数据以外的待重构视频数据中,确定所对应数据类型为告警类型的第四类待重构视频数据;
将除所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据和所述第四类待重构视频数据以外的待重构视频数据,确定为第五类待重构视频数据;
第二子模块,用于将所述多个待重构视频数据对应的重构顺序确定为:所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据、所述第四类待重构视频数据、所述第五类待重构视频数据。
可选的,所述属性信息还包括:存储时间;
所述目标排序方式还包括:同一批次下,以存储时间作为排序关键字进行排序;
所述第二子模块,具体用于:
按照存储时间,分别将所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据、所述第四类待重构视频数据、所述第五类待重构视频数据中的各个待重构视频数据进行排序;
确定所述多个待重构视频数据对应的重构顺序为:排序后的第一类待重构视频数据、排序后的第二类待重构视频数据、排序后的第三类待重构视频数据、排序后的第四类待重构视频数据、排序后的第五类待重构视频数据。
第三方面,本发明实施例提供了一种电子设备,包括处理器和存储器,其中,
所述存储器,用于存放计算机程序;
所述处理器,用于执行所述存储器上所存放的程序时,实现本发明实施例所提供的数据重构方法的步骤。
第四方面,本发明实施例提供了一种计算机可读存储介质,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现本发明实施例所提供的数据重构方法的步骤。
本发明实施例所提供的方案中,当需要重构数据时,基于多个待重构数据的预先记录的属性信息,按照预设的目标排序方式,确定所述多个待重构数据对应的重构顺序。由于目标排序方式基于重要数据优先重构的原则所设定,因此,在数据重构过程中,重要数据被优先重构,这样,可以降低存储集群再次发生异常时重要数据无法被恢复的概率,从而提高重要数据恢复率。
当然,实施本发明的任一产品或方法必不一定需要同时达到以上所述的所有优点。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例所提供的一种数据重构方法的一种流程示意图;
图2为本发明实施例所提供的一种数据重构方法的另一种流程示意图;
图3为本发明实施例所提供的一种数据重构方法的又一种流程示意图;
图4为本发明实施例所提供的一种数据重构装置的结构示意图;
图5为本发明实施例所提供的一种电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
为了便于理解方案,首先对云存储系统中的各个组成部分进行概要的介绍:
云存储系统中存在至少一个管理服务器和多个存储服务器。管理服务器至少具有数据管理功能,从功能模块的角度而言,管理服务器至少包括用于数据管理的数据管理模块Data Manage。存储服务器至少具有数据存储和数据重构功能,从功能模块的角度而言,存储服务器至少包括接入服务模块Access Service、编码模块Encode及数据存储服务模块Storager Service。关于管理服务器和存储服务器中的各个模块的具体作用在后文中会进行说明。
为了提高重要数据恢复率,本发明实施例提供了一种数据重构方法、装置、电子设备及存储介质。
需要说明的是,本发明实施例所提供的一种数据重构方法的执行主体可以为云存储系统中的管理服务器,更具体的,所述执行主体可以为Data Manage。
下面,首先对本发明实施例所提供的一种数据重构方法进行介绍。
如图1所示,本发明实施例所提供的一种数据重构方法,可以包括如下步骤:
S101,获得多个待重构数据对应的属性信息。
本发明实施例中,任一待重构数据对应的属性信息为丢失该待重构数据之前所记录的信息。
为了提高重要数据的恢复率,云存储系统中的数据丢失之前,可以记录各数据对应的属性信息,为后续以属性信息作为数据的重要程度的判断标准提供实现基础。所述属性信息的存储位置位于Data Manage的数据库中。关于属性信息的记录及存储过程,在后文中予以详细介绍。
当需要重构数据时,Data Manage可以从自身的数据库中,获得多个待重构数据对应的属性信息。
其中,多个待重构数据可以包括:多个待重构视频数据,当然并不局限于此,举例而言:多个待重构数据可以包括:多个待重构文本数据或多个待重构音频数据等等。
需要说明的是,采用哪些属性信息作为数据重构时所利用的属性信息可以根据实际情况设定,并且,预先记录的属性信息可以至少包括数据重构时所利用的属性信息。在具体应用中,可以采用数据存储过程中可以确定出的属性信息来作为数据重构时所利用的属性信息,例如:数据类型、数据来源及存储时间等等;或者,可以采用数据访问过程中可以确定出的属性信息来作为数据重构时所利用的属性信息,例如:访问频率或访问时间等等;或者,采用数据访问过程和数据存储过程中可以确定出的属性信息,来作为数据重构时所利用的属性信息,这都是合理的。
以重构视频数据为例,可以采用数据类型、存储时间、回放频率及设定状态中的一种或多种,作为数据重构时所利用的属性信息,当然并不局限于此。
需要说明的是,视频数据的数据类型可以包括非告警类型、告警类型和智能类型三种类型,所述数据类型可以由拍摄视频的摄像机所确定。关于数据类型的确定过程在后文中予以详细介绍。
设定状态可以包括锁定状态和非锁定状态两种状态,所述设定状态为用户在访问视频数据时根据自身需求所设定的状态。具体的,所有视频数据的默认的设定状态可以为非锁定状态,这样,当用户访问一视频数据,认为该视频数据为需要保护的重要视频数据时,为了防止他人删除该视频数据,用户可以将该视频数据的设定状态更改为锁定状态。当然,用户也可以将失去重要性的视频数据的设定状态由锁定状态更改为非锁定状态。
S102,基于所述多个待重构数据对应的属性信息,按照预设的目标排序方式,确定所述多个待重构数据对应的重构顺序。
本发明实施例中,所述目标排序方式为:基于重要数据优先重构的原则所设定的、关于所述属性信息的排序方式。
由于以属性信息作为数据的重要程度的判断标准,因此,在本发明实施例中,可以基于重要数据优先重构的原则,预先设定关于属性信息的排序方式作为目标排序方式。这样,在Data Manage获得待重构数据对应的属性信息后,可以基于所述多个待重构数据对应的属性信息,按照预设的目标排序方式,确定所述多个待重构数据对应的重构顺序。
需要说明的是,该目标排序方式可以由用户基于实际情况来设定。举例来说,如果属性信息包括是否具有用户关注值,那么一种目标排序方式可以为:具有用户关注值的数据先于不具有用户关注值的数据等等。
需要说明的是,本发明实施例所提供的数据重构方法,在确定重构顺序之后,还可以包括:
按照所述重构顺序,对所述多个待重构数据进行重构。
具体的,DataManage可以按照所述重构顺序,将各个数据的重构任务下发给多个Encode,由多个Encode利用所述EC技术,按照所述重构顺序,对所述多个待重构数据进行重构,具体的数据重构过程在此不再介绍。
当然,本发明实施例所使用的重构技术并不限于所述EC技术。
本发明实施例所提供的方案中,当需要重构数据时,基于多个待重构数据的预先记录的属性信息,按照预设的目标排序方式,确定所述多个待重构数据对应的重构顺序。由于目标排序方式基于重要数据优先重构的原则所设定,因此,在数据重构过程中,重要数据被优先重构,这样,可以降低存储集群再次发生异常时重要数据无法被恢复的概率,从而提高重要数据恢复率。
以上是对本发明实施例所提供的数据重构方法的概述。可以理解的是,在实际应用中,本发明实施例中的数据可以为视频数据、语音数据等等。以下以视频数据为例详细说明本发明实施例所提供的数据重构方法的具体过程。
为了便于理解方案,首先对本发明实施例中的视频数据的获取及存储等过程等进行简要说明:
首先,下发录像计划给Access Service。
其次,Access Service从IPC(IP Camera,网络摄像机)获取视频数据等,并将获取的视频数据等发送给Encode。
再次,Encode对视频数据进行编码,然后将编码后的视频数据等发送给StoragerService。
接下来,Storager Service将接收到的编码后的视频数据等进行存储,并在存储成功之后将索引信息上报至Data Manage。
然后,Data Manage将视频数据的索引信息等记录至自身的数据库,并记录、统计视频数据的回放相关信息。
具体的,针对于上述各个步骤进行如下详细介绍:
(1)对于下发录像计划给Access Service而言:
具体的,可以由用户下发录像计划,也可以由云存储系统自动下发录像计划等,这都是合理的。
(2)对于Access Service从IPC获取视频数据等,并将获取的视频数据等发送给Encode而言:
所述视频数据,是指IPC拍摄的视频流。
Access Service是存储服务器中的一个接入服务模块,主要负责执行下发的录像计划,即从IPC获取视频数据等。可以理解的是,Access Service可以按照录像计划要求,获取预设时间段内IPC的视频数据,还可以按照录像计划要求获取目标IPC的视频数据等等。
需要说明的是,云存储系统对应有多个IPC。每个IPC拍摄对应拍摄范围内的视频流,并对视频流进行分析,确定视频流的数据类型。其中,所述数据类型可以包括:非告警类型、告警类型和智能类型三种类型。IPC将视频数据发送给Access Service。当然,IPC还可以将视频数据对应的数据类型、拍摄时间及IPC地址等发送给Access Service。
其中,非告警类型所对应的视频数据,是指IPC实时拍摄所得到的视频数据。也就是说,非告警类型的视频数据,并没有拍摄条件的设置。那么,当没有设置拍摄条件时,所拍摄的视频数据的数据类型被IPC确定为非告警类型。
而告警类型所对应的视频数据,有拍摄条件的设置,在满足拍摄条件时,相应的IPC才会拍摄视频。那么,当有设置拍摄条件,满足拍摄条件时所拍摄的视频数据的数据类型被IPC确定为告警类型。
比如一IPC,其拍摄范围为禁止人出入的区域,对应的拍摄条件为所述区域有人进入,那么,当该IPC检测到所述拍摄范围内出现人时,会开始拍摄视频。相应的,该视频数据的数据类型被确定为告警类型;或者一IPC监控的是银行的自动取款机,对应的拍摄条件为自动取款机附近出现面部被遮挡的人,那么,当该IPC检测到自动取款机附近出现面部被遮挡的人时,会开始拍摄视频。相应的,该视频数据的数据类型被确定为告警类型,等等。可以理解的是,告警类型的视频数据体现与拍摄条件对应的告警信息。
智能类型所对应的视频数据,除了IPC拍摄的视频流以外,还包括IPC对视频流进行图像分析得到的有关于特征信息的数据。具体的,比如IPC对一视频流进行分析,获得的视频中的人的数量、车辆的数量及颜色等等有关于特征信息的数据,这些有关于特征信息的数据可以作为智能类型的视频数据。
需要说明的是,IPC对视频流进行分析,得到有关于特征信息的数据的过程,可以采用现有的多种图像分析方法,如神经网络的方法等等。
(3)对于Encode对视频数据进行编码,然后将编码后的视频数据等发送给Storager Service而言:
Encode是存储服务器中的编码模块,负责执行视频数据的编码任务。需要说明的是,Encode可以采用现有技术中的任意一种视频编码技术,获得编码后的视频数据。之后,Encode将编码后的视频数据等发送给Storager Service。
(4)对于Storager Service将接收到的编码后的视频数据等进行存储,并在存储成功之后将索引信息上报至Data Manage而言:
Storager Service是存储服务器中的数据存储服务模块,主要负责将接收到的编码后的视频数据等存储到本地磁盘,并将各个视频数据的索引信息上报至Data Manage。其中,所述索引信息包括视频数据在本地磁盘中的存储位置等。当然,所述索引信息还可以包括视频数据的数据类型、拍摄时间及IPC地址等。
(5)对于Data Manage将视频数据的索引信息等记录至自身的数据库,并记录、统计视频数据的回放相关信息而言:
具体的,Data Manage将视频数据在本地磁盘中的存储位置、数据类型、拍摄时间及IPC地址等记录至自身的数据库。
可以理解的是,用户可以基于Data Manage中的索引信息,调取视频数据进行回放,在此过程中,Data Manage会记录用户回放的视频数据的相关信息,并记录用户对视频数据的操作行为,比如记录回放时间、数据类型及设定状态等,统计视频数据的回放频率等。其中,所述回放频率为预设时间段内一视频数据被回放的次数;所述设定状态包括锁定状态和非锁定状态。
因此,Data Manage的数据库中存储有视频数据对应的属性信息。其中,所述属性信息包括视频数据存储阶段对应的属性信息,如存储时间、存储位置、IPC编号、IPC地址、拍摄时间及数据类型等。
所述属性信息还包括视频数据回放阶段对应的属性信息,如:存储时间、存储位置、IPC编号、IPC地址、拍摄时间、数据类型、回放时间、回放频率及设定状态等等。
在本发明实施例中,Data Manage可以基于视频数据存储阶段和/或视频数据回放阶段记录的属性信息,按照预设的目标排序方式,确定所述多个待重构视频数据对应的重构顺序。
基于上述的视频数据的获取及存储等过程,下面以待重构数据为视频数据为例,对本发明实施例所提供的数据重构方法进行介绍。其中,重构视频数据时所利用的属性信息可以包括:数据类型。
如图2所示,本发明实施例所提供的一种数据重构方法可以包括如下步骤:
S201,获得多个待重构视频数据对应的属性信息。
如前所述,任一待重构视频数据对应的属性信息为丢失该待重构视频数据之前所记录的信息。
本发明实施例中,所述属性信息包括:数据类型。其中,所述数据类型包括非告警类型、告警类型和智能类型三种类型。
本发明实施例中,所述目标排序方式包括:智能类型先于告警类型,告警类型先于非告警类型。
S202,从所述多个待重构视频数据中,分别确定所对应数据类型为智能类型的第一类待重构视频数据,所对应数据类型为告警类型的第二类待重构视频数据,所对应数据类型为非告警类型的第三类待重构视频数据。
S203,将所述多个待重构视频数据对应的重构顺序确定为:所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据。
可选地,在本发明实施例中,所述属性信息还可以包括:存储时间;此时,所述目标排序方式还可以包括:同一数据类型下,以存储时间作为排序关键字进行排序;
相应的,步骤S203的过程具体可以包括如下的a和b:
a,按照存储时间,分别将所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据中的各个待重构视频数据进行排序。
具体的,可以按照存储时间在先的视频数据排序在先,分别将所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据中的各个待重构视频数据进行升序排序。或者,按照存储时间在先的视频数据排序在后,分别将所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据中的各个待重构视频数据进行降序排序。
b,确定所述多个待重构视频数据对应的重构顺序为:排序后的第一类待重构视频数据、排序后的第二类待重构视频数据、排序后的第三类待重构视频数据。
本发明实施例所提供的方案中,当需要重构数据时,基于多个待重构数据的预先记录的属性信息为数据类型,按照预设的目标排序方式,确定所述多个待重构数据对应的重构顺序。由于目标排序方式基于重要数据优先重构的原则所设定,因此,在数据重构过程中,重要数据被优先重构,这样,可以降低存储集群再次发生异常时重要数据无法被恢复的概率,从而提高重要数据恢复率。
基于上述的视频数据的获取及存储等过程,下面以待重构数据为视频数据为例,对本发明实施例所提供的数据重构方法进行介绍。其中,重构视频数据时所利用的属性信息可以包括:回放频率、设定状态和数据类型。
如图3所示,本发明实施例所提供的一种数据重构方法可以包括如下步骤:
S301,获得多个待重构视频数据对应的属性信息。
如前所述,任一待重构视频数据对应的属性信息为丢失该待重构视频数据之前所记录的信息。
本实施例中,所述属性信息包括:回放频率、设定状态和数据类型。其中,所述数据类型包括非告警类型、告警类型和智能类型三种类型。所述设定状态包括锁定状态和非锁定状态两种状态。
所述目标排序方式包括:第一批数据为所对应回放频率满足预设条件的待重构视频数据,第二批数据为所对应设定状态为锁定状态的待重构视频数据,第三批数据为所对应数据类型为智能类型的待重构视频数据,第四批数据为所对应数据类型为告警类型的待重构视频数据,第五批数据为除第一批数据、第二批数据、第三批数据和第四批数据以外的待重构视频数据。
S302,从所述多个待重构视频数据中,确定所对应回放频率满足预设条件的第一类待重构视频数据;
本发明实施例的回放频率满足的预设条件可以为一视频数据的回放频率达到预设值,如回放频率达到1月10次以上等等。
S303,从除所述第一类待重构视频数据以外的待重构视频数据中,确定所对应设定状态为锁定状态的第二类待重构视频数据。
S304,从除所述第一类待重构视频数据和所述第二类待重构视频数据以外的待重构视频数据中,确定所对应数据类型为智能类型的第三类待重构视频数据。
S305,从除所述第一类待重构视频数据、所述第二类待重构视频数据和所述第三类待重构视频数据以外的待重构视频数据中,确定所对应数据类型为告警类型的第四类待重构视频数据。
S306,将除所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据和所述第四类待重构视频数据以外的待重构视频数据,确定为第五类待重构视频数据。
S307,将所述多个待重构视频数据对应的重构顺序确定为:所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据、所述第四类待重构视频数据、所述第五类待重构视频数据。
可选地,在本发明实施例中,所述属性信息还包括:存储时间。此时,所述目标排序方式还可以包括:同一批次下,以存储时间作为排序关键字进行排序。
相应的,步骤S307的过程具体可以包括如下的a和b:
a,按照存储时间,分别将所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据、所述第四类待重构视频数据、所述第五类待重构视频数据中的各个待重构视频数据进行排序。
具体的,可以按照存储时间在先的视频数据排序在先,分别将所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据、所述第四类待重构视频数据、所述第五类待重构视频数据中的各个待重构视频数据进行升序排序。或者,
按照存储时间在先的视频数据排序在后,分别将所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据、所述第四类待重构视频数据、所述第五类待重构视频数据中的各个待重构视频数据进行降序。
b,确定所述多个待重构视频数据对应的重构顺序为:排序后的第一类待重构视频数据、排序后的第二类待重构视频数据、排序后的第三类待重构视频数据、排序后的第四类待重构视频数据、排序后的第五类待重构视频数据。
本发明实施例所提供的方案中,当需要重构数据时,基于多个待重构数据的预先记录的属性信息为回放频率、设定状态和数据类型,按照预设的目标排序方式,确定所述多个待重构数据对应的重构顺序。由于目标排序方式基于重要数据优先重构的原则所设定,因此,在数据重构过程中,重要数据被优先重构,这样,可以降低存储集群再次发生异常时重要数据无法被恢复的概率,从而提高重要数据恢复率。
相应于上述方法实施例,本发明实施例还提供了一种数据重构装置,所述装置可以位于DataManage中,如图4所示,该数据重构装置包括:
获得模块401,用于获得多个待重构数据对应的属性信息;其中,任一待重构数据对应的属性信息为丢失该待重构数据之前所记录的信息;
确定模块402,用于基于所述多个待重构数据对应的属性信息,按照预设的目标排序方式,确定所述多个待重构数据对应的重构顺序;其中,所述目标排序方式为:基于重要数据优先重构的原则所设定的、关于所述属性信息的排序方式。
可选的,在本发明实施例中,所述多个待重构数据包括:多个待重构视频数据;
所述属性信息包括:数据类型;
其中,所述数据类型包括非告警类型、告警类型和智能类型三种类型。
可选的,在本发明实施例中,所述目标排序方式包括:智能类型先于告警类型,告警类型先于非告警类型;
所述确定模快402,包括:
第一子模块,用于从所述多个待重构视频数据中,分别确定所对应数据类型为智能类型的第一类待重构视频数据,所对应数据类型为告警类型的第二类待重构视频数据,所对应数据类型为非告警类型的第三类待重构视频数据;
第二子模块,用于将所述多个待重构视频数据对应的重构顺序确定为:所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据。
可选的,在本发明实施例中,所述属性信息还包括:存储时间;
所述目标排序方式还包括:同一数据类型下,以存储时间作为排序关键字进行排序;
所述第二子模块,具体用于:
按照存储时间,分别将所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据中的各个待重构视频数据进行排序;
确定所述多个待重构视频数据对应的重构顺序为:排序后的第一类待重构视频数据、排序后的第二类待重构视频数据、排序后的第三类待重构视频数据。
可选的,在本发明实施例中,所述属性信息还包括:回放频率和设定状态;
其中,所述设定状态包括锁定状态和非锁定状态两种状态。
可选的,在本发明实施例中,所述目标排序方式包括:
第一批数据为所对应回放频率满足预设条件的待重构视频数据,第二批数据为所对应设定状态为锁定状态的待重构视频数据,第三批数据为所对应数据类型为智能类型的待重构视频数据,第四批数据为所对应数据类型为告警类型的待重构视频数据,第五批数据为除第一批数据、第二批数据、第三批数据和第四批数据以外的待重构视频数据;
所述确定模块402,包括:
第一子模块,用于从所述多个待重构视频数据中,确定所对应回放频率满足预设条件的第一类待重构视频数据;
从除所述第一类待重构视频数据以外的待重构视频数据中,确定所对应设定状态为锁定状态的第二类待重构视频数据;
从除所述第一类待重构视频数据和所述第二类待重构视频数据以外的待重构视频数据中,确定所对应数据类型为智能类型的第三类待重构视频数据;
从除所述第一类待重构视频数据、所述第二类待重构视频数据和所述第三类待重构视频数据以外的待重构视频数据中,确定所对应数据类型为告警类型的第四类待重构视频数据;
将除所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据和所述第四类待重构视频数据以外的待重构视频数据,确定为第五类待重构视频数据;
第二子模块,用于将所述多个待重构视频数据对应的重构顺序确定为:所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据、所述第四类待重构视频数据、所述第五类待重构视频数据。
可选的,在本发明实施例中,所述属性信息还包括:存储时间;
所述目标排序方式还包括:同一批次下,以存储时间作为排序关键字进行排序;
所述第二子模块,具体用于:
按照存储时间,分别将所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据、所述第四类待重构视频数据、所述第五类待重构视频数据中的各个待重构视频数据进行排序;
确定所述多个待重构视频数据对应的重构顺序为:排序后的第一类待重构视频数据、排序后的第二类待重构视频数据、排序后的第三类待重构视频数据、排序后的第四类待重构视频数据、排序后的第五类待重构视频数据。
本发明实施例所提供的方案中,当需要重构数据时,基于多个待重构数据的预先记录的属性信息,按照预设的目标排序方式,确定所述多个待重构数据对应的重构顺序。由于目标排序方式基于重要数据优先重构的原则所设定,因此,在数据重构过程中,重要数据被优先重构,这样,可以降低存储集群再次发生异常时重要数据无法被恢复的概率,从而提高重要数据恢复率。
相应于上述方法实施例,本发明实施例还提供了一种电子设备,如图5所示,可以包括处理器501和存储器502,其中,
所述存储器502,用于存放计算机程序;
所述处理器501,用于执行所述存储器502上所存放的程序时,实现本发明实施例所提供的数据重构方法的步骤。
上述存储器可以包括RAM(Random Access Memory,随机存取存储器),也可以包括NVM(Non-Volatile Memory,非易失性存储器),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离于上述处理器的存储装置。
上述处理器可以是通用处理器,包括CPU(Central Processing Unit,中央处理器)、NP(Network Processor,网络处理器)等;还可以是DSP(Digital Signal Processor,数字信号处理器)、ASIC(Application Specific Integrated Circuit,专用集成电路)、FPGA(Field-Programmable Gate Array,现场可编程门阵列)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
通过上述电子设备,能够实现:当需要重构数据时,基于多个待重构数据的预先记录的属性信息,按照预设的目标排序方式,确定所述多个待重构数据对应的重构顺序。由于目标排序方式基于重要数据优先重构的原则所设定,因此,在数据重构过程中,重要数据被优先重构,这样,可以降低存储集群再次发生异常时重要数据无法被恢复的概率,从而提高重要数据恢复率。
另外,相应于上述实施例所提供的数据重构方法,本发明实施例提供了一种计算机可读存储介质,该计算机可读存储介质内存储有计算机程序,计算机程序被处理器执行时实现本发明实施例所提供的数据重构方法的步骤。
上述计算机可读存储介质存储有在运行时执行本发明实施例所提供的数据重构方法的应用程序,因此能够实现:当需要重构数据时,基于多个待重构数据的预先记录的属性信息,按照预设的目标排序方式,确定所述多个待重构数据对应的重构顺序。由于目标排序方式基于重要数据优先重构的原则所设定,因此,在数据重构过程中,重要数据被优先重构,这样,可以降低存储集群再次发生异常时重要数据无法被恢复的概率,从而提高重要数据恢复率。
对于电子设备以及计算机可读存储介质实施例而言,由于其所涉及的方法内容基本相似于前述的方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。
Claims (8)
1.一种数据重构方法,其特征在于,应用于云存储系统的管理服务器中的数据管理模块;所述云存储系统还包括多个存储服务器,所述存储服务器包括编码模块;所述方法包括:
从数据管理模块的数据库中,获得多个待重构视频数据对应的属性信息;其中,任一待重构视频数据对应的属性信息为丢失该待重构视频数据之前所记录的信息;其中,所述属性信息包括:数据类型、回放频率和设定状态;
基于所述多个待重构视频数据对应的属性信息,按照预设的目标排序方式,确定所述多个待重构视频数据对应的重构顺序;
按照所述重构顺序,将各个待重构视频数据的重构任务下发给多个所述存储服务器的编码模块,以由多个编码模块利用纠删码EC技术,对所述多个待重构视频数据按照所述重构顺序进行重构;其中,所述目标排序方式为:基于重要数据优先重构的原则所设定的、关于所述属性信息的排序方式,所述目标排序方式包括:第一批数据为所对应回放频率满足预设条件的待重构视频数据,第二批数据为所对应设定状态为锁定状态的待重构视频数据,第三批数据为所对应数据类型为智能类型的待重构视频数据,第四批数据为所对应数据类型为告警类型的待重构视频数据,第五批数据为除第一批数据、第二批数据、第三批数据和第四批数据以外的待重构视频数据;其中,所述设定状态为用户对视频数据设定的;所述智能类型的待重构视频数据包括视频数据以及对视频流进行图像分析后的特征信息数据;所述告警类型的待重构视频数据包括在满足拍摄条件下所拍摄的视频数据。
2.根据权利要求1所述的方法,其特征在于,
所述基于所述多个待重构视频数据对应的属性信息,按照预设的目标排序方式,确定所述多个待重构视频数据对应的重构顺序的步骤,包括:
从所述多个待重构视频数据中,确定所对应回放频率满足预设条件的第一类待重构视频数据;
从除所述第一类待重构视频数据以外的待重构视频数据中,确定所对应设定状态为锁定状态的第二类待重构视频数据;
从除所述第一类待重构视频数据和所述第二类待重构视频数据以外的待重构视频数据中,确定所对应数据类型为智能类型的第三类待重构视频数据;
从除所述第一类待重构视频数据、所述第二类待重构视频数据和所述第三类待重构视频数据以外的待重构视频数据中,确定所对应数据类型为告警类型的第四类待重构视频数据;
将除所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据和所述第四类待重构视频数据以外的待重构视频数据,确定为第五类待重构视频数据;
将所述多个待重构视频数据对应的重构顺序确定为:所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据、所述第四类待重构视频数据、所述第五类待重构视频数据。
3.根据权利要求2所述的方法,其特征在于,所述属性信息还包括:存储时间;
所述目标排序方式还包括:同一批次下,以存储时间作为排序关键字进行排序;
所述将所述多个待重构视频数据对应的重构顺序确定为:所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据、所述第四类待重构视频数据、所述第五类待重构视频数据的步骤,包括:
按照存储时间,分别将所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据、所述第四类待重构视频数据、所述第五类待重构视频数据中的各个待重构视频数据进行排序;
确定所述多个待重构视频数据对应的重构顺序为:排序后的第一类待重构视频数据、排序后的第二类待重构视频数据、排序后的第三类待重构视频数据、排序后的第四类待重构视频数据、排序后的第五类待重构视频数据。
4.一种数据重构装置,其特征在于,应用于云存储系统的管理服务器中的数据管理模块;所述云存储系统还包括多个存储服务器,所述存储服务器包括编码模块;所述装置包括:
获得模块,用于从数据管理模块的数据库中,获得多个待重构视频数据对应的属性信息;其中,任一待重构视频数据对应的属性信息为丢失该待重构视频数据之前所记录的信息;其中,所述属性信息包括:数据类型、回放频率和设定状态;
确定模块,用于基于所述多个待重构视频数据对应的属性信息,按照预设的目标排序方式,确定所述多个待重构视频数据对应的重构顺序;以及按照所述重构顺序,将各个待重构数据的重构任务下发给多个所述存储服务器的编码模块,由多个编码模块利用纠删码EC技术,对所述多个待重构数据按照所述重构顺序进行重构;
其中,所述目标排序方式为:基于重要数据优先重构的原则所设定的、关于所述属性信息的排序方式,所述目标排序方式包括:第一批数据为所对应回放频率满足预设条件的待重构视频数据,第二批数据为所对应设定状态为锁定状态的待重构视频数据,第三批数据为所对应数据类型为智能类型的待重构视频数据,第四批数据为所对应数据类型为告警类型的待重构视频数据,第五批数据为除第一批数据、第二批数据、第三批数据和第四批数据以外的待重构视频数据;其中,所述设定状态为用户对视频数据设定的;所述智能类型的待重构视频数据包括视频数据以及对视频流进行图像分析后的特征信息数据;所述告警类型的待重构视频数据包括在满足拍摄条件下所拍摄的视频数据。
5.根据权利要求4所述的装置,其特征在于,所述确定模块,包括:
第一子模块,用于从所述多个待重构视频数据中,确定所对应回放频率满足预设条件的第一类待重构视频数据;
从除所述第一类待重构视频数据以外的待重构视频数据中,确定所对应设定状态为锁定状态的第二类待重构视频数据;
从除所述第一类待重构视频数据和所述第二类待重构视频数据以外的待重构视频数据中,确定所对应数据类型为智能类型的第三类待重构视频数据;
从除所述第一类待重构视频数据、所述第二类待重构视频数据和所述第三类待重构视频数据以外的待重构视频数据中,确定所对应数据类型为告警类型的第四类待重构视频数据;
将除所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据和所述第四类待重构视频数据以外的待重构视频数据,确定为第五类待重构视频数据;
第二子模块,用于将所述多个待重构视频数据对应的重构顺序确定为:所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据、所述第四类待重构视频数据、所述第五类待重构视频数据。
6.根据权利要求5所述的装置,其特征在于,所述属性信息还包括:存储时间;
所述目标排序方式还包括:同一批次下,以存储时间作为排序关键字进行排序;
所述第二子模块,具体用于:
按照存储时间,分别将所述第一类待重构视频数据、所述第二类待重构视频数据、所述第三类待重构视频数据、所述第四类待重构视频数据、所述第五类待重构视频数据中的各个待重构视频数据进行排序;
确定所述多个待重构视频数据对应的重构顺序为:排序后的第一类待重构视频数据、排序后的第二类待重构视频数据、排序后的第三类待重构视频数据、排序后的第四类待重构视频数据、排序后的第五类待重构视频数据。
7.一种电子设备,其特征在于,包括处理器和存储器,其中,
所述存储器,用于存放计算机程序;
所述处理器,用于执行所述存储器上所存放的程序时,实现权利要求1-3任一所述的方法步骤。
8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1-3任一所述的方法步骤。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810694042.8A CN110658979B (zh) | 2018-06-29 | 2018-06-29 | 一种数据重构方法、装置、电子设备及存储介质 |
US17/256,852 US11704026B2 (en) | 2018-06-29 | 2019-06-19 | Data reconstruction method, apparatus, electronic device, and storage medium |
EP19826622.3A EP3816782B1 (en) | 2018-06-29 | 2019-06-19 | Data reconstruction method, apparatus and storage medium |
PCT/CN2019/091858 WO2020001340A1 (zh) | 2018-06-29 | 2019-06-19 | 一种数据重构方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810694042.8A CN110658979B (zh) | 2018-06-29 | 2018-06-29 | 一种数据重构方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110658979A CN110658979A (zh) | 2020-01-07 |
CN110658979B true CN110658979B (zh) | 2022-03-25 |
Family
ID=68986239
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810694042.8A Active CN110658979B (zh) | 2018-06-29 | 2018-06-29 | 一种数据重构方法、装置、电子设备及存储介质 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11704026B2 (zh) |
EP (1) | EP3816782B1 (zh) |
CN (1) | CN110658979B (zh) |
WO (1) | WO2020001340A1 (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114816227A (zh) * | 2021-01-29 | 2022-07-29 | 伊姆西Ip控股有限责任公司 | 用于数据重建的方法、设备和程序产品 |
CN114168792A (zh) * | 2021-12-06 | 2022-03-11 | 北京达佳互联信息技术有限公司 | 视频推荐方法及装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1801944A (zh) * | 2000-08-21 | 2006-07-12 | 诺基亚有限公司 | 视频编码 |
CN106557266A (zh) * | 2015-09-25 | 2017-04-05 | 伊姆西公司 | 用于独立磁盘冗余阵列raid的方法和装置 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4626376B2 (ja) * | 2005-04-25 | 2011-02-09 | ソニー株式会社 | 音楽コンテンツの再生装置および音楽コンテンツ再生方法 |
JP2009177619A (ja) * | 2008-01-25 | 2009-08-06 | Panasonic Corp | 画像記録装置、画像再生装置、記録媒体、画像記録方法及びプログラム |
JP2013058172A (ja) * | 2011-09-09 | 2013-03-28 | Toshiba Corp | 映像収録再生装置、収録方法及び再構築方法 |
JP2014059659A (ja) * | 2012-09-14 | 2014-04-03 | Toshiba Corp | 映像収録再生装置及びリビルド再開方法 |
GB2514810A (en) * | 2013-06-05 | 2014-12-10 | Ibm | Rebuilding data of a storage system |
US9823969B2 (en) * | 2014-09-02 | 2017-11-21 | Netapp, Inc. | Hierarchical wide spreading of distributed storage |
WO2016048314A1 (en) | 2014-09-24 | 2016-03-31 | Hewlett Packard Enterprise Development Lp | Block priority information |
CN104536698A (zh) * | 2014-12-10 | 2015-04-22 | 华为技术有限公司 | 一种基于raid的磁盘重构方法及相关设备 |
CN105892934B (zh) * | 2014-12-19 | 2020-11-03 | 伊姆西Ip控股有限责任公司 | 用于存储设备管理的方法和装置 |
CN104598171B (zh) * | 2015-02-02 | 2018-01-05 | 浙江宇视科技有限公司 | 基于元数据的阵列重建方法及装置 |
CN108093207B (zh) * | 2016-11-23 | 2021-03-16 | 杭州海康威视数字技术股份有限公司 | 一种数据存储、获取方法及装置 |
US10642690B1 (en) * | 2016-12-20 | 2020-05-05 | Tintri By Ddn, Inc. | Policy-driven raid rebuild |
-
2018
- 2018-06-29 CN CN201810694042.8A patent/CN110658979B/zh active Active
-
2019
- 2019-06-19 WO PCT/CN2019/091858 patent/WO2020001340A1/zh active Application Filing
- 2019-06-19 US US17/256,852 patent/US11704026B2/en active Active
- 2019-06-19 EP EP19826622.3A patent/EP3816782B1/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1801944A (zh) * | 2000-08-21 | 2006-07-12 | 诺基亚有限公司 | 视频编码 |
CN106557266A (zh) * | 2015-09-25 | 2017-04-05 | 伊姆西公司 | 用于独立磁盘冗余阵列raid的方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2020001340A1 (zh) | 2020-01-02 |
US11704026B2 (en) | 2023-07-18 |
EP3816782A1 (en) | 2021-05-05 |
EP3816782A4 (en) | 2021-08-25 |
CN110658979A (zh) | 2020-01-07 |
US20210318809A1 (en) | 2021-10-14 |
EP3816782B1 (en) | 2023-11-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6514377B2 (ja) | ライブ・マルチユーザー複合ストリームにおける無許可コンテンツの検出 | |
TWI754795B (zh) | 基於區塊鏈存證的證據採集方法、系統、裝置及電腦設備 | |
US20170099292A1 (en) | Systems and Methods for Access Permission Revocation and Reinstatement | |
WO2018112722A1 (zh) | 一种视频巡检方法及其系统 | |
CN110232010A (zh) | 一种告警方法、告警服务器及监控服务器 | |
CN101833617A (zh) | 将父母控制政策应用于媒体文件的方法和系统 | |
CN110658979B (zh) | 一种数据重构方法、装置、电子设备及存储介质 | |
WO2017162100A1 (en) | Method and apparatus for managing account number | |
CN109450869B (zh) | 一种基于用户反馈的业务安全防护方法 | |
CN109636605A (zh) | 一种数字资产交易所的监管方法及系统 | |
CN110597453A (zh) | 一种云存储系统中的视频数据存储方法及装置 | |
CN110933115A (zh) | 基于动态session的分析对象行为异常检测方法及装置 | |
CN107592503A (zh) | 执法音视频采集管理系统及管理方法 | |
CN110377562B (zh) | 基于Hadoop开源平台的大数据安全存储方法 | |
CN113711619A (zh) | 多媒体数据存储方法、装置、设备、存储介质及程序产品 | |
CN111090395A (zh) | 一种用于会计行业的电子信息智能存储系统 | |
CN111757037B (zh) | 一种录像文件读写方法及装置 | |
EP2856354B1 (en) | Method and system for deleting obsolete files from a file system | |
CN112969172A (zh) | 一种基于云手机的通讯流量控制方法 | |
CN111294613A (zh) | 一种视频处理方法、客户端、服务器 | |
CN112565380B (zh) | 一种消防物联网数据接入方法及系统 | |
CN113609111A (zh) | 一种大数据测试方法及系统 | |
US20080008443A1 (en) | Data management system and method | |
CN115033187B (zh) | 一种基于大数据的分析管理方法 | |
CN112019876B (zh) | 一种录像访问方法、装置、存储服务器和录像访问系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |