CN101808243B - 一种基于快照的数据处理方法和设备 - Google Patents
一种基于快照的数据处理方法和设备 Download PDFInfo
- Publication number
- CN101808243B CN101808243B CN 201010121444 CN201010121444A CN101808243B CN 101808243 B CN101808243 B CN 101808243B CN 201010121444 CN201010121444 CN 201010121444 CN 201010121444 A CN201010121444 A CN 201010121444A CN 101808243 B CN101808243 B CN 101808243B
- Authority
- CN
- China
- Prior art keywords
- snapshot
- data segments
- data
- local
- space
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Abstract
本发明公开了一种基于快照的数据处理方法,包括以下步骤:DM接收来自VC的点播请求,所述点播请求中携带了所述VC点播的录像信息;所述DM根据所述VC点播的录像信息获取对应的数据区段,并根据所述数据区段向所述存储设备请求建立所述数据区段的局部快照;所述DM根据所述数据区段的局部快照读取相应的录像,并将所述录像回放给所述VC。本发明中,提高了存储设备的存储性能,并节约了存储空间。
Description
技术领域
本发明涉及通信技术领域,特别是涉及一种基于快照的数据处理方法和设备。
背景技术
随着存储应用需求的提高,用户需要以在线方式进行数据保护,而快照技术是存储领域的一种常见的数据保护方式。其中,快照的定义是:关于指定数据集合的一个完全可用的拷贝,该拷贝包括相应数据在某个时间点(拷贝开始的时间点)的映像。
具体的,快照的目的是为数据卷创建一个在特定时间点的状态视图,而通过该状态视图只可以看到该数据卷在快照创建时刻的数据,而在此时间点之后,如果数据卷有更新(即有新的数据写入)时,则不会反映在该快照的状态视图当中。
一般来说,数据的快照需要借助于磁盘空间,并同时依赖于原始数据,而且某一时间点的数据能够永久保留,基于这种优点,数据的快照可以作为常见生产环境中备份、复制等应用的基础。
但是,将数据的快照应用到备份、复制等应用场景时,数据的读取需要比写入多,或者,存储系统中冗余的存储空间较大。
基于上述要求,对视频监控领域来说,是非常苛刻的要求。其中,在视频监控领域中,一般的存储特点包括:
1)数据写入的时间要远远大于数据的读取。其中,监控的基本要求是将需要时间段或是发生特殊情况的媒体数据录制下来,并建立方便的索引机制,以便于后续有需要时进行读取,因此,一般情况下,监控中的存储均处在写入状态,而读取的情况则少很多。
2)存储系统的冗余存储空间不多。其中,监控需要保存尽可能长时间的 数据,即对存储系统的使用比较多,而且在对数据进行存储时,常见的数据写入方式为事先分配好较大容量的存储空间,之后从头往后循环往复的写入。
3)某一时间点的数据保留对于监控系统来说是有意义的。例如,空间的有限性必然导致数据保留的有限性,但进行数据的读取时,往往是对过去某一个时间段数据的分析,而且分析的过程中无法保证数据被复写的危险,而目前常见的做法是将该数据复制下来进行分析,即需要对某一时间点的数据进行保留。
综上所述,在将快照应用到视频监控时,由于数据的写入比读取多,而且存储系统中冗余的存储空间不多,在大量的数据写入时,必然导致快照空间的占用太大,因此,通过整盘的数据快照进行数据的读取是不合适的。但是,从上述的3)来考虑的话,快照技术对于监控系统的读取来说还是存在优势的,因此,需要在视频监控中引入快照技术。
现有技术中,视频监控系统的典型组网如图1所示,包括DM(DataManagement,数据管理)服务器、EC(Encoder,编码器)、存储设备和VC(Video Client,视频客户端)等设备。其中,每台前端编码器EC,均独立通过iSCSI(Internet Small Computer System Interface,Internet小型计算机系统接口)协议将流媒体数据存入到IP SAN(IP Storage Area Network,基于IP的存储局域网络)设备(即存储设备)中,而iSCSI协议能够将远端的IP SAN中的存储资源,以本地磁盘设备的形式提供给前端编码器使用。
因此,编码器在对磁盘读写的过程中,并不对磁盘进行文件系统划分和格式化操作,而是直接按照磁盘扇区来进行块读写操作,而读写的过程可以采用类似读/写-扇区号-数据的方式。另外,音视频数据将按照块边界(即按照一定的长度)对齐进行存储,而若干数量的块将组成一个存储单元,其中,块的大小和存储单元的大小是固定的。
如图2所示的音视频数据按照块边界对齐进行存储的示意图,基于视频监控的数据存储特点,可以采用二级索引方式,在磁盘中的第一块为主索引块,之后为固定长度的存储单元。其中,主索引块(即一级索引)中记录了所有存储单元的首记录时间戳,而每条索引信息记录了年、月、日、小时、 分的具体时间数值。
各存储单元的第一块数据为存储单元索引块(即二级索引),该索引块记录了本存储单元内所有I帧数据的时间戳和存储位置偏移量,其中,偏移量以存储单元基地址为参考点,偏移量的单位为块。每条索引信息记录下年、月、日、小时、分、秒的具体时间数值,以及存储位置偏移量。而采用二级索引方式时,可以查询的时间粒度精确到‘秒’的数量级。
具体的,对于采用上述方式组织的存储数据,可以分为索引区和数据区,其中,保留完整的索引区能够完成音视频数据的查询、寻址等操作。而录像的读取过程是通过操作界面输入关注的时间段,之后根据开始时间及结束时间,在上述音视频数据的索引区中进行检索,找到对应的一级索引和二级索引,再根据索引指示的数据地址,在数据区中寻址到真正数据所在的位置,并进行读取。
在实现本发明的过程中,发明人发现现有技术中至少存在以下问题:
1)读取过程存在数据被存储覆盖的危险。由于存储容量的有限性和始终进行数据存储的必要性,在数据存储过程中,数据只能在一定的留存期中进行保留,而不可能进行永久保留,因此,如果读取过程持续时间超过留存期,或者读取数据的时间较早,则很容易产生数据被覆盖的危险。
2)直接将指定时间段内的数据保存在本地,之后对该数据进行分析,也存在数据被覆盖,从而导致下载不完全的危险,而且面也对本地资源存在浪费。
发明内容
本发明提供一种基于快照的数据处理方法和设备,以通过对数据进行局部快照,避免了数据被存储覆盖的危险。
为了达到上述目的,本发明提出了一种基于快照的数据处理方法,应用于包括数据管理服务器DM、存储设备和视频客户端VC的系统中,所述方法包括以下步骤:
所述DM接收来自所述VC的点播请求,所述点播请求中携带了所述VC 点播的录像信息;
所述DM根据所述VC点播的录像信息获取对应的数据区段,并根据所述数据区段向所述存储设备请求建立所述数据区段的局部快照;
所述DM根据所述数据区段的局部快照读取相应的录像,并将所述录像回放给所述VC。
所述VC点播的录像信息包括所述VC点播的录像的起始时间和停止时间;
所述DM根据所述VC点播的录像信息获取对应的数据区段,并根据所述数据区段向所述存储设备请求建立所述数据区段的局部快照,具体包括:
所述DM将所述VC点播的录像的起始时间和停止时间转换为实际对应的数据区段;
所述DM根据所述数据区段的个数,在所述存储设备的空闲快照空间上,请求建立所述对应该数据区段的局部快照。
所述DM根据所述VC点播的录像信息获取对应的数据区段,并根据所述数据区段向所述存储设备请求建立所述数据区段的局部快照,之后还包括:
所述存储设备从空闲快照空间中选择所述对应该数据区段的快照空间,并使用该快照空间为所述数据区段建立局部快照。
所述存储设备从空闲快照空间中选择所述对应该数据区段的快照空间,并使用该快照空间为所述数据区段建立局部快照,之前还包括:
所述存储设备判断所述数据区段是否为保护区域;如果不是,则需要执行从空闲快照空间中选择所述对应该数据区段的快照空间,并使用该快照空间为所述数据区段建立局部快照的步骤,并将所述数据区段中的内容保护到为所述数据区段建立的局部快照;如果是,则需要执行从空闲快照空间中选择所述对应该数据区段的快照空间,使用该快照空间为所述数据区段建立局部快照的步骤,将所述数据区段中的内容保护到为所述数据区段建立的局部快照,并通过使用链表的方式将所述对应该数据区段的各个局部快照进行链接。
所述DM根据所述数据区段的局部快照读取相应的录像,并将所述录像 回放给所述VC,具体包括:
所述DM判断所述数据区段是否已经被快照保护过;如果是,则所述数据区段已存在对应的局部快照,直接访问该已存在的对应的局部快照,并将相应的录像回放给所述VC;如果不是,则直接读取所述对应该数据区段的原始资源数据,并将相应的录像回放给所述VC。
一种基于快照的数据处理设备,应用于包括数据管理服务器DM、存储设备和视频客户端VC的系统中,所述基于快照的数据处理设备作为所述DM,包括:
接收模块,用于接收来自所述VC的点播请求,所述点播请求中携带了所述VC点播的录像信息;
获取模块,用于根据所述接收模块接收的所述VC点播的录像信息获取对应的数据区段;并根据所述数据区段向所述存储设备请求建立所述数据区段的局部快照;
处理模块,用于根据所述获取模块请求建立的所述数据区段的局部快照读取相应的录像,并将所述录像回放给所述VC。
所述VC点播的录像信息包括所述VC点播的录像的起始时间和停止时间;
所述获取模块具体用于,将所述VC点播的录像的起始时间和停止时间转换为实际对应的数据区段;
并根据所述数据区段的个数,在所述存储设备的空闲快照空间上,请求建立所述对应该数据区段的局部快照。
所述处理模块具体用于,判断所述数据区段是否已经被快照保护过;如果是,则所述数据区段已存在对应的局部快照,直接访问该已存在的对应的局部快照,并将相应的录像回放给所述VC;如果不是,则直接读取所述对应该数据区段的原始资源数据,并将相应的录像回放给所述VC。
一种基于快照的数据处理设备,应用于包括数据管理服务器DM、存储设 备和视频客户端VC的系统中,所述基于快照的数据处理设备作为所述存储设备,包括:
接收模块,用于接收来自所述DM的请求建立所述VC点播的录像信息所对应的数据区段的局部快照的信息;
处理模块,用于从空闲快照空间中选择所述对应该数据区段的快照空间,并使用该快照空间为所述数据区段建立局部快照,供所述DM根据所述数据区段的局部快照读取相应的录像并将所述录像回放给所述VC。
所述处理模块还用于,判断所述数据区段是否为保护区域;如果不是,则需要执行从空闲快照空间中选择所述对应该数据区段的快照空间,并使用该快照空间为所述数据区段建立局部快照的操作,并将所述数据区段中的内容保护到为所述数据区段建立的局部快照;如果是,则需要执行从空闲快照空间中选择所述对应该数据区段的快照空间,使用该快照空间为所述数据区段建立局部快照的步骤,将所述数据区段中的内容保护到为所述数据区段建立的局部快照,并通过使用链表的方式将所述对应该数据区段的各个局部快照进行链接。
与现有技术相比,本发明具有以下优点:
通过对数据进行局部快照,提高了存储设备的存储性能,并节约了存储空间。而且避免了读取过程中发生数据的复写的现象,原始数据能够得到有效的保存。
附图说明
图1为现有技术中视频监控系统的典型组网示意图;
图2为现有技术中音视频数据按照块边界对齐进行存储的示意图;
图3为本发明提出的一种基于快照的数据处理方法流程图;
图4为对应图1所示应用场景所提出的一种基于快照的数据处理方法流程图;
图5为本发明应用场景下存储设备为不同的数据区段建立对应的局部快照的示意图;
图6为本发明提出的一种基于快照的数据处理设备结构图;
图7为本发明提出的另一种基于快照的数据处理设备结构图。
具体实施方式
如图3所示,本发明提供了一种基于快照的数据处理方法,应用于包括数据管理服务器DM、存储设备和视频客户端VC的系统中,所述方法包括以下步骤:
步骤301,所述DM接收来自所述VC的点播请求,所述点播请求中携带了所述VC点播的录像信息。
步骤302,所述DM根据所述VC点播的录像信息获取对应的数据区段,并根据所述数据区段向所述存储设备请求建立所述数据区段的局部快照。
步骤303,所述DM根据所述数据区段的局部快照读取相应的录像,并将所述录像回放给所述VC。
为了更加清楚的说明本发明提供的技术方案,以下结合图1所示的应用场景对本发明提供的基于快照的数据处理方法进行详细说明。其中,图1所示的应用场景是针对视频监控领域来说的,如图4所示,该基于快照的数据处理过程包括以下步骤:
步骤401,编码器EC将数据保存到存储设备。其中,本发明中所提到数据可以为音频数据、视频数据等流媒体数据,后续过程中均以数据为例进行说明。
具体的,EC可以通过使用iSCSI方式将数据保存到IP SAN(基于IP的网络存储设备)的存储资源中,即通过使用iSCSI方式将数据保存到IP SAN的存储设备上,该数据的保存过程本发明中不再详加描述。
步骤402,VC确定出录像的起始时间和停止时间。
在实际应用中,VC能够根据自身的需要,向DM请求相关的录像,而该录像为EC在存储设备上所存储的数据。例如,当VC需要观看2010年1月2日8:00至9:00的监控数据时,则VC确定出录像的起始时间为2010年1 月2日8:00,停止时间为2010年1月2日9:00。
步骤403,VC向DM发送点播请求;其中,该点播请求中携带了VC点播的录像信息。
需要注意的是,该VC点播的录像信息可以为VC点播的录像的起始时间和停止时间,例如,点播请求中携带了起始时间为2010年1月2日8:00,停止时间为2010年1月2日9:00的信息。
当然,在实际应用中,该VC点播的录像信息还可以为其他的信息,例如,VC知道自身需要点播的录像对应的数据区段为A区段时,则可以直接在点播请求中携带该A区段的信息,本发明中以VC点播的录像的起始时间和停止时间为例进行说明,对于VC点播的录像信息为其他信息的处理过程,本发明中不再赘述。
步骤404,DM根据点播请求中的VC点播的录像信息获取对应的数据区段。
具体的,由于数据的存储与时间相对应,当接收到点播请求时,根据该VC点播的录像的起始时间和停止时间,该DM能够计算出具体对应的数据区段。
需要注意的是,一般的点播流程,均是基于时间段进行的,而能够运行较长时间段的点播,在监控业务中的意义不是很大,因此,可以将时间段限定为24小时(该时间可以根据实际需要进行调整),从而可以直接将需要点播的区段限定在有限的多个数据区段上。而本发明中,可以为不同的数据区段建立对应的局部快照,该过程将在后续步骤中进行说明,在此不再赘述。
步骤405,DM根据该数据区段向存储设备请求建立该对应该数据区段的局部快照。
具体的,该DM需要根据数据区段的个数,在该存储设备的空闲快照空间上,请求建立该对应该数据区段的局部快照。例如,当VC点播的录像信息分别为2010年1月2日8:00至9:00,2010年1月2日10:00至11:00时,则数据区段的个数为2,即需要在存储设备的空闲快照空间上请求建立该2个对应该数据区段的局部快照。
进一步的,该局部快照用于将数据区段中的内容保护到相应的快照中,例如,2010年1月2日8:00至9:00所对应的数据区段,当建立了该对应该数据区段的局部快照后,如果该数据区段中的内容发生了改写,则需要将2010年1月2日8:00至9:00所对应的数据区段中的内容保护到相应的快照中。
步骤406,存储设备从空闲快照空间中选择对应该数据区段的快照空间,并使用该快照空间为该数据区段建立局部快照。
需要注意的是,由于一个时间段的数据可能会被一个VC多次请求建立局部快照或者被多个VC多次请求建立局部快照,所以,需要分两种情况考虑存储设备从空闲快照空间中选择对应该数据区段的快照空间,并使用该快照空间为该数据区段建立局部快照的过程。
第一种情况,DM第一次请求建立该对应该数据区段的局部快照。
在这种情况下,由于DM是第一次请求建立对应该数据区段的局部快照,则该存储设备上没有该对应该数据区段的局部快照,此时,在有空闲快照空间的前提下,存储设备需要从空闲快照空间中选择对应的快照空间作为该数据区段的快照空间,并使用该快照空间为该数据区段建立局部快照。
第二种情况,DM不是第一次请求建立该对应该数据区段的局部快照。
在这种情况下,由于DM不是第一次请求建立该对应该数据区段的局部快照,则该存储设备上已经存在了该对应该数据区段的局部快照,此时,在有空闲快照空间的前提下,存储设备仍然需要从空闲快照空间中选择对应的快照空间作为该数据区段的快照空间,并使用该快照空间为该数据区段建立局部快照。而由于存储设备上已经存在了该对应该数据区段的局部快照,因此,考虑到快照的概念存在先后顺序的,可以为每个数据区段的不同快照建立一个具有先后顺序的链表,即将该对应该数据区段的各个快照空间通过使用链表的方式进行链接。例如,当为2010年1月2日8:00至9:00、2010年1月3日8:00至9:00以及2010年1月4日8:00至9:00所对应的数据区段分别建立了对应的局部快照(以分别为局部快照1、局部快照2和局部快照3为例)后,则需要使用链表的方式将局部快照1、局部快照2和局部快 照3链接,而在链接过程中,需要将时间最新的局部快照(即2010年1月4日8:00至9:00所对应的局部快照3)作为表头,并按照时间的先后向下依次链接,将时间最早的局部快照(即2010年1月2日8:00至9:00所对应的局部快照1)作为表尾,以此类推,则2010年1月3日8:00至9:00所对应的局部快照2需要位于二者之间。
基于上述情况,本发明中,存储设备需要判断数据区段是否为保护区域(即数据区段是否已经建立了对应的局部快照);如果是,则该数据区段已存在对应的局部快照,存储设备仍然需要从空闲快照空间中选择对应的快照空间作为该数据区段的快照空间,并使用该快照空间为该数据区段建立局部快照,并通过具有先后顺序的链表将该对应该数据区段的各个快照空间进行链接;如果不是,则需要执行从空闲快照空间中选择对应该数据区段的快照空间,并使用该快照空间为数据区段建立局部快照的步骤。
可以看出,由于一个数据区段可能会被一个VC或者多个VC多次请求建立局部快照,而如果每次都建立独立的快照空间,则极大的影响了写入性能,本发明中,考虑到快照的概念存在先后顺序的,可以为每个数据区段的不同快照建立一个具有先后顺序的链表,而每次处理时均先判断当前要写入的数据区段是否存在局部快照,如果没有,则执行建立局部快照的操作,而如果有,则需要遍历上述的链表,并按照从后往前的顺序,碰到第一个需要对该数据区段进行快照的配置,并将该待写入的数据区段中的数据拷贝到该快照空间即可。
为了更加清楚的说明局部快照建立时的情况,以下结合图5所示的存储设备为不同的数据区段建立对应的局部快照的示意图进行进一步的阐述。
具体的,为了能够方便的查询局部快照中的数据区段和实际存储位置的信息,需要在快照空间组织区中保存位图映射和保护数据区的序列位图,其中,该位图映射用于建立索引区和数据区段的对应关系,该保护数据区的序列位图用于建立数据区段和该数据区段实际存储位置的对应关系。而针对存储数据组织时全局数据区、索引区、数据区的大小均是16KB的整数倍的情况,则该位图映射可以为16K块大小,即每一位的索引区与数据区段中每一个16K 块相对应。
需要注意的是,由于编码器EC是实时的进行监控的,即EC需要在指定存储区域上进行循环往复的写入,因此可能会对快照区域的数据区段进行重新写入,基于这种情况,本发明提供的方法中,还可以包括以下步骤:
(1)当编码器EC需要修改数据区段中的数据时,存储设备判断该数据区段是否已经被快照保护,如果是,则执行(2),否则,执行(3)。
(2)存储设备将变化前数据拷贝到对应的快照区,其中,该快照区为该对应该数据区段的局部快照。
具体的,存储设备可以根据第一次的写时拷贝机制,先将要写入数据区段的原始数据拷贝到对应的快照区域,再写入相应的数据,之后再修改保护数据区的序列位图。
(3)存储设备直接修改该数据区段中的数据。
而为了实现上述的(1)-(3),在建立保护数据区的序列位图时,需要将该保护数据区的序列位图载入到内存空间,并挂载到实际存储空间的IO管理层。基于此,当编码器EC有数据需要写入时,首先会遍历与该存储设备关联的保护数据区的序列位图,并通过该保护数据区的序列位图确认需要写入的数据区段是否为快照空间中的保护区域,如果是,则说明该数据区段已经被快照保护,执行上述的(2);如果不是,则说明该数据区段没有被快照保护,执行上述的(3)。
步骤407,DM根据数据区段的局部快照读取相应的录像,并将该录像回放给VC。
具体的,当VC需要播放录像时,该DM需要先获取该录像所对应的数据区段,并判断该数据区段是否已经被快照保护过;如果是,则说明该数据区段已存在对应的局部快照,该DM可以直接访问该已存在的对应的局部快照,读取相应的数据区段,并将相应的录像回放给对应的VC;而如果不是,则说明该数据区段没有对应的局部快照,该DM需要直接读取该对应该数据区段的原始资源数据,并从原始资源数据中将相应的录像回放给对应的VC。
在实际应用中,当VC需要播放录像(录像A,对应存储设备上的资源A) 时,如果该录像对应的数据区段已经被快照保护过,则说明之前已经建立了资源A对应的局部快照。其中,在初始建立该资源A对应的局部快照时,可以不将该资源A中的内容(即原始数据)存储到该局部快照,而在后续过程中该资源A中的内容需要发生改变(例如,EC需要将最新监控到的数据写入到该资源A中并覆盖该资源A)时,则需要将发生改变前的当前数据(即资源A中的内容)拷贝到对应该数据区段的快照区(该过程在上面的步骤中已经详细说明,在此不再详加赘述)。此时,在VC需要播放资源A对应的录像A时,可以直接将局部快照中的录像A回放给对应的VC。
而如果该录像A对应的数据区段没有被快照保护过,此时需要为该数据区段建立对应的局部快照(可以不将相应的资源A中的内容存储到该局部快照),并直接从该数据区段中读取资源A中的内容,并将录像A回放给对应的VC。
需要注意的是,由于快照存在时间性,如果对同一数据区段进行多次快照,本发明中可以使用链表的方式对各个快照空间进行处理,即将最早(时间最早)的快照保护在链表最下面的快照空间,而将最近(时间最近)的快照保护在链表最顶层的快照空间,而每次数据区段需要发生改变(例如,EC需要将最新监控到的数据写入到该数据区段中并覆盖该数据区段)时,则仅仅将当前数据(即将最新监控到的数据覆盖该数据区段之前的数据)拷贝到最顶层的快照空间。
基于上述情况,对于某次快照的读取,不能仅从本次快照空间的内容和原始数据内容来判断录像对应的数据区段是否已经被快照保护过,即在读取时,如果当前快照组织信息中已记录该访问数据区段已经被保护过,则直接从当前快照空间进行录像对应内容的读取。
而如果没有记录,则需要首先根据该快照空间关联的快照信息链表,查找时间最近的快照空间,如果没有查找到,则按照该快照信息链表从时间最近的快照向时间最早的快照依次查找各个快照空间,如果查找到有该数据区段相应的记录时,则仍需要从快照空间进行录像对应内容的读取;只有当所有快照空间中都没有记录该访问数据区段已经被保护过的信息时,才会直接 从原始资源数据读取该数据区段中的内容。例如,对于上述的局部快照1、局部快照2和局部快照3、时间最近的快照对应局部快照3,时间最早的快照对应局部快照1,在查找过程中,需要首先查找局部快照3是否有该点播信息对应的记录,如果没有查找到有该点播信息相应的记录时,则进一步查找局部快照2,如果没有查找到有该点播信息相应的记录时,则进一步查找局部快照1,如果查找到有该点播信息相应的记录时,则不需要查找局部快照1,并直接从局部快照2中读取该点播信息对应的内容。
步骤408,当点播会话中止时,存储设备删除当前点播所对应的局部快照。
具体的,由于多次快照是以建立的先后顺序以链表方式进行组织的,因此,当删除某一次快照时,需要向前遍历当前链表,将数据区段的内容复制到之前快照需要保护的快照空间中,并进行相应信息的合并。例如,对于上述的资源A,如果已经建立了对应的局部快照1、局部快照2和局部快照3,且局部快照1中存储了资源A1和资源A2对应的内容,局部快照2中存储了资源A2和资源A3对应的内容,局部快照3中存储了资源A1、A2、资源A3和资源A4对应的内容;其中,局部快照1为VC1点播信息对应的内容、局部快照2为VC2点播信息对应的内容、局部快照3为VC3点播信息对应的内容。
如果VC3不再需要点播相应信息了,即对应局部快照3的点播会话中止,则需要将局部快照3删除,并向前遍历当前链表,将局部快照3的内容复制到链表中相关的快照空间中。
由于资源A1只与链表中的局部快照1相关,则需要将部快照3中的资源A1的内容合并到局部快照1中;由于资源A2与链表中的局部快照1和局部快照2相关,而局部快照2位于链表的前端,则需要将部快照3中的资源A2的内容合并到局部快照2中;由于资源A3只与链表中的局部快照2相关,则需要将部快照3中的资源A3的内容合并到局部快照2中;而由于资源A4与链表中的局部快照2和局部快照1均不相关,则直接将该资源A4的内容删除。
进一步的,在后续过程中,如果VC1不再需要点播相应信息了,即对应局部快照1的点播会话也中止时,则向前遍历当前链表时,发现局部快照1 之前没有对应的局部快照了,直接将局部快照1中的内容删除。
在进一步的,如果VC2不再需要点播相应信息了,即对应局部快照2的点播会话也中止时,则向前遍历当前链表时,发现局部快照1之前也没有对应的局部快照了,直接将局部快照2中的内容删除;此时,则说明资源A对应的局部快照已经被完全释放了。
另外,如果点播过程中需要删除原始媒体数据空间时,则当快照访问出现需要访问原始数据时,直接返回失败即可。
其中,本发明方法可以根据实际需要对各个步骤顺序进行调整。
综上所述,通过使用本发明提供的技术方案,具有以下优点:
从使用概率上分析,由于读取与存储的发生比例几乎小于1∶100,因此,在存储设备上事先预留小部分的存储空间(例如,100G空间,相比单磁盘1T容量来说,8块磁盘阵列配置,仅预留约1.25%空间),作为短时的快照空间,用于后续录像的读取。
一方面,由于音视频媒体数据具有结构化,元数据分布相对集中,数据区分布非常连续,基于这种情况,本发明中通过进行局部快照,避免了全局快照时刻保留原始数据,急剧影响存储性能,并占用存储空间的缺陷。另一方面,通过进行局部快照,避免了读取过程中发生数据的复写,原始数据都会得到有效的保存。
基于同样的发明构思,本发明还提出了一种基于快照的数据处理设备,应用于包括数据管理服务器DM、存储设备和视频客户端VC的系统中,所述基于快照的数据处理设备作为所述DM,如图6所示,包括:
接收模块61,用于接收来自所述VC的点播请求,所述点播请求中携带了所述VC点播的录像信息。
获取模块62,用于根据所述接收模块61接收的所述VC点播的录像信息获取对应的数据区段;并根据所述数据区段向所述存储设备请求建立所述数据区段的局部快照。
具体的,所述VC点播的录像信息包括所述VC点播的录像的起始时间和 停止时间;所述获取模块62具体用于,将所述VC点播的录像的起始时间和停止时间转换为实际对应的数据区段;并根据所述数据区段的个数,在所述存储设备的空闲快照空间上,请求建立所述对应该数据区段的局部快照。
处理模块63,用于根据所述获取模块62请求建立的所述数据区段的局部快照读取相应的录像,并将所述录像回放给所述VC。
所述处理模块63具体用于判断所述数据区段是否已经被快照保护过;如果是,则所述数据区段已存在对应的局部快照,直接访问该已存在的对应的局部快照,并将相应的录像回放给所述VC;如果不是,则直接读取所述对应该数据区段的原始资源数据,并将相应的录像回放给所述VC。
其中,本发明装置的各个模块可以集成于一体,也可以分离部署。上述模块可以合并为一个模块,也可以进一步拆分成多个子模块。
基于同样的发明构思,本发明还提出了一种基于快照的数据处理设备,应用于包括数据管理服务器DM、存储设备和视频客户端VC的系统中,所述基于快照的数据处理设备作为所述存储设备,包括:
接收模块71,用于接收来自所述DM的请求建立所述VC点播的录像信息所对应的数据区段的局部快照的信息。
处理模块72,用于从空闲快照空间中选择所述对应该数据区段的快照空间,并使用该快照空间为所述数据区段建立局部快照。
所述处理模块72还用于,判断所述数据区段是否为保护区域;如果不是,则需要执行从空闲快照空间中选择所述对应该数据区段的快照空间,并使用该快照空间为所述数据区段建立局部快照的操作,并将所述数据区段中的内容保护到为所述数据区段建立的局部快照;如果是,则需要执行从空闲快照空间中选择所述对应该数据区段的快照空间,使用该快照空间为所述数据区段建立局部快照的步骤,将所述数据区段中的内容保护到为所述数据区段建立的局部快照,并通过使用链表的方式将所述对应该数据区段的各个局部快照进行链接。
其中,本发明装置的各个模块可以集成于一体,也可以分离部署。上述 模块可以合并为一个模块,也可以进一步拆分成多个子模块。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到本发明可以通过硬件实现,也可以借助软件加必要的通用硬件平台的方式来实现。基于这样的理解,本发明的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。
本领域技术人员可以理解附图只是一个优选实施例的示意图,附图中的模块或流程并不一定是实施本发明所必须的。
本领域技术人员可以理解实施例中的装置中的模块可以按照实施例描述进行分布于实施例的装置中,也可以进行相应变化位于不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块。
上述本发明序号仅仅为了描述,不代表实施例的优劣。
以上公开的仅为本发明的几个具体实施例,但是,本发明并非局限于此,任何本领域的技术人员能思之的变化都应落入本发明的保护范围。
Claims (10)
1.一种基于快照的数据处理方法,其特征在于,应用于包括数据管理服务器DM、存储设备和视频客户端VC的系统中,所述方法包括以下步骤:
所述DM接收来自所述VC的点播请求,所述点播请求中携带了所述VC点播的录像信息;
所述DM根据所述VC点播的录像信息获取对应的数据区段,并根据所述数据区段向所述存储设备请求建立所述数据区段的局部快照;
所述DM根据所述数据区段的局部快照读取相应的录像,并将所述录像回放给所述VC。
2.如权利要求1所述的方法,其特征在于,所述VC点播的录像信息包括所述VC点播的录像的起始时间和停止时间;
所述DM根据所述VC点播的录像信息获取对应的数据区段,并根据所述数据区段向所述存储设备请求建立所述数据区段的局部快照,具体包括:
所述DM将所述VC点播的录像的起始时间和停止时间转换为实际对应的数据区段;
所述DM根据所述数据区段的个数,在所述存储设备的空闲快照空间上,请求建立所述对应该数据区段的局部快照。
3.如权利要求2所述的方法,其特征在于,所述DM根据所述VC点播的录像信息获取对应的数据区段,并根据所述数据区段向所述存储设备请求建立所述数据区段的局部快照,之后还包括:
所述存储设备从空闲快照空间中选择所述对应该数据区段的快照空间,并使用该快照空间为所述数据区段建立局部快照。
4.如权利要求3所述的方法,其特征在于,所述存储设备从空闲快照空间中选择所述对应该数据区段的快照空间,并使用该快照空间为所述数据区段建立局部快照,之前还包括:
所述存储设备判断所述数据区段是否为保护区域;如果不是,则需要执行从空闲快照空间中选择所述对应该数据区段的快照空间,并使用该快照空间为所述数据区段建立局部快照的步骤,并将所述数据区段中的内容保护到 为所述数据区段建立的局部快照;如果是,则需要执行从空闲快照空间中选择所述对应该数据区段的快照空间,使用该快照空间为所述数据区段建立局部快照的步骤,将所述数据区段中的内容保护到为所述数据区段建立的局部快照,并通过使用链表的方式将所述对应该数据区段的各个局部快照进行链接。
5.如权利要求4所述的方法,其特征在于,所述DM根据所述数据区段的局部快照读取相应的录像,并将所述录像回放给所述VC,具体包括:
所述DM判断所述数据区段是否已经被快照保护过;如果是,则所述数据区段已存在对应的局部快照,直接访问该已存在的对应的局部快照,并将相应的录像回放给所述VC;如果不是,则直接读取所述对应该数据区段的原始资源数据,并将相应的录像回放给所述VC。
6.一种基于快照的数据处理设备,其特征在于,应用于包括数据管理服务器DM、存储设备和视频客户端VC的系统中,所述基于快照的数据处理设备作为所述DM,包括:
接收模块,用于接收来自所述VC的点播请求,所述点播请求中携带了所述VC点播的录像信息;
获取模块,用于根据所述接收模块接收的所述VC点播的录像信息获取对应的数据区段;并根据所述数据区段向所述存储设备请求建立所述数据区段的局部快照;
处理模块,用于根据所述获取模块请求建立的所述数据区段的局部快照读取相应的录像,并将所述录像回放给所述VC。
7.如权利要求6所述的设备,其特征在于,所述VC点播的录像信息包括所述VC点播的录像的起始时间和停止时间;
所述获取模块具体用于,将所述VC点播的录像的起始时间和停止时间转换为实际对应的数据区段;
并根据所述数据区段的个数,在所述存储设备的空闲快照空间上,请求建立所述对应该数据区段的局部快照。
8.如权利要求6所述的设备,其特征在于,
所述处理模块具体用于,判断所述数据区段是否已经被快照保护过;如果是,则所述数据区段已存在对应的局部快照,直接访问该已存在的对应的局部快照,并将相应的录像回放给所述VC;如果不是,则直接读取所述对应该数据区段的原始资源数据,并将相应的录像回放给所述VC。
9.一种基于快照的数据处理设备,其特征在于,应用于包括数据管理服务器DM、存储设备和视频客户端VC的系统中,所述基于快照的数据处理设备作为所述存储设备,包括:
接收模块,用于接收来自所述DM的请求建立所述VC点播的录像信息所对应的数据区段的局部快照的信息;
处理模块,用于从空闲快照空间中选择所述对应该数据区段的快照空间,并使用该快照空间为所述数据区段建立局部快照,供所述DM根据所述数据区段的局部快照读取相应的录像并将所述录像回放给所述VC。
10.如权利要求9所述的设备,其特征在于,
所述处理模块还用于,判断所述数据区段是否为保护区域;如果不是,则需要执行从空闲快照空间中选择所述对应该数据区段的快照空间,并使用该快照空间为所述数据区段建立局部快照的操作,并将所述数据区段中的内容保护到为所述数据区段建立的局部快照;如果是,则需要执行从空闲快照空间中选择所述对应该数据区段的快照空间,使用该快照空间为所述数据区段建立局部快照的步骤,将所述数据区段中的内容保护到为所述数据区段建立的局部快照,并通过使用链表的方式将所述对应该数据区段的各个局部快照进行链接。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN 201010121444 CN101808243B (zh) | 2010-03-11 | 2010-03-11 | 一种基于快照的数据处理方法和设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN 201010121444 CN101808243B (zh) | 2010-03-11 | 2010-03-11 | 一种基于快照的数据处理方法和设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101808243A CN101808243A (zh) | 2010-08-18 |
CN101808243B true CN101808243B (zh) | 2012-04-18 |
Family
ID=42609830
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN 201010121444 Active CN101808243B (zh) | 2010-03-11 | 2010-03-11 | 一种基于快照的数据处理方法和设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN101808243B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103929609B (zh) * | 2014-04-22 | 2017-06-23 | 浙江宇视科技有限公司 | 一种录像回放方法和装置 |
CN104994135B (zh) * | 2015-05-25 | 2018-09-21 | 华为技术有限公司 | 存储系统中融合san及nas存储架构的方法及装置 |
CN108509592B (zh) * | 2018-03-30 | 2022-11-29 | 贵阳朗玛信息技术股份有限公司 | 基于Redis的数据存储方法、读取方法及装置 |
CN112347037A (zh) * | 2020-10-13 | 2021-02-09 | 北京天融信网络安全技术有限公司 | 存储卷的快照处理方法、装置、介质和电子设备 |
CN113660160B (zh) * | 2021-08-20 | 2023-04-28 | 烽火通信科技股份有限公司 | 一种ucmp负载分担的方法和装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1991778A (zh) * | 2005-12-29 | 2007-07-04 | 英业达股份有限公司 | 快照扩容系统及方法 |
US7549028B2 (en) * | 2005-06-29 | 2009-06-16 | Emc Corporation | Backup and restore operations using a single snapshot driven by a server job request |
CN101520743A (zh) * | 2009-04-17 | 2009-09-02 | 杭州华三通信技术有限公司 | 基于写时拷贝的数据存储方法、系统及设备 |
-
2010
- 2010-03-11 CN CN 201010121444 patent/CN101808243B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7549028B2 (en) * | 2005-06-29 | 2009-06-16 | Emc Corporation | Backup and restore operations using a single snapshot driven by a server job request |
CN1991778A (zh) * | 2005-12-29 | 2007-07-04 | 英业达股份有限公司 | 快照扩容系统及方法 |
CN101520743A (zh) * | 2009-04-17 | 2009-09-02 | 杭州华三通信技术有限公司 | 基于写时拷贝的数据存储方法、系统及设备 |
Also Published As
Publication number | Publication date |
---|---|
CN101808243A (zh) | 2010-08-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CA2910211C (en) | Object storage using multiple dimensions of object information | |
CN103140827B (zh) | 存储系统及其使用的方法 | |
CN111506251B (zh) | 数据处理方法、装置、smr存储系统及存储介质 | |
US8548948B2 (en) | Methods and apparatus for a fine grained file data storage system | |
CN101097577B (zh) | 文件管理装置和电子设备 | |
US20050262316A1 (en) | Backup acquisition method and disk array apparatus | |
US20070067364A1 (en) | Network-attachable, file-accessible storage drive | |
US9773059B2 (en) | Tape data management | |
CN101808243B (zh) | 一种基于快照的数据处理方法和设备 | |
CN103917962A (zh) | 读取存储在存储系统上的文件 | |
CN104424283A (zh) | 一种数据迁移的系统和数据迁移的方法 | |
CN106933747B (zh) | 基于多流的数据存储系统和数据存储方法 | |
CN104065906B (zh) | 数字录像设备的录像方法及装置 | |
CN105094695A (zh) | 一种存储方法和系统 | |
CN103929609A (zh) | 一种录像回放方法和装置 | |
CN101097760A (zh) | 文件拆分装置、文件拆分方法和文件拆分程序 | |
KR20120093061A (ko) | 광 디스크 저장 시스템에 저장된 미디어에의 액세스, 압축 및 추적 | |
CN102200986A (zh) | 存储装置和存储装置中的文件系统的生成方法 | |
CN101237547B (zh) | 用于数据和文件系统信息的记录设备和记录方法 | |
WO2009088007A1 (ja) | コンテンツ管理装置、コンテンツ管理システム、コンテンツ管理方法およびプログラム | |
KR20160015102A (ko) | 영상 기록 장치 및 일시적 네트워크 장애 발생시 영상 기록 방법 | |
CN109416617A (zh) | 异构存储系统之间的复制 | |
CN101582280B (zh) | 记录/再现装置和信息处理方法 | |
CN110134551A (zh) | 一种持续数据保护方法及装置 | |
KR102089710B1 (ko) | 연속 데이터 관리 시스템 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CP03 | Change of name, title or address | ||
CP03 | Change of name, title or address |
Address after: 310052 Binjiang District Changhe Road, Zhejiang, China, No. 466, No. Patentee after: Xinhua three Technology Co., Ltd. Address before: 310053 Hangzhou hi tech Industrial Development Zone, Zhejiang province science and Technology Industrial Park, No. 310 and No. six road, HUAWEI, Hangzhou production base Patentee before: Huasan Communication Technology Co., Ltd. |