CN102314322B - 一种基于raid阵列的数据处理方法和设备 - Google Patents

一种基于raid阵列的数据处理方法和设备 Download PDF

Info

Publication number
CN102314322B
CN102314322B CN201110183257.1A CN201110183257A CN102314322B CN 102314322 B CN102314322 B CN 102314322B CN 201110183257 A CN201110183257 A CN 201110183257A CN 102314322 B CN102314322 B CN 102314322B
Authority
CN
China
Prior art keywords
data
raid array
hotspare disk
memory device
hot spot
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201110183257.1A
Other languages
English (en)
Other versions
CN102314322A (zh
Inventor
余剑声
杜超华
周迪
王黎黎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
New H3C Information Technologies Co Ltd
Original Assignee
Hangzhou H3C Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou H3C Technologies Co Ltd filed Critical Hangzhou H3C Technologies Co Ltd
Priority to CN201110183257.1A priority Critical patent/CN102314322B/zh
Publication of CN102314322A publication Critical patent/CN102314322A/zh
Application granted granted Critical
Publication of CN102314322B publication Critical patent/CN102314322B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

本发明公开了一种基于RAID阵列的数据处理方法和设备,该方法包括:当存储设备确定数据为指定类型的数据时,所述存储设备将所述数据写入到热备盘中,并记录所述数据在所述热备盘中的位置信息;当DM服务器接收到来自VC的查看所述数据的请求时,所述DM服务器根据所述数据在所述热备盘中的位置信息从所述存储设备的热备盘中获得所述数据,并将所述数据发送给所述VC。本发明中,可提升RAID阵列的性能。

Description

一种基于RAID阵列的数据处理方法和设备
技术领域
本发明涉及通信技术领域,特别是涉及一种基于RAID阵列的数据处理方法和设备。
背景技术
随着视音频编解码技术和网络存储技术的发展,通过将EC(Encoder,编码器)的图像数据数字化,并在Internet网络上进行传输和存储,从而形成了视频监控技术。在视频监控技术中,为了实现数据的存储,RAID(RedundantArray of Independent Disks,独立磁盘冗余阵列)技术是关键组成部分,该RAID技术可为EC通道提供存储空间,而且由于RAID的高性能、高可靠性、可扩展性,使得大量的EC同时将数据存储在一个RAID阵列上成为可能,并且可以在需要时对存储在RAID阵列上的录像(即数据)进行读取(回放操作)。
现有视频监控系统的组网示意图如图1所示,该视频监控系统中至少包括EC、VM(Video Management,视频管理)服务器、VC(Video Client,视频客户端)、IP SAN(Storage Area Network,存储域网络)以及相应的软件管理系统及网络传输设备。
基于图1所示的视频监控系统,EC根据事先制定的计划或策略进行录像存储,在录像存储过程中,EC对当前的画面内容进行持续不断地编码,将编码数据持续不断地封装在iSCSI(internet Small Computer System Interface,基于internet的SCSI传输协议)报文中,并发送至IP SAN中进行存储。
进一步的,在IP SAN存储数据的过程中,可采用RAID5阵列的方式,共使用N+1块磁盘进行数据存储,由N块磁盘建立一个RAID5阵列,由剩下的一块磁盘作为热备盘;当RAID5阵列中的一块磁盘损坏时,可由热备盘进行顶替,从而保证阵列的可靠性。
现有技术中,EC在对数据编码完成后可生成I帧组(即数据),并将I帧组传输给IP SAN进行存储;之后,IP SAN在存储I帧组时需要将I帧组的时间戳写入到二级索引,将I帧组存储到RAID5阵列的数据区,并在二级索引中记录该I帧组存储到数据区的位置信息(即偏移量)。
如图2所示的视频数据格式示意图,MAIN INDEX为一级索引,SECONDINDEX为二级索引,在需要读取指定I帧组时,首先读取一级索引,通过一级索引获得需要读取的I帧组所在的256M的数据块;之后读取数据块中的二级索引,通过二级索引获得指定I帧组的位置。
如图3所示的二级索引的格式示意图,二级索引标识记录有二级索引偏移量,即每个二级索引记录有一个I帧组的时间戳和偏移位置。例如,二级索引1记录了I帧组1的时间戳和偏移位置,因此通过二级索引1,则可以查找到I帧组1所在的位置。
在实现本发明的过程中,发明人发现现有技术中至少存在以下问题:
现有的视频监控系统中,由于RAID阵列的性能有限,尤其是随机读写的性能较低,当有多路回放操作时,会对RAID阵列的性能造成影响,从而对EC的数据写入过程造成影响,降低RAID阵列的读写性能。
发明内容
本发明提供一种基于RAID阵列的数据处理方法和设备,以提高RAID阵列的读写性能。
为了达到上述目的,本发明提供一种基于独立磁盘冗余阵列RAID阵列的数据处理方法,应用于包括存储设备、数据管理DM服务器、编码器EC、视频客户端VC的监控系统中,所述存储设备由RAID阵列和至少一块热备盘构成,该方法包括以下步骤:
所述存储设备将来自所述EC的数据存储到所述RAID阵列后,当所述存储设备确定所述数据为指定类型的数据时,所述存储设备将所述数据写入到所述热备盘中,并记录所述数据在所述热备盘中的位置信息;
当所述DM服务器接收到来自所述VC的查看所述数据的请求时,所述DM服务器根据所述数据在所述热备盘中的位置信息从所述存储设备的热备盘中获得所述数据,并将所述数据发送给所述VC。
所述指定类型的数据包括告警数据,所述存储设备将所述数据写入到所述热备盘中,具体包括:
所述存储设备接收来自所述EC的告警通知,所述告警通知中携带告警数据在所述RAID阵列中的地址偏移量信息和告警数据长度信息;
所述存储设备根据所述地址偏移量信息和告警数据长度信息从所述RAID阵列中获得告警数据,并将所述告警数据写入到所述热备盘中。
所述指定类型的数据包括热点数据,所述热点数据为RAID阵列中指定时间内被访问次数超过预设阈值的数据,所述存储设备将所述数据写入到所述热备盘中,具体包括:
所述存储设备接收来自所述DM服务器的热点通知,所述热点通知中携带热点数据在所述RAID阵列中的地址偏移量信息和热点数据长度信息;
所述存储设备根据所述地址偏移量信息和热点数据长度信息从所述RAID阵列中获得热点数据,并将所述热点数据写入到所述热备盘中。
所述存储设备记录所述数据在所述热备盘中的位置信息,具体包括:
所述存储设备获取索引信息,所述索引信息中记录有所述数据在所述RAID阵列中的位置信息;并在所述索引信息中记录所述数据在所述热备盘中的位置信息。
所述方法还包括:当所述RAID阵列发生故障时,所述热备盘与RAID阵列进行数据重建;
当所述DM服务器接收到来自所述VC的查看所述数据的请求时,所述DM服务器根据所述数据在所述RAID阵列中的位置信息从所述存储设备的RAID阵列中获得所述数据,并将所述数据发送给所述VC。
所述方法还包括:当所述RAID阵列发生故障时,如果需要所述热备盘与RAID阵列进行数据重建,则将所述热备盘中存储的数据拷贝到另一热备盘中,并将所述热备盘与RAID阵列进行数据重建;
当所述DM服务器接收到来自所述VC的查看所述数据的请求时,所述DM服务器根据所述数据在所述另一热备盘中的位置信息从所述存储设备的另一热备盘中获得所述数据,并将所述数据发送给所述VC。
一种基于独立磁盘冗余阵列RAID阵列的数据处理方法,应用于包括存储设备、数据管理DM服务器、编码器EC、视频客户端VC的监控系统中,所述存储设备由RAID阵列和至少一块热备盘构成,该方法包括以下步骤:
所述存储设备将来自所述EC的数据存储到所述RAID阵列后,如果所述DM服务器获知所述数据在指定时间内被访问次数超过预设阈值,则所述DM服务器确定所述数据为热点数据;
所述DM服务器将所述热点数据写入到所述存储设备的热备盘中,并在所述存储设备上记录所述热点数据在所述热备盘中的位置信息;
当所述DM服务器接收到来自所述VC的查看所述热点数据的请求时,所述DM服务器根据所述热点数据在所述热备盘中的位置信息从所述存储设备的热备盘中获得所述热点数据,并将所述热点数据发送给所述VC。
所述DM服务器在所述存储设备上记录所述热点数据在所述热备盘中的位置信息,具体包括:
所述DM服务器获取索引信息,所述索引信息中记录有所述热点数据在所述RAID阵列中的位置信息;并在所述索引信息中记录所述热点数据在所述热备盘中的位置信息。
所述方法还包括:当所述RAID阵列发生故障时,所述热备盘与RAID阵列进行数据重建;当所述DM服务器接收到来自所述VC的查看所述数据的请求时,所述DM服务器根据所述数据在所述RAID阵列中的位置信息从所述存储设备的RAID阵列中获得所述数据,并将所述数据发送给所述VC;或者,当所述RAID阵列发生故障时,如果需要所述热备盘与RAID阵列进行数据重建,则将所述热备盘中存储的数据拷贝到另一热备盘中,并将所述热备盘与RAID阵列进行数据重建;当所述DM服务器接收到来自所述VC的查看所述数据的请求时,所述DM服务器根据所述数据在所述另一热备盘中的位置信息从所述存储设备的另一热备盘中获得所述数据,并将所述数据发送给所述VC。
一种存储设备,应用于包括所述存储设备、数据管理DM服务器、编码器EC、视频客户端VC的监控系统中,所述存储设备由RAID阵列和至少一块热备盘构成,该存储设备包括:
存储模块,用于将来自所述EC的数据存储到所述RAID阵列;
确定模块,用于确定所述数据为指定类型的数据;
处理模块,用于当确定所述数据为指定类型的数据时,将所述数据写入到所述热备盘中,并记录所述数据在所述热备盘中的位置信息。
所述指定类型的数据包括告警数据;所述处理模块,具体用于接收来自所述EC的告警通知,所述告警通知中携带告警数据在所述RAID阵列中的地址偏移量信息和告警数据长度信息;并根据所述地址偏移量信息和告警数据长度信息从所述RAID阵列中获得告警数据,并将所述告警数据写入到所述热备盘中。
所述指定类型的数据包括热点数据,所述热点数据为RAID阵列中指定时间内被访问次数超过预设阈值的数据;所述处理模块,具体用于接收来自所述DM服务器的热点通知,所述热点通知中携带热点数据在所述RAID阵列中的地址偏移量信息和热点数据长度信息;并根据所述地址偏移量信息和热点数据长度信息从所述RAID阵列中获得热点数据,并将所述热点数据写入到所述热备盘中。
所述处理模块,还用于获取索引信息,所述索引信息中记录有所述数据在所述RAID阵列中的位置信息;并在所述索引信息中记录所述数据在所述热备盘中的位置信息。
一种数据管理DM服务器,应用于包括存储设备、所述DM服务器、编码器EC、视频客户端VC的监控系统中,所述存储设备由RAID阵列和至少一块热备盘构成,该DM服务器包括:
确定模块,用于当所述存储设备将来自所述EC的数据存储到所述RAID阵列后,如果获知所述数据在指定时间内被访问次数超过预设阈值,则确定所述数据为热点数据;
处理模块,用于向所述存储设备发送携带热点数据在所述RAID阵列中的地址偏移量信息和热点数据长度信息的热点通知;或者,将所述热点数据写入到所述存储设备的热备盘中,并在所述存储设备上记录所述热点数据在所述热备盘中的位置信息;
发送模块,用于当接收到来自所述VC的查看所述热点数据的请求时,根据所述热点数据在所述热备盘中的位置信息从所述存储设备的热备盘中获得所述热点数据,并将所述热点数据发送给所述VC。
所述处理模块在所述存储设备上记录所述热点数据在所述热备盘中的位置信息时,具体用于获取索引信息,所述索引信息中记录有所述热点数据在所述RAID阵列中的位置信息;并在所述索引信息中记录所述热点数据在所述热备盘中的位置信息。
所述发送模块,还用于当所述RAID阵列发生故障,所述热备盘与RAID阵列进行数据重建时,当接收到来自所述VC的查看所述数据的请求,则根据所述数据在所述RAID阵列中的位置信息从所述存储设备的RAID阵列中获得所述数据,并将所述数据发送给所述VC;或者,
当所述RAID阵列发生故障,且需要所述热备盘与RAID阵列进行数据重建,并在将所述热备盘中存储的数据拷贝到另一热备盘中,将所述热备盘与RAID阵列进行数据重建后,当接收到来自所述VC的查看所述数据的请求,则根据所述数据在所述另一热备盘中的位置信息从所述存储设备的另一热备盘中获得所述数据,并将所述数据发送给所述VC。
一种编码器EC,应用于包括存储设备、数据管理DM服务器、所述EC、视频客户端VC的监控系统中,所述存储设备由RAID阵列和至少一块热备盘构成,该EC包括:
第一发送模块,用于向存储设备发送数据;
确定模块,用于确定所述数据为告警数据;
第二发送模块,用于当确定所述数据为告警数据时,向所述存储设备发送告警通知,所述告警通知中携带告警数据在所述RAID阵列中的地址偏移量信息和告警数据长度信息。
与现有技术相比,本发明至少具有以下优点:
通过将告警数据和热点数据存储到热备盘上,当VC需要查看告警数据或热点数据时,可从热备盘上获得待查看的告警数据或热点数据,从而有效的将回放对RAID阵列的随机读影响降到最低,提升RAID阵列的性能。
附图说明
图1是现有技术中视频监控系统的组网示意图;
图2是现有技术中视频数据格式示意图;
图3是现有技术中二级索引的格式示意图;
图4是本发明提供的一种基于RAID阵列的数据处理方法流程图;
图5是本发明中二级索引中加入Warning字段的示意图;
图6是本发明中二级索引中添加了地址偏移量信息的示意图;
图7是本发明中Data Out报文的格式示意图;
图8是本发明中针对热点数据的基于RAID阵列的数据处理方法流程图;
图9是本发明中对数据进行回放的流程图;
图10是本发明提出的一种存储设备的结构图;
图11是本发明提出的一种数据管理服务器的结构图;
图12是本发明提出的一种编码器的结构图。
具体实施方式
以图1为本发明的参考网络模型示意图,本发明提出一种基于RAID阵列的数据处理方法,该方法应用于至少包括存储设备(如IP SAN)、数据管理DM服务器、编码器EC和视频客户端VC的监控系统中,该存储设备由RAID阵列和至少一块热备盘构成,该RAID阵列可以为RAID5阵列,且RAID5阵列由多个数据盘构成。基于上述组网,如图4所示,该方法包括以下步骤:
步骤401,监控设备向存储设备发送数据。该数据可以为视频数据,且由于该数据用于播放录像,该数据还可称为录像数据。
在发送数据的过程中,EC对数据编码完成后可生成I帧组,并将I帧组传输给存储设备进行存储;因此,该发送的数据为I帧组。
步骤402,存储设备接收来自EC的数据(以I帧组的方式进行传输),并将来自EC的数据存储到RAID阵列。
具体的,当存储设备接收到来自EC的I帧组后,将该I帧组存储到RAID阵列,并将I帧组的时间戳写入到二级索引,以及在二级索引中记录该I帧组存储到RAID阵列的位置信息。
步骤403,存储设备将来自EC的数据存储到RAID阵列后,当存储设备确定数据为指定类型的数据时,存储设备将数据写入到热备盘中,并记录数据在热备盘中的位置信息。
本发明中,该指定类型的数据包括但不限于告警数据和热点数据,该热点数据为RAID阵列中指定时间(可根据实际经验进行选择)内被访问次数超过预设阈值(可根据实际经验进行选择)的数据。
情况一:指定类型的数据为告警数据。
在存储设备将数据写入到热备盘的过程中,存储设备可接收到来自EC的告警通知(存储设备可根据该告警通知获知相应的数据为告警数据,且该告警通知中携带告警数据在RAID阵列中的地址偏移量信息和告警数据长度信息);之后,存储设备根据地址偏移量信息和告警数据长度信息从RAID阵列中获得告警数据,并将告警数据写入到热备盘中。
在存储设备记录数据(即告警数据)在热备盘中的位置信息的过程中,存储设备获取索引信息(该索引信息中记录有数据在RAID阵列中的位置信息),并在索引信息中记录数据在热备盘中的位置信息。
本发明中,EC按照计划存储数据时,当检测到告警发生(即利用现有技术感知到告警)时,需要在I帧组的二级索引中加入一个标志字段(该标志字段用于表示相应的I帧组为告警数据,如标志字段可为Warning字段),如图5所示的二级索引中加入Warning字段的示意图。
进一步的,EC还需要在二级索引中添加地址偏移量信息,如图6所示的二级索引中添加了地址偏移量信息(即地址偏移量2)的示意图。在图6中,地址偏移量1用于记录I帧组(告警数据对应的I帧组)存储在RAID阵列中的位置信息,该地址偏移量1和时间戳的获得方式与现有技术相同,在此不再赘述;该地址偏移量2用于记录告警数据存储在热备盘中的位置信息,EC发送给存储设备时地址偏移量2的位置为空。
此外,EC还需要在存储过程中通过iSCSI报文通知存储设备上述I帧组中有告警数据,并通过iSCSI报文携带告警数据的地址偏移量信息和告警数据长度信息。例如,图7所示的Data Out报文的格式示意图,EC通过iSCSI的Data Out报文,添加W字段以通知存储设备有告警数据,L字段携带地址偏移量信息和告警数据长度信息。
之后,存储设备在接收到EC发出的告警通知(如Data Out报文,携带有告警数据在RAID阵列中的地址偏移量信息和告警数据长度信息)后,可根据地址偏移量信息和告警数据长度信息从RAID阵列中获得告警数据,并将热备盘中的空闲区块作为告警数据的镜像资源,使得EC在RAID阵列中存储告警数据的同时,将告警数据存储到热备盘中。
之后,存储设备将告警数据在热备盘中的位置信息写入到二级索引中,将备份的I帧组的地址偏移量放入二级索引中,如针对图6所示的二级索引中添加了地址偏移量信息的示意图,地址偏移量2用于记录告警数据存储在热备盘中的位置信息,因此,将告警数据存储到热备盘中之后,可将告警数据存储在热备盘中的位置信息写入到地址偏移量2。
情况二:指定类型的数据为热点数据。
在存储设备将数据写入到热备盘的过程中,存储设备可接收到来自DM服务器的热点通知(存储设备可根据该热点通知获知相应的数据为热点数据,且该热点通知中携带热点数据在RAID阵列中的地址偏移量信息和热点数据长度信息);之后,存储设备根据地址偏移量信息和热点数据长度信息从RAID阵列中获得热点数据,并将热点数据写入到热备盘中。
在存储设备记录数据(即热点数据)在热备盘中的位置信息的过程中,存储设备获取索引信息(该索引信息中记录有数据在RAID阵列中的位置信息),并在索引信息中记录数据在热备盘中的位置信息。
本发明中,对于没有存储在热备盘中的数据(以数据A为例),当DM服务器接收到来自VC的查看该数据A的请求时,DM服务器将根据该数据A在RAID阵列中的位置信息从存储设备的RAID阵列中获得该数据A,并将该数据A发送给VC。如果RAID阵列中的数据A的访问次数在指定时间内超过预设阈值,则DM服务器确定该数据A为热点数据,并获得该热点数据在RAID阵列中的地址偏移量信息和热点数据长度信息。
之后,DM服务器将热点数据在RAID阵列中的地址偏移量信息和热点数据长度信息通过热点通知(如iSCSI报文)发送给存储设备,由存储设备根据地址偏移量信息和热点数据长度信息从RAID阵列中获得热点数据,并将热备盘中的空闲区块作为热点数据的镜像资源,将热点数据存储到热备盘中。
需要注意的是,由于上述数据A在初始设置二级索引时为采用现有技术的索引方式(即针对图6的二级索引没有Warning字段和地址偏移量2),因此,在存储设备获得热点数据,并将热点数据写入到热备盘的过程中,需要在二级索引中加入一个标志字段(该标志字段用于表示相应的I帧组为热点数据,如标志字段可为Warning字段),并在二级索引中添加地址偏移量信息(如图6中的地址偏移量2),该地址偏移量信息用于记录热点数据存储在热备盘中的位置信息,相应处理与告警数据的处理类似,在此不再详加赘述。
本发明中,基于在热备盘中存储的数据(告警数据或热点数据),当VC需要查看告警数据或热点数据时,该方法还包括以下步骤:
步骤404,当DM服务器接收到来自VC的查看该数据(告警数据或热点数据)的请求时,DM服务器根据数据在热备盘中的位置信息从存储设备的热备盘中获得数据,并将数据发送给VC。
具体的,当告警数据或热点数据在热备盘中存储完成后,回放时可以使用热备盘中存储的数据进行回放;因此,在回放的过程中,DM服务器将根据一级索引找到二级索引所指示的内容,如果发现有Warning字段,则利用地址偏移量2从热备盘中读取数据,从而实现从热备盘中读数据,而不需要使用RAID阵列的资源,提高RAID阵列的性能。
本发明中,当RAID阵列发生故障时,则需要将热备盘与RAID阵列进行数据重建;之后,当DM服务器接收到来自VC的查看数据(热点数据或告警数据)的请求时,DM服务器根据该数据在RAID阵列中的位置信息从存储设备的RAID阵列中获得数据,并将数据发送给VC。
当RAID阵列发生故障时,如果需要将热备盘(热备盘1)与RAID阵列进行数据重建,且存在其他热备盘(热备盘2)时,则将热备盘1中存储的数据拷贝到另一热备盘2中,并将热备盘1与RAID阵列进行数据重建;当DM服务器接收到来自VC的查看数据(热点数据或告警数据)的请求时,DM服务器根据该数据在另一热备盘中的位置信息从存储设备的另一热备盘中获得该数据,并将该数据发送给VC。
具体的,当RAID阵列中有数据盘失效,则热备盘(热备盘1)将按照现有方式进行正常顶替,与RAID阵列中的数据盘进行重建,作为备份空间的功能消失;实际应用中,当有另一块热备盘(热备盘2)加入,则可以通过拷贝的方式将热备盘1中的数据复制到热备盘2;而由于重建过程时间比较长,在热备盘1参与重建的同时,可以将热备盘1上的数据连续的拷贝到热备盘2上,在此过程中,重建工作不需要暂停,而由于性能不存在瓶颈,所以也不会影响重建的性能。
针对热点数据,以图1为本发明的参考网络模型示意图,本发明还提出一种基于RAID阵列的数据处理方法,该方法应用于至少包括存储设备、数据管理DM服务器、编码器EC和视频客户端VC的监控系统中,该存储设备由RAID阵列和至少一块热备盘构成,该RAID阵列可以为RAID5阵列,且RAID5阵列由多个数据盘构成。如图8所示,该方法包括以下步骤:
步骤801,监控设备向存储设备发送数据。在发送数据的过程中,EC对数据编码完成后可生成I帧组,并将I帧组传输给存储设备进行存储;因此,该发送的数据为I帧组。
步骤802,存储设备接收来自EC的数据(以I帧组的方式进行传输),并将来自EC的数据存储到RAID阵列。当存储设备接收到来自EC的I帧组后,将该I帧组存储到RAID阵列,并将I帧组的时间戳写入到二级索引,以及在二级索引中记录该I帧组存储到RAID阵列的位置信息。
步骤803,存储设备将来自EC的数据存储到RAID阵列后,如果DM服务器获知数据在指定时间(可根据实际经验进行选择)内被访问次数超过预设阈值(可根据实际经验进行选择),则DM服务器确定数据为热点数据。
本发明中,对于没有存储在热备盘中的数据(以数据A为例),当DM服务器接收到来自VC的查看该数据A的请求时,DM服务器将根据该数据A在RAID阵列中的位置信息从存储设备的RAID阵列中获得该数据A,并将该数据A发送给VC。如果RAID阵列中的数据A的访问次数在指定时间内超过预设阈值,则DM服务器确定该数据A为热点数据。
步骤804,DM服务器将热点数据写入到存储设备的热备盘中,并在存储设备上记录热点数据在热备盘中的位置信息。
在DM服务器将热点数据发送给VC的过程中,DM服务器会缓存该热点数据,之后,DM服务器可直接将自身缓存的热点数据写入到存储设备的热备盘中。或者,DM服务器可获得该热点数据在RAID阵列中的地址偏移量信息和热点数据长度信息,根据该地址偏移量信息和热点数据长度信息从RAID阵列中获得热点数据,并将热备盘中的空闲区块作为热点数据的镜像资源,将热点数据存储到热备盘中。
需要注意的是,由于上述热点数据在初始设置二级索引时为采用现有技术的索引方式(即针对图6的二级索引没有Warning字段和地址偏移量2),因此,在存储设备获得热点数据,并将热点数据写入到热备盘的过程中,需要在二级索引中加入一个标志字段(该标志字段用于表示相应的I帧组为热点数据,如标志字段可为Warning字段),并在二级索引中添加地址偏移量信息(如图6中的地址偏移量2),该地址偏移量信息用于记录热点数据存储在热备盘中的位置信息,在此不再详加赘述。
此外,在DM服务器记录热点数据在热备盘中的位置信息的过程中,DM服务器获取索引信息(该索引信息中记录有热点数据在RAID阵列中的位置信息),并在索引信息中记录热点数据在热备盘中的位置信息。
本发明中,基于在热备盘中存储的热点数据,当VC需要查看热点数据时,该方法还包括以下步骤:
步骤805,当DM服务器接收到来自VC的查看该热点数据的请求时,DM服务器根据热点数据在热备盘中的位置信息从存储设备的热备盘中获得热点数据,并将热点数据发送给VC。
本发明中,当RAID阵列发生故障时,则需要将热备盘与RAID阵列进行数据重建;之后,当DM服务器接收到来自VC的查看数据(热点数据)的请求时,DM服务器根据该数据在RAID阵列中的位置信息从存储设备的RAID阵列中获得数据,并将数据发送给VC。
当RAID阵列发生故障时,如果需要将热备盘(热备盘1)与RAID阵列进行数据重建,且存在其他热备盘(热备盘2)时,则将热备盘1中存储的数据拷贝到另一热备盘2中,并将热备盘1与RAID阵列进行数据重建;当DM服务器接收到来自VC的查看数据(热点数据)的请求时,DM服务器根据该数据在另一热备盘中的位置信息从存储设备的另一热备盘中获得该数据,并将该数据发送给VC。
为了更加清楚的阐述本发明提供的技术方案,以下结合图9所示的对数据进行回放的流程图对本发明进行进一步的阐述。
步骤901,DM服务器接收来自VC的查看数据(以数据A为例)的请求。该请求中携带待查看数据A的时间戳信息。
步骤902,DM服务器根据该时间戳信息查询二级索引,并判断该二级索引下是否记录有Warning字段。如果是,执行步骤903,否则,执行步骤904。
以Warning字段表示相应的I帧组为告警数据或热点数据为例,如果有Warning字段,则说明在热备盘中存储有数据A,该数据A在热备盘中的位置为该二级索引的地址偏移量2,在RAID阵列中的位置为该二级索引的地址偏移量1;如果没有Warning字段,则说明在热备盘中没有存储数据A,该数据A在RAID阵列中的位置为该二级索引的地址偏移量1。
步骤903,DM服务器根据二级索引的地址偏移量2从存储设备的热备盘中获得数据A,并将数据A发送给VC。
步骤904,DM服务器判断该数据A是否为热点数据;如果是,执行步骤906,否则,执行步骤905。DM服务器可根据该数据A在指定时间内被访问次数是否超过预设阈值来判断数据A是否为热点数据。
步骤905,DM服务器根据二级索引的地址偏移量1从存储设备的RAID阵列中获得数据A,并将数据A发送给VC。
步骤906,DM服务器根据二级索引的地址偏移量1从存储设备的RAID阵列中获得数据A,并将数据A写入到存储设备的热备盘中,以及将数据A发送给VC。
步骤907,DM服务器在二级索引中添加Warning字段和地址偏移量2,该地址偏移量2用于记录数据A在热备盘中的位置信息。
基于与上述方法同样的发明构思,本发明还提出了一种存储设备,应用于包括所述存储设备、数据管理DM服务器、编码器EC、视频客户端VC的监控系统中,所述存储设备由RAID阵列和至少一块热备盘构成,如图10所示,该存储设备包括:
存储模块11,用于将来自所述EC的数据存储到所述RAID阵列;
确定模块12,用于确定所述数据为指定类型的数据;
处理模块13,用于当确定所述数据为指定类型的数据时,将所述数据写入到所述热备盘中,并记录所述数据在所述热备盘中的位置信息。
所述指定类型的数据包括告警数据;所述处理模块13,具体用于接收来自所述EC的告警通知,所述告警通知中携带告警数据在所述RAID阵列中的地址偏移量信息和告警数据长度信息;并根据所述地址偏移量信息和告警数据长度信息从所述RAID阵列中获得告警数据,并将所述告警数据写入到所述热备盘中。
所述指定类型的数据包括热点数据,所述热点数据为RAID阵列中指定时间内被访问次数超过预设阈值的数据;所述处理模块13,具体用于接收来自所述DM服务器的热点通知,所述热点通知中携带热点数据在所述RAID阵列中的地址偏移量信息和热点数据长度信息;并根据所述地址偏移量信息和热点数据长度信息从所述RAID阵列中获得热点数据,并将所述热点数据写入到所述热备盘中。
所述处理模块13,还用于获取索引信息,所述索引信息中记录有所述数据在所述RAID阵列中的位置信息;并在所述索引信息中记录所述数据在所述热备盘中的位置信息。
其中,本发明装置的各个模块可以集成于一体,也可以分离部署。上述模块可以合并为一个模块,也可以进一步拆分成多个子模块。
基于与上述方法同样的发明构思,本发明还提出了一种数据管理DM服务器,应用于包括存储设备、所述DM服务器、编码器EC、视频客户端VC的监控系统中,所述存储设备由RAID阵列和至少一块热备盘构成,如图11所示,该DM服务器包括:
确定模块21,用于当所述存储设备将来自所述EC的数据存储到所述RAID阵列后,如果获知所述数据在指定时间内被访问次数超过预设阈值,则确定所述数据为热点数据;
处理模块22,用于向所述存储设备发送携带热点数据在所述RAID阵列中的地址偏移量信息和热点数据长度信息的热点通知;或者,将所述热点数据写入到所述存储设备的热备盘中,并在所述存储设备上记录所述热点数据在所述热备盘中的位置信息;
发送模块23,用于当接收到来自所述VC的查看所述热点数据的请求时,根据所述热点数据在所述热备盘中的位置信息从所述存储设备的热备盘中获得所述热点数据,并将所述热点数据发送给所述VC。
所述处理模块22在所述存储设备上记录所述热点数据在所述热备盘中的位置信息时,具体用于获取索引信息,所述索引信息中记录有所述热点数据在所述RAID阵列中的位置信息;并在所述索引信息中记录所述热点数据在所述热备盘中的位置信息。
所述发送模块23,还用于当所述RAID阵列发生故障,所述热备盘与RAID阵列进行数据重建时,当接收到来自所述VC的查看所述数据的请求,则根据所述数据在所述RAID阵列中的位置信息从所述存储设备的RAID阵列中获得所述数据,并将所述数据发送给所述VC;或者,
当所述RAID阵列发生故障,且需要所述热备盘与RAID阵列进行数据重建,并在将所述热备盘中存储的数据拷贝到另一热备盘中,将所述热备盘与RAID阵列进行数据重建后,当接收到来自所述VC的查看所述数据的请求,则根据所述数据在所述另一热备盘中的位置信息从所述存储设备的另一热备盘中获得所述数据,并将所述数据发送给所述VC。
其中,本发明装置的各个模块可以集成于一体,也可以分离部署。上述模块可以合并为一个模块,也可以进一步拆分成多个子模块。
基于与上述方法同样的发明构思,本发明还提出了一种编码器EC,应用于包括存储设备、数据管理DM服务器、所述EC、视频客户端VC的监控系统中,所述存储设备由RAID阵列和至少一块热备盘构成,如图12所示,该EC包括:
第一发送模块31,用于向存储设备发送数据;
确定模块32,用于确定所述数据为告警数据;
第二发送模块33,用于当确定所述数据为告警数据时,向所述存储设备发送告警通知,所述告警通知中携带告警数据在所述RAID阵列中的地址偏移量信息和告警数据长度信息。
其中,本发明装置的各个模块可以集成于一体,也可以分离部署。上述模块可以合并为一个模块,也可以进一步拆分成多个子模块。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到本发明可以通过硬件实现,也可以借助软件加必要的通用硬件平台的方式来实现。基于这样的理解,本发明的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。
本领域技术人员可以理解附图只是一个优选实施例的示意图,附图中的模块或流程并不一定是实施本发明所必须的。
本领域技术人员可以理解实施例中的装置中的模块可以按照实施例描述进行分布于实施例的装置中,也可以进行相应变化位于不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块。
上述本发明序号仅仅为了描述,不代表实施例的优劣。
以上公开的仅为本发明的几个具体实施例,但是,本发明并非局限于此,任何本领域的技术人员能思之的变化都应落入本发明的保护范围。

Claims (13)

1.一种基于独立磁盘冗余阵列RAID阵列的数据处理方法,应用于包括存储设备、数据管理DM服务器、编码器EC、视频客户端VC的监控系统中,所述存储设备由RAID阵列和至少一块热备盘构成,其特征在于,该方法包括以下步骤:
所述存储设备将来自所述EC的数据存储到所述RAID阵列,并在索引信息中记录所述数据在所述RAID阵列中的位置信息后,当所述存储设备确定所述数据为指定类型的数据时,所述存储设备将所述数据写入到所述热备盘中,在所述索引信息中加入用于表示所述数据为指定类型的数据的标志字段,并在所述索引信息中记录所述数据在所述热备盘中的位置信息;
当所述DM服务器接收到来自所述VC的查看数据的请求时,所述DM服务器判断所述查看数据的请求所携带的时间戳信息所对应的索引信息中是否存在所述指定类型的数据的标志字段;
如果存在,所述DM服务器根据所述数据在所述热备盘中的位置信息从所述存储设备的热备盘中获得所述数据,并将所述数据发送给所述VC。
2.如权利要求1所述的方法,其特征在于,所述指定类型的数据包括告警数据,所述存储设备将所述数据写入到所述热备盘中,具体包括:
所述存储设备接收来自所述EC的告警通知,所述告警通知中携带告警数据在所述RAID阵列中的地址偏移量信息和告警数据长度信息;
所述存储设备根据所述地址偏移量信息和告警数据长度信息从所述RAID阵列中获得告警数据,并将所述告警数据写入到所述热备盘中。
3.如权利要求2所述的方法,其特征在于,所述EC,具体包括:
第一发送模块,用于向存储设备发送数据;
确定模块,用于确定所述数据为告警数据;
第二发送模块,用于当确定所述数据为告警数据时,向所述存储设备发送告警通知,所述告警通知中携带告警数据在所述RAID阵列中的地址偏移量信息和告警数据长度信息。
4.如权利要求1所述的方法,其特征在于,所述指定类型的数据包括热点数据,所述热点数据为RAID阵列中指定时间内被访问次数超过预设阈值的数据,所述存储设备将所述数据写入到所述热备盘中,具体包括:
所述存储设备接收来自所述DM服务器的热点通知,所述热点通知中携带热点数据在所述RAID阵列中的地址偏移量信息和热点数据长度信息;
所述存储设备根据所述地址偏移量信息和热点数据长度信息从所述RAID阵列中获得热点数据,并将所述热点数据写入到所述热备盘中。
5.如权利要求1-4任一项所述的方法,其特征在于,所述方法还包括:
当所述RAID阵列发生故障时,所述热备盘与RAID阵列进行数据重建;
当所述DM服务器接收到来自所述VC的查看所述数据的请求时,所述DM服务器根据所述数据在所述RAID阵列中的位置信息从所述存储设备的RAID阵列中获得所述数据,并将所述数据发送给所述VC。
6.如权利要求1-4任一项所述的方法,其特征在于,所述方法还包括:
当所述RAID阵列发生故障时,如果需要所述热备盘与RAID阵列进行数据重建,则将所述热备盘中存储的数据拷贝到另一热备盘中,并将所述热备盘与RAID阵列进行数据重建;
当所述DM服务器接收到来自所述VC的查看所述数据的请求时,所述DM服务器根据所述数据在所述另一热备盘中的位置信息从所述存储设备的另一热备盘中获得所述数据,并将所述数据发送给所述VC。
7.一种基于独立磁盘冗余阵列RAID阵列的数据处理方法,应用于包括存储设备、数据管理DM服务器、编码器EC、视频客户端VC的监控系统中,所述存储设备由RAID阵列和至少一块热备盘构成,其特征在于,该方法包括以下步骤:
所述存储设备将来自所述EC的数据存储到所述RAID阵列,并在索引信息中记录所述数据在所述RAID阵列中的位置信息后,如果所述DM服务器获知所述数据在指定时间内被访问次数超过预设阈值,则所述DM服务器确定所述数据为热点数据;
所述DM服务器将所述热点数据写入到所述存储设备的热备盘中,在所述索引信息中加入用于表示所述数据为热点数据的标志字段,并在所述索引信息中记录所述热点数据在所述热备盘中的位置信息;
当所述DM服务器接收到来自所述VC的查看所述热点数据的请求,并确定所述请求所携带的时间戳信息所对应的索引信息中存在所述热点数据的标志字段时,所述DM服务器根据所述热点数据在所述热备盘中的位置信息从所述存储设备的热备盘中获得所述热点数据,并将所述热点数据发送给所述VC。
8.如权利要求7所述的方法,其特征在于,所述方法还包括:
当所述RAID阵列发生故障时,所述热备盘与RAID阵列进行数据重建;当所述DM服务器接收到来自所述VC的查看所述数据的请求时,所述DM服务器根据所述数据在所述RAID阵列中的位置信息从所述存储设备的RAID阵列中获得所述数据,并将所述数据发送给所述VC;或者,
当所述RAID阵列发生故障时,如果需要所述热备盘与RAID阵列进行数据重建,则将所述热备盘中存储的数据拷贝到另一热备盘中,并将所述热备盘与RAID阵列进行数据重建;当所述DM服务器接收到来自所述VC的查看所述数据的请求时,所述DM服务器根据所述数据在所述另一热备盘中的位置信息从所述存储设备的另一热备盘中获得所述数据,并将所述数据发送给所述VC。
9.一种存储设备,应用于包括所述存储设备、数据管理DM服务器、编码器EC、视频客户端VC的监控系统中,所述存储设备由RAID阵列和至少一块热备盘构成,其特征在于,该存储设备包括:
存储模块,用于将来自所述EC的数据存储到所述RAID阵列;
确定模块,用于确定所述数据是否为指定类型的数据;
处理模块,用于接收来自所述EC或DM服务器的通知,所述通知中携带指定类型的数据在所述RAID阵列中的地址偏移量信息和数据长度信息,当确定所述数据为指定类型的数据时,根据所述指定类型的数据的地址偏移量信息和数据长度信息从所述RAID阵列中获得指定类型的数据,将所述数据写入到所述热备盘中,获取索引信息并在所述索引信息中记录所述数据在所述热备盘中的位置信息,所述索引信息包括用于表示所述数据为指定类型的数据的标志字段和所述数据在所述RAID阵列中的位置信息。
10.如权利要求9所述的存储设备,其特征在于,所述指定类型的数据包括告警数据;
所述处理模块,具体用于接收来自所述EC的告警通知,所述告警通知中携带告警数据在所述RAID阵列中的地址偏移量信息和告警数据长度信息;并根据所述地址偏移量信息和告警数据长度信息从所述RAID阵列中获得告警数据,并将所述告警数据写入到所述热备盘中。
11.如权利要求9所述的存储设备,其特征在于,所述指定类型的数据包括热点数据,所述热点数据为RAID阵列中指定时间内被访问次数超过预设阈值的数据;
所述处理模块,具体用于接收来自所述DM服务器的热点通知,所述热点通知中携带热点数据在所述RAID阵列中的地址偏移量信息和热点数据长度信息;并根据所述地址偏移量信息和热点数据长度信息从所述RAID阵列中获得热点数据,并将所述热点数据写入到所述热备盘中。
12.一种数据管理DM服务器,应用于包括存储设备、所述DM服务器、编码器EC、视频客户端VC的监控系统中,所述存储设备由RAID阵列和至少一块热备盘构成,其特征在于,该DM服务器包括:
确定模块,用于当所述存储设备将来自所述EC的数据存储到所述RAID阵列,并在索引信息中记录所述数据在所述RAID阵列中的位置信息后,如果获知所述数据在指定时间内被访问次数超过预设阈值,则确定所述数据为热点数据;
处理模块,用于获取所述索引信息,所述索引信息包括用于表示所述数据为热点数据的标志字段,向所述存储设备发送携带热点数据在所述RAID阵列中的地址偏移量信息和热点数据长度信息的热点通知,将所述热点数据写入到所述存储设备的热备盘中并在所述索引信息上记录所述热点数据在所述热备盘中的位置信息;
发送模块,用于当接收到来自所述VC的查看所述热点数据的请求,并确定所述请求所携带的时间戳信息所对应的索引信息中存在所述热点数据的标志字段时,根据所述热点数据在所述热备盘中的位置信息从所述存储设备的热备盘中获得所述热点数据,并将所述热点数据发送给所述VC。
13.如权利要求12所述的DM服务器,其特征在于,
所述发送模块,还用于当所述RAID阵列发生故障,所述热备盘与RAID阵列进行数据重建时,当接收到来自所述VC的查看所述数据的请求,则根据所述数据在所述RAID阵列中的位置信息从所述存储设备的RAID阵列中获得所述数据,并将所述数据发送给所述VC;或者,
当所述RAID阵列发生故障,且需要所述热备盘与RAID阵列进行数据重建,并在将所述热备盘中存储的数据拷贝到另一热备盘中,将所述热备盘与RAID阵列进行数据重建后,当接收到来自所述VC的查看所述数据的请求,则根据所述数据在所述另一热备盘中的位置信息从所述存储设备的另一热备盘中获得所述数据,并将所述数据发送给所述VC。
CN201110183257.1A 2011-07-01 2011-07-01 一种基于raid阵列的数据处理方法和设备 Active CN102314322B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201110183257.1A CN102314322B (zh) 2011-07-01 2011-07-01 一种基于raid阵列的数据处理方法和设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201110183257.1A CN102314322B (zh) 2011-07-01 2011-07-01 一种基于raid阵列的数据处理方法和设备

Publications (2)

Publication Number Publication Date
CN102314322A CN102314322A (zh) 2012-01-11
CN102314322B true CN102314322B (zh) 2015-04-15

Family

ID=45427528

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201110183257.1A Active CN102314322B (zh) 2011-07-01 2011-07-01 一种基于raid阵列的数据处理方法和设备

Country Status (1)

Country Link
CN (1) CN102314322B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102664757B (zh) * 2012-04-25 2015-05-06 浙江宇视科技有限公司 一种存储设备的级联方法及装置
CN103929609B (zh) * 2014-04-22 2017-06-23 浙江宇视科技有限公司 一种录像回放方法和装置
CN105553722B (zh) * 2015-12-16 2019-01-08 深圳市迪菲特科技股份有限公司 一种基于时间戳的数据交换方法、装置及系统
CN108182126B (zh) * 2018-01-02 2020-11-20 联想(北京)有限公司 一种硬盘处理方法及电子设备
CN110795026B (zh) * 2018-08-03 2021-04-27 杭州海康威视系统技术有限公司 热点数据的识别方法、装置、设备及存储介质
CN116149576B (zh) * 2023-04-20 2023-07-25 北京大学 面向服务器无感知计算的磁盘冗余阵列重建方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1862500A (zh) * 2005-05-09 2006-11-15 国际商业机器公司 用于数据存储的系统和方法
CN101403959A (zh) * 2007-10-05 2009-04-08 普罗斯特系统公司 使用可移动盘存储系统的存档系统的实施方法
CN101673192A (zh) * 2009-10-26 2010-03-17 北京世纪互联宽带数据中心有限公司 时序化的数据处理方法、装置及系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1862500A (zh) * 2005-05-09 2006-11-15 国际商业机器公司 用于数据存储的系统和方法
CN101403959A (zh) * 2007-10-05 2009-04-08 普罗斯特系统公司 使用可移动盘存储系统的存档系统的实施方法
CN101673192A (zh) * 2009-10-26 2010-03-17 北京世纪互联宽带数据中心有限公司 时序化的数据处理方法、装置及系统

Also Published As

Publication number Publication date
CN102314322A (zh) 2012-01-11

Similar Documents

Publication Publication Date Title
CN102314322B (zh) 一种基于raid阵列的数据处理方法和设备
US10725692B2 (en) Data storage method and apparatus
US10725884B2 (en) Object storage system for an unreliable storage medium
CN102291256B (zh) 一种监控数据的查询方法和设备
US20150370637A1 (en) Failure resilient distributed replicated data storage system
CN102508733B (zh) 一种基于磁盘阵列的数据处理方法及磁盘阵列管理器
CA2635334A1 (en) Method and system for network storage device failure protection and recovery
US8032784B2 (en) Duplication combination management program, duplication combination management apparatus, and duplication combination management method
CN103929609B (zh) 一种录像回放方法和装置
US20070220206A1 (en) RAID Overlapping
CN105824846B (zh) 数据迁移方法及装置
US10585600B2 (en) Data access method and apparatus
CN1801071A (zh) 信息处理系统、一次存储装置和计算机可读记录介质
CN110750213A (zh) 一种硬盘管理方法及装置
CN102298547A (zh) 一种数据备份方法及其装置
CN109726036B (zh) 一种存储系统中的数据重构方法和装置
US20140244672A1 (en) Asymmetric distributed data storage system
CN103136075A (zh) 磁盘系统、数据保存装置以及磁盘设备
WO2023226380A1 (zh) 一种磁盘处理方法、系统及电子设备
CN107340971A (zh) 一种数据存储与恢复架构与方法
CN113051428B (zh) 一种摄像机前端存储备份的方法及装置
CN106527983B (zh) 一种数据存储方法以及磁盘阵列
CN102325171B (zh) 一种监控系统中数据的存储方法及其系统
CN104572374A (zh) 存储的处理方法、装置和存储设备
WO2020034695A1 (zh) 数据存储方法、数据恢复方法、装置、设备及存储介质

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CP03 Change of name, title or address

Address after: 310052 Binjiang District Changhe Road, Zhejiang, China, No. 466, No.

Patentee after: NEW H3C TECHNOLOGIES Co.,Ltd.

Address before: 310053 Hangzhou hi tech Industrial Development Zone, Zhejiang province science and Technology Industrial Park, No. 310 and No. six road, HUAWEI, Hangzhou production base

Patentee before: HANGZHOU H3C TECHNOLOGIES Co.,Ltd.

CP03 Change of name, title or address
TR01 Transfer of patent right

Effective date of registration: 20230616

Address after: 310052 11th Floor, 466 Changhe Road, Binjiang District, Hangzhou City, Zhejiang Province

Patentee after: H3C INFORMATION TECHNOLOGY Co.,Ltd.

Address before: 310052 Changhe Road, Binjiang District, Hangzhou, Zhejiang Province, No. 466

Patentee before: NEW H3C TECHNOLOGIES Co.,Ltd.

TR01 Transfer of patent right