CN105989048A - 一种数据记录处理方法、设备及系统 - Google Patents
一种数据记录处理方法、设备及系统 Download PDFInfo
- Publication number
- CN105989048A CN105989048A CN201510060955.0A CN201510060955A CN105989048A CN 105989048 A CN105989048 A CN 105989048A CN 201510060955 A CN201510060955 A CN 201510060955A CN 105989048 A CN105989048 A CN 105989048A
- Authority
- CN
- China
- Prior art keywords
- data
- data record
- record
- time
- request
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Abstract
本发明公开了一种数据记录处理方法、设备及系统,数据存储服务器可根据接收到的中心管理服务器转发的来自客户端的数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间,从本地存储的文件系统元数据中,选取对应的数据流标识与所述数据记录查询请求中携带的数据流标识相一致、且对应的时间段位于所述查询开始时间以及所述查询结束时间之间的数据块,并生成对应的多个数据记录,再将所述多个数据记录返回给所述中心管理服务器,从而解决了目前存在的数据存储服务器中存储的数据与数据库中存储的数据记录同步异常以及数据库中存储的数据记录无法动态转换导致无法调用或回放相应数据的问题,提高了数据回放的灵活性以及可靠性。
Description
技术领域
本发明涉及数据处理技术领域,尤其涉及一种数据记录处理方法、设备及系统。
背景技术
目前,用于实现数据记录存储和数据回放的系统的结构示意图可如图1所示,主要可包括数据存储服务器、中心管理服务器、数据库以及客户端等。具体地,以录像数据记录的存储和录像数据的回放为例,图1所示系统的工作流程可如下所述:
数据存储服务器将录像数据不断保存到本地磁盘上,当形成一个录像文件时,数据存储服务器即向中心管理服务器上报一条录像记录,之后,中心管理服务器将接收到的录像记录存储到数据库中,从而完成相应录像记录的存储。之后,若客户端向中心管理服务器发起录像记录查询请求,则中心管理服务器可根据该录像记录查询请求,从数据库中查询相关的录像记录并将查询到的录像记录返回给该客户端,以使得该客户端可根据这些录像记录进行录像回放。
由上述工作流程可知,图1所示系统存在以下几个问题:
问题一、在数据存储服务器向中心管理服务器上报录像记录时,若出现网络抖动,则会导致录像记录上报失败,这样,客户端在向中心管理服务器查询录像记录时就查询不到相应时间段的录像记录,导致客户端用户会认为录像数据丢失,而实际上录像数据已存储在磁盘上。
问题二、当数据存储服务器的部分磁盘出现故障时,客户端在向中心管理服务器发起录像记录查询请求时,依然能查询到数据库中的所有录像记录,而实际上磁盘中的部分录像数据已损坏,当用户点击回放的录像记录所对应的录像数据落在故障磁盘上时,会出现录像回放失败的错误,此时用户则会认为系统工作异常,造成用户体验较差。
问题三、当数据库发生故障时,若客户端向中心管理服务器发起录像记录查询请求,则中心管理服务器无法从数据库中查询到录像记录,即客户端将查询不到录像记录,当然也无法回放磁盘上的录像数据,而实际上录像数据并未丢失。
问题四,由于录像记录等数据记录是以固定形式存储在对应数据库中的,因而还会存在数据库中所存储的数据记录无法动态转换的问题。
也就是说,在现有的用于实现数据记录存储和数据回放的系统中,存在数据存储服务器中存储的数据与数据库中存储的数据记录同步异常以及数据库中存储的数据记录无法动态转换的问题,导致存在无法调用或回放相应数据的风险。
发明内容
本发明实施例提供了一种数据记录处理方法、设备及系统,用以解决现有的用于实现数据记录存储和数据回放的系统中,存在数据存储服务器中存储的数据与数据库中存储的数据记录同步异常以及数据库中存储的数据记录无法动态转换的问题。
本发明实施例提供了一种数据记录处理方法,包括:
数据存储服务器接收中心管理服务器转发的来自客户端的数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间;
根据所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间,从本地存储的文件系统元数据中,选取对应的数据流标识与所述数据记录查询请求中携带的数据流标识相一致、且对应的时间段位于所述查询开始时间以及所述查询结束时间之间的数据块;
将选取的数据块按照循环回收时间戳进行排序,并根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值的数据块生成对应的一数据记录,以及,根据排序后的数据块中的每一个与相邻数据块之间的时间间隔均大于预设阈值的数据块生成对应的一数据记录,得到多个数据记录;
将所述多个数据记录返回给所述中心管理服务器。
进一步地,所述数据记录查询请求中还携带有数据记录切分时长;则在得到多个数据记录之后,且在将所述多个数据记录返回给所述中心管理服务器之前,所述方法还包括:
针对任一数据记录,若确定所述数据记录的时长超过所述数据记录切分时长,则从所述数据记录对应的起始时间点开始,按照所述数据记录切分时长将所述数据记录切分为多个对应的时长不超过所述数据记录切分时长的数据记录。
进一步地,根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值的数据块生成对应的一数据记录,包括:
根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值、且相互之间无时间重叠的数据块生成对应的一数据记录。
优选地,所述根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值的数据块生成对应的一数据记录,包括:
根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值、且数据类型相同的数据块生成对应的一数据记录。
优选地,所述文件系统元数据为基于CQFS(Circular Queue File System,循环队列文件系统)存储结构的元数据。
进一步地,本发明实施例还提供了另一种数据记录处理方法,包括:
中心管理服务器接收客户端发送的数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间;
将接收到的所述数据记录查询请求转发至数据存储服务器;
接收所述数据存储服务器返回的根据所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间所得到的多个数据记录;
将接收到的所述多个数据记录转发至所述客户端。
进一步地,所述数据记录查询请求中还携带有数据记录切分时长;
则接收的多个数据记录为所述数据存储服务器根据所述数据记录查询请求中携带的数据流标识、查询开始时间、查询结束时间以及数据记录切分时长所得到的。
进一步地,本发明实施例还提供了另一种数据记录处理方法,包括:
客户端向中心管理服务器发送数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间;
接收所述中心管理服务器返回的多个数据记录,并根据所述多个数据记录进行数据回放;其中,所述多个数据记录是数据存储服务器根据所述中心管理服务器转发的所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间所得到的。
进一步地,所述数据记录查询请求中还携带有数据记录切分时长;
则接收的多个数据记录为所述中心管理服务器转发的来自所述数据存储服务器的根据所述数据记录查询请求中携带的数据流标识、查询开始时间、查询结束时间以及数据记录切分时长所得到的。
进一步地,本发明实施例还提供了一种数据存储服务器,包括:
接收单元,用于接收中心管理服务器转发的来自客户端的数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间;
处理单元,用于根据所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间,从本地存储的文件系统元数据中,选取对应的数据流标识与所述数据记录查询请求中携带的数据流标识相一致、且对应的时间段位于所述查询开始时间以及所述查询结束时间之间的数据块,以及,将选取的数据块按照循环回收时间戳进行排序,并根据选取的数据块中的每多个相互之间的时间间隔不大于预设阈值的数据块生成对应的一数据记录,以及,根据排序后的数据块中的每一个与相邻各数据块之间的时间间隔均大于预设阈值的数据块生成对应的一数据记录,得到多个数据记录;
发送单元,用于将所述多个数据记录返回给所述中心管理服务器。
进一步地,所述数据记录查询请求中还携带有数据记录切分时长;
则所述处理单元,还用于在得到多个数据记录之后,且在所述发送单元将所述多个数据记录返回给所述中心管理服务器之前,针对任一数据记录,若确定所述数据记录的时长超过所述数据记录切分时长,则从所述数据记录对应的起始时间点开始,按照所述数据记录切分时长将所述数据记录切分为多个对应的时长不超过所述数据记录切分时长的数据记录。
进一步地,所述处理单元,具体用于根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值、且相互之间无时间重叠的数据块生成对应的一数据记录。
优选地,所述处理单元,具体用于根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值、且数据类型相同的数据块生成对应的一数据记录。
优选地,所述文件系统元数据为基于CQFS存储结构的元数据。
进一步地,本发明实施例还提供了一种中心管理服务器,包括:
接收单元,用于接收客户端发送的数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间;
发送单元,用于将接收到的所述数据记录查询请求转发至数据存储服务器;
所述接收单元,还用于接收所述数据存储服务器返回的根据所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间所得到的多个数据记录;
所述发送单元,还用于将接收到的所述多个数据记录转发至所述客户端。
进一步地,所述数据记录查询请求中还携带有数据记录切分时长;
则接收的多个数据记录为所述数据存储服务器根据所述数据记录查询请求中携带的数据流标识、查询开始时间、查询结束时间以及数据记录切分时长所得到的。
进一步地,本发明实施例还提供了一种客户端,包括:
发送单元,用于向中心管理服务器发送数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间;
接收单元,用于接收所述中心管理服务器返回的多个数据记录,其中,所述多个数据记录是数据存储服务器根据所述中心管理服务器转发的所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间所得到的;
处理单元,用于根据所述多个数据记录进行数据回放。
进一步地,所述数据记录查询请求中还携带有数据记录切分时长;
则接收的多个数据记录为所述数据存储服务器根据所述数据记录查询请求中携带的数据流标识、查询开始时间、查询结束时间以及数据记录切分时长所得到的。
进一步地,本发明实施例还提供了一种数据记录处理系统,包括:
客户端,用于向中心管理服务器发送数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间;以及,接收所述中心管理服务器返回的多个数据记录,并根据所述多个数据记录进行数据回放;
中心管理服务器,用于接收客户端发送的数据记录查询请求,并将接收到的所述数据记录查询请求转发至数据存储服务器,以及,接收所述数据存储服务器返回的多个数据记录,并将接收到的所述多个数据记录转发至所述客户端;
数据存储服务器,用于接收中心管理服务器转发的来自客户端的数据记录查询请求,并根据所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间,从本地存储的文件系统元数据中,选取对应的数据流标识与所述数据记录查询请求中携带的数据流标识相一致、且对应的时间段位于所述查询开始时间以及所述查询结束时间之间的数据块,以及,将选取的数据块按照循环回收时间戳进行排序,并根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值的数据块生成对应的一数据记录,以及,根据排序后的数据块中的每一个与相邻数据块之间的时间间隔均大于预设阈值的数据块生成对应的一数据记录,得到多个数据记录,并将所述多个数据记录返回给所述中心管理服务器。
本发明有益效果如下:
本发明实施例提供了一种数据记录处理方法、设备及系统,数据存储服务器能够根据接收到的数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间,以及本地存储的文件系统元数据,动态地生成数据记录,从而解决了目前存在的数据存储服务器中存储的数据与数据库中存储的数据记录同步异常以及数据库中存储的数据记录无法动态转换导致无法调用或回放相应数据的问题,提高了数据回放的灵活性以及可靠性。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简要介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1所示为现有技术中用于实现数据记录存储和数据回放的系统的结构示意图;
图2所示为本发明实施例一中所述的一种数据记录处理方法的流程示意图;
图3所示为本发明实施例二中所述的一种数据记录处理方法的流程示意图;
图4所示为本发明实施例三中所述的一种数据记录处理方法的流程示意图;
图5所示为本发明实施例四中所述的一种数据记录处理方法的交互流程示意图;
图6所示为本发明实施例五中所述的一种数据存储服务器的结构示意图;
图7所示为本发明实施例五中所述的一种中心管理服务器的结构示意图;
图8所示为本发明实施例五中所述的一种客户端的结构示意图;
图9所示为本发明实施例五中所述的一种数据记录处理系统的结构示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作进一步地详细描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
实施例一:
本发明实施例一提供了一种数据记录处理方法,如图2所示,其为本发明实施例一所述数据记录处理方法的流程示意图,所述方法可包括以下步骤:
步骤201:数据存储服务器接收中心管理服务器转发的来自客户端的数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间。
需要说明的是,数据存储服务器在接收数据记录查询请求之前,还可包括如下步骤:获取并存储相应的数据,如录像数据、音频数据等。
具体地,数据存储服务器可基于CQFS存储结构存储相应数据,得到相应的基于CQFS存储结构的文件系统元数据,本发明对此不作赘述。
需要说明的是,基于CQFS存储结构的文件系统元数据可看作是由BlockInfo(即数据块)组成的一个数组,其中,各BlockInfo(即数据块)的结构可如表1所示。
表1:各BlockInfo的结构
其中,所述循环回收时间戳为文件系统回收各数据块时、用于标记各数据块回收先后顺序的时间戳,可选地,所述循环回收时间戳可为一自然数。
另外,需要说明的是,所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间通常是所述客户端对应的客户端用户根据实际查询情况输入的查询参数,本发明对此不作赘述。
步骤202:根据所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间,从本地存储的文件系统元数据中,选取对应的数据流标识与所述数据记录查询请求中携带的数据流标识相一致、且对应的时间段位于所述查询开始时间以及所述查询结束时间之间的数据块。
需要说明的是,对应的时间段位于所述查询开始时间以及所述查询结束时间之间的数据块通常是指,对应的起始时间大于或等于所述查询开始时间、且对应的终止时间小于或等于所述查询结束时间的数据块,本发明实施例对此不作赘述。
步骤203:将选取的数据块按照循环回收时间戳进行排序,并根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值的数据块生成对应的一数据记录,以及,根据排序后的数据块中的每一个与相邻数据块之间的时间间隔均大于预设阈值的数据块生成对应的一数据记录,得到多个数据记录。
具体地,假设所述数据记录查询请求中携带的数据流标识为1、查询开始时间为10:00:00、查询结束时间为12:04:19,且,假设将选取的数据块按照循环回收时间戳排序后所得到的排序后的数据块可如下表2所示:
表2:排序后的BlockInfos
则若所述预设阈值为10s,则按照步骤203所述的数据记录生成方式可将Block ID为1、2、3、4以及5的数据块生成一个数据记录,将Block ID为6的数据块生成一个数据记录,得到表3所示的数据记录:
表3:生成的数据记录
Begin Ts(开始时间) | End TS(结束时间) | Record Type(记录类型) |
10:00:00 | 11:08:46 | 6 |
12:03:15 | 12:03:31 | 6 |
需要说明的是,步骤203中所涉及到的预设阈值可根据实际情况进行设定,如可设置为1s、5s、10s、1min等,本发明实施例对此不作任何限定。
另外,需要说明的是,数据块相互之间的时间间隔不大于预设阈值指的是前一个数据块的结束时间与后一个数据块的开始时间之间的时间间隔不大于预设阈值,比如,不大于10s等,本发明实施例对此不作赘述。
步骤204:将所述多个数据记录返回给所述中心管理服务器。
也就是说,本发明实施例所述技术方案,数据存储服务器能够根据接收到的数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间,以及本地存储的文件系统元数据,动态地生成数据记录,从而解决了目前存在的数据存储服务器中存储的数据与数据库中存储的数据记录同步异常以及数据库中存储的数据记录无法动态转换导致无法调用或回放相应数据的问题,提高了数据回放的灵活性以及可靠性。
进一步地,为了进一步提高数据记录生成的灵活性以及动态性,所述数据记录查询请求中还可携带有用于明确数据记录切分粒度的数据记录切分时长(即数据记录最大时长,可表示为durationPerClip),则在步骤203得到多个数据记录之后,且在步骤204将所述多个数据记录返回给所述中心管理服务器之前,所述方法还可包括:
针对任一数据记录,若确定所述数据记录的时长超过所述数据记录切分时长,则从所述数据记录对应的起始时间点开始,按照所述数据记录切分时长将所述数据记录切分为多个对应的时长不超过所述数据记录切分时长的数据记录。
具体地,若某一数据记录的时长超过了所述数据记录切分时长,则可按照以下方式切分该数据记录:
从所述数据记录对应的起始时间点开始,将该数据记录与所述数据记录切分时长进行时间对齐,以从该数据记录中切分出一个所占用的时长与所述数据记录切分时长相等、且对应的起始时间点与该数据记录对应的起始时间点相同的子数据记录,需要说明的是,切分后所得到的前一个子数据记录的结束时间与相邻的后一个子数据记录的开始时间相同,均等于相应的切分时间点。
之后,若确定该数据记录剩余的记录部分仍大于所述数据记录切分时长,则可仍按照上述方式,从该数据记录剩余的记录部分的起始时间点开始,将该数据记录剩余的记录部分与所述数据记录切分时长进行时间对齐,以再次切分出一个所占用的时长与所述数据记录切分时长相等、且对应的起始时间点与该数据记录剩余的记录部分对应的起始时间点相同的子数据记录;依次循环,直至将该数据记录切分为多个对应的时长不超过所述数据记录切分时长的数据记录。
例如,若所述数据记录查询请求中携带的数据记录切分时长为“1800s,即30min”,某一数据记录对应的时间段为“10:00:00-11:08:46”,则可将该数据记录切分为“10:00:00-10:30:00”、“10:30:00-11:00:00”以及“11:00:00-11:08:46”三个子数据记录,本发明实施例对此不作赘述。
也就是说,假设将选取的数据块按照循环回收时间戳排序后所得到的排序后的数据块如表2所示、预设阈值为10s,则根据表2所示的数据块可生成如下表4所示的数据记录(由表4可知,数据记录是按照半个小时的时间对齐的):
表4:生成的数据记录
Begin Ts(开始时间) | End TS(结束时间) | Record Type(记录类型) |
10:00:00 | 10:30:00 | 6 |
10:30:00 | 11:00:00 | 6 |
11:00:00 | 11:08:46 | 6 |
12:03:15 | 12:03:31 | 6 |
也就是说,在本发明所述技术方案中,用户可以随时改变数据记录切分时长,以使得数据存储服务器中的所有新老数据对应的存储记录均可平滑、动态地转换为新时长的存储记录。如,若想生成最大时长为1小时的数据记录,则用户只需使用客户端将输入的数据记录切分时长修改为1小时即可,相应地,数据存储服务器生成的数据记录即是按照1小时的时间对齐的。
另外需要说明的是,用户使用相同的查询参数,如相同的数据流标识、查询开始时间、查询结束时间以及数据记录切分时长等所查询出的数据记录为相同的数据记录,即本发明所述技术方案能够保证数据记录稳定输出,使得多次数据记录的动态生成结果前后保持一致。
再有需要说明的是,由于生成的各数据记录可与人类自然时间对齐,因而还可进一步达到提高用户观感体验的效果。
进一步地,步骤203中所述的根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值的数据块生成对应的一数据记录,可具体实施为:
根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值、且相互之间无时间重叠的数据块生成对应的一数据记录。
也就是说,所生成的同一条数据记录所对应的两个BlockInfo之间通常没有时间上的回退或重叠。
例如,若有四个数据块,且四个数据块对应的时间段分别为“10:00:00-10:20:46”、“10:20:46-10:31:02”、“10:25:01-10:40:02”和“10:40:02-10:50:02”,若按照一个小时的数据记录切分时长,则四个数据块应生成一个数据记录,但因第二个数据块与第三个数据块之间存在时间重叠,因此,上述四个数据块对应生成的数据记录可如表5所示:
表5:生成的数据记录
Begin Ts(开始时间) | End TS(结束时间) | Record Type(记录类型) |
10:00:00 | 10:31:02 | 6 |
10:25:01 | 10:50:02 | 6 |
进一步地,步骤203中所述的根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值的数据块生成对应的一数据记录,可具体实施为:
根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值、且数据类型相同的数据块生成对应的一数据记录。
也就是说,针对任一数据记录,所述数据记录所对应的各数据块的数据类型相同,或者可以说,若存在数据类型不同且相互之间的时间间隔不大于预设阈值的两个数据块,则可按照该两个数据块的数据类型跳变时间点设置前后两条数据记录的结束时间或开始时间,即可分别根据该两个数据块生成不同的两个数据记录。
例如,假设将选取的数据块按照循环回收时间戳排序后所得到的排序后的数据块可如表6所示:
表6:排序后的数据块
则若预设阈值为10s,数据切分时长为1800s,则根据表6所示的数据块可生成如下表7所示的数据记录:
表7:生成的数据记录
Begin Ts(开始时间) | End TS(结束时间) | Record Type(记录类型) |
10:00:00 | 10:30:00 | 6 |
10:30:00 | 11:00:00 | 6 |
11:00:00 | 11:08:46 | 6 |
12:03:15 | 12:03:47 | 6 |
12:03:47 | 12:04:19 | 7 |
也就是说,由于Block ID为8、9的两个数据块为数据类型不同的两个数据块,因而,即使该两个数据块为相互之间的时间间隔不大于预设阈值的两个数据块,也无法根据该二者生成同一条数据记录。
本发明实施例一提供了一种数据记录处理方法,数据存储服务器能够根据接收到的数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间,以及本地存储的文件系统元数据,动态地生成数据记录,从而解决了目前存在的数据存储服务器中存储的数据与数据库中存储的数据记录同步异常以及数据库中存储的数据记录无法动态转换导致无法调用或回放相应数据的问题,提高了数据回放的灵活性以及可靠性。
例如,以录像数据记录的存储和录像数据的回放为例,本发明实施例所述技术方案可具体解决的问题如下:
1、由于在本发明实施例所述技术方案中,中心管理服务器只是转发录像记录查询请求,录像记录是由数据存储服务器生成的,因此,在数据存储服务器与中心管理服务器之间出现网络抖动时,将不会导致录像记录不完整,从而使得客户端成功查询到的录像记录必然是正确反映数据存储服务器的本地存储设备上实际保存的录像数据所对应的录像记录,不再存在由于录像记录同步异常导致录像数据无法回放的问题。
2、由于在本发明实施例所述技术方案中,录像记录是根据客户端发送的录像记录查询请求中的录像记录开始时间、结束时间以及所查询录像的数据流标识动态生成的,因此,当数据存储服务器的本地存储设备出现故障时,相应故障存储设备的CQFS文件系统元数据也将被卸载,那么此时客户端查询到的录像记录将不包含故障存储设备上的录像数据对应的录像记录,则用户可直接看到录像记录出现缺失,从而实现“所见即所得”以及“即存即放”的功能,不会再出现有录像记录却无法回放录像数据的现象。
3、由于在本发明实施例所述技术方案中,避免了使用数据库存放数据记录,因此,当数据库发生故障时,只要能恢复摄像头信息(如stream ID信息),录像记录查询以及录像数据回放均不受影响,从而大大减少了数据耦合度,同时由于无录像记录保存到数据库,数据库压力也会降低。
4、由于在本发明实施例所述技术方案中,录像记录可以是根据客户端用户发送的录像记录查询请求中的录像记录开始时间、结束时间、数据记录最大切分时长以及所查询录像的数据流标识动态生成的,因此,客户端用户可以随时改变数据记录最大切分时长,相应的数据存储服务器的本地存储设备中的所有新老录像数据对应的录像记录均可平滑动态转换为数据记录最大切分时长的录像记录,即,数据存储服务器的本地存储设备中所存储的数据记录可动态转换,提高了数据回放的灵活性以及可靠性。
实施例二
本发明实施例二以动作执行方为中心管理服务器为例,对本发明实施例一中所述数据记录处理方法进行进一步说明,如图3所示,其为本发明实施例二所述的数据记录处理方法的流程示意图,所述方法可包括以下步骤:
步骤301:中心管理服务器接收客户端发送的数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间。
步骤302:将接收到的所述数据记录查询请求转发至数据存储服务器。
步骤303:接收所述数据存储服务器返回的根据所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间所得到的多个数据记录。
步骤304:将接收到的所述多个数据记录转发至所述客户端。
进一步地,所述数据记录查询请求中还可携带有数据记录切分时长,则接收的多个数据记录可为所述数据存储服务器根据所述数据记录查询请求中携带的数据流标识、查询开始时间、查询结束时间以及数据记录切分时长所得到的。
也就是说,本发明实施例所述技术方案,中心管理服务器能够将接收到的客户端发送的数据记录查询请求转发至数据存储服务器,所述数据记录查询请求中携带有数据流标识、查询开始时间及查询结束时间,并将数据存储服务器返回的根据所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间所得到的多个数据记录转发至客户端,从而使得客户端能够通过中心管理服务器直接从数据存储服务器中获取数据记录,无需从数据库中获取,进而避免了对数据库的依赖,提高了数据回放的灵活性以及可靠性。
实施例三
本发明实施例三以动作执行方为客户端为例,对本发明实施例一中所述数据记录处理方法进行进一步说明,如图4所示,其为本发明实施例三所述的数据记录处理方法的流程示意图,所述方法可包括以下步骤:
步骤401:客户端向中心管理服务器发送数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间。
其中,所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间通常是所述客户端对应的客户端用户根据实际查询情况输入的查询参数,本发明对此不作赘述。
步骤402:接收所述中心管理服务器返回的多个数据记录,并根据所述多个数据记录进行数据回放;其中,所述多个数据记录是数据存储服务器根据所述中心管理服务器转发的所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间所得到的。
进一步地,所述数据记录查询请求中还可携带有数据记录切分时长,则接收的多个数据记录为所述所述数据存储服务器根据所述数据记录查询请求中携带的数据流标识、查询开始时间、查询结束时间以及数据记录切分时长所得到的。
也就是说,在本发明所述技术方案中,客户端能够将携带有查询数据的数据流标识、查询开始时间及查询结束时间的数据记录查询请求发送至中心管理服务器,并接收所述中心管理服务器转发的来自数据存储服务器的根据所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间所得到的多个数据记录,从而使得客户端能够直接通过中心管理服务器从数据存储服务器中获取数据记录,无需从数据库中获取,进而避免了对数据库的依赖,提高了数据回放的灵活性以及可靠性。
实施例四
本发明实施例四以数据存储服务器、中心管理服务器以及客户端交互执行为例,对本发明实施例一至三中所述数据记录处理方法进行进一步说明,如图5所示,其为本发明实施例四所述的数据记录处理方法的流程示意图,所述方法可包括以下步骤:
步骤501:客户端向中心管理服务器发送数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间。
进一步地,所述数据记录查询请求中还可携带有数据记录切分时长。
步骤502:中心管理服务器接收客户端发送的数据记录查询请求,并将接收到的所述数据记录查询请求转发至数据存储服务器。
步骤503:数据存储服务器接收所述数据记录查询请求,并根据所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间,从本地存储的文件系统元数据中,选取对应的数据流标识与所述数据记录查询请求中携带的数据流标识相一致、且对应的时间段位于所述查询开始时间以及所述查询结束时间之间的数据块,以及,将选取的数据块按照循环回收时间戳进行排序,并根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值的数据块生成对应的一数据记录,以及,根据排序后的数据块中的每一个与相邻数据块之间的时间间隔均大于预设阈值的数据块生成对应的一数据记录,得到多个数据记录。
具体地,所述的根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值的数据块生成对应的一数据记录,可具体实施为:
根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值、且相互之间无时间重叠的数据块生成对应的一数据记录。
也就是说,所生成的同一条数据记录所对应的两个BlockInfo之间通常没有时间上的回退或重叠。
进一步地,所述的根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值的数据块生成对应的一数据记录,还可具体实施为:
根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值、且数据类型相同的数据块生成对应的一数据记录。
步骤504:数据存储服务器将所述多个数据记录返回给所述中心管理服务器。
可选地,若所述数据记录查询请求中还携带有数据记录切分时长,则在得到多个数据记录之后,且在将所述多个数据记录返回给所述中心管理服务器之前,所述方法还可包括:
针对任一数据记录,若确定所述数据记录的时长超过所述数据记录切分时长,则从所述数据记录对应的起始时间点开始,按照所述数据记录切分时长将所述数据记录切分为多个对应的时长不超过所述数据记录切分时长的数据记录。
步骤505:中心管理服务器接收所述多个数据记录,并将所述多个数据记录转发至所述客户端。
步骤506:客户端接收所述多个数据记录,并根据所述多个数据记录进行数据回放。
本发明实施例四提供了一种数据记录处理方法,在本发明实施例所述技术方案中,数据存储服务器能够根据接收到的数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间,以及本地存储的文件系统元数据,动态地生成数据记录,从而解决了目前存在的数据存储服务器中存储的数据与数据库中存储的数据记录同步异常以及数据库中存储的数据记录无法动态转换导致无法调用或回放相应数据的问题,提高了数据回放的灵活性以及可靠性。另外,在本发明实施例所述技术方案中,客户端能够直接从数据存储服务器中获取数据记录,无需从数据库中获取,从而避免了对数据库的依赖,进一步提高了数据回放的灵活性以及可靠性。
实施例五
基于与本发明实施例一相同的发明构思,本发明实施例五提供了一种数据存储服务器,该数据存储服务器的具体实施可参见上述方法实施例一中的相关描述,重复之处不再赘述,其结构示意图如图6所示,该设备主要可包括:
接收单元61,可用于接收中心管理服务器转发的来自客户端的数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间;
处理单元62,可用于根据所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间,从本地存储的文件系统元数据中,选取对应的数据流标识与所述数据记录查询请求中携带的数据流标识相一致、且对应的时间段位于所述查询开始时间以及所述查询结束时间之间的数据块,以及,将选取的数据块按照循环回收时间戳进行排序,并根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值的数据块生成对应的一数据记录,以及,根据排序后的数据块中的每一个与相邻数据块之间的时间间隔均大于预设阈值的数据块生成对应的一数据记录,得到多个数据记录;
发送单元63,可用于将所述多个数据记录返回给所述中心管理服务器。
其中,所述文件系统元数据可为基于CQFS存储结构的元数据。
进一步地,所述数据记录查询请求中还携带有数据记录切分时长;
则所述处理单元62,还可用于在得到多个数据记录之后,且在所述发送单元63将所述多个数据记录返回给所述中心管理服务器之前,针对任一数据记录,若确定所述数据记录的时长超过所述数据记录切分时长,则从所述数据记录对应的起始时间点开始,按照所述数据记录切分时长将所述数据记录切分为多个对应的时长不超过所述数据记录切分时长的数据记录。
进一步地,所述处理单元62,可具体用于根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值、且相互之间无时间重叠的数据块生成对应的一数据记录。
进一步地,所述处理单元62,具体还可用于根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值、且数据类型相同的数据块生成对应的一数据记录。
进一步地,基于与本发明实施例二相同的发明构思,本发明实施例五还提供了一种中心管理服务器,该设备的具体实施可参见上述方法实施例二中的相关描述,重复之处不再赘述,其结构示意图如图7所示,该设备主要可包括:
接收单元71,可用于接收客户端发送的数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间;
发送单元72,可用于将接收到的所述数据记录查询请求转发至数据存储服务器;
所述接收单元71,还可用于接收所述数据存储服务器返回的根据所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间所得到的多个数据记录;
所述发送单元72,还可用于将接收到的所述多个数据记录转发至所述客户端。
进一步地,所述数据记录查询请求中还可携带有数据记录切分时长;
则接收的多个数据记录为所述数据存储服务器根据所述数据记录查询请求中携带的数据流标识、查询开始时间、查询结束时间以及数据记录切分时长所得到的。
进一步地,基于与本发明实施例三相同的发明构思,本发明实施例五还提供了一种客户端,该设备的具体实施可参见上述方法实施例三中的相关描述,重复之处不再赘述,其结构示意图如图8所示,该设备主要可包括:
发送单元81,可用于向中心管理服务器发送数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间;
接收单元82,可用于接收所述中心管理服务器返回的多个数据记录,其中,所述多个数据记录是数据存储服务器根据所述中心管理服务器转发的所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间所得到的;
处理单元83,可用于根据所述多个数据记录进行数据回放。
进一步地,所述数据记录查询请求中还可携带有数据记录切分时长;
则接收的多个数据记录为所述数据存储服务器根据所述数据记录查询请求中携带的数据流标识、查询开始时间、查询结束时间以及数据记录切分时长所得到的。
进一步地,基于与本发明实施例一至三相同的发明构思,本发明实施例五还提供了一种数据记录处理系统,该系统的具体实施可参见上述方法实施例一至三中的相关描述,重复之处不再赘述,其结构示意图如图9所示,该系统主要可包括:
客户端91,可用于向中心管理服务器92发送数据记录查询请求,所述数据记录查询请求中携带有所述客户端91请求查询的数据的数据流标识、查询开始时间及查询结束时间;以及,接收所述中心管理服务器92返回的多个数据记录,并根据所述多个数据记录进行数据回放;
中心管理服务器92,可用于接收客户端91发送的数据记录查询请求,并将接收到的所述数据记录查询请求转发至数据存储服务器93,以及,接收所述数据存储服务器93返回的多个数据记录,并将接收到的所述多个数据记录转发至所述客户端91;
数据存储服务器93,可用于接收中心管理服务器92转发的来自客户端91的数据记录查询请求,并根据所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间,从本地存储的文件系统元数据中,选取对应的数据流标识与所述数据记录查询请求中携带的数据流标识相一致、且对应的时间段位于所述查询开始时间以及所述查询结束时间之间的数据块,以及,将选取的数据块按照循环回收时间戳进行排序,并根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值的数据块生成对应的一数据记录,以及,根据排序后的数据块中的每一个与相邻数据块之间的时间间隔均大于预设阈值的数据块生成对应的一数据记录,得到多个数据记录,并将所述多个数据记录返回给所述中心管理服务器92。
在本发明实施例所述技术方案中,数据存储服务器能够根据接收到的数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间,以及本地存储的文件系统元数据,动态地生成数据记录,从而解决了目前存在的数据存储服务器中存储的数据与数据库中存储的数据记录同步异常以及数据库中存储的数据记录无法动态转换导致无法调用或回放相应数据的问题,提高了数据回放的灵活性以及可靠性。另外,在本发明实施例所述技术方案中,客户端能够直接从数据存储服务器中获取数据记录,无需从数据库中获取,从而避免了对数据库的依赖,进一步提高了数据回放的灵活性以及可靠性。
本领域技术人员应明白,本发明的实施例可提供为方法、装置(设备)、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、装置(设备)和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例作出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。
Claims (19)
1.一种数据记录处理方法,其特征在于,包括:
数据存储服务器接收中心管理服务器转发的来自客户端的数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间;
根据所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间,从本地存储的文件系统元数据中,选取对应的数据流标识与所述数据记录查询请求中携带的数据流标识相一致、且对应的时间段位于所述查询开始时间以及所述查询结束时间之间的数据块;
将选取的数据块按照循环回收时间戳进行排序,并根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值的数据块生成对应的一数据记录,以及,根据排序后的数据块中的每一个与相邻数据块之间的时间间隔均大于预设阈值的数据块生成对应的一数据记录,得到多个数据记录;
将所述多个数据记录返回给所述中心管理服务器。
2.如权利要求1所述的方法,其特征在于,所述数据记录查询请求中还携带有数据记录切分时长;则在得到多个数据记录之后,且在将所述多个数据记录返回给所述中心管理服务器之前,所述方法还包括:
针对任一数据记录,若确定所述数据记录的时长超过所述数据记录切分时长,则从所述数据记录对应的起始时间点开始,按照所述数据记录切分时长将所述数据记录切分为多个对应的时长不超过所述数据记录切分时长的数据记录。
3.如权利要求1或2所述的方法,其特征在于,所述根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值的数据块生成对应的一数据记录,包括:
根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值、且相互之间无时间重叠的数据块生成对应的一数据记录。
4.如权利要求1或2所述的方法,其特征在于,所述根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值的数据块生成对应的一数据记录,包括:
根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值、且数据类型相同的数据块生成对应的一数据记录。
5.如权利要求1或2所述的方法,其特征在于,所述文件系统元数据为基于循环队列文件系统CQFS存储结构的元数据。
6.一种数据记录处理方法,其特征在于,包括:
中心管理服务器接收客户端发送的数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间;
将接收到的所述数据记录查询请求转发至数据存储服务器;
接收所述数据存储服务器返回的根据所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间所得到的多个数据记录;
将接收到的所述多个数据记录转发至所述客户端。
7.如权利要求6所述的方法,其特征在于,所述数据记录查询请求中还携带有数据记录切分时长;
则接收的多个数据记录为所述数据存储服务器根据所述数据记录查询请求中携带的数据流标识、查询开始时间、查询结束时间以及数据记录切分时长所得到的。
8.一种数据记录处理方法,其特征在于,包括:
客户端向中心管理服务器发送数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间;
接收所述中心管理服务器返回的多个数据记录,并根据所述多个数据记录进行数据回放;其中,所述多个数据记录是数据存储服务器根据所述中心管理服务器转发的所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间所得到的。
9.如权利要求8所述的方法,其特征在于,所述数据记录查询请求中还携带有数据记录切分时长;
则接收的多个数据记录为所述数据存储服务器根据所述数据记录查询请求中携带的数据流标识、查询开始时间、查询结束时间以及数据记录切分时长所得到的。
10.一种数据存储服务器,其特征在于,包括:
接收单元,用于接收中心管理服务器转发的来自客户端的数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间;
处理单元,用于根据所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间,从本地存储的文件系统元数据中,选取对应的数据流标识与所述数据记录查询请求中携带的数据流标识相一致、且对应的时间段位于所述查询开始时间以及所述查询结束时间之间的数据块,以及,将选取的数据块按照循环回收时间戳进行排序,并根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值的数据块生成对应的一数据记录,以及,根据排序后的数据块中的每一个与相邻数据块之间的时间间隔均大于预设阈值的数据块生成对应的一数据记录,得到多个数据记录;
发送单元,用于将所述多个数据记录返回给所述中心管理服务器。
11.如权利要求10所述的数据存储服务器,其特征在于,所述数据记录查询请求中还携带有数据记录切分时长;
则所述处理单元,还用于在得到多个数据记录之后,且在所述发送单元将所述多个数据记录返回给所述中心管理服务器之前,针对任一数据记录,若确定所述数据记录的时长超过所述数据记录切分时长,则从所述数据记录对应的起始时间点开始,按照所述数据记录切分时长将所述数据记录切分为多个对应的时长不超过所述数据记录切分时长的数据记录。
12.如权利要求10或11所述的数据存储服务器,其特征在于,
所述处理单元,具体用于根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值、且相互之间无时间重叠的数据块生成对应的一数据记录。
13.如权利要求10或11所述的数据存储服务器,其特征在于,
所述处理单元,具体用于根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值、且数据类型相同的数据块生成对应的一数据记录。
14.如权利要求10或11所述的数据存储服务器,其特征在于,所述文件系统元数据为基于循环队列文件系统CQFS存储结构的元数据。
15.一种中心管理服务器,其特征在于,包括:
接收单元,用于接收客户端发送的数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间;
发送单元,用于将接收到的所述数据记录查询请求转发至数据存储服务器;
所述接收单元,还用于接收所述数据存储服务器返回的根据所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间所得到的多个数据记录;
所述发送单元,还用于将接收到的所述多个数据记录转发至所述客户端。
16.如权利要求15所述的中心管理服务器,其特征在于,所述数据记录查询请求中还携带有数据记录切分时长;
则接收的多个数据记录为所述数据存储服务器根据所述数据记录查询请求中携带的数据流标识、查询开始时间、查询结束时间以及数据记录切分时长所得到的。
17.一种客户端,其特征在于,包括:
发送单元,用于向中心管理服务器发送数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间;
接收单元,用于接收所述中心管理服务器返回的多个数据记录,其中,所述多个数据记录是数据存储服务器根据所述中心管理服务器转发的所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间所得到的;
处理单元,用于根据所述多个数据记录进行数据回放。
18.如权利要求17所述的客户端,其特征在于,所述数据记录查询请求中还携带有数据记录切分时长;
则接收的多个数据记录为所述数据存储服务器根据所述数据记录查询请求中携带的数据流标识、查询开始时间、查询结束时间以及数据记录切分时长所得到的。
19.一种数据记录处理系统,其特征在于,包括:
客户端,用于向中心管理服务器发送数据记录查询请求,所述数据记录查询请求中携带有所述客户端请求查询的数据的数据流标识、查询开始时间及查询结束时间;以及,接收所述中心管理服务器返回的多个数据记录,并根据所述多个数据记录进行数据回放;
中心管理服务器,用于接收客户端发送的数据记录查询请求,并将接收到的所述数据记录查询请求转发至数据存储服务器,以及,接收所述数据存储服务器返回的多个数据记录,并将接收到的所述多个数据记录转发至所述客户端;
数据存储服务器,用于接收中心管理服务器转发的来自客户端的数据记录查询请求,并根据所述数据记录查询请求中携带的数据流标识、查询开始时间及查询结束时间,从本地存储的文件系统元数据中,选取对应的数据流标识与所述数据记录查询请求中携带的数据流标识相一致、且对应的时间段位于所述查询开始时间以及所述查询结束时间之间的数据块,以及,将选取的数据块按照循环回收时间戳进行排序,并根据排序后的数据块中的每多个相互之间的时间间隔不大于预设阈值的数据块生成对应的一数据记录,以及,根据排序后的数据块中的每一个与相邻数据块之间的时间间隔均大于预设阈值的数据块生成对应的一数据记录,得到多个数据记录,并将所述多个数据记录返回给所述中心管理服务器。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510060955.0A CN105989048B (zh) | 2015-02-05 | 2015-02-05 | 一种数据记录处理方法、设备及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510060955.0A CN105989048B (zh) | 2015-02-05 | 2015-02-05 | 一种数据记录处理方法、设备及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105989048A true CN105989048A (zh) | 2016-10-05 |
CN105989048B CN105989048B (zh) | 2019-12-24 |
Family
ID=57037347
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510060955.0A Active CN105989048B (zh) | 2015-02-05 | 2015-02-05 | 一种数据记录处理方法、设备及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105989048B (zh) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107832195A (zh) * | 2017-11-23 | 2018-03-23 | 中国银行股份有限公司 | 主机环境管理方法、装置及系统 |
CN108737473A (zh) * | 2017-04-20 | 2018-11-02 | 贵州白山云科技有限公司 | 一种数据处理方法、装置及系统 |
CN108920522A (zh) * | 2018-06-04 | 2018-11-30 | 上海点融信息科技有限责任公司 | 用于数据库的数据处理方法、系统及计算机可读存储介质 |
WO2019127021A1 (zh) * | 2017-12-26 | 2019-07-04 | 华为技术有限公司 | 存储系统中存储设备的管理方法及装置 |
CN110019352A (zh) * | 2017-09-14 | 2019-07-16 | 北京京东尚科信息技术有限公司 | 用于存储数据的方法和装置 |
CN110858223A (zh) * | 2018-08-24 | 2020-03-03 | 比亚迪股份有限公司 | 基于数据库的回放方法、系统、服务器及客户端 |
CN110971978A (zh) * | 2018-09-28 | 2020-04-07 | 浙江宇视科技有限公司 | 视频播放方法及装置 |
CN111125436A (zh) * | 2018-10-31 | 2020-05-08 | 杭州海康威视系统技术有限公司 | 数据管理方法、装置及系统 |
CN112148920A (zh) * | 2020-08-11 | 2020-12-29 | 中标慧安信息技术股份有限公司 | 数据管理方法 |
CN113220780A (zh) * | 2021-04-29 | 2021-08-06 | 北京字跳网络技术有限公司 | 一种数据处理方法、装置、设备及介质 |
CN113268391A (zh) * | 2020-02-14 | 2021-08-17 | 北京沃东天骏信息技术有限公司 | 用于数据回放的方法、装置、设备及存储介质 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1653799A (zh) * | 2002-05-14 | 2005-08-10 | 皇家飞利浦电子股份有限公司 | 处理至少一个数据流的数据的方法、数据存储系统及其使用方法 |
CN101641674A (zh) * | 2006-10-05 | 2010-02-03 | 斯普兰克公司 | 时间序列搜索引擎 |
US20100121940A1 (en) * | 2008-11-13 | 2010-05-13 | At&T Corp. | System and Method for Selectively Caching Hot Content in a Content Delivery System |
CN101944115A (zh) * | 2010-09-14 | 2011-01-12 | 杭州海康威视数字技术股份有限公司 | 一种日志搜索方法和系统 |
CN102143145A (zh) * | 2010-10-27 | 2011-08-03 | 华为技术有限公司 | 媒体数据的录制、提供方法及装置 |
CN102880685A (zh) * | 2012-09-13 | 2013-01-16 | 北京航空航天大学 | 一种时间密集大数据量的b/s分区间分页查询方法 |
CN103077200A (zh) * | 2012-12-27 | 2013-05-01 | 深圳市赛为智能股份有限公司 | 一种音视频存储索引方法及装置 |
CN103347167A (zh) * | 2013-06-20 | 2013-10-09 | 上海交通大学 | 一种基于分段的监控视频内容描述方法 |
US20130268509A1 (en) * | 2012-04-04 | 2013-10-10 | Cindy O'neill | System and method for storing and retrieving data |
CN103686094A (zh) * | 2014-01-01 | 2014-03-26 | 中安消技术有限公司 | 一种视频监控日志的生成方法及其系统 |
-
2015
- 2015-02-05 CN CN201510060955.0A patent/CN105989048B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1653799A (zh) * | 2002-05-14 | 2005-08-10 | 皇家飞利浦电子股份有限公司 | 处理至少一个数据流的数据的方法、数据存储系统及其使用方法 |
CN101641674A (zh) * | 2006-10-05 | 2010-02-03 | 斯普兰克公司 | 时间序列搜索引擎 |
US20100121940A1 (en) * | 2008-11-13 | 2010-05-13 | At&T Corp. | System and Method for Selectively Caching Hot Content in a Content Delivery System |
CN101944115A (zh) * | 2010-09-14 | 2011-01-12 | 杭州海康威视数字技术股份有限公司 | 一种日志搜索方法和系统 |
CN102143145A (zh) * | 2010-10-27 | 2011-08-03 | 华为技术有限公司 | 媒体数据的录制、提供方法及装置 |
US20130268509A1 (en) * | 2012-04-04 | 2013-10-10 | Cindy O'neill | System and method for storing and retrieving data |
CN102880685A (zh) * | 2012-09-13 | 2013-01-16 | 北京航空航天大学 | 一种时间密集大数据量的b/s分区间分页查询方法 |
CN103077200A (zh) * | 2012-12-27 | 2013-05-01 | 深圳市赛为智能股份有限公司 | 一种音视频存储索引方法及装置 |
CN103347167A (zh) * | 2013-06-20 | 2013-10-09 | 上海交通大学 | 一种基于分段的监控视频内容描述方法 |
CN103686094A (zh) * | 2014-01-01 | 2014-03-26 | 中安消技术有限公司 | 一种视频监控日志的生成方法及其系统 |
Non-Patent Citations (1)
Title |
---|
张庆海: "《视频监控系统综合实训》", 30 June 2012 * |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108737473A (zh) * | 2017-04-20 | 2018-11-02 | 贵州白山云科技有限公司 | 一种数据处理方法、装置及系统 |
CN108737473B (zh) * | 2017-04-20 | 2019-12-20 | 贵州白山云科技股份有限公司 | 一种数据处理方法、装置及系统 |
CN110019352A (zh) * | 2017-09-14 | 2019-07-16 | 北京京东尚科信息技术有限公司 | 用于存储数据的方法和装置 |
CN107832195A (zh) * | 2017-11-23 | 2018-03-23 | 中国银行股份有限公司 | 主机环境管理方法、装置及系统 |
CN107832195B (zh) * | 2017-11-23 | 2021-03-23 | 中国银行股份有限公司 | 主机环境管理方法、装置及系统 |
WO2019127021A1 (zh) * | 2017-12-26 | 2019-07-04 | 华为技术有限公司 | 存储系统中存储设备的管理方法及装置 |
US11314454B2 (en) | 2017-12-26 | 2022-04-26 | Huawei Technologies Co., Ltd. | Method and apparatus for managing storage device in storage system |
CN108920522A (zh) * | 2018-06-04 | 2018-11-30 | 上海点融信息科技有限责任公司 | 用于数据库的数据处理方法、系统及计算机可读存储介质 |
CN110858223A (zh) * | 2018-08-24 | 2020-03-03 | 比亚迪股份有限公司 | 基于数据库的回放方法、系统、服务器及客户端 |
CN110858223B (zh) * | 2018-08-24 | 2023-09-05 | 比亚迪股份有限公司 | 基于数据库的回放方法、系统、服务器及客户端 |
CN110971978B (zh) * | 2018-09-28 | 2021-12-28 | 浙江宇视科技有限公司 | 视频播放方法及装置 |
CN110971978A (zh) * | 2018-09-28 | 2020-04-07 | 浙江宇视科技有限公司 | 视频播放方法及装置 |
CN111125436A (zh) * | 2018-10-31 | 2020-05-08 | 杭州海康威视系统技术有限公司 | 数据管理方法、装置及系统 |
CN111125436B (zh) * | 2018-10-31 | 2023-08-08 | 杭州海康威视系统技术有限公司 | 数据管理方法、装置及系统 |
CN113268391A (zh) * | 2020-02-14 | 2021-08-17 | 北京沃东天骏信息技术有限公司 | 用于数据回放的方法、装置、设备及存储介质 |
CN112148920B (zh) * | 2020-08-11 | 2021-08-31 | 中标慧安信息技术股份有限公司 | 数据管理方法 |
CN112148920A (zh) * | 2020-08-11 | 2020-12-29 | 中标慧安信息技术股份有限公司 | 数据管理方法 |
CN113220780A (zh) * | 2021-04-29 | 2021-08-06 | 北京字跳网络技术有限公司 | 一种数据处理方法、装置、设备及介质 |
CN113220780B (zh) * | 2021-04-29 | 2023-12-05 | 北京字跳网络技术有限公司 | 一种数据处理方法、装置、设备及介质 |
Also Published As
Publication number | Publication date |
---|---|
CN105989048B (zh) | 2019-12-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105989048A (zh) | 一种数据记录处理方法、设备及系统 | |
CN109739929A (zh) | 数据同步方法、装置及系统 | |
CN110309161B (zh) | 一种数据同步方法、装置及服务器 | |
CN107872489A (zh) | 一种文件切片上传方法、装置及云存储系统 | |
CN107483627A (zh) | 一种文件分发、下载方法、分发服务器、客户端及系统 | |
CN104079614B (zh) | 用于分布式发布订阅系统消息有序获取的方法和系统 | |
CN104731956A (zh) | 同步数据的方法、系统及相关数据库 | |
WO2016029790A1 (zh) | 数据传输方法及装置 | |
US7814178B2 (en) | Method and apparatus for data configuration in communication device | |
EP2495933A1 (en) | Method and system for recovering video monitoring service | |
CN111831748A (zh) | 数据同步方法、装置及存储介质 | |
CN111209467A (zh) | 一种多并发多通道环境下的数据实时查询系统 | |
CN107040576A (zh) | 信息推送方法及装置、通讯系统 | |
CN106331089A (zh) | 一种视频播放控制方法和系统 | |
CN107395559A (zh) | 基于redis的数据处理方法及设备 | |
WO2018094040A1 (en) | System and method for receiving and writing incoming data writes based on data write latency | |
CN110351569A (zh) | 一种直播内容处理方法、装置、设备及介质 | |
CN102902574B (zh) | 一种多信息流节点的协同处理方法及装置 | |
CN105812492B (zh) | 一种数据同步方法及系统 | |
CN106897281A (zh) | 一种日志分片方法和装置 | |
CN102685257A (zh) | 数据同步处理系统、数据同步处理方法、服务器系统 | |
CN104753811A (zh) | 一种流媒体业务优化方法、设备及系统 | |
CN104731564A (zh) | 系统接口调用记录的生成方法和装置 | |
CN111654526A (zh) | 一种流媒体服务器的负载均衡方法及系统 | |
CN105426125B (zh) | 一种数据存储方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |