CN104407960B - 数据监控方法及装置 - Google Patents

数据监控方法及装置 Download PDF

Info

Publication number
CN104407960B
CN104407960B CN201410779011.4A CN201410779011A CN104407960B CN 104407960 B CN104407960 B CN 104407960B CN 201410779011 A CN201410779011 A CN 201410779011A CN 104407960 B CN104407960 B CN 104407960B
Authority
CN
China
Prior art keywords
pending data
data
pending
queue
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201410779011.4A
Other languages
English (en)
Other versions
CN104407960A (zh
Inventor
林斐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Gridsum Technology Co Ltd
Original Assignee
Beijing Gridsum Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Gridsum Technology Co Ltd filed Critical Beijing Gridsum Technology Co Ltd
Priority to CN201410779011.4A priority Critical patent/CN104407960B/zh
Publication of CN104407960A publication Critical patent/CN104407960A/zh
Application granted granted Critical
Publication of CN104407960B publication Critical patent/CN104407960B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Emergency Alarm Devices (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种数据监控方法及装置。其中,该方法包括:获取待处理数据队列及待处理数据队列中待处理数据的时间标识;根据待处理数据的时间标识判断待处理数据队列是否满足预先设置的数据预警条件;若判断出待处理数据队列满足数据预警条件,则发送数据处理预警信号。本发明解决了由于采用现有的数据监控方式容易出现错误预警所导致的数据处理速度效率降低的技术问题。

Description

数据监控方法及装置
技术领域
本发明涉及计算机领域,具体而言,涉及一种数据监控方法及装置。
背景技术
目前,在数据处理过程中,通常会设置一个缓冲区,用于接收并缓存待处理数据。上述待处理数据源源不断地进入缓冲区,在数据处理前再被读取出来进行处理,其中,当待处理数据进入缓冲区的速度超过数据处理系统的处理速度时,缓冲区中的待处理数据的数量就会产生积压,即,接收到的待处理数据已经超过了数据处理系统的处理能力,从而可能导致数据处理速度减慢。
现有技术提供的传统的解决方式是:为缓冲区所接收的待处理数据设定一个阈值,并定时检测缓冲区中的数据总量,一旦检测出缓冲区中的数据总量大于上述阈值,则判定数据处理系统的压力过大,并触发系统预警。然而,采用上述方式对数据处理系统进行监控的过程中还存在很多问题,比如,假设有两个数据处理系统处理上述待处理数据,其中,系统A每秒能处理100条数据,实际每秒进入101条数据,目前有未处理的数据110条,系统B每秒能处理1000条数据,实际每秒进入800条数据,目前有未处理的数据600条,设定阈值为500,对比上述两个数据处理系统,即使系统A 未处理的数据数量小于阈值,并不会触发系统预警,然而系统A实际所接收到的数据已经超出了系统A的处理能力;另一方面,虽然系统B的未处理的数据数量已经大于阈值,将会触发系统预警,然而,显然系统B所接收到的数据数量还未达到系统B的处理上限。
也就是说,现有技术中所提供的通过设定阈值来判断数据数量是否超出系统处理能力的方式并不能实现对待处理数据的准确监控,从而可能导致系统的错误预警,进而影响数据处理系统的数据处理效率。
针对相关技术中的问题,目前尚未提出有效的解决方案。
发明内容
本发明的主要目的在于提供一种数据监控方法及装置,以解决由于采用现有的数据监控方式容易出现错误预警所导致的数据处理速度效率降低的技术问题。
根据本发明的一个方面,提供了一种数据监控方法,包括:获取待处理数据队列及上述待处理数据队列中待处理数据的时间标识;根据上述待处理数据的时间标识判断上述待处理数据队列是否满足预先设置的数据预警条件;若判断出上述待处理数据队列满足上述数据预警条件,则发送数据处理预警信号。
可选地,上述获取待处理数据队列及上述待处理数据队列中待处理数据的时间标识包括:在预定时刻从待处理数据集合中获取上述待处理数据队列,并获取上述待处理数据队列中第一条待处理数据进入上述待处理数据集合的第一时间标识及最后一条待处理数据进入上述待处理数据集合的第二时间标识,其中,上述待处理数据集合用于保存上述待处理数据,以便上述待处理数据被读取处理;上述根据上述待处理数据的时间标识判断上述待处理数据队列是否满足预先设置的数据预警条件包括:利用上述第一条待处理数据的上述第一时间标识及上述最后一条待处理数据的上述第二时间标识,计算上述第一条待处理数据及上述最后一条待处理数据的时间差;根据上述时间差判断上述待处理数据队列是否满足上述数据预警条件。
可选地,上述根据上述时间差判断上述待处理数据队列是否满足上述数据预警条件包括:判断上述时间差是否大于等于预定阈值,其中,上述预定阈值至少根据上述待处理数据的处理速度配置。
可选地,在上述获取待处理数据队列及上述待处理数据队列中待处理数据的时间标识之前,还包括:接收用于获取上述待处理数据队列的获取请求;响应上述获取请求对上述预定时刻的上述待处理数据集合执行锁定操作,以从上述待处理数据集合中得到上述待处理数据队列,其中,上述锁定操作用于控制上述待处理数据集合在上述预定时刻不再接收更新的待处理数据,且不对上述待处理数据进行读取处理。
可选地,在发送数据处理预警信号之后,还包括:调整加快对上述待处理数据的处理速度,以减少上述待处理数据队列中的上述待处理数据。
根据本发明的另一方面,提供了一种数据监控装置,包括:获取单元,用于获取待处理数据队列及上述待处理数据队列中待处理数据的时间标识;判断单元,用于根据上述待处理数据的时间标识判断上述待处理数据队列是否满足预先设置的数据预警条件;发送单元,用于在判断出上述待处理数据队列满足上述数据预警条件时,发送数据处理预警信号。
可选地,上述获取单元包括:获取模块,用于在预定时刻从待处理数据集合中获取上述待处理数据队列,并获取上述待处理数据队列中第一条待处理数据进入上述待处理数据集合的第一时间标识及最后一条待处理数据进入上述待处理数据集合的第二时间标识,其中,上述待处理数据集合用于保存上述待处理数据,以便上述待处理数据被读取处理;上述判断单元包括:计算模块,用于利用上述第一条待处理数据的上述第一时间标识及上述最后一条待处理数据的上述第二时间标识,计算上述第一条待处理数据及上述最后一条待处理数据的时间差;判断模块,用于根据上述时间差判断上述待处理数据队列是否满足上述数据预警条件。
可选地,上述判断模块包括:判断子模块,用于判断上述时间差是否大于等于预定阈值,其中,上述预定阈值至少根据上述待处理数据的处理速度配置。
可选地,还包括:接收单元,用于在上述获取待处理数据队列及上述待处理数据队列中待处理数据的时间标识之前,接收用于获取上述待处理数据队列的获取请求;锁定单元,用于响应上述获取请求对上述预定时刻的上述待处理数据集合执行锁定操作,以从上述待处理数据集合中得到上述待处理数据队列,其中,上述锁定操作用于控制上述待处理数据集合在上述预定时刻不再接收更新的待处理数据,且不对上述待处理数据进行读取处理。
可选地,还包括:调整单元,用于在发送数据处理预警信号之后,调整加快对上述待处理数据的处理速度,以减少上述待处理数据队列中的上述待处理数据。
通过本申请提供的实施例,通过根据获取到的待处理数据队列及其对应的时间标识判断待处理数据队列是否满足预先设置的数据预警条件,并在判断出满足数据预警条件后,发送数据处理预警信号,从而实现利用时间标识准确判断出待处理数据是否需要预警,进而避免现有技术中因出现的错误预警所导致的数据处理效率降低的问题,保证了数据的处理速度。
进一步,在获取待处理数据队列的时间标识,为了保证获取时间的一致,还对待处理数据集合执行了锁定操作,从而保证获取的时间标识的准确性,进而达到在对数据处理过程进行实时监控的同时,准确判断出待处理数据是否满足数据预警条件,实现对待处理数据的准确预警。
附图说明
构成本申请的一部分的附图用来提供对本发明的进一步理解,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1是根据本发明实施例的一种可选的数据监控方法的流程图;
图2是根据本发明实施例的另一种可选的数据监控方法的流程图
图3是根据本发明实施例的一种可选的数据监控装置的示意图;以及
图4是跟据本发明实施例的另一种可选的数据监控装置的示意图。
具体实施方式
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本发明。
实施例1
根据本发明实施例,提供了一种数据监控方法,如图1所示,该方法包括:
S102,获取待处理数据队列及待处理数据队列中待处理数据的时间标识;
S104,根据待处理数据的时间标识判断待处理数据队列是否满足预先设置的数据预警条件;
S106,若判断出待处理数据队列满足数据预警条件,则发送数据处理预警信号;
S108,若判断出待处理数据队列不满足数据预警条件,则不发送数据处理预警信号。
可选地,在本实施例中,上述数据监控方法可以但不限于应用于数据监控处理系统中,用于监控已进入缓冲区的待处理数据的数量是否超出数据处理系统的处理能力。其中,上述数据处理系统可以但不限于位于服务器。例如,假设上述待处理数据为多个视频播放客户端上报的播放数据,服务器在对上述播放数据进行处理之前,会将上述播放数据先存入缓冲区等待处理,同时使用本实施例中的数据监控处理系统实时监控该缓冲区中的播放数据的数量是否达到数据预警条件,若判断出上述待处理数据已满足数据预警条件,则及时发送预警信号,从而实现在对待处理数据的监控过程中,保证数据预警的准确性,进而避免因错误预警所导致的数据处理效率降低的问题,保障视频播放客户端的正常播放。上述举例只是一种示例,本实施例对此不做任何限定。
可选地,在本实施例中,上述待处理数据队列可以包括但不限于:从处于等待处理状态的待数据处理集合中按照预定条件选择得到,其中,上述预定条件可以包括但不限于:预定时刻获取,也就是说,预定时刻待处理数据集合中的待处理数据构成待处理数据队列。可选地,在本实施例中,上述待处理数据队列的输入输出方式可以但不限于:先进先出。也就是说,先进入缓冲区的待处理数据将被先处理。
可选地,在本实施例中,上述待处理数据的时间标识可以包括但不限于:待处理数据的时间戳,其中,上述时间戳可以为待处理数据进入缓冲区的系统时间。例如,某条数据进入缓冲区的时间为:2014-10-2212:12:34.322,则该待处理数据的时间标识为2014-10-2212:12:34.322。
可选地,在本实施例中,上述数据预警条件可以但不限于根据待处理数据的时间标识设置,通过时间来判断待处理数据是否在缓冲区的存储的时间过长,进而判断缓冲区中待处理数据是否超过数据处理系统的处理能力,从而避免了现有技术中仅仅依赖预先设置的阈值从待处理数据的数量方面进行单一地判断所导致的错误预警的问题。
可选地,在本实施例中,上述预警信号可以包括但不限于:控制监控系统显示器上的预警信号灯闪烁、将预警信号通过网络或第三方平台发送给相关人员。
通过本申请提供的实施例,通过根据获取到的待处理数据队列及其对应的时间标识判断待处理数据队列是否满足预先设置的数据预警条件,并在判断出满足数据预警条件后,发送数据处理预警信号,从而实现利用时间标识准确判断出待处理数据是否需要预警,进而避免现有技术中因出现的错误预警所导致的数据处理效率降低的问题,保证了数据的处理速度。
作为一种可选的方案,还包括:
S1,获取待处理数据队列及待处理数据队列中待处理数据的时间标识包括:
S12,在预定时刻从待处理数据集合中获取待处理数据队列,并获取待处理数据队列中第一条待处理数据进入待处理数据集合的第一时间标识及最后一条待处理数据进入待处理数据集合的第二时间标识,其中,待处理数据集合用于保存待处理数据,以便待处理数据被读取处理;
S2,根据待处理数据的时间标识判断待处理数据队列是否满足预先设置的数据预警条件包括:
S22,利用第一条待处理数据的第一时间标识及最后一条待处理数据的第二时间标识,计算第一条待处理数据及最后一条待处理数据的时间差;
S24,根据时间差判断待处理数据队列是否满足数据预警条件。
可选地,在本实施例中,上述待处理数据集合可以包括但不限于用于缓存待处理数据的缓冲区,以便于在对待处理进行读取处理时可以从该缓冲区直接读取待处理数据,其中,上述缓冲区中的待处理数据可以但不限于实时变化,也就是说,不断有新的待处理数据被存到缓冲区,缓冲区中的数据也会不断被读取进行相应处理。进一步,上述待处理数据队列可以但不限于待处理数据集合在预定时刻所缓存的数据,上述第一条待处理数据及最后一条待处理数据可以为待处理数据队列中第一条进入缓冲区的数据和最后一条进入缓冲区的待处理数据。
可选地,在本实施例中,上述时间差还可以包括但不限于以下至少之一:待处理队列中的第一条待处理数据的时间戳与最后一条待处理数据的时间戳相减得到的时间差、待处理队列中的第一条待处理数据的时间戳与当前时间相减得到的时间差。
需要说明的是,上述时间差的计算方式可以包括但不限于以下至少之一:第一条待处理数据的时间戳减最后一条待处理数据的时间戳后取绝对值、最后一条待处理数据的时间戳减第一条待处理数据的时间戳。也就是说,由于所配置的阈值是正值,因而为了便于与阈值进行比较,通过上述方式计算出的时间差的数值应该是正值。此外,阈值也可以配置为负值,则计算时间差的方式将做相应调整,本实施例在此不再赘述。
例如,待处理数据队列中的待处理数据包括:a1、a2、a3、a4、a5,其中,上述待处理数据的时间标识分别为:t1、t2、t3、t4、t5,则可以获取到第一条待处理数据a1,其对应的第一时间标识t1,最后一条待处理数据a5,其对应的第二时间标识t5,利用上述时间标识得出时间差T=t5-t1,进而根据该时间差T判断上述包括5 条待处理数据的待处理数据队列是否满足数据预警条件。
通过本申请提供的实施例,通过获取待处理数据队列中的第一条待处理数据及其对应的第一时间标识,和最后一条待处理数据及其对应的第二时间标识,利用上述第一时间标识及第二时间标识的时间差判断待处理数据队列是否满足数据预警条件,从而达到在对数据处理过程进行实时监控的同时,准确判断出待处理数据是否满足数据预警条件,实现对待处理数据的准确预警,保证数据处理的效率。
作为一种可选的方案,根据时间差判断待处理数据队列是否满足数据预警条件包括:
S1,判断时间差是否大于等于预定阈值,其中,预定阈值至少根据待处理数据的处理速度配置。
可选地,在本实施例中,上述预定阈值可以但不限于根据不同的应用场景配置为不同的数值,进一步,上述预定阈值可以但不限于:配置成与待处理数据在数据处理系统的处理速度相匹配的数量级,以满足待处理数据的处理实时性需求。例如,数据处理系统从输入待处理数据到处理完成需要10s,则上述预定阈值可以但不限于配置为与10s同一数量级的数值,从而保证数据处理系统在上述时间范围内有能力处理所获取到的待处理数据,进而避免触发预警。
通过本申请提供的实施例,比较第一时间标识与第二时间标识的时间差,利用时间准确判断待处理数据队列中的待处理数据是否满足数据预警条件,进一步,判断是否需要发送数据处理预警信号,从而实现利用待处理数据的时间标识对待处理数据是否预警做出准确判断。
作为一种可选的方案,如图2所示,获取待处理数据队列及待处理数据队列中待处理数据的时间标识之前,还包括:
S202,接收用于获取待处理数据队列的获取请求;
S204,响应获取请求对预定时刻的待处理数据集合执行锁定操作,以从待处理数据集合中得到待处理数据队列,其中,锁定操作用于控制待处理数据集合在预定时刻不再接收更新的待处理数据,且不对待处理数据进行读取处理。
需要说明的是,由于待处理数据源源不断地写入待处理数据集合中,因而待处理数据集合中的数据总是在变化,为了保证获取到的第一条待处理数据与最后一条待处理数据为同一时刻的待处理数据,在获取待处理数据队列之前,对待处理数据进行了锁定操作。其中,锁定操作用于控制处于等待状态的待处理数据集合中不会被写入新的待处理数据,也不会被读取并处理任一条待处理数据。其中,上述预定时刻所维持的时间很短,并不会影响数据处理系统的处理速度。
进一步,由于获取第一条待处理数据与最后一条待处理数据的获取时间差较短,即使不执行锁定操作,二者之间的获取时间也极为接近,因而,上述对待处理数据集合执行锁定操作仅仅是一种优选示例,本实施例对此不做限定。
具体结合以下示例进行描述,假设数据监控系统请求获取当前时刻的数据队列,则系统将控制当前时刻的待处理数据集合执行锁定操作。例如,视频客户端请求处理播放数据:a1-a10,其中,待处理数据集合只能容纳5条待处理数据,而当前时刻待处理数据a1、a2、a3已被读取处理,而a9、a10还未被写入,则当前时刻待处理数据集合中仅包括待处理数据a4、a5、a6、a7、a8。进一步,若对上述待处理数据集合执行锁定操作,则当前时刻待处理数据集合中的待处理数据将作为用于进行数据预警判断的待处理数据队列中的数据,其中,待处理数据队列将包括如下待处理数据:a4、 a5、a6、a7、a8。
通过本申请提供的实施例,通过对待处理数据集合执行锁定操作,保证所得到的待处理数据队列中的第一条待处理数据与最后一条待处理数据之间没有获取时间差,为同一时刻获取,进而保证了获取到的待处理数据的时间标识的准确性,从而进一步保障了对待处理数据是否进行预警的准确判断,避免由于错误预警导致的数据处理效率降低的问题。
作为一种可选的方案,在发送数据处理预警信号之后,还包括:
S1,调整加快对待处理数据的处理速度,以减少待处理数据队列中的待处理数据。
具体结合以下示例进行描述,假设接收到数据处理预警信号,为了解除上述预警信号,系统将控制调整加快对待处理数据的处理速度,以减少待处理数据队列中的待处理数据,进而保证数据处理系统恢复正常处理过程,避免影响之后的数据监控过程。
通过本申请提供的实施例,在发送数据处理预警信号之后,响应上述预警信号,将调整加快对待处理数据的处理速度,从而使得数据处理系统尽快恢复正常的数据处理,避免由于预警未解除导致影响之后的数据监控,进而产生错误的数据预警,降低待处理数据的处理效率。
需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
实施例2
根据本发明实施例,还提供了一种用于实施上述数据监控方法的数据监控装置,如图3所示,该装置包括:
1)获取单元302,用于获取待处理数据队列及待处理数据队列中待处理数据的时间标识;
2)判断单元304,用于根据待处理数据的时间标识判断待处理数据队列是否满足预先设置的数据预警条件;
3)发送单元306,用于在判断出待处理数据队列满足数据预警条件时,发送数据处理预警信号。
可选地,在本实施例中,上述数据监控方法可以但不限于应用于数据监控处理系统中,用于监控已进入缓冲区的待处理数据的数量是否超出数据处理系统的处理能力。其中,上述数据处理系统可以但不限于位于服务器。例如,假设上述待处理数据为多个视频播放客户端上报的播放数据,服务器在对上述播放数据进行处理之前,会将上述播放数据先存入缓冲区等待处理,同时使用本实施例中的数据监控处理系统实时监控该缓冲区中的播放数据的数量是否达到数据预警条件,若判断出上述待处理数据已满足数据预警条件,则及时发送预警信号,从而实现在对待处理数据的监控过程中,保证数据预警的准确性,进而避免因错误预警所导致的数据处理效率降低的问题,保障视频播放客户端的正常播放。上述举例只是一种示例,本实施例对此不做任何限定。
可选地,在本实施例中,上述待处理数据队列可以包括但不限于:从处于等待处理状态的待数据处理集合中按照预定条件选择得到,其中,上述预定条件可以包括但不限于:预定时刻获取,也就是说,预定时刻待处理数据集合中的待处理数据构成待处理数据队列。可选地,在本实施例中,上述待处理数据队列的输入输出方式可以但不限于:先进先出。也就是说,先进入缓冲区的待处理数据将被先处理。
可选地,在本实施例中,上述待处理数据的时间标识可以包括但不限于:待处理数据的时间戳,其中,上述时间戳可以为待处理数据进入缓冲区的系统时间。例如,某条数据进入缓冲区的时间为:2014-10-2212:12:34.322,则该待处理数据的时间标识为2014-10-2212:12:34.322。
可选地,在本实施例中,上述数据预警条件可以但不限于根据待处理数据的时间标识设置,通过时间来判断待处理数据是否在缓冲区的存储的时间过长,进而判断缓冲区中待处理数据是否超过数据处理系统的处理能力,从而避免了现有技术中仅仅依赖预先设置的阈值从待处理数据的数量方面进行单一地判断所导致的错误预警的问题。
可选地,在本实施例中,上述预警信号可以包括但不限于:控制监控系统显示器上的预警信号灯闪烁、将预警信号通过网络或第三方平台发送给相关人员。
通过本申请提供的实施例,通过根据获取到的待处理数据队列及其对应的时间标识判断待处理数据队列是否满足预先设置的数据预警条件,并在判断出满足数据预警条件后,发送数据处理预警信号,从而实现利用时间标识准确判断出待处理数据是否需要预警,进而避免现有技术中因出现的错误预警所导致的数据处理效率降低的问题,保证了数据的处理速度。
作为一种可选的方案,还包括:
1)获取单元302包括:获取模块,用于在预定时刻从待处理数据集合中获取待处理数据队列,并获取待处理数据队列中第一条待处理数据进入待处理数据集合的第一时间标识及最后一条待处理数据进入待处理数据集合的第二时间标识,其中,待处理数据集合用于保存待处理数据,以便待处理数据被读取处理;
2)判断单元304包括:
(1)计算模块,用于利用第一条待处理数据的第一时间标识及最后一条待处理数据的第二时间标识,计算第一条待处理数据及最后一条待处理数据的时间差;
(2)判断模块,用于根据时间差判断待处理数据队列是否满足数据预警条件。
可选地,在本实施例中,上述待处理数据集合可以包括但不限于用于缓存待处理数据的缓冲区,以便于在对待处理进行读取处理时可以从该缓冲区直接读取待处理数据,其中,上述缓冲区中的待处理数据可以但不限于实时变化,也就是说,不断有新的待处理数据被存到缓冲区,缓冲区中的数据也会不断被读取进行相应处理。进一步,上述待处理数据队列可以但不限于待处理数据集合在预定时刻所缓存的数据,上述第一条待处理数据及最后一条待处理数据可以为待处理数据队列中第一条进入缓冲区的数据和最后一条进入缓冲区的待处理数据。
可选地,在本实施例中,上述时间差还可以包括但不限于以下至少之一:待处理队列中的第一条待处理数据的时间戳与最后一条待处理数据的时间戳相减得到的时间差、待处理队列中的第一条待处理数据的时间戳与当前时间相减得到的时间差。
需要说明的是,上述时间差的计算方式可以包括但不限于以下至少之一:第一条待处理数据的时间戳减最后一条待处理数据的时间戳后取绝对值、最后一条待处理数据的时间戳减第一条待处理数据的时间戳。也就是说,由于所配置的阈值是正值,因而为了便于与阈值进行比较,通过上述方式计算出的时间差的数值应该是正值。此外,阈值也可以配置为负值,则计算时间差的方式将做相应调整,本实施例在此不再赘述。
例如,待处理数据队列中的待处理数据包括:a1、a2、a3、a4、a5,其中,上述待处理数据的时间标识分别为:t1、t2、t3、t4、t5,则可以获取到第一条待处理数据a1,其对应的第一时间标识t1,最后一条待处理数据a5,其对应的第二时间标识 t5,利用上述时间标识得出时间差T=t5-t1,进而根据该时间差T判断上述包括5 条待处理数据的待处理数据队列是否满足数据预警条件。
通过本申请提供的实施例,通过获取待处理数据队列中的第一条待处理数据及其对应的第一时间标识,和最后一条待处理数据及其对应的第二时间标识,利用上述第一时间标识及第二时间标识的时间差判断待处理数据队列是否满足数据预警条件,从而达到在对数据处理过程进行实时监控的同时,准确判断出待处理数据是否满足数据预警条件,实现对待处理数据的准确预警,保证数据处理的效率。
作为一种可选的方案,上述判断模块包括:
1)判断子模块,用于判断时间差是否大于等于预定阈值,其中,预定阈值至少根据待处理数据的处理速度配置。
可选地,在本实施例中,上述预定阈值可以但不限于根据不同的应用场景配置为不同的数值,进一步,上述预定阈值可以但不限于:配置成与待处理数据在数据处理系统的处理速度相匹配的数量级,以满足待处理数据的处理实时性需求。例如,数据处理系统从输入待处理数据到处理完成需要10s,则上述预定阈值可以但不限于配置为与10s同一数量级的数值,从而保证数据处理系统在上述时间范围内有能力处理所获取到的待处理数据,进而避免触发预警。
通过本申请提供的实施例,比较第一时间标识与第二时间标识的时间差,利用时间准确判断待处理数据队列中的待处理数据是否满足数据预警条件,进一步,判断是否需要发送数据处理预警信号,从而实现利用待处理数据的时间标识对待处理数据是否预警做出准确判断。
作为一种可选的方案,如图4所示,上述装置还包括:
1)接收单元402,用于在获取待处理数据队列及待处理数据队列中待处理数据的时间标识之前,接收用于获取待处理数据队列的获取请求;
2)锁定单元404,用于响应获取请求对预定时刻的待处理数据集合执行锁定操作,以从待处理数据集合中得到待处理数据队列,其中,锁定操作用于控制待处理数据集合在预定时刻不再接收更新的待处理数据,且不对待处理数据进行读取处理。
需要说明的是,由于待处理数据源源不断地写入待处理数据集合中,因而待处理数据集合中的数据总是在变化,为了保证获取到的第一条待处理数据与最后一条待处理数据为同一时刻的待处理数据,在获取待处理数据队列之前,对待处理数据进行了锁定操作。其中,锁定操作用于控制处于等待状态的待处理数据集合中不会被写入新的待处理数据,也不会被读取并处理任一条待处理数据。其中,上述预定时刻所维持的时间很短,并不会影响数据处理系统的处理速度。
进一步,由于获取第一条待处理数据与最后一条待处理数据的获取时间差较短,即使不执行锁定操作,二者之间的获取时间也极为接近,因而,上述对待处理数据集合执行锁定操作仅仅是一种优选示例,本实施例对此不做限定。
具体结合以下示例进行描述,假设数据监控系统请求获取当前时刻的数据队列,则系统将控制当前时刻的待处理数据集合执行锁定操作。例如,视频客户端请求处理播放数据:a1-a10,其中,待处理数据集合只能容纳5条待处理数据,而当前时刻待处理数据a1、a2、a3已被读取处理,而a9、a10还未被写入,则当前时刻待处理数据集合中仅包括待处理数据a4、a5、a6、a7、a8。进一步,若对上述待处理数据集合执行锁定操作,则当前时刻待处理数据集合中的待处理数据将作为用于进行数据预警判断的待处理数据队列中的数据,其中,待处理数据队列将包括如下待处理数据:a4、 a5、a6、a7、a8。
通过本申请提供的实施例,通过对待处理数据集合执行锁定操作,保证所得到的待处理数据队列中的第一条待处理数据与最后一条待处理数据之间没有获取时间差,为同一时刻获取,进而保证了获取到的待处理数据的时间标识的准确性,从而进一步保障了对待处理数据是否进行预警的准确判断,避免由于错误预警导致的数据处理效率降低的问题。
作为一种可选的方案,上述装置还包括:
1)调整单元,用于在发送数据处理预警信号之后,调整加快对待处理数据的处理速度,以减少待处理数据队列中的待处理数据。
具体结合以下示例进行描述,假设接收到数据处理预警信号,为了解除上述预警信号,系统将控制调整加快对待处理数据的处理速度,以减少待处理数据队列中的待处理数据,进而保证数据处理系统恢复正常处理过程,避免影响之后的数据监控过程。
通过本申请提供的实施例,在发送数据处理预警信号之后,响应上述预警信号,将调整加快对待处理数据的处理速度,从而使得数据处理系统尽快恢复正常的数据处理,避免由于预警未解除导致影响之后的数据监控,进而产生错误的数据预警,降低待处理数据的处理效率。
显然,本领域的技术人员应该明白,上述的本发明的各模块或各步骤可以用通用的计算装置来实现,它们可以集中在单个的计算装置上,或者分布在多个计算装置所组成的网络上,可选地,它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本发明不限制于任何特定的硬件和软件结合。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (8)

1.一种数据监控方法,其特征在于,包括:
获取待处理数据队列及所述待处理数据队列中待处理数据的时间标识,其中,所述时间标识包括:所述待处理数据的时间戳,所述时间戳为所述待处理数据进入缓冲区的系统时间;
根据所述待处理数据的时间标识判断所述待处理数据队列是否满足预先设置的数据预警条件,其中,所述数据预警条件是根据所述待处理数据的时间标识设置的;
若判断出所述待处理数据队列满足所述数据预警条件,则发送数据处理预警信号,
其中,所述获取待处理数据队列及所述待处理数据队列中待处理数据的时间标识包括:在预定时刻从待处理数据集合中获取所述待处理数据队列,并获取所述待处理数据队列中第一条待处理数据进入所述待处理数据集合的第一时间标识及最后一条待处理数据进入所述待处理数据集合的第二时间标识,其中,所述待处理数据集合用于保存所述待处理数据,以便所述待处理数据被读取处理;所述根据所述待处理数据的时间标识判断所述待处理数据队列是否满足预先设置的数据预警条件包括:利用所述第一条待处理数据的所述第一时间标识及所述最后一条待处理数据的所述第二时间标识,计算所述第一条待处理数据及所述最后一条待处理数据的时间差;根据所述时间差判断所述待处理数据队列是否满足所述数据预警条件。
2.根据权利要求1所述的方法,其特征在于,所述根据所述时间差判断所述待处理数据队列是否满足所述数据预警条件包括:
判断所述时间差是否大于等于预定阈值,其中,所述预定阈值至少根据所述待处理数据的处理速度配置。
3.根据权利要求1所述的方法,其特征在于,在所述获取待处理数据队列及所述待处理数据队列中待处理数据的时间标识之前,还包括:
接收用于获取所述待处理数据队列的获取请求;
响应所述获取请求对所述预定时刻的所述待处理数据集合执行锁定操作,以从所述待处理数据集合中得到所述待处理数据队列,其中,所述锁定操作用于控制所述待处理数据集合在所述预定时刻不再接收更新的待处理数据,且不对所述待处理数据进行读取处理。
4.根据权利要求1所述的方法,其特征在于,在发送数据处理预警信号之后,还包括:
调整加快对所述待处理数据的处理速度,以减少所述待处理数据队列中的所述待处理数据。
5.一种数据监控装置,其特征在于,包括:
获取单元,用于获取待处理数据队列及所述待处理数据队列中待处理数据的时间标识,其中,所述时间标识包括:所述待处理数据的时间戳,所述时间戳为所述待处理数据进入缓冲区的系统时间;
判断单元,用于根据所述待处理数据的时间标识判断所述待处理数据队列是否满足预先设置的数据预警条件,其中,所述数据预警条件是根据所述待处理数据的时间标识设置的;
发送单元,用于在判断出所述待处理数据队列满足所述数据预警条件时,发送数据处理预警信号,
其中,所述获取单元包括:获取模块,用于在预定时刻从待处理数据集合中获取所述待处理数据队列,并获取所述待处理数据队列中第一条待处理数据进入所述待处理数据集合的第一时间标识及最后一条待处理数据进入所述待处理数据集合的第二时间标识,其中,所述待处理数据集合用于保存所述待处理数据,以便所述待处理数据被读取处理;所述判断单元包括:计算模块,用于利用所述第一条待处理数据的所述第一时间标识及所述最后一条待处理数据的所述第二时间标识,计算所述第一条待处理数据及所述最后一条待处理数据的时间差;判断模块,用于根据所述时间差判断所述待处理数据队列是否满足所述数据预警条件。
6.根据权利要求5所述的装置,其特征在于,所述判断模块包括:
判断子模块,用于判断所述时间差是否大于等于预定阈值,其中,所述预定阈值至少根据所述待处理数据的处理速度配置。
7.根据权利要求5所述的装置,其特征在于,还包括:
接收单元,用于在所述获取待处理数据队列及所述待处理数据队列中待处理数据的时间标识之前,接收用于获取所述待处理数据队列的获取请求;
锁定单元,用于响应所述获取请求对所述预定时刻的所述待处理数据集合执行锁定操作,以从所述待处理数据集合中得到所述待处理数据队列,其中,所述锁定操作用于控制所述待处理数据集合在所述预定时刻不再接收更新的待处理数据,且不对所述待处理数据进行读取处理。
8.根据权利要求5所述的装置,其特征在于,还包括:
调整单元,用于在发送数据处理预警信号之后,调整加快对所述待处理数据的处理速度,以减少所述待处理数据队列中的所述待处理数据。
CN201410779011.4A 2014-12-15 2014-12-15 数据监控方法及装置 Active CN104407960B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410779011.4A CN104407960B (zh) 2014-12-15 2014-12-15 数据监控方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410779011.4A CN104407960B (zh) 2014-12-15 2014-12-15 数据监控方法及装置

Publications (2)

Publication Number Publication Date
CN104407960A CN104407960A (zh) 2015-03-11
CN104407960B true CN104407960B (zh) 2017-12-22

Family

ID=52645593

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410779011.4A Active CN104407960B (zh) 2014-12-15 2014-12-15 数据监控方法及装置

Country Status (1)

Country Link
CN (1) CN104407960B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106445770B (zh) * 2015-08-12 2019-05-31 北京国双科技有限公司 监控数据处理方法、装置和监控服务器
CN106685593B (zh) * 2016-12-27 2019-09-27 Oppo广东移动通信有限公司 一种数据上报的控制方法、装置及终端

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103001824A (zh) * 2012-11-14 2013-03-27 北京奇虎科技有限公司 一种监控多台服务器的监控系统及监控方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6876952B1 (en) * 2003-04-30 2005-04-05 Cisco Technology, Inc. Methods and apparatus for maintaining queues
CN102053859B (zh) * 2009-11-09 2013-03-27 中国移动通信集团甘肃有限公司 批量数据处理的方法与装置
CN103544093B (zh) * 2012-07-13 2016-04-27 深圳市快播科技有限公司 监控报警控制方法及其系统
CN104182361B (zh) * 2014-08-20 2018-06-26 北京国双科技有限公司 数据缓存处理方法及装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103001824A (zh) * 2012-11-14 2013-03-27 北京奇虎科技有限公司 一种监控多台服务器的监控系统及监控方法

Also Published As

Publication number Publication date
CN104407960A (zh) 2015-03-11

Similar Documents

Publication Publication Date Title
US9979862B1 (en) Buffering method for video playing, storage medium and device
US20190273749A1 (en) Unauthorized Communication Detection Apparatus and Recording Medium
CN104219288B (zh) 基于多线程的分布式数据同步方法及其系统
CN109145771B (zh) 一种人脸抓拍方法及装置
CN105100032A (zh) 一种防止资源盗取的方法及装置
CN106997546A (zh) 一种订单处理方法及装置
WO2013023306A1 (en) Stream processing using a client-server architecture
US10182238B2 (en) Systems and methods for controlling video display
JP2017538987A5 (zh)
CN110019386A (zh) 一种流数据处理方法及设备
CN104407960B (zh) 数据监控方法及装置
CN109902103A (zh) 业务数据管理方法、装置、设备及计算机可读存储介质
CN103475520B (zh) 一种分布式网络中的事务处理控制方法及装置
CN106789723B (zh) 多核网络转发限速的方法和装置
US20220171964A1 (en) Method, apparatus, computing device and computer-readable storage medium for monitoring use of target item
CN109117295B (zh) 一种交易超时监控方法及装置
CN112579820A (zh) 时间跳变的录像数据处理方法、装置、介质及电子设备
CN106789301A (zh) 一种生成web网关的运行日志的方法及装置
CN106230632A (zh) 网络环路的处理方法及装置
CN108681724A (zh) 农事操作监控方法及装置
CN112039686B (zh) 一种数据流传输控制方法、装置、监控设备及存储介质
CN103929488B (zh) 分布式中央监护系统数据同步的方法及装置
CN104754029B (zh) 确定主管理服务器的方法、装置和系统
CN109120691B (zh) 业务系统的状态检测方法、系统、装置及计算机可读介质
US9477736B2 (en) Apparatus and method for active and passive data gathering using stochastic model in control network

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
PE01 Entry into force of the registration of the contract for pledge of patent right
PE01 Entry into force of the registration of the contract for pledge of patent right

Denomination of invention: Data monitoring method and device

Effective date of registration: 20190531

Granted publication date: 20171222

Pledgee: Shenzhen Black Horse World Investment Consulting Co.,Ltd.

Pledgor: BEIJING GRIDSUM TECHNOLOGY Co.,Ltd.

Registration number: 2019990000503

CP02 Change in the address of a patent holder
CP02 Change in the address of a patent holder

Address after: 100083 No. 401, 4th Floor, Haitai Building, 229 North Fourth Ring Road, Haidian District, Beijing

Patentee after: BEIJING GRIDSUM TECHNOLOGY Co.,Ltd.

Address before: 100086 Beijing city Haidian District Shuangyushu Area No. 76 Zhichun Road cuigongfandian 8 layer A

Patentee before: BEIJING GRIDSUM TECHNOLOGY Co.,Ltd.

PP01 Preservation of patent right

Effective date of registration: 20240604

Granted publication date: 20171222