CN105516024B - 一种基于队列的任务流量监控方法及系统 - Google Patents

一种基于队列的任务流量监控方法及系统 Download PDF

Info

Publication number
CN105516024B
CN105516024B CN201410845302.9A CN201410845302A CN105516024B CN 105516024 B CN105516024 B CN 105516024B CN 201410845302 A CN201410845302 A CN 201410845302A CN 105516024 B CN105516024 B CN 105516024B
Authority
CN
China
Prior art keywords
queue
team
speed
program
task
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201410845302.9A
Other languages
English (en)
Other versions
CN105516024A (zh
Inventor
杨海涛
关进中
孙晋超
张栗伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Antiy Technology Group Co Ltd
Original Assignee
Harbin Antiy Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Harbin Antiy Technology Co Ltd filed Critical Harbin Antiy Technology Co Ltd
Priority to CN201410845302.9A priority Critical patent/CN105516024B/zh
Publication of CN105516024A publication Critical patent/CN105516024A/zh
Application granted granted Critical
Publication of CN105516024B publication Critical patent/CN105516024B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Debugging And Monitoring (AREA)
  • Telephonic Communication Services (AREA)

Abstract

本发明公开了一种基于队列的任务流量监控方法及系统,利用程序代理完成队列操作,定时获取监控观测量;获取监控观测量的监控周期可自定义配置;分析监控观测量,当队列当前积压量大于单位时间内处理的任务量时,判定为队列积压,则减小队列期望容量,减少队列入队速度;当队列入队速度大于队列出队速度且队列出队速度小于队列出队请求速度时,判定为队列缓存不足,则增大队列期望容量,增加队列入队速度。有效地解决了基于队列的任务流控制中任务积压发现晚,处理不及时的问题。

Description

一种基于队列的任务流量监控方法及系统
技术领域
本发明涉及计算机控制管理领域,特别涉及任务流量控制和系统的状态判断。
背景技术
在计算机领域,传统基于队列的任务流量控制主要涉及限制队列的容量,甚至是不限制队列的容量只限制队列所占用的内存大小,于是会出现两种情况:
一种是当入队列速度大于出队列速度时,队列出现积压,而另一种则是入队列速度小于出队列速度,队列几乎空闲。本发明主要用于应对第一种情况,当出队列的程序因为一些原因而出现工作效率下降时,队列会出现积压,此时如果不及时处理,则会出现更大量的积压。
本发明就是为了更早的发现和解决队列的任务积压问题。
发明内容
本发明提供一种基于队列的任务流量监控方法,解决了现有基于队列的任务流控制中任务积压发现晚,处理不及时的问题。
本方法通过定时监测队列入队速度,出队速度和队列目前的积压量等观测量,以及这些量与时间的关系,最终达到通过判断任务处理速度来调节任务入队速度并以此达到队列无大量积压的目的。
一种基于队列的任务流量监控方法,包括:
利用程序代理完成队列操作,定时获取监控观测量;获取监控观测量的监控周期可自定义配置;
分析监控观测量,当队列当前积压量大于单位时间内处理的任务量时,判定为队列积压,则减小队列期望容量,减少队列入队速度;当队列入队速度大于队列出队速度且队列出队速度小于队列出队请求速度时,判定为队列缓存不足,则增大队列期望容量,增加队列入队速度,其中,队列缓存不足是指队列当前缓存的任务量小于根据队列出队速度确定的单位时间内能够处理的任务量。
进一步地,所述队列操作包括入队程序和出队程序:
入队程序具体步骤为:
入队请求操作;
判断队列当前积压量是否小于队列期望容量,如果小于则执行入队操作并将队列入队速度加一,否则,入队程序会延时等待,循环请求入队,直到能够执行入队操作为止;
出队程序具体步骤为:
出队请求操作;
判断队列当前积压量是否为零,如果不是,执行出队操作并对队列出队速度加一,否则,出队程序会延时等待,循环请求出队,直到能够执行出队操作为止。
本发明采用如下系统来实现:
一种基于队列的任务流量监控系统,包括:
获取模块,用于利用程序代理完成队列操作,定时获取监控观测量;获取监控观测量的监控周期可自定义配置;
分析判断模块,分析监控观测量,当队列当前积压量大于单位时间内处理的任务量时,判定为队列积压,则减小队列期望容量,减少队列入队速度;当队列入队速度大于队列出队速度且队列出队速度小于队列出队请求速度时,判定为队列缓存不足,则增大队列期望容量,增加队列入队速度,其中,队列缓存不足是指队列当前缓存的任务量小于根据队列出队速度确定的单位时间内能够处理的任务量。
进一步地,所述队列操作包括入队程序和出队程序:
入队程序具体步骤为:
入队请求操作;
判断队列当前积压量是否小于队列期望容量,如果小于则执行入队操作并将队列入队速度加一,否则,入队程序会延时等待,循环请求入队,直到能够执行入队操作为止;
出队程序具体步骤为:
出队请求操作;
判断队列当前积压量是否为零,如果不是,执行出队操作并对队列出队速度加一,否则,出队程序会延时等待,循环请求出队,直到能够执行出队操作为止。
综上所述,本发明提供了一种基于队列的任务流量监控方法及系统,利用程序代理完成队列操作,定时获取监控观测量;获取监控观测量的监控周期可自定义配置;分析监控观测量,当队列当前积压量大于单位时间内处理的任务量时,判定为队列积压,则减小队列期望容量,减少队列入队速度;当队列入队速度大于队列出队速度且队列出队速度小于队列出队请求速度时,判定为队列缓存不足,则增大队列期望容量,增加队列入队速度。
本发明的有益效果为,在出现队列积压或队列缓存不足的情况下,可以动态调整队列期望容量,从而动态的调整队列中缓存的任务量,在不降低出队程序处理速度的情况下,尽量减少缓存在队列中的任务量,避免出现大量队列任务积压的情况,即使是出队程序工作停止,队列中也只会最多缓存队列出队速度相应最小倍数的任务量,且可以及时通知系统。即使是系统停机,也最多只会丢失队列出队速度相应最小倍数的任务量。
附图说明
为了更清楚地说明本发明或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明提供的一种基于队列的任务流量监控方法实施例流程图。
图2为本发明提供的一种基于队列的任务流量监控系统实施例结构图。
具体实施方式
本发明给出了基于队列的任务流量监控方法及系统,为了使本技术领域的人员更好地理解本发明实施例中的技术方案,并使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图对本发明中技术方案作进一步详细的说明:本发明给出了一种基于队列的任务流量监控方法实施例,如图1所示,包括:
S101利用程序代理完成队列操作,定时获取监控观测量;
其中,定时获取的监控观测量如下:
队列入队速度:单位时间内,队列加入的任务数量。
队列入队请求速度:单位时间内,入队列程序请求入队列的请求数量。
队列出队速度:单位时间内,队列取出的任务数量。
队列出队请求速度:单位时间内,出队列程序请求出队列的请求数量。
队列最大容量:指队列本身的内部最大容量,有些队列没有该值。
队列当前积压量:指队列内当前的任务积压量。
队列期望容量:队列程序代理的一个动态属性值,描述队列当前所期望的任务积压量,在队列当前积压量大于队列期望容量的情况下,入队操作会返回队列已满的假象,且队列期望容量不大于队列最大容量。
其中,在定时获取监控观测量之前,还包括:对上一个监控周期的队列入队速度、队列入队请求速度、队列出队速度、队列出队请求速度监控观测量进行清零处理,且监测周期需要依靠实际系统的正常处理速度来定。
S102分析监控观测量,并判定是否出现队列积压或队列缓存不足的情况;
其中,队列状态中还包括,当队列入队请求速度大于队列出队请求速度时,为入队程序速度大于出队程序速度的状态;
当队列出队速度与队列出队请求速度相等时,为出队程序工作饱和的状态;
当队列出队请求速度降至0时,为出队程序工作停止的状态。
S103当队列当前积压量大于单位时间内处理的任务量时,判定为队列积压;
S104减小队列期望容量,减少队列入队速度;
其中,在出队程序工作饱和的情况下,出现队列积压,则调整队列期望容量为队列出队速度即队列出队请求速度的1.1倍,在此,数值1.1倍只是一个经验值,也可以根据需要调整为其它大于1或者小于1的值,此外还可以把出现队列积压的情况通知其它系统。
S105当队列入队速度大于队列出队速度且队列出队速度小于队列出队请求速度时,判定为队列缓存不足;
S106增大队列期望容量,增加队列入队速度。
其中,S103与S104为顺序执行;S105和S106为顺序执行;
但S103与S105并无前后顺序限制,可同时执行。
其中,调整队列期望容量为队列出队速度即队列出队请求速度的1.1倍,在此,数值1.1只是一个经验值,也可以根据需要调整为其它大于1的值。
在此,因为队列代理的队列虚拟量大容量为大于等于0的整数值,所以当1.1倍的队列出队速度取整后仍然为原来数值的时候,就对原来数值加1。
优选地,所述队列操作包括入队程序和出队程序:
入队程序具体步骤为:
入队请求操作;
判断队列当前积压量是否小于队列期望容量,如果小于则执行入队操作并将队列入队速度加一,否则,入队程序会延时等待,循环请求入队,直到能够执行入队操作为止;
出队程序具体步骤为:
出队请求操作;
判断队列当前积压量是否为零,如果不是,执行出队操作并对队列出队速度加一,否则,出队程序会延时等待,循环请求出队,直到能够执行出队操作为止。
本发明还提供一种基于队列的任务流量监控系统实施例,如图2所示,包括:
获取模块201,用于利用程序代理完成队列操作,定时获取监控观测量;获取监控观测量的监控周期可自定义配置;
分析判定模块202,分析监控观测量,当队列当前积压量大于单位时间内处理的任务量时,判定为队列积压,则减小队列期望容量,减少队列入队速度;当队列入队速度大于队列出队速度且队列出队速度小于队列出队请求速度时,判定为队列缓存不足,则增大队列期望容量,增加队列入队速度。
优选地,所述队列操作包括入队程序和出队程序:
入队程序具体步骤为:
入队请求操作;
判断队列当前积压量是否小于队列期望容量,如果小于则执行入队操作并将队列入队速度加一,否则,入队程序会延时等待,循环请求入队,直到能够执行入队操作为止;
出队程序具体步骤为:
出队请求操作;
判断队列当前积压量是否为零,如果不是,执行出队操作并对队列出队速度加一,否则,出队程序会延时等待,循环请求出队,直到能够执行出队操作为止。
综上所述,本发明提供了一种基于队列的任务流量监控方法及系统,利用程序代理完成队列操作,定时获取监控观测量;获取监控观测量的监控周期可自定义配置;分析监控观测量,当队列当前积压量大于单位时间内处理的任务量时,判定为队列积压,则减小队列期望容量,减少队列入队速度;当队列入队速度大于队列出队速度且队列出队速度小于队列出队请求速度时,判定为队列缓存不足,则增大队列期望容量,增加队列入队速度。
本发明的有益效果为,在出现队列积压或队列缓存不足的情况下,可以动态调整队列期望容量,从而动态的调整队列中缓存的任务量,在不降低出队程序处理速度的情况下,尽量减少缓存在队列中的任务量,避免出现大量队列任务积压的情况,即使是出队程序工作停止,队列中也只会最多缓存队列出队速度相应最小倍数的任务量,且可以及时通知系统。即使是系统停机,也最多只会丢失队列出队速度相应最小倍数的任务量。
本说明书中方法的实施例采用递进的方式描述,对于系统的实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
虽然通过实施例描绘了本发明,本领域普通技术人员知道,本发明有许多变形和变化而不脱离本发明的精神,希望所附的权利要求包括这些变形和变化而不脱离本发明的精神。

Claims (4)

1.一种基于队列的任务流量监控方法,其特征在于,包括:
利用程序代理完成队列操作,定时获取监控观测量;获取监控观测量的监控周期可自定义配置;
分析监控观测量,当队列当前积压量大于单位时间内处理的任务量时,判定为队列积压,则减小队列期望容量,减少队列入队速度;当队列入队速度大于队列出队速度且队列出队速度小于队列出队请求速度时,判定为队列缓存不足,则增大队列期望容量,增加队列入队速度,其中,队列缓存不足是指队列当前缓存的任务量小于根据队列出队速度确定的单位时间内能够处理的任务量。
2.如权利要求1所述的方法,其特征在于,所述队列操作包括入队程序和出队程序:
入队程序具体步骤为:
入队请求操作;
判断队列当前积压量是否小于队列期望容量,如果小于则执行入队操作并将队列入队速度加一,否则,入队程序会延时等待,循环请求入队,直到能够执行入队操作为止;
出队程序具体步骤为:
出队请求操作;
判断队列当前积压量是否为零,如果不是,执行出队操作并对队列出队速度加一,否则,出队程序会延时等待,循环请求出队,直到能够执行出队操作为止。
3.一种基于队列的任务流量监控系统,其特征在于,包括:
获取模块,用于利用程序代理完成队列操作,定时获取监控观测量;获取监控观测量的监控周期可自定义配置;
分析判定模块,分析监控观测量,当队列当前积压量大于单位时间内处理的任务量时,判定为队列积压,则减小队列期望容量,减少队列入队速度;当队列入队速度大于队列出队速度且队列出队速度小于队列出队请求速度时,判定为队列缓存不足,则增大队列期望容量,增加队列入队速度,其中,队列缓存不足是指队列当前缓存的任务量小于根据队列出队速度确定的单位时间内能够处理的任务量。
4.如权利要求3所述的系统,其特征在于,所述队列操作包括入队程序和出队程序:
入队程序具体步骤为:
入队请求操作;
判断队列当前积压量是否小于队列期望容量,如果小于则执行入队操作并将队列入队速度加一,否则,入队程序会延时等待,循环请求入队,直到能够执行入队操作为止;
出队程序具体步骤为:
出队请求操作;
判断队列当前积压量是否为零,如果不是,执行出队操作并对队列出队速度加一,否则,出队程序会延时等待,循环请求出队,直到能够执行出队操作为止。
CN201410845302.9A 2014-12-31 2014-12-31 一种基于队列的任务流量监控方法及系统 Active CN105516024B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410845302.9A CN105516024B (zh) 2014-12-31 2014-12-31 一种基于队列的任务流量监控方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410845302.9A CN105516024B (zh) 2014-12-31 2014-12-31 一种基于队列的任务流量监控方法及系统

Publications (2)

Publication Number Publication Date
CN105516024A CN105516024A (zh) 2016-04-20
CN105516024B true CN105516024B (zh) 2019-05-07

Family

ID=55723674

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410845302.9A Active CN105516024B (zh) 2014-12-31 2014-12-31 一种基于队列的任务流量监控方法及系统

Country Status (1)

Country Link
CN (1) CN105516024B (zh)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107391275A (zh) * 2017-06-30 2017-11-24 联想(北京)有限公司 一种消息处理方法及电子设备
CN109213578A (zh) * 2017-07-05 2019-01-15 武汉安天信息技术有限责任公司 一种任务的调度方法和调度系统
CN109729119A (zh) * 2017-10-30 2019-05-07 中兴通讯股份有限公司 一种协调数据同步数据的方法、装置、设备及存储介质
CN108345561B (zh) * 2018-01-30 2021-08-10 南京邮电大学 一种队列通信控制方法
CN109063025A (zh) * 2018-07-13 2018-12-21 江苏满运软件科技有限公司 一种日志处理方法及系统,及一种智能终端
CN111625592A (zh) * 2019-02-28 2020-09-04 北京京东尚科信息技术有限公司 分布式数据库的负载均衡方法和装置
CN111309468B (zh) * 2020-02-27 2024-09-13 腾讯云计算(北京)有限责任公司 资源调度方法、装置及存储介质
CN112463314A (zh) * 2020-11-06 2021-03-09 贝壳技术有限公司 异步队列的处理方法、装置、电子设备及存储介质
CN113311728B (zh) * 2021-05-25 2022-08-30 南京国电南自维美德自动化有限公司 一种仿真模型与控制器通信的方法和系统
CN114245180A (zh) * 2022-01-04 2022-03-25 海信视像科技股份有限公司 显示设备、视频数据传输方法及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1674485A (zh) * 2004-03-25 2005-09-28 国际商业机器公司 动态提供计算机系统资源的方法和系统
CN1726680A (zh) * 2002-12-20 2006-01-25 国际商业机器公司 网络设备中的流控制
CN101841486A (zh) * 2010-06-01 2010-09-22 杭州华三通信技术有限公司 一种消息的传输方法和设备
CN102625349A (zh) * 2012-03-09 2012-08-01 浪潮通信信息系统有限公司 一种告警风暴下的数据处理方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5283638B2 (ja) * 2010-01-08 2013-09-04 アラクサラネットワークス株式会社 パケット中継装置
US8611851B2 (en) * 2010-02-19 2013-12-17 Alcatel Lucent Accounting request processing in a communication network

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1726680A (zh) * 2002-12-20 2006-01-25 国际商业机器公司 网络设备中的流控制
CN1674485A (zh) * 2004-03-25 2005-09-28 国际商业机器公司 动态提供计算机系统资源的方法和系统
CN101841486A (zh) * 2010-06-01 2010-09-22 杭州华三通信技术有限公司 一种消息的传输方法和设备
CN102625349A (zh) * 2012-03-09 2012-08-01 浪潮通信信息系统有限公司 一种告警风暴下的数据处理方法

Also Published As

Publication number Publication date
CN105516024A (zh) 2016-04-20

Similar Documents

Publication Publication Date Title
CN105516024B (zh) 一种基于队列的任务流量监控方法及系统
CN106648904B (zh) 一种流式数据处理自适应速率控制方法
US20190236150A1 (en) Migration flow control
US20150295970A1 (en) Method and device for augmenting and releasing capacity of computing resources in real-time stream computing system
CN111008157B (zh) 存储系统写缓存数据下发方法及相关组件
CN103365711B (zh) 应用于物联网业务平台的任务调度系统和方法
CN106598740B (zh) 一种限制多线程程序占用cpu利用率的系统及限制方法
CN103873380B (zh) 一种数据分发策略的调整方法、装置及系统
CN103257896B (zh) 一种云环境下的Max-D作业调度方法
CN103699433A (zh) 一种于Hadoop平台中动态调整任务数目的方法及系统
WO2017005115A1 (zh) 分布式dag系统的自适应优化方法和装置
EP3349130A1 (en) Data compression method and storage system
CN108628890A (zh) 一种数据导出方法及系统
CN103218219B (zh) 用于为叶函数产生紧凑函数跟踪数据的方法及系统
CN102156722B (zh) 一种大批量数据处理系统及方法
US20180253313A1 (en) Operation instruction response control method and terminal for human-machine interface
WO2016041126A1 (zh) 基于gpu的数据流处理方法和装置
CN111858200B (zh) 系统测试中的吞吐量控制方法、装置及电子设备
CN103677959B (zh) 一种基于组播的虚拟机集群迁移方法及系统
US10430237B2 (en) Resource scheduling method and related apparatus
CN107395735B (zh) 一种容器集群的延时缩容调度方法及系统
CN103645873A (zh) 一种在趋势曲线系统中实现高效数据缓存的方法
CN103049421A (zh) 一种cpu与协处理器间的数据传输方法和装置
CN106161538A (zh) 融合x86和arm架构的应用平台管理系统
CN103916316A (zh) 网络数据包线速捕获方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP03 Change of name, title or address

Address after: 150028 Building 7, Innovation Plaza, Science and Technology Innovation City, Harbin Hi-tech Industrial Development Zone, Harbin, Heilongjiang Province (838 Shikun Road)

Patentee after: Harbin antiy Technology Group Limited by Share Ltd

Address before: 150090 room 506, Hongqi Street, Nangang District, Harbin Development Zone, Heilongjiang, China, 162

Patentee before: Harbin Antiy Technology Co., Ltd.

CP03 Change of name, title or address
PE01 Entry into force of the registration of the contract for pledge of patent right
PE01 Entry into force of the registration of the contract for pledge of patent right

Denomination of invention: Queue-based task flow monitoring method and system

Effective date of registration: 20190828

Granted publication date: 20190507

Pledgee: Bank of Longjiang, Limited by Share Ltd, Harbin Limin branch

Pledgor: Harbin antiy Technology Group Limited by Share Ltd

Registration number: Y2019230000002

CP01 Change in the name or title of a patent holder
CP01 Change in the name or title of a patent holder

Address after: 150028 building 7, innovation and entrepreneurship square, science and technology innovation city, Harbin high tech Industrial Development Zone, Harbin, Heilongjiang Province (No. 838, Shikun Road)

Patentee after: Antan Technology Group Co.,Ltd.

Address before: 150028 building 7, innovation and entrepreneurship square, science and technology innovation city, Harbin high tech Industrial Development Zone, Harbin, Heilongjiang Province (No. 838, Shikun Road)

Patentee before: Harbin Antian Science and Technology Group Co.,Ltd.

PC01 Cancellation of the registration of the contract for pledge of patent right
PC01 Cancellation of the registration of the contract for pledge of patent right

Date of cancellation: 20211119

Granted publication date: 20190507

Pledgee: Bank of Longjiang Limited by Share Ltd. Harbin Limin branch

Pledgor: Harbin Antian Science and Technology Group Co.,Ltd.

Registration number: Y2019230000002