CN111651339A - 一种请求数量的控制方法和相关装置 - Google Patents
一种请求数量的控制方法和相关装置 Download PDFInfo
- Publication number
- CN111651339A CN111651339A CN202010500384.9A CN202010500384A CN111651339A CN 111651339 A CN111651339 A CN 111651339A CN 202010500384 A CN202010500384 A CN 202010500384A CN 111651339 A CN111651339 A CN 111651339A
- Authority
- CN
- China
- Prior art keywords
- service server
- state
- increasing
- server
- quota
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3438—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment monitoring of user actions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3055—Monitoring arrangements for monitoring the status of the computing system or of the computing system component, e.g. monitoring if the computing system is on, off, available, not available
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- Computing Systems (AREA)
- Computer And Data Communications (AREA)
Abstract
本申请实施例公开了一种请求数量的控制方法及相关装置,所述方法包括:统计业务服务器在目标时段内所接收客户端请求的第一数量;根据第一数量确定业务服务器在目标时段内的性能参数;若性能参数满足第一指标,增加业务服务器对应的数量额度;若性能参数满足第二指标,降低数量额度;第二指标所标识的处理压力高于第一指标所标识的处理压力。处理设备可以根据统计出的第一数量,为业务服务器配置贴合自身性能的数量额度,使业务服务器能够工作在合适的处理压力下,一定程度上避免因接收过量请求而崩溃的问题。本申请还涉及云技术领域中的云服务器与云计算等技术,实现了性能参数的确定和数量额度的分配。
Description
技术领域
本申请涉及数据处理领域,特别是涉及一种请求数量的控制方法和相关装置。
背景技术
随着互联网的发展,各类服务提供方可以通过服务器向用户提供业务服务。例如游戏提供方可以通过服务器向用户提供网络游戏服务,相应的,用户通过终端设备的游戏客户端可以登录网络游戏,获取游戏、聊天等服务。
用户在获取上述业务服务时,需要向服务器发送相应的客户端请求,服务器基于接收的客户端请求提供对应的服务。在一些应用场景中,这类客户端请求具有高并发的特点,例如网络游戏中的玩家聊天、道具获取等。
当短时间大量客户端请求冲击服务器,会导致服务器处理、存储压力剧增,若不进行对应防护,会造成服务器宕机等问题,导致服务瘫痪。
发明内容
为此,需要对服务器在单位时间内接收到的客户端请求数量进行限制(即对客户单请求频次的控制,本申请中简称为频控),当在单位时间内接收到的客户端请求达到限制的数量时,服务器将停止接收客户端请求,直到下一个单位时间开始时再继续接收、处理客户端请求。以此避免服务器被高并发客户端请求的冲击下导致服务瘫痪。
然而在相关技术中,对任意服务器都是采用具体的数量额度对单位时间内接收到的客户端请求数量进行限制,而并没有考虑到服务器性能上的差异,由此确定的数量额度有可能远大于服务器的实际处理能力,导致数量额度并不能起到保护服务器在短时间内被大量客户端请求的冲击。
为了解决上述技术问题,本申请提供了一种请求数量控制方法,处理设备可以根据统计得到的业务服务器在单位时间内接受的客户端请求数量,为业务服务器配置贴合自身性能的数量额度,使业务服务器在单位时间内接收不超过该数量额度的客户端请求,从而在一定程度上避免了业务服务器因接收过量请求而崩溃的问题。
本申请实施例公开了如下技术方案:
第一方面,本申请实施例提供了一种请求数量的控制方法,所述方法包括:
统计业务服务器在目标时段内所接收客户端请求的第一数量,所述目标时段的长度为至少一个单位时间;
根据所述第一数量确定所述业务服务器在所述目标时段内的性能参数;所述性能参数用于标识所述业务服务器对应所述第一数量的客户端请求的处理压力;
若所述性能参数满足第一指标,增加所述业务服务器对应的数量额度,所述数量额度用于标识所述业务服务器在单位时间内可接收客户端请求的最大数量;
若所述性能参数满足第二指标,降低所述数量额度;所述第二指标所标识的处理压力高于所述第一指标所标识的处理压力。
第二方面,本申请实施例提供了一种请求数量的控制装置,所述装置包括统计单元、确定单元、增加单元和降低单元:
所述统计单元,用于统计业务服务器在目标时段内所接收客户端请求的第一数量,所述目标时段的长度为至少一个单位时间;
所述确定单元,用于根据所述第一数量确定所述业务服务器在所述目标时段内的性能参数;所述性能参数用于标识所述业务服务器对应所述第一数量的客户端请求的处理压力;
所述增加单元,用于若所述性能参数满足第一指标,增加所述业务服务器对应的数量额度,所述数量额度用于标识所述业务服务器在单位时间内可接收客户端请求的最大数量;
所述降低单元,用于若所述性能参数满足第二指标,降低所述数量额度;所述第二指标所标识的处理压力高于所述第一指标所标识的处理压力。
第三方面,本申请实施例提供了一种用于请求数量控制的设备,所述设备包括处理器以及存储器:
所述存储器用于存储程序代码,并将所述程序代码传输给所述处理器;
所述处理器用于根据所述程序代码中的指令执行第一方面中所述的请求数量的控制方法。
第四方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质用于存储计算机程序,所述计算机程序用于执行第一方面中所述的请求数量的控制方法。
由上述技术方案可以看出,对目标时段内业务服务器接收的客户端请求数量进行统计,根据统计出的第一数量确定业务服务器在该目标时段内的性能参数,并通过第一指标和第二指标与性能参数间的关系,对业务服务器的数量额度,即单位时间内可接收客户端请求的最大数量进行调整。由于性能参数能够体现出业务服务器对应第一数量的客户端请求的处理压力,若性能参数满足所标识处理压力较低的第一指标,证明业务服务器在目标时段内处理第一数量的客户端请求的处理压力较小,适当的增加业务服务器对应的数量额度;当性能参数满足所标识处理压力较高的第二指标时,说明业务服务器在目标时段内的处理压力较高,可以适当的降低该数量额度。由此可见,处理设备可以针对业务服务器所体现的处理压力,对业务服务器对应的数量额度进行调节,从而使业务服务器在单位时间可接收客户端请求的最大数量能够符合自身实际处理性能,在一定程度上能够避免业务服务器处理压力过大导致性能故障的问题,同时能够使业务服务器在较为健康的工作状态下能够承担更多的业务处理压力。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种实际应用场景中请求数量的控制方法的示意图;
图2为本申请实施例提供的一种请求数量的控制方法的流程图;
图3为本申请实施例提供的一种请求数量的控制方法的示意图;
图4为本申请实施例提供的一种请求数量的控制方法的示意图;
图5为本申请实施例提供的一种请求数量的控制方法的示意图;
图6为本申请实施例提供的一种请求数量的控制装置的结构框图;
图7为本申请实施例提供的一种用于请求数量控制的设备的结构图;
图8为本申请实施例提供的一种服务器的结构图。
具体实施方式
下面结合附图,对本申请的实施例进行描述。
随着互联网的普及,业务服务器所能够向用户提供的业务种类也越来越丰富,随之而来的就是用户通过客户端向业务服务器发起的大量业务请求。由于业务服务器的处理性能是有限的,因此为了防止接收过量的客户端请求导致业务服务器崩溃,需要对业务服务器所能够接收的请求数量进行管控。
在相关技术中,对于请求数量的管控都是通过一个固定的数值来进行的。例如,在对单一服务器进行管控时,该业务服务器在单位时间内所能够接收的客户端请求数量额度为固定值;在对多台业务服务器组成的服务器集群进行管控时,每一台业务服务器所能够接收的客户端请求数量额度由该服务器集群所能够接收的最大值以及业务服务器的数量来确定,该数量额度同样为固定值,并不会随着每一台业务服务器的性能变化而发生改变。
由此可见,相关技术中的数量阈值都是一个固定的数值,但实际上业务服务器之间的性能往往有所区别,单一服务器自身的性能也会经常出现波动,而在处于不同的性能状态时,业务服务器对客户端请求的处理能力也有所不同。因此,若采用固定的数额对业务服务器进行接收请求数量的管控,可能会造成业务服务器接收的客户端请求数量过大,导致服务器崩溃的问题。
为了解决上述技术问题,本申请提供了一种请求数量控制方法,处理设备可以根据统计得到的业务服务器在单位时间内接受的客户端请求数量,为业务服务器配置贴合自身性能的数量额度,使业务服务器在单位时间内接收不超过该数量额度的客户端请求,从而在一定程度上避免了业务服务器因接收过量请求而崩溃的问题。
可以理解的是,该方法可以应用于处理设备上,该处理设备为能够进行请求数量控制的处理设备,例如可以为具有请求数量控制功能的服务器,该方法可以服务器独立执行。其中,服务器可以理解为是业务服务器本身,也可以为对一个或多个业务服务器所接收的客户端请求数量进行专门管控的频控服务器,在实际部署时,服务器可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云计算服务的云服务器。终端可以是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表等,但并不局限于此。终端以及服务器可以通过有线或无线通信方式进行直接或间接地连接,本申请在此不做限制。。同时,在硬件环境上,本技术已经实现的环境有:ARM架构处理器、X86架构处理器;在软件环境上,本技术已经实现的环境有:Android平台、Windows XP及以上操作系统或Linux操作系统。
本申请实施例提供的技术方案还涉及到云技术领域。例如,在确定业务服务器对应的性能参数时,可以利用云计算技术来进行。云计算(cloud computing)是一种计算模式,它将计算任务分布在大量计算机构成的资源池上,使各种应用系统能够根据需要获取计算力、存储空间和信息服务。提供资源的网络被称为“云”。“云”中的资源在使用者看来是可以无限扩展的,并且可以随时获取,按需使用,随时扩展,按使用付费。
作为云计算的基础能力提供商,会建立云计算资源池(简称云平台,一般称为IaaS(Infrastructure as a Service,基础设施即服务)平台,在资源池中部署多种类型的虚拟资源,供外部客户选择使用。云计算资源池中主要包括:计算设备(为虚拟化机器,包含操作系统)、存储设备、网络设备。
按照逻辑功能划分,在IaaS(Infrastructure as a Service,基础设施即服务)层上可以部署PaaS(Platform as a Service,平台即服务)层,PaaS层之上再部署SaaS(Software as a Service,软件即服务)层,也可以直接将SaaS部署在IaaS上。PaaS为软件运行的平台,如数据库、web容器等。SaaS为各式各样的业务软件,如web门户网站、短信群发器等。一般来说,SaaS和PaaS相对于IaaS是上层。
为了便于理解本申请的技术方案,下面将结合实际应用场景,对本申请实施例提供的请求数量的控制方法进行介绍。
参加图1,图1为本申请实施例提供的一种请求数量的控制方法的应用场景示意图,在该应用场景中,处理设备为服务器101,该服务器101为一种能够接受客户端业务请求并进行业务处理的业务服务器。在用户通过客户端进行操作的过程中,服务器101能够接受由客户端发起的各种业务请求。为了使接收到的客户端请求数量能够贴合自身的处理性能,服务器101可以先确定出自身在目标时段内的性能参数。其中,目标时段是服务器101对客户端请求数量进行统计的周期时段,该目标时段可以根据实际情况来进行调节。在目标时段中可以包括至少一个单位时间,在本申请实施例中,单位时间可以为可监控的最小时间粒度,例如一秒钟(1S),一分钟(1min)等等。
在该应用场景中,目标时段可以为1S。服务器101可以对1S内所接收的客户端请求进行统计,从而得到目标时段内接收的客户端请求数量N,并根据该请求数量来确定自身在目标时段内的性能参数,该性能参数能够用于体现服务器101对N个客户端请求的处理压力。在该应用场景中,服务器101在统计接收到的客户端请求的同时,可以统计自身在该目标时段内所处理的客户端请求数量M,并将M与N的比值确定为性能参数。
当M与N的比值较大,即数值较为接近时,服务器101能够较好的对接收到的客户端请求进行业务处理,处理压力较小,当前服务器101的性能参数较为优良;当M与N的数值相差较大时,说明此时接收到的客户端请求数量对服务器101来说负担过重,已经无法进行良好的处理,该目标时段内的性能参数较差。由此可见,根据该性能参数,服务器101能够确定出在目标时段内自身的处理压力。
为了使服务器101能够接收贴合自己处理能力的客户端请求数量,服务器101可以预先设置不同的性能参数指标,如该应用场景中的第一指标和第二指标,不同的性能参数指标所标识的处理压力不同,第二指标所标识的处理压力要高于第一指标所标识的处理压力。其中,在第一指标所标识的处理压力下,服务器101的工作状态较为健康,还可以承担更多的请求处理压力;在第二指标所标识的处理压力下,服务器101已经处于不堪重负的工作状态,需要及时降低其处理压力来维护服务器的安全。基于此,服务器101可以将确定出的性能参数与上述指标进行比较,来确定如何对自身所能够接收到的客户端请求的数量额度进行调节。其中,数量额度用于标识服务器101在单位时间内可接收客户端请求的最大数量。
在该实际应用场景中,服务器101所确定出的性能参数达到了第二指标,这说明此时服务器101的处理压力过大,需要降低接收的客户端请求数量来避免出现性能故障。此时,服务器101可以降低自身所对应的数量额度,使其在接下来至少一个目标时段所能够内接收的客户端请求数量降低,从而减轻自身的处理压力,提高服务器101的健康状态。服务器101可以将当前所对应的数量额度进行下调,并在下一个目标时段内以下调后的数量额度作为能够接收客户端请求最大数量进行请求接收。
同理,虽在该应用场景中并未发生,但是容易理解的是,当性能参数达到第一指标时,服务器101同样可以对数量额度进行提高,从而使自身能够在下一个目标时段内所能够接收的客户端请求最大值提高,能够在较为健康的工作状态下承担更多的处理压力。
由此可见,通过本申请所提供的请求数量控制方法,服务器101能够实时的对自身的处理压力进行监控和分析,在处理压力较大时,可以降低所能够接收的客户端请求最大值来缓解处理压力,避免自身因处理压力过大而崩溃;在处理压力较小时,可以增加能够接收的客户端请求最大值,从而在较为健康的工作状态下来承担更多的处理压力,在总体上使服务器101所承担的处理压力更加贴合自身的实际性能情况。
接下来,将结合附图,对本申请实施例提供的一种请求数量的控制方法进行介绍。
参见图2,图2为本申请实施例提供的一种请求数量控制方法的流程图。
该方法包括:
S201:统计业务服务器在目标时段内所接收客户端请求的第一数量。
为了使业务服务器工作在较为健康的状态,避免接收过量的客户端请求导致性能故障,或接收过少的请求导致业务服务器没有承担起其所能够承担的处理压力,在业务服务器进行业务处理时,处理设备可以对业务服务器的处理性能进行监控,从而来确定出匹配其处理性能的客户端请求接收数量额度。
其中,处理压力是由业务服务器对接收到的客户端请求的处理情况来体现的,业务服务器的处理压力与其处理性能和所接受到的客户端请求数量有关。处理性能是指业务服务器对接收到的客户端请求的处理能力,处理性能只取决于业务服务器本身的状态,与客户端请求的数量无关。在处理相同数量的客户端请求时,业务服务器的处理性能越佳,其处理压力也就越小。因此接收到的客户端数量是确定该业务服务器处理性能的重要参数。处理设备在确定处理性能时,首先可以确定出业务服务器所接收客户端请求的数量。为了能够对业务服务器的数据进行合理的采集,处理设备可以预设一个目标时段,该目标时段为用于对业务服务器所接受的请求数量进行统计的统计周期,其长度为至少一个单位时间。可以理解的是,该目标时段的长度可以根据实际需求来设定,目标时段的长度越短,对于业务服务器进行数量额度的调节也就越频繁。在确定出目标时段后,处理设备可以统计目标时段内业务服务器所接收客户端请求的第一数量。
可以理解的是,处理设备在对业务服务器进行请求数量控制时,根据实际需求情况,可以针对业务服务器负责的某一类业务进行控制,也可以针对其中的多类或针对业务服务器负责的整体业务进行控制。在针对某一类业务进行控制时,处理设备所统计的可以为业务服务器所接收的某一业务类型的客户端请求;在针对多类业务或针对业务服务器整体进行控制时,处理设备所统计的可以为业务服务器所接受的多类或全部业务类型的客户端请求。
或者,在一些场景中,也可以根据业务服务器中建立的进程为单位进行客户端请求的数量控制,例如,业务服务器中建立有针对游戏聊天业务的进程,该进程用于处理客户端发送的聊天请求(客户端请求),可以通过本申请实施例提供的请求数量控制方案对该进程进行数量控制。
S202:根据第一数量确定业务服务器在目标时段内的性能参数。
在确定出业务服务器所接收客户端请求的第一数量后,处理设备可以以该第一数量为基准,对业务服务器在目标时段内的处理性能进行分析。其中,为了能够从数据层面上对处理性能进行清晰的分析,处理设备可以根据第一数量,确定该业务服务器在目标时段内的性能参数,该性能参数用于标识该业务服务器对第一数量的客户端请求的处理压力。
其中,标识该处理压力的性能参数的种类可以包括多种。例如,在目标时段内接受同样数量的客户端请求时,能够完成处理越多客户端请求的业务服务器,其在目标时段内的处理压力也就越小。因此,在一种可能的实现方式中,处理设备可以进一步确定业务服务器在目标时段内完成处理客户端请求的第二数量,根据第一数量和第二数量确定性能参数,该性能参数可以为由第二数量与第一数量的比值表示的完成率,或第一数量与第二数量的差值与第一数量的比值表示的未完成率等。
此外,处理设备还可以以业务服务器在处理第一数量客户端请求时所占用的CPU频率、目标时段内待处理请求的累积排队长度等参数作为性能参数。例如,当CPU频率占比较高时,说明对于该业务服务器来说,在目标时段内处理第一数量的客户端请求为一项繁重的处理任务,处理压力较大;当目标时段内待处理请求的累积排队长度较长时,说明此时业务服务器已经无法在目标时段内及时的处理大部分的客户端请求,第一数量的客户端请求给该业务服务器带来了较大的处理压力。
S203:若性能参数满足第一指标,增加业务服务器对应的数量额度。
其中,数量额度是指业务服务器在单位时间内可接收客户端请求的最大数量。在确定出业务服务器在目标时段内的性能参数后,为了判断是否需要对该业务服务器进行调节,处理设备还需要用于判断的性能参数的调节参考指标。
在本申请实施例中,根据业务服务器处理客户端请求时的处理压力,可以预设性能参数的第一指标和第二指标,第一指标和第二指标能够分别标识一种业务服务器的处理压力情况。其中,第二指标所标识的处理压力高于第一指标所标识的处理压力,第一指标所标识的业务服务器处理压力较低,第二指标所标识的业务服务器处理压力较高。
当业务服务器在第一指标所对应的性能参数下进行请求处理时,由于此时性能参数较高,说明业务服务器在该目标时段中处理接收到的客户端请求的压力较低,还能够承担更多请求处理压力。因此,为了使业务服务器能够在较为健康的工作状态下分担更多的业务处理压力,提高业务系统整体的处理能力,当处理设备所确定出的性能参数满足第一指标时,处理设备可以增加业务服务器对应的数量额度,从而使该业务服务器能够在单位时间内接收更多的客户端请求。
S204:若性能参数满足第二指标,降低数量额度。
由于第二指标所标识的业务服务器处理压力较高,因此当业务服务器工作在第二指标所对应的性能参数下时,说明该业务服务器处理目标时段内所接收的客户端请求已经较为困难,若持续工作在该处理压力下,可能会导致业务服务器性能故障,发生崩溃。
因此,为了避免业务服务器由于过高的处理压力而出现故障,若处理设备所确定出的性能参数满足第二指标,降低数量额度,从而使业务服务器从下一个单位时间开始所能够接收的客户端请求最大值降低,在一定程度上能够减轻处理压力。
由上述技术方案可以看出,由于性能参数能够体现出业务服务器对应第一数量的客户端请求的处理压力,若性能参数满足所标识处理压力较低的第一指标,证明业务服务器在目标时段内处理第一数量的客户端请求的处理压力较小,适当的增加业务服务器对应的数量额度;当性能参数满足所标识处理压力较高的第二指标时,说明业务服务器在目标时段内的处理压力较高,可以适当的降低该数量额度。由此可见,处理设备可以针对业务服务器所体现的处理压力,对业务服务器对应的数量额度进行调节,从而使业务服务器在单位时间可接收客户端请求的最大数量能够符合自身实际处理性能,在一定程度上能够避免业务服务器处理压力过大导致性能故障的问题,同时能够使业务服务器在较为健康的工作状态下能够承担更多的业务处理压力。
此外,为了使请求数量的控制更为灵活,处理设备同样可以通过多种方式来对目标时段内接收客户端请求的第一数量进行统计。在一种可能的实现方式中,由于在历史处理过程中可能存在未被业务服务器处理的客户端请求,为了能够及时处理掉未处理完的客户端请求,防止出现由于客户端请求积压导致用户无法及时的接收到请求反馈,处理设备所统计的第一数量可以是根据目标时段内向该业务服务器发送的客户端请求,以及该业务服务器尚未处理完的客户端请求确定的。例如,在上一个目标时段中有50个客户端请求未被业务服务器处理掉,在下一个目标时段中又接收到了100个客户端请求,那么处理设备在下一个目标时段中所统计的第一数量为未被处理的和接收到的客户端请求之和,即第一数量为150。
可以理解的是,当业务服务器处于不同的工作状态时,其所能够承受的客户端请求增加量也可能有所不同。例如,有两台业务服务器A和B在目标时段内的性能参数分别为性能参数A和性能参数B,该性能参数A和性能参数B都满足第一指标,即两台业务服务器都处于能够承担更多处理压力的工作状态。其中,性能参数A的要高于性能参数B,因此业务服务器A所能够承担的客户端请求增加量要高于业务服务器B能够承担的增加量。
因此,为了提高请求数量的控制效率,在较短的时间内将数量额度调节至贴合业务服务器工作状态的数值,处理设备在确定需要增加数量额度的基础上,可以根据业务服务器所处的不同工作状态,以不同的增加幅度对数量额度进行增加。在一种可能的实现方式中,处理设备可以预先设置第一增加态,若业务服务器处于第一增加态,处理设备可以以第一增加态对应的第一增加参数增加业务服务器对应的数量额度。其中,第一增加态为业务服务器所处的一种工作状态,该工作状态可以由多种方式来确定,例如可以通过性能参数来确定业务服务器所处的工作状态。第一增加参数用于标识处理设备在业务服务器处于第一增加态时对业务服务器数量额度增加时的增加幅度。
可以理解的是,在业务服务器以第一增加参数进行数量额度增加时,随着数量额度的增大,业务服务器所承担的处理压力也在逐渐增加,并逐渐接近自己的处理性能所能够承担的处理压力。为了能够较为精确地确定出贴合业务服务器性能的数量额度,在增加数量额度的过程中,处理设备可以逐渐降低增加参数,从而提高数量额度的调节精度。
基于此,除了第一增加态外,处理设备还可以对业务服务器的状态进行更加细致的划分,并为不同的状态分配不同的增加参数。在一种可能的实现方式中,处理设备可以设置第一增加态所对应的第一额度阈值,该第一额度阈值用于使处理设备判断业务服务器所处的是第一增加态还是第二增加态,即该第一额度阈值是第一增加态与第二增加态之间的切换阈值。当业务服务器处于第一增加态,以第一增加参数增加数量额度时,若增加后的数量额度达到第一增加态对应的第一额度阈值,处理设备可以将业务服务器的状态从第一增加态调整为第二增加态。
其中,额度阈值是指业务服务器对应的数量额度在当前状态下所能够增加到的最大值。第二增加态对应的第二额度阈值要大于第一额度阈值,且第二增加态对应的第二增加参数对数量额度起到的增加程度小于第一增加参数对数量额度起到的增加程度。由此,处理设备在增加数量额度时,可以现以较大的第一增加参数进行大幅调节,后以较小的第二增加参数来进行细致调节,从而在保证了调节效率的前提下,提高了调节精度,从而能够使业务服务器快速准确的获取贴合自己处理性能的数量额度。
在通过上述方式进行数量额度调节时,业务服务器对应的数量额度会逐渐接近自己的处理性能所能够承担的最大额度阈值。当数量额度超过该阈值时,业务服务器所接收到客户端请求数量就有可能会超过其所能承担的处理压力;当数量额度没有达到该阈值时,业务服务器可能还有能力承担更多的处理压力,因此该最大额度阈值可以近似看做该业务服务器的最优处理性能下所对应的数量额度。
为了使业务服务器能够保持在最优性能下进行工作,在一种可能的实现方式中,处理设备可以设置第三指标,该第三指标所对应的性能参数可以为该业务服务器在最优处理性能下的性能参数,即该业务服务器所承担的处理压力达到了匹配自身处理性能时的性能参数。而上已述及,第一指标所对应的处理压力较小,需要增加业务服务器的处理压力;第二指标所标识的处理压力较大,需要降低业务服务器的处理压力,因此该第三指标所标识的处理压力高于第一指标所标识的处理压力,且低于第二指标所标识的处理压力。在数量额度增加的过程中,若性能参数满足第三指标,说明此时业务服务器已经达到了性能最佳的工作状态,此时,处理设备可以保持数量额度不变。
例如,当性能参数是通过目标时段内业务处理器处理完成的客户端请求数量与接收到的客户端请求数量的比值来确定时,处理设备可以根据业务服务器的性能情况,分别将80%、60%和60~80%设定为第一、第二和第三指标。当业务服务器的性能参数高于80%时,说明此时业务服务器的处理压力较小,还能够承担更多的处理压力,此时处理设备可以提高该业务服务器对应的数量额度;当业务服务器的性能参数低于60%时,说明此时业务服务器的处理压力较大,可以降低对应的数量额度;当性能参数处于60~80%之间时,业务服务器所承担的处理压力与其处理性能达到了一定的匹配程度,此时处理设备可以使该业务服务器保持当前的数量额度不变。
除了对数量额度增加的过程中进行调节外,处理设备同样可以进一步对数量额度降低的过程进行调节。可以理解的是,当业务服务器的性能参数过低时,表明其在进行客户端请求处理的过程中已经承担了过多的处理压力,此时,为了能够及时的对业务服务器进行保护,以防其被过量的处理压力造成性能损伤,处理设备可以直接将业务服务器的数量额度降低至一个使业务服务器不会发生崩溃的安全数值,从而能够直接对业务服务器进行安全保护。
在一种可能的实现方式中,处理设备可以预设一个第三额度阈值,该第三额度阈值所对应的数量额度较低,当业务服务器在该第三额度阈值下进行业务处理时,能够保业务服务器不会被客户端请求的处理压力损坏性能。在降低数量额度时,处理设备可以将业务服务器的状态调整为惩罚态,并将数量额度降低为惩罚态对应的第三额度阈值。其中,惩罚态是指业务服务器对应的数量额度为在第三额度阈值的工作状态。
在对业务服务器进行安全保护时,除了将业务服务器的数量额度直接下调至一个数值较低的安全值外,还可以通过多种方式来进行。例如,处理设备可以预设一个下降参数,当性能参数达到第二指标时,处理设备可以以该下降参数对业务服务器对应的数量额度进行逐步下降,从而能够在保护了业务服务器安全的同时,在下降过程中逐步寻找适合该业务服务器的数量额度。
当业务服务器的工作状态被调节至惩罚态后,由于工作在处理压力较低的工作状态下,在保证了业务服务器的安全的同时,也一定程度上有了富裕的性能能够承担一部分处理压力。为了调动这部分富裕的处理资源,使该业务服务器逐渐恢复到适合自己的工作状态,处理设备可以将处于惩罚态的业务服务器对应的数量额度逐步提高。其中,为了判断业务服务器进入惩罚态后的处理压力是否能够处理更多的客户端请求,即工作状态是否恢复到健康状态,处理设备需要预设一个用于判断的参考值。
由上述内容可以得知,在处理设备中可以存在一个第一指标,该第一指标用于标识业务服务器的处理压力处于较为健康的状态,可以承担更多的客户端请求处理压力。因此,在一种可能的实现方式中,处理设备可以以第一指标作为状态恢复的判断标准,若业务服务器在下一个目标时段内的性能参数满足第一指标,将该业务服务器的状态从惩罚态调整为第一增加态,并以该第一增加态对应的第一增加参数增加业务服务器对应的数量额度。其中,第一增加态对应的第一额度阈值大于第三额度阈值。
由上述技术方案可以看出,通过本申请提供的方法,业务服务器对应的数量额度会根据其工作状态得到相应的调整。可以理解的是,由于在业务处理过程中,整个业务系统所具有的客户端请求接收能力可能是有限的,因此业务服务器所能够分配到的数量额度也是有最大值的。当上述方法应用在单一业务服务器时,其所能够分配到的数量额度最大值可以为该业务系统所对应的客户端请求总处理量。
当然,业务系统中也可能包括有多台服务器,上述业务服务器为业务系统中多个服务器中的任意一个。这些业务服务器可以协作进行客户端请求的处理工作。此时,每一台业务服务器所对应的数量额度的最大值需要从业务系统的整体,即多台业务服务器的角度进行考虑。在一种可能的实现方式中,该数量额度可增加到的最大值是根据业务系统的客户端请求总处理量确定的。其中,以总处理量确定数量额度最大值的方式可以有多种,例如处理设备可以根据业务系统中业务服务器的数量,均匀分配业务系统的客户端请求总处理量;或者可以根据历史时间段中分析得到的业务服务器性能情况,为性能较高的业务服务器分配更多的数量额度。
接下来,将结合一种实际应用场景,对本申请实施例提供的一种请求数量的控制方法进行介绍。在该实际应用场景中,业务系统为针对某一游戏的聊天业务系统,单位时间为1S,目标时段为1个单位时间,处理设备为业务系统中的频控服务器(Frequency ControlServer,FcServer),该业务系统中包括有10台业务服务器,该业务系统的客户端请求总处理量为10000个/S。如图3所示,图3为本申请提供的一种实际应用场景示意图。每一台业务服务器中都具有一个用于处理聊天业务的聊天进程,该聊天进程可以根据数量额度对客户端发送的客户端请求进行接收。当客户端发送的客户端请求大于该业务服务器聊天进程对应的数量额度时,则抛弃大于该数量额度部分的客户端请求;当小于该数量额度时,接收其发送的客户端请求。频控服务器可以获取每一台业务服务器聊天进程的性能参数,并根据其性能参数对其数量额度进行调节。
首先,频控服务器可以根据业务服务器的个数,均匀设定每一台业务服务器数量额度的最大值。由于业务系统的总处理量为10000个/S,业务服务器数量为10,因此每一台业务服务器对应的数量额度最大值可以为1000个/S。
在对每一台业务服务器进行请求数量控制的过程中,频控服务器可以预先设置第一增加态和第二增加态分别对应的增加参数,以及第一指标、第二指标和第三指标所对应的性能参数和第一额度阈值、第二额度阈值和第三额度阈值所对应的数量额度。其中,在本实际应用场景中,性能参数是通过业务服务器在目标时段内处理完的客户端请求占接收到的客户端请求比例来确定的。例如,若在1S内业务服务器接收到了100个客户端请求,处理完了其中的50个,那么在该1S内业务服务器的性能参数为50%。
在本实际应用场景中,第一增加态和第二增加态分别为缓启动态和线性自增态,第一指标为80%,第二指标为60%,第三指标为60%~80%。第一额度阈值,即缓启动态对应的额度阈值为数量额度最大值的50%,即500个/S;第二额度阈值,即线性自增态对应的额度阈值为数量额度最大值,即1000个/S;第三额度阈值,即惩罚态对应的额度阈值为数量额度最大值的10%,即100个/S。
其中,缓启动态所对应的增加参数为指数增长,即下1S的数量额度为上1S的两倍;线性自增态对应的增加参数为10个/S。具体的调节过程如图4所示:
在初始状态下,各个业务服务器的数量额度初始值都为100个/S,并进入缓启动态。此时,每1S内的业务服务器的数量额度都为上1S的两倍。频控服务器实时分析业务服务器每1S内的性能参数,当性能参数满足60%~80%,该业务服务器对应的数量额度保持不变,进入稳定态;当性能参数满足60%时,说明此时业务服务器的处理压力过大,进入惩罚态进行保护。其中,进入惩罚态的业务服务器对应的数量额度会被调节至100个/S,只有当该业务服务器聊天进程的性能参数恢复到80%后,才会重新进入缓启动态,否则会一直处于惩罚态。
若该业务服务器的性能参数一直保持在80%以上,则一直以缓启动态对应的增加参数进行额度增加。当数量额度达到了缓启动态的额度阈值(即500个/S),将会进入线性自增态。此时,业务服务器对应的数量额度将会以10个/S的增加速度进行提高。在线性自增态下,频控服务器同样实时对业务服务器每1S的性能参数进行分析。若性能参数处于60%~80%,则保持当前的数量额度不变,进入稳定态;若性能参数低于60%,则进入惩罚态;若性能参数保持在80%以上,则以10个/S的速度持续增加数量额度,直至达到线性自增态的额度阈值,即1000个/S。在达到该额度阈值后,该业务服务器对应的数量额度已经达到了最大值,此时将会进入稳定态。
进入稳定态的业务服务器同样会被频控服务器进行性能参数监控。若性能参数低于60%,则会进入惩罚态。
此外,为了更加形象的描述在本实际应用场景中的数量额度变化,本申请还提供了如图5所示的熟练变化示意图。由图可知,业务服务器的聊天进程对应的数量额度随着时间的变化在不同的状态之间进行动态切换,从而在一定程度上实现了数量额度与性能参数之间的匹配,使业务服务器能够工作在贴合自己性能情况的工作状态下,即保护了业务服务器不被过量的客户端请求损坏,又尽可能的使业务服务器承担起较多的处理压力,实现了资源的合理利用。
基于上述实施例提供的一种请求数量的控制方法,本申请实施例还提供了一种请求数量的控制装置600。参见图6,图6为本申请实施例提供的一种请求数量的控制装置的结构框图,装置600包括统计单元60确定单元602、增加单元603和降低单元604:
统计单元601,用于统计业务服务器在目标时段内所接收客户端请求的第一数量,所述目标时段的长度为至少一个单位时间;
确定单元602,用于根据所述第一数量确定所述业务服务器在所述目标时段内的性能参数;所述性能参数用于标识所述业务服务器对应所述第一数量的客户端请求的处理压力;
增加单元603,用于若所述性能参数满足第一指标,增加所述业务服务器对应的数量额度,所述数量额度用于标识所述业务服务器在单位时间内可接收客户端请求的最大数量;
降低单元604,用于若所述性能参数满足第二指标,降低所述数量额度;所述第二指标所标识的处理压力高于所述第一指标所标识的处理压力。
在一种可能的实现方式中,若所述业务服务器处于第一增加态,增加单元603具体用于:
以所述第一增加态对应的第一增加参数增加所述业务服务器对应的数量额度。
在一种可能的实现方式中,若增加后的所述数量额度达到所述第一增加态对应的第一额度阈值,装置600还包括第一调整单元:
第一调整单元,用于将所述业务服务器的状态从所述第一增加态调整为第二增加态;
其中,所述第二增加态对应的第二额度阈值大于所述第一额度阈值,所述第二增加态对应的第二增加参数对所述数量额度起到的增加程度小于所述第一增加参数对所述数量额度起到的增加程度。
在一种可能的实现方式中,若所述业务服务器处于第一增加态或所述第二增加态,且所述性能参数满足第三指标,所述第三指标所标识的处理压力高于所述第一指标所标识的处理压力,且低于所述第二指标所标识的处理压力,装置600还包括保持单元:
保持单元,用于保持所述数量额度不变。
在一种可能的实现方式中,降低单元604具体用于:
将所述业务服务器的状态调整为惩罚态,并将所述数量额度降低为所述惩罚态对应的第三额度阈值。
在一种可能的实现方式中,装置600还包括第二调整单元:
第二调整单元,用于若所述业务服务器在下一个目标时段内的性能参数满足所述第一指标,将所述业务服务器的状态从所述惩罚态调整为第一增加态,并以所述第一增加态对应的第一增加参数增加所述业务服务器对应的数量额度;所述第一增加态对应的第一额度阈值大于所述第三额度阈值。
在一种可能的实现方式中,确定单元602具体用于:
确定所述业务服务器在所述目标时段内完成处理所述客户端请求的第二数量;
根据所述第一数量和所述第二数量确定所述性能参数。
在一种可能的实现方式中,所述业务服务器为业务系统中多个服务器中的任意一个,所述数量额度可增加到的最大值是根据所述业务系统的客户端请求总处理量确定的。
在一种可能的实现方式中,所述第一数量是根据在所述目标时段内向所述业务服务器发送的客户端请求,以及所述业务服务器尚未处理完的客户端请求确定的。
本申请实施例还提供了一种用于请求数量控制的设备,下面结合附图对该设备进行介绍。请参见图7所示,本申请实施例提供了一种设备700,该设备700还可以是终端设备,该终端设备可以为包括手机、平板电脑、个人数字助理(Personal Digital Assistant,简称PDA)、销售终端(Point of Sales,简称POS)、车载电脑等任意智能终端,以终端设备为手机为例:
图7示出的是与本申请实施例提供的终端设备相关的手机的部分结构的框图。参考图7,手机包括:射频(Radio Frequency,简称RF)电路710、存储器720、输入单元730、显示单元740、传感器750、音频电路760、无线保真(wireless fidelity,简称WiFi)模块770、处理器780、以及电源790等部件。本领域技术人员可以理解,图7中示出的手机结构并不构成对手机的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
下面结合图7对手机的各个构成部件进行具体的介绍:
RF电路710可用于收发信息或通话过程中,信号的接收和发送,特别地,将基站的下行信息接收后,给处理器780处理;另外,将设计上行的数据发送给基站。通常,RF电路710包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器(Low NoiseAmplifier,简称LNA)、双工器等。此外,RF电路710还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于全球移动通讯系统(Global System of Mobile communication,简称GSM)、通用分组无线服务(GeneralPacket Radio Service,简称GPRS)、码分多址(Code Division Multiple Access,简称CDMA)、宽带码分多址(Wideband Code Division Multiple Access,简称WCDMA)、长期演进(Long Term Evolution,简称LTE)、电子邮件、短消息服务(Short Messaging Service,简称SMS)等。
存储器720可用于存储软件程序以及模块,处理器780通过运行存储在存储器720的软件程序以及模块,从而执行手机的各种功能应用以及数据处理。存储器720可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器720可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
输入单元730可用于接收输入的数字或字符信息,以及产生与手机的用户设置以及功能控制有关的键信号输入。具体地,输入单元730可包括触控面板731以及其他输入设备732。触控面板731,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板731上或在触控面板731附近的操作),并根据预先设定的程式驱动相应的连接装置。可选的,触控面板731可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器780,并能接收处理器780发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板731。除了触控面板731,输入单元730还可以包括其他输入设备732。具体地,其他输入设备732可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种。
显示单元740可用于显示由用户输入的信息或提供给用户的信息以及手机的各种菜单。显示单元740可包括显示面板741,可选的,可以采用液晶显示器(Liquid CrystalDisplay,简称LCD)、有机发光二极管(Organic Light-Emitting Diode,简称OLED)等形式来配置显示面板741。进一步的,触控面板731可覆盖显示面板741,当触控面板731检测到在其上或附近的触摸操作后,传送给处理器780以确定触摸事件的类型,随后处理器780根据触摸事件的类型在显示面板741上提供相应的视觉输出。虽然在图7中,触控面板731与显示面板741是作为两个独立的部件来实现手机的输入和输入功能,但是在某些实施例中,可以将触控面板731与显示面板741集成而实现手机的输入和输出功能。
手机还可包括至少一种传感器750,比如光传感器、运动传感器以及其他传感器。具体地,光传感器可包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板741的亮度,接近传感器可在手机移动到耳边时,关闭显示面板741和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于手机还可配置的陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。
音频电路760、扬声器761,传声器762可提供用户与手机之间的音频接口。音频电路760可将接收到的音频数据转换后的电信号,传输到扬声器761,由扬声器761转换为声音信号输出;另一方面,传声器762将收集的声音信号转换为电信号,由音频电路760接收后转换为音频数据,再将音频数据输出处理器780处理后,经RF电路710以发送给比如另一手机,或者将音频数据输出至存储器720以便进一步处理。
WiFi属于短距离无线传输技术,手机通过WiFi模块770可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图7示出了WiFi模块770,但是可以理解的是,其并不属于手机的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。
处理器780是手机的控制中心,利用各种接口和线路连接整个手机的各个部分,通过运行或执行存储在存储器720内的软件程序和/或模块,以及调用存储在存储器720内的数据,执行手机的各种功能和处理数据,从而对手机进行整体监控。可选的,处理器780可包括一个或多个处理单元;优选的,处理器780可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器780中。
手机还包括给各个部件供电的电源790(比如电池),优选的,电源可以通过电源管理系统与处理器780逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
尽管未示出,手机还可以包括摄像头、蓝牙模块等,在此不再赘述。
在本实施例中,该终端设备所包括的处理器780还具有以下功能:
统计业务服务器在目标时段内所接收客户端请求的第一数量,所述目标时段的长度为至少一个单位时间;
根据所述第一数量确定所述业务服务器在所述目标时段内的性能参数;所述性能参数用于标识所述业务服务器对应所述第一数量的客户端请求的处理压力;
若所述性能参数满足第一指标,增加所述业务服务器对应的数量额度,所述数量额度用于标识所述业务服务器在单位时间内可接收客户端请求的最大数量;
若所述性能参数满足第二指标,降低所述数量额度;所述第二指标所标识的处理压力高于所述第一指标所标识的处理压力。
本申请实施例还提供一种服务器,请参见图8所示,图8为本申请实施例提供的服务器800的结构图,服务器800可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上中央处理器(Central Processing Units,简称CPU)822(例如,一个或一个以上处理器)和存储器832,一个或一个以上存储应用程序842或数据844的存储介质830(例如一个或一个以上海量存储设备)。其中,存储器832和存储介质830可以是短暂存储或持久存储。存储在存储介质830的程序可以包括一个或一个以上模块(图示没标出),每个模块可以包括对服务器中的一系列指令操作。更进一步地,中央处理器822可以设置为与存储介质830通信,在服务器800上执行存储介质830中的一系列指令操作。
服务器800还可以包括一个或一个以上电源826,一个或一个以上有线或无线网络接口850,一个或一个以上输入输出接口858,和/或,一个或一个以上操作系统841,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM等等。
上述实施例中由服务器所执行的步骤可以基于图8所示的服务器结构。
本申请实施例还提供一种计算机可读存储介质,用于存储计算机程序,该计算机程序用于执行前述各个实施例所述的请求数量的控制方法中的任意一种实施方式。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述程序可以存储于一计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质可以是下述介质中的至少一种:只读存储器(英文:read-only memory,缩写:ROM)、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
需要说明的是,本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于设备及系统实施例而言,由于其基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。以上所描述的设备及系统实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
以上所述,仅为本申请的一种具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应该以权利要求的保护范围为准。
Claims (15)
1.一种请求数量的控制方法,其特征在于,所述方法包括:
统计业务服务器在目标时段内所接收客户端请求的第一数量,所述目标时段的长度为至少一个单位时间;
根据所述第一数量确定所述业务服务器在所述目标时段内的性能参数;所述性能参数用于标识所述业务服务器对应所述第一数量的客户端请求的处理压力;
若所述性能参数满足第一指标,增加所述业务服务器对应的数量额度,所述数量额度用于标识所述业务服务器在单位时间内可接收客户端请求的最大数量;
若所述性能参数满足第二指标,降低所述数量额度;所述第二指标所标识的处理压力高于所述第一指标所标识的处理压力。
2.根据权利要求1所述的方法,其特征在于,若所述业务服务器处于第一增加态,所述增加所述业务服务器对应的数量额度,包括:
以所述第一增加态对应的第一增加参数增加所述业务服务器对应的数量额度。
3.根据权利要求2所述的方法,其特征在于,若增加后的所述数量额度达到所述第一增加态对应的第一额度阈值,所述方法还包括:
将所述业务服务器的状态从所述第一增加态调整为第二增加态;
其中,所述第二增加态对应的第二额度阈值大于所述第一额度阈值,所述第二增加态对应的第二增加参数对所述数量额度起到的增加程度小于所述第一增加参数对所述数量额度起到的增加程度。
4.根据权利要求3所述的方法,其特征在于,若所述业务服务器处于第一增加态或所述第二增加态,且所述性能参数满足第三指标,所述第三指标所标识的处理压力高于所述第一指标所标识的处理压力,且低于所述第二指标所标识的处理压力,所述方法还包括:
保持所述数量额度不变。
5.根据权利要求1-4任意一项所述的方法,其特征在于,所述降低所述数量额度,包括:
将所述业务服务器的状态调整为惩罚态,并将所述数量额度降低为所述惩罚态对应的第三额度阈值。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
若所述业务服务器在下一个目标时段内的性能参数满足所述第一指标,将所述业务服务器的状态从所述惩罚态调整为第一增加态,并以所述第一增加态对应的第一增加参数增加所述业务服务器对应的数量额度;所述第一增加态对应的第一额度阈值大于所述第三额度阈值。
7.根据权利要求1-4任意一项所述的方法,其特征在于,所述根据所述第一数量确定所述业务服务器在所述目标时段内的性能参数,包括:
确定所述业务服务器在所述目标时段内完成处理所述客户端请求的第二数量;
根据所述第一数量和所述第二数量确定所述性能参数。
8.根据权利要求1-4任意一项所述的方法,其特征在于,所述业务服务器为业务系统中多个服务器中的任意一个,所述数量额度可增加到的最大值是根据所述业务系统的客户端请求总处理量确定的。
9.根据权利要求1所述的方法,其特征在于,所述第一数量是根据在所述目标时段内向所述业务服务器发送的客户端请求,以及所述业务服务器尚未处理完的客户端请求确定的。
10.一种请求数量的控制装置,其特征在于,所述装置包括统计单元、确定单元、增加单元和降低单元:
所述统计单元,用于统计业务服务器在目标时段内所接收客户端请求的第一数量,所述目标时段的长度为至少一个单位时间;
所述确定单元,用于根据所述第一数量确定所述业务服务器在所述目标时段内的性能参数;所述性能参数用于标识所述业务服务器对应所述第一数量的客户端请求的处理压力;
所述增加单元,用于若所述性能参数满足第一指标,增加所述业务服务器对应的数量额度,所述数量额度用于标识所述业务服务器在单位时间内可接收客户端请求的最大数量;
所述降低单元,用于若所述性能参数满足第二指标,降低所述数量额度;所述第二指标所标识的处理压力高于所述第一指标所标识的处理压力。
11.根据权利要求10所述的装置,其特征在于,若所述业务服务器处于第一增加态,所述增加单元具体用于:
以所述第一增加态对应的第一增加参数增加所述业务服务器对应的数量额度。
12.根据权利要求11所述的装置,其特征在于,若增加后的所述数量额度达到所述第一增加态对应的第一额度阈值,所述装置还包括第一调整单元:
所述第一调整单元,用于将所述业务服务器的状态从所述第一增加态调整为第二增加态;
其中,所述第二增加态对应的第二额度阈值大于所述第一额度阈值,所述第二增加态对应的第二增加参数对所述数量额度起到的增加程度小于所述第一增加参数对所述数量额度起到的增加程度。
13.根据权利要求12所述的装置,其特征在于,若所述业务服务器处于第一增加态或所述第二增加态,且所述性能参数满足第三指标,所述第三指标所标识的处理压力高于所述第一指标所标识的处理压力,且低于所述第二指标所标识的处理压力,所述装置还包括保持单元:
所述保持单元,用于保持所述数量额度不变。
14.一种用于请求数量控制的设备,其特征在于,所述设备包括处理器以及存储器:
所述存储器用于存储程序代码,并将所述程序代码传输给所述处理器;
所述处理器用于根据所述程序代码中的指令执行权利要求1-9中任意一项所述的请求数量的控制方法。
15.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质用于存储计算机程序,所述计算机程序用于执行权利要求1-9中任意一项所述的请求数量的控制方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010500384.9A CN111651339B (zh) | 2020-06-04 | 2020-06-04 | 一种请求数量的控制方法和相关装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010500384.9A CN111651339B (zh) | 2020-06-04 | 2020-06-04 | 一种请求数量的控制方法和相关装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111651339A true CN111651339A (zh) | 2020-09-11 |
CN111651339B CN111651339B (zh) | 2022-02-15 |
Family
ID=72347125
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010500384.9A Active CN111651339B (zh) | 2020-06-04 | 2020-06-04 | 一种请求数量的控制方法和相关装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111651339B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112363839A (zh) * | 2020-11-23 | 2021-02-12 | 腾讯科技(深圳)有限公司 | 一种资源请求处理方法、装置及服务器 |
CN112395091A (zh) * | 2020-11-24 | 2021-02-23 | 上海商汤智能科技有限公司 | 云服务请求响应方法及装置、电子设备和存储介质 |
CN117714056A (zh) * | 2024-02-05 | 2024-03-15 | 中国船舶集团有限公司第七〇七研究所 | 一种面向服务的专用密码服务体系 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8953453B1 (en) * | 2011-12-15 | 2015-02-10 | Amazon Technologies, Inc. | System and method for throttling service requests using work-based tokens |
CN104580288A (zh) * | 2013-10-15 | 2015-04-29 | 腾讯科技(深圳)有限公司 | 一种控制客户端请求量的方法及装置 |
CN108600034A (zh) * | 2018-05-28 | 2018-09-28 | 腾讯科技(深圳)有限公司 | 业务压力管理方法、装置、设备、系统及存储介质 |
CN110460676A (zh) * | 2019-08-22 | 2019-11-15 | 腾讯科技(深圳)有限公司 | 请求量控制方法、装置、存储介质和计算机设备 |
CN110730136A (zh) * | 2019-10-10 | 2020-01-24 | 腾讯科技(深圳)有限公司 | 一种实现流量控制的方法、装置、服务器及存储介质 |
CN110795236A (zh) * | 2019-09-26 | 2020-02-14 | 北京大米科技有限公司 | 调整服务器容量的方法、装置、电子设备及介质 |
-
2020
- 2020-06-04 CN CN202010500384.9A patent/CN111651339B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8953453B1 (en) * | 2011-12-15 | 2015-02-10 | Amazon Technologies, Inc. | System and method for throttling service requests using work-based tokens |
CN104580288A (zh) * | 2013-10-15 | 2015-04-29 | 腾讯科技(深圳)有限公司 | 一种控制客户端请求量的方法及装置 |
CN108600034A (zh) * | 2018-05-28 | 2018-09-28 | 腾讯科技(深圳)有限公司 | 业务压力管理方法、装置、设备、系统及存储介质 |
CN110460676A (zh) * | 2019-08-22 | 2019-11-15 | 腾讯科技(深圳)有限公司 | 请求量控制方法、装置、存储介质和计算机设备 |
CN110795236A (zh) * | 2019-09-26 | 2020-02-14 | 北京大米科技有限公司 | 调整服务器容量的方法、装置、电子设备及介质 |
CN110730136A (zh) * | 2019-10-10 | 2020-01-24 | 腾讯科技(深圳)有限公司 | 一种实现流量控制的方法、装置、服务器及存储介质 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112363839A (zh) * | 2020-11-23 | 2021-02-12 | 腾讯科技(深圳)有限公司 | 一种资源请求处理方法、装置及服务器 |
CN112363839B (zh) * | 2020-11-23 | 2024-03-15 | 腾讯科技(深圳)有限公司 | 一种资源请求处理方法、装置及服务器 |
CN112395091A (zh) * | 2020-11-24 | 2021-02-23 | 上海商汤智能科技有限公司 | 云服务请求响应方法及装置、电子设备和存储介质 |
WO2022110796A1 (zh) * | 2020-11-24 | 2022-06-02 | 上海商汤智能科技有限公司 | 云服务请求响应方法及装置、电子设备和存储介质 |
CN117714056A (zh) * | 2024-02-05 | 2024-03-15 | 中国船舶集团有限公司第七〇七研究所 | 一种面向服务的专用密码服务体系 |
Also Published As
Publication number | Publication date |
---|---|
CN111651339B (zh) | 2022-02-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110198275B (zh) | 一种流量控制方法、系统、服务器及存储介质 | |
CN111651339B (zh) | 一种请求数量的控制方法和相关装置 | |
CN107272872B (zh) | 省电控制方法及相关产品 | |
US20180137565A1 (en) | Method, device, and storage medium for determining credit score | |
CN107368400B (zh) | Cpu监测方法、装置、计算机可读存储介质和移动终端 | |
US10444822B2 (en) | Method for managing central processing unit and related products | |
EP2728442B1 (en) | Method and device for controlling central processing unit | |
US9680921B2 (en) | Method, apparatus, and system for controlling voice data transmission | |
CN104460934A (zh) | 多cpu调度方法及装置 | |
CN104967634A (zh) | 文件上传方法及装置 | |
CN113393061B (zh) | 一种基于区块链的交易打包方法和相关装置 | |
CN110022405B (zh) | 射频参数调整方法、装置及存储介质 | |
EP3419348B1 (en) | Terminal device and method for processing positioning information for terminal device | |
CN111371916B (zh) | 一种数据处理方法及相关设备 | |
CN110045811B (zh) | 应用程序处理方法和装置、电子设备、计算机可读存储介质 | |
CN116610372A (zh) | 一种中央处理器配置方法、装置及相关产品 | |
CN115118636B (zh) | 网络抖动状态的确定方法、装置、电子设备及存储介质 | |
CN106776041B (zh) | 一种数据处理方法及装置 | |
CN107329547B (zh) | 一种温度控制的方法和设备以及移动终端 | |
JP7272694B2 (ja) | 端末の電力消費を低減するための方法、および端末 | |
CN104461485A (zh) | 一种窗体着色的方法及用户设备 | |
CN111132282B (zh) | 一种应用于移动终端的应用处理器唤醒方法及装置 | |
CN109151154B (zh) | 功耗控制方法、及移动终端 | |
CN112995265A (zh) | 请求分发方法、装置及电子设备 | |
CN108900361B (zh) | 云资源配置确定方法、装置及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40028506 Country of ref document: HK |
|
GR01 | Patent grant | ||
GR01 | Patent grant |