CN106201722A - 服务器的负载调整方法及系统 - Google Patents
服务器的负载调整方法及系统 Download PDFInfo
- Publication number
- CN106201722A CN106201722A CN201610547677.6A CN201610547677A CN106201722A CN 106201722 A CN106201722 A CN 106201722A CN 201610547677 A CN201610547677 A CN 201610547677A CN 106201722 A CN106201722 A CN 106201722A
- Authority
- CN
- China
- Prior art keywords
- server
- load
- grade
- adjustable strategies
- service
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/5038—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the execution order of a plurality of tasks, e.g. taking priority or time dependency constraints into consideration
Abstract
本申请提供了一种服务器的负载调整方法,涉及计算机技术领域,包括:监测服务器的负载参数,确定所述服务器的负载等级;参照预定的负载等级/服务器调整策略模型,确定与所述服务器的负载等级对应的服务器调整策略;将所述服务器调整策略发送至所述服务器。本申请还提供了相应的系统。本申请实施例所示的方法和系统,能够根据监测到的负载参数判断服务器的负载等级,并根据预设的负载等级/服务器调整策略模型对服务器在不同负载等级下的运行情况进行自动调整,响应速度快,处理时间短,增加了系统性能。且整个调整过程中均为机器自动处理,无需人为操作,大大减少了人为因素带来的各种误差。
Description
技术领域
本申请涉及计算机技术领域,具体涉及一种服务器的负载调整方法及系统。
背景技术
随着计算机互联网技术的发展,特别是随着全球化进程的推进,互联网的覆盖范围越来越大,覆盖深度已经深入人们的衣食住行。随着服务器服务的客户端基数增大,服务器的负载越来越高。尤其是当某一时间段大量用户同时访问同一网站时(例如,春运时购买火车票,或者双十一商城大促等情况),若不能根据负载情况对该网站的服务器进行优化处理,则该网站的服务器的运行会越来越慢甚至导致宕机,对访问该网站的用户来说体验极为不佳。现有技术中,在大量用户请求访问服务器时,通常是由运维工程师实时监控服务器的运行情况。当发现服务器压力过大时,运维工程师则会通知各方以进行排查,确定问题来源,并以此来决策是否对服务器进行调整及如何调整。
在实现本申请的过程中,发明人发现现有技术至少存在以下问题:现有技术缺乏在大量用户同时访问网站时对服务器的统一处理方案,其实现服务器降级的程序由工程师自己编写,这些程序有的直接固化到代码中,有的则在配置文件中控制。由于对服务器的调整过程是人为控制且参与的,通常不能被快速响应,可能会导致系统较长一段时间内不能使用,且人为参与容易带来各种问题,在网站活动中例如商城大促当天非常致命。
发明内容
本申请实施例提供一种服务器的负载调整方法及系统,用以解决上述阐述的现有技术中的至少一个问题。
本申请实施例的一个方面提供了一种服务器的负载调整方法,包括:
监测服务器的负载参数,确定所述服务器的负载等级;
参照预定的负载等级/服务器调整策略模型,确定与所述服务器的负载等级对应的服务器调整策略;
将所述服务器调整策略发送至所述服务器。
本申请实施例的另一方面提供了一种服务器的负载调整系统,所述系统包括:
负载等级确定单元,用于监测服务器的负载参数,确定所述服务器的负载等级;
调整策略确定单元,用于参照预定的负载等级/服务器调整策略模型,确定与所述服务器的负载等级对应的服务器调整策略;
调整策略发送单元,用于将所确定的服务器调整策略发送至所述服务器。
本申请实施例提供的服务器的负载调整方法及系统,通过监测服务器的负载参数来确定服务器的负载等级,并根据预定的负载等级/服务器调整策略模型确定与该负载等级对应的服务器调整策略后,将该服务器调整策略发送至服务器使服务器根据该服务器调整策略进行相应的处理即可满足服务器在不同负载情况下的自动调整。与现有技术相比,本申请实施例所示方法及系统能够根据监测到的负载参数判断服务器的负载等级,并根据预设的负载等级/服务器调整策略模型对服务器在不同负载等级下的运行情况进行自动调整,响应速度快,处理时间短,增加了系统性能。且整个调整过程中均为机器自动处理,无需人为操作,大大减少了人为因素带来的各种误差。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请一实施例的服务器的负载调整方法的流程图;
图2是本申请一实施例的服务器的负载调整系统的结构示意图;
图3是本申请另一实施例的服务器的负载调整设备的结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
需要说明的是,在不冲突的情况下,本申请中的实施方式及实施方式中的特征可以相互组合。
本申请可用于众多通用或专用的计算系统环境或配置中。例如:个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。
本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”,不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
图1是本申请一实施例的服务器的负载调整方法的流程图。如图1所示,该方法包括:
S11:监测服务器的负载参数,确定所述服务器的负载等级;
S12:参照预定的负载等级/服务器调整策略模型,确定与所述服务器的负载等级对应的服务器调整策略;
S13:将所述服务器调整策略发送至所述服务器。
在本实施例中,对服务器的负载参数的监测可以通过shell脚本采集服务器的负载数据,并写入到txt文件中。通过作业,定时将这些数据写到MYSQL数据库中。同时分析Nginx记录的日志,将应用服务的性能数据例如每次请求服务的响应时间、异常错误数等数据插入到数据库中。服务器调整策略确定后,可以生成相应的通知或指令,并发送至服务器以使服务器根据该通知或指令进行对应于服务器调整策略的相应处理。
本申请实施例提供的服务器的负载调整方法,通过监测服务器的负载参数来确定服务器的负载等级,并根据预定的负载等级/服务器调整策略模型确定与该负载等级对应的服务器调整策略后,将该服务器调整策略发送至服务器使服务器根据该服务器调整策略进行相应的处理即可满足服务器在不同负载情况下的自动调整。与现有技术相比,本申请实施例所示方法能够根据监测到的负载参数判断服务器的负载等级,并根据预设的负载等级/服务器调整策略模型对服务器在不同负载等级下的运行情况进行自动调整,响应速度快,处理时间短,增加了系统性能。且整个调整过程中均为机器自动处理,无需人为操作,大大减少了人为因素带来的各种误差。
作为图1所示实施例的进一步优化,图1所示实施例中,负载等级/服务器调整策略模型包括多个负载等级以及与所述多个负载等级对应的多个服务器调整策略,其中,所述负载等级越高,所述服务器调整策略中选择的一个或多个调整手段的强度值越大。
本实施例的负载等级/服务器调整策略模型中,每个负载等级对应的服务器调整策略包括一个或多个调整手段。负载等级越高,则表明服务器压力越大,系统运行受到的影响越严重,因此对应的调整手段的强度越大。通过为每个调整手段设置相应的强度值,可以为不同的负载等级分配具有不同强度值总和的调整手段以调整服务器的负载。
作为上述实施例的进一步说明,服务器调整策略中的调整手段至少包括增加服务器、限流、对服务器中的至少一种应用服务降级中的至少一种,其中增加服务器、限流、对服务器中的至少一种应用服务降级具有各自的调整强度值。
本实施例中,限流指:当前流量如果超过预设的值或者系统承受能力,则直接拒绝掉一部分请求,以实现对系统的保护。根据基于的数据不同,限流可分为两种:1、基于流量阈值的限流:流量阈值是每个主机的流量上限,流量超过该阈值主机将进入不稳定状态。因此可以提前对阈值进行设定,如果主机当前流量超过阈值,则拒绝掉一部分流量,使得实际被处理流量始终低于阈值。2、基于主机状态的限流:每个接受每个请求之前先判断当前主机状态,如果主机状况不佳,则拒绝当前请求。
本实施例中限流的方式可以有:对于大多数请求按照IP请求数限流,对于登陆用户按照用户限流;对于读取缓存的请求不进行限流,对进入到后端系统的请求进行限流。还可以限制用户访问频率,例如使用ngx_lua中的ngx.sleep对请求进行休眠处理,使得接口刷新的速度降下来;或者种植cookie token,防止程序自动提交表单,使其必须按照流程访问。还可以对爬虫/刷数据的请求返回假数据来减少影响。当服务器当前的负载等级对应的服务器调整策略中包括限流时,可以在因为限流而返回的数据中带上例如“当前请求因为超出流量而被禁止访问”等相关信息。
增加服务器是指在流量超过系统服务能力时,触发集群扩容,部署多个服务器并上线运行。对服务器中的至少一种应用服务降级是指在服务器负载过高时关闭不重要的接口(直接拒绝处理请求),而保留重要的接口。比如应用服务有10个接口,服务降级时关闭了其中五个,保留五个,这时服务器的服务处理能力将增强到二倍左右。
本实施例中,增加服务器、限流、对服务器中的至少一种应用服务降级等三种调整手段的强度值不同,增加服务器的强度值例如可以是1,限流的强度值例如可以是3,对服务器中的至少一种应用服务降级的强度值例如可以是5。则服务器调整策略可以有7个,如下表所示。
表1服务器调整策略
应当理解的是,本申请实施例所述方法中,当服务器负载等级高时,可以通过服务器调整策略降低服务器的负载,其中该服务器调整策略中的调整手段的强度值较高;从而导致服务器负载等级降低后,此时采用的服务器调整策略其调整手段的强度值较低。
作为上述实施例的进一步说明,上述实施例中对服务器中的至少一种应用服务降级包括:减少应用服务接口中的至少一个扩展业务的业务逻辑。
本实施例中,可以对服务器中的应用服务的业务进行优先级划分。优先级高的业务,例如核心业务(12306系统的订票功能,商城的买单、付款功能),其业务逻辑无需减少;而优先级低的业务,例如扩展业务(机票、火车票的选座功能,商城的商品推荐功能),在服务器负载等级较高时,其业务逻辑可以暂时去掉,以优先为优先级高的业务进行服务。当然,当服务器负载过高例如负载等级最高时,即使减少扩展业务的业务逻辑也不能使得服务器负载降低,此时则应当减少所有业务的业务逻辑以防止服务器宕机。
根据上述实施例,本申请实施例中的负载等级/服务器调整策略模型的一具体实施例如表2所示。
表2负载等级/服务器调整策略模型
作为本申请实施例的进一步说明,本申请实施例中负载参数根据CPU占用、内存占用、磁盘输入输出次数、带宽占用、并发请求数、服务响应时间和服务错误数确定。
本实施例中,服务器的负载参数可以根据服务器的负载数据(CPU占用、内存占用、磁盘输入输出次数)、服务器的网络数据(带宽占用、并发请求数)和服务器的应用服务性能数据(服务响应时间、服务错误数)来确定。负载参数可以是上述数据中的一种或多种,也可以由上述数据中的多种来确定。当负载参数由上述数据中的多种来确定时,其具体值可以通过以下方式确定:
每种数据均具有相应的权重,例如CPU占用的权重为10,内存占用的权重为9,带宽占用的权重为7,服务响应时间的权重为5等。每种数据还具有多个区间及区间计量值,例如,CPU占用分为三个区间,第一区间为0-30%,其计量值为5;第二区间为30%-60%,其计量值为15;第三区间为60-100%,其计量值为30。又或者,服务响应时间分为四个区间,第一区间为0-0.1s,其计量值为1;第二区间为0.1s-1s,其计量值为5;第三区间为1s-3s,其计量值为13;第四区间为3s以上,其计量值为50。将每种数据的计量值与权重相乘,得到数值总和即为服务器的负载参数。例如,服务器当前CPU占用为50%,其计量值为15,CPU占用的权重为10;服务器当前服务响应平均时间为0.6s,其计量值为5,服务响应时间的权重为5;由此可得到服务器的负载参数为15×10+5×5=175。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作合并,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本申请所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
图2是本申请一实施例的服务器的负载调整系统的结构示意图。本申请实施例中所述的服务器的负载调整方法可以基于本实施例中的服务器的负载调整系统实施。如图2所示,该系统包括负载等级确定单元21、调整策略确定单元22和调整策略发送单元23。
负载等级确定单元21用于监测服务器的负载参数,确定所述服务器的负载等级;
调整策略确定单元22用于参照预定的负载等级/服务器调整策略模型,确定与所述服务器的负载等级对应的服务器调整策略;
调整策略发送单元23用于将所确定的服务器调整策略发送至所述服务器。
本申请实施例提供的服务器的负载调整系统,通过负载等级确定单元21监测服务器的负载参数来确定服务器的负载等级,并通过调整策略确定单元22根据预定的负载等级/服务器调整策略模型确定与该负载等级对应的服务器调整策略后,通过调整策略发送单元23将该服务器调整策略发送至服务器使服务器根据该服务器调整策略进行相应的处理即可满足服务器在不同负载情况下的自动调整。与现有技术相比,本申请实施例所示系统能够根据监测到的负载参数判断服务器的负载等级,并根据预设的负载等级/服务器调整策略模型对服务器在不同负载等级下的运行情况进行自动调整,响应速度快,处理时间短,增加了系统性能。且整个调整过程中均为机器自动处理,无需人为操作,大大减少了人为因素带来的各种误差。
本申请实施例中可以通过硬件处理器(hardware processor)来实现相关功能模块。
图3是本申请一可选实施例的服务器的负载调整设备的结构示意图。本申请具体实施例并不对服务器的负载调整设备的具体实现做限定。如图3所示,该设备可以包括:
处理器(processor)310、通信接口(Communications Interface)320、存储器(memory)330、以及通信总线340。其中:
处理器310、通信接口320、以及存储器330通过通信总线340完成相互间的通信。
通信接口320,用于与比如客户端等的网元通信。
处理器310,用于执行程序332,具体可以执行上述方法实施例中的相关步骤。
具体地,程序332可以包括程序代码,所述程序代码包括计算机操作指令。
处理器310可能是一个中央处理器CPU,或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit),或者是被配置成实施本申请实施例的一个或多个集成电路。
上述实施中的服务器中:
存储器,用于存放计算机操作指令;
处理器,用于执行所述存储器存储的计算机操作指令,以执行:
监测服务器的负载参数,确定所述服务器的负载等级;
参照预定的负载等级/服务器调整策略模型,确定与所述服务器的负载等级对应的服务器调整策略;
将所述服务器调整策略发送至所述服务器。
作为图2所示实施例的进一步优化,图2所示实施例中,负载等级/服务器调整策略模型包括多个负载等级以及与所述多个负载等级对应的多个服务器调整策略,其中,所述负载等级越高,所述服务器调整策略中选择的一个或多个调整手段的强度值越大。
本实施例的负载等级/服务器调整策略模型中,每个负载等级对应的服务器调整策略包括一个或多个调整手段。负载等级越高,则表明服务器压力越大,系统运行受到的影响越严重,因此对应的调整手段的强度越大。通过为每个调整手段设置相应的强度值,可以为不同的负载等级分配具有不同强度值总和的调整手段以调整服务器的负载。
作为上述实施例的进一步说明,服务器调整策略中的调整手段至少包括增加服务器、限流、对服务器中的至少一种应用服务降级中的至少一种,其中增加服务器、限流、对服务器中的至少一种应用服务降级具有各自的调整强度值。
本实施例中,增加服务器、限流、对服务器中的至少一种应用服务降级等三种调整手段的强度值不同,增加服务器的强度值例如可以是1,限流的强度值例如可以是3,对服务器中的至少一种应用服务降级的强度值例如可以是5。则服务器调整策略可以有7个,如表1所示。
作为上述实施例的进一步说明,上述实施例中对服务器中的至少一种应用服务降级包括:减少应用服务接口中的至少一个扩展业务的业务逻辑。
本实施例中,可以对服务器中的应用服务的业务进行优先级划分。优先级高的业务,例如核心业务(12306系统的订票功能,商城的买单、付款功能),其业务逻辑无需减少;而优先级低的业务,例如扩展业务(机票、火车票的选座功能,商城的商品推荐功能),在服务器负载等级较高时,其业务逻辑可以暂时去掉,以优先为优先级高的业务进行服务。当然,当服务器负载过高例如负载等级最高时,即使减少扩展业务的业务逻辑也不能使得服务器负载降低,此时则应当减少所有业务的业务逻辑以防止服务器宕机。
根据上述实施例,本申请实施例中的负载等级/服务器调整策略模型的一个具体例子如表2所示。
作为本申请实施例的进一步说明,本申请实施例中负载参数根据CPU占用、内存占用、磁盘输入输出次数、带宽占用、并发请求数、服务响应时间和服务错误数确定。
本实施例中,服务器的负载参数可以根据服务器的负载数据(CPU占用、内存占用、磁盘输入输出次数)、服务器的网络数据(带宽占用、并发请求数)和服务器的应用服务性能数据(服务响应时间、服务错误数)来确定。负载参数可以是上述数据中的一种或多种,也可以由上述数据中的多种来确定。当负载参数由上述数据中的多种来确定时,其具体值可以通过以下方式确定:
每种数据均具有相应的权重,例如CPU占用的权重为10,内存占用的权重为9,带宽占用的权重为7,服务响应时间的权重为5等。每种数据还具有多个区间及区间计量值,例如,CPU占用分为三个区间,第一区间为0-30%,其计量值为5;第二区间为30%-60%,其计量值为15;第三区间为60-100%,其计量值为30。又或者,服务响应时间分为四个区间,第一区间为0-0.1s,其计量值为1;第二区间为0.1s-1s,其计量值为5;第三区间为1s-3s,其计量值为13;第四区间为3s以上,其计量值为50。将每种数据的计量值与权重相乘,得到数值总和即为服务器的负载参数。例如,服务器当前CPU占用为50%,其计量值为15,CPU占用的权重为10;服务器当前服务响应平均时间为0.6s,其计量值为5,服务响应时间的权重为5;由此可得到服务器的负载参数为15×10+5×5=175。
以上所描述的方法实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施例的描述,本领域的技术人员可以清楚地了解到各实施例可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
最后应说明的是:以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。
Claims (10)
1.一种服务器的负载调整方法,包括:
监测服务器的负载参数,确定所述服务器的负载等级;
参照预定的负载等级/服务器调整策略模型,确定与所述服务器的负载等级对应的服务器调整策略;
将所述服务器调整策略发送至所述服务器。
2.根据权利要求1所述的方法,其中,所述负载等级/服务器调整策略模型包括多个负载等级以及与所述多个负载等级对应的多个服务器调整策略,其中,所述负载等级越高,所述服务器调整策略中选择的一个或多个调整手段的强度值越大。
3.根据权利要求2所述的方法,其中,所述服务器调整策略中的调整手段至少包括增加服务器、限流、对服务器中的至少一种应用服务降级中的至少一种,其中增加服务器、限流、对服务器中的至少一种应用服务降级具有各自的调整强度值。
4.根据权利要求3所述的方法,其中,所述对服务器中的至少一种应用服务降级包括:减少应用服务接口中的至少一个扩展业务的业务逻辑。
5.根据权利要求1-4中任一项所述的方法,其中,所述负载参数根据CPU占用、内存占用、磁盘输入输出次数、带宽占用、并发请求数、服务响应时间和服务错误数中的至少一种确定。
6.一种服务器的负载调整系统,包括:
负载等级确定单元,用于监测服务器的负载参数,确定所述服务器的负载等级;
调整策略确定单元,用于参照预定的负载等级/服务器调整策略模型,确定与所述服务器的负载等级对应的服务器调整策略;
调整策略发送单元,用于将所确定的服务器调整策略发送至所述服务器。
7.根据权利要求6所述的系统,其中,所述负载等级/服务器调整策略模型包括多个负载等级以及与所述多个负载等级对应的多个服务器调整策略,其中,所述负载等级越高,所述服务器调整策略中选择的一个或多个调整手段的强度值越大。
8.根据权利要求7所述的系统,其中,所述服务器调整策略中的调整手段至少包括增加服务器、限流、对服务器中的至少一种应用服务降级中的至少一种,其中增加服务器、限流、对服务器中的至少一种应用服务降级具有各自的调整强度值。
9.根据权利要求8所述的系统,其中,所述对服务器中的至少一种应用服务降级包括:减少应用服务接口中的至少一个扩展业务的业务逻辑。
10.根据权利要求6-9中任一项所述的系统,其中,所述负载参数根据CPU占用、内存占用、磁盘输入输出次数、带宽占用、并发请求数、服务响应时间和服务错误数中的至少一种确定。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610547677.6A CN106201722A (zh) | 2016-07-12 | 2016-07-12 | 服务器的负载调整方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610547677.6A CN106201722A (zh) | 2016-07-12 | 2016-07-12 | 服务器的负载调整方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN106201722A true CN106201722A (zh) | 2016-12-07 |
Family
ID=57477053
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610547677.6A Pending CN106201722A (zh) | 2016-07-12 | 2016-07-12 | 服务器的负载调整方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106201722A (zh) |
Cited By (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106713028A (zh) * | 2016-12-20 | 2017-05-24 | 北京小米移动软件有限公司 | 业务降级方法、装置和分布式任务调度系统 |
CN107070716A (zh) * | 2017-04-14 | 2017-08-18 | 腾讯科技(深圳)有限公司 | 游戏服务器状态获取方法、装置、电子设备及存储介质 |
CN107196785A (zh) * | 2017-03-31 | 2017-09-22 | 北京奇艺世纪科技有限公司 | 后端服务自动降级的方法及装置 |
CN107239341A (zh) * | 2017-05-27 | 2017-10-10 | 郑州云海信息技术有限公司 | 一种资源折算方法、系统及虚拟机资源调度系统 |
CN107800756A (zh) * | 2017-03-13 | 2018-03-13 | 平安科技(深圳)有限公司 | 一种负载均衡方法及负载均衡器 |
CN108173698A (zh) * | 2018-01-17 | 2018-06-15 | 阿里巴巴集团控股有限公司 | 网络服务管理方法、装置、服务器及存储介质 |
CN108804152A (zh) * | 2018-05-04 | 2018-11-13 | 北京信安世纪科技股份有限公司 | 配置参数的调节方法及装置 |
CN108900382A (zh) * | 2018-07-18 | 2018-11-27 | 腾讯科技(深圳)有限公司 | 测试方法及其装置 |
CN109032805A (zh) * | 2018-08-06 | 2018-12-18 | 深圳乐信软件技术有限公司 | 一种弹性扩缩容方法、装置、服务器及存储介质 |
CN109218369A (zh) * | 2017-07-05 | 2019-01-15 | 阿里巴巴集团控股有限公司 | 远程过程调用请求控制方法及装置 |
CN109783304A (zh) * | 2017-11-15 | 2019-05-21 | 中国移动通信有限公司研究院 | 一种数据中心的节能调度方法及对应装置 |
CN110209502A (zh) * | 2019-06-05 | 2019-09-06 | 北京奇艺世纪科技有限公司 | 一种信息存储方法、装置、电子设备及存储介质 |
CN110311933A (zh) * | 2018-03-20 | 2019-10-08 | 中国移动通信集团有限公司 | 一种均衡业务流量的方法、装置、设备及存储介质 |
CN110389824A (zh) * | 2018-04-20 | 2019-10-29 | 伊姆西Ip控股有限责任公司 | 处理计算任务的方法、设备和计算机程序产品 |
CN110515728A (zh) * | 2019-08-19 | 2019-11-29 | 杭州迪普科技股份有限公司 | 服务器调度方法、装置、电子设备及机器可读存储介质 |
CN111324886A (zh) * | 2020-03-12 | 2020-06-23 | 杭州海康威视系统技术有限公司 | 业务请求的处理方法、装置和服务器 |
CN111756648A (zh) * | 2019-03-27 | 2020-10-09 | 百度在线网络技术(北京)有限公司 | 流量拥塞控制方法、装置、设备和介质 |
CN111831504A (zh) * | 2019-04-15 | 2020-10-27 | 北京京东尚科信息技术有限公司 | 监控方法、监控装置、计算机设备和介质 |
CN111858268A (zh) * | 2019-04-24 | 2020-10-30 | 中国信息通信研究院 | 一种基于能耗测试确定能效等级的方法 |
CN112740642A (zh) * | 2020-08-31 | 2021-04-30 | 华为技术有限公司 | 通信方法及多接入边缘计算服务器 |
WO2021114829A1 (zh) * | 2020-06-09 | 2021-06-17 | 平安科技(深圳)有限公司 | 基于令牌桶的接口限流方法、装置、系统及可读存储介质 |
CN114442935A (zh) * | 2021-12-29 | 2022-05-06 | 天翼云科技有限公司 | 刷脏数据的方法、装置、电子设备及存储介质 |
CN114844835A (zh) * | 2022-07-04 | 2022-08-02 | 眉山环天智慧科技有限公司 | 一种自适应动态限流方法、设备 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6473791B1 (en) * | 1998-08-17 | 2002-10-29 | Microsoft Corporation | Object load balancing |
CN102611735A (zh) * | 2011-12-21 | 2012-07-25 | 奇智软件(北京)有限公司 | 一种应用服务的负载均衡方法及系统 |
CN102833355A (zh) * | 2012-09-22 | 2012-12-19 | 广东电子工业研究院有限公司 | 一种面向云计算的负载均衡系统及机制 |
CN102857577A (zh) * | 2012-09-24 | 2013-01-02 | 北京联创信安科技有限公司 | 一种集群存储自动负载均衡的系统及方法 |
CN103412875A (zh) * | 2013-07-11 | 2013-11-27 | 广东工业大学 | 基于ahp决策模型的cdn策略调整方法 |
CN104301404A (zh) * | 2014-09-29 | 2015-01-21 | 华为技术有限公司 | 一种基于虚拟机的调整业务系统资源的方法及装置 |
US20160142274A1 (en) * | 2014-11-14 | 2016-05-19 | Bigleaf Networks, Llc | Circuit-aware load balancing with dynamic quality of service |
-
2016
- 2016-07-12 CN CN201610547677.6A patent/CN106201722A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6473791B1 (en) * | 1998-08-17 | 2002-10-29 | Microsoft Corporation | Object load balancing |
CN102611735A (zh) * | 2011-12-21 | 2012-07-25 | 奇智软件(北京)有限公司 | 一种应用服务的负载均衡方法及系统 |
CN102833355A (zh) * | 2012-09-22 | 2012-12-19 | 广东电子工业研究院有限公司 | 一种面向云计算的负载均衡系统及机制 |
CN102857577A (zh) * | 2012-09-24 | 2013-01-02 | 北京联创信安科技有限公司 | 一种集群存储自动负载均衡的系统及方法 |
CN103412875A (zh) * | 2013-07-11 | 2013-11-27 | 广东工业大学 | 基于ahp决策模型的cdn策略调整方法 |
CN104301404A (zh) * | 2014-09-29 | 2015-01-21 | 华为技术有限公司 | 一种基于虚拟机的调整业务系统资源的方法及装置 |
US20160142274A1 (en) * | 2014-11-14 | 2016-05-19 | Bigleaf Networks, Llc | Circuit-aware load balancing with dynamic quality of service |
Cited By (33)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106713028A (zh) * | 2016-12-20 | 2017-05-24 | 北京小米移动软件有限公司 | 业务降级方法、装置和分布式任务调度系统 |
CN106713028B (zh) * | 2016-12-20 | 2020-06-02 | 北京小米移动软件有限公司 | 业务降级方法、装置和分布式任务调度系统 |
CN107800756A (zh) * | 2017-03-13 | 2018-03-13 | 平安科技(深圳)有限公司 | 一种负载均衡方法及负载均衡器 |
CN107196785A (zh) * | 2017-03-31 | 2017-09-22 | 北京奇艺世纪科技有限公司 | 后端服务自动降级的方法及装置 |
CN107070716A (zh) * | 2017-04-14 | 2017-08-18 | 腾讯科技(深圳)有限公司 | 游戏服务器状态获取方法、装置、电子设备及存储介质 |
CN107070716B (zh) * | 2017-04-14 | 2018-09-11 | 腾讯科技(深圳)有限公司 | 游戏服务器状态获取方法、装置、电子设备及存储介质 |
CN107239341B (zh) * | 2017-05-27 | 2020-09-18 | 苏州浪潮智能科技有限公司 | 一种资源折算方法、系统及虚拟机资源调度系统 |
CN107239341A (zh) * | 2017-05-27 | 2017-10-10 | 郑州云海信息技术有限公司 | 一种资源折算方法、系统及虚拟机资源调度系统 |
CN109218369A (zh) * | 2017-07-05 | 2019-01-15 | 阿里巴巴集团控股有限公司 | 远程过程调用请求控制方法及装置 |
CN109218369B (zh) * | 2017-07-05 | 2021-08-03 | 阿里巴巴集团控股有限公司 | 远程过程调用请求控制方法及装置 |
CN109783304B (zh) * | 2017-11-15 | 2022-06-07 | 中国移动通信有限公司研究院 | 一种数据中心的节能调度方法及对应装置 |
CN109783304A (zh) * | 2017-11-15 | 2019-05-21 | 中国移动通信有限公司研究院 | 一种数据中心的节能调度方法及对应装置 |
CN108173698A (zh) * | 2018-01-17 | 2018-06-15 | 阿里巴巴集团控股有限公司 | 网络服务管理方法、装置、服务器及存储介质 |
CN108173698B (zh) * | 2018-01-17 | 2021-03-30 | 创新先进技术有限公司 | 网络服务管理方法、装置、服务器及存储介质 |
CN110311933A (zh) * | 2018-03-20 | 2019-10-08 | 中国移动通信集团有限公司 | 一种均衡业务流量的方法、装置、设备及存储介质 |
CN110389824A (zh) * | 2018-04-20 | 2019-10-29 | 伊姆西Ip控股有限责任公司 | 处理计算任务的方法、设备和计算机程序产品 |
CN108804152B (zh) * | 2018-05-04 | 2021-08-31 | 北京信安世纪科技股份有限公司 | 配置参数的调节方法及装置 |
CN108804152A (zh) * | 2018-05-04 | 2018-11-13 | 北京信安世纪科技股份有限公司 | 配置参数的调节方法及装置 |
CN108900382A (zh) * | 2018-07-18 | 2018-11-27 | 腾讯科技(深圳)有限公司 | 测试方法及其装置 |
CN109032805A (zh) * | 2018-08-06 | 2018-12-18 | 深圳乐信软件技术有限公司 | 一种弹性扩缩容方法、装置、服务器及存储介质 |
CN111756648A (zh) * | 2019-03-27 | 2020-10-09 | 百度在线网络技术(北京)有限公司 | 流量拥塞控制方法、装置、设备和介质 |
CN111831504A (zh) * | 2019-04-15 | 2020-10-27 | 北京京东尚科信息技术有限公司 | 监控方法、监控装置、计算机设备和介质 |
CN111858268A (zh) * | 2019-04-24 | 2020-10-30 | 中国信息通信研究院 | 一种基于能耗测试确定能效等级的方法 |
CN110209502A (zh) * | 2019-06-05 | 2019-09-06 | 北京奇艺世纪科技有限公司 | 一种信息存储方法、装置、电子设备及存储介质 |
CN110515728B (zh) * | 2019-08-19 | 2022-05-31 | 杭州迪普科技股份有限公司 | 服务器调度方法、装置、电子设备及机器可读存储介质 |
CN110515728A (zh) * | 2019-08-19 | 2019-11-29 | 杭州迪普科技股份有限公司 | 服务器调度方法、装置、电子设备及机器可读存储介质 |
CN111324886A (zh) * | 2020-03-12 | 2020-06-23 | 杭州海康威视系统技术有限公司 | 业务请求的处理方法、装置和服务器 |
WO2021114829A1 (zh) * | 2020-06-09 | 2021-06-17 | 平安科技(深圳)有限公司 | 基于令牌桶的接口限流方法、装置、系统及可读存储介质 |
CN112740642A (zh) * | 2020-08-31 | 2021-04-30 | 华为技术有限公司 | 通信方法及多接入边缘计算服务器 |
CN114442935A (zh) * | 2021-12-29 | 2022-05-06 | 天翼云科技有限公司 | 刷脏数据的方法、装置、电子设备及存储介质 |
CN114442935B (zh) * | 2021-12-29 | 2023-08-04 | 天翼云科技有限公司 | 刷脏数据的方法、装置、电子设备及存储介质 |
CN114844835A (zh) * | 2022-07-04 | 2022-08-02 | 眉山环天智慧科技有限公司 | 一种自适应动态限流方法、设备 |
CN114844835B (zh) * | 2022-07-04 | 2022-09-20 | 眉山环天智慧科技有限公司 | 一种自适应动态限流方法、设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106201722A (zh) | 服务器的负载调整方法及系统 | |
CN108897615A (zh) | 秒杀请求处理方法、应用服务器集群及存储介质 | |
CN103426072B (zh) | 一种高并发竞争库存的订单处理系统及其处理方法 | |
US11513853B2 (en) | Shared resources control in a multi-tenant system | |
CN110221915B (zh) | 节点调度方法和装置 | |
CN108322541B (zh) | 一种自适应的分布式体系架构 | |
US10896237B2 (en) | Reducing database stress using cognitive data caching | |
CN106020928A (zh) | 用专用实施资源进行虚拟资源成本追踪 | |
CN104158826B (zh) | 一种面向虚拟机迁移的调度方法及其系统 | |
CN104641355B (zh) | 自适应服务超时 | |
CN110289994A (zh) | 一种集群容量调整方法及装置 | |
US11237868B2 (en) | Machine learning-based power capping and virtual machine placement in cloud platforms | |
Tang et al. | Budget‐constraint stochastic task scheduling on heterogeneous cloud systems | |
CN107729514A (zh) | 一种基于hadoop的副本放置节点确定方法及装置 | |
Nine et al. | Hysteresis-based optimization of data transfer throughput | |
CN109947558A (zh) | 主机资源利用率计算方法和资源调度方法 | |
CN106471473A (zh) | 用于控制数据中心中的服务器过高分配的机制 | |
CN103248622B (zh) | 一种自动伸缩的在线视频服务质量保障方法及系统 | |
Wang et al. | GeoCol: A geo-distributed cloud storage system with low cost and latency using reinforcement learning | |
CN109117269A (zh) | 一种分布式系统虚拟机调度方法、装置和可读存储介质 | |
Mazidi et al. | An autonomic decision tree‐based and deadline‐constraint resource provisioning in cloud applications | |
Mazalov et al. | Queueing system with on-demand number of servers | |
CN108509259A (zh) | 获取多方数据源的方法以及风控系统 | |
CN105956816A (zh) | 物资运输信息智能处理方法 | |
CN109120424A (zh) | 一种带宽调度方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20161207 |