CN101753444B - 一种负载均衡方法和负载均衡装置 - Google Patents

一种负载均衡方法和负载均衡装置 Download PDF

Info

Publication number
CN101753444B
CN101753444B CN2009102396214A CN200910239621A CN101753444B CN 101753444 B CN101753444 B CN 101753444B CN 2009102396214 A CN2009102396214 A CN 2009102396214A CN 200910239621 A CN200910239621 A CN 200910239621A CN 101753444 B CN101753444 B CN 101753444B
Authority
CN
China
Prior art keywords
server
processing
performance weights
queue length
request queue
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN2009102396214A
Other languages
English (en)
Other versions
CN101753444A (zh
Inventor
李升林
廖炳才
颜小刚
李继勇
王迎锋
林伟军
吕秋明
肖伟
刘志尧
邓福喜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aspire Digital Technologies Shenzhen Co Ltd
Original Assignee
Aspire Digital Technologies Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aspire Digital Technologies Shenzhen Co Ltd filed Critical Aspire Digital Technologies Shenzhen Co Ltd
Priority to CN2009102396214A priority Critical patent/CN101753444B/zh
Publication of CN101753444A publication Critical patent/CN101753444A/zh
Application granted granted Critical
Publication of CN101753444B publication Critical patent/CN101753444B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

本发明涉及负载均衡技术,针对现有负载均衡机制可能造成处理异常的缺陷,提供一种负载均衡方法和负载均衡装置。负载均衡方法包括定期采集每一服务器的处理请求队列长度和处理能力值;判断是否存在请求队列长度超过预先设置的长度阈值的服务器,若是,则依据各服务器的请求队列长度计算并更新每一服务器的性能权重;若否,则判断是否存在处理能力波动率超过预先设置的波动率阈值的服务器,若是,则依据各服务器的处理能力计算并更新每一服务器的性能权重;若否,则依据预先设置的初始权重更新每一服务器的性能权重;在收到处理请求时,依据性能权重分发该处理请求。本发明还提供了一种负载均衡装置。本发明提供的技术方案可有效消除处理异常。

Description

一种负载均衡方法和负载均衡装置
技术领域
本发明涉及负载均衡技术,更具体地说,涉及一种负载均衡方法和负载均衡装置。
背景技术
随着互联网的进一步延伸,日常生活的网络化趋势日益明显。为了提供更为强大的处理能力,以便能够更为及时的处理与日俱增的用户访问量和处理请求,必须设置一系列提供相同服务内容的服务器以组成服务器集群来响应用户的处理请求。在收到来自用户客户端的处理请求后,需要进行负载均衡计算以决定将该请求具体发往哪一台服务器进行处理。鉴于各台服务器之间存在个体性能差异,且不同时刻的繁忙程度各不相同,只有实现真正的自适应负载均衡服务调度机制,才能高效利用所有硬件资源,并能有效控制系统过载的发生概率。
目前对负载均衡的研究主要集中在负载均衡策略和具体实现效果方面,现有最为流行的负载均衡策略为轮循式负载均衡(Round Robin),即将来自用户客户端的请求轮流分配给内部的服务器,从1至N然后重新开始。轮循式负载均衡机制的优点是易于实现,然而其缺点也十分明显。这种负载均衡算法仅仅适合于服务器群中各服务器具有相同软硬件配置并且平均服务请求相对均衡的情况,在各台服务器之间存在性能差异的情况下,这种负载均衡机制便会显现系统性能短板,造成处理异常。
因此,需要一种负载均衡解决方案,能够有效克服现有轮循式负载均衡方式中存在的上述缺陷。
发明内容
本发明要解决的技术问题在于,针对现有轮循式负载均衡机制在各台服务器之间存在性能差异的情况下会显现系统性能短板由此造成处理异常的缺陷,提供一种负载均衡方法和负载均衡装置。
本发明解决其技术问题所采用的技术方案是:
构造一种负载均衡方法,包括:
采集步骤,包括:
定期采集每一服务器的处理请求队列长度及处理能力值,将该处理能力值添加到该服务器的处理能力历史记录中;
计算步骤,包括定期执行如下操作:
判断是否存在处理请求队列长度超过预先设置的长度阈值的服务器,若是,则:
依据各服务器的处理请求队列长度计算并更新每一服务器的性能权重;
若否,则:
依据每一服务器的处理能力历史记录计算该服务器的处理能力波动率;
判断是否存在处理能力波动率超过预先设置的波动率阈值的服务器,若是,则:
依据各服务器的最新处理能力值计算并更新每一服务器的性能权重;
若否,则:
对于每一服务器,以为该服务器预先设置的初始权重更新该服务器的性能权重;
分发步骤,包括接收处理请求,依据各服务器的性能权重确定承担该处理请求的服务器,并将该处理请求发往该服务器。
在本发明提供的负载均衡方法中,所述依据各服务器的处理请求队列长度计算并更新每一服务器的性能权重进一步包括,基于下列公式计算每一服务器的性能权重:
Wn=(L1+L2+...+Ln)/Ln
其中Wn为服务器n的性能权重,Ln为服务器n的处理请求队列长度。
在本发明提供的负载均衡方法中,所述依据各服务器的最新处理能力值计算并更新每一服务器的性能权重进一步包括,基于下列公式计算每一服务器的性能权重:
Wn=In/(I1+I2+...+In)
其中Wn为服务器n的性能权重,In为服务器n的最新处理能力值。
在本发明提供的负载均衡方法中,在所述采集步骤中,所述定期采集具体包括接收每一服务器定期广播的包含处理请求队列长度及处理能力值的运行状态消息。
在本发明提供的负载均衡方法中,对于每一服务器,所述采集步骤还包括:
在收到该服务器发出的运行状态消息时重置该服务器对应的故障计时器的步骤;
定期读取故障计时器所记录的时长,并在判定该时长超过预先设置的故障时长时隔离该服务器的步骤。
本发明还提供了一种负载均衡装置,与多台服务器通信连接,包括:
采集模块,用于:
定期采集每一服务器的处理请求队列长度及处理能力值,将该处理能力值添加到该服务器的处理能力历史记录中;
计算模块,用于定期执行如下操作:
判断是否存在处理请求队列长度超过预先设置的长度阈值的服务器,若是,则:
依据各服务器的处理请求队列长度计算并更新每一服务器的性能权重;
若否,则:
依据每一服务器的处理能力历史记录计算该服务器的处理能力波动率;
判断是否存在处理能力波动率超过预先设置的波动率阈值的服务器,若是,则:
依据各服务器的最新处理能力值计算并更新每一服务器的性能权重;
若否,则:
对于每一服务器,以为该服务器预先设置的初始权重更新该服务器的性能权重;
分发模块,用于接收处理请求,依据各服务器的性能权重确定承担该处理请求的服务器,并将该处理请求发往该服务器。
在本发明提供的负载均衡装置中,在依据各服务器的处理请求队列长度计算并更新每一服务器的性能权重时,所述计算模块基于下列公式计算每一服务器的性能权重:
Wn=(L1+L2+...+Ln)/Ln
其中Wn为服务器n的性能权重,Ln为服务器n的处理请求队列长度。
在本发明提供的负载均衡装置中,在依据各服务器的最新处理能力值计算并更新每一服务器的性能权重时,所述计算模块基于下列公式计算每一服务器的性能权重:
Wn=In/(I1+I2+...+In)
其中Wn为服务器n的性能权重,In为服务器n的最新处理能力值。
在本发明提供的负载均衡装置中,所述采集模块用于接收每一服务器定期广播的包含处理请求队列长度及处理能力值的运行状态消息。
在本发明提供的负载均衡装置中,所述采集模块中设有为每一服务器设置的故障计时器,对于每一服务器,所述采集模块还用于:
在收到该服务器发出的运行状态消息时重置该服务器对应的故障计时器;
定期读取故障计时器所记录的时长,并在判定该时长超过预先设置的故障时长时隔离该服务器。
实施本发明的技术方案,具有以下有益效果:本发明提供的负载均衡方法和负载均衡装置通过定期调整每台服务器的性能权重来动态调整整体负载均衡策略。具体来说,本发明提供的负载均衡方案定期采集每台服务器的处理请求队列长度及处理能力值。基于采集到的处理请求队列长度及处理能力值,本发明提供的负载均衡方案定期计算并更新每台服务器的性能权重,具体包括,首先依据处理请求队列长度判断是否存在过载服务器,若是,则基于处理请求队列长度来计算并更新每一服务器的性能权重,若否,则计算每台服务器的处理能力波动率并据此判断是否存在波动率过大的服务器,若是,则基于处理能力值计算并更新每一服务器的性能权重,若否,则依据为每一服务器预先设置的初始权重更新该服务器的性能权重。这样一来,当存在过载服务器时,本发明基于各台服务器的繁忙程度进行负载均衡;当不存在过载服务器时,若存在处理能力波动率过大的服务器,本发明基于各台服务器的处理能力进行负载均衡;除上述情况外,本发明基于为各台服务器预先设置的初始权重进行负载均衡。由于本发明提供的技术方案可根据不同情况采用不同的负载均衡策略,所以处理请求的分配更加均衡,各台服务器的利用率更高,对处理请求的处理速度更快,更能满足各方需要。
附图说明
下面将结合附图及实施例对本发明作进一步说明,附图中:
图1是依据本发明一较佳实施例的网络环境的示意图;
图2是依据本发明一较佳实施例的负载均衡方法中计算步骤的流程图;
图3是依据本发明一较佳实施例的负载均衡装置的逻辑结构示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本发明提供了一种负载均衡方法和负载均衡装置,通过定期调整每台服务器的性能权重来动态调整整体负载均衡策略。具体来说,本发明提供的负载均衡方案定期采集每台服务器的处理请求队列长度及处理能力值。基于采集到的处理请求队列长度及处理能力值,本发明提供的负载均衡方案定期计算并更新每台服务器的性能权重,具体包括,首先依据处理请求队列长度判断是否存在过载服务器,若是,则基于处理请求队列长度来计算并更新每一服务器的性能权重,若否,则计算每台服务器的处理能力波动率并据此判断是否存在波动率过大的服务器,若是,则基于处理能力值计算并更新每一服务器的性能权重,若否,则依据为每一服务器预先设置的初始权重更新该服务器的性能权重。这样一来,当存在过载服务器时,本发明基于各台服务器的繁忙程度进行负载均衡;当不存在过载服务器时,若存在处理能力波动率过大的服务器,本发明基于各台服务器的当前实际处理能力进行负载均衡;除上述情况外,本发明基于为各台服务器预先设置的初始权重进行负载均衡。由于本发明提供的技术方案可根据不同情况采用不同的负载均衡策略,所以处理请求的分配更加均衡,各台服务器的利用率更高,对处理请求的处理速度更快,更能满足各方需要。下面就结合附图和具体实施例来详细描述本发明提供的负载均衡方案。
图1是依据本发明一较佳实施例的网络环境100的示意图。如图1所示,其中展示了客户端102、负载均衡装置104、服务器群106和互联网108。
负载均衡装置104需要具备性能较高的硬件配置,其一般可通过负载均衡服务器来实现。负载均衡服务器104用于接收来自客户端102的处理请求,依据服务器群106中各台服务器的性能权重来确定承担此次处理请求的服务器,然后将该处理请求发往该服务器进行处理。不同于现有的负载均衡方法,负载均衡服务器104可动态调整服务器群106中每一服务器的性能权重,以实现动态调整负载均衡策略的目的。下面就结合图2和图3对负载均衡服务器104对负载均衡策略的调整进行描述。
本发明提供了一种负载均衡方法,该负载均衡方法包括一采集步骤,包括负载均衡装置定期采集每一服务器的处理请求队列长度和处理能力值,并将采集到的处理能力值添加到该服务器的处理能力历史记录中。
一般情况下,服务器在收到处理请求后,会将该处理请求放入处理请求队列,然后依次处理收到的处理请求。因此,处理请求队列的长度可反映出服务器的当前繁忙程度。
在具体实现过程中,上述定期采集操作的具体实现方法为,服务器群中的每一服务器定期广播其运行状态消息,其中包含该服务器的处理请求队列长度和处理能力值。
在具体实现过程中,每台服务器都启动一个专门设置的收集进程,由此进程收集系统当前处理器占用情况和内存使用情况等处理能力信息,计算处理能力值。此外,该收集进程还采集当前处理请求队列长度。在具体实现过程中,该收集进程以后台deamon进程(守护进程,即自动执行周期性任务的进程)的方式运行,通过轮循的方式获取当前系统处理器占用情况、内存使用情况以及处理请求队列长度等信息。
收集进程将收集到的处理请求队列长度和处理能力值采用共享内存进行保存,并根据预先设置的广播周期,通过广播运行状态消息的方式告知负载均衡装置。负载均衡装置判断收到消息的消息类型,如果发现是运行状态消息,便解析并进行本地缓存。
对于每一服务器,采集步骤还包括在收到该服务器发出的运行状态消息时重置该服务器对应的故障计时器;定期读取故障计时器所记录的时长,并在判定该时长超过预先设置的故障时长时隔离该服务器。在具体实现过程中,故障时长可设置为运行状态消息广播周期的倍数,以避免因偶尔未收到运行状态消息而轻易隔离服务器。在隔离服务器之后,若重新接收到运行状态消息,则解除对该服务器的隔离。
除上述采集步骤外,本发明提供的负载均衡方法还包括计算步骤,下面就结合图2对其进行详细描述。
图2是依据本发明一较佳实施例的负载均衡方法中计算步骤200的流程图。如图2所示,该计算步骤200开始于步骤202。
随后,在下一步骤204,负载均衡装置读取每台服务器的处理请求队列长度。
随后,在下一步骤206,负载均衡装置判断是否存在过载服务器,即是否存在请求队列长度超过预先设置的长度阈值的服务器,若是,则转到步骤208,否则转到步骤210。
如上文所述,若在步骤206判定存在过载服务器,则转到步骤208,依据各服务器的处理请求队列长度计算并更新每一服务器的性能权重。随后,计算步骤200转到步骤218。
在具体实现过程中,在依据各服务器的处理请求队列长度计算每一服务器的性能权重时,可基于下列公式计算每一服务器的性能权重:
Wn=(L1+L2+...+Ln)/Ln
其中Wn为服务器n的性能权重,Ln为服务器n的处理请求队列长度。
不难理解,依据处理请求队列长度确定的性能权重可反映服务器当前的繁忙程度。
如上文所述,若在步骤206判定不存在过载服务器,则转到步骤210,依据每一服务器的处理能力历史记录计算该服务器的处理能力波动率,然后转到步骤212。
随后,在下一步骤212,判断是否存在处理能力波动率过大的服务器,即是否存在处理能力值波动率超过预先设置的波动率阈值的服务器,若是,则转到步骤214,否则转到步骤216。
如上文所述,若在步骤212判定存在处理能力波动率过大的服务器,则转到步骤214,依据各服务器的最新处理能力值计算并更新每一服务器的性能权重。在此之后,计算步骤200转到步骤218。该最新处理能力值即为处理能力历史记录中最新写入的处理能力值。
在具体实现过程中,在依据各服务器的最新处理能力值计算每一服务器的性能权重时,可基于下列公式计算每一服务器的性能权重:
Wn=In/(I1+I2+...+In)
其中Wn为服务器n的性能权重,In为服务器n的最新处理能力值。
在具体实现过程中,处理能力值可根据例如但不限于最近5分钟处理器空闲百分比与各服务器的tmpc值的乘积来计算,其中,tmpc值在国内外被广泛用于衡量计算机系统的事务处理能力的衡量标准。
不难理解,依据最新处理能力值确定的性能权重可反映服务器当前真实的处理能力。
如上文所述,若在步骤212判定不存在处理能力值波动率过大的服务器,则转到步骤216,通过为每一服务器预先设置的初始权重更新该服务器的性能权重。在此之后,计算步骤200转到步骤218。
每一服务器的初始权重可反映该服务器的原始处理能力。
最后,计算步骤200结束于步骤218。
除上述采集步骤和计算步骤外,本发明提供的负载均衡方法还包括一分发步骤,包括接收处理请求,依据各服务器的性能权重确定承担该处理请求的服务器,并将该处理请求发往该服务器。在具体实现过程中,还可手动输入各台服务器的性能权重,并基于该性能权重确定承担处理请求的服务器。
以下以具体实例来描述基于性能权重来分发处理请求的过程。假设四台服务器(服务器A、B、C、D)的性能权重分别为WA=38、WB=17、WC=7、WD=38,则在分发处理请求时,分发给服务器A的概率为38%,分发给服务器B的概率为17%,分发给服务器C的概率为7%,分发给服务器D的概率为38%。而在具体计算本次处理请求发往哪台服务器时,可设置一随机数生成器,用于生成随机数。同时设置服务器A、B、C、D分别对应的命中区间,即服务器A对应区间0~37(对应服务器A的处理概率38%),服务器B对应区间38~54(对应服务器B的处理概率17%),服务器C对应区间55~61(对应服务器C的处理概率7%),服务器D对应区间62~99(对应服务器D的处理概率38%)。此后,生成一随机数并将其与100进行取模运算,算得的结果落入哪台服务器的命中区间就由哪台服务器承担此次处理请求。例如,若算得的结果为56,则落入服务器C的命中区间,即将由服务器C处理此次处理请求。
在具体实现过程中,采集步骤和计算步骤采用异步方式进行,以提高工作效率。例如,采集步骤和计算步骤均定期执行,但二者的执行周期可以彼此不同。在这种情况下,采集步骤可在到达其自身执行周期时,将采集到的处理请求队列长度写在固定的位置,将采集到的处理能力值写在处理能力历史记录中。计算步骤可在到达其自身执行周期时,在上述位置读取处理请求队列长度,并读取处理能力历史记录,而无需考虑上述处理请求队列长度和处理能力历史记录是何时写入的。不难理解,这种异步方式可有效提高处理效率。此外,分发步骤在收到处理请求后,可直接读取计算步骤生成/更新的性能权重,而无需考虑上述性能权重是何时生成/更新的。
由上文所述可知,当存在过载服务器时,基于各台服务器的处理请求队列长度算得的性能权重可准确反映各台服务器的繁忙程度,因此在这种情况下,本发明提供的技术方案是依据各台服务器的繁忙程度来进行负载均衡的。当不存在过载服务器时,若存在处理能力波动率过大的服务器,基于各台服务器的处理能力算得的性能权重可准确的反映各台服务器的当前真实处理能力,因此在这种情况下,本发明提供的技术方案是依据各台服务器的当前真实处理能力来进行负载均衡的。除上述情况外,本发明基于为各台服务器预先设置的初始权重进行负载均衡。
本发明还提供了一种负载均衡装置,下面就结合图3对其进行详细描述。
图3是依据本发明一较佳实施例的负载均衡装置300的逻辑结构示意图。本发明提供的负载均衡装置300与多台服务器通信连接,如图3所示,本发明提供的负载均衡装置300包括采集模块302、计算模块304和分发模块306。
采集模块302用于定期采集每一服务器的处理请求队列长度和处理能力值,并将该处理能力值添加到该服务器的处理能力历史记录中。
在具体实现过程中,采集模块302用于接收每一服务器定期广播的运行状态消息,其中包含该服务器处理请求队列长度和处理能力值。
在具体实现过程中,采集模块302中设有为每一服务器设置的故障计时器(未示出),对于每一服务器,采集模块302还用于在收到该服务器发出的运行状态消息时重置该服务器对应的故障计时器;定期读取故障计时器所记录的时长,并在判定该时长超过预先设置的故障时长时隔离该服务器。
采集模块302所执行的操作与上文所述的采集步骤相对应。有关采集步骤的具体内容已经在前文做了清楚的描述,因此此处不再赘述。
计算模块304用于定期执行如下操作:
判断是否存在处理请求队列长度超过预先设置的长度阈值的服务器,若是,则:
依据各服务器的处理请求队列长度计算并更新每一服务器的性能权重;
若否,则:
依据每一服务器的处理能力历史记录计算该服务器的处理能力波动率;
判断是否存在处理能力波动率超过预先设置的波动率阈值的服务器,若是,则:
依据各服务器的最新处理能力值计算并更新每一服务器的性能权重;
若否,则:
对于每一服务器,以为该服务器预先设置的初始权重更新该服务器的性能权重。
在具体实现过程中,在依据各服务器的处理请求队列长度计算每一服务器的性能权重时,计算模块304基于下列公式计算每一服务器的性能权重:
Wn=(L1+L2+...+Ln)/Ln
其中Wn为服务器n的性能权重,Ln为服务器n的处理请求队列长度。
在具体实现过程中,在依据各服务器的最新处理能力值计算每一服务器的性能权重时,计算模块304基于下列公式计算每一服务器的性能权重:
Wn=In/(I1+I2+...+In)
其中Wn为服务器n的性能权重,In为服务器n的最新处理能力值。
在具体实现过程中,计算模块304所执行的操作与上文所述的计算步骤相对应。有关计算步骤的具体内容已经在前文做了清楚的描述,因此此处不再赘述。
分发模块306用于接收处理请求,依据各服务器的性能权重确定承担该处理请求的服务器,并将该处理请求发往该服务器。
在具体实现过程中,分发模块306所执行的操作与上文所述的分发步骤相对应。有关分发步骤的具体内容已经在前文做了清楚的描述,因此此处不再赘述。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。

Claims (10)

1.一种负载均衡方法,其特征在于,包括:
采集步骤,包括:
定期采集每一服务器的处理请求队列长度及处理能力值,将该处理能力值添加到该服务器的处理能力历史记录中;
计算步骤,包括定期执行如下操作:
判断是否存在处理请求队列长度超过预先设置的长度阈值的服务器,若是,则:
依据各服务器的处理请求队列长度计算并更新每一服务器的性能权重;
若否,则:
依据每一服务器的处理能力历史记录计算该服务器的处理能力波动率;
判断是否存在处理能力波动率超过预先设置的波动率阈值的服务器,若是,则:
依据各服务器的最新处理能力值计算并更新每一服务器的性能权重;
若否,则:
对于每一服务器,以为该服务器预先设置的初始权重更新该服务器的性能权重;
分发步骤,包括接收处理请求,依据各服务器的性能权重确定承担该处理请求的服务器,并将该处理请求发往该服务器。
2.根据权利要求1所述的负载均衡方法,其特征在于,所述依据各服务器的处理请求队列长度计算并更新每一服务器的性能权重进一步包括,基于下列公式计算每一服务器的性能权重:
Wn=(L1+L2+...+Ln)/Ln
其中Wn为服务器n的性能权重,Ln为服务器n的处理请求队列长度。
3.根据权利要求1或2所述的负载均衡方法,其特征在于,所述依据各服务器的最新处理能力值计算并更新每一服务器的性能权重进一步包括,基于下列公式计算每一服务器的性能权重:
Wn=In/(I1+I2+...+In)
其中Wn为服务器n的性能权重,In为服务器n的最新处理能力值。
4.根据权利要求1所述的负载均衡方法,其特征在于,在所述采集步骤中,所述定期采集具体包括接收每一服务器定期广播的包含处理请求队列长度及处理能力值的运行状态消息。
5.根据权利要求4所述的负载均衡方法,其特征在于,对于每一服务器,所述采集步骤还包括:
在收到该服务器发出的运行状态消息时重置该服务器对应的故障计时器的步骤;
定期读取故障计时器所记录的时长,并在判定该时长超过预先设置的故障时长时隔离该服务器的步骤。
6.一种负载均衡装置,与多台服务器通信连接,其特征在于,包括:
采集模块,用于:
定期采集每一服务器的处理请求队列长度及处理能力值,将该处理能力值添加到该服务器的处理能力历史记录中;
计算模块,用于定期执行如下操作:
判断是否存在处理请求队列长度超过预先设置的长度阈值的服务器,若是,则:
依据各服务器的处理请求队列长度计算并更新每一服务器的性能权重;
若否,则:
依据每一服务器的处理能力历史记录计算该服务器的处理能力波动率;
判断是否存在处理能力波动率超过预先设置的波动率阈值的服务器,若是,则:
依据各服务器的最新处理能力值计算并更新每一服务器的性能权重;
若否,则:
对于每一服务器,以为该服务器预先设置的初始权重更新该服务器的性能权重;
分发模块,用于接收处理请求,依据各服务器的性能权重确定承担该处理请求的服务器,并将该处理请求发往该服务器。
7.根据权利要求6所述的负载均衡装置,其特征在于,在依据各服务器的处理请求队列长度计算并更新每一服务器的性能权重时,所述计算模块基于下列公式计算每一服务器的性能权重:
Wn=(L1+L2+...+Ln)/Ln
其中Wn为服务器n的性能权重,Ln为服务器n的处理请求队列长度。
8.根据权利要求6或7所述的负载均衡装置,其特征在于,在依据各服务器的最新处理能力值计算并更新每一服务器的性能权重时,所述计算模块基于下列公式计算每一服务器的性能权重:
Wn=In/(I1+I2+...+In)
其中Wn为服务器n的性能权重,In为服务器n的最新处理能力值。
9.根据权利要求6所述的负载均衡装置,其特征在于,所述采集模块用于接收每一服务器定期广播的包含处理请求队列长度及处理能力值的运行状态消息。
10.根据权利要求9所述的负载均衡装置,其特征在于,所述采集模块中设有为每一服务器设置的故障计时器,对于每一服务器,所述采集模块还用于:
在收到该服务器发出的运行状态消息时重置该服务器对应的故障计时器;
定期读取故障计时器所记录的时长,并在判定该时长超过预先设置的故障时长时隔离该服务器。
CN2009102396214A 2009-12-31 2009-12-31 一种负载均衡方法和负载均衡装置 Expired - Fee Related CN101753444B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN2009102396214A CN101753444B (zh) 2009-12-31 2009-12-31 一种负载均衡方法和负载均衡装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN2009102396214A CN101753444B (zh) 2009-12-31 2009-12-31 一种负载均衡方法和负载均衡装置

Publications (2)

Publication Number Publication Date
CN101753444A CN101753444A (zh) 2010-06-23
CN101753444B true CN101753444B (zh) 2012-01-18

Family

ID=42479871

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2009102396214A Expired - Fee Related CN101753444B (zh) 2009-12-31 2009-12-31 一种负载均衡方法和负载均衡装置

Country Status (1)

Country Link
CN (1) CN101753444B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103853614B (zh) * 2012-12-06 2017-03-29 财团法人资讯工业策进会 工作负载分配装置及其工作负载分配方法

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10797953B2 (en) 2010-10-22 2020-10-06 International Business Machines Corporation Server consolidation system
CN102457906B (zh) * 2010-10-26 2014-01-08 中国移动通信集团河南有限公司 一种消息队列的负载均衡控制方法及系统
CN102541655A (zh) * 2010-12-31 2012-07-04 中国银联股份有限公司 一种实现动态负载均衡的方法和装置
US20130227180A1 (en) * 2012-02-24 2013-08-29 Pradeep Bisht Method for input/output load balancing using varied performing storage devices
CN103391299B (zh) * 2012-05-08 2016-09-28 深圳市腾讯计算机系统有限公司 负载均衡方法和负载均衡系统
CN103944927B (zh) * 2013-01-17 2018-07-17 深圳市腾讯计算机系统有限公司 服务器伸缩处理方法和装置
CN103763206B (zh) * 2014-01-21 2017-01-18 能力天空科技(北京)有限公司 一种网络调度方法及网关
CN103984545B (zh) * 2014-04-24 2017-05-17 北京掌阔移动传媒科技有限公司 一种移动终端广告请求方法和装置
CN103957251A (zh) * 2014-04-28 2014-07-30 迈普通信技术股份有限公司 一种实现服务器负载均衡的方法及系统
CN104518890B (zh) * 2014-12-30 2019-07-05 海尔优家智能科技(北京)有限公司 网络业务处理方法、信息广播和控制方法以及装置
CN109274710A (zh) * 2015-02-12 2019-01-25 广州神马移动信息科技有限公司 网络负载均衡方法、装置及集群服务系统
CN106209665A (zh) * 2015-04-30 2016-12-07 中兴通讯股份有限公司 一种实现负荷分担的方法、接口机、业务处理机及系统
CN105007312A (zh) * 2015-07-03 2015-10-28 叶秀兰 一种云计算服务器自适应负载均衡控制方法及控制系统
CN106506608A (zh) * 2016-10-19 2017-03-15 北京华云网际科技有限公司 分布式块数据的访问方法和装置
CN106358245B (zh) * 2016-11-07 2019-12-27 北京佰才邦技术有限公司 移动边缘计算应用负荷分担的方法和控制器
CN108093009A (zh) * 2016-11-21 2018-05-29 百度在线网络技术(北京)有限公司 一种服务器的负载均衡方法和装置
EP3361675B1 (en) * 2016-12-14 2019-05-08 Huawei Technologies Co., Ltd. Distributed load balancing system, health check method and service node
CN108206789A (zh) * 2016-12-20 2018-06-26 英业达科技有限公司 分段式处理请求的负载均衡系统及其方法
CN107733702A (zh) * 2017-09-29 2018-02-23 郑州云海信息技术有限公司 集群系统中管理主机运行状态的方法和装置
CN109698847A (zh) * 2017-10-23 2019-04-30 航天信息股份有限公司 一种基于请求处理时间的云存储系统均衡负载的读取方法及系统
CN108718338B (zh) * 2018-05-23 2021-06-15 深圳市茁壮网络股份有限公司 一种节点确定方法及装置
CN108769227A (zh) * 2018-06-04 2018-11-06 贵州数据宝网络科技有限公司 一种数据交易负载均衡系统
CN110191159B (zh) * 2019-05-09 2021-05-25 网宿科技股份有限公司 一种资源服务器的负载调节方法及系统、设备
CN110290222A (zh) * 2019-07-16 2019-09-27 北京奇艺世纪科技有限公司 一种请求消息处理方法及装置
CN110430278A (zh) * 2019-08-14 2019-11-08 平安普惠企业管理有限公司 负载均衡配置方法及装置
CN110543366A (zh) * 2019-08-27 2019-12-06 上海易点时空网络有限公司 用于业务集群的业务模块容量调优方法以及装置、服务器
CN111737000A (zh) * 2020-06-22 2020-10-02 四川长虹电器股份有限公司 一种实现负载均衡的方法
CN112787948B (zh) * 2020-12-30 2023-07-18 上海微盟企业发展有限公司 一种流量负载均衡方法及相关装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103853614B (zh) * 2012-12-06 2017-03-29 财团法人资讯工业策进会 工作负载分配装置及其工作负载分配方法

Also Published As

Publication number Publication date
CN101753444A (zh) 2010-06-23

Similar Documents

Publication Publication Date Title
CN101753444B (zh) 一种负载均衡方法和负载均衡装置
CN109218355B (zh) 负载均衡引擎,客户端,分布式计算系统以及负载均衡方法
CN100343810C (zh) 任务调度的方法、系统和设备
US10979493B1 (en) System and method for forwarding service requests to an idle server from among a plurality of servers
CN1098488C (zh) 基于动态时间间隔的负载平衡方法和装置
CN110401657B (zh) 一种访问日志的处理方法及装置
CN102316133B (zh) 一种负载均衡方法及装置
CN109308221A (zh) 一种基于WebSocket长连接的Nginx动态负载均衡方法
CN105007337A (zh) 集群系统负载均衡的方法和系统
CN104935622A (zh) 一种用于消息分配、消费的方法及装置,用于消息处理的系统
KR20140093733A (ko) 에너지 효율적인 분산 및 탄력적 부하 밸런싱을 위한 방법 및 장치
CN103368864A (zh) 一种基于c/s架构的智能负载均衡方法
JP2013525931A (ja) コンテンツ配信に利用される動的バインド
CN107295048A (zh) 负载均衡方法及装置
GB2513779A (en) A method and system for scalable job processing
CN1434393A (zh) 一种集群服务器的动态负载均衡方法
CN102158346A (zh) 基于云计算的信息采集系统及方法
Vashistha et al. Comparative study of load balancing algorithms
Chatterjee et al. A new clustered load balancing approach for distributed systems
Kadhim et al. Hybrid load-balancing algorithm for distributed fog computing in internet of things environment
Weissman et al. The Virtual Service Grid: an architecture for delivering high‐end network services
Anitha et al. An efficient and scalable content based dynamic load balancing using multiparameters on load aware distributed multi-cluster servers
Yoshimura et al. A Method of Distributing Clients to MQTT Brokers Using Server Redirection
CN114710447B (zh) 一种均衡广告流量控制方法及系统
Aramudhan et al. ELDMA: Enhanced load balancing decision making using decentralized mobile agent framework

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
C17 Cessation of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20120118

Termination date: 20121231