CN103391299B - 负载均衡方法和负载均衡系统 - Google Patents

负载均衡方法和负载均衡系统 Download PDF

Info

Publication number
CN103391299B
CN103391299B CN201210140189.5A CN201210140189A CN103391299B CN 103391299 B CN103391299 B CN 103391299B CN 201210140189 A CN201210140189 A CN 201210140189A CN 103391299 B CN103391299 B CN 103391299B
Authority
CN
China
Prior art keywords
server cluster
ratio
access
cluster
server
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201210140189.5A
Other languages
English (en)
Other versions
CN103391299A (zh
Inventor
冯锋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Tencent Computer Systems Co Ltd
Original Assignee
Shenzhen Tencent Computer Systems Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Tencent Computer Systems Co Ltd filed Critical Shenzhen Tencent Computer Systems Co Ltd
Priority to CN201210140189.5A priority Critical patent/CN103391299B/zh
Publication of CN103391299A publication Critical patent/CN103391299A/zh
Application granted granted Critical
Publication of CN103391299B publication Critical patent/CN103391299B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Computer And Data Communications (AREA)

Abstract

一种负载均衡方法及负载均衡系统,该方法包括步骤:获取同一网络区域下对应的各服务器集群的当前访问比例以及负载量;根据预设服务器集群负载阈值、各服务器集群的负载量以及当前访问比例对各服务器集群的访问比例进行调整;根据各服务器集群调整后的访问比例将接收的用户请求导向至相应的服务器集群。应用本发明方案,能够合理的对用户请求进行分配,使各服务器集群的负载处于相对均衡的状态,从而可以合理地提高带宽利用率,提升网络服务的服务质量。

Description

负载均衡方法和负载均衡系统
技术领域
本发明涉及互联网技术领域,特别涉及一种负载均衡方法以及一种负载均衡系统。
背景技术
随着互联网技术的日益发展,互联网所提供的服务内容也越来越多,对于一些服务项或者服务内容来说,通常需要设置多个服务器来同时提供服务,以进行负载均衡(LoadBalance),避免单一的服务器无法同时为多个用户及时提供服务的情况,提高服务质量。其中,这里的负载均衡,是指将负载(工作任务)进行平衡平摊到多个操作单元上执行,从而共同完成工作任务。
互联网服务中的一类重要服务是视频类服务,而视频服务器是视频类服务的重要组成部分。以腾讯视频为例,为提供腾讯视频服务,在全国大中小城市都建有放置视频服务器的视频机房。用户在请求视频服务的时候,系统会返回视频服务器的ip地址供用户播放使用。不同的视频服务器部署在不同的机房,每个机房的带宽支撑能力、网络质量和带宽结算价格也各有差异。因此,如何合理地调度各个机房的资源,在保证用户体验的前提下,实现机房负载均衡,降低运营成本,是一个具有重大现实意义的问题。
业界目前普遍采用DNS(Domain Name System,域名系统)实现负载均衡,在该方式中,一个用户访问WEB服务器的基本流程是:用户向本地的DNS服务器提出域名解析的请求,DNS服务器把域名解析请求提交给负载均衡模块,负载均衡模块把解析的结果返回给用户,用户使用得到的地址访问WEB服务器。应用这种实现方式,由于DNS一般采用轮询方式把请求均摊到每台服务器上,不能感知服务器的质量和负载,无法提升高质量服务器的带宽利用率,也无法做到流量负载迁移的目的,极大地增加了运营成本。而且,DNS的实现方式,受制于用户端的配置,若用户的Local DNS配置有误,则可能导向质量较差的服务器,影响用户体验。
发明内容
针对上述现有技术中存在的问题,本发明的其中一个目的在于提供一种负载均衡方法,另一目的在于提供一种负载均衡系统,其可以合理地提高带宽利用率,加强网络服务的服务质量。
为达到上述目的,本发明采用以下技术方案:
一种负载均衡方法,包括步骤:
获取同一网络区域下对应的各服务器集群的当前访问比例以及负载量;
根据预设服务器集群负载阈值、各服务器集群的负载量以及所述当前访问比例对各服务器集群的访问比例进行调整;
根据各服务器集群调整后的访问比例将接收的用户请求导向至相应的服务器集群。
一种负载均衡系统,包括:
参数获取模块,用于获取同一网络区域下对应的各服务器集群的当前访问比例以及各服务器集群的负载量;
调整模块,用于根据预设服务器集群负载阈值、各服务器集群的负载量以及所述当前访问比例对各服务器集群的访问比例进行调整;
请求导向模块,用于根据各服务器集群调整后的访问比例将接收的用户请求导向至相应的服务器集群。
根据上述本发明方案,其是通过获取各服务器集群的当前访问比例以及负载量,再依据预设服务器集群的负载阈值、各服务器集群的负载量对各服务器集群的访问比例进行调整,然后依据调整后的访问比例将接收到的用户请求导向至相应的服务器集群,由于是依据各服务器集群的负载量对访问比例进行调整,依据调整后的访问比例来将用户请求导向至相应的服务器集群,能够合理的对用户请求进行分配,使各服务器集群的负载处于相对均衡的状态,从而可以合理地提高带宽利用率,提升网络服务的服务质量。
附图说明
图1是本发明的负载均衡方法实施例一的流程示意图;
图2是本发明的负载均衡方法实施例二的流程示意图;
图3是本发明的负载均衡系统实施例的结构示意图。
具体实施方式
以下结合其中的较佳实施方式对本发明方案进行详细阐述。
图1中示出了本发明的负载均衡方法实施例一的流程示意图。如图1所示,在该实施例中,本发明的负载均衡方法包括步骤:
步骤S101:获取同一网络区域下对应的各服务器集群的当前访问比例以及各服务器集群的负载量,进入步骤S102;
步骤S102:根据预设服务器集群负载阈值、各服务器集群的负载量以及当前访问比例对各服务器集群的访问比例进行调整,进入步骤S103;
步骤S103:根据各服务器集群调整后的访问比例将接收的用户请求导向至相应的服务器集群。
其中,上述提及的网络区域,指代的是某网络频道(包括但不限于电信、网通、联通或者移动)下的某个地区网络(例如电信广东省、网通北京市、移动上海市、电信广州市等)。
根据如上所述的本发明方案,其是通过获取各服务器集群的当前访问比例以及负载量,再依据预设服务器集群的负载阈值、各服务器集群的负载量以及当前访问比例对各服务器集群的访问比例进行调整,然后依据调整后的访问比例将接收到的用户请求导向至相应的服务器集群,由于是依据各服务器集群的负载量以及当前访问比例对访问比例进行调整,依据调整后的访问比例来将用户请求导向至相应的服务器集群,能够合理的对用户请求进行分配,使各服务器集群的负载处于相对均衡的状态,从而可以合理地提高带宽利用率,提升网络服务的服务质量。
其中,上述各服务器集群的负载量,可以通过现有技术中各种可能的方式来获得,例如,针对某服务器集群而言,可以通过定期收集该服务器集群中的每台服务器的网卡、CPU、IO等信息后,通过加权计算后得到服务器集群的负 载量。
上述各服务器集群的当前访问比例,可以在得到各服务器集群当前的访问量之后,通过求取当前服务器集群的访问量与各服务器集群访问量之和的比值来确定,例如,假设某服务器集群A当前的访问量为M,其他各服务器集群的访问量为N,则该服务器集群A的访问比例则为M/(M+N)。需要注意的是,依据这种方式计算得出的访问比例是一个小数值,为便于计算和处理,在下述各具体示例的说明中,是以未考虑百分比,即以访问比例为100M/(M+N)为例进行说明。本发明方案在具体实施时,访问比例具体采用的形式并不限定,无论采用何种形式的访问比例,均可以达到本发明方案的负载均衡的效果。
其中,在上述对访问比例进行调整时,可以是在根据各服务器集群的预设质量高低顺序进行排序后,再根据服务器集群负载阈值、各服务器集群的负载量对各服务器集群的访问比例进行调整。其中,各服务器集群的预设质量高低顺序可以通过人为进行设定,且在进行人为设定时,可以基于服务器集群中各服务器的性能、机房的网络情况等等进行设定。另一方面,预设质量的高低也可以与当前所在的具体的网络区域有关系,例如:相对于广州本地的网络区域而言,从网络状况来看,所设置的预设质量的高低可以是:广州机房>深圳机房>西安机房,而相对于其它网络区域则未必如此。实际上,本发明方案在应用时,由于可以只知晓各服务器集群的质量高低情况以进行排序,因此,在具体应用时,可以无需知晓各服务器集群的具体的质量值,只需设定各服务器集群的质量高低顺序即可。当然,根据实际需要,在具体应用时,也可以是为各服务器集群设置具体的质量值,然后再依据各服务器集群的质量值按质量高低进行排序,在此不予赘述。
对各服务器集群的访问比例的调整,根据实际需要,可以采用各种可能的方式来进行,在其中一个具体实施例中,可以通过服务器集群当前访问比例跟服务器集群负载阈值的乘积与服务器集群负载量的比值确定服务器集群调整后的访问比例。其中,这里的服务器集群负载阈值,是指能够保证服务器集群健康运转的负载值,该服务器集群负载阈值的具体大小,可以人工事先进行设定。
基于该比值进行调整时,可以基于各服务器集群的质量高低顺序来依次进 行调整。具体可以是,对各服务器集群说,判断其对应的比值是否小于剩余访问比例,若是,则将该比值确定为该服务器集群调整后的访问比例,若否,将剩余访问比例确定为该服务器集群调整后的访问比例,其中,这里的剩余访问比例是各服务器集群的当前访问比例之和减去已调整的各服务器集群调整后的访问比例之和的差值。
基于上述本发明实施例一中的负载均衡方法,还可以据此针对不同级别的用户实现不同的带宽保障机制,以使得优先级较高的用户能够得到较好的网络带宽服务。据此,图2中示出了本发明的负载均衡方法实施例二的流程示意图。
如图2所示,在该实施例二中,本发明的负载均衡方法包括步骤:
步骤S201:获取同一网络区域下对应的各服务器集群的当前访问比例以及各服务器集群的负载量,进入步骤S202;
步骤S202:根据预设服务器集群负载阈值、各服务器集群的负载量以及当前访问比例对各服务器集群的访问比例进行调整,进入步骤S203;
步骤S203:根据各服务器集群调整后的访问比例以及所接收的用户请求的优先级级别将接收的用户请求导向至相应的服务器集群。
在根据各服务器集群的访问比例以及用户请求的优先级级别进行导向时,可以采用各种可能的方式来进行。
在其中一种实现方式中,在上述得到各服务器集群调整后的访问比例后,基于所设定的优先级级别的数目,可以确定各优先级级别与各服务器集群之间的对应关系,从而,在接收到用户请求后,可以基于该对应关系将用户请求导向至对应的服务器集群。在与该优先级级别对应的服务器集群有多个的情况下,可以随机将该用户请求导向至对应的各服务器集群中的任意一个。
这种对应关系的确定,可以采用各种可能的方式来确定。例如,在其中一种确定方式中,在上述得到各服务器集群调整后的访问比例后,确定各服务器集群的访问区间,还根据所设置的优先级级别的数目确定各优先级级别的访问区间,然后根据各优先级级别的访问区间与各服务器集群的访问区间的覆盖关系确定各优先级级别与各服务器集群间的对应关系。
在另外一种实现方式中,可以是直接依据上述覆盖关系来对用户请求进行 导向。即,在上述得到各服务器集群调整后的访问比例后,确定各服务器集群的访问区间,还根据所设置的优先级级别的数目确定各优先级级别的访问区间,然后在接收到用户请求后,根据用户请求的优先级级别的访问区间与各服务器集群的访问区间的覆盖关系来将接收到的用户请求导向至有覆盖关系的服务器集群中的任意一个。
以网络视频服务为例,下表中示出了一个具体示例中的全局负载均衡(GSLB,Global Server Load Balance)的层次结构示意。
基于上表所示的全局负载均衡的层次结构,在接收到用户发送的播放请求时,会根据用户发送的播放请求的类别进行逐层筛选,直至最后找到合适的服务器集群供用户访问。
根据上述本发明方案,以其中某个频道A为例,以下就其中的一个具体示例 进行详细说明。在下述具体示例的说明中,是未考虑百分比值,直接以具体的数值来表示访问比例为例进行说明。例如,假设某访问比例为3/10*100%,则在下述说明中,是以访问比例为30为例进行说明,这种说明并不用以对本发明方案构成限定。
假设用户请求有n种优先级级别,该优先级级别分别记为Q1、Q2...Qn,并假设健康运转的服务器集群负载不得超过X。
假设频道A在其区域Ai分配了m组服务器集群,质量值从高到低分别为S1、S2...Sm,依据该质量从高到低的顺序,频道A在其区域Ai的m组服务器集群当前的负载为L1、L2...Lm,频道A在其区域Ai的m组服务器集群当前的访问比例为P1、P2...Pm,且P1+P2+...+Pm=100。
记m组服务器集群调整后的访问比例为N1、N2...Nm,且N1+N2+...+Nm=100。
然后,即可根据各服务器集群当前的负载Li对访问比例进行调整,在进行调整时,可以通过服务器集群当前访问比例根据服务器集群负载阈值的乘积与服务器集群负载的比值确定服务器集群调整后的访问比例,例如采用式 进行调整。
基于此,按照质量从高到低的顺序,具体的对访问比例的调整过程可以是:
针对质量最高S1的第1组服务器集群,其采用式 确定该第1组服务器集群调整后的访问比例为: 基于第1组服务器集群调整后的访问比例,可以获得剩余访问比例RES=100-N1
针对质量次高S2的第2组服务器集群,采用式 获得 比较获得的N2与RES的大小:若 则令 则令N2=RES,即N2=100-N1,然后,基于所 获得的第2组服务器集群调整后的访问比例N2,可以获得剩余访问比例RES=RES-N2,即RES=100-N1-N2
类似地,针对质量次高S3的第3组服务器集群,采用式 获得比较获得的N3与RES的大小:若 则令则令N3=RES,即N3=100-N1-N2,然后,基于所获得的第3组服务器集群调整后的访问比例,可以获得剩余访问比例RES=RES-N3,即RES=100-N1-N2-N3
如此类推,可以获得剩下的其他的各服务器集群调整后的访问比例;
针对第m个服务器集群,可以采用上述同样的方式获得其调整后的访问比例Nm,基于调整后的访问比例之和为100的关系,也可以直接通过式Nm=100-N1-N2-...-Nm-1来确定该第m个服务器集群调整后的访问比例。
根据上述得到各服务器集群调整后的访问比例,可以获得各服务器集群的访问区间,基于上述质量高低同样的顺序,各服务器集群的访问区间分别为[0,N1]、[N1,N1+N2]、...、[N1+N2+...+Nm-1,100]。
根据得到的各服务器计算的访问区间,在接收到用户请求之后,即可根据用户请求的优先级级别选择相应的服务器集群进行访问,具体过程可以是,根据用户请求的优先级级别的数目确定各优先级级别所对应的访问区间,然后依据当前用户请求的优先级级别所对应的访问区间与各服务器集群的访问区间的覆盖关系选择有覆盖关系的服务器集群,并从这些有覆盖关系的服务器集群中随机选择一个服务器集群将该用户请求导向至所选择的服务器集群。
基于上述本发明的具体示例,在其中一个具体的实现方式中,具体的算法可如下所示:
首先,使用当前访问比例Pi初始化将要调整的访问比例Ni
for i=1 to m do Ni=Pi
其次,根据负载Li,按照服务器质量的高低顺序,调整访问比例Ni
然后,在[0,100]之间划分m份,形成服务器集群访问区间
[0,N1]、[N1,N1+N2]、..、[N1+N2+Nm-1,100]
在其中一个具体样例中,假设长视频的广东省广州市电信区域底下有3组服务器集群,质量从高到低分别记为广州机房、深圳机房和佛山机房,健康运转的服务器集群负载不得超过80,用户的优先级只有两级,分为1(付费级别)和2(普通级别),在某时刻的访问比例和集群负载如下表所示:
广州机房 深圳机房 佛山机房
访问比例 90 10 0
集群负载 90 50 10
从而,根据上述本发明的对访问比例的调整方式,对各服务器集群的访问比例的调整方式可以是如下所述:
广州机房调整后的访问比例为:
深圳机房调整后的访问比例为:
佛山机房调整后的访问比例为:N3=100-N1-N2=100-80-16=4。
从而,在下一个时间点,访问比例将会调整为:
广州机房 深圳机房 佛山机房
访问比例 80 16 4
根据上述确定的访问比例,广州机房、深圳机房、佛山机房的访问区间会被分别划分为:[0,80]、[80,96]、[96,100]。
最后,由于用户请求只有2种优先级别(1-付费级别,2-普通级别),基于这两个优先级级别,付费用户的请求将会落在[0,50],普通用户的请求将会落在[50,100]。由于付费用户的区间范围全部落入广州机房的访问区间范围内,从而付费级别只与广州机房有对应关系,付费用户的请求都会被导向只广州机房,普通用户的区间范围对广州机房、深圳机房、佛山机房都有覆盖关系,因此,普通级别与广州机房、深圳机房、佛山机房都有对应关系,普通用户的请求会被随机导向至广州机房、深圳机房、佛山机房,保证了忙时付费用户的体验。类似地,若有3种优先级别,则一级别的用户的请求会落到[0,33],二级别的用户会落到[33,66],三级别的用户会落到[66,100]。
一般来说,视频文件都是切割成好几片存储的,每片大约是5-10分钟的内容,用户观看的时候每换一个分片都会重新请求URL。对于已连接的用户,在请求下一分片URL的时候,依据本发明调整后的访问比例所做的导向就能起作用了。比如某用户正在深圳机房观看第一分片,通过采用本发明调整后的访问比例进行导向时,有可能第二分片就会导向到广州机房。
通过上述本发明方案,可以在闲时把请求导向高质量机房,保证带宽利用率和用户体验。忙时把部分请求迁移到中等质量的机房,防止高质量机房流量过载,有效地控制了运营成本。而且,在高质量机房负载过大时,适当地把优先级较低的请求导向中等质量的机房,保证了高优先级请求的播放质量。
其中,在上述说明中,是以将用户请求导向到了相应的服务器集群为例进行说明。一般情况下,一个机房的服务器集群中会包含有多个服务器,具体将用户请求导向至哪个服务器,可以根据实际需要进行选择,例如在服务器集群中设置有主服务器,由主服务器根据集群中其他各服务器的负载情况将该用户请求转发至某个服务器,或者也可以是按照任务均摊的规则直接将用户请求转发至某个服务器。到达服务器集群之后的用户请求的转发方式,可以采用现有 技术中已有的方式进行,在此不予多加赘述。
根据上述本发明的负载均衡方法,本发明还提供一种负载均衡系统,图3中示出了本发明的负载均衡系统实施例的结构示意图。
如图3所示,本实施例中的负载均衡系统包括:
参数获取模块301,用于获取同一网络区域下对应的各服务器集群的当前访问比例以及各服务器集群的负载量;
调整模块302,用于根据预设服务器集群负载阈值、各服务器集群的负载量以及当前访问比例对各服务器集群的访问比例进行调整;
请求导向模块303,用于根据各服务器集群调整后的访问比例将接收的用户请求导向至相应的服务器集群。
其中,上述调整模块302在对各服务器集群的访问比例进行调整时,可以是通过服务器集群当前访问比例跟服务器集群负载阈值的乘积与服务器集群负载的比值来确定服务器集群调整后的访问比例。
在其中一个具体实施例中,调整模块302可以根据各服务器集群的预设质量高低顺序依次对各服务器集群的访问比例进行调整,对各服务器集群进行调整时,可以判断对应的比值是否小于剩余访问比例,若是,将上述比值确定为该服务器集群调整后的访问比例,若否,将剩余访问比例确定为该服务器集群调整后的访问比例,其中,该剩余访问比例是各服务器集群的当前访问比例之和与已调整的各服务器集群调整后的访问比例之和的差值。
此外,上述请求导向模块303,还可以是根据各服务器集群调整后的访问比例以及所接收的用户请求的优先级级别将接收的用户请求导向至相应的服务器集群。
在根据各服务器集群的访问比例以及用户请求的优先级级别进行导向时,可以采用各种可能的方式来进行。
在其中一种实现方式中,在上述得到各服务器集群调整后的访问比例后,请求导向模块303可以基于所设定的优先级级别的数目,确定各优先级级别与 各服务器集群之间的对应关系,从而,在接收到用户请求后,可以基于该对应关系将用户请求导向至对应的服务器集群。在于该优先级级别对应的服务器集群有多个的情况下,可以随机将该用户请求导向至对应的各服务器集群中的任意一个。
这种对应关系的确定,可以采用各种可能的方式来确定。例如,在其中一种确定方式中,在上述得到各服务器集群调整后的访问比例后,确定各服务器集群的访问区间,还根据所设置的优先级级别的数目确定各优先级级别的访问区间,然后根据各优先级级别的访问区间与各服务器集群的访问区间的覆盖关系确定各优先级级别与各服务器集群间的对应关系。
在另外一种实现方式中,请求导向模块303可以是直接依据上述覆盖关系来对用户请求进行导向。即,在上述得到各服务器集群调整后的访问比例后,请求导向模块303确定各服务器集群的访问区间,还根据所设置的优先级级别的数目确定各优先级级别的访问区间,在接收到用户请求后,根据用户请求的优先级级别的访问区间与各服务器集群的访问区间的覆盖关系来将接收到的用户请求导向至有覆盖关系的服务器集群中的任意一个。
本发明的负载均衡系统中具体的参数获取方式、访问比例调整方式、请求导向方式等等,可以与上述本发明方法中的相同,在此不予多加赘述。
以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。

Claims (10)

1.一种负载均衡方法,其特征在于,包括步骤:
获取同一网络区域下对应的各服务器集群的当前访问比例以及负载量,所述网络区域为网络频道下的地区网络;
根据预设服务器集群负载阈值、各服务器集群的负载量以及所述当前访问比例对各服务器集群的访问比例进行调整,通过各服务器集群当前访问比例跟预设服务器集群负载阈值的乘积与各服务器集群负载量的比值确定各服务器集群调整后的访问比例;
根据各服务器集群调整后的访问比例将接收的用户请求导向至相应的服务器集群。
2.根据权利要求1所述的负载均衡方法,其特征在于,根据各服务器集群的预设质量高低顺序依次对各服务器集群的访问比例进行调整,所述调整过程包括:分别判断各服务器集群对应的比值是否小于剩余访问比例,若是,将所述比值确定为该服务器集群调整后的访问比例,若否,将所述剩余访问比例确定为该服务器集群调整后的访问比例,所述剩余访问比例是各服务器集群的当前访问比例之和与已调整的各服务器集群调整后的访问比例之和的差值。
3.根据权利要求1或2所述的负载均衡方法,其特征在于,根据调整后的各服务器集群的访问比例以及用户请求的优先级级别将用户请求导向至相应的服务器集群。
4.根据权利要求3所述的负载均衡方法,其特征在于,根据各服务器集群调整后的访问比例确定各优先级级别与各服务器集群之间的对应关系,根据该对应关系将用户请求导向至对应的各服务器集群。
5.根据权利要求4所述的负载均衡方法,其特征在于,根据各服务器集群调整后的访问比例确定各服务器集群的访问区间,根据优先级级别的数目确定各优先级级别的访问区间,根据各优先级级别的访问区间与各服务器集群的访问区间的覆盖关系确定各优先级级别与各服务器集群间的对应关系。
6.一种负载均衡系统,其特征在于,包括:
参数获取模块,用于获取同一网络区域下对应的各服务器集群的当前访问比例以及各服务器集群的负载量,所述网络区域为网络频道下的地区网络;
调整模块,用于根据预设服务器集群负载阈值、各服务器集群的负载量以及所述当前访问比例对各服务器集群的访问比例进行调整,通过各服务器集群当前访问比例跟服务器集群负载阈值的乘积与各服务器集群负载的比值确定各服务器集群调整后的访问比例;
请求导向模块,用于根据各服务器集群调整后的访问比例将接收的用户请求导向至相应的服务器集群。
7.根据权利要求6所述的负载均衡系统,其特征在于,所述调整模块根据各服务器集群的预设质量高低顺序依次对各服务器集群的访问比例进行调整,所述调整过程包括:分别判断各服务器集群对应的比值是否小于剩余访问比例,若是,将所述比值确定为该服务器集群调整后的访问比例,若否,将所述剩余访问比例确定为该服务器集群调整后的访问比例,所述剩余访问比例是各服务器集群的当前访问比例之和与已调整的各服务器集群调整后的访问比例之和的差值。
8.根据权利要求6或7所述的负载均衡系统,其特征在于,所述请求导向模块根据各服务器集群调整后的访问比例以及用户请求的优先级级别将用户请求导向至相应的服务器集群。
9.根据权利要求8所述的负载均衡系统,其特征在于,所述请求导向模块根据各服务器集群调整后的访问比例确定各优先级级别与各服务器集群之间的对应关系,根据该对应关系将用户请求导向至对应的各服务器集群。
10.根据权利要求9所述的负载均衡系统,其特征在于,各优先级级别与各服务器集群间的对应关系根据各优先级级别的访问区间与各服务器集群的访问区间的覆盖关系确定,各服务器集群的访问区间根据各服务器集群调整后的访问比例确定,各优先级级别的访问区间根据优先级级别的数目确定。
CN201210140189.5A 2012-05-08 2012-05-08 负载均衡方法和负载均衡系统 Active CN103391299B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201210140189.5A CN103391299B (zh) 2012-05-08 2012-05-08 负载均衡方法和负载均衡系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201210140189.5A CN103391299B (zh) 2012-05-08 2012-05-08 负载均衡方法和负载均衡系统

Publications (2)

Publication Number Publication Date
CN103391299A CN103391299A (zh) 2013-11-13
CN103391299B true CN103391299B (zh) 2016-09-28

Family

ID=49535456

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201210140189.5A Active CN103391299B (zh) 2012-05-08 2012-05-08 负载均衡方法和负载均衡系统

Country Status (1)

Country Link
CN (1) CN103391299B (zh)

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104767689B (zh) * 2014-01-07 2018-11-09 腾讯科技(深圳)有限公司 控制网络访问接入量的方法及服务器
CN105450716B (zh) * 2014-09-25 2019-01-29 阿里巴巴集团控股有限公司 动态业务分发方法及系统
CN104901879A (zh) * 2015-07-01 2015-09-09 冯旋宇 路由器的数据发送方法及系统
CN105516325A (zh) * 2015-12-18 2016-04-20 内蒙古农业大学 一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段
CN105872007A (zh) * 2015-12-31 2016-08-17 乐视网信息技术(北京)股份有限公司 一种访问请求处理方法、装置及系统
CN107295042B (zh) * 2016-03-31 2021-12-14 阿里巴巴集团控股有限公司 一种为用户分配数据中心的方法和设备
CN106060131B (zh) * 2016-05-26 2019-10-11 新华三技术有限公司 一种分配dns服务器的方法和装置
CN106326012B (zh) * 2016-08-25 2019-09-24 中国农业银行股份有限公司 web应用集群缓存利用方法和系统
CN109218341B (zh) * 2017-06-29 2022-02-25 北京京东尚科信息技术有限公司 用于监控服务器和用于服务器的负载均衡方法和装置
CN107592370A (zh) * 2017-10-31 2018-01-16 郑州云海信息技术有限公司 一种网络负载均衡方法及装置
CN107995286B (zh) * 2017-11-30 2021-03-02 平安科技(深圳)有限公司 基于dubbo平台的服务自动启停方法、服务器及存储介质
CN108881379B (zh) * 2018-05-03 2021-04-16 网宿科技股份有限公司 一种服务器集群间数据同步的方法和装置
CN108737223B (zh) * 2018-06-29 2020-09-25 康美药业股份有限公司 基于负载均衡的健康咨询方法、装置、平台和存储介质
CN108769271A (zh) * 2018-08-20 2018-11-06 北京百度网讯科技有限公司 负载均衡的方法、装置、存储介质和终端设备
CN109361622B (zh) * 2018-11-30 2022-04-05 网宿科技股份有限公司 对cdn系统的业务连接进行带宽控制的方法及cdn系统
CN110519351A (zh) * 2019-08-15 2019-11-29 中国平安财产保险股份有限公司 数据处理方法、装置、设备及计算机可读存储介质
CN110730250B (zh) * 2019-09-06 2022-10-14 北京小米移动软件有限公司 信息处理方法及装置、服务系统、存储介质
CN110933181B (zh) * 2019-12-11 2024-03-15 中国银联股份有限公司 一种路由方法、装置、系统以及电子设备
CN110896382B (zh) * 2019-12-13 2023-06-30 北京奇艺世纪科技有限公司 流量控制方法、装置、设备和计算机可读存储介质
CN111290924B (zh) * 2020-01-22 2022-05-10 北京字节跳动网络技术有限公司 监控方法、装置及电子设备
CN111431818B (zh) * 2020-02-28 2023-06-09 口碑(上海)信息技术有限公司 跨域请求的流量分配方法、装置、存储介质及计算机设备
TWI735228B (zh) * 2020-05-14 2021-08-01 遠東科技大學 網頁伺服器負載平衡方法
CN111800457A (zh) * 2020-05-21 2020-10-20 福建天泉教育科技有限公司 优化路由分配的方法、存储介质
CN112291326B (zh) * 2020-10-23 2023-04-18 深圳市欢太科技有限公司 负载均衡方法、负载均衡装置、存储介质与电子设备
CN113824776A (zh) * 2021-09-02 2021-12-21 济南浪潮数据技术有限公司 一种网络请求的自动分发方法和系统
CN116233137B (zh) * 2023-02-17 2023-11-17 通明智云(北京)科技有限公司 一种基于集群的负载分担和备份方法及装置
CN117076185B (zh) * 2023-10-16 2024-01-05 太平金融科技服务(上海)有限公司 一种服务器巡检方法、装置、设备及介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101753444A (zh) * 2009-12-31 2010-06-23 卓望数码技术(深圳)有限公司 一种负载均衡方法和负载均衡装置
CN102185779A (zh) * 2011-05-11 2011-09-14 田文洪 与综合配置能力成比例的数据中心资源负载均衡的方法及装置
CN102195885A (zh) * 2011-05-27 2011-09-21 成都市华为赛门铁克科技有限公司 报文处理方法及装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7389510B2 (en) * 2003-11-06 2008-06-17 International Business Machines Corporation Load balancing of servers in a cluster

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101753444A (zh) * 2009-12-31 2010-06-23 卓望数码技术(深圳)有限公司 一种负载均衡方法和负载均衡装置
CN102185779A (zh) * 2011-05-11 2011-09-14 田文洪 与综合配置能力成比例的数据中心资源负载均衡的方法及装置
CN102195885A (zh) * 2011-05-27 2011-09-21 成都市华为赛门铁克科技有限公司 报文处理方法及装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
"基于IP多媒体子系统的IPTV业务控制服务器集群负载均衡机制";林镜华等;《计算机应用》;20101115;第30卷(第9期);第2488-2493页 *
"基于集群存储系统的动态负载均衡调度策略";郑奇英等;《计算机与现代化》;20110420(第1期);第11-13页 *

Also Published As

Publication number Publication date
CN103391299A (zh) 2013-11-13

Similar Documents

Publication Publication Date Title
CN103391299B (zh) 负载均衡方法和负载均衡系统
CN109040259B (zh) 一种基于mec的cdn节点分配方法和系统
CN104320487B (zh) 内容分发网络的http调度系统和方法
CN106656800B (zh) 一种路径选取方法及系统、网络加速节点及网络加速系统
US20170142177A1 (en) Method and system for network dispatching
CN105991459B (zh) Cdn节点回源路由分配方法、装置和系统
US9407570B2 (en) Method, apparatus, and system for allocating CDN volume
CN104580393B (zh) 用于服务器集群系统的扩容方法、装置及服务器集群系统
WO2017080172A1 (zh) 网络调度方法和系统
CN103716251B (zh) 用于内容分发网络的负载均衡方法及设备
CN105872079B (zh) 一种基于域名系统dns的链路均衡方法
CN113037869B (zh) 用于内容分发网络系统的回源的方法和装置
CN109327550A (zh) 一种访问请求的分配方法、装置、存储介质和计算机设备
CN104348798B (zh) 一种分配网络的方法、装置、调度服务器和系统
CN107426332B (zh) 一种web服务器集群的负载均衡方法及系统
CN108076142A (zh) 一种基于cdn技术加速用户请求的方法及系统
CN103701916A (zh) 分布式存储系统的动态负载均衡方法
CN102045396A (zh) 服务器文件的负载均衡方法
CN108965884B (zh) 一种转码任务的分配方法及调度设备、转码设备
CN110545450B (zh) 一种节点分配方法、系统及电子设备和存储介质
CN111045808B (zh) 一种分布式网络任务调度方法及装置
CN108881509A (zh) 一种基于httpdns的dns查询方法及装置
CN105491150A (zh) 基于时间序列的负载均衡处理方法及系统
CN107835262A (zh) 一种流媒体服务器负载动态分配方法
CN108259372A (zh) 一种多链路负载均衡系统和方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant