CN103281367B - 一种负载均衡方法及装置 - Google Patents
一种负载均衡方法及装置 Download PDFInfo
- Publication number
- CN103281367B CN103281367B CN201310192583.8A CN201310192583A CN103281367B CN 103281367 B CN103281367 B CN 103281367B CN 201310192583 A CN201310192583 A CN 201310192583A CN 103281367 B CN103281367 B CN 103281367B
- Authority
- CN
- China
- Prior art keywords
- url request
- hot spot
- server
- cache
- cache servers
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Abstract
本发明公开了一种负载均衡方法及装置,该方法包括:依次根据高速缓冲存储器Cache服务器集群中每一个Cache服务器在上一周期内的负载量,以及每一个Cache服务器的处理门限值,识别出上述Cache服务器集群中的热点服务器;根据每一个热点服务器在上一周期内,分别接收到的若干种统一资源定位符URL请求各自占用的资源权重,确定出上述若干种URL请求中的至少一种热点URL请求;根据确定出的至少一种热点URL请求,针对接收到的热点URL请求执行权重轮询分配,用以解决现有技术无法及时发现和处理热点问题导致的系统崩溃问题。
Description
技术领域
本发明涉及内容分发网络(ContentDeliveryNetwork,CDN)技术领域,特别涉及一种负载均衡方法及装置。
背景技术
在CDN领域中,负载均衡器将用户设备的访问引导到高速缓冲存储器(Cache)服务器上,让用户设备能够就近获取到需要的内容,使得用户设备无需穿透各种路由,从源站获取内容,从而达到加速访问的效果。
在CDN领域,将负载均衡器+多台Cache服务器的架构中的多台Cache服务器称为Cache服务器集群,其中,负载均衡器采用统一资源标识符(UniformResourceIdentifier,URI)哈希方式作为分配策略。由于Cache服务器在接收到某一请求,并确定本地没有存储相应的内容时,会从源站中获取并存储相应的内容,并发送给用户设备,此后,如果该Cache服务器再次接收到该请求,就会直接将本地存储的相应内容发送给用户设备。在URI哈希方式中,相同的请求会被分配到同一台Cache服务器上,以避免相同的请求被分配到不同的Cache服务器上,使得不同的Cache服务器都分别获取相同的内容所导致重复存储、回源量过多以及资源浪费的问题,并且能够提高整个Cache服务器集群的存储效率。
URI哈希方式是一种静态的分配策略,这种分配策略是按照配置将请求分配给后端的Cache服务器的,不考虑各个Cache服务器的当前负载状况。由于URI哈希方式没有全局性地把握所有Cache服务器的当前负载状况,因此,很可能会出现短时间将大量的相同请求分配到同一个Cache服务器,导致该Cache服务器的负载濒临或超过其处理能力的上限,最终导致Cache服务器的性能下降,甚至系统崩溃。将上述短时间内大量出现的相同请求称为热点URL请求,简称热点统一资源定位符(UniformResourceLocator,URL)请求。上述热点URL请求导致单台Cache服务器的负载过量的问题,即为热点问题,热点问题的示意图参见图1所示。
目前,只有在系统崩溃或宕机后,运维人员才能够检测是否出现热点问题,在确定出现热点问题后,运维人员将分配策略从URI哈希方式调整为轮询方式,其过程参见图2所示。由于轮询方式会将所有请求均匀分配给每一台Cache服务器,因此,在运维人员调整分配策略并重启系统后,系统又会出现相同的请求被分配到不同的Cache服务器上,使得不同的Cache服务器都分别获取相同的内容,所导致的整个Cache服务器集群的存储效率降低的问题。
发明内容
本发明实施例提供一种负载均衡方法及装置,用以解决现有技术中存在的无法及时发现和有效解决热点问题,进而导致的系统崩溃或服务器宕机的问题。
本发明实施例提供一种负载均衡方法,包括:
依次根据高速缓冲存储器Cache服务器集群中每一个Cache服务器在上一周期内的负载量,以及每一个Cache服务器的处理门限值,识别出所述Cache服务器集群中的热点服务器;
根据每一个热点服务器在上一周期内,分别接收到的若干种统一资源定位符URL请求各自占用的资源权重,确定出所述若干种URL请求中的至少一种热点URL请求;
根据确定出的至少一种热点URL请求,针对接收到的热点URL请求执行权重轮询分配,针对接收到的非热点URL请求执行统一资源标识符URI哈希分配。
本发明实施例提供的一种负载均衡装置,包括:
识别模块,用于依次根据高速缓冲存储器Cache服务器集群中每一个Cache服务器在上一周期内的负载量,以及每一个Cache服务器的处理门限值,识别出所述Cache服务器集群中的热点服务器;
确定模块,用于根据每一个热点服务器在上一周期内,分别接收到的若干种统一资源定位符URL请求各自占用的资源权重,确定出所述若干种URL请求中的至少一种热点URL请求;
分配模块,用于根据确定出的至少一种热点URL请求,针对接收到的热点URL请求执行权重轮询分配,针对接收到的非热点URL请求执行统一资源标识符URI哈希分配。
本发明实施例中,根据Cache服务器集群中每一个Cache服务器在上一周期内的负载量,以及每一个Cache服务器的处理门限值,确定出该Cache服务器集群中的热点服务器,根据每一个热点服务器在上一周期内分别接收到的若干种URL请求各自占用的资源权重,确定出上述若干种URL请求中的至少一个热点URL请求,从而及时发现存在的热点问题,并且,根据确定出的至少一种热点URL请求,专门针对接收到的热点URL请求执行权重轮询分配,从而及时缓解热点URL请求给热点服务器带来的处理压力,避免系统崩溃或服务器宕机的情况出现。
附图说明
图1为现有技术中Cache服务器出现热点问题的示意图;
图2为现有技术中负载均衡器使用轮询方式进行URL请求的分配示意图;
图3为本发明实施例设计的一种负载均衡方法流程图;
图4为本发明实施例中URL请求的分配示意图;
图5为本发明实施例设计的一种负载均衡装置示意图。
具体实施方式
本发明实施例提供了一种负载均衡方法及装置,能够及时发现并有效地解决热点问题,避免系统崩溃或服务器宕机的情况出现。
下面结合附图说明本发明的优选实施例。
参阅图3所示,本发明实施例设计了一种负载均衡方法,包括如下步骤:
步骤301:依次根据Cache服务器集群中每一个Cache服务器在上一周期内的负载量,以及每一个Cache服务器的处理门限值,识别出该Cache服务器集群中的热点服务器。
较佳地,可以通过下述方式识别热点服务器。
分别确定该Cache服务器集群中每一个Cache服务器在上一周期内的负载量;将每一个Cache服务器的负载量与该Cache服务器的处理门限值对比,选择出负载量达到相应的处理门限值的Cache服务器,作为该Cache服务器集群中的热点服务器。
实际应用中,针对Cache服务器集群中的每一个Cache服务器,可以但不限于,根据该Cache服务器在上一周期内处理的URL请求的总数量和总流量,确定该Cache服务器集群中每一个Cache服务器在上一个周期内的负载量。
例如,采用下述公式确定Cache服务器上一周期内的负载量:
其中,Ra表示Cache服务器在上一周期内的负载量,Ta表示该Cache服务器在上一周期内处理的URL请求数量,表示Cache服务器集群中所有Cache服务器在上一周期内分别处理的URL请求数量之和,Ta’表示该Cache服务器在上一周期内处理的流量,表示Cache服务器集群中所有Cache服务器在上一周期内分别处理的流量之和。
步骤302:根据每一个热点服务器在上一周期内,分别接收到的若干种URL请求各自占用的资源权重,确定出上述若干种URL请求中的至少一种热点URL请求。
较佳地,可以但不限于采用如下方式确定每一个热点服务器在上一周期内,分别接收到的若干URL请求各自占用的资源权重:
针对每一个热点服务器接收到的每一种URL请求,确定在上一周期内,该热点服务器接收到该种类的URL请求的数量,与该热点服务器接收到的所有URL请求的总数量的数量比值,以及在上一周期内,该热点服务器处理该种类的URL请求消耗的流量,与上述热点服务器处理的所有URL请求消耗的总流量的流量比值;
根据该种类的URL请求占用的权重资源与上述数量比值成正比,并且与上述流量比值成正比的关系,确定该种类的URL请求占用的资源权重。
较佳地,针对每一个热点服务器,可以将该热点服务器在上一周期内接收到的若干种URL请求,依照各自占用的资源权重排序,将排列靠前的n种URL请求作为热点URL请求,其中,n为满足下述条件的最小正整数:
前n种URL请求占用的资源权重总和大于该热点服务器的偏离比,上述偏离比为该热点服务器在上一周期内的负载量与该热点服务器的处理门限值之差;
或者,也可以从每一个热点服务器在上一周期内分别接收到的若干URL请求中,选择占用的资源权重大于预设门限值的至少一种URL请求,作为热点URL请求。
基于实际情况的不同,造成热点服务器的负载量超过其处理门限值的原因,可能是一种或多种URL请求占用的资源过多,为了确定调整哪些URL请求的分配方式才可以成功缓解热点服务器的处理压力,可以根据上一周期内的热点服务器处理的URL请求的总数量和总流量,预先计算出热点服务器需要将负载量降低到多少,才能够缓解处理压力,并基于需要降低的负载量来设置上述资源权重的预设门限值。
为方便查询,可以将确定出的热点URL请求记录在热点URL请求列表中,在每当服务器接收到新的URL请求时,查询该热点URL请求列表,根据查询结果判断上述新的URL请求是否为热点URL请求。
针对已记录在热点URL请求列表中的每一种热点URL请求,若确定其中某一种热点URL请求的总数量或总流量下降时,可以将该种类的URL请求从热点URL请求列表中删除,然后,针对该种类的URL请求执行哈希URI分配,从而避免重复存储,减少回源量。具体地,可以将资源权重低于预设门限值的URL请求从热点URL请求列表中删除。
步骤303:根据确定出的至少一种热点URL请求,针对接收到的热点URL请求执行权重轮询分配,针对接收到的非热点URL请求执行URI哈希分配。
针对接收到的热点URL请求,可以根据该Cache服务器集群中每一个Cache服务器的处理能力的权重比例,确定分配给相应的Cache服务器的热点URL请求的数量,从而确保处理能力较高的Cache服务器能够得到更高的使用率,避免处理能力较低的Cache服务器出现负载量超负荷的情况。
下面结合图4举例说明本发明实施例设计的负载均衡方法应用于实际情况中的一种可能实现方式。
图4中负载均衡器负责将用户设备发送的URL请求分配给Cache服务器,Cache服务器通过源站服务器获取并存储相应的内容,Cache服务器在下一次接收到相同种类的URL请求时直接将本地存储的相应内容发送给用户设备。
负载均衡器每间隔一分钟统计分析上一分钟的访问日志,该访问日志中包括了访问的URL请求、每一个URL请求消耗的流量以及每一个URL请求的分配去向等信息。
步骤一:负载均衡器根据上一分钟的访问日志的统计分析结果,将负载量达到处理门限值的Cache服务器确定出来,作为热点服务器。具体地,负载均衡器可以通过但不限于通过下述两种方式识别热点服务器。
方式一:负载均衡服务器可以将符合下述公式的Cache服务器,作为热点服务器。
其中,Ta表示某一Cache服务器在上一分钟内处理的URL请求数量,表示Cache服务器集群中所有Cache服务器在上一分钟内分别处理的URL请求数量之和,Ta’表示该Cache服务器在上一分钟内处理的流量,表示Cache服务器集群中所有Cache服务器在上一分钟内分别处理的流量之和,Wa表示该Cache服务器处理能力的权重,表示该服务器集群中所有Cache服务器的处理能力的权重之和,k表示Cache服务器进行超负荷的容忍度,用于对Cache服务器的实际负荷量进行调整,正常情况下k的值等于1,k的值越大,Cache服务器的超负荷处理能力就越强。
上述公式中表示基于上一分钟的访问日志计算Cache服务器的实际负荷量Ra,Ra可以通过Cache服务器在上一分钟处理的URL请求的数量和流量获得,也就是说, 其中,ra表示Cache服务器在上一分钟处理的URL请求的数量,ra’表示Cache服务器在上一分钟处理的流量。
方式二:负载均衡器可以通过下述公式计算Cache服务器的实际负载量与处理能力的偏离比Dra,并将偏离比大于0的Cache服务器作为热点服务器。
这是因为在Cache服务器的Dra等于0时,可以判定该Cache服务器的实际负荷量与其处理能力相符合,在Cache服务器的Dra大于0时,判定该Cache服务器的实际负荷量偏重,即需要降低该Cache服务器的负载量,在Cache服务器的Dra小于0时,判定该Cache服务器的实际负荷量偏轻,即可以继续增加该Cache服务器的负载量。
其中,Ta表示某一Cache服务器在上一分钟内处理的URL请求数量,表示Cache服务器集群中所有Cache服务器在上一分钟内分别处理的URL请求数量之和,Ta’表示该Cache服务器在上一分钟内处理的流量,表示Cache服务器集群中所有Cache服务器在上一分钟内分别处理的流量之和,Wa表示该服务器处理能力的权重,表示该服务器集群中所有Cache服务器的处理能力的权重之和。
通过上述公式可以看出,偏离比Dra即为热点服务器在上一周期内的负载量与该热点服务器的处理门限值之差。
步骤二:负载均衡器针对热点服务器中的所有URL请求进行统计,计算其中的每一个URL请求分别占用的资源权重。
图4中,负载均衡器判断出服务器a为热点服务器,此时,基于上一分钟的访问日志,针对服务器a接收到的每一种URL请求执行下述操作:
采用如下公式计算在上一分钟内,每一种URL请求分别占用的资源权重:
Hn=0.5*(Un+Sn);
其中,Hn表示在上一分钟内,服务器a接收到的某一种URL请求占用的资源权重,Un表示在上一分钟内,服务器a接收到该种类的URL的数量在服务器a接收到的所有URL的总数量中所占的数量比例,Sn表示在上一分钟内,服务器a针对该种类的URL请求的处理流量在服务器a处理的总流量中所占的流量比例。
步骤三:负载均衡器根据热点服务器接收到的每一种URL请求占用的资源权重,对热点服务器接收到的所有URL请求进行排序,选择排序靠前的若干URL请求作为热点URL请求,上述排序靠前的若干URL请求占用的资源权重之和大于热点服务器的偏离比。
例如,假设热点服务器在上一分钟内接收到了5种URL请求,分别为URL1-URL5。
URL1的资源权重H1=0.5*(U1+S1)=0.5*(0.4+0.4)=0.4;
URL2的资源权重H2=0.5*(U2+S2)=0.5*(0.3+0.2)=0.25;
URL3的资源权重H3=0.5*(U3+S3)=0.5*(0.2+0.12)=0.175;
URL4的资源权重H4=0.5*(U4+S4)=0.5*(0.05+0.2)=0.125;
URL5的资源权重H5=0.5*(U5+S5)=0.5*(0.05+0.05)=0.05。
按照资源权重的大小对URL1-URL5进行排序,将前n种URL请求的资源权重之和与Dra比较,若前n种URL请求的资源权重之和不小于Dra,前n-1种URL的资源权重之和小于Dra,则将该前n种URL请求作为热点URL请求,其中,n为正整数,并且n小于热点服务器在上一周期内接收到的URL请求种类的总数。
由于Dra可以理解成,分配给热点服务器的URL请求中超出了该热点服务器的处理上限的URL请求所占的比例,因此,需要将超出的这部分URL请求选择出来,作为热点URL进行处理,从而缓解处理压力。
上述热点URL请求的种类可以是一种或多种。上述资源权重的预设门限值可以是某一种URL请求的资源权重的数值,也可以是根据Cache服务器的性能参数预先计算出的门限值。在上述实施例中,n是根据热点服务器的实际负载量与其处理能力的偏离比Dra确定的,第n种URL请求的资源权重即为根据热点服务器的性能参数预先计算出的门限值。
图4中URL1所占用的资源权重最大,并且只需调整URL1的分配方式就可以成功避免Cache服务器1的负载量超过其处理能力的上限,因此,负载均衡器选择了URL1作为热点URL请求。
步骤四:根据上述热点URL请求列表,对接收到的热点URL请求执行权重轮询分配,对接收到的非热点URL请求执行URI哈希分配。
图4中,在URL1被判定为热点URL请求后,负载均衡器对URL1执行权重轮询分配,即根据三个Cache服务器的处理能力的权重比例,将URL1分配给三个Cache服务器,对其它非热点URL则执行URI哈希分配。
为提升URL请求的分配效率,负载均衡器可以将热点URL请求列表中的若干热点URL请求,以最近访问的先后顺序进行排列,以便快速查找匹配,提高热点URL的发现速度和处理效率。
上述实施例中,负载均衡器能够根据上一分钟内的访问日志,及时发现负载量达到处理门限值的热点服务器,从热点服务器接收到的若干种URL请求中,确定出占用的资源权重较大的热点URL请求,并记录在热点URL请求列表中,从而及时发现存在的热点问题,并且,根据已记录的热点URL请求列表,对接收到的热点URL请求执行权重轮询分配,从而缓解热点URL请求给热点服务器带来的处理压力,对接收到的非热点URL请求执行URI哈希分配,从而减少非热点URL请求的回源量,这样,就能够在缓解热点问题、避免系统崩溃的同时,提高整个Cache服务器集群的存储效率。
基于同一设计思路,本发明实施例还设计了一种负载均衡装置,参阅图5所示,该装置包括:
识别模块501,用于依次根据高速缓冲存储器Cache服务器集群中每一个Cache服务器在上一周期内的负载量,以及每一个Cache服务器的处理门限值,识别出上述Cache服务器集群中的热点服务器;
确定模块502,用于根据每一个热点服务器在上一周期内,分别接收到的若干种URL请求各自占用的资源权重,确定出上述若干种URL请求中的至少一种热点URL请求;
分配模块503,用于根据确定出的至少一种热点URL请求,针对接收到的热点URL请求执行权重轮询分配,针对接收到的非热点URL请求执行URI哈希分配。
较佳地,上述识别模块501,具体用于:
分别确定上述Cache服务器集群中每一个Cache服务器在上一周期内的负载量;将每一个Cache服务器的负载量与该Cache服务器的处理门限值对比,选择出负载量达到相应的处理门限值的Cache服务器,作为上述Cache服务器集群中的热点服务器。
上述识别模块501,进一步用于:
针对上述Cache服务器集群中的每一个Cache服务器,根据该Cache服务器在上一周期内处理的URL请求的总数量和总流量,确定上述Cache服务器集群中每一个Cache服务器在上一周期内的负载量。
上述识别模块501,基于下述公式确定Cache服务器在上一周内的负载量:
其中,Ra表示Cache服务器在上一周期内的负载量,Ta表示上述Cache服务器在上一周期内处理的URL请求数量,表示Cache服务器集群中所有Cache服务器在上一周期内分别处理的URL请求数量之和,Ta’表示上述Cache服务器在上一周期内处理的流量,表示Cache服务器集群中所有Cache服务器在上一周期内分别处理的总流量之和。
上述确定模块502,具体用于:
针对每一个热点服务器接收到的每一种URL请求,确定在上一周期内,该热点服务器接收到该种类的URL请求的数量,与该热点服务器接收到的所有URL请求的总数量的数量比值,以及在上一周期内,该热点服务器处理该种类的URL请求消耗的流量,与上述热点服务器处理的所有URL请求消耗的总流量的流量比值;根据该种类的URL请求占用的权重资源与上述数量比值成正比,并且与上述流量比值成正比的关系,确定该种类的URL请求占用的资源权重。
上述确定模块502具体用于,
针对每一个热点服务器,将该热点服务器在上一周期内接收到的若干种URL请求,依照各自占用的资源权重排序,将排列靠前的n种URL请求作为热点URL请求,其中,n为满足下述条件的最小正整数:前n种URL请求占用的资源权重总和大于该热点服务器的偏离比,上述偏离比为该热点服务器在上一周期内的负载量与该热点服务器的处理门限值之差;或者,
从每一个热点服务器在上一周期内分别接收到的若干URL请求中,选择占用的资源权重大于预设门限值的至少一种URL请求,作为热点URL请求。
上述分配模块503,具体用于:
在上述确定模块502确定出上述若干种URL请求中的至少一种热点URL请求之后,根据上述确定模块502确定出的至少一种热点URL请求,针对接收到的非热点URL请求执行统一资源标识符URI哈希分配。
上述装置是与方法流程一一对应的,在此不再赘述。
本发明实施例中,根据Cache服务器集群中每一个Cache服务器在上一周期内的负载量,以及每一个Cache服务器的处理门限值,确定出该Cache服务器集群中的热点服务器,根据每一个热点服务器在上一周期内分别接收到的若干种URL请求各自占用的资源权重,确定出上述若干种URL请求中的至少一个热点URL请求,从而及时发现存在的热点问题,并且,根据确定出的至少一种热点URL请求,专门针对接收到的热点URL请求执行权重轮询分配,从而及时缓解热点URL请求给热点服务器带来的处理压力,避免系统崩溃或服务器宕机的情况出现。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。
显然,本领域的技术人员可以对本发明实施例进行各种改动和变型而不脱离本发明实施例的精神和范围。这样,倘若本发明实施例的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。
Claims (10)
1.一种负载均衡方法,其特征在于,包括:
依次根据高速缓冲存储器Cache服务器集群中每一个Cache服务器在上一周期内的负载量,以及每一个Cache服务器的处理门限值,识别出所述Cache服务器集群中的热点服务器;
根据每一个热点服务器在上一周期内,分别接收到的若干种统一资源定位符URL请求各自占用的资源权重,确定出所述若干种URL请求中的至少一种热点URL请求;
根据确定出的至少一种热点URL请求,针对接收到的热点URL请求执行权重轮询分配,针对接收到的非热点URL请求执行统一资源标识符URI哈希分配。
2.如权利要求1所述的方法,其特征在于,依次根据Cache服务器集群中每一个Cache服务器在上一周期内的负载量,以及每一个Cache服务器的处理门限值,识别出所述Cache服务器集群中的热点服务器,具体包括:
分别确定所述Cache服务器集群中每一个Cache服务器在上一周期内的负载量;
将每一个Cache服务器的负载量与该Cache服务器的处理门限值对比,选择出负载量达到相应的处理门限值的Cache服务器,作为所述Cache服务器集群中的热点服务器。
3.如权利要求2所述的方法,其特征在于,分别确定所述Cache服务器集群中每一个Cache服务器在上一周期内的负载量,具体包括:
针对所述Cache服务器集群中的每一个Cache服务器,根据该Cache服务器在上一周期内处理的URL请求的总数量和总流量,确定所述Cache服务器集群中每一个Cache服务器在上一周期内的负载量。
4.如权利要求1所述的方法,其特征在于,确定根据每一个热点服务器在上一周期内,分别接收到的若干URL请求各自占用的资源权重,具体包括:
针对每一个热点服务器接收到的每一种URL请求,确定在上一周期内,该热点服务器接收到该种类的URL请求的数量,与该热点服务器接收到的所有URL请求的总数量的数量比值,以及在上一周期内,该热点服务器处理该种类的URL请求消耗的流量,与所述热点服务器处理的所有URL请求消耗的总流量的流量比值;
根据该种类的URL请求占用的权重资源与所述数量比值成正比,并且与所述流量比值成正比的关系,确定该种类的URL请求占用的资源权重。
5.如权利要求1-4中任一项所述的方法,其特征在于,根据每一个热点服务器在上一周期内,分别接收到的若干种URL请求各自占用的资源权重,确定出所述若干种URL请求中的至少一种热点URL请求,具体包括:
针对每一个热点服务器,将该热点服务器在上一周期内接收到的若干种URL请求,依照各自占用的资源权重排序,将排列靠前的n种URL请求作为热点URL请求,其中,n为满足下述条件的最小正整数:
前n种URL请求占用的资源权重总和大于该热点服务器的偏离比,所述偏离比为该热点服务器在上一周期内的负载量与该热点服务器的处理门限值之差;或者,
从每一个热点服务器在上一周期内分别接收到的若干URL请求中,选择占用的资源权重大于预设门限值的至少一种URL请求,作为热点URL请求。
6.一种负载均衡装置,其特征在于,包括:
识别模块,用于依次根据高速缓冲存储器Cache服务器集群中每一个Cache服务器在上一周期内的负载量,以及每一个Cache服务器的处理门限值,识别出所述Cache服务器集群中的热点服务器;
确定模块,用于根据每一个热点服务器在上一周期内,分别接收到的若干种统一资源定位符URL请求各自占用的资源权重,确定出所述若干种URL请求中的至少一种热点URL请求;
分配模块,用于根据确定出的至少一种热点URL请求,针对接收到的热点URL请求执行权重轮询分配,针对接收到的非热点URL请求执行统一资源标识符URI哈希分配。
7.如权利要求6所述的装置,其特征在于,所述识别模块,具体用于:
分别确定所述Cache服务器集群中每一个Cache服务器在上一周期内的负载量;将每一个Cache服务器的负载量与该Cache服务器的处理门限值对比,选择出负载量达到相应的处理门限值的Cache服务器,作为所述Cache服务器集群中的热点服务器。
8.如权利要求7所述的装置,其特征在于,所述识别模块,进一步用于:
针对所述Cache服务器集群中的每一个Cache服务器,根据该Cache服务器在上一周期内处理的URL请求的总数量和总流量,确定所述Cache服务器集群中每一个Cache服务器在上一周期内的负载量。
9.如权利要求6所述的装置,其特征在于,所述确定模块,具体用于:
针对每一个热点服务器接收到的每一种URL请求,确定在上一周期内,该热点服务器接收到该种类的URL请求的数量,与该热点服务器接收到的所有URL请求的总数量的数量比值,以及在上一周期内,该热点服务器处理该种类的URL请求消耗的流量,与所述热点服务器处理的所有URL请求消耗的总流量的流量比值;根据该种类的URL请求占用的权重资源与所述数量比值成正比,并且与所述流量比值成正比的关系,确定该种类的URL请求占用的资源权重。
10.如权利要求6所述的装置,其特征在于,所述确定模块具体用于,
针对每一个热点服务器,将该热点服务器在上一周期内接收到的若干种URL请求,依照各自占用的资源权重排序,将排列靠前的n种URL请求作为热点URL请求,其中,n为满足下述条件的最小正整数:前n种URL请求占用的资源权重总和大于该热点服务器的偏离比,所述偏离比为该热点服务器在上一周期内的负载量与该热点服务器的处理门限值之差;或者,
从每一个热点服务器在上一周期内分别接收到的若干URL请求中,选择占用的资源权重大于预设门限值的至少一种URL请求,作为热点URL请求。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310192583.8A CN103281367B (zh) | 2013-05-22 | 2013-05-22 | 一种负载均衡方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310192583.8A CN103281367B (zh) | 2013-05-22 | 2013-05-22 | 一种负载均衡方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103281367A CN103281367A (zh) | 2013-09-04 |
CN103281367B true CN103281367B (zh) | 2016-03-02 |
Family
ID=49063812
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310192583.8A Active CN103281367B (zh) | 2013-05-22 | 2013-05-22 | 一种负载均衡方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103281367B (zh) |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103747043A (zh) * | 2013-12-24 | 2014-04-23 | 乐视网信息技术(北京)股份有限公司 | 一种cdn服务器调度方法、cdn控制中心及系统 |
CN104980478B (zh) * | 2014-05-28 | 2017-10-31 | 深圳市腾讯计算机系统有限公司 | 内容分发网络中缓存共享方法、设备及系统 |
CN104202362B (zh) * | 2014-08-14 | 2017-11-03 | 上海帝联信息科技股份有限公司 | 负载均衡系统及其内容分发方法和装置、负载均衡器 |
CN105338109B (zh) * | 2015-11-20 | 2018-10-12 | 小米科技有限责任公司 | 分片调度方法、装置及分布式服务器系统 |
CN107277093A (zh) * | 2016-04-08 | 2017-10-20 | 北京优朋普乐科技有限公司 | 内容分发网络及其负载均衡方法 |
CN107517243A (zh) * | 2016-06-16 | 2017-12-26 | 中兴通讯股份有限公司 | 请求调度方法及装置 |
CN107508758A (zh) * | 2017-08-16 | 2017-12-22 | 北京云端智度科技有限公司 | 一种热点文件自动扩散的方法 |
CN107819626A (zh) * | 2017-11-15 | 2018-03-20 | 广州天源信息科技股份有限公司 | 基于日志监控分析实现负载均衡器调整分发的方法及系统 |
CN108681484B (zh) * | 2018-04-04 | 2020-08-18 | 阿里巴巴集团控股有限公司 | 一种任务的分配方法、装置及设备 |
CN111585908B (zh) * | 2019-02-15 | 2022-03-04 | 贵州白山云科技股份有限公司 | 一种智能热点打散的方法、装置、存储介质及计算机设备 |
CN109831524B (zh) * | 2019-03-11 | 2023-04-18 | 平安科技(深圳)有限公司 | 一种负载均衡处理方法及装置 |
CN109995881B (zh) * | 2019-04-30 | 2021-12-14 | 网易(杭州)网络有限公司 | 缓存服务器的负载均衡方法和装置 |
CN112000556B (zh) * | 2020-07-06 | 2023-04-28 | 广州西山居网络科技有限公司 | 客户端程序宕机显示方法、装置及可读介质 |
CN112764948A (zh) * | 2021-01-22 | 2021-05-07 | 土巴兔集团股份有限公司 | 数据发送方法、数据发送装置、计算机设备及存储介质 |
CN113342517A (zh) * | 2021-05-17 | 2021-09-03 | 北京百度网讯科技有限公司 | 资源请求的转发方法、装置、电子设备与可读存储介质 |
CN114827159B (zh) * | 2022-03-31 | 2023-11-21 | 北京百度网讯科技有限公司 | 网络请求路径优化方法、装置、设备和存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101431532A (zh) * | 2008-12-15 | 2009-05-13 | 中国电信股份有限公司 | 一种内容路由方法、负载均衡设备和资源管理设备 |
US7912954B1 (en) * | 2003-06-27 | 2011-03-22 | Oesterreicher Richard T | System and method for digital media server load balancing |
CN102263828A (zh) * | 2011-08-24 | 2011-11-30 | 北京蓝汛通信技术有限责任公司 | 一种负载均衡分配方法及设备 |
CN102609347A (zh) * | 2012-02-17 | 2012-07-25 | 江苏南开之星软件技术有限公司 | 一种虚拟化环境下负载热点检测的方法 |
CN102882939A (zh) * | 2012-09-10 | 2013-01-16 | 北京蓝汛通信技术有限责任公司 | 负载均衡方法、设备及泛域名加速访问系统 |
CN102957571A (zh) * | 2011-08-22 | 2013-03-06 | 华为技术有限公司 | 用于网络流量监控的方法和系统 |
-
2013
- 2013-05-22 CN CN201310192583.8A patent/CN103281367B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7912954B1 (en) * | 2003-06-27 | 2011-03-22 | Oesterreicher Richard T | System and method for digital media server load balancing |
CN101431532A (zh) * | 2008-12-15 | 2009-05-13 | 中国电信股份有限公司 | 一种内容路由方法、负载均衡设备和资源管理设备 |
CN102957571A (zh) * | 2011-08-22 | 2013-03-06 | 华为技术有限公司 | 用于网络流量监控的方法和系统 |
CN102263828A (zh) * | 2011-08-24 | 2011-11-30 | 北京蓝汛通信技术有限责任公司 | 一种负载均衡分配方法及设备 |
CN102609347A (zh) * | 2012-02-17 | 2012-07-25 | 江苏南开之星软件技术有限公司 | 一种虚拟化环境下负载热点检测的方法 |
CN102882939A (zh) * | 2012-09-10 | 2013-01-16 | 北京蓝汛通信技术有限责任公司 | 负载均衡方法、设备及泛域名加速访问系统 |
Also Published As
Publication number | Publication date |
---|---|
CN103281367A (zh) | 2013-09-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103281367B (zh) | 一种负载均衡方法及装置 | |
CN102523256B (zh) | 内容的管理方法的方法、装置和系统 | |
CN102882939B (zh) | 负载均衡方法、设备及泛域名加速访问系统 | |
US9568975B2 (en) | Power balancing to increase workload density and improve energy efficiency | |
CN104202362B (zh) | 负载均衡系统及其内容分发方法和装置、负载均衡器 | |
CN104284201A (zh) | 一种视频内容的处理方法和装置 | |
WO2021012663A1 (zh) | 一种访问日志的处理方法及装置 | |
CN102624922A (zh) | 一种网络gis异构集群服务器负载均衡方法 | |
CN103516807A (zh) | 一种云计算平台服务器负载均衡系统及方法 | |
CN103227826A (zh) | 一种文件传输方法及装置 | |
CN103516744A (zh) | 一种数据处理的方法和应用服务器及集群 | |
CN105450716B (zh) | 动态业务分发方法及系统 | |
CN104702625A (zh) | 一种cdn网络中访问请求调度方法及装置 | |
CN103095806A (zh) | 一种面向大电网的实时数据库系统的负载均衡管理系统 | |
CN105468305A (zh) | 一种数据缓存方法、装置和系统 | |
CN102970381A (zh) | 基于内容分发网络按比重轮询的多源负载均衡方法和系统 | |
CN104283963A (zh) | 一种分布合作式的cdn负载均衡方法 | |
CN104038525A (zh) | 服务器系统的负载均衡方法及装置 | |
CN104734983A (zh) | 业务数据请求的调度系统、方法及装置 | |
CN106164888A (zh) | 用于最小化工作负荷空闲时间和工作负荷间干扰的网络和存储i/o请求的排序方案 | |
CN106776025A (zh) | 一种计算机集群作业调度方法及其装置 | |
CN105978936A (zh) | Cdn服务器及其缓存数据的方法 | |
CN105975345A (zh) | 一种基于分布式内存的视频帧数据动态均衡存储管理方法 | |
CN103812881A (zh) | 离线下载控制方法及装置 | |
CN113641505B (zh) | 一种服务器集群的资源分配控制方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
PP01 | Preservation of patent right |
Effective date of registration: 20220225 Granted publication date: 20160302 |
|
PP01 | Preservation of patent right |