CN105007336B - 服务器的负载均衡方法及其系统 - Google Patents

Abstract

本发明公开一种服务器的负载均衡方法，包括步骤：统计业务服务器的当前处理量；选择当前处理量最少的业务服务器，按照预设分配规则分配客户请求给选择的业务服务器，若还未分配完毕，则在未被选择的业务服务器中选择处理量最少的业务服务器，再按照预设分配规则分配客户请求给所有曾被选择的业务服务器，若依旧未分配完毕，则循环在未被选择的业务服务器中选择处理量少的业务服务器以及按照预设分配规则分配客户请求给所有曾被选择的业务服务器，直至分配结束，采用上述负载均衡方法可更均衡分配当前客户请求给业务服务器。此外，本发明还公开应用该方法的负载均衡系统。

Description

服务器的负载均衡方法及其系统

技术领域

本发明涉及网络应用技术领域，特别涉及一种服务器负载均衡方法及其系统。

背景技术

随着internet技术的发展，用户对web服务器、流媒体服务器等各种业务服务器的访问量服务和数据流量也急剧增加，容易引起服务器过载的问题，现有技术一般采用负载均衡技术来解决该问题。

负载均衡技术是根据负载情况均衡分配任务请求给服务器处理。现有的负载均衡技术一般是将当前请求分配给处理的连接数量最少的服务器，能够防止部分服务器空闲。但是如果连接数量最少的服务器无法承受其瞬间分配的大量任务请求时，也将导致该服务器过载和降低处理效率。

发明内容

有鉴于此，实有必要提供一种有效防止服务器过载的服务器的负载均衡方法及系统。

一种服务器的负载均衡方法，包括步骤：接收至少一个客户请求；选择当前处理量最少的业务服务器；根据预设算法计算分配给所有选择的业务服务器的预估处理量；依次分配客户请求给所有选择的业务服务器；判断所接收的客户请求是否分配完毕，若所接收的客户请求未分配完毕，则判断分配给所有选择的业务服务器的客户请求是否超过与预估处理量；若分配给所有选择的业务服务器的客户请求超过预估处理量，则在未被选择的业务服务器中选择当前处理量最少的业务服务器并重新计算分配给所有曾被选择的业务服务器的预估处理量，并分配客户请求给所有曾被选择的业务服务器直至所接收的客户请求分配完毕，以及若分配给所有选择的业务服务器的客户请求未都超过与上述步骤计算的预估处理量，则返回上述步骤中继续分配客户请求给所选择的业务服务器，直至所接收的客户请求均分配完毕。

一种负载均衡系统包括网关服务器端，用于与若干业务服务器通信，所述网关服务器包括：第一收发单元，用于接收客户请求；统计模块，用于统计各业务服务器的当前客户请求的处理量；分配管理模块，用于根据预设的分配规则分配客户请求给业务服务器，其中所述分配管理模块包括选择单元、计算单元、判断单元以及分配单元，选择单元，用于按照预设规则首先选择当前处理量最少的业务服务器，随后在未被选择的业务服务器中选择当前处理量最少的业务服务器；计算单元，用于按照预设算法计算分配给所选择的业务服务器的预估处理量；分配单元，用于按照预设分配规则，一个一个的分配客户请求给所选择的业务服务器；判断单元，用于判断所接收的客户请求是否已经分配完毕，若所接收的客户请求未分配完毕，则分配单元继续分配客户请求；以及判断单元还用于以判断分配给所有选择的业务服务器的客户请求均超过预估处理量，若分配给所有选择的业务服务器的客户请求均超过预估处理量，则选择单元在未被选择的业务服务器中选择当前处理量最少的业务服务器并由计算单元重新计算分配给所有曾被选择的业务服务器的预估处理量，以及由分配单元分配客户请求给所有曾被选择的业务服务器直至所接收的客户请求分配完毕。

利用上述负载均衡方法以及负载均衡系统，可以更加均衡的分配客户业务量给服务器，解决部分服务器空闲以及服务器过载的问题。

附图说明

图1为实施方式的一种服务器的负载均衡系统的功能模块图。

图2为实施方式的一种服务器的负载均衡方法的流程图。

具体实施方式

下面将结合本发明实施方式中的附图，对实施方式中的技术方案进行清楚、完整的描述。

请参看图1，其为服务器的负载均衡系统1的功能模块图。该负载均衡系统1包括网关服务器端10、若干业务服务器端20以及若干客户端30。网关服务器端10、业务服务器端20和客户端30通过网络相互连接，以实现信息传输。客户端30发送客户请求给网关服务器端10时，网关服务器端10根据预设规则选择其中一个或者多个业务服务器端20来处理客户请求。

客户端30包括第二收发单元301，第二收发单元301用于实现客户端30与网关服务器端10以及业务服务器端20之间的信息传输，包括接收和发送通信信息，例如用于发送客户端30的客户请求。

业务服务器端20包括若干个业务服务器201，所有的业务服务器201均用于处理客户请求，若干个业务服务器201的设置是为了更加快速的处理客户请求。

网关服务器端10包括统计模块101、分配管理模块102、定时更新模块103、数据库模块104以及第一收发单元105。

第一收发单元105用于实现网关服务器端10与业务服务器端20以及客户端30之间信息传输。例如，接收客户端30发送的客户请求。

统计模块101用于统计各业务服务器201的当前的客户请求处理量。

分配管理模块102用于根据各业务服务器201当前的处理量和负载均衡预设规则分配客户请求给相应的业务服务器201。分配管理模块102包括选择单元1021、计算单元1022、判断单元1023以及分配单元1024。

选择单元1021用于根据预设规则选择业务服务器201处理客户请求。在本实施方式中，预设规则为首先选择当前处理量最少的业务服务器，且当前处理量未超于预设值。其中业务服务器端的预设值设定为业务服务器处理业务的较佳效率下的可处理量，此基于优化业务服务器处理业务的效率来考虑，因为当业务服务器的处理量超过一定值时，此时再分配请求给业务服务器会增加该请求排队等候处理的时间，导致业务服务器处理请求的效率降低。在其他实施方式中，可不设定预设值，但是基于优化业务服务器处理效率，优选本实施方式。

计算单元1022用于根据预设算法计算分配给所有选择的业务服务器的预估处理量。在本实施方式中，设业务服务器的数量为n，统计模块统计出当前业务服务器的处理量分别为O₁、O₂、…、O_n且O₁<O₂<…<O_n。在其他实施方式中，由于可能存在多个业务服务器201当前处理量均相等，即O₁＝O₂＝…<O_n。业务服务器的处理量可能对应多个业务服务器201。在本实施方式中，预设算法中分配客户请求给处理量为O₁的业务服务器的预估处理量为C₁＝(O₂－O₁)÷D，其中D为负载均衡分配常数，为非0自然数，且负载均衡分配常数D的设置是为了业务服务器201彼此之间的当前处理量相差较大时，可以解决分配给处理量少的业务服务器201的客户请求量过大而导致客户请求排队等待处理时间长的问题，负载均衡分配常数D大小与业务服务器201彼此之间的当前处理量的差值有关。依次推类，当分配给处理量O₁的业务服务器的客户请求超过C₁时，随后分配给处理量O₂的业务服务器以及分配给处理量O₁的业务服务器的客户请求预估处理量为C₂＝(O₃－O₂)÷D，依次类推，当有若干个业务服务器时，分配给所有曾被选择的业务服务器的预估处理量的预设算法为：C _n＝(O_n+1－O_n)÷D，其中C _n为此次分配给所选择的处理量为O_n的业务服务器以及之前已选择的业务服务器的预估处理量，其中O_n+1、O_n分别为业务服务器的当前处理量，其中O_n小于O_n+1。

分配单元1024用于按照预设分配规则，一个一个的分配客户请求给所有选择的业务服务器。在本实施方式中，预设分配规则为一个一个的分配客户请求给所有选择的业务服务器，当分配给所有选择业务服务器的客户请求超过该业务服务器的预估处理量或者是分配客户请求给业务服务器后，该业务服务器的处理量超过业务服务器的预设值时，将重新选择业务服务器，再进行分配。

判断单元1023用于判断所接收的客户请求是否已经分配完毕，若所接收的客户请求还未分配完毕时，则继续分配客户请求。

判断单元1023还用于判断分配给所有选择的业务服务器的客户请求是否超过预估处理量以及判断分配客户请求给所有选择的业务服务器后，业务服务器的当前处理量是否都超过预设值。

选择单元1021根据预设规则选择业务服务器201处理客户请求中，预设规则还包括当判断单元1023判断分配给所有选择的业务服务器的客户请求超过预估处理量时以及当判断单元1023判断分配客户请求给所有选择的业务服务器后，业务服务器的当前处理量都超过预设值时，选择单元1021再在未被选择的业务服务器中选择当前处理量最少且未超过预设值的业务服务器；当判断单元1023判断分配给所有选择的业务服务器的客户请求未超过预估处理量时，且判断单元1023判断分配客户请求给所有选择的业务服务器后，业务服务器的当前处理量未都超过预设值时，则选择单元1021选择其中未超过预设值的业务服务器进行循环分配客户请求。

此外，选择单元1021还用于当在未被选择的业务服务器中选择当前处理量最少的业务服务器后，再在所有曾被选择的业务服务器中选择当前处理量未超过预设值的业务服务器，分配单元1024再分配客户请求给选择的业务服务器。

判断单元1023还用于首先判断是否存在当前处理量未超过预设值的业务服务器以及在未被选择的业务服务中判断是否存在当前处理量未超于预设值的业务服务器，若不存在当前处理量未超过预设值的业务服务器的当前处理量超过了预设值，则建议增加业务服务器。

定时更新模块103用于定时获取当前业务服务器的客户请求处理量。

数据库模块104用于存储所有应用程序运行时需要读取的数据，如用户登录账号、聊天记录、文件传输信息。

请参考图2，其为一种服务器的负载均衡的方法的流程图。该服务器的负载均衡的方法包括如下步骤。

步骤S201，网关服务器端的接收至少一个客户请求。

步骤S202，网关服务器判断是否存在当前处理量未超过预设值的业务服务器，若存在当前处理量未超过预设值的业务服务器，则进行步骤S203；若不存在当前处理量未超过预设值的业务服务器，则进行步骤S211。具体地，因为当业务服务器的处理量都超过预设值时，此时再分配请求给业务服务器会增加该请求排队等候处理的时间，导致业务服务器处理请求的效率降低。

步骤S203，网关服务器选择当前处理量最少且当前处理量未超过预设量的业务服务器。具体地，本实施方式中首先选择的当前处理量最少的业务服务器为处理量O₁的业务服务器。

步骤S204，根据预设算法计算出分配给所有选择的业务服务器的预估处理量。具体地，首先计算分配给处理量O₁的业务服务器的预估处理量C₁＝(O₂－O₁)÷D。

步骤S205，网关服务器依次分配一个客户请求给所有选择的业务服务器。具体地，按照将客户请求一个一个的分配给业务服务器的分配原则进行分配给所有选择的业务服务器，且遵循优先分配客户请求给当前处理量最少的业务服务器的规则。此外，也可知当前业务处理量最低的业务服务器是动态的。例如，第一次进行分配时，此时选择的处理量为O₁的业务服务器。

步骤S206，网关服务器判断所接收的客户请求是否分配完毕。若处理完毕所接收的客户请求，则进行步骤S214；若没处理完所接收的客户请求，则进行步骤S207。具体地，当所接收的客户请求均已分配完毕，则分配结束，若所接收的客户请求还未分配完毕，则需要继续进行分配。

步骤S207，判断分配给所有选择的业务服务器的客户请求量是否超过上述步骤S204计算预估处理量，若分配给所有选择的业务服务器的客户请求量超过上述步骤S204计算的预估处理量，则进行步骤S209；若所有选择的业务服务器的客户请求量未超过步骤S204计算的预估处理量，则进行步骤S208。具体地，当分配给所有选择的业务服务器的客户请求量超过步骤S204计算的预估处理量，则需要在未被选择的业务服务器中选择当前处理量最少的业务服务器，并协同之前选择的业务服务器再次接收分配的客户请求。例如，当一个一个分配客户请求给处理量O₁的业务服务器客户请求达到C₁＝(O₂－O₁)÷D时，此时需要选择处理量O₂的业务服务器，并将后续的客户请求一个一个分配给处理量O₁的业务服务器和处理量O₂的业务服务器；若分配给所有选择的业务服务器的客户请求量未超过步骤S204计算的预估处理量，则进行步骤S208。

步骤S208，网关服务器判断分配客户请求给所有选择的业务服务器后，业务服务器的当前处理量是否都已达到预设值。若分配客户请求后，所有选择的业务服务器当前处理量都已达到预设值，则继续步骤S209；若分配客户请求后，所有选择的业务服务器客户请求未都达到预设值，则进行步骤S210。具体地，当一次分配一个客户请求给所有选择的业务服务器后，所选择的业务服务器的处理量有可能从小于预设值变为超过预设值，此时为了提高业务服务器处理客户请求的效率，减少请求排队等待处理的时间，当判断出所有选择的业务服务器的处理量已达到预设值时，则在未被选择的业务服务器中选择下次可接收客户请求的业务服务器。

步骤S209，判断未被选择的业务服务器中是否存在当前处理量未超过预设值的业务服务器，若未被选择的业务服务器中存在当前处理量未超过预设值的业务服务器，则进行步骤S212；若未被选择的业务服务器中不存在当前处理量未超过预设值的业务服务器，则进行步骤S211。具体地，根据上述原理，当分配给之前选择的业务服务器的客户请求已经超过该业务服务器的预估处理量或者当分配给所选择的业务服务器的客户请求已达到预设值时，此时均要在未被选择的业务服务器中选择下次接收客户请求的业务服务器。但是选择之前，为了提高业务服务器的处理效率，减少请求排队等候的时间，此时需要判断未被选择的业务服务器中是否存在当前处理量未超过预设值的业务服务器，若未被选择的业务服务器中不存在当前处理量未超过预设值的业务服务器，则建议增加业务服务器。

步骤S210，根据步骤S208中所判断的分配客户请求给所有选择的业务服务器后，业务服务器的当前处理量并未都超过预设值的结果，则选择其中未超于预设值的业务服务器。

步骤S211，根据步骤S209中所判断的未被选择的服务器中不存在当前处理量未超过预设值的业务服务器的结果以及步骤S202中不存在当前处理量未超过预设值的业务服务器，建议增加业务服务器。

步骤S212，根据步骤S209中所判断的未被选择的服务器中存在当前处理量未超过预设值的业务服务器的结果，则在未被选择的业务服务器中选择当前处理量最少的业务服务器且当前处理量未超过预设量的业务服务器，进行步骤S213。

步骤S213，在所有曾被选择的业务服务器中选择未超于预设值的业务服务器后在返回步骤S204，重新计算此次所有选择的业务服务器的预估处理量。具体地，例如当处理量为O₁的对应的业务服务器接收的客户请求已经达到预估处理量C₁或者当处理量为O₁的业务服务器接收客户请求后其处理量超过与预设值，则此时选择处理量未超过预设值的O₂的业务服务器。然后返回步骤S204计算此次选择的处理量O₂的业务服务器的预估处理量C₂＝(O₃－O₂)÷D，然后进行分配客户请求给所有选择的业务服务器，即此时为处理量O₁的业务服务器和处理量O₂业务服务器。依次类推，当有若干个业务服务器时，且当在剩余业务服务器中选择处理量未超过预设的业务服务器O_n－1时，返回步骤S204计算所选择的处理量为O_n－1的业务服务器的预估处理量C_n－1＝(O_n－O_n－1)÷D，然后在进行对处理量为O₁、O₂、…、O_n-1的业务服务器进行分配客户请求。

步骤S214，发送上述分配了客户请求的业务服务器的IP地址和端口给客户端；

步骤S215，客户端根据接收的IP地址和端口连接相应的业务服务器，让其处理客户请求。

步骤S216，业务服务器处理客户请求。

具体地，步骤S214、S215以及S216与步骤S206可以同步进行也可以先后进行，即可边分配客户请求边业务服务器边处理客户请求，已分配还未处理的客户请求则排队等待；也可以分配完毕客户请求，业务服务器再进行处理。

此外，上述服务器的负载均衡的方法还包括定时更新步骤，该定时更新为网关服务器端定时将更新系统的客户请求总量以及当前业务服务器的客户请求的处理量。该步骤可在上述方法步骤的任何阶段，但是每一次上述方法流程中业务服务器当前客户请求的处理量都是基于图2所示流程开始前的最近一次的更新结果。

通过以上分配方法可知，网关服务器端在对客户请求量进行分配时，只要请求量足够大，所有业务服务器的处理量之间的差距越来越小，彼此之间更加均衡，这种分配方法也保障了业务服务器的合理利用。

对所公开实例的上述说明，使得本技术领域专业人员能够实现或者使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其他实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点一致的最宽范围。

Claims (9)

1.一种服务器的负载均衡方法，其特征在于，包括步骤：

接收至少一个客户请求；

选择当前处理量最少的业务服务器；

根据预设算法计算分配给所有选择的业务服务器的预估处理量；

依次分配客户请求给所有选择的业务服务器；

判断所接收的客户请求是否分配完毕，若所接收的客户请求未分配完毕，则判断分配给所有选择的业务服务器的客户请求是否超过预估处理量；

若分配给所有选择的业务服务器的客户请求超过预估处理量，则在未被选择的业务服务器中选择当前处理量最少的业务服务器并重新计算分配给所有曾被选择的业务服务器的预估处理量，并分配客户请求给所有曾被选择的业务服务器直至所接收的客户请求分配完毕，以及

若分配给所有选择的业务服务器的客户请求未都超过上述步骤计算的预估处理量，则返回上述步骤中继续分配客户请求给所选择的业务服务器，直至所接收的客户请求均分配完毕；

其中，所述预设算法为：C_n＝(O_n+1－O_n)÷D，其中C_n为此次分配给所选择的处理量为O_n的业务服务器以及之前已选择的业务服务器的预估处理量，O_n表示未被选择的且当前处理量最少的业务服务器的当前处理量，O_n+1表示未被选择的且业务处理量仅大于O_n的业务服务器的当前处理量，其中D为负载均衡分配常数。

2.如权利要求1所述的服务器的负载均衡方法，其特征在于，在选择当前处理量最少的业务服务器之前还包括步骤：

判断是否存在当前处理量未超过预设值的业务服务器，若不存在当前处理量未超过预设值的业务服务器，增加业务服务器；若存在当前处理量未超过预设值的业务服务器，才选择当前处理量最少且当前处理量低于预设值的业务服务器。

3.如权利要求1所述的服务器的负载均衡方法，其特征在于，在未被选择的业务服务器中选择当前处理量最少的业务服务器的之前还包括步骤：

判断未被选择的业务服务器中是否存在当前处理量未超过预设值的业务服务器，

若不存在当前处理量未超过预设值的业务服务器，则建议增加业务服务器；

若存在当前处理量未超过预设值的业务服务器，才在未被选择的业务服务器中选择当前储量最少且当前处理量低于预设值的业务服务器，再在所有曾被选择的业务服务器中选择当前处理量未超过预设值的业务服务器，再循环分配客户请求。

4.如权利要求3所述的服务器的负载均衡方法，其特征在于，在判断未被选择的业务服务器中是否存在当前处理量未超过预设值的业务服务器之前还包括步骤：

判断当分配客户请求后，所有选择的业务服务器的当前处理量是否都已达到业务服务器的预设值，

若分配客户请求后，所有选择的业务服务器的当前处理量未都达到业务服务器的预设值，则选择其中处理量未超过预设值的业务服务器，继续分配客户请求给所有选择的业务服务器；

若分配客户请求后，所有选择的业务服务器的当前处理量是都已达到业务服务器的预设值，才判断未被选择的业务服务器中是否存在当前处理量未超过预设值的业务服务器。

5.如权利要求1所述的服务器的负载均衡方法，其特征在于，所述负载均衡方法中分配客户请求给所选择的业务服务器之后还包括步骤：

发送分配了客户请求的业务服务器的IP地址和端口给客户端；客户端根据接收的业务服务器的IP地址和端口直接连接对应的业务服务器，让其处理客户请求。

6.如权利要求1所述的服务器的负载均衡方法，其特征在于，所述负载均衡方法中还包括定时更新步骤，所述定时更新为定时更新当前业务服务器的处理量。

7.一种负载均衡系统包括网关服务器，用于与若干业务服务器通信，其特征在于，所述网关服务器包括：

第一收发单元，用于接收客户请求；

统计模块，用于统计各业务服务器的当前客户请求的处理量；

分配管理模块，用于根据预设的分配规则分配客户请求给业务服务器，其中所述分配管理模块包括选择单元、计算单元、判断单元以及分配单元，

选择单元，用于按照预设规则首先选择当前处理量最少的业务服务器，随后在未被选择的业务服务器中选择当前处理量最少的业务服务器；

计算单元，用于按照预设算法计算分配给所选择的业务服务器的预估处理量；

分配单元，用于按照预设分配规则，一个一个的分配客户请求给所选择的业务服务器；

判断单元，用于判断所接收的客户请求是否已经分配完毕，若所接收的客户请求未分配完毕，则分配单元继续分配客户请求；以及

判断单元还用于判断分配给所有选择的业务服务器的客户请求是否均超过预估处理量，若分配给所有选择的业务服务器的客户请求均超过预估处理量，则选择单元在未被选择的业务服务器中选择当前处理量最少的业务服务器并由计算单元重新计算分配给所有曾被选择的业务服务器的预估处理量，以及由分配单元分配客户请求给所有曾被选择的业务服务器直至所接收的客户请求分配完毕；

其中，所述预设算法为：C_n＝(O_n+1－O_n)÷D，其中C_n为此次分配给所选择的处理量为O_n的业务服务器以及之前已选择的业务服务器的预估处理量，O_n表示未被选择的且当前处理量最少的业务服务器的当前处理量，O_n+1表示未被选择的且业务处理量仅大于O_n的业务服务器的当前处理量，其中D为负载均衡分配常数。

8.如权利要求7所述的负载均衡系统，其特征在于，所述网关服务器还包括定时更新模块，用于定时更新获取当前业务服务器的客户请求处理量；所述分配管理模块的判断单元还用于判断业务服务器的当前处理量是否超过预设值。

9.如权利要求7所述的负载均衡系统，其特征在于，所述负载均衡系统还包括客户端，所述客户端包括第二收发单元，用于接收网关服务器发送的业务服务器的IP地址和端口地址，并根据IP地址和端口地址直接连接相应的业务服务器让其处理客户请求。