CN105072182A - 一种负载均衡方法、负载均衡器和用户终端 - Google Patents

Abstract

本发明提供了一种负载均衡方法、负载均衡器和用户终端，负载均衡器根据用户发送的任务请求中携带的用户通信需求数量，从服务器集群中确定向用户分配的服务器以及每个服务器对应的通信数量，使得负载均衡器可以实时监测用户的任务请求，并可以在监测到用户的任务请求时，一次给用户请求的多个任务分配服务器，保证了负载均衡器对用户任务分配服务器时所应起到的负载均衡作用，而且避免了用户在有大量任务需要处理时，需要多次和负载均衡器进行交互才能申请到执行相应任务服务器的缺陷，减少了用户和负载均衡器的交互次数，保证了负载均衡器的性能。

Description

一种负载均衡方法、负载均衡器和用户终端

技术领域

本发明涉及计算处理领域，具体而言，涉及一种负载均衡方法、负载均衡器和用户终端。

背景技术

负载均衡器是一种把用户的任务请求分配到一个服务器集群中的任何当前轻负载的服务器上，以处理用户发出的任务请求，从而对网络数据流量和网络带宽进行管理的设备。在网络数据交互的过程中起着越来越重要的作用。

现有的负载均衡器通常采用重定向服务器的方法完成负载均衡，该方法中用户首先向负载均衡器获取服务器地址，用户再与定向出的服务器进行请求/响应交互。如传输层DNS负载均衡和VS/DR负载均衡。重定向服务器方法中，负载均衡器将用户请求较均衡地分发到各个服务器上，这样可以使得整个服务器集群系统具有很好的伸缩性。重定向服务器方法通常又采用以下两种方式实现：

(1)、用户每来一次请求，先到负载均衡器申请服务器，负载均衡器根据负载均衡算法筛选出合适的服务器后，用户与该服务器进行直接交互。用户下一次请求重新到负载均衡器申请服务器。

(2)、用户先到负载均衡器申请服务器，负载均衡器根据负载均衡算法筛选出合适的服务器后，用户每次请求固定与该服务器进行直接交互。

在重定向服务器方法的上述两种实现方式分别存在如下缺点：

第(1)种方式中，每次用户的任务请求都需要经过负载均衡器申请服务器，当用户数量多或用户的任务请求数量多时，负载均衡器将成为瓶颈，导致用户的并发创建任务或连接数下降。

第(2)种方式中，负载均衡器将服务器分配给用户后，该用户对服务器发起的任务或连接数将不受负载均衡器调度，如果用户的并发请求量大时极易超过服务器处理任务或连接的极限，从而使负载均衡器失去负载均衡的作用。

由上述内容可知，上述负载均衡器分配服务器的方式不够完善，影响用户建立连接或完成任务的效率。

发明内容

本发明的目的在于提供一种负载均衡方法、负载均衡器和用户终端，可以一次给用户请求的多个任务分配服务器，减少了用户和负载均衡器的交互次数。

第一方面，本发明实施例提供了一种负载均衡方法，所述方法包括：

负载均衡器监测用户发送的任务请求，所述任务请求中携带有所述用户的通信需求数量；所述通信需求数量表示所述用户需要创建的任务和/或连接数的大小；

所述负载均衡器根据当前各个服务器的负载信息和所述通信需求数量，从服务器集群中确定向所述用户分配的服务器以及每个服务器对应的通信数量；

所述负载均衡器将分配的服务器的标识和每个服务器对应的通信数量发送给所述用户，使得所述用户根据分配的所述服务器和每个服务器对应的通信数量执行通信业务。

结合第一方面，本发明实施例提供了第一方面的第一种可能的实施方式，其中，所述负载均衡器根据当前各个服务器的负载信息和所述通信需求数量，从服务器集群中确定向所述用户分配的服务器以及每个服务器对应的通信数量包括：

所述负载均衡器根据所述通信需求数量和最大任务分配数量，将所述通信需求数量划分为一个或多个通信数量子集；

所述负载均衡器根据当前各个服务器的负载信息，按照负载均衡原则从服务器集群中选取每个所述通信数量子集对应的服务器；其中，所述通信数量子集包含的通信数量小于或等于所述最大任务分配数量。

结合第一方面，本发明实施例提供了第一方面的第二种可能的实施方式，其中，所述负载均衡器根据当前各个服务器的负载信息，按照负载均衡原则从服务器集群中选取每个所述通信数量子集对应的服务器包括：

所述负载均衡器根据当前各个服务器的负载参数和已经分配给所述各个服务器的任务和/或连接数，逐一确定所述各个服务器的负荷轻重情况，按照负荷由轻到重的顺序选取每个所述通信数量子集对应的服务器；

所述负载均衡器根据选取的所述服务器对应的所述通信数量子集中的任务和/或连接数，在预设的任务列表中更新选取的所述服务器对应的已分配任务和/或连接数。

结合第一方面，本发明实施例提供了第一方面的第三种可能的实施方式，其中，所述方法还包括：

所述负载均衡器获取所述服务器发送的任务释放请求，所述任务释放请求中携带有所述服务器的标识；

所述负载均衡器根据所述服务器的标识，在预设的任务列表中更新所述服务器的标识对应的服务器的已分配任务和/或连接数。

第二方面，本发明实施例提供了一种负载均衡方法，所述方法包括：

用户终端向负载均衡器发送的任务请求，所述任务请求中携带有所述用户的通信需求数量；所述通信需求数量用于表示所述用户需要创建的任务和/或连接数的大小；

所述用户终端接收所述负载均衡器根据当前各个服务器的负载信息和所述用户的通信需求数量分配的服务器的标识以及每个服务器对应的通信数量；

所述用户终端根据分配的服务器以及每个服务器对应的通信数量执行通信业务。

第三方面，本发明实施例提供了一种负载均衡器，所述负载均衡器包括：

检测模块，用于监测用户发送的任务请求，所述任务请求中携带有所述用户的通信需求数量；所述通信需求数量表示所述用户需要创建的任务和/或连接数的大小；

分配模块，用于根据当前各个服务器的负载信息和所述通信需求数量，从服务器集群中确定向所述用户分配的服务器以及每个服务器对应的通信数量；

发送模块，用于将分配的服务器的标识和每个服务器对应的通信数量发送给所述用户，使得所述用户根据分配的所述服务器和每个服务器对应的通信数量执行通信业务。

结合第二方面，本发明实施例提供了第二方面的第一种可能的实施方式，其中，所述分配模块包括：

通信数量子集划分单元，用于根据所述通信需求数量和最大任务分配数量，将所述通信需求数量划分为一个或多个通信数量子集；

服务器分配单元，用于根据当前各个服务器的负载信息，按照负载均衡原则从服务器集群中选取每个所述通信数量子集对应的服务器；其中，所述通信数量子集包含的通信数量小于或等于所述最大任务分配数量。

结合第二方面，本发明实施例提供了第二方面的第二种可能的实施方式，其中，所述服务器分配单元包括：

服务器选择子单元，用于根据当前各个服务器的负载参数和已经分配给所述各个服务器的任务和/或连接数，逐一确定所述各个服务器的负荷轻重情况，按照负荷由轻到重的顺序选取每个所述通信数量子集对应的服务器；

更新子单元，用于根据选取的所述服务器对应的所述通信数量子集中的任务和/或连接数，在预设的任务列表中更新选取的所述服务器对应的已分配任务和/或连接数。

结合第二方面，本发明实施例提供了第二方面的第三种可能的实施方式，其中，所述负载均衡器还包括：

获取模块，用于获取所述服务器发送的任务释放请求，所述任务释放请求中携带有所述服务器的标识；

更新模块，用于根据所述服务器的标识，在预设的任务列表中更新所述服务器的标识对应的服务器的已分配任务和/或连接数。

第四方面，本发明实施例提供了一种用户终端，所述用户终端包括：

任务请求发送模块，用于向负载均衡器发送的任务请求，所述任务请求中携带有所述用户的通信需求数量；所述通信需求数量用于表示所述用户需要创建的任务和/或连接数的大小；

接收模块，用于接收所述负载均衡器根据当前各个服务器的负载信息和所述用户的通信需求数量分配的服务器的标识以及每个服务器对应的通信数量；

处理模块，用于根据分配的服务器以及每个服务器对应的通信数量执行通信业务。

本发明实施例提供的一种负载均衡方法、负载均衡器和用户终端，通过负载均衡器根据用户发送的任务请求中携带的用户通信需求数量，从服务器集群中确定向用户分配的服务器以及每个服务器对应的通信数量，使得负载均衡器可以实时监测用户的任务请求，并可以在监测到用户的任务请求时，一次给用户请求的多个任务分配服务器，保证了负载均衡器对用户任务分配服务器时所应起到的负载均衡作用，而且在用户有大量任务需要处理而与负载均衡器进行数据交互时，减少了用户和负载均衡器之间进行交互的次数，保证了负载均衡器的性能。

为使本发明的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1示出了本发明实施例提供的负载均衡方法所涉及的一种实施系统的结构示意图；

图2示出了本发明实施例1所提供的一种负载均衡方法流程图；

图3示出了本发明实施例2所提供的一种负载均衡方法的流程图；

图4示出了本发明实施例2所提供的另一种负载均衡方法的流程图；

图5示出了本发明实施例2所提供的另一种负载均衡方法中按照负载均衡原则给用户分配服务器的流程图；

图6示出了本发明实施例2所提供的另一种负载均衡方法中服务器执行方法的流程图；

图7示出了本发明实施例3所提供的一种负载均衡方法的流程图；

图8示出了本发明实施例3所提供的另一种负载均衡方法的流程图；

图9示出了本发明实施例4所提供的一种负载均衡器的结构示意图；

图10示出了本发明实施例5所提供的一种用户终端的结构示意图。

具体实施方式

下面将结合本发明实施例中附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

考虑到相关技术中，负载均衡器在对用户的任务请求分配服务器时，当用户数量多或用户的任务请求数量多时，负载均衡器将成为瓶颈，导致用户的并发创建任务或连接数下降。还有当负载均衡器将服务器分配给用户后，该用户对服务器发起的任务或连接数将不受负载均衡器调度，而使负载均衡器失去负载均衡的作用，这两种负载均衡器分配服务器的方式不够完善，影响用户建立连接或完成任务的效率。基于此，本发明实施例提供了一种负载均衡方法、负载均衡器和用户终端。下面通过实施例进行描述。

参见图1，其示出了本发明实施例提供的负载均衡方法所涉及的一种实施系统的结构示意图，该系统包括：负载均衡器10和用户终端11；

其中，负载均衡器10，与用户终端11进行交互，用于根据用户发送的任务请求中携带的用户通信需求数量，从服务器集群中确定向用户分配的服务器以及每个服务器对应的通信数量，将分配的服务器的标识和每个服务器对应的通信数量发送给用户，使得用户通过分配服务器和每个服务器对应的通信数量执行通信业务；用户终端11，用于获取用户发送的任务请求，并将获取的用户请求发送到负载均衡器，然后接收负载均衡器根据当前各个服务器的负载信息和用户的通信需求数量分配的服务器的标识以及每个服务器对应的通信数量，并根据分配的服务器以及每个服务器对应的通信数量执行通信业务。

负载均衡器10和用户终端11，均可以使用独立设备，比如使用现有的任何型号的服务器和计算机，来进行数据交互，这里不再一一赘述。

负载均衡器10，还可以集成在现有的任何型号的网络交换设备上，与用户终端11进行数据交互，这里不再一一赘述。

实施例1

参见图2，本实施例提供了一种负载均衡方法，该方法以从负载均衡器侧描述为例进行说明，包括以下步骤：

步骤100、监测用户发送的任务请求。

任务请求中携带有用户的通信需求数量；通信需求数量表示用户需要创建的任务和/或连接数的大小。

用户需要创建的任务和连接，可以是某个文档、或者音乐的下载任务，也可以是和其他用户进行网络语音、视频通话的连接，还可以是用户发出的其他的通过网络才可以执行的任务和/或连接，这里不再一一赘述。

步骤101、根据当前各个服务器的负载信息和通信需求数量，从服务器集群中确定向用户分配的服务器以及每个服务器对应的通信数量。

服务器，预先设置在服务器集群中，用于根据用户发出的任务和/或连接，使得用户终端通过服务器与网络上的其他用户或者终端进行数据交互。

服务器的负载信息，用于体现服务器负载能力，预先存储在负载均衡器中。

服务器的负载信息，可以以“服务器标识服务器负载信息”的对应关系的形式存储在负载均衡器的非易失性存储介质中预设的任务列表中，使得负载均衡器可以实时确定服务器集群中各服务器的负载信息，并在分配给服务器执行的任务和/或连接、以及获取到服务器发送的任务释放请求时，对相应的负载信息进行更新。

步骤102、将分配的服务器的标识和每个服务器对应的通信数量发送给用户，使得用户根据分配的服务器和每个服务器对应的通信数量执行通信业务。

在确定向用户分配的服务器以及每个服务器对应的通信数量后，负载均衡器会建立每个服务器的标识和对应的通信数量的关联关系，然后将建立的每个服务器的标识和对应的通信数量的关联关系发送给用户。

综上所述，本实施例提供的一种负载均衡方法，负载均衡器根据用户发送的任务请求中携带的用户通信需求数量，从服务器集群中确定向用户分配的服务器以及每个服务器对应的通信数量，使得负载均衡器可以实时监测用户的任务请求，并可以在监测到用户的任务请求时，一次给用户请求的多个任务分配服务器，保证了负载均衡器对用户任务分配服务器时所应起到的负载均衡作用，而且在用户有大量任务需要处理而与负载均衡器进行数据交互时，减少了用户和负载均衡器之间进行交互的次数，保证了负载均衡器的性能。

在有些情况下，负载均衡器获取到的用户的通信需求数量很多，已经超出了负载均衡器一次可以分配的最大任务分配数量，那么，只能将用户提出的通信需求数量分成多个部分，并分别对这多个部分进行服务器的分配，因此，负载均衡器根据当前各个服务器的负载信息和通信需求数量，从服务器集群中确定向用户分配的服务器以及每个服务器对应的通信数量包括：

负载均衡器根据通信需求数量和最大任务分配数量，将通信需求数量划分为一个或多个通信数量子集；

负载均衡器根据当前各个服务器的负载信息，按照负载均衡原则从服务器集群中选取每个通信数量子集对应的服务器；其中，通信数量子集包含的通信数量小于或等于最大任务分配数量。

负载均衡器的最大任务分配数量，是负载均衡器一次可以分配的最大通信数量。最大任务分配数量，可以由负载均衡器的设计人员在负载均衡器投入使用之前预先进行设定，还可以在负载均衡器的使用过程中，由负载均衡器的维护人员，根据服务器集群中各服务器可以处理的通信数量的实际情况而进行调整。

负载均衡器根据通信需求数量和最大任务分配数量，将通信需求数量划分为一个或多个通信数量子集的过程包括步骤(1)至(4)：

(1)、判断通信需求数量是否大于最大任务分配数量；

(2)、如果是，则利用通信需求数量除以最大任务分配数量，得到一计算结果，如果否，则将通信需求数量划分为一个通信数量子集；

(3)、对得到的计算结果进行向上取整操作，得到通信数量子集的数量；

(4)、根据得到的通信数量子集的数量，将通信需求数量划分为多个通信数量子集。

在将通信需求数量划分为多个通信数量子集时，如果通信数量子集的数量为a，那么a-1个通信数量子集中所包含的通信数量等于最大任务分配数量。

比如：负载均衡器获取到的通信需求数量是25，而负载均衡器的最大任务分配数量是10，那么负载均衡器会将通信需求数量分为分别包括通信数量是10、10和5的三个通信数量子集，并对这三个通信数量子集分配对应的服务器。

负载均衡原则，就是根据当前各服务器的负载轻重，优先向负载较轻的服务器分配任务的原则。

通过以上的描述，在负载均衡器获取到的用户的通信需求数量很多而无法一次分配时，将通信需求数量分成多个通信数量子集，然后对多个通信数量子集分别分配服务器，从而可以快速响应用户的任务请求，及时的对用户分配服务器。

在向每个通信数量子集分配服务器时，为了能够实时获取到服务器集群中各服务器的负载情况，需要对选取的服务器对应的已分配任务和/或连接数进行更新，因此，负载均衡器根据当前各个服务器的负载信息，按照负载均衡原则从服务器集群中选取每个通信数量子集对应的服务器包括：

负载均衡器根据当前各个服务器的负载参数和已经分配给各个服务器的任务和/或连接数，逐一确定各个服务器的负荷轻重情况，按照负荷由轻到重的顺序选取每个通信数量子集对应的服务器；

负载均衡器根据选取的服务器对应的通信数量子集中的任务和/或连接数，在预设的任务列表中更新选取的服务器对应的已分配任务和/或连接数。

服务器的负载信息包括但不限于：体现服务器负载能力的参数和服务器的已分配任务和/或连接数。体现服务器负载能力的参数包括但不限于网络带宽和在该网络带宽下可以处理的任务和/或连接数的阈值。

其中，服务器的负载参数是体现服务器处理能力的参数，而已分配任务和/或连接数体现了客观上待处理的任务，而服务器的负荷轻重则是二者综合后的能力体现。

负载均衡器根据当前各个服务器的负载参数和已经分配给各个服务器的任务和/或连接数，逐一确定各个服务器的负荷轻重情况包括步骤(a)至(c)：

(a)、获取各个服务器处理任务使用的网络带宽、在该网络带宽下可以处理的任务和/或连接数的阈值和已经分配给各个服务器的任务和/或连接数；

(b)、利用已经分配给各个服务器的任务和/或连接数除以在该网络带宽下可以处理的任务和/或连接数的阈值，分别计算各个服务器的负荷参数，负荷参数用于体现服务器的负荷轻重程度，负荷参数越大，说明服务器的负荷越重；

(c)、根据计算得到的各个服务器的负荷参数，确定各个服务器的负荷轻重情况。

比如：服务器集群中包括：服务器A、服务器B和服务器C三个服务器，其中，服务器A处理任务使用的网络带宽是2G，在2G带宽下可以处理的任务和/或连接数的阈值为200，而当前服务器A已分配的任务数是100，那么服务器A的负荷参数＝100/200＝0.5；服务器B处理任务使用的网络带宽是4G，在4G带宽下可以处理的任务和/或连接数的阈值为400，而当前服务器B已分配的任务数是150，那么服务器B的负荷参数＝150/400＝0.375；服务器C处理任务使用的网络带宽是6G，在6G带宽下可以处理的任务和/或连接数的阈值为600，而当前服务器C已分配的任务数是450，那么服务器C的负荷参数＝450/600＝0.75；所以通过服务器A、服务器B和服务器C的负荷参数，就可以看出服务器C的负荷最重、服务器A负荷次之，服务器B的负荷最轻。

负载均衡器按照负荷由轻到重的顺序选取每个通信数量子集对应的服务器包括：按照对负载较轻的服务器分配包括通信数量较多的通信数量子集的负载均衡原则，分别选取每个通信数量子集对应的服务器。

比如：当前需要分配的第一通信数量子集中包括的通信数量是10，第二通信数量子集中包括的通信数量是6，而服务器集群中各个服务器的负荷情况是：服务器C的负荷最重、服务器A负荷次之，服务器B的负荷最轻，那么，负载均衡器就会根据当前各服务器的负荷情况，选取负荷最轻的服务器B对应第一通信数量子集，选取服务器A对应第二通信数量子集，完成对用户请求的通信需求数量的分配。

负载均衡器在完成对用户请求的通信需求数量的分配后，根据选取的服务器对应的通信数量子集中的任务和/或连接数，对存储的所选择的服务器的负载信息中记录的已分配任务和/或连接数进行更新。

比如：服务器B对应第一通信数量子集中包括的通信数量是10，那么，负载均衡器会在服务器B的负载信息中记录的已分配任务和/或连接数的数字基础上加上10，得到服务器B当前已分配任务和/或连接数。

通过以上的描述可以看出，在完成对用户请求的通信需求数量的分配后，负载均衡器会根据选取的服务器对应的通信数量子集中的任务和/或连接数，对存储的所选择的服务器的负载信息中记录的已分配任务和/或连接数进行更新，从而实时获取服务器集群中各服务器的负载情况，可以完成对用户请求的通信需求数量的分配，起到负载均衡器应有的作用。

在服务器完成用户执行的任务时，服务器会通知负载均衡器更新服务器的标识对应的服务器的已分配任务和/或连接数，因此，负载均衡方法还包括：

负载均衡器获取服务器发送的任务释放请求，任务释放请求中携带有服务器的标识；

负载均衡器根据服务器的标识，在预设的任务列表中更新服务器的标识对应的服务器的已分配任务和/或连接数。

负载均衡器根据服务器的标识，在预设的任务列表中更新服务器的标识对应的服务器的已分配任务和/或连接数包括步骤(aa)至(bb)：

(aa)、负载均衡器根据服务器的标识，从任务列表中查询服务器的标识对应的服务器的负载信息；

(bb)、负载均衡器对查询出的服务器的负载信息中记录的已分配任务和/或连接数进行减一操作，从而在预设的任务列表中更新服务器的标识对应的服务器的已分配任务和/或连接数。

通过以上步骤(aa)至(bb)的描述，负载均衡器根据获取的服务器发送的任务释放请求，对任务释放请求中携带的服务器的标识对应的服务器的负载信息中记录的已分配任务和/或连接数进行更新，从而实时获取服务器集群中各服务器的负载情况。

从上面步骤(aa)至(bb)的描述可以看出，服务器处理完毕一个用户提交的任务和/或连接，就会向负载均衡器发送一次任务释放请求，这样会增加负载均衡器的负荷，降低负载均衡器的性能，为了解决这一问题，本实施例还可以在服务器完成用户执行的任务时，通过以下步骤(1-1)至(1-3)对任务列表中记录的服务器的已分配任务和/或连接数进行更新。

(1-1)、负载均衡器获取服务器周期性发送的任务释放请求，任务释放请求中携带有服务器的标识和所要释放的任务和/或连接数；

(1-2)、负载均衡器根据服务器的标识，从任务列表中查询服务器的标识对应的服务器的负载信息；

(1-3)、负载均衡器对查询出的服务器的负载信息中记录的已分配任务和/或连接数进行减去所要释放的任务和/或连接数的操作，从而在预设的任务列表中更新服务器的标识对应的服务器的已分配任务和/或连接数。

服务器向负载均衡器发送任务释放请求的周期，可以根据负载均衡器的性能和可分配的服务器数量确定，本实施例中不对服务器向负载均衡器发送任务释放请求的周期作进一步限定。

从上面的步骤(1-1)至(1-3)的描述可以看出，由于服务器向负载均衡器发送的任务释放请求中携带有所要释放的任务和/或连接数，所以只需负载均衡器对查询出的服务器的负载信息中记录的已分配任务和/或连接数进行减去所要释放的任务和/或连接数的操作，就可以对服务器标识对应的服务器的已分配任务和/或连接数进行更新，而无需每次处理完毕一个用户提交的任务和/或连接，就会向负载均衡器发送一次任务释放请求，从而可以降负载均衡器的负荷，保证负载均衡器的处理性能。

实施例2

参见图3所示的负载均衡方法的具体流程图，该方法以从负载均衡器侧描述为例进行说明，包括以下步骤：

步骤200的内容与实施例1中步骤100描述的内容相同，所以这里不再赘述。

步骤201、根据通信需求数量和最大任务分配数量，将通信需求数量划分为一个或多个通信数量子集。

步骤202、根据当前各个服务器的负载参数和已经分配给各个服务器的任务和/或连接数，逐一确定各个服务器的负荷轻重情况，按照负荷由轻到重的顺序选取每个通信数量子集对应的服务器。

步骤203、根据选取的服务器对应的通信数量子集中的任务和/或连接数，在预设的任务列表中更新选取的服务器对应的已分配任务和/或连接数。

步骤204、将分配的服务器的标识和每个服务器对应的通信数量发送给用户，使得用户根据分配的服务器和每个服务器对应的通信数量执行通信业务。

步骤205、获取服务器发送的任务释放请求，任务释放请求中携带有服务器的标识。

步骤206、根据服务器的标识，在预设的任务列表中更新服务器的标识对应的服务器的已分配任务和/或连接数。

对步骤200至步骤206的解释和进一步说明与实施例1中相应的解释内容一致，这里不再赘述。

参见图4，本实施例还提出了另一种负载均衡具体方法，该方法以从负载均衡器侧描述为例进行说明，包括以下步骤300至302：

步骤300、动态刷新各服务器反馈的当前运行的任务或连接数的负载信息，并记录到各服务器正在运行任务或连接数表项中；

步骤301、按用户的申请任务或连接数按负载均衡原则从各服务器中去分配，将每台服务器分配出去的任务或连接数记录到该服务器的已分配任务或连接数表中；

步骤302、收到服务器释放任务或连接的请求，并将该服务器已分配任务或连接表中做删除该任务或连接的操作。

其中，参见图5，步骤301的流程包括以下步骤3011至步骤3019：

步骤3011、收到用户申请一定数量的任务/连接数请求；

步骤3012、判断任务/连接数请求是否小于分片的阈值；如果是，执行步骤3013，如果否，执行步骤3014；

步骤3013、将该用户申请的任务/连接数请求数聚成一片，跳转到步骤3015；

步骤3014、将该用户申请的任务/连接数请求数按阈值分成多片；

步骤3015、负载均衡器取一片任务/连接数量；

步骤3016、负载均衡器将该片任务/连接数量按负载均衡方法分配到负载最轻的服务器上,形成一个<服务器-任务连接数>；

步骤3017、判断任务/连接数请求处理是否完毕；如果是，执行步骤3018；如果否，返回步骤3015。

步骤3018、负载均衡器将相应数量的<服务器-任务连接数>列表发给用户。

上述步骤中描述的负载均衡方法，指的是负载均衡器通过获取的各服务器负载参数并结合各服务器当前已分配的任务/连接数确定出负载最轻的服务器，并将任务/连接分配给该服务器。

相应的，参见图6，在本实施例中，还提出了一种服务器执行方法，用于执行用户提出的通信需求，该方法包括步骤400至步骤402：

步骤400、收到用户的任务或连接请求。

步骤401、处理用户的任务或连接。

步骤402、处理完用户的任务或连接，并将已结束的任务或连接反馈给负载均衡器，供负载均衡器上相应服务器记录的已分配任务或连接表中做任务删除操作。

本实施例提供的负载均衡系统，有很大改进，具体表现在：1)负载均衡器一次分配出多个任务或连接的服务器资源，用户与服务器进行创建任务或连接的速度将得到提高；2)减少用户与负载均衡器交互的次数，降低负载均衡器的负载压力；3)用户的任务申请量均由负载均衡器控制，可以由负载均衡器统一调度，防止用户的任务请求量大时超过服务器处理任务或连接的极限。

综上所述，本实施例提供的一种负载均衡方法，负载均衡器根据用户发送的任务请求中携带的用户通信需求数量，从服务器集群中确定向用户分配的服务器以及每个服务器对应的通信数量，使得负载均衡器可以实时监测用户的任务请求，并可以在监测到用户的任务请求时，一次给用户请求的多个任务分配服务器，保证了负载均衡器对用户任务分配服务器时所应起到的负载均衡作用，而且在用户有大量任务需要处理而与负载均衡器进行数据交互时，减少了用户和负载均衡器之间进行交互的次数，保证了负载均衡器的性能。

实施例3

参见图7，本实施例提供了一种负载均衡方法，该方法以从用户终端侧描述为例进行说明，包括以下步骤：

步骤500、向负载均衡器发送的任务请求，任务请求中携带有用户的通信需求数量；通信需求数量用于表示用户需要创建的任务和/或连接数的大小。

用户终端可以根据预设的获取时间阈值和通信需求数量阈值向负载均衡器发送的任务请求，所以，用户终端向负载均衡器发送的任务请求的过程包括步骤(2-1)至(2-4)：

(2-1)、用户终端获取用户发出的通信需求，通信需求用于表示用户需要创建的任务和/或连接；

(2-2)、用户终端判断当前用户发出的通信需求数量是否达到预设的通信需求数量阈值；

(2-3)、如果是，则向负载均衡器发送的携带有通信需求数量的任务请求；

(2-4)、如果否，则在获取用户发出的通信需求的获取时间达到预设的获取时间阈值时，向负载均衡器发送的携带有通信需求数量的任务请求。

用户通过用户终端的输入设备向用户终端发出的通信需求。用户终端的输入设备包括但不限于：鼠标、键盘和触摸控制屏，当然，用户还可以通过现有的任何可以作为用户终端的输入设备的装置向向用户终端发出的通信需求，这里不再一一赘述。

用户终端可以根据预设的获取时间阈值和通信需求数量阈值向负载均衡器发送的任务请求，可以快速的相应用户发出的通信需求，增加用户的网络应用体验。

步骤501、接收负载均衡器根据当前各个服务器的负载信息和用户的通信需求数量分配的服务器的标识以及每个服务器对应的通信数量。

用户终端将负载均衡器返回的服务器的标识以及每个服务器对应的通信数量的对应关系放入预先设置的任务-服务器资源队列中。

任务-服务器资源队列的形式可以是：“服务器标识通信数量”的对应关系。当然，服务器的标识以及每个服务器对应的通信数量在任务-服务器资源队列中还可以采用其他的形式，这里不再一一赘述。

任务-服务器资源队列中可以按照服务器标识的顺序，对“服务器标识通信数量”的对应关系进行存储。比如：用户终端接收到的负载均衡器返回的服务器的标识以及每个服务器对应的通信数量的对应关系是：“服务器A通信数量6”、“服务器B通信数量10”、“服务器D通信数量4”，那么，任务-服务器资源队列中对“服务器标识通信数量”的对应关系的存储形式可以如表1所示：

服务器标识	通信数量
		服务器A	6
服务器B	10
		服务器D	4

表1

任务-服务器资源队列还可以是其他的表现形式，这里不再一一赘述。

步骤502、根据分配的服务器以及每个服务器对应的通信数量执行通信业务。

用户终端按照任务-服务器资源队列中记录的服务器的顺序，从任务-服务器资源队列中取出顺序排在第一个的服务器，并创建该服务器对应的通信数量的任务和/或连接后，再取出任务-服务器资源队列中顺序排在第二个的服务器，创建该第二个服务器对应的通信数量的任务和/或连接，直到将任务-服务器资源队列中记录的所有服务器和对应的任务和/或连接数都根据通信需求创建完成。

用户终端在根据通信需求创建和服务器的任务和/或连接时，可以根据通信需求被提出的顺序和用户终端给各通信需求预设的优先级，创建和服务器的任务和/或连接。

当然用户终端还可以根据其他的条件创建通信需求和服务器的任务和/或连接，这里不再一一赘述。

参见图8，本实施例还提出了另一种负载均衡方法，该方法以从用户终端侧描述为例进行说明，包括以下步骤600至602：步骤600、用户终端向负载均衡器预申请一定数量的任务/连接数；

步骤601、将负载均衡器返回的任务/连接-服务器列表放入队列；

步骤602、判断队列是否为空；如果是，返回步骤600；如果否，执行步骤603；

步骤603、用户从任务/连接-服务器资源队列中取一个服务器资源；

步骤604、向服务器发起创建任务/连接；

步骤605、判断任务/连接创建是否完毕；如果是，结束；如果否，返回步骤604。

综上所述，本实施例提供的一种负载均衡方法，用户终端一次性向负载均衡器发送携带有通信需求数量的任务请求，并接收负载均衡器返回的执行相应通信需求数量的服务器和每个服务器对应的通信数量，在用户在有大量任务需要处理时，无需多次和负载均衡器进行交互才能申请到执行相应任务的服务器，减少了用户终端和负载均衡器的交互次数，保证了负载均衡器的性能。

实施例4

参见图9，本实施例提供一种负载均衡器，用于执行上述从负载均衡器侧描述的负载均衡方法，该负载均衡器包括：检测模块700、分配模块701和发送模块702。

其中，检测模块700，用于监测用户发送的任务请求，任务请求中携带有用户的通信需求数量；通信需求数量表示用户需要创建的任务和/或连接数的大小；分配模块701，与检测模块700连接，用于根据当前各个服务器的负载信息和通信需求数量，从服务器集群中确定向用户分配的服务器以及每个服务器对应的通信数量；发送模块702，与分配模块701连接，用于将分配的服务器的标识和每个服务器对应的通信数量发送给用户，使得用户根据分配的服务器和每个服务器对应的通信数量执行通信业务。

在有些情况下，负载均衡器获取到的用户的通信需求数量很多，已经超出了负载均衡器一次可以分配的最大任务分配数量，那么，分配模块可以通过如下的通信数量子集划分单元和服务器分配单元将用户提出的通信需求数量分成多个部分，并分别对这多个部分进行服务器的分配，分配模块具体包括：

通信数量子集划分单元，用于根据通信需求数量和最大任务分配数量，将通信需求数量划分为一个或多个通信数量子集；

服务器分配单元，用于根据当前各个服务器的负载信息，按照负载均衡原则从服务器集群中选取每个通信数量子集对应的服务器；其中，通信数量子集包含的通信数量小于或等于最大任务分配数量。

通过以上的描述，在负载均衡器获取到的用户的通信需求数量很多而无法一次分配时，分配模块将通信需求数量分成多个通信数量子集，然后对多个通信数量子集分别分配服务器，从而可以快速响应用户的任务请求，及时的对用户分配服务器。

在向每个通信数量子集分配服务器时，为了能够实时获取到服务器集群中各服务器的负载情况，服务器分配单元可以通过如下的服务器选择子单元和更新子单元对选取的服务器对应的已分配任务和/或连接数进行更新，因此，服务器分配单元具体包括：

服务器选择子单元，用于根据当前各个服务器的负载参数和已经分配给各个服务器的任务和/或连接数，逐一确定各个服务器的负荷轻重情况，按照负荷由轻到重的顺序选取每个通信数量子集对应的服务器；

更新子单元，用于根据选取的服务器对应的通信数量子集中的任务和/或连接数，在预设的任务列表中更新选取的服务器对应的已分配任务和/或连接数。

通过以上的描述可以看出，在完成对用户请求的通信需求数量的分配后，负载均衡器的服务器分配单元会根据选取的服务器对应的通信数量子集中的任务和/或连接数，对存储的所选择的服务器的负载信息中记录的已分配任务和/或连接数进行更新，从而实时获取服务器集群中各服务器的负载情况，可以完成对用户请求的通信需求数量的分配，起到负载均衡器应有的作用。

在服务器完成用户执行的任务时，服务器会通知负载均衡器更新服务器的标识对应的服务器的已分配任务和/或连接数，负载均衡器通过如下的获取模块和更新模块对任务释放请求中携带的服务器的标识对应的服务器的已分配任务和/或连接数进行更新，因此，负载均衡器还包括：

获取模块，用于获取服务器发送的任务释放请求，任务释放请求中携带有服务器的标识；

更新模块，用于根据服务器的标识，在预设的任务列表中更新服务器的标识对应的服务器的已分配任务和/或连接数。

通过以上的描述，负载均衡器根据获取的服务器发送的任务释放请求，对任务释放请求中携带的服务器的标识对应的服务器的负载信息中记录的已分配任务和/或连接数进行更新，从而实时获取服务器集群中各服务器的负载情况。

综上所述，本实施例提供的一种负载均衡器，根据用户发送的任务请求中携带的用户通信需求数量，从服务器集群中确定向用户分配的服务器以及每个服务器对应的通信数量，使得负载均衡器可以实时监测用户的任务请求，并可以在监测到用户的任务请求时，一次给用户请求的多个任务分配服务器，保证了负载均衡器对用户任务分配服务器时所应起到的负载均衡作用，而且在用户有大量任务需要处理而与负载均衡器进行数据交互时，减少了用户和负载均衡器之间进行交互的次数，保证了负载均衡器的性能。

实施例5

参见图10，本实施例提供一种用户终端，用于执行上述从用户终端侧描述的负载均衡方法，该用户终端包括：任务请求发送模块800、接收模块801和处理模块802。

其中，任务请求发送模块800，用于向负载均衡器发送的任务请求，任务请求中携带有用户的通信需求数量；通信需求数量用于表示用户需要创建的任务和/或连接数的大小；接收模块801，与任务请求发送模块800连接，用于接收负载均衡器根据当前各个服务器的负载信息和用户的通信需求数量分配的服务器的标识以及每个服务器对应的通信数量；处理模块802，与接收模块801连接，用于根据分配的服务器以及每个服务器对应的通信数量执行通信业务。

综上所述，本实施例提供的一种用户终端，一次性向负载均衡器发送携带有通信需求数量的任务请求，并接收负载均衡器返回的执行相应通信需求数量的服务器和每个服务器对应的通信数量，在用户在有大量任务需要处理时，无需多次和负载均衡器进行交互才能申请到执行相应任务的服务器，，减少了用户终端和负载均衡器的交互次数，保证了负载均衡器的性能。

本发明各实施例所提供的负载均衡方法的计算机程序产品，包括存储了程序代码的计算机可读存储介质，程序代码包括的指令可用于执行前面方法实施例中的方法，具体实现可参见方法实施例，在此不再赘述。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在本申请所提供的几个实施例中，应该理解到，所揭露的系统、装置和方法，可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，又例如，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。

功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-OnlyMemory)、随机存取存储器(RAM，RandomAccessMemory)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应所述以权利要求的保护范围为准。

Claims (10)

1.一种负载均衡方法，其特征在于，所述方法包括：

负载均衡器监测用户发送的任务请求，所述任务请求中携带有所述用户的通信需求数量；所述通信需求数量表示所述用户需要创建的任务和/或连接数的大小；

所述负载均衡器根据当前各个服务器的负载信息和所述通信需求数量，从服务器集群中确定向所述用户分配的服务器以及每个服务器对应的通信数量；

所述负载均衡器将分配的服务器的标识和每个服务器对应的通信数量发送给所述用户，使得所述用户根据分配的所述服务器和每个服务器对应的通信数量执行通信业务。

2.根据权利要求1所述的方法，其特征在于，所述负载均衡器根据当前各个服务器的负载信息和所述通信需求数量，从服务器集群中确定向所述用户分配的服务器以及每个服务器对应的通信数量包括：

所述负载均衡器根据所述通信需求数量和最大任务分配数量，将所述通信需求数量划分为一个或多个通信数量子集；

所述负载均衡器根据当前各个服务器的负载信息，按照负载均衡原则从服务器集群中选取每个所述通信数量子集对应的服务器；其中，所述通信数量子集包含的通信数量小于或等于所述最大任务分配数量。

3.根据权利要求2所述的方法，其特征在于，所述负载均衡器根据当前各个服务器的负载信息，按照负载均衡原则从服务器集群中选取每个所述通信数量子集对应的服务器包括：

所述负载均衡器根据当前各个服务器的负载参数和已经分配给所述各个服务器的任务和/或连接数，逐一确定所述各个服务器的负荷轻重情况，按照负荷由轻到重的顺序选取每个所述通信数量子集对应的服务器；

所述负载均衡器根据选取的所述服务器对应的所述通信数量子集中的任务和/或连接数，在预设的任务列表中更新选取的所述服务器对应的已分配任务和/或连接数。

4.根据权利要求1所述的方法，其特征在于，所述方法还包括：

所述负载均衡器获取所述服务器发送的任务释放请求，所述任务释放请求中携带有所述服务器的标识；

所述负载均衡器根据所述服务器的标识，在预设的任务列表中更新所述服务器的标识对应的服务器的已分配任务和/或连接数。

5.一种负载均衡方法，其特征在于，所述方法包括：

用户终端向负载均衡器发送的任务请求，所述任务请求中携带有所述用户的通信需求数量；所述通信需求数量用于表示所述用户需要创建的任务和/或连接数的大小；

所述用户终端接收所述负载均衡器根据当前各个服务器的负载信息和所述用户的通信需求数量分配的服务器的标识以及每个服务器对应的通信数量；

所述用户终端根据分配的服务器以及每个服务器对应的通信数量执行通信业务。

6.一种负载均衡器，其特征在于，所述负载均衡器包括：

检测模块，用于监测用户发送的任务请求，所述任务请求中携带有所述用户的通信需求数量；所述通信需求数量表示所述用户需要创建的任务和/或连接数的大小；

分配模块，用于根据当前各个服务器的负载信息和所述通信需求数量，从服务器集群中确定向所述用户分配的服务器以及每个服务器对应的通信数量；

发送模块，用于将分配的服务器的标识和每个服务器对应的通信数量发送给所述用户，使得所述用户根据分配的所述服务器和每个服务器对应的通信数量执行通信业务。

7.根据权利要求6所述的负载均衡器，其特征在于，所述分配模块包括：

通信数量子集划分单元，用于根据所述通信需求数量和最大任务分配数量，将所述通信需求数量划分为一个或多个通信数量子集；

服务器分配单元，用于根据当前各个服务器的负载信息，按照负载均衡原则从服务器集群中选取每个所述通信数量子集对应的服务器；其中，所述通信数量子集包含的通信数量小于或等于所述最大任务分配数量。

8.根据权利要求7所述的负载均衡器，其特征在于，所述服务器分配单元包括：

服务器选择子单元，用于根据当前各个服务器的负载参数和已经分配给所述各个服务器的任务和/或连接数，逐一确定所述各个服务器的负荷轻重情况，按照负荷由轻到重的顺序选取每个所述通信数量子集对应的服务器；

更新子单元，用于根据选取的所述服务器对应的所述通信数量子集中的任务和/或连接数，在预设的任务列表中更新选取的所述服务器对应的已分配任务和/或连接数。

9.根据权利要求6所述的负载均衡器，其特征在于，所述负载均衡器还包括：

获取模块，用于获取所述服务器发送的任务释放请求，所述任务释放请求中携带有所述服务器的标识；

更新模块，用于根据所述服务器的标识，在预设的任务列表中更新所述服务器的标识对应的服务器的已分配任务和/或连接数。

10.一种用户终端，其特征在于，所述用户终端包括：

任务请求发送模块，用于向负载均衡器发送的任务请求，所述任务请求中携带有所述用户的通信需求数量；所述通信需求数量用于表示所述用户需要创建的任务和/或连接数的大小；

接收模块，用于接收所述负载均衡器根据当前各个服务器的负载信息和所述用户的通信需求数量分配的服务器的标识以及每个服务器对应的通信数量；

处理模块，用于根据分配的服务器以及每个服务器对应的通信数量执行通信业务。