CN106559448A - 服务器负载均衡方法和装置 - Google Patents

Abstract

本发明提供一种服务器负载均衡方法和装置，方法包括：根据各个服务器所具有的硬件资源，为每一个服务器计算与其负载总量对应的权值；为每一个服务器设置虚拟节点，且各个服务器的虚拟节点数量之间的比值与其权值之间的比值相同；按照负载均衡规则为接收到的服务请求选择对应的虚拟节点，并将所述服务请求发送给与所选虚拟节点对应的服务器处理。根据本发明，把服务器按照硬件资源的不同计算相应的反映其负载总量的权值，再按计算得到的权值映射成相应个数的虚拟节点，然后再实现虚拟节点之间的负载量的均衡，从而实现物理节点间的负载比的均衡。

Description

服务器负载均衡方法和装置

技术领域

本发明涉及计算机技术领域，具体而言，涉及一种服务器负载均衡方法和装置。

背景技术

在采用多台服务器作为服务集群向用户提供应用服务时，把用户的应用请求相对均匀的发送到集群中各个节点的过程称为应用负载均衡。

现有的应用服务器的负载均衡方法有：平均，轮询，随机，最少连接以及虚拟节点等；这些方法在相同硬件配置的服务器之间能做到很好地负载均衡，但是不能实现在不同硬件配置的节点之间的负载均衡。因此，如何在不同的硬件性能配置的服务器之间做负载均衡，就成为一个重要的课题。

发明内容

鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的服务器负载均衡方法和装置。

依据本发明的一个方面，提供了一种服务器负载均衡方法，包括：根据各个服务器所具有的硬件资源，为每一个服务器计算与其负载总量对应的权值；为所述每一个服务器设置虚拟节点，且各个服务器的虚拟节点数量之间的比值与其权值之间的比值相同；按照负载均衡规则为接收到的服务请求选择对应的虚拟节点，并将所述服务请求发送给与所选虚拟节点对应的服务器处理。

可选地，前述的服务器负载均衡方法，在所述按照负载均衡规则为接收到的服务请求选择对应的虚拟节点之前，所述方法还包括：分别为每一个服务器设置服务器名，以及每一个服务器对应的虚拟节点的虚拟节点名；建立服务器名和与之对应的虚拟节点名之间的对应关系表。

可选地，前述的服务器负载均衡方法，按照负载均衡规则为接收到的服务请求选择对应的虚拟节点包括：将各个虚拟节点名通过哈希算法映射到哈希环上；将所述服务请求的标识通过所述哈希算法映射到所述哈希环上；选择所述哈希环上与所述服务请求的映射节点位置相同或最近的虚拟节点作为与所述服务请求对应的虚拟节点。

可选地，前述的服务器负载均衡方法，按照负载均衡规则为接收到的服务请求选择对应的虚拟节点包括：将各个虚拟节点名经倒序处理后通过哈希算法映射到哈希环上；将所述服务请求的标识经倒序处理后通过所述哈希算法映射到所述哈希环上；选择所述哈希环上与所述服务请求的映射节点位置相同或最近的虚拟节点作为与所述服务请求对应的虚拟节点。

可选地，前述的服务器负载均衡方法，所述将服务请求发送给与所选虚拟节点对应的服务器处理包括：根据所述对应关系表选择处理服务请求的虚拟节点对应的服务器；将所述服务请求发送给所述服务器处理。

可选地，前述的服务器负载均衡方法，所述硬件资源包括所述各个服务器的中央处理器和/或内存。

依据本发明的另一方面，还提供了一种服务器负载均衡装置，包括：权值计算模块，用于根据各个服务器所具有的硬件资源，为每一个服务器计算与其负载总量对应的权值；虚拟节点设置模块，用于为所述每一个服务器设置虚拟节点，且各个服务器的虚拟节点数量之间的比值与其权值之间的比值相同；请求处理模块，用于按照负载均衡规则为接收到的服务请求选择对应的虚拟节点，并将所述服务请求发送给与所选虚拟节点对应的服务器处理。

可选地，前述的服务器负载均衡装置，还包括：命名模块，用于分别为每一个服务器设置服务器名，以及每一个服务器对应的虚拟节点的虚拟节点名；对应关系建立模块，用于建立服务器名和与之对应的虚拟节点名之间的对应关系表。

可选地，前述的服务器负载均衡装置，所述请求处理模块包括：映射单元，用于将各个虚拟节点名通过哈希算法映射到哈希环上，以及将所述服务请求的标识通过所述哈希算法映射到所述哈希环上，或者用于将各个虚拟节点名经倒序处理后通过哈希算法映射到哈希环上，以及将所述服务请求的标识经倒序处理后通过所述哈希算法映射到所述哈希环上；节点选择单元，用于选择所述哈希环上与所述服务请求的映射节点位置相同或最近的虚拟节点作为与所述服务请求对应的虚拟节点。

可选地，前述的服务器负载均衡装置，所述请求处理还模块包括：发送单元，用于根据所述对应关系表选择节点选择单元所选的虚拟节点对应的服务器，并将所述服务请求发送给所述服务器处理。

根据以上的技术方案，可知本发明的服务器负载均衡方法和装置至少具有以下优点：

不同的应用服务器拥有不同的硬件性能，常规的负载均衡实现方法只能达到负载量的均衡，难以达到负载比的均衡，根据本发明的技术方案，把服务器按照硬件资源的不同计算相应的反映其负载重量的权值，再按计算得到的权值映射成相应个数的虚拟节点，然后再实现虚拟节点之间的负载量的均衡，从而实现物理节点间的负载比的均衡。

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1示出了根据本发明的一个实施例的服务器负载均衡方法的流程图；

图2示出了根据本发明的另一个实施例的服务器负载均衡方法的流程图；

图3示出了根据本发明的一个实施例的服务器负载均衡方法工作中的hash环；

图4示出了根据本发明的一个实施例的服务器负载均衡装置的框图；

图5示出了根据本发明的另一个实施例的服务器负载均衡装置的框图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

如图1所示，本发明的一个实施例中提供了一种服务器负载均衡方法，包括：

步骤110，根据各个服务器所具有的硬件资源，为每一个服务器计算与其负载总量对应的权值。在本实施例中，对硬件资源的类型不进行限制，硬件资源包括各个服务器的中央处理器和/或内存；例如，只根据中央处理器数量计算权值的话，则可直接将中央处理器的数量作为权值；根据中央处理器数量和内存计算权值的话，则权值可以取中央处理器的数量与一个系数的乘积加上内存大小与另一系数的乘积。

步骤120，为每一个服务器设置虚拟节点，且各个服务器的虚拟节点数量之间的比值与其权值之间的比值相同。在本实施例中，例如，服务器A的权值为3、服务器B的权值为4，则可以为服务器A设置3个虚拟节点，为服务器B设置4个虚拟节点，或者在另一种实施方式中，也可以为服务器A设置6个虚拟节点，为服务器B设置8个虚拟节点。

步骤130，按照负载均衡规则为接收到的服务请求选择对应的虚拟节点，并将服务请求发送给与所选虚拟节点对应的服务器处理。

根据本实施例的技术方案，不同的服务器拥有不同的硬件资源，导致其负载总量也有所不同，由于负载总量不相同的服务器之间无法实现负载均衡，那么在本实施例中，根据各个服务器的硬件资源计算权值并按照该权值设置每一个服务器对应的虚拟节点，使得各个虚拟节点的负载总量相同，那么在这些虚拟节点之间可以实现负载均衡，则在这些虚拟节点进行工作时，与之对应的服务器不会出现负载过大的情况，进而实现不同服务器之间的负载均衡。

如图2所示，本发明的另一个实施例中提供了一种服务器负载均衡方法，包括：

步骤210，根据各个服务器所具有的硬件资源，为每一个服务器计算与其负载总量对应的权值。

步骤220，为每一个服务器设置虚拟节点，且各个服务器的虚拟节点数量之间的比值与其权值之间的比值相同。

步骤230，分别为每一个服务器设置服务器名，以及每一个服务器对应的虚拟节点的虚拟节点名。在本实施例中，不对虚拟节点名的设置方式进行限制，在一种实施方式中，可以按照虚拟节点的数量依次为其设置编号作为虚拟节点名，具体如下：

步骤240，建立服务器名和与之对应的虚拟节点名之间的对应关系表。在本实施例中，可以根据上表格所示的内容建立对应关系表。

步骤250，将各个虚拟节点名经倒序处理后通过哈希算法映射到哈希环上。在本实施例中，倒序处理后的虚拟节点名示例如下：

步骤260，将服务请求的标识经倒序处理后通过哈希算法映射到哈希环上。在本实施例中，之所以将服务请求标识、虚拟节点名都选择倒序处理，是因为倒序之后的服务请求标识以及虚拟节点名的排序都是不连续的，有利于将服务请求随机分配给一个虚拟节点，随机分配可以使得各个服务器的负载更加均衡。

步骤270，选择哈希环上与服务请求的映射节点位置相同或最近的虚拟节点作为与所述服务请求对应的虚拟节点。

根据本实施例的技术方案，将服务请求按照顺时针相邻原则分配到虚拟节点上，虚拟节点hash环上的用户请求的分布如图3所示，其中NODE表示虚拟节点，其加入hash环后用KEY表示，request表示用户请求，其加入hash环用key表示，例如，对于request1将其加入hash环中用key1表示，此时沿hash环的顺时针方式获取与key1最近的表示NODE1-1的KEY1-1，则选择NODE1-1作为处理request1的虚拟节点。在本实施例中，为key选择KEY的方式是顺时针就近获取。还需要说明的是，在hash环上，如果request对应的位置上恰好有一个NODE，则选择该NODE作为处理该request的虚拟节点。

步骤280，根据对应关系表选择处理服务请求的虚拟节点对应的服务器，将服务请求发送给服务器处理。在本实施例的技术方案中，由于之前建立了对应关系表，所以按照对应关系表将服务请求转发到虚拟节点对应的物理上的服务器进行处理即可。

在以上实施例的基础上，步骤250也可以是：将各个虚拟节点名通过哈希算法映射到哈希环上。步骤260也可以是：将服务请求的标识通过哈希算法映射到哈希环上。在本实施例的技术方案中，取消了倒序处理的操作，可以更快地使得服务请求和虚拟节点映射到hash环中，有利于提高为服务请求选择虚拟节点的效率。

如图4所示，本发明的一个实施例中提供了一种服务器负载均衡装置，包括：

权值计算模块410，根据各个服务器所具有的硬件资源，为每一个服务器计算与其负载总量对应的权值。在本实施例中，对硬件资源的类型不进行限制，硬件资源包括各个服务器的中央处理器和/或内存；例如，只根据中央处理器数量计算权值的话，则可直接将处理核心数量作为权值；根据中央处理器数量和内存计算权值的话，则权值可以取中央处理器数量与一个系数的乘积加上内存大小与另一系数的乘积。

虚拟节点设置模块420，为每一个服务器设置虚拟节点，且各个服务器的虚拟节点数量之间的比值与其权值之间的比值相同。在本实施例中，例如，服务器A的权值为3、服务器B的权值为4，则可以为服务器A设置3个虚拟节点，为服务器B设置4个虚拟节点，或者在另一种实施方式中，也可以为服务器A设置6个虚拟节点，为服务器B设置8个虚拟节点。

请求处理模块430，按照负载均衡规则为接收到的服务请求选择对应的虚拟节点，并将服务请求发送给与所选虚拟节点对应的服务器处理。

根据本实施例的技术方案，不同的服务器拥有不同的硬件资源，导致其负载总量也有所不同，由于负载总量不相同的服务器之间无法实现负载均衡，那么在本实施例中，根据各个服务器的硬件资源计算权值并按照该权值设置每一个服务器对应的虚拟节点，使得各个虚拟节点的负载总量相同，那么在这些虚拟节点之间可以实现负载均衡，则在这些虚拟节点进行工作时，与之对应的服务器不会出现负载过大的情况，进而实现不同服务器之间的负载均衡。

如图5所示，本发明的另一个实施例中提供了一种服务器负载均衡装置，包括：

权值计算模块510，根据各个服务器所具有的硬件资源，为每一个服务器计算与其负载总量对应的权值。

虚拟节点设置模块520，为每一个服务器设置虚拟节点，且各个服务器的虚拟节点数量之间的比值与其权值之间的比值相同。

命名模块530，分别为每一个服务器设置服务器名，以及每一个服务器对应的虚拟节点的虚拟节点名。在本实施例中，不对虚拟节点名的设置方式进行限制，在一种实施方式中，可以按照虚拟节点的数量依次为其设置编号作为虚拟节点名，具体如下：

对应关系建立模块540，建立服务器名和与之对应的虚拟节点名之间的对应关系表。在本实施例中，可以根据上表格所示的内容建立对应关系表。

请求处理模块550具体包括映射单元5501、节点选择单元5502和发送单元5503。

其中，映射单元5501，用于将各个虚拟节点名经倒序处理后通过哈希算法映射到哈希环上。在本实施例中，倒序处理后的虚拟节点名示例如下：

映射单元5501还用于将服务请求的标识经倒序处理后通过哈希算法映射到哈希环上。在本实施例中，之所以将服务请求标识、虚拟节点名都选择倒序处理，是因为倒序之后的服务请求标识以及虚拟节点名的排序都是不连续的，有利于将服务请求随机分配给一个虚拟节点，随机分配可以使得各个服务器的负载更加均衡。

节点选择单元5502，用于选择哈希环上与服务请求的映射节点位置相同或最近的虚拟节点作为与该服务请求对应的虚拟节点。根据本实施例的技术方案，将服务请求按照顺时针相邻原则分配到虚拟节点上，虚拟节点hash环上的用户请求的分布如图3所示，其中NODE表示虚拟节点，其加入hash环后用KEY表示，request表示用户请求，其加入hash环用key表示，例如，对于request1将其加入hash环中用key1表示，此时沿hash环的顺时针方式获取与key1最近的表示NODE1-1的KEY1-1，则选择NODE1-1作为处理request1的虚拟节点。在本实施例中，为key选择KEY的方式是顺时针就近获取。还需要说明的是，在hash环上，如果request对应的位置上恰好有一个NODE，则选择该NODE作为处理该request的虚拟节点。

发送单元5503，用于根据对应关系表选择处理服务请求的虚拟节点对应的服务器，将服务请求发送给服务器处理。在本实施例的技术方案中，由于之前建立了对应关系表，所以按照对应关系表将服务请求转发到虚拟节点对应的物理上的服务器进行处理即可。

在以上实施例的基础上，映射单元5501也可以用于将各个虚拟节点名通过哈希算法映射到哈希环上，以及将服务请求的标识通过哈希算法映射到哈希环上。在本实施例的技术方案中，取消了倒序处理的操作，可以更快地使得服务请求和虚拟节点映射到hash环中，有利于提高为服务请求选择虚拟节点的效率。

在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的服务器负载均衡装置中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

Claims (10)

1.一种服务器负载均衡方法，其特征在于，包括：

根据各个服务器所具有的硬件资源，为每一个服务器计算与其负载总量对应的权值；

为所述每一个服务器设置虚拟节点，且各个服务器的虚拟节点数量之间的比值与其权值之间的比值相同；

按照负载均衡规则为接收到的服务请求选择对应的虚拟节点，并将所述服务请求发送给与所选虚拟节点对应的服务器处理。

2.根据权利要求1所述的服务器负载均衡方法，其特征在于，在所述按照负载均衡规则为接收到的服务请求选择对应的虚拟节点之前，所述方法还包括：

分别为每一个服务器设置服务器名，以及每一个服务器对应的虚拟节点的虚拟节点名；

建立服务器名和与之对应的虚拟节点名之间的对应关系表。

3.根据权利要求2所述的服务器负载均衡方法，其特征在于，按照负载均衡规则为接收到的服务请求选择对应的虚拟节点包括：

将各个虚拟节点名通过哈希算法映射到哈希环上；

将所述服务请求的标识通过所述哈希算法映射到所述哈希环上；

选择所述哈希环上与所述服务请求的映射节点位置相同或最近的虚拟节点作为与所述服务请求对应的虚拟节点。

4.根据权利要求2所述的服务器负载均衡方法，其特征在于，按照负载均衡规则为接收到的服务请求选择对应的虚拟节点包括：

将各个虚拟节点名经倒序处理后通过哈希算法映射到哈希环上；

将所述服务请求的标识经倒序处理后通过所述哈希算法映射到所述哈希环上；

选择所述哈希环上与所述服务请求的映射节点位置相同或最近的虚拟节点作为与所述服务请求对应的虚拟节点。

5.根据权利要求3或4所述的服务器负载均衡方法，其特征在于，将所述服务请求发送给与所选虚拟节点对应的服务器处理包括：

根据所述对应关系表选择与所选虚拟节点对应的服务器；

将所述服务请求发送给所述服务器处理。

6.根据权利要求5所述的服务器负载均衡方法，其特征在于，所述硬件资源包括所述各个服务器的中央处理器和/或内存。

7.一种服务器负载均衡装置，其特征在于，包括：

权值计算模块，用于根据各个服务器所具有的硬件资源，为每一个服务器计算与其负载总量对应的权值；

虚拟节点设置模块，用于为所述每一个服务器设置虚拟节点，且各个服务器的虚拟节点数量之间的比值与其权值之间的比值相同；

请求处理模块，用于按照负载均衡规则为接收到的服务请求选择对应的虚拟节点，并将所述服务请求发送给与所选虚拟节点对应的服务器处理。

8.根据权利要求7所述的服务器负载均衡装置，其特征在于，还包括：

命名模块，用于分别为每一个服务器设置服务器名，以及每一个服务器对应的虚拟节点的虚拟节点名；

对应关系建立模块，用于建立服务器名和与之对应的虚拟节点名之间的对应关系表。

9.根据权利要求8所述的服务器负载均衡装置，其特征在于，所述请求处理模块包括：

映射单元，用于将各个虚拟节点名通过哈希算法映射到哈希环上，以及将所述服务请求的标识通过所述哈希算法映射到所述哈希环上，或者，用于将各个虚拟节点名经倒序处理后通过哈希算法映射到哈希环上，以及将所述服务请求的标识经倒序处理后通过所述哈希算法映射到所述哈希环上；

节点选择单元，用于选择所述哈希环上与所述服务请求的映射节点位置相同或最近的虚拟节点作为与所述服务请求对应的虚拟节点。

10.根据权利要求9所述的服务器负载均衡装置，其特征在于，所述请求处理模块还包括：

发送单元，用于根据所述对应关系表选择节点选择单元所选的虚拟节点对应的服务器，并将所述服务请求发送给所述服务器处理。