CN108551474A - 一种服务器集群的负载均衡方法 - Google Patents

Abstract

本发明提出了一种服务器集群的负载均衡方法，包括如下步骤：S1、判断服务器集群是否涉及微服务架构；S2、判断服务器整体负载，是否需要进行容量调整；S3、接收请求，根据请求中的特征信息，判断请求类型；S4、查询、定位相应请求类型在哈希环上的分区，并查询相关节点当前的负载，获取负载最低的节点的当前负载，以及该分区上节点的负载均值；S5、将请求根据归类特征，通过哈希函数计算，将结果映射到该分区的相应位置上；S6、按筛选方向，判断相邻节点是否为负载最低节点：S7、判断当前位置是否到达区块的顶点。本发明有效地在分配阶段均衡了系统各个节点的负载，提高了系统效率。

Description

一种服务器集群的负载均衡方法

技术领域

本发明涉及一种一致性哈希分配方式，具体涉及一种服务器集群的服务节点之间所执行的负载均衡方法，属于计算机算法领域。

背景技术

负载均衡被广泛应用于分布式环境，包括数据处理领域的大数据处理，如Hadoop平台的Map/Reduce中，利用负载均衡缓解Reduce端的数据倾斜问题；传统P2P服务器的用户负载平衡；分布式服务系统的请求处理负载平衡。

现如今，由于大数据与云计算的广泛应用，分布式服务系统的应用也日渐频繁，由于对系统性能横向扩展的需要，一致性哈希就成为了这方面较成熟的解决方案。一致性哈希的本质是使用哈希环代替传统的线性哈希分桶模式，以区间为衡量标准来判定用户应当使用哪个服务器来承载和完成服务，而不是传统的取模(mod)运算形式，从而使得系统管理员在对节点进行增加和删除操作时，无需额外更改分配策略，保证系统正常运行。

在一个由一致性哈希进行分配的系统中，一个节点会虚拟化为一个由哈希算法得到的数值，映射到一个哈希环上。这个哈希环通常由2³²个点构成，其取值区间为0到2³²-1。当用户或请求进入这个系统时，会根据其一定的特征来进行哈希运算，以得到的值作为依据，将其映射到哈希环上，然后按特定的方向，找到最近的节点，作为其服务节点。

一致性哈希由于其良好的可扩展性和灵活性，其在传统的P2P领域中运用相当广泛，覆盖了绝大多数系统的节点分配机制。然而，一致性哈希解决的仅仅是系统的横向扩展问题，对于负载均衡而言，却收效甚微，甚至有可能引发更严重的倾斜(skew)问题，特别是在部分节点移除以后。这是因为每一个请求最终分配到的节点完全取决于由哈希函数进行运算后，最终得到的随机的结果，并没有设计任何负载均衡的措施，也没有考虑请求本身可能存在的一些特征。这种缺陷会造成以下几个问题：

1、对于特征字符串相同的请求，很容易得到相同的结果，使得结果的随机性不明显，导致部分节点承载过多的请求，而其他节点的负载过低，整个系统的处理效率严重偏离理想状态。

2、缺乏合适的负载均衡策略，不能有效地应对部分节点上负载过多的情况，自然也就不能对系统实行最优化的调整。

3、不能适应新型的分布式系统，特别是在每个节点提供的服务不相同的情况下，需要付出额外的代价——多层哈希环等方式，来解决节点与服务内容不对应的情况。

由于负载倾斜是传统一致性哈希中必然存在的问题，其负载均衡的策略也就显得非常重要。传统的方式是通过将一个节点分裂为原始节点和另一个在环上与之相对位置的虚拟节点(virtual node)的方式来部分缓解倾斜的问题，但是在实际操作中人们发现，使用虚拟节点来缓解倾斜问题，不但效率偏低，而且其效果十分有限。

综上所述，如何克服上述现有技术上的不足，提出一种更为有效的一致性哈希分配方式，进而实现服务器集群的负载均衡，就成为了本领域内的技术人员亟待解决的问题。

发明内容

鉴于现有技术存在上述缺陷，本发明的目的是提出一种服务器集群的服务节点之间所执行的负载均衡方法。

本发明的目的，将通过以下技术方案得以实现：

一种服务器集群的负载均衡方法，包括如下步骤：

S1、判断服务器集群是否涉及微服务架构，

若不涉及微服务架构，则进入后续S2步骤，

若涉及微服务架构，则先进入虚拟节点设置步骤，随后进入后续S2步骤；

S2、判断服务器整体负载，是否需要进行容量调整，

若不需要进行容量调整，则进入后续S3步骤，

若需要进行容量调整，则先进入容量调整步骤，随后进入后续S3步骤；

S3、接收请求，提取请求中的特征信息，并根据请求中的特征信息，判断请求类型；

S4、查询、定位相应请求类型在哈希环上的分区，并查询相关节点当前的负载，获取负载最低的节点的当前负载，以及该分区上节点的负载均值；

S5、将请求根据归类特征，通过哈希函数计算，将结果映射到该分区的相应位置上；

S6、按筛选方向，判断相邻节点是否为负载最低节点，

若相邻节点是负载最低节点，则认为成功命中节点，向中心节点汇报日志，并在请求对象中加入当前处理节点的信息，

若相邻节点不是负载最低节点，则跳过该节点，并定位至下一节点的判定区间，随后进入后续S7步骤；

S7、判断当前位置是否到达区块的顶点，

若当前位置未到达区块的顶点，则返回S6步骤，

若当前位置已到达区块的顶点，则先返回区块的尾部，随后返回S6步骤。

优选地，S1中所述虚拟节点设置步骤，具体包括如下步骤：

S11、按照服务器自身所支持的Restful API类型，对哈希环进入分区设定；

S111、将哈希值的高16位与低16位分开编码，高16位中的每一个数字表示一种请求，一共可以表示2¹⁶中不同的请求，每种请求都会占据哈希环上1/2¹⁶的一个子区间；

S112、在每个子区间上，再针对每一个节点或请求的特征进行哈希运算，得到一个取值范围在[0,2¹⁶-1]的数值；

S113、将两块编码按高低位数合成一个值，得到最终的哈希值，从而确定其在该子区间在整个哈希环上的位置；

S12、映射出虚拟节点，并将每个虚拟节点放置于其所对应的子区间上。

优选地，S212中所述高负载节点为负载高于平均负载的节点。

优选地，所述哈希值的高16位代表所述哈希值的第16～31位，所述哈希值的低16位代表所述哈希值的第0～15位。

优选地，S2中所述容量调整步骤，包括物理节点新增步骤及物理节点移除步骤。

优选地，所述物理节点新增步骤，具体包括如下步骤：

S211、通知中心节点，执行负载重分配；

S212、将高负载节点内的负载释放至分配器内；

S213、将新增物理节点接入哈希环内，并由分配器执行负载重分配指令；

S214、负载重分配完成后再次通知中心节点；

S215、执行新请求分配指令，将队列中的新增请求进行分配；

优选地，所述物理节点移除步骤，，具体包括如下步骤：

S221、通知中心节点，执行负载重分配；

S222、将待移除节点内的负载释放至分配器内；

S223、将待移除节点从哈希环内移除，并由分配器执行负载重分配指令；

S224、负载重分配完成后再次通知中心节点；

S225、执行新请求分配指令，将队列中的新增请求进行分配。

优选地，S3中所述特征信息包括URL、IP地址、用户名。

优选地，S5中所述归类特征包括URL、IP地址、用户名。

优选地，S6中所述筛选方向为逆时针方向。

与现有技术相比，本发明的创新之处及其突出效果表现为：第一，本发明提出的基于贪心算法优化的一致性哈希算法，根据微服务集群环境下的特性，设计出合适的分配算法，有效地在分配阶段均衡了系统各个节点的负载，提高了系统的总体效率。第二，本发明提出的算法，能够有效地处理基于用户请求的分布式服务器集群负载均衡问题，解决了服务器之间提供服务存在差异性的问题，为提高集群的处理效率提供了新的解决方案。第三，本发明提出的动态切换策略能够适应节点的动态添加与删除，不会在动态扩展的情况下产生负载倾斜的情况，相比于传统的一致性哈希系统具备更好的稳定性和灵活性。

综上所述，本发明使用效果优异，对负载均衡的帮助效果显著，具有很高的使用及推广价值。

以下便结合实施例附图，对本发明的具体实施方式作进一步的详述，以使本发明技术方案更易于理解、掌握。

附图说明

图1是本发明执行贪心算法下请求分配实现流程图；

图2是根据请求类型执行哈希环分割示意图；

图3是动态添加节点流程图；

图4是动态删除节点示流程图；

图5各节点负载情况比对表；

图6各节点负载情况比对图；

图7处理请求所需执行时间比对图。

具体实施方式

为了更加详细的描述本发明提出的种服务器集群的服务节点之间所执行的负载均衡方法。结合附图1～附图7，具体说明如下。

本发明揭示了一种服务器集群的负载均衡方法，包括如下步骤：

S1、判断服务器集群是否涉及微服务架构，

若不涉及微服务架构，则进入后续S2步骤，

若涉及微服务架构，则先进入虚拟节点设置步骤，随后进入后续S2步骤；

S2、判断服务器整体负载，是否需要进行容量调整，

若不需要进行容量调整，则进入后续S3步骤，

若需要进行容量调整，则先进入容量调整步骤，随后进入后续S3步骤；

S3、接收请求，提取请求中的特征信息，并根据请求中的特征信息，判断请求类型，所述特征信息包括但不限于URL、IP地址、用户名等；

S4、查询、定位相应请求类型在哈希环上的分区，并查询相关节点当前的负载，获取负载最低的节点的当前负载，以及该分区上节点的负载均值；

S5、将请求根据一定的归类特征，同样的，所述归类特征包括但不限于URL、IP地址、用户名等，通过哈希函数计算，将结果映射到该分区的相应位置上；

S6、按筛选方向，(在本实施例中，所述筛选方向为逆时针方向)，判断相邻节点是否为负载最低节点，这一过程实质上就是为了寻找最为合适的节点，通常意义上最合适的节点为负载介于最低负载和负载均值之间，理想情况下可以直接选择负载最低的节点，具体的判断过程如下：

若相邻节点是负载最低节点，则认为成功命中节点，向中心节点汇报日志，并在请求对象中加入当前处理节点的信息，

若相邻节点不是负载最低节点，则跳过该节点，并定位至下一节点的判定区间，随后进入后续S7步骤；

S7、判断当前位置是否到达区块的顶点，

若当前位置未到达区块的顶点，则返回S6步骤，

若当前位置已到达区块的顶点，则先返回区块的尾部，随后返回S6步骤。

S1中所述虚拟节点设置步骤，具体包括如下步骤：

S11、按照服务器自身所支持的Restful API类型，对哈希环进入分区设定；

S111、将哈希值的高16位与低16位分开编码，高16位中的每一个数字表示一种请求，一共可以表示2¹⁶中不同的请求，每种请求都会占据哈希环上1/2¹⁶的一个子区间；

S112、在每个子区间上，再针对每一个节点或请求的特征进行哈希运算，得到一个取值范围在[0,2¹⁶-1]的数值；

S113、将两块编码按高低位数合成一个值，得到最终的哈希值，从而确定其在该子区间在整个哈希环上的位置；

S12、映射出虚拟节点，并将每个虚拟节点放置于其所对应的子区间上。

S212中所述高负载节点为负载高于平均负载的节点。

所述哈希值的高16位代表所述哈希值的第16～31位，所述哈希值的低16位代表所述哈希值的第0～15位。

S2中所述容量调整步骤，包括物理节点新增步骤及物理节点移除步骤。

当服务器的整体负载过高，需要进行扩容时，则需要执行物理节点新增步骤，新增的物理节点应当抽象为多个负责不同请求处理虚拟节点，以类似于插入虚拟节点的方式，选择合适的分区插入。由于本发明在设计中已经考虑了分区的方式，每个新虚拟节点插入的分区可以完全交由该系统控制。在确认分区之后，哈希函数会为该新节点在指定的分区上随机分配映射位置。插入完成后，需要将高负载的节点(负载高于平均负载)中，高于平均负载部分的请求释放，重新进行基于贪心算法的分配。通常该分配过程能够使得新增的节点承担适当的负载量。

具体而言，所述物理节点新增步骤，包括如下步骤：

S211、通知中心节点，执行负载重分配；

S212、将高负载节点内的负载释放至分配器内；

S213、将新增物理节点接入哈希环内，并由分配器执行负载重分配指令；

S214、负载重分配完成后再次通知中心节点；

S215、执行新请求分配指令，将队列中的新增请求进行分配；

当需要移除物理节点时，则需要执行物理节点移除步骤，一个物理节点被移除以后，其相关的虚拟节点会被悉数移除，同时会释放出一批待处理的请求。针对被释放出的请求，可以将其视作新进入系统的请求，重新进行基于贪心算法的分配，选择到合适的节点，从而保证了物理节点的安全移除。

具体而言，所述物理节点移除步骤，包括如下步骤：

S221、通知中心节点，执行负载重分配；

S222、将待移除节点内的负载释放至分配器内；

S223、将待移除节点从哈希环内移除，并由分配器执行负载重分配指令；

S224、负载重分配完成后再次通知中心节点；

S225、执行新请求分配指令，将队列中的新增请求进行分配。

本发明采用贪心算法执行优化，很大程度上均衡了各个节点的负载，同时相对于传统的一致性哈希，其效率提高了20％左右。在分布式服务器集群与云计算环境下，负载均衡通常能够在效率上提供很好的提升，更多地挖掘系统整体的性能，提高了硬件资源的利用率。本发明提出的基于贪心算法优化的一致性哈希算法，根据该环境下的特性，设计出合适的分配与动态切换策略，有效地均衡了系统各个节点的负载，提高了系统的总体效率。

综上所述，本发明与现有技术相比，具有以下几个显著特点：

1、本发明提出的基于贪心算法优化的一致性哈希算法，根据微服务集群环境下的特性，设计出合适的分配算法，有效地在分配阶段均衡了系统各个节点的负载，提高了系统的总体效率。

2、本发明提出的算法，能够有效地处理基于用户请求的分布式服务器集群负载均衡问题，解决了服务器之间提供服务存在差异性的问题，为提高集群的处理效率提供了新的解决方案。

3、本发明提出的动态切换策略能够适应节点的动态添加与删除，不会在动态扩展的情况下产生负载倾斜的情况，相比于传统的一致性哈希系统具备更好的稳定性和灵活性。

对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神和基本特征的情况下，能够以其他的具体形式实现本发明。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本发明内，不应将权利要求中的任何附图标记视为限制所涉及的权利要求。

此外，应当理解，虽然本说明书按照实施方式加以描述，但并非每个实施方式仅包含一个独立的技术方案，说明书的这种叙述方式仅仅是为清楚起见，本领域技术人员应当将说明书作为一个整体，各实施例中的技术方案也可以经适当组合，形成本领域技术人员可以理解的其他实施方式。

Claims (10)

1.一种服务器集群的负载均衡方法，其特征在于，包括如下步骤：

S1、判断服务器集群是否涉及微服务架构，

若不涉及微服务架构，则进入后续S2步骤，

若涉及微服务架构，则先进入虚拟节点设置步骤，随后进入后续S2步骤；

S2、判断服务器整体负载，是否需要进行容量调整，

若不需要进行容量调整，则进入后续S3步骤，

若需要进行容量调整，则先进入容量调整步骤，随后进入后续S3步骤；

S3、接收请求，提取请求中的特征信息，并根据请求中的特征信息，判断请求类型；

S4、查询、定位相应请求类型在哈希环上的分区，并查询相关节点当前的负载，获取负载最低的节点的当前负载，以及该分区上节点的负载均值；

S5、将请求根据归类特征，通过哈希函数计算，将结果映射到该分区的相应位置上；

S6、按筛选方向，判断相邻节点是否为负载最低节点，

若相邻节点是负载最低节点，则认为成功命中节点，向中心节点汇报日志，并在请求对象中加入当前处理节点的信息，

若相邻节点不是负载最低节点，则跳过该节点，并定位至下一节点的判定区间，随后进入后续S7步骤；

S7、判断当前位置是否到达区块的顶点，

若当前位置未到达区块的顶点，则返回S6步骤，

若当前位置已到达区块的顶点，则先返回区块的尾部，随后返回S6步骤。

2.根据权利要求1所述的服务器集群的负载均衡方法，其特征在于，S1中所述虚拟节点设置步骤，具体包括如下步骤：

S11、按照服务器自身所支持的Restful API类型，对哈希环进入分区设定；

S111、将哈希值的高16位与低16位分开编码，高16位中的每一个数字表示一种请求，一共可以表示2¹⁶中不同的请求，每种请求都会占据哈希环上1/2¹⁶的一个子区间；

S112、在每个子区间上，再针对每一个节点或请求的特征进行哈希运算，得到一个取值范围在[0,2¹⁶-1]的数值；

S113、将两块编码按高低位数合成一个值，得到最终的哈希值，从而确定其在该子区间在整个哈希环上的位置；

S12、映射出虚拟节点，并将每个虚拟节点放置于其所对应的子区间上。

3.根据权利要求2所述的服务器集群的负载均衡方法，其特征在于：所述哈希值的高16位代表所述哈希值的第16～31位，所述哈希值的低16位代表所述哈希值的第0～15位。

4.根据权利要求1所述的服务器集群的负载均衡方法，其特征在于：S2中所述容量调整步骤，包括物理节点新增步骤及物理节点移除步骤。

5.根据权利要求4所述的服务器集群的负载均衡方法，其特征在于，所述物理节点新增步骤，具体包括如下步骤：

S211、通知中心节点，执行负载重分配；

S212、将高负载节点内的负载释放至分配器内；

S213、将新增物理节点接入哈希环内，并由分配器执行负载重分配指令；

S214、负载重分配完成后再次通知中心节点；

S215、执行新请求分配指令，将队列中的新增请求进行分配；

6.根据权利要求5所述的服务器集群的负载均衡方法，其特征在于：S212中所述高负载节点为负载高于平均负载的节点。

7.根据权利要求4所述的服务器集群的负载均衡方法，其特征在于，所述物理节点移除步骤，具体包括如下步骤：

S221、通知中心节点，执行负载重分配；

S222、将待移除节点内的负载释放至分配器内；

S223、将待移除节点从哈希环内移除，并由分配器执行负载重分配指令；

S224、负载重分配完成后再次通知中心节点；

S225、执行新请求分配指令，将队列中的新增请求进行分配。

8.根据权利要求1所述的服务器集群的负载均衡方法，其特征在于：S3中所述特征信息包括URL、IP地址、用户名。

9.根据权利要求1所述的服务器集群的负载均衡方法，其特征在于：S5中所述归类特征包括URL、IP地址、用户名。

10.根据权利要求1所述的服务器集群的负载均衡方法，其特征在于：S6中所述筛选方向为逆时针方向。