CN109769019A - 一种一致性负载均衡方法及装置 - Google Patents

Abstract

本发明公开了一种一致性负载均衡方法及装置，该方法包括：计算N个节点的哈希值，并依据所述哈希值将N个所述节点配置到对应的服务节点环，N为正整数；接收客户端的请求数据，并依据所述请求数据提取键值；将所述键值对N取模以得到第一模值；依据所述第一模值获取所述服务节点环中符合预设条件的节点，并将所述节点的属性信息返回至所述客户端。本发明的有益效果是，从客户信息处直接取模，避免了每次请求都需要计算哈希值，解决哈希一致性负载均衡中多次使用哈希算法对CPU造成高消耗的问题。

Description

一种一致性负载均衡方法及装置

技术领域

本发明涉及一致性负载均衡技术领域，尤其涉及一种一致性负载均衡方法及装置。

背景技术

目前IT服务架构大都采用微服务化之后，系统分布式部署。通过微服务化实现服务的专业化和精细分工，分布式部署提升服务的可靠性和可用性。分布式部署后采用负载均衡解决并发流量和流量重定向的问题。负载均衡是分布式架构的重点，负载均衡机制将决定着整个服务集群的性能与稳定。其中，微服务是一个新兴的软件架构，就是把一个大型的单个应用程序和服务拆分为数十个的支持微服务。一个微服务的策略可以让工作变得更为简便，它可扩展单个组件而不是整个的应用程序堆栈，从而满足服务等级协议。分布式是指一个系统拆成n个子工程，每一个子工程配置服务器，独立运作。但是需要相互协作才能运转整个系统流程。每一个节点都可以配置集群。

涉及负载均衡的现有技术主要包括TCP网络通信、多线程数据异步处理、Linuxepoll I/O多路复用技术等技术。当前大部分负载均衡采用组件实现，主要与集群中的各个服务器进行通讯。负载均衡组件主要提供以下基础功能：维护服务器的IP、DNS名称等信息；根据特定的负载均衡策略在服务器列表中循环。

负载均衡的效果取决于负载均衡策略的设计和实现，负载均衡策略是一个逻辑组件，这些逻辑将会决定，从服务器列表中返回哪个服务器实例。

请求数据分发按如下的方式在系统中进行：

1)客户端需要向服务端发起TCP的数据请求，调用负载均衡组件的API获取服务端信息；

2)负载均衡组件根据请求类型选定均衡策略；

3)均衡策略根据规则从服务列表中选定在线的终端服务的服务信息并返回；

4)服务端检测服务的信息，如果有TCP连接，直接发送请求数据；否则使用服务信息和终端服务建立TCP连接后发送请求数据。

采用负载均衡后，对于包含会话的业务，需要会话保持。即是指在负载均衡器上有一种机制，在作负载均衡的同时，还保证同一用户相关连的访问请求会被分配到同一台服务器上。

现有的一致性负载均衡策略主要是一致性哈希的负载均衡策略；它是根据哈希一致性的原理，相同用户参数的请求总是发到同一提供者。当某一台提供者挂时，原本发往该提供者的请求，基于虚拟节点，平摊到其它提供者，不会引起剧烈变动。其中，一致性哈希算法在1997年由麻省理工学院提出，设计目标是为了解决因特网中的热点(Hot spot)问题，初衷和CARP十分类似。一致性哈希修正了CARP使用的简单哈希算法带来的问题，使得DHT可以在P2P环境中真正得到应用。

假设有8个节点，组成A-H的8个虚拟节点，A-H哈希值分别是递增的，当有一个请求进来，通过计算参数的哈希值，比如该值刚好是1的位置，那么选中比1的值大的最小的那个实例，则结果该请求选中C虚拟节点；假如请求的参数的哈希值是在2的位置，那么找不到比2的值大的最小的实例，则选中所有实例中最小的一个，也就是A。

但是，由于一致性哈希是要对用户参数做一致性哈希算法计算哈希值，每次调用一次，会比较占CPU资源。

发明内容

本发明的目的在于提供一种一致性负载均衡方法及装置，解决现有技术中一致性哈希是要对用户参数做一致性哈希算法计算哈希值，每次调用一次，会比较占CPU资源的问题。

本发明的技术方案实现如下：

一方面，本发明提供一种一致性负载均衡方法，包括：

计算N个节点的哈希值，并依据所述哈希值将N个所述节点配置到对应的服务节点环，N为正整数；

接收客户端的请求数据，并依据所述请求数据提取键值；

将所述键值对N取模以得到第一模值；

依据所述第一模值获取所述服务节点环中符合预设条件的节点，并将所述节点的属性信息返回至所述客户端。

在本发明所述的一致性负载均衡方法中，所述计算N个节点的哈希值，并依据所述哈希值将N个所述节点配置到对应的服务节点环，N为正整数中：

N＝2^x，0≤x＜32。

在本发明所述的一致性负载均衡方法中，所述接收客户端的请求数据，并依据所述请求数据提取键值，包括：

接收客户端的第一请求数据以向节点填入服务信息，并依据所述第一请求数据提取键值；

接收客户端的第二请求数据以查找节点的可用服务，并依据所述第二请求数据提取用户参数。

在本发明所述的一致性负载均衡方法中，所述将所述键值对N取模以得到第一模值，包括：

将所述键值对N取模以得到第一模值；

依据所述用户参数提取内存中的多位字符，将所述多位字符转换为十进制数值，将所述十进制数值对N取模以得到第二模值。

在本发明所述的一致性负载均衡方法中，所述依据所述第一模值获取所述服务节点环中符合预设条件的节点，并将所述节点的属性信息返回至所述客户端，包括：

依据所述第一模值获取所述服务节点环中的第R个节点，判断所述第R个节点是否为空，若是，则将所述第R个节点的属性信息返回至所述客户端，并于所述第R个节点中填入服务信息；若否，则从所述第R个节点往后查找节点，当查找到空的节点时，将所述空的节点的属性信息返回至所述客户端，并于所述空的节点中填入服务信息；其中，R为第一模值；

依据所述第二模值获取所述服务节点环中的第T个节点，判断所述第T个节点是否有可用服务，若是，则将所述第T个节点的属性信息返回至所述客户端，并从所述第T个节点中获取所述可用服务；若否，则从所述第T个节点往后查找节点，当查找到具有可用服务的节点时，将所述具有可用服务的节点的属性信息返回至所述客户端，并于所述具有可用服务的节点中获取所述可用服务；其中，T为第二模值。

另一方面，提供一种一致性负载均衡装置，其中存储有多条指令，所述指令适于由处理器加载并执行，包括：

计算N个节点的哈希值，并依据所述哈希值将N个所述节点配置到对应的服务节点环，N为正整数；

接收客户端的请求数据，并依据所述请求数据提取键值；

将所述键值对N取模以得到第一模值；

依据所述第一模值获取所述服务节点环中符合预设条件的节点，并将所述节点的属性信息返回至所述客户端。

在本发明所述的一致性负载均衡装置中，所述计算N个节点的哈希值，并依据所述哈希值将N个所述节点配置到对应的服务节点环，N为正整数中：

N＝2^x，0≤x＜32。

在本发明所述的一致性负载均衡装置中，所述接收客户端的请求数据，并依据所述请求数据提取键值，包括：

接收客户端的第一请求数据以向节点填入服务信息，并依据所述第一请求数据提取键值；

接收客户端的第二请求数据以查找节点的可用服务，并依据所述第二请求数据提取用户参数。

在本发明所述的一致性负载均衡装置中，所述将所述键值对N取模以得到第一模值，包括：

将所述键值对N取模以得到第一模值；

依据所述用户参数提取内存中的多位字符，将所述多位字符转换为十进制数值，将所述十进制数值对N取模以得到第二模值。

在本发明所述的一致性负载均衡装置中，所述依据所述第一模值获取所述服务节点环中符合预设条件的节点，并将所述节点的属性信息返回至所述客户端，包括：

依据所述第一模值获取所述服务节点环中的第R个节点，判断所述第R个节点是否为空，若是，则将所述第R个节点的属性信息返回至所述客户端，并于所述第R个节点中填入服务信息；若否，则从所述第R个节点往后查找节点，当查找到空的节点时，将所述空的节点的属性信息返回至所述客户端，并于所述空的节点中填入服务信息；其中，R为第一模值；

依据所述第二模值获取所述服务节点环中的第T个节点，判断所述第T个节点是否有可用服务，若是，则将所述第T个节点的属性信息返回至所述客户端，并从所述第T个节点中获取所述可用服务；若否，则从所述第T个节点往后查找节点，当查找到具有可用服务的节点时，将所述具有可用服务的节点的属性信息返回至所述客户端，并于所述具有可用服务的节点中获取所述可用服务；其中，T为第二模值。

因此，本发明的有益效果是，从客户信息处直接取模，避免了每次请求都需要计算哈希值，解决哈希一致性负载均衡中多次使用哈希算法对CPU造成高消耗的问题。

附图说明

下面将结合附图及实施例对本发明作进一步说明，附图中：

图1为本发明一实施例提供的一种一致性负载均衡方法的流程图。

具体实施方式

为了对本发明的技术特征、目的和效果有更加清楚的理解，以下将对照附图详细说明本发明的具体实施方式。应当理解，以下说明仅为本发明实施例的具体阐述，不应以此限制本发明的保护范围。

参见图1，图1为本发明一实施例提供的一种一致性负载均衡方法的流程图，该一致性负载均衡方法包括步骤S1-S4：

S1、计算N个节点的哈希值，并依据所述哈希值将N个所述节点配置到对应的服务节点环，N为正整数；其中，N＝2^x，0≤x＜32。优选的，N为128。例如：求出服务器(节点)的哈希值，并将其配置到0～232的圆(continuum)上。

S2、接收客户端的请求数据，并依据所述请求数据提取键值；步骤S2包括步骤S21-S22：

S21、接收客户端的第一请求数据以向节点填入服务信息，并依据所述第一请求数据提取键值；键值(key)是windows中注册表中的概念。键值位于注册表结构链末端，和文件系统的文件类似，包含当前计算机及应用程序执行时使用的实际配置信息和数据。

S22、接收客户端的第二请求数据以查找节点的可用服务，并依据所述第二请求数据提取用户参数。

S3、将所述键值对N取模以得到第一模值；步骤S3包括步骤S31-S32：

S31、将所述键值对N取模以得到第一模值；其中，取模运算是指：

对于整型数a，b来说：

1.求整数商：c＝a/b；

2.计算模或者余数：r＝a-c*b。

S32、依据所述用户参数提取内存中的多位字符，将所述多位字符转换为十进制数值，将所述十进制数值对N取模以得到第二模值。

S4、依据所述第一模值获取所述服务节点环中符合预设条件的节点，并将所述节点的属性信息返回至所述客户端。步骤S4包括步骤S41-S42：

S41、依据所述第一模值获取所述服务节点环中的第R个节点，判断所述第R个节点是否为空，若是，则将所述第R个节点的属性信息返回至所述客户端，并于所述第R个节点中填入服务信息；若否，则从所述第R个节点往后查找节点，当查找到空的节点时，将所述空的节点的属性信息返回至所述客户端，并于所述空的节点中填入服务信息；其中，R为第一模值；即如果服务节点环R已经有服务，往后找到一个为空的环点填入服务信息，否则直接填入服务信息，例如：从第R个节点的位置开始顺时针查找，将数据保存到找到的第一个服务器上。如果超过232仍然找不到服务器，就会保存到第一台服务器上。

S42、依据所述第二模值获取所述服务节点环中的第T个节点，判断所述第T个节点是否有可用服务，若是，则将所述第T个节点的属性信息返回至所述客户端，并从所述第T个节点中获取所述可用服务；若否，则从所述第T个节点往后查找节点，当查找到具有可用服务的节点时，将所述具有可用服务的节点的属性信息返回至所述客户端，并于所述具有可用服务的节点中获取所述可用服务；其中，T为第二模值。例如：查找服务时，通过提取用户参数的8个字符当作长整数对N取模得到结果T，服务节点环T有可用服务，返回T服务，否则从第T个节点往下找最近的可用服务，并返回。

此外，本发明还提供一种一致性负载均衡装置(即存储介质)，其中存储有多条指令，所述指令适于由处理器加载并执行，从而实现上述方法。

综上所述，虽然本发明已以优选实施例揭露如上，但上述优选实施例并非用以限制本发明，本领域的普通技术人员，在不脱离本发明的精神和范围内，均可作各种更动与润饰，因此本发明的保护范围以权利要求界定的范围为准。

Claims (10)

1.一种一致性负载均衡方法，其特征在于，包括：

计算N个节点的哈希值，并依据所述哈希值将N个所述节点配置到对应的服务节点环，N为正整数；

接收客户端的请求数据，并依据所述请求数据提取键值；

将所述键值对N取模以得到第一模值；

依据所述第一模值获取所述服务节点环中符合预设条件的节点，并将所述节点的属性信息返回至所述客户端。

2.根据权利要求1所述的一致性负载均衡方法，其特征在于，所述计算N个节点的哈希值，并依据所述哈希值将N个所述节点配置到对应的服务节点环，N为正整数中：

N＝2^x，0≤x＜32。

3.根据权利要求1所述的一致性负载均衡方法，其特征在于，所述接收客户端的请求数据，并依据所述请求数据提取键值，包括：

接收客户端的第一请求数据以向节点填入服务信息，并依据所述第一请求数据提取键值；

接收客户端的第二请求数据以查找节点的可用服务，并依据所述第二请求数据提取用户参数。

4.根据权利要求3所述的一致性负载均衡方法，其特征在于，所述将所述键值对N取模以得到第一模值，包括：

将所述键值对N取模以得到第一模值；

依据所述用户参数提取内存中的多位字符，将所述多位字符转换为十进制数值，将所述十进制数值对N取模以得到第二模值。

5.根据权利要求4所述的一致性负载均衡方法，其特征在于，所述依据所述第一模值获取所述服务节点环中符合预设条件的节点，并将所述节点的属性信息返回至所述客户端，包括：

依据所述第一模值获取所述服务节点环中的第R个节点，判断所述第R个节点是否为空，若是，则将所述第R个节点的属性信息返回至所述客户端，并于所述第R个节点中填入服务信息；若否，则从所述第R个节点往后查找节点，当查找到空的节点时，将所述空的节点的属性信息返回至所述客户端，并于所述空的节点中填入服务信息；其中，R为第一模值；

依据所述第二模值获取所述服务节点环中的第T个节点，判断所述第T个节点是否有可用服务，若是，则将所述第T个节点的属性信息返回至所述客户端，并从所述第T个节点中获取所述可用服务；若否，则从所述第T个节点往后查找节点，当查找到具有可用服务的节点时，将所述具有可用服务的节点的属性信息返回至所述客户端，并于所述具有可用服务的节点中获取所述可用服务；其中，T为第二模值。

6.一种一致性负载均衡装置，其中存储有多条指令，所述指令适于由处理器加载并执行，其特征在于，包括：

计算N个节点的哈希值，并依据所述哈希值将N个所述节点配置到对应的服务节点环，N为正整数；

接收客户端的请求数据，并依据所述请求数据提取键值；

将所述键值对N取模以得到第一模值；

依据所述第一模值获取所述服务节点环中符合预设条件的节点，并将所述节点的属性信息返回至所述客户端。

7.根据权利要求6所述的一致性负载均衡装置，其特征在于，所述计算N个节点的哈希值，并依据所述哈希值将N个所述节点配置到对应的服务节点环，N为正整数中：

N＝2^x，0≤x＜32。

8.根据权利要求6所述的一致性负载均衡装置，其特征在于，所述接收客户端的请求数据，并依据所述请求数据提取键值，包括：

接收客户端的第一请求数据以向节点填入服务信息，并依据所述第一请求数据提取键值；

接收客户端的第二请求数据以查找节点的可用服务，并依据所述第二请求数据提取用户参数。

9.根据权利要求8所述的一致性负载均衡装置，其特征在于，所述将所述键值对N取模以得到第一模值，包括：

将所述键值对N取模以得到第一模值；

依据所述用户参数提取内存中的多位字符，将所述多位字符转换为十进制数值，将所述十进制数值对N取模以得到第二模值。

10.根据权利要求9所述的一致性负载均衡装置，其特征在于，所述依据所述第一模值获取所述服务节点环中符合预设条件的节点，并将所述节点的属性信息返回至所述客户端，包括：

依据所述第一模值获取所述服务节点环中的第R个节点，判断所述第R个节点是否为空，若是，则将所述第R个节点的属性信息返回至所述客户端，并于所述第R个节点中填入服务信息；若否，则从所述第R个节点往后查找节点，当查找到空的节点时，将所述空的节点的属性信息返回至所述客户端，并于所述空的节点中填入服务信息；其中，R为第一模值；

依据所述第二模值获取所述服务节点环中的第T个节点，判断所述第T个节点是否有可用服务，若是，则将所述第T个节点的属性信息返回至所述客户端，并从所述第T个节点中获取所述可用服务；若否，则从所述第T个节点往后查找节点，当查找到具有可用服务的节点时，将所述具有可用服务的节点的属性信息返回至所述客户端，并于所述具有可用服务的节点中获取所述可用服务；其中，T为第二模值。