CN113596094A

CN113596094A - 一种基于云集群的负载均衡方法及装置

Info

Publication number: CN113596094A
Application number: CN202110725443.7A
Authority: CN
Inventors: 付腾瑶
Original assignee: Individual
Current assignee: Hubei Zhuanwei Technology Co.,Ltd.
Priority date: 2021-06-29
Filing date: 2021-06-29
Publication date: 2021-11-02
Anticipated expiration: 2041-06-29
Also published as: CN113596094B

Abstract

本申请公开了一种基于云集群的负载均衡方法，包括：构建哈希环，将多个云服务器节点进行哈希运算，根据云服务器的哈希值确定其在哈希环上的位置；将多个数据对象分别存储至多个云服务器节点中，获取每一云服务器存储的数据对象集；获取热点数据组R，热点数据组R为多个数据对象的部分或全部的组合；将热点数据组R分别与每一云服务器存储的数据对象集相比，获取热点数据组R与每一云服务器存储的数据对象集的差异数据组，将差异数据组插入至对应的每一云服务器中；多个访问终端根据一致性哈希算法及路由规则，在哈希环上路由定位到不同的云服务器节点中，以获取定位到的云服务节点中的热点数据组。

Description

一种基于云集群的负载均衡方法及装置

技术领域

本申请涉及信息技术领域，尤其涉及一种基于云集群的负载均衡方法及装置。

背景技术

近年来，云计算技术的进步推动了互联网行业的快速发展，云计算本身的资源池化、自助服务、服务计量等特性也得到了广泛使用。这里，通过云计算技术可以向用户提供不同的云计算服务，例如基础设施即服务(Infrastructure as a Service，IaaS)，IaaS可以为用户提供虚拟化的计算、存储、网络等基础设施资源。

在云计算领域，访问终端在云服务器网络节点中访问数据，由于云服务器具备良好的扩展性和伸缩性，对于短期较大流量的数据获取，例如热点数据的获取，通常采用加大云服务器网络配置节点来应对突然流量，加大网络配置节点即增加云服务器数量，但其不能解决资源利用率不均衡的问题，会造成有的节点资源利用达到饱和，有的节点资源利用率低，则单纯的加大云服务器会导致物理硬件资源的浪费。

发明内容

本发明实施例提供一种基于云集群的负载均衡方法，用于解决现有技术中云服务器资源利用率不均衡的问题。

本发明实施例提供一种基于云集群的负载均衡方法，包括：

构建哈希环，将多个云服务器节点进行哈希运算，根据所述云服务器的哈希值确定其在所述哈希环上的位置；

将多个数据对象分别存储至所述多个云服务器节点中，获取每一所述云服务器存储的数据对象集；

获取热点数据组R，所述热点数据组R为所述多个数据对象的部分或全部的组合；

将所述热点数据组R分别与每一所述云服务器存储的数据对象集相比，获取所述热点数据组R与每一所述云服务器存储的数据对象集的差异数据组，将所述差异数据组插入至所述对应的每一云服务器中；

多个访问终端根据一致性哈希算法及路由规则，在所述哈希环上路由定位到不同的所述云服务器节点中，以获取所述定位到的云服务节点中的热点数据组。

可选地，所述方法还包括：

在所述哈希环上均匀设置M个虚拟节点，所述M个虚拟节点分为N组，每一组虚拟节点与每一个云服务器节点对应，且所述每一组虚拟节点的数量与所述云服务器的资源负载量成反比，其中M和N为大于2的正整数且M大于N；

则所述多个访问终端根据一致性哈希算法及路由规则，在所述哈希环上路由定位到不同的所述云服务器节点中，包括：

将所述多个访问终端的IP进行哈希运算，获取所述多个访问终端的哈希值；

基于所述哈希值，确定所述多个访问终端在所述哈希环上的位置；

在所述哈希环上顺时针进行查找，并定位到与所述多个访问终端距离最近的第i个虚拟节点；

通过所述第i个虚拟节点与云服务器节点的映射关系，定位到所述与第i个虚拟节点对应的云服务器节点中，其中i为正整数。

可选地，所述方法还包括：

获取所述不同云服务器节点对应的资源饱和度，所述资源饱和度为单个云服务器的当前资源负载量与最大负载量的比值；

根据所述每一个云服务器节点资源饱和度的变化情况，动态调整所述与所述每一个云服务器节点对应的每一组虚拟节点的数量。

可选地，所述方法还包括：

获取所述不同云服务器节点对应的时间响应值，所述时间相应值为单个云服务器当前周期内接收到访问请求后进行响应的时间与前T个周期内接收到访问请求后进行响应的平均时间的比值；

根据所述每一个云服务器节点对应的时间响应值的变化情况，动态调整所述与所述每一个云服务器节点对应的每一组虚拟节点的数量。

可选地，所述方法还包括：

若所述多个云服务器的资源负载量均饱和，则新增云服务器节点，并将所述新增的云服务器节点IP地址进行哈希运算，基于运算后的结果将所述新增的云服务器节点定位到哈希环中；

以所述新增云服务器节点为基点，顺时针进行查找，定位到与所述新增云服务器节点最近的原云服务器节点，将所述原云服务器节点中的所述热点数据组R复制到所述新增云服务器节点中。

可选地，所述方法还包括：

在所述哈希环上均匀设置x个虚拟节点，所述x个虚拟节点与所述新增的云服务器节点对应，且x的大小与所述云服务器的资源负载量随着的变化而动调调整。

可选地，所述方法还包括：

若所述多个云服务器节点中有一个云服务器节点宕机，则将与宕机云服务器节点连接的访问终端迁移至新的云服务器节点中进行访问，所述新云服务器节点为顺时针方向与所述宕机云服务器节点最接近的云服务器节点。

可选地，哈希环的长度为2³²。

可选地，将多个云服务器节点进行哈希运算，包括：

自定义一个大质数P；

使用(hash^IP地址*P)的方式计算出每个云服务器节点的哈希值。。

本发明实施例还包括一种装置，其特征在于，包括存储器和处理器，所述存储器上存储有计算机可执行指令，所述处理器运行所述存储器上的计算机可执行指令时实现上述方法。

本发明实施例提供的方法及装置，通过构建哈希环，将不同的云服务器节点根据其计算的哈希值定位到该哈希环上，访问终端通过路由策略及一致性哈希算法均匀地将访问请求定位到哈希环上的不同节点中，以达到针对热点数据的访问实现负载均衡的目的，提升了云服务器的资源利用率。

附图说明

为了更清楚地说明本发明实施例技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍。

图1为一个实施例中基于云集群的负载均衡方法流程图；

图2为一个实施例中云服务器节点定位到哈希环的示意图；

图3为一个实施例中访问终端定位到云服务器节点的示意图；

图4为一个实施例中装置的硬件组成示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。

还应当理解，在此本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。

还应当进一步理解，在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。

如在本说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。

图1是本发明实施例的一种基于云集群的负载均衡方法流程图，本发明实施例提供的方法，具体为：

S101、构建哈希环，将多个云服务器节点进行哈希运算，根据所述云服务器的哈希值确定其在所述哈希环上的位置；

哈希环是基于一致性哈希算法的概念而提出的，一致性哈希将整个哈希值空间组织成一个虚拟的圆环，如假设某哈希函数H的值空间为0-2³²-1(即哈希值是一个32位无符号整形，整个哈希环长度为2³²)，整个哈希空间按顺时针方向组织，则0和2³²-1在零点中方向重合。

在本发明实施例中，可以选择云服务器节点的IP地址作为关键字进行哈希，这样每台云服务器节点就能确定其在哈希环上的位置，例如自定义一个大质数P(示例性地，P＝1325697)；使用(hash^IP地址*P)的方式计算出每个云服务器节点的哈希值。如图2所示，图2是四台云服务器节点进行哈希运算后，根据哈希值确定其在哈希环上的位置。

一致性哈希算法在服务节点太少时，容易因为节点分部不均匀而造成数据倾斜问题。此时必然造成大量数据集中到部分云服务器节点上，而只有少量会定位到其余的云服务器节点上，造成分布不均匀。为了解决这种数据倾斜问题，一致性哈希算法引入了虚拟节点机制，即对每一个服务节点计算多个哈希，每个计算结果位置都放置一个此服务节点，称为虚拟节点。例如，需要配置1000个虚拟节点分布在哈希环上，则四个云服务器节点A,B,C和D均配有250个虚拟节点，四个250个虚拟节点分别定义为nodeA、nodeB、nodeC、nodeD。这样访问终端访问到任一一个虚拟节点时，会从虚拟节点与云服务器节点的对应关系，从而访问到云服务器节点中。如，访问终端1访问到虚拟节点1，该虚拟节点属于NodeA，则访问终端实际访问的是云服务器A。

但是，传统的虚拟节点配置，会考虑虚拟节点均匀等分的原则，并没有考虑不同云服务器节点的资源饱和度(资源负载量)的问题，因此，本发明实施例引入了动态调节虚拟节点数量的逻辑，即：在哈希环上均匀设置M个虚拟节点，M个虚拟节点分为N组，每一组虚拟节点与每一个云服务器节点对应，且每一组虚拟节点的数量与云服务器的资源负载量成反比，其中M和N为大于2的正整数且M大于N。假设哈希环由1000个虚拟节点组成，对应的物理节点(即云服务器节点)为4个，分别为A,B,C和D。对于每个物理节点，可以根据实际的资源负载情况，并将虚拟节点按照各节点的资源负载情况动态分配到各个物理节点。例如A,B,C和D中，其资源负载量依次由小到大，则分配的虚拟节点数由大到小，依次为400，300，200，100个。

可选地，动态调节虚拟节点的数量，可以根据资源饱和度或时间响应速度两类不同的参数进行调节，具体地，根据资源饱和度调节的步骤包括：

获取不同云服务器节点对应的资源饱和度，资源饱和度为单个云服务器的当前资源负载量与最大负载量的比值；

根据每一个云服务器节点资源饱和度的变化情况，动态调整与每一个云服务器节点对应的每一组虚拟节点的数量。

根据时间响应值调节的步骤包括：

获取不同云服务器节点对应的时间响应值，时间相应值为单个云服务器当前周期内接收到访问请求后进行响应的时间与前T个周期内接收到访问请求后进行响应的平均时间的比值；

根据每一个云服务器节点对应的时间响应值的变化情况，动态调整与每一个云服务器节点对应的每一组虚拟节点的数量。

S102、将多个数据对象分别存储至所述多个云服务器节点中，获取每一所述云服务器存储的数据对象集；

在不同的云服务器节点中，事先存储了不同的数据对象，以图2的四台云服务器节点A,B,C,D为例，云服务器A存储了a,b两个数据对象，云服务器B存储了b,c两个数据对象，云服务器C存储了a,c,d两个数据对象，云服务器D没有存储数据对象。如表1所示：

表1

云服务器节点	存储的数据对象
		A	a,b
B	b,c
		C	a,c,d
D	none

S103、获取热点数据组R，所述热点数据组R为所述多个数据对象的部分或全部的组合；

热点数据组表示在一定时间周期内访问请求暴涨或激增的数据组，例如“热搜”，“热点排名”会将某一段时期内的新闻、话题等的热点信息进行统计，相比于非热点数据组，该数据组的访问请求会是非热点数据组的2-4倍。热点数据组R是热点数据的集合，以上述存储的数据对象为例，假设R＝{a,b,c,d}，即数据对象a,b,c,d均属于热点数据。

S104、将所述热点数据组R分别与每一所述云服务器存储的数据对象集相比，获取所述热点数据组R与每一所述云服务器存储的数据对象集的差异数据组，将所述差异数据组插入至所述对应的每一云服务器中；

在S102和S103中，由于云服务器节点存储的数据组与R相比均不全，因此，为了满足一个访问终端能在任意一个云服务器能获取到全部的热点信息，而不需要再从不同的云服务器获取的情况，需要将热点数据组的信息复制到每一个云服务器存储的数据对象集里面。

例如，R＝{a,b,c,d}，而云服务器A＝{a,b}，与R相比，云服务器A的差异数据组为{c,d}，则需要将该差异数据组存储至云服务器A中，存储后的云服务器A同时存储有a,b,c,d四个热点数据，满足访问终端的热点数据访问要求。

以此类推，可形成表2：

表2

云服务器节点	存储的数据对象	差异数据组
			A	a,b	c,d
B	b,c	a,d
			C	a,c,d	b
D	none	a,b,c,d

则云服务器B需要插入a,d数据组，云服务器C需要插入b数据，云服务器D由于本身没有存储任何一个热点数据，因此需要插入a,b,c,d四个热点数据。

S105、多个访问终端根据一致性哈希算法及路由规则，在所述哈希环上路由定位到不同的所述云服务器节点中，以获取所述定位到的云服务节点中的热点数据组。

其中，S105又包括如下步骤：

S1051、将多个访问终端的IP进行哈希运算，获取多个访问终端的哈希值；

例如，通过(hash^IP地址*P)的方式计算各个访问终端的哈希值。

S1052、基于哈希值，确定多个访问终端在哈希环上的位置；

S1053、在哈希环上顺时针进行查找，并定位到与多个访问终端距离最近的第i个虚拟节点；

S1054、通过第i个虚拟节点与云服务器节点的映射关系，定位到与第i个虚拟节点对应的云服务器节点中，其中i为正整数。

整个过程如图3所示，在图3中，哈希环均匀分布有四个云服务器节点A,B,C,D，同时根据虚拟节点动态调整原则，每一个物理节点分配有不同数量的数据节点，分组为nodeA、nodeB、nodeC、nodeD,而访问终端有4个，分别定义为访问终端1-4，那么顺时针方向上，访问终端1距离nodeA的其中一个虚拟节点最近，访问终端1通过访问该NodeA的虚拟节点，从而访问到云服务器节点A，获取云服务器节点A中的热点数据组，依次类推，访问终端2访问到NodeB的其中一个虚拟节点，从而定位到云服务器节点B，访问该节点B的热点数据组。

此外，若多个云服务器的资源负载量均饱和，则需要考虑新增云服务器节点，并将新增的云服务器节点IP地址进行哈希运算，基于运算后的结果将新增的云服务器节点定位到哈希环中；

以新增云服务器节点为基点，顺时针进行查找，定位到与新增云服务器节点最近的原云服务器节点，将原云服务器节点中的热点数据组R复制到新增云服务器节点中。

可选地，新增的云服务器节点也可以分配新的虚拟节点，具体地，在哈希环上均匀设置x个虚拟节点，x个虚拟节点与新增的云服务器节点对应，且x的大小与云服务器的资源负载量随着的变化而动调调整。

需要说明的是，若多个云服务器节点中有一个云服务器节点宕机，则将与宕机云服务器节点连接的访问终端迁移至新的云服务器节点中进行访问，新云服务器节点为顺时针方向与宕机云服务器节点最接近的云服务器节点。

本发明实施例提供的方法及装置，通过在开发环境中下载运行环境中的多个微服务镜像，并对该微服务镜像进行分离、调试、集合、整合和更新，既能提高微服务的调试效率，又能及时对功能异常的微服务进行更新，提升稳定性。

本发明实施例还提供一种计算机可读存储介质，其上存储有计算机可执行指令，该计算机可执行指令用于执行上述实施例中的方法。

本发明实施例还提供一种装置，包括存储器和处理器，所述存储器上存储有计算机可执行指令，所述处理器运行所述存储器上的计算机可执行指令时实现上述方法。

图4为一个实施例中装置的硬件组成示意图。可以理解的是，图4仅仅示出了装置的简化设计。在实际应用中，装置还可以分别包含必要的其他元件，包含但不限于任意数量的输入/输出系统、处理器、控制器、存储器等，而所有可以实现本申请实施例的大数据管理方法的装置都在本申请的保护范围之内。

存储器包括但不限于是随机存储记忆体(random access memory，RAM)、只读存储器(read至only memory，ROM)、可擦除可编程只读存储器(erasable programmable readonly memory，EPROM)、或便携式只读存储器(compact disc read至only memory，CD至ROM)，该存储器用于相关指令及数据。

输入系统用于输入数据和/或信号，以及输出系统用于输出数据和/或信号。输出系统和输入系统可以是独立的器件，也可以是一个整体的器件。

处理器可以包括是一个或多个处理器，例如包括一个或多个中央处理器(centralprocessing unit，CPU)，在处理器是一个CPU的情况下，该CPU可以是单核CPU，也可以是多核CPU。处理器还可以包括一个或多个专用处理器，专用处理器可以包括GPU、FPGA等，用于进行加速处理。

存储器用于存储网络设备的程序代码和数据。

处理器用于调用该存储器中的程序代码和数据，执行上述方法实施例中的步骤。具体可参见方法实施例中的描述，在此不再赘述。

在本申请所提供的几个实施例中，应该理解到，所揭露的系统和方法，可以通过其它的方式实现。例如，该单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。所显示或讨论的相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口，系统或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。该计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行该计算机程序指令时，全部或部分地产生按照本申请实施例的流程或功能。该计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程系统。该计算机指令可以存储在计算机可读存储介质中，或者通过该计算机可读存储介质进行传输。该计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(digital subscriber line，DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。该计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。该可用介质可以是只读存储器(read至onlymemory，ROM)，或随机存储存储器(random access memory，RAM)，或磁性介质，例如，软盘、硬盘、磁带、磁碟、或光介质，例如，数字通用光盘(digital versatile disc，DVD)、或者半导体介质，例如，固态硬盘(solid state disk，SSD)等。

以上仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应以权利要求的保护范围为准。

Claims

1.一种基于云集群的负载均衡方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

3.根据权利要求2所述的方法，其特征在于，所述方法还包括：

4.根据权利要求2所述的方法，其特征在于，所述方法还包括：

5.根据权利要求1所述的方法，其特征在于，所述方法还包括：

6.根据权利要求5所述的方法，其特征在于，所述方法还包括：

7.根据权利要求1所述的方法，其特征在于，所述方法还包括：

8.根据权利要求1所述的方法，其特征在于，哈希环的长度为2³²。

9.根据权利要求1所述的方法，其特征在于，将多个云服务器节点进行哈希运算，包括：

自定义一个大质数P；

使用(hash^IP地址*P)的方式计算出每个云服务器节点的哈希值。

10.一种装置，其特征在于，包括存储器和处理器，所述存储器上存储有计算机可执行指令，所述处理器运行所述存储器上的计算机可执行指令时实现权利要求1至9任一项所述的方法。