CN110830562A - 一种基于虚拟节点的有限负载一致性哈希负载均衡策略 - Google Patents

Abstract

本发明属于网络集群与网络化控制技术领域，涉及一种基于虚拟节点的有限负载一致性哈希负载均衡策略，将缓存节点内存大小、CPU内核总数及磁盘大小作为独立信息数据波动赋权法的输入指标，计算各缓存节点性能量化值及性能量化值占比，根据设定的虚拟节点总数得到各缓存节点的虚拟节点数，将一致性哈希环均分为m段弧，利用Random函数为每个缓存节点生成对应数目的虚拟节点，按比例映射到每段弧上，负载均衡器更新集群缓存代理的负载量及各缓存节点的负载上限，在一致性哈希环上选择虚拟节点，利用拥有该虚拟节点的缓存节点进行服务。本发明解决了原策略负载分配不均和不支持异构集群缓存代理的问题，有效减少骨干网带宽占用率和集群缓存代理响应时间。

Description

一种基于虚拟节点的有限负载一致性哈希负载均衡策略

技术领域

本发明涉及网络集群与网络化控制技术领域，尤其涉及一种基于虚拟节点的有限负载一致性哈希负载均衡策略。

背景技术

伴随着互联网飞速发展的势头，网络应用已涉及人们日常生活的方方面面，网络流量呈指数级增长，传统的单体Web服务器架构难以应付当前多网络环境下的高并发请求，服务器负载压力持续增加。与此同时，随着JavaScript、CSS、JSON以及其他多媒体技术的发展，如今的互联网数据传输类型已不再是简单的文本数据，图片和视频数据正处于快速增长阶段，其所占网络总流量百分比逐年快速上升，导致了骨干网带宽紧张和用户访问时延增加。

集群缓存代理是指实现缓存机制的一组代理服务器，通过在骨干网边缘部署缓存节点，为用户提供服务，其目的是节约骨干网带宽资源并降低用户访问时延。目前，针对于集群缓存代理的研究主要停留在缓存预取策略和缓存替换策略上，其目的以节约内存空间、提高缓存命中率为主，而关于集群缓存代理负载均衡相关的研究较少。负载均衡就是指将负载(工作任务)进行平衡、分摊到多个操作单元上进行运行，面对日益膨胀的网络工作，负载均衡性决定了集群缓存代理性能的优劣。如果负载均衡性较差，可能导致缓存节点利用率低，影响用户体验。因此，目前亟需一种有状态性负载均衡策略，在保证集群缓存代理负载均衡性的同时，维持其较高的缓存命中率，以节约骨干网带宽并加快集群缓存代理响应速度。

发明内容

有鉴于此，本发明的目的是提供一种基于虚拟节点的有限负载一致性哈希负载均衡策略，其通过在有限负载一致性哈希策略中引入虚拟节点，解决其负载均衡性受节点映射分散性影响的不足，并使其同时支持同构和异构集群缓存代理。

本发明通过以下技术手段解决上述技术问题：

一种基于虚拟节点的有限负载一致性哈希负载均衡策略，所述策略包括如下步骤：

S1.将缓存节点内存大小、处理器内核总数及磁盘大小作为独立信息数据波动赋权法的输入指标，计算各缓存节点性能量化值及性能量化值占比；

S2.设置虚拟节点总数为缓存节点个数的200-300倍，根据虚拟节点总数和步骤S1中缓存节点性能量化值占比，计算各缓存节点应分得的虚拟节点数；

S3.利用Random函数为每个缓存节点生成对应数目的虚拟节点；

S4.计算各缓存节点拥有虚拟节点数的最大公约数m，将一致性哈希环均分为m段弧。通过MD5函数，将各缓存节点拥有的虚拟节点均匀映射到一致性哈希环的各段弧上；

S5.请求到达负载均衡器时，负载均衡器更新集群缓存代理负载量和各缓存节点负载上限值；

S6.将请求的URL作为S4中MD5函数的输入，利用有限负载一致性哈希的请求分配策略在一致性哈希环上选择虚拟节点，并利用拥有该虚拟节点的缓存节点进行服务。

进一步，步骤S1中，利用独立信息数据波动赋权法计算各缓存节点性能量化值及性能量化值占比的具体过程为：

S11.计算指标j的离差系数V_j，计算公式如下：

其中，δ_j表示指标j的标准差，

表示指标j的均值，j∈[1,3]；

S12.遍历所有指标，依次将指标j作为函数输出，其他指标作为输入进行回归运算，得到指标j的决定系数

和独立信息程度D_j；

S13.归一化V_j得到V_j′，归一化D_j得到D_j′，计算公式如下：

其中，max(V_j)表示各缓存节点指标j的最大离差系数，max(D_j)表示各缓存节点指标j的最大独立信息程度；

S14：计算指标j的纯量信息I_j，计算公式如下：

I_j＝V_j′×D_j′

S15：计算指标j的权重值W_j，计算公式如下：

其中，i表示指标个数。

S16.计算指标j的归一化值Q_j，计算公式如下：

其中，T_j表示指标j包含的样本集，Max(T_j)表示指标j的最大值。

S17：将Q_j与该指标权重值W_j线性加权，得到缓存节点n的性能量化值F_n，计算公式如下：

其中，n∈[1,s]，s表示缓存节点数目。

S18：计算缓存节点n的性能量化值占比θ_n，计算公式如下：

进一步，所述指标j的决定系数

和独立信息程度D_j获取过程如下：设置s组观察值，每组观察值包含内存大小、处理器内核总数及硬盘大小三个指标，它们之间相互影响，构建评价矩阵A_s×3，计算公式如下：

求得指标j的平均值计算公式如下：

其中，j∈[1,3]。

将指标j作为因变量，其余指标作为自变量，可以得到多元线性回归模型如下所示：

其中，β_0～3表示回归系数，ε是均值为0、方差为σ²(σ>0)的随机变量。

求得回归系数后，带入自变量可以得到自变量与因变量的线性关系如下式所示：

其中，为因变量线性回归后的结果。

可得指标j的复相关系数R_j和独立信息程度D_j如下所示：

进一步，步骤S2中各个缓存节点分得的虚拟节点数目计算如下式所示：

N_n＝N_t×θ_n

其中，N_t表示虚拟节点总数，设置为缓存节点个数s的200-300倍，N_n表示缓存节点n拥有的虚拟节点数。

进一步，所述S3步骤具体如下：

利用各缓存节点拥有的虚拟节点数构建矩阵N，如下式所示：

N＝(N₁ N₂ … N_n … N_s-1 N_s)

利用Random函数并参照矩阵N中各元素值，为每个缓存节点随机生成对应数目的唯一虚拟节点主机号(IP:Port)，如缓存节点1则需生成N₁个主机号各不相同的虚拟节点，以此类推。

进一步，步骤S4中利用MD5函数将各缓存节点拥有的虚拟节点均匀映射到一致性哈希环各段弧上的过程具体为：

S41.计算矩阵N各元素的最大公约数m，将一致性哈希环均分为m段弧；

S42.计算每个缓存节点在每段弧上需要分配的虚拟节点数量，构成集合C，如下所示：

S43.计算一致性哈希环上每段弧的长度d_avg，计算公式如下：

其中，H_max表示哈希环的最大值。

S44.定位当前弧区间编号k，初始值k＝1；

S45.当前弧区间编号k是否大于m，如果大于m，则结束执行，虚拟节点映射完成；否则执行S46。

S46.计算当前弧区间起始坐标B_s，计算公式如下：

S47.循环各缓存节点，参照C中各元素值，为每个缓存节点随机取出对应数量的虚拟节点。将各虚拟节点主机号作为MD5函数输入，得到各虚拟节点哈希值，计算公式如下：

H_v＝MD5(S_v)

其中，S_v表示第v个虚拟节点的主机号，H_v表示第v个虚拟节点的哈希值，v∈[1,N_t]；

S48.将各虚拟节点映射到当前弧区间内，计算公式如下：

其中，B_c(v)表示第v个虚拟节点在当前弧上的位置。如果B_c(v)在当前弧上已被其他虚拟节点占用，则重新生成S_v后，执行S47；

S49.递增当前弧区间编号k，跳转至步骤S44。

进一步，步骤S5中各缓存节点负载上限计算过程具体为：

S51.新的请求到达负载均衡器后，首先计算集群缓存代理的总负载量L_t，计算公式如下：

其中，L_n表示当前时刻缓存节点n的负载量，L_new表示当前时刻的新增负载量。

S52.计算集群缓存代理的平均负载L_avg，计算公式如下：

S53.计算集群缓存代理中各缓存节点的平均性能量化值F_avg，计算公式如下：

S54.为每个缓存节点保留1.2倍的负载裕量，更新各缓存节点负载上限如下式所示：

其中，L_c(n)表示当前时刻缓存节点n的负载上限。

进一步，步骤S6中在一致性哈希环上选择虚拟节点过程具体为：

S61.将请求的URL作为S47中MD5函数的输入，得到请求的哈希值，计算公式如下：

H_r＝MD5(S_r)

其中，S_r表示请求r的URL，H_r表示请求r的哈希值；

S62.将H_r映射到一致性哈希环上，以H_r的位置为起点，找出顺时针方向的首个虚拟节点V_f；

S63.搜索拥有虚拟节点V_f的缓存节点，如果该缓存节点当前负载已达到其负载上限，则用该虚拟节点V_f的值更新H_r的值，并跳转至S62；否则，选择该缓存节点提供服务，计算公式如下：

H_r＝Val(V_f)

其中，Val(V_f)表示虚拟节点V_f的哈希值。

S64.如果遍历相邻两段弧上所有虚拟节点均未找到能够提供服务的缓存节点，则结束搜索，直接返回。

本发明提出的策略在有限负载一致性哈希策略基础上进行改进，引入虚拟节点，解决了原策略负载均衡性受节点映射分散性影响较大的不足，同时支持同构和异构集群缓存代理，为集群缓存代理负载均衡提供了新的思路和解决方案。该方法具有很强的通用性和适用性，能够显著提高集群缓存代理的负载均衡性，降低骨干网带宽和集群缓存代理响应时间，为用户提供更稳定的服务和更快速的响应。

附图说明

为了使本发明的目的、技术方案和有益效果更加清楚，本发明提供如下附图进行说明：

图1为本发明的一种基于虚拟节点的有限负载一致性哈希负载均衡策略的算法工作流程图；

图2为本发明中缓存节点性能量化阶段流程示意图；

图3为本发明中虚拟节点映射流程阶段示意图；

图4为本发明中虚拟节点在一致性哈希环上分布示意图；

图5为本发明请求分配阶段流程示意图。

具体实施方式

以下通过特定的具体实施例说明本发明的实施方式，本领域技术人员可由本说明书所揭露的内容了解本发明的优点和功效。本发明还可以通过另外不同的具体实施方式加以实施或应用，本说明书中的各项细节也可以基于不同观点与应用，在没有背离本发明的精神下进行各种修饰或改变。需要说明的是，以下实施例中所提供的图示仅以示意方式说明本发明的基本构想，在不冲突的情况下，以下实施例及实施例中的特征可以相互组合。

如图1所示，本发明的基于虚拟节点的有限负载一致性哈希负载均衡策略包括缓存节点性能量化阶段、虚拟节点映射阶段、请求分配阶段三个阶段，各阶段具体如下：

一、缓存节点性能量化阶段

考虑到各缓存节点间存在性能差异，本发明计算了各缓存节点的性能量化值及性能量化值占比，以同时支持同构和异构集群缓存代理。为了避免熵权法难以解耦指标间相关性问题，本发明首先综合考虑数据信息和数据信息独立程度，采用独立信息数据波动赋权法，将各缓存节点内存大小、处理器内核总数及硬盘大小作为评价指标，得到各节点性能量化值及性能量化值占比。

如图2所示，本发明中缓存节点性能量化流程具体如下：

S1.将各缓存节点内存大小、处理器内核总数及硬盘大小作为独立信息数据波动赋权法的三个指标，并计算各缓存节点性能量化值及性能量化值占比，如下：

设置s组观察值，每组观察值包含内存大小、处理器内核总数及硬盘大小3个指标，构造评价矩阵A_s×3如式(1)所示：

式(1)中，s表示缓存节点数量，χ_1,1表示第一组的内存大小，χ_1,2表示第一组的处理器内核总数，χ_1,3表示第一组的硬盘大小；χ_2,1表示第二组的内存大小，χ_2,2表示第二组的处理器内核总数，χ_2,3表示第二组的硬盘大小；以此类推，χ_s,1表示第s组的内存大小，χ_s,2表示第s组的处理器内核总数，χ_s,3表示第s组的硬盘大小。

可以求得指标j的平均值

如式(2)所示：

式(2)中，j∈[1,3]。

将指标j作为因变量，其余指标作为自变量，可以得到多元线性回归模型如式(3)所示：

式(3)中，β_0～3表示回归系数，ε是均值为0、方差为σ²(σ>0)的随机变量。

求得回归系数后，带入自变量可以得到自变量与因变量的线性关系如式(4)所示：

式(4)中，

为因变量线性回归后的结果。

复相关系数R反应了一个变量与其他多个变量之间线性相关程度，定义指标j的复相关系数R_j如式(5)所示：

将复相关系数R_j执行平方操作，即可求得指标j的决定系数进而求得指标j的独立信息程度D_j如式(6)所示：

独立信息数据波动赋权法计算缓存节点性能量化值，以及性能量化值占比的具体步骤如下：

a.计算指标j的离差系数V_j，如式(7)所示：

式(7)中，δ_j表示指标j的标准差，

表示指标j的均值。

b.遍历所有指标，依次将指标j作为函数输出，其他指标作为输入进行回归运算，通过式(5)求得指标j的决定系数

进而通过式(6)求得指标j的独立信息程度D_j。

c.归一化V_j得到V_j′，归一化D_j得到D_j′，如式(8)、式(9)所示：

式(8)、式(9)中，max(V_j)表示各缓存节点指标j的最大离差系数，max(D_j)表示各缓存节点指标j的最大独立信息程度。

d.计算指标j的纯量信息I_j，如式(10)所示：

I_j＝V_j′×D_j′ (10)

e.计算指标j的权重值W_j，如式(11)所示：

式(11)中，i表示指标个数。

f.计算指标j的归一化值Q_j，如式(12)所示：

式(12)中，T_j表示指标j包含的样本集，Max(T_j)表示指标j的最大值。

g.将Q_j与该指标的权重值W_j线性加权，得到缓存节点n的性能量化值F_n如式(13)所示：

式(13)中，n∈[1,s]，s表示缓存节点数目。

h.计算缓存节点n的性能量化值占比θ_n，如式(14)所示：

二、虚拟节点映射阶段

得到各缓存节点性能量化值F_n及性能量化值占比θ_n后，需要按比例为各缓存节点生成一定数量的虚拟节点。如图3所示，为了保证虚拟节点分布的随机性、缓存节点增加或删除后负载均衡的自恢复性、高缓存命中率以及缓存节点快速定位性，本发明虚拟节点映射过程分为如下步骤：

S2.设置虚拟节点总数N_t为缓存节点数的200-300倍，例如虚拟节点总数可以是缓存节点数的200倍，或者210倍，或者230倍，或者260倍、或者280倍，或者300倍。根据各缓存节点性能量化值占比，各缓存节点应分配的虚拟节点数如式(15)所示：

N_n＝N_t×θ_n (15)

式(15)中，N_n表示缓存节点n拥有的虚拟节点数，n∈[1,s]。

矩阵N包含了各缓存节点拥有的虚拟节点数，如式(16)所示：

N＝(N₁ N₂ … N_n … N_s-1 N_s) (16)

S3.利用Random函数并参照N中各元素值，为每个缓存节点随机生成对应数量的唯一虚拟节点主机号(IP:Port)，如缓存节点1则需生成N₁个主机号互不相同的虚拟节点，以此类推。

S4.利用MD5函数将各缓存节点拥有的虚拟节点均匀映射到一致性哈希环的各段弧上，其映射流程如下：

(a)计算矩阵N中各元素的最大公约数m，并将一致性哈希环均分为m段弧。

(b)计算每个缓存节点在每段弧上需要分配的虚拟节点数量并构成集合C，如式(17)所示：

(c)计算一致性哈希环上每段弧的长度d_avg，如式(18)所示：

式(18)中，H_max表示哈希环的最大值。

(d)定位当前弧区间编号k，初始值k＝1。

(e)比较当前弧区间编号k是否大于m，如果大于m，则结束执行，虚拟节点映射完成；否则，执行f。

(f)计算当前弧区间起始坐标B_s，如式(19)所示：

(g)循环各缓存节点，参照C中各元素值，为每个缓存节点随机取出对应数量的虚拟节点。将各虚拟节点主机号作为MD5函数输入，得到各虚拟节点哈希值，如式(20)所示：

H_v＝MD5(S_v) (20)

式(20)中，S_v表示第v个虚拟节点的主机号，H_v表示第v个虚拟节点的哈希值，v∈[1,N_t]；

(h)将各虚拟节点映射到当前弧区间内，如式(21)所示：

式(21)中，B_c(v)表示第v个虚拟节点在当前弧上的位置。如果B_c(v)在当前弧上已被其他虚拟节点占用，则重新生成S_v后，执行步骤(g)。

(i)递增当前弧区间编号k，跳转至步骤(d)。

虚拟节点在一致性哈希环上分布示意图如图4所示。图4中，Cache1、Cache2及Cache3分别拥有8个虚拟节点，一致性哈希环的各段弧上均匀映射了各缓存节点对应的虚拟节点，实现了一致性哈希环的细分。

三、请求分配阶段

当请求到达负载均衡器时，负载均衡器首先计算出各缓存节点的当前连接数，并将其作为该缓存节点的当前负载。然后，负载均衡器会计算当前时刻集群缓存代理的总负载和平均负载，以更新各缓存节点负载上限。最后，请求将按照有限负载一致性哈希策略的请求转发规则选择虚拟节点以及拥有该虚拟节点的缓存节点，请求分配流程示意图如图5所示。

本发明请求分配分为如下步骤：

S5.当请求到达负载均衡器时，首先更新集群缓存代理中各缓存节点的负载上限，各缓存节点负载上限更新步骤如下所示：

(1)新的请求到达负载均衡器后，计算集群缓存代理的当前总负载量L_t，如式(22)所示：

式(22)中，L_n表示当前时刻缓存节点n的负载量，L_new表示当前时刻的新增负载量。

(2)计算集群缓存代理的平均负载L_avg，如式(23)所示：

(3)计算集群缓存代理中各缓存节点的平均性能量化值F_avg，如式(24)所示：

(4)为每个缓存节点保留1.2倍的负载裕量，更新各缓存节点负载上限，如式(25)所示：

式(25)中，L_c(n)表示当前时刻缓存节点n的负载上限。

S6.在一致性哈希环上为请求选择虚拟节点分为如下步骤：

①将请求的URL作为式(20)中MD5函数的输入，得到请求的哈希值，如式(26)所示：

H_r＝MD5(S_r) (26)

式(26)中，S_r表示请求r的URL，H_r表示请求r的哈希值；

②将H_r映射到一致性哈希环上，以H_r的位置为起点，找出顺时针方向的首个虚拟节点V_f。

③搜索拥有虚拟节点V_f的缓存节点，如果该缓存节点当前负载已达到其负载上限，则用该虚拟节点V_f的值更新H_r的值，并跳转至步骤②；否则，选择该缓存节点提供服务，如式(27)所示：

H_r＝Val(V_f) (27)

式(27)中，Val(V_f)表示虚拟节点V_f的哈希值。

④如果遍历相邻两段弧上所有虚拟节点均未找到能够提供服务的缓存节点，则结束搜索，直接返回。

上述基于虚拟节点的有限负载一致性哈希负载均衡策略，在有限负载一致性哈希策略基础上进行改进，引入虚拟节点，解决了原策略负载均衡性受节点映射分散性影响较大的不足，同时能够支持同构和异构集群缓存代理，为集群缓存代理负载均衡提供了新的思路和解决方案。上述的基于虚拟节点的有限负载一致性哈希负载均衡策略具有很强的通用性和适用性，能够显著提高集群缓存代理的负载均衡性，降低骨干网带宽和集群缓存代理响应时间，为用户提供更稳定的服务和更快速的响应。

以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或者等同替换，而不脱离本发明技术方案的宗旨和范围，其均应涵盖在本发明的权利要求范围当中。本发明未详细描述的技术、形状、构造部分均为公知技术。

Claims (9)

1.一种基于虚拟节点的有限负载一致性哈希负载均衡策略，其特征在于，所述策略包括如下步骤：

S1.将缓存节点内存大小、处理器内核总数及磁盘大小作为独立信息数据波动赋权法的输入指标，计算各缓存节点性能量化值及性能量化值占比；

S2.设置虚拟节点总数为缓存节点个数的200-300倍，根据虚拟节点总数和步骤S1中各缓存节点性能量化值占比，计算各缓存节点应分得的虚拟节点数目；

S3.利用Random函数为每个缓存节点生成对应数目的虚拟节点；

S4.计算各缓存节点拥有虚拟节点数的最大公约数m，将一致性哈希环均分为m段弧，通过MD5函数将各缓存节点拥有的虚拟节点均匀映射到一致性哈希环的各段弧上；

S5.请求到达负载均衡器时，负载均衡器更新集群缓存代理负载量和各缓存节点负载上限值；

S6.将请求的URL作为步骤S4中MD5函数的输入，利用有限负载一致性哈希的请求分配策略在一致性哈希环上选择虚拟节点，并利用拥有该虚拟节点的缓存节点进行服务。

2.根据权利要求1所述的一种基于虚拟节点的有限负载一致性哈希负载均衡策略，其特征在于，步骤S1中，独立信息数据波动赋权法计算各缓存节点性能量化值及性能量化值占比的具体过程如下：

S11.计算指标j的离差系数V_j，计算公式如下：

其中，δ_j表示指标j的标准差，

表示指标j的均值，j∈[1,3]；

S12.遍历所有指标，依次将指标j作为函数输出，其他指标作为输入进行回归运算，得到指标j的决定系数和独立信息程度D_j；

S13.归一化V_j得到V_j′，归一化D_j得到D_j′；

S14.计算指标j的纯量信息I_j，计算公式如下：

I_j＝V_j′×D_j′

S15.计算指标j的权重值W_j，计算公式如下：

其中，i表示指标个数；

S16.计算指标j的归一化值Q_j，计算公式如下：

其中，T_j表示指标j包含的样本集，Max(T_j)表示指标j的最大值；

S17.将Q_j与该指标权重值W_j线性加权，得到缓存节点n的性能量化值F_n，计算公式如下：

其中，n∈[1,s]，s表示缓存节点数目；

S18.计算缓存节点n的性能量化值占比θ_n，计算公式如下：

3.根据权利要求2所述的一种基于虚拟节点的有限负载一致性哈希负载均衡策略，其特征在于，步骤S12中所述指标j的决定系数

和独立信息程度D_j获取过程如下：

设置s组观察值，每组观察值包含内存大小、处理器内核总数及硬盘大小三个指标，构建评价矩阵A_s×3，求得指标j的平均值

将指标j作为因变量，其余指标作为自变量，构建多元线性回归模型如下式所示：

其中，β_0～3表示回归系数，ε是均值为0、方差为σ²(σ>0)的随机变量，

求得回归系数后，带入自变量可以得到自变量与因变量的线性关系如下所示：

其中，

为因变量线性回归后的结果；

可得指标j的复相关系数R_j和独立信息程度D_j如下所示：

4.根据权利要求2或3所述的一种基于虚拟节点的有限负载一致性哈希负载均衡策略，其特征在于，步骤S2中各缓存节点应分得的虚拟节点数目计算如下：

N_n＝N_t×θ_n

其中，N_t表示虚拟节点总数，N_n表示缓存节点n拥有的虚拟节点数。

5.根据权利要求4所述的一种基于虚拟节点的有限负载一致性哈希负载均衡策略，其特征在于，所述S3步骤具体如下：

利用各缓存节点拥有的虚拟节点数构建矩阵N，如下所示：

N＝(N₁ N₂ … N_n … N_s-1 N_s)

利用Random函数并参照矩阵N中各元素值，为每个缓存节点随机生成对应数目的唯一虚拟节点主机号(IP:Port)。

6.根据权利要求5所述的一种基于虚拟节点的有限负载一致性哈希负载均衡策略，其特征在于，步骤S4中利用MD5函数将各缓存节点拥有的虚拟节点均匀映射到一致性哈希环各段弧上的过程具体如下：

S41.计算矩阵N中各元素的最大公约数m，将一致性哈希环均分为m段弧；

S42.计算每个缓存节点在每段弧上需要分配的虚拟节点数量，构成集合C，如下所示：

S43.计算一致性哈希环上每段弧的长度d_avg，如下所示：

其中，H_max表示哈希环的最大值；

S44.定位当前弧区间编号k，初始值k＝1；

S45.比较当前弧区间编号k是否大于m，如果大于m，则结束执行，虚拟节点映射完成；否则执行步骤S46；

S46.计算当前弧区间起始坐标B_s，如下式所示：

S47.循环各缓存节点，参照集合C中各元素值，为每个缓存节点随机取出对应数量的虚拟节点，将各虚拟节点主机号作为MD5函数输入，得到各虚拟节点哈希值，如下所示：

H_v＝MD5(S_v)

其中，S_v表示第v个虚拟节点的主机号，H_v表示第v个虚拟节点的哈希值，v∈[1,N_t]；

S48.将各虚拟节点映射到当前弧区间内；

S49.递增当前弧区间编号k，跳转至步骤S44。

7.根据权利要求6所述的一种基于虚拟节点的有限负载一致性哈希负载均衡策略，其特征在于，步骤S48中将各虚拟节点映射到当前弧区间内，如下所示：

其中，B_c(v)表示第v个虚拟节点在当前弧上的位置，如果B_c(v)在当前弧上已被其他虚拟节点占用，则重新生成S_v后，执行步骤S47。

8.根据权利要求7所述的一种基于虚拟节点的有限负载一致性哈希负载均衡策略，其特征在于，步骤S5中，各缓存节点负载上限计算过程如下：

S51.新的请求到达负载均衡器后，计算集群缓存代理的总负载量L_t，如下所示：

其中，L_n表示当前时刻缓存节点n的负载量，L_new表示当前时刻的新增负载量；

S52.计算集群缓存代理的平均负载L_avg，如下所示：

S53.计算集群缓存代理中各缓存节点的平均性能量化值F_avg，如下所示：

S54.为每个缓存节点保留1.2倍的负载裕量，更新各缓存节点负载上限，如下所示：

其中，L_c(n)表示当前时刻缓存节点n的负载上限。

9.根据权利要求8所述的一种基于虚拟节点的有限负载一致性哈希负载均衡策略，其特征在于，步骤S6中，在一致性哈希环上选择虚拟节点的过程如下：

S61.将请求的URL作为步骤S47中MD5函数的输入，得到请求的哈希值，如下所示：

H_r＝MD5(S_r)

其中，S_r表示请求r的URL，H_r表示请求r的哈希值；

S62.将H_r映射到一致性哈希环上，以H_r的位置为起点，找出顺时针方向的首个虚拟节点V_f；

S63.搜索拥有虚拟节点V_f的缓存节点，如果该缓存节点当前负载已达到其负载上限，则用该虚拟节点V_f的值更新H_r的值，并跳转至步骤S62；否则，选择该缓存节点提供服务，如下所示：

H_r＝Val(V_f)

其中，Val(V_f)表示虚拟节点V_f的哈希值。

S64.如果遍历相邻两段弧上所有虚拟节点均未找到能够提供服务的缓存节点，则结束搜索，直接返回。

Images