CN102622275A - 一种云计算环境下负载均衡实现方法 - Google Patents

Abstract

本发明公开了一种云计算环境下负载均衡实现方法。通过划分前端逻辑层、后端数据处理层和数据持久层三个层的层次，在各层面的处理中，均为大规模访问和海量数据做了相应的优化，具体方法为：根据资源和任务的效益值匹配程度，建立一种既在节点硬件性能上加权，又在任务上加权的任务-资源映射方案，即使在节点性能不同、每个任务量不同的情况下，也能使每个节点处理任务时间尽量接近，在满足效益需求的任务-资源对条件下选择最小负载的资源进行调度，不但满足了任务的信任效益值需求，还有效地降低了任务等待时间，提高了负载均衡度，减少了任务执行的总时间，提供了一种针对大量高并发，高吞吐量，频繁查询更新数据的处理的优化方案。

Description

一种云计算环境下负载均衡实现方法

技术领域

本发明涉及一种云计算环境下的负载均衡实现方法，属于信息技术领域。

背景技术

云计算（Cloud Computing）是将计算任务分布在大量计算机构成的云计算资源池上，使各种应用系统能够根据需要获取计算力、存储空间和信息服务。云计算将物理资源（例如处理器和存储）转换成Internet上可伸缩、可共享的计算资源。云计算其实就是以服务的形式提供计算资源（计算机和存储）。

云计算平台的众多节点控制器当中，总会有由于时间过长等造成的硬件故障或软件潜在的bug萌生、负载过重而导致资源匾乏等软件故障，于是系统的QoS就会下降，甚至其中的一台或几台服务器崩溃，导致部分服务中断。负载均衡策略的目的就是要保证系统服务器各节点的负载趋于平衡，充分利用现有的硬件资源，监测到故障节点后能够通过有效的途径选用其它正常节点继续为用户服务，保障及提高QoS。

在云计算平台下，运用合适的负载均衡方法，更好满足网络服务日益增长的关键业务的需求，消除服务器端的瓶颈，提高服务质量，目前，用在云计算平台的不同业务中，具体体现在如下方面：

1、动态、合理分担系统负载，可以对集群中服务器提供简单有效且科学合理的负载均衡算法以及基于实际响应时间的动态分配算法，在性能不同的服务器之间进行负载分配，充分利用服务器群中的每一台服务器，保护现有投资，既保证性能差的服务器不成为系统的瓶颈也保证性能高的服务器资源得到充分利用。

2、提高系统可靠性，可以定时监测服务器的可用性，包括物理连接、服务器本身的健康状况。当发现某台服务器不能提供内容访问服务时，自动把用户请求分配到健康的服务器上，从而保证了用户的访服务；同时，还可以通过设置每台服务器能承受最大的会话数、设置溢出服务器、备份服务器等手段来进一步保证整个集群系统的可靠性。

3、缩短用户等待时间。

参见附图1，它是云计算环境的负载状态示意图；在云计算环境中，负载均衡具有两种不同的意义，第一级负载体现在执行任务的虚拟机层，第二级负载体现在为虚拟机提供资源的实体机层，两级之间形成链式负载关系。

传统的调度算法中，都是以满足任务需求为目的，使任务的效益值最大，而没有考虑调度本身的资源负载均衡度和调度时间跨度。虽然在某种程度上满足了任务对效益值的需求，但是造成了任务对中、高效益值需求的浪费，使中、高效益值的资源处于空闲状态，从而增加了整个任务执行的时间跨度，增加了任务执行时间跨度值。在调度的同时只考虑效益值，即使某些资源的负载度已经很大了，可是效益值依然满足当前任务的需求，所以还是往此资源上调度，使某些资源负载过重而其它资源空闲度大，负载度极度不平衡。

发明内容

针对现有技术中任务-资源匹配问题存在的不足，本发明的目的是提供在一种云计算环境下，能有效降低任务等待时间，提高负载均衡度，减少任务执行的总时间的负载均衡实现方法。

实现本发明目的的技术方案是提供一种云计算环境下负载均衡实现方法，包括负载均衡调度，所述的负载均衡调度包括如下步骤：

1、依据n个任务和m个资源，建立任务集合T={t ₁, t ₂,…, t _n}和资源集合 M={m ₁,m ₂, …., m _m}；输入任务与资源的信任信息，所述的任务集合T按不同的可靠性信任关系，分为三个互不相交的子集                                               

；将任务t _i 和资源m _j 组成任务-资源对，建立任务-资源对集合表 T_R(i, j)； 

2、判断资源m _j 是否能满足任务t _i 的信任需求，若能满足，计算 t _i 在 m _j 上的信任效益值 TrustUtil (i, j)，执行步骤（3）；如果所有资源都无法满足任务t _i 的信任需求，则将 t _i 从任务-资源对集合表 T_R(i, j)中移出； 

3、依据步骤（2）得到的所有TrustUtil (i, j)，计算任务 t _i 在满足信任需求的资源m _j 上的平均信任效益值 EquTrustUtil(i, j)，统计信任效益值TrustUtil (i, j)大于平均效益值EquTrustUtil(i, j)的任务-资源对的个数a _i，按任务 t _i 的信任效益值TrustUtil (i, j)从大到小的顺序排列，将任务 t _i 对应的资源 m _j 组成的任务-资源对保存到任务-资源对集合表T_R(i,  j)中；

4、算出所有任务t _i 对应得到的个数a _i的平均数b ；若 a _i≥b，执行步骤（5），若 a _i <b，执行步骤（6）；

5、将任务t _i 预调度到任务-资源对集合表T_R(i, j)中的前b个资源 m _j 上，并计算预调度之后的任务执行时间跨度值，调度任务t _i 到最短任务执行时间跨度所对应的资源上；

6、将任务t _i 预调度到任务-资源对集合表T_R(i, j)中的前a _i个资源 m _j 上，并计算预调度之后的任务执行时间跨度值，调度任务t _i 到最短任务执行时间跨度所对应的资源上。

与现有技术相比，采用本发明技术方案的有益效果是：

1、本发明针对大量高并发，高吞吐量，频繁查询更新数据的特点，通过监视各个服务器的负载状态，采用一种既在节点硬件性能上加权，又在任务上加权的处理方法，使其即使在节点性能不同、每个任务量不同的基础上也能使每个节点处理任务时间尽量接近，达到真正意义上的负载均衡。

2、本发明依据资源和任务的效益值匹配程度，在调度的时候计算每个资源的实时负载度，再把任务调度到资源负载度最低的资源上。该技术方案不仅满足了任务的信任效益值需求，还有效地降低了时间跨度，提高了负载均衡能力。

3、本发明采用了维护在线用户列表，时刻接收前端Web服务器发来的用户上下线的通知来更新本列表；监视各个聊天服务器的生存状态，若某聊天服务器工作不正常，则不再将用户分派到该服务器上，具有完善的安全和容错机制。

附图说明

图1 是云计算环境负载状态示意图；

图2是本发明实施例提供的一种云计算环境下负载均衡实现方法的系统结构示意图；

图3是本发明实施例提供的一种云计算环境下负载均衡实现方法的流程示意图。

具体实施方式

下面结合附图和实施例对本发明技术方案作进一步的阐述。

实施例1

参见附图2，它是本实施例提供的一种云计算环境下负载均衡实现方法的系统结构示意图；本实施例依据该系统，针对大量高并发，高吞吐量，频繁查询更新数据的处理，提供一种处理方法，实现用户的按负载分配最优方案。

在本发明中，对以下几个基本概念做出定义：

1、相关元素一组负载特征集合T={t ₁ ,…,t _n }的可评价的状态值集合记为T _x=

，用来描述机器当前的负载状态：一组负载能力目标实体集合M={M ₁,…,M _n}的可评价状态值集合记为M _x (M ₁,…, M _n)，用来描述机器的负载能力。一个T _ix =(i=1,…,n)对应一个M _ix (i=1,…,n)，二者称为相关元素。

2、负载状态结构由T _x和其对应的M _x构成的结构，即机器当前负载状态和其负载能力状态，称为负载状态结构(Load Status structure，LSS)。

3、均衡(Balance, B)当且仅当负载状态结构中的两个相关元素具有一致的评价，称LSS中这两个相关元素是均衡的。

4、均衡负载状态结构(BLSS)当且仅当负载状态结构中的所有相关元素具有一致的评价，称负载状态结构是均衡的。

5、稳定性(stability)一个负载状态结构是稳定的，当且仅当它是均衡的。

6、紧度(Tension)定义为描述机器负载程度的指标，设定一个阈值，当超出阈值，机器处于不均衡状态，LSS中产生紧度信号和压力，压力会促使负载状态结构发生调整，使其趋向于稳定结构。

7、路径(Path)当LSS处于不均衡状态时，LSS中产生的压力，使其往均衡方向发展，发展的规则称为路径。

8、均衡的状态变迁

LSS中的负载状态是与当前负载和下一时刻的负载变化相关的，其变化过程其实就是一个Markov链。设LSS中的当前负载状态为T _cur ，记为：

T _cur =∑_i=1  ⁿ  T _ix(i =1,…,n)                                         （1）

　　其中，t _ix 为机器的每一种性能的负载状态，下一时刻负载量为：

T _next =T _cur + T _nextadd -T _nextfinished                                     （2）

　　系统综合负载能力记为：

L _w ==∑_i=1  ⁿ M _ix , (i=1,…,n)                                        （3）

　　其中，M _ix为机器的每一种性能的负载能力目标，根据定义3中均衡的定义，当对于所有的(i=1,…,n)，t _ix <M _ix 且系统当前负载能力T _cur 小于综合负载能力t _w ，LSS均衡。当对于任意的(i=1,…,n)，有t _ix≥M _ix，则LSS均衡失效，云环境下出现负载过重节点，若失效节点处于云的第一级负载中，会导致链式效应，致使第二级负载均衡失效，因此需进行均衡控制。

定义负载均衡度(Load Balance，简写LB)，记为: 

LB=t _ix/M _ix，(i= 1,…,n;0≤LB≤1)                                     （4）

在LB≥1情况下，对于任意的(i=1,…,n)，当t _ix≥M _ix时，LSS产生紧度信号，按照路径选择规则进行负载迁移，使LSS向着均衡方向发展。

本发明提供的负载均衡调度方法，就是根据用户提交的任务需求以及任务对资源的信任效益值需求，采用适当的策略将用户任务集合 T={t ₁, t ₂,…, t _n}中 n 个相互独立的任务分配到虚拟化的资源池M={m ₁,m ₂, …., m _m}中 m 个可用资源上；在云计算环境中，依据m个资源和 n个任务建立映射方案 map=(a,s)，其中 a：T→M 表示资源分配的映射，a(i)=j 表示将 t _i分配到 m _j 上；s:{(i, a(i))|i∈T}→N={1,2,...,n}表示在资源上的任务调度函数，其中，s(i, j)=k 为在计算资源m _j 上第k个执行的任务是t _i，在满足最大信任效益值Maximize TrustUtil(map) 的条件下，进行多资源选择，利用最短完成时间 MCT 调节资源负载，从而使得任务执行时间跨度最短，即 Minimize makespan(map)。

首先计算每个任务在各计算资源上的最大信任效益函数值，选择信任效益值最大的任务-资源进行配对。

算出每个任务 t _i 在资源池上的效益平均值，统计出大于效益平均值的任务-资源对个数 a _i，把大于效益平均值的过滤，按从大到小的顺序进行排列；同时，算出所有任务-资源对大于信任效益平均值的数目并取平均值 b；若 a _i>b，则取该任务的 b 个任务-资源对，求出最短任务执行时间跨度Minimize makespan(map)，调度此任务到该资源上执行；若 a _i <b，则取该任务的a _i个任务-资源对，求出 Minimize makespan(map)，调度此任务到该资源上执行。

参见附图3，它是本实施例提供的一种云计算环境下负载均衡实现方法的流程示意图；负载均衡调度的步骤如下：

第一步：输入任务与资源的信任信息，建立任务-资源映射方案 map输入矩阵；

第二步：初始化：令任务集合 T={t ₁, t ₂,…, t _n}，将T按可靠性信任关系{Strong , Weak , No} 分为三个互不相交的子集

，Strong为绝对信任，Weak为一般信任，No为不信任；资源集合 M={m ₁,m ₂, …., m _m }，任务-资源对集合 T_R(i,  j)=φ。

第三步：根据资源m _j 能满足任务t _i 的信任需求，计算 t _i 在 m _j 上的信任效益值 TrustUtil (i, j)，对结果按从大到小排列；若能满足，执行第四步；如果所有资源都无法满足任务t _i 的信任需求，则将 t _i 从任务集合中移出；

第四步：计算任务t _i 在满足信任需求的各资源上的平均效益值EquTrustUti l(i, j)，统计t _i 信任效益值大于平均效益值的个数 count(t _i )，按从大到小顺序排列，将对应资源m _j 保存到任务资源表T_R(i,  j)中；

第五步：算出所有任务在资源池 count(t _i )的平均值 count(T)；

第六步：将任务资源表T_R(i,  j)中的前 count(t _i )个资源 m _j 预调度t _i 到资源 m _j 上，并计算预调度之后的makespan 值，调度任务t _i 到 Minimize makespan(map)所对应的资源map(i, j)上。

负载均衡调度算法的伪代码如下：

输入：任务与资源的信任信息，ETC 矩阵

输出：任务-资源映射方案 map

初始化：令任务集合 T={t ₁ , t ₂ ,…, t _n }，并将 T 按可靠性信任关系{Strong , Weak, No} 分为三个互不相交的子集

，资源集合 M={m ₁,m ₂, …., m _m}，任务-资源对集合 T_R(i, j)=φ

令 k=1；

Repeat

If(T*k!= null)

For((ti∈T*k) != null)

For (M != null)

T_R(i,j)=φ；

If 资源m _j能满足任务 t _i 的信任需求计算t _i 在m _j 上的信任效益值 TrustUtil (i, j)，从大到小排列；

Endif

Endfor

If 所有资源都无法满足任务t _i 的信任需求

将t _i 从 T*k中移出

Endif

计算任务 t _i 在满足信任需求的各资源上的平均效益值 EquTrustUti l(i, j)，并统计t _i 信任效益值大于平均效益值的个数 count(t _i )，并将对应资源 m _j 保存到任务资源表T_R(i,  j)中，排列顺序依然是从大到小;

Endfor

If(T*k= null)

k=k+1;

Endif

Endif

Until k=3;

算出所有任务在资源池 count(t _i )的平均值 count(T);

While ((ti∈T) != null)

If (count(ti) > 0 && count(ti) < count(T))

For T_R((i,  j)中的前 count(t _i)个资源 m _j 预调度 t _i 到资源 m _j 上，并计算预调度之后的 makespan 值，调度任务 t _i 到 Minimize makespan(map)所对应的资源上；

Endfor

Endif

If (count(ti) > 0 && count(ti) > count(T))

For T_R(i,j)中的前 count(T)个资源 m _j

预调度 t _i到资源 m _j上，并计算预调度之后的 makespan 值，调度任务 t _i到 Minimize makespan(map)所对应的资源上 map(i,  j)；

Endfor

Endif

Endwhile

Return map

本实施例技术方案是通过监视各个服务器的负载状态，采用一种既在节点硬件性能上加权，又在任务上加权的算法，使其即使在节点性能不同、每个任务量不同的基础上也能使每个节点处理任务时间尽量接近，即达到真正意义上的负载均衡。维护在线用户列表，时刻接收前端web服务器发来的用户上下线的通知来更新本列表；监视各个聊天服务器的生存状态，若某聊天服务器工作不正常，则不再将用户分派到该服务器上，提供了一种针对大量高并发，高吞吐量，频繁查询更新数据的处理的优化方案。

Claims (1)

1. 一种云计算环境下负载均衡实现方法，包括负载均衡调度，其特征在于所述的负载均衡调度包括如下步骤：

（1）依据n个任务和m个资源，建立任务集合T={t ₁, t ₂,…, t _n}和资源集合 M={m ₁,m ₂, …., m _m}；输入任务与资源的信任信息，所述的任务集合T按不同的可靠性信任关系，分为三个互不相交的子集                                               

；将任务t _i 和资源m _j 组成任务-资源对，建立任务-资源对集合表 T_R(i, j)； 

（2）判断资源m _j 是否能满足任务t _i 的信任需求，若能满足，计算 t _i 在 m _j 上的信任效益值 TrustUtil (i, j)，执行步骤（3）；如果所有资源都无法满足任务t _i 的信任需求，则将 t _i 从任务-资源对集合表 T_R(i, j)中移出； 

（3）依据步骤（2）得到的所有TrustUtil (i, j)，计算任务 t _i 在满足信任需求的资源m _j 上的平均信任效益值 EquTrustUtil(i, j)，统计信任效益值TrustUtil (i, j)大于平均效益值EquTrustUtil(i, j)的任务-资源对的个数a _i，按任务 t _i 的信任效益值TrustUtil (i, j)从大到小的顺序排列，将任务 t _i 对应的资源 m _j 组成的任务-资源对保存到任务-资源对集合表T_R(i,  j)中；

（4）算出所有任务t _i 对应得到的个数a _i的平均数b ；若 a _i≥b，执行步骤（5），若 a _i <b，执行步骤（6）；

（5）将任务t _i 预调度到任务-资源对集合表T_R(i, j)中的前b个资源 m _j 上，并计算预调度之后的任务执行时间跨度值，调度任务t _i 到最短任务执行时间跨度所对应的资源上；

（6）将任务t _i 预调度到任务-资源对集合表T_R(i, j)中的前a _i个资源 m _j 上，并计算预调度之后的任务执行时间跨度值，调度任务t _i 到最短任务执行时间跨度所对应的资源上。

Images