CN102195886B - 一种云平台上的服务调度方法 - Google Patents

Abstract

一种云平台上的服务调度方法，调度是指将用户的服务请求通过一定的方法分配到云平台各结点中去，以使负载均衡从而提高云平台响应服务的速度。本发明介绍的方法主要包括：云平台结点定期将本机cpu利用率，内存利用率，磁盘利用率等资源利用率发送给调度器，从而更好的反应云平台中各结点的真实负载情况；在考虑资源利用率的情况下，采用加权最小连接的动态调度方法，实现一种调度方法WSSC(Web Service Scheduling On Cloud)。利用本方法能很大程度上提高云平台服务的响应速度。

Description

一种云平台上的服务调度方法

技术领域

本发明涉及计算机应用技术领域，尤其涉及平台中的服务调度方法。

背景技术

目前，云计算成为了IT和互联网业热议的话题，也引起了业界的广泛关注。其实云计算并不是一种新的技术，而是指一种新的IT基础设施的交付和使用模式。云计算是网格计算、分布式计算、并行计算、效用计算、网络存储、虚拟化、负载均衡等传统计算机技术和网络技术发展融合的产物。它旨在通过网络把多个成本相对较低的计算实体整合成一个具有强大计算能力的完美系统，并借助SaaS、PaaS、IaaS、MSP等先进的商业模式把这强大的计算能力分布到终端用户手中。云计算的一个核心理念就是通过不断提高“云”的处理能力，进而减少用户终端的处理负担，最终使用户终端简化成一个单纯的输入输出设备，并能按需享受“云”的强大计算处理能力。

云计算的核心思想，是将大量用网络连接的计算资源统一管理和调度，构成一个计算资源池向用户或应用按需服务。按需服务就需要将传统应用部署在云平台中，并以服务的方式提供具体用户，那么，怎样快速响应用户的服务请求将变得尤为重要。

发明内容

本发明目的在于提供一种云平台上的服务调度方法，能提高云平台响应用户服务请求的速度，同时能保证云平台中各结点的负载均衡化。

本发明提供的一种云平台上的服务调度方法，包括以下步聚：

1）云平台各结点计算cpu利用率，内存利用率，磁盘利用率，并将其结果通过网络协议发送给调度器。

2）根据云平台各结点的资源利用率，调度器采用加权法计算云平台各结点的权重，主要是利用步骤1）中获得的CPU利用率、内存利用率、磁盘利用率加权平均计算云平台中各结点s的权重值W，具体方法为：

先按下式计算云平台中的结点s_i在时刻t的负载L(s_i)，

L(s_i)=ξ_cpuL_cpu+ξ_storageL_storage+ξ_memoryL_memory，

其中，i=0,1,2...,n-1，n为云平台中的结点总数，Lcpu是CPU利用率，Lstorage为磁盘利用率，Lmemory为内存利用率，ξcpu为CPU利用率的权重系数，ξstorage为磁盘利用率的权重系数，ξmemory为内存利用率的权重系数，∑ξ=1，L(si)∈[0,1]，

再按下式计算结点s_i的权重值W(si)，

其中，λ为权重值改变的调节系数，Φ为结点的固有处理能力，δcpu为Lcpu的阀值，δstorage为Lstorage的阀值，δmemory为Lmemory的阀值。

3）调度器收到服务请求后，根据云平台当前各结点权重和连接数计算出响应当前服务的结点，主要是根据步骤2）获得的权重值，利用WLC算法计算出负载最轻的节点，并将服务请求转发给该节点，让其应答该服务请求，同时更新该节点的连接数值，具体方法为：

在步骤2）中计算出每个结点的当前权重值W(si)后，根据当前的用户有效连接数C(si)，结合WLC算法，找出C(si)/W(si)值最小的一个结点，该比例所得的值越小，说明该结点的负载越轻，更有能力处理新到的用户服务请求，

其中，当权重值为0的结点不参与调度时，负载最轻的结点s_i满足下式条件：

C(sj)*W(si)>C(si)*W(sj)，

其中i、j表示云平台中不同的结点。

其中，在所述步骤1）中,利用空闲进程时间除以CPU总时间来计算CPU利用率；利用空闲内存容量除以总内存容量获得内存使用率;利用空闲磁盘容量除以总磁盘容量获得磁盘使用率。

其中，在所述步骤2）中,对步骤1）中的各种资源利用率进行加权平均，计算云平台上各结点的负载权重值。

其中，在所述步骤3）中，根据步骤2）获得的权重值，利用WLC（Weighted Least-Connection Scheduling）算法调度服务请求。

本发明中所涉及的云平台上的服务调度方法，提高了云平台响应用户服务请求的速度，同时保证了云平台中各结点的负载均衡化。

附图说明

图1为本发明调度方法(WSSC)流程图。

图2为WLC调度方法流程图。

具体实施方式

为使本发明的特征及优点得到更清楚的了解，以下结合附图，作详细说明如下：如图1所示，

下面以装有Linux操作系统的云平台为例，来说明本发明的具体实施。

如图1所示，图1右半部分表示云平台中的节点，图1左半部分表示云平台中的调度器。节点定期获取自身的CPU利用率、内存利用率和磁盘利用率，并将这些信息发送给调度器，调度器收到这些信息后，采用加权法计算出各节点的资源使用情况的权重值，当调度器收到服务请求后，便根据当前各节点的资源使用情况和连接数，采用WLC算法计算出负载最轻的节点，并将服务请求转发给该节点，让其应答该服务请求，同时更新该节点的连接数值。

具体步骤如下：

步骤一：在Linux系统中，文件/proc/stat保存了操作系统从开机到现在的各种时间，比如用户空间程序运行时间，系统态运行时间等，因此我们只需解析该文件即可得到CPU时间。代码如下：

上述代码中：

User_time表示从系统启动开始累计到当前时刻，用户态的CPU时间不包含nice值为负的进程所点用的CPU时间。

nice_time表示从系统启动开始累计到当前时刻，nice值为负的进程所占用的CPU时间。

system_time表示从系统启动开始累计到当前时刻，核心态进程所点用的CPU时间。

idle_time表示从系统启动开始累计到当前时刻，除硬盘IO等待时间以外其它等待时间。

iowait_time表示从系统启动开始累计到当前时刻，硬盘IO等待时间。，irq_time表示从系统启动开始累计到当前时刻，硬中断时间。

softirq_time表示从系统启动开始累计到当前时刻，软中断时间。

上述各项之和即为CPU总时间。本发明采用1-(idle+iowait)/cpu总时间为CPU利用率。

同理，在/proc/meminfo中保存了系统当前内存的使用情况，只需解析该文件即可得到内存使用情况，计算内存利用率的代码如下：

上述代码中，total表示总内存大小，free表示当前剩余内存大小，本发明用1-free/total表示内存使用率。

利用Linux系统自带的工具df，即可得到磁盘使用情况，计算磁盘利用率的代码如下：

上述代码中，”df–v|grep‘/’|awk‘{print$5}’”表示获得df–v工具输出含有’/’的行的第五列，该列即为磁盘利用率。将上述cpu利用率、内存利用率、磁盘利用率通过标准网络协议UDP发送给调度器，其具体流程如图1右半部分所示。

步骤二：为了遵循简洁高效的原则，尽量减小算法本身所需的额外开销,本发明分析了云平台结点的服务的负载特点以及其提供服务的特点。在本发明中，提取结点服务器的三个参数：磁盘利用率Lstorage，CPU利用率Lcpu，内存利用率Lmemory，这三项在步骤一中计算得出。

云平台中的结点的当前处理能力就是通过各服务器结点的这三个方面的参数计算出来的。具体方法：为每个参数设定一个权重系数ξ（Σξ=1），每个参数所对应的ξ，根据参数对结点服务器服务性能的影响程度而定。

本发明假设云平台中现有service服务器n台，云平台中的某台结点服务器s_i在某一时刻t的系统利用情况L(s_i)，

L(s_i)=ξ_cpuL_cpu+ξ_storageL_storage+ξ_memoryL_memory

i=0,1,2...,n-1，∑ξ=1；

其中，Lcpu是CPU利用率，Lstorage为磁盘利用率，Lmemory为内存利用率。

考虑L(si)的取值情况：当该服务器结点每个参数值都是1时，此时就表示该服务器结点出于满负荷运转情况，这个时候L(si)的值为1；当该服务器结点每个负载参数都取0时，此时该服务器处于空闲状态，L(si)为0，所以L(si)∈[0,1]。

在实际情况中，是不允许CPU或者内存达到100%的利用率，所以本发明为这三个负载参数设置了相应的阀值δcpu,δstorage，δmemory。其中δcpu为Lcpu的阀值，δstorage为Lstorage的阀值，δmemory为Lmemory的阀值，当Lcpu，Lstorage，Lmemory中的任何一个超过阀值时，就可以判断该结点服务器满载。满载的服务器结点不参与调度。

本发明还充分考虑了结点服务器之间的处理能力的差异，引入了固有处理能力这一概念来量化结点服务器最大处理能力。本文以下描述中用参数Φ来表示结点服务器的固有处理能力。Φ的取值越大，结点服务器的处理能力越强。譬如，可取Φ值为单字长定点指令平均执行速度。

系统当前利用情况用L(si)量化以后，在根据之前设定的服务器结点固有处理能力Φ，给出动态权值调整模型：

上述公式中的λ为一个权值改变的调节系数，λ越大，L(si)的变化对W的影响越明显。

当出现其它情况时W取0，其它情况包括结点服务器满载运转的情况，或者是结点服务器出现错误的情况（可能是硬件引起的错误，也有可能是软件引起的错误）。W取0的服务器不参与调度。

上述很好的诠释了服务器结点实时处理能力情况，L(si)表示的系统当前负载，与W表示的服务器处理能力反比，即当服务器结点负载越重的时候，其相应的处理新任务的能力就越小。这种表达关系能更为准确的描述服务器结点的实时处理能力。其代码实现如下：

上述代码中，phi表示结点固有处理能力,cpu表示cpu利用率，max_cpu表示cpu最大利用率阀值，xicpu表示cpu处理能力权重，其它以此类推。

步骤三：在步骤二中计算出每台结点服务器结点的当前权值W(si)后，根据当前的用户有效连接数C(si)，结合已有的WLC算法，找出C(si)/W(si)值最小的一台结点服务器，该比例所得的值越小，说明该台结点服务器的负载越轻，更有能力处理新到的用户服务请求。

假设结点服务器集合S={s₀,s₁,...,s_n-1}，n为服务器总数目；

结点服务器负载集合L={L(s₀),L(s₁),...,L(s_n-1)}，其中s_i(i=0,1,...,n-1)为结点服务器，L(s_i)(i=0,1,...,n-1)为结点服务器s_i的负载；

W(s_i)表示结点服务器s_i的权值，表示s_i的处理能力；

C(s_i)表示结点服务器s_i的当前有效连接数；

$C_{\mathrm{SUM}}=\underset{i=0}{\overset{n-1}{\mathrm{\Σ}}}C\left(s_i\right)$

系统当前有效连接数总和：

当有新的任务请求达到的时候，该新请求连接会被发送给结点服务器sj，当且仅当其满足以下条件：

$\frac{C\left(s_j\right)/C_{\mathrm{SUM}}}{W\left(s_j\right)}=\min \left\{\frac{C\left(s_i\right)/C_{\mathrm{SUM}}}{W\left(s_i\right)}\right\}$

，i=0,1,...,n-1,W(s_j)≠0且W(s_i)≠0；

WLC就是挑选出结点服务器中当前连接数占总连接数的百分比与其权值

$\frac{C\left(s_j\right)}{W\left(s_j\right)}=\min \left\{\frac{C\left(s_i\right)}{W\left(s_i\right)}\right\}$

比最小者，符合该条件的即为最小负载结点。

由于乘法所需的CPU周期是小于除法的，且无故障的服务器权值均是大于零的，在保证W(sj)为零时，该服务器结点不会被调用的前提下，可以将公式3-3的判断条件优化为：

C(sj)*W(si)>C(si)*W(sj)

其中i、j表示云平台中不同的结点，算法主要分为两个部分：首先从i=0的结点服务器开始搜索可用结点服务器，即W(si)>0；然后从可用结点服务器当中找出满足上述公式的结点服务器，即为WLC所得的负载最小的结点服务器。代码实现如下：

上述代码即在N个结点中选取一个负载最轻的结点，weight表示步骤二中计算出的各结点的权重；con表示各结点的当前连接数。也就是说，这里我们用步骤二中的权重计算方法代替了已有的WLC算法的计算权重的方法。更能真实反应云平台中各结点的负载情况，从而使服务调度更加合理。

以上所述的实例对本发明的各个部分的实现方式作了详细的说明，但是本发明的具体实现形式并不局限于此，对于本技术领域的一般技术人员来说，在不背离本发明所述方法的精神和权利要求范围的情况下对它进行的各种显而易见的改变都在本发明的保护范围之内。

Claims (4)

1.一种云平台上服务的调度方法，其特征在于，其包括以下步骤：

1）云平台各结点计算cpu利用率、内存利用率及磁盘利用率，并将其结果通过网络协议发送给调度器；

2）根据云平台各结点的资源利用率，调度器采用加权法计算云平台各结点的权重，主要是利用步骤1）中获得的CPU利用率、内存利用率、磁盘利用率加权平均计算云平台中各结点s的权重值W，具体方法为：

先按下式计算云平台中的结点s_i在时刻t的负载L(s_i)，

L(s_i)=ξ_cpuL_cpu+ξ_storageL_storage+ξ_memoryL_memory，

其中，i=0,1,2...,n-1，n为云平台中的结点总数，Lcpu是CPU利用率，Lstorage为磁盘利用率，Lmemory为内存利用率，ξcpu为CPU利用率的权重系数，ξstorage为磁盘利用率的权重系数，ξmemory为内存利用率的权重系数，∑ξ=1，L(si)∈[0,1]，

再按下式计算结点s_i的权重值W(si)，

其中，λ为权重值改变的调节系数，Φ为结点的固有处理能力，δcpu为Lcpu的阀值，δstorage为Lstorage的阀值，δmemory为Lmemory的阀值；

3）调度器收到服务请求后，根据云平台当前各结点权重和连接数计算出响应当前服务的结点，主要是根据步骤2）获得的权重值，利用WLC算法计算出负载最轻的节点，并将服务请求转发给该节点，让其应答该服务请求，同时更新该节点的连接数值，具体方法为：

在步骤2）中计算出每个结点的当前权重值W(si)后，根据当前的用户有效连接数C(si)，结合WLC算法，找出C(si)/W(si)值最小的一个结点，该比例所得的值越小，说明该结点的负载越轻，更有能力处理新到的用户服务请求，

其中，当权重值为0的结点不参与调度时，负载最轻的结点s_i满足下式条件：

C(sj)*W(si)>C(si)*W(sj)，

其中i、j表示云平台中不同的结点。

2.如权利要求1所述的方法，其特征在于：在所述步骤1）中，利用CPU执行空闲进程的时间除以CPU总时间获得CPU利用率。

3.如权利要求1所述的方法，其特征在于：在所述步骤1）中，利用空闲内存容量除以总内存容量获得内存使用率。

4.如权利要求1所述的方法，其特征在于：在所述步骤1）中，利用空闲磁盘容量除以总磁盘容量获得磁盘使用率。

Images