CN102394931B - 一种基于云的用户访问请求调度方法 - Google Patents

Abstract

本发明提供的是一种基于云的用户访问请求调度方法。本发明的关键在于对用户访问请求进行调度的过程中，请求调度模块通过监测各服务节点平均请求执行时间和待执行请求队列长度来判断服务节点的负载情况，对其权值进行相应的调整，进而计算各服务节点的负载区间，同时对待处理的请求产生一个0到1范围内的随机数，查找该随机数所对应的负载区间，再查找该负载区间所对应的服务节点，然后将用户请求发送给该服务节点执行，监测执行结果并更新该服务节点的平均请求执行时间和待执行请求队列长度，其间若有新增加的用户访问请求，则将其添加到待处理的用户请求队列中，重复上述过程，直到所有请求执行完毕，从而显著改善了云计算系统的负载均衡能力和响应速度。

Description

一种基于云的用户访问请求调度方法

(一)技术领域

本发明涉及的是一种基于云的用户访问请求调度方法。

(二)背景技术

云计算是继1980年代大型计算机到客户端-服务器的大转变之后的又一种巨变。用户不再需要了解“云”中基础设施的细节，不必具有相应的专业知识，也无需直接进行控制。云计算描述了一种基于互联网的新的IT服务增加、使用和交付模式，通常涉及通过互联网来提供动态易扩展而且经常是虚拟化的资源。典型的云计算提供商往往提供通用的网络业务应用，可以通过浏览器等软件或者其他Web服务来访问，而软件和数据都存储在服务器上。

近年来，云计算由于能够动态的利用资源来应对变动剧烈的负载，已经越发成为构建大规模互联网应用的首选技术。随着业务量的提高，访问量和数据流量的快速增长，其处理能力和计算强度也需要相应地增大，使得单一的服务器设备根本无法承担。因此，云环境一般由大量廉价计算机使用局域网连接协同工作，一起对外提供服务。为了提供高速响应，低延迟的服务，基于云的负载均衡技术就显得尤为重要，它可以将云计算系统的负载合理分配到各个不同的服务节点上，保持负载的均衡。

用户访问请求调度是一种负载均衡技术，旨在将访问请求均衡的分配到各个服务节点上。其核心思想是根据设备处理能力的不同，将数据访问请求按照一定的规则重定向到不同的服务节点上执行，以此达到提高系统响应速度的目的。显然，用户访问请求调度的优劣将直接关系到云计算系统的工作效率。

当前，用户访问请求调度方法主要有三种：

1.轮转法，即在一个节点队列里，队列的每个节点都具有相同的地位，均衡器将新的请求轮流发给节点队列中的下一节点，如此周而复始，每个集群的节点都在相等的地位下被轮流选择，是一种机会均等的调度算法。轮转法优点是算法简单，每个节点被选择的机会是1／N，因此很容易计算出节点的负载分布，缺点是难以在各个节点硬件性能差距较大的实际环境中应用。

2.随机法，即系统为各节点一个由伪随机算法产生的权值，具有最小或最大随机数的节点最有优先权。每个机器都有可能获得最大的优先级，这也是一种机会均等的调度算法。随机法优点是无需设定调度队列，算法简单，缺点和轮转法一样，需要在相同的节点环境中，这种算法才能运行得最好。

3.散列法，即系统通过不可逆的HASH函数，按照某种规则将访问请求发往各个节点，此方法的优点是可以通过预先的规则设定来适应硬件不同的实际应用环境，缺点是规则死板，难以应对变动剧烈的用户请求负载。

上述方法都存在一个问题，即调度规则依赖于算法本身的平衡性，难以适应实际应用中差异较大的服务器硬件性能和动态变化的负载环境。

为了提高系统在实际环境下的负载均衡能力和响应速度，本发明提供了一种基于云的用户访问请求调度方法，即方法的执行通过调度程序，动态的监测各个服务节点的工作负载，并根据监测结果实时改变各个服务节点的权值，从而显著改善了云计算系统的负载均衡能力和响应速度。

(三)发明内容

本发明的目的在于一种改进的基于云的用户访问请求动态调度方法。该方法能够针对差异较大的服务器硬件性能以及变动频繁的访问负载，动态的将用户访问请求分发到不同的服务器上执行，从而大大提高云计算系统的负载均衡效果和响应速度，改进用户的访问体验。

本发明的目的是这样实现的：

设待处理用户请求队列包含了m个请求，分别表示为R₁、R₂、…、R_m；云计算系统中的服务节点集合包含了n个服务节点，分别表示为S₁、S₂、…、S_n，各服务节点的平均请求执行时间分别表示为

待执行请求队列中长度分别表示为u₁、u₂、…、u_n，权值分别表示为τ₁、τ₂、…、τ_n，负载区间分别表示为F₁、F₂、…、F_n，且对于

j≠k，

过载阈值表示为μ；调整步长表示为

是一个正数；请求调度模块主要负责调度用户的访问请求，同时监测各服务节点的负载情况，并及时调整它们的权值和负载区间；

当对用户访问请求进行调度时，输入待处理用户请求队列R₁、R₂、…、R_m，服务节点S₁、S₂、…、S_n，各服务节点的平均请求执行时间

待执行请求队列长度u₁、u₂、…、u_n，权值τ₁、τ₂、...、τ_n，负载区间F₁、F₂、…、F_n，过载阈值μ，调整步长

请求调度模块通过监测各服务节点平均请求执行时间和待执行请求队列长度来判断服务节点的负载情况，对其权值进行相应的调整，进而计算各服务节点的负载区间，同时对待处理用户请求产生一个0到1范围内的随机数，查找该随机数所对应的负载区间，再查找该负载区间所对应的服务节点，然后将用户请求发送给该服务节点执行，监测执行结果并更新该服务节点的平均请求执行时间和待执行请求队列长度，重复上述过程，直到所有请求处理完毕；

其具体方法步骤为：

(1)输入服务节点S₁、S₂、…、S_n；

(2)输入过载阈值μ，调整步长

(3)根据各服务节点不同的硬件性能，赋以相应的初始权值τ₁、τ₂、…、τ_n；

(4)输入各服务节点负载区间F₁、F₂、…、F_n，并全部初始化为0；

(5)输入待处理的用户请求队列为R₁、R₂、…、R_m；

(6)各服务节点的请求平均执行时间

待执行请求队列长度u₁、u₂、…、u_n全部初始化为0；

(7)请求调度模块监测各服务节点的平均请求执行时间分别表示为

和待执行请求队列长度u₁、u₂、...、u_n，

若

其中μ为过载阈值，则表示服务节点S_j负载过重，将该节点的权值τ_j减去一个调整步长

否则，将该节点的权值τ_j加上一个调整步长

(8)分别计算n个服务节点的负载区间：

$\left\{\begin{array}{c}k=1,F_k=[0,\frac{{\mathrm{\τ}}_1}{{\mathrm{\Σ}}_{j=1}^n{\mathrm{\τ}}_j})\\ k\∈[2,n-1],F_k=[\frac{{\mathrm{\Σ}}_{j=1}^{k-1}{\mathrm{\τ}}_j}{{\mathrm{\Σ}}_{j=1}^n{\mathrm{\τ}}_j},\frac{{\mathrm{\Σ}}_{j=1}^k{\mathrm{\τ}}_j}{{\mathrm{\Σ}}_{j=1}^n{\mathrm{\τ}}_j});\\ k=n,F_k=[\frac{{\mathrm{\Σ}}_{j=1}^{n-1}{\mathrm{\τ}}_j}{{\mathrm{\Σ}}_{j=1}^n{\mathrm{\τ}}_j},\frac{{\mathrm{\Σ}}_{j=1}^n{\mathrm{\τ}}_j}{{\mathrm{\Σ}}_{j=1}^n{\mathrm{\τ}}_j}]\end{array}\right.$

(9)

请求调度模块对待处理用户请求R_i产生一个0到1范围内的随机数，查找该随机数所对应的负载区间F_j，其中j∈[1，n]，再查找该负载区间所对应的服务节点S_j，然后将用户请求R_i发送给服务节点S_j，并将请求R_i加入到服务节点S_j的待执行请求队列，同时将请求R_i从待处理的用户请求队列中删除，且将服务节点S_j的待执行请求队列长度u_j的值增加1；

(10)

若服务节点S_j完成了待执行请求队列中的一个请求，便将该请求从待执行请求队列中删除，同时将该请求的执行时间反馈给请求调度模块，请求调度模块接到信息后，更新该服务节点的平均请求执行时间

同时将该服务节点的待执行请求队列长度u_j的值减少1；

(11)若有新增加的用户访问请求，则将其加到待处理的用户请求队列中；

(12)若待处理的用户请求队列不为空，执行步骤(7)；

否则，执行步骤(13)

(13)若

服务节点S_j待执行请求队列不为空，则执行步骤(10)；

否则，则程序执行完毕。

本发明的关键在于如何通过动态的调整服务节点的权重来实现负载均衡。为此，通过监测各服务节点的平均请求执行时间和待执行请求队列长度，来判断节点的负载情况，并实时的调整节点权重，从而大大提高了负载均衡的效果、改进了云计算系统的响应速度。

其主要创新点如下：

1.将随机法和散列法的思想相结合，通过对每个请求产生一个随机数，并映射到服务节点对应的负载区间，以提高用户访问请求调度的效果。

2.通过监测各服务节点平均请求执行时间和待执行请求队列长度来判断服务节点的负载情况，动态调整各服务节点的权值，从而使系统负载均衡模块能够适应云计算环境中差异较大的服务器硬件性能和变化剧烈的工作负载，从而达到提高负载均衡效果，改进云计算系统响应速度的目的。

(四)附图说明

图1、基于云的用户访问请求调度方法示意图

(五)具体实施方式

下面结合附图举例对本发明做更详细地描述：

本发明所述算法的特征在于：

设待处理用户请求队列包含了m个请求，分别表示为R₁、R₂、...、R_m；云计算系统中的服务节点集合包含了n个服务节点，分别表示为S₁、S₂、…、S_n，各服务节点的平均请求执行时间分别表示为

待执行请求队列中长度分别表示为u₁、u₂、…、u_n，权值分别表示为τ₁、τ₂、…、τ_n，负载区间分别表示为F₁、F₂、…、F_n，

且对于

j≠k，

过载阈值表示为μ；调整步长表示为

是一个正数；请求调度模块主要负责调度用户的访问请求，同时监测各服务节点的负载情况，并及时调整它们的权值和负载区间；

当对用户访问请求进行调度时，输入待处理用户请求队列R₁、R₂、…、R_m，服务节点S₁、S₂、…、S_n，各服务节点的平均请求执行时间

待执行请求队列长度u₁、u₂、…、u_n，权值τ₁、τ₂、…、τ_n，负载区间F₁、F₂、…、F_n，过载阈值μ，调整步长

请求调度模块通过监测各服务节点平均请求执行时间和待执行请求队列长度来判断服务节点的负载情况，对其权值进行相应的调整，进而计算各服务节点的负载区间，同时对待处理用户请求产生一个0到1范围内的随机数，查找该随机数所对应的负载区间，再查找该负载区间所对应的服务节点，然后将用户请求发送给该服务节点执行，监测执行结果并更新该服务节点的平均请求执行时间和待执行请求队列长度，重复上述过程，直到所有请求处理完毕；

其具体方法步骤为：

(1)输入服务节点S₁、S₂、…、S_n；

(2)输入过载阈值μ，调整步长

(3)根据各服务节点不同的硬件性能，赋以相应的初始权值τ₁、τ₂、…、τ_n；

(4)输入各服务节点负载区间F₁、F₂、…、F_n，并全部初始化为0；

(5)输入待处理的用户请求队列为R₁、R₂、…、R_m；

(6)各服务节点的请求平均执行时间

待执行请求队列长度u₁、u₂、…、u_n全部初始化为0；

(7)请求调度模块监测各服务节点的平均请求执行时间分别表示为

和待执行请求队列长度u₁、u₂、…、u_n，

若其中μ为过载阈值，则表示服务节点S_j负载过重，将该节点的权值τ_j减去一个调整步长

否则，将该节点的权值τ_j加上一个调整步长

(8)分别计算n个服务节点的负载区间：

$\left\{\begin{array}{c}k=1,F_k=[0,\frac{{\mathrm{\τ}}_1}{{\mathrm{\Σ}}_{j=1}^n{\mathrm{\τ}}_j})\\ k\∈[2,n-1],F_k=[\frac{{\mathrm{\Σ}}_{j=1}^{k-1}{\mathrm{\τ}}_j}{{\mathrm{\Σ}}_{j=1}^n{\mathrm{\τ}}_j},\frac{{\mathrm{\Σ}}_{j=1}^k{\mathrm{\τ}}_j}{{\mathrm{\Σ}}_{j=1}^n{\mathrm{\τ}}_j});\\ k=n,F_k=[\frac{{\mathrm{\Σ}}_{j=1}^{n-1}{\mathrm{\τ}}_j}{{\mathrm{\Σ}}_{j=1}^n{\mathrm{\τ}}_j},\frac{{\mathrm{\Σ}}_{j=1}^n{\mathrm{\τ}}_j}{{\mathrm{\Σ}}_{j=1}^n{\mathrm{\τ}}_j}]\end{array}\right.$

(9)

请求调度模块对待处理用户请求R_i产生一个0到1范围内的随机数，查找该随机数所对应的负载区间F_j，其中j∈[1，n]，再查找该负载区间所对应的服务节点S_j，然后将用户请求R_i发送给服务节点S_j，并将请求R_i加入到服务节点S_j的待执行请求队列，同时将请求R_i从待处理的用户请求队列中删除，且将服务节点S_j的待执行请求队列长度u_j的值增加1；

(10)

若服务节点S_j完成了待执行请求队列中的一个请求，便将该请求从待执行请求队列中删除，同时将该请求的执行时间反馈给请求调度模块，请求调度模块接到信息后，更新该服务节点的平均请求执行时间

同时将该服务节点的待执行请求队列长度u_j的值减少1；

(11)若有新增加的用户访问请求，则将其加到待处理的用户请求队列中；

(12)若待处理的用户请求队列不为空，执行步骤(7)；

否则，执行步骤(13)

(13)若

服务节点S_j待执行请求队列不为空，则执行步骤(10)；

否则，则程序执行完毕。

其具体实施模式是这样的：

整个算法具体实施模式为一个循环，即当对用户访问请求进行调度时，请求调度模块通过监测各服务节点平均请求执行时间和未执行请求数来判断服务节点的负载情况，对其权值进行相应的调整，进而计算各服务节点的负载区间，同时对待处理的请求产生一个0到1范围内的随机数，查找该随机数所对应的负载区间，再查找该负载区间所对应的服务节点，然后将用户请求发送给该服务节点，并将该请求加入到服务节点的待执行请求队列中，将其从待处理用户访问请求队列中删除。若服务节点完成了其待执行请求队列中的一个请求，便将该请求从待执行请求队列中删除，并将其执行时间反馈给请求调度模块，请求调度模块监测执行结果并更新该服务节点的平均请求执行时间和待执行请求队列的长度。其间若有新增加的用户访问请求，则将其添加到待处理的用户请求队列中。若待处理用户访问请求队列不为空，则调度程序继续执行；否则，判断各服务节点的待执行请求队列，若仍有未执行的用户请求，则服务节点继续执行请求；否则，处理过程结束。

Claims (1)

1.一种基于云的用户访问请求调度方法，其特征在于：设待处理用户请求队列包含了m个请求，分别表示为R₁、R₂、…、R_m；云计算系统中的服务节点集合包含了n个服务节点，分别表示为S₁、S₂、…、S_n，各服务节点的平均请求执行时间分别表示为

待执行请求队列中长度分别表示为u₁、u₂、…、u_n，权值分别表示为τ₁、τ₂、…、τ_n，负载区间分别表示为F₁、F₂、…、F_n， $\∀i\∈[1,n],F_i\⊆\left[\mathrm{0,1}\right],$ 且对于 $\∀j\∈[1,n],\∀k\∈[1,n],$ j≠k，

过载阈值表示为μ；调整步长表示为

是一个正数；请求调度模块主要负责调度用户的访问请求，同时监测各服务节点的负载情况，并及时调整它们的权值和负载区间；

当对用户访问请求进行调度时，输入待处理用户请求队列R₁、R₂、…、R_m，服务节点S₁、S₂、…、S_n，各服务节点的平均请求执行时间

待执行请求队列长度u₁、u₂、…、u_n，权值τ₁、τ₂、…、τ_n，负载区间F₁、F₂、…、F_n，过载阈值μ，调整步长请求调度模块通过监测各服务节点平均请求执行时间和待执行请求队列长度来判断服务节点的负载情况，对其权值进行相应的调整，进而计算各服务节点的负载区间，同时对待处理

用 户请求产生一个0到1范围内的随机数，查找该随机数所对应的负载区间，再查找该负载区间所对应的服务节点，然后将用户请求发送给该服务节点执行，监测执行结果并更新该服务节点的平均请求执行时间和待执行请求队列长度，重复上述过程，直到所有请求处理完毕；

其具体方法步骤为：

(1)输入服务节点S₁、S₂、…、S_n；

(2)输入过载阈值μ，调整步长

(3)根据各服务节点不同的硬件性能，赋以相应的初始权值τ₁、τ₂、…、τ_n；

(4)输入各服务节点负载区间F₁、F₂、…、F_n，并全部初始化为0；

(5)输入待处理的用户请求队列为R₁、R₂、…、R_m；

(6)各服务节点的请求平均执行时间

待执行请求队列长度u₁、u₂、…、u_n全部初始化为0；

(7)请求调度模块监测各服务节点的平均请求执行时间分别表示为

和待执行请求队列长度u₁、u₂、…、u_n，

若

其中μ为过载阈值，则表示服务节点S_j负载过重，将该节点的权值τ_j减去一个调整步长

否则，将该节点的权值τ_j加上一个调整步长

(8)分别计算n个服务节点的负载区间：

$\left\{\begin{array}{c}k=1,F_k=[0,\frac{{\mathrm{\τ}}_1}{{\mathrm{\Σ}}_{j=1}^n{\mathrm{\τ}}_j})\\ k\∈[2,n-1],F_k=[\frac{{\mathrm{\Σ}}_{j=1}^{k-1}{\mathrm{\τ}}_j}{{\mathrm{\Σ}}_{j=1}^n{\mathrm{\τ}}_j},\frac{{\mathrm{\Σ}}_{j=1}^k{\mathrm{\τ}}_j}{{\mathrm{\Σ}}_{j=1}^n{\mathrm{\τ}}_j});\\ k=n,F_k=[\frac{{\mathrm{\Σ}}_{j=1}^{n-1}{\mathrm{\τ}}_j}{{\mathrm{\Σ}}_{j=1}^n{\mathrm{\τ}}_j},\frac{{\mathrm{\Σ}}_{j=1}^n{\mathrm{\τ}}_j}{{\mathrm{\Σ}}_{j=1}^n{\mathrm{\τ}}_j}]\end{array}\right.$

(9)请求调度模块对待处理用户请求R_i产生一个0到1范围内的随机数，查找该随机数所对应的负载区间F_j，其中j∈[1，n]，再查找该负载区间所对应的服务节点S_j，然后将用户请求R_i发送给服务节点S_j，并将请求R_i加入到服务节点S_j的待执行请求队列，同时将请求R_i从待处理的用户请求队列中删除，且将服务节点S_j的待执行请求队列长度u_j的值增加1；

(10)

若服务节点S_j完成了待执行请求队列中的一个请求，便将该请求从待执行请求队列中删除，同时将该请求的执行时间反馈给请求调度模块，请求调度模块接到信息后，更新该服务节点的平均请求执行时间同时将该服务节点的待执行请求队列长度u_j的值减少1；

(11)若有新增加的用户访问请求，则将其加到待处理的用户请求队列中；

(12)若待处理的用户请求队列不为空，执行步骤(7)；

否则，执行步骤(13)

(13)若

服务节点S_j待执行请求队列不为空，则执行步骤(10)；

否则，则程序执行完毕。