CN103841208A - 基于响应时间最优化的云计算任务调度方法 - Google Patents

Abstract

本发明涉及基于响应时间最优化的云计算任务调度方法，包括：构造一个基于响应时间最优化的云计算系统，计算任务分片的传输时间，计算任务分片在计算节点上的平均处理时间，计算任务分片的总处理时间，计算任务响应时间，构造云计算任务调度问题的目标函数，计算调度器的任务分片方案。本发明从任务分片的并行处理出发，以任务分片执行最长的时间作为任务的响应时间，各调度器均以其任务响应时间最小为目标建模，得到新的任务调度方法。本发明更能反映任务并行处理的特性。实验表明：无论是调度器的响应时间值还是目标函数值，本发明均优于博弈算法和均衡调度算法，当系统规模增加和负载加大时，本发明较其它两种算法也均有明显的优势。

Description

基于响应时间最优化的云计算任务调度方法

技术领域

本发明涉及云计算领域，特别涉及一种基于响应时间最优化的云计算任务调度方法。

背景技术

云计算是从分布式计算、并行计算和网格计算基础上进一步发展而来的基于互联网的计算模式。云计算任务调度的目标就是对用户提交的任务实现最优调度，并设法提高云计算系统的总体吞吐率。

目前，国内外对云计算任务调度算法的研究主要针对的目标包括最早完成时间、服务质量、负载均衡、经济原则等。在任务的均衡调度方面，易侃等人针对m×n型的网格环境建模，以每个调度节点调度任务分片的平均完成时间为优化目标，提出了该任务调度的Nash均衡问题；Subrata等以任务处理时间作为目标，给出了一种基于博弈的任务调度模型，并把基于任务处理时间的作业分配问题建模为一个非合作博弈，给出了纳什讨价还价解的结构。以上任务调度研究工作，采用了不同的思路，利用了不同的数学工具，取得了较好的研究成果，但存在一个共同点：任务调度以处理时间为依据，任务分解成任务分片以后在处理器上的执行是并行的，但是相关工作却隐含了任务分片串行执行的假设，显然任务分片的并行执行更符合云计算提供强大并行处理能力的本质和特征。

发明内容

针对以往以处理时间为目标建立的模型中，独立任务的任务分片以串行方式执行的问题，本发明从任务分片的并行执行出发，提出一种基于响应时间最优化的任务调度方法。该方法将任务的各个任务分片处理最长的时间作为该任务的响应时间，每个调度器在对任务进行分解调度时，总是以其任务的响应时间最小为目标，确定云计算系统中各个调度器的任务分片方案。

本发明云计算任务调度系统模型简略图如附图1所示。图1中调度方案计算器通过调度器和计算节点传递的信息依据该发明中的调度算法计算出调度器的任务分片方案，并将其传送给相应的调度器，调度器依据该任务分片方案将任务分发给相应的计算节点执行，由此构成整个云计算系统。图2是图1中多个用户向某个调度器发送任务请求及调度器依据该发明中的任务分片方案分发任务的示意图。

本发明基于以下两点假设：

（1）目前任务一次运行的代价通常较大，如执行时间较长。此外，云系统覆盖的地理范围可能较大，任务分片在网络上的传输时间较长。所以，可忽略调度器的内部处理代价，将任务执行代价看作只由任务分片执行代价和任务分片在网络上的传输代价两部分组成。

（2）调度器对任务进行分解以后得到任务分片，假定云计算系统中的节点都具备任务分片的执行能力。

为实现上述目的，本发明采用如下技术方案：首先，在云计算系统模型基础上，调度器将任务分解成任务分片，各任务分片的执行时间包括调度器到相应计算节点的传输时间和计算节点上处理时间两个方面；其次，调度器将任务分解成任务分片，各个任务分片在计算节点上并行执行，以任务分片执行的最长时间作为该任务的响应时间，各个调度器均以其任务的响应时间最小为目标，建立任务调度的数学模型，通过一种改进的极大熵法求解，以此为基础得到各调度器的任务分片方案。调度器得到一个新的任务后就可以依据此调度方案将任务分配到计算节点上执行。

基于响应时间最优化的云计算任务调度方法，包括以下步骤：

步骤1，构造一个基于响应时间最优化的云计算系统。

所述基于响应时间最优化的云计算系统由用户、面向各用户的各调度器i以及面向各调度器i的计算节点j以及调度方案计算器组成，其中i＝1,2,...,n，n为所述系统中调度器的数量，j＝1,2,...,m，m为系统中所有计算节点的数目。

在忽略调度器内部处理代价前提下，假设任务分片的执行代价和任务分片在网络上的传输代价是任务执行代价的关键。所述调度器在进行任务分片时的条件如下：

各个调度器从各用户接受任务，各个调度器发出任务的平均速率λ_i的加和应该小于所述系统所有计算节点对任务的平均执行速率u_j的加和，速率的单位是单位时间内的任务数，即：

$\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_i<\underset{j=1}{\overset{m}{\mathrm{\&Sigma;}}}{u}_j---\left(1\right)$

各个调度器发到第j个计算节点上任务分片的速率的加和应该小于第j个计算节点对任务分片的平均执行速率u_j，称为计算能力，即：

$\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_i{a}_{\mathrm{ij}}<u_j---\left(2\right)$

步骤2，计算任务分片a_ij的传输时间L_ij：

$L_{\mathrm{ij}}=e_{\mathrm{ij}}+\frac{b\&times;a_{\mathrm{ij}}}{c_{\mathrm{ij}}}---\left(3\right)$

其中，L_ij是调度器i的任务分片到计算节点j的传输时间，j＝1,2,...,m，b为所有任务的平均数据长度，单位：位，e_ij为调度器i到计算节点j之间的线路传输延迟，c_ij为调度器i到计算节点j之间线路的传输速率。

根据计算节点的数量，调度器i将用户的请求分解为m个任务分片，a_ij为第i个调度器的任务分配到第j个计算节点的比例，满足以下的约束：

a_ij≥0，且 $\underset{j=1}{\overset{m}{\mathrm{\&Sigma;}}}{a}_{\mathrm{ij}}=1---\left(4\right)$

步骤3，计算任务分片a_ij在计算节点j上的平均处理时间F_ij：

$F_{\mathrm{ij}}=(\frac{1}{{\mathrm{\&mu;}}_j}+\frac{\underset{k=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_k{a}_{\mathrm{kj}}}{{\mathrm{\&mu;}}_j({\mathrm{\&mu;}}_j-\underset{k=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_k{a}_{\mathrm{kj}})})\&times;a_{\mathrm{ij}}---\left(5\right)$

其中，计算节点被认为是一个M/G/1排队系统，服务时间服从负指数分布。

步骤4，计算任务分片a_ij的总处理时间。

任务分片a_ij的总处理时间等于线路传输时间与计算节点j上的处理时间的和，即：

$F_{\mathrm{ij}}+L_{\mathrm{ij}}=(\frac{1}{{\mathrm{\&mu;}}_j}+\frac{\underset{k=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_k{a}_{\mathrm{kj}}}{{\mathrm{\&mu;}}_j({\mathrm{\&mu;}}_j-\underset{k=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_k{a}_{\mathrm{kj}})})\&times;a_{\mathrm{ij}}+e_{\mathrm{ij}}+\frac{b\&times;a_{\mathrm{ij}}}{c_{\mathrm{ij}}}---\left(6\right)$

其中，i＝1,2,...,n,j＝1,2,...,m。

步骤5，计算任务响应时间。

各个任务分片被调度到计算节点上以后，任务分片被计算节点独立执行，各个任务分片之间是并行执行的关系，任务的响应时间FL_i(a_i)为：

${\mathrm{FL}}_i\left(a_i\right)=\underset{j=1}{\overset{m}{\mathrm{Max}}}(F_{\mathrm{ij}}+L_{\mathrm{ij}})=\underset{j=1}{\overset{m}{\mathrm{Max}}}((\frac{1}{{\mathrm{\&mu;}}_j}+\frac{\underset{k=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_k{a}_{\mathrm{kj}}}{{\mathrm{\&mu;}}_j({\mathrm{\&mu;}}_j-\underset{k=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_k{a}_{\mathrm{kj}})})\&times;a_{\mathrm{ij}}+e_{\mathrm{ij}}+\frac{b\&times;a_{\mathrm{ij}}}{c_{\mathrm{ij}}})---\left(7\right)$

步骤6，构造云计算任务调度问题的目标函数。

每个调度器在对任务进行分解调度时，总是希望其任务的响应时间最小，基于响应时间最优化的云计算任务调度问题的目标函数为：

$\min \underset{j=1}{\overset{m}{\mathrm{Max}}}(F_{\mathrm{ij}}+L_{\mathrm{ij}})=\min \underset{j=1}{\overset{m}{\mathrm{Max}}}((\frac{1}{{\mathrm{\&mu;}}_j}+\frac{\underset{k=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_k{a}_{\mathrm{kj}}}{{\mathrm{\&mu;}}_j({\mathrm{\&mu;}}_j-\underset{k=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_k{a}_{\mathrm{kj}})})\&times;a_{\mathrm{ij}}+e_{\mathrm{ij}}+\frac{b\&times;a_{\mathrm{ij}}}{c_{\mathrm{ij}}})---\left(8\right)$

步骤7，调度方案计算器计算调度器的任务分片方案。

定义

u_ji为计算节点j为调度器i提供的计算能力，代入（8）式得：

$\min \underset{j=1}{\overset{m}{\mathrm{Max}}}(F_{\mathrm{ij}}+L_{\mathrm{ij}})\text{=min}\underset{j=1}{\overset{m}{\mathrm{Max}}}((1+\frac{u_j-{\mathrm{\&mu;}}_{\mathrm{ji}}+{\mathrm{\&lambda;}}_i{a}_{\mathrm{ij}}}{{\mathrm{\&mu;}}_{\mathrm{ji}}-{\mathrm{\&lambda;}}_i{a}_{\mathrm{ij}}})\&times;\frac{a_{\mathrm{ij}}}{{\mathrm{\&mu;}}_j}+e_{\mathrm{ij}}+\frac{b\&times;a_{\mathrm{ij}}}{c_{\mathrm{ij}}}---\left(9\right)$

该优化问题通过一种改进的极大熵函数法进行求解，用该极大熵函数来逼近优化函数FL_i(a_i)，表达式如下：

$F_p(x,u)=\frac{1}{p}\ln \left|\underset{j=1}{\overset{m}{\mathrm{\&Sigma;}}}{u}_j\exp \right\{p((1+\frac{u_j-{\mathrm{\&mu;}}_{\mathrm{ji}}+{\mathrm{\&lambda;}}_i{a}_{\mathrm{ij}}}{{\mathrm{\&mu;}}_{\mathrm{ji}}-{\mathrm{\&lambda;}}_i{a}_{\mathrm{ij}}})\&times;a_{\mathrm{ij}}/{\mathrm{\&mu;}}_j+e_{\mathrm{ij}}+\frac{b\&times;a_{\mathrm{ij}}}{c_{\mathrm{ij}}})\left\}\right|---\left(10\right)$

通过调节p和u，使F_p(x,u)的极小点能更快地收敛于式（9）的解。

步骤7.1，系统参数初始化。

设云计算系统中调度器的个数为n，计算节点个数为m，调度器i发出任务的平均速率为λ_i(0)，计算节点j的任务平均执行速率u_j(0)，调度器i到计算节点j的线路传输延迟e_ij(0)，所有任务的平均数据长度b(0)，单位：bit，调度器i到计算节点j的线路传输速率为c_ij(0)，单位：Kbps，其中i＝1,2,...,n，j＝1,2,...,m；系统中各个调度器和计算节点将上述初始值发送给调度方案计算器，以下步骤均由调度方案计算器完成；将调度器i的任务分片方案初始化为：

$a_i\left(0\right)=\{a_{i1}\left(0\right),a_{i2}\left(0\right),...,a_{\mathrm{im}}\left(0\right)\}=\{\frac{1}{m},\frac{1}{m},...,\frac{1}{m}\},$ 设最大循环次数maxCycle(0)，当前循环次数currentCycle＝1，调节变量p的最大值为P(0)，formerA＝latterA＝a(0)，formerA和latterA差值的2-范数初始值diffA＝1，误差精度ε(0)＝10^-4。

步骤7.2，根据程序中的初值，利用公式

求取u_ji。

步骤7.3，判断diffA＞ε且currentCycle＜maxCycle是否成立，若不成立，执行步骤7.4～7.10；否则，得到调度方案，结束循环。

步骤7.4，对i=1,2,…,n，依次执行步骤7.5～7.9。

步骤7.5，令x0＝latterA_i，

formerX＝latterX＝x0，p＝10，r＝10，k＝0。

步骤7.6，以latterX为初始点求解

得到解x。

步骤7.7，令formerX＝latterX，latterX＝x，若||formerX-latterX||₂＜ε，则转步骤7.9，否则继续。

步骤7.8，计算

i＝1,2,...,m，公式如下：

$u_i^{(k+1)}=\frac{u_i^{\left(k\right)}\exp \left\{p^{\left(k\right)}((1+\frac{u_j-{\mathrm{\&mu;}}_{\mathrm{ji}}+{\mathrm{\&lambda;}}_i{a}_{\mathrm{ij}}}{{\mathrm{\&mu;}}_{\mathrm{ji}}-{\mathrm{\&lambda;}}_i{a}_{\mathrm{ij}}})\&times;a_{\mathrm{ij}}/{\mathrm{\&mu;}}_j+e_{\mathrm{ij}}+\frac{b\&times;a_{\mathrm{ij}}}{c_{\mathrm{ij}}})\right\}}{\underset{j=1}{\overset{m}{\mathrm{\&Sigma;}}}{u}_j^{\left(k\right)}\exp \left\{p^{\left(k\right)}((1+\frac{u_j-{\mathrm{\&mu;}}_{\mathrm{ji}}+{\mathrm{\&lambda;}}_i{a}_{\mathrm{ij}}}{{\mathrm{\&mu;}}_{\mathrm{ji}}-{\mathrm{\&lambda;}}_i{a}_{\mathrm{ij}}})\&times;a_{\mathrm{ij}}/{\mathrm{\&mu;}}_j+e_{\mathrm{ij}}+\frac{b\&times;a_{\mathrm{ij}}}{c_{\mathrm{ij}}})\right\}}---\left(11\right)$

若p^(k)＜P，则令p^(k+1)＝rp^(k)；否则，令p^(k+1)＝p^(k)，转步骤7.6。

步骤7.9，令latterA_i＝latterX，利用修改后的latterA计算新的u_ji。

步骤7.10，令currentCycle＝currentCycle+1，diffA＝||latterA-formerA||₂，formerA＝latterA，转步骤7.3。

与现有的技术相比，本发明具有以下优势：

不同于以往任务分片串行执行建立数学模型的方式，本发明从任务分片的并行处理出发，以任务分片执行最长的时间作为任务的响应时间，各调度器的任务响应时间均以其任务响应时间最小为目标建立数学模型，得到新的任务调度方法。本发明更能反映任务并行处理的特性。实验表明：无论是调度器的响应时间值还是目标函数值，本发明均优于现有的博弈算法和均衡调度算法；负载加大时也是如此；当系统规模增加时，本发明较其它两种算法均有明显的优势，进一步说明本发明能够充分利用系统中计算节点的并行处理特点确定各个调度器的任务分片方案，从而加快任务的执行，提高系统工作的效率。

附图说明

图1为本发明中计云计算任务调度的系统模型简略图；

图2为系统用户任务请求和调度器任务分发示意图；

图3为本发明所涉及的方法流程图；

图4为系统中计算节点有较强节点时本发明、博弈算法和均衡调度算法下各个调度器目标函数值比较图；

图5为系统中计算节点有较强节点时本发明、博弈算法和均衡调度算法下各个调度器响应时间比较图；

图6为系统中计算节点计算能力均衡时本发明、博弈算法和均衡调度算法下各个调度器目标函数值比较图；

图7为系统中计算节点计算能力均衡时本发明、博弈算法和均衡调度算法下各个调度器响应时间比较图；

图8为系统负载的影响实验图；

图9为调度器数目变化的影响比较图；

图10为计算节点数目变化的影响比较图。

具体实施方式

以下结合附图和具体实施例对本发明作进一步说明。

本实施例采用的计算机为奔腾2以上CPU，10G以上硬盘，具有一般计算能力的普通台式微机。

云计算任务调度系统模型简略图如附图1所示。图2是图1中多个用户向某个调度器发送任务请求及调度器依据该发明中的任务分片方案分发任务的示意图。假定云计算任务调度的系统模型中有l个用户、n个调度器、m个执行任务分片的计算节点，调度器将用户的请求分解为m个任务分片。在该图中，各个调度器作为参与者，共享系统中的计算节点，彼此独立。每个调度器总是期望其任务的响应时间最小。

各用户各自产生对调度器的请求，各个用户之间彼此独立地产生任务，用户k产生任务的平均速率为β_k，且服从泊松分布；所有用户产生的任务被调度器分解为任务分片后发送到计算节点上执行。

调度器从各用户接受任务，依据任务分片方案把任务分解为任务分片，然后把任务交给计算节点执行，基于前面的假设（1），对任务进行分解的时间忽略不计。

任务分片根据计算节点的数量，调度器将用户的请求分发到所述系统m个计算节点上执行，a_ij为第i个调度器的任务分配到第j个计算节点的比例，满足（4）式的约束条件。

计算节点是任务分片的执行者，基于前面的假设（2），计算节点具备对一般性任务分片的执行能力；任务分片在计算节点j上的平均执行速率为u_j，执行时间服从负指数分布，每一个计算节点可以被看作一个具有一般重试时间和服务器崩溃的M/G/1排队系统。

设λ_i为调度器i发出任务的平均速率，λ_i满足（1）式和（2）式两个限制条件。（1）式的含义是各个调度器发出任务的平均速率的加和应该小于所述系统所有计算节点对任务的平均执行速率的加和。（2）式的含义是各个调度器到达计算节点j的任务分片的速率的加和应该小于计算节点j的计算能力，即其平均任务执行速率。λ_i的计算公式如下：

${\mathrm{\&lambda;}}_i={\mathrm{\&phi;}}_i\&CenterDot;\mathrm{\&rho;}\&CenterDot;\underset{j=1}{\overset{m}{\mathrm{\&Sigma;}}}{u}_j---\left(12\right)$

其中，φ_i为第i个调度器的相对任务到达速率φ_i，ρ为负载系数。

本发明所述方法流程图如图3所示，具体包括以下步骤：

步骤1，构造一个基于响应时间最优化的云计算系统。

步骤2，计算任务分片a_ij的传输时间L_ij。

步骤3，计算任务分片a_ij在计算节点j上的平均处理时间F_ij。

步骤4，计算任务分片a_ij的总处理时间。

步骤5，计算任务响应时间。

步骤6，构造云计算任务调度问题的目标函数。

步骤7，调度方案计算器计算调度器的任务分片方案。

为了验证本发明的有效性，下面通过实验比较本发明与现有的博弈算法和均衡调度算法性能的优劣。

博弈算法的第i个调度器的目标函数式D_i为：

$D_i=\underset{j=1}{\overset{p}{\mathrm{\&Sigma;}}}((\frac{1}{{\mathrm{\&mu;}}_j}+\frac{\underset{k=1}{\overset{q}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_k{a}_{\mathrm{kj}}}{{\mathrm{\&mu;}}_j({\mathrm{\&mu;}}_j-\underset{k=1}{\overset{q}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_k{a}_{\mathrm{kj}})})\&times;a_{\mathrm{ij}}+e_{\mathrm{ij}}+\frac{b\&times;a_{\mathrm{ij}}}{c_{\mathrm{ij}}})---\left(13\right)$

均衡调度策略按照下式对任务进行分解：

$a_{\mathrm{ij}}=\frac{u_{\mathrm{ji}}}{\underset{j=1}{\overset{m}{\mathrm{\&Sigma;}}}{u}_{\mathrm{ji}}}---\left(14\right)$

设云计算系统中每个计算节点的平均处理能力和调度器的相对任务到达速率为已知的，调度器的实际任务到达速率按照式（12）计算。

实验一：目标函数值及响应时间值实验

计算节点的计算能力可能均衡，也可能出现部分节点计算能力较强的情况，针对这两种情况，进行两组实验，每组实验中分别针对各算法目标函数值及响应时间值进行比较。

本发明所述方法中，令云计算系统的负载系数ρ=0.5，所有任务的平均数据长度b＝1Mbit，连接线路的平均传输速率c_ij＝100Kbps，连接线路的平均延迟e_ij＝0.5秒，调度器数目为7，计算节点的数目为8，7个调度器的相对任务到达速率依次为：

φ＝{0.0035,0.01,0.01,0.01,0.01,0.006,0.005}。

第一组是计算节点中有部分节点的计算能力较强的实验，设系统中计算节点的计算能力依次如下：

u＝{0.28,0.22,0.19,0.23,0.20,0.26,0.22,0.23}

在以上初始条件下，本次实验应用上述三种不同方法求得的各个调度器目标函数值如图4所示。由图可以看出，在计算节点计算能力不均衡时，本发明各个调度器的目标函数值均明显优于其它两种方法，博弈算法比均衡算法有略微的优势。三种方法调度器之间的目标函数值相差不大。

将博弈算法和均衡算法调度策略应用于本发明的响应时间目标函数，求得各个调度器的响应时间值，来研究两者在任务分片并行情况下的影响。实验结果如图5所示。从实验结果可以看出，本发明的各个调度器的响应时间值均略优于均衡调度算法，明显优于博弈算法。除此之外，本发明和均衡调度算法各个调度器的响应时间值比较均衡，而博弈算法的各个调度器的响应时间值相差很大。

第二组是系统中计算节点的计算能力均衡的实验。假定系统中计算节点的计算能力依次如下：

u＝{0.25,0.26,0.23,0.24,0.22,0.25,0.22,0.23}

其余初始条件同第一组相同。应用上述三种方法求得系统中各调度器的任务分片方案，并求得到各个调度器的目标函数值。实验结果如图6所示。实验结果表明，在计算节点计算能力均衡时，本发明下各个调度器的目标函数值均明显优于其它两种方法下各个调度器的目标函数值，博弈算法比均衡算法也有略微的优势。在每个算法下，各个调度器的目标函数值却相差不大。

将博弈算法和均衡调度算法的调度策略应用于本发明的响应时间目标函数，求得各个调度器的响应时间值，来研究两者在任务分片并行情况下的影响。实验结果图7所示。从实验结果可以看出，本发明的各个调度器的响应时间值均略优于均衡调度算法，明显优于博弈算法。除此之外，本发明和均衡调度算法各个调度器的响应时间值比较均衡，而博弈算法的各个调度器的响应时间值相差很大。

结合以上两组实验，云计算系统中计算节点的提供能力均衡或者不均衡时，均可以得出如下结论：

结论一：本发明和均衡调度算法可以使得各个调度器的响应时间值比较均衡，博弈算法下各个调度器的响应时间值相差会比较大；

结论二：无论从响应时间值还是目标函数值而言，本发明均优于其它两种算法；

结论三：对比均衡调度算法，目标函数值较优的博弈算法在并行效果上并不一定优。

实验二：系统负载的影响实验

本次实验是当系统调度器的实际任务增多时，从目标函数值的角度比较三种算法的优劣。在该实验中，使负载系数ρ从0.1依次增加到0.9，每次增加0.1，其余参数与实验一中第二组实验的参数相同。

从实验一可以看出，无论计算节点的提供能力均衡或者不均衡，不同算法下，各个调度器的目标函数值均近似，因此可以使用第一个调度器的目标函数值代表各个调度器的目标函数值在不同负载下的变化。在本次实验中，以其中一个调度器的目标函数值来比较各个算法在不同负载下的变化。在以上初始条件下，分别用三种算法确定负载变化时系统中各调度器的任务分片方案并求得第一调度器相应的目标函数值，实验结果如图8所示。从图中可以看出，即使负载增加时，本发明也均优于其它两种算法。

实验三：系统规模的影响实验

系统规模的变化包括调度器数目的变化和计算节点数目的变化。因此实验分为两组。

第一组实验，调度器数目的变化对系统目标函数值的影响：

在这组实验中，调度器数目变化的范围为n＝7～15，依次增加一个调度器；系统负载为ρ＝0.5，计算节点的数目为10，各节点的计算能力如下：

u＝{0.25,0.26,0.23,0.23,0.23,0.21,0.24,0.24,0.24,0.22}

所有调度的相对任务到达速率如下：

totalφ＝{0.0035,0.01,0.01,0.01,0.01,0.006,0.005,0.003,0.003,0.003,0.002,0.002,0.002,0.0015,0.0015}

其余初始条件与实验一相同。在以上初始条件下，分别用算法一、算法二和算法三求得调度器数目变化时系统中各调度器的任务分片方案并求得第一调度器相应的目标函数值，实验结果如图9所示。由图可以看出，当调度器的数目增加时，本发明也均优于其它两种算法。

第二组实验，计算节点数目的变化对系统提供能力的影响：

在这组实验中，调度器的数目n＝7，系统负载系数ρ＝0.5，计算节点数目变化的范围是m＝10～15，调度器的相对任务到达速率如下：

φ＝{0.0035,0.01,0.01,0.01,0.01,0.006,0.005}

所述系统所有计算节点对应的提供能力如下：

u＝{0.25,0.26,0.23,0.23,0.23,0.21,0.24,0.24,0.24,0.22,0.22,0.22,0.22,0.20,0.20}

其余初始条件与实验一相同。在以上初始条件下，分别用算法一、算法二和算法三求得所述系统计算节点数目变化时系统中各调度器的任务分片方案并求得第一调度器相应的目标函数值，实验结果如图10所示。从图中可以看出，当计算节点的数目增加时，本发明也均优于其它两种算法，且优势逐渐增大。

综合这两组实验可以看出，当系统规模增加时，本发明较其它两种算法均有明显的优势，进一步说明本发明能够充分利用系统中计算节点的并行处理特点确定各个调度器的任务分片方案，从而加快任务的执行，提高系统工作的效率。

Claims (2)

1.基于响应时间最优化的云计算任务调度方法，其特征在于包括以下步骤：

步骤1，构造一个基于响应时间最优化的云计算系统；

所述基于响应时间最优化的云计算系统由用户、面向各用户的各调度器i以及面向各调度器i的计算节点j以及调度方案计算器组成，其中i＝1,2,...,n，n为所述系统中调度器的数量，j＝1,2,...,m，m为系统中所有计算节点的数目；

在忽略调度器内部处理代价前提下，假设任务分片的执行代价和任务分片在网络上的传输代价是任务执行代价的关键；所述调度器在进行任务分片时的条件如下：

各个调度器从各用户接受任务，各个调度器发出任务的平均速率λ_i的加和应该小于所述系统所有计算节点对任务的平均执行速率u_j的加和，速率的单位是单位时间内的任务数，即：

$\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_i<\underset{j=1}{\overset{m}{\mathrm{\&Sigma;}}}{u}_j---\left(1\right)$

各个调度器发到第j个计算节点上任务分片的速率的加和应该小于第j个计算节点对任务分片的平均执行速率u_j，称为计算能力，即：

$\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_i{a}_{\mathrm{ij}}<u_j---\left(2\right)$

步骤2，计算任务分片a_ij的传输时间L_ij：

$L_{\mathrm{ij}}=e_{\mathrm{ij}}+\frac{b\&times;a_{\mathrm{ij}}}{c_{\mathrm{ij}}}---\left(3\right)$

其中，L_ij是调度器i的任务分片到计算节点j的传输时间，j＝1,2,...,m，b为所有任务的平均数据长度，单位：位，e_ij为调度器i到计算节点j之间的线路传输延迟，c_ij为调度器i到计算节点j之间线路的传输速率；

根据计算节点的数量，调度器i将用户的请求分解为m个任务分片，a_ij为第i个调度器的任务分配到第j个计算节点的比例，满足以下的约束：

a_ij≥0，且 $\underset{j=1}{\overset{m}{\mathrm{\&Sigma;}}}{a}_{\mathrm{ij}}=1---\left(4\right)$

步骤3，计算任务分片a_ij在计算节点j上的平均处理时间F_ij：

$F_{\mathrm{ij}}=(\frac{1}{{\mathrm{\&mu;}}_j}+\frac{\underset{k=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_k{a}_{\mathrm{kj}}}{{\mathrm{\&mu;}}_j({\mathrm{\&mu;}}_j-\underset{k=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_k{a}_{\mathrm{kj}})})\&times;a_{\mathrm{ij}}---\left(5\right)$

其中，计算节点被认为是一个M/G/1排队系统，服务时间服从负指数分布；

步骤4，计算任务分片a_ij的总处理时间；

任务分片a_ij的总处理时间等于线路传输时间与计算节点j上的处理时间的和，即：

$F_{\mathrm{ij}}+L_{\mathrm{ij}}=(\frac{1}{{\mathrm{\&mu;}}_j}+\frac{\underset{k=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_k{a}_{\mathrm{kj}}}{{\mathrm{\&mu;}}_j({\mathrm{\&mu;}}_j-\underset{k=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_k{a}_{\mathrm{kj}})})\&times;a_{\mathrm{ij}}+e_{\mathrm{ij}}+\frac{b\&times;a_{\mathrm{ij}}}{c_{\mathrm{ij}}}---\left(6\right)$

其中，i＝1,2,...,n,j＝1,2,...,m；

步骤5，计算任务响应时间；

各个任务分片被调度到计算节点上以后，任务分片被计算节点独立执行，各个任务分片之间是并行执行的关系，任务的响应时间FL_i(a_i)为：

${\mathrm{FL}}_i\left(a_i\right)=\underset{j=1}{\overset{m}{\mathrm{Max}}}(F_{\mathrm{ij}}+L_{\mathrm{ij}})=\underset{j=1}{\overset{m}{\mathrm{Max}}}((\frac{1}{{\mathrm{\&mu;}}_j}+\frac{\underset{k=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_k{a}_{\mathrm{kj}}}{{\mathrm{\&mu;}}_j({\mathrm{\&mu;}}_j-\underset{k=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_k{a}_{\mathrm{kj}})})\&times;a_{\mathrm{ij}}+e_{\mathrm{ij}}+\frac{b\&times;a_{\mathrm{ij}}}{c_{\mathrm{ij}}})---\left(7\right)$

步骤6，构造云计算任务调度问题的目标函数；

每个调度器在对任务进行分解调度时，总是希望其任务的响应时间最小，基于响应时间最优化的云计算任务调度问题的目标函数为：

$\min \underset{j=1}{\overset{m}{\mathrm{Max}}}(F_{\mathrm{ij}}+L_{\mathrm{ij}})=\min \underset{j=1}{\overset{m}{\mathrm{Max}}}((\frac{1}{{\mathrm{\&mu;}}_j}+\frac{\underset{k=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_k{a}_{\mathrm{kj}}}{{\mathrm{\&mu;}}_j({\mathrm{\&mu;}}_j-\underset{k=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&lambda;}}_k{a}_{\mathrm{kj}})})\&times;a_{\mathrm{ij}}+e_{\mathrm{ij}}+\frac{b\&times;a_{\mathrm{ij}}}{c_{\mathrm{ij}}})---\left(8\right)$

步骤7，调度方案计算器计算调度器的任务分片方案；

定义

u_ji为计算节点j为调度器i提供的计算能力，代入（8）式得：

$\min \underset{j=1}{\overset{m}{\mathrm{Max}}}(F_{\mathrm{ij}}+L_{\mathrm{ij}})\text{=min}\underset{j=1}{\overset{m}{\mathrm{Max}}}((1+\frac{u_j-{\mathrm{\&mu;}}_{\mathrm{ji}}+{\mathrm{\&lambda;}}_i{a}_{\mathrm{ij}}}{{\mathrm{\&mu;}}_{\mathrm{ji}}-{\mathrm{\&lambda;}}_i{a}_{\mathrm{ij}}})\&times;\frac{a_{\mathrm{ij}}}{{\mathrm{\&mu;}}_j}+e_{\mathrm{ij}}+\frac{b\&times;a_{\mathrm{ij}}}{c_{\mathrm{ij}}}---\left(9\right)$

该优化问题通过一种改进的极大熵函数法进行求解，用该极大熵函数来逼近优化函数FL_i(a_i)，表达式如下：

$F_p(x,u)=\frac{1}{p}\ln \left|\underset{j=1}{\overset{m}{\mathrm{\&Sigma;}}}{u}_j\exp \right\{p((1+\frac{u_j-{\mathrm{\&mu;}}_{\mathrm{ji}}+{\mathrm{\&lambda;}}_i{a}_{\mathrm{ij}}}{{\mathrm{\&mu;}}_{\mathrm{ji}}-{\mathrm{\&lambda;}}_i{a}_{\mathrm{ij}}})\&times;a_{\mathrm{ij}}/{\mathrm{\&mu;}}_j+e_{\mathrm{ij}}+\frac{b\&times;a_{\mathrm{ij}}}{c_{\mathrm{ij}}})\left\}\right|---\left(10\right)$

通过调节p和u，使F_p(x,u)的极小点能更快地收敛于式（9）的解。

2.根据权利要求1所述的基于响应时间最优化的云计算任务调度方法，其特征在于，所述步骤7计算调度器任务分片方案的方法还包括以下步骤：

步骤7.1，系统参数初始化；

设云计算系统中调度器的个数为n，计算节点个数为m，调度器i发出任务的平均速率为λ_i(0)，计算节点j的任务平均执行速率u_j(0)，调度器i到计算节点j的线路传输延迟e_ij(0)，所有任务的平均数据长度b(0)，单位：bit，调度器i到计算节点j的线路传输速率为c_ij(0)，单位：Kbps，其中i＝1,2,...,n，j＝1,2,...,m；系统中各个调度器和计算节点将上述初始值发送给调度方案计算器，以下步骤均由调度方案计算器完成；将调度器i的任务分片方案初始化为：

$a_i\left(0\right)=\{a_{i1}\left(0\right),a_{i2}\left(0\right),...,a_{\mathrm{im}}\left(0\right)\}=\{\frac{1}{m},\frac{1}{m},...,\frac{1}{m}\},$ 设最大循环次数maxCycle(0)，当前循环次数currentCycle＝1，调节变量p的最大值为P(0)，formerA＝latterA＝a(0)，formerA和latterA差值的2-范数初始值diffA＝1，误差精度ε(0)＝10^-4；

步骤7.2，根据程序中的初值，利用公式

求取u_ji；

步骤7.3，判断diffA＞ε且currentCycle＜maxCycle是否成立，若不成立，执行步骤7.4～7.10；否则，得到调度方案，结束循环；

步骤7.4，对i=1,2,…,n，依次执行步骤7.5～7.9；

步骤7.5，令x0＝latterA_i，

formerX＝latterX＝x0，p＝10，r＝10，k＝0；

步骤7.6，以latterX为初始点求解

得到解x；

步骤7.7，令formerX＝latterX，latterX＝x，若 ||ormerX-latterX||₂＜ε，则转步骤7.9，否则继续；

步骤7.8，计算

i＝1,2,...,m，公式如下：

$u_i^{(k+1)}=\frac{u_i^{\left(k\right)}\exp \left\{p^{\left(k\right)}((1+\frac{u_j-{\mathrm{\&mu;}}_{\mathrm{ji}}+{\mathrm{\&lambda;}}_i{a}_{\mathrm{ij}}}{{\mathrm{\&mu;}}_{\mathrm{ji}}-{\mathrm{\&lambda;}}_i{a}_{\mathrm{ij}}})\&times;a_{\mathrm{ij}}/{\mathrm{\&mu;}}_j+e_{\mathrm{ij}}+\frac{b\&times;a_{\mathrm{ij}}}{c_{\mathrm{ij}}})\right\}}{\underset{j=1}{\overset{m}{\mathrm{\&Sigma;}}}{u}_j^{\left(k\right)}\exp \left\{p^{\left(k\right)}((1+\frac{u_j-{\mathrm{\&mu;}}_{\mathrm{ji}}+{\mathrm{\&lambda;}}_i{a}_{\mathrm{ij}}}{{\mathrm{\&mu;}}_{\mathrm{ji}}-{\mathrm{\&lambda;}}_i{a}_{\mathrm{ij}}})\&times;a_{\mathrm{ij}}/{\mathrm{\&mu;}}_j+e_{\mathrm{ij}}+\frac{b\&times;a_{\mathrm{ij}}}{c_{\mathrm{ij}}})\right\}}---\left(11\right)$

若p^(k)＜P，则令p^(k+1)＝rp^(k)；否则，令p^(k+1)＝p^(k)，转步骤7.6；

步骤7.9，令latterA_i＝latterX，利用修改后的latterA计算新的u_ji；

步骤7.10，令currentCycle＝currentCycle+1，diffA＝||latterA-formerA||₂，formerA＝latterA，转步骤7.3。

Images