CN106209990A - 一种分布异地云数据中心下成本可感知的请求调度方法 - Google Patents

Abstract

本发明涉及一种分布异地云数据中心下成本可感知的请求调度方法。该方法考虑了网络带宽成本和能量成本的地理多样性。将每个云数据中心中每个应用建模为先来先服务的M/M/m排队系统。基于此，考虑排队系统稳定性、用户响应时间约束、物理服务器个数限制、网络服务提供商带宽容量限制等因素，建立了分布异地云数据中心中成本可感知的请求调度的混合整数线性规划模型。并采用有效界限舍入方法将该模型转化为一个线性规划问题，通过求解该问题给出了成本可感知的请求调度策略。本发明通过为每个应用的请求同时指定网络连接提供商和确定每个云数据中心中开启的服务器个数，能够最小化分布异地云数据中心提供商的运维成本(包括网络带宽成本和能量成本)。

Description

一种分布异地云数据中心下成本可感知的请求调度方法

技术领域

本发明涉及一种成本可感知的请求调度方法，提别是一种分布异地云数据中心下成本可感知的请求调度方法。

背景技术

多个不同类型的应用并行地运行在当前的云数据中心的基础设施资源中，并向用户提供其所需的服务。为了维护这些数量较大的服务器，每个云数据中心往往需要上千万瓦的电能。为保证应用的可用性及性能，每个应用往往部署在分布异地的多个云数据中心中。考虑到成本和性能等因素，每个云数据中心同时与多个可用的网络服务提供商相连接。因此在海量用户和云数据中心提供商间通信的数据均通过这些网络服务提供商传输。

目前云数据中心中用户的应用请求的数量显著增加，云数据中心的能量成本也快速增长。目前有很多来自学术界和工业界的工作专注于降低数据中心能量成本的问题。比如，目前存在的工作通过利用位于不同区域的电力成本的地理多样性来降低云数据中心提供商的能量成本。而在实际情况下，应用请求须先经过由网络服务提供商提供的传输链路，而后到达后端分布异地的多个云数据中心中。目前的云数据中心提供商包括Facebook和谷歌等，每天通过网络传输的数据量巨大，往往可以达到PB级。因此，为了在用户和分布式的多云数据中心之间传输数据，目前的云提供商承受着较大的网络连接成本。研究表明能量和网络连接成本在云提供商的运维成本中占据很大的比重。

此外，每一个网络服务提供商的单位带宽成本由其与云提供商之间签订的服务等级协议确定。连接每一个云数据中心的网络服务提供商的单位带宽成本存在差异，因此，某些网络服务提供商的单位带宽成本较低。然而，目前的研究工作忽视了网络服务提供商的单位带宽成本和对应的容量限制的差异。因此，会造成请求的损失和网络连接成本的提高。总之，随着云数据中心的运维成本(主要包括能量和网络成本)的越来越大，在网络带宽成本和能量成本均具有地理多样性的情况下，如何通过智能的请求调度来降低云提供商的运维成本成为了一个难题。

发明内容

针对以上现有技术的不足，本发明提供一种分布异地云数据中心下成本可感知的请求调度方法，通过为每个应用的请求同时指定网络连接提供商和确定每个云数据中心中开启的服务器个数，能够最小化分布异地云数据中心提供商的运维成本(包括网络带宽成本和能量成本)。

根据本发明的一个方面，提供了分布异地云数据中心下请求调度模型，包括：根据应用请求的特点，建立一种针对每个云数据中心中每个应用的先来先服务M/M/m排队系统；结合网络带宽成本和能量成本的地理多样性，考虑排队系统的稳定性、用户的响应时间约束、物理服务器的个数限制、网络服务提供商的带宽容量限制等因素，建立了分布异地云数据中心中成本可感知的请求调度的混合整数线性规划模型。

根据本发明的另一方面，提供了一种成本可感知的请求调度方法，包括：采用有效界限的舍入方法，将该请求调度的混合整数线性规划模型转化为典型的线性规划问题；通过求解转化后的线性规划问题，获得成本可感知的请求调度策略。

根据本发明的上述方面，针对目前分布异地云数据中心执行来自用户的应用请求的架构特点，在分布异地云数据中心下成本可感知的请求调度方法基础上，通过为每个应用的请求同时指定网络连接提供商和确定每个云数据中心中开启的服务器个数，使得分布异地云数据中心提供商的运维成本最小化。

本发明的目的通过以下技术方案来实现：

一种分布异地云数据中心下成本可感知的请求调度方法，该方法包括如下步骤：

1)根据分布异地云数据中心下用户请求的特点，基于排队论将每个云数据中心中每个应用建立为一种先来先服务的M/M/m的排队系统，从而正确计算每个云数据中心中每个应用请求的平均响应时间；

2)设计一种考虑到网络带宽成本和能量成本的地理多样性的目标函数，从而计算分布异地云数据中心提供商的运维成本(包括网络带宽成本和能量成本)；

3)考虑排队系统的稳定性、用户的响应时间约束、物理服务器的个数限制、网络服务提供商的带宽容量限制等因素，建立分布异地云数据中心中成本可感知的请求调度的混合整数线性规划模型；

4)在3)的基础上，采用有效界限的舍入方法将混合整数线性规划模型转化为典型的线性规划问题；

5)求解4)中的线性规划问题，获得成本可感知的请求调度策略，从而最小化分布异地云数据中心提供商的运维成本(包括网络带宽成本和能量成本)。

进一步，所述针对每个云数据中心中每个应用的排队系统模型为一个先来先服务的M/M/m模型。

进一步，所述先来先服务M/M/m模型中每个云数据中心c(1≤c≤C)中每个应用n(1≤n≤N)的请求平均响应时间为：

${\mathrm{ART}}_{c,n}=\frac{1}{m_{c,n}{\mathrm{\μ}}_{c,n}-{\mathrm{\λ}}_{c,n}}+\frac{1}{{\mathrm{\μ}}_{c,n}}$

其中，

i)ART_c,n表示云数据中心c中应用n的每个请求的平均响应时间；

ii)m_c,n表示云数据中心c中对应于应用n的开启的物理服务器的个数；

iii)μ_c,n表示云数据中心c中对应于应用n的每一个物理服务器的平均服务率；

iv)λ_c,n表示云数据中心c中应用n的请求到达率。

进一步，所述一种考虑到网络带宽成本和能量成本的地理多样性的目标函数TotalCost的具体定义方式为：

$TotalCost=\underset{k=1}{\overset{K}{\Σ}}\left({\mathrm{price}}_k\right(\underset{n=1}{\overset{N}{\Σ}}\underset{c=1}{\overset{C}{\Σ}}\left({\mathrm{\λ}}_{n,k,c}{s}_n\right)\left)\right)+\underset{c=1}{\overset{C}{\Σ}}\left(\underset{n=1}{\overset{N}{\Σ}}\right(m_{c,n}{b}_{c,n}^a)+\underset{n=1}{\overset{N}{\Σ}}(\left(M_{c,n}-m_{c,n}\right)b_{c,n}^s\left)\right)$

其中，

i)price_k表示第k(1≤k≤K)个网络服务提供商的单位带宽成本；

ii)λ_n,k,c表示λ_n,k中分配到云数据中心c的部分请求；

iii)s_n表示应用n的每个请求的大小；

iv)M_c,n表示云数据中心c中对应于应用n的物理服务器的总数；

v)表示云数据中心c中每个开启的对应于应用n的物理服务器的能量成本；

vi)表示云数据中心c中每个备用的对应于应用n的物理服务器的能量成本。

进一步，所述分布异地云数据中心中成本可感知的请求调度模型，是典型的混合整数线性规划模型。

进一步，通过网络服务提供商k的所有的请求的总带宽需求不能超过该网络服务提供商的带宽容量限制，即：

$\underset{n=1}{\overset{N}{\Σ}}\underset{c=1}{\overset{C}{\Σ}}\left({\mathrm{\λ}}_{n,k,c}{s}_n\right)\≤{\mathrm{ISP}}_k^{BWCap}$

其中，

i)表示网络服务提供商k的带宽容量限制。

进一步，应用n的请求的平均响应时间要小于用户指定的应用n的响应时间约束，即：

$\frac{1}{m_{c,n}{\mathrm{\μ}}_{c,n}-{\mathrm{\λ}}_{c,n}}+\frac{1}{{\mathrm{\μ}}_{c,n}}\≤{\mathrm{RT}}_n^{user}$

其中，

i)表示用户指定的应用n的响应时间约束。

进一步，云数据中心c中开启的对应于应用n的物理服务器的个数要小于对应的限制M_c,n，即：

m_c,n≤M_c,n

进一步，为了保证M/M/m的排队系统的稳定性，云数据中心c的应用n的请求到达率要小于所有云数据中心c中对应于应用n的所有物理服务器的处理能力，即：

${\mathrm{\&lambda;}}_{c,n}=\underset{k=1}{\overset{K}{\&Sigma;}}{\mathrm{\&lambda;}}_{n,k,c}<m_{c,n}{\mathrm{\&mu;}}_{c,n}$

进一步，每个应用n的请求都需要得到处理，即：

${\mathrm{\&lambda;}}_n=\underset{c=1}{\overset{C}{\&Sigma;}}{\mathrm{\&lambda;}}_{c,n}=\underset{c=1}{\overset{C}{\&Sigma;}}\underset{k=1}{\overset{K}{\&Sigma;}}{\mathrm{\&lambda;}}_{n,k,c}$

其中，

i)λ_n表示应用n的请求到达率。

进一步，采用有效界限的舍入方法将混合整数线性规划模型转化为典型的线性规划问题。通过求解该线性规划问题，获得成本可感知的请求调度策略。

本发明的优点在于：

1.通过将云数据中心中应用建模为一个先来先服务的M/M/m的排队系统，能够正确估算应用请求的响应时间，从而可以有针对性地保证排队系统的稳定性、满足请求的响应时间约束和网络服务提供商的带宽容量限制要求等。

2.能够实现分布异地云数据中心下成本可感知的请求调度，通过利用网络带宽成本和能量成本的地理多样性，能够选取合适的网络服务提供商和确定每一个云数据中心开启的服务器个数，从而最小化分布异地云数据中心提供商的运维成本，并保证用户应用请求的性能要求。

附图说明

图1一种分布异地云数据中心下成本可感知的请求调度方法组成示意图；

图2分布异地云数据中心架构图。

具体实施方式

下面将给出一种分布异地云数据中心下成本可感知的请求调度方法的具体步骤。

第一步建立一种针对分布异地云数据中心中应用的排队系统模型

云数据中心中的每个应用被建模为一个先来先服务的M/M/m的排队系统。在该排队系统中，每个物理服务器的服务时间独立同分布地服从指数分布。此外，假定每个应用的请求的到达过程满足泊松分布。表示请求在该M/M/m的排队系统的队列中等待的概率。ART_c,n表示云数据中心c中应用n的每个请求的平均响应时间，可以由下式(1)计算得到。

${\mathrm{ART}}_{c,n}=\frac{P_{c,n}^Q}{m_{c,n}{\mathrm{\&mu;}}_{c,n}-{\mathrm{\&lambda;}}_{c,n}}+\frac{1}{{\mathrm{\&mu;}}_{c,n}}---\left(1\right)$

假定在每个云数据中心的每个应用的M/M/m的排队系统中，总是有请求在等待接受处理，即公式(1)中的值为1。因此，ART_c,n可以由下式(2)计算得到。

${\mathrm{ART}}_{c,n}=\frac{1}{m_{c,n}{\mathrm{\&mu;}}_{c,n}-{\mathrm{\&lambda;}}_{c,n}}+\frac{1}{{\mathrm{\&mu;}}_{c,n}}---\left(2\right)$

ρ_c,n表示云数据中心c中的每个应用n的M/M/m的排队系统的服务强度。由排队论可知，一个M/M/m的排队系统能够保持稳定的前提是ρ_c,n＜1。因此，可以得到下式(2)。

${\mathrm{\&rho;}}_{c,n}=\frac{{\mathrm{\&lambda;}}_{c,n}}{m_{c,n}{\mathrm{\&mu;}}_{c,n}}<1---\left(3\right)$

第二步建立一种考虑到网络带宽成本和能量成本的地理多样性的目标函数

本发明建立一种目标函数TotalCost来计算分布异地云数据中心提供商的运维成本(包括网络带宽成本和能量成本)。TotalCost的具体定义方式在下式(3)中给出。

$TotalCost=\underset{k=1}{\overset{K}{\&Sigma;}}\left({\mathrm{price}}_k\right(\underset{n=1}{\overset{N}{\&Sigma;}}\underset{c=1}{\overset{C}{\&Sigma;}}\left({\mathrm{\&lambda;}}_{n,k,c}{s}_n\right)\left)\right)+\underset{c=1}{\overset{C}{\&Sigma;}}\left(\underset{n=1}{\overset{N}{\&Sigma;}}\right(m_{c,n}{b}_{c,n}^a)+\underset{n=1}{\overset{N}{\&Sigma;}}(\left(M_{c,n}-m_{c,n}\right)b_{c,n}^s\left)\right)---\left(4\right)$

第三步建立分布异地云数据中心中成本可感知的请求调度模型

分布异地云数据中心中成本可感知的请求调度可以形式化为问题(P1)，如下式(5)：

$\underset{{\mathrm{\&lambda;}}_{n,k,c},m_{c,n}}{Min}\{TotalCost=\underset{k=1}{\overset{K}{\&Sigma;}}\left({\mathrm{price}}_k\right(\underset{n=1}{\overset{N}{\&Sigma;}}\underset{c=1}{\overset{C}{\&Sigma;}}\left({\mathrm{\&lambda;}}_{n,k,c}{s}_n\right)\left)\right)+\underset{c=1}{\overset{C}{\&Sigma;}}\left(\underset{n=1}{\overset{N}{\&Sigma;}}\right(m_{c,n}{b}_{c,n}^a)+\underset{n=1}{\overset{N}{\&Sigma;}}(\left(M_{c,n}-m_{c,n}\right)b_{c,n}^s\left)\right)\}---\left(5\right)$

$\begin{array}{cc}s.t.& \underset{n=1}{\overset{N}{\&Sigma;}}\underset{c=1}{\overset{C}{\&Sigma;}}\left({\mathrm{\&lambda;}}_{n,k,c}{s}_n\right)\&le;{\mathrm{ISP}}_k^{BWCap}\end{array}---\left(6\right)$

$\frac{1}{m_{c,n}{\mathrm{\&mu;}}_{c,n}-{\mathrm{\&lambda;}}_{c,n}}+\frac{1}{{\mathrm{\&mu;}}_{c,n}}\&le;{\mathrm{RT}}_n^{user}---\left(7\right)$

m_c,n≤M_c,n (8)

${\mathrm{\&lambda;}}_{c,n}=\underset{k=1}{\overset{K}{\&Sigma;}}{\mathrm{\&lambda;}}_{n,k,c}<m_{c,n}{\mathrm{\&mu;}}_{c,n}---\left(9\right)$

${\mathrm{\&lambda;}}_n=\underset{c=1}{\overset{C}{\&Sigma;}}{\mathrm{\&lambda;}}_{c,n}=\underset{c=1}{\overset{C}{\&Sigma;}}\underset{k=1}{\overset{K}{\&Sigma;}}{\mathrm{\&lambda;}}_{n,k,c}---\left(10\right)$

m_c,n∈N⁺,λ_n,k,c≥0 (11)

在问题(P1)中，目标函数TotalCost表示分布异地云数据中心提供商的运维成本(包括网络带宽成本和能量成本)。约束式(6)表示通过网络服务提供商k的所有的请求的总带宽需求不能超过该网络服务提供商的带宽容量限制。约束式(7)表示应用n的请求的平均响应时间要小于用户指定的应用n的响应时间约束。约束式(8)表示云数据中心c中开启的对应于应用n的物理服务器的个数要小于对应的限制M_c,n。约束式(9)表示为了保证M/M/m的排队系统的稳定性，云数据中心c的应用n的请求到达率要小于所有云数据中心c中对应于应用n的所有物理服务器的处理能力。约束式(10)保证所有接受的应用n的请求都得到处理。约束式(11)表示所有决策变量的定义域。

第四步建立一种有效界限的舍入方法

本发明建立一种有效界限的舍入方法将混合整数线性规划问题转化为一个典型的线性规划问题。将约束式(7)转化为将m_c,n近似为将约束式(8)中的m_c,n替换为可得约束式(8)变为替换约束式(9)中的决策变量m_c,n。约束式(9)变为而约束式(7)说明大于因此，约束式(9)可以从问题(P1)中直接删除掉。通过以上变换，原问题(P1)可转化为如下的线性规划问题(P2)。

$\begin{array}{c}\begin{array}{cc}\underset{{\mathrm{\&lambda;}}_{n,k,c}}{Min}& TotalCost=\underset{k=1}{\overset{K}{\&Sigma;}}\left({\mathrm{price}}_k\right(\underset{n=1}{\overset{N}{\&Sigma;}}\underset{c=1}{\overset{C}{\&Sigma;}}\left({\mathrm{\&lambda;}}_{n,k,c}{s}_n\right)\left)\right)\end{array}\\ +\underset{c=1}{\overset{C}{\&Sigma;}}\left(\underset{n=1}{\overset{N}{\&Sigma;}}\right(\left(\frac{1}{{\mathrm{\&mu;}}_{c,n}{\mathrm{RT}}_n^{user}-1}+\frac{{\mathrm{\&lambda;}}_{c,n}}{{\mathrm{\&mu;}}_{c,n}}\right)b_{c,n}^a)+\underset{n=1}{\overset{N}{\&Sigma;}}(\left(M_{c,n}-\left(\frac{1}{{\mathrm{\&mu;}}_{c,n}{\mathrm{RT}}_n^{user}-1}+\frac{{\mathrm{\&lambda;}}_{c,n}}{{\mathrm{\&mu;}}_{c,n}}\right)\right)b_{c,n}^s\left)\right)\end{array}---\left(12\right)$

$\begin{array}{cc}s.t.& \underset{n=1}{\overset{N}{\&Sigma;}}\underset{c=1}{\overset{C}{\&Sigma;}}\left({\mathrm{\&lambda;}}_{n,k,c}{s}_n\right)\&le;{\mathrm{ISP}}_k^{BWCap}\end{array}---\left(13\right)$

${\mathrm{\&lambda;}}_{c,n}\&le;M_{c,n}{\mathrm{\&mu;}}_{c,n}-\frac{{\mathrm{\&mu;}}_{c,n}}{{\left({\mathrm{\&mu;}}_{c,n}\right)}^2{\mathrm{RT}}_n^{user}-1}---\left(14\right)$

${\mathrm{\&lambda;}}_n=\underset{c=1}{\overset{C}{\&Sigma;}}{\mathrm{\&lambda;}}_{c,n}=\underset{c=1}{\overset{C}{\&Sigma;}}\underset{k=1}{\overset{K}{\&Sigma;}}{\mathrm{\&lambda;}}_{n,k,c}---\left(15\right)$

λ_n,k,c≥0 (16)

第五步给出一种成本可感知的请求调度策略

通过求解在第四步转化后的线性规划问题，从而解决分布异地云数据中心提供商的运维成本最小化问题，获得成本可感知的请求调度策略。通过为每个应用的请求同时指定网络连接提供商和确定每个云数据中心中开启的服务器个数，能够最小化分布异地云数据中心提供商的运维成本。

Claims (10)

1.一种分布异地云数据中心下成本可感知的请求调度方法，其特征在于，该方法包括如下步骤：

1)根据分布异地云数据中心下用户请求的特点，基于排队论将每个云数据中心中每个应用建立为一种先来先服务的M/M/m的排队系统，从而正确计算每个云数据中心中每个应用请求的平均响应时间；

2)在1)的基础上，设计一种考虑到网络带宽成本和能量成本的地理多样性的目标函数，从而计算分布异地云数据中心提供商的运维成本(包括网络带宽成本和能量成本)。

3)在1)和2)的基础上，考虑排队系统的稳定性、用户的响应时间约束、物理服务器的个数限制、网络服务提供商的带宽容量限制等因素，建立分布异地云数据中心中成本可感知的请求调度的混合整数线性规划模型；

4)在3)的基础上，采用有效界限的舍入方法将混合整数线性规划模型转化为典型的线性规划问题；

5)求解4)中的线性规划问题，获得成本可感知的请求调度策略，通过为每个应用的请求同时指定网络连接提供商和确定每个云数据中心中开启的服务器个数，能够最小化分布异地云数据中心提供商的运维成本(包括网络带宽成本和能量成本)。

2.根据权利要求2所述的一种分布异地云数据中心下成本可感知的请求调度方法，其特征在于，所述针对每个云数据中心中每个应用的排队系统为一个先来先服务的M/M/m模型，并且该模型中每个云数据中心c(1≤c≤C)中每个应用n(1≤n≤N)的请求平均响应时间为：

其中，

i)ART_c,n表示云数据中心c中应用n的每个请求的平均响应时间；

ii)m_c,n表示云数据中心c中对应于应用n的开启的物理服务器的个数；

iii)μ_c,n表示云数据中心c中对应于应用n的每一个物理服务器的平均服务率；

iv)λ_c,n表示云数据中心c中应用n的请求到达率。

3.根据权利要求1所述的一种分布异地云数据中心下成本可感知的请求调度方法，其特征在于，所述一种考虑到网络带宽成本和能量成本的地理多样性的目标函数TotalCost的具体定义方式为：

其中，

i)price_k表示第k(1≤k≤K)个网络服务提供商的单位带宽成本；

ii)λ_n,k,c表示λ_n,k中分配到云数据中心c的部分请求；

iii)s_n表示应用n的每个请求的大小；

iv)M_c,n表示云数据中心c中对应于应用n的物理服务器的总数；

v)表示云数据中心c中每个开启的对应于应用n的物理服务器的能量成本；

vi)表示云数据中心c中每个备用的对应于应用n的物理服务器的能量成本。

4.根据权利要求1所述的一种分布异地云数据中心下成本可感知的请求调度方法，其特征在于，所述分布异地云数据中心中成本可感知的请求调度模型，是典型的混合整数线性规划模型。

5.根据权利要求1所述的一种分布异地云数据中心下成本可感知的请求调度方法，其特征在于，通过网络服务提供商k的所有的请求的总带宽需求不能超过该网络服务提供商的带宽容量限制，即：

其中，

i)表示网络服务提供商k的带宽容量限制。

6.根据权利要求1所述的一种分布异地云数据中心下成本可感知的请求调度方法，其特征在于，应用n的请求的平均响应时间要小于用户指定的应用n的响应时间约束，即：

其中，

i)表示用户指定的应用n的响应时间约束。

7.根据权利要求1所述的一种分布异地云数据中心下成本可感知的请求调度方法，其特征在于，云数据中心c中开启的对应于应用n的物理服务器的个数要小于对应的限制M_c,n，即：

m_c,n≤M_c,n

8.根据权利要求1所述的一种分布异地云数据中心下成本可感知的请求调度方法，其特征在于，为了保证M/M/m的排队系统的稳定性，云数据中心c的应用n的请求到达率要小于所有云数据中心c中对应于应用n的所有物理服务器的处理能力，即：

9.根据权利要求1所述的一种分布异地云数据中心下成本可感知的请求调度方法，其特征在于，每个应用n的请求都需要得到处理，即：

其中，

i)λ_n表示应用n的请求到达率。

10.根据权利要求1所述的一种分布异地云数据中心下成本可感知的请求调度方法，其特征在于，采用有效界限的舍入方法将混合整数线性规划模型转化为典型的线性规划问题。通过求解该线性规划问题，获得成本可感知的请求调度策略。