CN106657238A - 一种面向交互式工作负载的数据中心粗粒度动态服务器预留算法 - Google Patents

Abstract

云计算为云用户提供了一种全新的资源使用模式，能够以更低的成本运营互联网服务，云用户无需购买服务器，而是可以通过基础设施即服务(IaaS)技术，以相对较低的成本租用虚拟服务器；此外，大多数云提供商提供不同时间粒度上的虚拟机实例租赁服务，灵活运用这些服务，可有效降低云用户的运营成本；本发明一种面向交互式工作负载的数据中心粗粒度动态服务器预留算法，在百分比延迟的约束下，最小化虚拟化实例租赁成本，并提出了一种基于二维表和随机梯度法的资源学习算法来学习百分比延迟约束，同时，本发明给出了一种充分利用租赁服务多样性的粗粒度服务器预留算法，用来决定服务器租赁的策略。

Description

一种面向交互式工作负载的数据中心粗粒度动态服务器预留 算法

技术领域

本发明属于数据中心服务器调度与分配技术领域，特别涉及一种面向交互式工作负载的数据中心粗粒度动态服务器预留算法。

背景技术

随着云计算技术的成熟，出现了基础设施即服务(IaaS,Infrastructure as aService)的服务模式，使得互联网服务提供商不再需要自己购置硬件设备，而只需要从云提供商处租用相应的虚拟硬件资源即可。

云计算数据中心的系统架构如附图1所示。数据中心内部安放有许多物理服务器，根据物理服务器资源容量的大小，将一台服务器分为一台或多台虚拟机(VM，VirtualMachine)(附图1中仅标出虚拟机)。云用户向云服务提供商租赁虚拟机，以满足其终端用户的计算需求。为了降低任务请求响应时间，数据中心通常采用共享队列结构。

传统服务质量(QoS，Quality of Service)描述方式主要是以期望为基础的，如某个QoS指标的期望不能超过某一阈值。然而，人们逐渐发现仅仅基于期望的QoS描述是不够的，原因在于互联网流量显示出很强的自相似性，在不同时间尺度上存在与不同程度的突发，方差较大。因此，目前普遍采用的QoS描述形式是

Pr(r>th)<x (1)

其中，r为请求的QoS指标，th与x由服务等级协议(SLA，Service LevelAgreement)规定，分别为QoS指标的阈值与违约概率阈值。对于一个排队系统，目前只有泊松到达/泊松服务的排队系统中推导出了类似于公式(1)的解析表达式，而当终端用户到达为自相似过程时，还没有有效的方法对其进行描述。

目前主流的云提供商都支持不同级别的IaaS服务。例如，IaaS服务可分为两个层次：第一层为长期预留级，即云用户需与数据中心运营商签订长期服务器租赁合同(通常时间粒度为年)，第二层为短期预留级，即云用户可以小时为单位租赁服务器。仅使用长期预留的方式会产生极大的资源浪费，使资源租赁成本升高。而资源短期租用的单位成本又比长期租用高。因此，采用长期/短期资源租用相结合的方式可有效地降低资源租赁成本，减少资源浪费。从云用户的观点来看，资源租赁问题主要涉及两个方面：第一方面是确定每个时段中在满足SLA约束前提下的资源需求量，难点在于形式化描述具有自相似特征的SLA约束条件。第二方面是确定长期/短期租赁的资源数，需要找出一种算法，在尽量少的时间内找到可最小化总体资源租用成本的长期/短期混合资源租赁策略。

发明内容

为了克服上述现有技术的缺点，本发明的目的在于提供一种面向交互式工作负载的数据中心粗粒度动态服务器预留算法，在交互式工作负载的数据中心中，从云用户的角度出发，长期/短期混合实现粗粒度动态服务器租用，在百分比延迟的服务质量约束下，最大幅度的减少云用户的服务器租赁成本。

为了实现上述目的，本发明采用的技术方案是：

一种面向交互式工作负载的数据中心粗粒度动态服务器预留算法，建立长期/短期虚拟服务器租用问题通用优化模型如下：

约束条件：

其中，k₀为长期虚拟服务器租用数量，k_i,i≠0为阶段i租用的短期虚拟服务器数量，N为决策阶段数量，C_L为长期租赁一台虚拟服务器所需的单位时间成本，C_S为短期租赁一台虚拟服务器所需的单位时间成本，d_i为阶段i的响应时间，D为阈值，x为违约概率，Pr(d_i>D)表示系统响应时间大于某个阈值D的概率；

通过求解该模型函数，实现总体资源租用成本的最小化。

具体地，采用资源需求学习算法，用随机梯度法建立资源数/违约概率映射表VP_table；然后采用动态服务器租用算法，得到长期虚拟机租用数量M和各个阶段的短期虚拟机租用数量m[N]，从而求解所述模型函数。

所述资源需求学习算法包括：

A.建立VP_table，记该表中每个表项为VP_table[i][j]，含义为时段i内资源数量为j的前提下关于SLA需求的违约概率；

B.算法的输入为：1)SLA，包括响应时间阈值th与违约概率阈值x两个参数；2)训练迭代次数ITE；首先建立资源数量/违约概率映射表VP_table，并确定决策次数即时段数N与每个时段内统计响应时间的时间槽长度Γ，定义两个临时存储空间p[i][k]与counter，其中p[i][k]存储一次迭代过程中阶段i采用k个资源时违约概率的样本，counter存储一个阶段中违约的次数用于计算p[i][k]，η、i、k、j分别为迭代计数器、决策阶段计数器、资源计数器、以及一个决策阶段内的时间槽计数器；

C.将一个时段分为若干个时间槽，在一次迭代过程中，根据资源配置数k，统计时段i中时间槽j内的平均任务响应时间t[i][j][k]，若该响应时间大于SLA中所规定的响应时间阈值th，则计数器counter加1；当阶段i内所有的时间槽中的平均响应时间都统计出以后，资源配置k下的违约概率样本p[i][k]用公式计算，其中分母24/(N×Γ)的含义是一个时段内所包含的时间槽个数，最后，公式VP_table[i][k]＝(1-η)VP_table[i][k]+ηp[i][k]用随机梯度法更新VP_table中对应的表项，最终的输出是资源数量/违约概率映射表VP_table。

所述动态服务器租用算法是将寻找长期资源租赁数k的问题归结为如下函数的优化问题：

函数中的第一项是长期资源租用成本，第二项中为短期资源租用成本，[K[i]-k]⁺为阶段i的短期资源租用数量，运算符[x]⁺＝max{x,0}。

动态服务器租用算法包括：

第一部分：利用穷举法在VP_table表中搜寻每个阶段满足SLA所需的最少虚拟服务器数量，并将结果存储在数组K[N]中；

第二部分：求解函数针对该函数的每个分界点即数组K[N]中的每个元素进行求解，求解的结果为最优长期租用虚拟服务器数量M与最低成本目标函数值m；

第三部分：根据解得的M与K[N]数组，计算每个阶段所需的短期虚拟服务器租用数量。

动态服务器租用算法的最坏时间复杂度为N×(K+2)，其中K＝MIN_VSNUM-MAX_VSNUM为一常量，MIN_VSNUM与MAX_VSNUM分别为一事先指定的服务器数量的最小值与最大值。

与现有技术相比，本发明从云用户的角度，提出了一种面向交互式工作负载的粗粒度动态服务器预留算法，在百分比延迟的约束下，最小化虚拟化实例租赁成本。由于互联网流量表现出很强的自相似性，因此较难得到一个关于百分比延迟约束的解析解。为了解决此问题，本发明提出了一种基于二维表和随机梯度法的资源学习算法来学习百分比延迟约束。同时，本发明给出了一种充分利用租赁服务多样性的粗粒度服务器预留算法，用来决定服务器租赁的策略。

附图说明

图1是云计算系统中数据中心结构框架示意图。

具体实施方式

下面结合附图和实施例详细说明本发明的实施方式。

1.长期/短期虚拟服务器租用问题通用优化模型：

本发明中所使用到的符号及其含义如表1所示。长期/短期虚拟服务器租用优化问题可归结为：

约束条件：

其中，k₀为长期虚拟服务器租用数量，k_i,i≠0为阶段i租用的短期虚拟服务器数量，d_i为阶段i的响应时间，D为阈值，x为违约概率。

表1本章中用到的符号及其含义

该问题中，随机变量d_i的分布和外部终端用户到达λ_i与虚拟服务器数量k_i相关。

2.通过如下算法在尽量少的时间内找到可最小化总体资源租用成本的长期/短期混合资源租赁策略。

2.1资源需求学习算法：本发明设计以下资源需求学习算法，用随机梯度法建立资源数/违约概率映射表VP_table。

算法1：资源需求学习算法，包括：

输入：服务等级协议SLA，迭代次数ITE。

输出：VP_table。

算法使用随机梯度法学些VP_table表中的值。由于每天的工作负载具有较强的昼夜效应，因此可认为每天固定时刻的任务到达为稳态随机过程。算法对所有可能的决策进行模拟，并将模拟所得的违约概率样本存储在p[i][k]中。然后利用随机梯度法对VP_table中的表项进行更新(算法第15行)。当算法进行完毕ITE次迭代学习后，将VP_table返回，作为实时决策的依据。

A.建立资源数/违约概率映射表VP_table(violation probability table)。记该表中每个表项为VP_table[i][j]，含义为时段i内资源数量为j的前提下关于SLA需求的违约概率。

B.算法的输入为：1)SLA，包括响应时间阈值th与违约概率阈值x两个参数；2)训练迭代次数ITE。算法首先建立资源数量/违约概率映射表VP_table，并确定决策次数(时段数)N与每个时段内统计响应时间的时间槽长度Γ。由于Internet每天的流量具有很强的相似性(即diurnal pattern)，因此只需对一天之内的各个时段进行训练即可。此外，还需定义两个临时存储空间p[i][k]与counter。其中p[i][k]存储一次迭代过程中阶段i采用k个资源时违约概率的样本，counter存储一个阶段中违约的次数(用来计算p[i][k])。η、i、k、j分别为迭代计数器、决策阶段计数器、资源计数器、以及一个决策阶段内的时间槽计数器。

C.算法将一个时段分为若干个时间槽。在一次迭代过程中，根据资源配置数k，统计时段i中时间槽j内的平均任务响应时间t[i][j][k]。若该响应时间大于SLA中所规定的响应时间阈值th，则计数器counter加1。当阶段i内所有的时间槽中的平均响应时间都统计出以后，资源配置k下的违约概率样本p[i][k]可用公式(2)计算，其中分母24/(N×Γ)的含义是一个时段内所包含的时间槽个数。最后，公式(3)用随机梯度法更新VP_table中对应的表项。算法的输出是资源数量/违约概率映射表VP_table。

2.2动态服务器租用算法

得到资源数量/违约概率映射表VP_table以后，可得到时段i的资源需求量K[i]。此时，寻找长期资源租赁数k的问题，可以归结为如下优化问题：

目标函数中的第一项是长期资源租用成本，第二项中为短期资源租用成本([K[i]-k]⁺为阶段i的短期资源租用数量，运算符[x]⁺＝max{x,0})。问题(4)不是线性问题。但是，该问题是单自变量分段线性问题，其最优解必定出现在分段点上，因此易于求解。

算法2：动态服务器租用算法，包括：

输入：VP_table。

输出：长期虚拟机租用数量M，各个阶段的短期虚拟机租用数量m[N]。

算法使用随机梯度法学些VP_table表中的值。由于每天的工作负载具有较强的昼夜效应，因此可认为每天固定时刻的任务到达为稳态随机过程。算法对所有可能的决策进行模拟，并将模拟所得的违约概率样本存储在p[i][k]中。然后利用随机梯度法对VP_table中的表项进行更新(算法第15行)。当算法进行完毕ITE次迭代学习后，将VP_table返回，作为实时决策的依据。

动态虚拟服务器租用算法如算法2所示，可分为三部分：

第一部分(01-09行)利用穷举法在VP_table表中搜寻每个阶段满足SLA所需的最少虚拟服务器数量，并将结果存储在数组K[N]中。

第二部分(10-18行)求解问题(4)。针对问题(4)中目标函数的每个分界点(即数组K[N]中的每个元素)进行求解。求解的结果为最优长期租用虚拟服务器数量M与最低成本目标函数值m。

第三部分(19-21行)根据第二部分解得的M与K[N]数组，计算每个阶段所需的短期虚拟服务器租用数量。

算法2的最坏时间复杂度为N×(K+2)，其中K＝MIN_VSNUM-MAX_VSNUM为一常量。MIN_VSNUM与MAX_VSNUM分别为一事先指定的服务器数量最小值与最大值。

Claims (6)

1.一种面向交互式工作负载的数据中心粗粒度动态服务器预留算法，其特征在于，建立长期/短期虚拟服务器租用问题通用优化模型如下：

$\underset{k_i,i\&Element;\{0,...,N\}}{min}{k}_0\&times;N\&times;C_L+C_S\&times;\underset{i=1}{\overset{N}{\&Sigma;}}{k}_i$

约束条件：

$\mathrm{Pr}(d_i>D)<x,\&ForAll;i\&Element;\{1,...,N\}$

其中，k₀为长期虚拟服务器租用数量，k_i,i≠0为阶段i租用的短期虚拟服务器数量，N为决策阶段数量，C_L为长期租赁一台虚拟服务器所需的单位时间成本，C_S为短期租赁一台虚拟服务器所需的单位时间成本，d_i为阶段i的响应时间，D为阈值，x为违约概率；

通过求解该模型函数，实现总体资源租用成本的最小化。

2.根据权利要求1所述面向交互式工作负载的数据中心粗粒度动态服务器预留算法，其特征在于，采用资源需求学习算法，用随机梯度法建立资源数/违约概率映射表VP_table；然后采用动态服务器租用算法，得到长期虚拟机租用数量M和各个阶段的短期虚拟机租用数量m[N]，从而求解所述模型函数。

3.根据权利要求2所述面向交互式工作负载的数据中心粗粒度动态服务器预留算法，其特征在于，所述资源需求学习算法包括：

A.建立VP_table，记该表中每个表项为VP_table[i][j]，含义为时段i内资源数量为j的前提下关于SLA需求的违约概率；

B.算法的输入为：1)SLA，包括响应时间阈值th与违约概率阈值x两个参数；2)训练迭代次数ITE；首先建立资源数量/违约概率映射表VP_table，并确定决策次数即时段数N与每个时段内统计响应时间的时间槽长度Γ，定义两个临时存储空间p[i][k]与counter，其中p[i][k]存储一次迭代过程中阶段i采用k个资源时违约概率的样本，counter存储一个阶段中违约的次数用于计算p[i][k]，η、i、k、j分别为迭代计数器、决策阶段计数器、资源计数器、以及一个决策阶段内的时间槽计数器；

C.将一个时段分为若干个时间槽，在一次迭代过程中，根据资源配置数k，统计时段i中时间槽j内的平均任务响应时间t[i][j][k]，若该响应时间大于SLA中所规定的响应时间阈值th，则计数器counter加1；当阶段i内所有的时间槽中的平均响应时间都统计出以后，资源配置k下的违约概率样本p[i][k]用公式计算，其中分母24/(N×Γ)的含义是一个时段内所包含的时间槽个数，最后，公式VP_table[i][k]＝(1-η)VP_table[i][k]+ηp[i][k]用随机梯度法更新VP_table中对应的表项，最终的输出是资源数量/违约概率映射表VP_table。

4.根据权利要求2所述面向交互式工作负载的数据中心粗粒度动态服务器预留算法，其特征在于，所述动态服务器租用算法是将寻找长期资源租赁数k的问题归结为如下函数的优化问题：

$\underset{k}{min}N\&CenterDot;C_L\&CenterDot;k+\underset{i=1}{\overset{N}{\&Sigma;}}{\&lsqb;K\&lsqb;i\&rsqb;-k\&rsqb;}^{+}\&CenterDot;C_S$

函数中的第一项是长期资源租用成本，第二项中为短期资源租用成本，[K[i]-k]⁺为阶段i的短期资源租用数量，运算符[x]⁺＝max{x,0}。

5.根据权利要求4所述面向交互式工作负载的数据中心粗粒度动态服务器预留算法，其特征在于，所述动态服务器租用算法包括：

第一部分：利用穷举法在VP_table表中搜寻每个阶段满足SLA所需的最少虚拟服务器数量，并将结果存储在数组K[N]中；

第二部分：求解函数针对该函数的每个分界点即数组K[N]中的每个元素进行求解，求解的结果为最优长期租用虚拟服务器数量M与最低成本目标函数值m；

第三部分：根据解得的M与K[N]数组，计算每个阶段所需的短期虚拟服务器租用数量。

6.根据权利要求5所述面向交互式工作负载的数据中心粗粒度动态服务器预留算法，其特征在于，所述动态服务器租用算法的最坏时间复杂度为N×(K+2)，其中K＝MIN_VSNUM-MAX_VSNUM为一常量，MIN_VSNUM与MAX_VSNUM分别为一事先指定的服务器数量最小值与最大值。