CN111506431B - 一种云服务器在能耗约束下感知负载性能优化方法 - Google Patents

Abstract

本发明提供了一种云数据中心服务器在能耗约束下负载感知性能优化方法，主要涉及到电子信息和云计算等领域。本发明特征在于，包括如下模块：(1)对大规模云中心服务器的性能和功耗进行整体分析建模，将云中心服务器在能耗约束下感知负载性能优化问题转化成一个背包问题，同时将背包问题转化成一个有向无环图DAG；(2)根据任务到达率和任务迁移策略实时更新该DAG，然后使用改进的动态规划算法在DAG中遍历一条从源节点S到目的节点D之间的最短路径，最短路径上的频率值，即是问题最优的解，最后云服务器实时按照上述得到的频率值调节其运行速度，即可得到能耗约束下的最优性能；该方法能够感知负载变化，快速实现云中心服务器在能耗约束下最优的能量分配。

Description

一种云服务器在能耗约束下感知负载性能优化方法

技术领域

本发明涉及电子信息、云计算等领域，特别涉及到了一种云服务器在能耗约束下感知负载性能优化方法设计。

背景技术

数据中心是云计算的实现平台，为云计算服务提供强大的IT硬件支撑，特别是大规模云计算环境下，则需要建设专用的大型数据中心以承载复杂的云服务，如google、亚马逊等超大规模云中心，而由此产生的能耗问题成为云中心运营成本中首要考虑的因素之一。虽然近年来在低功耗服务器设计和数据中心能效优化等领域研究已经取得了显著进步，但随着数据中心规模不断扩大，其总体能耗仍然呈持续快速增长的趋势，如美国数据中心每年电力能耗占到全美电力的1.5％以上，同时产生的温室气体排放，对全球环境的影响也不容忽视。所以，不管是在能耗成本，还是在环保等方面，云中心的能耗问题对企业，乃至社会，都是一个极大的挑战。

因此，考虑到能源成本和环保方面的因素，云中心的能耗不能无限制的增长下去，其总能耗必将受到限制。那么，在可接受的能耗成本或者环保指数条件下，如何通过采取优化策略，使得整个云中心在有限能耗成本下最大化效益，将是云中心亟待解决的问题。

由于云计算数据中心服务器众多，并且用户请求一般具有随机性和快速性，同时部分服务器由于负载迁移可能会暂时休眠，所以在给定能耗约束条件下，能量分配方法需要灵敏的感知负载变化且快速收敛。考虑到云中心具有充足的计算资源，所以可以充分利用其计算优势，采用并行计算方式，通过实时感知负载的变化，快速实现云中心能量的分配，最大化系统的总体性能。

发明内容

本发明主要研究如何在能耗约束条件下，云中心通过灵敏的感知负载变化，优化系统的整体性能，特别是在大规模云数据中心环境下，设计一个高效而快速的能量分配方法。

为了实现发明的目的，本发明先对云中心服务器的能耗和性能分析建模，然后将能耗模型和性能建模结合起来，将问题定义成一个背包问题，通过将背包问题转化成一个有向无环图(DAG)，利用改进的动态规划算法在DAG中并行的遍历一条最短路径，最短路径上的频率值，即是该问题的最优解，也是云中心性能最优的运行频率。

本发明采用如下的技术。

s1.性能建模方法如下：假设云中心有n台服务器，记为集合S＝{s₁,s₂,…,s_n},每台服务器的运行频率记为f_i且每台服务器有m个可调频率,其运行频率，即速度集合记为F＝{f₁,f₂,…,f_n}；云中心用户请求模型一般分为两个阶段：请求以速率先到达云中心任务分配器和任务分配器采取任务调度策略将任务以的速率分配到相应的服务器中；考虑到问题的复杂度，本发明重点关注第二阶段的性能优化问题；假设每台服务器的请求负载到达服从速率为λ_i的泊松分布，服务器服务时间服从参数为μ_i的指数分布，且每台服务器相互独立。

按照上述假设，可以将云中心每台服务器的任务请求-处理过程视为排队过程，记为M/M/1，云中心服务器的性能可由任务的平均响应时间R表示，平均响应时间R可以表示为。

其中：

f_i表示服务器i的运行频率，f_i＝{f₁,f₂,…,f_n}，即服务器i有m个频率级别，τ_c表示服务器空闲之后的等待时间阈值，τ_s表示服务在关闭状态转为正常处理任务状态所用时间值。

s2.能耗建模方法如下：云中心服务器的功耗一般由静态功耗和动态功耗组成，动态功耗是由电容的开关功耗和CMOS元器件在高低跳变瞬间带来的内部功耗构成，与用户请求负载息息相关，这部分功耗是最主要的功耗，也是总功率中可动态调节的部分；静态功耗主要是漏电流产生，与电路设计息息相关，只要电路设计确定，那么其静态功耗就可以看作定值。

所以，本文只针对动态功耗进行研究，服务器i的动态功耗可以表示为。

其中，f_i表示服务器i的运行频率，f_i＝{f₁,f₂,…,f_n}，即服务器i有m个频率级别，τ_c表示服务器空闲之后的等待时间阈值，τ_s表示服务在关闭状态转为正常处理任务状态所用时间值。

因此，整个云中心的功耗可以表示为。

其中，g(f_i)＝p_i。

s3.问题定义如下：现假设云中心有n台服务器，运行频率记为f＝{f₁,f₂,…,f_n}，每台服务器有m个可调频率(F＝{F₁,F₂,…,F_n)，f∈F；则云中心服务器在能耗约束下性能优化问题可以描述为：在给定时刻，通过感知服务器的工作负载，采取相关策略，动态进行性能优化计算，每台服务器分别从F中选择一个合适的运行频率f_i，使得应用的平均响应时间最小而且总能耗不能超过给定功率约束P。

那么，该问题可以由如下数学公式表示。

从上述两个公式可以看出，该问题类似于经典的背包问题。n个服务器视为n组物品，每组有m种可选择的东西，每种物品根据其特点具有不同的价值和重量。相应的，云中心每个服务器选择其运行频率f_i，其功耗视为物品的重量，其响应时间视为其价值的相反数。在满足总功率不大于功率预算P的条件下，使得平均响应时间最小。

s4.构建DGA方法：基于以上定义的问题，将问题转化成一个有向无环图DAG，其中V表示节点，E表示边，共有m×(n-1)+2个节点，m表示每台服务器有m个可调频率级别，n表示有n台服务器，2表示两个虚拟节点，即s和d；每个节点有前向功率值、后向功率值和后向性能值三个属性，每个边有节点的能耗和性能两个属性。

s5.更新DAG方法：对于云中心性能模型，性能参数如λ_i需要实时监测并实时在线计算任务的平均响应时间R；同时由于任务调度原因，由于服务器i运行负载轻而被迫关闭，所以需要实时对网络图的边和节点进行更新，即实时增减DAG的节点和边，节点代表服务器，而边代表服务器对应的性能值和功率值，同时随着负载λ_i的变化，每个边的性能值和前向功率值皆进行更新。

s6.求解问题方法：动态规划算法能够很好的解决背包问题，但是云中心服务器数量规模庞大，传统的动态规划算法时间复杂度高，不利于实时计算；本发明设计一个改进的动态规划算法进行求解，云中心服务器性能优化问题的求解可以转化为在有向无环图中寻找从S到D之间的最短路径问题。

充分的利用利用云中心服务器的计算优势，借鉴并行计算思想，利用最短路径并行算法从目的节点D到源节点S反向并行搜索；在一次迭代中，当前阶段的每一个节点选择一条边，这条边的延迟值和阶段中对应节点已得到的延迟之和最小且满足功耗约束，同时用得到的延迟值更新当前阶段中对应节点的延迟值，在下一次迭代中，得到的最小延迟值被传递给前一个阶段中的所有节点，在每次迭代中，计算可以在多个计算单元同时完成，整个搜索可以在n次迭代内完成。

s7.在最短路径上的每个频率值，即是云中心服务器在当前负载条件下，想要达到性能最优的频率值，即是云服务器在能耗约束下感知负载，性能最优的解决方案。

附图说明

图1是发明所述方法的整体流程。

图2是发明所述方法的DAG图。

具体实施方式

基于以上的叙述，为了更形象的描述本发明内容，下面结合附图对发明做进一步说明，一种云服务器在能耗约束下感知负载性能优化方法，如图1所示，具体包含如下步骤。

s1.分析云中心服务器的整体情况，构建服务器能耗与其运行频率之间的关系，得到云中心服务器的能耗模型。

s2.构建任务到达率\运行频率与服务器的请求延迟之间的关系，得到云中心服务器的性能模型。

s3.利用这两个模型进行问题定义，将云中心服务器在能耗约束下的性能优化问题定义成一个背包问题。

s4.将背包问题转化成一个有向无环图DAG，并设置边和节点的属性值，构建有向无环图DAG如图2所示。

云中心动态功率分配有向无环图可以看作一个有向无环图(Directed AcyclicGraph，DAG)。动态功率分配有向无环图定义为D(V,E)，其中V表示节点，E表示边。图中共有m×(n-1)+2个节点，m表示每台服务器有m个可调频率级别，n表示有n台服务器，2表示两个虚拟节点，即s和d。

D(V,E)中每条边上有两个属性值：

和/>

表示当服务器的频率为时产生的响应时间。/>

表示当服务器的频率为时产生的能耗。

D(V,E)中每个节点有三属性值：前向功率值

表示从源节点s到当前节点v_i,j消耗的最小功率。后向功率值/>

表示从当前节点v_i,j到目的节点d的功率消耗。后向性能值/>

表示从当前节点v_i,j到目的节点d的平均响应时间。

D(V,E)中有n个阶段stage_i(0≤i≤n)，一个阶段表示一台正在运行的服务器。

s5.实时监测服务器的任务到达率，也可以设置监测频率，如果发生变化，则更新性能值；如果由于节能策略关闭服务器，则更新整个DAG，去除相应的边和节点；由于采用双向遍历的策略，所以需要实时更新节点前向功率值和性能值。

在某时刻，假设由于任务调度原因，服务器i运行负载轻而被迫关闭，那么在图2中，与

相连的边全部移除，同时在/>

和/>

之间重新建立新的关系(1≤i,k≤n,1≤i≤m)。

由于任务到达率的变化，所以需要确定DAG中的每个节点的前向功率值

和边的性能值/>

前向功率值计算如下。

其中，1≤i≤n,1≤j≤m，在stage 0中，

即stage 0为虚拟阶段，各个节点值和边的权重皆为0。

s6.将云中心服务器云中心最优化问题转化成图遍历问题，采用改进的动态规划算法，并行的在DAG中遍历S到D的最短路径，最短路径上的频率值f_i，即是服务器在能耗约束下的最优运行频率。

在本发明中，动态规划算法思想如下：现假设

表示服务器(1,2,3,…,i)分配各自运行频率f₁,f₂,…,f_i之后，在满足/>

和0≤p≤P条件下，前i个服务器产生的响应时间；那么，对于每个服务器的每个运行频率f_i，由动态规划转移方程可知：如果/>

那么R_i,p＝R_i-1,p，

否则

鉴于大型云数据中心服务器数量巨大，服务器的可调频率级别多，从而导致DAG遍历过程复杂，传统的算法会导致时间复杂度呈指数增长。

所以，本发明方法充分利用服务器的计算优势，借鉴并行计算思想，利用最短路径并行算法从目的节点D到源节点S反向并行搜索；在一次迭代中，当前阶段的每一个节点选择一条边，这条边的延迟值和阶段中对应节点已得到的延迟之和最小且满足功耗约束，同时用得到的延迟值更新当前阶段中对应节点的延迟值，在下一次迭代中，得到的最小延迟值被传递给前一个阶段中的所有节点，在每次迭代中，计算可以在多个计算单元同时完成，整个搜索可以在n次迭代内完成。

当遍历至源节点S时，在DAG中存在一条从源节点至目的节点的路径，该路径上边的性能值最小且满足给定的功率值，PATH_S,D表示从原节点S到目的节点D的路径集合。那么在最优路径上的每一个节点v_i,j，从v_i,j到v_i+1,k的最优路径(对应于最优的频率f)可以由下面的等式得到。

s7.最后云服务器实时按照得到的频率值调节其运行速度，即可得到能耗约束下的最优性能。

在相同环境下，通过将本发明所提出的方法和其他两个方法做对比，方法一：按照可用功率级别来构建一个P×(N+1)的DAG网络；方法二：按照云中心的服务器提供的服务类型进行分组，根据经验，每组中所有服务器运行频率相同，通过对比，发现本发明所提的方法均比其他两种方法好。

以上显示和描述了本发明的基本原理、主要特征和实现方法。需要理解的是，本发明并不局限于上述描述的特定实现方式，本领域的技术人员可以在权利要求范围内做出各种修改和优化，这并不影响本发明的实质内容。

Claims (1)

1.一种云服务器在能耗约束下感知负载性能优化方法，其特征在于，主要包含如下步骤：

对大规模云中心服务器的性能和功耗分别进行整体分析建模，云服务器能耗约束下感知负载性能优化问题转化成一个标准的背包问题，并将标准的背包问题转化成一个有向无环图DAG；根据任务到达率λ实时更新DAG，然后使用改进的动态规划算法在DAG中遍历一条最短路径，最短路径上的频率值，即是问题最优的解，云服务器按照得到的频率值调节其运行速度，即可得到能耗约束下的最优性能；

所述对大规模云中心服务器的性能和功耗分别进行整体分析建模，云服务器能耗约束下感知负载性能优化问题转化成一个标准的背包问题，并将标准的背包问题转化成一个有向无环图DAG，包括如下步骤：

性能模型：根据云中心的服务器的服务时间和任务到达率等参数，将云中心每台服务器的任务请求-处理过程视为排队过程，记为M/M/1，云中心服务器的性能可由任务的平均响应时间R表示：

其中h(f_i)＝1/(μ_i·f_i-λ_i)，

λ_i表示任务到达率，μ_i表示服务器的服务率，f_i表示服务器i的运行频率，f_i＝{f₁,f₂,…,f_n}，即服务器i有m个频率级别，τ_c表示服务器空闲之后的等待时间阈值，τ_s表示服务在关闭状态转为正常处理任务状态所用时间值；

功耗模型：云中心服务器的功耗一般由静态功耗和动态功耗组成，静态功耗可以看作定值，所以动态功耗可以表示为：

其中，g(f_i)＝p_i，

P₀为服务器最大功率，C为外设的平均功率，λ_i表示任务到达率，μ_i表示服务器的服务率，f_i表示服务器i的运行频率，f_i＝{f₁,f₂,…,f_n}，即服务器i有m个频率级别，τ_c表示服务器空闲之后的等待时间阈值，τ_s表示服务在关闭状态转为正常处理任务状态所用时间值；

问题定义：基于以上模型，本发明需要解决的问题可以描述为，在给定时刻，通过感知服务器的工作负载λ_i，采取相关策略，动态进行优化求解f_i，每台服务器按照f_i运行，使得应用的平均响应时间最小而且总能耗不能超过给定功率约束P，所述问题可以由如下数学公式表示：

其中P是云中心的总能量；

构建DAG：基于以上定义的问题，将问题转化成一个有向无环图DAG，其中V表示节点，E表示边，共有m×(n-1)+2个节点，m表示每台服务器有m个可调频率级别，n表示有n台服务器，2表示两个虚拟节点，即s和d，每个节点有前向功率值、后向功率值和后向性能值三个属性，每个边有节点的能耗和性能两个属性；

所述根据任务到达率λ实时更新DAG，然后使用改进的动态规划算法在DAG中遍历一条最短路径，最短路径上的频率值，即是问题最优的解，云服务器按照得到的频率值调节其运行速度，即可得到能耗约束下的最优性能，包括如下步骤：

更新DAG：由于任务调度原因，由于服务器i运行负载轻而被迫关闭，所以需要实时对网络图的边和节点进行更新，即实时增减DAG的节点和边，节点代表服务器，而边代表服务器对应的性能值和功率值，同时随着负载λ_i的变化，每个边的性能值和前向功率值皆进行更新；求解问题：动态规划算法能够很好的解决背包问题，但是云中心服务器数量规模庞大，传统的动态规划算法时间复杂度高，不利于实时计算，本发明设计一个改进的动态规划算法进行求解：在得到更新的DAG之后，云中心服务器性能优化问题的求解可以转化为在有向无环图中寻找从S到D之间的最短路径问题，可以充分利用云中心服务器的计算优势，借鉴并行计算思想，利用最短路径并行算法从目的节点D到源节点S反向并行搜索，在一次迭代中，当前阶段的每一个节点选择一条边，这条边的延迟值和阶段中对应节点已得到的延迟之和最小且满足功耗约束，同时用得到的延迟值更新当前阶段中对应节点的延迟值，在下一次迭代中，得到的最小延迟值被传递给前一个阶段中的所有节点，在每次迭代中，计算可以在多个计算单元同时完成，整个搜索可以在n次迭代内完成；

最后云服务器实时按照得到的频率值调节其运行速度，即可得到能耗约束下的最优性能。

Images