CN103412635A - 数据中心节能方法及装置 - Google Patents

Abstract

本发明公开了一种数据中心节能方法，所述方法为将数据中心的服务器端与网络端进行共同优化的方法，具体包含以下步骤：收集网络端和服务器端负载信息；根据当前服务器端负载情况，为用户新提交的应用任务制定相应的虚拟机放置到服务器的方案；根据当前网络端负载情况，为虚拟机间的数据的传输选择适当的路径。同时，本发明还公开了一种数据中心节能装置，包括以下模块：数据搜集模块，用于收集网络端和服务器端负载信息；服务器分配模块，用于根据当前服务器端负载情况，为用户新提交的应用任务制定相应的虚拟机放置到服务器的方案；网络路径分配模块，用于根据当前网络端负载情况，为虚拟机间的数据的传输选择适当的路径。

Description

数据中心节能方法及装置

技术领域

本发明涉及工业信息化节能领域，特别涉及一种数据中心节能方法及装置。

背景技术

在数据中心中，不论是在线应用，如网络搜索，还是后台任务，如以可扩展的分布式文件系统为代表的分布式文件存储系统和以MapReduce为代表的分布式计算等，都运行在大规模分布式计算平台上。同时随着数据中心规模的不断扩大和网络拓扑胖树的应用，导致运营商能耗成本逐年增加。有数据显示，全球范围内，数据中心能耗总量大约占到了全球耗电总量的8%；根据Gartner的报告，数据中心的能源消耗占到总运营成本的25%左右。

目前已有的解决方案可以分为两类，一类是节能路由类方案，基本思想是当网络轻负载时将网络流集中，关闭空闲的网络设备，典型方案有弹性树方案，能量感知路由方案和软件定义网络。另一类则是通过数据中心虚拟化和任务调度的方法来减少网络传输流量和开销。这两种方法能降低能效，但都不是特别理想。导致数据中心存在能源浪费的原因主要有两点：1）当数据中心任务负载较小时，许多的服务器和交换机处于轻负载状态而没有休眠，而机器满负荷工作和空载的能源消耗差别并不大。2）不合理的任务分配和网络中的流调度会导致数据中心整体运行时间的增加，能耗也会随之增加。

至今没有一个将服务器和网络进行联合优化的方案，所以，现有的数据中心能耗优化方案都不能满足目标数据中心能耗优化的理想要求。

发明内容

（一）要解决的技术问题

本发明的目的在于解决目前没有一个将服务器和网络进行联合优化的方案，也就是目前无法同时满足优化网络和服务器端的任务分配的方案，导致现有数据中心能耗优化方案不能满足目标数据中心能耗优化的理想要求的问题。

（二）技术方案

本发明采用如下技术方案：

一种数据中心节能方法，为将数据中心的服务器端与网络端进行共同优化的方法，所诉方法包含以下步骤：

1）收集网络端和服务器端负载信息；

2）根据当前服务器端负载情况，为用户新提交的应用任务制定相应的虚拟机放置到服务器的方案；

3）根据当前网络端负载情况，为虚拟机间的数据的传输选择适当的路径。

优选的，所述步骤2）中制定相应的数据分配到服务器的方案的方法为，使用改进型k切模型作为种子的模拟退火算法。

进一步的，所述的改进是将指定子集大小的不平衡的模型转换为平衡的模型后，即引入额外的节点后使得K切模型的结果由指定大小且不等分转换为等分的方法后，再用平衡的最小K切算法求解。

更近一步的，所述的引入额外节点的方法为，引入指定数量的大节点和空节点，并将大节点间的权值设置为无穷大。

优选的，所述步骤3）中为虚拟机间的数据的传输选择适当的路径的方法为，综合运行中的交换机数量与其运行时间安排虚拟机间的数据使用适当路径传输的方法。

进一步的，所述的综合交换机运行数量与其运行时间的方法为，使用贪心流度算法选择出最优传输路径。

更进一步的，所述的贪心流度算法为循环检查每条数据流的潜在通行路径，通过评估函数找出该流对应的最佳路径并选择该路径进行传输，逐条流进行处理的贪心算法。

更近一步的，所述的评估函数使用算式

$B^{\′}\mathrm{fi}=\frac{B^{\′}\mathrm{lj}}{(N^{\′}\mathrm{lj}-i)},0\≤i\≤N^{\′}\mathrm{lj}-1$

$\mathrm{Tfi}=\left\{\begin{array}{c}\frac{\mathrm{Sfi}-\mathrm{Sf}(i-1)}{\mathrm{Bfi}}+\mathrm{Tf}(i-1),i\≥1\\ \frac{\mathrm{Sfi}}{\mathrm{Bfi}},i=0\end{array}\right.$

其中l代表链路，f代表流，下标i、j、k为标号，代表第i、j、k个元素，T代表运行时间，S代表流的大小，B代表带宽，N代表流数链路，j上的流的标号i从0开始直至N，B’fi代表的是第i-1号流传输完毕后，第i号流当前的带宽，B’lj剩余的可用来平分的链路带宽,链路j上的流的标号i从0开始直至N’lj-1，共N’lj条流。

一种数据中心节能装置，包括以下模块：

1）数据搜集模块，用于收集网络端和服务器端负载信息；

2）虚拟机放置模块，用于根据当前服务器端负载情况，为用户新提交的应用任务制定相应的虚拟机放置到服务器的方案；

3）流调度模块，用于根据当前网络端负载情况，为虚拟机间的数据的传输选择适当的路径。

（三）有益效果

本发明采用将数据中心的服务器端与网络端进行共同优化的方法，使用，使用数据搜集模块，收集网络端和服务器端负载信息，然后使用服务器分配模块，根据当前服务器端负载情况，为用户新提交的应用任务制定相应的虚拟机放置到服务器的方案，最后使用网络路径分配模块，根据当前网络端负载情况，为虚拟机间的数据的传输选择适当的路径的方法，解决了目前无法同时满足优化网络端和服务器端的任务分配的方案，导致现有数据中心能耗优化方案不能满足目标数据中心能耗优化的理想要求的问题。

附图说明

图1是本发明的一种数据中心节能方法的流程图；

图2是本发明的一种数据中心节能装置的示意图。

具体实施方式

下面结合附图和实施例，对本发明的具体实施方式做进一步描述。以下实施例仅用于说明本发明，但不用来限制本发明的范围。

本法实施例采用如图1所示的一种数据中心节能方法的流程图，和如图2所示的一种数据中心节能装置的示意图，具体实施方式如下。实施例子基于OpenFlow协议，以说明本发明的实际效应。

本实现基于OpenFlow协议。我们设计并实现了绿流控制器，并依靠现有的OpenFlow控制器进行流调度和获得网络信息，依靠现有的数据中心应用控制器获得应用请求和进行虚拟机放置，从而实现这种服务器和网络联合优化节能的机制。

在数据中心网络的网络端，我们设计并实现了流调度算法-贪心流度算法。最优的流调度算法是为每条流找到合适的路径，使得网络能耗最小；同时保证每条流在它的截止时间之前完成传输。为了减少网络能耗，网络控制器在做流调度时，整个网络的交换机的数量及其工作时间的长度都需要被考虑，总工作时长越短，便可认为能耗越小，但现有的流调度算法并不能很好的处理这些问题。我们所设计的贪心流度算法，通过让网络控制器作定期轮询并进行流调度来优化流传输时的路径，完成网络端的节能优化。每次轮询中，流调度模块基于收集到的流状态和网络拓扑信息，用贪心流度算法做出最优化处理。贪心流度算法的具体过程是循环检查每条流的每条路径，通过评估函数找出该流对应的最佳路径并选择该路径进行传输。

流调度部分是网络端的节能，因此考虑的是交换机的能耗，流调度是周期性进行的。

能耗公式可表示为E＝∑_s∈SPs*Ts,S代表交换机的组合，Ps为交换机s的功率，Ts为交换机s的运行时间，假设所有交换机的功率大小相同，因此Ts越小则总能耗越小。问题转化为最小化交换机的运行时间。

一台交换机的运行时间取决于与其相连的链路的运行时间，如下公式（1）所示，只有与其相连的链路均空闲，该交换机才可睡眠，此时交换机的工作时长不再增加。同时认为无论与交换机相连的链路是全在工作还是只有一条在工作，该交换机的功率均视为相同，即只要在工作状态功率就不变。而一条链路的运行时间取决于该链路上运行时间最长的流的时间，如下公式（2）所示，因为流的传输是并行的，只有传输时间最长的流传输完毕，该链路才可空闲。

下标s代表交换机（switch），l代表链路（link），f代表流（flow）,下标i、j、k为标号，代表第i、j、k个元素，T代表运行时间，因此有

Tsk＝max_li∈sk(Tlj)   （1）

Tlj＝max_fi∈lj(Tfi)   （2）

式中的lj∈sk表示链路j与交换机k相连，fi∈lj表示流i经过链路j。

因此求交换机的运行时间转化为求每条流的运行时间Tfi。首先，由于不涉及带宽分配的控制，因此正常情况下链路上的流应基于TCP协议自由竞争带宽，若不考虑实际的波动而仅考虑稳定后的结果，在评估时应将这些流视为平分链路带宽。此外，如果流的带宽处于瓶颈状态且导致其瓶颈的链路非当前链路，即该流因其他链路而处于当前的瓶颈状态，如果计算时发现平分后的带宽大于瓶颈带宽，则这些瓶颈流的带宽不变，仍为原瓶颈带宽，如果参与分配将导致其带宽增大，但其实际已处于瓶颈状态无法增大；如果计算时发现平分后的带宽小于瓶颈带宽，则这些处于瓶颈的流参与链路带宽的均分，且该段链路成为造成其瓶颈的链路。对于每条链路来说，只需计算经过该链路的流的运行时间即可，首先要计算当前所有流评分链路带宽后的平均值avg，Blj代表第j号链路的带宽，Bfi代表第i号流的瓶颈带宽，N代表流的数量。

avg=Blj/Nlj  （3）

之后循环遍历每条流，对于avg>Bfi的流，使用下述公式将其从总链路带宽中减去，计算结果B’lj为剩余的可用来平分的链路带宽，对于avg<Bfi的流，则参与剩余链路带宽的平分。计算剩余链路带宽的公式为：

B′lj＝Blj-∑_{fi∈lj,avg>Bfi}Bfi  （4）

剩余参与平分链路带宽的流首先按流的大小升序排列，然后按下述两个公式计算流的运行时间，N’代表参与平分的流数,S代表流的大小（Size），链路j上的流的标号i从0开始直至N’lj-1，共N’lj条流，B’在公式后的解释中详述。

$B^{\&prime;}\mathrm{fi}=\frac{B^{\&prime;}\mathrm{lj}}{(N^{\&prime;}\mathrm{lj}-i)},0\&le;i\&le;N^{\&prime;}\mathrm{lj}-1---\left(5\right)$

$\mathrm{Tfi}=\left\{\begin{array}{c}\frac{\mathrm{Sfi}-\mathrm{Sf}(i-1)}{B^{\&prime;}\mathrm{fi}}+\mathrm{Tf}(i-1),i\&GreaterEqual;1\\ \frac{\mathrm{Sfi}}{B^{\&prime;}\mathrm{fi}},i=0\end{array}\right.---\left(6\right)$

对上述公式的理解如下，首先，剩余的流会参与剩余带宽的平分，由于流按大小升序排列，因此排在前面的流会先完成，之后剩余的流将重新平分链路带宽，且重新平分的带宽比之前平分的带宽大，此过程即对应公式（5），公式（5）从第0号流开始，逐步减小分母代表剩余的流越来越少，所以剩余的流的带宽越来越大。上述描述过程表示流的带宽是一直在变化的，B’fi代表的是第i-1号流传输完毕后，第i号流当前的带宽，此处的B’fi的作用主要用于配合公式（6）递归的计算第i号流的运行时间。

当第i-1号流传输完毕时，第i号流的带宽将增大，而在此之前，第i号流与第i-1号流是以同样的带宽传输了同样的时间。流并行传输且平分带宽，因此计算第i号流的传输时间时可以使用公式（6）中的第一部分公式，即Tfi等于Tf(i-1)加上该流剩余的传输流量（Sfi-Sf(i-1)）除以B’fi，此式子的第一部分Tf(i-1)表示第i号流与第i-1号流共同运行的时间，（Sfi-Sf(i-1)）表示在Tf（i-1）的时间内，第i号流与第i-1号流共同传输，已传输了Sf（i-1）的流量，剩余的流量即为（Sfi-Sf(i-1)），这部分流量再按之前提到的B’fi的带宽进行传输，（Sfi-Sf(i-1)）/B’fi即得到剩余部分的传输时间。

由于网络端进行流调度采用的是逐条流进行处理的方式，这实际上是一种贪心算法的实现，与以往的研究不同之处在于一方面将交换机的工作时长做为调度的依据，而不是传统的只考虑交换机的数量，另一方面相比于传统的模拟退火这类在解空间中寻找最优解的方法，贪心算法可以在更短的时间内获得近似最优解，满足在线处理的时间需求。计算机模拟显示，在一个有上万条大的数据流的数据中心里，相比较与传统的流调度算法，我们的实时近似的流调度算法可节省30%-60％的网络能耗。

在数据中心网络的服务器端，，每当用户提交一个新任务时进行一次虚拟机放置。绿流控制器会从OpenFlow控制器处获得当前的网络状态信息。当新的任务被提交到应用控制器时，应用控制器将请求提交给绿流控制器，由绿流控制器计算虚拟机的放置结果，最后返回给应用控制器进行实际的放置。分配虚拟机时，首先使用我们改进过的最小平衡K切模型的解做为种子，该解通过一个名为Chaco工具包求得，然后使用模拟退火算法在给定时间内从初始解出发，以期找到一个尽量优的解，使用的评估函数为整个数据中心的能量消耗。

每台服务器根据内存、CPU等资源被划分为多个槽，每个槽可以放置一台虚拟机，所有的槽视为等价的。

在最小K切模型中，其目标为将有权无向图G（V，E）划分为K份，使得每个子图间的边的权值之和最小。而虚拟机的放置问题可以被等价为该模型。在虚拟机放置问题中，顶点V即为每个虚拟机，边E即为虚拟机的流量矩阵，如果两台虚拟机间有流量的传输，则代表这两台虚拟机的顶点间有边，且其边的权值即为两台虚拟机的通信流量。通过上述对应关系即可将虚拟机的放置问题转化为最小K切问题，其目标为将待分配的虚拟机划分为K份，使得这K份虚拟机之间的通信流量最小，其中，K为物理机的数量，每份的大小受限于对应物理机的空闲槽数量。注意，通信流量最小和节能有一定关系，但并不存在直接关系，比如通过进一步的调整可以最大化工作中的交换机的使用率，减少使用的交换机等，因此此处求出的解仅仅做为模拟退火的初始解。由于每台物理机的空闲槽数量可能不同，因此这是一个指定子集大小的不平衡最小K切问题。

最小K切问题本身是一个NP问题，而指定子集大小的不平衡最小K切问题相对于平衡的最小K切问题更加难以求解，因此我们通过改进的最小K切模型将指定子集大小的不平衡最小K切模型转化为平衡的最小K切模型。

相对于之前的指定子集大小的不平衡最小K切模型，平衡的最小K切模型的区别在于划分后每个子图的节点数量均为n/k。

在我们的改进模型中，节点仍为虚拟机，边的权值仍为虚拟机间的传输流量，由于虚拟机的划分是按任务为单位，即来一个任务，则对该新任务的虚拟机进行放置，而之前的任务的虚拟机已放置好，此时不再改变其位置，因此，假设第i服务器的总槽数为pi,已被使用的槽数为ui，则剩余的空闲槽数为si，pi=ui+si，新任务实际上只能安放到这些空闲槽上。

由于服务器的总槽数pi可能不同，剩余的空闲槽数si也可能不同，如果直接进行虚拟机的安放，那么问题便成了将新任务带来的待安放的虚拟机分割成大小不一的结果，且这些结果受到每台服务器剩余空闲槽数大小的限制，问题便成为了指定子集大小的不平衡最小K切模型，为了将其转化为平衡最小k切问题，引入了大节点和空节点的概念。

大节点和空节点的引入是为了使得k切出来的每一份解大小相同，这两种节点只是为了参与切分，但切分后并不参与放置，即放置的内容为每一份解中的正常节点。接下来引入几个公式，bi代表第i台服务器参与切分时引入的大节点数，cut_size表示转化后的模型切分出来的每份解的大小，其他表示同之前的表述，带max下标的字母表示该类中的最大值，如smax代表所有服务器的空闲槽si中的最大值，min下标表示最小值，

bmin=smax+1      （7）

cut_size=bmin+smax   （8）

bi=cut_size-si      （9）

大节点可以对应到每台服务器已经分配出的槽，通过公式（7）可以看出，最小的bmin比最大的空槽数smax还要大，而由公式（8），每一份解的大小又为bmin+smax，所以其他的bi均大于bmin，任意两份大节点，bi+bj均小于cut_size，使得任意两个大节点无法被分到一个解中，同时由于公式（9），所有的bi均由cut_size–si获得，这样一方面引入了大节点使得所有服务器对应的cut_size均相等，另一方面任意两组大节点均无法被分到一起，即新引入的节点均能对应到每一台服务器而不会出现引入的两组节点被分到一块。

此外，为了保证每组大节点能被视为一组，即为了保证每组大节点中的点不会被划分开，在此处将每组大节点内的节点之间的权值（即传输流量）设为无穷大，如果这些点被分开那么会出现子图间的权值之和无穷大，即不满足平衡最小K切问题的解，因此设为无穷大之后，在进行求解时，这些点不会被切开。

空节点则代表每台服务器任务分配完毕后剩余的空闲槽。由公式（8）可以看出，每组解的cut_size=bi+si，但实际参与切分的图中并不是将空槽si直接放入图中，因为这些空槽在划分结束后，其组成应该是新分配过来的虚拟机加上分配完成后剩余的空槽，因此，整张待K切的大图的节点本来应该是∑bi+∑si，而现在的si将被拆分为新分配的虚拟机vi+分配后的空槽ni，即si＝vi+ni，因此∑si＝∑vi+∑ni，此处∑vi即为新任务引入的待分配的虚拟机,而∑ni即为空节点。

通过引入这两种节点即可将原指定子集大小的不平衡最小K切模型转化为平衡最小K切模型，我们称之为改进的平衡最小K切模型。

将放置问题转化为图的划分问题后，我们使用了Chaco-一个用于图的划分的工具包-对图进行划分，具体上，我们使用了Multilevel-KL的全局方法进行划分。

我们建立了一个Openflow试验床，16台服务器通过一个四端口的胖树拓扑相连。服务器上均跑有四台虚拟机。其中一台服务器作为控制端，上面运行着OpenFlow控制器和应用控制器。其它服务器作为服务器端。链路带宽均为1Gbps。我们在该胖树拓扑上进行了实验，由该控制端向服务器分配任务，虚拟机之间会请求不同大小的数据，并分别使用传统的调度方案和我们的方案，并比较两者的性能。实验结果表明，我们的相比较于传统的数据中心可节能40%，说明本发明达到了预期目的。

以上实施方式仅用于说明本发明，而并非对本发明的限制，有关技术领域的普通技术人员，在不脱离本发明的精神和范围的情况下，还可以做出各种变化和变型，因此所有等同的技术方案也属于本发明的保护范畴。

Claims (9)

1.一种数据中心节能方法，为将数据中心的服务器端与网络端进行共同优化的方法，其特征在于，所诉方法包含以下步骤：

1）收集网络端和服务器端负载信息；

2）根据当前服务器端负载情况，为用户新提交的应用任务制定相应的虚拟机放置到服务器的方案；

3）根据当前网络端负载情况，为虚拟机间的数据的传输选择适当的路径。

2.根据权利要求1所述的数据中心节能方法，其特征在于，所述步骤2）中制定相应的数据分配到服务器的方案的方法为，使用改进型k切模型作为种子的模拟退火算法。

3.根据权利要求2所述的数据中心节能方法，其特征在于，所述的改进是将指定子集大小的不平衡的模型转换为平衡的模型后，即引入额外的节点后使得K切模型的结果由指定大小且不等分转换为等分的方法后，再用平衡的最小K切算法求解。

4.根据权利要求3所述的数据中心节能方法，其特征在于，所述的引入额外节点的方法为，引入指定数量的大节点和空节点，并将大节点间的权值设置为无穷大。

5.根据权利要求1所述的数据中心节能方法，其特征在于，所述步骤3）中为虚拟机间的数据的传输选择适当的路径的方法为，综合运行中的交换机数量与其运行时间安排虚拟机间的数据使用适当路径传输的方法。

6.根据权利要求5所述的数据中心节能方法，其特征在于，所述的综合交换机运行数量与其运行时间的方法为，使用贪心流度算法选择出最优传输路径。

7.根据权利要求6所述的数据中心节能方法，其特征在于，所述的贪心流度算法为循环检查每条数据流的潜在通行路径，通过评估函数找出该流对应的最佳路径并选择该路径进行传输，逐条流进行处理的贪心算法。

8.根据权利要求7所述的数据中心节能方法，其特征在于，所述的评估函数使用算式

$B^{\&prime;}\mathrm{fi}=\frac{B^{\&prime;}\mathrm{lj}}{(N^{\&prime;}\mathrm{lj}-i)},0\&le;i\&le;N^{\&prime;}\mathrm{lj}-1$

$\mathrm{Tfi}=\left\{\begin{array}{c}\frac{\mathrm{Sfi}-\mathrm{Sf}(i-1)}{\mathrm{Bfi}}+\mathrm{Tf}(i-1),i\&GreaterEqual;1\\ \frac{\mathrm{Sfi}}{\mathrm{Bfi}},i=0\end{array}\right.$

其中l代表链路，f代表流，下标i、j、k为标号，代表第i、j、k个元素，T代表运行时间，S代表流的大小，B代表带宽，N代表流数链路，j上的流的标号i从0开始直至N，B’fi代表的是第i-1号流传输完毕后，第i号流当前的带宽，B’lj剩余的可用来平分的链路带宽,链路j上的流的标号i从0开始直至N’lj-1，共N’lj条流。

9.一种数据中心节能装置，其特征在于，包括以下模块：

1）数据搜集模块，用于收集网络端和服务器端负载信息；

2）虚拟机放置模块，用于根据当前服务器端负载情况，为用户新提交的应用任务制定相应的虚拟机放置到服务器的方案；

3）流调度模块，用于根据当前网络端负载情况，为虚拟机间的数据的传输选择适当的路径。

Images