CN109271232B - 一种基于云计算平台的集群资源分配方法 - Google Patents

Abstract

本发明提供了一种基于云计算平台的集群资源分配方法，包括以下步骤：S1，采集负载数据，并进行负载预测；S2，计算未来时段负载变动量及负载持续时间；S3，判断负载变动量及负载持续时间是否超过阀值，不超过返回步骤S2,超过则触发分配决策；S4,判断负载水平，负载水平高面向平衡负载的分配，负载水平低面向节能负载的分配；S5,计算分配规模，包括复制目的地决策和迁移目的地决策；本发明通过虚拟化集群资源的分配，规划虚拟机和物理机之间的映射，并根据系统运行状况进行调整，以将虚拟化的资源合理的分配给集群中的服务节点，优化系统性能和能耗，保证服务质量。

Description

一种基于云计算平台的集群资源分配方法

技术领域

本发明涉及网络负载调度领域，具体涉及一种基于云计算平台的集群资源分配方法。

背景技术

地理信息系统(GIS)与互联网的结合，拓展了的新领域和新途径，极大的促进了地理空间信息的应用推广，网络集群继承了计算机集群的特点，保证了服务和应用的稳定，极大的缓解了服务端压力，同时方便扩展,本发明基于服务器虚拟化的网络集群的应用模型和关键技术的实现方法提出了一种基于集群负载预测的资源动态分配技术，解决集群中虚拟资源的动态分配问题，实现符合应用特点的负载均衡算法。

数据中心出于保证服务质量的考量，往往会配置高性能服务器，有调查表明，相当数量的数据中心中节点使用率长期出于低位，甚至低于，从而形成了能源的浪费和资源的闲置。即使数据中心整体负载降低到一个较低水平时，物理机器的能耗也没有得到及时而有效的调整。虚拟化技术近年来呈快速发展趋势，已经被各行业的数据中心广泛应用。采用虚拟化技术，可以实现多台虚拟机共享一台物理机器的资源，使得物理机资源得到有效的使用而各个虚拟机又能够互相独立。虚拟化技术的这个固有特性，可以让数据中心在不影响服务质量的前提下来控制能源消耗，均衡负载，提高资源利用率。

目前虚拟机资源分配(包括内存和网络等)多采用静态的方式，即根据应用需要，事先对物理机资源进行划分，得到的虚拟机资源都是固定的。这就需要管理员事先对需求和资源进行预估，根据经验实施分配，过度分配和分配不足的问题不可避免。但在实际的应用中，系统对软硬件资源的需求是不断变化的，资源预留的多少都会造成资源的短缺或浪费。管理人员可以通过监控虚拟机，获取需求峰值，对虚拟机资源进行调整，是一个人工干预的过程，难免受到主观和客观因素的影响，往往不能达到理想的效果。主要表现两方面：

1、虚拟化管理软件一般都有设定虚拟机资源分配的最大和最小值的功能，使管理员能够在具体应用中，根据不同服务或用户的优先级对资源实现更合理的分配。虚拟机对较大的负载变动缺乏灵活的适应性。

2、另一项重要的资源分配技术是虚拟机迁移。通过迁移虚拟机镜像可以实现负载的整合，即将虚拟系统动态的部署到尽可能少的物理服务器上，腾空出来的的物理服务器就可以关闭或者调整为低耗能状态，从而降低数据中心整体能耗。

但它没有考虑系统运行过程中的资源使用的动态变化，无法通过在线方式进行决策，使它的应用范围受限，该技术的软件使用费用也相当惊人。

发明内容

针对现有技术的不足，本发明提供了一种基于云计算平台的集群资源分配方法，通过虚拟化集群资源的分配，规划虚拟机和物理机之间的映射，并根据系统运行状况进行调整，以将虚拟化的资源合理的分配给集群中的服务节点，优化系统性能和能耗，保证服务质量。

为实现上述目的，本发明采用如下技术方案：

一种基于云计算平台的集群资源分配方法，包括：

S1,采集负载数据，并进行负载预测；

S2，计算未来时段负载变动量及负载持续时间；

S3,判断负载变动量及负载持续时间是否超过阀值，不超过返回步骤S2,超过则触发分配决策；

S4,判断负载水平，负载水平高面向平衡负载的分配，负载水平低面向节能负载的分配；

S5,计算分配规模，包括复制目的地决策和迁移目的地决策。

优选的，所述S1中负载预测需要实现对集群资源负载状况进行采样，采用的对象有CPU,内存和I/O使用的负载。

优选的，所述S2中负载持续时间的阀值T_sus表示为：其中，T_i为迁移一台虚拟机耗费的时间，k是调整系数(k>1),T_sus表示所有需要迁移的虚拟机耗费时间的总和。

优选的，所述负载持续时间阀值内的负载观测点数表示为：其中S为负载观察周期。

优选的，所述负载变动量阀值L_sus＝Min(△d₁₂，△d₁₃，...，△d_ij)，其中△d_ij为负载聚类中心和中心之间的距离。

优选的，所述T_sus时间内平均负载变动量△L_sus表示为：

其中，n_now是当前时刻对应的观察点序号，P[i]是负载预测值数组，X为当前时刻实际的负载值。

优选的，所述S5中待分配的虚拟机数量表示为：

其中，L_i表示负载级别对应的聚类中心值，N_run为正在运行的虚拟机数量，N_ava为剩余可用的虚拟机数量。

优选的，所述S5中待分配的物理机数量表示为：

其中，M_total为全部可用物理机的数量。

优选的，所述分配算法采用最少优先的算法，即将虚拟机逐次进行分配，每次挑选运行虚拟机数量最少的物理机，直至分配完毕。

本发明提供的一种基于云计算平台的集群资源分配方法的有益效果在于：

本发明通过虚拟机放置策略问题的研究，在对象服务集群负载的观测和数据记录基础上，对该数据进行时间序列建模，包括了序列平稳化处理、模型识别和定阶等步骤和实际的数据分析，得出了负载数据的时间序列模型公式，并对负载进行了预测测试。

对预测值的聚类分析，是负载分类的数据基础，也是分配算法的依据。在负载预测的基础上，提出了虚拟资源分配的一种新技术，对技术的实现思路、管理框架进行了文字描述，对技术流程和分配算法分别作了图形化和形式化的描述。

本发明针对现有的虚拟机资源分配和调度技术进行研究和分析，提出一种基于预测的分配方法，该方法针对系统运行状态的历史数据进行时间序列分析建模，根据模型对未来的资源需求进行预测，从而根据预测结果进行虚拟机资源的预分配，然后根据实际应用的数据给出了建模过程。

最后，将分配技术进行了实验尝试，将实验结果和预测数据进行了简单的对比和分析，实验证明该技术一定程度上提高到了物理资源利用率并降低了能耗，达到了预期的效果。

附图说明

图1为本发明的虚拟资源分配流程图；

图2为本发明的虚拟资源分配框架图；

图3为本发明的一个观测周期内预测负载图；

图4为本发明的一个观测周期内实际负载图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整的描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。本领域普通人员在没有做出创造性劳动前提下所获得的所有其他实施例，均属于本发明的保护范围。

实施例：一种基于云计算平台的集群资源分配方法。

一种基于云计算平台的集群资源分配方法，包括：

S1,采集负载数据，并进行负载预测；

S2，计算未来时段负载变动量及负载持续时间；

S3,判断负载变动量及负载持续时间是否超过阀值，不超过返回步骤S2,超过则触发分配决策；

S4,判断负载水平，负载水平高面向平衡负载的分配，负载水平低面向节能负载的分配；

S5,计算分配规模，包括复制目的地决策和迁移目的地决策。

虚拟化集群资源的分配，就是要规划好虚拟机和物理机之间的映射，并根据系统运行状况进行调整，以将虚拟化的资源合理的分配给集群中的服务节点，分配的最终目标，就是要优化好系统性能和能耗，保证服务质量。

虚拟资源分配技术的实现，基于以下思路和原则进行：

①启用了负载均衡策略

构建该框架的一个基础是，集群在运行中已经启用了负载均衡策略，应用层的负载迁移在这里就不用过多考虑。

②定制统一的虚拟机分配单元[分配单元，即集群在进行物理资源分配时，按照能满足一个服务实例运行所需资源大小来划分的一个虚拟机。]。

为增强分配调度的弹性，集群中各虚拟机的物理资源采用大致相同的标准，以满足服务需求的最低标准进行配置，使集群的虚拟机数量尽可能多。该集群为一种对等式集群，各节点的服务内容一致，故可采用统一标准，在软硬件匹配方面，一个虚拟节点上配置一个服务实例。

③放置时机的选择基于负载预测来确定。

负载预测，需要实现对集群资源负载状况进行采样，一般来说，采用的对象有CPU，内存和I/O使用的负载。考虑到虚拟环境下I/O使用受限于存储结构，不容易通过优化算法来提升性能，CPU利用率一般跟内存使用状况是一致的，这里选取CPU利用率作为负载指标。基于确定①的基础，单个节点的负载情况大致一样，这里的研究对象不是单个节点负载，而是整个集群的总负载。

④放置目标的规划是基于负载预测结果的基础上进行。

对负载情况，先根据历史负载对负载进行聚类分析，在此基础上进行负载状况分级，而后对负载状况进行定级。根据负载级别，确定分配规模，即需要迁移或者复制放置的虚拟机数量。待分配的虚拟机，是统一人小的分配单元，因而简化了放置目标问题的难度，可以使用通用的调度算法将其分配到各物理机上。

⑤根据负载情况事先作分配的大粒度决策

在负载较高的时候，主要矛盾是要保证QoS，解决性能问题，这时决策的目标是按需增加虚拟节点，增强服务能力，使负载达到平衡；在负载较低的时候，能耗上升为主要矛盾，此时的决策的目标是整合虚拟资源，调低物理机功率甚至关停部分物理机，以减少能源消耗。

⑥分配的行为的频率不宜高

因为虚拟机的迁移或复制过程会占用一定的系统资源，且对正在运行应用有一定的干扰，频繁的分配活动会得不偿失。在做放置时机的决策时，不仅要考虑负载状况，也要考虑负载状况持续的时间，如果持续时机低于设定的阀值，决策的结果是不采取任何分配调度行为。

本发明对于长期性、规律性的虚拟化集群负载进行观察、采样和分析，使用统计的方法，建立集群负载的时间序列模型，为实现虚拟资源分配提供决策支持，并设计虚拟资源分配的框架，如图2所示。框架包括3个模块。

其中，监控管理器周期性的获取集群各个虚拟节点上负载信息及各物理节点的资源使用和可用信息，这些信息会被分配决策器采用，作为决策的依据。分配决策时先要进行负载的预测，根据预测的结果可以得出虚拟机分配的放置时机，并且要做初次决策：判定分配的目的是提高性能还是降低能耗。接下来根据分配目的分别做虚拟机放置目的地的规划，通过对负载的聚类分析和分级处理，得出需要迁移或者复制虚拟机的目标和数量，最后通过最少优先的分配方式进行放置目的地的选择。迁移管理器根据分配决策，向虚拟化管理器发出指令，执行虚拟机的迁移或复制。

分配的实现流程围绕着两个决策进行，即分配时机决策和放置目的地决策，如图1所示。决策的关键和首要依据是负载预测的结果。

分配时机的决策是一个持续不断的循环过程，须从负载变化量和持续时间两个维度来考虑。负载变动只有足够大，大到足够从一个负载级别跳转到另外一个级别，才触发分配操作，否则会产生频繁的和无谓的分配操作，这里设负载变动量阀值为L_sus。此外，发生变动旳负载持续时间也必须达到一定的阀值，这个值取决于虚拟机迁移所要耗费的时间，超过了这个阀值，则迁移获得的好处才足以抵消迁移的时间代价，这里设持续时间值为T_sus。具体到算法流程，可以探测在时间阀值的时间段内负载的变动量，看这个变动量是否达到变动量的阀值，来决定是否触发接下来的分配操作。

放置目的地决策时，先判断负载水平如果是高负载会通过复制方式增加虚拟机数量，反之通过迁移整合虚拟机，减少物理机使用。负载级别是对负载预测值做聚类分析后作出的负载量级分类，分配规模决定了要进行多少分配单元的迁移或复制，根据负载级别来进行规划。放置目的地选择原本是一个NP-Hard问题，这里将问题简化为将N个虚拟机分配到M个物理机上，解决问题的难度大大降低，这里釆用最少优先算法予以解决。

S1中负载预测需要实现对集群资源负载状况进行采样，采用的对象有CPU,内存和I/O使用的负载。

S2中负载持续时间的阀值T_sus表示为：其中，T_i为迁移一台虚拟机耗费的时间，k是调整系数(k>1),T_sus表示所有需要迁移的虚拟机耗费时间的总和。

负载持续时间阀值内的负载观测点数表示为：其中S为负载观察周期。

负载变动量阀值L_sus＝Min(△d₁₂，△d₁₃，...，△d_ij)，其中△d_ij为负载聚类中心和中心之间的距离。

T_sus时间内平均负载变动量△L_sus表示为：

其中，n_now是当前时刻对应的观察点序号，P[i]是负载预测值数组，X为当前时刻实际的负载值。

S5中待分配的虚拟机数量表示为：

其中，L_i表示负载级别对应的聚类中心值，N_run为正在运行的虚拟机数量，N_ava为剩余可用的虚拟机数量。

S5中待分配的物理机数量表示为：

其中，M_total为全部可用物理机的数量。

分配算法采用最少优先的算法，即将虚拟机逐次进行分配，每次挑选运行虚拟机数量最少的物理机，直至分配完毕

在基于预测的虚拟机资源分配技术应用的前提下，对实验的服务器做了性能釆样记录，釆集了各服务器负载的状况，采样频率为1Hz，持续时间阀值为1小时。经过原始数据的处理，得出了服务器负载预测值与实际运行情况的对比图。

参照图3和图4来看，可得知：

①系统总的负载变得更加平缓，CPU总体利用率得到提高。

②虚拟机发生过几次聚合的迁移，减少了物理服务器总体的能耗。

③负载呈现出更多和更大的抖动，某些抖动间隔时长大概为1小时，跟分配策略的实施有一定的关联性。

实验证明该技术一定程度上提高到了物理资源利用率并降低了能耗，达到了预期的效果。

以上所述为本发明的较佳实施例而已，但本发明不应局限于该实施例和附图所公开的内容，所以凡是不脱离本发明所公开的精神下完成的等效或修改，都落入本发明保护的范围。

Claims (6)

1.一种基于云计算平台的集群资源分配方法，其特征在于，包括：

S1,采集负载数据，并进行负载预测；

S2,计算未来时段负载变动量及负载持续时间；

S3,判断负载变动量及负载持续时间是否超过阈值，不超过返回步骤S2,超过则触发分配决策；

S4,判断负载水平，负载水平高面向平衡负载的分配，负载水平低面向节能负载的分配；

S5,计算分配规模，包括复制目的地决策和迁移目的地决策；

对负载情况，先根据历史负载对负载进行聚类分析，在此基础上进行所述负载情况分级，而后对所述负载情况进行定级，根据负载级别，确定分配规模，即需要迁移或者复制放置的虚拟机数量；

从负载变化量和持续时间两个维度来考虑，设负载表动量阈值为L_sus，当负载变动超过L_sus时，负载从一个负载级别跳转到另外一个级别，才触发分配操作，此外，发生变动旳负载持续时间也必须达到一定的阈值，这里设持续时间值为T_sus，这个值取决于虚拟机迁移所要耗费的时间，当所耗费时间超过了T_sus则迁移足以抵消其时间代价，具体到算法流程，可以探测在时间阈值的时间段内负载的变动量，看这个变动量是否达到变动量的阈值，是则出发分配决策，否则返回步骤S2。

2.如权利要求1所述的基于云计算平台的集群资源分配方法，其特征在于：所述S1中负载预测需要实现对集群资源负载状况进行采样，采用的对象有CPU,内存和I/O使用的负载。

3.如权利要求2所述的基于云计算平台的集群资源分配方法，其特征在于：所述S2中负载持续时间的阈值T_sus表示为：其中，T_i为迁移一台虚拟机耗费的时间，k是调整系数，k>1。

4.如权利要求3所述的基于云计算平台的集群资源分配方法，其特征在于：所述负载持续时间阈值内的负载观测点数表示为：其中S为负载观察周期。

5.如权利要求4所述的基于云计算平台的集群资源分配方法，其特征在于：所述负载变动量阈值L_sus＝Min(△d₁₂，△d₁₃，...，△d_ij)，其中△d_ij为负载聚类中心和中心之间的距离。

6.如权利要求5所述的基于云计算平台的集群资源分配方法，其特征在于：所述T_sus时间内平均负载变动量△L_sus表示为：

其中，n_now是当前时刻对应的观察点序号，P[i]是负载预测值数组，X为当前时刻实际的负载值。