CN107220108A - 一种实现云数据中心负载均衡的方法和系统 - Google Patents

Abstract

本发明提供一种实现云数据中心负载均衡的方法，该方法包含确定量化负载节点的度量指标、对物理设备和物理设备上的虚拟设备进行资源量化监控以确定物理设备的负载参数信息、将负载参数信息与最佳负载区间进行比较以确定负载均衡调整时机、根据所述负载参数信息确定物理设备的状态、以及根据物理设备的状态对虚拟设备进行负载均衡操作。本发明还提供一种实现云数据中心负载均衡的系统。本发明具有提高云资源利用率、减少系统额外的开销等优点。

Description

一种实现云数据中心负载均衡的方法和系统

技术领域

本发明涉及云计算技术领域，并且更具体地涉及一种实现云数据中心负载均衡的方法和系统。

背景技术

传统的数据中心以物理设备为基本单位向用户提供服务器租赁服务，云数据中心采用虚拟化技术搭建虚拟设备来取代传统的物理设备以作为向外提供服务的数据中心的基本单位。虚拟技术可以在一台物理设备上运行多台虚拟设备，提高物理设备的资源利用率。

云计算环境下，由于用户需求的多样性、动态变化性强以及服务器资源异构性强、规模大等原因，容易导致数据中心内物理设备间出现负载不均衡的情况：一部分物理设备出现负载过重、效率降低，而另一部分设备处于空闲状态，从而导致云资源的大量浪费。此外，由于资源分配不均，使得某些用户的用户体验效果大打折扣，如图1(a)所示。

虚拟设备迁移技术作为一种负载均衡技术，是在虚拟设备运行过程中，将整个虚拟设备的运行状态完整、快速地从原所在的宿主物理设备迁移到新的物理设备上，使数据中心能够快速地实现资源调度，从而提高了整个云数据中心的整体资源利用率，减少了资源的浪费。同时通过虚拟设备迁移技术将超负荷运行的物理设备上运行的虚拟设备迁移到合适的低负荷物理设备上，从而提高系统的运行效率。虚拟设备迁移调度示意图如图1(b)所示。

传统的虚拟设备迁移算法大多采用节点中一种代表性的资源使用情况作为当前节点的负载度量，然而，物理设备包含多种数据资源，采用单一负载度量指标容易导致负载度量不准确；进一步，在大多数情况下，未考虑数据中心的负载最佳饱和度，对云数据中心的负载均衡调整后空闲的物理设备没有进行处理；另外，由于用户请求和服务器负载的动态变化引起的负载瞬时峰值，传统的基于阈值的算法会导致虚拟机的不必要迁移，造成系统额外的开销。

发明内容

针对上述现有技术中存在的问题，本发明的目的在于提供一种云数据中心负载均衡的方法和系统，其可以解决传统的虚拟设备迁移算法带来的负载量化不足、负载瞬时峰值导致虚拟设备不必要的迁移的问题，同时，对调整后的物理设备负载情况进行评估，以更好地应对云数据中心负载的动态变化和虚拟设备分配问题。

根据本发明，提供一种云数据中心负载均衡的方法，该方法包括以下步骤：

步骤一：确定量化负载节点的度量指标；

步骤二：对物理设备和所述物理设备上的虚拟设备进行资源量化监控以确定所述物理设备的负载参数信息；

步骤三：将所述负载参数信息与最佳负载区间进行比较以确定负载均衡调整时机；

步骤四：根据所述负载参数信息确定所述物理设备的状态；

步骤五：根据所述物理设备的所述状态对所述虚拟设备进行负载均衡操作。

进一步地，所述负载均衡调整时机为：当所述负载参数信息超出所述最佳负载区间的上限值时，触发所述负载均衡操作。

进一步地，当所述负载参数信息超出所述最佳负载区间的上限时，进一步包括以下步骤：将P个时间周期内的负载参数信息的平均值作为初值，采用一次指数平滑法预测n个负载值，如果至少m个所述负载值不处于所述最佳负载区间，则触发负载均衡操作，其中n>3，m<n。

进一步地，进一步包括确定迁出虚拟设备的步骤：对于处于负载高状态的物理设备，根据高负载类型，按照负载由高到低的顺序对所述负载高状态的物理设备中的虚拟设备进行迁出，直至所述负载高状态的物理设备处于最佳负载状态。

进一步地，进一步包括确定接收待迁入的虚拟设备的物理设备的步骤：对于处于负载低状态的物理设备，根据低负载类型，按照负载由低到高的顺序将所述待迁入的虚拟设备迁入至所述负载低状态的物理设备。

进一步地，所述度量指标包含CPU、内存和/或网络带宽；和/或，所述负载参数信息包含CPU利用率、内存利用率和/或网络带宽利用率。

进一步地，在所述负载均衡操作之后，将系统负载饱和度与系统最佳负载饱和度进行比较来确定所述物理设备的负载分配情况。

进一步地，进一步包括以下步骤：

若所述系统负载饱和度位于所述系统最佳负载饱和度区间内，则无需进行任何操作；

若所述系统负载饱和度小于所述系统最佳负载饱和度的区间的下限值，则将负载最低的物理设备上的虚拟设备迁出，然后关闭所述负载最低的物理设备；

若所述系统负载饱和度大于所述系统最佳负载饱和度的区间的上限值，则需要向所述云数据中心申请新的物理设备。

本发明还提供一种实现云数据中心负载均衡的系统，所述系统包含资源监测模块、物理机分类模块、静态调整模块和动态调整模块，所述资源监测模块与所述物理机分类模块通信地连接，所述物理机分类模块与所述静态调整模块通信地连接，所述静态调整模块与所述动态调整模块通信地连接，其中，

所述资源监测模块包含数学建模模块、数据采集模块和负载计算模块，所述数据采集模块分别与所述数学建模模块和所述负载计算模块通信地连接；

所述静态调整模块包含第一源虚拟机选择模块、第一调整时机计算模块、第一目标物理机选择模块，所述第一调整时机计算模块分别与所述第一源虚拟机选择模块和所述第一目标物理机选择模块通信地连接；

所述动态调整模块包含饱和度计算模块、第二源虚拟机选择模块、第二调整时机计算模块和第二目标物理机选择模块，所述第二调整时机计算模块分别与所述饱和度计算模块、所述第二源虚拟机选择模块和所述第二目标物理机选择模块通信地连接。

本发明还提供一种计算机可读存储介质，其上存储有计算机程序(指令)，用于实现云数据中心负载均衡，其特征在于，所述程序(指令)被处理器执行时实现上述云数据中心负载均衡的方法。

本发明的有益技术效果为：本发明通过在整个云数据中心中均衡负载，能够均匀地分配云数据中心的资源，提高云数据中心的整体资源利用率、减少资源的浪费。同时，本发明通过考虑云数据中心的负载最佳饱和度，对云数据中心的负载均衡调整后空闲的物理设备进行处理，以避免不必要的迁移，减少云数据中心额外的开销。

附图说明

图1(a)为虚拟设备迁移前的内存利用率的示意图；

图1(b)为根据本发明的一个实施例的虚拟设备迁移后的内存利用率的示意图；

图2为根据本发明的另一实施例的云数据中心负载均衡方法的流程图；

图3为根据本发明的另一实施例的云数据中心负载均衡系统的结构框图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，下面结合附图，对本发明进行进一步详细说明。应当理解的是，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。

根据本发明，提供一种云数据中心负载均衡的方法，该方法包括以下步骤：

步骤一：确定量化负载节点的度量指标；

步骤二：对物理设备和物理设备上的虚拟设备进行资源量化监控以确定物理设备的负载参数信息；

步骤三：将负载参数信息与最佳负载区间进行比较以确定负载均衡调整时机；

步骤四：根据负载参数信息确定物理设备的状态；

步骤五：根据物理设备的状态对虚拟设备进行负载均衡操作。

进一步地，负载均衡调整时机为：当负载参数信息超出最佳负载区间的上限值时，触发负载均衡操作。

进一步地，当负载参数信息超出最佳负载区间的上限时，进一步包括以下步骤：将P个时间周期内的负载参数信息的平均值作为初值，采用一次指数平滑法预测未来的n个负载值，如果至少m个负载值不处于最佳负载区间，则触发负载均衡操作，其中n>3，m<n。

进一步地，进一步包括确定迁出虚拟设备的步骤：对于处于负载高状态的物理设备，根据高负载类型，按照负载由高到低的顺序对负载高状态的物理设备中的虚拟设备进行迁出，直至负载高状态的物理设备处于最佳负载状态。

进一步地，进一步包括确定接收待迁入的虚拟设备的物理设备的步骤：对于处于负载低状态的物理设备，根据低负载类型，按照负载由低到高的顺序将待迁入的虚拟设备迁入至负载低状态的物理设备。

进一步地，度量指标包含CPU、内存和/或网络带宽；和/或，负载参数信息包含CPU利用率、内存利用率和/或网络带宽利用率。

进一步地，在负载均衡操作之后，将系统负载饱和度与系统最佳负载饱和度进行比较来确定物理设备的负载分配情况。

进一步地，进一步包括以下步骤：

若系统负载饱和度位于系统最佳负载饱和度区间内，则无需进行任何操作；

若系统负载饱和度小于系统最佳负载饱和度的区间的下限值，则将负载最低的物理设备上的虚拟设备迁出，然后关闭负载最低的物理设备；

若系统负载饱和度大于系统最佳负载饱和度的区间的上限值，则需要向云数据中心申请新的物理设备。

具体来讲，图1(a)示出了虚拟设备迁移前云数据中心系统内存的利用率，物理设备1和物理设备2出现了负载过重、效率降低的情况，而物理设备3和物理设备4基本处于空闲状态。图1(b)示出了根据本发明阐述的负载均衡方法的虚拟设备迁移后的示意图，从图1(b)中可以看出，虚拟设备3(VM3)从物理设备1迁出并迁入物理设备3中，VM8从物理设备4迁出并迁入物理设备3中，由此，物理设备1、2、3的内存利用率大体相等，同时关闭物理设备4以节省云数据中心的系统资源，提高云数据中心整体的资源利用率，减少资源的浪费。

图2示出了根据本发明的另一实施例的云数据中心负载均衡方法的流程图。方法开始于框S201。在框S201，确定云数据中心所有物理设备的负载参数信息，例如CPU(中央处理单元)、内存和网络带宽的利用率，同时，采集虚拟设备的负载参数信息并计算每个物理设备上部署的虚拟设备的CPU、内存和网络带宽的总和(即云数据中心资源利用率)，然后，方法前进到框S202。

在框S202，定义最佳负载区间(例如，[0.7，0.8])，将在框S201中计算的资源利用率与最佳负载区间进行比较以确定资源利用率是否超过最佳负载区间的上限值，如果资源利用率超过最佳负载区间的上限值，则方法前进到框S203并触发负载均衡操作。如果资源利用率未超过最佳负载区间的上限值，则方法返回到框S201，继续定期采集物理设备和物理设备上的虚拟设备的负载信息。其中，最佳负载区间是指物理机性能表现最好时，其资源利用率的区间，该区间是根据物理设备自身的性质以及经验，人为定义的一个区间。

在框S203，为了解决瞬时负载峰值导致虚拟设备的不必要迁移，取最初P个周期(例如10秒)内的负载监控数据的平均值作为初值，然后采用一次指数平滑法来预测未来n(n为大于1的整数，例如n＝6)个周期的负载值，其中，平滑系数为0.6，然后，方法前进到框S204。在框S204，判断是否有m(m为小于n的正整数，例如m＝4)个预测的负载值超过负载最佳区间的上限值，如果不存在m个预测的负载值超过负载最佳区间的上限值，则方法返回到框S201，如果存在m个预测的负载值超过负载最佳区间的上限值，则方法前进到框S205。

在框S205，根据负载参数信息对物理设备进行分类并按照如下要求进行排序：

对于处于负载较高状态的物理设备，按照物理设备的负载由高到低的顺序进行排序；

对于处于负载较低状态的物理设备，按照物理设备的负载由低到高的顺序进行排序。

由此，确定需要迁出虚拟设备的物理设备和接收待迁入的虚拟设备的物理设备。然后，方法前进到框S206。

在框S206，将处于负载较高状态的物理设备中的虚拟设备迁移到处于负载较低状态的物理设备。具体来讲，根据物理设备的过高负载类型进行选择，若物理设备的CPU负载过高，则选择CPU需求最大的虚拟设备进行迁移；若物理设备的内存负载过高，则选择内存需求最大的虚拟设备进行迁移；若物理设备的网络带宽负载过高，则选择网络带宽需求最大的虚拟设备进行迁移。如果根据上述原则将需求最大的虚拟设备迁移后，该物理设备的负载仍然过高，则继续根据上述原则进行迁移，直至该物理设备的负载处于最佳负载状态。对于处于负载较低状态的物理设备，按照负载由低到高的顺序进行排序，并依据此顺序对该物理设备实施虚拟设备的迁入操作。然后，方法前进到框S207。

在框S207，为了解决传统负载均衡方法对物理设备负载实时动态变化考虑欠缺，导致频繁开启、关闭物理设备的问题，也为了更好地应对云数据中心负载的动态变化和虚拟设备分配需求。本发明给出了如下解决方案：通过系统负载饱和度来确定云数据中心物理设备的负载分配情况，进而采取相应的措施。具体地，首先，定义系统最佳饱和度区间(例如[0.85，0.9])，其次计算负载均衡调整后系统的饱和度，若系统的饱和度处于最佳饱和度区间内，则表明云数据中心的物理设备负载分配较合适，能够应对负载动态变化和虚拟设备分配需求；若系统的饱和度小于最佳饱和度区间的下限值，则表明云数据中心处于低负载状态的物理设备数量较多，则将负载最低的物理设备上的虚拟设备迁出(迁移的原则是接收被迁移的虚拟设备的物理设备的负载不超过最佳负载区间的上限值)，若该物理设备上的所有虚拟设备均被迁出，则关闭该物理设备。然后，重新计算系统的饱和度，重复上述过程，直至系统的饱和度处于最佳饱和度区间内；若系统的饱和度大于最佳饱和度区间的上限，则表明数据中心的物理设备负载过高，为了应对负载动态变化和虚拟机分配，需要向云数据中心申请新的物理设备。方法结束。其中，饱和度是指系统负载饱和度，即系统在某一时刻t，其资源利用率处于最佳负载区间的物理机与云数据中心所有物理机的比值，最佳饱和度区间也是人为定义的。

图3示出了根据本发明的另一实施例的云数据中心负载均衡系统的结构框图。如图3所示，系统包括依次通信地连接的资源监测模块、物理机分类模块、静态调整模块和动态调整模块，其中，资源监测模块包含数学建模模块、数据采集模块和负载计算模块，数据采集模块分别与数学建模模块和负载计算模块通信地连接，数学建模模块采用数学计算方式给出资源负载均衡调整的时机、要迁移的虚拟设备及其所在的物理设备、以及要迁入虚拟设备的物理设备，数据采集模块用于采集物理设备和虚拟设备的CPU、内存和网络带宽等负载参数信息，负载计算模块用于计算每台物理设备上部署的虚拟设备的CPU、内存、网络带宽的总和。物理机分类模块将对物理设备的状态进行分类，以识别物理设备处于负载高状态、负载低状态和最佳负载状态。静态调整模块包括源虚拟机选择模块、调整时机计算模块和目标物理机选择模块，调整时机计算模块分别与源虚拟机选择模块和目标物理机选择模块通信地连接，源虚拟机选择模块用于确定哪些虚拟设备需要迁移，目标物理机选择模块用于确定虚拟设备将被迁移到哪些物理设备上，调整时机计算模块用于确定何时将源虚拟设备迁移到目标物理设备上。动态调整模块包含饱和度计算模块、源虚拟机选择模块、调整时机计算模块和目标物理机选择模块，其中调整时机计算模块分别与饱和度计算模块、源虚拟机选择模块和目标物理机选择模块通信地连接，饱和度计算模块用于计算系统的负载饱和度、将系统的负载饱和度与最佳饱和度进行比较并将比较结果传送到调整时机计算模块，源虚拟机选择模块用于确定哪些虚拟设备需要迁移，目标物理机选择模块用于确定虚拟设备将被迁移到哪些物理设备上，调整时机计算模块用于确定何时将源虚拟设备迁移到目标物理设备上。

本发明还提供一种计算机可读存储介质，其上存储有计算机程序(指令)，用于实现云数据中心负载均衡，其特征在于，所述程序(指令)被处理器执行时实现上述云数据中心负载均衡的方法。

关于这里的过程、系统、方法等，应理解的是，虽然这样的过程中的步骤描述为按照一定的顺序排列发生，但这样的过程可以采用以这里描述的顺序之外的顺序完成的描述的步骤实施操作。进一步应该理解的是，某些步骤可以同时执行，可以添加其他步骤，或者可以省略这里的某些步骤。换言之，这里的过程的描述提供用于说明某些实施例的目的，并且不应该以任何方式解释为限制要求保护的发明。

相应地，应理解的是上面的描述的目的是说明而不是限制。在阅读上面的描述时，除了提供的示例外许多实施例和应用都是显而易见的。本发明的范围应参照所附权利要求以及与权利要求所要求的权利等效的全部范围而确定，而不是参照上面的说明而确定。可以预期的是这里所讨论的领域将出现进一步的发展，并且所公开的系统和方法将可以结合到这样的未来的实施例中。总之，应理解的是本发明能够进行修正和变化。

还应当理解的是，任何的过程或过程中的步骤可以与其它公开的过程或步骤组合以形成本公开范围内的结构。本文公开的示例性结构、和过程是为了说明的目的，而不应被解释为限制。

Claims (10)

1.一种实现云数据中心负载均衡的方法，其特征在于，所述方法包含以下步骤:

步骤一：确定量化负载节点的度量指标；

步骤二：对物理设备和所述物理设备上的虚拟设备进行资源量化监控以确定所述物理设备的负载参数信息；

步骤三：将所述负载参数信息与最佳负载区间进行比较以确定负载均衡调整时机；

步骤四：根据所述负载参数信息确定所述物理设备的状态；

步骤五：根据所述物理设备的所述状态对所述虚拟设备进行负载均衡操作。

2.根据权利要求1所述的方法，其特征在于，所述负载均衡调整时机为：当所述负载参数信息超出所述最佳负载区间的上限值时，触发所述负载均衡操作。

3.根据权利要求2所述的方法，其特征在于，所述方法在所述负载参数信息超出所述最佳负载区间的上限时，进一步包括以下步骤：将P个时间周期内的负载参数信息的平均值作为初值，采用一次指数平滑法预测n个负载值，如果至少m个所述负载值不处于所述最佳负载区间，则触发负载均衡操作，其中n>3，m<n。

4.根据权利要求2或3所述的方法，其特征在于，进一步包括确定迁出虚拟设备的步骤：对于处于负载高状态的物理设备，根据高负载类型，按照负载由高到低的顺序对所述负载高状态的物理设备中的虚拟设备进行迁出，直至所述负载高状态的物理设备处于最佳负载状态。

5.根据权利要求2或3所述的方法，其特征在于，进一步包括确定接收待迁入的虚拟设备的物理设备的步骤：对于处于负载低状态的物理设备，根据低负载类型，按照负载由低到高的顺序将所述待迁入的虚拟设备迁入至所述负载低状态的物理设备。

6.根据权利要求1所述的方法，其特征在于，所述度量指标包含CPU、内存和/或网络带宽；和/或，所述负载参数信息包含CPU利用率、内存利用率和/或网络带宽利用率。

7.根据权利要求1所述的方法，其特征在于，在所述负载均衡操作之后，将系统负载饱和度与系统最佳负载饱和度进行比较来确定所述物理设备的负载分配情况。

8.根据权利要求7所述的方法，其特征在于，进一步包括以下步骤：

若所述系统负载饱和度位于所述系统最佳负载饱和度区间内，则无需进行任何操作；

若所述系统负载饱和度小于所述系统最佳负载饱和度的区间的下限值，则将负载最低的物理设备上的虚拟设备迁出，然后关闭所述负载最低的物理设备；

若所述系统负载饱和度大于所述系统最佳负载饱和度的区间的上限值，则需要向所述云数据中心申请新的物理设备。

9.一种实现云数据中心负载均衡的系统，其特征在于，所述系统包含资源监测模块、物理机分类模块、静态调整模块和动态调整模块，所述资源监测模块与所述物理机分类模块通信地连接，所述物理机分类模块与所述静态调整模块通信地连接，所述静态调整模块与所述动态调整模块通信地连接，其中，

所述资源监测模块包含数学建模模块、数据采集模块和负载计算模块，所述数据采集模块分别与所述数学建模模块和所述负载计算模块通信地连接；

所述静态调整模块包含第一源虚拟机选择模块、第一调整时机计算模块、第一目标物理机选择模块，所述第一调整时机计算模块分别与所述第一源虚拟机选择模块和所述第一目标物理机选择模块通信地连接；

所述动态调整模块包含饱和度计算模块、第二源虚拟机选择模块、第二调整时机计算模块和第二目标物理机选择模块，所述第二调整时机计算模块分别与所述饱和度计算模块、所述第二源虚拟机选择模块和所述第二目标物理机选择模块通信地连接。

10.一种计算机可读存储介质，其上存储有计算机程序(指令)，用于实现云数据中心负载均衡，其特征在于，所述程序(指令)被处理器执行时实现权利要求1-8任一项所述的方法。