CN101706743A

CN101706743A - 一种多核环境下的虚拟机调度方法

Info

Publication number: CN101706743A
Application number: CN200910241371A
Authority: CN
Inventors: 龙翔; 陈贤钦; 王素梅; 张炯; 白跃斌
Original assignee: Beihang University
Current assignee: Beihang University
Priority date: 2009-12-07
Filing date: 2009-12-07
Publication date: 2010-05-12
Anticipated expiration: 2029-12-07
Also published as: CN101706743B

Abstract

本发明提出了一种多核环境下的虚拟机调度方法，该方法是在系统启动时将CPU资源按照调度策略类型进行分区，并在系统运行时实时监控各分区的CPU负载情况，动态调整分区CPU资源的大小。本发明中，使用相同调度策略的虚拟机在同一个分区中进行调度，这样提高了调度的效率，通过动态调整分区CPU资源的大小达到资源负载均衡的目的，实现了资源的充分利用，减少了资源的浪费。

Description

一种多核环境下的虚拟机调度方法

技术领域

本发明涉及一种虚拟机调度方法，尤其涉及一种多核环境下的虚拟机调度方法，属于计算机操作系统与虚拟化技术领域。

背景技术

随着多核处理器技术的进步，单个处理器上集成的处理器核数量逐年增加，服务器的计算能力越来越强，目前一般的服务器至少也是4-16核，处理器核的增加使得单个服务器上可以汇聚更多的应用。同时基于服务器虚拟化技术的取得了前所未有的关注，虚拟化技术的基本思想是，通过虚拟机监视器(VMM)软件对底层的硬件资源进行管理，并提供多个相互隔离的虚拟硬件执行环境(VM)，这样使得在同一台物理主机上运行多个不同的应用(OS)。

虚拟化技术起源于大型机，早在上世纪60年代，IBM公司就发明了一种操作系统虚拟机技术，在已有的计算机层次上新增虚拟机中间层，截获上层软件对底层接口的调用，并对该调用重新做出解释和处理，从而实现新的不同于已有软件或硬件提供的功能。采用虚拟化技术可以屏蔽硬件平台的动态性和异构性，支持硬件资源的共享和服务，并为每个用户提供属于个人的独立、隔离的计算环境；可以实现整合服务器，节省资金提高资源利用率；可以实现故障隔离，提高系统的安全性。

虚拟化技术的一个重要的应用就是服务器整合，最大限度地提高硬件资源的利用率，降低能源开销，减少运行成本。服务器整合通常是指在一台物理服务器上运行多个应用服务来实现。因此在服务器的处理器数量增加的同时，服务器上的应用服务数量和种类也在增加，一个应用服务对应了一个虚拟机，此时虚拟机调度的问题日益突出，表现为：

如何为每种应用分配所需要的计算资源并使得系统的计算资源得到最好的利用。如：实时应用需要周期性得到一定的计算资源，批处理应用则希望得到长时间计算资源；

如何为相互关联的应用提供适当的关联调度，确保关联的应用的整体性能。如：经典的3层结构企业应用需要在Web逻辑层、数据层之间进行协同。

传统的虚拟机调度方法首先考虑的是系统的资源利用率与分配的公平性，并没有考虑到不同应用的虚拟机资源的需求差异。现存有三种比较著名的调度算法，BVT(BorrowedVirtual Time)调度算法、SEDF(Simple Earliest Deadline First)调度算法和Credit调度算法。它们各有优缺点，但是都没能考虑到对不同应用类型的调度。如：BVT(BorrowedVirtual Time)调度算法是一种公平性优先的调度算法，让负载大的VCPU(虚拟处理器)和负载小的VCPU获得几乎同样多的CPU时间，就可能会出现分配给负载大的VCPU的真实CPU时间不够，而分配给负载小的VCPU的真实CPU时间有剩余，造成了CPU资源的浪费，没有最大程度的利用CPU资源，也没有考虑到不同应用的不同需求；而SEDF虽然解决了BVT的问题，但是只能对每个CPU分别进行SEDF调度，在多核情况下，该算法不能较好的完成负载平衡，同时也忽略了不同应用对资源的不同需求；最后Credit调度算法，可以将CPU时间公平高效地分配给各个虚拟CPU；也可以用SMP的方式将各个物理CPU分配给各个虚拟CPU，实现负载平衡；但是，同样Credit调度算法也没有将应用的类型作为调度的一个考虑方面.

因此在当前服务器多核技术的发展以及服务器上应用服务数量聚增情况下，单一虚拟机调度算法已经无法满足资源的有效利用以及应用高效运行的需求。一种调度算法可能对一种类型的应用有效但是当多种类型的应用在一起调度时就会产生资源分配的不合理，如：BVT算法比较适合实时应用，但是当实时应用和批处理应用在一起时就会产生资源分配不合理的情况。

发明内容

本发明提出了一种多核环境下的虚拟机调度方法，该方法是在现有的虚拟机监视器(VMM)中加入了四个模块，即调度初始化模块、CPU状态监控模块、调度决策模块以及CPU动态分区模块。系统加电启动时，控制终端和客户虚拟机通过控制接口进行通信。首先由控制终端通知VMM的控制接口触发调度初始化模块将所有的CPU枚举出来，然后根据系统预设支持的调度策略类型通过CPU动态分区模块将CPU进行分区，并由调度决策模块对各个分区指定相应的调度策略；初始化分区时，CPU动态分区模块为每种预设调度策略类型的分区分得最小CPU资源(资源的最小值一般由管理员设定，默认为1)，剩余的CPU资源将被放到空闲分区中。当有新的虚拟机被创建时，CPU动态分区模块根据虚拟机的调度参数，将其加入到相应的分区进行调度。当系统运行时，CPU状态监控模块监控各分区的负载情况，当某个分区CPU负载过大，或过小时，都会触发CPU动态分区模块，对分区的大小进行调整。

本发明提供的一种多核环境下的虚拟机调度方法包含以下执行步骤：

步骤1：加电启动初始化；系统启动时调度初始化模块加载，做好初始化工作，本步骤包含以下两个操作：

步骤1.1枚举CPU并读取预设调度策略类型；在系统加电完成启动的时候，调度初始化模块加载，并将系统中的所有CPU枚举出来，同时读取系统中预设的调度策略类型；

步骤1.2为系统进行初始分区；调度初始化模块在获得调度策略类型后，由CPU动态分区模块为每种调度策略类型分得资源最小值的分区，同时建立空闲分区用以放置剩下的CPU资源，完成系统初始分区；

步骤2：创建虚拟机；当系统创建虚拟机时，调度决策模块会读取虚拟机的调度参数，将虚拟机加入到相应的分区，本步骤包含以下两个操作：

步骤2.1调度决策模块读取调度参数；当新创建虚拟机时，系统会根据虚拟机应用的类型在配置文件中制定调度参数，调度决策模块会主动读取虚拟机的配置文件获得调度参数；

步骤2.2将虚拟机加入到相应的分区；当调度参数获得后，调度决策模块通过调度参数查找相应的分区，当相应的分区存在时，CPU动态分区模块直接将该虚拟机加入到相应的分区调度，当调度参数对应的分区不存在时，CPU动态分区模块从空闲分区中分出一个新的分区用作该调度策略类型分区，并将该虚拟机加入调度；

步骤3：虚拟机调度；系统运行时，本步骤具体包括以下操作：

步骤3.1虚拟机在各自分区内调动；运行的虚拟机只能在指定的CPU分区中进行调度，调度决策模块根据各个分区的调度算法对各分区中的虚拟机进行调度；

步骤3.2监控各分区负载情况并动态调整分区大小；CPU状态监控模块监视着各分区的CPU资源利用情况，当某个分区的CPU负载过大时，CPU状态监控模块触发CPU动态分区模块，CPU动态分区模块从空闲分区中分出CPU资源到负载过大的分区，当空闲分区为空时，从负载较小的分区中分出CPU资源到负载过大的分区中，当有分区的CPU负载过小时，CPU动态分区模块会将负载小的分区资源回收到空闲分区，缩小负载小的分区资源。

所述的一种基于多核环境下的虚拟机调度方法，其特征在于，步骤1中所述的调度策略类型包括BVT调度算法和SEDF调度算法。

所述的一种基于多核环境下的虚拟机调度方法，其特征在于，步骤1中所述的资源最小值，该值由管理员设定，默认为1个CPU。

所述的一种基于多核环境下的虚拟机调度方法，其特征在于，步骤2中所述的调度参数是指虚拟机应用所适合的调度策略。

所述的一种基于多核环境下的虚拟机调度方法，其特征在于，步骤3.2中所述的调整分区的大小，默认每次调整分区的大小为一个CPU资源，特殊情况下，当某一分区的负载为0％时，则表明该分区没有虚拟机调度，则CPU动态分区模块删除该分区，并将资源回收到空闲分区中。

相比现有技术本发明具有以下优点和积极效果：

(1)提高调度的效率

传统的虚拟机调度大都采用全局统一调度方法，各个CPU都采用了相同的调度策略和参数设置。在实际应用中，不同的应用对资源的要求是不同的，不同的资源需求需要相应的调度策略才能达到资源充分利用的目的，如实时系统要求周期性的分配时间片，而批处理系统则要求连续的分配时间片，这两种应用就需要不同的调度策略。本发明将CPU资源按照调度策略类型进行分区，使用相同调度策略的虚拟机在同一个分区中进行调度，这样提高了调度的效率。

(2)更好的利用资源

本发明提出的CPU分区是动态的，CPU状态监控模块会实时监控各分区的CPU负载情况，对于负载大的分区，会触发CPU动态分区模块将空闲分区中的CPU分配给负载大的分区；对于负载小的分区，会触发CPU动态分区模块将负载小的分区的资源回收一部分到空闲分区中。通过动态调整分区的大小达到资源负载均衡的目的，实现了资源的充分利用，减少了资源的浪费。

附图说明

图1是本发明多核环境下虚拟机调度方法模型的模块结构示意图；

图2是本发明提出的一种多核环境下的虚拟机调度方法整体系统执行步骤流程图；

图3是本发明提出的一种多核环境下的虚拟机调度方法加电启动初始化执行步骤流程图。

具体实施方式

下面结合附图对本发明进行进一步的详细说明。

如图1所示，本发明提出的一种多核环境下的虚拟机调度方法在现有虚拟机监视器VMM1中加入四个新的模块：CPU动态分区模块2，调度初始化模块3，调度决策模块4，CPU状态监控模块5。

CPU动态分区模块2，负责对CPU资源按照调度策略类型进行分区，并动态地调整各分区的大小，以及向各个分区中加入新增的虚拟机。首先根据调度初始化模块3传递过来的CPU信息和预设调度策略类型信息，对系统CPU进行初始分区，分区的个数为调度策略类型的个数加1，因为需要一个空闲分区，初始时为非空闲分区分得最小的CPU资源，资源的最小值一般有管理员设定，默认为1，其余的CPU放在空闲分区。当系统在运行时，CPU动态分区模块2根据调度决策模块4和CPU状态监控模块5传递过来的信息，对CPU分区资源进行动态的调整，使各分区负载达到负载均衡。

调度初始化模块3，主要功能是在系统加电启动的时候由控制接口6进行加载，负责枚举所有的CPU，然后再通过控制接口6读取系统预设支持的调度策略类型，并将所有的CPU信息以及预设调度策略类型信息传递给CPU动态分区模块2。

调度决策模块4，是在虚拟机创建时，读取虚拟机的调度参数，随后提供给CPU动态分区模块2，由CPU动态分区模块2将虚拟机加入到相应的分区；当在系统运行时，负责在每个分区内对虚拟机进行调度。首先在创建虚拟机时，调度决策模块4通过控制接口6读取客户虚拟机8的调度参数，并将调度参数提供给CPU动态分区模块2，然后CPU动态分区模块2根据调度参数查找该调度策略类型的分区是否存在，若存在，则将该客户虚拟机8加入到该分区，若不存在，则CPU动态分区模块2先建立此调度策略类型对应的分区，再将客户虚拟机8加入到此分区。当系统在运行时，调度决策模块4负责在每个分区内对客户虚拟机进行调度，保证每个分区内的客户虚拟机采用相应的调度策略进行调度。

CPU状态监控模块5，在系统运行过程中监控各分区CPU负载情况，并通知CPU动态分区模块2对分区资源进行动态调整。系统默认为每个分区的负载大小设置了上下限，如上限为90％，下线为40％，当某一分区负载大于90％时，通知CPU动态分区模块2，CPU动态分区模块2从空闲分区中分配资源到负载大的分区，默认每次分配一个CPU资源；当某一分区负载小于40％时，通知CPU动态分区模块2，CPU动态分区模块2从负载小的分区中回收资源到空闲分区中，默认每次回收一个CPU资源，但是必须保证负载小的分区中最少有一个CPU资源。在特殊情况下，当某一分区的负载为0％时，则表明该分区没有虚拟机调度，则CPU动态分区模块2删除该分区，并将资源回收到空闲分区中。

本发明提出一种多核环境下的虚拟机调度方法，如图2所示，包含以下步骤：

步骤1：加电启动初始化，其流程图如图3所示。系统启动时调度初始化模块3加载，做好初始化工作。本步骤包含以下两个操作：步骤1.1枚举CPU并读取预设调度策略类型；步骤1.2为系统进行初始分区。

步骤1.1枚举CPU并读取预设调度策略类型；当系统加电完成启动，控制终端7加载调度初始化模块3，调度初始化模块3将系统中的所有CPU枚举出来，同时读取系统中预设的调度策略类型，例如系统预设的调度策略类型有Credit、BVT和SEDF。

步骤1.2为系统进行初始分区；调度初始化模块3在获得调度策略类型后，由CPU动态分区模块2为每种调度策略类型分得资源最小值的分区，资源的最小值一般由管理员设定，默认为1个CPU.同时建立空闲分区放置剩下的CPU资源，完成系统初始分区.例如当预设的调度策略类型有BVT和SEDF时，系统会将CPU资源分成3个分区，分别为第一调度策略分区(调度策略类型为BVT)、第二调度策略分区(调度策略类型为SEDF)和空闲分区，其中第一调度策略分区和第二调度策略分区初始的资源数量均为1个CPU资源，其余的CPU都放在空闲分区中.

步骤2：创建虚拟机，如图2所示；当系统创建客户虚拟机8时，调度决策模块4会读取客户虚拟机8的调度参数，将客户虚拟机8加入到相应的分区。本步骤包含以下操作：步骤2.1调度决策模块读取调度参数；步骤2.2将虚拟机加入到相应的分区。

步骤2.1调度决策模块读取调度参数：

如图2所示，当客户虚拟机8创建时，系统会根据客户虚拟机8应用的类型在配置文件中制定调度参数，所谓的调度参数就是指客户虚拟机8应用所适合的调度策略，例如实时应用适合用BVT调度策略，那么调度参数就将被设置成“BVT”；调度决策模块4会主动读取客户虚拟机8的配置文件获得调度参数。例如，如图1所示，创建一个客户虚拟机8，该虚拟机是要作为一个Voip的应用，在客户虚拟机8的配置文件中将调度参数设置成“BVT”，调度决策模块4会主动读取该虚拟机的配置文件获得调度参数“BVT”。

步骤2.2将虚拟机加入到相应的分区：

当调度参数获得后，调度决策模块4通过调度参数查找相应的分区，当相应的分区存在时，即将客户虚拟机8加入到该分区调度，例如当BVT调度策略对应的分区即第一调度策略分区存在时，如图1所示，客户虚拟机8将被加入到第一调度策略分区中；当相应的分区不存在时，CPU动态分区模块2为该调度策略类型新建一个分区，并将该虚拟机加入到该分区，例如，当BVT调度策略对应的分区不存在时，将会建立BVT调度策略对应的分区，并为其分配最小资源即1个CPU资源，然后将客户虚拟机8加入到BVT调度策略对应的分区中。

步骤3虚拟机调度，如图2所示；系统运行时，CPU状态监控模块5，调度决策模块4、CPU动态分区模块2各行其职对客户虚拟机8进行调度，该步骤包括以下操作：步骤3.1虚拟机在各自分区内调动；步骤3.2监控各分区负载情况并动态调整分区大小。

步骤3.1虚拟机在各自分区内调动；

在系统运行时，调度决策模块4在各分区内对各虚拟机进行调度，各个分区采用不同的调度策略，例如，在BVT调度策略对应的分区内的客户虚拟机，只能在该分区中采用BVT调度策略进行调度。

步骤3.2监控各分区负载情况并动态调整分区大小；

CPU状态监控模块5对各分区的负载进行监控，当有分区的负载过大时，会激活CPU动态分区模块2检查空闲分区，在空闲分区不为空的情况下，会将空闲分区中资源(默认每次分配1个CPU资源)分配给负载过大分区，扩大负载过大分区的资源，若空闲分区为空时，会获取负载相对小的分区资源(默认每次分出一个CPU资源)分配给负载过大的分区，扩大负载过大分区的资源；当有分区的负载过小时，CPU动态分区模块2会将负载小的分区资源回收到空闲分区(默认每次回收一个CPU资源)，缩小负载小的分区资源，在特殊情况下，当某一分区的负载为0％时，则表明该分区没有虚拟机调度，则CPU动态分区模块2删除该分区，并将资源回收到空闲分区中。

Claims

1.一种基于多核环境下的虚拟机调度方法，其特征在于，该方法在现有的虚拟机监视器VMM中加入了调度初始化模块、CPU状态监控模块、调度决策模块以及CPU动态分区模块，具体包含以下执行步骤：

2.根据权利要求1所述的一种基于多核环境下的虚拟机调度方法，其特征在于，步骤1中所述的调度策略类型包括Credit调度算法、BVT调度算法和SEDF调度算法。

3.根据权利要求1所述的一种基于多核环境下的虚拟机调度方法，其特征在于，步骤1中所述的资源最小值，该值由管理员设定，默认为1个CPU。

4.根据权利要求1所述的一种基于多核环境下的虚拟机调度方法，其特征在于，步骤2中所述的调度参数是指虚拟机应用所适合的调度策略。

5.根据权利要求1所述的一种基于多核环境下的虚拟机调度方法，其特征在于，步骤3.2中所述的调整分区的大小，默认每次调整分区的大小为一个CPU资源，特殊情况下，当某一分区的负载为0％时，则表明该分区没有虚拟机调度，则CPU动态分区模块删除该分区，并将资源回收到空闲分区中。