CN104123174A - 一种虚拟化环境下动态实时cpu调度系统 - Google Patents

Abstract

本发明公开了一种虚拟化环境下动态实时CPU调度系统，属于计算系统虚拟化技术领域。本发明包括网络包监控模块、信息收集模块以及实时CPU调度模块，无需用户设置虚拟机类型及调度参数，能够通过分析虚拟机发送或接收的网络包的方式动态识别虚拟机的类型以及获取虚拟机所需的调度参数。本发明可以根据动态获取的信息及时的调度实时虚拟机，从而保证运行于虚拟机内的实时应用的性能。本发明与现有技术相比，消除了用户管理虚拟机所带来的开销，减轻了用户的负担，不会出现配置错误的情况，能够更好的应用于虚拟化系统中且灵活性更高。

Description

一种虚拟化环境下动态实时CPU调度系统

技术领域

本发明属于计算系统虚拟化技术领域，更具体地，涉及一种虚拟化环境下动态实时CPU调度系统。

背景技术

随着虚拟化技术的发展，越来越多的应用程序运行于虚拟机之中，其中很多应用程序都具有实时需求，例如流媒体服务器、VoIP服务器、实时流处理系统、云游戏等。与计算密集型应用程序及Web服务程序等相比，这类实时应用程序具有一个重要的特征：实时应用程序具有任务截止时间。频繁的错误任务截止时间会严重影响实时应用程序的性能。

现有的虚拟机管理器(例如Xen、VMWare等)及技术方案并没有很好的在虚拟化环境下支持实时应用程序，其主要原因如下：

第一，尽管现有的虚拟机管理器能够很好的支持计算密集型应用程序及Web服务程序等，但并没有考虑实时应用的需求；第二，运行于虚拟机内的实时应用程序的特征通常比较复杂，在不同的时期可能会表现不同特征，现有的技术方案并不能适应这种变化；第三，尽管现有的技术方案优化了虚拟机管理器以支持实时应用程序，但是都需要用户或管理员手动指定虚拟机类型以及调度参数。因此，现有技术方案需要用户或管理员对虚拟机内运行的实时应用有足够的了解。此外，当虚拟机实时应用的需求随着时间变化时，现有的技术方案将不再有效。所以，现有的技术方案存在灵活性低、操作不方便、易导致错误配置等问题。

发明内容

针对现有技术的以上缺陷或改进需求，本发明提供一种虚拟化环境下动态实时CPU调度系统，使得虚拟机监控器能够在不需要用户或管理员进行任何设置的情况下支持实时应用程序，并能有效满足实时应用程序需求的变化。

本发明提供一种虚拟化环境下动态实时CPU调度系统，包括：

网络包监控模块，采用混合识别机制来分析虚拟机发送或接收的网络包的头部并判定所述虚拟机是否为实时虚拟机，其中所述混合识别机制由端口识别机制和协议识别机制共同完成，当所述网络包监控模块监测到某个虚拟机为实时虚拟机时，就通过超级调用告知所述信息收集模块，其中，所述超级调用包含的信息为所述实时虚拟机的ID号以及事件类型，所述事件类型包括发送事件和接收事件；

信息收集模块，响应所述网络包监控模块发出的所述超级调用并根据所述事件类型计算所述实时虚拟机的期望调度延时；

实时CPU调度模块，根据所述实时虚拟机的所述期望调度延时对所述实时虚拟机的实时虚拟CPU进行管理并及时的调度所述实时虚拟CPU。

总体而言，通过本发明所构思的以上技术方案与现有技术相比，本发明具有以下有益效果：

(1)本发明弥补了Xen默认的Credit调度算法缺少对实时程序的支持，通过优化抢占机制以及根据动态获取的调度参数采用周期性调度策略来及时的调度虚拟机，从而良好的支持实时应用程序。

(2)本发明能够动态的识别虚拟机的类型以及获取虚拟机所需的调度参数。因此，本发明不会出现配置错误的情况，能够更好的应用于虚拟化系统中且灵活性更高；

(3)本发明无需用户设置虚拟机类型及调度参数，消除了用户管理虚拟机所带来的开销，减轻了用户的负担；

(4)本发明为非侵入式方法，无需修改客户操作系统和应用程序代码。现有的应用程序都可以直接运行，消除了应用程序或操作系统的移植开销。

附图说明

图1为本发明虚拟化环境下动态实时CPU调度系统的结构示意图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。此外，下面所描述的本发明各个实施方式中所涉及到的技术特征只要彼此之间未构成冲突就可以相互组合。

以下首先对本发明中的一些技术术语进行定义和解释：

实时虚拟机：运行实时应用的虚拟机。

非实时虚拟机：运行非实时应用的虚拟机。

实时虚拟CPU：实时虚拟机的虚拟CPU。

非实时虚拟CPU：非实时虚拟机的虚拟CPU。

实时网络包：网络包的源点或终点是运行于实时虚拟机内的实时应用，即该网络包是由其他机器发送给实时应用或由实时应用发送给其他机器的网络包。

Domain0：Xen虚拟化平台上一个特殊的虚拟机。运行于Xen上的虚拟机有两种：Domain0和DomainU。DomainU是提供给普通用户使用的虚拟机。Domain0负责管理DomainU以及辅助DomainU完成具体的I/O操作。

运行队列：每个物理CPU具有一个运行队列。运行队列中包含当前物理CPU上所有可运行的虚拟CPU。这些虚拟CPU在物理CPU上以优先级从高到低进行排序。

信用值(credits)：信用值是Xen的Credit调度器中虚拟CPU可运行的额度。随着虚拟CPU的运行，其信用值会不断减少。Credit调度器会周期性的为虚拟CPU补充信用值。

图1所示为本发明虚拟化环境下动态实时CPU调度系统的结构示意图，包括三个模块：网络包监控模块1、信息收集模块2和实时CPU调度模块3。

网络包监控模块1位于Domain0中，采用混合识别机制来分析虚拟机发送或接收的网络包的头部并判定该虚拟机是否为实时虚拟机。混合识别机制由端口识别机制和协议识别机制共同完成。端口识别机制和协议识别机制分别由端口识别子模块11和协议识别子模块12实现。当网络包监控模块1监测到某个虚拟机为实时虚拟机时，就通过超级调用告知信息收集模块2。其中，超级调用包含的信息为该实时虚拟机的ID号以及事件类型。在本发明实施例中，事件类型分为两类：发送事件和接收事件。当监测到实时虚拟机发送的网络包为实时网络包时，事件类型就为发送事件；当监测的网络包是其他机器(可以是虚拟机或非虚拟机)发送给实时虚拟机的实时网络包时，事件类型为接收事件。

网络包监控模块1包括端口识别子模块11和协议识别子模块12。网络包监控模块1为每个虚拟机维护一个端口列表，端口列表所包含的端口号都与各实时应用相对应。例如实时应用常用的RTSP协议使用的是554端口,远程桌面VNC常用的端口号是5900+N。由于每个虚拟机最多可以使用65536(2¹⁶)个端口，端口列表最多包含65536个端口。端口列表的端口可以由管理员或协议识别子模块12添加或删除。

由于端口识别开销更小，对于每个网络包，网络包监控模块1优先使用端口识别子模块11进行识别。端口识别子模块11根据发送或接收网络包的虚拟机ID获取该虚拟机对应的端口列表，然后提取网络包头部的端口号并与该端口列表中的端口号进行比较。在本发明实施例中，对发送的网络包比较其源端口，对接收的网络包比较其目的端口。下文中如无特殊说明，端口指的是发送网络包的源端口或接收网络包的目的端口。当该端口号等于端口列表中的某个端口号时，发送/接收该网络包的虚拟机就是实时虚拟机。只有当端口识别子模块11失效时，即网络包的端口不与端口列表中的任何端口号相符时，网络包监控模块1才使用协议识别子模块12来进一步识别网络包是否属于某个实时虚拟机，该策略可有效降低端口识别产生的开销。此外，通过优化对发送网络包的识别可以进一步降低端口识别产生的开销：用一个变量来保存当前活跃端口，即最近一段时间内(例如最近1秒内)被识别出来的实时网络包的端口。如果当前活跃端口已被设置(即非0值)，端口识别子模块11仅比较发送网络包的源端口是否与当前活跃端口相等，而不会查询端口列表，其本质等于抽样。否则，继续与端口列表中的端口比对或使用协议识别子模块12来进一步识别网络包。如果一段时间内(例如1秒内)网络包中并未出现当前活跃端口，那么变量内保存的当前活跃端口会被清零。

协议识别子模块12用来补充端口识别子模块11。因为并不是所有的实时应用都使用周知端口或已知的默认端口。此外，即便实时应用程序的默认端口是周知端口或已知的端口，系统管理员可能由于安全等原因修改默认端口，这将导致端口识别子模块11失效。由于应用层协议通常具有较为明显的特征，协议识别子模块12通过应用层协议的特征来识别某个网络包是否属于实时虚拟机。例如RTSP协议的头部包含字符串RTSP，用于在网络上实时传输音频和视频的RTP协议表现出很强的规律性，易于识别。当协议识别子模块12通过应用层协议特征识别出某个网络包是实时网络包时，该网络包的端口将被添加到端口列表中。在本发明实施例中，添加的端口超过一定时间(例如1秒)未出现在网络包中将被清除。

信息收集模块2位于虚拟机监控器中，响应网络包监控模块1发出的超级调用并根据事件类型做不同的处理。信息收集模块2包括信息管理子模块21和参数计算子模块22。

信息管理子模块21根据不同类型的事件产生不同的行为。如果事件类型为接收事件，则说明此时有个实时网络包发送给实时应用，实时应用应该立即进行响应。例如，用户在虚拟桌面上点击鼠标或云游戏客户端中点击怪物进行攻击，服务器程序都要及时进行响应，否则会严重影响用户体验。信息管理子模块21会根据超级调用传递的虚拟机ID设置相应的虚拟机为实时虚拟机，并通知实时CPU调度模块3提升该虚拟机的虚拟CPU的优先级。如果事件类型为发送事件，信息管理子模块21会为每个实时虚拟机维护一个时间信息列表，记录前面N(N≥2)次事件类型为发送事件的超级调用发生的时间。其中，超级调用的一个参数就是虚拟机ID。因此，针对不同的虚拟机ID，超级调用发生的时间会添加到不同的列表中。

参数计算子模块22根据信息管理子模块21维护的时间信息列表采用指数加权移动平均的方法计算各实时虚拟机的调度参数，即期望调度延时，期望调度延时的计算主要依赖于以下事实：实时应用例如VoIP服务器、流媒体服务器、VNC服务器等通常需要周期性的发送网络包给客户端，从而保证良好的用户体验。期望调度延时的具体计算方法如下公式(1)所示：

P_t＝(1-ω)×P_t-1+ω×I   (1)

其中，P_t表示某实时虚拟机的期望调度延时；P_t-1表示上一次计算出来的该实时虚拟机的期望调度延时，每当信息收集模块2响应网络包监控模块1发出的超级调用时，就根据超级调用传递的虚拟机ID计算该虚拟机的P_t；ω表示指数加权移动平均的加权程度，介于0到1之间；I表示该虚拟机ID对应的时间信息列表中最近两次超级调用的时间间隔。

实时CPU调度模块3位于虚拟机监控器中，根据实时虚拟机的调度参数对实时虚拟CPU进行管理并及时的调度实时虚拟CPU。实时CPU调度模块3包括虚拟CPU管理子模块31、虚拟CPU调度子模块32和负载均衡子模块33。

虚拟CPU管理子模块31根据虚拟机的类型进行管理。与现有的Credit调度算法相比，本发明实施例增加了一个实时虚拟CPU队列。所有的实时虚拟CPU根据信息收集模块2计算的期望调度延时插入到实时虚拟CPU队列中，同时也会按照原Credit调度算法管理队列的方式插入到运行队列中。即实时虚拟CPU会同时出现在实时虚拟CPU队列和运行队列中。实时虚拟CPU队列中的虚拟CPU根据实时虚拟CPU的截止时间(deadline)进行排序，截止时间最早的实时虚拟CPU位于队首，截止时间最晚的实时虚拟CPU位于队尾。其中，截止时间为实时虚拟CPU插入到实时虚拟CPU队列时的系统时间加上其期望调度延时。因此，当一个实时虚拟CPU插入到实时虚拟CPU队列时，需要根据其截止时间插入到适当的位置。然后，根据实时虚拟CPU队首的截止时间创建一个定时器。当该虚拟CPU的截止时间到达时，定时器就会被触发，从而调用虚拟CPU调度子模块32来调度该实时虚拟CPU。因此，当一个虚拟实时CPU插入到运行队列时，其同时需要被插入到实时虚拟CPU队列；当一个虚拟实时CPU被移除出运行队列时，虚拟CPU管理子模块31需要同时将其从实时虚拟CPU队列中移除。而对于非实时虚拟CPU，虚拟CPU插入和移除操作都不需要涉及到实时虚拟CPU队列。

虚拟CPU调度子模块32通过三种调度模式来完成实时虚拟CPU的调度。第一种调度模式是对原Credit调度算法的继承，即每次都调度运行队列队首的实时虚拟CPU运行，调度完成后再根据其优先级将其插入到运行队列中，具体来说是插入到运行队列中第一个优先级更低的虚拟CPU之前。因此，如果整个系统中不存在实时虚拟机，那么实时CPU调度模块3将退化为原Credit调度器。第二种调度模式为定时器触发模式，由虚拟CPU管理子模块31创建的定时器所触发。此模式被激活说明实时虚拟CPU队首的实时虚拟CPU的截止时间已到，需要立即调度该虚拟CPU运行。为了及时的调度实时虚拟CPU，虚拟CPU调度子模块32引入了实时优先级(当前最高优先级)。当定时器已到时，实时虚拟CPU队列队首实时虚拟CPU的优先级会被提升到实时优先级，然后从运行队列中移除并重新插入到运行队列中(通常会插入到运行队列队首)。之后虚拟CPU调度子模块32的第一种调度模式被激活并立即调度该实时虚拟CPU运行。当实时虚拟CPU运行完之后，其需要被重新插入到运行队列。如果是实时虚拟CPU，则在插入到运行队列之前需要根据剩余的信用值(credits)降低其优先级。第三种调度模式为接收事件触发模式，由信息管理子模块21根据超级调用的事件类型所触发。当该模式被激活时，说明有事件发送给实时应用，实时应用应该立即响应该事件。此时，采用与第二种调度模式相同的做法，将发生接收事件的实时虚拟CPU的优先级提升到实时优先级并重新插入运行队列，由第一种调度模式完成具体调度动作。实时虚拟CPU调度完成之后同样需要降低其优先级。后两种调度模式都复用了第一种调度模式，而第三种调度模式也复用了第二种调度模式部分内容。这种复用可有效降低实现的复杂度，减少代码出错的机会。

负载均衡子模块33的主要功能是让实时虚拟CPU尽量均匀的分散到不同的物理CPU之上。负载均衡子模块33通过虚拟CPU迁移的方式周期性的进行负载均衡。进行负载均衡时需要考虑两个目标：(1)尽量让不同的物理CPU上有相同数量的实时虚拟CPU；(2)尽量将同一个虚拟机的不同实时虚拟CPU分散到不同的物理CPU之上。

本领域的技术人员容易理解，以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (9)

1.一种虚拟化环境下动态实时CPU调度系统，包括网络包监控模块、信息收集模块以及实时CPU调度模块，其特征在于：

所述网络包监控模块，采用混合识别机制来分析虚拟机发送或接收的网络包的头部并判定所述虚拟机是否为实时虚拟机，其中所述混合识别机制由端口识别机制和协议识别机制共同完成，当所述网络包监控模块监测到某个虚拟机为实时虚拟机时，就通过超级调用告知所述信息收集模块，其中，所述超级调用包含的信息为所述实时虚拟机的ID号以及事件类型，所述事件类型包括发送事件和接收事件；

所述信息收集模块，响应所述网络包监控模块发出的所述超级调用并根据所述事件类型计算所述实时虚拟机的期望调度延时；

所述实时CPU调度模块，根据所述实时虚拟机的所述期望调度延时对所述实时虚拟机的实时虚拟CPU进行管理并及时的调度所述实时虚拟CPU。

2.如权利要求1所述的虚拟化环境下动态实时CPU调度系统，其特征在于，所述网络包监控模块包括端口识别子模块和协议识别子模块；

所述端口识别子模块提取网络包头部的端口号并通过所述端口号判定发送/接收所述网络包的虚拟机是否为实时虚拟机；

所述协议识别子模块在所述端口识别子模块失效时，通过应用层协议的特征来识别某个网络包是否属于实时虚拟机。

3.如权利要求2所述的虚拟化环境下动态实时CPU调度系统，其特征在于，所述网络包监控模块为每个虚拟机维护一个端口列表，所述端口列表所包含的端口号与各实时应用相对应。

4.如权利要求3所述的虚拟化环境下动态实时CPU调度系统，其特征在于，用一个变量来保存当前活跃端口，即最近一段时间内被识别出来的实时网络包的端口，如果所述当前活跃端口已被设置，所述端口识别子模块仅比较发送网络包的源端口是否与所述当前活跃端口相等，否则，继续通过所述网络包头部的端口号比对或使用所述协议识别子模块来识别所述网络包。

5.如权利要求4所述的虚拟化环境下动态实时CPU调度系统，其特征在于，如果一段时间内网络包中并未出现所述当前活跃端口，则所述变量内保存的所述当前活跃端口会被清零。

6.如权利要求1-5中任一项所述的虚拟化环境下动态实时CPU调度系统，其特征在于，所述信息收集模块包括信息管理子模块和参数计算子模块；

所述信息管理子模块根据不同的事件类型产生不同的行为，对所述接收事件，所述信息管理子模块根据所述超级调用传递的虚拟机ID设置相应的虚拟机为实时虚拟机，并通知所述实时CPU调度模块提升所述实时虚拟机的实时虚拟CPU的优先级；对所述发送事件，所述信息管理子模块为每个实时虚拟机维护一个时间信息列表，所述时间信息列表中记录前面N次事件类型为发送事件的超级调用发生的时间，其中N≥2；

所述参数计算子模块根据所述时间信息列表采用指数加权移动平均的方法计算实时虚拟机的所述期望调度延时：

P_t＝(1-ω)×P_t-1+ω×I

其中，P_t表示实时虚拟机的所述期望调度延时；P_t-1表示上一次计算出来的所述实时虚拟机的期望调度延时；ω表示所述指数加权移动平均的加权程度，介于0到1之间；I表示所述实时虚拟机ID对应的所述时间信息列表中最近两次超级调用的时间间隔。

7.如权利要求1所述的虚拟化环境下动态实时CPU调度系统，其特征在于，所述实时CPU调度模块包括虚拟CPU管理子模块、虚拟CPU调度子模块和负载均衡子模块；

所述虚拟CPU管理子模块，将所有的实时虚拟CPU根据所述信息收集模块计算的所述期望调度延时插入到实时虚拟CPU队列中，同时将所有的实时虚拟CPU按照Credit调度算法管理队列的方式插入到运行队列中，所述实时虚拟CPU队列中的实时虚拟CPU根据其截止时间进行排序，截止时间最早的实时虚拟CPU位于所述实时虚拟CPU队列的队首，截止时间最晚的实时虚拟CPU位于所述实时虚拟CPU队列的队尾，其中，所述截止时间为实时虚拟CPU插入到所述实时虚拟CPU队列时的系统时间加上其期望调度延时，然后，根据所述队首的实时虚拟CPU的截止时间创建一个定时器，当所述队首的实时虚拟CPU的截止时间到达时，所述定时器就会被触发，从而调用所述虚拟CPU调度子模块来调度所述实时虚拟CPU；

所述虚拟CPU调度子模块，通过三种调度模式来完成对实时虚拟CPU的调度：第一种调度模式是对所述Credit调度算法的继承，即每次都调度所述运行队列队首的实时虚拟CPU运行，调度完成后再根据其优先级将其插入到所述运行队列中；第二种调度模式为定时器触发模式，由所述虚拟CPU管理子模块创建的所述定时器所触发，当所述定时器触发时，所述实时虚拟CPU队列队首的实时虚拟CPU的优先级会被提升为当前最高优先级，然后从所述运行队列中移除并重新插入到所述运行队列中，之后所述虚拟CPU调度子模块的所述第一种调度模式被激活并立即调度所述实时虚拟CPU运行；第三种调度模式为接收事件触发模式，由所述信息管理子模块根据所述超级调用的所述事件类型所触发，采用与所述第二种调度模式相同的做法，将发生所述接收事件的实时虚拟CPU的优先级提升到所述当前最高优先级并重新插入所述运行队列，由所述第一种调度模式完成具体调度动作；

所述负载均衡子模块，让所有的实时虚拟CPU尽量均匀的分散到不同的物理CPU之上，通过虚拟CPU迁移的方式周期性的进行负载均衡。

8.如权利要求7所述的虚拟化环境下动态实时CPU调度系统，其特征在于，当一个虚拟实时CPU被移除出所述运行队列时，所述虚拟CPU管理子模块需要同时将其从所述实时虚拟CPU队列中移除。

9.如权利要求7所述的虚拟化环境下动态实时CPU调度系统，其特征在于，所述负载均衡子模块进行负载均衡时需要满足两个条件：(1)尽量让不同的物理CPU上有相同数量的实时虚拟CPU；(2)尽量将同一个虚拟机的不同实时虚拟CPU分散到不同的物理CPU之上。