CN1508652A - 关注功率的自适应轮询方法和系统 - Google Patents

Abstract

一种对轮询未决服务请求的周期进行自适应控制的方法，其方法是：针对未决服务请求轮询系统设备，记录是否有未决服务请求，以及根据积累数据确定设备是否空闲。根据上述判定，系统选择进入省电模式，直至发出设备活动信号，或经过某个可调时限。自适应机制可以改变定时器中断的周期，禁用或启用设备中断，并修改确定系统空闲所使用的变量(包括最小等待时间和最小空闲阈值)。这样，系统能够在保持系统性能和响应的情况下节省电力。

Description

关注功率的自适应轮询方法和系统

技术领域

本发明一般涉及计算机系统，特别涉及设备请求的处理，更确切地说，涉及通过既能节省功耗又能保持性能和响应的自适应轮询技术处理这些请求的方法和系统。

背景技术

图1表示通用客户机-服务器计算网络2。网络2具有多台服务器4、6、8、9，其中直接互连上述服务器或通过其他服务器间接互连上述服务器。每台服务器实质上是一个独立的计算机系统(具有一个或多个处理器，存储设备和通信设备)，但是适合于某个主要目的(为某个主要目的编程)，亦即，为工作站客户机10的各用户提供信息。客户机10也可以为一个独立的计算机系统(如个人计算机，即PC)，或适合于与网络2一起使用的“哑”系统(如网络计算机，即NC)。正如本文使用的那样，“PC”通常指适合各用户使用的多用途计算机，而不考虑其制造商、硬件平台、操作系统等。一台物理计算机可同时作为服务器和客户机，尽管此种实现很少发生。

服务器提供的信息或者为在指定客户机10上运行的程序，或者为其他程序使用的数据(如文件)。用户能够以实时方式进行通信，或者通过延时文件传送进行通信，例如，与同一服务器相连的用户无需网络2就能彼此进行通信，而位于不同服务器(如服务器4和6)的用户经由网络2也能彼此进行通信。实际上网络可以为局部的(如LAN)，或者进一步连接到其他系统(未示出)，如服务器8和9。网络2的结构一般也适用于因特网。

传统上，通用系统由其性能来表征。一般说来，根据给定系统处理特定操作的速率来评价该系统。这样的实例包括每秒处理的事务、每秒处理的Web请求等。近来，由于商业、国家标准和环境方面的因素，功耗变得越来越重要。据估计，计算机系统消耗的功率占北美地区发电量的十分之一。因此，越来越需要不会损害其性能的高效计算机系统。

通用计算机系统(客户机、服务器或哑设备)包括一个处理器、主存储器和许多设备。通常，众多总线根据众所周知的协议连接上述设备。此类协议的实例如外围部件互连(PCI)。在典型通用计算机系统中，处理器以中断方式处理所有外围设备请求，其中，中断是由设备发起的。发生中断时，处理器中出现上下文切换，从而将处理器状态保存到主存储器中，然后初始化一个新状态以处理该设备请求。由于不同存储器高速缓存上的状态转移和破坏效果，以及由此产生的存储器引用地址的混乱，所以每个上下文切换均会招致额外的系统开销。特别地，由于处理器速度和存储器存取时间之间的差距越来越大，现代处理器对此类系统开销非常敏感。因此，系统设备产生高速中断对性能是非常有害的。

轮询是另一种中断方法，处理器(CPU)利用轮询处理设备请求。例如，CPU轮询网络设备，以确定是否有需要处理的数据包。包括基于软件的交换机、防火墙、代理服务器、甚至第一层Web服务器在内的网络装置，越来越倾向于使用轮询输入/输出(I/O)来主动聚合中断，并且通过降低与中断处理期间的上下文切换有关的等待时间，全面提高系统性能。当诸如网络通信量之类的设备活动速度较低时，由于毫无必要地连续检查设备状态，所以轮询处理的效率较差。另外，由于轮询处理经常出现，不论是否有需要处理的操作，总是阻止系统进入“睡眠”状态，因此对功耗是有害的，其中在睡眠状态中，通过发布适当指令来节省CPU消耗的功率。因此，轮询处理使最基本的功率节省策略无效。

考虑到上述问题，需要发明一种管理设备服务请求的改进方法，该方法能够全面提高系统性能和响应，同时节省电力并支持复杂电源管理机制。

发明内容

因此，本发明的目的在于提供一种处理计算机系统中的设备服务请求的改进方法。

本发明的另一目的在于提供使用轮询技术以便更有效地处理高性能设备服务请求的方法。

本发明的又一目的在于提供一种经过改进的数据处理系统，该系统能够在不违反系统响应约束的条件下自适应轮询设备，以降低功耗。

利用使轮询周期适合于未决服务请求的方法可以实现上述目的，该方法通常包括以下步骤：针对未决服务请求轮询系统设备，记录是否有未决服务请求，根据积累数据确定系统设备是否足够空闲。根据上述判断，系统选择进入省电模式，直至收到设备活动信号，或经过某个可调时限。这样，该系统能够在保持系统性能和响应的情况下节省电力。可以自适应设置空闲时间的最小百分比，例如，设置为最小等待时间限制和定时器中断的周期。然后响应中断，如定时器中断或设备中断，重新恢复处于省电模式的处理器的操作。

通过阅读以下详细说明书，将更加了解本发明的上述目的和其他目的，其特征以及其优点。

附图说明

通过参照附图，熟练技术人员将更容易理解本发明，其目的、特征和优点。

图1表示包括互连服务器和工作站客户机在内的常规计算机网络；

图2是根据本发明的一实施方式的数据处理系统的框图，对该系统进行编程以执行网络通信功能；

图3为状态图，表示根据本发明的一实施方式与图2所示的数据处理系统一起使用的状态转移；

图4表示本发明之轮询机制的一实施方式的逻辑流程；

图5为状态图，表示传统中断驱动系统中的状态转移；以及

图6为状态图，表示传统轮询I/O系统中的状态转移。

在不同附图中使用的相同参考符号表示相似或相同部件。

具体实施方式

现在参照附图，特别参照图2，该图表示根据本发明一实施方式编程为执行网络通信功能的数据处理系统的实施方式11。可以将本发明应用于许多不同类型的网络装置，如路由器、防火墙或服务器，并且系统11的以下说明是通用的，目的是覆盖所有网络设备。根据特定应用，系统11的附加细节对熟练技术人员是显而易见的。

系统11包括：一个中央处理器(CPU)12，用于执行程序指令；固件或只读存储器(ROM)14，用于存储系统的基本输入/输出逻辑；以及动态随机存取存储器(DRAM)16，用于临时存储CPU12使用的程序指令和操作数据。将CPU12、ROM14和DRAM16全部连接到系统总线18。存储器层次结构中可能有附加结构(未示出)，如板上(L1)高速缓存和二级(L2)高速缓存。

通过使用PCI主桥22，将CPU12、ROM14和DRAM16连接到外围部件互连(PCI)局部总线20。PCI主桥22提供低等待时间的通路，处理器12经由该通路访问映射到总线存储器或输入/输出(I/O)地址空间内的PCI设备。同时，PCI主桥22提供高带宽通路，供PCI设备访问DRAM16。网络接口适配器24和小型计算机系统接口(SCSI)适配器26与PCI局部总线20相连。利用网络接口适配器24将数据处理系统11连接到外部计算机网络34，如局域网(LAN)或因特网。利用SCSI适配器26控制高速SCSI盘驱动器36。盘驱动器36采用永久状态存储程序指令和数据，包括以下说明的体现本发明的程序。系统11可以使用多个网络接口适配器或存储设备。正如适配器30表示的那样，也可根据应用将其他设备连接到PCI总线20。例如，适配器30提供对系统11进行编程的串行接口。

尽管所示实施方式在盘驱动器36(存储介质)上提供体现本发明的程序指令，但是熟练技术人员可以理解，也可以将本发明表现为采用其他计算机可读介质(包括传输介质)的程序产品。在一种实施方式中，通过使用诸如C语言之类的编程语言，利用程序代码实现本发明的计算步骤。

在所示实施方式中，数据处理系统11执行用于网络通信的程序指令，特别地，使用全新技术轮询I/O设备(如SCSI适配器26或网络接口24)，以便以省电方式管理中断。因此，程序指令包括常规网络通信功能的各个方面，并且通过参考本公开熟练技术人员容易了解其细节。

本发明提供设备的自适应轮询机制，并且在不违反系统响应限制的情况下，在待用期间选择性地使CPU12处于省电状态，以提高功效。在所示实施方式中，使用四种信息作为轮询基础设施的一部分，以实现上述机制：轮询函数调用是否产生作业；轮询设备不具备未决服务请求的次数；到下一个定时器中断时的剩余时间；以及CPU定时器时限。提供函数的目的是启用或禁用特定设备(如网络接口24或SCSI适配器26)的中断。自适应算法规定用于修改CPU定时器时限以及阈值的机制，其中阈值确定何时系统足够空闲以进入省电模式。

图5表示与现有数据处理系统关联的各种状态，其中该系统为中断驱动系统。当该系统运行应用程序或执行操作系统的任务时，认为该系统为运行状态101。按照正常间隔(定义为时限)，发送定时器中断信号。系统执行上下文切换，然后进入定时器中断服务例程(ISR)102。定时器ISR102负责执行周期函数，并在多任务操作系统上执行时序安排。在定时器ISR102完成其任务后，恢复系统上下文，并将控制返回到运行状态101。

当诸如网络接口或磁盘之类的系统设备发现其活动需要引起系统注意时，触发设备中断111。通过完成先前请求的操作，如磁盘写入操作或网络发送操作，触发上述中断，或者通过接收新数据，如接收网络上的新数据包，触发上述中断。在收到此类中断时，系统执行上下文切换，然后执行该设备的中断服务例程(设备ISR103)。该例程检查设备状态，并执行所需操作，此后恢复系统上下文，并将控制返回到运行状态101。

如果没有准备运行的应用程序或操作系统任务，或者如果因等待系统事件或设备I/O而阻塞所有上述任务，则认为该系统处于“空闲”112，并使大部分系统转到省电模式，即睡眠状态104。该系统保持上述状态，直至收到中断(定时器120或设备121)，此后将控制转到相应ISR(102或103)。通常，ISR的结果将创建新的应用程序或操作系统任务，然后返回到运行状态101。否则，如果该系统仍然保持空闲，则返回到省电模式，即睡眠状态104。

在轮询系统(图6)中，不会使用中断发送设备活动信号。而是周期检查设备状态—或者在定时器ISR102期间或者在空闲轮询循环105期间。当轮询循环105检测到新的设备活动时，调用该设备的ISR。由于该系统经常检查设备状态或正在运行的应用程序抑或系统任务—因此不可能进入省电模式或转到睡眠状态104。在没有应用程序或系统任务需要运行时直接进入睡眠可能违反有关设备服务请求的等待时间限制，并引起系统性能降级。

图3表示两个现有系统的混合，上述系统具有自适应机制，以便在不降低系统性能或响应的情况下控制系统省电。该系统开始于运行状态101，当该系统没有应用程序或系统任务需要运行，或者当定时器中断出现时，该系统转到轮询状态105。如果轮询设备状态检测到服务请求，则将控制转到相应设备的ISR103。当ISR完成时，将活动计数器加1，然后将控制转到自适应例程106。如果没有检测到设备活动，则将不活动计数器加1，然后将控制转到自适应例程106。

自适应例程106可以检查系统状态，包括不活动和活动计数器(用于记录轮询设备没有作业的次数或具有未决服务请求的次数)，并修改系统参数，以在保持系统响应限制的情况下增加/减少省电时限。虽然不同系统之间的自适应处理各不相同，但是某个特定实施方式可以选择宣布设备“空闲”，因此在设备状态轮询返回某个次数的不活动状态后，该系统有资格进入省电模式。另外，也可以选择调整空闲阈值，或认为系统“空闲”之前连续不断的不活动轮询的次数。

在延时空闲期间(在整个定时器时限内未检测到设备活动)，自适应例程106选择禁用轮询，其方法是降低阈值，从而只要轮询设备状态一次就能确定设备是否空闲，并重新启用设备中断。该方法的目的是使该系统尽可能保持睡眠状态，只有设备活动或定时器中断才能中断。此类设备活动将触发自适应例程106禁用设备中断，并增加不活动的阈值。

其他实施方式可以选择调整定时器中断的周期(时限)，从而以更低频率出现。考虑到系统时序安排策略和周期任务，可能对上述调整规定上限。

为了保证成批处理服务请求，自适应例程106可以决定在达到不活动阈值前宣布系统空闲，其前提是到达定时器时限的时间小于某个服务请求的最小等待时间阈值。在简化示例中，将Web服务器片的定时器时限设置为10毫秒。自上一个时钟报时信号以来经过了8毫秒的轮询和活动。如果将最小等待时间限制设置为3毫秒，则在下一个定时器报时信号前的剩余2毫秒内，使CPU处于睡眠状态。

在自适应例程106运行之后，系统检查是否有准备运行的系统或应用程序任务。如果有的话，则将控制转到运行状态101以执行任务。如果没有准备运行的任务，则该系统检查自适应参数以确定系统是否“空闲”。如果认为该系统不空闲，则重新进入轮询状态105检查设备状态。如果认为系统空闲并且省电模式不会降低响应，则系统进入睡眠状态104。中断(设备或定时器)使系统退出省电睡眠状态104，然后进入轮询状态105。

最小等待时间限制可以由系统设计员进行硬编码，或者随时间推移根据反馈进行修改，以满足系统的端到端响应时间限制。端到端响应时间的推导是应用程序规范，并且可以根据用户需求改变。例如，具有5秒传输延迟的长距离网络上的Web服务器能够忍受由省电模式引起的4毫秒的延迟。建模结果表示当在Web服务器片上使用英特尔CPU体系结构时可能省电30％-40％。

通过参考图4所示的流程图，能够更好地理解本发明，其中图4表示示例性实施方式。图4中的某些步骤包括圆括号中的第二参考号码，后者表示图3所示的相应功能的操作状态。首先，该过程运行用户应用程序(50)。系统等待中断(54)或等待没有准备运行的应用程序或系统任务。接着，系统轮询设备以查看是否存在未决的服务请求(58)。如果有未决的服务请求(62)，则系统考虑活动(61)，并转到该设备的中断服务例程以处理请求(64)。在处理该设备的请求后，系统经过自适应(68)步骤。如果没有检测到未决服务请求，则将系统不活动计数器加1(63)，然后运行自适应例程(68)。

如上所述，自适应例程(68)根据活动、不活动和/或时限中的剩余时间，调整系统变量。然后确定是否宣布设备空闲。如果设备空闲，则自适应例程决定启用设备中断。在自适应例程完成后，系统进行检查以确定是否还有准备运行的应用程序或系统任务。如果有的话，则返回到运行任务(50)。否则，系统进行检查以确定应用程序是否宣布设备空闲(72)。不然的话，系统返回到针对未决服务请求轮询设备(58)。如果设备空闲，则系统进入省电状态(74)，并且在收到定时器或设备中断前保持省电状态。

如果设备中断负责系统退出省电状态(69)，则禁用设备中断(58)，并且系统返回到轮询未决服务请求(58)。

尽管参照具体实施方式说明本发明，但上述说明没有任何限制含义。通过参考本发明的详细说明书，熟练技术人员容易想到所述实施方式的各种修改，以及本发明的其他实施方式。因此，所有此类修改均不背离附属权利要求书定义的本发明的实质和范围。

Claims (21)

1.一种对轮询数据处理系统中的未决设备服务请求的周期进行自适应控制的方法，所述数据处理系统具有一个处理器以及一个或多个输入/输出(I/O)设备，所述方法包括以下步骤：

针对未决服务请求，轮询数据处理系统的设备；

记录是否有未决服务请求；

根据积累数据，确定设备是否空闲；以及

响应所述确定步骤，使处理器进入低功耗状态。

2.权利要求1的方法，还包括以下步骤：处理所述轮询步骤收到的一个或多个服务请求。

3.权利要求1的方法，还包括以下步骤：自适应设置一个阈值，该阈值为在认为设备空闲前未发现未决服务请求的轮询的最小次数。

4.权利要求1的方法，还包括以下步骤：响应系统或设备不活动，自适应设置与定时器中断处理器之频率相对应的定时器时限。

5.权利要求1的方法，还包括以下步骤：响应设备活动或不活动，启用或禁用设备中断。

6.权利要求1的方法，还包括以下步骤：自适应设置一个最小等待时间阈值，该最小等待时间阈值用于说明尽管存在未决服务请求系统仍保持低功耗状态的最大时间量。

7.权利要求1的方法，还包括以下步骤：响应稍后的中断，重新恢复处于低功耗状态的处理器的操作。

8.一个数据处理系统，所述系统包括：

至少一个处理器；

与所述处理器相连的存储设备；

与所述处理器相连的一个或多个输入/输出(I/O)设备；以及

所述存储设备中存储的、用于对轮询未决设备服务请求的周期进行修改的程序指令，其方法是：针对未决服务请求，轮询所述设备，记录是否有未决服务请求，根据积累数据确定设备是否空闲，以及作为响应，使所述处理器进入低功耗状态。

9.权利要求8的数据处理系统，其中所述程序指令还处理通过轮询处理收到的一个或多个中断。

10.权利要求8的数据处理系统，其中所述程序指令自适应设置一个阈值，该阈值为在认为设备空闲前未发现未决服务请求的轮询的最小次数。

11.权利要求8的数据处理系统，其中响应系统或设备不活动，所述程序指令自适应设置与定时器中断所述处理器之频率相对应的定时器时限。

12.权利要求8的数据处理系统，其中响应设备活动或不活动，所述程序指令启用或禁用设备中断。

13.权利要求8的数据处理系统，其中所述程序指令自适应设置一个最小等待时间阈值，该最小等待时间阈值用于说明尽管存在未决服务请求系统仍保持低功耗状态的最大时间量。

14.权利要求8的数据处理系统，其中响应稍后的中断，所述程序指令重新恢复处于低功耗状态的所述处理器的操作。

15.一种对轮询数据处理系统中的未决设备服务请求的周期进行自适应控制的计算机程序产品，所述数据处理系统具有一个处理器以及一个或多个I/O设备，所述程序产品包括：

计算机可读介质；以及

驻留在所述介质中的程序指令，用于针对未决服务请求轮询设备，记录是否有未决服务请求，根据积累数据确定设备是否空闲，以及作为响应，使所述处理器进入低功耗状态。

16.权利要求15的计算机程序产品，其中所述程序指令还处理通过轮询处理收到的一个或多个中断。

17.权利要求15的计算机程序产品，其中所述程序指令自适应设置一个阈值，该阈值为在认为设备空闲前未发现未决服务请求的轮询的最小次数。

18.权利要求15的计算机程序产品，其中响应系统或设备不活动，所述程序指令自适应设置与定时器中断处理器之频率相对应的定时器时限。

19.权利要求15的计算机程序产品，其中响应设备活动或不活动，所述程序指令启用或禁用设备中断。

20.权利要求15的计算机程序产品，其中所述程序指令自适应设置一个最小等待时间阈值，该最小等待时间阈值用于说明尽管存在未决服务请求系统仍保持低功耗状态的最大时间量。

21.权利要求15的计算机程序产品，其中响应稍后的中断，所述程序指令重新恢复处于低功耗状态的处理器的操作。

Images