CN100473021C - 用于通过调节网络控制进行自动的系统管理的系统和方法 - Google Patents

Abstract

本发明提供了一种系统和方法，采用用于其他操作系统资源的现有控制机制在分布式按需信息技术(IT)系统中确定网络资源的分配，以便在IT系统内获得期望的操作点。通过优化基于目标的目标函数，同时考虑系统约束来获得该期望的操作点。针对可以由多种系统应用请求的多个操作自动地获得所有系统资源(即，网络资源和处理资源)的利用与达到性能目标之间的关系。这种关系用于将网络资源分配给应用，同时保持期望的性能目标。这种分配采用现有的控制机制来实现。

Description

用于通过调节网络控制进行自动的系统管理的系统和方法

技术领域

本发明针对大型信息技术系统中的资源管理。

背景技术

大型IT(信息技术)系统中的资源管理提出了许多挑战。由于创建了突发性很强且不可预测的资源需求模型，诸如网格计算和利用率计算之类的当前服务模型增加了资源管理的复杂度。这些需求模型很难预期或预先表征。成功地操作这些服务模型需要符合关于应用程序性能的服务等级协定(SLA)。常规的资源管理方法通过估计应用程序资源需求的统计期望并尝试计算SLA违规的概率的理论界限来进行系统资源的分配。

相反，动态资源管理器监控IT系统的性能和系统资源的利用，当认为系统运行达不到目标或不符合指定的SLA时，调整资源的分配。一般来说，资源管理器按照可用的控制来操作，这些控制用于将调度方法应用于管理和指示各种应用程序对资源的使用。例如，将处理调度函数用于在该处理资源所执行的各种处理之间分配对处理资源即一个或多个中央处理单元(CPU)的共享。在确定不能完成某些性能目标后以及/或者当动态资源管理器计算出可能更有利的备选分配时，动态资源管理器将改变这些分配。

动态资源管理器控制各种类型的系统资源，例如处理资源(例如CPU周期)、主系统存储器、磁盘空间和网络资源(例如通信带宽和网络缓冲器)。常规的方法独立地管理处理资源和网络资源，一般会忽略每种资源的可用情况与使用情况之间的复杂依赖关系。事实上，在IT系统中进行基于性能的资源管理的主要方法都是控制处理资源，而假设网络容量供大于求(over-provisioned)。这种假设只在所部署的应用程序的计算强度非常高、具有非常有限的通信需求并且不包括长距离或低带宽的通信链路的系统中成立。

然而，随着IT系统在尺寸和地理规模上的扩展、更多地使用公共网络和广域网以及处理由诸如网格计算、利用率计算和多媒体流处理之类的新应用程序模型引入的不可预测的需求，网络资源管理已成为系统管理整体的一部分。通过非供大于求的通信资源进行大量数据传送伴随着一定程度的不可预测性对整个系统管理增加了大量的复杂度。

因此，需要控制网络资源分配的系统和方法，以实现应用程序的性能目标并实现诸如计算资源之类的其他系统资源的目标利用。这些系统和方法必须明确地考虑到系统中每一种类型的资源(包括处理资源和网络资源)的可用情况和使用情况之间的复杂的依赖关系。

发明内容

所公开的发明是一种用于信息技术(IT)系统的控制机制。这种系统可以包括(但不限于)分布式计算系统、网格计算系统和流处理系统。本发明结合例如处理器能力(CPU)、排队顺序确定、磁盘分配和主存储器分配之类的其他系统资源(的更常规的调节)来调节分配给不同任务和/或应用程序的网络资源数量，以驱使IT系统达到期望操作点。通过优化基于目标的目标函数，同时考虑系统约束来达到这种期望操作点。当过度定制网络资源，引起瓶颈时，所述控制机制将网络资源管理结合到现有的处理资源管理中，从而实现IT系统的正确功能。

本发明利用网络资源作为一组控制变量来管理IT系统。对网络资源的这种使用基于网络资源利用与达到运行于IT系统(的一个或多个节点)上的应用程序的性能目标之间的关系的理解。本发明自动地确定了这种关系和用于使用这种关系来实现期望的性能目标的机制。可以结合本发明使用未明确控制网络资源分配的现有控制机制来实现性能目标。在不排除和减少现有机制的功能性的情况下利用现有控制方法和技术添加了新的控制参数。因此，根据本发明的示例性系统和方法结合现有控制机制而工作，以根据期望的性能目标来控制资源使用和提供工作量执行。

附图说明

图1是根据本发明的分布式信息技术系统的实施例的示意性表示；

图2是示出根据本发明的用于网络资源分配的方法的实施例的流程图；以及

图3是示出一个单独的节点上用于操作根据本发明的方法的系统的实施例的框图。

具体实施方式

根据本发明的示例性系统和方法提供了用于在诸如信息技术(IT)系统之类的计算系统中实现性能目标的简单且有效的控制机制。参考图1，其中示出了结合根据本发明的示例性实施例而使用的IT系统10的示例。IT系统10包括通过一个或多个网络14彼此通信的多个分布式节点12或计算机。这些网络14包括局域网和诸如因特网之类的广域网。每个节点包含至少一个逻辑处理器，例如能够执行运行于该节点或计算机上的多个应用程序或程序16的中央处理单元(CPU)。这些应用程序或程序16提供IT系统10的各种功能性。这些节点和计算机通过网络发送和接收用于运行于这些计算机上的应用程序的数据流。每个节点还可以包含一个或多个存储介质，以存储用于执行应用程序16的可执行代码并存储其他数据。

每个节点12包含多个处理资源，即用于在该节点上执行应用程序16的CPU和主存储器。这些处理资源可以由现有的资源管理器管理，或者可以不被现有的资源管理器管理。除处理资源之外，IT系统10还包括网络资源，例如用于系统10的不同节点12之间的数据移动即数据流的通信网络带宽和网络缓冲器空间。处理资源和网络资源的使用情况和可用情况会影响IT系统的性能。在逐个节点(node-by-node)的基础上应用根据本发明的示例性方法，以在每个节点上控制处理资源和网络资源的利用和分配。

根据本发明的方法根据设定的性能目标来优化运行于IT系统的节点上的应用程序的性能。因此，通过优化性能目标，可以优化IT系统本身的性能。分布式应用程序在不同节点之间发送和接收数据，从而同时消耗处理资源和网络资源。对这两种类型的资源的利用是相互依赖的。处理资源的利用和应用程序性能会受到网络资源的可用情况和使用情况的影响。例如，如果给定的应用程序正需要通过网络发送大量数据，而当前可用的网络带宽较低，则应用程序性能会下降。因此，处理资源的利用与网络资源的利用之间存在相互依赖关系。这种相互依赖关系还会影响IT系统性能目标的实现。因此，优化应用程序性能包括优化应用程序对处理资源和网络资源的使用。因此，应控制处理资源的利用和网络资源的利用以实现节点上每个应用程序的执行、该节点的资源利用以及IT系统的整体运行的期望性能目标。根据本发明的方法确定处理资源的利用与网络资源的利用之间的这种相互依赖关系或关系并用其来计算优化性能目标的处理资源分配和网络资源分配。这些方法用于确定说明应用程序对网络资源的利用的不可预测的、“突发的”和动态的性质的关系。

参考图2，其中示出了用于在IT系统20中进行资源管理的方法的示例性实施例。尽管示出为一个单路过程，但应当理解，可以将该示例性方法操作为连续的或重复的循环或过程。因此，在任一给定的实现之后，确定随后的一组性能目标和关系。首先，对于运行于包含多个计算机的计算系统中的给定计算机上的至少一个应用程序，确定在执行应用程序期间会受到对处理资源和网络资源的利用的影响的至少一个性能目标(步骤22)。该计算系统中的每个计算机运行多个应用程序。因此，在一个实施例中，为运行于给定计算机上的多个应用程序中的每一个应用程序确定性能目标。作为替代，为运行于计算机上的一个单独的应用程序或为运行于该计算机上的多个应用程序确定多个性能目标。这一过程还可以包括确定影响性能目标的处理资源和网络资源。还可以针对IT系统中的多个节点重复对处理资源、网络资源以及性能目标进行应用程序特定的确定。多个节点可以是计算系统中的整组计算机或这些计算机的子集。

处理资源是该计算机或节点内由运行于计算机上的任意应用程序所利用的资源，并且处理资源包括但不限于CPU、主存储器和磁盘空间。网络资源是每个应用程序通过网络在节点之间交换消息、呼叫或数据时所利用的资源，并且网络资源包括但不限于通信带宽、通信缓冲器空间、链路带宽、网络交换带宽、网络接口缓冲器容量、操作系统缓冲器容量、应用程序缓冲器容量、网络交换缓冲器容量及其组合。可以用网络资源分配、处理资源分配或网络资源和处理资源分配来表示性能目标。作为替代，也可以用不直接与特定资源(网络资源或处理资源)的利用相联系的应用程序性能目标来表示性能目标。在一个实施例中，性能目标表示同时运行于节点或计算机上的多个应用程序之间的CPU处理能力的期望分配。例如，性能目标表明将50％的处理能力分配给第一应用程序、将20％的处理能力分配给第二应用程序并将25％的处理能力分配给第三应用程序。在另一个实施例中，性能目标不是用特定处理资源的分配来表示的，而是一种对期望应用程序性能目标的描述。对于通过网络发送消息或呼叫并接收对这些消息的应答的应用程序，应用程序性能可以用每对到来消息和发出消息所耗费的时间(即往返时间)来描述。因此，在另一个实施例中，性能目标可以表明第一应用程序的最大期望往返时间是30毫秒、第二应用程序的最大期望往返时间是5毫秒并且第三应用程序的最大期望往返时间是2毫秒。

确定了一个或多个性能目标之后，确定处理资源的利用或网络资源的利用与实现性能目标之间的至少一个关系(步骤24)。作为替代，确定多个关系。在不需要先验知识并且没有人为的干预或校准的情况下确定这些关系，即自动地确定这些关系。在一个实施例中，在每个应用程序的基础上确定这些关系，即针对多个应用程序中的每一个应用程序确定网络资源利用或处理资源利用与性能目标实现之间的关系。作为替代，确定包括多个应用程序的网络资源、处理资源与性能目标之间的并行关系的更复杂的关系。尽管不需要先验知识以及人为的干预和校准，但如果可用，仍可以将某些或所有先验知识以及人为的干预和校准结合到本方法中。

在一个实施例中，采用适合于说明IT系统中的资源使用的动态性质的方法来确定这些关系。在一个实施例中，采用学习算法来确定这些关系。优选地，在IT系统的运行期间以对系统的最小干扰来实时地应用这些学习算法。在一个实施例中，连续地应用学习算法，以便可以随时间变化而更新这些关系，这些关系说明了计算系统中的资源利用的动态的和变化的性质。可以采用能够随时间变化而收集网络资源利用或处理资源利用以及性能的测量值并能够推导出描述处理资源的利用或网络资源的利用与实现性能目标之间的关系的函数的任意的基于学习的算法。在一个实施例中，该基于学习的算法是动态的、随机的控制算法。动态的、随机的控制算法的例子可见于与IBM存档号YOR920050065US1有关的美国专利申请中，在此通过引用的方式包含其全部内容。

一般来说，通过在IT系统中的给定节点上执行给定应用程序期间以固定的时间间隔来记录对不同资源的利用级别和各种性能目标的实现级别的观察结果来确定给定应用程序的处理资源利用或网络资源利用与性能目标实现之间的关系。针对每个观察结果，记录参数的n元组(n-tuple)，包括所控制的每个应用程序的网络资源的分配和利用以及处理资源的利用。这些测量值代表不同应用程序的资源利用的多维空间中的采样点，并且在正常的系统运行期间即不需要打扰正常的系统运行就可以收集这些测量值。这种测量值的收集实现了对表示处理资源利用、性能目标实现与网络资源利用之间的依赖关系的多维函数的近似。可以用适当的过滤技术来减小随机波动和测量误差对观察到的测量值的影响。适当的过滤技术是本领域中已知并且可用的。

将所确定的关系用于确定所有可控资源的联合空间中的期望的一组操作，这些可控资源包括所有的可用网络资源和处理资源。将这一组操作选择为通过优化所确定的性能目标来优化运行于IT系统中的计算机或节点上的应用程序的执行。因此，在一个实施例中，将所确定的关系用于控制给定应用程序所利用的网络资源的分配，以优化一个或多个性能目标。一般来说，该性能目标就是指定的应用程序执行和资源利用的性能目标。在一个实施例中，根据针对一个单独的应用程序或在同时运行于一个给定的计算机上的多个应用程序之间进行的CPU处理能力分配来表示性能目标。例如，性能目标表明将50％的CPU处理能力分配给第一应用程序、将20％的CPU处理能力分配给第二应用程序并将25％的CPU处理能力分配给第三应用程序。

在另一个实施例中，性能目标不是用特定处理资源的分配来表示的，而是对应用程序性能参数的期望质量度量的描述。对于通过网络发送消息或呼叫并接收对这些消息的应答的应用程序，应用程序性能会受到每对到来消息和发出消息的所经历的延迟即往返时间的影响。因此，性能目标可以表明第一应用程序的最大期望往返时间是30毫秒、第二应用程序的最大期望往返时间是5毫秒并且第三应用程序的最大期望往返时间是2毫秒。基于这种期望目标来控制处理资源的分配。

在一个实施例中，确定对处理资源的分配或性能目标的实现的附加约束(步骤30)。对处理资源分配的适当约束包括例如在任意给定时间上为每个应用程序分配总CPU处理能力的至少2％，或者每个应用程序有权存取至少1MB的内存。对性能目标的适当约束包括每个应用程序应当经历不大于35毫秒的往返延迟时间。还可以为网络资源的分配定义类似的约束。

确定期望的性能目标之后，计算将用于应用程序执行的网络资源或处理资源的分配(步骤34)，以便优化每个所确定的性能目标。将处理资源分配或网络资源分配与性能目标之间的所确定的关系用于计算所提出的优化的网络资源分配或处理资源分配。对于运行于给定节点上的每个应用程序，所提出的网络资源的分配代表了在当前时间间隔期间分配给该应用程序的网络资源(例如带宽)的数量。由于所确定的关系会随时间变化，因此这些关系如同计算出的分配方案一样更新。在一个实施例中，以固定的间隔更新所确定的关系和计算出的分配方案。优选地，实时地连续更新所确定的关系和计算出的分配方案。

在一个实施例中，可以将应用程序所利用的处理资源视为显示出根据分配给该应用程序的网络资源数量而变化的单调性质。可以例如用函数C(B)来表示根据分配给运行于给定节点上的给定应用程序的网络资源数量而变化的该应用程序所利用的处理资源。该函数C(B)是增函数或减函数。例如，处理到来数据流的应用程序会耗费CPU资源来处理该数据。接收到的数据的量越大，所耗费的CPU资源的量和通过网络发送和接收的数据的量就越大。因此，函数C(B)是增函数，即增加网络资源使用量意味着增加处理资源使用量。在另一个实施例中，到来或发出的数据业务的量变小引起处理资源需求的减少。例如，多媒体应用要求更多的CPU能力来执行对发出多媒体流进行更高级别的压缩，并且与此类似，要求更多的CPU能力来扩展高度压缩的到来流。然而，这种更高级别的压缩会引起通过网络行进的数据的大小和量的减少。对于这种应用，函数C(B)是减函数，即处理资源使用量的减少引起网络资源使用量的减少。不管所分配的网络资源量是增加了还是减少了，根据本发明的示例性实施例都能根据当前的应用程序性能和处理资源利用，保持对处理资源利用和网络资源利用之间的这种关系的了解，并将这种关系用于计算待确定的优化的网络资源分配。

可将计算出的网络资源分配视为将对网络资源分配采取的所提出的或期望的一组操作，例如增加或减少提供给一个或多个应用程序的网络分配。这些操作的例子包括将用于运行于给定节点上的第一应用程序的带宽增加10％，并将用于运行于该节点上的第二应用程序的带宽减少5％。在一个实施例中，优选地根据预定的固定时间间隔，针对给定的计算机或节点上的所有应用程序共同地确定这些组的操作。

计算出的网络资源分配即操作有可能对处理资源的分配或对性能目标的实现造成影响。这些影响有可能代表了可能违背预定约束或不期望的性能下降。因此，在一个实施例中，分析所提出的计算出的网络资源分配相对于当前的处理资源分配的关系(步骤36)，以确定所提出的网络资源分配对处理资源分配或性能目标的任意可能的影响。在一个实施例中，将IT系统中的现有的处理资源控制器用于控制处理资源，例如CPU利用、磁盘空间和存储器分配，并从而将IT系统中的这些现有的控制器或模型用于确定和权衡现有的控制器对所考虑的控制操作的可能反应的代价和好处。

基于所提出的网络资源分配对处理资源分配或性能目标实现的任意影响，可以按照需要调整或按比例增减网络资源的分配以实现期望的或选定的性能目标(步骤38)。

然后，实现计算出的网络资源分配，包括任意的按比例增减和调整(步骤40)。可以将任何适当的机制用于在计算机系统中实施或实现期望的操作。这些机制的例子包括但不限于网络过滤器和网络资源保留机制和协议，诸如综合服务或区分服务。

确定性能目标、将性能目标表示为资源分配、确定限定网络资源分配和处理资源分配的操作、采用现有的资源控制器来检查所提出的分配以及调整网络处理资源分配的步骤可以顺序地运行也可以并行地进行。此外，根据本发明的用于网络资源分配的方法可以作为一个单独的分配而进行。作为替代，这些处理步骤可以作为连续的循环而进行，以便随时间变化而更新对处理资源分配、网络资源分配与性能目标之间的关系的确定、性能目标的选择、处理资源的分配以及网络资源的分配，以说明IT系统的动态性质。

参考图3，其中示出了将根据本发明的方法的示例性实施例应用于IT系统中的一个单独的系统节点的实现。如图所示，多个应用程序16运行于网络的应用层42上的一个单独的节点12中。每个应用程序通过传输层44和网络层46进行通信，以利用IT系统中的网络资源。网络资源控制器52采用性能监控和处理资源利用接口48来收集将结合根据本发明的方法而使用的适当的资源利用测量值和性能测量值。此外，根据本发明，提供了网络资源接口54以监控网络资源的分配并修改网络资源的分配。网络资源接口采用网络资源管理应用程序56来监控和控制网络层的网络资源。采用任意的合适的输入设备或通过从数据库读取对象而将期望的性能目标50提供为对网络资源控制器52的输入。根据本发明的示例性方法能够操作于用于在每个应用程序(进程)的基础上监控处理资源利用和网络资源利用的任意IT系统中。

本发明还针对包含机器可执行代码或计算机可执行代码的机器可读介质或计算机可读介质，当由机器或计算机读取时，该代码使得机器或计算机执行根据本发明的示例性实施例的用于在计算系统中进行处理资源和网络资源管理的方法并执行该计算机可执行代码本身。这种机器可执行代码或计算机可执行代码可以是能够由机器或计算机读取并执行的任意类型的代码或语言，并且可以表示为本领域中已知并可用的任意合适的语言或语法，包括机器语言、汇编语言、高级语言、面向对象的语言和脚本语言。可以将这种计算机可执行代码存储于任意合适的存储介质或数据库(包括部署在根据本发明的系统所利用的计算机网络中、与这些计算机网络进行通信并可由这些计算机网络访问的数据库)中，并且可以在本领域中已知并可用的任意合适的硬件平台上执行这种计算机可执行代码。

尽管很显然，在此公开的本发明的说明性实施例实现了本发明的目的，但应当意识到，本领域的普通技术人员可以考虑大量修改和其他实施例。此外，可以单独地或结合其他实施例而使用根据任意实施例的特征和/或元件。因此，应当理解，所附权利要求旨在覆盖在本发明的本质和范围内的所有这些修改和实施例。

Claims (14)

1.一种用于在计算系统中对处理资源和网络资源进行管理的方法，包括：

确定利用处理资源和网络资源并且运行于计算系统中的计算机上的应用程序的性能目标，所述计算系统包含多个计算机，每个计算机运行多个应用程序；

确定所确定的性能目标与所述应用程序对网络资源的利用之间的关系；

使用所确定的关系来计算针对所述应用程序的网络资源分配，所述分配优化了所述所确定的性能目标；以及

实现所计算的网络资源分配。

2.根据权利要求1所述的方法，其中确定关系的步骤包括采用学习算法来确定所述关系。

3.根据权利要求1所述的方法，其中确定关系的步骤包括采用随机控制算法来确定所述关系。

4.根据权利要求1所述的方法，还包括实时地连续更新所确定的性能目标与网络资源利用之间的所述确定的关系以及计算出的针对所述应用程序的网络资源分配。

5.根据权利要求1所述的方法，其中确定应用程序的性能目标的步骤还包括确定运行于计算系统中的计算机上的应用程序的性能目标，计算系统包含通过网络进行通信的多个计算机。

6.根据权利要求1所述的方法，还包括：

确定所确定的性能目标与所述应用程序对处理资源的利用之间的关系；

使用所确定性能目标与所述应用程序对处理资源的利用之间的关系来计算针对所述应用程序的处理资源分配，该分配优化了所述所确定的性能目标；以及

实现计算出的处理资源分配。

7.根据权利要求6所述的方法，其中确定所确定的性能目标与处理资源利用之间的关系的步骤包括确定所述所确定的性能目标与对中央处理单元能力的利用之间的关系。

8.根据权利要求1所述的方法，还包括确定对处理资源分配和网络资源分配中的至少一个的至少一种约束。

9.根据权利要求1所述的方法，其中使用所确定的关系来计算网络资源的分配的步骤还包括增加对所述应用程序的网络资源分配或减少对所述应用程序的网络资源分配。

10.根据权利要求1所述的方法，其中实现所述网络资源分配的步骤包括采用网络滤波器或网络资源保留机制来实现所述网络资源分配。

11.根据权利要求1所述的方法，其中所确定的网络资源包括链路带宽、网络交换带宽、网络接口缓冲器容量、操作系统缓冲器容量、应用程序缓冲器容量、网络交换缓冲器容量或其组合。

12.根据权利要求6所述的方法，其中所述网络资源包括带宽，所述处理资源包括中央处理单元能力，并且所述所确定的性能目标包括在运行于计算机系统中的一个单独的计算机上的多个应用程序之间分配处理单元能力。

13.根据权利要求1所述的方法，其中确定性能目标的步骤包括确定所述应用程序的多个性能目标，确定所述关系的步骤包括确定所述所确定的性能目标与所述应用程序对网络资源的利用之间的多个关系，以及使用所确定的关系的步骤包括使用所确定的多个关系来计算针对所述应用程序的网络资源分配，所述分配优化了所确定的性能目标。

14.根据权利要求1所述的方法，其中确定性能目标的步骤还包括确定多个应用程序的多个性能目标，确定所确定的性能目标与所述应用程序对网络资源的利用之间的关系的步骤包括针对多个应用程序中的每一个应用程序确定一个单独的关系，以及使用所确定的关系的步骤包括使用所有的单独关系来计算所述多个应用程序之间的网络资源分配，所述分配优化了所确定的性能目标。

Images