CN104699538A - 用于多处理系统中的工作负载请求分派的方法和系统 - Google Patents

Abstract

本发明的实施例提供了一种用于多处理系统中的工作负载请求分派的方法和系统。一种计算设备确定对用第一域标识符所标识的工作负载请求尝试的操作。该计算设备确定用第二域标识符所标识的处理器核。响应于确定了用第二域标识符所标识的处理器核可以服务用第一域标识符所标识的工作负载请求，计算设备向该处理器核部署工作负载请求以用于进行服务。

Description

用于多处理系统中的工作负载请求分派的方法和系统

技术领域

本公开一般地涉及多核处理系统的领域，并且更具体地，涉及多处理系统中的工作负载请求分派。

背景技术

操作系统的关键任务是向所有应用分配硬件资源，如处理器周期和存储器。通常，应用接收或多或少相等的资源共享。在特定情况下，期望向几个应用给予优于其他应用的对资源的访问，诸如满足期望的服务质量。在其他情况下，期望限制由应用消耗的资源，诸如避免拒绝服务攻击。

通用操作系统以不同的方式满足这些目标。一种解决方案支持按过程的优先级和限制的概念。另一解决方案以诸如用户ID的任意属性来对任务进行分组，并且对由组中的所有任务消耗的资源施加限制。管理对任务组而不是对独立任务的资源分配需要增加的灵活度并且可从管理的角度来进行管理。附加解决方案对诸如卷组、文件系统和文件提供资源隔离。因此，资源隔离提供了对使用或访问对象的限制；然而，这样的隔离没有延伸到处理器。

发明内容

本发明的实施例提供了一种用于在多核系统中的基于域的资源隔离的系统、方法和程序产品。一种计算设备确定对用第一域标识符所标识的工作负载请求尝试的操作。该计算设备确定用第二域标识符所标识的处理器核。响应于确定了用第二域标识符所标识的处理器核可以服务用第一域标识符所标识的工作负载请求，计算设备向处理器核部署工作负载请求来进行服务。

附图说明

图1A描绘了根据本发明的实施例的示例性多核系统。

图1B描绘了根据本发明的实施例的环境。

图1C描绘了根据本发明的实施例的环境。

图1D描绘了根据本发明的实施例的CPU池的示例性图示。

图1E描绘了根据本发明的实施例的工作负载域分离的示例性图示。

图2描绘了根据本发明的实施例的在内核空间中实施的基于域的工作负载隔离的示例性示图。

图3是描绘根据本发明的实施例的程序功能的操作步骤的流程图。

图4描绘了根据本发明的实施例的虚拟化系统的组件的框图。

具体实施方式

所属技术领域的技术人员知道，本发明的各个方面可以实现为系统、方法或计算机程序产品。因此，本发明的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、驻留软件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。此外，在一些实施例中，本发明的各个方面还可以实现为在一个或多个计算机可读介质中的计算机程序产品的形式，该计算机可读介质中包含计算机可读的程序代码/指令。

可以采用计算机可读介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括——但不限于——电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于——无线、有线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

下面将参照根据本发明实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述本发明。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机程序指令实现。这些计算机程序指令可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，从而生产出一种机器，使得这些计算机程序指令在通过计算机或其他可编程数据处理装置的处理器执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。

也可以把这些计算机程序指令存储在计算机可读介质中，这些指令使得计算机、其他可编程数据处理装置、或其他设备以特定方式工作，从而，存储在计算机可读介质中的指令就产生出包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的指令的制造品(articleof manufacture)。

计算机程序指令还可以被加载到计算机、其他可编程数据处理装置或者其他设备，以使得在该计算机、其他可编程装置或者其他设备上执行操作步骤序列以产生计算机执行的处理，使得在计算机或其他可编程装置上执行的指令提供用于实现在流程图和/或框图的一个或多个块中规定的功能/动作的处理。

操作系统的关键任务是向所有应用分配硬件资源，如处理器周期和存储器。通常，应用接收或多或少相等的资源共享。在特定情况下，期望向几个应用给予优先于其他应用的对资源的访问，诸如满足期望的服务质量。在其他情况下，期望限制由应用消耗的资源，诸如以避免拒绝服务攻击。

在用户运行多个不同的交易的情况下，每个用户可能需要独立的处理器负载和预定的工作负载优化。本发明的实施例试图利用资源隔离来解决上述处理器负载和工作负载优化的问题。具体地，本发明的实施例使用域来向处理器核提供资源隔离。在实施例中，域是基于预定性能准则和/或预定工作负载模式来对处理器核分组的标签(tag)。

现在将具体参考附图来描述本发明的实施例。图1A描绘了根据本发明的实施例的示例性多核系统。多核系统包括核0、1和2，每一个都具有与存储器块和I/O设备进行通信的相关联的L1、L2和L3高速缓存，该存储器块和I/O设备诸如磁盘驱动器、键盘、监视器、打印机、调制解调器和网卡。多核系统的优点之一在于能够同时执行多个指令，这可以提高系统性能。虽然图1A的示例性多核系统包括三(3)个核，但是其他示例性多核系统可以包括更多或更少的核以及不同的高速缓存电路。

图1B描绘了根据本发明的实施例的虚拟化系统，通常为100。虚拟化系统100是其中生成如具有操作系统的物理计算设备一样进行动作的虚拟机的系统。在虚拟机上执行的软件从底层资源分离。在硬件虚拟化中，主控机是虚拟化发生在其上的实际物理机，并且客户机是虚拟机。术语主控和客户用于使在物理机上运行的软件与在虚拟机上运行的软件进行区分。

具体地，根据本发明的实施例，虚拟化系统100包括硬件层110、管理程序(hypervisor)层120和虚拟机130、140和150。硬件层110包括多核处理器，如在图1A中描绘的多核处理器、存储器和I/O设备，诸如存储设备和网络卡。管理程序层120提供在硬件层110与虚拟机130、140和150之间的接口。管理程序层120与程序功能218进行通信，程序功能218是向通过域分组的处理器核分配工作负载模式的软件。程序功能120可以向适当处理器核部署工作负载以用于进行服务(下面参考图2更详细地讨论)。管理程序层120包括命令解析器119，该211表示解析在主控管理程序层120的机器的用户空间中发起的命令/指令的执行代码(下面参考图2更详细地讨论)。管理程序层120可以管理虚拟化系统100内的虚拟化，其包括例如创建逻辑分区并且动态地跨多个操作系统移动资源。

具体地，管理程序层120可以将被包括在硬件层110中的资源划分成存储设备内的逻辑分区，诸如被包括在外部设备418中的存储设备。每个逻辑分区包括如运行其自己的操作系统的独立系统那样进行操作的虚拟机(以下称为“VM”)。VM 130、140和150由管理程序层120生成为例如被包括在图4的外部设备418中的存储设备中的逻辑分区。VM 130，140和150包括分别运行应用131、141和151的操作系统132、142和152。在实施例中，VM 130、140和150包括除了这里所描述的应用之外的其他应用。应用131、141和151可以是支持本发明的实施例的任何应用。

图1C描绘了根据本发明的实施例的环境，通常是160。环境160包括全部通过网络162互连的服务器164、166和168。网络162可以是例如局域网(LAN)、诸如因特网的广域网(WAN)或二者的组合，并且可以包括有线、无线或光纤连接。通常，网络162可以是将支持在服务器164、166和168之间的通信的连接和协议的任何组合。在本发明的各种实施例中，服务器164、166和168可以是膝上型计算机、平板计算机、上网本计算机、个人计算机(PC)、台式计算机、个人数字助理(PDA)、智能电话或能够经由网络162与其他计算设备进行通信的任何可编程电子设备。

虽然未示出，但是环境160可以包括虚拟机和/或其他计算设备，诸如客户端计算设备。在其他实施例中，服务器164、166和/或168是应用服务器。在其他实施例中，服务器164、166和/或168包括诸如图1A的多核处理器的多核处理器。在另一实施例中，服务器164、166和/或168包括虚拟化系统，诸如虚拟化系统100。定义域可以包括建立用于域的标识符，诸如域名和唯一的数字标识符以及域的描述。主控域的存储库的系统可以强制域标识符的唯一性为唯一名称和/或生成用于跨节点或网络的域的唯一编号。

图1D描绘了根据本发明的实施例的CPU池的示例性说明。具体地，图1D描绘了预定的CPU池1、2和3，其包括被包括在环境160中的CPU核，诸如服务器164、166和168的CPU核。每个CPU池包括针对特定性能级具体调谐的CPU核。例如，CPU池1、2和3分别针对高性能、最优性能和功率节省而被调谐。可以针对每个CPU池来定义域。例如，CPU池1、2和3分别与RED、BLU和GRN相关联。CPU池可以与多于一个的域相关联。同样，工作负载也可以按类型和域来进行分组。图1E描绘了根据本发明的实施例的工作负载域分离的示例性图示。

例如，从操作系统和数据库源起的工作负载可以被指派给RED域；从Web服务器源起的工作负载可被指派给BLU域；并且作为测试负载的工作负载可被指派到GRN域。

图2描绘了根据本发明的一个实施例的管理程序层120中实施的基于域的隔离的示例性原理图。多核处理器可以支持同时多个独立线程的执行，这增加了资源分配的效率。独立线程可以通过应用过程来发起，诸如操作系统过程、工具过程、命令过程以及实用(utility)过程。然而，基于预定逻辑将核限制到域中可以进一步提高资源分配的效率。

如上参考图1E所述，工作负载可以被划分成域。管理程序层120例如可以评估指定哪些域促进对哪些工作负载和核的访问的规则的集合。当过程或对象尝试执行对工作负载的操作时，诸如与数据库相关联的指令，管理程序层120评估与该工作负载相关联的域，并且因此，工作负载被传输到适当的核。

图2描绘了根据本发明的实施例的在内核空间中实施的基于域的隔离的示例性图。管理程序层120可以与服务器164、166和168相关联。虽然在从用户空间接收命令或指令中没有必要涉及内核命令解析器211，但是图2描绘了包含命令解析器的示例以避免使该描述与替代相混淆。

主控管理程序层120的机器具有对核域存储库216和工作负载域存储库217的访问。虽然单独示出，但是核域存储库216和工作负载域存储库217可以被包括在相同的设备中。核域存储库216包括域隔离规则，该规则指示哪些域与哪些处理器核相关联。工作负载域存储库217包括域隔离规则，该规则指示哪些域与哪些工作负载相关联。定义域隔离规则包括指示诸如工作负载或核的项以及促进对该项的操作的性能的域。

定义规则还可以包括指定没有促进对项的操作的性能的域。主控核域存储库216和/或工作负载域存储库217的存储设备可以在相对于管理程序120的机器的本地或远程。在阶段A，核和工作负载域隔离规则205和206分别从核域存储库216和工作负载域存储库217被加载在管理程序层120中。虽然实施例可以将所有的域隔离规则加载到管理程序层120中，但是实施例也可以限制对规则的子集的加载。

在阶段B，程序功能218接收工作负载请求的通知。例如，服务器164可以发起特定数据库查询。在阶段C，程序功能218从内核命令解析器211请求工作负载请求以其为目标的域的标识符。例如，命令解析器211可以调用实现程序功能218的函数，其中工作负载域作为参数被传递。又如，内核命令解析器211可以通过系统调用来接收消息，该系统调用向程序功能218指示域标识符。

在阶段D，程序功能218基于与工作负载请求相关联的域来确定该请求是否可以由被包括在服务器164、166和/或168中的核来服务。程序功能218分别访问核和域隔离规则205和206。作为可以由用户设置的预定义规则的核域隔离规则205至少指示核ID和域ID。工作负载域隔离规则206至少指示工作负载ID和域ID。如果程序功能218确定了工作负载域不与被包括在服务器164中的核相关联，则程序功能218确定替代核是否可用于服务器164和/或环境160中，并且如果可用则向替代核传递请求。

如果程序功能218确定了替代核不可用于服务器164和/或环境160中，则程序功能218生成例如用于向用户显示的该确定的通知。如果程序功能218确定了工作负载域与由管理程序层110控制的核相关联，则程序功能218向适当的核传递工作负载请求。

图3是描绘根据本发明的实施例的用于对多个计算机处理器的工作负载请求的最优分派的程序功能218的操作步骤的流程图。程序功能218将域信息加载到管理程序层120(步骤300)。程序功能218监视工作负载请求(步骤310)。程序功能218确定与工作负载请求相关联的工作负载域(步骤320)。程序功能218确定与该域相关联的核是否可用/存在(判断330)。如果程序功能218确定了与该域相关联的核可用/存在(“是”分支判断330)，则程序功能218向适当核部署工作负载请求(步骤360)。

如果程序功能218确定与域相关联的核不可用/不存在(“是”分支判断330)，则程序功能218确定替代核是否可用(判断340)。例如，一个或多个核可以被选择为用于执行不具有关联域的工作负载请求的默认核。如果程序功能218确定了替代核是可用的(“是”分支判断340)，则程序功能218向适当核部署工作负载以向用户这样反映(步骤360)。如果程序功能218确定了替代核是不可用(“否”分支判断340)，则程序功能218生成通知(步骤350)。

图4描绘了根据本发明的说明性实施例的服务器164的组件的框图。应当理解，图4仅提供了一个实现方式的说明，而不意味着对其中可以实现不同实施例的环境的任何限制。可以进行对所描绘的环境的许多修改。

服务器164包括通信结构(fabric)402，其提供在计算机处理器404、存储器406、永久存储408、通信单元410和输入/输出(I/O)接口412之间的通信。通信结构402可以通过被设计用于在处理器(诸如微处理器、通信和网络处理器等)、系统存储器、外围设备和系统内的任何其他硬件组件之间传递数据和/或控制信息的任何架构来实现。例如，通信结构402可以通过一个或多个总线来实现。

存储器406和永久存储408是计算机可读存储介质。在该实施例中，存储器406包括随机存取存储器(RAM)414和高速缓存存储器416。通常，存储器406可以包括任何适当的易失性或非易失性计算机可读存储介质。

程序功能218、内核命令解析器211、核域隔离规则205和工作负载隔离规则206被存储在永久存储408中，以经由存储器406中的一个或多个存储器、由各个计算机处理器404中的一个或多个处理器来执行和/或访问。在该实施例中，永久存储408包括磁硬盘驱动。替代地或者除了磁硬盘驱动，永久存储408可以包括固态硬盘驱动、半导体存储设备、只读存储器(ROM)、可擦除可编程只读存储器(EPROM)、闪速存储器或能够存储程序指令或数字信息的任何其他计算机可读存储介质。

由永久存储408使用的介质还可以是可移动的。例如，可移动硬盘驱动可以用于永久存储408。其他示例包括光盘和磁盘、拇指驱动以及智能卡，其被插入到驱动器中以传输到也是永久存储408的一部分的另一计算机可读存储介质。

在这些示例中，通信单元410提供与其他数据处理系统或设备的通信。在这些示例中，通信单元410包括一个或多个网络接口卡。通信单元410可以通过使用物理和无线通信链路中的任何一个或二者来提供通信。程序功能218和内核命令解析器211可以通过通信单元410被下载到永久存储408。

I/O接口412允许通过可以连接到服务器164的其他设备输入和输出数据。例如，I/O接口412可以提供对外部设备418的连接，诸如键盘、小键盘、触摸屏和/或一些其他适当的输入设备。外部设备418还可以包括便携式计算机可读存储介质，诸如例如拇指驱动、便携式光盘或磁盘和存储器卡。用于实践本发明的实施例的软件和数据，例如程序功能218和内核命令解析器211，可以被存储在这样的便携式计算机可读存储介质上，并且可以经由I/O接口412被加载到永久存储408上。I/O接口412还连接到显示器420。显示器420提供了一种用于向用户显示数据的机制，并且可以是例如计算机监视器。

这里所描述的程序是基于在本发明的具体实施例中实现的应用来说明的。然而，应当理解，这里的任何具体程序术语仅出于方便，并且因此，本发明不应当被限制为仅在由这样的术语所说明和/或所暗示的任何具体应用中使用。

附图中的流程图和框图显示了根据本发明的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

Claims (12)

1.一种方法，包括：

由计算设备确定对用第一域标识符标识的工作负载请求尝试的操作；

确定用第二域标识符标识的处理器核；

响应于确定了用所述第二域标识符标识的处理器核能够服务用所述第一域标识符标识的工作负载请求，对所述处理器核部署所述工作负载请求以用于进行服务。

2.根据权利要求1所述的方法，其中所述第二域标识符根据预定性能准则来对处理器核进行分组。

3.根据权利要求1所述的方法，其中所述第二域标识符根据可服务的应用的类型来对处理器核进行分组。

4.根据权利要求1所述的方法，其中所述第二域标识符根据预定的功率节省准则来对处理器核进行分组。

5.根据权利要求1所述的方法，其中所述操作由应用过程、操作系统过程、工具过程、命令过程和实用过程之一来发起。

6.根据权利要求1所述的方法，其中确定用所述第二域标识符标识的所述处理器核能够服务用所述第一域标识符标识的所述工作负载请求的所述步骤包括：利用当所述处理器核能够服务所述工作负载请求时进行命令的逻辑。

7.一种计算机系统，包括：

一个或多个计算机处理器；

一个或多个计算机可读存储介质；

存储在所述计算机可读存储介质上的程序指令，用于由所述一个或多个处理器中的至少一个处理器执行，所述程序指令包括：

用于以下操作的程序指令：

确定对用第一域标识符标识的工作负载请求尝试的操作；

确定用第二域标识符标识的处理器核；以及

响应于确定了用所述第二域标识符标识的处理器核能够服务用所述第一域标识符标识的工作负载请求，对所述处理器核部署所述工作负载请求以用于进行服务。

8.根据权利要求7所述的计算机系统，其中所述第二域标识符根据预定性能准则来对处理器核进行分组。

9.根据权利要求7所述的计算机系统，其中所述第二域标识符根据可服务的应用的类型来对处理器核进行分组。

10.根据权利要求7所述的计算机系统，其中所述第二域标识符根据预定功率节省准则来对处理器核进行分组。

11.根据权利要求7所述的计算机系统，其中所述操作由应用过程、操作系统过程、工具过程、命令过程和实用过程之一来发起。

12.根据权利要求7所述的计算机系统，其中用于确定用所述第二域标识符标识的所述处理器核能够服务用所述第一域标识符标识的所述工作负载请求的所述程序指令包括：用于利用当所述处理器核能够服务所述工作负载请求时进行命令的逻辑的程序指令。