CN104185821B - 多个计算层次结构级别中的工作负荷迁移判断 - Google Patents

多个计算层次结构级别中的工作负荷迁移判断 Download PDF

Info

Publication number
CN104185821B
CN104185821B CN201280071440.5A CN201280071440A CN104185821B CN 104185821 B CN104185821 B CN 104185821B CN 201280071440 A CN201280071440 A CN 201280071440A CN 104185821 B CN104185821 B CN 104185821B
Authority
CN
China
Prior art keywords
computational entity
circuit
hierarchy levels
merge
migration
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201280071440.5A
Other languages
English (en)
Other versions
CN104185821A (zh
Inventor
E·K·曼恩
A·韦特莫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intel Corp
Original Assignee
Intel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intel Corp filed Critical Intel Corp
Publication of CN104185821A publication Critical patent/CN104185821A/zh
Application granted granted Critical
Publication of CN104185821B publication Critical patent/CN104185821B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26—Power supply means, e.g. regulation thereof
    • G06F1/32—Means for saving power
    • G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3206—Monitoring of events, devices or parameters that trigger a change in power modality
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26—Power supply means, e.g. regulation thereof
    • G06F1/32—Means for saving power
    • G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3206—Monitoring of events, devices or parameters that trigger a change in power modality
    • G06F1/3209—Monitoring remote activity, e.g. over telephone lines or network connections
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083—Techniques for rebalancing the load in a distributed system
    • G06F9/5088—Techniques for rebalancing the load in a distributed system involving task migration
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5094—Allocation of resources, e.g. of the central processing unit [CPU] where the allocation takes into account power or heat criteria
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Power Sources (AREA)
  • Hardware Redundancy (AREA)
  • Debugging And Monitoring (AREA)

Abstract

实施例可以包括在计算层次结构的第一层次结构级别判断是否要至少部分地合并第一层次结构级别的相应计算实体的相应工作负荷的电路。相应的工作负荷可以涉及相应计算实体的一个或多个相应进程。电路可以至少部分地基于是否满足涉及一个或多个相应进程中的至少一个的至少一个迁移条件，来判断是否要至少部分地合并相应工作负荷。在判断是否要至少部分地合并相应的工作负荷之后，电路可以在计算层次结构的第二层次结构级别判断是否要至少部分地合并第二层次结构级别的其他相应计算实体的其他相应工作负荷。第二层次结构级别可以在计算层次结构中比第一层次结构级别相对更低。

Description

多个计算层次结构级别中的工作负荷迁移判断
领域
本发明涉及多个计算层次结构级别中的工作负荷迁移判断。
背景
在一个常规改善网络效率的技术中，在逐个服务器的基础上检查网络中的服务器，以判断服务器任何一个是否被利用不足(under-utilized)或过度利用(over-utilized)。如果特定服务器被判断为被利用不足，则将其进程迁移到另一利用不足的服务器，然后去激活该特定服务器。相反，如果某一服务器被判断为被过度利用，则将其进程中的一个或多个迁移到当前利用不足的另一服务器。可以理解，此常规技术只在服务器级别的粒度操作，并涉及严重的实现复杂性和延迟(例如，迁移整个服务器的全部进程，激活/去激活整个服务器。
另一常规技术涉及使用代理服务来当服务器以别的方式被去激活以降低功耗时自主地执行。可以理解，此常规技术，与前一个一样，不以整体或全系统范围的方式，和/或跨网络的计算层次结构中的多个粒度级别地设想或操作。
附图简述
随着下列“详细描述”的进行并参考附图，各实施例的特征和优点将变得显而易见，其中，相同编号描绘了相同的部分，其中：
图1示出了系统实施例。
图2示出了一个实施例中的特征。
图3示出了一个实施例中的特征。
图4示出了一个实施例中的特征。
图5示出了一个实施例中的特征。
图6示出了一个实施例中的特征。
虽然下列″详细描述″将参考说明性实施例来进行，但是，许多替代方案、修改以及其变体将对所属领域的技术人员显而易见。相应地，所要求保护的主题旨在从广义上来看待。
具体实施方式
图1示出了系统实施例100。系统100可以包括一个或多个计算层次结构122。计算层次结构122可以包括多个计算层次结构级别120A...120N。例如，层次结构级别120A...120N可以包括最高层次结构级别120A，一个或多个中间层次结构级别(例如，在层次结构122中相对于最高级别120A可能是相对较低的一个或多个级别120B)，以及最低层次结构级别120N。这些级别120A...120N中的每一个都可以包括一组或多组一个或多个计算实体(CE)。例如，相应的级别120A...120N中的每一个都可以包括至少相应的一组可以位于相应的级别和/或与相应的级别相关联的计算实体。
例如，在级别120A，包含在级别120A中和/或与级别120A相关联的相应的计算实体组可以是或包括计算实体126A...126N。在级别120B，包含在级别120B中和/或与级别120B相关联的相应的计算实体组可以是或包括计算实体150A...150N。在级别120N，包含在级别120N中的和/或与级别120N相关联的相应的计算实体组可以是或包括计算实体152A...152N。
在操作中，层次结构级别中的每一个中的计算实体中的每一个都可以至少部分地包括一个或多个相应的进程和/或一个或多个相应的工作负荷，执行它们，和/或与它们相关联。这些相应的工作负荷可以涉及相应的进程，由它们所产生，由它们执行，和/或与它们相关联。
例如，相应的计算实体126A...126N可以执行相应的进程130A...130N。相应的工作负荷124A...124N可以涉及相应的进程130A...130N，由它们所产生，由它们执行，和/或与它们相关联。
相应的计算实体150A...150N可以执行相应的进程160A...160N。相应的工作负荷170A...170N可以涉及相应的进程160A...160N，由它们所产生，由它们执行，和/或与它们相关联。
相应的计算实体152A...152N可以执行相应的进程162A...162N。相应的工作负荷180A...180N可以涉及相应的进程162A...162N，由它们所产生，由它们执行，和/或与它们相关联。
在此实施例中，电路118可以是至少部分地在层次结构级别120A...120N中的每一个中的计算实体(例如，126A...126N，150A...150N，...152A...152N)中的一个或多个外部的，和/或分布在它们之中，和/或包括在它们内。电路118可以至少部分地执行一个或多个进程119。由电路118至少部分地执行一个或多个进程119可以至少部分地导致电路118在计算层次结构的一个或多个层次结构级别(例如，最高层次结构级别120A)至少部分地确定是否在这些一个或多个层次结构级别120A至少部分地合并相应的计算实体(例如，一个或多个计算实体126A和/或126N)的相应的工作负荷(例如，一个或多个工作负荷124A和/或124N)。电路118可以至少部分地基于是否满足至少部分地涉及层次结构级别120A相应的计算实体126A...126N的一个或多个相应的进程130A...130N中的至少一个(例如，一个或多个进程130A)的至少一个迁移条件(例如，一个或多个迁移条件101A)，至少部分地确定是否至少部分地合并这些相应的工作负荷124A，124N。
在此实施例中，在至少部分地确定是否在层次结构级别120A至少部分地合并这些相应的工作负荷124A，124N之后，由电路118至少部分地执行一个或多个进程119可以至少部分地导致电路118在一个或多个其他层次结构级别(例如，相对于最高层次结构级别120A的次最高层次结构级别120B)至少部分地确定是否在层次结构级别120B至少部分地合并其他相应的计算实体(例如，一个或多个计算实体150A和/或150N)的其他相应的工作负荷(例如，一个或多个工作负荷170A和/或170N)。这种关于是否至少部分地合并这些其他相应的工作负荷170A，170N的判断可以至少部分地基于是否满足层次结构级别120B的相应的计算实体150A...150N的一个或多个相应的进程160A...160N中的至少一个(例如，一个或多个进程160A)。如上所述，此第二层次结构级别120B在计算层次结构122中可以比第一层次结构级别120A相对低一些。
例如，在此实施例中，相应的层次结构级别120A...120N，相应的计算实体126A...126N，150A...150N，152A...152N，和/或由这些相应的级别中的相应的计算实体执行的进程130A...130N，160A...160N，162A...162N中的每一个都可以至少部分地与一个或多个相应的迁移条件101A...101N相关联。在计算层次结构122的每一相应的层次结构级别，电路118可以至少部分地基于可以至少部分地与相应的层次结构级别，相应的层次结构级别的相应的计算实体，和/或由相应的层次结构级别的相应的计算实体执行的相应的进程相关联的一个或多个相应的迁移条件101A...101N是否被满足，判断是否至少部分地合并和/或迁移相应的层次结构级别的相应的工作负荷和/或进程。
在此实施例中，计算实体可以是或包括至少部分地能够单独地使用和/或与一个或多个其他实体相结合地使用，以至少部分地执行一个或多个涉及促进、实现，涉及，和/或包含在一个或多个算术、布尔、逻辑、存储、联网、输入/输出(I/O)，和/或其他与计算机有关的操作中的操作的电路。在此实施例中，计算层次结构中的计算层次结构级别可以包括一个或多个计算实体，这些计算实体能够至少部分地单独地使用和/或与一个或多个其他计算实体相结合地使用，以提供一个或多个输入和/或接收计算层次结构中的一个或多个其他计算层次结构级别的输出。在此实施例中，如果一个计算层次结构级别包括多个计算实体，则计算实体可以在包括该计算层次结构的计算层次结构中展现一个或多个类似和/或共同的虚拟、逻辑，和/或物理特征功能、属性、能力，和/或操作。此外，还在此实施例中，计算层次结构可以包括多个计算层次结构级别。
另外，在此实施例中，工作负荷可以至少部分地包括，包括在其内，涉及，牵涉，暗示，导致，和/或源于资源利用率，该资源利用率至少部分地牵涉和/或源自一个或多个进程和/或操作的至少部分地执行和/或实现。例如，在此实施例中，工作负荷可以包括由计算实体执行的一个或多个进程的执行至少部分地使用和/或消耗的和/或作为其结果的计算实体资源的量。在此实施例中，迁移条件可以至少部分地，包括，涉及，指出，指定，导致，和/或源于至少一个准则，该至少一个准则可被使用和/或关于是否至少部分地迁移的判断可至少部分地基于该至少一个准则。在此实施例中，迁移可以涉及，例如，由计算实体的对进程的执行的停止和/或由另一计算实体的对进程的执行的开始(例如，而不会由其他计算实体丢失有意义的进程状态信息和/或接受迁移的工作负荷和/或进程的有意义地有害的中断)。
在此实施例中，术语“主机计算机”、“主机”、“服务器”、“客户端”、“网络节点”以及“节点”可以可互换地使用，并可以无限制地表示，例如一个或多个终端站、移动因特网设备、智能电话、媒体设备、I/O设备、平板电脑、电器、中间站、网络接口、客户端、服务器和/或其一些部分。在此实施例中，网络可以是或包括至少部分地允许、促进和/或使两个或更多实体可通信地耦合在一起的任何机制、手段、特征和/或其一部分。在此实施例中，子网和/或子网络可以是或包括至少一个网络的一个或多个部分，诸如，例如，可以被包括在或用于网际协议(IP)、以太网、专有的(例如，网格)和/或其他协议网络或子网的一个或多个部分中的通信织物。也在此实施例中，如果第一实体能够向第二实体传输和/或从第二实体接收一个或多个命令和/或数据，则第一实体可以“可通信地耦合”到第二实体。在此实施例中，数据和信息可以可互换地使用，并可以是或包括一个或多个命令(例如，一个或多个程序指令)，和/或一个或多个这样的命令可以是或包括数据和/或信息。也在此实施例中，指令可以包括数据和/或一个或多个命令。在此实施例中，数据包可以是或包括一个或多个符号和/或值。在此实施例中，通信链路可以是或包括至少部分地能够和/或允许至少两个实体是或变为通信地耦合的任何机制。
在此实施例中，“电路”可以包括，例如，单独地或以任何组合地，模拟电路、数字电路、硬连线电路、可编程电路、协处理器电路、状态机电路和/或可以包括可以由可编程电路执行的程序指令的存储器。也在此实施例中，处理器、主机处理器、中央处理单元、处理器核、核和控制器中的每一个都可以包括能够至少部分地执行一个或多个算术和/或逻辑操作和/或至少部分地执行一个或多个指令的相应的电路。在此实施例中，存储器、缓存，以及缓存存储器中的每一个都可以包括下列类型的存储器中的一种或多种：半导体固件存储器、可编程存储器、非易失性存储器、只读存储器、电可编程存储器、随机存取存储器、闪存、磁盘存储器、光盘存储器和/或其他或未来开发的计算机可读和/或可写存储器。
在此实施例中，实体的一部分或子集可以包括实体的全部或少于实体的全部。在此实施例中，一组可以包括一个或多个元件。同时，在此实施例中，进程、线程、守护进程(daemon)、程序、驱动程序、操作系统、应用程序、内核和/或虚拟机监视器中的每一个都可以(1)至少部分地包括，和/或(2)至少部分地导致和/或来源于，一个或多个操作和/或程序指令的执行。
例如，参考图1和2，计算层次结构122的最高级别120A可以至少部分地是，包括于，对应于，或包括，至少一个网络子网202A，该网络子网202A可以包含在网络50中，该网络50可以包括多个这样的子网202A...202N。这些子网202A...202N中的每一个都可以包括相应的多个刀片式服务器。例如，子网202A可以包括多个刀片式服务器210A...210N，这些刀片式服务器210A...210N可以至少部分地分别是，对应于，包括于，或包括，计算实体126A...126N。进程250A...250N和/或工作负荷260A...260N可以至少部分地分别是，对应于，包括于，或包括进程130A...130N和/或工作负荷124A...124N。
类似地，计算层次结构122的次最高级别120B可以至少部分地是，包括于，对应于，或包括可以至少部分地包括在子网202A中的至少一个刀片式服务器210A。刀片式服务器210A可以包括多个刀片302A...302N(参见图3)。这些刀片302A...302N中的每一个都可以包括相应的多个CPU插槽。例如，刀片302A可以包括多个CPU插槽304A...304N，这些CPU插槽304A...304N可以至少部分地分别是，对应于，包括于，或包括，计算实体150A...150N。进程306A...306N和/或工作负荷308A...308N可以至少部分地分别是，对应于，包括于，或包括进程160A...160N和/或工作负荷170A...170N。类似地，刀片式服务器210A中的刀片302A...302N可以至少部分地涉及和/或与一个或多个相应的进程602A...602N相关联，这些一个或多个相应的进程602A...602N可以涉及和/或与一个或多个相应的工作负荷604A...604N相关联(参见图6)。
还类似地，计算层次结构122的级别120N可以至少部分地是，包括于，对应于，或包括可以至少部分地包括在302A中的至少一个CPU插槽304A。插槽304A可以包括多个CPU处理器和/或处理器核402A...402N，它们可以分别至少部分地是，对应于，包括于，或包括计算实体152A...152N(参见图4)。进程404A...404N和/或工作负荷406A...406N可以至少部分地分别是，对应于，包括于，或包括进程162A...162N和/或工作负荷180A...180N。
在此实施例中，刀片式服务器可以至少部分地是或包括服务器，该服务器可以，但是不需要包括至少一个刀片。在此实施例中，刀片可以是或包括至少一个电路板，诸如例如，通过互连，在电的方面和在机械方面耦合到一个或多个其他电路板的电路板。在此实施例中，CPU插槽可以至少部分地是或包括一个或多个处理器和/或中央处理单元和/或相关联的电路(例如，I/O、缓存、存储器管理，等等，电路)。
现在转向图5，取决于系统100的特定实现，一个或多个迁移条件101A可以涉及和/或包括一个或多个上资源利用率阈值(upper resource utilization threshold)502和/或一个或多个下资源利用率阈值(lower resource utilization threshold)504。在系统100的操作过程中，电路118和/或一个或多个进程119可以周期性地监测计算实体126A...126N，进程130A...130N，和/或工作负荷124A...124N，以至少部分地判断一个或多个条件101A是否被进程130A...130N和/或工作负荷124A...124N满足。如果是，则取决于系统100的特定实现和/或阈值502和/或504中的哪一个被满足，电路118和/或一个或多个进程119可以研究一个或多个工作负荷平衡迁移和/或一个或多个工作负荷合并迁移是否合适。
可以通过用户输入(例如，通过一个或多个未示出的用户界面系统)至少部分地设置条件101A...101N，和/或可以至少部分地预设条件101A...101N。另选地或另外地，可以根据至少部分地由电路118和/或一个或多个进程119执行的一个或多个算法，动态地确定条件101A...101N中的一个或多个。在任何情况下，可以选择和/或凭经验确定迁移条件101A...101N，以改善和/或促进层次结构级别120A...120N的处理效率。虽然在图中未示出，但是，迁移条件101B...101N可以包括类似于可以包含在一个或多个迁移条件101A中的那些的上和/或下利用率阈值。
例如，上利用率阈值502可以至少部分地指示单个计算实体126A...126N的资源利用率的最大所需上限。例如，如果由一个或多个进程130A和/或工作负荷124A消耗的和/或使用的计算实体126A的资源量等于或超出阈值502，则这可以指示计算实体126A在没有促进最佳或所需效率级别(例如，最佳或所需发热、功耗，和/或处理延迟，和/或最低的或所需总拥有成本(TCO)等等)的资源利用率级别操作。相应地，如果发生这种情况，则电路118和/或一个或多个进程119可以研究是否适合于执行从计算实体126A到层次结构级别120A中的可能低于上利用率阈值地操作的另一计算实体(例如，计算实体126N)的工作负荷平衡迁移(例如，涉及工作负荷124A和/或一个或多个进程130A)，以便允许计算实体126A和126N两者都低于上阈值502地操作，以由此促进计算实体126A和126N和层次结构级别120A的效率的改善。在此实施例中，计算实体的资源可以是或包括该计算实体的一个或多个物理、虚拟，和/或逻辑函数、操作、特征，设备，和/或电路。
相反，较低的利用率阈值504可以至少部分地指示单个计算实体126A...126N的资源利用率的最低所需下限。例如，如果由一个或多个进程130A和/或工作负荷124A消耗的和/或使用的计算实体126A的资源量等于或小于阈值504，则这可以指示计算实体126A在没有促进最佳或所希望的效率级别(例如，最佳或所需发热、功耗，和/或处理延迟，和/或最低的或所需TCO等等)的资源利用率级别操作。相应地，如果发生这种情况，则电路118和/或一个或多个进程119可以研究是否适合于执行从计算实体126A到层次结构级别120A中的可能低于上利用率阈值地操作的另一计算实体(例如，计算实体126N)的工作负荷合并迁移(例如，涉及工作负荷124A和/或一个或多个进程130A)，以便通过合并两个计算实体的工作负荷和/或进程供由单一计算实体(例如，计算实体126N)执行，促进计算实体126A和126N和层次结构级别120A的效率的改善。在此情况下，电路118也能够采取动作以降低原本可能在迁移/合并之后保持空闲的计算实体的功耗。这样的动作可以涉及，例如，使原本空闲的计算实体和/或一个或多个相关联的组件(例如，未示出的系统冷却电路，发电机，和/或其他组件)断电(或以别的方式置于相对较低的功耗状态/模式，例如，相对于全功率)。这样的系统冷却电路可以包括，例如，至少某些空调和/或风扇电路。潜在有利地，这还可以进一步提高(和/或优化)系统和/或处理效率，和/或降低TCO。然而，对于此实施例，合并可以被广泛地考虑，并可以与工作负荷/进程平衡迁移和/或合并迁移一起使用。
在上面的示例中，在工作负荷平衡迁移或工作负荷合并迁移的情况下，如果有足够的空闲资源存在于级别120A中的计算实体(例如，计算实体126N)中的一个或多个中以允许这样的迁移，则这样的迁移可以是合适的。例如，如果电路118和/或一个或多个进程119判断一个或多个迁移条件101A被满足(例如，通过计算实体126A分别在上阈值502或高于上阈值502操作，或在下阈值504或低于下阈值504操作)，电路118和/或一个或多个进程119可以至少部分地判断级别120A的计算实体中的一个或多个(例如，计算实体126N)是否可以具有足够的空闲资源以允许将工作负荷124A和/或一个或多个进程130A从计算实体126A迁移到该计算实体126N。例如，如图5所示，如果计算实体126N的资源的总量510包括至少足够允许这样的迁移的空闲资源的量512，那么，电路118和/或一个或多个进程119可以如此判断和/或可以发起层次结构级别120A的一个或多个计算实体(例如，计算实体126A)的一个或多个工作负荷(例如，工作负荷124A)和/或一个或多个进程(例如，一个或多个进程130A)从这些一个或多个计算实体126A向其他一个或多个计算实体126N的迁移M。在这样的迁移M的过程中和/或至少部分地作为其结果，工作负荷124A和/或一个或多个进程130A(与任何相关联的工作负荷和/或进程状态信息一起)可以从计算实体126A转移到计算实体126N。在这样的迁移M之后，迁移的工作负荷124A和/或一个或多个迁移的进程130A可以与它们被向其中迁移的计算实体126N相关联和/或由其执行，并且，它们可以不再与它们被从其中迁移的计算实体126A相关联和/或由其执行。
在工作负荷合并迁移的情况下，在迁移M之后，电路118和/或一个或多个进程119可以至少部分地使从其中迁移工作负荷124和/或一个或多个进程130A的计算实体126A断电(例如，去激活和/或置于相对低得多的功耗级别)。潜在有利地，这还可以进一步降低功耗和/或耗散，和/或改善系统100中的效率。相反，在工作负荷平衡迁移的情况下，在迁移M之后，计算实体126A可以保持通电(例如，激活和/或完全可操作)以允许执行计算实体126A的任何剩余的进程和/或工作负荷。
电路118和/或一个或多个进程119可以对于层次结构级别中的每一个中的计算实体中的每一个，周期性地执行类似的操作，基于它们的相应的迁移条件，判断是否对于每一个这样的计算实体和/或在每一这样的层次结构级别，发起和/或执行相应的工作负荷合并迁移和/或相应的工作负荷平衡迁移。例如，在执行与上文结合层次结构级别120A中的计算实体中的每一个所描述的那些类似的操作之后，电路118和/或一个或多个进程119可以对于级别120B中的计算实体中的每一个执行类似的操作(例如，基于一个或多个条件101B)，以判断是否合并和/或平衡级别120B的计算实体的其他工作负荷和/或进程。此后，可以对于层次结构122中的相应的相对较低级别(例如，基于它们的相应地相关联的迁移条件)，执行这样的类似的操作的一个或多个随后的迭代，直到对于所有级别120A...120N，执行这样的操作的相应的迭代。然后，上述迭代可以在级别120A重新开始，且此后可以周期性地继续。相应地，电路118和/或一个或多个进程119可以周期性地至少部分地判断对于计算层次结构122的所有相应的层次结构级别中的相应的计算实体组，相应的迁移条件101A...101N是否被满足。
另选地或另外地，例如，级别120A可以至少部分地对应于网络50，计算实体126A...126N可以至少部分地对应于子网202A...202N，级别120B可以至少部分地对应于子网202A，和/或计算实体150A...150N可以至少部分地对应于刀片式服务器210A...210N。在此布局中，在根据上述技术至少部分地判断是否至少部分地合并级别120A和120B中的计算实体的相应的工作负荷之后，电路118和/或一个或多个进程119可以至少部分地判断是否至少部分地合并刀片式服务器210A中的相应的刀片工作负荷(例如，图6中的604A和604N)和/或进程(例如，602A和/或602N)。此后，电路118和/或一个或多个进程119可以至少部分地判断是否要至少部分地合并刀片式服务器302A(参见图3)的一个或多个刀片(例如，302A)的相应的CPU插槽工作负荷(例如，308A和308N)和/或进程(例如，306A和306N)。此后，电路118和/或一个或多个进程119可以至少部分地判断是否要至少部分地合并插槽304A(参见图4)的相应的CPU核工作负荷(例如，406A和406N)和/或进程(例如，404A和404N)。
在此实施例中，机器可读并且可执行程序指令可以至少部分地存储在，例如，电路118和/或层次结构122中的计算实体中的一个或多个中。在系统100的操作中，这些指令可以被例如电路118和/或这些一个或多个计算实体访问和执行。当如此被访问和执行时，这些一个或多个机器可读指令可以导致操作的执行，这些操作此处被描述为在和/或被系统100的执行。
IP子网可以在1981年9月发布的因特网工程任务组(IETF)征求意见资料(RFC)791和/或793中定义，符合它，和/或与其兼容。当然，在不偏离此实施例的情况下，包含在级别120A...120N中的相应的计算实体组的相应的数量、类型、结构、操作和/或配置可以变化。
如此，实施例可以包括在计算层次结构的第一层次结构级别判断是否要至少部分地合并第一层次结构级别的相应的计算实体的相应的工作负荷的电路。相应的工作负荷可以涉及相应的计算实体的一个或多个相应的进程。电路可以至少部分地基于是否满足涉及一个或多个相应的进程中的至少一个的至少一个迁移条件，来判断是否要至少部分地合并相应的工作负荷。在判断是否要至少部分地合并相应的工作负荷之后，电路可以在计算层次结构的第二层次结构级别判断是否要至少部分地合并第二层次结构级别的其他相应的计算实体的其他相应的工作负荷。第二层次结构级别可以在计算层次结构中比第一层次结构级别相对低一些。
潜在有利地，在此实施例中，当确定计算实体利用率时，无论它是否适于迁移，和/或从其中和/或向其中迁移实体工作负荷和/或进程时，实体可以使用多个粒度级别(例如，至少部分地对应于层次结构级别120A...120N中的每一个和/或包含在这些层次结构级别120A...120N中的计算实体中的每一个)。也潜在有利地，在这样的迁移发生之后，从其中发生这样的迁移的实体，可以根据这样的粒度级别，等等，被断电，或以别的方式移到相对较低的功耗操作模式(例如，取决于涉及的迁移的类型)。也潜在有利地，在这样的迁移发生之后，取决于涉及的迁移的类型和整体系统热耗散，诸如系统冷却电路之类的相关联的组件可以被断电，或以别的方式移到相对较低的功耗操作模式(例如，相对于全功率和/或完全操作模式)。相应地(且潜在有利地)，此实施例可以跨网络的计算层次结构中的多个粒度级别，并在降低的实现复杂性和/或延迟的情况下，以整体或全系统范围的方式操作。进一步潜在有利地，此实施例可以跨计算层次结构粒度的多个级别，将工作负荷和/或进程压缩和/或合并到较少的计算实体，由此，允许改善的处理效率的微调，降低功耗，降低TCO，和/或降低热耗散。进一步潜在有利地，此实施例可以跨计算层次结构的多个级别，以改善的粒度，提供工作负荷和/或处理负载平衡，因此，还可以改善处理效率的微调，降低功耗，降低TCO，和/或降低热耗散。
在不偏离此实施例的情况下，许多其他和/或额外的修改方案、变体，和/或替代方案也是可以的。例如，条件101A...101N的细节可以至少在相应的条件101A...101N之间变化，以便允许条件101A...101N能够改善和/或微调它们的相应地相关联的层次结构级别120A...120N之间的处理和/或工作负荷效率(和/或其他效率)。
另选地或另外地，在不偏离此实施例的情况下，层次结构级别中的一个或多个可以包括，例如，微服务器/微集群体系结构的元件，其中，代替包括刀片式服务器和/或刀片，服务器210A...210N和/或它们的刀片可以是或包括单个微集群/微服务器节点，服务器，和/或其他元件。另选地或另外地，刀片式服务器和/或刀片可以包括其他类型的节点，服务器，和/或网络元件。另选地或另外地，在此实施例中，电路118可以递归地(1)监视层次结构级别中的每一个的相应的条件，和/或(2)至少部分地基于相应的条件，在层次结构级别中的每一个，判断是否保证计算实体迁移。
其他修改方案也是可以的。例如，计算层次结构和/或其中的层次结构级别包括这些前面所描述的层次结构之外的一个或多个其他和/或额外的层次结构。这样的其他和/或额外的层次结构可以是或包括，例如，一个或多个数据中心，这些数据中心可以包括多个包含服务器的实体，这样的实体的某些部分，和/或其他实体(例如，包括多个刀片式服务器)。相应地，此实施例应该被广泛地视为包含所有这样的替代方案、修改方案，以及变体。

Claims (17)

1.一种用于多个计算层次结构级别中的工作负荷迁移判断的装置，包括：
在计算层次结构的第一层次结构级别判断是否要至少部分地合并所述第一层次结构级别的相应计算实体的相应工作负荷的电路，所述相应工作负荷涉及所述相应计算实体的一个或多个相应进程，所述电路至少部分地基于是否满足涉及所述一个或多个相应进程中的至少一个的至少一个迁移条件，来至少部分地判断是否要至少部分地合并所述相应工作负荷；以及
在至少部分地判断是否至少部分地合并所述层次结构级别的所述相应工作负荷之后，所述电路至少部分地在所述计算层次结构的第二层次结构级别判断是否至少部分地合并所述第二层次结构级别的其他相应计算实体的其他相应工作负荷，所述第二层次结构级别在所述计算层次结构中比所述第一层次结构级别相对更低，
其中所述至少一个迁移条件涉及上利用率阈值和下利用率阈值，并且其中如果满足了所述上利用率阈值，则将研究至少一个工作负荷平衡迁移，以及如果满足了所述下利用率阈值，则将研究至少一个工作负荷合并迁移，
其中所述第一层次结构级别包括网络子网，而所述第二层次结构级别包括所述子网中的服务器。
2.如权利要求1所述的装置，其特征在于：
在所述电路在所述第二层次结构级别至少部分地判断是否至少部分地合并所述其他相应工作负荷之后，所述电路还至少部分地判断是否至少部分地合并所述服务器内的相应工作负荷，并且此后判断是否至少部分地合并所述服务器中的相应CPU插槽工作负荷。
3.如权利要求1所述的装置，其特征在于：
如果所述电路判断合并所述第一层次结构级别的相应计算实体的所述相应工作负荷，则所述电路将发起所述第一层次结构级别的所述相应计算实体中的至少一个的所述相应工作负荷中的至少一个向所述第一层次结构级别的相应计算实体中的至少一个其他计算实体的迁移，所述迁移包括将所述一个或多个相应进程中的所述至少一个从所述第一层次结构级别中的所述相应计算实体中的所述至少一个迁移到所述第一层次结构级别中的所述相应计算实体中的所述至少一个其他计算实体。
4.如权利要求3所述的装置，其特征在于：
在所述迁移和进行迁移之后，所述第一层次结构级别中的所述相应计算实体中的所述至少一个将被至少部分地置于相对于全功率模式的相对较低的功耗操作模式；以及
所述电路将至少部分地周期性地判断对于所述计算层次结构的所有层次结构级别的相应计算实体组，相应的迁移条件是否被满足。
5.如权利要求1所述的装置，其特征在于：
如果满足了至少一个迁移条件，则所述电路将至少部分地判断所述第一层次结构级别的所述相应计算实体中的至少一个是否具有允许工作负荷迁移的足够的空闲资源。
6.一种用于多个计算层次结构级别中的工作负荷迁移判断的方法，包括：
由电路在计算层次结构的第一层次结构级别判断是否要至少部分地合并所述第一层次结构级别的相应计算实体的相应工作负荷，所述相应的工作负荷涉及所述相应计算实体的一个或多个相应进程，所述电路至少部分地基于是否满足涉及所述一个或多个相应进程中的至少一个的至少一个迁移条件，来至少部分地判断是否要至少部分地合并所述相应工作负荷；以及
在所述至少部分地判断之后，还由所述电路至少部分地在所述计算层次结构的第二层次结构级别判断是否至少部分地合并所述第二层次结构级别的其他相应计算实体的其他相应工作负荷，所述第二层次结构级别在所述计算层次结构中比所述第一层次结构级别相对更低，
其中所述至少一个迁移条件涉及上利用率阈值和下利用率阈值，并且其中如果满足了所述上利用率阈值，则将研究至少一个工作负荷平衡迁移，以及如果满足了所述下利用率阈值，则将研究至少一个工作负荷合并迁移，
其中所述第一层次结构级别包括网络子网，而所述第二层次结构级别包括所述子网中的服务器。
7.如权利要求6所述的方法，其特征在于：
在所述电路在所述第二层次结构级别至少部分地判断是否至少部分地合并所述其他相应工作负荷之后，所述电路还至少部分地判断是否至少部分地合并所述服务器内的相应工作负荷，并且此后，判断是否至少部分地合并所述服务器中的相应CPU插槽工作负荷。
8.如权利要求6所述的方法，其特征在于：
如果所述电路判断合并所述第一层次结构级别的相应计算实体的所述相应工作负荷，则所述电路将发起所述第一层次结构级别的所述相应计算实体中的至少一个的所述相应工作负荷中的至少一个向所述第一层次结构级别的相应计算实体中的至少一个其他计算实体的迁移，所述迁移包括将所述一个或多个相应进程中的所述至少一个从所述第一层次结构级别中的所述相应计算实体中的所述至少一个迁移到所述第一层次结构级别中的所述相应计算实体中的所述至少一个其他计算实体。
9.如权利要求8所述的方法，其特征在于：
在所述迁移和进行迁移之后，所述第一层次结构级别中的所述相应计算实体中的所述至少一个将被至少部分地降低功率；以及
所述电路将至少部分地周期性地判断对于所述计算层次结构的所有层次结构级别的相应计算实体组，相应的迁移条件是否被满足。
10.如权利要求6所述的方法，其特征在于：
如果满足了至少一个迁移条件，则所述电路将至少部分地判断所述第一层次结构级别的所述相应计算实体中的至少一个是否具有允许工作负荷迁移的足够的空闲资源。
11.一种用于多个计算层次结构级别中的工作负荷迁移判断的装置，包括：
存储器；
处理器，其中所述处理器用于使得：
由电路在计算层次结构的第一层次结构级别判断是否要至少部分地合并所述第一层次结构级别的相应计算实体的相应工作负荷，所述相应的工作负荷涉及所述相应计算实体的一个或多个相应进程，所述电路至少部分地基于是否满足涉及所述一个或多个相应进程中的至少一个的至少一个迁移条件，来至少部分地判断是否要至少部分地合并所述相应工作负荷；以及
在所述至少部分地判断之后，还由所述电路至少部分地在所述计算层次结构的第二层次结构级别判断是否至少部分地合并所述第二层次结构级别的其他相应计算实体的其他相应工作负荷，所述第二层次结构级别在所述计算层次结构中比所述第一层次结构级别相对更低，
其中所述至少一个迁移条件涉及上利用率阈值和下利用率阈值，并且其中所述处理器进一步使得：
如果满足了所述上利用率阈值，则将研究至少一个工作负荷平衡迁移；以及
如果满足了所述下利用率阈值，则将研究至少一个工作负荷合并迁移，
其中所述第一层次结构级别包括网络子网，而所述第二层次结构级别包括所述子网中的服务器。
12.如权利要求11所述的装置，其特征在于：
其中所述处理器进一步使得在所述电路在所述第二层次结构级别至少部分地判断是否至少部分地合并所述其他相应工作负荷之后，所述电路还至少部分地判断是否至少部分地合并所述服务器内的相应工作负荷，并且此后，判断是否至少部分地合并所述服务器中的相应CPU插槽工作负荷。
13.如权利要求11所述的装置，其特征在于，所述处理器进一步使得：
如果所述电路判断合并所述第一层次结构级别的相应计算实体的所述相应工作负荷，则所述电路将发起所述第一层次结构级别的所述相应计算实体中的至少一个的所述相应工作负荷中的至少一个向所述第一层次结构级别的相应计算实体中的至少一个其他计算实体的迁移，所述迁移包括将所述一个或多个相应进程中的所述至少一个从所述第一层次结构级别中的所述相应计算实体中的所述至少一个迁移到所述第一层次结构级别中的所述相应计算实体中的所述至少一个其他计算实体。
14.如权利要求13所述的装置，其特征在于，所述处理器进一步使得：
在所述迁移和进行迁移之后，所述第一层次结构级别中的所述相应计算实体中的所述至少一个将被至少部分地降低功率；以及
所述电路将至少部分地周期性地判断对于所述计算层次结构的所有层次结构级别的相应计算实体组，相应的迁移条件是否被满足。
15.如权利要求11所述的装置，其特征在于，所述处理器进一步使得：
如果满足了至少一个迁移条件，则所述电路将至少部分地判断所述第一层次结构级别的所述相应计算实体中的至少一个是否具有允许工作负荷迁移的足够的空闲资源。
16.一种其上存储有指令的计算机可读介质，所述指令当由计算机处理器执行时使所述处理器执行如权利要求6至10中任一项所述的方法。
17.一种用于多个计算层次结构级别中的工作负荷迁移判断的设备，包括用于执行如权利要求6至10中任一项所述的方法的装置。
CN201280071440.5A 2012-03-16 2012-03-16 多个计算层次结构级别中的工作负荷迁移判断 Expired - Fee Related CN104185821B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/US2012/029317 WO2013137897A1 (en) 2012-03-16 2012-03-16 Workload migration determination at multiple compute hierarchy levels

Publications (2)

Publication Number Publication Date
CN104185821A CN104185821A (zh) 2014-12-03
CN104185821B true CN104185821B (zh) 2018-02-23

Family

ID=49161627

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201280071440.5A Expired - Fee Related CN104185821B (zh) 2012-03-16 2012-03-16 多个计算层次结构级别中的工作负荷迁移判断

Country Status (3)

Country Link
US (1) US20140215041A1 (zh)
CN (1) CN104185821B (zh)
WO (1) WO2013137897A1 (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10554505B2 (en) * 2012-09-28 2020-02-04 Intel Corporation Managing data center resources to achieve a quality of service
CN103777734A (zh) * 2012-10-25 2014-05-07 英业达科技有限公司 机柜式服务器系统与其操作方法
US20140173623A1 (en) * 2012-12-17 2014-06-19 Mediatek Inc. Method for controlling task migration of task in heterogeneous multi-core system based on dynamic migration threshold and related computer readable medium
JP2016081119A (ja) * 2014-10-10 2016-05-16 富士通株式会社 情報処理システム、情報処理システムの制御方法および制御装置の制御プログラム
US9891699B2 (en) 2014-12-18 2018-02-13 Vmware, Inc. System and method for performing distributed power management without power cycling hosts
US9652295B2 (en) * 2015-06-26 2017-05-16 International Business Machines Corporation Runtime fusion of operators based on processing element workload threshold and programming instruction compatibility
US10140032B1 (en) * 2017-03-02 2018-11-27 EMC IP Holding Company LLC Multi-tier storage system with dynamic power management utilizing configurable data mover modules
US20240045698A1 (en) * 2022-08-03 2024-02-08 Netapp, Inc. Storage device energy consumption evaluation and response

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101232511A (zh) * 2006-12-07 2008-07-30 丛林网络公司 基于服务器功耗的网络通信分配
CN101883029A (zh) * 2009-05-05 2010-11-10 埃森哲环球服务有限公司 云中的应用移植方法和系统

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060123422A1 (en) * 2004-12-02 2006-06-08 International Business Machines Corporation Processor packing in an SMP server to conserve energy
JP4749140B2 (ja) * 2005-12-05 2011-08-17 株式会社日立製作所 データマイグレーション方法及びシステム
US8104041B2 (en) * 2006-04-24 2012-01-24 Hewlett-Packard Development Company, L.P. Computer workload redistribution based on prediction from analysis of local resource utilization chronology data
US7769843B2 (en) * 2006-09-22 2010-08-03 Hy Performix, Inc. Apparatus and method for capacity planning for data center server consolidation and workload reassignment
US20090037162A1 (en) * 2007-07-31 2009-02-05 Gaither Blaine D Datacenter workload migration
US7970903B2 (en) * 2007-08-20 2011-06-28 Hitachi, Ltd. Storage and server provisioning for virtualized and geographically dispersed data centers
US7801994B2 (en) * 2007-11-29 2010-09-21 Hitachi, Ltd. Method and apparatus for locating candidate data centers for application migration
US8074087B2 (en) * 2008-06-24 2011-12-06 Microsoft Corporation Configuring processors and loads for power management

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101232511A (zh) * 2006-12-07 2008-07-30 丛林网络公司 基于服务器功耗的网络通信分配
CN101883029A (zh) * 2009-05-05 2010-11-10 埃森哲环球服务有限公司 云中的应用移植方法和系统

Also Published As

Publication number Publication date
US20140215041A1 (en) 2014-07-31
CN104185821A (zh) 2014-12-03
WO2013137897A1 (en) 2013-09-19

Similar Documents

Publication Publication Date Title
CN104185821B (zh) 多个计算层次结构级别中的工作负荷迁移判断
CN102696000B (zh) 用于虚拟化数据中心中的协调能量管理的方法和设备
Khosravi et al. Energy and carbon-efficient placement of virtual machines in distributed cloud data centers
CN111522652B (zh) 用于增加负荷密度和改进能效的功率平衡
US20150058844A1 (en) Virtual computing resource orchestration
Mehdi et al. Minimum completion time for power-aware scheduling in cloud computing
Chaabouni et al. Energy management strategy in cloud computing: a perspective study
Zhang et al. Two-phase industrial manufacturing service management for energy efficiency of data centers
Takouna et al. Communication-aware and energy-efficient scheduling for parallel applications in virtualized data centers
Lago et al. Energy-aware virtual machine scheduling on data centers with heterogeneous bandwidths
Monil et al. Energy-aware VM consolidation approach using combination of heuristics and migration control
Paul et al. Dynamic task mapping and scheduling with temperature-awareness on network-on-chip based multicore systems
Farahnakian et al. Multi-agent based architecture for dynamic VM consolidation in cloud data centers
Shojafar et al. An energy-aware scheduling algorithm in DVFS-enabled networked data centers
Jena et al. Performance evaluation of energy efficient power models for digital cloud
Hwang et al. A comparative study of the effectiveness of cpu consolidation versus dynamic voltage and frequency scaling in a virtualized multicore server
Sampaio et al. Energy-efficient and SLA-based resource management in cloud data centers
AlIsmail et al. Review of energy reduction techniques for green cloud computing
Ealiyas et al. Resource allocation and scheduling methods in Cloud-A survey
Reza et al. Energy-efficient task-resource co-allocation and heterogeneous multi-core NoC design in dark silicon era
Kaur et al. An efficient approach for green cloud computing using genetic algorithm
Vahora et al. Efficient Virtual Machine management based on dynamic workload in cloud computing environment
Rawas et al. CAEE: communication-aware, energy-efficient VM placement model for multi-tier applications in large scale cloud data centers
Tarafdar et al. QoS aware energy efficient VM consolidation techniques for a virtualized data center
Khan et al. Optimizing power and energy efficiency in cloud computing

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20180223

Termination date: 20190316