CN109643251A - 基于计算系统中的利用模式的资源过度订阅 - Google Patents
基于计算系统中的利用模式的资源过度订阅 Download PDFInfo
- Publication number
- CN109643251A CN109643251A CN201780053601.0A CN201780053601A CN109643251A CN 109643251 A CN109643251 A CN 109643251A CN 201780053601 A CN201780053601 A CN 201780053601A CN 109643251 A CN109643251 A CN 109643251A
- Authority
- CN
- China
- Prior art keywords
- task
- virtual machine
- utilization
- frequency spectrum
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 claims abstract description 41
- 230000004044 response Effects 0.000 claims abstract description 28
- 238000001228 spectrum Methods 0.000 claims description 78
- 230000008569 process Effects 0.000 claims description 31
- 238000012545 processing Methods 0.000 claims description 5
- 239000011800 void material Substances 0.000 claims description 3
- 238000005516 engineering process Methods 0.000 abstract description 35
- 230000005012 migration Effects 0.000 abstract description 4
- 238000013508 migration Methods 0.000 abstract description 4
- 238000003860 storage Methods 0.000 description 49
- 238000004891 communication Methods 0.000 description 22
- 238000004458 analytical method Methods 0.000 description 18
- 238000010586 diagram Methods 0.000 description 9
- 230000003993 interaction Effects 0.000 description 5
- 238000012423 maintenance Methods 0.000 description 4
- 230000014759 maintenance of location Effects 0.000 description 4
- 238000007726 management method Methods 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 238000011161 development Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000006399 behavior Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000007405 data analysis Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 239000012634 fragment Substances 0.000 description 2
- 210000003127 knee Anatomy 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 241000700605 Viruses Species 0.000 description 1
- 230000000712 assembly Effects 0.000 description 1
- 238000000429 assembly Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 229910002056 binary alloy Inorganic materials 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 239000004744 fabric Substances 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 239000002574 poison Substances 0.000 description 1
- 231100000614 poison Toxicity 0.000 description 1
- 238000013468 resource allocation Methods 0.000 description 1
- 230000001568 sexual effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000003442 weekly effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5077—Logical partitioning of resources; Management or configuration of virtualized resources
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5072—Grid computing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
- G06F2009/4557—Distribution of virtual machine instances; Migration and load balancing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
- G06F2009/45595—Network integration; Enabling network access in virtual machine instances
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Debugging And Monitoring (AREA)
- Computer And Data Communications (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Telephonic Communication Services (AREA)
Abstract
本文中公开了管理网络资源的过度订阅的技术。在一个实施例中,一种方法包括接收被托管在计算系统中的服务器上的虚拟机的资源利用数据。虚拟机被配置为执行任务。该方法还包括确定与虚拟机相关联的资源利用数据的时间模式是否指示根据时间的一个或多个资源利用周期,并且响应于确定与虚拟机相关联的时间模式指示根据时间的一个或多个资源利用周期,引起虚拟机迁移到计算系统中未被虚拟机过度订阅的另一服务器。
Description
背景技术
云计算系统通常包括路由器、交换机、网桥以及互连大量服务器、网络存储设备和其他类型的计算设备的其他物理网络设备。个体服务器可以托管一个或多个虚拟机或其他类型的虚拟化组件。虚拟机可以在执行期望任务时执行应用以向用户提供云计算服务。
发明内容
提供本“发明内容”是为了以简化的形式介绍一些概念,这些概念将在下面的“具体实施方式”中进一步描述。本“发明内容”不旨在标识所要求保护的主题的关键特征或必要特征,也不旨在用于限制所要求保护的主题的范围。
云计算通常利用被托管在一个或多个服务器上的虚拟机来适应来自用户的计算、通信或其他类型的云服务请求。例如,服务器可以托管一个或多个虚拟机以向用户提供web搜索、网站托管、系统更新、应用开发和测试或其他合适的计算服务。虚拟机可以共享托管服务器的计算、存储器、网络、存储装置或其他合适类型的资源。
当向个体服务器分配虚拟机时,过度订阅是一种用于提高资源利用的技术。当被过度订阅时,服务器可以托管大量虚拟机,即使服务器没有足够的物理资源来同时满足所有虚拟机的需求。例如,服务器可以具有六个物理处理器或“核”。当被过度订阅时,服务器可以托管八个、十个、十二个或甚至更多虚拟机,每个虚拟机需要一个虚拟核。因此,虚拟机可以在不同时间利用核来提高服务器上的处理器利用。然而,当所有虚拟机同时需要服务器的资源时,服务器可能遭受性能下降、系统故障或其他不期望的影响。
所公开的技术的若干实施例可以通过将虚拟机分类为执行面向用户或非面向用户的任务并且将执行面向用户的任务的虚拟机分配给未被过度订阅的资源来减轻过度订阅的不良影响的影响。在某些实施例中,当任务的执行涉及用户交互时,任务是面向用户的。例如,web搜索任务是面向用户的,因为web搜索涉及接收用户输入以便生成搜索结果。不涉及同步用户交互的任务可以分类为非面向用户的。例如,批量数据分析(例如,机器学习任务)、后台维护任务(例如,系统升级、病毒扫描、磁盘碎片整理等)以及应用开发和测试是非面向用户的任务的示例。
所公开的技术的若干实施例可以经由对任务、类似任务或具有相同任务类型或“角色”的任务的历史资源利用数据的信号处理来支持任务或相关联的虚拟机的这种分类。例如,可以收集表示个体虚拟机的处理器、存储器、网络或存储设备利用级别的利用数据。然后可以对收集的利用数据执行模式分析,以确定利用数据中存在的时间模式。在某些实现中,时间模式可以被分类为周期性模式、恒定模式或随机模式。周期性模式指示对应任务是面向用户的可能性,因为用户在白天与任务交互并且在晚上睡觉(或者在白天工作并且在晚上与任务交互)。在其他实现中,时间模式可以以其他合适的方式进行分类。
在某些实施例中,执行模式分析可以包括应用快速傅里叶变换以将利用数据从时域转换到频域。这样,可以在经变换的利用数据中检测具有一个或多个周期的周期性模式,作为大于阈值的一个或多个不同的频谱值。例如,如果利用数据指示在下午2:00观察到75%的CPU利用,并且在一周的每天的凌晨2:00观察到15%的CPU利用,则可以在频域中观察到不同的频谱值,作为频率为每周7次的大频谱值。在另一示例中,恒定模式可以具有针对所有频率小于阈值并且都在相对窄的频带内的频谱值。在又一示例中,随机模式在某些频率处不具有不同的高频谱值。相反,随机模式可以在非常低的频率处具有高频谱值(例如,最大值或高于第95百分位数),例如,在零频率处或在零频率附近。在其他实施例中,模式分析可以包括应用拉普拉斯变换、傅里叶变换或其他合适类型的变换。
当任务被分类为面向用户(即,具有主导频率可能是由用户行为导致的周期性模式(例如,每周7个周期))时,可以将任务分配给未被过度订阅的服务器。另一方面,当任务被分类为非面向用户时,任务可以被分配给任何服务器,该服务器可以被过度订阅、欠订阅或完全订阅。因此,通过将用于执行面向用户的任务的虚拟机分配给未被过度订阅的服务器,所公开的技术的若干实施例可以避免或至少降低用户经历服务延迟、中断或过度订阅的其他可能的不良影响的风险。
附图说明
图1是示出根据所公开的技术的实施例的基于利用模式来实现资源的过度订阅的计算系统的示意图。
图2是示出了根据所公开的技术的实施例的图1的计算系统的某些硬件/软件组件的示意图。
图3是示出了根据所公开的技术的实施例的适合于图1的计算系统的云控制器的硬件/软件组件的框图。
图4A-4C是根据所公开的技术的实施例的在由图1的计算系统中的虚拟机执行的任务分类的某些阶段期间的图3中的云控制器的框图。
图5A-5C是示出了根据所公开的技术的实施例的管理计算系统中的资源的过度订阅的过程的流程图。
图6A和6B分别是根据所公开的技术的实施例的被表征为周期性利用的任务的示例利用与时间的图和相应的频谱。
图7A和7B分别是根据所公开的技术的实施例的被表征为恒定利用的任务的示例利用与时间的图和对应的频谱。
图8A和8B分别是根据所公开的技术的实施例的被表征为不可预测利用的任务的示例利用与时间的图和对应的频谱。
图9是示出根据所公开的技术的实施例的用于确定利用数据的时间模式的过程的流程图。
图10是适合于图1中的计算系统的某些组件的计算设备。
具体实施方式
下面描述用于管理数据中心或其他合适的计算系统中的资源的过度订阅的系统、设备、组件、模块、例程、数据结构和过程的某些实施例。在以下描述中,包括组件的具体细节以提供对所公开的技术的某些实施例的透彻理解。相关领域的技术人员还将理解,该技术可以具有另外的实施例。该技术也可以在没有下面参考图1-10而描述的实施例的若干细节的情况下实践。
如本文中使用的,术语“计算系统”通常是指具有将多个服务器或主机彼此连接或连接到外部网络(例如,因特网)的多个网络节点的互连计算机网络。术语“网络节点”通常是指物理网络设备。示例网络节点包括路由器、交换机、集线器、网桥、负载平衡器、安全网关或防火墙。“主机”通常是指被配置为实现例如一个或多个虚拟机或其他合适的虚拟化组件的物理计算设备。例如,主机可以包括具有被配置为支持一个或多个虚拟机或其他合适类型的虚拟组件的管理程序的服务器。
计算机网络可以在概念上划分为在底层网络上实现的覆盖网络。“覆盖网络”通常是指在底层网络上实现并且在其之上操作的抽象网络。底层网络可以包括彼此互连的多个物理网络节点。覆盖网络可以包括一个或多个虚拟网络。“虚拟网络”通常是指覆盖网络中的底层网络的一部分的抽象。虚拟网络可以包括被称为由用户或“租户”单独使用以访问虚拟网络和相关联的计算资源、存储资源或其他合适的资源的“租户站点”的一个或多个虚拟端点。租户站点可以托管一个或多个租户端点(“TEP”),例如虚拟机。虚拟网络可以互连不同主机上的多个TEP。覆盖网络中的虚拟网络节点可以通过虚拟链路彼此连接,虚拟链路单独地对应于沿着底层网络中的一个或多个物理网络节点的一个或多个网络路线。
本文中还使用的术语“面向用户”通常是指其执行涉及或取决于用户交互的计算任务的特性。例如,当任务的执行涉及接收用户输入、确认或其他用户动作以及提供用户正在等待的响应时,任务是面向用户的。例如,执行web搜索的任务是面向用户的,因为web搜索需要来自用户的查询以便生成合适的搜索结果。不涉及用户交互的任务可以被分类为非面向用户的。例如,批量数据分析(例如,机器学习任务)、后台维护任务(例如,系统升级、病毒扫描、磁盘碎片整理等)以及应用开发和测试可以被认为是非面向用户的。
如本文中使用的,术语“时间模式”通常是指例如与虚拟机或计算系统的其他合适组件的资源利用相关的根据时间的模式。在下面的描述中,时间模式被分类为周期性的、恒定的或随机的。“周期性”模式可以包括根据时间的一个或多个不同的周期。“恒定”模式可以包括根据时间的通常恒定(例如,在阈值范围内)的利用水平。“随机”模式可以包括没有可辨别的趋势或周期的模式。周期性模式表明面向用户的计算的可能性,因为用户在白天活动并且在晚上不活动(反之亦然)。在其他实现中,除了或代替前述模式,时间模式可以以其他合适的方式进行分类。
过度订阅是一种用于提高某些计算系统中的资源利用的技术。例如,当被过度订阅时,可以将虚拟机分配给具有不足量的物理资源的服务器以同时满足虚拟机的100%的需求。因此,当所有虚拟机同时利用服务器的资源时,服务器可能遭受性能下降、系统故障或其他不期望的影响。这种不期望的影响可能对云计算服务的用户体验产生负面影响。
所公开的技术的若干实施例可以通过将由虚拟机执行的任务分类为面向用户的或面向非用户的并且将面向用户的任务的执行分配给未被过度订阅的资源来抑制这种不期望的影响的影响。例如,当任务被分类为面向用户的时,其虚拟机可以被分配给欠订阅的服务器。另一方面,当任务被分类为非面向用户的时,可以将与该任务相关联的虚拟机分配给任何服务器,该服务器可以被过度订阅、欠订阅或完全订阅。因此,通过分配资源用于在未被过度订阅的服务器上执行面向用户的任务,所公开的技术的若干实施例可以避免或至少降低用户经历服务延迟、中断或过度订阅的其他可能的不良影响的风险,如下面参考图1-9更详细地描述的。尽管下面使用虚拟机的分配作为示例来描述所公开的技术,但是所公开的技术的至少某些方面也可以应用于分配存储器(例如,DRAM)、网络(例如,网络带宽)、存储装置(例如,固态设备或其他合适的永久存储装置)或计算系统中的其他合适类型的资源。
图1是示出根据所公开的技术的实施例的基于利用模式来实现资源的过度订阅的计算系统100的示意图。如图1所示,计算系统100可以包括互连多个主机106、多个租户101和云控制器126的底层网络108。虽然图1中示出了计算系统100的特定组件,但是在其他实施例中,计算系统100还可以包括附加和/或不同的组件。例如,计算系统100还可以包括网络存储设备、维护管理器和/或其他合适的组件(未示出)。
如图1所示,底层网络108可以包括互连多个主机106、租户101和云控制器126的一个或多个网络节点112。在某些实施例中,主机106可以被组织成机架、动作区域、组、集合或其他合适的分部。例如,在所示实施例中,主机106被分组为单独地标识为第一、第二和第三主机集合107a-107c的三个主机集合。在所示实施例中,主机集合107a-107c中的每个分别可操作地耦合到通常被称为“架顶”或“TOR”网络节点的对应的网络节点112a-112c。然后,TOR网络节点112a-112c可以可操作地耦合到附加网络节点112以形成分层、平面、网格或其他合适类型的拓扑的计算机网络。计算机网络可以允许主机106、云控制器126和租户101之间的通信。在其他实施例中,多个主机集合107a-107c可以共享单个网络节点112,或者可以具有其他合适的布置。
主机106可以单独地被配置为向租户101提供计算、存储和/或其他合适的云计算服务。例如,如下面参考图2更详细描述的,主机106之一可以根据来自租户101的请求来启动和维护一个或多个虚拟机144(如图2所示)或容器145(如图3所示)。租户101然后可以利用启动的虚拟机144或容器145来执行计算、通信和/或其他合适的任务。在某些实施例中,主机106之一可以为多个租户101提供虚拟机144。例如,主机106a可以托管单独地与租户101a-101c中的每个相对应的三个虚拟机144。在其他实施例中,多个主机106可以托管租户101a-101c的虚拟机144。
根据所公开的技术的若干实施例,云控制器126可以被配置为基于这种虚拟机144的使用模式来分配计算系统100中的虚拟机144(或其他合适的资源)。在某些实施例中,云控制器126可以将被配置为执行面向用户的任务的虚拟机144分配给未被过度订阅的一个或多个主机106。云控制器126还可以将被配置为执行非面向用户的任务的虚拟机144分配给过度订阅的主机106。在其他实施例中,可以将非面向用户的任务分配给任何主机106,而不管主机106是否被过度订阅。在某些实现中,云控制器126可以是数据中心控制器、结构控制器或其他合适类型的控制器或其组件。在其他实现中,云控制器126可以是计算系统100的独立硬件/软件组件。
在某些实施例中,云控制器126可以被配置为通过分析与对应虚拟机144相关联的历史利用数据来确定与所请求的资源相关联的任务是否是面向用户的。如果利用数据具有周期性时间模式,则云控制器126可以指示任务是面向用户的。如果利用数据具有恒定或随机时间模式,则云控制器126可以指示任务不是面向用户的。在其他实施例中,除了或代替云控制器126,前述模式分析可以由主机106之一、专用服务器(未示出)或计算系统100中的其他合适的实体来执行。下面参考图3-4C更详细地描述用于执行前述功能的云控制器126的示例组件。
图2是示出根据所公开的技术的实施例的在图1的底层网络108上实现的覆盖网络108'的示意图。在图2中,为清楚起见,仅示出了图1的底层网络108的某些组件。如图2所示,第一主机106a和第二主机106b每个可以包括可操作地彼此耦合的处理器132、存储器134和输入/输出组件136。处理器132可以包括微处理器、现场可编程门阵列和/或其他合适的逻辑器件。存储器134可以包括易失性和/或非易失性介质(例如,ROM;RAM、磁盘存储介质;光学存储介质;闪存设备和/或其他合适的存储介质)和/或被配置为存储从处理器132接收的数据以及处理器132的指令(例如,用于执行下面参考图5A-5C和9讨论的方法的指令)的其他类型的计算机可读存储介质。输入/输出组件136可以包括显示器、触摸屏、键盘、鼠标、打印机和/或被配置为从操作者和/或自动软件控制器(未示出)接受输入和向其提供输出的其他合适类型的输入/输出设备。
第一主机106a和第二主机106b可以在存储器134中单独地包含由处理器132可执行以引起个体处理器132提供管理程序140(单独地标识为第一管理程序140a和第二管理程序140b)和状态代理141(单独地标识为第一状态代理141a和第二状态代理141b)的指令。虽然管理程序140和状态代理141被示出为单独的组件,但是在其他实施例中,状态代理141可以是管理程序140或在对应主机106上执行的操作系统(未示出)的一部分。在另外的实施例中,状态代理141可以是独立的应用。
管理程序140可以单独地被配置为生成、监测、终止和/或以其他方式管理被组织到租户站点142中的一个或多个虚拟机144。例如,如图2所示,第一主机106a可以提供分别管理第一租户站点142a和第二租户站点142b的第一管理程序140a。第二主机106b可以提供分别管理第一租户站点142a'和第二租户站点142b'的第二管理程序140b。管理程序140在图2中单独地示出为软件组件。然而,在其他实施例中,管理程序140可以是固件和/或硬件组件。租户站点142每个可以包括用于特定租户(未示出)的多个虚拟机144。例如,第一主机106a和第二主机106b都可以托管第一租户101a(图1)的租户站点142a和142a'。第一主机106a和第二主机106b都可以托管第二租户101b(图1)的租户站点142b和142b'。每个虚拟机144可以执行对应的操作系统、中间件和/或应用。
还如图2所示,计算系统100可以包括具有跨多个主机106将租户站点142a和142b互连的一个或多个虚拟网络146的覆盖网络108'。例如,第一虚拟网络142a互连在第一主机106a和第二主机106b处的第一租户站点142a和142a'。第二虚拟网络146b互连第一主机106a和第二主机106b处的第二租户站点142b和142b'。虽然单个虚拟网络146被示出为对应于一个租户站点142,但是在其他实施例中,多个虚拟网络146(未示出)可以被配置为对应于单个租户站点146。
虚拟网络146上的虚拟机144也可以经由底层网络108(图1)彼此通信,尽管虚拟机144位于不同的主机106上。每个虚拟网络146的通信可以与其他虚拟网络146隔离。在某些实施例中,可以允许通过安全网关或以其他方式以受控方式从一个虚拟网络146跨越到另一虚拟网络的通信。虚拟网络地址可以对应于特定虚拟网络146中的虚拟机144之一。因此,不同的虚拟网络146可以使用相同的一个或多个虚拟网络地址。示例虚拟网络地址可以包括IP地址、MAC地址和/或其他合适的地址。
图3是示出根据所公开的技术的实施例的适合于图1和2所示的计算系统100的云控制器126的某些硬件/软件组件的框图。在图3和本文中的其他图中,个体软件组件、对象、类、模块和例程可以是用C、C++、C#、Java和/或其他合适的编程语言被编写为源代码的计算机程序、过程或进程。组件可以包括但不限于一个或多个模块、对象、类、例程、属性、进程、线程、可执行文件、库或其他组件。组件可以是源或二进制形式。组件可以包括编译之前的源代码的各方面(例如,类、属性、过程、例程)、编译的二进制单元(例如,库、可执行文件)、或在运行时实例化和使用的工件(例如,对象、进程、线程)。
系统内的组件可以在系统内采用不同的形式。作为一个示例,包括第一组件、第二组件和第三组件的系统可以但不限于包括其中第一组件是以源代码表示的属性、第二组件是二进制编译库并且第三组件是在运行时创建的线程的系统。计算机程序、过程或进程可以被编译成对象、中间或机器代码并且被呈现以用于由个人计算机、网络服务器、膝上型计算机、智能电话和/或其他合适的计算设备的一个或多个处理器执行。
同样,组件可以包括硬件电路。本领域普通技术人员将认识到,硬件可以被认为是固化的软件,并且软件可以被认为是液化的硬件。仅作为一个示例,组件中的软件指令可以被刻录到可编程逻辑阵列电路,或者可以被设计为具有适当集成电路的硬件电路。同样,硬件可以用软件来模拟。源、中间和/或目标代码和相关联的数据的各种实现可以存储在计算机存储器中,该计算机存储器包括只读存储器、随机存取存储器、磁盘存储介质、光存储介质、闪存设备和/或除了传播信号之外的其他合适的计算机可读存储介质。
如图3所示,第一主机106a和第二主机106b可以被配置为例如经由管理程序140(图2)托管一个或多个虚拟机144。在图3所示的示例中,第一主机106a可以通过托管需求超过第一主机106a处可用的物理资源的多个虚拟机144来被过度订阅。这样,第一主机106a可能不同时满足来自被托管的虚拟机144的100%的需求。另一方面,第二主机106b可以通过托管比第一主机106a更少数目的虚拟机144来被欠订阅。下面利用前述说明性示例来描述云控制器126的操作。在其他实施例中,计算系统100可以包括被过度订阅、欠订阅或完全订阅的附加主机106。
如图3所示,云控制器126可以包括可操作地彼此耦合的资源分配器152和任务剖析器154。资源分配器152可以被配置为将处理、存储器、网络、存储装置或其他合适类型的资源分配给用于提供由租户101请求的云计算服务的任务。在一个实施例中,资源分配器152可以包括被配置为将虚拟机分配给物理主机106(图1)的虚拟机器分配器。在其他实施例中,资源分配器152可以包括存储器、网络、存储装置或其他合适类型的分配器。尽管图3示出了资源分配器152和任务剖析器154是云控制器126的组成部分,但是在其他实施例中,前述组件可以由计算系统100的不同组件提供。例如,任务剖析器154可以是被托管在一个或多个主机106(图1)上的独立应用,而资源分配器152是数据中心控制器、结构控制器或其他合适类型的控制器的一部分。
任务剖析器154可以被配置为基于任务、类似任务或具有相同任务类型或“角色”的任务的历史利用数据来确定和提供利用的时间模式。例如,任务剖析器154最初可以将虚拟机144'分配给默认主机106(例如,第二主机106b)并且在一周、一个月或其他合适的时间段内收集利用数据。然后,任务剖析器154可以分析所收集的利用数据以确定与由虚拟机144'执行的任务相关联的时间模式。在另一示例中,任务剖析器154可以使用特定类型或角色(例如,web服务、开发和测试等)对任务进行分类,并且使用与所请求的任务类似地分类的任务的利用数据来确定时间模式。在另外的示例中,任务剖析器154可以被配置为以其他合适的方式确定与任务相关联的时间模式,这些方式的示例在下面参考图4A-4C进行描述。
在操作中,租户101可以将服务请求150传输到计算系统100以实例化用于执行期望任务的虚拟机144'。响应于所接收的服务请求150,云控制器126可以基于与被配置为执行任务的虚拟机144'相关联的利用的时间模式等来分配虚拟机144'。在所示实施例中,任务剖析器154可以提供与任务相关联的所确定的时间模式,并且指示任务是面向用户的。作为响应,资源分配器152可以将虚拟机144'分配给未被过度订阅的第二主机106b。然后,云控制器126或计算系统100中的其他合适实体可以传输实例化命令158以提供和实例化虚拟机144'。一旦被实例化,虚拟机144'就可以执行合适的指令以向租户101提供服务结果174。在其他实施例中,任务剖析器154可以指示任务不是面向用户的。这样,云控制器126可以将虚拟机144'分配给第一主机106a或其他合适的主机106(图1)。
图4A-4C是根据所公开的技术的实施例的在由图3的任务剖析器154执行的任务分类的某些阶段期间的图3中的云控制器126的框图。如图4A所示,云控制器126可以可操作地耦合到存储装置161。在一个实施例中,存储装置161可以是计算系统100中的网络存储装置。在另一实施例中,存储装置161可以是耦合到云控制器126的专用存储设备。在另外的实施例中,存储装置161可以是云控制器126的组成部分。
还如图4A所示,任务剖析器154可以包括可操作地彼此耦合的数据收集器162、简档分析器164和简档分类器166。尽管在图4A-4C中示出了任务剖析器154的特定组件,但是在其他实施例中,任务剖析器154还可以包括输入/输出接口和/或其他合适的组件。
数据收集器162可以被配置为从被托管在第一主机106a和第二主机106b上的虚拟机144收集利用数据168。在某些实施例中,数据收集器162可以向第一主机106a和第二主机106b查询CPU、易失性存储器、网络带宽、非易失性存储器的利用、或者第一主机106a和第二主机106b中的每个上的个体虚拟机144的其他合适类型的利用数据168。数据收集器162可以周期性地或以其他合适的方式向第一主机106a和第二主机106b查询。在其他实施例中,第一主机106a和第二主机106b每个可以包括被配置为周期性地或以其他合适的方式将利用数据168报告给数据收集器162的报告代理(未示出)。报告代理可以是第一主机106a和第二主机106b上的操作系统、管理程序或其他合适组件的一部分。在另外的实施例中,数据收集器162可以实现前述数据检索技术的组合。然后,数据收集器162可以将所接收的利用数据168提供给简档分析器164以进一步处理,并且可选地将利用数据168存储在存储装置161中。
简档分析器164可以被配置为针对利用数据168的时间模式分析利用数据168。在一个实施例中,简档分析器164可以被配置为根据时间绘制虚拟机144的利用数据168。然后,简档分析器164可以基于该图来确定利用数据168的时间简档。例如,当利用值的分布在窄带内时,简档分析器164可以确定时间简档具有恒定模式。在另一示例中,当利用值的分布简档(例如,标准偏差)接近白噪声的分布简档时,简档分析器164还可以确定时间简档具有随机模式。
在其他实施例中,简档分析器164还可以被配置为应用快速傅里叶变换以将利用数据168从时域转换为频域中的频谱。基于频谱简档,简档分析器164然后可以确定利用数据168的时间简档。例如,当频谱在对应频率处示出大于阈值的一个或多个不同频谱值时,简档分析器164可以指示利用数据168具有周期性模式。在另一示例中,当频谱针对所有频率示出低于另一阈值的频谱值时,简档分析器164可以指示利用数据168具有恒定模式。在另一示例中,当频谱在零频率处或在零频率附近示出最高频谱值时,简档分析器164可以指示利用数据168具有随机模式。下面参考图6A-8B更详细地描述时域和频域中的利用数据168的示例图。
然后,简档分类器166可以被配置为基于时间简档将由各种虚拟机144执行的任务分类为面向用户的或非面向用户的之一。例如,在一个实施例中,简档分类器166可以将具有周期性模式的任务分类为面向用户的。在另一实施例中,简档分类器166可以将具有随机和恒定模式的任务分类为非面向用户的。在其他示例中,简档分类器166可以基于其他使用度量或其他合适的标准以其他合适的方式对任务进行分类。在所示实施例中,简档分类器166还可以被配置为将分类的任务作为任务类别169与任务标识(例如,任务序列号)、任务类型(例如,web搜索)、任务角色(例如,数据检索)或与任务相关联的其他合适特性一起存储在存储装置161中。
在图4A所示的实施例中,虚拟机144'可以最初被托管在第二主机106b上,因为简档分类器166已经将类似的任务分类为面向用户的任务,要由虚拟机144'执行的任务在存储装置161中没有任务类别169的对应记录,或者出于其他合适的原因。一旦虚拟机144'被实例化并且执行所请求的任务,数据收集器162就可以收集对应的利用数据168并且对由虚拟机144'执行的任务进行分类,如上所述。
如图4B所示,如果简档分类器166将由虚拟机144'执行的任务分类为非面向用户的任务,则任务剖析器154可以相应地经由简档指示170来通知资源分配器152。在某些实施例中,资源分配器152可以向第一主机106a和/或第二主机106b发出将虚拟机144'从第二主机106b迁移到被过度订阅的第一主机106a的迁移命令172。如图4C所示,在迁移期间,第二主机106b可以向第一主机106a传输与虚拟机144'相关联的虚拟机数据174。一旦迁移,虚拟机144'就可以在第一主机106a上执行任务,并且将服务结果174提供给租户101。在其他实施例中,资源分配器152可以将虚拟机144'留在第二主机106b处,并且仅响应于对虚拟机更新或其他合适操作的请求而重新定位虚拟机144'。
在另外的实施例中,如果简档分类器166将由虚拟机144'执行的任务分类为面向用户的,则资源分配器152可以检查虚拟机144'当前是否被托管在未被过度订阅的主机106上。在图4B所示的实施例中,第二主机106b未被过度订阅,并且因此资源分配器152可以将虚拟机144'保持在第二主机106b上。另一方面,如果虚拟机144'最初被托管在第一主机106a(未示出)上,则资源分配器152可以发出将虚拟机144'从第一主机106a迁移到未被过度订阅的另一主机106(诸如第二主机106b)的适当命令。
图5A是示出根据所公开的技术的实施例的管理计算系统中的资源的过度订阅的过程200的流程图。虽然关于图1和2的计算系统100以及图3-4C的硬件/软件组件来描述过程200,但是在其他实施例中,过程200也可以在其他合适的系统中实现。
如图5A所示,过程200包括在阶段202接收对资源的用户请求。在某些实施例中,所请求的资源可以包括被配置为执行目标任务的虚拟机。在其他实施例中,所请求的资源可以包括用于在数据中心或其他合适类型的计算系统中执行目标任务的存储器、网络、存储装置或其他合适类型的计算资源。然后,过程200可以包括用于确定是否存在用于由所请求的资源执行的目标任务的利用简档的决策阶段204。在一个实施例中,利用简档可以包括与类似类型或角色的另一任务相关联的任务作为目标任务。在其他实施例中,利用简档可以包括与相同目标任务的过去执行相关联的任务。
响应于确定对于目标任务确实存在利用简档,则过程200可以包括用于确定目标任务是否是面向用户的另一决策阶段206。响应于确定目标任务是面向用户的,过程200可以包括在阶段208响应于所接收的用户请求而提供未被过度订阅的资源。另一方面,响应于确定目标任务是非面向用户的,过程200可以包括在阶段210响应于所接收的用户请求而提供被过度订阅的资源。响应于确定不存在利用简档,过程200可以直接继续进行以在阶段210和208处分别提供被过度订阅的资源或非过度订阅的资源。
图5B是示出根据所公开的技术的实施例的对在计算系统中执行的任务进行分类的过程220的流程图。如图5B所示,过程220可以包括在阶段222从个体服务器、存储设备或计算系统的其他合适组件收集利用数据。例如,在一个实施例中,利用数据可以包括单个服务器上的各种虚拟机的CPU利用水平。在另一示例中,利用数据可以包括被托管在服务器上的各种虚拟机的虚拟存储使用。在其他示例中,利用数据可以包括反映存储器、网络带宽或计算系统中的其他合适资源的使用的其他合适的数据。
然后,过程220可以包括在阶段224分析所收集的利用数据。在某些实施例中,分析所收集的利用数据可以包括将时域中的利用数据转换为频域中的频谱。基于频域中的利用数据的频谱简档,可以确定不同的模式。例如,周期性模式涉及在对应频率处大于阈值的一个或多个不同的频谱值。恒定模式涉及通常在所有频率下低于另一阈值的频谱值。随机模式涉及在零频率处或在零频率附近具有最高值的频谱值。下面参考图5C更详细地描述用于分析利用数据的示例操作。
然后,过程220可以包括基于各种确定的模式来指示任务是否是面向用户的。例如,如果确定了周期性模式,则过程220可以指示对应任务是面向用户的,因为用户通常周期性地利用计算资源,例如,在白天期间,而不是在晚上。如果确定了恒定或随机模式,则过程220可以指示任务不是面向用户的,因为不能观察到可辨别的利用模式。
图5C示出了根据所公开的技术的实施例的用于分析利用数据的示例操作。如图5C所示,操作可以包括在阶段232将利用数据从时域转换到频域中的频谱。适合于这种转换的一种技术是计算值序列的离散傅里叶变换的快速傅里叶变换。在其他实施例中,还可以应用拉普拉斯变换或常规傅里叶变换。
操作还可以包括用于确定频谱是否指示周期性模式的决策阶段234。在一个实施例中,当对应频率处的一个或多个不同频谱值大于阈值时,频谱指示周期性模式,如图6B所示。在其他实施例中,可以基于频谱值的分布或其他合适的技术对频谱进行分类。响应于确定频谱指示周期性模式,操作可以包括在阶段236指示任务是面向用户的。响应于确定频谱不指示周期性模式,操作可以包括在阶段238指示任务是非面向用户的。下面参考图6A-9更详细地描述确定利用数据的时间简档的另外的示例操作。
图6A示出了时域中的示例利用数据图,并且图6B示出了被转换为示例周期性模式的频域的相同利用数据。如图6A所示,利用数据示出了从一天到另一天的重复模式。如图6B所示,频谱包括大于周期性阈值(例如,设置为0.5)的一个或多个频谱值(例如,约3.5和1.4)。在一个实施例中,可以将周期性阈值设置为作为所有频谱值的平均值(或其倍数)的频谱值。在其他实施例中,可以将周期性阈值设置为中等值、合适的百分位值(例如,在第75百分位数)或其他合适的值。
图7A示出了时域中的示例利用数据图,并且图7B示出了被转换为示例恒定模式的频域的相同利用数据。如图7A所示,利用数据具有通常恒定的趋势,其中相对于时间的变化很小。如图7B所示,对于所有频率,频谱的频谱值在0.000到约0.025之间都低于恒定阈值(例如,0.030)。可以将恒定阈值设置为具有显著低于周期性模式的预期频谱值的值。例如,在图6B所示的示例中,恒定阈值可以设定为例如0.05,这明显低于3.5和1.5的频谱值。在其他实施例中,恒定阈值可以以其他合适的方式设置。
图8A示出了时域中的示例利用数据图,并且图8B示出了被转换为示例随机模式的频域的相同利用数据。如图8A所示,利用数据可以具有根据时间的不规则重复模式。如图8B所示,频谱可以在零频率处或在零频率附近具有最高频谱值(例如,2.5)。
图9是示出用于确定利用数据的时间模式的示例过程240的流程图。如图9所示,过程240可以包括最初确定利用数据的频谱是否具有低于恒定阈值的所有频谱值,例如,图7B中的阈值0.03。如果所有频谱值都低于恒定阈值,则过程240可以在阶段245指示利用数据具有恒定模式。否则,过程240继续进行以将频谱值与周期性阈值进行比较,例如,阈值0.5,如图6B所示。响应于确定频谱值大于周期性阈值,过程240可以前进到用于确定与高于周期性阈值的频谱值相对应的频率是否在频率范围内(例如,每个月从约31到约93个周期)的另一决策阶段。该范围旨在确定周期性是否可能是由于用户交互。例如,在一周内示出7个周期的模式可能是用户交互的结果,而示出1000个周期的模式则不是。响应于确定与高于周期性阈值的频谱值相对应的频率在频率范围内,过程240可以包括在阶段254指示利用数据具有周期性模式。响应于确定与高于周期性阈值的频谱值相对应的频率不在频率范围内或者响应于确定频谱值不大于周期性阈值,过程240可以继续进行以在阶段256指示利用数据具有随机模式。
图10是适合于图1中的计算系统100的某些组件的计算设备300。例如,计算设备300可以适用于图1的主机106或云控制器126。在非常基本的配置302中,计算设备300可以包括一个或多个处理器304和系统存储器306。存储器总线308可以用于处理器304与系统存储器306之间的通信。
根据期望的配置,处理器304可以是任何类型,包括但不限于微处理器(μP)、微控制器(μC)、数字信号处理器(DSP)或其任何组合。处理器304可以包括一个或多个级别的高速缓存(诸如一级高速缓存310和二级高速缓存312)、处理器核314和寄存器316。示例处理器核314可以包括算术逻辑单元(ALU)、浮点单元(FPU)、数字信号处理核(DSP核)或其任何组合。示例存储器控制器318也可以与处理器304一起使用,或者在一些实现中,存储器控制器318可以是处理器304的内部部分。
根据期望的配置,系统存储器306可以是任何类型,包括但不限于易失性存储器(诸如RAM)、非易失性存储器(诸如ROM、闪存等)或其任何组合。系统存储器306可以包括操作系统320、一个或多个应用322和程序数据324。如图8所示,操作系统320可以包括用于管理一个或多个虚拟机144的管理程序140。该描述的基本配置302在图8中由内部虚线内的那些组件示出。
计算设备300可以具有附加特征或功能、以及附加接口以支持基本配置302与任何其他设备和接口之间的通信。例如,总线/接口控制器330可以用于支持基本配置302与一个或多个数据存储设备332之间经由存储接口总线334的通信。数据存储设备332可以是可移除存储设备336、不可移除存储设备338或其组合。可移除存储设备和不可移除存储设备的示例包括诸如软盘驱动器和硬盘驱动器(HDD)等磁盘设备、诸如压缩盘(CD)驱动器或数字通用盘(DVD)驱动器等光盘驱动器、固态驱动器(SSD)和磁带驱动器等。示例计算机存储介质可以包括以用于存储诸如计算机可读指令、数据结构、程序模块或其他数据等信息的任何方法或技术实现的易失性和非易失性、可移除和不可移除介质。术语“计算机可读存储介质”或“计算机可读存储设备”不包括传播信号和通信介质。
系统存储器306、可移除存储设备336和不可移除存储设备338是计算机可读存储介质的示例。计算机可读存储介质包括但不限于RAM、ROM、EEPROM、闪存或其他存储器技术、CD-ROM、数字通用盘(DVD)或其他光学存储装置、磁带盒、磁带、磁盘存储装置或其他磁存储设备、或者可以用于存储期望的信息并且可以由计算设备300访问的任何其他介质。任何这样的计算机可读存储介质可以是计算设备300的一部分。术语“计算机可读存储介质”不包括传播信号和通信介质。
计算设备300还可以包括接口总线340以用于支持经由总线/接口控制器330从各种接口设备(例如,输出设备342、外围接口344和通信设备346)到基本配置302的通信。示例输出设备342包括可以被配置为经由一个或多个A/V端口352与诸如显示器或扬声器等各种外部设备通信的图形处理单元348和音频处理单元350。示例外围接口344包括可以被配置为经由一个或多个I/O端口358与诸如输入设备(例如,键盘、鼠标、笔、语音输入设备、触摸输入设备等)或其他外围设备(例如,打印机、扫描仪等)等外部设备通信的串行接口控制器354或并行接口控制器356。示例通信设备346包括可以被布置为支持经由一个或多个通信端口364通过网络通信链路与一个或多个其他计算设备362的通信的网络控制器360。
网络通信链路可以是通信介质的一个示例。通信介质通常可以由计算机可读指令、数据结构、程序模块或调制数据信号(诸如载波或其他传输机制)中的其他数据来实施,并且可以包括任何信息传递介质。“调制数据信号”可以是使得能够在信号中对信息进行编码的方式设置或改变其一个或多个特征的信号。作为示例而非限制,通信介质可以包括诸如有线网络或直接有线连接等有线介质、以及诸如声学、射频(RF)、微波、红外(IR)和其他无线介质等无线介质。本文中使用的术语计算机可读介质可以包括存储介质和通信介质。
计算设备300可以被实现为小型便携式(或移动)电子设备的一部分,诸如蜂窝电话、个人数字助理(PDA)、个人媒体播放器设备、无线web手表设备、个人耳机设备、专用设备、或包括任何上述功能的混合设备。计算设备300还可以实现为包括膝上型计算机和非膝上型计算机配置的个人计算机。
上面出于说明的目的描述了本技术的具体实施例。然而,在不脱离前述公开内容的情况下,可以进行各种修改。另外,除了或代替其他实施例的元件,一个实施例的很多元件可以与其他实施例组合。因此,除了所附权利要求之外,本技术不受限制。
Claims (10)
1.一种由计算系统中的计算设备执行的方法,所述计算系统具有通过计算机网络互连的多个服务器,所述方法包括:
经由所述计算机网络从用户接收实例化被配置为执行任务的虚拟机的用户请求;以及
响应于从所述用户所接收的所述请求,
确定要由所请求的所述虚拟机执行的所述任务是否是面向用户的,其中当所述任务被配置为从所述用户接收用户输入,处理所接收的所述用户输入以得到输出,并且响应于所接收的所述用户输入而经由所述计算机网络向所述用户提供所得到的所述输出时,所述任务是面向用户的;以及
响应于确定所述任务是面向用户的,向所述计算系统中的服务器分配所请求的所述虚拟机,所述服务器具有未被附加虚拟机过度订阅的计算资源,从而在由所分配的所述虚拟机对所述任务的执行期间防止所述用户由于资源的过度订阅而经历服务延迟或中断。
2.根据权利要求1所述的方法,还包括:响应于确定所述任务不是面向用户的,选择所述计算系统中被过度订阅的另一服务器来实例化所请求的所述虚拟机。
3.根据权利要求1所述的方法,其中确定要由所请求的所述虚拟机执行的所述任务是否是面向用户的包括:
确定被配置为执行相同的所请求的所述任务的虚拟机的历史利用数据的频谱是否在零频率处示出最高频谱值;以及
响应于确定所述频谱在零频率处示出最高频谱值,指示所请求的所述任务不是面向用户的。
4.一种计算系统中的计算设备,所述计算系统具有通过计算机网络互连的多个服务器,所述计算设备包括:
处理器;以及
存储器,可操作地耦合到所述处理器,所述存储器包含由所述处理器可执行以引起所述处理器执行包括以下的过程的指令:
经由所述计算机网络接收被托管在所述计算系统中的服务器上以执行任务的虚拟机的资源利用数据;以及
分析所述虚拟机的所接收的所述资源利用数据以确定由所述虚拟机执行的所述任务是否是面向用户的,包括:
基于所接收的所述资源利用数据得到资源利用的时间模式;
确定所得到的所述时间模式是否指示根据时间的一个或多个资源利用周期;以及
响应于确定所得到的所述模式指示根据时间的一个或多个资源利用周期,指示由所述虚拟机执行的所述任务是面向用户的,并且在当前服务器被过度订阅时,将所述虚拟机重新定位到未被过度订阅的另一服务器。
5.根据权利要求4所述的计算设备,其中得到资源利用的时间模式包括根据时间绘制所接收的所述资源利用数据。
6.根据权利要求4所述的计算设备,其中:
得到资源利用的时间模式包括:
根据时间绘制所接收的所述资源利用数据;以及
对所绘制的所述资源利用数据应用快速傅里叶变换以得到频域中的频谱;以及
确定所得到的所述时间模式是否指示一个或多个周期包括:确定所得到的所述频谱是否在一个或多个频率处包括大于频谱阈值的一个或多个不同的频谱值,并且响应于确定所得到的所述频谱在一个或多个频率处包括大于频谱阈值的一个或多个不同的频谱值,指示所得到的所述时间模式指示根据时间的一个或多个资源利用周期。
7.根据权利要求4所述的计算设备,其中:
得到资源利用的时间模式包括:
根据时间绘制所接收的所述资源利用数据;以及
对所绘制的所述资源利用数据应用快速傅里叶变换以得到频域中的频谱;以及
确定所得到的所述时间模式是否指示一个或多个周期包括:确定所得到的所述频谱是否在每个月31到93个周期之间在一个或多个频率处包括大于频谱阈值的一个或多个不同的频谱值,并且响应于确定所得到的所述频谱在每个月31到93个周期之间在一个或多个频率处包括大于频谱阈值的一个或多个不同的频谱值,指示所得到的所述时间模式指示根据时间的一个或多个资源利用周期。
8.根据权利要求4所述的计算设备,其中:
得到资源利用的时间模式包括:
根据时间绘制所接收的所述资源利用数据;以及
对所绘制的所述资源利用数据应用快速傅里叶变换以得到频域中的频谱;以及
确定所得到的所述时间模式是否指示一个或多个周期包括:确定所得到的所述频谱是否针对所有频率包括小于预设阈值的频谱值,并且响应于确定所得到的所述频谱针对所有频率包括小于预设阈值的频谱值,指示所得到的所述时间模式不指示根据时间的一个或多个资源利用周期。
9.根据权利要求4所述的计算设备,其中:
得到资源利用的时间模式包括:
根据时间绘制所接收的所述资源利用数据;以及
对所绘制的所述资源利用数据应用快速傅里叶变换以得到频域中的频谱;以及
确定所得到的所述时间模式是否指示一个或多个周期包括:确定所得到的所述频谱是否针对小于每个月约0到200个周期的频率阈值的频率包括最高频谱值,并且响应于确定所得到的所述频谱包括所得到的所述频谱针对小于每个月约0到200个周期的频率阈值的频率包括最高频谱值,指示所得到的所述时间模式不指示根据时间的一个或多个资源利用周期。
10.根据权利要求4所述的计算设备,其中由所述处理器执行的所述过程还包括:
响应于确定所得到的所述模式不指示根据时间的一个或多个资源利用周期,
指示由所述虚拟机执行的所述任务不是面向用户的;以及
在所述当前服务器未被过度订阅时,将所述虚拟机重新定位到被过度订阅的另一服务器。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310573379.4A CN116560846A (zh) | 2016-09-01 | 2017-08-28 | 基于计算系统中的利用模式的资源过度订阅 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/254,994 | 2016-09-01 | ||
US15/254,994 US10678603B2 (en) | 2016-09-01 | 2016-09-01 | Resource oversubscription based on utilization patterns in computing systems |
PCT/US2017/048788 WO2018044747A1 (en) | 2016-09-01 | 2017-08-28 | Resource oversubscription based on utilization patterns in computing systems |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310573379.4A Division CN116560846A (zh) | 2016-09-01 | 2017-08-28 | 基于计算系统中的利用模式的资源过度订阅 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109643251A true CN109643251A (zh) | 2019-04-16 |
CN109643251B CN109643251B (zh) | 2023-05-12 |
Family
ID=59772836
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201780053601.0A Active CN109643251B (zh) | 2016-09-01 | 2017-08-28 | 基于计算系统中的利用模式的资源过度订阅 |
CN202310573379.4A Pending CN116560846A (zh) | 2016-09-01 | 2017-08-28 | 基于计算系统中的利用模式的资源过度订阅 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310573379.4A Pending CN116560846A (zh) | 2016-09-01 | 2017-08-28 | 基于计算系统中的利用模式的资源过度订阅 |
Country Status (4)
Country | Link |
---|---|
US (2) | US10678603B2 (zh) |
EP (1) | EP3507692B1 (zh) |
CN (2) | CN109643251B (zh) |
WO (1) | WO2018044747A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210203550A1 (en) * | 2019-12-31 | 2021-07-01 | Vmware, Inc. | Multi-site hybrid networks across cloud environments |
TWI773196B (zh) * | 2021-03-16 | 2022-08-01 | 和碩聯合科技股份有限公司 | 分配運算資源的方法和使用所述方法的電子裝置 |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11715025B2 (en) | 2015-12-30 | 2023-08-01 | Nutanix, Inc. | Method for forecasting distributed resource utilization in a virtualization environment |
US10168953B1 (en) | 2016-05-20 | 2019-01-01 | Nutanix, Inc. | Dynamic scheduling of distributed storage management tasks using predicted system characteristics |
US10902324B2 (en) | 2016-06-13 | 2021-01-26 | Nutanix, Inc. | Dynamic data snapshot management using predictive modeling |
US10361925B1 (en) | 2016-06-23 | 2019-07-23 | Nutanix, Inc. | Storage infrastructure scenario planning |
US10484301B1 (en) | 2016-09-30 | 2019-11-19 | Nutanix, Inc. | Dynamic resource distribution using periodicity-aware predictive modeling |
US10691491B2 (en) | 2016-10-19 | 2020-06-23 | Nutanix, Inc. | Adapting a pre-trained distributed resource predictive model to a target distributed computing environment |
US20180139100A1 (en) * | 2016-11-15 | 2018-05-17 | Nutanix, Inc. | Storage-aware dynamic placement of virtual machines |
US11836578B2 (en) * | 2019-03-29 | 2023-12-05 | Accenture Global Solutions Limited | Utilizing machine learning models to process resource usage data and to determine anomalous usage of resources |
JP7010272B2 (ja) * | 2019-10-08 | 2022-01-26 | 横河電機株式会社 | リアルタイム通信処理システム、およびリアルタイム通信処理方法 |
EP3862880B1 (en) | 2020-02-04 | 2024-09-11 | Adtran Networks SE | Computer-implemented method for reducing service disruption times for a universal customer premise equipment, ucpe, device with resource constraint in a network functions virtualization, nfv, network infrastructure |
US11249790B1 (en) * | 2020-03-11 | 2022-02-15 | Amazon Technologies, Inc. | Scheduling usage of oversubscribed computing resources |
CN112084020B (zh) * | 2020-08-13 | 2022-04-26 | 河北工程大学 | 多接入虚拟边缘计算中基于双边匹配的虚拟机布设方法 |
CN111708613B (zh) * | 2020-08-18 | 2020-12-11 | 广东睿江云计算股份有限公司 | 一种修复vm虚拟机开机失败卡任务的方法及系统 |
US11886926B1 (en) * | 2020-12-10 | 2024-01-30 | Amazon Technologies, Inc. | Migrating workloads between computing platforms according to resource utilization |
CN115437739A (zh) * | 2021-06-02 | 2022-12-06 | 伊姆西Ip控股有限责任公司 | 虚拟化系统的资源管理方法、电子设备和计算机程序产品 |
CN115766876B (zh) * | 2022-11-22 | 2024-08-23 | 中国联合网络通信集团有限公司 | 资源调度方法、装置、设备及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20040003077A1 (en) * | 2002-06-28 | 2004-01-01 | International Business Machines Corporation | System and method for the allocation of grid computing to network workstations |
US20140082614A1 (en) * | 2012-09-20 | 2014-03-20 | Matthew D. Klein | Automated profiling of resource usage |
CN104620222A (zh) * | 2012-08-23 | 2015-05-13 | 亚马逊技术有限公司 | 扩展虚拟机实例 |
CN104981783A (zh) * | 2013-03-07 | 2015-10-14 | 思杰系统有限公司 | 在云计算环境中的动态配置 |
US20150370301A1 (en) * | 2014-06-20 | 2015-12-24 | Lenovo Enterprise Solutions (Singapore) Pte. Ltd. | Preventing oversubscription to power resources in a computing system |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002202959A (ja) * | 2000-12-28 | 2002-07-19 | Hitachi Ltd | 動的な資源分配をする仮想計算機システム |
US8495627B2 (en) | 2007-06-27 | 2013-07-23 | International Business Machines Corporation | Resource allocation based on anticipated resource underutilization in a logically partitioned multi-processor environment |
US7870044B2 (en) | 2008-10-02 | 2011-01-11 | Verizon Patent And Licensing Inc. | Methods, systems and computer program products for a cloud computing spot market platform |
US8364997B2 (en) | 2009-12-22 | 2013-01-29 | Intel Corporation | Virtual-CPU based frequency and voltage scaling |
US8769534B2 (en) | 2010-09-23 | 2014-07-01 | Accenture Global Services Limited | Measuring CPU utilization in a cloud computing infrastructure by artificially executing a bursting application on a virtual machine |
US8631099B2 (en) * | 2011-05-27 | 2014-01-14 | Red Hat, Inc. | Systems and methods for cloud deployment engine for selective workload migration or federation based on workload conditions |
US8671407B2 (en) * | 2011-07-06 | 2014-03-11 | Microsoft Corporation | Offering network performance guarantees in multi-tenant datacenters |
US8839243B2 (en) * | 2012-04-23 | 2014-09-16 | International Business Machines Corporation | Remediating resource overload |
US8966495B2 (en) * | 2012-09-05 | 2015-02-24 | Cisco Technology, Inc. | Dynamic virtual machine consolidation |
US9323577B2 (en) * | 2012-09-20 | 2016-04-26 | Amazon Technologies, Inc. | Automated profiling of resource usage |
US9515899B2 (en) | 2012-12-19 | 2016-12-06 | Veritas Technologies Llc | Providing optimized quality of service to prioritized virtual machines and applications based on quality of shared resources |
US9762506B2 (en) * | 2013-02-06 | 2017-09-12 | Hitachi, Ltd. | Virtual guest management system and virtual guest management method |
US9454408B2 (en) * | 2013-05-16 | 2016-09-27 | International Business Machines Corporation | Managing network utility of applications on cloud data centers |
CN104424013B (zh) | 2013-08-26 | 2018-03-09 | 国际商业机器公司 | 在计算环境中部署虚拟机的方法和设备 |
GB201409056D0 (en) | 2014-05-21 | 2014-07-02 | Univ Leeds | Datacentre |
US10678578B2 (en) * | 2016-06-30 | 2020-06-09 | Microsoft Technology Licensing, Llc | Systems and methods for live migration of a virtual machine based on heat map and access pattern |
-
2016
- 2016-09-01 US US15/254,994 patent/US10678603B2/en active Active
-
2017
- 2017-08-28 EP EP17761773.5A patent/EP3507692B1/en active Active
- 2017-08-28 CN CN201780053601.0A patent/CN109643251B/zh active Active
- 2017-08-28 CN CN202310573379.4A patent/CN116560846A/zh active Pending
- 2017-08-28 WO PCT/US2017/048788 patent/WO2018044747A1/en unknown
-
2020
- 2020-05-04 US US16/866,333 patent/US11714686B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20040003077A1 (en) * | 2002-06-28 | 2004-01-01 | International Business Machines Corporation | System and method for the allocation of grid computing to network workstations |
CN104620222A (zh) * | 2012-08-23 | 2015-05-13 | 亚马逊技术有限公司 | 扩展虚拟机实例 |
US20140082614A1 (en) * | 2012-09-20 | 2014-03-20 | Matthew D. Klein | Automated profiling of resource usage |
CN104981783A (zh) * | 2013-03-07 | 2015-10-14 | 思杰系统有限公司 | 在云计算环境中的动态配置 |
US20150370301A1 (en) * | 2014-06-20 | 2015-12-24 | Lenovo Enterprise Solutions (Singapore) Pte. Ltd. | Preventing oversubscription to power resources in a computing system |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210203550A1 (en) * | 2019-12-31 | 2021-07-01 | Vmware, Inc. | Multi-site hybrid networks across cloud environments |
US11546208B2 (en) * | 2019-12-31 | 2023-01-03 | Vmware, Inc. | Multi-site hybrid networks across cloud environments |
US11743115B2 (en) | 2019-12-31 | 2023-08-29 | Vmware, Inc. | Multi-site hybrid networks across cloud environments |
TWI773196B (zh) * | 2021-03-16 | 2022-08-01 | 和碩聯合科技股份有限公司 | 分配運算資源的方法和使用所述方法的電子裝置 |
Also Published As
Publication number | Publication date |
---|---|
US10678603B2 (en) | 2020-06-09 |
EP3507692B1 (en) | 2022-01-19 |
EP3507692A1 (en) | 2019-07-10 |
US20180060134A1 (en) | 2018-03-01 |
CN109643251B (zh) | 2023-05-12 |
WO2018044747A1 (en) | 2018-03-08 |
US20200264938A1 (en) | 2020-08-20 |
US11714686B2 (en) | 2023-08-01 |
CN116560846A (zh) | 2023-08-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109643251A (zh) | 基于计算系统中的利用模式的资源过度订阅 | |
EP3475816B1 (en) | Application migration system | |
EP3475844B1 (en) | Intelligent configuration discovery techniques | |
Cheng et al. | Improving performance of heterogeneous mapreduce clusters with adaptive task tuning | |
Dashti et al. | Dynamic VMs placement for energy efficiency by PSO in cloud computing | |
US9459849B2 (en) | Adaptive cloud aware just-in-time (JIT) compilation | |
Cheng et al. | Improving mapreduce performance in heterogeneous environments with adaptive task tuning | |
CN101697141B (zh) | 网格中基于历史数据建模的作业性能预测方法 | |
US10896059B2 (en) | Dynamically allocating cache in a multi-tenant processing infrastructure | |
Rogers et al. | A generic auto-provisioning framework for cloud databases | |
Bermejo et al. | Virtualization and consolidation: a systematic review of the past 10 years of research on energy and performance | |
US11513721B2 (en) | Method and system for performance control in a cloud computing environment | |
US9184982B2 (en) | Balancing the allocation of virtual machines in cloud systems | |
US8429187B2 (en) | Method and system for dynamically tagging metrics data | |
US20120331124A1 (en) | Constraint definition for capacity mangement | |
Wang et al. | Application-aware cross-layer virtual machine resource management | |
Peng et al. | Research on cloud computing resources provisioning based on reinforcement learning | |
US11397617B2 (en) | Hardware and communication resources sharing based on user directory group priority | |
Zeng et al. | Argus: A Multi-tenancy NoSQL store with workload-aware resource reservation | |
Grozev et al. | Dynamic selection of virtual machines for application servers in cloud environments | |
Wang et al. | HyFarM: Task Orchestration on Hybrid Far Memory for High Performance Per Bit | |
Chen et al. | Outlier detection for fine-grained load balancing in database clusters | |
Tingwei et al. | Classify virtualization strategy in cloud computing | |
Elshater | Optimizing data locality in analytic workloads over distributed computing environments | |
Sangpetch | Tactic: Traffic aware cloud for tiered infrastructure consolidation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |