CN113254191A - 用于运行应用的方法、电子设备和计算机程序产品 - Google Patents

用于运行应用的方法、电子设备和计算机程序产品 Download PDF

Info

Publication number
CN113254191A
CN113254191A CN202010082378.6A CN202010082378A CN113254191A CN 113254191 A CN113254191 A CN 113254191A CN 202010082378 A CN202010082378 A CN 202010082378A CN 113254191 A CN113254191 A CN 113254191A
Authority
CN
China
Prior art keywords
application
determining
type
tolerance
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010082378.6A
Other languages
English (en)
Inventor
张宇霆
贾凯恺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
EMC Corp
Original Assignee
EMC IP Holding Co LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by EMC IP Holding Co LLC filed Critical EMC IP Holding Co LLC
Priority to CN202010082378.6A priority Critical patent/CN113254191A/zh
Priority to US16/888,827 priority patent/US11526376B2/en
Publication of CN113254191A publication Critical patent/CN113254191A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/48—Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806—Task transfer initiation or dispatching
    • G06F9/4812—Task transfer initiation or dispatching by interrupt, e.g. masked
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G06F9/5077—Logical partitioning of resources; Management or configuration of virtualized resources
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G06F9/5072—Grid computing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083—Techniques for rebalancing the load in a distributed system
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/042—Knowledge-based neural networks; Logical representations of neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G06F2009/45575—Starting, stopping, suspending or resuming virtual machine instances
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/50—Indexing scheme relating to G06F9/50
    • G06F2209/5022—Workload threshold
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Biomedical Technology (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Debugging And Monitoring (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本公开的实施例涉及用于运行应用的方法、电子设备和计算机程序产品。该方法包括基于与应用的运行相关联的历史数据，确定目标时段以及在目标时段内运行应用将要使用的计算资源，在目标时段上与计算资源有关的负载率大于阈值负载率。该方法还包括基于应用的类型，确定应用的中断容忍度，中断容忍度指示支持应用运行的中断率。该方法还包括基于目标时段的长度和中断容忍度，确定多种类型的虚拟机运行应用的成本。该方法还包括基于成本和计算资源，从多种类型中确定目标类型，以使得应用由具有目标类型的虚拟机来运行。通过该方法，可以自动从至少一个云平台中选择出最合适的虚拟机来运行应用，实现了虚拟机的自动扩展，提高了资源利用率。

Description

用于运行应用的方法、电子设备和计算机程序产品
技术领域
本公开的实施例涉及数据存储领域，并且更具体地，涉及用于运行应用的方法、电子设备和计算机程序产品。
背景技术
随着计算机技术的发展，越来越多的软件变得比较复杂。为了促进软件的运行，技术人员将这种软件实现为多个微服务。然后通过多个微服务分别处理不同的任务来实现总体的功能。例如，在数据存储领域，数据保护系统现在已经可以由多个微服务来实现。
此外，随着云技术的发展，出现了越来越多的云服务平台。由于云平台资源成本比较低，许多应用软件被部署到云平台上运行。例如，数据保护系统的微服务也可以布置在云平台上运行。然而，在云平台上运行微服务还有许多需要解决的问题。
发明内容
本公开的实施例提供一种用于运行应用的方法、设备和计算机程序产品。
根据本公开的第一方面，提供了一种用于运行应用的方法。该方法包括基于与应用的运行相关联的历史数据，确定目标时段以及在目标时段内运行应用将要使用的计算资源，在目标时段上与计算资源有关的负载率大于阈值负载率。该方法还包括基于应用的类型，确定应用的中断容忍度，中断容忍度指示支持应用运行的中断率。该方法还包括基于目标时段的长度和中断容忍度，确定多种类型的虚拟机运行应用的成本。该方法还包括基于成本和计算资源，从多种类型中确定目标类型，以使得应用由具有目标类型的虚拟机来运行。
根据本公开的第二方面，提供了一种电子设备。该电子设备包括处理器；以及存储器，存储有计算机程序指令，处理器运行存储器中的计算机程序指令控制电子设备执行动作，该动作包括：基于与应用的运行相关联的历史数据，确定目标时段以及在目标时段内运行应用将要使用的计算资源，在目标时段上与计算资源有关的负载率大于阈值负载率；基于应用的类型，确定应用的中断容忍度，中断容忍度指示支持应用运行的中断率；基于目标时段的长度和中断容忍度，确定多种类型的虚拟机运行应用的成本；以及基于成本和计算资源，从多种类型中确定目标类型，以使得应用由具有目标类型的虚拟机来运行。
根据本公开的第三方面，提供了一种计算机程序产品，该计算机程序产品被有形地存储在非易失性计算机可读介质上并且包括机器可执行指令，该机器可执行指令在被执行时使机器执行本公开的第一方面中的方法的步骤。
附图说明
通过结合附图对本公开示例性实施例进行更详细的描述，本公开的上述以及其它目的、特征和优势将变得更加明显，其中，在本公开示例性实施例中，相同的参考标号通常代表相同部件。
图1图示了根据本公开的实施例的设备和/或方法可以在其中被实施的示例环境100的示意图；
图2图示了根据本公开的实施例的用于运行应用的方法200的流程图；
图3图示了根据本公开的实施例的用于确定成本的方法300的流程图；
图4图示了根据本公开的实施例的管理设备102的示意图；
图5图示了适于用来实施本公开内容的实施例的示例设备500的示意性框图。
在各个附图中，相同或对应的标号表示相同或对应的部分。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
在本公开的实施例的描述中，术语“包括”及其类似用语应当理解为开放性包含，即“包括但不限于”。术语“基于”应当理解为“至少部分地基于”。术语“一个实施例”或“该实施例”应当理解为“至少一个实施例”。术语“第一”、“第二”等等可以指代不同的或相同的对象。下文还可能包括其他明确的和隐含的定义。
下面将参考附图中示出的若干示例实施例来描述本公开的原理。虽然附图中显示了本公开的优选实施例，但应当理解，描述这些实施例仅是为了使本领域技术人员能够更好地理解进而实现本公开，而并非以任何方式限制本公开的范围。
通常，数据保护软件的服务可以按需布置到云平台中的用于执行任务的虚拟机，例如按需实例。随着业务需求的增长，更多的备份软件需要被部署。然而，这种按需获取的虚拟机需要通过手动部署来实现，并不能被经济高效的自动扩展。
此外，按需部署的虚拟机通常用于云中的数据保护软件。然而，以这种方式使用虚拟机成本较高，这使得客户需要关注这种虚拟机的总成本的影响，例如总体拥有成本TCO。进一步地，用户可能具有来自不同的云的云资源。然而，由于不存在涉及多云的全局资源优化方案，使得用户不能最佳地利用多云中的资源。
为了解决上述问题，本公开提出了一种用于运行应用的方法。在该方法中，首先基于与应用的运行相关联的历史数据，确定目标时段以及在目标时段内运行应用将要使用的计算资源。然后基于应用的类型，确定应用的中断容忍度。利用目标时段的长度和中断容忍度，确定出多种类型的虚拟机运行应用的成本。最后基于成本和计算资源，从多种类型中确定目标类型，以使得应用由具有目标类型的虚拟机来运行。通过上述方法，可以自动从至少一个云平台中选择出最合适的虚拟机来运行应用，实现了跨多云平台的虚拟机的自动扩展，提高了资源利用率和数据处理效率。
下面图1图示了根据本公开的实施例的设备和/或方法可以在其中被实施的示例环境100的示意图。
如图1所示，示例环境100包括管理设备102。管理设备102管理应用104的运行并且为应用104，例如微服务，确定可用于运行应用104的虚拟机的类型。图1中示出的管理设备102仅是示例，而非对本公开的具体限定。在一些实施例中，管理设备102的功能可以分布在多个计算设备或云平台的多个不同的虚拟机上。
管理设备102包括但不限于个人计算机、服务器计算机、手持或膝上型设备、移动设备、诸如移动电话、个人数字助理PDA、或媒体播放器等、多处理器系统、消费电子产品、小型计算机、大型计算机、包括上述系统或设备中的任意一个的分布式计算环境等。
在管理应用104时，管理设备102根据与应用104有关的历史数据来确定运行应用104的计算资源的负载率在阈值负载率上运行的时段以及该应用104要使用的计算资源。
在一些实施例中，与应用104有关的历史数据是运行应用104的计算资源在预定历史时段内的使用数据。例如，在预定历史时段内的处理器的使用率、存储器的使用率、或使用的盘I/O的数目等。上述示例仅是用于描述本公开，而非对本公开的具体限定。本领域技术人员可以依据需要设置与应用104有关的历史数据。
通常，在云平台存在按成本运行的虚拟机，例如spot实例。该虚拟机在运行过程中存在中断，而其中断率的大小与用户出的成本有关。在应用104利用云平台上的该类型的虚拟机运行时，需要确定应用104的中断容忍度。该中断容忍度为应用104可接受的中断率，其可以保证应用104运行。其中，中断率是在预定时段内应用被中断的次数与应用被执行的次数的比值。由于不同的应用执行的任务不同，因此其会要求不同的中断容忍度。例如，执行数据备份任务的应用可能具有20％的中断容忍度；执行哈希查询的应用可能具有100％的中断容忍度。上述示例仅是用于描述本公开，而非对本公开的具体限定。本领域技术人员可以依据需要设置与应用对应的中断容忍度。
为了运行该应用104，管理设备102还需要获得应用104的类型或名称。然后管理设备102根据应用104的类型或名称来确定针对应用104的中断容忍度。
在一个实施例中，在管理设备102中存储有不同的应用类型和其对应的中断容忍度，例如存储在应用类型和中断容忍度关系表中。在一些实施例中，管理设备102可以从用户或其他设备获得各种应用与其对应的中断容忍度的对应关系。
在确定了目标时段的长度和与应用104对应的中断容忍度后，管理设备102可以利用其来确定至少一个云平台中多种虚拟机类型中每种虚拟机类型的虚拟机的成本。例如，第一云平台具有两个虚拟机类型，例如虚拟机类型1和虚拟机类型2，第二云平台具有一个虚拟机类型，例如虚拟机类型3。虚拟机类型1指示具有2个核，4G存储器的虚拟机；虚拟机类型2指示具有4个核，8G存储器的虚拟机；虚拟机类型3是指具有1个核，2G存储器的虚拟机。由于每个云平台上不同资源的成本不同，与三个虚拟机类型相对应的虚拟机在运行应用104目标时段的长度时，能够满足应用104的中断容忍度的成本是不同的。
管理设备102利用与不同虚拟机类型相对应的成本可以确定出要使用的目标类型。备选地或附加地，管理设备102在确定目标类型时还基于与应用104交互的客户端与虚拟机之间的延迟。在确定出虚拟机类型后，在确定好需要使用的虚拟机数量后，便可向确定的目标类型所在的云平台发送请求以启动用于运行应用104的虚拟机106-1、106-2、…、106-N，N为正整数。为了描述方便，统称为虚拟机106。
在一些实施例中，应用104为微服务，例如数据保护系统中的数据备份服务、哈希查询服务或垃圾收集服务等。在一些实施例中，应用104为数据保护系统。上述示例仅是用于描述本公开，而非对本公开的具体限定。本领域技术人员依据需要可以将应用104设置为任意合适的程序。
上面结合图1描述了根据本公开的实施例的设备和/或方法可以在其中被实施的环境100的示意图。下面结合图2描述根据本公开的实施例的用于运行应用的方法200，其中方法200可以在图1中的管理设备102或任何其他适当设备处执行。
在框202处，管理设备102基于与应用104的运行相关联的历史数据，确定目标时段以及在目标时段内运行应用104将要使用的计算资源，在目标时段上与计算资源有关的负载率大于阈值负载率。管理设备102首先获取该历史数据，然后通过历史数据来确定目标时段和计算资源。
在一些实施例中，该历史数据是运行应用104的计算资源在预定历史时段内的使用数据。例如，在预定历史时段内的处理器的使用率、存储器的使用率、或使用的盘I/O的数目等。
在一些实施例中，该负载率为处理器的负载率。在一些实施例中，该负载率是盘I/O的负载率。上述示例仅是用于描述本公开，而非对本公开的具体限定。本领域技术人员可以依据需要将负载率设置为任意合适的资源的负载率。
在一些实施例中，管理设备102通过将历史数据应用于资源预测模型，来确定目标时段和计算资源。在一些实施例中，资源预测模型是循环神经网络模型。备选地或附加地，该循环神经网络模型是长短期记忆网络LSTM神经网络模型。
在一些实施例中，该资源预测模型利用预定长度的时段内的历史数据预测计算资源的负载率在当前时刻之后大于阈值负载率的时段以及计算资源。备选地或附加地，预定长度的时段为滑动的时间窗口。例如，该滑动时间窗口为当前明刻的前20天，则当在下一刻进行预测时，历史数据为从下一时刻起的前20天的历史数据。资源预测模型是通过与应用104的运行有关的历史数据和预先给出的目标时段来训练得到的。
在一些实施例中，计算资源是需要新增的运行应用104的计算资源。资源预测模型可以确定出在目标时段内负载率超过阈值负载率的量。管理设备102可以确定与超过的负载率的量相对应的负载所需的计算资源。例如，管理设备102正在运行应用104，通过计算预测出当前时刻之后的时段内出现了CPU的负载率超过当前管理设备102的域值负载率的一半。例如预测出的负载率为90％，域值负载率为60％，则超出的负载率为域值负载率的一半。在现在管理设备102的处理器为8核时，则处理多余的负载至少还需要能够实现4核处理器的虚拟机。在一些实施例中，计算资源是运行应用104所需的所有资源。上述示例仅是用于描述本公开，而非对本公开的具体限定。
在框204处，管理设备102基于应用104的类型，确定应用104的中断容忍度，中断容忍度指示支持应用104运行的中断率。
在云平台中的虚拟机根据成本不同具有不同中断率，例如spot实例。由于应用的类型或执行的操作不同，每个应用类型具有不同的中断容忍度，中断容忍度是能够保证该类型的应用正常运行的最大中断率。
在一些实施例中，管理设备102获取应用类型与中断容忍度的预定对应关系，例如应用类型/名称与中断容忍度的对应表。然后，管理设备102利用该对应关系来确定与应用104的类型相对应的中断容忍度。
在框206处，管理设备102基于目标时段的长度和中断容忍度，确定多种类型的虚拟机运行应用104的成本。该多种类型的虚拟机为来自至少一个云平台的虚拟机。为了确定哪个类型的虚拟机可用于运行应用104，需要确定出每种类型的虚拟机的使用成本。确定成本的过程将在下面结合图3进行详细描述。
在框208处，管理设备102基于成本和计算资源，从多种类型中确定目标类型，以使得应用104由具有目标类型的虚拟机来运行。管理设备102在确定出目标类型后，向该目标类型所在的云平台发送请求来生成与该目标类型对应的虚拟机。
在一些实施例中，管理设备102基于确定的成本和计算资源来确定目标类型。每种类型具有与该类型相对应的资源信息，例如一个虚拟机类型指示具有2个核的虚拟机。管理设备102基于计算资源可以确定出需要的每种类型的虚拟机的数量。例如，所需的计算资源为4个核，因此需要该类型的虚拟机的数量为2。因此，基于针对每种类型所需的虚拟机的数量和针对每个类型的成本来确定与该类型相关的总成本。然后基于每种类型的总成本来选择出总成本最小的类型作为目标类型。
在一些实施例中，管理设备102还需要确定出与应用104交互的客户端的位置。然后，管理设备102利用该位置，确定出客户端与多种类型的虚拟机之间的一组延迟。在该过程中，管理设备102会确定客户端与每种类型的虚拟机之间的延迟。管理设备102基于成本、计算资源和一组延迟，从多种类型中确定出目标类型。
在利用成本、计算资源和一组延迟确定目标类型的过程中，管理设备102基于计算资源可以确定出需要的每种类型的虚拟机的数量。管理设备102基于针对每种类型所需的虚拟机的数量和针对每个类型的成本来确定与该类型相关的总成本。管理设备102然后将总成本与对应的延迟取平均值，然后依据该平均值来选取目标类型。在一些实施例中，该平均值为总成本和延迟的调谐平值。备选地或附加地，可以为总成本和延迟设置不同的权重。上述示例仅是用于描述本公开，而非对本公开的具体限定。
通过上述方法，可以自动从至少一个云平台中选择出最合适的虚拟机来运行应用，实现了虚拟机的自动扩展，提高了资源利用率和数据处理效率。
上面图2图示了根据本公开的实施例的用于运行应用的方法200的示意图。下面将结合图3来描述图2中的框206处的用于确定成本的操作。图3图示了根据本公开的实施例的用于确定成本的方法300的流程图。图3中的方法300可由图1中的管理设备102或任何其他适当设备执行。
在框302处，管理设备102确定第一类型的虚拟机运行应用104的成本的参考值，第一类型是多个类型之一。该多个类型是与管理设备102其相连接的至少一个云平台上的虚拟机的类型。在一些实施例中，云平台可以向管理设备102提供位于其上的虚拟机的类型的信息。在一些实施例中，管理设备102可以向云平台请求云平台上的虚拟机的类型。
在框304处，管理设备102基于目标时段的长度和参考值，确定第一类型的虚拟机的中断率。在一些实施例中，管理设备102通过神经网络模型来预测第一类型的虚拟机的中断率。备选地或附加地，该神经网络模型是循环神经网络模型。例如LSTM神经网络。在将与第一类型的虚拟机相对应的历史成本信息以及目标时段的长度和参考值输入神经网络模型后，会获得对应的中断率。
在框306处，管理设备102确定中断率是否小于中断容忍度。在确定出中断率小于中断容忍度时，在框308处，管理设备102将参考值确定为成本的实际值。此时，该实际值为通过第一类型的一个虚拟机运行该程序所需的成本。
响应于中断率大于或等于中断容忍度，在框310处，管理设备102通过使参考值增加预定值来更新参考值。由于中断率较大，表明与现在的参考值相对应的该类型的虚拟机的中断率不满足要求。因此，增加所述参考值。在一些实施例中，该参考值递增预定值。在一些实施例中，参考值增加用户指定的量。上述示例仅是用地描述本公开，而非对本公开的具体限定。本领域技术人员可以依据需要将参考值增加任意合适的量。
在框312处，管理设备102基于长度和经更新的参考值，利用神经网络模重新确定第一类型的虚拟机的中断率。然后返回到框306以继续确定中断率是否小于中断容忍度。
通过上述方法，可以基于目标时段的长度和参考值，快速的确定出与第一类型的虚拟机相对应的成本的实际值。因此，提高了确定成本的实际值的速度和数据处理效率。
上面结合3描述了用于确定成本的过程，下面结合图4描述图1中的管理设备102。图4图示了图1中的管理设备102的示意图。
在图4的实施例中，管理设备102包括应用104。应用104内具有与其对应的资源预测模块404。该资源预测模块404用于预测从当前时刻起计算资源的负载率超过域值负载率的目标时段以及在目标时段内运行应用104将要使用的计算资源。资源预测模块404包括神经网络模型，该神经网络模型为循环神经网络模型，例如LSTM神经网络。资源预测模块404通过该神经网络模型来实现目标时段和计算资源的预测。
管理设备102还包括虚拟机预测模块406。该虚拟机预测模块406从应用402接收应用104的类型和目标时段。根据应用104的类型可以确定出应用104的可接受中断容忍度。然后虚拟机预测模块406根据应用104的中断容忍度和目标时段的长度来确定出与多个不同的虚拟机类型408-1、408-2、…、408-M相对应的成本，其中M为正整数。虚拟机预测模块406通过神经网络模型来为不同的虚拟机类型确定成本。例如，对于虚拟机类型408-1，利用目标时段的时长、预先给定的成本的参考值、以及与该虚拟机类型408-1有关的历史成本数据来预测与虚拟机类型408-1相对应的中断率。如果预测出的中断率不满足中断容忍度，则增加该参考值。然后利用增加的参考值采用该神经网络模型来重新计算中断率，直到找到满足中断容忍度的成本的参考值。然后将此时的参考值用作成本的实际值。因此，针对多个虚拟机模型可以确定出多个成本的实际值。
在一些实施例中，虚拟机类型确定模块410根据从虚拟机预测模块406获取的成本来从多个虚拟机类型408中确定出目标虚拟机类型。在一些实施例中，虚拟机类型确定模块410还从应用104获取与应用104交互的客户端的位置。然后虚拟机类型确定模块410确定出客户端与每个虚拟机类型中的虚拟机之间的一组延迟。然后虚拟机类型确定模块410基于一组延迟和成本来确定最合适的虚拟机类型。备选地或附加地，虚拟机类型确定模块410可以利用计算资源和虚拟机类型确定出所需的虚拟机数量。然后，确定出针对该类型的虚拟机的总成本。最后利于每个延迟及与其对应总成本的调和平均来确定针对每个类型的一个平均值。然后从与多个平均值来选出平均值最小的虚拟机类型作为目标类型412。
在确定出目标类型412后，将目标类型412和与目标类型412相对应的成本416以及需要虚拟机数量414发送到云平台以用于在云平台上运行确定的虚拟机。
在一些实施例中，虚拟机类型确定模块410进一步可以根据资源预测模块404预测的计算资源以及目标类型412确定出需要的虚拟机数量414。
图5示出了可以用来实施本公开内容的实施例的示例设备500的示意性框图。例如，如图1所示的管理设备102可以由设备500来实施。如图所示，设备500包括中央处理单元CPU 501，其可以根据存储在只读存储器ROM 502中的计算机程序指令或者从存储单元508加载到随机访问存储器RAM 503中的计算机程序指令，来执行各种适当的动作和处理。在RAM 503中，还可存储设备500操作所需的各种程序和数据。CPU 501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出I/O接口505也连接至总线504。
设备500中的多个部件连接至I/O接口505，包括：输入单元506，例如键盘、鼠标等；输出单元507，例如各种类型的显示器、扬声器等；存储单元508，例如磁盘、光盘等；以及通信单元509，例如网卡、调制解调器、无线通信收发机等。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
上文所描述的各个过程和处理，例如方法200和300可由处理单元501执行。例如，在一些实施例中，方法200和300可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元508。在一些实施例中，计算机程序的部分或者全部可以经由ROM 502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序被加载到RAM 503并由CPU 501执行时，可以执行上文描述的方法200和300的一个或多个动作。
本公开可以是方法、装置、系统和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于执行本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子，非穷举的列表，包括：便携式计算机盘、硬盘、随机存取存储器RAM、只读存储器ROM、可擦式可编程只读存储器EPROM或闪存、静态随机存取存储器SRAM、便携式压缩盘只读存储器CD-ROM、数字多功能盘DVD、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身，诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波，例如，通过光纤电缆的光脉冲、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备，或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令，并转发该计算机可读程序指令，以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构ISA指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码，所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等，以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机，例如利用因特网服务提供商来通过因特网连接。在一些实施例中，通过利用计算机可读程序指令的状态信息来个性化定制电子电路，例如可编程逻辑电路、现场可编程门阵列FPGA或可编程逻辑阵列PLA，该电子电路可以执行计算机可读程序指令，从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置/系统和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理单元，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理单元执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作，从而，存储有指令的计算机可读介质则包括一个制造品，其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上，使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分，所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本公开的各实施例，上述说明是示例性的，并非穷尽性的，并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择，旨在最好地解释各实施例的原理、实际应用或对市场中的技术的技术改进，或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。

Claims (17)

1.一种用于运行应用的方法，所述方法包括：
基于与应用的运行相关联的历史数据，确定目标时段以及在所述目标时段内运行所述应用将要使用的计算资源，在所述目标时段上与所述计算资源有关的负载率大于阈值负载率；
基于所述应用的类型，确定所述应用的中断容忍度，所述中断容忍度指示支持所述应用运行的中断率；
基于所述目标时段的长度和所述中断容忍度，确定多种类型的虚拟机运行所述应用的成本；以及
基于所述成本和所述计算资源，从所述多种类型中确定目标类型，以使得所述应用由具有所述目标类型的虚拟机来运行。
2.根据权利要求1所述的方法，其中确定所述目标时段和所述计算资源包括：
通过将所述历史数据应用于资源预测模型，来确定所述目标时段和所述计算资源。
3.根据权利要求2所述的方法，其中所述资源预测模型是循环神经网络模型。
4.根据权利要求1所述的方法，其中确定所述中断容忍度包括：
获取应用类型与中断容忍度的预定对应关系；以及
基于所述对应关系，确定与所述应用的类型相对应的所述中断容忍度。
5.根据权利要求1所述的方法，其中确定所述成本包括：
确定第一类型的虚拟机运行所述应用的成本的参考值，所述第一类型是所述多个类型之一；
基于所述目标时段的长度和所述参考值，确定所述第一类型的虚拟机的中断率；以及
响应于所述中断率小于所述中断容忍度，将所述参考值确定为所述成本的实际值。
6.根据权利要求5所述的方法，还包括：
响应于所述中断率大于或等于所述中断容忍度，迭代地如下执行：
通过使所述参考值增加预定值来更新所述参考值；以及
基于所述长度和经更新的所述参考值，确定所述第一类型的虚拟机的中断率。
7.根据权利要求1所述的方法，其中确定所述目标类型包括：
确定与所述应用交互的客户端的位置；
基于所述位置，确定所述客户端与所述多种类型的虚拟机之间的一组延迟；以及
基于所述成本、所述计算资源和所述一组延迟，从所述多种类型中确定出所述目标类型。
8.根据权利要求7所述的方法，还包括：
基于所述计算资源，确定与所述目标类型相对应的、用于运行所述应用的虚拟机的数量。
9.一种电子设备，所述电子设备包括：
处理器；以及
存储器，存储有计算机程序指令，处理器运行存储器中的所述计算机程序指令控制所述电子设备执行动作，所述动作包括：
基于与应用的运行相关联的历史数据，确定目标时段以及在所述目标时段内运行所述应用将要使用的计算资源，在所述目标时段上与所述计算资源有关的负载率大于阈值负载率；
基于所述应用的类型，确定所述应用的中断容忍度，所述中断容忍度指示支持所述应用运行的中断率；
基于所述目标时段的长度和所述中断容忍度，确定多种类型的虚拟机运行所述应用的成本；以及
基于所述成本和所述计算资源，从所述多种类型中确定目标类型，以使得所述应用由具有所述目标类型的虚拟机来运行。
10.根据权利要求9所述的电子设备，其中确定所述目标时段和所述计算资源包括：
通过将所述历史数据应用于资源预测模型，来确定所述目标时段和所述计算资源。
11.根据权利要求10所述的电子设备，其中所述资源预测模型是循环神经网络模型。
12.根据权利要求9所述的电子设备，其中确定所述中断容忍度包括：
获取应用类型与中断容忍度的预定对应关系；以及
基于所述对应关系，确定与所述应用的类型相对应的所述中断容忍度。
13.根据权利要求9所述的电子设备，其中确定所述成本包括：
确定第一类型的虚拟机运行所述应用的成本的参考值，所述第一类型是所述多个类型之一；
基于所述目标时段的长度和所述参考值，确定所述第一类型的虚拟机的中断率；以及
响应于所述中断率小于所述中断容忍度，将所述参考值确定为所述成本的实际值。
14.根据权利要求13所述的电子设备，所述动作还包括：
响应于所述中断率大于或等于所述中断容忍度，迭代地如下执行：
通过使所述参考值增加预定值来更新所述参考值；以及
基于所述长度和经更新的所述参考值，确定所述第一类型的虚拟机的中断率。
15.根据权利要求9所述的电子设备，其中确定所述目标类型包括：
确定与所述应用交互的客户端的位置；
基于所述位置，确定所述客户端与所述多种类型的虚拟机之间的一组延迟；以及
基于所述成本、所述计算资源和所述一组延迟，从所述多种类型中确定出所述目标类型。
16.根据权利要求15所述的电子设备，所述动作还包括：
基于所述计算资源，确定与所述目标类型相对应的、用于运行所述应用的虚拟机的数量。
17.一种计算机程序产品，所述计算机程序产品被有形地存储在非易失性计算机可读介质上并且包括机器可执行指令，所述机器可执行指令在被执行时使机器执行根据权利要求1至8中任一项所述的方法的步骤。
CN202010082378.6A 2020-02-07 2020-02-07 用于运行应用的方法、电子设备和计算机程序产品 Pending CN113254191A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202010082378.6A CN113254191A (zh) 2020-02-07 2020-02-07 用于运行应用的方法、电子设备和计算机程序产品
US16/888,827 US11526376B2 (en) 2020-02-07 2020-05-31 Method, electronic device and computer program product for running application

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010082378.6A CN113254191A (zh) 2020-02-07 2020-02-07 用于运行应用的方法、电子设备和计算机程序产品

Publications (1)

Publication Number Publication Date
CN113254191A true CN113254191A (zh) 2021-08-13

Family

ID=77177527

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010082378.6A Pending CN113254191A (zh) 2020-02-07 2020-02-07 用于运行应用的方法、电子设备和计算机程序产品

Country Status (2)

Country Link
US (1) US11526376B2 (zh)
CN (1) CN113254191A (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220100763A1 (en) * 2020-09-30 2022-03-31 Microsoft Technology Licensing, Llc Optimizing job runtimes via prediction-based token allocation
US20230076488A1 (en) * 2021-09-03 2023-03-09 Microsoft Technology Licensing, Llc Machine-learning-based replenishment of interruptible workloads in cloud environment

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104113585A (zh) * 2013-04-19 2014-10-22 国际商业机器公司 用于产生指示负载平衡状态的硬件级中断的方法和设备
US20140337832A1 (en) * 2013-05-08 2014-11-13 Amazon Technologies, Inc. User-Influenced Placement of Virtual Machine Instances
CN105612528A (zh) * 2013-09-17 2016-05-25 微软技术许可有限责任公司 虚拟机的虚拟安全模式
US20180349379A1 (en) * 2017-05-31 2018-12-06 International Business Machines Corporation Limiting interruptions and adjusting interruption sound levels
US20190370132A1 (en) * 2018-05-31 2019-12-05 International Business Machines Corporation Disaster recovery and replication in disaggregated datacenters

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10713072B1 (en) * 2016-06-27 2020-07-14 Amazon Technologies, Inc. Computing resource provisioning
US11210133B1 (en) * 2017-06-12 2021-12-28 Pure Storage, Inc. Workload mobility between disparate execution environments
US10579494B2 (en) * 2018-01-05 2020-03-03 Nec Corporation Methods and systems for machine-learning-based resource prediction for resource allocation and anomaly detection

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104113585A (zh) * 2013-04-19 2014-10-22 国际商业机器公司 用于产生指示负载平衡状态的硬件级中断的方法和设备
US20140337832A1 (en) * 2013-05-08 2014-11-13 Amazon Technologies, Inc. User-Influenced Placement of Virtual Machine Instances
CN105612528A (zh) * 2013-09-17 2016-05-25 微软技术许可有限责任公司 虚拟机的虚拟安全模式
US20180349379A1 (en) * 2017-05-31 2018-12-06 International Business Machines Corporation Limiting interruptions and adjusting interruption sound levels
US20190370132A1 (en) * 2018-05-31 2019-12-05 International Business Machines Corporation Disaster recovery and replication in disaggregated datacenters

Also Published As

Publication number Publication date
US20210247998A1 (en) 2021-08-12
US11526376B2 (en) 2022-12-13

Similar Documents

Publication Publication Date Title
US11706712B2 (en) Elastic resource control in a container orchestration environment
US10880228B2 (en) Proactive channel agent
CN108089921B (zh) 用于云端大数据运算架构的服务器及其运算资源最佳化方法
CN112165691B (zh) 内容分发网络调度方法、装置、服务器和介质
US10705873B2 (en) Predictive virtual server scheduling and optimization of dynamic consumable resources to achieve priority-based workload performance objectives
US20110313902A1 (en) Budget Management in a Compute Cloud
US10817427B2 (en) Headless resilient backup and restore software ecosystem and with a first backup server and a second backup server in a plurality of backup servers, with the first backup server selecting a the second backup server to start a job where selection is based on historical client latency, scheduled backup server workload, and whether metadata is cached in any of the plurality of backup servers
US10671303B2 (en) Controlling a storage system
CN111866085A (zh) 基于区块链的数据存储方法、系统和装置
US9372725B2 (en) Dynamically adjusting wait periods according to system performance
US20190334993A1 (en) Minimizing data loss in a computer storage environment with non-guaranteed continuous network connectivity
CN112000457A (zh) 管理处理系统中的任务的方法、设备和计算机程序产品
US11281510B2 (en) Intelligent scaling in microservice-based distributed systems
CN111988355A (zh) 限流方法、装置、服务器及服务器集群
WO2023016309A1 (en) Distributed machine learning in edge computing
CN113254191A (zh) 用于运行应用的方法、电子设备和计算机程序产品
US20200042420A1 (en) Batch application performance prediction
US11429436B2 (en) Method, device and computer program product for determining execution progress of task
Fan et al. Knative autoscaler optimize based on double exponential smoothing
US20220043732A1 (en) Method, device, and program product for managing computing resource in storage system
US10042787B2 (en) Controlling data transfer for data processing
US11061653B2 (en) Dynamic compiling for conditional statements during execution
US11922226B2 (en) Adaptive control of deadline-constrained workload migrations
WO2023185675A1 (en) Proactive auto-scaling
US10599563B2 (en) Coordinating heap contraction of multiple runtimes in the cloud environment

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination