CN114764353B - 用于信息处置系统(ihs)全系统优化的ml到ml的编排系统和方法 - Google Patents

用于信息处置系统(ihs)全系统优化的ml到ml的编排系统和方法 Download PDF

Info

Publication number
CN114764353B
CN114764353B CN202210003372.4A CN202210003372A CN114764353B CN 114764353 B CN114764353 B CN 114764353B CN 202210003372 A CN202210003372 A CN 202210003372A CN 114764353 B CN114764353 B CN 114764353B
Authority
CN
China
Prior art keywords
ihs
resource
orchestration
resources
service
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210003372.4A
Other languages
English (en)
Other versions
CN114764353A (zh
Inventor
F·科斯罗普尔
M·A·马科
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dell Products LP
Original Assignee
Dell Products LP
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dell Products LP filed Critical Dell Products LP
Publication of CN114764353A publication Critical patent/CN114764353A/zh
Application granted granted Critical
Publication of CN114764353B publication Critical patent/CN114764353B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061Partitioning or combining of resources
    • G06F9/5072Grid computing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/445Program loading or initiating
    • G06F9/44505Configuring for program initiating, e.g. using registry, configuration files
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5011Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • G06N20/20Ensemble learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00Computing arrangements based on specific mathematical models
    • G06N7/01Probabilistic graphical models, e.g. probabilistic networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Computer Hardware Design (AREA)
  • Stored Programmes (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

描述了用于管理由信息处置系统(IHS)执行的应用程序的性能优化的系统和方法的实施方案。在说明性的非限制性实施方案中,一种IHS可包括用于进行以下操作的计算机可执行指令:针对用于执行目标应用程序的多个资源中的每一者,接收与每个资源相关联的已经由基于ML的优化服务生成的一个或多个基于机器学习(ML)的提示,并且使用ML到ML的编排服务为所述资源中的至少一者生成一个或多个加强的提示。所述ML到ML的编排服务之后将所述加强的提示传输到所述基于ML的优化服务,所述基于ML的优化服务将所述加强的基于ML的提示与所述一个或多个内部生成的提示进行组合以生成加强的配置文件建议,所述加强的配置文件建议进而被用来调整所述资源的一个或多个设定以优化由所述资源执行的所述目标应用程序的性能。

Description

用于信息处置系统(IHS)全系统优化的ML到ML的编排系统和 方法
技术领域
本公开总体涉及信息处置系统(IHS),并且更特别地涉及一种用于信息处置系统(IHS)全系统优化的ML到ML的编排系统和方法。
背景技术
随着信息价值和使用的不断增加,个体和企业一直在寻求处理和存储信息的其他方式。对用户可行的一个选项是信息处置系统(IHS)。IHS通常处理、编译、存储和/或传达用于商业、个人或其他目的的信息或数据,从而允许用户利用这些信息的价值。由于技术以及信息处置需求和要求在不同用户或应用之间有所变化,因此IHS关于以下方面也可能会有变化:处置什么信息,如何处置信息,处理、存储或传达多少信息,以及可多快速且多高效地处理、存储或传达信息。IHS的变化允许IHS是通用的,或者针对特定用户或特定用途(诸如财务交易处理、航班订票、企业数据存储或全球通信)进行配置。此外,IHS可包括可被配置为处理、存储和传达信息的各种硬件和软件部件,并且可包括一个或多个计算机系统、数据存储系统以及联网系统。
IHS可执行许多不同类型的应用程序。在一些IHS中,机器学习(ML)引擎(例如,优化引擎)可用于通过动态地调整IHS设定来提高应用程序性能。特别地,ML引擎可应用配置文件来调整IHS的某些资源,诸如操作系统(OS)、硬件资源(例如,中央处理单元(CPU)、图形处理单元(GPU)、存储体等)、或用于与这些硬件资源对接的驱动器、或可由IHS执行的其他应用程序的操作。
目前,许多IHS设计利用大量资源来实现,所述资源各自设有基于ML的优化服务以增强其性能。然而,由于这些基于ML的优化服务单独地发挥作用,而无法考虑到彼此的操作,因此IHS的整体优化往往受到限制,这在很大程度上归因于这些基于ML的优化服务无法相互协调它们的操作。考虑到这些问题以及其他问题,提出了本公开的实施方案。
发明内容
本文描述了用于管理由信息处置系统(IHS)执行的应用程序的性能优化的系统和方法的实施方案。在说明性的非限制性实施方案中,一种IHS可包括用于进行以下操作的计算机可执行指令:针对用于执行目标应用程序的多个资源中的每一者,接收与每个资源相关联的已经由基于ML的优化服务生成的一个或多个基于机器学习(ML)的提示,并且使用ML到ML的编排服务为所述资源中的至少一者生成一个或多个加强的提示。所述ML到ML的编排服务之后将所述加强的提示传输到所述基于ML的优化服务,所述基于ML的优化服务将所述加强的基于ML的提示与所述一个或多个内部生成的提示进行组合以生成加强的配置文件建议,所述加强的配置文件建议进而被用来调整所述资源的一个或多个设定以优化由所述资源执行的所述目标应用程序的性能。
根据另一个实施方案,一种IHS编排方法包括以下步骤:针对用于执行目标应用程序的多个资源中的每一者,接收与每个资源相关联的一个或多个基于机器学习(ML)的提示,并且根据与所述资源中的每一者相关联的所述接收的基于ML的提示而为所述资源中的至少一者生成一个或多个加强的基于ML的提示。所述步骤还包括以下步骤:将所述加强的基于ML的提示与所述一个或多个内部生成的提示进行组合以生成加强的配置文件建议,所述加强的配置文件建议进而被用来调整所述资源的一个或多个设定以优化由所述资源执行的所述目标应用程序的性能。
根据又一个实施方案,一种存储器存储装置具有在上面存储的程序指令,所述程序指令在由信息处置系统(IHS)的一个或多个处理器执行时致使所述IHS进行以下操作:针对用于执行目标应用程序的多个资源中的每一者,接收与每个资源相关联的已经由基于ML的优化服务生成的一个或多个基于机器学习(ML)的提示,并且使用ML到ML的编排服务为所述资源中的至少一者生成一个或多个加强的提示。所述ML到ML的编排服务之后将所述加强的提示传输到所述基于ML的优化服务,所述基于ML的优化服务将所述加强的基于ML的提示与所述一个或多个内部生成的提示进行组合以生成加强的配置文件建议,所述加强的配置文件建议进而被用来调整所述资源的一个或多个设定以优化由所述资源执行的所述目标应用程序的性能。
附图说明
本发明通过举例来说明并且不限于附图,在附图中,相似的附图标记指示相似的元件。附图中的元件是为了简单清楚起见而示出,并且不一定按比例绘制。
图1示出了根据本公开的一个实施方案的可用ML到ML的编排服务实现的示例信息处置系统(IHS)。
图2是示出IHS的被配置为管理应用程序的性能优化的部件的框图。
图3是示出根据本公开的一个实施方案的由IHS产生来用于管理目标应用程序的性能优化的软件系统的实例的框图。
图4是示出根据本公开的一个实施方案的可由系统的各种元件执行来注册ML到ML的编排服务以与IHS一起使用的示例注册方法的工作流程图。
图5是示出根据本公开的一个实施方案的可由IHS的各种元件执行来执行基于ML的学习程序的示例应用程序优化方法的工作流程图。
具体实施方式
本公开的实施方案提供了一种用于信息处置系统(IHS)全系统优化的机器学习到机器学习(ML到ML)的编排系统和方法,所述编排系统和方法协调IHS中的多个基于ML的优化引擎的操作。鉴于常规的IHS实现方式通常采用对多个基于ML的优化服务的使用,这些基于ML的优化服务彼此独立地操作,使得IHS的整体优化往往受到限制,这在很大程度上归因于经常发生的相冲突的资源调整。本公开的实施方案通过提供ML到ML的编排系统提供了对这个问题以及其他问题的解决方案,所述ML到ML的编排系统协调IHS的一些、大部分或所有基于ML的优化系统的操作,使得能够达成全系统优化。
图1示出了根据本公开的一个实施方案的可用ML到ML的编排服务102实现的示例信息处置系统(IHS)100。如所示,IHS 100包括可用于在IHS 100上执行目标应用程序108的硬件资源104a(例如,CPU、GPU、存储体等)、软件资源104b(例如,操作系统(OS)、在IHS上执行的其他应用程序、驱动器等)、以及各种平台资源104c(例如,通信系统、外围装置、功率/热控制系统等)。这些硬件资源104a、软件资源104b和平台资源104c中的每一者可至少部分地分别由基于ML的优化服务106a、106b和106c控制。如本文以下将详细地描述的,ML到ML的编排服务102与一些、大部分或所有基于ML的优化服务106通信,以通过协调每个基于ML的优化服务106的操作而为IHS 100提供全系统优化。
在本公开内,术语资源可统一用于描述IHS 100的硬件资源104a、软件资源104b以及平台资源104c。尽管基于ML的优化服务106被示出为用于每个硬件资源104a、软件资源104b以及平台资源104c,但是应理解,在IHS 100上可实现被配置为优化IHS 100中实现的一组资源104或所述资源的子集的其他基于ML的优化引擎。还应理解,基于ML的优化服务可能不会以任何显著的方式控制一些资源104。在此类情况下,ML到ML的编排服务102可被配置为直接从这些资源接收遥测数据(例如,生产者遥测数据),并且生成可用于控制或调整这些资源的配置文件建议。
每个资源104可生成可由其对应的基于ML的优化服务106使用来优化其操作的生产者遥测数据112。每个资源104的基于ML的优化服务106可使用某些消费者遥测数据110来优化其相关联的资源104。生产者遥测数据112通常指代由资源产生并可获得来供IHS 100中的其他基于ML的优化服务106使用的遥测数据。另一方面,消费者遥测数据110指代可由基于ML的优化服务106使用来优化其相关联的资源104,而又可由IHS 100中的任何资源104生成的遥测数据。例如,CPU硬件资源104a可生成生产者遥测数据112,诸如性能水平设定、电力使用设定、系统引导设定、媒体设定以及显示设定,而其对应的基于ML的优化服务106可使用从系统BIOS获得的功率电平设定(PLX)和/或机器学习动态热功率(MLDTP)。作为另一个实例,存储硬件资源104a可生成生产者遥测数据112,诸如性能水平设定、或某些INTEL的快速存储技术(RST)设定,而其对应的基于ML的优化服务106可使用来自操作系统的窗口类库(WL)设定、或从IHS 100中的其他资源获得的其他RST设定。
虽然每个资源104在一些情况下可显露出某些生产者遥测数据以供其他资源的基于ML的优化服务106使用,但是在其他情况下,生产者遥测数据的由某一资源生成的某些部分不一定可用于IHS 100中的其他资源104。基于ML的提示通常指代基于ML的优化服务的输出参数,诸如配置文件建议、资源性能特征、分类信息、原始遥测数据等等。另外,每个基于ML的优化服务106可生成可用于优化其相关联的资源的性能水平的基于ML的提示,但是这些基于ML的提示迄今为止尚且无法用于其他基于ML的优化服务106。因此,由一个基于ML的优化服务106采取的某些优化动作可能会经历与试图以不同的方式优化其资源104的另一个基于ML的优化服务106的竞争。
本公开的实施方案使用ML到ML的编排服务102提供了对这个问题以及其他问题的解决方案,所述ML到ML的编排服务与IHS 100中配置的基于ML的优化服务106通信,以协调所述基于ML的优化服务的操作来优化在IHS 100上执行的目标应用程序108的性能。协调通过ML到ML的提示技术来提供,由此ML到ML的编排服务102从各个基于ML的优化服务106接收基于ML的提示,诸如配置文件建议、资源性能特征、分类信息、原始遥测数据等等,使用所接收的基于ML的提示来执行ML过程以生成一个或多个加强的基于ML的提示,所述加强的基于ML的提示被传输回到IHS 100中的某些基于ML的优化服务106。使用这些加强的基于ML的提示,这些基于ML的优化服务106可进一步加强其配置文件建议,所述配置文件建议被用来调整所述基于ML的优化服务被配置来进行管理的其相应的资源104。
在一个实施方案中,ML到ML的编排服务102可通过与每个资源104相关联的装置管理层116而与某些资源104通信。例如,每个装置管理层116可显露出接口,诸如应用程序接口(API),以传输与所述装置管理层的服务104的操作相关联的遥测数据,并且从其相应的基于ML的优化服务106和/或ML到ML的编排服务102接收指令以调整所述装置管理层的资源104的某些设定。提供这种接口方案允许每个服务的某些操作参数以受控的方式显露出来,以优化所述服务的相应的资源的操作,同时限制对其他参数的访问,所述访问否则可能会对资源104造成损害或不必要地阻碍其操作。
如所示,ML到ML的编排服务102可单独从参与的基于ML的编排服务106接收呈配置文件建议、资源性能特征、分类信息的形式的基于ML的提示,直接从资源104接收呈遥测数据的形式的基于ML的提示,和/或从服务106以及其资源104两者接收基于ML的提示。直接从资源104接收基于ML的提示的某些实施方案的有利之处可在于:这可提供具有相对较高水平的可靠性的基于ML的提示,因为所述编排服务直接从所述编排服务被配置来进行管理的资源104接收输入。另一方面,ML到ML的编排服务102从基于ML的优化服务106接收基于ML的提示的某些实施方案的有利之处可在于:这可提供增强的性能优化,因为所述编排服务接收呈基于ML的提示的形式的输入,所述输入可被迭代地增强来进一步优化IHS 100中的资源104的性能。在一个实施方案中,ML到ML的编排服务102如何从服务106和资源104中的一者或两者接收基于ML的提示的配置可为可配置参数,所述可配置参数可归功于用户输入而手动地设定,或者通过IHS 100上运行的进程,诸如通过ML到ML的编排服务102本身而自动地设定。
图2是示出根据本公开的一个实施方案的可被配置为管理应用程序的性能优化的示例IHS 200的部件的框图。IHS 200可完全或部分地并入作为图1的IHS 200。如所示,IHS200包括执行从系统存储器205检索的代码的一个或多个处理器201,诸如中央处理单元(CPU)。尽管IHS 200被示出为具有单个处理器201,但是其他实施方案可包括两个或更多个处理器,所述处理器各自可相同地配置,或提供专门的处理操作。处理器201可包括能够执行程序指令的任何处理器,诸如Intel PentiumTM系列处理器,或者实现各种指令集架构(ISA)(诸如x86、或/>ISA、或任何其他合适的ISA)中的任一者的任何通用或嵌入式处理器。
在图2的实施方案中,处理器201包括可直接在处理器201的电路内实现的集成存储器控制器218,或者存储器控制器218可为位于与处理器201相同的管芯上的单独的集成电路。存储器控制器218可被配置为管理经由高速存储器接口204往返于IHS 200的系统存储器205的数据传送。联接到处理器201的系统存储器205为处理器201提供了在处理器201执行计算机程序指令时可使用的高速存储器。
因此,系统存储器205可包括适合于支持处理器201进行高速存储器操作的存储器部件,诸如静态RAM(SRAM)、动态RAM(DRAM)、NAND闪存存储器。在某些实施方案中,系统存储器205可将永久性、非易失性存储器与易失性存储器进行组合。在某些实施方案中,系统存储器205可包括多个可移除存储器模块。
IHS 200利用芯片组203,所述芯片组可包括连接到处理器201的一个或多个集成电路。在图2的实施方案中,处理器201被示出为芯片组203的部件。在其他实施方案中,所有芯片组203、或芯片组203的多个部分可直接在处理器201的集成电路内实现。芯片组203为一个或多个处理器201提供了对可经由总线202访问的各种资源的访问。在IHS 200中,总线202被示出为单个元件。各种实施方案可利用任何数量的单独的总线来提供由总线202提供的所示的路径。
在各种实施方案中,IHS 200可包括一个或多个I/O端口216,所述I/O端口可支持与各种类型的外部装置和系统的可移除的联接,包括与可被配置成供IHS 200的特定用户操作的外围装置的可移除的联接。例如,I/O端口216可包括USB(通用串行总线)端口,通过所述USB端口,各种外部装置可联接到IHS 200。作为对USB端口的补充或替代,I/O端口216可包括用户经由IHS 200的外壳可触及的各种类型的物理I/O端口。
在某些实施方案中,芯片组203可另外地利用一个或多个I/O控制器210,所述I/O控制器各自可支持诸如用户I/O装置211的硬件部件的操作,所述硬件部件可包括物理地联接到I/O端口216的外围部件和/或经由网络接口209无线地联接到IHS 200的外围部件。在各种实现方式中,I/O控制器210可支持一个或多个用户I/O装置211的操作,诸如键盘、鼠标、触控板、触摸屏、传声器、扬声器、相机以及可联接到IHS 200的其他输入和输出装置。用户I/O装置211可通过由IHS 200支持的有线或无线联接而与I/O控制器210对接。在一些情况下,I/O控制器210可支持诸如用户I/O装置211的受支持的外围装置的可配置的操作。
如所示,各种额外的资源可通过芯片组203联接到IHS 200的一个或多个处理器201。例如,芯片组203可联接到可支持不同类型的网络连接的网络接口209。IHS 200还可包括一个或多个网络接口控制器(NIC)222和223,其中每一者可实现经由特定联网技术(诸如Wi-Fi、蓝牙、以太网以及移动蜂窝网络(例如,CDMA、TDMA、LTE))通信所需的硬件。网络接口209可支持有线网络控制器222和无线网络控制器223的网络连接。每个网络控制器222和223可经由各种总线联接到芯片组203以支持不同类型的网络连接,诸如由IHS 200利用的网络连接。
芯片组203还可经由图形处理器207提供对一个或多个显示装置208和213的接入。图形处理器207可被包括在视频卡、图形卡内,或者安装在IHS 200内的嵌入式控制器内。另外地或可选地,图形处理器207可被集成在处理器201内,诸如片上系统(SoC)的部件。图形处理器207可生成显示信息,并且向联接到IHS 200的一个或多个显示装置208和213提供所生成的信息。
联接到IHS 200的一个或多个显示装置208和213可利用LCD、LED、OLED或其他显示技术。每个显示装置208和213可能能够诸如经由触摸控制器接收触摸输入,所述触摸控制器可为显示装置208和213或图形处理器207的嵌入部件,或者所述触摸控制器可为IHS200的经由总线202接入的单独的部件。在一些情况下,响应于IHS200进入低功率状态(例如,待机),可关闭图形处理器207、集成显示装置208和/或外部显示装置213的电源,或将所述电源配置为以最低功率电平进行操作。
如所示,IHS 200可支持集成显示装置208,诸如集成到膝上型计算机、平板计算机、2合1可转换装置或移动装置中的显示器。IHS 200还可支持一个或多个外部显示装置213的使用,诸如可经由各种类型的联接,诸如通过将缆线从外部显示装置213连接到IHS200的外部I/O端口216而联接到IHS 200的外部监视器。在某些情境下,集成显示器208和外部显示器213的操作可针对特定用户进行配置。例如,特定用户可能偏好特定亮度设定,所述特定亮度设定可基于当日时间和环境照明条件而改变显示亮度。
芯片组203还为处理器201提供了对一个或多个存储装置219的访问。在各种实施方案中,存储装置219可与IHS 200成一整体或可在IHS 200的外部。在某些实施方案中,存储装置219可经由可能为存储装置的集成部件的存储控制器来访问。存储装置219可使用允许IHS 200存储和检索数据的任何存储器技术来实现。例如,存储装置219可为磁性硬盘存储驱动器或固态存储驱动器。在某些实施方案中,存储装置219可为存储装置的系统,诸如可经由网络接口209访问的云系统或企业数据管理系统。
如所示,IHS 200还包括基本输入/输出系统(BIOS)217,所述BIOS可存储在芯片组203可经由总线202访问的非易失性存储器中。在启动或重启IHS 200时,一个或多个处理器201可利用BIOS 217指令来初始化并测试联接到IHS 200的硬件部件。BIOS 217指令还可加载操作系统(OS)(例如,WINDOWS、MACOS、iOS、ANDROID、LINUX等)以供IHS 200使用。
BIOS 217提供允许操作系统与IHS 200的硬件部件对接的抽象层。统一可扩展固件接口(UEFI)被设计为BIOS的继任者。因此,许多现代IHS利用UEFI来对BIOS进行补充或替代。如本文所使用,BIOS也意图涵盖UEFI。
如所示,某些IHS 200实施方案可利用能够从各种传感器采样和/或收集数据的传感器中枢214。例如,传感器中枢214可利用可包括电流或电压传感器,并且能够确定IHS200的各种部件(例如,CPU 201、GPU 207、系统存储器205等)的电力消耗的一个或多个硬件资源传感器212。在某些实施方案中,传感器中枢214还可包括基于网络信号信息的三角测量和/或基于可经由OS或位置子系统,诸如GPS模块访问的信息而确定IHS 200的位置和移动的能力。
在一些实施方案中,传感器中枢214可支持一个或多个接近传感器215,包括光学传感器、红外传感器和/或声纳传感器,所述接近传感器可被配置为提供用户存在于IHS200附近,不存在于IHS 200处和/或与IHS 200相距的距离(例如,近场、中场或远场)的指示。
在某些实施方案中,传感器中枢214可为联接到IHS 200的母板的独立的微控制器或其他逻辑单元。传感器中枢214可为并入到处理器201中的集成片上系统的部件,并且所述传感器中枢可经由总线连接,诸如内部集成电路(I2C)总线或其他合适类型的总线连接而与芯片组203通信。传感器中枢214还可利用I2C总线来与由IHS 100支持的各种传感器通信。
如所示,IHS 200可利用嵌入式控制器(EC)220,所述EC可为IHS200的母板部件并且可包括一个或多个逻辑单元。在某些实施方案中,EC 220可从与主处理器201以及因此IHS 200的OS操作分离的电源层进行操作。由EC 220利用的固件指令可用于操作安全的执行系统,所述安全的执行系统可包括用于提供IHS 200的各种核心功能,诸如电源管理、IHS200可物理地配置的操作模式的管理以及对某些集成I/O功能的支持的操作。
EC 220还可实现用于与电源适配器传感器221对接以管理IHS 200的电源的操作。这些操作可被用于确定IHS 200的电源状态,诸如IHS 200是从电池电源操作还是插入到AC电源中(例如,IHS是以仅AC模式、仅DC模式,还是AC+DC模式操作)。在一些实施方案中,EC220和传感器中枢214可经由带外信号传递路径或总线224通信。
在各种实施方案中,IHS 200可能不包括图2所示的部件中的每一者。另外地或可选地,除了图2所示的那些部件之外,IHS 200还可包括各种额外的部件。另外,在某些实施方案中,在图2中表示为单独部件的一些部件可替代地与其他部件集成。例如,在某些实施方案中,由所示的部件提供的所有或一部分的功能可替代地由集成到一个或多个处理器201中作为SoC的部件提供。
图3是示出由IHS 100产生来用于管理目标应用程序108的性能优化的软件系统300的实例的框图。在一些实施方案中,软件系统300的每个元件可通过IHS 100经由一个或多个逻辑部件(例如,CPU 201、BIOS 217、EC 220等)执行存储在存储器(例如,系统存储器205)、一个或多个存储装置219和/或固件中的程序指令来提供。如所示,软件系统300包括ML到ML的编排服务102、多个基于ML的优化服务106、发现代理310、能量估计引擎308、数据收集引擎312以及目标应用程序108。尽管本文仅示出了一个目标应用程序108,但是应理解,ML到ML的编排服务102可被配置为优化可在IHS 100上执行的任何类型和数量的目标应用程序的性能。
在一个实施方案中,ML到ML的编排服务102可包括DELL PRECISION OPTIMIZER的特征或形成其一部分。性能可被优化的合适的目标应用程序108的实例包括:资源密集型应用程序,诸如MICROSOFT POWERPOINT、MICROSOFT EXCEL、MICROSOFT WORD、ADOBEILLUSTRATOR、ADOBE AFTER EFFECTS、ADOBE MEDIA ENCODER、ADOBE PHOTOSHOP、ADOBEPREMIER、AUTODESK AUTOCAD、AVID MEDIA COMPOSER、ANSYS FLUENT、ANSYS WORKBENCH、SONAR CAKEWALK等等;以及资源较不密集的应用程序,诸如媒体播放器、web浏览器、文档处理器、电子邮件客户端等。
ML到ML的编排服务102和目标应用程序108两者都由OS 302执行,所述OS反过来由EC/BIOS指令/固件304支持。EC/BIOS固件304与一个或多个传感器模块或驱动器306A-306N通信,并且被配置为接收由所述传感器模块或驱动器收集的数据,所述传感器模块或驱动器可将例如硬件资源传感器212、接近传感器215和电源适配器传感器221抽象化和/或与它们对接。
发现代理310被提供用来发现系统中配置的资源104和任何基于ML的优化服务106,并且将结果报告给ML到ML的编排服务102。例如,发现代理310可对来自ML到ML的编排服务102的请求作出响应,以获取有关IHS 100中配置的大部分或所有资源104,以及可能已经被实现来优化某些资源104或资源104的某一子集的任何基于ML的优化服务106的信息。在特定实例中,发现代理310可访问IHS 100的固件部分以获得在其BIOS 217中注册并存储在IHS 100的存储器205中的那些资源的资源数据。在本公开内,资源数据通常指代可用于访问和/或管理其相关联的资源(例如,获取参数数据,改变其配置等)的任何信息,所述相关联的资源包括存在于IHS 100中的可能与每个资源相关联的任何基于ML的优化服务106。然而,对于任何未注册(不受支持/无资格)的资源,其资源数据可能是未知的。也就是说,所述资源没有数据或没有充足的数据可供用于BIOS 217中。在这种情况下,ML到ML的编排服务102可向IHS 100中的那些资源发出或广播查询消息,并且处理响应消息以识别IHS 100中的那些未注册的资源,并且将结果往回报告给ML到ML的编排服务102。
在各种实施方案中,软件系统300还包括能量估计引擎308,诸如MICROSOFT E3引擎,所述能量估计引擎被配置为提供IHS中按应用程序、服务、任务和/或硬件分类的能量使用数据。在一些情况下,能量估计引擎308可使用被配置为确定例如目标应用程序108是在IHS的图形用户界面(GUI)的前台中还是在后台中执行(例如,最小化、隐藏等)的软件和/或硬件传感器。
数据收集引擎312可包括任何数据收集服务或进程,例如像被配置为DELLSUPPORT CENTER的一部分的收集关于系统健康、性能和环境的信息的DELL DATA VAULT。在一些情况下,数据收集引擎312可接收并维护包括与(例如,应用程序、线程、硬件资源等的)IHS硬件利用率、电源(例如,AC加DC、仅AC、或仅DC)等等相关的信息的数据库或表格。
一般而言,ML到ML的编排服务102用作较高等级的推理引擎以监督和/或管理IHS100中的其他ML服务106来协调其各种资源之间的优化。此外,ML到ML的编排服务102通过以下方式来提供对应用程序108的全系统优化:从形成IHS 100的各种资源获得数据,并且分析所获得的数据以基于用于执行应用程序108的一些、大部分或所有资源的整体协调的操作而生成基于ML的提示。在一个实施方案中,ML到ML的编排服务102包括根据一个或多个策略优化应用程序108的操作的策略管理功能。例如,策略管理功能可基于原本可能会应用于某些ML服务106的提示会对IHS 100中的一些其他资源造成过度负荷而限制这些提示。继续这个实例,在ML到ML的编排服务102可能另外推断出由系统存储器205提供的存储器缓存的增加可能有益于应用程序108的操作时,所述编排服务对IHS 100上运行的其他应用程序以及IHS 100中的其他资源的当前状态的了解可能会指示应当减少(例如,抑制)这种推理,以免不当地加重这些其他资源的负担。另外地,ML到ML的编排服务102可使用策略管理功能来推断用于IHS 100中的其他资源的提示,使得IHS 100中的大部分或所有资源都可针对应用程序108的操作共同地进行优化。
ML到ML的编排服务102监测每个基于ML的优化服务106以及直接从资源104和传感器306获得的遥测数据以对其资源利用率进行表征。例如,ML到ML的编排服务102可从基于ML的优化服务106获得基于ML的提示,此外还从能量估计引擎308、数据收集引擎312和/或直接从IHS 100中配置的传感器3061-306N获得遥测数据以生成与目标应用程序108相关联的一个或多个基于ML的提示。一旦ML到ML的编排服务102已经在一段时间内收集了特性,所述编排服务就可使用统计描述符来处理所收集的数据以提取目标应用程序108的应用程序性能特征。例如,ML到ML的编排服务102可随时间的推移而监测目标应用程序108以估计其关于各个方面的资源使用,诸如由目标应用程序108执行的哪些动作致使某些资源遭遇负荷,IHS 100上发生的事件致使目标应用程序108需要相对较高的资源使用水平,以及遭遇这些动作的当日时间段。一旦ML到ML的编排服务102已经在一段时间内收集了特性,所述编排服务就可使用统计描述符来处理所收集的数据以提取与目标应用程序108相关联的应用程序性能特征。ML到ML的编排服务102或基于ML的优化服务106中的两者或一者可使用机器学习算法,例如像Bayesian算法、线性回归算法、决策树算法、随机森林算法、神经网络算法等等。
根据本公开的实施方案,ML到ML的编排服务102接收由基于ML的优化服务106推导出的资源的基于ML的提示,并且针对训练的ML模型评估每个资源的性能特征以生成加强的基于ML的提示。ML到ML的编排服务102将加强的基于ML的提示传输到参与的基于ML的优化服务106,使得所述基于ML的优化服务进而可调整(例如,调配)资源以优化目标应用程序108的性能。在一个实施方案中,ML到ML的编排服务102使用ML提示处理将来自每个基于ML的优化服务106的基于ML的提示进行组合。提示通常指代ML的过程,由此通过第一ML过程推导出的特征可与另一个ML过程分享来推导出超越原本可能会单独地推导出的那些特征的额外的特征。在这种情况下,ML到ML的编排服务102以一种方式将来自大部分或所有基于XML的优化服务106的基于ML的提示进行组合,使得能够推导出额外的加强的性能特征。这些加强的基于ML的提示之后可用于优化IHS 100上的目标应用程序108的性能。
如所示,ML到ML的编排服务102在其被配置来提供优化服务的IHS 100上存储和执行。在其他实施方案中,ML到ML的编排服务102可为由云提供的服务,其中所述编排服务通过诸如互联网的可公开获得的通信网络来通信,以与基于ML的优化服务106以及其相关联的资源104通信来优化一个或多个目标应用程序108。例如,ML到ML的编排服务102可被提供为订阅服务,其中IHS 100的用户可注册来提供诸如本文描述的ML到ML的优化。
图4是示出根据本公开的一个实施方案的可由系统100的各种元件执行来注册ML到ML的编排服务102以与IHS 100一起使用的示例注册方法400的工作流程图。最初,ML到ML的编排服务102可在OS 302最初启动之后,诸如在由系统BIOS 217初始发动(例如,自举)OS302之后自动地启动。在另一个实施方案中,ML到ML的编排服务102可诸如响应于用户输入而手动地启动。在又一个实施方案中,如果ML到ML的编排服务102被配置为云服务,则ML到ML的编排服务102可通过以下方式来启动:将请求消息从IHS 100接收到ML到ML的编排服务102,并且向IHS 100发送响应消息以在IHS 100与ML到ML的编排服务102之间开启通信信道以启用对IHS 100的资源的控制。
在步骤402处,ML到ML的编排服务102识别IHS 100中配置的资源以及相关联的基于ML的优化服务106。ML到ML的编排服务102可以任何合适的方式识别资源。例如,ML到ML的编排服务102可通过查询IHS 100的BIOS 302而识别IHS 100中配置的资源。在许多情况下,典型的IHS 100中配置的资源会注册在其BIOS 217中。在此类情况下,可访问EC/BIOS固件304以获得在其BIOS 110中注册并存储在IHS 100的存储器105中的那些资源的资源数据。在本公开内,资源数据通常指代可用于访问和/或管理其相关联的资源(例如,获取参数数据,改变其配置等)的任何信息,所述相关联的资源包括存在于IHS 100中的可能与每个资源相关联的任何基于ML的优化服务106。然而,对于任何未注册(不受支持/无资格)的资源,其资源数据可能是未知的。也就是说,所述资源没有数据或没有充足的数据可供用于BIOS110中。在这种情况下,ML到ML的编排服务102可通过以下方式来执行发现过程:向IHS 100中的那些资源广播查询消息,并且处理随之而来的响应消息以识别IHS 100中的那些资源,并且存储与IHS 100的存储器105中的每个资源104有关的信息。
在步骤404处,ML到ML的编排服务102向每个识别的资源,以及与所述资源相关联的任何基于ML的优化服务106发出注册请求消息,使得它们可被注册来与ML到ML的编排服务102一起使用。在一个实施方案中,注册请求消息包括发给每个资源104上配置的API以及其相关联的基于ML的优化服务106的回调请求,诸如异步回调。如果注册请求消息是指向资源104,则回调请求包括用于获得将由资源104获得的某一类型的遥测数据,以及指定类型的遥测数据将发送到ML到ML的编排服务102的频率的可执行代码。然而,如果注册请求消息是指向基于ML的优化服务106,则回调请求可包括用于获得将由基于ML的优化服务106获得的某一类型的基于ML的提示,以及指定的基于ML的提示将发送到ML到ML的编排服务102的频率的可执行代码。
尽管工作流程图400被示出为将注册请求消息直接传输到资源104以及其相关联的基于ML的优化服务106,但是应了解,注册请求消息可传输到与资源104和/或基于ML的优化服务106相关联的装置管理层116,使得装置管理层116向其相关联的资源104和/或基于ML的优化服务106转发注册请求。
装置管理层116可能可用于验证与其相应的资源104和/或基于ML的优化服务106相关联的一个或多个策略或者一个或多个兼容性标准。例如,如果ML到ML的编排服务102向特定服务106发出(例如,传输)注册请求消息(其中注册请求消息包括用于获得不存在于资源104上或根据某些策略规则不被允许发送的某一类型的遥测数据的指令),则装置管理层116可拒绝注册请求消息,并且通过向ML到ML的编排服务102发出指示这个注册请求消息已经被资源104拒绝的注册请求失败消息而作出响应。如果ML到ML的编排服务102接收到这种注册请求失败消息,则所述编排服务可采取适当的动作来处置失败的注册请求。
在每个资源104以及其相关联的基于ML的优化服务106处理完注册请求消息之后,它们在步骤406处以注册请求响应消息作出响应。
在步骤408处,ML到ML的编排服务102将与每个资源104以及相关联的基于ML的优化服务106有关的注册信息存储在诸如系统存储器105的存储器中,所述存储器可用于检索和处理所获得的与每个资源104有关的持续的遥测数据和/或从每个基于ML的优化服务106获得的基于ML的提示。此时,ML到ML的编排服务102已经注册好与IHS 100一起使用,在此处,注册方法400结束。
图5是示出根据本公开的一个实施方案的可由系统100的各种元件执行来执行基于ML的学习和优化程序的示例应用程序优化方法500的工作流程图。最初,ML到ML的编排服务102已经如上文参考图4所描述执行了注册方法400。另外地,ML到ML的编排服务102已经启动(例如,发动)并且已准备好在目标应用程序108启动时对所述目标应用程序提供全系统优化。在步骤502处,ML到ML的编排服务102接收到目标应用程序108已经在IHS 100上启动的指示。
在此之后,在步骤504处,ML到ML的编排服务102确定目标应用程序108是被选择来由ML到ML的编排服务102以及IHS 100中配置的其他基于ML的优化服务106进行协调优化的目标应用程序。虽然在IHS 100上可能会使用大量的应用程序,但是选择这些应用程序的某个子集以由ML到ML的编排服务102进行协调优化可能是有益的。在一个实施方案中,ML到ML的编排服务102可访问多个目标应用程序的用户可编辑列表,诸如配置文件中所包括的用户可编辑列表,所述多个目标应用程序的性能被安排为由ML到ML的编排服务102优化。在另一个实施方案中,ML到ML的编排服务102、或系统100中所包括的其他进程可包括用于提供ML过程以推导出哪些应用程序被安排为由ML到ML的编排服务102优化的可执行代码。
在步骤506处,ML到ML的编排服务102访问其存储器以确定是否已经执行早期学习程序,并且如果为是,则从其存储器获得基于ML的提示,使得所述基于ML的提示可与本文以下描述的步骤508-510中获得的那些进行组合。也就是说,如果先前已经执行如本文所描述的早期学习程序,则ML到ML的编排服务102可获得所述先前执行的学习程序的存储结果,使得这些结果可与步骤508-510处获得的结果结合使用以进一步增强可由ML到ML的编排服务102以及IHS 100上执行的其他基于ML的优化服务106执行的协调优化。
在步骤508处,ML到ML的编排服务102向每个识别的资源以及与所述资源相关联的任何基于ML的优化服务106发出查询消息,以从每个资源104或基于ML的优化服务106获得基于ML的提示和/或原始遥测数据。在每个资源104以及其相关联的基于ML的优化服务106处理完查询消息之后,它们通过在步骤510处向ML到ML的编排服务102发送遥测数据和/或基于ML的提示而作出响应。
尽管示例应用程序学习和优化方法500描述了每次请求遥测数据或基于ML的提示时会向每个资源104和基于ML的优化服务106发送查询消息,但是应了解,查询消息可能仅发送到资源104或基于ML的优化服务106。另外地,尽管仅示出了资源104以及其相关联的基于ML的优化服务106,但是应理解,ML到ML的编排服务102也可从不具备任何对应的基于ML的优化服务的其他资源获取遥测信息,诸如通过从IHS 100中配置的传感器(例如,212、215、221等)获取遥测数据。另外,尽管示例应用程序学习和优化方法500描述了每次请求遥测数据或基于ML的提示时会向每个资源104和基于ML的优化服务106发送查询消息,但是应了解,每个资源104和/或基于ML的优化服务106可被配置为在持续的间隔处自动地发送遥测数据或基于ML的提示,使得在某些实施方案中可避免每次发送遥测数据和/或基于ML的提示时都要由ML到ML的编排服务102发送查询消息的需求。例如,以上在步骤404处描述的向资源104和基于ML的优化服务106发送的回调请求消息可包括用于获得将由资源104获得的某一类型的遥测数据,以及指定类型的遥测数据将发送到ML到ML的编排服务102的频率的可执行代码。因此,当资源104和/或基于ML的优化服务106操作时,它们可执行回调代码并且自动地传输其遥测数据和基于ML的提示,而不用特别地进行请求。
在步骤512处,ML到ML的编排服务102处理所接收的遥测数据以获得分类数据。例如,ML到ML的编排服务102可使用分类器,诸如贝叶斯概率分类器(例如,有向无环概率图模型),以基于从资源104或基于ML的优化服务106接收的遥测数据的每个新元素而连续地更新所述编排服务的推导信息。在此之后,在步骤514处,ML到ML的编排服务102可执行合适的回归技术以从分类数据推导出一个或多个资源性能特征。
ML到ML的编排服务102之后可在步骤516处执行分析过程以生成一个或多个配置文件建议,以优化IHS 100上的目标应用程序108的性能。也就是说,ML到ML的编排服务102可执行分析过程以识别与资源104在执行目标应用程序108时如何操作有关的有意义的模式。例如,分析过程可识别由目标应用程序108执行某些动作时发生率相对较高的资源负荷事件。作为另一个实例,分析过程可识别在某些操作条件下与目标应用程序108竞争资源使用的一些其他应用程序。分析使用所识别的模式(诸如上文描述的那些)来确定一个或多个配置文件建议(例如,提示),所述配置文件建议可被用来优化IHS100上的目标应用程序108的性能。
根据本公开的实施方案,ML到ML的编排服务102可从基于ML的优化服务106获得基于ML的提示(例如,原始遥测数据、分类数据、资源性能特征和/或配置文件建议)以对ML到ML的编排服务102生成的互补的分类数据、资源性能特征和/或配置文件建议进行加强。也就是说,ML到ML的编排服务102通过使用提示(使用ML到ML的提示技术从资源基于ML的优化服务106获得)执行步骤512、514和/或516中的任一者而生成加强的提示,并且将这些加强的提示传输到某些基于ML的优化服务106,使得基于ML的优化服务106可进一步加强配置文件建议以优化目标应用程序108的性能。
ML到ML的提示技术通常指代ML的过程,由此通过第一ML过程推导出的特征可与另一个ML过程分享来推导出超越原本可能会单独地推导出的那些特征的额外的特征。在这种情况下,ML到ML的编排服务102将由资源生成的基于ML的提示进行组合,以生成考虑到用于执行目标应用程序108的大部分或所有资源的活动的加强的提示。因此,加强的提示可用于调整某些资源104的一个或多个设定以优化由资源执行的目标应用程序的性能。
在一个实施方案中,ML到ML的编排服务102可根据指定的优先级而执行步骤512、514和/或516。例如,在一些情况下,基于ML的提示在ML到ML的编排服务102与基于ML的优化服务106和资源104之间的分享量可能是异常大的,以至于限制或抑制传送的消息量可能是有益的。因此,每个基于ML的提示可包括优先级字段,所述优先级字段标识所述特定类型的消息的优先级,使得在引发量异常大的消息时,ML到ML的编排服务102可基于所述消息的优先级而处理传入的基于ML的提示,从而使得具有相对较高的重要性等级的基于ML的提示可以高水平的可靠性成功地进行处理。
步骤512、514和516可在整个学习窗口或框架中连续地执行以从资源104以及其相关联的基于ML的优化服务106获得并处理基于ML的提示,以生成加强的基于ML的提示。然而,重要的是,要获得足够量的遥测数据,使得能够获得相对完整的数据统计分布(例如,直方图)。因此,在一个实施方案中,ML到ML的编排服务102可连续地监测传入的遥测数据和基于ML的提示以估计由传入的遥测数据和基于ML的提示提供的统计分布,并且如果没有接收到足够的量,则拒绝或舍弃传入的数据。ML到ML的编排服务102可以任何合适的方式估计统计分布,诸如通过设定用于收集数据的经过的最小时间段,设定待接收的最少数据量,计算收集数据的统计分布以确保所述统计分布具备足够的结构等等来进行。
下文描述的步骤518-524通常指代应用程序优化方法500的优化阶段。鉴于步骤502-516通常可被称为学习阶段,其中收集并处理遥测数据以及基于ML的提示,而不会对IHS 100的资源104进行任何显著的调整,因此优化阶段涉及基于在ML到ML的编排服务102与IHS 100中的参与的基于ML的优化服务106之间分享的加强的基于ML的提示而调整设定。
在步骤518处,ML到ML的编排服务102将基于ML的提示传输到参与的ML资源104。每个ML资源104进而可在步骤520处将加强的提示以及根据其本地进程生成的提示进行组合以生成加强的配置文件建议。在此之后,在步骤522处,每个基于ML的优化服务106与其相应的资源104通信以调整所述资源的一个或多个设定。另外地,在步骤524处,ML到ML的编排服务102可直接与资源104中的一者或多者通信以调整其设定来优化目标应用程序108的性能。
在一些实施方案中,ML到ML的编排服务102可能仅与每个资源104的某些基于ML的优化服务106通信以促成目标应用程序108的优化,仅直接与某些资源104通信以调整其操作,和/或与基于ML的优化服务106以及其相关联的资源104两者通信以调整所述资源104的一个或多个设定。例如,ML到ML的编排服务102可能会出于包括某一资源104缺乏任何现有的基于ML的优化服务的若干原因而仅直接与所述特定资源104通信以调整所述资源的设定。作为另一个实例,ML到ML的编排服务102可与基于ML的优化服务106以及其相关联的资源104两者通信,因为ML到ML的编排服务102可设有用于调整某些设定的从其相应的基于ML的优化服务106可能无法直接提供的工具。作为又一个实例,ML到ML的编排服务102可能仅与同每个资源104相关联的基于ML的优化服务106通信,以缓解ML到ML的编排服务102和ML资源104两者各自都试图调整相同的资源设定的情况下原本可能会出现的竞争。
前述过程的步骤可重复地执行以对IHS 100上的目标应用程序108进行连续的运行时优化。在一些情况下,数据收集窗口或框架可以不同的时期或时间段布置,其中每个时期包括目标应用程序108的特定操作模式。例如,第一时期可能涉及图形密集型应用程序的诸如在用户构建或操纵图形图像时主要使用图形相关资源(例如,GPU资源)的操作模式。然而,在第二时期期间,由于用户正访问存储器以存储先前使用图形密集型应用程序构建的图形图像的事实,图形密集型应用程序主要使用存储相关资源。因此,ML到ML的编排服务102可被配置为调整数据收集窗口或框架,并且将处理调整为与某一操作模式或时期至少部分地同时发生,在所述操作模式或时期中,目标应用程序108正根据某些实施方案进行操作。
应用程序优化方法500的步骤可被重复来对IHS 100上的目标应用程序108进行连续优化。然而,当不再需要或期望使用方法500时,结束所述方法。
应理解,本文描述的各种操作可在由处理电路执行的软件、硬件或其组合中实现。可改变执行给定方法的每个操作的次序,并且可对各种操作进行添加、重新排序、组合、省略、修改等。本文描述的一个或多个发明意图包涵所有此类修改和变化,并且因此上文描述应被视为具有说明性而非限制性意义。
如本文所使用的术语“有形”和“非暂时性”意图描述将传播的电磁信号排除在外的计算机可读存储介质(或“存储器”);但是并不意图以其他方式限制由短语计算机可读介质或存储器涵盖的物理计算机可读存储装置的类型。例如,术语“非暂时性计算机可读介质”或“有形存储器”意图涵盖不一定永久地存储信息的存储装置的类型,包括例如RAM。以非暂时性形式存储在有形计算机可访问存储介质上的程序指令和数据随后可通过传输介质或诸如电信号、电磁信号或数字信号的信号来传输,所述信号可经由诸如网络和/或无线链路的通信介质来传送。
尽管本文参考特定实施方案描述了一个或多个发明,但是在不脱离如以下权利要求中所阐述的本发明的范围的情况下,可进行各种修改和改变。因此,说明书和附图被视为具有说明性而非限制性意义,并且所有此类修改意图被包括在本发明的范围内。本文相对于特定实施方案描述的任何益处、优点或问题的解决方案都不意图被解释为任何或所有权利要求的关键、必需、或必要的特征或要素。
除非另有说明,否则诸如“第一”和“第二”的术语用于任意地区分此类术语描述的要素。因此,这些术语不一定意图指示此类要素的时间或其他优先次序。术语“联接”或“可操作地联接”被定义为连接,但是不一定直接地,并且不一定机械地连接。除非另有说明,否则术语“一个/种(a/an)”被定义为一个或多个/种。术语“包含(comprise)”(以及包含的任何形式,诸如“包含(comprises)”和“包含(comprising)”)、“具有(have)”(以及具有的任何形式,诸如“具有(has)”和“具有(having)”)、“包括(include)”(以及包括的任何形式,诸如“包括(includes)”和“包括(including)”),以及“含有(contain)”(以及含有的任何形式,诸如“含有(contains)”和“含有(containing)”)为开放式的连系动词。因此,“包含”、“具有”、“包括”或“含有”一个或多个要素的系统、装置或设备拥有那一个或多个要素,但是不限于仅拥有那一个或多个要素。类似地,“包含”、“具有”、“包括”或“含有”一个或多个操作的方法或过程拥有那一个或多个操作,但不限于仅拥有那一个或多个操作。

Claims (20)

1.一种信息处置系统(IHS)编排系统,所述IHS编排系统包括:
至少一个处理器;以及
联接到所述至少一个处理器的至少一个存储器,所述至少一个存储器上存储有程序指令,所述程序指令在由所述至少一个处理器执行时致使IHS进行以下操作:
针对用于在IHS上执行目标应用程序的多个资源中的每一者,接收与资源相关联的已经由基于ML的优化服务生成的一个或多个基于机器学习(ML)的提示;
使用ML到ML的编排服务为所述多个资源中的至少一者生成一个或多个加强的提示;以及
将所述加强的提示传输到所述至少一个资源;
其中所述基于ML的优化服务将所述加强的基于ML的提示与由所述基于ML的优化服务生成的所述一个或多个内部生成的提示进行组合以生成一个或多个加强的配置文件建议,并且
其中所述基于ML的优化服务使用所述加强的配置文件建议来调整所述资源的一个或多个设定以优化由所述资源执行的所述目标应用程序的性能。
2.如权利要求1所述的IHS编排系统,其中所述多个资源中的至少一者包括所述IHS的硬件资源、软件资源、或平台资源中的至少一者。
3.如权利要求1所述的IHS编排系统,其中所述基于ML的提示中的每一者包括配置文件建议、资源性能特征、分类信息以及原始遥测数据中的至少一者。
4.如权利要求1所述的IHS编排系统,其中所述ML到ML的编排服务被提供为基于云的服务。
5.如权利要求1所述的IHS编排系统,其中所述指令还被执行来执行发现操作以识别所述IHS的所述资源。
6.如权利要求1所述的IHS编排系统,其中所述多个资源中的每一者包括装置管理层,所述装置管理层具有应用程序接口(API)以利用所述指令经由具有管理权限的安全登录会话进行通信。
7.如权利要求6所述的IHS编排系统,其中所述指令还被执行来在与所述装置管理层进行初始安全登录会话期间执行注册操作,所述指令还被执行来通过验证与所述资源相关联的一个或多个策略或者一个或多个兼容性标准中的至少一者而执行所述注册操作。
8.如权利要求6所述的IHS编排系统,其中所述指令还被执行来通过根据所述指令传输将由所述装置管理层获得的某一类型的参数数据以及将发送所述类型的参数数据的频率而执行注册操作。
9.如权利要求1所述的IHS编排系统,其中所述资源不具有任何基于ML的优化服务,所述指令还被执行来接收与所述资源的操作相关联的遥测数据,并且使用所述遥测数据来确定所述至少一个资源的所述配置文件建议。
10.如权利要求1所述的IHS编排系统,其中所述指令还被执行来根据与所述基于ML的提示中的每一者相关联的优先等级指示符而生成所述一个或多个加强的提示。
11.一种信息处置系统(IHS)编排方法,所述IHS编排方法包括:
针对用于在IHS上执行目标应用程序的多个资源中的每一者,使用存储在至少一个存储器中并由至少一个处理器执行的指令接收与资源相关联的已经由基于ML的优化服务生成的一个或多个基于机器学习(ML)的提示;
使用所述指令,使用ML到ML的编排服务为所述多个资源中的至少一者生成一个或多个加强的提示;以及
使用所述指令将所述加强的提示传输到所述至少一个资源;
其中所述基于ML的优化服务将所述加强的基于ML的提示与由所述基于ML的优化服务生成的所述一个或多个内部生成的提示进行组合以生成加强的配置文件建议,并且
其中所述基于ML的优化服务使用所述加强的配置文件建议来调整所述资源的一个或多个设定以优化由所述资源执行的所述目标应用程序的性能。
12.如权利要求11所述的IHS编排方法,其中所述多个资源中的至少一者包括所述IHS的硬件资源、软件资源、或平台资源中的至少一者。
13.如权利要求11所述的IHS编排方法,其中所述ML到ML的编排服务被提供为基于云的服务。
14.如权利要求11所述的IHS编排方法,所述IHS编排方法还包括执行发现操作以识别所述IHS的所述资源。
15.如权利要求11所述的IHS编排方法,其中所述多个资源中的每一者包括装置管理层,所述装置管理层具有应用程序接口(API)以利用所述指令经由具有管理权限的安全登录会话进行通信。
16.如权利要求15所述的IHS编排方法,所述IHS编排方法还包括在与所述装置管理层进行初始安全登录会话期间执行注册操作,所述指令还被执行来通过验证与所述资源相关联的一个或多个策略或者一个或多个兼容性标准中的至少一者而执行所述注册操作。
17.如权利要求15所述的IHS编排方法,所述IHS编排方法还包括通过根据所述指令传输将由所述装置管理层获得的某一类型的参数数据以及将发送所述类型的参数数据的频率而执行注册操作。
18.如权利要求11所述的IHS编排方法,其中所述资源不具有任何基于ML的优化服务,所述方法还包括接收与所述资源的操作相关联的遥测数据,并且使用所述遥测数据来确定所述至少一个资源的所述配置文件建议。
19.如权利要求11所述的IHS编排方法,所述IHS编排方法还包括根据与所述基于ML的提示中的每一者相关联的优先等级指示符而生成所述一个或多个加强的提示。
20.一种存储器存储装置,所述存储器存储装置上存储有程序指令,所述程序指令在由信息处置系统(IHS)的一个或多个处理器执行时致使所述IHS进行以下操作:
针对用于在IHS上执行目标应用程序的多个资源中的每一者,接收与资源相关联的已经由基于ML的优化服务生成的一个或多个基于机器学习(ML)的提示;
使用ML到ML的编排服务为所述多个资源中的至少一者生成一个或多个加强的提示;以及
将所述加强的提示传输到所述至少一个资源;
其中所述基于ML的优化服务将所述加强的基于ML的提示与由所述基于ML的优化服务生成的所述一个或多个内部生成的提示进行组合以生成加强的配置文件建议,并且
其中所述基于ML的优化服务使用所述加强的配置文件建议来调整所述资源的一个或多个设定以优化由所述资源执行的所述目标应用程序的性能。
CN202210003372.4A 2021-01-13 2022-01-04 用于信息处置系统(ihs)全系统优化的ml到ml的编排系统和方法 Active CN114764353B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US17/148,291 US11593178B2 (en) 2021-01-13 2021-01-13 ML-to-ML orchestration system and method for system wide information handling system (IHS) optimization
US17/148,291 2021-01-13

Publications (2)

Publication Number Publication Date
CN114764353A CN114764353A (zh) 2022-07-19
CN114764353B true CN114764353B (zh) 2023-09-29

Family

ID=82116681

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210003372.4A Active CN114764353B (zh) 2021-01-13 2022-01-04 用于信息处置系统(ihs)全系统优化的ml到ml的编排系统和方法

Country Status (3)

Country Link
US (1) US11593178B2 (zh)
CN (1) CN114764353B (zh)
DE (1) DE102022200314A1 (zh)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107209696A (zh) * 2015-02-03 2017-09-26 戴尔产品有限公司 由应用动态控制的工作负载执行
CN107820605A (zh) * 2017-03-27 2018-03-20 香港应用科技研究院有限公司 用于动态低延迟优化的系统和方法
CN109144716A (zh) * 2017-06-28 2019-01-04 中兴通讯股份有限公司 基于机器学习的操作系统调度方法及装置、设备
CN109408229A (zh) * 2018-09-30 2019-03-01 华为技术有限公司 一种调度方法及装置
CN110162442A (zh) * 2019-04-19 2019-08-23 平安科技(深圳)有限公司 一种系统性能瓶颈定位方法及系统
CN110647394A (zh) * 2018-06-27 2020-01-03 阿里巴巴集团控股有限公司 一种资源分配方法、装置及设备
CN111210020A (zh) * 2019-11-22 2020-05-29 清华大学 一种加速分布式机器学习的方法及系统
WO2020176535A1 (en) * 2019-02-25 2020-09-03 Intel Corporation 5g network edge and core service dimensioning

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10412155B2 (en) * 2015-10-29 2019-09-10 Capital One Services, Llc Automated server workload management using machine learning
US10810502B2 (en) * 2017-12-01 2020-10-20 Sap Se Computing architecture deployment configuration recommendation using machine learning
JP2021523504A (ja) * 2018-05-06 2021-09-02 ストロング フォース ティエクス ポートフォリオ 2018,エルエルシーStrong Force Tx Portfolio 2018,Llc エネルギー、コンピュータ、ストレージ、及びその他のリソースの、スポット市場及び先物市場における分散型元帳及びその他のトランザクションの実行を自動化する、機械及びシステムを改善するための方法及びシステム
US11507430B2 (en) * 2018-09-27 2022-11-22 Intel Corporation Accelerated resource allocation techniques
US11423327B2 (en) * 2018-10-10 2022-08-23 Oracle International Corporation Out of band server utilization estimation and server workload characterization for datacenter resource optimization and forecasting
US11711267B2 (en) * 2019-02-25 2023-07-25 Intel Corporation 5G network slicing with distributed ledger traceability and resource utilization inferencing
US10904109B2 (en) * 2019-06-04 2021-01-26 Sap Portals Israel Ltd. Real-time cloud-based resource reallocation recommendation generation
US11397658B1 (en) * 2020-11-25 2022-07-26 Amazon Technologies, Inc. Testing recommended compute platforms for a workload

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107209696A (zh) * 2015-02-03 2017-09-26 戴尔产品有限公司 由应用动态控制的工作负载执行
CN107820605A (zh) * 2017-03-27 2018-03-20 香港应用科技研究院有限公司 用于动态低延迟优化的系统和方法
CN109144716A (zh) * 2017-06-28 2019-01-04 中兴通讯股份有限公司 基于机器学习的操作系统调度方法及装置、设备
CN110647394A (zh) * 2018-06-27 2020-01-03 阿里巴巴集团控股有限公司 一种资源分配方法、装置及设备
CN109408229A (zh) * 2018-09-30 2019-03-01 华为技术有限公司 一种调度方法及装置
WO2020176535A1 (en) * 2019-02-25 2020-09-03 Intel Corporation 5g network edge and core service dimensioning
CN110162442A (zh) * 2019-04-19 2019-08-23 平安科技(深圳)有限公司 一种系统性能瓶颈定位方法及系统
CN111210020A (zh) * 2019-11-22 2020-05-29 清华大学 一种加速分布式机器学习的方法及系统

Also Published As

Publication number Publication date
US11593178B2 (en) 2023-02-28
US20220222126A1 (en) 2022-07-14
CN114764353A (zh) 2022-07-19
DE102022200314A1 (de) 2022-07-14

Similar Documents

Publication Publication Date Title
US10469979B2 (en) Managing data access in mobile devices
US11789782B2 (en) Techniques for modifying cluster computing environments
US10402222B2 (en) Task migration method and apparatus
US20180300067A1 (en) Dynamic memory management techniques
US20150347184A1 (en) Method for task group migration and electronic device supporting the same
US20170078160A1 (en) Method for processing services and electronic device for the same
US20220179706A1 (en) Adaptive resource allocation system and method for a target application executed in an information handling system (ihs)
US11579906B2 (en) Managing performance optimization of applications in an information handling system (IHS)
US20220269537A1 (en) Artificial intelligence (ai) workload sharing system and method of using the same
CN114756312B (zh) 用于对本地服务进行远程协助优化的系统和方法
CN114765613A (zh) 客户端驱动的云网络访问系统和方法
CN114444853A (zh) 一种性能控制方法、装置及存储介质
US11893391B2 (en) Processing computing jobs via an acceleration device
CN114764353B (zh) 用于信息处置系统(ihs)全系统优化的ml到ml的编排系统和方法
US11669429B2 (en) Configuration cluster-based performance optimization of applications in an information handling system (IHS)
US11940860B2 (en) Power budget management using quality of service (QoS)
JP2023070000A (ja) 対話環境におけるニューラル・ネットワークを使用したユーザの意図及び関連するエンティティの認識
US20220326986A1 (en) Scheduling workloads on partitioned resources of a host system in a container-orchestration system
CN104951369B (zh) 消除热点资源竞争的方法和装置
US20230393891A1 (en) Application performance enhancement system and method based on a user's mode of operation
US20240231921A1 (en) System and method for distributed management of configurable hardware to satisfy user intent
US20220270291A1 (en) Determining optical center in an image
US11928516B2 (en) Greener software defined storage stack
US12124351B2 (en) System and method for distributed management of hardware based on performance validation
US20240232040A1 (en) System and method for distributed management of hardware based on performance validation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant