CN111158895A - 微服务资源调度方法和系统 - Google Patents

微服务资源调度方法和系统 Download PDF

Info

Publication number
CN111158895A
CN111158895A CN201811323104.0A CN201811323104A CN111158895A CN 111158895 A CN111158895 A CN 111158895A CN 201811323104 A CN201811323104 A CN 201811323104A CN 111158895 A CN111158895 A CN 111158895A
Authority
CN
China
Prior art keywords
service
micro
scheduling
resource scheduling
priority
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201811323104.0A
Other languages
English (en)
Inventor
严丽云
何震苇
张凌
杨新章
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Telecom Corp Ltd
Original Assignee
China Telecom Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Telecom Corp Ltd filed Critical China Telecom Corp Ltd
Priority to CN201811323104.0A priority Critical patent/CN111158895A/zh
Publication of CN111158895A publication Critical patent/CN111158895A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/50—Indexing scheme relating to G06F9/50
    • G06F2209/5021—Priority

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本公开提出一种微服务资源调度方法和系统，涉及云计算技术领域。本公开的一种微服务资源调度方法包括：针对每个微服务，获取微服务的运行状态信息，运行状态信息中包括调度指标；在调度指标达到预定调度门限时，根据预定状态信息和调用微服务的业务的权重确定微服务的资源调度优先级；根据资源调度优先级选择作为资源调度对象的微服务。通过这样的方法，能够根据微服务的预定状态信息和调度微服务的业务的权重确定微服务的重要性以及容量调节的紧迫性，进而合理的选择优先进行资源调度的微服务，从而能够准确定位业务的瓶颈微服务，及时优化业务执行效率。

Description

微服务资源调度方法和系统
技术领域
本公开涉及云计算技术领域，特别是一种微服务资源调度方法和系统。
背景技术
自动扩缩容是根据用户的业务需求和策略，自动“调整”其“弹性资源”的管理服务。通过自动扩缩容功能，用户可设置定时、周期或监控策略，恰到好处地增加或减少“弹性资源”，并完成实例配置，保证业务平稳健康运行。这里的调整是指：在满足业务需求高峰增长时无缝地增加“弹性资源”，并在业务需求下降时自动减少“弹性资源”以节约成本。
相关技术中的自动扩缩容机制是基于预先设定CPU(Central Processing Unit，中央处理器)/内存利用率阈值，当实际运行时容器的CPU或内存利用率超过或低于阈值并持续一段时间，既触发一次扩缩容指令，由底层IaaS层执行指令，既增加或减少相应步长的实例数。这其中涉及到的参数包括触发开关、实例步长、触发时间间隔、用于触发自动扩缩容的判断指标(CPU、内存、持续时间)。
发明内容
发明人发现，相关技术基于单纯阈值进行自动扩所容判断的方式无法及时精确定位瓶颈，难以利用有限的资源及时优化业务执行效率。
本公开的一个目的在于准确定位业务的瓶颈微服务，及时优化业务执行效率。
根据本公开的一个方面，提出一种微服务资源调度方法，包括：针对每个微服务，获取微服务的运行状态信息，运行状态信息中包括调度指标；在调度指标达到预定调度门限时，根据预定状态信息和调用微服务的业务的权重确定微服务的资源调度优先级；根据资源调度优先级选择作为资源调度对象的微服务。
可选地，运行状态信息包括CPU利用率、内存利用率、服务处理时延、服务调用频次中的多项。
可选地，调度指标包括CPU利用率和/或内存利用率。
可选地，调度指标达到预定调度门限包括：调度指标高于预定高门限和调度指标低于预定低门限。
可选地，确定微服务的资源调度优先级包括：根据与该微服务相关的业务的权重，微服务处理时间占总处理时间比重和微服务的调用频率，确定微服务的重要性评估值；根据各个调度指标达到预定调度门限的微服务的重要性评估值确定微服务的资源调度优先级。
可选地，根据与该微服务相关的业务的权重，微服务处理时间占总处理时间比重和微服务的调用频率，确定微服务的重要性评估值包括：根据公式
Figure BDA0001858032550000021
确定微服务的重要性评估值，其中，i为微服务标识，1≤i≤r，r为微服务数量，j为业务标识，Wi为微服务i的重要性评估值，Si为与微服务i相关的业务，ti为微服务i的处理时延，Tj为业务j的响应时间，Bj为业务j的权重，Fi为微服务被调用的频次。
可选地，微服务资源调度方法还包括：当达到预定时钟周期时，选择作为资源调度对象的微服务，重置计时时钟并执行资源调度。
可选地，根据资源调度优先级选择作为资源调度对象的微服务包括：当系统资源充足或调度指标高于预定高门限时，按照资源调度优先级从高到低的顺序选择增加资源的微服务；和/或，当系统资源紧缺或微服务的调度指标低于预定低门限时，按照微服务的资源调度优先级从低到高的顺序确定削减资源的微服务。
通过这样的方法，能够根据微服务的预定状态信息和调度微服务的业务的权重确定微服务的重要性以及容量调节的紧迫性，进而合理的选择优先进行资源调度的微服务，从而能够准确定位业务的瓶颈微服务，及时优化业务执行效率。
根据本公开的另一个方面，提出一种微服务资源调度系统，包括：运行状态获取单元，被配置为针对每个微服务，获取微服务的运行状态信息，运行状态信息中包括调度指标；优先级确定单元，被配置为在调度指标达到预定调度门限时，根据预定状态信息和调用微服务的业务的权重确定微服务的资源调度优先级；微服务选择单元，被配置为根据资源调度优先级选择作为资源调度对象的微服务。
可选地，运行状态信息包括CPU利用率、内存利用率、服务处理时延、服务调用频次中的多项；和/或，调度指标包括CPU利用率和/或内存利用率。
可选地，调度指标达到预定调度门限包括：调度指标高于预定高门限和调度指标低于预定低门限。
可选地，优先级确定单元被配置为：根据与该微服务相关的业务的权重，微服务处理时间占总处理时间比重和微服务的调用频率，确定微服务的重要性评估值；根据各个调度指标达到预定调度门限的微服务的重要性评估值确定微服务的资源调度优先级。
可选地，优先级确定单元被配置为根据公式
Figure BDA0001858032550000031
确定微服务的重要性评估值，其中，i为微服务标识，1≤i≤r，r为微服务数量，j为业务标识，Wi为微服务i的重要性评估值，Si为与微服务i相关的业务，ti为微服务i的处理时延，Tj为业务j的响应时间，Bj为业务j的权重，Fi为微服务被调用的频次。
可选地，微服务资源调度系统还包括：计时单元，被配置为按照预定时钟周期计时，当达到预定时钟周期时，激活微服务选择单元选择作为资源调度对象的微服务，重置计时时钟。
可选地，微服务选择单元被配置为：当系统资源充足或调度指标高于预定高门限时，按照资源调度优先级从高到低的顺序为微服务补充资源；和/或当系统资源紧缺或微服务的调度指标低于预定低门限时，按照微服务的资源调度优先级从低到高的顺序为微服务削减资源。
根据本公开的又一个方面，提出一种微服务资源调度系统，包括：存储器；以及耦接至存储器的处理器，处理器被配置为基于存储在存储器的指令执行上文中任意一种微服务资源调度方法。
这样的微服务资源调度系统能够根据微服务的预定状态信息和调度微服务的业务的权重确定微服务的重要性以及容量调节的紧迫性，进而合理的选择优先进行资源调度的微服务，从而能够准确定位业务的瓶颈微服务，及时优化业务执行效率。
根据本公开的再一个方面，提出一种计算机可读存储介质，其上存储有计算机程序指令，该指令被处理器执行时实现上文中任意一种微服务资源调度方法的步骤。
通过执行这样的计算机可读存储介质上的指令，能够根据微服务的预定状态信息和调度微服务的业务的权重确定微服务的重要性以及容量调节的紧迫性，进而合理的选择优先进行资源调度的微服务，从而能够准确定位业务的瓶颈微服务，及时优化业务执行效率。
附图说明
此处所说明的附图用来提供对本公开的进一步理解，构成本公开的一部分，本公开的示意性实施例及其说明用于解释本公开，并不构成对本公开的不当限定。在附图中：
图1为本公开的微服务资源调度方法的一个实施例的流程图。
图2为本公开的微服务资源调度方法的另一个实施例的流程图。
图3为本公开的微服务资源调度系统的一个实施例的示意图。
图4为本公开的微服务资源调度系统的另一个实施例的示意图。
图5为本公开的微服务资源调度系统的又一个实施例的示意图。
具体实施方式
下面通过附图和实施例，对本公开的技术方案做进一步的详细描述。
本公开的微服务资源调度方法的一个实施例的流程图如图1所示。
在步骤101中，实时监控并获取各个微服务的运行状态信息，运行状态信息中包括调度指标。在一个实施例中，调度指标信息可以为CPU利用率、内存利用率中的一种或两种。在一个实施例中，运行状态信息包括CPU利用率、内存利用率、服务处理时延、服务调用频次中的多项。
在步骤102中，在调度指标达到预定调度门限时，根据预定状态信息和调度微服务的业务的权重确定微服务的资源调度优先级。在一个实施例中，调度指标达到预定调度门限包括：调度指标高于预定高门限和调度指标低于预定低门限。当调度指标高于预定高门限时，微服务资源不足，需要为微服务增加资源；当调度指标低于预定低门限时，微服务资源冗余，可以削减微服务占用的资源。
在步骤103中，根据资源调度优先级选择作为资源调度对象的微服务。
通过这样的方法，能够根据微服务的预定状态信息和调度微服务的业务的权重确定微服务的重要性以及容量调节的紧迫性，进而合理的选择优先进行资源调度的微服务，从而能够准确定位业务的瓶颈微服务，及时优化业务执行效率。
在一个实施例中，可以根据与微服务相关的业务的权重，微服务处理时间占总处理时间比重以及微服务的调用频率确定微服务的重要性评估值，再通过比较各个调度指标达到预定调度门限的微服务的重要性评估值确定微服务的资源调度优先级。
通过这样的方法，能够结合微服务所涉及业务的重要性、微服务对于每个相关的业务的重要性确定其重要性评估值，进而确定微服务的优先级，从而提高业务优化的效果和效率。
本公开的微服务资源调度方法的另一个实施例的流程图如图2所示。
在步骤201中，激活时钟开始计时。
在步骤202中，针对每个微服务，获取微服务的运行状态信息。
在步骤203中，判断调度指标是否达到预定调度门限。若达到预定调度门限，则执行步骤204；若未达到预定调度门限，则返回步骤202继续监控微服务的运行状态。
在步骤204中，确定微服务的资源调度优先级。在一个实施例中，可以根据公式
Figure BDA0001858032550000061
确定微服务的重要性评估值，其中，i为微服务标识，1≤i≤r；r为微服务数量，j为业务标识；Wi为微服务i的重要性评估值；Si为与微服务i相关的业务；
ti为微服务i的处理时延，为步骤202中监测获取；
Tj为业务j的响应时间，为监控业务执行情况获取；
Fi为微服务被调用的频次，为步骤202中监测获取；
Bj为业务j的权重，为预设值。
在步骤205中，判断是否达到预定时钟周期。若达到预定时钟周期，则执行步骤206；若未达到预定时钟周期，则执行步骤202，继续进行监控。
在步骤206中，根据资源调度优先级选择作为资源调度对象的微服务。在一个实施例中，可以调用选择的微服务所对应的资源调配策略执行资源调度，如增加预定容量等。
在步骤207中，重置计时时钟，执行步骤201。
通过这样的方法，能够按照预定的时间周期进行微服务资源调整，避免对资源的频繁调度，降低系统处理负担；能够以预定的公式进行重要性评估值的计算进而得到优先级，提高了运行效率。
在一个实施例中，当系统资源充足或调度指标高于预定高门限时，按照资源调度优先级从高到低的顺序选择增加资源的微服务，从而优先保证重要性高的微服务的资源充足；当系统资源紧缺或微服务的调度指标低于预定低门限时，按照微服务的资源调度优先级从低到高的顺序确定削减资源的微服务，从而优先削减重要性低的微服务的资源，保证重要性高的微服务的执行效率。
通过这样的方法，无论在扩容还是缩容过程中均能够有效保证重要性高的微服务的执行效率，进而优化了业务整体的执行效率。
本公开的微服务资源调度系统的一个实施例的示意图如图3所示。
运行状态获取单元301能够实时监控并获取各个微服务的运行状态信息，运行状态信息中包括调度指标。在一个实施例中，调度指标信息可以为CPU利用率、内存利用率中的一种或两种。在一个实施例中，运行状态信息包括CPU利用率、内存利用率、服务处理时延、服务调用频次中的多项。
在一个实施例中，可以利用服务链追踪工具收集服务链调用关系、各环节时延、微服务调用频次等参数信息；通过监控系统收集如CPU利用率、内存利用率等指标信息。
优先级确定单元302能够在调度指标达到预定调度门限时，根据预定状态信息和调度微服务的业务的权重确定微服务的资源调度优先级。在一个实施例中，调度指标达到预定调度门限包括：调度指标高于预定高门限和调度指标低于预定低门限。当调度指标高于预定高门限时，微服务资源不足，需要为微服务增加资源；当调度指标低于预定低门限时，微服务资源冗余，可以削减微服务占用的资源。
微服务选择单元303能够根据资源调度优先级选择作为资源调度对象的微服务。
这样的微服务资源调度系统能够根据微服务的预定状态信息和调用微服务的业务的权重确定微服务的重要性，以及容量调节的紧迫性，进而合理的选择优先进行资源调度的微服务，从而能够准确定位业务的瓶颈微服务，及时优化业务执行效率。这样的微服务资源调度系统适用于服务组成繁多、调用链路长的微服务场景，提供更精准的自动化扩缩容方案。
在一个实施例中，优先级确定单元302能够根据与微服务相关的业务的权重，微服务处理时间占总处理时间比重以及微服务的调用频率确定微服务的重要性评估值(如采用步骤204中的公式计算重要性评估值)，再通过比较各个调度指标达到预定调度门限的微服务的重要性评估值确定微服务的资源调度优先级。
这样的微服务资源调度系统能够结合微服务所涉及业务的重要性、微服务对于每个相关的业务的重要性确定其重要性评估值，进而确定微服务的优先级，从而提高业务优化的效果和效率。
在一个实施例中，如图3所示，微服务资源调度系统还可以包括计时单元304，能够按照预定时钟周期计时，当达到预定时钟周期时，激活微服务选择单元选择作为资源调度对象的微服务，重置计时时钟，从而能够按照预定的时间周期进行微服务资源调整，避免对资源的频繁调度，降低系统处理负担。
在一个实施例中，当计时达到预定时钟周期后，针对微服务选择单元选择的作为资源调度对象的微服务，可以触发微服务集群系统执行资源调度。在一个实施例中，触发指令中包括微服务所属的租户、环境(通过它们可以在整个系统中唯一索引到一个微服务)信息，指令还可以包含每一个微服务对应的自动扩缩容规则(包含但不限于优先级、扩缩容方向、步长等)。微服务集群系统接受指令并执行指令请求，存储自动扩所容需要持久化的配置数据，以及操作日志等信息，从而使调度操作与不同归属、不同配置的微服务相适应，保证资源调度的顺利实现。
在一个实施例中，当系统资源充足或调度指标高于预定高门限时，微服务选择单元303按照资源调度优先级从高到低的顺序选择增加资源的微服务，从而优先保证重要性高的微服务的资源充足；当系统资源紧缺或微服务的调度指标低于预定低门限时，微服务选择单元303按照微服务的资源调度优先级从低到高的顺序确定削减资源的微服务，从而优先削减重要性低的微服务的资源，保证重要性高的微服务的执行效率。这样的微服务资源调度系统无论在扩容还是缩容过程中均能够有效保证重要性高的微服务的执行效率，进而优化了业务整体的执行效率。
本公开微服务资源调度系统的一个实施例的结构示意图如图4所示。微服务资源调度系统包括存储器401和处理器402。其中：存储器401可以是磁盘、闪存或其它任何非易失性存储介质。存储器用于存储上文中微服务资源调度方法的对应实施例中的指令。处理器402耦接至存储器401，可以作为一个或多个集成电路来实施，例如微处理器或微控制器。该处理器402用于执行存储器中存储的指令，能够实现能够准确定位业务的瓶颈微服务，及时优化业务执行效率。
在一个实施例中，还可以如图5所示，微服务资源调度系统500包括存储器501和处理器502。处理器502通过BUS总线503耦合至存储器501。该微服务资源调度系统500还可以通过存储接口504连接至外部存储装置505以便调用外部数据，还可以通过网络接口506连接至网络或者另外一台计算机系统(未标出)。此处不再进行详细介绍。
在该实施例中，通过存储器存储数据指令，再通过处理器处理上述指令，能够准确定位业务的瓶颈微服务，及时优化业务执行效率。
在另一个实施例中，一种计算机可读存储介质，其上存储有计算机程序指令，该指令被处理器执行时实现微服务资源调度方法对应实施例中的方法的步骤。本领域内的技术人员应明白，本公开的实施例可提供为方法、装置、或计算机程序产品。因此，本公开可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本公开可采用在一个或多个其中包含有计算机可用程序代码的计算机可用非瞬时性存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本公开是参照根据本公开实施例的方法、设备(系统)和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
至此，已经详细描述了本公开。为了避免遮蔽本公开的构思，没有描述本领域所公知的一些细节。本领域技术人员根据上面的描述，完全可以明白如何实施这里公开的技术方案。
可能以许多方式来实现本公开的方法以及装置。例如，可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法以及装置。用于所述方法的步骤的上述顺序仅是为了进行说明，本公开的方法的步骤不限于以上具体描述的顺序，除非以其它方式特别说明。此外，在一些实施例中，还可将本公开实施为记录在记录介质中的程序，这些程序包括用于实现根据本公开的方法的机器可读指令。因而，本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。
最后应当说明的是：以上实施例仅用以说明本公开的技术方案而非对其限制；尽管参照较佳实施例对本公开进行了详细的说明，所属领域的普通技术人员应当理解：依然可以对本公开的具体实施方式进行修改或者对部分技术特征进行等同替换；而不脱离本公开技术方案的精神，其均应涵盖在本公开请求保护的技术方案范围当中。

Claims (16)

1.一种微服务资源调度方法，包括：
针对每个微服务，获取微服务的运行状态信息，所述运行状态信息中包括调度指标；
在所述调度指标达到预定调度门限时，根据所述预定状态信息和调用所述微服务的业务的权重确定所述微服务的资源调度优先级；
根据所述资源调度优先级选择作为资源调度对象的所述微服务。
2.根据权利要求1所述的方法，其中，
所述运行状态信息包括CPU利用率、内存利用率、服务处理时延、服务调用频次中的多项；
和/或，
所述调度指标包括CPU利用率和/或内存利用率。
3.根据权利要求1所述的方法，其中，所述调度指标达到预定调度门限包括：
所述调度指标高于预定高门限和所述调度指标低于预定低门限。
4.根据权利要求1所述的方法，其中，所述确定所述微服务的资源调度优先级包括：
根据与该微服务相关的业务的权重，所述微服务处理时间占总处理时间比重和所述微服务的调用频率，确定所述微服务的重要性评估值；
根据各个调度指标达到预定调度门限的微服务的重要性评估值确定所述微服务的资源调度优先级。
5.根据权利要求4所述的方法，其中，所述根据与该微服务相关的业务的权重，所述微服务处理时间占总处理时间比重和所述微服务的调用频率，确定所述微服务的重要性评估值包括：
根据公式
Figure FDA0001858032540000011
确定所述微服务的重要性评估值，其中，i为微服务标识，1≤i≤r，r为微服务数量，j为业务标识，所述Wi为微服务i的重要性评估值，Si为与微服务i相关的业务，ti为微服务i的处理时延，Tj为业务j的响应时间，Bj为业务j的权重，Fi为微服务被调用的频次。
6.根据权利要求1所述的方法，还包括：
当达到预定时钟周期时，选择作为资源调度对象的所述微服务，重置计时时钟并执行资源调度。
7.根据权利要求1～6任意一项所述的方法，其中，所述根据所述资源调度优先级选择作为资源调度对象的所述微服务包括：
当系统资源充足或调度指标高于预定高门限时，按照所述资源调度优先级从高到低的顺序选择增加资源的微服务；和/或
当系统资源紧缺或微服务的调度指标低于预定低门限时，按照所述微服务的资源调度优先级从低到高的顺序确定削减资源的微服务。
8.一种微服务资源调度系统，包括：
运行状态获取单元，被配置为针对每个微服务，获取微服务的运行状态信息，所述运行状态信息中包括调度指标；
优先级确定单元，被配置为在所述调度指标达到预定调度门限时，根据所述预定状态信息和调用所述微服务的业务的权重确定所述微服务的资源调度优先级；
微服务选择单元，被配置为根据所述资源调度优先级选择作为资源调度对象的所述微服务。
9.根据权利要求8所述的系统，其中，
所述运行状态信息包括CPU利用率、内存利用率、服务处理时延、服务调用频次中的多项；
和/或，
所述调度指标包括CPU利用率和/或内存利用率。
10.根据权利要求8所述的系统，其中，所述调度指标达到预定调度门限包括：
所述调度指标高于预定高门限和所述调度指标低于预定低门限。
11.根据权利要求8所述的系统，其中，所述优先级确定单元被配置为：
根据与该微服务相关的业务的权重，所述微服务处理时间占总处理时间比重和所述微服务的调用频率，确定所述微服务的重要性评估值；
根据各个调度指标达到预定调度门限的微服务的重要性评估值确定所述微服务的资源调度优先级。
12.根据权利要求11所述的系统，其中，所述优先级确定单元被配置为根据公式
Figure FDA0001858032540000031
确定所述微服务的重要性评估值，其中，i为微服务标识，1≤i≤r，r为微服务数量，j为业务标识，所述Wi为微服务i的重要性评估值，Si为与微服务i相关的业务，ti为微服务i的处理时延，Tj为业务j的响应时间，Bj为业务j的权重，Fi为微服务被调用的频次。
13.根据权利要求1所述的系统，还包括：
计时单元，被配置为按照预定时钟周期计时，当达到预定时钟周期时，激活所述微服务选择单元选择作为资源调度对象的所述微服务，重置计时时钟。
14.根据权利要求8～13任意一项所述的系统，其中，所述微服务选择单元被配置为：
当系统资源充足或调度指标高于预定高门限时，按照所述资源调度优先级从高到低的顺序为微服务补充资源；和/或
当系统资源紧缺或微服务的调度指标低于预定低门限时，按照所述微服务的资源调度优先级从低到高的顺序为微服务削减资源。
15.一种微服务资源调度系统，包括：
存储器；以及
耦接至所述存储器的处理器，所述处理器被配置为基于存储在所述存储器的指令执行如权利要求1至7任一项所述的方法。
16.一种计算机可读存储介质，其上存储有计算机程序指令，该指令被处理器执行时实现权利要求1至7任意一项所述的方法的步骤。
CN201811323104.0A 2018-11-08 2018-11-08 微服务资源调度方法和系统 Pending CN111158895A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811323104.0A CN111158895A (zh) 2018-11-08 2018-11-08 微服务资源调度方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811323104.0A CN111158895A (zh) 2018-11-08 2018-11-08 微服务资源调度方法和系统

Publications (1)

Publication Number Publication Date
CN111158895A true CN111158895A (zh) 2020-05-15

Family

ID=70555392

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811323104.0A Pending CN111158895A (zh) 2018-11-08 2018-11-08 微服务资源调度方法和系统

Country Status (1)

Country Link
CN (1) CN111158895A (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111880898A (zh) * 2020-07-27 2020-11-03 山东省计算中心（国家超级计算济南中心） 一种基于微服务架构的服务调度方法及其实现系统
CN112181818A (zh) * 2020-09-23 2021-01-05 中国电子技术标准化研究院 开源社区中的微服务架构工业app测试方法及系统
CN112491581A (zh) * 2020-10-30 2021-03-12 中国人寿保险股份有限公司 一种服务性能监控管理方法及装置
CN112817717A (zh) * 2021-01-28 2021-05-18 新华三大数据技术有限公司 一种定时任务的调度方法及装置
CN113037812A (zh) * 2021-02-25 2021-06-25 中国工商银行股份有限公司 数据包调度方法、装置、电子设备、介质和智能网卡
CN114915663A (zh) * 2022-03-21 2022-08-16 北京沃东天骏信息技术有限公司 请求响应方法、装置、系统、电子设备和介质
US11693766B2 (en) 2021-06-15 2023-07-04 International Business Machines Corporation Resource allocation in microservice architectures
WO2024066518A1 (zh) * 2022-09-27 2024-04-04 中兴通讯股份有限公司 效率瓶颈检测的方法和装置、计算机可读介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106227605A (zh) * 2016-07-26 2016-12-14 北京北森云计算股份有限公司 一种多语言云编译的动态微服务扩容方法及装置
CN106293704A (zh) * 2016-07-26 2017-01-04 北京北森云计算股份有限公司 多语言云编译的动态微服务编辑方法、装置和服务器
CN107239329A (zh) * 2016-03-29 2017-10-10 西门子公司 云环境下统一资源调度方法及系统
CN108234589A (zh) * 2016-12-22 2018-06-29 瞻博网络公司 微服务应用的自动缩放

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107239329A (zh) * 2016-03-29 2017-10-10 西门子公司 云环境下统一资源调度方法及系统
CN106227605A (zh) * 2016-07-26 2016-12-14 北京北森云计算股份有限公司 一种多语言云编译的动态微服务扩容方法及装置
CN106293704A (zh) * 2016-07-26 2017-01-04 北京北森云计算股份有限公司 多语言云编译的动态微服务编辑方法、装置和服务器
CN108234589A (zh) * 2016-12-22 2018-06-29 瞻博网络公司 微服务应用的自动缩放

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111880898A (zh) * 2020-07-27 2020-11-03 山东省计算中心（国家超级计算济南中心） 一种基于微服务架构的服务调度方法及其实现系统
CN111880898B (zh) * 2020-07-27 2022-04-05 山东省计算中心（国家超级计算济南中心） 一种基于微服务架构的服务调度方法及其实现系统
CN112181818A (zh) * 2020-09-23 2021-01-05 中国电子技术标准化研究院 开源社区中的微服务架构工业app测试方法及系统
CN112181818B (zh) * 2020-09-23 2023-06-27 中国电子技术标准化研究院 基于变组合强度的微服务架构工业app测试方法及系统
CN112491581A (zh) * 2020-10-30 2021-03-12 中国人寿保险股份有限公司 一种服务性能监控管理方法及装置
CN112817717A (zh) * 2021-01-28 2021-05-18 新华三大数据技术有限公司 一种定时任务的调度方法及装置
CN112817717B (zh) * 2021-01-28 2024-02-09 新华三大数据技术有限公司 一种定时任务的调度方法及装置
CN113037812A (zh) * 2021-02-25 2021-06-25 中国工商银行股份有限公司 数据包调度方法、装置、电子设备、介质和智能网卡
US11693766B2 (en) 2021-06-15 2023-07-04 International Business Machines Corporation Resource allocation in microservice architectures
CN114915663A (zh) * 2022-03-21 2022-08-16 北京沃东天骏信息技术有限公司 请求响应方法、装置、系统、电子设备和介质
WO2024066518A1 (zh) * 2022-09-27 2024-04-04 中兴通讯股份有限公司 效率瓶颈检测的方法和装置、计算机可读介质

Similar Documents

Publication Publication Date Title
CN111158895A (zh) 微服务资源调度方法和系统
US10936359B2 (en) Task resource scheduling method and apparatus
US8397235B2 (en) User tolerance based scheduling method for aperiodic real-time tasks
US10459915B2 (en) Managing queries
WO2017105750A1 (en) Techniques to generate workload performance fingerprints for cloud infrastructure elements
CN110545326B (zh) 集群负载调度方法、装置、电子设备和存储介质
US20140068613A1 (en) Non-transitory computer-readable storage medium, information processing apparatus and scheduling method
US10712945B2 (en) Deduplication processing method, and storage device
CN102111337A (zh) 任务调度方法和系统
US8789054B2 (en) Scheduling policy for efficient parallelization of software analysis in a distributed computing environment
US20180107503A1 (en) Computer procurement predicting device, computer procurement predicting method, and recording medium
US20230305880A1 (en) Cluster distributed resource scheduling method, apparatus and device, and storage medium
JP2005011023A (ja) ジョブスケジューリング方法及びシステム
US20150026694A1 (en) Method of processing information, storage medium, and information processing apparatus
CN106649042B (zh) 一种cpu负载信息的处理方法及处理装置
CN113052467B (zh) 基于运维成本的共享车辆调度方法及装置
CN117369941A (zh) Pod调度方法和系统
CN108664322A (zh) 数据处理方法及系统
CN107229519B (zh) 任务调度方法和装置
CN115914237A (zh) 一种边缘环境下的深度学习任务调度方法、设备及介质
US11736562B1 (en) Method and system for achieving high availability of service under high-load scene in distributed system
CN114461356A (zh) 调度器进程数量的控制方法、IaaS云平台调度系统
CN114064226A (zh) 容器集群的资源调协方法、调协装置及存储介质
CN113467901A (zh) 一种任务调度的方法及相关设备
JP2014021714A (ja) 仮想マシン管理装置、仮想マシン管理方法、及び、プログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20200515