CN112328387A - 一种面向多租户的微服务资源调度方法 - Google Patents

一种面向多租户的微服务资源调度方法 Download PDF

Info

Publication number
CN112328387A
CN112328387A CN202010919834.8A CN202010919834A CN112328387A CN 112328387 A CN112328387 A CN 112328387A CN 202010919834 A CN202010919834 A CN 202010919834A CN 112328387 A CN112328387 A CN 112328387A
Authority
CN
China
Prior art keywords
tenant
component
tenants
adjusted
constraint
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010919834.8A
Other languages
English (en)
Inventor
郑杰生
赖蔚蔚
谢彬瑜
吴广财
陈非
蒋道环
叶杭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Electric Power Information Technology Co Ltd
Original Assignee
Guangdong Electric Power Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Electric Power Information Technology Co Ltd filed Critical Guangdong Electric Power Information Technology Co Ltd
Priority to CN202010919834.8A priority Critical patent/CN112328387A/zh
Publication of CN112328387A publication Critical patent/CN112328387A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083—Techniques for rebalancing the load in a distributed system

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明揭示一种面向多租户的微服务资源调度方法，对租户实施应用级粒度、组件级粒度的监测，与任务管理器相绑定，收集租户运行时的状态信息和资源使用信息，调整应用及组件的容量，并通过租户请求的并发控制对租户实施隔离。应用本发明上述方案，能够感知和管理租户整体以及局部单元，从而避免了交互协议重构，并且对租户的最大并发规模进行调整，以适应租户负载动态变化时所产生的性能波动，解决了租户隔离以及资源侵占的问题，提高了面向多租户的微服务性能。

Description

一种面向多租户的微服务资源调度方法
技术领域
本发明涉及一种服务器资源调度方法，尤其涉及一种面向多租户的微服务资源动态调度方法，属于软件技术领域。
背景技术
微服务服务器是为事务性微服务提供一系列运行时服务的中间件平台，在高共享程度的多租户模式下，往往作为租户应用的宿主平台而使用。在多租户微服务场景中，对应用服务器性能的衡量主要存在以下两种，一种是应用服务器的服务提供能力，包括其线程池的大小，任务线程的绑定与回收，可承载的租户数量等，以及应用服务器所在物理主机的资源提供能力，包括CPU计算能力，内存，存储空间大小，网络带宽等，这种性能指标取决于硬件的性能和应用服务器的实现以及配置，具有明确的衡量标准。当租户的外部请求规模超过应用服务器所能处理的范围时，就会出现严重的性能下降。另一种是以租户服务质量保证为度量的性能指标，对不同租户而言，每个租户对服务质量的要求是不同的，在多租户环境下，资源总量固定，一个租户占用较多服务资源必将对其他租户的服务质量产生影响，如何平衡租户所享有的服务质量，以及在发生资源侵占时对租户的服务质量进行优化配置，是保证应用服务器多租户性能的一个重要问题。因而对微服务服务器多租户性能的考量，可以看作租户是否能够获取满足其服务质量需求的服务资源，以及在多租户模式下应用服务器资源的合理分配和有效利用。这里，性能管理的本质是通过对租户在请求服务时所享有的资源进行合理分配和管理，从而使得应用服务器性能满足租户服务要求的一种管理方式。
资源是一种系统元素，可以分为物理资源和逻辑资源，其中物理资源是指可度量的物理实体，如处理器、内存、硬盘存储、网络带宽等，逻辑资源是物理资源的逻辑映射，如进程，线程，文件等系统元素，对微服务来讲，其主要所面向的资源为逻辑资源，可以分为两类，一类是应用业务逻辑层运算资源，即为具有主动执行能力的逻辑资源，如任务线程等，另一类是数据资源，包括用户信息，配置等。
发明内容
本发明的目的旨在提出一种面向多租户的微服务资源调度方法，解决高共享程度的多租户模式下容易出现的租户资源侵占问题，对租户提供性能保证。
本发明实现上述目的的技术解决方案是，一种面向多租户的微服务资源调度方法，其特征在于：对租户实施应用级粒度、组件级粒度的监测，与任务管理器相绑定，收集租户运行时的状态信息和资源使用信息，调整应用及组件的容量，并通过租户请求的并发控制对租户实施隔离。
上述面向多租户的微服务资源调度方法，进一步包括：第一步，资源检测：当租户请求到达时，先得到上下文信息，获取当前请求的约束策略及相关联的任务管理器，进行并发任务量的约束检查；第二步，请求执行：将请求处理过程分为不同粒度的原子操作并执行，在请求执行完成后，执行信号量操作，并判断是否唤醒等待队列中挂起的线程；第三步，应用容量调整：获取服务器节点的资源使用量
Figure 622845DEST_PATH_IMAGE002
，当时系统处于过载状态，检查租户当前CPU占用率，如果达到或超出当前CPU最大资源约束AU i max 则将该租户加入待调整集合，如果未达到AU i max 则按在中的比例确定待调整租户并加入待调整集合，然后检查待调整集合中每个租户的当前并发规模和最大并发容量，将置为缩小并发规模；当时系统尚有资源空闲，检查所有租户的等待任务数；如果租户的等待任务数非零则获取该租户对应的当前并发规模，并根据当前并发规模和等待任务数增加最大并发容量；如果所有租户的并发规模均未达到最大并发数限制则不做调整；其中GUmax为最大资源使用率，ACi adj为定义的应用级危险阈值，i为2以上的任意自然数，指代各个租户；第四步，组件容量调整：当服务器节点的资源使用量时，检查所有租户的当前CPU占用率，将达到或超过最大资源约束AU i max 的租户组件加入待调整集合；如果未达到AU i max ，则按在中所占比例以及每个租户i的组件j的CPU占用率在中所占比例确定待调整租户的待调整组件，并加入待调整集合中；然后检查待调整集合中租户i的组件j的已用容量和最大并发容量，将置为缩小并发规模；当时，对的租户i检查组件j当前CPU占用率,且当,则将组件j加入待调整集合中缩小该组件的并发规模；对的租户，检查所有租户i的组件j的等待任务数；如等待任务数非零则获取该组件的已用容量，并根据当前已用容量和等待任务数增加最大并发容量；如果所有组件的并发规模均未达到最大并发数限制则不做调整。其中CC ij adj 为自定义的组件级危险阈值。
应用本发明上述微服务资源动态调度解决方案，具备突出的实质性特点和显著的进步性：该方法能够感知和管理租户整体以及局部单元，从而避免了交互协议重构，并且对租户的最大并发规模进行调整，以适应租户负载动态变化时所产生的性能波动，解决了租户隔离以及资源侵占的问题，提高了面向多租户的微服务性能。
附图说明
图1为本发明微服务资源动态调度的系统架构示意图。
具体实施方式
在多租户微服务场景下，租户的隔离也包括运算资源隔离和数据资源隔离两部分，对数据部分的隔离研究较多，多是通过对数据库的不同层次的隔离而实现，而在运算资源部分，租户的隔离多从请求调度和请求处理过程入手。
从该微服务资源动态调度的创新原理来看：对租户提供细粒度的管理，收集租户运行时状态信息和资源使用信息，调整应用及组件的容量，并通过租户请求的并发控制对租户实施隔离；以此避免租户资源侵占现象的发生，提供良好的性能保证。
从具体实现步骤来看主要包括：第一步，资源检测：租户的一次请求处理过程中可能包含多个组件或服务的调用。信号量是操作系统中实现同步和互斥的一种普遍机制，包含一个非负的整型信号变量，并带有P，V两个原子操作。利用信号量机制对执行租户请求处理任务的线程资源的在租户和租户内部组件两种粒度约束策略下进行并发控制。每个约束策略包含一个由信号量控制的最大并发任务量，当执行租户请求处理任务的线程在某个信号量上执行P操作时，相当于请求增加任务并发量，如信号量为0，表示该任务并发量已达上限，则线程会被挂起，进入等待队列；当应用请求任务完成或离开组件时，执行V操作，并唤醒队列中等待的线程。在一次请求处理过程中复用同一线程来执行多次组件调用，各组件仍以同步方式进行交互，避免了组件交互协议的重构以及线程切换带来的状态维护代价，同时，排除了死锁与饿死隐患。
当租户请求到达时，先得到请求的上下文信息，然后根据上下文信息获取当前请求的约束策略以及相关联的任务管理器（以下简称为）。接着，进行并发任务量的约束检查，若约束策略为应用级约束策略，则对租户应用进行全局并发控制。首先得到当前租户i的上的请求应用并发信号量，对其进行P操作，同时检查约束条件是否满足，如满足，则该线程继续执行，否则挂起该线程，并放入等待队列。若约束策略为组件级约束策略，则对租户应用内部的组件进行局部并发控制。与应用级约束策略的区别在于，需要判断所请求的组件是否为该请求的首个组件。如果非首个组件，则需要对租户i所请求组件的并发信号量进行V操作，并判断是否需要唤醒等待队列中挂起的线程。对未满足约束条件的线程，在当前信号量中睡眠并等待唤醒，满足约束的线程直接进入调度序列调度执行。
第二步，请求执行：根据上一阶段的约束策略，将请求处理过程分为不同粒度的原子操作并执行。即执行租户应用或者组件的原生方法。在请求执行完成后，对当前的的信号量(
Figure 743248DEST_PATH_IMAGE004
或)执行V操作，并判断是否唤醒等待队列中挂起的线程。若约束策略为组件级约束策略，在释放当前组件上的信号量后，需判断当前请求是否需要返回上级组件继续执行，如存在上级组件，则当前线程请求上级组件约束，继续执行上级组件中的处理流程。对租户来讲，其对资源的需求并非一直固定，如果租户所依靠的终端用户访问量下降，或者在租户应用中增加新的特性使其终端用户访问量上升，为节省成本或者满足终端用户的体验，就需要减少或增加资源的最大占有率，而在租户应用中的不同的组件部分也具有不同的资源访问开销，如果依据监测数据手工的设置每个租户的最大并发约束，任务量较大，且在租户负载变化较频繁时，不利于系统的整体性能最优化，因此需要建立一种自适应的并发量控制机制，来对系统资源进行优化调整。
在系统状态变化时对租户的最大并发规模进行调整，当租户资源占用量到达危险阈值时，自动降低其最大并发数量，使其不会发生性能侵占，此外，在系统具有一定空闲时，放宽对资源占用不足的租户的并发限制。管理人员根据租户QoS需求，预先设定服务器最大资源使用率，以及每个租户的最大资源使用率和，运行时采用层次控制的方法，针对不同粒度的约束策略采用不同的处理方式。
第三步，应用容量调整：在应用级管理粒度下，首先获取服务器节点的资源使用量，当时系统处于过载状态，检查租户当前CPU占用率，如果达到或超出当前CPU最大资源约束AU i max 则将该租户加入待调整集合，如果未达到AU i max 则按在
Figure 54143DEST_PATH_IMAGE002
中的比例确定待调整租户并加入待调整集合，然后检查待调整集合中每个租户的当前并发规模
Figure DEST_PATH_IMAGE006
和最大并发容量，将置为缩小并发规模；当时系统尚有资源空闲，检查所有租户的等待任务数；如果租户的等待任务数非零则获取该租户对应的当前并发规模，并根据当前并发规模和等待任务数增加最大并发容量；如果所有租户的并发规模均未达到最大并发数限制则不做调整；其中GUmax为最大资源使用率，ACi adj为自定义的应用级危险阈值，i为2以上的任意自然数，指代各个租户。
第四步，组件容量调整：在组件级管理粒度下，当时，检查所有租户的以及，将超过最大CPU资源约束的租户组件加入待调整集合，同样如不存在此类租户或组件，则按在
Figure DEST_PATH_IMAGE008
中所占比例以及每个租户的组件CPU占用率在中所占比例确定待调整租户的待调整组件，加入待调整集合中。然后检查集合中每个租户组件的当前并发规模和最大并发容量，将置为，即缩小并发规模,当时，对的租户，检查所有组件的，如果,则将该组件加入待调整集合中，缩小该组件的并发规模，对的租户，检查所有组件的，如等待任务数非零，则获得该组件的，根据其当前值和等待任务数目，增加最大并发容量
Figure DEST_PATH_IMAGE010
，如果所有组件的并发规模均未达到其最大并发数限制，则不做调整，其中CC ij adj 为自定义的组件级危险阈值。
以下结合图1所示微服务资源动态调度的系统架构示意图，进行详细说明本发明的实施例及其方法流程：底层控制模块对租户请求进行并发控制，进行约束检查以及信号量操作的主要场景位于任务管理器作用范围内。请求分发器将租户请求与一个互斥信号量相绑定成为一个带自阻塞能力的任务实例，然后分发到相关联的任务管理器单元进行处理，任务管理器单元负责在约束信号量上执行P，V操作，并将任务实例加入或取出等待队列，同时容量控制器根据外部资源约束以及任务管理器的实时任务状态，对约束信号量的最大值（并发规模）进行调整。根据其功能实现的层次不同，并发控制模块可以分为信号量底层控制模块和自适应容量调整模块两部分。
底层控制模块负责对租户的当前请求进行并发控制，其任务流程属于管理框架请求处理流程的子流程为：
（1）、请求到达请求管理器时，请求管理器将其与一个互斥信号量绑定，封装成一个任务，并向其所属的任务管理器请求资源。
（2）、任务管理器接收到请求资源的消息后，检查其最大并发约束，对其执行资源信号量的P操作，如当前资源信号量的值大于0，则同意获取资源，执行当前任务，同时资源信号量的值减少，否则将其阻塞在互斥信号量上，加入资源信号量等待队列。
（3）、当一个任务执行完成后，向任务管理器发出释放资源请求，任务管理器检查最大并发约束，对其执行资源信号量的V操作，如当前资源信号量的值大于0，则直接增加资源信号量的值，然后返回，如当前资源信号量的值等于0，则从等待队列中取出一个排队任务，从互斥信号量中唤醒，继续执行，如等待队列为空，则增加资源信号量的计数。
（4）、任务执行完成后，返回租户响应。
容量调整模块负责在系统运行时调整任务管理器所绑定的被管单元的最大并发规模。性能管理系统提供了手动和自动调整两种模式，手动模式是指管理人员通过管理控制台直接对被管理单元的最大并发规模进行调整，自动模式是通过管理控制台读入租户SLA约束条件，根据系统当前状态决定并发规模的调整。容量调整模块的任务流程为：
（1）、管理人员通过管理控制台，直接对任务管理器进行并发规模控制，任务管理器接到控制信号后，修改最大并发约束值。
（2）、管理人员设定租户的SLA约束，在性能管理系统中，SLA约束即租户或租户组件所能占用的CPU占用率的最大值。
（3）、手动模式与自动模式可通过管理控制台进行切换，自动调整模式下，并发控制服务周期性执行容量控制器的功能，容量控制器获得租户SLA约束，以及任务管理器运行的状态信息，获取待调整任务管理器，依次对其进行控制，修改最大并发约束值。
综上关于本发明微服务资源动态调度方法的实施例详述可见，该方法能够感知和管理租户整体以及局部单元，从而避免了交互协议重构，并且对租户的最大并发规模进行调整，以适应租户负载动态变化时所产生的性能波动，解决了租户隔离以及资源侵占的问题，提高了面向多租户的微服务性能。
除上述实施例外，本发明还可以有其它实施方式，凡采用等同替换或等效变换形成的技术方案，均落在本发明所要求保护的范围之内。

Claims (4)

1.一种面向多租户的微服务资源调度方法，其特征在于：对租户实施应用级粒度、组件级粒度的监测，与任务管理器相绑定，收集租户运行时的状态信息和资源使用信息，调整应用及组件的容量，并通过租户请求的并发控制对租户实施隔离。
2.根据权利要求1所述面向多租户的微服务资源调度方法，其特征在于包括：
第一步，资源检测：当租户请求到达时，先得到上下文信息，获取当前请求的约束策略及相关联的任务管理器，进行并发任务量的约束检查；
第二步，请求执行：将请求处理过程分为不同粒度的原子操作并执行，在请求执行完成后，执行信号量操作，并判断是否唤醒等待队列中挂起的线程；
第三步，应用容量调整：获取服务器节点的资源使用量
Figure RE-DEST_PATH_IMAGE001
，当
Figure RE-DEST_PATH_IMAGE002
时系统处于过载状态，检查租户当前CPU占用率
Figure RE-DEST_PATH_IMAGE003
，如果达到或超出当前CPU最大资源约束
Figure RE-DEST_PATH_IMAGE004
则将该租户加入待调整集合，如果未达到
Figure RE-277050DEST_PATH_IMAGE004
则按
Figure RE-974617DEST_PATH_IMAGE003
在
Figure RE-19933DEST_PATH_IMAGE001
中的比例确定待调整租户并加入待调整集合，然后检查待调整集合中每个租户的当前并发规模
Figure RE-DEST_PATH_IMAGE005
和最大并发容量
Figure RE-DEST_PATH_IMAGE006
，将
Figure RE-743038DEST_PATH_IMAGE006
置为
Figure RE-DEST_PATH_IMAGE007
缩小并发规模；当
Figure RE-DEST_PATH_IMAGE008
时系统尚有资源空闲，检查所有租户的等待任务数；如果租户的等待任务数
Figure RE-DEST_PATH_IMAGE009
非零则获取该租户对应的当前并发规模
Figure RE-901618DEST_PATH_IMAGE005
，并根据当前并发规模
Figure RE-255239DEST_PATH_IMAGE005
和等待任务数
Figure RE-787852DEST_PATH_IMAGE009
增加最大并发容量
Figure RE-790616DEST_PATH_IMAGE006
；如果所有租户的并发规模均未达到最大并发数限制则不做调整；其中
Figure RE-DEST_PATH_IMAGE010
为最大资源使用率，
Figure RE-DEST_PATH_IMAGE011
为自定义的应用级危险阈值，i为2以上的任意自然数，指代各个租户；
第四步，组件容量调整：当服务器节点的资源使用量
Figure RE-DEST_PATH_IMAGE012
时，检查所有租户的当前CPU占用率
Figure RE-69281DEST_PATH_IMAGE003
，将达到或超过最大资源约束
Figure RE-DEST_PATH_IMAGE013
的租户组件加入待调整集合；如果未达到
Figure RE-859383DEST_PATH_IMAGE004
，则按
Figure RE-144871DEST_PATH_IMAGE003
在中所占比例以及每个租户i的组件j的CPU占用率
Figure RE-RE-DEST_PATH_IMAGE014
在
Figure RE-413041DEST_PATH_IMAGE003
中所占比例确定待调整租户的待调整组件，并加入待调整集合中；然后检查待调整集合中租户i的组件j的已用容量
Figure RE-DEST_PATH_IMAGE015
和最大并发容量
Figure RE-RE-DEST_PATH_IMAGE016
，将
Figure RE-513590DEST_PATH_IMAGE016
置为
Figure RE-DEST_PATH_IMAGE017
缩小并发规模；当
Figure RE-RE-DEST_PATH_IMAGE018
时，对
Figure RE-DEST_PATH_IMAGE019
的租户i检查组件j当前CPU占用率,且当
Figure RE-RE-DEST_PATH_IMAGE020
,则将组件j加入待调整集合中缩小该组件的并发规模；对
Figure RE-DEST_PATH_IMAGE021
的租户，检查所有租户i的组件j的等待任务数
Figure RE-RE-DEST_PATH_IMAGE022
；如等待任务数非零则获取该组件的已用容量
Figure RE-349959DEST_PATH_IMAGE015
，并根据当前已用容量
Figure RE-591584DEST_PATH_IMAGE015
和等待任务数
Figure RE-912713DEST_PATH_IMAGE022
增加最大并发容量
Figure RE-DEST_PATH_IMAGE023
；如果所有组件的并发规模均未达到最大并发数限制则不做调整，其中
Figure RE-RE-DEST_PATH_IMAGE024
为自定义的组件级危险阈值。
3.根据权利要求2所述面向多租户的微服务资源调度方法，其特征在于：第一步中，若约束策略为组件级约束策略，在释放当前组件信号量管理器上的信号量后，还需判断当前请求是否需要返回上级组件继续执行。
4.根据权利要求2所述面向多租户的微服务资源调度方法，其特征在于：第一步中，若约束策略为应用级约束策略，则对租户应用进行全局并发控制；若约束策略为组件级约束策略，则对租户应用内部的组件进行局部并发控制；如果非首个组件，则需要对租户所请求组件的并发信号进行信号量操作，并判断是否需要唤醒等待队列中挂起的线程；对未满足约束条件的线程在当前信号量中睡眠并等待唤醒，对满足约束条件的线程直接进入调度序列执行调度。
CN202010919834.8A 2020-09-04 2020-09-04 一种面向多租户的微服务资源调度方法 Pending CN112328387A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010919834.8A CN112328387A (zh) 2020-09-04 2020-09-04 一种面向多租户的微服务资源调度方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010919834.8A CN112328387A (zh) 2020-09-04 2020-09-04 一种面向多租户的微服务资源调度方法

Publications (1)

Publication Number Publication Date
CN112328387A true CN112328387A (zh) 2021-02-05

Family

ID=74304476

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010919834.8A Pending CN112328387A (zh) 2020-09-04 2020-09-04 一种面向多租户的微服务资源调度方法

Country Status (1)

Country Link
CN (1) CN112328387A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11782767B2 (en) 2021-04-26 2023-10-10 Oracle International Corporation Techniques for consistent multi-tenant behavior in microservices based applications

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110149737A1 (en) * 2009-12-23 2011-06-23 Manikam Muthiah Systems and methods for managing spillover limits in a multi-core system
US20140007121A1 (en) * 2012-06-29 2014-01-02 International Business Machines Corporation Light weight workload management server integration
CN103544319A (zh) * 2013-11-06 2014-01-29 浪潮(北京)电子信息产业有限公司 一种多租户共享数据库的方法和多租户数据库即服务系统
US20180225137A1 (en) * 2017-02-03 2018-08-09 Microsoft Technology Licensing, Llc Resource management for virtual machines in cloud computing systems
CN109669758A (zh) * 2018-09-11 2019-04-23 深圳平安财富宝投资咨询有限公司 服务器资源的调配方法、装置、设备及存储介质
CN109960591A (zh) * 2019-03-29 2019-07-02 神州数码信息系统有限公司 一种面向租户资源侵占的云应用资源动态调度的方法
CN109992412A (zh) * 2019-02-19 2019-07-09 广州视源电子科技股份有限公司 云服务器的容量调节方法、装置、存储介质和云服务器
CN110009311A (zh) * 2019-04-12 2019-07-12 广东电网有限责任公司信息中心 一种面向电网企业的私有云租户管理方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110149737A1 (en) * 2009-12-23 2011-06-23 Manikam Muthiah Systems and methods for managing spillover limits in a multi-core system
US20140007121A1 (en) * 2012-06-29 2014-01-02 International Business Machines Corporation Light weight workload management server integration
CN103544319A (zh) * 2013-11-06 2014-01-29 浪潮(北京)电子信息产业有限公司 一种多租户共享数据库的方法和多租户数据库即服务系统
US20180225137A1 (en) * 2017-02-03 2018-08-09 Microsoft Technology Licensing, Llc Resource management for virtual machines in cloud computing systems
CN109669758A (zh) * 2018-09-11 2019-04-23 深圳平安财富宝投资咨询有限公司 服务器资源的调配方法、装置、设备及存储介质
CN109992412A (zh) * 2019-02-19 2019-07-09 广州视源电子科技股份有限公司 云服务器的容量调节方法、装置、存储介质和云服务器
CN109960591A (zh) * 2019-03-29 2019-07-02 神州数码信息系统有限公司 一种面向租户资源侵占的云应用资源动态调度的方法
CN110009311A (zh) * 2019-04-12 2019-07-12 广东电网有限责任公司信息中心 一种面向电网企业的私有云租户管理方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11782767B2 (en) 2021-04-26 2023-10-10 Oracle International Corporation Techniques for consistent multi-tenant behavior in microservices based applications
US12067426B2 (en) 2021-04-26 2024-08-20 Oracle International Corporation Techniques for consistent multi-tenant behavior in microservices based applications

Similar Documents

Publication Publication Date Title
CN109960591B (zh) 一种面向租户资源侵占的云应用资源动态调度的方法
CN112199194A (zh) 基于容器集群的资源调度方法、装置、设备和存储介质
CN106452818B (zh) 一种资源调度的方法和系统
US8874811B2 (en) System and method for providing a flexible buffer management interface in a distributed data grid
US8949847B2 (en) Apparatus and method for managing resources in cluster computing environment
US9973512B2 (en) Determining variable wait time in an asynchronous call-back system based on calculated average sub-queue wait time
CN109564528B (zh) 分布式计算中计算资源分配的系统和方法
US20140173620A1 (en) Resource allocation method and resource management platform
CN111522636A (zh) 应用容器的调整方法、调整系统、计算机可读介质及终端设备
JP2013513174A (ja) 仮想マシンのストレージスペースおよび物理ホストを管理するための方法およびシステム
CN110221920B (zh) 部署方法、装置、存储介质及系统
US20090178045A1 (en) Scheduling Memory Usage Of A Workload
CN112783659A (zh) 一种资源分配方法、装置、计算机设备及存储介质
CN111049914B (zh) 负载均衡方法、装置和计算机系统
US20140068165A1 (en) Splitting a real-time thread between the user and kernel space
WO2019011262A1 (zh) 分配资源的方法和装置
CN109117279B (zh) 电子装置及其限制进程间通信的方法、存储介质
WO2020259208A1 (zh) 内存调度方法、装置、设备及存储介质
CN112882827B (zh) 用于负载均衡的方法、电子设备和计算机程序产品
CN115063282A (zh) 一种gpu资源调度方法、装置、设备及存储介质
EP3084603B1 (en) System and method for supporting adaptive busy wait in a computing environment
CN112328387A (zh) 一种面向多租户的微服务资源调度方法
CN117971491A (zh) 进程内资源控制方法、装置、设备及存储介质
JP2023543744A (ja) リソーススケジューリング方法、システム、電子デバイスおよびコンピュータ可読記憶媒体
CN115640113A (zh) 多平面弹性调度方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20210205