CN112068934A - 一种容器云服务实例收缩的控制系统和方法 - Google Patents

一种容器云服务实例收缩的控制系统和方法 Download PDF

Info

Publication number
CN112068934A
CN112068934A CN202010934789.3A CN202010934789A CN112068934A CN 112068934 A CN112068934 A CN 112068934A CN 202010934789 A CN202010934789 A CN 202010934789A CN 112068934 A CN112068934 A CN 112068934A
Authority
CN
China
Prior art keywords
instance
service
deleted
task
controller
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010934789.3A
Other languages
English (en)
Other versions
CN112068934B (zh
Inventor
徐运海
赖伟
陈军
郑博洪
李跃华
文辉
吴安钢
邓云
吴昌泊
郑广凌
吴亿鑫
余策
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangzhou Teligen Communication Technology Co ltd
Original Assignee
Guangzhou Teligen Communication Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangzhou Teligen Communication Technology Co ltd filed Critical Guangzhou Teligen Communication Technology Co ltd
Priority to CN202010934789.3A priority Critical patent/CN112068934B/zh
Publication of CN112068934A publication Critical patent/CN112068934A/zh
Application granted granted Critical
Publication of CN112068934B publication Critical patent/CN112068934B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G06F9/5077—Logical partitioning of resources; Management or configuration of virtualized resources

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本申请公开了一种容器云服务实例收缩的控制系统和方法，弹性伸缩控制器根据预置服务收缩策略，通过资源指标和服务指标判断服务实例是否需要收缩，在其需要收缩时发送实例调整指令至服务实例控制器，资源指标为第一预置时间段的内存的使用率，服务指标为第二预置时间段的实例服务平均响应时长；服务实例控制器在选择待删除实例后，阻止其接收任务，并查询待删除实例的任务状态，当其不存在未完成的任务时，删除待删除实例，解决了现有的容器收缩机制以一段时间内的平均资源使用量作为容器数量收缩的评判依据，存在只以计算资源作为评判标准，收缩的时机判断不精确，以及没有考虑到待收缩的容器上有未跑完的任务，影响业务数据的准确性的技术问题。

Description

一种容器云服务实例收缩的控制系统和方法
技术领域
本申请涉及云计算技术领域，尤其涉及一种容器云服务实例收缩的控制系统和方法。
背景技术
随着云计算技术的发展，容器云以其能提供轻量级的虚拟解决方案，在云计算中占据越来越重要的地位。Kubernetes(K8S)作为主流的容器云编排引擎，其主要负责：镜像管理和分发；容器实例的启动、管理和状态监控；多个服务实例之间的服务发现、负载均衡、扩展、发布和升级等。在K8S中，服务能力可通过水平和垂直两个方向扩展。水平扩展支持增加新的服务实例来提升服务能力，垂直扩展则是通过添加既有服务实例的计算资源(CPU，内存)来提升服务能力。随着容器云应用的逐步深入，人们发现水平扩展比垂直扩展更为方便和直接，因此K8S提供了水平自动伸缩机制(HPA)，也称之为弹性伸缩。
弹性伸缩是容器云技术中常用的一种提高资源利用率的手段，自动伸缩模块接收监控模块的数据，根据弹性伸缩算法，作出服务实例扩展或收缩的决策，并通知K8S调度模块执行决策。以网站访问量为例，通常在午夜时分访问量较低，则弹性伸缩机制可以安排部分服务实例在夜间停止运行。与之相对的，当网站访问量在白天达到高峰时，会启动更多服务实例提供网站的访问。
现有的容器收缩机制以一段时间内的平均资源使用量作为容器数量收缩的评判依据，存在两个问题：首先，只以计算资源作为评判标准，收缩的时机判断不精确；其次，一刀切的收缩方式不安全，没有考虑到待收缩的容器上有未跑完的任务，影响业务数据的准确性。
发明内容
本申请提供了一种容器云服务实例收缩的控制系统和方法，用于解决现有的容器收缩机制以一段时间内的平均资源使用量作为容器数量收缩的评判依据，存在只以计算资源作为评判标准，收缩的时机判断不精确，以及没有考虑到待收缩的容器上有未跑完的任务，影响业务数据的准确性的技术问题。
有鉴于此，本申请第一方面提供了一种容器云服务实例收缩的控制系统，包括：弹性伸缩控制器和服务实例控制器；
所述弹性伸缩控制器，用于根据预置服务收缩策略，通过采集的资源指标和服务指标判断服务实例是否需要收缩，并在判断所述服务实例需要收缩时，发送实例调整指令至所述服务实例控制器，其中，所述资源指标为第一预置时间段的内存的使用率，所述服务指标为第二预置时间段的实例服务平均响应时长；
所述服务实例控制器，用于从所述服务实例中选择待删除实例后，阻止所述待删除实例接收任务，并查询所述待删除实例的任务状态，根据所述任务状态确定所述待删除实例是否存在未完成的任务，若是，则实时监测所述待删除实例的任务状态，当监测到所述待删除实例中不存在未完成的任务时，删除所述待删除实例，若否，则删除所述待删除实例。
可选的，还包括：
资源指标收集器，用于根据所述预置服务收缩策略采集资源指标。
可选的，还包括：
服务指标收集器，用于根据所述预置服务收缩策略采集服务指标。
可选的，当所述任务为外部请求时，还包括：负载均衡器；
所述负载均衡器，用于接收所述外部请求；
所述服务实例控制器，具体用于从所述服务实例中选择待删除实例后，发送删除指令至所述负载均衡器，使得所述负载均衡器将所述待删除实例在负载均衡列表中删除，以阻止所述外部请求发送至所述待删除实例。
可选的，当所述任务为异步任务时，所述服务实例控制器具体用于：
从所述服务实例中选择待删除实例后，发送停止指令至所述待删除实例，使得所述待删除实例停止从任务队列获取异步任务。
可选的，所述预置服务收缩策略包括：实例平均计算资源阈值和实例服务平均响应时长阈值。
本申请第二方面提供了一种容器云服务实例收缩的控制方法，包括：
弹性伸缩控制器根据预置服务收缩策略，通过采集的资源指标和服务指标判断服务实例是否需要收缩，并在判断所述服务实例需要收缩时，发送实例调整指令至服务实例控制器，其中，所述资源指标为第一预置时间段的内存的使用率，所述服务指标为第二预置时间段的实例服务平均响应时长；
所述服务实例控制器从所述服务实例中选择待删除实例后，阻止所述待删除实例接收任务，并查询所述待删除实例的任务状态，根据所述任务状态确定所述待删除实例是否存在未完成的任务，若是，则实时监测所述待删除实例的任务状态，当监测到所述待删除实例中不存在未完成的任务时，删除所述待删除实例，若否，则删除所述待删除实例。
可选的，当所述任务为外部请求时，所述服务实例控制器从所述服务实例中选择待删除实例后，阻止所述待删除实例接收任务，具体包括：
所述服务实例控制器从所述服务实例中选择待删除实例后，发送删除指令至负载均衡器，使得所述负载均衡器将所述待删除实例在负载均衡列表中删除，以阻止所述外部请求发送至所述待删除实例，其中，所述负载均衡器用于接收所述外部请求。
可选的，当所述任务为异步任务时，所述服务实例控制器从所述服务实例中选择待删除实例后，阻止所述待删除实例接收任务，具体包括：
所述服务实例控制器从所述服务实例中选择待删除实例后，发送停止指令至所述待删除实例，使得所述待删除实例停止从任务队列获取所述异步任务。
可选的，所述预置服务收缩策略包括：实例平均计算资源阈值和实例服务平均响应时长阈值。
从以上技术方案可以看出，本申请具有以下优点：
本申请提供了一种容器云服务实例收缩的控制系统，包括：弹性伸缩控制器和服务实例控制器；弹性伸缩控制器，用于根据预置服务收缩策略，通过采集的资源指标和服务指标判断服务实例是否需要收缩，并在判断服务实例需要收缩时，发送实例调整指令至服务实例控制器，其中，资源指标为第一预置时间段的内存的使用率，服务指标为第二预置时间段的实例服务平均响应时长；服务实例控制器，用于从服务实例中选择待删除实例后，阻止待删除实例接收任务，并查询待删除实例的任务状态，根据任务状态确定待删除实例是否存在未完成的任务，若是，则实时监测待删除实例的任务状态，当监测到待删除实例中不存在未完成的任务时，删除待删除实例，若否，则删除待删除实例。
本申请中，通过引入实例服务平均响应时长作为服务实例的判断依据，避免通过单一的平均资源使用量作为容器收缩的评判依据，导致误删服务实例的问题，使得服务实例收缩更加精准；并且在删除服务实例前，阻止待删除实例接收任务，并监测待删除实例的任务状态，在监测到待删除实例存在未完成任务时，等待任务执行结束再删除待删除实例，避免出现任务未执行完就被强行终止所导致的任务执行异常和数据错乱的问题，从而解决了现有的容器收缩机制以一段时间内的平均资源使用量作为容器数量收缩的评判依据，存在只以计算资源作为评判标准，收缩的时机判断不精确，以及没有考虑到待收缩的容器上有未跑完的任务，影响业务数据的准确性的技术问题。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其它的附图。
图1为本申请实施例提供的一种容器云服务实例收缩的控制系统的一个结构示意图；
图2为本申请实施例提供的一种容器云服务实例收缩的控制系统的另一个结构示意图；
图3为本申请实施例提供的一种容器云服务实例收缩的控制方法的一个流程示意图。
具体实施方式
本申请提供了一种容器云服务实例收缩的控制系统和方法，用于解决现有的容器收缩机制以一段时间内的平均资源使用量作为容器数量收缩的评判依据，存在只以计算资源作为评判标准，收缩的时机判断不精确，以及没有考虑到待收缩的容器上有未跑完的任务，影响业务数据的准确性的技术问题。
为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
为了便于理解，请参阅图1，本申请提供的一种容器云服务实例收缩的控制系统的一个实施例，包括：弹性伸缩控制器和服务实例控制器；
弹性伸缩控制器，用于根据预置服务收缩策略，通过采集的资源指标和服务指标判断服务实例是否需要收缩，并在判断服务实例需要收缩时，发送实例调整指令至服务实例控制器，其中，资源指标为第一预置时间段的内存的使用率，服务指标为第二预置时间段的实例服务平均响应时长；
服务实例控制器，用于从服务实例中选择待删除实例后，阻止待删除实例接收任务，并查询待删除实例的任务状态，根据任务状态确定待删除实例是否存在未完成的任务，若是，则实时监测待删除实例的任务状态，当监测到待删除实例中不存在未完成的任务时，删除待删除实例，若否，则删除待删除实例。
弹性伸缩控制器用于判断服务实例的伸缩时机，具体的，根据预置服务收缩策略，通过采集的资源指标和服务指标判断服务实例是否需要收缩，其中，资源指标为第一预置时间段的内存的使用率，例如，近1分钟内存的使用率，服务指标为第二预置时间段的实例服务平均响应时长，例如，近5分钟的实例服务平均响应时长，第一预置时间段和第二预置时间段可以根据实际情况进行设置，在此不做具体的限定。当弹性伸缩控制器判断到服务实例需要收缩时，将计算结果更新入库，并发送实例调整指令至服务实例控制器，由服务实例控制器来执行伸缩操作。
服务实例控制器在接收到弹性伸缩控制器发送的实例调整指令后，从服务实例中选择待删除实例，阻止待删除实例接收任务，并查询待删除实例的任务状态，根据任务状态确定待删除实例是否存在未完成的任务，若是，则实时监测待删除实例的任务状态，一旦有任务执行完成，立马查询待删除实例的任务状态，确定其是否还有未完成的任务，直至监测到待删除实例中不存在未完成的任务时，删除待删除实例，释放资源，若否，则删除待删除实例。
本申请实施例中，通过引入实例服务平均响应时长作为服务实例的判断依据，避免通过单一的平均资源使用量作为容器收缩的评判依据，导致误删服务实例的问题，使得服务实例收缩更加精准；并且在删除服务实例前，阻止待删除实例接收任务，并监测待删除实例的任务状态，在监测到待删除实例存在未完成任务时，等待任务执行结束再删除待删除实例，避免出现任务未执行完就被强行终止所导致的任务执行异常和数据错乱的问题，从而解决了现有的容器收缩机制以一段时间内的平均资源使用量作为容器数量收缩的评判依据，存在只以计算资源作为评判标准，收缩的时机判断不精确，以及没有考虑到待收缩的容器上有未跑完的任务，影响业务数据的准确性的技术问题。
以上为本申请提供的一种容器云服务实例收缩的控制系统的一个实施例，以下为本申请提供的一种容器云服务实例收缩的控制系统的另一个实施例。
为了便于理解，请参阅图2，本申请提供的一种容器云服务实例收缩的控制系统的另一个实施例，包括：弹性伸缩控制器和服务实例控制器；
弹性伸缩控制器，用于根据预置服务收缩策略，通过采集的资源指标和服务指标判断服务实例是否需要收缩，并在判断服务实例需要收缩时，发送实例调整指令至服务实例控制器，其中，资源指标为第一预置时间段的内存的使用率，服务指标为第二预置时间段的实例服务平均响应时长；
服务实例控制器，用于从服务实例中选择待删除实例后，阻止待删除实例接收任务，并查询待删除实例的任务状态，根据任务状态确定待删除实例是否存在未完成的任务，若是，则实时监测待删除实例的任务状态，当监测到待删除实例中不存在未完成的任务时，删除待删除实例，若否，则删除待删除实例。
作为进一步地改进，还包括：资源指标收集器，用于根据预置服务收缩策略采集资源指标。
作为进一步地改进，还包括：
服务指标收集器，用于根据预置服务收缩策略采集服务指标。
预置服务收缩策略根据实际需求预先配置，其包括：实例平均计算资源阈值和实例服务平均响应时长阈值。资源指标收集器根据预置服务收缩策略采集资源指标，服务指标收集器根据预置服务收缩策略采集服务指标。弹性伸缩控制器将资源指标和服务指标分别与预置服务收缩策略中的实例平均计算资源阈值和实例服务平均响应时长阈值进行比较，来判断服务实例是否需要收缩，在资源指标的值低于实例平均计算资源阈值和服务指标的值低于实例服务平均响应时长阈值时，判定服务实例需要收缩。例如，假设预置服务收缩策略中的实例平均计算资源阈值为近一小时各实例CPU利用率平均为20％，近5分钟内实例服务平均响应时长为X，设置近一小时各实例CPU利用率平均低于20％，近5分钟内实例服务平均响应时长低于X时，服务实例需要收缩。此时，资源指标收集器采集资源指标为近一小时各实例CPU利用率，服务指标收集器采集的服务指标为近一小时的实例服务响应时长，弹性伸缩控制器计算到采集的近一小时各实例CPU利用率平均低于20％，且近一小时的实例服务平均响应时长低于X时，弹性伸缩控制器判断服务实例需要收缩，发送实例调整指令至服务实例控制器。
作为进一步地改进，当任务为外部请求时，还包括：负载均衡器；
负载均衡器，用于接收外部请求；
服务实例控制器，具体用于从服务实例中选择待删除实例后，发送删除指令至负载均衡器，使得负载均衡器将待删除实例在负载均衡列表中删除，以阻止外部请求发送至待删除实例。
负载均衡器负责接收外部请求，并将请求以某种负载均衡算法分发给服务的不同实例，通常请求结果会同步返回。
作为进一步地改进，当任务为异步任务时，服务实例控制器具体用于：
从服务实例中选择待删除实例后，发送停止指令至待删除实例，使得待删除实例停止从任务队列获取异步任务。
任务队列会接收外部发送给服务的异步任务，与同步请求不同，一般异步任务耗时较长，结果可以直接入到对应数据库或者以接口回调的方式推送给调用方，服务实例从任务队列中主动消费，获取任务信息并执行。本实施例从服务实例中选择待删除实例后，发送停止指令至待删除实例，使得待删除实例停止从任务队列获取异步任务。
本申请实施例在删除实例前，先在负载均衡器及任务队列中截流，并监听待删除实例任务状态，做到实例有序收缩，避免暴力删除而导致任务执行异常或数据错乱的问题。
以上为本申请提供的一种容器云服务实例收缩的控制系统的一个实施例，以下为本申请提供的一种容器云服务实例收缩的控制方法的一个实施例。
为了便于理解，请参阅图3，本申请提供的一种容器云服务实例收缩的控制方法的一个实施例，包括：
步骤101、弹性伸缩控制器根据预置服务收缩策略，通过采集的资源指标和服务指标判断服务实例是否需要收缩，并在判断服务实例需要收缩时，发送实例调整指令至服务实例控制器。
其中，资源指标为第一预置时间段的内存的使用率，服务指标为第二预置时间段的实例服务平均响应时长。预置服务收缩策略包括实例平均计算资源阈值和实例服务平均响应时长阈值。弹性伸缩控制器在获取到资源指标和服务指标后，通过比较资源指标的值和实例平均计算资源阈值的大小，以及服务指标的值与实例服务平均响应时长阈值的大小，以判断服务实例是否需要收缩。当资源指标的值低于实例平均计算资源阈值，且服务指标的值低于实例服务平均响应时长阈值时，判断服务实例需要收缩，并发送实例调整指令至服务实例控制器。
步骤102、服务实例控制器从服务实例中选择待删除实例后，阻止待删除实例接收任务，并查询待删除实例的任务状态，根据任务状态确定待删除实例是否存在未完成的任务，若是，则实时监测待删除实例的任务状态，当监测到待删除实例中不存在未完成的任务时，删除待删除实例，若否，则删除待删除实例。
服务实例控制器从服务实例中选择待删除实例后，阻止待删除实例接收任务。具体的，当任务为外部请求时，服务实例控制器从服务实例中选择待删除实例后，发送删除指令至负载均衡器，使得负载均衡器将待删除实例在负载均衡列表中删除，以阻止外部请求发送至待删除实例，其中，负载均衡器用于接收外部请求。当任务为异步任务时，服务实例控制器从服务实例中选择待删除实例后，发送停止指令至待删除实例，使得待删除实例停止从任务队列获取异步任务。
服务实例控制器查询待删除实例的任务状态，根据任务状态确定待删除实例是否存在未完成的任务，若是，则实时监测待删除实例的任务状态，当监测到待删除实例中不存在未完成的任务时，删除待删除实例，若否，则删除待删除实例。
本申请实施例在删除实例前，先在负载均衡器及任务队列中截流，并监听待删除实例任务状态，做到实例有序收缩，避免暴力删除而导致任务执行异常或数据错乱的问题。
以上所述，以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。

Claims (10)

1.一种容器云服务实例收缩的控制系统，其特征在于，包括：弹性伸缩控制器和服务实例控制器；
所述弹性伸缩控制器，用于根据预置服务收缩策略，通过采集的资源指标和服务指标判断服务实例是否需要收缩，并在判断所述服务实例需要收缩时，发送实例调整指令至所述服务实例控制器，其中，所述资源指标为第一预置时间段的内存的使用率，所述服务指标为第二预置时间段的实例服务平均响应时长；
所述服务实例控制器，用于从所述服务实例中选择待删除实例后，阻止所述待删除实例接收任务，并查询所述待删除实例的任务状态，根据所述任务状态确定所述待删除实例是否存在未完成的任务，若是，则实时监测所述待删除实例的任务状态，当监测到所述待删除实例中不存在未完成的任务时，删除所述待删除实例，若否，则删除所述待删除实例。
2.根据权利要求1所述的容器云服务实例收缩的控制系统，其特征在于，还包括：
资源指标收集器，用于根据所述预置服务收缩策略采集资源指标。
3.根据权利要求1所述的容器云服务实例收缩的控制系统，其特征在于，还包括：
服务指标收集器，用于根据所述预置服务收缩策略采集服务指标。
4.根据权利要求1所述的容器云服务实例收缩的控制系统，其特征在于，当所述任务为外部请求时，还包括：负载均衡器；
所述负载均衡器，用于接收所述外部请求；
所述服务实例控制器，具体用于从所述服务实例中选择待删除实例后，发送删除指令至所述负载均衡器，使得所述负载均衡器将所述待删除实例在负载均衡列表中删除，以阻止所述外部请求发送至所述待删除实例。
5.根据权利要求1所述的容器云服务实例收缩的控制系统，其特征在于，当所述任务为异步任务时，所述服务实例控制器具体用于：
从所述服务实例中选择待删除实例后，发送停止指令至所述待删除实例，使得所述待删除实例停止从任务队列获取异步任务。
6.根据权利要求1所述的容器云服务实例收缩的控制系统，其特征在于，所述预置服务收缩策略包括：实例平均计算资源阈值和实例服务平均响应时长阈值。
7.一种容器云服务实例收缩的控制方法，其特征在于，包括：
弹性伸缩控制器根据预置服务收缩策略，通过采集的资源指标和服务指标判断服务实例是否需要收缩，并在判断所述服务实例需要收缩时，发送实例调整指令至服务实例控制器，其中，所述资源指标为第一预置时间段的内存的使用率，所述服务指标为第二预置时间段的实例服务平均响应时长；
所述服务实例控制器从所述服务实例中选择待删除实例后，阻止所述待删除实例接收任务，并查询所述待删除实例的任务状态，根据所述任务状态确定所述待删除实例是否存在未完成的任务，若是，则实时监测所述待删除实例的任务状态，当监测到所述待删除实例中不存在未完成的任务时，删除所述待删除实例，若否，则删除所述待删除实例。
8.根据权利要求7所述的容器云服务实例收缩的控制方法，其特征在于，当所述任务为外部请求时，所述服务实例控制器从所述服务实例中选择待删除实例后，阻止所述待删除实例接收任务，具体包括：
所述服务实例控制器从所述服务实例中选择待删除实例后，发送删除指令至负载均衡器，使得所述负载均衡器将所述待删除实例在负载均衡列表中删除，以阻止所述外部请求发送至所述待删除实例，其中，所述负载均衡器用于接收所述外部请求。
9.根据权利要求7所述的容器云服务实例收缩的控制方法，其特征在于，当所述任务为异步任务时，所述服务实例控制器从所述服务实例中选择待删除实例后，阻止所述待删除实例接收任务，具体包括：
所述服务实例控制器从所述服务实例中选择待删除实例后，发送停止指令至所述待删除实例，使得所述待删除实例停止从任务队列获取所述异步任务。
10.根据权利要求7所述的容器云服务实例收缩的控制方法，其特征在于，所述预置服务收缩策略包括：实例平均计算资源阈值和实例服务平均响应时长阈值。
CN202010934789.3A 2020-09-08 2020-09-08 一种容器云服务实例收缩的控制系统和方法 Active CN112068934B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010934789.3A CN112068934B (zh) 2020-09-08 2020-09-08 一种容器云服务实例收缩的控制系统和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010934789.3A CN112068934B (zh) 2020-09-08 2020-09-08 一种容器云服务实例收缩的控制系统和方法

Publications (2)

Publication Number Publication Date
CN112068934A true CN112068934A (zh) 2020-12-11
CN112068934B CN112068934B (zh) 2023-02-10

Family

ID=73664303

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010934789.3A Active CN112068934B (zh) 2020-09-08 2020-09-08 一种容器云服务实例收缩的控制系统和方法

Country Status (1)

Country Link
CN (1) CN112068934B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113918093A (zh) * 2021-09-26 2022-01-11 福建天泉教育科技有限公司 一种缩容的优化方法及终端
CN113918352A (zh) * 2021-12-13 2022-01-11 统信软件技术有限公司 一种服务资源配置方法、计算设备及存储介质
CN114595069A (zh) * 2022-04-29 2022-06-07 北京世纪好未来教育科技有限公司 服务下线方法、装置、电子设备及存储介质
CN115086189A (zh) * 2022-05-20 2022-09-20 中国科学院软件研究所 一种面向无服务器计算的服务资源弹性伸缩方法和系统

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160323188A1 (en) * 2015-04-30 2016-11-03 Amazon Technologies, Inc. Managing state for updates to load balancers of an auto scaling group
CN107395735A (zh) * 2017-08-03 2017-11-24 成都精灵云科技有限公司 一种容器集群的延时缩容调度方法及系统
CN107977252A (zh) * 2016-10-21 2018-05-01 中兴通讯股份有限公司 一种云平台业务的缩容方法、装置及云平台
CN108196940A (zh) * 2017-12-29 2018-06-22 华为技术有限公司 删除容器的方法和相关设备
CN109067862A (zh) * 2018-07-23 2018-12-21 北京邮电大学 API Gateway自动伸缩的方法与装置
US20190042321A1 (en) * 2017-08-04 2019-02-07 Unisys Corporation Elastic container management system
CN109992374A (zh) * 2017-12-29 2019-07-09 中移互联网有限公司 一种应用实例的管理方法、装置及计算机可读存储介质
CN110275724A (zh) * 2019-06-26 2019-09-24 广州小鹏汽车科技有限公司 一种服务实例更新方法和装置
CN110471648A (zh) * 2019-08-19 2019-11-19 山东浪潮通软信息科技有限公司 一种基于异步机制的分布式的ci/cd的实现方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160323188A1 (en) * 2015-04-30 2016-11-03 Amazon Technologies, Inc. Managing state for updates to load balancers of an auto scaling group
CN107977252A (zh) * 2016-10-21 2018-05-01 中兴通讯股份有限公司 一种云平台业务的缩容方法、装置及云平台
CN107395735A (zh) * 2017-08-03 2017-11-24 成都精灵云科技有限公司 一种容器集群的延时缩容调度方法及系统
US20190042321A1 (en) * 2017-08-04 2019-02-07 Unisys Corporation Elastic container management system
CN108196940A (zh) * 2017-12-29 2018-06-22 华为技术有限公司 删除容器的方法和相关设备
CN109992374A (zh) * 2017-12-29 2019-07-09 中移互联网有限公司 一种应用实例的管理方法、装置及计算机可读存储介质
CN109067862A (zh) * 2018-07-23 2018-12-21 北京邮电大学 API Gateway自动伸缩的方法与装置
CN110275724A (zh) * 2019-06-26 2019-09-24 广州小鹏汽车科技有限公司 一种服务实例更新方法和装置
CN110471648A (zh) * 2019-08-19 2019-11-19 山东浪潮通软信息科技有限公司 一种基于异步机制的分布式的ci/cd的实现方法

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113918093A (zh) * 2021-09-26 2022-01-11 福建天泉教育科技有限公司 一种缩容的优化方法及终端
CN113918093B (zh) * 2021-09-26 2023-11-03 福建天泉教育科技有限公司 一种缩容的优化方法及终端
CN113918352A (zh) * 2021-12-13 2022-01-11 统信软件技术有限公司 一种服务资源配置方法、计算设备及存储介质
CN113918352B (zh) * 2021-12-13 2022-03-18 统信软件技术有限公司 一种服务资源配置方法、计算设备及存储介质
CN114595069A (zh) * 2022-04-29 2022-06-07 北京世纪好未来教育科技有限公司 服务下线方法、装置、电子设备及存储介质
CN115086189A (zh) * 2022-05-20 2022-09-20 中国科学院软件研究所 一种面向无服务器计算的服务资源弹性伸缩方法和系统
CN115086189B (zh) * 2022-05-20 2023-11-07 中国科学院软件研究所 一种面向无服务器计算的服务资源弹性伸缩方法和系统

Also Published As

Publication number Publication date
CN112068934B (zh) 2023-02-10

Similar Documents

Publication Publication Date Title
CN112068934B (zh) 一种容器云服务实例收缩的控制系统和方法
US20210329077A1 (en) System and method for throttling service requests having non-uniform workloads
US10719343B2 (en) Optimizing virtual machines placement in cloud computing environments
CN106557369B (zh) 一种多线程的管理方法及系统
US20150156123A1 (en) System and method for throttling service requests using work-based tokens
CN113010260A (zh) 容器数量弹性伸缩方法以及容器数量弹性伸缩方法系统
US20200012602A1 (en) Cache allocation method, and apparatus
CN112689007B (zh) 资源分配方法、装置、计算机设备和存储介质
KR101886072B1 (ko) 분산 인 메모리 환경에서 실시간 스트림 데이터 처리를 위한 동적 잡 스케쥴링 시스템 및 방법
CN111277640B (zh) 用户请求处理方法、装置、系统、计算机设备和存储介质
WO2020172852A1 (en) Computing resource scheduling method, scheduler, internet of things system, and computer readable medium
KR101630125B1 (ko) 클라우드 컴퓨팅 자원관리 시스템에서의 자원 요구량 예측 방법
US9135064B2 (en) Fine grained adaptive throttling of background processes
CN111966480A (zh) 一种任务执行方法及相关装置
CN117112199A (zh) 一种多租户资源调度方法、装置及存储介质
CN110727518B (zh) 一种数据处理方法及相关设备
CN114443241A (zh) 一种任务动态调度方法、任务下发方法及其装置
CN114124763A (zh) 一种宽带接入速率的测量方法及系统
CN115774614A (zh) 资源调控方法、终端及存储介质
CN112328387A (zh) 一种面向多租户的微服务资源调度方法
US11520638B1 (en) Combined active and preinitialized resource management for rapid autoscaling
CN111158899A (zh) 一种数据的采集方法、采集器、任务管理中心以及系统
CN116795517B (zh) 一种多策略自适应的异步任务调度方法、系统及装置
US11481262B1 (en) Rapid autoscaling with preinitialized instance quantity based on historical scale up rate
CN114610575B (zh) 应用于计算分支的更新峰值的方法、装置、设备和介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant