CN111796908B - 一种资源自动弹性伸缩的系统、方法及云平台 - Google Patents

Abstract

本申请涉及通信技术领域，特别地，涉及一种资源自动弹性伸缩的系统、方法及云平台。一定程度上可以解决云计算平台不能够实现资源自动弹性伸缩的问题，本申请提供的资源自动弹性伸缩的方法，包括：获取应用层业务实例的性能指标；基于所述性能指标选择资源伸缩策略，所述资源伸缩策略包括扩容策略和缩容策略；通过执行所述资源伸缩策略，调整PaaS集群和IaaS层内虚拟机的数量。

Description

一种资源自动弹性伸缩的系统、方法及云平台

技术领域

本申请涉及通信技术领域，特别地，涉及一种资源自动弹性伸缩的系统、方法及云平台。

背景技术

云计算是一种计算模式，它将计算任务分布在大量计算机构成的资源池，使各种业务系统能够根据不同需要获取计算力、存储空间和信息服务。资源弹性伸缩是指应用业务系统根据业务流量的大小，按需申请资源以增加或减少运行应用的节点数。

一些云平台的应用业务系统具有潮汐效应，例如电商支付、互联网购票、网络直播等。在高峰时段业务系统需要云平台提供大量资源、在低谷时段需要释放冗余资源以降低成本，而公共云提供的虚拟机和用户自有的PaaS平台存在割裂，通常需要人工介入才能打通从应用层到PaaS层、IaaS层的自动扩容、缩容，难以满足业务系统快速响应的需求，因此期望能够实现云平台的资源自动弹性伸缩。

发明内容

为了解决云计算平台不能够实现资源自动弹性伸缩的问题，本申请提供了一种资源自动弹性伸缩的系统、方法及云平台。

本申请的实施例是这样实现的：

本申请实施例的第一方面提供一种资源自动弹性伸缩的系统，包括：

第一控制器，被配置为获取应用层业务实例的性能指标；

第二控制器，被配置为基于所述性能指标选择资源伸缩策略，所述资源伸缩策略包括扩容策略和缩容策略；以及

通过执行所述资源伸缩策略，调整PaaS集群和IaaS层内虚拟机的数量。

根据本申请中一些实施例中资源自动弹性伸缩的系统，其中，所述扩容策略，具体包括：

IaaS层存在空闲虚拟机时，第二控制器将所述空闲虚拟机加入PaaS集群执行容器实例扩容；否则，第二控制器对IaaS层扩容增加虚拟机。

根据本申请中一些实施例中资源自动弹性伸缩的系统，其中，第二控制器通过监测PaaS层容器实例的状态，判定IaaS层是否存在所述空闲虚拟机。

根据本申请中一些实施例中资源自动弹性伸缩的系统，其中，所述缩容策略，具体包括：第二控制器执行PaaS层容器实例常规缩容；第二控制器获取常规缩容后PaaS层容器实例占用总资源量、IAAS层虚拟机总资源量；在所述PaaS层容器实例占用总资源与所述IAAS层虚拟机总资源的差值大于第三阈值时，第二控制器移除第一虚拟机负荷的第一容器实例；第二控制器从PaaS集群、以及IaaS层移除所述第一虚拟机。

根据本申请中一些实施例中资源自动弹性伸缩的系统，其中，所述第一虚拟机为资源分配最小的虚拟机。

根据本申请中一些实施例中资源自动弹性伸缩的系统，其中，所述第三阈值大于等于1个虚拟机的资源量。

根据本申请中一些实施例中资源自动弹性伸缩的系统，其中，所述性能指标为CPU利用率、内存消耗、每秒查询率中的一种或多种组合。

根据本申请中一些实施例中资源自动弹性伸缩的系统，其中，所述虚拟机提供包括：虚拟云主机、虚拟云硬盘。

根据本申请中一些实施例中资源自动弹性伸缩的系统，其中，基于所述性能指标选择资源伸缩策略，具体包括：性能指标大于等于第一阈值时，第二控制器选择扩容策略；性能指标小于等于第二阈值时，第二控制器选择缩容策略。本申请实施例的第二方面提供一种资源自动弹性伸缩的方法，所述方法包括：

获取应用层业务实例的性能指标；

基于所述性能指标选择资源伸缩策略，所述资源伸缩策略包括扩容策略和缩容策略；

通过执行所述资源伸缩策略，调整PaaS集群和IaaS层内虚拟机的数量。

根据本申请中一些实施例中资源自动弹性伸缩的方法，其中，所述扩容策略，具体包括：IaaS层存在空闲虚拟机时，将所述空闲虚拟机加入PaaS集群执行容器实例扩容；否则，对IaaS层扩容增加虚拟机。

根据本申请中一些实施例中资源自动弹性伸缩的方法，其中，通过监测PaaS层容器实例的状态，判定IaaS层是否存在所述空闲虚拟机。

根据本申请中一些实施例中资源自动弹性伸缩的方法，其中，所述缩容策略，具体包括：执行PaaS层容器实例常规缩容；获取常规缩容后PaaS层容器实例占用总资源量、IAAS层虚拟机总资源量；在所述PaaS层容器实例占用总资源与所述IAAS层虚拟机总资源的差值大于第三阈值时，移除第一虚拟机负荷的第一容器实例；从PaaS集群、以及IaaS层移除所述第一虚拟机。

根据本申请中一些实施例中资源自动弹性伸缩的方法，其中，所述第一虚拟机为资源分配最小的虚拟机。

根据本申请中一些实施例中资源自动弹性伸缩的方法，其中，所述第三阈值大于等于1个虚拟机的资源量。

根据本申请中一些实施例中资源自动弹性伸缩的方法，其中，所述性能指标为CPU利用率、内存消耗、每秒查询率中的一种或多种组合。

根据本申请中一些实施例中资源自动弹性伸缩的方法，其中，所述虚拟机提供包括：虚拟云主机、虚拟云硬盘。

根据本申请中一些实施例中资源自动弹性伸缩的方法，其中，基于所述性能指标选择资源伸缩策略，具体包括：性能指标大于等于第一阈值时，选择扩容策略；性能指标小于等于第二阈值时，选择缩容策略。

本申请实施例的第三方面提供一种云平台，所述云平台包括主控制器，所述主控制器包括处理器以及存储有所述处理器可执行指令的存储器，当所述指令被处理器执行时执行如本申请实施例第二方面提供的发明内容中任一所述方法。

本申请实施例的第四方面提供一种用于云平台的服务器，包括存储器、处理器及存储在存储器上的计算机程序，所述处理器执行所述计算机程序时执行如本申请实施例第二方面提供的发明内容中任一所述方法。

本申请实施例的第五方面提供一种计算机可读存储介质，所述存储介质内存储有计算机程序，所述计算机程序被处理器执行时执行如本申请实施例第二方面提供的发明内容中任一所述方法。

本申请的有益效果：通过获取业务实例的性能指标，可以实现应用层资源需求的实时监控；进一步通过比较性能指标和所述第一阈值、第二阈值，可以实现扩容策略、缩容策略的自动执行；进一步通过判定空闲虚拟机，可以实现PaaS集群、IaaS层自动关联扩容虚拟机；进一步通过构建第三阈值、容器实例占用总资源与虚拟机总资源差值、比较差值与第三阈值，可以实现PaaS集群、IaaS层自动关联缩容虚拟机。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1示出了本申请实施例一种云平台的架构示意图；

图2A示出了本申请另一实施例云平台的架构示意图；

图2B示出了本申请另一实施例云平台的架构示意图；

图3示出了本申请实施例一种资源自动弹性伸缩方法的流程示意图；

图4示出了本申请实施例一实施例缩容策略的步骤示意图；

图5为本申请根据一实施例示出的一种控制节点的结构示意图。

具体实施方式

为使本申请示例性实施例的目的、技术方案和优点更加清楚，下面将结合本申请示例性实施例中的附图，对本申请示例性实施例中的技术方案进行清楚、完整地描述，显然，所描述的示例性实施例仅是本申请一部分实施例，而不是全部的实施例。

基于本申请中示出的示例性实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。此外，虽然本申请中公开内容按照示范性一个或几个实例来介绍，但应理解，可以就这些公开内容的各个方面也可以单独构成一个完整技术方案。

应当理解，本申请中说明书和权利要求书及上述附图中的术语″第一″、″第二″、″第三″等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，例如能够根据本申请实施例图示或描述中给出那些以外的顺序实施。

此外，术语″包括″和″具有″以及他们的任何变形，意图在于覆盖但不排他的包含，例如，包含了一系列组件的产品或设备不必限于清楚地列出的那些组件，而是可包括没有清楚地列出的或对于这些产品或设备固有的其它组件。

本申请中使用的术语″控制器″，是指任何已知或后来开发的硬件、软件、固件、人工智能、模糊逻辑或硬件或/和软件代码的组合，能够执行与该元件相关的功能。

本说明书通篇提及的″多个实施例″、″一些实施例″、″一个实施例″或″实施例″等，意味着结合该实施例描述的具体特征、结构或特性包括在至少一个实施例中。因此，本说明书通篇出现的短语″在多个实施例中″、″在一些实施例中″、″在至少另一个实施例中″或″在实施例中″等并不一定都指相同的实施例。此外，在一个或多个实施例中，具体特征、结构或特性可以任何合适的方式进行组合。因此，在无限制的情形下，结合一个实施例示出或描述的具体特征、结构或特性可全部或部分地与一个或多个其他实施例的特征、结构或特性进行组合。这种修改和变型旨在包括在本申请的范围之内。

云基础设施提供商提供核心基础设施，而云服务提供商主要出租这些资源以将服务递送给最终用户。云环境具有软件即服务、平台即服务和基础设备即服务三种服务模式。PaaS和IaaS可以直接通过面向服务的体系结构或网络服务器向平台用户提供服务也可以作为SaaS模式的支撑平台间接向最终用户服务。云计算的或″云″的使用依赖于资源共享，以实现规模经济和一致性。云计算可被看作汇聚的基础设施和共享服务的一般原理。云的目的是最大化共享资源的有效性。

图1示出了本申请实施例一种云平台的架构示意图。

如图所示，本申请所述的一种云平台架构包括：云、硬件层、IaaS层、PaaS层以及应用层，每个较高层构建在由较低层提供的特征和服务之上。这些层用于描述在云环境上构建的不同商业模型。

硬件层部署了物理设备，所述物理设备可包括计算、存储和网络设备，硬件层也可以理解为数据中心以及关联的核心基础设施。

IaaS(Infrastructure as a Service：基础设备即服务)层，是在云环境中负责物理设备资源虚拟化，并进行资源调度管理的平台。典型的IaaS层平台有OpenStack+kvm、vCloud+vCenter等。在一些实施例中，IaaS层配置有虚拟化管理程序用于实现物理设备的虚拟化。计算基础设备向客户、用户或客户端提供处理、存储装置、网络以及其它基础计算资源。在图1中，与网络互连的计算基础设备主要由IaaS层提供。

物理机在本申请中是真实世界计算机的计算机架构和功能。虚拟机(VM)是机器的模仿(其是抽象的或真实的)，其通常不同于在其上模仿VM的主机机器。虚拟机可基于假设的计算机的规范，或者模仿真实世界计算机的计算机架构和功能。

PaaS(Platform as a Service：平台即服务)层，是在云环境中负责应用层应用系统的生命周期管理，包括其开发、部署、监控的平台。典型的PaaS层平台有Google GAE、CloudFoundry等，这些平台通常展示为操作系统和/或软件框架形式，可以屏蔽用户免于处置基础设施实体等底层的复杂性，所述基础设施实体例如可以为虚拟机(VM)容器、原始存储块等。

容器是操作系统虚拟化的形式，其比典型硬件虚拟化更高效但不太标准化。它提供必要的计算资源以几乎与虚拟机一样隔离地来运行应用。然而，容器和应用必须共享相同底层操作系统。一般意义上，实体是由其属性或性质所对照的事物的存在。在计算和通信的世界中，实体通常由它打算执行的典型任务或功能定义。实体可由一个单个单元或者一个单个单元的部分构成，但在其它实施例中它也可包括几个单元或单元的部分。此类单元或部分单元的聚合或布置由实体的预期功能一起定义。实体可以是真实的或虚拟的。实体可以是机器、机器的部分或者机器的聚合或机器的多个部分，可选地包含其它装置或功能。

应用层，存在提供商业应用、web服务、多媒体和游戏服务的不同服务提供商，应用层包括各种应用系统、业务实例，运行在创建好的虚拟机上。

云还能被归类成私用云、公共云或混合云。私用云被特别构建用于提供对安全性和不同性能相关方面的控制的组织。然而，明显的缺点在高预付成本方面；公共云目的在于向大众递送IaaS、PaaS或SaaS。在此情况下，没有预付资本成本。但是它未提供对安全性和不同性能与基础设施级别参数的粒度控制。公用云的一个特定版本是虚拟私用云。这个概念依赖于在公用云之上运行组织云基础设施。在此情况下，使用虚拟私用网络(VPN)技术来虚拟化网络基础设施，从而本质上给组织提供来提供它自己的网络安全性和拓扑设置的灵活性；混合云尝试解决上面提到的云类型的其中一些限制。许多至关重要的商业控制和服务在私用云中运行，同时仍提供在公共云上委派不太重要的商业服务的灵活性。

图2A和图2B示出了本申请另一实施例云平台的架构示意图。

作为云计算的基础能力提供商，会建立云计算资源池，简称云平台，一般称为IaaS层平台，在资源池中部署多种类型的虚拟资源，供外部客户选择使用。

按照逻辑功能划分，在IaaS层上可以部署PaaS层，PaaS层之上再部署应用层，也可以直接将应用层部署在IaaS上。

PaaS层为软件运行的平台，如数据库、web容器等；应用层为各式各样的业务软件，如web门户网站、短信群发器等。

一般来说，应用层和PaaS层相对于IaaS层是上层。IaaS、PaaS和应用层的上述两种部署关系如图2A、图2B所示。

由于PaaS和应用层需要依赖于IaaS运行，当应用层进行扩容或缩容时，需要PaaS和IaaS层也进行相应的伸缩，以实现业务负载的均衡适配。

图3示出了本申请实施例一种资源自动弹性伸缩方法的流程示意图。

在步骤301中，获取应用层业务实例的性能指标。

通过本申请提供的资源自动弹性伸缩系统中第一控制器，可以实现对应用层业务实例性能指标的监测和获取。所述业务实例具体可以为例如电商支付、互联网购票、网络直播、企业应用等，资源在伸缩时需要快速的安装部署，如果伸展时间过长，则会错失业务流量峰值时段，达不到按需使用的目的。例如，互联网购票的业务量可以在2分钟之内增长20至40倍，如果资源的扩容时间超过1分钟，则会错失业务流量峰值时段。

在一些实施例中，性能指标为CPU利用率、内存消耗、每秒查询率中的一种或多种组合。应用层业务实例的性能指标用于指示业务系统的资源占用状况，例如CPU、内存、网络等资源的占用状况，通过从内存、CPU、网络等资源中的任意一种或多种组合的角度进行业务层监测。

例如，对CPU进行监测，可包括总CPU利用、对于用户级别过程的CPU利用、对于系统级别过程的CPU利用、针对完成输入/输出(I/O)操作的CPU等待时间、每CPU和核的亲和性；对内存进行监测，可包括系统中总的安装的存储器、自由存储器、总的交换存储器、自由交换存储器、存储器利用；对网络等资源进行监测，可包括传送的分组总数、接收的分组总数、传送的字节总数、接收的字节总数、可用的盘空间、每时间单位的存储装置I/O操作、每时间单位的盘读次数、每时间单位的盘写次数、盘空闲时间等。

在一些实施例中，第一控制器还监测并获取应用层业务实例的运行数据，所述运行数据用于指示业务系统的运行状况，如业务系统当前状态和KPI等数据。

在一些实施例中，应用层的性能指标由IaaS层资源管理系统采集，并上报给PaaS层资源管理系统。

在一些实施例中，第一控制器可实施为HPA Controller(Horizontal PodAutoscaling Controller：容器水平伸缩控制器)，通过监控应用层业务实例的性能指标。

在一些实施例中，第一控制器配置于控制节点，所述控制节点是指在云环境中行了应用程序的虚拟机实例。例如控制节点可以由一台设备实现，也可由多台设备交互配合实现。控制节点可以部署在图1所示系统架构中的PaaS层平台，也可部署在IaaS层平台，或者采用分布式方式部署在PaaS层平台和IaaS层平台。在一些实施例中，控制节点还可以是具备计算和处理能力的设备，如服务器。

在一些实施例中，第一控制器还可以通过对计算节点虚拟机利用、自由容量的当前资源监控，诸如CPU利用、自由存储器和存储器消耗，提供在不破坏针对现有任务情况下，机器还能允许处理能力的指示。

在步骤302中，基于所述性能指标选择资源伸缩策略，所述资源伸缩策略包括扩容策略和缩容策略。

在一些实施例中，性能指标大于等于第一阈值时，选择扩容策略；性能指标小于等于第二阈值时，选择缩容策略。

通过本申请提供的资源自动弹性伸缩系统中第二控制器，可以基于性能指标选择不同的资源伸缩策略，所述资源伸缩策略包括扩容策略和缩容策略。

第二控制器配置于控制节点，第二控制器接收来自第一控制器发送的性能指标，基于所述性能指标选择对应的资源伸缩策略。

例如，当应用层目标业务系统的CPU利用率大于等于预设的第一阈值时，可以认为应用层的冗余资源不足以支持目标业务系统的运行，第二控制器选择扩容策略。

又例如，当应用层目标业务系统的CPU利用率小于等于预设的第二阈值时，可以认为应用层的冗余资源过多，第二控制器选择缩容策略。

需要说明的是，第一阈值、第二阈值的数值可根据实际情况、性能指标的差异进行预设，本申请不做具体的限制。通过结合应用层业务实例性能指标确定不同的资源伸缩策略，可以实现根据业务系统的忙闲决定资源伸缩配置，使得伸缩决策更加有效。

在一些实施例中，扩容策略具体包括IaaS层存在空闲虚拟机时，将所述空闲虚拟机加入PaaS集群执行容器实例扩容；否则，对IaaS层扩容增加虚拟机。

选择扩容决策后，第二控制器对IaaS层处于空闲、或休眠的虚拟机进行唤醒添加至PaaS集群，并执行容器实例扩容。当IaaS层不存在空闲、或休眠的虚拟机时，第二控制器需要对IaaS层进行扩容以增加其可用虚拟机。在一些实施例中，第二控制器在得到虚拟机创建指令后，可在存储上预创建目标数量的虚拟机，将虚拟机创建在存储上，可以在唤醒或休眠虚拟机时，快速获取和释放资源。

在一些实施例中，将空闲虚拟机加入PaaS集群执行容器实例扩容，例如以CPU资源扩容为例进行阐述。首先，根据应用程序容器实例运行时的CPU配额生成调度指令。当应用程序容器运行时，以其CPU配额生成调度指令，并将该调度指令发送至第二控制器进行调度，其中，该应用程序容器对应一个包含运行时环境的应用实例；然后，根据调度指令从共享资源池中调度与所述CPU配额对应的虚拟核心；最后，将虚拟核心与应用程序容器绑定。

在一些实施例中，当IaaS层不存在空闲、或休眠的虚拟机时，第二控制器向IaaS层资源管理系统发送IaaS层扩容指令。IaaS层扩容指令用于指示IaaS层资源管理系统对增加对物理层物理设备的虚拟化数量，以增加虚拟计算、存储、网络资源。例如，IaaS层扩容指令中可携带目标数量虚拟机信息，以此控制IaaS层资源管理系统需要扩容虚拟机的数量。相应地，IaaS层资源管理系统接收到第二控制器发送IaaS层扩容指令，IaaS层资源管理系统在接收到IaaS层扩容指令之后，从硬件层选择相应数量、类型的物理设备进行虚拟化，以增加虚拟机的数量。

在一些实施例中，通过监测PaaS层容器实例的状态，判定IaaS层是否存在所述空闲虚拟机。

容器实例的运行状态可以有多种，例如，正常运行状态、终止中、已终止状态等。其中，当容器实例的运行状态为正常运行状态时，此时可以确定容器运行正常，如果容器实例的运行状态为终止中或已终止状态，则可以确定容器运行异常。

第二控制器执行容器实例扩容时，首先选择现有空闲、或休眠的虚拟机执行扩容，在虚拟机资源充沛时，扩容成功其流程结束；在虚拟机资源不足时，扩容失败。云环境下，第二控制器持续的侦听容器实例的状态，当发现所述状态为FailedScheduling时，说明IAAS层虚拟机资源不足，第二控制器调用公共云IAAS层接口对虚拟机进行扩容。在一些实施例中，用于监测、侦听PaaS层容器实例状态的第二控制器可实施为IAAS层自动伸缩控制器IAAS Controller。

PaaS层平台在各个容器创建时会配置资源配额，例如包括CPU、存储、网络资源等。以CPU为例进行阐述，配额可为整数或非整数，根据容器实际CPU损耗情况，将CPU配额设置非整数，属于比较普遍的情况。在容器运行时，需要将与CPU配额匹配的物理CPU与应用程序容器绑定，否则控制容器的进程会在不同物理CPU之间随机切换，损耗宿主机性能。对于整数的CPU配额，通过cgroup技术直接绑定到核心数与整数相等的物理CPU上，可以避免在不同物理CPU上随机切换。

图4示出了本申请实施例一实施例缩容策略的步骤示意图。

在步骤401中，执行PaaS层容器实例常规缩容。

第一控制器获取的性能指标小于等于第二阈值时，第二控制器选择缩容策略执行PaaS层容器实例的常规缩容，以实现资源的自动伸缩。在一些实施例中，常规缩容例如可实施为休眠暂时不用的虚拟机，第二控制器根据当前应用层业务实例的业务需求，确定需要使用的虚拟机，并休眠暂时不用的虚拟机，当虚拟机休眠之后，其原先占用的资源会自动释放。

例如，部署有App1的虚拟机1、虚拟机2为例，假设当前虚拟机1、虚拟机2都处于唤醒状态，当第二控制器执行常规缩容操作时，第二控制器在虚拟机1、虚拟机2中选择一个虚拟机并休眠。

在步骤402中，获取常规缩容后PaaS层容器实例占用总资源量、IAAS层虚拟机总资源量。

在常规缩容执行后，第二控制器获取PaaS层容器实例占用总资源量以及IAAS层虚拟机总资源量，所述总资源量可以为内存、CPU等资源中的任意一种或多种组合的角度进行衡量。

在步骤403中，在所述PaaS层容器实例占用总资源与所述IAAS层虚拟机总资源的差值大于第三阈值时，移除第一虚拟机负荷的第一容器实例。

当PaaS层容器实例占用总资源与所述IAAS层虚拟机总资源的差值大于预设的第三阈值时，可以认为当PaaS层容器实例存在冗余资源，需要移除第一虚拟机负荷的第一容器实例。在一些实施例中，负荷所述第一容器的第一虚拟机可以为资源分配最小的虚拟机。需要说明的是，所述第三阈值应大于等于1个虚拟机的资源量。

在一些实施例中，第一虚拟机是处于唤醒状态且属于目标容器实例缩容的虚拟机。第一虚拟机对应的宿主机为当前空闲资源最少、并处于唤醒状态、且属于缩容目标的虚拟机的宿主机，即可以认为，在缩容时，从当前空闲资源最少的宿主机中选择处于唤醒状态的虚拟机，移除其负荷的容器实例，这样可以使得各个宿主机的负载相对均衡。

在一些实施例中，第二控制器在执行缩容策略时，向PaaS层资源管理系统向IaaS层资源管理系统发送缩容指令。所述缩容指令用于指示PaaS层资源管理系统移除第一虚拟机负荷的第一容器实例。例如，缩容指令中可携带第一容器实例所对应标识，使得PaaS层资源管理系统对相应的容器实例进行移除。

在步骤404中，从PaaS集群、以及IaaS层移除所述第一虚拟机。

当第一容器实例在PaaS层被移除后，相应的第二控制器将从从PaaS集群、以及IaaS层移除用于负荷其的第一虚拟机。

在一些实施例中，第二控制器执行缩容策略时，第二控制器从IaaS层资源管理系统查询各个虚拟机的宿主机的当前空闲资源。例如，当第二控制器执行缩容策略时，调用IaaS层资源管理系统提供的相应接口向IaaS层资源管理系统发送查询请求，该查询请求用于请求获取IaaS层中各个宿主机的当前空闲资源。相应地，IaaS层资源管理系统接收到查询请求之后，向第二控制器发送IaaS层的各个宿主机的当前空闲资源。

在一些实施例中，考虑到最早启动的虚拟机所在的宿主机有很大概率是当前空闲资源最少的宿主机，因此选择最早启动的虚拟机作为第一虚拟机，可以在很大程度上满足优选需求。

继续参考图2，在步骤303中，通过执行所述资源伸缩策略，调整PaaS集群和IaaS层内虚拟机的数量。

第二控制器通过执行步骤302中的资源伸缩策略，可以在扩容情况下增加PaaS集群和IaaS层内虚拟机的数量；在缩容情况下，容器实例驱逐完毕后，将虚拟机从PAAS集群和IaaS层中移除，减少PaaS集群和IaaS层内虚拟机的数量，实现应用节点的自动伸展、收缩，可以提高应用节点的伸缩速度，满足快速伸缩需求的技术效果。

在一些实施例中，虚拟机提供包括虚拟云主机、虚拟云硬盘等资源。虚拟机提供的云主机、虚拟云硬盘等资源会在PaaS层容器实例建立时对其配额。以CPU为例进行阐述，在容器运行时，根据容器实际CPU损耗情况，将CPU配额匹配的物理CPU与应用程序容器绑定，以避免在不同物理CPU上随机切换。

在一些实施例中，在业务系统中所有的虚拟机的业务量负载均相同的情况下，第二控制器还可以从业务系统中随机选择一个虚拟机作为第一虚拟机进行移除，将所述待移除第一虚拟机正在执行的业务转移到业务系统中的其他虚拟机上以完成缩容策略。

图5为本申请根据一实施例示出的一种控制节点的结构示意图。

例如，该控制节点可以是用于云平台的服务器，用于承载所述第一控制器、第二控制器实现上述方法示例的功能。控制节点可以包括：接口和处理器。

接口用于支持控制节点与外部设备之间收发信息。处理器用于实现控制节点的各项功能，比如资源伸缩策略，以及本申请实施例中的方法、操作、或者本发明所描述的技术方案的其它步骤。

在一些实施例中，控制节点还可以包括存储器，所述存储器用于存储控制节点的程序代码和数据。

在一些实施例中，控制节点还可以包括总线。所述存储器和所述接口通过总线与所述处理器相连。

可以理解的是，图5仅仅示出了控制节点的简化设计。在实际应用中，控制节点可以包含任意数量的接口，处理器，存储器等，而所有可以实现本发明实施例的设备都在本发明实施例的保护范围之内。

本申请还提供了一种资源自动弹性伸缩的系统，包括第一控制器和第二控制器。其中，第一控制器，被配置为获取应用层业务实例的性能指标；第二控制器，被配置为基于所述性能指标选择资源伸缩策略，所述资源伸缩策略包括扩容策略和缩容策略；以及通过执行所述资源伸缩策略，调整PaaS集群和IaaS层内虚拟机的数量。所述资源自动弹性伸缩的系统、第一控制器、第二控制器涉及的具体操作已在上文、以及图3、图4、图5对应方法步骤中进行阐述，在此不再赘述。

在一些实施例中，所述扩容策略具体包括：IaaS层存在空闲虚拟机时，第二控制器将所述空闲虚拟机加入PaaS集群执行容器实例扩容；否则，第二控制器对IaaS层扩容增加虚拟机。其涉及的具体操作已在上文对应方法步骤中进行阐述，在此不再赘述。

在一些实施例中，第二控制器通过监测PaaS层容器实例的状态，判定IaaS层是否存在所述空闲虚拟机。其涉及的具体操作已在上文对应方法步骤中进行阐述，在此不再赘述。

在一些实施例中，所述缩容策略具体包括：第二控制器执行PaaS层容器实例常规缩容；第二控制器获取常规缩容后PaaS层容器实例占用总资源量、IAAS层虚拟机总资源量；在所述PaaS层容器实例占用总资源与所述IAAS层虚拟机总资源的差值大于第三阈值时，第二控制器移除第一虚拟机负荷的第一容器实例；第二控制器从PaaS集群、以及IaaS层移除所述第一虚拟机。其涉及的具体操作已在上文对应方法步骤中进行阐述，在此不再赘述。

在一些实施例中，所述第一虚拟机为资源分配最小的虚拟机。其涉及的具体操作已在上文对应方法步骤中进行阐述，在此不再赘述。

在一些实施例中，所述第三阈值大于等于1个虚拟机的资源量。其涉及的具体操作已在上文对应方法步骤中进行阐述，在此不再赘述。

在一些实施例中，所述性能指标为CPU利用率、内存消耗、每秒查询率中的一种或多种组合。其涉及的具体操作已在上文对应方法步骤中进行阐述，在此不再赘述。

在一些实施例中，所述虚拟机提供包括：虚拟云主机、虚拟云硬盘。其涉及的具体操作已在上文对应方法步骤中进行阐述，在此不再赘述。

在一些实施例中，基于所述性能指标选择资源伸缩策略，具体包括：性能指标大于等于第一阈值时，第二控制器选择扩容策略；性能指标小于等于第二阈值时，第二控制器选择缩容策略。其涉及的具体操作已在上文对应方法步骤中进行阐述，在此不再赘述。

本申请还提供了一种云平台，所述云平台包括主控制器，所述主控制器包括处理器以及存储有所述处理器可执行指令的存储器，当所述指令被处理器执行时执行如本申请任一实施例提供的资源自动弹性伸缩方法。所述处理器具体实现资源自动弹性伸缩方法的内容描述在本申请前文的方法内容已经做了详细的阐述，此处不再赘述。

本申请还提供了一种用于云平台的服务器，包括存储器、处理器及存储在存储器上的计算机程序，所述处理器执行所述计算机程序时执行如本申请任一实施例提供的资源自动弹性伸缩方法。所述处理器具体实现资源自动弹性伸缩方法的内容描述在本申请前文的方法内容已经做了详细的阐述，此处不再赘述。

本申请还提供了一种计算机可读存储介质，所述存储介质内存储有计算机程序，所述计算机程序被处理器执行时执行如本申请任一实施例提供的资源自动弹性伸缩方法。所述处理器具体实现资源自动弹性伸缩方法的内容描述在本申请前文的方法内容已经做了详细的阐述，此处不再赘述。

本申请的有益效果在于通过获取业务实例的性能指标，可以实现应用层资源需求的实时监控；进一步通过比较性能指标和所述第一阈值、第二阈值，可以实现扩容策略、缩容策略的自动执行；进一步通过判定空闲虚拟机，可以实现PaaS集群、IaaS层自动关联扩容虚拟机；进一步通过构建第三阈值、容器实例占用总资源与虚拟机总资源差值、比较差值与第三阈值，可以实现PaaS集群、IaaS层自动关联缩容虚拟机。此外，本领域技术人员可以理解，本申请的各方面可以通过若干具有可专利性的种类或情况进行说明和描述，包括任何新的和有用的工序、机器、产品或物质的组合，或对他们的任何新的和有用的改进。相应地，本申请的各个方面可以完全由硬件执行、可以完全由软件(包括固件、常驻软件、微码等)执行、也可以由硬件和软件组合执行。以上硬件或软件均可被称为″数据块″、″控制器″、″引擎″、″单元″、″组件″或″系统″。此外，本申请的各方面可能表现为位于一个或多个计算机可读介质中的计算机产品，该产品包括计算机可读程序编码。

计算机存储介质可能包含一个内含有计算机程序编码的传播数据信号，例如在基带上或作为载波的一部分。该传播信号可能有多种表现形式，包括电磁形式、光形式等，或合适的组合形式。计算机存储介质可以是除计算机可读存储介质之外的任何计算机可读介质，该介质可以通过连接至一个指令执行系统、装置或设备以实现通讯、传播或传输供使用的程序。位于计算机存储介质上的程序编码可以通过任何合适的介质进行传播，包括无线电、电缆、光纤电缆、RF、或类似介质，或任何上述介质的组合。

本申请各部分操作所需的计算机程序编码可以用任意一种或多种程序语言编写，包括面向对象编程语言如Java、Scala、Smalltalk、Eiffel、JADE、Emerald、C++、C#、VB.NET、Python等，常规程序化编程语言如C语言、Visual Basic、Fortran 2003、Perl、COBOL 2002、PHP、ABAP，动态编程语言如Python、Ruby和Groovy，或其他编程语言等。该程序编码可以完全在用户计算机上运行、或作为独立的软件包在用户计算机上运行、或部分在用户计算机上运行部分在远程计算机运行、或完全在远程计算机或服务器上运行。在后种情况下，远程计算机可以通过任何网络形式与用户计算机连接，比如局域网(LAN)或广域网(WAN)、或连接至外部计算机(例如通过因特网)、或在云计算环境中、或作为服务使用如软件即服务(SaaS)。

此外，除非权利要求中明确说明，本申请所述处理元素和序列的顺序、数字字母的使用、或其他名称的使用，并非用于限定本申请流程和方法的顺序。尽管上述披露中通过各种示例讨论了一些目前认为有用的发明实施例，但应当理解的是，该类细节仅起到说明的目的，附加的权利要求并不仅限于披露的实施例，相反，权利要求旨在覆盖所有符合本申请实施例实质和范围的修正和等价组合。例如，虽然以上所描述的系统组件可以通过硬件设备实现，但是也可以只通过软件的解决方案得以实现，如在现有的服务器或移动设备上安装所描述的系统。

同理，应当注意的是，为了简化本申请披露的表述，从而帮助对一个或多个发明实施例的理解，前文对本申请实施例的描述中，有时会将多种特征归并至一个实施例、附图或对其的描述中。但是，这种披露方法并不意味着本申请对象所需要的特征比权利要求中提及的特征多。实际上，实施例的特征要少于上述披露的单个实施例的全部特征。

针对本申请引用的每个专利、专利申请、专利申请公开物和其他材料，如文章、书籍、说明书、出版物、文档等，特此将其全部内容并入本申请作为参考。与本申请内容不一致或产生冲突的申请历史文件除外，对本申请权利要求最广范围有限制的文件(当前或之后附加于本申请中的)也除外。需要说明的是，如果本申请附属材料中的描述、定义、和/或术语的使用与本申请所述内容有不一致或冲突的地方，以本申请的描述、定义和/或术语的使用为准。

Claims (10)

1.一种资源自动弹性伸缩的系统，其特征在于，包括：

第一控制器，被配置为获取应用层业务实例的性能指标；

第二控制器，被配置为基于所述性能指标选择资源伸缩策略，所述资源伸缩策略包括扩容策略和缩容策略；以及，

通过执行所述资源伸缩策略，调整PaaS集群和IaaS层内虚拟机的数量；

所述第二控制器进一步被配置为：

在进行所述扩容策略时，判断所述IaaS层是否存在空闲虚拟机，若所述IaaS层存在空闲虚拟机时，将所述空闲虚拟机加入所述PaaS集群执行容器实例扩容；若所述IaaS层不存在空闲虚拟机时，对所述IaaS层扩容增加虚拟机，且在存储上预创建目标数量的虚拟机；

在进行所述缩容策略时，执行所述PaaS层容器实例常规缩容，具体包括，

根据当前应用层业务实例的业务需求，确定需要使用的虚拟机，并休眠暂时不用的虚拟机；之后，获取常规缩容后PaaS层容器实例占用总资源量和IaaS层虚拟机总资源量；

当所述PaaS层容器实例占用总资源与所述IaaS层虚拟机总资源的差值大于第三阈值时，第二控制器移除第一虚拟机负荷的第一容器实例；

第二控制器从PaaS集群、以及IaaS层移除所述第一虚拟机。

2.如权利要求1所述资源自动弹性伸缩的系统，其特征在于，第二控制器通过监测PaaS层容器实例的状态，判定IaaS层是否存在所述空闲虚拟机。

3.如权利要求1所述资源自动弹性伸缩的系统，其特征在于，所述第一虚拟机为资源分配最小的虚拟机。

4.如权利要求2所述资源自动弹性伸缩的系统，其特征在于，在执行所述容器实例扩容前，所述第二控制器对IaaS层处于空闲、或休眠的虚拟机进行唤醒添加至PaaS集群。

5.如权利要求1所述资源自动弹性伸缩的系统，其特征在于，所述第三阈值大于等于1个虚拟机的资源量。

6.如权利要求1所述资源自动弹性伸缩的系统，其特征在于，基于所述性能指标选择资源伸缩策略，具体包括：

性能指标大于等于第一阈值时，第二控制器选择扩容策略；

性能指标小于等于第二阈值时，第二控制器选择缩容策略。

7.如权利要求3所述资源自动弹性伸缩的系统，其特征在于，所述第二控制器执行缩容策略时，将最早启动的虚拟机作为第一虚拟机。

8.一种资源自动弹性伸缩的方法，其特征在于，所述方法包括：

获取应用层业务实例的性能指标；

基于所述性能指标选择资源伸缩策略，所述资源伸缩策略包括扩容策略和缩容策略；

在进行所述扩容策略时，判断IaaS层是否存在空闲虚拟机，若所述IaaS层存在空闲虚拟机时，将所述空闲虚拟机加入所述PaaS集群执行容器实例扩容；若所述IaaS层不存在空闲虚拟机时，对所述IaaS层扩容增加虚拟机，且在存储上预创建目标数量的虚拟机；

在进行所述缩容策略时，执行所述PaaS层容器实例常规缩容，具体包括，

根据当前应用层业务实例的业务需求，确定需要使用的虚拟机，并休眠暂时不用的虚拟机；之后，获取常规缩容后PaaS层容器实例占用总资源量和IaaS层虚拟机总资源量；

当所述PaaS层容器实例占用总资源与所述IaaS层虚拟机总资源的差值大于第三阈值时，第二控制器移除第一虚拟机负荷的第一容器实例；

第二控制器从PaaS集群、以及IaaS层移除所述第一虚拟机；

通过执行所述资源伸缩策略，调整PaaS集群和IaaS层内虚拟机的数量。

9.如权利要求8所述资源自动弹性伸缩的方法，其特征在于，所述在进行所述扩容策略时，通过监测所述PaaS层容器实例的状态，判定所述IaaS层是否存在所述空闲虚拟机。

10.一种云平台，其特征在于，所述云平台包括主控制器，所述主控制器包括处理器以及存储有所述处理器可执行指令的存储器，当所述指令被处理器执行时执行如权利要求8-9中任一所述方法。

Images