CN102904955A - 云计算平台中Web应用的自适应伸缩控制系统及其方法 - Google Patents
云计算平台中Web应用的自适应伸缩控制系统及其方法 Download PDFInfo
- Publication number
- CN102904955A CN102904955A CN2012103904812A CN201210390481A CN102904955A CN 102904955 A CN102904955 A CN 102904955A CN 2012103904812 A CN2012103904812 A CN 2012103904812A CN 201210390481 A CN201210390481 A CN 201210390481A CN 102904955 A CN102904955 A CN 102904955A
- Authority
- CN
- China
- Prior art keywords
- performance
- web
- load
- self
- resource
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Computer And Data Communications (AREA)
Abstract
本发明公开了一种随着负载变化，动态调整计算资源的云计算平台中Web应用的自适应伸缩控制系统及其方法，系统包括性能监视器、负载数据库、性能模型计算模块、优化控制器和自动配置模块。方法为：首先性能监视器根据Web应用的结构和请求处理流程，构造分层队列网络模型；通过在真实的云计算平台中部署web应用，并在web应用的每一层组件中插入记录标签，以记录每个请求在每个组件的每种资源处的实际执行时间，从而得到性能模型计算模块中web应用性能模型所需要的参数；当应用负载发生变化时，优化控制器通过启发式的搜索算法，计算每一种资源配置方案下应用的性能，找到所需代价最小又能同时满足用户QoS需求的配置方案，作为最优配置方案；最后由自动配置模块重新调整应用每个组件所需要的资源。
Description
技术领域
本发明涉及云平台中资源的有效管理,特别涉及一种多层web应用的自适应伸缩控制系统及其工作方法，本发明支持随着负载的变化，动态的调整计算资源。
背景技术
使用自适应伸缩控制系统能够帮助服务提供商根据负载需求动态的调度资源，从而以最少的资源来满足用户的QoS（Quality of Service，服务质量）需求。与传统的访问控制技术相比，自适应伸缩控制系统不会确定应用能够容纳的最大用户数量，也不会因为太多的用户而拒绝客户的请求，而且又能保证整体的服务质量，同时也不会占用额外的资源。当前的云平台中自适应伸缩控制技术分为两种：（1）基于虚拟机的方法：该方法不考虑虚拟机内部的具体应用，制定具体的伸缩策略，根据虚拟机当前的资源利用率来调整资源的分配，它的缺陷为：从整个应用的角度来说，单个组件虚拟机的性能改善，可能会将性能瓶颈转移到其他的组件的虚拟机上。（2）基于应用的方法：目前的方法往往假设应用只有单个事务类型，每个虚拟机能够处理的请求数量为固定值，从而根据总负载来伸缩，事实上该方法很难扩展到具有多种事务类型的web应用的自动伸缩。同时这两种方法当前都没有考虑到多个QoS的情况。
发明内容
本发明的主要目的是针对目前的web应用自动伸缩控制技术的缺点，提供一种基于分析模型的自适应的控制接纳方法，它能够根据用户的QoS需求和当前负载，有效的自适应的调整应用每个组件所需的资源容量。
本发明所述的一种云计算平台中Web应用的自适应伸缩控制系统，其包括以下部分：
性能监视器：检测Web应用当前的负载以及当前的性能水平，并将数据发给负载数据库保存下来，进一步判断性能是否能够满足用户的QoS需求，若不能满足，则交给优化控制器来处理资源的重新分配；
负载数据库：储存应用的负载、资源分配以及实际的性能水平这些历史信息；
性能模型计算模块：根据当前的负载以及某种配置方案，计算出其相应的性能水平，并返回给优化控制器进行处理；
优化控制器：通过启发式的搜索算法找到一种最优配置方案，使得满足当前系统负载并同时最小化资源的需求；
自动配置模块：根据优化控制器产生的最优配置方案，关掉或启用相应的虚拟机。
此外，本发明还提供该云计算平台中Web应用的自适应伸缩控制系统的工作方法，其包括以下步骤：
（A）首先性能监视器检测Web应用当前的负载以及当前的性能水平，并将数据发给负载数据库保存下来，根据Web应用的结构、请求处理流程和分层队列网络模型构造相应的web应用性能模型；
（B）通过在真实的云计算平台中部署web应用，每一层组件都有多个虚拟机副本，并在web应用的每一层组件中插入记录标签，以记录每个请求在每个组件的每种资源处的实际执行时间，然后通过使应用的负载为一个某种事务的请求，得到上述记录的执行时间，迭代若干次，求得相应的平均值，从而得到性能模型计算模块中web应用性能模型所需要的参数；
（C）当应用负载发生变化时，优化控制器通过启发式的搜索算法，计算每一种资源配置方案下应用的性能，找到所需资源代价最小又能同时满足用户QoS 需求的配置方案，作为最优配置方案；
（D）根据（C）中生成的最优配置方案，由自动配置模块重新调整应用每个组件所需要的资源。
所述步骤（A）中构造web应用性能模型的过程是：性能模型计算模块分析多层web应用的组件构成、负载组成以及事务的请求处理流程，利用MVA算法和分层队列网络模型，预测每个事务的响应时间。
所述步骤（C）中的启发式的搜索算法是：首先从当前配置方案出发，计算其N个邻居节点的效益函数值U，然后按照从大到小的顺序排列，选取其中K个效益函数值最大的配置方案；若这K个效益函数值最大的配置方案中存在其性能水平满足用户QoS需求的配置方案，则选取K个配置方案中效益函数值最大的，作为最优配置方案，否则再考虑这K个配置方案的所有邻居节点，依此循环执行。
本发明克服了当前云平台中已有的自适应伸缩控制技术的缺点，考虑了web应用典型的多层结构以及能够执行多种事务类型的特点，适用于根据负载灵活的调整web应用的服务器容量，它能够有效的使用最小的资源代价满足用户的QoS需求。
附图说明
图1为基于分析模型的自适应伸缩控制整体结构图，
图2为启发式搜索算法的工作流程图。
具体实施方式
下面将结合附图对该自适应伸缩控制方法进行详细说明
关键概念、定义及符号说明：
这个概念是指应用的每个组件是由多少个虚拟机构成的，即应用的具体资源构成方案。
邻居节点：每个配置方案的邻居节点是指相应的资源需求变化最少的配置方案，即对于任意两个配置方案 
互为邻居节点，当且仅当存在唯一的一个t使得
，同时其余的对应位置都相等。（其中，M为多层Web应用的层数）
效益函数：对于相同的负载，在不同的配置方案下，其性能表现各不相同。效益函数则为web应用的性能到用户满意度的映射，表示用户对服务的满意程度，性能越好，则用户愈加满意，其定义如下：
其中U表示用户的满意度，随着响应时间的增加而减少，Ri和SLAi分别表示事务i的实际响应时间和QoS需求，Impori则表示事务i的重要程度，W则表示对应事务的负载。
如图1所示，整个web应用的自适应伸缩控制系统由五部分组成：性能监视器、负载数据库、优化控制器、自动配置模块和性能模型计算模块。性能监视器的功能是检测Web应用当前的负载以及当前的性能水平，并将数据发给负载数据库保存下来，并进一步判断性能是否能够满足用户的QoS需求，若不能满足，则交给优化控制器来处理资源的重新分配。负载数据库的功能是储存应用的负载、资源分配以及实际的性能水平等历史信息。性能模型计算模块的功能是根据当前的负载以及某种配置方案，计算出其相应的性能水平，并返回给优化控制器进行处理。优化控制器的功能是通过启发式的搜索算法找到一种最优配置方案，使得满足当前系统负载并同时最小化资源的需求。自动配置模块的功能是根据优化控制器产生的最优配置方案，关掉或启用相应的虚拟机。
本发明得到最优配置方案的启发式搜索算法的具体工作流程如图2所示。系统在正式运行前，必须经过步骤20，预先测量每类事务在每个组件的每种资源类型的执行时间，将性能模型参数化，并用伏在数据库中的历史数据验证其有效性。系统运行状态下，步骤10为初始点，性能监视器将检测到的当前负载和性能参数发送到优化控制器中。此时判断当前的性能水平是否满足用户的QoS需求，如果是转步骤14，否则转步骤11。步骤14，将监视到的负载和性能数据储存在负载数据库中，方便以后使用；步骤11，首先从当前配置方案出发，计算其N个邻居节点的效益函数值U，然后按照从大到小的顺序排列，选取其中K个效益最大的配置方案，最后转步骤12。步骤12，判断这K个效益最大的配置方案是否存在其性能水平满足用户QoS需求的配置方案，若否，则转回步骤11 循环执行；若是，则转步骤13。步骤13选取K个配置方案中效益函数值最大的，作为最优配置方案，并调用自动配置模块根据最优配置方案重新调整整个应用的资源组成。
本发明具体应用途径很多，以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以作出若干改进，这些改进也应视为本发明的保护范围。
Claims (4)
1.一种云计算平台中Web应用的自适应伸缩控制系统，其特征在于包括以下部分：
性能监视器：检测Web应用当前的负载以及当前的性能表现，并将数据发给负载数据库保存下来，进一步判断性能是否能够满足用户的QoS需求，若不能满足，则交给优化控制器来处理资源的重新分配；
负载数据库：储存应用的负载、资源分配以及实际的性能参数这些历史信息；
性能模型计算模块：根据当前的负载以及资源配置方案，预测其相应的性能参数，并返回给优化控制器进行处理；
优化控制器：通过启发式的搜索算法找到一种最优配置方案，以保证性能满足用户的QoS需求并同时最小化资源的需求；
自动配置模块：根据优化控制器产生的最优配置方案，关掉或启用相应的虚拟机。
2.根据权利要求1所述云计算平台中Web应用的自适应伸缩控制系统的工作方法，其特征在于包括以下步骤：
（A）首先性能监视器检测Web应用当前的负载以及当前的性能水平，并将数据发给负载数据库保存下来，根据Web应用的结构、请求处理流程和分层队列网络模型构造相应的web应用性能模型；
（B）通过在真实的云计算平台中部署web应用，每一层组件都有多个虚拟机副本，并在web应用的每一层组件中插入记录标签，以记录每个请求在每个组件的每种资源处的实际执行时间，然后通过使应用的负载为一个某种事务的请求，得到上述记录的执行时间，迭代若干次，求得相应的平均值，从而得到性能模型计算模块中web应用性能模型所需要的参数；
（C）当应用负载发生变化时，优化控制器通过启发式的搜索算法，计算每一种资源配置方案下应用的性能，找到所需资源代价最小又能同时满足用户QoS 需求的配置方案，作为最优配置方案；
（D）根据（C）中生成的最优配置方案，由自动配置模块重新调整应用每个组件所需要的资源。
3.根据权利要求2所述的云计算平台中Web应用的自适应伸缩控制系统的工作方法，其特征在于，所述步骤（A）中构造web应用性能模型的过程是：性能模型计算模块分析多层web应用的组件构成、负载组成以及事务的请求处理流程，利用MVA算法和分层队列网络模型，预测每个事务的响应时间。
4.根据权利要求2所述的云计算平台中Web应用的自适应伸缩控制系统的工作方法，其特征在于，所述步骤（C）中的启发式的搜索算法是：首先从当前配置方案出发，计算其N个邻居节点的效益函数值U，然后按照从大到小的顺序排列，选取其中K个效益函数值最大的配置方案；若这K个效益函数值最大的配置方案中存在其性能水平满足用户QoS需求的配置方案，则选取K个配置方案中效益函数值最大的，作为最优配置方案，否则再考虑这K个配置方案的所有邻居节点，依此循环执行。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201210390481.2A CN102904955B (zh) | 2012-10-16 | 2012-10-16 | 云计算平台中Web应用的自适应伸缩控制系统及其方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201210390481.2A CN102904955B (zh) | 2012-10-16 | 2012-10-16 | 云计算平台中Web应用的自适应伸缩控制系统及其方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN102904955A true CN102904955A (zh) | 2013-01-30 |
| CN102904955B CN102904955B (zh) | 2015-11-18 |
Family
ID=47576990
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201210390481.2A Active CN102904955B (zh) | 2012-10-16 | 2012-10-16 | 云计算平台中Web应用的自适应伸缩控制系统及其方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN102904955B (zh) |
Cited By (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103559072A (zh) * | 2013-10-22 | 2014-02-05 | 无锡中科方德软件有限公司 | 虚拟机双向自动伸缩服务实现方法及其系统 |
| CN103916396A (zh) * | 2014-04-10 | 2014-07-09 | 电子科技大学 | 一种基于负载自适应的云平台应用实例自动伸缩方法 |
| CN104077189A (zh) * | 2013-03-29 | 2014-10-01 | 西门子公司 | 一种用于资源分配的方法和装置 |
| CN104424106A (zh) * | 2013-08-30 | 2015-03-18 | 国际商业机器公司 | 为存储优化操作分配存储设备的资源的方法和系统 |
| CN104536829A (zh) * | 2014-12-30 | 2015-04-22 | 深圳先进技术研究院 | 一种云计算系统中虚拟机的性能预测方法及系统 |
| CN104778076A (zh) * | 2015-04-27 | 2015-07-15 | 东南大学 | 一种云服务工作流调度方法 |
| CN106534265A (zh) * | 2016-10-15 | 2017-03-22 | 黄林果 | 一种云服务资源的高效管理方法 |
| CN106528266A (zh) * | 2016-10-28 | 2017-03-22 | 柏域信息科技（上海）有限公司 | 一种云计算系统中的资源动态调整方法及装置 |
| CN108108204A (zh) * | 2016-11-23 | 2018-06-01 | 湖北省楚天云有限公司 | 云计算平台的应用程序配置方法和装置 |
| CN108780403A (zh) * | 2016-03-10 | 2018-11-09 | 沃拉斯堤技术解决方案公司 | 对用于信息系统的云计算资源进行管理的系统及方法 |
| WO2019092530A1 (en) * | 2017-11-09 | 2019-05-16 | International Business Machines Corporation | Dynamic selection of deployment configurations of software applications |
| CN111491006A (zh) * | 2020-03-03 | 2020-08-04 | 天津大学 | 负载感知的云计算资源弹性分配系统及方法 |
| US11223536B2 (en) | 2016-04-04 | 2022-01-11 | At&T Intellectual Property I, L.P. | Model driven process for automated deployment of domain 2.0 virtualized services and applications on cloud infrastructure |
-
2012
- 2012-10-16 CN CN201210390481.2A patent/CN102904955B/zh active Active
Non-Patent Citations (1)
| Title |
|---|
| 李强等: "云计算中虚拟机放置的自适应管理与多目标优化", 《计算机学报》 * |
Cited By (20)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104077189A (zh) * | 2013-03-29 | 2014-10-01 | 西门子公司 | 一种用于资源分配的方法和装置 |
| CN104424106A (zh) * | 2013-08-30 | 2015-03-18 | 国际商业机器公司 | 为存储优化操作分配存储设备的资源的方法和系统 |
| CN103559072A (zh) * | 2013-10-22 | 2014-02-05 | 无锡中科方德软件有限公司 | 虚拟机双向自动伸缩服务实现方法及其系统 |
| CN103559072B (zh) * | 2013-10-22 | 2016-08-17 | 无锡中科方德软件有限公司 | 虚拟机双向自动伸缩服务实现方法及其系统 |
| CN103916396A (zh) * | 2014-04-10 | 2014-07-09 | 电子科技大学 | 一种基于负载自适应的云平台应用实例自动伸缩方法 |
| CN104536829B (zh) * | 2014-12-30 | 2018-04-13 | 深圳先进技术研究院 | 一种云计算系统中虚拟机的性能预测方法及系统 |
| CN104536829A (zh) * | 2014-12-30 | 2015-04-22 | 深圳先进技术研究院 | 一种云计算系统中虚拟机的性能预测方法及系统 |
| CN104778076A (zh) * | 2015-04-27 | 2015-07-15 | 东南大学 | 一种云服务工作流调度方法 |
| CN104778076B (zh) * | 2015-04-27 | 2017-10-31 | 东南大学 | 一种云服务工作流调度方法 |
| CN108780403A (zh) * | 2016-03-10 | 2018-11-09 | 沃拉斯堤技术解决方案公司 | 对用于信息系统的云计算资源进行管理的系统及方法 |
| US11223536B2 (en) | 2016-04-04 | 2022-01-11 | At&T Intellectual Property I, L.P. | Model driven process for automated deployment of domain 2.0 virtualized services and applications on cloud infrastructure |
| US11611487B2 (en) | 2016-04-04 | 2023-03-21 | At&T Intellectual Property I, L.P. | Model driven process for automated deployment of domain 2.0 virtualized services and applications on cloud infrastructure |
| CN106534265A (zh) * | 2016-10-15 | 2017-03-22 | 黄林果 | 一种云服务资源的高效管理方法 |
| CN106528266A (zh) * | 2016-10-28 | 2017-03-22 | 柏域信息科技（上海）有限公司 | 一种云计算系统中的资源动态调整方法及装置 |
| CN106528266B (zh) * | 2016-10-28 | 2020-01-14 | 柏域信息科技（上海）有限公司 | 一种云计算系统中的资源动态调整方法及装置 |
| CN108108204A (zh) * | 2016-11-23 | 2018-06-01 | 湖北省楚天云有限公司 | 云计算平台的应用程序配置方法和装置 |
| WO2019092530A1 (en) * | 2017-11-09 | 2019-05-16 | International Business Machines Corporation | Dynamic selection of deployment configurations of software applications |
| GB2581107A (en) * | 2017-11-09 | 2020-08-05 | Ibm | Dynamic selection of deployment configurations of software applications |
| US10782953B2 (en) | 2017-11-09 | 2020-09-22 | International Business Machines Corporation | Dynamic selection of deployment configurations of software applications |
| CN111491006A (zh) * | 2020-03-03 | 2020-08-04 | 天津大学 | 负载感知的云计算资源弹性分配系统及方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN102904955B (zh) | 2015-11-18 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN102904955A (zh) | 云计算平台中Web应用的自适应伸缩控制系统及其方法 | |
| US10623481B2 (en) | Balancing resources in distributed computing environments | |
| CN104281496B (zh) | 虚拟资源的分配方法及分配装置 | |
| EP2693704B1 (en) | Method, regional management entity and system for virtual network migration | |
| CN104320487B (zh) | 内容分发网络的http调度系统和方法 | |
| TWI382318B (zh) | 協調的服務效能以及應用程式置放管理 | |
| Shi et al. | Empirical evaluation of vector bin packing algorithms for energy efficient data centers | |
| US8291424B2 (en) | Method and system of managing resources for on-demand computing | |
| CN108182105B (zh) | 基于Docker容器技术的局部动态迁移方法及控制系统 | |
| CN107580023A (zh) | 一种动态调整任务分配的流处理作业调度方法及系统 | |
| CN104901989B (zh) | 一种现场服务提供系统及方法 | |
| CN104679594B (zh) | 一种中间件分布式计算方法 | |
| CN105245617A (zh) | 一种基于容器的服务器资源供给方法 | |
| CN104363313A (zh) | 使用内容分发网络的网站的资源使用率保障方法和系统 | |
| CN105677441B (zh) | 虚拟机迁移方法、虚拟设施管理器及协调器 | |
| CN105703927A (zh) | 一种资源分配方法、网络设备和网络系统 | |
| JP7103705B1 (ja) | クラスタに基づく容量縮小処理方法及び装置 | |
| CN103699433A (zh) | 一种于Hadoop平台中动态调整任务数目的方法及系统 | |
| JP7079998B1 (ja) | クラスタの容量拡張方法及び装置 | |
| US11838389B2 (en) | Service deployment method and scheduling apparatus | |
| Fu et al. | An efficient VNF deployment scheme for cloud networks | |
| Gu et al. | Distributed throughput optimization for large-scale scientific workflows under fault-tolerance constraint | |
| CN109039694A (zh) | 一种面向业务的全局网络资源分配方法及装置 | |
| CN104683480A (zh) | 一种基于应用的分布式计算方法 | |
| US9503367B2 (en) | Risk mitigation in data center networks using virtual machine sharing |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| C14 | Grant of patent or utility model | ||
| GR01 | Patent grant |