CN108156212A - 一种基于用户感知的弹性伸缩方法及系统 - Google Patents

Abstract

本发明涉及一种基于用户感知的弹性伸缩方法及系统，该方法包括根据采集的流量数据确定当前的用户感知数据；当所述当前的用户感知数据满足预设的伸缩要求时，根据伸缩规则触发相应的伸缩活动请求；根据所述伸缩活动请求创建一伸缩活动；执行所述伸缩活动以实现伸缩组的云服务器实例的添加与删除。本发明能及时有效地提供弹性服务，提高资源的使用效率以及整个系统的服务质量。

Description

一种基于用户感知的弹性伸缩方法及系统

技术领域

本发明涉及云计算领域，尤其涉及一种基于用户感知的弹性伸缩方法及系统。

背景技术

云计算(cloud computing)是基于互联网的相关服务的增加、使用和交付模式，通常涉及通过互联网来提供动态易扩展且经常是虚拟化的资源。负载均衡是由多台服务器以对称的方式组成一个服务器集合，每台服务器都具有等价的地位，都可以单独对外提供服务而无须其他服务器的辅助；均衡负载能够平均分配客户请求到服务器列阵，籍此提供快速获取重要数据，解决大量并发访问服务问题。弹性伸缩服务则是是根据用户的业务需求和策略，自动调整其弹性计算资源的管理服务；其能够在业务负载增长时自动增加云服务器实例，保证业务的平稳健康运行；并在业务负载下降时自动减少云服务器实例，节省相应计算资源。

目前的弹性伸缩方案一般都是通过监控伸缩组中的云服务器实例的负载，如CPU、内存、IO等指标的应用负载数据，如果总应用负载数据高于上限阀值，则触发弹性扩张规则，向伸缩组添加云服务器实例；如果总应用负载数据低于下限阀值，则触发弹性收缩规则，从伸缩组减少云服务器实例资源。但是这种方式采用简单统计的方式，只适合少数的、业务负载突发剧烈波动的情况，而多数情况下，该方法不能真实反映业务负载与资源负载的关系，无法有效的进行资源的按需分配。

发明内容

针对现有技术的不足，本发明的目的旨在于提供一种基于用户感知的弹性伸缩方法及系统，其能及时有效地提供弹性服务，提高资源的使用效率以及整个系统的服务质量。

为实现上述目的，本发明提供了一种基于用户感知的弹性伸缩方法，根据采集的流量数据确定当前的用户感知数据；

当所述当前的用户感知数据满足预设的伸缩要求时，根据伸缩规则触发相应的伸缩活动请求；

根据所述伸缩活动请求创建一伸缩活动；

执行所述伸缩活动以实现伸缩组的云服务器实例的添加与删除。

作为优选的，所述用户感知数据包括并发用户数、请求失败次数以及资源利用率，所述当所述用户感知数据满足预设的伸缩要求时，触发伸缩活动请求包括，

当所述并发用户数增加时，判断所述请求失败次数是否超出预设的第一上限阀值；

若所述请求失败次数超出预设的第一上限阀值，触发扩张活动请求；

若所述请求失败次数没有超出预设的第一上限阀值，判断所述资源利用率是否超出预设阀值；

若所述资源利用率超出预设的第一上限阀值，触发扩张活动请求。

作为进一步优选的，所述弹性伸缩方法还包括，

当所述并发用户数减少时，判断所述请求失败次数是否低于预设的第一下限阀值；

若所述请求失败次数低于预设的第一下限阀值，且当所述资源利用率低于预设的第二下限阀值时，触发收缩活动请求。

作为进一步优选的，所述根据所述伸缩活动请求创建一伸缩活动包括，

根据所述扩张或收缩活动请求确定一对应的伸缩组以及并发用户数的增加量或并发用户数的减少量；

根据所述伸缩组的配置信息确定所述伸缩组对应的云服务器实例的配置参数；

根据所述并发用户数的增加量或并发用户数的减少量确定所述伸缩组需要添加或删除的云服务器实例的数量；

其中，根据所述伸缩组对应的云服务器实例的配置参数以及所述伸缩组需要添加或删除的云服务器实例的数量实现所述伸缩组的云服务器实例的添加或删除。

作为优选的，所述弹性伸缩方法还包括，

从所述伸缩活动完成开始计时以得到一完成时间；

判断所述完成时间是否达到预设的冷却时间；

若所述完成时间达到预设的冷却时间，执行所述根据采集的流量数据确定当前的用户感知数据。

本发明还提供一种系统，包括，

存储器，用于存储程序指令；

处理器，用于运行所述程序指令，以执行以下步骤，

根据采集的流量数据确定当前的用户感知数据；

当所述当前的用户感知数据满足预设的伸缩要求时，根据伸缩规则触发相应的伸缩活动请求；

根据所述伸缩活动请求创建一伸缩活动；

执行所述伸缩活动以实现伸缩组的云服务器实例的添加与删除。

作为优选的，所述用户感知数据包括并发用户数、请求失败次数以及资源利用率，所述处理器执行所述当所述用户感知数据满足预设的伸缩要求时，触发伸缩活动请求包括执行以下步骤，

当所述并发用户数增加时，判断所述请求失败次数是否超出预设的第一上限阀值；

若所述请求失败次数超出预设的第一上限阀值，触发扩张活动请求；

若所述请求失败次数没有超出预设的第一上限阀值，判断所述资源利用率是否超出预设阀值；

若所述资源利用率超出预设的第一上限阀值，触发扩张活动请求。

作为进一步优选的，所述处理器执行所述根据所述伸缩活动请求创建一伸缩活动包括，

所述处理器还执行以下步骤，

当所述并发用户数减少时，判断所述请求失败次数是否低于预设的第一下限阀值；

若所述请求失败次数低于预设的第一下限阀值，且当所述资源利用率低于预设的第二下限阀值时，触发收缩活动请求。

作为进一步优选的，所述处理器执行所述根据所述伸缩活动请求创建一伸缩活动包括执行以下步骤，

根据所述扩张或收缩活动请求确定一对应的伸缩组以及并发用户数的增加量或并发用户数的减少量；

根据所述伸缩组的配置信息确定所述伸缩组对应的云服务器实例的配置参数；

根据所述并发用户数的增加量或并发用户数的减少量确定所述伸缩组需要添加或删除的云服务器实例的数量；

其中，根据所述伸缩组对应的云服务器实例的配置参数以及所述伸缩组需要添加或删除的云服务器实例的数量实现所述伸缩组的云服务器实例的添加或删除。

作为优选的，所述处理器还用于执行，

从所述伸缩活动完成开始计时以得到一完成时间；

判断所述完成时间是否达到预设的冷却时间；

若所述完成时间达到预设的冷却时间，执行所述根据采集的流量数据确定当前的用户感知数据。

本发明的有益效果如下：

1.能够基于云服务器的应用负载变化，对应用负载波动响应更加及时有效；

2.采用的方法更科学合理，可以最大限度提高资源的使用效率；

3.基于用户感知数据的分析，给出不同业务、不同用户对应用系统的要求，进而转化为系统资源的要求，一方面有效提供资源使用效率；另一个方面也可以最大限度的提升系统的服务质量；

4.通过用户感知数据的分析，可以提供更加个性化、智能化的弹性服务。

附图说明

图1为本发明一种基于用户感知的弹性伸缩方法的流程图；

图2为本发明中步骤S102的子步骤流程图；

图3为本发明中关于用户感知数据的模型示意图；

图4为本发明中步骤S103的子步骤流程图；

图5为本发明一种系统的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

还应当进一步理解，在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。

请参见图1，本发明涉及一种基于用户感知的弹性伸缩方法，其较佳实施方式包括如下步骤，开始

步骤S101，根据采集的流量数据确定当前的用户感知数据。

一般情况下，可以通过系统的流量采集器从系统互联网入口上采流量数据。例如，本发明可以通过系统的流量识别器，根据采集到的流量数据，基于DPI/DFI(深度包检测/深度流检测)系统，对业务系统流量进行分析，从而获取业务系统流量数据以及相关的用户感知数据，并对结果进行预处理和存储处理，即根据采集的流量数据确定当前的用户感知数据。

其中，伸缩组是具有相同应用场景的云服务器实例的集合。伸缩组定义了组内云服务器实例数的最大值、最小值以及相关的负载均衡实例和数据库实例。具体来说，用户可以实现伸缩组的创建、伸缩组的修改、伸缩组的删除和伸缩组的查询等功能。

步骤S102，当所述当前的用户感知数据满足预设的伸缩要求时，根据伸缩规则触发相应的伸缩活动请求。

其中，伸缩规则是指定义伸缩活动中添加还是删除云服务器实例，以及添加或删除云服务器的数量。伸缩活动则是完成弹性伸缩过程的重要步骤，根据伸缩配置信息通过调用云平台接口，完成云服务器实例的创建配置等一系列操作。伸缩配置则定义了用于弹性伸缩的云服务器实例的配置信息。

如图2所示，作为优选的实施例，当所述用户感知数据包括并发用户数、请求失败次数以及资源利用率时，所述步骤S102包括，

步骤S201，当所述并发用户数增加时，判断所述请求失败次数是否超出预设的第一上限阀值。

其中，如图3所示，其是关于用户感知数据的模型示意图，图中横坐标从左到右表现了并发用户数的不断增长，也即负载的不断增长，图中有三条曲线，分别为资源利用率曲线、吞吐量曲线以及响应时间曲线。

随着并发用户数的增加，资源利用率和吞吐量会相应的增长，但响应时间变化不大；当并发用户数增长到一定程度后，资源占用达到饱和，吞吐量明显放缓甚至停止增长，而响应时间进一步延长。如果并发用户数继续增长，会发现资源占用维持在饱和状态，但吞吐量开始下降，响应时间快速延长并超出用户可接受范围，并导致用户放弃请求甚至离开。

随并发用户的增长，划分了三个区域，较轻负载区，该区域吞吐量、资源利用率随并发用户数增加而增长，响应时间变化不大；较重负载区，该区域资源利用率饱和，吞吐量增长放缓或停止，响应时间开始增大；放弃请求区，该区域资源利用率维持饱和，吞吐量开始下降，响应时间快速增大并超出用户接受范围。最佳并发数，较轻负载区与较重负载区交界处的并发数。最大并发数，较重负载区与放弃请求区交界处的并发数。当并发用户数以及资源利用率等位于放弃请求区时，记为一次请求失败次数。

故当所述并发用户数增加时，应该判断所述请求失败次数是否超出预设的第一上限阀值。

步骤S202，若所述请求失败次数超出预设的第一上限阀值，触发扩张活动请求。

其中，当所述请求失败次数超出预设的第一上限阀值，那么就触发扩张活动请求。优先考虑用户放弃请求数，能够对业务系统服务质量的变化进行快速响应。

步骤S203，若所述请求失败次数没有超出预设的第一上限阀值，判断所述资源利用率是否超出预设阀值。

其中，为了进一步对收缩活动进行判断，那么在所述请求失败次数没有超出预设的第一上限阀值时，需要进一步的判断所述资源利用率是否超出预设阀值。

步骤S204，若所述资源利用率超出预设的第一上限阀值，触发扩张活动请求。

当所述资源利用率超出预设的第一上限阀值，那么则表明，也需要触发扩张活动请求。

作为进一步优选的实施例，所述步骤S102还包括，

步骤S205，当所述并发用户数减少时，判断所述请求失败次数是否低于预设的第一下限阀值。

其中，当所述并发用户数减少时，请求响应时间变短，为了使得应用负载波动响应更加有效，需要进一步判断所述请求失败次数是否低于预设额第一下限阀值。

步骤S206，若所述请求失败次数低于预设的第一下限阀值，且当所述资源利用率低于预设的第二下限阀值时，触发收缩活动请求。

其中，若所述请求失败次数低于预设的第一下限阀值，而且当所述资源利用率低于预设的第二下限阀值时，综合两者即可触发收缩活动请求。综合考虑用户的请求失败次数和资源利用率，能够最大限度保障资源收缩后，那么则不会导致业务系统服务质量降低，即提高业务系统服务质量。

另外，本发明还可以实时监控伸缩组内云服务器，并根据用户配置的报警规则，对非应用负载所产生的资源损耗进行报警，但不触发执行伸缩活动请求。当然，本发明还可以定期检查伸缩组内云服务器实例的健康情况，如发现有不监控的云服务器实例(如云服务器非运行状态)则会触发执行伸缩活动请求，更换该实例。

步骤S103，根据所述伸缩活动请求创建一伸缩活动。其中伸缩活动请求包括伸缩规则、伸缩组等信息，即可以根据这些信息创建一伸缩活动。

如图4所示，作为优选的，所述步骤S103包括，

步骤S301，根据所述扩张或收缩活动请求确定一对应的伸缩组以及并发用户数的增加量或并发用户数的减少量。其中，分析扩张或收缩活动请求的信息，可以确定伸缩活动请求所对应的伸缩组以及并发用户数的增加量或并发用户数的减少量。

步骤S302，根据所述伸缩组的配置信息确定所述伸缩组对应的云服务器实例的配置参数。其中，根据伸缩组的配置信息，查询对应的伸缩配置信息，即获得需要创建云服务器实例的伸缩组对应的云服务器实例的配置信息(如CPU,内存，带宽，镜像等)；

步骤S303，根据所述并发用户数的增加量或并发用户数的减少量确定所述伸缩组需要添加或删除的云服务器实例的数量。具体的，分析伸缩活动请求可以确定伸缩活动需要添加或删除的云服务器数量。一般情况下，可以根据需要添加或删除云服务器实例的数量、云服务器实例的配置信息创建伸缩活动。

步骤S104，执行所述伸缩活动以实现伸缩组的云服务器实例的添加与删除。

其中，作为优选的，可以根据所述伸缩组对应的云服务器实例的配置参数以及所述伸缩组需要添加或删除的云服务器实例的数量实现所述伸缩组的云服务器实例的添加或删除。

另外，作为进一步优选的，所述弹性伸缩方法还包括，

步骤S105，从所述伸缩活动完成开始计时以得到一完成时间。

步骤S106，判断所述完成时间是否达到预设的冷却时间；

若所述完成时间达到预设的冷却时间，执行所述根据采集的流量数据确定当前的用户感知数据。预设的冷却时间是指，在同一伸缩组内，一个伸缩活动执行完成后的一段锁定时间。

具体的，一个伸缩活动完成后，应启动伸缩组的冷却功能，即完成时间达到预设的冷却时间后，该伸缩组才能接收新的执行伸缩活动请求，从而保证该弹性伸缩方法的正常实施。

总的来说，本发明能够基于云服务器的应用负载变化，对应用负载波动响应更加及时有效；采用的方法更科学合理，可以最大限度提高资源的使用效率；基于用户感知数据的分析，给出不同业务、不同用户对应用系统的要求，进而转化为系统资源的要求，一方面有效提供资源使用效率；另一个方面也可以最大限度的提升系统的服务质量；通过用户感知数据的分析，可以提供更加个性化、智能化的弹性服务。

如图5所示，本发明还涉及一种系统，该系统100包括，

存储器101，用于存储程序指令；

处理器102，用于运行所述程序指令，以执行以下步骤，

根据采集的流量数据确定当前的用户感知数据；当所述当前的用户感知数据满足预设的伸缩要求时，根据伸缩规则触发相应的伸缩活动请求；根据所述伸缩活动请求创建一伸缩活动；执行所述伸缩活动以实现伸缩组的云服务器实例的添加与删除。

作为优选的，所述用户感知数据包括并发用户数、请求失败次数以及资源利用率，所述处理器执行所述当所述用户感知数据满足预设的伸缩要求时，触发伸缩活动请求包括执行以下步骤，当所述并发用户数增加时，判断所述请求失败次数是否超出预设的第一上限阀值；若所述请求失败次数超出预设的第一上限阀值，触发扩张活动请求；若所述请求失败次数没有超出预设的第一上限阀值，判断所述资源利用率是否超出预设阀值；若所述资源利用率超出预设的第一上限阀值，触发扩张活动请求。

作为优选的，所述处理器还执行以下步骤，当所述并发用户数减少时，判断所述请求失败次数是否低于预设的第一下限阀值；若所述请求失败次数低于预设的第一下限阀值，且当所述资源利用率低于预设的第二下限阀值时，触发收缩活动请求。

作为优选的，所述处理器执行所述根据所述伸缩活动请求创建一伸缩活动包括执行以下步骤，根据所述扩张或收缩活动请求确定一对应的伸缩组以及并发用户数的增加量或并发用户数的减少量；根据所述伸缩组的配置信息确定所述伸缩组对应的云服务器实例的配置参数；根据所述并发用户数的增加量或并发用户数的减少量确定所述伸缩组需要添加或删除的云服务器实例的数量；其中，根据所述伸缩组对应的云服务器实例的配置参数以及所述伸缩组需要添加或删除的云服务器实例的数量实现所述伸缩组的云服务器实例的添加或删除。

另外，作为进一步优选的，所述处理器还用于执行从所述伸缩活动完成开始计时以得到一完成时间。

当所述完成时间达到预设的冷却时间后，所述处理器可以返回执行所述根据采集的流量数据确定当前的用户感知数据。

另外，所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的系统的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

故对于本领域的技术人员来说，可根据以上描述的技术方案以及构思，做出其它各种相应的改变以及变形，而所有的这些改变以及变形都应该属于本发明权利要求的保护范围之内。

Claims (10)

1.一种基于用户感知的弹性伸缩方法，其特征在于，其包括如下步骤，

根据采集的流量数据确定当前的用户感知数据；

当所述当前的用户感知数据满足预设的伸缩要求时，根据伸缩规则触发相应的伸缩活动请求；

根据所述伸缩活动请求创建一伸缩活动；

执行所述伸缩活动以实现伸缩组的云服务器实例的添加与删除。

2.如权利要求1所述的弹性伸缩方法，其特征在于，所述用户感知数据包括并发用户数、请求失败次数以及资源利用率，所述当所述用户感知数据满足预设的伸缩要求时，根据伸缩规则触发伸缩活动请求包括，

当所述并发用户数增加时，判断所述请求失败次数是否超出预设的第一上限阀值；

若所述请求失败次数超出预设的第一上限阀值，触发扩张活动请求；

若所述请求失败次数没有超出预设的第一上限阀值，判断所述资源利用率是否超出预设阀值；

若所述资源利用率超出预设的第一上限阀值，触发扩张活动请求。

3.如权利要求2所述的弹性伸缩方法，其特征在于，所述弹性伸缩方法还包括，

当所述并发用户数减少时，判断所述请求失败次数是否低于预设的第一下限阀值；

若所述请求失败次数低于预设的第一下限阀值，且当所述资源利用率低于预设的第二下限阀值时，触发收缩活动请求。

4.如权利要求2或3所述的弹性伸缩方法，其特征在于，所述根据所述伸缩活动请求创建一伸缩活动包括，

根据所述扩张或收缩活动请求确定一对应的伸缩组以及并发用户数的增加量或并发用户数的减少量；

根据所述伸缩组的配置信息确定所述伸缩组对应的云服务器实例的配置参数；

根据所述并发用户数的增加量或并发用户数的减少量确定所述伸缩组需要添加或删除的云服务器实例的数量；

其中，根据所述伸缩组对应的云服务器实例的配置参数以及所述伸缩组需要添加或删除的云服务器实例的数量实现所述伸缩组的云服务器实例的添加或删除。

5.如权利要求1所述的弹性伸缩方法，其特征在于，所述弹性伸缩方法还包括，

从所述伸缩活动完成开始计时以得到一完成时间；

判断所述完成时间是否达到预设的冷却时间；

若所述完成时间达到预设的冷却时间，执行所述根据采集的流量数据确定当前的用户感知数据。

6.一种系统，其特征在于，包括，

存储器，用于存储程序指令；

处理器，用于运行所述程序指令，以执行以下步骤，

根据采集的流量数据确定当前的用户感知数据；

当所述当前的用户感知数据满足预设的伸缩要求时，根据伸缩规则触发相应的伸缩活动请求；

根据所述伸缩活动请求创建一伸缩活动；

执行所述伸缩活动以实现伸缩组的云服务器实例的添加与删除。

7.如权利要求6所述的系统，其特征在于，所述用户感知数据包括并发用户数、请求失败次数以及资源利用率，所述处理器执行所述当所述用户感知数据满足预设的伸缩要求时，触发伸缩活动请求包括执行以下步骤，

当所述并发用户数增加时，判断所述请求失败次数是否超出预设的第一上限阀值；

若所述请求失败次数超出预设的第一上限阀值，触发扩张活动请求；

若所述请求失败次数没有超出预设的第一上限阀值，判断所述资源利用率是否超出预设阀值；

若所述资源利用率超出预设的第一上限阀值，触发扩张活动请求。

8.如权利要求7所述的系统，其特征在于，所述处理器还执行以下步骤，

当所述并发用户数减少时，判断所述请求失败次数是否低于预设的第一下限阀值；

若所述请求失败次数低于预设的第一下限阀值，且当所述资源利用率低于预设的第二下限阀值时，触发收缩活动请求。

9.如权利要求7或8所述的系统，其特征在于，所述处理器执行所述根据所述伸缩活动请求创建一伸缩活动包括执行以下步骤，

根据所述扩张或收缩活动请求确定一对应的伸缩组以及并发用户数的增加量或并发用户数的减少量；

根据所述伸缩组的配置信息确定所述伸缩组对应的云服务器实例的配置参数；

根据所述并发用户数的增加量或并发用户数的减少量确定所述伸缩组需要添加或删除的云服务器实例的数量；

其中，根据所述伸缩组对应的云服务器实例的配置参数以及所述伸缩组需要添加或删除的云服务器实例的数量实现所述伸缩组的云服务器实例的添加或删除。

10.如权利要求6所述的系统，其特征在于，所述处理器还用于执行以下步骤，

从所述伸缩活动完成开始计时以得到一完成时间；

判断所述完成时间是否达到预设的冷却时间；

若所述完成时间达到预设的冷却时间，执行所述根据采集的流量数据确定当前的用户感知数据。