CN113708952B - 用于保障web服务连接稳定性的方法和装置 - Google Patents

Abstract

本发明提供了一种用于保障web服务连接稳定性的方法，包括：获得样本数据集；使用样本数据集来获得拟合函数；根据拟合函数来获得PID控制器的比例系数K_p、积分系数K_i和微分系数K_d；基于比例系数K_p、积分系数K_i和微分系数K_d来计算增量型PID算法的控制量的增量；基于增量来计算web服务当前分钟应当具有的资源数量；以及将web服务当前分钟应当具有的资源数量与上一分钟分配的资源数量相比较以确定是否需要更新资源部署。此外，本发明还提供了一种用于保障web服务连接稳定性的装置。通过本发明，能够将web服务连接响应控制在合理范围内，实时动态调整资源部署，避免资源的过度分配，实现资源的降本增效。

Description

用于保障web服务连接稳定性的方法和装置

技术领域

本发明涉及网络通信，更具体地，涉及用于保障web服务连接稳定性的方法和装置。

背景技术

随着互联网技术的高速发展，用户对信息获取需求不断增加，对web服务连接性能要求也越来越高。但是，目前对于连接服务性能保障手段并不多，一般通过资源利用率进行实时监控，并设定阈值进行资源静态分配的方式来满足服务连接需求；或者通过历史资源负载数据进行建模分析，预测当天应用服务资源需求，这两种方法对应用性能保障存在两个方面的问题：

第一是基于资源负载来判断应用连接状态存在不准确情况，因为web应用连接时延指标开始劣化的时候，资源负载还未达到阈值，无法及时预警。

第二是基于历史资源负载数据来预测并分配当天资源的方法，无法实时准确的预测系统资源需求，尤其是无法应对突发资源的需求场景。

相应地，存在对于能够准确地确定资源需求以确保服务性能保持在目标范围内，从而保障最优用户体验的技术的需要。

发明内容

提供本发明内容以便以简化形式介绍将在以下具体实施方式中进一步的描述一些概念。本发明内容并非旨在标识所要求保护的主题的关键特征或必要特征，也不旨在用于帮助确定所要求保护的主题的范围。

鉴于以上描述的现有技术中的缺陷，本发明的目的在于，实现资源的动态调整和配置，以保障web服务连接性能。

根据本发明的一个方面，提供了一种用于保障web服务连接稳定性的方法，该方法可以包括：获得样本数据集，该样本数据集包括web服务在采样时段内的每分钟接收请求数、每分钟平均响应时间以及每分钟所分配的资源数量；使用该样本数据集来对web服务的每分钟接收请求数、每分钟平均响应时间和每分钟所分配的资源数量进行拟合，以获得相应的拟合函数；根据该拟合函数来获得比例-积分-微分PID控制器的比例系数K_p、积分系数K_i和微分系数K_d；基于该比例系数K_p、积分系数K_i和微分系数K_d来计算增量型PID算法的控制量的增量Δuk；基于该增量Δuk来计算web服务在当前分钟应当具有的资源数量；以及将所计算出的web服务在当前分钟应当具有的资源数量与上一分钟分配的资源数量相比较以确定是否需要更新资源部署。

根据本发明的另一个方面，提供了一种用于保障web服务连接稳定性的装置，该装置可以包括：存储器；以及耦合至该存储器的处理器，其中该处理器被配置成：获得样本数据集，该样本数据集包括web服务在采样时段内的每分钟接收请求数、每分钟平均响应时间以及每分钟所分配的资源数量；使用该样本数据集来对web服务的每分钟接收请求数、每分钟平均响应时间和每分钟所分配的资源数量进行拟合，以获得相应的拟合函数；根据该拟合函数来获得比例-积分-微分PID控制器的比例系数K_p、积分系数K_i和微分系数K_d；基于该比例系数K_p、积分系数K_i和微分系数K_d来计算增量型PID算法的控制量的增量Δuk；基于该增量Δuk来计算web服务在当前分钟应当具有的资源数量；以及将所计算出的web服务在当前分钟应当具有的资源数量与上一分钟分配的资源数量相比较以确定是否需要更新资源部署。

通过采用本发明提供的技术方案，能够实时、动态、准确地预测web服务的资源需求，将服务连接响应时间控制在合理范围内，保障用户的应用访问体验，并且能够实时动态调整资源部署以应对可能的突发情况。

通过阅读下面的详细描述并参考相关联的附图，这些及其他特点和优点将变得显而易见。应该理解，前面的概括说明和下面的详细描述只是说明性的，不会对所要求保护的各方面形成限制。

附图说明

为了能详细地理解本发明的上述特征所用的方式，可以参照各实施例来对以上简要概述的内容进行更具体的描述，其中一些方面在附图中示出。然而应该注意，附图仅示出了本发明的某些典型方面，故不应被认为限定其范围，因为该描述可以允许有其它等同有效的方面。

图1解说了根据本发明的一个实施例的包含比例-积分-微分PID控制器的系统的框图。

图2解说了根据本发明的一个实施例的用于保障web服务连接稳定性的方法的流程图。

图3解说了根据本发明的一个实施例的用于保障web服务连接稳定性的装置的框图。

具体实施方式

下面结合附图详细描述本发明，本发明的特点将在以下的具体描述中得到进一步的显现。

本发明通过以每分钟连接平均响应时间、请求到达数和资源数据为参数进行算法建模，通过比例-积分-微分PID控制算法来对应用资源进行动态预测分配，直接将响应时延控制在目标范围内。本发明设计了一个适用于服务连接的增量型PID控制器，该PID控制器通过反馈控制原理，结合连接到达率和连接响应时间进行建模分析，能准确地跟踪、预测资源实际需求。此外，本发明能够根据应用服务的连接性能参数，计算出准确、有效的资源需求，在保障最优用户体验的前提下，极大地提高资源利用率，降低资源成本。

图1解说了根据本发明的一个实施例的包含比例-积分-微分PID控制器的系统100的框图。系统100可以包括PID控制器110和受控对象120。在本发明的一个实施例中，受控对象120可以是web服务在接收到请求之后作出响应的响应时间。在图1中，“(k)”表示时域，“(z)”表示Z域，R(k)表示时域给定值(例如，目标响应时间)，y(k)表示系统100的时域输出值(例如，实际响应时间)，e(k)表示给定值与系统100的输出值之间的偏差并且是PID控制器110的输入，u(k)是PID控制器110的输出和受控对象120的输入(例如，控制量)。PID控制器110可以由比例调节单元(P)、积分调节单元(I)和微分调节单元(D)组成。在本发明的一个实施例中，PID控制器110的输出u(k)可以通过式(1)来表达：

其中K_p表示比例调节单元的比例系数，K_i表示积分调节单元的积分系数，并且K_d表示微分调节单元的微分系数。

此外，在本发明的一个实施例中，PID控制器110可以每分钟执行一次(即，每分钟输出一次控制量)以对受控对象120进行控制。

图2解说了根据本发明的一个实施例的用于保障web服务连接稳定性的方法200的流程图。在一些示例中，方法200可由图3中解说的装置300来执行。在一些示例中，方法200可由用于执行下述功能或算法的任何合适的设备或装置来执行。

在框210，方法200可以包括获得样本数据集，该样本数据集包括web服务在采样时段内的每分钟接收请求数、每分钟平均响应时间以及每分钟所分配的资源数量。采样时段可以包括任意大小的时间段，例如，一小时、一天、一周等。在本文中，每分钟接收请求数指代web服务在特定分钟接收到的请求数；每分钟平均响应时间指代web服务在特定分钟内在接收到请求之后对请求作出响应的响应时间的平均值；每分钟所分配的资源数量指代web服务在特定分钟所分配到的资源数量。在一个示例中，在采样时段包括一小时的时间段的情形中，该样本数据集可以包括web服务在第1分钟的接收请求数、在第1分钟的平均响应时间、在第1分钟所分配的资源数量、……、在第60分钟的接收请求数、在第60分钟的平均响应时间、以及在第60分钟所分配的资源数量。

在本发明的一个实施例中，该样本数据集可以通过抓取Nginx日志、获取在JMeter压力测试中web服务在拥有不同资源数量的情况下调节不同负载时响应时间的数据来构建。

在框220，方法200可以包括使用样本数据集来对web服务的每分钟接收请求数、每分钟平均响应时间和每分钟所分配的资源数量进行拟合，以获得相应的拟合函数。在一个实施例中，该拟合函数可以由式(2)来表达：

y(k)＝a*y(k-1)+b*u(k) (2)

其中y(k)表示web服务在第k分钟的平均响应时间，y(k-1)表示web服务在第k-1分钟的平均响应时间，a和b是系数，并且u(k)可以由式(3)来表达：

其中ResCol(k)表示web服务在第k分钟的接收请求数，PodCol(k)表示web服务在第k分钟所分配的资源数量，并且表示web服务在截止第k分钟时的每分钟接收请求数和对应的每分钟所分配的资源数量的商的均值。在一个实施例中，可以使用最小二乘估计法来执行拟合操作，以得到由式(2)表达的拟合函数中的系数a和b。当然，还可以使用任何其他公知的拟合方法来获得由式(2)表达的拟合函数。

在框230，方法200可以包括根据所获得的拟合函数来获得比例-积分-微分PID控制器的比例系数K_p、积分系数K_i和微分系数K_d。在一个实施例中，框230的操作可以包括：根据所获得的拟合函数，通过极点配置选取合适的极点代入PID控制器的系统传递函数的特征多项式来获得PID控制器的比例系数K_p、积分系数K_i和微分系数K_d。

在本发明中，系统传递函数与PID控制器结合构成的完整系统传递函数为：

传递函数的特征多项式为(z-p1)*(z-p2)*(z-p3)＝0。可以通过Python建模获取函数y(k)＝a*y(k-1)+b*u(k)中a，b的值。对PID控制器的系统传递函数进行极点配置，选取合适的极点代入特征多项式后将多项式化为z³+xz²+yz+z₀＝0的形式。因为系统的特征方程为闭环系统传递函数的分母为零的方程，令x，y，z₀等于上述系统传递函数的特征方程的系数以确定PID控制器的参数(即，比例系数K_p、积分系数K_i和微分系数K_d)。

在框240，方法200可以包括基于PID控制器的比例系数K_p、积分系数K_i和微分系数K_d来计算增量型PID算法的控制量的增量Δuk。在一个实施例中，增量Δuk可以通过下式(4)来计算：

Δuk＝K_p*(e(k)-e(k-1))+K_i*e(k)+K_d*(e(k)-2e(k-1)+e(k-2)) (4)

其中e(k)表示第k分钟的目标响应时间和实际响应时间的差值，e(k-1)表示第k-1分钟的目标响应时间和实际响应时间的差值，并且e(k-2)表示第k-2分钟的目标响应时间和实际响应时间的差值。在一个实施例中，第k分钟的目标响应时间、第k-1分钟的目标响应时间、以及第k-2分钟的目标响应时间可以是预设的期望响应时间，并且可以是相同的。

在框250，方法200可以包括基于所计算出的增量Δuk来计算web服务在当前分钟应当具有的资源数量。在一个实施例中，框250的操作可以包括：由增量型PID算法的性质计算出PID控制器的输出值uk＝lastuk+Δuk，其中lastuk是PID控制器在本次运行之前所有Δuk之和(即，上一次运行之后PID控制器的输出值)；以及基于所计算出的PID控制器的输出值uk来计算web服务在当前分钟应当具有的资源数量的值PodNum，其中

其中ResCol表示Web服务在当前分钟的接收请求数，表示截止至当前分钟的每分钟接收请求数和对应的每分钟所分配的资源数量的商的均值。

在框260，方法200可以包括将所计算出的web服务在当前分钟应当具有的资源数量与上一分钟分配的资源数量相比较以确定是否需要更新资源部署。如果两者相等，则不需要更新资源部署；否则，需要更新资源部署以保障web服务连接稳定性。在一个实施例中，所计算出的web服务在当前分钟应当具有的资源数量可以被传送给云平台。随后，云平台可以根据比较结果来改变云平台分配给对应web服务的资源数量。

图3解说了根据本发明的一个实施例的用于保障web服务连接稳定性的装置300的硬件实现的示例的框图。装置300可使用包括一个或多个处理器304的处理系统314来实现。处理器304的示例包括微处理器、微控制器、数字信号处理器(DSP)、现场可编程门阵列(FPGA)、可编程逻辑器件(PLD)、状态机、选通逻辑、分立的硬件电路、以及配置成执行本公开通篇描述的各种功能性的其他合适硬件。在各个示例中，装置300可被配置成执行本文中所描述的功能中的任一者或多者。即，如在装置300中利用的处理器304可被用于实现以上参照图2描述的方法200。

在该示例中，处理系统314可被实现成具有由总线302一般化地表示的总线架构。取决于处理系统314的具体应用和总体设计约束，总线302可包括任何数目的互连总线和桥接器。总线302将包括一个或多个处理器(由处理器304一般化地表示)、存储器305和计算机可读介质(由计算机可读介质306一般化地表示)的各种电路通信地耦合在一起。总线302还可链接各种其他电路，诸如定时源、外围设备、稳压器和功率管理电路，这些电路在本领域中是众所周知的，且因此将不再进一步描述。总线接口308提供总线302与收发机310之间的接口。收发机310提供用于在传输介质上与各种其他设备进行通信的通信接口或装置。取决于该设备的特性，还可提供用户接口312(例如，按键板、显示器、扬声器、话筒、操纵杆)。当然，此类用户接口312是可任选的，且可在一些示例中被省略。

在一些方面，处理器304可被配置成：获得样本数据集，该样本数据集包括web服务在采样时段内的每分钟接收请求数、每分钟平均响应时间以及每分钟所分配的资源数量；使用该样本数据集来对web服务的每分钟接收请求数、每分钟平均响应时间和每分钟所分配的资源数量进行拟合，以获得相应的拟合函数；根据该拟合函数来获得比例-积分-微分PID控制器的比例系数K_p、积分系数K_i和微分系数K_d；基于比例系数K_p、积分系数K_i和微分系数K_d来计算增量型PID算法的控制量的增量Δuk；基于增量Δuk来计算web服务在当前分钟应当具有的资源数量；以及将所计算出的web服务在当前分钟应当具有的资源数量与上一分钟分配的资源数量相比较以确定是否需要更新资源部署。

处理器304负责管理总线302和通用处理，包括对存储在计算机可读介质306上的软件的执行。软件在由处理器304执行时使处理系统314执行针对任何特定设备描述的各种功能。计算机可读介质306和存储器305还可被用于存储由处理器304在执行软件时操纵的数据。

处理系统中的一个或多个处理器304可以执行软件。软件应当被宽泛地解释成意为指令、指令集、代码、代码段、程序代码、程序、子程序、软件模块、应用、软件应用、软件包、例程、子例程、对象、可执行件、执行的线程、规程、函数等，无论其是用软件、固件、中间件、微代码、硬件描述语言、还是其他术语来述及皆是如此。软件可驻留在计算机可读介质306上。计算机可读介质306可以是非瞬态计算机可读介质。作为示例，非瞬态计算机可读介质包括磁存储设备(例如，硬盘、软盘、磁带)、光盘(例如，压缩碟(CD)或数字多用碟(DVD))、智能卡、闪存设备(例如，卡、棒或钥匙型驱动器)、随机存取存储器(RAM)、只读存储器(ROM)、可编程ROM(PROM)、可擦除PROM(EPROM)、电可擦除PROM(EEPROM)、寄存器、可移除盘、以及用于存储可由计算机访问和读取的软件和/或指令的其他任何合适介质。计算机可读介质306可驻留在处理系统314中、在处理系统314外部、或跨包括处理系统314的多个实体分布。计算机可读介质306可被实施在计算机程序产品中。作为示例，计算机程序产品可包括封装材料中的计算机可读介质。本领域技术人员将认识到如何取决于具体应用和加诸于整体系统的总体设计约束来最佳地实现本公开通篇给出的所描述的功能性。

在一个或多个示例中，计算机可读存储介质306可包括被配置成用于各种功能(包括例如用于保障web服务连接稳定性的功能)的软件。该软件可包括指令，这些指令可将处理系统314配置成执行参照图2所描述的一个或多个功能。

以上对本发明进行了详细描述。总的来说，本发明具有以下显著优点：

(1)确保用户体验：本发明以平均响应时间、请求到达数和资源状态作为输入设计的增量新PID反馈控制模型，通过将服务连接响应时间控制在合理范围内，保障用户的应用访问体验。

(2)实时动态调整，可应对突发情况：本发明以服务连接时延为控制对象，采用具备反馈机制的PID算法进行控制，依据当前服务连接时延进行控制-反馈-控制，动态性好，实时性高，资源需求预测更为准确。

本领域普通技术人员应领会，本发明的各个实施例可提供为方法、装置、系统或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用一个或多个其中存储有计算机可执行程序代码的计算机可读存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、装置、系统和计算机程序产品的流程图和/或框图来描述的。应理解，可由计算机程序指令实现流程图和/或框图中的每一个流程和/或方框、以及流程图和/或框图中的流程和/或方框的组合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图中的一个或多个流程和/或框图中的一个或多个方框中指定的功能的装置。

尽管目前为止已经参考附图描述了本发明的各方面，但是上述方法、系统和装置仅是示例，并且本发明的范围不限于这些方面，而是仅由所附权利要求及其等同物来限定。各种组件可被省略或者也可被等同组件替代。另外，也可以在与本发明中描述的顺序不同的顺序实现所述步骤。此外，可以按各种方式组合各种组件。也重要的是，随着技术的发展，所描述的组件中的许多组件可被之后出现的等同组件所替代。对本公开的各种修改对于本领域技术人员将是显而易见的，并且本文中所定义的普适原理可被应用于其他变形而不会脱离本公开的范围。由此，本公开并非被限定于本文中所描述的示例和设计，而是应被授予与本文所公开的原理和新颖特征相一致的最广范围。

Claims (9)

1.一种用于保障web服务连接稳定性的方法，包括：

获得样本数据集，所述样本数据集包括web服务在采样时段内的每分钟接收请求数、每分钟平均响应时间以及每分钟所分配的资源数量；

使用所述样本数据集来对所述web服务的每分钟接收请求数、每分钟平均响应时间和每分钟所分配的资源数量进行拟合，以获得相应的拟合函数；

根据所述拟合函数来获得比例-积分-微分PID控制器的比例系数K_p、积分系数K_i和微分系数K_d；

基于所述比例系数K_p、积分系数K_i和微分系数K_d来计算增量型PID算法的控制量的增量Δuk；

基于所述增量Δuk来计算所述web服务在当前分钟应当具有的资源数量；以及

将所计算出的所述web服务在当前分钟应当具有的资源数量与上一分钟分配的资源数量相比较以确定是否需要更新资源部署，

其中所述拟合函数为：

y(k)＝a*y(k-1)+b*u(k)

其中y(k)表示所述web服务在第k分钟的平均响应时间，y(k-1)表示所述web服务在第k-1分钟的平均响应时间，a和b是系数，并且

其中ResCol(k)表示所述web服务在第k分钟的接收请求数，PodCol(k)表示所述web服务在第k分钟所分配的资源数量，并且表示所述web服务在截止第k分钟时的每分钟接收请求数和对应的每分钟所分配的资源数量的商的均值。

2.如权利要求1所述的方法，其特征在于，所述系数a和b是通过最小二乘估计法来获得的。

3.如权利要求1所述的方法，其特征在于，根据所述拟合函数来获得PID控制器的比例系数K_p、积分系数K_i和微分系数K_d包括：根据所述拟合函数，通过极点配置选取合适的极点代入所述PID控制器的系统传递函数的特征多项式来获得所述PID控制器的所述比例系数K_p、积分系数K_i和微分系数K_d。

4.如权利要求1所述的方法，其特征在于，所述增量Δuk是通过下式来计算的：

Δuk＝K_p*(e(k)-e(k-1))+K_i*e(k)+K_d*(e(k)-2e(k-1)+e(k-2))

其中e(k)表示第k分钟的目标响应时间和实际响应时间的差值，e(k-1)表示第k-1分钟的目标响应时间和实际响应时间的差值，并且e(k-2)表示第k-2分钟的目标响应时间和实际响应时间的差值。

5.如权利要求1所述的方法，其特征在于，基于所述增量Δuk来计算所述web服务在当前分钟应当具有的资源数量包括：

由增量型PID算法的性质计算出所述PID控制器的输出值uk＝lastuk+Δuk，其中lastuk是所述PID控制器在本次运行之前所有Δuk之和；以及

基于所计算出的所述PID控制器的输出值uk来计算所述web服务在当前分钟应当具有的资源数量的值PodNum，其中

其中ResCol表示所述Web服务在当前分钟的接收请求数，表示截止至当前分钟的每分钟接收请求数和对应的每分钟所分配的资源数量的商的均值。

6.如权利要求1所述的方法，其特征在于，如果所述web服务在当前分钟应当具有的资源数量与上一分钟分配的资源数量不相等，则更新资源部署。

7.如权利要求1所述的方法，其特征在于，所述样本数据集是通过抓取Nginx日志、获取在JMeter压力测试中web服务在拥有不同资源数量的情况下调节不同负载时响应时间的数据来构建的。

8.如权利要求1所述的方法，其特征在于，所计算出的所述web服务在当前分钟应当具有的资源数量被传送给云平台。

9.一种用于保障web服务连接稳定性的装置，所述装置包括：

存储器；以及

耦合至所述存储器的处理器，其中所述处理器被配置成：

获得样本数据集，所述样本数据集包括web服务在采样时段内的每分钟接收请求数、每分钟平均响应时间以及每分钟所分配的资源数量；

使用所述样本数据集来对所述web服务的每分钟接收请求数、每分钟平均响应时间和每分钟所分配的资源数量进行拟合，以获得相应的拟合函数；

根据所述拟合函数来获得比例-积分-微分PID控制器的比例系数K_p、积分系数K_i和微分系数K_d；

基于所述比例系数K_p、积分系数K_i和微分系数K_d来计算增量型PID算法的控制量的增量Δuk；

基于所述增量Δuk来计算所述web服务在当前分钟应当具有的资源数量；以及

将所计算出的所述web服务在当前分钟应当具有的资源数量与上一分钟分配的资源数量相比较以确定是否需要更新资源部署，

其中所述拟合函数为：

y(k)＝a*y(k-1)+b*u(k)

其中y(k)表示所述web服务在第k分钟的平均响应时间，y(k-1)表示所述web服务在第k-1分钟的平均响应时间，a和b是系数，并且

其中ResCol(k)表示所述web服务在第k分钟的接收请求数，PodCol(k)表示所述web服务在第k分钟所分配的资源数量，并且表示所述web服务在截止第k分钟时的每分钟接收请求数和对应的每分钟所分配的资源数量的商的均值。