CN109586971A - 一种基于线性关系的负载资源需求量评估方法 - Google Patents

Abstract

本发明公开了一种基于线性关系的负载资源需求量评估方法，该发明针对能量感知型集群系统中负载资源需求量因负载波动而难以评估的问题，提出在负载特征与负载资源需求量之间构建一个通用的线性关系，并利用此关系采用一种以线性回归作为基本算法的评估方法，最终通过该评估方法做出准确的负载资源需求量评估。在系统运行阶段，正确的负载特征与其需求量信息不断被收集。通用线性关系中的可变参数则由评估方法依据这些需求量信息，采用线性回归的方式计算出与真实情况相符的具体数值。在确定通用线性关系中具体参数值之后，适用于负载情况的线性关系被确定。继而，评估方法将当前负载特征代入到此确定关系中，最终计算出当前负载的需求量评估值。

Description

一种基于线性关系的负载资源需求量评估方法

技术领域

本发明涉及计算机系统结构领域，具体涉及一种基于线性关系的负载资源需求量评估方法，更具体的涉及了构建负载特征与负载资源需求量之间的线性关系，基于一种通用的线性关系根据实际情况得出与实际相符的确定关系，最终以得出的确定关系实现对负载资源需求量的准确评估。

背景技术

在能量感知型集群系统中，由于负载呈现多变性，负载的资源需求量(资源需求量的定义为：在满足服务质量要求的前提下，负载所需的最小硬件资源量)也是随之改变的。为了在节能的前提下保证系统的服务质量，所提供的资源量应当与当前负载的需求量相匹配。否则，如果所提供的资源量低于需求量，则系统的服务质量无法得到保证；反之，若所提供的资源量高于需求量，则造成了系统的能源浪费。在传统的能量感知型集群系统中，采用的是一种反应式的资源调整方案。此种方案仅在出现服务质量要求违反时，才相应地对资源做出反应式的调整。由于缺乏负载资源需求量的信息，这种方案往往需要不断地多次尝试性调整，才能最终实现资源提供量与需求量相匹配。这就使系统在将资源调整成与负载需求量相匹配，甚至后续很长一段时间内，服务质量出现严重下降。

因此，准确地评估负载的资源需求量对系统的节能及服务质量保证有着重要意义。此外，若负载的需求量无法得到准确的评估，为了最终与负载需求量相匹配，提供的资源量需要不断尝试性地进行调整。而资源量的调整需要耗费一定的时间，这就会使得系统在一段时间内资源不足或是资源过剩。反之，如果负载的资源需求量可以被完全准确地评估，那么资源就可以直接被调整为所需的量，从而免去后续的尝试性调整。即使无法做到完全准确，评估结果越接近实际需求量则后续的调整幅度越小，就能更快的完成资源按需提供，达到一个更好的节能及性能效果。尽管目前已有大量基于建模分析的负载资源需求量评估技术，将系统建模成特定的模型，并基于此模型对负载的需求量做出评估。然而这些技术大都具有两个缺点：一是对实际系统建模过程复杂耗时，二是所建立的模型与实际系统之间存在较大差异。针对第一个缺点，一些技术方法的实现中采用简化的模型，这就导致评估结果与实际相差过大。针对第二个缺点，一些技术方法为系统建模设定了多种参数，最终形成复杂的模型，但实际应用时却难以真正进行参数化建模而难以使用。

发明内容

本发明的目的是为了缓解现有技术中的上述缺陷，提供一种基于线性关系的负载资源需求量评估方法。

本发明的目的可以通过采取如下技术方案达到：

一种基于线性关系的负载资源需求量评估方法，所述的负载资源需求量评估方法包括下列步骤：

S1、管理器通过特征抽取(Features Extracting，FE)模块阶段性地获取负载的特征，具体地，FE会抽取出负载的请求到来率(λ)、请求平均服务时间(T_s)、请求平均等待时间(T_w)、请求到来间隔时间的变异系数(Coefficient of Variation，CoV)、请求服务时间的CoV；

S2、管理器通过需求评估(Resource Demand Estimating，RDE)模块根据当前最新的负载特征评估出负载所需的资源量，具体地，RDE根据历史已有负载特征与负载资源需求量信息，为这两者之间建立出一个确定的线性关系，然后将当前最新的负载特征代入此关系中，评估出当前负载的资源需求量；

S3、工作服务器记录请求处理服务过程中的状态信息，具体地，工作服务器首先接收由管理器通过请求分发(Requests Delivering，RD)模块分发到来的请求，请求分发到具体服务器后由服务器内包含的请求处理(Requests Handling，RH)模块进行处理(即调度执行)，然后在请求的调度执行完毕后将相关信息做记录；

S4、管理器通过服务质量监视(QoS Monitoring，QM)模块监视当前服务器的服务质量，为实现此功能，每个服务器当中均具有服务状态反馈(Service Status Feedback，SSF)模块，用于将各自的服务状态反馈给QM，QM根据反馈的服务状态信息来检查系统提供的资源量是否满足服务质量要求；

S5、管理器通过资源调整(Resources Gearing，RG)模块根据评估出的资源量将工作服务器的调整为对应的数量，具体地，首先RG查询QM从而确认当前资源量是否满足服务质量要求，若满足则不进行资源量调整操作，当不满足或资源量过剩时，RG根据实际情况增加或减少可用资源量，资源调整以一个时间段作为调整周期，因为持续不断地频繁调整会严重增加服务器的状态切换次数，严重影响到系统的节能效果，甚至不仅起不到节能效果反而会增加系统能耗。

进一步地，所述的一种基于线性关系的负载资源需求量评估方法，当中包含一个负载特征与负载资源需求量之间的通用线性关系，通用线性关系中使用多个可变参数，具体的参数值在系统运行过程中以线性回归的方式持续地被计算出，因为并不使用某固定关系，本方法使用的这种方式更贴合系统的实际情况，能做出更准确的评估。

进一步地，所述的通用线性关系是根据典型的队列模型而构建的，集群系统处理负载的方式可以视为一个多服务的队列模型，然而难以确定具体采用哪种模型会最符合实际情况，因此所述的通用线性关系综合了多个典型的队列模型，具体地涉及到了M/M/1，M/G/1，G/G/1三种队列模型。

进一步地，所述的通用线性关系中考虑的资源量是一个百分比值，也就是n/N，其中n表示的是所需的工作服务器数量，N表示的是集群中拥有的总服务器数量，根据典型队列模型的已知关系公式推导得到的通用线性关系为其中θ₁到θ₄是可变参数(用列向量表示)，各可变参数所乘的各部分构成另一个列向量，该列向量用表示，中每个元素作为负载的一个特征，在需要确定可变参数数值的时候，将历史负载特征与负载资源需求量作为样本，采用线性回归的方式来计算，使用的代价函数为其中表示评估值，y⁽ⁱ⁾表示第i个样本的负载资源需求实际值，此代价函数定义了评估值与实际值间的相近程度，线性回归方式计算时以将取值最小作为目标，此时得出的的具体数值则是最符合实际情况的数值。

进一步地，所述的步骤S3、工作服务器记录请求处理服务过程中的状态信息，工作服务器记录的是服务质量要求中要求的相关衡量标准的信息，例如以请求平均等待时间作为服务质量标准时，则记录各请求的等待时间，本发明不仅可应用于这种情况，对于其他情况则记录其他相关的信息。

进一步地，所述的步骤S4、管理器通过服务质量监视模块监视当前服务器的服务质量，服务器的服务质量以处理负载请求时请求的等待时间为衡量标准，根据服务器所记录的服务状态信息，将服务分为三种状况，一种为低载状况，也就是请求的服务质量远优于所设定的服务质量要求，另一种为正常状况，此时请求的服务质量满足要求，且不属于第一种状况，最后一种为超载状况，这时请求的服务质量无法满足要求。由于系统中通常具有负载均衡的功能，故而只要部分服务器处于低载或超载状况就意味着资源量与负载情况不匹配，需要进行资源量调整。

本发明相对于现有技术具有如下的优点及效果：

(1)通常对系统建模是项复杂而耗时的过程，而且所建立的模型与实际情况未必相符，而如果简化所建立的模型，则会导致评估不准确的后果，本发明中采用的通用线性关系是根据典型的队列模型而构建的，集群系统处理负载的方式被视为一个多服务的队列模型，通用线性关系中使用多个可变参数，具体参数值则根据实际情况计算得出，既极大减轻了系统建模的复杂程度，又使得确定的线性关系能与实际情况相贴合。

(2)本发明采用线性回归的方式来计算可变参数的值，计算量小、额外所需硬件开销可忽略，可以做到对负载资源需求量的在线评估，可在能量感知型集群系统中实现快速有效的即时资源调整，极大程度上避免因资源提供量与需求量不符导致的服务质量下降及资源浪费。

(3)本发明的应用场景广泛，针对不同的服务质量要求，工作服务器通过记录不同的服务状态信息，能有效的将本服务器服务状态反馈到管理器，从而做到快速的资源调整响应，另外服务的状态划分亦可根据实际需求做出调整，使资源调整的响应速度符合实际需要。

附图说明

图1是本发明公开的基于线性关系的负载资源需求量评估方法的工作流程图；

图2是本发明适用的系统的结构示意图；

图3是适用于该系统的排队模型示意图；

图4是本发明中资源需求量评估的方法示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

实施例

如图1和图2所示，本发明是一种基于线性关系的负载资源需求量评估方法，应用在能量感知型集群系统环境下：

此环境下，系统包含一个管理器(Manager)和一些同构服务器(Server)。其中，一部分服务器提供正常的服务，这些服务器称为工作(Working)服务器。而其他的服务器被称为未使用(Unused)服务器，出于节能的目的这些服务器被转入低能耗状态，并不提供任何服务。该系统的用户通过云(或互联网)对该系统发送服务请求，这些请求形成该系统的负载。能量感知型集群系统收到来自用户的负载后，首先由管理器接收并逐一将请求进行转发，在每次请求转发时管理器选择负载最轻的工作服务器作为转发目标。工作服务器收到负载请求后，采用先来先服务的方式为请求提供服务，在请求服务完成后向用户返回处理结果。在系统负载量增大的情况下，管理器启动一些未使用服务器，将其转为工作服务器以提供正常工作。

为了更清晰地阐明本发明的应用场景，以下结合系统的排队模型示意图(图3)、和资源需求量评估的方法示意图(图4)再作详细分析。

如图3所示，由于采用先来先服务的方式处理负载中的请求，本发明所适用的能量感知型集群系统可以被看作为一个排队系统。另外管理器在进行负载请求转发时，总是选取负载最轻的工作服务器作为目标服务器，故而整体上可以使得各个服务器的负载保持均匀。若系统负载请求的到来率为λ，那么某工作服务器上负载请求的到来率则为λp_c，其中p_c表示此工作服务器的处理能力(capacity)占全部工作服务器处理能力的比例。例如，假设当前系统中含有10台工作服务器，那么其中某一台工作服务器的p_c就为10％。负载请求分发到工作服务器后，工作服务器将其以先来先服务的方式进行调度处理。因此，该系统科看作是由多个独立的单服务队列组成的系统。图中p_c上标括号内的数字为服务器的编号，若集群中有k个工作服务器，那么有对于其中某个工作服务器，其对应的单服务队列可以用Kendall标记法表示。常用的单服务队列有四种，M/M/1，M/G/1，G/M/1以及G/G/1，其中每种队列标记中的第一位因子表示的是请求到来间隔时间的分布，第二位因子为请求服务时间的分布，第三位是服务器的数量(对于单服务器则为1)。对于此四种队列，M表示指数分布，也就是是泊松随机到来分布或指数型的服务时间分布；G表示一般分布，也意味着任意分布。根据排队理论，对于各队列，有如下通用公式和用于计算T_w的特有计算式。通用公式：ρ＝λT_s，T_r＝T_w+T_s；特有计算式：M/M/1：M/G/1：G/G/1： G/M/1：上述各公式中，ρ为利用率(或称为负载强度)，μ为服务率，T_s为请求平均服务时间，T_w为请求平均等待时间，T_r为请求的驻留时间(即T_s与T_w之和)，C_a为请求到来间隔时间的变异系数(Coefficient ofVariation，CoV)，C_s为请求服务时间的CoV，f为一个因子且其表达式为ζ为方程z＝φ(μ-μz)最小正根，φ函数为请求到来间隔时间分布函数的Laplace–Stieltjes变换。综合上述各公式，且由于系统的服务质量是以请求的等待时间为标准，那么就可以得到一个用于表示负载特征与所需资源量的通用线性关系式： 关系式中考虑的资源量是一个百分比值，也就是n/N，其中n表示的是所需的工作服务器数量，N表示的是集群中拥有的总服务器数量。θ₁到θ₄是可变参数(用列向量表示)，各可变参数所乘的各部分构成另一个列向量，该列向量用表示，中每个元素称作负载的一个特征，在需要确定可变参数数值的时候，将历史负载特征与负载资源需求量作为样本，采用线性回归的方式来计算，使用的代价函数为其中表示评估值，y⁽ⁱ⁾表示第i个样本的负载资源需求实际值，此代价函数定义了评估值与实际值间的相近程度，线性回归方式计算时以将取值最小作为目标，此时得出的的具体数值则是最符合实际情况的数值。

如图4所示，负载资源需求量评估方法过程为：首先，系统在运行过程中，将时间等长划分为一个个时间段，具体时间段长度根据实际需要设置，时间段长度越短则调整越频繁且响应越灵敏；其次，系统在每个时间段内，记录下已知的负载特征与相对应的资源需求量，并将各记录组成训练集χ，训练集的数量根据实际需求设置，数量越多则训练集越具一般性(更平滑)，数量越少则更具特殊性(更适应当前最新情况)；之后，在需要做出资源需求评估的新时间段，该方法采用线性回归的学习方法，使用的代价函数为其中表示评估值，y⁽ⁱ⁾表示第i个样本的负载资源需求实际值，此代价函数定义了评估值与实际值间的相近程度，线性回归方式计算时以将取值最小作为目标，利用训练集可计算得出的具体数值(也就是最符合实际情况的数值)，将具体数值代入通用线性关系式后，形成一个确定的线性关系；最后，将抽取出的当前负载特征代入确定的线性关系中，得出所需资源量，该资源量即为评估值，也成为预测所得资源需求量y′。

资源调整(RG)模块负责根据评估出的资源量，将工作服务器的调整为对应的数量，从而使系统为负载提供相匹配的资源量，让系统在节能的前提下兼顾服务质量。在未做出资源量评估时，RG查询服务质量监视(QoS Monitoring，QM)模块确认当前资源量是否满足服务质量要求，若满足则不进行资源量调整操作。当不满足或资源量过剩时，RG相应地以一个时间段为周期逐个增加或减少工作服务器数量。在负载资源需求量评估方法做出了资源量评估时，RG直接根据评估所得结果，将工作服务器数量调整为评估值。此时，若所需工作服务器数量减少了，则选择负载最小的服务器作为待转入Unused状态的服务器，服务器在被选择后状态为待转入Unused状态，管理器不再为其分发负载请求，在其负载请求处理完毕后，正式转入Unused状态，这种方式对工作服务器的减少操作进行了延迟，可以一定程度缓解后续由负载突发增长带来的负面影响；而若所需工作服务器数量增加了，则首先查看是否存在待转入Unused状态的服务器，若有则优先将其重新置为工作状态以增加工作服务器数量，从而节省状态切换的时间开销，若资源量依然不足则再启用所需数量的Unused服务器，所启用的服务器正常工作后，允许各工作服务器之间进行负载相互转移实现负载均衡的目的。

上述实施例为本发明较佳的实施方式，但本发明的实施方式并不受上述实施例的限制，其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化，均应为等效的置换方式，都包含在本发明的保护范围之内。

Claims (5)

1.一种基于线性关系的负载资源需求量评估方法，其特征在于，所述的负载资源需求量评估方法包括下列步骤：

S1、管理器通过特征抽取模块阶段性地获取负载的特征，其中，负载的特征包括负载的请求到来率λ、请求平均服务时间T_s、请求平均等待时间T_w、请求到来间隔时间的变异系数C_a、请求服务时间的变异系数C_s；

S2、管理器通过需求评估模块根据历史已有负载特征与负载资源需求量信息，为这两者之间建立出一个确定的线性关系，然后将当前最新的负载特征代入此线性关系中，评估出当前负载的资源需求量；

S3、工作服务器记录请求处理服务过程中的状态信息，首先，管理器通过请求分发模块分发请求，工作服务器接收分发的请求，工作服务器中请求处理模块响应请求，然后在请求的调度执行完毕后将相关信息做记录；

S4、管理器通过服务质量监视模块监视当前服务器的服务质量，每个服务器当中均具有服务状态反馈模块，用于将各自的服务状态反馈给服务质量监视模块，服务质量监视模块根据反馈的服务状态信息来检查系统提供的资源量是否满足服务质量要求；

S5、管理器通过资源调整模块根据评估出的资源量将工作服务器调整为对应的数量，首先资源调整模块查询服务质量监视模块从而确认当前资源量是否满足服务质量要求，若满足则不进行资源量调整操作，当不满足或资源量过剩时，资源调整模块根据实际情况增加或减少可用资源量，资源调整以一个时间段作为调整周期。

2.根据权利要求1所述的一种基于线性关系的负载资源需求量评估方法，其特征在于，所述的步骤S2中线性关系是一个负载特征与负载资源需求量之间的通用线性关系，通用线性关系中使用多个可变参数，具体的参数值在系统运行过程中以线性回归的方式持续地被计算出。

3.根据权利要求2所述的一种基于线性关系的负载资源需求量评估方法，其特征在于，所述的通用线性关系中考虑的资源量是一个百分比值，也就是n/N，其中n表示的是所需的工作服务器数量，N表示的是集群中拥有的总服务器数量，根据包括M/M/1、M/G/1、G/G/1在内的典型队列模型的已知关系公式推导得到的通用线性关系为 其中θ₁到θ₄是可变参数并用列向量表示，各可变参数所乘的各部分构成另一个列向量，该列向量用表示，中每个元素作为负载的一个特征，在需要确定可变参数数值的时候，将历史负载特征与负载资源需求量作为样本，采用线性回归的方式来计算，使用的代价函数为其中表示评估值，y⁽ⁱ⁾表示第i个样本的负载资源需求实际值，此代价函数定义了评估值与实际值间的相近程度，线性回归方式计算时以将取值最小作为目标，此时得出的的具体数值则是最符合实际情况的数值。

4.根据权利要求1所述的一种基于线性关系的负载资源需求量评估方法，其特征在于，所述的步骤S3中工作服务器记录请求处理服务过程中的状态信息是服务质量要求中要求的相关衡量标准的信息，当以请求平均等待时间作为服务质量标准时，则记录各请求的等待时间。

5.根据权利要求1所述的一种基于线性关系的负载资源需求量评估方法，其特征在于，所述的步骤S4中管理器通过服务质量监视模块监视当前服务器的服务质量具体如下：

根据服务器所记录的服务状态信息，将服务分为以下三种状况：(1)低载状况，也就是请求的服务质量远优于所设定的服务质量要求；(2)正常状况，此时请求的服务质量满足要求；(3)超载状况，此时请求的服务质量无法满足要求；由于系统中通常具有负载均衡的功能，故而只要部分服务器处于低载或超载状况就意味着资源量与负载情况不匹配，需要进行资源量调整。