CN113285890B - 网关流量的分配方法、装置、电子设备及存储介质 - Google Patents

Abstract

本发明实施例公开了一种网关流量的分配方法、装置、电子设备及存储介质。该方法包括：分别获取当前服务节点集群中的各服务节点在预设时间段内处理请求时产生的请求响应数据；基于各服务节点对应的请求响应数据，确定用于表示服务节点的处理能力的处理效率值；基于处理效率值，调整当前服务节点集群中各服务节点上分配的网关流量。本发明实施例的技术方案，可以利用实际处理请求时产生的请求响应数据确定处理效率值，能准确、可靠地反映出各服务节点的处理能力；并且根据处理能力自动分配网关流量，分配速度快，效率高，且分配效果较稳定。

Description

网关流量的分配方法、装置、电子设备及存储介质

技术领域

本发明实施例涉及互联网领域，尤其涉及一种网关流量的分配方法、装置、电子设备及存储介质。

背景技术

随着数据业务的发展，数据业务的业务量在不断增加，对网关设备的处理能力提出了更高的要求。因此，合理对网关流量进行分配变得尤为重要。

现有技术中，采用负载均衡的方式将网关流量均匀分配至每个服务节点，之后通过工作人员人工对服务节点上分配的流量进行操控和维护。工作人员人工介入对当前各服务节点的处理情况进行分析，然后调整各节点流量的分配占比。

但是，采用现有技术中人工进行分配的方式，一方面，流量配比基于工作人员的主观想法，分配效果不稳定；且采用人工分配的方式，增加了网关流量的分配成本；另一方面，工作人员介入一般比较滞后，数据处理业务易受到较大影响。

发明内容

本发明实施例提供了一种网关流量的分配方法、装置、电子设备及存储介质，利用实际处理请求时产生的请求响应数据确定处理效率值，能准确、可靠地反映出各服务节点的处理能力；并且根据处理能力自动分配网关流量，分配速度快，效率高，且分配效果较稳定。。

第一方面，本发明实施例提供了一种网关流量的分配方法，可以包括：

分别获取当前服务节点集群中的各服务节点在预设时间段内处理请求时产生的请求响应数据；

基于各所述服务节点对应的所述请求响应数据，确定用于表示所述服务节点的处理能力的处理效率值；

基于所述处理效率值，调整所述当前服务节点集群中各所述服务节点上分配的网关流量。

第二方面，本发明实施例还提供了一种网关流量的分配装置，该装置包括：

获取请求响应数据模块，用于分别获取当前服务节点集群中的各服务节点在预设时间段内处理请求时产生的请求响应数据；

确定处理效率值模块，用于基于各所述服务节点对应的所述请求响应数据，确定用于表示所述服务节点的处理能力的处理效率值；

调整网关流量模块，用于基于所述处理效率值，调整所述当前服务节点集群中各所述服务节点上分配的网关流量。

第三方面，本发明实施例还提供了一种电子设备，包括：

一个或多个处理器；

存储器，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明任意实施例所提供的网关流量的分配方法。

第四方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现本发明任意实施例所提供的网关流量的分配方法。

本发明实施例所提供的一种网关流量的分配方法，分别获取当前服务节点集群中的各服务节点在预设时间段内处理请求时产生的请求响应数据；基于各服务节点对应的实际处理请求时产生的请求响应数据，确定用于表示服务节点的处理能力的处理效率值；基于处理效率值，调整当前服务节点集群中各服务节点上分配的网关流量，即根据服务节点的处理能力，调整各服务节点上分配的网关流量。由此可见，利用实际处理请求时产生的请求响应数据确定处理效率值，能准确、可靠地反映出各服务节点的处理能力；并且根据处理能力自动分配网关流量，分配速度快，效率高，且分配效果较稳定。

此外，本发明所提供的一种网关流量的分配装置、电子设备及存储介质与上述方法对应，具有同样的有益效果。

附图说明

为了更清楚地说明本发明实施例，下面将对实施例中所需要使用的附图做简单的介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的一种网关流量的分配方法的流程图；

图2为本发明实施例提供的另一种网关流量的分配方法的流程图；

图3为本发明实施例提供的一种原始网关流量分配状态的示意图；

图4为本发明实施例提供的一种调整后的网关流量分配状态的示意图；

图5为本发明实施例提供的一种网关流量的分配装置的结构图；

图6为本发明实施例提供的一种电子设备的结构图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。

本发明的核心是提供一种网关流量的分配方法，利用实际处理请求时产生的请求响应数据确定处理效率值，能准确、可靠地反映出各服务节点的处理能力；并且根据处理能力自动分配网关流量，分配速度快，效率高，且分配效果较稳定。

为了使本技术领域的人员更好地理解本发明方案，下面结合附图和具体实施方式对本发明作进一步的详细说明。

实施例一

图1为本发明实施例提供的一种网关流量的分配方法的流程图。该方法可以由本发明实施例提供的目标检测装置来执行，该装置可以由软件和/或硬件的方式实现，该装置可以集成在各种用户终端或服务器上。

如图1所示，本发明实施例的方法具体包括如下步骤：

S101、分别获取当前服务节点集群中的各服务节点在预设时间段内处理请求时产生的请求响应数据。

在具体实施中，可对当前服务节点集群中的各服务节点进行实时监测，各个服务节点在预设时间段内每处理完成一个请求，则获取该请求对应的请求响应数据，从而分别得到各服务节点在预设时间段内处理请求时产生的请求响应数据。

可选的，还可以在当前服务节点集群中的各服务节点完成预设时间段内的全部请求的处理后，获取各服务节点在预设时间段内处理请求时产生的请求响应数据。对于获取各服务节点的请求响应数据的方式，本发明实施例不做限定。

可选的，预设时间段可通过预先设定起始时刻和终止时刻的方式进行设定，为确保获取的请求响应数据能够更好地反映各服务节点当前的处理服务的情况，可将终止时刻确定为当前时刻。

S102、基于各服务节点对应的请求响应数据，确定用于表示服务节点的处理能力的处理效率值。

可选的，各服务节点对应的请求响应数据包括在预设时间段内各服务节点处理的请求的总数量。在相同的预设时间段内处理的请求的总数量越多，表示服务节点的处理能力越强，处理请求的效率越高。则可将各服务节点在预设时间段内处理的请求的总数量确定为处理效率值。

进一步的，请求响应数据包括服务节点在预设时间段内处理的请求的总数量和处理请求的处理时长信息；基于各服务节点对应的请求响应数据，确定用于表示服务节点的处理能力的处理效率值，包括：基于各服务节点处理请求的总数量和处理时长信息，确定各服务节点处理请求的处理速度；将各服务节点对应的处理速度确定为各服务节点的处理效率值。

具体的，各服务节点处理请求的处理速度越快，则可表示服务节点的处理效率高。由此，可根据请求响应数据中包括的在预设时间段内处理的请求的总数量和处理请求的处理时长信息，确定各服务节点处理请求的处理速度。

可选的，处理时长信息直接包括各服务节点在预设时间段内处理请求的总耗时。基于总耗时和服务节点预设时间段内处理的请求的总数量，确定出服务节点处理每个请求的平均速度，将平均速度确定为各服务节点处理请求的处理速度。

需要说明的是，请求从网关发向服务节点开始，直到服务节点返回请求处理结果为止的时间段，确定为处理该次请求的单次耗时。总耗时为预设时间段内，服务节点处理全部的请求的单次耗时的总和。

可选的，处理时长信息包括各服务节点处理每个请求的单次耗时；基于各服务节点处理请求的总数量和处理请求的处理时长信息，确定各服务节点处理请求的处理速度，包括：基于各服务节点处理每个请求的单次耗时，计算预设时间段内各服务节点处理所有请求的总耗时；基于总耗时和总数量，计算各服务节点处理请求的平均速度；将平均速度确定为处理速度。

进一步的，基于总耗时和总数量计算各服务节点处理请求的平均速度时，可在总耗时中减去处理各请求时，耗时最长的请求的单次耗时和耗时最短的请求的单次耗时；相应的，总次数减去两次。用减后得到的总时长除以做减法后的到的总次数，得到各服务节点处理请求的平均速度，将平均速度确定为处理速度。通过减去耗时最长的请求的单次耗时和耗时最短的请求的单次耗时，可提高确定的处理速度的准确度，能够更好地反映服务节点的处理请求的能力。

可选的，基于各服务节点处理请求的总数量和处理请求的处理时长信息，确定各服务节点处理请求的处理速度，包括：基于各服务节点处理每个请求的单次耗时，确定预设时间段内各服务节点处理请求时的各单次速度；计算总数量对应的单次速度的速度方差，将速度方差确定为对应的服务节点的处理速度。进一步的，可在确定出的各单次速度中，除去最大单次速度和最小单次速度后，再计算单次速度的速度方差。

S103、基于处理效率值，调整当前服务节点集群中各服务节点上分配的网关流量。

在具体实施中，当处理效率值为预设时间段内各服务节点处理请求的总数量或处理速度时，可按照各服务节点上分配的网关流量与处理效率值为正相关的方式调整各服务节点上分配的网关流量。从而基于处理效率值，灵活地调整当前服务节点集群中各服务节点上分配的网关流量。

本发明实施例所提供的一种网关流量的分配方法，分别获取当前服务节点集群中的各服务节点在预设时间段内处理请求时产生的请求响应数据；基于各服务节点对应的请求响应数据，确定用于表示服务节点的处理能力的处理效率值；基于处理效率值，调整当前服务节点集群中各服务节点上分配的网关流量，即根据服务节点的处理能力，调整各服务节点上分配的网关流量。由此可见，利用实际处理请求时产生的请求响应数据确定处理效率值，能准确、可靠地反映出各服务节点的处理能力；并且根据处理能力自动分配网关流量，分配速度快，效率高，且分配效果较稳定。

实施例二

图2是本发明实施例提供的另一种网关流量的分配方法的流程图。本实施例以上述各技术方案为基础进行优化。可选的，基于处理效率值，调整当前服务节点集群中各服务节点上分配的网关流量，包括：计算各服务节点对应的处理效率值之间的效率比例，将效率比例确定为分配网关流量的分配比例；基于分配比例和网关总流量，调整当前服务节点集群中各服务节点上分配的网关流量。可选的，该方法还包括：当服务节点的处理效率值低于预设处理效率阈值时，对服务节点进行故障检测。可选的，该方法还包括：按照预设时间间隔，定时调整当前服务节点集群中各服务节点上分配的网关流量；其中，预设时间间隔大于或等于预设时间段。其中，与上述各实施例相同或相应的术语的解释在此不再赘述。

如图2所示，本发明实施例的方法具体包括如下步骤：

S201、分别获取当前服务节点集群中的各服务节点在预设时间段内处理请求时产生的请求响应数据。

S202、基于各服务节点对应的请求响应数据，确定用于表示服务节点的处理能力的处理效率值。

S203、计算各服务节点对应的处理效率值之间的效率比例，将效率比例确定为分配网关流量的分配比例。

在具体实施中，当将各服务节点在预设时间段内处理的请求的总数量或处理速度确定为处理效率值时，基于各服务节点对应的处理效率值，计算各服务节点对应的效率比例。由于处理效率值越大，表示该服务节点的处理能力越强，处理请求的效率越高，则可直接将各服务节点对应的效率比例确定为分配网关流量的分配比例，使分配的网关流量与该服务节点的处理效率值成正比，提高整个当前服务节点集群的处理效率。

S204、当检测到存在当前服务节点集群中服务节点被去除的情况时，去除分配比例中去除服务节点对应的比例值；按照剩余服务节点对应的比例值重新确定分配比例。

可选的，可定时对当前服务节点集群中各服务节点的连接情况进行检测，也可实时对当前服务节点集群中各服务节点进行检测，本发明实施例对此不做限定。当检测到存在服务节点被去除的情况时，则说明该去除服务节点已不参与处理请求的工作，应不再对该服务节点分配网关流量。为避免资源浪费，需要进行网关流量的重新分配。具体的，在现有的分配比例中去除该去除服务节点对应的比例值，将剩余服务节点对应的比例值重新形成最新比例，将该最新比例确定为分配比例。

可选的，当检测到当前服务节点集群中添加新的服务节点时，可对新增服务节点确定分配网关流量时的初始比例值。示例性的，计算当前服务节点集群中各原服务节点在分配比例中的比例值的均值，将该均值确定为新增服务节点的初始比例值，并基于初始比例值和原服务节点的比例值重新确定分配比例。

示例性的，还可将原服务节点在分配比例中的比例值中的最小值确定为新增服务节点的初始比例值，或将原服务节点在分配比例中的比例值中的最大值或中值确定为新增服务节点的初始比例值，本发明实施例对此不做具体限定。本发明实施例对去除服务节点或新增服务节点时，及时灵活地调整分配比例，对网关流量进行重新分配，避免了资源浪费。

S205、基于分配比例和网关总流量，调整当前服务节点集群中各服务节点上分配的网关流量。

可选的，将网关总流量按照分配比例对各服务节点上的网关流量进行调整。当分配比例更新后，则按照最新分配比例对网关总流量进行分配，确保当前服务节点集群中各服务节点上分配的流量与最新分配比例一致。当网关总流量更新后，则按照分配比例，对网关总流量进行重新分配，调整当前服务节点集群中各服务节点上分配的网关流量，实现各服务节点上分配的网关流量的灵活调整。

S206、当服务节点的处理效率值低于预设处理效率阈值时，对服务节点进行故障检测。

可选的，当确定出的当前服务节点集群中服务节点的处理效率值低于预设处理效率阈值时，可确定该服务节点的处理效率出现异常，为避免产生网关流量的浪费和降低当前服务节点集群的处理效率，可对服务节点进行故障检测。可选的，还可对当前服务节点集群中处理效率值最小的服务节点的处理效率值进行故障检测。

进一步的，当检测结果为该服务节点为故障服务节点时，在当前服务节点集群中剔除掉该服务节点，并重新确定分配比例，调整各服务节点上的网关流量分配。并向维护人员终端发送故障信息以进行故障提示，使维护人员能够及时发现故障服务节点并进行维修。当检测结果为该服务节点正常时，则继续保持当前的网关流量的分配。

S207、按照预设时间间隔，定时调整当前服务节点集群中各服务节点上分配的网关流量；其中，预设时间间隔大于或等于预设时间段。

可选的，可定时调整当前服务节点集群中各服务节点上分配的网关流量，从而实现自动调整网关流量的分配的过程。具体的，预设时间间隔可等于预设时间段，即当分别获取到当前服务节点集群中各服务节点的请求响应数据时，即开始调整各服务节点上分配的网关流量。预设时间间隔也可大于预设时间段，本发明实施例对此不做限定。

本发明实施例所利用实际处理请求时产生的请求响应数据确定处理效率值，能准确、可靠地反映出各服务节点的处理能力；并且将效率比例确定为分配网关流量的分配比例，避免了资源浪费，在去除服务节点或新增服务节点时灵活分配网关流量，分配速度快，效率高，且分配效果较稳定。

实施例三

上文中对于网关流量的分配方法对应的实施例进行了详细描述，为了使本领域技术人员进一步清楚本方法的技术方案，下文中给出具体的应用场景。图3为本发明实施例提供的一种原始网关流量分配状态的示意图；如图3所示，当网关刚启动或业务节点刚开始提供服务时，所有的服务节点采用平均分配的方式分配网关流量，由于不同的服务节点的性能不一致，导致请求平均耗时不一致。

图3中网关将最近5分钟作为预设时间段，获取5分钟的所有请求响应数据，用以计算每个服务节点的平均耗时和整个集群的平均耗时。如图所示，5分钟处理了工900次请求，每个服务节点分别处理300次请求，平均耗时分别为0.5s、1s和1.5s，服务节点集群处理请求的平均耗时为1s。根据各服务节点的平均耗时计算出服务节点的平均速度，将各服务节点的平均速度确定为处理效率值，并将效率比例确定为分配比例，分配比例计算公式如下：

服务节点1：服务节点2：服务节点3＝(1÷0.5):1:(1÷1.5)＝6:3:2

按照计算得到的分配比例，调整服务节点1、服务节点2和服务节点3的网关流量分配，图4为本发明实施例提供的一种调整后的网关流量分配状态的示意图；如图所示，响应更快、平均耗时更短的服务节点，分配到了更多的网关流量，而响应偏慢的服务节点，则分配到了更少的网关流量，调整后的5分钟内服务节点集群处理请求的平均耗时为0.78s，比原始网关流量分配时的平时耗时短，提高了处理请求的效率。

可每隔5分钟调整一次各服务节点上分配的网关流量，最终将服务节点的流量分配比例调整到一个最佳的比例。当服务节点性能发生波动时，也能在5分钟内立马做出反应，灵活地分配网关流量，充分利用流量资源。

实施例四

图5为本发明实施例提供的网关流量的分配装置的结构框图，该装置用于执行上述任意实施例所提供的网关流量的分配方法。该装置与上述各实施例的网关流量的分配方法属于同一个发明构思，在网关流量的分配装置的实施例中未详尽描述的细节内容，可以参考上述网关流量的分配方法的实施例。参见图5，该装置具体可包括：

获取请求响应数据模块10，用于分别获取当前服务节点集群中的各服务节点在预设时间段内处理请求时产生的请求响应数据；

确定处理效率值模块11，用于基于各服务节点对应的请求响应数据，确定用于表示服务节点的处理能力的处理效率值；

调整网关流量模块12，用于基于处理效率值，调整当前服务节点集群中各服务节点上分配的网关流量。

在本发明实施例任一可选实施方案的基础上，请求响应数据包括服务节点在预设时间段内处理的请求的总数量和处理请求的处理时长信息；确定处理效率值模块11，包括：

确定处理速度单元，用于基于各服务节点处理请求的总数量和处理时长信息，确定各服务节点处理请求的处理速度；将各服务节点对应的处理速度确定为各服务节点的处理效率值。

在本发明实施例任一可选实施方案的基础上，调整网关流量模块12，包括：

计算单元，用于计算各服务节点对应的处理效率值之间的效率比例，将效率比例确定为分配网关流量的分配比例；基于分配比例和网关总流量，调整当前服务节点集群中各服务节点上分配的网关流量。

在本发明实施例任一可选实施方案的基础上，该装置还包括：

去除模块，用于当检测到存在当前服务节点集群中服务节点被去除的情况时，去除分配比例中去除服务节点对应的比例值；按照剩余服务节点对应的比例值重新确定分配比例。

在本发明实施例任一可选实施方案的基础上，处理时长信息包括各服务节点处理每个请求的单次耗时；确定处理速度单元，包括：

第一确定单元，用于基于各服务节点处理每个请求的单次耗时，计算预设时间段内各服务节点处理所有请求的总耗时；基于总耗时和总数量，计算各服务节点处理请求的平均速度；将平均速度确定为处理速度；或者，

第二确定单元，用于基于各服务节点处理每个请求的单次耗时，确定预设时间段内各服务节点处理请求时的各单次速度；计算总数量对应的单次速度的速度方差，将速度方差确定为对应的服务节点的处理速度。

在本发明实施例任一可选实施方案的基础上，该装置还包括：

故障检测模块，用于当服务节点的处理效率值低于预设处理效率阈值时，对服务节点进行故障检测。

在本发明实施例任一可选实施方案的基础上，该装置还包括：

定时调整模块，用于按照预设时间间隔，定时调整当前服务节点集群中各服务节点上分配的网关流量；其中，预设时间间隔大于或等于预设时间段。

本发明实施例所提供的网关流量的分配装置可执行本发明任意实施例所提供的网关流量的分配方法，具备执行方法相应的功能模块和有益效果。

值得注意的是，上述网关流量的分配装置的实施例中，所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。

实施例五

图6为本发明实施例提供的一种电子设备的结构示意图。图6示出了适于用来实现本发明实施例实施方式的示例性电子设备20的框图。图6显示的电子设备20仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图6所示，电子设备20以通用计算设备的形式表现。电子设备20的组件可以包括但不限于：一个或者多个处理器或者处理单元201，系统存储器202，连接不同系统组件(包括系统存储器202和处理单元201)的总线203。

总线203表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线，微通道体系结构(MAC)总线，增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。

电子设备20典型地包括多种计算机系统可读介质。这些介质可以是任何能够被电子设备20访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。

系统存储器202可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(RAM)204和/或高速缓存存储器205。电子设备20可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统206可以用于读写不可移动的、非易失性磁介质。尽管图6中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线203相连。存储器202可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。

具有一组(至少一个)程序模块207的程序/实用工具208，可以存储在例如存储器202中，这样的程序模块207包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块207通常执行本发明所描述的实施例中的功能和/或方法。

电子设备20也可以与一个或多个外部设备209(例如键盘、指向设备、显示器210等)通信，还可与一个或者多个使得用户能与该电子设备20交互的设备通信，和/或与使得该电子设备20能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口211进行。并且，电子设备20还可以通过网络适配器212与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器212通过总线203与电子设备20的其它模块通信。应当明白，尽管图6中未示出，可以结合电子设备20使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

处理单元201通过运行存储在系统存储器202中的程序，从而执行各种功能应用以及数据处理。

本发明所提供的一种电子设备，能够实现如下方法：分别获取当前服务节点集群中的各服务节点在预设时间段内处理请求时产生的请求响应数据；基于各服务节点对应的请求响应数据，确定用于表示服务节点的处理能力的处理效率值；基于处理效率值，调整当前服务节点集群中各服务节点上分配的网关流量，即根据服务节点的处理能力，调整各服务节点上分配的网关流量。由此可见，利用实际处理请求时产生的请求响应数据确定处理效率值，能准确、可靠地反映出各服务节点的处理能力；并且根据处理能力自动分配网关流量，分配速度快，效率高，且分配效果较稳定。

实施例六

本发明实施例提供一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行一种网关流量的分配方法，该方法包括：

分别获取当前服务节点集群中的各服务节点在预设时间段内处理请求时产生的请求响应数据；基于各服务节点对应的请求响应数据，确定用于表示服务节点的处理能力的处理效率值；基于处理效率值，调整当前服务节点集群中各服务节点上分配的网关流量，即根据服务节点的处理能力，调整各服务节点上分配的网关流量。由此可见，利用实际处理请求时产生的请求响应数据确定处理效率值，能准确、可靠地反映出各服务节点的处理能力；并且根据处理能力自动分配网关流量，分配速度快，效率高，且分配效果较稳定。

当然，本发明实施例所提供的一种包含计算机可执行指令的存储介质，其计算机可执行指令不限于如上所述的方法操作，还可以执行本发明任意实施例所提供的网关流量的分配方法中的相关操作。

本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本发明实施例操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言——诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims (8)

1.一种网关流量的分配方法，其特征在于，包括：

分别获取当前服务节点集群中的各服务节点在预设时间段内处理请求时产生的请求响应数据；

基于各所述服务节点对应的所述请求响应数据，确定用于表示所述服务节点的处理能力的处理效率值；

基于所述处理效率值，调整所述当前服务节点集群中各所述服务节点上分配的网关流量；

所述请求响应数据包括所述服务节点在所述预设时间段内处理的请求的总数量和处理请求的处理时长信息；

所述基于各所述服务节点对应的所述请求响应数据，确定用于表示所述服务节点的处理能力的处理效率值，包括：

基于各所述服务节点处理请求的所述总数量和所述处理时长信息，确定各所述服务节点处理请求的处理速度；

将各所述服务节点对应的所述处理速度确定为各所述服务节点的所述处理效率值；

所述处理时长信息包括各所述服务节点处理每个请求的单次耗时；

所述基于各所述服务节点处理请求的所述总数量和所述处理时长信息，确定各所述服务节点处理请求的处理速度，包括：

基于各所述服务节点处理每个请求的所述单次耗时，计算所述预设时间段内各所述服务节点处理所有请求的总耗时；

基于所述总耗时和所述总数量，计算各所述服务节点处理请求的平均速度；将所述平均速度确定为所述处理速度；或者，

基于各所述服务节点处理每个请求的所述单次耗时，确定所述预设时间段内各所述服务节点处理请求时的各单次速度；

计算所述总数量对应的所述单次速度的速度方差，将所述速度方差确定为对应的所述服务节点的所述处理速度。

2.根据权利要求1所述的方法，其特征在于，所述基于所述处理效率值，调整所述当前服务节点集群中各所述服务节点上分配的网关流量，包括：

计算各所述服务节点对应的所述处理效率值之间的效率比例，将所述效率比例确定为分配所述网关流量的分配比例；

基于所述分配比例和网关总流量，调整所述当前服务节点集群中各所述服务节点上分配的网关流量。

3.根据权利要求2所述的方法，其特征在于，还包括：

当检测到存在所述当前服务节点集群中所述服务节点被去除的情况时，去除所述分配比例中去除服务节点对应的比例值；

按照剩余服务节点对应的比例值重新确定所述分配比例。

4.根据权利要求1所述的方法，其特征在于，还包括：

当所述服务节点的所述处理效率值低于预设处理效率阈值时，对所述服务节点进行故障检测。

5.根据权利要求1所述的方法，其特征在于，还包括：

按照预设时间间隔，定时调整所述当前服务节点集群中各所述服务节点上分配的网关流量；其中，所述预设时间间隔大于或等于所述预设时间段。

6.一种网关流量的分配装置，其特征在于，包括：

获取请求响应数据模块，用于分别获取当前服务节点集群中的各服务节点在预设时间段内处理请求时产生的请求响应数据；

确定处理效率值模块，用于基于各所述服务节点对应的所述请求响应数据，确定用于表示所述服务节点的处理能力的处理效率值；

调整网关流量模块，用于基于所述处理效率值，调整所述当前服务节点集群中各所述服务节点上分配的网关流量；

其中，所述请求响应数据包括服务节点在预设时间段内处理的请求的总数量和处理请求的处理时长信息；

所述确定处理效率值模块，包括：

确定处理速度单元，用于基于各服务节点处理请求的总数量和处理时长信息，确定各服务节点处理请求的处理速度；

将各服务节点对应的处理速度确定为各服务节点的处理效率值；

所述处理时长信息包括各服务节点处理每个请求的单次耗时；

所述确定处理速度单元，包括：

第一确定单元，用于基于各服务节点处理每个请求的单次耗时，计算预设时间段内各服务节点处理所有请求的总耗时；

基于总耗时和总数量，计算各服务节点处理请求的平均速度；将平均速度确定为处理速度；或者，

第二确定单元，用于基于各服务节点处理每个请求的单次耗时，确定预设时间段内各服务节点处理请求时的各单次速度；

计算总数量对应的单次速度的速度方差，将速度方差确定为对应的服务节点的处理速度。

7.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储器，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-5中任一所述的网关流量的分配方法。

8.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-5中任一所述的网关流量的分配方法。

Images