CN113900731A

CN113900731A - 请求处理方法、装置、设备和存储介质

Info

Publication number: CN113900731A
Application number: CN202111162051.0A
Authority: CN
Inventors: 尹彦涛
Original assignee: Baidu Online Network Technology Beijing Co Ltd
Current assignee: Baidu Online Network Technology Beijing Co Ltd
Priority date: 2021-09-30
Filing date: 2021-09-30
Publication date: 2022-01-07
Anticipated expiration: 2041-09-30
Also published as: CN113900731B

Abstract

本公开提供了一种请求处理方法、装置、设备和存储介质，涉及计算机技术领域，尤其涉及小程序技术领域。具体实现方案为：接收服务调用请求；根据至少两个候选服务节点的权重，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点；其中，所述候选服务节点的权重根据候选服务节点在历史时间窗口的吞吐量和延迟时长确定；所述候选服务节点的选择概率与所述候选服务节点的权重呈正相关。本公开实施例能够提高服务的性能与稳定性。

Description

请求处理方法、装置、设备和存储介质

技术领域

本公开涉及计算机技术领域，尤其涉及小程序技术领域，具体涉及一种请求处理方法、装置、电子设备和计算机可读存储介质。

背景技术

随着用户规模的增长，很多应用的下游服务实例数量超过一台，即应用可以有多个下游服务实例。在网络通信中，如何通过负载均衡分割流量，使各下游服务实例能够承接来自上游的服务调用请求，从而提高应用服务的性能十分重要。

发明内容

本公开提供了一种用于请求处理方法、装置、设备和存储介质。

根据本公开的一方面，提供了一种请求处理方法，包括：

接收服务调用请求；

根据至少两个候选服务节点的权重，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点；

其中，所述候选服务节点的权重根据候选服务节点在历史时间窗口的吞吐量和延迟时长确定；所述候选服务节点的选择概率与所述候选服务节点的权重呈正相关。

根据本公开的又一方面，提供了一种请求处理装置，包括：

请求接收模块，用于接收服务调用请求；

服务节点选择模块，用于根据至少两个候选服务节点的权重，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点；

根据本公开的又一方面，提供了一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本公开任意实施例所提供的请求处理方法。

根据本公开的又一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行本公开任意实施例所提供的请求处理方法。

根据本公开的又一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现本公开任意实施例所提供的请求处理方法。

根据本公开的技术，能够提高服务的性能与稳定性。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是根据本公开实施例提供的一种请求处理方法的示意图；

图2a是根据本公开实施例提供的另一种请求处理方法的示意图；

图2b是根据本公开实施例提供的一种服务完全二叉树的示意图；

图3a是根据本公开实施例提供的又一种请求处理方法的示意图；

图3b是根据本公开实施例提供的一种吞吐量与延迟时长之间的关系变化示意图；

图4根据本公开实施例提供的一种请求处理装置的示意图；

图5是用来实现本公开实施例的请求处理方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

以下结合附图，对本公开实施例提供的该方案进行详细说明。

图1是根据本公开实施例提供的一种请求处理方法的示意图，本公开实施例可适用于对服务调用请求进行负载均衡优化的情况。该方法可由一种请求处理装置来执行，该装置可采用硬件和/或软件的方式来实现，可配置于电子设备中。参考图1，该方法具体包括如下：

S110、接收服务调用请求；

S120、根据至少两个候选服务节点的权重，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点；

在本公开实施例中，上游在调用下游服务时可以产生服务调用请求，上游为请求发起方，下游为请求响应方，例如用户可以使用应用客户端发起对应用服务实例的服务调用请求，其中应用服务实例可以称为下游服务实例。候选服务节点可以配置有下游服务实例。

在本公开实施例中，上游在请求下游服务时，可以记录候选服务节点的历史请求数据，根据候选服务节点的历史请求数据计算候选服务节点的吞吐量例如QPS(Queries-per-second，每秒查询率)、延迟时长，并根据候选服务节点的吞吐量、延迟时长计算候选服务节点的权重。候选服务节点的吞吐量和延迟时长是动态变化的，根据吞吐量和延迟时长动态确定候选服务节点的权重，使权重能够更准确地反映候选服务节点的性能，权重越高代表性能越好。例如某一候选服务节点因CPU使用率达100％或者网络延迟等原因导致该候选服务节点的权重较低，从而可以降低该候选服务节点被选作目标服务节点的概率。其中，时间窗口的长度可以为预设的固定时长，历史时间窗口可以为当前时间窗口的相邻时间窗口，可以保证吞吐量、延迟时长的及时性和准确性，从而进一步提高权重的准确性。

并且，可以基于负载均衡策略，根据各候选服务节点的权重，从各候选服务节点中为服务调用请求选择目标服务节点。负载均衡策略使候选服务节点的选择概率与候选服务节点的权重呈正相关，即权重越高的候选服务节点被选作目标服务节点的概率越大。本公开实施例对负载均衡策略不做具体限定。

本公开实施例的技术方案，通过根据候选服务节点在历史时间窗口的吞吐量和延迟时长动态确定候选服务节点的权重，并且权重越高的候选服务节点被选作目标服务节点的概率越大，能够提高服务的性能与稳定性。

在一种可选所述方式中，所述服务调用请求为对小程序的访问请求。为了保证用户体验，要求小程序具有极高的服务稳定性。通过基于动态权重对小程序的访问请求进行负载均衡优化，能够提高小程序的稳定性。经混沌工程验收，下游服务可用性达99.7％，上游可用性达99.99％，远高于相关技术中的下游可用性81.8％，上游可用性99.25％。

图2a是根据本公开实施例提供的另一种请求处理方法的示意图。本实施例是在上述实施例的基础上提出的一种可选方案。参见图2a，本实施例提供的请求处理方法包括：

S210、接收服务调用请求；

S220、生成当前随机数；其中，当前随机数小于各候选服务节点的总权重；

其中，所述候选服务节点的权重根据候选服务节点在历史时间窗口的吞吐量和延迟时长确定；

S230、从服务完全二叉树所包括的至少两个候选服务节点中选择当前服务节点；其中，所述服务完全二叉树中的候选服务节点包括自身权重和左子树权重和；

S240、根据所述当前随机数、当前服务节点的自身权重和左子树权重和，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点。

在本公开实施例中，可以根据至少两个候选服务节点和候选服务节点的权重构建完全平衡二叉树作为服务完全二叉树，其中服务完成二叉树中节点为候选服务节点，且候选服务节点包括自身权重和左子树权重和，任一候选服务节点的左子树权重和为该候选服务节点的左子树所包括的各候选服务节点的权重之和。需要说明的是，对各候选服务节点之间的顺序不做具体限定，即对任一候选服务节点在服务完成二叉树中的位置不做具体限定。图2b是根据本公开实施例提供的一种服务完全二叉树的示意图，参考图2b，以有A，B，…，H，I共9个候选服务节点为例，各候选服务节点具有自身权重和左子树权重和。

在选择目标服务节点过程中，确定各候选服务节点的总权重，并生成小于总权重的当前随机数，以图2b为例，总权重为25，当前随机数可以为12；从服务完全二叉树中选择当前服务节点，可以将服务完成二叉树的根节点作为首个当前服务节点；将随机数与当前服务节点的自身权重和左子树权重和进行比较，并根据比较结果从至少两个候选服务节点中为所述服务调用请求选择目标服务节点。具体的，根据比较结果，可以向当前服务节点的左子树继续寻找，或者向当前服务节点的右子树继续寻找，又或者将当前服务节点选作目标服务节点。通过根据当前随机数，与服务完全二叉树中各候选服务节点的自身权重、左子树权重和之间的比较结果，确定服务完全二叉树的继续寻找方向，能够降低目标服务节点选作问题的时间复杂度，提高目标服务节点的选择效率，从而提高请求处理效率。

在一种可选实施方式中，根据所述当前随机数、当前服务节点的自身权重和左子树权重和，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点，包括：若所述当前服务节点的左子树权重和大于所述当前随机数，则从当前服务节点的左子树中为所述服务调用请求选择目标服务节点；若所述当前服务节点的左子树权重和小于或等于所述当前随机数，且当前随机数大于当前服务节点的自身权重与左子树权重和之间的权重总和，则更新当前随机数，并根据新的当前随机数从当前服务节点的右子树中为所述服务调用请求选择目标服务节点；否则，将所述当前服务节点作为目标服务节点。

其中，当前随机数用于衡量候选服务节点的性能。具体的，若当前服务节点的左子树权重和大于当前随机数，则左子树中各候选服务节点的综合性能较好，可以从当前服务节点的左子树中为所述服务调用请求选择目标服务节点，也就是说，可以将当前服务节点的左子节点作为新的当前服务节点，并根据当前随机数、新的当前服务节点的自身权重、左子树权重和，继续从当前服务节点(即上一当前服务节点)的左子树中选择目标服务节点。

若当前服务节点的左子树权重和小于或等于当前随机数，则左子树中各候选服务节点的综合性能较差，可以确定当前服务节点的自身权重与左子树权重和之间的权重总和，且比较当前随机数与权重总和，在当前随机数大于权重总和的情况下，可以更新当前随机数，并根据新的当前随机数从当前服务节点的右子树中为服务调用请求选择目标服务节点，也就是说，可以更新当前随机数，将当前服务节点的右子节点作为新的当前服务节点，并根据新的当前随机数和新的当前服务节点的自身权重、左子树权重和，继续从当前服务节点的右子树中选择目标服务节点。并且，若当前服务节点的左子树权重和小于或等于当前随机数，且当前随机数小于或等于当前服务节点的自身权重与左子树权重和之间的权重总和，则将当前服务节点作为目标服务节点。

通过采用当前随机数作为候选服务节点的性能衡量依据，通过将当前随机数与当前服务节点的左子树权重和、当前服务节点的自身权重与左子树权重和之间的权重总和进行比较，并根据比较结果选择目标服务节点，能够将性能良好的候选服务节点选作目标服务节点，从而提高服务的性能。

在一种可选实施方式中，所述更新当前随机数，包括：将所述当前随机数与所述权重总和之间的差值，作为新的当前随机数。通过将当前随机数减去权重总和得到的差值，作为新的当前随机数，便于采用新的当前随机数继续从右子树中选择目标服务节点。

仍以图2b为例，可以将根节点A作为首个当前服务节点，由于当前随机数12小于当前服务节点A的左子树权重和13，因此将节点A的左子节点B作为新的当前服务节点；由于当前随机数12大于节点B的左子树权重和9，且当前随机数12大于节点B的自身权重2与左子树权重和9之间的权重总和11，因此将当前随机数12与权重总和11之间的差值1作为新的当前随机数，且将节点B的右子节点E作为新的当前服务节点；由于节点E的左子树权重和0小于当前随机数1，且当前随机数1小于节点E的自身权重2与左子树权重和0之间的权重总和2，因此将节点E作为目标服务节点。

本公开实施例的技术方案，基于服务完全二叉树提供了一种兼顾时间复杂度与服务性能的负载均衡策略，进一步提高了服务性能。

图3a是根据本公开实施例提供的另一种请求处理方法的示意图。本实施例是在上述实施例的基础上提出的一种可选方案。参见图3a，本实施例提供的请求处理方法包括：

S310、将候选服务节点在历史时间窗口的历史延迟时长与延迟时长下限值进行比较，并根据比较结果剔除小于所述延迟时长下限值的历史延迟时长；

S320、根据剩余的历史延迟时长确定候选服务节点在历史时间窗口的平均延迟时长；

S330、将候选服务节点在历史时间窗口的吞吐量与所述平均延迟时长之商，作为候选服务节点的权重；

S340、接收服务调用请求；

S350、根据至少两个候选服务节点的权重，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点；所述候选服务节点的选择概率与所述候选服务节点的权重呈正相关。

其中，延迟时长下限值可以根据服务的业务需求确定，例如可以为50kps。具体的，可以获取候选服务节点在历史时间窗口的各历史调用请求的历史延迟时长，并将小于延迟时长下限值的历史延迟时长剔除，根据剩余的历史延迟时长确定候选服务节点在历史时间窗口的平均延迟时长，且将候选服务节点在历史时间窗口的吞吐量与所述平均延迟时长之商，作为候选服务节点的权重。

如果候选服务节点达到限流状态触发服务降级，极快返回调用结果，而未采用候选服务节点对服务调用请求进行处理，则历史延迟时长较小，可能导致节点的权重上升，进而负载均衡策略将大部分流量集中到该候选服务节点，导致结果不符合预期，甚至引起雪崩风险。通过配置延迟时长下限值，将小于延迟时长下限值的历史延迟时长剔除，能够避免服务降级对节点权重的影响。

图3b是根据本公开实施例提供的一种吞吐量与延迟时长之间的关系变化示意图，参考图3b，候选服务节点的吞吐量、延迟时长是动态变化的，理论上吞吐量越高，延迟时长越大，且延迟时长与吞吐量之间的关系趋于稳定。通过将候选服务节点的吞吐量与平均延迟时长之商，作为候选服务节点的权重，使节点的权重趋于稳定。并且，还可以通过缩放系数使权重值取正整数，而不为浮点数，从而能够提高计算效率。

在一种可选实施方式中，根据至少两个候选服务节点的权重，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点，包括：生成当前随机数；其中，所述当前随机数小于各候选服务节点的总权重；遍历各候选服务节点，若经遍历的前i-1个候选服务节点的权重之和小于或等于所述当前随机数，且经遍历的前i个候选服务节点的权重之和大于所述当前随机数，则将第i个节点作为所述目标服务节点。

通过逐个遍历候选服务节点，计算经遍历的各候选服务节点的权重之和，找到满足负载均衡条件的第i个候选服务节点作为目标服务节点；负载均衡条件为前i-1个候选服务节点的权重之和小于或等于所述当前随机数，且前i个候选服务节点的权重之和大于当前随机数，能够保证服务性能的稳定性。

本公开实施例的技术方案，在确定候选服务节点的权重过程中通过将小于延迟时长下限值的历史延迟时长剔除，能够避免服务降级对节点权重的影响；并且，通过按照节点的权重进行分流，能够保证服务性能的稳定性。

图4根据本公开实施例提供的一种请求处理装置的示意图，本实施例可适用于对服务调用请求进行负载均衡优化的情况，该装置配置于电子设备中，可实现本公开任意实施例所述的请求处理方法。参考图4，该请求处理装置400具体包括如下：

请求接收模块410，用于接收服务调用请求；

服务节点选择模块420，用于根据至少两个候选服务节点的权重，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点；

在一种可选实施方式中，该请求处理装置400还包括节点权重确定模块，所述节点权重确定模块包括：

延迟筛选单元，用于将候选服务节点在历史时间窗口的历史延迟时长与延迟时长下限值进行比较，并根据比较结果剔除小于所述延迟时长下限值的历史延迟时长；

平均延迟单元，用于根据剩余的历史延迟时长确定候选服务节点在历史时间窗口的平均延迟时长；

节点权重单元，用于将候选服务节点在历史时间窗口的吞吐量与所述平均延迟时长之商，作为候选服务节点的权重。

在一种可选实施方式中，所述服务节点选择模块420包括：

第一随机数生成单元，用于生成当前随机数；其中，所述当前随机数小于各候选服务节点的总权重；

当前服务节点选择单元，用于从服务完全二叉树所包括的至少两个候选服务节点中选择当前服务节点；其中，所述服务完全二叉树中的候选服务节点包括自身权重和左子树权重和；

目标节点选择单元，用于根据所述当前随机数、当前服务节点的自身权重和左子树权重和，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点。

在一种可选实施方式中，所述目标节点选择单元包括：

左子树选择子单元，用于若所述当前服务节点的左子树权重和大于所述当前随机数，则从当前服务节点的左子树中为所述服务调用请求选择目标服务节点；

右子树选择子单元，用于若所述当前服务节点的左子树权重和小于或等于所述当前随机数，且当前随机数大于当前服务节点的自身权重与左子树权重和之间的权重总和，则更新当前随机数，并根据新的当前随机数从当前服务节点的右子树中为所述服务调用请求选择目标服务节点；

当前服务节点子单元，用于若所述当前服务节点的左子树权重和小于或等于所述当前随机数，且当前随机数小于或等于当前服务节点的自身权重与左子树权重和之间的权重总和，则将所述当前服务节点作为目标服务节点。

在一种可选实施方式中，所述右子树选择子单元具体用于：

将所述当前随机数与所述权重总和之间的差值，作为新的当前随机数。

在一种可选实施方式中，所述服务节点选择模块420包括：

第二随机数生成单元，用于生成当前随机数；其中，所述当前随机数小于各候选服务节点的总权重；

服务节点选择单元，用于遍历各候选服务节点，若经遍历的前i-1个候选服务节点的权重之和小于或等于所述当前随机数，且经遍历的前i个候选服务节点的权重之和大于所述当前随机数，则将第i个节点作为所述目标服务节点。

在一种可选实施方式中，所述服务调用请求为对小程序的访问请求。

本实施例的技术方案，动态确定候选服务节点的权重，并根据动态权重进行负载均衡优化，能够提高服务稳定性；并且，还可以降低负载均衡处理的时间复杂度，提高请求处理效率。

本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图5示出了可以用来实施本公开的实施例的示例电子设备500的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图5所示，设备500包括计算单元501，其可以根据存储在只读存储器(ROM)502中的计算机程序或者从存储单元508加载到随机访问存储器(RAM)503中的计算机程序，来执行各种适当的动作和处理。在RAM 503中，还可存储设备500操作所需的各种程序和数据。计算单元501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。

设备500中的多个部件连接至I/O接口505，包括：输入单元506，例如键盘、鼠标等；输出单元507，例如各种类型的显示器、扬声器等；存储单元508，例如磁盘、光盘等；以及通信单元509，例如网卡、调制解调器、无线通信收发机等。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种执行机器学习模型算法的计算单元、数字信息处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理，例如请求处理方法。例如，在一些实施例中，请求处理方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元508。在一些实施例中，计算机程序的部分或者全部可以经由ROM 502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序加载到RAM 503并由计算单元501执行时，可以执行上文描述的请求处理方法的一个或多个步骤。备选地，在其他实施例中，计算单元501可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行请求处理方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上执行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims

1.一种请求处理方法，包括：

接收服务调用请求；

2.根据权利要求1所述的方法，所述根据至少两个候选服务节点的权重，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点之前，还包括：

将候选服务节点在历史时间窗口的历史延迟时长与延迟时长下限值进行比较，并根据比较结果剔除小于所述延迟时长下限值的历史延迟时长；

根据剩余的历史延迟时长确定候选服务节点在历史时间窗口的平均延迟时长；

将候选服务节点在历史时间窗口的吞吐量与所述平均延迟时长之商，作为候选服务节点的权重。

3.根据权利要求1所述的方法，其中，所述根据至少两个候选服务节点的权重，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点，包括：

生成当前随机数；其中，所述当前随机数小于各候选服务节点的总权重；

从服务完全二叉树所包括的至少两个候选服务节点中选择当前服务节点；其中，所述服务完全二叉树中的候选服务节点包括自身权重和左子树权重和；

根据所述当前随机数、当前服务节点的自身权重和左子树权重和，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点。

4.根据权利要求3所述的方法，其中，所述根据所述当前随机数、当前服务节点的自身权重和左子树权重和，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点，包括：

若所述当前服务节点的左子树权重和大于所述当前随机数，则从当前服务节点的左子树中为所述服务调用请求选择目标服务节点；

若所述当前服务节点的左子树权重和小于或等于所述当前随机数，且当前随机数大于当前服务节点的自身权重与左子树权重和之间的权重总和，则更新当前随机数，并根据新的当前随机数从当前服务节点的右子树中为所述服务调用请求选择目标服务节点；

否则，将所述当前服务节点作为目标服务节点。

5.根据权利要求4所述的方法，其中，所述更新当前随机数，包括：

6.根据权利要求1所述的方法，其中，所述根据至少两个候选服务节点的权重，从所述至少两个候选服务节点中为所述服务调用请求选择目标服务节点，包括：

遍历各候选服务节点，若经遍历的前i-1个候选服务节点的权重之和小于或等于所述当前随机数，且经遍历的前i个候选服务节点的权重之和大于所述当前随机数，则将第i个节点作为所述目标服务节点。

7.根据权利要求1所述的方法，其中，所述服务调用请求为对小程序的访问请求。

8.一种请求处理装置，包括：

请求接收模块，用于接收服务调用请求；

9.根据权利要求8所述的装置，还包括节点权重确定模块，所述节点权重确定模块包括：

10.根据权利要求8所述的装置，其中，所述服务节点选择模块包括：

11.根据权利要求10所述的装置，其中，所述目标节点选择单元包括：

12.根据权利要求11所述的装置，其中，所述右子树选择子单元具体用于：

13.根据权利要求1所述的装置，其中，所述服务节点选择模块包括：

14.根据权利要求8所述的装置，其中，所述服务调用请求为对小程序的访问请求。

15.一种电子设备，其中，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。

16.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的方法。

17.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-7中任一项所述的方法。