CN112543152A - 自适应调整服务超时时间的方法和装置 - Google Patents

Abstract

本公开实施例公开了一种自适应调整服务超时时间的方法和装置，其中，该方法包括：获取当前数据流量；基于预设的数据流量分布模型，确定当前数据流量对应的流量变化趋势；基于当前数据流量，以及预设的流量变化趋势与请求超时时间的对应关系，确定当前时间对应的请求超时时间作为待设置请求超时时间；将请求超时时间设置为待设置请求超时时间。本公开实施例可以自适应地调整请求超时时间，使请求超时时间随着数据流量的变化而动态变化，可以在数据流量较大的情况下通过缩短超时时间保障整体服务的稳定性，在数据流量较小的情况下扩大超时的时间，减少其中部分超时请求，进而降低请求链路拥堵的风险。

Description

自适应调整服务超时时间的方法和装置

技术领域

本公开涉及计算机技术领域，尤其是一种自适应调整服务超时时间的方法、装置、计算机可读存储介质及电子设备。

背景技术

在当前流行的微服务架构中，一次请求可能要经过一条很长的链路，跨多个服务调用后才能返回结果。同时，在日常的服务运行中，服务的数据流量随着业务变化会出现数据流量较高或较低的时段，遇到网络抖动等不可抗拒的因素，会导致数据流量的突变。

目前对于微服务架构中，无论当前的数据流量高低，上游的网络是否抖动，下游的处理能力是否充足，上游服务调用下游服务设定的超时时间是一个固定值。

发明内容

本公开的实施例提供了一种自适应调整服务超时时间的方法、装置、计算机可读存储介质及电子设备。

本公开的实施例提供了一种自适应调整服务超时时间的方法，该方法包括：获取当前数据流量；基于预设的数据流量分布模型，确定当前数据流量对应的流量变化趋势；基于当前数据流量，以及预设的流量变化趋势与请求超时时间的对应关系，确定当前时间对应的请求超时时间作为待设置请求超时时间；将请求超时时间设置为待设置请求超时时间。

在一些实施例中，基于当前数据流量，以及预设的流量变化趋势与请求超时时间的对应关系，确定当前时间对应的请求超时时间作为待设置请求超时时间，包括：响应于确定当前数据流量大于或等于第一预设流量，且流量变化趋势为上涨，确定待设置请求超时时间为第一时间；响应于确定当前数据流量大于或等于第一预设流量，且流量变化趋势不是上涨，确定待设置请求超时时间为第二时间，其中，第一时间小于第二时间。

在一些实施例中，基于当前数据流量，以及预设的流量变化趋势与请求超时时间的对应关系，确定当前时间对应的请求超时时间作为待设置请求超时时间，包括：响应于确定当前数据流量小于第一预设流量且大于或等于第二预设流量，且流量变化趋势为正常波动，确定待设置请求超时时间为第三时间，其中，第三时间大于第一时间。

在一些实施例中，基于当前数据流量，以及预设的流量变化趋势与请求超时时间的对应关系，确定当前时间对应的请求超时时间作为待设置请求超时时间，包括：响应于确定当前数据流量小于第二预设流量，且流量变化趋势为下降，确定待设置请求超时时间为第四时间；响应于确定当前数据流量小于第二预设流量，且流量变化趋势不是下降，确定待设置请求超时时间为第五时间，其中，第四时间大于第一时间、第二时间、第三时间和第五时间，第五时间大于第一时间。

在一些实施例中，在获取当前数据流量之后，该方法还包括：确定当前数据流量是否正常；如果不正常，将当前数据流量滤除，并重新获取当前数据流量。

在一些实施例中，确定当前数据流量是否正常，包括：基于数据流量分布模型，确定当前时间对应的正常数据流量；确定当前数据流量与正常数据流量之差的绝对值是否大于或等于预设阈值；如果大于或等于预设阈值，确定当前数据流量不正常。

根据本公开实施例的另一个方面，提供了一种自适应调整服务超时时间的装置，该装置包括：获取模块，用于获取当前数据流量；第一确定模块，用于基于预设的数据流量分布模型，确定当前数据流量对应的流量变化趋势；第二确定模块，用于基于当前数据流量，以及预设的流量变化趋势与请求超时时间的对应关系，确定当前时间对应的请求超时时间作为待设置请求超时时间；设置模块，用于将请求超时时间设置为待设置请求超时时间。

在一些实施例中，第二确定模块包括：第一确定单元，用于响应于确定当前数据流量大于或等于第一预设流量，且流量变化趋势为上涨，确定待设置请求超时时间为第一时间；第二确定单元，用于响应于确定当前数据流量大于或等于第一预设流量，且流量变化趋势不是上涨，确定待设置请求超时时间为第二时间，其中，第一时间小于第二时间。

在一些实施例中，第二确定模块包括：第三确定单元，用于响应于确定当前数据流量小于第一预设流量且大于或等于第二预设流量，且流量变化趋势为正常波动，确定待设置请求超时时间为第三时间，其中，第三时间大于第一时间。

在一些实施例中，第二确定模块包括：第四确定单元，用于响应于确定当前数据流量小于第二预设流量，且流量变化趋势为下降，确定待设置请求超时时间为第四时间；第五确定单元，用于响应于确定当前数据流量小于第二预设流量，且流量变化趋势不是下降，确定待设置请求超时时间为第五时间，其中，第四时间大于第一时间、第二时间、第三时间和第五时间，第五时间大于第一时间。

在一些实施例中，该装置还包括：第三确定模块，用于确定当前数据流量是否正常；过滤模块，用于如果不正常，将当前数据流量滤除，并重新获取当前数据流量。

在一些实施例中，第三确定模块包括：第六确定单元，用于基于数据流量分布模型，确定当前时间对应的正常数据流量；第七确定单元，用于确定当前数据流量与正常数据流量之差的绝对值是否大于或等于预设阈值；第八确定单元，用于如果大于或等于预设阈值，确定当前数据流量不正常。

根据本公开实施例的另一个方面，提供了一种计算机可读存储介质，计算机可读存储介质存储有计算机程序，计算机程序用于执行上述自适应调整服务超时时间的方法。

根据本公开实施例的另一个方面，提供了一种电子设备，电子设备包括：处理器；用于存储处理器可执行指令的存储器；处理器，用于从存储器中读取可执行指令，并执行指令以实现上述自适应调整服务超时时间的方法。

基于本公开上述实施例提供的自适应调整服务超时时间的方法、装置、计算机可读存储介质及电子设备，通过采用预设的流量分布模型，确定当前数据流量对应的流量变化趋势，根据变化趋势设置请求超时时间，从而实现了自适应地调整请求超时时间，使请求超时时间随着数据流量的变化而动态变化，可以在数据流量较大的情况下通过缩短超时时间保障整体服务的稳定性，在数据流量较小的情况下扩大超时的时间，减少其中部分超时请求，进而降低请求链路拥堵的风险。

下面通过附图和实施例，对本公开的技术方案做进一步的详细描述。

附图说明

通过结合附图对本公开实施例进行更详细的描述，本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解，并且构成说明书的一部分，与本公开实施例一起用于解释本公开，并不构成对本公开的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1是本公开所适用的系统图。

图2是本公开一示例性实施例提供的自适应调整服务超时时间的方法的流程示意图。

图3是本公开的实施例提供的的自适应调整服务超时时间的方法的数据流量分布模型的示例性示意图。

图4是本公开的实施例提供的的自适应调整服务超时时间的方法的一个示例性示意图。

图5是本公开一示例性实施例提供的自适应调整服务超时时间的装置的结构示意图。

图6是本公开另一示例性实施例提供的自适应调整服务超时时间的装置的结构示意图。

图7是本公开一示例性实施例提供的电子设备的结构图。

具体实施方式

下面，将参考附图详细地描述根据本公开的示例实施例。显然，所描述的实施例仅仅是本公开的一部分实施例，而不是本公开的全部实施例，应理解，本公开不受这里描述的示例实施例的限制。

应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。

本领域技术人员可以理解，本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等，既不代表任何特定技术含义，也不表示它们之间的必然逻辑顺序。

还应理解，在本公开实施例中，“多个”可以指两个或两个以上，“至少一个”可以指一个、两个或两个以上。

还应理解，对于本公开实施例中提及的任一部件、数据或结构，在没有明确限定或者在前后文给出相反启示的情况下，一般可以理解为一个或多个。

另外，本公开中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本公开中字符“/”，一般表示前后关联对象是一种“或”的关系。

还应理解，本公开对各个实施例的描述着重强调各个实施例之间的不同之处，其相同或相似之处可以相互参考，为了简洁，不再一一赘述。

同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。

以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使用的任何限制。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为说明书的一部分。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

本公开实施例可以应用于终端设备、计算机系统、服务器等电子设备，其可与众多其它通用或专用计算系统环境或配置一起操作。适于与终端设备、计算机系统、服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括但不限于：个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统、大型计算机系统和包括上述任何系统的分布式云计算技术环境，等等。

终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常，程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等，它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施，分布式云计算环境中，任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中，程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。

申请概述

由于目前的微服务架构中，上游服务调用下游服务设定的超时时间是一个固定值，会导致处于上游的服务在调用下游服务时会有大量的超时，严重时造成请求链路拥堵，服务器瘫痪。在服务可以容忍的情况下动态设置请求的超时时间，从而在数据流量较大的情况下通过缩短超时时间保障整体服务的稳定性，在数据流量较小的情况下扩大超时的时间，减少其中部分超时请求。

示例性系统

图1示出了可以应用本公开的实施例的自适应调整服务超时时间的方法或自适应调整服务超时时间的装置的示例性系统架构100。

如图1所示，系统架构100可以包括终端设备101，网络102、上游服务器103和下游服务器104。网络102用于在终端设备101和上游服务器103、下游服务器104之间提供通信链路的介质。网络102可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101通过网络102与上游服务器103或下游服务器104交互，以接收或发送消息等。终端设备101上可以安装有各种通讯客户端应用，例如搜索类应用、网页浏览器应用、购物类应用、即时通信工具等。

终端设备101可以是各种电子设备，包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。

上游服务器103可以向下游服务器104发送各种请求，下游服务器104处理请求后，可以返回请求的数据至上游服务器103。

如图1所示，整个请求过程包括请求环节、下游服务器处理环节和数据返回环节。产生的超时如下：

1)请求环节超时，上游服务器103给下游服务器104发送请求时超时，此时下游服务器104没有收到用户的请求；

2)下游服务器处理环节超时，下游服务器104处理业务逻辑，操作DB，redis，或调用其他服务都有可能超时；

3)数据返回环节超时，下游服务器104在处理完之后将结果返回给上游服务器103时超时。

整个请求过程的时间为：请求环节耗时+下游服务器104内部处理时间+返回环节耗时。如果上游服务器103设置的请求超时时间小于整个请求过程的时间，此次请求就会被标记为超时请求。

需要说明的是，上游服务器103和下游服务器104可以是硬件，也可以是软件。当为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。

需要说明的是，本公开的实施例所提供的自适应调整服务超时时间的方法通常由上游服务器103执行，相应地，自适应调整服务超时时间的装置一般设置于上游服务器103中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。在不需要与终端设备通信的情况下，上述系统架构可以不包括终端设备，只包括网络、上游服务器和下游服务器。

示例性方法

图2是本公开一示例性实施例提供的自适应调整服务超时时间的方法的流程示意图。本实施例可应用在电子设备(如图1所示的上游服务器103)上，如图2所示，该方法包括如下步骤：

步骤201，获取当前数据流量。

在本实施例中，电子设备可以获取当前数据流量。其中，当前数据流量可以是上述电子设备实时监控的、最近一个监控周期内(例如一分钟)采集到的数据流量。数据流量用于表征当前经过上述电子设备处理的请求的数量，数据流量可以包括各种方式统计的流量，例如包括但不限于以下至少一种：TPS(transactions per second)、QPS(queries persecond)、RPS(requests per second)等。

步骤202，基于预设的数据流量分布模型，确定当前数据流量对应的流量变化趋势。

在本实施例中，电子设备可以基于预设的数据流量分布模型，确定当前数据流量对应的流量变化趋势。其中，上述数据流量分布模型可以为各种形式。例如，数据流量分布模型可以是预设的分布函数，该分布函数用于表征时间和数据流量的对应关系。通常，可以假设一天的数据流量服从多个正态分布。

如图3所示，横轴表示时间，纵轴表示对应的时间段(例如每30分钟等)的数据流量。

根据统计的数据流量分布情况，可以拟合出分布函数，如下表所示，x表示时间，精确到分钟，y表示对应的数据流量。

再例如，数据流量分布模型还可以是根据历史数据流量而统计生成的对应关系表，该对应关系表可以包括时间和对应的数据流量。

流量变化趋势可以根据上述数据流量分布模型确定。例如，将当前时间所处的统计周期与下一统计周期分别对应的数据流量进行比较，如果数据流量上升且上升的幅度超过第一预设阈值，确定变化趋势为上涨；如果数据流量下降且下降的幅度超过第二预设阈值，确定变化趋势为下降；如果数据流量上升或下降的幅度没有超过上述第一预设阈值和第二预设阈值，确定变化趋势为正常波动。

步骤203，基于当前数据流量，以及预设的流量变化趋势与请求超时时间的对应关系，确定当前时间对应的请求超时时间作为待设置请求超时时间。

在本实施例中，电子设备可以基于当前数据流量，以及预设的流量变化趋势与请求超时时间的对应关系，确定当前时间对应的请求超时时间作为待设置请求超时时间。

具体地，电子设备可以确定当前数据流量所处的流量区间，每个流量区间对应一个请求超时时间的设置策略，根据该策略可以确定流量变化趋势对应的请求超时时间作为待设置请求超时时间。

步骤204，将请求超时时间设置为待设置请求超时时间。

在本实施例中，电子设备可以将请求超时时间设置为待设置请求超时时间。

在一些可选的实现方式中，上述步骤203可以包括如下步骤：

响应于确定当前数据流量大于或等于第一预设流量，且流量变化趋势为上涨，确定待设置请求超时时间为第一时间。

响应于确定当前数据流量大于或等于第一预设流量，且流量变化趋势不是上涨，确定待设置请求超时时间为第二时间，其中，第一时间小于第二时间。

作为示例，第一预设流量可以为1000，第一时间可以为0.2s，第二时间可以为0.5s。当数据流量大于或等于1000时，表示此时数据流量较大，如果预测流量变化趋势为上涨，设置请求超时时间为0.2s，此过程可以称为服务降级策略，即流量较大的情况下，设置较小的请求超时时间，从而舍弃较多的超时请求，避免网络拥堵。如果预测流量变化趋势为下降，设置请求超时时间为0.5s，即在预测未来的流量较小的情况下，设置较大的请求超时时间，使更多的请求可以被正常响应。

本实现方式实现了在当前数据流量较大的情况下，通过判断流量变化趋势，在预测流量继续上涨的情况下，设置较小的请求超时时间，从而避免了流量过大造成的网络拥堵乃至瘫痪。

在一些可选的实现方式中，上述步骤203可以进一步包括如下步骤：

响应于确定当前数据流量小于第一预设流量且大于或等于第二预设流量，且流量变化趋势为正常波动，确定待设置请求超时时间为第三时间，其中，第三时间大于第一时间。需要说明的是，第三时间可以与上述第二时间相同，也可以不同。继续上述示例，第三时间可以为0.5s，第二预设流量可以为450，即当前数据流量大于等于450且小于1000时，确定此时流量变化趋势为正常波动，设置请求超时时间为正常值0.5s。

本实现方式可以在当前数据流量处于正常区间时，设置请求超时时间为正常值，从而保证了请求超时时间不会因太小而导致的请求被大量舍弃，也不会因太大导致的请求响应时间过长造成网络拥堵。

在一些可选的实现方式中，上述步骤203可以进一步包括如下步骤：

响应于确定当前数据流量小于第二预设流量，且流量变化趋势为下降，确定待设置请求超时时间为第四时间。

响应于确定当前数据流量小于第二预设流量，且流量变化趋势不是下降，确定待设置请求超时时间为第五时间。其中，第四时间大于第一时间、第二时间、第三时间和第五时间，第五时间大于第一时间。

继续上述示例，第四时间可以为1s，第五时间可以与上述第二时间和第三时间相同或不同，这里可以设置为相同的0.5s。即当数据流量小于450时，表示此时数据流量较小，如果预测流量变化趋势为下降，设置请求超时时间为1s，即在预测未来的流量继续下降的情况下，设置最大的请求超时时间，使更多的请求可以被正常响应。如果预测流量变化趋势为上涨，表示未来的数据流量趋于正常波动，设置请求超时时间为正常值0.5s。

本实现方式实现了在当前数据流量较小的情况下，设置较大的请求超时时间，使更多的请求可以正常响应，从而可以充分利用空闲的网络资源，保证提供稳定、精确的服务。

在一些可选的实现方式中，在步骤201之后，电子设备还可以执行如下步骤：

首先，确定当前数据流量是否正常。通常，若数据流量发生突变，则确定不正常。作为示例，如果当前数据流量与上一统计周期统计的数据流量之差大于一定的阈值，则确定不正常。

然后，如果不正常，将当前数据流量滤除，并重新获取当前数据流量。即，如果不正常，重新执行步骤201。

本实现方式可以将由于网络波动导致的突变的数据流量滤除，从而更准确地对请求超时时间进行动态调整。

在一些可选的实现方式中，电子设备可以按照如下步骤确定当前数据流量是否正常：

首先，基于数据流量分布模型，确定当前时间对应的正常数据流量。作为示例，电子设备可以根据步骤202中示出的分布函数或对应关系表确定当前时间对应的数据流量作为正常数据流量。

然后，确定当前数据流量与正常数据流量之差的绝对值是否大于或等于预设阈值。

最后，如果大于或等于预设阈值，确定当前数据流量不正常。即，当大于或等于预设阈值时，表示当前数据流量相比于正常数据流量偏大或偏小，此时可能发生了网络抖动，需要将当前数据流量滤除。

本实现方式根据数据流量分布模型，可以确定当前数据流量与正常数据流量相比是否发生了突变，从而可以快速、准确地确定当前数据流量是否正常，以便有效地对突变流量进行滤除。

参见图4，图4是根据本实施例的自适应调整服务超时时间的方法的一个示例性示意图。如图4所示，数据流量为QPS，若当前QPS大于等于1000，预测未来的数据流量是否会上涨，如果会，设置请求超时时间为0.2s，否则设置请求超时时间为0.5s。若当前QPS小于1000且大于等于450，此时认为未来的数据流量为平稳波动，直接设置请求超时时间为0.5s。若当前QPS小于450，预测未来的数据流量是否会下降，如果会，设置请求超时时间为1s，否则设置请求超时时间为0.5s。

本公开的上述实施例提供的方法，通过采用预设的流量分布模型，确定当前数据流量对应的流量变化趋势，根据变化趋势设置请求超时时间，从而实现了自适应地调整请求超时时间，使请求超时时间随着数据流量的变化而动态变化，可以在数据流量较大的情况下通过缩短超时时间保障整体服务的稳定性，在数据流量较小的情况下扩大超时的时间，减少其中部分超时请求，进而降低请求链路拥堵的风险。

示例性装置

图5是本公开一示例性实施例提供的自适应调整服务超时时间的装置的结构示意图。本实施例可应用在电子设备上，如图5所示，自适应调整服务超时时间的装置包括：获取模块501，用于获取当前数据流量；第一确定模块502，用于基于预设的数据流量分布模型，确定当前数据流量对应的流量变化趋势；第二确定模块503，用于基于当前数据流量，以及预设的流量变化趋势与请求超时时间的对应关系，确定当前时间对应的请求超时时间作为待设置请求超时时间；设置模块504，用于将请求超时时间设置为待设置请求超时时间。

在本实施例中，获取模块501可以获取当前数据流量。其中，当前数据流量可以是上述装置实时监控的、最近一个监控周期内(例如一分钟)采集到的数据流量。数据流量用于表征当前经过上述装置处理的请求的数量，数据流量可以包括各种方式统计的流量，例如包括但不限于以下至少一种：TPS(transactions per second)、QPS(queries persecond)、RPS(requests per second)等。

在本实施例中，第一确定模块502可以基于预设的数据流量分布模型，确定当前数据流量对应的流量变化趋势。其中，上述数据流量分布模型可以为各种形式。例如，数据流量分布模型可以是预设的分布函数，该分布函数用于表征时间和数据流量的对应关系。通常，可以假设一天的数据流量服从多个正态分布。

如图3所示，横轴表示时间，纵轴表示对应的时间段(例如每30分钟等)的数据流量。

根据统计的数据流量分布情况，可以拟合出分布函数，如下表所示，x表示时间，精确到分钟，y表示对应的数据流量。

再例如，数据流量分布模型还可以是根据历史数据流量而统计生成的对应关系表，该对应关系表可以包括时间和对应的数据流量。

流量变化趋势可以根据上述数据流量分布模型确定。例如，将当前时间所处的统计周期与下一统计周期分别对应的数据流量进行比较，如果数据流量上升且上升的幅度超过第一预设阈值，确定变化趋势为上涨；如果数据流量下降且下降的幅度超过第二预设阈值，确定变化趋势为下降；如果数据流量上升或下降的幅度没有超过上述第一预设阈值和第二预设阈值，确定变化趋势为正常波动。

在本实施例中，第二确定模块503可以基于当前数据流量，以及预设的流量变化趋势与请求超时时间的对应关系，确定当前时间对应的请求超时时间作为待设置请求超时时间。

具体地，第二确定模块503可以确定当前数据流量所处的流量区间，每个流量区间对应一个请求超时时间的设置策略，根据该策略可以确定流量变化趋势对应的请求超时时间作为待设置请求超时时间。

在本实施例中，设置模块504可以将请求超时时间设置为待设置请求超时时间。

参照图6，图6是本公开另一示例性实施例提供的自适应调整服务超时时间的装置的结构示意图。

在一些可选的实现方式中，第二确定模块503可以包括：第一确定单元5031，用于响应于确定当前数据流量大于或等于第一预设流量，且流量变化趋势为上涨，确定待设置请求超时时间为第一时间；第二确定单元5032，用于响应于确定当前数据流量大于或等于第一预设流量，且流量变化趋势不是上涨，确定待设置请求超时时间为第二时间，其中，第一时间小于第二时间。

在一些可选的实现方式中，第二确定模块503可以包括：第三确定单元5033，用于响应于确定当前数据流量小于第一预设流量且大于或等于第二预设流量，且流量变化趋势为正常波动，确定待设置请求超时时间为第三时间，其中，第三时间大于第一时间。

在一些可选的实现方式中，第二确定模块503可以包括：第四确定单元5034，用于响应于确定当前数据流量小于第二预设流量，且流量变化趋势为下降，确定待设置请求超时时间为第四时间；第五确定单元5035，用于响应于确定当前数据流量小于第二预设流量，且流量变化趋势不是下降，确定待设置请求超时时间为第五时间，其中，第四时间大于第一时间、第二时间、第三时间和第五时间，第五时间大于第一时间。

在一些可选的实现方式中，该装置还可以包括：第三确定模块505，用于确定当前数据流量是否正常；过滤模块506，用于如果不正常，将当前数据流量滤除，并重新获取当前数据流量。

在一些可选的实现方式中，第三确定模块505可以包括：第六确定单元5051，用于基于数据流量分布模型，确定当前时间对应的正常数据流量；第七确定单元5052，用于确定当前数据流量与正常数据流量之差的绝对值是否大于或等于预设阈值；第八确定单元5053，用于如果大于或等于预设阈值，确定当前数据流量不正常。

本公开上述实施例提供的自适应调整服务超时时间的装置，通过采用预设的流量分布模型，确定当前数据流量对应的流量变化趋势，根据变化趋势设置请求超时时间，从而实现了自适应地调整请求超时时间，使请求超时时间随着数据流量的变化而动态变化，可以在数据流量较大的情况下通过缩短超时时间保障整体服务的稳定性，在数据流量较小的情况下扩大超时的时间，减少其中部分超时请求，进而降低请求链路拥堵的风险。

示例性电子设备

下面，参考图7来描述根据本公开实施例的电子设备。该电子设备可以是如图1所示的上游服务器103。

图7图示了根据本公开实施例的电子设备的框图。

如图7所示，电子设备700包括一个或多个处理器701和存储器702。

处理器701可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备700中的其他组件以执行期望的功能。

存储器702可以包括一个或多个计算机程序产品，计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器701可以运行程序指令，以实现上文的本公开的各个实施例的自适应调整服务超时时间的方法以及/或者其他期望的功能。在计算机可读存储介质中还可以存储诸如数据流量、请求超时时间等各种内容。

在一个示例中，电子设备700还可以包括：输入装置703和输出装置704，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。

例如，该输入装置703可以是鼠标、键盘等设备，用于输入请求超时时间、各种命令等内容。

该输出装置704可以向外部输出各种信息，包括请求超时提醒等。该输出设备704可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。

当然，为了简化，图7中仅示出了该电子设备700中与本公开有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备700还可以包括任何其他适当的组件。

示例性计算机程序产品和计算机可读存储介质

除了上述方法和设备以外，本公开的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的自适应调整服务超时时间的方法中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本公开的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的自适应调整服务超时时间的方法中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本公开的基本原理，但是，需要指出的是，在本公开中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本公开为必须采用上述具体的细节来实现。

本说明书中各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言，由于其与方法实施例基本对应，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

可能以许多方式来实现本公开的方法和装置。例如，可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明，本公开的方法的步骤不限于以上具体描述的顺序，除非以其它方式特别说明。此外，在一些实施例中，还可将本公开实施为记录在记录介质中的程序，这些程序包括用于实现根据本公开的方法的机器可读指令。因而，本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。

还需要指出的是，在本公开的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此，本公开不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (10)

1.一种自适应调整服务超时时间的方法，包括：

获取当前数据流量；

基于预设的数据流量分布模型，确定所述当前数据流量对应的流量变化趋势；

基于所述当前数据流量，以及预设的流量变化趋势与请求超时时间的对应关系，确定当前时间对应的请求超时时间作为待设置请求超时时间；

将请求超时时间设置为所述待设置请求超时时间。

2.根据权利要求1所述的方法，其中，所述基于所述当前数据流量，以及预设的流量变化趋势与请求超时时间的对应关系，确定当前时间对应的请求超时时间作为待设置请求超时时间，包括：

响应于确定所述当前数据流量大于或等于第一预设流量，且所述流量变化趋势为上涨，确定所述待设置请求超时时间为第一时间；

响应于确定所述当前数据流量大于或等于所述第一预设流量，且所述流量变化趋势不是上涨，确定所述待设置请求超时时间为第二时间，其中，所述第一时间小于所述第二时间。

3.根据权利要求2所述的方法，其中，所述基于所述当前数据流量，以及预设的流量变化趋势与请求超时时间的对应关系，确定当前时间对应的请求超时时间作为待设置请求超时时间，包括：

响应于确定所述当前数据流量小于所述第一预设流量且大于或等于第二预设流量，且所述流量变化趋势为正常波动，确定所述待设置请求超时时间为第三时间，其中，所述第三时间大于所述第一时间。

4.根据权利要求3所述的方法，其中，所述基于所述当前数据流量，以及预设的流量变化趋势与请求超时时间的对应关系，确定当前时间对应的请求超时时间作为待设置请求超时时间，包括：

响应于确定所述当前数据流量小于所述第二预设流量，且所述流量变化趋势为下降，确定所述待设置请求超时时间为第四时间；

响应于确定所述当前数据流量小于所述第二预设流量，且所述流量变化趋势不是下降，确定所述待设置请求超时时间为第五时间，其中，所述第四时间大于所述第一时间、所述第二时间、所述第三时间和所述第五时间，所述第五时间大于所述第一时间。

5.根据权利要求1-4之一所述的方法，其中，在所述获取当前数据流量之后，所述方法还包括：

确定所述当前数据流量是否正常；

如果不正常，将所述当前数据流量滤除，并重新获取当前数据流量。

6.根据权利要求5所述的方法，其中，所述确定所述当前数据流量是否正常，包括：

基于所述数据流量分布模型，确定当前时间对应的正常数据流量；

确定所述当前数据流量与所述正常数据流量之差的绝对值是否大于或等于预设阈值；

如果大于或等于所述预设阈值，确定所述当前数据流量不正常。

7.一种自适应调整服务超时时间的装置，包括：

获取模块，用于获取当前数据流量；

第一确定模块，用于基于预设的数据流量分布模型，确定所述当前数据流量对应的流量变化趋势；

第二确定模块，用于基于所述当前数据流量，以及预设的流量变化趋势与请求超时时间的对应关系，确定当前时间对应的请求超时时间作为待设置请求超时时间；

设置模块，用于将请求超时时间设置为所述待设置请求超时时间。

8.根据权利要求7所述的装置，其中，所述第二确定模块包括：

第一确定单元，用于响应于确定所述当前数据流量大于或等于第一预设流量，且所述流量变化趋势为上涨，确定所述待设置请求超时时间为第一时间；

第二确定单元，用于响应于确定所述当前数据流量大于或等于所述第一预设流量，且所述流量变化趋势不是上涨，确定所述待设置请求超时时间为第二时间，其中，所述第一时间小于所述第二时间。

9.一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述权利要求1-6任一所述的方法。

10.一种电子设备，所述电子设备包括：

处理器；

用于存储所述处理器可执行指令的存储器；

所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述权利要求1-6任一所述的方法。

Images