CN113645153A - 一种流量控制方法、装置、设备及介质 - Google Patents

Abstract

本申请提供了一种流量控制方法，该方法接收系统发送至服务商的数据流被服务商接收的接收参数，根据接收参数确定系统的并发度，按照并发度在线程池中调整执行线程个数，以控制对服务商发送的数据流流量，从而能够根据服务商对于数据流的接收情况，动态调整系统对服务商发送数据流流量，提高了系统交易的稳定性。

Description

一种流量控制方法、装置、设备及介质

技术领域

本申请涉及计算机技术领域，尤其涉及一种流量控制方法、装置、设备及计算机可读存储介质。

背景技术

服务商是指能够提供网络服务的商家平台，例如某视频网站、某线上租车公司等。在一些情况下，系统需要与服务商进行大规模的数据交互，向服务商发送具有较大流量的数据流。

但是，不同服务商之间的技术支持能力参差不齐，由于接口的限制，不同服务商所能接受的流量也不相同。当系统向服务商发送的数据流流量较大的交互时，可能超过服务商所能接收的流量范围，导致服务商不能完全接收到系统所发送的数据流，容易导致系统大面积数据流发送失败，甚至影响系统安全。

通常情况下，系统预先与服务商进行压力测试，根据压力测试的参数设置该系统的发送数据流的流量，但是这种方法所设置的参数是固定的，而服务商所能接收的流量范围并不固定，当服务商环境不稳定时，即使根据压力测试所设置的参数依然可能超出服务商所能接收的流量范围。而要对于系统发送数据流的流量进行调整时，需要重启系统，影响业务效率。

发明内容

本申请提供了一种流量控制方法，该方法能够根据服务商接收系统所发送数据流的接收参数，动态调整系统对服务商发送数据流的流量。

第一方面，本申请提供了一种流量控制方法，其特征在于，该方法包括：

接收系统发送至服务商的数据流被服务商接收的接收参数；

根据接收参数，确定系统的并发度，并发度表示系统同时支持多少个线程运行；

按照并发度在线程池中调整执行线程个数，以控制对服务商发送的数据流流量。

在一些可能的实现方式中，接收参数包括成功率和系统吞吐量中的至少一种。

在一些可能的实现方式中，根据接收参数，确定系统的并发度，包括：

当接收参数低于预设阈值时，逐级调低系统的并发度。

在一些可能的实现方式中，根据接收参数，确定系统的并发度，包括：

当接收参数到达预设阈值时，逐级调高系统的并发度。

在一些可能的实现方式中，系统包括多个机器，按照并发度在线程池中调整执行线程个数，包括：

按照并发度在线程池中调整多个机器分别的执行线程个数。

在一些可能的实现方式中，按照并发度在线程池中调整多个机器分别的执行线程个数，包括：

按照并发度，在程池中平均调整多个机器分别的执行线程个数。

在一些可能的实现方式中，该方法还包括：

缓存并发度。

第二方面，本申请提供了一种流量控制装置，该装置包括：

通信模块，用于接收系统发送至服务商的数据流被服务商接收的接收参数；

并发度确定模块，用于根据接收参数，确定系统的并发度，并发度表示系统同时支持多少个线程运行；

调整模块，用于按照并发度在线程池中调整执行线程个数，以控制对服务商发送的数据流流量。

在一些可能的实现方式中，接收参数包括成功率和系统吞吐量中的至少一种。

在一些可能的实现方式中，并发度确定模块具体用于：

当接收参数低于预设阈值时，逐级调低系统的并发度。

在一些可能的实现方式中，并发度确定模块具体用于：

当接收参数到达预设阈值时，逐级调高系统的并发度。

在一些可能的实现方式中，该系统包括多个机器，调整模块具体用于：

按照并发度在线程池中调整多个机器分别的执行线程个数。

在一些可能的实现方式中，调整模块具体用于：

按照并发度，在程池中平均调整多个机器分别的执行线程个数。

在一些可能的实现方式中，该装置还包括：

缓存模块，用于缓存并发度。

第三方面，本申请提供一种设备，所述设备包括处理器和存储器。所述处理器、所述存储器进行相互的通信。所述处理器用于执行所述存储器中存储的指令，以使得设备执行如第一方面或第一方面的任一种实现方式中的流量控制的方法。

第四方面，本申请提供一种计算机可读存储介质，所述计算机可读存储介质中存储有指令，所述指令指示设备执行上述第一方面或第一方面的任一种实现方式所述的流量控制的方法。

本申请在上述各方面提供的实现方式的基础上，还可以进行进一步组合以提供更多实现方式。

从以上技术方案可以看出，本申请实施例具有以下优点：

本申请实施例提供了一种流量控制方法，该方法接收系统发送至服务商的数据流被服务商接收的接收参数，根据接收参数确定系统的并发度，按照并发度在线程池中调整执行线程个数，以控制对服务商发送的数据流流量，从而能够根据服务商对于数据流的接收情况，动态调整系统对服务商发送数据流流量，提高了系统交易的稳定性。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本申请实施例提供的一种流量控制方法的流程示意图；

图2为本申请实施例提供的一种流量控制装置的架构示意图

图3为本申请实施例提供的另一种流量控制方法的流程示意图。

具体实施方式

下面将结合本申请中的附图，对本申请提供的实施例中的方案进行描述。

本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的术语在适当情况下可以互换，这仅仅是描述本申请的实施例中对相同属性的对象在描述时所采用的区分方式。

为了便于理解本申请的技术方案，下面对本申请涉及的一些技术术语进行介绍。

系统与服务商进行交易之前，通常需要对服务商进行压力测试，将压力测试后的参数代入到生产环境中。但是可能存在并发参数固定，无法根据实际情况进行动态调整，例如交易活动突然活跃、服务商环境不稳定等情况，即使经过压力测试也有可能超出服务商所能接收的流量范围。并且并发参数通常在配置文件中，修改并发参数需要重启服务。在高并发场景下，重启服务可能影响系统的稳定性与安全性。

有鉴于此，本申请提出了一种流量控制的方法，该方法可以由流量控制装置完成，流量控制装置是指具有数据处理能力的设备，例如可以是智能手机等终端设备，或者是服务器。

具体地，流量控制装置接收系统发送至服务商的数据流被服务商接收的接收参数，根据该接收参数确定系统的并发度，按照并发度在线程池中调整执行线程个数，从而控制对服务商发送的数据流流量，如此，根据系统发送至服务商的数据流被服务商接收的接收情况，动态调整系统的并发度，实现对系统向服务商发送数据流流量的控制，从而提供一种动态的流量控制方法。

接下来，将结合附图对本申请实施例提供的流量控制方法进行介绍。

参见图1所示的流量控制方法的流程图，该方法包括如下步骤：

S102：流量控制装置接收系统发送至服务商的数据流被该服务商接收的接收参数。

接收参数是指能够反应服务商对于系统发送的数据流接收情况的参数。由于调用服务商涉及的链路和转换过程较多，以及受限于服务商的技术能力，因此，接收参数可以包括成功率、系统吞吐量以及平均耗时等。

可选地，可以将成功率作为参考指标，并根据成功率设置对应的系统并发度。

在一些可能的实现方式中，为了确定交易成功率的降低是由于正常的业务报错导致还是因为系统流量异常导致，可以对服务器的交易错误码进行分类，将业务正常的报错归类至交易成功，而关于系统流量异常导致的错误，例如返回超时、无返回、返回报错等可以归类至交易失败，用于进一步明确交易成功率是由系统流量异常所导致的。其中，该参数可以通过数据库进行配置，实时生效。

S104：流量控制装置根据接收参数，确定系统的并发度。

其中，可以预先根据接收参数，设置对应的系统的并发度。系统的并发度标识系统同时支持多少个线程运行。以接收参数为成功率为例，可以设置成功率低于85％为第一阈值，当成功率低于85％时，对应的系统的并发度为80％，当成功率低于75％时，对应的系统并发度为50％，当成功率低于70％时，对应的系统并发度为30％，当成功率低于60％时，对应的系统并发度为10％。根据成功率指标，将系统的并发度分为5档。

进一步地，当调低系统的并发度后固定时间内，成功率回升至100％，则将当前系统的并发度向上调高一档。如果固定时间内，成功率没有回升至100％，则继续调低系统并发度。

例如，系统正常运行时，成功率为100％，10个线程并发调用。在遇到交易活动高峰时，流量控制装置接收到系统发送至服务商的数据流被服务商接收的成功率低于85％，流量控制装置调低系统的并发度为80％，即对应8个线程。调整后，如果2分钟内成功率回升至100％，则可以将系统的并发度调整至10个线程。如果调整后，成功率没有回升至100％，甚至还在继续下降，例如下降至低于75％，则可以继续调低系统的并发度，调低至5个线程。当成功率回升至100％后，则逐级调高系统的并发度。

S106：流量控制装置按照并发度在线程池中调整执行线程个数，以控制对服务商发送的数据流流量。

线程是操作系统能够进行运算调度的最小单位。在一些情况中，系统中的各项任务可以多线程的执行。线程池用于控制线程的执行或者休眠。例如，线程池中包括4个线程，根据流量控制装置对于线程的控制，只允许2个线程执行，则另外2个线程处于休眠状态。

在一些可能的实现方式中，考虑系统负载均衡的情况，在线程池中调整执行线程的个数可以采用平均分配的方法。例如，系统正常运行时，有两台机器进行工作，每台机器起3个服务，每个服务起2个线程，即每台机器均有6个线程进行工作，总共12个线程。按照系统的并发度调整执行线程的个数为4，则每台机器2个线程进行工作，因此每台机器的三个服务中两个服务均只起一个线程，另一个服务不起线程。

在多机器多服务部署的情况下，可以设计服务线程目录表，以调整多机器多服务的线程个数。具体地，服务线程目录表的基础栏位可以记录机器网络互连协议(internetprotocol，IP)地址，服务身份标识号(identity document，ID)，线程数上限，当前机器是否允许执行等参数。同时，考虑到在大部分时间里，系统的并发度不变，为了避免多机器多线程高频查询数据库，可以增加缓存模块，将该服务线程表加载至缓存中，当需要进行流量控制时，流量控制装置刷新缓存，读取系统的并发度。

综上所述，本实施例提供了一种流量控制方法，该方法根据服务商接收系统所发送数据流的接收参数，确定系统的并发度，并根据并发度调整系统中线程的执行个数，从而提供了一种控制对服务商发送的数据流流量的方法。由于系统的并发度是根据服务商接收系统所发送数据流的接收参数确定的，因此该流量控制方法能够使系统对服务商发送数据流的流量与服务商对于数据流接收的能力相匹配，保证了数据流传输的可靠性。当服务商环境不稳定时，系统能够根据服务商接收能力的变化，动态调整发送数据流的流量，提高了数据流发送的稳定性。

进一步地，当服务商接收系统所发送数据流的接收参数小于预设阈值时，表明当前服务商的接收能力低于系统发送数据流流量，因此调整系统的并发度，从而调低发送数据流的流量，使服务商能充分接收系统所发送的数据流。当服务商接收系统所发送数据流的接收参数等于预设阈值时，表明当前服务商的接收能力逐渐恢复，因此可以逐级调大系统的并发度，提供数据流传输的效率。

为了使得本申请的技术方案更加清楚、易于理解，下面结合附图对本申请实施例提供的流量控制方法的系统架构进行介绍。

参见图2所示的流量控制装置200的架构示意图，流量控制装置200包括通信模块202、并发度确定模块204、调整模块206。

通信模块202，用于接收系统发送至服务商的数据流被所述服务商接收的接收参数。具体地，通信模块202组装请求服务商报文和返回报文，与服务商进行交互。进一步地，通信模块202还用于记录服务商的起止时间、返回码、交易状态等，从而统计交易成功率、耗时、系统吞吐量等参数。

在一些可能的实现方式中，该装置还可以包括监控模块。监控模块用于定时从通信模块202中采集成功率、系统吞吐量、平均耗时等参数。其中，成功率与平均耗时均是基于监控模块采集的时间间隔确定的。当监控模块检测到接收参数小于预设阈值时，触发并发度确定模块204对于系统并发度的调整。

并发度确定模块204，用于根据所述接收参数，确定所述系统的并发度，所述并发度表示所述系统同时支持多少个线程运行。

调整模块206，用于按照所述并发度在线程池中调整执行线程个数，以控制对所述服务商发送的数据流流量。

在一些可能的实现方式中，该装置还包括缓存模块，缓存模块用于缓存最新的并发度，以便各个服务根据参数变化及时调整并发度。

在一些可能的实现方式中，接收参数包括成功率和系统吞吐量中的至少一种。

在一些可能的实现方式中，并发度确定模块204具体用于：

当接收参数低于预设阈值时，逐级调低系统的并发度。

在一些可能的实现方式中，并发度确定模块204具体用于：

当接收参数到达预设阈值时，逐级调高系统的并发度。

在一些可能的实现方式中，该系统包括多个机器，调整模块206具体用于：

按照并发度在线程池中调整多个机器分别的执行线程个数。

在一些可能的实现方式中，调整模块206具体用于：

按照并发度，在程池中平均调整多个机器分别的执行线程个数。

以上对执行流量控制的流量控制装置200进行介绍，接下来，对本申请实施例提供的流量控制方法进行详细说明。

参见图3所示的流量控制的方法的流程图，该方法包括：

S302：系统向服务商发送数据流。

S304：通信模块202获取服务商对系统发送数据流的接收参数。

具体地，通信模块202与服务商进行通信，根据通信获取的起止时间、返回码、交易状态等信息，统计获取交易成功率、系统吞吐量以及交易耗时等指标。

S306：监控模块判断接收参数是否到达预设阈值，到达预设阈值时，触发系统并发度修改。

以接收参数为成功率为例，当并发参数为100％时，成功率低于85％时，触发系统并发度修改，具体触发系统并发度调小修改。当并发参数不为100％时，成功率到达100％时，触发系统并发度修改，具体触发系统并发度调大修改。当并发参数不为100％时，成功率继续下降至低于预设阈值，例如85％、75％、70％、60％时，触发系统并发度修改。

其中，系统的并发参数可以从缓存模块中获取。

S308：并发度确定模块204根据接收参数，确定系统的并发度。

S310：缓存模块将系统的并发度更新至缓存。

S312：调整模块206按照并发度在线程池中调整执行线程个数。

基于上述内容描述，本申请实施例提供了一种流量控制方法，该方法根据服务商的接收能力，确定系统向服务商发送数据流的流量，实现对于数据流的动态控制。具体地，根据服务商对系统发送数据流的接收参数，确定出服务商对于数据流的接收能力，根据服务商的接收能力调整系统的并发度，并根据并发度调整执行线程的个数，使系统向该服务商发送的数据流流量与该服务商的接收能力相匹配，从而保证系统数据流发送的稳定性，保证交易的成功，维护系统的安全。

根据本申请实施例流量控制的装置200可对应于执行本申请实施例中描述的方法，并且流量控制装置200的各个模块的上述和其它操作和/或功能分别为了实现图1中的各个方法的相应流程，为了简洁，在此不再赘述。

本申请提供一种设备，用于实现流量控制方法。所述设备包括处理器和存储器。所述处理器、所述存储器进行相互的通信。所述处理器用于执行所述存储器中存储的指令，以使得设备执行流量控制方法。

本申请提供一种计算机可读存储介质，所述计算机可读存储介质中存储有指令，当其在设备上运行时，使得设备执行上述流量控制方法。

本申请提供了一种包含指令的计算机程序产品，当其在设备上运行时，使得设备执行上述流量控制方法。

另外需说明的是，以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。另外，本申请提供的装置实施例附图中，模块之间的连接关系表示它们之间具有通信连接，具体可以实现为一条或多条通信总线或信号线。

通过以上的实施方式的描述，所属领域的技术人员可以清楚地了解到本申请可借助软件加必需的通用硬件的方式来实现，当然也可以通过专用硬件包括专用集成电路、专用CPU、专用存储器、专用元器件等来实现。一般情况下，凡由计算机程序完成的功能都可以很容易地用相应的硬件来实现，而且，用来实现同一功能的具体硬件结构也可以是多种多样的，例如模拟电路、数字电路或专用电路等。但是，对本申请而言更多情况下软件程序实现是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在可读取的存储介质中，如计算机的软盘、U盘、移动硬盘、ROM、RAM、磁碟或者光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，训练设备，或者网络设备等)执行本申请各个实施例所述的方法。

在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。

所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、训练设备或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、训练设备或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存储的任何可用介质或者是包含一个或多个可用介质集成的训练设备、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质(例如固态硬盘(Solid State Disk，SSD))等。

Claims (10)

1.一种流量控制方法，其特征在于，所述方法包括：

接收系统发送至服务商的数据流被所述服务商接收的接收参数；

根据所述接收参数，确定所述系统的并发度，所述并发度表示所述系统同时支持多少个线程运行；

按照所述并发度在线程池中调整执行线程个数，以控制对所述服务商发送的数据流流量。

2.根据权利要求1所述的方法，其特征在于，所述接收参数包括成功率、系统吞吐量中的至少一种。

3.根据权利要求1所述的方法，其特征在于，所述根据所述接收参数，确定所述系统的并发度，包括：

当所述接收参数低于预设阈值时，逐级调低所述系统的并发度。

4.根据权利要求1所述的方法，其特征在于，所述根据所述接收参数，确定所述系统的并发度，包括：

当所述接收参数到达预设阈值时，逐级调高所述系统的并发度。

5.根据权利要求1所述的方法，其特征在于，所述系统包括多个机器，所述按照所述并发度在线程池中调整执行线程个数，包括：

按照所述并发度在线程池中调整所述多个机器分别的执行线程个数。

6.根据权利要求5所述的方法，其特征在于，所述按照所述并发度在线程池中调整所述多个机器分别的执行线程个数，包括：

按照所述并发度，在所述程池中平均调整所述多个机器分别的执行线程个数。

7.根据权利要求1所述的方法，其特征在于，所述方法还包括：

缓存所述并发度。

8.一种流量控制装置，其特征在于，所述装置包括：

通信模块，用于接收系统发送至服务商的数据流被所述服务商接收的接收参数；

并发度确定模块，用于根据所述接收参数，确定所述系统的并发度，所述并发度表示所述系统同时支持多少个线程运行；

调整模块，用于按照所述并发度在线程池中调整执行线程个数，以控制对所述服务商发送的数据流流量。

9.一种设备，其特征在于，所述设备包括处理器和存储器；

所述处理器用于执行所述存储器中存储的指令，以使得所述设备执行如权利要求1至7中任一项所述的方法。

10.一种计算机可读存储介质，其特征在于，包括指令，所述指令指示设备执行如权利要求1至7中任一项所述的方法。

Images