CN108011840A

CN108011840A - 交易请求的控制方法、服务器和系统

Info

Publication number: CN108011840A
Application number: CN201711284101.6A
Authority: CN
Inventors: 苗海柱
Original assignee: Bank of China Ltd
Current assignee: Bank of China Ltd
Priority date: 2017-12-07
Filing date: 2017-12-07
Publication date: 2018-05-08

Abstract

本申请公开了一种交易请求的控制方法、服务器和系统，涉及通信领域，用于实现动态控制并发请求。该方法包括：如果接收到交易请求，则从包含一定数量令牌的令牌池中申请令牌，并对请求的交易进行处理；记录处理过程中与所述交易相关的采样数据，其中，所述采样数据与所述交易的令牌对应；如果处理完毕，则将对应令牌释放回所述令牌池；根据一定时间内所有令牌对应的采样数据调节所述令牌池中令牌的数量。本申请实施例应用于并发控制。

Description

交易请求的控制方法、服务器和系统

技术领域

本发明涉及通信领域，尤其涉及一种交易请求的控制方法、服务器和系统。

背景技术

对于提供交易请求的服务方(例如银行支付系统)，如果不对并发请求进行控制，当特殊场景出现交易突增(如双十一淘宝促销、商户整点抢购)时，会严重影响交易处理的成功率和交易耗时，甚至有可能造成系统宕机。传统并发控制是通过中间件来对并发请求进行控制，但一般都是根据经验设定值，当功能进行优化或资源进行扩展等，根据经验设定的值未必就合适。

发明内容

本申请的实施例提供一种交易请求的控制方法、服务器和系统，用于实现动态控制并发请求。

为达到上述目的，本申请的实施例采用如下技术方案：

第一方面，提供了一种交易请求的控制方法，包括：

如果接收到交易请求，则从包含一定数量令牌的令牌池中申请令牌，并对请求的交易进行处理；

记录处理过程中与所述交易相关的采样数据，其中，所述采样数据与所述交易的令牌对应；

如果处理完毕，则将对应令牌释放回所述令牌池；

根据一定时间内所有令牌对应的采样数据调节所述令牌池中令牌的数量。

第二方面，提供了一种服务器，包括：

接入单元，用于如果接收到交易请求，则从包含一定数量令牌的令牌池中申请令牌，并对请求的交易进行处理；

记录单元，用于记录处理过程中与所述交易相关的采样数据，其中，所述采样数据与所述交易的令牌对应；

所述接入单元，还用于如果处理完毕，则将对应令牌释放回所述令牌池；

调节单元，用于根据一定时间内所有令牌对应的采样数据调节所述令牌池中令牌的数量。

第三方面，提供了一种通信系统，该系统包括客户机和如第二方面所述的服务器。

第四方面，提供了一种存储一个或多个程序的计算机可读存储介质，所述一个或多个程序包括指令，所述指令当被计算机执行时使所述计算机执行第一方面所述的方法。

本申请的实施例提供的交易请求的控制方法、服务器和系统，通过令牌与交易请求相对应，而根据一定时间内所有令牌对应的采样数据调节令牌池中令牌的数量，间接控制交易请求的接入，实现了实现动态控制并发请求。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。

图1为本申请的实施例提供的通信系统的示意图；

图2为本申请的实施例提供的交易请求的控制方法的流程示意图一；

图3为本申请的实施例提供的交易请求的控制方法的流程示意图二；

图4为本申请的实施例提供的交易请求的控制方法的流程示意图三；

图5为本申请的实施例提供的交易请求的控制方法的流程示意图四；

图6为本申请的实施例提供的服务器的结构示意图。

具体实施方式

下面结合附图，对本申请的实施例进行描述。

对于高并发处理的系统，真实的并发量是由外部的使用用户数量来决定的，这就导致真实接入系统处理的请求数不可控，由于特定的场景会出现交易量的驼峰现象。例如某商城的某一个商品在特定时间段进行打折促销，那么在这个时间段就会出现交易突增，过了这一个时间段交易量又会下降。如果没有一个有效的流量控制机制，出现激增的并发量，有可能就超出了系统的处理能力，甚至有可能造成系统宕机。

比较常见流控方式是通过中间件或业务应用配置固定的最大并发量(或处理线程池大小)，但如果修改参数一般都需要重启服务生效，对于24小时运行的系统而言会减少客户体验，增加运维成本。另一种做法通过修改数据库维护参数，应用定时刷新数据库更新参数数据，无需重启服务。但这样做会对数据库造成一定的访问压力，并且最重要的是修改的参数值是由人为的经验决定，也许并不符合系统当前真实的处理能力。例如一个服务是由多个系统A、B、C相互合作完成，C在特定时间点出现处理性能问题，根据人为的经验认为A处理性能为100，但由于是C导致整体处理性能只能到50，如果再根据经验设置接入系统的A的并发为100就不再合适。

本申请对于流控的参数控制是使用动态方式自行调整，无需人为参与，并且实时生效。以上述示例说明，C处理的性能会直接体现在A的处理数据上，本申请所述的采样数据是所有参与配合完成交易的系统整体的数据，因此可以根据采用数据的分析结果，动态将A的并发设置为50。而且当C的处理性能恢复后，又可以自动将A的并发量恢复到原最优值100。

本申请实施例所述的令牌指用户交易请求可进行处理的通行证，功能类似于数据库连接池中的连接，只有获取到令牌才可进行交易处理。令牌池用于存储一定数量的令牌，功能类似于数据库连接池的作用。令牌控制器负责对令牌池进行管理，实现用户申请令牌、释放令牌、对令牌池大小进行异步伸缩控制等功能，如果得到申请令牌的请求则从令牌池中分配令牌，如果得到释放令牌的请求则将令牌回收至令牌池。

参照图1中所示，为本申请实施例的通信系统示意图，该系统包括客户端11和服务器12。客户端11向服务器12发送交易请求，由服务器12先进行接入控制，并向令牌池控制器申请令牌，如果申请成功则进行正常交易处理，当交易处理完成后服务器12向客户端发送交易响应并释放令牌。另外，令牌池控制器进行异步伸缩令牌池的处理，以动态改变令牌池中令牌的数量。

实施例1、

本申请实施例提供了一种交易请求的控制方法，参照图2中所示，该方法包括：

S101、如果接收到交易请求，则从包含一定数量令牌的令牌池中申请令牌，并对请求的交易进行处理。

可以在刚刚接入请求时进行流量控制，所以流量控制功能应该嵌入到接入层。例如对于webApp的超文本传输协议(Hyper Text Transfer Protocol，HTTP)接入请求，可以在过滤器(filter)中实现流量控制；对于javaApp的传输控制协议(Transmission ControlProtocol，TCP)接入请求，可以在接入(accept)接入时实现流量控制。在接入控制实现以下功能：申请令牌；如果申请令牌成功则执行正常交易处理，如果申请令牌失败则返回处理失败；如果正常交易处理完成则返回交易响应，并释放令牌。因此令牌是可以被重复使用的。

可以对申请令牌的过程加同步锁，保证单个令牌不会在多线程场景下被重复申请。

申请令牌时，可以按照顺序申请令牌，以充分利用令牌池所有令牌，可以采用循环队列方式分配令牌。另外在后续对采样数据进行计算时，可以使计算结果更准确。

S102、记录处理过程中与该交易相关的采样数据。

其中，采样数据与该交易的令牌对应，即每个交易请求申请的令牌用于记录在处理该交易过程中的采样数据。

为保证流量控制机制对于交易的无侵入性，采样数据一般不应包括业务数据信息。即对接入的交易请求不做解析处理，原业务处理过程无需做任何变动。

对于交易请求的控制方法，有些应用场景是根据每秒交易量(Transactions PerSecond，TPS)大小来控制流量；有些应用场景是根据交易平均耗时来控制流量；有些应用场景是根据系统的中央处理器(Central Processing Unit，CPU)、内存使用情况来控制流量；有些应用场景是根据带宽输入输出(Input Output，IO)使用情况来决定流量控制；甚至更为复杂的应用场景结合上述场景综合控制流量。因此可以根据不同场景记录不同采样数据。

本申请实施例以交易平均耗时为例对控制流量的过程进行说明，可以理解，根据不同应用场景采用不同算法同样适用于本申请。例如，对于交易平均耗时来说，采样数据包括该交易的等待时间、开始时间、结束时间、交易耗时等。根据不同的算法实现也可以记录更多的信息，例如还可以采集一段时间内拒绝的交易请求数量、系统资源占用等信息。

具体的，对于交易平均耗时算法，采样数据可以在以下时刻获取：令牌获取时间，可以在获取到令牌时记录；令牌释放时间，可以在令牌释放时记录；令牌开始等待时间，可以在交易请求接入之后获取到令牌之前记录；交易执行耗时＝令牌释放时间-令牌获取时间，该参数最终由交易系统处理能力决定；交易等待耗时＝令牌获取时间-令牌开始等待时间，该参数可以反应流量控制的执行性能，是流量控制对交易的影响时间；交易执行总耗时(从应用系统外部整体看)＝交易执行耗时+交易等待耗时。

S103、如果处理完毕，则将对应令牌释放回令牌池。

释放令牌的过程就是令牌池回收令牌资源的过程，令牌在回收时，可以记录回收的时间、系统资源情况等数据信息，便于后续算法分析系统当时的运行情况。

S104、根据一定时间内所有令牌对应的采样数据调节所述令牌池中令牌的数量。

可以在初始化时启动异步计时器任务，间隔一段时间来调节令牌池中令牌的数量。

具体的，参照图3中所示，步骤S104可以包括：

S1041、对一定时间内所有令牌对应的采样数据取平均值。

为节省计算量，可以不用对全时段的采样数据进行处理。由于前面记录了交易的开始时间、结束时间等，因此可以据此选取满足一定时间内的采样数据进行处理。

例如对于交易平均耗时算法，可以取一定时间内所有令牌对应的交易执行总耗时，取其平均值。或者为了减小个性样本对统计结果的影响，可以去掉最大值和最小值后取其平均值。需要说明的是，由于令牌池中令牌的数量是可变的，因此取平均值时，作为分母的令牌数是变化的，相应的，作为分子的所有令牌的对应的交易执行总耗时的数量也是变化的。

S1042、如果该平均值大于第一阈值则减少令牌池中令牌的数量。

例如对于交易平均耗时算法，如果平均的交易执行总耗时过高，说明系统处理不过来，则减少可用令牌数量，以减少接入请求时申请令牌的成功率，实现在接入时即对流量进行控制，不会增加后面连接的系统的处理负担。

S1043、如果该平均值小于第二阈值则增加令牌池中令牌的数量。

第二阈值小于第一阈值。增加令牌池中令牌的数量的步长可以大于减少令牌数量的步长，以在升流量时快速响应，并在降流量时减少流控冲击。

对于交易平均耗时算法，如果平均的交易执行总耗时很低，说明系统处理有余，则提高可用令牌数量，以提高接入请求时申请令牌的成功率，可以提高交易请求的接入成功率，实现在接入时即对流量进行控制。

本申请的实施例提供的交易请求的控制方法，通过令牌与交易请求相对应，而根据一定时间内所有令牌对应的采样数据调节令牌池中令牌的数量，间接控制交易请求的接入，实现了实现动态控制并发请求。

可选的，参照图4中所示，在一种可能的实施方式中，在S1042和S1043之前，该方法还可以包括：

S105、如果该平均值大于第三阈值，则在一定时间内拒绝所有交易。

第三阈值大于第一阈值。如果该平均值大于第三阈值，说明系统完全处理不过来，不再接收任何交易请求；当一定时间后平均值减少到第三阈值以下，再正常接收交易处理。

如果在短暂的几秒内出现交易突增，并且影响到交易的正常处理，采步骤S1042的收缩控制就会很慢，对系统的影响时间就会变长。通过增加第三阀值，在达到报警线则拒绝处理所有交易，可以马上对系统进行反应。

但由于拒绝交易后不再产生新的样本数据，会导致统计时间段内的平均值不发生变化，会影响该功能的关闭，因此统计样本的时间段设置不宜太长。

可选的，参照图5中所示，在一种可能的实施方式中，该方法还可以包括：

S106、如果平均值小于第一阈值并大于第二阈值，并且存在一定数量拒绝交易，则增加令牌池中令牌的数量。

此时说明系统处理能力充足，但是由于令牌数量不足导致拒绝交易，因此，通过增加令牌池中令牌的数量来减少拒绝交易。需要说明的是，如果不存在拒绝交易，则保持令牌池中令牌的数量不变。

实施例2、

本申请实施例提供了一种服务器，应用于上述方法，参照图6中所示，该服务器12包括：

接入单元1201，用于如果接收到交易请求，则从包含一定数量令牌的令牌池中申请令牌，并对请求的交易进行处理；

记录单元1202，用于记录处理过程中与所述交易相关的采样数据，其中，所述采样数据与所述交易的令牌对应；

接入单元1201，还用于如果处理完毕，则将对应令牌释放回所述令牌池；

调节单元1203，用于根据一定时间内所有令牌对应的采样数据调节所述令牌池中令牌的数量。

在一种可能的实施方式中，调节单元1203，具体用于：

对一定时间内所有令牌对应的采样数据取平均值；

如果所述平均值大于第一阈值则减少所述令牌池中令牌的数量；

如果所述平均值小于第二阈值则增加所述令牌池中令牌的数量，所述第二阈值小于所述第一阈值。

在一种可能的实施方式中，接入单元1201还用于：

在如果所述平均值大于第一阈值则所述调节单元减少所述令牌池中令牌的数量之前，如果所述平均值大于第三阈值，则在一定时间内拒绝所有交易，所述第三阈值大于所述第一阈值。

在一种可能的实施方式中，调节单元1203还用于：

如果所述平均值小于所述第一阈值并大于所述第二阈值，并且存在一定数量拒绝交易，则增加所述令牌池中令牌的数量。

由于本申请实施例中的服务器可以应用于上述方法，因此，其所能获得的技术效果也可参考上述方法实施例，本申请实施例在此不再赘述。

需要说明的是，接入单元、记录单元、释放单元和调节单元可以为单独设立的处理器，也可以集成在控制器的某一个处理器中实现，此外，也可以以程序代码的形式存储于控制器的存储器中，由控制器的某一个处理器调用并执行以上各单元的功能。这里所述的处理器可以是一个中央处理器(Central Processing Unit，CPU)，或者是特定集成电路(Application Specific Integrated Circuit，ASIC)，或者是被配置成实施本申请实施例的一个或多个集成电路。

应理解，在本申请的各种实施例中，上述各过程的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在本申请所提供的几个实施例中，应该理解到，所揭露的系统、设备和方法，可以通过其它的方式实现。例如，以上所描述的设备实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，设备或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。

在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件程序实现时，可以全部或部分地以计算机程序产品的形式来实现。该计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行计算机程序指令时，全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或者数据中心通过有线(例如同轴电缆、光纤、数字用户线(Digital Subscriber Line，DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可以用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质(例如，软盘、硬盘、磁带)，光介质(例如，DVD)、或者半导体介质(例如固态硬盘(Solid State Disk，SSD))等。

以上所述，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应以所述权利要求的保护范围为准。

Claims

1.一种交易请求的控制方法，其特征在于，包括：

如果处理完毕，则将对应令牌释放回所述令牌池；

2.根据权利要求1所述的方法，其特征在于，所述根据一定时间内所有令牌对应的采样数据调节所述令牌池中令牌的数量，包括：

对一定时间内所有令牌对应的采样数据取平均值；

3.根据权利要求2所述的方法，其特征在于，在所述如果所述平均值大于第一阈值则减少所述令牌池中令牌的数量之前，所述方法还包括：

如果所述平均值大于第三阈值，则在一定时间内拒绝所有交易，所述第三阈值大于所述第一阈值。

4.根据权利要求2所述的方法，其特征在于，所述方法还包括：

5.一种服务器，其特征在于，包括：

6.根据权利要求5所述的服务器，其特征在于，所述调节单元，具体用于：

对一定时间内所有令牌对应的采样数据取平均值；

7.根据权利要求6所述的服务器，其特征在于，所述接入单元还用于：

8.根据权利要求6所述的服务器，其特征在于，所述调节单元还用于：

9.一种通信系统，其特征在于，包括客户端和如权利要求5-8任一项所述的服务器。

10.一种存储一个或多个程序的计算机可读存储介质，其特征在于，所述一个或多个程序包括指令，所述指令当被计算机执行时使所述计算机执行如权利要求1-4任一项所述的方法。