CN104408656A - 动态调整流控阈值的方法及系统 - Google Patents

Abstract

本发明提供一种动态调整流控阈值的方法及系统，其中，所述方法包括：判断资源当前的处理状态；根据所述处理状态获取对应的调整算法；根据所获取的调整算法调整所述资源的流控阈值。通过采用本发明所提供的方法，能够实现根据交易情况动态调整流控阈值，既实现基本流控功能，又最大限度地利用资源。

Description

动态调整流控阈值的方法及系统

技术领域

本发明涉及通信领域，更为具体而言，涉及动态调整流控阈值的方法及系统。

背景技术

随着银行业对服务系统流量控制的不断完善与发展，目前，已经实现将某个服务系统的故障限制在一定范围内，不会影响其处理其他服务系统的交易。但是，由于流量控制是针对服务系统的交易并发量进行控制，而且目前服务系统交易并发量的阈值设置比较大，大于一些渠道系统的通讯接入连接数，那么当某个服务系统的交易出现大量超时，会导致核心平台的大量交易处理线程处于阻塞等待状态。虽然该服务系统的交易并发量并不一定达到了并发量阈值，但是渠道系统的通讯接入数可能已经全部用完，从而导致该渠道系统的所有后续交易都无法接入。

发明内容

为解决上述技术问题，本发明提供了一种动态调整流控阈值的方法及系统，能够实现根据交易情况动态调整流控阈值，既实现基本流控功能，又最大限度地利用资源。

根据本发明实施例的第一方面，提供了一种动态调整流控阈值的方法，所述方法包括：

判断资源当前的处理状态；

根据所述处理状态获取对应的调整算法；

根据所获取的调整算法调整所述资源的流控阈值。

根据本发明实施例的第二方面，提供了一种动态调整流控阈值的系统，所述系统包括：

判断模块，用于判断资源当前的处理状态；

获取模块，用于根据所述判断模块判断的处理状态获取对应的调整算法；

调整模块，用于根据所述获取模块所获取的调整算法调整所述资源的流控阈值。

实施本发明提供的动态调整流控阈值的方法及系统，能够实现根据交易情况动态调整流控阈值，既实现基本流控功能，又最大限度地利用资源。

附图说明

图1是根据本发明实施方式的动态调整流控阈值的方法的流程图；

图2示出图1所示的步骤S100的一种实施方式；

图3示出图2所示的步骤S200的一种实施方式；

图4是根据本发明实施方式的动态调整流控阈值的方法的另一流程图；

图5是根据本发明实施方式的动态调整流控阈值的系统的结构示意图；

图6示出了图5所示的判断模块100的一种实施方式的结构示意图；

图7示出了图5所示的获取模块200的一种实施方式的结构示意图；

图8示出了图5所示的调整模块300的一种实施方式的结构示意图。

具体实施方式

为使本发明的实施例的目的、技术方案和优点更加清楚，下面将结合附图对本发明作进一步地详细描述。

图1是根据本发明实施方式的动态调整流控阈值的方法的流程图。参见图1，所述方法包括：

S100：判断资源当前的处理状态。

其中，所述资源包括服务系统、渠道、交易等。

S200：根据所述处理状态获取对应的调整算法。

S300：根据所获取的调整算法调整所述资源的流控阈值。

其中，可以按照预定的时间间隔执行所述步骤S100。

以上，对本发明提供的方法的整体流程进行了说明，下面结合实施例对本发明的方法的详细流程进行说明。

【实施例1】

首先对所涉及到的术语进行解释说明：交易：银行系统中为完成某项业务而做的操作。流量控制：简称流控，主要指对交易并发量进行控制，使其不超过流控阈值。流控阈值：主要是某类交易并发量的限制值。动态流量控制：简称动态流控，指的是在流量控制实施过程中流控阈值可以动态调整。交易采样：在一段时间内对交易进行统计分析，计算出交易失败率，平均响应时间等信息。交易采样率：指多长时间统计分析一次交易情况。交易失败率：指在一个采样周期内交易失败数占所有交易的百分比。交易响应时间：一笔交易从发送请求到接到应答返回所需要的时间。

在实施例1中，动态调整流控阈值的方法包括上述图1所示的处理方法的所有步骤，其中，如图2所示，步骤S100具体包括下述步骤：

S110：获取所述资源当前的交易总数和故障交易数。

S120：根据所述交易总数和所述故障交易数计算出故障率。

S130：将所述故障率与故障率标准进行比较，当所述故障率大于或等于所述故障率标准时，判断所述处理状态为故障状态，当所述故障率小于所述故障率标准时，判断所述处理状态为非故障状态。

【实施例2】

在实施例1中，动态调整流控阈值的方法包括上述图2所示的处理方法的所有步骤，其中，如图3所示，步骤S200具体包括下述步骤：

S210：当判断所述处理状态为故障状态时，获取收缩算法。

S220：当判断所述处理状态为非故障状态时，获取恢复算法。

其中，根据收缩算法调整所述资源的流控阈值包括：

获取收缩参数，其中所述收缩参数包括当前阈值、最小阈值、判定区间以及收缩率，其中，所述判断区间可以设定为[最小阈值，最大阈值*10％]，最小阈值为大于等于1且小于等于最大阈值的整数，默认为1；

将所述当前阈值与所述判定区间进行比较；

根据所述比较的结果，将所述当前阈值设为相应的收缩目标值，其中若所述判定区间包含所述当前阈值，则所述收缩目标值为所述最小阈值，若所述判定区间不包含所述当前阈值，则所述收缩目标值为当前阈值*(1-收缩率)。

同时，根据恢复算法调整所述资源的流控阈值包括：

获取恢复参数，其中所述恢复参数包括当前阈值、最小阈值、最大阈值、初始阈值以及恢复率，其中，初始阈值为大于最小阈值且小于最大阈值的整数，默认为最大阈值*10％；

将所述当前阈值与所述最小阈值进行比较；

根据所述比较的结果，将所述当前阈值设为相应的恢复目标值，其中若所述当前阈值等于所述最小阈值，则所述恢复目标值为所述初始阈值与当前阈值*(1+恢复率)中的较大值，若所述当前阈值不等于所述最小阈值，则所述恢复目标值为当前阈值*(1+恢复率)与所述最大阈值中的较小值。

【实施例3】

在实施例3中，给出具体例子对动态调整流控阈值的方法进行说明。

如图4所示，动态阈值调整模块按照时间周期从资源信息管理模块中获取目标资源在该周期内的采样交易总数和采样故障交易数，并计算故障率。通过配置文件设定需要动态阈值调整的资源条目，若某资源条目未在该配置文件中设定，则不进行动态阈值调整，即采用固定阈值进行流控。每个资源的统计周期由配置文件设置。每个周期结束时将采样数据清零。采样统计的触发功能由定时器实现，并采用独立的线程池执行。动态阈值调整算法分为收缩算法和恢复算法。由配置文件来设置某资源的故障率标准，当采样故障率大于或等于故障率标准时，采用收缩算法；当故障率小于故障率标准时，采用恢复算法，其中故障率就是交易超时率。

收缩算法：由配置文件来设置某资源的收缩率。如果当前阈值不在区间[最小阈值，最大阈值*10％]之内，则收缩目标值＝当前阈值*(1-收缩率)。如果当前阈值在区间[最小阈值，最大阈值*10％]之内，则直接收缩至最小阈值。某资源的最小阈值由配置文件设置，为大于等于1且小于等于最大阈值的整数，默认为1。当阈值收缩到最小值时，则不再收缩。

恢复算法：由配置文件来设置某资源的恢复率。如果当前阈值不等于最小阈值，则恢复目标值＝当前阈值*(1+恢复率)与最大阈值中的较小值。如果当前阈值等于最小阈值，则恢复目标值取初始阈值和当前阈值*(1+恢复率)的最大值。某资源的初始阈值由配置文件来设置，为大于最小阈值且小于最大阈值的整数，默认为最大阈值*10％。

由配置文件来设置某资源的交易耗时标准，默认为交易超时时间标准。当交易响应时间大于所设交易耗时标准则认为是故障交易。如果交易在核心平台实际处理结果为超时，该交易也为故障交易。

由配置文件来设置资源的采样持续时间和间隔时间，采样持续时间默认为60秒(参数化，可配置)，间隔时间默认为30秒(即每次持续采样60秒，休息30秒，以此反复)。

上述过程的采样统计窗口采用时间窗口，在该时间窗口内统计目标资源的采样交易总数和采样故障交易数，并计算故障率(故障率＝采样故障交易数/采样交易总数)。每个资源的采样统计窗口由配置文件设置，默认为120秒。每个采样统计窗口结束时将采样数据清零，清零工作由动态阈值调整模块完成。

由配置文件来设置某资源的故障率标准，默认值(参数化，可配置)为20％。在每次采样统计计算之后，将故障率与故障率标准进行比较：当故障率大于或等于故障率标准时，进行阈值动态收缩；当故障率小于故障率标准时，进行阈值动态恢复。

本发明支持等比收缩算法，即由配置文件来设置某资源的收缩率，默认(参数化，可配置)为50％。阈值动态收缩时按比例收缩，收缩目标值＝当前阈值*(1-收缩率)。针对上述收缩算法，由配置文件来设置某资源的最小阈值，默认为1。阈值动态收缩时不能小于最小阈值。最小阈值不小于1，不大于流量控制最大阈值。针对上述收缩算法，当收缩时，依照收缩率按比例收缩。如果当前阈值在区间[最小阈值，最大阈值*10％]，直接收缩至最小阈值。

本发明支持等比恢复算法，即由配置文件来设置某资源的恢复率，默认为100％。阈值动态恢复时按比例恢复，恢复目标值＝当前阈值*(1+恢复率)。针对上述恢复算法，由配置文件来设置某资源的最低恢复比值，默认为10％及最大阈值。最低恢复阈值＝最低恢复比值*最大阈值。阈值动态恢复目标值不能小于最低恢复阈值。如果按照上面算法得到的恢复目标值小于最低恢复阈值，则将最低恢复阈值作为恢复目标值。最低恢复阈值不大于最大阈值。

阈值的动态调整应该与交易执行松耦合，采用独立线程，在每个采样周期结束时进行故障率计算和阈值动态调整。并且可以采用定时任务来执行阈值动态调整，每批相同采样周期为一个独立定时任务，该独立定时任务完成所有属于该采样周期目标资源的阈值动态调整工作并提供INFO级别日志信息。

由配置文件来设置某资源的阈值动态调整开关，为必配项，on表示允许动态调整，off表示禁止动态调整。根据开关状态决定当前资源是否采集数据和动态调整。

可以通过管理工具手动刷新配置文件和设置资源阈值。提供操作日志信息。

本发明支持不同资源(包括服务系统、渠道、交易等)的并发量阈值调整，实现对分行、服务系统(或两者组合)以及节点号的并发量阈值动态调整。

综上，当资源处理缓慢时，能够自动减少当前的流控阈值，以保证其他资源能够正常处理，以达到故障隔离的效果，其次当资源处理正常时，能自动恢复当前的流控阈值，直至恢复到最大阈值。

本发明还可以根据资源的不同情况选择不同的线型控制策略：1、逐渐收缩和恢复；2、两级阶梯(高、低两种并发数)；3、并发数不变化。每一服务系统资源选择其中一种策略进行流量控制。在使用上，交易量非常大且后台交易响应很快的服务系统(比如主机服务系统)，采用逐渐收缩和恢复的控制策略；交易量较大且后台交易响应不是很快的服务系统(比如龙网服务系统)，采用两级阶梯的控制策略；交易量很小的服务系统采用并发数不变化的控制策略。

图5是根据本发明实施方式的动态调整流控阈值的系统的结构示意图。参见图5，所述系统包括：

判断模块100，用于判断资源当前的处理状态。

其中，所述资源包括服务系统、渠道、交易等。

获取模块200，用于根据所述判断模块100判断的处理状态获取对应的调整算法。

调整模块300，用于根据所述获取模块200所获取的调整算法调整所述资源的流控阈值。

其中，所述系统还可以包括定时模块，用于按照预定的时间间隔触发执行所述判断模块100。

如图6所示，在本发明的实施方式中，判断模块100可以包括：

获取单元110，用于获取所述资源当前的交易总数和故障交易数。

计算单元120，用于根据所述获取单元110获取的所述交易总数和所述故障交易数计算出故障率。

判断单元130，将所述计算单元120计算出的故障率与故障率标准进行比较，当所述故障率大于或等于所述故障率标准时，判断所述处理状态为故障状态，当所述故障率小于所述故障率标准时，判断所述处理状态为非故障状态。

如图7所示，在本发明的实施方式中，获取模块200可以包括：

收缩算法单元210，用于当判断所述处理状态为故障状态时，获取收缩算法；

恢复算法单元220，用于当判断所述处理状态为非故障状态时，获取恢复算法。

如图8所示，在本发明的实施方式中，调整模块300可以包括：

第一获取组件310，用于获取收缩参数，其中所述收缩参数包括当前阈值、最小阈值、判定区间以及收缩率，其中，所述判断区间可以设定为[最小阈值，最大阈值*10％]，最小阈值为大于等于1且小于等于最大阈值的整数，默认为1；

第一比较组件320，用于将所述第一获取组件310获取的所述当前阈值与所述判定区间进行比较；

第一设置组件330，用于根据所述第一比较组件320所得出的所述比较的结果，将所述当前阈值设为相应的收缩目标值，其中若所述判定区间包含所述当前阈值，则所述收缩目标值为所述最小阈值，若所述判定区间不包含所述当前阈值，则所述收缩目标值为当前阈值*(1-收缩率)。

第二获取组件340，用于获取恢复参数，其中所述恢复参数包括当前阈值、最小阈值、最大阈值、初始阈值以及恢复率，其中，初始阈值为大于最小阈值且小于最大阈值的整数，默认为最大阈值*10％；

第二比较组件350，用于将所述第二获取组件340所获取的所述当前阈值与所述最小阈值进行比较；

第二设置组件360，用于根据所述第二比较组件350所得出的所述比较的结果，将所述当前阈值设为相应的恢复目标值，其中若所述当前阈值等于所述最小阈值，则所述恢复目标值为所述初始阈值与当前阈值*(1+恢复率)中的较大值，若所述当前阈值不等于所述最小阈值，则所述恢复目标值为当前阈值*(1+恢复率)与所述最大阈值中的较小值。

实施本发明提供的动态调整流控阈值的方法及系统，能够实现根据交易情况动态调整流控阈值，既实现基本流控功能，又最大限度地利用资源。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到本发明可借助软件结合硬件平台的方式来实现，当然也可以全部通过硬件来实施。基于这样的理解，本发明的技术方案对背景技术做出贡献的全部或者部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，智能手机或者网络设备等)执行本发明各个实施例或者实施例的某些部分所述的方法。

本发明说明书中使用的术语和措辞仅仅为了举例说明，并不意味构成限定。本领域技术人员应当理解，在不脱离所公开的实施方式的基本原理的前提下，对上述实施方式中的各细节可进行各种变化。因此，本发明的范围只由权利要求确定，在权利要求中，除非另有说明，所有的术语应按最宽泛合理的意思进行理解。

Claims (12)

1.一种动态调整流控阈值的方法，其特征在于，所述方法包括：

判断资源当前的处理状态；

根据所述处理状态获取对应的调整算法；

根据所获取的调整算法调整所述资源的流控阈值。

2.如权利要求1所述的方法，其特征在于，所述判断资源当前的处理状态包括：

获取所述资源当前的交易总数和故障交易数；

根据所述交易总数和所述故障交易数计算出故障率；

将所述故障率与故障率标准进行比较，当所述故障率大于或等于所述故障率标准时，判断所述处理状态为故障状态，当所述故障率小于所述故障率标准时，判断所述处理状态为非故障状态。

3.如权利要求2所述的方法，其特征在于，根据所述处理状态获取对应的调整算法包括：

当判断所述处理状态为故障状态时，获取收缩算法；

当判断所述处理状态为非故障状态时，获取恢复算法。

4.如权利要求3所述的方法，其特征在于，根据收缩算法调整所述资源的流控阈值包括：

获取收缩参数，其中所述收缩参数包括当前阈值、最小阈值、判定区间以及收缩率；

将所述当前阈值与所述判定区间进行比较；

根据所述比较的结果，将所述当前阈值设为相应的收缩目标值，其中若所述判定区间包含所述当前阈值，则所述收缩目标值为所述最小阈值，若所述判定区间不包含所述当前阈值，则所述收缩目标值为当前阈值*(1-收缩率)。

5.如权利要求3所述的方法，其特征在于，根据恢复算法调整所述资源的流控阈值包括：

获取恢复参数，其中所述恢复参数包括当前阈值、最小阈值、最大阈值、初始阈值以及恢复率；

将所述当前阈值与所述最小阈值进行比较；

根据所述比较的结果，将所述当前阈值设为相应的恢复目标值，其中若所述当前阈值等于所述最小阈值，则所述恢复目标值为所述初始阈值与当前阈值*(1+恢复率)中的较大值，若所述当前阈值不等于所述最小阈值，则所述恢复目标值为当前阈值*(1+恢复率)与所述最大阈值中的较小值。

6.如权利要求1～5中任一项所述的方法，其特征在于，

按照预定的时间间隔执行所述判断资源当前的处理状态。

7.一种动态调整流控阈值的系统，其特征在于，所述系统包括：

判断模块，用于判断资源当前的处理状态；

获取模块，用于根据所述判断模块判断的处理状态获取对应的调整算法；

调整模块，用于根据所述获取模块所获取的调整算法调整所述资源的流控阈值。

8.如权利要求7所述的系统，其特征在于，所述判断模块包括：

获取单元，用于获取所述资源当前的交易总数和故障交易数；

计算单元，用于根据所述获取单元获取的所述交易总数和所述故障交易数计算出故障率；

判断单元，将所述计算单元计算出的故障率与故障率标准进行比较，当所述故障率大于或等于所述故障率标准时，判断所述处理状态为故障状态，当所述故障率小于所述故障率标准时，判断所述处理状态为非故障状态。

9.如权利要求8所述的系统，其特征在于，所述获取模块包括：

收缩算法单元，用于当判断所述处理状态为故障状态时，获取收缩算法；

恢复算法单元，用于当判断所述处理状态为非故障状态时，获取恢复算法。

10.如权利要求9所述的系统，其特征在于，所述调整模块包括：

第一获取组件，用于获取收缩参数，其中所述收缩参数包括当前阈值、最小阈值、判定区间以及收缩率；

第一比较组件，用于将所述第一获取组件获取的所述当前阈值与所述判定区间进行比较；

第一设置组件，用于根据所述第一比较组件所得出的所述比较的结果，将所述当前阈值设为相应的收缩目标值，其中若所述判定区间包含所述当前阈值，则所述收缩目标值为所述最小阈值，若所述判定区间不包含所述当前阈值，则所述收缩目标值为当前阈值*(1-收缩率)。

11.如权利要求9所述的系统，其特征在于，所述调整模块还包括：

第二获取组件，用于获取恢复参数，其中所述恢复参数包括当前阈值、最小阈值、最大阈值、初始阈值以及恢复率；

第二比较组件，用于将所述第二获取组件所获取的所述当前阈值与所述最小阈值进行比较；

第二设置组件，用于根据所述第二比较组件所得出的所述比较的结果，将所述当前阈值设为相应的恢复目标值，其中若所述当前阈值等于所述最小阈值，则所述恢复目标值为所述初始阈值与当前阈值*(1+恢复率)中的较大值，若所述当前阈值不等于所述最小阈值，则所述恢复目标值为当前阈值*(1+恢复率)与所述最大阈值中的较小值。

12.如权利要求7～11中任一项所述的系统，其特征在于，所述系统还包括：

定时模块，用于按照预定的时间间隔触发执行所述判断模块。