CN115277588B - 一种基于中台系统的熔断限流系统 - Google Patents
一种基于中台系统的熔断限流系统 Download PDFInfo
- Publication number
- CN115277588B CN115277588B CN202210711199.3A CN202210711199A CN115277588B CN 115277588 B CN115277588 B CN 115277588B CN 202210711199 A CN202210711199 A CN 202210711199A CN 115277588 B CN115277588 B CN 115277588B
- Authority
- CN
- China
- Prior art keywords
- time delay
- average time
- current
- historical
- concurrency
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/32—Flow control; Congestion control by discarding or delaying data units, e.g. packets or frames
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0852—Delays
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/16—Threshold monitoring
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Environmental & Geological Engineering (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Telephonic Communication Services (AREA)
Abstract
本申请提供了一种中台系统的熔断限流方法。所述方法包括:每隔预设周期获得每个接口在各个周期的平均时延和查询率;根据最新平均时延更新历史平均时延;获取每个接口在各个周期的并发数;当接收一个请求时,响应请求访问目标接口以请求目标提供方处理服务调用请求;判断目标接口的当前平均时延是否增加到最低的历史平均时延的预设倍数;判断目标接口的当前并发数是否为历史并发数中最高并发数的预设倍数;当前平均时延增加到历史平均时延的预设倍数且当前并发数达到历史并发数中最高并发数的预设倍数时,在下一个周期丢弃服务调用请求。本发明通过对目标接口进行限流,保证大部分发送给关联方的请求都能够被处理,减少了流量的丢弃。
Description
技术领域
本申请涉及数据处理领域,尤其涉及一种基于中台系统的熔断限流的方法、计算机存储介质、以及计算机设备。
背景技术
在中台系统处于高并发的状态时,流量从外网请求中台系统,中台系统请求关联方接口。如果关联方应用出现异常,响应超时,会导致中台系统雪崩,无法提供服务,所以需要一种自动我保护的功能保护中台系统。目前业内主流的熔断产品通过人工计算关联方接口的平均时延,并针对关联方接口配置一个保护规则,如果达到规则的阈值,则会熔断一个周期。然而每个接口的时延阈值都要进行单独的人工配置,无法随时根据接口的状态获取当前时延,导致会强制熔断一段时间,影响业务系统的正常服务。
发明内容
有鉴于此,实有必要提供一种基于中台系统的熔断限流的方法、计算机存储介质、以及计算机设备。
第一方面,本申请实施例提供了一个基于中台系统的熔断限流的方法包括:每隔预设周期计算每个关联提供方的接口的平均时延和查询率得所述每个接口在各个周期的平均时延和查询率;根据最新平均时延更新历史平均时延,所述历史平均时延小于或者等于当前平均时延,所述当前平均时延为最近一个周期的平均时延;根据所述每个接口在各个周期的平均时延和查询率计算出所述每个接口在各个周期的并发数;当接收一个请求方发起的服务调用请求时,响应所述服务调用请求访问目标接口以请求目标提供方处理所述服务调用请求,所述服务调用请求包括所述目标接口,所述目标接口为所述目标提供方的接口;判断目标接口的当前平均时延增加是否达到最低的历史平均时延的预设倍数;判断目标接口的当前并发数是否为历史并发数中最高并发数的预设倍数,其中当前并发数为最近一个周期计算得到并发数;当所述当前平均时延增加达到历史平均时延的预设倍数且当前并发数达到历史并发数中最高并发数的预设倍数时,在下一个周期丢弃所述服务调用请求;当所述当前平均时延增加未达到历史平均时延的预设倍数或者当前并发数未达到最高并发数的预设倍数,在下一个周期继续访问所述目标接口。
进一步地,所述判断目标接口的当前并发数是否为历史并发数中最高并发数的预设倍数具体包括:当目标接口的当前平均时延增加达到历史平均时延的预设倍数时,判断目标接口的当前并发数是否为历史并发数中最高并发数的预设倍数。
进一步地,所述方法还包括判断目标接口的当前平均时延增加是否达到历史平均时延的预设倍数具体包括:当所述目标接口的当前并发数为历史并发数中最高并发数的预设倍数时,判断目标接口的当前平均时延增加是否达到历史平均时延的预设倍数。
进一步地,所述根据最新平均时延更新历史平均时延包括:当新平均时延小于最小的历史平均时延,将所述新平均时延作为历史平均时延更新。
进一步地,所述预设周期为60秒。
进一步地,所述预设倍数为两倍。
进一步地,所述当所述当前平均时延增加达到历史平均时延的预设倍数但当前并发数未达到最高并发数的预设倍数,在下一个周期继续访问所述目标接口。
第二方面,本申请实施例还提供了一种计算机存储介质用于存储程序指令,该程序指令可被处理器执行以实现上述的中台系统的熔断限流方法。
第三方面,本申请实施例还提供了一种计算机设备,该设备包括:
存储器,所述存储器用于存储计算机程序指令;
处理器,所述该处理器用于执行所述计算机程序指令以实现上述的中台系统的熔断限流方法。
第四方面,本申请实施例提供了一种基于中台系统的熔断限流系统,该系统包括:
请求方,用于发起的服务调用请求;
提供方,用于处理所述服务调用请求;
中台计算机设备,包括:
存储器,用于存储计算机程序指令;
处理器,用于执行计算机程序指令以实现如权利要求1至8中任一项所述的基于中台系统的熔断限流的方法。
本发明通过计算关联方接口的平均时延分析接口的性能,根据接口的性能和服务调用请求数判断是否需要限制访问接口的请求数,当关联方接口出现异常时,停止访问目标接口并对丢弃一个周期的请求。保证了大部分的服务调用请求能够通过访问关联方接口进行处理,减少了丢弃请求数。通过智能实时计算接口的平均时延的方式确定中台系统与关联方系统是否需要熔断,达到了较低的熔断比例,保证业务系统的较正常运行。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出结创造性劳动的前提下,还可以根据这些附图示出的结构获得其他的附图。
图1为本申请实施例提供的基于中台系统的熔断限流的方法的流程示意图。
图2为中间平台与外网和关联方系统进行通讯连接的示意图。
图3为应用现有的熔断方法的中台系统处理请求的效果图。
图4为业务平台内存储模块的示意图
图5为应用智能熔断限流方法的中台系统处理请求的效果图。
图6本申请实施例提供的中台计算机设备的内部结构示意图。
具体实施方式
下面将结合本申请实施例中附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,换句话说,描述的实施例根据除了这里图示或描述的内容以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,还可以包含其他内容,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于只清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
需要说明的是,在本申请中涉及“第一”、“第二”等的描述仅用于描述目的,而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者多个该特征。另外,各个实施例之间的技术方案可以相互结合,但是必须是以本领域普通技术人员能够实现为基础,当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在,也不在本申请要求的保护范围之内。
本发明通过计算关联方接口的平均时延分析接口的性能,根据接口的性能和服务调用请求数判断是否需要限制访问接口的请求数,当关联方接口出现异常时,停止访问目标接口并对丢弃一个周期的请求。保证了大部分的服务调用请求能够通过访问关联方接口进行处理,减少了丢弃请求数。通过智能实时计算接口的平均时延的方式确定中台系统与关联方系统是否需要熔断,达到了较低的熔断比例,保证业务系统的较正常运行。
请参看图1,图1为本申请实施例提供的一种基于中台系统的熔断限流的方法的流程示意图。图2为中台系统的熔断限流的方法的运行环境示意图。中台系统的熔断限流应用于熔断限流系统100中。基于中台系统的熔断限流的系统包括多个请求方3、多个提供方2、以及中台计算机设备1。提供方2可以提供相应的业务服务。中台计算机设备1访问多个提供方2的接口以请求目标提供方2a处理相应的请求方3的服务调用请求。请求方3可以为web浏览器、客户端App等。多个提供方2通过相应的接口访问相应的提供方2。该基于中台系统的熔断限流的方法包括步骤S101-S108。
步骤S101,每隔预设周期计算每个关联提供方的接口的平均时延和查询率获得所述每个接口在各个周期的平均时延和查询率。所述预设周期为60秒,所述平均时延为接口被请求访问至关联方系统处理请求并将结果通过接口发送出去的平均时间。所述查询率为接口每秒被访问的请求数。
可以理解地,用户在客户端产生若干访问请求,若干访问请求根据地址在调用对应的接口,关联方接口接收若干访问请求并进行处理将访问结果返回至客户端。关联方系统接收请求并发送请求结果的过程视为一次请求完成。每经过一分钟计算一次接口完成请求的平均时间并获取一分钟的时间内接口被访问的请求数。所述客户端可以为手机应用软件,如天猫购物app、智行购票软件、浏览器页面,所述若干访问请求可以为过春节时在智行上抢车票、双十一时在天猫App上购物发送请求、点击浏览页面上的热搜头条发送请求等。
例如,在春节期间抢车票时,大量用户在智行软件上购票,中台系统会接收到大量的访问请求。当同一张票同时被多个用户访问时,通过这张车票所在的网络地址访问对应后台管理系统的接口,并请求后台管理系统处理,后台管理系统对若干请求中的大量数据进行分析计算得到某个幸运用户抢到了车票,将所述结果返回至客户端。每隔一分钟计算所述接口在一分钟内处理完成的请求数与时间的比值得到接口的平均时延并获取一秒钟内被访问的请求数。
步骤S102,根据最新平均时延更新历史平均时延,所述历史平均时延小于或者等于当前平均时延,所述当前平均时延为最近一个周期的平均时延。所述历史平均时延可以是若干接口的平均时延数值中数值最小的,当最近的时间周期后重新计算获得的平均时延数值小于历史平均时延时,将历史平均时延的数值更新成最新的平均时延数值;所述平均历史时延也可以根据经验值来设定,例如根据以往的接口的平均时延数值设置一个使系统运行更稳定的数值为历史平均时延。
步骤S103,根据所述每个接口在各个周期的平均时延和查询率计算出所述每个接口在各个周期的并发数。所述并发数的计算方式为查询率与平均时延相除,并发数较大代表着系统为处理访问请求所占用的资源较多,容易发生系统雪崩。
步骤S104,当接收一个请求方发起的服务调用请求时,响应所述服务调用请求访问目标接口以请求目标提供方处理所述服务调用请求,所述服务调用请求包括所述目标接口信息,所述目标接口为所述目标提供方的接口。所述目标接口信息包括请求所在的网址在后台管理系统对应的接口。
步骤105,判断目标接口的当前平均时延增加是否达到最低的历史平均时延的预设倍数。所述预设倍数为历史平均时延的两倍。
例如,历史最低时平均时延为6ms,若当前计算获取的平均时延为15ms,则当前时延超过了历史最低时延的两倍。
步骤106,判断目标接口的当前并发数是否为历史并发数中最高并发数的预设倍数,其中当前并发数为最近一个周期计算得到并发数。所述预设倍数为历史最高并发数的两倍。
步骤107,当所述当前平均时延增加达到历史平均时延的预设倍数且当前并发数达到历史并发数中最高并发数的预设倍数时,在下一个周期丢弃所述服务调用请求。若当前平均时延大于或等于历史平均时延的两倍且并发数达到历史最高并发数的两倍时,中台系统开始丢弃服务调用请求并持续一分钟。图3为应用现有的熔断方法的中台系统处理请求的效果图。现有的熔断产品有Sentinel与Hystrix两种。由图3所示,当前周期能够正常把请求发送到关联接口,但是当关联方返回数据超时,立刻熔断一个周期,在这个周期会丢弃所有的请求。每隔一分钟计算接口的平均时延和并发数,当平均时延大于或等于历史平均时延且并发数也达到历史最高并发数的两倍时,中台系统丢弃下一个1分钟内的服务调用请求,不再调用接口以使后端管理平台处理请求,后台管理系统不再接收新的访问请求,将未处理完成的操作处理完成。并在1分钟后中台系统继续调用接口向后端管理系统发送数据。当并发数数值较大时,平均时延也较大时,系统需要同时处理的访问操作数据量较大而且花费时间较多,容易造成系统雪崩。
可以理解地,在春节期间用户抢票时,同一张车票会被很多用户同时访问,向中台系统产生大量访问请求,通过车票所在的网址调用接口以使后台管理系统处理访问请求。因为在同一时间产生大量了访问请求,计算得到的接口的并发数会增大。若后台管理系统处理访问请求的效率低则接口的平均时延会增大,当平均时延不小于历史最低时延的两倍且并发数大于历史最高并发数的两倍时,中台系统丢弃下一分钟内的服务请求,并在这一分钟内将系统中的请求处理完成,这样处理使后台管理系统不会堆积太多未处理数据导致系统混乱造成雪崩,从而导致向中台系统返回的数据出错使中台系统瘫痪。因为用户的访问操作是动态地,具有不确定性,而且网络存在波动,在不同的时间段的访问请求数会有较大的差别,例如,在系统放票时用户购买车票通过手机端进行的访问操作数量会突然增大,双十一的零点抢购时中台系统接收到的访问请求数量也会突然增大。后台管理系统处理访问操作的效率也会受系统操作人员的熟练度、系统完成操作的复杂程度、网络的波动等影响。所以要重复计算接口的平均时延和并发数。为消除网络波动、网络噪音、接口抖动对计算接口平均时延的影响,每间隔一分钟计算一次。
例如,在系统放票时,用户在智行App上进行购票操作,例如从深圳到北京的车票只有1000张,但是有50000人需要,那一张火车票就会被多次访问,接口的查询率会增大、计算接口的并发数会增大。当后端管理系统运行出现故障时平均时延会增大,当平均时延大于历史平均时延的二倍且并发数大于最高并发数的两倍时,丢弃1分钟的用户的购票请求。
步骤S108,当所述当前平均时延增加未达到历史平均时延的预设倍数或者当前并发数未达到最高并发数的预设倍数,在下一个周期继续访问所述目标接口。若计算获取的平均时延大于历史最低时延的两倍或并发数小于历史最高并发数时,后端管理系统运行正常,处理访问请求的效率高,且后端管理系统接收的请求数较少,接口性能较优,系统发生崩溃的概率很低,中台系统不需要停止向调用接口。
例如,在车票管理系统处理请求操作的效率较低时,接口的平均时延数值会比较大,但是当时间段处于用户上班时,手机端不会产生大量访问操作,接口的并发数数值较小,则中间平台响应访问请求并调用后台管理系统的接口以传递数据。
可以理解地,计算获取接口当前的平均时延并和历史最低时延进行比较。若当前的平均时延数值较小,则将当前的平均时延设置为接口的最低时延以供接下来比较时延大小。根据当前的平均时延和每秒访问率计算并发数。
例如,当车票管理系统中人员操作速度提高、程序代码维护良好,处理数据的效率会增大从而接口的平均时延会变小,当数值较小的平均时延小于历史最低时延数值时,将所述较小的平均时延设为新的历史时延。
可以理解地,当平均时延小于历史最低时延的两倍时,根据计算获得的平均时延和每秒客户端的访问请求数据量计算并发数。当获取的并发数数值大于历史最高并发数时,接口会减少传递到关联方系统的访问操作数据量。
例如,车辆管理系统的人员操作效率高,代码维护地好,处理访问操作效率就会高,则接口的平均时延数值变小。当处于系统出票高峰期,用户下班买票的高峰期时,并发数就会增大,当并发数数值大于历史最高并发数时,接口就会减少对车票管理系统传递的请求数据量。
可以理解地,计算获得接口的平均时延和每秒访问率,根据流量计算方式获取调用接口向后台管理系统传递的访问请求数量值对接口进行限流。流量计算方式为每秒访问率除以平均时延的三倍。图5为应用智能熔断限流方法的中台系统处理请求的效果图,应用智能熔断限流方法能根据关联接口的性能自动计算出合适的流量,并进行限流,保证大部分的请求是正常的发送到关联方,而把超过关联方处理能努力的请求丢弃。
例如,平均时延是10ms。每秒访问率是10000次,则接口传递的数据量为1000次每秒。
可以理解地,中间平台有很多种类,例如业务中台、技术中台、数据中台、组织中台等。如图6所示,业务中台4有用户服务模块5、商品服务模块6、订单服务模块7、物流服务模块8、接口服务模块9等,在中台中加入监控服务10模块,可以监控中台中的其他模块是否有异常请况,若检测到有异常请况的模块,则发出告警信息提示工作人员查看。
例如,与车票管理系统通讯的中间平台中有用户服务模块用来记录访问操作对应的用户信息,商品服务模块用来在客户端显示用户需要的商品,订单服务模块用来记录用户购买车票的情况,接口服务模块用来计算接口的平均时延、获取每秒访问率、控制和车票管理系统的通讯,监控模块与其他所有模块进行通信并检测其他模块运行过程是否正常。例如当商品服务模块出现运行问题,监控模块发出报警声音提示工作人员处理。
本申请中每经过一段时间根据中台系统接收从关联方返回数据结果的效率自动计算接口的平均时延。根据接口的平均时延确定接口的并发数,从而对接口进行限流,向关联方接口发送合适的流量,保证大部分发送给关联方的请求都能够被处理,减少了流量的丢弃,达到了较低的熔断比例,保证业务系统的较正常运行。并根据接口的平均时延和并发数判断关联方系统是否处于雪崩的状态,并对突然雪崩的关联系统进行隔离。
请查看图6,其为本申请实施例提供的一种基于中台系统的熔断限流的服务器的内部结构示意图。服务器200用来实现,计算机设备200包括处理器201,以及存储器202。其中,处理器201用于执行可执行程序以实现如上述实施例提供的基于中台系统的熔断限流的方法,存储器202用于存储计算机可执行程序和上述实施例提供的基于中台系统的熔断限流的方法。
其中,处理器201在一些实施例中可以是一中央处理器(Central ProcessingUnit,CPU)、控制器、微控制器、微处理器或其它数据处理芯片,用于运行存储器202中存储的计算机可执行程序。具体地,处理器201执行可执行程序以实现上述实施例提供的基于中台系统的熔断限流的方法。
存储器202至少包括一种类型的可读存储介质,该可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、磁性存储器、磁盘、光盘等。存储器202在一些实施例中可以是计算机设备200的内部存储单元,例如计算机设备200的硬盘。存储器202在另一些实施例中也可以是的外部计算机设备200存储设备,例如计算机设备200上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,存储器202还可以既包括计算机设备200的内部存储单元也包括外部存储设备。存储器202不仅可以用于存储安装于计算机设备200的应用软件及各类数据,例如实现实现自我保护功能方法的代码等,还可以用于暂时地存储已经输出或者将要输出的实现自我保护功能方法的代码。
计算机设备200还包括总线203。总线203可以是外设部件互连标准(peripheralcomponent interconnect,简称PCI)总线或扩展工业标准结构(extended industrystandard architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。为便于表示,图6中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
进一步地,计算机设备200还可以包括显示组件204。显示组件204可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示组件204也可以适当的称为显示装置或显示单元,用于显示在计算机设备200中处理的信息以及用于显示可视化的用户界面。
进一步地,计算机设备200还可以包括通信组件205。通信组件205可选的可以包括有线通信组件和/或无线通信组件(如WI-FI通信组件、蓝牙通信组件等),通常用于在计算机设备200与其它计算机设备之间建立通信连接。
图6仅示出了具有部分组件以及实现自我保护功能方法的计算机设备200,本领域技术人员可以理解的是,图6示出的结构并不构成对计算机设备200的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。
该计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行该计算机程序指令时,全部或部分地产生按照本申请实施例的流程或功能。该计算机设备可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。该计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一计算机可读存储介质传输,例如,该计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。该计算机可读存储介质可以是计算机能够存储的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。该可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,该单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
该作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
该集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例方法的全部或部分步骤。而前述的存储介质包括:U盘、流动硬盘、只读存储介质(ROM,Read-Only Memory)、随机存取存储介质(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
需要说明的是,上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。并且本文中的术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、装置、物品或者方法不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、装置、物品或者方法所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、装置、物品或者方法中还存在另外的相同要素。
以上仅为本申请的优选实施例,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本申请的专利保护范围内。
Claims (10)
1.一种中台系统的熔断限流方法,其特征在于,所述方法包括:
每隔预设周期计算每个关联提供方的接口的平均时延和查询率获得所述每个接口在各个周期的平均时延和查询率,所述平均时延为所述接口被请求访问至关联方系统处理请求并将结果通过所述接口发送出去的平均时间,所述查询率为所述接口每秒被访问的请求数;
根据最新平均时延更新历史平均时延,所述历史平均时延小于或者等于当前平均时延,所述当前平均时延为最近一个周期的平均时延;
根据所述每个接口在各个周期的平均时延和查询率计算出所述每个接口在各个周期的并发数,所述并发数为所述查询率与所述平均时延相除;
当接收一个请求方发起的服务调用请求时,响应所述服务调用请求访问目标接口以请求目标提供方处理所述服务调用请求,所述服务调用请求包括所述目标接口信息,所述目标接口信息代表所述目标提供方的接口;
判断目标接口的当前平均时延增加是否达到最低的历史平均时延的预设倍数;
判断目标接口的当前并发数是否为历史并发数中最高并发数的预设倍数,其中当前并发数为最近一个周期计算得到并发数;
当所述当前平均时延增加达到历史平均时延的预设倍数且当前并发数达到历史并发数中最高并发数的预设倍数时,在下一个周期丢弃所述服务调用请求;以及
当所述当前平均时延增加未达到历史平均时延的预设倍数或者当前并发数未达到最高并发数的预设倍数,在下一个周期继续访问所述目标接口。
2.如权利要求1所述的中台系统熔断方法,其特征在于,判断目标接口的当前并发数是否为历史并发数中最高并发数的预设倍数具体包括:当目标接口的当前平均时延增加达到历史平均时延的预设倍数时,判断目标接口的当前并发数是否为历史并发数中最高并发数的预设倍数。
3.如权利要求1所述的中台系统熔断方法,其特征在于,判断目标接口的当前平均时延增加是否达到历史平均时延的预设倍数具体包括:当所述目标接口的当前并发数为历史并发数中最高并发数的预设倍数时,判断目标接口的当前平均时延增加是否达到历史平均时延的预设倍数。
4.如权利要求1所述的中台系统熔断方法,其特征在于,根据最新平均时延更新历史平均时延包括:
当最新平均时延小于最小的历史平均时延,将所述最新平均时延作为历史平均时延更新。
5.如权利要求1所述的中台系统的熔断限流方法,其特征在于,所述预设周期为60秒。
6.如权利要求1所述的中台系统的熔断限流方法,其特征在于,所述预设倍数为两倍。
7.如权利要求1所述的中台系统的熔断限流方法,其特征在于,当所述当前平均时延增加达到历史平均时延的预设倍数但当前并发数未达到最高并发数的预设倍数,在下一个周期继续访问所述目标接口。
8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质用于存储程序指令,所述程序指令可被处理器执行以实现如权利要求1至7中任一项所述的中台系统的熔断限流方法。
9.一种中台计算机设备,其特征在于,所述中台计算机设备包括:
存储器,用于存储计算机程序指令;
处理器,用于执行计算机程序指令以实现如权利要求1至7中任一项所述的中台系统的熔断限流方法。
10.一种基于中台系统的熔断限流系统,其特征在于,所述基于中台系统的熔断限流系统包括:
请求方,用于发起的服务调用请求;
提供方,用于处理所述服务调用请求;以及
中台计算机设备,包括:
存储器,用于存储计算机程序指令;
处理器,用于执行计算机程序指令以实现如权利要求1至7中任一项所述的基于中台系统的熔断限流的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210711199.3A CN115277588B (zh) | 2022-06-22 | 2022-06-22 | 一种基于中台系统的熔断限流系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210711199.3A CN115277588B (zh) | 2022-06-22 | 2022-06-22 | 一种基于中台系统的熔断限流系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115277588A CN115277588A (zh) | 2022-11-01 |
CN115277588B true CN115277588B (zh) | 2023-06-09 |
Family
ID=83761412
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210711199.3A Active CN115277588B (zh) | 2022-06-22 | 2022-06-22 | 一种基于中台系统的熔断限流系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115277588B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116248550A (zh) * | 2022-12-29 | 2023-06-09 | 中国联合网络通信集团有限公司 | 接口性能确定方法、装置及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109274547A (zh) * | 2018-08-17 | 2019-01-25 | 中国平安人寿保险股份有限公司 | 基于网络安全的服务熔断方法、装置、设备及存储介质 |
CN110737567A (zh) * | 2019-10-17 | 2020-01-31 | 吉旗(成都)科技有限公司 | 基于缓存的服务端接口熔断方法及装置 |
CN112367268A (zh) * | 2020-11-24 | 2021-02-12 | 苏宁云计算有限公司 | 用于微服务的限流方法及装置 |
-
2022
- 2022-06-22 CN CN202210711199.3A patent/CN115277588B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109274547A (zh) * | 2018-08-17 | 2019-01-25 | 中国平安人寿保险股份有限公司 | 基于网络安全的服务熔断方法、装置、设备及存储介质 |
CN110737567A (zh) * | 2019-10-17 | 2020-01-31 | 吉旗(成都)科技有限公司 | 基于缓存的服务端接口熔断方法及装置 |
CN112367268A (zh) * | 2020-11-24 | 2021-02-12 | 苏宁云计算有限公司 | 用于微服务的限流方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN115277588A (zh) | 2022-11-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109684358B (zh) | 数据查询的方法和装置 | |
US10225145B2 (en) | Method and device for updating client | |
CN109104336B (zh) | 服务请求处理方法、装置、计算机设备及存储介质 | |
CN111901249A (zh) | 业务限流方法、装置、设备及存储介质 | |
CN111131058A (zh) | 访问量控制方法和装置 | |
CN111262795A (zh) | 基于服务接口的限流方法、装置、电子设备及存储介质 | |
CN115277588B (zh) | 一种基于中台系统的熔断限流系统 | |
CN111416883B (zh) | 地址查询方法、装置、终端及计算机可读存储介质 | |
CN112130936B (zh) | 基于轮询的数据调用方法、装置、设备及存储介质 | |
CN110990245A (zh) | 基于调用链数据的微服务运行状态判断方法及装置 | |
CN116488989A (zh) | 监控接口访问数据出现异常的方法、计算机设备、计算机可读存储介质 | |
CN115145587A (zh) | 一种产品参数校验方法、装置、电子设备及存储介质 | |
CN111737209A (zh) | 一种文件清理方法及其相关设备 | |
CN110071952B (zh) | 服务调用量的控制方法和装置 | |
CN113761565B (zh) | 数据脱敏方法和装置 | |
CN111159131A (zh) | 性能优化方法、装置、设备及计算机可读存储介质 | |
CN112148508A (zh) | 一种信息处理的方法及相关装置 | |
CN116662499A (zh) | 一种数据获取方法、装置、电子设备及存储介质 | |
CN115037693B (zh) | 一种基于令牌桶的分布式限流方法和分布式限流装置 | |
CN116028142A (zh) | 聚合接口数据获取方法、装置、存储介质及计算机设备 | |
CN111431764B (zh) | 节点确定方法、设备、系统及介质 | |
CN114449031A (zh) | 信息获取方法、装置、设备和存储介质 | |
CN113656731A (zh) | 广告页面的处理方法、装置、电子设备和存储介质 | |
CN112667396A (zh) | 一种访问请求处理方法、装置及系统 | |
CN114124757A (zh) | 参数调整方法、装置、相关设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |