CN114710503A - 服务调度的方法及电子设备和存储介质 - Google Patents
服务调度的方法及电子设备和存储介质 Download PDFInfo
- Publication number
- CN114710503A CN114710503A CN202210425681.0A CN202210425681A CN114710503A CN 114710503 A CN114710503 A CN 114710503A CN 202210425681 A CN202210425681 A CN 202210425681A CN 114710503 A CN114710503 A CN 114710503A
- Authority
- CN
- China
- Prior art keywords
- service
- abnormal
- fusing
- party
- load balancing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 61
- 230000002159 abnormal effect Effects 0.000 claims abstract description 177
- 230000001960 triggered effect Effects 0.000 claims abstract description 20
- 238000012544 monitoring process Methods 0.000 claims abstract description 11
- 230000004044 response Effects 0.000 claims description 72
- 238000004590 computer program Methods 0.000 claims description 7
- 238000011084 recovery Methods 0.000 claims description 4
- 230000002547 anomalous effect Effects 0.000 claims description 3
- 230000006870 function Effects 0.000 description 11
- 230000008569 process Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 4
- 230000005856 abnormality Effects 0.000 description 3
- 230000009471 action Effects 0.000 description 3
- 238000007664 blowing Methods 0.000 description 3
- 238000010295 mobile communication Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000006978 adaptation Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1029—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers using data related to the state of servers by a load balancer
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
本发明公开一种服务调度的方法、电子设备和存储介质,其中方法包括:调用负载均衡模块确认当前第三方服务是否为异常服务,并判断所述异常服务是否达到熔断阈值,若达到所述熔断阈值则触发熔断;当触发熔断时,经由所述负载均衡模块对所述异常服务的调度比例进行调整;对所述异常服务进行监控,直至所述异常服务恢复正常;响应于所述异常服务恢复正常,恢复对所述异常服务的调度。本发明实施例通过对异常服务触发熔断时对该异常服务的调度比例进行调整,从而让该异常服务恢复正常以及恢复调度,可以解决熔断触发后用户服务质量降低,且无法自动恢复的问题。
Description
技术领域
本发明属于熔断恢复技术领域,尤其涉及一种服务调度的方法及电子设备和存储介质。
背景技术
目前还没有适用于业务依赖第三方服务的使用场景,也无法保证第三方服务异常熔断后功能依旧能正常使用,同时无法监控第三方服务是否恢复正常,恢复正常后实现关闭熔断。现有的技术中实现熔断机制的技术较多,但是熔断后,通常返回缓存数据,此时,服务的功能是降级的,非完全正常的。
现有的相似的技术亦会统计服务的响应计算熔断阈值,达到阈值时触发熔断。触发熔断的机制大同小异,核心在于触发熔断后如何保证从用户的角度,服务正常可用。以及如何检测服务是否恢复正常,并同步关闭熔断。这些熔断技术或者会造成服务的降级(只是保证可访问,但服务不能正常使用),或者不能自动恢复服务正常使用,需要人工恢复服务。
发明人发现:由于业务场景不同,非第三方服务场景,无法通过接入多个第三方服务,熔断时动态切换第三方服务来解决此问题。
发明内容
本发明实施例旨在至少解决上述技术问题之一。
第一方面,本发明实施例提供一种服务调度的方法,包括:调用负载均衡模块确认当前第三方服务是否为异常服务,并判断所述异常服务是否达到熔断阈值,若达到所述熔断阈值则触发熔断;当触发熔断时,经由所述负载均衡模块对所述异常服务的调度比例进行调整;对所述异常服务进行监控,直至所述异常服务恢复正常;响应于所述异常服务恢复正常,恢复对所述异常服务的调度。
第二方面,本发明实施例提供一种电子设备,其包括:至少一个处理器,以及与所述至少一个处理器通信连接的存储器,其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明上述任一项服务调度的方法。
第三方面,本发明实施例提供一种存储介质,所述存储介质中存储有一个或多个包括执行指令的程序,所述执行指令能够被电子设备(包括但不限于计算机,服务器,或者网络设备等)读取并执行,以用于执行本发明上述任一项服务调度的方法。
第四方面,本发明实施例还提供一种计算机程序产品,所述计算机程序产品包括存储在存储介质上的计算机程序,所述计算机程序包括程序指令,当所述程序指令被计算机执行时,使所述计算机执行上述任一项服务调度的方法。
本发明实施例通过对异常服务触发熔断时对该异常服务的调度比例进行调整,从而让该异常服务恢复正常以及恢复调度,可以解决熔断触发后用户服务质量降低,且无法自动恢复的问题。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明的服务调度的方法的一实施例的流程图;
图2为本发明的服务调度的方法的另一实施例的流程图;
图3为本发明的服务调度的方法的又一实施例的流程图;
图4为本发明一实施例提供的一种服务调度的方法的步骤实现图;
图5为本发明一实施例提供的一种服务调度的方法的模块连接示意图;
图6为本发明的电子设备的一实施例的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。
本发明可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、元件、数据结构等等。也可以在分布式计算环境中实践本发明,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
在本发明中,“模块”、“装置”、“系统”等指应用于计算机的相关实体,如硬件、硬件和软件的组合、软件或执行中的软件等。详细地说,例如,元件可以、但不限于是运行于处理器的过程、处理器、对象、可执行元件、执行线程、程序和/或计算机。还有,运行于服务器上的应用程序或脚本程序、服务器都可以是元件。一个或多个元件可在执行的过程和/或线程中,并且元件可以在一台计算机上本地化和/或分布在两台或多台计算机之间,并可以由各种计算机可读介质运行。元件还可以根据具有一个或多个数据包的信号,例如,来自一个与本地系统、分布式系统中另一元件交互的,和/或在因特网的网络通过信号与其它系统交互的数据的信号通过本地和/或远程过程来进行通信。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”,不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本发明实施例提供一种服务调度的方法,该方法可以应用于电子设备。电子设备可以是电脑、服务器或者其他电子产品等,本发明对此不作限定。
请参考图1,其示出了本发明一实施例提供的一种服务调度的方法。
如图1所示,在步骤101中,调用负载均衡模块确认当前第三方服务是否为异常服务,并判断所述异常服务是否达到熔断阈值,若达到所述熔断阈值则触发熔断;
在步骤102中,当触发熔断时,经由所述负载均衡模块对所述异常服务的调度比例进行调整;
在步骤103中,对所述异常服务进行监控,直至所述异常服务恢复正常;
在步骤104中,响应于所述异常服务恢复正常,恢复对所述异常服务的调度。
在本实施例中,对于步骤101,熔断模块调用负载均衡模块的负载均衡数值,其中负载均衡数值可以动态设置,熔断模块确认当前调用的第三方服务是否为异常服务,如果第三方服务正常,则正常响应请求并返回,若第三方法服务为异常,则为异常响应,熔断模块判断第三方异常服务是否达到了熔断阈值,若达到了熔断阈值则触发熔断。
之后,对于步骤102,当第三方异常服务触发熔断时,熔断模块向负载均衡模块发起第三方异常服务的调度比例的调整,例如,触发熔断时,请求负载均衡模块,将异常第三方服务的调度比例设为0,后续请求不再调度至该第三方异常服务,转而调度到其他正常第三方服务。
然后对于步骤103,熔断模块对第三方异常服务进行监控,开始定时轮询异常第三方服务,定时轮询第三方异常服务是否恢复正常,其中通过判断一段时间内正常请求的比例,直至第三方异常服务完全恢复正常,当定时轮询发现第三方异常服务完全恢复正常后,停止对第三方异常服务的定时轮询。
最后对于步骤104,熔断模块发现异常服务恢复正常,恢复对所述异常服务的调度,例如,熔断模块监控到第三方异常服务恢复正常后,请求负载均衡模块,将恢复后的第三方正常服务加到调度列表中。
本申请实施例的方法通过对异常服务触发熔断时对该异常服务的调度比例进行调整,从而让该异常服务恢复正常以及恢复调度,可以解决熔断触发后用户服务质量降低,且无法自动恢复的问题。
请参考图2,其示出了本发明一实施例提供的另一种服务调度的方法。该流程图主要是对流程图图1中步骤101中“确认当前第三方服务是否为异常服务,并判断所述异常服务是否达到熔断阈值,若达到所述熔断阈值则触发熔断”之后进一步限定的步骤的流程图,其中所述熔断阈值与第一正常响应值和第一异常响应值相关。
如图2所示,在步骤201中,若所述当前第三方服务为正常响应,则增加所述当前第三方服务的所述第一正常响应值;
在步骤202中,若所述当前第三方服务为异常响应,则增加所述当前第三方服务的第一异常响应值,当所述当前第三方服务异常响应值达到阈值时则触发熔断。
在本实施例中,对于步骤201,熔断模块如果确认了当前第三方服务为正常服务响应,则增加当前第三方服务的第一正常响应值,例如,如果熔断模块确认当前第三方服务正常,正常响应请求并返回,熔断模块将当前第三方服务正常响应数加1。
对于步骤202,熔断模块如果确认了当前第三方服务为异常服务响应,则增加当前第三方服务的第一异常响应值,当异常下响应值达到了预设阈值时则熔断模块触发熔断,例如,如果熔断模块确认当前第三方服务为响应异常,熔断模块将当前第三方服务异常响应数加1,若异常响应数值达到了预设的阈值,则熔断模块对该当前第三方异常的服务触发熔断。
本申请实施例的方法通过对当前第三方异常服务的异常响应数值与预设的阈值进行对比,来判断当前第三方异常服务是否触发熔断。
在一些可选的实施例中,当第三方异常服务触发熔断时,熔断模块向负载均衡模块发送对该第三方异常服务的调整请求,对第三方异常服务的调度比例进行调整,降低该第三方异常服务的负载均衡比例,并对该第三方异常服务不再发送调度请求,同时将该第三方异常服务的调度请求转发至其他的第三方服务,例如,当第三方异常服务触发熔断时,熔断模块请求负载均衡模块将第三方异常服务的调度比例设为0,负载均衡模块不再对该第三方异常服务进行调度,并将调度请求转发至其他的第三方正常服务。
本申请实施例的方法通过对第三方异常服务的负载均衡比例进行动态设置,并不再对当前第三方异常服务进行调度,可以实现第三方异常服务触发熔断时,不再会有请求调度到异常服务。
再请参考图3,其示出了本发明一实施例提供的另一种服务调度的方法。该流程图主要是对流程图图1中步骤103中“对所述异常服务进行监控,直至所述异常服务恢复正常”进一步限定的步骤的流程图。
如图3所示,在步骤301中,基于对所述异常服务的定时轮询监控,判断所述异常服务是否恢复正常;
在步骤302中,若所述异常服务恢复正常,增加所述异常服务的第二正常响应值;
在步骤303中,若所述异常服务还为异常,则增加所述异常服务的第二异常响应值并实时计算所述异常服务的异常比例,所述异常比例为所述第二异常响应值在所有响应值中的占比,所述所有响应值包含所述第二正常响应值和所述第二异常响应值。
在本实施例中,对于步骤301,熔断模块对第三方异常服务进行定时轮询监控,并判断第三方异常服务是否恢复正常,例如,熔断模块根据轮询请求的响应判断异常的第三方服务是否恢复正常;对于步骤302,如果第三方异常服务恢复正常,则增加第三方异常服务的第二正常响应值,例如,如果第三方异常服务轮询为正常服务,熔断模块将第三方异常服务定时正常响应数加1。
最后对于步骤303,如果第三方异常服务还是为异常响应,则增加第三方异常服务的第二异常响应值,并实时计算第三方异常服务的异常比例,其中异常比例为第二异常响应值在所有响应值中的占比,所有响应值中包含了第二正常响应值和第二异常响应值,例如,如果第三方异常服务响应异常,熔断模块将第三方异常服务第二异常响应数加1并实时计算异常的比例值,其中异常比例值为第二异常响应值在所有响应值中的占比,所有响应值中包括正常响应值和异常响应值。
本申请实施例的方法通过对异常的第三方法服务进行定时轮询,直至第三方异常服务恢复正常,对还未恢复正常的异常服务计算异常比例值,可以实现对还未恢复正常的异常服务进行调整,直至恢复正常,将恢复正常后的第三方异常服务恢复调度。
在一些可选的实施例中,当异常比例低于恢复阈值时,经由负载均衡模块根据恢复阈值对异常服务的负载均衡比例进行调整,其中该阈值是一个描述异常比例的固定值,异常比例是动态的,当异常比例到达阈值时,触发负载均衡的调整,阈值是固定值,调整是异常比例的关系,当异常比例为0时,负载均衡比例恢复至完全正常比例。例如,熔断模块计算第三方异常服务定时异常比例,如果比例降至阈值以下,熔断模块请求负载均衡模块根据阈值调整第三方异常服务的负载均衡比例,其中负载均衡比例是一个值,这个值通常设定为一个比例,比例的含义是为调度至该服务的概率。
在一些可选的实施例中,接受请求方进入网关,其中,网关包括负载均衡模块和熔断模块,其中负载均衡模块能够将请求方的原始请求调度给至少一个当前第三方服务,例如,网关是请求的入口,网关包括负载均衡模块和熔断模块,负载均衡将原始请求分发调度给至少一个第三方服务。
在一些可选的实施例中,负载均衡比例的调整接口开放给所述熔断模块调用,其中,所述负载均衡比例越大调度概率越高,当数值为0则不再调度,例如,调度的概率取决于同一功能的第三方服务的负载均衡值,当负载均衡数值越大的调度概率越高,数值为0则不再调度,负载均衡的数值可以动态设置,负载均衡模块开放接口给熔断模块进行调用。
需要说明的是,请求方可以是设备终端,也可以是其他服务器。第三方服务是实现业务功能的服务,每个服务会请求不同的第三方厂商。因为第三方厂商的协议标准不同,每个第三方服务包含一个适配模块,用于将原始请求数据转换至第三方厂商协议,将第三方厂商响应数据转换为统一数据协议返回给请求方。只有实现相同功能的一组第三方服务在可以在异常时通过负载均衡互相调度。
请参考图4,其出示了本发明的服务调度的方法的步骤实现图。
如图4所示,步骤1:请求方请求网关;
步骤2:网关根据负载均衡各服务调度比例,将请求转发到某一第三方服务N;
步骤3:如果第三方服务N正常,正常响应请求并返回,熔断模块将第三方服务N正常响应数加1;如果第三方服务N响应异常,熔断模块将第三方服务N异常响应数加1;
步骤4:熔断模块计算第三方服务N异常是否达到阈值,若达到阈值,触发熔断,请求负载均衡模块,将第三方服务N的负载均衡比例设置为0;后续请求不再调度至第三方服务N,转而调度到其他正常第三方服务;
步骤5:熔断模块开始定时轮询异常第三方服务N;
步骤6:熔断模块根据轮询请求的响应判断异常的第三方服务是否恢复正常,如果第三方服务N正常,熔断模块将第三方服务N定时正常响应数加1;如果第三方服务N响应异常,熔断模块将第三方服务N定时异常响应数加1;实时计算异常的比例阈值;
步骤7:熔断模块计算第三方服务N定时异常比例,如果比例降至阈值以下,请求负载均衡模块,根据阈值设置第三方服务N的负载均衡比例。熔断结束,第三方服务N恢复调度,后续请求由负载均衡模块概率调度到第三方服务N;
步骤8:熔断模块持续轮询异常的第三方服务N,计算异常阈值,并根据阈值动态请求负载均衡模块设置负载均衡值;直至第三方服务N完全恢复正常,停止定时轮询。
需要说明的是正常响应数和异常响应数是一个数值,初始为0,当接收到响应时判断是否正常来决定是加到正常响应数还是异常响应数,正常响应数和异常数是通过这种方式统计出来的,否则,这两个数值就永远为0。
请参考图5,其出示了本发明的服务调度的方法的模块连接示意图。
如图5所示,1、网关:网关是请求的入口,网关包括负载均衡模块和熔断模块。
2、负载均衡:将原始请求分发调度给后端第三方服务,调度的概率取决于同一功能的第三方服务的负载均衡值。数值越大的调度概率越高,数值为0,则不再调度。负载均衡的数值可以动态设置,并开放接口给熔断模块调用。
3、熔断模块:本专利的核心模块,主要功能包括:
1)统计各第三方服务一段时间内正常、异常的数量(时间可以是分钟、小时等围度),计算熔断阈值,决策是否触发熔断;
2)触发熔断时,请求负载均衡模块,将异常第三方服务的调度比例设为0;
3)在第三方服务异常后,定时监控异常的第三方服务是否恢复正常(通过判断一段时间内正常请求的比例)
4)监控到第三方服务恢复异常后,请求负载均衡模块,将恢复的第三方服务加到调度列表中。
4、第三方服务:第三方服务是实现业务功能的服务,每个服务会请求不同的第三方厂商。因为第三方厂商的协议标准不同,每个第三方服务包含一个适配模块,用于将原始请求数据转换至第三方厂商协议,将第三方厂商响应数据转换为统一数据协议返回给请求方。只有实现相同功能的一组第三方服务才可以在异常时通过负载均衡互相调度。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作合并,但是本领域技术人员应该知悉,本发明并不受所描述的动作顺序的限制,因为依据本发明,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本发明所必须的。在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在一些实施例中,本发明实施例提供一种非易失性计算机可读存储介质,所述存储介质中存储有一个或多个包括执行指令的程序,所述执行指令能够被电子设备(包括但不限于计算机,服务器,或者网络设备等)读取并执行,以用于执行本发明上述任一项服务调度的方法。
在一些实施例中,本发明实施例还提供一种计算机程序产品,所述计算机程序产品包括存储在非易失性计算机可读存储介质上的计算机程序,所述计算机程序包括程序指令,当所述程序指令被计算机执行时,使所述计算机执行上述任一项服务调度的方法。
在一些实施例中,本发明实施例还提供一种电子设备,其包括:至少一个处理器,以及与所述至少一个处理器通信连接的存储器,其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行服务调度的方法。
图6是本申请另一实施例提供的执行服务调度的方法的电子设备的硬件结构示意图,如图6所示,该设备包括:
一个或多个处理器610以及存储器620,图6中以一个处理器610为例。
执行服务调度的方法的设备还可以包括:输入装置630和输出装置640。
处理器610、存储器620、输入装置630和输出装置640可以通过总线或者其他方式连接,图6中以通过总线连接为例。
存储器620作为一种非易失性计算机可读存储介质,可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块,如本申请实施例中的服务调度的方法对应的程序指令/模块。处理器610通过运行存储在存储器620中的非易失性软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例服务调度的方法。
存储器620可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据服务调度的设备的使用所创建的数据等。此外,存储器620可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中,存储器620可选包括相对于处理器610远程设置的存储器,这些远程存储器可以通过网络连接至服务调度的设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
输入装置630可接收输入的数字或字符信息,以及产生与服务调度的设备的用户设置以及功能控制有关的信号。输出装置640可包括显示屏等显示设备。
所述一个或者多个模块存储在所述存储器620中,当被所述一个或者多个处理器610执行时,执行上述任意方法实施例中的服务调度的方法。
上述产品可执行本申请实施例所提供的方法,具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节,可参见本申请实施例所提供的方法。
本申请实施例的电子设备以多种形式存在,包括但不限于:
(1)移动通信设备:这类设备的特点是具备移动通信功能,并且以提供话音、数据通信为主要目标。这类终端包括:智能手机、多媒体手机、功能性手机,以及低端手机等。
(2)超移动个人计算机设备:这类设备属于个人计算机的范畴,有计算和处理功能,一般也具备移动上网特性。这类终端包括:PDA、MID和UMPC设备等。
(3)便携式娱乐设备:这类设备可以显示和播放多媒体内容。该类设备包括:音频、视频播放器,掌上游戏机,电子书,以及智能玩具和便携式车载导航设备。
(4)其他具有数据交互功能的机载电子装置,例如安装上车辆上的车机装置。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对相关技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是:以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。
Claims (10)
1.一种服务调度的方法,包括:
调用负载均衡模块确认当前第三方服务是否为异常服务,并判断所述异常服务是否达到熔断阈值,若达到所述熔断阈值则触发熔断;
当触发熔断时,经由所述负载均衡模块对所述异常服务的调度比例进行调整;
对所述异常服务进行监控,直至所述异常服务恢复正常;
响应于所述异常服务恢复正常,恢复对所述异常服务的调度。
2.根据权利要求1所述的方法,其中,所述熔断阈值与第一正常响应值和第一异常响应值相关,所述确认当前第三方服务是否为异常服务,并判断所述异常服务是否达到熔断阈值,若达到所述熔断阈值则触发熔断包括:
若所述当前第三方服务为正常响应,则增加所述当前第三方服务的所述第一正常响应值;
若所述当前第三方服务为异常响应,则增加所述当前第三方服务的第一异常响应值,当所述当前第三方服务异常响应值达到阈值时则触发熔断。
3.根据权利要求1所述的方法,其中,所述经由所述负载均衡模块将所述异常服务的调度比例进行调整包括:
向所述负载均衡模块发送请求,降低所述异常服务的负载均衡比例。
4.根据权利要求3所述的方法,其中,所述方法还包括:
将所述异常服务的负载均衡比例调整为0,不再对所述异常服务发送调度请求,并将所述异常服务的调度请求转发至其他第三方服务。
5.根据权利要求1所述的方法,其中,所述对所述异常服务进行监控,直至所述异常服务恢复正常包括:
基于对所述异常服务的定时轮询监控,判断所述异常服务是否恢复正常;
若所述异常服务恢复正常,增加所述异常服务的第二正常响应值;
若所述异常服务还为异常,则增加所述异常服务的第二异常响应值并实时计算所述异常服务的异常比例,所述异常比例为所述第二异常响应值在所有响应值中的占比,所述所有响应值包含所述第二正常响应值和所述第二异常响应值。
6.根据权利要求5所述的方法,其中,在所述实时计算所述异常服务的异常比例之后,包括:
当所述异常比例低于恢复阈值时,经由所述负载均衡模块根据所述恢复阈值对所述异常服务的负载均衡比例进行调整。
7.根据权利要求1所述的方法,其中,在所述调用负载均衡模块之前包括:
接受请求方进入网关,其中,所述网关包括所述负载均衡模块和熔断模块,所述负载均衡模块能够将所述请求方的原始请求调度给至少一个所述当前第三方服务。
8.根据权利要求7所述的方法,所述方法还包括:
所述负载均衡比例的调整接口开放给所述熔断模块调用,其中,所述负载均衡比例越大调度概率越高,当数值为0则不再调度。
9.一种电子设备,其包括:至少一个处理器,以及与所述至少一个处理器通信连接的存储器,其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1至8任一项所述方法的步骤。
10.一种存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现权利要求1至8任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210425681.0A CN114710503A (zh) | 2022-04-21 | 2022-04-21 | 服务调度的方法及电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210425681.0A CN114710503A (zh) | 2022-04-21 | 2022-04-21 | 服务调度的方法及电子设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114710503A true CN114710503A (zh) | 2022-07-05 |
Family
ID=82174384
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210425681.0A Pending CN114710503A (zh) | 2022-04-21 | 2022-04-21 | 服务调度的方法及电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114710503A (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130173809A1 (en) * | 2011-12-30 | 2013-07-04 | Certona Corporation | Fault tolerance and maintaining service response under unanticipated load conditions |
CN108600005A (zh) * | 2018-04-23 | 2018-09-28 | 国云科技股份有限公司 | 一种防御微服务雪崩效应的方法 |
CN110134513A (zh) * | 2019-04-17 | 2019-08-16 | 平安科技(深圳)有限公司 | 负载均衡方法、装置、计算机设备及存储介质 |
CN110417614A (zh) * | 2019-06-18 | 2019-11-05 | 平安科技(深圳)有限公司 | 云服务器自检方法、装置、设备及计算机可读存储介质 |
CN111078453A (zh) * | 2019-12-17 | 2020-04-28 | 深圳前海环融联易信息科技服务有限公司 | 微服务自动熔断和恢复方法、装置、计算机设备及存储介质 |
CN111787073A (zh) * | 2020-06-18 | 2020-10-16 | 多加网络科技(北京)有限公司 | 一种统一服务的限流熔断平台及其方法 |
CN113688021A (zh) * | 2021-08-13 | 2021-11-23 | 济南浪潮数据技术有限公司 | 一种负载均衡服务处理方法、装置、设备及可读存储介质 |
-
2022
- 2022-04-21 CN CN202210425681.0A patent/CN114710503A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130173809A1 (en) * | 2011-12-30 | 2013-07-04 | Certona Corporation | Fault tolerance and maintaining service response under unanticipated load conditions |
CN108600005A (zh) * | 2018-04-23 | 2018-09-28 | 国云科技股份有限公司 | 一种防御微服务雪崩效应的方法 |
CN110134513A (zh) * | 2019-04-17 | 2019-08-16 | 平安科技(深圳)有限公司 | 负载均衡方法、装置、计算机设备及存储介质 |
CN110417614A (zh) * | 2019-06-18 | 2019-11-05 | 平安科技(深圳)有限公司 | 云服务器自检方法、装置、设备及计算机可读存储介质 |
CN111078453A (zh) * | 2019-12-17 | 2020-04-28 | 深圳前海环融联易信息科技服务有限公司 | 微服务自动熔断和恢复方法、装置、计算机设备及存储介质 |
CN111787073A (zh) * | 2020-06-18 | 2020-10-16 | 多加网络科技(北京)有限公司 | 一种统一服务的限流熔断平台及其方法 |
CN113688021A (zh) * | 2021-08-13 | 2021-11-23 | 济南浪潮数据技术有限公司 | 一种负载均衡服务处理方法、装置、设备及可读存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10897406B2 (en) | Scheduling method for content delivery network, and device | |
US9753794B2 (en) | Method and apparatus for controlling sending of heartbeat signal | |
CN110620681B (zh) | 网络连接超时时间设置方法、装置、设备及介质 | |
US20150134846A1 (en) | Method and apparatus for media segment request retry control | |
CN112653736B (zh) | 一种并行回源方法、装置及电子设备 | |
CN114710503A (zh) | 服务调度的方法及电子设备和存储介质 | |
US20110280392A1 (en) | Apparatus and method for controlling an amount of concurrent calls | |
CN107707938B (zh) | 降低直播视频播放延迟的方法及装置 | |
CN111355970A (zh) | 一种直播管理方法及装置、电子设备 | |
CN109076008B (zh) | 在用户界面中抑制对到来的通信的指示 | |
CN114416013A (zh) | 数据发送方法、装置、电子设备及计算机可读存储介质 | |
CN113362127A (zh) | 具有高可用性的二手车竞价系统 | |
CN111479137B (zh) | 线路地址的提供方法、装置、服务器及存储介质 | |
CN114666609A (zh) | 视频数据下载方法、装置、电子设备及存储介质 | |
EP3975598A1 (en) | Method, apparatus, and device for subscribing resources in field of internet of things, and storage medium | |
CN113835905A (zh) | 一种消息队列负载均衡方法、装置、电子设备及介质 | |
CN110247808B (zh) | 信息发送方法、装置、设备及可读存储介质 | |
CN108737858A (zh) | 用于交互式网络电视应急的方法和应急系统 | |
CN112541023A (zh) | 在线人数统计方法、电子装置及存储介质 | |
JP5244567B2 (ja) | 通信端末 | |
US9326017B2 (en) | Method and apparatus for setting controlled events for network devices | |
CN112687261B (zh) | 语音识别训练和应用方法及装置 | |
CN110730367A (zh) | 一种视频播放限制方法、装置、系统及存储介质 | |
CN115473806B (zh) | 资源下载控制方法、装置、电子设备和计算机可读介质 | |
CN108040261B (zh) | 网络直播的管理方法、装置及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |