CN113360321B - 微服务重试调用方法、装置、电子设备及存储介质 - Google Patents
微服务重试调用方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN113360321B CN113360321B CN202110700337.3A CN202110700337A CN113360321B CN 113360321 B CN113360321 B CN 113360321B CN 202110700337 A CN202110700337 A CN 202110700337A CN 113360321 B CN113360321 B CN 113360321B
- Authority
- CN
- China
- Prior art keywords
- calling
- micro
- service
- retry
- micro service
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 40
- 230000004044 response Effects 0.000 claims description 55
- 230000035945 sensitivity Effects 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 9
- 238000012544 monitoring process Methods 0.000 claims description 6
- 238000005516 engineering process Methods 0.000 abstract description 2
- 238000005457 optimization Methods 0.000 abstract description 2
- 238000007726 management method Methods 0.000 description 16
- 230000006870 function Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 3
- 238000003672 processing method Methods 0.000 description 3
- 208000027418 Wounds and injury Diseases 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000006378 damage Effects 0.000 description 2
- 208000014674 injury Diseases 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000000047 product Substances 0.000 description 2
- 238000012797 qualification Methods 0.000 description 2
- 238000011144 upstream manufacturing Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/14—Error detection or correction of the data by redundancy in operation
- G06F11/1402—Saving, restoring, recovering or retrying
- G06F11/1415—Saving, restoring, recovering or retrying at system level
- G06F11/1443—Transmit or communication errors
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Telephonic Communication Services (AREA)
Abstract
本发明涉及过程优化技术,揭露了一种微服务重试调用方法,包括:通过分别在微服务的调用未超时、超时及被拦截时生成所述微服务的第一调用数据组、第二调用数据组及第三调用数据组,整合所述微服务的第一调用数据组、第二调用数据组及第三调用数据组,生成所述微服务的重试调用成本,并根据所述重试调用成本,在预构建的重试策略表中查找得到对应的所述微服务的重试调用策略。本发明还提出一种微服务重试调用方法、装置、电子设备以及计算机可读存储介质。本发明可以解决盲目重试调用微服务所引起系统雪崩的问题。
Description
技术领域
本发明涉及过程优化技术领域,尤其涉及一种微服务重试调用方法、装置、电子设备及计算机可读存储介质。
背景技术
微服务是指能够满足业务需求的独立的服务单元,例如,社保管理系统,为普通用户提供了一系列微服务,例如,社保业务预约服务、工伤资格认证服务、社保余额查询服务等。
面对庞大的微服务使用用户和复杂多样的业务需求,微服务的调用场景日趋复杂。例如,微服务嵌套式调用,即微服务的调用涉及多级链路。例如,微服务A调用微服务B,而微服务B为响应微服务A的调用请求,需要再调用微服务C。这种情况下,当所述微服务A的调用需求增加或者所述微服务A的调用链路超长时,一旦上游微服务的调用超时,例如,所述微服务A调用微服务B超时,系统可能频繁执行所述微服务A的重试调用操作,由此会造成系统压力呈指数级别上升,最终可能会导致系统雪崩。
当前微服务架构设计中,考虑较多的是如何拆分微服务以及如何提升微服务的调用效率,减少微服务的调用开销,较少考虑众多微服务间的调用超时的情况下,如何优化微服务的重试调用策略。如上所述,面对越来越多的微服务调用需求以及越来越复杂的微服务的调用场景,当微服务的调用超时,微服务系统盲目地执行微服务调用重试操作,导致系统雪崩的问题亟待解决。
发明内容
本发明提供一种微服务重试调用方法、装置、电子设备及计算机可读存储介质,其主要目的在于解决盲目重试调用微服务引起系统雪崩的问题。
为实现上述目的,本发明提供的一种微服务重试调用方法,包括:
监听到微服务的调用请求时,获取所述微服务的预设超时时长及熔断阈值;
判断在所述超时时长内,是否收到所述微服务调用成功的响应;
若收到所述微服务调用成功的响应,则计算预设时间周期内调用所述微服务产生的第一调用数据组,并将所述第一调用数据组存储到预构建的所述微服务的历史调用数据表中;
若未收到所述微服务调用成功的响应,则计算所述预设时间周期内调用所述微服务产生的第二调用数据组,并将所述第二调用数据组存储到所述历史调用数据表中;
根据所述第二调用数据组及所述熔断阈值,判断是否需要重试调用所述微服务;
若不需要重试调用所述微服务,则发出拦截所述微服务的调用的指令,并计算所述预设时间周期内所述微服务产生的第三调用数据组,并将所述第三调用数据组存储到所述历史调用数据表中;
若需要重试调用所述微服务,则根据所述历史调用数据表,计算得到所述微服务的重试调用成本,并根据预构建的重试策略表及所述重试调用成本,生成所述微服务的重试调用策略,并利用所述重试调用策略对所述微服务执行重试调用。
可选地,所述计算预设时间周期内调用所述微服务产生的第一调用数据组,包括:
分析所述微服务的调用对应的链路节点信息,根据所述链路节点信息计算得到所述微服务的调用链路复杂度;
统计所述预设时间周期内所述微服务的调用次数,根据所述调用次数计算得到所述微服务的调用频率;
统计所述预设时间周期内所述微服务的每次调用对应的响应时长,根据所述每次调用对应的响应时长计算得到所述微服务的平均调用响应时长;
统计所述预设时间周期内所述微服务的调用成功次数,根据所述调用成功次数及所述调用次数得到所述微服务的调用成功率;
汇总所述调用链路复杂度、所述调用频率、所述平均调用响应时长及调用成功率,得到第一调用数据组。
可选地,所述计算所述预设时间周期内调用所述微服务产生的第二调用数据组,包括:
分析所述微服务的调用对应的链路节点信息,根据所述链路节点信息设置所述微服务的调用链路中每一个节点的时延敏感度;
统计所述预设时间周期内所述微服务的调用次数,根据所述调用次数计算得到所述微服务的调用频率;
统计所述预设时间周期内所述微服务的调用失败次数,根据所述调用失败次数计算得到所述微服务的调用失败率;
汇总所述时延敏感度、所述调用频率及所述调用失败率,得到第二调用数据组。
可选地,所述根据所述第二调用数据组及所述熔断阈值,判断是否需要重试调用所述微服务,包括:
从所述第二调用数据组中,获取所述微服务的调用失败率;
判断所述微服务的调用失败率是否达到所述熔断阈值;
若所述微服务的调用失败率未达到所述熔断阈值,则判断需要对所述微服务执行重试调用操作;
若所述微服务的调用失败率达到熔断阈值,则判断不需要对所述微服务执行重试调用操作。
可选地,所述计算所述预设时间周期内所述微服务产生的第三调用数据组,包括:
统计所述预设时间周期内,所述微服务的拦截次数;
从所述第二调用数据组中,获取所述微服务的调用次数,根据所述微服务的调用次数和所述微服务的拦截次数,计算得到所述微服务的拦截频率;
汇总所述拦截次数及所述拦截频率,得到第三调用数据组。
可选地,所述根据所述历史调用数据表,计算得到所述微服务的重试调用成本,包括:
从所述历史调用数据表中,获取所述微服务的第一调用数据组、第二调用数据组及第三调用数据组;
分别对所述第一调用数据组、所述第二调用数据组及所述第三调用数据组中的每一个调用数据设置相应的权重;
根据所有调用数据及对应的权重,执行平均操作,得到所述微服务的重试调用成本。
可选地,所述并根据预构建的重试策略表及所述重试调用成本,生成所述微服务的重试调用策略,包括:
从所述重试策略表中,查找与所述微服务和所述重试调用成本匹配的重试策略;
获取所述重试策略对应的重试间隔时长和所述预设时间周期内最大重试次数;
将所述重试间隔时长和所述最大重试次数组合为所述微服务的重试调用策略。
为了解决上述问题,本发明还提供了一种微服务重试调用装置,所述装置包括:
微服务监听模块,用于监听到微服务的调用请求时,获取所述微服务的预设超时时长及熔断阈值;
超时判断模块,用于判断在所述超时时长内,是否收到所述微服务调用成功的响应;若收到所述微服务调用成功的响应,则计算预设时间周期内调用所述微服务产生的第一调用数据组,并将所述第一调用数据组存储到预构建的所述微服务的历史调用数据表中;若未收到所述微服务调用成功的响应,则计算所述预设时间周期内调用所述微服务产生的第二调用数据组,并将所述第二调用数据组存储到所述历史调用数据表中;
熔断判断模块,用于根据所述第二调用数据组及所述熔断阈值,判断是否需要重试调用所述微服务;若不需要重试调用所述微服务,则发出拦截所述微服务的调用的指令,并计算所述预设时间周期内所述微服务产生的第三调用数据组,并将所述第三调用数据组存储到所述历史调用数据表中;
重试策略生成模块,用于若需要重试调用所述微服务,则根据所述历史调用数据表,计算得到所述微服务的重试调用成本,并根据预构建的重试策略表及所述重试调用成本,生成所述微服务的重试调用策略,并利用所述重试调用策略对所述微服务执行重试调用。
为了解决上述问题,本发明还提供了一种电子设备,所述电子设备包括:
存储器,存储至少一个计算机程序;及
处理器,执行所述存储器中存储的计算机程序以实现上述所述的微服务重试调用方法。
为了解决上述问题,本发明还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一个计算机程序,所述至少一个计算机程序被电子设备中的处理器执行以实现上述所述的微服务重试调用方法。
本发明实施例通过分别在微服务的调用未超时、超时及被拦截时生成所述微服务的第一调用数据组、第二调用数据组及第三调用数据组,整合所述微服务的第一调用数据组、第二调用数据组及第三调用数据组,生成所述微服务的重试调用成本,并根据所述重试调用成本,在预构建的重试策略表中查找得到对应的所述微服务的重试调用策略,提升了微服务重试调用的智能化水平,杜绝了微服务系统盲目执行微服务重试调用操作,因此本申请提出的微服务重试调用方法、装置、电子设备及计算机可读存储介质,可以解决盲目重试调用微服务所引起系统雪崩的问题。
附图说明
图1为本发明一实施例提供的微服务重试调用方法的流程示意图;
图2为本发明一实施例提供的收到微服务调用成功的响应时的处理方法的流程示意图;
图3本发明一实施例提供的未收到微服务调用成功的响应时的处理方法的流程示意图;
图4本发明一实施例提供的不需要重试调用所述微服务时的处理方法的流程示意图;
图5本发明一实施例提供的微服务调用策略生成方法的流程示意图;
图6为本发明一实施例提供的微服务重试调用方法的装置的功能模块图;
图7为本发明一实施例提供的实现所述微服务重试调用方法的电子设备的结构示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本申请实施例提供微服务重试调用方法。所述微服务重试调用方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之,所述微服务重试调用方法可以由安装在终端设备或服务端设备的软件或硬件来执行,所述软件可以是区块链平台。所述服务端包括但不限于:单台服务器、服务器集群、云端服务器或云端服务器集群等。
参照图1所示,为本发明一实施例提供的微服务重试调用方法的流程示意图。在本实施例中,所述微服务重试调用方法包括:
S1、监听到微服务的调用请求时,获取所述微服务的预设超时时长及熔断阈值;
本发明实施例中,所述微服务以社保管理系统提供的微服务为例进行说明。所述社保管理系统为用户提供了一系列微服务,例如社保业务预约服务、养老工伤资格认证服务等,每一类微服务又可以拆分为更小的微服务,例如,社保业务预约服务又包含用户注册微服务、业务网点查询等微服务。
所述社保管理系统的普通用户或维护人员,都可以发起微服务调用请求,例如维护人员发起业务网点查询的微服务调用请求。
本发明实施例中,所述超时时长,是指一段时间,例如3秒,以对所述微服务执行调用操作的时刻为起点。在所述超时时长内,例如,3秒内,若收到所述微服务调用成功的响应,表示所述微服务调用未超时,若在3秒内,没有收到所述微服务调用成功的响应,表示所述微服务调用超时。
本发明实施例中,所述熔断阈值表示停止调用所述微服务的限制条件,通常可以根据所述条件设置所述熔断阈值,例如,在单位时间内,例如5秒内,当所述微服务的重试调用次数达到8次时,停止调用所述微服务,这种条件下,可以设置所述熔断阈值等于8,即单位时间内所述微服务重试调用的最大次数为8。
S2、判断在所述超时时长内,是否收到所述微服务调用成功的响应;
本发明实施例中,较佳地,可以每间隔一段时间主动获取所述微服务调用成功的响应。
详细地,所述判断在所述超时时长内,是否收到所述微服务调用成功的响应,包括:
以所述超时时长为计时周期,在所述计时周期内,每间隔1ms获取所述微服务调用成功的响应,当所述计时周期未结束且未获取到所述微服务调用成功的响应时,返回所述每间隔1ms获取所述微服务调用成功的响应的步骤,直到在所述计时周期内获取到所述微服务调用成功的响应,或者当所述计时周期结束时,停止获取所述微服务调用成功的响应的操作。本发明实施例中,获取所述微服务调用成功的响应操作的间隔时长为1ms,在实际应用中,可以根据微服务系统的状态,运行的微服务的数量、微服务调用链路的长短等情况,设置所述间隔时长。
若收到所述微服务调用成功的响应,则执行S3、计算预设时间周期内调用所述微服务产生的第一调用数据组,并将所述第一调用数据组存储到预构建的所述微服务的历史调用数据表中;
微服务的重试调用通常发现在微服务系统繁忙阶段,因此在本发明实施例中,所述预设时间周期可以设置为所述社保管理系统繁忙阶段,例如,工作日的上午10:00至11:30时间段,下午3:30至4:30时间段。
在实际应用中,为了更精细化地反映微服务的调用情况,所述预设时间周期可以设置为更小颗粒度的时间段,例如半小时、15分钟或者5分钟。
本发明实施例中,所述历史调用数据表是用来存储在所述预设时间周期内内,所述微服务每一次的调用记录,包括所述微服务的调用次数、调用失败次数、调用成功次数、调用链路信息等。
详细地,参阅图2所示,所述S3,包括:
S31、分析所述微服务的调用对应的链路节点信息,根据所述链路节点信息计算得到所述微服务的调用链路复杂度;
S32、统计所述预设时间周期内所述微服务的调用次数,根据所述调用次数计算得到所述微服务的调用频率;
S33、统计所述预设时间周期内所述微服务的每次调用对应的响应时长,根据所述每次调用对应的响应时长计算得到所述微服务的平均调用响应时长;
S34、统计所述预设时间周期内所述微服务的调用成功次数,根据所述调用成功次数及所述调用次数得到所述微服务的调用成功率;
S35、汇总所述调用链路复杂度、所述调用频率、所述平均调用响应时长及调用成功率,得到第一调用数据组;
S36、将所述第一调用数据组存储到预构建的所述微服务的历史调用数据表中。
本发明实施例中,所述链路节点信息是指完成所述微服务的调用所经过的路径的节点信息,例如调用微服务A需要先调用微服务B,而调用所述微服务B又需要先调用微服务C,则所述微服务A的调用链路节点信息为微服务A->微服务B->微服务C。
所述微服务的调用链路复杂度可以包括所述微服务的调用链路的节点数,即所述微服务的调用链路的深度,还可以包括所述微服务的调用链路的结构信息,例如,串行调用结构,如上述微服务A->微服务B->微服务C,或串行和并行混合结构。例如,微服务B需要同时调用微服务C和微服务D,将微服务C和微服务D的返回结果组合后,才能响应微服务A的调用请求,这种情况下就存在微服务A到微服务B、微服务B到微服务C和微服务B到微服务D的串行和并行混合结构。
本发明实施例中,可以针对上述所述节点数、所述结构信息设置不同的权重,根据实际的节点数和实际结构信息及对应的权重,执行平均操作,得到所述微服务的调用链路复杂度。
本发明实施例中,所述第一调用数据组包括所述调用链路复杂度、所述调用频率、所述平均调用响应时长及调用成功率,在实际应用中,可以根据实际微服务系统状况增加或替换所述第一调用数据组,例如,可以增加微服务系统各项负荷数据、微服务调用上下游各链路时长分析数据等。
若未收到所述微服务调用成功的响应,则执行S4、计算所述预设时间周期内调用所述微服务产生的第二调用数据组,并将所述第二调用数据组存储到所述历史调用数据表中;
本发明实施例中,所述第二调用数据组是针对所述微服务的调用发生超时时,计算得到的一组数据,包括但不限于下述所述的时延敏感度、调用频率及调用失败率。在实际应用中,可以增加或替换所述第二调用数据组,例如,可以增加当所述微服务调用超时时,所述社保管理系统的各项负荷数据。
详细地,参阅图3所示,所述S4,包括:
S41、分析所述微服务的调用对应的链路节点信息,根据所述链路节点信息设置所述微服务的调用链路中每一个节点的时延敏感度;
S42、统计所述预设时间周期内所述微服务的调用次数,根据所述调用次数计算得到所述微服务的调用频率;
S43、统计所述预设时间周期内所述微服务的调用失败次数,根据所述调用失败次数计算得到所述微服务的调用失败率;
S44、汇总所述时延敏感度、所述调用频率及所述调用失败率,得到第二调用数据组;
S45、将所述第二调用数据组存储到所述历史调用数据表中。
本发明实施例中,所述时延敏感度是指在所述微服务的调用链路中,任一节点发生调用超时时对所述社保管理系统的影响程度,影响程度越高其对应节点的时延敏感度也就越高。
本发明实施例中,可以根据每一个节点收到所述节点调用所述节点下游临近节点成功的平均响应时长,设置所述时延敏感度。通常可以理解为所述平均响应时长越长,对所述社保管理系统的影响程度越高,相应的所述时延敏感度也就越高。
S5、根据所述第二调用数据组及所述熔断阈值,判断是否需要重试调用所述微服务;
本发明实施例中,所述熔断阈值设置为在所述预设时间周期内,所述微服务的最大调用失败率,在实际应用中,所述熔断阈值可以设置为在所述预设时间周期内,所述微服务的最大调用失败次数或者所述微服务的最大调用超时次数。
本发明实施例中,所述根据所述第二调用数据组及所述熔断阈值,判断是否需要重试调用所述微服务,包括:从所述第二调用数据组中,获取所述微服务的调用失败率;判断所述微服务的调用失败率是否达到所述熔断阈值;若所述微服务的调用失败率未达到所述熔断阈值,则判断需要对所述微服务执行重试调用操作;若所述微服务的调用失败率达到熔断阈值,则判断不需要对所述微服务执行重试调用操作。
若不需要重试调用所述微服务,则执行S6、发出拦截所述微服务的调用的指令,并计算所述预设时间周期内所述微服务产生的第三调用数据组,并将所述第三调用数据组存储到所述历史调用数据表中;
本发明实施例中,所述第三调用数据组是针对所述微服务的调用需要被拦截时,计算得到的一组数据,包括但不限于下述所述的拦截次数、拦截频率。在实际应用中,可以增加或替换所述第三调用数据组,例如,可以增加当所述微服务被拦截时,所述社保管理系统的各项负荷数据。
详细地,参阅图4所示,所述S6,包括:
S61、发出拦截所述微服务的调用的指令;
S62、统计所述预设时间周期内,所述微服务的拦截次数;
S63、从所述第二调用数据组中,获取所述微服务的调用次数,根据所述微服务的调用次数和所述微服务的拦截次数,计算得到所述微服务的拦截频率;
S64、汇总所述拦截次数及所述拦截频率,得到第三调用数据组;
S65、将所述第三调用数据组存储到所述历史调用数据表中。
本发明实施例中,所述微服务的拦截频率=所述微服务的拦截次数/所述微服务的调用次数。
若需要重试调用所述微服务,则执行S7、根据所述历史调用数据表,计算得到所述微服务的重试调用成本,并根据预构建的重试策略表及所述重试调用成本,生成所述微服务的重试调用策略,并利用所述重试调用策略对所述微服务执行重试调用。
本发明实施例中,所述重试调用成本,即重试调用所述微服务对所述社保管理系统造成的影响程度,影响越大其对应的重试调用成本越高。
本发明实施例中,所述重试策略表,用来定义不同的微服务,在不同的重试调用成本或不同的重试调用成本区间内,如何发起对所述微服务的的重试调用操作,即对重试调用方式的限定。例如,固定时间间隔重试、单位时间段内随机重试、单位时间段内最大重试次数等。例如,每隔1秒,对所述微服务执行一次重试调用操作,在预设时间周期内,连续重试次数累计不超过5次。
本发明实施例中,所述重试策略表主要定义了重试时间间隔和预设时间周期内最大重试次数,在实际应用中,可以对重试策略做更多的限定或补充。
通常若所述微服务的重试调用成本越高,则相应的所述重试时间间隔越长,所述预设时间周期内最大重试次数越小,这样设置的目的是为了减少重试调用所述微服务对所述社保系统的冲击。
详细地,参阅图5所示,所述S7,包括:
S71、从所述历史调用数据表中,获取所述微服务的第一调用数据组、第二调用数据组及第三调用数据组;
S72、分别对所述第一调用数据组、所述第二调用数据组及所述第三调用数据组中的每一个调用数据设置相应的权重;
S73、根据所有调用数据及对应的权重,执行平均操作,得到所述微服务的重试调用成本;
S74、从所述重试策略表中,查找与所述微服务和所述重试调用成本匹配的重试策略;
S75、获取所述重试策略对应的重试间隔时长和预设时间周期内最大重试次数;
S76、将所述重试间隔时长和所述预设时间周期内最大重试次数组合为所述微服务的重试调用策略。
较佳地,本发明实施例中,所述预设超时时长、所述熔断阈值、所述历史调用记录表及所述重试策略表可以利用配置工具集中配置,统一管理,例如可以通过Apollo配置中心实现对所述微服务重试调用方法涉及的所有配置集中配置和统一管理。
本发明实施例通过分别在微服务的调用未超时、超时及被拦截时生成所述微服务的第一调用数据组、第二调用数据组及第三调用数据组,整合所述微服务的第一调用数据组、第二调用数据组及第三调用数据组,生成所述微服务的重试调用成本,并根据所述重试调用成本,在预构建的重试策略表中查找得到对应的所述微服务的重试调用策略,提升了微服务重试调用的智能化水平,杜绝了微服务系统盲目执行微服务重试调用操作,因此本申请提出的微服务重试调用方法、装置、电子设备及计算机可读存储介质,可以解决盲目重试调用微服务所引起系统雪崩的问题。
如图6所示,是本发明一实施例提供的微服务重试调用装置的功能模块图。
本发明所述微服务重试调用装置100可以安装于电子设备中。根据实现的功能,所述微服务重试调用装置100可以包括微服务监听模块101、超时判断模块102、熔断判断模块103及重试策略生成模块104。本发明所述模块也可以称之为单元,是指一种能够被电子设备处理器所执行,并且能够完成固定功能的一系列计算机程序段,其存储在电子设备的存储器中。
所述微服务监听模块101,用于监听到微服务的调用请求时,获取所述微服务的预设超时时长及熔断阈值;
所述超时判断模块102,用于判断在所述超时时长内,是否收到所述微服务调用成功的响应;若收到所述微服务调用成功的响应,则计算预设时间周期内调用所述微服务产生的第一调用数据组,并将所述第一调用数据组存储到预构建的所述微服务的历史调用数据表中;若未收到所述微服务调用成功的响应,则计算所述预设时间周期内调用所述微服务产生的第二调用数据组,并将所述第二调用数据组存储到所述历史调用数据表中;
所述熔断判断模块103,用于根据所述第二调用数据组及所述熔断阈值,判断是否需要重试调用所述微服务;若不需要重试调用所述微服务,则发出拦截所述微服务的调用的指令,并计算所述预设时间周期内所述微服务产生的第三调用数据组,并将所述第三调用数据组存储到所述历史调用数据表中;
所述重试策略生成模块104,用于若需要重试调用所述微服务,则根据所述历史调用数据表,计算得到所述微服务的重试调用成本,并根据预构建的重试策略表及所述重试调用成本,生成所述微服务的重试调用策略,并利用所述重试调用策略对所述微服务执行重试调用。
详细地,本发明实施例中所述微服务重试调用装置100中的各个模块在使用时采用与上述的图1至图5中所述的微服务重试调用方法一样的技术手段,并能够产生相同的技术效果,这里不再赘述。
如图7所示,是本发明一实施例提供的实现微服务重试调用方法的电子设备的结构示意图。
所述电子设备1可以包括处理器10、存储器11和总线,还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序,如微服务重试调用程序。
其中,所述存储器11至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元,例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备,例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(SecureDigital,SD)卡、闪存卡(Flash Card)等。进一步地,所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据,例如微服务重试调用代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器10在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(Control Unit),利用各种接口和线路连接整个电子设备的各个部件,通过运行或执行存储在所述存储器11内的程序或者模块(例如微服务重试调用程序等),以及调用存储在所述存储器11内的数据,以执行电子设备1的各种功能和处理数据。
所述总线可以是外设部件互连标准(peripheral component interconnect,简称PCI)总线或扩展工业标准结构(extended industry standard architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
图7仅示出了具有部件的电子设备,本领域技术人员可以理解的是,图7示出的结构并不构成对所述电子设备1的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
例如,尽管未示出,所述电子设备1还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器10逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
进一步地,所述电子设备1还可以包括网络接口,可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地,该电子设备1还可以包括用户接口,用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
所述电子设备1中的所述存储器11存储的微服务重试调用程序是多个指令的组合,在所述处理器10中运行时,可以实现:
监听到微服务的调用请求时,获取所述微服务的预设超时时长及熔断阈值;
判断在所述超时时长内,是否收到所述微服务调用成功的响应;
若收到所述微服务调用成功的响应,则计算预设时间周期内调用所述微服务产生的第一调用数据组,并将所述第一调用数据组存储到预构建的所述微服务的历史调用数据表中;
若未收到所述微服务调用成功的响应,则计算所述预设时间周期内调用所述微服务产生的第二调用数据组,并将所述第二调用数据组存储到所述历史调用数据表中;
根据所述第二调用数据组及所述熔断阈值,判断是否需要重试调用所述微服务;
若不需要重试调用所述微服务,则发出拦截所述微服务的调用的指令,并计算所述预设时间周期内所述微服务产生的第三调用数据组,并将所述第三调用数据组存储到所述历史调用数据表中;
若需要重试调用所述微服务,则根据所述历史调用数据表,计算得到所述微服务的重试调用成本,并根据预构建的重试策略表及所述重试调用成本,生成所述微服务的重试调用策略,并利用所述重试调用策略对所述微服务执行重试调用。
具体地,所述处理器10对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
进一步地,所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读存储介质中。所述计算机可读存储介质可以是易失性的,也可以是非易失性的。例如,所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
本发明还提供一种计算机可读存储介质,所述可读存储介质存储有计算机程序,所述计算机程序在被电子设备的处理器所执行时,可以实现:
监听到微服务的调用请求时,获取所述微服务的预设超时时长及熔断阈值;
判断在所述超时时长内,是否收到所述微服务调用成功的响应;
若收到所述微服务调用成功的响应,则计算预设时间周期内调用所述微服务产生的第一调用数据组,并将所述第一调用数据组存储到预构建的所述微服务的历史调用数据表中;
若未收到所述微服务调用成功的响应,则计算所述预设时间周期内调用所述微服务产生的第二调用数据组,并将所述第二调用数据组存储到所述历史调用数据表中;
根据所述第二调用数据组及所述熔断阈值,判断是否需要重试调用所述微服务;
若不需要重试调用所述微服务,则发出拦截所述微服务的调用的指令,并计算所述预设时间周期内所述微服务产生的第三调用数据组,并将所述第三调用数据组存储到所述历史调用数据表中;
若需要重试调用所述微服务,则根据所述历史调用数据表,计算得到所述微服务的重试调用成本,并根据预构建的重试策略表及所述重试调用成本,生成所述微服务的重试调用策略,并利用所述重试调用策略对所述微服务执行重试调用。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (9)
1.一种微服务重试调用方法,其特征在于,所述方法包括:
监听到微服务的调用请求时,获取所述微服务的预设超时时长及熔断阈值;
判断在所述超时时长内,每间隔预设时间段主动获取所述微服务是否调用成功的响应;
若收到所述微服务调用成功的响应,则计算预设时间周期内调用所述微服务产生的包含调用链路复杂度、调用频率、平均调用响应时长及调用成功率的第一调用数据组,并将所述第一调用数据组存储到预构建的所述微服务的历史调用数据表中;
若未收到所述微服务调用成功的响应,则计算所述预设时间周期内调用所述微服务产生的包含时延敏感度、调用频率及调用失败率的第二调用数据组,并将所述第二调用数据组存储到所述历史调用数据表中;
根据所述第二调用数据组及所述熔断阈值,判断是否需要重试调用所述微服务;
若不需要重试调用所述微服务,则发出拦截所述微服务的调用的指令,并计算所述预设时间周期内所述微服务产生的包含拦截次数及拦截频率的第三调用数据组,并将所述第三调用数据组存储到所述历史调用数据表中;
若需要重试调用所述微服务,则根据所述历史调用数据表,计算得到所述微服务的重试调用成本,从预构建的重试策略表中,查找与所述微服务和所述重试调用成本匹配的重试策略,获取所述重试策略对应的重试间隔时长和所述预设时间周期内最大重试次数,将所述重试间隔时长和所述预设时间周期内最大重试次数组合为所述微服务的重试调用策略。
2.如权利要求1所述的微服务重试调用方法,其特征在于,所述计算预设时间周期内调用所述微服务产生的包含调用链路复杂度、调用频率、平均调用响应时长及调用成功率的第一调用数据组,包括:
分析所述微服务的调用对应的链路节点信息,根据所述链路节点信息计算得到所述微服务的调用链路复杂度;
统计所述预设时间周期内所述微服务的调用次数,根据所述调用次数计算得到所述微服务的调用频率;
统计所述预设时间周期内所述微服务的每次调用对应的响应时长,根据所述每次调用对应的响应时长计算得到所述微服务的平均调用响应时长;
统计所述预设时间周期内所述微服务的调用成功次数,根据所述调用成功次数及所述调用次数得到所述微服务的调用成功率;
汇总所述调用链路复杂度、所述调用频率、所述平均调用响应时长及调用成功率,得到第一调用数据组。
3.如权利要求1所述的微服务重试调用方法,其特征在于,所述计算所述预设时间周期内调用所述微服务产生的包含时延敏感度、调用频率及调用失败率的第二调用数据组,包括:
分析所述微服务的调用对应的链路节点信息,根据所述链路节点信息设置所述微服务的调用链路中每一个节点的时延敏感度;
统计所述预设时间周期内所述微服务的调用次数,根据所述调用次数计算得到所述微服务的调用频率;
统计所述预设时间周期内所述微服务的调用失败次数,根据所述调用失败次数计算得到所述微服务的调用失败率;
汇总所述时延敏感度、所述调用频率及所述调用失败率,得到第二调用数据组。
4.如权利要求3所述的微服务重试调用方法,其特征在于,所述根据所述第二调用数据组及所述熔断阈值,判断是否需要重试调用所述微服务,包括:
从所述第二调用数据组中,获取所述微服务的调用失败率;
判断所述微服务的调用失败率是否达到所述熔断阈值;
若所述微服务的调用失败率未达到所述熔断阈值,则判断需要对所述微服务执行重试调用操作;
若所述微服务的调用失败率达到熔断阈值,则判断不需要对所述微服务执行重试调用操作。
5.如权利要求4所述的微服务重试调用方法,其特征在于,所述计算所述预设时间周期内所述微服务产生的包含拦截次数及拦截频率的第三调用数据组,包括:
统计所述预设时间周期内,所述微服务的拦截次数;
从所述第二调用数据组中,获取所述微服务的调用次数,根据所述微服务的调用次数和所述微服务的拦截次数,计算得到所述微服务的拦截频率;
汇总所述拦截次数及所述拦截频率,得到第三调用数据组。
6.如权利要求1至5中任意一项所述的微服务重试调用方法,其特征在于,所述根据所述历史调用数据表,计算得到所述微服务的重试调用成本,包括:
从所述历史调用数据表中,获取所述微服务的第一调用数据组、第二调用数据组及第三调用数据组;
分别对所述第一调用数据组、所述第二调用数据组及所述第三调用数据组中的每一个调用数据设置相应的权重;
根据所有调用数据及对应的权重,执行平均操作,得到所述微服务的重试调用成本。
7.一种微服务重试调用方法装置,其特征在于,所述装置包括:
微服务监听模块,用于监听到微服务的调用请求时,获取所述微服务的预设超时时长及熔断阈值;
超时判断模块,用于判断在所述超时时长内,每间隔预设时间段主动获取所述微服务是否调用成功的响应;若收到所述微服务调用成功的响应,则计算预设时间周期内调用所述微服务产生的包含调用链路复杂度、调用频率、平均调用响应时长及调用成功率的第一调用数据组,并将所述第一调用数据组存储到预构建的所述微服务的历史调用数据表中;若未收到所述微服务调用成功的响应,则计算所述预设时间周期内调用所述微服务产生的包含时延敏感度、调用频率及调用失败率的第二调用数据组,并将所述第二调用数据组存储到所述历史调用数据表中;
熔断判断模块,用于根据所述第二调用数据组及所述熔断阈值,判断是否需要重试调用所述微服务;若不需要重试调用所述微服务,则发出拦截所述微服务的调用的指令,并计算所述预设时间周期内所述微服务产生的包含拦截次数及拦截频率的第三调用数据组,并将所述第三调用数据组存储到所述历史调用数据表中;
重试策略生成模块,用于若需要重试调用所述微服务,则根据所述历史调用数据表,计算得到所述微服务的重试调用成本,从预构建的重试策略表中,查找与所述微服务和所述重试调用成本匹配的重试策略,获取所述重试策略对应的重试间隔时长和所述预设时间周期内最大重试次数,将所述重试间隔时长和所述预设时间周期内最大重试次数组合为所述微服务的重试调用策略。
8.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至6中任意一项所述的微服务重试调用方法。
9.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6中任意一项所述的微服务重试调用方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110700337.3A CN113360321B (zh) | 2021-06-23 | 2021-06-23 | 微服务重试调用方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110700337.3A CN113360321B (zh) | 2021-06-23 | 2021-06-23 | 微服务重试调用方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113360321A CN113360321A (zh) | 2021-09-07 |
CN113360321B true CN113360321B (zh) | 2023-02-07 |
Family
ID=77535937
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110700337.3A Active CN113360321B (zh) | 2021-06-23 | 2021-06-23 | 微服务重试调用方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113360321B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113867841A (zh) * | 2021-09-29 | 2021-12-31 | 中国平安财产保险股份有限公司 | 业务系统的调用异常处理方法、装置、设备及存储介质 |
CN115250230A (zh) * | 2022-07-22 | 2022-10-28 | 中国电信股份有限公司 | 基于微服务的网元计时器管理方法、系统及相关设备 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112567688A (zh) * | 2018-10-12 | 2021-03-26 | 国际商业机器公司 | 用于嵌入的云微服务的自动调谐器 |
CN113010330A (zh) * | 2021-03-03 | 2021-06-22 | 福建天泉教育科技有限公司 | 一种微服务请求重试的方法及终端 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110262972B (zh) * | 2019-06-17 | 2020-12-08 | 中国科学院软件研究所 | 一种面向微服务应用的失效测试工具及方法 |
CN111078453B (zh) * | 2019-12-17 | 2024-03-29 | 深圳前海环融联易信息科技服务有限公司 | 微服务自动熔断和恢复方法、装置、计算机设备及存储介质 |
CN112965823B (zh) * | 2021-03-24 | 2023-12-26 | 百度在线网络技术(北京)有限公司 | 调用请求的控制方法、装置、电子设备和存储介质 |
-
2021
- 2021-06-23 CN CN202110700337.3A patent/CN113360321B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112567688A (zh) * | 2018-10-12 | 2021-03-26 | 国际商业机器公司 | 用于嵌入的云微服务的自动调谐器 |
CN113010330A (zh) * | 2021-03-03 | 2021-06-22 | 福建天泉教育科技有限公司 | 一种微服务请求重试的方法及终端 |
Also Published As
Publication number | Publication date |
---|---|
CN113360321A (zh) | 2021-09-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2019114128A1 (zh) | 区块链事务区块处理方法、电子装置及可读存储介质 | |
CN113360321B (zh) | 微服务重试调用方法、装置、电子设备及存储介质 | |
CN108243264A (zh) | 一种序列号生成方法及系统 | |
CN111694844A (zh) | 基于配置算法的企业运行数据分析方法、装置及电子设备 | |
CN113259446A (zh) | 基于用户忠诚度的app消息发送方法、装置、设备及介质 | |
CN110990245A (zh) | 基于调用链数据的微服务运行状态判断方法及装置 | |
CN113890712A (zh) | 数据传输方法、装置、电子设备及可读存储介质 | |
CN112948723A (zh) | 接口调用方法、装置及相关设备 | |
CN111669466A (zh) | 智能外呼系统配置方法、装置及计算机可读存储介质 | |
CN114640707A (zh) | 一种消息异步处理方法、装置、电子设备及存储介质 | |
CN112540839B (zh) | 信息变更方法、装置、电子设备及存储介质 | |
CN111858604B (zh) | 数据存储方法、装置、电子设备及存储介质 | |
CN112217639A (zh) | 数据的加密共享方法、装置、电子设备及计算机存储介质 | |
CN115471215B (zh) | 一种业务流程处理方法及装置 | |
CN115687384A (zh) | Uuid标识生成方法、装置、设备及存储介质 | |
CN103246551A (zh) | 用于管理后台定时任务的设备和方法 | |
CN112257078B (zh) | 一种基于tee技术的区块链加解密服务安全可信系统 | |
CN113127109A (zh) | 接口调用方法、装置、电子设备及可读存储介质 | |
CN116560882A (zh) | 故障根因定位方法、装置、设备及计算机存储介质 | |
CN114003316A (zh) | 集群定时任务执行方法、装置、电子设备及存储介质 | |
CN112532721B (zh) | 集群调用方法、装置、电子设备及存储介质 | |
CN116881980B (zh) | 一种强化区块链系统节点下的数据防篡改方法及装置 | |
CN117349030B (zh) | 基于云计算集群的医疗数字系统、方法及设备 | |
CN114240459A (zh) | 基于服务速度的供应商选择方法、装置、设备及存储介质 | |
CN114186870A (zh) | 外呼接入号转接分配方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |