CN114785861A - 一种服务请求转发系统、方法、计算机设备和存储介质 - Google Patents
一种服务请求转发系统、方法、计算机设备和存储介质 Download PDFInfo
- Publication number
- CN114785861A CN114785861A CN202210711475.6A CN202210711475A CN114785861A CN 114785861 A CN114785861 A CN 114785861A CN 202210711475 A CN202210711475 A CN 202210711475A CN 114785861 A CN114785861 A CN 114785861A
- Authority
- CN
- China
- Prior art keywords
- gateway
- service instance
- health check
- service
- response status
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本申请提供了一种服务请求转发系统、方法、计算机设备和存储介质,所述系统包括:网关管理平台、网关服务实例和服务器,所述网关用于根据所述服务实例的指令配置所述服务实例的健康检查端点的响应状态码,所述响应状态码用于表征所述服务实例是否可用;所述服务器用于检测所述服务实例的健康检查端点的响应状态码,向可用的服务实例转发客户端的服务请求。服务器通过探活模块主动检测服务实例的状态,在服务实例不可用前配置不可用的状态,使服务器提前获知该服务实例即将不可用,便不再向该服务实例转发客户请求,避免不可用的服务实例超时等待造成的的服务时延。
Description
技术领域
本申请涉及计算机技术领域,尤其涉及一种服务请求转发系统、方法、计算机设备和存储介质。
背景技术
随着互联网的发展,微服务的应用越来越普遍,当前微服务部署的主流架构包括服务器、网关和提供多种业务服务的服务实例。服务器或反向代理服务器接收客户端的请求后,将该请求转发给网关,网关再将请求转发给业务的服务实例,服务实例对客户端的请求进行处理。网关会不定期进行新服务发布,以更新所述服务实例。
目前,网关在进行新服务发布时,需要将网关对应的服务实例逐一进行重启,被重启的实例在一定时间内处于不可用状态。在此过程中,服务器或反向代理服务器仍然会将客户端请求转发给被重启的不可用的服务实例,在响应超时后,转发给其他的服务实例,处理客户端请求。
网关进行新服务发布时,虽然最终能够处理客户端请求,但是服务的延时变大,影响最终用户体验。
发明内容
基于上述问题,本申请提供了一种服务请求转发系统、方法、计算机设备和存储介质,能够在网关发布新服务的过程中减少服务延时。
本申请公开了如下技术方案:
本申请第一方面提供一种服务请求转发系统,包括:网关管理平台、网关服务实例和服务器,所述网关服务实例包括健康检查端点;
所述网关管理平台用于配置各网关服务实例的健康检查端点的响应状态码,所述响应状态码用于表征所述各网关服务实例是否可用;
所述服务器用于检测所述各网关服务实例的健康检查端点的响应状态码,向可用的网关服务实例转发客户端的服务请求。
在一个可能的实现方式中,所述网关管理平台具体用于在所述各网关服务实例不可用前,配置对应的健康检查端点的响应状态码为不可用状态码。
在一个可能的实现方式中,所述网关管理平台具体用于:配置所述各网关服务实例的健康检查端点的状态变量值,根据所述状态变量值配置对应的健康检查端点的响应状态码。
在一个可能的实现方式中,所述服务器具体用于每隔预设时间循环检测一次所述各网关服务实例的健康检查端点的响应状态码;
所述服务器还用于当连续预设次数检测到同一个网关服务实例的健康检查端点的响应状态码为不可用状态码时,在服务发现地址列表中屏蔽不可用的网关服务实例地址。
在一个可能的实现方式中,所述服务器通过配置的探活模块检测所述各服务实例的健康检查端点的响应状态码。
在一个可能的实现方式中,所述系统还包括业务服务实例,用于接收所述可用的网关服务实例转发的所述客户端请求,所述客户请求是由所述服务器转发给所述可用的网关服务实例的。
本申请第二方面提供一种服务请求转发方法,包括:
网关管理平台配置各网关服务实例的健康检查端点的响应状态码,所述响应状态码用于表征所述各网关服务实例是否可用;以使服务器检测到所述各网关服务实例的健康检查端点的响应状态码,向可用的网关服务实例转发客户端的服务请求。
在一个可能的实现方式中,所述网关管理平台配置各网关服务实例的健康检查端点的响应状态码,包括:所述网关管理平台在所述各网关服务实例不可用前,配置对应的健康检查端点的响应状态码为不可用状态码。
本申请第三方面提供一种服务请求转发方法,包括:
服务器检测网关管理平台配置的各网关服务实例的健康检查端点的响应状态码,所述响应状态码用于表征所述各网关服务实例是否可用;向可用的网关服务实例转发客户端请求。
在一个可能的实现方式中,所述服务器检测各网关服务实例的健康检查端点的响应状态码,包括:所述服务器每隔预设时间循环检测一次所述各网关服务实例的健康检查端点的响应状态码;
所述方法还包括:
所述服务器连续预设次数检测到同一个网关服务实例的健康检查端点的响应状态码为不可用状态码时,在服务发现地址列表中屏蔽不可用的网关服务实例的地址。
本申请第四方面提供一种计算机设备,包括:存储器,处理器,及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现如本申请实施例第二方面或第三方面中任一项所述的服务请求转发方法。
本申请第五方面提供一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当所述指令在终端设备上运行时,使得所述终端设备执行如本申请第二方面或第三方面中任一项所述的服务请求转发方法。
相较于现有技术,本申请具有以下有益效果:
本申请提供的服务请求转发系统,包括:网关管理平台、网关服务实例和服务器,所述网关服务实例包括健康检查端点;所述网关管理平台用于配置各网关服务实例的健康检查端点的响应状态码,所述响应状态码用于表征所述各网关服务实例是否可用;所述服务器用于检测所述各网关服务实例的健康检查端点的响应状态码,向可用的网关服务实例转发客户端的服务请求。服务器主动检测服务实例的状态,服务实例在不可用前就更新其即将不可用的状态,使服务器提前获知该服务实例即将不可用,便不再向该服务实例转发客户请求,避免不可用的服务实例超时等待造成的服务时延。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种服务请求转发系统的结构图;
图2为本申请实施例提供的一种服务请求转发方法的流程图;
图3为本申请实施例提供的应用服务请求转发系统进行优雅发布的流程图;
图4为本申请实施例提供的一种计算机设备结构图。
具体实施方式
为使本申请的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本申请实施例作进一步详细的说明。
首先对本申请实施例中所涉及到的一些技术术语进行介绍。
Nginx:是异步框架的网页服务器,也可以用作反向代理、负载均衡器和HTTP缓存。在本申请实施例中Nginx可以作为反向代理,用于接收客户端请求,并将请求经网关转发给对应的服务实例。Nginx还可以作为负载均衡器,用于将接收的客户端请求转发给负载量少的服务实例。
Kubernetes:是自动部署、扩展和管理容器化应用程序的开源系统,用于管理云平台中多个主机上的容器化的应用。
服务实例:一种提供某种业务服务的容器化的应用,即处理客户端的请求,提供请求对应的服务。
服务发现:客户端可以获得一个能提供服务的服务实例地址列表,客户端可以选取其中一个进行访问。
网关:提供动态路由功能的组件,根据客户请求要访问的服务实例地址,将客户请求转发给对应的服务实例。
网关发布:对服务实例进行更新或维护。
优雅发布:在网关进行新服务发布时,需要将网关对应的多个服务实例逐一进行重启,在此过程中,客户端请求不会因为重启的服务实例受到影响,如出现服务实例调用失败或者延时变大的情形。
当前微服务部署的主流架构包括服务器(Nginx)、网关和多个提供业务服务的服务实例。服务器或反向代理服务器接收客户端的请求后,转发给网关,网关将请求转发给处理请求业务的服务实例。在网关进行新服务发布时,需要将网关对应的服务实例逐一进行重启,被重启的实例在一定时间内处于不可用状态。在此过程中,服务器或反向代理服务器仍然会将客户端请求转发给不可用的服务实例,在响应超时后,转发给其他的服务实例,处理客户端请求。
上述服务请求转发方法中,在不可用服务实例响应超时后,转发给其他的服务实例,会造成服务延时变大。
有鉴于此,本申请实施例提供一种服务请求转发系统,包括:网关管理平台、网关服务实例和服务器,所述网关服务实例包括健康检查端点;所述网关管理平台用于配置各网关服务实例的健康检查端点的响应状态码,所述响应状态码用于表征所述各网关服务实例是否可用;所述服务器用于检测所述各网关服务实例的健康检查端点的响应状态码,向可用的网关服务实例转发客户端的服务请求。服务器通过探活模块主动检测服务实例的状态,在服务实例不可用前配置不可用的状态,使服务器提前获知该服务实例即将不可用,便不再向该服务实例转发客户请求,避免不可用的服务实例超时等待造成的的服务时延。
为了便于理解,下面先对本申请实施例提供的系统架构进行介绍。
参见图1,图1为本申请实施例提供的一种服务请求转发系统结构图。如图1所示,该系统包括:网关管理平台140、网关服务实例110a、网关服务实例110b、业务服务实例130A、业务服务实例130B和服务器120,服务器120包括探活模块121。
本申请不限于两个业务服务实例,也可以有更多或更少的业务服务实例,本申请不限于两个网关服务实例也可以有更多网关服务实例。
网关管理平台140在网关服务实例110a、网关服务实例110b上配置健康检查端点,健康检查端点111a为网关服务实例110a的健康检查端点,健康检查端点111b为网关服务实例110b的健康检查端点。网关管理平台140根据网关服务实例110a、网关服务实例110b在未来一段时间内是否为可用的状态,配置健康检查端点111a、健康检查端点111b的响应状态码,响应状态码用于表征所述服务实例是否可用。例如,可用状态码表示该服务实例暂时不会重启,可以处理客户端请求并提供服务;不可用状态码表示该服务实例即将重启,不能再接收客户端请求。
在一些实施例中,在网关服务实例不可用前,网关管理平台配置该服务实例的健康检查端点的响应状态码为不可用状态码。
在一个示例中,网关管理平台可以为容器编排调度平台Kubernetes。
在一个示例中,在网关服务实例110b发布重启前,容器编排调度平台Kubernetes配置的预停止钩子,调用健康检查端点的111b的控制端点配置健康检查端点111b的响应状态码为不可用状态码。配置完成后,重启网关服务实例110b,并发布最新服务。
在一些实施例中,网关管理平台具体用于:配置服务实例的健康检查端点的状态变量值,根据状态变量值配置健康检查端点的响应状态码。
在一个示例中,配置服务实例的健康检查端点的状态变量值为false, 表征服务实例不可用,对应的响应码为200;配置服务实例的健康检查端点的状态变量值为ture,表征服务实例可用,对应的响应码为500。
服务器120用于检测各网关服务实例的健康检查端点的响应状态码,向可用的服务实例转发客户端的服务请求。
在一个示例中,服务器120接收到客户端请求后,获取检测到的网关服务实例110a、网关服务实例110b的响应状态码,若网关服务实例110a可用,网关服务实例110b不可用,则将客户端请求通过网关服务实例110a转发给业务服务的实例130A。
服务器主动检测服务实例是否可用,避免向不可用的服务实例转发客户端请求而造成的服务延时。
在一些实施例中,服务器120通过探活模块121每隔预设时间循环检测一次服务实例的健康检查端点的响应状态码,在探活模块121连续预设次数(例如,三次)检测到某个服务实例的健康检查端点的响应状态码为不可用状态码时,不向业务服务实例130转发客户端请求。
在一个示例中,服务器120通过探活模块121每隔5秒检测一次各个网关服务实例的健康检查端点的响应状态码,在探活模块121连续预设次数(例如,三次)检测到某个网关服务实例的健康检查端点的响应状态码为不可用状态码时,认为该网关服务实例不可用,在服务发现列表中屏蔽不可用的网关服务实例。
在一个示例中,业务服务实例130A、130B,可以响应于网关服务实例转发的客户端请求向客户端提供服务。
在网关进行新服务发布时,需要将网关服务实例逐一进行重启,被重启的实例在一定时间内处于不可用状态。本申请实施例在网关服务实例不可用前就配置其健康检查端点为不可用状态码,使探活模块主动检测服务实例是不可用状态码时,避免服务器向不可用的服务实例转发客户端请求而造成的服务延时,提升用户体验。
本申请实施例中,网关服务实例不可用前就配置健康检查端点的响应状态码为不可用码,服务器主动检测网关服务实例的状态,服务器提前获知该网关服务实例即将不可用,便不再向该服务实例转发客户请求,避免不可用的服务实例超时等待造成的的服务时延。
本申请实施例提供一种服务请求转发方法,应用于网关管理平台,包括:
网关管理平台配置各网关服务实例的健康检查端点的响应状态码,所述响应状态码用于表征所述各网关服务实例是否可用;以使服务器检测到所述各网关服务实例的健康检查端点的响应状态码,向可用的网关服务实例转发客户端的服务请求。
在一些实施例中,网关管理平台配置各网关服务实例的健康检查端点的响应状态码,包括:所述网关管理平台在所述各网关服务实例不可用前,配置对应的健康检查端点的响应状态码为不可用状态码。
本申请实施例提供另一种服务请求转发方法,应用于服务器,该方法包括:
服务器检测网关管理平台配置的各网关服务实例的健康检查端点的响应状态码,所述响应状态码用于表征所述各网关服务实例是否可用;向可用的网关服务实例转发客户端请求。
在一些实施例中,服务器检测各网关服务实例的健康检查端点的响应状态码,包括:所述服务器每隔预设时间循环检测一次所述各网关服务实例的健康检查端点的响应状态码;
所述方法还包括:
所述服务器连续预设次数检测到同一个网关服务实例的健康检查端点的响应状态码为不可用状态码时,在服务发现地址列表中屏蔽不可用的网关服务实例的地址。
本申请实施例的一种服务请求转发方法中,服务器通过探活模块主动检测服务实例的状态,服务实例在不可用前就更新其即将不可用的状态,使服务器提前获知该服务实例即将不可用,便不再向该服务实例转发客户请求,避免不可用的服务实例超时等待造成的的服务时延。
参见图2,图2为本申请实施例提供的一个服务请求转发方法流程图。如图2所示,该方法包括:
S310、在网关服务实例不可用前,网关管理平台配置服务实例的健康检查端点的状态变量值为表征服务实例不可用的值,根据所述状态变量值配置所述健康检查端点的响应状态码为不可用状态码。
S320、服务器通过探活模块每隔预设时间循环检测一次健康检查端点的响应状态码,在探活模块连续预设次数检测到响应状态码为不可用状态码时,在服务发现列表中屏蔽不可用的服务实例,使客户端向可用的服务实例发送客户端请求。
下面以重启网关服务实例110b为例,对应用所述服务请求转发系统进行优雅发布的过程进行详细说明。
参见图3,图3为本申请实施例提供的应用服务转发方法进行优雅发布的流程图。如图3所示,在网关服务实例110b不可用前,网关管理平台140配置预停止钩子,调用健康检查端点111b的控制端点,通过控制端点配置网关服务实例110b的健康检查端点111b的状态变量值为false,根据状态变量值false配置健康检查端点的响应状态码为500。探活模块121每隔预设时间循环检测一次健康检查端点111b和111a的响应状态码,服务器120在探活模块121连续三次检测到健康检查端点111b的响应状态码为500时,在客户端的服务发现列表中屏蔽网关服务实例110b,接收到客户请求后转发给网关服务实例111a,网关服务实例111a将客户请求转发给业务服务实例130A或130B。在配置健康检查端点111b的响应状态码为500后,网关服务实例110b重启,并发布新服务。
本申请实施例提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现本申请实施例所述的服务请求转发方法。
在实际应用中,所述计算机可读存储介质可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
如图4所示,本申请实施例提供的一种计算机设备的结构示意图。图4显示的计算机设备12仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图4所示,计算机设备12以通用计算设备的形式表现。计算机设备12的组件可以包括但不限于:一个或者多个处理器或者处理单元16,系统存储器28,连接不同系统组件(包括系统存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
计算机设备12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机设备12访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
系统存储器28可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)30和/或高速缓存存储器32。计算机设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统34可以用于读写不可移动的、非易失性磁介质(图4未显示,通常称为“硬盘驱动器”)。尽管图4中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40,可以存储在例如存储器28中,这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
计算机设备12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信,还可与一个或者多个使得用户能与该计算机设备12交互的设备通信,和/或与使得该计算机设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且,计算机设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图4所示,网络适配器20通过总线18与计算机设备12的其它模块通信。应当明白,尽管图4中未示出,可以结合计算机设备12使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理器单元16通过运行存储在系统存储器28中的程序,从而执行各种功能应用以及数据处理,例如实现本申请实施例提供的服务请求转发方法。
需要注意,本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本申请中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要说明的是,尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本申请的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本申请中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (12)
1.一种服务请求转发系统,其特征在于,包括:网关管理平台、网关服务实例和服务器,所述网关服务实例包括健康检查端点;
所述网关管理平台用于配置各网关服务实例的健康检查端点的响应状态码,所述响应状态码用于表征所述各网关服务实例是否可用;
所述服务器用于检测所述各网关服务实例的健康检查端点的响应状态码,向可用的网关服务实例转发客户端的服务请求。
2.根据权利要求1所述的系统,其特征在于,所述网关管理平台具体用于在所述各网关服务实例不可用前,配置对应的健康检查端点的响应状态码为不可用状态码。
3.根据权利要求1所述的系统,其特征在于,所述网关管理平台具体用于:配置所述各网关服务实例的健康检查端点的状态变量值,根据所述状态变量值配置对应的健康检查端点的响应状态码。
4.根据权利要求1所述的系统,其特征在于,所述服务器具体用于每隔预设时间循环检测一次所述各网关服务实例的健康检查端点的响应状态码;
所述服务器还用于当连续预设次数检测到同一个网关服务实例的健康检查端点的响应状态码为不可用状态码时,在服务发现地址列表中屏蔽不可用的网关服务实例地址。
5.根据权利要求1所述的系统,其特征在于,所述服务器通过配置的探活模块检测所述各服务实例的健康检查端点的响应状态码。
6.根据权利要求1-5任一项所述的系统,其特征在于,所述系统还包括业务服务实例,用于接收所述可用的网关服务实例转发的所述客户端的服务请求,所述客户端的服务请求是由所述服务器转发给所述可用的网关服务实例的。
7.一种服务请求转发方法,其特征在于,包括:
网关管理平台配置各网关服务实例的健康检查端点的响应状态码,所述响应状态码用于表征所述各网关服务实例是否可用;以使服务器检测到所述各网关服务实例的健康检查端点的响应状态码,向可用的网关服务实例转发客户端的服务请求。
8.根据权利要求7所述的方法,其特征在于,所述网关管理平台配置各网关服务实例的健康检查端点的响应状态码,包括:所述网关管理平台在所述各网关服务实例不可用前,配置对应的健康检查端点的响应状态码为不可用状态码。
9.一种服务请求转发方法,其特征在于,包括:
服务器检测网关管理平台配置的各网关服务实例的健康检查端点的响应状态码,所述响应状态码用于表征所述各网关服务实例是否可用;向可用的网关服务实例转发客户端的服务请求。
10.根据权利要求9所述的方法,其特征在于,所述服务器检测各网关服务实例的健康检查端点的响应状态码,包括:所述服务器每隔预设时间循环检测一次所述各网关服务实例的健康检查端点的响应状态码;
所述方法还包括:
所述服务器连续预设次数检测到同一个网关服务实例的健康检查端点的响应状态码为不可用状态码时,在服务发现地址列表中屏蔽不可用的网关服务实例的地址。
11.一种计算机设备,其特征在于,包括:存储器,处理器,及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现如权利要求7-10任一项所述的服务请求转发方法。
12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有指令,当所述指令在终端设备上运行时,使得所述终端设备执行如权利要求7-10任一项所述的服务请求转发方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210711475.6A CN114785861B (zh) | 2022-06-22 | 2022-06-22 | 一种服务请求转发系统、方法、计算机设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210711475.6A CN114785861B (zh) | 2022-06-22 | 2022-06-22 | 一种服务请求转发系统、方法、计算机设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114785861A true CN114785861A (zh) | 2022-07-22 |
CN114785861B CN114785861B (zh) | 2022-12-13 |
Family
ID=82422429
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210711475.6A Active CN114785861B (zh) | 2022-06-22 | 2022-06-22 | 一种服务请求转发系统、方法、计算机设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114785861B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115412610A (zh) * | 2022-08-29 | 2022-11-29 | 中国工商银行股份有限公司 | 故障场景下的流量调度方法及装置 |
Citations (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1921656A (zh) * | 2006-09-14 | 2007-02-28 | 宾志滔 | 手机通用功能扩展器及其使用方法 |
US20130121161A1 (en) * | 2010-03-22 | 2013-05-16 | Telefonaktiebolaget L M Ericsson (Publ) | Apparatus and Method in a Telecommunications Network |
CN104092591A (zh) * | 2014-08-04 | 2014-10-08 | 飞狐信息技术(天津)有限公司 | 一种任务监控方法及系统 |
US20170041385A1 (en) * | 2015-08-07 | 2017-02-09 | International Business Machines Corporation | Dynamic healthchecking load balancing gateway |
CN106844137A (zh) * | 2016-12-08 | 2017-06-13 | 腾讯科技(深圳)有限公司 | 服务器的监控方法和装置 |
CN107872525A (zh) * | 2017-11-09 | 2018-04-03 | 杭州东方通信软件技术有限公司 | 一种微服务调用架构 |
CN109951576A (zh) * | 2017-12-21 | 2019-06-28 | 苹果公司 | 由计算设备提供的服务的健康状况监视 |
CN110177028A (zh) * | 2019-05-30 | 2019-08-27 | 北京字节跳动网络技术有限公司 | 分布式健康检查方法及装置 |
CN110198226A (zh) * | 2018-03-28 | 2019-09-03 | 腾讯科技(深圳)有限公司 | 一种负载均衡集群中访问请求处理方法、系统和可读介质 |
US20190317824A1 (en) * | 2018-04-11 | 2019-10-17 | Microsoft Technology Licensing, Llc | Deployment of services across clusters of nodes |
CN110581855A (zh) * | 2019-09-12 | 2019-12-17 | 中国工商银行股份有限公司 | 应用控制方法、装置、电子设备和计算机可读存储介质 |
CN110995511A (zh) * | 2019-12-24 | 2020-04-10 | 邱瀚 | 基于微服务架构的云计算运维管理方法、装置和终端设备 |
US20200301750A1 (en) * | 2017-11-22 | 2020-09-24 | Telefonaktiebolaget Lm Ericsson (Publ) | METHOD FOR MITIGATING THE IMPACT OF NETWORK FUNCTION VIRTUALIZATION INFRASTRUCTURE (NFVI) SOFTWARE MODIFICATIONS ON VIRTUALIZED NETWORK FUNCTIONS (VNFs) |
CN111814177A (zh) * | 2020-06-28 | 2020-10-23 | 中国建设银行股份有限公司 | 基于微服务的多租户数据处理方法、装置、设备及系统 |
CN113127052A (zh) * | 2021-04-29 | 2021-07-16 | 欧冶云商股份有限公司 | 一种基于多目标文件托管的项目信息交付方法 |
CN113242281A (zh) * | 2021-04-26 | 2021-08-10 | 微梦创科网络科技(中国)有限公司 | 一种灰度发布方法、装置、设备及存储介质 |
CN113452617A (zh) * | 2021-06-24 | 2021-09-28 | 上海豹云网络信息服务有限公司 | 动态网关路由管理方法、装置及存储介质 |
CN113726902A (zh) * | 2021-09-02 | 2021-11-30 | 马上消费金融股份有限公司 | 微服务的调用方法及系统 |
CN113726566A (zh) * | 2021-08-25 | 2021-11-30 | 杭州数政科技有限公司 | 一种服务网关装置 |
CN114172829A (zh) * | 2022-02-10 | 2022-03-11 | 统信软件技术有限公司 | 一种服务器健康监测方法、系统及计算设备 |
CN114221878A (zh) * | 2022-02-21 | 2022-03-22 | 飞狐信息技术(天津)有限公司 | 一种故障节点检测方法、系统、电子设备及存储介质 |
CN114270344A (zh) * | 2019-08-06 | 2022-04-01 | 推特股份有限公司 | 用于递送实时消息的消息传递平台 |
CN114371943A (zh) * | 2021-12-28 | 2022-04-19 | 上海国民集团健康科技有限公司 | 基于微服务架构的优雅发布方法及其装置、设备和介质 |
CN114626808A (zh) * | 2022-03-04 | 2022-06-14 | 南斗六星系统集成有限公司 | 一种基于微服务架构的车联网大数据分析系统 |
-
2022
- 2022-06-22 CN CN202210711475.6A patent/CN114785861B/zh active Active
Patent Citations (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1921656A (zh) * | 2006-09-14 | 2007-02-28 | 宾志滔 | 手机通用功能扩展器及其使用方法 |
US20130121161A1 (en) * | 2010-03-22 | 2013-05-16 | Telefonaktiebolaget L M Ericsson (Publ) | Apparatus and Method in a Telecommunications Network |
CN104092591A (zh) * | 2014-08-04 | 2014-10-08 | 飞狐信息技术(天津)有限公司 | 一种任务监控方法及系统 |
US20170041385A1 (en) * | 2015-08-07 | 2017-02-09 | International Business Machines Corporation | Dynamic healthchecking load balancing gateway |
CN106844137A (zh) * | 2016-12-08 | 2017-06-13 | 腾讯科技(深圳)有限公司 | 服务器的监控方法和装置 |
CN107872525A (zh) * | 2017-11-09 | 2018-04-03 | 杭州东方通信软件技术有限公司 | 一种微服务调用架构 |
US20200301750A1 (en) * | 2017-11-22 | 2020-09-24 | Telefonaktiebolaget Lm Ericsson (Publ) | METHOD FOR MITIGATING THE IMPACT OF NETWORK FUNCTION VIRTUALIZATION INFRASTRUCTURE (NFVI) SOFTWARE MODIFICATIONS ON VIRTUALIZED NETWORK FUNCTIONS (VNFs) |
CN109951576A (zh) * | 2017-12-21 | 2019-06-28 | 苹果公司 | 由计算设备提供的服务的健康状况监视 |
CN110198226A (zh) * | 2018-03-28 | 2019-09-03 | 腾讯科技(深圳)有限公司 | 一种负载均衡集群中访问请求处理方法、系统和可读介质 |
US20190317824A1 (en) * | 2018-04-11 | 2019-10-17 | Microsoft Technology Licensing, Llc | Deployment of services across clusters of nodes |
CN110177028A (zh) * | 2019-05-30 | 2019-08-27 | 北京字节跳动网络技术有限公司 | 分布式健康检查方法及装置 |
CN114270344A (zh) * | 2019-08-06 | 2022-04-01 | 推特股份有限公司 | 用于递送实时消息的消息传递平台 |
CN110581855A (zh) * | 2019-09-12 | 2019-12-17 | 中国工商银行股份有限公司 | 应用控制方法、装置、电子设备和计算机可读存储介质 |
CN110995511A (zh) * | 2019-12-24 | 2020-04-10 | 邱瀚 | 基于微服务架构的云计算运维管理方法、装置和终端设备 |
CN111814177A (zh) * | 2020-06-28 | 2020-10-23 | 中国建设银行股份有限公司 | 基于微服务的多租户数据处理方法、装置、设备及系统 |
CN113242281A (zh) * | 2021-04-26 | 2021-08-10 | 微梦创科网络科技(中国)有限公司 | 一种灰度发布方法、装置、设备及存储介质 |
CN113127052A (zh) * | 2021-04-29 | 2021-07-16 | 欧冶云商股份有限公司 | 一种基于多目标文件托管的项目信息交付方法 |
CN113452617A (zh) * | 2021-06-24 | 2021-09-28 | 上海豹云网络信息服务有限公司 | 动态网关路由管理方法、装置及存储介质 |
CN113726566A (zh) * | 2021-08-25 | 2021-11-30 | 杭州数政科技有限公司 | 一种服务网关装置 |
CN113726902A (zh) * | 2021-09-02 | 2021-11-30 | 马上消费金融股份有限公司 | 微服务的调用方法及系统 |
CN114371943A (zh) * | 2021-12-28 | 2022-04-19 | 上海国民集团健康科技有限公司 | 基于微服务架构的优雅发布方法及其装置、设备和介质 |
CN114172829A (zh) * | 2022-02-10 | 2022-03-11 | 统信软件技术有限公司 | 一种服务器健康监测方法、系统及计算设备 |
CN114221878A (zh) * | 2022-02-21 | 2022-03-22 | 飞狐信息技术(天津)有限公司 | 一种故障节点检测方法、系统、电子设备及存储介质 |
CN114626808A (zh) * | 2022-03-04 | 2022-06-14 | 南斗六星系统集成有限公司 | 一种基于微服务架构的车联网大数据分析系统 |
Non-Patent Citations (2)
Title |
---|
余顺争: "无线Internet代理网关的设计", 《计算机工程与应用》 * |
范冰冰等: "OSA/Parlay API业务发布、发现和绑定机制的研究", 《华南师范大学学报(自然科学版)》 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115412610A (zh) * | 2022-08-29 | 2022-11-29 | 中国工商银行股份有限公司 | 故障场景下的流量调度方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN114785861B (zh) | 2022-12-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10735345B2 (en) | Orchestrating computing resources between different computing environments | |
CN108228256B (zh) | 代码同步方法、装置、计算机可读介质及终端 | |
WO2020207454A1 (zh) | 信息推送方法和装置 | |
CN108696581B (zh) | 分布式信息的缓存方法、装置、计算机设备以及存储介质 | |
CN107729176B (zh) | 一种配置文件管理系统的容灾方法及容灾系统 | |
JP2005539298A (ja) | サーバを遠隔かつ動的に構成する方法およびシステム | |
US8266301B2 (en) | Deployment of asynchronous agentless agent functionality in clustered environments | |
JP2012230667A (ja) | 高負荷のビジネスプロセスのスケーラビリティ | |
CN109218356B (zh) | 管理服务器上有状态应用的方法和设备 | |
CN109150558B (zh) | 管理消息队列节点的方法、装置和系统 | |
CN113900834B (zh) | 基于物联网技术的数据处理方法、装置、设备及存储介质 | |
CN115640110B (zh) | 分布式云计算系统调度方法和装置 | |
US10067862B2 (en) | Tracking asynchronous entry points for an application | |
US9448827B1 (en) | Stub domain for request servicing | |
CN111818145B (zh) | 一种文件传输方法、装置、系统、设备及存储介质 | |
CN110633046A (zh) | 一种分布式系统的存储方法、装置、存储设备及存储介质 | |
CN112769876B (zh) | 一种设备通道信息获取方法、装置、设备和介质 | |
CN114785861B (zh) | 一种服务请求转发系统、方法、计算机设备和存储介质 | |
US8972802B2 (en) | Providing high availability to a hybrid application server environment containing non-java containers | |
CN109218338B (zh) | 信息处理系统、方法和装置 | |
CN110221910B (zh) | 用于执行mpi作业的方法和装置 | |
CN112804366B (zh) | 用于解析域名的方法和装置 | |
CN113535371A (zh) | 一种多线程异步加载资源的方法和装置 | |
CN109831673B (zh) | 一种直播间数据处理方法、装置、设备及存储介质 | |
US9130881B2 (en) | Direct return to source (DRS) routing of customer information control systems (CICS) transactions |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |