CN116319963A - 服务的管理方法、系统、终端设备及存储介质 - Google Patents
服务的管理方法、系统、终端设备及存储介质 Download PDFInfo
- Publication number
- CN116319963A CN116319963A CN202310131314.4A CN202310131314A CN116319963A CN 116319963 A CN116319963 A CN 116319963A CN 202310131314 A CN202310131314 A CN 202310131314A CN 116319963 A CN116319963 A CN 116319963A
- Authority
- CN
- China
- Prior art keywords
- service
- micro
- registration
- processing
- terminal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000007726 management method Methods 0.000 title claims description 75
- 238000012545 processing Methods 0.000 claims abstract description 108
- 238000000034 method Methods 0.000 claims abstract description 38
- 230000007246 mechanism Effects 0.000 claims abstract description 31
- 238000001514 detection method Methods 0.000 claims description 13
- 230000036541 health Effects 0.000 claims description 10
- 230000015556 catabolic process Effects 0.000 claims description 9
- 238000006731 degradation reaction Methods 0.000 claims description 9
- 238000012544 monitoring process Methods 0.000 claims description 5
- 230000003213 activating effect Effects 0.000 claims description 2
- 230000008569 process Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000003111 delayed effect Effects 0.000 description 2
- 230000001066 destructive effect Effects 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000013467 fragmentation Methods 0.000 description 1
- 238000006062 fragmentation reaction Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/0631—Management of faults, events, alarms or notifications using root cause analysis; using analysis of correlation between notifications, alarms or events based on decision criteria, e.g. hierarchy, tree or time analysis
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Hardware Redundancy (AREA)
Abstract
本发明公开服务的管理系统、方法、终端设备及存储介质,该系统包括:服务端,用于接收第二终端发送的对微服务的处理请求,处理微服务,发送处理结果;探测注册与发现中心服务的集群节点的服务状态,处理注册与发现中心服务中注册的微服务信息;根据微服务租户的管理相关因素和调度算法,对微服务租户进行调度;第二终端,用于向服务端发送对微服务的处理请求;若处理请求为失败,则确定故障类型并启动对应的保护机制;若处理请求为成功,则接收处理结果。根据微服务租户的管理相关因素和调度算法,对微服务租户进行调度。基于本申请,保证了管理微服务的稳定性和高可用性,以支撑通过服务的管理系统管理微服务的应用系统的平稳运行。
Description
技术领域
本发明涉及服务管理技术领域,尤其涉及服务的管理方法、系统、终端设备及存储介质。
背景技术
随着业务的发展,对微服务的管理服务提出了扩容灵活性、服务稳定性的要求。
现有的微服务的管理服务存在多种问题,比如无法判断管理服务运行的异常状态导致管理服务中断,无法对管理服务不停服更新升级,不能保证管理服务稳定性和高可用性。
因此,如何保证微服务的管理服务的稳定性和高可用性是当前亟待解决的问题。
发明内容
本申请的主要目的在于提供服务的管理方法、系统、终端设备及存储介质,旨在解决如何保证微服务的管理服务的稳定性和高可用性的问题。
为实现上述目的,本申请提供一种服务的管理系统,其特征在于,所述服务的管理系统包括服务端、第一终端和第二终端,所述服务端包括在联邦集群多可用区的不同节点以集群方式部署注册与发现中心服务,所述服务的管理系统包括:
所述服务端,用于接收第二终端发送的对微服务的处理请求,处理所述微服务,发送处理结果;探测所述注册与发现中心服务的集群节点的服务状态,处理所述注册与发现中心服务中注册的微服务信息;根据微服务租户的管理相关因素和调度算法,对所述微服务租户进行调度;
所述第一终端,用于以集群方式部署注册与发现中心服务到服务端的联邦集群多可用区的不同节点,以用于管理微服务;
所述第二终端,用于向服务端发送对微服务的处理请求;若所述处理请求为失败,则确定故障类型并启动对应的保护机制;若所述处理请求为成功,则接收处理结果。
本申请实施案例还提出一种服务的管理方法,所述服务的管理方法应用于服务端,所述服务端包括在联邦集群多可用区的不同节点以集群方式部署注册与发现中心服务,所述服务的管理方法包括以下步骤:
接收第二终端发送的对微服务的处理请求,处理所述微服务,发送处理结果;
探测所述注册与发现中心服务的集群节点的服务状态,处理所述注册与发现中心服务中注册的微服务信息;
根据微服务租户的管理相关因素和调度算法,对所述微服务租户进行调度。
可选的,所述接收第二终端发送的对微服务的处理请求,处理所述微服务,发送处理结果的步骤包括:
接收第二终端发送的对所述微服务的注册请求,注册所述微服务,发送注册结果;
接收第二终端发送的对所述微服务的发现请求,发现所述微服务的服务实例列表,并将所述微服务的服务实例列表发送到所述第二终端。
可选的,所述接收第二终端发送的对所述微服务的发现请求,发现所述微服务的服务实例列表的步骤包括:
接收第二终端发送的对所述微服务的发现请求;
根据所述微服务的名称,从所述注册与发现中心服务获取相同名称的微服务实例列表。
可选的,所述探测所述注册与发现中心服务的集群节点的服务状态,处理所述注册与发现中心服务中注册的微服务信息的步骤包括:
并行单向探测所述注册与发现中心服务的集群节点的服务状态;
若所述注册与发现中心服务的集群节点的服务状态改变,则在预设时间段后,探测服务状态改变的节点的微服务实例的健康状态;
设置服务状态改变的节点从所述集群节点的其他节点同步所述注册的微服务信息的重试次数;
监听预设事件,设置等待时间周期,更新所述服务状态改变的节点的微服务实例信息。
可选的,所述根据微服务租户的管理相关因素和调度算法,对所述微服务租户进行调度的步骤包括:
根据微服务租户的管理相关因素和调度算法,确定所述微服务租户调度目标分组;
将所述微服务租户调度至所述目标分组。
本申请实施案例还提出一种服务的管理方法,所述服务的管理方法应用于第一终端,所述服务的管理方法包括:
以集群方式部署注册与发现中心服务到服务端的联邦集群多可用区的不同节点,以用于管理微服务。
本申请实施案例还提出一种服务的管理方法,所述服务的管理方法应用于第二终端,所述服务的管理方法包括:
向服务端发送对微服务的处理请求;
若所述处理请求为失败,则确定故障类型并启动对应的保护机制;
若所述处理请求为成功,则接收处理结果;
所述处理请求为发现请求,所述若所述处理请求为成功,则接收处理结果的步骤之后包括:
根据负载均衡算法,从所述处理结果的服务实例列表中优先选取与发送发现请求的微服务相同可用区的目标微服务实例。
可选的,所述确定故障类型并启动对应的保护机制的步骤包括:
若所述故障类型是一级故障时,则启动推空保护机制;
若所述故障类型是二级故障时,则启动降级保护机制;
若所述故障类型是三级故障时,则启动兜底保护机制。
本申请实施案例还提出一种终端设备,所述终端设备包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的服务的管理程序,所述程序被所述处理器执行时实现所述服务的管理方法的步骤。
本申请实施案例还提出一种存储介质,所述存储介质上存储有服务的管理程序,所述服务的管理程序被处理器执行时实现所述服务的管理方法的步骤。
本申请提出的服务的管理系统、方法、终端设备及存储介质。通过接收第二终端发送的对微服务的处理请求,处理所述微服务,发送处理结果;探测所述注册与发现中心服务的集群节点的服务状态,处理所述注册与发现中心服务中注册的微服务信息;根据微服务租户的管理相关因素和调度算法,对所述微服务租户进行调度。向服务端发送对微服务的处理请求;若所述处理请求为失败,则确定故障类型并启动对应的保护机制;若所述处理请求为成功,则接收处理结果;所述处理请求为发现请求,所述若所述处理请求为成功,则接收处理结果的步骤之后包括:根据负载均衡算法,从所述处理结果的服务实例列表中优先选取与发送发现请求的微服务相同可用区的目标微服务实例。基于本申请,保证了管理微服务的稳定性和高可用性,以支撑通过此种服务的管理系统管理微服务的应用系统的平稳运行。
附图说明
图1为本申请服务的管理装置所属终端设备的功能模块示意图;
图2为本申请服务的管理方法第一示例性实施例的流程示意图;
图3为本申请服务的管理方法第二示例性实施例的流程示意图;
图4为本申请服务的管理方法第三示例性实施例的流程示意图;
图5为本申请服务的管理方法第三示例性实施例的流程框图;
图6为本申请服务的管理方法第四示例性实施例的流程示意图;
图7为本申请服务的管理方法第五示例性实施例的流程示意图;
图8为本申请服务的管理方法第五示例性实施例的架构示例图;
图9为本申请服务的管理方法第六示例性实施例的流程示意图;
图10为本申请服务的管理方法第七示例性实施例的流程示意图。
本申请目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施案例仅仅用以解释本申请,并不用于限定本申请。
本申请实施例的主要解决方案是接收第二终端发送的对微服务的处理请求,处理所述微服务,发送处理结果;探测所述注册与发现中心服务的集群节点的服务状态,处理所述注册与发现中心服务中注册的微服务信息;根据微服务租户的管理相关因素和调度算法,对所述微服务租户进行调度。基于本申请,实现了通过注册与发现中心服务管理微服务,保障了整管理服务功能的稳定性和高可用性的。
具体地,参照图1,图1为本申请服务的管理装置所属终端设备的功能模块示意图。该服务的管理装置为基于终端设备的、能够对服务的注册与发现进行便捷管理,从而达到服务高可用性和稳定性的装置,其可以通过硬件或软件的形式承载于终端设备上。
在本实施例中,该服务的管理装置所属终端设备至少包括输出模块110、处理器120、存储器130以及通信模块140。
存储器130中存储有操作系统以及服务的管理程序,所述服务的管理系统可以接收第二终端发送的对微服务的处理请求,处理所述微服务,发送处理结果;探测所述注册与发现中心服务的集群节点的服务状态,处理所述注册与发现中心服务中注册的微服务信息;根据微服务租户的管理相关因素和调度算法,对所述微服务租户进行调度等信息存储于该存储器130中;输出模块110可为显示屏等。通信模块140可以包括WIFI模块、移动通信模块以及蓝牙模块等,通过通信模块140与外部设备或服务器进行通信。
其中,存储器130中的服务的管理程序,应用于服务端,所述服务端包括在联邦集群多可用区的不同节点以集群方式部署注册与发现中心服务,所述服务的管理程序被处理器执行时实现以下步骤:
接收第二终端发送的对微服务的处理请求,处理所述微服务,发送处理结果;
探测所述注册与发现中心服务的集群节点的服务状态,处理所述注册与发现中心服务中注册的微服务信息;
根据微服务租户的管理相关因素和调度算法,对所述微服务租户进行调度。
进一步地,存储器130中的服务的管理程序被处理器执行时还实现以下步骤:
接收第二终端发送的对所述微服务的注册请求,注册所述微服务,发送注册结果;
接收第二终端发送的对所述微服务的发现请求,发现所述微服务的服务实例列表,并将所述微服务的服务实例列表发送到所述第二终端。
进一步地,存储器130中的服务的管理程序被处理器执行时还实现以下步骤:
接收第二终端发送的对所述微服务的发现请求;
根据所述微服务的名称,从所述注册与发现中心服务获取相同名称的微服务实例列表。
进一步地,存储器130中的服务的管理程序被处理器执行时还实现以下步骤:
并行单向探测所述注册与发现中心服务的集群节点的服务状态;
若所述注册与发现中心服务的集群节点的服务状态改变,则在预设时间段后,探测服务状态改变的节点的微服务实例的健康状态;
设置服务状态改变的节点从所述集群节点的其他节点同步所述注册的微服务信息的重试次数;
监听预设事件,设置等待时间周期,更新所述服务状态改变的节点的微服务实例信息。
进一步地,存储器130中的服务的管理程序被处理器执行时还实现以下步骤:
根据微服务租户的管理相关因素和调度算法,确定所述微服务租户调度目标分组;
将所述微服务租户调度至所述目标分组。
进一步地,存储器130中的服务的管理程序被处理器执行时还实现以下步骤:
向服务端发送对微服务的处理请求;
若所述处理请求为失败,则确定故障类型并启动对应的保护机制;
若所述处理请求为成功,则接收处理结果。
进一步地,存储器130中的服务的管理程序被处理器执行时还实现以下步骤:
若所述处理请求失败,则确定故障类型;
若所述故障类型是一级故障时,则启动推空保护机制;
若所述故障类型是二级故障时,则启动降级保护机制;
若所述故障类型是三级故障时,则启动兜底保护机制。
进一步地,存储器130中的服务的管理程序被处理器执行时还实现以下步骤:
根据负载均衡算法,从所述处理结果的服务实例列表中优先选取与发送发现请求的微服务相同可用区的目标微服务实例。
进一步地,存储器130中的服务的管理程序被处理器执行时还实现以下步骤:
以集群方式部署注册与发现中心服务到服务端的联邦集群多可用区的不同节点,以用于管理微服务。
基于上述终端设备架构但不限于上述架构,提出本申请方法实施例。
参照图2,图2为服务的管理方法第一示例性实施例的流程示意图。所述服务端包括在联邦集群多可用区的不同节点以集群方式部署的注册与发现中心服务的实例,所述服务的管理方法包括:
步骤S120,接收第二终端发送的对微服务的处理请求,处理所述微服务,发送处理结果;
具体地,服务端包括了在联邦集群多可用区的不同节点以集群方式部署注册与发现中心服务,为微服务提供注册与发现的功能,第二终端指的是各种微服务的部署终端,接收第二终端发送的对所述微服务的注册请求,注册所述微服务,发送注册结果;接收第二终端发送的对所述微服务的发现请求,发现所述微服务的服务实例列表,并将所述微服务的服务实例列表发送到所述第二终端。
步骤S130,探测所述注册与发现中心服务的集群节点的服务状态,处理所述注册与发现中心服务中注册的微服务信息;
具体地,并行单向探测所述注册与发现中心服务集群节点的服务状态;若所述注册与发现中心服务的集群节点的服务状态改变,则在预设时间段后,探测服务状态改变的节点的微服务实例的健康状态;设置服务状态改变的节点从所述集群节点的其他节点同步所述注册的微服务信息的重试次数;监听预设事件,设置等待时间周期,更新所述服务状态改变的节点的微服务实例信息。
步骤S140,根据微服务租户的管理相关因素和调度算法,对所述微服务租户进行调度。
具体地,根据微服务租户的管理相关因素和调度算法,确定所述微服务租户调度目标分组;将所述微服务租户调度至所述目标分组。
本实施例通过上述方案,具体通过接收第二终端发送的对微服务的处理请求,处理所述微服务,发送处理结果;探测所述注册与发现中心服务的集群节点的服务状态,处理所述注册与发现中心服务中注册的微服务信息;根据微服务租户的管理相关因素和调度算法,对所述微服务租户进行调度。基于本方案,通过对将注册与发现中心服务以集群方式部署到联邦集群多可用区的不同节点,实现对微服务的注册与发现,便捷地管理服务,保证了管理服务功能的稳定性和高可用性。
进一步地,参照图3,图3为服务的管理方法第二示例性实施例的流程示意图。可选的,所述接收第二终端发送的对微服务的处理请求,处理所述微服务,发送处理结果的步骤包括:
步骤S1201,接收第二终端发送的对所述微服务的注册请求,注册所述微服务,发送注册结果;
具体地,接收所述微服务的注册请求,服务注册时会携带编排管理工具K8S集群编号、可用区AZ信息等元数据信息,保存所述微服务的注册数据到注册与发现服务中心。进一步地,注册与发现中心服务的集群节点之间通过定点路由进行通信,因此,不管是哪种网络环境、哪种云服务提供商,软件工具都能兼容运行,完全适应跨云的场景。此外,微服务和注册与发现中心服务的交互方式为轻量级的RESTful接口,从而保证第二终端也能适应跨云的部署运行。服务注册时会携带编排管理工具K8S集群编号、可用区AZ信息等元数据信息,使得微服务在做服务发现、服务路由和负载均衡的时候,智能选取合适的服务实例,以避免被调用程序运行在多云环境时,因网络环境限制,出现服务调用异常。
进一步地,若本地微服务要与云上微服务联调,微服务实例会将自身的服务名、IP、端口PORT、集群编号等信息发送到注册与发现中心服务,同一个微服务租户下,通过微服务名称可以自动发现该微服务所有的实例信息。微服务实例的IP在云上的环境大多是私有的虚拟地址Pod IP,在本地环境则为本机的IP,云上微服务访问本地微服务是没有问题的,但是本地微服务访问云上微服务,通过虚拟地址Pod IP是无法通信的。因此,本地微服务访问云上微服务需要通过编排管理工具K8S的负载均衡器Ingress,可以设置规则来从外部路由流量到集群内部的服务端点进行通信。需要对云上微服务加上一个特定的配置,bee.microservice.discovery.metadata.route。在微服务注册时,元数据会增加一个route属性,此route属性指定了访问微服务的地址。
步骤S1202,接收第二终端发送的对所述微服务的发现请求,发现所述微服务的服务实例列表,并将所述微服务的服务实例列表发送到所述第二终端。
具体地,接收第二终端发送的对所述微服务的发现请求;根据所述微服务的名称,从所述注册与发现中心服务获取相同名称的微服务实例列表;将所述微服务的服务实例列表发送到所述第二终端。
本实施例通过上述方案,具体通过接收第二终端发送的对所述微服务的注册请求,注册所述微服务,发送注册结果;接收第二终端发送的对所述微服务的发现请求,发现所述微服务的服务实例列表,并将所述微服务的服务实例列表发送到所述第二终端。基于本方案,通过注册和发现服务中心的使用,实现了对微服务注册与发现请求的处理。
进一步地,参照图4,图4为服务的管理方法第三示例性实施例的流程示意图,图6为服务的管理方法第三示例性实施例的流程框图。所述探测所述注册与发现中心服务的集群节点的服务状态,处理所述注册与发现中心服务中注册的微服务信息的步骤包括:
步骤S1301,并行单向探测所述注册与发现中心服务的集群节点的服务状态;
具体地,对服务端节点之间的健康探测改成并行检测,能快速感知服务端节点的下线、上线、故障等状态变化。此外,双向探测即节点1主动探测节点2的状态,节点2会上报自身的健康状态给节点1,同时节点2也会认为节点1的健康状态是上线状态。但是这种实现在云上的环境是不合理的,因为节点和节点之间的通信有定点的域名,即节点1到节点2是一个域名,节点2到节点1是另外一个域名。在iaas层故障时,将节点2的流量进行隔离,此时,节点1到节点2的网络被阻断,节点1探测节点2网络不通,认为节点2为下线状态。但节点2到节点1的网络是好的,此时节点2在探测节点1的时候,节点1收到了节点2的探测请求,会认为节点2为上线状态,这样整个注册与发现中心服务的集群处于反复上线、下线状态。本软件工具将服务端节点之间的健康探测使用并行单向探测,保证注册与发现中心服务集群的稳态。
步骤S1302,若所述注册与发现中心服务的集群节点的服务状态改变,则在预设时间段后,探测服务状态改变的节点的微服务实例的健康状态;
具体地,如图5所示,在感知到服务端节点状态变化时延迟检测任务;
具体地,如果注册与发现中心服务的集群节点的服务状态发生改变,为
步骤S1303,设置服务状态改变的节点从所述集群节点的其他节点同步所述注册的微服务信息的重试次数;
具体地,如图5所示,设置所述服务状态改变的集群节点从其他节点同步所述注册的微服务信息的重试次数,最多重试三次;
步骤S1304,监听预设事件,设置等待时间周期,更新所述服务状态改变的节点的微服务实例信息。
具体地,如图5所示,服务端节点程序会监听加载快照数据事件LSDE和节点准备事件NRE,在服务端节点从其他存活节点同步微服务实例信息后,等待设置好的时间周期,让该节点所负责微服务实例心跳信息能及时更新。从而,避免出现正常在线的微服务实例被下线的问题。
本申请实施例通过上述方案,具体通过并行单向探测所述注册与发现中心服务的集群节点的服务状态;若所述注册与发现中心服务的集群节点的服务状态改变,则在预设时间段后,探测服务状态改变的节点的微服务实例的健康状态;设置服务状态改变的节点从所述集群节点的其他节点同步所述注册的微服务信息的重试次数;监听预设事件,设置等待时间周期,更新所述服务状态改变的节点的微服务实例信息。基于本方案,通过并行单向探测注册与发现中心服务的集群节点的服务状态,使得状态改变时,能够延迟检测,避免正常在线任务下线问题。
进一步地,参照图6,图6为服务的管理方法第四示例性实施例的流程示意图。所述根据微服务租户的管理相关因素和调度算法,对所述微服务租户进行调度的步骤包括:
步骤S1401,根据微服务租户的管理相关因素和调度算法,确定所述微服务租户调度目标分组;
具体地,微服务租户是注册与发现中心服务用于实现不同用户资源隔离管理的单位。本软件工具基于编排管理工具编排管理工具K8S的负载均衡器Ingress设计了一套灵活的微服务租户调度迁移方案。注册与发现中心服务的租户管理会根据微服务的风险等级、环境标识、注册与发现中心服务的集群分组的容量大小以及微服务租户所需要的配额规格,确定微服务租户调度的集群分组。调度算法会对集群分组的容量进行饱和性计算,避免出现容量碎片,从而提升资源利用率。
步骤S1402,将所述微服务租户调度至所述目标分组。
具体地,确定微服务租户所在的集群分组后,会给租户分配一个唯一的入口网关地址,微服务租户1和微服务租户2同在一个集群分组1,并且共用一个入口网关,微服务租户2的入口网关域名为tenant2.gateway.cmbchina.cn,因集群分组1容量过满,需要把集群分组1中的微服务租户2迁出,那么把域名tenant2.gateway.cmbchina.cn绑定到集群分组2的入口网关,然后切换流量到目标入口网关,并在集群分组2中创建一个相同名称的租户2即可,微服务租户2的配置和元数据同步由服务端完成,微服务在不同集群分组的微服务租户之间迁移无需重启微服务应用、无需更改微服务应用配置,对用户完全无感知。
本申请实施例通过上述方案,具体通过根据微服务租户的管理相关因素和调度算法,确定所述微服务租户调度目标分组;将所述微服务租户调度至所述目标分组。基于本方案,通过调度微服务租户,保证了注册与发现中心服务的稳定性。
进一步地,参照图7,图7为服务的管理方法第五示例性实施例的流程示意图,图8为服务的管理方法第五示例性实施例的架构示例图。应用于第一终端,所述服务的管理方法包括:
步骤S110,以集群方式部署注册与发现中心服务到服务端的联邦集群多可用区的不同节点,以用于管理微服务。
具体地,图8中所示的为本申请以集群方式部署的一个入口网关和一个集群分组。在第一终端,通过结合跨云环境和多可用区AZ的编排管理工具K8S容器服务,是一个可移植容器的编排管理工具,对注册与发现中心服务的源码,部署架构进行改造和优化,使得服务端可以灵活横向扩展。以“单个分片、集群分组”为视角,“一个分片”由“微服务专用联邦集群的七层智能负载均衡器入口网关”和“N个集群分组”组成,本申请通过上述方案,具体通过以集群方式部署注册与发现中心服务到联邦集群多可用区的不同节点,以用于管理微服务,达到了对注册与发现中心服务的集群化部署,提高了注册与发现中心服务的稳定性和高可用性。
进一步地,参照图9,图9为服务的管理方法第六示例性实施例的流程示意图。应用于第二终端,所述服务的管理方法包括:
步骤S149,向服务端发送微服务的处理请求,接收处理结果;
具体地,微服务的部署终端即为第二终端,通过微服务向服务端的注册与发现中心服务发送注册或发现请求,若探测到所述注册与发现中心服务的服务状态出现故障时,或因为网络等原因导致的连接失败,根据故障类型的不同,执行步骤S150、S151、S152解决因故障导致的问题。
步骤S150,若所述处理请求失败,则确定故障类型;
具体地,故障类型被分为一级故障即短暂故障;二级故障如服务实例下线或注册与发现中心服务的功能性故障等;三级故障如发生网路被阻断,或服务端的服务器出现问题一时无法修复的毁灭性故障;这些故障会导致新增的微服务应用无法使用服务注册与发现功能,从而导致调用微服务失败。
步骤S151,若所述故障类型是一级故障时,启动推空保护机制;
具体地,一级故障是指当部署注册与发现中心服务的服务端因网络闪断或其他原因导致的短暂故障,第二终端的微服务感知到注册与发现中心服务的这种短暂故障时,启动微服务的推空保护机制,微服务的软件工具SDK不清空在此前已经发现到的微服务的服务实例列表,从而保障微服务调用的连续性。
步骤S152,若所述故障类型是二级故障时,启动降级保护机制;
具体地,二级故障至少包括当被调用微服务的某个可用区AZ服务实例均下线、宕机,或注册与发现中心服务出现功能性故障时,第二终端获取到的服务实例列表可能为空,从而导致服务间调用出现没有“可用实例”的错误。为避免上述情况导致服务间调用失败,启动微服务的软件工具SDK的路由降级方案即降级保护机制。进一步地,微服务的路由降级方案是当正常获取微服务实例列表时,将微服务的外部路由缓存下来,当服务无可用实例调用时,微服务会缓存微服务的外部路由进行降级调用,从而保障微服务调用的连续性。
步骤S153,若所述故障类型是三级故障时,启动兜底保护机制。
具体地,三级故障至少包括发生网路被阻断,或服务端的服务器出现问题一时无法修复的毁灭性故障时,会导致新增的微服务应用无法使用服务注册与发现功能,从而导致服务间调用失败;如果运行中的微服务应用异常重启,由于无法注册到注册与发现中心服务,也会出现启动失败。微服务的软件工具SDK实现了服务路由兜底机制,兜底机制通过特定配置bee.microservice.discovery.enabled=false即关闭服务发现;bee.microservice.discovery.failover.enabled=true即开启服务路由兜底机制;开启服务路由兜底机制后,微服务SDK会读取环境变量中的服务路由信息进行服务间调用。服务路由条目的配置格式为如下,键为服务名,值为对应服务的外部或内部路由:
服务名A=内部路由(需带上端口号)或外部路由,默认80端口;
服务名B=内部路由(需带上端口号)或外部路由,默认80端口。
本申请实施例通过上述方案,具体通过向服务端发送微服务的处理请求失败时,确定故障类型;若所述故障类型是一级故障时,启动推空保护机制;若所述故障类型是二级故障时,启动降级保护机制;若所述故障类型是三级故障时,启动兜底保护机制。基于本方案,通过接收注册与发现中心服务的失败信息,确定故障类型,再实施不同的保护机制,保证了注册与发现中心服务的高可用性和对微服务调用的连续性。
进一步地,参照图10,图10为服务的管理方法第七示例性实施例的流程示意图。所述处理请求为发现请求,所述向服务端发送对微服务的处理请求,接收处理结果的步骤之后包括:
步骤S154,根据负载均衡算法,从所述处理结果的服务实例列表中优先选取与发送发现请求的微服务相同可用区的目标微服务实例。
具体地,如果被调用的微服务与发送请求的微服务在相同的可用区AZ没有可用的服务实例,则会从服务实例注册的元数据中获取外部路由,并通过外部路由进行调用,此时,由域名系统DNS实现服务端负载均衡。服务实例在注册时会携带可用区AZ相关信息,在进行服务间调用时,微服务会自动识别所在的可用区AZ相关信息。根据识别到的云上微服务的可用区相关信息筛选相同可用区的注册与发现中心服务的实例;根据负载均衡算法,从微服务的服务实例列表中选取相同可用区的微服务实例。进一步地,本地微服务调用云上微服务时,如果判断服务提供方运行在云上,则会通过route属性配置的域名进行访问。
此外,本申请实施例还提出一种服务的管理系统,所述服务的管理系统包括:
处理模块,用于接收第二终端发送的对微服务的处理请求,处理所述微服务,发送处理结果;
探测模块,用于探测所述注册与发现中心服务的集群节点的服务状态,处理所述注册与发现中心服务中注册的微服务信息;
调度模块,用于根据微服务租户的管理相关因素和调度算法,对所述微服务租户进行调度。
此外,本申请实施例还提出一种终端设备,所述终端设备包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的服务的管理程序,所述服务的管理程序被所述处理器执行时实现所述服务的管理方法的步骤。
由于本服务的管理程序被处理器执行时,采用了前述所有实施例的全部技术方案,因此至少具有前述所有实施例的全部技术方案所带来的所有有益效果,在此不再一一赘述。
此外,本申请实施例还提出一种可读存储介质,所述存储介质上存储有程序,所述服务的管理程序被处理器执行时实现如上所述的服务的管理方法的步骤。
由于本服务的管理程序被处理器执行时,采用了前述所有实施例的全部技术方案,因此至少具有前述所有实施例的全部技术方案所带来的所有有益效果,在此不再一一赘述。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在如上的一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,被控终端,或者网络设备等)执行本申请每个实施例的方法。
以上仅为本申请的优选实施例,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本申请的专利保护范围内。
Claims (10)
1.一种服务的管理系统,其特征在于,所述服务的管理系统至少包括服务端和第二终端,所述服务端包括在联邦集群多可用区的不同节点以集群方式部署注册与发现中心服务,所述服务的管理系统包括:
所述服务端,用于接收第二终端发送的对微服务的处理请求,处理所述微服务,发送处理结果;探测所述注册与发现中心服务的集群节点的服务状态,处理所述注册与发现中心服务中注册的微服务信息;根据微服务租户的管理相关因素和调度算法,对所述微服务租户进行调度;
所述第二终端,用于向服务端发送对微服务的处理请求;若所述处理请求为失败,则确定故障类型并启动对应的保护机制;若所述处理请求为成功,则接收处理结果。
2.一种服务的管理方法,其特征在于,应用于服务端,所述服务端包括在联邦集群多可用区的不同节点以集群方式部署注册与发现中心服务,所述服务的管理方法包括以下步骤:
接收第二终端发送的对微服务的处理请求,处理所述微服务,发送处理结果;
探测所述注册与发现中心服务的集群节点的服务状态,处理所述注册与发现中心服务中注册的微服务信息;
根据微服务租户的管理相关因素和调度算法,对所述微服务租户进行调度。
3.根据权利要求2所述的服务的管理方法,其特征在于,所述接收第二终端发送的对微服务的处理请求,处理所述微服务,发送处理结果的步骤包括:
接收第二终端发送的对所述微服务的注册请求,注册所述微服务,发送注册结果;
接收第二终端发送的对所述微服务的发现请求,发现所述微服务的服务实例列表,并将所述微服务的服务实例列表发送到所述第二终端。
4.根据权利要求3所述的服务的管理方法,其特征在于,所述接收第二终端发送的对所述微服务的发现请求,发现所述微服务的服务实例列表的步骤包括:
接收第二终端发送的对所述微服务的发现请求;
根据所述微服务的名称,从所述注册与发现中心服务获取相同名称的微服务实例列表。
5.根据权利要求2所述的服务的管理方法,其特征在于,所述探测所述注册与发现中心服务的集群节点的服务状态,处理所述注册与发现中心服务中注册的微服务信息的步骤包括:
并行单向探测所述注册与发现中心服务的集群节点的服务状态;
若所述注册与发现中心服务的集群节点的服务状态改变,则在预设时间段后,探测服务状态改变的节点的微服务实例的健康状态;
设置服务状态改变的节点从所述集群节点的其他节点同步所述注册的微服务信息的重试次数;
监听预设事件,设置等待时间周期,更新所述服务状态改变的节点的微服务实例信息。
6.根据权利要求2所述的服务的管理方法,其特征在于,所述根据微服务租户的管理相关因素和调度算法,对所述微服务租户进行调度的步骤包括:
根据微服务租户的管理相关因素和调度算法,确定所述微服务租户调度目标分组;
将所述微服务租户调度至所述目标分组。
7.一种服务的管理方法,其特征在于,应用于第二终端,所述服务的管理方法包括:
向服务端发送对微服务的处理请求;
若所述处理请求为失败,则确定故障类型并启动对应的保护机制;
若所述处理请求为成功,则接收处理结果;
所述处理请求为发现请求,所述若所述处理请求为成功,则接收处理结果的步骤之后包括:
根据负载均衡算法,从所述处理结果的服务实例列表中优先选取与发送发现请求的微服务相同可用区的目标微服务实例。
8.根据权利要求7所述的服务的管理方法,其特征在于,所述确定故障类型并启动对应的保护机制的步骤包括:
若所述故障类型是一级故障时,则启动推空保护机制;
若所述故障类型是二级故障时,则启动降级保护机制;
若所述故障类型是三级故障时,则启动兜底保护机制。
9.一种终端设备,所述终端设备包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的服务的管理程序,所述服务的管理程序被所述处理器执行时实现如权利要求2-6或者7-8中任一项所述服务的管理方法的步骤。
10.一种存储介质,其特征在于,所述存储介质上存储有服务的管理程序,所述服务的管理程序被处理器执行时实现如权利要求2-6或者7-8中任一项所述服务的管理方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310131314.4A CN116319963A (zh) | 2023-02-10 | 2023-02-10 | 服务的管理方法、系统、终端设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310131314.4A CN116319963A (zh) | 2023-02-10 | 2023-02-10 | 服务的管理方法、系统、终端设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116319963A true CN116319963A (zh) | 2023-06-23 |
Family
ID=86821439
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310131314.4A Pending CN116319963A (zh) | 2023-02-10 | 2023-02-10 | 服务的管理方法、系统、终端设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116319963A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117041329A (zh) * | 2023-10-08 | 2023-11-10 | 南京翼辉信息技术有限公司 | 一种基于异构总线结构的微服务配置系统及其控制方法 |
-
2023
- 2023-02-10 CN CN202310131314.4A patent/CN116319963A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117041329A (zh) * | 2023-10-08 | 2023-11-10 | 南京翼辉信息技术有限公司 | 一种基于异构总线结构的微服务配置系统及其控制方法 |
CN117041329B (zh) * | 2023-10-08 | 2023-12-15 | 南京翼辉信息技术有限公司 | 一种基于异构总线结构的微服务配置系统及其控制方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110990047B (zh) | 用于多个微服务架构的融合方法及装置 | |
CN112087333B (zh) | 一种微服务注册中心集群及其信息处理方法 | |
CN112868206B (zh) | 一种用于提供服务代理功能的方法、系统和计算机可读介质 | |
CN107465767B (zh) | 一种数据同步的方法和系统 | |
US9338067B2 (en) | Network resource deployment for cloud-based services | |
EP3133794B1 (en) | Network function virtualization network system | |
JP6026705B2 (ja) | 更新管理システムおよび更新管理方法 | |
US7869373B2 (en) | High-availability network systems | |
EP3413511B1 (en) | Vnfm determining method and network function virtualization orchestrator | |
CN105577409B (zh) | 一种实现虚拟网络功能自动部署的方法和装置 | |
CN107404509B (zh) | 分布式服务配置系统及信息管理方法 | |
CN101207517B (zh) | 一种分布式企业服务总线节点可靠性维护方法 | |
JP2018519736A (ja) | Vnfフェイルオーバの方法及び装置 | |
CN111045745A (zh) | 管理配置信息的方法和系统 | |
CN110391940B (zh) | 服务地址的响应方法、装置、系统、设备和存储介质 | |
CN105429938A (zh) | 一种资源配置方法及装置 | |
CN111884844A (zh) | 基于zookeeper的消息服务接入方法和设备 | |
CN116319963A (zh) | 服务的管理方法、系统、终端设备及存储介质 | |
US7519855B2 (en) | Method and system for distributing data processing units in a communication network | |
CN114338670B (zh) | 一种边缘云平台和具有其的网联交通三级云控平台 | |
WO2022007908A1 (zh) | 网元设备间业务协同的方法和网元设备 | |
CN113407382B (zh) | 一种服务故障动态调控方法与系统 | |
CN106534758B (zh) | 会议备份方法和装置 | |
WO2020199807A1 (zh) | 支持网络切片的方法、网络管控系统及存储介质 | |
US20050182763A1 (en) | Apparatus and method for on-line upgrade using proxy objects in server nodes |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |