CN112416559A - 调度策略更新方法、服务调度方法、存储介质及相关装置 - Google Patents
调度策略更新方法、服务调度方法、存储介质及相关装置 Download PDFInfo
- Publication number
- CN112416559A CN112416559A CN202011383256.7A CN202011383256A CN112416559A CN 112416559 A CN112416559 A CN 112416559A CN 202011383256 A CN202011383256 A CN 202011383256A CN 112416559 A CN112416559 A CN 112416559A
- Authority
- CN
- China
- Prior art keywords
- service
- target service
- scheduling
- target
- updated
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 87
- 238000001514 detection method Methods 0.000 claims description 10
- 230000000977 initiatory effect Effects 0.000 claims description 8
- 230000003287 optical effect Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000003491 array Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/445—Program loading or initiating
- G06F9/44505—Configuring for program initiating, e.g. using registry, configuration files
- G06F9/4451—User profiles; Roaming
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请公开了一种调度策略更新方法、服务调度方法、存储介质及相关装置,调度策略更新方法通过从配置中心端实时获取每一个目标服务对应的调度策略和服务实例的分布信息,并实时检测每一个目标服务对应的服务实例的健康程度;根据调度策略是否发生更新的识别结果、服务实例的分布信息是否发生更新的识别结果、以及服务实例的健康程度是否发生更新的识别结果,若确定出需更新本地目标服务对应的服务负载均衡调度主表,则利用当前获取到的目标服务对应的调度策略、服务实例的分布信息、以及服务实例的健康程度,更新本地目标服务对应的服务负载均衡调度主表,而不需要在出现影响现有的服务调度的情况时进行人工配置更改,保障了服务调度的可用性。
Description
技术领域
本申请涉及计算机技术领域,尤其涉及一种调度策略更新方法、服务调度方法、存储介质及相关装置。
背景技术
现有技术中,为了提高服务器执行服务的质量,通常会采用分布式部署的方式,将服务部署到多个集群中。当服务消费端将服务请求发送至服务调用端后,服务调度端会根据本地的服务调度策略,选择调用可执行服务的服务实例,实现为服务消费端提供服务。
然而,在现有的服务调度方法中,当出现服务部署分布变动、集群发生故障、服务调度的优先级需要调整等影响服务调度的情况时,只能够通过人工修改配置多个服务调度端的本地服务调度策略的方式,才能保障服务调度端能顺利实现服务调度。例如,原本服务A部署在集群A和集群C上,集群A和集群C原本的优先级相同。但当服务A在集群C上的服务质量变差时,则需要动态调整调用优先级,使集群A的调用优先级高于集群C。此时,只能通过人工配置改变多个服务调度端本地的调用策略来实现。又例如,原本服务A被部署到了集群A,集群B以及集群C上,且服务A可支持调度异地集群,但后续为了提高服务A的服务质量,又多增加部署了集群D,那么就需要改变多个服务调度端本地的服务调度策略,即将服务A的可用集群改成集群A、集群B、集群C以及集群D。因此,现有的服务调度方法中,在出现影响现有的服务调度的情况时,需要人工对多个服务调度端重新配置本地的服务调度策略,过程过于繁琐,效率不高,不能够及时保障服务调度的可用性,导致服务质量也较低。
发明内容
基于上述现有技术的缺点,本申请提供一种调度策略更新方法、服务调度方法、存储介质及相关装置,以使得服务调度端自动更新本地的服务负载均衡调度主表。
本申请第一方面公开了一种调度策略更新方法,应用于服务调度端,所述调度策略更新方法,包括:
从配置中心端实时获取当前每一个目标服务对应的调度策略和每一个目标服务对应的服务实例的分布信息,并实时检测当前每一个目标服务对应的服务实例的健康程度;其中,所述目标服务对应的服务实例为可执行所述目标服务的服务器;
针对每一个所述目标服务,分别识别当前获取到的所述目标服务对应的调度策略、当前获取到的所述目标服务对应的服务实例的分布信息、以及当前检测到的所述目标服务对应的服务实例的健康程度是否发生更新;
根据当前所述目标服务对应的调度策略是否发生更新的识别结果、所述目标服务对应的服务实例的分布信息是否发生更新的识别结果、以及所述目标服务对应的服务实例的健康程度是否发生更新的识别结果,确定出是否需要更新本地所述目标服务对应的服务负载均衡调度主表;
若确定出需更新本地所述目标服务对应的服务负载均衡调度主表,则利用当前获取到的所述目标服务对应的调度策略、所述目标服务对应的服务实例的分布信息、以及所述目标服务对应的服务实例的健康程度,更新本地所述目标服务对应的服务负载均衡调度主表;其中,所述目标服务对应的服务负载均衡调度主表用于确定出所述目标服务对应的目标服务实例;所述目标服务对应的目标服务实例为所述服务调度端用于调度执行所述目标服务的服务实例。
可选地,在上述调度策略更新方法中,所述实时检测当前每一个目标服务对应的服务实例的健康程度,包括:
针对每一个所述目标服务,实时调用访问所述目标服务对应的服务实例中的所述目标服务;若所述目标服务对应的服务实例能够被成功调用访问,则检测出目标服务对应的服务实例的健康程度为处于健康状态;若所述目标服务对应的服务实例不能被成功调用,则检测出所述目标服务对应的服务实例的健康程度为不处于健康状态。
可选地,在上述调度策略更新方法中,所述若确定出需更新本地所述目标服务对应的服务负载均衡调度主表,则利用当前获取到的所述目标服务对应的调度策略、所述目标服务对应的服务实例的分布信息、以及所述目标服务对应的服务实例的健康程度,更新本地所述目标服务对应的服务负载均衡调度主表,包括:
若确定出需更新本地所述目标服务对应的服务负载均衡调度主表,则利用当前获取到的所述目标服务对应的调度策略、所述目标服务对应的服务实例的分布信息、以及所述目标服务对应的服务实例的健康程度,生成所述目标服务对应的服务负载均衡调度副表;
将生成的所述目标服务对应的服务负载均衡调度副表,作为更新后的所述目标服务对应的服务负载均衡调度主表,替换下更新前的所述目标服务对应的服务负载均衡调度主表。
可选地,在上述调度策略更新方法中,所述根据当前所述目标服务对应的调度策略是否发生更新的识别结果、所述目标服务对应的服务实例的分布信息是否发生更新的识别结果、以及所述目标服务对应的服务实例的健康程度是否发生更新的识别结果,确定出是否需要更新本地所述目标服务对应的服务负载均衡调度主表,包括:
若识别出当前所述目标服务对应的调度策略未发生更新、当前所述目标服务对应的服务实例的分布信息未发生更新的、以及当前所述目标服务对应的服务实例的健康程度未发生更新,则确定出不需要更新本地所述目标服务对应的服务负载均衡调度主表;
若识别出当前所述目标服务对应的调度策略、所述目标服务对应的服务实例的分布信息以及所述目标服务对应的服务实例的健康程度中的至少一个发生了更新,则根据当前所述目标服务对应的调度策略、所述目标服务对应的服务实例的分布信息以及所述目标服务对应的服务实例的健康程度,确定是否会造成当前所述目标服务对应的可用服务实例、或者调度可用服务实例的优先级发生更新;
若确定出会造成当前所述目标服务对应的可用服务实例、或者调度可用服务实例的优先级发生更新,则确定出需更新本地所述目标服务对应的服务负载均衡调度主表;
若确定出不会造成当前所述目标服务对应的可用服务实例、或者调度可用服务实例的优先级发生更新,则确定出不需更新本地所述目标服务对应的服务负载均衡调度主表。
可选地,在上述调度策略更新方法中,所述若确定出需更新本地所述目标服务对应的服务负载均衡调度主表,则利用当前获取到的所述目标服务对应的调度策略、所述目标服务对应的服务实例的分布信息、以及所述目标服务对应的服务实例的健康程度,更新本地所述目标服务对应的服务负载均衡调度主表,包括:
若确定出需更新本地所述目标服务对应的服务负载均衡调度主表,则根据所述目标服务对应的服务实例的分布信息,确定出所述目标服务对应的部署集群、根据所述目标服务对应的服务实例的健康程度,确定出所述目标服务对应的部署集群中健康程度处于健康状态的服务实例、以及根据所述目标服务对应的调度策略,确定出所述服务调度端可调度的所述目标服务对应的部署集群以及对应的优先级;
根据确定出的所述目标服务对应的部署集群、所述目标服务对应的部署集群中健康程度处于健康状态的服务实例、以及所述服务调度端可调度的所述目标服务对应的部署集群以及对应的优先级,更新本地所述目标服务对应的服务负载均衡调度主表。
本申请第二方面公开了一种服务调度方法,应用于服务调度端,所述服务调度方法,包括:
获取服务消费端发送的目标服务调用请求;其中,所述目标服务调用请求携带有所需调用的目标服务的标识信息;
利用本地存储的所述目标服务对应的服务负载均衡调度主表,确定出所述目标服务对应的目标服务实例;其中,所述目标服务对应的服务负载均衡调度主表采用如上述第一方面所述的任意一种调度策略更新方法进行更新;
对所述目标服务对应的目标服务实例发起所述目标服务的调用。
本申请第三方面公开了一种调度策略更新装置,应用于服务调度端,所述调度策略装置,包括:
第一获取单元,用于从配置中心端实时获取当前每一个目标服务对应的调度策略和每一个目标服务对应的服务实例的分布信息;
检测单元,用于实时检测当前每一个目标服务对应的服务实例的健康程度;其中,所述目标服务对应的服务实例为可执行所述目标服务的服务器;
识别单元,用于针对每一个所述目标服务,分别识别当前获取到的所述目标服务对应的调度策略、当前获取到的所述目标服务对应的服务实例的分布信息、以及当前检测到的所述目标服务对应的服务实例的健康程度是否发生更新;
第一确定单元,用于根据当前所述目标服务对应的调度策略是否发生更新的识别结果、所述目标服务对应的服务实例的分布信息是否发生更新的识别结果、以及所述目标服务对应的服务实例的健康程度是否发生更新的识别结果,确定出是否需要更新本地所述目标服务对应的服务负载均衡调度主表;
更新单元,用于若确定出需更新本地所述目标服务对应的服务负载均衡调度主表,则利用当前获取到的所述目标服务对应的调度策略、所述目标服务对应的服务实例的分布信息、以及所述目标服务对应的服务实例的健康程度,更新本地所述目标服务对应的服务负载均衡调度主表;其中,所述目标服务对应的服务负载均衡调度主表用于确定出所述目标服务对应的目标服务实例;所述目标服务对应的目标服务实例为所述服务调度端用于调度执行所述目标服务的服务实例。
可选地,在上述调度策略更新装置中,所述检测单元,包括:
检测子单元,用于针对每一个所述目标服务,实时调用访问所述目标服务对应的服务实例中的所述目标服务;若所述目标服务对应的服务实例能够被成功调用访问,则检测出目标服务对应的服务实例的健康程度为处于健康状态;若所述目标服务对应的服务实例不能被成功调用,则检测出所述目标服务对应的服务实例的健康程度为不处于健康状态。
可选地,在上述调度策略更新装置中,所述更新单元,包括:
第一生成子单元,用于若确定出需更新本地所述目标服务对应的服务负载均衡调度主表,则利用当前获取到的所述目标服务对应的调度策略、所述目标服务对应的服务实例的分布信息、以及所述目标服务对应的服务实例的健康程度,生成所述目标服务对应的服务负载均衡调度副表;
替换子单元,用于将生成的所述目标服务对应的服务负载均衡调度副表,作为更新后的所述目标服务对应的服务负载均衡调度主表,替换下更新前的所述目标服务对应的服务负载均衡调度主表。
可选地,在上述调度策略更新装置中,所述第一确定单元,包括:
第一确定子单元,用于若识别出当前所述目标服务对应的调度策略未发生更新、当前所述目标服务对应的服务实例的分布信息未发生更新的、以及当前所述目标服务对应的服务实例的健康程度未发生更新,则确定出不需要更新本地所述目标服务对应的服务负载均衡调度主表;
第二确定子单元,用于若识别出当前所述目标服务对应的调度策略、所述目标服务对应的服务实例的分布信息以及所述目标服务对应的服务实例的健康程度中的至少一个发生了更新,则根据当前所述目标服务对应的调度策略、所述目标服务对应的服务实例的分布信息以及所述目标服务对应的服务实例的健康程度,确定是否会造成当前所述目标服务对应的可用服务实例、或者调度可用服务实例的优先级发生更新;
第三确定子单元,用于若确定出会造成当前所述目标服务对应的可用服务实例、或者调度可用服务实例的优先级发生更新,则确定出需更新本地所述目标服务对应的服务负载均衡调度主表;
第四确定子单元,用于若确定出不会造成当前所述目标服务对应的可用服务实例、或者调度可用服务实例的优先级发生更新,则确定出不需更新本地所述目标服务对应的服务负载均衡调度主表。
可选地,在上述调度策略更新装置中,所述更新单元,包括:
第五确定子单元,用于若确定出需更新本地所述目标服务对应的服务负载均衡调度主表,则根据所述目标服务对应的服务实例的分布信息,确定出所述目标服务对应的部署集群、根据所述目标服务对应的服务实例的健康程度,确定出所述目标服务对应的部署集群中健康程度处于健康状态的服务实例、以及根据所述目标服务对应的调度策略,确定出所述服务调度端可调度的所述目标服务对应的部署集群以及对应的优先级;
更新子单元,用于根据确定出的所述目标服务对应的部署集群、所述目标服务对应的部署集群中健康程度处于健康状态的服务实例、以及所述服务调度端可调度的所述目标服务对应的部署集群以及对应的优先级,更新本地所述目标服务对应的服务负载均衡调度主表。
本申请第四方面公开了一种服务调度装置,应用于服务调度端,所述服务调度装置,包括:
第二获取单元,用于获取服务消费端发送的目标服务调用请求;其中,所述目标服务调用请求携带有所需调用的目标服务的标识信息;
第二确定单元,用于利用本地存储的所述目标服务对应的服务负载均衡调度主表,确定出所述目标服务对应的目标服务实例;其中,所述目标服务对应的服务负载均衡调度主表采用如上述第一方面所述的任意一种调度策略更新方法进行更新;
调用单元,用于对所述目标服务对应的目标服务实例发起所述目标服务的调用。
本申请第五方面公开了一种服务调度系统,包括:
配置中心端,用于配置部署每一个目标服务对应的调度策略和每一个目标服务对应的服务实例的分布信息;
与所述配置中心端相连的服务调度端,用于执行如上述第二方面所述的服务调度方法;
与所述服务调度端相连的服务消费端,用于向所述服务调度端发送目标服务调用请求;其中,所述目标服务调用请求携带有所需调用的目标服务的标识信息。
本申请第六方面公开了一种计算机存储介质,用于存储程序,所述程序被执行时,用于实现如上述第一方面任意一项所述的调度策略更新方法、或者如上述第二方面所述的服务调度方法。
本申请第七方面公开了一种电子设备,包括存储器和处理器;
其中,所述存储器用于存储程序;
所述处理器用于执行所述程序,所述程序被执行时,具体用于实现如上述第一方面任意一项所述的调度策略更新方法,或者,如上述第二方面所述的服务调度方法。
从上述技术方案可知,本申请实施例提出的调度策略更新方法,应用于服务调度端,由于本申请会从配置中心端实时获取当前每一个目标服务对应的调度策略和每一个目标服务对应的服务实例的分布信息,并实时检测当前每一个目标服务对应的服务实例的健康程度,因此可以识别当前获取到的目标服务对应的调度策略、当前获取到的目标服务对应的服务实例的分布信息、以及当前检测到的目标服务对应的服务实例的健康程度是否发生更新,进而可以根据当前目标服务对应的调度策略是否发生更新的识别结果、目标服务对应的服务实例的分布信息是否发生更新的识别结果、以及目标服务对应的服务实例的健康程度是否发生更新的识别结果,确定出是否需要更新本地目标服务对应的服务负载均衡调度主表,若确定出需更新,则可以利用当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,更新本地目标服务对应的服务负载均衡调度主表。由于本申请实施例中的服务调度端可以根据当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,自动完成了对本地目标服务对应的服务负载均衡调度主表的更新,而不需要在出现影响现有的服务调度的情况时进行人工配置更改,保障了服务调度的可用性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本申请实施例提出的一种服务调度系统的结构示意图;
图2为本申请实施例提出的一种调度策略更新方法的流程示意图;
图3为本申请实施例提出的一种确定出是否需要更新服务负载均衡主表的方法的流程示意图;
图4为本申请实施例提出的一种更新服务负载均衡主表的方法的流程示意图;
图5为本申请实施例提出的另一种更新服务负载均衡主表的过程的示意图;
图6为本申请实施例提出的又一种更新服务负载均衡主表的方法的流程示意图;
图7为本申请实施例提出的一种切换服务负载均衡主表的过程的示意图;
图8为本申请实施例提出的一种对服务调度方法的流程示意图;
图9为本申请实施例提出的一种调度策略更新装置的结构示意图;
图10为本申请实施例提出的一种服务调度装置的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
参阅图1,本申请实施例公开了一种服务调度系统,包括:配置中心端101,服务调度端102以及服务消费端103。
配置中心端101配置部署了每一个目标服务对应的调度策略和每一个目标服务对应的服务实例的分布信息,而服务调度端102则从配置中心端101实时获取当前每一个目标服务对应的调度策略和每一个目标服务对应的服务实例的分布信息,并实时检测当前每一个目标服务对应的服务实例的健康程度。其中,目标服务对应的服务实例为可执行目标服务的服务器。
然后服务调度端102中的动态调度策略组件针对每一个目标服务,分别识别当前获取到的目标服务对应的调度策略和当前获取到的目标服务对应的服务实例的分布信息是否发生更新。服务实例健康检测组件则针对每一个目标服务,识别当前检测到的目标服务对应的服务实例的健康程度是否发生更新。调度策略组件根据当前目标服务对应的调度策略是否发生更新的识别结果、目标服务对应的服务实例的分布信息是否发生更新的识别结果、以及目标服务对应的服务实例的健康程度是否发生更新的识别结果,确定出是否需要更新本地目标服务对应的服务负载均衡调度主表。调度策略组件若确定出需更新本地目标服务对应的服务负载均衡调度主表,则利用当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,更新本地目标服务对应的服务负载均衡调度主表。其中,目标服务对应的服务负载均衡调度主表用于确定出目标服务对应的目标服务实例,目标服务对应的目标服务实例为服务调度端用于调度执行目标服务的服务实例。
当服务消费端103向服务调度端102发送目标服务调用请求时,服务调度端102中的负载均衡组件则利用本地存储的目标服务对应的服务负载均衡调度主表,确定出目标服务对应的目标服务实例,对目标服务对应的目标服务实例发起目标服务的调用。其中,目标服务调用请求携带有所需调用的目标服务的标识信息。
在本申请实施例提出的服务调度系统中,由于服务调度端102中的动态调度策略组件从配置中心端101实时获取当前每一个目标服务对应的调度策略和每一个目标服务对应的服务实例的分布信息,且服务实例健康检测组件实时检测当前每一个目标服务对应的服务实例的健康程度,因此动态调度策略组件可以识别当前获取到的目标服务对应的调度策略和当前获取到的目标服务对应的服务实例的分布信息是否发生更新。服务实例健康检测组件则可以识别当前检测到的目标服务对应的服务实例的健康程度是否发生更新,进而调度策略组件可以根据当前目标服务对应的调度策略是否发生更新的识别结果、目标服务对应的服务实例的分布信息是否发生更新的识别结果、以及目标服务对应的服务实例的健康程度是否发生更新的识别结果,确定出是否需要更新本地目标服务对应的服务负载均衡调度主表,若确定出需更新,则可以利用当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,更新本地目标服务对应的服务负载均衡调度主表。由于服务调度端102中的调度策略组件可以根据当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,自动完成了对本地目标服务对应的服务负载均衡调度主表的更新,而不需要在出现影响现有的服务调度的情况时进行人工配置更改,保障了服务调度的可用性。
具体的,以下通过几个实施例对服务调度端所执行的调度策略更新过程、以及服务调度过程进行说明。
参阅图2,本申请实施例公开了一种调度策略更新方法,应用于服务调度端,调度策略更新方法具体包括以下步骤:
S201、从配置中心端实时获取当前每一个目标服务对应的调度策略和每一个目标服务对应的服务实例的分布信息,并实时检测当前每一个目标服务对应的服务实例的健康程度。
其中,目标服务对应的服务实例为可执行目标服务的服务器。目标服务为服务调度端可为服务消费端提供调度访问的服务。目标服务对应的调度策略指的是为调用目标服务对应的服务实例时的优先级规则。例如可以是本集群调度策略,即只允许调用服务调度端所在的集群中的服务实例。也可以是平均调度策略,即所有目标服务对应的服务实例的调度优先级一致,可任意选用。还可以是本集群优先调度策略,即优先选择调度服务调度端所在集群的服务实例,如果服务调度端所在集群的服务实例出现故障,再调用其它集群中的服务实例。配置中心端可以分别对每一个目标服务对应的调度策略均进行配置,例如让目标服务A遵循平均调度策略,让目标服务B遵循本集群优先调度策略。也可以统一将所有的目标服务均配置为一样的调度策略。配置中心端若想改变某一个目标服务,或者所有目标服务的调度策略时,即可在配置中心端本地重新进行配置。
目标服务对应的服务实例的分布信息指的是目标服务对应的服务实例所在的位置,具体可以是目标服务对应的服务实例所在的集群位置,以及具体的服务器标识位置等等。多个物理位置相近的服务器被称为一个集群。目标服务对应的服务实例的分布信息可说明了目标服务对应的服务实例在集群中的分布情况。当目标服务对应的服务实例的分布信息发生变更时,则需要在配置中心端更改目标服务对应的服务实例的分布信息。具体的,例如目标服务对应的服务实例本来有在A集群的服务实例a和服务实例b,以及C集群的服务实例c。但后续又多增加部署了一个D集群的服务实例d,则需要从配置中心端重新部署目标服务对应的服务实例的分布信息。
服务调度端从配置中心端实时获取当前每一个目标服务对应的调度策略和每一个目标服务对应的服务实例的分布信息的过程,可以是按照预设的周期获取当前每一个目标服务对应的调度策略和每一个目标服务对应的服务实例的分布信息。周期越短,则对本地目标服务对应的服务负载均衡调度主表的更新就越及时。
同样的,实时检测当前每一个目标服务对应的服务实例的健康程度的过程,也可以是按照预设的周期检测当前每一个目标服务对应的服务实例的健康程度。服务实例的健康程度可以分为处于健康状态和不处于健康状态。
可选地,在本申请一具体实施例中,实时检测当前每一个目标服务对应的服务实例的健康程度的一种实施方式,包括:
针对每一个目标服务,实时调用访问目标服务对应的服务实例中的目标服务,若目标服务对应的服务实例能够被成功调用访问,则检测出目标服务对应的服务实例的健康程度为处于健康状态,若目标服务对应的服务实例不能被成功调用,则检测出目标服务对应的服务实例的健康程度为不处于健康状态。
由于目标服务对应的服务实例指的是可执行目标服务的服务器。因此若服务实例无法被成功调用访问,则说明该服务实例无法执行目标服务,因此判断目标服务对应的服务实例的健康程度为不处于健康状态。若服务实例能够被成功调用访问,则说明该服务实例能够正常执行目标服务,因此检测出目标服务对应的服务实例的健康程度为处于健康状态。
需要说明的是,目标服务对应的服务实例可以是有一个或多个,执行步骤S201时是对目标服务对应的所有服务实例的健康程度均进行检测。
现有技术中,当目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度发生变更时,只能通过人工对每一个服务调度端重新配置调整调度策略和分布信息的方式,来完成变更。例如,某个目标服务对应的服务实例的健康程度变更成了不处于健康状态,那么就需要重新对服务调度端本地的调度方式进行调整,使得服务调度端不再调用处于不健康状态的服务实例。又例如,当新增部署了多个目标服务对应的服务实例,即目标服务对应的服务实例的分布信息发生变更了的时候,只能够通过重新重新对服务调度端本地的调度方式,使得服务调度端可调用新增部署的服务实例。
而本申请实施例中,目标服务对应的调度策略、以及目标服务对应的服务实例的分布信息需要发生变更时,只需要对配置中心端进行重新配置和更改,而其他的服务调度端会自动通过执行步骤S201的方式,获取到最新的调度策略和分布信息。同样的,目标服务对应的服务实例的健康程度也会被服务调度端不断进行检测,进而可以执行步骤S202至S204的方式完成对目标服务对应的服务负载均衡调度主表的自动更新,不再需要人工配置每一个服务调度端。
S202、针对每一个目标服务,分别识别当前获取到的目标服务对应的调度策略、当前获取到的目标服务对应的服务实例的分布信息、以及当前检测到的目标服务对应的服务实例的健康程度是否发生更新。
具体的,针对每一个目标服务,识别当前获取到的目标服务对应的调度是否发生更新,可以是比较当前获取到的该目标服务对应的调度策略,相较于上一次获取到的该目标服务对应的调度策略是否有发生变化,若有发生变化,则确定出该目标服务对应的调度策略发生了更新。例如,上一次获取到的该目标服务对应的调度策略是本地集群优先策略,但这次获取到的调度策略为平均调度策略,那么调度策略就发生了变更。
同样的,识别当前获取到的目标服务对应的服务实例的分布信息是否有发生更新的方式类似,也是比较当前获取到的该目标服务对应的服务实例的分布信息,相较于上一次获取到的该目标服务对应的服务实例的分布信息是否有发生变化,若有发生变化,则确定出该目标服务对应的服务实例的分布信息发生了更新。
对目标服务对应的服务实例的健康程度的更新检测也类似,比较当前检测到的该目标服务对应的服务实例的健康程度,相较于上一次检测到的该目标服务对应的服务实例的健康程度是否有发生变化,若有发生变化,则确定出该目标服务对应的服务实例的健康程度发生了更新。例如,如果上一次检测到服务实例的健康程度为不处于健康状态,而当前检测到的服务实例的健康程度为处于健康状态,则该服务实例的健康程度发生了更新。
需要说明的是,识别当前获取到的目标服务对应的调度策略、当前获取到的目标服务对应的服务实例的分布信息、以及当前检测到的目标服务对应的服务实例的健康程度是否发生更新的方式有很多,例如,可以将每一次获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息以及目标服务对应的服务实例的健康程度保存在本地,然后比较当前获取到的与上一次获取到的是否发生了变更。又例如,配置中心端可以是在每一次变更目标服务对应的调度策略和目标服务对应的服务实例的分布信息时,会写上对应的更新时间戳,因此当服务调度端获取当前的目标服务对应的调度策略和目标服务对应的服务实例的分布信息时,则可以从更新时间戳上判断是否发生了变更。识别当前获取到的目标服务对应的调度策略、当前获取到的目标服务对应的服务实例的分布信息、以及当前检测到的目标服务对应的服务实例的健康程度是否发生更新的方式的不同,不影响本申请实施例的实现。
S203、根据当前目标服务对应的调度策略是否发生更新的识别结果、目标服务对应的服务实例的分布信息是否发生更新的识别结果、以及目标服务对应的服务实例的健康程度是否发生更新的识别结果,确定出是否需要更新本地目标服务对应的服务负载均衡调度主表。
其中,目标服务对应的服务负载均衡调度主表用于确定出目标服务对应的目标服务实例。而目标服务对应的目标服务实例为服务调度端用于调度执行目标服务的服务实例。若步骤S203确定出需要更新本地目标服务对应的服务负载均衡调度主表,则执行步骤S204,若确定出不需要更新本地目标服务对应的服务负载均衡调度主表,则结束本次的调度策略更新流程。
执行步骤S203的过程中,确定是否需要更新本地目标服务对应的服务负载均衡调度主表,主要看当前目标服务对应的调度策略是否发生更新的识别结果、目标服务对应的服务实例的分布信息是否发生更新的识别结果、以及目标服务对应的服务实例的健康程度是否发生更新的识别结果,是否能引起确定出的目标服务对应的目标服务实例发生变更。具体的,若当前目标服务对应的调度策略是否发生更新的识别结果、目标服务对应的服务实例的分布信息是否发生更新的识别结果、以及目标服务对应的服务实例的健康程度是否发生更新的识别结果,会引起目标服务对应的服务实例发生变化,和/或,从目标服务对应的服务实例中选取出目标服务实例的优先级发生变化,则可确定出需要更新本地目标服务对应的服务负载均衡调度主表。
需要说明的是,当前获取到的目标服务对应的调度策略、当前获取到的目标服务对应的服务实例的分布信息、以及当前检测到的目标服务对应的服务实例的健康程度如果都没有发生变更,那么可以确定本地目标服务对应的服务负载均衡调度主表是不需要发生更新的。但如果前获取到的目标服务对应的调度策略、当前获取到的目标服务对应的服务实例的分布信息、以及当前检测到的目标服务对应的服务实例的健康程度中至少有一个发生了变更,则需要具体判断发生了更新的信息是否能够引起确定出的目标服务对应的目标服务实例发生变化,如果不能够引起确定出的目标服务对应的目标服务实例发生变化,则确定出不需要更新本地所述目标服务对应的服务负载均衡调度主表,如果引起了确定出的目标服务对应的目标服务实例发生变化,则确定出需要更新本地所述目标服务对应的服务负载均衡调度主表。
可选地,参阅图3,在本申请一具体实施例中,执行步骤S203的一种实施方式,包括:
S301、识别当前目标服务对应的调度策略、当前目标服务对应的服务实例的分布信息、以及当前目标服务对应的服务实例的健康程度是否均未发生更新。
根据步骤S202所得到的每一个目标服务的对应的调度策略是否发生更新的识别结果、目标服务对应的服务实例的分布信息是否发生更新的识别结果、以及目标服务对应的服务实例的健康程度是否发生更新的识别结果,针对么一个目标服务,识别当前目标服务对应的调度策略、当前目标服务对应的服务实例的分布信息、以及当前目标服务对应的服务实例的健康程度是否均未发生更新。若均未发生更新,则执行步骤S304,若当前目标服务对应的调度策略、当前目标服务对应的服务实例的分布信息、以及当前目标服务对应的服务实例的健康程度中的至少一个发生了更新,则执行步骤S302。
S302、根据当前目标服务对应的调度策略、目标服务对应的服务实例的分布信息以及目标服务对应的服务实例的健康程度,确定是否会造成当前目标服务对应的可用服务实例、或者调度可用服务实例的优先级发生更新。
具体的,收集当前目标服务对应的调度策略、目标服务对应的服务实例的分布信息以及目标服务对应的服务实例的健康程度中所有发生了变更的信息,综合所有发生了变更的信息,判断是否会造成当前目标服务对应的可用服务实例、或者调度可用服务实例的优先级发生更新。若确定出会造成当前目标服务对应的可用服务实例、或者调度可用服务实例的优先级发生更新,则执行步骤S303,若确定出不会造成当前目标服务对应的可用服务实例、以及调度可用服务实例的优先级发生更新,则执行步骤S304。
举例说明,如果只有目标服务对应的服务实例的分布信息发生了变更,但是当前目标服务对应的调度策略为本地集群策略,即只允许调用服务调度端所在集群的服务实例,而目标服务对应的服务实例的分布信息中,发生了变更的部分并不涉及服务调度端所在集群,那么即可确定出不会造成该服务调度端当前目标服务对应的可用服务实例、以及调度可用服务实例的优先级发生更新。但如果当前目标服务对应的调度策略为本地集群策略,而目标服务对应的服务实例的分布信息中,发生了变更的部分涉及到了服务调度端所在集群,那么就会确定出会造成该服务调度端当前目标服务对应的可用服务实例、或者调度可用服务实例的优先级发生更新。
S303、确定出需更新本地目标服务对应的服务负载均衡调度主表。
当当前目标服务对应的可用服务实例、或者调度可用服务实例的优先级发生更新,那么通过服务负载均衡主表所确定出的目标服务对应的目标服务实例就可能会发生变化,因此需要更新本地目标服务对应的服务负载均衡调度主表。
S304、确定出不需更新本地目标服务对应的服务负载均衡调度主表。
当当前目标服务对应的可用服务实例、以及调度可用服务实例的优先级没有发生更新,那么通过服务负载均衡主表所确定出的目标服务对应的目标服务实例就不会发生变化,因此不需要更新本地目标服务对应的服务负载均衡调度主表。
S204、利用当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,更新本地目标服务对应的服务负载均衡调度主表。
其中,目标服务对应的服务负载均衡调度主表用于确定出目标服务对应的目标服务实例,目标服务对应的目标服务实例为服务调度端用于调度执行目标服务的服务实例。
具体的,根据当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,确定出目标服务对应的可用的服务实例,以及各个可用的服务实例的优先级。可用的服务实例指的是健康程度为处于健康状态的服务实例。当前获取到的目标服务对应的调度策略说明了目标服务对应的服务实例的优先级关系,而目标服务对应的服务实例的分布信息和目标服务对应的服务实例的健康程度则可确定出可用的服务实例,进而即可根据确定出的各个可用的服务实例、以及各个可用的服务实例的优先级,更新本地目标服务对应的服务负载均衡调度主表。
由于本申请实施例中获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,均是能够影响目标服务的可用服务实例、以及服务实例的优先级的信息,因此在需要更新本地目标服务对应的服务负载均衡调度主表时,只需当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,即可实现自动更新。
现有技术中,在出现影响现有的服务调度的情况时,需要人工对多个服务调度端重新配置本地的服务调度方式,过程过于繁琐,效率不高,不能够及时保障服务调度的可用性,导致服务质量也较低。而本申请实施例中,能够实时监测会影响服务负载均衡调度主表变化的信息,即实时获取当前每一个目标服务对应的调度策略和每一个目标服务对应的服务实例的分布信息,并实时检测当前每一个目标服务对应的服务实例的健康程度,因此在确定出需要更新服务负载均衡调度主表时,则只需要利用当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,即可实现自动更新本地目标服务对应的服务负载均衡调度主表,不再需要人工配置调整,提高了更新的效率,进而能够及时保障服务调度的可用性,提高了服务质量。
可选地,参阅图4,在本申请一具体实施例中,执行步骤S204的一种实施方式,包括:
S401、根据目标服务对应的服务实例的分布信息,确定出目标服务对应的部署集群、根据目标服务对应的服务实例的健康程度,确定出目标服务对应的部署集群中健康程度处于健康状态的服务实例、以及根据目标服务对应的调度策略,确定出服务调度端可调度的目标服务对应的部署集群以及对应的优先级。
具体的,目标服务对应的服务实例的分布信息包含了目标服务所对应的所有服务实例所在的部署集群的信息,因此能够根据目标服务对应的服务实例的分布信息,确定出目标服务对应的部署集群。其中,目标服务对应的部署集群为可执行目标服务的服务实例所在的集群。需要说明的是,本申请实施例中还需要知道服务调度端所在的部署集群。由于对于不同的服务调度端而言所处的本地集群不一定是相同的,因此还需要知道执行图2示出的实施例的服务调度端所在的部署集群。而根据目标服务对应的服务实例的健康程度,即可从确定出的目标服务对应的部署集群,确定出目标服务对应的部署集群中,健康程度处于健康状态的服务实例。其中,目标服务对应的部署集群中健康程度处于健康状态的服务实例为目标服务对应的可用的服务实例。而根据目标服务对应的调度策略,则可确定出服务调度端可调度的目标服务对应的部署集群以及对应的优先级。例如,如果目标服务对应的调度策略为只能够调度本地集群,那么即可确定出服务调度端可调度的目标服务对应的部署集群为服务调度端所在的集群。又例如如果目标服务对应的调度策略为本地集群优先策略,那么服务调度端可调度的目标服务对应的部署集群既包括了服务调度端所在的集群,也包括了其他的异地集群,但服务调度端所在的集群的优先级高于异地集群。
举例说明,参阅图5,物理集群层中,根据目标服务对应的服务实例的分布信息,确定出了目标服务对应的部署集群。具体的,根据服务1对应的服务实例的分布信息、服务2对应的服务实例的分布信息、服务3对应的服务实例的分布信息、服务4对应的服务实例的分布信息、以及服务5对应的服务实例的分布信息,确定出了服务2对应的部署集群为集群2和集群4,以及服务3对应的部署集群为集群5。即集群2和集群4中部署了服务2对应的服务实例,集群5中有部署服务3对应的服务实例。因此物理集群层中,用于表示服务2对应的集群2的格子为黑色,用于表示服务2对应的集群4的格子为黑色,以及用于表示服务3对应的集群5的格子也为黑色。而服务实例健康层中,则根据目标服务对应的服务实例的健康程度,确定出了目标服务对应的部署集群中健康程度处于健康状态的服务实例。具体的,图5中的服务2对应的集群2所表示的格子为黑色,表示了集群2中有处于健康状态的服务2对应服务实例。具体在集群2中的处于健康状态的服务2对应服务实例的信息则可详细点击服务2对应的集群2所表示的格子来进行查看。而服务3对应的集群5所表示的格子也为黑色,则表示了集群5中具有处于健康状态的服务3对应服务实例。继续参阅图5,在路由策略层,又可根据目标服务对应的调度策略,确定出服务调度端可调度的目标服务对应的部署集群以及对应的优先级。具体的,服务调度端根据目标服务对应的调度策略,将路由策略层中的服务2对应的集群2、服务2对应的集群4以及服务3对应的集群5所表示的格子设为了黑色,表示了根据调度策略,服务2可调度的部署集群有集群2和集群4,而服务3可调度的部署集群则有集群5。至于部署集群的优先级,则需要点击黑色格子进行详细查看。例如服务2可调用的有集群2和集群4,那么服务2对应的集群2和服务2对应的集群4的黑色格子中则会说明了集群的优先级。
S402、根据确定出的目标服务对应的部署集群、目标服务对应的部署集群中健康程度处于健康状态的服务实例、以及服务调度端可调度的目标服务对应的部署集群以及对应的优先级,更新本地目标服务对应的服务负载均衡调度主表。
根据确定出的目标服务对应的部署集群、目标服务对应的部署集群中健康程度处于健康状态的服务实例、以及服务调度端可调度的目标服务对应的部署集群以及对应的优先级,可以得知目标服务对应的可用的服务实例、以及调度可用服务实例的优先级,进而可根据目标服务对应的可用的服务实例、以及调度可用服务实例的优先级,更新本地目标服务对应的服务负载均衡调度主表。
更新后的本地目标服务对应的服务负载均衡调度主表可体现出当前每一个目标服务对应的可用服务实例有哪些,且这些服务实例在哪些集群中,以及这些服务实例的调用优先级关系。
举例说明,参阅图5,通过物理集群层所确定出的目标服务对应的部署集群、服务实例健康层所确定出的标服务对应的部署集群中健康程度处于健康状态的服务实例、路由策略层中所确定的服务调度端可调度的目标服务对应的部署集群以及对应的优先级,即可确定出服务负载均衡调度主表中,目标服务对应的可用的服务实例有:服务2在集群2中的服务实例以及服务3在集群5中的服务实例,因此服务2对应的集群2的格子为黑色,服务3对应的集群5的格子也为黑色,表示了可用性。而服务实例中的优先级在路由策略层中有规定,而服务负载均衡调度主表层中,服务2对应的集群2的格子处点击可详细查看到集群2中服务2的可用服务实例的优先级,服务3对应的集群5的格子处点击可查看到集群5中服务3对应的可用服务实例的优先级。
需要说明的是,更新后的服务负载均衡调度主表用于确定出目标服务对应的目标服务实例,进而服务调度端可从确定出的目标服务实例中调用目标服务,提供给服务消费端。相较于现有技术中,使用人工配置的方式更新服务调度端中的调度方式,本申请实施例中自动更新服务负载均衡调度主表的方式显然效率更高,能够大量减少工作量。进而由于更新服务负载均衡调度主表的效率较高,也进一步保证了服务调度端调度目标服务的服务实例的成功率。
可选地,参阅图6,在本申请一具体实施例中,执行步骤S204的一种实施方式,包括:
S601、利用当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,生成目标服务对应的服务负载均衡调度副表。
其中,服务负载均衡调度副表实际上是更新后的服务负载均衡调度主表。由于直接生成更新服务负载均衡调度主表的方式,可能会直接影响到服务调度端使用服务负载均衡调度主表确定目标服务对应的目标服务实例的过程,导致服务调度端不能够成功调度目标服务的服务实例。因此,在服务负载均衡调度主表需要更新的时候,可以先利用当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,生成目标服务对应的服务负载均衡调度副表。
需要说明的是,利用当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,生成目标服务对应的服务负载均衡调度副表的过程,与上述实施例提及的利用当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,更新本地目标服务对应的服务负载均衡调度主表的具体过程相同,区别只在于步骤S601没有直接生成更新后的服务负载均衡调度主表。
S602、将生成的目标服务对应的服务负载均衡调度副表,作为更新后的目标服务对应的服务负载均衡调度主表,替换下更新前的目标服务对应的服务负载均衡调度主表。
为了不影响服务调度端使用服务负载均衡调度主表进行调度的过程,本申请实施例中预先生成了目标服务对应的服务负载均衡调度副表,作为更新后的目标服务对应的服务负载均衡调度主表,然后直接将更新后的目标服务对应的服务负载均衡调度主表与更新前的目标服务对应的服务负载均衡调度主表进行切换,将更新后的目标服务对应的服务负载均衡调度主表替换下更新前的目标服务对应的服务负载均衡调度主表,完成替换后,服务调度端则是使用将更新后的目标服务对应的服务负载均衡调度主表来调度执行目标服务对应的服务实例。
可选地,被替换下来的更新前的服务负载均衡调度主表可作为新的服务负载均衡调度副表,用于在后续需要再次更新服务负载均衡调度主表的时候,使用获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,对服务负载均衡调度副表进行更新,生成新的服务负载均衡调度副表,然后将生成的新的服务负载均衡调度副表再次替换掉当前的服务负载均衡调度主表。
参阅图7,举例说明,根据当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度生成目标服务对应的服务负载均衡调度副表,然后将生成的目标服务对应的服务负载均衡调度副表与当前的目标服务对应的服务负载均衡调度主表进行切换,使得生成的目标服务对应的服务负载均衡调度副表作为新的服务负载均衡调度主表,参与服务调度执行流程。而被替换下来的目标服务对应的服务负载均衡调度主表则作为新的服务负载均衡调度副表,用于下一次的更新。
本申请实施例提出的调度策略更新方法,应用于服务调度端,由于本申请会从配置中心端实时获取当前每一个目标服务对应的调度策略和每一个目标服务对应的服务实例的分布信息,并实时检测当前每一个目标服务对应的服务实例的健康程度,因此可以识别当前获取到的目标服务对应的调度策略、当前获取到的目标服务对应的服务实例的分布信息、以及当前检测到的目标服务对应的服务实例的健康程度是否发生更新,进而可以根据当前目标服务对应的调度策略是否发生更新的识别结果、目标服务对应的服务实例的分布信息是否发生更新的识别结果、以及目标服务对应的服务实例的健康程度是否发生更新的识别结果,确定出是否需要更新本地目标服务对应的服务负载均衡调度主表,若确定出需更新,则可以利用当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,更新本地目标服务对应的服务负载均衡调度主表。由于本申请实施例中的服务调度端可以根据当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,自动完成了对本地目标服务对应的服务负载均衡调度主表的更新,而不需要在出现影响现有的服务调度的情况时进行人工配置更改,保障了服务调度的可用性。
参阅图8,基于上述各实施例提及的调度策略更新方法所更新得到的服务负载均衡调度主表,本申请实施例对应公开了一种服务调度方法,用于通过以上各实施例提出的调度策略更新方法所更新得到的服务负载均衡调度主表,来实现服务实例的调用,具体包括以下步骤:
S801、获取服务消费端发送的目标服务调用请求。
其中,目标服务调用请求携带有所需调用的目标服务的标识信息。目标服务调用请求用于请求服务调度端为服务消费端调用执行目标服务。
服务调度端接收到目标服务调用请求,会对目标服务调用请求,得到所需调用的目标服务的标识信息,确定出服务消费端所需调用的是哪一个目标服务。
S802、利用本地存储的目标服务对应的服务负载均衡调度主表,确定出目标服务对应的目标服务实例。
其中,目标服务对应的服务负载均衡调度主表采用如上述各实施例提出的的任意一种调度策略更新方法进行更新,可参见,此处不再赘述。
本地存储的目标服务对应的服务负载均衡调度主表中说明了目标服务对应的可用服务实例,以及可用服务实例的优先级,因此可以通过本地存储的目标服务对应的服务负载均衡调度主表,确定出目标服务对应的目标服务实例。具体的,按照优先级顺序,优先将优先级最高的目标服务对应的可用服务实例确定为目标服务实例。
S803、对目标服务对应的目标服务实例发起目标服务的调用。
对目标服务对应的目标服务实例发起目标服务的调用,为服务消费端提供目标服务。若执行步骤S803时没有成功调用访问目标服务实例,则可以从目标服务对应的服务负载均衡调度主表中选择当前未被调用过的可用服务实例中优先级最高的可用服务实例,作为目标服务实例,再次发起调用。
现有技术中,当调度策略、服务实例的分布信息、以及服务实例的健康程度发生变更时,只能够通过人工配置更改服务调度端中的调度方式的方式,才能够保障服务调度的可用性。但由于人工对多个服务调度端重新配置本地的服务调度策略,过程过于繁琐,效率不高,不能够及时保障服务调度的可用性,导致服务质量也较低。
而本申请实施例中,服务调度端可以根据当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,自动完成了对本地目标服务对应的服务负载均衡调度主表的更新,而不需要在出现影响现有的服务调度的情况时进行人工配置更改,保障了服务调度的可用性,使得服务调度端对目标服务对应的目标服务实例发起目标服务的调用的成功率更高。
参阅图9,基于上述本申请实施例提出的调度策略更新方法,本申请实施例对应公开了一种调度策略更新装置,应用于服务调度端,调度策略装置包括:第一获取单元901、检测单元902、识别单元903、第一确定单元904、以及更新单元905。
第一获取单元901,用于从配置中心端实时获取当前每一个目标服务对应的调度策略和每一个目标服务对应的服务实例的分布信息。
检测单元902,用于实时检测当前每一个目标服务对应的服务实例的健康程度。其中,目标服务对应的服务实例为可执行目标服务的服务器。
可选地,在本申请一具体实施例中,检测单元902,包括:
检测子单元,用于针对每一个目标服务,实时调用访问目标服务对应的服务实例中的目标服务,若目标服务对应的服务实例能够被成功调用访问,则检测出目标服务对应的服务实例的健康程度为处于健康状态,若目标服务对应的服务实例不能被成功调用,则检测出目标服务对应的服务实例的健康程度为不处于健康状态。
识别单元903,用于针对每一个目标服务,分别识别当前获取到的目标服务对应的调度策略、当前获取到的目标服务对应的服务实例的分布信息、以及当前检测到的目标服务对应的服务实例的健康程度是否发生更新。
第一确定单元904,用于根据当前目标服务对应的调度策略是否发生更新的识别结果、目标服务对应的服务实例的分布信息是否发生更新的识别结果、以及目标服务对应的服务实例的健康程度是否发生更新的识别结果,确定出是否需要更新本地目标服务对应的服务负载均衡调度主表。
可选地,在本申请一具体实施例中,第一确定单元904,包括:第一确定子单元、第二确定子单元、第三确定子单元以及第四确定子单元。
第一确定子单元,用于若识别出当前目标服务对应的调度策略未发生更新、当前目标服务对应的服务实例的分布信息未发生更新的、以及当前目标服务对应的服务实例的健康程度未发生更新,则确定出不需要更新本地目标服务对应的服务负载均衡调度主表。
第二确定子单元,用于若识别出当前目标服务对应的调度策略、目标服务对应的服务实例的分布信息以及目标服务对应的服务实例的健康程度中的至少一个发生了更新,则根据当前目标服务对应的调度策略、目标服务对应的服务实例的分布信息以及目标服务对应的服务实例的健康程度,确定是否会造成当前目标服务对应的可用服务实例、或者调度可用服务实例的优先级发生更新。
第三确定子单元,用于若确定出会造成当前目标服务对应的可用服务实例、或者调度可用服务实例的优先级发生更新,则确定出需更新本地目标服务对应的服务负载均衡调度主表。
第四确定子单元,用于若确定出不会造成当前目标服务对应的可用服务实例、或者调度可用服务实例的优先级发生更新,则确定出不需更新本地目标服务对应的服务负载均衡调度主表。
更新单元905,用于若确定出需更新本地所述目标服务对应的服务负载均衡调度主表,则利用当前获取到的所述目标服务对应的调度策略、所述目标服务对应的服务实例的分布信息、以及所述目标服务对应的服务实例的健康程度,更新本地所述目标服务对应的服务负载均衡调度主表;其中,所述目标服务对应的服务负载均衡调度主表用于确定出所述目标服务对应的目标服务实例;所述目标服务对应的目标服务实例为所述服务调度端用于调度执行所述目标服务的服务实例。
可选地,在本申请一具体实施例中,更新单元905,包括:第一生成子单元和替换子单元。
第一生成子单元,用于若确定出需更新本地目标服务对应的服务负载均衡调度主表,则利用当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,生成目标服务对应的服务负载均衡调度副表。
替换子单元,用于将生成的目标服务对应的服务负载均衡调度副表,作为更新后的目标服务对应的服务负载均衡调度主表,替换下更新前的目标服务对应的服务负载均衡调度主表。
可选地,在本申请一具体实施例中,更新单元905,包括:第五确定子单元和更新子单元。
第五确定子单元,用于若确定出需更新本地目标服务对应的服务负载均衡调度主表,则根据目标服务对应的服务实例的分布信息,确定出目标服务对应的部署集群、根据目标服务对应的服务实例的健康程度,确定出目标服务对应的部署集群中健康程度处于健康状态的服务实例、以及根据目标服务对应的调度策略,确定出服务调度端可调度的所述目标服务对应的部署集群以及对应的优先级。
更新子单元,用于根据确定出的目标服务对应的部署集群、目标服务对应的部署集群中健康程度处于健康状态的服务实例、以及服务调度端可调度的目标服务对应的部署集群以及对应的优先级,更新本地目标服务对应的服务负载均衡调度主表。
上述本申请实施例公开的调度策略更新装置中的具体的原理和执行过程,与上述本申请实施例公开的调度策略更新方法相同,可参见上述本申请实施例公开的调度策略更新方法中相应的部分,这里不再进行赘述。
需要说明的是,图1示出的服务调度端102中的动态调度策略组件、服务实例健康检测组件、以及调度策略组件用于执行图9示出的实施例中第一获取单元901、检测单元902、识别单元903、第一确定单元904、以及更新单元905所执行的内容。
本申请实施例提出的调度策略更新装置,应用于服务调度端,由于本申请第一获取单元901会从配置中心端实时获取当前每一个目标服务对应的调度策略和每一个目标服务对应的服务实例的分布信息,并且检测单元902实时检测当前每一个目标服务对应的服务实例的健康程度,因此识别单元903可以识别当前获取到的目标服务对应的调度策略、当前获取到的目标服务对应的服务实例的分布信息、以及当前检测到的目标服务对应的服务实例的健康程度是否发生更新,进而第一确定单元904可以根据当前目标服务对应的调度策略是否发生更新的识别结果、目标服务对应的服务实例的分布信息是否发生更新的识别结果、以及目标服务对应的服务实例的健康程度是否发生更新的识别结果,确定出是否需要更新本地目标服务对应的服务负载均衡调度主表,若确定出需更新,则更新单元905可以利用当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,更新本地目标服务对应的服务负载均衡调度主表。由于本申请实施例中的更新单元905可以根据当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,自动完成了对本地目标服务对应的服务负载均衡调度主表的更新,而不需要在出现影响现有的服务调度的情况时进行人工配置更改,保障了服务调度的可用性。
参阅图10,基于上述本申请实施例提出的服务调度方法,本申请实施例对应公开了一种服务调度装置,应用于服务调度端,服务调度装置,包括:第二获取单元1001、第二确定单元1002、以及调用单元1003。
第二获取单元1001,用于获取服务消费端发送的目标服务调用请求。其中,目标服务调用请求携带有所需调用的目标服务的标识信息。
第二确定单元1002,用于利用本地存储的目标服务对应的服务负载均衡调度主表,确定出目标服务对应的目标服务实例。其中,目标服务对应的服务负载均衡调度主表采用如上述各实施例提出的的任意一种调度策略更新方法进行更新。
调用单元1003,用于对目标服务对应的目标服务实例发起目标服务的调用。
上述本申请实施例公开的服务调度装置中的具体的原理和执行过程,与上述本申请实施例公开的服务调度方法相同,可参见上述本申请实施例公开的服务调度方法中相应的部分,这里不再进行赘述。
需要说明的是,图1示出的服务调度端102中的负载均衡组件用于执行图10示出的实施例中第二获取单元1001、第二确定单元1002、以及调用单元1003所执行的内容。
本申请实施例提出的服务调度装置中,由于第二确定单元1002中的本地目标服务对应的服务负载均衡调度主表,是可以根据当前获取到的目标服务对应的调度策略、目标服务对应的服务实例的分布信息、以及目标服务对应的服务实例的健康程度,自动完成更新的,而不需要在出现影响现有的服务调度的情况时进行人工配置更改,保障了服务调度的可用性,使得调用单元1003对目标服务对应的目标服务实例发起目标服务的调用的成功率更高。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
本申请实施例提出了一种计算机存储介质,用于存储程序,程序被执行时,用于实现如上述各实施例所述的任意一种调度策略更新方法、或者如上述各实施例所述的任意一种服务调度方法。
本申请实施例提出了一种电子设备,包括存储器和处理器。其中,存储器用于存储程序。处理器用于执行程序,程序被执行时,具体用于实现如上述各实施例提出的任意一项调度策略更新方法,或者,如上述各实施例提出的服务调度方法。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
上述计算机存储介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
需要说明的是,本公开上述的计算机存储介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机存储介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (10)
1.一种调度策略更新方法,其特征在于,应用于服务调度端,所述调度策略更新方法,包括:
从配置中心端实时获取当前每一个目标服务对应的调度策略和每一个目标服务对应的服务实例的分布信息,并实时检测当前每一个目标服务对应的服务实例的健康程度;其中,所述目标服务对应的服务实例为可执行所述目标服务的服务器;
针对每一个所述目标服务,分别识别当前获取到的所述目标服务对应的调度策略、当前获取到的所述目标服务对应的服务实例的分布信息、以及当前检测到的所述目标服务对应的服务实例的健康程度是否发生更新;
根据当前所述目标服务对应的调度策略是否发生更新的识别结果、所述目标服务对应的服务实例的分布信息是否发生更新的识别结果、以及所述目标服务对应的服务实例的健康程度是否发生更新的识别结果,确定出是否需要更新本地所述目标服务对应的服务负载均衡调度主表;
若确定出需更新本地所述目标服务对应的服务负载均衡调度主表,则利用当前获取到的所述目标服务对应的调度策略、所述目标服务对应的服务实例的分布信息、以及所述目标服务对应的服务实例的健康程度,更新本地所述目标服务对应的服务负载均衡调度主表;其中,所述目标服务对应的服务负载均衡调度主表用于确定出所述目标服务对应的目标服务实例;所述目标服务对应的目标服务实例为所述服务调度端用于调度执行所述目标服务的服务实例。
2.根据权利要求1所述的方法,其特征在于,所述实时检测当前每一个目标服务对应的服务实例的健康程度,包括:
针对每一个所述目标服务,实时调用访问所述目标服务对应的服务实例中的所述目标服务;若所述目标服务对应的服务实例能够被成功调用访问,则检测出目标服务对应的服务实例的健康程度为处于健康状态;若所述目标服务对应的服务实例不能被成功调用,则检测出所述目标服务对应的服务实例的健康程度为不处于健康状态。
3.根据权利要求1所述的方法,其特征在于,所述若确定出需更新本地所述目标服务对应的服务负载均衡调度主表,则利用当前获取到的所述目标服务对应的调度策略、所述目标服务对应的服务实例的分布信息、以及所述目标服务对应的服务实例的健康程度,更新本地所述目标服务对应的服务负载均衡调度主表,包括:
若确定出需更新本地所述目标服务对应的服务负载均衡调度主表,则利用当前获取到的所述目标服务对应的调度策略、所述目标服务对应的服务实例的分布信息、以及所述目标服务对应的服务实例的健康程度,生成所述目标服务对应的服务负载均衡调度副表;
将生成的所述目标服务对应的服务负载均衡调度副表,作为更新后的所述目标服务对应的服务负载均衡调度主表,替换下更新前的所述目标服务对应的服务负载均衡调度主表。
4.根据权利要求1所述的方法,其特征在于,所述根据当前所述目标服务对应的调度策略是否发生更新的识别结果、所述目标服务对应的服务实例的分布信息是否发生更新的识别结果、以及所述目标服务对应的服务实例的健康程度是否发生更新的识别结果,确定出是否需要更新本地所述目标服务对应的服务负载均衡调度主表,包括:
若识别出当前所述目标服务对应的调度策略未发生更新、当前所述目标服务对应的服务实例的分布信息未发生更新的、以及当前所述目标服务对应的服务实例的健康程度未发生更新,则确定出不需要更新本地所述目标服务对应的服务负载均衡调度主表;
若识别出当前所述目标服务对应的调度策略、所述目标服务对应的服务实例的分布信息以及所述目标服务对应的服务实例的健康程度中的至少一个发生了更新,则根据当前所述目标服务对应的调度策略、所述目标服务对应的服务实例的分布信息以及所述目标服务对应的服务实例的健康程度,确定是否会造成当前所述目标服务对应的可用服务实例、或者调度可用服务实例的优先级发生更新;
若确定出会造成当前所述目标服务对应的可用服务实例、或者调度可用服务实例的优先级发生更新,则确定出需更新本地所述目标服务对应的服务负载均衡调度主表;
若确定出不会造成当前所述目标服务对应的可用服务实例、或者调度可用服务实例的优先级发生更新,则确定出不需更新本地所述目标服务对应的服务负载均衡调度主表。
5.根据权利要求1所述的方法,其特征在于,所述若确定出需更新本地所述目标服务对应的服务负载均衡调度主表,则利用当前获取到的所述目标服务对应的调度策略、所述目标服务对应的服务实例的分布信息、以及所述目标服务对应的服务实例的健康程度,更新本地所述目标服务对应的服务负载均衡调度主表,包括:
若确定出需更新本地所述目标服务对应的服务负载均衡调度主表,则根据所述目标服务对应的服务实例的分布信息,确定出所述目标服务对应的部署集群、根据所述目标服务对应的服务实例的健康程度,确定出所述目标服务对应的部署集群中健康程度处于健康状态的服务实例、以及根据所述目标服务对应的调度策略,确定出所述服务调度端可调度的所述目标服务对应的部署集群以及对应的优先级;
根据确定出的所述目标服务对应的部署集群、所述目标服务对应的部署集群中健康程度处于健康状态的服务实例、以及所述服务调度端可调度的所述目标服务对应的部署集群以及对应的优先级,更新本地所述目标服务对应的服务负载均衡调度主表。
6.一种服务调度方法,其特征在于,应用于服务调度端,所述服务调度方法,包括:
获取服务消费端发送的目标服务调用请求;其中,所述目标服务调用请求携带有所需调用的目标服务的标识信息;
利用本地存储的所述目标服务对应的服务负载均衡调度主表,确定出所述目标服务对应的目标服务实例;其中,所述目标服务对应的服务负载均衡调度主表采用如权利要求1至5所述的任意一种调度策略更新方法进行更新;
对所述目标服务对应的目标服务实例发起所述目标服务的调用。
7.一种调度策略更新装置,其特征在于,应用于服务调度端,所述调度策略装置,包括:
第一获取单元,用于从配置中心端实时获取当前每一个目标服务对应的调度策略和每一个目标服务对应的服务实例的分布信息;
检测单元,用于实时检测当前每一个目标服务对应的服务实例的健康程度;其中,所述目标服务对应的服务实例为可执行所述目标服务的服务器;
识别单元,用于针对每一个所述目标服务,分别识别当前获取到的所述目标服务对应的调度策略、当前获取到的所述目标服务对应的服务实例的分布信息、以及当前检测到的所述目标服务对应的服务实例的健康程度是否发生更新;
第一确定单元,用于根据当前所述目标服务对应的调度策略是否发生更新的识别结果、所述目标服务对应的服务实例的分布信息是否发生更新的识别结果、以及所述目标服务对应的服务实例的健康程度是否发生更新的识别结果,确定出是否需要更新本地所述目标服务对应的服务负载均衡调度主表;
更新单元,用于若确定出需更新本地所述目标服务对应的服务负载均衡调度主表,则利用当前获取到的所述目标服务对应的调度策略、所述目标服务对应的服务实例的分布信息、以及所述目标服务对应的服务实例的健康程度,更新本地所述目标服务对应的服务负载均衡调度主表;其中,所述目标服务对应的服务负载均衡调度主表用于确定出所述目标服务对应的目标服务实例;所述目标服务对应的目标服务实例为所述服务调度端用于调度执行所述目标服务的服务实例。
8.一种服务调度装置,其特征在于,应用于服务调度端,所述服务调度装置,包括:
第二获取单元,用于获取服务消费端发送的目标服务调用请求;其中,所述目标服务调用请求携带有所需调用的目标服务的标识信息;
第二确定单元,用于利用本地存储的所述目标服务对应的服务负载均衡调度主表,确定出所述目标服务对应的目标服务实例;其中,所述目标服务对应的服务负载均衡调度主表采用如权利要求1至5所述的任意一种调度策略更新方法进行更新;
调用单元,用于对所述目标服务对应的目标服务实例发起所述目标服务的调用。
9.一种服务调度系统,其特征在于,包括:
配置中心端,用于配置部署每一个目标服务对应的调度策略和每一个目标服务对应的服务实例的分布信息;
与所述配置中心端相连的服务调度端,用于执行如权利要求6所述的服务调度方法;
与所述服务调度端相连的服务消费端,用于向所述服务调度端发送目标服务调用请求;其中,所述目标服务调用请求携带有所需调用的目标服务的标识信息。
10.一种计算机存储介质,其特征在于,用于存储程序,所述程序被执行时,用于实现如权利要求1至5任意一项所述的调度策略更新方法、或者如权利要求6所述的服务调度方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011383256.7A CN112416559B (zh) | 2020-11-30 | 调度策略更新方法、服务调度方法、存储介质及相关装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011383256.7A CN112416559B (zh) | 2020-11-30 | 调度策略更新方法、服务调度方法、存储介质及相关装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112416559A true CN112416559A (zh) | 2021-02-26 |
CN112416559B CN112416559B (zh) | 2024-06-04 |
Family
ID=
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114285905A (zh) * | 2021-12-23 | 2022-04-05 | 中国建设银行股份有限公司 | 基于服务的路由方法和路由装置 |
CN115529157A (zh) * | 2022-08-08 | 2022-12-27 | 北京雪诺科技有限公司 | 基于零信任的企业应用接入系统、方法及访问系统 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2005008943A2 (en) * | 2003-07-18 | 2005-01-27 | Vormetric, Inc. | System and methods of cooperatively load-balancing clustered servers |
CN105491138A (zh) * | 2015-12-15 | 2016-04-13 | 国网智能电网研究院 | 一种基于负载率分级触发的分布式负载调度方法 |
WO2016176650A1 (en) * | 2015-04-30 | 2016-11-03 | Amazon Technologies, Inc. | Managing load balancers associated with auto-scaling groups |
CN108566419A (zh) * | 2018-03-23 | 2018-09-21 | 成都汇智远景科技有限公司 | 一种基于云计算的智能数据处理方法 |
CN108965381A (zh) * | 2018-05-31 | 2018-12-07 | 康键信息技术(深圳)有限公司 | 基于Nginx的负载均衡实现方法、装置、计算机设备和介质 |
CN109725988A (zh) * | 2017-10-30 | 2019-05-07 | 北京京东尚科信息技术有限公司 | 一种任务调度方法和装置 |
CN111581033A (zh) * | 2019-02-19 | 2020-08-25 | 青岛海信网络科技股份有限公司 | 负载均衡方法、系统及装置 |
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2005008943A2 (en) * | 2003-07-18 | 2005-01-27 | Vormetric, Inc. | System and methods of cooperatively load-balancing clustered servers |
WO2016176650A1 (en) * | 2015-04-30 | 2016-11-03 | Amazon Technologies, Inc. | Managing load balancers associated with auto-scaling groups |
CN105491138A (zh) * | 2015-12-15 | 2016-04-13 | 国网智能电网研究院 | 一种基于负载率分级触发的分布式负载调度方法 |
CN109725988A (zh) * | 2017-10-30 | 2019-05-07 | 北京京东尚科信息技术有限公司 | 一种任务调度方法和装置 |
CN108566419A (zh) * | 2018-03-23 | 2018-09-21 | 成都汇智远景科技有限公司 | 一种基于云计算的智能数据处理方法 |
CN108965381A (zh) * | 2018-05-31 | 2018-12-07 | 康键信息技术(深圳)有限公司 | 基于Nginx的负载均衡实现方法、装置、计算机设备和介质 |
CN111581033A (zh) * | 2019-02-19 | 2020-08-25 | 青岛海信网络科技股份有限公司 | 负载均衡方法、系统及装置 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114285905A (zh) * | 2021-12-23 | 2022-04-05 | 中国建设银行股份有限公司 | 基于服务的路由方法和路由装置 |
CN115529157A (zh) * | 2022-08-08 | 2022-12-27 | 北京雪诺科技有限公司 | 基于零信任的企业应用接入系统、方法及访问系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3620918B1 (en) | Identifiers across application instances | |
EP3201767B1 (en) | Method and system to process requests to execute user code on one or more virtual machine instances identified from a plurality of warmed unassigned virtual machine instances | |
CN111405055A (zh) | 多集群管理方法、系统、服务器、存储介质 | |
CN107896162B (zh) | 监控系统的部署方法、装置、计算机设备及存储介质 | |
US20230007662A1 (en) | Dynamic slice priority handling | |
CN111800285B (zh) | 实例迁移方法和装置以及电子设备 | |
CN111045745A (zh) | 管理配置信息的方法和系统 | |
US11093279B2 (en) | Resources provisioning based on a set of discrete configurations | |
CN106533719A (zh) | 一种实现集群部署的方法及系统 | |
CN112463535A (zh) | 多集群异常处理方法及装置 | |
CN111399764A (zh) | 数据存储方法、读取方法、装置、设备及存储介质 | |
CN112035123A (zh) | 一种基于kubernetes平台实现无服务器的方法 | |
CN112905338B (zh) | 计算资源自动分配方法及装置 | |
CN112416559B (zh) | 调度策略更新方法、服务调度方法、存储介质及相关装置 | |
CN110113217B (zh) | 微服务管理方法、装置、管理平台及存储介质 | |
CN112416559A (zh) | 调度策略更新方法、服务调度方法、存储介质及相关装置 | |
CN116954863A (zh) | 数据库调度方法、装置、设备及存储介质 | |
CN114979286B (zh) | 容器服务的访问控制方法、装置、设备及计算机存储介质 | |
CN111400032A (zh) | 一种资源分配的方法及装置 | |
CN114827177B (zh) | 一种分布式文件系统的部署方法、装置及电子设备 | |
CN114070889B (zh) | 配置方法、流量转发方法、设备、存储介质及程序产品 | |
CN112035579A (zh) | 图管理、数据存储、数据查询方法、装置及存储介质 | |
CN116319963A (zh) | 服务的管理方法、系统、终端设备及存储介质 | |
CN114301909B (zh) | 边缘分布式管控系统、方法、设备及存储介质 | |
CN105933136A (zh) | 一种资源调度方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant |