CN112953982B - 一种服务处理的方法、服务配置的方法以及相关装置 - Google Patents

一种服务处理的方法、服务配置的方法以及相关装置 Download PDF

Info

Publication number
CN112953982B
CN112953982B CN201911176708.1A CN201911176708A CN112953982B CN 112953982 B CN112953982 B CN 112953982B CN 201911176708 A CN201911176708 A CN 201911176708A CN 112953982 B CN112953982 B CN 112953982B
Authority
CN
China
Prior art keywords
service
target
scheduling
updated
server
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201911176708.1A
Other languages
English (en)
Other versions
CN112953982A (zh
Inventor
汪胜蕾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN201911176708.1A priority Critical patent/CN112953982B/zh
Publication of CN112953982A publication Critical patent/CN112953982A/zh
Application granted granted Critical
Publication of CN112953982B publication Critical patent/CN112953982B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/60Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H04L67/63Routing a service request depending on the request content or context
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/14Session management
    • H04L67/141Setup of application sessions

Abstract

本申请公开了一种服务处理的方法、服务配置的方法以及相关装置,由路由设备根据路由表选择能够为服务消费方提供服务数据的服务提供方,从而简化了服务消费方的调度逻辑,无需配置大量的服务调度逻辑,提升了服务调度的灵活性。本申请方法包括:当接收到第一服务器发送的服务调度请求时,根据服务调度请求中所携带的目标服务类型标识确定目标服务调度策略;根据目标服务调度策略获取目标路由表;根据服务调度请求中所携带的目标服务实例标识,从目标路由表中确定目的地址;根据目的地址,向第二服务器发送服务调度请求,以使第二服务器根据源地址向第一服务器发送服务数据。

Description

一种服务处理的方法、服务配置的方法以及相关装置
技术领域
本申请涉及互联网技术领域,尤其涉及一种服务处理的方法、服务配置的方法以及相关装置。
背景技术
随着互联网服务的发展,越来越多的应用程序需要通过互联网提供服务,随着服务的不断增长,服务类型和服务之间的依赖关系也随之变得复杂。因此,对众多类型的服务进行统一管理的方案也应运而生。
目前,提供了一种基于开源分布式服务框架(dubbo)的服务治理方案,该服务治理方通过目录服务器实现服务注册和发现功能。例如,服务提供方向目录服务器注册服务,当服务消费方需要订阅服务时,可从目录服务器中调用相应的服务。
然而,服务消费方不但需要在本地存储与服务提供方相关的信息,而且还需要根据服务需求配置相应的服务调度逻辑,不同服务类型的调度方式往往也不同,一旦改变服务调度方式,就需要修改服务调度逻辑,导致服务调度的灵活性较差。
发明内容
本申请实施例提供了一种服务处理的方法、服务配置的方法以及相关装置,服务消费方无需在本地存储与服务提供方相关的信息,而是由路由设备根据路由表选择能够为服务消费方提供服务数据的服务提供方,从而简化了服务消费方的调度逻辑,无需配置大量的服务调度逻辑,提升了服务调度的灵活性。
有鉴于此,本申请第一方面提供一种服务处理的方法,包括:
当接收到第一服务器发送的服务调度请求时,根据服务调度请求中所携带的目标服务类型标识确定目标服务调度策略,其中,服务调度请求中携带目标服务类型标识、目标服务实例标识以及源地址,源地址对应于第一服务器;
根据目标服务调度策略获取目标路由表,其中,目标路由表包括服务实例标识与服务器地址之间的关联关系,目标路由表为调度服务器建立的;
根据服务调度请求中所携带的目标服务实例标识,从目标路由表中确定目的地址,其中,目的地址属于服务器地址,且目的地址对应于第二服务器;
根据目的地址,向第二服务器发送服务调度请求,以使第二服务器根据源地址向第一服务器发送服务数据。
本申请第二方面提供一种服务配置的方法,包括:
获取服务配置请求,其中,服务配置请求中携带目标服务类型标识以及目的地址;
根据服务配置请求中携带的目标服务类型标识确定目标服务调度策略;
根据目标服务调度策略、目标服务类型、目的地址以及目标服务实例标识,建立目标路由表,其中,目标服务实例标识携带于服务配置请求中,或,目标服务实例标识为根据服务配置请求获取到的;
向路由设备发送目标路由表,其中,目标路由表用于路由设备根据第一服务器发送的服务调度请求确定目的地址,服务调度请求中携带目标服务类型、目标服务实例标识以及源地址,源地址对应于第一服务器,目标地址对应于第二服务器,第二服务器用于根据路由设备发送的服务调度请求,向第一服务器发送服务数据。
本申请第三方面提供一种服务处理装置,包括:
确定模块,用于当接收到第一服务器发送的服务调度请求时,根据服务调度请求中所携带的目标服务类型标识确定目标服务调度策略,其中,服务调度请求中携带目标服务类型标识、目标服务实例标识以及源地址,源地址对应于第一服务器;
获取模块,用于根据确定模块确定的目标服务调度策略获取目标路由表,其中,目标路由表包括服务实例标识与服务器地址之间的关联关系,目标路由表为调度服务器建立的;
确定模块,还用于根据服务调度请求中所携带的目标服务实例标识,从获取模块获取的目标路由表中确定目的地址,其中,目的地址属于服务器地址,且目的地址对应于第二服务器;
发送模块,用于根据确定模块确定的目的地址,向第二服务器发送服务调度请求,以使第二服务器根据源地址向第一服务器发送服务数据。
在一种可能的设计中,在本申请实施例的第三方面的第一种实现方式中,
发送模块,还用于若目标路由表中不存在目标服务实例标识,则向全服路由设备发送服务调度请求,以使全服路由设备向第二服务器发送服务调度请求,以使第二服务器根据源地址向第一服务器发送服务数据。
本申请第四方面提供一种服务配置装置,包括:
获取模块,用于获取服务配置请求,其中,服务配置请求中携带目标服务类型标识以及目的地址;
确定模块,用于根据获取模块获取的服务配置请求中携带的目标服务类型标识确定目标服务调度策略;
建立模块,用于根据确定模块确定的目标服务调度策略、目标服务类型、目的地址以及目标服务实例标识,建立目标路由表,其中,目标服务实例标识携带于服务配置请求中,或,目标服务实例标识为根据服务配置请求获取到的;
发送模块,用于向路由设备发送建立模块建立的目标路由表,其中,目标路由表用于路由设备根据第一服务器发送的服务调度请求确定目的地址,服务调度请求中携带目标服务类型、目标服务实例标识以及源地址,源地址对应于第一服务器,目标地址对应于第二服务器,第二服务器用于根据路由设备发送的服务调度请求,向第一服务器发送服务数据。
在一种可能的设计中,在本申请实施例的第四方面的第一种实现方式中,
获取模块,还用于获取待分类服务,其中,待分类服务对应于服务类型标识;
确定模块,还用于若待分类服务为无状态服务,则确定待分类服务属于第一服务调度策略;
确定模块,还用于若待分类服务为有状态服务,且待分类服务为数据不可拆分服务,则确定待分类服务属于第二服务调度策略;
确定模块,还用于若待分类服务为有状态服务,且待分类服务为数据可拆分服务,且待分类服务为实例承载无差异服务,则确定待分类服务属于第三服务调度策略;
确定模块,还用于若待分类服务为有状态服务,且待分类服务为数据可拆分服务,且待分类服务为实例承载有差异服务,则确定待分类服务属于第四服务调度策略;
确定模块,具体用于根据服务配置请求中携带的目标服务类型标识,确定第一服务调度策略、第二服务调度策略、第三服务调度策略或第四服务调度策略。
在一种可能的设计中,在本申请实施例的第四方面的第二种实现方式中,服务配置装置还包括更新模块;
获取模块,还用于建立模块根据目标服务调度策略、目标服务类型、目的地址以及目标服务实例标识,建立目标路由表之后,获取服务更新请求,其中,服务更新请求中携带待更新服务类型标识;
确定模块,还用于根据获取模块获取的服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略;
确定模块,还用于根据确定模块确定的目标服务调度策略,确定目标路由表;
更新模块,用于根据待更新服务类型标识、待更新服务实例标识以及待更新目的地址对确定模块确定的目标路由表进行更新,得到更新后的目标路由表,其中,待更新服务实例标识以及待更新目的地址携带于服务更新请求中,或,目标服务实例标识以及待更新目的地址为根据服务配置请求获取到的;
发送模块,还用于向路由设备发送更新模块更新后的目标路由表。
在一种可能的设计中,在本申请实施例的第四方面的第三种实现方式中,服务更新请求还携带调度权重值;
确定模块,具体用于根据服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略属于第一服务调度策略;
更新模块,具体用于根据调度权重值、待更新服务类型标识、待更新服务实例标识以及待更新目的地址对目标路由表进行更新,得到更新后的目标路由表,其中,待更新服务实例标识以及待更新目的地址携带于服务更新请求中。
在一种可能的设计中,在本申请实施例的第四方面的第四种实现方式中,服务更新请求还携带调度角色标识,调度角色标识包括主服务标识或备服务标识;
确定模块,具体用于根据服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略属于第二服务调度策略;
更新模块,具体用于根据调度角色标识、待更新服务类型标识、待更新服务实例标识以及待更新目的地址对目标路由表进行更新,得到更新后的目标路由表,其中,待更新服务实例标识以及待更新目的地址携带于服务更新请求中。
在一种可能的设计中,在本申请实施例的第四方面的第五种实现方式中,
确定模块,具体用于根据服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略属于第三服务调度策略;
更新模块,具体用于根据待更新目的地址获得目的地址空间段,其中,目的地址空间段为根据目标哈希值确定的,目标哈希值为根据待更新目的地址生成的,其中待更新目的地址携带于服务更新请求中;
根据目标哈希值、待更新服务类型标识、待更新目的地址以及待更新服务实例标识对目标路由表进行更新,其中,待更新服务实例标识携带于服务更新请求中;
向第二服务器发送目的地址空间段,以使第二服务器根据目的地址空间段获取服务数据;
接收第二服务器发送的服务状态信息;
根据服务状态信息,对目标路由表进行更新,得到更新后的目标路由表。
在一种可能的设计中,在本申请实施例的第四方面的第六种实现方式中,服务配置装置还包括接收模块;
确定模块,具体用于根据服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略属于第四服务调度策略;
发送模块,还用于更新模块根据待更新服务类型标识、待更新服务实例标识以及待更新目的地址对目标路由表进行更新,得到更新后的目标路由表之前,向标识管理服务器发送标识分配请求,其中,标识分配请求中携带待更新服务类型标识;
接收模块,用于接收标识管理服务器发送的标识分配响应,其中,标识分配响应中携带待更新服务实例标识;
更新模块,具体用于根据待更新服务类型标识以及目标负载信息,从目标注册表中获取待更新目的地址,其中,目标负载信息为第二服务器上报的;
根据待更新目的地址,向第二服务器发送实例创建请求,以使第二服务器根据实例创建请求创建服务实例,其中,实例创建请求携带待更新服务类型标识以及待更新服务实例标识;
接收第二服务器发送的实例创建响应,其中,实例创建响应携带服务状态信息;
根据服务状态信息,对目标路由表进行更新,得到更新后的目标路由表。
在一种可能的设计中,在本申请实施例的第四方面的第七种实现方式中,服务类型标识包括待更新服务类型标识,服务器地址包括待更新目的地址,负载信息包括目标负载信息。
本申请的第五方面提供了一种计算机可读存储介质,计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述各方面的方法。
从以上技术方案可以看出,本申请实施例具有以下优点:
本申请实施例中,提供了一种服务处理的方法,当接收到第一服务器发送的服务调度请求时,根据服务调度请求中所携带的目标服务类型标识确定目标服务调度策略,然后根据目标服务调度策略获取目标路由表,再根据服务调度请求中所携带的目标服务实例标识,从目标路由表中确定目的地址,最后根据目的地址,向第二服务器发送服务调度请求,以使第二服务器根据源地址向第一服务器发送服务数据。也就是说,在服务消费方需要进行服务调度时,可以向路由设备发起服务调度请求,由路由设备根据该请求从已配置路由表中确定服务提供方的地址,然后基于该地址向服务提供方转发服务调度请求,使得服务提供方能够向服务消费方提供服务数据。通过上述方式,服务消费方无需在本地存储与服务提供方相关的信息,而是由路由设备根据路由表选择能够为服务消费方提供服务数据的服务提供方,从而简化了服务消费方的调度逻辑,无需配置大量的服务调度逻辑,提升了服务调度的灵活性。
附图说明
图1为本申请实施例中局部服务拓扑示意图;
图2为本申请实施例中基于目录服务器的一个框架示意图;
图3为本申请实施例中服务处理系统的一个架构示意图;
图4为本申请实施例中服务处理系统的另一架构示意图;
图5为本申请实施例中服务处理的方法一个实施例示意图;
图6为本申请实施例中本地寻址的一个实施例示意图;
图7为本申请实施例中全服寻址的一个实施例示意图;
图8为本申请实施例中服务配置的方法一个实施例示意图;
图9为本申请实施例中建立目标路由表的一个实施例示意图;
图10为本申请实施例中服务分类的一个实施例示意图;
图11为本申请实施例中新服务加入的一个调度流程示意图;
图12为本申请实施例中基于加权轮询更新目标路由表的一个实施例示意图;
图13为本申请实施例中基于一致性哈希更新目标路由表的一个实施例示意图;
图14为本申请实施例中基于最低负载更新目标路由表的一个实施例示意图;
图15为申请实施例中服务处理装置的一个实施例示意图;
图16为本申请实施例中服务配置装置的一个实施例示意图;
图17为本申请实施例中路由设备的一个结构示意图;
图18为本申请实施例中调度服务器的一个结构示意图。
具体实施方式
本申请实施例提供了一种服务处理的方法、服务配置的方法以及相关装置,服务消费方无需在本地存储与服务提供方相关的信息,而是由路由设备根据路由表选择能够为服务消费方提供服务数据的服务提供方,从而简化了服务消费方的调度逻辑,无需配置大量的服务调度逻辑,提升了服务调度的灵活性。
本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例例如能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“对应于”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
应理解,本申请可以实现在多种场景下由路由设备根据路由表选择为服务消费方提供服务数据的服务提供方,并且可以用于服务消费方发现服务的更新情况,进行负载均衡的调整,还可以用于根据服务消费方请求的服务实例标识,确定服务提供方,使得服务提供方能向服务消费方提供对应服务。更具体地,本申请所提供的服务处理的方法以及服务配置的方法可以应用于如下几种应用场景,本申请以应用场景为游戏示例进行说明,可以理解的是,在实际应用中,应用场景包括但不限于如下几种示例,具体此处不做限定。
第一类应用场景为通讯类应用的使用场景,通讯类应用的服务可以为即时通信应用,即时通信应用可以为多人之间的实时沟通,而实时交流内容可以包括文字、界面、语音、视频以及文件数据传输。例如企业即时通信需要对企业内部信息交流进行管理,因此需要具有较高的可靠性,而大型企业中,往往有很多分公司分布在不同地区,那么服务消费方在需要发送企业内部信息时,可以将企业内部信息发送至路由设备,然后由路由设备确定服务提供方,并且在确定服务提供方后,服务提供方可以审核企业内部信息是否安全可靠,并对服务消费方提供对应的企业内部信息服务。
第二类应用场景为购物类应用的使用场景,购物类应用对应的服务提供方较多,而通常一个购物类应用对应一个服务消费方,服务消费方所完成的身份认证、家庭住址以及手机号码均为私人信息,对于信息安全以及管理的要求高。因此需要安全可靠地处理由服务消费方所发出的服务请求,即可以由路由设备接收服务请求并且确定服务提供方,然后服务提供方向服务消费方提供对应的服务,完成准确可靠的服务处理。
第三类应用场景为游戏的使用场景,游戏的服务类型相较于通信类应用以及购物类应用的服务类型是较为复杂的,例如邮件服务、聊天服务、帮派服务、副本服务以及地图服务。请参阅图1,图1为本申请实施例中局部服务拓扑示意图,每种服务的服务消费方和服务提供方可以直接连接,这样会导致各种服务间的拓扑结构呈现出网状结构,网状结构会导致难以管理,并且服务侵入性强,服务调度的相关逻辑通常嵌入到服务消费方的代码中,也就是说服务消费方携带多种服务对应的服务调度策略,当服务消费方的服务调度策略需要进行修改时会导致大面积更新,另外,动态扩容难,很难协调数量庞大的服务目录缓存,而各地服务目录缓存不一致会出现存在服务不一致的风险,从而导致容灾存在一致性问题。
为了解决应用中拓扑结构为网状结构会导致难以管理的问题,可以采用开源分布式服务框架,请参阅图2,图2为本申请实施例中基于目录服务器的一个框架示意图,如图所示,可以通过一个目录服务器实现服务注册以及服务发现,相较于网状结构的架构简单,便于管理。但该架构的服务调度策略通常使用加权轮询以及取模,而这两个服务调度策略通常用于无状态服务,然而游戏则通常为有状态服务,并且服务依赖于服务消费方的本地高速缓冲存储器,多地的高速缓冲存储器不一致从而会导致有状态服务的一致性问题,服务与服务调度策略具有对应关系,当有服务进行删减或者新增时,需要在服务消费方再次配置对应的服务调度策略,服务灵活性低。
基于上述情况,为了便于理解,本申请提出了一种服务处理的方法,该方法应用于图3所示的服务处理系统,请参阅图3,图3为本申请实施例中服务处理系统的一个架构示意图,如图所示,服务处理装置可以部署于路由设备(router),下面将以服务处理装置部署于路由设备为例进行介绍。
具体地,当路由设备接收到第一服务器发送的服务调度请求时,可以根据服务调度请求中所携带的目标服务类型标识确定目标服务调度策略,然后根据目标服务调度策略获取目标路由表,再根据服务调度请求中所携带的目标服务实例标识,路由设备从目标路由表中确定目的地址,最后根据目的地址,向第二服务器发送服务调度请求,以使第二服务器根据源地址向第一服务器发送服务数据。也就是说,在服务消费方需要进行服务调度时,可以向路由设备发起服务调度请求,由路由设备根据该请求从已配置路由表中确定服务提供方的地址,然后基于该地址向服务提供方转发服务调度请求,使得服务提供方能够向服务消费方提供服务数据。服务消费方无需在本地存储与服务提供方相关的信息,而是由路由设备根据路由表选择能够为服务消费方提供服务数据的服务提供方,从而简化了服务消费方的调度逻辑,无需配置大量的服务调度逻辑,提升了服务调度的灵活性。
需要说明的是,图3中的服务器可以是一台服务器或多台服务器组成的服务器集群或云计算中心等,具体此处均不限定。服务消费方可以部署于终端设备上,也可以部署于服务器上,其中,终端设备包含但不仅限于平板电脑、笔记本电脑、掌上电脑、手机、语音交互设备及个人电脑(personal computer,PC),此处不做限定。其中,语音交互设备包含但不仅限于智能音响以及智能家电。
终端设备和服务器(或服务器与服务器)之间可以通过无线网络、有线网络或可移动存储介质进行通信。其中,上述的无线网络使用标准通信技术和/或协议。无线网络通常为因特网、但也可以是任何网络,包括但不限于蓝牙、局域网(Local Area Network,LAN)、城域网(Metropolitan Area Network,MAN)、广域网(Wide Area Network,WAN)、移动、专用网络或者虚拟专用网络的任何组合)。在一些实施例中,可以使用定制或专用数据通信技术取代或者补充上述数据通信技术。可移动存储介质可以为通用串行总线(UniversalSerial Bus,USB)闪存盘、移动硬盘或其他可移动存储介质等。
虽然图3中仅示出了五个终端设备、一个第二服务器和一个路由设备,但应当理解,图3中的示例仅用于理解本方案,具体终端设备、第二服务器和路由设备的数量均应当结合实际情况灵活确定。
具体地,请参阅图4,图4为本申请实施例中服务处理系统的另一架构示意图,如图所示,服务处理系统可以包括调度服务器、分布式服务架构(ZooKeeper)、路由设备、服务消费方以及服务提供方。
调度服务器可以对服务进行监控用于实时检测服务质量,还可以维持负载均衡、故障隔离以及动态扩缩容。调度服务器还可以对路由设备进行管理,即对路由集群进行管理,可以理解的是,在本申请实施例中,调度服务器可以包括服务注册表以及服务路由表,服务注册表可以获取服务提供方的详细信息,服务路由表则可以管理路由设备一致性。调度服务器还可以提供四种不同的服务调度策略。四种服务调度策略具体包括加权轮询、主从备份、一致性哈希以及最低负载。调度服务器还可以对不同的服务调度请求进行服务调度策略的特化,首先向服务提供方进行服务调度策略的配置,然后为服务提供方创建一个对应的服务调度策略的服务调度实例,调度器实例是该服务提供方对应的管理容器,调度器实例可以更新服务注册表以及服务路由表,并将更新后的服务路由表同步到路由集群的每一个路由设备上。具体地,如图4所示,A服务调度器可以为A服务对应的管理容器,而A服务对应的服务调度策略为加权轮训,则A服务调度器则可以为加权轮训对应的管理容器,而B服务调度器可以为B服务对应管理容器,而B服务对应的服务调度策略为最低负载,则B服务调度器则可以为最低负载对应的管理容器。另外,ZooKeeper则可以对服务进行注册以及保活,即每个服务提供方都需要在ZooKeeper上创建对应的目录节点,当调度服务器获取到对应的目录节点就可以知道服务提供者的加入。而路由集群中的路由设备则可以连接服务提供方以及服务消费方。服务提供方则可以根据需求选择对应的调度策略,使得服务消费方基于需求选择合适的调度策略。
结合上述介绍,下面将对本申请中服务处理的方法进行介绍,请参阅图5,图5为本申请实施例中服务处理的方法一个实施例示意图,如图5所示,本申请实施例中服务处理的方法一个实施例包括:
101、当接收到第一服务器发送的服务调度请求时,路由设备根据服务调度请求中所携带的目标服务类型标识确定目标服务调度策略,其中,服务调度请求中携带目标服务类型标识、目标服务实例标识以及源地址,源地址对应于第一服务器;
本实施例中,当第一服务器需要进行服务调度时,可以通过报文形态向路由设备发送服务调度请求,可以在该服务调度请求的报文首部中携带有目标服务类型对应的标识,还可以包括目标服务实例标识以及第一服务器对应的源地址,而目标服务类型标识以及目标服务实例标识可以通过但不限于表格、索引表或者位图进行聚合,源地址则可以但不限于为第一服务器对应的网络协议(internet protocol,IP)地址或消息认证码(message authentication code,MAC)地址。当路由设备接收到该服务调度请求后,可以根据该服务调度请求中携带的目标服务类型标识确定目标服务对应的调度策略,可以理解的是,目标服务类型可以为“世界”服务类型、“邮件”服务类型或“场景”服务类型,而调度策略则可以为加权轮询策略、主从备份策略、一致性哈希策略或者最低负载策略。
102、路由设备根据目标服务调度策略获取目标路由表,其中,目标路由表包括服务实例标识与服务器地址之间的关联关系,目标路由表为调度服务器建立的;
本实施例中,路由设备可以根据通过步骤101确定的目标服务调度策略获取目标路由表,其中,目标路由表包括服务实例标识与服务器地址之间的关联关系,目标路由表为调度服务器建立的。
具体地,在目标服务更新时,调度服务器可以更新目标注册表,再根据目标注册表更新目标路由表,也可以在目标注册表中查找最低负载的第二服务器,通知第二服务器创建服务实例,根据所生成实例来更新目标路由表,这时目标路由表中还包括服务实例标识与第二服务器地址之间一一对应的关系。
目标路由表的设计方式可以但不限于数据路由冗余或者数据路由分区。数据路由分区的方式在进行扩容时需要进行数据迁移并且选择迁移目标的逻辑较为复杂不便于管理,而数据路由冗余在进行扩容时可以对数据进行全量复制,对原有的路由设备无影响,并且只要连接任意一个路由设备即可使用。由于数据路由冗余相较于数据路由分区更易于管理,本实施例中,可以采用数据路由冗余的方式。
103、路由设备根据服务调度请求中所携带的目标服务实例标识,从目标路由表中确定目的地址,其中,目的地址属于服务器地址,且目的地址对应于第二服务器;
本实施例中,由于路由设备从步骤102中获取的目标路由表中包括有服务实例标识与服务器地址之间的关联关系,因此可以根据服务调度请求中所携带的目标服务实例标识,通过服务实例标识与服务器地址之间的关联关系确定目的地址,目的地址即为其中一个服务器地址,且目的地址可以对应于第二服务器的IP地址或MAC地址。
104、路由设备根据目的地址,向第二服务器发送服务调度请求,以使第二服务器根据源地址向第一服务器发送服务数据。
本实施例中,由于路由设备通过步骤103确定目的地址,即确定第二服务器。于是可以向第二服务器发送所接收到的第一服务器发送的服务调度请求,使得第二服务器可以根据服务调度请求中所携带的第一服务器对应的源地址向第一服务器发送服务数据。
为进一步理解本方案,请参阅图6,图6为本申请实施例中本地寻址的一个实施例示意图,其中,以服务消费方为第一服务器,A服务提供方为第二服务器为示例进行说明。当服务消费方对A服务有需求时,服务消费方会向A路由设备发送A服务调度请求,而A服务调度请求中会携带有A服务类型标识,A服务实例标识以及服务消费方对应的源地址,然后A路由设备可以通过服务调度请求中携带的A服务类型标识确定A服务调度策略,并通过A服务调度策略确定目标路由表,而目标路由表中携带有A服务实例标识与A服务提供方对应的地址的对应关系,进而A路由设备即可以通过服务调度请求中携带的A服务实例标识根据对应关系确定A服务提供方对应的地址,然后A路由设备可以向A服务提供方发送A服务调度请求,最后A服务提供方根据A服务调度请求中携带的服务消费方对应的源地址向服务消费方发送A服务数据,从而向服务消费方提供A服务。
本申请实施例中,当接收到第一服务器发送的服务调度请求时,根据服务调度请求中所携带的目标服务类型标识确定目标服务调度策略,然后根据目标服务调度策略获取目标路由表,再根据服务调度请求中所携带的目标服务实例标识,从目标路由表中确定目的地址,最后根据目的地址,向第二服务器发送服务调度请求,第二服务器根据源地址向第一服务器发送服务数据。也就是说,在服务消费方需要进行服务调度时,可以向路由设备发起服务调度请求,由路由设备根据该请求从已配置路由表中确定服务提供方的地址,然后基于该地址向服务提供方转发服务调度请求,使得服务提供方能够向服务消费方提供服务数据。通过上述方式,服务消费方无需在本地存储与服务提供方相关的信息,而是由路由设备根据路由表选择能够为服务消费方提供服务数据的服务提供方,从而简化了服务消费方的调度逻辑,无需配置大量的服务调度逻辑,提升了服务调度的灵活性。
可选地,在上述图5对应的各个实施例的基础上,本申请实施例提供的服务处理的方法一个可选实施例中,根据目标服务调度策略获取目标路由表之后,还可以包括:
若目标路由表中不存在目标服务实例标识,路由设备则向全服路由设备发送服务调度请求,以使全服路由设备向第二服务器发送服务调度请求,以使第二服务器根据源地址向第一服务器发送服务数据。
本实施例中,在路由设备可以根据目标服务调度策略获取目标路由表之后,当路由设备在所获取的目标路由表中没有查询到服务调度请求中所携带的目标服务实例标识时,即当目标路由表中不存在目标服务实例标识时,路由设备可以向全服路由设备发送该服务调度请求,然后全服路由设备可以根据服务调度请求中所携带的目标服务类型标识确定目标服务调度策略,然后全服路由设备根据目标服务调度策略获取目标路由表,全服路由设备再根据服务调度请求中所携带的目标服务实例标识,全服路由设备从目标路由表中确定目的地址,全服路由设备最后根据目的地址向第二服务器发送服务调度请求,以使第二服务器根据源地址向第一服务器发送服务数据,从而向第一服务器提供目标服务。
由于游戏通常采用分区的架构,因此可以有单服内的服务,例如场景服务、帮派服务以及场景管理服务,其次还可以有全区全服的服务,例如匹配服务。因此在实际应用中,系统架构通常为两层的架构,全区全服的调度中心管理着全区全服的服务,而每个服都有对应的调度中心管理着单服内的服务,每个服的路由设备与全区全服的路由设备为互相连接的,但单服与单服的路由设备不直接连接,他们需要通过全区全服的路由设备进行对应的中转。
为进一步理解本方案,请参阅图7,图7为本申请实施例中全服寻址的一个实施例示意图,其中,以C服务消费方为第一服务器,C服务提供方为第二服务器为示例进行说明。当C服务消费方对C服务有需求时,C服务消费方会向A路由设备发送C服务调度请求,而C服务调度请求中会携带有C服务类型标识,C服务实例标识以及C服务消费方对应的源地址,然后C路由设备可以通过服务调度请求中携带的C服务类型标识确定C服务调度策略,并通过C服务调度策略确定目标路由表,而目标路由表中携带有C服务实例标识与C服务提供方对应的地址的对应关系,但当A路由设备无法通过服务调度请求中携带的C服务实例标识根据对应关系确定C服务提供方对应的地址时,即A路由设备无法在世界10中找到C服务对应的C服务提供方,因此A路由设备会向全服路由设备发送C服务调度请求,然后全服路由设备将执行A路由设备接收到C服务调度请求后的类似动作,并可以通过服务调度请求中携带的C服务实例标识根据对应关系确定C服务提供方对应的地址,然后全服路由设备就可以向C服务提供方发送C服务调度请求,最后C服务提供方根据C服务调度请求中携带的C服务消费方对应的源地址向服务消费方发送C服务数据,从而向C服务消费方提供C服务。
具体地,单服调度中心的路由设备可以接收服务调度请求,并且根据服务调度请求检查目标路由表,当可以在目标路由表中查询到对应服务实例标识时,则可以确定该服务实例对应的服务提供方并发送服务调度请求,当无法在目标路由表中查询到对应服务实例标识时,则将该服务调度请求转发至全服调度中心的全服路由设备。而全服路由设备可以维护全区或全服的服务路由表,还可以解码全局唯一标识符(globally uniqueidentifier,GUID)获取目标服信息,全服路由设备在收到单服调度中心的路由设备发送的服务调度请求之后,确定对应服务实例标识,然后确定对应服务提供方对应的地址,并且向服务提供方发送服务调度请求。进一步地,在实际应用中,全服路由设备可以根据前述服务实例标识确定服务提供方对应的地址,全服路由设备还包括但不限于根据服务服区标识、服务类型或者服务总线地址确定服务提供方对应的地址。
本申请实施例中,当路由设备无法根据该请求从已配置路由表中确定服务提供方的地址时,路由设备将会向全服路由设备发送该服务调度请求,然后由全服路由设备根据该请求从已配置路由表中确定服务提供方的地址,然后基于该地址向服务提供方转发服务调度请求,使得服务提供方能够向服务消费方提供服务数据。通过上述方式,当路由设备无法根据路由表选择能够为服务消费方提供服务数据的服务提供方时,还可以由全服路由设备选择能够为服务消费方提供服务数据的服务提供方,提升了服务调度的可行性。
基于本申请中服务处理的方法进行介绍,下面将从服务配置的方法对本申请进行介绍,请参阅图8,图8为本申请实施例中服务配置的方法一个实施例示意图,如图8所示,本申请实施例中服务配置的方法一个实施例包括:
201、调度服务器获取服务配置请求,其中,服务配置请求中携带目标服务类型标识以及目的地址;
本实施例中,当需要增加服务实例时,调度服务器可以接收第二服务器发送的服务配置请求,或者接收zookeeper发送的服务配置请求,该服务配置请求中携带有目标服务类型标识以及目的地址,其中,目标服务类型标识可以用于确定目标服务调度策略,而目的地址则可以对应于业务提供方,该目的地址可以为第二服务器对应的IP地址或消息认证码MAC地址。
202、调度服务器根据服务配置请求中携带的目标服务类型标识确定目标服务调度策略;
本实施例中,调度服务器可以根据该目标服务类型标识确定目标服务调度策略,其中,目标服务类型标识可以通过但不限于表格、索引表或者位图进行聚合。进一步地,本实施例中,调度策略则可以为加权轮询策略、主从备份策略、一致性哈希策略或者最低负载策略。
203、调度服务器根据目标服务调度策略、目标服务类型、目的地址以及目标服务实例标识,建立目标路由表,其中,目标服务实例标识携带于服务配置请求中,或,目标服务实例标识为根据服务配置请求获取到的;
本实施例中,调度服务器通过步骤201以及步骤202获取到目标服务调度策略、目标服务类型、目的地址以及目标服务实例标识后,可以根据前述信息建立目标路由表。其中,目标服务实例标识可以携带于服务配置请求中,或者目标服务实例标识可以根据服务配置请求获取。
为了便于理解,请参阅图9,图9为本申请实施例中建立目标路由表的一个实施例示意图,如图所示,社交服务、场景服务或者邮箱服务所对应的第二服务器可以向调度服务器发送服务配置请求,以邮箱服务示例,调度服务器可以根据邮箱服务器发送的服务配置请求所携带的邮箱服务器的目的地址以及邮箱服务实例标识(例如,邮箱服务实例标识可以为1或者2,且邮箱服务对应的服务调度策略为加权轮询),从而建立邮箱服务对应的目标路由表。进一步地,以场景服务示例,调度服务器可以根据场景服务器发送的服务配置请求所携带的场景服务器的目的地址,场景服务实例标识,例如场景服务器的目的地址可以为10.1.2.1或者10.1.2.2,邮箱服务对应的服务调度策略为最低负载,从而建立场景服务对应的目标路由表。
进一步地,请参阅表1至表4,表1至表4分别为四种不同目标服务调度策略对应的目标路由表,可以理解的是,表1至表4仅为目标路由表的一种示例,在实际应用中,目标路由表还可以包含其他信息,或者以其他形式展示。
表1-加权轮询
服务类型 服务器地址 服务实例标识 权重
邮箱 10.1.11.1 1 20
邮箱 10.1.11.2 2 30
邮箱
表2-主从备份
服务类型 服务器地址 角色
世界 10.1.1.1
世界 10.1.1.2
世界
表3-一致性哈希
服务类型 服务实例标识 服务器地址
社交 1000 10.1.5.1
社交 3000 10.1.5.2
社交
表4-最低负载
服务类型 服务实例标识 服务器地址
场景 100 10.1.2.1
场景 120 10.1.2.2
场景
从表1可知,加权轮询对应的目标路由表以邮箱服务为实例进行说明,在服务为邮箱服务的基础上,目标路由表可以包括邮箱服务所对应的目标服务实例标识、身份标识以及邮箱服务器所被分配的权重。具体地,服务器地址为10.1.11.1的邮箱服务所对应的服务实例标识为1,并且邮箱服务器所被分配的权重20,而服务器地址为10.1.11.2的邮箱服务所对应的服务实例标识为2,并且邮箱服务器所被分配的权重30。
从表2可知,主从备份对应的目标路由表以世界服务为实例进行说明,在服务为世界服务的基础上,目标路由表可以包括世界服务所对应的目标服务实例标识以及世界服务对应的服务器为主服务器还是备服务器。具体地,服务器地址为10.1.1.1的世界服务对应的为主服务器,而服务器地址为10.1.1.2的世界服务对应的为备服务器。
从表3可知,一致性哈希对应的目标路由表以社交服务为实例进行说明,在服务为社交服务的基础上,目标路由表可以包括社交服务所对应的目标服务实例标识以及虚拟身份标识。具体地,服务器地址为10.1.5.1的社交服务对应的服务实例标识为1000,而服务器地址为10.1.5.2的社交服务对应的服务实例标识为3000。
从表4可知,最低负载对应的目标路由表以场景服务进行实例,在服务为场景服务的基础上,目标路由表可以包括场景服务所对应的目标服务实例标识以及虚拟身份标识。具体地,服务器地址为10.1.2.1的场景服务对应的服务实例标识为100,而服务器地址为10.1.2.2的场景服务对应的服务实例标识为120。
204、调度服务器向路由设备发送目标路由表,其中,目标路由表用于路由设备根据第一服务器发送的服务调度请求确定目的地址,服务调度请求中携带目标服务类型、目标服务实例标识以及源地址,源地址对应于第一服务器,目标地址对应于第二服务器,第二服务器用于根据路由设备发送的服务调度请求,向第一服务器发送服务数据。
本实施例中,通过步骤203建立目标路由器后,可以向路由设备发送目标路由表。具体地,路由设备可以连接第一服务器以及第二服务器,即当第一服务器需要进行服务调度时,路由设备可以接收第一服务器发送的服务调度请求,并且根据服务调度请求携带的目标服务类型标识确定目标服务调度策略,然后根据目标服务调度策略获取目标路由表,再根据服务调度请求中所携带的目标服务实例标识,从目标路由表中确定目的地址,最后根据目的地址确定第二服务器,并且向第二服务器发送服务调度请求,使得第二服务器根据源地址向第一服务器发送服务数据,完成第一服务器的服务调度需求。
本申请实施例中,当新增服务提供方时,服务提供方可以向调度服务器发起服务调度请求,由调度服务器根据该请求确定目标服务调度策略,然后基于获取到目标服务调度策略、目标服务类型、目的地址以及目标服务实例标识建立目标路由表,然后向路由设备发送路由表。使得路由设备在接收到服务消费方发送服务调度请求时候,可以根据目标服务调度策略获取对应的目标路由表,然后选择能够为服务消费方提供服务数据的服务提供方,提升了服务配置的准确度以及可行性。
可选地,在上述图8对应的实施例的基础上,本申请实施例提供的服务配置的方法一个可选实施例中,还可以包括:
调度服务器获取待分类服务,其中,待分类服务对应于服务类型标识;
若待分类服务为无状态服务,则调度服务器确定待分类服务属于第一服务调度策略;
若待分类服务为有状态服务,且待分类服务为数据不可拆分服务,则调度服务器确定待分类服务属于第二服务调度策略;
若待分类服务为有状态服务,且待分类服务为数据可拆分服务,且待分类服务为实例承载无差异服务,则调度服务器确定待分类服务属于第三服务调度策略;
若待分类服务为有状态服务,且待分类服务为数据可拆分服务,且待分类服务为实例承载有差异服务,则调度服务器确定待分类服务属于第四服务调度策略;
调度服务器根据服务配置请求中携带的目标服务类型标识确定目标服务调度策略,可以包括:
调度服务器根据服务配置请求中携带的目标服务类型标识,确定第一服务调度策略、第二服务调度策略、第三服务调度策略或第四服务调度策略。
本实施例中,调度服务器可以根据待分类服务的服务特性对其进行分类。
为了便于理解,请参阅10,图10为本申请实施例中服务分类的一个实施例示意图,如图所示,调度服务器在获取到待分类服务后,先对其有无状态进行判断,若待分类服务为无状态服务,则待分类服务属于无状态类,无状态服务运行的实例不会在本地存储需要持久化的数据,并且多个实例对于同一个请求响应的结果是完全一致的,例如,邮件服务以及通知服务,具体地,请参阅表1,表1为本申请实施例中游戏服务案例分类表,如表1所示,邮件服务对于一个请求响应的结果均一致,因此邮件服务所以属于无状态类,根据表1即可以确定邮件服务对应的服务调度策略为加权轮询。
若待分类服务为有状态服务,则需要对待分类服务的数据是否具有可拆分性进行判断,有状态服务的实例可以将一部分数据随时进行备份,并且在创建一个新的有状态服务时,可以通过备份恢复这些数据,以达到数据持久化的目的。具体地,可以从执行和开发效率角度出发考虑,对于全局管理、频繁访问、修改全局数据、并且本身压力不大的服务,该服务就适合放在一个进程中,即该待分类服务的数据不可被拆分,属于全局类。如表1所示,场景管理服务首先属于有状态的服务,然而场景管理服务需要重复进入所有的场景找到玩家最适合进入的地图,所以场景管理服务应该需要放在一个进程中,即场景管理服务的数据不可被拆分,因此场景管理服务所以属于全局类,根据表1即可以确定场景管理服务对应的服务调度策略为主从备份。
若待分类服务为有状态服务,且待分类服务为数据可拆分服务,则需要对待分类服务的服务实例承载有无差异进行判断,可以从服务实例设计承载的角度考虑。若服务实例承载无差异则属于身份标识散列类,若服务实例承载有差异则属于最低负载类。具体地,如表1所示,帮派服务中的多个帮派的设计承载类似,均包括帮派日常、帮派团战以及帮派其他集体活动,每个帮派对应相同帮派集体活动的承载也是类似的,因此帮派服务首先属于有状态的服务,并且为数据可拆分的服务,然后为服务实例承载无差异性的服务,即帮派服务为身份标识散列类,具体可以根据服务实例标识就能确定映射到一个对应的服务提供方,而根据表5即可以确定场景服务对应的服务调度策略为最低负载。其次,场景服务中包括多个地图实例,例如城镇地图目的为举行大型活动,即城镇地图需要承载几千人,而副本地图目的为组队副本过图,即副本地图只要承载几个人,场景服务中的不同地图实例承载从目的的设计上不相同,因此即场景服务首先属于有状态的服务,并且为数据可拆分的服务,然后为服务实例承载有差异性的服务,即场景服务为最低负载类,具体可以在创建服务实例时查询当前负载最低的那个路由设备,在最低负载的路由设备中有一张路由表记录着每个服务实例分别被对应的路由设备,而根据表5即可以确定场景服务对应的服务调度策略为最低负载。
表5
服务类型 有无状态 数据可拆分性 服务实例承载差异性 服务调度策略
邮件服务 可拆分 无差异 加权轮询
场景管理服务 不可拆分 无差异 主从备份
帮派服务 可拆分 无差异 一致性哈希
场景服务 可拆分 有差异 最低负载
本申请实施例中,调度服务器可以根据待分类服务的服务特性对其进行分类,并且对不同类型的服务配置不同的调度策略,并且目标服务类型标识可以指向该服务所对应的目标服务调度策略,提升了服务配置的可行性。
可选地,在上述图8对应的实施例的基础上,本申请实施例提供的服务配置的方法一个可选实施例中,调度服务器根据目标服务调度策略、目标服务类型、目的地址以及目标服务实例标识,建立目标路由表之后,还可以包括:
调度服务器获取服务更新请求,其中,服务更新请求中携带待更新服务类型标识;
调度服务器根据服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略;
调度服务器根据目标服务调度策略,确定目标路由表;
调度服务器根据待更新服务类型标识、待更新服务实例标识以及待更新目的地址对目标路由表进行更新,得到更新后的目标路由表,其中,待更新服务实例标识以及待更新目的地址携带于服务更新请求中,或,目标服务实例标识以及待更新目的地址为根据服务配置请求获取到的;
调度服务器向路由设备发送更新后的目标路由表。
本实施例中,在根据目标服务调度策略、目标服务类型、目的地址以及目标服务实例标识,建立目标路由表之后,当服务提供方出现新的服务加入时,调度服务器还可以获取服务提供方的服务更新请求,并且服务更新请求中携带待更新服务类型标识,而由于服务更新请求中携带待更新服务类型标识,根据前述实施例描述的服务分类方法,调度服务器进一步地可以根据待更新服务类型标识确定目标服务调度策略,然后再根据目标服务调度策略确定目标路由表,最后可以通过获取到的待更新服务类型标识、待更新服务实例标识以及待更新目的地址对确定的目标路由表进行得到更新后的目标路由表,其中,待更新服务实例标识以及待更新目的地址可以携带于服务更新请求中,或者目标服务实例标识以及待更新目的地址还可以为根据服务配置请求获取到的,然后向路由设备发送更新后的目标路由表。
为进一步理解本方案,请参阅表6至表9,表6至表9分别为四种不同目标服务调度策略对应的更新后的目标路由表,可以理解的是,表6至表9仅为更新后的目标路由表的一种示例,在实际应用中,更新后的目标路由表还可以包含其他信息,或者以其他形式展示。
表6-加权轮询
服务类型 服务器地址 服务实例标识 权重
邮箱 10.1.11.1 1 1
邮箱 10.1.11.2 2 2
邮箱 10.1.11.2 3 2
表7-主从备份
服务类型 服务器地址 角色
世界 10.1.1.1
世界 10.1.1.2
世界 10.1.1.3
表8-一致性哈希
服务类型 服务实例标识 服务器地址
社交 1000 10.1.5.1
社交 3000 10.1.5.2
社交 4000 10.1.5.3
表9-最低负载
服务类型 服务实例标识 服务器地址
场景 100 10.1.2.1
场景 120 10.1.2.2
场景 140 10.1.2.3
从表6可知,加权轮询对应的目标路由表以邮箱服务为示例进行说明,在服务为邮箱服务的基础上,目标路由表可以包括邮箱服务所对应的服务实例标识、服务器地址以及邮箱服务器所被分配的权重。具体地,在本申请中表1的基础上,新增了待更新服务实例标识为3的邮箱服务,而该待更新服务实例标识对应的待更新目的地址为10.1.11.2,并且邮箱服务器所被分配的权重为2,即待更新服务实例标识为3的邮箱服务与服务实例标识为2的邮箱服务同在目的地址为10.1.11.2的服务器上进行服务处理。
从表7可知,主从备份对应的目标路由表以世界服务为示例进行说明,在服务为世界服务的基础上,目标路由表可以包括世界服务所对应的服务器地址以及世界服务对应的服务器为主服务器还是备服务器。具体地,在本申请中表2的基础上,新增了待更新目的地址10.1.1.3,并且待更新目的地址为10.1.1.3的世界服务对应的为备服务器。
从表8可知,一致性哈希对应的目标路由表以社交服务为示例进行说明,在服务为社交服务的基础上,目标路由表可以包括社交服务所对应的服务实例标识以及服务器地址。具体地,本申请中表3的基础上,新增了待更新目的地址10.1.5.3,并且待更新目的地址为10.1.5.3的社交服务对应的待更新服务实例标识为4000。
从表9可知,最低负载对应的目标路由表以场景服务进行示例,在服务为场景服务的基础上,目标路由表可以包括场景服务所对应的服务实例标识以及服务器地址。具体地,本申请中表4的基础上,新增了待更新目的地址10.1.2.3,且待更新目的地址为10.1.2.3的场景服务对应的待更新服务实例标识为140。
本申请实施例中,当服务提供方有新的服务加入时,服务提供方可以向调度服务器发起服务更新请求,由调度服务器根据该请求确定目标服务调度策略并且进一步确定目标路由表,然后基于获取到待更新服务类型标识、待更新服务实例标识以及待更新目的地址对确定的目标路由表进行更新,然后向路由设备发送更新后的路由表。使得当服务消费方需要对更新后的服务进行服务调度时,路由设备可以根据该请求从更新后的路由表中确定服务提供方的地址,然后基于该地址向服务提供方转发服务调度请求,使得服务提供方能够向服务消费方提供更新后的服务数据,提升服务调度的准确行以及可行性。
为进一步理解本方案,请参阅图11,图11为本申请实施例中新服务加入的一个调度流程示意图,下面对图11中流程进行具体说明。
S11、当服务提供方有新的服务加入时,即需要对服务以及目标路由表进行更新。因此服务提供方可以向调度服务器中的服务监控功能发送服务更新请求,并且服务更新请求中携带待更新服务类型标识;
S12、当调度服务器中的服务监控功能接收到服务提供方发送的服务更新请求后,会向调度服务器中的调度管理器发出服务更新通知,使得调度管理器通过服务更新通知中携带的待更新服务类型标识确定待更新服务类型所对应的调度策略,调度策略可以为加权轮询、主从备份、一致性哈希或者最低负载;
S13、当调度管理器确定待更新服务类型所对应的调度策略后,会创建待更新服务实例,即为图11中的待更新服务调度器;
S14、而待更新服务实例通过待更新服务实例标识更新目标路由表,不同的调度策略的更新与表6至表9所述类似,在此不再赘述。
S15、然后调度服务器会将更新后的目标路由表发送给路由设备。
下面将详细描述在有新的服务加入时,加权轮询、主从备份、一致性哈希以及最低负载四种不同的服务调度策略的服务处理方法。
可选地,在上述图8对应的实施例的基础上,本申请实施例提供的服务配置的方法一个可选实施例中,服务更新请求还携带调度权重值;
调度服务器根据服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略,可以包括:
调度服务器根据服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略属于第一服务调度策略;
调度服务器根据待更新服务类型标识、待更新服务实例标识以及待更新目的地址对目标路由表进行更新,得到更新后的目标路由表,包括:
调度服务器根据调度权重值、待更新服务类型标识、待更新服务实例标识以及待更新目的地址对目标路由表进行更新,得到更新后的目标路由表,其中,待更新服务实例标识以及待更新目的地址携带于服务更新请求中。
本实施例中,介绍了当服务更新请求还携带调度权重值时,也就是说新加入的服务所对应的服务调度策略为加权轮询时,更新目标路由表而得到更新后路由表的方法。具体地,首先调度服务器可以获取到更新请求中携带的待更新服务类型标识,并且在本实施例中,待更新服务类型标识指示更新服务类型为无状态类服务,因此调度服务器可以根据该待更新服务类型标识确定目标服务调度策略具体为加权轮询。进一步地,由于确定目标服务调度策略具体为加权轮询,因此在根据待更新服务类型标识、待更新服务实例标识以及待更新目的地址对目标路由表进行更新的基础上,还可以新增调度权重值对目标路由表进行更新,然后得到更新后的目标路由表。
进一步地,由于不同的服务提供方的配置和当前服务处理系统的负载并不相同,因此不同的服务提供方的抗压能力也不相同。因此可以给配置高而负载低的服务提供方配置更高的权重,让其处理更多的请求,然后给配置低、负载高的服务提供方分配较低的权重,降低服务处理系统负载,采用加权轮询处理服务提供方的配置与服务处理系统的负载不相同的问题,并可以根据服务请求顺序且按照权重分配到后端。因此在本实施例中,加权轮训可以通过在目标路由表中增加相应的权重个数的无状态服务对应的服务实例,从而达到加权的效果,每个服务提供方均会被依次轮询。
为了便于理解,请参阅图12,图12为本申请实施例中基于加权轮询更新目标路由表的一个实施例示意图,如图所示,由本申请前述可以得知调度服务器根据服务配置请求中携带的目标服务类型标识确定目标服务调度策略,并且该服务为邮箱服务,属于无状态类服务,对应加权轮询的服务调度策略,由本申请前述可以建立如图12所示加权轮询对应的目标路由表,可以看到,服务实例标识对应不同的权重,即服务器地址10.1.11.1对应的服务实例可以承载1个服务加入,服务器地址10.1.11.2对应的服务实例可以承载2个服务加入,因此加权轮询对应的目标路由表可以看到,服务实例标识为1的邮箱服务对应的服务器地址为10.1.11.1,从由该服务器地址对应的服务实例提供邮箱服务,而服务实例标识为2以及身份标识为3的的邮箱服务对应的服务器地址为10.1.11.2,,由该服务实例标识对应的服务实例提供邮箱服务。当服务提供方有新的服务加入,则会向调度服务器发送服务更新请求,并且该服务更新请求中携带调度权重值,如图12所示,新加入的服务器地址为10.1.11.3,并且对应的权重为3,因此加权轮询对应的更新后的目标路由表则加入服务器地址为10.1.11.3的服务实例,并且服务实例标识为4至服务实例标识为6的的邮箱服务对应的服务器地址为10.1.11.3,由该服务器地址对应的服务实例提供邮箱服务。
本申请实施例中,当服务更新请求还携带调度权重值时,还可以新增调度权重值对目标路由表进行更新,也就是说可以通过在目标路由表中增加相应的权重个数的服务实例,每个服务提供方均会被依次轮询,降低服务处理系统负载,提高服务配置效率。
可选地,在上述图8对应的实施例的基础上,本申请实施例提供的服务配置的方法一个可选实施例中,服务更新请求还携带调度角色标识,调度角色标识包括主服务标识或备服务标识;
调度服务器根据服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略,可以包括:
调度服务器根据服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略属于第二服务调度策略;
调度服务器根据待更新服务类型标识、待更新服务实例标识以及待更新目的地址对目标路由表进行更新,得到更新后的目标路由表,可以包括:
调度服务器根据调度角色标识、待更新服务类型标识、待更新服务实例标识以及待更新目的地址对目标路由表进行更新,得到更新后的目标路由表,其中,待更新服务实例标识以及待更新目的地址携带于服务更新请求中。
本实施例中,介绍了当服务更新请求还携带调度角色标识,并且调度角色标识包括主服务标识或备服务标识时,也就是说新加入的服务所对应的服务调度策略为主从备注时,更新目标路由表而得到更新后路由表的方法。具体地,首先调度服务器可以获取到更新请求中携带的待更新服务类型标识,并且在本实施例中,待更新服务类型标识指示更新服务类型为全局类服务,因此调度服务器可以根据该待更新服务类型标识确定目标服务调度策略具体为主从备注。进一步地,由于确定目标服务调度策略具体为主从备注,因此在根据待更新服务类型标识、待更新服务实例标识以及待更新目的地址对目标路由表进行更新的基础上,还可以新增调度角色标识对目标路由表进行更新,然后得到更新后的目标路由表。
进一步地,对于执行主从备注的服务器而言,主服务器数据库的每次操作都会记录在二进制日志文件中,而备服务器的线程则会使用专用帐号登陆到主服务器中读取该二进制日志文件,并将文件内容写入到自己本地的中继日志文件中,然后备服务器的线程会根据中继日志文件中的内容执行语句对相应的服务提供服务。
本申请实施例中,当服务更新请求还携带调度角色标识时,还可以新增调度角色标识对目标路由表进行更新,也就是说当调度角色标识为主服务标识时,对其进行修改的记录仅会记录于二进制日志文件中,而备服务器则会根据该二进制日志文件对文件内容进行写入然后执行,而当调度角色标识为备服务标识时对其进行修改的记录也仅记录于本地的中继日志文件,然后主服务器再对其文件内容进行写入然后执行,避免了直接修改造成线程的混乱,从而提升服务配置的效率。
可选地,在上述图8对应的实施例的基础上,本申请实施例提供的服务配置的方法一个可选实施例中,调度服务器根据服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略,可以包括:
调度服务器根据服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略属于第三服务调度策略;
调度服务器根据待更新服务类型标识、待更新服务实例标识以及待更新目的地址对目标路由表进行更新,得到更新后的目标路由表,可以包括:
调度服务器根据待更新目的地址获得目的地址空间段,其中,目的地址空间段为根据目标哈希值确定的,目标哈希值为根据待更新目的地址生成的,其中待更新目的地址携带于服务更新请求中;
调度服务器根据目标哈希值、待更新服务类型标识、待更新目的地址以及待更新服务实例标识对目标路由表进行更新,其中,待更新服务实例标识携带于服务更新请求中;
调度服务器向第二服务器发送目的地址空间段,以使第二服务器根据目的地址空间段获取服务数据;
调度服务器接收第二服务器发送的服务状态信息;
调度服务器根据服务状态信息,对目标路由表进行更新,得到更新后的目标路由表。
本实施例中,介绍了当新加入的服务所对应的服务调度策略为一致性哈希时,更新目标路由表而得到更新后路由表的方法。具体地,首先调度服务器可以获取到更新请求中携带的待更新服务类型标识,并且在本实施例中,待更新服务类型标识指示更新服务类型为身份标识散列类服务,因此调度服务器可以根据该待更新服务类型标识确定目标服务调度策略具体为一致性哈希。进一步地,由于确定目标服务调度策略具体为一致性哈希,可以根据服务更新请求中所携带的待更新目的地址生成目标哈希值,然后根据目标哈希值确定目的地址空间段,然后再向第二服务器发送目的地址空间段,使得第二服务器根据目的地址空间段获取服务数据,进而第二服务器则可以根据服务数据确定服务状态信息,并给向调度服务器发送该服务状态信息,由此调度服务器可以根据该服务状态信息以及目标哈希值、待更新服务类型标识、待更新目的地址以及待更新服务实例标识对目标路由表进行更新,最后得到更新后的目标路由表。
为了便于理解,请参阅图13,图13为本申请实施例中基于一致性哈希更新目标路由表的一个实施例示意图,如图所示,首先服务实例标识可以通过哈希函数映射到哈希空间的虚拟身份标识,由此可以更新目标路由表,即对于帮派服务而言,服务器地址10.1.5.1对应的哈希空间内的服务实例标识为1000,服务器地址10.1.5.2对应的哈希空间内的服务实例标识为4000,而对应的状态为新进。进一步地,可以将两个服务实例标识对应的服务实例在哈希空间中看为两个虚拟帮派节点,分别为帮派A节点以及帮派B节点,调度服务器会向帮派A节点以及帮派B节点下发对应负责的hash空间段。具体地,如图13所示,哈希空间为5000,帮派A节点的服务器地址为10.1.5.1,而其对应的服务实例标识为1000,因此调度服务器可以通过步骤S22向帮派A节点下发哈希空间段0,1000以及4001,4999,而帮派B节点的服务器地址为10.1.5.2,而其对应的服务实例标识为4000,因此调度服务器可以通过步骤S21向帮派B节点下发哈希空间段1001,4000。当帮派A节点以及帮派B节点接收到度服务器下发的负责hash空间段后,可以从游戏数据库中直接加载帮派数据,加载完成后将修改路由表状态,并由此可以得到服务器地址10.1.5.1对应的哈希空间内的服务实例标识为1000,服务器地址10.1.5.2对应的哈希空间内的服务实例标识为4000,而对应的状态为服务的更新后的目标路由表。最后还可以将更新后的目标路由表同步至所有处于该哈希空间内的虚拟服务节点提供服务。
本申请实施例中,基于一致性哈希可以在哈希空间建立虚拟服务节点,然后可以根据目的地址空间段获取服务数据并且确定服务状态信息,再根据服务状态信息,对目标路由表进行更新,其次还可以将更新后的目标路由表同步至所有处于该哈希空间内的虚拟服务节点提供服务。因此能够实时的管理动态增加和删除的服务,从而提升目标路由表更新的及时性以及准确性。
需要说明的是,对于加权轮询,主从备份以及一致性哈希所对应的服务注册表可以为目标路由表,即在调度管理器更新服务注册表时,即可以用更新后的服务注册表更新目标路由表,从而得到更新后的目标路由表,可以理解的是两张表概念上统一。
可选地,在上述图8对应的实施例的基础上,本申请实施例提供的服务配置的方法一个可选实施例中,调度服务器根据服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略,可以包括:
调度服务器根据服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略属于第四服务调度策略;
调度服务器根据待更新服务类型标识、待更新服务实例标识以及待更新目的地址对目标路由表进行更新,得到更新后的目标路由表之前,方法还包括:
调度服务器向标识管理服务器发送标识分配请求,其中,标识分配请求中携带待更新服务类型标识;
调度服务器接收标识管理服务器发送的标识分配响应,其中,标识分配响应中携带待更新服务实例标识;
调度服务器根据待更新服务类型标识以及目标负载信息,从目标注册表中获取待更新目的地址,其中,目标负载信息为第二服务器上报的;
调度服务器根据待更新服务类型标识、待更新服务实例标识以及待更新目的地址对目标路由表进行更新,得到更新后的目标路由表,可以包括:
调度服务器根据待更新目的地址,向第二服务器发送实例创建请求,以使第二服务器根据实例创建请求创建服务实例,其中,实例创建请求携带待更新服务类型标识以及待更新服务实例标识;
调度服务器接收第二服务器发送的实例创建响应,其中,实例创建响应携带服务状态信息;
调度服务器根据服务状态信息,对目标路由表进行更新,得到更新后的目标路由表。
本实施例中,介绍了当新加入的服务所对应的服务调度策略为最低负载时,更新目标路由表而得到更新后路由表的方法。具体地,首先调度服务器可以获取到更新请求中携带的待更新服务类型标识,并且在本实施例中,待更新服务类型标识指示更新服务类型为最低负载类服务,因此调度服务器可以根据该待更新服务类型标识确定目标服务调度策略具体为最低负载。进一步地,由于确定目标服务调度策略具体为最低负载,在对目标路由表进行更新之前,调度服务器可以向标识管理服务器发送携带有待更新服务类型标识的标识分配请求,当标识管理服务器接收到该标识分配请求时,会向调度服务器发送携带有待更新服务实例标识的标识分配响应,然后调度服务器即可以根据从标识分配响应中获取到的待更新服务类型标识,以及第二服务器上报的目标负载信息,从目标注册表中获取待更新目的地址,由此调度服务器可以根据该待更新目的地址向第二服务器发送携带有待更新服务类型标识以及待更新服务实例标识的实例创建请求,当第二服务器接收到该实例创建请求时,则可以根据实例创建请求创建对应的服务实例,然后第二服务器可以向调度服务器发送携带有服务状态信息的实例创建响应,最后调度服务器就可以根据服务状态信息对目标路由表进行更新,从而得到更新后的目标路由表。
为了便于理解,请参阅图14,图14为本申请实施例中基于最低负载更新目标路由表的一个实施例示意图,如图所示,调度服务器首先通过步骤S31向标识管理服务器发送标识分配请求,该标识分配请求中携带有待更新服务类型标识,然后标识管理服务器可以通过步骤S32向调度服务器发送标识分配响应,该标识分配响应中携带待更新服务实例标识。然后根据步骤S32中获取的待更新服务类型标识以及场景服务提供方上报的目标负载信息,并且通过步骤S33获取的目标注册表确定待更新目的地址,由此调度服务器可以通过步骤S34向场景服务提供方A发送实例创建请求,而该实例创建请求中携带有待更新服务类型标识以及待更新服务实例标识,然后场景服务提供方A可以根据实例创建服务实例,且待更新目的地址为10.1.2.2。进一步通过步骤S35向目标路由表中寻找当前负载最低对应的服务实例标识,可以理解的是,在实际应用中,负载的判定指标包括但是不限于处理能力或内存大小,如图14所示,处理器以及内存对应的负载最低待更新目的地址为10.1.2.2,因此确定场景服务提供方A的负载最低,然后将待更新服务类型标识、待更新服务实例标识以及待更新目的地址对目标路由表进行更新,然后向场景服务提供方A发送创建请求,场景服务提供方A创建好后回复创建成功即成功加入服务,并且对应更新了目标路由表。
本申请实施例中,由于承载的差异性,最低负载的服务提供方作为目标路由表的集合服务器,在满足服务配置的基础上,提高了服务处理量,从而提供服务质量。
可选地,在上述图8对应的各个实施例的基础上,本申请实施例提供的服务配置的方法一个可选实施例中,目标注册表包括服务类型标识、服务器地址以及负载信息之间的对应关系,其中,服务类型标识包括待更新服务类型标识,服务器地址包括待更新目的地址,负载信息包括目标负载信息。
本实施例中,对于最低负载而言,则需要利用服务注册表查找到最低负载的服务提供方,然后该服务提供方创建服务实例,因此目标路由表中记录的为最低负载的服务提供方创建的服务实例与服务提供方的对应关系。
需要说明的是,该目标注册表中还可以包括目标服务类型标识、目标地址以及相关的负载信息。
进一步地,本申请实施例中,目标注册表还可以包括待更新服务类型标识、待更新目的地址以及目标负载信息,细化了目标注册表包括信息的多样性,从而提升服务配置的灵活性。
下面对本申请中的服务处理装置进行详细描述,请参阅图15,图15为申请实施例中服务处理装置的一个实施例示意图,服务处理装置1500包括:
确定模块1501,用于当接收到第一服务器发送的服务调度请求时,根据服务调度请求中所携带的目标服务类型标识确定目标服务调度策略,其中,服务调度请求中携带目标服务类型标识、目标服务实例标识以及源地址,源地址对应于第一服务器;
获取模块1502,用于根据确定模块确定的目标服务调度策略获取目标路由表,其中,目标路由表包括服务实例标识与服务器地址之间的关联关系,目标路由表为调度服务器建立的;
确定模块1501,还用于根据服务调度请求中所携带的目标服务实例标识,从获取模块获取的目标路由表中确定目的地址,其中,目的地址属于服务器地址,且目的地址对应于第二服务器;
发送模块1503,用于根据确定模块确定的目的地址,向第二服务器发送服务调度请求,以使第二服务器根据源地址向第一服务器发送服务数据。
可选地,在上述图15所对应的实施例的基础上,本申请实施例提供的服务处理装置1500的另一实施例中,
发送模块1503,还用于若目标路由表中不存在目标服务实例标识,则向全服路由设备发送服务调度请求,以使全服路由设备向第二服务器发送服务调度请求,以使第二服务器根据源地址向第一服务器发送服务数据。
下面对本申请中的服务配置装置进行详细描述,请参阅图16,图16为本申请实施例中服务配置装置的一个实施例示意图,服务配置装置1600包括:
获取模块1601,用于获取服务配置请求,其中,服务配置请求中携带目标服务类型标识以及目的地址;
确定模块1602,用于根据获取模块获取的服务配置请求中携带的目标服务类型标识确定目标服务调度策略;
建立模块1603,用于根据确定模块确定的目标服务调度策略、目标服务类型、目的地址以及目标服务实例标识,建立目标路由表,其中,目标服务实例标识携带于服务配置请求中,或,目标服务实例标识为根据服务配置请求获取到的;
发送模块1604,用于向路由设备发送建立模块建立的目标路由表,其中,目标路由表用于路由设备根据第一服务器发送的服务调度请求确定目的地址,服务调度请求中携带目标服务类型、目标服务实例标识以及源地址,源地址对应于第一服务器,目标地址对应于第二服务器,第二服务器用于根据路由设备发送的服务调度请求,向第一服务器发送服务数据。
可选地,在上述图16所对应的实施例的基础上,本申请实施例提供的服务处理装置1600的另一实施例中,
获取模块1601,还用于获取待分类服务,其中,待分类服务对应于服务类型标识;
确定模块1602,还用于若待分类服务为无状态服务,则确定待分类服务属于第一服务调度策略;
确定模块1602,还用于若待分类服务为有状态服务,且待分类服务为数据不可拆分服务,则确定待分类服务属于第二服务调度策略;
确定模块1602,还用于若待分类服务为有状态服务,且待分类服务为数据可拆分服务,且待分类服务为实例承载无差异服务,则确定待分类服务属于第三服务调度策略;
确定模块1602,还用于若待分类服务为有状态服务,且待分类服务为数据可拆分服务,且待分类服务为实例承载有差异服务,则确定待分类服务属于第四服务调度策略;
确定模块1602,具体用于根据服务配置请求中携带的目标服务类型标识,确定第一服务调度策略、第二服务调度策略、第三服务调度策略或第四服务调度策略。
可选地,在上述图16所对应的实施例的基础上,本申请实施例提供的服务处理装置1600的另一实施例中,服务配置装置还包括更新模块1605;
获取模块1601,还用于建立模块根据目标服务调度策略、目标服务类型、目的地址以及目标服务实例标识,建立目标路由表之后,获取服务更新请求,其中,服务更新请求中携带待更新服务类型标识;
确定模块1602,还用于根据获取模块获取的服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略;
确定模块1602,还用于根据确定模块确定的目标服务调度策略,确定目标路由表;
更新模块1605,用于根据待更新服务类型标识、待更新服务实例标识以及待更新目的地址对确定模块确定的目标路由表进行更新,得到更新后的目标路由表,其中,待更新服务实例标识以及待更新目的地址携带于服务更新请求中,或,目标服务实例标识以及待更新目的地址为根据服务配置请求获取到的;
发送模块1604,还用于向路由设备发送更新模块更新后的目标路由表。
可选地,在上述图16所对应的实施例的基础上,本申请实施例提供的服务处理装置1600的另一实施例中,服务更新请求还携带调度权重值;
确定模块1602,具体用于根据服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略属于第一服务调度策略;
更新模块1605,具体用于根据调度权重值、待更新服务类型标识、待更新服务实例标识以及待更新目的地址对目标路由表进行更新,得到更新后的目标路由表,其中,待更新服务实例标识以及待更新目的地址携带于服务更新请求中。
可选地,在上述图16所对应的实施例的基础上,本申请实施例提供的服务处理装置1600的另一实施例中,服务更新请求还携带调度角色标识,调度角色标识包括主服务标识或备服务标识;
确定模块1602,具体用于根据服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略属于第二服务调度策略;
更新模块1605,具体用于根据调度角色标识、待更新服务类型标识、待更新服务实例标识以及待更新目的地址对目标路由表进行更新,得到更新后的目标路由表,其中,待更新服务实例标识以及待更新目的地址携带于服务更新请求中。
可选地,在上述图16所对应的实施例的基础上,本申请实施例提供的服务处理装置1600的另一实施例中,
确定模块1602,具体用于根据服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略属于第三服务调度策略;
更新模块1605,具体用于根据待更新目的地址获得目的地址空间段,其中,目的地址空间段为根据目标哈希值确定的,目标哈希值为根据待更新目的地址生成的,其中待更新目的地址携带于服务更新请求中;
根据目标哈希值、待更新服务类型标识、待更新目的地址以及待更新服务实例标识对目标路由表进行更新,其中,待更新服务实例标识携带于服务更新请求中;
向第二服务器发送目的地址空间段,以使第二服务器根据目的地址空间段获取服务数据;
接收第二服务器发送的服务状态信息;
根据服务状态信息,对目标路由表进行更新,得到更新后的目标路由表。
可选地,在上述图16所对应的实施例的基础上,本申请实施例提供的服务处理装置1600的另一实施例中,服务配置装置还包括接收模块1606;
确定模块1602,具体用于根据服务更新请求中携带的待更新服务类型标识,确定目标服务调度策略属于第四服务调度策略;
发送模块1604,还用于更新模块根据待更新服务类型标识、待更新服务实例标识以及待更新目的地址对目标路由表进行更新,得到更新后的目标路由表之前,向标识管理服务器发送标识分配请求,其中,标识分配请求中携带待更新服务类型标识;
接收模块1606,用于接收标识管理服务器发送的标识分配响应,其中,标识分配响应中携带待更新服务实例标识;
更新模块1605,具体用于根据待更新服务类型标识以及目标负载信息,从目标注册表中获取待更新目的地址,其中,目标负载信息为第二服务器上报的;
根据待更新目的地址,向第二服务器发送实例创建请求,以使第二服务器根据实例创建请求创建服务实例,其中,实例创建请求携带待更新服务类型标识以及待更新服务实例标识;
接收第二服务器发送的实例创建响应,其中,实例创建响应携带服务状态信息;
根据服务状态信息,对目标路由表进行更新,得到更新后的目标路由表。
可选地,在上述图16所对应的实施例的基础上,本申请实施例提供的服务处理装置1600的另一实施例中,服务类型标识包括待更新服务类型标识,服务器地址包括待更新目的地址,负载信息包括目标负载信息。
应理解,以服务处理装置为服务器为例,请参阅图17,图17为本申请实施例中路由设备的一个结构示意图,该路由设备1700可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上中央处理器(central processing units,CPU)1722(例如,一个或一个以上处理器)和存储器1732,一个或一个以上存储应用程序1742或数据1744的存储介质1730(例如一个或一个以上海量存储设备)。其中,存储器1732和存储介质1730可以是短暂存储或持久存储。存储在存储介质1730的程序可以包括一个或一个以上模块(图示没标出),每个模块可以包括对服务器中的一系列指令操作。更进一步地,中央处理器1722可以设置为与存储介质1730通信,在路由设备1700上执行存储介质1730中的一系列指令操作。
路由设备1700还可以包括一个或一个以上电源1726,一个或一个以上有线或无线网络接口1750,一个或一个以上输入输出接口1758,和/或,一个或一个以上操作系统1741,例如WindowsServerTM,MacOSXTM,UnixTM,LinuxTM,FreeBSDTM等等。
上述实施例中由服务器所执行的步骤可以基于该图17所示的服务器结构。
在本申请实施例中,该服务器所包括的CPU1722还具有以下功能:
当接收到第一服务器发送的服务调度请求时,根据服务调度请求中所携带的目标服务类型标识确定目标服务调度策略,其中,服务调度请求中携带目标服务类型标识、目标服务实例标识以及源地址,源地址对应于第一服务器;
根据目标服务调度策略获取目标路由表,其中,目标路由表包括服务实例标识与服务器地址之间的关联关系,目标路由表为调度服务器建立的;
根据服务调度请求中所携带的目标服务实例标识,从目标路由表中确定目的地址,其中,目的地址属于服务器地址,且目的地址对应于第二服务器;
根据目的地址,向第二服务器发送服务调度请求,以使第二服务器根据源地址向第一服务器发送服务数据。
应理解,以服务配置装置为服务器为例,请参阅图18,图18为本申请实施例中调度服务器的一个结构示意图,该调度服务器1800可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上中央处理器(central processing units,CPU)1822(例如,一个或一个以上处理器)和存储器1832,一个或一个以上存储应用程序1842或数据1844的存储介质1830(例如一个或一个以上海量存储设备)。其中,存储器1832和存储介质1830可以是短暂存储或持久存储。存储在存储介质1830的程序可以包括一个或一个以上模块(图示没标出),每个模块可以包括对服务器中的一系列指令操作。更进一步地,中央处理器1822可以设置为与存储介质1830通信,在调度服务器1800上执行存储介质1830中的一系列指令操作。
调度服务器1800还可以包括一个或一个以上电源1826,一个或一个以上有线或无线网络接口1850,一个或一个以上输入输出接口1858,和/或,一个或一个以上操作系统1841,例如WindowsServerTM,MacOSXTM,UnixTM,LinuxTM,FreeBSDTM等等。
上述实施例中由服务器所执行的步骤可以基于该图18所示的服务器结构。
在本申请实施例中,该服务器所包括的CPU 1822还具有以下功能:
获取服务配置请求,其中,服务配置请求中携带目标服务类型标识以及目的地址;
根据服务配置请求中携带的目标服务类型标识确定目标服务调度策略;
根据目标服务调度策略、目标服务类型、目的地址以及目标服务实例标识,建立目标路由表,其中,目标服务实例标识携带于服务配置请求中,或,目标服务实例标识为根据服务配置请求获取到的;
向路由设备发送目标路由表,其中,目标路由表用于路由设备根据第一服务器发送的服务调度请求确定目的地址,服务调度请求中携带目标服务类型、目标服务实例标识以及源地址,源地址对应于第一服务器,目标地址对应于第二服务器,第二服务器用于根据路由设备发送的服务调度请求,向第一服务器发送服务数据。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read-only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。

Claims (14)

1.一种服务处理的方法,其特征在于,应用于服务处理系统中的路由设备,所述服务处理系统还包括调度服务器与分布式服务架构;所述分布式服务架构用于对服务进行注册以及保活,并存储有服务提供方创建的目录节点;所述调度服务器包括服务注册表与服务路由表;所述调度服务器用于通过获取所述分布式服务架构上创建的目录节点确定所述服务提供方的加入,并向所述服务提供方提供服务调度策略的配置,为所述服务提供方创建相应的调度器实例;所述调度器实例为所述服务提供方对应的管理容器,所述调度器实例用于更新所述服务注册表以及所述服务路由表,并将更新后的服务路由表同步到所述路由设备上;所述方法包括:
所述路由设备当接收到第一服务器发送的服务调度请求时,根据所述服务调度请求中所携带的目标服务类型标识确定目标服务调度策略,其中,所述服务调度请求中携带所述目标服务类型标识、目标服务实例标识以及源地址,所述源地址对应于所述第一服务器;
所述路由设备根据所述目标服务调度策略获取目标路由表,其中,所述目标路由表包括服务实例标识与服务器地址之间的关联关系,所述目标路由表为调度服务器建立的;
所述路由设备根据所述服务调度请求中所携带的所述目标服务实例标识,从所述目标路由表中确定目的地址,其中,所述目的地址属于所述服务器地址,且所述目的地址对应于第二服务器;
所述路由设备根据所述目的地址,向所述第二服务器发送所述服务调度请求,以使所述第二服务器根据所述源地址向所述第一服务器发送服务数据;
所述调度服务器还用于获取待分类服务,其中,所述待分类服务对应于服务类型标识;若所述待分类服务为无状态服务,则确定所述待分类服务属于加权轮询策略;若所述待分类服务为有状态服务,且所述待分类服务为数据不可拆分服务,则确定所述待分类服务属于主从备份策略;若所述待分类服务为有状态服务,且所述待分类服务为数据可拆分服务,且所述待分类服务为实例承载无差异服务,则确定所述待分类服务属于一致性哈希策略;若所述待分类服务为有状态服务,且所述待分类服务为数据可拆分服务,且所述待分类服务为实例承载有差异服务,则确定所述待分类服务属于最低负载策略;不同的目标服务调度策略对应不同的目标路由表;
相应的,所述根据所述服务调度请求中所携带的目标服务类型标识确定目标服务调度策略,包括:根据所述服务调度请求中所携带的目标服务类型标识,确定目标服务调度策略为所述加权轮询策略、所述主从备份策略、所述一致性哈希策略或者所述最低负载策略。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
若所述目标路由表中不存在所述目标服务实例标识,则向全服路由设备发送所述服务调度请求,以使所述全服路由设备向所述第二服务器发送所述服务调度请求,以使所述第二服务器根据源地址向所述第一服务器发送服务数据。
3.一种服务配置的方法,其特征在于,应用于服务处理系统中的调度服务器,所述服务处理系统还包括分布式服务架构与路由设备;所述分布式服务架构用于对服务进行注册以及保活,并存储有服务提供方创建的目录节点;所述调度服务器包括服务注册表与服务路由表;所述调度服务器用于通过获取所述分布式服务架构上创建的目录节点确定所述服务提供方的加入,并向所述服务提供方提供服务调度策略的配置,为所述服务提供方创建相应的调度器实例;所述调度器实例为所述服务提供方对应的管理容器,所述调度器实例用于更新所述服务注册表以及所述服务路由表,并将更新后的服务路由表同步到所述路由设备上;所述方法包括:
所述调度服务器获取所述分布式服务架构发送的服务配置请求,其中,所述服务配置请求中携带目标服务类型标识以及目的地址;
所述调度服务器获取待分类服务,其中,所述待分类服务对应于服务类型标识;
若所述待分类服务为无状态服务,则确定所述待分类服务属于第一服务调度策略;
若所述待分类服务为有状态服务,且所述待分类服务为数据不可拆分服务,则确定所述待分类服务属于第二服务调度策略;
若所述待分类服务为有状态服务,且所述待分类服务为数据可拆分服务,且所述待分类服务为实例承载无差异服务,则确定所述待分类服务属于第三服务调度策略;
若所述待分类服务为有状态服务,且所述待分类服务为数据可拆分服务,且所述待分类服务为实例承载有差异服务,则确定所述待分类服务属于第四服务调度策略;
所述调度服务器根据所述服务配置请求中携带的所述目标服务类型标识,确定目标服务调度策略为所述第一服务调度策略、所述第二服务调度策略、所述第三服务调度策略或所述第四服务调度策略;不同的目标服务调度策略对应不同的目标路由表;
所述调度服务器根据所述目标服务调度策略、所述目标服务类型、所述目的地址以及目标服务实例标识,建立目标路由表,其中,所述目标服务实例标识携带于所述服务配置请求中,或,所述目标服务实例标识为根据所述服务配置请求获取到的;
向所述路由设备发送所述目标路由表,其中,所述目标路由表用于所述路由设备根据第一服务器发送的服务调度请求确定所述目的地址,所述服务调度请求中携带所述目标服务类型、所述目标服务实例标识以及源地址,所述源地址对应于所述第一服务器,所述目标地址对应于第二服务器,所述第二服务器用于根据所述路由设备发送的所述服务调度请求,向所述第一服务器发送服务数据。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
获取服务更新请求,其中,所述服务更新请求中携带待更新服务类型标识;
根据所述服务更新请求中携带的所述待更新服务类型标识,确定所述目标服务调度策略;
根据所述目标服务调度策略,确定所述目标路由表;
根据所述待更新服务类型标识、待更新服务实例标识以及待更新目的地址对所述目标路由表进行更新,得到更新后的目标路由表,其中,所述待更新服务实例标识以及所述待更新目的地址携带于所述服务更新请求中,或,所述目标服务实例标识以及所述待更新目的地址为根据所述服务配置请求获取到的;
向所述路由设备发送所述更新后的目标路由表。
5.根据权利要求4所述的方法,其特征在于,所述服务更新请求还携带调度权重值;
所述根据所述服务更新请求中携带的所述待更新服务类型标识,确定所述目标服务调度策略,包括:
所述根据所述服务更新请求中携带的所述待更新服务类型标识,确定所述目标服务调度策略属于所述第一服务调度策略;
所述根据所述待更新服务类型标识、待更新服务实例标识以及待更新目的地址对所述目标路由表进行更新,得到更新后的目标路由表,包括:
根据所述调度权重值、所述待更新服务类型标识、待更新服务实例标识以及待更新目的地址对所述目标路由表进行更新,得到更新后的目标路由表,其中,所述待更新服务实例标识以及所述待更新目的地址携带于所述服务更新请求中。
6.根据权利要求4所述的方法,其特征在于,所述服务更新请求还携带调度角色标识,所述调度角色标识包括主服务标识或备服务标识;
所述根据所述服务更新请求中携带的所述待更新服务类型标识,确定所述目标服务调度策略,包括:
所述根据所述服务更新请求中携带的所述待更新服务类型标识,确定所述目标服务调度策略属于所述第二服务调度策略;
所述根据所述待更新服务类型标识、待更新服务实例标识以及待更新目的地址对所述目标路由表进行更新,得到更新后的目标路由表,包括:
根据所述调度角色标识、所述待更新服务类型标识、待更新服务实例标识以及待更新目的地址对所述目标路由表进行更新,得到更新后的目标路由表,其中,所述待更新服务实例标识以及所述待更新目的地址携带于所述服务更新请求中。
7.根据权利要求4所述的方法,其特征在于,所述根据所述服务更新请求中携带的所述待更新服务类型标识,确定所述目标服务调度策略,包括:
所述根据所述服务更新请求中携带的所述待更新服务类型标识,确定所述目标服务调度策略属于所述第三服务调度策略;
所述根据所述待更新服务类型标识、待更新服务实例标识以及待更新目的地址对所述目标路由表进行更新,得到更新后的目标路由表,包括:
根据待更新目的地址获得目的地址空间段,其中,所述目的地址空间段为根据目标哈希值确定的,所述目标哈希值为根据所述待更新目的地址生成的,其中所述待更新目的地址携带于所述服务更新请求中;
根据所述目标哈希值、所述待更新服务类型标识、所述待更新目的地址以及待更新服务实例标识对所述目标路由表进行更新,其中,所述待更新服务实例标识携带于所述服务更新请求中;
向所述第二服务器发送所述目的地址空间段,以使所述第二服务器根据所述目的地址空间段获取所述服务数据;
接收所述第二服务器发送的服务状态信息;
根据所述服务状态信息,对所述目标路由表进行更新,得到更新后的目标路由表。
8.根据权利要求4所述的方法,其特征在于,所述根据所述服务更新请求中携带的所述待更新服务类型标识,确定所述目标服务调度策略,包括:
所述根据所述服务更新请求中携带的所述待更新服务类型标识,确定所述目标服务调度策略属于所述第四服务调度策略;
所述根据所述待更新服务类型标识、待更新服务实例标识以及待更新目的地址对所述目标路由表进行更新,得到更新后的目标路由表之前,所述方法还包括:
向标识管理服务器发送标识分配请求,其中,所述标识分配请求中携带所述待更新服务类型标识;
接收所述标识管理服务器发送的标识分配响应,其中,所述标识分配响应中携带所述待更新服务实例标识;
根据所述待更新服务类型标识以及目标负载信息,从目标注册表中获取所述待更新目的地址,其中,所述目标负载信息为所述第二服务器上报的;
所述根据所述待更新服务类型标识、待更新服务实例标识以及待更新目的地址对所述目标路由表进行更新,得到更新后的目标路由表,包括:
根据所述待更新目的地址,向所述第二服务器发送实例创建请求,以使所述第二服务器根据所述实例创建请求创建服务实例,其中,所述实例创建请求携带所述待更新服务类型标识以及待更新服务实例标识;
接收所述第二服务器发送的实例创建响应,其中,所述实例创建响应携带服务状态信息;
根据所述服务状态信息,对所述目标路由表进行更新,得到更新后的目标路由表。
9.根据权利要求8所述的方法,其特征在于,所述目标注册表包括服务类型标识、服务器地址以及负载信息之间的对应关系,其中,所述服务类型标识包括所述待更新服务类型标识,所述服务器地址包括所述待更新目的地址,所述负载信息包括所述目标负载信息。
10.一种服务处理装置,其特征在于,应用于服务处理系统中的路由设备,所述服务处理系统还包括调度服务器与分布式服务架构;所述分布式服务架构用于对服务进行注册以及保活,并存储有服务提供方创建的目录节点;所述调度服务器包括服务注册表与服务路由表;所述调度服务器用于通过获取所述分布式服务架构上创建的目录节点确定所述服务提供方的加入,并向所述服务提供方提供服务调度策略的配置,为所述服务提供方创建相应的调度器实例;所述调度器实例为所述服务提供方对应的管理容器,所述调度器实例用于更新所述服务注册表以及所述服务路由表,并将更新后的服务路由表同步到所述路由设备上;所述装置包括:
确定模块,用于当接收到第一服务器发送的服务调度请求时,根据所述服务调度请求中所携带的目标服务类型标识确定目标服务调度策略,其中,所述服务调度请求中携带所述目标服务类型标识、目标服务实例标识以及源地址,所述源地址对应于所述第一服务器,所述目标服务调度策略为加权轮询策略、主从备份策略、一致性哈希策略或者最低负载策略,不同的目标服务调度策略对应不同的目标路由表;
获取模块,用于根据所述确定模块确定的所述目标服务调度策略获取目标路由表,其中,所述目标路由表包括服务实例标识与服务器地址之间的关联关系,所述目标路由表为调度服务器建立的;
所述确定模块,还用于根据所述服务调度请求中所携带的所述目标服务实例标识,从所述获取模块获取的所述目标路由表中确定目的地址,其中,所述目的地址属于所述服务器地址,且所述目的地址对应于第二服务器;
发送模块,用于根据所述确定模块确定的所述目的地址,向所述第二服务器发送所述服务调度请求,以使所述第二服务器根据所述源地址向所述第一服务器发送服务数据;
所述调度服务器还用于获取待分类服务,其中,所述待分类服务对应于服务类型标识;若所述待分类服务为无状态服务,则确定所述待分类服务属于所述加权轮询策略;若所述待分类服务为有状态服务,且所述待分类服务为数据不可拆分服务,则确定所述待分类服务属于所述主从备份策略;若所述待分类服务为有状态服务,且所述待分类服务为数据可拆分服务,且所述待分类服务为实例承载无差异服务,则确定所述待分类服务属于所述一致性哈希策略;若所述待分类服务为有状态服务,且所述待分类服务为数据可拆分服务,且所述待分类服务为实例承载有差异服务,则确定所述待分类服务属于所述最低负载策略;不同的目标服务调度策略对应不同的目标路由表;
相应的,所述根据所述服务调度请求中所携带的目标服务类型标识确定目标服务调度策略,包括:根据所述服务调度请求中所携带的目标服务类型标识,确定目标服务调度策略为所述加权轮询策略、所述主从备份策略、所述一致性哈希策略或者所述最低负载策略。
11.一种服务配置装置,其特征在于,应用于服务处理系统中的调度服务器,所述服务处理系统还包括分布式服务架构与路由设备;所述分布式服务架构用于对服务进行注册以及保活,并存储有服务提供方创建的目录节点;所述调度服务器包括服务注册表与服务路由表;所述调度服务器用于通过获取所述分布式服务架构上创建的目录节点确定所述服务提供方的加入,并向所述服务提供方提供服务调度策略的配置,为所述服务提供方创建相应的调度器实例;所述调度器实例为所述服务提供方对应的管理容器,所述调度器实例用于更新所述服务注册表以及所述服务路由表,并将更新后的服务路由表同步到所述路由设备上;所述装置包括:
获取模块,用于获取所述分布式服务架构发送的服务配置请求,其中,所述服务配置请求中携带目标服务类型标识以及目的地址;
确定模块,用于获取待分类服务,其中,所述待分类服务对应于服务类型标识;若所述待分类服务为无状态服务,则确定所述待分类服务属于第一服务调度策略;若所述待分类服务为有状态服务,且所述待分类服务为数据不可拆分服务,则确定所述待分类服务属于第二服务调度策略;若所述待分类服务为有状态服务,且所述待分类服务为数据可拆分服务,且所述待分类服务为实例承载无差异服务,则确定所述待分类服务属于第三服务调度策略;若所述待分类服务为有状态服务,且所述待分类服务为数据可拆分服务,且所述待分类服务为实例承载有差异服务,则确定所述待分类服务属于第四服务调度策略;根据所述服务配置请求中携带的所述目标服务类型标识,确定目标服务调度策略为所述第一服务调度策略、所述第二服务调度策略、所述第三服务调度策略或所述第四服务调度策略;不同的目标服务调度策略对应不同的目标路由表;
建立模块,用于根据所述确定模块确定的所述目标服务调度策略、所述目标服务类型、所述目的地址以及目标服务实例标识,建立目标路由表,其中,所述目标服务实例标识携带于所述服务配置请求中,或,所述目标服务实例标识为根据所述服务配置请求获取到的;
发送模块,用于向所述路由设备发送所述建立模块建立的所述目标路由表,其中,所述目标路由表用于所述路由设备根据第一服务器发送的服务调度请求确定所述目的地址,所述服务调度请求中携带所述目标服务类型、所述目标服务实例标识以及源地址,所述源地址对应于所述第一服务器,所述目标地址对应于第二服务器,所述第二服务器用于根据所述路由设备发送的所述服务调度请求,向所述第一服务器发送服务数据。
12.一种路由设备,其特征在于,包括:存储器、收发器、处理器以及总线系统;
其中,所述存储器用于存储程序;
所述处理器用于执行所述存储器中的程序,包括如上述权利要求1或2所述的方法;
所述总线系统用于连接所述存储器以及所述处理器,以使所述存储器以及所述处理器进行通信。
13.一种调度服务器,其特征在于,包括:存储器、收发器、处理器以及总线系统;
其中,所述存储器用于存储程序;
所述处理器用于执行所述存储器中的程序,包括如上述权利要求3至9中任一项所述的方法;
所述总线系统用于连接所述存储器以及所述处理器,以使所述存储器以及所述处理器进行通信。
14.一种计算机可读存储介质,包括指令,当其在计算机上运行时,使得计算机执行如权利要求1至2中任一项所述的方法,或,执行如权利要求3至9中任一项所述的方法。
CN201911176708.1A 2019-11-26 2019-11-26 一种服务处理的方法、服务配置的方法以及相关装置 Active CN112953982B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911176708.1A CN112953982B (zh) 2019-11-26 2019-11-26 一种服务处理的方法、服务配置的方法以及相关装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911176708.1A CN112953982B (zh) 2019-11-26 2019-11-26 一种服务处理的方法、服务配置的方法以及相关装置

Publications (2)

Publication Number Publication Date
CN112953982A CN112953982A (zh) 2021-06-11
CN112953982B true CN112953982B (zh) 2022-08-30

Family

ID=76225037

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911176708.1A Active CN112953982B (zh) 2019-11-26 2019-11-26 一种服务处理的方法、服务配置的方法以及相关装置

Country Status (1)

Country Link
CN (1) CN112953982B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114650251B (zh) * 2022-03-18 2024-02-20 北京百度网讯科技有限公司 路由表构建方法、装置、设备和介质
CN114900383B (zh) * 2022-03-28 2024-04-19 青岛海尔科技有限公司 接口处理方法、装置、电子设备及计算机可读存储介质
CN115086333A (zh) * 2022-04-25 2022-09-20 北京达佳互联信息技术有限公司 服务请求分配方法、装置及存储介质
CN114979285B (zh) * 2022-05-10 2024-02-27 百果园技术(新加坡)有限公司 服务调用方法、装置、设备、系统、存储介质及产品

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109308223A (zh) * 2018-09-17 2019-02-05 平安科技(深圳)有限公司 一种服务请求的响应方法及设备
CN110381162A (zh) * 2019-07-29 2019-10-25 腾讯科技(深圳)有限公司 一种业务处理的方法以及相关装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9348648B2 (en) * 2012-09-12 2016-05-24 Salesforce.Com, Inc. Providing a routing framework for facilitating dynamic workload scheduling and routing of message queues for fair management of resources for application servers in an on-demand services environment
CN104852934A (zh) * 2014-02-13 2015-08-19 阿里巴巴集团控股有限公司 基于前端调度实现流量分配的方法、装置和系统
US10447608B2 (en) * 2014-11-14 2019-10-15 Marvell Semiconductor, Inc. Packet scheduling using hierarchical scheduling process with priority propagation
CN107819687A (zh) * 2017-11-15 2018-03-20 小草数语(北京)科技有限公司 固定路由方法、装置及其设备
CN108134828A (zh) * 2017-12-20 2018-06-08 金蝶软件(中国)有限公司 服务请求的路由方法、装置、计算机设备和存储介质
CN110336865A (zh) * 2019-06-21 2019-10-15 北京大米科技有限公司 服务调用方法、装置、存储介质和电子设备

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109308223A (zh) * 2018-09-17 2019-02-05 平安科技(深圳)有限公司 一种服务请求的响应方法及设备
CN110381162A (zh) * 2019-07-29 2019-10-25 腾讯科技(深圳)有限公司 一种业务处理的方法以及相关装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Towards transparent and distributed workload management for large scale web server;hengzhi Zhang等;《Future Generation Computer Systems》;20131231;第29卷(第4期);全文 *
一种基于服务类型的Web集群负载均衡算法;刘松等;《武汉理工大学学报》;20091015(第19期);全文 *

Also Published As

Publication number Publication date
CN112953982A (zh) 2021-06-11

Similar Documents

Publication Publication Date Title
CN112953982B (zh) 一种服务处理的方法、服务配置的方法以及相关装置
US11882017B2 (en) Automated route propagation among networks attached to scalable virtual traffic hubs
US11831600B2 (en) Domain name system operations implemented using scalable virtual traffic hub
US11057461B2 (en) Scalable peer matching
US9723110B2 (en) System and method for supporting a proxy model for across-domain messaging in a transactional middleware machine environment
US10270849B2 (en) Scalable peer matching
WO2019210580A1 (zh) 访问请求处理方法、装置、计算机设备和存储介质
CN106713378B (zh) 实现多个应用服务器提供服务的方法和系统
EP2795849A1 (en) Method and apparatus for messaging in the cloud
WO2023124309A1 (zh) 一种云原生upf信令面负载均衡选择方法及系统
US20120159021A1 (en) Storage topology manager
US10237148B2 (en) Providing a data set for tracking and diagnosing datacenter issues
US20110153826A1 (en) Fault tolerant and scalable load distribution of resources
US10498617B1 (en) System, method, and computer program for highly available and scalable application monitoring
CN108650337B (zh) 一种服务器探测方法、系统及存储介质
CN113301079B (zh) 一种数据的获取方法、系统、计算设备及存储介质
CN107180034A (zh) MySQL数据库的集群系统
CN112583655A (zh) 数据传输方法、装置、电子设备及可读存储介质
US11595471B1 (en) Method and system for electing a master in a cloud based distributed system using a serverless framework
CN111010444A (zh) 一种实现Wowza流媒体引擎分布式集群的系统及方法
CN114615320A (zh) 服务治理方法、装置、电子设备及计算机可读存储介质
CN115242791A (zh) 服务平台的访问方法、装置、设备及存储介质
CN115134424B (zh) 负载均衡方法、装置、计算机设备、存储介质和程序产品
CN111835805B (zh) 一种dpvs多租户的配置方法及系统
CN116599829A (zh) 流量切换方法、装置、计算机设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40046802

Country of ref document: HK

GR01 Patent grant
GR01 Patent grant