CN113094182A - 一种服务的负载均衡处理方法、装置及云端服务器 - Google Patents
一种服务的负载均衡处理方法、装置及云端服务器 Download PDFInfo
- Publication number
- CN113094182A CN113094182A CN202110540685.9A CN202110540685A CN113094182A CN 113094182 A CN113094182 A CN 113094182A CN 202110540685 A CN202110540685 A CN 202110540685A CN 113094182 A CN113094182 A CN 113094182A
- Authority
- CN
- China
- Prior art keywords
- service
- information
- edge
- service identifier
- access request
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 10
- 238000013507 mapping Methods 0.000 claims abstract description 63
- 238000012545 processing Methods 0.000 claims abstract description 40
- 238000000034 method Methods 0.000 claims abstract description 31
- 238000010586 diagram Methods 0.000 description 5
- 101000904787 Homo sapiens Serine/threonine-protein kinase ATR Proteins 0.000 description 2
- 101100355601 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) RAD53 gene Proteins 0.000 description 2
- 102100023921 Serine/threonine-protein kinase ATR Human genes 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005538 encapsulation Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer And Data Communications (AREA)
Abstract
本申请公开了一种服务的负载均衡处理方法、装置及云端服务器,方法包括:在服务标识对应的端点自定义对象中,获得服务标识对应的服务实例所在边缘集群的负载均衡器的信息;根据服务标识对应的服务实例所在边缘集群的负载均衡器的信息,获得服务标识与服务标识对应的服务实例所在边缘集群的负载均衡器之间的映射关系信息;根据映射关系信息,获得服务标识对应的第一负载均衡规则,第一负载均衡规则至少用于针对服务访问请求进行负载均衡处理,以使得服务访问请求被传输给多个边缘集群中与服务访问请求相对应的目标边缘集群,由目标边缘集群中的负载均衡器确定目标边缘计算设备,并由目标边缘计算设备针对服务访问请求执行服务标识对应的服务实例。
Description
技术领域
本申请涉及边缘计算技术领域,尤其涉及一种服务的负载均衡处理访问控制方法、装置及云端服务器。
背景技术
在边缘计算环境中,每个边缘集群都有自己的服务管理机制。当跨边缘集群访问云端服务器所创建的服务时,每个边缘集群之间是不连通的,这就导致跨边缘集群的服务之间无法访问以及服务实例无法跨边缘集群运行的情况。也就是说一个服务关联的所有服务实例都必须在同一个边缘集群中。
为了实现跨边缘集群的全局负载均衡以及跨边缘服务之间可以互相访问,目前可以在云端控制面运行一个全局服务注册库,每个边缘集群将自己的服务以及关联的服务实例注册到全局服务注册库中,这样不同边缘集群的服务就可以互相发现并访问。
但是,这种实现方案中,每次访问边缘集群,都需要去云端的全局服务注册库中查询,会使得访问效率极低。
发明内容
有鉴于此,本申请提供一种服务的负载均衡处理方法、装置及云端服务器,如下:
一种服务的负载均衡处理方法,应用于云端服务器,所述方法包括:
在服务标识对应的端点自定义对象中,获得所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息;
其中,所述端点自定义对象中的信息由所述云端服务器从所述服务标识对应的pod自定义对象中获得并写入所述端点自定义对象中,所述服务标识对应的pod自定义对象中的信息根据所述服务标识对应的服务实例的实例信息创建,所述实例信息与所述服务实例所在边缘集群的负载均衡器相关;
根据所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息,获得所述服务标识与所述服务标识对应的服务实例所在边缘集群的负载均衡器之间的映射关系信息;
根据所述映射关系信息,获得所述服务标识对应的第一负载均衡规则,所述第一负载均衡规则至少用于针对服务访问请求进行负载均衡处理,以使得所述服务访问请求被传输给多个边缘集群中与所述服务访问请求相对应的目标边缘集群,由所述目标边缘集群中的负载均衡器确定目标边缘计算设备,并由所述目标边缘计算设备针对所述服务访问请求执行所述服务标识对应的服务实例。
上述方法,优选的,所述第一负载均衡规则具体用于针对所述云端服务器所接收到的第一访问请求进行负载均衡处理,以使得所述第一访问请求被传输给多个边缘集群中与所述第一访问请求相对应的目标边缘集群,由所述目标边缘集群中的负载均衡器确定目标边缘计算设备,并由所述目标边缘计算设备针对所述第一访问请求执行所述服务标识对应的服务实例。
上述方法,优选的,所述pod自定义对象对应有pod对象,所述pod对象在所述云端服务器接收到所述服务标识对应的服务实例创建请求的情况下创建,且所述pod对象被配置为对应于所述多个边缘集群中的边缘集群;
其中,所述服务标识对应的服务实例的实例信息由所述服务实例所在的边缘集群的负载均衡器为所述服务实例配置,以使得所述云端服务器在接收到所述服务实例所在的边缘集群的负载均衡器返回的所述服务实例的实例信息后创建所述pod对象对应的pod自定义对象,并将所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息写入到所述pod自定义对象中。
上述方法,优选的,所述方法还包括:
在所述云端服务器上接收到所述服务标识对应的服务创建请求的情况下,创建所述服务标识对应的服务对象,所述服务对象中的目标参数为空,以使得所述云端服务器在创建所述服务实例对应的pod自定义对象之后,根据所述pod自定义对象中的所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息,创建所述服务标识对应的端点自定义对象。
上述方法,优选的,所述第一负载均衡规则还用于根据所述多个边缘集群中的边缘集群的负载均衡参数,获得针对所述多个边缘集群中的边缘集群的第二负载均衡规则;
其中,所述方法还包括:
将所述第二负载均衡规则发送给所述多个边缘集群中的任一边缘集群,所述第二负载均衡规则用于所述多个边缘集群中接收到第二访问请求的第一边缘集群的负载均衡器进行负载均衡处理,以使得所述第二访问请求被传输给接收到第二访问请求的第一边缘集群的目标边缘计算设备或者所述第二访问请求被传输给第二边缘集群的目标边缘计算设备,由所述目标边缘计算设备执行所述服务标识对应的服务实例。
上述方法,优选的,所述负载均衡参数至少包含所述边缘集群的负载均衡接口参数。
上述方法,优选的,所述服务标识与所述服务标识对应的服务实例所在边缘集群的负载均衡器之间的映射关系信息,包括:服务域名信息与所述负载均衡器的网络地址之间的映射关系信息。
上述方法,优选的,所述方法还包括:
将所述映射关系信息传输给所述多个边缘集群中的任一边缘集群,以使得所述目标边缘集群在接收到所述第一访问请求的情况下根据所述映射关系信息将所述第一访问请求传输给所述目标边缘集群中的负载均衡器,由所述目标边缘集群中的负载均衡器确定目标边缘计算设备,并由所述目标边缘计算设备针对所述第一访问请求执行所述服务标识对应的服务实例服务标识对应的负载均衡器。
一种服务的负载均衡处理装置,应用于云端服务器,所述装置包括:
均衡信息获取单元,用于在服务标识对应的端点自定义对象中,获得所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息;
其中,所述端点自定义对象中的信息由所述云端服务器从所述服务标识对应的pod自定义对象中获得并写入所述端点自定义对象中,所述服务标识对应的pod自定义对象中的信息根据所述服务标识对应的服务实例的实例信息创建,所述实例信息与所述服务实例所在边缘集群的负载均衡器相关;
映射信息获取单元,用于根据所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息,获得所述服务标识与所述服务标识对应的服务实例所在边缘集群的负载均衡器之间的映射关系信息;
均衡规则获取单元,用于根据所述映射关系信息,获得所述服务标识对应的第一负载均衡规则,所述第一负载均衡规则至少用于针对服务访问请求进行负载均衡处理,以使得所述服务访问请求被传输给多个边缘集群中与所述服务访问请求相对应的目标边缘集群,由所述目标边缘集群中的负载均衡器确定目标边缘计算设备,并由所述目标边缘计算设备针对所述服务访问请求执行所述服务标识对应的服务实例。
一种云端服务器,包括:
存储器,用于存储应用程序和所述应用程序运行所产生的数据;
处理器,用于执行所述应用程序,以实现:在服务标识对应的端点自定义对象中,获得所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息;其中,所述端点自定义对象中的信息由所述云端服务器从所述服务标识对应的pod自定义对象中获得并写入所述端点自定义对象中,所述服务标识对应的pod自定义对象中的信息根据所述服务标识对应的服务实例的实例信息创建,所述实例信息与所述服务实例所在边缘集群的负载均衡器相关;根据所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息,获得所述服务标识与所述服务标识对应的服务实例所在边缘集群的负载均衡器之间的映射关系信息;根据所述映射关系信息,获得所述服务标识对应的第一负载均衡规则,所述第一负载均衡规则至少用于针对服务访问请求进行负载均衡处理,以使得所述服务访问请求被传输给多个边缘集群中与所述服务访问请求相对应的目标边缘集群,由所述目标边缘集群中的负载均衡器确定目标边缘计算设备,并由所述目标边缘计算设备针对所述服务访问请求执行所述服务标识对应的服务实例。
从上述技术方案可以看出,本申请公开的一种服务的负载均衡处理方法、装置及云端服务器中,通过在云端服务器上利用各个服务标识对应的服务实例在边缘集群中的负载均衡器的信息来获得到服务标识与相应服务实例所在边缘集群的负载均衡器之间的映射关系信息,进而基于这一映射关系信息来获得服务标识所对应的负载均衡规则,由此,这些负载均衡规则能够用于对各类服务访问请求进行负载均衡处理,使得服务访问请求能够被传输给多个边缘集群中与服务访问请求相对应的目标边缘集群,由目标边缘集群中的负载均衡器确定目标边缘计算设备,再由目标边缘计算设备针对服务访问请求执行服务标识对应的服务实例。可见,本申请中不再限制同一服务标识对应的服务实例必须建立在同一个边缘集群中也无需在云端运行全面服务注册库,而是通过针对服务标识建立负载均衡规则,来实现服务实例的跨边缘集群的负载均衡。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例一提供的一种服务的负载均衡处理方法的流程图;
图2为本申请实施例二提供的一种服务的负载均衡处理装置的结构示意图;
图3为本申请实施例三提供的一种云端服务器的结构示意图;
图4为本申请实施例中云端服务器的逻辑架构图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
参考图1所示,为本申请实施例一提供的一种服务的负载均衡处理方法的实现流程图,该方法可以适用于能够进行数据处理的云端服务器中。本实施例中的技术方案主要用于实现服务实例的跨边缘集群的负载均衡处理。
具体的,本实施例中的方法可以包含如下步骤:
步骤101:在服务标识对应的端点自定义对象中,获得服务标识对应的服务实例所在边缘集群的负载均衡器的信息。
其中,端点自定义对象中的信息由云端服务器从服务标识对应的pod自定义对象中获得并写入端点自定义对象中,服务标识对应的pod自定义对象根据服务标识对应的服务实例的实例信息创建,实例信息与服务实例所在边缘集群的负载均衡器相关。
需要说明的是,服务标识对应的端点自定义对象以及pod自定义对象均为云端服务器响应于服务标识对应的服务以及服务实例的创建请求相应所创建的对象。一个服务标识对应于一个端点自定义对象,该端点自定义对象对应于该服务标识对应的所有服务实例,一个服务标识对应于多个pod自定义对象,每个pod自定义对象分别对应于该服务标识对应的一个服务实例。具体的,服务标识对应的端点自定义对象中包含有服务标识对应的各个服务实例所在边缘集群的负载均衡器的信息,而服务标识对应的一个pod自定义对象是根据该pod自定义对象对应的服务实例的实例信息所创建,其中仅包含有该服务实例所在边缘集群的负载均衡器的信息。
具体的,服务实例的实例信息包含服务实例所在边缘集群对应的负载均衡器为服务实例配置的对外提供服务的网络地址和/或网络端口,如IP和端口等。
步骤102:根据服务标识对应的服务实例所在边缘集群的负载均衡器的信息,获得服务标识与服务标识对应的服务实例所在边缘集群的负载均衡器之间的映射关系信息。
其中,服务标识对应的服务实例所在边缘集群的负载均衡器的信息可以理解为负载均衡器这一设备的信息,如负载均衡器LB(load balance)的类型、LB的api端点、LB的api接口等等。
具体的,本实施例中可以在从端点自定义对象中得到服务标识所对应的各个服务实例所对应负载均衡器的信息之后,将服务标识所对应的各个负载均衡器的信息与服务标识的服务域名之间组成映射关系,由此得到服务标识与相应各个负载均衡器之间的映射关系信息。
例如,将服务标识对应的域名与各个LB的IP组成映射,形成服务标识与LB之间的映射关系信息。该映射关系信息可以以一个服务标识对应的域名对应于多个LB的IP的对应关系的形式存在,或者,该映射关系信息可以多个对应关系的形式存在,这其中的每个对应关系为服务标识对应的域名与一个LB的IP之间的对应关系。
步骤103:根据映射关系信息,获得服务标识对应的第一负载均衡规则。
其中,第一负载均衡规则至少用于针对服务访问请求进行负载均衡处理,以使得服务访问请求被传输给多个边缘集群中与服务访问请求相对应的目标边缘集群,由目标边缘集群中的负载均衡器确定目标边缘计算设备,并由目标边缘计算设备针对服务访问请求执行服务标识对应的服务实例。
需要说明的是,这里的服务访问请求可以为云端服务器所接收到的第一访问请求,也可以称为南北向的访问请求,或者,这里的服务访问请求可以为边缘集群所接收到的第二访问请求,也可以称为东西向的访问请求。
基于此,本实施例中根据映射关系信息所生成的第一负载均衡规则能够对多种不同类型的访问请求进行负载均衡处理,使得服务访问请求被相应的目标边缘集群所接收,进而由目标边缘集群中的负载均衡器根据服务访问请求所确定的目标边缘计算设备针对服务访问请求执行服务标识对应的服务实例,实现服务实例的垮边缘集群的负载均衡处理。
具体的,本实施例中可以对映射关系信息中服务标识与相应各个服务实例所对应的负载均衡器之间的对应关系来生成服务标识所对应的第一负载均衡规则,该第一负载均衡规则中记录有相应服务标识所对应的各个服务实例所被创建的边缘集群以及边缘集群被创建的边缘计算设备,由此,该第一负载均衡规则能够针对服务访问请求进行负载均衡处理。
由上述方案可知,本申请实施例一提供的一种服务的负载均衡处理方法中,通过在云端服务器上利用各个服务标识对应的服务实例在边缘集群中的负载均衡器的信息来获得到服务标识与相应服务实例所在边缘集群的负载均衡器之间的映射关系信息,进而基于这一映射关系信息来获得服务标识所对应的负载均衡规则,由此,这些负载均衡规则能够用于对各类服务访问请求进行负载均衡处理,使得服务访问请求能够被传输给多个边缘集群中与服务访问请求相对应的目标边缘集群,由目标边缘集群中的负载均衡器确定目标边缘计算设备,再由目标边缘计算设备针对服务访问请求执行服务标识对应的服务实例。可见,本实施例中不再限制同一服务标识对应的服务实例必须建立在同一个边缘集群中也无需在云端运行全面服务注册库,而是通过针对服务标识建立负载均衡规则,来实现服务实例的跨边缘集群的负载均衡。
在具体实现中,pod自定义对象对应有pod对象,pod对象在云端服务器接收到服务标识对应的服务实例创建请求的情况下创建,且pod对象被配置为对应于多个边缘集群中的边缘集群;
其中,服务标识对应的服务实例的实例信息由服务实例所在的边缘集群的负载均衡器为服务实例配置,以使得云端服务器在接收到服务实例所在的边缘集群的负载均衡器返回的服务实例的实例信息后,创建pod对象对应的pod自定义对象,并将服务实例的实例信息写入到pod自定义对象中。
具体的,服务标识对应的pod对象是在服务标识对应的服务实例需要被创建时云端服务器针对服务标识所创建的若干pod对象,pod对象被配置为对应于多个边缘集群中的边缘集群,且每个pod对象被配置为与需要被创建的服务实例所在的边缘集群一一对应。基于此,服务标识对应的pod对象在被创建之后,云端服务器为pod对象确定负载满足均衡条件的边缘集群,如负载较小的边缘集群等,之后,云端服务器请求相应边缘集群创建该pod对象对应的服务实例。进一步的,云端服务器在请求边缘集群创建pod对象对应的服务实例之后,云端服务器为服务实例向服务实例所在的边缘集群上的负载均衡器申请服务实例的实例信息,如服务实例对外提供服务的网络地址和/或网络端口等,基于此,云端服务器在接收到边缘集群的负载均衡器创建服务实例时为服务实例配置的实例信息之后,根据服务实例的实例信息如服务实例对外提供服务的IP和网络端口等为每个pod对象创建pod自定义对象,同时,在每个pod自定义对象中记录服务标识对应的服务实例所在边缘集群的负载均衡器的信息。
需要说明的是,云端服务器中服务标识对应的服务实例所在边缘集群的负载均衡器的信息可以在云端服务器上为每个边缘集群创建虚拟节点时从边缘集群的负载均衡器中获得。例如,云端服务器为每个异构的边缘集群均创建一个虚拟节点,或者称为虚拟节点对象,并提取各个边缘集群的LB的信息,其中包含有LB的类型和LB的api接口等信息。
进一步的,在云端服务器上接收到服务标识对应的服务创建请求的情况下,云端服务器上首先创建服务标识对应的服务对象,该服务对象中的目标参数为空,由此云端服务器不会自动创建端点对象,以使得云端服务器在创建服务实例对应的pod自定义对象之后,根据pod自定义对象中的服务标识对应的服务实例所在边缘集群的负载均衡器的信息创建服务标识对应的端点自定义对象,在端点自定义对象中可以写入pod自定义对象中的服务标识对应的服务实例所在边缘集群的负载均衡器的信息。
例如,云端服务器创建服务标识对应的kubernetes headless Service对象,该对象为没有label selector的对象,以使得云端服务器不会自动创建同一服务标识的Endpoints对象,而是在云端服务器创建pod自定义对象之后,根据pod名称查找相应服务标识对应的pod自定义对象,并在其中获得相应服务实例所在边缘集群的负载均衡器的信息,进而将这些信息写入到创建的端点自定义对象,如Endpoints CRD(CustomResourceDefinition)对象,该端点自定义对象与具有同一名称如服务标识的服务相关联,且在端点自定义对象中记录有这个服务的所有服务实例即服务标识对应的所有服务实例在各个边缘集群中的部署状态。
在一种实现方式中,第一负载均衡规则具体用于针对云端服务器所接收到的第一访问请求进行负载均衡处理,以使得第一访问请求被传输给多个边缘集群中与第一访问请求相对应的目标边缘集群,由目标边缘集群中的负载均衡器确定目标边缘计算设备,并由目标边缘计算设备针对第一访问请求执行服务标识对应的服务实例。
具体的,第一访问请求即为南北向的访问请求,在云端服务器接收到第一访问请求之后,通过对第一访问请求中与服务标识相关的请求参数进行解析或识别,可以确定该第一访问请求对应的第一负载均衡规则,即该第一访问请求对应的服务标识所对应的第一负载均衡规则,基于此,云端服务器可以根据该第一访问请求对应的第一负载均衡规则进行负载均衡处理,进而在云端服务器所涉及的多个边缘集群中确定第一访问请求所需要执行的服务实例所在的目标边缘集群,由此,由目标边缘集群中的负载均衡器确定第一访问请求对应的目标边缘计算设备,该目标边缘计算设备就可以针对第一访问请求执行服务标识对应的服务实例,从而实现对外提供服务,实现服务实例的跨集群的负载均衡。
在另一种实现方式中,第一负载均衡规则还用于根据多个边缘集群中的边缘集群的负载均衡参数,获得针对多个边缘集群中的边缘集群的第二负载均衡规则。其中,负载均衡参数至少包含边缘集群的负载均衡接口参数。
具体的,由于边缘集群的负载均衡器的接口类型不同,如api接口的封装方式不同、接口要求传入的参数的种类或个数不同、接口轮训和加权的方式不同等等,本实施例中针对不同的边缘集群的不同的接口类型,根据第一负载均衡规则为不同的边缘集群生成相应的第二负载均衡规则。
基于此,本实施例中云端服务器在获得针对每个边缘集群的第二负载均衡规则之后,将第二负载均衡规则发送给多个边缘集群中的任一边缘集群,即将各个对应于不同负载均衡接口参数的第二负载均衡规则分别发送给相应负载均衡接口参数的边缘集群。由此,第二负载均衡规则能够用于多个边缘集群中接收到第二访问请求的第一边缘集群的负载均衡器进行负载均衡处理,以使得第二访问请求被传输给接收到第二访问请求的第一边缘集群的目标边缘计算设备或者所述第二访问请求被传输给第二边缘集群的目标边缘计算设备,由目标边缘计算设备执行服务标识对应的服务实例。
具体的,第二访问请求即为东西向的访问请求,在云端服务器涉及的多个边缘集群中,有目标边缘集群接收到第二访问请求之后,该接收到第二访问请求的第一边缘集群的负载均衡器就可以根据云端服务器所下发的针对自己的第二负载均衡规则进行负载均衡处理,由此,接收到第二访问请求的第一边缘集群的负载均衡器就可以根据第二负载均衡规则为第二访问请求确定目标边缘计算设备,该目标边缘计算设备可以为第一边缘集群中的本地边缘计算设备,或者,该边缘计算设备为云端服务器涉及的多个边缘集群中区别于第一边缘集群的第二边缘集群中的边缘计算设备,基于此,有以下两种情况:
在一种情况下,在接收到第二访问请求的第一边缘集群的负载均衡器将第二访问请求传输给第一边缘集群中的本地边缘计算设备之后,第一边缘集群中的目标边缘计算设备就可以执行服务标识对应的服务实例,从而实现对外提供服务,实现服务实例的跨集群的负载均衡。
在另一种情况下,在接收到第二访问请求的第一边缘集群的负载均衡器将第二访问请求传输给第二边缘集群的负载均衡器之后,第二边缘集群中的负载均衡器确定其中的目标边缘计算设备,由此,第二边缘集群中的目标边缘计算设备就可以执行服务标识对应的服务实例,从而实现对外提供服务,实现服务实例的跨集群的负载均衡。
在一种实现方式中,服务标识与服务标识对应的服务实例所在边缘集群的负载均衡器之间的映射关系信息,具体可以包括:服务域名信息与负载均衡器的网络地址之间的映射关系信息。
基于此,本实施例中,云端服务器还可以在获得到映射关系信息之后,将映射关系信息传输给多个边缘集群中的任一边缘集群,以使得目标边缘集群在接收到第一访问请求的情况下根据映射关系信息将第一访问请求传输给目标边缘集群中的负载均衡器,由目标边缘集群中的负载均衡器确定目标边缘计算设备,并由目标边缘计算设备针对第一访问请求执行服务标识对应的服务实例服务标识对应的负载均衡器。
在一种情况下,在云端服务器将映射关系信息传输给每个边缘集群的基础上,在云端服务器接收到第一访问请求时,云端服务器根据第一负载均衡规则对第一访问请求进行负载均衡处理,以确定第一访问请求对应的目标边缘集群,同时根据映射关系信息进行域名和网络地址的解析,定位目标边缘集群中的负载均衡器,从而将第一访问请求传输给定位出的目标边缘集群中的负载均衡器,由此,由目标边缘集群中的负载均衡器确定目标边缘计算设备,并由目标边缘计算设备针对第一访问请求执行服务标识对应的服务实例服务标识对应的负载均衡器,实现服务实例的跨集群的负载均衡。
在另一种情况下,在云端服务器将映射关系信息传输给每个边缘集群且云端服务器为每个边缘集群发送符合相应边缘集群的负载均衡参数的第二负载均衡规则的基础上,在有第一边缘集群接收到第二访问请求之后,第一边缘集群根据映射关系信息进行域名和网络地址的解析,定位到第一边缘集群中的负载均衡器,从而将第二访问请求传输给第一边缘集群中的负载均衡器,基于此,第一边缘集群的负载均衡器根据自己的第二负载均衡规则确定执行服务实例的目标边缘计算设备。在一种可能的情况下,第一边缘集群的负载均衡器根据自己的第二负载均衡规则确定执行服务实例的目标边缘计算设备为第一边缘集群中的目标边缘计算设备,此时,第一边缘集群的负载均衡器将第二访问请求传输给第一边缘集群中的目标边缘计算设备,第一边缘集群中的目标边缘计算设备就可以执行服务标识对应的服务实例,从而实现对外提供服务,实现服务实例的跨集群的负载均衡;在另一种可能的情况下,第一边缘集群的负载均衡器根据自己的第二负载均衡规则确定执行服务实例的目标边缘计算设备为第二边缘集群中的目标边缘计算设备,此时,第一边缘集群的负载均衡器根据映射关系信息进行域名和网络地址的解析,定位到第二边缘集群中的负载均衡器,并将第二访问请求传输给第二边缘集群的负载均衡器,第二边缘集群中的负载均衡器确定其中的目标边缘计算设备,由此,第二边缘集群中的目标边缘计算设备就可以执行服务标识对应的服务实例,从而实现对外提供服务,实现服务实例的跨集群的负载均衡。
参考图2,为本申请实施例二提供的一种服务的负载均衡处理装置的结构示意图,该装置可以配置在能够进行数据处理的云端服务器中。本实施例中的技术方案主要用于实现服务实例的跨边缘集群的负载均衡处理。
具体的,本实施例中的装置可以包括如下单元:
均衡信息获取单元201,用于在服务标识对应的端点自定义对象中,获得所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息;
其中,所述端点自定义对象中的信息由所述云端服务器从所述服务标识对应的pod自定义对象中获得并写入所述端点自定义对象中,所述服务标识对应的pod自定义对象中的信息根据所述服务标识对应的服务实例的实例信息创建,所述实例信息与所述服务实例所在边缘集群的负载均衡器相关;
映射信息获取单元202,用于根据所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息,获得所述服务标识与所述服务标识对应的服务实例所在边缘集群的负载均衡器之间的映射关系信息;
均衡规则获取单元203,用于根据所述映射关系信息,获得所述服务标识对应的第一负载均衡规则,所述第一负载均衡规则至少用于针对服务访问请求进行负载均衡处理,以使得所述服务访问请求被传输给多个边缘集群中与所述服务访问请求相对应的目标边缘集群,由所述目标边缘集群中的负载均衡器确定目标边缘计算设备,并由所述目标边缘计算设备针对所述服务访问请求执行所述服务标识对应的服务实例。
由上述方案可知,本申请实施例二提供的一种服务的负载均衡处理装置中,通过在云端服务器上利用各个服务标识对应的服务实例在边缘集群中的负载均衡器的信息来获得到服务标识与相应服务实例所在边缘集群的负载均衡器之间的映射关系信息,进而基于这一映射关系信息来获得服务标识所对应的负载均衡规则,由此,这些负载均衡规则能够用于对各类服务访问请求进行负载均衡处理,使得服务访问请求能够被传输给多个边缘集群中与服务访问请求相对应的目标边缘集群,由目标边缘集群中的负载均衡器确定目标边缘计算设备,再由目标边缘计算设备针对服务访问请求执行服务标识对应的服务实例。可见,本实施例中不再限制同一服务标识对应的服务实例必须建立在同一个边缘集群中也无需在云端运行全面服务注册库,而是通过针对服务标识建立负载均衡规则,来实现服务实例的跨边缘集群的负载均衡。
在一种实现方式中,所述第一负载均衡规则具体用于针对所述云端服务器所接收到的第一访问请求进行负载均衡处理,以使得所述第一访问请求被传输给多个边缘集群中与所述第一访问请求相对应的目标边缘集群,由所述目标边缘集群中的负载均衡器确定目标边缘计算设备,并由所述目标边缘计算设备针对所述第一访问请求执行所述服务标识对应的服务实例。
在一种实现方式中,所述pod自定义对象对应有pod对象,所述pod对象在所述云端服务器接收到所述服务标识对应的服务实例创建请求的情况下创建,且所述pod对象被配置为对应于所述多个边缘集群中的边缘集群;
其中,所述服务标识对应的服务实例的实例信息由所述服务实例所在的边缘集群的负载均衡器为所述服务实例配置,以使得所述云端服务器在接收到所述服务实例所在的边缘集群的负载均衡器返回的所述服务实例的实例信息后创建所述pod对象对应的pod自定义对象,并将所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息写入到所述pod自定义对象中。
基于此,在所述云端服务器上接收到所述服务标识对应的服务创建请求的情况下,云端服务器还创建所述服务标识对应的服务对象,所述服务对象中的目标参数为空,以使得所述云端服务器在创建所述服务实例对应的pod自定义对象之后,根据所述pod自定义对象中的所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息,创建所述服务标识对应的端点自定义对象。
在一种实现方式中,所述第一负载均衡规则还用于根据所述多个边缘集群中的边缘集群的负载均衡参数,获得针对所述多个边缘集群中的边缘集群的第二负载均衡规则;
其中,云端服务器将所述第二负载均衡规则发送给所述多个边缘集群中的任一边缘集群,所述第二负载均衡规则用于所述多个边缘集群中接收到第二访问请求的第一边缘集群的负载均衡器进行负载均衡处理,以使得所述第二访问请求被传输给接收到第二访问请求的第一边缘集群的目标边缘计算设备或者所述第二访问请求被传输给第二边缘集群的目标边缘计算设备,由所述目标边缘计算设备执行所述服务标识对应的服务实例。
其中,所述负载均衡参数至少包含所述边缘集群的负载均衡接口参数。
在一种实现方式中,所述服务标识与所述服务标识对应的服务实例所在边缘集群的负载均衡器之间的映射关系信息,包括:服务域名信息与所述负载均衡器的网络地址之间的映射关系信息。
基于此,云端服务器将所述映射关系信息传输给所述多个边缘集群中的任一边缘集群,以使得所述目标边缘集群在接收到所述第一访问请求的情况下根据所述映射关系信息将所述第一访问请求传输给所述目标边缘集群中的负载均衡器,由所述目标边缘集群中的负载均衡器确定目标边缘计算设备,并由所述目标边缘计算设备针对所述第一访问请求执行所述服务标识对应的服务实例服务标识对应的负载均衡器。
需要说明的是,本实施例中各单元的具体实现可以参考前文中的相应内容,此处不再详述。
参考图3,为本申请实施例三提供的一种云端服务器的结构示意图,该云端服务器可以包括如下结构:
存储器301,用于存储应用程序和所述应用程序运行所产生的数据;
处理器302,用于执行所述应用程序,以实现:在服务标识对应的端点自定义对象中,获得所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息;其中,所述端点自定义对象中的信息由所述云端服务器从所述服务标识对应的pod自定义对象中获得并写入所述端点自定义对象中,所述服务标识对应的pod自定义对象中的信息根据所述服务标识对应的服务实例的实例信息创建,所述实例信息与所述服务实例所在边缘集群的负载均衡器相关;根据所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息,获得所述服务标识与所述服务标识对应的服务实例所在边缘集群的负载均衡器之间的映射关系信息;根据所述映射关系信息,获得所述服务标识对应的第一负载均衡规则,所述第一负载均衡规则至少用于针对服务访问请求进行负载均衡处理,以使得所述服务访问请求被传输给多个边缘集群中与所述服务访问请求相对应的目标边缘集群,由所述目标边缘集群中的负载均衡器确定目标边缘计算设备,并由所述目标边缘计算设备针对所述服务访问请求执行所述服务标识对应的服务实例。
由上述方案可知,本申请实施例三提供的一种云端服务器中,通过在云端服务器上利用各个服务标识对应的服务实例在边缘集群中的负载均衡器的信息来获得到服务标识与相应服务实例所在边缘集群的负载均衡器之间的映射关系信息,进而基于这一映射关系信息来获得服务标识所对应的负载均衡规则,由此,这些负载均衡规则能够用于对各类服务访问请求进行负载均衡处理,使得服务访问请求能够被传输给多个边缘集群中与服务访问请求相对应的目标边缘集群,由目标边缘集群中的负载均衡器确定目标边缘计算设备,再由目标边缘计算设备针对服务访问请求执行服务标识对应的服务实例。可见,本实施例中不再限制同一服务标识对应的服务实例必须建立在同一个边缘集群中也无需在云端运行全面服务注册库,而是通过针对服务标识建立负载均衡规则,来实现服务实例的跨边缘集群的负载均衡。
结合以上各个实施例,在云端服务器上配置如图4中所示的控制架构,以下对云端服务器的服务管理实现逻辑进行详细说明:
云端服务器上的服务管理架构可以基于kubernetes(简称为k8s)实现,其中可以根据所实现的逻辑功能分为以下模块:
apiserver(提供API服务)、scheduler(调度器)、controller-manager(控制器)、etcd(后端存储)、virtual-kubelet(虚拟kubelet)、virtual-kubeproxy(虚拟代理)、plugin(负责转换并下发负载均衡规则)、Out-Endpoints Controller(创建Endpoints CRD对象即前文中的端点自定义对象,定义边缘LB的端点)。
边缘集群以多接入边缘计算MEC(Multi-Acess Edge Computing)集群为例,当然也可以为其他机构的集群,如kubeedge等。MEC集群中可以有一台或几台专门的机器作为LB,负责一个边缘集群内部的负载均衡;有一台域名系统DNS(Domain Name System)负责将Service域名解析为LB的IP。图4中以两个边缘集群MEC1和MEC2为例,MEC1中包含有DNS、LB1和两个边缘计算设备VM(virtual machine)-1和VM-2,MEC2中包含有DNS、LB2和两个边缘计算设备VM-3和VM-4。
基于以上架构,云端服务器实现服务实例的跨集群负载均衡的主要流程如下:
(1)virtual-kubelet为异构边缘集群在云端创建一个虚拟节点,并且提取边缘集群的LB信息,包括:LB的类型、LB的api端点(也可以成为接口)等。其中,这里的LB可以为软件实现的LB或者页可以为硬件实现的LB。具体的,MEC有代理aigen节点,这些节点通过网络协议上报LB信息给云端服务器。
(2)根据边缘集群的LB的信息创建对应的Plugin对象。每个边缘集群均对应有一个Plugin对象。
(3)用户创建服务时,virtual-kubeproxy会创建一个kubernetes headlessService对象。Headless Service是一个没有定义label selector的Service,因为没有定义label selector,所以k8s不会自动创建同名的Endpoints对象。
(4)用户创建若干服务实例时,virtual-kubelet会在云端创建若干Pod对象(Pod和边缘集群的服务实例一一对应),k8s调度器会为各pod寻找合适的边缘集群。Virtual-kubelet请求边缘集群创建服务实例,Virtual-kubelet同时向边缘集群的LB申请服务实例对外提供服务的IP和端口。
(5)virtual-kubelet根据边缘集群创建服务实例时返回的对外提供服务的IP和端口,为每个Pod创建一个Pod CRD对象,即前文中的pod自定义对象,其中记录了服务实例所在边缘集群的LB信息。
Pod CRD对象的定义如下:
(6)Out-Endpoints Controller根据Pod名称查找对应的Pod CRD对象,并获取对应的服务实例所在边缘的LB信息,将其写到一个自定义的Endpoints CRD对象中。这个Endpoints CRD对象与同名的Service相关联,记录了这个Service的所有服务实例在各个边缘集群中的分布情况,即服务所关联的所有服务实例所在集群的LB信息。
Endpoints CRD对象的定义如下:
(7)virtual-kubeproxy读取Endpoints CRD中的LB信息,与Service的域名组成<Service域名,LB的IP>映射,传给plugin。
(8)plugin将<Service域名,LB的IP>映射下发到边缘集群的DNS中,以便于DNS进行域名解析,将服务和域名转换成IP,定位到LB。
(9)virtual-kubeproxy根据Service和Endpoints CRD生成负载均衡规则,并传给plugin,进而plugin根据不同边缘集群的负载均衡接口,生成适合不同边缘集群的负载均衡规则。
(10)plugin将负载均衡规则下发给边缘集群的LB,以便于LB进行负载均衡处理。
其中,前述(1)-(10)为静态的负载均衡规则的部署过程,而后面的(11)和(12)为接收到访问请求所进行的动态服务访问的处理过程。
(11)外部的南北向访问请求经过云端的负载均衡器(ingress-controller+service)再到边缘集群的LB,最后到具体的服务实例。
(12)边缘集群的其它应用要访问服务时,直接请求服务名,边缘集群的LB会直接将请求转到其它边缘集群或本地的服务实例。
综上,本申请中针对无法实现服务实例跨集群负载均衡的缺陷,提出virtual-kubeproxy的概念。Virtual-kubeproxy是虚拟代理,K8s原生的kube-proxy运行在数据面节点上,只能代理单个节点,不适应多个边缘集群。而virtual-kubeproxy运行在云端的控制面上,能够实现多个边缘集群的全局负载均衡。同时,Virtual-kubeproxy通过生成headless Service,并从virtual-kubelet(将边缘集群虚拟成kubernetes可管理的虚拟节点)中获取各服务实例的LB的地址,动态为headless Service生成kubernetes endpoints对象,进而构建全局负载均衡规则链。另外,本申请中将服务名与LB的对应关系下发到边缘集群的DNS中,供东西向请求域名解析。进一步的,Virtual-kubeproxy根据不同的边缘集群,转换为边缘集群能识别的负载均衡规则,并将负载均衡规则下发到边缘集群的LB中,供边缘集群的负载均衡。
可见,本申请中利用k8s的Service抽象,在云端提供了所有服务的统一管理的功能,并基于服务统一管理构建出全局负载均衡规则链。而且,本神起对于不同的边缘集群,根据Service和Endpoints CRD生成不同的负载均衡规则,支持集群异构的能力,并且能够支持边缘集群服务间的直接互访,使得东西向访问效率高。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种服务的负载均衡处理方法,应用于云端服务器,所述方法包括:
在服务标识对应的端点自定义对象中,获得所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息;
其中,所述端点自定义对象中的信息由所述云端服务器从所述服务标识对应的pod自定义对象中获得并写入所述端点自定义对象中,所述服务标识对应的pod自定义对象中的信息根据所述服务标识对应的服务实例的实例信息创建,所述实例信息与所述服务实例所在边缘集群的负载均衡器相关;
根据所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息,获得所述服务标识与所述服务标识对应的服务实例所在边缘集群的负载均衡器之间的映射关系信息;
根据所述映射关系信息,获得所述服务标识对应的第一负载均衡规则,所述第一负载均衡规则至少用于针对服务访问请求进行负载均衡处理,以使得所述服务访问请求被传输给多个边缘集群中与所述服务访问请求相对应的目标边缘集群,由所述目标边缘集群中的负载均衡器确定目标边缘计算设备,并由所述目标边缘计算设备针对所述服务访问请求执行所述服务标识对应的服务实例。
2.根据权利要求1所述的方法,所述第一负载均衡规则具体用于针对所述云端服务器所接收到的第一访问请求进行负载均衡处理,以使得所述第一访问请求被传输给多个边缘集群中与所述第一访问请求相对应的目标边缘集群,由所述目标边缘集群中的负载均衡器确定目标边缘计算设备,并由所述目标边缘计算设备针对所述第一访问请求执行所述服务标识对应的服务实例。
3.根据权利要求1或2所述的方法,所述pod自定义对象对应有pod对象,所述pod对象在所述云端服务器接收到所述服务标识对应的服务实例创建请求的情况下创建,且所述pod对象被配置为对应于所述多个边缘集群中的边缘集群;
其中,所述服务标识对应的服务实例的实例信息由所述服务实例所在的边缘集群的负载均衡器为所述服务实例配置,以使得所述云端服务器在接收到所述服务实例所在的边缘集群的负载均衡器返回的所述服务实例的实例信息后创建所述pod对象对应的pod自定义对象,并将所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息写入到所述pod自定义对象中。
4.根据权利要求3所述的方法,所述方法还包括:
在所述云端服务器上接收到所述服务标识对应的服务创建请求的情况下,创建所述服务标识对应的服务对象,所述服务对象中的目标参数为空,以使得所述云端服务器在创建所述服务实例对应的pod自定义对象之后,根据所述pod自定义对象中的所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息,创建所述服务标识对应的端点自定义对象。
5.根据权利要求1或2所述的方法,所述第一负载均衡规则还用于根据所述多个边缘集群中的边缘集群的负载均衡参数,获得针对所述多个边缘集群中的边缘集群的第二负载均衡规则;
其中,所述方法还包括:
将所述第二负载均衡规则发送给所述多个边缘集群中的任一边缘集群,所述第二负载均衡规则用于所述多个边缘集群中接收到第二访问请求的第一边缘集群的负载均衡器进行负载均衡处理,以使得所述第二访问请求被传输给接收到第二访问请求的第一边缘集群的目标边缘计算设备或者所述第二访问请求被传输给第二边缘集群的目标边缘计算设备,由所述目标边缘计算设备执行所述服务标识对应的服务实例。
6.根据权利要求5所述的方法,所述负载均衡参数至少包含所述边缘集群的负载均衡接口参数。
7.根据权利要求2或5所述的方法,所述服务标识与所述服务标识对应的服务实例所在边缘集群的负载均衡器之间的映射关系信息,包括:服务域名信息与所述负载均衡器的网络地址之间的映射关系信息。
8.根据权利要求7所述的方法,所述方法还包括:
将所述映射关系信息传输给所述多个边缘集群中的任一边缘集群,以使得所述目标边缘集群在接收到所述第一访问请求的情况下根据所述映射关系信息将所述第一访问请求传输给所述目标边缘集群中的负载均衡器,由所述目标边缘集群中的负载均衡器确定目标边缘计算设备,并由所述目标边缘计算设备针对所述第一访问请求执行所述服务标识对应的服务实例服务标识对应的负载均衡器。
9.一种服务的负载均衡处理装置,应用于云端服务器,所述装置包括:
均衡信息获取单元,用于在服务标识对应的端点自定义对象中,获得所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息;
其中,所述端点自定义对象中的信息由所述云端服务器从所述服务标识对应的pod自定义对象中获得并写入所述端点自定义对象中,所述服务标识对应的pod自定义对象中的信息根据所述服务标识对应的服务实例的实例信息创建,所述实例信息与所述服务实例所在边缘集群的负载均衡器相关;
映射信息获取单元,用于根据所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息,获得所述服务标识与所述服务标识对应的服务实例所在边缘集群的负载均衡器之间的映射关系信息;
均衡规则获取单元,用于根据所述映射关系信息,获得所述服务标识对应的第一负载均衡规则,所述第一负载均衡规则至少用于针对服务访问请求进行负载均衡处理,以使得所述服务访问请求被传输给多个边缘集群中与所述服务访问请求相对应的目标边缘集群,由所述目标边缘集群中的负载均衡器确定目标边缘计算设备,并由所述目标边缘计算设备针对所述服务访问请求执行所述服务标识对应的服务实例。
10.一种云端服务器,包括:
存储器,用于存储应用程序和所述应用程序运行所产生的数据;
处理器,用于执行所述应用程序,以实现:在服务标识对应的端点自定义对象中,获得所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息;其中,所述端点自定义对象中的信息由所述云端服务器从所述服务标识对应的pod自定义对象中获得并写入所述端点自定义对象中,所述服务标识对应的pod自定义对象中的信息根据所述服务标识对应的服务实例的实例信息创建,所述实例信息与所述服务实例所在边缘集群的负载均衡器相关;根据所述服务标识对应的服务实例所在边缘集群的负载均衡器的信息,获得所述服务标识与所述服务标识对应的服务实例所在边缘集群的负载均衡器之间的映射关系信息;根据所述映射关系信息,获得所述服务标识对应的第一负载均衡规则,所述第一负载均衡规则至少用于针对服务访问请求进行负载均衡处理,以使得所述服务访问请求被传输给多个边缘集群中与所述服务访问请求相对应的目标边缘集群,由所述目标边缘集群中的负载均衡器确定目标边缘计算设备,并由所述目标边缘计算设备针对所述服务访问请求执行所述服务标识对应的服务实例。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110540685.9A CN113094182B (zh) | 2021-05-18 | 2021-05-18 | 一种服务的负载均衡处理方法、装置及云端服务器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110540685.9A CN113094182B (zh) | 2021-05-18 | 2021-05-18 | 一种服务的负载均衡处理方法、装置及云端服务器 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113094182A true CN113094182A (zh) | 2021-07-09 |
CN113094182B CN113094182B (zh) | 2024-02-27 |
Family
ID=76665768
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110540685.9A Active CN113094182B (zh) | 2021-05-18 | 2021-05-18 | 一种服务的负载均衡处理方法、装置及云端服务器 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113094182B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113676564A (zh) * | 2021-09-28 | 2021-11-19 | 深信服科技股份有限公司 | 数据传输方法、装置及存储介质 |
CN114338769A (zh) * | 2021-12-22 | 2022-04-12 | 浙江中控技术股份有限公司 | 访问请求的处理方法及装置 |
CN114422492A (zh) * | 2022-01-17 | 2022-04-29 | 星环信息科技(上海)股份有限公司 | 一种请求转发方法、设备及存储介质 |
CN115086330A (zh) * | 2022-06-14 | 2022-09-20 | 亚信科技(中国)有限公司 | 跨集群负载均衡系统 |
WO2023185938A1 (zh) * | 2022-03-31 | 2023-10-05 | 阿里云计算有限公司 | 多集群服务系统、服务访问与信息配置方法、设备及介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100058451A1 (en) * | 2008-09-02 | 2010-03-04 | Microsoft Corporation | Load balancing for services |
CN106790692A (zh) * | 2017-02-20 | 2017-05-31 | 郑州云海信息技术有限公司 | 一种多集群的负载均衡方法和装置 |
CN109561141A (zh) * | 2018-11-21 | 2019-04-02 | 中国联合网络通信集团有限公司 | 一种cdn节点的选择方法及设备 |
CN110602254A (zh) * | 2019-10-08 | 2019-12-20 | 腾讯科技(深圳)有限公司 | 一种实现负载均衡的方法、装置及系统 |
-
2021
- 2021-05-18 CN CN202110540685.9A patent/CN113094182B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100058451A1 (en) * | 2008-09-02 | 2010-03-04 | Microsoft Corporation | Load balancing for services |
CN106790692A (zh) * | 2017-02-20 | 2017-05-31 | 郑州云海信息技术有限公司 | 一种多集群的负载均衡方法和装置 |
CN109561141A (zh) * | 2018-11-21 | 2019-04-02 | 中国联合网络通信集团有限公司 | 一种cdn节点的选择方法及设备 |
CN110602254A (zh) * | 2019-10-08 | 2019-12-20 | 腾讯科技(深圳)有限公司 | 一种实现负载均衡的方法、装置及系统 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113676564A (zh) * | 2021-09-28 | 2021-11-19 | 深信服科技股份有限公司 | 数据传输方法、装置及存储介质 |
CN113676564B (zh) * | 2021-09-28 | 2022-11-22 | 深信服科技股份有限公司 | 数据传输方法、装置及存储介质 |
CN114338769A (zh) * | 2021-12-22 | 2022-04-12 | 浙江中控技术股份有限公司 | 访问请求的处理方法及装置 |
CN114338769B (zh) * | 2021-12-22 | 2024-04-12 | 浙江中控技术股份有限公司 | 访问请求的处理方法及装置 |
CN114422492A (zh) * | 2022-01-17 | 2022-04-29 | 星环信息科技(上海)股份有限公司 | 一种请求转发方法、设备及存储介质 |
CN114422492B (zh) * | 2022-01-17 | 2023-12-12 | 星环信息科技(上海)股份有限公司 | 一种请求转发方法、设备及存储介质 |
WO2023185938A1 (zh) * | 2022-03-31 | 2023-10-05 | 阿里云计算有限公司 | 多集群服务系统、服务访问与信息配置方法、设备及介质 |
CN115086330A (zh) * | 2022-06-14 | 2022-09-20 | 亚信科技(中国)有限公司 | 跨集群负载均衡系统 |
CN115086330B (zh) * | 2022-06-14 | 2024-03-01 | 亚信科技(中国)有限公司 | 跨集群负载均衡系统 |
Also Published As
Publication number | Publication date |
---|---|
CN113094182B (zh) | 2024-02-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113094182B (zh) | 一种服务的负载均衡处理方法、装置及云端服务器 | |
CN108449282B (zh) | 一种负载均衡方法及其装置 | |
US9973390B2 (en) | Method of discovering network topology | |
US9935829B1 (en) | Scalable packet processing service | |
EP3932041A1 (en) | Remote smart nic-based service acceleration | |
US20240045824A1 (en) | Remote Mapping Method, Apparatus and Device for Computing Resources, and Storage Medium | |
CN106657180B (zh) | 用于云服务的信息传输方法、装置、终端设备及系统 | |
CN103685583A (zh) | 一种域名解析的方法和系统 | |
US9112769B1 (en) | Programatically provisioning virtual networks | |
Zhong et al. | An efficient SDN load balancing scheme based on variance analysis for massive mobile users | |
CN113630479B (zh) | 域名的解析方法及相关产品 | |
US11425054B1 (en) | User-configured multi-location service deployment and scaling | |
CN110012118A (zh) | 一种提供网络地址转换nat服务的方法及控制器 | |
CN113676564B (zh) | 数据传输方法、装置及存储介质 | |
CN104995610A (zh) | 平台内的联网 | |
US11765244B1 (en) | Latency-based service discovery and routing for multi-location service-oriented applications | |
CN114124714A (zh) | 一种多层级网络部署方法、装置、设备及存储介质 | |
CN114189492A (zh) | 一种基于网络地址转换技术的网卡压力测试方法和系统 | |
CN112492060B (zh) | 一种服务资源处理方法及系统、代理设备、请求设备 | |
CN104571934A (zh) | 一种内存访问的方法、设备和系统 | |
US20210103457A1 (en) | Control apparatus, control system, control method, and program | |
US11561916B2 (en) | Processing task deployment in adapter devices and accelerators | |
Nguyen et al. | Enhancing CNF performance for 5G core network using SR-IOV in Kubernetes | |
CN115987990A (zh) | 多集群负载均衡方法、装置、电子设备及存储介质 | |
US10791088B1 (en) | Methods for disaggregating subscribers via DHCP address translation and devices thereof |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |