CN105872082A - 基于容器集群负载均衡算法的细粒度资源响应系统 - Google Patents

基于容器集群负载均衡算法的细粒度资源响应系统 Download PDF

Info

Publication number
CN105872082A
CN105872082A CN201610329233.5A CN201610329233A CN105872082A CN 105872082 A CN105872082 A CN 105872082A CN 201610329233 A CN201610329233 A CN 201610329233A CN 105872082 A CN105872082 A CN 105872082A
Authority
CN
China
Prior art keywords
service instance
request
resource
module
service
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201610329233.5A
Other languages
English (en)
Other versions
CN105872082B (zh
Inventor
夏亦谦
张坚鑫
孙浩然
李桐宇
高策
任锐
蔡鸿明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SHANGHAI LANDFUN INFORMATION TECHNOLOGY Co.,Ltd.
Original Assignee
Shanghai Jiaotong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Jiaotong University filed Critical Shanghai Jiaotong University
Priority to CN201610329233.5A priority Critical patent/CN105872082B/zh
Publication of CN105872082A publication Critical patent/CN105872082A/zh
Application granted granted Critical
Publication of CN105872082B publication Critical patent/CN105872082B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/104—Peer-to-peer [P2P] networks
    • H04L67/1044—Group management mechanisms 

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Theoretical Computer Science (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

一种基于容器集群负载均衡算法的细粒度资源响应系统，包括：请求处理模块、数据支持模块、分析决策模块、服务实例选择模块和请求‐服务实例匹配器，其中：请求处理模块调用数据支持模块和分析决策模块对请求进行分析和分类，并将请求的分类结果发送至请求‐服务实例匹配器；请求‐服务实例匹配器向服务实例选择模块发起选择要求，服务实例选择模块调用数据支持模块和分析决策模块进行服务实例的解析和选择，并将服务实例的选择结果发送至请求‐服务实例匹配器；请求‐服务实例匹配器根据请求的分类结果和服务实例的选择结果，调用分析决策模块依次进行分组匹配和个体匹配，并根据匹配结果将请求分发至对应的服务实例，实现资源的响应；本发明有较好的资源使用率。

Description

基于容器集群负载均衡算法的细粒度资源响应系统
技术领域
本发明涉及的是一种容器集群资源管理领域的技术，具体是一种基于容器集群负载均衡算法的细粒度资源响应系统。
背景技术
近年来，随着容器技术的发展，越来越多的企业选择使用轻量级的容器虚拟化技术代替传统的服务器虚拟化技术来提供云服务。同时，随着移动互联网的发展，当前云服务中，RESTful的HTTP请求越来越成为主流。因此，如何在有限的计算资源条件下提高每秒处理RESTful请求的数量是迫切需要解决的问题。
RESTful，是以资源为中心的HTTP交互方式。资源是RESTful中最关键的抽象概念，它们是能够被远程访问的应用程序对象。一个资源就是一个标识单位，任何可以被访问或被远程操纵的东西都可能是一个资源。资源可以是静态的，也就是该资源的状态永远不会改变。相反，某些资源的状态可能随着时间推移呈现很大的可变性。目前这样的资源越来越成为了HTTP交互时的主流选择，因为RESTful有着更好的扩展性与独立性，也成为移动互联网时代前后端交互的主要技术手段。
容器是一种轻量级的虚拟机，每个容器内都包含了一个独立的用户环境空间。一个服务器集群上通常可以运行成千上万个容器，
目前，一些已有的基于容器的资源管理平台为容器化应用提供了资源调度、部署运行、服务发现、扩容缩容等一整套功能，但是在负载均衡方面仅仅采用了最基本的方法。通过对现有的NGINX和阿帕奇负载均衡算法的研究发现，目前普遍采用的方法有轮询调度、最少连接调度、加权负载均衡等。但这些都没有对服务本身的特性进行分析，无法进行细粒度访问请求负载均衡。
发明内容
本发明针对现有技术存在的上述不足，提出一种基于容器集群负载均衡算法的细粒度资源响应系统，在有限的服务器资源条件下，综合考虑服务访问频率、服务访问相关数据量大小等因素并根据匹配算法制定了一套分发规则，将来自客户端的访问请求按照该规则通过分组匹配和个体匹配两轮匹配分发到合适的服务实例上去，充分利用资源，避免资源搁浅，以提高每秒RESTful请求的处理数量。
本发明是通过以下技术方案实现的：
本发明包括：请求处理模块、数据支持模块、分析决策模块、服务实例选择模块和请求‐服务实例匹配器，其中：请求处理模块调用数据支持模块和分析决策模块对请求进行分析和分类，并将请求的分类结果发送至请求‐服务实例匹配器；请求‐服务实例匹配器向服务实例选择模块发起选择要求，服务实例选择模块调用数据支持模块和分析决策模块进行服务实例的解析和选择，并将服务实例的选择结果发送至请求‐服务实例匹配器；请求‐服务实例匹配器根据请求的分类结果和服务实例的选择结果，调用分析决策模块依次进行分组匹配和个体匹配，并根据匹配结果将请求分发至对应的服务实例，实现资源的响应。
所述的分析决策模块包括：请求分析算法、匹配算法、服务实例分析算法和选择算法。
所述的请求处理模块包括：请求分类器和请求分析器，其中：请求分析器对请求进行url识别，综合数据支持模块得出请求的CPU和内存占用情况，并将结果发送至请求分类器，请求分类器执行请求分析算法得到请求按所访问的资源得到的分类。
所述的数据支持模块包括：请求历史日志和服务实例状态，其中：请求历史日志存储所有历史请求数据，服务实例状态存储容器集群管理系统收集得到的服务实例的负载情况。
所述的服务实例选择模块包括：服务实例整理器和服务实例解析器，其中：服务实例解析器抽取服务实例负载基础样本并发送至服务实例整理器进行服务实例选择。
所述的服务实例解析器调用选择算法，从集群中正在工作的服务实例中平均取出若干个服务实例作为样本供服务实例选择模块使用。
所述的分组匹配是指：根据请求所访问的资源分类，调用匹配算法和服务实例分析算法寻找对应的服务实例组，并查看该服务实例组对应的资源是否可用；如果可用，则将请求分发至该服务实例组；否则，将请求分发至请求‐服务实例匹配器内维护的资源匹配表中对应的资源标记为可用的服务实例组；如果未找到对应的服务实例组，则随机选择一个尚未被分组的服务实例根据服务实例分组规则进行自动分组，并将请求分发至该服务实例组。
所述的服务实例分组规则是指：根据服务实例处理的第一个请求所属的访问资源对服务实例进行分组，同一组的服务实例所处理的请求均访问同一资源。
所述的个体匹配是指：所述的个体匹配是指：调用匹配算法和服务实例分析算法，在请求分入的服务实例组中随机抽取若干个服务实例组成候选服务实例组，在候选服务实例组内依据请求的计算资源类型，通过组内服务实例资源分析规则找出对应资源的备选服务实例，作为处理该请求的最终服务实例。
所述的组内服务实例资源分析规则是指：将同一服务实例组内计算资源使用率最小的服务实例作为备选服务实例。
技术效果
与现有技术相比，本发明通过对请求和服务实例分别进行分组，根据分析决策模块依次进行分组匹配和个体匹配，将请求以更加细粒度的方式分发请求到不同服务实例上，使得集群处于较高的资源使用率，防止硬件空置带来的经济损失；同时，从请求的响应时间来看，通过将请求分配给负荷相对较低的服务实例，保证请求的响应时间，提高系统的每秒请求处理数，避免资源搁浅。
附图说明
图1为本发明原理图；
图2为实施例示意图；
图3为实施例响应时间和资源使用率的优化结果；
图4为实施例与现有技术对不同请求数量占用内存的平均使用率曲线图；
图5为实施例与现有技术对不同请求数量CPU的平均使用率曲线图。
具体实施方式
下面对本发明的实施例作详细说明，本实施例在以本发明技术方案为前提下进行实施，给出了详细的实施方式和具体的操作过程，但本发明的保护范围不限于下述的实施例。
实施例1
如图1和图2所示，本实施例包括：路由模块、请求处理模块、数据支持模块、分析决策模块、服务实例选择模块和请求‐服务实例匹配器，其中：客户端的请求通过路由模块发送至请求处理模块，请求处理模块调用数据支持模块和分析决策模块对请求进行分析和分类，并将请求的分类结果发送至请求‐服务实例匹配器；请求‐服务实例匹配器向服务实例选择模块发起选择要求，服务实例选择模块调用数据支持模块和分析决策模块进行服务实例的解析和选择，并将服务实例的选择结果发送至请求‐服务实例匹配器；请求‐服务实例匹配器根据请求的分类结果和服务实例的选择结果，调用分析决策模块依次进行分组匹配和个体匹配，并根据匹配结果将请求分发至对应的服务实例，实现资源的响应。
所述的客户端是服务的消费方，即请求的发起方，所有对集群的访问请求都来自客户端。对于一个服务而言，其客户端是多样化的，可为不同的终端设备、浏览器或软件。
所述的路由模块将通过公网或内网发起的访问请求与后台对应的IP地址进行配对，配对成功则将请求发送至请求处理模块。
所述的内网IP地址为虚拟集群IP。
所述的公网IP地址可为云IP地址、节点IP地址和端口。
所述的分析决策模块包括：请求分析算法、匹配算法、服务实例分析算法和选择算法。
所述的请求处理模块包括：请求分类器和请求分析器，其中：请求分析器对请求进行url识别，综合数据支持模块得出请求的CPU和内存占用情况，并将结果发送至请求分类器，请求分类器执行请求分析算法得到请求按所访问的资源得到的分类。
所述的分析和分类是指：请求处理模块调用数据支持模块，根据历史数据对请求的CPU和内存占用情况进行分析，并调用请求分析算法，根据历史数据对请求按所访问的资源进行分类，得到CPU密集型和内存密集型两种类别的请求，具体包括以下步骤：
步骤1、将各个历史请求对服务实例如CPU资源和内存资源的需求分别组成集合：RC＝{c1,c2,c3,…}，RM＝{m1,m2,m3,…}，其中：ci和mi分别为单个请求对CPU和内存的耗费量(即请求的日志中CPU资源或内存资源的相对使用率)，得到对应的耗费量概率分布函数：
步骤2、已知收到的请求对CPU资源和内存资源的耗费量分别为c0和m0，则可得到该请求对两种资源的耗费量在所有请求中的百分比占位：pC＝FC(c0)和pM＝FM(m0)，并比较两个值pC和pM，较大的值所代表的资源即为该请求占用最大的资源种类，因此可将请求分为CPU密集型与内存密集型两个种类。
所述的数据支持模块包括：请求历史日志和服务实例状态，其中：请求历史日志存储所有历史请求数据，服务实例状态存储容器集群管理系统收集得到的服务实例的负载情况。
所述的请求历史日志记录并更新请求的相关信息，以分析请求的计算资源依赖类型，用以进行更精确的调度。
所述的相关信息是指：请求从被提交至服务实例，至被处理后最终返回响应的整个过程调用及相应花费的时间，并将同一请求的日志按时间拼接形成完整的日志序列。
所述的容器集群管理系统自带的监控组件收集各个主机的负载情况，并进行汇总，得到服务实例的负载情况，如CPU和内存的使用率。
所述的服务实例选择模块包括：服务实例整理器和服务实例解析器，其中：服务实例解析器抽取服务实例负载基础样本并发送至服务实例整理器进行服务实例选择。
所述的服务实例解析器调用选择算法，从集群中正在工作的M个服务实例中平均取出N个服务实例作为样本供服务实例选择模块使用。
本实施例将开销锁定在常数级别N上，大大减少了额外开销。
所述的分组匹配是指：根据请求所访问的资源分类，调用匹配算法和服务实例分析算法寻找对应的服务实例组，并查看该服务实例组对应的资源是否可用；如果可用，则将请求分发至该服务实例组；否则，将请求分发至请求‐服务实例匹配器内维护的资源匹配表中对应的资源标记为可用的服务实例组；如果未找到对应的服务实例组，则随机选择一个尚未被分组的服务实例根据服务实例分组规则进行自动分组，并将请求分发至该服务实例组。
所述的服务实例分组规则是指：根据服务实例处理的第一个请求所属的访问资源对服务实例进行分组，同一组的服务实例所处理的请求均访问同一资源。
所述的服务实例组维护自身对应资源的可用情况，当某一计算资源的使用率超过阈值时，该服务实例组的资源标记不可用；当该计算资源的使用率降至阈值以下时，重新标记可用。
所述的个体匹配是指：调用匹配算法和服务实例分析算法，在请求分入的服务实例组中随机抽取K个服务实例组成候选服务实例组，在候选服务实例组内依据请求的计算资源类型，通过组内服务实例资源分析规则找出对应资源的备选服务实例，作为处理该请求的最终服务实例。
所述的组内服务实例资源分析规则是指：将同一服务实例组内计算资源使用率最小的服务实例作为备选服务实例。
本实施例的数据支持模块只需进行一次学习便能生成所有请求的相关信息，不会带来额外开销。
本实施例的工作技术指标与国内外同类产品的技术参数的比较如表1所示。
表1技术参数对照表
本实施例与现有技术对资源的平均响应时间的比较如表2所示。
表2资源平均响应时间对照表(单位：ms)
请求数量(个) 50 100 150 200 250 300 500 1000 2000
现有技术 165 294 413 379 560 883 1090 1844 1617
本实施例 105 246 262 344 444 773 934 1585 1316
如图3～5所示，现有技术将请求均匀分布到每个服务实例上，没有考虑请求本身的特点，从而导致资源利用率不高；而本实施例在选择服务实例的时候，系统会进行两次匹配，在第一次匹配时，会根据资源的信息进行请求的转发。对同一个资源的请求，会分发给特定的服务实例组。之后，在该组服务实例组中，系统的第二次匹配会选择出一个合适的服务实例，由该服务实例处理此请求。这样的匹配，使得请求的响应时间更加友好。同时可解决资源搁浅的情况，即因为对同一资源的请求，其需要的硬件资源相对同质化，因此对于接受该类请求的服务实例而言，会出现某一种或几种计算资源使用率很高，而其他几种计算资源空置的情况。
本实施例引入了不同于直接根据资源来划分的分配方式。在该类匹配中，系统会将一部分该类型资源的请求分发至处理其他类型资源请求的服务实例上，而原本资源被搁浅的服务实例，也会被分发到其他类型的请求，以解决资源空置的问题。
本实施例能够以更加细粒度的方式分发请求到不同服务实例上，从资源使用率的角度而言，可以使得集群处于较高的资源使用率，防止硬件空置带来的经济损失。与此同时，从请求的响应时间来看，通过将请求分配给负荷最低的服务实例，保证请求的响应时间，提高系统的每秒查询率(QPS)。

Claims (9)

1.一种基于容器集群负载均衡算法的细粒度资源响应系统，其特征在于，包括：请求处理模块、数据支持模块、分析决策模块、服务实例选择模块和请求‐服务实例匹配器，其中：请求处理模块调用数据支持模块和分析决策模块对请求进行分析和分类，并将请求的分类结果发送至请求‐服务实例匹配器；请求‐服务实例匹配器向服务实例选择模块发起选择要求，服务实例选择模块调用数据支持模块和分析决策模块进行服务实例的解析和选择，并将服务实例的选择结果发送至请求‐服务实例匹配器；请求‐服务实例匹配器根据请求的分类结果和服务实例的选择结果，调用分析决策模块依次进行分组匹配和个体匹配，并根据匹配结果将请求分发至对应的服务实例，实现资源的响应。
2.根据权利要求1所述的细粒度资源响应系统，其特征是，所述的分析决策模块包括：请求分析算法、匹配算法、服务实例分析算法和选择算法。
3.根据权利要求1所述的细粒度资源响应系统，其特征是，所述的请求处理模块包括：请求分类器和请求分析器，其中：请求分析器对请求进行url识别，综合数据支持模块得出请求的CPU和内存占用情况，并将结果发送至请求分类器，请求分类器执行请求分析算法得到请求按所访问的资源得到的分类。
4.根据权利要求1所述的细粒度资源响应系统，其特征是，所述的按照资源需求对请求进行分析和分类包括以下步骤：
步骤1、将各个历史请求对不同服务实例的需求分别组成集合，得到对应的耗费量概率分布函数；
步骤2、已知收到的请求对不同服务实例的耗费量，则可得到该请求对不同服务实例的耗费量在所有请求中的百分比占位，并比较两个值，较大的值所代表的资源即为该请求占用最大的资源种类，因此将请求分为该服务实例密集型。
5.根据权利要求1所述的细粒度资源响应系统，其特征是，所述的数据支持模块包括：请求历史日志和服务实例状态，其中：请求历史日志存储所有历史请求数据，服务实例状态存储容器集群管理系统收集得到的服务实例的负载情况。
6.根据权利要求1所述的细粒度资源响应系统，其特征是，所述的服务实例选择模块包括：服务实例整理器和服务实例解析器，其中：服务实例解析器抽取服务实例负载基础样本并发送至服务实例整理器进行服务实例选择。
7.根据权利要求1所述的细粒度资源响应系统，其特征是，所述的服务实例解析器调用选择算法，从集群中正在工作的服务实例中平均取出若干个服务实例作为样本供服务实例选择模块使用。
8.根据权利要求1所述的细粒度资源响应系统，其特征是，所述的分组匹配是指：根据请求所访问的资源分类，调用匹配算法和服务实例分析算法寻找对应的服务实例组，并查看该服务实例组对应的资源是否可用；如果可用，则将请求分发至该服务实例组；否则，将请求分发至请求‐服务实例匹配器内维护的资源匹配表中对应的资源标记为可用的服务实例组；如果未找到对应的服务实例组，则随机选择一个尚未被分组的服务实例根据服务实例分组规则进行自动分组，并将请求分发至该服务实例组；
所述的服务实例分组规则是指：根据服务实例处理的第一个请求所属的访问资源对服务实例进行分组，同一组的服务实例所处理的请求均访问同一资源。
9.根据权利要求1所述的细粒度资源响应系统，其特征是，所述的个体匹配是指：所述的个体匹配是指：调用匹配算法和服务实例分析算法，在请求分入的服务实例组中随机抽取若干个服务实例组成候选服务实例组，在候选服务实例组内依据请求的计算资源类型，通过组内服务实例资源分析规则找出对应资源的备选服务实例，作为处理该请求的最终服务实例；
所述的组内服务实例资源分析规则是指：将同一服务实例组内计算资源使用率最小的服务实例作为备选服务实例。
CN201610329233.5A 2016-05-18 2016-05-18 基于容器集群负载均衡算法的细粒度资源响应系统 Active CN105872082B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610329233.5A CN105872082B (zh) 2016-05-18 2016-05-18 基于容器集群负载均衡算法的细粒度资源响应系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610329233.5A CN105872082B (zh) 2016-05-18 2016-05-18 基于容器集群负载均衡算法的细粒度资源响应系统

Publications (2)

Publication Number Publication Date
CN105872082A true CN105872082A (zh) 2016-08-17
CN105872082B CN105872082B (zh) 2018-11-23

Family

ID=56635274

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610329233.5A Active CN105872082B (zh) 2016-05-18 2016-05-18 基于容器集群负载均衡算法的细粒度资源响应系统

Country Status (1)

Country Link
CN (1) CN105872082B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106936925A (zh) * 2017-04-17 2017-07-07 广州孩教圈信息科技股份有限公司 负载均衡方法和系统
CN109962963A (zh) * 2017-12-26 2019-07-02 中国移动通信集团公司 消息处理方法及装置
CN110311967A (zh) * 2019-06-25 2019-10-08 北京达佳互联信息技术有限公司 数据推送及数据接收的方法、装置、设备及系统
CN112953894A (zh) * 2021-01-26 2021-06-11 复旦大学 一种多路请求复制分发系统和方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070294405A1 (en) * 2006-06-15 2007-12-20 International Business Machines Corporation Method and apparatus for middleware assisted system integration in a federated environment
CN102880475A (zh) * 2012-10-23 2013-01-16 上海普元信息技术股份有限公司 计算机软件系统中基于云计算的实时事件处理系统及方法
CN104461744A (zh) * 2014-12-18 2015-03-25 曙光云计算技术有限公司 一种资源分配方法及装置
CN105245617A (zh) * 2015-10-27 2016-01-13 江苏电力信息技术有限公司 一种基于容器的服务器资源供给方法
CN105554102A (zh) * 2015-12-14 2016-05-04 中电科华云信息技术有限公司 基于容器集群的弹性伸缩方法及其应用系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070294405A1 (en) * 2006-06-15 2007-12-20 International Business Machines Corporation Method and apparatus for middleware assisted system integration in a federated environment
CN102880475A (zh) * 2012-10-23 2013-01-16 上海普元信息技术股份有限公司 计算机软件系统中基于云计算的实时事件处理系统及方法
CN104461744A (zh) * 2014-12-18 2015-03-25 曙光云计算技术有限公司 一种资源分配方法及装置
CN105245617A (zh) * 2015-10-27 2016-01-13 江苏电力信息技术有限公司 一种基于容器的服务器资源供给方法
CN105554102A (zh) * 2015-12-14 2016-05-04 中电科华云信息技术有限公司 基于容器集群的弹性伸缩方法及其应用系统

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106936925A (zh) * 2017-04-17 2017-07-07 广州孩教圈信息科技股份有限公司 负载均衡方法和系统
CN109962963A (zh) * 2017-12-26 2019-07-02 中国移动通信集团公司 消息处理方法及装置
CN109962963B (zh) * 2017-12-26 2020-08-18 中国移动通信集团公司 消息处理方法及装置
CN110311967A (zh) * 2019-06-25 2019-10-08 北京达佳互联信息技术有限公司 数据推送及数据接收的方法、装置、设备及系统
CN110311967B (zh) * 2019-06-25 2022-06-10 北京达佳互联信息技术有限公司 数据推送及数据接收的方法、装置、设备及系统
CN112953894A (zh) * 2021-01-26 2021-06-11 复旦大学 一种多路请求复制分发系统和方法

Also Published As

Publication number Publication date
CN105872082B (zh) 2018-11-23

Similar Documents

Publication Publication Date Title
CN105281981B (zh) 网络服务的数据流量监控方法和装置
WO2021136137A1 (zh) 一种资源调度方法、装置及相关设备
WO2018166104A1 (zh) 坐席分配方法、装置、服务器和存储介质
CN106657379A (zh) 一种nginx服务器负载均衡的实现方法及系统
US8176037B2 (en) System and method for SQL query load balancing
CA3054607C (en) Systems and methods for compute node management protocols
CN103945000B (zh) 一种负载均衡方法及负载均衡器
US20020129127A1 (en) Apparatus and method for routing a transaction to a partitioned server
JP2016197431A (ja) コミュニティ内の接続の決定
TWI505682B (zh) 一種具高度適應性交談管理機制之遠端管理系統
CN105872082A (zh) 基于容器集群负载均衡算法的细粒度资源响应系统
KR101858715B1 (ko) 서비스자원 관리시스템 및 그 방법
WO2021169294A1 (zh) 更新应用识别模型的方法、装置及存储介质
CN107145384A (zh) 任务分配方法和系统
CN102932271A (zh) 负载均衡的实现方法和装置
CN107172193A (zh) 一种基于集群的负载均衡方法及其装置
CN106445709A (zh) 一种分布式调用服务器的方法及其系统
Liu et al. On the placement of edge servers in mobile edge computing
CN105681287A (zh) 基于筛选规则的用户服务分配筛选方法
CN105939228B (zh) 一种健康检测方法及装置
CN105120008B (zh) 一种基于分层的分布式云计算中心负载平衡方法
CN116089367A (zh) 动态分桶方法、装置、电子设备和介质
CN116546028A (zh) 服务请求的处理方法、装置、存储介质及电子设备
CN114666272B (zh) 限流处理方法、装置、设备及存储介质
CN112491066B (zh) 负载均衡方法、装置、系统、目标负载均衡设备及介质

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20210128

Address after: Room 309, building 1, 563 Songtao Road, China (Shanghai) pilot Free Trade Zone, Pudong New Area, Shanghai, 201203

Patentee after: SHANGHAI LANDFUN INFORMATION TECHNOLOGY Co.,Ltd.

Address before: 200240 No. 800, Dongchuan Road, Shanghai, Minhang District

Patentee before: SHANGHAI JIAO TONG University