CN110602156A - 一种负载均衡调度方法及装置 - Google Patents

一种负载均衡调度方法及装置 Download PDF

Info

Publication number
CN110602156A
CN110602156A CN201910190925.XA CN201910190925A CN110602156A CN 110602156 A CN110602156 A CN 110602156A CN 201910190925 A CN201910190925 A CN 201910190925A CN 110602156 A CN110602156 A CN 110602156A
Authority
CN
China
Prior art keywords
service
node
load balancing
index
rate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910190925.XA
Other languages
English (en)
Inventor
匡光彩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN201910190925.XA priority Critical patent/CN110602156A/zh
Publication of CN110602156A publication Critical patent/CN110602156A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/101—Server selection for load balancing based on network conditions
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1029—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers using data related to the state of servers by a load balancer
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H04L67/63—Routing a service request depending on the request content or context

Abstract

本发明实施例公开了一种负载均衡调度方法及装置，其中，所述方法包括：负载均衡节点在第一时刻接收客户端发送的服务请求；负载均衡节点获取M个服务节点的运行指标，M为正整数，运行指标包括历史指标和当前指标；负载均衡节点根据M个服务节点的运行指标以及预先设置的各个运行指标的权重计算M个服务节点中的各个服务节点的调度指标；负载均衡节点从M个服务节点中选择调度指标最大的服务节点作为目标服务节点；负载均衡节点向目标服务节点发送服务请求。本发明实施例所提方法能根据多维度性能指标为客户端的服务请求调度服务节点，在实际应用场景下适应性强，实现了更好的负载均衡。

Description

一种负载均衡调度方法及装置
技术领域
本发明涉及计算机技术和通信技术领域，尤其涉及一种负载均衡调度方法及装置。
背景技术
云计算是分布式计算、并行计算、效用计算、网络存储、虚拟化、负载均衡、热备份冗余等传统计算机和网络技术发展融合的产物。以云计算为后台的负载均衡技术目的在于利用经济有效的技术手段提高企业信息技术基础架构的性能，满足应用系统对于资源的常规和突发需求，从而支持企业信息技术平台在规模上的显著提升。负载均衡技术是通过设置虚拟服务器，将后端多台真实服务器的应用资源虚拟成一台高性能的应用服务器，通过负载均衡策略，将用户的请求转发给后台应用服务器，这样就实现了一个简单、扩展性强的应用解决方案，解决了单台服务器处理性能不足，扩展性不够的问题。随着负载均衡技术研究的不断深入，经济有效的负载均衡算法是提升信息技术基础架构的性能的关键所在。
现有技术中，已有多种负载均衡算法，其中，随机均衡：把来自网络的请求随机分配给内部中的多个服务器。轮循均衡：每一次来自网络的请求轮流分配给内部中的服务器，从1至N然后重新开始。最少连接数均衡是把新的连接请求分配到当前连接数最小的服务器。由于不同服务器的处理性能可能不同，以及每个服务器的连接进程可能会存在极大的不同，因此，轮循均衡、随机均衡和最少连接数均衡虽然算法简单，但适用性较差。权重轮循均衡：根据服务器的不同处理能力，给每个服务器分配不同的权值，使其能够接受相应权值数的服务请求。虽然该均衡算法能确保高性能的服务器得到更多的使用率，避免低性能的服务器负载过重，但该算法忽略了服务器的当前连接数量。
综上所述，现有的负载均衡策略考虑片面，在实际的应用场景下，适应性差，负载均衡效果不好。
发明内容
本发明实施例提供了一种负载均衡调度方法及装置，能根据多维度性能指标为客户端的服务请求调度服务节点，在实际应用场景下适应性强，实现了更好的负载均衡。
第一方面，本发明实施例提供了一种负载均衡调度方法，该方法包括以下步骤：
负载均衡节点接收客户端发送的服务请求；
负载均衡节点获取M个服务节点的运行指标，M个服务节点为预先配置的为客户端提供服务的服务节点，M为正整数，运行指标包括历史指标和当前指标；
负载均衡节点根据M个服务节点的运行指标以及预先设置的各个运行指标的权重计算M个服务节点中的各个服务节点的调度指标；
负载均衡节点从M个服务节点中选择调度指标最大的服务节点作为目标服务节点；
负载均衡节点向目标服务节点发送服务请求，目标服务节点用于处理服务请求。
可选的，历史指标包括网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建传输控制协议(英文全称：TransmissionControl Protocol，英文缩写：TCP)连接速率、中央处理器(英文全称：Central Processing Unit，英文缩写：CPU)处理速率和内存空闲率中的一个或多个，当前指标包括tcp连接数、CPU使用率和内存使用率中的一个或多个。
本发明实施例中，以网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、CPU处理速率和内存空闲率这七种性能指标作为服务节点的历史指标，以tcp连接数、CPU使用率和内存使用率这三种性能指标作为服务节点的当前指标，在负载均衡调度过程中，相对于现有技术中仅考虑网络流量、CPU处理速率和内存使用率这三种性能指标，本发明实施例从多方面对服务节点的性能做了更全面的衡量，更多的性能指标也提升了负载均衡调度方案的适用性。
可选的，历史指标至少包括第一监控周期内的分析数据，第一监控周期位于第一时刻之前且第一监控周期的终止时刻与第一时刻之间的时长小于监控周期的时长，第一时刻为负载均衡节点接收到客户端发送的服务请求的时刻。
可选的，负载均衡节点根据M个服务节点的运行指标以及预先设置的各个运行指标的权重计算M个服务节点中的各个服务节点的调度指标，包括：负载均衡节点根据M个服务节点的历史指标，得到M个服务节点的各个历史指标的平均值；负载均衡节点根据M个服务节点的历史指标、M个服务节点的各个历史指标的平均值和各个历史指标的权重，得到M个服务节点中的各个服务节点的第一调度值；负载均衡节点根据M个服务节点的当前指标，得到M个服务节点的各个当前指标的平均值；负载均衡节点根据M个服务节点的当前指标、M个服务节点的各个当前指标的平均值和各个当前指标的权重，得到M个服务节点中的各个服务节点的第二调度值；负载均衡节点根据M个服务节点中的各个服务节点的第一调度值、M个服务节点中的各个服务节点的第二调度值、历史指标的权重和当前指标的权重，得到M个服务节点中的各个服务节点的的调度指标。
本发明实施例中，通过上述方案实现负载均衡节点根据M个服务节点的运行指标以及预先设置的各个运行指标的权重，计算M个服务节点中的各个服务节点的调度指标，操作简单易实现，算法适用性强。
可选的，若将M个服务节点中的第i个服务节点的历史指标中的网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率和内存空闲率，分别表示为a(i)、b(i)、c(i)、d(i)、e1(i)和f1(i)，第i个服务节点的CPU个数表示为m(i)，第i个服务节点的第j个CPU的CPU处理速率表示为g1(i,j)，历史指标中的网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、内存空闲率和CPU处理速率的权重分别表示为x1、x2、x3、x4、x5、x6和x7，将第i个服务节点的当前指标中的tcp连接数、内存使用率和CPU使用率分别表示为e2(i)、f2(i)和g2(i)，当前指标中的tcp连接数、内存使用率和CPU使用率的权重分别表示为y1、y2和y3，历史指标的权重和当前指标的权重分别表示为z1和z2，则负载均衡节点根据M个服务节点的运行指标以及预先设置的各个运行指标的权重计算M个服务节点中的各个服务节点的调度指标，包括：
计算M个服务节点的各个历史指标的平均值如下所示， 其中，aAVG、bAVG、cAVG、dAVG、f1AVG、e1AVG和g1AVG分别表示M个服务节点的历史指标中的网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、内存空闲率和CPU处理速率的平均值；
计算M个服务节点中的第i个服务节点的第一调度值Xdis(i)如下所示，
计算M个服务节点的各个当前指标的平均值如下所示， 其中，f2AVG、e2AVG和g2AVG分别表示M个服务节点的当前指标中的tcp连接数、内存使用率和CPU使用率的平均值；
计算M个服务节点中的第i个服务节点的第二调度值Ydis(i)如下所示，
计算M个服务节点中的第i个服务节点的调度指标DIS(i)如下所示，DIS(i)＝z1×Xdis(i)+z2×Ydis(i)。
第二方面，本发明实施例还提供了一种负载均衡调度装置，该装置能实现上述第一方面负载均衡调度方法中负载均衡节点的功能，因此也能实现第一方面负载均衡调度方法所具备的有益效果。其中，该装置的功能可以通过硬件实现，也可以通过硬件执行相应的软件实现。硬件或软件包括至少一个与上述功能相对应的模块。
可选的，该装置包括接收单元、获取单元、计算单元、调度单元和发送单元。
接收单元，用于接收客户端发送的服务请求。
获取单元，用于获取M个服务节点的运行指标，M个服务节点为预先配置的为客户端提供服务的服务节点，M为正整数，运行指标包括历史指标和当前指标。
计算单元，用于根据M个服务节点的运行指标以及预先设置的各个运行指标的权重计算M个服务节点中的各个服务节点的调度指标。
调度单元，用于从M个服务节点中选择调度指标最大的服务节点作为目标服务节点。
发送单元，用于向目标服务节点发送服务请求，目标服务节点用于处理服务请求。
可选的，历史指标包括网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、CPU处理速率和内存空闲率中的一个或多个，当前指标包括tcp连接数、CPU使用率和内存使用率中的一个或多个。
可选的，历史指标至少包括第一监控周期内的分析数据，第一监控周期位于第一时刻之前且第一监控周期的终止时刻与第一时刻之间的时长小于监控周期的时长，第一时刻为负载均衡节点接收到客户端发送的服务请求的时刻。
可选的，计算单元具体用于：根据M个服务节点的历史指标，得到M个服务节点的各个历史指标的平均值；根据M个服务节点的历史指标、M个服务节点的各个历史指标的平均值和各个历史指标的权重，得到M个服务节点中的各个服务节点的第一调度值；根据M个服务节点的当前指标，得到M个服务节点的各个当前指标的平均值；根据M个服务节点的当前指标、M个服务节点的各个当前指标的平均值和各个当前指标的权重，得到M个服务节点中的各个服务节点的第二调度值；根据M个服务节点中的各个服务节点的第一调度值、M个服务节点中的各个服务节点的第二调度值、历史指标的权重和当前指标的权重，得到M个服务节点中的各个服务节点的的调度指标。
可选的，若将M个服务节点中的第i个服务节点的历史指标中的网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率和内存空闲率，分别表示为a(i)、b(i)、c(i)、d(i)、e1(i)和f1(i)，第i个服务节点的CPU个数表示为m(i)，第i个服务节点的第j个CPU的CPU处理速率表示为g1(i,j)，历史指标中的网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、内存空闲率和CPU处理速率的权重分别表示为x1、x2、x3、x4、x5、x6和x7，将第i个服务节点的当前指标中的tcp连接数、内存使用率和CPU使用率，分别表示为e2(i)、f2(i)和g2(i)，当前指标中的tcp连接数、内存使用率和CPU使用率的权重分别表示为y1、y2和y3，历史指标的权重和当前指标的权重分别表示为z1和z2，则计算单元，具体用于：
计算M个服务节点的历史指标中的平均值如下所示， 其中，aAVG、bAVG、cAVG、dAVG、f1AVG、e1AVG和g1AVG分别表示M个服务节点的历史指标中的网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、内存空闲率和CPU处理速率的平均值；
计算M个服务节点中的第i个服务节点的第一调度值Xdis(i)如下所示，
计算M个服务节点的各个当前指标的平均值如下所示， 其中，f2AVG、e2AVG和g2AVG分别表示M个服务节点的当前指标中的tcp连接数、内存使用率和CPU使用率的平均值；
计算M个服务节点中的第i个服务节点的第二调度值Ydis(i)如下所示
计算M个服务节点中的第i个服务节点的的调度指标DIS(i)如下所示DIS(i)＝z1×Xdis(i)+z2×Ydis(i)。
第三方面，本发明实施例还提供了一种服务器，该服务器能实现上述第一方面负载均衡调度方法中负载均衡节点的功能，因此也能实现第一方面负载均衡调度方法所具备的有益效果。其中，该服务器的功能可以通过硬件实现，也可以通过硬件执行相应的软件实现。所述硬件或软件包括至少一个与上述功能相对应的模块。该服务器包括存储器、处理器和收发器，存储器用于存储支持终端执行上述方法的计算机程序，所述计算机程序包括程序指令，处理器用于根据程序指令对服务器的动作进行控制管理，收发器用于支持服务器与其它通信设备的通信。
第四方面，本发明实施例还提供了一种负载均衡调度系统，所述系统包括第二方面或第三方面描述的服务器，还包括客户端和服务节点。
第五方面，本发明实施例提供一种计算机可读存储介质，可读存储介质上存储有指令，当其在处理器上运行时，使得处理器执行上述第一方面描述的负载均衡调度方法。
本发明实施例中，负载均衡节点接收到来自客户端的服务请求后，获取M个服务节点的运行指标，上述运行指标包括历史指标和当前指标，然后根据M个服务节点的运行指标以及预先设置的各个运行指标的权重计算M个服务节点中的各个服务节点的调度指标。上述负载均衡调度方案中不仅考虑M个服务节点的历史指标，还考虑M个服务节点的当前指标，在实际应用场景下适应性强，能根据多维度性能指标为客户端的服务请求调度更合适的服务器，实现更好的负载均衡。
附图说明
下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。
图1是本发明实施例提供的一种负载均衡调度系统的系统架构示意图；
图2是本发明实施例提供的一种服务器的结构示意图；
图3是本发明实施例提供的一种负载均衡调度方法的流程示意图；
图4是本发明实施例提供的另一种负载均衡调度方法的流程示意图；
图5是本发明实施例提供的一种负载均衡调度装置的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行描述。应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。此外，术语“第一”、“第二”和“第三”等是用于区别不同的对象，而并非用于描述特定的顺序。
需要说明的是，在本发明实施例中使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本发明。在本发明实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。还应当理解，本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
负载均衡技术是通过设置虚拟服务器，将后端多台真实服务器的应用资源虚拟成一台高性能的应用服务器，通过负载均衡算法，将用户的请求转发给后端服务器，这样就实现了一个简单、扩展性强的应用解决方案，解决了单台服务器处理性能不足，扩展性不够的问题。负载均衡提供了一种廉价有效透明的方法扩展网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高网络的灵活性和可用性。
如图1所示是本发明提供的一种负载均衡系统100的系统架构示意图。由图1可知，负载均衡系统100包括客户端101、负载均衡节点102和服务节点103。负载均衡节点102的业务系统包含一个或多个客户端101，负载均衡节点102配置一个或多个负载均衡资源池，每个负载均衡资源池包括多个服务节点103。客户端101若要享有负载均衡服务，需创建负载均衡实例，在实例中添加监听器和服务节点，并定义该负载均衡实例的负载均衡策略和转发规则。负载均衡节点102负责服务服务请求的转发、响应报文的转发、定位监听器及负载均衡资源池与服务节点103的选择。服务节点103负责处理客户端的服务请求。
客户端101可以是具有智能计算功能，并能与其他设备进行通信交互的终端设备上的可以访问互联网的应用程序、浏览器等应用。本发明实施例中提及的终端设备包括手机、平板电脑、笔记本电脑、掌上电脑、移动互联网设备或其他移动终端。负载均衡节点102有多种多样的形式，除了作为独立意义上的负载均衡节点部署于负载均衡物理节点外，有些负载均衡节点集成在交换设备中，有些则以两块网络适配器将这一功能集成到计算机中，一块连接到互联网上，一块连接到负载均衡资源池的内部网络上。服务节点103可以是物理服务器，也可以是虚拟服务器。
下面以服务器为例，对上述负载均衡调度系统100中的负载均衡节点102的功能进行详细介绍。
请参见图2，图2为本发明实施例提供的一种服务器200的硬件结构示意图，服务器200包括：存储器201、收发器202及与所述存储器201和收发器202耦合的处理器203。存储器201用于存储计算机程序，所述计算机程序包括程序指令，处理器203用于执行存储器201存储的程序指令，收发器202用于在处理器203的控制下与其他设备进行通信。
其中，处理器203可以是中央处理器(英文：central processing unit，简称：CPU)，通用处理器，数字信号处理器(英文：digital signal processor，简称：DSP)，专用集成电路(英文：application-specific integrated circuit，简称：ASIC)，现场可编程门阵列(英文：field programmable gate array，简称：FPGA)或者其他可编程逻辑器件、晶体管逻辑器件、硬件部件或者其任意组合。其可以实现或执行结合本发明实施例公开内容所描述的各种示例性的逻辑方框，模块和电路。处理器也可以是实现计算功能的组合，例如包含一个或多个微处理器组合，DSP和微处理器的组合等等。收发器202可以是通信接口、收发电路等，其中，通信接口是统称，可以包括一个或多个接口，例如服务器与服务器之间的接口。
可选地，服务器200还可以包括总线204。其中，存储器201、收发器202以及处理器203可以通过总线204相互连接；总线204可以是外设部件互连标准(英文：peripheralcomponent interconnect，简称：PCI)总线或扩展工业标准结构(英文：extended industrystandard architecture，简称：EISA)总线等。总线204可以分为地址总线、数据总线、控制总线等。为便于表示，图2中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
除了图2所示的存储器201、收发器202、处理器203以及上述总线204之外，实施例中服务器200通常根据该服务器的实际功能，还可以包括其他硬件，对此不再赘述。
在上述运行环境下，本发明实施例提供了如图3所示的负载均衡调度方法。请参阅图3，所述负载均衡调度方法包括：
S301、负载均衡节点接收客户端发送的服务请求。可选的，客户端可以是具有智能计算功能，并能与其他设备进行通信交互的终端设备上的可以访问互联网的应用程序、浏览器等应用。本发明实施例中提及的终端设备包括手机、平板电脑、笔记本电脑、掌上电脑、移动互联网设备或其他移动终端。
S302、负载均衡节点获取M个服务节点的运行指标，M个服务节点为预先配置的为客户端提供服务的服务节点，M为正整数，运行指标包括历史指标和当前指标。
可选的，历史指标包括网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、CPU处理速率和内存空闲率中的一个或多个，当前指标包括tcp连接数、CPU使用率和内存使用率中的一个或多个。
可选的，负载均衡节点根据预设的监控周期定期获取M个服务节点的分析数据。即在每个监控周期结束时刻，负载均衡节点获取该监控周期内M个服务节点的分析数据，包括该监控周期内M个服务节点的网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率，新建tcp连接速率、CPU处理速率和内存空闲率中的一个或多个。历史指标至少包括第一监控周期内的分析数据，第一监控周期位于第一时刻之前且第一监控周期的终止时刻与第一时刻之间的时长小于监控周期的时长，第一时刻为负载均衡节点接收到客户端发送的服务请求的时刻。
S303、负载均衡节点根据M个服务节点的运行指标以及预先设置的各个运行指标的权重计算M个服务节点中的各个服务节点的调度指标。
具体的，负载均衡节点根据M个服务节点的历史指标，得到M个服务节点的各个历史指标的平均值；负载均衡节点根据M个服务节点的历史指标、M个服务节点的各个历史指标的平均值和各个历史指标的权重，得到M个服务节点中的各个服务节点的第一调度值；负载均衡节点根据M个服务节点的当前指标，得到M个服务节点的各个当前指标的平均值；负载均衡节点根据M个服务节点的当前指标、M个服务节点的各个当前指标的平均值和各个当前指标的权重，得到M个服务节点中的各个服务节点的第二调度值；负载均衡节点根据M个服务节点中的各个服务节点的第一调度值、M个服务节点中的各个服务节点的第二调度值、历史指标的权重和当前指标的权重，得到M个服务节点中的各个服务节点的的调度指标。
S304、负载均衡节点从M个服务节点中选择调度指标最大的服务节点作为目标服务节点。
具体的，负载均衡节点确定M个服务节点的调度指标中的最大值，并选择调度指标最大值对应的服务节点作为目标服务节点。
S305、负载均衡节点向目标服务节点发送服务请求。
可选的，负载均衡节点将第一服务请求报文中的负载均衡节点的地址信息修改为目标服务节点的地址信息，形成第二服务请求报文。负载均衡节点向目标服务节点发送第二服务请求报文。
在上述运行环境下，本发明实施例还提供了如图4所示的负载均衡调度方法。请参阅图4，所述负载均衡调度方法包括：
S401、客户端向负载均衡节点发送服务请求，负载均衡节点接收客户端发送的服务请求。
可选的，客户端可以是具有智能计算功能，并能与其他设备进行通信交互的终端设备上的可以访问互联网的应用程序、浏览器等应用。本发明实施例中提及的终端设备包括手机、平板电脑、笔记本电脑、掌上电脑、移动互联网设备或其他移动终端。
负载均衡节点是进行负载分配的服务器，负载均衡节点接收客户端的服务请求，然后根据预设的负载均衡策略将服务请求具体分配到某个服务节点。负载均衡控制与管理软件安装在负载均衡节点上，负载均衡节点一般只做负载均衡任务分配，不是实际对服务请求进行处理的服务器。负载均衡节点有多种多样的形式，除了作为独立意义上的负载均衡节点部署于负载均衡物理节点外，有些负载均衡节点集成在交换设备中，有些则以两块网络适配器将这一功能集成到计算机中，一块连接到互联网上，一块连接到负载均衡资源池的内部网络上。
可选的，客户端向负载均衡节点发送第一服务请求报文，第一服务请求报文用于请求服务节点处理该服务请求，第一服务请求报文包括客户端的地址信息、负载均衡节点的地址信息和第一负载均衡实例的地址信息。
负载均衡实例是一个运行的负载均衡服务实体。为了使用负载均衡服务，用户必须配置及创建一个负载均衡实例，并在负载均衡实例中添加一个或多个监听器，以及一个或多个负载均衡资源池或多个服务节点。当用户不再需要负载均衡服务时，可以删除负载均衡实例，删除负载均衡实例不会影响负载均衡资源池及服务节点的运行。
S402、负载均衡节点获取M个服务节点的运行指标，M个服务节点为预先配置的为客户端提供服务的服务节点，M为正整数，运行指标包括历史指标和当前指标。
可选的，负载均衡节点收到客户端发送的服务请求后，根据第一负载均衡实例的地址信息查看第一负载均衡实例对应的监听器，确定第一负载均衡实例配置的M个服务节点。负载均衡节点获取M个服务节点的运行指标，M为正整数，运行指标包括历史指标和当前指标。
可选的，历史指标包括网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、CPU处理速率和内存空闲率中的一个或多个，当前指标包括tcp连接数、CPU使用率和内存使用率中的一个或多个。
可选的，负载均衡节点根据预设的监控周期定期获取M个服务节点的分析数据。即在每个监控周期结束时刻，负载均衡节点获取该监控周期内M个服务节点的分析数据，包括该监控周期内M个服务节点的网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率，新建tcp连接速率、CPU处理速率和内存空闲率中的一个或多个。历史指标至少包括第一监控周期内的分析数据，第一监控周期位于第一时刻之前且第一监控周期的终止时刻与第一时刻之间的时长小于监控周期的时长，第一时刻为负载均衡节点接收到客户端发送的服务请求的时刻。
S403、负载均衡节点根据M个服务节点的运行指标以及预先设置的各个运行指标的权重计算M个服务节点中的各个服务节点的调度指标。
可选的，若历史指标包括网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、内存空闲率和CPU处理速率，当前指标包括tcp连接数、内存使用率和CPU使用率。则负载均衡节点根据M个服务节点的运行指标以及预先设置的各个运行指标的权重计算M个服务节点中的各个服务节点的调度指标，具体包括以下步骤：
将M个服务节点中的第i个服务节点的历史指标中的网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率和内存空闲率，分别表示为a(i)、b(i)、c(i)、d(i)、e1(i)和f1(i)，第i个服务节点的CPU个数表示为m(i)，第i个服务节点的第j个CPU的CPU处理速率表示为g1(i,j)，历史指标中的网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、内存空闲率和CPU处理速率的预设的权重分别表示为x1、x2、x3、x4、x5、x6和x7，将第i个服务节点的当前指标中的tcp连接数、内存使用率和CPU使用率分别表示为e2(i)、f2(i)和g2(i)，当前指标中的tcp连接数、内存使用率和CPU使用率的预设的权重分别表示为y1、y2和y3，历史指标的权重和当前指标的预设的权重分别表示为z1和z2。
S1、负载均衡节点根据M个服务节点的历史指标，得到M个服务节点的各个历史指标的平均值。
可选的，负载均衡节点根据M个服务节点的历史指标，计算M个服务节点的各个历史指标的平均值如下所示， 其中，aAVG、bAVG、cAVG、dAVG、f1AVG、e1AVG和g1AVG分别表示M个服务节点的历史指标中的网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、内存空闲率和CPU处理速率的平均值。
S2、负载均衡节点根据M个服务节点的历史指标、M个服务节点的各个历史指标的平均值和各个历史指标的预设的权重，得到M个服务节点中的各个服务节点的第一调度值。
可选的，负载均衡节点计算M个服务节点中的第i个服务节点的第一调度值Xdis(i)如下所示。
S3、负载均衡节点根据M个服务节点的当前指标，得到M个服务节点的各个当前指标的平均值。
可选的，负载均衡节点根据M个服务节点的当前指标，计算M个服务节点的各个当前指标的平均值如下所示， 其中，f2AVG、e2AVG和g2AVG分别表示M个服务节点的当前指标中的tcp连接数、内存使用率和CPU使用率的平均值。
S4、负载均衡节点根据M个服务节点的当前指标、M个服务节点的各个当前指标的平均值和各个当前指标的预设的权重，得到M个服务节点中的各个服务节点的第二调度值。
可选的，负载均衡节点计算M个服务节点中的第i个服务节点的第二调度值Ydis(i)如下所示。
S5、负载均衡节点根据M个服务节点中的各个服务节点的第一调度值、M个服务节点中的各个服务节点的第二调度值、历史指标的预设的权重和当前指标的预设的权重，得到M个服务节点中的各个服务节点的的调度指标。
可选的，负载均衡节点计算M个服务节点中的第i个服务节点的调度指标DIS(i)如下所示。
DIS(i)＝z1×Xdis(i)+z2×Ydis(i) (3)
可选的，若历史指标包括网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、内存空闲率和CPU处理速率中的一个或K个，当前指标包括tcp连接数、内存使用率和CPU使用率中的一个或Z个，K为小于7的正整数，Z为小于3的正整数。则负载均衡节点根据M个服务节点的运行指标以及预先设置的各个运行指标的权重，计算M个服务节点中的各个服务节点的调度指标的实施方式可类比于上述实施例的具体步骤，此处不再赘述。
S404、负载均衡节点从M个服务节点中选择调度指标最大的服务节点作为目标服务节点。
具体的，负载均衡节点确定M个服务节点的调度指标中的最大值，并选择调度指标最大值对应的服务节点作为目标服务节点。
S405、负载均衡节点向目标服务节点发送服务请求，目标服务节点接收负载均衡节点发送的服务请求。
可选的，负载均衡节点将第一服务请求报文中的负载均衡节点的地址信息修改为目标服务节点的地址信息，形成第二服务请求报文。负载均衡节点向目标服务节点发送第二服务请求报文，目标服务节点接收第二服务请求报文。
S406、目标服务节点处理负载均衡节点发送的服务请求。
可选的，负载均衡节向目标服务节点发送服务请求之后，本发明实施例所提供的负载均衡调度方法还包括：目标服务节点向负载均衡节点发送响应报文，负载均衡节点接收目标服务节点发送的响应报文；负载均衡节点向客户端发送上述响应报文，客户端接收负载均衡节点发送的响应报文。
本发明实施例中，负载均衡节点接收到来自客户端的服务请求后，获取M个服务节点的运行指标，上述运行指标包括历史指标和当前指标，然后根据M个服务节点的运行指标以及预先设置的各个运行指标的权重计算M个服务节点中的各个服务节点的调度指标。上述负载均衡调度方案中不仅考虑M个服务节点的历史指标，还考虑M个服务节点的当前指标，在实际应用场景下适应性强，能根据多维度性能指标为客户端的服务请求调度更合适的服务器，实现更好的负载均衡。此外，本发明实施例中，以网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、CPU处理速率和内存空闲率这七种性能指标作为服务节点的历史指标，以tcp连接数、CPU使用率和内存使用率这三种性能指标作为服务节点的当前指标，在负载均衡调度过程中，相对于现有技术中仅考虑网络流量、CPU处理速率和内存使用率这三种性能指标，本发明实施例从多方面对服务节点的性能做了更全面的衡量，更多的性能指标也提升了负载均衡调度方案的适用性。本发明实施例中所提供的调度指标计算方法，操作简单易实现，算法适用性强。
本发明实施例还提供了一种负载均衡调度装置，该装置能实现图3所示的负载均衡调度方法中的负载均衡节点的功能，也能实现该负载均衡调度方法所具备的有益效果。其中，该装置的功能可以通过硬件实现，也可以通过硬件执行相应的软件实现。所述硬件或软件包括至少一个与上述功能相对应的模块。
请参阅图5，图5是本发明实施例提供的一种负载均衡调度装置500的结构框图，所述装置包括：接收单元501、获取单元502、计算单元503、调度单元504和发送单元505。
接收单元501，用于在第一时刻接收客户端发送的服务请求。
获取单元502，用于获取M个服务节点的运行指标，M个服务节点为预先配置的为客户端提供服务的服务节点，N为正整数，运行指标包括历史指标和当前指标。
计算单元503，用于根据M个服务节点的运行指标以及预先设置的各个运行指标的权重计算M个服务节点中的各个服务节点的调度指标。
调度单元504，用于从M个服务节点中选择调度指标最大的服务节点作为目标服务节点。
发送单元505，用于向目标服务节点发送服务请求，目标服务节点用于处理服务请求。
可选的，历史指标包括网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、CPU处理速率和内存空闲率中的一个或多个，当前指标包括tcp连接数、CPU使用率和内存使用率中的一个或多个。
可选的，历史指标至少包括第一监控周期内的分析数据，第一监控周期位于第一时刻之前且第一监控周期的终止时刻与第一时刻之间的时长小于监控周期的时长。
可选的，计算单元503具体用于：根据M个服务节点的历史指标，得到M个服务节点的各个历史指标的平均值；根据M个服务节点的历史指标、M个服务节点的各个历史指标的平均值和各个历史指标的权重，得到M个服务节点中的各个服务节点的第一调度值；根据M个服务节点的当前指标，得到M个服务节点的各个当前指标的平均值；根据M个服务节点的当前指标、M个服务节点的各个当前指标的平均值和各个当前指标的权重，得到M个服务节点中的各个服务节点的第二调度值；根据M个服务节点中的各个服务节点的第一调度值、M个服务节点中的各个服务节点的第二调度值、历史指标的权重和当前指标的权重，得到M个服务节点中的各个服务节点的的调度指标。
可选的，若将M个服务节点中的第i个服务节点的历史指标中的网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率和内存空闲率，分别表示为a(i)、b(i)、c(i)、d(i)、e1(i)和f1(i)，第i个服务节点的CPU个数表示为m(i)，第i个服务节点的第j个CPU的CPU处理速率表示为g1(i,j)，历史指标中的网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、内存空闲率和CPU处理速率的权重分别表示为x1、x2、x3、x4、x5、x6和x7，将第i个服务节点的当前指标中的tcp连接数、内存使用率和CPU使用率，分别表示为e2(i)、f2(i)和g2(i)，当前指标中的tcp连接数、内存使用率和CPU使用率的权重分别表示为y1、y2和y3，历史指标的权重和当前指标的权重分别表示为z1和z2，则计算单元503，具体用于：
计算M个服务节点的历史指标中的平均值如下所示， 其中，aAVG、bAVG、cAVG、dAVG、f1AVG、e1AVG和g1AVG分别表示M个服务节点的历史指标中的网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、内存空闲率和CPU处理速率的平均值；
计算M个服务节点中的第i个服务节点的第一调度值Xdis(i)如下所示，
计算M个服务节点的各个当前指标的平均值如下所示， 其中，f2AVG、e2AVG和g2AVG分别表示M个服务节点的当前指标中的tcp连接数、内存使用率和CPU使用率的平均值；
计算M个服务节点中的第i个服务节点的第二调度值Ydis(i)如下所示
计算M个服务节点中的第i个服务节点的的调度指标DIS(i)如下所示DIS(i)＝z1×Xdis(i)+z2×Ydis(i)。
结合本发明实施例公开内容所描述的方法或者算法的步骤可以硬件的方式来实现，也可以是由处理器执行软件指令的方式来实现。软件指令可以由相应的软件模块组成，软件模块可以被存放于随机存取存储器(英文：random access memory，简称：RAM)、闪存、只读存储器(英文：read only memory，简称：ROM)、可擦除可编程只读存储器(英文：erasable programmable rom，简称：EPROM)、电可擦可编程只读存储器(英文：electrically eprom，简称：EEPROM)、寄存器、硬盘、移动硬盘、只读光盘(CD-ROM)或者本领域熟知的任何其它形式的存储介质中。一种示例性的存储介质耦合至处理器，从而使处理器能够从该存储介质读取信息，且可向该存储介质写入信息。当然，存储介质也可以是处理器的组成部分。处理器和存储介质可以位于ASIC中。另外，该ASIC可以位于网络设备中。当然，处理器和存储介质也可以作为分立组件存在于网络设备中。
本领域技术人员应该可以意识到，在上述一个或多个示例中，本发明实施例所描述的功能可以用硬件、软件、固件或它们的任意组合来实现。当使用软件实现时，可以将这些功能存储在计算机可读介质中或者作为计算机可读介质上的一个或多个指令或代码进行传输。计算机可读介质包括计算机存储介质和通信介质，其中通信介质包括便于从一个地方向另一个地方传送计算机程序的任何介质。存储介质可以是通用或专用计算机能够存取的任何可用介质。
以上所述的具体实施方式，对本发明实施例的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明实施例的具体实施方式而已，并不用于限定本发明实施例的保护范围，凡在本发明实施例的技术方案的基础之上，所做的任何修改、等同替换、改进等，均应包括在本发明实施例的保护范围之内。

Claims (10)

1.一种负载均衡调度方法，其特征在于，所述方法包括：
负载均衡节点接收客户端发送的服务请求；
所述负载均衡节点获取M个服务节点的运行指标，所述M个服务节点为预先配置的为所述客户端提供服务的服务节点，M为正整数，所述运行指标包括历史指标和当前指标；
所述负载均衡节点根据所述M个服务节点的运行指标以及预先设置的各个运行指标的权重计算所述M个服务节点中的各个服务节点的调度指标；
所述负载均衡节点从所述M个服务节点中选择调度指标最大的服务节点作为目标服务节点；
所述负载均衡节点向所述目标服务节点发送所述服务请求，所述目标服务节点用于处理所述服务请求。
2.根据权利要求1所述的方法，其特征在于，所述历史指标包括网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建传输控制协议tcp连接速率、中央处理器CPU处理速率和内存空闲率中的一个或多个，所述当前指标包括tcp连接数、CPU使用率和内存使用率中的一个或多个。
3.根据权利要求2所述的方法，其特征在于，所述历史指标至少包括第一监控周期内的分析数据，所述第一监控周期位于所述第一时刻之前且所述第一监控周期的终止时刻与所述第一时刻之间的时长小于监控周期的时长，所述第一时刻为所述负载均衡节点接收到所述客户端发送的服务请求的时刻。
4.根据权利要求2或3任一项所述的方法，其特征在于，所述负载均衡节点根据所述M个服务节点的运行指标以及预先设置的各个运行指标的权重计算所述M个服务节点中的各个服务节点的调度指标，包括：
所述负载均衡节点根据所述M个服务节点的历史指标，得到所述M个服务节点的各个历史指标的平均值；
所述负载均衡节点根据所述M个服务节点的历史指标、所述M个服务节点的各个历史指标的平均值和各个历史指标的权重，得到所述M个服务节点中的各个服务节点的第一调度值；
所述负载均衡节点根据所述M个服务节点的当前指标，得到所述M个服务节点的各个当前指标的平均值；
所述负载均衡节点根据所述M个服务节点的当前指标、所述M个服务节点的各个当前指标的平均值和各个当前指标的权重，得到所述M个服务节点中的各个服务节点的第二调度值；
所述负载均衡节点根据所述M个服务节点中的各个服务节点的第一调度值、所述M个服务节点中的各个服务节点的第二调度值、所述历史指标的权重和所述当前指标的权重，得到所述M个服务节点中的各个服务节点的的调度指标。
5.根据权利要求4所述的方法，其特征在于，若将所述M个服务节点中的第i个服务节点的历史指标中的网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率和内存空闲率，分别表示为a(i)、b(i)、c(i)、d(i)、e1(i)和f1(i)，所述第i个服务节点的CPU个数表示为m(i)，所述第i个服务节点的第j个CPU的CPU处理速率表示为g1(i,j)，所述历史指标中的网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、内存空闲率和CPU处理速率的权重分别表示为x1、x2、x3、x4、x5、x6和x7，将所述第i个服务节点的当前指标中的tcp连接数、内存使用率和CPU使用率分别表示为e2(i)、f2(i)和g2(i)，所述当前指标中的tcp连接数、内存使用率和CPU使用率的权重分别表示为y1、y2和y3，所述历史指标的权重和当前指标的权重分别表示为z1和z2，则所述负载均衡节点根据所述M个服务节点的运行指标以及预先设置的各个运行指标的权重计算所述M个服务节点中的各个服务节点的调度指标，包括：
计算所述M个服务节点的各个历史指标的平均值如下所示， 其中，aAVG、bAVG、cAVG、dAVG、f1AVG、e1AVG和g1AVG分别表示所述M个服务节点的历史指标中的网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、内存空闲率和CPU处理速率的平均值；
计算所述M个服务节点中的第i个服务节点的第一调度值Xdis(i)如下所示，
计算所述M个服务节点的各个当前指标的平均值如下所示， 其中，f2AVG、e2AVG和g2AVG分别表示所述M个服务节点的当前指标中的tcp连接数、内存使用率和CPU使用率的平均值；
计算所述M个服务节点中的第i个服务节点的第二调度值Ydis(i)如下所示，
计算所述M个服务节点中的第i个服务节点的调度指标DIS(i)如下所示，DIS(i)＝z1×Xdis(i)+z2×Ydis(i)。
6.一种负载均衡调度装置，其特征在于，所述装置包括：
接收单元，用于接收客户端发送的服务请求；
获取单元，用于获取M个服务节点的运行指标，所述M个服务节点为预先配置的为所述客户端提供服务的服务节点，M为正整数，所述运行指标包括历史指标和当前指标；
计算单元，用于根据所述M个服务节点的运行指标以及预先设置的各个运行指标的权重计算所述M个服务节点中的各个服务节点的调度指标；
调度单元，用于从所述M个服务节点中选择调度指标最大的服务节点作为目标服务节点；
发送单元，用于向所述目标服务节点发送所述服务请求，所述目标服务节点用于处理所述服务请求。
7.根据权利要求6所述的装置，其特征在于，所述历史指标包括网络流量、数据包接收速率、服务请求处理速率、数据加密及解密的处理速率、新建tcp连接速率、CPU处理速率和内存空闲率中的一个或多个，所述当前指标包括tcp连接数、CPU使用率和内存使用率中的一个或多个。
8.根据权利要求7所述的装置，其特征在于，所述历史指标至少包括第一监控周期内的分析数据，所述第一监控周期位于所述第一时刻之前且所述第一监控周期的终止时刻与所述第一时刻之间的时长小于监控周期的时长，所述第一时刻为所述负载均衡节点接收到所述客户端发送的服务请求的时刻。
9.一种服务器，其特征在于，包括处理器、通信设备和存储器，所述处理器、通信设备和存储器相互连接，其中，所述存储器用于存储应用程序代码，所述处理器被配置用于调用所述应用程序代码，执行如权利要求1至5任一项所述的方法。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行以实现权利要求1至5任意一项所述的方法。
CN201910190925.XA 2019-03-11 2019-03-11 一种负载均衡调度方法及装置 Pending CN110602156A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910190925.XA CN110602156A (zh) 2019-03-11 2019-03-11 一种负载均衡调度方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910190925.XA CN110602156A (zh) 2019-03-11 2019-03-11 一种负载均衡调度方法及装置

Publications (1)

Publication Number Publication Date
CN110602156A true CN110602156A (zh) 2019-12-20

Family

ID=68852449

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910190925.XA Pending CN110602156A (zh) 2019-03-11 2019-03-11 一种负载均衡调度方法及装置

Country Status (1)

Country Link
CN (1) CN110602156A (zh)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111131486A (zh) * 2019-12-30 2020-05-08 北京三快在线科技有限公司 执行节点的负载调节方法、装置、服务器及存储介质
CN111324464A (zh) * 2020-03-12 2020-06-23 北京首汽智行科技有限公司 一种基于微服务架构的负载分配方法
CN111343266A (zh) * 2020-02-24 2020-06-26 中国工商银行股份有限公司 路由决策方法及装置
CN111459680A (zh) * 2020-04-07 2020-07-28 周文明 一种数据采集处理系统和方法
CN111738446A (zh) * 2020-06-12 2020-10-02 北京百度网讯科技有限公司 深度学习推理引擎的调度方法、装置、设备和介质
CN112019630A (zh) * 2020-09-01 2020-12-01 北京天融信网络安全技术有限公司 一种负载均衡方法以及装置
CN112256434A (zh) * 2020-10-30 2021-01-22 中国科学院信息工程研究所 一种加密数据破解场景中的资源匹配方法
CN112333255A (zh) * 2020-10-27 2021-02-05 重庆紫光华山智安科技有限公司 负载均衡调度方法、装置、调度服务器及存储介质
CN112422610A (zh) * 2020-09-11 2021-02-26 深圳市证通电子股份有限公司 一种基于分布式对象存储的智能网关方法和系统
CN113032225A (zh) * 2021-05-24 2021-06-25 上海有孚智数云创数字科技有限公司 数据中心的监控数据处理方法、装置、设备及存储介质
CN113691571A (zh) * 2020-05-18 2021-11-23 广州虎牙科技有限公司 状态信息处理方法和装置、管理服务器及存储介质
CN114726860A (zh) * 2022-03-21 2022-07-08 慧之安信息技术股份有限公司 一种面向流媒体传输的负载均衡系统及负载均衡方法
CN115150399A (zh) * 2022-07-25 2022-10-04 深圳爱换电科技有限公司 负载均衡方法、负载均衡装置、处理系统及存储介质
CN116112493A (zh) * 2023-02-09 2023-05-12 网易（杭州）网络有限公司 一种通信方法、装置、电子设备及存储介质
CN116382892A (zh) * 2023-02-08 2023-07-04 深圳市融聚汇信息科技有限公司 一种基于多云融合以及云服务的负载均衡方法及装置
WO2023246309A1 (zh) * 2022-06-23 2023-12-28 京东方科技集团股份有限公司 数据处理方法、装置及系统

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101695050A (zh) * 2009-10-19 2010-04-14 浪潮电子信息产业股份有限公司 一种基于网络流量自适应预测的动态负载均衡方法
CN103338228A (zh) * 2013-05-30 2013-10-02 江苏大学 基于双加权最小连接算法的云计算负载均衡调度算法
CN104796494A (zh) * 2015-05-08 2015-07-22 成都博元科技有限公司 一种云平台数据传输方法
WO2015192251A1 (en) * 2014-06-20 2015-12-23 Cirba Inc. System and method for optimizing placements of virtual machines on hypervisor hosts
WO2017000628A1 (zh) * 2015-06-30 2017-01-05 华为技术有限公司 一种云计算系统中的资源调度方法及装置
CN106790726A (zh) * 2017-03-30 2017-05-31 电子科技大学 一种基于Docker云平台的优先级队列动态反馈负载均衡资源调度方法
CN108322495A (zh) * 2017-01-18 2018-07-24 阿里巴巴集团控股有限公司 资源访问请求的处理方法、装置和系统
CN108920282A (zh) * 2018-08-03 2018-11-30 北京科技大学 一种支持负载均衡的内容副本生成、放置及更新方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101695050A (zh) * 2009-10-19 2010-04-14 浪潮电子信息产业股份有限公司 一种基于网络流量自适应预测的动态负载均衡方法
CN103338228A (zh) * 2013-05-30 2013-10-02 江苏大学 基于双加权最小连接算法的云计算负载均衡调度算法
WO2015192251A1 (en) * 2014-06-20 2015-12-23 Cirba Inc. System and method for optimizing placements of virtual machines on hypervisor hosts
CN104796494A (zh) * 2015-05-08 2015-07-22 成都博元科技有限公司 一种云平台数据传输方法
WO2017000628A1 (zh) * 2015-06-30 2017-01-05 华为技术有限公司 一种云计算系统中的资源调度方法及装置
CN108322495A (zh) * 2017-01-18 2018-07-24 阿里巴巴集团控股有限公司 资源访问请求的处理方法、装置和系统
CN106790726A (zh) * 2017-03-30 2017-05-31 电子科技大学 一种基于Docker云平台的优先级队列动态反馈负载均衡资源调度方法
CN108920282A (zh) * 2018-08-03 2018-11-30 北京科技大学 一种支持负载均衡的内容副本生成、放置及更新方法

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111131486A (zh) * 2019-12-30 2020-05-08 北京三快在线科技有限公司 执行节点的负载调节方法、装置、服务器及存储介质
CN111343266A (zh) * 2020-02-24 2020-06-26 中国工商银行股份有限公司 路由决策方法及装置
CN111343266B (zh) * 2020-02-24 2022-10-11 中国工商银行股份有限公司 路由决策方法及装置
CN111324464A (zh) * 2020-03-12 2020-06-23 北京首汽智行科技有限公司 一种基于微服务架构的负载分配方法
CN111459680A (zh) * 2020-04-07 2020-07-28 周文明 一种数据采集处理系统和方法
CN113691571A (zh) * 2020-05-18 2021-11-23 广州虎牙科技有限公司 状态信息处理方法和装置、管理服务器及存储介质
CN111738446A (zh) * 2020-06-12 2020-10-02 北京百度网讯科技有限公司 深度学习推理引擎的调度方法、装置、设备和介质
CN111738446B (zh) * 2020-06-12 2023-11-03 北京百度网讯科技有限公司 深度学习推理引擎的调度方法、装置、设备和介质
CN112019630A (zh) * 2020-09-01 2020-12-01 北京天融信网络安全技术有限公司 一种负载均衡方法以及装置
CN112019630B (zh) * 2020-09-01 2023-09-01 北京天融信网络安全技术有限公司 一种负载均衡方法以及装置
CN112422610A (zh) * 2020-09-11 2021-02-26 深圳市证通电子股份有限公司 一种基于分布式对象存储的智能网关方法和系统
CN112422610B (zh) * 2020-09-11 2023-06-16 深圳市证通电子股份有限公司 一种基于分布式对象存储的智能网关方法和系统
CN112333255A (zh) * 2020-10-27 2021-02-05 重庆紫光华山智安科技有限公司 负载均衡调度方法、装置、调度服务器及存储介质
CN112256434A (zh) * 2020-10-30 2021-01-22 中国科学院信息工程研究所 一种加密数据破解场景中的资源匹配方法
CN112256434B (zh) * 2020-10-30 2024-04-05 中国科学院信息工程研究所 一种加密数据破解场景中的资源匹配方法
CN113032225A (zh) * 2021-05-24 2021-06-25 上海有孚智数云创数字科技有限公司 数据中心的监控数据处理方法、装置、设备及存储介质
CN113032225B (zh) * 2021-05-24 2021-08-06 上海有孚智数云创数字科技有限公司 数据中心的监控数据处理方法、装置、设备及存储介质
CN114726860A (zh) * 2022-03-21 2022-07-08 慧之安信息技术股份有限公司 一种面向流媒体传输的负载均衡系统及负载均衡方法
CN114726860B (zh) * 2022-03-21 2022-10-21 慧之安信息技术股份有限公司 一种面向流媒体传输的负载均衡系统及负载均衡方法
WO2023246309A1 (zh) * 2022-06-23 2023-12-28 京东方科技集团股份有限公司 数据处理方法、装置及系统
CN115150399A (zh) * 2022-07-25 2022-10-04 深圳爱换电科技有限公司 负载均衡方法、负载均衡装置、处理系统及存储介质
CN116382892A (zh) * 2023-02-08 2023-07-04 深圳市融聚汇信息科技有限公司 一种基于多云融合以及云服务的负载均衡方法及装置
CN116382892B (zh) * 2023-02-08 2023-10-27 深圳市融聚汇信息科技有限公司 一种基于多云融合以及云服务的负载均衡方法及装置
CN116112493A (zh) * 2023-02-09 2023-05-12 网易（杭州）网络有限公司 一种通信方法、装置、电子设备及存储介质

Similar Documents

Publication Publication Date Title
CN110602156A (zh) 一种负载均衡调度方法及装置
CN109831524B (zh) 一种负载均衡处理方法及装置
CN109218355B (zh) 负载均衡引擎，客户端，分布式计算系统以及负载均衡方法
US10078533B2 (en) Coordinated admission control for network-accessible block storage
US9112809B2 (en) Method and apparatus for controlling utilization in a horizontally scaled software application
US9781012B2 (en) Behavior monitoring and compliance for multi-tenant resources
WO2020019743A1 (zh) 流量控制方法及装置
CN110365748A (zh) 业务数据的处理方法和装置、存储介质及电子装置
CN109933431B (zh) 一种智能的客户端负载均衡方法及系统
US10250673B1 (en) Storage workload management using redirected messages
US20140280818A1 (en) Distributed data center technology
Huang et al. ARS: Cross-layer adaptive request scheduling to mitigate TCP incast in data center networks
CN112132942B (zh) 一种三维场景漫游实时渲染方法
US11316916B2 (en) Packet processing method, related device, and computer storage medium
CN112888005B (zh) 一种面向mec的分布式业务调度方法
CN108924203B (zh) 数据副本自适应分布方法、分布式计算系统及相关设备
WO2014183574A1 (zh) 计算节点部署方法、处理节点、控制器及系统
CN112600761A (zh) 一种资源分配的方法、装置及存储介质
US11709707B2 (en) Low latency distributed counters for quotas
CN115729864A (zh) 存储装置、电子装置以及电子装置的操作方法
CN114003337A (zh) 访问请求的分配方法及装置
CN105656794A (zh) 数据分发方法及装置
CN107659511B (zh) 一种过载控制方法、主机和存储介质以及程序产品
CN113268329A (zh) 一种请求调度方法、装置及存储介质
CN110968419A (zh) 数据接收方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20191220

RJ01 Rejection of invention patent application after publication