CN114035895A - 一种基于虚拟服务计算能力的全局负载均衡方法和装置 - Google Patents
一种基于虚拟服务计算能力的全局负载均衡方法和装置 Download PDFInfo
- Publication number
- CN114035895A CN114035895A CN202111309555.0A CN202111309555A CN114035895A CN 114035895 A CN114035895 A CN 114035895A CN 202111309555 A CN202111309555 A CN 202111309555A CN 114035895 A CN114035895 A CN 114035895A
- Authority
- CN
- China
- Prior art keywords
- virtual service
- rate
- virtual
- utilization rate
- overload
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5077—Logical partitioning of resources; Management or configuration of virtualized resources
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
- G06F2009/4557—Distribution of virtual machine instances; Migration and load balancing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
- G06F2009/45583—Memory management, e.g. access or allocation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/5011—Pool
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
Abstract
本申请的实施例提供了基于虚拟服务计算能力的全局负载均衡方法和装置。方法包括解析获取的用户请求的域名信息;根据域名信息匹配相应的虚拟服务池,虚拟服务池包括多个虚拟服务;依据每个虚拟服务的占用信息确定每个虚拟服务的综合过载率;调度用户请求至综合过载率最低的虚拟服务。以此方式,可以在客户端访问指定域名时,综合分析提供服务的虚拟服务的硬件资源信息和软件处理能力,并具象化为综合过载率,对虚拟服务综合过载率排序,保证每次都会将客户的请求调度给综合服务能力最强的虚拟服务器,在保证用户正常访问的情况下,优先使用综合过载率低的服务器响应客户端请求,保障虚拟服务的可用性。
Description
技术领域
本申请的实施例涉及通信技术领域,并且更具体地,涉及一种基于虚拟服务计算能力的全局负载均衡方法和装置。
背景技术
随着互联网的快速发展和企业应用WEB化,负载均衡技术在应用部署中已经越来越重要。服务器负载均衡可以根据用户数据请求中的4-7层信息将其智能转发到后端少则数台多则成百上千台应用服务器,并且能够根据事先定义的策略选择最佳的服务器进行转发,从而一定程度上解决了应用的可用性、扩展性等问题。但是,随着用户对应用可用性和扩展性需求的增加,越来越多的用户不满足于在单一数据中心提供服务,开始考虑容灾、用户就近访问等问题。这正是全局服务器负载均衡技术(GSLB)所要解决的问题。
目前的服务器选择策略通常采用全局负载均衡最小连接数算法,即全局负载均衡模块将用户请求调度给所有数据中心连接数最少的虚拟服务;或全局负载均衡节点CPU最小使用率算法,即全局负载均衡模块将用户请求调度给所有数据中心节点CPU使用率最小的虚拟服务。
上述提及的调度算法只是依赖于单一的指标,但用户实际应用中可能存在以下情形:当前虚拟服务连接数较少,但是CPU使用率、内存使用率、硬盘使用率等硬件资源消耗较大时,如果使用最小连接数算法就会将客户端请求调度到此连接数较少的虚拟服务上,可能由于CPU、内存、磁盘满载而导致服务器响应用户请求的速度较慢,从而导致用户体验不佳。同样,如果虚拟服务的CPU使用率较小,但是当前虚拟服务的新建连接数已经达到满载状态,此时如果通过节点CPU使用率最小算法将用户请求调度到当前虚拟服务上,同样会导致服务器响应用户请求的速度慢,甚至出现客户端无法访问服务器的问题。
发明内容
根据本申请的实施例,提供了一种基于虚拟服务计算能力的全局负载均衡方案。
在本申请的第一方面,提供了一种基于虚拟服务计算能力的全局负载均衡方法。该方法包括:
解析获取的用户请求的域名信息;
根据所述域名信息匹配相应的虚拟服务池,所述虚拟服务池包括多个虚拟服务;
依据每个所述虚拟服务的占用信息确定每个虚拟服务的综合过载率;
调度所述用户请求至综合过载率最低的虚拟服务。
在一种可能实现的方式中,所述占用信息包括CPU使用率、内存使用率和连接过载率。
在一种可能实现的方式中,所述依据所述虚拟服务的占用信息确定每个虚拟服务的综合过载率包括:
获取所述虚拟服务的CPU使用率、内存使用率和连接过载率;
依据采样数据分别计算所述CPU使用率权重、所述内存使用率权重以及所述连接过载率权重;
根据所述CPU使用率、所述CPU使用率权重、所述内存使用率、所述内存使用率权重、所述连接过载率以及所述连接过载率权重,确定所述综合过载率。
在一种可能实现的方式中,所述依据采样数据分别计算所述CPU使用率权重、所述内存使用率权重以及所述连接过载率权重:
依据多个所述CPU使用率的标准差和平均值确定所述CPU使用率的变异系数;
依据所述CPU使用率的变异系数和所述CPU使用率的平均值综合确定所述CPU使用率权重;
依据多个所述内存使用率的标准差和平均值确定所述内存使用率的变异系数;
依据所述内存使用率的变异系数和所述内存使用率的平均值综合确定所述内存使用率权重;
依据多个所述连接过载率的标准差和平均值确定所述连接过载率的变异系数;
依据所述连接过载率的变异系数和所述连接过载率的平均值综合确定所述连接过载率权重。
在一种可能实现的方式中,所述调度所述用户请求至综合过载率最低的虚拟服务包括:
获取所述综合过载率最低的虚拟服务的虚拟地址;
发送所述虚拟地址至发出所述用户请求的客户端,以使得所述客户端向所述综合过载率最低的虚拟服务重新发送请求。
本申请提供的一种基于虚拟服务计算能力的全局负载均衡方法,在客户端访问指定域名时,可以综合分析提供服务的虚拟服务的硬件资源信息和软件处理能力,并具象化为综合过载率,对虚拟服务综合过载率排序,保证每次都会将客户的请求调度给综合服务能力最强的虚拟服务器,从而在保证用户正常访问的情况下,优先使用资源占用率低的服务器响应客户端请求,解决了单一负载均衡算法可能调度到访问较慢或无法访问的服务器的问题。
在本申请的第二方面,提供了一种基于虚拟服务计算能力的全局负载均衡装置,该装置包括:
解析模块,用于解析获取的用户请求的域名信息;
匹配模块,用于根据所述域名信息匹配相应的虚拟服务池,所述虚拟服务池包括多个虚拟服务;
计算模块,用于依据每个所述虚拟服务的占用信息确定每个虚拟服务的综合过载率;
调度模块,用于调度所述用户请求至综合过载率最低的虚拟服务。
在一种可能实现的方式中,所述计算模块包括:
获取单元,用于获取所述虚拟服务的CPU使用率、内存使用率和连接过载率;
处理单元,用于依据采样数据分别计算所述CPU使用率权重、所述内存使用率权重以及所述连接过载率权重;
确定单元,用于根据所述CPU使用率、所述CPU使用率权重、所述内存使用率、所述内存使用率权重、所述连接过载率以及所述连接过载率权重,确定所述综合过载率。
在一种可能实现的方式中,还包括:
分析模块,用于获取所述综合过载率最低的虚拟服务的虚拟地址;
通讯模块,用于发送所述虚拟地址至发出所述用户请求的客户端,以使得所述客户端向所述综合过载率最低的虚拟服务重新发送请求。
在本申请的第三方面,提供了一种电子设备。该电子设备包括:存储器和处理器,所述存储器上存储有计算机程序,所述处理器执行所述程序时实现如以上所述的方法。
在本申请的第四方面,提供了一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现如根据本申请的第一方面的方法。
应当理解,发明内容部分中所描述的内容并非旨在限定本申请的实施例的关键或重要特征,亦非用于限制本申请的范围。本申请的其它特征将通过以下的描述变得容易理解。
附图说明
结合附图并参考以下详细说明,本申请各实施例的上述和其他特征、优点及方面将变得更加明显。在附图中,相同或相似的附图标记表示相同或相似的元素,其中:
图1示出了能够在其中实现本申请的实施例的示例性运行环境的示意图;
图2示出了根据本申请的实施例的一种基于虚拟服务计算能力的全局负载均衡方法的流程图;
图3示出了根据本申请的实施例的一种基于虚拟服务计算能力的全局负载均衡装置的方框图;
图4示出了适于用来实现本申请实施例的终端设备或服务器的结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例,都属于本申请保护的范围。
本申请使用的所有术语(包括技术术语或者科学术语)与本申请所属领域的普通技术人员理解的含义相同,除非另外特别定义。还应当理解,在诸如通用字典中定义的术语应当被解释为具有与它们在相关技术的上下文中的含义相一致的含义,而不应用理想化或极度形式化的意义来解释,除非这里明确地这样定义。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
本申请中,基于虚拟服务计算能力的全局负载均衡智能算法,在客户端访问指定域名时,可以综合分析提供服务的虚拟服务的硬件资源信息和软件处理能力,通过获取虚拟服务池中的所有虚拟服务的硬件资源使用信息和服务软件处理能力,对虚拟服务综合能力排序,保证每次都会将客户的请求调度给综合服务能力最强的虚拟服务器,从而在保证用户正常访问的情况下,优先使用资源占用率低的服务器响应客户端请求,解决了单一负载均衡算法可能调度到访问较慢或无法访问的服务器的问题。
图1示出了能够在其中实现本申请的实施例的示例性运行环境的示意图。在运行环境中包括客户端101、全局负载均衡系统102和虚拟服务池103。客户端101和全局负载均衡系统102可以通过无线通信网络进行通信,虚拟服务池103和全局负载均衡系统102可以通过无线通信网络进行通信,也可以通过有线网络进行通信。
客户端101可以是手机、平板电脑、手环等可穿戴设备,本申请实施例对此不做具体限定。客户端中的操作系统可以是安卓(Android)操作系统,也可以是苹果ios操作系统,本申请实施例对此不做具体限定。
全局负载均衡系统102例如可以包括处理器、存储器、接口装置、通信装置。处理器用于执行程序指令,该程序指令可以采用比如x86、Arm、RISC、MIPS、SSE等架构的指令集。存储器例如包括ROM(只读存储器)、RAM(随机存取存储器)、诸如硬盘的非易失性存储器等。接口装置例如包括USB接口、串行接口等。通信装置例如能够进行有线或无线通信。
在本实施例中,全局负载均衡系统102中的存储器用于存储指令,该指令用于控制处理器进行操作以实施或者支持实施根据本说明书的至少部分实施例的基于虚拟服务计算能力的全局负载均衡方法。技术人员可以根据本说明书所公开方案设计指令。指令如何控制处理器进行操作,这属于本领域公知常识,在此不再详细描述。 需要说明的是,图1所示的运行环境仅是解释性的,绝不是为了限制本发明实施例的应用或用途。例如,该运行环境中可以包括多个客户端101、多个全局负载均衡系统102和多个虚拟服务池103。
图2示出了根据本申请实施例的一种基于虚拟服务计算能力的全局负载均衡方法的流程图。方法可以由图1中的全局负载均衡系统102执行。
步骤S100、解析获取的用户请求的域名信息。
其中,用户请求可以是客户端发出的DNS请求,在接受到用户请求后,对用户请求进行解析,以获取用户请求指定的域名信息,根据域名信息建立客户端与DNS服务的连接。
步骤S200、根据所述域名信息匹配相应的虚拟服务池,所述虚拟服务池包括多个虚拟服务。
在本申请实施例中,获取域名信息后,可以根据域名信息匹配相应的虚拟服务池,虚拟服务池中具有多个可供选择的虚拟服务,由于每个虚拟服务当前的运行情况各不相同,执行步骤3以对虚拟服务进行筛选。
步骤S300、依据每个所述虚拟服务的占用信息确定每个虚拟服务的综合过载率。
在本申请实施例中,占用信息包括CPU使用率、内存使用率和连接过载率;其中,CPU使用率即运行程序占用的CPU资源比例,能够反应虚拟服务内程序运行情况,CPU使用率越高则表示虚拟服务运行的程序越多。内存使用率即虚拟服务内运行程序所占用的内存比例。连接过载率即虚拟服务的当前连接数与满载状态下的连接数之比。
需要说明的是,占用信息还可以包括其他信息指标,在此不做限定。
在确认虚拟服务池后,调取虚拟服务池内每个虚拟服务的CPU使用率(M1)、内存使用率(M2)和连接过载率(M3),并依据采样数据和变异系数法分别计算CPU使用率权重(W1)、内存使用率权重(W2)以及连接过载率权重(W3),进而计算得到每个虚拟服务的综合过载率(P)。
综合过载率(P)的计算公式如下:
P=W1×M1+W2×M2+W3×M3
需要说明的是,CPU使用率权重(W1)、内存使用率权重(W2)以及连接过载率权重(W3)的和为1。
在一个具体的示例中,虚拟服务池中有3个虚拟服务,分别为vs1(1.1.1.1:80),vs2(2.2.2.2:80),vs3(3.3.3.3:80),获取3个虚拟服务CPU使用率、内存使用率和连接过载率。如表1所示,以 CPU使用率权重为0.3、内存使用率权重为0.2、连接数过载率权重为0.5为例,依据虚拟服务综合过载率计算公式,可以计算得到如表2所述的三个虚拟服务的综合过载率。
表1 各虚拟服务CPU、内存、连接数使用率:
虚拟服务 | 地址 | 端口 | CPU使用率(%) | 内存使用率(%) | 连接数过载率(%) |
vs1 | 1.1.1.1 | 80 | 60 | 80 | 85 |
vs2 | 2.2.2.2 | 80 | 75 | 90 | 76 |
Vs3 | 3.3.3.3 | 80 | 55 | 60 | 80 |
表2 各虚拟服务综合过载率:
虚拟服务 | 地址 | 端口 | 综合过载率 |
vs1 | 1.1.1.1 | 80 | 0.77 |
vs2 | 2.2.2.2 | 80 | 0.79 |
Vs3 | 3.3.3.3 | 80 | 0.69 |
具体计算过程如下:
P(vs1) = 0.6×0.3 + 0.8×0.2 + 0.85×0.5 = 0.77
P(vs2) = 0.75×0.3 + 0.9×0.2 + 0.76×0.5 = 0.79
P(vs3) = 0.55×0.3 + 0.6×0.2 + 0.8×0.5 = 0.69
在本申请实施例中,获取CPU使用率权重的方式可以是依据多个所述CPU使用率的标准差和平均值确定所述CPU使用率的变异系数;再依据所述CPU使用率的变异系数和所述CPU使用率的平均值综合确定所述CPU使用率权重。
获取内存使用率权重的方式可以是依据多个所述内存使用率的标准差和平均值确定所述内存使用率的变异系数;再依据所述内存使用率的变异系数和所述内存使用率的平均值综合确定所述内存使用率权重。
获取连接过载率权重的方式可以是依据多个所述连接过载率的标准差和平均值确定所述连接过载率的变异系数;再依据所述连接过载率的变异系数和所述连接过载率的平均值综合确定所述连接过载率权重。
变异系数法的计算公式如下:
Vi表示第i个指标的变异系数;σi表示第i个指标的标准差;Xi表示第i个指标的平均值;n表示指标的个数;
Wi表示第i个指标的权重;Vi表示第i个指标的变异系数;Xn表示所有指标的平均值总和;n表示指标的个数。
步骤S400、调度所述用户请求至综合过载率最低的虚拟服务。
由于综合过载率能够体现虚拟服务响应用户请求的能力,综合过载率越低则响应能力越强,因此在获取到虚拟服务池内每个虚拟服务的综合过载率后,可以依据综合过载率对多个虚拟服务升序排列,确定综合过载率最低的虚拟服务,并将综合过载率最低的虚拟服务的虚拟地址推送至发出用户请求的服务端,以使得客户端可以对该虚拟服务重新发起业务访问,由该虚拟服务对用户请求做出响应。
本申请公开的一种基于虚拟服务计算能力的全局负载均衡方法,在接收用户请求后,可以依据用户请求匹配相应的虚拟服务池,并根据虚拟服务池中每个虚拟服务的综合过载率,筛选综合过载率最低的虚拟服务响应用户请求,以保障每次都会将客户的请求调度给综合服务能力最强的虚拟服务器,并且在提供服务的虚拟服务出现故障时,可以切换其他虚拟服务为提供服务,保障了服务的可用性。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于可选实施例,所涉及的动作和模块并不一定是本申请所必须的。
以上是关于方法实施例的介绍,以下通过装置实施例,对本申请所述方案进行进一步说明。
图3示出了根据本申请的实施例的一种基于虚拟服务计算能力的全局负载均衡装置的方框图。如图所示,装置包括:
解析模块301,用于解析获取的用户请求的域名信息;
匹配模块302,用于根据所述域名信息匹配相应的虚拟服务池,所述虚拟服务池包括多个虚拟服务;
计算模块303,用于依据每个所述虚拟服务的占用信息确定每个虚拟服务的综合过载率;
调度模块304,用于调度所述用户请求至综合过载率最低的虚拟服务。
在一种可能实现的方式中,所述计算模块303包括:
获取单元,用于获取所述虚拟服务的CPU使用率、内存使用率和连接过载率;
处理单元,用于依据采样数据分别计算所述CPU使用率权重、所述内存使用率权重以及所述连接过载率权重;
确定单元,用于根据所述CPU使用率、所述CPU使用率权重、所述内存使用率、所述内存使用率权重、所述连接过载率以及所述连接过载率权重,确定所述综合过载率。
在一种可能实现的方式中,还包括:
分析模块,用于获取所述综合过载率最低的虚拟服务的虚拟地址;
通讯模块,用于发送所述虚拟地址至发出所述用户请求的客户端,以使得所述客户端向所述综合过载率最低的虚拟服务重新发送请求。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,所述描述的模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
图4示出了适于用来实现本申请实施例的电子设备的结构示意图。
如图4所示,电子设备包括中央处理单元(CPU)401,其可以根据存储在只读存储器(ROM)402中的程序或者从存储部分408加载到随机访问存储器(RAM)404中的程序而执行各种适当的动作和处理。在RAM 403中,还存储有系统400操作所需的各种程序和数据。CPU401、ROM 402以及RAM 403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。
以下部件连接至I/O接口405:包括键盘、鼠标等的输入部分406;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分407;包括硬盘等的存储部分408;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分409。通信部分409经由诸如因特网的网络执行通信处理。驱动器410也根据需要连接至I/O接口405。可拆卸介质411,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器410上,以便于从其上读出的计算机程序根据需要被安装入存储部分408。
特别地,根据本申请的实施例,上文参考流程图图2描述的过程可以被实现为计算机软件程序。例如,本申请的实施例包括一种计算机程序产品,其包括承载在机器可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分409从网络上被下载和安装,和/或从可拆卸介质411被安装。在该计算机程序被中央处理单元(CPU)401执行时,执行本申请的系统中限定的上述功能。
需要说明的是,本申请所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,前述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元或模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元或模块也可以设置在处理器中,例如,可以描述为:一种处理器包括解析模块、匹配模块、计算模块和调度模块。其中,这些单元或模块的名称在某种情况下并不构成对该单元或模块本身的限定,例如,解析模块还可以被描述为“用于解析获取的用户请求的域名信息的模块”。
作为另一方面,本申请还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中的。上述计算机可读存储介质存储有一个或者多个程序,当上述前述程序被一个或者一个以上的处理器用来执行描述于本申请的一种基于虚拟服务计算能力的全局负载均衡方法。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本申请中所涉及的申请范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离前述申请构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中申请的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (10)
1.一种基于虚拟服务计算能力的全局负载均衡方法,其特征在于,包括:
解析获取的用户请求的域名信息;
根据所述域名信息匹配相应的虚拟服务池,所述虚拟服务池包括多个虚拟服务;
依据每个所述虚拟服务的占用信息确定每个虚拟服务的综合过载率;
调度所述用户请求至所述综合过载率最低的虚拟服务。
2.根据权利要求1所述的一种基于虚拟服务计算能力的全局负载均衡方法,其特征在于,所述占用信息包括CPU使用率、内存使用率和连接过载率。
3.根据权利要求2所述的一种基于虚拟服务计算能力的全局负载均衡方法,其特征在于,所述依据所述虚拟服务的占用信息确定每个虚拟服务的综合过载率包括:
获取所述虚拟服务的CPU使用率、内存使用率和连接过载率;
依据采样数据分别计算所述CPU使用率权重、所述内存使用率权重以及所述连接过载率权重;
根据所述CPU使用率、所述CPU使用率权重、所述内存使用率、所述内存使用率权重、所述连接过载率以及所述连接过载率权重,确定所述综合过载率。
4.根据权利要求3所述的一种基于虚拟服务计算能力的全局负载均衡方法,其特征在于,所述依据采样数据分别计算所述CPU使用率权重、所述内存使用率权重以及所述连接过载率权重:
依据多个所述CPU使用率的标准差和平均值确定所述CPU使用率的变异系数;
依据所述CPU使用率的变异系数和所述CPU使用率的平均值综合确定所述CPU使用率权重;
依据多个所述内存使用率的标准差和平均值确定所述内存使用率的变异系数;
依据所述内存使用率的变异系数和所述内存使用率的平均值综合确定所述内存使用率权重;
依据多个所述连接过载率的标准差和平均值确定所述连接过载率的变异系数;
依据所述连接过载率的变异系数和所述连接过载率的平均值综合确定所述连接过载率权重。
5.根据权利要求1所述的一种基于虚拟服务计算能力的全局负载均衡方法,其特征在于,所述调度所述用户请求至综合过载率最低的虚拟服务包括:
获取所述综合过载率最低的虚拟服务的虚拟地址;
发送所述虚拟地址至发出所述用户请求的客户端,以使得所述客户端向所述综合过载率最低的虚拟服务重新发送请求。
6.一种基于虚拟服务计算能力的全局负载均衡装置,其特征在于,包括:
解析模块(301),用于解析获取的用户请求的域名信息;
匹配模块(302),用于根据所述域名信息匹配相应的虚拟服务池,所述虚拟服务池包括多个虚拟服务;
计算模块(303),用于依据每个所述虚拟服务的占用信息确定每个虚拟服务的综合过载率;
调度模块(304),用于调度所述用户请求至所述综合过载率最低的虚拟服务。
7.根据权利要求6所述的一种基于虚拟服务计算能力的全局负载均衡装置,其特征在于,所述计算模块(303)包括:
获取单元,用于获取所述虚拟服务的CPU使用率、内存使用率和连接过载率;
处理单元,用于依据采样数据分别计算所述CPU使用率权重、所述内存使用率权重以及所述连接过载率权重;
确定单元,用于根据所述CPU使用率、所述CPU使用率权重、所述内存使用率、所述内存使用率权重、所述连接过载率以及所述连接过载率权重,确定所述综合过载率。
8.根据权利要求6所述的一种基于虚拟服务计算能力的全局负载均衡装置,其特征在于,还包括:
分析模块,用于获取所述综合过载率最低的虚拟服务的虚拟地址;
通讯模块,用于发送所述虚拟地址至发出所述用户请求的客户端,以使得所述客户端向所述综合过载率最低的虚拟服务重新发送请求。
9.一种电子设备,包括存储器和处理器,所述存储器上存储有计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1~5中任一项所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1~5中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111309555.0A CN114035895A (zh) | 2021-11-06 | 2021-11-06 | 一种基于虚拟服务计算能力的全局负载均衡方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111309555.0A CN114035895A (zh) | 2021-11-06 | 2021-11-06 | 一种基于虚拟服务计算能力的全局负载均衡方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114035895A true CN114035895A (zh) | 2022-02-11 |
Family
ID=80136566
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111309555.0A Pending CN114035895A (zh) | 2021-11-06 | 2021-11-06 | 一种基于虚拟服务计算能力的全局负载均衡方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114035895A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115426248A (zh) * | 2022-08-01 | 2022-12-02 | 中国人民银行数字货币研究所 | 服务管理方法、装置、设备及存储介质 |
CN116010206A (zh) * | 2023-01-04 | 2023-04-25 | 上海弘积信息科技有限公司 | 一种虚拟服务cpu占有率计算方法、系统、设备及介质 |
-
2021
- 2021-11-06 CN CN202111309555.0A patent/CN114035895A/zh active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115426248A (zh) * | 2022-08-01 | 2022-12-02 | 中国人民银行数字货币研究所 | 服务管理方法、装置、设备及存储介质 |
CN115426248B (zh) * | 2022-08-01 | 2023-10-20 | 中国人民银行数字货币研究所 | 服务管理方法、装置、设备及存储介质 |
CN116010206A (zh) * | 2023-01-04 | 2023-04-25 | 上海弘积信息科技有限公司 | 一种虚拟服务cpu占有率计算方法、系统、设备及介质 |
CN116010206B (zh) * | 2023-01-04 | 2024-01-26 | 上海弘积信息科技有限公司 | 一种虚拟服务cpu占有率计算方法、系统、设备及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114035895A (zh) | 一种基于虚拟服务计算能力的全局负载均衡方法和装置 | |
CN111044062B (zh) | 路径规划、推荐方法和装置 | |
US20210360058A1 (en) | Job allocation support system and method | |
CN113722056A (zh) | 任务调度方法、装置、电子设备和计算机可读介质 | |
CN113760991A (zh) | 数据操作方法、装置、电子设备和计算机可读介质 | |
CN112182374B (zh) | 库存控制方法、装置、电子设备和计算机可读介质 | |
CN110650209A (zh) | 实现负载均衡的方法和装置 | |
CN114490086A (zh) | 资源动态调整方法、装置、电子设备、介质和程序产品 | |
Shukla et al. | Fault tolerance based load balancing approach for web resources | |
CN110347973B (zh) | 用于生成信息的方法和装置 | |
CN113765966A (zh) | 一种负载均衡方法和装置 | |
CN112561301A (zh) | 工单分配方法、装置、设备和计算机可读介质 | |
CN112559179A (zh) | 一种作业处理方法和装置 | |
CN107045452B (zh) | 虚拟机调度方法和装置 | |
CN111694670A (zh) | 资源分配方法、装置、设备和计算机可读介质 | |
CN111385150A (zh) | 用于获取信息的方法及装置 | |
CN115858147A (zh) | 成本建模方法和装置 | |
CN114125066B (zh) | 一种处理业务请求的方法和装置 | |
CN115801791A (zh) | 一种实现负载均衡的方法和负载均衡器 | |
CN112148448B (zh) | 资源分配方法、装置、设备和计算机可读介质 | |
CN111694672B (zh) | 资源分配方法、任务提交方法、装置、电子设备和介质 | |
CN113762864B (zh) | 一种物流站点的选址方法和装置 | |
CN113660699A (zh) | 一种智能集群联网方法、装置及电子设备 | |
CN112181605A (zh) | 负载均衡方法、装置、电子设备和计算机可读介质 | |
CN114265692A (zh) | 服务调度方法、装置、设备以及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |