CN108551489A - 一种应用服务器负载均衡方法、系统、装置及存储介质 - Google Patents
一种应用服务器负载均衡方法、系统、装置及存储介质 Download PDFInfo
- Publication number
- CN108551489A CN108551489A CN201810426251.4A CN201810426251A CN108551489A CN 108551489 A CN108551489 A CN 108551489A CN 201810426251 A CN201810426251 A CN 201810426251A CN 108551489 A CN108551489 A CN 108551489A
- Authority
- CN
- China
- Prior art keywords
- application server
- business
- indicate
- complexity
- parameter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/14—Network analysis or design
- H04L41/145—Network analysis or design involving simulating, designing, planning or modelling of a network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Computer And Data Communications (AREA)
Abstract
本申请公开了一种应用服务器负载均衡方法,应用于电力行业信息系统集群架构下,首先基于电力行业信息系统下的多个与业务复杂度有关的参数构建得到业务复杂度参数模型,接着再对获取到的各应用服务器的基本性能参数、实时性能参数以及当前实际连接数进行归一化处理,计算得到各应用服务器的当前连接值,经归一化处理后得到的当前连接值已经消除了各应用服务器间的差异,使其可基于统一标准衡量不同应用服务器的当前实际负载,最终将新接收到的Web请求分配给拥有最小当前连接值的应用服务器去处理,实现动态调整下的负载均衡,实际效果更佳。本申请还同时公开了一种应用服务器负载均衡系统、装置及计算机可读存储介质,具有上述有益效果。
Description
技术领域
本申请涉及集群性能调节技术领域,特别涉及一种应用服务器负载均衡 方法、系统、装置及存储介质。
背景技术
大型集群通常拥有数量众多的应用服务器,如何均衡各应用服务器间的 负载,以防止出现不同应用服务器负载量差异较大带来的一系列不良后果, 是十分重要的。
目前应用最为广泛的负载均衡调度算法是静态调度算法:静态调度算法 是在预先在均衡器中设置好固定的调度策略,当集群运行过程中,按照既定 的调度策略将各请求分配给集群中的各节点(应用服务器)去处理。具体的, 主要有循环(RR)、带权重的循环(WRR)、散列源、目的地散列等方法。静 态调度算法与集群系统实时运行状态和各节点的连接状态无关,因此无法反 映系统的实时负载,也就不能基于系统各节点实际负载情况动态的进行调节, 应变性较差,实际使用效果不好。
因此,如何克服现有基于静态调度算法实现负载均衡时存在的各项技术 缺陷,提供一种应变性更强、更适用于电力行业信息系统这一复杂的集群架 构下、能够随着集群系统内各节点当前实际负载情况变换而动态调整的负载 均衡方法是本领域技术人员亟待解决的问题。
发明内容
本申请的目的是提供一种应用服务器负载均衡方法,应用于电力行业信 息系统这一复杂的集群架构下,首先基于电力行业信息系统下的多个与业务 复杂度有关的参数构建得到业务复杂度参数模型,接着再对获取到的各应用 服务器的基本性能参数、实时性能参数以及当前实际连接数进行归一化处理, 计算得到各应用服务器的当前连接值,经归一化处理后得到的当前连接值已 经消除了各应用服务器间的差异,使得可以基于统一标准衡量不同应用服务 器的当前实际负载,最终将新接收到的Web请求分配给拥有最小当前连接值的 应用服务器去处理,以实现动态调整下的负载均衡,实际效果更佳。
本申请的另一目的在于提供了一种应用服务器负载均衡系统、装置及计 算机可读存储介质,均应用于电力行业信息系统这一复杂的集群架构下。
为实现上述目的,本申请提供一种应用服务器负载均衡方法,包括:
根据系统的业务流程复杂度、表单复杂度、使用频率系数构建业务复杂 度参数模型;
获取所述系统内各应用服务器的基本性能参数、实时性能参数以及当前 的实际连接数,并确定每个已建立实际连接且用于处理的业务;
利用所述业务复杂度参数模型、所述基本性能参数、所述实时性能参数、 所述实际连接数以及所述业务进行计算,得到统一描述各所述应用服务器实 际业务负载程度的当前连接值;
选用拥有最小连接值的应用服务器来处理新接收到的Web请求;其中, 所述最小连接值为最小的当前连接值。
可选的,根据系统的业务流程复杂度、表单复杂度、使用频率系数构建 业务复杂度参数模型,包括:
利用公式:S(bm)=Wm×Tm×Um确定所述业务复杂度模型;
其中,当所述系统中所有业务功能表示为B={b1,b2,b3,……,bm}(m>1)的集 合时,bm表示第m个业务功能、Wm表示第m个业务功能的业务流程复杂度、 Tm表示第m个业务功能的表单复杂度、Um表示第m个业务功能的使用频率 系数,S(bm)则表示第m个业务功能在所述系统中的业务复杂度参数。
可选的,将所述业务复杂度参数模型、所述基本性能参数、所述实时性 能参数、所述实际连接数以及所述业务按预设动态负载均衡公式进行计算, 得到描述各所述应用服务器实际业务负载程度的当前连接值,包括:
利用公式:确定所述应用服务器的当前连接值;
其中,当所述系统中所有应用服务器表示为F={f1,f2,f3,......,fi}(i>1)的集合、所述系统中所有业务功能表示为B={b1,b2,b3,……,bm}(m>1)的集合时,fi表示第i个应用服务器、bm表示第m个业务功能、S(bm)则表示第m个业务 功能在所述系统中的业务复杂度参数、Lm表示第m个业务功能所占用的连接 数、Ci表示第i个应用服务器的基本性能参数,且具有由处理器性能、内存 容量、磁盘读写速度和网络适配器最大吞吐量共同固定决定,Ci越大表示应 用服务器的性能越好;S(fi)表示第i个应用服务器的实时性能参数,且由CPU 使用率、CPU处理速度、CPU任务队列长度、内存使用率、网络使用率、在 线进程数共同动态决定,S(fi)越大表示应用服务器的当前实际负载越低。
可选的,该方法还包括:
为各所述应用服务器设置统一的新Web请求处理数量限制。
为实现上述目的,本申请还提供了一种应用服务器负载均衡系统,包括:
业务复杂度模型构建单元,用于根据系统的业务流程复杂度、表单复杂 度、使用频率系数构建业务复杂度参数模型;
参数获取及业务确定单元,用于获取所述系统内各应用服务器的基本性 能参数、实时性能参数以及当前的实际连接数,并确定每个已建立实际连接 且用于处理的业务;
连接值计算单元,用于利用所述业务复杂度参数模型、所述基本性能参 数、所述实时性能参数、所述实际连接数以及所述业务进行计算,得到统一 描述各所述应用服务器实际业务负载程度的当前连接值;
动态负载均衡调整单元,用于选用拥有最小连接值的应用服务器来处理 新接收到的Web请求;其中,所述最小连接值为最小的当前连接值。
可选的,所述业务复杂度模型构建单元包括:
公式构建模型子单元,用于利用公式:S(bm)=Wm×Tm×Um确定所述业务 复杂度模型;其中,当所述系统中所有业务功能表示为 B={b1,b2,b3,……,bm}(m>1)的集合时,bm表示第m个业务功能、Wm表示第m 个业务功能的业务流程复杂度、Tm表示第m个业务功能的表单复杂度、Um表 示第m个业务功能的使用频率系数,S(bm)则表示第m个业务功能在所述系 统中的业务复杂度参数。
可选的,所述连接值计算单元包括:
公式计算连接值子单元,用于利用公式:确定所述应 用服务器的当前连接值;其中,当所述系统中所有应用服务器表示为 F={f1,f2,f3,......,fi}(i>1)的集合、所述系统中所有业务功能表示为 B={b1,b2,b3,……,bm}(m>1)的集合时,fi表示第i个应用服务器、bm表示第m 个业务功能、S(bm)则表示第m个业务功能在所述系统中的业务复杂度参数、 Lm表示第m个业务功能所占用的连接数、Ci表示第i个应用服务器的基本性 能参数,且具有由处理器性能、内存容量、磁盘读写速度和网络适配器最大 吞吐量共同固定决定,Ci越大表示应用服务器的性能越好;S(fi)表示第i个 应用服务器的实时性能参数,且由CPU使用率、CPU处理速度、CPU任务队 列长度、内存使用率、网络使用率、在线进程数共同动态决定,S(fi)越大表 示应用服务器的当前实际负载越低。
可选的,该系统还包括:
新Web请求处理数量限制单元,为各所述应用服务器设置统一的新Web 请求处理数量限制。
为实现上述目的,本申请还提供了一种应用服务器负载均衡装置,该装 置包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现如上述内容所描述的应用服务 器负载均衡方法的步骤。
为实现上述目的,本申请还提供了一种计算机可读存储介质,所述计算 机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现 如上述内容所描述的应用服务器负载均衡方法的步骤。
本申请所提供的一种应用服务器负载均衡方法:根据系统的业务流程复 杂度、表单复杂度、使用频率系数构建业务复杂度参数模型;获取所述系统 内各应用服务器的基本性能参数、实时性能参数以及当前的实际连接数,并 确定每个已建立实际连接且用于处理的业务;利用所述业务复杂度参数模型、 所述基本性能参数、所述实时性能参数、所述实际连接数以及所述业务进行 计算,得到统一描述各所述应用服务器实际业务负载程度的当前连接值;选 用拥有最小连接值的应用服务器来处理新接收到的Web请求;其中,所述最小连接值为最小的当前连接值。
显然,本申请所提供的技术方案,应用在电力行业信息系统这一复杂的 集群架构下,首先基于电力行业信息系统下的多个与业务复杂度有关的参数 构建得到业务复杂度参数模型,接着再对获取到的各应用服务器的基本性能 参数、实时性能参数以及当前实际连接数进行归一化处理,计算得到各应用 服务器的当前连接值,经归一化处理后得到的当前连接值已经消除了各应用 服务器间的差异,使得可以基于统一标准衡量不同应用服务器的当前实际负 载,最终将新接收到的Web请求分配给拥有最小当前连接值的应用服务器去 处理,以实现动态调整下的负载均衡,实际效果更佳。本申请同时还提供了 一种应用服务器负载均衡系统、装置及计算机可读存储介质,具有上述有益 效果,在此不再赘述。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实 施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面 描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不 付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本申请实施例所提供的一种应用服务器负载均衡方法的流程图;
图2为本申请实施例所提供的另一种应用服务器负载均衡方法的流程图;
图3为本申请实施例所提供的一种应用服务器负载均衡系统的结构框图;
图4为本申请实施例所提供的一种拥有动态负载能力的电力行业信息系 统集群的组织结构示意图。
具体实施方式
本申请的核心是提供一种应用服务器负载均衡方法、系统、装置及计算 机可读存储介质,应用在电力行业信息系统这一复杂的集群架构下,首先基 于电力行业信息系统下的多个与业务复杂度有关的参数构建得到业务复杂度 参数模型,接着再对获取到的各应用服务器的基本性能参数、实时性能参数 以及当前实际连接数进行归一化处理,计算得到各应用服务器的当前连接值, 经归一化处理后得到的当前连接值已经消除了各应用服务器间的差异,使得 可以基于统一标准衡量不同应用服务器的当前实际负载,最终将新接收到的 Web请求分配给拥有最小当前连接值的应用服务器去处理,以实现动态调整下 的负载均衡,实际效果更佳。
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申 请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述, 显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于 本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获 得的所有其它实施例,都属于本申请保护的范围。
以下结合图1,图1为本申请实施例所提供的一种应用服务器负载均衡方 法的流程图。
其具体包括以下步骤:
S101:根据系统的业务流程复杂度、表单复杂度、使用频率系数构建业 务复杂度参数模型;
本步骤旨在根据电力行业信息系统中一些能够表征业务复杂度的参数综 合构建参数模型,例如根据最具代表性的业务流程复杂度、表单复杂度以及 使用频率系数。当然,除上述几种参数外,也包含其它能够表征业务复杂度 的参数,可以根据实际情况的不同、参数模型构建的精度要求、可占用计算 资源的多少综合选用,以期达到最好的效果。
通常,当选用的各参数均能够正向的(正比)反映业务复杂度时,可采 用将各参数相乘的方式建立该业务复杂度参数模型,相反的,当选用的各参 数中存在反向的(反比)反映业务复杂度时,可将其作为分母构建该业务复 杂度参数模型。
S102:获取系统内各应用服务器的基本性能参数、实时性能参数以及当 前的实际连接数,并确定每个已建立实际连接且用于处理的业务;
本步骤旨在获取各应用服务器的固定性能参数和实时性能参数以及当前 已经建立的会话连接数,并进一步确定各会话连接对应何种具体的业务,以 便根据这些信息动态的确定各应用服务器的实际业务负载。
由于集群系统内的各应用服务器不一定是同一时间采购得到的,可能是 分批次、从不同厂家购置的,因此可能存在构成元器件、性能上的差异,而 本步骤所进行的操作就是获取各应用服务的基本性能参数(由固定的组成硬 件决定,等同于性能上限)、实时性能参数(当前未占用资源的多少或占资 源的百分比)以及已经建立的会话连接数,并结合进一步确定出的各会话连 接都对应何种业务,因为不同业务需要进行处理的时间和占用的计算资源往 往会存在差异。最终利用这些数据在后续步骤中进行动态调整,以实现区别于静态负载调节的动态负载调节方式。
S103:利用业务复杂度参数模型、基本性能参数、实时性能参数、实际 连接数以及业务进行计算,得到统一描述各应用服务器实际业务负载程度的 当前连接值;
在S101和S102的基础上,本步骤利用上述获取到的各种信息及参数动态 的计算得到能够统一描述各应用服务器实际业务负载程度的当前连接值。
结合各参数、信息的实际意义,可以经过简单的推理得到:实时性能参 数与基本性能参数的比值可表示该应用服务器当前时刻下计算资源的占用 率,并进一步的可计算得到剩余计算资源的数量,当采用百分比的形式时, 可以消除不同应用服务器在固有硬件上造成的影响;根据确定出已建立会话 连接的业务的具体情况,结合可轻易获得的历史过程中处理该业务的负载数 据经简单计算得到其对该应用服务器实际业务负载的影响程度,等等,在此 不再一一叙述,本领域技术人员可结合这些参数对应用服务器的重要程度在 本步骤思想的指导下,得到多种具体的计算公式,同时在后续实施例中也会 结合一个具体的实际情景,给出一个具体的计算公式。
S104:选用拥有最小连接值的应用服务器来处理新接收到的Web请求。
在S103步骤已经计算得到各应用服务器当前连接值的基础上,本步骤只 需要从中选出拥有最小的当前连接值的应用服务器来处理新接收到的Web请 求即可。由于总会将新接收到的Web请求分配给各时刻下拥有最小连接值的应 用服务器去处理,因此不会出现总将Web请求分配给某个应用服务器的现象, 且本申请所提供的技术方案充分结合了随时间动态改变的参数,并经过归一 化处理计算得到相对于所有应用服务器标准相同的当前连接数,消除了不同 应用服务器间的差异,使其均可遵循相同的判断标准。
其中,确定拥有最小连接值的应用服务器可以采用建立队列的方式,即 该队列中按照大小顺序排列计算出来的各应用服务器的当前连接数,以便在 队列的一端寻找拥有最小连接值的应用服务器;还可以采用集合的方式,并 利用min函数确定集合中最小值的元素等方式,此处并不做具体限定。
进一步的,考虑到若每接收到新Web请求都要进行如何的计算操作以寻找 当前时刻下拥有最小连接值的应用服务器所要消耗的计算资源和成本,可以 设定一个新Web请求处理数量限制,即在某一时刻确定了该时刻下拥有最小连 接值的应用服务器,不止向其分配一个新Web请求,而是一定数量的Web请求, 在其累计接收到Web请求超过某个限制数量后,再进行上述寻找操作。即通过 周期性的执行这个操作来减少消耗的计算资源和成本,具体操作方式多种多 样,本领域技术人员可在此思想的指导下给出多种实现方式,在此不再赘述。
基于上述技术方案,本申请实施例提供的一种应用服务器负载均衡方法, 应用在电力行业信息系统这一复杂的集群架构下,首先基于电力行业信息系 统下的多个与业务复杂度有关的参数构建得到业务复杂度参数模型,接着再 对获取到的各应用服务器的基本性能参数、实时性能参数以及当前实际连接 数进行归一化处理,计算得到各应用服务器的当前连接值,经归一化处理后 得到的当前连接值已经消除了各应用服务器间的差异,使得可以基于统一标 准衡量不同应用服务器的当前实际负载,最终将新接收到的Web请求分配给拥 有最小当前连接值的应用服务器去处理,以实现动态调整下的负载均衡,实 际效果更佳。
以下结合图2,图2为本申请实施例所提供的另一种应用服务器负载均衡 方法的流程图。
本实施例具体给出了一种如何确定业务复杂度参数模型和如何利用获取 到的各种参数及信息动态的计算得到各应用服务器当前连接值的方法:
S201:利用公式S(bm)=Wm×Tm×Um确定业务复杂度参数模型;
其中,当系统中所有业务功能表示为B={b1,b2,b3,……,bm}(m>1)的集合时, bm表示第m个业务功能、Wm表示第m个业务功能的业务流程复杂度、Tm表 示第m个业务功能的表单复杂度、Um表示第m个业务功能的使用频率系数, S(bm)则表示第m个业务功能在系统中的业务复杂度参数。
S202:获取系统内各应用服务器的基本性能参数、实时性能参数以及当 前的实际连接数,并确定每个已建立实际连接且用于处理的业务;
S203:利用公式:计算得到各应用服务器的当前连接值;
当系统中所有应用服务器表示为F={f1,f2,f3,......,fi}(i>1)的集合、系统中所有业务功能表示为B={b1,b2,b3,……,bm}(m>1)的集合时,fi表示第i个应用 服务器、bm表示第m个业务功能、S(bm)则表示第m个业务功能在系统中的业 务复杂度参数、Lm表示第m个业务功能所占用的连接数、Ci表示第i个应用服 务器的基本性能参数,且具有由处理器性能、内存容量、磁盘读写速度和网 络适配器最大吞吐量共同固定决定,Ci越大表示应用服务器的性能越好; S(fi)表示第i个应用服务器的实时性能参数,且由CPU使用率、CPU处理速度、 CPU任务队列长度、内存使用率、网络使用率、在线进程数共同动态决定,S(fi) 越大表示应用服务器的当前实际负载越低。
S204:选用拥有最小连接值的应用服务器来处理新接收到的Web请求;
其中,最小连接值为当前时刻下所有当前连接值中最小的那个。
S205:为各应用服务器设置统一的新Web请求处理数量限制。
本步骤所描述的内容可参见S104中的相关描述,在此不再赘述。
基于上一实施例,本实施例结合在电力行业信息这一复杂系统下各参数 表征各应用服务器当前实际业务负载程度的不同,构建了专用的业务复杂度 参数模型和当前连接数计算公式,在考虑到各应用服务器性能和运行过程中 各应用服务器的当前负载量及状态变换的基础上,还考虑到业务应用系统已 经建立其的会话业务对服务器资源的消耗情况,并通过增加设置统一的新Web 请求处理数量限制,使上述操作步骤按周期进行,有效降低了成本和节省了 对计算资源的消耗。
因为情况复杂,无法一一列举进行阐述,本领域技术人员应能意识到根 据本申请提供的基本方法原理结合实际情况可以存在很多的例子,在不付出 足够的创造性劳动下,应均在本申请的保护范围内。
下面请参见图3,图3为本申请实施例所提供的一种应用服务器负载均衡 系统的结构框图,具体的,该系统可以包括:
业务复杂度模型构建单元100,用于根据系统的业务流程复杂度、表单复 杂度、使用频率系数构建业务复杂度参数模型;
参数获取及业务确定单元200,用于获取系统内各应用服务器的基本性能 参数、实时性能参数以及当前的实际连接数,并确定每个已建立实际连接且 用于处理的业务;
连接值计算单元300,用于将业务复杂度参数模型、基本性能参数、实时 性能参数、实际连接数以及业务按预设动态负载均衡公式进行计算,得到描 述各应用服务器实际业务负载程度的当前连接值;
动态负载均衡调整单元400,用于选用拥有最小连接值的应用服务器来处 理新接收到的Web请求;其中,最小连接值为最小的当前连接值。
其中,业务复杂度模型构建单元100包括:
公式构建模型子单元,用于利用公式:S(bm)=Wm×Tm×Um确定业务复杂 度模型;其中,当系统中所有业务功能表示为B={b1,b2,b3,……,bm}(m>1)的集 合时,bm表示第m个业务功能、Wm表示第m个业务功能的业务流程复杂度、 Tm表示第m个业务功能的表单复杂度、Um表示第m个业务功能的使用频率 系数,S(bm)则表示第m个业务功能在系统中的业务复杂度参数。
其中,连接值计算单元300包括:
公式计算连接值子单元,用于利用公式确定应用服务器 的当前连接值;其中,当系统中所有应用服务器表示为 F={f1,f2,f3,......,fi}(i>1)的集合、系统中所有业务功能表示为 B={b1,b2,b3,……,bm}(m>1)的集合时,fi表示第i个应用服务器、bm表示第m 个业务功能、S(bm)则表示第m个业务功能在系统中的业务复杂度参数、Lm表示第m个业务功能所占用的连接数、Ci表示第i个应用服务器的基本性能 参数,且具有由处理器性能、内存容量、磁盘读写速度和网络适配器最大吞 吐量共同固定决定,Ci越大表示应用服务器的性能越好;S(fi)表示第i个应 用服务器的实时性能参数,且由CPU使用率、CPU处理速度、CPU任务队列 长度、内存使用率、网络使用率、在线进程数共同动态决定,S(fi)越大表示 应用服务器的当前实际负载越低。
进一步的,该系统还可以包括:
新Web请求处理数量限制单元,为各应用服务器设置统一的新Web请求处 理数量限制。
基于上述实施例,本申请还提供了一种应用服务器负载均衡装置,该装 置可以包括存储器和处理器,其中,该存储器中存有计算机程序,该处理器 调用该存储器中的计算机程序时,可以实现上述实施例所提供的步骤。当然, 该部署装置还可以包括各种必要的网络接口、电源以及其它零部件等。
可参见图4,图4为本申请实施例所提供的一种拥有动态负载能力的电力 行业信息系统集群的组织结构示意图,图4中的负载均衡器即是应用服务器 负载均衡装置的一种具体表现形式。
本申请还提供了一种计算机可读存储介质,其上存有计算机程序,该计 算机程序被执行终端或处理器执行时可以实现上述实施例所提供的步骤。该 存储介质可以包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、 随机存取存储器(Random AccessMemory,RAM)、磁碟或者光盘等各种 可以存储程序代码的介质。
说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是 与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对 于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的 比较简单,相关之处参见方法部分说明即可。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示 例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现, 为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性 地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行, 取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定 的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本 申请的范围。
本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实 施例的说明只是用于帮助理解本申请的方法及其核心思想。对于本技术领域 的普通技术人员来说,在不脱离本申请原理的前提下,还可以对本申请进行 若干改进和修饰,这些改进和修饰也落入本申请权利要求的保护范围内。
还需要说明的是,在本说明书中,诸如第一和第二等之类的关系术语仅 仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或 者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语 “包括”、“包含”或者其任何其它变体意在涵盖非排他性的包含,从而使得包括 一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没 有明确列出的其它要素,或者是还包括为这种过程、方法、物品或者设备所 固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素, 并不排除在包括要素的过程、方法、物品或者设备中还存在另外的相同要素。
Claims (10)
1.一种应用服务器负载均衡方法,其特征在于,包括:
根据系统的业务流程复杂度、表单复杂度、使用频率系数构建业务复杂度参数模型;
获取所述系统内各应用服务器的基本性能参数、实时性能参数以及当前的实际连接数,并确定每个已建立实际连接且用于处理的业务;
利用所述业务复杂度参数模型、所述基本性能参数、所述实时性能参数、所述实际连接数以及所述业务进行计算,得到统一描述各所述应用服务器实际业务负载程度的当前连接值;
选用拥有最小连接值的应用服务器来处理新接收到的Web请求;其中,所述最小连接值为最小的当前连接值。
2.根据权利要求1所述方法,其特征在于,根据系统的业务流程复杂度、表单复杂度、使用频率系数构建业务复杂度参数模型,包括:
利用公式:S(bm)=Wm×Tm×Um确定所述业务复杂度参数模型;
其中,当所述系统中所有业务功能表示为B={b1,b2,b3,……,bm}(m>1)的集合时,bm表示第m个业务功能、Wm表示第m个业务功能的业务流程复杂度、Tm表示第m个业务功能的表单复杂度、Um表示第m个业务功能的使用频率系数,S(bm)则表示第m个业务功能在所述系统中的业务复杂度参数。
3.根据权利要求2所述方法,其特征在于,将所述业务复杂度参数模型、所述基本性能参数、所述实时性能参数、所述实际连接数以及所述业务按预设动态负载均衡公式进行计算,得到描述各所述应用服务器实际业务负载程度的当前连接值,包括:
利用公式:确定所述应用服务器的当前连接值;
其中,当所述系统中所有应用服务器表示为F={f1,f2,f3,......,fi}(i>1)的集合、所述系统中所有业务功能表示为B={b1,b2,b3,……,bm}(m>1)的集合时,fi表示第i个应用服务器、bm表示第m个业务功能、S(bm)则表示第m个业务功能在所述系统中的业务复杂度参数、Lm表示第m个业务功能所占用的连接数、Ci表示第i个应用服务器的基本性能参数,且具有由处理器性能、内存容量、磁盘读写速度和网络适配器最大吞吐量共同固定决定,Ci越大表示应用服务器的性能越好;S(fi)表示第i个应用服务器的实时性能参数,且由CPU使用率、CPU处理速度、CPU任务队列长度、内存使用率、网络使用率、在线进程数共同动态决定,S(fi)越大表示应用服务器的当前实际负载越低。
4.根据权利要求1所述方法,其特征在于,还包括:
为各所述应用服务器设置统一的新Web请求处理数量限制。
5.一种应用服务器负载均衡系统,其特征在于,包括:
业务复杂度模型构建单元,用于根据系统的业务流程复杂度、表单复杂度、使用频率系数构建业务复杂度参数模型;
参数获取及业务确定单元,用于获取所述系统内各应用服务器的基本性能参数、实时性能参数以及当前的实际连接数,并确定每个已建立实际连接且用于处理的业务;
连接值计算单元,用于利用所述业务复杂度参数模型、所述基本性能参数、所述实时性能参数、所述实际连接数以及所述业务进行计算,得到统一描述各所述应用服务器实际业务负载程度的当前连接值;
动态负载均衡调整单元,用于选用拥有最小连接值的应用服务器来处理新接收到的Web请求;其中,所述最小连接值为最小的当前连接值。
6.根据权利要求5所述系统,其特征在于,所述业务复杂度模型构建单元包括:
公式构建模型子单元,用于利用公式:S(bm)=Wm×Tm×Um确定所述业务复杂度参数模型;其中,当所述系统中所有业务功能表示为B={b1,b2,b3,……,bm}(m>1)的集合时,bm表示第m个业务功能、Wm表示第m个业务功能的业务流程复杂度、Tm表示第m个业务功能的表单复杂度、Um表示第m个业务功能的使用频率系数,S(bm)则表示第m个业务功能在所述系统中的业务复杂度参数。
7.根据权利要求6所述的系统,其特征在于,所述归一化计算单元包括:
公式计算连接值子单元,用于利用公式:确定所述应用服务器的当前连接值;其中,当所述系统中所有应用服务器表示为F={f1,f2,f3,......,fi}(i>1)的集合、所述系统中所有业务功能表示为B={b1,b2,b3,……,bm}(m>1)的集合时,fi表示第i个应用服务器、bm表示第m个业务功能、S(bm)则表示第m个业务功能在所述系统中的业务复杂度参数、Lm表示第m个业务功能所占用的连接数、Ci表示第i个应用服务器的基本性能参数,且具有由处理器性能、内存容量、磁盘读写速度和网络适配器最大吞吐量共同固定决定,Ci越大表示应用服务器的性能越好;S(fi)表示第i个应用服务器的实时性能参数,且由CPU使用率、CPU处理速度、CPU任务队列长度、内存使用率、网络使用率、在线进程数共同动态决定,S(fi)越大表示应用服务器的当前实际负载越低。
8.根据权利要求1所述系统,其特征在于,还包括:
新Web请求处理数量限制单元,为各所述应用服务器设置统一的新Web请求处理数量限制。
9.一种应用服务器负载均衡装置,其特征在于,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现如权利要求1至4任一项所述的应用服务器负载均衡方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至4任一项所述的应用服务器负载均衡方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810426251.4A CN108551489A (zh) | 2018-05-07 | 2018-05-07 | 一种应用服务器负载均衡方法、系统、装置及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810426251.4A CN108551489A (zh) | 2018-05-07 | 2018-05-07 | 一种应用服务器负载均衡方法、系统、装置及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108551489A true CN108551489A (zh) | 2018-09-18 |
Family
ID=63513483
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810426251.4A Pending CN108551489A (zh) | 2018-05-07 | 2018-05-07 | 一种应用服务器负载均衡方法、系统、装置及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108551489A (zh) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109714190A (zh) * | 2018-11-28 | 2019-05-03 | 四川商通实业有限公司 | 一种基于应用级别的负载均衡与故障转移系统及其方法 |
CN110049130A (zh) * | 2019-04-22 | 2019-07-23 | 北京邮电大学 | 一种基于边缘计算的服务部署和任务调度方法及装置 |
CN110134575A (zh) * | 2019-04-26 | 2019-08-16 | 厦门网宿有限公司 | 一种服务器集群的服务能力计算方法及装置 |
CN110362402A (zh) * | 2019-06-25 | 2019-10-22 | 苏州浪潮智能科技有限公司 | 一种负载均衡方法、装置、设备及可读存储介质 |
CN111327663A (zh) * | 2018-12-17 | 2020-06-23 | 中国移动通信集团青海有限公司 | 一种堡垒机分配的方法和设备 |
CN111461511A (zh) * | 2020-03-19 | 2020-07-28 | 北京美住美宿科技有限公司 | 基于弹性计算的酒店管理系统、控制方法及设备 |
CN111464574A (zh) * | 2019-01-21 | 2020-07-28 | 阿里巴巴集团控股有限公司 | 调用、加载、注册、管理方法和路由、服务器、节点和介质 |
CN112187839A (zh) * | 2019-07-03 | 2021-01-05 | 中移(苏州)软件技术有限公司 | 一种分配方法、服务器及存储介质 |
CN112215507A (zh) * | 2020-06-30 | 2021-01-12 | 北京来也网络科技有限公司 | 结合ai的rpa系统流程复杂度确定方法与装置 |
CN114924866A (zh) * | 2021-04-30 | 2022-08-19 | 华为技术有限公司 | 数据处理方法和相关设备 |
CN118331613A (zh) * | 2024-06-13 | 2024-07-12 | 成都光创联科技有限公司 | 光器件制造系统及光器件制造流程中的任务分配方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001256157A (ja) * | 2000-03-08 | 2001-09-21 | Mitsubishi Electric Corp | ネットワークシステム、通信端末装置、通信端末装置の中継器接続先決定方法 |
CN102195886A (zh) * | 2011-05-30 | 2011-09-21 | 兰雨晴 | 一种云平台上的服务调度方法 |
CN103179217A (zh) * | 2013-04-19 | 2013-06-26 | 中国建设银行股份有限公司 | 一种用于web应用服务器群组的负载均衡方法和装置 |
CN103401947A (zh) * | 2013-08-20 | 2013-11-20 | 曙光信息产业(北京)有限公司 | 多个服务器的任务分配方法和装置 |
CN104142863A (zh) * | 2014-07-14 | 2014-11-12 | 北京大学 | 基于流守恒的资源配置方法 |
CN105978976A (zh) * | 2016-05-13 | 2016-09-28 | 中国建设银行股份有限公司 | 信息处理系统及方法 |
-
2018
- 2018-05-07 CN CN201810426251.4A patent/CN108551489A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001256157A (ja) * | 2000-03-08 | 2001-09-21 | Mitsubishi Electric Corp | ネットワークシステム、通信端末装置、通信端末装置の中継器接続先決定方法 |
CN102195886A (zh) * | 2011-05-30 | 2011-09-21 | 兰雨晴 | 一种云平台上的服务调度方法 |
CN103179217A (zh) * | 2013-04-19 | 2013-06-26 | 中国建设银行股份有限公司 | 一种用于web应用服务器群组的负载均衡方法和装置 |
CN103401947A (zh) * | 2013-08-20 | 2013-11-20 | 曙光信息产业(北京)有限公司 | 多个服务器的任务分配方法和装置 |
CN104142863A (zh) * | 2014-07-14 | 2014-11-12 | 北京大学 | 基于流守恒的资源配置方法 |
CN105978976A (zh) * | 2016-05-13 | 2016-09-28 | 中国建设银行股份有限公司 | 信息处理系统及方法 |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109714190A (zh) * | 2018-11-28 | 2019-05-03 | 四川商通实业有限公司 | 一种基于应用级别的负载均衡与故障转移系统及其方法 |
CN111327663A (zh) * | 2018-12-17 | 2020-06-23 | 中国移动通信集团青海有限公司 | 一种堡垒机分配的方法和设备 |
CN111464574A (zh) * | 2019-01-21 | 2020-07-28 | 阿里巴巴集团控股有限公司 | 调用、加载、注册、管理方法和路由、服务器、节点和介质 |
CN110049130A (zh) * | 2019-04-22 | 2019-07-23 | 北京邮电大学 | 一种基于边缘计算的服务部署和任务调度方法及装置 |
CN110134575A (zh) * | 2019-04-26 | 2019-08-16 | 厦门网宿有限公司 | 一种服务器集群的服务能力计算方法及装置 |
CN110134575B (zh) * | 2019-04-26 | 2022-11-22 | 厦门网宿有限公司 | 一种服务器集群的服务能力计算方法及装置 |
CN110362402A (zh) * | 2019-06-25 | 2019-10-22 | 苏州浪潮智能科技有限公司 | 一种负载均衡方法、装置、设备及可读存储介质 |
CN112187839A (zh) * | 2019-07-03 | 2021-01-05 | 中移(苏州)软件技术有限公司 | 一种分配方法、服务器及存储介质 |
CN112187839B (zh) * | 2019-07-03 | 2022-06-03 | 中移(苏州)软件技术有限公司 | 一种分配方法、服务器及存储介质 |
CN111461511A (zh) * | 2020-03-19 | 2020-07-28 | 北京美住美宿科技有限公司 | 基于弹性计算的酒店管理系统、控制方法及设备 |
CN112215507A (zh) * | 2020-06-30 | 2021-01-12 | 北京来也网络科技有限公司 | 结合ai的rpa系统流程复杂度确定方法与装置 |
CN112215507B (zh) * | 2020-06-30 | 2024-07-23 | 北京来也网络科技有限公司 | 结合ai的rpa系统流程复杂度确定方法与装置 |
CN114924866A (zh) * | 2021-04-30 | 2022-08-19 | 华为技术有限公司 | 数据处理方法和相关设备 |
CN118331613A (zh) * | 2024-06-13 | 2024-07-12 | 成都光创联科技有限公司 | 光器件制造系统及光器件制造流程中的任务分配方法 |
CN118331613B (zh) * | 2024-06-13 | 2024-08-13 | 成都光创联科技有限公司 | 光器件制造系统及光器件制造流程中的任务分配方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108551489A (zh) | 一种应用服务器负载均衡方法、系统、装置及存储介质 | |
CN106233276B (zh) | 网络可访问块存储装置的协调准入控制 | |
CN109960585A (zh) | 一种基于kubernetes的资源调度方法 | |
CN108173698B (zh) | 网络服务管理方法、装置、服务器及存储介质 | |
CN111694663B (zh) | 服务器集群的负载均衡方法、装置及系统 | |
CN103338252B (zh) | 一种分布式数据库并发存储虚拟请求机制的实现方法 | |
CN107832153A (zh) | 一种Hadoop集群资源自适应分配方法 | |
CN103067297B (zh) | 一种基于资源消耗预测的动态负载均衡方法及装置 | |
CN108958882A (zh) | 一种容器调整方法、装置和系统 | |
CN113138860B (zh) | 消息队列的管理方法及装置 | |
CN110489200A (zh) | 一种适用于嵌入式容器集群的任务调度方法 | |
US20220174103A1 (en) | System and method for thought object sequencing in a communication environment | |
CN109032800A (zh) | 一种负载均衡调度方法、负载均衡器、服务器及系统 | |
CN105491085A (zh) | 一种在线请求排队方法及装置 | |
CN107645520A (zh) | 一种负载均衡方法、装置以及系统 | |
CN109274710A (zh) | 网络负载均衡方法、装置及集群服务系统 | |
CN106952085B (zh) | 一种数据存储与业务处理的方法及装置 | |
CN104023042A (zh) | 云平台资源调度方法 | |
CN110351376A (zh) | 一种基于负反馈机制的边缘计算节点选择方法 | |
CN112363827A (zh) | 一种基于延迟因子的多资源指标Kubernetes调度方法 | |
CN106203750A (zh) | 一种资源配置的方法及装置 | |
CN108093009A (zh) | 一种服务器的负载均衡方法和装置 | |
CN110167031A (zh) | 一种面向集中式基站的资源分配方法、设备及存储介质 | |
CN109600402A (zh) | 服务器负载均衡方法及装置、存储介质、服务器、服务系统 | |
CN110311933A (zh) | 一种均衡业务流量的方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180918 |