CN112231075B - 一种基于云服务的服务器集群负载均衡控制方法及系统 - Google Patents
一种基于云服务的服务器集群负载均衡控制方法及系统 Download PDFInfo
- Publication number
- CN112231075B CN112231075B CN202010929090.8A CN202010929090A CN112231075B CN 112231075 B CN112231075 B CN 112231075B CN 202010929090 A CN202010929090 A CN 202010929090A CN 112231075 B CN112231075 B CN 112231075B
- Authority
- CN
- China
- Prior art keywords
- server cluster
- cloud server
- processing
- load balancing
- control center
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/50—Reducing energy consumption in communication networks in wire-line communication networks, e.g. low power modes or reduced link rate
Abstract
本发明属于云服务器技术领域,具体提供了一种基于云服务的服务器集群负载均衡控制方法及系统,定时检查各云服务器集群的未完成响应任务总数量,如果未完成总数量超过能响应总数量的一倍,则判定当前云服务集群无法正常响应任务请求,同时开始向云服务器控制中心发送协助请求,控制中心接受协助请求后,启动再次核查各云服务器集群的未完成响应任务总数量。云服务器控制中心参照未完成响应任务总数量并结合各设备规格说明书中各设备最短处理时间,进行加权平均,综合制定出协助处理云服务器集群响应顺序表,由控制中心依照顺序表依次开始发送处理请求。通过设置规则,对资源和需求的合理调度,使得有限的资源最大限度满足响应需求。
Description
技术领域
本发明属于云服务器技术领域,具体涉及一种基于云服务的服务器集群负载均衡控制方法及系统。
背景技术
伴随着互联网技术的日益发展,互联网所提供的服务内容也越来越多,服务器处理速度和内存访问速度的增长远远低于网络带宽和应用服务的增长。尤其是在云计算的兴起后,企业后台服务通常使用负载均衡服务器将来自外部的高并发请求发送到服务集群来处理,以达到对外部请求的快速准确响应,其中的负载均衡服务器简言之就是一种将大量的并发访问或数据流量分担到多台节点设备上分别处理,减少用户等待响应的时间的后台服务。
中国发明专利申请CN104394224A公开了一种负载均衡系统,包括对云节点提供负载均衡服务的负载均衡模块,若干用于对云节点的负载进行均衡计算与对后端模块进行动态健康检查的监听模块,若干用于设置与云节点所对应服务权重的后端模块,能够动态地对后端模块进行监控,进行网络请求的转发,从而提高了云节点的可靠性。但该发明基于OpenStack架构,主要解决的是云计算平台中网络访问的并发性问题,只是对计算机集群中的虚拟机的负载进行简单采集,并没有考虑负载的动态变化,从而影响了用户体验,甚至无法满足部分用户的请求。
发明内容
本发明的目的是克服现有技术中云服务器运行效率低的问题。
为此,本发明提供了一种基于云服务的服务器集群负载均衡控制方法,包括:
S1:预设客户端向云服务器控制中心发送服务请求的周期间隔时间;
S2:云服务器控制中心获取一时间周期内的当前服务请求的数量,在当前时间周期内,并判断当前服务请求是否大于处理该当前服务请求的当前云服务器集群的能力;
具体地,每间隔相同单位时间,定时检查各云服务器集群的未完成响应任务总数量,如果未完成总数量超过能响应总数量的一倍,则判定当前云服务集群无法正常响应任务请求,同时开始向云服务器控制中心发送协助请求,控制中心接受协助请求后,启动再次核查各云服务器集群的未完成响应任务总数量;
S3:若当前云服务器集群处理能力无法响应当前服务请求,同时在两个周期间隔时间内,没有其他负载均衡节点响应,则云服务器控制中心查找当前可以协助处理服务请求的备份服务器集群;
具体地,云服务器控制中心参照未完成响应任务总数量并结合各设备规格说明书中各设备最短处理时间,进行加权平均,综合制定出协助处理云服务器集群响应顺序表,由控制中心依照顺序表依次开始发送处理请求,如果控制中心同一时间间隔,接到三个或者三个以上协助请求,则显示云服务器控制中心出现重大异常信息,则启动蜂鸣器或者短信提醒,通知管理人员及时处理异常情况;
S4:对能协助处理服务请求的备份服务器集群中的负载均衡节点、以及各负载均衡节点中能协助处理的服务器,同已存储的信息进行比对,综合制定出备份服务器集群中的负载均衡节点处理所述当前服务请求的顺序;
S5:将超过当前云服务器集群处理能力的服务请求,根据所述顺序依次发送给新启用的备份服务器集群进行处理的各负载均衡节点,直至当前服务请求结束。
优选地,所述步骤S4具体包括:将本次服务请求周期内收集各负载均衡节点同步处理的请求数量、处理每个请求所需要的时间、以及各负载均衡节点连接的备份服务器集群的CPU使用率和内存使用率,制定出处理服务请求的顺序数据,并上传至各自对应的数据库服务器中。
优选地,所述步骤S1具体包括:根据云服务器控制中心的最大并发处理数量确定周期间隔时间。
优选地,若一负载均衡节点处理服务请求的顺序位置持续处于末位则报警输出。
优选地,若一备份服务器集群的CPU使用率、内存使用率以及处理单次请求的时间,其中任意一项大于设定的初始值则报警输出。
本发明还提供了一种基于云服务的服务器集群负载均衡控制系统,包括:
检测单元、云服务器控制中心、信息中转站及输入单元;
所述检测单元用于周期性地向云服务器控制中心发送请求;
所述云服务器控制中心用于获取一时间周期内的当前服务请求的数量,在当前时间周期内,并判断当前服务请求是否大于处理该当前服务请求的当前云服务器集群的能力;
具体地,每间隔相同单位时间,定时检查各云服务器集群的未完成响应任务总数量,如果未完成总数量超过能响应总数量的一倍,则判定当前云服务集群无法正常响应任务请求,同时开始向云服务器控制中心发送协助请求,控制中心接受协助请求后,启动再次核查各云服务器集群的未完成响应任务总数量;
若当前云服务器集群处理能力无法响应当前服务请求,同时在两个周期间隔时间内,没有其他负载均衡节点响应,则云服务器控制中心查找当前可以协助处理服务请求的备份服务器集群;
具体地,云服务器控制中心参照未完成响应任务总数量并结合各设备规格说明书中各设备最短处理时间,进行加权平均,综合制定出协助处理云服务器集群响应顺序表,由控制中心依照顺序表依次开始发送处理请求,如果控制中心同一时间间隔,接到三个或者三个以上协助请求,则显示云服务器控制中心出现重大异常信息,则启动蜂鸣器或者短信提醒,通知管理人员及时处理异常情况;对能协助处理服务请求的备份服务器集群中的负载均衡节点、以及各负载均衡节点中能协助处理的服务器,同已存储的信息进行比对,综合制定出备份服务器集群中的负载均衡节点处理所述当前服务请求的顺序;将超过当前云服务器集群处理能力的服务请求,根据所述顺序依次发送给新启用的备份服务器集群进行处理的各负载均衡节点,直至当前服务请求结束;
所述输入单元用于预设客户端向云服务器发送服务请求的周期间隔时间。
优选地,所述系统还包括报警单元,所述报警单元用于向监控系统或者管理人员报警输出。
优选地,所述云服务器控制中心包括处理单元、拟合单元、数据收集单元及存储单元;
所述处理单元用于控制各所述单元的信息进行交换;
所述拟合单元用于判断是否需要增减负载均衡节点的数量;
所述数据收集单元用于实时收集数据信息;
所述存储单元用于存储数据信息。
本发明的有益效果:本发明提供的这种一种基于云服务的服务器集群负载均衡控制方法及系统,预设客户端向云服务器控制中心发送服务请求的周期间隔时间,每间隔相同单位时间,定时检查各云服务器集群的未完成响应任务总数量,如果未完成总数量超过能响应总数量的一倍,则判定当前云服务集群无法正常响应任务请求,同时开始向云服务器控制中心发送协助请求,控制中心接受协助请求后,启动再次核查各云服务器集群的未完成响应任务总数量。云服务器控制中心参照未完成响应任务总数量并结合各设备规格说明书中各设备最短处理时间,进行加权平均,综合制定出协助处理云服务器集群响应顺序表,由控制中心依照顺序表依次开始发送处理请求。通过设置规则,对资源和需求的合理调度,使得有限的资源最大限度满足响应需求。
以下将结合附图对本发明做进一步详细说明。
附图说明
图1是本发明一种基于云服务的服务器集群负载均衡控制方法及系统的流程示意图;
图2是本发明一种基于云服务的服务器集群负载均衡控制方法及系统的原理框架图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
在本发明的描述中,需要理解的是,术语“中心”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。
术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征;在本发明的描述中,除非另有说明,“多个”的含义是两个或两个以上。
本发明实施例提供了一种基于云服务的服务器集群负载均衡控制方法,包括:
S1:预设客户端向云服务器控制中心发送服务请求的周期间隔时间;
S2:云服务器控制中心获取一时间周期内的当前服务请求的数量,在当前时间周期内,并判断当前服务请求是否大于处理该当前服务请求的当前云服务器集群的能力;
具体地,每间隔相同单位时间,定时检查各云服务器集群的未完成响应任务总数量,如果未完成总数量超过能响应总数量的一倍,则判定当前云服务集群无法正常响应任务请求,同时开始向云服务器控制中心发送协助请求,控制中心接受协助请求后,启动再次核查各云服务器集群的未完成响应任务总数量;
S3:若当前云服务器集群处理能力无法响应当前服务请求,同时在两个周期间隔时间内,没有其他负载均衡节点响应,则云服务器控制中心查找当前可以协助处理服务请求的备份服务器集群;
具体地,云服务器控制中心参照未完成响应任务总数量并结合各设备规格说明书中各设备最短处理时间,进行加权平均,综合制定出协助处理云服务器集群响应顺序表,由控制中心依照顺序表依次开始发送处理请求,如果控制中心同一时间间隔,接到三个或者三个以上协助请求,则显示云服务器控制中心出现重大异常信息,则启动蜂鸣器或者短信提醒,通知管理人员及时处理异常情况;
S4:对能协助处理服务请求的备份服务器集群中的负载均衡节点、以及各负载均衡节点中能协助处理的服务器,同已存储的信息进行比对,综合制定出备份服务器集群中的负载均衡节点处理所述当前服务请求的顺序;
S5:将超过当前云服务器集群处理能力的服务请求,根据所述顺序依次发送给新启用的备份服务器集群进行处理的各负载均衡节点,直至当前服务请求结束。
由此可知,云服务器控制中心作为最顶层的控制中枢,其控制下面的所有服务器集群,包括当前云服务器集群以及备份服务器集群,服务器集群中包括负载均衡点,负载均衡点与多个具体的服务器连接。由于响应任务是无限的,而响应能力总是有限的,该系统就是通过设置规则,对资源和需求的合理调度,使得有限的资源最大限度满足响应需求,故在监控整个云服务器系统的过程中,由管理人员或技术人员参考设备规格说明书设置各设备的每单位时间内能响应的任务数量。每间隔相同单位时间,定时检查各云服务器集群的未完成响应任务总数量,如果未完成总数量超过能响应总数量的一倍,则判定当前云服务集群无法正常响应任务请求,同时开始向云服务器控制中心发送协助请求,控制中心接受协助请求后,启动再次核查各云服务器集群的未完成响应任务总数量,具体数据同步回传控制中心,控制中心参照当前数据并结合各设备规格说明书中各设备最短处理时间,进行加权平均,综合制定出协助处理云服务器集群响应顺序表,由控制中心依照顺序表依次开始发送处理请求,如果控制中心同一时间间隔。接到三个或者三个以上协助请求,则显示云服务器控制中心出现重大异常信息,则启动蜂鸣器或者短信提醒,尽快通知管理人员及时处理异常情况。
对于服务器集群中每个负载均衡节点的处理请求顺序,每间隔相同单位时间,定时计算每个负载均衡节点等待时间(从第一次发送处理请求到正式开始处理的时间),如果等待时间超过正常响应时间一倍,则判定该负载均衡节点无法正常响应处理请求,由服务器集群综合每个负载均衡节点周转时间(从正式开始处理到运行完成的时间),进行加权平均,将无法正常响应的处理请求,转发给其他的负载均衡节点处理。
如图1和图2所示,具体工作步骤原理包括:
步骤1:通过输入单元104即客户端设定向云服务器控制中心发送服务请求的周期间隔时间,以及同一时间服务请求的数量。
需要说明的是,时间间隔过短以及服务请求数量过大,都将会影响集群系统的性能和稳定性,因此,在实际应用中,通常以秒为单位来配置所述时间间隔。具体地,可以配置该时间间隔为5秒,在其他实施场景中,技术人员可以在满足集群系统的性能和稳定性的基础上根据实际情况灵活地配置该时间间隔。而服务请求的数量,技术人员应参考存储单元102d存档,权衡各种因素后,给出当前服务请求的并发数。在明确当前时间间隔以及并发数后,由技术人员通过按键装置设定,或者通过系统自动调整设定。
步骤2:云服务器控制中心102接受输入单元104发送的信息,通过拟合单元102b决定是否启动处理单元102a开始工作,确认信息后符合启动处理单元102a的条件,由拟合单元102b发出指令启动处理单元102a开始工作。
具体地,根据当前的处理服务请求的数量来判断,由拟合单元102b判断是否需要增减负载均衡节点的数量,当处理服务请求的数量达到或超出设定阈值时,说明需要适当增加负载均衡节点的数量来共同处理当前所有的服务请求,否则判断为暂时维持或适当减少负载均衡节点的数量。其中,所述设定阈值可以由管理人员通过输入单元104进行设置,比如,当前云服务器集群的最大处理能力为每服务周期内能处理100个服务请求,那么为了保证系统的平稳运行,可以设置处理服务请求的阈值为每服务周期内处理80个服务请求,当然,这里只是举例说明,所述阈值并不限于此,技术人员还可以根据实际需要设置阈值。
启动处理单元102a开始工作意味着,当前云服务器集群中需要处理的服务请求已经达到或超出设定阈值,需要尽快启用备份服务器集群106,尽快减轻当前云服务器集群的负担,加快整个集群系统的运行速度。
步骤3:处理单元102a按照输入单元104设定的信息,发送指令给检测单元101,检测单元101开始周期性发送服务请求给当前云服务器集群,同时数据收集单元102c开始实时收集当前云服务器集群同步处理的请求数量,以及处理每个请求所需要的时间,以及当前云服务器集群的中的所有具体服务器的CPU使用率和内存使用率。
具体地,处理单元102a从存储单元102d中查找出当前云服务器集群内所有负载均衡节点,以及所有负载均衡节点的具体服务器的访问储存信息,其信息主要包括各负载均衡节点同步处理的请求数量,以及处理每个请求所需要的时间,以及各负载均衡节点连接所有服务器的CPU使用率和内存使用率;检测单元101开始检测当前云服务器中可利用的所有负载均衡节点,将检测出的所有负载均衡节点,与从存储单元102d中查找出的节点进行比对,若有节点无法匹配成功,检测单元101将向该负载均衡节点按照配置的时间间隔发送资源信息检测请求,所述资源信息检测请求为该负载均衡节点同步处理的请求数量,以及处理每个请求所需要的时间,以及该负载均衡节点连接的备份服务器集群106内的服务器的CPU使用率和内存使用率;检测后的负载均衡节点资源信息由数据收集单元102c负责收集。
需要说明的是,上述流程在云服务器控制中心102上初始运行时,由于存储单元102d为初始状态,匹配负载均衡节点消耗的时间较多,随着检测次数增多,匹配负载均衡节点消耗的时间将会逐步下降。
步骤4:拟合单元102b按照数据收集单元102c提供的信息,评测出各负载均衡节点处理能力和处理服务请求的顺序及处理能力;并将上述信息发送给存储单元102d存档,同时也发送给信息中转站103;若数据收集单元102c提取的信息出现异常或者评测中出现异常信息,则启动报警单元105,通知管理人员及时处理异常情况。
具体地,对于各负载均衡节点连接备份服务器集群106处理服务的顺序,依照数据收集单元102c提取备份服务器集群106内的服务器的CPU使用率、内存使用率以及处理单次请求的时间,进行加权求和,从而确定出各负载均衡节点连接备份服务器集群106处理服务的顺序;如果备份服务器集群106内某一服务器的CPU使用率、内存使用率以及处理单次请求的时间,其中任意一项大于输入单元104设定的初始值,则启动报警单元105,通知管理人员及时查找出现异常的原因,以免服务器负载过高,致使出现更严重的问题。例如出现CPU使用率过高、内存使用率过大以及处理单次请求的时间过长,均有可能是处理该当前服务请求时,由于客观原因该服务器出现宕机现象,此时需要管理人员手动重新该服务器或者停止该服务器的服务。
而对于每个负载均衡节点处理服务请求的顺序,先确定出该负载均衡节点的当次处理服务请求的响应时间减去该负载均衡节点上次处理服务请求的响应时间的差值;并将该差值与该负载均衡节点的当次处理服务请求的响应时间进行加权求和,得到综合响应时间;并确定该综合响应时间与该负载均衡节点对应的已分配待发送的请求数据包数量的乘积值;以及根据确定出的每个负载均衡节点对应的乘积值,确定乘积值从小到大的前若干个乘积值分别所对应的负载均衡节点为当前处理能力从强到弱的前若干个负载均衡节点。如果某一负载均衡节点处理服务请求的顺序,持续处于末位主要处于倒数三位内,也将启动报警单元105,通知管理人员及时查找出现异常的原因。例如该负载均衡节点连接的备份服务器集群106的服务器数量,由于各种客观或主管原因明显减少,就需要管理人员及时分配新的服务器提供给该负载均衡节点或者手动停止该负载均衡节点提供服务。
存储单元102d将本次服务周期内数据收集单元102c收集到的信息,以及拟合单元102b评测出的信息,全部记录保存至专有数据库中,为下一次服务周期的评测提供参考数据;并将各负载均衡节点处理能力和处理服务请求的顺序,以及各负载均衡节点连接所有服务器的处理能力和处理服务请求的顺序,发送给信息中转站103。
步骤5:信息中转站103按照拟合单元102b提供的各负载均衡节点处理服务请求的顺序,依次分发服务请求给各负载均衡节点;各负载均衡节点依据信息中转站103提供的信息,依次分发服务请求给各负载均衡节点连接所有服务器进行处理。
具体地,信息中转站103先确定本次服务周期内,能处理服务请求的负载均衡节点,再按照拟合单元102b,提供的各负载均衡节点处理服务请求的顺序,依次分发服务请求给各负载均衡节点;同理对于各负载均衡节点连接所有服务器,信息中转站103先确定本次服务周期内,能处理服务请求的服务器,再按照信息中转站103提供的信息,依次分发服务请求给各负载均衡节点连接所有服务器进行处理。
本发明的有益效果:本发明提供的这种一种基于云服务的服务器集群负载均衡控制方法及系统,预设客户端向云服务器控制中心发送服务请求的周期间隔时间,每间隔相同单位时间,定时检查各云服务器集群的未完成响应任务总数量,如果未完成总数量超过能响应总数量的一倍,则判定当前云服务集群无法正常响应任务请求,同时开始向云服务器控制中心发送协助请求,控制中心接受协助请求后,启动再次核查各云服务器集群的未完成响应任务总数量。云服务器控制中心参照未完成响应任务总数量并结合各设备规格说明书中各设备最短处理时间,进行加权平均,综合制定出协助处理云服务器集群响应顺序表,由控制中心依照顺序表依次开始发送处理请求。通过设置规则,对资源和需求的合理调度,使得有限的资源最大限度满足响应需求。
本发明实施例还提供了一种基于云服务的服务器集群负载均衡控制系统,包括:
检测单元101、云服务器控制中心102、信息中转站103及输入单元104;
所述检测单元101用于周期性地向云服务器控制中心发送请求;
所述云服务器控制中心102用于获取一时间周期内的当前服务请求的数量,在当前时间周期内,并判断当前服务请求是否大于处理该当前服务请求的当前云服务器集群的能力;
具体地,每间隔相同单位时间,定时检查各云服务器集群的未完成响应任务总数量,如果未完成总数量超过能响应总数量的一倍,则判定当前云服务集群无法正常响应任务请求,同时开始向云服务器控制中心发送协助请求,控制中心接受协助请求后,启动再次核查各云服务器集群的未完成响应任务总数量;若当前云服务器集群处理能力无法响应当前服务请求,同时在两个周期间隔时间内,没有其他负载均衡节点响应,则云服务器控制中心查找当前可以协助处理服务请求的备份服务器集群;
具体地,云服务器控制中心参照未完成响应任务总数量并结合各设备规格说明书中各设备最短处理时间,进行加权平均,综合制定出协助处理云服务器集群响应顺序表,由控制中心依照顺序表依次开始发送处理请求,如果控制中心同一时间间隔,接到三个或者三个以上协助请求,则显示云服务器控制中心出现重大异常信息,则启动蜂鸣器或者短信提醒,通知管理人员及时处理异常情况;对能协助处理服务请求的备份服务器集群中的负载均衡节点、以及各负载均衡节点中能协助处理的服务器,同已存储的信息进行比对,综合制定出备份服务器集群中的负载均衡节点处理所述当前服务请求的顺序;将超过当前云服务器集群处理能力的服务请求,根据所述顺序依次发送给新启用的备份服务器集群进行处理的各负载均衡节点,直至当前服务请求结束。
所述输入单元104即客户端,其用于向云服务器发送服务请求的周期间隔时间。
本发明实施例可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序单元。一般地,程序单元包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本发明实施例,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序单元可以位于包括存储设备在内的本地和远程计算机存储介质中。在一个典型的配置中,所述计算机设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的单元或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括非持续性的电脑可读媒体(transitory media),如调制的数据信号和载波。
本领域普通技术人员应该还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明实施例的范围。
Claims (8)
1.一种基于云服务的服务器集群负载均衡控制方法,其特征在于,包括:
S1:预设客户端向云服务器控制中心发送服务请求的周期间隔时间;
S2:云服务器控制中心获取一时间周期内的当前服务请求的数量,在当前时间周期内,并判断当前服务请求是否大于处理该当前服务请求的当前云服务器集群的能力;
具体地,每间隔相同单位时间,定时检查各云服务器集群的未完成响应任务总数量,如果未完成总数量超过能响应总数量的一倍,则判定当前云服务集群无法正常响应任务请求,同时开始向云服务器控制中心发送协助请求,控制中心接受协助请求后,启动再次核查各云服务器集群的未完成响应任务总数量;
S3:若当前云服务器集群处理能力无法响应当前服务请求,同时在两个周期间隔时间内,没有其他负载均衡节点响应,则云服务器控制中心查找当前可以协助处理服务请求的备份服务器集群;
具体地,云服务器控制中心参照未完成响应任务总数量并结合各设备规格说明书中各设备最短处理时间,进行加权平均,综合制定出协助处理云服务器集群响应顺序表,由控制中心依照顺序表依次开始发送处理请求,如果控制中心同一时间间隔,接到三个或者三个以上协助请求,则显示云服务器控制中心出现重大异常信息,则启动蜂鸣器或者短信提醒,通知管理人员及时处理异常情况;
S4:对能协助处理服务请求的备份服务器集群中的负载均衡节点、以及各负载均衡节点中能协助处理的服务器,同已存储的信息进行比对,综合制定出备份服务器集群中的负载均衡节点处理所述当前服务请求的顺序;
S5:将超过当前云服务器集群处理能力的服务请求,根据所述顺序依次发送给新启用的备份服务器集群进行处理的各负载均衡节点,直至当前服务请求结束。
2.根据权利要求1所述的基于云服务的服务器集群负载均衡控制方法,其特征在于,所述步骤S4具体包括:将本次服务请求周期内收集各负载均衡节点同步处理的请求数量、处理每个请求所需要的时间、以及各负载均衡节点连接的备份服务器集群的CPU使用率和内存使用率,制定出处理服务请求的顺序数据,并上传至各自对应的数据库服务器中。
3.根据权利要求1所述的基于云服务的服务器集群负载均衡控制方法,其特征在于,所述步骤S1具体包括:根据云服务器控制中心的最大并发处理数量确定周期间隔时间。
4.根据权利要求1所述的基于云服务的服务器集群负载均衡控制方法,其特征在于:若一负载均衡节点处理服务请求的顺序位置持续处于末位则报警输出。
5.根据权利要求1所述的基于云服务的服务器集群负载均衡控制方法,其特征在于:若一备份服务器集群的CPU使用率、内存使用率以及处理单次请求的时间,其中任意一项大于设定的初始值则报警输出。
6.一种基于云服务的服务器集群负载均衡控制系统,其特征在于,包括:
检测单元、云服务器控制中心、信息中转站及输入单元;
所述检测单元用于周期性地向云服务器控制中心发送请求;
所述云服务器控制中心用于获取一时间周期内的当前服务请求的数量,在当前时间周期内,并判断当前服务请求是否大于处理该当前服务请求的当前云服务器集群的能力;
具体地,每间隔相同单位时间,定时检查各云服务器集群的未完成响应任务总数量,如果未完成总数量超过能响应总数量的一倍,则判定当前云服务集群无法正常响应任务请求,同时开始向云服务器控制中心发送协助请求,控制中心接受协助请求后,启动再次核查各云服务器集群的未完成响应任务总数量;
若当前云服务器集群处理能力无法响应当前服务请求,同时在两个周期间隔时间内,没有其他负载均衡节点响应,则云服务器控制中心查找当前可以协助处理服务请求的备份服务器集群;
具体地,云服务器控制中心参照未完成响应任务总数量并结合各设备规格说明书中各设备最短处理时间,进行加权平均,综合制定出协助处理云服务器集群响应顺序表,由控制中心依照顺序表依次开始发送处理请求,如果控制中心同一时间间隔,接到三个或者三个以上协助请求,则显示云服务器控制中心出现重大异常信息,则启动蜂鸣器或者短信提醒,通知管理人员及时处理异常情况;对能协助处理服务请求的备份服务器集群中的负载均衡节点、以及各负载均衡节点中能协助处理的服务器,同已存储的信息进行比对,综合制定出备份服务器集群中的负载均衡节点处理所述当前服务请求的顺序;将超过当前云服务器集群处理能力的服务请求,根据所述顺序依次发送给新启用的备份服务器集群进行处理的各负载均衡节点,直至当前服务请求结束;
所述输入单元用于预设客户端向云服务器发送服务请求的周期间隔时间。
7.根据权利要求6所述的基于云服务的服务器集群负载均衡控制系统,其特征在于:所述系统还包括报警单元,所述报警单元用于向监控系统或者管理人员报警输出。
8.根据权利要求6所述的基于云服务的服务器集群负载均衡控制系统,其特征在于:所述云服务器控制中心包括处理单元、拟合单元、数据收集单元及存储单元;
所述处理单元用于控制各所述单元的信息进行交换;
所述拟合单元用于判断是否需要增减负载均衡节点的数量;
所述数据收集单元用于实时收集数据信息;
所述存储单元用于存储数据信息。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010929090.8A CN112231075B (zh) | 2020-09-07 | 2020-09-07 | 一种基于云服务的服务器集群负载均衡控制方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010929090.8A CN112231075B (zh) | 2020-09-07 | 2020-09-07 | 一种基于云服务的服务器集群负载均衡控制方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112231075A CN112231075A (zh) | 2021-01-15 |
CN112231075B true CN112231075B (zh) | 2023-09-01 |
Family
ID=74117199
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010929090.8A Active CN112231075B (zh) | 2020-09-07 | 2020-09-07 | 一种基于云服务的服务器集群负载均衡控制方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112231075B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113014649B (zh) * | 2021-02-26 | 2022-07-12 | 山东浪潮科学研究院有限公司 | 一种基于深度学习的云物联负载均衡方法、装置及设备 |
CN113285890B (zh) * | 2021-05-18 | 2022-11-11 | 挂号网(杭州)科技有限公司 | 网关流量的分配方法、装置、电子设备及存储介质 |
CN113671844A (zh) * | 2021-08-06 | 2021-11-19 | 深圳市欧瑞博科技股份有限公司 | 智能设备控制方法、装置、智能控制设备以及存储介质 |
CN113873006A (zh) * | 2021-08-23 | 2021-12-31 | 湖北省农村信用社联合社网络信息中心 | 一种基于优先级的基线检测方法 |
CN113938488B (zh) * | 2021-09-24 | 2023-11-24 | 浙江理工大学 | 一种基于动静态加权轮询的负载均衡方法 |
CN113923216B (zh) * | 2021-09-29 | 2023-12-15 | 阿里巴巴(中国)有限公司 | 一种分布式集群限流系统及方法和分布式集群节点 |
CN114866556B (zh) * | 2022-05-25 | 2024-04-19 | 上海众源网络有限公司 | 一种服务器资源请求方法、装置、电子设备及存储介质 |
CN117237004B (zh) * | 2023-11-10 | 2024-03-05 | 深圳海辰储能科技有限公司 | 一种储能设备交易处理方法、装置和存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101827252A (zh) * | 2010-05-14 | 2010-09-08 | 山东泰信电子有限公司 | 一种实现互联网电视终端安全访问互联网的系统及方法 |
CN105007312A (zh) * | 2015-07-03 | 2015-10-28 | 叶秀兰 | 一种云计算服务器自适应负载均衡控制方法及控制系统 |
CN106375420A (zh) * | 2016-08-31 | 2017-02-01 | 武汉钢信软件有限公司 | 一种基于负载均衡的服务器集群智能监控系统及方法 |
US10496432B1 (en) * | 2019-01-22 | 2019-12-03 | Capital One Services, Llc | Methods, mediums, and systems for provisioning application services |
CN111522639A (zh) * | 2020-04-16 | 2020-08-11 | 南京邮电大学 | Kubernetes集群架构系统下多维资源调度方法 |
-
2020
- 2020-09-07 CN CN202010929090.8A patent/CN112231075B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101827252A (zh) * | 2010-05-14 | 2010-09-08 | 山东泰信电子有限公司 | 一种实现互联网电视终端安全访问互联网的系统及方法 |
CN105007312A (zh) * | 2015-07-03 | 2015-10-28 | 叶秀兰 | 一种云计算服务器自适应负载均衡控制方法及控制系统 |
CN106375420A (zh) * | 2016-08-31 | 2017-02-01 | 武汉钢信软件有限公司 | 一种基于负载均衡的服务器集群智能监控系统及方法 |
US10496432B1 (en) * | 2019-01-22 | 2019-12-03 | Capital One Services, Llc | Methods, mediums, and systems for provisioning application services |
CN111522639A (zh) * | 2020-04-16 | 2020-08-11 | 南京邮电大学 | Kubernetes集群架构系统下多维资源调度方法 |
Also Published As
Publication number | Publication date |
---|---|
CN112231075A (zh) | 2021-01-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112231075B (zh) | 一种基于云服务的服务器集群负载均衡控制方法及系统 | |
US10348809B2 (en) | Naming of distributed business transactions | |
CN106375420B (zh) | 一种基于负载均衡的服务器集群智能监控系统及方法 | |
CN105245381B (zh) | 云服务器宕机监控迁移系统和方法 | |
CN110809060B (zh) | 一种应用服务器集群的监控系统及监控方法 | |
EP3490216A1 (en) | Risk identification method, risk identification apparatus, and cloud risk identification apparatus and system | |
CN111124609B (zh) | 数据采集方法、装置、数据采集设备及存储介质 | |
US20170329390A1 (en) | System and method for selectively hibernating and restarting a node of an application instance | |
CN109728981A (zh) | 一种云平台故障监测方法及装置 | |
CN109584105B (zh) | 一种服务响应的方法及系统 | |
CN111200526A (zh) | 网络设备的监控系统及方法 | |
CN112866394B (zh) | 一种负载均衡方法、装置、系统、计算机设备和存储介质 | |
CN116627771B (zh) | 日志采集方法、装置、电子设备和可读存储介质 | |
CN115665173B (zh) | 一种基于MQ的WebSocket通信方法、系统和存储介质 | |
CN111258870A (zh) | 分布式存储系统的性能分析方法、装置、设备及存储介质 | |
CN110750425A (zh) | 数据库监控方法、装置、系统和存储介质 | |
CN109510730A (zh) | 分布式系统及其监控方法、装置、电子设备及存储介质 | |
CN111427674A (zh) | 一种微服务管理方法、装置及系统 | |
CN116107741A (zh) | 一种负载均衡调度方法、系统、电子设备及可读存储介质 | |
CN113190361B (zh) | 数据传输策略的调整方法、装置、设备及存储介质 | |
US11271839B2 (en) | Dynamic asynchronous communication management | |
JP6073211B2 (ja) | サーバ監視方法およびサーバ監視システム | |
CN114697319B (zh) | 一种公有云的租户业务管理方法及装置 | |
CN116260703A (zh) | 分布式消息服务节点cpu性能故障自恢复方法及装置 | |
JP6322332B2 (ja) | エネルギー管理システムおよび業務アプリケーションの実行方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |