CN110515728A - 服务器调度方法、装置、电子设备及机器可读存储介质 - Google Patents
服务器调度方法、装置、电子设备及机器可读存储介质 Download PDFInfo
- Publication number
- CN110515728A CN110515728A CN201910764111.2A CN201910764111A CN110515728A CN 110515728 A CN110515728 A CN 110515728A CN 201910764111 A CN201910764111 A CN 201910764111A CN 110515728 A CN110515728 A CN 110515728A
- Authority
- CN
- China
- Prior art keywords
- service server
- performance parameter
- load
- real
- business
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
Abstract
本申请提供一种服务器调度方法、装置、电子设备及机器可读存储介质。在本申请中,从高优先级分组中,确定满足所述初始性能参数对应的业务服务器;将业务负载分发至业务服务器,以由业务服务器执行对应业务处理;监测所述业务负载对应的实时性能参数;基于所述实时性能参数,调度增加满足所述实时性能参数对应的业务服务器。基于不同优先级业务服务器执行负载均衡调度;以及根据业务负载实时性能及业务服务器的设备性能,动态调度业务服务器的增加或删除,从而实现了负载均衡业务的高可靠及灵活管理。
Description
技术领域
本申请涉及通信技术领域,尤其涉及服务器调度方法、装置、电子设备及机器可读存储介质。
背景技术
负载均衡(Load Balance,简称LB)是一种服务器的集群技术。负载均衡设备将特定的业务请求分担给与其相连通信的多个服务器,从而提高了业务处理能力,保证了业务的高可用性。
例如,在实现时,可以由多台服务器以对称的方式组成一个服务器集合,该服务器集合中的每台服务器都具有等价的地位,都可以单独对外提供业务服务而无须其他服务器的辅助;通过负载均衡技术,将目标为该服务器集合负责的业务请求均匀分配到该服务器集合中的一台服务器上,从而由接收到业务请求的服务器独立地回应客户端的请求。基于负载均衡技术能够平均分配客户请求到服务器列阵,并提供快速获取重要数据,解决大量并发访问服务问题。
发明内容
本申请提供一种服务器调度方法,所述方法应用于负载均衡系统中的负载均衡设备,所述负载均衡系统还包括属于不同优先级分组的业务服务器、客户端;其中,所述客户端经所述负载均衡设备访问所述业务服务器;所负载均衡设备预设有用于调度所述业务服务器执行来自所述客户端的业务负载对应的初始性能参数;其中,所述初始性能参数至少包括最小并发连接数、最小新建连接数;所述方法包括:
从高优先级分组中,确定满足所述初始性能参数对应的业务服务器;将业务负载分发至业务服务器,以由业务服务器执行对应业务处理;
监测所述业务负载对应的实时性能参数;
基于所述实时性能参数,调度增加满足所述实时性能参数对应的业务服务器。
可选的,所述业务服务器对应设备性能参数至少包括并发连接数、新建连接数;所述基于所述实时性能参数,调度增加满足所述实时性能参数对应的业务服务器,包括:
如果所述实时性能参数超过所述初始性能参数;以及,高优先级分组不存在可用业务服务器,从低优先级分组中调度选取优先级低的业务服务器,以满足对应增加的业务负载。
可选的,还包括:
如果所述实时性能参数小于预设期望性能阈值并且持续预设周期,从所述实时性能参数对应业务负载的若干业务服务器中,调度删除部分业务服务器。
可选的,所述从所述实时性能参数对应业务负载的若干业务服务器中,调度删除部分业务服务器,包括:
从所述实时性能参数对应业务负载的若干业务服务器中,按业务服务器的优先级从低到高,确定满足所述实时性能参数的性能过剩的业务服务器;
调度删除性能过剩的业务服务器,以释放对应业务负载。
本申请还提供一种服务器调度装置,所述装置应用于负载均衡系统中的负载均衡设备,所述负载均衡系统还包括属于不同优先级分组的业务服务器、客户端;其中,所述客户端经所述负载均衡设备访问所述业务服务器;所负载均衡设备预设有用于调度所述业务服务器执行来自所述客户端的业务负载对应的初始性能参数;其中,所述初始性能参数至少包括最小并发连接数、最小新建连接数;所述装置包括:
调度模块,从高优先级分组中,确定满足所述初始性能参数对应的业务服务器;将业务负载分发至业务服务器,以由业务服务器执行对应业务处理;
监测模块,监测所述业务负载对应的实时性能参数;
所述调度模块进一步,基于所述实时性能参数,调度增加满足所述实时性能参数对应的业务服务器。
可选的,所述业务服务器对应设备性能参数至少包括并发连接数、新建连接数;所述调度模块进一步:
如果所述实时性能参数超过所述初始性能参数;以及,高优先级分组不存在可用业务服务器,从低优先级分组中调度选取优先级低的业务服务器,以满足对应增加的业务负载。
可选的,所述调度模块进一步:
如果所述实时性能参数小于预设期望性能阈值并且持续预设周期,从所述实时性能参数对应业务负载的若干业务服务器中,调度删除部分业务服务器。
可选的,所述调度模块进一步:
从所述实时性能参数对应业务负载的若干业务服务器中,按业务服务器的优先级从低到高,确定满足所述实时性能参数的性能过剩的业务服务器;
调度删除性能过剩的业务服务器,以释放对应业务负载。
本申请还提供一种电子设备,包括通信接口、处理器、存储器和总线,所述通信接口、所述处理器和所述存储器之间通过总线相互连接;
所述存储器中存储机器可读指令,所述处理器通过调用所述机器可读指令,执行上述的方法。
本申请还提供一种机器可读存储介质,所述机器可读存储介质存储有机器可读指令,所述机器可读指令在被处理器调用和执行时,实现上述方法。
通过以上实施例,基于不同优先级业务服务器执行负载均衡调度;以及根据业务负载实时性能及业务服务器的设备性能,动态调度业务服务器的增加或删除,从而实现了负载均衡业务的高可靠及灵活管理。
附图说明
图1是一示例性实施例提供的一种负载均衡系统调度方案的示意图;
图2是一示例性实施例提供的另一种负载均衡系统调度方案的示意图;
图3是一示例性实施例提供的一种服务器调度方法的流程图;
图4是一示例性实施例提供的一种服务器调度的示意图;
图5是一示例性实施例提供的另一种服务器调度的示意图;
图6是一示例性实施例提供的一种服务器调度装置的框图;
图7是一示例性实施例提供的一种电子设备的硬件结构图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
在本申请使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本申请。在本申请和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本申请可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本申请范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
为了使本技术领域的人员更好地理解本申请实施例中的技术方案,下面先对本申请实施例涉及的服务器调度的相关技术,进行简要说明。
请参见图1,图1是本说明书一实施例提供的一种负载均衡系统调度方案的示意图。
如图1所示的负载均衡系统包括:负载均衡设备、属于不同优先级分组的业务服务器、客户端;其中,客户端经负载均衡设备调度可以访问不同业务服务器。
如图1所示,down用于指示业务服务器的状态为故障离线,up用于指示业务服务器的状态为正常在线。业务服务器S1、S6属于优先级为1的优先级分组g1;业务服务器S3、S7属于优先级为2的优先级分组g2;业务服务器S5、S2属于优先级为3的优先级分组g3;其中,优先级分组对应的优先级为g1>g2>g3。
如图1所示,负载均衡设备调度的初始配置为:启用优先级组,业务服务器最小个数=4;其中,启用优先级组是指负载均衡设备优先从高优先级分组内调度业务服务器来满足业务负载需求。
负载均衡设备为了满足如图1所示初始配置(业务服务器最小个数=4),首先,在高优先级分组g1中调度两个up的业务服务器S1、S6,用以执行业务负载;其次,在次高优先级分组g2中调度两个up的业务服务器S3、S7,用以执行业务负载。由此,负载均衡设备可以同时调度4台业务服务器(S1、S6、S3、S7)执行业务负载,满足了上述初始配置。
在一些场景下,当业务服务器S1的状态由up变为down时,为了满足了上述初始配置,负载均衡设备可以调度优先级分组g3中的up的业务服务器S5或S2。
基于上述场景可见,现有实现中基于优先级组调度仅能保证预设数量的业务服务器执行业务负载,而在实际应用中,业务服务器的性能可能不相同,由此导致即使执行业务负载的业务服务器的数量满足需求,当实际的性能负载可能无法达到业务负载实际需求,从而导致业务处理响应缓慢或中断。
请参见图2,图2是本说明书一实施例提供的另一种负载均衡系统调度方案的示意图。
图2与图1所示的负载均衡系统的组网和业务完全相同,图2与图1主要区别在于,图2的初始配置与图1的初始配置不同,图2的初始配置除了包括启用优先级组外,还包括最小并发连接数=2000,最小新建连接数=50的初始性能参数。
如图2所示,每个业务服务器的设备性能参数至少包括并发连接数、新建连接数;其中,每个业务服务器的设备性能参数对应具体数值,请参见图2所示业务服务器右侧对应的并发连接数、支持新建连接数。
基于图2所示例的架构,而本申请旨在提出一种,根据业务负载实时性能,以及不同业务服务器的设备性能,动态调度业务服务器增删的技术方案。
在实现时,负载均衡系统包括有负载均衡设备、属于不同优先级分组的业务服务器、客户端;其中,所述客户端经所述负载均衡设备访问所述业务服务器;所负载均衡设备预设有用于调度所述业务服务器执行来自所述客户端的业务负载对应的初始性能参数;其中,所述初始性能参数至少包括最小并发连接数、最小新建连接数。
进一步地,负载均衡设备从高优先级分组中,确定满足所述初始性能参数对应的业务服务器;将业务负载分发至业务服务器,以由业务服务器执行对应业务处理;监测所述业务负载对应的实时性能参数;基于所述实时性能参数,调度增加满足所述实时性能参数对应的业务服务器。
在以上方案中,基于不同优先级业务服务器执行负载均衡调度;以及根据业务负载实时性能及业务服务器的设备性能,动态调度业务服务器的增加或删除,从而实现了负载均衡业务的高可靠及灵活管理。
下面通过具体实施例并结合具体的应用场景对本申请进行描述。
请参考图3,图3是本申请一实施例提供的一种服务器调度方法的流程图,所述方法应用于负载均衡系统中的负载均衡设备,所述负载均衡系统还包括属于不同优先级分组的业务服务器、客户端;其中,所述客户端经所述负载均衡设备访问所述业务服务器;所负载均衡设备预设有用于调度所述业务服务器执行来自所述客户端的业务负载对应的初始性能参数;其中,所述初始性能参数至少包括最小并发连接数、最小新建连接数;上述方法执行以下步骤:
步骤302、从高优先级分组中,确定满足所述初始性能参数对应的业务服务器;将业务负载分发至业务服务器,以由业务服务器执行对应业务处理。
步骤304、监测所述业务负载对应的实时性能参数。
步骤306、基于所述实时性能参数,调度增加满足所述实时性能参数对应的业务服务器。
在本说明书中,上述负载均衡设备,可以包括支持优先级分组调度服务器功能的任何形式的负载均衡设备。
例如,在实际应用中,上述负载均衡设备具体可以包括支持优先级分组负载均衡调度服务器的交换机、路由器、防火墙、服务器及负载均衡器等。
在本说明书中,上述业务服务器,是指与上述负载均衡设备通过网络相连通信,并可以被上述负载均衡设备管理及调度的承载任何业务的任何形式的设备或设备集群。
例如,在实际应用中,上述业务服务器可以是Web网站服务的集群;上述业务服务器也可以是流媒体服务集群。
在本说明书中,上述客户端是指,经上述负载均衡设备向上述业务服务器发起任何业务访问的任何形式的设备或设备集群。
例如,上述客户端可以是包括向上述负载均衡设备发起基于http业务请求的PC、便携电脑、移动终端等;上述客户端也可以是包括向上述负载均衡设备发起基于流媒体业务请求的PC、便携电脑、移动终端等。
在本说明书中,上述负载均衡系统,是指由上述客户端、上述负载均衡设备及上述业务服务器组成的业务系统;其中,上述客户端经上述负载均衡设备访问上述业务服务器。
在本说明书中,上述初始性能参数是指,上述负载均衡设备上预设的、用于调度上述业务服务器执行来自上述客户端的业务负载对应的、针对上述服务器的初始调度配置;
其中,上述初始性能参数至少包括最小并发连接数、最小新建连接数。
在实现时,最小并发连接数是指在单位时间内,上述客户端到上述负载均衡设备的访问触发建立的所有并发连接的最小数量总和;最小新建连接数是指在单位时间内,上述客户端到上述负载均衡设备的访问触发建立的所有新增并发连接的最小数量总和。
例如,请参见图2所示,上述初始性能参数的最小并发连接数为2000个/每秒,上述初始性能参数的最小新建连接数为50个/每秒。
在本说明书中,上述设备性能参数是指,上述业务服务器所分别对应的设备可以执行来自上述客户端的业务负载的性能参数;
其中,上述设备性能参数至少包括并发连接数、新建连接数。
在实现时,支持连接数是指在单位时间内,上述业务服务器所能支持的业务负载对应的并发连接数;支持新建连接数是指在单位时间内,上述业务服务器所能支持的业务负载对应的新增并发连接数。
例如,请参见图2所示,业务服务器S1对应的设备性能参数包括:并发连接数=1000、新建连接数50;业务服务器S6对应的设备性能参数包括:并发连接数=1000、新建连接数40;业务服务器S5对应的设备性能参数包括:并发连接数=800、新建连接数40;业务服务器S2对应的设备性能参数包括:并发连接数=500、新建连接数25。
在本说明书中,上述负载均衡设备从高优先级分组中,确定满足上述初始性能参数对应的业务服务器;将业务负载分发至该业务服务器,以由该业务服务器执行对应业务处理。
例如,请参见图2所示,初始性能参数包括:最小并发连接数=2000,最小新建连接数=50;上述负载均衡设备从优先级为1的高优先级分组g1中,确定满足该初始性能参数对应的业务服务器,由于业务服务器S1状态为down,则上述负载均衡设备确定高优先级分组g1中的业务服务器S6,次高优先级分组g3中的业务服务器S5、S2,用于承载对应业务处理。此时,业务服务器S6、S5、S2分别对应的并发连接数的总和(1000+800+500=2300)及分别对应的新建连接数的总和(40+40+25=105)满足该初始性能参数要求。
请参见图4,图4是本说明书一实施例提供的一种服务器调度的示意图。
图4是基于图2变化而来,图4与图2所示的负载均衡系统的组网和业务完全相同,图4与图2主要区别在于,图4新增了显示实时负载对应的性能参数:实时负载并发连接数为3000、实时负载新建连接数为40。
如图4所示,图4相比图2还增加了优先级组g5及其包含的业务服务器S4、S9。
在本说明书中,上述实时性能参数,是指上述负载均衡设备接收的、来自上述客户端的实时业务负载对应的性能参数;
其中,上述实时性能参数至少包括实时负载并发连接数、实时负载新建连接数。
在实现时,实时并发连接数是指在单位时间内,上述客户端到上述负载均衡设备的实时访问触发建立的所有并发连接的数量总和;实时新建连接数是指在单位时间内,上述客户端到上述负载均衡设备的实时访问触发建立的所有新增并发连接的数量总和。
例如,请参见图4所示,上述实时性能参数包括实时负载并发连接数为3000、实时负载新建连接数为40。
在示出的一种实施方式中,如果上述实时性能参数超过上述初始性能参数;以及,高优先级分组不存在可用业务服务器,上述负载均衡设备从低优先级分组中调度选取优先级低的业务服务器,以满足对应增加的业务负载。
接着以上示例继续举例,请参见图4所示,实时性能参数包括的并发连接数为3000、实时负载新建连接数为40;初始性能参数包括的最小并发连接数=2000,最小新建连接数=50;其中,该实时性能参数的并发连接数(3000)已超过上述初始性能参数的最小并发连接数(2000),并且高优先级分组g1、g3中已无可用业务服务器,上述负载均衡设备从低优先级分组g5(如图4虚线框所示)中调度选取优先级低的业务服务器S4、S9,以满足对应增加的业务负载。此时,业务服务器S6、S5、S2、S4、S9分别对应的并发连接数的总和(1000+800+500+600+500=3400)及分别对应的新建连接数的总和(40+40+25+20+25=150)满足该实时性能参数要求,也即上述负载均衡设备调度的上述业务服务器的并发连接数的总和及新建连接数的总和,都需要分别大于或等于实时性能参数包括的实时负载并发连接数及实时负载新建连接数。
请参见图5,图5是本说明书一实施例提供的另一种服务器调度的示意图。
图5是基于图4变化而来,图5与图4所示的负载均衡系统的组网和业务完全相同,图5与图4主要区别在于,实时负载对应的性能参数不同,图5所示的实时负载并发连接数为500、实时负载新建连接数为30。
如图5虚线框所示,图5相比图4还删除了优先级组g3、g5,及两者分别包含的业务服务器S5、S2、S4、S9。
在本说明书中,上述预设期望性能阈值,是指业务负载的实时性能参数的减低到预期设定的性能参数设置。
例如,上述预设期望性能阈值可以是固定值,其可以包括业务负载的实时负载并发连接数为600,业务负载的实时负载新建连接数为30。
当然,上述预设期望性能阈值也可以是变化值。例如,上述预设期望性能阈值也可以包括:当前实时负载并发连接数为当前执行业务负载的业务服务器的连接数的总和的1/3、当前实时负载并发连接数为当前执行业务负载的业务服务器的新建连接数的总和的1/3。
在示出的一种实施方式中,如果上述实时性能参数小于预设期望性能阈值并且持续预设周期,上述负载均衡设备从上述实时性能参数对应业务负载的若干业务服务器中,调度删除部分业务服务器。
例如,请参见图5所示,实时性能参数包括的实时负载并发连接数为500、实时负载新建连接数为30;该实时性能参数小于上述预设期望性能阈值(比如:当前执行业务负载的业务服务器的连接数的总和的1/3、当前实时负载并发连接数为当前执行业务负载的业务服务器的新建连接数的总和的1/3),并且该实时性能参数小于该预设期望性能阈值持续预设周期(比如:30分钟),上述负载均衡设备从该实时性能参数对应业务负载的若干业务服务器中S6、S5、S2、S4、S9,调度删除部分业务服务器S4、S9、S5、S2。
在示出的一种实施方式中,在调度删除部分业务服务器过程中,上述负载均衡设备从上述实时性能参数对应业务负载的若干业务服务器中,按业务服务器的优先级从低到高,确定满足上述实时性能参数的性能过剩的业务服务器。
接着以上示例继续举例,上述负载均衡设备在从该实时性能参数对应业务负载的若干业务服务器中S6、S5、S2、S4、S9中,按业务服务器的优先级从低到高,首先确定优先级是5的属于优先级组g5(相比优先级组g3优先级要低)的业务服务器S4、S9为满足上述实时性能参数的性能过剩的业务服务器;其次确定优先级是3的属于优先级组g3(相比优先级组g1优先级要低)的业务服务器S5、S2为满足上述实时性能参数的业务服务器。如图5所示,此时,业务服务器S1已恢复up状态,可以继续执行业务负载,优先级组g1所包括的业务服务器S1、S6分别对应的并发连接数的总和(1000+1000=2000)及分别对应的新建连接数的总和(50+40=90)满足该实时性能参数(实时负载并发连接数为500、实时负载新建连接数为30)要求,并且也满足如图5所示初始配置的初始性能参数(最小并发连接数=2000,最小新建连接数=50)的要求。
在本说明书中,进一步地,在满足上述实时性能参数的性能过剩的业务服务器后,上述负载均衡设备调度删除性能过剩的业务服务器,以释放对应业务负载。
接着以上示例继续举例,上述负载均衡设备从当前实时性能参数对应业务负载的若干业务服务器中S6、S5、S2、S4、S9,删除性能过剩的对应业务服务器S4、S9、S5、S2。
在以上技术方案中,基于不同优先级业务服务器执行负载均衡调度;以及根据业务负载实时性能及业务服务器的设备性能,动态调度业务服务器的增加或删除,从而实现了负载均衡业务的高可靠及灵活管理。
图6是本申请一示例性实施例提供的一种服务器调度装置的框图。与上述方法实施例相对应,本申请还提供了一种服务器调度装置的实施例,所述装置应用于负载均衡系统中的负载均衡设备,所述负载均衡系统还包括属于不同优先级分组的业务服务器、客户端;其中,所述客户端经所述负载均衡设备访问所述业务服务器;所负载均衡设备预设有用于调度所述业务服务器执行来自所述客户端的业务负载对应的初始性能参数;其中,所述初始性能参数至少包括最小并发连接数、最小新建连接数,请参考图6所示例的一种服务器调度装置60,所述装置包括:
调度模块601,从高优先级分组中,确定满足所述初始性能参数对应的业务服务器;将业务负载分发至业务服务器,以由业务服务器执行对应业务处理;
监测模块602,监测所述业务负载对应的实时性能参数;
所述调度模块601进一步,基于所述实时性能参数,调度增加满足所述实时性能参数对应的业务服务器。
在本实施例中,所述业务服务器对应设备性能参数至少包括并发连接数、新建连接数;所述调度模块进一步:
如果所述实时性能参数超过所述初始性能参数;以及,高优先级分组不存在可用业务服务器,从低优先级分组中调度选取优先级低的业务服务器,以满足对应增加的业务负载。
在本实施例中,所述调度模块601进一步:
如果所述实时性能参数小于预设期望性能阈值并且持续预设周期,从所述实时性能参数对应业务负载的若干业务服务器中,调度删除部分业务服务器。
在本实施例中,所述调度模块601进一步:
从所述实时性能参数对应业务负载的若干业务服务器中,按业务服务器的优先级从低到高,确定满足所述实时性能参数的性能过剩的业务服务器;
调度删除性能过剩的业务服务器,以释放对应业务负载。
对于装置实施例而言,由于其基本对应于方法实施例,所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理模块,即可以位于一个地方,或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本申请方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
上述实施例阐明的系统、装置、模块或模块,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机,计算机的具体形式可以是个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件收发设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任意几种设备的组合。
本申请的服务器调度装置的实施例可以应用在图7所示的电子设备上。装置实施例可以通过软件实现,也可以通过硬件或者软硬件结合的方式实现。以软件实现为例,作为一个逻辑意义上的装置,是通过其所在电子设备的处理器将机器可读存储介质中对应的计算机程序指令读取后运行形成的机器可执行指令。从硬件层面而言,如图7所示,为本申请的服务器调度装置所在电子设备的一种硬件结构图,除了图7所示的处理器、通信接口、总线以及机器可读存储介质之外,实施例中装置所在的电子设备通常根据该电子设备的实际功能,还可以包括其他硬件,对此不再赘述。
对应地,本申请实施例还提供了图6所示装置的一种电子设备的硬件结构,请参见图7,图7为本申请实施例提供的一种电子设备的硬件结构示意图。该设备包含:通信接口701、处理器702、机器可读存储介质703和总线704;其中,通信接口701、处理器702、机器可读存储介质703通过总线704完成相互间的通信。其中,通信接口701,用于进行网络通信。处理器702可以是一个中央处理器(CPU),处理器702可以执行机器可读存储介质703中存储的机器可读指令,以实现以上描述的方法。
本文中提到的机器可读存储介质703可以是任何电子、磁性、光学或其它物理存储装置,可以包含或存储信息,如可执行指令、数据,等等。例如,机器可读存储介质可以是:易失存储器、非易失性存储器或者类似的存储介质。具体地,机器可读存储介质703可以是RAM(Radom Access Memory,随机存取存储器)、闪存、存储驱动器(如硬盘驱动器)、固态硬盘、任何类型的存储盘(如光盘、DVD等),或者类似的存储介质,或者它们的组合。
至此,完成图7所示的硬件结构描述。
此外,本申请实施例还提供了一种包括机器可执行指令的机器可读存储介质,例如图7中的机器可读机器可读存储介质703,所述机器可执行指令可由数据处理装置中的处理器702执行以实现以上描述的数据处理方法。
上述装置中各个单元的功能和作用的实现过程具体详见上述方法中对应步骤的实现过程,在此不再赘述。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本申请的真正范围和精神由下面的权利要求指出。
应当理解的是,本申请并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。
以上所述仅为本申请的较佳实施例而已,并不用以限制本申请,凡在本申请的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本申请保护的范围之内。
Claims (10)
1.一种服务器调度方法,其特征在于,所述方法应用于负载均衡系统中的负载均衡设备,所述负载均衡系统还包括属于不同优先级分组的业务服务器、客户端;其中,所述客户端经所述负载均衡设备访问所述业务服务器;所负载均衡设备预设有用于调度所述业务服务器执行来自所述客户端的业务负载对应的初始性能参数;其中,所述初始性能参数至少包括最小并发连接数、最小新建连接数;所述方法包括:
从高优先级分组中,确定满足所述初始性能参数对应的业务服务器;将业务负载分发至业务服务器,以由业务服务器执行对应业务处理;
监测所述业务负载对应的实时性能参数;
基于所述实时性能参数,调度增加满足所述实时性能参数对应的业务服务器。
2.根据权利要求1所述的方法,其特征在于,所述业务服务器对应设备性能参数至少包括并发连接数、新建连接数;所述基于所述实时性能参数,调度增加满足所述实时性能参数对应的业务服务器,包括:
如果所述实时性能参数超过所述初始性能参数;以及,高优先级分组不存在可用业务服务器,从低优先级分组中调度选取优先级低的业务服务器,以满足对应增加的业务负载。
3.根据权利要求1所述的方法,其特征在于,还包括:
如果所述实时性能参数小于预设期望性能阈值并且持续预设周期,从所述实时性能参数对应业务负载的若干业务服务器中,调度删除部分业务服务器。
4.根据权利要求3所述的方法,其特征在于,所述从所述实时性能参数对应业务负载的若干业务服务器中,调度删除部分业务服务器,包括:
从所述实时性能参数对应业务负载的若干业务服务器中,按业务服务器的优先级从低到高,确定满足所述实时性能参数的性能过剩的业务服务器;
调度删除性能过剩的业务服务器,以释放对应业务负载。
5.一种服务器调度装置,其特征在于,所述装置应用于负载均衡系统中的负载均衡设备,所述负载均衡系统还包括属于不同优先级分组的业务服务器、客户端;其中,所述客户端经所述负载均衡设备访问所述业务服务器;所负载均衡设备预设有用于调度所述业务服务器执行来自所述客户端的业务负载对应的初始性能参数;其中,所述初始性能参数至少包括最小并发连接数、最小新建连接数;所述装置包括:
调度模块,从高优先级分组中,确定满足所述初始性能参数对应的业务服务器;将业务负载分发至业务服务器,以由业务服务器执行对应业务处理;
监测模块,监测所述业务负载对应的实时性能参数;
所述调度模块进一步,基于所述实时性能参数,调度增加满足所述实时性能参数对应的业务服务器。
6.根据权利要求5所述的装置,其特征在于,所述业务服务器对应设备性能参数至少包括并发连接数、新建连接数;所述调度模块进一步:
如果所述实时性能参数超过所述初始性能参数;以及,高优先级分组不存在可用业务服务器,从低优先级分组中调度选取优先级低的业务服务器,以满足对应增加的业务负载。
7.根据权利要求5所述的装置,其特征在于,所述调度模块进一步:
如果所述实时性能参数小于预设期望性能阈值并且持续预设周期,从所述实时性能参数对应业务负载的若干业务服务器中,调度删除部分业务服务器。
8.根据权利要求7所述的装置,其特征在于,所述调度模块进一步:
从所述实时性能参数对应业务负载的若干业务服务器中,按业务服务器的优先级从低到高,确定满足所述实时性能参数的性能过剩的业务服务器;
调度删除性能过剩的业务服务器,以释放对应业务负载。
9.一种电子设备,其特征在于,包括通信接口、处理器、存储器和总线,所述通信接口、所述处理器和所述存储器之间通过总线相互连接;
所述存储器中存储机器可读指令,所述处理器通过调用所述机器可读指令,执行如权利要求1至4任一项所述的方法。
10.一种机器可读存储介质,其特征在于,所述机器可读存储介质存储有机器可读指令,所述机器可读指令在被处理器调用和执行时,实现权利要求1至4任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910764111.2A CN110515728B (zh) | 2019-08-19 | 2019-08-19 | 服务器调度方法、装置、电子设备及机器可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910764111.2A CN110515728B (zh) | 2019-08-19 | 2019-08-19 | 服务器调度方法、装置、电子设备及机器可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110515728A true CN110515728A (zh) | 2019-11-29 |
CN110515728B CN110515728B (zh) | 2022-05-31 |
Family
ID=68626573
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910764111.2A Active CN110515728B (zh) | 2019-08-19 | 2019-08-19 | 服务器调度方法、装置、电子设备及机器可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110515728B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111225059A (zh) * | 2020-01-10 | 2020-06-02 | 中移(杭州)信息技术有限公司 | 网络请求资源调度方法、装置、电子设备及存储介质 |
CN111556125A (zh) * | 2020-04-24 | 2020-08-18 | 北京奇艺世纪科技有限公司 | 一种访问请求分配方法、负载均衡设备及电子设备 |
CN113946376A (zh) * | 2021-10-29 | 2022-01-18 | 挂号网(杭州)科技有限公司 | 负载调整方法、装置、电子设备及存储介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103179217A (zh) * | 2013-04-19 | 2013-06-26 | 中国建设银行股份有限公司 | 一种用于web应用服务器群组的负载均衡方法和装置 |
CN105072182A (zh) * | 2015-08-10 | 2015-11-18 | 北京佳讯飞鸿电气股份有限公司 | 一种负载均衡方法、负载均衡器和用户终端 |
CN105430027A (zh) * | 2014-09-04 | 2016-03-23 | 中国石油化工股份有限公司 | 基于多资源尺度的负载均衡动态预调度方法 |
CN106201722A (zh) * | 2016-07-12 | 2016-12-07 | 乐视控股(北京)有限公司 | 服务器的负载调整方法及系统 |
CN106254441A (zh) * | 2016-07-28 | 2016-12-21 | 中国联合网络通信集团有限公司 | 分布式服务管理方法及装置 |
CN106713163A (zh) * | 2016-12-29 | 2017-05-24 | 杭州迪普科技股份有限公司 | 一种调配服务器负载的方法及装置 |
US20170286179A1 (en) * | 2016-04-05 | 2017-10-05 | Netapp, Inc. | Methods and systems for managing service level objectives in a networked storage environment |
CN109104500A (zh) * | 2018-09-29 | 2018-12-28 | 广东省信息工程有限公司 | 一种动态调整的服务器负载均衡方法及装置 |
-
2019
- 2019-08-19 CN CN201910764111.2A patent/CN110515728B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103179217A (zh) * | 2013-04-19 | 2013-06-26 | 中国建设银行股份有限公司 | 一种用于web应用服务器群组的负载均衡方法和装置 |
CN105430027A (zh) * | 2014-09-04 | 2016-03-23 | 中国石油化工股份有限公司 | 基于多资源尺度的负载均衡动态预调度方法 |
CN105072182A (zh) * | 2015-08-10 | 2015-11-18 | 北京佳讯飞鸿电气股份有限公司 | 一种负载均衡方法、负载均衡器和用户终端 |
US20170286179A1 (en) * | 2016-04-05 | 2017-10-05 | Netapp, Inc. | Methods and systems for managing service level objectives in a networked storage environment |
CN106201722A (zh) * | 2016-07-12 | 2016-12-07 | 乐视控股(北京)有限公司 | 服务器的负载调整方法及系统 |
CN106254441A (zh) * | 2016-07-28 | 2016-12-21 | 中国联合网络通信集团有限公司 | 分布式服务管理方法及装置 |
CN106713163A (zh) * | 2016-12-29 | 2017-05-24 | 杭州迪普科技股份有限公司 | 一种调配服务器负载的方法及装置 |
CN109104500A (zh) * | 2018-09-29 | 2018-12-28 | 广东省信息工程有限公司 | 一种动态调整的服务器负载均衡方法及装置 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111225059A (zh) * | 2020-01-10 | 2020-06-02 | 中移(杭州)信息技术有限公司 | 网络请求资源调度方法、装置、电子设备及存储介质 |
CN111556125A (zh) * | 2020-04-24 | 2020-08-18 | 北京奇艺世纪科技有限公司 | 一种访问请求分配方法、负载均衡设备及电子设备 |
CN111556125B (zh) * | 2020-04-24 | 2022-05-17 | 北京奇艺世纪科技有限公司 | 一种访问请求分配方法、负载均衡设备及电子设备 |
CN113946376A (zh) * | 2021-10-29 | 2022-01-18 | 挂号网(杭州)科技有限公司 | 负载调整方法、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN110515728B (zh) | 2022-05-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107087019B (zh) | 一种基于端云协同计算架构的任务调度方法及装置 | |
EP3637733B1 (en) | Load balancing engine, client, distributed computing system, and load balancing method | |
US10581674B2 (en) | Method and apparatus for expanding high-availability server cluster | |
CN110290180B (zh) | 分布式任务调度方法、装置、计算机设备和存储介质 | |
EP2972855B1 (en) | Automatic configuration of external services based upon network activity | |
CN110515728A (zh) | 服务器调度方法、装置、电子设备及机器可读存储介质 | |
CN108600005A (zh) | 一种防御微服务雪崩效应的方法 | |
CN109933431B (zh) | 一种智能的客户端负载均衡方法及系统 | |
CN102970379A (zh) | 在多个服务器之间实现负载均衡的方法 | |
US9104488B2 (en) | Support server for redirecting task results to a wake-up server | |
WO2023174037A1 (zh) | 资源调度方法、装置、系统、设备、介质和程序产品 | |
CN105491150A (zh) | 基于时间序列的负载均衡处理方法及系统 | |
US20160183229A1 (en) | Ip phone network system, server apparatus, ip exchange and resource capacity expansion method | |
US10986172B2 (en) | Configurable connection reset for customized load balancing | |
CN114448989B (zh) | 调整消息分发的方法、装置、电子设备、存储介质及产品 | |
US11576181B2 (en) | Logical channel management in a communication system | |
CN105657009A (zh) | 对象网关负载均衡系统、方法及跨区域对象网关存储系统 | |
US20150127799A1 (en) | Hierarchical distribution of control information in a massively scalable network server | |
El Rheddane et al. | Elastic message queues | |
CN114024968B (zh) | 一种基于中间设备的报文发送方法、装置和电子设备 | |
CN109600278A (zh) | 一种数据通信方法、装置、设备及介质 | |
CN108270857A (zh) | 一种云计算操作系统负载均衡方法及系统 | |
CN114296869A (zh) | 一种基于tcp长连接的服务器节点服役方法及装置 | |
CN108111431B (zh) | 业务数据发送方法、装置、计算设备及计算机可读存储介质 | |
CN109903023B (zh) | 一种资源分配方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |