CN106411971A - 负载调节方法及装置 - Google Patents
负载调节方法及装置 Download PDFInfo
- Publication number
- CN106411971A CN106411971A CN201510454251.1A CN201510454251A CN106411971A CN 106411971 A CN106411971 A CN 106411971A CN 201510454251 A CN201510454251 A CN 201510454251A CN 106411971 A CN106411971 A CN 106411971A
- Authority
- CN
- China
- Prior art keywords
- business
- access server
- load
- access
- threshold value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer And Data Communications (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种负载调节方法及装置,属于计算机技术领域。所述方法包括:获取每个接入服务器的总业务负载;将总业务负载大于第一阈值的接入服务器确定为第一接入服务器,将总业务负载小于第二阈值的接入服务器确定为第二接入服务器;控制第一接入服务器将部分业务搬迁到第二接入服务器中,业务搬迁后的第二接入服务器的总业务负载小于正常负载阈值。本发明解决了监控人员无法及时发现总业务负载较高的接入服务器,影响接入服务器的服务质量的问题,达到了提高接入服务器的服务质量,降低分布式数据处理系统的整体负载峰值,提升系统分布式数据处理的伸缩性,使分布式数据处理系统能支撑一些突发业务的效果。
Description
技术领域
本发明涉及计算机技术领域,特别涉及一种负载调节方法及装置。
背景技术
分布式数据处理系统包括分布式数据库和接入服务器,接入服务器将用户发送的每项业务的业务请求转发到分布式数据库进行存储,并将结果反馈给用户。
由于每个接入服务器接收到的业务的数量不同,并且每项业务对应的业务负载也不同,导致部分接入服务器的总业务负载较高,部分接入服务器的负载较低,从而需要调节这些接入服务器的总业务负载。其中,业务负载是接入服务器处理一项业务所占用的资源量。现有技术提供的一种负载调节方法包括:监控人员监控每个接入服务器的总业务负载,当存在某一个接入服务器的总业务负载较高时,监控人员手动增加接入服务器,将该接入服务器中的一些业务搬迁到新增的接入服务器中,以减轻该接入服务器的总业务负载。比如,业务负载为CPU(Central Processing Unit,中央处理器)占用率,假设一个接入服务器的总业务负载为80%,且业务1的业务负载是40%、业务2的业务负载是40%,则可以将业务1搬迁到新增的接入服务器中。
当分布式数据处理系统中的接入服务器较多时,监控人员需要监控的接入服务器较多,无法及时发现总业务负载较高的接入服务器,影响接入服务器的服务质量。
发明内容
为了解决监控人员无法及时发现总业务负载较高的接入服务器,影响接入服务器的服务质量的问题,本发明实施例提供了一种负载调节方法及装置。所述技术方案如下:
第一方面,提供了一种负载调节方法,所述方法包括:
获取每个接入服务器的总业务负载;
将总业务负载大于第一阈值的接入服务器确定为第一接入服务器,将总业务负载小于第二阈值的接入服务器确定为第二接入服务器;
控制所述第一接入服务器将部分业务搬迁到所述第二接入服务器中,业务搬迁后的所述第二接入服务器的总业务负载小于正常负载阈值;
其中,所述第一阈值大于所述正常负载阈值,所述正常负载阈值大于所述第二阈值。
第二方面,提供了一种负载调节装置,所述装置包括:
负载获取模块,用于获取每个接入服务器的总业务负载;
服务器确定模块,用于将将总业务负载大于第一阈值的接入服务器确定为第一接入服务器,将总业务负载小于第二阈值的接入服务器确定为第二接入服务器;
业务搬迁模块,用于控制所述第一接入服务器将部分业务搬迁到所述第二接入服务器中,业务搬迁后的所述第二接入服务器的总业务负载小于正常负载阈值;
其中,所述第一阈值大于所述正常负载阈值,所述正常负载阈值大于所述第二阈值。
本发明实施例提供的技术方案的有益效果是:
通过获取每个接入服务器的总业务负载;将总业务负载大于第一阈值的接入服务器确定为第一接入服务器,将总业务负载小于第二阈值的接入服务器确定为第二接入服务器;控制第一接入服务器将部分业务搬迁到第二接入服务器中,业务搬迁后的第二接入服务器的总业务负载小于正常负载阈值;其中,第一阈值大于正常负载阈值,正常负载阈值大于第二阈值,可以自动监控每个接入服务器的总业务负载,并及时将总业务负载较高的第一接入服务器中的业务搬迁到第二接入服务器中,由第二接入服务器来处理,从而能够及时减少第一接入服务器的总业务负载,解决了监控人员无法及时发现总业务负载较高的接入服务器,影响接入服务器的服务质量的问题,达到了提高接入服务器的服务质量的效果。并且,将总业务负载较高的第一接入服务器中的业务搬迁到第二接入服务器中还可以降低分布式数据处理系统的整体负载峰值,从而提升系统分布式数据处理的伸缩性,使分布式数据处理系统能支撑一些突发业务。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一个实施例提供的负载调节方法的方法流程图;
图2A是本发明另一实施例提供的负载调节方法的方法流程图;
图2B是本发明另一实施例提供的第一种业务搬迁的示意图;
图2C是本发明另一实施例提供的第二种业务搬迁的示意图;
图2D是本发明另一实施例提供的第三种业务搬迁的示意图;
图3是本发明一个实施例提供的负载调节装置的结构框图;
图4是本发明再一实施例提供的负载调节装置的结构框图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明实施方式作进一步地详细描述。
请参考图1,其示出了本发明一个实施例提供的负载调节方法的方法流程图,该负载调节方法可以应用于服务器中。该负载调节方法,包括:
步骤101,获取每个接入服务器的总业务负载。
步骤102,将总业务负载大于第一阈值的接入服务器确定为第一接入服务器,将总业务负载小于第二阈值的接入服务器确定为第二接入服务器。
步骤103,控制第一接入服务器将部分业务搬迁到第二接入服务器中,业务搬迁后的第二接入服务器的总业务负载小于正常负载阈值。
其中,第一阈值大于正常负载阈值,正常负载阈值大于第二阈值。
综上所述,本发明实施例提供的负载调节方法,通过获取每个接入服务器的总业务负载;将总业务负载大于第一阈值的接入服务器确定为第一接入服务器,将总业务负载小于第二阈值的接入服务器确定为第二接入服务器;控制第一接入服务器将部分业务搬迁到第二接入服务器中,业务搬迁后的第二接入服务器的总业务负载小于正常负载阈值;其中,第一阈值大于正常负载阈值,正常负载阈值大于第二阈值,可以自动监控每个接入服务器的总业务负载,并及时将总业务负载较高的第一接入服务器中的业务搬迁到第二接入服务器中,由第二接入服务器来处理,从而能够及时减少第一接入服务器的总业务负载,解决了监控人员无法及时发现总业务负载较高的接入服务器,影响接入服务器的服务质量的问题,达到了提高接入服务器的服务质量的效果。并且,将总业务负载较高的第一接入服务器中的业务搬迁到第二接入服务器中还可以降低分布式数据处理系统的整体负载峰值,从而提升系统分布式数据处理的伸缩性,使分布式数据处理系统能支撑一些突发业务。
请参考图2A,其示出了本发明另一实施例提供的负载调节方法的方法流程图,该负载调节方法可以应用服务器中。该负载调节方法,包括:
步骤201,获取每个接入服务器的总业务负载。
具体地,服务器可以获取每个接入服务器中的各个业务负载,并将各个业务负载相加后得到该接入服务器的总业务负载。其中,一项业务的业务负载=业务的请求量/单机总请求量*单击负载。
本实施例中,服务器可以每隔预定时间间隔获取每个接入服务器的总业务负载,预定时间间隔越小,服务器发现总业务负载较高的接入服务器的越及时。
步骤202,将总业务负载大于第一阈值的接入服务器确定为第一接入服务器,将总业务负载小于第二阈值的接入服务器确定为第二接入服务器。
在设置第一阈值和第二阈值时,可以先根据经验值分别设置第一阈值和第二阈值,在使用过程中动态调整第一阈值和第二阈值,第一阈值大于第二阈值。比如,当当前的接入服务器的服务质量不好,且不存在总业务负载大于第一阈值的第一接入服务器时,可以确定该第一阈值设置得过高,此时可以减小该第一阈值。
当某一个第一接入服务器的总业务负载较高时,会影响该第一接入服务器的服务质量,因此,需要降低该第一接入服务器的总业务负载。由于分布式数据处理系统中还存在一些总业务负载较低的第二接入服务器,此时,可以控制第一接入服务器将部分业务搬迁到第二接入服务器中,这样既可以降低第一接入服务器的总业务负载,也不需要新增接入服务器,还可以提高第二接入服务器的资源使用率。
其中,在控制第一接入服务器将部分业务搬迁到第二接入服务器中时,需要保证业务搬迁后的第二接入服务器的总业务负载小于正常负载阈值,使得业务搬迁后的第二接入服务器不会变成第一接入服务器。其中,第一阈值大于正常负载阈值,正常负载阈值大于第二阈值。通常,可以根据经验值将正常负载阈值设置为60%,当然,也可以将正常负载阈值设置为其他数值,本实施例不作限定。
具体地,服务器可以先计算正常负载阈值和第二接入服务器的总业务负载之间的差值,并将业务负载小于该差值的业务搬迁到该第二接入服务器中。当n项业务的业务负载小于该差值时,可以直接将该n项业务搬迁到该第二接入服务器中,即执行步骤203;当一项业务的业务负载大于该差值时,可以将该项业务进行分割后搬迁到该第二接入服务器中,即执行步骤204。
步骤203,当存在一个第一接入服务器中的n项业务的业务负载与一个第二接入服务器的总业务负载之和小于正常负载阈值时,控制第一接入服务器将n项业务搬迁到第二接入服务器,n≥1。
具体地,当存在一个第一接入服务器中的n项业务的业务负载与一个第二接入服务器的总业务负载之和小于正常负载阈值时,控制第一接入服务器将n项业务搬迁到第二接入服务器,包括:
1)将各个第一接入服务器添加到第一队列中,将各个第二接入服务器添加到第二队列中,并按照总业务负载由低到高的顺序对各个第二接入服务器进行排序;
2)当存在一个第一接入服务器中的一项业务的业务负载小于第三阈值且大于第四阈值,且第二队列中的第一个第二接入服务器的总业务负载与业务负载之和小于正常负载阈值时,控制第一接入服务器将该业务搬迁到第一个第二接入服务器中,从第一队列中删除第一接入服务器,从第二队列中删除第一个第二接入服务器;
3)当任意一个第一接入服务器中的每项业务的业务负载均小于第四阈值时,根据背包模型控制第一接入服务器将至少两项业务搬迁到第二队列中的第一个第二接入服务器中,从第二队列中删除第一个第二接入服务器;
其中,第三阈值大于第二阈值,第四阈值小于第一阈值。
本实施例中,服务器可以将各个第二接入服务器添加到第二队列中,并按照总业务负载由低到高的顺序对各个第二接入服务器进行排序,并总是将业务搬迁到第二队列中的第一个第二接入服务器中,由于第一个第二接入服务器的总业务负载最低,这样可以接受业务负载较高的n项业务,从而迅速降低第一接入服务器的总业务负载,可以提高负载调节的效率。
服务器在进行业务搬迁之前,可以先对业务进行预处理。当然,服务器也可以不对业务进行预处理,本实施例不作限定。当进行预处理时,服务器优先将业务负载较高的业务搬迁到总业务负载最低的第二接入服务器中,以避免先将业务负载较低的业务搬迁到总业务负载最低的第二接入服务器中,再搬迁业务负载较高的业务时,无法找到合适的第二接入服务器,需要将该业务分割后再搬迁的问题,达到了提高业务搬迁的效率的效果。
在进行预处理时,对于第一队列中的第i个第一接入服务器,服务器检测该第i个第一接入服务器中是否存在业务负载小于第三阈值且大于第四阈值的业务,当存在该项业务时,检测该项业务的业务负载是否小于正常负载阈值与第二队列中的第一个第二接入服务器的总业务负载之间的差值,当该业务负载小于该差值时,将该项业务搬迁到第一个第二接入服务器中,并从第一队列中删除该第i个第一接入服务器,从第二队列中删除第一个第二接入服务器,继续执行检测该第i个第一接入服务器中是否存在业务负载小于第三阈值且大于第四阈值的业务的步骤。当不存在该项业务时,将i更新为i+1,继续执行检测该第i个第一接入服务器中是否存在业务负载小于第三阈值且大于第四阈值的业务的步骤,直至检测完所有的第一接入服务器后停止。
在结束预处理后,各个第一接入服务器中剩下的都是业务负载小于第四阈值的业务,此时可以将至少两项业务搬迁到第二队列中的第一个第二接入服务器中。具体地,服务器可以获取每项业务的业务负载,根据背包模型从中选出n项业务,选出的该n项业务的总业务负载能使第二接入服务器的总业务负载最大程度的接近正常负载阈值,提高了第二接入服务器的资源利用率。
服务器可以将同一个第一接入服务器中的业务同时搬迁到第一个第二接入服务器中,也可以将不同第一接入服务器中的业务同时搬迁到第一个第二接入服务器中,下面分别对这两种实现方式进行说明。
在第一种实现方式中,根据背包模型控制第一接入服务器将至少两项业务搬迁到第二队列中的第一个第二接入服务器中,包括:
1)根据背包模型从一个第一接入服务器中选择至少两项业务,控制第一接入服务器将至少两项业务搬迁到第二队列中的第一个第二接入服务器中;
2)检测第一接入服务器的总业务负载是否小于正常负载阈值;
3)当第一接入服务器的总业务负载小于正常负载阈值时,从第一队列中删除第一接入服务器。
在将至少两项业务搬迁到第一个第二接入服务器之后,从第二队列中删除第一个第二接入服务器,并检测搬迁该至少两项业务的第一接入服务器的总业务负载是否小于正常负载阈值,当第一接入服务器的总业务负载小于正常负载阈值时,从第一队列中删除第一接入服务器。
假设,第一队列包括3个第一接入服务器,第一接入服务器1包括的业务1-4,第一接入服务器2包括的业务5-8,第一接入服务器3包括的业务9-12,且这12项业务的业务负载均小于第四阈值,第二队列包括2个第二接入服务器,当根据背包模型确定需要将业务1、2和4搬迁到第二接入服务器1时,请参考图2B所示的第一种业务搬迁的示意图。
在第二种实现方式中,根据背包模型控制第一接入服务器将至少两项业务搬迁到第二队列中的第一个第二接入服务器中,包括:
1)根据背包模型从每个第一接入服务器中选择至少一项业务,控制每个第一接入服务器将至少一项业务搬迁到第二队列中的第一个第二接入服务器中;
2)检测第一队列中是否存在总业务负载小于正常负载阈值的第一接入服务器;
3)当第一队列中存在总业务负载小于正常负载阈值的第一接入服务器时,从第一队列中删除第一接入服务器。
在将至少两项业务搬迁到第一个第二接入服务器之后,从第二队列中删除第一个第二接入服务器,由于服务器并不知道哪些第一接入服务器向第一个第二接入服务器搬迁了业务,因此,服务器需要检测第一队列中是否存在总业务负载小于正常负载阈值的第一接入服务器,当第一队列中存在总业务负载小于正常负载阈值的第一接入服务器时,从第一队列中删除第一接入服务器。
仍然以上述第一队列和第二队列进行举例说明,当根据背包模型确定需要将业务1、7、8和11搬迁到第二接入服务器1时,请参考图2C所示的第二种业务搬迁的示意图。
步骤204,当存在一个第一接入服务器中的一项业务的业务负载与任意一个第二接入服务器的总业务负载之和均大于正常负载阈值,则控制第一接入服务器将业务分割成m个子业务后,将m个子业务搬迁到对应的m个第二接入服务器中,每个第二接入服务器的总业务负载与对应的一个子业务的业务负载之和小于正常负载阈值,m≥2。
其中,m个子业务中的每个子业务的业务负载可以相同,也可以不同,本实施例不作限定。比如,一项业务的业务负载是50%,且正常负载阈值与第一个第二接入服务器的总业务负载之间的差值是40%,正常负载阈值与第二个第二接入服务器的总业务负载之间的差值是30%,则可以将该项业务分割成2个子业务,每个子业务的业务负载是25%,将每个子业务搬迁到一个第二接入服务器中;或,第1个子业务的业务负载是30%,第2个子业务的业务负载是20%,将第1个子业务搬迁到第一个第二接入服务器中,将第2个子业务搬迁到第二个第二接入服务器中。
假设,一个第一接入服务器中的业务1的业务负载与任意一个第二接入服务器的总业务负载之和均大于正常负载阈值,第二队列包括2个第二接入服务器,则可以将该项业务1中的第1个子业务搬迁到第一个第二接入服务器中,将第2个子业务搬迁到第二个接入服务器中,请参考图2D所示的第三种业务搬迁的示意图。
需要补充说明的是,当本实施例提供的负载调节方法应用在分布式数据处理系统中的一个新服务器中时,该服务器可以将控制业务搬迁的搬迁指令发送给调度服务器,调度服务器控制第一接入服务器将业务搬迁到第二接入服务器中;当本实施例提供的负载调节方法应用在分布式数据处理系统中的调度服务器中时,该调度服务器可以直接控制第一接入服务器将业务搬迁到第二接入服务器中。
综上所述,本发明实施例提供的负载调节方法,通过获取每个接入服务器的总业务负载;将总业务负载大于第一阈值的接入服务器确定为第一接入服务器,将总业务负载小于第二阈值的接入服务器确定为第二接入服务器;控制第一接入服务器将部分业务搬迁到第二接入服务器中,业务搬迁后的第二接入服务器的总业务负载小于正常负载阈值;其中,第一阈值大于正常负载阈值,正常负载阈值大于第二阈值,可以自动监控每个接入服务器的总业务负载,并及时将总业务负载较高的第一接入服务器中的业务搬迁到第二接入服务器中,由第二接入服务器来处理,从而能够及时减少第一接入服务器的总业务负载,解决了监控人员无法及时发现总业务负载较高的接入服务器,影响接入服务器的服务质量的问题,达到了提高接入服务器的服务质量的效果。并且,将总业务负载较高的第一接入服务器中的业务搬迁到第二接入服务器中还可以降低分布式数据处理系统的整体负载峰值,从而提升系统分布式数据处理的伸缩性,使分布式数据处理系统能支撑一些突发业务。
另外,通过将各个第二接入服务器添加到第二队列中,并按照总业务负载由低到高的顺序对各个第二接入服务器进行排序,将业务负载小于第三阈值且大于第四阈值的业务搬迁到第二队列中的第一个第二接入服务器中,可以优先将业务负载较高的业务搬迁到总业务负载最低的第二接入服务器中,以避免先将业务负载较低的业务搬迁到总业务负载最低的第二接入服务器中,再搬迁业务负载较高的业务时,无法找到合适的第二接入服务器,需要将该业务分割后再搬迁的问题,达到了提高业务搬迁的效率的效果。
另外,通过根据背包模型控制第一接入服务器将至少两项业务搬迁到第二队列中的第一个第二接入服务器中,可以从业务负载较小的多项业务选择几项业务进行搬迁,选出的几项业务能使第二接入服务器的总业务负载最大程度的接近正常负载阈值,提高了第二接入服务器的资源利用率。
请参考图3,其示出了本发明一个实施例提供的负载调节装置的结构框图,该负载调节装置可以应用于服务器中。该负载调节装置,包括:
负载获取模块310,用于获取每个接入服务器的总业务负载;
服务器确定模块320,用于将将总业务负载大于第一阈值的接入服务器确定为第一接入服务器,将总业务负载小于第二阈值的接入服务器确定为第二接入服务器;
业务搬迁模块330,用于控制第一接入服务器将部分业务搬迁到第二接入服务器中,业务搬迁后的第二接入服务器的总业务负载小于正常负载阈值;
其中,第一阈值大于正常负载阈值,正常负载阈值大于第二阈值。
综上所述,本发明实施例提供的负载调节装置,通过获取每个接入服务器的总业务负载;将总业务负载大于第一阈值的接入服务器确定为第一接入服务器,将总业务负载小于第二阈值的接入服务器确定为第二接入服务器;控制第一接入服务器将部分业务搬迁到第二接入服务器中,业务搬迁后的第二接入服务器的总业务负载小于正常负载阈值;其中,第一阈值大于正常负载阈值,正常负载阈值大于第二阈值,可以自动监控每个接入服务器的总业务负载,并及时将总业务负载较高的第一接入服务器中的业务搬迁到第二接入服务器中,由第二接入服务器来处理,从而能够及时减少第一接入服务器的总业务负载,解决了监控人员无法及时发现总业务负载较高的接入服务器,影响接入服务器的服务质量的问题,达到了提高接入服务器的服务质量的效果。并且,将总业务负载较高的第一接入服务器中的业务搬迁到第二接入服务器中还可以降低分布式数据处理系统的整体负载峰值,从而提升系统分布式数据处理的伸缩性,使分布式数据处理系统能支撑一些突发业务。
请参考图4,其示出了本发明再一实施例提供的负载调节装置的结构框图,该负载调节装置可以应用于服务器中。该负载调节装置,包括:
负载获取模块410,用于获取每个接入服务器的总业务负载;
服务器确定模块420,用于将将总业务负载大于第一阈值的接入服务器确定为第一接入服务器,将总业务负载小于第二阈值的接入服务器确定为第二接入服务器;
业务搬迁模块430,用于控制第一接入服务器将部分业务搬迁到第二接入服务器中,业务搬迁后的第二接入服务器的总业务负载小于正常负载阈值;
其中,第一阈值大于正常负载阈值,正常负载阈值大于第二阈值。
可选的,业务搬迁模块430,包括:
第一搬迁单元431,用于当存在一个第一接入服务器中的n项业务的业务负载与一个第二接入服务器的总业务负载之和小于正常负载阈值时,控制第一接入服务器将n项业务搬迁到第二接入服务器,n≥1。
可选的,第一搬迁单元431,包括:
队列生成子单元4311,用于将各个第一接入服务器添加到第一队列中,将各个第二接入服务器添加到第二队列中,并按照总业务负载由低到高的顺序对各个第二接入服务器进行排序;
第一搬迁子单元4312,用于当存在一个第一接入服务器中的一项业务的业务负载小于第三阈值且大于第四阈值,且第二队列中的第一个第二接入服务器的总业务负载与业务负载之和小于正常负载阈值时,控制第一接入服务器将业务搬迁到第一个第二接入服务器中,从第一队列中删除第一接入服务器,从第二队列中删除第一个第二接入服务器;
第二搬迁子单元4313,用于当任意一个第一接入服务器中的每项业务的业务负载均小于第四阈值时,根据背包模型控制第一接入服务器将至少两项业务搬迁到第二队列中的第一个第二接入服务器中,从第二队列中删除第一个第二接入服务器;
其中,第三阈值大于第二阈值,第四阈值小于第一阈值。
可选的,第二搬迁子单元4313,具体用于:
根据背包模型从一个第一接入服务器中选择至少两项业务,控制第一接入服务器将至少两项业务搬迁到第二队列中的第一个第二接入服务器中;
检测第一接入服务器的总业务负载是否小于正常负载阈值;
当第一接入服务器的总业务负载小于正常负载阈值时,从第一队列中删除第一接入服务器。
可选的,第二搬迁子单元4313,具体用于:
根据背包模型从每个第一接入服务器中选择至少一项业务,控制每个第一接入服务器将至少一项业务搬迁到第二队列中的第一个第二接入服务器中;
检测第一队列中是否存在总业务负载小于正常负载阈值的第一接入服务器;
当第一队列中存在总业务负载小于正常负载阈值的第一接入服务器时,从第一队列中删除第一接入服务器。
可选的,业务搬迁模块430,包括:
第二搬迁单元432,用于当存在一个第一接入服务器中的一项业务的业务负载与任意一个第二接入服务器的总业务负载之和均大于正常负载阈值,则控制第一接入服务器将业务分割成m个子业务后,将m个子业务搬迁到对应的m个第二接入服务器中,每个第二接入服务器的总业务负载与对应的一个子业务的业务负载之和小于正常负载阈值,m≥2。
综上所述,本发明实施例提供的负载调节装置,通过获取每个接入服务器的总业务负载;将总业务负载大于第一阈值的接入服务器确定为第一接入服务器,将总业务负载小于第二阈值的接入服务器确定为第二接入服务器;控制第一接入服务器将部分业务搬迁到第二接入服务器中,业务搬迁后的第二接入服务器的总业务负载小于正常负载阈值;其中,第一阈值大于正常负载阈值,正常负载阈值大于第二阈值,可以自动监控每个接入服务器的总业务负载,并及时将总业务负载较高的第一接入服务器中的业务搬迁到第二接入服务器中,由第二接入服务器来处理,从而能够及时减少第一接入服务器的总业务负载,解决了监控人员无法及时发现总业务负载较高的接入服务器,影响接入服务器的服务质量的问题,达到了提高接入服务器的服务质量的效果。并且,将总业务负载较高的第一接入服务器中的业务搬迁到第二接入服务器中还可以降低分布式数据处理系统的整体负载峰值,从而提升系统分布式数据处理的伸缩性,使分布式数据处理系统能支撑一些突发业务。
另外,通过将各个第二接入服务器添加到第二队列中,并按照总业务负载由低到高的顺序对各个第二接入服务器进行排序,将业务负载小于第三阈值且大于第四阈值的业务搬迁到第二队列中的第一个第二接入服务器中,可以优先将业务负载较高的业务搬迁到总业务负载最低的第二接入服务器中,以避免先将业务负载较低的业务搬迁到总业务负载最低的第二接入服务器中,再搬迁业务负载较高的业务时,无法找到合适的第二接入服务器,需要将该业务分割后再搬迁的问题,达到了提高业务搬迁的效率的效果。
另外,通过根据背包模型控制第一接入服务器将至少两项业务搬迁到第二队列中的第一个第二接入服务器中,可以从业务负载较小的多项业务选择几项业务进行搬迁,选出的几项业务能使第二接入服务器的总业务负载最大程度的接近正常负载阈值,提高了第二接入服务器的资源利用率。
需要说明的是:上述实施例提供的负载调节装置在进行负载调节时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将负载调节装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的负载调节装置与负载调节方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (12)
1.一种负载调节方法,其特征在于,所述方法包括:
获取每个接入服务器的总业务负载;
将总业务负载大于第一阈值的接入服务器确定为第一接入服务器,将总业务负载小于第二阈值的接入服务器确定为第二接入服务器;
控制所述第一接入服务器将部分业务搬迁到所述第二接入服务器中,业务搬迁后的所述第二接入服务器的总业务负载小于正常负载阈值;
其中,所述第一阈值大于所述正常负载阈值,所述正常负载阈值大于所述第二阈值。
2.根据权利要求1所述的方法,其特征在于,所述控制所述第一接入服务器将部分业务搬迁到所述第二接入服务器中,业务搬迁后的所述第二接入服务器的总业务负载小于正常负载阈值,包括:
当存在一个第一接入服务器中的n项业务的业务负载与一个第二接入服务器的总业务负载之和小于所述正常负载阈值时,控制所述第一接入服务器将所述n项业务搬迁到所述第二接入服务器,n≥1。
3.根据权利要求2所述的方法,其特征在于,所述当存在一个第一接入服务器中的n项业务的业务负载与一个第二接入服务器的总业务负载之和小于所述正常负载阈值时,控制所述第一接入服务器将所述n项业务搬迁到所述第二接入服务器,包括:
将各个第一接入服务器添加到第一队列中,将各个第二接入服务器添加到第二队列中,并按照总业务负载由低到高的顺序对各个第二接入服务器进行排序;
当存在一个第一接入服务器中的一项业务的业务负载小于第三阈值且大于第四阈值,且所述第二队列中的第一个第二接入服务器的总业务负载与所述业务负载之和小于所述正常负载阈值时,控制所述第一接入服务器将所述业务搬迁到所述第一个第二接入服务器中,从所述第一队列中删除所述第一接入服务器,从所述第二队列中删除所述第一个第二接入服务器;
当任意一个第一接入服务器中的每项业务的业务负载均小于第四阈值时,根据背包模型控制所述第一接入服务器将至少两项业务搬迁到所述第二队列中的第一个第二接入服务器中,从所述第二队列中删除所述第一个第二接入服务器;
其中,所述第三阈值大于所述第二阈值,所述第四阈值小于所述第一阈值。
4.根据权利要求3所述的方法,其特征在于,所述根据背包模型控制所述第一接入服务器将至少两项业务搬迁到所述第二队列中的第一个第二接入服务器中,包括:
根据所述背包模型从一个第一接入服务器中选择至少两项业务,控制所述第一接入服务器将所述至少两项业务搬迁到所述第二队列中的第一个第二接入服务器中;
检测所述第一接入服务器的总业务负载是否小于所述正常负载阈值;
当所述第一接入服务器的总业务负载小于所述正常负载阈值时,从所述第一队列中删除所述第一接入服务器。
5.根据权利要求3所述的方法,其特征在于,所述根据背包模型控制所述第一接入服务器将至少两项业务搬迁到所述第二队列中的第一个第二接入服务器中,包括:
根据所述背包模型从每个第一接入服务器中选择至少一项业务,控制每个第一接入服务器将所述至少一项业务搬迁到所述第二队列中的第一个第二接入服务器中;
检测所述第一队列中是否存在总业务负载小于所述正常负载阈值的第一接入服务器;
当所述第一队列中存在总业务负载小于所述正常负载阈值的第一接入服务器时,从所述第一队列中删除所述第一接入服务器。
6.根据权利要求1所述的方法,其特征在于,所述控制所述第一接入服务器将部分业务搬迁到所述第二接入服务器中,业务搬迁后的所述第二接入服务器的总业务负载小于正常负载阈值,包括:
当存在一个第一接入服务器中的一项业务的业务负载与任意一个第二接入服务器的总业务负载之和均大于所述正常负载阈值,则控制所述第一接入服务器将所述业务分割成m个子业务后,将所述m个子业务搬迁到对应的m个第二接入服务器中,每个第二接入服务器的总业务负载与对应的一个子业务的业务负载之和小于所述正常负载阈值,m≥2。
7.一种负载调节装置,其特征在于,所述装置包括:
负载获取模块,用于获取每个接入服务器的总业务负载;
服务器确定模块,用于将将总业务负载大于第一阈值的接入服务器确定为第一接入服务器,将总业务负载小于第二阈值的接入服务器确定为第二接入服务器;
业务搬迁模块,用于控制所述第一接入服务器将部分业务搬迁到所述第二接入服务器中,业务搬迁后的所述第二接入服务器的总业务负载小于正常负载阈值;
其中,所述第一阈值大于所述正常负载阈值,所述正常负载阈值大于所述第二阈值。
8.根据权利要求7所述的装置,其特征在于,所述业务搬迁模块,包括:
第一搬迁单元,用于当存在一个第一接入服务器中的n项业务的业务负载与一个第二接入服务器的总业务负载之和小于所述正常负载阈值时,控制所述第一接入服务器将所述n项业务搬迁到所述第二接入服务器,n≥1。
9.根据权利要求8所述的装置,其特征在于,所述第一搬迁单元,包括:
队列生成子单元,用于将各个第一接入服务器添加到第一队列中,将各个第二接入服务器添加到第二队列中,并按照总业务负载由低到高的顺序对各个第二接入服务器进行排序;
第一搬迁子单元,用于当存在一个第一接入服务器中的一项业务的业务负载小于第三阈值且大于第四阈值,且所述第二队列中的第一个第二接入服务器的总业务负载与所述业务负载之和小于所述正常负载阈值时,控制所述第一接入服务器将所述业务搬迁到所述第一个第二接入服务器中,从所述第一队列中删除所述第一接入服务器,从所述第二队列中删除所述第一个第二接入服务器;
第二搬迁子单元,用于当任意一个第一接入服务器中的每项业务的业务负载均小于第四阈值时,根据背包模型控制所述第一接入服务器将至少两项业务搬迁到所述第二队列中的第一个第二接入服务器中,从所述第二队列中删除所述第一个第二接入服务器;
其中,所述第三阈值大于所述第二阈值,所述第四阈值小于所述第一阈值。
10.根据权利要求9所述的装置,其特征在于,所述第二搬迁子单元,具体用于:
根据所述背包模型从一个第一接入服务器中选择至少两项业务,控制所述第一接入服务器将所述至少两项业务搬迁到所述第二队列中的第一个第二接入服务器中;
检测所述第一接入服务器的总业务负载是否小于所述正常负载阈值;
当所述第一接入服务器的总业务负载小于所述正常负载阈值时,从所述第一队列中删除所述第一接入服务器。
11.根据权利要求9所述的装置,其特征在于,所述第二搬迁子单元,具体用于:
根据所述背包模型从每个第一接入服务器中选择至少一项业务,控制每个第一接入服务器将所述至少一项业务搬迁到所述第二队列中的第一个第二接入服务器中;
检测所述第一队列中是否存在总业务负载小于所述正常负载阈值的第一接入服务器;
当所述第一队列中存在总业务负载小于所述正常负载阈值的第一接入服务器时,从所述第一队列中删除所述第一接入服务器。
12.根据权利要求7所述的装置,其特征在于,所述业务搬迁模块,包括:
第二搬迁单元,用于当存在一个第一接入服务器中的一项业务的业务负载与任意一个第二接入服务器的总业务负载之和均大于所述正常负载阈值,则控制所述第一接入服务器将所述业务分割成m个子业务后,将所述m个子业务搬迁到对应的m个第二接入服务器中,每个第二接入服务器的总业务负载与对应的一个子业务的业务负载之和小于所述正常负载阈值,m≥2。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510454251.1A CN106411971B (zh) | 2015-07-29 | 2015-07-29 | 负载调节方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510454251.1A CN106411971B (zh) | 2015-07-29 | 2015-07-29 | 负载调节方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106411971A true CN106411971A (zh) | 2017-02-15 |
CN106411971B CN106411971B (zh) | 2020-04-21 |
Family
ID=58008786
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510454251.1A Active CN106411971B (zh) | 2015-07-29 | 2015-07-29 | 负载调节方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106411971B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112311689A (zh) * | 2019-07-31 | 2021-02-02 | 上海幻电信息科技有限公司 | 突发流量的分流方法、计算机设备及可读存储介质 |
CN113515369A (zh) * | 2021-04-23 | 2021-10-19 | 深圳希施玛数据科技有限公司 | 一种数据处理方法、系统、终端和存储介质 |
CN113822485A (zh) * | 2021-09-27 | 2021-12-21 | 国网山东省电力公司泗水县供电公司 | 一种配电网调度任务优化方法及系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102244685A (zh) * | 2011-08-11 | 2011-11-16 | 中国科学院软件研究所 | 一种支持负载均衡的分布式缓存动态伸缩方法及系统 |
CN103873457A (zh) * | 2012-12-17 | 2014-06-18 | 人人游戏网络科技发展(上海)有限公司 | 用于游戏服务器间负载均衡的方法和设备 |
CN104009933A (zh) * | 2014-05-22 | 2014-08-27 | 北京金山网络科技有限公司 | 一种集群服务负载均衡的方法、系统、中心服务器以及备用节点服务器 |
CN104202388A (zh) * | 2014-08-27 | 2014-12-10 | 福建富士通信息软件有限公司 | 一种基于云平台的自动负载均衡系统 |
-
2015
- 2015-07-29 CN CN201510454251.1A patent/CN106411971B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102244685A (zh) * | 2011-08-11 | 2011-11-16 | 中国科学院软件研究所 | 一种支持负载均衡的分布式缓存动态伸缩方法及系统 |
CN103873457A (zh) * | 2012-12-17 | 2014-06-18 | 人人游戏网络科技发展(上海)有限公司 | 用于游戏服务器间负载均衡的方法和设备 |
CN104009933A (zh) * | 2014-05-22 | 2014-08-27 | 北京金山网络科技有限公司 | 一种集群服务负载均衡的方法、系统、中心服务器以及备用节点服务器 |
CN104202388A (zh) * | 2014-08-27 | 2014-12-10 | 福建富士通信息软件有限公司 | 一种基于云平台的自动负载均衡系统 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112311689A (zh) * | 2019-07-31 | 2021-02-02 | 上海幻电信息科技有限公司 | 突发流量的分流方法、计算机设备及可读存储介质 |
CN112311689B (zh) * | 2019-07-31 | 2024-03-05 | 上海幻电信息科技有限公司 | 突发流量的分流方法、计算机设备及可读存储介质 |
CN113515369A (zh) * | 2021-04-23 | 2021-10-19 | 深圳希施玛数据科技有限公司 | 一种数据处理方法、系统、终端和存储介质 |
CN113515369B (zh) * | 2021-04-23 | 2022-03-29 | 深圳希施玛数据科技有限公司 | 一种数据处理方法、系统、终端和存储介质 |
CN113822485A (zh) * | 2021-09-27 | 2021-12-21 | 国网山东省电力公司泗水县供电公司 | 一种配电网调度任务优化方法及系统 |
CN113822485B (zh) * | 2021-09-27 | 2023-10-20 | 国网山东省电力公司泗水县供电公司 | 一种配电网调度任务优化方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN106411971B (zh) | 2020-04-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2017028724A1 (zh) | 一种业务请求调整方法及设备 | |
CN107066332B (zh) | 分布式系统及其调度方法和调度装置 | |
CN103327072B (zh) | 一种集群负载均衡的方法及其系统 | |
CN106445675B (zh) | 一种b2b平台分布式应用调度与资源分配方法 | |
CN105389206B (zh) | 一种云计算数据中心虚拟机资源快速配置方法 | |
CN105892996A (zh) | 一种批量数据处理的流水线作业方法及装置 | |
CN103856512A (zh) | 云计算的管理服务器、工作和闲置主机以及资源调度方法 | |
US20110167427A1 (en) | Computing system, method and computer-readable medium preventing starvation | |
CN107844187A (zh) | 功耗管理方法、装置及电子设备 | |
CN105320561A (zh) | 任务管理方法和系统 | |
CN101715003A (zh) | 互操作平台的负载控制优化方法 | |
US10142997B2 (en) | Method and apparatus for adjusting physical resource, and controller | |
CN106411971A (zh) | 负载调节方法及装置 | |
CN102638457B (zh) | 一种服务器资源自动分配方法及系统 | |
CN106293917A (zh) | 一种IO调度cfq算法的优化方法及系统 | |
CN102945185B (zh) | 任务调度方法及装置 | |
CN104572279B (zh) | 一种支持节点绑定的虚拟机动态调度方法 | |
CN107835262A (zh) | 一种流媒体服务器负载动态分配方法 | |
CN106598740A (zh) | 一种限制多线程程序占用cpu利用率的系统及限制方法 | |
CN103491151A (zh) | 一种云计算资源的调度方法、装置及云计算平台 | |
CN103744735B (zh) | 一种多核资源的调度方法及装置 | |
CN111988234A (zh) | 过载保护方法、装置、服务器及存储介质 | |
CN111190739A (zh) | 一种资源分配方法、装置、电子设备及存储介质 | |
CN107589997A (zh) | 数据中心环境下保证延迟敏感程序QoS的动态调节方法 | |
CN107294911A (zh) | 一种数据包监听方法及装置、远程过程调用系统、设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |