CN107977271B - 一种数据中心综合管理系统负载均衡方法 - Google Patents

一种数据中心综合管理系统负载均衡方法 Download PDF

Info

Publication number
CN107977271B
CN107977271B CN201711395941.XA CN201711395941A CN107977271B CN 107977271 B CN107977271 B CN 107977271B CN 201711395941 A CN201711395941 A CN 201711395941A CN 107977271 B CN107977271 B CN 107977271B
Authority
CN
China
Prior art keywords
task
queue
data center
management system
load balancing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201711395941.XA
Other languages
English (en)
Other versions
CN107977271A (zh
Inventor
李俊山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhengzhou Yunhai Information Technology Co Ltd
Original Assignee
Zhengzhou Yunhai Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhengzhou Yunhai Information Technology Co Ltd filed Critical Zhengzhou Yunhai Information Technology Co Ltd
Priority to CN201711395941.XA priority Critical patent/CN107977271B/zh
Publication of CN107977271A publication Critical patent/CN107977271A/zh
Application granted granted Critical
Publication of CN107977271B publication Critical patent/CN107977271B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083—Techniques for rebalancing the load in a distributed system
    • G06F9/5088—Techniques for rebalancing the load in a distributed system involving task migration
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer And Data Communications (AREA)

Abstract

提出了一种数据中心综合管理系统负载均衡方法，定义实现了一个微负载均衡框架，将用户请求的任务分为实时I/O消耗型任务和实时CPU消耗型任务，并维持对应的任务队列，同时依据服务器的实时运行状况对服务器进行排序，并维持至少一个服务器队列，采用负载均衡算法来进行任务分配，本方法更能充分利用节点资源，很好的解决系统的低吞吐量问题，以及有效地处理节点资源不能充分利用问题，提高了系统的平均响应时间。

Description

一种数据中心综合管理系统负载均衡方法
技术领域
本发明涉及信息技术领域，特别涉及一种数据中心综合管理系统负载均衡方法与装置。
背景技术
模块化数据中心(Module Data Center,MDC)是基于云计算的新一代数据中心部署形式，为了应对云计算、虚拟化、集中化、高密化等服务器发展的趋势，其采用模块化设计理念，最大程度的降低基础设施对机房环境的耦合。集成了供配电、制冷、机柜、气流遏制、综合布线、动环监控等子系统，提高数据中心的整体运营效率，实现快速部署、弹性扩展和绿色节能。
随着大数据信息行业的飞速发展，数据中心的发展也进入到一个新的阶段。管理系统是数据中心内部配置的重要组成部分。传统的管理系统主要已动环监控为主，具备多种数据接口，可接入UPS、配电柜、精密空调、门禁、温湿度传感器、烟雾探测器、温感探测器、漏水传感器、翻转天窗及网络摄像机等多种监控对象。
当前，随着云计算、大数据和互联网的快速发展，信息化的基础设施发生了根本转变，监控管理的需求从一些单独的系统要求转化为整体平台化、统一平台、统一管理的系统要求。各项应用服务器不再是单独的计算模块，而是通过云计算、大数据等平台将计算、存储资源统一起来，跨越数据中心范围形成规模庞大、统一监控与管理的资源池，因此需要能够监控大规模、分布式、跨地域的虚拟资源与物理资源的统一监控系统。
对于日常访问量非常大的网站或者系统，比如像淘宝网，京东商城网等，单一的Web服务器系统是不能满足日常用户访问需求的，可以考虑分别在全国各个省市部署多台Web服务器来补充单一服务器不能满足用户需求的缺陷。在具体的部署应用实现上，主要有两种方式。一种方式是将网站的内容备份复制到各台服务器内，用户登录网站能够看到这些所用的服务器，用户可以根据自己想法来选择访问哪台服务器。通过用户选择不同的服务器来把用户的请求任务分配到了各服务器上，实现了整个网站系统的任务负载的分配，这种方式称为镜像(mirroring)。当用户选择离自己较近的服务器进行访问时，不仅能够获得较快的响应，还能节省网络流量。现在有一些浏览器插件软件能够根据用户的IP来帮着选择最近的应用服务器。例如，Navigator浏览器就具有这样的功能。另外一种方式就是URL重定向，当用户访问某一台应用服务器，点击相关链接时，系统会识别用户的IP，根据IP按照预定规则将请求指向其它服务器，通过这种方式来分配用户请求任务的负载到各服务器。
上面所提到的镜像和URL重定向方法，看似可以有效的分配用户请求任务的负载，这只是看到的表面情况，其实仍然存在着不足。
镜像方法是由客户自主地来选择服务器，服务器本身无法控制用户让他们选择其它服务器，除非他们所选择的服务器不能提供服务了，才能迫使用户选择其它服务器。根据人们选择的习惯，一般要么选择排序前面的，要么反向选择排序后面的服务器，这些服务器处于忙碌甚至崩溃状态，而其它的服务器就会处于空闲状态。
URL重定向方法是由主应用服务器为入口进入系统，然后将请求转向其它服务器。所有的用户请求都得先经过主应用服务器，这就给主应用服务器带来了一定的负载量，容易造成系统瓶颈，同样也不能让整个系统很好地工作。
另外的一个不足是用户能够知道自己在请求任务过程中被哪台服务器来接受任务进行处理，对于一些专业人员很容易分析出整个网站系统架构部署的组织结构，网站容易受到非法攻击，直接影响到了系统的安全性。
负载分配到各处理器节点被简单地称为负载均衡问题。在一个多节点系统里，存在一些节点闲置而其它节点处于过载的高可能性。负载均衡算法的目标就是维护每个处理器节点的负载，使得所有的处理器节点既不过载也不空闲。这就意味着每个处理器节点在理想的情况下，在任何时刻具有相等的负载，做到系统在执行时获得最大的性能(最小的执行时间)。所以合理的设计一个负载均衡可以显著提高系统的性能。
负载均衡在并行和分布式系统操作应用方面扮演着特别的角色，负载均衡问题在实际应用中也是一个常见的问题。负载不均衡是一个基本的问题，它出现在能否有效利用分布式系统总计算能力方面。负载均衡发生在一个或者多个处理器拥有很少的处理任务，而其它的处理器拥有很多的处理任务这样一个给定的时间内。不足的并行性，不好的任务分配或不均衡的任务大小等不同原因导致负载不均衡。这种不均衡降低了并行系统的整体性能。为了提高系统的性能，必须对所有的处理器重新分配工作负载。这个处理过程称为负载均衡。一个好的负载均衡算法应该能够最小化总的执行时间，同时限制数据传输的通信开销，从而减少执行时间。负载均衡算法分为(1)静态和(2)动态两种。静态算法是在编译时对处理器分配工作负载。相比而言，动态算法是在程序运行时基于应用程序的行为对处理器分配工作负载。
静态负载均衡策略静态地判断系统及应用状态，并应用这些信息进行决策。这意味着执行负载分配决策必须提前知道所有的静态信息。因此，在系统运行时保存程序编译时的任务分配管理。在这样的应用环境下，静态负载均衡方法就会效率低下。
动态算法是在程序运行时基于应用程序的行为对处理器分配工作负载。动态负载均衡策略能够自动适配系统参数变化以及未知的负载特性，这些算法应用属于集中式调度或非集中是调度，集中式负载均衡策略是将全局信息存放在一台主处理器上，主处理器负责周期性的初始化负载均衡。虽然这种方法使用了很短的控制消息，但在大规模系统中容易发生处理器调度程序瓶颈问题。此外，如果调度器工作失败，系统将出现负载不均衡。集中式调度策略主要缺点是主处理器繁重的负载会导致调度程序的瓶颈。总之，集中式调度策略不适应于大规模应用系统。
本发明中部分术语与解释如下：
MDC：模块化数据中心(Module Data Center)
SOA：面向服务的架构(Service-Oriented Architecture)
API：应用程序接口
发明内容
为了解决如上的技术问题，本发明提出了一种数据中心综合管理系统负载均衡方法。本发明定义了数据中心综合管理系统负载均衡方法，定义了一个微负载均衡框架，定义了用户请求的任务分为实时I/O消耗型任务和实时CPU消耗型任务，定义了实时I/O消耗型任务和实时CPU消耗型任务的定义方法，更能充分利用节点资源；很好的解决系统的低吞吐量问题，以及有效地处理节点资源不能充分利用问题，提高了系统的平均响应时间。
本案相关定义说明如下：
I/O指令的总数：读和写指令的数量
CPU指令的总数：运算类指令的数量
I/O指令占系统总指令的比重P：同时获取CPU指令与I/O指令的总和，用I/O指令的总数比上CPU指令与I/O指令的总和所得的比值来表示这个比重
I/O消耗型任务：若C1为CPU指令执行所需要的时间，C2为I/O指令执行所需要的时间，则如果执行一个程序有P>C1/(C1+C2)，则我们把该程序定义为I/O消耗型任务
CPU消耗型任务：若C1为CPU指令执行所需要的时间，C2为I/O指令执行所需要的时间，如果执行一个程序有P<C1/(C1+C2)，则我们把该程序定义为CPU消耗型任务
监控线程：用于监控队列的运行状态信息
服务框架：数据中心综合管理系统服务实例的调用发起者
其中，本发明提出了一种数据中心综合管理系统负载均衡系统，包括：
至少一个用户端，用于发起任务请求；
数据中心综合管理系统负载均衡框架，用于接收来自所述至少一个用户端的任务请求，分析并区分所请求的任务的类型，并依据所区别的任务类型分别将它们对应地保存至所维持的任务队列中；所述数据中心综合管理系统负载均衡框架还获取数据中心综合管理系统服务器的至少一个实时状态信息，依据所述至少一个实时状态信息对服务器进行排序，按照该排序维持至少一个服务器队列，并结合负载均衡算法来进行任务分配；
至少一个数据中心综合管理系统服务器，用于对应地执行由数据中心综合管理系统负载均衡框架所分配的多个任务。
优选的，所述任务队列包括I/O消耗型任务队列以及CPU消耗型任务队列；
优选的，所述的数据中心综合管理系统负载均衡框架接收来自所述至少一个用户端的任务请求，分析并区分所请求的任务的类型，并将所区分的任务分别对应保存至任务队列中，具体为：根据任务的特征提供P、f、N1、N2这四个参数，利用这四个参数根据算法来区分用户端所请求的任务的类型为I/O消耗型任务或者CPU消耗型任务，并分别将任务存储至对应的队列中，其中，P表示I/O指令数占总指令数的比重，f表示I/O指令的执行频率，N1表示I/O指令的总条数，N2表示CPU指令的总条数；
优选的，所述至少一个服务器队列包括I/O平均等待时间服务器队列以及CPU占用率服务器队列；
优选的，所述数据中心综合管理系统负载均衡框架获取数据中心综合管理系统服务器的至少一个实时状态信息，依据所述至少一个实时状态信息对服务器进行排序，按照该排序维持至少一个服务器队列，具体为：所述数据中心综合管理系统负载均衡框架获取数据中心综合管理系统服务器的I/O平均等待时间以及CPU占用率，按照所获取的I/O平均等待时间由小到大的顺序排列所述的服务器，且按照所获取的CPU占用率由小到大的顺序排列所述的服务器，分别形成I/O平均等待时间服务器队列以及CPU占用率服务器队列；
优选的，所述的结合负载均衡算法来进行任务分配，具体为：由于服务器在执行CPU指令的同时也可以执行I/O指令，因此，将任务从任务队列中取出，按照任务类型交替地将任务对应地分配到所维持服务器队列中的数据中心综合管理系统服务器上进行执行。
对应地，本发明还提出一种数据中心综合管理系统负载均衡的方法，该方法实现在如上所述的数据中心综合管理系统负载均衡系统，具体包括了如下的操作步骤：
步骤1：数据中心综合管理系统负载均衡框架发起数据中心综合管理系统负载均衡框架服务，建立任务队列和服务器队列；
步骤2：数据中心综合管理系统负载均衡框架将任务队列和服务器队列纳入监控线程，进行运行状态的监控；
步骤3：在用户请求任务到达后，由数据中心综合管理系统负载均衡框架分析并区分任务类型，将任务区分为I/O消耗型和CPU消耗型，并分别执行任务队列的入栈操作；
步骤4：数据中心综合管理系统负载均衡框架获取服务器实时状态信息，依据所获取的实时状况信息对服务器进行排序，并执行服务器队列的入栈操作。
步骤5：数据中心综合管理系统负载均衡框架按照负载均衡算法执行任务分配，进行队列的出栈操作，由至少一个数据中心综合管理系统服务器执行所分配的任务。
优选的，所述步骤3中任务队列包括I/O消耗型任务队列以及CPU消耗型任务队列；对于I/O消耗型任务队列，将I/O消耗型任务按I/O等待时间从大到小降序排列入队列，进行队列的入栈操作；对于CPU消耗型任务队列，将CPU消耗型任务按CPU占用率从大到小降序入队列，进行队列的入栈操作；
优选的，所述步骤4中的服务器队列包括I/O平均等待时间服务器队列以及CPU占用率服务器队列；对于I/O平均等待时间服务器队列，将服务器按I/O平均等待时间由小到大排列队列，进行队列的入栈操作；对于CPU占用率服务器队列，将服务器按CPU占用率由小到大排列队列，进行队列的入栈操作；
优选的，所述步骤5中的结合负载均衡算法来进行任务分配，具体为：由于服务器在执行CPU指令的同时也可以执行I/O指令，因此，将任务从任务队列中取出，按照任务类型交替地将任务对应地分配到所维持服务器队列中的数据中心综合管理系统服务器上进行执行。
通过本发明所提出的如上系统与方法，可以使得数据中心综合管理系统业务服务器之间的CPU利用率基本上呈现了一种均衡的趋势，各数据中心综合管理系统业务服务器的资源利用情况更加充分，更能提高整个集群系统的性能，同时能为用户请求任务提供均衡的服务；并且本发明使得各个数据中心综合管理系统业务服务器的I/O等待时间相差不多，基于任务划分的动态负载均衡算法能够有效的利用I/O资源。
附图说明
图1是本发明实施例中的系统体系架构图；
图2是本发明实施例中的方法工作流程示意图；
具体实施例
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。
本发明提出了一种数据中心综合管理系统负载均衡系统，参见如图1所示的功能模块架构图，该系统可应用于分布式计算系统中，包括：
至少一个用户端，用于发起任务请求；
数据中心综合管理系统负载均衡框架，用于接收来自所述至少一个用户端的任务请求，分析并区分所请求的任务的类型，并依据所区别的任务类型分别将它们对应地保存至所维持的任务队列中；所述数据中心综合管理系统负载均衡框架还获取数据中心综合管理系统服务器的至少一个实时状态信息，依据所述至少一个实时状态信息对服务器进行排序，按照该排序维持至少一个服务器队列，并结合负载均衡算法来进行任务分配；
至少一个数据中心综合管理系统服务器，用于对应地执行由数据中心综合管理系统负载均衡框架所分配的多个任务。
更具体而言，所述任务队列包括I/O消耗型任务队列以及CPU消耗型任务队列。
所述的数据中心综合管理系统负载均衡框架接收来自所述至少一个用户端的任务请求，分析并区分所请求的任务的类型，并将所区分的任务分别对应保存至任务队列中，具体为：根据任务的特征提供P、f、N1、N2这四个参数，利用这四个参数根据算法来区分用户端所请求的任务的类型为I/O消耗型任务或者CPU消耗型任务，并分别将任务存储至对应的队列中，其中，P表示I/O指令数占总指令数的比重，f表示I/O指令的执行频率，N1表示I/O指令的总条数，N2表示CPU指令的总条数。
对于I/O消耗型任务，我们选择将任务按照I/O等待时间进行降序排列。我们选择I/O指令数和频率作为衡量I/O等待时间的参数指标。分析具体程序我们可以得出，I/O消耗型任务的大小受程序I/O指令的总数所影响，而I/O指令的频率可以作为一个次要的影响因素来考虑。当两个任务具有相同的I/O执行频率时，I/O指令数决定着I/O任务的大小。指令数越多，任务量越大，任务所具有的优先级就越高。对于I/O消耗型任务，I/O指令数不相同的客户端请求任务，I/O消耗型任务队列中各任务的优先级由I/O指令数的多少来决定。指令数多的，具有较高的优先级。当I/O指令数相同时，通过I/O频率来判断I/O消耗型任务队列中各任务的优先级，I/O频率越小的，具有较高的优先级。经过对I/O指令数不相同的请求任务和I/O指令相同的请求任务分析，对于I/O消耗型任务是按照任务的I/O等待时间从大到小来排列的。
另外，关于CPU消耗型的任务的优先级评判标准跟I/O消耗型任务相反。但还是应该先查看任务的I/O指令数是否相同，对于I/O指令数不相同的客户端请求任务，CPU消耗型任务队列中各任务的优先级跟I/O指令数的多少有关系。I/O指令数少的，CPU指令数就多，消耗的磁盘空间少，消耗的CPU资源就多，该任务具有较高的优先级。当I/O指令数相同时，通过I/O频率来判断CPU消耗型任务队列中各任务的优先级。I/O频率越小的，具有较小的优先级。其实对于CPU消耗型任务队列中各任务的优先级是按照任务的I/O等待时间从小到大来排列的，即CPU占用率按由大到小的排列。
更具体而言，所述至少一个服务器队列包括I/O平均等待时间服务器队列以及CPU占用率服务器队列。
所述数据中心综合管理系统负载均衡框架获取数据中心综合管理系统服务器的至少一个实时状态信息，依据所述至少一个实时状态信息对服务器进行排序，按照该排序维持至少一个服务器队列，具体为：所述数据中心综合管理系统负载均衡框架获取数据中心综合管理系统服务器的I/O平均等待时间以及CPU占用率，按照所获取的I/O平均等待时间由小到大的顺序排列所述的服务器，且按照所获取的CPU占用率由小到大的顺序排列所述的服务器，分别形成I/O平均等待时间服务器队列以及CPU占用率服务器队列；
由于服务器在执行CPU指令的同时也可以执行I/O指令，因此，将任务从任务队列中取出，按照任务类型交替地将任务对应地分配到所维持服务器队列中的数据中心综合管理系统服务器上进行执行。
I/O消耗型任务按照平均等待时间由大到小降序排列分配给服务器。如果每台服务器的I/O平均等待时间基本相同，则表示集群系统各服务器负载均衡。对于CPU消耗型任务，将任务按CPU的占用率从小到大分配给服务器。如果每台服务器的CPU平均占用率基本相同，则表示集群系统各服务器负载均衡。根据一台集群上执行CPU指令的同时也可以执行I/O指令，所以将两种类型任务交替分配到数据中心综合管理系统业务服务器上执行，也能确保集群系统后端各服务器负载均衡。
对应地，本发明还提出一种数据中心综合管理系统负载均衡的方法，如图2所示，该方法实现在如上所述的数据中心综合管理系统负载均衡系统，具体包括了如下的操作步骤：
步骤1：数据中心综合管理系统负载均衡框架发起数据中心综合管理系统负载均衡框架服务，建立任务队列和服务器队列；
步骤2：数据中心综合管理系统负载均衡框架将任务队列和服务器队列纳入监控线程，进行运行状态的监控；
步骤3：在用户请求任务到达后，由数据中心综合管理系统负载均衡框架分析并区分任务类型，将任务区分为I/O消耗型和CPU消耗型，并分别执行任务队列的入栈操作；
步骤4：数据中心综合管理系统负载均衡框架获取服务器实时状态信息，依据所获取的实时状况信息对服务器进行排序，并执行服务器队列的入栈操作。
步骤5：数据中心综合管理系统负载均衡框架按照负载均衡算法执行任务分配，进行队列的出栈操作，由至少一个数据中心综合管理系统服务器执行所分配的任务。
所述步骤3中任务队列包括I/O消耗型任务队列以及CPU消耗型任务队列；对于I/O消耗型任务队列，将I/O消耗型任务按I/O等待时间从大到小降序排列入队列，进行队列的入栈操作；对于CPU消耗型任务队列，将CPU消耗型任务按CPU占用率从大到小降序入队列，进行队列的入栈操作；
所述步骤4中的服务器队列包括I/O平均等待时间服务器队列以及CPU占用率服务器队列；对于I/O平均等待时间服务器队列，将服务器按I/O等待时间由小到大排列队列，进行队列的入栈操作；对于CPU占用率服务器队列，将服务器按CPU占用率由小到大排列队列，进行队列的入栈操作；
所述步骤5中的结合负载均衡算法来进行任务分配，具体为：由于服务器在执行CPU指令的同时也可以执行I/O指令，因此，将任务从任务队列中取出，按照任务类型交替地将任务对应地分配到所维持服务器队列中的数据中心综合管理系统服务器上进行执行。
本发明所提出的数据中心综合管理系统负载均衡方法有助于数据中心管理系统的负载均衡分布，尤其是在涉及物理资源与虚拟资源同时需要监控的场景，采用该负载均衡方法，很好地解决了原来低吞吐量和管理分布式环境问题。该方法对于研究类似的分布式负载平衡系统具有参考意义。
对所公开的实施例的上述说明，使本领域技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其他实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (8)

1.一种数据中心综合管理系统负载均衡系统，其特征在于，包括：
至少一个用户端，用于发起任务请求；
数据中心综合管理系统负载均衡框架，用于接收来自所述至少一个用户端的任务请求，分析并区分所请求的任务的类型，并依据所区别的任务类型分别将它们对应地保存至所维持的任务队列中；所述数据中心综合管理系统负载均衡框架还获取数据中心综合管理系统服务器的至少一个实时状态信息，依据所述至少一个实时状态信息对服务器进行排序，按照该排序维持至少一个服务器队列，并结合负载均衡算法来进行任务分配；
至少一个数据中心综合管理系统服务器，用于对应地执行由数据中心综合管理系统负载均衡框架所分配的多个任务；
所述任务队列包括I/O消耗型任务队列以及CPU消耗型任务队列；
所述的数据中心综合管理系统负载均衡框架接收来自所述至少一个用户端的任务请求，分析并区分所请求的任务的类型，并将所区分的任务分别对应保存至任务队列中，具体为：根据任务的特征提供P、f、N1、N2这四个参数，利用这四个参数根据算法来区分用户端所请求的任务的类型为I/O消耗型任务或者CPU消耗型任务，并分别将任务存储至对应的队列中，其中，P表示I/O指令数占总指令数的比重，f表示I/O指令的执行频率，N1表示I/O指令的总条数，N2表示CPU指令的总条数。
2.如权利要求1所述的数据中心综合管理系统负载均衡系统，其特征在于，所述至少一个服务器队列包括I/O平均等待时间服务器队列以及CPU占用率服务器队列。
3.如权利要求2所述的数据中心综合管理系统负载均衡系统，其特征在于，所述数据中心综合管理系统负载均衡框架获取数据中心综合管理系统服务器的至少一个实时状态信息，依据所述至少一个实时状态信息对服务器进行排序，按照该排序维持至少一个服务器队列，具体为：所述数据中心综合管理系统负载均衡框架获取数据中心综合管理系统服务器的I/O平均等待时间以及CPU占用率，按照所获取的I/O平均等待时间由小到大的顺序排列所述的服务器，且按照所获取的CPU占用率由小到大的顺序排列所述的服务器，分别形成I/O平均等待时间服务器队列以及CPU占用率服务器队列。
4.如权利要求1-3任一项所述的数据中心综合管理系统负载均衡系统，其特征在于，所述的结合负载均衡算法来进行任务分配，具体为：由于服务器在执行CPU指令的同时也可以执行I/O指令，因此，将任务从任务队列中取出，按照任务类型交替地将任务对应地分配到所维持服务器队列中的数据中心综合管理系统服务器上进行执行。
5.一种基于如权利要求1-4任一项所述的数据中心综合管理系统负载均衡系统实现数据中心综合管理系统负载均衡的方法，其特征在于，包括了如下的操作步骤：
步骤1：数据中心综合管理系统负载均衡框架发起数据中心综合管理系统负载均衡框架服务，建立任务队列和服务器队列；
步骤2：数据中心综合管理系统负载均衡框架将任务队列和服务器队列纳入监控线程，进行运行状态的监控；
步骤3：在用户请求任务到达后，由数据中心综合管理系统负载均衡框架分析并区分任务类型，将任务区分为I/O消耗型和CPU消耗型，并分别执行任务队列的入栈操作；
步骤4：数据中心综合管理系统负载均衡框架获取服务器实时状态信息，依据所获取的实时状况信息对服务器进行排序，并执行服务器队列的入栈操作；
步骤5：数据中心综合管理系统负载均衡框架按照负载均衡算法执行任务分配，进行队列的出栈操作，由至少一个数据中心综合管理系统服务器执行所分配的任务。
6.如权利要求5所述的数据中心综合管理系统负载均衡的方法，其特征在于，所述步骤3中任务队列包括I/O消耗型任务队列以及CPU消耗型任务队列；对于I/O消耗型任务队列，将I/O消耗型任务按I/O等待时间从大到小降序排列入队列，进行队列的入栈操作；对于CPU消耗型任务队列，将CPU消耗型任务按CPU占用率从大到小降序入队列，进行队列的入栈操作。
7.如权利要求6所述的数据中心综合管理系统负载均衡的方法，其特征在于，所述步骤4中的服务器队列包括I/O平均等待时间服务器队列以及CPU占用率服务器队列；对于I/O平均等待时间服务器队列，将服务器按I/O平均等待时间由小到大排列队列，进行队列的入栈操作；对于CPU占用率服务器队列，将服务器按CPU占用率由小到大排列队列，进行队列的入栈操作。
8.如权利要求5-7任一项所述的数据中心综合管理系统负载均衡的方法，其特征在于，所述步骤5中的结合负载均衡算法来进行任务分配，具体为：由于服务器在执行CPU指令的同时也可以执行I/O指令，因此，将任务从任务队列中取出，按照任务类型交替地将任务对应地分配到所维持服务器队列中的数据中心综合管理系统服务器上进行执行。
CN201711395941.XA 2017-12-21 2017-12-21 一种数据中心综合管理系统负载均衡方法 Active CN107977271B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201711395941.XA CN107977271B (zh) 2017-12-21 2017-12-21 一种数据中心综合管理系统负载均衡方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711395941.XA CN107977271B (zh) 2017-12-21 2017-12-21 一种数据中心综合管理系统负载均衡方法

Publications (2)

Publication Number Publication Date
CN107977271A CN107977271A (zh) 2018-05-01
CN107977271B true CN107977271B (zh) 2022-02-18

Family

ID=62007306

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711395941.XA Active CN107977271B (zh) 2017-12-21 2017-12-21 一种数据中心综合管理系统负载均衡方法

Country Status (1)

Country Link
CN (1) CN107977271B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109343138B (zh) * 2018-09-29 2020-09-25 深圳市华讯方舟太赫兹科技有限公司 一种安检系统的负载均衡方法和安检设备
CN109901925B (zh) * 2018-11-06 2023-08-25 创新先进技术有限公司 一种任务处理方法及系统
CN111752710B (zh) * 2020-06-23 2023-01-31 中国电力科学研究院有限公司 数据中心pue动态优化方法、系统、设备及可读存储介质
CN118093144A (zh) * 2021-03-22 2024-05-28 福建随行软件有限公司 一种基于峰值访问的资源分发及数据中心
CN114489471B (zh) * 2021-08-10 2023-04-14 荣耀终端有限公司 一种输入输出处理方法和电子设备
CN114640681B (zh) * 2022-03-10 2024-05-17 京东科技信息技术有限公司 一种数据处理方法和系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102855157A (zh) * 2012-07-19 2013-01-02 浪潮电子信息产业股份有限公司 一种综合性调度服务器负载的方法
CN105141541A (zh) * 2015-09-23 2015-12-09 浪潮(北京)电子信息产业有限公司 一种基于任务的动态负载均衡调度方法及装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102855157A (zh) * 2012-07-19 2013-01-02 浪潮电子信息产业股份有限公司 一种综合性调度服务器负载的方法
CN105141541A (zh) * 2015-09-23 2015-12-09 浪潮(北京)电子信息产业有限公司 一种基于任务的动态负载均衡调度方法及装置

Also Published As

Publication number Publication date
CN107977271A (zh) 2018-05-01

Similar Documents

Publication Publication Date Title
CN107977271B (zh) 一种数据中心综合管理系统负载均衡方法
Zhang et al. Joint optimization of chain placement and request scheduling for network function virtualization
US8832063B1 (en) Dynamic request throttling
Shan et al. Job superscheduler architecture and performance in computational grid environments
Mishra et al. Load balancing techniques: need, objectives and major challenges in cloud computing-a systematic review
Ren et al. The load balancing algorithm in cloud computing environment
Kaur et al. Analysis of job scheduling algorithms in cloud computing
Wided et al. Load balancing with Job Migration Algorithm for improving performance on grid computing: Experimental Results
El Khoury et al. Energy-aware placement and scheduling of network traffic flows with deadlines on virtual network functions
Rajabzadeh et al. New comprehensive model based on virtual clusters and absorbing Markov chains for energy-efficient virtual machine management in cloud computing
Guan et al. Novel sustainable and heterogeneous offloading management techniques in proactive cloudlets
Maleki et al. TMaR: a two-stage MapReduce scheduler for heterogeneous environments
Li et al. Dynamic energy-efficient scheduling for streaming applications in storm
Sadia et al. A priority based dynamic resource mapping algorithm for load balancing in cloud
Divya et al. Workload characteristics and resource aware Hadoop scheduler
Runsewe et al. CRAM: a container resource allocation mechanism for big data streaming applications
Kamarunisha et al. Recitation of load balancing algorithms in grid computing environment using policies and strategies an approach
Sharma et al. A review of cloud computing scheduling algorithms
Bindu et al. Perspective study on resource level load balancing in grid computing environments
Thakur et al. Load balancing approaches: recent computing trends
Soryani et al. Improving inter-node communications in multi-core clusters using a contention-free process mapping algorithm
Chen et al. Network-aware grouping in distributed stream processing systems
D'Souza et al. Analysis of MapReduce scheduling and its improvements in cloud environment
Rahman et al. Group based resource management and pricing model in cloud computing
Brar et al. A survey of load balancing algorithms in cloud computing

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant