CN104102548B - 任务资源调度处理方法和系统 - Google Patents

任务资源调度处理方法和系统 Download PDF

Info

Publication number
CN104102548B
CN104102548B CN201410379486.4A CN201410379486A CN104102548B CN 104102548 B CN104102548 B CN 104102548B CN 201410379486 A CN201410379486 A CN 201410379486A CN 104102548 B CN104102548 B CN 104102548B
Authority
CN
China
Prior art keywords
task
resource
virtual
actuator
queue
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201410379486.4A
Other languages
English (en)
Other versions
CN104102548A (zh
Inventor
陈伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Jingdong Shangke Information Technology Co Ltd
Original Assignee
Beijing Jingdong Shangke Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Jingdong Shangke Information Technology Co Ltd filed Critical Beijing Jingdong Shangke Information Technology Co Ltd
Priority to CN201410379486.4A priority Critical patent/CN104102548B/zh
Publication of CN104102548A publication Critical patent/CN104102548A/zh
Application granted granted Critical
Publication of CN104102548B publication Critical patent/CN104102548B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Debugging And Monitoring (AREA)

Abstract

本申请公开了一种任务资源调度处理方法和系统,包括:在任务执行硬件节点上安装至少两个虚拟机,每个虚拟机上设置一个虚拟任务执行器;将任务执行硬件节点上的硬件资源划分为资源池和资源队列,所述资源队列中包括至少两个资源块,每个资源块对应划分给本硬件节点上的一个虚拟任务执行器使用,资源池对应划分给本硬件节点上的至少一个虚拟任务执行器使用;在任务调度器接收到任务请求后,确定该任务所需要的资源量MTN,判断该MTN是否大于所述资源队列中最大资源块的资源量MRN,如果是则调用资源池对应的一虚拟任务执行器处理该任务,否则调用资源队列中的资源块对应的一虚拟任务执行器处理该任务。本发明可以提高系统的资源利用率,提高任务处理效率。

Description

任务资源调度处理方法和系统
技术领域
本申请涉及计算机数据处理技术领域,尤其涉及一种任务资源调度处理方法和系统。
背景技术
Hadoop是一个能够对大量数据进行分布式处理的计算系统,海量数据业务越来越多,Hadoop的使用也越来越广泛。随着单个集群的规模的日趋扩大(第一代Hadoop集群大约能够支持4000台机器),如何提高集群资源使用率也逐渐成为人们关心的话题。提高集群资源利用率的关键在于集群的调度。
Hdoop MapReduce任务调度系统,简称Hadoop调度器,是hadoop的核心组件之一,用于将系统中空闲的资源按一定策略分配给任务。在Hadoop中,调度器是一个可插拔的模块,用户可以根据自己的实际应用要求设计调度器。
图1为现有的一种典型的任务资源调度处理系统的示意图。参见图1,任务调度器(JT,JobTracker)和任务执行器(TT,TaskTracker)都分布在硬件的实体节点(计算机、服务器等)上,而且每个硬件节点只能分配一个JT或TT。数据处理任务的任务请求会发送到任务调度器上,任务调度器根据配置的调度策略,选择某种调度方法对相应的资源进行调度,并调度特定的任务执行器(TT,TaskTracker)执行该处理任务,即读取相应的数据进行处理。所述的资源包括中央处理器(CPU)资源、内存资源、磁盘资源等。
现有技术中所述的调度方法主要包括以下几种:
(1)先进先出(FIFO)调度方法:按照任务优先级高低,再按照到达时间的先后选择被执行的任务。
(2)计算能力调度方法(Capacity Scheduler):该调度方法支持多个队列,每个队列可分配一定的资源量,每个队列采用先进先出调度策略,为了防止同一个用户的任务独占队列中的资源,该调度方法会对同一用户提交的任务所占用资源量进行限定。调度时,首先按以下策略选择一个合适队列:计算每个队列中正在运行的任务数与其应该分的计算资源之间的比值,选择一个该比值小的队列;然后按以下策略选择队列中一个任务:按照任务优先级和提交时间顺序选择,同时考虑用户资源量限制和内存限制。
(3)公平调度方法(fair Scheduler):该调度方法支持多队列多用户,每一个队列中的资源量可以分配,同一个队列中的任务公平共享队列中所有资源。
以上调度方法只列举了hadoop调度方法中的几种,不一一列举,基本都是把任务分成队列和把资源按照大小分成队列,通过以上的调度方法调度资源。
但是,现有技术存在如下缺点:
现有技术中的调度系统中的每个处理节点必须是实体机硬件,并且任务调度器所在节点和任务执行器所在节点都是必须在实体硬件节点上,且每个硬件节点都只能分配一个任务调度器或任务执行器,在调度任务时,即使任务占用的资源量很小,也要占用一个硬件节点来单独处理该任务,其它任务需要在任务队列中排队等候,这就导致硬件节点中有大量的资源处于空闲状态,整个系统的资源利用效率非常低下,任务处理效率低下。
发明内容
有鉴于此,本发明的主要目的在于提供一种任务资源调度处理方法和系统,以提高系统的资源利用率,提高任务处理效率。
本发明的技术方案是这样实现的:
一种任务资源调度处理方法,包括:
在任务执行硬件节点上安装至少两个虚拟机,每个虚拟机上设置一个虚拟任务执行器;
将任务执行硬件节点上的硬件资源划分为资源池和资源队列,所述资源队列中包括至少两个资源块,每个资源块对应划分给本硬件节点上的一个虚拟任务执行器使用,资源池对应划分给本硬件节点上的至少一个虚拟任务执行器使用;
在任务调度器接收到任务请求后,确定该任务所需要的资源量MTN,判断该MTN是否大于所述资源队列中最大资源块的资源量MRN,如果是则调用资源池对应的一虚拟任务执行器处理该任务,否则调用资源队列中的资源块对应的一虚拟任务执行器处理该任务。
优选的,所述调用资源队列中的资源块对应的一虚拟任务执行器处理该任务,具体包括:
判断所述资源队列中的资源块的被占用情况,调用未被占用的、且资源量大于等于该任务MTN的一资源块对应的虚拟任务执行器处理该任务,如果本资源队列中资源量大于等于该任务MTN的资源块都被占用,则该任务等待该资源队列,直到一资源量大于等于该任务MTN的资源块被释放,则由该资源块对应的虚拟任务执行器处理该任务。
优选的,在调用资源池对应的一虚拟任务执行器处理任务时,如果该任务的MTN大于该资源池的资源量,则进一步合并与本资源池同硬件节点的资源队列中空闲的资源,供该虚拟任务执行器使用,在任务处理完毕后释放所合并的资源。
优选的,监控所述虚拟任务执行器,若虚拟任务执行器故障,判断该虚拟任务执行器对应的资源是否不足,若不足则为该虚拟任务执行器划拨指定数量的资源。
优选的,在任务调度硬件节点上安装虚拟机,所述任务调度器为设置在该虚拟机上的虚拟任务调度器。
优选的,在任务调度硬件节点上安装两个虚拟机,每个虚拟机上设置一个虚拟任务调度器,一个为主虚拟任务调度器,另一个为备虚拟任务调度器;
监控所述主虚拟任务调度器,若出现故障,则启动备虚拟任务调度器,将该备虚拟任务调度器切换为主虚拟任务调度器。
一种任务资源调度处理系统,包括:
任务执行硬件节点,该任务执行硬件节点上安装至少两个虚拟机,每个虚拟机上设置一个虚拟任务执行器;所述任务执行硬件节点上的硬件资源划分为资源池和资源队列,所述资源队列中包括至少两个资源块,每个资源块对应划分给本硬件节点上的一个虚拟任务执行器使用,资源池对应划分给本硬件节点上的至少一个虚拟任务执行器使用;
任务调度器,用于接收到任务请求后,确定该任务所需要的资源量MTN,判断该MTN是否大于所述资源队列中最大资源块的资源量MRN,如果是则调用资源池对应的一虚拟任务执行器处理该任务,否则调用资源队列中的资源块对应的一虚拟任务执行器处理该任务。
优选的,该系统进一步包括任务执行器的监控器,用于监控所述虚拟任务执行器,若虚拟任务执行器故障,判断该虚拟任务执行器对应的资源是否不足,若不足则触发所述调度器为该虚拟任务执行器划拨指定数量的资源。
优选的,所述任务调度器为设置在任务调度硬件节点的虚拟机上的虚拟任务调度器。
优选的,所述虚拟任务调度器有两个,一个为主虚拟任务调度器,另一个为备虚拟任务调度器;该系统进一步包括任务调度器的监控器,用于监控所述主虚拟任务调度器,若出现故障,则启动备虚拟任务调度器,将该备虚拟任务调度器切换为主虚拟任务调度器。
相对于现有技术,本发明在任务执行硬件节点上安装至少两个虚拟机,每个虚拟机上设置一个虚拟任务执行器;并且将任务执行硬件节点上的硬件资源划分为资源池和资源队列,所述资源队列中包括至少两个资源块,每个资源块对应划分给本硬件节点上的一个虚拟任务执行器使用,资源池对应划分给本硬件节点上的至少一个虚拟任务执行器使用;在任务调度器接收到任务请求后,确定该任务所需要的资源量MTN,判断该MTN是否大于所述资源队列中最大资源块的资源量MRN,如果是则调用资源池对应的一虚拟任务执行器处理该任务,否则调用资源队列中的资源块对应的一虚拟任务执行器处理该任务。这样采用虚拟化的方式,将硬件节点的硬件资源进一步划分为多份资源,并可以根据任务所需资源量的大小来选择由哪一份资源对应的虚拟任务执行器来处理任务,这样一个硬件节点可以同时处理多个任务,不但提高了任务处理的吞吐量,而且提高了硬件节点中资源的利用率,提高了任务处理效率。
附图说明
图1为现有的一种典型的任务资源调度处理系统的示意图;
图2为本发明所述任务资源调度方法的一种流程图;
图3为本发明所述的一种任务调度器进行任务资源调度的一种示意图;
图4为本发明所述任务资源调度处理系统的一种组成示意图;
图5为本发明所述任务资源调度处理系统的有一种组成示意图。
具体实施方式
下面结合附图及具体实施例对本发明再作进一步详细的说明。
图2为本发明所述任务资源调度方法的一种流程图。参见图2,该方法主要包括:
步骤201、在任务执行硬件节点上安装至少两个虚拟机(VM),每个虚拟机上设置一个虚拟任务执行器(TT)。
所述任务执行硬件节点是指某一具体的数据处理节点,如计算机节点、路由器、或其它硬件数据处理设备等。在一个Hadoop系统中,该任务执行硬件节点可能不止一个,可以有多个任务执行硬件节点组成集群。
所述虚拟机是指通过软件模拟的具有完整硬件系统功能的、运行在一个完全隔离环境中的完整计算机系统。通过虚拟机技术,技术人员可以在一台物理计算机上模拟出另一台或多台虚拟的计算机,这些虚拟机完全就像真正的计算机那样进行工作。
所述在任务执行硬件节点的每个虚拟机上,都会设置一个任务执行器,其设置方法同在物理硬件节点上的设置方法,由于该任务执行器设置在虚拟机上,因此又称为虚拟任务执行器,该虚拟任务执行器用来处理任务调度器所调度来的任务。
步骤202、将任务执行硬件节点上的硬件资源划分为资源池和资源队列,所述资源队列中包括至少两个资源块,每个资源块对应划分给本硬件节点上的一个虚拟任务执行器使用,资源池对应划分给本硬件节点上的至少一个虚拟任务执行器使用。
所述硬件资源包括:CPU资源、内存资源、磁盘资源等。具体划分时,可以过一定比例计算资源总和,然后划分成两部分利用,一部分划分成资源队列,该资源队列由至少两个更小的资源块组成,每个资源块对应分配给本硬件节点上的一个虚拟任务执行器使用,该资源队列用来执行小任务,大小相当的任务或者同一个任务的多次执行;一部分划分成资源池,该资源池不再进一步划分资源块,而是分配给至少一个虚拟TT,通常为多个虚拟TT,共同使用,用来执行消耗资源比较多的任务。这样的划分方式可以提高由于任务大小对资源量需要不同而带来的机器资源使用率的有效利用,提高了整个集群处理大量任务的性能。
步骤203、在任务调度器接收到任务请求后,确定该任务所需要的资源量MTN,通常该MTN是该任务所需要的最大资源量,判断该MTN是否大于所述资源队列中最大资源块的资源量MRN,如果是则调用资源池对应的一虚拟任务执行器处理该任务,否则调用资源队列中的资源块对应的一虚拟任务执行器处理该任务。
在执行上述步骤201和202后,在所述任务调度器上需要存储系统中各个任务执行硬件节点上的所述资源池信息、资源队列信息、资源队列中资源块的资源量信息、以及资源池和资源块对应的虚拟任务执行器信息。例如具体的,需要存储:所述每个资源池所属的任务执行硬件节点ID,该资源池对应的虚拟TT的ID,资源队列所属的任务执行硬件节点ID,该资源队列包括的资源块的ID、该资源块的资源量、以及该资源块对应的虚拟TT的ID等信息。
图3为本发明所述的一种任务调度器进行任务资源调度的一种示意图。参见图3,在步骤203中,用户队列中的用户形成的任务组成任务队列,向任务调度器发起任务请求。任务调度器在收到任务请求后,会根据该任务的种类、内容等信息确定该任务所需要的资源量MTN,然后判断该MTN是否大于所存储的资源队列中最大资源块的资源量MRN,如果是则说明该任务所需的资源量较大,因此利用预定调度策略从多个任务执行硬件节点中的资源池中选择一个资源池(资源池的资源量较大,比较适合处理大任务量的任务),根据任务调度器上的存储信息确定该资源池所属的任务执行硬件节点ID,再调用该资源池对应的一个虚拟任务执行器(该虚拟任务执行器在同一个任务执行硬件节点上)来处理该任务,通常一个资源池会对应多个虚拟任务执行器,那么会根据预设的调度策略从中选择一个虚拟任务执行器来处理该任务;该虚拟任务执行器在处理该任务的过程中所使用的资源为该资源池中的资源。如果MTN小于等于MRN,则说明该任务的任务量较小,则利用预定的调度策略从多个任务执行硬件节点中的资源队列中选择一个资源队列,确定该资源队列所属的任务执行硬件节点ID,调用该资源队列中的一个资源块对应的一个虚拟任务执行器(该虚拟任务执行器在同一个任务执行硬件节点上)来处理该任务;该虚拟任务执行器在处理该任务的过程中,所使用的资源仅为该资源块中的资源,这样就不会占用本任务执行硬件节点中的其它硬件资源,其它资源可以分配给其它任务使用,提高了资源的利用率。通过这种处理,所述资源池可以用来执行消耗资源比较多的任务,所述资源队列可以用来执行小任务,大小相当的任务或者同一个任务的多次执行。鉴于这种资源队列的使用方式,在大量不同任务需要处理的情况下,有限的资源块被不同任务合理的有序使用,一个硬件节点可以同时处理多个任务,大大增加了任务处理的吞吐量,提高资源利用率和任务的执行效率。
在进一步的优选实施例中,所述调用资源队列中的资源块对应的一虚拟任务执行器处理该任务,具体包括:
判断所述资源队列中的资源块的被占用情况,调用未被占用的、且资源量大于等于该任务MTN的一资源块对应的虚拟任务执行器处理该任务,如果本资源队列中资源量大于等于该任务MTN的资源块都被占用,则该任务等待该资源队列,直到一资源量大于等于该任务MTN的资源块被释放,则由该资源块对应的虚拟任务执行器处理该任务。通过这种处理,可以把等待任务从任务队列转移到资源队列,这样可以进一步增加任务处理的吞吐量,提高任务处理效率。
在进一步的优选实施例中,在调用资源池对应的一虚拟任务执行器处理任务时,如果该任务的MTN大于该资源池的资源量,则进一步合并与本资源池同硬件节点的资源队列中空闲的资源,供该虚拟任务执行器使用,在任务处理完毕后释放所合并的资源。这样可以临时处理超大任务,保证对突发超大任务的正常处理。
另外,本发明还可以对所述虚拟任务执行器进行监控,来实现容灾处理。具体实现方案是:监控所述虚拟任务执行器,若虚拟任务执行器故障,则判断该虚拟任务执行器对应的资源是否不足,若不足则为该虚拟任务执行器划拨指定数量的资源。所述划拨可以是管理员手动划拨,或者可以是自动划拨指定数量的资源。
本发明中,不但所述任务执行器可以采用虚拟机来设置成虚拟的任务执行器,所述任务调度器也可以采用虚拟机来设置。具体的方法是:在任务调度硬件节点上安装虚拟机,所述任务调度器为设置在该虚拟机上的虚拟任务调度器。
为了进一步提高容灾性和健壮性,在进一步的优选实施例中,本发明还可以在任务调度硬件节点上安装两个虚拟机,每个虚拟机上设置一个虚拟任务调度器,一个为主虚拟任务调度器,另一个为备虚拟任务调度器;并实时监控所述主虚拟任务调度器,若出现故障,则启动备虚拟任务调度器,将该备虚拟任务调度器切换为主虚拟任务调度器。
与上述方法对应,本发明还公开了一种任务资源调度处理系统。图4为本发明所述任务资源调度处理系统的一种组成示意图。参见图4,该任务资源调度处理系统包括任务执行硬件节点401和任务调度器402。
所述任务执行硬件节点401,即用于执行任务的硬件数据处理设备,如计算机、服务器、路由器等设备。所述任务执行硬件节点的数量可以是一个,也可以是多个组成任务执行硬件节点集群。所述每个任务执行硬件节点上安装至少两个虚拟机,每个虚拟机上设置一个虚拟任务执行器;所述每个任务执行硬件节点上的硬件资源划分为两部分,一部分为资源池,另一部分为资源队列。所述资源队列中包括至少两个资源块,每个资源块对应划分给本硬件节点上的一个虚拟任务执行器使用,所述资源池对应划分给本硬件节点上的至少一个虚拟任务执行器使用,如图3所示。
所述任务执行硬件节点401会将本节点所划分的资源池及其对应的虚拟任务执行器信息、资源队列及其资源块对应的虚拟任务执行器的信息通过心跳信令传输给任务调度器402进行存储。所述任务调度器402存储系统中各个任务执行硬件节点上的所述资源池信息、资源队列信息、资源队列中资源块的资源量信息、以及资源池和资源块对应的虚拟任务执行器信息。例如具体的,需要存储:所述每个资源池所属的任务执行硬件节点ID,该资源池对应的虚拟TT的ID,资源队列所属的任务执行硬件节点ID,该资源队列包括的资源块的ID、该资源块的资源量、以及该资源块对应的虚拟TT的ID等信息。
所述任务调度器402,用于接收到任务请求后,确定该任务所需要的资源量MTN,判断该MTN是否大于所述资源队列中最大资源块的资源量MRN,如果是则调度策略调用资源池对应的一虚拟任务执行器处理该任务,否则调用资源队列中的资源块对应的一虚拟任务执行器处理该任务。
具体的,如图3所示,用户队列中的用户形成的任务组成任务队列,向任务调度器发起任务请求。任务调度器在收到任务请求后,会根据该任务的种类、内容等信息确定该任务所需要的资源量MTN,然后判断该MTN是否大于所存储的资源队列中最大资源块的资源量MRN,如果是则说明该任务所需的资源量较大,因此利用预定调度策略从多个任务执行硬件节点中的资源池中选择一个资源池(资源池的资源量较大,比较适合处理大任务量的任务),根据任务调度器上的存储信息确定该资源池所属的任务执行硬件节点ID,再调用该资源池对应的一个虚拟任务执行器(该虚拟任务执行器在同一个任务执行硬件节点上)来处理该任务,通常一个资源池会对应多个虚拟任务执行器,那么会根据预设的调度策略从中选择一个虚拟任务执行器来处理该任务;该虚拟任务执行器在处理该任务的过程中所使用的资源为该资源池中的资源。如果MTN小于等于MRN,则说明该任务的任务量较小,则利用预定的调度策略从多个任务执行硬件节点中的资源队列中选择一个资源队列,确定该资源队列所属的任务执行硬件节点ID,调用该资源队列中的一个资源块对应的一个虚拟任务执行器(该虚拟任务执行器在同一个任务执行硬件节点上)来处理该任务;该虚拟任务执行器在处理该任务的过程中,所使用的资源仅为该资源块中的资源,这样就不会占用本任务执行硬件节点中的其它硬件资源,其它资源可以分配给其它任务使用,提高了资源的利用率。通过这种处理,所述资源池可以用来执行消耗资源比较多的任务,所述资源队列可以用来执行小任务,大小相当的任务或者同一个任务的多次执行。鉴于这种资源队列的使用方式,在大量不同任务需要处理的情况下,有限的资源块被不同任务合理的有序使用,一个硬件节点可以同时处理多个任务,大大增加了任务处理的吞吐量,提高资源利用率和任务的执行效率。
在进一步的优选实施例中,所述调用资源队列中的资源块对应的一虚拟任务执行器处理该任务,具体包括:
判断所述资源队列中的资源块的被占用情况,调用未被占用的、且资源量大于等于该任务MTN的一资源块对应的虚拟任务执行器处理该任务,如果本资源队列中资源量大于等于该任务MTN的资源块都被占用,则该任务等待该资源队列,直到一资源量大于等于该任务MTN的资源块被释放,则由该资源块对应的虚拟任务执行器处理该任务。通过这种处理,可以把等待任务从任务队列转移到资源队列,这样可以进一步增加任务处理的吞吐量,提高任务处理效率。
在进一步的优选实施例中,在调用资源池对应的一虚拟任务执行器处理任务时,如果该任务的MTN大于该资源池的资源量,则进一步合并与本资源池同硬件节点的资源队列中空闲的资源,供该虚拟任务执行器使用,在任务处理完毕后释放所合并的资源。这样可以临时处理超大任务,保证对突发超大任务的正常处理。
图5为本发明所述任务资源调度处理系统的有一种组成示意图。参见图5,该任务资源调度处理系统中,所述任务调度器可以是设置在任务调度硬件节点的虚拟机上的虚拟任务调度器。所述任务调度硬件节点可以有多个,从而组成任务调度硬件节点集群。
进一步的实施例中,所述虚拟任务调度器可以有两个,一个为主虚拟任务调度器501,另一个为备虚拟任务调度器502,任务请求被发送到主虚拟任务调度器501进行处理。但是这两个虚拟任务调度器需要设置在不同的硬件节点上,以保证其健壮性。
在该实施例中,该任务资源调度处理系统还进一步包括任务调度器的监控器503,用于监控所述主虚拟任务调度器501,若出现故障,则启动备虚拟任务调度器502,将该备虚拟任务调度器切换为主虚拟任务调度器。所述任务调度器的监控器也可以是多个,从而组成任务调度器的监控器集群。
在进一步的实施例中,该任务资源调度处理系统还进一步包括任务执行器的监控器504,用于监控所述虚拟任务执行器,若虚拟任务执行器故障,判断该虚拟任务执行器对应的资源是否不足,若不足则触发所述调度器为该虚拟任务执行器划拨指定数量的资源。所述任务执行器监控器的数量也可以是多个,从而组成任务执行器的监控器集群。
本发明所述的方法和系统可以应用在Hdoop系统中,当然也可以应用在其它类似的分布式处理的计算系统。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明保护的范围之内。

Claims (10)

1.一种任务资源调度处理方法,其特征在于,包括:
在任务执行硬件节点上安装至少两个虚拟机,每个虚拟机上设置一个虚拟任务执行器,所述虚拟任务执行器用于处理任务调度器所调度来的任务;
将任务执行硬件节点上的硬件资源划分为资源池和资源队列,所述资源队列中包括至少两个资源块,每个资源块对应划分给本硬件节点上的一个虚拟任务执行器使用,资源池对应划分给本硬件节点上的至少一个虚拟任务执行器使用;
在任务调度器接收到任务请求后,确定该任务所需要的资源量MTN,判断该MTN是否大于所述资源队列中最大资源块的资源量MRN,如果是则调用资源池对应的一虚拟任务执行器处理该任务,否则调用资源队列中的资源块对应的一虚拟任务执行器处理该任务。
2.根据权利要求1所述的方法,其特征在于,所述调用资源队列中的资源块对应的一虚拟任务执行器处理该任务,具体包括:
判断所述资源队列中的资源块的被占用情况,调用未被占用的、且资源量大于等于该任务MTN的一资源块对应的虚拟任务执行器处理该任务,如果本资源队列中资源量大于等于该任务MTN的资源块都被占用,则该任务等待该资源队列,直到一资源量大于等于该任务MTN的资源块被释放,则由该资源块对应的虚拟任务执行器处理该任务。
3.根据权利要求1所述的方法,其特征在于,
在调用资源池对应的一虚拟任务执行器处理任务时,如果该任务的MTN大于该资源池的资源量,则进一步合并与本资源池同硬件节点的资源队列中空闲的资源,供该虚拟任务执行器使用,在任务处理完毕后释放所合并的资源。
4.根据权利要求1所述的方法,其特征在于,监控所述虚拟任务执行器,若虚拟任务执行器故障,判断该虚拟任务执行器对应的资源是否不足,若不足则为该虚拟任务执行器划拨指定数量的资源。
5.根据权利要求1所述的方法,其特征在于,在任务调度硬件节点上安装虚拟机,所述任务调度器为设置在该虚拟机上的虚拟任务调度器。
6.根据权利要求5所述的方法,其特征在于,在任务调度硬件节点上安装两个虚拟机,每个虚拟机上设置一个虚拟任务调度器,一个为主虚拟任务调度器,另一个为备虚拟任务调度器;
监控所述主虚拟任务调度器,若出现故障,则启动备虚拟任务调度器,将该备虚拟任务调度器切换为主虚拟任务调度器。
7.一种任务资源调度处理系统,其特征在于,包括:
任务执行硬件节点,该任务执行硬件节点上安装至少两个虚拟机,每个虚拟机上设置一个虚拟任务执行器,所述虚拟任务执行器用于处理任务调度器所调度来的任务;所述任务执行硬件节点上的硬件资源划分为资源池和资源队列,所述资源队列中包括至少两个资源块,每个资源块对应划分给本硬件节点上的一个虚拟任务执行器使用,资源池对应划分给本硬件节点上的至少一个虚拟任务执行器使用;
任务调度器,用于接收到任务请求后,确定该任务所需要的资源量MTN,判断该MTN是否大于所述资源队列中最大资源块的资源量MRN,如果是则调用资源池对应的一虚拟任务执行器处理该任务,否则调用资源队列中的资源块对应的一虚拟任务执行器处理该任务。
8.根据权利要求7所述的系统,其特征在于,该系统进一步包括任务执行器的监控器,用于监控所述虚拟任务执行器,若虚拟任务执行器故障,判断该虚拟任务执行器对应的资源是否不足,若不足则触发所述调度器为该虚拟任务执行器划拨指定数量的资源。
9.根据权利要求7所述的系统,其特征在于,所述任务调度器为设置在任务调度硬件节点的虚拟机上的虚拟任务调度器。
10.根据权利要求9所述的系统,其特征在于,
所述虚拟任务调度器有两个,一个为主虚拟任务调度器,另一个为备虚拟任务调度器;
该系统进一步包括任务调度器的监控器,用于监控所述主虚拟任务调度器,若出现故障,则启动备虚拟任务调度器,将该备虚拟任务调度器切换为主虚拟任务调度器。
CN201410379486.4A 2014-08-04 2014-08-04 任务资源调度处理方法和系统 Active CN104102548B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410379486.4A CN104102548B (zh) 2014-08-04 2014-08-04 任务资源调度处理方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410379486.4A CN104102548B (zh) 2014-08-04 2014-08-04 任务资源调度处理方法和系统

Publications (2)

Publication Number Publication Date
CN104102548A CN104102548A (zh) 2014-10-15
CN104102548B true CN104102548B (zh) 2017-11-24

Family

ID=51670720

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410379486.4A Active CN104102548B (zh) 2014-08-04 2014-08-04 任务资源调度处理方法和系统

Country Status (1)

Country Link
CN (1) CN104102548B (zh)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105718316A (zh) * 2014-12-01 2016-06-29 中国移动通信集团公司 一种作业调度的方法及装置
CN106302587B (zh) * 2015-05-26 2019-07-30 阿里巴巴集团控股有限公司 一种互联网信息资源的调度方法及装置
CN105068874B (zh) * 2015-08-12 2018-11-30 国家电网公司 一种结合Docker技术的资源按需动态分配方法
CN107291546B (zh) * 2016-03-30 2020-07-14 华为技术有限公司 一种资源调度方法及装置
CN107741873B (zh) * 2016-12-14 2020-06-02 腾讯科技(深圳)有限公司 业务处理方法及装置
CN106776040A (zh) * 2016-12-30 2017-05-31 广东欧珀移动通信有限公司 一种资源分配方法及装置
CN107515786B (zh) * 2017-08-04 2021-02-19 北京奇虎科技有限公司 资源分配方法、主装置、从装置和分布式计算系统
CN108446174B (zh) * 2018-03-06 2022-03-11 苏州大学 基于资源预分配与公共引导代理的多核作业调度方法
CN109240825B (zh) * 2018-08-14 2022-01-28 创新先进技术有限公司 弹性任务调度方法、装置、设备及计算机可读存储介质
CN112149929B (zh) * 2019-06-28 2024-06-21 北京京东振世信息技术有限公司 任务分配方法与装置
CN110379005B (zh) * 2019-07-22 2021-09-24 泰瑞数创科技(北京)有限公司 一种基于虚拟资源管理的三维重建方法
CN110795222B (zh) * 2019-10-25 2022-03-22 北京浪潮数据技术有限公司 一种多线程任务调度方法、装置、设备及可读介质
CN115834714B (zh) * 2023-02-09 2023-06-16 中国证券登记结算有限责任公司 一种跨平台任务调度方法、服务器和系统

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103810023A (zh) * 2014-03-06 2014-05-21 中国科学院信息工程研究所 一种云平台中分布式应用的智能部署方法及系统

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5687666B2 (ja) * 2012-08-15 2015-03-18 株式会社東芝 スケジューリング装置、システム、方法およびプログラム
US9632838B2 (en) * 2012-12-18 2017-04-25 Microsoft Technology Licensing, Llc Cloud based media processing workflows and module updating

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103810023A (zh) * 2014-03-06 2014-05-21 中国科学院信息工程研究所 一种云平台中分布式应用的智能部署方法及系统

Also Published As

Publication number Publication date
CN104102548A (zh) 2014-10-15

Similar Documents

Publication Publication Date Title
CN104102548B (zh) 任务资源调度处理方法和系统
CN109471705B (zh) 任务调度的方法、设备及系统、计算机设备
WO2015096656A1 (zh) 线程创建方法、业务请求处理方法及相关设备
CN110888743B (zh) 一种gpu资源使用方法、装置及存储介质
CN104598426B (zh) 用于异构多核处理器系统的任务调度方法
CN109936604B (zh) 一种资源调度方法、装置和系统
CN100549964C (zh) 信息处理设备、中断处理控制方法
US20090158299A1 (en) System for and method of uniform synchronization between multiple kernels running on single computer systems with multiple CPUs installed
Wang et al. Pigeon: An effective distributed, hierarchical datacenter job scheduler
CN109726005B (zh) 用于管理资源的方法、服务器系统和计算机可读介质
CN109697122A (zh) 任务处理方法、设备及计算机存储介质
CN112087503A (zh) 集群任务调度方法、系统、计算机和计算机可读存储介质
WO2012092894A2 (zh) 一种多核处理器系统
KR20110046719A (ko) 복수 코어 장치 및 그의 로드 조정 방법
CN107515781B (zh) 一种基于多处理器的确定性任务调度及负载均衡系统
US20130097382A1 (en) Multi-core processor system, computer product, and control method
CN107203413A (zh) 一种资源数据调度系统及方法
CN108446180A (zh) 一种基于数据迁移的数据中心动态任务调度方法
US9367349B2 (en) Multi-core system and scheduling method
CN109729113B (zh) 管理专用处理资源的方法、服务器系统和计算机程序产品
Fei et al. FlexNFV: Flexible network service chaining with dynamic scaling
US8032658B2 (en) Computer architecture and process for implementing a virtual vertical perimeter framework for an overloaded CPU having multiple network interfaces
EP3084603B1 (en) System and method for supporting adaptive busy wait in a computing environment
CN103823712A (zh) 一种多cpu虚拟机系统的数据流处理方法和装置
CN112073532B (zh) 一种资源分配的方法及装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant