CN113986510A - 资源调度方法、装置和电子设备 - Google Patents

Abstract

本发明提供了一种资源调度方法、装置和电子设备，当接收到来自客户端的目标业务后，从目标业务中提取目标业务的目标业务属性，将目标业务属性发送至资源管理服务，以使资源管理服务基于目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与目标业务属性相匹配的目标集群的集群标识；将目标业务提交至目标集群，以通过目标集群执行目标业务。该方式中，当运行有数据调度服务的第一设备接收到目标业务，并提取出目标业务属性后，可以通过资源管理服务从多个集群中筛选出与该目标业务属性匹配的目标集群，提高了集群的资源利用率，并且，该方式不需要为每个集群单独部署数据调度服务，降低了对集群的维护成本。

Description

资源调度方法、装置和电子设备

技术领域

本发明涉及大数据技术领域，尤其是涉及一种资源调度方法、装置和电子设备。

背景技术

随着大数据技术的发展，各个行业越来越深刻意识到大数据技术对于自身产品服务的价值，大数据应用离不开大数据调度系统，通过大数据调度系统更便于用户管理大数据任务；相关技术中，用户一般会为不同的业务部署多个大数据集群，在每个大数据集群上运行的业务通常不同，并且，需要为每个大数据集群单独部署大数据调度系统，导致需要维护多套大数据调度系统，增大了大数据集群的维护成本，并且，大数据调度系统在对接收到的任务进行分配调度时，只能在部署该大数据调度系统的大数据集群内进行调度，导致多个大数据集群的资源利用率较低。

发明内容

本发明的目的在于提供一种资源调度方法、装置和电子设备，以提高集群的资源利用率。

本发明提供的一种资源调度方法，方法应用于运行有数据调度服务的第一设备，第一设备与运行有资源管理服务的第二设备连接，第二设备中预先存储有至少一种业务的业务属性，以及每种业务所归属的集群的集群标识；方法包括：接收来自客户端的目标业务；从目标业务中提取目标业务的目标业务属性；将目标业务属性发送至资源管理服务，以使资源管理服务基于目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与目标业务属性相匹配的目标集群的集群标识；将目标业务提交至目标集群，以通过目标集群执行目标业务。

进一步的，目标业务属性包括：目标业务的资源使用量、业务优先级、业务标签，禁止提交目标业务的集群的集群标识，以及目标业务的业务优先级是否可降级。

进一步的，目标业务属性包括：目标业务的资源使用量；目标集群中包括至少一个资源队列；每个资源队列包括该资源队列的剩余资源量；将目标业务提交至目标集群，以通过目标集群执行目标业务的步骤包括：将目标业务提交至目标集群中，剩余资源量满足目标业务的资源使用量的目标资源队列，以通过目标资源队列执行目标业务。

本发明提供的一种资源调度方法，方法应用于运行有资源管理服务的第二设备，第二设备与运行有数据调度服务的第一设备连接；第二设备中预先存储有至少一种业务的业务属性，以及每种业务所归属的集群的集群标识；方法包括：接收来自第一设备的目标业务的目标业务属性；基于目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与目标业务属性相匹配的目标集群的集群标识；将目标集群的集群标识发送至第一设备，以通过数据调度服务将目标业务提交至目标集群，通过目标集群执行目标业务。

进一步的，基于目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与目标业务属性相匹配的目标集群的集群标识的步骤包括：判断是否预先存储有目标业务的目标业务属性；如果预先存储有目标业务的目标业务属性，获取目标业务所归属的集群的集群标识；从目标业务所归属的集群的集群标识中，筛选出与目标业务属性相匹配的目标集群的集群标识。

进一步的，目标业务属性包括：目标业务的资源使用量，以及禁止提交目标业务的集群的集群标识；从目标业务所归属的集群的集群标识中，筛选出与目标业务属性相匹配的目标集群的集群标识的步骤包括：从目标业务所归属的集群的集群标识中，删除禁止提交目标业务的集群的集群标识，得到第一集群的集群标识；遍历第一集群中的每个集群，监测每个集群的剩余资源量；将遍历到的首个剩余资源量符合目标业务的资源使用量的集群确定为第二集群；基于第二集群，筛选出与目标业务属性相匹配的目标集群的集群标识。

进一步的，每个集群中包括至少一个资源队列；监测每个集群的剩余资源量的步骤包括：监测每个集群中至少一个资源队列的剩余资源量。

进一步的，目标业务属性包括：目标业务的业务优先级；基于第二集群，筛选出与目标业务属性相匹配的目标集群的集群标识的步骤包括：判断第二集群的集群优先级是否满足业务优先级；如果第二集群的集群优先级满足业务优先级，将第二集群的集群标识确定为与目标业务属性相匹配的目标集群的集群标识。

进一步的，目标业务属性包括：目标业务的业务优先级是否可降级；方法还包括：如果第二集群的集群优先级不满足业务优先级，将遍历到的下一个剩余资源量符合目标业务的资源使用量的集群确定为新的第二集群，继续执行判断第二集群的集群优先级是否满足业务优先级的步骤，直至遍历完成第一集群中的每个集群；判断目标业务属性指示目标业务的业务优先级是否可降级；如果目标业务属性指示目标业务的业务优先级可降级，将低一级别的业务优先级确定为目标业务的新的业务优先级，重复执行遍历第一集群中的每个集群的步骤，直至筛选出与目标业务属性相匹配的目标集群的集群标识；如果目标业务属性指示目标业务不可降级，停止执行资源调度。

进一步的，方法还包括：如果未预先存储有目标业务的目标业务属性，获取预设集群的集群标识；将预设集群的集群标识确定为与目标业务属性相匹配的目标集群的集群标识。

本发明提供的一种资源调度装置，装置设置于运行有数据调度服务的第一设备，第一设备与运行有资源管理服务的第二设备连接，第二设备中预先存储有至少一种业务的业务属性，以及每种业务所归属的集群的集群标识；装置包括：第一接收模块，用于接收来自客户端的目标业务；提取模块，用于从目标业务中提取目标业务的目标业务属性；第一确定模块，用于将目标业务属性发送至资源管理服务，以使资源管理服务基于目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与目标业务属性相匹配的目标集群的集群标识；提交模块，用于将目标业务提交至目标集群，以通过目标集群执行目标业务。

本发明提供的一种资源调度装置，装置设置于运行有资源管理服务的第二设备，第二设备与运行有数据调度服务的第一设备连接；第二设备中预先存储有至少一种业务的业务属性，以及每种业务所归属的集群的集群标识；装置包括：第二接收模块，用于接收来自第一设备的目标业务的目标业务属性；第二确定模块，用于基于目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与目标业务属性相匹配的目标集群的集群标识；发送模快，用于将目标集群的集群标识发送至第一设备，以通过数据调度服务将目标业务提交至目标集群，通过目标集群执行目标业务。

本发明提供的一种服务器，包括处理器和存储器，存储器存储有能够被处理器执行的机器可执行指令，处理器执行机器可执行指令以实现上述任一项的资源调度方法。

本发明提供的一种机器可读存储介质，机器可读存储介质存储有机器可执行指令，机器可执行指令在被处理器调用和执行时，机器可执行指令促使处理器实现上述任一项的资源调度方法。

本发明提供的资源调度方法、装置和电子设备，当接收到来自客户端的目标业务后，从目标业务中提取目标业务的目标业务属性，将目标业务属性发送至资源管理服务，以使资源管理服务基于目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与目标业务属性相匹配的目标集群的集群标识；将目标业务提交至目标集群，以通过目标集群执行目标业务。该方式中，当运行有数据调度服务的第一设备接收到目标业务，并提取出目标业务属性后，可以通过资源管理服务从多个集群中筛选出与该目标业务属性匹配的目标集群，提高了集群的资源利用率，并且，该方式不需要为每个集群单独部署数据调度服务，降低了对集群的维护成本。

附图说明

为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的一种资源调度方法的流程图；

图2为本发明实施例提供的另一种资源调度方法的流程图；

图3为本发明实施例提供的另一种资源调度方法的流程图；

图4为本发明实施例提供的另一种资源调度方法的流程图；

图5为本发明实施例提供的一种资源监控示意图；

图6为本发明实施例提供的一种资源调度系统架构示意图；

图7为本发明实施例提供的另一种资源调度方法的流程图；

图8为本发明实施例提供的一种资源调度装置的结构示意图；

图9为本发明实施例提供的另一种资源调度装置的结构示意图；

图10为本发明实施例提供的一种电子设备的结构示意图。

具体实施方式

下面将结合实施例对本发明的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

目前，随着大数据和AI(Artificial Intelligence，人工智能)技术的发展，各个行业越来越深刻地意识到大数据技术对于自身产品服务的价值，大数据应用和大数据平台成为各个IT(Internet Technology，互联网技术)技术公司以及互联网公司的核心技术，通过大数据组件可以为用户提交的业务或任务等提供计算和存储支持，其中，大数据组件通常是互联网大数据生态系统生产中常用的工具和系统，比如hadoop(一种分布式系统基础架构)、hbase(Hadoop Database，一种分布式存储系统)、elasticsearh(一种搜索与数据分析引擎)等，需要为大数据应用提供一个性能良好、稳定性高的大数据调度系统。

大数据调度系统，具体来说，作业调度系统(Job Scheduler)或者说工作流调度系统(workflow Scheduler)是任何一个稍微有点规模的大数据开发平台都必不可少的重要组成部分。除了Crontab(用于设置周期性被执行的指令)，Quartz(一种开源的作业调度框架)这类偏单机的定时调度程序/库。开源的分布式作业调度系统也有很多，比较知名的比如：oozie(一种工作流调度引擎)，azkaban(一种批量工作流任务调度器)，chronos(一种具备容错特性的作业调度器)，zeus(一种分布式的调度系统)等，此外，还包括TBSchedule(一种支持分布式的调度框架)，SchedulerX(一种分布式任务调度平台)和Lhotse(一种调度系统)。

通过该大数据调度系统可以为用户提供UI(User Interface，用户界面)、API(Application Programming Interface,应用程序编程接口)等方式让用户可以编排自己的大数据任务，管理自己的大数据任务，其中包括：定时跑任务出报表，任务依赖管理等常用功能，一般的小规模公司比较常用的方式是用crontab启用定时任务去执行大数据任务，较大规模的公司在业界主要使用的开源调度系统比较常见的是Azkaban(一种批量工作流任务调度器)、Workflow(一种.NET工作流引擎)等系统，还有一些云厂商提供了如SchedulerX等企业级调度产品。

相关技术中，一般公司的大数据集群都是多套部署的，规模有大有小，主要为不同业务提供使用，上面运行的业务有比较明确的业务标签，现有的大数据调度系统主要用于任务编排、任务管理和调度本身，一般调度可以指定一些脚本、一些jar包和一些SQL(Structured Query Language，结构化查询语言)等等，调度本身没有维护资源关系，开源的大数据调度系统都是业务无感的，无法为业务提供最佳调度，即无法管理多个大数据集群进行调度，每一个集群需要单独部署一个大数据调度器，大数据调度系统在任务执行的时候无法指定计算引擎，即大数据集群地址，导致需要维护多套大数据调度系统，增大了大数据集群的维护成本，并且，大数据调度系统在对接收到的任务进行分配调度时，只能在部署该大数据调度系统的大数据集群内进行调度，无法做到任务在多集群内调度实现资源的最大化复用，导致多个大数据集群的资源利用率较低。

基于此，本发明实施例提供了一种资源调度方法、装置和电子设备，该技术可以应用于需要为用户提交的业务匹配适合集群的应用中。

为便于对本实施例进行理解，首先对本发明实施例所公开的一种资源调度方法进行详细介绍；方法应用于运行有数据调度服务的第一设备，第一设备与运行有资源管理服务的第二设备连接，第二设备中预先存储有至少一种业务的业务属性，以及每种业务所归属的集群的集群标识；该数据调度服务可以用于对用户提交的业务进行任务编排、任务管理，将该业务提交至可以处理该业务的集群等；上述资源管理服务可以用于对集群的资源进行监控、分析等，比如，可以监控集群的已使用资源量、剩余资源量等；上述业务属性通常包括业务的需求资源量、业务优先级等，具体可以根据实际需求进行设置；在实际实现时，第二设备中通常预先存储有一种或多种业务所对应的业务属性，并且，通常会预先设置好每种业务所归属的集群，即可用于执行该业务的集群等，并将所归属集群的集群标识保存在第二设备中；如图1所示，该方法包括如下步骤：

步骤S102，接收来自客户端的目标业务。

上述目标业务通常是用户需要通过大数据集群执行的任务，比如，该目标业务可以是广告业务、离线业务等；在实际实现时，当用户需要通过大数据集群执行目标业务时，可以先通过客户端向运行有数据调度服务的第一设备提交该目标业务。

步骤S104，从目标业务中提取目标业务的目标业务属性。

当第一设备接收到来自客户端的目标业务后，可以通过第一设备中所运行的数据调度服务，从该目标业务的相关信息中提取该目标业务的目标业务属性，比如，可以从该目标业务的业务名称、业务描述等信息中提取出该目标业务的业务类型、业务优先级、产品线来源等属性，从该目标业务的资源相关信息中提取出该目标业务资源使用量，如需要的CPU个数、内存需求量等。

步骤S106，将目标业务属性发送至资源管理服务，以使资源管理服务基于目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与目标业务属性相匹配的目标集群的集群标识。

第一设备将提取出的目标业务的目标业务属性发送至运行有资源管理服务的第二设备，资源管理服务接收到目标业务属性后，可以基于预先存储的每种业务所归属的集群的集群标识，筛选出与目标业务属性相匹配的目标集群的集群标识，比如，如果第二设备中预先存储有该目标业务的业务属性，以及该目标业务所归属的集群的集群标识，可以从该目标业务所归属的集群中筛选出符合该目标业务的业务优先级、资源使用量等相关目标业务属性的集群，可以将筛选出的集群的标识确定为目标集群的集群标识。

步骤S108，将目标业务提交至目标集群，以通过目标集群执行目标业务。

当资源管理服务确定出与目标业务属性相匹配的目标集群的集群标识后，可以将该目标集群的集群标识发送至第一设备，第一设备中所运行的数据调度服务可以基于该目标集群的集群标识，将从客户端接收到的目标业务提交至该目标集群，以通过该目标集群执行该目标业务。

上述资源调度方法，当接收到来自客户端的目标业务后，从目标业务中提取目标业务的目标业务属性，将目标业务属性发送至资源管理服务，以使资源管理服务基于目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与目标业务属性相匹配的目标集群的集群标识；将目标业务提交至目标集群，以通过目标集群执行目标业务。该方式中，当运行有数据调度服务的第一设备接收到目标业务，并提取出目标业务属性后，可以通过资源管理服务从多个集群中筛选出与该目标业务属性匹配的目标集群，提高了集群的资源利用率，并且，该方式不需要为每个集群单独部署数据调度服务，降低了对集群的维护成本。

本发明实施例提供了另一种资源调度方法，该方法在上述实施例方法的基础上实现，该方法重点描述将目标业务提交至目标集群，以通过目标集群执行目标业务的具体过程，该方法中，目标业务属性包括：目标业务的资源使用量、业务优先级、业务标签，禁止提交目标业务的集群的集群标识，以及目标业务的业务优先级是否可降级；其中，目标业务的资源使用量通常包括该执行该目标业务需要的CPU个数、内存需求量等；业务优先级可以由提交该目标业务的用户所指定，比如，该业务优先级可以包括：高、中、低三种等级，可以用于指示执行该目标业务的优先程度；该业务标签可以用于指示业务的类型，比如，该业务标签可以是离线业务、广告业务等；上述禁止提交目标业务的集群的集群标识相当于一个集群黑名单，用于指示不允许提交并执行该目标业务的集群；上述目标业务的业务优先级是否可降级可以理解为，如果不存在满足目标业务的业务优先级的集群，是否可以对目标业务进行降级，以从低一级别的集群中查找与目标业务属性相匹配的目标集群。目标集群中包括至少一个资源队列；每个资源队列包括该资源队列的剩余资源量；一个集群通常被划分为一个或多个资源队列，通过资源队列可以限制用户或者单个SQL对资源的消耗，避免出现消耗过多资源，影响其他用户或SQL计算；每个资源队列被分配有集群的一部分资源，可以获取每个资源队列的已使用资源量和剩余资源量，比如，可以通过资源管理服务监控每个资源队列的已使用资源量和剩余资源量等；如图2所示，该方法包括如下步骤：

步骤S202，接收来自客户端的目标业务。

步骤S204，从目标业务中提取目标业务的目标业务属性。

步骤S206，将目标业务属性发送至资源管理服务，以使资源管理服务基于目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与目标业务属性相匹配的目标集群的集群标识。

步骤S208，将目标业务提交至目标集群中，剩余资源量满足目标业务的资源使用量的目标资源队列，以通过目标资源队列执行目标业务。

在实际实现时，当资源管理服务确定出目标业务属性相匹配的目标集群的集群标识，并将该目标集群的集群标识发送至第一设备后，第一设备中所运行的数据调度服务可以基于该目标集群的集群标识，将从客户端接收到的目标业务提交至该目标集群，由于该目标集群可能被划分有至少一个资源队列，每个资源队列包括该资源队列的剩余资源量，可以通过资源管理服务监测出剩余资源量满足目标业务的资源使用量的目标资源队列，然后数据调度服务将目标业务提交至该目标资源队列，以通过该目标资源队列执行该目标业务。

上述资源调度方法，当接收到来自客户端的目标业务后，从目标业务中提取目标业务的目标业务属性，将目标业务属性发送至资源管理服务，以使资源管理服务基于目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与目标业务属性相匹配的目标集群的集群标识；将目标业务提交至目标集群中，剩余资源量满足目标业务的资源使用量的目标资源队列，以通过目标资源队列执行目标业务。该方式中，当运行有数据调度服务的第一设备接收到目标业务，并提取出目标业务属性后，由于可以通过资源管理服务从多个集群中筛选出与该目标业务属性匹配的目标集群，因而可以提高集群的资源利用率，并且，该方式不需要为每个集群单独部署数据调度服务，降低了对集群的维护成本。

本发明实施例提供了另一种资源调度方法，方法应用于运行有资源管理服务的第二设备，第二设备与运行有数据调度服务的第一设备连接；第二设备中预先存储有至少一种业务的业务属性，以及每种业务所归属的集群的集群标识；如图3所示，方法包括如下步骤：

步骤S302，接收来自第一设备的目标业务的目标业务属性。

步骤S304，基于目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与目标业务属性相匹配的目标集群的集群标识。

步骤S306，将目标集群的集群标识发送至第一设备，以通过数据调度服务将目标业务提交至目标集群，通过目标集群执行目标业务。

上述资源调度方法，当接收到来自第一设备的目标业务的目标业务属性后，基于目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与目标业务属性相匹配的目标集群的集群标识，将目标集群的集群标识发送至第一设备，以通过数据调度服务将目标业务提交至目标集群，通过目标集群执行目标业务。该方式中，由于资源管理服务接收到目标业务的目标业务属性后，可以从多个集群中筛选出与该目标业务属性匹配的目标集群，因而可以提高集群的资源利用率，并且，该方式不需要为每个集群单独部署数据调度服务，降低了对集群的维护成本。

本发明实施例提供了另一种资源调度方法，该方法在上述实施例方法的基础上实现，该方法重点描述基于目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与目标业务属性相匹配的目标集群的集群标识的具体过程，该方法中，目标业务属性包括：目标业务的资源使用量，以及禁止提交目标业务的集群的集群标识；如图4所示，该方法包括如下步骤：

步骤S402，接收来自第一设备的目标业务的目标业务属性。

步骤S404，判断是否预先存储有目标业务的目标业务属性；如果是，执行步骤S406，如果否，执行步骤S410。

步骤S406，如果预先存储有目标业务的目标业务属性，获取目标业务所归属的集群的集群标识。

在实际实现时，用户通常会预先向第二设备中注册至少一种业务的业务属性，同时也会预先设置好所注册的每种业务所归属的集群；因此，如果接收到来自第一设备的目标业务的目标业务属性，通常会先检索在第二设备中是否预先注册有该目标业务的目标业务属性，如果已预先注册有该目标业务属性，则可以直接获取该目标业务所归属的集群的集群标识，该目标业务所归属的集群的集群标识可以包括多个。

步骤S408，从目标业务所归属的集群的集群标识中，筛选出与目标业务属性相匹配的目标集群的集群标识。

该步骤S408具体可以通过下述步骤一至步骤四实现：

步骤一，从目标业务所归属的集群的集群标识中，删除禁止提交目标业务的集群的集群标识，得到第一集群的集群标识。

在实时实现时，运行有资源管理服务的第二设备通常会从获取到的目标业务所归属的集群的集群标识中，删除禁止提交目标业务的集群的集群标识，即排除黑名单集群的集群标识；比如，如果目标业务所归属的集群的集群标识包括集群1、集群2和集群3，该目标业务的目标业务属性指示不允许将目标业务提交至集群2，则需要从目标业务所归属的集群的集群标识中删除集群2，得到第一集群的集群标识，即集群1和集群3。

步骤二，遍历第一集群中的每个集群，监测每个集群的剩余资源量。

当得到上述第一集群的集群标识后，资源管理服务通常会遍历第一集群中的每个集群的集群资源，监测每个集群的剩余资源量，以检查可用集群，比如，监测每个集群的剩余CPU个数、内存剩余量等。具体的，监测每个集群的剩余资源量的步骤可以包括：监测每个集群中至少一个资源队列的剩余资源量。在实际实现时，通常每个集群被划分为一个或多个资源队列，在监测每个集群的剩余资源量时，可以监测每个集群中的至少一个资源队列的剩余资源量，比如，参见图5所示的一种资源监测示意图，资源管理服务可以定时通过Yarn-api获取两个集群的资源队列已使用资源量和剩余资源量，通过监控两个集群中，各个资源队列的资源使用情况，来分析是否可以调度任务执行。

步骤三，将遍历到的首个剩余资源量符合目标业务的资源使用量的集群确定为第二集群。

在遍历第一集群中的每个集群，监测每个集群的剩余资源量的过程中，可以将遍历到的第一个剩余资源量符合目标业务的资源使用量的集群确定为第二集群。

步骤四，基于第二集群，筛选出与目标业务属性相匹配的目标集群的集群标识。

在实际实现时，上述目标业务属性通常包括：目标业务的业务优先级，以及目标业务的业务优先级是否可降级；因此，该步骤四具体可以通过下述步骤A至步骤F实现：

步骤A，判断第二集群的集群优先级是否满足业务优先级，如果是，执行步骤B；如果否，执行步骤C。

步骤B，如果第二集群的集群优先级满足业务优先级，将第二集群的集群标识确定为与目标业务属性相匹配的目标集群的集群标识。

上述集群优先级通常根据集群的硬件配置质量进行划分，比如，该集群优先级可以包括高质量集群、重质量集群和低质量集群等；在筛选出上述第二集群后，可以先判断该第二集群的集群优先级是否与目标业务的业务优先级相匹配，一般情况下，如果目标业务的业务优先级为高优先级，则通常需要将该目标业务提交至高质量集群中，如果目标业务的业务优先级为低优先级，则可以将该目标业务提交至低质量集群中；如果第二集群的集群优先级满足业务优先级，则可以将该第二集群的集群标识确定为与目标业务属性相匹配的目标集群的集群标识。

步骤C，如果第二集群的集群优先级不满足业务优先级，将遍历到的下一个剩余资源量符合目标业务的资源使用量的集群确定为新的第二集群，继续执行判断第二集群的集群优先级是否满足业务优先级的步骤，直至遍历完成第一集群中的每个集群。

如果上述首个第二集群的集群优先级不满足业务优先级，通常会继续遍历第一集群中的集群，可以将遍历到的第二个剩余资源量符合目标业务的资源使用量的集群确定为新的第二集群，重复执行上述步骤A的步骤，如果新的第二集群的集群优先级满足了业务优先级，则可以将新的第二集群的集群标识确定为与目标业务属性相匹配的目标集群的集群标识；如果该新的第二集群的集群优先级仍不满足业务优先级，则继续遍历第一集群中的集群，确定下一个剩余资源量符合目标业务的资源使用量的集群确定为新的第二集群，依次类推，直至遍历完成第一集群中的每个集群。

步骤D，判断目标业务属性指示目标业务的业务优先级是否可降级。

步骤E，如果目标业务属性指示目标业务的业务优先级可降级，将低一级别的业务优先级确定为所述目标业务的新的业务优先级，重复执行遍历所述第一集群中的每个集群的步骤，直至筛选出与目标业务属性相匹配的目标集群的集群标识。

如果第一集群中的每个集群被遍历完成后，未查询到集群优先级可以满足业务优先级的第二集群，则通常会判断目标业务属性是否指示该目标业务的业务优先级可以降级，即是否允许使用集群优先级较低的集群处理该目标业务，如果目标业务属性指示目标业务的业务优先级可降级，则可以将低一级别的业务优先级确定为该目标业务的新的业务优先级，重复对第一集群中的每个集群进行遍历，以从低一级别的集群优先级的集群中筛选出与目标业务属性相匹配的目标集群的集群标识，如果仍为筛选到集群优先级可以满足业务优先级的第二集群，则可以将再低一级别的业务优先级确定为该目标业务的新的业务优先级，依次类推，直至筛选出与目标业务属性相匹配的目标集群的集群标识。

步骤F，如果目标业务属性指示目标业务不可降级，停止执行资源调度。

如果目标业务属性指示目标业务的业务优先级不可降级，可以理解为不允许使用集群优先级较低的集群处理该目标业务，由于并没有查询到集群优先级与业务优先级相匹配的集群，并且该目标业务不允许降级处理，因此，通常会停止执行该资源调度过程，即无法将目标业务提交至匹配的集群进行处理。

步骤S410，如果未预先存储有目标业务的目标业务属性，获取预设集群的集群标识。

上述预设集群通常是default级别的集群，也可以称为默认集群；如果在第二设备中未检索到上述目标业务属性，可以理解为在第二设备中未预先设置该目标业务所归属的集群，这时通常会获取预设集群的集群标识。

步骤S412，将预设集群的集群标识确定为与目标业务属性相匹配的目标集群的集群标识。

步骤S414，将目标集群的集群标识发送至第一设备，以通过数据调度服务将目标业务提交至目标集群，通过目标集群执行目标业务。

上述资源调度方法，在接收到来自第一设备的目标业务的目标业务属性后，如果判断预先存储有目标业务的目标业务属性，获取目标业务所归属的集群的集群标识，以筛选出与目标业务属性相匹配的目标集群的集群标识，如果未预先存储有目标业务的目标业务属性，获取预设集群的集群标识，将预设集群的集群标识确定为与目标业务属性相匹配的目标集群的集群标识，将目标集群的集群标识发送至第一设备，以通过数据调度服务将目标业务提交至目标集群，通过目标集群执行目标业务。该方式中，资源管理服务接收到目标业务的目标业务属性后，如果经判断确认预先存储有该目标业务属性，可以从该目标业务所归属的集群中筛选出目标集群的集群标识，如果未预先存储该目标业务属性，则可以将预设集群的集群标识确定为目标集群的集群标识，提高了对集群进行调度的灵活性和执行效率。

为进一步理解上述实施例，下面提供如图6所示的一种资源调度系统架构示意图，其中包括：大数据调度系统(对应上述运行有数据调度服务的第一设备)、资源管理系统(对应上述运行有资源管理服务的第二设备)、大数据集群1、大数据集群2和大数据集群3，如图6所示，需要用户执行两部分工作，第一部分是用户使用大数据调度系统来编排任务，第二部分是用户可以预先在资源管理系统中注册至少一种业务，所注册的每种业务包括：该业务的业务优先级、该业务是否可以降级、业务资源预计使用范围等相关业务属性信息，通过这些信息，可以筛选出合适的大数据集群，大数据调度系统可以将接收到的来自客户端的业务，提交至通过资源管理系统筛选出的大数据集群中，以通过该大数据集群执行该业务；用户在资源管理系统中注册业务时，可以参考下述业务标签中的相关注册信息进行注册：

业务标签：

{

需要资源：CPU个数、内存使用

业务优先级：高、中、低

集群黑名单：不允许提交业务的集群

标签：离线、广告业务

是否可以降级：如果集群级别不满足，是否可以用下一级集群

}

上述大括号中的标签可以理解为是业务标签，比如，如果业务标签是广告业务，用户可以在资源管理系统中预先设置好该广告业务需要两个CPU、内存500M，该广告业务的业务优先级为高级，集群黑名单为大数据集群1，该广告业务可以降级等相关注册。

该系统架构中，大数据调度系统的主要功能除了包括任务编排、任务管理、调度本身等功能之外，还增加了与资源管理系统的交互，该资源管理系统可以获取用户提交的业务相关属性，将获取到的业务相关属性与预先注册的业务属性进行匹配，判断是否存在最优的大数据集群，以通过大数据调度系统将接收到的来自客户端的业务提交至该大数据集群。该系统架构中，资源管理系统的主要作用是维护用户注册的业务属性，以及集群资源监控，掌握集群每个队列资源使用情况，比如，资源管理系统可以定时通过Yarn-api获取各个集群中，资源队列的已使用资源量和剩余资源量，通过监控各个集群的资源使用情况，来分析是否可以调度任务执行，具体的，可以通过判断各个集群的资源队列的剩余资源量是否能满足来自客户端的业务所需要的资源量进行分析。

上述资源调度系统是一种将大数据调度系统与资源管理系统感知相结合的一种新型调度系统，该资源调度系统可以管理多个大数据集群，实现多个大数据集群使用一个大数据调度系统进行调度，实现资源调度的中心化和统一化，可以按照规则将业务按照优先级调度到不同的集群内，实现集群资源的最大复用。

参见图7所示的另一种资源调度方法的流程图，首先，用户提交任务，将该任务提交至大数据调度系统，其中，该任务可以理解为业务；大数据调度系统提取任务的业务属性，具体的，可以基于该任务的任务名称、任务描述获取任务元数据，基于该任务的任务资源提取出资源需求，然后，大数据调度系统将提取出的业务属性发送至资源管理系统，资源管理系统基于预先注册的业务，检索是否存在用户提交的任务的业务属性，即判断是否命中业务属性，如果检索不到，则大数据调度系统将用户提交的任务提交至默认集群，如果检索到存在用户提交的任务的业务属性，则资源管理系统根据业务属性检索该业务所归属的集群，从该任务所归属的集群中排除黑名单集群，获取集群资源可用的集群，判断集群是否可用，具体的，遍历排除黑名单之后的集群，可以判断第一个遍历到的集群的剩余资源量是否满足业务属性中的资源需求量，如果满足业务属性中的资源需求量，则会继续判断该集群的集群优先级是否满足业务优先级，如果满足业务优先级，则可以确定该集群可用，大数据调度系统将用户提交的业务提交至该可用集群中；如果该集群不可用，则继续遍历集群，以从剩余集群中筛选出可用集群；如果在筛选过程中，从剩余集群中仍未筛选出可用集群，则资源管理系统通常会判断业务属性指示是否可降级，如果可以降级，则可以重复执行上述遍历过程，以从该较低集群优先级的集群中继续筛选可用集群。

上述资源调度方式，大数据调度系统支持多集群管理，可以对业务标签进行管理，对集群的资源使用情况进行管理，可以根据业务标签属性、集群的资源使用情况，动态智能的从调度系统管理的多个集群中选取最适合执行任务的集群提交任务，将任务按照一定预设标准提交到最适合的大数据集群，降低了大数据集群的维护成本，极大提升了任务执行效率和集群的资源利用率。另外，该资源调度方式经试验验证，验证结果符合预期。

本发明实施例提供了一种资源调度装置，装置设置于运行有数据调度服务的第一设备，第一设备与运行有资源管理服务的第二设备连接，第二设备中预先存储有至少一种业务的业务属性，以及每种业务所归属的集群的集群标识；如图8所示，该装置包括：第一接收模块80，用于接收来自客户端的目标业务；提取模块81，用于从目标业务中提取目标业务的目标业务属性；第一确定模块82，用于将目标业务属性发送至资源管理服务，以使资源管理服务基于目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与目标业务属性相匹配的目标集群的集群标识；提交模块83，用于将目标业务提交至目标集群，以通过目标集群执行目标业务。

上述资源调度装置，当接收到来自客户端的目标业务后，从目标业务中提取目标业务的目标业务属性，将目标业务属性发送至资源管理服务，以使资源管理服务基于目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与目标业务属性相匹配的目标集群的集群标识；将目标业务提交至目标集群，以通过目标集群执行目标业务。该装置中，当运行有数据调度服务的第一设备接收到目标业务，并提取出目标业务属性后，可以通过资源管理服务从多个集群中筛选出与该目标业务属性匹配的目标集群，提高了集群的资源利用率，并且，该装置不需要为每个集群单独部署数据调度服务，降低了对集群的维护成本。

进一步的，目标业务属性包括：目标业务的资源使用量、业务优先级、业务标签，禁止提交目标业务的集群的集群标识，以及目标业务的业务优先级是否可降级。

进一步的，目标业务属性包括：目标业务的资源使用量；目标集群中包括至少一个资源队列；每个资源队列包括该资源队列的剩余资源量；提交模块还用于：将目标业务提交至目标集群中，剩余资源量满足目标业务的资源使用量的目标资源队列，以通过目标资源队列执行目标业务。

本发明实施例所提供的资源调度装置，其实现原理及产生的技术效果和前述资源调度方法实施例相同，为简要描述，资源调度装置实施例部分未提及之处，可参考前述资源调度方法实施例中相应内容。

本发明实施例提供了另一种资源调度装置，装置设置于运行有资源管理服务的第二设备，第二设备与运行有数据调度服务的第一设备连接；第二设备中预先存储有至少一种业务的业务属性，以及每种业务所归属的集群的集群标识；如图9所示，装置包括：第二接收模块90，用于接收来自第一设备的目标业务的目标业务属性；第二确定模块91，用于基于目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与目标业务属性相匹配的目标集群的集群标识；发送模快92，用于将目标集群的集群标识发送至第一设备，以通过数据调度服务将目标业务提交至目标集群，通过目标集群执行目标业务。

上述资源调度装置，当接收到来自第一设备的目标业务的目标业务属性后，基于目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与目标业务属性相匹配的目标集群的集群标识，将目标集群的集群标识发送至第一设备，以通过数据调度服务将目标业务提交至目标集群，通过目标集群执行目标业务。该装置中，由于资源管理服务接收到目标业务的目标业务属性后，可以从多个集群中筛选出与该目标业务属性匹配的目标集群，因而可以提高集群的资源利用率，并且，该装置不需要为每个集群单独部署数据调度服务，降低了对集群的维护成本。

进一步的，第二确定模块还用于：判断是否预先存储有目标业务的目标业务属性；如果预先存储有目标业务的目标业务属性，获取目标业务所归属的集群的集群标识；从目标业务所归属的集群的集群标识中，筛选出与目标业务属性相匹配的目标集群的集群标识。

进一步的，目标业务属性包括：目标业务的资源使用量，以及禁止提交目标业务的集群的集群标识；第二确定模块还用于：从目标业务所归属的集群的集群标识中，删除禁止提交目标业务的集群的集群标识，得到第一集群的集群标识；遍历第一集群中的每个集群，监测每个集群的剩余资源量；将遍历到的首个剩余资源量符合目标业务的资源使用量的集群确定为第二集群；基于第二集群，筛选出与目标业务属性相匹配的目标集群的集群标识。

进一步的，每个集群中包括至少一个资源队列；第二确定模块还用于：监测每个集群中至少一个资源队列的剩余资源量。

进一步的，目标业务属性包括：目标业务的业务优先级；第二确定模块还用于：判断第二集群的集群优先级是否满足业务优先级；如果第二集群的集群优先级满足业务优先级，将第二集群的集群标识确定为与目标业务属性相匹配的目标集群的集群标识。

进一步的，目标业务属性包括：目标业务的业务优先级是否可降级；第二确定模块还用于：如果第二集群的集群优先级不满足业务优先级，将遍历到的下一个剩余资源量符合目标业务的资源使用量的集群确定为新的第二集群，继续执行判断第二集群的集群优先级是否满足业务优先级的步骤，直至遍历完成第一集群中的每个集群；判断目标业务属性指示目标业务的业务优先级是否可降级；如果目标业务属性指示目标业务的业务优先级可降级，将低一级别的业务优先级确定为目标业务的新的业务优先级，重复执行遍历第一集群中的每个集群的步骤，直至筛选出与目标业务属性相匹配的目标集群的集群标识；如果目标业务属性指示目标业务不可降级，停止执行资源调度。

进一步的，第二确定模块还用于：如果未预先存储有目标业务的目标业务属性，获取预设集群的集群标识；将预设集群的集群标识确定为与目标业务属性相匹配的目标集群的集群标识。

本发明实施例所提供的资源调度装置，其实现原理及产生的技术效果和前述资源调度方法实施例相同，为简要描述，资源调度装置实施例部分未提及之处，可参考前述资源调度方法实施例中相应内容。

本发明实施例还提供了一种电子设备，参见图10所示，该电子设备包括处理器130和存储器131，该存储器131存储有能够被处理器130执行的机器可执行指令，该处理器130执行机器可执行指令以实现上述XX方法。

进一步地，图10所示的电子设备还包括总线132和通信接口133，处理器130、通信接口133和存储器131通过总线132连接。

其中，存储器131可能包含高速随机存取存储器(RAM，Random Access Memory)，也可能还包括非不稳定的存储器(non-volatile memory)，例如至少一个磁盘存储器。通过至少一个通信接口133(可以是有线或者无线)实现该系统网元与至少一个其他网元之间的通信连接，可以使用互联网，广域网，本地网，城域网等。总线132可以是ISA总线、PCI总线或EISA总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图10中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。

处理器130可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器130中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器130可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(DigitalSignal Processor，简称DSP)、专用集成电路(Application Specific IntegratedCircuit，简称ASIC)、现场可编程门阵列(Field-Programmable Gate Array，简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器131，处理器130读取存储器131中的信息，结合其硬件完成前述实施例的方法的步骤。

本发明实施例还提供了一种机器可读存储介质，该机器可读存储介质存储有机器可执行指令，该机器可执行指令在被处理器调用和执行时，该机器可执行指令促使处理器实现上述资源调度方法，具体实现可参见方法实施例，在此不再赘述。

本发明实施例所提供的资源调度方法、装置和电子设备的计算机程序产品，包括存储了程序代码的计算机可读存储介质，所述程序代码包括的指令可用于执行前面方法实施例中所述的方法，具体实现可参见方法实施例，在此不再赘述。

所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

Claims (14)

1.一种资源调度方法，其特征在于，所述方法应用于运行有数据调度服务的第一设备，所述第一设备与运行有资源管理服务的第二设备连接，所述第二设备中预先存储有至少一种业务的业务属性，以及每种业务所归属的集群的集群标识；所述方法包括：

接收来自客户端的目标业务；

从所述目标业务中提取所述目标业务的目标业务属性；

将所述目标业务属性发送至所述资源管理服务，以使所述资源管理服务基于所述目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与所述目标业务属性相匹配的目标集群的集群标识；

将所述目标业务提交至所述目标集群，以通过所述目标集群执行所述目标业务。

2.根据权利要求1所述的方法，其特征在于，所述目标业务属性包括：所述目标业务的资源使用量、业务优先级、业务标签，禁止提交所述目标业务的集群的集群标识，以及所述目标业务的业务优先级是否可降级。

3.根据权利要求1所述的方法，其特征在于，所述目标业务属性包括：所述目标业务的资源使用量；所述目标集群中包括至少一个资源队列；每个所述资源队列包括该资源队列的剩余资源量；所述将所述目标业务提交至所述目标集群，以通过所述目标集群执行所述目标业务的步骤包括：

将所述目标业务提交至所述目标集群中，剩余资源量满足所述目标业务的资源使用量的目标资源队列，以通过所述目标资源队列执行所述目标业务。

4.一种资源调度方法，其特征在于，所述方法应用于运行有资源管理服务的第二设备，所述第二设备与运行有数据调度服务的第一设备连接；所述第二设备中预先存储有至少一种业务的业务属性，以及每种业务所归属的集群的集群标识；所述方法包括：

接收来自所述第一设备的目标业务的目标业务属性；

基于所述目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与所述目标业务属性相匹配的目标集群的集群标识；

将所述目标集群的集群标识发送至所述第一设备，以通过所述数据调度服务将所述目标业务提交至所述目标集群，通过所述目标集群执行所述目标业务。

5.根据权利要求4所述的方法，其特征在于，所述基于所述目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与所述目标业务属性相匹配的目标集群的集群标识的步骤包括：

判断是否预先存储有所述目标业务的目标业务属性；

如果预先存储有所述目标业务的目标业务属性，获取所述目标业务所归属的集群的集群标识；

从所述目标业务所归属的集群的集群标识中，筛选出与所述目标业务属性相匹配的目标集群的集群标识。

6.根据权利要求5所述的方法，其特征在于，所述目标业务属性包括：所述目标业务的资源使用量，以及禁止提交所述目标业务的集群的集群标识；所述从所述目标业务所归属的集群的集群标识中，筛选出与所述目标业务属性相匹配的目标集群的集群标识的步骤包括：

从所述目标业务所归属的集群的集群标识中，删除禁止提交所述目标业务的集群的集群标识，得到第一集群的集群标识；

遍历所述第一集群中的每个集群，监测所述每个集群的剩余资源量；

将遍历到的首个所述剩余资源量符合所述目标业务的资源使用量的集群确定为第二集群；

基于所述第二集群，筛选出与所述目标业务属性相匹配的目标集群的集群标识。

7.根据权利要求6所述的方法，其特征在于，所述每个集群中包括至少一个资源队列；所述监测所述每个集群的剩余资源量的步骤包括：

监测所述每个集群中所述至少一个资源队列的剩余资源量。

8.根据权利要求6所述的方法，其特征在于，所述目标业务属性包括：所述目标业务的业务优先级；所述基于所述第二集群，筛选出与所述目标业务属性相匹配的目标集群的集群标识的步骤包括：

判断所述第二集群的集群优先级是否满足所述业务优先级；

如果所述第二集群的集群优先级满足所述业务优先级，将所述第二集群的集群标识确定为与所述目标业务属性相匹配的目标集群的集群标识。

9.根据权利要求8所述的方法，其特征在于，所述目标业务属性包括：所述目标业务的业务优先级是否可降级；所述方法还包括：

如果所述第二集群的集群优先级不满足所述业务优先级，将遍历到的下一个剩余资源量符合所述目标业务的资源使用量的集群确定为新的第二集群，继续执行判断所述第二集群的集群优先级是否满足所述业务优先级的步骤，直至遍历完成第一集群中的每个集群；

判断所述目标业务属性指示所述目标业务的业务优先级是否可降级；

如果目标业务属性指示所述目标业务的业务优先级可降级，将低一级别的业务优先级确定为所述目标业务的新的业务优先级，重复执行遍历所述第一集群中的每个集群的步骤，直至筛选出与所述目标业务属性相匹配的目标集群的集群标识；

如果目标业务属性指示所述目标业务不可降级，停止执行资源调度。

10.根据权利要求5所述的方法，其特征在于，所述方法还包括：

如果未预先存储有所述目标业务的目标业务属性，获取预设集群的集群标识；

将所述预设集群的集群标识确定为与所述目标业务属性相匹配的目标集群的集群标识。

11.一种资源调度装置，其特征在于，所述装置设置于运行有数据调度服务的第一设备，所述第一设备与运行有资源管理服务的第二设备连接，所述第二设备中预先存储有至少一种业务的业务属性，以及每种业务所归属的集群的集群标识；所述装置包括：

第一接收模块，用于接收来自客户端的目标业务；

提取模块，用于从所述目标业务中提取所述目标业务的目标业务属性；

第一确定模块，用于将所述目标业务属性发送至所述资源管理服务，以使所述资源管理服务基于所述目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与所述目标业务属性相匹配的目标集群的集群标识；

提交模块，用于将所述目标业务提交至所述目标集群，以通过所述目标集群执行所述目标业务。

12.一种资源调度装置，其特征在于，所述装置设置于运行有资源管理服务的第二设备，所述第二设备与运行有数据调度服务的第一设备连接；所述第二设备中预先存储有至少一种业务的业务属性，以及每种业务所归属的集群的集群标识；所述装置包括：

第二接收模块，用于接收来自所述第一设备的目标业务的目标业务属性；

第二确定模块，用于基于所述目标业务属性，以及预先存储的每种业务所归属的集群的集群标识，确定与所述目标业务属性相匹配的目标集群的集群标识；

发送模快，用于将所述目标集群的集群标识发送至所述第一设备，以通过所述数据调度服务将所述目标业务提交至所述目标集群，通过所述目标集群执行所述目标业务。

13.一种服务器，其特征在于，包括处理器和存储器，所述存储器存储有能够被所述处理器执行的机器可执行指令，所述处理器执行所述机器可执行指令以实现权利要求1-10任一项所述的资源调度方法。

14.一种机器可读存储介质，其特征在于，所述机器可读存储介质存储有机器可执行指令，所述机器可执行指令在被处理器调用和执行时，所述机器可执行指令促使所述处理器实现权利要求1-10任一项所述的资源调度方法。

Images