CN108052384B - 一种任务处理方法、服务平台及电子设备 - Google Patents

Abstract

本申请提供了一种任务处理方法、服务平台及电子设备，所述方法在获得启动第一任务的指令时，确定当前运行的能够与所述第一任务进行资源共享的第二任务，并基于所述第二任务所使用的目标资源的剩余资源，启动所述第一任务。其中，所述第二任务所使用的目标资源的资源剩余量不低于所述第一任务运行时所需的资源量。由此可见，本申请提供了一种多任务进行资源共享的方案，当将本申请方案应用于小任务的资源调度中时，可将多于一个的小任务基于同一个gpu启动并运行，以此实现了多个小任务共享同一gpu资源，有效克服了现有技术中因小任务独占gpu而使得gpu资源利用率低的问题，降低了资源浪费。

Description

一种任务处理方法、服务平台及电子设备

技术领域

本发明属于资源调度技术领域，尤其涉及一种任务处理方法、服务平台及电子设备。

背景技术

目前，在资源调度系统中，如AI(ArtificialIntelligence，人工智能)平台的资源调度中，对于gpu资源而言，其资源分配的最小粒度是一块gpu(graphicsprocessing unit，图形处理器)，也就是说，一个运行的任务(如AI平台中正在执行的图像、语音等方面的模型训练任务，或者基于模型的图像、语音数据处理任务等)会占用至少一块gpu。

此种资源分配情况，会导致出现小任务独占gpu从而使得gpu利用率较低的问题，从而会造成资源的浪费。

发明内容

有鉴于此，本申请的目的在于提供一种资源分配方法及装置，用于提升资源调度领域中gpu的利用率，从而降低资源浪费。

为此，本申请公开如下技术方案：

一种任务处理方法，应用于服务平台，所述方法包括：

获得启动第一任务的指令；

确定当前运行的能够与所述第一任务进行资源共享的第二任务；其中，所述第二任务所使用的目标资源的资源剩余量不低于所述第一任务运行时所需的资源量；

基于所述第二任务所使用的所述目标资源的剩余资源，启动所述第一任务。

上述方法，优选的，所述确定当前运行的能够与所述第一任务进行资源共享的第二任务，包括：

获得所述第一任务的预定任务参数的参数数据，以及获得当前运行的能够进行资源共享的各个第二任务的预定任务参数的参数数据；

利用预先训练的预估模型，基于所述第一任务的预定任务参数的参数数据，预估所述第一任务运行过程中所需的资源量；利用所述预估模型，基于所述各个第二任务的预定任务参数的参数数据，预估所述各个第二任务运行过程中所需的资源量；

根据所述第一任务运行过程中所需的资源量、每个所述第二任务运行过程中所需的资源量以及每个所述第二任务使用的资源，确定当前运行的能够与所述第一任务进行资源共享的第二任务。

上述方法，优选的，所述利用预先训练的预估模型，预估所述第一任务运行过程中所需的资源量，以及预估所述各个第二任务运行过程中所需的资源量包括：

利用所述预估模型，预估所述第一任务在全生命周期的运行过程中所需资源量的走势信息；

利用所述预估模型，预估各个所述第二任务在剩余的生命周期中分别所需资源量的走势信息。

上述方法，优选的，还包括：

在所述第一任务启动完成并运行后，更新记录所述目标资源上运行的各任务的任务信息。

上述方法，优选的，还包括：

在获得针对运行于所述目标资源上的相应任务的任务结束指令时，判断所述目标资源上是否运行有其他任务，得到判断结果，所述其他任务为所述目标资源上运行的除所述任务结束指令所指示的任务之外的任务；

若所述判断结果表示存在，则结束所述任务结束指令所指示的任务；

若所述判断结果表示不存在，则结束所述任务结束指令所指示的任务并释放所述目标资源。

一种服务平台，包括：

获取单元，用于获得启动第一任务的指令；

确定单元，用于确定当前运行的能够与所述第一任务进行资源共享的第二任务；其中，所述第二任务所使用的目标资源的资源剩余量不低于所述第一任务运行时所需的资源量；

启动单元，用于基于所述第二任务所使用的所述目标资源的剩余资源，启动所述第一任务。

上述服务平台，优选的，所述确定单元，具体用于：

获得所述第一任务的预定任务参数的参数数据，以及获得当前运行的能够进行资源共享的各个第二任务的预定任务参数的参数数据；

利用预先训练的预估模型，基于所述第一任务的预定任务参数的参数数据，预估所述第一任务运行过程中所需的资源量；利用所述预估模型，基于所述各个第二任务的预定任务参数的参数数据，预估所述各个第二任务运行过程中所需的资源量；

根据所述第一任务运行过程中所需的资源量、每个所述第二任务运行过程中所需的资源量以及每个所述第二任务使用的资源，确定当前运行的能够与所述第一任务进行资源共享的第二任务。

上述服务平台，优选的，还包括：

任务结束控制单元，用于：

在获得针对运行于所述目标资源上的相应任务的任务结束指令时，判断所述目标资源上是否运行有其他任务，得到判断结果，所述其他任务为所述目标资源上运行的除所述任务结束指令所指示的任务之外的任务；若所述判断结果表示存在，则结束所述任务结束指令所指示的任务；若所述判断结果表示不存在，则结束所述任务结束指令所指示的任务并释放所述目标资源。

一种任务处理方法，应用于电子设备，所述方法包括：

向服务平台发送启动第一任务的请求；

获得任务信息的设置界面并展示所述设置界面；

接收在所述设置界面上所设置的任务信息，并发送所述任务信息至所述服务平台。

一种电子设备，包括：

请求发送单元，用于向服务平台发送启动第一任务的请求；

展示单元，用于获得任务信息的设置界面并展示所述设置界面；

任务信息发送单元，用于接收在所述设置界面上所设置的任务信息，并发送所述任务信息至所述服务平台。

基于以上方案可知，本申请提供的任务处理方法，在获得启动第一任务的指令时，确定当前运行的能够与所述第一任务进行资源共享的第二任务，并基于所述第二任务所使用的目标资源的剩余资源，启动所述第一任务。其中，所述第二任务所使用的目标资源的资源剩余量不低于所述第一任务运行时所需的资源量。由此可见，本申请提供了一种多任务进行资源共享的方案，当将本申请方案应用于小任务的资源调度中时，可将多于一个的小任务基于同一个gpu启动并运行，以此实现了多个小任务共享同一gpu资源，有效克服了现有技术中因小任务独占gpu而使得gpu资源利用率低的问题，降低了资源浪费。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。

图1是本申请提供的一种任务处理方法实施例一的流程图；

图2是本申请提供的一种任务处理方法实施例二的流程图；

图3是本申请提供的一种任务处理方法实施例三的流程图；

图4是本申请提供的一种任务处理方法实施例四的流程图；

图5是本申请提供的一种服务平台实施例五的结构示意图；

图6是本申请提供的一种服务平台实施例七的结构示意图；

图7是本申请提供的一种服务平台实施例八的结构示意图；

图8是本申请提供的一种任务处理方法实施例九的流程图；

图9是申请提供的一种电子设备实施例十的结构示意图。

具体实施方式

为了引用和清楚起见，下文中使用的技术名词、简写或缩写总结解释如下：

小任务：是指在占用一块gpu的情况下，gpu的利用率较低的任务。

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本申请提供了一种任务处理方法、服务平台及电子设备，用于解决现有技术中因小任务独占gpu而使得gpu资源利用率低的问题，降低资源浪费。以下将通过多个实施例对本申请的任务处理方法、服务平台及电子设备进行详细阐述。

参考图1，图1是本申请提供的一种任务处理方法实施例一的流程图，该方法可应用于但不局限于AI平台、云平台等服务平台中，如图1所示，本实施例中所述任务处理方法包括以下步骤：

步骤101、获得启动第一任务的指令。

所述第一任务可以是但不限于用户终端向所述服务平台所请求的任务，以所述服务平台为AI平台为例，所述第一任务则可以是用户的智能手机、平板或一体机等智能终端或计算机设备向所述AI平台所请求的各种AI任务，如关于图像、语音的模型训练任务，或者基于模型的图像、语音数据处理任务等等。

相对应地，所述启动第一任务的指令则可以是但不限于服务平台在接收到用户终端的启动第一任务的请求时所触发的指令。

接下来，将以所述第一任务为需在AI平台上启动的小任务为例，对本申请方案进行说明，本实施例中，所述小任务是指在占用一块gpu的情况下，gpu的利用率较低的任务。

步骤102、确定当前运行的能够与所述第一任务进行资源共享的第二任务；其中，所述第二任务所使用的目标资源的资源剩余量不低于所述第一任务运行时所需的资源量。

所述第二任务所使用的资源可以是所述服务平台为所述第二任务所分配的gpu资源、CPU(Central Processing Unit，中央处理器)资源或磁盘资源等各种资源中的任意一种，本实施例后续则具体以gpu资源为例展开对方案的描述。

实际应用场景中，AI平台等服务平台中往往运行有多个资源使用量较少的小任务，若每个小任务均独占一个gpu，会导致gpu资源的极大浪费，针对该问题，本申请在获得所述启动第一任务的指令，并响应该指令进行第一任务的启动时，不再采用现有技术的资源分配方式，使该第一任务至少独占一个gpu，而是首先确定服务平台中当前运行的各个任务中是否存在能够与所述第一任务进行gpu资源共享的第二任务，并在存在时，确定出该能够与所述第一任务进行gpu资源共享的第二任务，其中，所确定出的该第二任务所使用的gpu资源的资源剩余量应不低于所述第一任务运行时所需的资源量，以确保有足够的资源供所述第一任务使用，保证所述第一任务可以基于该第二任务剩余的gpu资源量正常运行。

步骤103、基于所述第二任务所使用的所述目标资源的剩余资源，启动所述第一任务。

在确定出当前运行的能够与所述第一任务进行资源共享的第二任务后，可基于所述第二任务所使用的目标资源中的剩余资源，启动所述第一任务。具体地，比如，基于第二任务所使用的gpu中的剩余资源，启动并运行所述第一任务等，从而实现了将所述第一任务与所述第二任务共享同一gpu，有效提升了所述第二任务所使用的gpu的资源利用率。

基于以上方案可知，本实施例提供的任务处理方法，在获得启动第一任务的指令时，确定当前运行的能够与所述第一任务进行资源共享的第二任务，并基于所述第二任务所使用的目标资源的剩余资源，启动所述第一任务。其中，所述第二任务所使用的目标资源的资源剩余量不低于所述第一任务运行时所需的资源量。由此可见，本申请提供了一种多任务进行资源共享的方案，当将本申请方案应用于小任务的资源调度中时，可将多于一个的小任务基于同一个gpu启动并运行，以此实现了多个小任务共享同一gpu资源，有效克服了现有技术中因小任务独占gpu而使得gpu资源利用率低的问题，降低了资源浪费。

参考图2，图2是本申请提供的一种任务处理方法实施例二的流程图，本实施例提供所述步骤102(确定当前运行的能够与所述第一任务进行资源共享的第二任务)的一种可能的实现方式，如图2所示，所述步骤102可以通过以下的处理过程实现：

步骤1021、获得所述第一任务的预定任务参数的参数数据，以及获得当前运行的能够进行资源共享的各个第二任务的预定任务参数的参数数据。

所述预定任务参数可以包括但不限于任务来源、任务类型、任务需处理的数据量等参数，所述“任务来源”比如可以是个人用户或企业用户，所述“任务类型”可以是模型训练、基于模型的数据处理、或其他的数据处理类型等等，所述“任务需处理的数据量”比如可以是模型训练任务中需基于的数据集的数据量，或数据处理任务中需处理的语音数据或图像数据的数据量等。

所述当前运行的能够进行资源共享的各个第二任务，可以是所述AI平台等服务平台中正在运行的存在资源共享可能的各个任务，具体地比如可以是所述AI平台中正在运行的对gpu资源的利用率较低的各个小任务，或者还可以是所述AI平台中正在运行的占用有多个gpu，但至少存在一个gpu的资源利用率较低的非小任务等等，或者，还可以结合终端用户提交任务请求时所提交的任务设置信息，如是否允许在资源占用率较低时进行资源共享，或者是否是小任务等等，来初步确定服务平台中具有资源共享可能的各个第二任务，以使得后续从这些任务中最终确定出能够与所述第一任务进行资源共享的第二任务。

步骤1022、利用预先训练的预估模型，基于所述第一任务的预定任务参数的参数数据，预估所述第一任务运行过程中所需的资源量；利用所述预估模型，基于所述各个第二任务的预定任务参数的参数数据，预估所述各个第二任务运行过程中所需的资源量。

在获得所述第一任务及具有资源共享可能的各个第二任务的任务参数数据后，本实施例利用一预先训练的预估模型对所述第一任务的任务参数数据进行处理，以预估出所述第一任务运行过程中所需的资源量；并利用所述预估模型对各个所述第二任务的任务参数数据进行处理，以预估出各个所述第二任务运行过程中所需的资源量。

具体地，可利用所述预估模型，预估所述第一任务在其全生命周期运行过程中所需资源量的走势信息；以及利用所述预估模型，预估各个所述第二任务在各自剩余的生命周期中所需资源量的走势信息，且可以采用曲线走势图或时间点位图等方式来表示所预估的第一任务所需资源量的走势信息，以及各个第二任务所需资源量的走势信息，以便于更直观地获知第一任务所需资源的走势信息以及各个第二任务所需资源量的走势信息。

其中，所述预估模型可预先由所述服务平台或额外的独立于所述服务平台的服务器等设备，利用公共数据集或收集的真实历史数据集进行训练，具体地，比如可基于公共数据集中或收集的真实历史数据集中所提供的“任务来源、任务类型、任务需处理的数据量等参数数据与任务生命周期中各时间点/段的资源需求量的对应关系”信息，利用预定算法进行模型训练，使得最终训练出的所述预估模型，可通过对输入的上述任务参数数据进行处理，能够输出任务在其运行过程中的不同时间点/段所需资源量的预估数据。

步骤1023、根据所述第一任务运行过程中所需的资源量、每个所述第二任务运行过程中所需的资源量以及每个所述第二任务使用的资源，确定当前运行的能够与所述第一任务进行资源共享的第二任务。

在利用所述预估模型预估得到所述第一任务在其全生命周期运行过程中所需资源量的走势信息，以及各个第二任务在其各自剩余的生命周期中所需资源量的走势信息后，可将所述第一任务在其全生命周期运行过程中所需资源量的走势信息，与各个第二任务在其各自剩余的生命周期中所需资源量的走势信息进行匹配，其中，若所述第一任务与某一资源如某一gpu上运行的一个/多个第二任务在每个时间点/段所需资源量的总和未超出该gpu所提供的资源量，则表示所述第一任务与所述gpu上运行的第二任务(一个或多个)的资源走势相匹配，从而该第二任务能够与所述第一任务进行资源共享。

其中，如果最终确定出能够在多个gpu上与相应的第二任务进行资源共享，则可随机选取其一或者选取出其中的资源利用率较低的gpu作为启动并运行所述第一任务的gpu。

本实施例实现了基于资源预估确定能够与所述第一任务进行资源共享的第二任务，在为多任务资源共享提供了支持的同时，还能够充分保证待启动的第一任务在其全生命周期的运行过程中具有充足的可用资源。

参考图3，图3是本申请提供的一种任务处理方法实施例三的流程图，本实施例中，如图3所示，所述任务处理方法还可以包括：

步骤104、在所述第一任务启动完成并运行后，更新记录所述目标资源上运行的各任务的任务信息。

为便于查询服务平台上各个任务对资源的占用情况，为资源调度提供便利，本实施例记录了每个资源上所运行的任务的任务信息，以gpu资源为例，则相应地会记录每个gpu资源上运行的任务的任务信息，比如，记录gpu1上运行的小任务1、小任务5的任务信息，记录gpu2上运行的小任务2、小任务3以及小任务4的任务信息等。

所述任务信息可以是任务编号、任务名称等信息，本实施例并不对其进行局限。

在基于所述第二任务使用的目标资源中的剩余资源启动并运行所述第一任务后，由于在所述目标资源上增加运行了所述第一任务，因此，需将所述第一任务的任务信息相应地添加在所述目标资源对应的任务信息记录中。具体，比如，假设在启动所述第一任务-任务a之前，gpu-x上运行有任务b、任务c，则在基于所述gpu-x启动并运行所述任务a后，可将所述任务a的任务信息如任务编号或任务名称等添加至所述gpu-x所对应的任务信息记录中。

本实施例通过记录每个资源上所运行任务的任务信息，并在目标资源上启动了新任务后，将新任务的任务信息添加所述目标资源对应的任务信息记录中，可便于查询服务平台上各个任务对资源的占用情况，为服务平台的资源调度提供了方便。

参考图4，图4是本申请提供的一种任务处理方法实施例四的流程图，本实施例中，如图4所示，所述任务处理方法还可以包括：

步骤105、在获得针对运行于所述目标资源上的相应任务的任务结束指令时，判断所述目标资源上是否运行有其他任务，得到判断结果，所述其他任务为所述目标资源上运行的除所述任务结束指令所指示的任务之外的任务。

在基于所述第二任务使用的目标资源中的剩余资源启动并运行所述第一任，使得所述第一任务与所述第二任务共享所述目标资源后，当获得针对运行于所述目标资源上的相应任务的任务结束指令时，需判断所述目标资源上当前除了运行有该指令指示的任务外，是否还运行有其他任务，也即判断该指令指示的任务是否是所述目标资源上当前运行的唯一任务(比如，多个任务共享目标资源的过程中，若其中的各个任务陆续结束，仅剩当前的一个任务，或者共享资源的各个任务均未结束等)，以用于确定当结束该指令指示的任务时，是否需要释放所述目标资源。

步骤106、若所述判断结果表示存在，则结束所述任务结束指令所指示的任务。

其中，如果所述判断结果表示所述目标资源上除了运行有所述任务结束指令所指示的任务，还运行有其他任务，则为了保证所述其他任务的正常运行，不能释放所述目标资源，因此，此种情况下，仅结束所述任务结束指令所指示的任务即可，不必释放所述目标资源，以满足所述其他任务运行过程中的资源需求。

步骤107、若所述判断结果表示不存在，则结束所述任务结束指令所指示的任务并释放所述目标资源。

反之，如果所述判断结果表示所述目标资源上未运行有其他任务，即仅运行有所述任务结束指令所指示的任务，则在结束所述任务结束指令所指示的任务的同时，可以释放所述目标资源，以使得释放的资源能够用于后续的资源调度中。

本实施例在目标资源上运行有所述其他任务的情况下，仅结束所述任务结束指令所指示的任务，保证了所述其他任务的正常运行；在所述目标资源上未运行其他任务的情况下，除了结束所述任务结束指令所指示的任务还同时释放了所述目标资源，从而，减少了不必要的资源占用，为后续的资源调度提供了更多的可用资源。

参考图5，图5是本申请提供的一种服务平台实施例五的结构示意图，所述服务平台可以是AI平台或云服务平台等能够为终端用户提供相应服务的平台，如图5所示，所述服务平台包括：

获取单元501，用于获得启动第一任务的指令。

所述第一任务可以是但不限于用户终端向所述服务平台所请求的任务，以所述服务平台为AI平台为例，所述第一任务则可以是用户的智能手机、平板或一体机等智能终端或计算机设备向所述AI平台所请求的各种AI任务，如关于图像、语音的模型训练任务，或者基于模型的图像、语音数据处理任务等等。

相对应地，所述启动第一任务的指令则可以是但不限于服务平台在接收到用户终端的启动第一任务的请求时所触发的指令。

接下来，将以所述第一任务为需在AI平台上启动的小任务为例，对本申请方案进行说明，本实施例中，所述小任务是指在占用一块gpu的情况下，gpu的利用率较低的任务。

确定单元502，用于确定当前运行的能够与所述第一任务进行资源共享的第二任务；其中，所述第二任务所使用的目标资源的资源剩余量不低于所述第一任务运行时所需的资源量。

所述第二任务所使用的资源可以是所述服务平台为所述第二任务所分配的gpu资源、CPU(CentralProcessing Unit，中央处理器)资源或磁盘资源等各种资源中的任意一种，本实施例后续则具体以gpu资源为例展开对方案的描述。

实际应用场景中，AI平台等服务平台中往往运行有多个资源使用量较少的小任务，若每个小任务均独占一个gpu，会导致gpu资源的极大浪费，针对该问题，本申请在获得所述启动第一任务的指令，并响应该指令进行第一任务的启动时，不再采用现有技术的资源分配方式，使该第一任务至少独占一个gpu，而是首先确定服务平台中当前运行的各个任务中是否存在能够与所述第一任务进行gpu资源共享的第二任务，并在存在时，确定出该能够与所述第一任务进行gpu资源共享的第二任务，其中，所确定出的该第二任务所使用的gpu资源的资源剩余量应不低于所述第一任务运行时所需的资源量，以确保有足够的资源供所述第一任务使用，保证所述第一任务可以基于该第二任务剩余的gpu资源量正常运行。

启动单元503，用于基于所述第二任务所使用的所述目标资源的剩余资源，启动所述第一任务。

在确定出当前运行的能够与所述第一任务进行资源共享的第二任务后，可基于所述第二任务所使用的目标资源中的剩余资源，启动所述第一任务。具体地，比如，基于第二任务所使用的gpu中的剩余资源，启动并运行所述第一任务等，从而实现了将所述第一任务与所述第二任务共享同一gpu，有效提升了所述第二任务所使用的gpu的资源利用率。

基于以上方案可知，本实施例提供的服务平台，在获得启动第一任务的指令时，确定当前运行的能够与所述第一任务进行资源共享的第二任务，并基于所述第二任务所使用的目标资源的剩余资源，启动所述第一任务。其中，所述第二任务所使用的目标资源的资源剩余量不低于所述第一任务运行时所需的资源量。由此可见，本申请提供了一种多任务进行资源共享的方案，当将本申请方案应用于小任务的资源调度中时，可将多于一个的小任务基于同一个gpu启动并运行，以此实现了多个小任务共享同一gpu资源，有效克服了现有技术中因小任务独占gpu而使得gpu资源利用率低的问题，降低了资源浪费。

在接下来的实施例六中继续对所述服务平台中的确定单元502进行进一步详述。本实施例中，所述确定单元502，具体用于：

获得所述第一任务的预定任务参数的参数数据，以及获得当前运行的能够进行资源共享的各个第二任务的预定任务参数的参数数据；利用预先训练的预估模型，基于所述第一任务的预定任务参数的参数数据，预估所述第一任务运行过程中所需的资源量；利用所述预估模型，基于所述各个第二任务的预定任务参数的参数数据，预估所述各个第二任务运行过程中所需的资源量；根据所述第一任务运行过程中所需的资源量、每个所述第二任务运行过程中所需的资源量以及每个所述第二任务使用的资源，确定当前运行的能够与所述第一任务进行资源共享的第二任务。

所述预定任务参数可以包括但不限于任务来源、任务类型、任务需处理的数据量等参数，所述“任务来源”比如可以是个人用户或企业用户，所述“任务类型”可以是模型训练、基于模型的数据处理、或其他的数据处理类型等等，所述“任务需处理的数据量”比如可以是模型训练任务中需基于的数据集的数据量，或数据处理任务中需处理的语音数据或图像数据的数据量等。

所述当前运行的能够进行资源共享的各个第二任务，可以是所述AI平台等服务平台中正在运行的存在资源共享可能的各个任务，具体地比如可以是所述AI平台中正在运行的对gpu资源的利用率较低的各个小任务，或者还可以是所述AI平台中正在运行的占用有多个gpu，但至少存在一个gpu的资源利用率较低的非小任务等等，或者，还可以结合终端用户提交任务请求时所提交的任务设置信息，如是否允许在资源占用率较低时进行资源共享，或者是否是小任务等等，来初步确定服务平台中具有资源共享可能的各个第二任务，以使得后续从这些任务中最终确定出能够与所述第一任务进行资源共享的第二任务。

在获得所述第一任务及具有资源共享可能的各个第二任务的任务参数数据后，本实施例利用一预先训练的预估模型对所述第一任务的任务参数数据进行处理，以预估出所述第一任务运行过程中所需的资源量；并利用所述预估模型对各个所述第二任务的任务参数数据进行处理，以预估出各个所述第二任务运行过程中所需的资源量。

具体地，可利用所述预估模型，预估所述第一任务在其全生命周期运行过程中所需资源量的走势信息；以及利用所述预估模型，预估各个所述第二任务在各自剩余的生命周期中所需资源量的走势信息，且可以采用曲线走势图或时间点位图等方式来表示所预估的第一任务所需资源量的走势信息，以及各个第二任务所需资源量的走势信息，以便于更直观地获知第一任务所需资源的走势信息以及各个第二任务所需资源量的走势信息。

其中，所述预估模型可预先由所述服务平台或额外的独立于所述服务平台的服务器等设备，利用公共数据集或收集的真实历史数据集进行训练，具体地，比如可基于公共数据集中或收集的真实历史数据集中所提供的“任务来源、任务类型、任务需处理的数据量等参数数据与任务生命周期中各时间点/段的资源需求量的对应关系”信息，利用预定算法进行模型训练，使得最终训练出的所述预估模型，可通过对输入的上述任务参数数据进行处理，能够输出任务在其运行过程中的不同时间点/段所需资源量的预估数据。

在利用所述预估模型预估得到所述第一任务在其全生命周期运行过程中所需资源量的走势信息，以及各个第二任务在其各自剩余的生命周期中所需资源量的走势信息后，可将所述第一任务在其全生命周期运行过程中所需资源量的走势信息，与各个第二任务在其各自剩余的生命周期中所需资源量的走势信息进行匹配，其中，若所述第一任务与某一资源如某一gpu上运行的一个/多个第二任务在每个时间点/段所需资源量的总和未超出该gpu所提供的资源量，则表示所述第一任务与所述gpu上运行的第二任务(一个或多个)的资源走势相匹配，从而该第二任务能够与所述第一任务进行资源共享。

其中，如果最终确定出能够在多个gpu上与相应的第二任务进行资源共享，则可随机选取其一或者选取出其中的资源利用率较低的gpu作为启动并运行所述第一任务的gpu。

本实施例实现了基于资源预估确定能够与所述第一任务进行资源共享的第二任务，在为多任务资源共享提供了支持的同时，还能够充分保证待启动的第一任务在其全生命周期的运行过程中具有充足的可用资源。

参考图6，图6是本申请提供的一种服务平台实施例七的结构示意图，本实施例中，所述服务平台还可以包括：

记录单元504，用于在所述第一任务启动完成并运行后，更新记录所述目标资源上运行的各任务的任务信息。

为便于查询服务平台上各个任务对资源的占用情况，为资源调度提供便利，本实施例记录了每个资源上所运行的任务的任务信息，以gpu资源为例，则相应地会记录每个gpu资源上运行的任务的任务信息，比如，记录gpu1上运行的小任务1、小任务5的任务信息，记录gpu2上运行的小任务2、小任务3以及小任务4的任务信息等。

所述任务信息可以是任务编号、任务名称等信息，本实施例并不对其进行局限。

在基于所述第二任务使用的目标资源中的剩余资源启动并运行所述第一任务后，由于在所述目标资源上增加运行了所述第一任务，因此，需将所述第一任务的任务信息相应地添加在所述目标资源对应的任务信息记录中。具体，比如，假设在启动所述第一任务-任务a之前，gpu-x上运行有任务b、任务c，则在基于所述gpu-x启动并运行所述任务a后，可将所述任务a的任务信息如任务编号或任务名称等添加至所述gpu-x所对应的任务信息记录中。

本实施例通过记录每个资源上所运行任务的任务信息，并在目标资源上启动了新任务后，将新任务的任务信息添加所述目标资源对应的任务信息记录中，可便于查询服务平台上各个任务对资源的占用情况，为服务平台的资源调度提供了方便。

参考图7，图7是本申请提供的一种服务平台实施例八的结构示意图，本实施例中，所述服务平台还可以包括：

任务结束控制单元505，用于：

在获得针对运行于所述目标资源上的相应任务的任务结束指令时，判断所述目标资源上是否运行有其他任务，得到判断结果，所述其他任务为所述目标资源上运行的除所述任务结束指令所指示的任务之外的任务；若所述判断结果表示存在，则结束所述任务结束指令所指示的任务；若所述判断结果表示不存在，则结束所述任务结束指令所指示的任务并释放所述目标资源。

在基于所述第二任务使用的目标资源中的剩余资源启动并运行所述第一任，使得所述第一任务与所述第二任务共享所述目标资源后，当获得针对运行于所述目标资源上的相应任务的任务结束指令时，需判断所述目标资源上当前除了运行有该指令指示的任务外，是否还运行有其他任务，也即判断该指令指示的任务是否是所述目标资源上当前运行的唯一任务(比如，多个任务共享目标资源的过程中，若其中的各个任务陆续结束，仅剩当前的一个任务，或者共享资源的各个任务均未结束等)，以用于确定当结束该指令指示的任务时，是否需要释放所述目标资源。

其中，如果所述判断结果表示所述目标资源上除了运行有所述任务结束指令所指示的任务，还运行有其他任务，则为了保证所述其他任务的正常运行，不能释放所述目标资源，因此，此种情况下，仅结束所述任务结束指令所指示的任务即可，不必释放所述目标资源，以满足所述其他任务运行过程中的资源需求。

反之，如果所述判断结果表示所述目标资源上未运行有其他任务，即仅运行有所述任务结束指令所指示的任务，则在结束所述任务结束指令所指示的任务的同时，可以释放所述目标资源，以使得释放的资源能够用于后续的资源调度中。

本实施例在目标资源上运行有所述其他任务的情况下，仅结束所述任务结束指令所指示的任务，保证了所述其他任务的正常运行；在所述目标资源上未运行其他任务的情况下，除了结束所述任务结束指令所指示的任务还同时释放了所述目标资源，从而，减少了不必要的资源占用，为后续的资源调度提供了更多的可用资源。

参考图8，图8是本申请提供的一种任务处理方法实施例九的流程图，该方法可应用于但不局限于智能手机、平板电脑、笔记本、台式机、一体机等各种终端设备或计算机设备中，如图8所示，本实施例中所述任务处理方法包括以下步骤：

步骤801、向服务平台发送启动第一任务的请求。

所述服务平台可以是AI平台、云平台等任意的能够向用户终端提供相应服务的平台。

所述第一任务可以是但不限于用户终端向所述AI等服务平台所请求的AI任务，如向AI平台请求的关于图像、语音的模型训练任务，或者基于模型的图像、语音数据处理任务等等。

当终端设备的用户存在相应的任务运行需求时，可通过在其终端设备的界面上执行相应操作来触发所述启动第一任务的请求，并向服务平台发送该请求。

步骤802、获得任务信息的设置界面并展示所述设置界面。

所述任务信息的设置界面可以是服务平台在接收到所述启动第一任务的请求后，为响应该请求所反馈的信息，或者还可以是用户终端在拦截该请求后，由用户终端提供的信息，在获得该设置界面后，用户终端可在其终端界面上展示该设置界面，以使得用户能够基于展示的该界面针对所述第一任务进行相应的任务信息设置。

步骤803、接收在所述设置界面上所设置的任务信息，并发送所述任务信息至所述服务平台。

在用户终端展示所述任务信息的设置界面基础上，用户可在所述设置界面上针对所请求的所述第一任务进行相应的任务信息设置，例如，通过勾选方式或下拉菜单方式或者文字录入方式等，在所述设置界面上设置所述第一任务是否是小任务、所占用的资源量区间、是否可与服务平台运行的其他任务进行资源共享、最多可与几个其他任务进行资源共享等等。

相对应地，用户终端可基于用户在所述设置界面上的设置操作，接收用户提供的任务设置信息，并将其提交至服务平台，以使得服务平台后续基于用户终端提交的所述任务信息对所述第一任务执行相应的资源调度。

例如，若所述任务信息中表明请求的所述第一任务不能与其他任务进行gpu资源共享，则服务平台可为该第一任务分配独立的gpu资源，并基于所分配的独立gpu资源启动及运行该第一任务；若所述任务信息中表明请求的所述第一任务为小任务，可以与其他任务进行gpu资源共享，且最多可以与2个其他任务进行gpu资源共享，则服务平台可基于其他某任务所占用gpu中的剩余资源启动及运行该第一任务，使得该第一任务与所述其他某任务进行gpu资源共享，且在运行该第一任务的过程中，该共享的gpu上最多可运行3个任务。

本实施例通过为终端用户提供任务信息的设置功能，并将终端用户设置的任务信息提交至服务平台，可有效满足终端用户个性化设置任务信息的需求，后续服务平台可基于终端用户设置并提交的任务信息启动及运行终端请求的任务，既能在用户允许资源共享时，通过将用户请求的任务与其他任务进行资源共享，来提升服务平台的资源利用率，又能在用户不允许资源共享时，通过为用户请求的任务分配独立的资源来满足用户的独占资源需求。

参考图9，图9是本申请提供的一种电子设备实施例十的结构示意图，该电子设备可以是但不限于智能手机、平板电脑、笔记本、台式机、一体机等各种终端设备或计算机设备，如图9所示，所述电子设备包括：

请求发送单元901，用于向服务平台发送启动第一任务的请求。

所述服务平台可以是AI平台、云平台等任意的能够向用户终端提供相应服务的平台。

所述第一任务可以是但不限于用户终端向所述AI等服务平台所请求的AI任务，如向AI平台请求的关于图像、语音的模型训练任务，或者基于模型的图像、语音数据处理任务等等。

当终端设备的用户存在相应的任务运行需求时，可通过在其终端设备的界面上执行相应操作来触发所述启动第一任务的请求，并向服务平台发送该请求。

展示单元902，用于获得任务信息的设置界面并展示所述设置界面。

所述任务信息的设置界面可以是服务平台在接收到所述启动第一任务的

MP1727277请求后，为响应该请求所反馈的信息，或者还可以是用户终端在拦截该请求后，由用户终端提供的信息，在获得该设置界面后，用户终端可在其终端界面上展示该设置界面，以使得用户能够基于展示的该界面针对所述第一任务进行相应的任务信息设置。

任务信息发送单元903，用于接收在所述设置界面上所设置的任务信息，并发送所述任务信息至所述服务平台。

在用户终端展示所述任务信息的设置界面基础上，用户可在所述设置界面上针对所请求的所述第一任务进行相应的任务信息设置，例如，通过勾选方式或下拉菜单方式或者文字录入方式等，在所述设置界面上设置所述第一任务是否是小任务、所占用的资源量区间、是否可与服务平台运行的其他任务进行资源共享、最多可与几个其他任务进行资源共享等等。

相对应地，用户终端可基于用户在所述设置界面上的设置操作，接收用户提供的任务设置信息，并将其提交至服务平台，以使得服务平台后续基于用户终端提交的所述任务信息对所述第一任务执行相应的资源调度。

例如，若所述任务信息中表明请求的所述第一任务不能与其他任务进行gpu资源共享，则服务平台可为该第一任务分配独立的gpu资源，并基于所分配的独立gpu资源启动及运行该第一任务；若所述任务信息中表明请求的所述第一任务为小任务，可以与其他任务进行gpu资源共享，且最多可以与2个其他任务进行gpu资源共享，则服务平台可基于其他某任务所占用gpu中的剩余资源启动及运行该第一任务，使得该第一任务与所述其他某任务进行gpu资源共享，且在运行该第一任务的过程中，该共享的gpu上最多可运行3个任务。

本实施例通过为终端用户提供任务信息的设置功能，并将终端用户设置的任务信息提交至服务平台，可有效满足终端用户个性化设置任务信息的需求，后续服务平台可基于终端用户设置并提交的任务信息启动及运行终端请求的任务，既能在用户允许资源共享时，通过将用户请求的任务与其他任务进行资源共享，来提升服务平台的资源利用率，又能在用户不允许资源共享时，通过为用户请求的任务分配独立的资源来满足用户的独占资源需求。

需要说明的是，本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。

为了描述的方便，描述以上系统或装置时以功能分为各种模块或单元分别描述。当然，在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。

通过以上的实施方式的描述可知，本领域的技术人员可以清楚地了解到本申请可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例或者实施例的某些部分所述的方法。

最后，还需要说明的是，在本文中，诸如第一、第二、第三和第四等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (10)

1.一种任务处理方法，其特征在于，应用于服务平台，所述方法包括：

获得启动第一任务的指令；

确定当前运行的任务中能够利用所占用的已被分配的资源与所述第一任务进行资源共享的第二任务；其中，所述第二任务被分配的目标资源的资源剩余量不低于所述第一任务运行时所需的资源量；

基于所述第二任务被分配的所述目标资源的剩余资源，启动所述第一任务。

2.根据权利要求1所述的方法，其特征在于，所述确定当前运行的能够与所述第一任务进行资源共享的第二任务，包括：

获得所述第一任务的预定任务参数的参数数据，以及获得当前运行的能够进行资源共享的各个第二任务的预定任务参数的参数数据；

利用预先训练的预估模型，基于所述第一任务的预定任务参数的参数数据，预估所述第一任务运行过程中所需的资源量；利用所述预估模型，基于所述各个第二任务的预定任务参数的参数数据，预估所述各个第二任务运行过程中所需的资源量；

根据所述第一任务运行过程中所需的资源量、每个所述第二任务运行过程中所需的资源量以及每个所述第二任务使用的资源，确定当前运行的能够与所述第一任务进行资源共享的第二任务。

3.根据权利要求2所述的方法，其特征在于，所述利用预先训练的预估模型，预估所述第一任务运行过程中所需的资源量，以及预估所述各个第二任务运行过程中所需的资源量包括：

利用所述预估模型，预估所述第一任务在全生命周期的运行过程中所需资源量的走势信息；

利用所述预估模型，预估各个所述第二任务在剩余的生命周期中分别所需资源量的走势信息。

4.根据权利要求1-3任一项所述的方法，其特征在于，还包括：

在所述第一任务启动完成并运行后，更新记录所述目标资源上运行的各任务的任务信息。

5.根据权利要求1-3任一项所述的方法，其特征在于，还包括：

在获得针对运行于所述目标资源上的相应任务的任务结束指令时，判断所述目标资源上是否运行有其他任务，得到判断结果，所述其他任务为所述目标资源上运行的除所述任务结束指令所指示的任务之外的任务；

若所述判断结果表示存在，则结束所述任务结束指令所指示的任务；

若所述判断结果表示不存在，则结束所述任务结束指令所指示的任务并释放所述目标资源。

6.一种服务平台，其特征在于，包括：

获取单元，用于获得启动第一任务的指令；

确定单元，用于确定当前运行的任务中能够利用所占用的已被分配的资源与所述第一任务进行资源共享的第二任务；其中，所述第二任务被分配的目标资源的资源剩余量不低于所述第一任务运行时所需的资源量；

启动单元，用于基于所述第二任务被分配的所述目标资源的剩余资源，启动所述第一任务。

7.根据权利要求6所述的服务平台，其特征在于，所述确定单元，具体用于：

获得所述第一任务的预定任务参数的参数数据，以及获得当前运行的能够进行资源共享的各个第二任务的预定任务参数的参数数据；

利用预先训练的预估模型，基于所述第一任务的预定任务参数的参数数据，预估所述第一任务运行过程中所需的资源量；利用所述预估模型，基于所述各个第二任务的预定任务参数的参数数据，预估所述各个第二任务运行过程中所需的资源量；

根据所述第一任务运行过程中所需的资源量、每个所述第二任务运行过程中所需的资源量以及每个所述第二任务使用的资源，确定当前运行的能够与所述第一任务进行资源共享的第二任务。

8.根据权利要求6-7任一项所述的服务平台，其特征在于，还包括：

任务结束控制单元，用于：

在获得针对运行于所述目标资源上的相应任务的任务结束指令时，判断所述目标资源上是否运行有其他任务，得到判断结果，所述其他任务为所述目标资源上运行的除所述任务结束指令所指示的任务之外的任务；若所述判断结果表示存在，则结束所述任务结束指令所指示的任务；若所述判断结果表示不存在，则结束所述任务结束指令所指示的任务并释放所述目标资源。

9.一种任务处理方法，其特征在于，应用于电子设备，所述方法包括：

向服务平台发送启动第一任务的请求；

获得任务信息的设置界面并展示所述设置界面；

接收在所述设置界面上所设置的任务信息，并发送所述任务信息至所述服务平台；

其中，所述服务平台在获得启动第一任务的指令后，确定当前运行的任务中能够利用所占用的已被分配的资源与所述第一任务进行资源共享的第二任务，并基于所述第二任务被分配的目标资源的剩余资源，启动所述第一任务；所述第二任务被分配的目标资源的资源剩余量不低于所述第一任务运行时所需的资源量。

10.一种电子设备，其特征在于，包括：

请求发送单元，用于向服务平台发送启动第一任务的请求；

展示单元，用于获得任务信息的设置界面并展示所述设置界面；

任务信息发送单元，用于接收在所述设置界面上所设置的任务信息，并发送所述任务信息至所述服务平台；

其中，所述服务平台在获得启动第一任务的指令后，确定当前运行的任务中能够利用所占用的已被分配的资源与所述第一任务进行资源共享的第二任务，并基于所述第二任务被分配的目标资源的剩余资源，启动所述第一任务；所述第二任务被分配的目标资源的资源剩余量不低于所述第一任务运行时所需的资源量。

Images