CN112685180A - 计算单元分配方法、装置及计算单元分配系统 - Google Patents

计算单元分配方法、装置及计算单元分配系统 Download PDF

Info

Publication number
CN112685180A
CN112685180A CN202011589225.7A CN202011589225A CN112685180A CN 112685180 A CN112685180 A CN 112685180A CN 202011589225 A CN202011589225 A CN 202011589225A CN 112685180 A CN112685180 A CN 112685180A
Authority
CN
China
Prior art keywords
target
target application
resource
unit
computing unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011589225.7A
Other languages
English (en)
Other versions
CN112685180B (zh
Inventor
冷明鑫
孟泽民
袁浩然
高其涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Hikvision Digital Technology Co Ltd
Original Assignee
Hangzhou Hikvision Digital Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Hikvision Digital Technology Co Ltd filed Critical Hangzhou Hikvision Digital Technology Co Ltd
Priority to CN202011589225.7A priority Critical patent/CN112685180B/zh
Publication of CN112685180A publication Critical patent/CN112685180A/zh
Application granted granted Critical
Publication of CN112685180B publication Critical patent/CN112685180B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Stored Programmes (AREA)

Abstract

本申请实施例提供了计算单元分配方法、装置及计算单元分配系统,应用于计算机应用技术领域。该方法包括:接收电子设备中目标应用发送的资源分配请求,其中,资源分配请求中携带有待请求分配的计算单元的目标单元类型;确定在当前时刻所属的资源统计周期内、目标应用对属于目标单元类型的计算单元的已占用时长,作为目标应用针对目标单元类型的资源耗时;当基于目标应用针对目标单元类型的资源耗时,判断出目标应用符合资源分配条件时,为目标应用分配可用的、且属于目标单元类型的计算单元。通过本方案,可以降低视频接入的复杂性。

Description

计算单元分配方法、装置及计算单元分配系统
技术领域
本申请涉及计算机应用技术领域,特别是涉及计算单元分配方法、装置及计算单元分配系统。
背景技术
电子设备所包含的计算单元为所有用于逻辑计算的处理器的统称,例如中央处理器(CPU,Central Processing Unit)、图形处理器(GPU,Graphics Processing Unit)、神经网络处理器(NPU,Neural Network Processor)等。
随着电子设备智能化程度的提高和应用场景的增加,电子设备可能安装多个应用。而每个应用运行过程中均需要占用电子设备的计算单元进行任务处理,又因为电子设备的计算单元的数量是有限的,因此,电子设备中各个应用之间会对电子设备的计算单元进行竞争。因此,如何为每个应用分配计算单元就显得尤为重要。
相关技术中,可以根据应用对CPU利用率为每个应用分配CPU,其中应用对CPU的利用率可以通过系统进行的获取,而对于GPU、NPU等其他计算单元而言,没有获取应用对计算单元占用率的接口或方法,从而无法依据应用对计算单元的占用情况为每个应用合理的分配计算单元。
发明内容
本申请实施例的目的在于提供一种计算单元分配方法、装置及计算单元分配系统,以合理的分配计算单元。具体技术方案如下:
第一方面,本申请实施例提供一种计算单元分配方法,应用于电子设备中的资源分配端,包括:
接收所述电子设备中目标应用发送的资源分配请求,其中,所述资源分配请求中携带有待请求分配的计算单元的目标单元类型;
确定在当前时刻所属的资源统计周期内、所述目标应用对属于所述目标单元类型的计算单元的已占用时长,作为所述目标应用针对所述目标单元类型的资源耗时;
当基于所述目标应用针对所述目标单元类型的资源耗时,判断出所述目标应用符合资源分配条件时,为所述目标应用分配可用的、且属于所述目标单元类型的计算单元。
在一个实施例中,基于所述目标应用针对所述目标单元类型的资源耗时,判断所述目标应用是否符合资源分配条件的方式,包括:
基于所述目标应用针对所述目标单元类型的资源耗时,确定所述目标应用的资源占用评判参数;
判断所述资源占用评判参数是否小于预设的评判参数阈值,如果是,判定所述目标应用符合资源分配条件,否则,判定所述目标应用不符合资源分配条件。
在一个实施例中,所述目标应用可用的计算单元的目标单元类型为一种;
所述基于所述目标应用针对所述目标单元类型的资源耗时,确定所述目标应用的资源占用评判参数,包括:
基于所述目标应用针对目标单元类型的资源耗时与目标时长的目标比值,作为所述目标应用的资源占用评判参数;
所述判断所述资源占用评判参数是否小于预设的评判参数阈值,包括:
判断所述资源占用评判参数是否小于最大比值;其中,所述最大比值为所述目标应用针对所述目标单元类型的资源可用时长与所述目标时长的比值。
在一个实施例中,所述目标应用可用的计算单元的目标单元类型为一种;
所述基于所述目标应用针对所述目标单元类型的资源耗时,确定所述目标应用的资源占用评判参数,包括:
将所述目标应用针对目标单元类型的资源耗时,确定为所述目标应用的资源占用评判参数;
所述判断所述资源占用评判参数是否小于预设的评判参数阈值,包括:
判断所述资源占用评判参数是否小于所述目标应用针对所述目标单元类型的资源可用时长。
在一个实施例中,所述目标应用可用的计算单元的目标单元类型为至少一种;
所述基于所述目标应用针对所述目标单元类型的资源耗时,确定所述目标应用的资源占用评判参数,包括:
计算所述目标应用针对所述目标单元类型的资源耗时与目标算力的乘积;其中,所述目标算力为属于该目标单元类型的计算单元的算力;
基于计算得到的乘积,确定所述目标应用在所述资源统计周期内的资源消耗总量,作为所述目标应用的资源占用评判参数;
所述判断所述资源占用评判参数是否小于预设的评判参数阈值,包括:
判断所述目标应用的资源占用评判参数是否小于所述目标应用的最大可用资源量。
在一个实施例中,所述评判参数阈值为:基于预先建立的评判参数阈值与时间的对应关系,确定的当前时刻所对应的评判参数阈值。
在一个实施例中,所述方法还包括:
若所述目标应用不符合所述资源分配条件,或当属于所述目标单元类型的计算单元均不可用时,向所述目标应用发送等待消息,以使得所述目标应用在预设时长后重新向所述资源分配端发送资源分配请求。
在一个实施例中,所述为所述目标应用分配可用的、且属于所述目标单元类型的计算单元,包括:
向所述目标应用发送可用的、且属于所述目标单元类型的计算单元的单元标识,以使得所述目标应用基于所述单元标识调用计算单元进行任务处理。
在一个实施例中,在所述目标应用分配可用的、且属于所述目标单元类型的计算单元之后,还包括:
将所分配的计算单元变更为不可用的计算单元;
当接收到所述目标应用反馈的计算单元释放消息后,将所分配的计算单元变更为可用的计算单元,且记录所述目标应用占用所分配的计算单元的时长,以更新所述目标应用针对所述目标单元类型的资源耗时。
第二方面,本申请实施例还提供一种计算单元分配系统,所述系统包括:电子设备中的资源分配端和所述电子设备中运行的目标应用,包括:
所述目标应用,用于向所述资源分配端发送所述资源分配请求,其中,所述资源分配请求中携带有待请求分配的计算单元的目标单元类型;
所述资源分配端,用于接收所述目标应用发送的资源分配请求;确定在当前时刻所属的资源统计周期内、所述目标应用对属于所述目标单元类型的计算单元的已占用时长,作为所述目标应用针对所述目标单元类型的资源耗时;当基于所述目标应用针对所述目标单元类型的资源耗时,判断出所述目标应用符合资源分配条件时,为所述目标应用分配可用的、且属于所述目标单元类型的计算单元。
在一个实施例中,所述资源分配端,具体用于基于所述目标应用针对所述目标单元类型的资源耗时,确定所述目标应用的资源占用评判参数;判断所述资源占用评判参数是否小于预设的评判参数阈值,如果是,判定所述目标应用符合资源分配条件,否则,判定所述目标应用不符合资源分配条件。
在一个实施例中,所述目标应用可用的计算单元的目标单元类型为一种;
所述资源分配端,具体用于基于所述目标应用针对目标单元类型的资源耗时与目标时长的目标比值,作为所述目标应用的资源占用评判参数;
所述资源分配端,具体用于判断所述资源占用评判参数是否小于最大比值;其中,所述最大比值为所述目标应用针对所述目标单元类型的资源可用时长与所述目标时长的比值。
在一个实施例中,所述目标应用可用的计算单元的目标单元类型为一种;
所述资源分配端,具体用于将所述目标应用针对目标单元类型的资源耗时,确定为所述目标应用的资源占用评判参数;
所述资源分配端,具体用于判断所述资源占用评判参数是否小于所述目标应用针对所述目标单元类型的资源可用时长。
在一个实施例中,所述目标应用可用的计算单元的目标单元类型为至少一种;
所述资源分配端,具体用于计算所述目标应用针对所述目标单元类型的资源耗时与目标算力的乘积;其中,所述目标算力为属于该目标单元类型的计算单元的算力;基于计算得到的乘积,确定所述目标应用在所述资源统计周期内的资源消耗总量,作为所述目标应用的资源占用评判参数;
所述资源分配端,具体用于判断所述目标应用的资源占用评判参数是否小于所述目标应用的最大可用资源量。
在一个实施例中,所述系统还包括:配置端;
所述配置端,用于基于预先建立的评判参数阈值与时间的对应关系,确定的当前时刻所对应的评判参数阈值;当所确定的评判参数阈值与前一时刻所对应的评判参数阈值不同时,向所述资源分配端发生携带有所确定评判参数阈值的阈值变更消息;
所述资源分配端,还用于在接收到所述阈值变更消息后,将当前的评判参数阈值变更为所述阈值变更消息中所携带的评判参数阈值。
在一个实施例中,所述配置端,还用于在接收到针对计算单元的计算单元配置操作时,向所述资源分配端发送计算单元状态变更消息;其中,所述计算单元状态变更消息用于指示变更所述计算单元配置操作所针对计算单元的单元状态,所述单元状态包括:可用状态和不可用状态;
所述资源分配端,还用于在接收到所述计算单元状态变更消息后,对所述计算单元状态变更消息所针对的计算单元的单元状态进行变更。
在一个实施例中,所述资源分配端,还用于若所述目标应用不符合所述资源分配条件,或当属于所述目标单元类型的计算单元均不可用时,向所述目标应用发送等待消息;
所述目标应用,还用于在接收到所述等待消息后,在预设时长后重新向所述资源分配端发送资源分配请求。
在一个实施例中,所述资源分配端,具体用于向所述目标应用发送可用的、且属于所述目标单元类型的计算单元的单元标识;
所述目标应用,还用于基于所述单元标识调用计算单元进行任务处理。
在一个实施例中,所述资源分配端,还用于在所述目标应用分配可用的、且属于所述目标单元类型的计算单元之后,将所分配的计算单元变更为不可用的计算单元;当接收到所述目标应用反馈的计算单元释放消息后,将所分配的计算单元变更为可用的计算单元,且记录所述目标应用占用所分配的计算单元的时长,以更新所述目标应用针对所述目标单元类型的资源耗时。
所述目标应用,还用于在使用被分配的计算单元完成任务处理后,向所述资源分配端反馈计算单元释放消息。
第三方面,本申请实施例还提供一种计算单元分配装置,应用于电子设备中的资源分配端,包括:
请求接收模块,用于接收所述电子设备中目标应用发送的资源分配请求,其中,所述资源分配请求中携带有待请求分配的计算单元的目标单元类型;
时长确定模块,用于确定在当前时刻所属的资源统计周期内、所述目标应用对属于所述目标单元类型的计算单元的已占用时长,作为所述目标应用针对所述目标单元类型的资源耗时;
单元分配模块,用于当基于所述目标应用针对所述目标单元类型的资源耗时,判断出所述目标应用符合资源分配条件时,为所述目标应用分配可用的、且属于所述目标单元类型的计算单元。
在一个实施例中,所述装置还包括:
条件判断模块,用于基于所述目标应用针对所述目标单元类型的资源耗时,确定所述目标应用的资源占用评判参数;判断所述资源占用评判参数是否小于预设的评判参数阈值,如果是,判定所述目标应用符合资源分配条件,否则,判定所述目标应用不符合资源分配条件。
在一个实施例中,所述目标应用可用的计算单元的目标单元类型为一种;
所述条件判断模块,具体用于基于所述目标应用针对目标单元类型的资源耗时与目标时长的目标比值,作为所述目标应用的资源占用评判参数;判断所述资源占用评判参数是否小于最大比值;其中,所述最大比值为所述目标应用针对所述目标单元类型的资源可用时长与所述目标时长的比值。
在一个实施例中,所述目标应用可用的计算单元的目标单元类型为一种;
所述条件判断模块,具体用于将所述目标应用针对目标单元类型的资源耗时,确定为所述目标应用的资源占用评判参数;判断所述资源占用评判参数是否小于所述目标应用针对所述目标单元类型的资源可用时长。
在一个实施例中,所述目标应用可用的计算单元的目标单元类型为至少一种;
所述条件判断模块,具体用于计算所述目标应用针对所述目标单元类型的资源耗时与目标算力的乘积;其中,所述目标算力为属于该目标单元类型的计算单元的算力;基于计算得到的乘积,确定所述目标应用在所述资源统计周期内的资源消耗总量,作为所述目标应用的资源占用评判参数;判断所述目标应用的资源占用评判参数是否小于所述目标应用的最大可用资源量。
在一个实施例中,所述评判参数阈值为:基于预先建立的评判参数阈值与时间的对应关系,确定的当前时刻所对应的评判参数阈值。
在一个实施例中,所述装置还包括:
消息发送模块,用于若所述目标应用不符合所述资源分配条件,或当属于所述目标单元类型的计算单元均不可用时,向所述目标应用发送等待消息,以使得所述目标应用在预设时长后重新向所述资源分配端发送资源分配请求。
在一个实施例中,所述单元分配模块,具体用于向所述目标应用发送可用的、且属于所述目标单元类型的计算单元的单元标识,以使得所述目标应用基于所述单元标识调用计算单元进行任务处理。
在一个实施例中,所述装置还包括:
单元变更模块,用于在所述目标应用分配可用的、且属于所述目标单元类型的计算单元之后,将所分配的计算单元变更为不可用的计算单元;当接收到所述目标应用反馈的计算单元释放消息后,将所分配的计算单元变更为可用的计算单元,且记录所述目标应用占用所分配的计算单元的时长,以更新所述目标应用针对所述目标单元类型的资源耗时。
第四方面,本申请实施例还提供一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现第一方面所述的方法步骤。
第五方面,本申请实施例还提供一种计算机可读存储介质,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现第一方面所述的方法步骤。
本申请实施例有益效果:
本申请实施例所提供的计算单元分配方法,电子设备中的资源分配端在接收到目标应用的资源分配请求后,可以基于目标应用对计算单元的已占用时长判断目标应用是否符合资源分配条件,并在符合资源分配条件时为目标应用分配计算单元,由于资源分配端通过目标应用对计算单元的已占用时长作为分配计算单元的依据,而目标应用对计算单元的已占用时长可以反映目标应用对该计算单元的占用情况,从而可以不再依赖从计算单元获取利用率,从而可以合理分配计算单元。
当然,实施本申请的任一产品或方法并不一定需要同时达到以上所述的所有优点。
附图说明
为了更清楚地说明本申请实施例或相关技术中的技术方案,下面将对实施例或相关技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的实施例。
图1为本申请一个实施例提供的计算单元分配方法的流程图。
图2为本申请另一个实施例提供的计算单元分配方法的流程图。
图3为本申请一个实施例提供的计算单元分配系统的结构示意图。
图4为本申请另一个实施例提供的计算单元分配系统的结构示意图。
图5为本申请一个实施例提供的计算单元分配装置的结构示意图。
图6为本申请一个实施例提供的电子设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
为了合理的分配计算单元,本申请实施例提供了计算单元分配方法、装置及计算单元分配系统。
下面首先从电子设备中资源分配端的角度,对本申请实施例所提供的一种计算单元分配方法进行介绍。
电子设备中的资源分配端可以为电子设备中用于对电子设备包含的计算单元进行分配的程序软件。电子设备中还安装有目标应用,其中,目标应用可以为电子设备中安装的与资源分配端建立通信连接的程序应用,目标应用在运行过程中可以与资源分配端进行通信。例如,向资源分配端发送资源分配请求。上述电子设备可以为终端设备或服务器,这都是合理的。
资源分配端可以在每个资源统计周期内,可以统计目标应用的应用信息。其中,每个目标应用的应用信息包括该目标应用对每种单元类型的计算单元的已占用时长。需要说明的是,电子设备中每一计算单元的算力是不变的。在算力不变的情况下,目标应用对计算单元已占用时长越长,则表示该目标应用对该计算单元的算力资源占用的越多。从而资源分配端可以利用目标应用对计算单元的已占用时长衡量目标应用对算力资源占用多少。其中,计算单元的算力指计算单元的运算能力,通常用每秒所能执行的操作次数来衡量。常见的算力单位为TOPS(Tera Operations Per Second,每秒万亿次运算)。如1TOPS代表计算单元每秒钟进行一万亿次操作。
进一步的,为了合理分配计算资源,针对电子设备中的每一目标应用,可以设置对应的资源分配条件。仅在目标应用的资源耗时符合其资源分配条件时,为目标应用分配所需的计算单元。以实现对目标应用使用计算单元的控制。
如图1所示,本申请实施例提供的一种计算单元分配方法,应用于电子设备中的资源分配端,可以包括如下步骤:
S101,接收电子设备中目标应用发送的资源分配请求,其中,资源分配请求中携带有待请求分配的计算单元的目标单元类型;
其中,本申请实施例所指计算单元可以为电子设备中所包含的任一单元类型的计算单元,如CPU、GPU、NPU等。在一些可选实施例中,CPU主要用于解释计算机指令以及处理计算机软件中的数据,GPU主要用于处理与图像和图形相关的运算工作,NPU主要用于处理与视频、图像类的海量多媒体数据相关的运算,本申请实施例所提供的计算单元分配方法可以用于加速神经网络的运算,可以解决传统处理单元在处理神经网络运算时效率低下的问题。
可选的,本申请实施例所指计算单元也可以为电子设备包含的无法通过直接获取得到应用利用率的计算单元,如GPU、NPU等。计算单元的单元类型可以包括CPU类型、GPU类型、NPU类型等。需要说明的是,对于电子设备所包含的计算单元而言,同一单元类型的计算单元的算力相同,而不同单元类型的计算单元之间的算力不同。
上述资源分配请求可以为目标应用在运行过程中产生待处理任务后向资源分配端所发送的。资源分配请求中携带的目标单元类型为用于该待处理任务的计算单元的单元类型。
示例性的,在目标应用在运行过程中所产生的待处理任务为图像计算任务的情况下,目标应用可以向资源分配端发送请求分配单元类型为GPU类型的计算单元的资源分配请求,则目标单元类型为GPU类型。
S102,确定在当前时刻所属的资源统计周期内、目标应用对属于目标单元类型的计算单元的已占用时长,作为目标应用针对目标单元类型的资源耗时;
其中,资源统计周期可以基于需求和经验所设置的。例如,可以将资源统计周期的周期时长设置为1秒。资源分配端可以记录目标应用在资源统计周期内对计算单元的已占用时长。并在每个资源统计周期结束后,将所记录的目标应用对计算单元的已占用时长清零,以在下个资源统计周期内重新记录目标应用对计算单元的已占用时长。
在一种实现方式中,资源分配端为目标应用分配计算单元时,可以记录为目标应用分配计算单元的分配开始时刻,并在目标应用使用结束后,记录为目标应用分配计算单元的分配结束时刻。进一步计算分配结束时刻与分配开始时刻的差值,得到目标应用本次占用所分配计算单元的时长。
在资源分配端记录有目标应用每次占用所分配计算单元的时长的情况下,在一种实现方式中,可以在目标应用每次结束计算单元的使用后,将本次所得到占用所分配计算单元的时长与前期所得到的占用所分配的、属于同一单元类型的计算单元的时长相加,得到目标应用对该单元类型的计算单元的已占用时长。当接收到资源分配请求后,可以直接获取所得到的已占用时长。在另一种实现方式中,可以在接收到资源分配请求后,将记录的目标应用每次占用所分配的、属于目标单元类型的计算单元的时长相加,将相加结果作为目标应用对属于目标单元类型的计算单元的已占用时长。
S103,当基于目标应用针对目标单元类型的资源耗时,判断出目标应用符合资源分配条件时,为目标应用分配可用的、且属于目标单元类型的计算单元。
其中,不同目标应用的资源分配条件可以是不同的,每一目标用于的资源分配条件可以结合经验、需求和目标应用的重要程度所确定。对于每一目标应用而言,仅在基于目标应用针对目标单元类型的资源耗时,判断出目标应用符合资源分配条件时,才可以为目标应用分配可用的、且属于目标单元类型的计算单元。
在一种实现方式中,可以先基于目标应用针对目标单元类型的资源耗时,判断目标应用符合资源分配条件是否符合资源分配条件。若目标应用符合资源分配条件,则从电子设备包含的计算单元中,选择可用的、且属于目标单元类型的计算单元,并将所选择的计算单元分配给目标应用。
在另一种实现方式中,还可以判断电子设备包含的计算单元中是否存在可用的、且属于目标单元类型的计算单元,若存在可用的、且属于目标单元类型的计算单元,则选择该计算单元。再基于目标应用针对目标单元类型的资源耗时,判断目标应用符合资源分配条件是否符合资源分配条件,若目标应用符合资源分配条件,则将所选择的计算单元分配给目标应用。
电子设备中包含的每一计算单元均存在唯一的单元标识。如单元ID。在基于目标应用针对目标单元类型的资源耗时,判断出目标应用符合资源分配条件,且已选择可用的、且属于目标单元类型的计算单元的情况下,可以向目标应用发送可用的、且属于目标单元类型的计算单元的单元标识,以使得目标应用基于单元标识调用计算单元进行任务处理。
需要说明的是,目标应用在接收到资源分配端发送的单元标识后,可以基于该单元标识调用电子设备中该单元标识所表示的计算单元处理待处理任务。在一种实现方式中,目标应用在接收到单元标识后,具体如何基于单元标识调用计算单元与相关技术相同,本申请在此不再赘述。例如,目标用于可以通过操作系统所提供的接口调用单元标识所表示的计算单元处理待处理任务。
本实施例所提供方案中,由于资源分配端通过目标应用对计算单元的已占用时长作为分配计算单元的依据,而目标应用对计算单元的已占用时长可以反映目标应用对该计算单元的占用情况,从而可以不再依赖从计算单元获取利用率,从而可以合理分配计算单元。
基于图1的实施例,如图2所示,上述步骤S103,包括:
S104,基于目标应用针对目标单元类型的资源耗时,确定目标应用的资源占用评判参数;
其中,针对不同的应用场景,基于目标应用针对目标单元类型的资源耗时所确定的资源占用评判参数可以是不同的。
可选的,在一种应用场景中,目标应用可用的计算单元的目标单元类型为一种,即目标应用每次向资源分配端发送的资源分配请求中携带的目标单元类型是相同的。例如,目标应用1第一次向资源分配端请求GPU类型的计算单元,第二次任只向资源分配端请求GPU类型的计算单元。
需要说明的是,目标应用可用的计算单元的目标单元类型为一种并不意味着目标应用处理所有任务均只能使用一种单元类型的计算单元。即目标应用处理任务需要多种单元类型的计算单元,但只有一种单元类型的计算单元需要被分配计算资源,其他单元类型的计算单元不需要分配计算资源。
如前述所言,本申请实施例所指计算单元可以为电子设备中所包含的任一单元类型的计算单元,也可以为电子设备包含的、无法通过直接获取得到应用利用率的计算单元。而在本申请实施例所指计算单元为电子设备包含的无法通过直接获取得到应用利用率的计算单元的情况下,目标应用在运行过程中任然可以调用CPU等可以直接获取应用利用率的计算单元处理任务,但不需要向资源分配端发送资源分配请求。此时,若目标应用需要向资源分配端发送资源分配请求的计算单元的单元类型为一种,则也可以认为目标应用每次向资源分配端发送的资源分配请求中携带的目标单元类型是相同的。
示例性的,目标应用2在运行过程中需要处理三个任务,分别为任务1、任务2和任务3。其中,任务1和任务3需要调用GPU进行处理,而任务2需要调用CPU进行处理,且目标应用仅在执行任务1和任务3时向资源分配端发送资源分配请求,而在执行任务2时可以通过操作系统所提供的接口直接调用CPU进行处理,则同样可以任务目标用于2每次向资源分配端发送的资源分配请求中携带的目标单元类型是相同的。
在目标应用可用的计算单元的目标单元类型为一种的情况下,由于相同单元类型的计算单元的算力相同,因此,本步骤可以采取如下两种方式中的任意一种方式实现:
第一种方式:基于目标应用针对目标单元类型的资源耗时与目标时长的目标比值,作为目标应用的资源占用评判参数。其中,由于相同单元类型的计算单元的算力相同。因此,目标应用针对目标单元类型的资源耗时与目标时长的目标比值的大小可以反映出目标应用的算力占用请求,因此,可以将目标比值作为目标应用的资源占用评判参数。上述目标时长可以为根据禁言和需求所设置的,如可以将资源统计周期的周期时长作为目标时长。
示例性的,假设资源统计周期的周期时长为T,设当前资源统计周期内的某一时刻,目标应用A共申请n次使用目标单元类型的计算单元进行任务处理。其中,目标应用A第n次开始使用的时间为T1n,停止使用的时间为T2n,则当前时刻,目标应用A针对目标单元类型的资源耗时
Figure BDA0002868115010000131
此时应用A的资源占用评判参数为Tn/T。
第二种方式:将目标应用针对目标单元类型的资源耗时,确定为目标应用的资源占用评判参数。其中,可以直接将目标应用针对目标单元类型的资源耗时确定作为目标应用的资源占用评判参数。
可选的,在另一种应用场景中,目标应用可用的计算单元的目标单元类型为至少一种,即目标应用每次向资源分配端发送的资源分配请求中携带的目标单元类型可以是不同的。例如,目标应用3第一次向资源分配端请求GPU类型的计算单元,第二次任只向资源分配端请求NPU类型的计算单元。
由于单元类型不相同的计算单元的算力是不同的。因此,目标应用对目标单元类型的计算单元的算力占用情况不仅与目标应用的资源耗时相关,也与目标单元类型的计算单元的算力相关。
此时,目标应用可用的计算单元的目标单元类型为至少一种的情况下,由于不同单元类型的计算单元的算力是不同的,因此,本步骤可以采取如下方式实现:
计算目标应用针对目标单元类型的资源耗时与目标算力的乘积;其中,目标算力为属于该目标单元类型的计算单元的算力;基于计算得到的乘积,确定目标应用在资源统计周期内的资源消耗总量,作为目标应用的资源占用评判参数。
其中,资源分配端中可以预先记录有电子设备所包含的各计算单元的算力。进而预先确定目标算力。或者,资源分配端也可以查找各单元类型的计算单元的算力表,确定出目标单元类型的计算单元的目标算力。在计算出目标应用针对目标单元类型的资源耗时与目标算力的乘积后,可以获取目标应用针对其他单元类型的资源耗时与其他单元类型的计算单元的算力的乘积,进而将所计算的乘积相加,确定目标应用在资源统计周期内的资源消耗总量,为目标应用的资源占用评判参数。
示例性的,设当前资源统计周期内的某一时刻,目标应用A对目标单元类型a的资源耗时为Ta,目标单元类型a的目标算力为Sa,则计算出目标应用A针对目标单元类型a的资源耗时Ta与目标算力的乘积Sa的乘积=Ta*Sa。目标应用A对目标单元类型b的资源耗时为Tb,目标单元类型b的目标算力为Sb,则计算出目标应用A针对目标单元类型b的资源耗时Tb与目标算力Sb的乘积=Tb*Sb。进而得到目标应用A在资源统计周期内的资源消耗总量=Ta*Sa+Tb*Sb。
S105,判断资源占用评判参数是否小于预设的评判参数阈值;
其中,评判参数阈值可以为:基于预先建立的评判参数阈值与时间的对应关系,确定的当前时刻所对应的评判参数阈值。
可选的,评判参数阈值可以随时间进行周期性的调整。可选的,在各个阈值调整周期内,评判参数阈值的变化情况相同。示例性的,阈值调整周期由T1-T2、T2-T3和T3-T4三个时间段组成,其中,T1-T2对应的评判参数阈值为P1、T2-T3对应的评判参数阈值为P2、T3-T4对应的评判参数阈值为P3。在当前时刻处于阈值调整周期内的T1-T2时间段时,评判参数阈值为P1,在当前时刻处于阈值调整周期内的T2-T3时间段时,评判参数阈值为P2,在当前时刻处于阈值调整周期内的T3-T4时间段时,评判参数阈值为P3。
在每一个阈值调整周期内,评判参数阈值的类型与目标应用的资源占用评判参数的类型时一致的。
在资源占用评判参数为目标比值时,评判参数阈值可以为最大比值。其中,最大比值为目标应用针对目标单元类型的资源可用时长与目标时长的比值。此时,本步骤可以包括:判断资源占用评判参数是否小于最大比值。
在资源占用评判参数为资源耗时时,评判参数阈值可以为目标应用针对目标单元类型的资源可用时长。此时,本步骤可以包括:判断资源占用评判参数是否小于目标应用针对目标单元类型的资源可用时长。
在资源占用评判参数为资源消耗总量时,评判参数阈值可以为目标应用的最大可用资源量。此时,本步骤可以包括:判断目标应用的资源占用评判参数是否小于目标应用的最大可用资源量。
在判断资源占用评判参数是小于预设的评判参数阈值的情况下,则可以判定目标应用符合资源分配条件,此时,可以执行步骤S106。在判断资源占用评判参数是不小于预设的评判参数阈值的情况下,判定目标应用不符合资源分配条件,此时,则可以结束执行或向目标应用发送等待消息。
S106,为目标应用分配可用的、且属于目标单元类型的计算单元。
本步骤实现方式与前述相关实施例所提供的技术方案相同或相似,在此不再赘述。
本实施例所提供方案中,由于资源分配端通过目标应用对计算单元的已占用时长作为分配计算单元的依据,而目标应用对计算单元的已占用时长可以反映目标应用对该计算单元的占用情况,从而可以不再依赖从计算单元获取利用率,从而可以合理分配计算单元。
可选地,在本申请的另一实施例中,在上述的S102之后,可以包括如下步骤
若目标应用不符合资源分配条件,或当属于目标单元类型的计算单元均不可用时,向目标应用发送等待消息,以使得目标应用在预设时长后重新向资源分配端发送资源分配请求。
其中,目标应用不符合资源分配条件说明目标应用在当前时间周期内所占用的计算量已大超过目标应用的所能使用的最大量,此时,在当前周期内,该目标应用不应该再被分配计算单元,此时预设时长可以为当前时刻所属资源分配周期所剩余的时长。当属于目标单元类型的计算单元均不可用,则说明目标应用所请求的计算单元均处于不可用状态,此时所设置的预设时长可以为预估的计算单元完成任务处理的最快时长。需要说明的,本实施例中,预设时长还可以基于经验和需求确定。
本实施例所提供方案中,由于资源分配端通过目标应用对计算单元的已占用时长作为分配计算单元的依据,而目标应用对计算单元的已占用时长可以反映目标应用对该计算单元的占用情况,从而可以不再依赖从计算单元获取利用率,从而可以合理分配计算单元
可选地,在本申请的另一实施例中,在上述的S103之后,可以包括如下步骤:
将所分配的计算单元变更为不可用的计算单元;
当接收到目标应用反馈的计算单元释放消息后,将所分配的计算单元变更为可用的计算单元,且记录目标应用占用所分配的计算单元的时长,以更新目标应用针对目标单元类型的资源耗时。
其中,将所分配的计算单元变更为不可用的计算单元,可以对所分配的计算单元的单元状态进行调整,而计算单元的单元状态包括可用状态和不可用状态。可以预设计算单元状态表,用于记录每个计算单元的单元状态。当需要将所分配的计算单元变更为不可用的计算单元,可以将计算单元状态表中该计算单眼的单元状态修改为不可用状态。
其中,目标应用反馈的计算单元释放消息为目标应用在完成计算单元使用后向资源分配端反馈的消息。其中,该释放消息后中可以携带已完成使用的计算单元的单元ID。当接收到目标应用反馈的计算单元释放消息,则说明模板应用不需要继续使用计算单元,因此,通过将所分配的计算单元变更可用的计算单元,使得计算单元可用。
本实施例所提供方案中,由于资源分配端通过目标应用对计算单元的已占用时长作为分配计算单元的依据,而目标应用对计算单元的已占用时长可以反映目标应用对该计算单元的占用情况,从而可以不再依赖从计算单元获取利用率,从而可以合理分配计算单元。
基于上述的方法,本申请实施例还提供了一种计算单元分配系统。如图3所示,本申请实施例所提供的一种计算单元分配系统,包括电子设备中的资源分配端301和述电子设备中的目标应用302;
目标应用302用于向资源分配端301发送资源分配请求,其中,资源分配请求中携带有待请求分配的计算单元的目标单元类型;
资源分配端301,用于接收目标应用302发送的资源分配请求;确定在当前时刻所属的资源统计周期内、目标应用对属于目标单元类型的计算单元的已占用时长,作为目标应用针对目标单元类型的资源耗时;当基于目标应用针对目标单元类型的资源耗时,判断出目标应用符合资源分配条件时,为目标应用分配可用的、且属于目标单元类型的计算单元。
本实施例所提供方案中,由于资源分配端通过目标应用对计算单元的已占用时长作为分配计算单元的依据,而目标应用对计算单元的已占用时长可以反映目标应用对该计算单元的占用情况,从而可以不再依赖从计算单元获取利用率,从而可以合理分配计算单元。
可选的,资源分配端301,具体用于基于目标应用针对目标单元类型的资源耗时,确定目标应用的资源占用评判参数;判断资源占用评判参数是否小于预设的评判参数阈值,如果是,判定目标应用符合资源分配条件,否则,判定目标应用不符合资源分配条件。
可选的,目标应用302可用的计算单元的目标单元类型为一种;
资源分配端301,具体用于基于目标应用针对目标单元类型的资源耗时与目标时长的目标比值,作为目标应用的资源占用评判参数;
资源分配端301,具体用于判断资源占用评判参数是否小于最大比值;其中,最大比值为目标应用针对目标单元类型的资源可用时长与目标时长的比值。
可选的,目标应用302可用的计算单元的目标单元类型为一种;
资源分配端301,具体用于将目标应用针对目标单元类型的资源耗时,确定为目标应用的资源占用评判参数;
资源分配端301,具体用于判断资源占用评判参数是否小于目标应用针对目标单元类型的资源可用时长。
可选的,目标应用302可用的计算单元的目标单元类型为至少一种;
资源分配端301,具体用于计算目标应用针对目标单元类型的资源耗时与目标算力的乘积;其中,目标算力为属于该目标单元类型的计算单元的算力;基于计算得到的乘积,确定目标应用在资源统计周期内的资源消耗总量,作为目标应用的资源占用评判参数;
资源分配端301,具体用于判断目标应用的资源占用评判参数是否小于目标应用的最大可用资源量。
可选的,资源分配端301,还用于若目标应用不符合资源分配条件,或当属于目标单元类型的计算单元均不可用时,向目标应用发送等待消息;
目标应用302,还用于在接收到等待消息后,在预设时长后重新向资源分配端发送资源分配请求。
可选的,资源分配端301,具体用于向目标应用发送可用的、且属于目标单元类型的计算单元的单元标识;
目标应用302,还用于基于单元标识调用计算单元进行任务处理。
可选的,资源分配端301,还用于在目标应用分配可用的、且属于目标单元类型的计算单元之后,将所分配的计算单元变更为不可用的计算单元;当接收到目标应用反馈的计算单元释放消息后,将所分配的计算单元变更为可用的计算单元,且记录目标应用占用所分配的计算单元的时长,以更新目标应用针对目标单元类型的资源耗时。
目标应用302,还用于在使用被分配的计算单元完成任务处理后,向资源分配端反馈计算单元释放消息。
上述计算单元分配系统的实现方式采用图1、2所示计算单元分配方法相同或相似的方式实现,在此不在阐述。
本实施例所提供方案中,由于资源分配端通过目标应用对计算单元的已占用时长作为分配计算单元的依据,而目标应用对计算单元的已占用时长可以反映目标应用对该计算单元的占用情况,从而可以不再依赖从计算单元获取利用率,从而可以合理分配计算单元。
可选的,上述目标应用中可以包含功能模块和客户端,其中,功能模块用于实现目标应用的方法,而客户端用于与资源分配端进行通信。
其中,目标应用中功能模块将待处理任务按照特定的格式打包后放入任务队列,由客户端进行处理。客户端可以从任务队列获取待处理任务,并对任务进行数据解析,并判断该任务所需使用的计算单元的单元类型;进而根据所需计算单元的单元类型,通过通信模块向资源分配端发送携带目标单元类型的资源分配请求,进而等待资源分配端分配的结果;如果从资源分配端获取到可用的计算单元ID,客户端可以根据该ID号,将待处理任务发送给该ID所表示计算单元进行处理,等待计算单元处理结果。如果从资源分配端收到等待消息,则客户端等待预设时长后,再次向资源分配端发送资源分配请求。目标应用在计算单元处理完成后,目标应用中客户端获取到最终的处理结果,将结果反馈至对应的功能模块。并且计算单元处理完成后,客户端将计算单元的单元ID发送给资源分配端,表示计算单元使用完成,可释放。
基于图3的实施例,如图4所示,本申请的另一实施例所提供的计算单元分配系统,计算单元分配系统还可以包括:配置端303;
配置端303,用于基于预先建立的评判参数阈值与时间的对应关系,确定的当前时刻所对应的评判参数阈值;当所确定的评判参数阈值与前一时刻所对应的评判参数阈值不同时,向资源分配端发生携带有所确定评判参数阈值的阈值变更消息;
资源分配端301,还用于在接收到阈值变更消息后,将当前的评判参数阈值变更为阈值变更消息中所携带的评判参数阈值。
可选的,配置端303,还用于在接收到针对计算单元的计算单元配置操作时,向资源分配端发送计算单元状态变更消息;其中,计算单元状态变更消息用于指示变更计算单元配置操作所针对计算单元的单元状态,单元状态包括:可用状态和不可用状态;
资源分配端301,还用于在接收到计算单元状态变更消息后,对计算单元状态变更消息所针对的计算单元的单元状态进行变更。
可选的,在本申请的另一个实施例中,上述配置端303还可以收集各应用的应用信息和各计算单元的单元信息,并展示所收集的信息。
可选的,配置端303可以定时向资源分配端301发生信息获取请求,资源分配端301接收到配置端303的信息获取请求后,将预先统计的信息进行打包向配置端发送。其中,上述信息包括以下信息中的至少一种:计算单元的实时利用率,各个应用的实际算力占用情况。
配置端303接收到打包的信息后,对打包的信息进行解析,并按照预设的展示形式展示解析后的信息。其中,预设的展示形式包括以下形式中的至少一种:可视化界面、文本文件。
可选的,配置端303可以支持单次信息获取和/或连续信息获取。其中,单次信息获取为:配置端303发送一次获取指令,资源分配端301反馈一次打包的信息,配置端303只需接收并处理一次。而连续信息获取为:配置端303发送一次获取指令,资源分配端301按照固定时间间隔持续返回打包的信息,配置端303实时接收并处理。
上述计算单元分配系统的实现方式采用图1、2所示计算单元分配方法中相应内容所实现的方式相同或相似,在此不再赘述。
其中,计算单元配置操作可以为电子设备接收到的用户操作。该计算单元配置操作可以用于启动或关闭电子设备中的计算单元。
本实施例所提供方案中,由于资源分配端通过目标应用对计算单元的已占用时长作为分配计算单元的依据,而目标应用对计算单元的已占用时长可以反映目标应用对该计算单元的占用情况,从而可以不再依赖从计算单元获取利用率,从而可以合理分配计算单元。
相应于上述图1所提供的方法,如图5所示,本申请实施例还提供了一种计算单元分配装置,应用于电子设备中的资源分配端,包括:
请求接收模块501,用于接收电子设备中目标应用发送的资源分配请求,其中,资源分配请求中携带有待请求分配的计算单元的目标单元类型;
时长确定模块502,用于确定在当前时刻所属的资源统计周期内、目标应用对属于目标单元类型的计算单元的已占用时长,作为目标应用针对目标单元类型的资源耗时;
单元分配模块503,用于当基于目标应用针对目标单元类型的资源耗时,判断出目标应用符合资源分配条件时,为目标应用分配可用的、且属于目标单元类型的计算单元。
可选的,装置还包括:
条件判断模块,用于基于目标应用针对目标单元类型的资源耗时,确定目标应用的资源占用评判参数;判断资源占用评判参数是否小于预设的评判参数阈值,如果是,判定目标应用符合资源分配条件,否则,判定目标应用不符合资源分配条件。
可选的,目标应用可用的计算单元的目标单元类型为一种;
条件判断模块,具体用于基于目标应用针对目标单元类型的资源耗时与目标时长的目标比值,作为目标应用的资源占用评判参数;判断资源占用评判参数是否小于最大比值;其中,最大比值为目标应用针对目标单元类型的资源可用时长与目标时长的比值。
可选的,目标应用可用的计算单元的目标单元类型为一种;
条件判断模块,具体用于将目标应用针对目标单元类型的资源耗时,确定为目标应用的资源占用评判参数;判断资源占用评判参数是否小于目标应用针对目标单元类型的资源可用时长。
可选的,目标应用可用的计算单元的目标单元类型为至少一种;
条件判断模块,具体用于计算目标应用针对目标单元类型的资源耗时与目标算力的乘积;其中,目标算力为属于该目标单元类型的计算单元的算力;基于计算得到的乘积,确定目标应用在资源统计周期内的资源消耗总量,作为目标应用的资源占用评判参数;判断目标应用的资源占用评判参数是否小于目标应用的最大可用资源量。
可选的,评判参数阈值为:基于预先建立的评判参数阈值与时间的对应关系,确定的当前时刻所对应的评判参数阈值。
可选的,装置还包括:
消息发送模块,用于若目标应用不符合资源分配条件,或当属于目标单元类型的计算单元均不可用时,向目标应用发送等待消息,以使得目标应用在预设时长后重新向资源分配端发送资源分配请求。
可选的,单元分配模块,具体用于向目标应用发送可用的、且属于目标单元类型的计算单元的单元标识,以使得目标应用基于单元标识调用计算单元进行任务处理。
可选的,装置还包括:
单元变更模块,用于在目标应用分配可用的、且属于目标单元类型的计算单元之后,将所分配的计算单元变更为不可用的计算单元;当接收到目标应用反馈的计算单元释放消息后,将所分配的计算单元变更为可用的计算单元,且记录目标应用占用所分配的计算单元的时长,以更新目标应用针对目标单元类型的资源耗时。
本实施例所提供方案中,由于资源分配端通过目标应用对计算单元的已占用时长作为分配计算单元的依据,而目标应用对计算单元的已占用时长可以反映目标应用对该计算单元的占用情况,从而可以不再依赖从计算单元获取利用率,从而可以合理分配计算单元。
本申请实施例还提供了一种电子设备,如图6所示,包括处理器601、通信接口602、存储器603和通信总线604,其中,处理器601,通信接口602,存储器603通过通信总线604完成相互间的通信,
存储器603,用于存放计算机程序;
处理器601,用于执行存储器603上所存放的程序时,实现如下步骤:
接收所述电子设备中目标应用发送的资源分配请求,其中,所述资源分配请求中携带有待请求分配的计算单元的目标单元类型;
确定在当前时刻所属的资源统计周期内、所述目标应用对属于所述目标单元类型的计算单元的已占用时长,作为所述目标应用针对所述目标单元类型的资源耗时;
当基于所述目标应用针对所述目标单元类型的资源耗时,判断出所述目标应用符合资源分配条件时,为所述目标应用分配可用的、且属于所述目标单元类型的计算单元。
本实施例所提供方案中,由于资源分配端通过目标应用对计算单元的已占用时长作为分配计算单元的依据,而目标应用对计算单元的已占用时长可以反映目标应用对该计算单元的占用情况,从而可以不再依赖从计算单元获取利用率,从而可以合理分配计算单元。
需要说明的是,上述电子设备实现计算单元分配的其他实施例,与前述方法实施例部分提及的计算单元分配方法相同,在此不再赘述。
上述电子设备提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect,PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture,EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述电子设备与其他设备之间的通信。
存储器可以包括随机存取存储器(Random Access Memory,RAM),也可以包括非易失性存储器(Non-Volatile Memory,NVM),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(Network Processor,NP)等;还可以是数字信号处理器(Digital SignalProcessing,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本申请提供的又一实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述任一计算单元分配方法的步骤。
在本申请提供的又一实施例中,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述实施例中任一计算单元分配方法。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统、装置、电子设备、计算机可读存储介质和计算机程序产品实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本申请的较佳实施例,并非用于限定本申请的保护范围。凡在本申请的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本申请的保护范围内。

Claims (12)

1.一种计算单元分配方法,其特征在于,应用于电子设备中的资源分配端,包括:
接收所述电子设备中目标应用发送的资源分配请求,其中,所述资源分配请求中携带有待请求分配的计算单元的目标单元类型;
确定在当前时刻所属的资源统计周期内、所述目标应用对属于所述目标单元类型的计算单元的已占用时长,作为所述目标应用针对所述目标单元类型的资源耗时;
当基于所述目标应用针对所述目标单元类型的资源耗时,判断出所述目标应用符合资源分配条件时,为所述目标应用分配可用的、且属于所述目标单元类型的计算单元。
2.根据权利要求1所述的方法,其特征在于,基于所述目标应用针对所述目标单元类型的资源耗时,判断所述目标应用是否符合资源分配条件的方式,包括:
基于所述目标应用针对所述目标单元类型的资源耗时,确定所述目标应用的资源占用评判参数;
判断所述资源占用评判参数是否小于预设的评判参数阈值,如果是,判定所述目标应用符合资源分配条件,否则,判定所述目标应用不符合资源分配条件。
3.根据权利要求2所述的方法,其特征在于,所述目标应用可用的计算单元的目标单元类型为一种;
所述基于所述目标应用针对所述目标单元类型的资源耗时,确定所述目标应用的资源占用评判参数,包括:
基于所述目标应用针对目标单元类型的资源耗时与目标时长的目标比值,作为所述目标应用的资源占用评判参数;
所述判断所述资源占用评判参数是否小于预设的评判参数阈值,包括:
判断所述资源占用评判参数是否小于最大比值;其中,所述最大比值为所述目标应用针对所述目标单元类型的资源可用时长与所述目标时长的比值。
4.根据权利要求2所述的方法,其特征在于,所述目标应用可用的计算单元的目标单元类型为一种;
所述基于所述目标应用针对所述目标单元类型的资源耗时,确定所述目标应用的资源占用评判参数,包括:
将所述目标应用针对目标单元类型的资源耗时,确定为所述目标应用的资源占用评判参数;
所述判断所述资源占用评判参数是否小于预设的评判参数阈值,包括:
判断所述资源占用评判参数是否小于所述目标应用针对所述目标单元类型的资源可用时长。
5.根据权利要求2所述的方法,其特征在于,所述目标应用可用的计算单元的目标单元类型为至少一种;
所述基于所述目标应用针对所述目标单元类型的资源耗时,确定所述目标应用的资源占用评判参数,包括:
计算所述目标应用针对所述目标单元类型的资源耗时与目标算力的乘积;其中,所述目标算力为属于该目标单元类型的计算单元的算力;
基于计算得到的乘积,确定所述目标应用在所述资源统计周期内的资源消耗总量,作为所述目标应用的资源占用评判参数;
所述判断所述资源占用评判参数是否小于预设的评判参数阈值,包括:
判断所述目标应用的资源占用评判参数是否小于所述目标应用的最大可用资源量。
6.根据权利要求2所述的方法,其特征在于,所述评判参数阈值为:基于预先建立的评判参数阈值与时间的对应关系,确定的当前时刻所对应的评判参数阈值。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
若所述目标应用不符合所述资源分配条件,或当属于所述目标单元类型的计算单元均不可用时,向所述目标应用发送等待消息,以使得所述目标应用在预设时长后重新向所述资源分配端发送资源分配请求。
8.根据权利要求1所述的方法,其特征在于,所述为所述目标应用分配可用的、且属于所述目标单元类型的计算单元,包括:
向所述目标应用发送可用的、且属于所述目标单元类型的计算单元的单元标识,以使得所述目标应用基于所述单元标识调用计算单元进行任务处理。
9.根据权利要求1所述的方法,其特征在于,在所述目标应用分配可用的、且属于所述目标单元类型的计算单元之后,还包括:
将所分配的计算单元变更为不可用的计算单元;
当接收到所述目标应用反馈的计算单元释放消息后,将所分配的计算单元变更为可用的计算单元,且记录所述目标应用占用所分配的计算单元的时长,以更新所述目标应用针对所述目标单元类型的资源耗时。
10.一种计算单元分配系统,其特征在于,所述系统包括:电子设备中的资源分配端和所述电子设备中运行的目标应用,包括:
所述目标应用,用于向所述资源分配端发送所述资源分配请求,其中,所述资源分配请求中携带有待请求分配的计算单元的目标单元类型;
所述资源分配端,用于接收所述目标应用发送的资源分配请求;确定在当前时刻所属的资源统计周期内、所述目标应用对属于所述目标单元类型的计算单元的已占用时长,作为所述目标应用针对所述目标单元类型的资源耗时;当基于所述目标应用针对所述目标单元类型的资源耗时,判断出所述目标应用符合资源分配条件时,为所述目标应用分配可用的、且属于所述目标单元类型的计算单元。
11.根据权利要求10所述的系统,其特征在于,所述资源分配端,具体用于基于所述目标应用针对所述目标单元类型的资源耗时,确定所述目标应用的资源占用评判参数;判断所述资源占用评判参数是否小于预设的评判参数阈值,如果是,判定所述目标应用符合资源分配条件,否则,判定所述目标应用不符合资源分配条件。
12.一种计算单元分配装置,其特征在于,应用于电子设备中的资源分配端,包括:
请求接收模块,用于接收所述电子设备中目标应用发送的资源分配请求,其中,所述资源分配请求中携带有待请求分配的计算单元的目标单元类型;
时长确定模块,用于确定在当前时刻所属的资源统计周期内、所述目标应用对属于所述目标单元类型的计算单元的已占用时长,作为所述目标应用针对所述目标单元类型的资源耗时;
单元分配模块,用于当基于所述目标应用针对所述目标单元类型的资源耗时,判断出所述目标应用符合资源分配条件时,为所述目标应用分配可用的、且属于所述目标单元类型的计算单元。
CN202011589225.7A 2020-12-29 2020-12-29 计算单元分配方法、装置及计算单元分配系统 Active CN112685180B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011589225.7A CN112685180B (zh) 2020-12-29 2020-12-29 计算单元分配方法、装置及计算单元分配系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011589225.7A CN112685180B (zh) 2020-12-29 2020-12-29 计算单元分配方法、装置及计算单元分配系统

Publications (2)

Publication Number Publication Date
CN112685180A true CN112685180A (zh) 2021-04-20
CN112685180B CN112685180B (zh) 2023-10-10

Family

ID=75454875

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011589225.7A Active CN112685180B (zh) 2020-12-29 2020-12-29 计算单元分配方法、装置及计算单元分配系统

Country Status (1)

Country Link
CN (1) CN112685180B (zh)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150281110A1 (en) * 2014-03-28 2015-10-01 Mckesson Financial Holdings Method And Apparatus For Managing Allocation Of Communication Resources
WO2016197396A1 (zh) * 2015-06-12 2016-12-15 华为技术有限公司 一种网络设备、终端设备及资源分配方法
US20170147410A1 (en) * 2015-11-19 2017-05-25 International Business Machines Corporation Dynamic virtual processor manager
WO2017166643A1 (zh) * 2016-03-31 2017-10-05 乐视控股(北京)有限公司 一种任务资源的量化方法和装置
CN108279974A (zh) * 2017-01-06 2018-07-13 阿里巴巴集团控股有限公司 一种云资源分配方法及装置
CN110995614A (zh) * 2019-11-05 2020-04-10 华为技术有限公司 一种算力资源分配的方法及装置
CN112052088A (zh) * 2020-08-31 2020-12-08 北京升鑫网络科技有限公司 自适应的进程cpu资源限制方法、装置、终端及存储介质

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150281110A1 (en) * 2014-03-28 2015-10-01 Mckesson Financial Holdings Method And Apparatus For Managing Allocation Of Communication Resources
WO2016197396A1 (zh) * 2015-06-12 2016-12-15 华为技术有限公司 一种网络设备、终端设备及资源分配方法
US20170147410A1 (en) * 2015-11-19 2017-05-25 International Business Machines Corporation Dynamic virtual processor manager
WO2017166643A1 (zh) * 2016-03-31 2017-10-05 乐视控股(北京)有限公司 一种任务资源的量化方法和装置
CN108279974A (zh) * 2017-01-06 2018-07-13 阿里巴巴集团控股有限公司 一种云资源分配方法及装置
CN110995614A (zh) * 2019-11-05 2020-04-10 华为技术有限公司 一种算力资源分配的方法及装置
CN112052088A (zh) * 2020-08-31 2020-12-08 北京升鑫网络科技有限公司 自适应的进程cpu资源限制方法、装置、终端及存储介质

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
MANOJ KUMAR MISHRA等: "An adaptive model for resource selection and allocation in fog computing environment", COMPUTERS & ELECTRICAL ENGINEERING, vol. 77, pages 217 - 229, XP085758023, DOI: 10.1016/j.compeleceng.2019.05.010 *
汤灿恩;刘定生;马艳;: "一种基于先验知识动态分配资源的作业调度策略", 遥感信息, no. 03, pages 3 - 8 *
高原等: "异构集群中CPU与GPU协同调度算法的设计与实现", 计算机工程与设计, vol. 41, no. 02, pages 592 - 601 *

Also Published As

Publication number Publication date
CN112685180B (zh) 2023-10-10

Similar Documents

Publication Publication Date Title
CN105159782A (zh) 基于云主机为订单分配资源的方法和装置
CN106209682B (zh) 业务调度方法、装置和系统
CN107515786B (zh) 资源分配方法、主装置、从装置和分布式计算系统
JP6480642B2 (ja) 確率的帯域幅調整
WO2017166643A1 (zh) 一种任务资源的量化方法和装置
CN105227489B (zh) 一种带宽管理方法及电子设备
CN110866167B (zh) 任务分配方法、装置、服务器和存储介质
CN104657207A (zh) 远程授权请求的调度方法、业务服务器和调度系统
CN110377415A (zh) 一种请求处理方法和服务器
CN106936874B (zh) 物理资源分配方法、装置及系统
CN111813543A (zh) 一种自适应调度方法、设备及计算机可读存储介质
CA3127885A1 (en) Scheduling method and device for query request and computer system
CN106569892A (zh) 资源调度方法与设备
CN109347982A (zh) 一种数据中心的调度方法及装置
CN109670932B (zh) 信贷数据核算方法、装置、系统和计算机存储介质
CN113535398B (zh) 资源分配调整方法、装置、电子设备和可读存储介质
CN102137091A (zh) 一种过负荷控制方法、装置、系统及客户端
CN110928649A (zh) 资源调度的方法和装置
CN109117278A (zh) 一种移动终端及其进程间通信的限制方法、存储介质
CN107634978B (zh) 一种资源调度方法及装置
CN111031350B (zh) 转码资源调度方法、电子设备及计算机可读存储介质
CN112685180B (zh) 计算单元分配方法、装置及计算单元分配系统
CN115586957B (zh) 一种任务调度系统、方法、装置及电子设备
CN116820729A (zh) 离线任务调度方法、装置及电子设备
CN106131187B (zh) 一种授权的控制方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant