CN116795771A - 数据处理装置、方法、电子设备和存储介质 - Google Patents

Abstract

本公开提供了一种数据处理装置，涉及人工智能技术领域，尤其涉及芯片技术领域。该装置包括：M个类型的计算单元，其中，M为大于或等于1的整数，M个类型的计算单元中第m类计算单元的数目为至少一个，m为大于或等于1且小于或等于M的整数；控制单元，配置为：根据第m类计算单元的任务数目，确定第m类计算单元的第一繁忙度指标值；根据第m类计算单元的功耗信息和M个类型的计算单元的实时功耗，确定第m类计算单元的第二繁忙度指标值；以及根据第m类的计算单元的计算能力、第一繁忙度指标值以及第二繁忙度指标值，确定第m类计算单元的目标使用率。本公开还提供了一种数据处理方法、电子设备和存储介质。

Description

数据处理装置、方法、电子设备和存储介质

技术领域

本公开涉及人工智能技术领域，尤其涉及芯片技术领域。更具体地，本公开提供了一种数据处理装置、方法、电子设备和存储介质。

背景技术

随着人工智能技术的发展，人工智能芯片可以高效地执行各种任务。

发明内容

本公开提供了一种数据处理装置、方法、设备以及存储介质。

根据本公开的一方面，提供了一种数据处理装置，该装置包括：M个类型的计算单元，其中，M为大于或等于1的整数，M个类型的计算单元中第m类计算单元的数目为至少一个，m为大于或等于1且小于或等于M的整数；控制单元，配置为：根据第m类计算单元的任务数目，确定第m类计算单元的第一繁忙度指标值；根据第m类计算单元的功耗信息和M个类型的计算单元的实时功耗，确定第m类计算单元的第二繁忙度指标值；以及根据第m类的计算单元的计算能力、第一繁忙度指标值以及第二繁忙度指标值，确定第m类计算单元的目标使用率。

根据本公开的另一方面，提供了一种电子设备，包括本公开提供的数据处理装置。

根据本公开的另一方面，提供了一种数据处理方法，该方法包括：根据M个类型的计算单元中第m类计算单元的任务数目，确定第m类计算单元的第一繁忙度指标值，其中，M为大于或等于1的整数，第m类计算单元的数目为至少一个，m为大于或等于1且小于或等于M的整数；根据第m类计算单元的功耗信息和M个类型的计算单元的实时功耗，确定第m类计算单元的第二繁忙度指标值；以及根据第m类的计算单元的计算能力、第一繁忙度指标值以及第二繁忙度指标值，确定第m类计算单元的目标使用率。

根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行根据本公开提供的方法。

根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行根据本公开提供的方法。

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现根据本公开提供的方法。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是根据本公开的一个实施例的数据处理装置的示意框图；

图2是根据本公开的一个实施例的控制单元的原理图；

图3是根据本公开的一个实施例的电子设备的示意图；

图4是根据本公开的一个实施例的数据处理方法的流程图；以及

图5是根据本公开的一个实施例的可以应用数据处理方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

图形处理器(Graphics Processing Unit，GPU)、神经网络处理器(Neuralnetwork Processing Unit，NPU)以及昆仑芯(XPU)等各种处理器或芯片可以作为人工智能芯片。人工智能芯片可以包括多个计算单元。这些计算单元中的至少一个计算单元可以正在执行任务。执行任务的至少一个计算单元和全部计算单元的比值，可以作为人工智能芯片的总使用率。例如，一人工智能芯片可以包括1000个计算单元。若每个计算单元均执行了一个简单的加法任务。在执行该加法任务的时段内，人工智能芯片的总使用率可以是100％。

然而，人工智能芯片可以包括不同类型的计算单元。不同类型的计算单元的计算能力是不同的。计算能力的单位可以是每秒万亿次操作(Tera Operations Per Seconds，TOPS)。例如，张量计算单元(Tensor Core)的计算能力最高可以达到512TOPS。矩阵计算单元的计算能力例如可以达到32TOPS。由此，仅使用上述的总使用率难以准确地确定人工智能芯片的工作负载情况，进而也难以优化任务调度，难以充分利用人工智能芯片的计算资源，导致任务执行效率下降。

为了提高任务执行效率，本公开提供了一种数据处理装置，下面将进行说明。

图1是根据本公开的一个实施例的数据处理装置的示意框图。

如图1所示，装置100可以包括M个类型的计算单元110和控制单元120。

M个类型的计算单元110，可以配置为执行各种任务。M可以为大于或等于1的整数。在本公开实施例中，M个类型的计算单元中第m类计算单元的数目可以为至少一个。m可以为大于或等于1且小于或等于M的整数。例如，M个类型的计算单元可以包括通用计算单元。统一计算设备架构单元(CUDA)可以作为通用计算单元。可以理解，其他计算单元也可以作为通用计算单元。通用计算单元的数目可以为512个。

控制单元120，可以配置为：根据第m类计算单元的任务数目，确定第m类计算单元的第一繁忙度指标值。根据第m类计算单元的功耗信息和M个类型的计算单元的实时功耗，确定第m类计算单元的第二繁忙度指标值。根据第m类的计算单元的计算能力、第一繁忙度指标值以及第二繁忙度指标值，确定第m类计算单元的目标使用率

在本公开实施例中，任务数目可以是第m类计算单元正在执行的任务。例如，根据任务数目和M个类型的计算单元的任务总数目，可以确定第一繁忙度指标值。

在本公开实施例中，第m类计算单元的功耗信息可以包括待机功耗和峰值功耗。例如，根据第m类计算单元的峰值功耗和M个类型的计算单元的实时功耗，可以确定第m类计算单元的第二繁忙度指标值。

在本公开实施例中，根据第m类计算单元的计算能力、第一繁忙度指标值和第二繁忙度指标值，进行各种运算，得到的运算结果可以作为目标使用率。例如，可以根据第一繁忙度指标和第二繁忙度指标进行加权运算，得到加权运算结果。根据通用计算单元的计算能力占总计算能力的比值和加权运算结果，可以确定目标使用率。

通过本公开实施例，根据任务数目、功耗和计算能力，确定了一类计算单元内的目标使用率，使得目标使用率可以更加准确地表征计算单元的使用情况。由此，有助于更加充分地使用人工智能芯片的计算资源，进而可以提高任务执行效率。

可以理解，上文对本公开的数据处理装置进行了说明，下面将对本公开的M个类型的计算单元进行进一步说明。

在本公开实施例中，M个类型的计算单元可以包括：张量计算单元、通用计算单元、图像计算单元和视频计算单元等各种类型的计算单元。例如，张量计算单元的数目可以为6个。通用计算单元的数目可以为512个。视频计算单元的数目可以为4个。图像计算单元的数目可以为1个。若数据类型为8位整型数据(int8)，6个张量计算单元的计算能力可以为256TOPS，512个通用计算单元的计算能力可以为16TOPS，4个视频计算单元的计算能力可以为20TOPS，1个图像计算单元的计算能力可以为5TOPS。可以理解，M个类型的计算单元还可以包括其他类型的计算单元，本公开对此不进行限制。

可以理解，上文对本公开的计算单元进行了说明，下面将对确定第一繁忙度指标值的一些方式进行说明。

图2是根据本公开的一个实施例的控制单元的原理图。

在一些实施例中，控制单元还可以配置为执行以下操作以确定第m类计算单元的第一繁忙度指标值：根据任务数目和M个类型的计算单元的总使用率，确定第一繁忙度指标值。以M＝4为例，上述的通用计算单元可以作为第1类计算单元，上述的张量计算单元可以作为第2类计算单元，上述的视频计算单元可以作为第3类计算单元，上述的图像计算单元可以作为第4类计算单元。通过本公开实施例，基于总使用率和任务数目，可以确定一类计算单元的第一繁忙度指标值。由此，可以利用任务数目和总使用率来确定计算单元的使用情况，有助于充分地使用人工智能芯片的计算资源。

在本公开实施例中，总使用率可以是根据执行任务的计算单元的数目和计算单元的总数目确定的。例如，总使用率例如可以是98％。

在本公开实施例中，控制单元还可以配置为执行以下操作以确定第m类计算单元的第一繁忙度指标值：根据任务数目和M个类型的计算单元的任务总数目，确定第m类计算单元的任务占比。如图2所示，根据任务数目211和任务总数目212，可以确定任务占比213。例如，任务总数目可以为274。对于M个类型的计算单元，通用计算单元的任务数目可以为256，张量计算单元的任务数目可以为6，视频计算单元的任务数目可以为2，图像计算单元的任务数目可以为10。由此，通用计算单元的任务占比可以为93.43％。张量计算单元的任务占比可以为2.19％，视频计算单元的任务数目可以为0.72％，图像计算单元的任务数目可以为3.65％。

在本公开实施例中，控制单元还配置为执行以下操作以确定第m类计算单元的第一繁忙度指标值：根据任务占比和总使用率，确定第一繁忙度指标值。如图2所示，根据任务占比213和总使用率214，可以确定第一繁忙度指标值21。例如，任务占比213和总使用率214之间的乘积，可以作为第一繁忙度指标值21。如上述，总使用率为98％。通用计算单元的第一繁忙度指标值可以为91.56％。张量计算单元的第一繁忙度指标值可以为2.15％。视频计算单元的第一繁忙度指标值可以为0.71％。图像计算单元的第一繁忙度指标值可以为3.58％。

可以理解，上文对确定第一繁忙度指标值的一些方式进行了说明，下面将对根据功耗信息和实时功耗确定第二繁忙度指标值的一些方式进行说明。

在一些实施例中，功耗信息可以包括功耗差占比。第m类计算单元的功耗差占比是根据第m类计算单元的第一功耗差和M个类型的计算单元的第二功耗差确定的。第一功耗差是根据第m类计算单元的待机功耗和峰值功耗确定的。第二功耗差是根据M个类型的计算单元的总待机功耗和总峰值功耗确定的。

如图2所示，根据待机功耗221和峰值功耗222，可以确定第一功耗差223。例如，峰值功耗222与待机功耗221之间的差值，可以作为第一功耗差223。512个通用计算单元的待机功耗可以为20瓦，峰值功耗可以为40瓦。由此，通用计算单元的第一功耗差可以为20瓦。6个张量计算单元的待机功耗可以为28瓦，峰值功耗可以为90瓦。由此，张量计算单元的第一功耗差可以为62瓦。4个视频计算单元的待机功耗可以为5瓦，峰值功耗可以为10瓦。由此，视频计算单元的第一功耗差可以为5瓦。1个图像计算单元的待机功耗可以为5瓦，峰值功耗可以为10瓦。由此，图像计算单元的第一功耗差可以为5瓦。

如图2所示，根据总峰值功耗224和总待机功耗225，可以确定第二功耗差226。例如，可以将总峰值功耗224和总待机功耗225之间的差值，作为第二功耗差226。4个类型的计算单元的总待机功耗可以为58瓦，总峰值功耗可以为150瓦。由此，第二功耗差可以为92瓦。

如图2所示，根据第一功耗差223和第二功耗差226，可以确定功耗差占比229。例如，第二功耗差可以为92瓦。如上述，通用计算单元的第一功耗差可以为20瓦。由此，对于通用计算单元，功耗差占比可以为21.74％。如上述，张量计算单元的第一功耗差可以为62瓦。由此，对于张量计算单元，功耗差占比可以为67.39％。如上述，视频计算单元的第一功耗差可以为5瓦。由此，对于视频计算单元，功耗差占比可以为5.43％。如上述，图像计算单元的第一功耗差可以为5瓦。由此，对于图像计算单元，功耗差占比可以为5.43％。

在一些实施例中，控制单元还可以配置为执行以下操作以确定第m类计算单元的第二繁忙度指标值：根据实时功耗、总待机功耗和第二功耗差，确定M个类型的计算单元的实时功耗差占比。

在本公开实施例中，控制单元还可以配置为执行以下操作以确定M个类型的计算单元的实时功耗差占比：根据实时功耗和总待机功耗，确定M个类型的计算单元的实时功耗差。根据实时功耗差和第二功耗差，确定实时功耗差占比。如图2所示，根据总待机功耗225和实时功耗227，可以确定实时功耗差228。根据实时功耗差228和第二功耗差226，可以确定实时功耗差占比2210。例如，总待机功耗225和实时功耗227之间的差值，可以作为实时功耗差228。实时功耗差228和第二功耗差226之间比值，可以作为实时功耗差占比2210。

实时功耗可以利用功耗检测单元确定。4个类型的计算单元的实时功耗可以为95瓦。如上述，总待机功耗为58瓦。由此，实时功耗差可以为37瓦。如上述，第二功耗差可以为92瓦。由此，实时功耗差占比可以为40.21％。

在一些实施例中，控制单元还可以配置为执行以下操作以确定第m类计算单元的第二繁忙度指标值：根据实时功耗差占比和功耗差占比，确定第二繁忙度指标值。如图2所示，根据功耗差占比229和实时功耗差占比2210，可以确定第二繁忙度指标值22。例如，功耗差占比229和实时功耗差占比2210之间的乘积，可以作为第二繁忙度指标值22。如上述，实时功耗差占比可以为40.21％，通用计算单元的功耗差占比为21.74％，张量计算单元的功耗差占比为67.39％，视频计算单元的功耗差占比为5.43％，图像计算单元的功耗差占比为5.43％。由此，对于通用计算单元，第二繁忙度指标值可以为8.74％；对于张量计算单元，第二繁忙度指标值可以为27.10％；对于视频计算单元，第二繁忙度指标值可以为2.18％；对于图像计算单元，第二繁忙度指标值可以为2.18％。通过本公开实施例，基于功耗差，可以确定一类计算单元的第二繁忙度指标值。由此，可以利用功耗来确定计算单元的使用情况，有助于充分地使用人工智能芯片的计算资源。

可以理解，上文对确定第二繁忙度指标值的一些方式进行了说明，下面将对确定目标使用率的一些方式进行说明。

在一些实施例中，控制单元还配置为执行以下操作以确定第m类计算单元的目标使用率：根据第一繁忙度指标值和第二繁忙度指标值，确定目标繁忙度指标值。

在本公开实施例中，控制单元还配置为执行以下操作以确定目标繁忙度指标值：利用第一权重对第一繁忙度指标值加权，得到第一加权繁忙度指标值。利用第二权重对第二繁忙度指标值加权，得到第二加权繁忙度指标值。根据第一加权繁忙度指标值和第二加权繁忙度指标值，确定目标繁忙度指标值。第一权重和第二权重是根据功耗检测单元的准确度确定的。

如图2所示，根据功耗检测单元的准确度230，可以确定第一权重231和第二权重232。例如，不同型号的人工智能芯片的功耗检测单元内的准确度是不同的。准确度可以小于或等于1。第一权重和第二权重之和可以为预设值(例如1)。以准确度是0.3为示例，针对任务数目的第一权重可以为0.7，针对功耗的第二权重可以为0.3。

如图2所示，利用第一权重231对第一繁忙度指标值21加权，可以得到第一加权繁忙度指标值233。利用第二权重232对第二繁忙度指标值22加权，可以得到第二加权繁忙度指标值234。根据第一加权繁忙度指标值233和第二加权繁忙度指标值234，确定目标繁忙度指标值23。例如，第一权重231和第一繁忙度指标值21之间的乘积，可以作为第一加权繁忙度指标值233。第二权重232和第二繁忙度指标值22之间的乘积，可以作为第二加权繁忙度指标值234。第一加权繁忙度指标值233和第二加权繁忙度指标值234之和，可以作为目标繁忙度指标值23。

如上述，第一权重可以为0.7，第二权重可以为0.3。对于通用计算单元，第一繁忙度指标值为91.56％，第二繁忙度指标值为8.74％。由此，对于通用计算单元，目标繁忙度指标值可以为66.71％。对于张量计算单元，第一繁忙度指标值为2.15％，第二繁忙度指标值为27.10％。由此，对于张量计算单元，目标繁忙度指标值可以为9.64％。对于视频计算单元，第一繁忙度指标值为0.71％，第二繁忙度指标值为2.18％。由此，对于视频计算单元，目标繁忙度指标值可以为1.15％。对于图像计算单元，第一繁忙度指标值为3.58％，第二繁忙度指标值为2.18％。由此，对于图像计算单元，目标繁忙度指标值可以为3.16％。

在一些实施例中，控制单元还可以配置为执行以下操作以确定第m类计算单元的目标使用率：根据目标繁忙度指标值和第m类计算单元的计算能力，确定目标使用率。

在本公开实施例中，控制单元还可以配置为执行以下操作以确定目标使用率：根据第m类计算单元的计算能力占比和目标繁忙度指标值，确定目标使用率。计算能力占比是根据第m类计算单元的计算能力和M个类型的计算单元的总计算能力确定的。

如图2所示，根据计算能力241和总计算能力242，可以确定计算能力占比24。例如，计算能力241和总计算能力242之间的比值，可以作为计算能力占比24。如上述，若数据类型为8位整型数据，6个张量计算单元的计算能力可以为256TOPS，512个通用计算单元的计算能力可以为16TOPS，4个视频计算单元的计算能力可以为20TOPS，1个图像计算单元的计算能力可以为5TOPS。由此，4类计算单元的总计算能力可以为297。通用计算单元的计算能力占比可以为5.39％。张量计算单元的计算能力占比可以为86.2％。视频计算单元的计算能力占比可以为6.73％。图像计算单元的计算能力占比可以为1.68％。

如图2所示，根据计算能力占比24和目标繁忙度指标值25，可以确定目标使用率25。例如，计算能力占比24和目标繁忙度指标值25之间的乘积，可以作为目标使用率25。对于通用计算单元，计算能力占比可以为5.39％，目标繁忙度指标值可以为66.71％。由此，对于通用计算单元，目标使用率可以为3.60％。对于张量计算单元，计算能力占比可以为86.20％，目标繁忙度指标值可以为7.54％。由此，对于张量计算单元，目标使用率可以为6.50％。对于视频计算单元，计算能力占比可以为6.73％，目标繁忙度指标值可以为1.15％。由此，对于视频计算单元，目标使用率可以为0.077％。对于图像计算单元，计算能力占比可以为1.68％，目标繁忙度指标值可以为3.16％。由此，对于图像计算单元，目标使用率可以为0.053％。

在本公开实施例中，控制单元还可以配置为：根据M个类型的计算单元的M个目标使用率，确定M个类型的计算单元的目标使用率之和。例如，4个类型的计算单元的目标使用率之和可以为10.23％。

如上述，M个类型的计算单元的总使用率为98％，与目标使用率之和(10.23％)之间的差异较大。通过本公开实施例，即使算力小的通用计算单元的目标繁忙度指标值较大(例如66.71％)，也只能有5.39％可以表征全部计算单元的繁忙程度。即使算力大的张量计算单元目标繁忙度指标值较小(例如7.54％)，但只要张量计算单元需要执行任务，就会对全部计算单元的繁忙程度产生86.20％的影响。

通过本公开实施例，可以充分考虑各种类型的计算单元的任务数目、功耗和算力。由此，目标使用率之和可以更贴近于真实的计算资源使用情况，使得开发人员可以从全局的角度关注计算单元的使用情况，有助于更具有针对性地做人工智能芯片的算法调优。

通过本公开实施例，也可以提高分布式系统的纳管工具(例如Kubernetes工具)中分配或预分配(申请资源等)计算任务的效率。尤其是大模型应用场景不断增加且分布式训练技术不断普及的情况下，本公开提供的目标使用率可以作为算法调优或任务调度所需的更加精准的硬件资源使用率指标，从而提高人工智能芯片的硬件资源使用效率。

可以理解，上文对确定目标使用率的一些方式进行了说明，下面将本公开的控制单元进行进一步说明。

在本公开实施例中，控制单元还可以配置为：响应于确定第m类计算单元的目标使用率小于或等于第一预设使用率阈值，将新增的任务分配给第m类计算单元。例如，第一预设使用率阈值可以是根据第m类计算单元的计算能力占比确定的。计算能力占比的50％或80％，可以作为第一预设使用率阈值。通过本公开实施例，可以将新增的任务分配给正在执行任务的计算单元。由此，计算单元在执行完当前任务之后，可以快速执行新增的任务，有助于提高任务执行效率，进而提高人工智能芯片的效率。

可以理解，上文对根据第m类计算单元的目标使用率进行任务分配的一些方式进行了说明，下面将对目标使用率之后进行任务分配的一些方式进行说明。

在本公开实施例中，控制单元还可以配置为：响应于确定M个类型的计算单元的目标使用率之和小于或等于第二预设使用率阈值，将新增的任务分配给M个类型的计算单元。例如，第二预设使用率阈值可以是预设的(例如50％)。通过本公开实施例，可以将新增的任务分配给总使用率较高的人工智能芯片。由此，计算单元在执行完当前任务之后，可以快速执行新增的任务，有助于提高任务执行效率，进而提高人工智能芯片的效率。

可以理解，上文对本公开的数据处理装置进行了说明，下面将对包括该装置的电子设备进行说明。

图3是根据本公开的一个实施例的电子设备的示意图。

如图3所示，设备3000可以包括数据处理装置300。

在本公开实施例中，数据处理装置300可以为上述的装置100。

可以理解，上文对本公开的包括数据处理装置的电子设备进行了说明，下面将对本公开的数据处理方法进行说明。

图4是根据本公开的一个实施例的数据处理方法的流程图。

如图4所示，该方法400可以包括操作S410至操作S430。

在操作S410，根据M个类型的计算单元中第m类计算单元的任务数目，确定第m类计算单元的第一繁忙度指标值。

在本公开实施例中，M为大于或等于1的整数，第m类计算单元的数目为至少一个，m为大于或等于1且小于或等于M的整数。

在操作S420，根据第m类计算单元的功耗信息和M个类型的计算单元的实时功耗，确定第m类计算单元的第二繁忙度指标值。

在操作S430，根据第m类的计算单元的计算能力、第一繁忙度指标值以及第二繁忙度指标值，确定第m类计算单元的目标使用率。

可以理解，可以利用上述的控制单元120执行方法400。

需要说明的是，操作S410与操作S420可以是先后执行的。但是本公开的实施例不限于此，这两组操作也可以按照其他顺序来执行，例如先执行操作S420，再执行操作S410，或者并行执行操作S410和操作S420。

在一些实施例中，根据M个类型的计算单元中第m类计算单元的任务数目，确定第m类计算单元的第一繁忙度指标值包括：根据任务数目和M个类型的计算单元的总使用率，确定第一繁忙度指标值。

在一些实施例中，根据任务数目和M个类型的计算单元的总使用率，确定第一繁忙度指标值包括：根据任务数目和M个类型的计算单元的任务总数目，确定第m类计算单元的任务占比；根据任务占比和总使用率，确定第一繁忙度指标值。

在一些实施例中，功耗信息包括功耗差占比，第m类计算单元的功耗差占比是根据第m类计算单元的第一功耗差和M个类型的计算单元的第二功耗差确定的，第一功耗差是根据第m类计算单元的待机功耗和峰值功耗确定的，第二功耗差是根据M个类型的计算单元的总待机功耗和总峰值功耗确定的。

在一些实施例中，根据第m类计算单元的功耗信息和M个类型的计算单元的实时功耗，确定第m类计算单元的第二繁忙度指标值包括：根据实时功耗、总待机功耗和第二功耗差，确定M个类型的计算单元的实时功耗差占比；根据实时功耗差占比和功耗差占比，确定第二繁忙度指标值。

在一些实施例中，根据实时功耗、总待机功耗和第二功耗差，确定M个类型的计算单元的实时功耗差占比包括：根据实时功耗和总待机功耗，确定M个类型的计算单元的实时功耗差；根据实时功耗差和第二功耗差，确定实时功耗差占比。

在一些实施例中，根据第m类的计算单元的计算能力、第一繁忙度指标值以及第二繁忙度指标值，确定第m类计算单元的目标使用率包括：根据第一繁忙度指标值和第二繁忙度指标值，确定目标繁忙度指标值；根据目标繁忙度指标值和第m类计算单元的计算能力，确定目标使用率。

在一些实施例中，M个类型的计算单元的实时功耗是利用功耗检测单元确定的，根据第一繁忙度指标值和第二繁忙度指标值，确定目标繁忙度指标值包括：利用第一权重对第一繁忙度指标值加权，得到第一加权繁忙度指标值；利用第二权重对第二繁忙度指标值加权，得到第二加权繁忙度指标值，其中，第一权重和第二权重是根据功耗检测单元的准确度确定的；根据第一加权繁忙度指标值和第二加权繁忙度指标值，确定目标繁忙度指标值。

在一些实施例中，根据第一加权繁忙度指标值和第二加权繁忙度指标值，确定目标繁忙度指标值包括：根据第m类计算单元的计算能力占比和目标繁忙度指标值，确定目标使用率，其中，计算能力占比是根据第m类计算单元的计算能力和M个类型的计算单元的总计算能力确定的。

在一些实施例中，方法400还包括：确定M个类型的计算单元的目标使用率之和。

在一些实施例中，方法400还包括：响应于确定第m类计算单元的目标使用率小于或等于第一预设使用率阈值，将新增的任务分配给第m类计算单元。

在一些实施例中，方法400还包括：响应于确定M个类型的计算单元的目标使用率之和小于或等于第二预设使用率阈值，将新增的任务分配给M个类型的计算单元。

本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图5示出了可以用来实施本公开的实施例的示例电子设备500的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图5所示，设备500包括计算单元501，其可以根据存储在只读存储器(ROM)502中的计算机程序或者从存储单元508加载到随机访问存储器(RAM)503中的计算机程序，来执行各种适当的动作和处理。在RAM 503中，还可存储设备500操作所需的各种程序和数据。计算单元501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。

设备500中的多个部件连接至I/O接口505，包括：输入单元506，例如键盘、鼠标等；输出单元507，例如各种类型的显示器、扬声器等；存储单元508，例如磁盘、光盘等；以及通信单元509，例如网卡、调制解调器、无线通信收发机等。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理，例如数据处理方法。例如，在一些实施例中，数据处理方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元508。在一些实施例中，计算机程序的部分或者全部可以经由ROM 502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序加载到RAM 503并由计算单元501执行时，可以执行上文描述的数据处理方法的一个或多个步骤。备选地，在其他实施例中，计算单元501可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行数据处理方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)显示器或者LCD(液晶显示器))；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (28)

1.一种数据处理装置，包括：

M个类型的计算单元，其中，M为大于或等于1的整数，所述M个类型的计算单元中第m类计算单元的数目为至少一个，m为大于或等于1且小于或等于M的整数；

控制单元，配置为：

根据所述第m类计算单元的任务数目，确定所述第m类计算单元的第一繁忙度指标值；

根据所述第m类计算单元的功耗信息和所述M个类型的计算单元的实时功耗，确定所述第m类计算单元的第二繁忙度指标值；以及

根据所述第m类的计算单元的计算能力、所述第一繁忙度指标值以及所述第二繁忙度指标值，确定所述第m类计算单元的目标使用率。

2.根据权利要求1所述的装置，其中，所述控制单元还配置为执行以下操作以确定所述第m类计算单元的第一繁忙度指标值：

根据所述任务数目和所述M个类型的计算单元的总使用率，确定所述第一繁忙度指标值。

3.根据权利要求2所述的装置，其中，所述控制单元还配置为执行以下操作以确定所述第m类计算单元的第一繁忙度指标值：

根据所述任务数目和所述M个类型的计算单元的任务总数目，确定所述第m类计算单元的任务占比；

根据所述任务占比和所述总使用率，确定所述第一繁忙度指标值。

4.根据权利要求1所述的装置，其中，所述功耗信息包括功耗差占比，第m类计算单元的功耗差占比是根据所述第m类计算单元的第一功耗差和所述M个类型的计算单元的第二功耗差确定的，所述第一功耗差是根据第m类计算单元的待机功耗和峰值功耗确定的，所述第二功耗差是根据所述M个类型的计算单元的总待机功耗和总峰值功耗确定的。

5.根据权利要求4所述的装置，其中，所述控制单元还配置为执行以下操作以确定所述第m类计算单元的第二繁忙度指标值：

根据所述实时功耗、所述总待机功耗和所述第二功耗差，确定所述M个类型的计算单元的实时功耗差占比；

根据所述实时功耗差占比和所述功耗差占比，确定所述第二繁忙度指标值。

6.根据权利要求5所述的装置，其中，所述控制单元还配置为执行以下操作以确定所述M个类型的计算单元的实时功耗差占比：

根据所述实时功耗和所述总待机功耗，确定所述M个类型的计算单元的实时功耗差；

根据所述实时功耗差和所述第二功耗差，确定所述实时功耗差占比。

7.根据权利要求1所述的装置，其中，所述控制单元还配置为执行以下操作以确定所述第m类计算单元的目标使用率：

根据所述第一繁忙度指标值和所述第二繁忙度指标值，确定目标繁忙度指标值；

根据所述目标繁忙度指标值和所述第m类计算单元的计算能力，确定所述目标使用率。

8.根据权利要求7所述的装置，其中，所述M个类型的计算单元的实时功耗是利用功耗检测单元确定的，

所述控制单元还配置为执行以下操作以确定目标繁忙度指标值：

利用第一权重对所述第一繁忙度指标值加权，得到第一加权繁忙度指标值；

利用第二权重对所述第二繁忙度指标值加权，得到第二加权繁忙度指标值，其中，所述第一权重和所述第二权重是根据所述功耗检测单元的准确度确定的；

根据所述第一加权繁忙度指标值和所述第二加权繁忙度指标值，确定所述目标繁忙度指标值。

9.根据权利要求7所述的装置，其中，所述控制单元还配置为执行以下操作以确定所述目标使用率：

根据所述第m类计算单元的计算能力占比和所述目标繁忙度指标值，确定所述目标使用率，其中，所述计算能力占比是根据所述第m类计算单元的计算能力和所述M个类型的计算单元的总计算能力确定的。

10.根据权利要求1所述的装置，其中，所述控制单元还配置为：

确定所述M个类型的计算单元的目标使用率之和。

11.根据权利要求1所述的装置，其中，所述控制单元还配置为：

响应于确定所述第m类计算单元的目标使用率小于或等于第一预设使用率阈值，将新增的任务分配给所述第m类计算单元。

12.根据权利要求1所述的装置，其中，所述控制单元还配置为：

响应于确定所述M个类型的计算单元的目标使用率之和小于或等于第二预设使用率阈值，将新增的任务分配给所述M个类型的计算单元。

13.一种电子设备，包括如权利要求1至12任一项所述的数据处理装置。

14.一种数据处理方法，包括：

根据M个类型的计算单元中第m类计算单元的任务数目，确定所述第m类计算单元的第一繁忙度指标值，其中，M为大于或等于1的整数，所述第m类计算单元的数目为至少一个，m为大于或等于1且小于或等于M的整数；

根据所述第m类计算单元的功耗信息和所述M个类型的计算单元的实时功耗，确定所述第m类计算单元的第二繁忙度指标值；以及

根据所述第m类的计算单元的计算能力、所述第一繁忙度指标值以及所述第二繁忙度指标值，确定所述第m类计算单元的目标使用率。

15.根据权利要求14所述的方法，其中，所述根据M个类型的计算单元中第m类计算单元的任务数目，确定所述第m类计算单元的第一繁忙度指标值包括：

根据所述任务数目和所述M个类型的计算单元的总使用率，确定所述第一繁忙度指标值。

16.根据权利要求15所述的方法，其中，所述根据所述任务数目和所述M个类型的计算单元的总使用率，确定所述第一繁忙度指标值包括：

根据所述任务数目和所述M个类型的计算单元的任务总数目，确定所述第m类计算单元的任务占比；

根据所述任务占比和所述总使用率，确定所述第一繁忙度指标值。

17.根据权利要求14所述的方法，其中，所述功耗信息包括功耗差占比，第m类计算单元的功耗差占比是根据所述第m类计算单元的第一功耗差和所述M个类型的计算单元的第二功耗差确定的，所述第一功耗差是根据第m类计算单元的待机功耗和峰值功耗确定的，所述第二功耗差是根据所述M个类型的计算单元的总待机功耗和总峰值功耗确定的。

18.根据权利要求17所述的方法，其中，所述根据所述第m类计算单元的功耗信息和所述M个类型的计算单元的实时功耗，确定所述第m类计算单元的第二繁忙度指标值包括：

根据所述实时功耗、所述总待机功耗和所述第二功耗差，确定所述M个类型的计算单元的实时功耗差占比；

根据所述实时功耗差占比和所述功耗差占比，确定所述第二繁忙度指标值。

19.根据权利要求17所述的装置，其中，所述根据所述实时功耗、所述总待机功耗和所述第二功耗差，确定所述M个类型的计算单元的实时功耗差占比包括：

根据所述实时功耗和所述总待机功耗，确定所述M个类型的计算单元的实时功耗差；

根据所述实时功耗差和所述第二功耗差，确定所述实时功耗差占比。

20.根据权利要求14所述的方法，其中，所述根据所述第m类的计算单元的计算能力、所述第一繁忙度指标值以及所述第二繁忙度指标值，确定所述第m类计算单元的目标使用率包括：

根据所述第一繁忙度指标值和所述第二繁忙度指标值，确定目标繁忙度指标值；

根据所述目标繁忙度指标值和所述第m类计算单元的计算能力，确定所述目标使用率。

21.根据权利要求20所述的方法，其中，所述M个类型的计算单元的实时功耗是利用功耗检测单元确定的，

所述根据所述第一繁忙度指标值和所述第二繁忙度指标值，确定目标繁忙度指标值包括：

利用第一权重对所述第一繁忙度指标值加权，得到第一加权繁忙度指标值；

利用第二权重对所述第二繁忙度指标值加权，得到第二加权繁忙度指标值，其中，所述第一权重和所述第二权重是根据所述功耗检测单元的准确度确定的；

根据所述第一加权繁忙度指标值和所述第二加权繁忙度指标值，确定所述目标繁忙度指标值。

22.根据权利要求20所述的方法，其中，所述根据所述第一加权繁忙度指标值和所述第二加权繁忙度指标值，确定所述目标繁忙度指标值包括：

根据所述第m类计算单元的计算能力占比和所述目标繁忙度指标值，确定所述目标使用率，其中，所述计算能力占比是根据所述第m类计算单元的计算能力和所述M个类型的计算单元的总计算能力确定的。

23.根据权利要求14所述的方法，还包括：

确定所述M个类型的计算单元的目标使用率之和。

24.根据权利要求14所述的方法，还包括：

响应于确定所述第m类计算单元的目标使用率小于或等于第一预设使用率阈值，将新增的任务分配给所述第m类计算单元。

25.根据权利要求14所述的方法，还包括：

响应于确定所述M个类型的计算单元的目标使用率之和小于或等于第二预设使用率阈值，将新增的任务分配给所述M个类型的计算单元。

26.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求14至25中任一项所述的方法。

27.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求14至25中任一项所述的方法。

28.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求14至25中任一项所述的方法。