CN109975688A - 用于异构芯片的通用评测方法和装置 - Google Patents

Abstract

本公开的实施例公开了一种用于异构芯片的通用评测方法和装置。该方法的一具体实施方式包括：调用预先设置的驱动程序加载脚本；识别异构芯片的标识信息；加载与该标识信息相适配的驱动程序和软件开发环境，其中，该驱动程序和软件开发环境预先存储在服务器中，该服务器中还存储有该标识信息与驱动程序及软件开发环境的对应关系信息；加载测试工具，基于预设参数和预设算法，确定异构芯片的输出延迟时间或吞吐量。该实施方式实现了节省服务器评测异构芯片时的操作时间。

Description

用于异构芯片的通用评测方法和装置

技术领域

本公开的实施例涉及计算机技术领域，具体涉及用于异构芯片的通用评测方法和装置。

背景技术

异构计算是一种特殊形式的并行和分布式计算，它或是能同时支持SIMD(SingleInstruction Multiple Data，单指令多数据流)方式和MIMD(Multiple InstructionStream Multiple Data Stream，多指令流多数据流)方式的单个独立计算机，或是用由高速网络互连的一组独立计算机来完成计算任务。

异构计算卡指的是能完成异构计算的板卡，或者可以称之为异构芯片。异构芯片包括GPU、FPGA、智能加速芯片等。异构计算卡使用较多的是NVIDIA(NVIDIA Corporation，英伟达)，其评测工具发展比较完善。但是目前在异构计算卡市场中，涌现出更多公司生产的异构计算卡。但是这些异构计算卡的测试工具的功能不够完善，无法进行全面的测试。若使用NVIDIA(NVIDIA Corporation，英伟达)的测试工具测试其他公司的异构计算卡，容易出现兼容性问题。

发明内容

本公开的实施例提出了用于异构芯片的通用评测方法和装置。

第一方面，本公开的实施例提供了一种用于异构芯片的通用评测方法，该方法包括：调用预先设置的驱动程序加载脚本；识别异构芯片的标识信息；加载与标识信息相适配的驱动程序和软件开发环境，其中，驱动程序和软件开发环境预先存储在服务器中，服务器中还存储有标识信息与驱动程序及软件开发环境的对应关系；加载测试工具，基于预设参数和预设算法，确定异构芯片的输出延迟时间或吞吐量。

在一些实施例中，预设算法包括预设模型，预设参数包括不同数据类型的数据；以及基于预设参数和预设算法，确定异构芯片的输出延迟时间，包括：将不同数据类型的数据输入预设模型，得到异构芯片的输出延迟时间。

在一些实施例中，预设算法包括通用矩阵乘法，预设参数包括不同数据类型的数据；以及基于预设参数和预设算法，确定异构芯片的吞吐量，包括：将不同数据类型的数据经通用矩阵乘法进行矩阵递增运算，确定输出结果的最大值和输出结果的最大值对应的运算时间；基于输出结果的最大值和运算时间，确定异构芯片的吞吐量。

在一些实施例中，该方法还包括：运行第一程序以使异构芯片的功耗达到异构芯片的功耗最大值；检测安装有异构芯片的整机设备的第一功耗值；检测去除异构芯片后的整机设备的第二功耗值；将第一功耗值减去第二功耗值，得到异构芯片的功耗。

在一些实施例中，该方法还包括：运行第二程序以使异构芯片的利用率达到100％并运行预设时长；监测异构芯片的工作参数；比对工作参数与稳定性阈值，确定异构芯片的稳定性是否满足稳定性测试要求。

在一些实施例中，比对工作参数与稳定性阈值，确定异构芯片的稳定性是否满足稳定性测试要求，包括：确定工作参数是否大于稳定性阈值；响应于工作参数大于稳定性阈值，输出表征异构芯片的稳定性不满足稳定性测试要求的第一指示信息；响应于工作参数小于或者等于稳定性阈值，输出表征异构芯片的稳定性满足稳定性测试要求的第二指示信息。

第二方面，本公开的实施例提供了一种用于异构芯片的通用评测装置，包括：调用单元，被配置成调用预先设置的驱动程序加载脚本；识别单元，被配置成识别异构芯片的标识信息；加载单元，被配置成加载与标识信息相适配的驱动程序和软件开发环境，其中，驱动程序和软件开发环境预先存储在服务器中，服务器中还存储有标识信息与驱动程序及软件开发环境的对应关系；处理单元，被配置成加载测试工具，基于预设参数和预设算法，确定异构芯片的输出延迟时间或吞吐量。

在一些实施例中，预设算法包括预设模型，预设参数包括不同数据类型的数据；以及处理单元包括：第一处理模块，被配置成将不同数据类型的数据输入预设模型，得到异构芯片的输出延迟时间。

在一些实施例中，预设算法包括通用矩阵乘法，预设参数包括不同数据类型的数据；以及处理单元包括：运算模块，被配置成将不同数据类型的数据经通用矩阵乘法进行矩阵递增运算，确定输出结果的最大值和输出结果的最大值对应的运算时间；第二处理模块，被配置成基于输出结果的最大值和运算时间，确定异构芯片的吞吐量。

在一些实施例中，该装置还包括：功耗测试单元，被配置成运行第一程序以使异构芯片的功耗达到异构芯片的功耗最大值；第一检测单元，被配置成检测安装有异构芯片的整机设备的第一功耗值；第二检测单元，被配置成检测去除异构芯片后的整机设备的第二功耗值；功耗确定单元，被配置成将第一功耗值减去第二功耗值，得到异构芯片的功耗。

在一些实施例中，该装置还包括：功率检测单元，被配置成运行第二程序以使异构芯片的利用率达到100％并运行预设时长；第三检测单元，被配置成监测异构芯片的工作参数；稳定性确定单元，被配置成比对工作参数与稳定性阈值，确定异构芯片的稳定性是否满足稳定性测试要求。

在一些实施例中，稳定性确定单元包括：确定模块，被配置成确定工作参数是否大于稳定性阈值；第一响应模块，被配置成响应于工作参数大于稳定性阈值，输出表征异构芯片的稳定性不满足稳定性测试要求的第一指示信息；第二响应模块，被配置成响应于工作参数小于或者等于稳定性阈值，输出表征异构芯片的稳定性满足稳定性测试要求的第二指示信息。

第三方面，本公开的实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序；当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。

在一些实施例中，该电子设备还包括：功耗仪，被配置成检测安装有异构芯片的整机设备的第一功耗值，以及检测去除异构芯片后的整机设备的第二功耗值。

第四方面，本公开的实施例提供了一种计算机可读介质，其上存储有计算机程序，其中，该程序被处理器执行时实现如第一方面中任一实现方式描述的方法。

本公开的实施例提供的用于异构芯片的通用评测方法和装置，通过调用预先设置的驱动程序加载脚本，然后识别异构芯片的标识信息，从而能够获知该异构芯片的出厂厂商。然后加载与该标识信息相适配的驱动程序和软件开发环境，即加载该异构芯片的驱动程序和软件开发环境。其中，驱动程序和软件开发环境预先存储在服务器中，该服务器中还存储有标识信息与驱动程序及软件开发环境的对应关系。即直接从服务器中加载该异构芯片的驱动程序和软件开发环境。然后加载测试工具，基于预设参数和预设算法，确定异构芯片的输出延迟时间或吞吐量。即对异构芯片的性能进行测试。由于与异构芯片相适配的驱动程序和软件开发环境是预先存储好的，则在对于同一厂商制造的异构芯片来说，可以直接调用相同的驱动程序和软件开发环境。即使异构芯片的版本不同，则直接升级相应的驱动程序即可。然后再直接用测试工具进行性能测试。不需要人工对不同版本的异构芯片花费大量的时间进行环境适配和测试工具调优，对同一厂商出厂的不同的异构芯片来说，在评测其性能时，简化了适配过程、节省人力以及节省了整体评测时间。而对于不同厂商生产的异构芯片，由于与异构芯片相适配的驱动程序和软件开发环境是预先存储好的，则可以直接调用该异构芯片对应的驱动程序和软件开发环境，然后采用相同的测试工具对异构芯片的性能进行测试，节省服务器评测异构芯片时的操作时间。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本公开的其它特征、目的和优点将会变得更明显：

图1是本公开的一个实施例可以应用于其中的示例性系统架构图；

图2是根据本公开的用于异构芯片的通用评测方法的一个实施例的流程图；

图3是根据本公开的实施例的用于异构芯片的通用评测方法的一个应用场景的示意图；

图4是根据本公开的用于异构芯片的通用评测方法的又一个实施例的流程图；

图5是根据本公开的用于异构芯片的通用评测方法的再一个实施例的流程图；

图6是根据本公开的用于异构芯片的通用评测装置的一个实施例的结构示意图；

图7是适于用来实现本公开的实施例的电子设备的结构示意图。

具体实施方式

下面结合附图和实施例对本公开作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。

图1示出了可以应用本公开的用于异构芯片的通用评测方法或用于异构芯片的通用评测装置的示例性架构100。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、文本编辑类应用、浏览器类应用、阅读类应用等。

终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是具有显示屏并且支持与服务器通信的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture Experts Group Audio Layer III，动态影像专家压缩标准音频层面3)、MP4(Moving Picture Experts Group Audio LayerIV，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。

服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103的评测需求提供支持的后台评测服务器。后台评测服务器可以对异构芯片的标识信息等数据进行分析和处理，并将评测的结果反馈给终端设备。

需要说明的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。

需要说明的是，本公开的实施例所提供的用于异构芯片的通用评测方法一般由服务器105执行，相应地，用于异构芯片的通用评测装置一般设置于服务器105中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

继续参考图2，示出了根据本公开的用于异构芯片的通用评测方法的一个实施例的流程200。该用于异构芯片的通用评测方法，应用于服务器，包括以下步骤：

步骤201，调用预先设置的驱动程序加载脚本。

在本实施例中，该驱动程序加载脚本为预先编码好的。该驱动程序加载脚本可以实现的功能为：结合异构芯片的标识信息调用与该标识信息对应的驱动程序和软件开发环境。

在本实施例中，用于异构芯片的通用测试方法的执行主体(如图1所示的服务器105)可以通过有线连接方式或者无线连接方式调用预先设置的驱动程序加载脚本。具体的，上述执行主体可以获取预先存储于本地的驱动程序加载脚本，也可以获取与之通信连接的电子设备(例如图1所示的终端设备)发送的驱动程序加载脚本。

步骤202，识别异构芯片的标识信息。

在本实施例中，该标识信息是指异构芯片的卡号或者是其他能够表征异构芯片的厂商、型号的信息。例如显卡GTX 1080Ti，就可以识别出其厂商是NVIDIA，型号是GTX1080Ti。

在本实施例中，上述执行主体(如图1所示的服务器105)可以识别异构芯片的标识信息。从而获取异构芯片的厂商信息、型号信息。

步骤203，加载与该标识信息相适配的驱动程序和软件开发环境。

其中，该驱动程序和软件开发环境预先存储在服务器中，该服务器中还存储有该标识信息与驱动程序及软件开发环境的对应关系信息。作为一个示例，该对应关系信息例如可以是一个对应关系信息列表，该列表中表示有该标识信息与对应的驱动程序的编号和软件开发环境的编号。作为另一个示例，该对应关系信息例如还可以是一个代码，该代码的功能是只要获取该标识信息，其即可从数据库中检索出与该标识信息匹配的驱动程序和软件开发环境。

驱动程序，全称为设备驱动程序，是一种可以使计算机和设备通信的特殊程序。驱动程序相当于硬件的接口，操作系统通过这个接口，可以控制硬件设备的工作。本实施例中的驱动程序即为异构芯片的驱动程序。若异构芯片的驱动程序未能正确安装，便不能正常工作。驱动程序用于将异构芯片本身的功能告诉操作系统，完成异构芯片电子信号与操作系统及软件的高级编程语言之间的互相翻译。当操作系统需要使用某异构芯片时，操作系统会先发送相应的指令至该异构芯片的驱动程序，该异构芯片的驱动程序接收到该指令后，马上执行相应操作。

软件开发环境，是一组方法、过程及计算机程序的整体化构件，它支持从需求定义、程序生成直到维护的整个软件生存期。

在本实施例中，上述执行主体可以从服务器中加载与标识信息相适配的驱动程序和软件开发环境。例如对于同一个厂商生产出的异构芯片，这些异构芯片的驱动程序和软件开发环境都是相似的。即使异构芯片的版本不同，则可以在之前的异构芯片的驱动程序的基础上，升级该驱动程序即可。从而能够避免现有技术中在对每一个异构芯片进行评测时，都要对其驱动程序和软件开发环境进行适配调优，浪费大量时间的问题。

步骤204，加载测试工具，基于预设参数和预设算法，确定异构芯片的输出延迟时间或吞吐量。

在本实施例中，该测试工具是为了评测该异构芯片的性能所使用的工具。例如Anakin测试工具或者Gemm测试工具等。预设参数可以是预设的一些用于进行测试的数据。预设算法可以是现有的一些常见的模型、算法等。

在本实施例中，上述执行主体可以在加载与标识信息相适配的驱动程序和软件开发环境后，加载测试工具。然后基于预设参数和预设算法，确定异构芯片的输出延迟时间或吞吐量。从而完成对异构芯片的性能测试。

在本实施例的一些可选的实现方式中，该预设算法包括预设模型，该预设参数包括不同数据类型的数据。上述执行主体可以将不同数据类型的数据输入预设模型，得到异构芯片的输出延迟时间。这里的预设模型，例如是常用的深度学习模型：googlenet_v1、mobilenet-v1、mobilenet-v2、Resnet50、vgg16、vgg19模型。这些深度学习模型的输出为延迟时间值。具体的操作步骤为：

第一步，根据异构芯片的型号，创建对应的Anakin测试环境。

第二步，设置不同的数据类型的数据。例如设置的数据分别有INT8、FP16、FP32、FP64，批处理参数batch_size分别设为1、4、8、32，即让不同的数据分别运算的次数不同。

第三步，将不同的数据类型的数据分别输入深度学习模型中，得到输出延迟时间。由于异构芯片可能有多个，则可以得到多个输出延迟时间结果，将这些结果进行数据比对，分析异构芯片计算不同的数据的性能。例如A异构芯片在计算INT8数据的性能比较好(延迟时间短)，而B异构芯片在计算FP16数据的性能比较好(延迟时间短)。

在本实施例的一些可选的实现方式中，该预设算法包括通用矩阵乘法，该预设参数包括不同数据类型的数据。上述执行主体可以将不同数据类型的数据经通用矩阵乘法进行矩阵递增运算，确定输出结果的最大值和输出结果的最大值对应的运算时间。然后，基于该输出结果的最大值和该运算时间，确定异构芯片的吞吐量。具体地：

第一步，根据异构芯片的型号，创建对应的测试环境。

第二步，设置不同的数据类型的数据。例如设置的数据分别有INT8、FP16、FP32、FP64。

第三步，设置不同大小的矩阵，利用递增的方式(例如，32*32*32矩阵、64*64*64矩阵……)，不断计算对应的gflops值(每秒千兆次浮点运算)。通常，异构芯片的gflops值性能会呈现log函数的曲线，此时，根据该函数曲线，在该曲线趋近于平滑的位置对应的矩阵即为最大的矩阵规模。

第四步，从不断递增的gflops数据中找到最大值，以及其对应的运算时间。

第五步，将该最大值除以其对应的运算时间，得到的值即为异构芯片的吞吐量。从而完成对异构芯片的性能测试。

继续参见图3，图3是根据本公开的实施例的用于异构芯片的通用评测方法的应用场景的一个示意图300。在图3的应用场景中，后台评测服务器301首先调用预先设置的驱动程序加载脚本302。然后当有异构芯片303安装至该后台评测服务器301时，后台评测服务器301识别异构芯片303的标识信息304。

之后，后台评测服务器301加载与该标识信息304相适配的驱动程序305和软件开发环境306。需要说明的是，这里的驱动程序305和软件开发环境306是预先存储在后台评测服务器301中的。该后台评测服务器301中还存储有该标识信息304与驱动程序305及软件开发环境306的对应关系信息。该对应关系信息例如可以是一个对应关系列表信息307。

之后，后台评测服务器301加载测试工具308。然后将预设参数309经过预设算法310进行计算，从而确定异构芯片303的输出延迟时间311或吞吐量312。

目前，现有技术之一通常是每引入新的异构卡，前期都要花费大量时间进行环境适配和工具调优，导致服务器评测周期长。而本公开的上述实施例提供的方法，通过调用预先设置的驱动程序加载脚本，然后识别异构芯片的标识信息，加载与标识信息相适配的驱动程序和软件开发环境，对于不同的异构芯片来说，只要识别出其厂商信息，就可以通过驱动程序加载脚本加载与该异构芯片对应的驱动程序和软件开发环境，不需要人工进行调优，节省人力，提高工作效率。而且，还通过加载测试工具，基于预设参数和预设算法确定异构芯片的输出延迟时间或吞吐量，这样对于同一厂商的版本不同的异构芯片，在引入新版本的异构芯片时，直接更新上一版本异构芯片的驱动程序和软件开发环境，然后采用相同的测试工具，对其进行性能测试，简化评测服务器的评测周期。并且，对于同一厂商生产的不同版本的异构芯片来讲，可以通用该种评测方法。

进一步参考图4，其示出了用于异构芯片的通用评测方法的又一个实施例的流程400。该用于异构芯片的通用评测方法的流程，应用于服务器，包括以下步骤：

步骤401，调用预先设置的驱动程序加载脚本。

步骤402，识别异构芯片的标识信息。

步骤403，加载与该标识信息相适配的驱动程序和软件开发环境。

其中，该驱动程序和软件开发环境预先存储在服务器中，该服务器中还存储有该标识信息与驱动程序及软件开发环境的对应关系信息。

步骤404，加载测试工具，基于预设参数和预设算法，确定异构芯片的输出延迟时间或吞吐量。

在本实施例中，上述步骤401、步骤402、步骤403、步骤404分别与前述实施例中的步骤201、步骤202、步骤203、步骤204一致，上文针对步骤201、步骤202、步骤203和步骤204的描述也适用于步骤401、步骤402、步骤403和步骤404，此处不再赘述。

步骤405，运行第一程序以使异构芯片的功耗达到异构芯片的功耗最大值。

在本实施例中，第一程序，可以包括大矩阵运算。上述执行主体可以运行第一程序，然后利用监测工具监测异构芯片的功耗。使得异构芯片的功耗达到其功耗最大值。这里的功耗最大值可以为异构芯片的TDP(Thermal Design Power，散热设计功耗)。TDP表示当异构芯片达到负荷最大的时候释放出的热量，单位为W。

步骤406，检测安装有异构芯片的整机设备的第一功耗值。

在本实施例中，上述执行主体可以检测安装有异构芯片的整机设备的第一功耗值。这里需要说明的是，执行主体可以通过安装其上的功耗仪来检测整机设备的第一功耗值，也可以通过其他软件检测工具来检测整机设备的第一功耗值，本实施例不以此为限制。

步骤407，检测去除异构芯片后的整机设备的第二功耗值。

在本实施例中，上述执行主体在检测安装有异构芯片的整机设备之后，还要检测去除异构芯片后的整机设备的第二功耗值。

步骤408，将该第一功耗值减去该第二功耗值，得到异构芯片的功耗。

在本实施例中，上述执行主体可以将该第一功耗值减去该第二功耗值，得到差值。该差值即为异构芯片的功耗。

从图4中可以看出，与图2对应的实施例相比，本实施例中的用于异构芯片的通用评测方法的流程400体现了运行第一程序以使异构芯片的功耗达到异构芯片的功耗最大值，检测安装有异构芯片的整机设备的第一功耗值，检测去除异构芯片后的整机设备的第二功耗值的步骤，以及将该第一功耗值减去该第二功耗值，得到异构芯片的功耗的步骤。由此，本实施例描述的方案可以检测异构芯片的功耗，从而实现了不仅能够对异构芯片进行性能测试，还能够对异构芯片进行功耗测试。

进一步参考图5，其示出了用于异构芯片的通用评测方法的再一个实施例的流程500。该用于异构芯片的通用评测方法的流程，应用于服务器，包括以下步骤：

步骤501，调用预先设置的驱动程序加载脚本。

步骤502，识别异构芯片的标识信息。

步骤503，加载与该标识信息相适配的驱动程序和软件开发环境。

其中，该驱动程序和软件开发环境预先存储在服务器中。该服务器中还存储有该标识信息与驱动程序及软件开发环境的对应关系信息。

步骤504，加载测试工具，基于预设参数和预设算法，确定异构芯片的输出延迟时间或吞吐量。

在本实施例中，上述步骤501、步骤502、步骤503、步骤504分别与前述实施例中的步骤201、步骤202、步骤203、步骤204一致，上文针对步骤201、步骤202、步骤203和步骤204的描述也适用于步骤501、步骤502、步骤503和步骤504，此处不再赘述。

步骤505，运行第二程序以使异构芯片的利用率达到100％并运行预设时长。

在本实施例中，第二程序，可以包括大矩阵运算。上述执行主体可以运行第二程序，然后利用监测工具监测异构芯片的利用率。使得异构芯片的利用率达到其利用率最大值100％。

步骤506，监测异构芯片的工作参数。

在本实施例中，工作参数，可以包括异构芯片的温度、利用率、功耗、异构芯片是否掉卡(即松动现象)等信息。具体可以通过监测工具进行监测。

步骤507，比对该工作参数与稳定性阈值，确定异构芯片的稳定性是否满足稳定性测试要求。

在测试时，异构芯片出现的异常问题大致可以分为宕机类异常状况和非宕机类异常状况。宕机类异常状况包括：测试过程中服务器自动重启；或者操作系统进程被停止，所有按键无效，需要通过断电重启来解决，这一类异常状况会在BMC系统日志中进行记录。非宕机类异常状况包括：测试过程中，通过lspci指令查看异构芯片在位数是否缺少(即是否出现掉卡问题)；或者异构芯片的温度超过阈值、功耗偏高或偏低、运行频率过低、异构计算卡的利用率过低等情况，这一类的异常状况，部分会在dmesg日志(记录内核日志信息)和message日志(开机系统发生的错误记录日志)中记录，对于这一类的异常状况，上述执行主体可以在这些日志信息中过滤error、err、fail、NMI(Non Maskable Interrupt，不可屏蔽中断)、thermal trip(CPU过热保护)、io error(输入/输出错误)、reset adapter(复位适配器)、cpu clock throttled(CPU时钟受限制)等关键信息。

在本实施例中，上述执行主体获取到异构芯片的工作参数后，将该工作参数与稳定性阈值进行比对，从而确定异构芯片的稳定性是否满足稳定性测试要求。可选的，上述执行主体可以通过以下步骤确定异构芯片的稳定性是否满足稳定性测试要求：

第一步，确定该工作参数是否大于稳定性阈值。

在本可选实现方式中，上述执行主体可以将检测到的工作参数与稳定性阈值进行比较。例如该工作参数可以包括异构芯片的温度，则将该检测到的温度值与预设温度值进行比较。

第二步，响应于该工作参数大于稳定性阈值，输出表征异构芯片的稳定性不满足稳定性测试要求的第一指示信息。

在本可选实现方式中，上述执行主体可以在检测到的工作参数大于稳定性阈值时，输出表征异构芯片的稳定性不满足稳定性测试要求的第一指示信息。例如检测到的异构芯片的温度值大于预设温度值，则输出“fail”，表征异构芯片的稳定性不满足稳定性测试要求。这里需要说明的是，该工作参数还可以包括功耗、利用率等参数。当该工作参数包括多个参数时，作为一个示例，只要任何一个参数不满足稳定性测试要求，则输出结果均为表征异构芯片的稳定性不满足稳定性测试要求的第一指示信息；作为另一个示例，还可以是对于其中一个参数A，若其不满足稳定性测试要求，则该第一指示信息可以用于表征异构芯片的A参数不满足稳定性测试要求。

第三步，响应于该工作参数小于或者等于稳定性阈值，输出表征异构芯片的稳定性满足稳定性测试要求的第二指示信息。

在本可选实现方式中，上述执行主体可以在检测到的工作参数小于或者等于稳定性阈值时，输出表征异构芯片的稳定性满足温度性测试要求的第二指示信息。例如检测到的异构芯片的温度值小于预设温度值，则输出“pass”，表征异构芯片的稳定性满足稳定性测试要求。这里需要说明的是，当该工作参数包括多个参数时，作为一个示例，必须所有的工作参数均满足稳定性测试要求，则输出表征异构芯片的稳定性满足稳定性测试要求的第二指示信息；作为另一个示例，对于其中一个参数B，若其满足稳定性测试要求，则该第二指示信息可以用于表征异构芯片的B参数满足稳定性测试要求。

从图5中可以看出，与图2对应的实施例相比，本实施例中的用于异构芯片的通用评测方法的流程500体现了确定工作参数是否大于稳定性阈值，响应于该工作参数大于稳定性阈值，输出表征异构芯片的稳定性不满足稳定性测试要求的第一指示信息，响应于该工作参数小于或者等于稳定性阈值，输出表征异构芯片的稳定性满足稳定性测试要求的第二指示信息的功耗的步骤。由此，本实施例描述的方案可以检测异构芯片的稳定性，从而实现了不仅能够对异构芯片进行性能测试，还能够对异构芯片进行稳定性测试。

进一步参考图6，作为对上述各图所示方法的实现，本公开提供了用于异构芯片的通用评测装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图6所示，本实施例提供的用于异构芯片的通用评测装置600包括调用单元601、识别单元602、加载单元603和处理单元604。其中，调用单元601，被配置成调用预先设置的驱动程序加载脚本；识别单元602，被配置成识别异构芯片的标识信息；加载单元603，被配置成加载与该标识信息相适配的驱动程序和软件开发环境，其中，该驱动程序和软件开发环境预先存储在服务器中，服务器中还存储有标识信息与驱动程序及软件开发环境的对应关系信息；处理单元604，被配置成加载测试工具，基于预设参数和预设算法，确定异构芯片的输出延迟时间或吞吐量。

在本实施例中，用于异构芯片的通用评测装置600中：调用单元601、识别单元602、加载单元603和处理单元604的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201、步骤202、步骤203和步骤204的相关说明，在此不再赘述。

在本实施例的一些可选的实现方式中，上述用于异构芯片的通用评测装置600中的预设算法包括预设模型，预设参数包括不同数据类型的数据。上述处理单元604可以包括第一处理模块(图中未示出)。其中，上述第一处理模块被配置成将不同数据类型的数据输入预设模型，得到异构芯片的输出延迟时间。

在本实施例的一些可选的实现方式中，上述用于异构芯片的通用评测装置600中的预设算法包括通用矩阵乘法，预设参数包括不同数据类型的数据。上述处理单元604可以包括运算模块、第二处理模块(图中未示出)。其中，上述运算模块被配置成将不同数据类型的数据经通用矩阵乘法进行矩阵递增运算，确定输出结果的最大值和输出结果的最大值对应的运算时间；第二处理模块被配置成基于输出结果的最大值和运算时间，确定异构芯片的吞吐量。

在本实施例的一些可选的实现方式中，上述用于异构芯片的通用评测装置600还可以包括功耗测试单元、第一检测单元、第二检测单元、功耗确定单元(图中未示出)。其中，上述功耗测试单元被配置成运行第一程序以使异构芯片的功耗达到异构芯片的功耗最大值；第一检测单元被配置成检测安装有异构芯片的整机设备的第一功耗值；第二检测单元被配置成检测去除异构芯片后的整机设备的第二功耗值；功耗确定单元被配置成将第一功耗值减去所述第二功耗值，得到异构芯片的功耗。

在本实现方式中，用于异构芯片的通用评测装置600中：功耗测试单元、第一检测单元、第二检测单元和功耗确定单元的具体处理及其所带来的技术效果可分别参考图4对应实施例中的步骤405、步骤406、步骤407和步骤408的相关说明，在此不再赘述。

在本实施例的一些可选的实现方式中，上述用于异构芯片的通用评测装置600还可以包括功率测试单元、第三检测单元和稳定性确定单元(图中未示出)。其中，上述功率检测单元被配置成运行第二程序以使异构芯片的利用率达到100％并运行预设时长；第三检测单元被配置成监测异构芯片的工作参数；稳定性确定单元被配置成比对工作参数与稳定性阈值，确定异构芯片的稳定性是否满足稳定性测试要求。

在本实现方式中，用于异构芯片的通用评测装置600中：功率测试单元、第三检测单元和稳定性确定单元的具体处理及其所带来的技术效果可分别参考图5对应实施例中的步骤505、步骤506、步骤507的相关说明，在此不再赘述。

在本实施例的一些可选的实现方式中，上述稳定性确定单元可以包括：确定模块、第一响应模块和第二响应模块(图中未示出)。其中，确定模块被配置成确定工作参数是否大于稳定性阈值；第一响应模块被配置成响应于该工作参数大于稳定性阈值，输出表征异构芯片的稳定性不满足稳定性测试要求的第一指示信息；第二响应模块被配置成响应于该工作参数小于或者等于稳定性阈值，输出表征异构芯片的稳定性满足稳定性测试要求的第二指示信息。

本公开的上述实施例提供的装置，调用单元601可以调用预先设置的驱动程序加载脚本。识别单元602可以识别异构芯片的标识信息。加载单元603可以根据该标识信息加载与该标识信息相适配的驱动程序和软件开发环境。处理单元604可以加载测试工具，基于预设参数和预设算法，确定异构芯片的输出延迟时间或吞吐量。从而对于同一厂商的版本不同的异构芯片，在引入新版本的异构芯片时，直接更新上一版本异构芯片的驱动程序和软件开发环境，然后采用相同的测试工具，对其进行性能测试，简化评测服务器的评测周期。并且，对于同一厂商生产的不同版本的异构芯片来讲，可以通用该种评测装置。

下面参考图7，下面参考图7，其示出了适于用来实现本公开的实施例的电子设备(例如图1中的服务器)700的结构示意图。图7示出的服务器仅仅是一个示例，不应对本公开的实施例的功能和使用范围带来任何限制。

如图7所示，电子设备700可以包括处理装置(例如中央处理器、图形处理器等)701，其可以根据存储在只读存储器(ROM)702中的程序或者从存储装置708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。在RAM 703中，还存储有电子设备700操作所需的各种程序和数据。处理装置701、ROM 702以及RAM703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。

通常，以下装置可以连接至I/O接口705：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置706；包括例如液晶显示器(LCD，LiquidCrystal Display)、扬声器、振动器等的输出装置707；包括例如磁带、硬盘等的存储装置708；以及通信装置709。通信装置709可以允许电子设备700与其他设备进行无线或有线通信以交换数据。虽然图7示出了具有各种装置的电子设备700，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图7中示出的每个方框可以代表一个装置，也可以根据需要代表多个装置。

在本实施例的一些可选的实现方式中，该电子设备700还可以包括功耗仪(图中未示出)，该功耗仪被配置成检测安装有异构芯片的整机设备的第一功耗值，以及检测去除异构芯片后的整机设备的第二功耗值。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置709从网络上被下载和安装，或者从存储装置708被安装，或者从ROM 702被安装。在该计算机程序被处理装置701执行时，执行本公开的实施例的方法中限定的上述功能。

需要说明的是，本公开的实施例所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的实施例中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的实施例中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(Radio Frequency，射频)等等，或者上述的任意合适的组合。

上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该服务器中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该服务器执行时，使得该服务器：调用预先设置的驱动程序加载脚本；识别异构芯片的标识信息；加载与标识信息相适配的驱动程序和软件开发环境，其中，驱动程序和软件开发环境预先存储在服务器中，服务器中还存储有标识信息与驱动程序及软件开发环境的对应关系信息；加载测试工具，基于预设参数和预设算法，确定异构芯片的输出延迟时间或吞吐量。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的实施例的操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开的各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开的实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器，包括调用单元、识别单元、加载单元、处理单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，调用单元还可以被描述为“调用预先设置的驱动程序加载脚本的单元”。

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开的实施例中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (15)

1.一种用于异构芯片的通用评测方法，包括：

调用预先设置的驱动程序加载脚本；

识别异构芯片的标识信息；

加载与所述标识信息相适配的驱动程序和软件开发环境，其中，所述驱动程序和所述软件开发环境预先存储在服务器中，所述服务器中还存储有所述标识信息与所述驱动程序及所述软件开发环境的对应关系信息；

加载测试工具，基于预设参数和预设算法，确定所述异构芯片的输出延迟时间或吞吐量。

2.根据权利要求1所述的用于异构芯片的通用评测方法，其中，所述预设算法包括预设模型，所述预设参数包括不同数据类型的数据；以及

所述基于预设参数和预设算法，确定所述异构芯片的输出延迟时间，包括：

将所述不同数据类型的数据输入所述预设模型，得到所述异构芯片的输出延迟时间。

3.根据权利要求1所述的用于异构芯片的通用评测方法，其中，所述预设算法包括通用矩阵乘法，所述预设参数包括不同数据类型的数据；以及

所述基于预设参数和预设算法，确定所述异构芯片的吞吐量，包括：

将所述不同数据类型的数据经所述通用矩阵乘法进行矩阵递增运算，确定输出结果的最大值和输出结果的最大值对应的运算时间；

基于所述输出结果的最大值和所述运算时间，确定所述异构芯片的吞吐量。

4.根据权利要求1-3任一项所述的用于异构芯片的通用评测方法，其中，所述方法还包括：

运行第一程序以使所述异构芯片的功耗达到所述异构芯片的功耗最大值；

检测安装有所述异构芯片的整机设备的第一功耗值；

检测去除所述异构芯片后的整机设备的第二功耗值；

将所述第一功耗值减去所述第二功耗值，得到所述异构芯片的功耗。

5.根据权利要求1-3任一项所述的用于异构芯片的通用评测方法，其中，所述方法还包括：

运行第二程序以使所述异构芯片的利用率达到100％并运行预设时长；

监测所述异构芯片的工作参数；

比对所述工作参数与稳定性阈值，确定所述异构芯片的稳定性是否满足稳定性测试要求。

6.根据权利要求5所述的用于异构芯片的通用评测方法，其中，所述比对所述工作参数与稳定性阈值，确定所述异构芯片的稳定性是否满足稳定性测试要求，包括：

确定所述工作参数是否大于所述稳定性阈值；

响应于所述工作参数大于所述稳定性阈值，输出表征所述异构芯片的稳定性不满足稳定性测试要求的第一指示信息；

响应于所述工作参数小于或者等于所述稳定性阈值，输出表征所述异构芯片的稳定性满足稳定性测试要求的第二指示信息。

7.一种用于异构芯片的通用评测装置，包括：

调用单元，被配置成调用预先设置的驱动程序加载脚本；

识别单元，被配置成识别异构芯片的标识信息；

加载单元，被配置成加载与所述标识信息相适配的驱动程序和软件开发环境，其中，所述驱动程序和所述软件开发环境预先存储在服务器中，所述服务器中还存储有所述标识信息与所述驱动程序及所述软件开发环境的对应关系信息；

处理单元，被配置成加载测试工具，基于预设参数和预设算法，确定所述异构芯片的输出延迟时间或吞吐量。

8.根据权利要求7所述的用于异构芯片的通用评测装置，其中，所述预设算法包括预设模型，所述预设参数包括不同数据类型的数据；以及

所述处理单元包括：

第一处理模块，被配置成将所述不同数据类型的数据输入所述预设模型，得到所述异构芯片的输出延迟时间。

9.根据权利要求7所述的用于异构芯片的通用评测装置，其中，所述预设算法包括通用矩阵乘法，所述预设参数包括不同数据类型的数据；以及

所述处理单元包括：

运算模块，被配置成将所述不同数据类型的数据经所述通用矩阵乘法进行矩阵递增运算，确定输出结果的最大值和输出结果的最大值对应的运算时间；

第二处理模块，被配置成基于所述输出结果的最大值和所述运算时间，确定所述异构芯片的吞吐量。

10.根据权利要求7-9任一项所述的用于异构芯片的通用评测装置，其中，所述装置还包括：

功耗测试单元，被配置成运行第一程序以使所述异构芯片的功耗达到所述异构芯片的功耗最大值；

第一检测单元，被配置成检测安装有所述异构芯片的整机设备的第一功耗值；

第二检测单元，被配置成检测去除所述异构芯片后的整机设备的第二功耗值；

功耗确定单元，被配置成将所述第一功耗值减去所述第二功耗值，得到所述异构芯片的功耗。

11.根据权利要求7-9任一项所述的用于异构芯片的通用评测装置，其中，所述装置还包括：

功率检测单元，被配置成运行第二程序以使所述异构芯片的利用率达到100％并运行预设时长；

第三检测单元，被配置成监测所述异构芯片的工作参数；

稳定性确定单元，被配置成比对所述工作参数与稳定性阈值，确定所述异构芯片的稳定性是否满足稳定性测试要求。

12.根据权利要求11所述的用于异构芯片的通用评测装置，其中，所述稳定性确定单元包括：

确定模块，被配置成确定所述工作参数是否大于所述稳定性阈值；

第一响应模块，被配置成响应于所述工作参数大于所述稳定性阈值，输出表征所述异构芯片的稳定性不满足稳定性测试要求的第一指示信息；

第二响应模块，被配置成响应于所述工作参数小于或者等于所述稳定性阈值，输出表征所述异构芯片的稳定性满足稳定性测试要求的第二指示信息。

13.一种电子设备，包括：

一个或多个处理器；

存储装置，其上存储有一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-6中任一所述的方法。

14.根据权利要求13所述的电子设备，其中，还包括：

功耗仪，被配置成检测安装有异构芯片的整机设备的第一功耗值，以及检测去除所述异构芯片后的整机设备的第二功耗值。

15.一种计算机可读介质，其上存储有计算机程序，其中，该程序被处理器执行时实现如权利要求1-6中任一所述的方法。