CN116795615A - 一种芯片评测方法、系统、电子设备和存储介质 - Google Patents

一种芯片评测方法、系统、电子设备和存储介质 Download PDF

Info

Publication number
CN116795615A
CN116795615A CN202310854690.6A CN202310854690A CN116795615A CN 116795615 A CN116795615 A CN 116795615A CN 202310854690 A CN202310854690 A CN 202310854690A CN 116795615 A CN116795615 A CN 116795615A
Authority
CN
China
Prior art keywords
chip
test
tested
image
interface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310854690.6A
Other languages
English (en)
Inventor
田辉
张凯
王亚明
王静宜
尹光雨
焦育成
甘棣元
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
FAW Group Corp
Original Assignee
FAW Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by FAW Group Corp filed Critical FAW Group Corp
Priority to CN202310854690.6A priority Critical patent/CN116795615A/zh
Publication of CN116795615A publication Critical patent/CN116795615A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/22—Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing
    • G06F11/2205—Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing using arrangements specific to the hardware being tested
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/22—Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing
    • G06F11/2263—Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/22—Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing
    • G06F11/2273—Test methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Quality & Reliability (AREA)
  • Computer Hardware Design (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种芯片评测方法、装置、电子设备和存储介质，其中，该方法包括：根据图像测试集输入待测芯片进行测试，其中，所述图像测试集包括测试图像和可信度阈值，确定所述待测芯片对应所述图像测试集的负荷情况以及测试指标，在不同所述负荷情况下统计所述测试指标为所述待测芯片的评测结果。本发明实施例通过根据图像测试集对待测芯片进行测试并得到对应的负荷情况以及测试指标，进而在不同负荷情况下统计对应的测试指标作为待测芯片的评测结果，保证了芯片评测的测试场景的一致性，使得芯片的评测结果可靠性更高，便于指导芯片的开发和测试。

Description

一种芯片评测方法、系统、电子设备和存储介质
技术领域
本发明涉及计算机技术领域，尤其涉及一种芯片评测方法、装置、电子设备和存储介质。
背景技术
在人工智能(Artificial Intelligence，AI)领域，AI芯片也称AI加速器，是一种专门用于处理AI应用中的大量计算任务的芯片。性能评测作为AI芯片的研发过程中十分重要的一个环节，可以验证AI芯片的性能是否满足实际场景需求。
在针对AI芯片的研发工程中，由于各种类别神经网络的引入，要求芯片具备更强的适配性和鲁棒性。但现有的芯片评测方法主要集中在芯片的功耗和帧率测试上，对于芯片的负荷、模型的输入条件和准确率等因素没有约束，无法保证测试场景的一致性，进而导致生成的芯片评测结果可靠性不高。
发明内容
本发明提供了一种芯片评测方法、装置、电子设备和存储介质，以根据图像测试集对待测芯片进行测试得到对应的负荷情况以及测试指标，进而在不同负荷情况下统计对应的测试指标作为待测芯片的评测结果，保证了芯片评测的测试场景的一致性，使得芯片的评测结果可靠性更高，便于指导芯片的开发和测试。
根据本发明的一方面，提供了一种芯片评测方法，该方法包括：
根据图像测试集输入待测芯片进行测试，其中，图像测试集包括测试图像和可信度阈值；
确定待测芯片对应图像测试集的负荷情况以及测试指标；
在不同负荷情况下统计测试指标为待测芯片的评测结果。
根据本发明的另一方面，提供了一种芯片评测装置，该装置包括：
芯片测试模块，用于根据图像测试集输入待测芯片进行测试，其中，图像测试集包括测试图像和可信度阈值；
负荷及测试指标确定模块，用于确定待测芯片对应图像测试集的负荷情况以及测试指标；
评测结果生成模块，用于在不同负荷情况下统计测试指标为待测芯片的评测结果。
根据本发明的另一方面，提供了一种电子设备，所述电子设备包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明任一实施例所述的芯片评测方法。
根据本发明的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本发明任一实施例所述的芯片评测方法。
本发明实施例的技术方案，通过根据图像测试集输入待测芯片进行测试，其中，图像测试集包括测试图像和可信度阈值，确定待测芯片对应图像测试集的负荷情况以及测试指标，在不同负荷情况下统计测试指标为待测芯片的评测结果。本发明实施例通过根据图像测试集对待测芯片进行测试并得到对应的负荷情况以及测试指标，进而在不同负荷情况下统计对应的测试指标作为待测芯片的评测结果，保证了芯片评测的测试场景的一致性，使得芯片的评测结果可靠性更高，便于指导芯片的开发和测试。
应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是根据本发明实施例一提供的一种芯片评测方法的流程图；
图2是根据本发明实施例二提供的一种芯片评测方法的流程图；
图3是根据本发明实施例三提供的一种芯片评测方法的流程图；
图4是根据本发明实施例三提供的一种芯片接口驱动功能测试的示例图；
图5是根据本发明实施例三提供的一种芯片接口速率带宽测试的示例图；
图6是根据本发明实施例三提供的一种芯片负荷宽测试的示例图；
图7是根据本发明实施例三提供的一种芯片功耗测试的示例图；
图8是根据本发明实施例三提供的一种优化神经网络模型和算法的流程示例图；
图9是根据本发明实施例四提供的一种芯片评测装置的结构示意图；
图10是实现本发明实施例的芯片评测方法的电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。
需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例一
图1为本发明实施例一提供了一种芯片评测方法的流程图，本实施例可适用于对芯片进行评测情况，该方法可以由芯片评测装置来执行，该芯片评测装置可以采用硬件和/或软件的形式实现，该芯片评测装置可配置于电子设备中，该电子设备例如可以是计算机设备或服务器等。如图1所示，本实施例一提供的一种芯片评测方法，具体包括如下步骤：
S110、根据图像测试集输入待测芯片进行测试，其中，图像测试集包括测试图像和可信度阈值。
其中，待测芯片可以是指用于进行性能评测的目标芯片，待测芯片可以是各种类型的AI芯片，例如可以包括但不限于：系统级芯片(System on Chip，SoC)、应用特定集成电路(Application-Specific Integrated Circuit，ASIC)芯片、现场可编程门阵列(Field-Programmable Gate Array，FPGA)芯片等。图像测试集可以是指用于对待测芯片中的神经网络模型或AI算法进行测试的图像数据集，图像测试集可以包括测试图像和可信度阈值，测试图像可以采用现有的一些开源数据集，例如KITTI数据集、Apollo Scape数据集和Waymo数据集等，也可以通过待测芯片连接的摄像头在实际场景中采集获得，本发明实施例对此不进行限制；可信度阈值可以是指针对待测芯片中的神经网络模型或AI算法预先设置的模型可信度阈值，可信度阈值可以用来衡量待测芯片中的神经网络模型或AI算法的识别准确度，可信度阈值可以设置为85％或90％等。
在本发明实施例中，在需要对待测芯片进行评测时，可以将预先配置的图像测试集输入到待测芯片中进行性能评测，得到神经网络模型输出的满足可信度阈值的模型测试结果，其中，图像测试集可以包括测试图像和可信度阈值，测试图像可以采用KITTI数据集、Apollo Scape数据集和Waymo数据集等开源数据集，也可以采用待测芯片连接的摄像头在实际场景中采集的图像，本发明实施例对此不进行限制。在一具体实施例中，可以接收上位机发送的测试命令以及图像测试集，再从该测试命令中解析出待测芯片中的神经网络模型编号，进而按照图像测试集对待测芯片中对应编号的神经网络模型进行图像识别测试，以得到图像测试集对应的模型识别结果。
S120、确定待测芯片对应图像测试集的负荷情况以及测试指标。
其中，负荷情况可以理解为待测芯片中的各种功能模块在测试过程中占用中央处理器(Central Processing Unit，CPU)资源和总线资源的情况，负荷情况可以包括：CPU使用率、图形处理器(Graphics Processing Unit，GPU)使用率、图像信号处理(Image SignalProcessing，ISP)模块使用率、数字信号处理(Digital Signal Processing，DSP)模块使用率、总线资源使用情况等。测试指标可以理解为针对待测芯片的性能评测的衡量指标，测试指标可以包括：神经网络模型或AI算法的识别准确度、每帧测试图像的识别时间、工作温度、功耗等。
在本发明实施例中，可以在待测芯片的测试过程中获取对应的负荷情况以及测试指标，其中，负荷情况可以包括CPU使用率、GPU使用率、ISP模块使用率、DSP模块使用率、总线资源使用情况等，测试指标可以包括神经网络模型或AI算法的识别准确度、每帧测试图像的识别时间、工作温度、功耗等。在一具体实施例中，可以在待测芯片的测试过程，按照预设检测频率采集待测芯片中各种功能模块的资源占用情况作为待测芯片的负荷情况，并获取待测芯片在测试过程中的工作温度、功耗、神经网络模型的识别准确度、每帧测试图像的识别时间等数据作为待测芯片的测试指标。
S130、在不同负荷情况下统计测试指标为待测芯片的评测结果。
其中，评测结果可以理解为针对待测芯片的性能评测结果，评测结果可以是单张待测芯片评测的结果，也可以是多张待测芯片对应的综合评测结果，本发明实施例对此不进行限制，评测结果可以包括待测芯片在不同负荷情况下的测试指标的分组或分类信息。
在本发明实施例中，可以按照获取的待测芯片的不同负荷情况，将对应的测试指标进行统计分组，并将分组后的结果作为待测芯片的评测结果，其中，评测结果既可以是单张待测芯片对应的评测结果，也可以是多张待测芯片对应的综合评测结果，本发明实施例对此不进行限制。进一步的，待测芯片对应的评测结果可以通过图表等形式在上位机或其他测试设备进行可视化展示，以便测试人员可以快速且方便地了解待测芯片的性能情况。
本发明实施例的技术方案，通过根据图像测试集输入待测芯片进行测试，其中，图像测试集包括测试图像和可信度阈值，确定待测芯片对应图像测试集的负荷情况以及测试指标，在不同负荷情况下统计测试指标为待测芯片的评测结果。本发明实施例通过根据图像测试集对待测芯片进行测试并得到对应的负荷情况以及测试指标，进而在不同负荷情况下统计对应的测试指标作为待测芯片的评测结果，保证了芯片评测的测试场景的一致性，使得芯片的评测结果可靠性更高，便于指导芯片的开发和测试。
实施例二
图2为本发明实施例二提供的一种芯片评测方法的流程图，基于上述实施方式进一步进行优化与扩展，并可以与上述实施方式中各个可选技术方案结合。如图2所示，本实施例二提供的一种芯片评测方法，具体包括如下步骤：
S210、接收上位机发送的测试命令，并获取上位机或者摄像头传输的图像测试集。
其中，上位机可以理解为用于向待测芯片发送测试命令的设备，上位机可以是计算机、手机、平板、面板和触摸屏等设备。测试命令可以是指上位机发送的用于对待测芯片进行性能评测的控制命令，测试命令可以包括测试接口、测试功能项、测试对象等信息，测试接口可以包括待测芯片的一些驱动接口，例如摄像头输入接口、视频输出接口、总线接口、存储接口、周边接口等，测试功能项可以包括芯片接口驱动功能测试、芯片接口速率带宽测试、芯片识别帧率测试、芯片负荷测试、芯片功耗测试等，测试对象可以包括待测芯片中预先配置的各种神经网络模型和算子等。
在本发明实施例中，在需要对待测芯片进行评测时，可以接收上位机传输的测试命令，并通过上位机或者待测芯片连接的摄像头获取用于对待测芯片进行测试的图像测试集。
S220、将图像测试集中的测试图像输入至待测芯片中的神经网络模型，并接收神经网络模型输出的满足可信度阈值的模型测试结果。
其中，神经网络模型可以是用于图像识别的神经网络，例如卷积神经网络、深度神经网络等，待测芯片中可以预先存储一个或者多个神经网络模型。模型测试结果可以至少包括测试图像的识别结果、每帧测试图像的识别时间等。
在本发明实施例中，可以将获取到的图像测试集中的每帧测试图像依次输入到待测芯片中的神经网络模型，利用预先存储的神经网络模型对待测图像中的待检测目标进行识别测试，并在模型的识别准确度满足可信度阈值时，接收神经网络模型输出的模型测试结果，其中，模型测试结果可以至少包括测试图像的识别结果、每帧测试图像的识别时间等。
S230、将模型测试结果与模型参考结果进行比对，得到神经网络模型的识别准确度。
其中，模型参考结果可以理解为针对神经网络模型的参考结果，模型参考结果可以包括测试图像对应的参考识别结果等。
在本发明实施例中，在获取到待测芯片中的神经网络模型对应的模型测试结果之后，可以将该模型测试结果与预先配置的模型参考结果进行比对，进而得到对应神经网络模型的识别准确度，其中，模型参考结果可以是测试图像的参考识别结果。
S240、获取待测芯片在测试过程中的负荷情况，负荷情况包括以下至少之一：中央处理器使用率、图形处理器使用率、图像信号处理模块使用率、数字信号处理模块使用率。
在本发明实施例中，可以在待测芯片的测试过程中，例如可以是按照预设检测频率获取待测芯片的实时负荷情况，其中，负荷情况包括以下至少之一：CPU使用率、GPU使用率、ISP模块使用率、DSP模块使用率。
S250、获取每帧测试图像对应模型测试结果中的识别时间作为识别速率，并将识别准确度和识别速率作为测试指标。
在本发明实施例中，可以在获取的模型测试结果中确定每帧测试图像的识别时间作为识别速率，并将神经网络模型的识别准确度和每帧测试图像的识别速率作为待测芯片的测试指标。
S260、按照不同负荷情况将测试指标中的识别准确度和识别速率进行分组，并将分组后的结果作为评测结果。
在本发明实施例中，可以按照不同负荷情况将测试指标中对应的识别准确度和识别速率进行分组，可以将分组的结果通过下面表格的形式作为待测芯片的评测结果。
进一步地，在本发明实施例中，可以将多张待测芯片按照上述步骤进行测试，并在相同输入条件(例如相同的图像测试集)和相同负荷情况下，比较每个芯片的评测结果，通过保证每个芯片具有相同的测试环境，可以使得芯片的评测结果一致性和可靠性更高，更具说服力。
进一步地，在上述发明实施例的基础上，本发明实施例二提供的一种芯片评测方法，还包括：
在测试指标的识别准确度低于可信度阈值时，按照预设模型优化方式对待测芯片中的神经网络模型进行优化，其中，预设模型优化方式包括以下至少之一：减小测试图像尺寸、更改数据的存储位置、修改神经网络模型的模型参数。
在本发明实施例中，若针对待测芯片的测试指标中的识别准确度低于预先设置的可信度阈值时，可以按照预先配置的模型优化方式对待测芯片中的神经网络模型进行优化，以使得待测芯片中的神经网络模型对应的识别准确度满足可信度阈值，其中，预设模型优化方式可以包括以下至少之一：减小测试图像尺寸、更改数据的存储位置、修改神经网络模型的模型参数。
进一步地，在上述发明实施例的基础上，本发明实施例二提供的一种芯片评测方法，还包括：
按照上位机发送的测试命令对待测芯片的待测驱动接口进行速率和带宽测试，其中，待测驱动接口包括以下至少之一：摄像头输入接口、视频输出接口、总线接口、存储接口、周边接口。
在本发明实施例中，可以接收上位机发送的测试命令，从测试命令中解析出待测芯片的待测驱动接口以及用于芯片接口速率带宽测试的测试脚本，进而按照该测试脚本对待测芯片的对应驱动接口进行速率和带宽测试，其中，待测驱动接口可以包括以下至少之一：摄像头输入接口、视频输出接口、总线接口、存储接口、周边接口。在一具体实施例中，以存储接口中的第四代双倍数据率(Double-Data-Rate Fourth Generation，DDR4)接口为例，可以按照芯片速率带宽测试对应的测试脚本，向待测芯片内依次增加神经网络模型的数量，并在此过程中获取待测芯片的DDR4接口的读写速率和带宽，当神经网络模型的数量增加至DDR4接口的读写速率和带宽不再变化时，即可得到DDR4接口的最大速率和带宽。
进一步地，在上述发明实施例的基础上，本发明实施例二提供的一种芯片评测方法，还包括：
按照预设检测频率获取待测芯片的供电电压和供电电流；
将供电电压和供电电流的乘积作为待测芯片的功耗值。
在本发明实施例中，在待测芯片的评测过程中，可以按照预设检测频率(例如不限于10毫秒等)获取待测芯片实时的供电电压和供电电流，并将供电电压和供电电流的乘积作为待测芯片的实时功耗值。可以理解的是，待测芯片可能由多个电源进行供电，此时可以将所有电源的供电电压和供电电流的乘积之和作为待测芯片的实时功耗值。
本发明实施例的技术方案，通过接收上位机发送的测试命令，并获取上位机或者摄像头传输的图像测试集，将图像测试集中的测试图像输入至待测芯片中的神经网络模型，并接收神经网络模型输出的满足可信度阈值的模型测试结果，将模型测试结果与模型参考结果进行比对，得到神经网络模型的识别准确度，获取待测芯片在测试过程中的负荷情况，负荷情况包括以下至少之一：中央处理器使用率、图形处理器使用率、图像信号处理模块使用率、数字信号处理模块使用率，获取每帧测试图像对应模型测试结果中的识别时间作为识别速率，并将识别准确度和识别速率作为测试指标，按照不同负荷情况将测试指标中的识别准确度和识别速率进行分组，并将分组后的结果作为评测结果。本发明实施例通过根据图像测试集对待测芯片中的神经网络模型进行图像识别测试，得到对应的识别准确度和识别速率作为测试指标，进而按照不同负荷情况将测试指标中的识别准确度和识别速率进行分组，并将分组后的结果作为评测结果，保证了芯片评测的测试场景的一致性，使得芯片的评测结果可靠性更高，便于指导芯片的开发和测试。
实施例三
图3为本发明实施例三提供的一种芯片评测方法的流程图，本实施例在上述实施例的基础上，提供了一种芯片评测方法的一个实施方式，能够实现待测AI芯片的性能评测。如图3所示，本发明实施例三提供的一种芯片评测方法，具体包括如下步骤：
S310、按照上位机发送的测试命令对待测芯片的待测驱动接口进行芯片接口驱动功能测试。
在本发明实施例中，如图4所示，可以接收上位机发送的测试命令，从测试命令中解析出待测芯片的待测驱动接口以及用于芯片接口驱动功能测试的测试脚本，进而按照该测试脚本对待测芯片的对应驱动接口进行芯片接口驱动功能测试，其中，待测驱动接口可以包括：摄像头输入接口、视频输出接口、高速外围组件互联(Peripheral ComponentInterconnect Express，PCIe)总线接口、精简吉比特介质独立接口(Reduced GigabitMedia Independent Interface，RGMII)、DDR4存储接口、Nor Falsh存储接口、嵌入式多媒体卡(embedded Multi Media Card，eMMC)存储接口、周边控制器局域网(Controller AreaNetwork，CAN)接口、音频接口、USB接口等。以Nor Falsh存储接口的驱动功能测试为例，可以对其八线串行外设接口(Octal Serial Peripheral Interface，OSPI)的接口性能进行测试，同时为了保证负荷率，可以对其进行打压，如要求负荷率为70％，另外对Flash进行读写，按照芯片手册要求，在全生命周期里按照读写总次数要求进行对Nor Falsh存储接口进行读写测试。
S320、按照上位机发送的测试命令对待测芯片的待测驱动接口进行芯片接口速率带宽测试。
在本发明实施例中，可以接收上位机发送的测试命令，从测试命令中解析出待测芯片的待测驱动接口以及用于芯片接口速率带宽测试的测试脚本，进而按照该测试脚本对待测芯片的对应驱动接口进行芯片接口速率带宽测试。以存储接口中的DDR4接口为例，如图5所示，可以按照芯片速率带宽测试对应的测试脚本，向待测芯片内依次增加神经网络模型的数量，并在此过程中对待测芯片的DDR4接口的波形检测，确定波形的上升时间和下降时间，其次对DDR4接口的读写速率进行检测，最终对时钟频率和带宽进行测试，当神经网络模型的数量增加至DDR4接口的读写速率和带宽不再变化时，即可得到DDR4接口的最大速率和带宽。
S330、接收上位机发送的测试命令，并获取上位机或者摄像头传输的图像测试集，将图像测试集中的测试图像输入至待测芯片中的神经网络模型，并接收神经网络模型输出的满足可信度阈值的模型测试结果。
S340、将模型测试结果与模型参考结果进行比对，得到神经网络模型的识别准确度，以及获取每帧测试图像对应模型测试结果中的识别时间作为识别速率，并将识别准确度和识别速率作为测试指标。
S350、获取待测芯片在测试过程中的负荷情况。
在本发明实施例中，可以在待测芯片的测试过程中，例如可以是按照预设检测频率获取待测芯片的实时负荷情况。如图6所示，可以将测试图像分别存储到不同的随机存取存储器(Random Access Memory，RAM)中，获取待测芯片在不同测试环境下的负荷情况，负荷情况可以包括：CPU使用率、GPU使用率、ISP模块使用率、DSP模块使用率等。
S360、按照预设检测频率获取待测芯片在测试过程中的功耗情况。
在本发明实施例中，如图7所示，可以在待测芯片的测试过程中按照预设检测频率例如10毫秒，实时采集待测芯片的所有供电电压及供电电流，并进行保存到功率记录中，作为待测芯片的功耗性能输出。通常待测芯片会有4路或以上电源进行供电，可以将所有电源的供电电压和供电电流的乘积之和作为待测芯片的实时功耗值。
S370、在测试指标的识别准确度低于可信度阈值时，按照预设模型优化方式对待测芯片中的神经网络模型和算法进行优化。
在本发明实施例中，如图8所示，为了实现最优化的评测结果，兼顾结果的可信度，可以设置可信度评判方法，具体的，待测芯片中的神经网络模型会将测试图像识别成多种识别结果，其中每种识别结果对应的可能性有所不同，可以按照可能性高低进行排序，最高的为TOP1，依次排序，最终神经网络模型的识别准确度要满足：TOP1的准确率高于85％和TOP5的准确率高于95％，若神经网络模型的识别准确度低于上述可信度阈值时，需要对待测芯片中的神经网络模型和算法进行优化，预设模型优化方式可以包括：减小测试图像尺寸、更改数据的存储位置、修改神经网络模型的模型参数等。
S380、按照不同负荷情况将测试指标中的识别准确度和识别速率进行分组，并将分组后的结果作为评测结果。
在本发明实施例中，如下表所示，可以将多张待测芯片按照上述步骤进行测试，并在相同输入条件(例如相同的图像测试集)和相同负荷情况下，比较每个芯片的评测结果，通过保证每个芯片具有相同的测试环境，可以使得芯片的评测结果一致性和可靠性更高，更具说服力。
本发明实施例的技术方案，通过按照上位机发送的测试命令对待测芯片的待测驱动接口进行芯片接口驱动功能测试，按照上位机发送的测试命令对待测芯片的待测驱动接口进行芯片接口速率带宽测试，接收上位机发送的测试命令，并获取上位机或者摄像头传输的图像测试集，将图像测试集中的测试图像输入至待测芯片中的神经网络模型，并接收神经网络模型输出的满足可信度阈值的模型测试结果，将模型测试结果与模型参考结果进行比对，得到神经网络模型的识别准确度，以及获取每帧测试图像对应模型测试结果中的识别时间作为识别速率，并将识别准确度和识别速率作为测试指标，获取待测芯片在测试过程中的负荷情况，按照预设检测频率获取待测芯片在测试过程中的功耗情况，在测试指标的识别准确度低于可信度阈值时，按照预设模型优化方式对待测芯片中的神经网络模型和算法进行优化，按照不同负荷情况将测试指标中的识别准确度和识别速率进行分组，并将分组后的结果作为评测结果。本发明实施例实现了对待测芯片的接口驱动功能测试、接口速率带宽测试、负荷情况测试、功耗情况测试以及对待测芯片中的神经网络模型进行图像识别测试，进而对待测芯片的输入条件、准确率和负荷在应用场景中进行了约束，保证了芯片评测的测试场景的一致性，使得芯片的评测结果可靠性更高，便于指导芯片的开发和测试。
实施例四
图9为本发明实施例四提供的一种芯片评测装置的结构示意图。如图9所示，该装置包括：
芯片测试模块41，用于根据图像测试集输入待测芯片进行测试，其中，图像测试集包括测试图像和可信度阈值。
负荷及测试指标确定模块42，用于确定待测芯片对应图像测试集的负荷情况以及测试指标。
评测结果生成模块43，用于在不同负荷情况下统计测试指标为待测芯片的评测结果。
本发明实施例的技术方案，通过芯片测试模块根据图像测试集输入待测芯片进行测试，其中，图像测试集包括测试图像和可信度阈值，负荷及测试指标确定模块确定待测芯片对应图像测试集的负荷情况以及测试指标，评测结果生成模块在不同负荷情况下统计测试指标为待测芯片的评测结果。本发明实施例通过根据图像测试集对待测芯片进行测试并得到对应的负荷情况以及测试指标，进而在不同负荷情况下统计对应的测试指标作为待测芯片的评测结果，保证了芯片评测的测试场景的一致性，使得芯片的评测结果可靠性更高，便于指导芯片的开发和测试。
进一步地，在上述发明实施例的基础上，芯片测试模块41包括：
测试命令及图像测试集获取单元，用于接收上位机发送的测试命令，并获取上位机或者摄像头传输的图像测试集。
模型测试结果输出单元，用于将图像测试集中的测试图像输入至待测芯片中的神经网络模型，并接收神经网络模型输出的满足可信度阈值的模型测试结果。
进一步地，在上述发明实施例的基础上，负荷及测试指标确定模块42包括：
识别准确度确定单元，用于将模型测试结果与模型参考结果进行比对，得到神经网络模型的识别准确度。
负荷情况获取单元，用于获取待测芯片在测试过程中的负荷情况，负荷情况包括以下至少之一：中央处理器使用率、图形处理器使用率、图像信号处理模块使用率、数字信号处理模块使用率。
测试指标确定单元，用于获取每帧测试图像对应模型测试结果中的识别时间作为识别速率，并将识别准确度和识别速率作为测试指标。
进一步地，在上述发明实施例的基础上，评测结果生成模块43包括：
评测结果生成单元，用于按照不同负荷情况将测试指标中的识别准确度和识别速率进行分组，并将分组后的结果作为评测结果。
进一步地，在上述发明实施例的基础上，芯片评测装置还包括：
模型优化模块，用于在测试指标的识别准确度低于可信度阈值时，按照预设模型优化方式对待测芯片中的神经网络模型进行优化，其中，预设模型优化方式包括以下至少之一：减小测试图像尺寸、更改数据的存储位置、修改神经网络模型的模型参数。
进一步地，在上述发明实施例的基础上，芯片评测装置还包括：
速率带宽测试模块，用于按照上位机发送的测试命令对待测芯片的待测驱动接口进行速率和带宽测试，其中，待测驱动接口包括以下至少之一：摄像头输入接口、视频输出接口、总线接口、存储接口、周边接口。
进一步地，在上述发明实施例的基础上，芯片评测装置还包括：
供电电压和供电电流获取模块，用于按照预设检测频率获取待测芯片的供电电压和供电电流。
功耗值确定模块，用于将供电电压和供电电流的乘积作为待测芯片的功耗值。
本发明实施例所提供的芯片评测装置可执行本发明任意实施例所提供的芯片评测方法，具备执行方法相应的功能模块和有益效果。
实施例五
图10示出了可以用来实施本发明的实施例的电子设备50的结构示意图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图10所示，电子设备50包括至少一个处理器51，以及与至少一个处理器51通信连接的存储器，如只读存储器(ROM)52、随机访问存储器(RAM)53等，其中，存储器存储有可被至少一个处理器执行的计算机程序，处理器51可以根据存储在只读存储器(ROM)52中的计算机程序或者从存储单元58加载到随机访问存储器(RAM)53中的计算机程序，来执行各种适当的动作和处理。在RAM 53中，还可存储电子设备50操作所需的各种程序和数据。处理器51、ROM 52以及RAM 53通过总线54彼此相连。输入/输出(I/O)接口55也连接至总线54。
电子设备50中的多个部件连接至I/O接口55，包括：输入单元56，例如键盘、鼠标等；输出单元57，例如各种类型的显示器、扬声器等；存储单元58，例如磁盘、光盘等；以及通信单元59，例如网卡、调制解调器、无线通信收发机等。通信单元59允许电子设备50通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器51可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器51的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器51执行上文所描述的各个方法和处理，例如芯片评测方法。
在一些实施例中，芯片评测方法可被实现为计算机程序，其被有形地包含于计算机可读存储介质，例如存储单元58。在一些实施例中，计算机程序的部分或者全部可以经由ROM 52和/或通信单元59而被载入和/或安装到电子设备50上。当计算机程序加载到RAM 53并由处理器51执行时，可以执行上文描述的芯片评测方法的一个或多个步骤。备选地，在其他实施例中，处理器51可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行芯片评测方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明的上下文中，计算机可读存储介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。备选地，计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在电子设备上实施此处描述的系统和技术，该电子设备具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本发明的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (10)

1.一种芯片评测方法，其特征在于，所述方法包括：
根据图像测试集输入待测芯片进行测试，其中，所述图像测试集包括测试图像和可信度阈值；
确定所述待测芯片对应所述图像测试集的负荷情况以及测试指标；
在不同所述负荷情况下统计所述测试指标为所述待测芯片的评测结果。
2.根据权利要求1所述的方法，其特征在于，所述根据图像测试集输入待测芯片进行测试，包括：
接收上位机发送的测试命令，并获取所述上位机或者摄像头传输的所述图像测试集；
将所述图像测试集中的所述测试图像输入至所述待测芯片中的神经网络模型，并接收所述神经网络模型输出的满足所述可信度阈值的模型测试结果。
3.根据权利要求2所述的方法，其特征在于，所述确定所述待测芯片对应所述图像测试集的负荷情况以及测试指标，包括：
将所述模型测试结果与模型参考结果进行比对，得到所述神经网络模型的识别准确度；
获取所述待测芯片在测试过程中的所述负荷情况，所述负荷情况包括以下至少之一：中央处理器使用率、图形处理器使用率、图像信号处理模块使用率、数字信号处理模块使用率；
获取每帧所述测试图像对应所述模型测试结果中的识别时间作为识别速率，并将所述识别准确度和所述识别速率作为所述测试指标。
4.根据权利要求1所述的方法，其特征在于，所述在不同所述负荷情况下统计所述测试指标为所述待测芯片的评测结果，包括：
按照不同所述负荷情况将所述测试指标中的识别准确度和识别速率进行分组，并将所述分组后的结果作为所述评测结果。
5.根据权利要求1所述的方法，其特征在于，还包括：
在所述测试指标的识别准确度低于所述可信度阈值时，按照预设模型优化方式对所述待测芯片中的神经网络模型进行优化，其中，所述预设模型优化方式包括以下至少之一：减小测试图像尺寸、更改数据的存储位置、修改所述神经网络模型的模型参数。
6.根据权利要求1所述的方法，其特征在于，还包括：
按照上位机发送的测试命令对所述待测芯片的待测驱动接口进行速率和带宽测试，其中，所述待测驱动接口包括以下至少之一：摄像头输入接口、视频输出接口、总线接口、存储接口、周边接口。
7.根据权利要求1所述的方法，其特征在于，还包括：
按照预设检测频率获取所述待测芯片的供电电压和供电电流；
将所述供电电压和所述供电电流的乘积作为所述待测芯片的功耗值。
8.一种芯片评测装置，其特征在于，所述装置包括：
芯片测试模块，用于根据图像测试集输入待测芯片进行测试，其中，所述图像测试集包括测试图像和可信度阈值；
负荷及测试指标确定模块，用于确定所述待测芯片对应所述图像测试集的负荷情况以及测试指标；
评测结果生成模块，用于在不同所述负荷情况下统计所述测试指标为所述待测芯片的评测结果。
9.一种电子设备，其特征在于，所述电子设备包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的芯片评测方法。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的芯片评测方法。
CN202310854690.6A 2023-07-12 2023-07-12 一种芯片评测方法、系统、电子设备和存储介质 Pending CN116795615A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310854690.6A CN116795615A (zh) 2023-07-12 2023-07-12 一种芯片评测方法、系统、电子设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310854690.6A CN116795615A (zh) 2023-07-12 2023-07-12 一种芯片评测方法、系统、电子设备和存储介质

Publications (1)

Publication Number Publication Date
CN116795615A true CN116795615A (zh) 2023-09-22

Family

ID=88042095

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310854690.6A Pending CN116795615A (zh) 2023-07-12 2023-07-12 一种芯片评测方法、系统、电子设备和存储介质

Country Status (1)

Country Link
CN (1) CN116795615A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118080387A (zh) * 2024-04-15 2024-05-28 深圳市耀壹软件技术有限公司 基于人工智能的芯片检测方法、系统、装置及存储介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118080387A (zh) * 2024-04-15 2024-05-28 深圳市耀壹软件技术有限公司 基于人工智能的芯片检测方法、系统、装置及存储介质

Similar Documents

Publication Publication Date Title
CN114428677B (zh) 任务处理方法、处理装置、电子设备及存储介质
CN116795615A (zh) 一种芯片评测方法、系统、电子设备和存储介质
CN114692778B (zh) 用于智能巡检的多模态样本集生成方法、训练方法及装置
CN116431505A (zh) 一种回归测试方法、装置、电子设备、存储介质及产品
CN111696095B (zh) 用于检测物体表面缺陷的方法及装置
CN113052325A (zh) 在线模型的优化方法、装置、设备、存储介质及程序产品
CN116975081A (zh) 一种日志诊断集更新方法、装置、设备及存储介质
CN116594563A (zh) 分布式存储扩容方法、装置、电子设备和存储介质
CN115600607A (zh) 一种日志检测方法、装置、电子设备及介质
CN113554062B (zh) 多分类模型的训练方法、设备和存储介质
CN114706610A (zh) 一种业务流程图生成方法、装置、设备及存储介质
CN115361308B (zh) 一种工控网络数据风险确定方法、装置、设备及存储介质
CN118055051B (zh) 一种接口通信速率检测控制方法、装置、设备及介质
CN117115568B (zh) 数据筛选方法、装置、设备及存储介质
CN114926447B (zh) 用于训练模型的方法、用于检测目标的方法和装置
CN113836291B (zh) 数据处理方法、装置、设备和存储介质
CN116089307B (zh) 一种bios测试方法、装置、设备及介质
CN117093840A (zh) 一种评价结果确定方法、装置、设备和存储介质
CN116303071A (zh) 一种接口测试方法、装置、电子设备及存储介质
CN118567966A (zh) 数据竞争的监测方法及装置、电子设备和存储介质
CN116304796A (zh) 一种数据分类方法、装置、设备及介质
CN118074625A (zh) 设备故障检测方法、装置、设备及存储介质
CN118672917A (zh) 界面视觉回归检测方法、装置、电子设备和存储介质
CN117271289A (zh) 一种网页监测方法、装置、设备以及存储介质
CN116956042A (zh) 故障类型检测模型的建立方法、装置、设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination