CN117407299B - 模型测试方法和系统 - Google Patents

Abstract

本申请涉及人工智能技术领域，具体提供一种模型测试方法，旨在解决面对不同测试需求时会有大量繁杂重复的工作，测试效率低下的问题。为此目的，本申请的模型测试方法应用于服务端，包括：接收客户端发送的待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数；基于待测模型文件、硬件设备参数和测试参数，生成待测模型；基于测试数据信息，对待测模型进行测试，得到测试结果；向客户端发送测试结果。通过上述方法，能够将测试用户与支持模型运行的硬件完全隔离，并能自动生成测试所需的代码模板和测试服务，极大地提高了测试用户对待测模型测试地易用性，减少了测试人员的工作量，提高测试效率。

Description

模型测试方法和系统

技术领域

本申请涉及人工智能技术领域，具体涉及一种模型测试方法和系统。

背景技术

近年来，随着人工智能应用需求的不断增长，模型、框架和硬件设备也会进一步增多，由于不同硬件的设计目标和对不同开发框架的支持程度不一，同一个模型在不同硬件上的性能很可能会展现出巨大的不同。因此，对某一模型在不同硬件上进行全面的测试是企业在生产环境部署模型前所必须考虑和进行的，企业选择合适的硬件设备产生更高效的模型能够为用户提供更加良好的服务体验，增加用户满意度。

现有的模型测试流程很大程度上基于测试人员手工编写程序进行，测试人员需要面对模型和硬件设备细节编写各种代码进行判断、转换、生成、部署、测试等操作，在面对不同测试需求时会有大量繁杂而重复的工作，测试效率低下。

发明内容

为解决以上问题，本申请提供一种模型测试方法，应用于服务端，通过接收客户端发送的待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数，基于待测模型文件、硬件设备参数和测试参数，生成待测模型，然后基于测试数据信息，对待测模型进行测试，得到测试结果，最后向客户端发送测试结果，能够将测试用户与支持模型运行的硬件完全隔离，并能自动生成测试所需的代码模板和测试服务，极大地提高了测试用户对待测模型测试地易用性，将需要用户手工编写的大量重复的和繁杂工作转变为根据参数进行自动化的生成工作，减少了测试人员的工作量，加快了测试的速度。

第一方面，本申请实施例提供了一种模型测试方法，应用于服务端，包括：接收客户端发送的待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数；基于所述待测模型文件、所述硬件设备参数和测试参数，生成待测模型；基于所述测试数据信息，对所述待测模型进行测试，得到测试结果；向所述客户端发送所述测试结果。

第二方面，本申请实施例提供了一种模型测试方法，应用于客户端，包括：向服务端发送待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数，以使所述服务端基于所述待测模型文件、所述硬件设备参数和测试参数，生成待测模型，并基于所述测试数据集，对所述待测模型进行测试，得到测试结果；接收所述服务端发送的测试结果并进行显示。

第三方面，本申请实施例提供了一种模型测试系统，包括服务端和应用端，其中：所述应用端用于向服务端发送待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数；所述服务端用于接收客户端发送的待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数，基于所述待测模型文件、所述硬件设备参数和测试参数，生成待测模型，基于所述测试数据信息，对所述待测模型进行测试，得到测试结果，并将所述测试结果发送至所述应用端；所述应用端用于接收所述服务端发送的测试结果并进行显示。

本申请实施例中提供的技术方案，至少具有如下技术效果或优点：

本申请实施例应用于服务端，通过接收客户端发送的待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数，基于待测模型文件、硬件设备参数和测试参数，生成待测模型，然后基于测试数据信息，对待测模型进行测试，得到测试结果，最后向客户端发送测试结果，能够将测试用户与支持模型运行的硬件完全隔离，并能自动生成测试所需的代码模板和测试服务，极大地提高了测试用户对待测模型测试地易用性，将需要用户手工编写的大量重复的和繁杂工作转变为根据参数进行自动化的生成工作，减少了测试人员的工作量，加快了测试的速度。

本申请附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变的明显，或通过本申请的实践了解到。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本申请的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1示出了本申请实施例所提供的一种模型测试方法的流程图；

图2示出了本申请实施例所提供的另一种模型测试方法的流程图；

图3示出了本申请实施例所提供的一种模型测试装置的结构示意图；

图4示出了本申请实施例所提供的另一种模型测试装置的结构示意图；

图5示出了本申请实施例所提供的一种电子设备的结构示意图。

具体实施方式

下面将参照附图更详细地描述本申请的示例性实施方式。虽然附图中显示了本申请的示例性实施方式，然而应当理解，可以以各种形式实现本申请而不应被这里阐述的实施方式所限制。相反，提供这些实施方式是为了能够更透彻地理解本申请，并且能够将本申请的范围完整的传达给本领域的技术人员。

现有的模型测试流程很大程度上基于测试人员手工编写程序进行，测试人员需要面对模型和硬件设备细节编写各种代码进行判断、转换、生成、部署、测试等操作，在面对不同测试需求时会有大量繁杂而重复的工作，测试效率低下。

基于此，本申请实施例提供一种模型测试方法。下面结合附图对本申请实施例的方案进行具体说明。

参见图1示出的一种模型测试方法的流程图，该方法应用于服务端，具体包括以下步骤：

步骤101：接收客户端发送的待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数。

本申请实施例中，测试数据信息可以是预先准备好的测试数据集，也可以是测试数据集的标识信息。本领域技术人员可以根据实际需要进行设置，本申请实施例不作具体限定。

硬件设备参数可以包括硬件设备名称、硬件设备型号、硬件设备类型、硬件设备数量等等信息。本领域技术人员可以根据实际需要进行配置，本申请实施例不作具体限定。

测试参数可以包括测试服务类型、待测模型文件名称、服务器数量、批处理大小、热启动文件名称、加速硬件类型、加速硬件数量等。其中，测试服务类型可以包括型包括默认测试服务、自定义测试服务、基于预设接口类型访问的测试服务等。默认测试服务指的是服务端提供的预先设置好的能够快速的对待测模型进行测试的服务；自定义测试服务指的是服务端提供客户端测评代码模板生成服务，供测试用户手工编写测试代码自定义对待测模型进行测试的测试服务；基于预设接口类型访问的测试服务可以包括基于gRPC接口访问的测试服务和基于RESTful接口访问的测试服务，基于gRPC接口访问的测试服务可以供测试用户通过编写客户端程序交互进行测试服务，基于RESTful接口访问的测试服务可以供测试用户通过RESTful方式与服务端直接交互进行测试服务。本领域技术人员可以根据实际需要进行配置，本申请实施例不作具体限定。

例如，用户希望在2台服务器共4张寒武纪MLU卡上测试PyTorch框架下开发的ResNet50模型以及批处理大小分别为1、4、8、16时的测试性能，则客户端需要上传模型文件、上传测试数据信息、以及设置待测模型的硬件设备参数和测试参数，并通过客户端将待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数发送至服务器。

一个实施方式中，可以在接收客户端发送的待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数之前，判断若接收到客户端发送的测试服务类型为自定义测试服务，则向客户端发送自定义测试代码编写模版，以使客户端根据自定义测试代码编写模版编写需要对待测模型进行测试的自定义测试代码，并将自定义测试代码作为测试参数发送至服务端。

步骤102：基于待测模型文件、硬件设备参数和测试参数，生成待测模型。

一个实施方式中，可以获取硬件设备参数中配置的硬件类型，然后基于待测模型文件的文件类型，将待测模型文件转换成符合硬件类型支持的待测模型对象，然后基于测试参数，将待测模型对象转化成待测模型。

进一步地，在无法将待测模型文件直接转换成待测模型对象的情况下，将待测模型文件转换为预设格式的候选模型对象，再将候选模型对象转化为符合硬件类型支持的待测模型对象。

在上述实施方式的基础上，在一些变更的实施方式中，可以在服务器上安装待测模型所需的硬件设备以及硬件设备所需要的软件，然后启动测试服务。

需要说明的是，预设格式可以是ONNX格式，ONNX(Open Neural NetworkExchange)，开放神经网络交换，是一种模型IR，用于在各种深度学习训练和推理框架转换的一个中间表示格式。本申请技术人员可以根据实际需要进行配置，本申请实施例不作具体限定。

待测模型所需的硬件设备可以是单机单卡、单机多卡以及多机多卡等。

硬件设备所需要的软件可以是测试加速引擎、高性能服务系统等软件。

例如，需要测试在PyTorch深度学习框架下开发的ResNet50模型在寒武纪MLU服务器上的性能，可以在服务器上安装一定数量的MLU板卡，然后安装MagicMind推理加速引擎、CNServing高性能服务系统等软件。然后利用MagicMind推理加速引擎的Parser模块将ResNet50模型文件转换成MLU板卡支持的模型格式并表示成Network对象，再利用MagicMind推理加速引擎的Builder模块根据测试参数将Network对象转化成可序列化、可部署的待测模型。

进一步地，对于不能直接转换成寒武纪MLU支持模型格式的ResNet50模型文件，服务端会尝试先将ResNet50模型文件转换成ONNX格式的模型，再将ONNX格式的模型转换成MLU板卡支持的模型格式，并加载生成待测模型。

进一步地，对于无法转换的模型，服务端将向客户端发送具体的错误信息，以及向客户端发送提示用户尝试手工模型转换后再重新提交测试模型请求的提示信息。

通过测试用户提供的待测模型文件、硬件设备参数和测试参数即可在服务器端生成待测模型，能够使得测试用户通过同一的客户端提交待测模型文件、硬件设备参数和测试参数，并对待测模型进行快速的测试，免去了测试人员需要面对模型和硬件设备细节编写各种代码进行判断、转换、生成、部署、测试等操作，免去了测试人员大量重复性工作，提升用户的评测效率。

步骤103：基于测试数据信息，对待测模型进行测试，得到测试结果。

一个实施方式中，测试数据信息为测试数据集，测试参数包括测试服务类型，可以基于该测试数据集，对待测模型进行测试服务类型对应的测试处理。

另一个实施方式中，测试数据信息为测试数据集的标识信息，测试参数包括测试服务类型，可以根据测试数据集的标识信息获取服务器上预先存储的测试数据集，然后基于该测试数据集，对待测模型进行测试服务类型对应的测试处理。

进一步地，基于测试数据集，对待测模型进行测试服务类型对应的测试处理，包括：若测试服务类型为自定义测试服务，则基于测试数据集和自定义测试代码，对待测模型进行测试处理。

在上述实施方式的基础上，在一些变更的实施方式中，可以在基于测试数据信息，对待测模型进行测试之前，基于硬件设备参数，将待测模型部署到硬件设备上，对部署好的待测模型进行热启动处理。具体地可以先加载部署好的待测模型，然后使用由测试用户在客户端自己生成并上传到服务端的warmup文件，或者在请求中设置相应的参数由服务端自动生成并保存的warmup文件进行一次热启动。

通过在对测模型进行测试之前进行热启动处理，能够有效消除待测模型第一次进行请求时引起的高延迟问题，显著提升待测模型测试性能的准确性。

需要说明的是，warmup文件是根据待测模型名称和输入节点shape生成的一组测试数据。

测试服务类型为默认测试服务、自定义测试服务、以及基于预设接口类型访问的测试服务中的一种或者多种服务。

步骤104：向所述客户端发送所述测试结果。

本申请实施例应用于服务端，通过接收客户端发送的待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数，基于待测模型文件、硬件设备参数和测试参数，生成待测模型，然后基于测试数据信息，对待测模型进行测试，得到测试结果，最后向客户端发送测试结果，能够将测试用户与支持模型运行的硬件完全隔离，并能自动生成测试所需的代码模板和测试服务，极大地提高了测试用户对待测模型测试地易用性，将需要用户手工编写的大量重复的和繁杂工作转变为根据参数进行自动化的生成工作，减少了测试人员的工作量，加快了测试的速度，提高了测试模型的测试效率。

参见图2，本申请的另一个实施例还提供一种模型测试方法，该方法应用于客户端，包括：

步骤201：向服务端发送待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数，以使服务端基于待测模型文件、硬件设备参数和测试参数，生成待测模型，并基于测试数据信息，对待测模型进行测试，得到测试结果。

步骤202：接收服务端发送的测试结果并进行显示。

一个实施方式中，可以在向服务端发送待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数之前，显示测试配置界面，通过该测试配置界面获取用户提交的待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数。

进一步地，向服务端发送待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数，以使服务端基于待测模型文件、硬件设备参数和测试参数，生成待测模型，并基于测试数据信息，对待测模型进行测试，得到测试结果。

进一步地，接收服务端发送的测试结果并进行显示。

本申请实施例提供的模型测试方法与上述实施例提供的模型测试方法出于相同的发明构思，具有与其采用、运行或实现的方法相同的有益效果。

本申请的再一个实施例还提供一种模型测试系统，包括服务端和应用端，其中：应用端用于向服务端发送待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数；服务端用于接收客户端发送的待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数，基于待测模型文件、硬件设备参数和测试参数，生成待测模型，基于测试数据信息，对待测模型进行测试，得到测试结果，并将测试结果发送至应用端；应用端用于接收服务端发送的测试结果并进行显示。

本申请实施例提供的模型测试方法与上述实施例提供的模型测试方法出于相同的发明构思，具有与其采用、运行或实现的方法相同的有益效果。

参见图3，本申请实施例还提供一种应用于服务端的模型测试装置，该装置用于执行上述实施例所述的应用于服务端的模型测试方法，该装置包括：

第一接收模块301，用于接收客户端发送的待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数。

模型生成模块302，用于基于待测模型文件、硬件设备参数和测试参数，生成待测模型。

测试模块303，用于基于测试数据信息，对待测模型进行测试，得到测试结果；

第一发送模块304，用于向客户端发送测试结果。

本申请实施例提供的应用于服务端的模型测试装置与上述实施例提供的应用于服务端的模型测试方法出于相同的发明构思，具有与其采用、运行或实现的方法相同的有益效果。

参见图4，本申请实施例还提供一种应用于客户端的模型测试装置，该装置用于执行上述实施例所述的应用于客户端的模型测试方法，该装置包括：

第二发送模块401，用于向服务端发送待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数，以使服务端基于待测模型文件、硬件设备参数和测试参数，生成待测模型，并基于测试数据信息，对待测模型进行测试，得到测试结果；

第二接收模块402，用于接收服务端发送的测试结果并进行显示。

本申请实施例提供的应用于客户端的模型测试装置与上述实施例提供的应用于客户端的模型测试方法出于相同的发明构思，具有与其采用、运行或实现的方法相同的有益效果。

本申请实施方式还提供一种与前述实施方式所提供的模型测试方法对应的电子设备。请参考图5，其示出了本申请的一些实施方式所提供的一种电子设备的示意图。如图5所示，所述电子设备50可以包括：处理器500，存储器501，总线502和通信接口503，所述处理器500、通信接口503和存储器501通过总线502连接；所述存储器501中存储有可在所述处理器500上运行的计算机程序，所述处理器500运行所述计算机程序时执行本申请前述任一实施方式所提供的模型测试方法。

其中，存储器501可能包含高速随机存取存储器（RAM：Random Access Memory），也可能还包括非不稳定的存储器（non-volatile memory），例如至少一个磁盘存储器。通过至少一个物理端口503（可以是有线或者无线）实现该系统网元与至少一个其他网元之间的通信连接，可以使用互联网、广域网、本地网、城域网等。

总线502可以是ISA总线、PCI总线或EISA总线等。所述总线可以分为地址总线、数据总线、控制总线等。其中，存储器501用于存储程序，所述处理器500在接收到执行指令后，执行所述程序，前述本申请实施例任一实施方式揭示的所述模型测试方法可以应用于处理器500中，或者由处理器500实现。

处理器500可能是一种集成电路，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器500中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器500可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(DSP)、专用集成电路(ASIC)、现成可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器501，处理器500读取存储器501中的信息，结合其硬件完成上述方法的步骤。

本申请实施例提供的电子设备与本申请实施例提供的模型测试方法出于相同的发明构思，具有与其采用、运行或实现的方法相同的有益效果。

本申请实施方式还提供一种与前述实施方式所提供的模型测试方法对应的计算机可读存储介质，其上存储有计算机程序（即程序产品），所述计算机程序在被处理器运行时，会执行前述任意实施方式所提供的模型测试方法。

需要说明的是，所述计算机可读存储介质的例子还可以包括，但不限于相变内存(PRAM)、静态随机存取存储器 (SRAM)、动态随机存取存储器 (DRAM)、其他类型的随机存取存储器 (RAM)、只读存储器 (ROM)、电可擦除可编程只读存储器 (EEPROM)、快闪记忆体或其他光学、磁性存储介质，在此不再一一赘述。

本申请实施方式还提供一种与前述实施方式所提供的模型测试方法对应的计算机程序产品，包括计算机程序，该计算机程序被处理器执行以实现上述各实施例提供的模型测试方法。

本申请的上述实施例提供的计算机可读存储介质、计算机程序产品均与本申请实施例提供的模型测试方法出于相同的发明构思，具有与其存储的应用程序所采用、运行或实现的方法相同的有益效果。

需要说明的是：

在此提供的算法和显示不与任何特定计算机、虚拟装置或者其它设备有固有相关。各种通用装置也可以与基于在此的示教一起使用。根据上面的描述，构造这类装置所要求的结构是显而易见的。此外，本申请也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本申请的内容，并且上面对特定语言所做的描述是为了披露本申请的最佳实施方式。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本申请的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本申请并帮助理解各个发明方面中的一个或多个，在上面对本申请的示例性实施例的描述中，本申请的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本申请要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本申请的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本申请的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本申请的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器( DSP )来实现根据本申请实施例的虚拟机的创建装置中的一些或者全部部件的一些或者全部功能。本申请还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本申请的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本申请进行说明而不是对本申请进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本申请可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

以上所述，仅为本申请较佳的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应以所述权利要求的保护范围为准。

Claims (7)

1.一种模型测试方法，其特征在于，应用于服务端，包括：

接收客户端发送的待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数；

基于所述待测模型文件、所述硬件设备参数和测试参数，生成待测模型；

基于所述测试数据信息，对所述待测模型进行测试，得到测试结果；

向所述客户端发送所述测试结果；

其中，所述测试参数包括测试服务类型，所述基于所述测试数据信息，对所述待测模型进行测试，包括：

基于所述测试数据信息，对所述待测模型进行所述测试服务类型对应的测试处理，其中，所述测试服务类型为默认测试服务、自定义测试服务、以及基于预设接口类型访问的测试服务中的多种服务；

所述硬件设备参数包括硬件类型，所述基于所述待测模型文件、所述硬件设备参数和测试参数，生成待测模型，包括：

基于所述待测模型文件的文件类型，将所述待测模型文件转换成符合所述硬件类型支持的待测模型对象；

基于所述测试参数，将所述待测模型对象转化成所述待测模型；

所述接收客户端发送的待测模型文件、测试数据集、待测模型的硬件设备参数和测试参数之前，还包括：

若接收到客户端发送的测试服务类型为自定义测试服务，则向客户端发送自定义测试代码编写模版，以使所述客户端根据所述自定义测试代码编写模版编写需要对待测模型进行测试的自定义测试代码，并将所述自定义测试代码作为所述测试参数发送至服务端。

2.根据权利要求1所述的模型测试方法，其特征在于，所述基于所述测试参数，将所述待测模型对象转化成所述待测模型，包括：

在无法将所述待测模型文件直接转换成所述待测模型对象的情况下，将所述待测模型文件转换为预设格式的候选模型对象，再将所述候选模型对象转化为符合所述硬件类型支持的待测模型对象。

3.根据权利要求1或2所述的模型测试方法，其特征在于，所述服务端还包括所述硬件设备参数对应的硬件设备，所述基于所述测试数据信息，对所述待测模型进行测试，得到测试结果之前，还包括：

基于硬件设备参数，将所述待测模型部署到所述硬件设备上；

对部署好的所述待测模型进行热启动处理。

4.根据权利要求1所述的模型测试方法，其特征在于，所述基于所述测试数据信息，对所述待测模型进行所述测试服务类型对应的测试处理，包括：

若所述测试服务类型为自定义测试服务，则基于所述测试数据信息和所述自定义测试代码，对所述待测模型进行测试处理。

5.一种模型测试方法，其特征在于，应用于客户端，包括：

向服务端发送待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数，以使所述服务端基于所述待测模型文件、所述硬件设备参数和测试参数，生成待测模型，并基于所述测试数据信息，对所述待测模型进行测试，得到测试结果；

接收所述服务端发送的测试结果并进行显示；

其中，所述硬件设备参数包括硬件类型，所述基于所述待测模型文件、所述硬件设备参数和测试参数，生成待测模型，包括：

基于所述待测模型文件的文件类型，将所述待测模型文件转换成符合所述硬件类型支持的待测模型对象；

基于所述测试参数，将所述待测模型对象转化成所述待测模型；

所述向服务端发送待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数之前，还包括：

向所述服务端发送测试服务类型；

接收所述服务端发送的自定义测试代码编写模版，根据所述自定义测试代码编写模版编写需要对待测模型进行测试的自定义测试代码，并将所述自定义测试代码作为所述测试参数发送至所述服务端，其中，所述自定义测试代码编写模版包括所述服务端判定为所述测试服务类型为自定义测试服务时的自定义测试代码编写模版。

6.根据权利要求5所述的模型测试方法，其特征在于，所述向服务端发送待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数之前，还包括：

显示测试配置界面；

通过所述测试配置界面获取用户提交的待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数。

7.一种模型测试系统，其特征在于，包括服务端和应用端，其中：

所述应用端用于向服务端发送待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数；

所述服务端用于接收客户端发送的待测模型文件、测试数据信息、待测模型的硬件设备参数和测试参数，基于所述待测模型文件、所述硬件设备参数和测试参数，生成待测模型，基于所述测试数据信息，对所述待测模型进行测试，得到测试结果，并将所述测试结果发送至所述应用端；

所述应用端用于接收所述服务端发送的测试结果并进行显示；

其中，所述测试参数包括测试服务类型，所述基于所述测试数据信息，对所述待测模型进行测试，包括：

基于所述测试数据信息，对所述待测模型进行所述测试服务类型对应的测试处理，其中，所述测试服务类型为默认测试服务、自定义测试服务、以及基于预设接口类型访问的测试服务中的多种服务；

所述硬件设备参数包括硬件类型，所述基于所述待测模型文件、所述硬件设备参数和测试参数，生成待测模型，包括：

基于所述待测模型文件的文件类型，将所述待测模型文件转换成符合所述硬件类型支持的待测模型对象；

基于所述测试参数，将所述待测模型对象转化成所述待测模型；

所述接收客户端发送的待测模型文件、测试数据集、待测模型的硬件设备参数和测试参数之前，还包括：

若接收到客户端发送的测试服务类型为自定义测试服务，则向客户端发送自定义测试代码编写模版，以使所述客户端根据所述自定义测试代码编写模版编写需要对待测模型进行测试的自定义测试代码，并将所述自定义测试代码作为所述测试参数发送至服务端。