CN116185494A - 用户模型移植的量化方法、装置、电子设备及存储介质 - Google Patents

用户模型移植的量化方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN116185494A
CN116185494A CN202310195642.0A CN202310195642A CN116185494A CN 116185494 A CN116185494 A CN 116185494A CN 202310195642 A CN202310195642 A CN 202310195642A CN 116185494 A CN116185494 A CN 116185494A
Authority
CN
China
Prior art keywords
quantization
model
post
training
training model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310195642.0A
Other languages
English (en)
Inventor
张洋森
钱少华
朱张平
刘磊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chongqing Changan Automobile Co Ltd
Original Assignee
Chongqing Changan Automobile Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chongqing Changan Automobile Co Ltd filed Critical Chongqing Changan Automobile Co Ltd
Priority to CN202310195642.0A priority Critical patent/CN116185494A/zh
Publication of CN116185494A publication Critical patent/CN116185494A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/70—Software maintenance or management
    • G06F8/76—Adapting program code to run in a different environment; Porting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/60—Software deployment
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Stored Programmes (AREA)

Abstract

本申请涉及一种用户模型移植的量化方法、装置、电子设备及存储介质，方法包括：获取训练模型，并对训练模型进行格式转化，得到目标中间格式；利用预设的网络移植工具和预设的运行时环境对目标中间格式进行转化，得到模型格式文件；对模型格式文件进行后量化操作，并基于预设的训练框后处理和评价体系对后量化结果进行评价，得到训练模型评价指标，根据训练模型评价指标确定是否输出训练模型。由此，解决了目前训练平台训练出的模型，在工程化时存在精度损失情况，导致无法科学准确的进行模型精度评价等问题，使得不同的算法模型可以找到适合的量化算法进行部署，达到生产精度要求，并且可以自动的筛选出合适的算法进行部署。

Description

用户模型移植的量化方法、装置、电子设备及存储介质
技术领域
本申请涉及模型的部署和评价体系技术领域，特别涉及一种用户模型移植的量化方法、装置、电子设备及存储介质。
背景技术
目前的量化系统缺乏科学的评价体系对量化模型和量化方法进行统一的评估，这类系统主要通过对算子的转化达到嵌入式平台的部署需要，但是无法根据具体的精度需求来进行精度评估，从而选择不同的量化算法来满足具体上产需求。
相关技术中提出的模型的自动量化方法，并且可以对模型进行自动量化的系统，但是缺乏一个合理的评价体系和合理的后量化方法，来对部署模型进行评测。
发明内容
本申请提供一种用户模型移植的量化方法、装置、电子设备及存储介质，解决了目前训练平台训练出的模型，在工程化时存在精度损失情况，导致无法科学准确的进行模型精度评价等问题，使得不同的算法模型可以找到适合的量化算法进行部署，达到生产精度要求，并且可以自动的筛选出合适的算法进行部署。
本申请第一方面实施例提供一种用户模型移植的量化方法，包括以下步骤：获取训练模型，并对所述训练模型进行格式转化，得到目标中间格式；利用预设的网络移植工具和预设的运行时环境对所述目标中间格式进行转化，得到模型格式文件；对所述模型格式文件进行后量化操作，并基于预设的训练框后处理和评价体系对后量化结果进行评价，得到训练模型评价指标，以根据所述训练模型评价指标确定是否输出所述训练模型。
根据上述技术手段，解决了目前训练平台训练出的模型，在工程化时存在精度损失情况，导致无法科学准确的进行模型精度评价等问题，使得不同的算法模型可以找到适合的量化算法进行部署，达到的生产精度要求，并且可以自动的筛选出合适的算法进行部署。
进一步地，所述基于预设的训练框后处理和评价体系对后量化结果进行评价，得到训练模型评价指标，包括：获取所述训练模型对应的训练框架；根据所述训练框架确定用于对所述后量化结果进行评价的测试集、后处理代码和目标评价体系；根据所述测试集、所述后处理代码和所述目标评价体系对所述后量化结果进行评价，得到所述训练模型评价指标。
根据上述技术手段，单独对训练模型进行精度评测，方便查看模型经过部署后的精度情况。
进一步地，所述对所述模型格式文件进行后量化操作，包括：基于预设的调整策略，对所述模型格式文件进行后量化操作，其中，所述预设的调整策略包括对称量化和非对称量化的选择、线性量化和对数量化的选择、量化标定的数据源、饱和量化和非饱和量化的选择中至少一种。
根据上述技术手段，对后量化后的模型进行精度评测，减少训练模型后处理的不同导致的精度损失。
进一步地，所述根据所述训练模型评价指标确定是否输出所述训练模型，包括：基于所述训练模型评价指标，判断所述训练模型的精度是否满足预设精度要求；若所述训练模型的精度满足所述预设精度要求，则输出所述训练模型，否则，重新对所述模型格式文件进行所述后量化操作，直至所述训练模型的精度满足所述预设精度要求。
根据上述技术手段，根据训练模型评价指标判断训练模型是否满足预设精度要求，减少精度损失，能够科学准确的进行模型精度评价。
本申请第二方面实施例提供一种用户模型移植的量化装置，包括：获取模块，用于获取训练模型，并对所述训练模型进行格式转化，得到目标中间格式；转化模块，用于利用预设的网络移植工具和预设的运行时环境对所述目标中间格式进行转化，得到模型格式文件；量化模块，用于对所述模型格式文件进行后量化操作，并基于预设的训练框后处理和评价体系对后量化结果进行评价，得到训练模型评价指标，以根据所述训练模型评价指标确定是否输出所述训练模型。
进一步地，所述量化模块，还用于：获取所述训练模型对应的训练框架；根据所述训练框架确定用于对所述后量化结果进行评价的测试集、后处理代码和目标评价体系；根据所述测试集、所述后处理代码和所述目标评价体系对所述后量化结果进行评价，得到所述训练模型评价指标。
进一步地，所述量化模块，还用于：基于预设的调整策略，对所述模型格式文件进行后量化操作，其中，所述预设的调整策略包括对称量化和非对称量化的选择、线性量化和对数量化的选择、量化标定的数据源、饱和量化和非饱和量化的选择中至少一种。
进一步地，所述量化模块，还用于：基于所述训练模型评价指标，判断所述训练模型的精度是否满足预设精度要求；若所述训练模型的精度满足所述预设精度要求，则输出所述训练模型，否则，重新对所述模型格式文件进行所述后量化操作，直至所述训练模型的精度满足所述预设精度要求。
本申请第三方面实施例提供一种电子设备，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序，以实现如上述实施例所述的用户模型移植的量化方法。
本申请第四方面实施例提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行，以用于实现如上述实施例所述的用户模型移植的量化方法。
由此，本申请对训练模型进行格式转化，得到目标中间格式，并利用预设的网络移植工具和预设的运行时环境对目标中间格式进行转化，得到模型格式文件，进行后量化操作，并基于预设的训练框后处理和评价体系对后量化结果进行评价，得到训练模型评价指标，根据训练模型评价指标确定是否输出训练模型。由此，解决了目前训练平台训练出的模型，在工程化时存在精度损失情况，导致无法科学准确的进行模型精度评价等问题，使得不同的算法模型可以找到适合的量化算法进行部署，达到的生产精度要求，并且可以自动的筛选出合适的算法进行部署。
本申请附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。
附图说明
本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：
图1为根据本申请实施例提供的一种用户模型移植的量化方法的流程图；
图2为根据本申请一个实施例的用户模型移植的量化方法的流程图；
图3为根据本申请实施例的用户模型移植的量化装置的方框示意图；
图4为根据本申请实施例的电子设备的结构示意图。
附图标记说明：10-用户模型移植的量化装置、100-获取模块、200-转化模块、300-量化模块、401-存储器、402-处理器、403-通信接口。
具体实施方式
下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本申请，而不能理解为对本申请的限制。
下面参考附图描述本申请实施例的用户模型移植的量化方法、装置、电子设备及存储介质。针对上述背景技术中提到的目前训练平台训练出的模型，在工程化时存在精度损失情况，导致无法科学准确的进行模型精度评价的问题，本申请提供了一种用户模型移植的量化方法，在该方法中，对训练模型进行格式转化，得到目标中间格式，并利用预设的网络移植工具和预设的运行时环境对目标中间格式进行转化，得到模型格式文件，进行后量化操作，并基于预设的训练框后处理和评价体系对后量化结果进行评价，得到训练模型评价指标，根据训练模型评价指标确定是否输出训练模型。由此，解决了目前训练平台训练出的模型，在工程化时存在精度损失情况，导致无法科学准确的进行模型精度评价等问题，使得不同的算法模型可以找到适合的量化算法进行部署，达到的生产精度要求，并且可以自动的筛选出合适的算法进行部署。
具体而言，图1为本申请实施例所提供的一种用户模型移植的量化方法的流程示意图。
如图1所示，该用户模型移植的量化方法包括以下步骤：
在步骤S101中，获取训练模型，并对训练模型进行格式转化，得到目标中间格式。
本申请实施例获取经过训练框架训练后得到的训练模型，同时训练后的模型会有详细的精度说明，该精度由训练框中的测试代码得出，可以参考相关技术中的转化方法，对训练模型进行格式转化，得到目标中间格式。
需要说明的是，目标中间格式可以为ONNX(Open Neural Network Exchange，开放式的文件格式)格式，其中，ONNX格式是一种神经网络模型保存的中间格式，用于存储训练好的模型，使得不同的框架可以采用相同的格式存储模型数据并交互。
在步骤S101中，利用预设的网络移植工具和预设的运行时环境对目标中间格式进行转化，得到模型格式文件。
其中，预设的网络移植工具可以用于文件格式转换。本申请实施例经过预设的网络移植工具和预设的运行时环境(例如caffe环境)对目标中间格式进行转化，得到特定平台上的模型格式文件。
在步骤S103中，对模型格式文件进行后量化操作，并基于预设的训练框后处理和评价体系对后量化结果进行评价，得到训练模型评价指标，以根据训练模型评价指标确定是否输出训练模型。
其中，在一些实施例中，对模型格式文件进行后量化操作，包括：基于预设的调整策略，对模型格式文件进行后量化操作，其中，预设的调整策略包括对称量化和非对称量化的选择、线性量化和对数量化的选择、量化标定的数据源、饱和量化和非饱和量化的选择中至少一种。
本申请实施例采用对称量化和非对称量化的选择、线性量化和对数量化的选择、量化标定的数据源、饱和量化和非饱和量化的选择中的至少一种策略，对模型格式文件进行后量化操作。
进一步地，在一些实施例中，基于预设的训练框后处理和评价体系对后量化结果进行评价，得到训练模型评价指标，包括：获取训练模型对应的训练框架；根据训练框架确定用于对后量化结果进行评价的测试集、后处理代码和目标评价体系；根据测试集、后处理代码和目标评价体系对后量化结果进行评价，得到训练模型评价指标。
本申请实施例获取训练模型对应的训练框架，经过后量化操作之后，得到后量化结果，选择和训练框架一致的测试集，和后处理代码，以及目标评价体系，经过测试集、后处理代码和目标评价体系计算后，得到训练模型评价指标，评价时的指标和训练模型时采用的评价指标完全一致，采用控制变量法，排除后处理中的不同导致的精度损失。
进一步地，在一些实施例中，根据训练模型评价指标确定是否输出训练模型，包括：基于训练模型评价指标，判断训练模型的精度是否满足预设精度要求；若训练模型的精度满足预设精度要求，则输出训练模型，否则，重新对模型格式文件进行后量化操作，直至训练模型的精度满足预设精度要求。
可以理解的是，本申请实施例基于训练模型评价指标，如果训练模型的精度不满足预设精度要求，则重新对模型格式文件进行后量化操作，直至训练模型的精度满足预设精度要求，如果训练模型的精度满足满足预设精度要求，则结束部署过程，输出训练模型。
综上，如图2所示，本申请实施例经过训练框架训练后得到训练后的模型，并对训练模型进行格式转化，得到中间格式，并利用预设的网络移植工具和预设的运行时环境对目标中间格式进行转化，得到模型格式文件，进行后量化操作，保存后量化模型，抽离训练框架后处理和评价体系，计算出训练模型的评价指标，根据评价指标判断训练模型的精度是否满足精度要求，若满足，则输出训练模型，若不满足预设精度要求，则重新对模型格式文件进行后量化操作，直至训练模型的精度满足预设精度要求。
根据本申请实施例提出的用户模型移植的量化方法，对训练模型进行格式转化，得到目标中间格式，并利用预设的网络移植工具和预设的运行时环境对目标中间格式进行转化，得到模型格式文件，进行后量化操作，并基于预设的训练框后处理和评价体系对后量化结果进行评价，得到训练模型评价指标，根据训练模型评价指标确定是否输出训练模型。由此，解决了目前训练平台训练出的模型，在工程化时存在精度损失情况，导致无法科学准确的进行模型精度评价等问题，使得不同的算法模型可以找到适合的量化算法进行部署，达到的生产精度要求，并且可以自动的筛选出合适的算法进行部署。
其次参照附图描述根据本申请实施例提出的用户模型移植的量化装置。
图3是本申请实施例的用户模型移植的量化装置的方框示意图。
如图3所示，该用户模型移植的量化装置10包括：获取模块100、转化模块200和量化模块300。
其中，获取模块100，用于获取训练模型，并对训练模型进行格式转化，得到目标中间格式；转化模块200，用于利用预设的网络移植工具和预设的运行时环境对目标中间格式进行转化，得到模型格式文件；量化模块300，用于对模型格式文件进行后量化操作，并基于预设的训练框后处理和评价体系对后量化结果进行评价，得到训练模型评价指标，以根据训练模型评价指标确定是否输出训练模型。
进一步地，在一些实施例中，量化模块300，还用于：获取训练模型对应的训练框架；根据训练框架确定用于对后量化结果进行评价的测试集、后处理代码和目标评价体系；根据测试集、后处理代码和目标评价体系对后量化结果进行评价，得到训练模型评价指标。
进一步地，在一些实施例中，量化模块300，还用于：基于预设的调整策略，对模型格式文件进行后量化操作，其中，预设的调整策略包括对称量化和非对称量化的选择、线性量化和对数量化的选择、量化标定的数据源、饱和量化和非饱和量化的选择中至少一种。
进一步地，在一些实施例中，量化模块300，还用于：基于训练模型评价指标，判断训练模型的精度是否满足预设精度要求；若训练模型的精度满足预设精度要求，则输出训练模型，否则，重新对模型格式文件进行后量化操作，直至训练模型的精度满足预设精度要求。
需要说明的是，前述对用户模型移植的量化方法实施例的解释说明也适用于该实施例的用户模型移植的量化装置，此处不再赘述。
根据本申请实施例提出的用户模型移植的量化装置，对训练模型进行格式转化，得到目标中间格式，并利用预设的网络移植工具和预设的运行时环境对目标中间格式进行转化，得到模型格式文件，进行后量化操作，并基于预设的训练框后处理和评价体系对后量化结果进行评价，得到训练模型评价指标，根据训练模型评价指标确定是否输出训练模型。由此，解决了目前训练平台训练出的模型，在工程化时存在精度损失情况，导致无法科学准确的进行模型精度评价等问题，使得不同的算法模型可以找到适合的量化算法进行部署，达到的生产精度要求，并且可以自动的筛选出合适的算法进行部署。
图4为本申请实施例提供的电子设备的结构示意图。该电子设备可以包括：
存储器401、处理器402及存储在存储器401上并可在处理器402上运行的计算机程序。
处理器402执行程序时实现上述实施例中提供的用户模型移植的量化方法。
进一步地，电子设备还包括：
通信接口403，用于存储器401和处理器402之间的通信。
存储器401，用于存放可在处理器402上运行的计算机程序。
存储器401可能包含高速RAM(Random Access Memory，随机存取存储器)存储器，也可能还包括非易失性存储器，例如至少一个磁盘存储器。
如果存储器401、处理器402和通信接口403独立实现，则通信接口403、存储器401和处理器402可以通过总线相互连接并完成相互间的通信。总线可以是ISA(IndustryStandard Architecture，工业标准体系结构)总线、PCI(Peripheral Component，外部设备互连)总线或EISA(Extended Industry Standard Architecture，扩展工业标准体系结构)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示，图4中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
可选的，在具体实现上，如果存储器401、处理器402及通信接口403，集成在一块芯片上实现，则存储器401、处理器402及通信接口403可以通过内部接口完成相互间的通信。
处理器402可能是一个CPU(Central Processing Unit，中央处理器)，或者是ASIC(Application Specific Integrated Circuit，特定集成电路)，或者是被配置成实施本申请实施例的一个或多个集成电路。
本申请实施例还提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上的用户模型移植的量化方法。
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不是必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或N个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中，“N个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更N个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本申请的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本申请的实施例所属技术领域的技术人员所理解。
应当理解，本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，N个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列，现场可编程门阵列等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。
尽管上面已经示出和描述了本申请的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本申请的限制，本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (10)

1.一种用户模型移植的量化方法，其特征在于，包括以下步骤：
获取训练模型，并对所述训练模型进行格式转化，得到目标中间格式；
利用预设的网络移植工具和预设的运行时环境对所述目标中间格式进行转化，得到模型格式文件；以及
对所述模型格式文件进行后量化操作，并基于预设的训练框后处理和评价体系对后量化结果进行评价，得到训练模型评价指标，以根据所述训练模型评价指标确定是否输出所述训练模型。
2.根据权利要求1所述的方法，其特征在于，所述基于预设的训练框后处理和评价体系对后量化结果进行评价，得到训练模型评价指标，包括：
获取所述训练模型对应的训练框架；
根据所述训练框架确定用于对所述后量化结果进行评价的测试集、后处理代码和目标评价体系；
根据所述测试集、所述后处理代码和所述目标评价体系对所述后量化结果进行评价，得到所述训练模型评价指标。
3.根据权利要求2所述的方法，其特征在于，所述对所述模型格式文件进行后量化操作，包括：
基于预设的调整策略，对所述模型格式文件进行后量化操作，其中，所述预设的调整策略包括对称量化和非对称量化的选择、线性量化和对数量化的选择、量化标定的数据源、饱和量化和非饱和量化的选择中至少一种。
4.根据权利要求3所述的方法，其特征在于，所述根据所述训练模型评价指标确定是否输出所述训练模型，包括：
基于所述训练模型评价指标，判断所述训练模型的精度是否满足预设精度要求；
若所述训练模型的精度满足所述预设精度要求，则输出所述训练模型，否则，重新对所述模型格式文件进行所述后量化操作，直至所述训练模型的精度满足所述预设精度要求。
5.一种用户模型移植的量化装置，其特征在于，包括：
获取模块，用于获取训练模型，并对所述训练模型进行格式转化，得到目标中间格式；
转化模块，用于利用预设的网络移植工具和预设的运行时环境对所述目标中间格式进行转化，得到模型格式文件；以及
量化模块，用于对所述模型格式文件进行后量化操作，并基于预设的训练框后处理和评价体系对后量化结果进行评价，得到训练模型评价指标，以根据所述训练模型评价指标确定是否输出所述训练模型。
6.根据权利要求5所述的装置，其特征在于，所述量化模块，还用于：
获取所述训练模型对应的训练框架；
根据所述训练框架确定用于对所述后量化结果进行评价的测试集、后处理代码和目标评价体系；
根据所述测试集、所述后处理代码和所述目标评价体系对所述后量化结果进行评价，得到所述训练模型评价指标。
7.根据权利要求6所述的装置，其特征在于，所述量化模块，还用于：
基于预设的调整策略，对所述模型格式文件进行后量化操作，其中，所述预设的调整策略包括对称量化和非对称量化的选择、线性量化和对数量化的选择、量化标定的数据源、饱和量化和非饱和量化的选择中至少一种。
8.根据权利要求7所述的装置，其特征在于，所述量化模块，还用于：
基于所述训练模型评价指标，判断所述训练模型的精度是否满足预设精度要求；
若所述训练模型的精度满足所述预设精度要求，则输出所述训练模型，否则，重新对所述模型格式文件进行所述后量化操作，直至所述训练模型的精度满足所述预设精度要求。
9.一种电子设备，其特征在于，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序，以实现如权利要求1-4任一项所述的用户模型移植的量化方法。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行，以用于实现如权利要求1-4任一项所述的用户模型移植的量化方法。
CN202310195642.0A 2023-03-01 2023-03-01 用户模型移植的量化方法、装置、电子设备及存储介质 Pending CN116185494A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310195642.0A CN116185494A (zh) 2023-03-01 2023-03-01 用户模型移植的量化方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310195642.0A CN116185494A (zh) 2023-03-01 2023-03-01 用户模型移植的量化方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN116185494A true CN116185494A (zh) 2023-05-30

Family

ID=86432534

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310195642.0A Pending CN116185494A (zh) 2023-03-01 2023-03-01 用户模型移植的量化方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN116185494A (zh)

Similar Documents

Publication Publication Date Title
CN107992401B (zh) 性能测试评价方法、装置、终端设备及存储介质
CN111881023B (zh) 一种基于多模型对比的软件老化预测方法及装置
CN114861880B (zh) 基于空洞卷积神经网络的工业设备故障预测方法及装置
CN114325534A (zh) 信号测试方法、装置、设备及可读存储介质
CN109491360B (zh) 整车控制器的仿真测试方法、装置、系统及电子设备
CN113671408A (zh) 锂电池的漏电流检测方法及检测装置
CN114443483A (zh) 人工智能系统的测试方法、装置、电子设备及介质
CN116185494A (zh) 用户模型移植的量化方法、装置、电子设备及存储介质
CN108829546B (zh) 超时机制控制方法和装置
CN111683296A (zh) 视频切分方法、装置、电子设备及存储介质
CN116385369A (zh) 深度图像质量评价方法、装置、电子设备及存储介质
CN115866235A (zh) 视频质量评估方法、装置、电子设备及存储介质
US6960930B2 (en) Method and apparatus for determining the minimum or maximum switching activity of a digital circuit
CN111916049A (zh) 一种语音合成方法及装置
CN105827550A (zh) 一种利用滑动窗确定目标参数的方法及装置
CN112949214B (zh) 机器学习建模方法、可视化建模平台及电子设备
CN111741218B (zh) 一种聚焦方法、装置、电子设备及存储介质
CN112434073B (zh) 一种样本选择模型的确定方法及装置
CN111680395B (zh) 可靠性综合验证试验方法、装置、电子设备及存储介质
CN115510782B (zh) 定位验证错误的方法、电子设备和存储介质
CN112668702B (zh) 定点化参数优化方法、系统、及终端、存储介质
CN115543839A (zh) 健康管理功能的测试方法、装置、电子设备及存储介质
CN112669893B (zh) 确定待使用读电压的方法、系统、装置及设备
CN113128409B (zh) 一种基于多维关联规则模型的整车多源信号柔性测试方法
CN112861951B (zh) 一种图像神经网络参数的确定方法及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination