CN112580804B - 一种目标图像处理模型的确定方法、装置及存储介质 - Google Patents

一种目标图像处理模型的确定方法、装置及存储介质 Download PDF

Info

Publication number
CN112580804B
CN112580804B CN202011555461.7A CN202011555461A CN112580804B CN 112580804 B CN112580804 B CN 112580804B CN 202011555461 A CN202011555461 A CN 202011555461A CN 112580804 B CN112580804 B CN 112580804B
Authority
CN
China
Prior art keywords
pruned
pruning
information
model
determining
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011555461.7A
Other languages
English (en)
Other versions
CN112580804A (zh
Inventor
舒睿俊
李嘉茂
朱冬晨
张晓林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Institute of Microsystem and Information Technology of CAS
Original Assignee
Shanghai Institute of Microsystem and Information Technology of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Institute of Microsystem and Information Technology of CAS filed Critical Shanghai Institute of Microsystem and Information Technology of CAS
Priority to CN202011555461.7A priority Critical patent/CN112580804B/zh
Publication of CN112580804A publication Critical patent/CN112580804A/zh
Application granted granted Critical
Publication of CN112580804B publication Critical patent/CN112580804B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Abstract

本发明涉及一种目标图像处理模型的确定方法、装置及存储介质，方法包括根据待剪枝图像处理模型的历史剪枝信息和历史精度信息，确定当前剪枝信息；基于当前剪枝信息，对待剪枝图像处理模型进行剪枝处理，得到剪枝后的模型；将样本图像输入剪枝后的模型，进行特征预测处理，得到预测特征信息；根据样本图像的标签信息和预测特征信息，确定剪枝后的模型的精度信息；根据剪枝后的模型的精度信息和当前剪枝信息，确定待剪枝信息；若待剪枝信息满足预设停止剪枝条件，将剪枝后的模型确定为目标图像处理模型。本发明可以减小目标图像处理模型的结构，减少目标图像处理模型所占资源，还可以保证剪枝后的网络模型的精度。

Description

一种目标图像处理模型的确定方法、装置及存储介质
技术领域
本发明涉及深度学习技术领域，尤其涉及一种目标图像处理模型的确定方法、装置及存储介质。
背景技术
网络模型的剪枝类型包括非结构化剪枝和结构化剪枝，非结构化剪枝是指对网络模型中单个的冗余权重进行剪枝处理，结构化剪枝是指对网络模型中的部分卷积核进行剪枝处理。
现有技术中，采用预算剪枝方法对网络模型进行剪枝，即预先给定网络模型中每个卷积层对应的剪枝率，并基于每个卷积层的对应的剪枝率对其进行剪枝。还采用非预算剪枝方法对网络模型进行剪枝，即在剪枝的过程中，确定每个卷积层对应的剪枝率，进而根据确定的剪枝率对其进行剪枝。现有的剪枝方法都是从资源预算的角度出发，在剪枝前综合考虑待剪枝模型的复杂度、乘加运算的数量、网络模型中参数所占的存储空间、网络模型的处理时延等因素。该种剪枝方法难以保证剪枝后的网络模型的精度，例如，网络模型为图像处理模型时，会导致图像处理的精度较低，无法满足图像处理的精度要求。
发明内容
本发明实施例提供一种目标图像处理模型的确定方法、装置及存储介质，可以减小目标图像处理模型的结构，减少目标图像处理模型所占资源，还可以保证剪枝后的网络模型的精度。
本发明实施例提供了一种目标图像处理模型的确定方法，该方法包括：
根据待剪枝图像处理模型的历史剪枝信息和历史精度信息，确定当前剪枝信息；
基于当前剪枝信息，对待剪枝图像处理模型进行剪枝处理，得到剪枝后的模型；
将样本图像输入剪枝后的模型，进行特征预测处理，得到预测特征信息；
根据样本图像的标签信息和预测特征信息，确定剪枝后的模型的精度信息；
根据剪枝后的模型的精度信息和当前剪枝信息，确定待剪枝信息；
若待剪枝信息满足预设停止剪枝条件，将剪枝后的模型确定为目标图像处理模型。
进一步地，基于当前剪枝信息，对待剪枝图像处理模型进行剪枝处理，得到剪枝后的模型，包括：
从待剪枝图像处理模型中确定待剪枝卷积层集；
根据当前剪枝信息，分别对待剪枝卷积层集中的一个待剪枝卷积层进行剪枝处理，得到多个候选剪枝模型；
将样本图像输入每一候选剪枝模型，进行特征预测处理，得到候选特征信息；
根据标签信息和候选特征信息，确定每一候选剪枝模型的精度信息；
根据每一候选剪枝模型的精度信息，从多个候选剪枝模型中确定剪枝后的模型。
进一步地，根据当前剪枝信息，分别对待剪枝卷积层集中的一个待剪枝卷积层进行剪枝处理，得到多个候选剪枝模型，包括：
分别从待剪枝卷积层集中任意确定一个待剪枝卷积层为目标卷积层，并确定目标卷积层的下一层为参考卷积层；
将样本图像作为待剪枝图像处理模型的输入，在待剪枝图像处理模型中，确定样本图像在参考卷积层生成的参考特征图；
分别对目标卷积层中的一个待剪枝卷积核进行剪枝处理，得到多个预剪枝模型；
将样本图像作为每一预剪枝模型的输入，在每一预剪枝模型中，确定样本图像在参考卷积层生成的目标特征图；
根据当前剪枝信息、参考特征图和目标特征图，确定目标卷积层的待剪枝卷积核集；
分别对目标卷积层对应的待剪枝卷积核集进行剪枝处理，得到多个候选剪枝模型。
进一步地，根据当前剪枝信息、参考特征图和目标特征图，确定目标卷积层的待剪枝卷积核集，包括：
对参考特征图和目标特征图进行归一化处理，得到参考特征图对应的第一特征图和目标特征图对应的第二特征图；
对参考特征图和目标特征图进行平坦化处理，得到参考特征图对应的第一矩阵和目标特征图对应的第二矩阵；
根据第一特征图、第二特征图、第一矩阵和第二矩阵，确定目标卷积层中的一个待剪枝卷积核对应的差异信息；
根据每一待剪枝卷积核对应的差异信息，确定目标卷积层的待剪枝卷积核集。
进一步地，根据待剪枝图像处理模型的历史剪枝信息和历史精度信息，确定当前剪枝信息，包括：
若历史剪枝信息满足第一预设剪枝条件，且历史精度信息满足第二预设剪枝条件，将历史剪枝信息确定为当前剪枝信息；
或者，
若历史剪枝信息满足第一预设剪枝条件，且历史精度信息不满足第二预设剪枝条件，根据历史剪枝信息确定当前剪枝信息。
进一步地，根据剪枝后的模型的精度信息和当前剪枝信息，确定待剪枝信息，包括：
若当前剪枝信息满足第一预设剪枝条件，且剪枝后的模型的精度信息满足第二预设剪枝条件，将当前剪枝信息确定为待剪枝信息；
或者，
若当前剪枝信息满足第一预设剪枝条件，且剪枝后的模型的精度信息不满足第二预设剪枝条件，根据当前剪枝信息确定待剪枝信息。
进一步地，根据剪枝后的模型的精度信息和当前剪枝信息，确定待剪枝信息之后，还包括：
若待剪枝信息不满足预设停止剪枝条件，将剪枝后的模型重新确定为待剪枝图像处理模型。
相应地，本发明实施例还提供了一种目标图像处理模型的确定装置，该装置包括：
当前剪枝信息确定模块，用于根据待剪枝图像处理模型的历史剪枝信息和历史精度信息，确定当前剪枝信息；
剪枝处理模块，用于基于当前剪枝信息，对待剪枝图像处理模型进行剪枝处理，得到剪枝后的模型；
预测模块，用于将样本图像输入剪枝后的模型，进行特征预测处理，得到预测特征信息；
剪枝后的模型的精度信息确定模块，用于根据样本图像的标签信息和预测特征信息，确定剪枝后的模型的精度信息；
待剪枝信息确定模块，用于根据剪枝后的模型的精度信息和当前剪枝信息，确定待剪枝信息；
目标图像处理模型确定模块，用于若待剪枝信息满足预设条件，将剪枝后的模型确定为目标图像处理模型。
进一步地，剪枝处理模块包括：
待剪枝卷积层集确定模块，用于从待剪枝图像处理模型中确定待剪枝卷积层集；
候选剪枝模型确定模块，用于根据当前剪枝信息，分别对待剪枝卷积层集中的一个待剪枝卷积层进行剪枝处理，得到多个候选剪枝模型；
候选特征信息确定模块，用于将样本图像输入每一候选剪枝模型，进行特征预测处理，得到候选特征信息；
候选剪枝模型的精度信息确定模块，用于根据标签信息和候选特征信息，确定每一候选剪枝模型的精度信息；
剪枝后的模型确定模块，用于根据每一候选剪枝模型的精度信息，从多个候选剪枝模型中确定剪枝后的模型。
进一步地，候选剪枝模型确定模块包括：
目标及参考卷积层确定模块，用于分别从待剪枝卷积层集中任意确定一个待剪枝卷积层为目标卷积层，并确定目标卷积层的下一层为参考卷积层；
参考特征图确定模块，用于将样本图像作为待剪枝图像处理模型的输入，在待剪枝图像处理模型中，确定样本图像在参考卷积层生成的参考特征图；
预剪枝模型确定模块，用于分别对目标卷积层中的一个待剪枝卷积核进行剪枝处理，得到多个预剪枝模型；
目标特征图确定模块，用于将样本图像作为每一预剪枝模型的输入，在每一预剪枝模型中，确定样本图像在参考卷积层生成的目标特征图；
待剪枝卷积核集确定模块，用于根据当前剪枝信息、参考特征图和目标特征图，确定目标卷积层的待剪枝卷积核集；
待剪枝卷积核集剪枝处理模块，用于分别对目标卷积层对应的待剪枝卷积核集进行剪枝处理，得到多个候选剪枝模型。
相应地，本发明实施例还提供了一种电子设备，该电子设备包括处理器和存储器，存储器中存储有至少一条指令、至少一段程序、代码集或指令集，至少一条指令、至少一段程序、代码集或指令集由处理器加载并执行以实现上述目标图像处理模型的确定方法。
相应地，本发明实施例还提供了一种计算机可读存储介质，该存储介质中存储有至少一条指令、至少一段程序、代码集或指令集，至少一条指令、至少一段程序、代码集或指令集由处理器加载并执行以实现上述目标图像处理模型的确定方法。
本发明实施例具有如下有益效果：
本发明实施例从精度预算出发对待剪枝图像处理模型进行剪枝，可以减小目标图像处理模型的结构，减少目标图像处理模型所占资源，还可以保证剪枝后的网络模型的精度。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案和优点，下面将对实施例或现有技术描述中所需要使用的附图作简单的介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它附图。
图1是本发明实施例提供的一种目标图像处理模型的确定方法的流程图；
图2是本发明实施例提供的一种对待剪枝图像处理模型进行剪枝处理的流程图；
图3是本发明实施例提供的一种每次对待剪枝卷积层集中的一个待剪枝卷积层进行剪枝处理的流程图；
图4是本发明实施例提供的一种确定目标卷积层的待剪枝卷积核集的流程图；
图5是本发明实施例提供的一种目标图像处理模型的确定装置的结构示意图；
图6是本发明实施例提供的一种剪枝处理模块的结构示意图；
图7是本发明实施例提供的一种候选特征信息确定模块的结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明实施例作进一步地详细描述。显然，所描述的实施例仅仅是本发明一个实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。
此处所称的“实施例”是指可包含于本发明至少一个实现方式中的特定特征、结构或特性。在本发明实施例的描述中，需要理解的是术语“第一”、“第二”和“第三”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”和“第三”的特征可以明示或者隐含的包括一个或者更多个该特征。而且，术语“第一”、“第二”和“第三”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明实施例能够以除了在这里图示或描述以外的顺序实施。此外，术语“包括”和“为”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或模块的过程、方法、装置、产品或设备不必限于清楚地列出的那些步骤或模块，而是可包括没有清楚地列出的或对于这些过程、方法、装置、产品或设备固有的其它步骤或模块。
本说明书提供了如实施例或流程图所示的方法操作步骤，但基于常规或者无创造性的劳动可以包括更多或者更少的操作步骤。实施例中列举的步骤顺序仅仅为众多执行顺序中的一种方式，不代表唯一的执行顺序，在实际执行时，可以按照实施例或者附图所示的方法顺序执行或者并行执行(例如并行处理器或者多线程处理的环境)。
下面介绍本发明一种目标图像处理模型的确定方法的具体实施例，图1是本发明实施例提供的一种目标图像处理模型的确定方法的流程图，具体的如图1所示，该方法包括：
S101：根据待剪枝图像处理模型的历史剪枝信息和历史精度信息，确定当前剪枝信息。
本发明实施例中，服务器可以根据上一轮剪枝过程中，待剪枝图像处理模型的历史剪枝信息和历史精度信息，确定本轮剪枝过程中，待剪枝图像处理模型的当前剪枝信息。其中，历史剪枝信息可以是指上一轮剪枝过程中的剪枝数量；历史精度信息可以表征上一轮图像处理模型(即待剪枝图像处理模型)输出的预测特征信息的准确度。当前剪枝信息可以是指本轮剪枝过程中的剪枝数量。
具体地，服务器可以根据上一轮剪枝过程中，待剪枝图像处理模型的剪枝数量和待剪枝图像处理模型的精度值，确定本轮剪枝过程中，待剪枝图像处理模型的当前剪枝数量。
若待剪枝图像处理模型为原始图像处理模型，即该待剪枝图像处理模型未被剪枝，不存在上一轮剪枝过程，服务器可以将预设剪枝信息作为待剪枝图像处理模型的历史剪枝信息，即可以将预先设定的最大剪枝数量作为待剪枝图像处理模型的历史剪枝数量，且可以通过将测试图像和测试图像对应的标签信息输入未被剪枝的待剪枝图像处理模型中，即输入原始图像处理模型中，进行特征预测处理，得到测试图像对应的预测特征信息，并根据测试图像对应的标签信息和测试图像对的预测特征信息，确定未被剪枝的待剪枝图像处理模型的精度信息，即确定原始图像处理模型的精度值，并将该精度值作为待剪枝图像处理模型的历史精度信息。这里，标签信息可以是测试图像对应的标签特征信息，例如，当原始图像处理模型为目标识别模型时，测试图像对应的标签特征信息可以是目标的位置信息。
在一种可选的实施方式中，若待剪枝图像处理模型的历史剪枝信息满足第一预设条件，且待剪枝图像处理模型的历史精度信息满足第二预设条件，可以将待剪枝图像处理模型的历史剪枝信息作为待剪枝图像处理模型的当前剪枝信息。也即是，将上一轮剪枝过程中待剪枝图像处理模型的剪枝数量，作为本轮剪枝过程中待剪枝图像处理模型的剪枝数量。具体地，上述第一预设条件可以是历史剪枝数量大于0，第二预设条件可以是历史精度值大于或者等于预设精度值，该预设精度值可以是原始图像处理模型的精度值，也可以是预先设置的精度值。
在另一种可选的实施方式中，若待剪枝图像处理模型的历史剪枝信息满足第一预设条件，且待剪枝图像处理模型的历史精度信息不满足第二预设条件，可以根据待剪枝图像处理模型的历史剪枝信息，确定待剪枝图像处理模型的当前剪枝信息。也即是，根据上一轮剪枝过程中待剪枝图像处理模型的剪枝数量，确定本轮剪枝过程中待剪枝图像处理模型的剪枝数量，例如，可以将上一轮剪枝过程中待剪枝图像处理模型的剪枝数量减1作为本轮剪枝过程中待剪枝图像处理模型的剪枝数量。具体地，上述第一预设条件可以是历史剪枝数量大于0，第二预设条件可以是历史精度值小于预设精度值，该预设精度值可以是原始图像处理模型的精度值，也可以是预先设置的精度值。
S103：基于当前剪枝信息，对待剪枝图像处理模型进行剪枝处理，得到剪枝后的模型。
在一种可选的实施方式中，服务器可以基于当前剪枝信息，对待剪枝图像处理模型进行剪枝处理，得到剪枝后的模型。图2是本发明实施例提供的一种对待剪枝图像处理模型进行剪枝处理的流程图，如图2所示，对待剪枝图像处理模型进行剪枝处理的具体步骤包括：
S201：从待剪枝图像处理模型中确定待剪枝卷积层集。
本发明实施例中，待剪枝图像处理模型包含多个卷积层，服务器可以从待剪枝图像处理模型所包含的多个卷积层中确定待剪枝卷积层集，其中，待剪枝卷积层集中的待剪枝卷积层可以是连续的，也可以是间隔的。需要进行说明的是，待剪枝卷积层集不包括待剪枝图像处理模型所包含的多个卷积层中的最后一层卷积层。
在一种具体的实施方式中，可以从待剪枝图像处理模型所包含的多个卷积层中，按照多个卷积层的连接顺序，从第一层卷积层起确定连续的多个卷积层作为待剪枝卷积层集。
S203：根据当前剪枝信息，分别对待剪枝卷积层集中的一个待剪枝卷积层进行剪枝处理，得到多个候选剪枝模型。
本发明实施例中，服务器可以根据当前剪枝信息，每次对待剪枝卷积层集中的一个待剪枝卷积层进行剪枝处理，通过对多个待剪枝卷积层进行剪枝处理，可以得到多个候选剪枝模型。图3是本发明实施例提供的一种每次对待剪枝卷积层集中的一个待剪枝卷积层进行剪枝处理的流程图，如图3所示，每次对待剪枝卷积层集中的一个待剪枝卷积层进行剪枝处理的具体步骤包括：
S301：分别从待剪枝卷积层集中任意确定一个待剪枝卷积层为目标卷积层，并确定目标卷积层的下一层为参考卷积层。
本发明实施例中，服务器每次可以从待剪枝卷积层集中任意确定一个待剪枝卷积层作为目标卷积层，并可以按照待剪枝卷积层集中多个待剪枝卷积层的连接顺序，确定目标卷积层的下一层为参考卷积层。基于上文中所提及的待剪枝卷积层集不包括待剪枝图像处理模型所包含的多个卷积层中的最后一层卷积层，目的在于保证目标卷积层具有对应的参考卷积层。在一种可选的实施方式中，按照卷积层集中多个卷积层的连接顺序，若目标卷积层后具有多个卷积层，还可以确定目标卷积层后的第二层卷积层作为参考卷积层，或者确定目标卷积层后的第三层作为参考卷积层。例如，从待剪枝卷积层集中确定第一层卷积层作为目标卷积层，相应地，参考卷积层可以是第二层卷积层，也可以是第三层卷积层。
S303：将样本图像作为待剪枝图像处理模型的输入，在待剪枝图像处理模型中，确定样本图像在参考卷积层生成的参考特征图。
本发明实施例中，可以将样本图像作为待剪枝图像处理模型的输入，即将样本图像输入本轮剪枝过程中未进行剪枝处理的待剪枝图像处理模型中，在该待剪枝图像处理模型中，确定样本图像在参考卷积层生成的参考特征图。
S305：分别对目标卷积层中的一个待剪枝卷积核进行剪枝处理，得到多个预剪枝模型。
本发明实施例，服务器每次可以对目标卷积层中的一个待剪枝卷积核进行剪枝处理，可以得到多个预剪枝模型。
S307：将样本图像作为每一预剪枝模型的输入，在每一预剪枝模型中，确定样本图像在参考卷积层生成的目标特征图。
本发明实施例中，服务器可以将样本图像作为每一预剪枝模型的输入，即将样本图像输入对目标卷积层剪去一个待剪枝卷积核后得到的预剪枝模型中，在该预剪枝模型中，确定样本图像在参考卷积层生成的目标特征图。
S309：根据当前剪枝信息、参考特征图和目标特征图，确定目标卷积层的待剪枝卷积核集。
本发明实施例中，可以根据当前剪枝信息、参考特征图以及目标特征图，确定目标卷积层的待剪枝卷积核集，即根据本轮剪枝过程中，待剪枝图像处理模型的剪枝数量、参考特征图与目标特征图间的差异信息，从目标卷积层包含的多个卷积核中确定待剪枝卷积核集。需要进行说明的是，本轮剪枝过程中，待剪枝图像处理模型的剪枝数量小于目标卷积层包含的卷积核的数量，也即是，每轮剪枝过程中，待剪枝图像处理模型的剪枝数量小于待剪枝卷积层集中每一待剪枝卷积层所包含的卷积核的数量。
基于上文中所描述的确定参考卷积层的多种方式，为了提高参考特征图与目标特征图间的差异信息的精确度，优选地，将目标卷积层的下一层作为参考卷积层。在一种具体的实施方式中，服务可以根据当前剪枝信息、参考特征图和目标特征图，确定目标卷积层的待剪枝卷积核集。图4是本发明实施例提供的一种确定目标卷积层的待剪枝卷积核集的流程图，如图4所示，确定目标卷积层的待剪枝卷积核集的具体步骤可以包括：
S401：对参考特征图和目标特征图进行归一化处理，得到参考特征图对应的第一特征图和目标特征图对应的第二特征图。
本发明实施例中，可以将参考特征图记为F1,i，F1,i∈Rc1×h1×w1，i＝1,2,3...n，其中，c1表示参考特征图的通道数目，h1表示参考特征图的高，w1表示参考特征图的宽，n表示第n张样本图像。可以将目标特征图记为F2,i，F2,i∈Rc1×h1×w1。进而可以确定参考特征图F1,i和目标特征图F2,i分别对应的归一化特征图，可以记为F1,i 1和F2,i 1。
本发明实施例中，可以确定参考特征图F1,i和目标特征图F2,i分别对应的归一化特征图，可以将参考特征图对应的第一特征图记为F1,i 1，以及将目标特征图对应的第二特征图记为F2,i 1。
S403：对参考特征图和目标特征图进行平坦化处理，得到参考特征图对应的第一矩阵和目标特征图对应的第二矩阵。
本发明实施例中，可以确定参考特征图F1,i和目标特征图F2,i分别对应的归一化空间相关矩阵，例如，先将参考特征图F1,i和目标特征图F2,i分别平坦化为一个二维矩阵F1,i 1和F2,i 1，F1,i 1∈Rc1×h1×w1，i＝1,2,3...n。再分别计算二维矩阵F1,i 1和F2,i 1对应的归一化空间相关矩阵，将参考特征图对应的第一矩阵记为S1,i 1，以及将目标特征图对应的第二矩阵记为S2,i 1，其中，S1,i 1＝Norm_Func((F1,i 1)TF1,i 1)，S2,i 1＝Norm_Func((F2,i 1)TF2,i 1)，Norm_Func为归一化函数。
S405：根据第一特征图、第二特征图、第一矩阵和第二矩阵，确定目标卷积层中的一个待剪枝卷积核对应的差异信息；根据每一待剪枝卷积核对应的差异信息，确定目标卷积层的待剪枝卷积核集。
本发明实施例中，可以基于归一化空间相关矩阵，即第一矩阵S1,i 1和第二矩阵S2,i 1确定空间相关误差ES，例如ES＝∥S1,i 1-S2,i 1∥，还可以基于归一化特征图，即第一特征图F1,i 1和第二特征图F2,i 1确定重构误差ER，例如ER＝∥F1,i 1-F2,i 1∥，进而根据空间相关误差ES和重构误差ER确定目标卷积层中的一个待剪枝卷积核对应的差异信息，例如E＝(1/n)∑i＝1 n(ES+αER)，α表示平衡系数。通过每次对目标卷积层中的一个待剪枝卷积核进行剪枝处理，得到目标卷积层中的一个待剪枝卷积核对应的差异信息，也即是一个预剪枝模型对应的差异信息，可以对该一个预剪枝模型对应的差异信息进行从小到大的排序，进行根据当前剪枝信息，即本轮剪枝过程中待剪枝图像处理模型的剪枝数量，按照差异信息进行从小到大的顺序，从中选择剪枝数量的卷积核作为目标卷积层的待剪枝卷积核。
S311：分别对目标卷积层对应的待剪枝卷积核集进行剪枝处理，得到多个候选剪枝模型。
本发明实施例中，在确定目标卷积层的待剪枝卷积核集之后，每次对该待剪枝卷积核集进行剪枝处理，得到一个预剪枝模型，通过每次确定一个目标卷积层对应的待剪枝卷积核集，并对其进行剪枝处理，可以得到多个候选剪枝模型。
S205：将样本图像输入每一候选剪枝模型，进行特征预测处理，得到候选特征信息。
本发明实施例中，服务器可以按照先后顺序将样本图像依次输入每一候选剪枝模型中，进行特征预测处理，根据每一候选剪枝模型的输出，可以确定样本图像对应的候选特征信息。服务器也可以同时将样本图像依次输入每一候选剪枝模型中，进行特征预测处理，根据每一候选剪枝模型的输出，可以确定样本图像对应的候选特征信息。需要进行说明的是，样本图像对应的候选特征信息是指基于每一候选剪枝模型的输出，所确定的样本图像的一个候选特征信息，基于多个候选剪枝模型的输出，可以确定样本图像的多个候选特征信息，且候选特征信息与候选剪枝模型一一对应。
S207：根据标签信息和候选特征信息，确定每一候选剪枝模型的精度信息。
本发明实施例中，服务器可以根据样本图像的标签信息和样本图像的候选特征信息，确定每一候选剪枝模型的精度信息。具体地，可以确定每一候选剪枝模型的精度值。基于多个候选剪枝模型输出的样本图像的多个候选特征信息，服务器可以确定多个候选剪枝模型对应的多个精度信息，即确定多个候选剪枝模型对应的多个精度值。
S209：根据每一候选剪枝模型的精度信息，从多个候选剪枝模型中确定剪枝后的模型。
本发明实施例中，服务器可以根据多个候选剪枝模型中每一候选剪枝模型的精度信息，从多个候选剪枝模型中确定剪枝后的模型。在一种具体的实施方式中，服务器可以从多个候选剪枝模型中对应的多个精度值中，确定最大精度值对应的候选剪枝模型为剪枝后的模型。
S105：将样本图像输入剪枝后的模型，进行特征预测处理，得到预测特征信息。
本发明实施例中，服务器可以将样本图像依次输入剪枝后的模型中，进行特征预测处理，得到预测特征信息。该预测特征信息的具体内容可以对应于剪枝后的模型的实际作用，例如，当剪枝后的模型为目标识别模型时，对应的预测特征信息可以为目标的特征信息，也可以为目标的位置信息。
S107：根据样本图像的标签信息和预测特征信息，确定剪枝后的模型的精度信息。
本发明实施例中，服务器可以根据样本图像的标签信息和样本图像的预测特征信息，确定剪枝后的模型的精度信息，即确定剪枝后的模型对应的精度值。
S109：根据剪枝后的模型的精度信息和当前剪枝信息，确定待剪枝信息。
本发明实施例中，服务器可以根据剪枝后的模型的精度信息和当前剪枝信息，确定待剪枝信息。
在一种可选的实施方式中，若剪枝后的模型的当前剪枝信息满足第一预设条件，且剪枝后的模型的精度信息满足第二预设条件，可以将剪枝后的模型当前剪枝信息作为待剪枝信息。也即是，将本轮剪枝过程中待剪枝图像处理模型的剪枝数量，作为下一轮剪枝过程中待剪枝图像处理模型的剪枝数量。具体地，上述第一预设条件可以是当前剪枝数量大于0，第二预设条件可以是当前精度值大于或者等于预设精度值，该预设精度值可以是原始图像处理模型的进度值，也可以是预先设置的精度值。
在另一种可选的实施方式中，若剪枝后的模型的当前剪枝信息满足第一预设条件，且剪枝后的模型的精度信息不满足第二预设条件，可以根据剪枝后的模型当前剪枝信息，确定待剪枝信息。也即是，根据本轮剪枝过程中待剪枝图像处理模型的剪枝数量，确定下一轮剪枝过程中待剪枝图像处理模型的剪枝数量，例如，可以将本轮剪枝过程中待剪枝图像处理模型的剪枝数量减1作为下一轮剪枝过程中待剪枝图像处理模型的剪枝数量。具体地，上述第一预设条件可以是当前剪枝数量大于0，第二预设条件可以是当前精度值大于或者等于预设精度值，该预设精度值可以是原始图像处理模型的进度值，也可以是预先设置的精度值。
S111：若待剪枝信息满足预设停止剪枝条件，将剪枝后的模型确定为目标图像处理模型。
本发明实施例中，若待剪枝信息满足预设停止剪枝条件，可以将剪枝后的模型确定为目标图像处理模型。在一种可选的实施方式中，预设停止剪枝条件可以是待剪枝数量小于0。即下一轮剪枝过程中的剪枝数据小于0时，可以将本轮剪枝得到的剪枝后的模型确定为目标图像处理模型。
本发明实施例中，若待剪枝信息不满足预设停止剪枝条件，可以将剪枝后的模型重新确定为待剪枝图像处理模型。即下一轮剪枝过程中的剪枝数据大于0时，可以将本轮剪枝得到的剪枝后的模型重新确定为待剪枝图像处理模型，以进行下一轮的剪枝。
采用本发明实施例所采用的目标图像处理模型的确定方法，从精度预算出发对待剪枝图像处理模型进行剪枝，并采用迭代搜索机制，渐进式地对待剪枝图像处理模型进行剪枝，在每一轮剪枝过程中，确定当前信息确定的待剪枝卷积核集并剪枝，可以减小目标图像处理模型的结构，减少目标图像处理模型所占资源，还可以保证剪枝后的网络模型的精度。
本发明实施例还提供了一种目标图像处理模型的确定装置，图5是本发明实施例提供的一种目标图像处理模型的确定装置的结构示意图，如图5所示，该装置包括：
当前剪枝信息确定模块501用于根据待剪枝图像处理模型的历史剪枝信息和历史精度信息，确定当前剪枝信息；
剪枝处理模块503用于基于当前剪枝信息，对待剪枝图像处理模型进行剪枝处理，得到剪枝后的模型；
图6是本发明实施例提供的一种剪枝处理模块的结构示意图，如图6所示，剪枝处理模块503可以包括：
待剪枝卷积层集确定模块601，用于从待剪枝图像处理模型中确定待剪枝卷积层集；
候选剪枝模型确定模块603，用于根据当前剪枝信息，分别对待剪枝卷积层集中的一个待剪枝卷积层进行剪枝处理，得到多个候选剪枝模型；
候选特征信息确定模块605用于将样本图像输入每一候选剪枝模型，进行特征预测处理，得到候选特征信息；
图7是本发明实施例提供的一种候选特征信息确定模块的结构示意图，如图7所示，候选特征信息确定模块607可以包括：
目标及参考卷积层确定模块701用于分别从待剪枝卷积层集中任意确定一个待剪枝卷积层为目标卷积层，并确定目标卷积层的下一层为参考卷积层；
参考特征图确定模块703用于将样本图像作为待剪枝图像处理模型的输入，在待剪枝图像处理模型中，确定样本图像在参考卷积层生成的参考特征图；
预剪枝模型确定模块705用于分别对目标卷积层中的一个待剪枝卷积核进行剪枝处理，得到多个预剪枝模型；
目标特征图确定模块707用于将样本图像作为每一预剪枝模型的输入，在每一预剪枝模型中，确定样本图像在参考卷积层生成的目标特征图；
待剪枝卷积核集确定模块709用于根据当前剪枝信息、参考特征图和目标特征图，确定目标卷积层的待剪枝卷积核集；
待剪枝卷积核集剪枝处理模块711用于分别对目标卷积层对应的待剪枝卷积核集进行剪枝处理，得到多个候选剪枝模型。
候选剪枝模型的精度信息确定模块607用于根据标签信息和候选特征信息，确定每一候选剪枝模型的精度信息；
剪枝后的模型确定模块609用于根据每一候选剪枝模型的精度信息，从多个候选剪枝模型中确定剪枝后的模型。
预测模块505用于将样本图像输入剪枝后的模型，进行特征预测处理，得到预测特征信息；
剪枝后的模型的精度信息确定模块507用于根据样本图像的标签信息和预测特征信息，确定剪枝后的模型的精度信息；
待剪枝信息确定模块509用于根据剪枝后的模型的精度信息和当前剪枝信息，确定待剪枝信息；
目标图像处理模型确定模块511用于若待剪枝信息满足预设条件，将剪枝后的模型确定为目标图像处理模型。
本发明实施例中的装置与方法实施例基于同样的发明构思。
本发明实施例还提供了一种电子设备，电子设备可设置于服务器之中以保存用于实现方法实施例中的一种目标图像处理模型的确定方法相关的至少一条指令、至少一段程序、代码集或指令集，该至少一条指令、该至少一段程序、该代码集或指令集由该存储器加载并执行以实现上述的目标图像处理模型的确定方法。
本发明实施例还提供了一种存储介质，存储介质可设置于服务器之中以保存用于实现方法实施例中一种目标图像处理模型的确定方法相关的至少一条指令、至少一段程序、代码集或指令集，该至少一条指令、该至少一段程序、该代码集或指令集由该处理器加载并执行以实现上述目标图像处理模型的确定方法。
可选的，在本实施例中，上述存储介质可以位于计算机网络的多个网络服务器中的至少一个网络服务器。可选地，在本实施例中，上述存储介质可以包括但不限于包括：U盘、只读存储器(ROM，Read-only Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
由上述本发明实施例提供的目标图像处理模型的确定方法、装置或存储介质的实施例可见，从精度预算出发对待剪枝图像处理模型进行剪枝，并采用迭代搜索机制，渐进式地对待剪枝图像处理模型进行剪枝，在每一轮剪枝过程中，确定当前信息确定的待剪枝卷积核集并剪枝，可以减小目标图像处理模型的结构，减少目标图像处理模型所占资源，还可以保证剪枝后的网络模型的精度。
需要说明的是：上述本发明实施例的先后顺序仅仅为了描述，不代表实施例的优劣，且上述本说明书对特定的实施例进行了描述，其他实施例也在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或者步骤可以按照不同的实施例中的顺序来执行并且能够实现预期的结果。另外，在附图中描绘的过程不一定要求示出特定顺序或者而连接顺序才能够实现期望的结果，在某些实施方式中，多任务并行处理也是可以的或者可能是有利的。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的均为与其他实施例的不同之处。尤其，对于装置的实施例而言，由于其基于相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也视为本发明的保护范围。

Claims (12)

1.一种目标图像处理模型的确定方法，其特征在于，包括：
根据待剪枝图像处理模型的历史剪枝信息和历史精度信息，确定当前剪枝信息；
基于所述当前剪枝信息，对所述待剪枝图像处理模型进行剪枝处理，得到剪枝后的模型；
将样本图像输入所述剪枝后的模型，进行特征预测处理，得到预测特征信息；
根据所述样本图像的标签信息和所述预测特征信息，确定所述剪枝后的模型的精度信息；
根据所述剪枝后的模型的精度信息和所述当前剪枝信息，确定待剪枝信息；
若所述待剪枝信息满足预设停止剪枝条件，将所述剪枝后的模型确定为目标图像处理模型。
2.根据权利要求1所述的方法，其特征在于，所述基于所述当前剪枝信息，对所述待剪枝图像处理模型进行剪枝处理，得到剪枝后的模型，包括：
从所述待剪枝图像处理模型中确定待剪枝卷积层集；
根据所述当前剪枝信息，分别对所述待剪枝卷积层集中的一个待剪枝卷积层进行剪枝处理，得到多个候选剪枝模型；
将所述样本图像输入每一候选剪枝模型，进行特征预测处理，得到候选特征信息；
根据所述标签信息和所述候选特征信息，确定每一候选剪枝模型的精度信息；
根据每一候选剪枝模型的精度信息，从所述多个候选剪枝模型中确定剪枝后的模型。
3.根据权利要求2所述的方法，其特征在于，所述根据所述当前剪枝信息，分别对所述待剪枝卷积层集中的一个待剪枝卷积层进行剪枝处理，得到多个候选剪枝模型，包括：
分别从所述待剪枝卷积层集中任意确定一个待剪枝卷积层为目标卷积层，并确定所述目标卷积层的下一层为参考卷积层；
将所述样本图像作为所述待剪枝图像处理模型的输入，在所述待剪枝图像处理模型中，确定所述样本图像在所述参考卷积层生成的参考特征图；
分别对所述目标卷积层中的一个待剪枝卷积核进行剪枝处理，得到多个预剪枝模型；
将所述样本图像作为每一预剪枝模型的输入，在每一预剪枝模型中，确定所述样本图像在所述参考卷积层生成的目标特征图；
根据所述当前剪枝信息、所述参考特征图和所述目标特征图，确定所述目标卷积层的待剪枝卷积核集；
分别对所述目标卷积层对应的待剪枝卷积核集进行剪枝处理，得到所述多个候选剪枝模型。
4.根据权利要求3所述的方法，其特征在于，所述根据所述当前剪枝信息、所述参考特征图和所述目标特征图，确定所述目标卷积层的待剪枝卷积核集，包括：
对所述参考特征图和所述目标特征图进行归一化处理，得到所述参考特征图对应的第一特征图和所述目标特征图对应的第二特征图；
对所述参考特征图和所述目标特征图进行平坦化处理，得到所述参考特征图对应的第一矩阵和所述目标特征图对应的第二矩阵；
根据所述第一特征图、所述第二特征图、所述第一矩阵和所述第二矩阵，确定所述目标卷积层中的一个待剪枝卷积核对应的差异信息；
根据每一待剪枝卷积核对应的差异信息，确定所述目标卷积层的所述待剪枝卷积核集。
5.根据权利要求1所述的方法，其特征在于，所述根据待剪枝图像处理模型的历史剪枝信息和历史精度信息，确定当前剪枝信息，包括：
若所述历史剪枝信息满足第一预设剪枝条件，且所述历史精度信息满足第二预设剪枝条件，将所述历史剪枝信息确定为所述当前剪枝信息；
或者，
若所述历史剪枝信息满足所述第一预设剪枝条件，且所述历史精度信息不满足所述第二预设剪枝条件，根据所述历史剪枝信息确定所述当前剪枝信息。
6.根据权利要求5所述的方法，其特征在于，所述根据所述剪枝后的模型的精度信息和所述当前剪枝信息，确定待剪枝信息，包括：
若所述当前剪枝信息满足所述第一预设剪枝条件，且所述剪枝后的模型的精度信息满足所述第二预设剪枝条件，将所述当前剪枝信息确定为所述待剪枝信息；
或者，
若所述当前剪枝信息满足所述第一预设剪枝条件，且所述剪枝后的模型的精度信息不满足所述第二预设剪枝条件，根据所述当前剪枝信息确定所述待剪枝信息。
7.根据权利要求1所述的方法，其特征在于，所述根据所述剪枝后的模型的精度信息和所述当前剪枝信息，确定待剪枝信息之后，还包括：
若所述待剪枝信息不满足预设停止剪枝条件，将所述剪枝后的模型确定为所述待剪枝图像处理模型。
8.一种目标图像处理模型的确定装置，其特征在于，包括：
当前剪枝信息确定模块，用于根据待剪枝图像处理模型的历史剪枝信息和历史精度信息，确定当前剪枝信息；
剪枝处理模块，用于基于所述当前剪枝信息，对所述待剪枝图像处理模型进行剪枝处理，得到剪枝后的模型；
预测模块，用于将样本图像输入所述剪枝后的模型，进行特征预测处理，得到预测特征信息；
剪枝后的模型的精度信息确定模块，用于根据所述样本图像的标签信息和所述预测特征信息，确定所述剪枝后的模型的精度信息；
待剪枝信息确定模块，用于根据所述剪枝后的模型的精度信息和所述当前剪枝信息，确定待剪枝信息；
目标图像处理模型确定模块，用于若所述待剪枝信息满足预设条件，将所述剪枝后的模型确定为目标图像处理模型。
9.根据权利要求8所述的装置，其特征在于，所述剪枝处理模块包括：
待剪枝卷积层集确定模块，用于从所述待剪枝图像处理模型中确定待剪枝卷积层集；
候选剪枝模型确定模块，用于根据所述当前剪枝信息，分别对所述待剪枝卷积层集中的一个待剪枝卷积层进行剪枝处理，得到多个候选剪枝模型；
候选特征信息确定模块，用于将所述样本图像输入每一候选剪枝模型，进行特征预测处理，得到候选特征信息；
候选剪枝模型的精度信息确定模块，用于根据所述标签信息和所述候选特征信息，确定每一候选剪枝模型的精度信息；
剪枝后的模型确定模块，用于根据每一候选剪枝模型的精度信息，从所述多个候选剪枝模型中确定剪枝后的模型。
10.根据权利要求9所述的装置，其特征在于，所述候选剪枝模型确定模块包括：
目标及参考卷积层确定模块，用于分别从所述待剪枝卷积层集中任意确定一个待剪枝卷积层为目标卷积层，并确定所述目标卷积层的下一层为参考卷积层；
参考特征图确定模块，用于将所述样本图像作为所述待剪枝图像处理模型的输入，在所述待剪枝图像处理模型中，确定所述样本图像在所述参考卷积层生成的参考特征图；
预剪枝模型确定模块，用于分别对所述目标卷积层中的一个待剪枝卷积核进行剪枝处理，得到多个预剪枝模型；
目标特征图确定模块，用于将所述样本图像作为每一预剪枝模型的输入，在每一预剪枝模型中，确定所述样本图像在所述参考卷积层生成的目标特征图；
待剪枝卷积核集确定模块，用于根据所述当前剪枝信息、所述参考特征图和所述目标特征图，确定所述目标卷积层的待剪枝卷积核集；
待剪枝卷积核集剪枝处理模块，用于分别对所述目标卷积层对应的待剪枝卷积核集进行剪枝处理，得到所述多个候选剪枝模型。
11.一种电子设备，其特征在于，所述电子设备包括处理器和存储器，所述存储器中存储有至少一条指令、至少一段程序、代码集或指令集，所述至少一条指令、所述至少一段程序、所述代码集或指令集由所述处理器加载并执行以实现权利要求1-7任意一项所述目标图像处理模型的确定方法。
12.一种计算机可读存储介质，其特征在于，所述存储介质中存储有至少一条指令、至少一段程序、代码集或指令集，所述至少一条指令、所述至少一段程序、所述代码集或指令集由处理器加载并执行以实现如权利要求1-7任意一项所述目标图像处理模型的确定方法。
CN202011555461.7A 2020-12-23 2020-12-23 一种目标图像处理模型的确定方法、装置及存储介质 Active CN112580804B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011555461.7A CN112580804B (zh) 2020-12-23 2020-12-23 一种目标图像处理模型的确定方法、装置及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011555461.7A CN112580804B (zh) 2020-12-23 2020-12-23 一种目标图像处理模型的确定方法、装置及存储介质

Publications (2)

Publication Number Publication Date
CN112580804A CN112580804A (zh) 2021-03-30
CN112580804B true CN112580804B (zh) 2024-04-05

Family

ID=75139711

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011555461.7A Active CN112580804B (zh) 2020-12-23 2020-12-23 一种目标图像处理模型的确定方法、装置及存储介质

Country Status (1)

Country Link
CN (1) CN112580804B (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109523017A (zh) * 2018-11-27 2019-03-26 广州市百果园信息技术有限公司 深度神经网络的压缩方法、装置、设备及存储介质
WO2020008346A1 (en) * 2018-07-02 2020-01-09 Beijing Bytedance Network Technology Co., Ltd. Rules on updating luts
CN111091278A (zh) * 2019-12-04 2020-05-01 湃方科技(天津)有限责任公司 机械设备异常检测的边缘检测模型构建方法及装置
CN111553169A (zh) * 2020-06-25 2020-08-18 北京百度网讯科技有限公司 语义理解模型的剪枝方法、装置、电子设备和存储介质
CN111667054A (zh) * 2020-06-05 2020-09-15 北京百度网讯科技有限公司 生成神经网络模型的方法、装置、电子设备以及存储介质

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020008346A1 (en) * 2018-07-02 2020-01-09 Beijing Bytedance Network Technology Co., Ltd. Rules on updating luts
CN109523017A (zh) * 2018-11-27 2019-03-26 广州市百果园信息技术有限公司 深度神经网络的压缩方法、装置、设备及存储介质
CN111091278A (zh) * 2019-12-04 2020-05-01 湃方科技(天津)有限责任公司 机械设备异常检测的边缘检测模型构建方法及装置
CN111667054A (zh) * 2020-06-05 2020-09-15 北京百度网讯科技有限公司 生成神经网络模型的方法、装置、电子设备以及存储介质
CN111553169A (zh) * 2020-06-25 2020-08-18 北京百度网讯科技有限公司 语义理解模型的剪枝方法、装置、电子设备和存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
"一种改进的决策树后剪枝算法";郑伟等;《计算机与数字工程》;20150630;全文 *
Jaroslav Ol'ha等."Exploiting historical data:pruning autotuning spaces and estimating the number of tuning steps".《Concurrency and Computation Practice and Experience》.2020,全文. *

Also Published As

Publication number Publication date
CN112580804A (zh) 2021-03-30

Similar Documents

Publication Publication Date Title
CN110188765B (zh) 图像语义分割模型生成方法、装置、设备及存储介质
US10692003B2 (en) Device placement optimization with reinforcement learning
CN109376267B (zh) 用于生成模型的方法和装置
CN108037993B (zh) 基于大数据和深度学习神经网络的云计算调度方法及系统
US11915104B2 (en) Normalizing text attributes for machine learning models
CN108960316B (zh) 用于生成模型的方法和装置
US10268951B2 (en) Real-time resource usage reduction in artificial neural networks
CN107368613B (zh) 短文本情感分析方法及装置
CN107481218B (zh) 图像美感评估方法及装置
CN109498037B (zh) 基于深度学习提取特征和多重降维算法的脑认知测量方法
CN111898904B (zh) 一种数据处理方法及装置
CN112101547B (zh) 一种对网络模型的剪枝方法、装置、电子设备及存储介质
CN110929524A (zh) 数据筛选方法、装置、设备及计算机可读存储介质
CN110633421A (zh) 特征提取、推荐以及预测方法、装置、介质和设备
EP3779806A1 (en) Automated machine learning pipeline identification system and method
CN112200296B (zh) 网络模型量化方法、装置、存储介质及电子设备
CN111311599A (zh) 图像处理方法、装置、电子设备和存储介质
CN111159241A (zh) 一种点击转化预估方法及装置
CN113806501B (zh) 意图识别模型的训练方法、意图识别方法和设备
CN112580804B (zh) 一种目标图像处理模型的确定方法、装置及存储介质
CN113989838A (zh) 行人重识别模型训练方法、识别方法、系统、装置及介质
US20210304010A1 (en) Neural network training under memory restraint
CN111985616A (zh) 一种图像特征提取方法、图像检索方法、装置及设备
CN111414990B (zh) 卷积神经网络处理方法、装置、电子设备及存储介质
CN108334519B (zh) 一种用户画像中的用户标签获取方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant