CN112149829A - 确定网络模型剪枝策略的方法、装置、设备以及存储介质 - Google Patents

确定网络模型剪枝策略的方法、装置、设备以及存储介质 Download PDF

Info

Publication number
CN112149829A
CN112149829A CN202011147374.8A CN202011147374A CN112149829A CN 112149829 A CN112149829 A CN 112149829A CN 202011147374 A CN202011147374 A CN 202011147374A CN 112149829 A CN112149829 A CN 112149829A
Authority
CN
China
Prior art keywords
threshold
pruning
network model
target
determining
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011147374.8A
Other languages
English (en)
Other versions
CN112149829B (zh
Inventor
希滕
张刚
温圣召
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202011147374.8A priority Critical patent/CN112149829B/zh
Publication of CN112149829A publication Critical patent/CN112149829A/zh
Priority to EP21180897.7A priority patent/EP3876166A3/en
Priority to US17/354,873 priority patent/US20210312293A1/en
Application granted granted Critical
Publication of CN112149829B publication Critical patent/CN112149829B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/01—Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请实施例公开了确定网络模型剪枝策略的方法、装置、设备以及存储介质，涉及计算机视觉、深度学习等人工智能技术领域，具体可用于图像处理场景。该方法包括：采用针对目标硬件的网络模型的BN阈值搜索空间的配置信息，生成BN阈值搜索空间；采用BN阈值搜索空间，生成剪枝策略编码生成器；采用剪枝策略编码生成器，随机生成BN阈值编码；对BN阈值编码进行解码，得到待选BN阈值；根据对应于待选BN阈值的网络模型的剪枝精度损失，确定用于目标硬件的网络模型的目标剪枝策略，通过自动搜索的方式得到最优的BN阈值，并用BN阈值代替通道重要性对网络模型进行剪枝，进而大幅度降低网络模型的剪枝后精度损失。

Description

确定网络模型剪枝策略的方法、装置、设备以及存储介质
技术领域
本申请涉及计算机技术领域，具体涉及计算机视觉、深度学习等人工智能技术领域，具体可用于图像处理场景，尤其涉及确定网络模型剪枝策略的方法、装置、设备以及存储介质。
背景技术
深度学习技术在很多方向上都取得了巨大的成功。在深度学习技术中，网络模型的剪枝对网络模型的性能和效果有着非常重要的影响。
现有的剪枝策略是基于矩阵的秩(rank)的大小，对网络模型中通道的重要性进行排序。对于重要性较低的通道，通常被认为是冗余的，可以将其剪掉，进而实现压缩网络模型的效果。但是，对于具有较小秩的矩阵，其重要性未必较低，将其剪掉后，网络模型的精度损失严重。
发明内容
本申请实施例提供了确定网络模型剪枝策略的方法、装置、设备以及存储介质。
第一方面，本申请实施例提供了确定网络模型剪枝策略的方法，包括：采用针对目标硬件的网络模型的BN阈值搜索空间的配置信息，生成BN阈值搜索空间；采用所述BN阈值搜索空间，生成剪枝策略编码生成器；采用所述剪枝策略编码生成器，随机生成BN阈值编码；对所述BN阈值编码进行解码，得到待选BN阈值；根据对应于所述待选BN阈值的网络模型的剪枝精度损失，确定用于目标硬件的网络模型的目标剪枝策略。
第二方面，本申请实施例提供了确定网络模型剪枝策略的装置，包括：BN阈值搜索空间生成模块，被配置为采用针对目标硬件的网络模型的BN阈值搜索空间的配置信息，生成BN阈值搜索空间；编码模块，被配置为采用所述BN阈值搜索空间，生成剪枝策略编码生成器；BN阈值编码生成模块，被配置为采用所述剪枝策略编码生成器，随机生成BN阈值编码；解码模块，被配置为对所述BN阈值编码进行解码，得到待选BN阈值；目标剪枝策略确定模块，被配置为根据对应于所述待选BN阈值的网络模型的剪枝精度损失，确定用于目标硬件的网络模型的目标剪枝策略。
第三方面，本申请实施例提出了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如第一方面中任一实现方式描述的方法。
第四方面，本申请实施例提出了一种存储有计算机指令的非瞬时计算机可读存储介质，计算机指令用于使计算机执行如第一方面中任一实现方式描述的方法。
本申请实施例提供的确定网络模型剪枝策略的方法、装置、设备以及存储介质，首先采用针对目标硬件的网络模型的BN阈值搜索空间的配置信息，生成BN阈值搜索空间；其次采用所述BN阈值搜索空间，生成剪枝策略编码生成器；之后采用所述剪枝策略编码生成器，随机生成BN阈值编码；然后对所述BN阈值编码进行解码，得到待选BN阈值；最后根据对应于所述待选BN阈值的网络模型的剪枝精度损失，确定用于目标硬件的网络模型的目标剪枝策略，从而通过自动搜索的方式得到最优的BN阈值，并用BN阈值代替通道重要性对网络模型进行剪枝，进而大幅度降低网络模型的剪枝后精度损失。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显。附图用于更好地理解本方案，不构成对本申请的限定。其中：
图1是本申请可以应用于其中的示例性系统架构图；
图2是根据本申请的确定网络模型剪枝策略的方法的一个实施例的流程示意图；
图3是根据本申请的确定网络模型剪枝策略的方法的一个实施例的应用场景示意图；
图4是本申请的确定网络模型剪枝策略的装置的一个实施例的结构示意图；
图5是用来实现本申请实施例的确定网络模型剪枝策略的方法的电子设备的框图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。
需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的确定网络模型剪枝策略的方法或确定网络模型剪枝策略的装置的实施例的示例性系统架构100。
如图1所示，系统架构100可以包括终端设备101、网络102、服务器103。网络102用以在终端设备101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
终端设备101可以通过网络102与服务器103交互。终端设备101中可以提供针对目标硬件的BN阈值搜索空间的配置信息，包括但不限于数据库、用户终端等等。
服务器103可以提供各种服务，例如服务器103可以对从终端设备101获取到的针对目标硬件的BN阈值搜索空间的配置信息等数据进行分析等处理，生成处理结果(例如用于目标硬件的目标剪枝策略)。
需要说明的是，服务器103可以是硬件，也可以是软件。当服务器103为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器103为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。
需要说明的是，本申请实施例所提供的确定网络模型剪枝策略的方法一般由服务器103执行，相应地，确定网络模型剪枝策略的装置一般设置于服务器103中。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
继续参考图2，示出了根据本申请的确定网络模型剪枝策略的方法的一个实施例的流程200。该方法，包括以下步骤：
步骤201，采用针对目标硬件的网络模型的BN阈值搜索空间的配置信息，生成BN阈值搜索空间。
在本实施例中，确定网络模型剪枝策略的方法的执行主体(例如图1所示的服务器103)可以采用针对目标硬件的网络模型的BN阈值搜索空间的配置信息，生成BN阈值搜索空间。
其中，针对目标硬件的BN阈值搜索空间的配置信息可以是用户设置的、用于确定BN阈值搜索空间的信息。Batch Normalization(BN)又称批量标准化，其过程如下：假设输入的批量数据为zin，那么该批量数据经BN后的输出zout为：
Figure BDA0002740141980000041
其中，μB为该批量数据的均值，
Figure BDA0002740141980000042
为该批量数据的方差，
Figure BDA0002740141980000043
为对该批量数据中的每一个元素进行归一化，γ和β分别表示学习的扩展参数和平移参数。其中，扩展系数γ的值即为BN值，网络模型中通道对应的BN值越小，该通道的重要性越低。为此，可以通过设定BN阈值，将低于设定的BN阈值的通道剪掉，从而实现在压缩网络模型的同时不降低网络模型的精度。
其中，BN阈值搜索空间包括BN阈值信息和通道位置信息。BN阈值信息可以是各个档位的阈值。例如，BN阈值的范围是[1，10]，且BN阈值是离散的。那么根据预先定义的BN阈值粒度值0.01，可以生成1000个档位的BN阈值。在本实施例中，BN阈值还可以是连续值。若BN阈值是连续值，可以根据贝叶斯估计等搜索算法确定连续区间的BN阈值档位。
其中，通道位置信息可以是应用于目标硬件的网络模型中的通道位置信息。在卷积神经网络中，通道即卷积层中的卷积核，输出通道的个数对应于卷积核的个数。
其中，通过BN阈值信息和通道位置信息可以确定剪枝策略。例如，若假设网络模型中共有5个通道，且存在10个档位的BN阈值，那么可以为每个通道设置10个档位的BN阈值，因此一共可以形成10万个剪枝策略。示例性地，可以为网络模型中的每个通道设定对应档位的BN阈值。
其中，从BN阈值搜索空间可以搜索到由任一档位的BN阈值和任一通道组成的剪枝策略。这些剪枝策略可以是现有技术中已知的剪枝策略，也可以是对现有剪枝策略的拟合。
步骤202，采用BN阈值搜索空间，生成剪枝策略编码生成器。
在本实施例中，上述执行主体可以采用BN阈值搜索空间，生成剪枝策略编码生成器。
其中，对BN阈值搜索空间进行编码可以是对搜索空间中的任一档位的BN阈值和任一通道位置进行编码。例如，假设搜索空间中有10个档位的BN阈值，并且由5种不同的通道位置。那么可以对每个档位的BN阈值进行编码，得到对应于10个档位的BN阈值的10个编码值。同时对5种不同的通道位置进行编码，得到对应于5种不同通道位置的5个编码值。由于每个通道位置都可以有10个档位的BN阈值可以选择，因此，该搜索空间可以有10万种不同的剪枝策略。每种剪枝策略都有唯一与之对应的编码值，从而可以得到剪枝策略编码生成器。
通过对搜索空间中的BN阈值和通道信息进行编码，可以将剪枝策略转换成计算机可以识别的语言，进而可以实现对剪枝策略的机器自动搜索。
步骤203，采用剪枝策略编码生成器，随机生成BN阈值编码。
在本实施例中，上述执行主体可以采用剪枝策略编码生成器，随机生成BN阈值编码。
其中，剪枝策略编码生成器可以随机地生成一组表征BN阈值及每个BN阈值对应的通道的编码。例如，生成的一组BN阈值编码为[1][2][3][4]，其中[1]可以表征第一通道采用第一档的BN阈值，[2]可以表征第二通道采用第二档的BN阈值，以此类推。该组BN阈值编码即表征一个剪枝策略。
步骤204，对BN阈值编码进行解码，得到待选BN阈值。
在本实施例中，上述执行主体可以对BN阈值编码进行解码，得到待选BN阈值。其中，由于每个BN阈值编码可以对应唯一的一档BN阈值，因此对该档BN阈值编码进行解码后，即可得到一组待选BN阈值。每个解码后的BN阈值包含对应的通道信息。其中，可以采用现有的编码/解码技术实现对BN阈值的编码和解码。
步骤205，根据对应于待选BN阈值的网络模型的剪枝精度损失，确定用于目标硬件的网络模型的目标剪枝策略。
在本实施例中，上述执行主体可以根据对应于待选BN阈值的网络模型的剪枝精度损失，确定用于目标硬件的网络模型的目标剪枝策略。
其中，可以首先获取应用于目标硬件的网络模型的训练脚本(例如网络结构、初始参数、激活函数、损失函数等等)。然后在训练集上执行训练脚本，训练网络模型。随后，利用待选BN阈值对训练完成的网络模型中的每一个通道进行剪枝，并在验证集上测试剪枝后的网络模型的效果(例如精度损失)。若测试的效果满足需求，则可以将该待选BN阈值对应的剪枝策略作为目标剪枝策略。示例性地，假设生成的待选BN阈值为每个通道的BN阈值是0.01，则可以将网络模型中每个通道的BN值与待选BN阈值进行比较，若某个通道的BN值小于待选BN阈值，则将该通道剪掉，依次类推，最终得到剪枝后的网络模型。随后在验证集上测试剪枝后的网络模型的效果(例如精度损失)。若测试的效果满足需求，则可以将该待选BN阈值对应的剪枝策略作为目标剪枝策略。
本申请上述实施例提供的确定网络模型剪枝策略的方法，可以通过自动搜索的方式得到最优的BN阈值，并用BN阈值代替通道重要性对网络模型进行剪枝，进而大幅度降低网络模型的剪枝后精度损失。
在本实施例的一些可选的实现方式中，上述步骤205还包括：响应于待选BN阈值的网络模型的剪枝精度损失小于预定阈值，将待选BN阈值确定为用于目标硬件的目标剪枝策略。
具体地，包括如下步骤：基于待选BN阈值，对用于目标硬件的网络模型进行剪枝；评估剪枝后的网络模型的精度损失；响应于网络模型的剪枝精度损失小于预定阈值，将待选BN阈值确定为用于目标硬件的目标剪枝策略。在本实施例中，通过设定BN阈值自动搜索的终止条件(网络模型的精度损失小于预定阈值)，可以实现自动查找满足需求的BN阈值。
在本实施例的一些可选的实现方式中，上述步骤205还包括：响应于所述待选BN阈值的网络模型的剪枝精度损失大于预定阈值，采用所述剪枝策略编码生成器，生成新的一组BN阈值编码，并对所述新的一组BN阈值编码进行解码，得到新的待选BN阈值；根据对应于所述新的待选BN阈值的剪枝精度损失，确定用于目标硬件的目标剪枝策略。
具体地，包括如下步骤：基于待选BN阈值，对用于目标硬件的网络模型进行剪枝；评估剪枝后的网络模型的精度损失；响应于网络模型的剪枝精度损失大于预定阈值，根据剪枝策略编码生成器，生成新的一组BN阈值编码，并对新的一组BN阈值编码进行解码，得到新的待选BN阈值；根据对应于新的待选BN阈值的剪枝精度损失，确定用于目标硬件的目标剪枝策略。在本实施例中，通过设定BN阈值自动搜索的循环条件(网络模型的精度损失大于预定阈值)，可以从BN阈值搜索空间中找到最优的目标剪枝策略。优选地，还可以为BN阈值自动搜索的循环条件设定终止条件，例如剪枝策略编码生成器的更新次数达到预定阈值。其中，每更新一次剪枝策略编码生成器即可以产生新的一组BN阈值编码。
在本实施例的一些可选的实现方式中，待选BN阈值包括连续BN阈值和离散BN阈值。本实施例提供的确定网络模型剪枝策略的方法既可以应用于连续BN阈值，也可以应用于离散BN阈值。若为离散BN阈值，则可以按照预定义的阈值粒度设置不同档位的BN阈值。若为连续BN阈值，则可以采用贝叶斯估计等算法设置不同区间的BN阈值档位。
在本实施例的一些可选的实现方式中，在用户的终端设备具备相应设备处理能力的情况下，上述执行主体可以将目标剪枝策略返回给用户的终端设备。此时，用户的终端设备可以首先获取训练样本集，以及利用训练样本集进行训练，得到初始模型，然后利用目标剪枝策略对初始模型进行剪枝，得到目标模型。
在用户的终端设备不具备相应设备处理能力的情况下，上述执行主体可以获取训练样本集，以及利用训练样本集进行训练，得到初始模型，然后利用目标剪枝策略对初始模型进行剪枝，得到目标模型。随后，上述执行主体可以将目标剪枝策略和目标模型一并返回给用户的终端设备。
值的一提的是，本实施例中的初始模型可以是任何种类的人工神经网络模型，包括但不限于分类模型、识别模型、检测模型等等。采用了本申请实施例中的目标剪枝策略的目标模型在目标硬件上的运行速度和精度都所有提升，从而提升目标模型、目标硬件的产品竞争力。同时，在同样的精度下，采用目标模型可以降低产品的成本，提高了硬件收益。其中，初始模型可以是应用于目标硬件上的图像处理模型，采用本申请实施例中的目标剪枝策略对图像处理模型进行剪枝，可以显著提升图像处理模型的精度，等价于用更小的模型就可以达到同样的精度，即显著提升图像处理模型的速度。硬件收益就是图像处理模型在硬件上处理图像的速度更快，降低产品的成本，提升产品的核心竞争力。
为了便于理解，下面提供可以实现本申请实施例的确定网络模型剪枝策略的方法的应用场景，具体如图3所示：
步骤301：基于海思芯片的BN阈值搜索空间的配置信息，生成BN阈值搜索空间。
步骤302：对BN阈值搜索空间进行编码，生成BN阈值编码生成器。
步骤303：通过BN阈值编码生成器，生成BN阈值编码。
步骤304：将步骤303中的BN阈值编码解码成BN阈值。
步骤305：采用步骤304中的BN阈值对训练完成的神经网络模型进行剪枝。
步骤306：若神经网络模型的剪枝精度损失大于预定阈值，则执行步骤303；若神经网络模型的量化精度损失小于预定阈值，则不执行任何操作。
进一步参考图4，作为对上述各图所示方法的实现，本申请提供了一种确定网络模型剪枝策略的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图4所示，本实施例的确定网络模型剪枝策略的装置400可以包括：BN阈值搜索空间生成模块401、编码模块402、BN阈值编码生成模块403、解码模块404、目标剪枝策略确定模块405。其中，BN阈值搜索空间生成模块401，被配置为采用针对目标硬件的网络模型的BN阈值搜索空间的配置信息，生成BN阈值搜索空间；编码模块402，被配置为采用所述BN阈值搜索空间，生成剪枝策略编码生成器；BN阈值编码生成模块403，被配置为采用所述剪枝策略编码生成器，随机生成BN阈值编码；解码模块404，被配置为对所述BN阈值编码进行解码，得到待选BN阈值；目标剪枝策略确定模块405，被配置为根据对应于所述待选BN阈值的网络模型的剪枝精度损失，确定用于目标硬件的网络模型的目标剪枝策略。
在本实施例中，确定网络模型剪枝策略的装置400中：BN阈值搜索空间生成模块401、编码模块402、BN阈值编码生成模块403、解码模块404、目标剪枝策略确定模块405的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201-205的相关说明，在此不再赘述。
在本实施例的一些可选的实现方式中，所述目标剪枝策略确定模块进一步被配置成：响应于待选BN阈值的网络模型的剪枝精度损失小于预定阈值，将待选BN阈值确定为用于目标硬件的目标剪枝策略。
在本实施例的一些可选的实现方式中，所述目标剪枝策略确定模块进一步被配置成：响应于所述待选BN阈值的网络模型的剪枝精度损失大于预定阈值，采用所述剪枝策略编码生成器，生成新的一组BN阈值编码，并对所述新的一组BN阈值编码进行解码，得到新的待选BN阈值；根据对应于所述新的待选BN阈值的剪枝精度损失，确定用于目标硬件的目标剪枝策略。
在本实施例的一些可选的实现方式中，所述待选BN阈值包括连续BN阈值和离散BN阈值。
在本实施例的一些可选的实现方式中，还包括：训练样本获取模块，被配置为获取训练样本集；初始模型训练模块，被配置为利用所述训练样本集对用于目标硬件的网络模型进行训练，得到初始模型；初始模型量化模块，被配置为利用所述目标剪枝策略对所述初始模型进行剪枝，得到目标模型。
在本实施例的一些可选的实现方式中，所述BN阈值为经批量标准化后的数据的扩展系数。
如图5所示，是根据本申请实施例确定网络模型剪枝策略的方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图5所示，该电子设备包括：一个或多个处理器501、存储器502，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图5中以一个处理器501为例。
存储器502即为本申请所提供的非瞬时计算机可读存储介质。其中，所述存储器存储有可由至少一个处理器执行的指令，以使所述至少一个处理器执行本申请所提供的确定网络模型剪枝策略的方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的确定网络模型剪枝策略的方法。
存储器502作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的确定网络模型剪枝策略的方法对应的程序指令/模块(例如，附图4所示的BN阈值搜索空间生成模块401、编码模块402、BN阈值编码生成模块403、解码模块404、目标剪枝策略确定模块405)。处理器501通过运行存储在存储器502中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的确定网络模型剪枝策略的方法。
存储器502可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据确定网络模型剪枝策略的方法的电子设备的使用所创建的数据等。此外，存储器502可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器502可选包括相对于处理器501远程设置的存储器，这些远程存储器可以通过网络连接至确定网络模型剪枝策略的方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
确定网络模型剪枝策略的方法的电子设备还可以包括：输入装置503和输出装置504。处理器501、存储器502、输入装置503和输出装置504可以通过总线或者其他方式连接，图5中以通过总线连接为例。
输入装置503可接收输入的数字或字符信息，以及产生与确定网络模型剪枝策略的方法的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置504可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请的技术方案，首先采用针对目标硬件的网络模型的BN阈值搜索空间的配置信息，生成BN阈值搜索空间；其次采用所述BN阈值搜索空间，生成剪枝策略编码生成器；之后采用所述剪枝策略编码生成器，随机生成BN阈值编码；然后对所述BN阈值编码进行解码，得到待选BN阈值；最后根据对应于所述待选BN阈值的网络模型的剪枝精度损失，确定用于目标硬件的网络模型的目标剪枝策略，从而通过自动搜索的方式得到最优的BN阈值，并用BN阈值代替通道重要性对网络模型进行剪枝，进而大幅度降低网络模型的剪枝后精度损失。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发明申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。

Claims (14)

1.一种用于确定网络模型的剪枝策略的方法，包括：
采用针对目标硬件的网络模型的BN阈值搜索空间的配置信息，生成BN阈值搜索空间；
采用所述BN阈值搜索空间，生成剪枝策略编码生成器；
采用所述剪枝策略编码生成器，随机生成BN阈值编码；
对所述BN阈值编码进行解码，得到待选BN阈值；
根据对应于所述待选BN阈值的网络模型的剪枝精度损失，确定用于目标硬件的网络模型的目标剪枝策略。
2.根据权利要求1所述的方法，所述根据对应于所述待选BN阈值的网络模型的剪枝精度损失，确定应用于目标硬件的目标剪枝策略包括：
响应于待选BN阈值的网络模型的剪枝精度损失小于预定阈值，将待选BN阈值确定为用于目标硬件的目标剪枝策略。
3.根据权利要求1或2所述的方法，所述根据对应于所述待选BN阈值的网络模型的剪枝精度损失，确定应用于目标硬件的目标剪枝策略包括：
响应于所述待选BN阈值的网络模型的剪枝精度损失大于预定阈值，采用所述剪枝策略编码生成器，生成新的一组BN阈值编码，并对所述新的一组BN阈值编码进行解码，得到新的待选BN阈值；
根据对应于所述新的待选BN阈值的剪枝精度损失，确定用于目标硬件的目标剪枝策略。
4.根据权利要求1所述的方法，所述待选BN阈值包括连续BN阈值和离散BN阈值。
5.根据权利要求1所述的方法，还包括：
获取训练样本集；
利用所述训练样本集对用于目标硬件的网络模型进行训练，得到初始模型；
利用所述目标剪枝策略对所述初始模型进行剪枝，得到目标模型。
6.根据权利要求1-5任一项所述的方法，所述BN阈值为经批量标准化后的数据的扩展系数。
7.一种确定网络模型剪枝策略的装置，其特征在于，所述装置包括：
BN阈值搜索空间生成模块，被配置为采用针对目标硬件的网络模型的BN阈值搜索空间的配置信息，生成BN阈值搜索空间；
编码模块，被配置为采用所述BN阈值搜索空间，生成剪枝策略编码生成器；
BN阈值编码生成模块，被配置为采用所述剪枝策略编码生成器，随机生成BN阈值编码；
解码模块，被配置为对所述BN阈值编码进行解码，得到待选BN阈值；
目标剪枝策略确定模块，被配置为根据对应于所述待选BN阈值的网络模型的剪枝精度损失，确定用于目标硬件的网络模型的目标剪枝策略。
8.根据权利要求7所述的装置，其中，所述目标剪枝策略确定模块进一步被配置成：
响应于待选BN阈值的网络模型的剪枝精度损失小于预定阈值，将待选BN阈值确定为用于目标硬件的目标剪枝策略。
9.根据权利要求7或8所述的装置，其中，所述目标剪枝策略确定模块进一步被配置成：
响应于所述待选BN阈值的网络模型的剪枝精度损失大于预定阈值，采用所述剪枝策略编码生成器，生成新的一组BN阈值编码，并对所述新的一组BN阈值编码进行解码，得到新的待选BN阈值；
根据对应于所述新的待选BN阈值的剪枝精度损失，确定用于目标硬件的目标剪枝策略。
10.根据权利要求7所述的装置，其中，所述待选BN阈值连续BN阈值和离散BN阈值。
11.根据权利要求7所述的装置，还包括：
训练样本获取模块，被配置为获取训练样本集；
初始模型训练模块，被配置为利用所述训练样本集对用于目标硬件的网络模型进行训练，得到初始模型；
初始模型量化模块，被配置为利用所述目标剪枝策略对所述初始模型进行剪枝，得到目标模型。
12.根据权利要求7-11任一项所述的装置，所述BN阈值为经批量标准化后的数据的扩展系数。
13.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1-6中任一项所述的方法。
CN202011147374.8A 2020-10-23 2020-10-23 确定网络模型剪枝策略的方法、装置、设备以及存储介质 Active CN112149829B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN202011147374.8A CN112149829B (zh) 2020-10-23 2020-10-23 确定网络模型剪枝策略的方法、装置、设备以及存储介质
EP21180897.7A EP3876166A3 (en) 2020-10-23 2021-06-22 Method and apparatus for determining network model pruning strategy, device and storage medium
US17/354,873 US20210312293A1 (en) 2020-10-23 2021-06-22 Method and apparatus for determining network model pruning strategy, device and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011147374.8A CN112149829B (zh) 2020-10-23 2020-10-23 确定网络模型剪枝策略的方法、装置、设备以及存储介质

Publications (2)

Publication Number Publication Date
CN112149829A true CN112149829A (zh) 2020-12-29
CN112149829B CN112149829B (zh) 2024-05-14

Family

ID=73954748

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011147374.8A Active CN112149829B (zh) 2020-10-23 2020-10-23 确定网络模型剪枝策略的方法、装置、设备以及存储介质

Country Status (3)

Country Link
US (1) US20210312293A1 (zh)
EP (1) EP3876166A3 (zh)
CN (1) CN112149829B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113052211A (zh) * 2021-03-11 2021-06-29 天津大学 一种基于特征的秩和通道重要性的剪枝方法

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113947185B (zh) * 2021-09-30 2022-11-18 北京达佳互联信息技术有限公司 任务处理网络生成、任务处理方法、装置、电子设备及存储介质
CN115577765A (zh) * 2022-09-09 2023-01-06 美的集团(上海)有限公司 网络模型剪枝方法、电子设备及存储介质
CN115494844B (zh) * 2022-09-26 2024-06-28 成都朴为科技有限公司 一种多机器人搜索方法及系统
CN115587629B (zh) * 2022-12-07 2023-04-07 中国科学院上海高等研究院 协方差膨胀系数估计方法、模型训练方法、存储介质终端
CN116992944B (zh) * 2023-09-27 2023-12-19 之江实验室 基于可学习重要性评判标准剪枝的图像处理方法及装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190130271A1 (en) * 2017-10-27 2019-05-02 Baidu Usa Llc Systems and methods for block-sparse recurrent neural networks
CN111062382A (zh) * 2019-10-30 2020-04-24 北京交通大学 用于目标检测网络的通道剪枝方法
CN111222629A (zh) * 2019-12-31 2020-06-02 暗物智能科技(广州)有限公司 一种基于自适应批规范化的神经网络模型剪枝方法及系统
CN111539224A (zh) * 2020-06-25 2020-08-14 北京百度网讯科技有限公司 语义理解模型的剪枝方法、装置、电子设备和存储介质
CN111652366A (zh) * 2020-05-09 2020-09-11 哈尔滨工业大学 一种基于通道剪枝和量化训练的联合神经网络模型压缩方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190130271A1 (en) * 2017-10-27 2019-05-02 Baidu Usa Llc Systems and methods for block-sparse recurrent neural networks
CN111062382A (zh) * 2019-10-30 2020-04-24 北京交通大学 用于目标检测网络的通道剪枝方法
CN111222629A (zh) * 2019-12-31 2020-06-02 暗物智能科技(广州)有限公司 一种基于自适应批规范化的神经网络模型剪枝方法及系统
CN111652366A (zh) * 2020-05-09 2020-09-11 哈尔滨工业大学 一种基于通道剪枝和量化训练的联合神经网络模型压缩方法
CN111539224A (zh) * 2020-06-25 2020-08-14 北京百度网讯科技有限公司 语义理解模型的剪枝方法、装置、电子设备和存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
卢海伟;袁晓彤;: "基于层融合特征系数的动态网络结构化剪枝", 模式识别与人工智能, no. 11, 15 November 2019 (2019-11-15) *
徐嘉荟;: "基于模型剪枝的神经网络压缩技术研究", 信息通信, no. 12, 15 December 2019 (2019-12-15) *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113052211A (zh) * 2021-03-11 2021-06-29 天津大学 一种基于特征的秩和通道重要性的剪枝方法
CN113052211B (zh) * 2021-03-11 2022-04-15 天津大学 一种基于特征的秩和通道重要性的剪枝方法
CN113052211B9 (zh) * 2021-03-11 2022-05-27 天津大学 一种基于特征的秩和通道重要性的剪枝方法

Also Published As

Publication number Publication date
CN112149829B (zh) 2024-05-14
US20210312293A1 (en) 2021-10-07
EP3876166A2 (en) 2021-09-08
EP3876166A3 (en) 2022-01-12

Similar Documents

Publication Publication Date Title
CN112149829B (zh) 确定网络模型剪枝策略的方法、装置、设备以及存储介质
CN111667054B (zh) 生成神经网络模型的方法、装置、电子设备以及存储介质
CN111539514B (zh) 用于生成神经网络的结构的方法和装置
CN111667056B (zh) 用于搜索模型结构的方法和装置
CN111563593B (zh) 神经网络模型的训练方法和装置
CN111582375B (zh) 数据增强策略搜索方法、装置、设备以及存储介质
CN112036509A (zh) 用于训练图像识别模型的方法和装置
CN111680517B (zh) 用于训练模型的方法、装置、设备以及存储介质
KR20210132578A (ko) 지식 그래프를 구축하는 방법, 장치, 기기 및 저장 매체
CN112149266A (zh) 确定网络模型量化策略的方法、装置、设备以及存储介质
CN111667057A (zh) 用于搜索模型结构的方法和装置
CN111695698B (zh) 用于模型蒸馏的方法、装置、电子设备及可读存储介质
CN111460135B (zh) 用于生成文本摘要的方法和装置
CN111539224B (zh) 语义理解模型的剪枝方法、装置、电子设备和存储介质
CN110704509A (zh) 数据分类方法、装置、设备及存储介质
CN111582454A (zh) 生成神经网络模型的方法和装置
CN114861886B (zh) 神经网络模型的量化方法及其装置
CN111738419A (zh) 神经网络模型的量化方法和装置
CN111523007A (zh) 用户感兴趣信息确定方法、装置、设备以及存储介质
CN111340219A (zh) 神经网络模型搜索方法及装置、图像处理方法及处理器
CN112541362A (zh) 一种泛化处理的方法、装置、设备和计算机存储介质
CN112232089B (zh) 语义表示模型的预训练方法、设备和存储介质
CN112085103B (zh) 基于历史行为的数据增强方法、装置、设备以及存储介质
CN111460801B (zh) 标题生成方法、装置及电子设备
CN111582476A (zh) 自动量化策略搜索方法、装置、设备以及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant