CN111614358A - 基于分通道量化的特征提取方法、系统、设备及存储介质 - Google Patents

基于分通道量化的特征提取方法、系统、设备及存储介质 Download PDF

Info

Publication number
CN111614358A
CN111614358A CN202010365096.7A CN202010365096A CN111614358A CN 111614358 A CN111614358 A CN 111614358A CN 202010365096 A CN202010365096 A CN 202010365096A CN 111614358 A CN111614358 A CN 111614358A
Authority
CN
China
Prior art keywords
feature extraction
quantization
extraction model
model
channel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010365096.7A
Other languages
English (en)
Other versions
CN111614358B (zh
Inventor
户磊
张大勇
康凯
朱海涛
陈智超
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hefei Dilusense Technology Co Ltd
Original Assignee
Beijing Dilusense Technology Co Ltd
Hefei Dilusense Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Dilusense Technology Co Ltd, Hefei Dilusense Technology Co Ltd filed Critical Beijing Dilusense Technology Co Ltd
Priority to CN202010365096.7A priority Critical patent/CN111614358B/zh
Publication of CN111614358A publication Critical patent/CN111614358A/zh
Application granted granted Critical
Publication of CN111614358B publication Critical patent/CN111614358B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/14—Conversion to or from non-weighted codes
    • H03M7/24—Conversion to or from floating-point codes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Mathematical Physics (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明实施例涉及计算机视觉技术领域，公开了基于分通道量化的特征提取方法、系统、设备及存储介质。本发明实施例先获取待处理图像；将待处理图像输入至目标特征提取模型，得到目标特征提取模型输出的目标对象特征；其中，目标特征提取模型是对初始特征提取模型中的浮点模型参数通过分通道确定量化小数位的方式进行模型压缩以得到的压缩后的特征提取模型。明显地，本发明实施例通过对初始特征提取模型进行模型压缩操作，以使得压缩后的模型可适配低功耗设备，从而解决了低功耗设备与浮点模型之间难以适配的技术问题。同时，本发明实施例以分通道的形式来处理量化小数位，还可降低量化损失，从而可缓解网络性能下降的现况。

Description

基于分通道量化的特征提取方法、系统、设备及存储介质
技术领域
本发明涉及计算机视觉技术领域，尤其涉及基于分通道量化的特征提取方法、系统、设备及存储介质。
背景技术
随着计算机视觉的逐渐发展，特别是基于卷积神经网络的计算机视觉的不断发展，其应用场景也越来越广泛。
但是，考虑到基于卷积神经网络的深度学习方法一般会需要较深的网络结构、庞大的模型参数，对计算量也提出了一定的要求。
为了应对该计算需求，虽然可以在图形处理器(GPU，Graphics Processing Unit)以及高性能中央处理器(CPU，central processing unit)上进行运算，但是，对于大多数嵌入式设备而言，很难直接部署面向浮点运算的神经网络模型。
其中，嵌入式设备例如智能门锁、手表及物联网设备等。
很难直接在嵌入式设备上部署面向浮点运算的神经网络模型，这一方面是考虑到嵌入式设备的存储空间有限，难以存储参数量巨大的浮点模型；另一方面是考虑到大多数的低功耗的嵌入式设备仅适合定点数运算，处理浮点运算速度较慢。
可见，目前的低功耗硬件设备存在着与浮点模型之间难以适配的技术问题。
发明内容
为了解决低功耗硬件设备与浮点模型之间难以适配的技术问题，本发明实施例提供基于分通道量化的特征提取方法、系统、设备及存储介质。
第一方面，本发明实施例提供一种基于分通道量化的特征提取方法，包括：
获取待处理图像；
将所述待处理图像输入至目标特征提取模型，得到所述目标特征提取模型输出的目标对象特征；
其中，所述目标特征提取模型是基于图像样本与特征样本训练得到的；所述目标特征提取模型是对初始特征提取模型中的浮点模型参数通过分通道确定量化小数位的方式进行模型压缩以得到的压缩后的特征提取模型。
优选地，所述获取待处理图像之前，所述基于分通道量化的特征提取方法还包括：
获取初始特征提取模型与待调整训练集；
通过所述初始特征提取模型处理所述待调整训练集，以记录所述初始特征提取模型中每层特征值中每个通道分别对应的绝对值；
根据所述绝对值确定每个通道的量化小数位，以得到压缩后的目标特征提取模型。
优选地，所述根据所述绝对值确定每个通道的量化小数位，以得到压缩后的目标特征提取模型之后，所述基于分通道量化的特征提取方法还包括：
将所述目标特征提取模型中的加法操作层对应的两个分支层的相同通道的量化小数位设置为相同小数位。
优选地，所述将所述目标特征提取模型中的加法操作层对应的两个分支层的相同通道的量化小数位设置为相同小数位，具体包括：
若所述目标特征提取模型中的加法操作层对应的第一分支层属于数据重新排列层且第二分支层不属于所述数据重新排列层，则将所述第一分支层的小数位设置为加法操作层的基准小数位，并将所述第二分支层的小数位设置为所述基准小数位。
优选地，所述根据所述绝对值确定每个通道的量化小数位，以得到压缩后的目标特征提取模型之后，所述基于分通道量化的特征提取方法还包括：
通过固定长度量化方式确定所述目标特征提取模型中的卷积核权重的量化小数位。
优选地，所述通过固定长度量化方式确定所述目标特征提取模型中的卷积核权重的量化小数位，具体包括：
将所述目标特征提取模型中的批量标准化操作与卷积层进行合并，以得到新的卷积层；
基于固定长度确定新的卷积层对应的卷积核权重的量化小数位。
优选地，所述根据所述绝对值确定每个通道的量化小数位，以得到压缩后的目标特征提取模型之后，所述基于分通道量化的特征提取方法还包括：
将所述目标特征提取模型中的模型权重和输入层、输出层分别对应的特征值量化为定点数；
将所述定点数反量化为全精度浮点数；
通过预设优化工具处理所述全精度浮点数，以优化所述目标特征提取模型。
第二方面，本发明实施例提供一种基于分通道量化的特征提取系统，包括：
图像获取模块，用于获取待处理图像；
特征提取模块，用于将所述待处理图像输入至目标特征提取模型，得到所述目标特征提取模型输出的目标对象特征；
其中，所述目标特征提取模型是基于图像样本与特征样本训练得到的；所述目标特征提取模型是对初始特征提取模型中的浮点模型参数通过分通道确定量化小数位的方式进行模型压缩以得到的压缩后的特征提取模型。
第三方面，本发明实施例提供一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序时实现本发明第一方面提供的一种基于分通道量化的特征提取方法的步骤。
第四方面，本发明实施例提供一种非暂态计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现本发明第一方面提供的一种基于分通道量化的特征提取方法的步骤。
本发明实施例提供的基于分通道量化的特征提取方法、系统、设备及存储介质，先获取待处理图像；将待处理图像输入至目标特征提取模型，得到目标特征提取模型输出的目标对象特征；其中，目标特征提取模型是基于图像样本与特征样本训练得到的；目标特征提取模型是对初始特征提取模型中的浮点模型参数通过分通道确定量化小数位的方式进行模型压缩以得到的压缩后的特征提取模型。明显地，本发明实施例通过对初始特征提取模型进行模型压缩操作，以使得压缩后的实际使用环节调用的模型可适配低功耗的电子设备，从而解决了低功耗硬件设备与浮点模型之间难以适配的技术问题。同时，本发明实施例以分通道的形式来处理量化小数位，该类不同通道单独量化的处理方式还可极大程度地降低量化损失，从而可缓解网络性能下降的现况。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种基于分通道量化的特征提取方法的流程图；
图2为本发明又一实施例提供的一种基于分通道量化的特征提取方法的流程图；
图3为本发明再一实施例提供的一种基于分通道量化的特征提取方法的流程图；
图4为本发明实施例提供的一种基于分通道量化的特征提取系统的结构示意图；
图5为本发明实施例提供的一种电子设备的实体结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
图1为本发明实施例提供的一种基于分通道量化的特征提取方法的流程图，如图1所示，该方法包括：
S1，获取待处理图像。
S2，将所述待处理图像输入至目标特征提取模型，得到所述目标特征提取模型输出的目标对象特征。
其中，所述目标特征提取模型是基于图像样本与特征样本训练得到的；所述目标特征提取模型是对初始特征提取模型中的浮点模型参数通过分通道确定量化小数位的方式进行模型压缩以得到的压缩后的特征提取模型。
可以理解的是，本发明实施例的执行主体为电子设备，该电子设备可为嵌入式设备或其他类型设备。考虑到当电子设备的功耗不高时，难以适配面向浮点运算的模型，可对该模型进行模型压缩操作，以使得压缩后的模型可适配低功耗的电子设备，从而解决了低功耗硬件设备与浮点模型之间难以适配的技术问题。
具体地，本发明实施例在进行模型压缩时，可通过对初始特征提取模型中的浮点模型参数分通道确定量化小数位，以进行模型压缩操作。
其中，量化小数位是指浮点数与定点数转换时的转换参数。可见，量化小数位体现了对于每层输入输出特征值的量化。
可见，初始特征提取模型为压缩前的浮点模型，实际使用环节运行的目标特征提取模型为压缩后的量化模型。
此外，初始特征提取模型与目标特征提取模型可为卷积神经网络。
更进一步地，若具体分析模型压缩操作，目前的大多数模型压缩操作为对模型进行量化以得到压缩后的模型。
就量化操作而言，是将模型中的浮点运算转换成低精度的定点运算，其本质是给神经网络模型引入了一定的输入噪声，这也是量化操作可能引起网络性能下降的重要因素之一。
但是，本发明实施例采用的模型压缩操作是对初始特征提取模型中的浮点模型参数分通道确定量化小数位，可见，本发明实施例将以分通道的形式来处理量化小数位，该类不同通道单独量化的处理方式可极大程度地降低量化损失，从而可缓解网络性能下降的现况。
而且，比之采用单一量化参数进行同一量化处理，分通道单独处理可以更好地拟合浮点数据，大大降低了精度损失。
此外，若初始特征提取模型中的浮点模型参数与卷积核、特征值通道对应，采用分通道量化方式对卷积核和特征值通道进行单独量化，也极大地降低了精度损失。
具体地，可分通道确定初始特征提取模型中的浮点模型参数的量化小数位。
更进一步地，本发明实施例具体涉及特征提取的应用场景，就计算机视觉这一技术而言，为了找出当前区域里的对象，该对象可为人类或其他事物，可先获取由摄像头拍摄传输得到的待处理图像，接着，通过压缩后的目标特征提取模型处理该待处理图像，即可提取出待处理图像中的与对象相关的目标对象特征。
进一步地，在获取目标对象特征后，可根据特征匹配进行目标识别，以识别当前场景中的目标，目标可为人体对象或者某类事物对象等。
此外，就训练环节而言，图像样本对应于待处理图像，特征样本对应于目标对象特征。
本发明实施例提供的基于分通道量化的特征提取方法，先获取待处理图像；将待处理图像输入至目标特征提取模型，得到目标特征提取模型输出的目标对象特征；其中，目标特征提取模型是基于图像样本与特征样本训练得到的；目标特征提取模型是对初始特征提取模型中的浮点模型参数通过分通道确定量化小数位的方式进行模型压缩以得到的压缩后的特征提取模型。明显地，本发明实施例通过对初始特征提取模型进行模型压缩操作，以使得压缩后的实际使用环节调用的模型可适配低功耗的电子设备，从而解决了低功耗硬件设备与浮点模型之间难以适配的技术问题。同时，本发明实施例以分通道的形式来处理量化小数位，该类不同通道单独量化的处理方式还可极大程度地降低量化损失，从而可缓解网络性能下降的现况。
图2为本发明又一实施例提供的一种基于分通道量化的特征提取方法的流程图，本发明又一实施例基于上述图1所示的实施例。
本实施例中，所述获取待处理图像之前，所述基于分通道量化的特征提取方法还包括：
获取初始特征提取模型；
对所述初始特征提取模型通过分通道量化处理方式进行模型压缩操作，以得到压缩后的目标特征提取模型。
可见，通过对初始特征提取模型即浮点模型进行分通道量化处理，不仅压缩了模型，还降低了量化损失。
在上述实施例的基础上，优选地，所述S1之前，所述基于分通道量化的特征提取方法还包括：
S01，获取初始特征提取模型与待调整训练集。
可以理解的是，本发明实施例将给出了一类模型压缩的具体实现方式。
具体地，可先获取具体为浮点模型的初始特征提取模型，该初始特征提取模型可为训练完成后的浮点神经网络模型。
其中，待调整训练集可为模型训练时所用的训练集的一部分。至于待调整训练集的选取方式可依据微调效果灵活选取。
S02，通过所述初始特征提取模型处理所述待调整训练集，以记录所述初始特征提取模型中每层特征值中每个通道分别对应的绝对值。
接着，可使用待调整训练集作为标定数据集，对特征值的数值范围进行标定操作。
其中，该标定操作可为确定特征值的绝对值的确定操作，该绝对值可为最大绝对值。
然后，可将待调整训练集输入初始特征提取模型，通过指数移动平均算法记录每层特征值的输入与输出的最大绝对值。
进一步地，为了确定每层特征值中每个通道分别对应的绝对值，可通过预设更新公式进行绝对值的确定操作。
其中，预设更新公式为，
Figure BDA0002476292290000091
其中，
Figure BDA0002476292290000092
表示第n次更新的特征值中第j个通道的最大绝对值，α为遗忘因子，
Figure BDA0002476292290000093
表示第n次更新的特征值的第j个通道的通道数值，max为取最大值操作，abs为取绝对值操作。
可见，每层网络对应特征值存在着多个通道，而本发明实施例会分通道处理，以记录每层特征值中每个通道分别对应的绝对值。
此外，该预设更新公式的公式原理也反应了，将对当前通道j的最大绝对值进行更新以得到更新后的当前通道j的最大绝对值。
S03，根据所述绝对值确定每个通道的量化小数位，以得到压缩后的目标特征提取模型。
接着，在确定绝对值后，可再确定特征值中的每个通道的量化小数位(fractionlength)。
具体地，可采用如下所示的小数位确定公式，
Figure BDA0002476292290000094
其中，
Figure BDA0002476292290000095
表示每层特征值的第j个通道的小数位，8为常量，moving_maxj表示特征值中第j个通道的最大绝对值，ceil表示向下取整操作。
可见，通过确定量化小数位，也就将浮点运算转换为了定点运算，实现了对于模型的压缩操作，将得到压缩后的模型即目标特征提取模型。
本发明实施例提供的基于分通道量化的特征提取方法，给出了一类模型压缩的具体实现方式，具体地，通过对浮点模型进行分通道量化处理，不仅压缩了模型，还降低了量化损失。
在上述实施例的基础上，优选地，所述根据所述绝对值确定每个通道的量化小数位，以得到压缩后的目标特征提取模型之后，所述基于分通道量化的特征提取方法还包括：
将所述目标特征提取模型中的加法操作层对应的两个分支层的相同通道的量化小数位设置为相同小数位。
可以理解的是，加法操作层的原理与减法操作层的原理相同，所以，可将所述目标特征提取模型中的加法操作层与减法操作层分别对应的两个分支层的相同通道的量化小数位设置为相同小数位。
具体地，对于加法和减法操作层而言，保证输入处的两个分支层的相同通道的小数位相同，可进一步地优化模型压缩效果。
在上述实施例的基础上，优选地，所述将所述目标特征提取模型中的加法操作层对应的两个分支层的相同通道的量化小数位设置为相同小数位，具体包括：
若所述目标特征提取模型中的加法操作层对应的第一分支层属于数据重新排列层且第二分支层不属于所述数据重新排列层，则将所述第一分支层的小数位设置为加法操作层的基准小数位，并将所述第二分支层的小数位设置为所述基准小数位。
其中，两个分支层包括第一分支层与第二分支层。
在具体实现中，若只有一个输入分支即一个分支层来自于涉及数据重新排列的层，数据重新排列层比如有slice(片)层、concat层、flatten(压平)层、reshape层及transpose(转置)层等，则以该层的小数位作为加法操作层的基准小数位即基准输入小数位，并对另外一个分支依据该基准输入小数位进行重新调整，从而保证了两个分支层的相同通道的量化小数位为相同小数位。
此外，减法操作层与加法操作层的原理相似，此处不作赘述。
进一步地，所述将所述目标特征提取模型中的加法操作层对应的两个分支层的相同通道的量化小数位设置为相同小数位，具体包括：
若所述目标特征提取模型中的加法操作层对应的两个分支层均属于训练层，则将两个分支层的相同通道中的小数位较小的一个分支层对应的小数位设置为基准小数位，并将另一分支层的小数位设置为所述基准小数位。
可见，将以每个通道最小的小数位作为两个分支的小数位。
其中，训练层包括卷积层及全连接层等。
进一步地，所述将所述目标特征提取模型中的加法操作层对应的两个分支层的相同通道的量化小数位设置为相同小数位，具体包括：
若所述目标特征提取模型中的加法操作层对应的两个分支层均属于数据重新排列层，则将两个分支层的相同通道中的小数位较小的一个分支层对应的小数位设置为基准小数位，并将另一分支层的小数位设置为所述基准小数位。
可见，将以每个通道最小的小数位作为两个分支的小数位。
此外，还将递归地找到其含有可训练参数的输入层，对其进行重新调整。
具体地，可先利用对应通道输入的两个分支中最小的那个小数位作为该通道的小数位，然后，对含有较大小数位的那个输入分支的小数位进行调整。
调整方法具体为，先找到这个输入分支的输入层，如果该输入层含有可序列参数，例如卷积层，则将该输入层的对应通道的小数位调整为上述的最小小数位；否则，将继续前溯该输入层的输入层，即递归进行，直到找到含有可训练参数的输入层为止。
此外，若concat层也存在分支合并的情况，各个分支的输入小数位不需要相同。在完成concat操作后，仅需要将各个特征值的小数位合并即可。
此外，对于包含通道重排的操作，例如Shufflenet网络，可在通道重排的同时将每个小数位也一并重新排列。
图3为本发明再一实施例提供的一种基于分通道量化的特征提取方法的流程图，本发明再一实施例基于上述图2所示的实施例。
本实施例中，所述S03之后，所述基于分通道量化的特征提取方法还包括：
S04，通过固定长度量化方式确定所述目标特征提取模型中的卷积核权重的量化小数位。
在具体实现中，若固定长度取值为8bit，则以8bit为量化标准对卷积核权重的量化小数位进行标定。
当然，可以S04处理后的目标特征提取模型进行特征提取操作。
在上述实施例的基础上，优选地，所述通过固定长度量化方式确定所述目标特征提取模型中的卷积核权重的量化小数位，具体包括：
将所述目标特征提取模型中的批量标准化操作与卷积层进行合并，以得到新的卷积层；
基于固定长度确定新的卷积层对应的卷积核权重的量化小数位。
可以理解的是，本发明实施例提供一类卷积核权重的量化小数位的具体确定方式。
具体地，对于存在批量标准化(batch norm)操作的卷积层，为了减少计算量，可先将batch norm操作与卷积层进行合并，以得到新的卷积层。
其中，batch norm操作为一种训练操作的类型。
就新的卷积层而言，新的卷积层的卷积核参数与偏置项参数如下所示，
Figure BDA0002476292290000121
Figure BDA0002476292290000122
其中，μ、δ、γ、β及ε分别表示batch norm层的均值、方差、缩放系数、偏置项和避免分母为0的常数项，weightfold、weight、biasfold及bias分别表示合并后的新卷积核参数、合并前的卷积核参数、合并后的偏置项参数及合并前的偏置项参数。
接着，可基于固定长度确定新的卷积层对应的卷积核权重的量化小数位fli,j。
具体地，可基于固定长度8bit对卷积核权重的量化小数位进行标定。
更进一步地，还可基于如下所示的固定小数位确定公式对卷积核权重的量化小数位进行标定。
其中，固定小数位确定公式可为，
fli,j＝7-ceil(log2(max(abs(weighti,j))))
其中，fli,j表示卷积核权重的量化小数位(fraction length)；weighti,j表示卷积核的权重，i,j分别表示第i个卷积核的第j个通道；ceil、log2、max及abs分别表示向下取整操作、幂运算操作、最大值操作和绝对值操作。
可见，该固定小数位确定公式仍对应着数值位数8bit，公式中的7表示常量。
更进一步地，还可根据输入层小数位对该卷积核权重的量化小数位进行调整，以得到新的卷积核权重的量化小数位。
具体地，可依据如下所示的小数位调整公式进行再次调整，
Figure BDA0002476292290000131
Figure BDA0002476292290000132
Figure BDA0002476292290000133
其中，
Figure BDA0002476292290000134
表示中间值，
Figure BDA0002476292290000135
表示第j个通道的输入小数位，即输入层小数位，fli,j表示调整前的第i个卷积核的第j个通道的小数位；
Figure BDA0002476292290000136
表示中间值，min表示最小值操作。
可见，根据输入层小数位
Figure BDA0002476292290000137
即上一层特征值的输出小数位来重新标定卷积核小数位。
此外，还可利用权重的小数位对权重进行量化取整，
Figure BDA0002476292290000138
其中，q_weighti,j、weighti,j及fli,j分别表示量化后的卷积层第i个卷积核的第j个通道的参数、浮点的卷积层第i个卷积核的第j个通道参数及卷积层第i个卷积核的第j个通道量化小数位；clip表示截断处理操作，即将数值限制在(-128，127)范围内；round表示四舍五入操作。
本发明实施例提供的基于分通道量化的特征提取方法，通过以上处理，可为每个卷积核的每个通道单独量化，并且还可根据输入小数位进行调整。
在上述实施例的基础上，优选地，所述根据所述绝对值确定每个通道的量化小数位，以得到压缩后的目标特征提取模型之后，所述基于分通道量化的特征提取方法还包括：
将所述目标特征提取模型中的模型权重和输入层、输出层分别对应的特征值量化为定点数；
将所述定点数反量化为全精度浮点数；
通过预设优化工具处理所述全精度浮点数，以优化所述目标特征提取模型。
可以理解的是，以上处理环节均涉及对于模型的分通道量化处理操作，比如，可具体参见图1所示的本发明一实施例及图2所示的本发明的又一实施例，而本发明实施例还可对量化模型进行微调，以降低量化微弱的量化精度损失。
具体地，可先将目标特征提取模型中的模型权重和输入层、输出层分别对应的特征值量化为定点数；将定点数反量化为全精度浮点数；通过预设优化工具处理所述全精度浮点数，以优化所述目标特征提取模型。
其中，反量化操作对应的操作公式如下，
Figure BDA0002476292290000141
Figure BDA0002476292290000142
其中，f_weighti,j、q_weighti,j、fli,j、f_featuresj、q_featuresj及flj分别表示浮点的卷积层第i个卷积核的第j个通道参数、量化的卷积层第i个卷积核的第j个通道参数、卷积层第i个卷积核的第j个通道量化小数位、浮点的第j个通道特征值、量化的第j个通道特征值及输出特征值第j个通道的小数位。
其中，预设优化工具可为训练框架。
训练框架比如为TensorFlow框架，鉴于TensorFlow框架仅支持浮点型操作，所以，可基于TensorFlow框架处理全精度浮点数，以优化目标特征提取模型。
本发明实施例提供的基于分通道量化的特征提取方法，可对量化模型进行微调，以降低量化微弱的量化精度损失，从而提升性能。此外，针对量化后可能存在的精度损失，通过如上的量化微调方法，使得微调后的网络精度不明显，性能甚至超过了浮点网络性能。
进一步地，为了更新量化网络参数，在网络即模型的前向传播过程中，可用浮点运算完全模拟定点运算。
进一步地，对于存在batch norm操作的卷积层，可在前向传播时将batch norm操作与卷积层进行合并，在反向传播时通过梯度传播单独更新未合并的卷积参数。
进一步地，至于上述量化操作与反量化操作，可从第一层开始，在第一层完成计算后，再依次进行后面网络层的计算。在反向传播时，对全精度浮点权重进行更新。
此外，由于量化操作中的取值、截断等操作不可导，因此，可采用直通估计器(STE，Straight-Through Estimator)进行梯度计算。
图4为本发明实施例提供的一种基于分通道量化的特征提取系统的结构示意图，如图4所示，该系统包括：图像获取模块301及特征提取模块302；
图像获取模块301，用于获取待处理图像；
特征提取模块302，用于将所述待处理图像输入至目标特征提取模型，得到所述目标特征提取模型输出的目标对象特征；
其中，所述目标特征提取模型是基于图像样本与特征样本训练得到的；所述目标特征提取模型是对初始特征提取模型中的浮点模型参数通过分通道确定量化小数位的方式进行模型压缩以得到的压缩后的特征提取模型。
本发明实施例提供的基于分通道量化的特征提取系统，先获取待处理图像；将待处理图像输入至目标特征提取模型，得到目标特征提取模型输出的目标对象特征；其中，目标特征提取模型是基于图像样本与特征样本训练得到的；目标特征提取模型是对初始特征提取模型中的浮点模型参数通过分通道确定量化小数位的方式进行模型压缩以得到的压缩后的特征提取模型。明显地，本发明实施例通过对初始特征提取模型进行模型压缩操作，以使得压缩后的实际使用环节调用的模型可适配低功耗的电子设备，从而解决了低功耗硬件设备与浮点模型之间难以适配的技术问题。同时，本发明实施例以分通道的形式来处理量化小数位，该类不同通道单独量化的处理方式还可极大程度地降低量化损失，从而可缓解网络性能下降的现况。
本发明实施例提供的系统实施例是为了实现上述各方法实施例的，具体流程和详细内容请参照上述方法实施例，此处不再赘述。
图5为本发明实施例提供的一种电子设备的实体结构示意图，如图5所示，该电子设备可以包括：处理器(processor)401、通信接口(Communications Interface)402、存储器(memory)403和总线404，其中，处理器401，通信接口402，存储器403通过总线404完成相互间的通信。通信接口402可以用于电子设备的信息传输。处理器401可以调用存储器403中的逻辑指令，以执行包括如下的方法：
获取待处理图像；
将所述待处理图像输入至目标特征提取模型，得到所述目标特征提取模型输出的目标对象特征；
其中，所述目标特征提取模型是基于图像样本与特征样本训练得到的；所述目标特征提取模型是对初始特征提取模型中的浮点模型参数通过分通道确定量化小数位的方式进行模型压缩以得到的压缩后的特征提取模型。
此外，上述的存储器403中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明上述各方法实施例的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
另一方面，本发明实施例还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现以执行上述各实施例提供的方法，例如包括：
获取待处理图像；
将所述待处理图像输入至目标特征提取模型，得到所述目标特征提取模型输出的目标对象特征；
其中，所述目标特征提取模型是基于图像样本与特征样本训练得到的；所述目标特征提取模型是对初始特征提取模型中的浮点模型参数通过分通道确定量化小数位的方式进行模型压缩以得到的压缩后的特征提取模型。
以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种基于分通道量化的特征提取方法，其特征在于，包括：
获取待处理图像；
将所述待处理图像输入至目标特征提取模型，得到所述目标特征提取模型输出的目标对象特征；
其中，所述目标特征提取模型是基于图像样本与特征样本训练得到的；所述目标特征提取模型是对初始特征提取模型中的浮点模型参数通过分通道确定量化小数位的方式进行模型压缩以得到的压缩后的特征提取模型。
2.根据权利要求1所述的基于分通道量化的特征提取方法，其特征在于，所述获取待处理图像之前，所述基于分通道量化的特征提取方法还包括：
获取初始特征提取模型与待调整训练集；
通过所述初始特征提取模型处理所述待调整训练集，以记录所述初始特征提取模型中每层特征值中每个通道分别对应的绝对值；
根据所述绝对值确定每个通道的量化小数位，以得到压缩后的目标特征提取模型。
3.根据权利要求2所述的基于分通道量化的特征提取方法，其特征在于，所述根据所述绝对值确定每个通道的量化小数位，以得到压缩后的目标特征提取模型之后，所述基于分通道量化的特征提取方法还包括：
将所述目标特征提取模型中的加法操作层对应的两个分支层的相同通道的量化小数位设置为相同小数位。
4.根据权利要求3所述的基于分通道量化的特征提取方法，其特征在于，所述将所述目标特征提取模型中的加法操作层对应的两个分支层的相同通道的量化小数位设置为相同小数位，具体包括：
若所述目标特征提取模型中的加法操作层对应的第一分支层属于数据重新排列层且第二分支层不属于所述数据重新排列层，则将所述第一分支层的小数位设置为加法操作层的基准小数位，并将所述第二分支层的小数位设置为所述基准小数位。
5.根据权利要求2至4中任一项所述的基于分通道量化的特征提取方法，其特征在于，所述根据所述绝对值确定每个通道的量化小数位，以得到压缩后的目标特征提取模型之后，所述基于分通道量化的特征提取方法还包括：
通过固定长度量化方式确定所述目标特征提取模型中的卷积核权重的量化小数位。
6.根据权利要求5所述的基于分通道量化的特征提取方法，其特征在于，所述通过固定长度量化方式确定所述目标特征提取模型中的卷积核权重的量化小数位，具体包括：
将所述目标特征提取模型中的批量标准化操作与卷积层进行合并，以得到新的卷积层；
基于固定长度确定新的卷积层对应的卷积核权重的量化小数位。
7.根据权利要求2至4中任一项所述的基于分通道量化的特征提取方法，其特征在于，所述根据所述绝对值确定每个通道的量化小数位，以得到压缩后的目标特征提取模型之后，所述基于分通道量化的特征提取方法还包括：
将所述目标特征提取模型中的模型权重和输入层、输出层分别对应的特征值量化为定点数；
将所述定点数反量化为全精度浮点数；
通过预设优化工具处理所述全精度浮点数，以优化所述目标特征提取模型。
8.一种基于分通道量化的特征提取系统，其特征在于，包括：
图像获取模块，用于获取待处理图像；
特征提取模块，用于将所述待处理图像输入至目标特征提取模型，得到所述目标特征提取模型输出的目标对象特征；
其中，所述目标特征提取模型是基于图像样本与特征样本训练得到的；所述目标特征提取模型是对初始特征提取模型中的浮点模型参数通过分通道确定量化小数位的方式进行模型压缩以得到的压缩后的特征提取模型。
9.一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至7中任一项所述基于分通道量化的特征提取方法的步骤。
10.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述基于分通道量化的特征提取方法的步骤。
CN202010365096.7A 2020-04-30 2020-04-30 基于分通道量化的特征提取方法、系统、设备及存储介质 Active CN111614358B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010365096.7A CN111614358B (zh) 2020-04-30 2020-04-30 基于分通道量化的特征提取方法、系统、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010365096.7A CN111614358B (zh) 2020-04-30 2020-04-30 基于分通道量化的特征提取方法、系统、设备及存储介质

Publications (2)

Publication Number Publication Date
CN111614358A true CN111614358A (zh) 2020-09-01
CN111614358B CN111614358B (zh) 2023-08-04

Family

ID=72205523

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010365096.7A Active CN111614358B (zh) 2020-04-30 2020-04-30 基于分通道量化的特征提取方法、系统、设备及存储介质

Country Status (1)

Country Link
CN (1) CN111614358B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113747155A (zh) * 2021-09-06 2021-12-03 中国电信股份有限公司 特征量化方法和装置、编码器、通信系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108898168A (zh) * 2018-06-19 2018-11-27 清华大学 用于目标检测的卷积神经网络模型的压缩方法和系统
CN109284761A (zh) * 2018-09-04 2019-01-29 苏州科达科技股份有限公司 一种图像特征提取方法、装置、设备及可读存储介质
US20190206091A1 (en) * 2017-12-29 2019-07-04 Baidu Online Network Technology (Beijing) Co., Ltd Method And Apparatus For Compressing Image
CN110175641A (zh) * 2019-05-22 2019-08-27 中国科学院苏州纳米技术与纳米仿生研究所 图像识别方法、装置、设备和存储介质
CN110288030A (zh) * 2019-06-27 2019-09-27 重庆大学 基于轻量化网络模型的图像识别方法、装置及设备
CN110796107A (zh) * 2019-11-04 2020-02-14 南京北旨智能科技有限公司 电力巡检图像缺陷识别方法和系统、电力巡检无人机

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190206091A1 (en) * 2017-12-29 2019-07-04 Baidu Online Network Technology (Beijing) Co., Ltd Method And Apparatus For Compressing Image
CN108898168A (zh) * 2018-06-19 2018-11-27 清华大学 用于目标检测的卷积神经网络模型的压缩方法和系统
CN109284761A (zh) * 2018-09-04 2019-01-29 苏州科达科技股份有限公司 一种图像特征提取方法、装置、设备及可读存储介质
CN110175641A (zh) * 2019-05-22 2019-08-27 中国科学院苏州纳米技术与纳米仿生研究所 图像识别方法、装置、设备和存储介质
CN110288030A (zh) * 2019-06-27 2019-09-27 重庆大学 基于轻量化网络模型的图像识别方法、装置及设备
CN110796107A (zh) * 2019-11-04 2020-02-14 南京北旨智能科技有限公司 电力巡检图像缺陷识别方法和系统、电力巡检无人机

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113747155A (zh) * 2021-09-06 2021-12-03 中国电信股份有限公司 特征量化方法和装置、编码器、通信系统

Also Published As

Publication number Publication date
CN111614358B (zh) 2023-08-04

Similar Documents

Publication Publication Date Title
CN109002889B (zh) 自适应迭代式卷积神经网络模型压缩方法
US20190138882A1 (en) Method and apparatus for learning low-precision neural network that combines weight quantization and activation quantization
CN111079781B (zh) 基于低秩与稀疏分解的轻量化卷积神经网络图像识别方法
US11403528B2 (en) Self-tuning incremental model compression solution in deep neural network with guaranteed accuracy performance
CN110969251B (zh) 基于无标签数据的神经网络模型量化方法及装置
CN111488985B (zh) 深度神经网络模型压缩训练方法、装置、设备、介质
CN109800865B (zh) 神经网络生成及图像处理方法和装置、平台、电子设备
CN111489364B (zh) 基于轻量级全卷积神经网络的医学图像分割方法
CN110175641B (zh) 图像识别方法、装置、设备和存储介质
CN113259665B (zh) 一种图像处理方法以及相关设备
CN112508125A (zh) 一种图像检测模型的高效全整数量化方法
CN112329922A (zh) 一种基于质谱数据集的神经网络模型压缩方法及系统
CN111488986A (zh) 一种模型压缩方法、图像处理方法以及装置
CN113132723B (zh) 一种图像压缩方法及装置
CN109242092B (zh) 图像处理方法和装置、电子设备、存储介质
CN110929836B (zh) 神经网络训练及图像处理方法和装置、电子设备、介质
CN109284761B (zh) 一种图像特征提取方法、装置、设备及可读存储介质
CN114581544A (zh) 图像压缩方法、计算机设备及计算机存储介质
EP4008057B1 (en) Lossless exponent and lossy mantissa weight compression for training deep neural networks
CN114707637A (zh) 一种神经网络量化部署方法、系统及存储介质
CN111614358A (zh) 基于分通道量化的特征提取方法、系统、设备及存储介质
CN112613604A (zh) 神经网络的量化方法及装置
CN116992946A (zh) 模型压缩方法、装置、存储介质和程序产品
CN115170902B (zh) 图像处理模型的训练方法
CN113554719B (zh) 一种图像编码方法、解码方法、存储介质及终端设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20220701

Address after: Room 611-217, R & D center building, China (Hefei) international intelligent voice Industrial Park, 3333 Xiyou Road, high tech Zone, Hefei City, Anhui Province

Applicant after: Hefei lushenshi Technology Co.,Ltd.

Address before: Room 3032, gate 6, block B, 768 Creative Industry Park, 5 Xueyuan Road, Haidian District, Beijing 100083

Applicant before: BEIJING DILUSENSE TECHNOLOGY CO.,LTD.

Applicant before: Hefei lushenshi Technology Co.,Ltd.

GR01 Patent grant
GR01 Patent grant