CN113627537A - 一种图像识别方法、装置、存储介质及设备 - Google Patents

一种图像识别方法、装置、存储介质及设备 Download PDF

Info

Publication number
CN113627537A
CN113627537A CN202110925442.7A CN202110925442A CN113627537A CN 113627537 A CN113627537 A CN 113627537A CN 202110925442 A CN202110925442 A CN 202110925442A CN 113627537 A CN113627537 A CN 113627537A
Authority
CN
China
Prior art keywords
image recognition
recognition model
image
model
student
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110925442.7A
Other languages
English (en)
Other versions
CN113627537B (zh
Inventor
张圆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
iFlytek Co Ltd
Original Assignee
iFlytek Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by iFlytek Co Ltd filed Critical iFlytek Co Ltd
Priority to CN202110925442.7A priority Critical patent/CN113627537B/zh
Publication of CN113627537A publication Critical patent/CN113627537A/zh
Application granted granted Critical
Publication of CN113627537B publication Critical patent/CN113627537B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Molecular Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Image Analysis (AREA)

Abstract

本申请公开了一种图像识别方法、装置、存储介质及设备，该方法包括：首先获取待识别的目标图像，然后再将其输入至预先构建的图像识别模型，识别得到目标图像的特征向量；其中，图像识别模型是根据神经元的算力进行自适应剪枝，并利用对抗训练和知识蒸馏的方式训练得到的神经网络模型；接着，可以根据该特征向量，对目标图像进行识别，得到目标图像的识别结果。可见，由于本申请预先构建的图像识别模型是利用神经元的算力进行自适应剪枝，从而提高了剪枝效率，并且通过对抗训练和知识蒸馏的训练方式还能够使得该模型有效继承当前主流神经网络模型所包含的知识，并保证其维持着最大化的识别性能效果，进而能够在此情况下，有效提高图像的识别效率。

Description

一种图像识别方法、装置、存储介质及设备
技术领域
本申请涉及图像处理技术领域，尤其涉及一种图像识别方法、装置、存储介质及设备。
背景技术
随着人工智能技术的不断突破和各种智能终端设备的日益普及，需要处理的图像数量呈现几何级别的增长。在图像处理领域中，最为常见的一个任务便是图像识别任务。在如ImageNet等图像识别数据集中，包括了如飞机、汽车、鸟、猫、鹿等1000多个图像类别，共计1500万张图像。图像识别任务在本质上就是一个分类任务，通常需要求解出一个有效的分类器，来准确地将一张图像分类到它所属的真实类别中。
传统的图像识别方法通常是采用当前主流的神经网络进行识别，如卷积神经网络(Convolution Neural Network，CNN)等，但这些主流的神经网络通常是以其复杂的结构及超大的参数量为基础，才能取得优异的识别效果，而复杂的结构及超大的参数量要求相应的硬件必须具备超强的运算能力。面对日益增多的多功能智能终端的任务需求，超强的算力要求严重限制了这些主流神经网络算法在终端设备的部署。由此，为了能够在取得准确的识别结果的情况下，降低大网络参数量及运算量，需要通过网络剪枝的方式，移除大网络中的冗余参数，以有效降低网络前向推理的计算成本，最终成功实现端上设备的网络部署。目前的网络剪枝方法是采用L1正则化对代表神经元的重要程度的比例因子进行优化，以将比例因子低于一定阈值的神经元直接移除，从而实现神经网络的结构化剪枝，但这种剪枝方式，是利用L1正则化无差别的将所有比例因子向0推进，导致比例因子大量的集中在0附近，难以选择出合理的分割阈值，导致网络识别精度严重下降，同时剪枝过程的不稳定还会造成剪枝后网络性能下降，而且还需要对剪枝后的网络进行进一步微调，也会造成算力资源浪费。
因此，如何对图像识别网络进行更高效的剪枝，使得在取得准确的识别结果的情况下，能够降低网络参数量，提高图像的识别效率是目前亟待解决的技术问题。
发明内容
本申请实施例的主要目的在于提供一种图像识别方法、装置、存储介质及设备，能够对图像识别网络进行更高效的剪枝，以实现在保持优异的识别效果的情况下，有效提高图像的识别效率。
本申请实施例提供了一种图像识别方法，包括：
获取待识别的目标图像；
将所述目标图像输入至预先构建的图像识别模型，识别得到所述目标图像的特征向量；所述图像识别模型是根据神经元的算力进行自适应剪枝，并利用对抗训练和知识蒸馏的方式训练得到的神经网络模型；
根据所述目标图像的特征向量，对所述目标图像进行识别，得到所述目标图像的识别结果。
一种可能的实现方式中，所述图像识别模型的构建方式如下：
获取样本图像和教师图像识别模型；所述教师图像识别模型是基于样本图像训练得到的神经网络模型；
将所述样本图像输入所述教师图像识别模型，得到第一样本特征向量及其所属的第一分类概率；将所述样本图像输入初始学生图像识别模型，得到第二样本特征向量及其所属的第二分类概率；所述初始学生图像识别模型为由所述教师图像识别模型中的神经元与初始比例因子相乘后得到的神经神经网络模型；
根据所述第一样本特征向量及其所属的第一分类概率、所述第二样本特征向量及其所属的第二分类概率、以及预设的判别器，利用对抗训练和知识蒸馏的方式，对所述初始学生图像识别模型进行训练，生成学生图像识别模型；
根据所述学生图像识别模型的比例因子分布，对所述学生图像识别模型进行剪枝，并将剪枝后的图像识别模型作为最终的图像识别模型。
一种可能的实现方式中，所述根据所述第一样本特征向量及其所属的第一分类概率、所述第二样本特征向量及其所属的第二分类概率、以及预设的判别器，利用对抗训练和知识蒸馏的方式，对所述初始学生图像识别模型进行训练，生成学生图像识别模型，包括：
利用所述初始学生图像识别模型中神经元的算力，计算所述初始学生图像识别模型对应的剪枝损失，作为第一目标函数；所述第一目标函数用于优化所述初始学生图像识别模型中神经元对应的比例因子；
计算所述第一分类概率和第二分类概率之间的KL散度损失，作为第二目标函数；所述第二目标函数用于提升所述初始学生图像识别模型的输出结果与所述教师图像识别模型的输出结果之间的相似度；
计算所述第二分类概率和所述样本图像对应的真实分类结果之间的交叉熵损失，作为第三目标函数；所述第三目标函数用于提升所述初始学生图像识别模型的输出结果与所述样本图像对应的真实分类结果之间的相似度；
将所述第一样本特征向量和所述第二样本特征向量输入预设的判别器进行对抗训练，得到二者的对抗损失，作为第四目标函数；所述第四目标函数用于实现所述第一样本特征向量与所述第二样本特征向量的最大化相似；
根据所述第一目标函数、第二目标函数、第三目标函数以及第四目标函数对所述初始学生图像识别模型进行训练，生成学生图像识别模型。
一种可能的实现方式中，所述根据所述第一目标函数、第二目标函数、第三目标函数以及第四目标函数对初始学生图像识别模型进行训练，生成学生图像识别模型，包括：
将所述第一目标函数、第二目标函数、第三目标函数以及第四目标函数进行加权求和，并根据所述和值，对所述初始学生图像识别模型进行训练，生成学生图像识别模型。
一种可能的实现方式中，所述根据所述学生图像识别模型的比例因子分布，对所述学生图像识别模型进行剪枝，并将剪枝后的学生图像识别模型作为最终的图像识别模型，包括：
根据所述学生图像识别模型的比例因子分布，确定低于预设阈值的比例因子；
将低于预设阈值的比例因子所对应的神经元从所述学生图像识别模型中移除，得到剪枝后的学生图像识别模型，并将其作为最终的图像识别模型。
一种可能的实现方式中，所述根据所述学生图像识别模型的比例因子分布，对所述学生图像识别模型进行剪枝，并将剪枝后的学生图像识别模型作为最终的图像识别模型，包括：
根据所述学生图像识别模型的比例因子分布，确定比例因子的移除阈值；
将低于所述移除阈值的比例因子所对应的神经元从所述学生图像识别模型中移除，得到剪枝后的学生图像识别模型，并将其作为最终的图像识别模型。
一种可能的实现方式中，在所述根据所述学生图像识别模型的比例因子分布，对所述学生图像识别模型进行剪枝，并将剪枝后的学生图像识别模型作为最终的图像识别模型之后，所述方法还包括：
判断所述图像识别模型的参数量和理论计算量是否满足预设的硬件需求，若是，则利用所述预设的判别器对所述图像识别模型参数进行微调，并将调整后的图像识别模型作为最终的图像识别模型。
一种可能的实现方式中，所述方法还包括：
获取验证图像；
将所述验证图像输入所述图像识别模型，获得所述验证图像的分类识别结果；
当所述验证图像的分类识别结果与所述验证图像对应的分类标签结果不一致时，将所述验证图像重新作为所述样本图像，对所述图像识别模型进行更新。
本申请实施例还提供了一种图像识别装置，包括：
第一获取单元，用于获取待识别的目标图像；
第一识别单元，用于将所述目标图像输入至预先构建的图像识别模型，识别得到所述目标图像的特征向量；所述图像识别模型是根据神经元的算力进行自适应剪枝，并利用对抗训练和知识蒸馏的方式训练得到的神经网络模型；
第二识别单元，用于根据所述目标图像的特征向量，对所述目标图像进行识别，得到所述目标图像的识别结果。
一种可能的实现方式中，所述装置还包括：
第二获取单元，用于获取样本图像和教师图像识别模型；所述教师图像识别模型是基于样本图像训练得到的神经网络模型；
第一获得单元，用于将所述样本图像输入所述教师图像识别模型，得到第一样本特征向量及其所属的第一分类概率；将所述样本图像输入初始学生图像识别模型，得到第二样本特征向量及其所属的第二分类概率；所述初始学生图像识别模型为由所述教师图像识别模型中的神经元与初始比例因子相乘后得到的神经神经网络模型；
训练单元，用于根据所述第一样本特征向量及其所属的第一分类概率、所述第二样本特征向量及其所属的第二分类概率、以及预设的判别器，利用对抗训练和知识蒸馏的方式，对所述初始学生图像识别模型进行训练，生成学生图像识别模型；
剪枝单元，用于根据所述学生图像识别模型的比例因子分布，对所述学生图像识别模型进行剪枝，并将剪枝后的图像识别模型作为最终的图像识别模型。
一种可能的实现方式中，所述训练单元包括：
第一计算子单元，用于利用所述初始学生图像识别模型中神经元的算力，计算所述初始学生图像识别模型对应的剪枝损失，作为第一目标函数；所述第一目标函数用于优化所述初始学生图像识别模型中神经元对应的比例因子；
第二计算子单元，用于计算所述第一分类概率和第二分类概率之间的KL散度损失，作为第二目标函数；所述第二目标函数用于提升所述初始学生图像识别模型的输出结果与所述教师图像识别模型的输出结果之间的相似度；
第三计算子单元，用于计算所述第二分类概率和所述样本图像对应的真实分类结果之间的交叉熵损失，作为第三目标函数；所述第三目标函数用于提升所述初始学生图像识别模型的输出结果与所述样本图像对应的真实分类结果之间的相似度；
第一训练子单元，用于将所述第一样本特征向量和所述第二样本特征向量输入预设的判别器进行对抗训练，得到二者的对抗损失，作为第四目标函数；所述第四目标函数用于实现所述第一样本特征向量与所述第二样本特征向量的最大化相似；
第二训练子单元，用于根据所述第一目标函数、第二目标函数、第三目标函数以及第四目标函数对所述初始学生图像识别模型进行训练，生成学生图像识别模型。
一种可能的实现方式中，所述第二训练子单元具体用于：
将所述第一目标函数、第二目标函数、第三目标函数以及第四目标函数进行加权求和，并根据所述和值，对所述初始学生图像识别模型进行训练，生成学生图像识别模型。
一种可能的实现方式中，所述剪枝单元包括：
第一确定子单元，用于根据所述学生图像识别模型的比例因子分布，确定低于预设阈值的比例因子；
第一移除子单元，用于将低于预设阈值的比例因子所对应的神经元从所述学生图像识别模型中移除，得到剪枝后的学生图像识别模型，并将其作为最终的图像识别模型。
一种可能的实现方式中，所述剪枝单元包括：
第二确定子单元，用于根据所述学生图像识别模型的比例因子分布，确定比例因子的移除阈值；
第二移除子单元，用于将低于所述移除阈值的比例因子所对应的神经元从所述学生图像识别模型中移除，得到剪枝后的学生图像识别模型，并将其作为最终的图像识别模型。
一种可能的实现方式中，所述装置还包括：
调整单元，用于在所述根据所述学生图像识别模型的比例因子分布，对所述学生图像识别模型进行剪枝，并将剪枝后的学生图像识别模型作为最终的图像识别模型之后，判断所述图像识别模型的参数量和理论计算量是否满足预设的硬件需求，若是，则利用所述预设的判别器对所述图像识别模型参数进行微调，并将调整后的图像识别模型作为最终的图像识别模型。
一种可能的实现方式中，所述装置还包括：
第三获取单元，用于获取验证图像；
第二获得单元，用于将所述验证图像输入所述图像识别模型，获得所述验证图像的分类识别结果；
更新单元，用于当所述验证图像的分类识别结果与所述验证图像对应的分类标签结果不一致时，将所述验证图像重新作为所述样本图像，对所述图像识别模型进行更新。
本申请实施例还提供了一种图像识别设备，包括：处理器、存储器、系统总线；
所述处理器以及所述存储器通过所述系统总线相连；
所述存储器用于存储一个或多个程序，所述一个或多个程序包括指令，所述指令当被所述处理器执行时使所述处理器执行上述图像识别方法中的任意一种实现方式。
本申请实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有指令，当所述指令在终端设备上运行时，使得所述终端设备执行上述图像识别方法中的任意一种实现方式。
本申请实施例还提供了一种计算机程序产品，所述计算机程序产品在终端设备上运行时，使得所述终端设备执行上述图像识别方法中的任意一种实现方式。
本申请实施例提供的一种图像识别方法、装置、存储介质及设备，首先获取待识别的目标图像，然后再将目标图像输入至预先构建的图像识别模型，识别得到目标图像的特征向量；其中，图像识别模型是根据神经元的算力进行自适应剪枝，并利用对抗训练和知识蒸馏的方式训练得到的神经网络模型；接着，可以根据目标图像的特征向量，对目标图像进行识别，得到目标图像的识别结果。可见，由于本申请实施例预先构建的图像识别模型是利用神经元的算力进行自适应剪枝，从而提高了剪枝效率，稳定了剪枝训练流程，并且通过对抗训练和知识蒸馏的训练方式还能够使得图像识别模型有效继承当前主流神经网络模型所包含的知识，进而保证了该图像识别模型能够一直维持着最大化的识别性能效果，且无需在剪枝完成后再进行效果微调，避免造成算力资源的浪费，这样，通过对图像识别网络模型更高效的剪枝，不仅能够保持模型对图像识别的优异效果，还能够有效提升图像的识别效率。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为目前的网络剪枝方法中采用L1正则化对比例因子进行优化的分布示例图；
图2为本申请实施例提供的一种图像识别方法的流程示意图；
图3为本申请实施例提供的构建图像识别模型的流程示意图；
图4为本申请实施例提供的构建图像识别模型的网络结构示意图；
图5为本申请实施例提供的对比例因子进行优化后的分布示例图；
图6为本申请实施例提供的一种图像识别装置的组成示意图。
具体实施方式
随着智能识别技术的快速发展，越来越多的场景需要对图像进行识别。传统的图像识别方法通常是采用CNN等当前主流的神经网络进行识别，但这些主流的神经网络通常是以其复杂的结构及超大的参数量为基础，才能取得优异的识别效果，而复杂的结构及超大的参数量要求相应的硬件必须具备超强的运算能力。面对日益增多的多功能智能终端的任务需求，超强的算力要求严重限制了这些主流神经网络算法在终端设备的部署。由此，为了能够在取得准确的识别结果的情况下，降低大网络参数量及运算量，需要通过网络剪枝的方式，移除大网络中的冗余参数，以有效降低网络前向推理的计算成本，最终成功实现端上设备的网络部署。
目前的网络剪枝方法主要分为两种：一种是非结构化修剪，其以神经网络每个可优化参数为单位，实现权值级剪枝；另一种是结构化剪枝，其以神经元(通道)为单位，实现网络结构层面的剪枝。虽然非结构化修剪通常比结构化修剪减少更多的权值，但它的缺点是得到的权值矩阵是稀疏的，在没有专用的硬件或加速库的情况下无法实现有效的加速。因此，当前常用的网络剪枝方法是结构化剪枝方法，其不需要额外的硬件或加速库即能有效减少在通用GPU/CPU设备上的计算量。
对于当前图像识别网络采用的结构化剪枝方案来说，通常是将每个神经元与其对应的比例因子相乘，实现二者间的相互关联，并在网络训练中通过正则化的方式优化更新这些比例因子数值，其中每个比例因子数值大小即代表了其对应神经元的重要程度。当训练完成时，每个比例因子数值反应了其对应神经元的重要程度，再将比例因子低于一定阈值的神经元直接移除，从而实现神经网络结构化剪枝。具体来讲，目前在剪枝过程中，通常采用L1正则化对代表神经元的重要程度的比例因子进行优化，但L1正则化会无差别的将所有比例因子向0推进，如图1所示，优化后的比例因子会大量的集中在0附近，难以选择合理的分割阈值，用以将修剪后的神经元与保留的神经元分开，且不合理的阈值修剪会导致精度严重下降。同时，虽然每次剪枝的神经元的重要性相对较低，但仍会产生推理误差，造成剪枝及训练过程的不稳定，影响待剪枝的神经元的选择，进而使得剪枝后网络性能下降。此外，目前在完成剪枝后，还需要对剪枝后的网络进行进一步的微调，这也会造成一部分的算力资源浪费。
所以，当前对图像识别网络进行剪枝的方法不够高效，剪枝阈值的筛选难度较大，且容易造成网络识别精度下降和算力资源的浪费，进而会导致图像识别效率较低且识别结果不够准确。
为解决上述缺陷，本申请提供了一种图像识别方法，首先获取待识别的目标图像，然后再将目标图像输入至预先构建的图像识别模型，识别得到目标图像的特征向量；其中，图像识别模型是根据神经元的算力进行自适应剪枝，并利用对抗训练和知识蒸馏的方式训练得到的神经网络模型；接着，可以根据目标图像的特征向量，对目标图像进行识别，得到目标图像的识别结果。可见，由于本申请实施例预先构建的图像识别模型是利用神经元的算力进行自适应剪枝，从而提高了剪枝效率，稳定了剪枝训练流程，并且通过对抗训练和知识蒸馏的训练方式还能够使得图像识别模型有效继承当前主流神经网络模型所包含的知识，进而保证了该图像识别模型能够一直维持着最大化的识别性能效果，且无需在剪枝完成后再进行效果微调，避免造成算力资源的浪费，这样，通过对图像识别网络模型更高效的剪枝，不仅能够保持模型对图像识别的优异效果，还能够有效提升图像的识别效率。
为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
第一实施例
参见图2，为本实施例提供的一种图像识别方法的流程示意图，该方法包括以下步骤：
S201：获取待识别的目标图像。
在本实施例中，将需要进行分类识别的任一图像定义为目标图像，需要说明的是，本实施例不限制待识别的目标图像的类型，比如，目标图像可以是由红(R)、绿(G)、蓝(B)三原色组成的彩色图像、也可以是灰度图像等。
可以理解的是，目标图像可以根据实际需要，通过拍照等方式获得，例如，人们日常生活中的利用手机拍摄的图像、或者从视频流中截取的图像等均可作为目标图像，或者，也可以从CIFAR-10或ImageNet等图像识别数据集中获取任意图像作为目标图像。进一步的，在获取到目标图像后，可以利用本实施例提供的方案对该目标图像进行识别，以将该目标图像分类到其所属的真实类别中。
S202：将目标图像输入至预先构建的图像识别模型，识别得到目标图像的特征向量；其中，图像识别模型是根据神经元的算力进行自适应剪枝，并利用对抗训练和知识蒸馏的方式训练得到的神经网络模型。
在本实施例中，通过步骤S201获取到待识别的目标图像后，为了快速、准确的识别出目标图像所属的图像类别，进一步可以将目标图像输入预先构建的图像识别模型中，从而识别得到目标图像的特征向量，用以执行后续步骤S203。需要说明的是，目标图像的特征向量的具体格式可根据实际情况(如选择的识别网络模型的架构等)设定，本实施例对此不进行限定，比如目标图像的特征向量可以为一个256维的向量等。
其中，图像识别模型是根据神经元的算力进行自适应剪枝，并利用对抗训练和知识蒸馏的方式训练得到的神经网络模型，从而能够提高模型的剪枝效率，并稳定剪枝训练流程，使得图像识别模型有效继承当前主流神经网络模型所包含的知识，进而保证了该图像识别模型能够一直维持着最大化的识别性能效果，且无需在剪枝完成后再进行效果微调，避免造成算力资源的浪费，这样，通过对图像识别网络模型更高效的剪枝，不仅能够保持模型对图像识别的优异效果，还能够有效提升图像的识别效率。
接下来，本实施例将对图像识别模型的构建过程进行介绍，如图3所示，其示出了本实施例提供的构建图像识别模型的流程示意图，该流程包括以下步骤A-D：
步骤A：获取样本图像和教师图像识别模型；其中，教师图像识别模型是基于样本图像训练得到的神经网络模型。
在本实施例中，为了构建图像识别模型，需要预先进行大量的准备工作，首先，需要收集大量分属于不同类别的图像作为样本图像，用以训练教师图像识别模型以及执行后续步骤B。一种可选的实现方式是，可以利用现有的开源图像识别数据集ImageNet中的图像作为样本图像，比如，可以从ImageNet中获取分别属于1000个不同类别(如飞机、鸟、猫、鹿、狗、青蛙、马、船和自行车等)的1281167幅图像及每幅图像对应的分类标签(如多维向量)，并将这些图像分别作为样本图像进行训练。
其中，基于样本图像训练得到教师图像识别模型的实现过程具体包括：首先，可以选定一个完整的神经网络作为原始图像识别模型，并初始化模型参数，需要说明的是，本实施例对该原始模型的具体网络结构不做限定，可以是任何形式的神经网络，比如，可以是CNN、循环神经网络(Recurrent Neural Network,RNN)、或深度神经网络(Deep NeuralNetworks，简称DNN)结构等。
然后，利用每一样本图像对原始图像识别模型进行当前轮训练，并利用交叉熵损失(CrossEntry)作为目标函数，来构建教师图像识别模型，并更新模型的网络参数，以提高模型对于样本图像的识别准确率，在经过多轮参数更新后(即满足训练结束条件后，比如达到预设训练轮数或交叉熵损失变化量小于预设阈值等)，便可训练得到教师图像识别模型。
具体地，一种可选的实现方式是，在训练过程中，每次迭代从训练集中随机采样若干幅(如16幅)样本图像，结合数据增强策略生成固定大小(如224x224)的原始输入图像，并采用小批量随机梯度下降(Mini-Batch+SGD)优化策略完成教师图像识别模型的训练，且在将教师图像识别模型练完毕后，不再进行模型更新。
或者，也可以利用现有的已经通过其他图像训练好的模型作为本实施例的教师图像识别模型进行训练，只要保证是利用准确的分类图像训练得到即可。
步骤B：将样本图像输入教师图像识别模型，得到第一样本特征向量及其所属的第一分类概率；将样本图像输入初始学生图像识别模型，得到第二样本特征向量及其所属的第二分类概率。
在本实施例中，通过步骤A获取到样本图像和教师图像识别模型后，进一步可以将样本图像输入教师图像识别模型，得到样本图像对应的特征向量(此处将其定义为第一样本特征向量)及其所属的图像类别分类概率(此处将其定义为第一分类概率)，如图4所示。同时，还需要将同样的样本图像输入初始学生图像识别模型，以通过该模型识别得到该样本图像对应的特征向量(此处将其定义为第二样本特征向量)及其所属的图像类别分类概率(此处将其定义为第二分类概率)。
其中，初始学生图像识别模型是由教师图像识别模型中的神经元与初始比例因子相乘后得到的神经神经网络模型。初始比例因子的取值可以根据实际情况进行选择，本申请实施例对此不进行限定，比如初始比例因子可以在0.5～1中随机采样得到。
步骤C：根据第一样本特征向量及其所属的第一分类概率、第二样本特征向量及其所属的第二分类概率、以及预设的判别器，利用对抗训练和知识蒸馏的方式，对初始学生图像识别模型进行训练，生成学生图像识别模型。
在本实施例中，通过步骤B得到第一样本特征向量及其所属的第一分类概率、第二样本特征向量及其所属的第二分类概率后，进一步可以根据第一样本特征向量及其所属的第一分类概率、第二样本特征向量及其所属的第二分类概率、以及预设的判别器，利用对抗训练和知识蒸馏的方式，对初始学生图像识别模型进行训练，生成学生图像识别模型。
具体来讲，一种可选的实现方式是，本步骤C的实现过程具体可以包括下述步骤C1-C5：
步骤C1：利用初始学生图像识别模型中神经元的算力，计算初始学生图像识别模型对应的剪枝损失，作为第一目标函数；其中，第一目标函数用于优化初始学生图像识别模型中神经元对应的比例因子。
需要说明的是，由于目前的网络剪枝方法是直接将L1正则化损失(即
Figure BDA0003208994330000131
)应用于所有神经元(即一般神经网络中的特征通道，例如CNN中的filter)对应比例因子，进行比例因子的优化，即，将L1正则化无差别的将所有比例因子向0推进，如图1所示。这使得不同神经元的算力需求与比例因子间的关联性降低，影响了剪枝阈值的选择，比如，若将0.1作为阈值，在将图1中低于0.1的比例因子对应的神经元删除，会造成删除的神经元数量过多，产生推理误差并造成剪枝及训练过程的不稳定，导致剪枝后的图像识别模型的识别精度和网络性能均下降。
对此，为了构建网络识别精度更高和网络性能更强的图像识别模型，本申请在充分考虑了初始学生图像识别模型中神经元的算力需求和比例因子的关联后，提出了根据神经元的算力进行自适应剪枝的方式，即利用初始学生图像识别模型中神经元的算力，计算初始学生图像识别模型对应的剪枝损失，作为第一目标函数，用以执行后续步骤C5。其中，第一目标函数用于优化初始学生图像识别模型中神经元对应的比例因子，第一目标函数的具体计算公式如下：
Figure BDA0003208994330000132
其中，Lwre表示第一目标函数；N表示初始学生图像识别模型中神经元的总数；si表示第i个神经元对应的比例因子；αi表示当前轮训练中第i个神经元的计算量占整个网络模型总计算量的比重，即，
Figure BDA0003208994330000133
其中，
Figure BDA0003208994330000134
表示比例因子si对应的第i个神经元在当前轮训练中的计算量。
在使用上述公式(1)中的第一目标函数对初始学生图像识别模型进行训练时，可以根据Lwre值的变化，对比例因子进行优化，使得无用神经元对应的比例因子逐渐减小，直至Lwre值满足要求，比如变化幅度很小，则停止进行优化，从而降低了这些神经元对整体网络识别效果的影响，以便在后续步骤D中的剪枝阶段，可以直接移除这部分神经元，实现高效剪枝。
可见，利用第一目标函数进行训练，能够充分考虑待剪神经元算力与效果间的均衡，在优化过程中，将算力要求高且移除后效果影响小的神经元对应的比例因子逐渐向0拉近，从而产生不同簇的比例因子分布，如图3所示，这样，在后续步骤D中的剪枝阶段，只需直接移除靠近0的比例因子簇所对应的神经元，从而大大降低剪枝阈值的筛选难度。由于其联合优化了算力与效果，故能够在维持剪枝后网络的识别效果的同时还能够最大化剪枝比例，防止剪枝后网络识别精度出现严重下滑。
步骤C2：计算第一分类概率和第二分类概率之间的KL散度损失，作为第二目标函数；其中，第二目标函数用于提升初始学生图像识别模型的输出结果与教师图像识别模型的输出结果之间的相似度。
需要说明的是，在模型训练过程中，虽然每轮剪枝都是仅将比例因子接近0的重要性较低的神经元移除，但仍然会产生一定推理误差，造成剪枝过中模型参数更新的不稳定，导致剪枝后网络性能的下降。
为了解决上述缺陷，提高剪枝后网络的性能，本申请提出采用知识蒸馏的方式对初始学生图像识别模型进行训练，以使得剪枝后的学生图像识别模型能够有效继承教师图像识别模型所包含的知识，从而才能够维持学生图像识别模型的网络性能，提升剪枝的稳定性。
具体来讲，在将样本图像输入教师图像识别模型和初始学生图像识别模型，分别得到第一分类概率和第二分类概率后，进一步可以计算出第一分类概率和第二分类概率之间的KL散度损失，作为第二目标函数，用以执行后续步骤C5。其中，第二目标函数用于度量第一分类概率和第二分类概率分布之间的差异程度，利用第二目标函数对初始学生图像识别模型进行训练，有助于提升初始学生图像识别模型的输出结果与教师图像识别模型的输出结果之间的相似度，第二目标函数的具体计算公式如下：
Figure BDA0003208994330000141
其中，LKL表示第二目标函数；K表示参与训练的样本图像的总数量；xi表示第i个样本图像；
Figure BDA0003208994330000142
表示将第i个样本图像xi输入教师图像识别模型后得到的第一分类概率；
Figure BDA0003208994330000143
表示将第i个样本图像xi输入初始学生图像识别模型后得到的第二分类概率。
在使用上述公式(2)中的第二目标函数对初始学生图像识别模型进行训练时，可以根据LKL值的变化，对模型参数进行不断更新，使得初始学生图像识别模型的输出结果与教师图像识别模型的输出结果更加相似，直至LKL值满足要求，比如变化幅度很小，则停止进行优化。
步骤C3：计算第二分类概率和样本图像对应的真实分类结果之间的交叉熵损失，作为第三目标函数；其中，第三目标函数用于提升初始学生图像识别模型的输出结果与样本图像对应的真实分类结果之间的相似度。
在本实现方式中，为了提高学生图像识别模型的识别准确度，在将样本图像输入初始学生图像识别模型，得到第二分类概率后，进一步可以计算出第二分类概率和样本图像对应的真实分类结果之间的交叉熵损失，作为第三目标函数，用以执行后续步骤C5。其中，利用第三目标函数对初始学生图像识别模型进行训练，有助于提升初始学生图像识别模型的输出结果与样本图像对应的真实分类结果之间的相似度，第三目标函数的具体计算公式如下：
Figure BDA0003208994330000151
其中，LCE表示第三目标函数；K表示参与训练的样本图像的总数量；xi表示第i个样本图像；yi表示第i个样本图像xi对应的真实分类结果(如真是分类标签等)；
Figure BDA0003208994330000152
表示将第i个样本图像xi输入初始学生图像识别模型后得到的第二分类概率。
在使用上述公式(3)中的第三目标函数对初始学生图像识别模型进行训练时，可以根据LCE值的变化，对模型参数进行不断更新，使得初始学生图像识别模型的输出结果与样本图像对应的真实分类结果更加相似，直至LCE值满足要求，比如变化幅度很小，则停止进行优化。
步骤C4：将第一样本特征向量和第二样本特征向量输入预设的判别器进行对抗训练，得到二者的对抗损失，作为第四目标函数；其中，第四目标函数用于实现第一样本特征向量与第二样本特征向量的最大化相似。
需要说明的是，虽然通过上述步骤C2，利用上述公式(2)中的第二目标函数可以对初始学生图像识别模型进行知识蒸馏式的训练，以使得初始学生图像识别模型的输出结果与教师图像识别模型的输出结果更加相似，但仍然无法将学生图像识别模型的输出结果的网络性能进行最大化，这是因为上述公式(2)中的蒸馏损失会导致知识迁移的不足，即，仅仅实现的是初步的知识迁移。
对此，为了实现教师图像识别模型的网络性能知识的最大化迁移，本申请采用对抗训练的方式辅助进行知识蒸馏训练。具体实现过程为：如图4所示，在模型训练过程中加入判别器进行对抗训练，将教师图像识别模型输出的第一样本特征向量和初始学生图像识别模型输出的第二样本特征向量，均输入该判别器中，对于第一样本特征向量，该判别器的输出为1，对于第二样本特征向量，该判别器的输出为0，利用该判别器可以将教师图像识别模型的输出与学生图像识别模型的输出很好的区分开。其中，判别器可以采用任一标准的二分类网络，如支持向量机(Support Vector Machine，简称SVM)等。
在此基础上，每轮训练，均可以将教师图像识别模型输出的第一样本特征向量和学生识别模型输出的第二样本特征向量输入预设的判别器，以根据判别器的输出进行对抗训练，得到二者的对抗损失，作为第四目标函数，用以执行后续步骤C5。其中，利用第四目标函数对初始学生图像识别模型和教师图像识别模型进行对抗训练，有助于实现第一样本特征向量与第二样本特征向量的最大化相似，即，实现教师图像识别模型的网络性能知识最大化的迁移到学生图像识别模型。第四目标函数的具体计算公式如下：
Figure BDA0003208994330000161
其中，LADV表示第四目标函数；
Figure BDA0003208994330000162
表示将第i个样本图像xi输入教师图像识别模型后得到的第一分类概率；
Figure BDA0003208994330000163
表示将第i个样本图像xi输入初始学生图像识别模型后得到的第二分类概率；Pz(z)表示高斯分布，通常是由加入的噪声产生的；D表示判别器。
在使用上述公式(4)中的第四目标函数对初始学生图像识别模型和教师图像识别模型进行对抗训练时，可以根据LADV值的变化，对模型参数进行不断更新，直至LADV值满足要求，比如变化幅度很小，从而使得判别器对于初始学生图像识别模型的输出结果(即第一样本特征向量)的判定(即判别器的输出)更接近于1，进而使得初始学生图像识别模型输出的第一样本特征向量与教师图像识别模型输出的第二样本特征向量更能够最大化的相似，实现了更加充分的知识迁移，则可以停止进行优化。
步骤C5：根据第一目标函数、第二目标函数、第三目标函数以及第四目标函数对初始学生图像识别模型进行训练，生成学生图像识别模型。
在本实现方式中，为了综合优化学生图像识别模型的整体网络参数，可以将上述公式(1)、(2)、(3)、(4)中的四个目标函数进行整合，得到最终模型优化目标函数如下公式所示：
Loss＝a*LKL+b*LCE+c*LADV+d*Lwre (5)
其中，a、b、c、d分别表示LKL、LCE、LADV、Lwre的权重，a、b、c、d的具体取值可根据实际情况和经验值来确定，本申请实施例对此不进行限定。但需要说明的是，如果将a和c的取值设置偏大，则最终学生图像识别模型的识别效果更接近教师图像识别模型的识别效果，但剪枝的效率相对偏低，即每次剪枝的力度不够；反之则最终学生图像识别模型的识别效果略微下降，但剪枝效率相对较高，从而能够提高图像的识别效率。由此，本申请优先采用的取值为：a＝0.3，b＝0.3，c＝0.2，d＝0.2，但也不限于此取值组合。
这样，通过上述对抗训练和知识蒸馏的方式不断促使剪枝后的学生图像识别模型的输出与教师图像识别模型的输出更加相似，从而实现剪枝过程中不断的进行教师图像识别模型网络知识的迁移，这使得最终保留的剪枝后学生图像识别模型能够一直维持着最大化的性能效果，从而避免了传统剪枝方案中在剪枝完成后需进一步进行效果微调造成的算力资源的浪费。
步骤D：根据学生图像识别模型的比例因子分布，对学生图像识别模型进行剪枝，并将剪枝后的学生图像识别模型作为最终的图像识别模型。
在本实施例中，通过步骤C生成学生图像识别模型后，进一步可以根据由上述公式(1)中的第一目标函数Lwre确定的比例因子的分布(例如图5所示)，对学生图像识别模型进行剪枝，并将模型中算力要求高且移除后效果影响小的神经元进行移除，得到剪枝后的学生图像识别模型，进而可以将其作为最终的图像识别模型。
具体来讲，一种可选的实现方式是，本步骤D的具体实现过程为：首先根据学生图像识别模型的比例因子分布，确定低于预设阈值的比例因子，然后再将低于预设阈值的比例因子所对应的神经元从学生图像识别模型中移除，得到剪枝后的学生图像识别模型，并将其作为最终的图像识别模型。
在本实现方式中，剪枝的依据是预先设置的比例因子阈值(即预设阈值)，其指的是用于界定是否将对应的神经元移除的临界值，具体取值可根据实际情况进行设定，本申请实施例对此不进行限定，比如可以将预设阈值取值为0.12等。当比例因子超过该临界值，则表明该比例因子对应的神经元的重要程度较高，不能将其移除，反之，当比例因子未超过该临界值，则表明该比例因子对应的神经元的重要程度较低，可以将其移除，实现网络剪枝。
另一种可选的实现方式是，本步骤D的具体实现过程为：首先根据学生图像识别模型的比例因子分布，确定比例因子的移除阈值，然后再将低于移除阈值的比例因子所对应的神经元从学生图像识别模型中移除，得到剪枝后的学生图像识别模型，并将其作为最终的图像识别模型。
在本实现方式中，学生图像识别模型往往会产生不同簇的比例因子分布，例如图5所示，由此，可以将根据比例因子的分布确定出移除阈值作为剪枝的依据，用以界定是否将对应的神经元移除，通常是将靠近0且集中了大部分比例因子的上限值作为移除阈值。并将移除阈值作为界定是否将对应的神经元移除的临界值，当比例因子超过该临界值，则表明该比例因子对应的神经元的重要程度较高，不能将其移除，反之，当比例因子未超过该临界值，则表明该比例因子对应的神经元的重要程度较低，可以将其移除，实现网络剪枝，以得到算力要求更小但识别结果仍足够准确的图像识别模型。
举例说明：假设学生图像识别模型的比例因子的分布如图5所示，则可以看出有大部分比例因子靠近0且低于0.1，这部分比例因子对应的神经元的数量较大且重要程度较低，此时，为了保证模型的识别准确率并提高模型的识别效率，可以将0.1确定为移除阈值(即图5中的Threshold指示位置)，并将比例因子低于0.1的神经元移除，从而实现了对于学生图像识别模型的高效剪枝，得到算力要求更小但识别结果仍足够准确的图像识别模型。
通过上述步骤A-D，可以根据样本图像训练生成图像识别模型，进一步的，还可以利用验证图像对生成的图像识别模型进行验证。具体验证过程可以包括下述步骤(1)-(3)：
步骤(1)：获取验证图像。
在本实施例中，为了实现对图像识别模型进行验证，首先需要获取验证图像，如可以从ImageNet中获取50000幅图像作为验证图像，其中，验证图像指的是可以用来进行图像识别模型验证的图像信息，在获取到这些验证图像及每幅验证图像对应的分类标签后，可继续执行后续步骤(2)。
步骤(2)：将验证图像输入图像识别模型，获得验证图像的分类识别结果。
通过步骤(1)获取到验证图像后，进一步的，可以将验证图像输入图像识别模型，获得验证图像的分类识别结果，用以执行后续步骤(3)。
步骤(3)：当验证图像的分类识别结果与验证图像对应的分类标签结果不一致时，将验证图像重新作为样本图像，对图像识别模型进行更新。
通过步骤(2)获得验证图像的分类识别结果后，若验证图像的分类识别结果与验证图像对应的真实分类结果(如人工标注的分类标记结果)不一致，则可以将验证图像重新作为样本图像，对图像识别模型进行参数更新。
通过上述实施例，可以利用验证图像对图像识别模型进行有效验证，当验证图像的分类识别结果与验证图像对应的真实分类结果(如人工标注的分类标记结果)不一致时，可以及时调整更新图像识别模型，进而有助于提高识别模型的识别精度和准确性。
在此基础上，进一步的，一种可选的实现方式是，在构建了图像识别模型后，还可以判断图像识别模型的参数量和理论计算量是否满足预设的硬件需求(如端上的内存容量、算力等)，若是，即图像识别模型的参数量和理论计算量是端上设备可以满足的，则可以利用预设的判别器对图像识别模型参数进行微调，以进一步提高模型的识别效率和识别结果的准确率，并将调整后的图像识别模型作为最终的图像识别模型，进而可将其部署在终端设备上进行图像识别；若否，则重复执行上述步骤B-D，重新构建图像识别模型，以满足预设的硬件需求，进而再实现其的端上部署。
其中，图像识别模型的理论计算量指的是完成训练后模型中所有神经元的总计算量，可以采用浮点运算数(Floating Point Operations，简称FLOPs)进行衡量，具体计算过程与现有方法一致，在此不再赘述。
S203：根据目标图像的特征向量，对目标图像进行识别，得到目标图像的识别结果。
在本实施例中，通过步骤S202得到目标图像的特征向量后，进一步可以通过对该特征向量进行处理，并根据处理结果，对目标图像进行识别，得到目标图像的分类识别结果。比如，可以将目标图像的特征向量输入全连接层进行识别，并对进行softmax处理，以得到目标图像属于各个图像类别的概率，进而可将其中每一最大概率值对应的类别作为目标图像所属的图像类别，并将其作为目标图像的最终的分类识别结果。
综上，本实施例提供的一种图像识别方法，首先获取待识别的目标图像，然后再将目标图像输入至预先构建的图像识别模型，识别得到目标图像的特征向量；其中，图像识别模型是根据神经元的算力进行自适应剪枝，并利用对抗训练和知识蒸馏的方式训练得到的神经网络模型；接着，可以根据目标图像的特征向量，对目标图像进行识别，得到目标图像的识别结果。可见，由于本申请实施例预先构建的图像识别模型是利用神经元的算力进行自适应剪枝，从而提高了剪枝效率，稳定了剪枝训练流程，并且通过对抗训练和知识蒸馏的训练方式还能够使得图像识别模型有效继承当前主流神经网络模型所包含的知识，进而保证了该图像识别模型能够一直维持着最大化的识别性能效果，且无需在剪枝完成后再进行效果微调，避免造成算力资源的浪费，这样，通过对图像识别网络模型更高效的剪枝，不仅能够保持模型对图像识别的优异效果，还能够有效提升图像的识别效率。
第二实施例
本实施例将对一种图像识别装置进行介绍，相关内容请参见上述方法实施例。
参见图6，为本实施例提供的一种图像识别装置的组成示意图，该装置600包括：
第一获取单元601，用于获取待识别的目标图像；
第一识别单元602，用于将所述目标图像输入至预先构建的图像识别模型，识别得到所述目标图像的特征向量；所述图像识别模型是根据神经元的算力进行自适应剪枝，并利用对抗训练和知识蒸馏的方式训练得到的神经网络模型；
第二识别单元603，用于根据所述目标图像的特征向量，对所述目标图像进行识别，得到所述目标图像的识别结果。
在本实施例的一种实现方式中，所述装置还包括：
第二获取单元，用于获取样本图像和教师图像识别模型；所述教师图像识别模型是基于样本图像训练得到的神经网络模型；
第一获得单元，用于将所述样本图像输入所述教师图像识别模型，得到第一样本特征向量及其所属的第一分类概率；将所述样本图像输入初始学生图像识别模型，得到第二样本特征向量及其所属的第二分类概率；所述初始学生图像识别模型为由所述教师图像识别模型中的神经元与初始比例因子相乘后得到的神经神经网络模型；
训练单元，用于根据所述第一样本特征向量及其所属的第一分类概率、所述第二样本特征向量及其所属的第二分类概率、以及预设的判别器，利用对抗训练和知识蒸馏的方式，对所述初始学生图像识别模型进行训练，生成学生图像识别模型；
剪枝单元，用于根据所述学生图像识别模型的比例因子分布，对所述学生图像识别模型进行剪枝，并将剪枝后的图像识别模型作为最终的图像识别模型。
在本实施例的一种实现方式中，所述训练单元包括：
第一计算子单元，用于利用所述初始学生图像识别模型中神经元的算力，计算所述初始学生图像识别模型对应的剪枝损失，作为第一目标函数；所述第一目标函数用于优化所述初始学生图像识别模型中神经元对应的比例因子；
第二计算子单元，用于计算所述第一分类概率和第二分类概率之间的KL散度损失，作为第二目标函数；所述第二目标函数用于提升所述初始学生图像识别模型的输出结果与所述教师图像识别模型的输出结果之间的相似度；
第三计算子单元，用于计算所述第二分类概率和所述样本图像对应的真实分类结果之间的交叉熵损失，作为第三目标函数；所述第三目标函数用于提升所述初始学生图像识别模型的输出结果与所述样本图像对应的真实分类结果之间的相似度；
第一训练子单元，用于将所述第一样本特征向量和所述第二样本特征向量输入预设的判别器进行对抗训练，得到二者的对抗损失，作为第四目标函数；所述第四目标函数用于实现所述第一样本特征向量与所述第二样本特征向量的最大化相似；
第二训练子单元，用于根据所述第一目标函数、第二目标函数、第三目标函数以及第四目标函数对所述初始学生图像识别模型进行训练，生成学生图像识别模型。
在本实施例的一种实现方式中，所述第二训练子单元具体用于：
将所述第一目标函数、第二目标函数、第三目标函数以及第四目标函数进行加权求和，并根据所述和值，对所述初始学生图像识别模型进行训练，生成学生图像识别模型。
在本实施例的一种实现方式中，所述剪枝单元包括：
第一确定子单元，用于根据所述学生图像识别模型的比例因子分布，确定低于预设阈值的比例因子；
第一移除子单元，用于将低于预设阈值的比例因子所对应的神经元从所述学生图像识别模型中移除，得到剪枝后的学生图像识别模型，并将其作为最终的图像识别模型。
在本实施例的一种实现方式中，所述剪枝单元包括：
第二确定子单元，用于根据所述学生图像识别模型的比例因子分布，确定比例因子的移除阈值；
第二移除子单元，用于将低于所述移除阈值的比例因子所对应的神经元从所述学生图像识别模型中移除，得到剪枝后的学生图像识别模型，并将其作为最终的图像识别模型。
在本实施例的一种实现方式中，所述装置还包括：
调整单元，用于在所述根据所述学生图像识别模型的比例因子分布，对所述学生图像识别模型进行剪枝，并将剪枝后的学生图像识别模型作为最终的图像识别模型之后，判断所述图像识别模型的参数量和理论计算量是否满足预设的硬件需求，若是，则利用所述预设的判别器对所述图像识别模型参数进行微调，并将调整后的图像识别模型作为最终的图像识别模型。
在本实施例的一种实现方式中，所述装置还包括：
第三获取单元，用于获取验证图像；
第二获得单元，用于将所述验证图像输入所述图像识别模型，获得所述验证图像的分类识别结果；
更新单元，用于当所述验证图像的分类识别结果与所述验证图像对应的分类标签结果不一致时，将所述验证图像重新作为所述样本图像，对所述图像识别模型进行更新。
进一步地，本申请实施例还提供了一种图像识别设备，包括：处理器、存储器、系统总线；
所述处理器以及所述存储器通过所述系统总线相连；
所述存储器用于存储一个或多个程序，所述一个或多个程序包括指令，所述指令当被所述处理器执行时使所述处理器执行上述图像识别方法的任一种实现方法。
进一步地，本申请实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有指令，当所述指令在终端设备上运行时，使得所述终端设备执行上述图像识别方法的任一种实现方法。
进一步地，本申请实施例还提供了一种计算机程序产品，所述计算机程序产品在终端设备上运行时，使得所述终端设备执行上述图像识别方法的任一种实现方法。
通过以上的实施方式的描述可知，本领域的技术人员可以清楚地了解到上述实施例方法中的全部或部分步骤可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者诸如媒体网关等网络通信设备，等等)执行本申请各个实施例或者实施例的某些部分所述的方法。
需要说明的是，本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下，在其它实施例中实现。因此，本申请将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (11)

1.一种图像识别方法，其特征在于，包括：
获取待识别的目标图像；
将所述目标图像输入至预先构建的图像识别模型，识别得到所述目标图像的特征向量；所述图像识别模型是根据神经元的算力进行自适应剪枝，并利用对抗训练和知识蒸馏的方式训练得到的神经网络模型；
根据所述目标图像的特征向量，对所述目标图像进行识别，得到所述目标图像的识别结果。
2.根据权利要求1所述的方法，其特征在于，所述图像识别模型的构建方式如下：
获取样本图像和教师图像识别模型；所述教师图像识别模型是基于样本图像训练得到的神经网络模型；
将所述样本图像输入所述教师图像识别模型，得到第一样本特征向量及其所属的第一分类概率；将所述样本图像输入初始学生图像识别模型，得到第二样本特征向量及其所属的第二分类概率；所述初始学生图像识别模型为由所述教师图像识别模型中的神经元与初始比例因子相乘后得到的神经神经网络模型；
根据所述第一样本特征向量及其所属的第一分类概率、所述第二样本特征向量及其所属的第二分类概率、以及预设的判别器，利用对抗训练和知识蒸馏的方式，对所述初始学生图像识别模型进行训练，生成学生图像识别模型；
根据所述学生图像识别模型的比例因子分布，对所述学生图像识别模型进行剪枝，并将剪枝后的图像识别模型作为最终的图像识别模型。
3.根据权利要求2所述的方法，其特征在于，所述根据所述第一样本特征向量及其所属的第一分类概率、所述第二样本特征向量及其所属的第二分类概率、以及预设的判别器，利用对抗训练和知识蒸馏的方式，对所述初始学生图像识别模型进行训练，生成学生图像识别模型，包括：
利用所述初始学生图像识别模型中神经元的算力，计算所述初始学生图像识别模型对应的剪枝损失，作为第一目标函数；所述第一目标函数用于优化所述初始学生图像识别模型中神经元对应的比例因子；
计算所述第一分类概率和第二分类概率之间的KL散度损失，作为第二目标函数；所述第二目标函数用于提升所述初始学生图像识别模型的输出结果与所述教师图像识别模型的输出结果之间的相似度；
计算所述第二分类概率和所述样本图像对应的真实分类结果之间的交叉熵损失，作为第三目标函数；所述第三目标函数用于提升所述初始学生图像识别模型的输出结果与所述样本图像对应的真实分类结果之间的相似度；
将所述第一样本特征向量和所述第二样本特征向量输入预设的判别器进行对抗训练，得到二者的对抗损失，作为第四目标函数；所述第四目标函数用于实现所述第一样本特征向量与所述第二样本特征向量的最大化相似；
根据所述第一目标函数、第二目标函数、第三目标函数以及第四目标函数对所述初始学生图像识别模型进行训练，生成学生图像识别模型。
4.根据权利要求3所述的方法，其特征在于，所述根据所述第一目标函数、第二目标函数、第三目标函数以及第四目标函数对初始学生图像识别模型进行训练，生成学生图像识别模型，包括：
将所述第一目标函数、第二目标函数、第三目标函数以及第四目标函数进行加权求和，并根据所述和值，对所述初始学生图像识别模型进行训练，生成学生图像识别模型。
5.根据权利要求2所述的方法，其特征在于，所述根据所述学生图像识别模型的比例因子分布，对所述学生图像识别模型进行剪枝，并将剪枝后的学生图像识别模型作为最终的图像识别模型，包括：
根据所述学生图像识别模型的比例因子分布，确定低于预设阈值的比例因子；
将低于预设阈值的比例因子所对应的神经元从所述学生图像识别模型中移除，得到剪枝后的学生图像识别模型，并将其作为最终的图像识别模型。
6.根据权利要求2所述的方法，其特征在于，所述根据所述学生图像识别模型的比例因子分布，对所述学生图像识别模型进行剪枝，并将剪枝后的学生图像识别模型作为最终的图像识别模型，包括：
根据所述学生图像识别模型的比例因子分布，确定比例因子的移除阈值；
将低于所述移除阈值的比例因子所对应的神经元从所述学生图像识别模型中移除，得到剪枝后的学生图像识别模型，并将其作为最终的图像识别模型。
7.根据权利要求2所述的方法，其特征在于，在所述根据所述学生图像识别模型的比例因子分布，对所述学生图像识别模型进行剪枝，并将剪枝后的学生图像识别模型作为最终的图像识别模型之后，所述方法还包括：
判断所述图像识别模型的参数量和理论计算量是否满足预设的硬件需求，若是，则利用所述预设的判别器对所述图像识别模型参数进行微调，并将调整后的图像识别模型作为最终的图像识别模型。
8.根据权利要求2所述的方法，其特征在于，所述方法还包括：
获取验证图像；
将所述验证图像输入所述图像识别模型，获得所述验证图像的分类识别结果；
当所述验证图像的分类识别结果与所述验证图像对应的分类标签结果不一致时，将所述验证图像重新作为所述样本图像，对所述图像识别模型进行更新。
9.一种图像识别装置，其特征在于，包括：
第一获取单元，用于获取待识别的目标图像；
第一识别单元，用于将所述目标图像输入至预先构建的图像识别模型，识别得到所述目标图像的特征向量；所述图像识别模型是根据神经元的算力进行自适应剪枝，并利用对抗训练和知识蒸馏的方式训练得到的神经网络模型；
第二识别单元，用于根据所述目标图像的特征向量，对所述目标图像进行识别，得到所述目标图像的识别结果。
10.一种图像识别设备，其特征在于，包括：处理器、存储器、系统总线；
所述处理器以及所述存储器通过所述系统总线相连；
所述存储器用于存储一个或多个程序，所述一个或多个程序包括指令，所述指令当被所述处理器执行时使所述处理器执行权利要求1-8任一项所述的方法。
11.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有指令，当所述指令在终端设备上运行时，使得所述终端设备执行权利要求1-8任一项所述的方法。
CN202110925442.7A 2021-08-12 2021-08-12 一种图像识别方法、装置、存储介质及设备 Active CN113627537B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110925442.7A CN113627537B (zh) 2021-08-12 2021-08-12 一种图像识别方法、装置、存储介质及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110925442.7A CN113627537B (zh) 2021-08-12 2021-08-12 一种图像识别方法、装置、存储介质及设备

Publications (2)

Publication Number Publication Date
CN113627537A true CN113627537A (zh) 2021-11-09
CN113627537B CN113627537B (zh) 2023-12-01

Family

ID=78384938

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110925442.7A Active CN113627537B (zh) 2021-08-12 2021-08-12 一种图像识别方法、装置、存储介质及设备

Country Status (1)

Country Link
CN (1) CN113627537B (zh)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111444760A (zh) * 2020-02-19 2020-07-24 天津大学 一种基于剪枝与知识蒸馏的交通标志检测与识别方法
CN112215334A (zh) * 2020-09-24 2021-01-12 北京航空航天大学 一种面向事件相机的神经网络模型压缩方法
WO2021023202A1 (zh) * 2019-08-07 2021-02-11 交叉信息核心技术研究院(西安)有限公司 一种卷积神经网络的自蒸馏训练方法、设备和可伸缩动态预测方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021023202A1 (zh) * 2019-08-07 2021-02-11 交叉信息核心技术研究院(西安)有限公司 一种卷积神经网络的自蒸馏训练方法、设备和可伸缩动态预测方法
CN111444760A (zh) * 2020-02-19 2020-07-24 天津大学 一种基于剪枝与知识蒸馏的交通标志检测与识别方法
CN112215334A (zh) * 2020-09-24 2021-01-12 北京航空航天大学 一种面向事件相机的神经网络模型压缩方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
YOON KIM ET.AL: ""Sequence-Level Knowledge Distillation"", 《COMPUTATION AND LANGUAGE》 *
赖叶静;郝珊锋;黄定江;: "深度神经网络模型压缩方法与进展", 华东师范大学学报(自然科学版), no. 05, pages 77 - 91 *
钟日新: ""深度神经网络的压缩和改进方法研究"", 《中国优秀硕士学位论文全文数据库信息科技辑》, vol. 2021, no. 05, pages 140 - 70 *

Also Published As

Publication number Publication date
CN113627537B (zh) 2023-12-01

Similar Documents

Publication Publication Date Title
CN112308158B (zh) 一种基于部分特征对齐的多源领域自适应模型及方法
CN109816009B (zh) 基于图卷积的多标签图像分类方法、装置及设备
CN107636697B (zh) 用于量化浮点神经网络以获得定点神经网络的方法和设备
US9053358B2 (en) Learning device for generating a classifier for detection of a target
CN111242180B (zh) 一种基于轻量化卷积神经网络的图像识别方法及系统
CN110310114B (zh) 对象分类方法、装置、服务器及存储介质
CN116503676B (zh) 一种基于知识蒸馏小样本增量学习的图片分类方法及系统
CN112529638B (zh) 基于用户分类和深度学习的服务需求动态预测方法及系统
CN109214444B (zh) 基于孪生神经网络和gmm的游戏防沉迷判定系统及方法
CN110751191A (zh) 一种图像的分类方法及系统
CN113837308A (zh) 基于知识蒸馏的模型训练方法、装置、电子设备
CN112598062A (zh) 一种图像识别方法和装置
CN114547365A (zh) 一种图像检索方法和设备
CN113869332A (zh) 一种特征选择方法、装置、存储介质和设备
CN115994321A (zh) 对象分类方法及相关装置
CN117154256A (zh) 锂电池的电化学修复方法
CN111079930A (zh) 数据集质量参数的确定方法、装置及电子设备
CN113627537B (zh) 一种图像识别方法、装置、存储介质及设备
CN115984946A (zh) 一种基于集成学习的人脸识别模型遗忘方法及系统
CN112529637B (zh) 基于情景感知的服务需求动态预测方法及系统
CN115063858A (zh) 视频人脸表情识别模型训练方法、装置、设备及存储介质
CN114241227A (zh) 一种基于vlad的图像识别方法及装置
CN109308565B (zh) 人群绩效等级识别方法、装置、存储介质及计算机设备
CN114139678A (zh) 卷积神经网络量化方法、装置、电子设备和存储介质
CN109359677A (zh) 一种耐噪在线多分类核学习算法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant