CN114972950A - 多目标检测方法、装置、设备、介质及产品 - Google Patents

多目标检测方法、装置、设备、介质及产品 Download PDF

Info

Publication number
CN114972950A
CN114972950A CN202210523846.8A CN202210523846A CN114972950A CN 114972950 A CN114972950 A CN 114972950A CN 202210523846 A CN202210523846 A CN 202210523846A CN 114972950 A CN114972950 A CN 114972950A
Authority
CN
China
Prior art keywords
pruning
target
branch
network
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210523846.8A
Other languages
English (en)
Inventor
贺克赛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Network Technology Shanghai Co Ltd
Original Assignee
International Network Technology Shanghai Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Network Technology Shanghai Co Ltd filed Critical International Network Technology Shanghai Co Ltd
Priority to CN202210523846.8A priority Critical patent/CN114972950A/zh
Publication of CN114972950A publication Critical patent/CN114972950A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/60—Type of objects
    • G06V20/64—Three-dimensional objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07—Target detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供一种多目标检测方法、装置、设备、介质及产品，包括：将待检测图片输入剪枝后的多目标检测模型，分别得到多个目标的检测结果；其中，剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型进行动态剪枝后得到；预先训练好的多目标检测模型包括主干网络以及与主干网络连接的多个目标分支网络；相应地，剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝后得到。本发明能够使得每个目标分支网络得到最大限度的压缩，且保证各个目标对应的检测准确率几乎没有损失，还能够关注到不同尺度的不同目标之间的差异，无论是大目标还是小目标的检测，均有较高准确率。

Description

多目标检测方法、装置、设备、介质及产品
技术领域
本发明涉及目标检测技术领域，尤其涉及一种多目标检测方法、装置、设备、介质及产品。
背景技术
近几年来，目标检测算法取得了很大的突破，且已应用在自动驾驶、智能冰箱等场景中。然而，现有的目标检测算法在一些特殊的应用场景中依旧存在较大的局限性。具体的，目前的目标检测算法无法很好地检测不同尺度的不同目标，而常规的卷积流程是同等地对待不同尺度的特征表示的不同语义，也就是说目前的目标检测算法容易忽略掉不同尺度的不同目标之间的差异，这也是导致多目标检测算法准确性略低的原因之一。
除此之外，由于应用在自动驾驶、智能冰箱等场景下需要考虑到处理器成本以及性能等制约，因而多目标检测模型的计算量往往有着严格的限制，如何在有限的算力下使检测模型有较为准确的结果成为难题之一。
发明内容
本发明提供一种多目标检测方法、装置、设备、介质及产品，用以解决上述问题。
本发明提供一种多目标检测方法，包括：
获取待检测图片；
将所述待检测图片输入剪枝后的多目标检测模型，分别得到多个目标的检测结果；
其中，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型进行动态剪枝后得到；
所述预先训练好的多目标检测模型包括主干网络以及与所述主干网络连接的多个目标分支网络；
相应地，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝后得到。
根据本发明提供的一种多目标检测方法，所述剪枝后的多目标检测模型包括剪枝后主干网络以及与所述剪枝后主干网络连接的多个剪枝后目标分支网络；
相应地，所述多个剪枝后目标分支网络通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝后得到；
所述剪枝后主干网络通过对预先训练好的多目标检测模型中的主干网络进行动态剪枝后得到。
根据本发明提供的一种多目标检测方法，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝后得到，包括：
S1、在预设的分支剪枝率集合中选中一个分支剪枝率作为待分析分支剪枝率，从所述多个目标分支网络中选中一个目标分支网络作为待分析目标分支网络，并利用所述待分析分支剪枝率对所述待分析目标分支网络进行剪枝，得到剪枝后目标分支网络；
S2、对所述剪枝后目标分支网络进行剪枝敏感度分析，得到剪枝后分支网络性能；
S3、重复所述S1至所述S2直到穷尽所述预设的分支剪枝率集合中所有分支剪枝率集合，得到多个剪枝后分支网络性能；
S4、从所述多个剪枝后分支网络性能中确定最优剪枝后分支网络性能，并将所述最优剪枝后分支网络性能对应的待分析分支剪枝率作为待分析目标分支网络的最优剪枝率；
S5、重复所述S1至所述S4直到穷尽所有目标分支网络，得到每个目标分支网络对应的最优剪枝率，并基于对应的最优剪枝率分别对目标分支网络进行剪枝，得到剪枝后的多目标检测模型。
根据本发明提供的一种多目标检测方法，所述预设的分支剪枝率集合通过如下获得：
根据预先设定的分支剪枝率的取值范围以及分支剪枝率取值步长，在所述预先设定的分支剪枝率的取值范围内，穷举得到所有符合所述分支剪枝率取值步长的分支剪枝率，从而得到分支剪枝率集合。
根据本发明提供的一种多目标检测方法，所述多个剪枝后目标分支网络包括剪枝后人脸检测分支网络、剪枝后香烟检测分支网络以及剪枝后手机检测分支网络；
所述多个目标的检测结果包括人脸检测结果、香烟检测结果以及手机检测结果；
相应地，所述将所述待检测图片输入剪枝后的多目标检测模型，分别得到多个目标的检测结果，包括：
所述剪枝后主干网络对所述待检测图片进行特征提取得到多尺度特征图；
所述剪枝后人脸检测分支网络基于所述多尺度特征图预测得到人脸检测结果；
所述剪枝后香烟检测分支网络基于所述多尺度特征图预测得到香烟检测结果；
所述剪枝后手机检测分支网络基于所述多尺度特征图预测得到手机检测结果。
根据本发明提供的一种多目标检测方法，所述剪枝后主干网络包括多个卷积层；
相应地，所述剪枝后主干网络对所述待检测图片进行特征提取得到多尺度特征图，包括
每一所述卷积层对所述待检测图片进行特征提取，从而得到多个尺度不同的特征图；
根据所述人脸检测结果中人脸预测框、所述香烟检测结果中香烟预测框以及所述手机检测结果中手机预测框的尺度，从多个尺度不同的特征图中分别确定人脸检测特征图、香烟检测特征图以及手机检测特征图；
所述剪枝后人脸检测分支网络基于所述人脸检测特征图预测得到人脸检测结果；
所述剪枝后香烟检测分支网络基于所述香烟检测特征图预测得到香烟检测结果；
所述剪枝后手机检测分支网络基于所述手机检测特征图预测得到手机检测结果。
本发明还提供一种多目标检测装置，包括：
图片获取模块，用于获取待检测图片；
检测模块，用于将所述待检测图片输入剪枝后的多目标检测模型，分别得到多个目标的检测结果；
其中，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型进行动态剪枝后得到；
所述预先训练好的多目标检测模型包括主干网络以及与所述主干网络连接的多个目标分支网络；
相应地，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝后得到。
本发明还提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行程序时实现如上述任一种多目标检测方法。
本发明还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现如上述任一种多目标检测方法。
本发明还提供一种计算机程序产品，包括计算机程序，计算机程序被处理器执行时实现如上述任一种多目标检测方法。
本发明提供的多目标检测方法、装置、设备、介质及产品，通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝从而得到剪枝后的多目标检测模型，使得每个目标分支网络能够得到最大限度的压缩，且保证各个目标对应的检测准确率几乎没有损失，剪枝后的多目标检测模型能够应用在需要考虑处理器成本以及性能等问题的场景中。另外，由于主干网络与剪枝后目标分支网络是独立开来的，且主干网络中输出的多尺度特征图输入不同剪枝后目标分支网络，从而能够关注到不同尺度的不同目标之间的差异，无论是大目标还是小目标的检测，均有较高准确率。
附图说明
为了更清楚地说明本发明或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的多目标检测方法的流程示意图；
图2是本发明实施例提供的剪枝后的多目标检测模型的结构示意图；
图3为本发明实施例提供的多目标检测装置结构示意图；
图4为本发明实施例提供的一种电子设备的实体结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚，下面将结合本发明中的附图，对本发明中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
模型剪枝作为模型压缩的方法之一，可以减少多目标检测模型大小以及计算量，同时精度几乎没有损失。然后，现有的多目标检测模型对应的剪枝方案都是对不同目标设置相同剪枝比例，其虽然能够使得多目标检测模型整体上的压缩性能达到最好，但是没有从各个目标出发，未能使得各个目标对应的压缩性能达到最好状态。
为了解决上述问题，本发明实施例提供一种多目标检测方法，具体如下。
图1是本发明实施例提供的多目标检测方法的流程示意图；如图1所示，一种多目标检测方法，包括如下步骤：
S101，获取待检测图片。
在本实施例中，待检测图片为自动驾驶应用场景下舱内图片，在本发明的其他实施例中，待检测图片也可以为智能冰箱应用场景下的冰箱内部图片，还可以是城市监控应用场景下的路面监控影像所形成的图片，本发明对此不做限定。
除此之外，待检测图片可以是现场拍摄得到，也可以是由视频流分解得到，或者是从各种多目标检测应用场景下的数据库中获取的测试图片，本发明对于待检测图片的获取方式不做限定。
S102，将所述待检测图片输入剪枝后的多目标检测模型，分别得到多个目标的检测结果。
其中，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型进行动态剪枝后得到；所述预先训练好的多目标检测模型包括主干网络以及与所述主干网络连接的多个目标分支网络。
相应地，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝后得到。
在本步骤中，剪枝后的多目标检测模型是对预先训练好的多目标检测模型进行动态剪枝后得到，而预先训练好的多目标检测模型中包括主干网络以及多个与主干网络相连的目标分支网络，每个目标分支网络用于检测不同目标，例如在待检测图片为自动驾驶应用场景下舱内图片的情况下，目标分支网络可以为手机检测分支网络、钥匙检测分支网络、抽纸检测分支网络、眼镜检测分支网络、人脸检测分支网络等等，用于检测不同目标。
通过对不同目标分支网络进行针对性地动态剪枝，具体地，基于多个剪枝率，对每个目标分支网络进行剪枝敏感度分析，从而确定每个目标分支网络对应的最优剪枝率，根据每个目标分支网络对应的最优剪枝率来完成剪枝，从而能够保证目标检测性能损失较小甚至无损失的前提下，使得每个目标分支网络都能最大限度地得到压缩。
在对不同目标分支网络进行动态剪枝之后，获得剪枝后目标分支网络，因此，剪枝后的多目标检测模型由主干网络以及剪枝后目标分支网络构成。其中，主干网络对待检测图片进行特征提取得到多尺度的特征图，并输入不同的剪枝后目标分支网络，各个剪枝后目标分支网络基于多尺度的特征图检测得到对应目标。以上述待检测图片为自动驾驶应用场景下舱内图片为例，各个剪枝后目标分支网络对应的检测结果为在待检测图片上通过不同颜色的目标框定位各个类型的目标，并且显示目标的类型名称以及所属于该类型的概率。
另外，上述预先训练好的多任务目标检测模型基于标注好的边框、对应的目标类型标签以及训练数据集训练得到。
本发明实施例提供的多目标检测方法，通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝从而得到剪枝后的多目标检测模型，使得每个目标分支网络能够得到最大限度的压缩，且保证各个目标对应的检测准确率几乎没有损失，剪枝后的多目标检测模型能够应用在需要考虑处理器成本以及性能等问题的场景中。另外，由于主干网络与剪枝后目标分支网络是独立开来的，且主干网络中输出的多尺度特征图输入不同剪枝后目标分支网络，从而能够关注到不同尺度的不同目标之间的差异，无论是大目标还是小目标的检测，均有较高准确率。
进一步地，所述剪枝后的多目标检测模型包括剪枝后主干网络以及与所述剪枝后主干网络连接的多个剪枝后目标分支网络。
相应地，所述多个剪枝后目标分支网络通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝后得到；所述剪枝后主干网络通过对预先训练好的多目标检测模型中的主干网络进行动态剪枝后得到。
在上述实施例的基础上，本实施例还对预先训练好的多目标检测模型中的主干网络进行动态剪枝，从而得到剪枝后主干网络，此时，剪枝后的多目标检测模型包括剪枝后主干网络以及多个剪枝后目标分支网络。
主干网络的动态剪枝过程与目标分支网络的动态检测过程相似，基于多个剪枝率对主干网络进行剪枝敏感度分析，从而确定主干网络对应的最优剪枝率，基于该最优剪枝率对主干网络进行剪枝，从而获得剪枝后主干网络。具体地，在目标分支网络均完成剪枝后，对主干网络进行动态剪枝，即从预设的剪枝率集合中依次选中一个剪枝率对主干网络进行剪枝，随后利用测试集来评估剪枝后各个目标检测任务的准确率以及平均精度，将各个目标检测任务的准确率以及平均精度的平均值作为剪枝后主干网络的性能。在利用预设的剪枝率集合中所有的剪枝率完成剪枝并得到对应的性能之后，从中选取最好的性能，并将对应的剪枝率作为主干网络的最优剪枝率。
在本实施例中，多个目标检测任务分别为香烟检测、手机检测以及人脸检测，在对应的分支网络进行动态剪枝，对主干网络进行动态剪枝，从而确定主干网络的最优剪枝率为0.5，基于该最优剪枝率获得剪枝后主干网络。
本发明实施例提供的多目标检测方法，通过对主干网络进行动态剪枝，从而进一步对预先训练好的多目标检测模型进行压缩，减小模型体积。
进一步地，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝后得到，包括：
S1、在预设的分支剪枝率集合中选中一个分支剪枝率作为待分析分支剪枝率，从所述多个目标分支网络中选中一个目标分支网络作为待分析目标分支网络，并利用所述待分析分支剪枝率对所述待分析目标分支网络进行剪枝，得到剪枝后目标分支网络。
在本步骤中，假设分支剪枝率集合为[0.1,0.15,0.2,0.25,…,0.8,0.85,0.9,0.95]，则按照各个分支剪枝率在集合中的顺序，依次作为待分析剪枝率；并从多个目标分支网络中确定一个作为待分析目标分支网络，利用待分析剪枝率对待分析目标分支网络进行剪枝后得到剪枝后目标分支网络。
S2、对所述剪枝后目标分支网络进行剪枝敏感度分析，得到剪枝后分支网络性能。
在本步骤中，通过对剪枝后目标分支网络的性能进行评估，从而确定待分析剪枝率对目标分支网络所对应的检测准确率的影响，该过程为剪枝敏感度分析过程。
另外，在本实施例中，上述剪枝后分支网络性能是指目标被检出的准确率(ACC)以及平均精度(AP)，在本发明的其他实施例中，也可以是其他模型性能指标，例如精确率(precise)、召回率(recall)等。本发明对此不做限定。
S3、重复所述S1至所述S2直到穷尽所述预设的分支剪枝率集合中所有分支剪枝率集合，得到多个剪枝后分支网络性能。
在本步骤中，通过选取不同分支剪枝率来分析得到各个分支剪枝率对应的剪枝后分支网络性能。
S4、从所述多个剪枝后分支网络性能中确定最优剪枝后分支网络性能，并将所述最优剪枝后分支网络性能对应的待分析分支剪枝率作为待分析目标分支网络的最优剪枝率。
在本步骤中，通过比较各个分支剪枝率对应的剪枝后分支网络性能，从中最好的剪枝后分支网络性能，继而将对应的分支剪枝率作为待分析目标分支网络的最优剪枝率。
S5、重复所述S1至所述S4直到穷尽所有目标分支网络，得到每个目标分支网络对应的最优剪枝率，并基于对应的最优剪枝率分别对目标分支网络进行剪枝，得到剪枝后的多目标检测模型。
在本步骤中，重复S1至S4对每一目标分支网络进行如上分析，从而确定每一目标分支网络对应的最优剪枝率。在得到不同目标分支网络的最优剪枝率之后，对各个目标分支网络进行剪枝，从而得到剪枝后目标分支网络，构成剪枝后的多目标检测模型。
在本实施例中，选择人脸、手机以及香烟作为检测目标，在通过上述S1-S5分析后，人脸检测分支网络对应的最优剪枝率为0.7，手机检测分支网络对应的最优剪枝率为0.6，香烟检测分支网络对应的最优剪枝率为0.5。根据上述最优剪枝率，分别对人脸检测分支网络、手机检测分支网络以及香烟检测分支网络进行剪枝，从而得到对应的剪枝后人脸检测分支网络、剪枝后手机检测分支网络以及剪枝后香烟检测分支网络。
本发明实施例提供的多目标检测方法，能够使得每个目标分支网络能够得到最大限度的压缩，且保证各个目标对应的检测准确率几乎没有损失，剪枝后的多目标检测模型能够应用在需要考虑处理器成本以及性能等问题的场景中。
进一步地，所述预设的分支剪枝率集合通过如下获得：
根据预先设定的分支剪枝率的取值范围以及分支剪枝率取值步长，在所述预先设定的分支剪枝率的取值范围内，穷举得到所有符合所述分支剪枝率取值步长的分支剪枝率，从而得到分支剪枝率集合。
具体地，假设分支剪枝率的取值范围设定为[0.1，0.95]，分支剪枝率取值步长为0.05，则通过穷举的方式获取待分析剪枝率集合[0.1,0.15,0.2,0.25,…,0.8,0.85,0.9,0.95]。
本发明实施例提供的多目标检测方法，通过设定分支剪枝率集合以及进行剪枝敏感度分析确定每个目标分支网络最适合的分支剪枝率，进一步保证准确率几乎无损失的情况下，最大限度压缩模型。
进一步地，所述多个剪枝后目标分支网络包括剪枝后人脸检测分支网络、剪枝后香烟检测分支网络以及剪枝后手机检测分支网络；所述多个目标的检测结果包括人脸检测结果、香烟检测结果以及手机检测结果。
相应地，所述将所述待检测图片输入剪枝后的多目标检测模型，分别得到多个目标的检测结果，包括：所述剪枝后主干网络对所述待检测图片进行特征提取得到多尺度特征图；所述剪枝后人脸检测分支网络基于所述多尺度特征图预测得到人脸检测结果；所述剪枝后香烟检测分支网络基于所述多尺度特征图预测得到香烟检测结果；所述剪枝后手机检测分支网络基于所述多尺度特征图预测得到手机检测结果。
在本实施例中，以人脸、香烟以及手机三个目标作为例子来介绍多目标检测具体实现过程。
待检测图片输入剪枝后的多目标检测模型之后，剪枝后主干网络对待检测图片进行特征提取，从而得到多个尺度不同的特征图，根据目标之间的大小关系，将不同尺度大小的特征图分别作为各个剪枝后目标分支网络的输入。具体地，在大小关系上，人脸的大小＞手机的大小＞香烟的大小，且待检测图片经过剪枝后主干网络中每一卷积层的卷积计算后得到的特征图尺度在不断变小，因此，为了小目标的检测性能，将靠前的卷积层输出的特征图作为剪枝后香烟检测分支网络的输入，将稍微靠后的卷积层输出的特征图作为剪枝后手机检测分支网络的输入，将最靠后的卷积层输出的特征图作为剪枝后人脸检测分支网络的输入。剪枝后人脸检测分支网络、剪枝后手机检测分支网络以及剪枝后香烟检测分支网络分别基于对应的特征图预测得到人脸检测结果、手机检测结果以及香烟检测结果。
本发明实施例提供的多目标检测方法，既能保证大目标的检测准确性，又能保证小目标的检测准确性，且由于对各个目标分支网络进行了动态剪枝，从而还能获得体积较小的多目标检测模型。
进一步地，所述剪枝后主干网络包括多个卷积层。
相应地，所述剪枝后主干网络对所述待检测图片进行特征提取得到多尺度特征图，包括：每一所述卷积层对所述待检测图片进行特征提取，从而得到多个尺度不同的特征图；根据所述人脸检测结果中人脸预测框、所述香烟检测结果中香烟预测框以及所述手机检测结果中手机预测框的尺度，从多个尺度不同的特征图中分别确定人脸检测特征图、香烟检测特征图以及手机检测特征图；所述剪枝后人脸检测分支网络基于所述人脸检测特征图预测得到人脸检测结果；所述剪枝后香烟检测分支网络基于所述香烟检测特征图预测得到香烟检测结果；所述剪枝后手机检测分支网络基于所述手机检测特征图预测得到手机检测结果。
示意性地，如图2所示，将剪枝后主干网络中最后三层卷积层输出的特征图分别作为香烟检测特征图、手机检测特征图以及人脸检测特征图，随后分别输入至对应的剪枝后香烟检测分支网络、剪枝后手机检测分支网络以及剪枝后人脸检测分支网络中，剪枝后香烟检测分支网络、剪枝后手机检测分支网络以及剪枝后人脸检测分支网络中的卷积层分别对香烟检测特征图、手机检测特征图以及人脸检测特征图进行进一步地特征提取，进而检测得到对应目标。例如，若待检测图片中存在香烟，则在待检测图片中的香烟位置会有香烟预测框，香烟预测框周围标注着目标类型“香烟”以及该目标属于“香烟”的概率；若待检测图片中没有香烟，则不显示。
本发明实施例提供的多目标检测方法，既能保证大目标的检测准确性，又能保证小目标的检测准确性，且由于对各个目标分支网络进行了动态剪枝，从而还能获得体积较小的多目标检测模型。
下面对本发明提供的多目标检测装置进行描述，下文描述的多目标检测装置与上文描述的多目标检测方法可相互对应参照。
图3为本发明实施例提供的多目标检测装置结构示意图，如图3所示，一种多目标检测装置，包括：
图片获取模块301，用于获取待检测图片。
在本实施例中，待检测图片为自动驾驶应用场景下舱内图片，在本发明的其他实施例中，待检测图片也可以为智能冰箱应用场景下的冰箱内部图片，还可以是城市监控应用场景下的路面监控影像所形成的图片，本发明对此不做限定。
除此之外，待检测图片可以是现场拍摄得到，也可以是由视频流分解得到，或者是从各种多目标检测应用场景下的数据库中获取的测试图片，本发明对于待检测图片的获取方式不做限定。
检测模块302，用于将所述待检测图片输入剪枝后的多目标检测模型，分别得到多个目标的检测结果。
其中，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型进行动态剪枝后得到；所述预先训练好的多目标检测模型包括主干网络以及与所述主干网络连接的多个目标分支网络；相应地，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝后得到。
在本模块中，剪枝后的多目标检测模型是对预先训练好的多目标检测模型进行动态剪枝后得到，而预先训练好的多目标检测模型中包括主干网络以及多个与主干网络相连的目标分支网络，每个目标分支网络用于检测不同目标，例如在待检测图片为自动驾驶应用场景下舱内图片的情况下，目标分支网络可以为手机检测分支网络、钥匙检测分支网络、抽纸检测分支网络、眼镜检测分支网络、人脸检测分支网络等等，用于检测不同目标。
通过对不同目标分支网络进行针对性地动态剪枝，具体地，基于多个剪枝率，对每个目标分支网络进行剪枝敏感度分析，从而确定每个目标分支网络对应的最优剪枝率，根据每个目标分支网络对应的最优剪枝率来完成剪枝，从而能够保证目标检测性能损失较小甚至无损失的前提下，使得每个目标分支网络都能最大限度地得到压缩。
在对不同目标分支网络进行动态剪枝之后，获得剪枝后目标分支网络，因此，剪枝后的多目标检测模型由主干网络以及剪枝后目标分支网络构成。其中，主干网络对待检测图片进行特征提取得到多尺度的特征图，并输入不同的剪枝后目标分支网络，各个剪枝后目标分支网络基于多尺度的特征图检测得到对应目标。以上述待检测图片为自动驾驶应用场景下舱内图片为例，各个剪枝后目标分支网络对应的检测结果为在待检测图片上通过不同颜色的目标框定位各个类型的目标，并且显示目标的类型名称以及所属于该类型的概率。
另外，上述预先训练好的多任务目标检测模型基于标注好的边框、对应的目标类型标签以及训练数据集训练得到。
本发明实施例提供的多目标检测装置，通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝从而得到剪枝后的多目标检测模型，使得每个目标分支网络能够得到最大限度的压缩，且保证各个目标对应的检测准确率几乎没有损失，剪枝后的多目标检测模型能够应用在需要考虑处理器成本以及性能等问题的场景中。另外，由于主干网络与剪枝后目标分支网络是独立开来的，且主干网络中输出的多尺度特征图输入不同剪枝后目标分支网络，从而能够关注到不同尺度的不同目标之间的差异，无论是大目标还是小目标的检测，均有较高准确率。
图4为本发明实施例提供的一种电子设备的实体结构示意图，如图4所示，该电子设备可以包括：处理器(processor)410、通信接口(Communications Interface)420、存储器(memory)430和通信总线440，其中，处理器410，通信接口420，存储器430通过通信总线440完成相互间的通信。处理器410可以调用存储器430中的逻辑指令，以执行多目标检测方法，所述多目标检测方法，包括：获取待检测图片；将所述待检测图片输入剪枝后的多目标检测模型，分别得到多个目标的检测结果；其中，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型进行动态剪枝后得到；所述预先训练好的多目标检测模型包括主干网络以及与所述主干网络连接的多个目标分支网络；相应地，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝后得到。
此外，上述的存储器430中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read.Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
另一方面，本发明还提供一种计算机程序产品，计算机程序产品包括计算机程序，计算机程序可存储在非暂态计算机可读存储介质上，计算机程序被处理器执行时，计算机能够执行上述各方法所提供的一种多目标检测方法，所述多目标检测方法，包括：获取待检测图片；将所述待检测图片输入剪枝后的多目标检测模型，分别得到多个目标的检测结果；其中，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型进行动态剪枝后得到；所述预先训练好的多目标检测模型包括主干网络以及与所述主干网络连接的多个目标分支网络；相应地，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝后得到。
又一方面，本发明还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现以执行上述个方法所提供的多目标检测方法，所述多目标检测方法，包括：获取待检测图片；将所述待检测图片输入剪枝后的多目标检测模型，分别得到多个目标的检测结果；其中，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型进行动态剪枝后得到；所述预先训练好的多目标检测模型包括主干网络以及与所述主干网络连接的多个目标分支网络；相应地，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝后得到。
以上所描述的装置实施例仅仅是示意性的，其中作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行各个实施例或者实施例的某些部分的方法。
最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种多目标检测方法，其特征在于，包括：
获取待检测图片；
将所述待检测图片输入剪枝后的多目标检测模型，分别得到多个目标的检测结果；
其中，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型进行动态剪枝后得到；
所述预先训练好的多目标检测模型包括主干网络以及与所述主干网络连接的多个目标分支网络；
相应地，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝后得到。
2.根据权利要求1所述的多目标检测方法，其特征在于，所述剪枝后的多目标检测模型包括剪枝后主干网络以及与所述剪枝后主干网络连接的多个剪枝后目标分支网络；
相应地，所述多个剪枝后目标分支网络通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝后得到；
所述剪枝后主干网络通过对预先训练好的多目标检测模型中的主干网络进行动态剪枝后得到。
3.根据权利要求1所述的多目标检测方法，其特征在于，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝后得到，包括：
S1、在预设的分支剪枝率集合中选中一个分支剪枝率作为待分析分支剪枝率，从所述多个目标分支网络中选中一个目标分支网络作为待分析目标分支网络，并利用所述待分析分支剪枝率对所述待分析目标分支网络进行剪枝，得到剪枝后目标分支网络；
S2、对所述剪枝后目标分支网络进行剪枝敏感度分析，得到剪枝后分支网络性能；
S3、重复所述S1至所述S2直到穷尽所述预设的分支剪枝率集合中所有分支剪枝率集合，得到多个剪枝后分支网络性能；
S4、从所述多个剪枝后分支网络性能中确定最优剪枝后分支网络性能，并将所述最优剪枝后分支网络性能对应的待分析分支剪枝率作为待分析目标分支网络的最优剪枝率；
S5、重复所述S1至所述S4直到穷尽所有目标分支网络，得到每个目标分支网络对应的最优剪枝率，并基于对应的最优剪枝率分别对目标分支网络进行剪枝，得到剪枝后的多目标检测模型。
4.根据权利要求3所述的多目标检测方法，其特征在于，所述预设的分支剪枝率集合通过如下获得：
根据预先设定的分支剪枝率的取值范围以及分支剪枝率取值步长，在所述预先设定的分支剪枝率的取值范围内，穷举得到所有符合所述分支剪枝率取值步长的分支剪枝率，从而得到分支剪枝率集合。
5.根据权利要求2-4任一所述的多目标检测方法，其特征在于，所述多个剪枝后目标分支网络包括剪枝后人脸检测分支网络、剪枝后香烟检测分支网络以及剪枝后手机检测分支网络；
所述多个目标的检测结果包括人脸检测结果、香烟检测结果以及手机检测结果；
相应地，所述将所述待检测图片输入剪枝后的多目标检测模型，分别得到多个目标的检测结果，包括：
所述剪枝后主干网络对所述待检测图片进行特征提取得到多尺度特征图；
所述剪枝后人脸检测分支网络基于所述多尺度特征图预测得到人脸检测结果；
所述剪枝后香烟检测分支网络基于所述多尺度特征图预测得到香烟检测结果；
所述剪枝后手机检测分支网络基于所述多尺度特征图预测得到手机检测结果。
6.根据权利要求5所述的多目标检测方法，其特征在于，所述剪枝后主干网络包括多个卷积层；
相应地，所述剪枝后主干网络对所述待检测图片进行特征提取得到多尺度特征图，包括：
每一所述卷积层对所述待检测图片进行特征提取，从而得到多个尺度不同的特征图；
根据所述人脸检测结果中人脸预测框、所述香烟检测结果中香烟预测框以及所述手机检测结果中手机预测框的尺度，从多个尺度不同的特征图中分别确定人脸检测特征图、香烟检测特征图以及手机检测特征图；
所述剪枝后人脸检测分支网络基于所述人脸检测特征图预测得到人脸检测结果；
所述剪枝后香烟检测分支网络基于所述香烟检测特征图预测得到香烟检测结果；
所述剪枝后手机检测分支网络基于所述手机检测特征图预测得到手机检测结果。
7.一种多目标检测装置，其特征在于，包括：
图片获取模块，用于获取待检测图片；
检测模块，用于将所述待检测图片输入剪枝后的多目标检测模型，分别得到多个目标的检测结果；
其中，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型进行动态剪枝后得到；
所述预先训练好的多目标检测模型包括主干网络以及与所述主干网络连接的多个目标分支网络；
相应地，所述剪枝后的多目标检测模型是通过对预先训练好的多目标检测模型中的多个目标分支网络分别进行动态剪枝后得到。
8.一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至6任一项所述多目标检测方法。
9.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至6任一项所述多目标检测方法。
10.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至6任一项所述多目标检测方法。
CN202210523846.8A 2022-05-13 2022-05-13 多目标检测方法、装置、设备、介质及产品 Pending CN114972950A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210523846.8A CN114972950A (zh) 2022-05-13 2022-05-13 多目标检测方法、装置、设备、介质及产品

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210523846.8A CN114972950A (zh) 2022-05-13 2022-05-13 多目标检测方法、装置、设备、介质及产品

Publications (1)

Publication Number Publication Date
CN114972950A true CN114972950A (zh) 2022-08-30

Family

ID=82982656

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210523846.8A Pending CN114972950A (zh) 2022-05-13 2022-05-13 多目标检测方法、装置、设备、介质及产品

Country Status (1)

Country Link
CN (1) CN114972950A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117456170A (zh) * 2023-12-22 2024-01-26 苏州镁伽科技有限公司 目标检测方法和装置、电子设备以及存储介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117456170A (zh) * 2023-12-22 2024-01-26 苏州镁伽科技有限公司 目标检测方法和装置、电子设备以及存储介质
CN117456170B (zh) * 2023-12-22 2024-03-19 苏州镁伽科技有限公司 目标检测方法和装置、电子设备以及存储介质

Similar Documents

Publication Publication Date Title
CN111401516B (zh) 一种神经网络通道参数的搜索方法及相关设备
CN111860430B (zh) 打架行为的识别方法和装置、存储介质及电子装置
CN110909630A (zh) 一种异常游戏视频检测方法和装置
US20150248834A1 (en) Real-time traffic detection
CN111401192B (zh) 基于人工智能的模型训练方法和相关装置
CN109671055B (zh) 肺结节检测方法及装置
CN110210278A (zh) 一种视频目标检测方法、装置及存储介质
CN114332977A (zh) 关键点检测方法、装置、电子设备及存储介质
CN115082752A (zh) 基于弱监督的目标检测模型训练方法、装置、设备及介质
CN114972950A (zh) 多目标检测方法、装置、设备、介质及产品
CN113420871B (zh) 图像质量的评估方法、装置、存储介质及电子装置
CN116992946A (zh) 模型压缩方法、装置、存储介质和程序产品
CN112989932A (zh) 基于改进原型网络的少样本森林火灾烟雾识别方法及装置
CN116628507A (zh) 数据处理方法、装置、设备及可读存储介质
CN116502700A (zh) 皮肤检测模型训练方法、皮肤检测方法、装置及电子设备
CN110147728A (zh) 客户信息分析方法、系统、设备及可读存储介质
CN116206214A (zh) 一种基于轻量化卷积神经网络和双注意力的自动识别滑坡方法、系统、设备及介质
CN117036843A (zh) 目标检测模型训练方法、目标检测方法和装置
CN115098864A (zh) 一种图像识别模型的评测方法、装置、介质及电子设备
CN116824686A (zh) 一种动作识别方法和相关装置
CN114580979A (zh) 高温防灾指数检测方法、装置、设备、存储介质及产品
CN113420824A (zh) 针对工业视觉应用的预训练数据筛选及训练方法、系统
CN113052301B (zh) 神经网络生成方法、装置、电子设备及存储介质
CN113555037B (zh) 篡改音频的篡改区域检测方法、装置及存储介质
CN111474294B (zh) 一种青枯病菌溶液滴定系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination