CN115170926A - 轻量化目标图像识别方法、装置及存储介质 - Google Patents

轻量化目标图像识别方法、装置及存储介质 Download PDF

Info

Publication number
CN115170926A
CN115170926A CN202211092464.0A CN202211092464A CN115170926A CN 115170926 A CN115170926 A CN 115170926A CN 202211092464 A CN202211092464 A CN 202211092464A CN 115170926 A CN115170926 A CN 115170926A
Authority
CN
China
Prior art keywords
knowledge
training
network model
model
target image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202211092464.0A
Other languages
English (en)
Inventor
李晓飞
李生辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Posts and Telecommunications
Original Assignee
Nanjing University of Posts and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Posts and Telecommunications filed Critical Nanjing University of Posts and Telecommunications
Priority to CN202211092464.0A priority Critical patent/CN115170926A/zh
Publication of CN115170926A publication Critical patent/CN115170926A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了轻量化目标图像识别方法、装置及存储介质，利用训练获得的轻量化目标图像识别网络模型识别目标图像类别、位置和/或置信度；其中模型的训练方法包括：获取目标图像样本；采用预训练获取的YOLOv6‑n神经网络模型对目标图像样本进行迁移学习；对神经网络模型进行通道剪枝，获得轻量化神经网络模型；利用自适应知识蒸馏方法获得有效知识集合，利用所述有效知识集合训练所述轻量化神经网络模型，最终获得满足要求的轻量化目标图像识别网络模型。通过通道剪枝对模型进行压缩，该方法能在模型通道剪枝训练过程中识别不重要的卷积通道并进行修剪，从而获得更为紧凑的模型，并利用自适应知识蒸馏方法提高了模型的精度。

Description

轻量化目标图像识别方法、装置及存储介质
技术领域
本发明涉及一种轻量化目标图像对象识别方法及系统，属于计算机视觉技术领域。
背景技术
目标检测与识别作为计算机视觉和图像处理领域的核心研究方向，被广泛应用在航空航天、交通、医疗、工业、农业、自动驾驶等众多领域，显著地改善着人们的日常生活。随着大数据时代的到来以及GPU 算力的不断增强，深度学习在计算机视觉各领域中逐渐展露其优势，尤其是目标检测任务。目标检测主要分为静态图像目标检测和动态视频目标检测。从2014 年开始，基于深度学习的目标检测网络井喷式爆发，首先时two-stage网络，如R-CNN、Fast-RCNN、Mask-RCNN等，自2016 年Joseph 等提出You Only Look Once(YOLOv1)以来，更轻更快的one-stage目标检测网络开始进入学者们的视野，开启了单阶段目标检测网络的新纪元。
虽然目前的深度学习方法可以实现高精度目标检测，但是由于卷积神经网络的设备资源占比大，并不适合直接在移动和嵌入式设备上运行，需要昂贵的设备或通过云平台实时传输拍摄信息进行检测，成本过高。
发明内容
本发明的目的在于克服现有技术中的不足，提供一种轻量化图像识别网络及系统，能够弥补现有的目标网络设备资源占比大，不适合直接在移动和嵌入式设备上运行等问题。为达到上述目的，本发明是采用下述技术方案实现的：
第一方面，本发明提供了轻量化目标图像识别方法，包括：
利用图像采集设备采集图像；
利用训练获得的轻量化目标图像识别网络模型识别目标图像类别、位置和/或置信度；其中所述轻量化目标图像识别网络模型采用YOLOv6-n神经网络模型，训练方法包括：
获取目标图像样本；采用预训练获取的YOLOv6-n神经网络模型对目标图像样本进行迁移学习，得到能够识别目标图像类别、位置和/或置信度的YOLOv6-n神经网络模型；对YOLOv6-n神经网络模型进行通道剪枝，获得轻量化YOLOv6-n神经网络模型；
利用自适应知识蒸馏方法获得有效知识集合，利用所述有效知识集合训练所述轻量化YOLOv6-n神经网络模型，最终获得满足要求的轻量化目标图像识别网络模型。
进一步地，对YOLOv6-n神经网络模型进行通道剪枝，获得轻量化YOLOv6-n神经网络模型，包括以下步骤：
将YOLOv6-n神经网络模型的所有尺度变换参数
Figure 218670DEST_PATH_IMAGE001
作为L1正则项加入网络训练的损失函数，归一化层的输出表示如下：
Figure 666969DEST_PATH_IMAGE002
；
Figure 853231DEST_PATH_IMAGE003
；
其中，Z in 为归一化层的输入，Z out 为归一化层的输出，
Figure 779598DEST_PATH_IMAGE004
和
Figure 495DEST_PATH_IMAGE005
是均值和标准差值，β为归一化层的待训练的位移变换参数，
Figure 88537DEST_PATH_IMAGE006
为中间变量，
Figure 27674DEST_PATH_IMAGE007
是设置常量；加入L1正则项后的网络损失函数为：
Figure 757733DEST_PATH_IMAGE008
；
其中， x表示网络的输入，y网络的预测输出，W表示待训练的网络权重，
Figure 692191DEST_PATH_IMAGE009
为神经网络模型原本的训练损失函数，λ为设定的平衡系数，
Figure 590614DEST_PATH_IMAGE010
为L1正则项；
设置剪枝阈值，利用加入L1正则项后的损失函数在选定的数据集上对YOLOv6-n神经网络模型进行训练，在训练过程中对小于所设置的剪枝阈值的尺度变换参数所对应的通道进行剪枝；
训练中使用余弦退火重启动学习率，在原有训练的基础上进行不低于设定次数的迭代调整。
进一步地，利用自适应知识蒸馏方法获得有效知识集合，利用所述有效知识集合训练所述轻量化YOLOv6-n神经网络模型，包括：选取YOLOv6-s神经网络模型作为Teacher模型，所述轻量化YOLOv6-n神经网络模型作为Student模型；设置Student模型的学习参数θ和总训练轮数I；
初始化
Figure 876102DEST_PATH_IMAGE011
，其中
Figure 754060DEST_PATH_IMAGE012
为知识集合，x表示知识集合中的一个知识点，
Figure 808603DEST_PATH_IMAGE013
为Teacher模型的分类预测输出概率值，c为类别，
Figure 644972DEST_PATH_IMAGE014
为知识集合K经过知识有效性筛选后的有效知识集合；
进行I轮训练的过程中，将I轮训练平均分为I/T个学习阶段，每个阶段有T轮训练；
以Student模型和Teacher模型的最大化负交叉熵作为训练目标，表示为：
Figure 417756DEST_PATH_IMAGE015
；
其中y(x)为二值变量，表示知识点x对Student模型是否有效，
Figure 99404DEST_PATH_IMAGE016
，C表示训练数集X的类别空间，
Figure 274034DEST_PATH_IMAGE017
为Student模型的预测输出概率；
通过有效知识集合
Figure 874779DEST_PATH_IMAGE014
来对Student模型的学习参数θ进行T轮训练；
每训练满T轮就对知识集合K进行知识有效性评价，提取有效知识集合
Figure 508761DEST_PATH_IMAGE014
。
进一步地，对知识集合K进行知识有效性评价，提取有效知识集合
Figure 118734DEST_PATH_IMAGE014
，包括：确定知识集合K中各知识点的知识有效性，将知识有效性与设置的知识有效率ρ比较，如果大于等于知识有效率ρ，则知识点x对Student模型有效；所有对Student模型有效的知识点组成的集合就是有效知识集合
Figure 23236DEST_PATH_IMAGE014
。
进一步地，确定知识集合K中各知识点的知识有效性的方法如下：
计算知识点x的预测熵，并进行排序；
根据排序结果计算知识点x的相对似然概率，所述知识点的相对似然概率就作为知识点x的知识有效性，计算公式如下：
Figure 60462DEST_PATH_IMAGE018
；
Figure 417625DEST_PATH_IMAGE019
；
Figure 565710DEST_PATH_IMAGE020
；
其中
Figure 449352DEST_PATH_IMAGE021
为知识点x的预测熵，
Figure 798425DEST_PATH_IMAGE022
为Student模型的分类预测输出概率值，
Figure 501939DEST_PATH_IMAGE023
为对知识点x的预测熵
Figure 827615DEST_PATH_IMAGE021
的排序位置，N为知识点总数，
Figure 96923DEST_PATH_IMAGE024
表示对知识点x的预测熵
Figure 351318DEST_PATH_IMAGE021
的排序位置
Figure 73286DEST_PATH_IMAGE025
的知识点的相对似然概率。
第二方面，本发明提供了轻量化目标图像识别装置，包括：
图像采集模块，用于采集图像；
轻量化目标图像识别网络模型，用于基于采集获得的图像识别目标图像类别、位置和/或置信度，其中所述轻量化目标图像识别网络模型采用YOLOv6-n神经网络模型；
预训练模块，用于获取目标图像样本；采用预训练获取的YOLOv6-n神经网络模型对目标图像样本进行迁移学习，得到能够识别目标图像类别、位置和/或置信度的YOLOv6-n神经网络模型；
剪枝模块，用于对YOLOv6-n神经网络模型进行通道剪枝，获得轻量化YOLOv6-n神经网络模型；
有效知识集合确定模块，用于利用自适应知识蒸馏方法获得有效知识集合；
再训练模块，用于利用所述有效知识集合训练所述轻量化YOLOv6-n神经网络模型，最终获得满足要求的轻量化目标图像识别网络模型。
进一步地，所述剪枝模块具体执行以下步骤：
将YOLOv6-n神经网络模型的所有尺度变换参数
Figure 704119DEST_PATH_IMAGE026
作为L1正则项加入网络训练的损失函数，归一化层的输出表示如下：
Figure 31195DEST_PATH_IMAGE027
；
Figure 722070DEST_PATH_IMAGE028
；
其中， Z in 为归一化层的输入，为归一化层的输出，
Figure 400176DEST_PATH_IMAGE029
和
Figure 959334DEST_PATH_IMAGE030
是均值和标准差值，β为归一化层的待训练的位移变换参数，
Figure 63554DEST_PATH_IMAGE031
为中间变量，
Figure 784386DEST_PATH_IMAGE032
是设置常量；加入L1正则项后的网络损失函数为：
Figure 825154DEST_PATH_IMAGE008
；
其中， x表示网络的输入，y网络的预测输出，W表示待训练的网络权重，
Figure 922423DEST_PATH_IMAGE009
为神经网络模型原本的训练损失函数，λ为设定的平衡系数，
Figure 489670DEST_PATH_IMAGE010
为L1正则项；
设置剪枝阈值利用加入L1正则项后的损失函数在选定的数据集上对YOLOv6-n神经网络模型进行训练，在训练过程中对小于所设置的剪枝阈值的尺度变换参数
Figure 256769DEST_PATH_IMAGE026
所对应的通道进行剪枝；
训练中使用余弦退火重启动学习率，在原有训练的基础上进行不低于设定次数的迭代调整。
进一步地，所述有效知识集合确定模块具体执行以下步骤：
选取YOLOv6-s神经网络模型作为Teacher模型，所述轻量化YOLOv6-n神经网络模型作为Student模型；设置Student模型的学习参数θ和总训练轮数I；
初始化
Figure 175047DEST_PATH_IMAGE011
，其中
Figure 951373DEST_PATH_IMAGE012
为知识集合，x表示知识集合中的一个知识点，
Figure 107548DEST_PATH_IMAGE013
为Teacher模型的分类预测输出概率值，c为类别，
Figure 809662DEST_PATH_IMAGE014
为知识集合K经过知识有效性筛选后的有效知识集合；
进行I轮的训练的过程中，将I轮训练平均分为I/T个学习阶段，每个阶段有T轮训练；
以Student模型和Teacher模型的最大化负交叉熵作为训练目标，表示为：
Figure 949657DEST_PATH_IMAGE033
；
其中y(x)为二值变量，表示知识点x对Student模型是否有效，
Figure 388728DEST_PATH_IMAGE016
，C表示训练数集X的类别空间，
Figure 805934DEST_PATH_IMAGE017
为Student模型的预测输出概率；
通过有效知识集合
Figure 305049DEST_PATH_IMAGE014
来对Student模型的学习参数θ进行T轮训练；
每训练满T轮就对知识集合K进行知识有效性评价，提取有效知识集合
Figure 807705DEST_PATH_IMAGE014
。
进一步地，对知识集合进行知识有效性评价，提取有效知识集合
Figure 50468DEST_PATH_IMAGE014
，包括：
确定知识集合K中各知识点的知识有效性，将知识有效性与设置的知识有效率ρ比较，如果大于等于知识有效率ρ，则知识点x对Student模型有效；所有对Student模型有效的知识点组成的集合就是有效知识集合
Figure 56601DEST_PATH_IMAGE014
；
确定知识集合K中各知识点的知识有效性的方法如下：
计算知识点x的预测熵，并进行排序；
根据排序结果计算知识点x的相对似然概率，所述知识点x的相对似然概率就作为知识点x的知识有效性，计算公式如下：
Figure 461038DEST_PATH_IMAGE034
；
Figure 215105DEST_PATH_IMAGE019
；
Figure 730400DEST_PATH_IMAGE020
；
其中
Figure 246832DEST_PATH_IMAGE021
为知识点x的预测熵，
Figure 963115DEST_PATH_IMAGE022
为Student模型的分类预测输出概率值，
Figure 299418DEST_PATH_IMAGE023
为对知识点x的预测熵
Figure 759350DEST_PATH_IMAGE021
的排序位置，N为知识点总数，
Figure 130288DEST_PATH_IMAGE024
表示对知识点x的预测熵
Figure 17473DEST_PATH_IMAGE021
的排序位置
Figure 575493DEST_PATH_IMAGE025
的知识点的相对似然概率。
第三方面，本发明还提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如第一方面任意一种可能的实施方式所提供的任一所述方法的步骤。
与现有技术相比，本发明的有益技术效果包括：
本发明提供轻量化目标图像识别方法，基于采集获得的图像，利用训练获得的轻量化目标图像识别网络模型识别目标图像类别、位置和/或置信度；其中预先训练获得的YOLOv6-n神经网络，通过通道剪枝对模型进行压缩，该方法能在模型通道剪枝训练过程中识别不重要的卷积通道并进行修剪，从而获得更为紧凑的模型，之后利用自适应知识蒸馏获得有效知识集合，利用所述有效知识集合训练所述轻量化YOLOv6-n神经网络模型，由于有效知识集合中选取的知识点对于轻量化目标图像识别效果更加有效，因此能够提升轻量化模型的检测精度，本发明提供的方法可应用在对特定应用场景进行识别等领域，能够显著提升目标识别的速度和精度；
本发明采用的通道剪枝方法，直接对网络模型中的归一化层中的参数加入L1正则化，如果
Figure 963749DEST_PATH_IMAGE026
太小接近于0，那么其对应通道的激活值也非常小，所以在训练期间可以识别这些不重要的通道，然后进行修剪，从而减少模型大小、模型计算量等；同时由于该剪枝方法直接对归一化层中的
Figure 563095DEST_PATH_IMAGE026
参数加入L1正则化，并未引入额外训练参数。
附图说明
图1是本发明实施例二提供的轻量化目标图像识别方法的流程图。
具体实施方式
下面结合附图对本发明作进一步描述。以下实施例仅用于更加清楚地说明本发明的技术方案，而不能以此来限制本发明的保护范围。
实施例一：
本发明实施例提供了轻量化目标图像识别方法，包括：
利用图像采集设备采集图像；
利用训练获得的轻量化目标图像识别网络模型识别目标图像类别、位置和/或置信度；其中所述轻量化目标图像识别网络模型采用YOLOv6-n神经网络模型，训练方法包括：
获取目标图像样本；采用预训练获取的YOLOv6-n神经网络模型对目标图像样本进行迁移学习，得到能够识别目标图像类别、位置和/或置信度的YOLOv6-n神经网络模型；
对YOLOv6-n神经网络模型进行通道剪枝，获得轻量化YOLOv6-n神经网络模型；
利用自适应知识蒸馏方法获得有效知识集合，利用所述有效知识集合训练所述轻量化YOLOv6-n神经网络模型，最终获得满足要求的轻量化目标图像识别网络模型。
本实施例中，对YOLOv6-n神经网络模型进行通道剪枝，获得轻量化YOLOv6-n神经网络模型，包括以下步骤：
将YOLOv6-n神经网络模型的所有尺度变换参数
Figure 480236DEST_PATH_IMAGE035
作为L1正则项加入网络训练的损失函数，归一化层的输出表示如下：
Figure 932077DEST_PATH_IMAGE036
；
Figure 858444DEST_PATH_IMAGE037
；
其中， Z in 为归一化层的输入，Z out 为归一化层的输出，
Figure 813762DEST_PATH_IMAGE038
和
Figure 432962DEST_PATH_IMAGE005
是均值和标准差值，β为归一化层的待训练的位移变换参数，
Figure 965575DEST_PATH_IMAGE039
为中间变量，
Figure 571000DEST_PATH_IMAGE032
是设置常量；加入L1正则项后的网络损失函数为：
Figure 505458DEST_PATH_IMAGE040
；
其中， x表示网络的输入，y网络的预测输出，W表示待训练的网络权重，
Figure 409741DEST_PATH_IMAGE009
为神经网络模型原本的训练损失函数，λ为设定的平衡系数，
Figure 960808DEST_PATH_IMAGE010
为L1正则项；
设置剪枝阈值利用加入L1正则项后的损失函数在选定的数据集上对YOLOv6-n神经网络模型进行训练，在训练过程中对小于所设置的剪枝阈值的尺度变换参数
Figure 838765DEST_PATH_IMAGE035
所对应的通道进行剪枝；
训练中使用余弦退火重启动学习率，在原有训练的基础上进行不低于设定次数的迭代调整。
具体地，利用自适应知识蒸馏方法获得有效知识集合，利用所述有效知识集合训练所述轻量化YOLOv6-n神经网络模型，包括：选取YOLOv6-s神经网络模型作为Teacher模型，所述轻量化YOLOv6-n神经网络模型作为Student模型；设置Student模型的学习参数θ和总训练轮数I；
初始化
Figure 893309DEST_PATH_IMAGE011
，其中
Figure 729678DEST_PATH_IMAGE012
为训练数据集X的知识集合，x表示知识集合中的一个知识点，
Figure 971303DEST_PATH_IMAGE013
为Teacher模型的分类预测输出概率值，c为类别，
Figure 43164DEST_PATH_IMAGE014
为知识集合K经过知识有效性筛选后的有效知识集合；
进行I轮训练的过程中，将I轮训练平均分为I/T个学习阶段，每个阶段有T轮训练；
以Student模型和Teacher模型的最大化负交叉熵作为训练目标，表示为：
Figure 93160DEST_PATH_IMAGE015
；
其中y(x)为二值变量，表示知识点x对Student模型是否有效，
Figure 959485DEST_PATH_IMAGE016
，C表示训练数集X的类别空间，
Figure 593466DEST_PATH_IMAGE017
为Student模型的预测输出概率；
通过有效知识集合
Figure 937860DEST_PATH_IMAGE014
来对Student模型的学习参数θ进行T轮训练；
每训练满T轮就对知识集合K进行知识有效性评价，提取有效知识集合
Figure 842362DEST_PATH_IMAGE014
。
本实施例中，对知识集合K进行知识有效性评价，提取有效知识集合
Figure 879588DEST_PATH_IMAGE014
，包括：
确定知识集合K中各知识点的知识有效性，将知识有效性与设置的知识有效率ρ比较，如果大于等于知识有效率ρ，则知识点x对Student模型有效；所有对Student模型有效的知识点组成的集合就是有效知识集合
Figure 361385DEST_PATH_IMAGE014
。
确定知识集合K中各知识点的知识有效性的方法如下：
计算知识点x的预测熵，并进行排序；
根据排序结果计算知识点x的相对似然概率，所述知识点x的相对似然概率就作为知识点x的知识有效性，计算公式如下：
Figure 650415DEST_PATH_IMAGE018
；
Figure 268478DEST_PATH_IMAGE019
；
Figure 617551DEST_PATH_IMAGE020
；
其中
Figure 586644DEST_PATH_IMAGE021
为知识点x的预测熵，
Figure 272840DEST_PATH_IMAGE022
为Student模型的分类预测输出概率值，
Figure 650470DEST_PATH_IMAGE023
为对知识点x的预测熵
Figure 29498DEST_PATH_IMAGE021
的排序位置，N为知识点总数。
本实施例提供轻量化目标图像识别方法，其中轻量化目标图像识别网络模型的训练包括基于预先训练获得的YOLOv6-n神经网络，通过通道剪枝对模型进行压缩，之后利用自适应知识蒸馏获得有效知识集合，利用所述有效知识集合训练所述轻量化YOLOv6-n神经网络模型，由于有效知识集合中选取的知识点对于轻量化目标图像识别效果更加有效，因此能够提升轻量化模型的检测精度，本发明提供的方法可应用在对特定应用场景进行识别等领域，能够显著提升目标识别的速度和精度。
实施例二：
如图1所示，本实施例提供的提供了轻量化安全隐患对象识别方法，包括：
利用便携式移动终端（如手机等终端）获取现场图像；所述便携式移动终端内置轻量化目标图像识别网络模型；
将获取到的现场图像输入训练获得的轻量化目标图像识别网络模型进行安全隐患对象识别检测与识别，并进行结果输出；
进一步可选地，便携式移动终端作为系统边端，将采集的数据传输到后台云端，通过云边端一体化，云端将便携式移动终端上传的图像作为补充图片数据集，定期检测补充图片数据集，当补充图片数据集规模达到阈值，利用补充数据集对轻量化目标图像识别网络进行优化训练，将训练获得的网络优化参数下发值边端便携式移动终端使得其更新轻量化目标图像识别网络模，达到了个体终端对特定应用场景的能力提升。
在其他的实施例中，也可获取室内环境下的监控视频流，从而获取图像。
轻量化目标图像识别网络模型将图像输入主干网络进行特征提取，通过颈部网络进行特征融合，获取有效特征，输出每个预测框的类别、位置以及置信度值，通过头部网络进行非极大值抑制运算，筛选出一定区域内属于同一种类得分最大的框。
轻量化目标图像识别网络模型训练过程，包括：
步骤1：利用COCO数据集对YOLOv6-n目标检测神经网络模型进行预训练。
步骤2：针对室内场景中的目标采集现场图像样本，对图像样本进行标注，标注时采用矩形标注框；采用YOLOv6-n对标注完成后的安全隐患图像样本进行迁移学习，得到具有针对室内场景的YOLOv6-n目标检测神经网络模型。
步骤3：对YOLOv6-n目标检测神经网络模型采用通道模型剪枝，进一步压缩YOLOv6-n目标检测神经网络模型的计算量和参数量。步骤3包括：
针对YOLOv6-n目标检测神经网络模型的BN层（归一化层）所有尺度变换参数
Figure 95675DEST_PATH_IMAGE026
作为L1正则项加入网络训练的损失函数，归一化层的输出表示如下：
Figure 116720DEST_PATH_IMAGE041
；
Figure 584742DEST_PATH_IMAGE042
；
其中， Z in 为归一化层的输入，Z out 为归一化层的输出，
Figure 400251DEST_PATH_IMAGE043
和
Figure 219302DEST_PATH_IMAGE044
是均值和标准差值，
Figure 512881DEST_PATH_IMAGE045
为归一化层的待训练的位移变换参数，
Figure 960042DEST_PATH_IMAGE046
为中间变量，
Figure 320354DEST_PATH_IMAGE032
是设置常量；加入L1正则项后的网络损失函数为：
Figure 751336DEST_PATH_IMAGE047
；
其中， x表示网络的输入，y网络的预测输出，W表示待训练的网络权重，
Figure 458392DEST_PATH_IMAGE009
为神经网络模型原本的训练损失函数，λ为可设定的平衡系数，
Figure 25639DEST_PATH_IMAGE010
为L1正则项；
设置剪枝阈值利用加入L1正则项后的损失函数在选定的数据集上对YOLOv6-n神经网络模型进行训练，在训练过程中对小于所设置的剪枝阈值的尺度变换参数
Figure 58317DEST_PATH_IMAGE026
所对应的通道进行剪枝；
训练中使用余弦退火重启动学习率，在原有训练的基础上进行不低于设定次数的迭代调整。
步骤4：针对经过模型剪枝后的YOLOv6-n目标检测神经网络模型采用自适应知识蒸馏方法获得有效知识集合，利用所述有效知识集合训练所述轻量化YOLOv6-n神经网络模型，最终获得满足要求的轻量化目标图像识别网络模型，进一步提升检测精度。
首先输入一个训练数据集，并定义一个预训练的Teacher模型和一个待学习的Student模型。
利用交叉熵损失来衡量Teacher模型的输出概率和Student模型的输出概率之间的距离。
Teacher模型本质上是针对训练数据集提供了一整个知识集合，表示其中的一个知识点，然后Teacher模型会将整个知识集合传递给模型,即使学生模型的学习阶段不同，但知识集在整个蒸馏过程中是固定的。
自适应知识蒸馏方法的目标是让Student模型通过训练得到参数是的以最大化Teacher模型和Student模型之间的负交叉熵最大化，并在此
基础上引入一个二值变量，所述二值变量表示第i个知识点对Student模型是否有效，而不是简单地将整个知识集传递给Student模型。自适应知识蒸馏方法的目标优化后的表达式如下：
Figure 711016DEST_PATH_IMAGE048
；
其中
Figure 346396DEST_PATH_IMAGE049
为Teacher模型的分类预测输出概率值，c为类别；y(x)为二值变量，表 示知识点x对Student模型是否有效，c∈C，C表示训练数集X的类别空间，
Figure 909096DEST_PATH_IMAGE050
为 Student模型针对有效知识点x的预测输出概率。
为了最大化这个目标，进一步地考虑它的下界，表达式为：
Figure 971730DEST_PATH_IMAGE051
；
其中，
Figure 479766DEST_PATH_IMAGE052
表示在二值变量标签y的空间上的分布。
进一步地根据 Jensen 不等式推导，其中当且仅当是一个常数等式成立，此时的分布应该是：
Figure 184417DEST_PATH_IMAGE053
；
Y表示二值变量标签y组成的集合。
去除目标优化后的表达式中的常数项并结合考虑它的下界的表达式可以得到最终的优化目标表达式如下：
Figure 601623DEST_PATH_IMAGE054
；
上述问题的最大化可以通过期望最大化算法来实现，具体如下：
E阶段：我们采用预测熵损失作为衡量知识集中价值，给定一个知识点，它的预测熵为：
Figure 835158DEST_PATH_IMAGE019
；
进一步对知识点对应的预测熵进行降序排序操作。然后，基于排序位置，我们推导出知识值的相对似然概率，将知识点x的相对似然概率就作为知识点x的知识有效性，其中相对似然概率表达式如下：
Figure 462448DEST_PATH_IMAGE020
；
将知识有效性与设置的知识有效率ρ比较，如果大于等于知识有效率ρ，则知识点x对Student模型有效；所有对Student模型有效的知识点组成的集合就是有效知识集合
Figure 314998DEST_PATH_IMAGE014
。
M阶段：在经过 E阶段之后，上述最终优化目标表达式可进一步写为：
Figure 976923DEST_PATH_IMAGE055
；
最终，以Student模型和Teacher模型的最大化负交叉熵作为训练目标，表示为：
Figure 256726DEST_PATH_IMAGE056
；
其中x∈X只有在y=1时才能用于蒸馏，其余参数含义同上。
在E阶段中迭代地进行知识有效性评价，在 M阶段中进行知识蒸馏。即总共I个训练 epoch 被平均分为I/N个训练阶段，每个阶段有N个 epoch。在每个阶段内，在固定知识集上进行N个时期的蒸馏，然后记录每个训练批次中的知识价值。在每个训练阶段结束时，我们从整个知识集中提取出有效的知识集合，然后将其用于M阶段的蒸馏训练。
虽然目前图像识别技术发展速度较快，但在安全隐患检测领域应用较少，本发明针对便携式移动终端（含手机）设备设计了一种经过精度优化的轻量化网络用于安全人员进行安全隐患对象识别。本发明选取YOLOv6-n为原型进行改进，首先对YOLOv6-n进行通道剪枝对模型进行压缩进一步减少其参数量和计算量；其次提出了一种自适应知识蒸馏算法来提升模型的检测精度，它通过引入蒸馏知识有效性评价来减少轻量化网络对无效知识的学习并解决由于网络参数减少带来的精度下降问题。最终构建轻量话目标图像识别网络模型，以求保证检测精度的同时适用于便携式移动终端（含手机）设备。
实施例三：
本实施例提供了本发明提供了
轻量化目标图像识别装置，包括：
预训练模型获取模块，用于获取目标图像样本；采用预训练获取的YOLOv6-n神经网络模型对目标图像样本进行迁移学习，得到能够识别目标图像类别、位置以及置信度的YOLOv6-n神经网络模型；
剪枝模块，用于对YOLOv6-n神经网络模型进行通道剪枝，获得轻量化YOLOv6-n神经网络模型；
有效知识集合确定模块，用于利用自适应知识蒸馏方法获得有效知识集合；
再训练模块，用于利用所述有效知识集合训练所述轻量化YOLOv6-n神经网络模型，最终获得满足要求的轻量化目标图像识别网络模型；
轻量化目标图像识别网络模型，用于基于采集获得的图像识别目标图像类别、位置和/或置信度。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的装置和模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
实施例四：
本发明实施例提供了一种存储一个或多个程序的计算机可读存储介质，其特征在于，所述一个或多个程序包括指令，所述指令当由计算设备执行时，使得所述计算设备执行根据实施例一中所述的方法。
本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器、CD-ROM、光学存储器等）上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备（系统）、和计算机程序产品的流程图来描述的。应理解可由计算机程序指令实现流程图中的每一流程。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程中指定的功能的步骤。
以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明技术原理的前提下，还可以做出若干改进和变形，这些改进和变形也应视为本发明的保护范围。

Claims (10)

1.轻量化目标图像识别方法，其特征在于，包括：
利用图像采集设备采集图像；
利用训练获得的轻量化目标图像识别网络模型识别目标图像类别、位置和/或置信度；其中所述轻量化目标图像识别网络模型采用YOLOv6-n神经网络模型，训练方法包括：
获取目标图像样本；采用预训练获取的YOLOv6-n神经网络模型对目标图像样本进行迁移学习，得到能够识别目标图像类别、位置和/或置信度的YOLOv6-n神经网络模型；对YOLOv6-n神经网络模型进行通道剪枝，获得轻量化YOLOv6-n神经网络模型；
利用自适应知识蒸馏方法获得有效知识集合，利用所述有效知识集合训练所述轻量化YOLOv6-n神经网络模型，最终获得满足要求的轻量化目标图像识别网络模型。
2.根据权利要求1所述的轻量化目标图像识别方法，其特征在于，对YOLOv6-n神经网络模型进行通道剪枝，获得轻量化YOLOv6-n神经网络模型，包括以下步骤：
将YOLOv6-n神经网络模型的所有尺度变换参数
Figure 464596DEST_PATH_IMAGE001
作为L1正则项加入网络训练的损失函数，归一化层的输出表示如下：
Figure 647316DEST_PATH_IMAGE002
；
Figure 833577DEST_PATH_IMAGE003
；
其中，Z in 为归一化层的输入，Z out 为归一化层的输出，
Figure 759945DEST_PATH_IMAGE004
和
Figure 744956DEST_PATH_IMAGE005
是均值和标准差值，β为归一化层的待训练的位移变换参数，
Figure 98577DEST_PATH_IMAGE006
为中间变量，
Figure 772135DEST_PATH_IMAGE007
是设置常量；加入L1正则项后的网络损失函数为：
Figure 502194DEST_PATH_IMAGE008
；
其中， x表示网络的输入，y网络的预测输出，W表示待训练的网络权重，
Figure 905493DEST_PATH_IMAGE009
为神经网络模型原本的训练损失函数，λ为设定的平衡系数，
Figure 305382DEST_PATH_IMAGE010
为L1正则项；
设置剪枝阈值，利用加入L1正则项后的损失函数在选定的数据集上对YOLOv6-n神经网络模型进行训练，在训练过程中对小于所设置的剪枝阈值的尺度变换参数所对应的通道进行剪枝；
训练中使用余弦退火重启动学习率，在原有训练的基础上进行不低于设定次数的迭代调整。
3.根据权利要求1所述的轻量化目标图像识别方法，其特征在于，利用自适应知识蒸馏方法获得有效知识集合，利用所述有效知识集合训练所述轻量化YOLOv6-n神经网络模型，包括：选取YOLOv6-s神经网络模型作为Teacher模型，所述轻量化YOLOv6-n神经网络模型作为Student模型；设置Student模型的学习参数θ和总训练轮数I；
初始化
Figure 590870DEST_PATH_IMAGE011
，其中
Figure 734406DEST_PATH_IMAGE012
为知识集合，x表示知识集合中的一个知识点，
Figure 788950DEST_PATH_IMAGE013
为Teacher模型的分类预测输出概率值，c为类别，
Figure 129713DEST_PATH_IMAGE014
为知识集合K经过知识有效性筛选后的有效知识集合；
进行I轮训练的过程中，将I轮训练平均分为I/T个学习阶段，每个阶段有T轮训练；
以Student模型和Teacher模型的最大化负交叉熵作为训练目标，表示为：
Figure 168077DEST_PATH_IMAGE015
；
其中y(x)为二值变量，表示知识点x对Student模型是否有效，
Figure 849725DEST_PATH_IMAGE016
，C表示训练数集X的类别空间，
Figure 24354DEST_PATH_IMAGE017
为Student模型的预测输出概率；
通过有效知识集合
Figure 766045DEST_PATH_IMAGE014
来对Student模型的学习参数θ进行T轮训练；
每训练满T轮就对知识集合K进行知识有效性评价，提取有效知识集合
Figure 229388DEST_PATH_IMAGE014
。
4.根据权利要求3所述的轻量化目标图像识别方法，其特征在于，对知识集合K进行知识有效性评价，提取有效知识集合
Figure 839360DEST_PATH_IMAGE014
，包括：
确定知识集合K中各知识点的知识有效性，将知识有效性与设置的知识有效率ρ比较，如果大于等于知识有效率ρ，则知识点x对Student模型有效；所有对Student模型有效的知识点组成的集合就是有效知识集合
Figure 743863DEST_PATH_IMAGE014
。
5.根据权利要求4所述的轻量化目标图像识别方法，其特征在于，确定知识集合K中各知识点的知识有效性的方法如下：
计算知识点x的预测熵，并进行排序；
根据排序结果计算知识点x的相对似然概率，所述知识点的相对似然概率就作为知识点x的知识有效性，计算公式如下：
Figure 46668DEST_PATH_IMAGE018
；
Figure 167945DEST_PATH_IMAGE019
；
Figure 581609DEST_PATH_IMAGE020
；
其中
Figure 668514DEST_PATH_IMAGE021
为知识点x的预测熵，
Figure 814324DEST_PATH_IMAGE022
为Student模型的分类预测输出概率值，
Figure 658784DEST_PATH_IMAGE023
为对知识点x的预测熵
Figure 813822DEST_PATH_IMAGE021
的排序位置，N为知识点总数，
Figure 817550DEST_PATH_IMAGE024
表示对知识点x的预测熵
Figure 337524DEST_PATH_IMAGE021
的排序位置
Figure 59492DEST_PATH_IMAGE025
的知识点的相对似然概率。
6.轻量化目标图像识别装置，其特征在于，包括：
图像采集模块，用于采集图像；
轻量化目标图像识别网络模型，用于基于采集获得的图像识别目标图像类别、位置和/或置信度，其中所述轻量化目标图像识别网络模型采用YOLOv6-n神经网络模型；
预训练模块，用于获取目标图像样本；采用预训练获取的YOLOv6-n神经网络模型对目标图像样本进行迁移学习，得到能够识别目标图像类别、位置和/或置信度的YOLOv6-n神经网络模型；
剪枝模块，用于对YOLOv6-n神经网络模型进行通道剪枝，获得轻量化YOLOv6-n神经网络模型；
有效知识集合确定模块，用于利用自适应知识蒸馏方法获得有效知识集合；
再训练模块，用于利用所述有效知识集合训练所述轻量化YOLOv6-n神经网络模型，最终获得满足要求的轻量化目标图像识别网络模型。
7.根据权利要求6所述的轻量化目标图像识别装置，其特征在于，所述剪枝模块具体执行以下步骤：
将YOLOv6-n神经网络模型的所有尺度变换参数作为L1正则项加入网络训练的损失函数，归一化层的输出表示如下：
Figure 188860DEST_PATH_IMAGE026
；
Figure 781515DEST_PATH_IMAGE027
；
其中， Z in 为归一化层的输入，Z out 为归一化层的输出，
Figure 800287DEST_PATH_IMAGE028
和
Figure 619338DEST_PATH_IMAGE029
是均值和标准差值，β为归一化层的待训练的位移变换参数，
Figure 178496DEST_PATH_IMAGE030
为中间变量，
Figure 32182DEST_PATH_IMAGE031
是设置常量；加入L1正则项后的网络损失函数为：
Figure 753013DEST_PATH_IMAGE008
；
其中， x表示网络的输入，y网络的预测输出，W表示待训练的网络权重，
Figure 59361DEST_PATH_IMAGE032
为神经网络模型原本的训练损失函数，λ为设定的平衡系数，
Figure 359892DEST_PATH_IMAGE010
为L1正则项；
设置剪枝阈值利用加入L1正则项后的损失函数在选定的数据集上对YOLOv6-n神经网络模型进行训练，在训练过程中对小于所设置的剪枝阈值的尺度变换参数
Figure 192719DEST_PATH_IMAGE033
所对应的通道进行剪枝；
训练中使用余弦退火重启动学习率，在原有训练的基础上进行不低于设定次数的迭代调整。
8.根据权利要求6所述的轻量化目标图像识别装置，其特征在于，所述有效知识集合确定模块具体执行以下步骤：
选取YOLOv6-s神经网络模型作为Teacher模型，所述轻量化YOLOv6-n神经网络模型作为Student模型；设置Student模型的学习参数θ和总训练轮数I；
初始化
Figure 458353DEST_PATH_IMAGE011
，其中
Figure 642210DEST_PATH_IMAGE012
为知识集合，x表示知识集合中的一个知识点，
Figure 418536DEST_PATH_IMAGE013
为Teacher模型的分类预测输出概率值，c为类别，
Figure 840290DEST_PATH_IMAGE014
为知识集合K经过知识有效性筛选后的有效知识集合；
进行I轮的训练的过程中，将I轮训练平均分为I/T个学习阶段，每个阶段有T轮训练；
以Student模型和Teacher模型的最大化负交叉熵作为训练目标，表示为：
Figure 43869DEST_PATH_IMAGE015
；
其中y(x)为二值变量，表示知识点对Student模型是否有效，
Figure 387126DEST_PATH_IMAGE016
，C表示训练数集X的类别空间，
Figure 91777DEST_PATH_IMAGE017
为Student模型的预测输出概率；
通过有效知识集合
Figure 774562DEST_PATH_IMAGE014
来对Student模型的学习参数θ进行T轮训练；
每训练满T轮就对知识集合K进行知识有效性评价，提取有效知识集合
Figure 273677DEST_PATH_IMAGE014
。
9.根据权利要求8所述的轻量化目标图像识别装置，其特征在于，对知识集合K进行知识有效性评价，提取有效知识集合
Figure 292446DEST_PATH_IMAGE014
，包括：
确定知识集合K中各知识点的知识有效性，将知识有效性与设置的知识有效率ρ比较，如果大于等于知识有效率ρ，则知识点x对Student模型有效；所有对Student模型有效的知识点组成的集合就是有效知识集合
Figure 738471DEST_PATH_IMAGE014
；
确定知识集合K中各知识点的知识有效性的方法如下：
计算知识点的预测熵，并进行排序；
根据排序结果计算知识点x的相对似然概率，所述知识点x的相对似然概率就作为知识点x的知识有效性，计算公式如下：
Figure 134818DEST_PATH_IMAGE034
；
Figure 680200DEST_PATH_IMAGE019
；
Figure 794786DEST_PATH_IMAGE020
；
其中
Figure 716606DEST_PATH_IMAGE021
为知识点x的预测熵，
Figure 233038DEST_PATH_IMAGE022
为Student模型的分类预测输出概率值，
Figure 683742DEST_PATH_IMAGE023
为对知识点x的预测熵
Figure 551204DEST_PATH_IMAGE021
的排序位置，N为知识点总数，
Figure 509670DEST_PATH_IMAGE024
表示对知识点x的预测熵的排序位置
Figure 83871DEST_PATH_IMAGE025
的知识点的相对似然概率。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1~5任一所述方法的步骤。
CN202211092464.0A 2022-09-08 2022-09-08 轻量化目标图像识别方法、装置及存储介质 Pending CN115170926A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211092464.0A CN115170926A (zh) 2022-09-08 2022-09-08 轻量化目标图像识别方法、装置及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211092464.0A CN115170926A (zh) 2022-09-08 2022-09-08 轻量化目标图像识别方法、装置及存储介质

Publications (1)

Publication Number Publication Date
CN115170926A true CN115170926A (zh) 2022-10-11

Family

ID=83481896

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211092464.0A Pending CN115170926A (zh) 2022-09-08 2022-09-08 轻量化目标图像识别方法、装置及存储介质

Country Status (1)

Country Link
CN (1) CN115170926A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116935363A (zh) * 2023-07-04 2023-10-24 东莞市微振科技有限公司 刀具识别方法、装置、电子设备及可读存储介质
CN116994309A (zh) * 2023-05-06 2023-11-03 浙江大学 一种公平性感知的人脸识别模型剪枝方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105122279A (zh) * 2013-03-06 2015-12-02 微软技术许可有限责任公司 在识别系统中保守地适配深度神经网络
CN111882040A (zh) * 2020-07-30 2020-11-03 中原工学院 基于通道数量搜索的卷积神经网络压缩方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105122279A (zh) * 2013-03-06 2015-12-02 微软技术许可有限责任公司 在识别系统中保守地适配深度神经网络
CN111882040A (zh) * 2020-07-30 2020-11-03 中原工学院 基于通道数量搜索的卷积神经网络压缩方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
丁刘辉: "在感知和运动不确定条件下的安全自动驾驶系统方案研究", 《中国优秀硕士学位论文全文数据库工程科技Ⅱ辑》 *
邱春等: "基于模型剪枝和知识蒸馏的船舶目标检测方法", 《南京工程学院学报( 自然科学版)》 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116994309A (zh) * 2023-05-06 2023-11-03 浙江大学 一种公平性感知的人脸识别模型剪枝方法
CN116994309B (zh) * 2023-05-06 2024-04-09 浙江大学 一种公平性感知的人脸识别模型剪枝方法
CN116935363A (zh) * 2023-07-04 2023-10-24 东莞市微振科技有限公司 刀具识别方法、装置、电子设备及可读存储介质
CN116935363B (zh) * 2023-07-04 2024-02-23 东莞市微振科技有限公司 刀具识别方法、装置、电子设备及可读存储介质

Similar Documents

Publication Publication Date Title
CN111126258B (zh) 图像识别方法及相关装置
CN108133188B (zh) 一种基于运动历史图像与卷积神经网络的行为识别方法
CN109359559B (zh) 一种基于动态遮挡样本的行人再识别方法
CN115170926A (zh) 轻量化目标图像识别方法、装置及存储介质
CN111507378A (zh) 训练图像处理模型的方法和装置
CN112949673A (zh) 一种基于全局注意力的特征融合目标检测与识别方法
JP7239853B2 (ja) 学習用データ作成装置、学習用モデル作成システム、学習用データ作成方法、及びプログラム
CN112183153A (zh) 一种基于视频分析的对象行为检测方法及装置
CN110222718B (zh) 图像处理的方法及装置
CN110909672A (zh) 一种基于双流卷积神经网络和svm的抽烟动作识别方法
CN113761259A (zh) 一种图像处理方法、装置以及计算机设备
CN111368634B (zh) 基于神经网络的人头检测方法、系统及存储介质
CN112381763A (zh) 一种表面缺陷检测方法
CN111738403A (zh) 一种神经网络的优化方法及相关设备
CN111738074B (zh) 基于弱监督学习的行人属性识别方法、系统及装置
CN115713715A (zh) 一种基于深度学习的人体行为识别方法及识别系统
CN107545281B (zh) 一种基于深度学习的单一有害气体红外图像分类识别方法
CN104778699A (zh) 一种自适应对象特征的跟踪方法
CN111144220B (zh) 适于大数据的人员检测方法、装置、设备和介质
CN117689928A (zh) 一种改进yolov5的无人机检测方法
CN116889933A (zh) 含钒石煤矿的富集选矿方法
CN116644798A (zh) 基于多教师的知识蒸馏方法、装置、设备及存储介质
CN111723742A (zh) 一种人群密度分析方法、系统、装置及计算机可读存储介质
CN116311472A (zh) 基于多层次图卷积网络的微表情识别方法及装置
CN115565146A (zh) 基于自编码器获取鸟瞰图特征的感知模型训练方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20221011