CN114418064B - 一种目标检测方法、终端设备及存储介质 - Google Patents
一种目标检测方法、终端设备及存储介质 Download PDFInfo
- Publication number
- CN114418064B CN114418064B CN202111620060.XA CN202111620060A CN114418064B CN 114418064 B CN114418064 B CN 114418064B CN 202111620060 A CN202111620060 A CN 202111620060A CN 114418064 B CN114418064 B CN 114418064B
- Authority
- CN
- China
- Prior art keywords
- module
- convolution
- image
- basic
- feature map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
- G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
- G06F18/23213—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with fixed number of clusters, e.g. K-means clustering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Molecular Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Probability & Statistics with Applications (AREA)
- Image Analysis (AREA)
Abstract
本申请适用于卷积神经网络技术领域,提供了一种目标检测方法、终端设备及计算机可读存储介质,所述方法包括:获取第一图像;通过训练后的卷积神经网络模型对第一图像进行目标检测,获得检测结果,其中,卷积神经网络模型为改进的Yolov5模型,改进的Yolov5模型包括多个基本卷积模块,多个基本卷积模块中的至少一个基本卷积模块为第一类型的基本卷积模块,第一类型的基本卷积模块包括:第一卷积层、与第一卷积层连接的分组卷积模块和通道注意力机制模块、分别与分组卷积模块和通道注意力机制模块连接的concat模块;通过本申请可以提供一种轻量化、且精度较高的Yolov5模型用于进行图像的目标检测。
Description
技术领域
本申请属于卷积神经网络技术领域,尤其涉及一种目标检测方法、终端设备及计算机可读存储介质。
背景技术
随着人工智能发展,对于图像中目标检测模型的要求越来越高。例如,高精度、实时性、小模型和低功耗等。为了提高模型的精度,通常需要构建较为复杂的目标检测模型;为了降低模型的功耗,提高目标检测速度等,通常又需要构建较为小型化的模型。
Yolov5卷积神经网络模型作为一种检测速度较快的目标检测模型广泛应用于对图像的目标检测,Yolov5卷积神经网络模型可以通过控制Model-depth(深度)和layer-channel(宽度)生成不同深度和宽度的模型。然而,随着深度和宽度的增加,虽然能够提高检测精度,但是也导致模型过于庞大,训练和检测速度较低的问题。
发明内容
有鉴于此,本申请实施例提供了一种目标检测方法、终端设备及计算机可读存储介质,以解决Yolov5模型不能同时兼顾精度和速度的问题。
本申请实施例的第一方面提供了一种目标检测方法,包括:
获取第一图像;
通过训练后的卷积神经网络模型对所述第一图像进行目标检测,获得检测结果,其中,所述卷积神经网络模型为改进的Yolov5模型,所述改进的Yolov5模型包括多个基本卷积模块,所述多个基本卷积模块中的至少一个基本卷积模块为第一类型的基本卷积模块,所述第一类型的基本卷积模块包括:第一卷积层、与所述第一卷积层连接的分组卷积模块和通道注意力机制模块、分别与所述分组卷积模块和所述通道注意力机制模块连接的concat模块。
本申请实施例的第二方面提供了一种检测装置,包括:
图像获取单元,用于获取第一图像;
图像检测单元,用于通过训练后的卷积神经网络模型对所述第一图像进行目标检测,获得检测结果,其中,所述卷积神经网络模型为改进的Yolov5模型,所述改进的Yolov5模型包括多个基本卷积模块,所述多个基本卷积模块中的至少一个基本卷积模块为第一类型的基本卷积模块,所述第一类型的基本卷积模块包括:第一卷积层、与所述第一卷积层连接的分组卷积模块和通道注意力机制模块、分别与所述分组卷积模块和所述通道注意力机制模块连接的concat模块。
本申请实施例的第三方面提供了一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现本申请实施例第一方面提供的所述方法的步骤。
本申请实施例的第四方面提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被一个或多个处理器执行时实现本申请实施例第一方面提供的所述方法的步骤。
本申请实施例的第五方面提供了一种计算机程序产品,所述计算机程序产品包括计算机程序,所述计算机程序被一个或多个处理器执行时实现本申请实施例第一方面提供的所述方法的步骤。
本申请实施例提供了一种目标检测方法,该目标检测方法基于卷积神经网络模型实现,该卷积神经网络模型为改进的Yolov5模型。改进的Yolov5模型中的基本卷积模块中至少一个基本卷积模块包括:第一卷积层、与所述第一卷积层连接的分组卷积模块和通道注意力机制模块、分别与所述分组卷积模块和所述通道注意力机制模块连接的concat模块。通过分组卷积模块实现轻量化的基本卷积模块设计,另外,为了提高轻量化的基本卷积模块的精度,可以增加通道注意力机制与分组卷积模块并联,然后,通过concat模块将通道注意力机制与分组卷积模块的输出结果组合。通过分组卷积模块实现轻量化的设计,通过通道注意力机制模块提高精度,从而提供一种轻量化和精度兼顾的改进Yolov5模型。基于该模型进行目标检测时,既能保证检测的精度又能降低检测的速度。
可以理解的是,上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种目标检测方法的实现流程示意图;
图2是本申请实施例提供的一种基本卷积模块的结构示意图;
图3是本申请实施例提供的一种通道注意力机制的结构示意图;
图4是图2所示实施例提供的基本卷积模块的输入张量和输出张量的变化示意图;
图5是本申请实施例提供的Yolov5模型的基本模块的结构示意图;
图6是本申请实施例提供的Yolov5模型中的Focus模块和SPP模块的结构示意图;
图7是本申请实施例提供的改进后的Yolov5模型的结构示意图;
图8是本申请实施例提供的一张待检测图像;
图9是经过本申请实施例提供的目标检测方法对图8提供的待检测图像进行识别后得到的检测结果;
图10是本申请实施例提供的另一张待检测图像;
图11是经过本申请实施例提供的目标检测方法对图10提供的待检测图像进行识别后得到的检测结果;
图12是本申请实施例提供的终端设备的示意框图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在此本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
为了说明本申请所述的技术方案,下面通过具体实施例来进行说明。
本申请实施例提供了一种卷积神经网络模型,该卷积神经网络模型经过训练后,可以用于进行图像检测。
参见图1,为本申请实施例提供的一种目标检测方法,该目标检测方法包括:
步骤101,获取第一图像。
本申请实施例中,该第一图像为待检测图像,该待检测图像可以通过摄像头采集视频数据获得,也可以通过摄像头抓拍图像获得。
作为通过摄像头采集视频数据获得的一种示例,获取摄像头采集视频数据,对视频数据进行下采样,得到多个待检测图像。
步骤102,通过训练后的卷积神经网络模型对第一图像进行目标检测,获得检测结果。
该训练后的卷积神经网络模型可以移植到摄像头(或摄像头所在的终端设备)中,即采集待检测图像、对待检测图像进行目标检测的过程均在摄像头内执行。
在训练后的卷积神经网络模型从待检测图像中检测到目标物的情况下,该检测结果为标注所述目标物的待检测图像。
在训练后的卷积神经网络模型从待检测图像中未检测到目标物的情况下,该检测结果为输入该卷积神经网络模型的原图像。
当然,在检测结果为标注目标物的第一图像的情况下,摄像头将所述标注所述目标物的第一图像发送到电子设备,所述电子设备包括显示屏,所述显示屏用于显示所述标注所述目标物的第一图像。
本申请实施例提供的卷积神经网络模型为改进的Yolov5模型,该改进的Yolov5模型与现有的Yolov5模型相比,基本卷积模块(conv)不同。
本申请实施例提供的基本卷积模块可以记为第一类型的基本卷积模块(Gonv)。
参见图2,为第一类型的基本卷积模块的结构示意图;
该第一类型的基本卷积模块包括第一卷积层、与所述第一卷积层连接的分组卷积模块和通道注意力机制模块、分别与所述分组卷积模块和所述通道注意力机制模块连接的concat模块。
其中,第一卷积层可以为一个卷积层,还可以为:用于进行卷积运算的层。
当然,在本申请实施例中,为了尽量降低改进的Yolov5模型的大小,可以设置第一卷积层为一个卷积层。
分组卷积模块用于对特征图(featuremap)的多个通道进行分组,每组分别卷积,通过分组卷积模块可以大大降低参数量,从而使得改进的Yolov5模型的较为轻型化,提高训练速度和检测速度。
作为一种示例,当特征图的尺寸为B*C*H*W时,输出的特征图的数量为N个;若设定分成G组,则每组的输入特征图的数量为C/G,每组的输出特征图的数量为N/G,每个卷积核的尺寸为C/G*K*K,卷积核的总数仍然为N个,每组的卷积核数量为N/G,卷积核只与其同组的输入map进行卷积,卷积核的总参数量为:N*C/G*K*K,总参数量将减少为原来的1/G。
当然,分组卷积模块会导致精度略有降低,为了提高精度,可以在该第一类型的基本卷积模块中增加通道注意力机制,通过该通道注意力机制增加有效的特征图的权重,降低无效或效果较小的特征图的权重,从而得到较精确的训练结果和检测结果。
参见图3,作为通道注意力机制的一种示例,该通道注意力机制包括依次连接的全局池化层、至少两级全连接层和激活函数。
当然,实际应用中,通道注意力机制还可以包括比图2所示实施例中更多的层级,作为示例,还可以包括比两级全连接层更多的全连接层,还可以包括其他层级等。
本申请实施例中,由于Yolov5模型中包括的基本卷积模块比较多,为了获得轻量化的改进的Yolov5模型,本申请实施例在精度不明显降低的情况下,可以采用更少的层级。
通道注意力机制中,依次连接的全局池化层、至少两级全连接层和激活函数可以得到各个通道的权重;
然后将得到的各个通道的权重乘以全局池化层的输入特征(通道注意力机制的输入特征)就可以增大输入通道注意力机制的原输入特征中的有效特征的权重,降低输入通道注意力机制的原输入特征中的无效或效果小的特征的权重。
通道注意力机制得到的输出和分组卷积模块的输出最终要通过concat模块组合在一起。
然而,由于第一卷积层、分组卷积模块和通道注意力机制模块的输入输出张量均相同,若最后经过concat模块组合后,得到的输出将为原来的张量的2倍。因此,本申请实施例中,在所述第一卷积层的输出之后、所述分组卷积模块的输入之前和所述通道注意力机制模块的输入之前,设置特征图相似度计算模块降低输入分组卷积模块和通道注意力机制模块的特征图的张量。该特征图像相似度模块可以将相似的特征图进行合并,从而将特征图的张量降低。
作为一种示例,参见图4,若第一卷积层的输入的张量均为[b,c,w,h];则第一卷积层的输出的张量为[b,c,w,h],所述特征图相似度计算模块的输入的张量为[b,c,w,h],所述特征图相似度计算模块输出的张量为[b,c/2,w,h];所述分组卷积模块和通道注意力机制模块的输入的张量均为[b,c/2,w,h];所述分组卷积模块的输出和所述通道注意力机制模块的输出的张量均为[b,c/2,w,h];所述分组卷积模块的输出和所述通道注意力机制模块的输出通过所述concat模块组合后得到的输出的张量为[b,c,w,h]。
作为通过第一类型的基本卷积模块的处理过程的一种示例,通过训练后的卷积神经网络模型对所述第一图像进行目标检测的过程中,通过所述第一类型的基本卷积模块对输入所述第一类型的基本卷积模块的第一特征图组进行处理;
其中,通过所述第一类型的基本卷积模块对输入所述第一类型的基本卷积模块的第一特征图组进行处理包括:
通过所述第一卷积层对张量为[b,c,w,h]的所述第一特征图组进行卷积处理,得到张量为[b,c,w,h]的第二特征图组;
通过所述特征图相似度计算模块对张量为[b,c,w,h]的第二特征图组进行特征相似度处理,得到张量为[b,c/2,w,h]的第三特征图组;
通过所述通道注意力机制模块对张量为[b,c/2,w,h]的第三特征图组进行特征优化处理,得到张量为[b,c/2,w,h]的第四特征图组;
通过所述分组卷积模块对所述张量为[b,c/2,w,h]的第三特征图组进行分组处理,得到张量为[b,c/2,w,h]的第五特征图组;
通过所述concat模块对所述张量为[b,c/2,w,h]的第四特征图组和张量为[b,c/2,w,h]的第五特征图组进行组合(例如,空间上的叠加)张量为[b,c,w,h]的第六特征图组。
上述实施例中,第一卷积层用于对第一特征图组进行一个卷积操作,得到的特征图组为第二特征图组。
特征图相似度计算模块可以两两一组,将相似的特征图合并,获得新的特征图组,生成的特征图组包含输入特征图组的全部信息,并增加了图相似度作为新特征图组的标签。经过特征图相似度计算模块处理后的特征图组记为第三特征图组。
通道注意力机制模块可以将特征图中有效的特征的权重加强,无效或效果较小的特征的权重降低。经过通道注意力机制模块处理后的特征图组纪记为第四特征图组;
分组卷积模块用于将对特征图进行分组,每组分别卷积,使得得到参数量少的特征组图,将分组卷积模块处理后的特征图组记为第五特征图组。
所述concat模块用于将两个特征图组组合在一起,形成新的特征图组。
作为本申请实施例提供的一种改进的Yolov5模型,该模型包括Backbone网络、Neck网络和输出网络。
其中,Backbone网络主要采用GSPdarknet+SPP结构;
作为Backbone网络的一种示例,所述Backbone网络包括:Focus模块、SPP模块以及位于所述Focus模块和SPP模块之间的依次连接的至少三个第一子模块,所述第一子模块包括GBL模块和第一GSP模块;
所述GBL模块包括:所述基本卷积模块、BN模块和激活函数;
所述第一GSP模块包括:所述GBL模块和所述基本卷积模块;
参见图5,为本申请实施例提供的一种GBL模块、GResunit模块、GSP1_X模块和GSP2_X模块的结构示意图。
其中,GBL模块包括依次连接的基本卷积模块、BN模块和Leaky rule激活函数。
GResunit模块包括依次连接的两个GBL模块,其中,将最后一个GBL模块的输出和第一个GBL模块的输入进行add处理,add处理表示特征图的像素的叠加。
GSP1_X模块包括第一并联模块和第二并联模块,以及分别与第一并联模块和第二并联模块连接的concat模块,在concat模块之后,依次连接有BN模块、Leaky rule激活函数和GBL模块。其中,第一并联模块包括依次连接的GBL模块、x个GResunit模块和基本卷积模块;第二并联模块包括基本卷积模块。
GSP2_X模块包括第三并联模块和第四并联模块,以及分别与第三并联模块和第四并联模块连接的concat模块,在concat模块之后,依次连接有BN模块、Leaky rule激活函数和GBL模块。其中,第三并联模块包括依次连接的GBL模块、2x个GBL模块和基本卷积模块;第四并联模块包括基本卷积模块。
需要说明,GSP1_X模块名字中的X与GSP1_X模块中的GResunit模块的个数相同;同理,GSP2_X模块名字中的X为GSP2_X模块中2x个GBL模块中的x相同。
参见图6,为本申请实施例提供的Focus模块和SPP模块的结构示意图。
其中,Focus模块包括深度方向上的多个slice层,多个Slice层的输出均连接concat模块,在concat模块之后连接GBL模块。
SPP模块包括GBL模块,连接GBL模块的多个Maxpool层,多个Maxpool层的输出均连接concat模块,在concat模块之后连接GBL模块。
作为Neck网络的一种示例,所述Neck网络包括:PAN模块和FPN模块;
所述FPN模块包括:依次连接的至少两个采样模块(上采样),所述采样模块包括依次连接的所述GBL模块、采样层、concat模块和第二GSP模块,其中,所述采样层的输出和一个所述第一子模块的输出作为所述concat模块的输入;
所述PAN模块包括:依次连接的至少两个第二子模块,所述第二子模块包括依次连接的所述GBL模块、concat模块和第二GSP模块,其中,所述GBL模块的输出和所述一个所述采样模块的输出作为所述concat模块的输入。
基于图2至图6所示实施例,可以得到图7提供的一种改进的Yolov5模型。该改进的Yolov5模型的Backbone网络包括四个第一子模块;FPN模块包括:三个采样模块和三个第二子模块。
如图所示,Yolov5模型中包括多个基本卷积模块,实际应用中,可以根据要缩减的模型大小(计量算等),将Yolov5模型中的多个基本卷积模块中的部分或全部替换为上述实施例中第一类型的基本卷积模块。
即本申请实施例提供的改进的Yolov5模型中包括部分第一类型的基本卷积模块和部分其他类型的基本卷积模块(例如,现有的Yolov5模型提供的基本卷积模块或者其他适用于Yolov5模型的基本卷积模块)。
当然,实际应用中,本申请实施例可以将Yolov5模型中的全部基本卷积模块替换为上述实施例提供的第一类型的基本卷积模块,以得到改进的Yolov5模型。
在构建得到的改进的Yolov5模型后,需要对改进的Yolov5模型进行训练。
在实际应用中,可以通过训练集中的图像对改进后的Yolov5模型进行训练,也可以自行构建训练集对Yolov5模型进行训练。
作为一种自行构建训练集的示例,本申请实施例可以获取摄像头采集的历史视频数据;对历史视频数据进行下采样,得到多张(例如2万多张)图像;从2万多张图像中进行筛选,获得能够作为训练图像的图像;对筛选后的多张图像进行人工标记,得到人工标记的训练图像;通过人工标记后的训练图像对改进的Yolov5模型进行训练。
在训练过程中,需要将训练图像通过马赛克数据增强模块、自适应锚框计算模块和自适应图片缩放模块进行处理后,再输入到改进的Yolov5模型中。
马赛克数据增强模块用于获取4张训练图像随机生成图像中心点,然后对四张训练图像分别进行裁剪拼成一张大图。
自适应锚框计算模块用于调整初始锚框的尺度和比例,通过对数据中目标的长宽进行Keams聚类产生不同Feature map层的初始anchor比列,每层具有3个初始锚框。
自适应图片缩放模块用于对马赛克数据增强后图像按照图片的尺寸比例进行缩放。
当然,实际应用中,马赛克数据增强模块、自适应锚框计算模块和自适应图片缩放模块也可以理解为改进的Yolov5模型的输入模块。
在训练时,可以设置迭代次数为预设次数(例如200次)、初始学习率为第一学习率(例如,0.01)的warmup方式的训练方法。
作为一种示例,首先使用第一学习率作为初始学习率进行训练预热,在训练预热过程中,每个迭代过程中的学习率为第一学习率乘以第一比值(当前迭代次数和设置的warmup迭代总次数的比值)。在迭代够设置的warmup迭代总次数之前,学习率为逐渐上升为所述第一学习率的过程。
在warm结束后,开始以第一学习率继续进行训练,在采用第一学习率进行训练时,训练一定次数后,设置学习率下降(可以为线性下降也可以为非线性下降),就可以得到训练后的改进Yolov5模型。
当然,实际应用中,也可以不采用迭代次数作为停止训练的条件,而是将损失函数收敛作为停止训练的条件。本申请实施例对停止训练的条件不做限定。
在得到训练后的改进Yolov5模型后,可以将训练后的改进Yolov5模型移植到摄像头中,将摄像头设置在待进行目标检测的区域,通过设置训练后的改进Yolov5模型的摄像头采集视频数据;然后对采集的视频数据进行下采样得到多个待检测图像,将待检测图像送入该摄像头中的训练后的改进Yolov5模型中,在训练后的改进Yolov5模型检测到图像中有目标物时,将图像中的目标物进行标注后输出。即该训练后的改进Yolov5模型可以得到标注有目标物的图像。当然,在训练后的改进Yolov5模型未检测到图像中有目标物时,输出原图像。
由于摄像头通常设置在检测区域中,摄像头可以通过有线或无线的方式将检测结果发送到预设的电子设备上。该电子设备具有显示屏,该电子设备的显示屏可以显示检测结果。
作为目标检测的一个场景,可以在森林植被的区域设置摄像头。作为示例,可以设置在某个森林植被区域的入口,可以检测进入该森林植被区域的人员。
该摄像头内移植有训练后的改进Yolov5模型。通过该摄像头采集森林植被区域的视频数据;摄像头可以对采集到的视频数据进行下采样得到多张待检测图像。
以图8所示图像作为待检测的图像,将该待检测图像输入摄像头中设置的训练后的改进Yolov5模型。得到如图9所示的检测结果。该检测结果为标有住目标物的图像。该场景中的目标物为工具。该工具可以为用于砍伐树木或者对植被等造成的破坏的工具。
需要说明,本申请实施例在实际应用中,也可以仅将工具作为目标物。是否将人作为目标物可以根据实际情况设置,本申请实施例对此不做限定。
当然,实际应用中,可以采用包含多种类型工具的图像作为训练图像,以在通过训练后的改进Yolov5进行目标检测时,能够精确的识别到工具。
当然,实际应用中,不仅摄像头采集的视频数据中的彩色图像可以作为待检测图像,摄像头采集的红外图像也可以作为待检测图像。
作为另一示例,图10为本申请实施例提供的待检测图像,图11为本申请实施例提供的检测结果。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
本申请实施例还提供一种目标检测装置,为了便于说明,仅示出与本申请实施例相关的部分。
该目标检测装置可以是内置于摄像头内的软件单元、硬件单元或者软硬结合的单元,也可以作为独立的挂件集成到所述摄像头上。
所述目标检测装置包括:
图像获取单元,用于获取第一图像;
图像检测单元,用于通过训练后的卷积神经网络模型对所述第一图像进行目标检测,获得检测结果,其中,所述卷积神经网络模型为改进的Yolov5模型,所述改进的Yolov5模型包括多个基本卷积模块,所述多个基本卷积模块中的至少一个基本卷积模块为第一类型的基本卷积模块,所述第一类型的基本卷积模块包括:第一卷积层、与所述第一卷积层连接的分组卷积模块和通道注意力机制模块、分别与所述分组卷积模块和所述通道注意力机制模块连接的concat模块。
需要说明的是,上述装置/单元之间的信息交互、执行过程等内容,由于与本申请方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述装置中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
图12是本申请一实施例提供的终端设备的示意框图。该终端设备可以是独立存在的摄像头(或摄像装置),还可以是集成有摄像头的终端设备。如图12所示,该实施例的终端设备12包括:一个或多个处理器120、存储器121以及存储在所述存储器121中并可在所述处理器120上运行的计算机程序122。所述处理器120执行所述计算机程序122时实现上述各个方法实施例中的步骤,例如图1所示的步骤101至步骤102。或者,所述处理器120执行所述计算机程序122时实现上述装置实施例中各模块/单元的功能,例如上述实施例所示图像获取单元和图像检测单元的功能。
示例性的,所述计算机程序122可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器121中,并由所述处理器120执行,以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序122在所述终端设备12中的执行过程。例如,所述计算机程序122可以被分割成图像获取单元、图像检测单元,示例性的:
图像获取单元,用于获取第一图像;
图像检测单元,用于通过训练后的卷积神经网络模型对所述第一图像进行目标检测,获得检测结果,其中,所述卷积神经网络模型为改进的Yolov5模型,所述改进的Yolov5模型包括多个基本卷积模块,所述多个基本卷积模块中的至少一个基本卷积模块为第一类型的基本卷积模块,所述第一类型的基本卷积模块包括:第一卷积层、与所述第一卷积层连接的分组卷积模块和通道注意力机制模块、分别与所述分组卷积模块和所述通道注意力机制模块连接的concat模块。
上述单元的其他功能不再赘述。
所述终端设备包括但不仅限于处理器120、存储器121。本领域技术人员可以理解,图12仅仅是终端设备12的一个示例,并不构成对终端设备12的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述终端设备12还可以包括输入设备、输出设备、网络接入设备、总线等。
所述处理器120可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器121可以是所述终端设备12的内部存储单元,例如终端设备12的硬盘或内存。所述存储器121也可以是所述终端设备12的外部存储设备,例如所述终端设备12上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器121还可以既包括所述终端设备12的内部存储单元也包括外部存储设备。所述存储器121用于存储所述计算机程序以及所述终端设备12所需的其他程序和数据。所述存储器121还可以用于暂时地存储已经输出或者将要输出的数据。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的终端设备、装置和方法,可以通过其它的方式实现。例如,以上所描述的终端设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被一个或多个处理器执行时,可实现上述各个方法实施例的步骤。
同样,作为一种计算机程序产品,当计算机程序产品在终端设备上运行时,使得终端设备执行时实现可实现上述各个方法实施例中的步骤。
其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random AccessMemory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括是电载波信号和电信信号。
以上所述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。
Claims (8)
1.一种目标检测方法,其特征在于,包括:
获取第一图像;
通过训练后的卷积神经网络模型对所述第一图像进行目标检测,获得检测结果,其中,所述卷积神经网络模型为改进的Yolov5模型,所述改进的Yolov5模型包括多个基本卷积模块,所述多个基本卷积模块中的至少一个基本卷积模块为第一类型的基本卷积模块,所述第一类型的基本卷积模块包括:第一卷积层、与所述第一卷积层连接的分组卷积模块和通道注意力机制模块、分别与所述分组卷积模块和所述通道注意力机制模块连接的concat模块;其中,所述第一卷积层的输出和所述分组卷积模块的输入之间设有特征图相似度计算模块,所述特征图像相似度模块用以将相似的特征图进行合并,所述分组卷积模块和所述通道注意力机制模块并联;
所述通过训练后的卷积神经网络模型对所述第一图像进行目标检测的过程中,通过所述第一类型的基本卷积模块对输入所述第一类型的基本卷积模块的第一特征图组进行处理;
其中,通过所述第一类型的基本卷积模块对输入所述第一类型的基本卷积模块的第一特征图组进行处理包括:
通过所述第一卷积层对张量为[b,c,w,h]的所述第一特征图组进行卷积处理,得到张量为[b,c,w,h]的第二特征图组;
通过所述特征图相似度计算模块对张量为[b,c,w,h]的第二特征图组进行特征相似度处理,得到张量为[b,c/2,w,h]的第三特征图组;
通过所述通道注意力机制模块对张量为[b,c/2,w,h]的第三特征图组进行特征优化处理,得到张量为[b,c/2,w,h]的第四特征图组;
通过所述分组卷积模块对所述张量为[b,c/2,w,h]的第三特征图组进行分组处理,得到张量为[b,c/2,w,h]的第五特征图组;
通过所述concat模块对所述张量为[b,c/2,w,h]的第四特征图组和张量为[b,c/2,w,h]的第五特征图组进行组合张量为[b,c,w,h]的第六特征图组;
所述通道注意力机制模块包括:
依次连接的全局池化层、至少两级全连接层和激活函数,其中,所述激活函数的输出权重乘以所述全局池化层的输入后作为所述通道注意力机制模块的输出。
2.如权利要求1所述的方法,其特征在于,所述获取第一图像包括:
获取摄像头采集的视频数据,其中,所述摄像头中设有所述改进的Yolov5模型;
对所述视频数据得到下采样,得到多个所述第一图像。
3.如权利要求1所述的方法,其特征在于,在从所述第一图像中未检测到目标物的情况下,所述检测结果为所述第一图像;
在从所述第一图像中检测到所述目标物的情况下,所述检测结果为标注所述目标物的第一图像;
在所述检测结果为标注所述目标物的第一图像的情况下,所述方法包括:
将所述标注所述目标物的第一图像发送到电子设备,所述电子设备包括显示屏,所述显示屏用于显示所述标注所述目标物的第一图像。
4.如权利要求1所述的方法,其特征在于,所述改进的Yolov5模型包括Backbone网络和Neck网络;
所述Backbone网络包括:Focus模块、SPP模块以及位于所述Focus模块和SPP模块之间的依次连接的至少三个第一子模块,所述第一子模块包括GBL模块和第一GSP模块;
所述GBL模块包括:所述基本卷积模块、BN模块和激活函数;
所述第一GSP模块包括:所述GBL模块和所述基本卷积模块;
所述Focus网络、所述SPP网络均包括所述GBL模块。
5.如权利要求4所述的方法,其特征在于,所述Neck网络包括:PAN模块和FPN模块;
所述FPN模块包括:依次连接的至少两个采样模块,所述采样模块包括依次连接的所述GBL模块、采样层、concat模块和第二GSP模块,其中,所述采样层的输出和一个所述第一子模块的输出作为所述concat模块的输入;
所述PAN模块包括:依次连接的至少两个第二子模块,所述第二子模块包括依次连接的所述GBL模块、concat模块和第二GSP模块,其中,所述GBL模块的输出和所述一个所述采样模块的输出作为所述concat模块的输入。
6.如权利要求5所述的方法,其特征在于,所述改进的yolov5模型中的每个基本卷积模块均为所述第一类型的基本卷积模块。
7.一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至6任一项所述方法的步骤。
8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序被一个或多个处理器执行时实现如权利要求1至6任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111620060.XA CN114418064B (zh) | 2021-12-27 | 2021-12-27 | 一种目标检测方法、终端设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111620060.XA CN114418064B (zh) | 2021-12-27 | 2021-12-27 | 一种目标检测方法、终端设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114418064A CN114418064A (zh) | 2022-04-29 |
CN114418064B true CN114418064B (zh) | 2023-04-18 |
Family
ID=81270100
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111620060.XA Active CN114418064B (zh) | 2021-12-27 | 2021-12-27 | 一种目标检测方法、终端设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114418064B (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021031066A1 (zh) * | 2019-08-19 | 2021-02-25 | 中国科学院深圳先进技术研究院 | 一种软骨图像分割方法、装置、可读存储介质及终端设备 |
CN112651438A (zh) * | 2020-12-24 | 2021-04-13 | 世纪龙信息网络有限责任公司 | 多类别图像的分类方法、装置、终端设备和存储介质 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10726302B2 (en) * | 2018-11-29 | 2020-07-28 | Qualcomm Incorporated | Edge computing |
CN111582007A (zh) * | 2019-02-19 | 2020-08-25 | 富士通株式会社 | 物体识别方法、装置和网络 |
CN112257794B (zh) * | 2020-10-27 | 2022-10-28 | 东南大学 | 一种基于yolo的轻量级的目标检测方法 |
CN112966810B (zh) * | 2021-02-02 | 2023-07-11 | 西北大学 | 基于改进YOLOv5s的头盔检测方法、装置、电子设备和存储介质 |
CN113011365A (zh) * | 2021-03-31 | 2021-06-22 | 中国科学院光电技术研究所 | 一种结合轻量化网络的目标检测方法 |
CN113158956B (zh) * | 2021-04-30 | 2024-06-14 | 杭州电子科技大学 | 一种基于改进型yolov5网络的垃圾检测与识别方法 |
CN113160062B (zh) * | 2021-05-25 | 2023-06-06 | 烟台艾睿光电科技有限公司 | 一种红外图像目标检测方法、装置、设备及存储介质 |
CN113486726B (zh) * | 2021-06-10 | 2023-08-01 | 广西大学 | 一种基于改进卷积神经网络的轨道交通障碍物检测方法 |
CN113487570B (zh) * | 2021-07-06 | 2024-01-30 | 东北大学 | 基于改进的yolov5x网络模型的高温连铸坯表面缺陷检测方法 |
CN113469073B (zh) * | 2021-07-06 | 2024-02-20 | 西安电子科技大学 | 一种基于轻量级深度学习的sar图像舰船检测方法及系统 |
CN113449691A (zh) * | 2021-07-21 | 2021-09-28 | 天津理工大学 | 一种基于非局部注意力机制的人形识别系统及方法 |
-
2021
- 2021-12-27 CN CN202111620060.XA patent/CN114418064B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021031066A1 (zh) * | 2019-08-19 | 2021-02-25 | 中国科学院深圳先进技术研究院 | 一种软骨图像分割方法、装置、可读存储介质及终端设备 |
CN112651438A (zh) * | 2020-12-24 | 2021-04-13 | 世纪龙信息网络有限责任公司 | 多类别图像的分类方法、装置、终端设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN114418064A (zh) | 2022-04-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3514735B1 (en) | A device and a method for image classification using a convolutional neural network | |
CN111860398B (zh) | 遥感图像目标检测方法、系统及终端设备 | |
CN108510451B (zh) | 一种基于双层卷积神经网络的重建车牌的方法 | |
CN112149694B (zh) | 一种基于卷积神经网络池化模块的图像处理方法、系统、存储介质及终端 | |
CN110443245B (zh) | 一种非限制场景下的车牌区域的定位方法、装置及设备 | |
US11416707B2 (en) | Information processing method, information processing system, and information processing apparatus | |
CN111626960A (zh) | 图像去雾方法、终端及计算机存储介质 | |
US20220398766A1 (en) | Information processing method, information processing system, and information processing device | |
CN111582032A (zh) | 行人检测方法、装置、终端设备及存储介质 | |
CN114862929A (zh) | 三维目标检测方法、装置、计算机可读存储介质及机器人 | |
CN111209873A (zh) | 一种基于深度学习的高精度人脸关键点定位方法及系统 | |
CN115578590A (zh) | 基于卷积神经网络模型的图像识别方法、装置及终端设备 | |
CN115457364A (zh) | 一种目标检测知识蒸馏方法、装置、终端设备和存储介质 | |
CN114758145A (zh) | 一种图像脱敏方法、装置、电子设备及存储介质 | |
CN112766012B (zh) | 二维码图像的识别方法、装置、电子设备及存储介质 | |
CN114418064B (zh) | 一种目标检测方法、终端设备及存储介质 | |
CN115587943B (zh) | 点云数据的去噪方法、装置、电子设备及存储介质 | |
CN116051532A (zh) | 基于深度学习的工业零件缺陷检测方法、系统及电子设备 | |
CN113239738B (zh) | 一种图像的模糊检测方法及模糊检测装置 | |
CN115578624A (zh) | 农业病虫害模型构建方法、检测方法及装置 | |
CN112084874B (zh) | 一种物体检测方法、装置及终端设备 | |
CN114998172A (zh) | 图像处理方法及相关系统 | |
Nguyen et al. | Joint image deblurring and binarization for license plate images using deep generative adversarial networks | |
CN116137079A (zh) | 一种图像处理方法、装置及设备方法 | |
CN112487911A (zh) | 智能监控环境下基于改进yolov3的实时行人检测方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |