CN115100402A - 小样本分割模型、小目标检测方法、系统、介质及设备 - Google Patents
小样本分割模型、小目标检测方法、系统、介质及设备 Download PDFInfo
- Publication number
- CN115100402A CN115100402A CN202210494910.4A CN202210494910A CN115100402A CN 115100402 A CN115100402 A CN 115100402A CN 202210494910 A CN202210494910 A CN 202210494910A CN 115100402 A CN115100402 A CN 115100402A
- Authority
- CN
- China
- Prior art keywords
- module
- image
- decoding
- layer
- segmentation model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/16—Image acquisition using multiple overlapping images; Image stitching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Image Analysis (AREA)
Abstract
本发明公开的小样本分割模型、小目标检测方法、系统、介质及设备,其中小样本分割模型包括依次首尾相连的主干网络、ASPP模块、第一解码网络以及第二解码网络,其中第一解码网络将输入的不同尺度的特征图像与倒数第二层下采样卷积模块输出的浅层特征图像进行拼接并上采样,获得第一解码特征图像;第二解码网络中每层第二解码模块输入的解码特征图像与对应的下采样卷积模块输出的浅层特征图像进行注意力处理,获得全局特征图像,第二解码网络将输入的第一解码特征图像逐层与全局特征图像进行拼接并上采样,获得解码图像。该小样本分割模型在有限的样本条件下,可精确分割检测区域,应用该模型进行的小目标检测,可快速识别小目标。
Description
技术领域
本发明涉及数据处理技术领域,特别涉及一种小样本分割模型、小目标检测方法、系统、介质及设备。
背景技术
在工业生产中,工业零件表面或一些特殊的区域通常会因为机器加工而产生缺陷,这些缺陷一方面可能会破坏零件的外观美感,另一方面可能会对工业零件的性能造成损坏,从而影响后续的产品。因此,对工业零件进行缺陷检测是生产的一项重要环节。
但由于现有的工业零件存在缺陷的数量较少,无法提供足够多的训练集,且缺陷目标往往体积较小、形状各异,采用传统的机器学习方法无法在少量现有的数据集中学习到所有类型的异常点,从而无法全面的检测出工业零件的缺陷。
因此,需要寻找一种小样本分割模型和小目标检测方法以克服现有技术中的问题。
发明内容
本发明的目的是提供一种小样本分割模型、小目标检测方法、系统、介质及设备,在有限的样本条件下,精确分割检测区域,快速识别小目标。
为了解决上述技术问题,本发明的技术方案是:
一方面,提供一种小样本分割模型,包括:
主干网络,配置有多层下采样卷积模块,将输入的目标物图像进行逐层下采样,得到由首层到底层、且与下采样卷积模块层数相应个数的不同尺寸的特征图像,其中底层输出深层特征图像,其余每层输出对应的浅层特征图像;
ASPP模块,配置为将输入的所述深层特征图像进行多尺度图像特征提取,获得不同尺度的特征图像;
第一解码网络,配置有第一解码模块,将输入的所述不同尺度的特征图像与倒数第二层下采样卷积模块输出的浅层特征图像进行拼接并上采样,获得第一解码特征图像;
第二解码网络,配置有多层第二解码模块,每层第二解码模块输入的解码特征图像与对应的下采样卷积模块输出的浅层特征图像进行注意力处理,获得全局特征图像,所述第二解码网络将输入的所述第一解码特征图像逐层与全局特征图像进行拼接并上采样,获得解码图像。
作为优选,所述第一解码模块包括第一拼接模块和第一上采样卷积模块,所述第一拼接模块的输入端分别与所述ASPP模块的输出端和所述倒数第二层下采样卷积模块的输出端相连,所述第一拼接模块的输出端与所述第一上采样卷积模块的输入端相连。
作为优选,所述第一解码网络还包括第一卷积模块,所述倒数第二层下采样卷积模块的输出端通过所述第一卷积模块与所述第一拼接模块的输入端相连。
作为优选,所述第二解码模块包括第一注意力模块、第二拼接模块以及第二上采样卷积模块,每层第二解码模块的第一注意力模块的输入端分别与对应的下采样卷积模块的输出端和上一层上采样卷积模块的输出端相连,其中,首层第二解码模块的第一注意力模块的输入端与所述第一上采样卷积模块的输出端相连,其余第二解码模块的第一注意力模块的输入端分别与上一层的第二上采样卷积模块的输出端相连;
每层第二解码模块的第二拼接模块的输入端分别与对应的第一注意力模块的输出端和上一层上采样卷积模块的输出端相连,其中首层第二解码模块的第二拼接模块输入端与所述第一上采样卷积模块的输出端相连,其余第二解码模块的第二拼接模块的输入端与上一层第二上采样卷积模块的输出端相连;
每层第二解码模块的第二上采样卷积模块的输入端与对应的第二拼接模块的输出端相连;
底层第二解码模块的第二上采样卷积模块的输出端输出解码图像。
作为优选,所述主干网络采用resent50网络。
第二方面,提供一种小目标检测方法,包括:
获取目标物的图像训练集;
构建上述的小样本分割模型;
采用所述目标物的图像训练集训练所述小样本分割模型,获取模型权重;
获取待预测目标物的图像,通过训练好的小样本分割模型提取所述待预测目标物的图像中检测区域的图像;
遍历所述检测区域的图像,查找目标缺陷的边界,若查找到封闭轮廓,则所述待预测目标物存在异常;反之,则所述待预测目标物不存在异常。
作为优选,在通过所述小样本分割模型提取所述待预测目标物的图像中检测区域的图像时,当提取的像素点大于预设值时,设定为标注区域,当提取的像素点小于预设值时,设定为未标注区,获得待预测目标物的图像中检测区域的标注图像;
将所述标注图像与待预测目标物的图像转换成矩阵数据,进行矩阵相乘后转换成图像,获得检测区域的图像。
作为优选,遍历所述检测区域的图像,定义边界点,从所述边界点开始以封闭轮廓的边界跟踪方法进行边界查找。
作为优选,在定义所述边界点时,若存在一中心像素点与其周围的八个领域像素点之间的差值大于设定的阈值,则定义该中心像素点为边界点。
第三方面,提供一种小目标检测系统,包括:
模型构建模块,用于构建上述的小样本分割模型;
模型训练模块,用于将目标物的图像训练集训练所述小样本分割模型,获取模型权重;
模型预测模块,用于将待预测目标物的图像通过训练好的小样本分割模型提取所述待预测目标物的图像中检测区域的图像;
检测判断模块,用于遍历所述检测区域的图像,查找目标缺陷的边界,若查找到封闭轮廓,则所述待预测目标物存在异常;反之,则所述待预测目标物不存在异常。
第四方面,提供一种计算机可读存储介质,所述计算机可读存储介质包括存储的程序,其中,所述程序执行上述的方法。
第五方面,提供一种电子设备,包括:
一个或多个处理器,存储器以及一个或多个程序,其中,所述一个或多个程序被存储在所述存储器中,并且被配置为由所述一个或多个处理器执行,所述一个或多个程序包括用于执行上述的方法。
与现有技术相比,本发明具有以下优点:
本发明的小样本分割模型,对主干网络输出的深层特征图像通过ASPP模块进行多尺度图像特征提取,保留主干网络中每一层下采样卷积模块输出的浅层特征图像,将浅层特征图像与对应每层第二解码模块输入的解码特征图像进行注意力处理,获取全局信息,进行细节特征提取,从而在与经ASPP模块处理输入的多尺度的特征图像逐层拼接和解码过程中大大提高了对检测区域的分割精度,在训练样本数量较少的情况下也可以完成精确分割。
进一步的,本发明提供的小目标识别方法,先采用小样本分割模型精确分割检测区域,再通过从边界点开始以封闭轮廓的边界跟踪方法进行边界查找,不受异常点形状、大小的影响,也可以快速识别异常点,完成检测,大大提高了检测效率。
附图说明
在此描述的附图仅用于解释目的,而不意图以任何方式来限制本发明公开的范围。另外,图中的各部件的形状和比例尺寸等仅为示意性的,用于帮助对本发明的理解,并不是具体限定本发明各部件的形状和比例尺寸。本领域的技术人员在本发明的教导下,可以根据具体情况选择各种可能的形状和比例尺寸来实施本发明。在附图中:
图1是本发明中小样本分割模型的结构示意图;
图2是本发明中小目标检测方法的流程图;
图3是本发明中小目标检测系统的结构示意图;
图4是本发明中模型训练模块的结构示意图;
图5是本发明中模型预测模块的结构示意图;
图6是本发明中检测判断模块的结构示意图;
图7是本发明中预处理模块的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明中的技术方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,当元件被称为“设置于”另一个元件,它可以直接在另一个元件上或者也可以存在居中的元件。当一个元件被认为是“连接”另一个元件,它可以是直接连接到另一个元件或者可能同时存在居中元件。本文所使用的术语“垂直的”、“水平的”、“左”、“右”以及类似的表述只是为了说明的目的,并不表示是唯一的实施例。
除非另有定义,本文所使用的所有的技术和科学术语与属于本发明的技术领域的技术人员通常理解的含义相同。本文中在本发明的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本发明。本文所使用的术语“和/或”包括一个或多个相关的所列项目的任意的和所有的组合。
如图1所示,本实施方式提供一种小样本分割模型,包括依次首尾相连的主干网络1、ASPP模块2、第一解码网络3以及第二解码网络4。
其中,所示主干网络1配置有多层下采样卷积模块,将输入的目标物图像进行逐层下采样,得到由首层到底层、且与下采样卷积模块层数相应个数的不同尺寸的特征图像,其中底层输出深层特征图像,其余每层输出对应的浅层特征图像。
具体的,在本实施例中主干网络1优选采用resent50网络,包括依次首尾相连的第一下采样卷积模块11、第二下采样卷积模块12、第三下采样卷积模块13、第四下采样卷积模块14、第五下采样卷积模块15。定义第一下采样卷积模块11为首层,第五下采样卷积模块15为底层,第五下采样卷积模块15输出深层特征图像,其余的第一至第四下采样卷积模块14分别输出对应尺寸的浅层特征图像。进一步的,第一下采样卷积模块11包含7*7的卷积层,第二下采样卷积模块12包含1*1、3*3、1*1的卷积层,第三下采样卷积模块13包含1*1、3*3、1*1的卷积层、第四下采样卷积模块14包含1*1、3*3、1*1的膨胀卷积层、第五下采样卷积模块15包含1*1、3*3、1*1的膨胀卷积层,膨胀卷积层的感受野更大。当参数量一定的时候,普通卷积只能提取小块的特征,而膨胀卷积层可以通过提高空洞率,让每次采样时在输入特征图上的重合采样区域更多,从而获得更密集的特征响应。比如一个普通的卷积神经网络输入与输出尺寸之间差了32倍(down sampling 5次),当希望功能响应的空间密度加倍时,可以把最后一层的卷积或者池化层步幅stride设置为1,然后后续卷积替换为空洞率为2的空洞卷积,这样就能获得更密集的空间响应而不需要学习更多的参数。这里的密集,指的是特征图的分辨率,普通卷积的下采样操作会让特征图尺寸越来越小,最后得到的结果对应回原图的位置上,把每个特征图的像素点看作提取到的特征的话,整张图的特征响应就会变得稀疏。因此如果将最后一个缩小分辨率的卷积层替换成膨胀卷积(空洞卷积),可以在保持运算量的同时不减小特征图分辨率,使输入与输出尺寸之间差16倍,这样就获得了更密集的特征响应。
ASPP模块2的输入端与第五下采样卷积模块15的输出端相连,配置为将输入的深层特征图像进行多尺度图像特征提取,获得不同尺度的特征图像;
第一解码网络3,配置有第一解码模块,包括第一拼接模块31和第一上采样卷积模块32,第一拼接模块31的输入端分别与ASPP模块2的输出端和倒数第二层下采样卷积模块即第四下采样卷积模块14的输出端相连,第一拼接模块31的输出端与第一上采样卷积模块32的输入端相连。第一解码网络3可以将输入的不同尺度的特征图像与倒数第二层下采样卷积模块(即第四下采样卷积模块14)输出的浅层特征图像进行拼接并上采样,获得第一解码特征图像。进一步的,为了减小运算量,在倒数第二层下采样卷积模块(即第四下采样卷积模块14)的输出端和第一拼接模块31的输入端之间引入包含有1*1的卷积层的第一卷积模块33,通过降低特征空间减少运算量。
第二解码网络4,配置有多层相互连接的第二解码模块,在本实施例中,与主干网络1对应的优选设置有三层第二解码模块,每层第二解码模块包括第一注意力模块41、第二拼接模块42以及第二上采样卷积模块43。
每层第二解码模块的第一注意力模块41的输入端分别与对应的下采样卷积模块的输出端和上一层上采样卷积模块的输出端相连,每层第二解码模块的第二拼接模块42的输入端分别与对应的第一注意力模块41的输出端和上一层上采样卷积模块的输出端相连,每层第二解码模块的第二上采样卷积模块43的输入端与对应的第二拼接模块42的输出端相连。
其中,首层的第二解码模块的第一注意力模块41的输入端与第一上采样卷积模块32的输出端相连,其余的第二解码模块的第一注意力模块41的输入端分别与上一层的第二上采样卷积模块43的输出端相连;首层第二解码模块的第二拼接模块42输入端与第一上采样卷积模块32的输出端相连,其余第二解码模块的第二拼接模块42的输入端与上一层第二上采样卷积模块43的输出端相连。具体的,首层的第二解码模块的第一注意力模块41的输入端分别与第三下采样卷积模块13的输出端和第一解码模块的第一上采样卷积模块32的输出端相连;首层的第二解码模块的第二拼接模块42输入端与首层第二解码模块的第一注意力模块41的输出端和第一解码模块的第一上采样卷积模块32的输出端相连;首层的第二解码模块的第二上采样卷积模块43的输入端与首层的第二解码模块的第二拼接模块42的输出端相连。第二层的第二解码模块的第一注意力模块41的输入端分别与第二下采样卷积模块12的输出端和首层的第二解码模块的第二上采样卷积模块43的输出端相连;第二层的第二解码模块的第二拼接模块42输入端与第二层的第二解码模块的第一注意力模块41的输出端和首层的第二上采样卷积模块43的输出端相连;第二层的第二解码模块的第二上采样卷积模块43的输入端与第二层的第二解码模块的第二拼接模块42的输出端相连。底层的第二解码模块的第一注意力模块41的输入端分别与第一下采样卷积模块11的输出端和第二层的第二解码模块的第二上采样卷积模块43的输出端相连;底层的第二解码模块的第二拼接模块42输入端与底层的第二解码模块的第一注意力模块41的输出端和第二层的第二上采样卷积模块43的输出端相连;底层的第二解码模块的第二上采样卷积模块43的输入端与底层的第二解码模块的第二拼接模块42的输出端相连。底层的第二解码模块的第二上采样卷积模块43的输出端输出解码图像。进一步的,第二上采样卷积模块43包含3*3、3*3的卷积层。
第二解码网络4中每层第二解码模块输入的解码特征图像与对应的下采样卷积模块输出的浅层特征图像进行注意力处理,获得全局特征图像,第二解码网络将输入的第一解码特征图像逐层与全局特征图像进行拼接并上采样,最终获得解码图像。
本实施方式提供的小样本分割模型,对主干网络输出的深层特征图像通过ASPP模块进行多尺度图像特征提取,保留主干网络中每一层下采样卷积模块输出的浅层特征图像,将浅层特征图像与对应每层第二解码模块输入的解码特征图像进行注意力处理,获取全局信息,进行细节特征提取,从而在与经ASPP模块处理输入的多尺度的特征图像逐层拼接和解码过程中可以大大提高分割精度。特别是保留了第一层下采样卷积模块输出的浅层特征图像,可以尽可能的保留图像细节,另外解码网络与主干网络不对称设置,考虑到ASPP模块已输出的信容量足够高,而进行注意力处理后,会有部分信息流失,因此在ASPP模块输出后的第一解码网络中不添加注意力模块,从而进一步提高解码精度。
如图2所示,本实施方式还提供一种小目标检测方法,为了详细介绍该方法的实际应用,在本实施方式中以检测工业零件中的小缺陷/小异常点为例,进一步说明。小目标检测方法包括以下步骤:
S1:获取目标物的图像训练集。
该图像训练集包含已知的正常图像和异常图像,且与常规的训练集不同,传统的机器学习方法采用的训练集通常需要具有成千上万张图像,而该图像训练集中各种图像的数量均为几十张。
进一步的,为了减小后续模型运算量,在获取目标物的图像训练集后,可以先对训练集进行预处理,包括以下步骤:
A:对目标物的图像的检测区域进行标注,例如可以通过手动分割检测区域,使数据集中的每幅图像都有两个二进制单元掩码,相同大小的图像只需标注检测区域的灰度图片,以便后续模型训练学习检测区域的特征。
B:将图像训练集中的训练样本调整为预设尺寸。例如可以将原始分辨率较高的图片缩小,以减小模型运行时的空间占用,从而提高模型的运行效率。优选的,本模型的预设尺寸最优分辨率为512*512,当然也可以选择其他预设尺寸,在此不做进一步限定。
S2:构建上述的小样本分割模型。
S3:采用目标物的图像训练集训练小样本分割模型,获取模型权重。
对小样本分割模型设置参数,采用resnet50网络作为主干网络;优化器采用随机梯度,其中权值衰减weight decay设置为0.0001,动量momentum设置为0.9,数据batchsize设置为4,epoch设置为400次;在loss的使用上采用了Dice loss与BCE loss组合的方式实现对整体和细节的精度提高。在该参数下,将目标物的图像训练集输入模型进行训练,在模型训练完成后,获取模型的最优权重作为模型在下一步预测过程中的模型权重。
S4:获取待预测目标物的图像,通过训练好的小样本分割模型提取待预测目标物的图像中检测区域的图像。
在小样本分割模型中导入最优权重,将待预测目标物的图像输入模型,通过模型运行获得待预测目标物的图像中检测区域的标注图像,其中当提取的像素点大于预设值时,设定为标注区域,当提取的像素点小于预设值时,设定为未标注区。例如,当预测的像素点大于0.5的为白点(标注区域),预测的像素点小于0.5的为黑点(未标注区域)。
将标注图像与待预测目标物的图像转换成矩阵数据,进行矩阵相乘后转换成图像,获得检测区域的图像。
S5:遍历检测区域的图像,查找目标缺陷的边界,若查找到封闭轮廓,则待预测目标物存在异常;反之,则待预测目标物不存在异常。
具体的,在遍历检测区域的图像前,可以先将检测区域的图像转换为灰度图像。
在遍历检测区域的图像时,可以先定义边界点,从边界点开始以封闭轮廓的边界跟踪方法进行边界查找。
其中,在定义边界点时,可以认为若存在一中心像素点与其周围的八个领域像素点之间的差值大于设定的阈值,则定义该中心像素点为边界点。
进一步的,以封闭轮廓的边界跟踪方法包括:
a:找到一边界点,记录该边界点为起始点;
b:初始跟踪方向为起始点左上方0方向;
c:判断该点是否为边界点,是则把该位置设为新的跟踪的起始点,将找到该边界点的方向逆时针旋转90度,作为新的跟踪方向,继续检测新的跟踪方向上的边界点;若不是边界点,则沿顺时针旋转45度,一直找到边界点;
d:不断重复步骤c寻找边界点,直到回到起始点。
当然,在结果输出时,除了反馈是否存在异常外,还可以根据需求进一步的输出存在异常的图像,并对异常点进行框注,在此不做进一步描述。
本实施方式提供的小目标检测方法,先采用小样本分割模型精确分割检测区域,再通过从边界点开始以封闭轮廓的边界跟踪方法进行边界查找,不受异常点形状、大小的影响,也可以快速识别异常点,完成检测,并且由于分割的小目标,图像结构相较于整张图片复杂的较低,缺陷检测难道较小,进而检测成功率较高。
如图3至图7所示,本实施方式还提供了一种小目标检测系统,包括:
模型构建模块200,用于构建上述的小样本分割模型。
模型训练模块300,用于将目标物的图像训练集训练小样本分割模型,获取模型权重;
模型预测模块400,用于将待预测目标物的图像通过训练好的小样本分割模型提取待预测目标物的图像中检测区域的图像;
检测判断模块500,用于遍历检测区域的图像,查找目标缺陷的边界,若查找到封闭轮廓,则待预测目标物存在异常;反之,则待预测目标物不存在异常。
其中,小样本分割模型包括:
主干网络1,配置有多层下采样卷积模块,将输入的目标物图像进行逐层下采样,得到由首层到底层、且与下采样卷积模块层数相应个数的不同尺寸的特征图像,其中底层输出深层特征图像,其余每层输出对应的浅层特征图像;
ASPP模块2,配置为将输入的深层特征图像进行多尺度图像特征提取,获得不同尺度的特征图像;
第一解码网络3,配置有第一解码模块,将输入的不同尺度的特征图像与倒数第二层下采样卷积模块输出的浅层特征图像进行拼接并上采样,获得第一解码特征图像;
第二解码网络4,配置有多层第二解码模块,每层第二解码模块输入的解码特征图像与对应的下采样卷积模块输出的浅层特征图像进行注意力处理,获得全局特征图像,第二解码网络将输入的第一解码特征图像逐层与全局特征图像进行拼接并上采样,获得解码图像。
如图4所示,模型训练模块300包括:
第一获取单元301,用于获取小样本分割模型;
第二获取单元302,用于获取目标物的图像训练集;
训练单元303,用于通过目标物的图像训练集对小样本分割模型进行训练,获取模型权重。
如图5所示,模型预测模块400包括:
第三获取单元401,用于获取待预测目标物的图像;
处理单元402,用于通过小样本分割模型提取待预测目标物的图像中检测区域的标注图像;
转换单元403,用于将标注图像与待预测目标物的图像转换成矩阵数据,进行矩阵相乘后转换成图像,获得检测区域的图像。
如图6所示,检测判断模块500包括:
第一查找单元501,用于查找检测区域的图像中目标缺陷的边界点;
第二查找单元502,用于查找目标缺陷各边界点之间的封闭轮廓;
判断单元503,用于判断待预测目标物的图像中是否存在异常点。
在一种优选实施方式中,系统还包括预处理模块100,用于将输入的目标物的图像进行预处理,如图7所示,包括:
标注单元101,用于对目标物的图像的检测区域进行标注;
尺寸预设单元102,用于将目标物的图像进行尺寸缩减。
需要说明的是:上述实施例提供的小目标检测系统在触发检测业务时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将系统的内部结构划分成不同的功能模块,以完成上述的全部或者部分功能。另外,上述实施方式提供的小目标检测系统与小样本检测方法的实施方式属于同一构思,关于小目标检测系统的具体实现过程详见方法实施方式,在此不在赘述。上述小目标检测系统中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。同样的,可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于存储器中,以便于处理器调用执行以上各个模块对应的操作。
进一步的,上述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施方式的目的。
本实施方式还提供了一种计算机可读存储介质,计算机可读存储介质包括存储的程序,该程序被处理器执行时实现上述小目标检测的方法。
本实施方式还提供了一种处理器,其特征在于,处理器用于运行程序,且该程序被运行时执行上述的小目标检测的方法。
本实施方式还提供了一种电子设备,包括一个或多个处理器、一个或多个处理器关联的与处理器关联的存储器以及一个或多个存储于存储器内的程序,该程序在被一个或多个处理器读取执行时,执行前述的小目标检测的方法。
关于执行程序指令所执行的小目标检测方法,具体执行细节及相应的有益效果与前述方法中的描述内容是一致的,此处将不再赘述。
可以理解的是,在本发明的上述实施方式中,对各个实施方式的描述都各有侧重,某个实施例中没有详述的部分,也可以参见其他实施例的相关描述。
应该理解,以上描述是为了进行图示说明而不是为了进行限制。通过阅读上述描述,在所提供的示例之外的许多实施例和许多应用对本领域技术人员来说都将是显而易见的。因此,本教导的范围不应该参照上述描述来确定,而是应该参照前述权利要求以及这些权利要求所拥有的等价物的全部范围来确定。出于全面之目的,所有文章和参考包括专利申请和公告的公开都通过参考结合在本文中。在前述权利要求中省略这里公开的主题的任何方面并不是为了放弃该主体内容,也不应该认为申请人没有将该主题考虑为所公开的发明主题的一部分。
Claims (12)
1.一种小样本分割模型,其特征在于,包括:
主干网络,配置有多层下采样卷积模块,将输入的目标物图像进行逐层下采样,得到由首层到底层、且与下采样卷积模块层数相对应的不同尺寸的特征图像,其中底层输出深层特征图像,其余每层输出对应的浅层特征图像;
ASPP模块,配置为将输入的所述深层特征图像进行多尺度图像特征提取,获得不同尺度的特征图像;
第一解码网络,配置有第一解码模块,将输入的所述不同尺度的特征图像与倒数第二层下采样卷积模块输出的浅层特征图像进行拼接并上采样,获得第一解码特征图像;
第二解码网络,配置有多层第二解码模块,每层第二解码模块输入的解码特征图像与对应的下采样卷积模块输出的浅层特征图像进行注意力处理,获得全局特征图像,所述第二解码网络将输入的所述第一解码特征图像逐层与全局特征图像进行拼接并上采样,获得解码图像。
2.根据权利要求1所述的小样本分割模型,其特征在于,所述第一解码模块包括第一拼接模块和第一上采样卷积模块,所述第一拼接模块的输入端分别与所述ASPP模块的输出端和所述倒数第二层下采样卷积模块的输出端相连,所述第一拼接模块的输出端与所述第一上采样卷积模块的输入端相连。
3.根据权利要求2所述的小样本分割模型,其特征在于,所述第一解码网络还包括第一卷积模块,所述倒数第二层下采样卷积模块的输出端通过所述第一卷积模块与所述第一拼接模块的输入端相连。
4.根据权利要求2所述的小样本分割模型,其特征在于,所述第二解码模块包括第一注意力模块、第二拼接模块以及第二上采样卷积模块,每层第二解码模块的第一注意力模块的输入端分别与对应的下采样卷积模块的输出端和上一层上采样卷积模块的输出端相连,其中,首层第二解码模块的第一注意力模块的输入端与所述第一上采样卷积模块的输出端相连,其余第二解码模块的第一注意力模块的输入端分别与上一层的第二上采样卷积模块的输出端相连;
每层第二解码模块的第二拼接模块的输入端分别与对应的第一注意力模块的输出端和上一层上采样卷积模块的输出端相连,其中首层第二解码模块的第二拼接模块输入端与所述第一上采样卷积模块的输出端相连,其余第二解码模块的第二拼接模块的输入端与上一层第二上采样卷积模块的输出端相连;
每层第二解码模块的第二上采样卷积模块的输入端与对应的第二拼接模块的输出端相连;
底层第二解码模块的第二上采样卷积模块的输出端输出解码图像。
5.根据权利要求1-4任意一项所述的小样本分割模型,其特征在于,所述主干网络采用resent50网络。
6.一种小目标检测方法,其特征在于,包括:
获取目标物的图像训练集;
构建如权利要求1-5任意一项所述的小样本分割模型;
采用所述目标物的图像训练集训练所述小样本分割模型,获取模型权重;
获取待预测目标物的图像,通过训练好的小样本分割模型提取所述待预测目标物的图像中检测区域的图像;
遍历所述检测区域的图像,查找目标缺陷的边界,若查找到封闭轮廓,则所述待预测目标物存在异常;反之,则所述待预测目标物不存在异常。
7.根据权利要求6所述的小目标检测方法,其特征在于,在通过所述小样本分割模型提取所述待预测目标物的图像中检测区域的图像时,当提取的像素点大于预设值时,设定为标注区域,当提取的像素点小于预设值时,设定为未标注区,获得待预测目标物的图像中检测区域的标注图像;
将所述标注图像与待预测目标物的图像转换成矩阵数据,进行矩阵相乘后转换成图像,获得检测区域的图像。
8.根据权利要求6所述的小目标检测方法,其特征在于,遍历所述检测区域的图像,定义边界点,从所述边界点开始以封闭轮廓的边界跟踪方法进行边界查找。
9.根据权利要求8所述的小目标检测方法,其特征在于,在定义所述边界点时,若存在一中心像素点与其周围的八个领域像素点之间的差值大于设定的阈值,则定义该中心像素点为边界点。
10.一种小目标检测系统,其特征在于,包括:
模型构建模块,用于构建如权利要求1-5任意一项所述的小样本分割模型;
模型训练模块,用于将目标物的图像训练集训练所述小样本分割模型,获取模型权重;
模型预测模块,用于将待预测目标物的图像通过训练好的小样本分割模型提取所述待预测目标物的图像中检测区域的图像;
检测判断模块,用于遍历所述检测区域的图像,查找目标缺陷的边界,若查找到封闭轮廓,则所述待预测目标物存在异常;反之,则所述待预测目标物不存在异常。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质包括存储的程序,其中,所述程序执行权利要求6至9中任意一项所述的方法。
12.一种电子设备,其特征在于,包括:
一个或多个处理器,存储器以及一个或多个程序,其中,所述一个或多个程序被存储在所述存储器中,并且被配置为由所述一个或多个处理器执行,所述一个或多个程序包括用于执行权利要求6至9中任意一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210494910.4A CN115100402A (zh) | 2022-05-07 | 2022-05-07 | 小样本分割模型、小目标检测方法、系统、介质及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210494910.4A CN115100402A (zh) | 2022-05-07 | 2022-05-07 | 小样本分割模型、小目标检测方法、系统、介质及设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115100402A true CN115100402A (zh) | 2022-09-23 |
Family
ID=83287310
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210494910.4A Pending CN115100402A (zh) | 2022-05-07 | 2022-05-07 | 小样本分割模型、小目标检测方法、系统、介质及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115100402A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115546660A (zh) * | 2022-11-25 | 2022-12-30 | 成都国星宇航科技股份有限公司 | 基于视频卫星数据的目标检测方法、装置及设备 |
-
2022
- 2022-05-07 CN CN202210494910.4A patent/CN115100402A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115546660A (zh) * | 2022-11-25 | 2022-12-30 | 成都国星宇航科技股份有限公司 | 基于视频卫星数据的目标检测方法、装置及设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108647585B (zh) | 一种基于多尺度循环注意力网络的交通标识符检测方法 | |
CN111652217B (zh) | 文本检测方法、装置、电子设备及计算机存储介质 | |
CN109840556B (zh) | 一种基于孪生网络的图像分类识别方法 | |
CN111768388B (zh) | 一种基于正样本参考的产品表面缺陷检测方法及系统 | |
CN111784673B (zh) | 缺陷检测模型训练和缺陷检测方法、设备及存储介质 | |
CN113807355B (zh) | 一种基于编解码结构的图像语义分割方法 | |
CN111681273B (zh) | 图像分割方法、装置、电子设备及可读存储介质 | |
CN111462120A (zh) | 一种基于语义分割模型缺陷检测方法、装置、介质及设备 | |
CN114897779A (zh) | 基于融合注意力的宫颈细胞学图像异常区域定位方法及装置 | |
CN112967249B (zh) | 一种基于深度学习的预制桥墩钢筋孔制造误差智能识别方法 | |
CN115908772A (zh) | 一种基于Transformer和融合注意力机制的目标检测方法及系统 | |
CN112861915A (zh) | 一种基于高级语义特征无锚框非合作目标检测方法 | |
CN115272330A (zh) | 基于电池表面图像的缺陷检测方法、系统及相关设备 | |
CN114049356A (zh) | 一种结构表观裂缝检测方法、装置及系统 | |
CN111192320B (zh) | 一种位置信息确定方法、装置、设备和存储介质 | |
CN110879972B (zh) | 一种人脸检测方法及装置 | |
CN115994900A (zh) | 基于迁移学习的无监督缺陷检测方法和系统、存储介质 | |
CN115100402A (zh) | 小样本分割模型、小目标检测方法、系统、介质及设备 | |
CN114677349A (zh) | 编解码端边缘信息增强和注意引导的图像分割方法及系统 | |
CN114639102A (zh) | 基于关键点与尺寸回归的细胞分割方法和装置 | |
CN116051532A (zh) | 基于深度学习的工业零件缺陷检测方法、系统及电子设备 | |
CN113610856B (zh) | 训练图像分割模型和图像分割的方法和装置 | |
CN111462127A (zh) | 一种面向自动驾驶的实时语义分割方法及系统 | |
CN111899161A (zh) | 一种超分辨率重建方法 | |
CN117611599B (zh) | 融合中心线图和增强对比度网络的血管分割方法及其系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |