CN116228686A - 一种基于轻量级网络的划痕缺陷检测方法、装置以及设备 - Google Patents
一种基于轻量级网络的划痕缺陷检测方法、装置以及设备 Download PDFInfo
- Publication number
- CN116228686A CN116228686A CN202310081860.1A CN202310081860A CN116228686A CN 116228686 A CN116228686 A CN 116228686A CN 202310081860 A CN202310081860 A CN 202310081860A CN 116228686 A CN116228686 A CN 116228686A
- Authority
- CN
- China
- Prior art keywords
- image
- defect detection
- scratch defect
- scratch
- data set
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/70—Labelling scene content, e.g. deriving syntactic or semantic representations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30121—CRT, LCD or plasma display
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30148—Semiconductor; IC; Wafer
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- Quality & Reliability (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Testing Or Measuring Of Semiconductors Or The Like (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Abstract
本发明公开了一种基于轻量级网络的划痕缺陷检测方法、装置、设备及存储介质,其包括:获取晶圆衬底图像并进行预处理,以构建训练样本数据集;将所述训练样本数据集输入所构建的划痕缺陷检测模型进行训练,并通过预设损失函数计算权重参数后输入所述划痕缺陷检测模型进行优化,其中,所述划痕缺陷检测模型基于DeeplabV3plus模型并采用Mobilenetv3作为主干网络进行构建;输入待检测图像至所述划痕缺陷检测模型,得到检测结果。能够快速实现不明显晶圆划痕缺陷的定位分割,能够提高图像的分割精度以及准确度。
Description
技术领域
本发明涉及工业缺陷检测技术领域,尤其涉及一种基于轻量级网络的划痕缺陷检测方法、装置以及设备。
背景技术
缺陷检测技术在工业检测领域是一项关键的技术,它可以检测出产品的外观缺陷,评价产品的质量好坏。然而,在工业生产过程中不可避免的会出现刮伤、脏污、黑点等表面缺陷。因此生产过程通常需要对产品的质量和表面磨损程度进行严格把控,使得产品的良率提升。目前对于显示屏衬底缺陷的检测大多是通过人工视力观察以及传统图像处理的方式来完成的,速度慢、效率低下,传统图像处理算法并不对所有图像适用,有时候对像素阈值与背景接近的缺陷无法达到较好的检测效果。针对所要检测的划痕缺陷特点,根据现有的网络模型还无法提取如此细微的特征进行分析并且要对如此高分辨率的图片进行逐像素点分类预测需要消耗大量的计算时间。
发明内容
有鉴于此,本发明的目的在于提出一种基于轻量级网络的划痕缺陷检测方法、装置以及设备,旨在解决上述存在的问题。
为实现上述目的,本发明提供一种基于轻量级网络的划痕缺陷检测方法,所述方法包括:
获取晶圆衬底图像并进行预处理,以构建训练样本数据集;
将所述训练样本数据集输入所构建的划痕缺陷检测模型进行训练,并通过预设损失函数计算权重参数后输入所述划痕缺陷检测模型进行优化,其中,所述划痕缺陷检测模型基于DeeplabV3 plus模型并采用Mobilenetv3作为主干网络进行构建;
输入待检测图像至所述划痕缺陷检测模型,得到检测结果。
为实现上述目的,本发明还提供一种基于轻量级网络的划痕缺陷检测装置,所述装置包括:
样本处理单元,用于获取晶圆衬底图像并进行预处理,以构建训练样本数据集;
模型构建单元,用于将所述训练样本数据集输入所构建的划痕缺陷检测模型进行训练,并通过预设损失函数计算权重参数后输入所述划痕缺陷检测模型进行优化,其中,所述划痕缺陷检测模型基于DeeplabV3 plus模型并采用Mobilenetv3作为主干网络进行构建;
划痕检测单元,用于输入待检测图像至所述划痕缺陷检测模型,得到检测结果。
为了实现上述目的,本发明还提出一种基于轻量级网络的划痕缺陷检测设备,包括处理器、存储器以及存储在所述存储器内的计算机程序,所述计算机程序被所述处理器执行以实现如上述实施例所述的一种基于轻量级网络的划痕缺陷检测方法的步骤。
为了实现上述目的,本发明还提出一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行以实现如上述实施例所述的一种基于轻量级网络的划痕缺陷检测方法的步骤。
有益效果:
以上方案,通过所构建的训练样本集以及基于DeeplabV3 plus模型并采用Mobilenetv3作为主干网络的划痕缺陷检测模型,能够更好的分割出晶圆衬底划痕缺陷特征,能够提高深度学习算法的推理速度和减少模型参数量,提高图像的分割精度以及准确度。
以上方案,能够快速实现不明显晶圆划痕缺陷的定位分割,并可在一定程度上解决工业生产中产品缺陷正负样本不集中的情况。
以上方案,通过对原始晶圆衬底图像进行初步特征处理以及无失真的图像缩放再进行图像分割构建的训练样本集能够实现对划痕的初步提取以及对高分辨率图像进行训练的目的,同时提高样本扩增的效果。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明一实施例提供的一种基于轻量级网络的划痕缺陷检测方法的流程示意图。
图2为本发明一实施例提供的获取的晶圆衬底划痕缺陷图像示意图。
图3为本发明一实施例提供的通过划痕缺陷检测模型检测的结果示意图。
图4为本发明一实施例提供的通过直方图均衡化处理后的图像。
图5为本发明一实施例提供的一种基于轻量级网络的划痕缺陷检测装置的结构示意图。
发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
为使本发明实施方式的目的、技术方案和优点更加清楚,下面将结合本发明实施方式中的附图,对本发明实施方式中的技术方案进行清楚、完整地描述,显然,所描述的实施方式是本发明一部分实施方式,而不是全部的实施方式。基于本发明中的实施方式,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施方式,都属于本发明保护的范围。因此,以下对在附图中提供的本发明的实施方式的详细描述并非旨在限制要求保护的本发明的范围,而是仅仅表示本发明的选定实施方式。基于本发明中的实施方式,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施方式,都属于本发明保护的范围。
在本发明的描述中,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。
以下结合实施例详细阐述本发明的内容。
现有中在语义分割这一领域,先后推出了FCN、U-net、PSPnet、Deeplab等模型,能够在图像语义分割任务上实现比较好的效果,其中,Deeplab被认为是这四种模型中表现最好的模型。而U-net模型被广泛应用于医学图像分割领域,在对病理图像的分割任务中有着出色表现。但是这些模型针对一些主流的数据集有着不错的效果且模型输入端图像长宽仅有几百像素值,而对于本任务而言的划痕缺陷,其存在划痕特征不明显,检测图片分辨率大、正负样本不均衡等问题。
基于此,本发明提出一种基于轻量级网络的划痕缺陷检测方法,衬底区域划痕检测可以理解为图像前景分割问题,通过在Deeplabv3 plus网络的基础上,添加混合注意力机制,分别从通道域和空间域两个方面对晶圆划痕所在区域的权重进行提升,提高了图像的分割精度、准确度,为识别分割金属锈蚀提供了一种有效方案。
参照图1所示为本发明一实施例提供的一种基于轻量级网络的划痕缺陷检测方法的流程示意图。
本实施例中,该方法包括:
S11,获取晶圆衬底图像并进行预处理,以构建训练样本数据集。
进一步的,步骤S11包括:
S11-1,采用opencv对所述晶圆衬底图像进行直方图均衡化以及阈值分割处理,得到第一图像;
S11-2,对所述第一图像进行缩放处理后,得到第二图像,基于预设分辨率大小对所述第二图像进行分割,得到第一数据集;
S11-3,选取所述第一数据集中具有划痕缺陷的图像并输入Glow生成模型中进行扩增,得到第二数据集;
S11-4,对所述第二数据集中的图像进行标注以及增强操作,得到所述训练样本数据集。
其中,在步骤S11-2中,所述对所述第一图像进行缩放处理后,得到第二图像,包括:
设所述第一图像的分辨率为ih×iw、缩放后的目标图像的分辨率为h×w,根据公式scale=INT{min{w/iw,h/ih}}计算缩放因子scale;
将所述第一图像的高和宽分别与所述缩放因子相乘,得到中间图像的高nh和宽nw;
利用双线性插值法将所述第一图像进行缩放至分辨率为nh×nw;
将所述第一图像缩放后的高nh和宽nw与所述目标图像的高h和宽w进行比较,若nh≠h或nw≠w,则对|h-nh|或者|w-nw|进行部分增加灰条,得到所述第二图像。
如图2所示的划痕缺陷图,而图3为对应图2输入至训练完成的划痕缺陷检测模型进行检测的结果图。在本实施例中,通过图像采集设备获取晶圆衬底刮伤图像,对采集到的晶圆衬底图像进行预处理以建立训练样本数据集,通过建立像素分类准则,利用预设图像处理算法提取划痕区域特征,进而实现对衬底缺陷的像素区域分类。具体的,通过对样本数据集中的图像进行图像预处理,以使划痕缺陷更加明显。一般采用opencv对晶圆衬底图像进行直方图均衡化然后再进行阈值分割处理。直方图均衡化是一种简单有效的图像增强技术,通过改变图像的直方图来改变图像中各像素的灰度,主要用于增强动态范围偏小的图像的对比度。原始图像由于其灰度分布可能集中在较窄的区间,造成图像不够清晰。采用直方图均衡化,可以把原始图像的直方图变换为均匀分布(均衡)的形式,这样就增加了像素之间灰度值差别的动态范围,从而达到增强图像整体对比度的效果。换言之,直方图均衡化的基本原理是:对在图像中像素个数多的灰度值(即对画面起主要作用的灰度值)进行展宽,而对像素个数少的灰度值(即对画面不起主要作用的灰度值)进行归并,从而增大对比度,使图像清晰,达到增强的目的。如图4所示为原始图像经过直方图均衡化处理后的图像。
首先,设定变量r代表待处理的原图像灰度值,变量s代表均衡化后图像灰度值。假定r的取值范围为区间[0,L-1],且r=0表示黑色,r=L-1表示白色,对任意满足上诉条件的r,可给出变换形式为:
s=T(r)(0≤r≤L-1)
可见,对输入的每一个r灰度值都产生一个对应的输出灰度值s。显然,变换函数T需满足以下条件:
I)变换函数T在区间[0,L-1]中必须为严格的单调递增函数(灰度变换前后不倒置);
II)当0≤r≤L-1时,0≤s=T(r)≤L-1(保证输出灰度值与输入处于相同范围);
对于一幅数字图像,像素为M×N,设灰度值为k,图像中该灰度值的个数为nk,则数字图像中的概率函数近似为:
p(rk)=nk/M×N,k=0,1,2,...,L-1
通常使用的变换公式为:
由于灰度值通常为整数,则需要对其结果进行调整:
进而对处理后的图像进行不失真的大小缩放,然后将得到的图像分割成不同块,初步扩增数据集。对于大多数神经网络模型而言,输入图片的高宽都是一样的,而本申请采集到的图片通常是超高分辨率的图像,分辨率为4000×3036,而网络输入的分辨率要求为512×512,则可将分辨率为4000×3036的图像缩放至2560×2560,再切割成多个512×512的图像。因此需要对采集到的图像进行一系列处理。首先将图像进行不失真的缩放,假设原图分辨率为ih×iw,先设定目标缩放后分辨率h×w,计算出缩放因子scale,其中缩放因子的计算公式如下:scale=INT{min{w/iw,h/ih}}
然后将原图的高和宽分别与缩放因子相乘,得到新图片高和宽,即nh和nw。使用双线性插值的方法将原图缩放到分辨率为nh×nw,最后将nh和nw与设定的h,w进行比较,如果nh≠h或nw≠w,则对|h-nh|或者|w-nw|部分增加灰条,到此就完成了图像的不失真缩放。接下来要对该缩放后的图像进行拆分处理,分成多个512×512大小的图片。
挑选出含有划痕缺陷的图片,将其单独建立一个新的数据集,传入Glow生成模型内生成更多带有缺陷的图片,组成新的扩增后的数据集。通过使用Glow生成模型训练可以产生和数据集图像相似的概率分布,从而生成更多的数据集。进而对该数据集进行人工标注打标签。
S12,将所述训练样本数据集输入所构建的划痕缺陷检测模型进行训练,并通过预设损失函数计算权重参数后输入所述划痕缺陷检测模型进行优化,其中,所述划痕缺陷检测模型基于DeeplabV3plus模型并采用Mobilenetv3作为主干网络进行构建。
在本实施例中,通过搭建深度学习神经网络模型,添加CBAM注意力机制模块进行训练,在训练之前还要对数据集中的图像进行旋转、镜像、平移等增强操作再开始训练,最后得到训练权重参数。本实施例采用的模型是DeeplabV3 plus模型,DeepLabV3plus是一个用于语义分割的模型,它提出了一种新的encoder-decoder结构,采用DeepLabv3作为编码器模块,并使用一个简单而有效的解码器模块。该模型可通过atrous卷积(空洞卷积)来控制所提取的编码器特征的分辨率,从而权衡精度和运行时间。在特征提取的过程中提取出两个不同尺寸的图像,第一个较大尺寸的图像直接传入解码器Decoder中通过一个1×1的卷积核调整通道数,第二个是经过整个主干特征提取网络后的小尺寸特征图传入ASPP结构。
为了减小网络的参数量,降低训练时间和推理时间,以及方便在工业生产端部署,本实施例采用Mobilenetv3作为主干网络进行特征提取,其参数量以及模型推理速度大幅提升。该网络采用了倒残差结构和SE通道注意力机制,可以在减小参数量的同时使模型更容易注意到目标。SE通道注意力机制是注意力机制中的一种,SE模块的目的是想通过一个权重矩阵,从通道域的角度赋予图像不同位置不同的权重,得到更重要的特征信息。它的运算过程可分为以下几步:
i)将特征图进行全局平均池化,生成一个1×1×C的向量,这样每个通道让一个数值表示。可以用如下公式表示:
ii)通过两层全连接层完成,通过权重W生成我们我所要的权重信息,其中W是通过学习得到的,用来显示的建模我们我需要的特征相关性。通过两个全连接层W1,W2对上一步得到的向量z进行处理,得到我们想要的通道权重值s,经过两层全连接层后,s中不同的数值表示不同通道的权重信息,赋予通道不同的权重。可用如下公式表示:
s=Fex(z,W)=σ(g(z,W))=σ(W2δ(W1z))
进一步对解码器进行添加另一种注意力机制模块CBAM,这是一种用于前馈卷积神经网络的简单而有效的注意模块。给定一个中间特征图,模块会沿着两个独立的维度(通道和空间)依次推断注意力图,然后将注意力图乘以输入特征图以进行自适应特征修饰。它是一种结合了通道(channel)和空间(spatial)的注意力机制模块。由于CBAM是轻量级的通用模块,因此可以以可忽略的开销将其无缝集成到任何CNN架构中,并且可以与基础CNN一起进行端到端训练。通过卷积层输出的结果会先通过一个通道注意力机制,得到加权结果之后,会再经过一个空间注意力模块,最终进行加权得到结果。
而ASPP是由空洞卷积(Atrous/Dilated Convolution)组成。通过空洞卷积可让其获得较大感受野,又可让分辨率不损失太多。ASPP中的rate参数代表的是空洞卷积卷积核之间参数的距离,不同的rate所提升的感受野大小也有所不同,感受野(F)与rate之间的公式关系如下所示:
F=2(rate-1)×(k-1)+k
其中,k代表卷积核的大小;
当rate=1时,F=3;
当rate=2时,F=7;
当rate=4时,F=15;
因此在ASPP结构中,将主干网络提取得到的特征图分成五路进行处理,最后再将五路处理后的特征图按通道拼接。
在执行完ASPP模块后就需要进行通道数的收缩,为了和大尺寸的特征图再进行通道数拼接,需要进行一个4倍的上采样使得两个尺寸大小一样,在拼接之前进行CBAM注意力机制模块的处理,最后将拼接的特征图进行一个3×3的卷积层以及四倍上采样得到预测图结果。
在本实施例中,采用的损失函数为交叉熵损失和Dice loss的组合。其中,交叉熵损失是语义分割平台利用Softmax对像素点进行分类的时候进行使用。计算公式如下:
其中,M为类别数量,yic是符号函数(0或1),如果样本i的真实类别等于c则为1,反之为0,pic是观测样本i属于类别c的预测概率。
Dice Loss是由Dice系数而得名的,Dice系数是一种用于评估两个样本相似性的度量函数,通常用于计算两个样本的相似度,其值越大意味着这两个样本越相似,取值范围在[0,1]。Dice系数的数学表达式如下:
其中,|X∩Y|表示X和Y之间交集元素的个数,|X|和|Y|分别表示X、Y中元素的个数。Dice Loss表达式如下:
其中,X表示真实分割图像的像素标签,Y表示模型预测分割图像的像素类别。|X∩Y|近似为预测图像的像素与真实标签图像的像素之间的点乘,并将点乘结果相加。|X|+|Y|分别近似为它们各自对应图像中的像素相加。
S13,输入待检测图像至所述划痕缺陷检测模型,得到检测结果。
在另一实施例中,在所述划痕缺陷检测模型进行优化之后,还包括:
S10,输入具有划痕缺陷的图像至优化后的所述划痕缺陷检测模型进行预测,得到含有分割结果的测试目标图像;利用评价指标MIOU对所述测试目标图像进行评价,以确定所述目标图像达到目标值。
在具体实施时,通过使用训练好的模型权重参数传入划痕缺陷检测网络,再输入一张带有划痕缺陷的图片进行预测,得到含有分割结果的测试目标图像。通过计算评价指标MIOU,对测试结果进行评价。IoU(Intersection over Union)是指交并比,是目标检测中使用的一个概念,IoU计算的是“预测的边框”和“真实的边框”的交叠率,即它们的交集和并集的比值。最理想情况是完全重叠,即比值为1。语义分割问题中的两个集合为:真实值(ground truth)和预测值(predicted segmentation)。这个比例可以变形为正真数(intersection)比上真正、假负、假正(并集)之和。均交并比(Mean Intersection overUnion,MIoU):语义分割的标准度量,计算所有类别交集和并集之比的平均值。假设要区分k个类别,则k+1表示加上了背景类,i表示真实值,j表示预测值,pij表示将i类别预测为j类别的个数,则某一类别的MIOU可按如下方式计算:
MIOU计算两圆交集与两圆并集之间的比例,理想情况下两圆重合,比例为1。可以用一下参数来表示计算过程:
TP表示真实值为Positive,预测为Positive,称作是正确的Positive(TruePositive=TP),
FN表示真实值为Positive,预测为Negative,称作是错误的Negative(FalseNegative=FN),
FP表示真实值为Negative,预测为Positive,称作是错误的Positive(FalsePositive=FP),
TN表示真实值为Negative,预测为Negative,称作是正确的Negative(TrueNegative=TN),则
本发明采用有监督学习和无监督学习相结合并且引入双重注意力机制算法来提高深度学习算法的推理速度和减少模型参数量。通过无监督学习可以解决缺陷训练样本过少等问题,通过对原始图像进行初步特征处理以及无失真的缩放图像再进行图像分块训练可以实现对划痕的初步提取以及对高分辨率图像进行训练的目的。快速实现不明显晶圆划痕缺陷的定位分割。
参照图5所示为本发明一实施例提供的一种基于轻量级网络的划痕缺陷检测装置的结构示意图。
在本实施例中,该装置50包括:
样本处理单元51,用于获取晶圆衬底图像并进行预处理,以构建训练样本数据集;
模型构建单元52,用于将所述训练样本数据集输入所构建的划痕缺陷检测模型进行训练,并通过预设损失函数计算权重参数后输入所述划痕缺陷检测模型进行优化,其中,所述划痕缺陷检测模型基于DeeplabV3 plus模型并采用Mobilenetv3作为主干网络进行构建;
划痕检测单元53,用于输入待检测图像至所述划痕缺陷检测模型,得到检测结果。
进一步的,所述样本处理单元51,包括:
均衡处理单元,用于采用opencv对所述晶圆衬底图像进行直方图均衡化以及阈值分割处理,得到第一图像;
缩放处理单元,用于对所述第一图像进行缩放处理后,得到第二图像,基于预设分辨率大小对所述第二图像进行分割,得到第一数据集;
扩增处理单元,用于选取所述第一数据集中具有划痕缺陷的图像并输入Glow生成模型中进行扩增,得到第二数据集;
增强处理单元,用于对所述第二数据集中的图像进行标注以及增强操作,得到所述训练样本数据集。
进一步的,所述缩放处理单元,包括:
设所述第一图像的分辨率为ih×iw、缩放后的目标图像的分辨率为h×w,根据公式scale=INT{min{w/iw,h/ih}}计算缩放因子scale;
将所述第一图像的高和宽分别与所述缩放因子相乘,得到中间图像的高nh和宽nw;
利用双线性插值法将所述第一图像进行缩放至分辨率为nh×nw;
将所述第一图像缩放后的高nh和宽nw与所述目标图像的高h和宽w进行比较,若nh≠h或nw≠w,则对|h-nh|或者|w-nw|进行部分增加灰条,得到所述第二图像。
进一步的,所述预设损失函数包括:
其中,M为类别数量,yic是符号函数(0或1),pic是观测样本i属于类别c的预测概率;
其中,|X∩Y|表示X和Y之间交集元素的个数,|X|和|Y|分别表示X、Y中元素的个数,X表示真实分割图像的像素标签,Y表示模型预测分割图像的像素类别,Dice的取值范围为[0,1]。
在另一实施例中,所述装置还包括:
测试评价单元,用于输入具有划痕缺陷的图像至优化后的所述划痕缺陷检测模型进行预测,得到含有分割结果的测试目标图像;利用评价指标MIOU对所述测试目标图像进行评价,以确定所述目标图像达到目标值。
该装置50的各个单元模块可分别执行上述方法实施例中对应步骤,故在此不对各单元模块进行赘述,详细请参见以上对应步骤的说明。
本发明实施例还提供一种基于轻量级网络的划痕缺陷检测设备,该设备包括如上所述的基于轻量级网络的划痕缺陷检测装置,其中,基于轻量级网络的划痕缺陷检测装置可以采用图5实施例的结构,其对应地,可以执行图1所示方法实施例的技术方案,其实现原理和技术效果类似,详细可以参见上述实施例中的相关记载,此处不再赘述。
所述设备包括:手机、数码相机或平板电脑等具有拍照功能的设备,或者具有图像处理功能的设备,或者具有图像显示功能的设备。所述设备可包括存储器、处理器、输入单元、显示单元、电源等部件。
其中,存储器可用于存储软件程序以及模块,处理器通过运行存储在存储器的软件程序以及模块,从而执行各种功能应用以及数据处理。存储器可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(例如图像播放功能等)等;存储数据区可存储根据设备的使用所创建的数据等。此外,存储器可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。相应地,存储器还可以包括存储器控制器,以提供处理器和输入单元对存储器的访问。
输入单元可用于接收输入的数字或字符或图像信息,以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。具体地,本实施例的输入单元除了包括摄像头,还可包括触敏表面(例如触摸显示屏)以及其他输入设备。
显示单元可用于显示由用户输入的信息或提供给用户的信息以及设备的各种图形用户接口,这些图形用户接口可以由图形、文本、图标、视频和其任意组合来构成。显示单元可包括显示面板,可选的,可以采用LCD(Liquid Crystal Display,液晶显示器)、OLED(Organic Light-Emitting Diode,有机发光二极管)等形式来配置显示面板。进一步的,触敏表面可覆盖显示面板,当触敏表面检测到在其上或附近的触摸操作后,传送给处理器以确定触摸事件的类型,随后处理器根据触摸事件的类型在显示面板上提供相应的视觉输出。
本发明实施例还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中的存储器中所包含的计算机可读存储介质;也可以是单独存在,未装配入设备中的计算机可读存储介质。该计算机可读存储介质中存储有至少一条指令,所述指令由处理器加载并执行以实现图1所示的基于轻量级网络的划痕缺陷检测方法。所述计算机可读存储介质可以是只读存储器,磁盘或光盘等。
需要说明的是,本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。对于装置实施例、设备实施例及存储介质实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
并且,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
上述说明示出并描述了本发明的优选实施例,应当理解本发明并非局限于本文所披露的形式,不应看作是对其他实施例的排除,而可用于各种其他组合、修改和环境,并能够在本文发明构想范围内,通过上述教导或相关领域的技术或知识进行改动。而本领域人员所进行的改动和变化不脱离本发明的精神和范围,则都应在本发明所附权利要求的保护范围内。
Claims (10)
1.一种基于轻量级网络的划痕缺陷检测方法,其特征在于,所述方法包括:
获取晶圆衬底图像并进行预处理,以构建训练样本数据集;
将所述训练样本数据集输入所构建的划痕缺陷检测模型进行训练,并通过预设损失函数计算权重参数后输入所述划痕缺陷检测模型进行优化,其中,所述划痕缺陷检测模型基于DeeplabV3 plus模型并采用Mobilenetv3作为主干网络进行构建;
输入待检测图像至所述划痕缺陷检测模型,得到检测结果。
2.根据权利要求1所述的一种基于轻量级网络的划痕缺陷检测方法,其特征在于,所述获取晶圆衬底图像并进行预处理,以构建训练样本数据集,包括:
采用opencv对所述晶圆衬底图像进行直方图均衡化以及阈值分割处理,得到第一图像;
对所述第一图像进行缩放处理后,得到第二图像,基于预设分辨率大小对所述第二图像进行分割,得到第一数据集;
选取所述第一数据集中具有划痕缺陷的图像并输入Glow生成模型中进行扩增,得到第二数据集;
对所述第二数据集中的图像进行标注以及增强操作,得到所述训练样本数据集。
3.根据权利要求2所述的一种基于轻量级网络的划痕缺陷检测方法,其特征在于,所述对所述第一图像进行缩放处理后,得到第二图像,包括:
设所述第一图像的分辨率为ih×iw、缩放后的目标图像的分辨率为h×w,根据公式scale=INT{min{w/iw,h/ih}}计算缩放因子scale;
将所述第一图像的高和宽分别与所述缩放因子相乘,得到中间图像的高nh和宽nw;
利用双线性插值法将所述第一图像进行缩放至分辨率为nh×nw;
将所述第一图像缩放后的高nh和宽nw与所述目标图像的高h和宽w进行比较,若nh≠h或nw≠w,则对|h-nh|或者|w-nw|进行部分增加灰条,得到所述第二图像。
5.根据权利要求1所述的一种基于轻量级网络的划痕缺陷检测方法,其特征在于,在所述划痕缺陷检测模型进行优化之后,还包括:
输入具有划痕缺陷的图像至优化后的所述划痕缺陷检测模型进行预测,得到含有分割结果的测试目标图像;利用评价指标MIOU对所述测试目标图像进行评价,以确定所述目标图像达到目标值。
6.一种基于轻量级网络的划痕缺陷检测装置,其特征在于,所述装置包括:
样本处理单元,用于获取晶圆衬底图像并进行预处理,以构建训练样本数据集;
模型构建单元,用于将所述训练样本数据集输入所构建的划痕缺陷检测模型进行训练,并通过预设损失函数计算权重参数后输入所述划痕缺陷检测模型进行优化,其中,所述划痕缺陷检测模型基于DeeplabV3 plus模型并采用Mobilenetv3作为主干网络进行构建;
划痕检测单元,用于输入待检测图像至所述划痕缺陷检测模型,得到检测结果。
7.根据权利要求6所述的一种基于轻量级网络的划痕缺陷检测装置,其特征在于,所述样本处理单元,包括:
均衡处理单元,用于采用opencv对所述晶圆衬底图像进行直方图均衡化以及阈值分割处理,得到第一图像;
缩放处理单元,用于对所述第一图像进行缩放处理后,得到第二图像,基于预设分辨率大小对所述第二图像进行分割,得到第一数据集;
扩增处理单元,用于选取所述第一数据集中具有划痕缺陷的图像并输入Glow生成模型中进行扩增,得到第二数据集;
增强处理单元,用于对所述第二数据集中的图像进行标注以及增强操作,得到所述训练样本数据集。
8.根据权利要求6所述的一种基于轻量级网络的划痕缺陷检测装置,其特征在于,所述装置还包括:
测试评价单元,用于输入具有划痕缺陷的图像至优化后的所述划痕缺陷检测模型进行预测,得到含有分割结果的测试目标图像;利用评价指标MIOU对所述测试目标图像进行评价,以确定所述目标图像达到目标值。
9.一种基于轻量级网络的划痕缺陷检测设备,其特征在于,包括处理器、存储器以及存储在所述存储器内的计算机程序,所述计算机程序被所述处理器执行以实现如权利要求1至5任意一项所述的一种基于轻量级网络的划痕缺陷检测方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行以实现如权利要求1至5任意一项所述的一种基于轻量级网络的划痕缺陷检测方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310081860.1A CN116228686A (zh) | 2023-02-06 | 2023-02-06 | 一种基于轻量级网络的划痕缺陷检测方法、装置以及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310081860.1A CN116228686A (zh) | 2023-02-06 | 2023-02-06 | 一种基于轻量级网络的划痕缺陷检测方法、装置以及设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116228686A true CN116228686A (zh) | 2023-06-06 |
Family
ID=86574392
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310081860.1A Pending CN116228686A (zh) | 2023-02-06 | 2023-02-06 | 一种基于轻量级网络的划痕缺陷检测方法、装置以及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116228686A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116952958A (zh) * | 2023-09-18 | 2023-10-27 | 杭州百子尖科技股份有限公司 | 缺陷检测方法、装置、电子设备及存储介质 |
CN117455897A (zh) * | 2023-11-30 | 2024-01-26 | 魅杰光电科技(上海)有限公司 | 一种晶圆划痕检测方法、装置、设备及存储介质 |
-
2023
- 2023-02-06 CN CN202310081860.1A patent/CN116228686A/zh active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116952958A (zh) * | 2023-09-18 | 2023-10-27 | 杭州百子尖科技股份有限公司 | 缺陷检测方法、装置、电子设备及存储介质 |
CN116952958B (zh) * | 2023-09-18 | 2023-12-29 | 杭州百子尖科技股份有限公司 | 缺陷检测方法、装置、电子设备及存储介质 |
CN117455897A (zh) * | 2023-11-30 | 2024-01-26 | 魅杰光电科技(上海)有限公司 | 一种晶圆划痕检测方法、装置、设备及存储介质 |
CN117455897B (zh) * | 2023-11-30 | 2024-04-30 | 魅杰光电科技(上海)有限公司 | 一种晶圆划痕检测方法、装置、设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111553929B (zh) | 基于融合网络的手机屏幕缺陷分割方法、装置及设备 | |
CN108399362B (zh) | 一种快速行人检测方法及装置 | |
CN116228686A (zh) | 一种基于轻量级网络的划痕缺陷检测方法、装置以及设备 | |
KR102166458B1 (ko) | 인공신경망 기반의 영상 분할을 이용한 불량 검출 방법 및 불량 검출 장치 | |
CN109785385B (zh) | 视觉目标跟踪方法及系统 | |
JP2024509411A (ja) | 欠陥検出方法、装置及びシステム | |
CN113205507B (zh) | 一种视觉问答方法、系统及服务器 | |
CN111882489A (zh) | 用于水下图像同时增强的超分辨率图形恢复方法 | |
CN111339902B (zh) | 一种数显仪表的液晶屏示数识别方法及装置 | |
CN111696079B (zh) | 一种基于多任务学习的表面缺陷检测方法 | |
CN110866922B (zh) | 基于强化学习和迁移学习的图像语义分割模型及建模方法 | |
CN114897738A (zh) | 一种基于语义不一致性检测的图像盲修复方法 | |
Wang et al. | Focuslitenn: High efficiency focus quality assessment for digital pathology | |
CN114841992A (zh) | 基于循环生成对抗网络和结构相似性的缺陷检测方法 | |
CN115829995A (zh) | 基于像素级的多尺度特征融合的布匹瑕疵检测方法及系统 | |
CN116342536A (zh) | 基于轻量化模型的铝带材表面缺陷检测方法、系统及设备 | |
CN114677377A (zh) | 显示屏缺陷检测方法、训练方法、装置、设备及介质 | |
CN112686896B (zh) | 基于分割网络的频域空间结合的玻璃缺陷检测方法 | |
Lan et al. | Online knowledge distillation network for single image dehazing | |
CN114548250A (zh) | 一种基于数据分析的手机外观检测方法及装置 | |
CN115170793A (zh) | 面向工业产品质检的小样本图像分割自我校准方法 | |
CN113962928A (zh) | 一种基于多尺度特征蒸馏的缺陷检测方法、装置及介质 | |
CN114998706B (zh) | 一种基于强化学习决策区域细划分的图像目标检测方法 | |
CN114882298B (zh) | 一种对抗互补学习模型的优化方法及装置 | |
Revathy et al. | Fabric defect detection and classification via deep learning-based improved Mask RCNN |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |