CN112884744A - 检测方法及装置、检测设备和存储介质 - Google Patents
检测方法及装置、检测设备和存储介质 Download PDFInfo
- Publication number
- CN112884744A CN112884744A CN202110199112.4A CN202110199112A CN112884744A CN 112884744 A CN112884744 A CN 112884744A CN 202110199112 A CN202110199112 A CN 202110199112A CN 112884744 A CN112884744 A CN 112884744A
- Authority
- CN
- China
- Prior art keywords
- training
- target detection
- detection model
- image
- defects
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
Abstract
一种检测方法、检测装置、检测设备和非易失性计算机可读存储介质。检测方法包括获取多个具有缺陷的工件的多个训练图像;标注训练图像中的缺陷;将标注前的多个训练图像和标注后的多个训练图像作为训练集,输入到目标检测模型进行训练,以获取训练至收敛的目标检测模型;及根据收敛后的目标检测模型检测待测件的图像的缺陷。通过对具有缺陷的训练图像进行缺陷标注后,再输入目标检测模型进行训练,得到训练至收敛的目标检测模型,相较于通过模板匹配算法检测缺陷时,一般通过灰度的模板图像进行匹配而言,通过训练后的目标检测模型,能够准确地识别缺陷和背景图像的噪声,在检测缺陷时受到图像背景的影响较小,不易产生过检,从而提升检测效果。
Description
技术领域
本申请涉及检测技术领域,特别涉及一种检测方法、检测装置、检测设备和非易失性计算机可读存储介质。
背景技术
目前,基于模板匹配的缺陷检测算法在检测背景复杂的工件的图像时,容易将图像中原本不是缺陷的部分识别为缺陷,导致大量的过检,检测效果较差。
发明内容
本申请提供了一种检测方法、检测装置、检测设备和非易失性计算机可读存储介质。
本申请实施方式的检测方法包括获取多个具有缺陷的工件的多个训练图像;标注所述训练图像中的缺陷;将标注前的多个所述训练图像和标注后的多个所述训练图像作为训练集,输入到目标检测模型进行训练,以获取训练至收敛的所述目标检测模型;及根据收敛后的所述目标检测模型检测待测件的图像的缺陷。
本申请实施方式的检测装置包括获取模块、标注模块、训练模块和检测模块。所述获取块用于获取多个具有缺陷的工件的多个训练图像;所述标注模块用于标注所述训练图像中的缺陷;所述训练模块用于将标注前的多个所述训练图像和标注后的多个所述训练图像作为训练集,输入到目标检测模型进行训练,以获取训练至收敛的所述目标检测模型;及检测模块用于根据收敛后的所述目标检测模型检测待测件的图像的缺陷。
本申请实施方式的检测设备包括处理器。所述处理器用于:获取多个具有缺陷的工件的多个训练图像;标注所述训练图像中的缺陷;将标注前的多个所述训练图像和标注后的多个所述训练图像作为训练集,输入到目标检测模型进行训练,以获取训练至收敛的所述目标检测模型;及根据收敛后的所述目标检测模型检测待测件的图像的缺陷。
本申请实施方式的一种包含计算机程序的非易失性计算机可读存储介质,当所述计算机程序被一个或多个处理器执行时,使得所述处理器执行所述检测方法。所述检测方法包括获取多个具有缺陷的工件的多个训练图像;标注所述训练图像中的缺陷;将标注前的多个所述训练图像和标注后的多个所述训练图像作为训练集,输入到目标检测模型进行训练,以获取训练至收敛的所述目标检测模型;及根据收敛后的所述目标检测模型检测待测件的图像的缺陷。
本申请的检测方法、检测装置、检测设备和非易失性计算机可读存储介质,通过对具有缺陷的训练图像进行缺陷标注后,再输入目标检测模型进行训练,从而得到训练至收敛的目标检测模型,相较于通过模板匹配算法检测缺陷时,一般通过灰度的模板图像进行匹配而言,通过训练后的目标检测模型,能够准确地识别缺陷和背景图像的噪声,在检测缺陷时受到图像背景的影响较小,不易产生过检,从而能够提升检测效果。
本申请的附加方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本申请的实践了解到。
附图说明
为了更清楚地说明本申请实施方式或现有技术中的技术方案,下面将对实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请某些实施方式的检测方法的流程示意图;
图2是本申请某些实施方式的检测装置的模块示意图;
图3是本申请某些实施方式的检测设备的平面示意图;
图4是本申请某些实施方式的检测方法的流程示意图;
图5至图9是本申请某些实施方式的检测方法的原理示意图;
图10至图14是本申请某些实施方式的检测方法的流程示意图;及
图15是本申请某些实施方式的处理器和计算机可读存储介质的连接示意图。
具体实施方式
以下结合附图对本申请的实施方式作进一步说明。附图中相同或类似的标号自始至终表示相同或类似的元件或具有相同或类似功能的元件。另外,下面结合附图描述的本申请的实施方式是示例性的,仅用于解释本申请的实施方式,而不能理解为对本申请的限制。
请参阅图1至图3,本申请实施方式的检测方法包括以下步骤:
011:获取多个具有缺陷的工件的多个训练图像;
012:标注训练图像中的缺陷;
013:将标注前的多个训练图像和标注后的多个训练图像作为训练集,输入到目标检测模型进行训练,以获取训练至收敛的目标检测模型;及
014:根据收敛后的目标检测模型检测待测件200的图像的缺陷。
本申请实施方式的检测装置10包括获取模块11、标注模块12、训练模块13和检测模块14。获取模块11用于获取多个具有缺陷的工件的多个训练图像;标注模块12用于标注训练图像中的缺陷;训练模块13用于将标注前的多个训练图像和标注后的多个训练图像作为训练集,输入到目标检测模型进行训练,以获取训练至收敛的目标检测模型;检测模块14用于根据收敛后的目标检测模型检测待测件200的图像的缺陷。也即是说,步骤011可以由获取模块11实现、步骤012可以由标注模块12执行、步骤013可以由训练模块13执行和步骤014可以由检测模块14执行。
本申请实施方式的检测设备100包括处理器20。处理器20用于:获取多个具有缺陷的工件的多个训练图像;标注训练图像中的缺陷;将标注前的多个训练图像和标注后的多个训练图像作为训练集,输入到目标检测模型进行训练,以获取训练至收敛的目标检测模型;及根据收敛后的目标检测模型检测待测件200的图像的缺陷。也即是说,步骤011、步骤012、步骤013和步骤014可以由处理器20执行。
具体地,检测设备100可以是测量机。可以理解,检测设备100的具体形式并不限于测量机,还可以是任意能够对待测件200进行检测的设备。
检测设备100包括处理器20、运动平台30和传感器40。处理器20和传感器40均可设置在运动平台30。运动平台30可用于承载待测件200,运动平台30移动以带动传感器40移动,以使得传感器40采集待测件200的信息。
例如,运动平台30包括XY运动平台31和Z运动平台32,传感器40设置在运动平台30上,具体为:传感器40设置在Z运动平台32,其中,XY运动平台31用于控制待测件200沿水平面移动,改变待测件200和传感器40在水平面的相对位置,Z运动平台32用于控制传感器40沿垂直水平面的方向移动,如此,通过XY运动平台31和Z运动平台32配合实现传感器40相对待测件200的三维位置(即,在水平面的相对位置和垂直水平面方向的相对位置)。
可以理解,运动平台30并不限于上述结构,只需能够改变传感器40相对待测件200的三维位置即可。
传感器40可以是一个或多个,多个传感器40可以是不同类型的传感器40,如传感器40可包括可见光摄像头、深度摄像头等。本实施方式中,传感器40为可见光摄像头。
在获取具有缺陷的工件的训练图像时,可将预先已经检测的、具有缺陷的工件放置在运动平台30,处理器20则控制运动平台30移动,以使得传感器40拍摄工件的原始图像,以作为训练图像。
拍摄原始图像时,处理器20可根据传感器40的视场范围,调整传感器40与工件之间的距离,以使得工件位于视场范围内,从而通过拍摄一次图像即可得到整个工件的原始图像;或者,可使得传感器40每次拍摄时,视场范围仅覆盖工件的部分区域,通过移动拍摄工件的不同区域,以得到多张原始图像,然后将多张原始图像合成以得到整个工件的原始图像。
在选取拍摄原始图像的工件时,选取的工件可以均是同一类型的工件,使得后续进行训练后得到的目标检测模型专门用于检测该类型的工件,从而提高模板检测模型的检测准确性。当然,选取的工件也可以是包含不同类型的工件,从而使得训练后得到的目标检测模型能够同时实现多种类型工件的缺陷,应用较为广泛。本实施方式以工件均为晶圆为例进行说明,晶圆的缺陷一般包括外来物、残胶、氧化、气泡、褶皱、破裂等。
为了提升训练效果,在选取晶圆时,可选取晶圆图案、或者晶圆背景图案互不相同的多个晶圆,从而获取图像背景互不相同的多个训练图像,以提升训练图像的多样性,提升训练效果的同时,还可减少训练后的目标检测模型受到图像背景的影响,使得目标检测模型即使在不同图像背景下,依旧能够准确地进行缺陷检测。
此外,在选取晶圆时,还可选取具有至少部分不同类型的缺陷晶圆。例如,选取了晶圆A、晶圆B、晶圆C,则晶圆A、晶圆B和晶圆C三者具有的缺陷至少部分不同,如晶圆A具有外来物、残胶和氧化的缺陷,晶圆B具有残胶、氧化和气泡的缺陷,晶圆C具有氧化、气泡、褶皱和破裂的缺陷。从而使得训练图像具有的缺陷存在一定差异,可提升训练图像的多样性,从而提升训练效果。
可以理解,不同类型的工件,出现缺陷概率最大的区域是不同的。因此,在获取训练图像时,可截取原始图像中,预定区域的部分以作为训练图像,预定区域即为当前工件出现缺陷概率最大的区域,从而保证训练图像尺寸较小以降低计算量的同时,使得训练图像具有足够的缺陷以进行后续的训练。
在一个例子中,工件为晶圆,预定区域一般为晶圆的中心区域,如中心区域为以晶圆中心为圆心,半径为预定半径的圆形区域,预定半径可根据晶圆的半径确定,如预定半径为晶圆的半径的60%、70%、75%、80%、90%等。因此,在拍摄并获取到晶圆的原始图像后,可截取原始图像中与中心区域对应的图像,从而得到训练图像。
在得到训练图像后,可对训练图像中的缺陷预先进行标注。例如,质检人员根据经验,对训练图像中的缺陷进行标注。如标注出训练图像中缺陷的类型,然后通过在训练图像中使用缺陷框(如矩形框、圆形框等)框选出缺陷,以作为缺陷的位置。或者,处理器20基于预设的模板匹配算法,首先对训练图像的缺陷进行检测,然后由质检人员进行确定,以框选缺陷的位置并标注缺陷的类型,从而在提高缺陷标注速度的同时,降低质检人员的工作量,降低质检人员因疲劳产生误判的几率。
处理器20可获取标注后的多个训练图像,然后处理器20将标注前的多个训练图像和标注后的多个训练图像作为训练集,输入到目标检测模型中进行训练,直至目标检测模型收敛,由于经过标注后的训练图像中的缺陷的类型和位置较为准确,可提升目标检测模型的检测效果。
其中,目标检测模型可以是二阶检测算法(如Faster R-CNN及其变种)、一阶检测算法(如YOLOV3及其变种)、anchor-free检测算法(如CenterNet及其变种)等,在此不作限制。
经过训练集训练,并调整后的目标检测模型能够准确检测当前类型的工件的缺陷时,则可认为目标检测模型收敛。
最后,处理器20根据收敛后的目标检测模型,在传感器40拍摄到待测件200的图像后,对待测件200的图像进行检测,以识别待测件200的图像中的缺陷。
本申请的检测方法、检测装置10和检测设备100,通过对具有缺陷的训练图像进行缺陷标注后,再输入目标检测模型进行训练,从而得到训练至收敛的目标检测模型,相较于通过模板匹配算法检测缺陷时,一般通过灰度的模板图像进行匹配而言,通过训练后的目标检测模型,能够准确地识别缺陷和背景图像的噪声,在检测缺陷时受到图像背景的影响较小,不易产生过检,从而能够提升检测效果。另外,相较于模板匹配算法会产生过检,故需要质检人员对检出的缺陷再次进行确认,造成大量人力的浪费而言,训练后的模板检测模型能够准确地检出缺陷,无需再次进行人工确认,可节省大量的人力,且避免了质检人员疲劳导致的缺陷检测的准确性差的问题。
请参阅2、图3和图4,在某些实施方式中,在步骤013之前,检测算法还包括:
015:对多个训练图像进行扩增处理,扩增处理包括镜像、平移、旋转、剪切和变形中至少一种。
在某些实施方式中,检测装置10还包括扩增模块15。扩增模块15用于对多个训练图像进行扩增处理,扩增处理包括镜像、平移、旋转、剪切和变形中至少一种。也即是说,步骤015可以由扩增模块15执行。
在某些实施方式中,处理器20还用于对多个训练图像进行扩增处理,扩增处理包括镜像、平移、旋转、剪切和变形中至少一种。也即是说,步骤015可以由处理器20执行。
具体地,为了进一步提升训练图像的数量和多样性,处理器20可对根据原始图像得到的训练图像进行扩增处理。
请参阅图5,例如,处理器20对每个训练图像P1进行镜像处理,以得到每个训练图像P1的镜像图像P2,并作为新的训练图像P1。镜像处理后的镜像图像P2和训练图像P1镜面对称,且对称轴可以是任意的,如以训练图像P1的任一边为对称轴进行镜像处理(图5则以训练图像P1的最右侧的边作为对称轴进行镜像处理),或者以训练图像P1的对角线或任意两边中点的连线为对称轴进行镜像处理等,从而通过镜像处理得到多个新的训练图像。
请参阅图6,再例如,处理器20对每个训练图像P1进行平移处理,以得到每个训练图像P1的平移图像P3,并作为新的训练图像P1。具体首先以训练图像P1确定预定的图像区域(即,训练图像P1所占的区域),然后对训练图像P1进行平移,如左平移、右平移、左上平移等(图6中为向右平移),然后将预定的图像区域的图像(即,平移图像P3)作为新的训练图像P1,平移后的缺陷在图像中的位置发生变化,从而得到多个新的训练图像P1。
请参阅图7,再例如,处理器20对每个训练图像P1进行旋转处理,以得到每个训练图像P1的旋转图像P4,并作为新的训练图像P1。具体首先以训练图像P1确定预定的图像区域,然后对训练图像P1进行旋转,如顺时针或逆时针旋转10度、30度、60度、90度、140度等(图7为逆时针旋转30度),然后将预定的图像区域的图像(及,旋转图像P4)作为新的训练图像P1,旋转后的缺陷在图像中的位置发生变化,从而得到多个新的训练图像P1。
请参阅图8,再例如,处理器20对每个训练图像P1进行剪切处理,以得到每个训练图像的剪切图像P5,并作为新的训练图像P1。具体首先以训练图像P1确定预定的图像区域,然后对训练图像P1进行剪切,如剪切训练图像P1的1/4、1/3、1/2等(图8为剪切训练图像的1/2),然后将预定的图像区域的图像(即剪切图像P5)作为新的训练图像P1,从而得到多个新的训练图像P1。
请参阅图9,再例如,处理器20对每个训练图像P1进行变形处理,以得到每个训练图像P1的变形图像P6,并作为新的训练图像P1。具体首先以训练图像P1确定预定的图像区域,然后对训练图像P1进行变形,如对训练图像沿横向进行压缩,使得原本矩形的训练图像P1变为带缺口的矩形,然后将预定的图像区域的图像(即变形图像P6)作为新的训练图像P1,变形后的缺陷在图像中的位置和形状均发生变化,从而得到多个新的训练图像P1。
当然,处理器20还可同时对训练图像进行平移处理和旋转处理;或者同时进行平移处理、旋转处理和镜像处理;或者同时进行平移处理、旋转处理、镜像处理和剪切处理;或者,同时进行平移处理、旋转处理和镜像处理,且平移处理、旋转处理和镜像处理分别以不同的距离、不同的角度和不同的对称轴分别进行多次等,在此不再一一列举。
通过对训练图像进行扩增处理,无需获取较多原始图像即可获取大量的训练图像且训练图像的多样性较好,可提升对目标检测模型的训练效果。
请参阅图2、图3和图10,在某些实施方式中,步骤013包括:
0131:输入标注前的训练图像至目标检测模型,以输出检测结果;
0132:将检测结果与标注后的训练图像进行比对以确定第一损失值;及
0133:根据第一损失值调整目标检测模型,以使得目标检测模型收敛。
在某些实施方式中,训练模块13还用于输入标注前的训练图像至目标检测模型,以输出检测结果;将检测结果与标注后的训练图像进行比对以确定第一损失值;及根据第一损失值调整目标检测模型,以使得目标检测模型收敛。也即是说,步骤0131至步骤0133可以由训练模块13执行。
在某些实施方式中,处理器20还用于输入标注前的训练图像至目标检测模型,以输出检测结果;将检测结果与标注后的训练图像进行比对以确定第一损失值;及根据第一损失值调整目标检测模型,以使得目标检测模型收敛。也即是说,步骤0131至步骤0133可以由处理器20执行。
具体地,在训练时,首先输入标注前的训练图像到目标检测模型,然后目标检测模型会输出检测结果,检测结果包括每个缺陷的类型和位置,然后将检测结果和标注后的训练图像进行对比,如对比检测结果和标注后的训练图像的对应位置的缺陷的类型是否相同,并确定位置的偏差,从而确定第一损失值;处理器20根据第一损失值调整目标检测模型,以使得目标检测模型收敛。例如,根据检测结果和标注后的训练图像的对应位置的缺陷的类型是否相同来调整对缺陷的类型检测参数,根据检测结果和标注后的训练图像的对应位置的缺陷位置偏差调整缺陷的位置检测参数,通过包含大量的标注前和标注后的训练图像的训练集进行检测及调整,从而使得目标检测模型收敛,保证目标检测模型的检测效果。
请参阅图2、图3和图11,在某些实施方式中,步骤0132包括:
01321:将检测结果中缺陷的类型和标注后的训练图像中对应的缺陷的类型进行比对,以确定类型损失值;
01322:将检测结果中缺陷的位置和标注后的训练图像中对应的缺陷的位置进行比对,以确定位置损失值;
01323:根据类型损失值和位置损失值确定第一损失值。
在某些实施方式中,训练模块13还用于将检测结果中缺陷的类型和标注后的训练图像中对应的缺陷的类型进行比对,以确定类型损失值;将检测结果中缺陷的位置和标注后的训练图像中对应的缺陷的位置进行比对,以确定位置损失值;根据类型损失值和位置损失值确定第一损失值。也即是说,步骤1321至步骤01323可以由训练模块13执行。
在某些实施方式中,处理器20还用于将检测结果中缺陷的类型和标注后的训练图像中对应的缺陷的类型进行比对,以确定类型损失值;将检测结果中缺陷的位置和标注后的训练图像中对应的缺陷的位置进行比对,以确定位置损失值;根据类型损失值和位置损失值确定第一损失值。也即是说,步骤01321和步骤01323可以由处理器20执行。
具体地,在确定第一损失值时,可将检测结果中的缺陷的类型和标注后的训练图像中对应(如位置对应)的缺陷的类型进行比对,以确定类型损失值。若检测结果中的缺陷的类型和标注后的训练图像中对应的缺陷的类型相同,则确定损失值为0,若检测结果中的缺陷的类型和标注后的训练图像中对应的缺陷的类型不同,则确定损失值为1。
然后可将检测结果中缺陷的位置和标注后的训练图像中对应(如位置对应)的缺陷的位置进行比对,以确定位置损失值。如检测结果中缺陷的位置通过第一缺陷框进行标注,标注后的训练图像中对应的缺陷通过第二缺陷框标注,第一缺陷框和第二缺陷框均为矩形,则可计算两者的位置坐标的差值(如第一缺陷框和第二缺陷框的中心的位置坐标的差值),然后根据该差值确定检测结果中缺陷和标注后的训练图像中对应的缺陷的距离,从而根据距离计算位置损失值,距离越大,则位置损失值越大。
由于缺陷类型的判断的重要性较高,因此,在根据类型损失值和位置损失值确定第一损失值时,可赋予类型损失值较大的权值,如第一损失值=a*类型损失值+b*位置损失值,其中,a大于b。从而保证处理器20根据第一损失值调整目标检测模型后,对缺陷的类型的检测准确性。
请参阅图2、图3和图12,在某些实施方式中,0133包括:
01331:对训练集进行变换处理以得到验证集;
01332:输入验证集到调整后目标检测模型,以输出第二损失值;
01333:在第二损失值小于预设阈值时,确定目标检测模型收敛;
01334:在第二损失值大于预设阈值时,将验证集作为训练集,再次训练目标检测模型,直至目标检测模型收敛。
在某些实施方式中,训练模块13还用于对训练集进行变换处理以得到验证集;输入验证集到调整后目标检测模型,以输出第二损失值;在第二损失值小于预设阈值时,确定目标检测模型收敛;在第二损失值大于预设阈值时,将验证集作为训练集,再次训练目标检测模型,直至目标检测模型收敛。也即是说,步骤01331至步骤01334可以由训练模块13执行。
在某些实施方式中,处理器20还用于对训练集进行变换处理以得到验证集;输入验证集到调整后目标检测模型,以输出第二损失值;在第二损失值小于预设阈值时,确定目标检测模型收敛;在第二损失值大于预设阈值时,将验证集作为训练集,再次训练目标检测模型,直至目标检测模型收敛。也即是说,步骤01331至步骤01334可以由处理器20执行。
具体地,在根据第一损失值调整目标检测模型后,需要确定目标检测模型是否收敛,此时可对训练集进行变换处理以得到验证集,变换处理可以是对训练图像进行平移、旋转、镜像、剪切和变形中至少一种,具体变换过程可参考扩增处理,在此不再赘述。变换处理后即可得到新的训练图像,将每个训练图像均进行变换处理后,即可得到由多张新的训练图像形成的验证集。验证集包括每个变换后的训练图像,其中,对于标注前后对应的训练图像则进行相同的变换处理,以使得其在验证集中依旧对应。验证集中的训练图像与训练集中的训练图像均不相同,从而使得验证集能够准确验证目标检测模型是否收敛。
输入验证集到目标检测模型后,目标检测模型输出第二损失值,此时处理器20判断第二损失值是否大于预设阈值。若第二损失值小于预设阈值,则说明检测的损失较小,检测准确性已达到要求,可确定目标检测模型已收敛。
若第二损失值大于预设阈值,则说明检测的损失过大,检测准确性依旧未达到要求,此时可确定目标检测模型未收敛,需要继续训练。此时则以验证集作为训练集,并可以再次对训练集进行扩增处理以增加训练集的训练图像的数量和多样性,再次对目标检测模型进行第二轮训练,在训练后,再次通过对训练集进行变换处理以得到验证集,再次验证目标检测模型是否收敛,在未收敛时,继续以验证集作为训练集并进行扩增处理,再次对目标检测模型进行第三轮训练,如此循环,直至训练后的目标检测模型收敛。
请参阅图2、图3和图13,在某些实施方式中,0133包括:
01335:输入预设的验证集到目标检测模型,以输出第三损失值,验证集与训练集的图像不同;
01336:在第三损失值小于预设阈值时,确定目标检测模型收敛;
01337:在第三损失值大于预设阈值时,对训练集进行变换处理,并根据变换处理后的训练集再次训练目标检测模型,直至目标检测模型收敛。
在某些实施方式中,训练模块13还用于输入预设的验证集到目标检测模型,以输出第三损失值,验证集与训练集的图像不同;在第三损失值小于预设阈值时,确定目标检测模型收敛;在第三损失值大于预设阈值时,对训练集进行变换处理,并根据变换处理后的训练集再次训练目标检测模型,直至目标检测模型收敛。也即是说,步骤01335至步骤01337可以由训练模块13执行。
在某些实施方式中,处理器20还用于输入预设的验证集到目标检测模型,以输出第三损失值,验证集与训练集的图像不同;在第三损失值小于预设阈值时,确定目标检测模型收敛;在第三损失值大于预设阈值时,对训练集进行变换处理,并根据变换处理后的训练集再次训练目标检测模型,直至目标检测模型收敛。也即是说,步骤01335至步骤01337可以由处理器20执行。
具体地,在根据第一损失值调整目标检测模型后,需要确定目标检测模型是否收敛。此时处理器20可先获取预设的验证集,验证集中的图像与训练集中的训练图像均不相同,从而使得验证集能够准确验证目标检测模型是否收敛。
然后处理器20输入预设的验证集到目标检测模型后,目标检测模型输出第三损失值,此时处理器20判断第三损失值是否大于预设阈值。若第三损失值小于预设阈值,则说明检测的损失较小,检测准确性已达到要求,可确定目标检测模型已收敛。
若第三损失值大于预设阈值,则说明检测的损失过大,检测准确性依旧未达到要求,此时可确定目标检测模型未收敛,需要继续训练。此时可再次对训练集进行扩增处理以增加训练集的训练图像的数量和多样性,再次对目标检测模型进行第二轮训练,在训练后,再次通过预设的验证集验证目标检测模型是否收敛,在未收敛时,继续对训练集进行扩增处理,再次对目标检测模型进行第三轮训练,如此循环,直至训练后的目标检测模型收敛。
请参阅图2、图3和图14,在某些实施方式中,步骤014包括:
0141:根据收敛后的目标检测模型检测待测件200的图像,以确定缺陷的类型、位置及置信度;
0142:在置信度大于缺陷的类型对应的置信度阈值时,输出缺陷的类型、位置及置信度。
在某些实施方式中,检测模块14还用于根据收敛后的目标检测模型检测待测件200的图像,以确定缺陷的类型、位置及置信度;在置信度大于缺陷的类型对应的置信度阈值时,输出缺陷的类型、位置及置信度。也即是说,步骤0141和步骤0142可以由检测模块14执行。
在某些实施方式中,处理器20还用于根据收敛后的目标检测模型检测待测件200的图像,以确定缺陷的类型、位置及置信度;在置信度大于缺陷的类型对应的置信度阈值时,输出缺陷的类型、位置及置信度。也即是说,步骤0141和步骤0142可以由处理器20执行。
具体地,在目标检测模型训练完成后,检测设备100通过传感器40获取到待测件200的图像,然后处理器20根据目标检测模型检测待测件200的图像,以确定缺陷的类型、位置和置信度。当置信度大于当前缺陷的类型对应的置信度阈值时,则可确定当前缺陷检测准确,从而输出当前缺陷的类型、位置和置信度,以作为检测结果。
其中,置信度阈值与缺陷的类型对应,不同类型的缺陷对应不同的置信度阈值,从而针对性的提升不同类型的缺陷的检测准确性,且本申请的目标检测模型为端到端模型,端到端模型仅使用一个模型、一个目标函数,相较于多模块模型训练目标可能存在细微差异导致的训练效果难以达到最优,且不同模块之间的误差会相互影响,影响最终的检测准确性而言,端到端模型的实施和维护均较简单,且能够使得训练后的模型达到最优效果,检测效果较好且工程复杂度较低。
请参阅图15,本申请实施方式的一个或多个包含计算机程序302的非易失性计算机可读存储介质300,当计算机程序302被一个或多个处理器20执行时,使得处理器20可执行上述任一实施方式的标定方法。
例如,请结合图1至图3,当计算机程序302被一个或多个处理器20执行时,使得处理器20执行以下步骤:
011:获取多个具有缺陷的工件的多个训练图像;
012:标注训练图像中的缺陷;
013:将标注前的多个训练图像和标注后的多个训练图像作为训练集,输入到目标检测模型进行训练,以获取训练至收敛的目标检测模型;及
014:根据收敛后的目标检测模型检测待测件200的图像的缺陷。
再例如,请结合图2、图3和图4,当计算机程序302被一个或多个处理器20执行时,处理器20还可以执行以下步骤:
015:对多个训练图像进行扩增处理,扩增处理包括镜像、平移、旋转、剪切和变形中至少一种。
在本说明书的描述中,参考术语“一个实施方式”、“一些实施方式”、“示意性实施方式”、“示例”、“具体示例”或“一些示例”等的描述意指结合实施方式或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施方式或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施方式或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施方式或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施方式或示例以及不同实施方式或示例的特征进行结合和组合。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本申请的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本申请的实施方式所属技术领域的技术人员所理解。
尽管上面已经示出和描述了本申请的实施方式,可以理解的是,上述实施方式是示例性的,不能理解为对本申请的限制,本领域的普通技术人员在本申请的范围内可以对上述实施方式进行变化、修改、替换和变型。
Claims (15)
1.一种检测方法,其特征在于,包括:
获取多个具有缺陷的工件的多个训练图像;
标注所述训练图像中的缺陷;
将标注前的多个所述训练图像和标注后的多个所述训练图像作为训练集,输入到目标检测模型进行训练,以获取训练至收敛的所述目标检测模型;及
根据收敛后的所述目标检测模型检测待测件的图像的缺陷。
2.根据权利要求1所述的检测方法,其特征在于,多个所述训练图像的图像背景互不相同;和/或
多个所述训练图像包含的缺陷的类型至少部分不同。
3.根据权利要求1所述的检测方法,其特征在于,所述工件包括晶圆,所述缺陷包括外来物、残胶和氧化中至少一种。
4.根据权利要求1所述的检测方法,其特征在于,所述获取多个具有缺陷的工件的多个训练图像,包括:
获取多个具有缺陷的所述工件的多个原始图像;及
获取多个所述原始图像中预定区域的图像,以作为所述训练图像。
5.根据权利要求1所述的检测方法,其特征在于,所述标注所述训练图像中的缺陷,包括:
标注多个所述训练图像的缺陷的类型;及
通过缺陷框标注多个所述训练图像的缺陷的位置。
6.根据权利要求1所述的检测方法,其特征在于,在将标注前的多个所述训练图像和标注后的多个所述训练图像作为训练集,输入目标检测模型进行训练,以获取训练至收敛的所述目标检测模型之前,还包括:
对多个所述训练图像进行扩增处理,所述扩增处理包括镜像、平移、旋转、剪切和变形中至少一种。
7.根据权利要求1所述的检测方法,其特征在于,所述将标注前的多个所述训练图像和标注后的多个所述训练图像作为训练集,输入目标检测模型进行训练,以获取训练至收敛的所述目标检测模型,包括:
输入所述标注前的所述训练图像至所述目标检测模型,以输出检测结果;
将所述检测结果与标注后的所述训练图像进行比对以确定第一损失值;及
根据所述第一损失值调整所述目标检测模型,以使得目标检测模型收敛。
8.根据权利要求7所述的检测方法,其特征在于,所述将所述检测结果与标注后的所述训练图像进行比对以确定第一损失值,包括:
将所述检测结果中所述缺陷的类型和所述标注后的所述训练图像中对应的所述缺陷的类型进行比对,以确定类型损失值;
将所述检测结果中所述缺陷的位置和所述标注后的所述训练图像中对应的所述缺陷的位置进行比对,以确定位置损失值;
根据所述类型损失值和所述位置损失值确定所述第一损失值。
9.根据权利要求8所述的检测方法,其特征在于,所述类型损失值的权值大于所述位置损失值的权值。
10.根据权利要求7所述的检测方法,其特征在于,所述根据所述第一损失值调整所述目标检测模型,以使得目标检测模型收敛,包括:
对所述训练集进行变换处理以得到验证集;
输入所述验证集到调整后所述目标检测模型,以输出第二损失值;
在所述第二损失值小于预设阈值时,确定所述目标检测模型收敛;
在所述第二损失值大于所述预设阈值时,将所述验证集作为所述训练集,再次训练所述目标检测模型,直至所述目标检测模型收敛。
11.根据权利要求7所述的检测方法,其特征在于,所述根据所述第一损失值调整所述目标检测模型,以使得目标检测模型收敛,包括:
输入预设的验证集到所述目标检测模型,以输出第三损失值,所述验证集与所述训练集的图像不同;
在所述第三损失值大于预设阈值时,确定所述目标检测模型收敛;
在所述第三损失值小于所述预设阈值时,对所述训练集进行变换处理,并根据变换处理后的所述训练集再次训练所述目标检测模型,直至所述目标检测模型收敛。
12.根据权利要求7所述的检测方法,其特征在于,所述根据收敛后的所述目标检测模型检测待测件的图像的缺陷,包括:
根据收敛后的所述目标检测模型检测所述待测件的图像,以确定所述缺陷的类型、位置及置信度;
在所述置信度大于所述缺陷的类型对应的置信度阈值时,输出所述缺陷的类型、位置及置信度。
13.一种检测装置,其特征在于,包括:
获取模块,用于获取多个具有缺陷的工件的多个训练图像;
标注模块,用于标注所述训练图像中的缺陷;
训练模块,用于将标注前的多个所述训练图像和标注后的多个所述训练图像作为训练集,输入到目标检测模型进行训练,以获取训练至收敛的所述目标检测模型;及
检测模块,用于根据收敛后的所述目标检测模型检测待测件的图像的缺陷。
14.一种检测设备,其特征在于,包括处理器,所述处理器用于:
获取多个具有缺陷的工件的多个训练图像;
标注所述训练图像中的缺陷;
将标注前的多个所述训练图像和标注后的多个所述训练图像作为训练集,输入到目标检测模型进行训练,以获取训练至收敛的所述目标检测模型;及
根据收敛后的所述目标检测模型检测待测件的图像的缺陷。
15.一种包含计算机程序的非易失性计算机可读存储介质,所述计算机程序被处理器执行时,使得所述处理器执行权利要求1-12任意一项所述的检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110199112.4A CN112884744A (zh) | 2021-02-22 | 2021-02-22 | 检测方法及装置、检测设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110199112.4A CN112884744A (zh) | 2021-02-22 | 2021-02-22 | 检测方法及装置、检测设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112884744A true CN112884744A (zh) | 2021-06-01 |
Family
ID=76056875
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110199112.4A Pending CN112884744A (zh) | 2021-02-22 | 2021-02-22 | 检测方法及装置、检测设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112884744A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115690101A (zh) * | 2022-12-29 | 2023-02-03 | 摩尔线程智能科技(北京)有限责任公司 | 缺陷检测方法、装置、电子设备、存储介质和程序产品 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004163416A (ja) * | 2002-10-23 | 2004-06-10 | Nippon Steel Corp | 欠陥検査装置 |
CN108802051A (zh) * | 2018-07-10 | 2018-11-13 | 华南理工大学 | 一种柔性ic基板直线线路气泡及折痕缺陷检测系统及方法 |
CN109583489A (zh) * | 2018-11-22 | 2019-04-05 | 中国科学院自动化研究所 | 缺陷分类识别方法、装置、计算机设备和存储介质 |
CN110136116A (zh) * | 2019-05-15 | 2019-08-16 | 广东工业大学 | 一种注塑泵缺陷检测方法、装置、设备及存储介质 |
CN111160406A (zh) * | 2019-12-10 | 2020-05-15 | 北京达佳互联信息技术有限公司 | 图像分类模型的训练方法、图像分类方法及装置 |
CN111179251A (zh) * | 2019-12-30 | 2020-05-19 | 上海交通大学 | 基于孪生神经网络利用模板比对的缺陷检测系统及方法 |
CN111507989A (zh) * | 2020-04-15 | 2020-08-07 | 上海眼控科技股份有限公司 | 语义分割模型的训练生成方法、车辆外观检测方法、装置 |
CN111553929A (zh) * | 2020-05-12 | 2020-08-18 | 重庆邮电大学 | 基于融合网络的手机屏幕缺陷分割方法、装置及设备 |
CN111640091A (zh) * | 2020-05-14 | 2020-09-08 | 阿丘机器人科技(苏州)有限公司 | 产品缺陷的检测方法及计算机存储介质 |
CN111696077A (zh) * | 2020-05-11 | 2020-09-22 | 余姚市浙江大学机器人研究中心 | 一种基于WaferDet网络的晶圆缺陷检测方法 |
CN111814867A (zh) * | 2020-07-03 | 2020-10-23 | 浙江大华技术股份有限公司 | 缺陷检测模型的训练方法、缺陷检测方法及相关装置 |
-
2021
- 2021-02-22 CN CN202110199112.4A patent/CN112884744A/zh active Pending
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004163416A (ja) * | 2002-10-23 | 2004-06-10 | Nippon Steel Corp | 欠陥検査装置 |
CN108802051A (zh) * | 2018-07-10 | 2018-11-13 | 华南理工大学 | 一种柔性ic基板直线线路气泡及折痕缺陷检测系统及方法 |
CN109583489A (zh) * | 2018-11-22 | 2019-04-05 | 中国科学院自动化研究所 | 缺陷分类识别方法、装置、计算机设备和存储介质 |
CN110136116A (zh) * | 2019-05-15 | 2019-08-16 | 广东工业大学 | 一种注塑泵缺陷检测方法、装置、设备及存储介质 |
CN111160406A (zh) * | 2019-12-10 | 2020-05-15 | 北京达佳互联信息技术有限公司 | 图像分类模型的训练方法、图像分类方法及装置 |
CN111179251A (zh) * | 2019-12-30 | 2020-05-19 | 上海交通大学 | 基于孪生神经网络利用模板比对的缺陷检测系统及方法 |
CN111507989A (zh) * | 2020-04-15 | 2020-08-07 | 上海眼控科技股份有限公司 | 语义分割模型的训练生成方法、车辆外观检测方法、装置 |
CN111696077A (zh) * | 2020-05-11 | 2020-09-22 | 余姚市浙江大学机器人研究中心 | 一种基于WaferDet网络的晶圆缺陷检测方法 |
CN111553929A (zh) * | 2020-05-12 | 2020-08-18 | 重庆邮电大学 | 基于融合网络的手机屏幕缺陷分割方法、装置及设备 |
CN111640091A (zh) * | 2020-05-14 | 2020-09-08 | 阿丘机器人科技(苏州)有限公司 | 产品缺陷的检测方法及计算机存储介质 |
CN111814867A (zh) * | 2020-07-03 | 2020-10-23 | 浙江大华技术股份有限公司 | 缺陷检测模型的训练方法、缺陷检测方法及相关装置 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115690101A (zh) * | 2022-12-29 | 2023-02-03 | 摩尔线程智能科技(北京)有限责任公司 | 缺陷检测方法、装置、电子设备、存储介质和程序产品 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN100483116C (zh) | 带材表面三维缺陷的检测方法 | |
CN110889823B (zh) | 一种SiC缺陷的检测方法和系统 | |
CN112884743B (zh) | 检测方法及装置、检测设备和存储介质 | |
TWI748242B (zh) | 掃描晶圓的系統及方法 | |
CN111982921B (zh) | 孔缺陷的检测方法、装置、传送平台及存储介质 | |
CN106780623A (zh) | 一种机器人视觉系统快速标定方法 | |
JP6750841B2 (ja) | 検査方法、検査装置、処理装置、プログラム及び記録媒体 | |
CN108562250B (zh) | 基于结构光成像的键盘键帽平整度快速测量方法与装置 | |
TWI444613B (zh) | 攝像檢查裝置及攝像檢查方法 | |
CN112161619A (zh) | 位姿检测方法、三维扫描路径规划方法和检测系统 | |
EP4202424A1 (en) | Method and system for inspection of welds | |
CN115131268A (zh) | 一种基于图像特征提取与三维模型匹配的自动化焊接系统 | |
CN112884744A (zh) | 检测方法及装置、检测设备和存储介质 | |
CN113888510A (zh) | 检测方法、检测装置、检测设备及计算机可读存储介质 | |
CN115375608A (zh) | 检测方法及装置、检测设备和存储介质 | |
JP4477980B2 (ja) | X線検査装置、x線検査方法およびx線検査プログラム | |
JP7368141B2 (ja) | ウエーハ外観検査装置および方法 | |
CN113066069A (zh) | 调整方法及装置、调整设备和存储介质 | |
JP2005283267A (ja) | 貫通穴計測装置及び方法並びに貫通穴計測用プログラム | |
CN112950563A (zh) | 检测方法及装置、检测设备和存储介质 | |
CN112926437A (zh) | 检测方法及装置、检测设备和存储介质 | |
CN113192021A (zh) | 检测方法及装置、检测设备和存储介质 | |
CN112926439A (zh) | 检测方法及装置、检测设备和存储介质 | |
WO2021075170A1 (ja) | 検査システム、及び非一時的コンピュータ可読媒体 | |
CN115375610A (zh) | 检测方法及装置、检测设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |