CN113222950B - 表面缺陷检测模型训练方法、表面缺陷检测方法及系统 - Google Patents
表面缺陷检测模型训练方法、表面缺陷检测方法及系统 Download PDFInfo
- Publication number
- CN113222950B CN113222950B CN202110548337.6A CN202110548337A CN113222950B CN 113222950 B CN113222950 B CN 113222950B CN 202110548337 A CN202110548337 A CN 202110548337A CN 113222950 B CN113222950 B CN 113222950B
- Authority
- CN
- China
- Prior art keywords
- picture
- defect detection
- surface defect
- target product
- detection model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000007547 defect Effects 0.000 title claims abstract description 250
- 238000001514 detection method Methods 0.000 title claims abstract description 165
- 238000012549 training Methods 0.000 title claims abstract description 69
- 238000000034 method Methods 0.000 title claims abstract description 64
- 238000013528 artificial neural network Methods 0.000 claims abstract description 38
- 230000002950 deficient Effects 0.000 claims abstract description 33
- 239000011159 matrix material Substances 0.000 claims description 78
- 238000013507 mapping Methods 0.000 claims description 20
- 230000008569 process Effects 0.000 claims description 9
- 230000002159 abnormal effect Effects 0.000 claims description 8
- 238000000605 extraction Methods 0.000 claims description 6
- 238000007689 inspection Methods 0.000 claims 5
- 230000006870 function Effects 0.000 description 16
- 238000010586 diagram Methods 0.000 description 6
- 238000013135 deep learning Methods 0.000 description 5
- 238000004519 manufacturing process Methods 0.000 description 5
- 230000009286 beneficial effect Effects 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- WHXSMMKQMYFTQS-UHFFFAOYSA-N Lithium Chemical compound [Li] WHXSMMKQMYFTQS-UHFFFAOYSA-N 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 208000003464 asthenopia Diseases 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000009776 industrial production Methods 0.000 description 1
- 229910052744 lithium Inorganic materials 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
- G06T7/0008—Industrial image inspection checking presence/absence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/761—Proximity, similarity or dissimilarity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/771—Feature selection, e.g. selecting representative features from a multi-dimensional feature space
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Quality & Reliability (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Molecular Biology (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种表面缺陷检测模型训练方法、表面缺陷检测方法及系统,其中表面缺陷检测模型训练方法包括:获取产品的正常图片和与产品无关的外部图片;将所述正常图片和所述外部图片输入到基于深度神经网络的表面缺陷检测模型中,对基于深度神经网络的表面缺陷检测模型进行训练,得到表面缺陷检测模型。本发明无需采集带有缺陷的产品图片,仅需采集产品的正常图片和与产品无关的外部图片就能训练得到表面缺陷检测模型,解决了现有技术中带有缺陷的产品图片采集困难、集采成本高以及缺陷与否阈值难以确定等问题,模型的可靠性较高,适于大范围推广应用。
Description
技术领域
本发明涉及机器视觉技术领域,尤其涉及一种表面缺陷检测模型训练方法、表面缺陷检测方法及系统。
背景技术
随着工业的快速发展,人们对产品的质量越来越关注,提出的要求也越来越严格。由于产品在生产过程中往往会出现一些缺陷,这些缺陷具有一定的随机性,即缺陷类型、形状大小各异,因此产品表面缺陷检测作为生产过程中最重要的工序之一,它将直接影响到产品质量以及用户体验。
此前,针对产品表面的缺陷检测,许多厂家仍是以人工检测为主,即通过人工目视的方式观察产品表面是否存在缺陷,然后利用经验知识判断缺陷所属的类别。这种方式虽然简单,但存在易受人员主观意识影响,耗时费力且检测精度难以保证的缺陷,所以正逐渐被各大厂家弃用。后来,有人提出了基于深度学习的表面缺陷检测技术,该技术的核心是利用机器视觉代替人眼视觉去参与产品的质量监控。由于不仅可以降低人力成本,以排除人的主观意识和视觉疲劳所造成的判断差异的影响,而且还能提高了检测效率和精度,减小了检测误差,因此该技术自提出之日起,就迅速被应用到了产品表面的缺陷检测工序中,成为了当今制造业的发展趋势。
目前,基于深度学习的表面缺陷检测技术通常需要预先采集一些带有缺陷的产品图片和无缺陷的产品图片,以作为缺陷检测模型的训练数据。然而在实际的应用过程中,相对于无缺陷的产品图片而言,采集带有缺陷的产品图片的难度是比较大的,因为带有缺陷的产品图片的数量比较少,往往是很多张无缺陷的产品图片中才会出现一张带有缺陷的产品图片,这就使得带有缺陷的产品图片的采集代价较大,甚至无法采集到带有缺陷的产品图片,从而导致带有缺陷的产品图片的数量远远达不到缺陷检测模型训练的数量级。此外,在训练缺陷检测模型时,对于产品图片有无缺陷的阈值设置需要多次试验才能得到一个合理的阈值,这直接导致所训练得到的缺陷检测模型的稳定性会随着阈值设置的高低而变化,可靠性较差。
因此,对现有的基于深度学习的表面缺陷检测技术进行改进,以解决上述问题就显得非常有必要。
以上信息作为背景信息给出只是为了辅助理解本公开,并没有确定或者承认任意上述内容是否可用作相对于本公开的现有技术。
发明内容
本发明提供一种表面缺陷检测模型训练方法、表面缺陷检测方法及系统,以解决现有技术的不足。
本发明实施例第一方面公开一种表面缺陷检测模型训练方法;
作为一种可选的实施方式,在本发明实施例第一方面中,所述方法包括:
获取产品的正常图片和与产品无关的外部图片;
将所述正常图片和所述外部图片输入到基于深度神经网络产品表面缺陷检测模型中,对所述缺陷检测模型进行训练,得到表面缺陷检测模型。
作为一种可选的实施方式,所述表面缺陷检测模型训练方法中,将所述正常图片和所述外部图片输入到基于深度神经网络的表面缺陷检测模型中,对所述基于深度神经网络的表面缺陷检测模型进行训练,得到表面缺陷检测模型的步骤包括:
将所述正常图片和所述外部图片输入到基于深度神经网络的表面缺陷检测模型中;
通过所述基于深度神经网络的表面缺陷检测模型分别对所述正常图片和所述外部图片进行特征提取,得到所述正常图片的特征图和所述外部图片的特征图,并由所述正常图片的特征图映射得到所述正常图片的距离矩阵以及由所述外部图片的特征图映射得到所述外部图片的距离矩阵;
根据所述正常图片的距离矩阵和所述外部图片的距离矩阵设定损失函数;
使用所述损失函数对所述基于深度神经网络的表面缺陷检测模型进行训练,得到表面缺陷检测模型。
作为一种可选的实施方式,所述表面缺陷检测模型训练方法中,训练过程对应的损失函数的表达式为:
其中,lossi为损失函数,W为距离矩阵的宽,H为距离矩阵的高,Yi为第i张图片的标签,Yi=1表示正常图片,Yi=0表示非正常图片,Fi,j为距离矩阵上第i,j位置处的值。
本发明实施例第二方面公开一种表面缺陷检测方法;
作为一种可选的实施方式,在本发明实施例第二方面中,所述方法利用如上述所述的表面缺陷检测模型训练方法训练得到的表面缺陷检测模型,所述方法包括:
采集待检测的目标产品的图片;
将所述目标产品的图片输入到所述表面缺陷检测模型中,以确定所述目标产品的表面是否存在缺陷,若存在缺陷,则定位到缺陷的区域。
作为一种可选的实施方式,所述表面缺陷检测方法中,将所述目标产品的图片输入到所述表面缺陷检测模型中,以确定所述目标产品的表面是否存在缺陷,若存在缺陷,则定位到缺陷的区域的步骤包括:
将所述目标产品的图片输入到所述表面缺陷检测模型中;
通过所述表面缺陷检测模型对所述目标产品的图片进行特征提取,得到所述目标产品的图片的特征图为Fw,h,c;
由所述目标产品的特征图F映射得到所述目标产品的距离矩阵Di,j为:
Di,j=||Fw,h,c:||2;
由所述目标产品的特征图F映射得到所述目标产品到正常产品距离D表示为:
D=∑w,h||Fw,h,c:||2/W×H;
判断所述目标产品的距离中值是否在设定范围内;
若是,则确定所述目标产品的表面不存在缺陷;
若否,则确定所述目标产品的表面存在缺陷,并定位到缺陷的区域。
作为一种可选的实施方式,所述表面缺陷检测方法中,定位到缺陷的区域的步骤包括:
根据距离矩阵进行缺陷定位;
判断所述目标产品的距离矩阵中各个位置<i,j>的距离值是否在设定范围内;
若是,则确定所述目标产品的表面上<i,j>对应的图像块不存在缺陷;
若否,则确定所述目标产品的表面上<i,j>对应的图像块存在缺陷。
本发明实施例第三方面公开一种表面缺陷检测模型训练系统;
作为一种可选的实施方式,在本发明实施例第三方面中,所述系统包括:
图片获取模块,用于获取产品的正常图片和与产品无关的外部图片;
模型训练模块,用于将所述正常图片和所述外部图片输入到基于深度神经网络的表面缺陷检测模型中,对所述基于深度神经网络的表面缺陷检测模型进行训练,得到表面缺陷检测模型。
作为一种可选的实施方式,所述表面缺陷检测模型训练系统中,所述模型训练模块具体用于:
将所述正常图片和所述外部图片输入到基于深度神经网络的表面缺陷检测模型中;
通过所述基于深度神经网络的表面缺陷检测模型分别对所述正常图片和所述外部图片进行特征提取,得到所述正常图片的特征图和所述外部图片的特征图,并由所述正常图片的特征图映射得到所述正常图片的距离矩阵以及由所述外部图片的特征图映射得到所述外部图片的距离矩阵;
根据所述正常图片的距离矩阵和所述外部图片的距离矩阵设定损失函数;
使用所述损失函数对所述基于深度神经网络的表面缺陷检测模型进行训练,得到表面缺陷检测模型。
作为一种可选的实施方式,所述表面缺陷检测模型训练系统中,训练过程对应的损失函数的表达式为:
其中,lossi为损失函数,W为距离矩阵的宽,H为距离矩阵的高,Yi为第i张图片的标签,Yi=1表示正常图片,Yi=0表示非正常图片,Fi,j为距离矩阵上第i,j位置处的值。
本发明实施例第四方面公开一种表面缺陷检测系统;
作为一种可选的实施方式,在本发明实施例第四方面中,所述系统利用上述所述的表面缺陷检测模型训练方法训练得到的表面缺陷检测模型,所述系统包括:
图片采集模块,用于采集待检测的目标产品的图片;
缺陷确定模块,用于将所述目标产品的图片输入到所述表面缺陷检测模型中,以确定所述目标产品的表面是否存在缺陷,若存在缺陷,则定位到缺陷的区域。
作为一种可选的实施方式,所述表面缺陷检测系统中,所述缺陷确定模块具体用于:
将所述目标产品的图片输入到所述表面缺陷检测模型中;
通过所述表面缺陷检测模型对所述目标产品的图片进行特征提取,得到所述目标产品的图片的特征图为Fw,h,c;
由所述目标产品的特征图F映射得到所述目标产品的距离矩阵Di,j为:
D,j=||Fw,h,c:||2;
由所述目标产品的特征图F映射得到所述目标产品到正常产品距离D表示为:
D=∑w,h||Fw,h,c:||2/W×H;
判断所述目标产品的距离中值是否在设定范围内;
若是,则确定所述目标产品的表面不存在缺陷;
若否,则确定所述目标产品的表面存在缺陷。
作为一种可选的实施方式,所述表面缺陷检测系统中,所述缺陷确定模块具体还用于:
在确定所述目标产品的表面存在缺陷后,根据距离矩阵进行缺陷定位;
判断所述目标产品的距离矩阵中各个位置<i,j>的距离值是否在设定范围内;
若是,则确定所述目标产品的表面上<i,j>对应的图像块不存在缺陷;
若否,则确定所述目标产品的表面上<i,j>对应的图像块存在缺陷。
与现有技术相比,本发明实施例具有以下有益效果:
本发明实施例提供的一种表面缺陷检测模型训练方法、表面缺陷检测方法及系统,无需采集带有缺陷的产品图片,仅需采集产品的正常图片和与产品无关的外部图片就能训练得到表面缺陷检测模型,解决了现有技术中带有缺陷的产品图片采集困难、集采成本高以及缺陷与否阈值难以确定等问题,模型的可靠性较高,适于大范围推广应用。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其它的附图。
图1是本发明实施例一提供的一种表面缺陷检测模型训练方法的流程示意图;
图2是本发明实施例一中外部图片和正常图片的特征图映射得到的距离矩阵中的距离值的范围示意图;
图3是本发明实施例一中距离矩阵的示意图;
图4是本发明实施例二提供的一种表面缺陷检测模型训练系统的功能模块示意图;
图5是本发明实施例三提供的一种表面缺陷检测方法的流程示意图;
图6是本发明实施例四提供的一种表面缺陷检测系统的功能模块示意图。
具体实施方式
为使得本发明的目的、特征、优点能够更加的明显和易懂,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,下面所描述的实施例仅仅是本发明一部分实施例,而非全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
在本发明的描述中,需要理解的是,当一个组件被认为是“连接”另一个组件,它可以是直接连接到另一个组件或者可能同时存在居中设置的组件。当一个组件被认为是“设置在”另一个组件,它可以是直接设置在另一个组件上或者可能同时存在居中设置的组件。
此外,术语“长”“短”“内”“外”等指示方位或位置关系为基于附图所展示的方位或者位置关系,仅是为了便于描述本发明,而不是指示或暗示所指的装置或原件必须具有此特定的方位、以特定的方位构造进行操作,以此不能理解为本发明的限制。
下面结合附图并通过具体实施方式来进一步说明本发明的技术方案。
实施例一
有鉴于现有的表面缺陷检测技术存在的缺陷,本发明人基于从事该行业多年丰富的实务经验及专业知识,并配合学理的运用,积极加以研究创新,以期创设一种切实可行的表面缺陷检测技术,使其更具有实用性。在经过不断的研究、设计并反复试作及改进后,终于创设出确具实用价值的本发明。
请参阅图1,图1是本发明实施例公开的一种表面缺陷检测模型训练方法的流程示意图,该方法适用于对产品的表面是否存在缺陷进行判断的场景,该方法由表面缺陷检测模型训练系统来执行,该系统可以由软件和/或硬件实现,集成于检测设备的内部。如图1所示,该表面缺陷检测模型训练方法可以包括以下步骤:
S101、获取产品的正常图片和与产品无关的外部图片。
需要说明的是,本实施例的表面缺陷检测技术是基于深度学习的,深度学习又以卷积神经网络模型为主要模型。由于神经网络模型的训练集类别种类数需要≥2,因此除了采集产品表面没有缺陷的产品正常图片外,还需要采集另一类图片。但正如背景技术中交代的,工业生产过程中,出现带有缺陷的图片的概率其实是比较小的,即相当大的一部分是没有缺陷的正常产品表面图片,因此本发明创造性地想到在采集到少量几张带有缺陷的产品图片,或者没有采集到带有缺陷的产品图片的情况下,仅依靠大量正常的图像创建并训练表面缺陷检测模型。具体的,本实施例将没有缺陷的产品正常图片视为一类,将与产品无关的外部图片视为另一类,这样就满足了神经网络模型的训练集类别种类数要求。
本实施例并非只是针对规则纹理的图片,检测对象可以是任意的工业图片,比如锂电池表面、电路板表面,理想的情况下是一个产品线生产的产品的表面图片。
S102、将所述正常图片和所述外部图片输入到基于深度神经网络的表面缺陷检测模型中,对所述基于深度神经网络的表面缺陷检测模型进行训练,得到表面缺陷检测模型。
需要说明的是,本实施例是从没有缺陷的产品图片中学到一种产品正常图片的表征,然后用这个标准去度量未知的待检测图片的异常程度,即是否存在缺陷。
优选的,所述步骤S102进一步包括:
将所述正常图片和所述外部图片输入到基于深度神经网络的表面缺陷检测模型中;
通过所述基于深度神经网络的表面缺陷检测模型分别对所述正常图片和所述外部图片进行特征提取,得到所述正常图片的特征图和所述外部图片的特征图,并由所述正常图片的特征图映射得到所述正常图片的距离矩阵以及由所述外部图片的特征图映射得到所述外部图片的距离矩阵;
根据所述正常图片的距离矩阵和所述外部图片的距离矩阵设定损失函数;
使用所述损失函数对所述基于深度神经网络的表面缺陷检测模型进行训练,得到表面缺陷检测模型。
在本实施例中,训练过程对应的损失函数的表达式为:
其中,lossi为损失函数,W为距离矩阵的宽,H为距离矩阵的高,Yi为第i张图片的标签,Yi=1表示正常图片,Yi=0表示非正常图片,Fi,j为距离矩阵上第i,j位置处的值。
需要说明的是,在本实施例中,当通过基于深度神经网络的表面缺陷检测模型提取产品的正常图片的特征,得到产品的正常图片的特征图之后,所述正常图片的特征图映射得到的距离矩阵中的各个距离值能够被包围在以o为球心(球心坐标可以默认为(0,0,0)),以r(r即为阈值)为半径的球的范围内。其中,半径r的大小为基于产品的正常图片的特征图映射得到的距离矩阵中的距离值确定的,距离归一化到0~1之间,阈值通常取0.1~0.5之间,且阈值选择对结果影响较小。而通过基于深度神经网络的表面缺陷检测模型提取与产品无关的外部图片的特征,得到与产品无关的外部图片的特征图之后,理想情况下,与产品无关的外部图片的特征图映射得到的距离矩阵中的各个距离值在以o为球心,以r为半径的球的范围外,如图2所示。换句话说,正常图像到中心点(原点)的距离远远小于异常图像(带有缺陷的产品图片)的距离。
进一步需要说明的是,本实施例中每张固定大小的图片I均可由基于深度神经网络的表面缺陷检测模型提取得到一个特征图,再由特征图F_w,h,c映射得到对应的距离矩阵Di,j(特征图F用三个维度来进行表示,即宽(Width,W),高(High,H)和通道(Channel,C),如图3所示)。由于只使用卷积操作,距离矩阵Di,j和原始图像I保持有位置上的对应关系,即距离矩阵Di,j上第<i,j>位置处的值表示原始图像I对应位置图像区域与圆心的距离。
综合各个通道的距离表示得到一个二维的距离表示,所得到的二维的距离表示能够用于缺陷图片中缺陷区域的定位;二维的距离矩阵表示转换为一维的距离D表示可用于正常图片和带有缺陷图片的分类,即以距离D作为待检测的图片是否异常的依据,D的表达式如下:
D=∑w,h||Fw,h,c:||2/W×H
本发明实施例提供的一种表面缺陷检测模型训练方法,无需采集带有缺陷的产品图片,仅需采集产品的正常图片和与产品无关的外部图片就能训练得到表面缺陷检测模型,解决了现有技术中带有缺陷的产品图片采集困难、集采成本高以及缺陷与否阈值难以确定等问题,模型的可靠性较高,适于大范围推广应用。
实施例二
请参阅附图4,图4为本发明实施例二提供的一种表面缺陷检测模型训练系统的功能模块示意图,该系统适用于执行本发明实施例提供的表面缺陷检测模型训练方法。该系统具体包含如下模块:
图片获取模块201,用于获取产品的正常图片和与产品无关的外部图片;
模型训练模块202,用于将所述正常图片和所述外部图片输入到基于深度神经网络的表面缺陷检测模型中,对所述基于深度神经网络的表面缺陷检测模型进行训练,得到表面缺陷检测模型。
在本实施例中,所述模型训练模块202具体用于:
将所述正常图片和所述外部图片输入到基于深度神经网络的表面缺陷检测模型中;
通过所述基于深度神经网络的表面缺陷检测模型分别对所述正常图片和所述外部图片进行特征提取,得到所述正常图片的特征图和所述外部图片的特征图,并由所述正常图片的特征图映射得到所述正常图片的距离矩阵以及由所述外部图片的特征图映射得到所述外部图片的距离矩阵;
根据所述正常图片的距离矩阵和所述外部图片的距离矩阵设定损失函数;
使用所述损失函数对所述基于深度神经网络的表面缺陷检测模型进行训练,得到表面缺陷检测模型。
在本实施例中,训练过程对应的损失函数的表达式为:
其中,lossi为损失函数,W为距离矩阵的宽,H为距离矩阵的高,Yi为第i张图片的标签,Yi=1表示正常图片,Yi=0表示非正常图片,Fi,j为距离矩阵上第i,j位置处的值。
本发明实施例提供的一种表面缺陷检测模型训练系统,无需采集带有缺陷的产品图片,仅需采集产品的正常图片和与产品无关的外部图片就能训练得到表面缺陷检测模型,解决了现有技术中带有缺陷的产品图片采集困难、集采成本高以及缺陷与否阈值难以确定等问题,模型的可靠性较高,适于大范围推广应用。
上述系统可执行本发明任意实施例所提供的方法,具备执行方法相应的功能模块和有益效果。
实施例三
请参阅图5,图5是本发明实施例公开的一种表面缺陷检测方法的流程示意图,该方法由表面缺陷检测系统来执行,该系统可以由软件和/或硬件实现,集成于检测设备的内部。所述方法利用如实施例一所述的表面缺陷检测模型训练方法训练得到的表面缺陷检测模型,如图5所示,该表面缺陷检测方法可以包括以下步骤:
S301、采集待检测的目标产品的图片。
S302、将所述目标产品的图片输入到所述表面缺陷检测模型中,以确定所述目标产品的表面是否存在缺陷,若存在缺陷,则定位到缺陷的区域。
在本实施例中,所述步骤S302进一步包括:
将所述目标产品的图片输入到所述表面缺陷检测模型中;
通过所述表面缺陷检测模型对所述目标产品的图片进行特征提取,得到所述目标产品的图片的特征图为Fw,h,c;
由所述目标产品的特征图F映射得到所述目标产品的距离矩阵Di,j为:
Di,j=||Fw,h,c:||2;
由所述目标产品的特征图F映射得到所述目标产品到正常产品距离D表示为:
D=∑w,h||Fw,h,c:||2/W×H;
判断所述目标产品的距离中值是否在设定范围内;
若是,则确定所述目标产品的表面不存在缺陷;
若否,则确定所述目标产品的表面存在缺陷,并定位到缺陷的区域。
在本实施例中,在确定所述目标产品的表面存在缺陷后,所述定位到缺陷的区域的步骤进一步可以包括:
根据距离矩阵进行缺陷定位;
判断所述目标产品的距离矩阵中各个位置<i,j>的距离值是否在设定范围内;
若是,则确定所述目标产品的表面上<i,j>对应的图像块不存在缺陷;
若否,则确定所述目标产品的表面上<i,j>对应的图像块存在缺陷。
需要说明的是,本实施例是通过判断所述目标产品的距离矩阵中各个位置的距离值Di,j是否在设定范围[0,r]内,从而确定所述目标产品的表面是否存在缺陷的。具体的,如果所述目标产品的距离矩阵中各个位置的距离值Di,j在设定范围[0,r]内,则确定所述目标产品的表面无缺陷;如果所述目标产品的距离矩阵中各个位置的距离值Di,j在设定范围[0,r]外,则确定所述目标产品的表面存在缺陷。
本发明实施例提供的一种表面缺陷检测方法,通过将待检测的目标产品的图片输入到由产品的正常图片和与产品无关的外部图片训练得到的表面缺陷检测模型中,可以有效且准确地确定出存在缺陷的产品,及时发现生产过程中的不良问题,提升产品良率。
实施例四
请参阅附图6,图6为本发明实施例四提供的一种表面缺陷检测系统的功能模块示意图,该系统利用如实施例一所述的表面缺陷检测模型训练方法训练得到的表面缺陷检测模型,适用于执行本发明实施例提供的表面缺陷检测方法。该系统具体包含如下模块:
图片采集模块401,用于采集待检测的目标产品的图片;
缺陷确定模块402,用于将所述目标产品的图片输入到所述表面缺陷检测模型中,以确定所述目标产品的表面是否存在缺陷,若存在缺陷,则定位到缺陷的区域。
在本实施例中,所述缺陷确定模块402具体用于:
将所述目标产品的图片输入到所述表面缺陷检测模型中;
通过所述表面缺陷检测模型对所述目标产品的图片进行特征提取,得到所述目标产品的图片的特征图为Fw,h,c;
由所述目标产品的特征图F映射得到所述目标产品的距离矩阵Di,j为:
Di,j=||Fw,h,c:||2;
由所述目标产品的特征图F映射得到所述目标产品到正常产品距离D表示为:
D=∑w,h||Fw,h,c:||2/W×H;
判断所述目标产品的距离中值是否在设定范围内;
若是,则确定所述目标产品的表面不存在缺陷;
若否,则确定所述目标产品的表面存在缺陷。
作为一种可选的实施方式,所述缺陷确定模块402还可以具体还用于:
在确定所述目标产品的表面存在缺陷后,根据距离矩阵进行缺陷定位;
判断所述目标产品的距离矩阵中各个位置<i,j>的距离值是否在设定范围内;
若是,则确定所述目标产品的表面上<i,j>对应的图像块不存在缺陷;
若否,则确定所述目标产品的表面上<i,j>对应的图像块存在缺陷。
本发明实施例提供的一种表面缺陷检测系统,通过将待检测的目标产品的图片输入到由产品的正常图片和与产品无关的外部图片训练得到的表面缺陷检测模型中,可以有效且准确地确定出存在缺陷的产品,及时发现生产过程中的不良问题,提升产品良率。
上述系统可执行本发明任意实施例所提供的方法,具备执行方法相应的功能模块和有益效果。
至此,以说明和描述的目的提供上述实施例的描述。不意指穷举或者限制本公开。特定的实施例的单独元件或者特征通常不受到特定的实施例的限制,但是在适用时,即使没有具体地示出或者描述,其可以互换和用于选定的实施例。在许多方面,相同的元件或者特征也可以改变。这种变化不被认为是偏离本公开,并且所有的这种修改意指为包括在本公开的范围内。
提供示例实施例,从而本公开将变得透彻,并且将会完全地将该范围传达至本领域内技术人员。为了透彻理解本公开的实施例,阐明了众多细节,诸如特定零件、装置和方法的示例。显然,对于本领域内技术人员,不需要使用特定的细节,示例实施例可以以许多不同的形式实施,而且两者都不应当解释为限制本公开的范围。在某些示例实施例中,不对公知的工序、公知的装置结构和公知的技术进行详细地描述。
在此,仅为了描述特定的示例实施例的目的使用专业词汇,并且不是意指为限制的目的。除非上下文清楚地作出相反的表示,在此使用的单数形式“一个”和“该”可以意指为也包括复数形式。术语“包括”和“具有”是包括在内的意思,并且因此指定存在所声明的特征、整体、步骤、操作、元件和/或组件,但是不排除存在或额外地具有一个或以上的其他特征、整体、步骤、操作、元件、组件和/或其组合。除非明确地指示了执行的次序,在此描述的该方法步骤、处理和操作不解释为一定需要按照所论述和示出的特定的次序执行。还应当理解的是,可以采用附加的或者可选择的步骤。
当元件或者层称为是“在……上”、“与……接合”、“连接到”或者“联接到”另一个元件或层,其可以是直接在另一个元件或者层上、与另一个元件或层接合、连接到或者联接到另一个元件或层,也可以存在介于其间的元件或者层。与此相反,当元件或层称为是“直接在……上”、“与……直接接合”、“直接连接到”或者“直接联接到”另一个元件或层,则可能不存在介于其间的元件或者层。其他用于描述元件关系的词应当以类似的方式解释(例如,“在……之间”和“直接在……之间”、“相邻”和“直接相邻”等)。在此使用的术语“和/或”包括该相关联的所罗列的项目的一个或以上的任一和所有的组合。虽然此处可能使用了术语第一、第二、第三等以描述各种的元件、组件、区域、层和/或部分,这些元件、组件、区域、层和/或部分不受到这些术语的限制。这些术语可以只用于将一个元件、组件、区域或部分与另一个元件、组件、区域或部分区分。除非由上下文清楚地表示,在此使用诸如术语“第一”、“第二”及其他数值的术语不意味序列或者次序。因此,在下方论述的第一元件、组件、区域、层或者部分可以采用第二元件、组件、区域、层或者部分的术语而不脱离该示例实施例的教导。
空间的相对术语,诸如“内”、“外”、“在下面”、“在……的下方”、“下部”、“上方”、“上部”等,在此可出于便于描述的目的使用,以描述如图中所示的一个元件或者特征和另外一个或多个元件或者特征之间的关系。空间的相对术语可以意指包含除该图描绘的取向之外该装置的不同的取向。例如如果翻转该图中的装置,则描述为“在其他元件或者特征的下方”或者“在元件或者特征的下面”的元件将取向为“在其他元件或者特征的上方”。因此,示例术语“在……的下方”可以包含朝上和朝下的两种取向。该装置可以以其他方式取向(旋转90度或者其他取向)并且以此处的空间的相对描述解释。
Claims (10)
1.一种表面缺陷检测模型训练方法,其特征在于,所述方法包括:
获取产品的正常图片和与产品无关的外部图片;
将所述正常图片和所述外部图片输入到基于深度神经网络的表面缺陷检测模型中,对所述基于深度神经网络的表面缺陷检测模型进行训练,得到表面缺陷检测模型;
将所述正常图片和所述外部图片输入到基于深度神经网络的表面缺陷检测模型中,对所述基于深度神经网络的表面缺陷检测模型进行训练,得到表面缺陷检测模型的步骤包括:
将所述正常图片和所述外部图片输入到基于深度神经网络的表面缺陷检测模型中;
通过所述基于深度神经网络的表面缺陷检测模型分别对所述正常图片和所述外部图片进行特征提取,得到所述正常图片的特征图和所述外部图片的特征图,并由所述正常图片的特征图映射得到所述正常图片的距离矩阵以及由所述外部图片的特征图映射得到所述外部图片的距离矩阵;其中,所述正常图片的特征图映射得到的距离矩阵中的各个距离值能够被包围在以o为球心,以r为半径的球的范围内,所述外部图片的特征图映射得到的距离矩阵中的各个距离值在以o为球心,以r为半径的球的范围外;r为基于所述正常图片的特征图映射得到的距离矩阵中的距离值确定;
根据所述正常图片的距离矩阵和所述外部图片的距离矩阵设定损失函数;
使用所述损失函数对所述基于深度神经网络的表面缺陷检测模型进行训练,得到表面缺陷检测模型。
3.一种表面缺陷检测方法,其特征在于,所述方法利用如权利要求1~2中任一项所述的表面缺陷检测模型训练方法训练得到的表面缺陷检测模型,所述方法包括:
采集待检测的目标产品的图片;
将所述目标产品的图片输入到所述表面缺陷检测模型中,以确定所述目标产品的表面是否存在缺陷,若存在缺陷,则定位到缺陷的区域。
4.根据权利要求3所述的表面缺陷检测方法,其特征在于,将所述目标产品的图片输入到所述表面缺陷检测模型中,以确定所述目标产品的表面是否存在缺陷,若存在缺陷,则定位到缺陷的区域的步骤包括:
将所述目标产品的图片输入到所述表面缺陷检测模型中;
通过所述表面缺陷检测模型对所述目标产品的图片进行特征提取,得到所述目标产品的图片的特征图为Fw,h,c;其中,w为宽,h为高,c为通道;
由所述目标产品的特征图F映射得到所述目标产品的距离矩阵Di,j为:
Di,j=||Fw,h,c:||2;
由所述目标产品的特征图F映射得到所述目标产品到正常产品距离D表示为:
D=∑w,h||Fw,h,c:||2/W×H;
判断所述目标产品的距离中值是否在设定范围内;
若是,则确定所述目标产品的表面不存在缺陷;
若否,则确定所述目标产品的表面存在缺陷,并定位到缺陷的区域。
5.根据权利要求4所述的表面缺陷检测方法,其特征在于,定位到缺陷的区域的步骤包括:
根据距离矩阵进行缺陷定位;
判断所述目标产品的距离矩阵中各个位置<i,j>的距离值是否在设定范围内;
若是,则确定所述目标产品的表面上<i,j>对应的图像块不存在缺陷;
若否,则确定所述目标产品的表面上<i,j>对应的图像块存在缺陷。
6.一种表面缺陷检测模型训练系统,其特征在于,所述系统包括:
图片获取模块,用于获取产品的正常图片和与产品无关的外部图片;
模型训练模块,用于将所述正常图片和所述外部图片输入到基于深度神经网络的表面缺陷检测模型中,对所述基于深度神经网络的表面缺陷检测模型进行训练,得到表面缺陷检测模型;
所述模型训练模块具体用于:
将所述正常图片和所述外部图片输入到基于深度神经网络的表面缺陷检测模型中;
通过所述基于深度神经网络的表面缺陷检测模型分别对所述正常图片和所述外部图片进行特征提取,得到所述正常图片的特征图和所述外部图片的特征图,并由所述正常图片的特征图映射得到所述正常图片的距离矩阵以及由所述外部图片的特征图映射得到所述外部图片的距离矩阵;其中,所述正常图片的特征图映射得到的距离矩阵中的各个距离值能够被包围在以o为球心,以r为半径的球的范围内,所述外部图片的特征图映射得到的距离矩阵中的各个距离值在以o为球心,以r为半径的球的范围外;r为基于所述正常图片的特征图映射得到的距离矩阵中的距离值确定;
根据所述正常图片的距离矩阵和所述外部图片的距离矩阵设定损失函数;
使用所述损失函数对所述基于深度神经网络的表面缺陷检测模型进行训练,得到表面缺陷检测模型。
8.一种表面缺陷检测系统,其特征在于,所述系统利用如权利要求1~2中任一项所述的表面缺陷检测模型训练方法训练得到的表面缺陷检测模型,所述系统包括:
图片采集模块,用于采集待检测的目标产品的图片;
缺陷确定模块,用于将所述目标产品的图片输入到所述表面缺陷检测模型中,以确定所述目标产品的表面是否存在缺陷,若存在缺陷,则定位到缺陷的区域。
9.根据权利要求8所述的表面缺陷检测系统,其特征在于,所述缺陷确定模块具体用于:
将所述目标产品的图片输入到所述表面缺陷检测模型中;
通过所述表面缺陷检测模型对所述目标产品的图片进行特征提取,得到所述目标产品的图片的特征图为Fw,h,c;其中,w为宽,h为高,c为通道;
由所述目标产品的特征图F映射得到所述目标产品的距离矩阵Di,j为:
Di,j=||Fw,h,C:||2;
由所述目标产品的特征图F映射得到所述目标产品到正常产品距离D表示为:
D=Σw,h||Fw,h,c:||2/W×H;
判断所述目标产品的距离中值是否在设定范围内;
若是,则确定所述目标产品的表面不存在缺陷;
若否,则确定所述目标产品的表面存在缺陷。
10.根据权利要求9所述的表面缺陷检测系统,其特征在于,所述缺陷确定模块具体还用于:
在确定所述目标产品的表面存在缺陷后,根据距离矩阵进行缺陷定位;
判断所述目标产品的距离矩阵中各个位置<i,j>的距离值是否在设定范围内;
若是,则确定所述目标产品的表面上<i,j>对应的图像块不存在缺陷;
若否,则确定所述目标产品的表面上<i,j>对应的图像块存在缺陷。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110548337.6A CN113222950B (zh) | 2021-05-19 | 2021-05-19 | 表面缺陷检测模型训练方法、表面缺陷检测方法及系统 |
PCT/CN2022/093278 WO2022242631A1 (zh) | 2021-05-19 | 2022-05-17 | 表面缺陷检测模型训练方法、表面缺陷检测方法及系统 |
US18/283,372 US20240169510A1 (en) | 2021-05-19 | 2022-05-17 | Surface defect detection model training method, and surface defect detection method and system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110548337.6A CN113222950B (zh) | 2021-05-19 | 2021-05-19 | 表面缺陷检测模型训练方法、表面缺陷检测方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113222950A CN113222950A (zh) | 2021-08-06 |
CN113222950B true CN113222950B (zh) | 2023-07-07 |
Family
ID=77093523
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110548337.6A Active CN113222950B (zh) | 2021-05-19 | 2021-05-19 | 表面缺陷检测模型训练方法、表面缺陷检测方法及系统 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20240169510A1 (zh) |
CN (1) | CN113222950B (zh) |
WO (1) | WO2022242631A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113222950B (zh) * | 2021-05-19 | 2023-07-07 | 广东奥普特科技股份有限公司 | 表面缺陷检测模型训练方法、表面缺陷检测方法及系统 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101334786A (zh) * | 2008-08-01 | 2008-12-31 | 浙江大学 | 一种基于规则邻域的数据降维方法 |
CN110287358A (zh) * | 2019-06-18 | 2019-09-27 | 深圳市中诺通讯有限公司 | 一种摄取实景获取周围目标信息的方法及系统 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9224197B2 (en) * | 2013-11-12 | 2015-12-29 | Xerox Corporation | Method and apparatus for implementing optical roll scanning to identify defects in roll components used in an image production device |
CN111640091B (zh) * | 2020-05-14 | 2023-08-22 | 阿丘机器人科技(苏州)有限公司 | 产品缺陷的检测方法及计算机存储介质 |
CN112001903A (zh) * | 2020-08-21 | 2020-11-27 | 深圳市华汉伟业科技有限公司 | 缺陷检测网络构建方法、异常检测方法及系统、存储介质 |
CN113222950B (zh) * | 2021-05-19 | 2023-07-07 | 广东奥普特科技股份有限公司 | 表面缺陷检测模型训练方法、表面缺陷检测方法及系统 |
-
2021
- 2021-05-19 CN CN202110548337.6A patent/CN113222950B/zh active Active
-
2022
- 2022-05-17 WO PCT/CN2022/093278 patent/WO2022242631A1/zh active Application Filing
- 2022-05-17 US US18/283,372 patent/US20240169510A1/en active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101334786A (zh) * | 2008-08-01 | 2008-12-31 | 浙江大学 | 一种基于规则邻域的数据降维方法 |
CN110287358A (zh) * | 2019-06-18 | 2019-09-27 | 深圳市中诺通讯有限公司 | 一种摄取实景获取周围目标信息的方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN113222950A (zh) | 2021-08-06 |
US20240169510A1 (en) | 2024-05-23 |
WO2022242631A1 (zh) | 2022-11-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111612763B (zh) | 手机屏幕缺陷检测方法、装置及系统、计算机设备及介质 | |
CN106952250B (zh) | 一种基于Faster R-CNN网络的金属板带表面缺陷检测方法及装置 | |
CN110047073B (zh) | 一种x射线焊缝图像缺陷定级方法及系统 | |
Liu et al. | Machine vision based online detection of PCB defect | |
CN105654121B (zh) | 一种基于深度学习的复杂提花织物缺陷检测方法 | |
CN112818988B (zh) | 一种指针式仪表自动识别读数方法及系统 | |
CN110310262A (zh) | 一种用于检测轮胎缺陷的方法、装置及系统 | |
CN101063660B (zh) | 一种纺织品缺陷检测方法及其装置 | |
CN103439348B (zh) | 基于差影法的遥控器按键缺陷检测方法 | |
CN108764134A (zh) | 一种适用于巡检机器人的多类型仪表自动定位与识别方法 | |
CN106373124B (zh) | 基于灰度共生矩阵与ransac的工业产品表面缺陷视觉检测方法 | |
CN113554080A (zh) | 一种基于机器视觉的无纺布瑕疵检测分类方法及系统 | |
CN110796661B (zh) | 基于卷积神经网络的真菌显微图像分割检测方法及系统 | |
CN110931112A (zh) | 一种基于多维信息融合和深度学习的脑部医学影像分析方法 | |
CN110503623A (zh) | 一种基于卷积神经网络的识别输电线路上鸟巢缺陷的方法 | |
CN116091505B (zh) | 一种蓝宝石衬底自动缺陷检测分类的方法和系统 | |
CN113222950B (zh) | 表面缺陷检测模型训练方法、表面缺陷检测方法及系统 | |
CN111753877B (zh) | 一种基于深度神经网络迁移学习的产品质量检测方法 | |
CN116152697A (zh) | 一种混凝土结构裂缝的三维模型测量方法及相关装置 | |
CN114627089A (zh) | 缺陷识别方法、装置、计算机设备及计算机可读存储介质 | |
CN117576100B (zh) | 一种fpc连接器表面缺陷分级检测评价方法 | |
CN111105396A (zh) | 一种基于人工智能的印刷品质量检测方法及系统 | |
CN108428247B (zh) | 焊锡点方向的检测方法和系统 | |
CN117152152A (zh) | 检测试剂盒的生产管理系统及方法 | |
CN114594102B (zh) | 一种基于机器视觉的数据线接口自动检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |