CN114841915A - 基于人工智能的瓷砖瑕疵检测方法、系统及存储介质 - Google Patents
基于人工智能的瓷砖瑕疵检测方法、系统及存储介质 Download PDFInfo
- Publication number
- CN114841915A CN114841915A CN202210248901.7A CN202210248901A CN114841915A CN 114841915 A CN114841915 A CN 114841915A CN 202210248901 A CN202210248901 A CN 202210248901A CN 114841915 A CN114841915 A CN 114841915A
- Authority
- CN
- China
- Prior art keywords
- tile
- area
- template
- image
- target object
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 230
- 238000013473 artificial intelligence Methods 0.000 title claims abstract description 15
- 238000003860 storage Methods 0.000 title claims abstract description 9
- 238000000034 method Methods 0.000 claims abstract description 53
- 230000007547 defect Effects 0.000 claims description 116
- 239000000919 ceramic Substances 0.000 claims description 76
- 230000002950 deficient Effects 0.000 claims description 45
- 238000013528 artificial neural network Methods 0.000 claims description 34
- 238000004519 manufacturing process Methods 0.000 claims description 31
- 230000011218 segmentation Effects 0.000 claims description 16
- 239000011159 matrix material Substances 0.000 claims description 9
- 230000009466 transformation Effects 0.000 claims description 9
- 238000012545 processing Methods 0.000 claims description 8
- 238000004590 computer program Methods 0.000 claims description 6
- 238000003384 imaging method Methods 0.000 abstract description 9
- 230000000694 effects Effects 0.000 abstract description 8
- 238000005498 polishing Methods 0.000 abstract description 6
- 230000000007 visual effect Effects 0.000 abstract description 4
- 230000008569 process Effects 0.000 description 21
- 238000010586 diagram Methods 0.000 description 10
- 238000004891 communication Methods 0.000 description 9
- 101150064138 MAP1 gene Proteins 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 7
- 238000012549 training Methods 0.000 description 5
- 101100400452 Caenorhabditis elegans map-2 gene Proteins 0.000 description 4
- 230000009471 action Effects 0.000 description 4
- 238000001914 filtration Methods 0.000 description 4
- 238000007689 inspection Methods 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000007499 fusion processing Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/24—Aligning, centring, orientation detection or correction of the image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30168—Image quality inspection
Abstract
本公开涉及一种基于人工智能的瓷砖瑕疵检测方法、系统及存储介质。本公开通过多个拍摄设备分别对目标物体进行拍摄得到多个图像,多个图像中的至少一个图像是光线的方向与目标物体表面非垂直的情况下得到的。使得多个拍摄设备可以同时拍摄到目标物体多种类型的瑕疵,特别是在光线的方向与目标物体表面非垂直的情况下,对于视觉特征不明显的瑕疵例如浅层刮痕或漏抛等,能够显著提升瑕疵的成像效果。另外,将至少一个所述图像中包括所述目标物体的目标区域与无瑕疵目标物体的模板图进行对齐,可以避免将目标物体上的部分花纹误识为瑕疵。因此,可以提高瑕疵检测的精度。
Description
技术领域
本公开涉及信息技术领域,尤其涉及一种基于人工智能的瓷砖瑕疵检测方法、系统及存储介质。
背景技术
在生产领域中,例如,瓷砖的生产领域中,瓷砖在出厂之前需要进行瑕疵检测。
现有技术中提出了基于机器视觉的瑕疵检测方法,具体是对瓷砖图片进行瑕疵检测,但是,检测精度还是较低。
发明内容
为了解决上述技术问题或者至少部分地解决上述技术问题,本公开提供了一种基于人工智能的瓷砖瑕疵检测方法、系统及存储介质,以提高瑕疵检测的精度。
第一方面,本公开实施例提供一种瑕疵检测方法,包括:
获取多个拍摄设备分别对目标物体进行拍摄得到的多个图像,所述多个图像中的至少一个图像是光线的方向与目标物体表面非垂直的情况下得到的;
将至少一个所述图像中包括所述目标物体的目标区域与无瑕疵目标物体的模板图进行对齐;
根据至少一个目标区域、以及与所述至少一个目标区域分别对齐的模板图,确定所述目标物体的瑕疵检测结果。
第二方面,本公开实施例提供一种通过人工智能进行瓷砖瑕疵检测的系统,所述系统包括多个拍摄设备和瓷砖瑕疵检测装置;
所述多个拍摄设备用于对生产线上的瓷砖进行拍摄,得到所述瓷砖的多个图像,所述多个图像中的至少一个图像是光线的方向与所述瓷砖表面非垂直的情况下得到的;
所述瓷砖瑕疵检测装置用于:
将至少一个所述图像中包括所述瓷砖的瓷砖区域与无瑕疵瓷砖的模板图进行对齐;
根据至少一个瓷砖区域、以及与所述至少一个瓷砖区域分别对齐的模板图,确定所述瓷砖的瑕疵检测结果。
第三方面,本公开实施例提供一种基于人工智能的瓷砖瑕疵检测方法,包括:
获取用户输入的待检测瓷砖的多个图像,所述多个图像中的至少一个图像是光线的方向与所述瓷砖表面非垂直的情况下得到的;
将至少一个所述图像中包括所述瓷砖的瓷砖区域与无瑕疵瓷砖的模板图进行对齐;
将至少一个瓷砖区域、以及与所述至少一个瓷砖区域分别对齐的模板图输入深度神经网络,由所述深度神经网络确定所述瓷砖的瑕疵检测结果;
将所述瓷砖的瑕疵检测结果展示给所述用户。
第四方面,本公开实施例提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行以实现第一方面或第三方面所述的方法。
本公开实施例提供的基于人工智能的瓷砖瑕疵检测方法、系统及存储介质,通过多个拍摄设备分别对目标物体进行拍摄得到多个图像,多个图像中的至少一个图像是光线的方向与目标物体表面非垂直的情况下得到的。使得多个拍摄设备可以同时拍摄到目标物体多种类型的瑕疵,特别是在光线的方向与目标物体表面非垂直的情况下,对于视觉特征不明显的瑕疵例如浅层刮痕或漏抛等,能够显著提升瑕疵的成像效果。另外,将至少一个所述图像中包括所述目标物体的目标区域与无瑕疵目标物体的模板图进行对齐,可以避免将目标物体上的部分花纹误识为瑕疵。因此,可以提高瑕疵检测的精度。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
为了更清楚地说明本公开实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本公开实施例提供的瑕疵检测方法流程图;
图2为本公开实施例提供的应用场景的示意图;
图3为本公开实施例提供的打光角度的示意图;
图4为本公开实施例提供的瓷砖在不同打光角度下成像的结构示意图;
图5为本公开另一实施例提供的瓷砖区域截图的示意图;
图6为本公开另一实施例提供的瑕疵检测方法流程图;
图7为本公开另一实施例提供的瑕疵检测方法流程图;
图8为本公开另一实施例提供的子图划分的示意图;
图9为本公开另一实施例提供的瑕疵检测方法流程图;
图10为本公开另一实施例提供的瑕疵检测方法流程图;
图11为本公开实施例提供的瓷砖区域的示意图;
图12为本公开另一实施例提供的瑕疵区域的扣取示意图;
图13为本公开另一实施例提供的瑕疵检测方法流程图;
图14为本公开另一实施例提供的瑕疵检测方法流程图;
图15为本公开另一实施例提供的应用场景的示意图;
图16为本公开实施例提供的瑕疵检测装置的结构示意图;
图17为本公开实施例提供的电子设备实施例的结构示意图;
图18为本公开实施例提供的基于人工智能的瓷砖瑕疵检测方法的流程图。
具体实施方式
为了能够更清楚地理解本公开的上述目的、特征和优点,下面将对本公开的方案进行进一步描述。需要说明的是,在不冲突的情况下,本公开的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本公开,但本公开还可以采用其他不同于在此描述的方式来实施;显然,说明书中的实施例只是本公开的一部分实施例,而不是全部的实施例。
由于传统的瑕疵检测主要依靠人工检测,其效率和准确度都比较低。因此,现有技术中提出了基于机器视觉的瑕疵检测方法,具体是对瓷砖图片进行瑕疵检测,但是,检测精度还是较低。针对该问题,本公开实施例提供了一种瑕疵检测方法,下面结合具体的实施例对该方法进行介绍。
图1为本公开实施例提供的瑕疵检测方法流程图。该方法可以由瑕疵检测装置执行,该装置可以采用软件和/或硬件的方式实现,该装置可配置于电子设备中,例如服务器或终端,其中,终端具体包括手机、电脑或平板电脑等。该瑕疵检测方法可以对生产线上生产出的产品进行瑕疵检测,例如,可以对瓷砖进行瑕疵检测。可以理解的是,在其他实施例中,还可以采用该瑕疵检测方法对其他物体或其他产品进行瑕疵检测。例如,在对瓷砖进行瑕疵检测的时候,该方法可以应用于如图2所示的应用场景,例如图2所示的智能检测系统可以包括多个拍摄设备,或者该智能检测系统分别与多个拍摄设备连接,多个拍摄设备可以对每一块瓷砖分别进行拍照,使得每一块瓷砖可以对应有多个图像。进一步,智能检测系统可以根据每一块瓷砖对应的多个图像,对该瓷砖进行瑕疵检测。或者,智能检测系统可以将每一块瓷砖对应的多个图像发送给服务器或终端,由服务器或终端对每一块瓷砖对应的多个图像进行分析,从而对该瓷砖进行瑕疵检测。下面以图2所示的该智能检测系统为例,介绍针对瓷砖的瑕疵检测方法。因此,下面所述的目标物体可以是瓷砖,或其他待检测的物体。如图1所示,该方法具体步骤如下:
S101、获取多个拍摄设备分别对目标物体进行拍摄得到的多个图像,所述多个图像中的至少一个图像是光线的方向与目标物体表面非垂直的情况下得到的。
例如图2所示的智能检测系统可以包括多个拍摄设备,或者该智能检测系统分别与多个拍摄设备连接。其中,多个拍摄设备可以是多个高清摄像头,本公开实施例可以通过多个高清摄像头对同一块瓷砖在多种打光角度下进行成像。例如,此处以3个摄像头为例,该3个摄像头分别记为摄像头1、摄像头2和摄像头3,其中,有一个摄像头可以是彩色摄像头,剩余两个摄像头可以是黑白摄像头。例如,摄像头1和摄像头2可以是黑白摄像头,摄像头3可以是彩色摄像头。摄像头1可以在瓷砖被大角度打光的情况下对瓷砖进行成像。摄像头2和摄像头3分别在瓷砖被垂直角度打光的情况下对瓷砖进行成像。具体的,大角度打光和垂直角度打光的示意图如图3所示,其中,箭头方向是对瓷砖的打光方向,即光线的方向。大角度打光可以理解为光线的方向与瓷砖表面非垂直。垂直角度打光可以理解为光线的方向与瓷砖表面垂直。例如,一些瓷砖包括瓷砖花纹层和透明釉层,部分釉面类瑕疵例如缩釉、划痕等,主要是因为透明的釉层存在缺陷例如凹凸不平造成的。在垂直角度打光的情况下,由于釉面是透明的,因此造成瑕疵不能成像或者成像的效果较差。而在大角度打光的情况下,凹凸不平的釉面会产生阴影,如图3所示的阴影部分,从而可以提高成像质量,提高瑕疵检测的召回率和精度。例如,图4所示的41表示瓷砖被大角度打光的成像,42表示瓷砖被垂直角度打光的成像。
可以理解的是,在大角度打光的情况下,本公开实施例并不对光线的方向与瓷砖表面之间的夹角进行限定。例如,摄像头1可以在该夹角为某一角度的情况下对瓷砖进行成像。另外,本公开实施例还可以通过增加其他摄像头,使得其他摄像头在该夹角为其他角度的情况下对该瓷砖进行成像。也就是说,通过多个摄像头对同一块瓷砖进行拍摄得到多个图像时,其中,至少一个图像是光线的方向与瓷砖表面非垂直的情况下得到的。进一步,智能检测系统可以获取该多个拍摄设备分别对同一块瓷砖进行拍摄得到的多个图像。
S102、将至少一个所述图像中包括所述目标物体的目标区域与无瑕疵目标物体的模板图进行对齐。
例如图5所示的图像51是摄像头1对瓷砖拍摄得到的图像。图2所示的智能检测系统可以采用深度神经网络对该图像51中的瓷砖角点进行检测,从而计算出图像51中瓷砖的角点位置,即顶点位置。进一步,根据角点位置计算出该图像51中的瓷砖区域,并根据角点,从该图像51中截取出瓷砖区域52,该瓷砖区域52可以记为该图像51中的目标区域。在其他一些实施例中,如果将瓷砖区域从原图中抠出后,还可以对瓷砖区域进行角度矫正,有利于后续处理、以及可视化。
在一些情况下,瓷砖花纹和部分瑕疵的视觉表现可能是相同的,因此,为了提高对瑕疵的检测精度,本公开实施例可以采用瓷砖的模板图提高检测精度。具体的,可以将如上所述的瓷砖区域52与无瑕疵瓷砖的模板图进行对齐。其中,无瑕疵瓷砖的模板图可以是无瑕疵瓷砖的图像。对齐后的效果可以是瓷砖区域52中的花纹与模板图中的花纹对齐。S103、根据至少一个目标区域、以及与所述至少一个目标区域分别对齐的模板图,确定所述目标物体的瑕疵检测结果。
例如,智能检测系统中可以部署有深度神经网络。将如上所述的瓷砖区域52与无瑕疵瓷砖的模板图进行对齐后,可以将对齐后的瓷砖区域52与无瑕疵瓷砖的模板图输入到深度神经网络中,从而使得该深度神经网络可以根据无瑕疵瓷砖的模板图对瓷砖区域52进行瑕疵检测得到瓷砖区域52的瑕疵检测结果。
可以理解的是,不仅可以将瓷砖区域52与无瑕疵瓷砖的模板图进行对齐,还可以将其他瓷砖区域与无瑕疵瓷砖的模板图进行对齐后,将对齐后的其他瓷砖区域与无瑕疵瓷砖的模板图输入到深度神经网络中,使得该深度神经网络可以根据多组输入确定瓷砖的瑕疵检测结果,其中,每一组输入可以是一组对齐后的瓷砖区域与无瑕疵瓷砖的模板图。
具体的,由于不同的摄像头对同一块瓷砖拍摄得到的图像可能是不同的,因此,为了提高检测精度,本实施例采用了多个模板图。例如,可以预先通过摄像头1对无瑕疵瓷砖进行拍摄得到模板图1,通过摄像头2对无瑕疵瓷砖进行拍摄得到模板图2,通过摄像头3对无瑕疵瓷砖进行拍摄得到模板图3。其中,无瑕疵瓷砖与待检测的瓷砖可以是同一款瓷砖。假设摄像头1对待检测的瓷砖拍摄得到的图像记为图像1,摄像头2对待检测的瓷砖拍摄得到的图像记为图像2,摄像头3对待检测的瓷砖拍摄得到的图像记为图像3,采用类似于图5所示的过程,可以从图像1中提取出瓷砖区域1,从图像2中提取出瓷砖区域2,从图像3中提取出瓷砖区域3。进一步,将瓷砖区域1和模板图1对齐,将瓷砖区域2和模板图2对齐,将瓷砖区域3和模板图3对齐。对齐后的效果可以是瓷砖区域中的花纹与模板图中的花纹对齐。
具体的,该智能检测系统可以将对齐后的瓷砖区域1和模板图1、对齐后的瓷砖区域2和模板图2、以及对齐后的瓷砖区域3和模板图3输入到该深度神经网络中,从而使得该深度神经网络可以根据模板图1对瓷砖区域1进行瑕疵检测得到瓷砖区域1的瑕疵检测结果,根据模板图2对瓷砖区域2进行瑕疵检测得到瓷砖区域2的瑕疵检测结果,以及根据模板图3对瓷砖区域3进行瑕疵检测得到瓷砖区域3的瑕疵检测结果。进一步,根据瓷砖区域1的瑕疵检测结果、瓷砖区域2的瑕疵检测结果、瓷砖区域3的瑕疵检测结果,得到瓷砖的瑕疵检测结果。
本公开实施例通过多个拍摄设备分别对目标物体进行拍摄得到多个图像,多个图像中的至少一个图像是光线的方向与目标物体表面非垂直的情况下得到的。使得多个拍摄设备可以同时拍摄到目标物体多种类型的瑕疵,特别是在光线的方向与目标物体表面非垂直的情况下,对于视觉特征不明显的瑕疵例如浅层刮痕或漏抛等,能够显著提升瑕疵的成像效果。另外,将至少一个所述图像中包括所述目标物体的目标区域与无瑕疵目标物体的模板图进行对齐,可以避免将目标物体上的部分花纹误识为瑕疵。因此,可以提高瑕疵检测的精度。
在上述实施例的基础上,将至少一个所述图像中包括所述目标物体的目标区域与无瑕疵目标物体的模板图进行对齐,包括如图6所示的如下几个步骤:
S601、将所述目标区域对应的模板图中无瑕疵目标物体的角点与所述目标区域中目标物体的角点对齐。
例如,将瓷砖区域1和模板图1对齐的过程中,首先需要将瓷砖区域1中瓷砖的角点和模板图1中瓷砖的角点进行对齐。
S602、根据所述目标区域对应的模板图中图案的第一特征点和所述目标区域中图案的第二特征点,将所述目标区域对应的模板图中的图案和所述目标区域中的图案对齐。
在一些情况下,由于实际生产出的瓷砖会有略微的差异,导致即使角点对齐的情况下,瓷砖花纹也可能存在不对齐的情况。因此,可以分别提取瓷砖区域1中的花纹特征点和模板图1中的花纹特征点。其中,瓷砖区域1中的花纹特征点可以记为第一特征点。模板图1中的花纹特征点可以记为第二特征点。进一步,根据第一特征点和第二特征点,将瓷砖区域1中的花纹和模板图1中的花纹对齐。
可以理解的是,由于本实施例以瓷砖为例,因此,瓷砖的图案可以是瓷砖的花纹。在其他一些实施例中,当待检测的目标物体不同时,该目标物体的图案也可能会随之不同。
可选的,根据所述目标区域对应的模板图中图案的第一特征点和所述目标区域中图案的第二特征点,将所述目标区域对应的模板图中的图案和所述目标区域中的图案对齐,包括:根据所述目标区域对应的模板图中图案的第一特征点和所述目标区域中图案的第二特征点,确定第一特征点和第二特征点之间的变换矩阵;根据所述变换矩阵对所述目标区域对应的模板图进行调整,使得所述目标区域对应的模板图中的图案和所述目标区域中的图案对齐。
例如,瓷砖区域1中的花纹特征点和模板图1中的花纹特征点具体可以是加速稳健特征(Speeded Up Robust Features,SURF)点。进一步,可以对瓷砖区域1中的花纹特征点和模板图1中的花纹特征点进行匹配。通过匹配可以计算出瓷砖区域1中的花纹特征点和模板图1中的花纹特征点之间的变换矩阵,该变换矩阵可以是对齐变换矩阵。进一步,通过该变换矩阵可以对模板图1进行调整或变化,从而使得瓷砖区域1中的花纹和模板图1中的花纹对齐。
本实施例通过将所述目标区域对应的模板图中无瑕疵目标物体的角点与所述目标区域中目标物体的角点对齐,以及根据所述目标区域对应的模板图中图案的第一特征点和所述目标区域中图案的第二特征点,将所述目标区域对应的模板图中的图案和所述目标区域中的图案对齐。在同一批目标物体中不同目标物体的图案有少量偏移的情况下,将目标物体的模板图与包括目标物体的图像区域即目标区域对齐,特别是将模板图中的图案和目标区域中的图案对齐,可有效避免将目标物体上的部分花纹误识为瑕疵,从而提高了针对目标物体的瑕疵检测精度。
在上述实施例的基础上,根据至少一个目标区域、以及与所述至少一个目标区域分别对齐的模板图,确定所述目标物体的瑕疵检测结果,包括如图7所示的如下几个步骤:
S701、将每个所述目标区域分别划分为多个第一子图,以及将每个所述模板图分别划分为多个第二子图,所述第一子图的个数和所述第二子图的个数相同。
例如,将上述的每个瓷砖区域进行切图处理,从而将每个瓷砖区域分别切分为M*N个第一子图,例如,按照瓷砖区域的宽,将该瓷砖区域切成M份,按照该瓷砖区域的长,将该瓷砖区域切成N份,使得该瓷砖区域总共被切成M*N个第一子图。同理,将上述的每个模板图分别切分为M*N个第二子图。
如图8所示,将瓷砖区域1、瓷砖区域2、瓷砖区域3分别划分为9个第一子图。将模板图1、模板图2、模板图3分别划分为9个第二子图。
S702、根据每个第一子图、以及与每个第一子图分别对应的第二子图,确定所述目标物体的瑕疵检测结果。
如图8所示,瓷砖区域1中标号为1的第一子图与模板图1中标号为1的第二子图对应,瓷砖区域1中标号为2的第一子图与模板图1中标号为2的第二子图对应,以此类推。也就是说,瓷砖区域1中的9个第一子图和模板图1中的9个第二子图一一对应,即构成9组对应关系。同理,瓷砖区域2中的9个第一子图和模板图2中的9个第二子图也可以构成9组对应关系,瓷砖区域3中的9个第一子图和模板图3中的9个第二子图也可以构成9组对应关系。一共构成27组对应关系。具体的,智能检测系统可以将27组呈对应关系的第一子图和第二子图同时输入到深度神经网络中,或者依次输入到深度神经网络中。如果是同时输入,那么深度神经网络可以并行的对27个第一子图中的瑕疵进行判断。如果是依次输入,那么深度神经网络可以依次对27个第一子图进行瑕疵检测。但是,不论是同时输入,还是依次输入,针对任意一组第一子图和第二子图,该深度神经网络可以根据第二子图对第一子图进行瑕疵检测。
由于瓷砖的成像通常较大,且从瓷砖的成像中截取出的瓷砖区域也较大,而瓷砖上的瑕疵面积通常较小,如果将较大的瓷砖区域输入深度神经网络,可能会导致面积较小的瑕疵的召回率低。因此,为了解决该问题,本实施例通过将瓷砖区域切分为多个第一子图,将模板图切分为相同数量的第二子图,进一步,将每个第一子图和该第一子图对应的第二子图输入到深度神经网络中,使得深度神经网络可以根据面积较小的第二子图对面积较小的第一子图进行瑕疵检测,从而更容易检测出微小的瑕疵,提高瑕疵的召回率。
可选的,根据每个第一子图、以及与每个第一子图分别对应的第二子图,确定所述目标物体的瑕疵检测结果,包括如图9所示的如下几个步骤:
S901、通过瑕疵检测网络对所述第一子图和所述第一子图对应的第二子图进行处理,得到第一检测结果。
具体的,深度神经网络中可以包括瑕疵检测网络和瑕疵分割网络,其中,所述瑕疵检测网络和所述瑕疵分割网络分别用于检测不同类型的瑕疵。例如,瑕疵检测网络可以检测点块类的瑕疵,瑕疵分割网络可以检测细长类的瑕疵。
例如图8所示的瓷砖区域1中标号为1的第一子图与模板图1中标号为1的第二子图被输入到深度神经网络时,可以通过瑕疵检测网络对该第一子图和该第二子图进行处理,以及通过瑕疵分割网络对该第一子图和该第二子图进行处理。例如,瑕疵检测网络对该第一子图和该第二子图进行处理后,得到第一检测结果。
S902、通过瑕疵分割网络对所述第一子图和所述第一子图对应的第二子图进行处理,得到第二检测结果,所述瑕疵检测网络和所述瑕疵分割网络分别用于检测不同类型的瑕疵。
例如,瑕疵分割网络对该第一子图和该第二子图进行处理后,得到第二检测结果。
S903、根据所述第一检测结果和所述第二检测结果,确定所述第一子图的瑕疵检测结果。
例如,若第一子图包括块状的瑕疵,则第一检测结果可以是一个矩形框,该矩形框中包括该块状的瑕疵。若第一子图包括细长的瑕疵,则第二检测结果可以是多个像素点,该多个像素点表示瑕疵点。进一步,将第一检测结果和第二检测结果构成的整体作为该第一子图的瑕疵检测结果。
S904、根据每个第一子图分别对应的瑕疵检测结果,确定所述目标物体的瑕疵检测结果。
例如图8所示,瓷砖区域1、瓷砖区域2和瓷砖区域3一共包括27个第一子图,根据该27个第一子图中每个第一子图分别对应的瑕疵检测结果,可以确定出待检测的这块瓷砖的瑕疵检测结果。
可选的,根据每个第一子图分别对应的瑕疵检测结果,确定所述目标物体的瑕疵检测结果,包括:根据所述目标物体中同一区域对应的多个第一子图的瑕疵检测结果,确定所述区域的瑕疵检测结果;根据所述目标物体中多个区域分别对应的瑕疵检测结果,确定所述目标物体的瑕疵检测结果。
例如,瓷砖区域1、瓷砖区域2和瓷砖区域3中标号为1的第一子图对应于瓷砖的同一区域。根据瓷砖区域1、瓷砖区域2和瓷砖区域3中标号为1的第一子图分别对应的瑕疵检测结果,可以确定出该区域的瑕疵检测结果。例如,可以将瓷砖区域1、瓷砖区域2和瓷砖区域3中标号为1的第一子图分别对应的瑕疵检测结果进行融合,从而得到该区域的瑕疵检测结果。由于不同的瑕疵在不同的摄像头下的成像效果可能是不一致的,部分瑕疵在部分摄像头下可能无法成像。因此,将瓷砖同一区域对应的多个第一子图的瑕疵检测结果进行融合,可以准确的确定出该区域最终的瑕疵检测结果,从而进一步提高了瑕疵检测的精度。例如,待检测的瓷砖也可以被认为是包括9个区域,根据每个区域最终的瑕疵检测结果,可以确定出该瓷砖最终的瑕疵检测结果。该瓷砖最终的瑕疵检测结果可以表示该瓷砖的哪个区域有瑕疵。
可以理解的是,如上所述的S901-S904可以记为一阶段瑕疵检测或分割过程。将瓷砖同一区域对应的多个第一子图的瑕疵检测结果进行融合的过程可以记为一阶段结果融合过程。在此基础上,本公开实施例还可以包括二阶段处理,下面对二阶段处理进行介绍。
例如,在上述实施例的基础上,确定所述目标物体的瑕疵检测结果之后,所述方法还包括如图10所示的如下几个步骤:
S1001、根据所述目标物体的瑕疵检测结果,确定瑕疵位置。
例如,该瓷砖最终的瑕疵检测结果可以表示该瓷砖的哪个区域有瑕疵。如图11所示,若该瓷砖最终的瑕疵检测结果表示该瓷砖的1号区域有瑕疵时,根据1号区域最终的瑕疵检测结果,可以确定出1号区域中瑕疵所处的位置。例如,1号区域中存在一个块状的瑕疵,1号区域最终的瑕疵检测结果是一个虚线的矩形框。该矩形框中包括该块状的瑕疵。根据该矩形框可以确定出瑕疵位置。
S1002、从每个所述目标区域中分别提取与所述瑕疵位置对应的瑕疵区域、以及从每个所述模板图中分别提取与所述瑕疵位置对应的模板区域。
例如,从图12所示的瓷砖区域1、瓷砖区域2、瓷砖区域3中分别提取与该瑕疵位置对应的瑕疵区域、以及从模板图1、模板图2、模板图3中分别提取与该瑕疵位置对应的模板区域。其中,瓷砖区域1中的瑕疵区域与模板图1中的模板区域对应,瓷砖区域2中的瑕疵区域与模板图2中的模板区域对应,瓷砖区域3中的瑕疵区域与模板图3中的模板区域对应。
S1003、根据每个所述瑕疵区域、以及与每个所述瑕疵区域分别对应的模板区域,确定所述瑕疵位置上的瑕疵的类型。
进一步,根据瓷砖区域1中的瑕疵区域与模板图1中的模板区域、瓷砖区域2中的瑕疵区域与模板图2中的模板区域、瓷砖区域3中的瑕疵区域与模板图3中的模板区域,确定该瑕疵位置上的瑕疵的类型。
可选的,根据每个所述瑕疵区域、以及与每个所述瑕疵区域分别对应的模板区域,确定所述瑕疵位置上的瑕疵的类型,包括:将每个所述瑕疵区域、以及与每个所述瑕疵区域分别对应的模板区域输入分类网络,由所述分类网络确定所述瑕疵位置上的瑕疵的类型。
例如,将瓷砖区域1中的瑕疵区域与模板图1中的模板区域、瓷砖区域2中的瑕疵区域与模板图2中的模板区域、瓷砖区域3中的瑕疵区域与模板图3中的模板区域输入到二阶段的分类网络中,使得分类网络确定该瑕疵位置上的瑕疵的类型。
在一些情况下,根据业务和产线的情况,可以预先设置有瑕疵的过滤规则,例如,如果检测出的瑕疵符合该过滤规则,则智能检测系统可以不报警,从而使得轻微瑕疵的瓷砖可以流向市场。如果检测出的瑕疵不符合该过滤规则,则智能检测系统可以报警,从而使得较大瑕疵的瓷砖从生产线上被移走。具体的,该过滤规则可以对瑕疵类型、大小、长宽比、位置等信息进行过滤。
本公开实施例通过两阶段的网络对瓷砖的瑕疵进行检测,进一步提高了瑕疵检测的准确率。另外,本实施例通过不同的网络检测不同类别的瑕疵,避免了由于所有类型的瑕疵都通过一种网络来检测,导致部分类型的瑕疵被漏检或检测效果不佳的问题。提高了瑕疵检测的全面性。
综上所述,本公开实施例通过多摄像头、多角度打光对瓷砖进行成像,并利用人工智能、深度神经网络、计算机视觉等技术,达到了瓷砖瑕疵检测的智能化、自动化的目的,同时还可以有效提高检测精度。
另外,综上所述对瓷砖的瑕疵检测过程可以包括如图13所示的过程,该过程一共包括5个步骤,每个步骤的实现过程和具体原理如上所述,此处不再赘述。其中,步骤4中的输入图具体可以是如上所述的瓷砖区域。另外,步骤4可以包括如图14所示的4.1-4.4。4.1-4.4的实现过程和具体原理如上所述,此处不再赘述。其中,4.1涉及到的子图切分具体是指将瓷砖区域切分为M*N个第一子图、以及将模板图切分为M*N个第二子图的过程。4.4中涉及到的二阶段瑕疵区域扣取具体可以是如上所述的从图12所示的瓷砖区域1、瓷砖区域2、瓷砖区域3中分别提取与该瑕疵位置对应的瑕疵区域。4.4中涉及到的分类具体可以是如上所述的由二阶段的分类网络确定瑕疵的类型。
可以理解的是,如上所述的一阶段涉及到的瑕疵检测网络和瑕疵分割网络、以及二阶段涉及到的分类网络,分别可以是机器学习模型,如上所述的过程,可以是这些模型的应用阶段或推理阶段。在应用阶段或推理阶段之前,需要对模型进行训练,在训练阶段中需要用到样本图像。下面介绍样本图像的获取过程。
可选的,用于训练所述瑕疵检测网络、所述瑕疵分割网络和所述分类网络的样本图像是根据如下步骤确定的:根据带有瑕疵的样本物体离开生产线的时刻、所述时刻所述样本物体在所述生产线上的位置、以及所述样本物体在所述生产线上的历史运动轨迹,确定所述样本物体经过检测系统的历史时间;根据所述样本物体经过检测系统的历史时间,确定所述检测系统在所述历史时间对所述样本物体拍摄得到的样本图像。该检测系统可以是上述实施例中所述的智能检测系统。
如图15所示,在获取样本图像的过程中,人工质检和智能检测系统同时、并行运行。具体的,智能检测系统在瓷砖生产线上对瓷砖成像,例如上述所述的采用多个摄像头、多角度打光成像。质检员同时对生产线上的每个瓷砖进行瑕疵质检。此外,还可以部署有产线摄像头,该产线摄像头可以拍摄产线情况。进一步,使用人工智能、深度神经网络、计算机视觉等技术对该产线摄像头拍摄得到的视频进行分析,从而跟踪生产线上每一块瓷砖的运动轨迹。跟踪瓷砖的运动轨迹时可使用的技术不限于多目标跟踪技术、物体检测技术、运动预测等。
当质检员发现某一瓷砖有瑕疵时,会将该瓷砖搬离生产线,从而使得有瑕疵瓷砖的运动轨迹和正常瓷砖的运动轨迹不同。因此,可以通过瓷砖的运动轨迹判断该瓷砖是否被质检员搬离生产线,进而判断该瓷砖是否为瑕疵瓷砖。
在本实施例中,瓷砖的运动轨迹可以记录该瓷砖在任意一个时刻在生产线上所处的位置。因此,对于有瑕疵的瓷砖,可以根据该瓷砖离开生产线的时刻、以及该瓷砖离开生产线的这一时刻该瓷砖在生产线上所处的位置、以及该瓷砖在生产线上的历史运动轨迹,反推该瓷砖经过智能检测系统的历史时间。进一步,根据该瓷砖经过智能检测系统的历史时间,可以确定出智能检测系统在该历史时间对该瓷砖拍摄的图像,使得该图像可以和该瓷砖准确的对应起来。因此,由于该图像是瑕疵瓷砖的图像,因此,可以作为训练瑕疵检测网络、瑕疵分割网络、以及二阶段涉及到的分类网络的样本图像。例如,进一步,对样本图像进行人工标注,利用标注后的图像进行模型训练。
本实施例通过产线摄像头对生产线上的瓷砖进行轨迹跟踪,由于瑕疵瓷砖和正常瓷砖的运动轨迹不同,因此,根据每个瓷砖的运行轨迹即可准确的确定出瑕疵瓷砖。另外,根据瑕疵瓷砖离开生产线的时刻、所述时刻所述瑕疵瓷砖在所述生产线上的位置、以及所述瑕疵瓷砖在所述生产线上的历史运动轨迹,反推所述瑕疵瓷砖经过检测系统的历史时间;根据所述瑕疵瓷砖经过检测系统的历史时间,确定所述检测系统在所述历史时间对所述瑕疵瓷砖拍摄得到的样本图像。使得瑕疵瓷砖和样本图像可以准确的对应起来。从而有效避免由于从检测系统对瑕疵瓷砖成像到人工质检确定瑕疵瓷砖有时间差,导致瑕疵瓷砖和成像图片无法准确对应的问题。另外,通过本实施例所述的方法,可以实现质检员检出的瑕疵瓷砖与检测系统对该瑕疵瓷砖成像图片之间的自动对应。此外,由于不需要额外的人工对瑕疵瓷砖进行对应记录,因此,可以不间断运行,大大降低了瑕疵瓷砖图片收集的成本。
图16为本公开实施例提供的瑕疵检测装置的结构示意图。本公开实施例提供的瑕疵检测装置可以执行瑕疵检测方法实施例提供的处理流程,如图16所示,瑕疵检测装置160包括:
获取模块161,用于获取多个拍摄设备分别对目标物体进行拍摄得到的多个图像,所述多个图像中的至少一个图像是光线的方向与目标物体表面非垂直的情况下得到的;
对齐模块162,用于将至少一个所述图像中包括所述目标物体的目标区域与无瑕疵目标物体的模板图进行对齐;
第一确定模块163,用于根据至少一个目标区域、以及与所述至少一个目标区域分别对齐的模板图,确定所述目标物体的瑕疵检测结果。
可选的,第一确定模块163包括划分单元1631和确定单元1632:
划分单元1631用于将每个所述目标区域分别划分为多个第一子图,以及将每个所述模板图分别划分为多个第二子图,所述第一子图的个数和所述第二子图的个数相同;
确定单元1632用于根据每个第一子图、以及与每个第一子图分别对应的第二子图,确定所述目标物体的瑕疵检测结果。
可选的,确定单元1632根据每个第一子图、以及与每个第一子图分别对应的第二子图,确定所述目标物体的瑕疵检测结果时,具体用于:
通过瑕疵检测网络对所述第一子图和所述第一子图对应的第二子图进行处理,得到第一检测结果;
通过瑕疵分割网络对所述第一子图和所述第一子图对应的第二子图进行处理,得到第二检测结果,所述瑕疵检测网络和所述瑕疵分割网络分别用于检测不同类型的瑕疵;
根据所述第一检测结果和所述第二检测结果,确定所述第一子图的瑕疵检测结果;
根据每个第一子图分别对应的瑕疵检测结果,确定所述目标物体的瑕疵检测结果。
可选的,确定单元1632根据每个第一子图分别对应的瑕疵检测结果,确定所述目标物体的瑕疵检测结果,包括:
根据所述目标物体中同一区域对应的多个第一子图的瑕疵检测结果,确定所述区域的瑕疵检测结果;
根据所述目标物体中多个区域分别对应的瑕疵检测结果,确定所述目标物体的瑕疵检测结果。
可选的,瑕疵检测装置160还包括第二确定模块164,用于在确定模块163确定所述目标物体的瑕疵检测结果之后,根据所述目标物体的瑕疵检测结果,确定瑕疵位置;从每个所述目标区域中分别提取与所述瑕疵位置对应的瑕疵区域、以及从每个所述模板图中分别提取与所述瑕疵位置对应的模板区域;根据每个所述瑕疵区域、以及与每个所述瑕疵区域分别对应的模板区域,确定所述瑕疵位置上的瑕疵的类型。
可选的,对齐模块162将至少一个所述图像中包括所述目标物体的目标区域与无瑕疵目标物体的模板图进行对齐时,具体用于:
将所述目标区域对应的模板图中无瑕疵目标物体的角点与所述目标区域中目标物体的角点对齐;
根据所述目标区域对应的模板图中图案的第一特征点和所述目标区域中图案的第二特征点,将所述目标区域对应的模板图中的图案和所述目标区域中的图案对齐。
可选的,对齐模块162根据所述目标区域对应的模板图中图案的第一特征点和所述目标区域中图案的第二特征点,将所述目标区域对应的模板图中的图案和所述目标区域中的图案对齐时,具体用于:
根据所述目标区域对应的模板图中图案的第一特征点和所述目标区域中图案的第二特征点,确定第一特征点和第二特征点之间的变换矩阵;
根据所述变换矩阵对所述目标区域对应的模板图进行调整,使得所述目标区域对应的模板图中的图案和所述目标区域中的图案对齐。
可选的,第二确定模块164根据每个所述瑕疵区域、以及与每个所述瑕疵区域分别对应的模板区域,确定所述瑕疵位置上的瑕疵的类型时,具体用于:
将每个所述瑕疵区域、以及与每个所述瑕疵区域分别对应的模板区域输入分类网络,由所述分类网络确定所述瑕疵位置上的瑕疵的类型。
可选的,瑕疵检测装置160还包括第三确定模块165,第三确定模块165用于确定训练所述瑕疵检测网络、所述瑕疵分割网络和所述分类网络所需的样本图像,具体的,第三确定模块165用于根据带有瑕疵的样本物体离开生产线的时刻、所述时刻所述样本物体在所述生产线上的位置、以及所述样本物体在所述生产线上的历史运动轨迹,确定所述样本物体经过检测系统的历史时间;根据所述样本物体经过检测系统的历史时间,确定所述检测系统在所述历史时间对所述样本物体拍摄得到的样本图像。
图16所示实施例的瑕疵检测装置可用于执行上述方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
以上描述了瑕疵检测装置的内部功能和结构,该装置可实现为一种电子设备。图17为本公开实施例提供的电子设备实施例的结构示意图。如图17所示,该电子设备包括存储器171和处理器172。
存储器171用于存储程序。除上述程序之外,存储器171还可被配置为存储其它各种数据以支持在电子设备上的操作。这些数据的示例包括用于在电子设备上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。
存储器171可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
处理器172与存储器171耦合,执行存储器171所存储的程序,以用于:
获取多个拍摄设备分别对目标物体进行拍摄得到的多个图像,所述多个图像中的至少一个图像是光线的方向与目标物体表面非垂直的情况下得到的;
将至少一个所述图像中包括所述目标物体的目标区域与无瑕疵目标物体的模板图进行对齐;
根据至少一个目标区域、以及与所述至少一个目标区域分别对齐的模板图,确定所述目标物体的瑕疵检测结果。
进一步,如图17所示,电子设备还可以包括:通信组件173、电源组件174、音频组件175、显示器176等其它组件。图17中仅示意性给出部分组件,并不意味着电子设备只包括图17所示组件。
通信组件173被配置为便于电子设备和其他设备之间有线或无线方式的通信。电子设备可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件173经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件173还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
电源组件174,为电子设备的各种组件提供电力。电源组件174可以包括电源管理系统,一个或多个电源,及其他与为电子设备生成、管理和分配电力相关联的组件。
音频组件175被配置为输出和/或输入音频信号。例如,音频组件175包括一个麦克风(MIC),当电子设备处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器171或经由通信组件173发送。在一些实施例中,音频组件175还包括一个扬声器,用于输出音频信号。
显示器176包括屏幕,其屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。
另外,本公开实施例还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行以实现上述实施例所述的瑕疵检测方法。
此外,本公开实施例还提供一种通过人工智能进行瓷砖瑕疵检测的系统,该系统具体可以是如上所述的智能检测系统。具体的,所述系统包括多个拍摄设备和瓷砖瑕疵检测装置;
所述多个拍摄设备用于对生产线上的瓷砖进行拍摄,得到所述瓷砖的多个图像,所述多个图像中的至少一个图像是光线的方向与所述瓷砖表面非垂直的情况下得到的;
所述瓷砖瑕疵检测装置用于:
将至少一个所述图像中包括所述瓷砖的瓷砖区域与无瑕疵瓷砖的模板图进行对齐;
根据至少一个瓷砖区域、以及与所述至少一个瓷砖区域分别对齐的模板图,确定所述瓷砖的瑕疵检测结果。
另外,本公开实施例还提供一种基于人工智能的瓷砖瑕疵检测方法,所述方法包括如图18所示的如下步骤:
S181、获取用户输入的待检测瓷砖的多个图像,所述多个图像中的至少一个图像是光线的方向与所述瓷砖表面非垂直的情况下得到的。
具体的,本公开实施例所述的方法可以在终端执行,也可以在服务器一侧执行。当该方法在终端执行时,如上所述的深度神经网络、以及二阶段的分类网络可以部署在终端。终端可以设置有多个摄像头,并通过多个摄像头对待检测瓷砖进行拍照,得到待检测瓷砖的多个图像。或者,终端可以预先存储有待检测瓷砖的多个图像。其中,多个图像中的至少一个图像是光线的方向与所述瓷砖表面非垂直的情况下得到的。进一步,该终端可以安装有用于检测瑕疵的应用程序,该应用程序可提供有用户界面,终端可以获取用户在该用户界面中输入的待检测瓷砖的多个图像。
S182、将至少一个所述图像中包括所述瓷砖的瓷砖区域与无瑕疵瓷砖的模板图进行对齐。
例如,终端可以将至少一个所述图像中包括所述瓷砖的瓷砖区域与无瑕疵瓷砖的模板图进行对齐,对齐的过程可以参照上述过程,此处不再赘述。
S183、将至少一个瓷砖区域、以及与所述至少一个瓷砖区域分别对齐的模板图输入深度神经网络,由所述深度神经网络确定所述瓷砖的瑕疵检测结果。
例如,终端可以将一组或多组对齐后的瓷砖区域和模板图输入到深度神经网络中,使得该深度神经网络可以确定瓷砖的瑕疵检测结果,例如,该瓷砖的哪个区域有瑕疵。进一步,通过二阶段的分类网络确定出该瑕疵的类型。
S184、将所述瓷砖的瑕疵检测结果展示给所述用户。
例如,终端可以将瓷砖的瑕疵检测结果、以及该瑕疵的类型展示在用户界面中。或者,在其他一些实施例中,该深度神经网络还可以包括二阶段的分类网络,从而使得该瓷砖的瑕疵检测结果可以包括该瑕疵的类型、大小、长宽比、位置等信息。
可以理解的是,本公开实施例所述的方法还可以在服务器一侧执行,在这种情况下,S181中获取用户输入的待检测瓷砖的多个图像的过程,可以是服务器从用户终端接收待检测瓷砖的多个图像。S184中将所述瓷砖的瑕疵检测结果展示给所述用户的过程,可以是服务器将所述瓷砖的瑕疵检测结果发送给所述用户终端。在这种情况下,所述用户终端可以安装有用于检测瑕疵的应用程序,该服务器是该应用程序对应的第三方平台,该服务器中部署有如上所述的深度神经网络、以及二阶段的分类网络。该服务器可以对该用户终端提供的多个图像进行处理,例如,将至少一个所述图像中包括所述瓷砖的瓷砖区域与无瑕疵瓷砖的模板图进行对齐,并将一组或多组对齐后的瓷砖区域和模板图输入到深度神经网络中,使得该深度神经网络可以确定瓷砖的瑕疵检测结果,例如,该瓷砖的哪个区域有瑕疵。进一步,服务器通过二阶段的分类网络确定出该瑕疵的类型。进一步,服务器将瓷砖的瑕疵检测结果、以及该瑕疵的类型发送给用户终端,使得该用户终端可以将瓷砖的瑕疵检测结果、以及该瑕疵的类型展示在用户界面中。或者,在其他一些实施例中,该深度神经网络还可以包括二阶段的分类网络,从而使得该瓷砖的瑕疵检测结果可以包括该瑕疵的类型、大小、长宽比、位置等信息。需要说明的是,在本文中,诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述仅是本公开的具体实施方式,使本领域技术人员能够理解或实现本公开。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本公开的精神或范围的情况下,在其它实施例中实现。因此,本公开将不会被限制于本文所述的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (12)
1.一种瑕疵检测方法,其中,所述方法包括:
获取多个拍摄设备分别对目标物体进行拍摄得到的多个图像,所述多个图像中的至少一个图像是光线的方向与目标物体表面非垂直的情况下得到的;
将至少一个所述图像中包括所述目标物体的目标区域与无瑕疵目标物体的模板图进行对齐;
根据至少一个目标区域、以及与所述至少一个目标区域分别对齐的模板图,确定所述目标物体的瑕疵检测结果。
2.根据权利要求1所述的方法,其中,根据至少一个目标区域、以及与所述至少一个目标区域分别对齐的模板图,确定所述目标物体的瑕疵检测结果,包括:
将每个所述目标区域分别划分为多个第一子图,以及将每个所述模板图分别划分为多个第二子图,所述第一子图的个数和所述第二子图的个数相同;
根据每个第一子图、以及与每个第一子图分别对应的第二子图,确定所述目标物体的瑕疵检测结果。
3.根据权利要求2所述的方法,其中,根据每个第一子图、以及与每个第一子图分别对应的第二子图,确定所述目标物体的瑕疵检测结果,包括:
通过瑕疵检测网络对所述第一子图和所述第一子图对应的第二子图进行处理,得到第一检测结果;
通过瑕疵分割网络对所述第一子图和所述第一子图对应的第二子图进行处理,得到第二检测结果,所述瑕疵检测网络和所述瑕疵分割网络分别用于检测不同类型的瑕疵;
根据所述第一检测结果和所述第二检测结果,确定所述第一子图的瑕疵检测结果;
根据每个第一子图分别对应的瑕疵检测结果,确定所述目标物体的瑕疵检测结果。
4.根据权利要求3所述的方法,其中,根据每个第一子图分别对应的瑕疵检测结果,确定所述目标物体的瑕疵检测结果,包括:
根据所述目标物体中同一区域对应的多个第一子图的瑕疵检测结果,确定所述区域的瑕疵检测结果;
根据所述目标物体中多个区域分别对应的瑕疵检测结果,确定所述目标物体的瑕疵检测结果。
5.根据权利要求1或4所述的方法,其中,确定所述目标物体的瑕疵检测结果之后,所述方法还包括:
根据所述目标物体的瑕疵检测结果,确定瑕疵位置;
从每个所述目标区域中分别提取与所述瑕疵位置对应的瑕疵区域、以及从每个所述模板图中分别提取与所述瑕疵位置对应的模板区域;
根据每个所述瑕疵区域、以及与每个所述瑕疵区域分别对应的模板区域,确定所述瑕疵位置上的瑕疵的类型。
6.根据权利要求1所述的方法,其中,将至少一个所述图像中包括所述目标物体的目标区域与无瑕疵目标物体的模板图进行对齐,包括:
将所述目标区域对应的模板图中无瑕疵目标物体的角点与所述目标区域中目标物体的角点对齐;
根据所述目标区域对应的模板图中图案的第一特征点和所述目标区域中图案的第二特征点,将所述目标区域对应的模板图中的图案和所述目标区域中的图案对齐。
7.根据权利要求6所述的方法,其中,根据所述目标区域对应的模板图中图案的第一特征点和所述目标区域中图案的第二特征点,将所述目标区域对应的模板图中的图案和所述目标区域中的图案对齐,包括:
根据所述目标区域对应的模板图中图案的第一特征点和所述目标区域中图案的第二特征点,确定第一特征点和第二特征点之间的变换矩阵;
根据所述变换矩阵对所述目标区域对应的模板图进行调整,使得所述目标区域对应的模板图中的图案和所述目标区域中的图案对齐。
8.根据权利要求5所述的方法,其中,根据每个所述瑕疵区域、以及与每个所述瑕疵区域分别对应的模板区域,确定所述瑕疵位置上的瑕疵的类型,包括:
将每个所述瑕疵区域、以及与每个所述瑕疵区域分别对应的模板区域输入分类网络,由所述分类网络确定所述瑕疵位置上的瑕疵的类型。
9.根据权利要求8所述的方法,其中,用于训练所述瑕疵检测网络、所述瑕疵分割网络和所述分类网络的样本图像是根据如下步骤确定的:
根据带有瑕疵的样本物体离开生产线的时刻、所述时刻所述样本物体在所述生产线上的位置、以及所述样本物体在所述生产线上的历史运动轨迹,确定所述样本物体经过检测系统的历史时间;
根据所述样本物体经过检测系统的历史时间,确定所述检测系统在所述历史时间对所述样本物体拍摄得到的样本图像。
10.一种通过人工智能进行瓷砖瑕疵检测的系统,其中,所述系统包括多个拍摄设备和瓷砖瑕疵检测装置;
所述多个拍摄设备用于对生产线上的瓷砖进行拍摄,得到所述瓷砖的多个图像,所述多个图像中的至少一个图像是光线的方向与所述瓷砖表面非垂直的情况下得到的;
所述瓷砖瑕疵检测装置用于:
将至少一个所述图像中包括所述瓷砖的瓷砖区域与无瑕疵瓷砖的模板图进行对齐;
根据至少一个瓷砖区域、以及与所述至少一个瓷砖区域分别对齐的模板图,确定所述瓷砖的瑕疵检测结果。
11.一种基于人工智能的瓷砖瑕疵检测方法,其中,包括:
获取用户输入的待检测瓷砖的多个图像,所述多个图像中的至少一个图像是光线的方向与所述瓷砖表面非垂直的情况下得到的;
将至少一个所述图像中包括所述瓷砖的瓷砖区域与无瑕疵瓷砖的模板图进行对齐;
将至少一个瓷砖区域、以及与所述至少一个瓷砖区域分别对齐的模板图输入深度神经网络,由所述深度神经网络确定所述瓷砖的瑕疵检测结果;
将所述瓷砖的瑕疵检测结果展示给所述用户。
12.一种计算机可读存储介质,其上存储有计算机程序,其中,所述计算机程序被处理器执行时实现如权利要求1-9、11中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210248901.7A CN114841915A (zh) | 2022-03-14 | 2022-03-14 | 基于人工智能的瓷砖瑕疵检测方法、系统及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210248901.7A CN114841915A (zh) | 2022-03-14 | 2022-03-14 | 基于人工智能的瓷砖瑕疵检测方法、系统及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114841915A true CN114841915A (zh) | 2022-08-02 |
Family
ID=82562102
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210248901.7A Pending CN114841915A (zh) | 2022-03-14 | 2022-03-14 | 基于人工智能的瓷砖瑕疵检测方法、系统及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114841915A (zh) |
Citations (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106872487A (zh) * | 2017-04-21 | 2017-06-20 | 佛山市南海区广工大数控装备协同创新研究院 | 一种基于视觉的表面瑕疵检测方法及装置 |
CN109523505A (zh) * | 2018-09-18 | 2019-03-26 | 深圳市智信精密仪器有限公司 | 一种基于机器视觉的陶瓷砖表面花纹缺陷检测方法 |
CN109583489A (zh) * | 2018-11-22 | 2019-04-05 | 中国科学院自动化研究所 | 缺陷分类识别方法、装置、计算机设备和存储介质 |
CN110826416A (zh) * | 2019-10-11 | 2020-02-21 | 佛山科学技术学院 | 一种基于深度学习的卫浴陶瓷表面缺陷检测方法及装置 |
CN110852989A (zh) * | 2019-09-30 | 2020-02-28 | 广州利科科技有限公司 | 瓷砖拍照图片的质量瑕疵检测 |
US20200134800A1 (en) * | 2018-10-29 | 2020-04-30 | International Business Machines Corporation | Precision defect detection based on image difference with respect to templates |
CN111179251A (zh) * | 2019-12-30 | 2020-05-19 | 上海交通大学 | 基于孪生神经网络利用模板比对的缺陷检测系统及方法 |
CN111179253A (zh) * | 2019-12-30 | 2020-05-19 | 歌尔股份有限公司 | 一种产品缺陷检测方法、装置与系统 |
CN111504459A (zh) * | 2020-04-09 | 2020-08-07 | 广东科达洁能股份有限公司 | 一种用于陶瓷砖分级分色的检测装置 |
CN111583223A (zh) * | 2020-05-07 | 2020-08-25 | 上海闻泰信息技术有限公司 | 缺陷检测方法、装置、计算机设备及计算机可读存储介质 |
CN111627018A (zh) * | 2020-06-01 | 2020-09-04 | 南通大学 | 一种基于双流神经网络模型的钢板表面缺陷分类方法 |
CN112669300A (zh) * | 2020-12-31 | 2021-04-16 | 上海智臻智能网络科技股份有限公司 | 瑕疵检测方法及装置、计算机设备和存储介质 |
CN112967264A (zh) * | 2021-03-19 | 2021-06-15 | 深圳市商汤科技有限公司 | 缺陷检测方法及装置、电子设备和存储介质 |
CN113406092A (zh) * | 2021-08-18 | 2021-09-17 | 阿里巴巴(中国)有限公司 | 数字化生产检测系统、方法、装置、设备及存储介质 |
CN113516612A (zh) * | 2020-04-13 | 2021-10-19 | 阿里巴巴集团控股有限公司 | 数据处理方法、装置、设备和存储介质 |
CN113627435A (zh) * | 2021-07-13 | 2021-11-09 | 南京大学 | 一种瓷砖的瑕疵检测与识别方法及系统 |
CN113658182A (zh) * | 2021-10-21 | 2021-11-16 | 北京矩视智能科技有限公司 | 基于并行多分支特征融合的表面缺陷区域分割方法及装置 |
CN113658176A (zh) * | 2021-09-07 | 2021-11-16 | 重庆科技学院 | 基于交互注意力与卷积神经网络的瓷砖表面缺陷检测方法 |
-
2022
- 2022-03-14 CN CN202210248901.7A patent/CN114841915A/zh active Pending
Patent Citations (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106872487A (zh) * | 2017-04-21 | 2017-06-20 | 佛山市南海区广工大数控装备协同创新研究院 | 一种基于视觉的表面瑕疵检测方法及装置 |
CN109523505A (zh) * | 2018-09-18 | 2019-03-26 | 深圳市智信精密仪器有限公司 | 一种基于机器视觉的陶瓷砖表面花纹缺陷检测方法 |
US20200134800A1 (en) * | 2018-10-29 | 2020-04-30 | International Business Machines Corporation | Precision defect detection based on image difference with respect to templates |
CN109583489A (zh) * | 2018-11-22 | 2019-04-05 | 中国科学院自动化研究所 | 缺陷分类识别方法、装置、计算机设备和存储介质 |
CN110852989A (zh) * | 2019-09-30 | 2020-02-28 | 广州利科科技有限公司 | 瓷砖拍照图片的质量瑕疵检测 |
CN110826416A (zh) * | 2019-10-11 | 2020-02-21 | 佛山科学技术学院 | 一种基于深度学习的卫浴陶瓷表面缺陷检测方法及装置 |
CN111179251A (zh) * | 2019-12-30 | 2020-05-19 | 上海交通大学 | 基于孪生神经网络利用模板比对的缺陷检测系统及方法 |
CN111179253A (zh) * | 2019-12-30 | 2020-05-19 | 歌尔股份有限公司 | 一种产品缺陷检测方法、装置与系统 |
CN111504459A (zh) * | 2020-04-09 | 2020-08-07 | 广东科达洁能股份有限公司 | 一种用于陶瓷砖分级分色的检测装置 |
CN113516612A (zh) * | 2020-04-13 | 2021-10-19 | 阿里巴巴集团控股有限公司 | 数据处理方法、装置、设备和存储介质 |
CN111583223A (zh) * | 2020-05-07 | 2020-08-25 | 上海闻泰信息技术有限公司 | 缺陷检测方法、装置、计算机设备及计算机可读存储介质 |
CN111627018A (zh) * | 2020-06-01 | 2020-09-04 | 南通大学 | 一种基于双流神经网络模型的钢板表面缺陷分类方法 |
CN112669300A (zh) * | 2020-12-31 | 2021-04-16 | 上海智臻智能网络科技股份有限公司 | 瑕疵检测方法及装置、计算机设备和存储介质 |
CN112967264A (zh) * | 2021-03-19 | 2021-06-15 | 深圳市商汤科技有限公司 | 缺陷检测方法及装置、电子设备和存储介质 |
CN113627435A (zh) * | 2021-07-13 | 2021-11-09 | 南京大学 | 一种瓷砖的瑕疵检测与识别方法及系统 |
CN113406092A (zh) * | 2021-08-18 | 2021-09-17 | 阿里巴巴(中国)有限公司 | 数字化生产检测系统、方法、装置、设备及存储介质 |
CN113658176A (zh) * | 2021-09-07 | 2021-11-16 | 重庆科技学院 | 基于交互注意力与卷积神经网络的瓷砖表面缺陷检测方法 |
CN113658182A (zh) * | 2021-10-21 | 2021-11-16 | 北京矩视智能科技有限公司 | 基于并行多分支特征融合的表面缺陷区域分割方法及装置 |
Non-Patent Citations (2)
Title |
---|
PRAHAR M BHATT 等: "Image-Based Surface Defect Detection Using Deep Learning: A Review", 《JOURNAL OF COMPUTING AND INFORMATION SCIENCE IN ENGINEERING》 * |
周强 等: "基于多特征信息融合的陶瓷墙地缺陷在线检测", 《硅酸盐通报》 * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104749184B (zh) | 自动光学检测方法和系统 | |
US11774735B2 (en) | System and method for performing automated analysis of air samples | |
CN102630299B (zh) | 缺陷检查用图像处理装置和缺陷检查用图像处理方法 | |
TWI787296B (zh) | 光學檢測方法、光學檢測裝置及光學檢測系統 | |
CN113688807B (zh) | 一种自适应缺陷检测方法、装置、识别系统及存储介质 | |
CN109900711A (zh) | 基于机器视觉的工件缺陷检测方法 | |
WO2019111976A1 (ja) | 対象物検出装置、予測モデル作成装置、対象物検出方法及びプログラム | |
CN110599445A (zh) | 一种电网螺母和销的目标鲁棒检测与缺陷识别方法及装置 | |
WO2018121269A1 (zh) | 膜片的检测系统、检测方法和装置 | |
CN111652098B (zh) | 产品表面缺陷检测方法及装置 | |
CN113284154B (zh) | 钢卷端面图像分割方法、装置及电子设备 | |
CN104749801B (zh) | 高精度自动光学检测方法和系统 | |
CN110567965A (zh) | 一种智能手机玻璃盖板边缘视觉缺陷检测方法 | |
CN113658121A (zh) | 一种线路缺陷检测方法、系统及计算机存储介质 | |
CN112200790B (zh) | 布料缺陷检测方法、设备和介质 | |
CN114280075A (zh) | 一种管类零件表面缺陷在线视觉检测系统及检测方法 | |
CN102147684A (zh) | 一种触摸屏屏幕扫描方法及其系统 | |
CN114841915A (zh) | 基于人工智能的瓷砖瑕疵检测方法、系统及存储介质 | |
CN112669272A (zh) | 一种aoi快速检测方法及快速检测系统 | |
CN110896469B (zh) | 用于三摄的解像力测试方法及其应用 | |
CN110148141A (zh) | 一种丝印滤光片小片检测计数方法及设备 | |
JP2005345290A (ja) | 筋状欠陥検出方法及び装置 | |
CN115222728A (zh) | 基于视觉技术的屏幕检测方法、装置和计算机设备 | |
CN115100110A (zh) | 一种偏光镜片缺陷检测方法、装置、设备及可读存储介质 | |
CN104112271A (zh) | 移动终端外壳侧面缺陷检测方法和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20220802 |
|
RJ01 | Rejection of invention patent application after publication |