CN112907595B - 一种表面缺陷检测方法及装置 - Google Patents
一种表面缺陷检测方法及装置 Download PDFInfo
- Publication number
- CN112907595B CN112907595B CN202110489417.9A CN202110489417A CN112907595B CN 112907595 B CN112907595 B CN 112907595B CN 202110489417 A CN202110489417 A CN 202110489417A CN 112907595 B CN112907595 B CN 112907595B
- Authority
- CN
- China
- Prior art keywords
- image
- feature
- saliency map
- map
- surface defect
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20016—Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30136—Metal
Abstract
本申请涉及图像处理技术领域,以及提供一种表面缺陷检测方法及装置;该方法首先对待检测的表面缺陷图像的各底层特征进行提取得到各特征图像金字塔,根据中心周边差机制确定各特征图像金字塔对应的各特征图,将各特征图进行归一化处理,并将同一类型的特征图进行相加得到各特征显著图,以各特征显著图所具有的能量比例为权重融合各特征显著图得到合成显著图,然后对表面缺陷图像的高层特征进行提取、融合和采样操作得到高层显著图,最后以合成显著图所具有的能量比例以及高层显著图所具有的能量比例为权重,融合合成显著图和高层显著图得到总显著图,再根据总显著图确定表面缺陷图像的缺陷种类和缺陷位置。本申请提高了表面缺陷检测的识别精度。
Description
技术领域
本申请实施例涉及图像处理技术领域,尤其涉及一种表面缺陷检测方法及装置。
背景技术
随着经济建设及基础建设的飞速发展,作为钢铁工业主要产品之一的钢板被广泛地应用于各行各业,人们对于钢板的产品质量也提出了越来越高的要求。但是由于受设备、生产工艺等因素的影响,在生产过程中钢板表面不可避免地会产生各种缺陷,这些缺陷不仅影响钢板外观,更会在一定程度上影响其机械性能,因此开展对钢板表面缺陷检测的相关研究对于提高钢板质量有着十分重要的意义。随着产量的逐步提升和生产速度的提高,传统的人工目视抽检已难以满足当前企业生产的实际需要,提升钢板表面缺陷检测的效率,以满足生产的更多需求,对钢铁企业有着至关重要的价值。
目前基于机器视觉的检测方法被广泛应用在钢板表面缺陷检测中,传统的机器视觉检测系统往往是先提取图像特征后利用分类器进行分类检测,但是由于钢板表面缺陷边缘特征不明显、缺陷占比较小、数据信息量较大而有用信息较少,在一定程度上影响了检测效果;基于深度学习的机器视觉检测方法,需要大量的缺陷图像作为训练样本,而在生产过程中存在缺陷的钢板数量毕竟是少数,大量缺陷图像样本较难获取,样本数量过少会导致检测效果不佳。
因此,目前的表面缺陷检测方案无法更好地提高表面缺陷检测的识别精度,需要改进。
发明内容
本申请实施例提供了一种表面缺陷检测方法及装置,能够提高表面缺陷检测的识别精度。
第一方面中,本申请实施例提供一种表面缺陷检测方法,包括:
获取待检测的表面缺陷图像;
对所述表面缺陷图像的各底层特征进行提取,得到各特征图像金字塔;
根据中心周边差机制确定所述各特征图像金字塔对应的各特征图;
将所述各特征图进行归一化处理,并将同一类型的特征图进行相加,得到各特征显著图;
以所述各特征显著图所具有的图像能量比例为权重,融合所述各特征显著图,得到合成显著图;
对所述表面缺陷图像的高层特征进行提取、融合和采样操作,得到高层显著图;
以所述合成显著图所具有的图像能量比例以及所述高层显著图所具有的图像能量比例为权重,融合所述合成显著图和所述高层显著图,得到总显著图;
根据所述总显著图,确定所述表面缺陷图像的缺陷种类和缺陷位置。
第二方面中,本申请实施例提供一种表面缺陷检测装置,包括:
获取模块,用于获取待检测的表面缺陷图像;
提取模块,用于对所述表面缺陷图像的各底层特征进行提取,得到各特征图像金字塔;
第一确定模块,用于根据中心周边差机制确定所述各特征图像金字塔对应的各特征图;
归一化模块,用于将所述各特征图进行归一化处理,并将同一类型的特征图进行相加,得到各特征显著图;
第一融合模块,用于以所述各特征显著图所具有的图像能量比例为权重,融合所述各特征显著图,得到合成显著图;
处理模块,用于对所述表面缺陷图像的高层特征进行提取、融合和采样操作,得到高层显著图;
第二融合模块,用于以所述合成显著图所具有的图像能量比例以及所述高层显著图所具有的图像能量比例为权重,融合所述合成显著图和所述高层显著图,得到总显著图;
第二确定模块,用于根据所述总显著图,确定所述表面缺陷图像的缺陷种类和缺陷位置。
本申请实施例又一方面提供了一种计算机设备,其包括存储器、处理器及存储在存储器上并在处理器上运行的计算机程序,所述处理器用于调用所述存储器中的计算机程序来执行上述第一方面所述的表面缺陷检测方法。
本申请实施例又一方面提供了一种存储介质,其包括指令,当其在计算机上运行时,使得计算机执行上述第一方面所述的表面缺陷检测方法。
相较于现有技术,本申请实施例提供的方案中,首先对待检测的表面缺陷图像的各底层特征进行提取,得到各特征图像金字塔,根据中心周边差机制确定各特征图像金字塔对应的各特征图,将各特征图进行归一化处理,并将同一类型的特征图进行相加,得到各特征显著图,以各特征显著图所具有的图像能量比例为权重,融合各特征显著图,得到合成显著图;然后对表面缺陷图像的高层特征进行提取、融合和采样操作,得到高层显著图;最后以合成显著图所具有的图像能量比例以及高层显著图所具有的图像能量比例为权重,融合合成显著图和高层显著图,得到总显著图,再根据总显著图确定表面缺陷图像的缺陷种类和缺陷位置。可见,本申请采用基于图像能量的加权融合,以及分别对表面缺陷图像的底层特征和高层特征进行处理,得到底层特征对应的合成显著图以及高层特征对应的高层显著图,再融合合成显著图和高层显著图,得到总显著图,从而充分利用了表面缺陷图像的图像信息,提高了表面缺陷检测的识别精度。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种表面缺陷检测方法的原理示意图。
图2为本申请实施例提供的一种表面缺陷检测方法的流程图。
图3为本申请实施例提供的一种SVM分类器的训练流程图。
图4为本申请实施例提供的一种表面缺陷检测装置的结构示意图。
图5为本申请实施例提供的一种计算机设备的实体结构示意图。
具体实施方式
本申请实施例的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或模块的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或模块,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或模块,本申请实施例中所出现的模块的划分,仅仅是一种逻辑上的划分,实际应用中实现时可以有另外的划分方式,例如多个模块可以结合成或集成在另一个系统中,或一些特征可以忽略,或不执行,另外,所显示的或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,模块之间的间接耦合或通信连接可以是电性或其他类似的形式,本申请实施例中均不作限定。并且,作为分离部件说明的模块或子模块可以是也可以不是物理上的分离,可以是也可以不是物理模块,或者可以分布到多个电路模块中,可以根据实际的需要选择其中的部分或全部模块来实现本申请实施例方案的目的。
近年来,基于视觉注意机制的显著性区域检测逐渐引起了学者们的广泛关注,越来越多的学者将其应用在目标检测领域。在机器视觉中引入人类视觉注意机制能够快速找到少数几个显著区域进行处理,更好地筛选出有用的数据信息,较好地提高系统的检测效率和准确率。在自底向上的基于数据驱动的视觉注意模型(例如采用ITTI算法的ITTI模型)提出后,有学者将该视觉注意模型应用于钢板表面缺陷检测中,取得了一定的效果。但是由于视觉注意模型是自底向上的单向注意模型,使用的都是底层特征,无法充分利用图像信息,而且由于对图像的不断分解操作,只能模糊地确定缺陷位置,在轮廓和边缘区域上会有缺失。
针对上述问题,本申请提供一种基于视觉注意机制的表面缺陷检测方法,将视觉注意机制引入钢板表面缺陷检测中,以ITTI算法为基础并对其做出改进。首先将原ITTI算法的颜色、亮度和方向三个底层特征改进为更适合钢板图像的亮度、方向、边缘和纹理四个特征;其次在显著图合成时,将原ITTI算法的线性融合改进为基于图像能量的加权融合;然后结合自底向上的注意模型和自顶向下的注意模型,将图像的底层特征和高层特征融合,使用卷积神经网络提取的高层特征图来引导调整由底层特征得到的合成显著图;最后加入了图像缺陷分类识别模型和基于区域生长算法的缺陷定位模块。本申请提供的改进后的基于视觉注意机制的表面缺陷检测方法能够较好地提高表面缺陷检测的识别和定位精度,具有较高可靠性和鲁棒性。
请参阅图1,图1为本申请实施例提供的一种表面缺陷检测方法的原理示意图。如图1所示,首先输入钢板图像,对钢板图像进行二分类处理,如果钢板图像不存在缺陷,则检测结束,如果钢板图像存在缺陷,则对钢板图像进行多尺度多特征提取(例如对钢板图像的亮度、方向、边缘和纹理等底层特征进行提取),得到各个特征图像金字塔。然后对上述各个特征图像金字塔采用不同尺度间取差处理,形成各特征图,再对各特征图进行归一化处理,并将同一类型的特征图进行相加,得到各特征显著图,再使用各特征显著图所具有的图像能量比例为权重,对上述各特征显著图进行加权融合,以完成自底向上的显著图的获取,得到合成显著图。再然后对钢板图像使用卷积神经网络作为特征提取网络,对钢板图像进行高层特征提取,对提取的多通道高层特征图进行1:1融合(高层特征融合),得到总高层特征图,对总高层特征图进行上采样,完成自顶向下的显著图的获取,以生成高层显著图。再然后执行自底向上的合成显著图和自顶向下的高层显著图融合,具体可以对合成显著图和高层显著图采用加权叠加的方法进行融合,使用高层显著图来引导调整由底层特征得到的合成显著图,以及根据合成显著图所具有的图像能量比例和高层显著图所具有的图像能量比例为权重,对合成显著图和高层显著图进行加权融合,得到总显著图。最后提取总显著图的特征向量,使用训练好的支持向量机(Support Vector Machine,SVM)分类及识别缺陷种类,另外获取总显著图上最大像素点,使用最大像素点作为初始生长种子进行区域生长,将生长完的区域用外接矩形框在钢板图像上画出来,即可得到缺陷位置,以完成缺陷定位。将缺陷种类和缺陷位置整合在钢板图像上表示出来(信息整合),即可在钢板图像上直观得到缺陷种类和缺陷位置,从而完成整个检测流程。
需要说明的是,图1所示的表面缺陷检测方法的原理示意图仅仅是一个示例,本申请描述的原理示意图是为了更加清楚地说明本申请实施例的技术方案,并不构成对于本申请实施例提供的技术方案的限定。
结合上述原理示意图,下面将对本申请中表面缺陷检测方法进行介绍,请参阅图2,图2为本申请实施例提供的一种表面缺陷检测方法的流程图,本申请实施例至少包括如下步骤:
201、获取待检测的表面缺陷图像。
表面缺陷图像指的是表面存在缺陷的图像,常见的表面缺陷包括如表面的划痕、孔洞、斑点等。
在一种实施例中,所述获取待检测的表面缺陷图像的步骤,包括:获取钢板图像;通过二分类器对所述钢板图像进行二分类处理,得到所述钢板图像的分类类别;若所述分类类别表征缺陷类别,则确定所述钢板图像为待检测的表面缺陷图像。该实施例中,输入钢板图像(钢板图片)后,通过二分类器对钢板图像进行二分类处理,得到钢板图像的分类类别,如果分类类别表征缺陷类别,则说明钢板图像存在缺陷,此时确定钢板图像为待检测的表面缺陷图像,如果分类类别表征无缺陷类别,则说明钢板图像不存在缺陷,此时确定钢板图像不为待检测的表面缺陷图像,可以选择其他钢板图像,判断其他钢板图像是否存在缺陷,若存在缺陷,此时确定其他钢板图像为待检测表面缺陷图像。
其中,二分类器可以为采用迭代算法(例如Adaboost算法)预先训练得到的,通过结合多个弱分类器构成分类效果更好的强分类器,以更精确地区分输入图像有无缺陷。Adaboost算法的核心思想是针对同一个训练集训练不同的分类器(弱分类器),然后把这些若分类器集合起来,构成一个更强的最终分类器(强分类器)。训练过程包括如下步骤:1、首先通过对N个训练样本的学习,得到第一个弱分类器;2、将分错的样本和其他的新数据一起构成一个新的N个的训练样本,通过对这个样本的学习得到第二个弱分类器;3、将步骤1和步骤2都分错了的样本加上其他的新样本构成另一个新的N个的训练样本,通过对这个样本的学习得到第三个弱分类器;4、最终经过提升的强分类器,即某个数据被分为哪一类要由各分类器权值(权重)决定。
202、对所述表面缺陷图像的各底层特征进行提取,得到各特征图像金字塔。
在一种实施例中,所述对所述表面缺陷图像的各底层特征进行提取,得到各特征图像金字塔的步骤包括:通过高斯金字塔模型对所述表面缺陷图像进行分解,得到高斯图像金字塔;对所述高斯图像金字塔的各底层特征进行提取,得到各特征图像金字塔。
进一步地,所述对所述高斯图像金字塔的各底层特征进行提取,得到各特征图像金字塔的步骤,包括:对所述高斯图像金字塔的亮度底层特征、方向底层特征、边缘底层特征以及纹理底层特征分别进行提取,得到亮度特征图像金字塔、方向特征图像金字塔、边缘特征图像金字塔以及纹理特征图像金字塔。
具体地,对表面缺陷图像使用高斯金字塔模型进行分解,得到9个空间大小不同的图像,不同的空间大小采用不同的尺度级表示,例如X=[0......8]表示尺度级。这9个空间大小不同的图像就是高斯图像金字塔,指的是表面缺陷图像被高斯滤波后形成的一系列图像集合。
对上述9个空间大小不同的图像的亮度、方向、边缘和纹理等底层特征进行提取,分别得到亮度特征图像金字塔、方向特征图像金字塔、边缘特征图像金字塔和纹理特征图像金字塔。
可以使用r、g、b分别代表表面缺陷图像的红色、绿色和蓝色三个分量,则表面缺陷图像的亮度特征可以表示为:
表面缺陷图像的边缘特征可以通过Canny边缘检测算子获得,Canny边缘检测算子能够有效实现噪声抑制并较为精确的实现边缘定位。
表面缺陷图像的纹理特征可以通过线性反投影算法(Local Binary Patterns,LBP)算子获得。
203、根据中心周边差机制确定所述各特征图像金字塔对应的各特征图。
在一种实施例中,所述根据中心周边差机制确定所述各特征图像金字塔对应的各特征图的步骤,包括:根据中心周边差机制选取中心空间尺度和外围空间尺度;针对任意一个特征图像金字塔,选取所述特征图像金字塔在所述中心空间尺度下的第一特征图和在所述外围空间尺度下的第二特征图;采用插值法处理所述第一特征图和所述第二特征图,以保持所述第一特征图和所述第二特征图的大小一致;将处理后的所述第一特征图和所述第二特征图进行相减,得到特征图。
在一种场景下,对上述各个特征图像金字塔,使用中心周边差机制(空间尺度)获
得6幅亮度特征图、24幅方向特征图、6幅边缘特征图和6幅纹理特征图,具体过程如下:首先
分别选取中心空间尺度下的特征图(即第一特征图)和外围空间尺度下的视觉
特征图(即第二特征图),然后采用插值法将两幅图像大小保持一致,最
后将两幅图像进行相减即可得到6幅亮度特征图、24幅方向特征图,6幅
边缘特征图和6幅纹理特征图,计算公式如下所示:
204、将所述各特征图进行归一化处理,并将同一类型的特征图进行相加,得到各特征显著图。
以上述6幅亮度特征图、24幅方向特征图,6幅边缘特征图和6幅纹理特征图为例,将各特征图进行归一化处理后得到然后在不同尺度下对每个特征图
进行降采样,最后将同一类型的特征图进行相加,最终得到一幅亮度显著图、一幅方向显
著图、一幅边缘显著图和一幅纹理显著图,各显著图的计算公式如下:
205、以所述各特征显著图所具有的图像能量比例为权重,融合所述各特征显著图,得到合成显著图。
以上述亮度显著图、方向显著图、边缘显著图和纹理显著图所具有的
图像能量的比例为权值(权重),对上述各显著图进行加权融合,完成自底向上的显著图的
获取,得到合成显著图。假设分别为亮度显著图、方向显著图、边缘显
著图和纹理显著图所含的图像能量,则合成显著图S的计算公式如下:
206、对所述表面缺陷图像的高层特征进行提取、融合和采样操作,得到高层显著图。
在一种实施例中,所述对所述表面缺陷图像的高层特征进行提取、融合和采样操作,得到高层显著图的步骤,包括:通过卷积神经网络对所述表面缺陷图像的高层特征进行提取,得到多通道高层特征图;对所述多通道高层特征图进行融合,得到总高层特征图;对所述总高层特征图进行上采样,得到高层显著图。
具体地,使用卷积神经网络作为特征提取网络,对表面缺陷图像进行特征提取,对提取的多通道高层特征图进行1:1融合,得到总高层特征图,对总高层特征图进行上采样,完成自顶向下的显著图的获取,得到高层显著图。
207、以所述合成显著图所具有的图像能量比例以及所述高层显著图所具有的图像能量比例为权重,融合所述合成显著图和所述高层显著图,得到总显著图。
对合成显著图和高层显著图采用加权叠加的方法进行融合,使用高层显著图来引
导调整由底层特征得到的合成显著图,根据合成显著图和高层显著图所具有的图像能量比
例为权值,进行融合,得到总显著图。假设分别为高层显著图和合成显著图所具有
的图像能量,则总显著图的计算公式如下:
208、根据所述总显著图,确定所述表面缺陷图像的缺陷种类和缺陷位置。
在一种实施例中,所述根据所述总显著图,确定所述表面缺陷图像的缺陷种类的步骤,包括:提取所述总显著图的特征向量;采用分类器对所述特征向量进行缺陷分类,得到缺陷分类结果,所述分类器为预先训练得到的分类器;根据所述缺陷分类结果确定所述表面缺陷图像的缺陷种类。
具体地,从总显著图中提取特征向量,具体可以选用方向梯度直方图(Histogramof Oriented Gradient,HOG)特征来作为总显著图的特征向量,用以分类识别,基本原理是从图像数据中,通过计算每个像素值的大小和方向,并根据得到相应的直方图形成特征,其获取的特征数据维度较低,便于处理。其中,HOG特征是一种在计算机视觉和图像处理中用来进行物体检测的特征描述子,HOG特征通过计算和统计图像局部区域的梯度方向直方图来构成特征。
使用训练好的SVM分类器对上述提取的特征向量进行分类,识别缺陷种类,完成表面缺陷图像的缺陷种类识别任务。请参阅图3,图3为本申请实施例提供的一种SVM分类器的训练流程图,包括如下步骤:
301、获取总显著图。
总显著图的获取方式可以参照图2所示实施例中总显著图的获取方式,此处不再赘述。
302、从所述总显著图中提取特征向量,并添加类别标签。
通过从所述总显著图中提取特征向量,并添加类别标签,形成训练样本。
303、通过特征向量和类别标签,训练SVM分类器。
通过特征向量和类别标签所形成的训练样本,训练SVM分类器。
在一种实施例中,所述根据所述总显著图,确定所述表面缺陷图像的缺陷位置的步骤,包括:从所述总显著图中确定目标像素点;以所述目标像素点为初始生长种子,在所述总显著图中采用区域生长的方式进行区域生长,得到生长完成区域;从所述表面缺陷图像中确定所述生长完成区域对应的缺陷位置。
进一步地,所述以所述目标像素点为初始生长种子,在所述总显著图中采用区域生长的方式进行区域生长,得到生长完成区域的步骤,包括:以所述目标像素点为初始生长种子,在所述总显著图中向周围8邻域方向生长,直至不满足生长条件,则生长停止,得到生长完成区域。
具体地,可以使用区域生长的方式找到缺陷位置,例如:首先获取总显著图上的目标像素点(例如最大像素点),以最大像素点作为初始生长种子,向周围8邻域方向生长,将种子点周围邻域的像素点和初始生长种子对应的像素点进行对比,若满足生长条件则继续向外生长,若某个邻域方向上不满足生长条件,则在该邻域方向上停止生长,当所有邻域方向都停止生长后,则生长完成,得到生长完成区域,将生长完成区域用外接矩形框在表面缺陷图像上画出来,即可得到缺陷位置,完成表面缺陷图像的缺陷位置定位任务。
在完成表面缺陷图像的缺陷种类识别任务和缺陷位置定位任务后,将缺陷种类和缺陷位置整合在表面缺陷图像上表示出来,即可在表面缺陷图像上直观地得到缺陷种类和缺陷位置,从而完成表面缺陷图像的整个检测流程。
本申请实施例提供的方案中,首先对待检测的表面缺陷图像的各底层特征进行提取,得到各特征图像金字塔,根据中心周边差机制确定各特征图像金字塔对应的各特征图,将各特征图进行归一化处理,并将同一类型的特征图进行相加,得到各特征显著图,以各特征显著图所具有的图像能量比例为权重,融合各特征显著图,得到合成显著图;然后对表面缺陷图像的高层特征进行提取、融合和采样操作,得到高层显著图;最后以合成显著图所具有的图像能量比例以及高层显著图所具有的图像能量比例为权重,融合合成显著图和高层显著图,得到总显著图,再根据总显著图确定表面缺陷图像的缺陷种类和缺陷位置。可见,本申请采用基于图像能量的加权融合,以及分别对表面缺陷图像的底层特征和高层特征进行处理,得到底层特征对应的合成显著图以及高层特征对应的高层显著图,再融合合成显著图和高层显著图,得到总显著图,从而充分利用了表面缺陷图像的图像信息,提高了表面缺陷检测的识别精度。
为了更好地实施本申请实施例的上述方案,下面还提供用于实施上述方案的相关装置,请参阅图4,图4为本申请实施例提供的一种表面缺陷检测装置的结构示意图,表面缺陷检测装置包括:
获取模块401,用于获取待检测的表面缺陷图像。
提取模块402,用于对所述表面缺陷图像的各底层特征进行提取,得到各特征图像金字塔。
第一确定模块403,用于根据中心周边差机制确定所述各特征图像金字塔对应的各特征图。
归一化模块404,用于将所述各特征图进行归一化处理,并将同一类型的特征图进行相加,得到各特征显著图。
第一融合模块405,用于以所述各特征显著图所具有的图像能量比例为权重,融合所述各特征显著图,得到合成显著图。
处理模块406,用于对所述表面缺陷图像的高层特征进行提取、融合和采样操作,得到高层显著图。
第二融合模块407,用于以所述合成显著图所具有的图像能量比例以及所述高层显著图所具有的图像能量比例为权重,融合所述合成显著图和所述高层显著图,得到总显著图。
第二确定模块408,用于根据所述总显著图,确定所述表面缺陷图像的缺陷种类和缺陷位置。
在一种实施例中,所述提取模块402,具体用于通过高斯金字塔模型对所述表面缺陷图像进行分解,得到高斯图像金字塔;对所述高斯图像金字塔的各底层特征进行提取,得到各特征图像金字塔。
进一步地,所述提取模块402,执行对所述高斯图像金字塔的各底层特征进行提取,得到各特征图像金字塔时,具体用于对所述高斯图像金字塔的亮度底层特征、方向底层特征、边缘底层特征以及纹理底层特征分别进行提取,得到亮度特征图像金字塔、方向特征图像金字塔、边缘特征图像金字塔以及纹理特征图像金字塔。
在一种实施例中,所述第一确定模块403,具体用于根据中心周边差机制选取中心空间尺度和外围空间尺度;针对任意一个特征图像金字塔,选取所述特征图像金字塔在所述中心空间尺度下的第一特征图和在所述外围空间尺度下的第二特征图;采用插值法处理所述第一特征图和所述第二特征图,以保持所述第一特征图和所述第二特征图的大小一致;将处理后的所述第一特征图和所述第二特征图进行相减,得到特征图。
在一种实施例中,所述处理模块406,具体用于通过卷积神经网络对所述表面缺陷图像的高层特征进行提取,得到多通道高层特征图;对所述多通道高层特征图进行融合,得到总高层特征图;对所述总高层特征图进行上采样,得到高层显著图。
在一种实施例中,所述第二确定模块408,具体用于提取所述总显著图的特征向量;采用分类器对所述特征向量进行缺陷分类,得到缺陷分类结果,所述分类器为预先训练得到的分类器;根据所述缺陷分类结果确定所述表面缺陷图像的缺陷种类。
在一种实施例中,所述第二确定模块408,具体用于从所述总显著图中确定目标像素点;以所述目标像素点为初始生长种子,在所述总显著图中采用区域生长的方式进行区域生长,得到生长完成区域;从所述表面缺陷图像中确定所述生长完成区域对应的缺陷位置。
进一步地,所述第二确定模块408执行以所述目标像素点为初始生长种子,在所述总显著图中采用区域生长的方式进行区域生长,得到生长完成区域时,具体用于以所述目标像素点为初始生长种子,在所述总显著图中向周围8邻域方向生长,直至不满足生长条件,则生长停止,得到生长完成区域。
在一种实施例中,所述获取模块401,具体用于获取钢板图像;通过二分类器对所述钢板图像进行二分类处理,得到所述钢板图像的分类类别;若所述分类类别表征缺陷类别,则确定所述钢板图像为待检测的表面缺陷图像。
本申请实施例提供的方案中,首先对待检测的表面缺陷图像的各底层特征进行提取,得到各特征图像金字塔,根据中心周边差机制确定各特征图像金字塔对应的各特征图,将各特征图进行归一化处理,并将同一类型的特征图进行相加,得到各特征显著图,以各特征显著图所具有的图像能量比例为权重,融合各特征显著图,得到合成显著图;然后对表面缺陷图像的高层特征进行提取、融合和采样操作,得到高层显著图;最后以合成显著图所具有的图像能量比例以及高层显著图所具有的图像能量比例为权重,融合合成显著图和高层显著图,得到总显著图,再根据总显著图确定表面缺陷图像的缺陷种类和缺陷位置。可见,本申请采用基于图像能量的加权融合,以及分别对表面缺陷图像的底层特征和高层特征进行处理,得到底层特征对应的合成显著图以及高层特征对应的高层显著图,再融合合成显著图和高层显著图,得到总显著图,从而充分利用了表面缺陷图像的图像信息,提高了表面缺陷检测的识别精度。
图5示例了一种计算机设备的实体结构示意图,如图5所示,该计算机设备可以包括:处理器(processor)501、通信接口(Communications Interface)502、存储器(memory)503和通信总线504,其中,处理器501,通信接口502,存储器503通过通信总线504完成相互间的通信。处理器501可以调用存储器503中的逻辑指令,以执行如下方法:获取待检测的表面缺陷图像;对所述表面缺陷图像的各底层特征进行提取,得到各特征图像金字塔;根据中心周边差机制确定所述各特征图像金字塔对应的各特征图;将所述各特征图进行归一化处理,并将同一类型的特征图进行相加,得到各特征显著图;以所述各特征显著图所具有的图像能量比例为权重,融合所述各特征显著图,得到合成显著图;对所述表面缺陷图像的高层特征进行提取、融合和采样操作,得到高层显著图;以所述合成显著图所具有的图像能量比例以及所述高层显著图所具有的图像能量比例为权重,融合所述合成显著图和所述高层显著图,得到总显著图;根据所述总显著图,确定所述表面缺陷图像的缺陷种类和缺陷位置。
此外,上述的存储器503中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
另一方面,本申请实施例还提供一种存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现以执行上述各实施例提供的方法,例如包括:获取待检测的表面缺陷图像;对所述表面缺陷图像的各底层特征进行提取,得到各特征图像金字塔;根据中心周边差机制确定所述各特征图像金字塔对应的各特征图;将所述各特征图进行归一化处理,并将同一类型的特征图进行相加,得到各特征显著图;以所述各特征显著图所具有的图像能量比例为权重,融合所述各特征显著图,得到合成显著图;对所述表面缺陷图像的高层特征进行提取、融合和采样操作,得到高层显著图;以所述合成显著图所具有的图像能量比例以及所述高层显著图所具有的图像能量比例为权重,融合所述合成显著图和所述高层显著图,得到总显著图;根据所述总显著图,确定所述表面缺陷图像的缺陷种类和缺陷位置。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (10)
1.一种表面缺陷检测方法,其特征在于,包括:
获取待检测的表面缺陷图像;
对所述表面缺陷图像的各底层特征进行提取,得到各特征图像金字塔;
根据中心周边差机制确定所述各特征图像金字塔对应的各特征图;
将所述各特征图进行归一化处理,并将同一类型的特征图进行相加,得到各特征显著图;
以所述各特征显著图所具有的图像能量比例为权重,融合所述各特征显著图,得到合成显著图,所述各特征显著图所具有的图像能量比例为所述各特征显著图所具有的图像能量与各特征显著图所具有的图像能量之和的比例;
对所述表面缺陷图像的高层特征进行提取、融合和采样操作,得到高层显著图;
以所述合成显著图所具有的图像能量比例以及所述高层显著图所具有的图像能量比例为权重,融合所述合成显著图和所述高层显著图,得到总显著图,所述合成显著图所具有的图像能量比例为所述合成显著图所具有的图像能量,与所述合成显著图和所述高层显著图所具有的图像能量之和的比例,所述高层显著图层具有的图像能量比例为所述高层显著图所具有的图像能量,与所述合成显著图和所述高层显著图所具体的图像能量之和的比例;
根据所述总显著图,确定所述表面缺陷图像的缺陷种类和缺陷位置。
2.根据权利要求1所述的表面缺陷检测方法,其特征在于,所述对所述表面缺陷图像的各底层特征进行提取,得到各特征图像金字塔的步骤包括:
通过高斯金字塔模型对所述表面缺陷图像进行分解,得到高斯图像金字塔;
对所述高斯图像金字塔的各底层特征进行提取,得到各特征图像金字塔。
3.根据权利要求2所述的表面缺陷检测方法,其特征在于,所述对所述高斯图像金字塔的各底层特征进行提取,得到各特征图像金字塔的步骤,包括:
对所述高斯图像金字塔的亮度底层特征、方向底层特征、边缘底层特征以及纹理底层特征分别进行提取,得到亮度特征图像金字塔、方向特征图像金字塔、边缘特征图像金字塔以及纹理特征图像金字塔。
4.根据权利要求1所述的表面缺陷检测方法,其特征在于,所述根据中心周边差机制确定所述各特征图像金字塔对应的各特征图的步骤,包括:
根据中心周边差机制选取中心空间尺度和外围空间尺度;
针对任意一个特征图像金字塔,选取所述特征图像金字塔在所述中心空间尺度下的第一特征图和在所述外围空间尺度下的第二特征图;
采用插值法处理所述第一特征图和所述第二特征图,以保持所述第一特征图和所述第二特征图的大小一致;
将处理后的所述第一特征图和所述第二特征图进行相减,得到特征图。
5.根据权利要求1所述的表面缺陷检测方法,其特征在于,所述对所述表面缺陷图像的高层特征进行提取、融合和采样操作,得到高层显著图的步骤,包括:
通过卷积神经网络对所述表面缺陷图像的高层特征进行提取,得到多通道高层特征图;
对所述多通道高层特征图进行融合,得到总高层特征图;
对所述总高层特征图进行上采样,得到高层显著图。
6.根据权利要求1所述的表面缺陷检测方法,其特征在于,所述根据所述总显著图,确定所述表面缺陷图像的缺陷种类的步骤,包括:
提取所述总显著图的特征向量;
采用分类器对所述特征向量进行缺陷分类,得到缺陷分类结果,所述分类器为预先训练得到的分类器;
根据所述缺陷分类结果确定所述表面缺陷图像的缺陷种类。
7.根据权利要求1所述的表面缺陷检测方法,其特征在于,所述根据所述总显著图,确定所述表面缺陷图像的缺陷位置的步骤,包括:
从所述总显著图中确定目标像素点;
以所述目标像素点为初始生长种子,在所述总显著图中采用区域生长的方式进行区域生长,得到生长完成区域;
从所述表面缺陷图像中确定所述生长完成区域对应的缺陷位置。
8.根据权利要求7所述的表面缺陷检测方法,其特征在于,所述以所述目标像素点为初始生长种子,在所述总显著图中采用区域生长的方式进行区域生长,得到生长完成区域的步骤,包括:
以所述目标像素点为初始生长种子,在所述总显著图中向周围8邻域方向生长,直至不满足生长条件,则生长停止,得到生长完成区域。
9.根据权利要求1-8任一项所述的表面缺陷检测方法,其特征在于,所述获取待检测的表面缺陷图像的步骤,包括:
获取钢板图像;
通过二分类器对所述钢板图像进行二分类处理,得到所述钢板图像的分类类别;
若所述分类类别表征缺陷类别,则确定所述钢板图像为待检测的表面缺陷图像。
10.一种表面缺陷检测装置,其特征在于,包括:
获取模块,用于获取待检测的表面缺陷图像;
提取模块,用于对所述表面缺陷图像的各底层特征进行提取,得到各特征图像金字塔;
第一确定模块,用于根据中心周边差机制确定所述各特征图像金字塔对应的各特征图;
归一化模块,用于将所述各特征图进行归一化处理,并将同一类型的特征图进行相加,得到各特征显著图;
第一融合模块,用于以所述各特征显著图所具有的图像能量比例为权重,融合所述各特征显著图,得到合成显著图,所述各特征显著图所具有的图像能量比例为所述各特征显著图所具有的图像能量与各特征显著图所具有的图像能量之和的比例;
处理模块,用于对所述表面缺陷图像的高层特征进行提取、融合和采样操作,得到高层显著图;
第二融合模块,用于以所述合成显著图所具有的图像能量比例以及所述高层显著图所具有的图像能量比例为权重,融合所述合成显著图和所述高层显著图,得到总显著图,所述合成显著图所具有的图像能量比例为所述合成显著图所具有的图像能量,与所述合成显著图和所述高层显著图所具有的图像能量之和的比例,所述高层显著图层具有的图像能量比例为所述高层显著图所具有的图像能量,与所述合成显著图和所述高层显著图所具体的图像能量之和的比例;
第二确定模块,用于根据所述总显著图,确定所述表面缺陷图像的缺陷种类和缺陷位置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110489417.9A CN112907595B (zh) | 2021-05-06 | 2021-05-06 | 一种表面缺陷检测方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110489417.9A CN112907595B (zh) | 2021-05-06 | 2021-05-06 | 一种表面缺陷检测方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112907595A CN112907595A (zh) | 2021-06-04 |
CN112907595B true CN112907595B (zh) | 2021-07-16 |
Family
ID=76108927
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110489417.9A Active CN112907595B (zh) | 2021-05-06 | 2021-05-06 | 一种表面缺陷检测方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112907595B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113379006B (zh) * | 2021-08-16 | 2021-11-02 | 北京国电通网络技术有限公司 | 图像识别方法、装置、电子设备和计算机可读介质 |
CN113658167B (zh) * | 2021-08-24 | 2024-03-26 | 凌云光技术股份有限公司 | 一种含缺陷的训练图像生成方法及装置 |
CN114972353B (zh) * | 2022-08-02 | 2022-10-25 | 山东汇通工业制造有限公司 | 一种金属高压特种管件质量评估方法及系统 |
CN115775227A (zh) * | 2022-10-12 | 2023-03-10 | 浙江吉昌新材料有限公司 | 防裂匣钵的智能化生产方法及其控制系统 |
CN116503408B (zh) * | 2023-06-28 | 2023-08-25 | 曲阜远大集团工程有限公司 | 基于扫描技术的钢结构表面缺陷检测方法 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8363959B2 (en) * | 2005-03-21 | 2013-01-29 | Yeda Research & Development Co. Ltd. | Detecting irregularities |
WO2011152893A1 (en) * | 2010-02-10 | 2011-12-08 | California Institute Of Technology | Methods and systems for generating saliency models through linear and/or nonlinear integration |
CN106296632B (zh) * | 2015-05-25 | 2018-10-19 | 中国海洋大学 | 一种基于幅度谱分析的显著目标检测方法 |
CN105825238B (zh) * | 2016-03-30 | 2019-04-30 | 江苏大学 | 一种视觉显著性目标的检测方法 |
CN107341505B (zh) * | 2017-06-07 | 2020-07-28 | 同济大学 | 一种基于图像显著性与Object Bank的场景分类方法 |
CN107607554A (zh) * | 2017-09-26 | 2018-01-19 | 天津工业大学 | 一种基于全卷积神经网络的镀锌冲压件的瑕疵检测与分类方法 |
CN110188763B (zh) * | 2019-05-28 | 2021-04-30 | 江南大学 | 一种基于改进图模型的图像显著性检测方法 |
CN110349126B (zh) * | 2019-06-20 | 2022-11-18 | 武汉科技大学 | 一种基于卷积神经网络带标记的钢板表面缺陷检测方法 |
CN111209918B (zh) * | 2020-01-06 | 2022-04-05 | 河北工业大学 | 一种图像显著性目标检测方法 |
-
2021
- 2021-05-06 CN CN202110489417.9A patent/CN112907595B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN112907595A (zh) | 2021-06-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112907595B (zh) | 一种表面缺陷检测方法及装置 | |
CN110349126B (zh) | 一种基于卷积神经网络带标记的钢板表面缺陷检测方法 | |
CN108765412B (zh) | 一种带钢表面缺陷分类方法 | |
Hafemann et al. | Forest species recognition using deep convolutional neural networks | |
JP6710135B2 (ja) | 細胞画像の自動分析方法及びシステム | |
CN106599854B (zh) | 基于多特征融合的人脸表情自动识别方法 | |
CN113592845A (zh) | 一种电池涂布的缺陷检测方法及装置、存储介质 | |
CN111915704A (zh) | 一种基于深度学习的苹果分级识别方法 | |
CN106610969A (zh) | 基于多模态信息的视频内容审查系统及方法 | |
CN105389581B (zh) | 一种胚芽米胚芽完整度智能识别系统及其识别方法 | |
CN113221881B (zh) | 一种多层级的智能手机屏幕缺陷检测方法 | |
Zhai et al. | A generative adversarial network based framework for unsupervised visual surface inspection | |
CN105678735A (zh) | 一种用于雾天图像的目标显著性检测方法 | |
CN108647696B (zh) | 图片颜值确定方法及装置、电子设备、存储介质 | |
CN108509950A (zh) | 基于概率特征加权融合的铁路接触网支柱号牌检测识别法 | |
CN109086772A (zh) | 一种扭曲粘连字符图片验证码的识别方法及系统 | |
Prasitmeeboon et al. | Defect detection of particleboards by visual analysis and machine learning | |
CN106650798A (zh) | 一种结合深度学习与稀疏表示的室内场景识别方法 | |
CN115082776A (zh) | 一种基于图像识别的电能表自动检测系统及方法 | |
CN111222530A (zh) | 一种细粒度图像分类方法、系统、装置和存储介质 | |
CN110175614A (zh) | 一种印刷电路板过孔内壁质量的检测方法 | |
Wang et al. | A video text location method based on background classification | |
Chaturvedi et al. | Automatic license plate recognition system using surf features and rbf neural network | |
CN111259974B (zh) | 一种小样本柔性ic基板的表面缺陷定位和分类方法 | |
CN112906707B (zh) | 一种表面缺陷图像的语义分割方法、装置及计算机设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |