CN114723681B - 一种基于机器视觉的混凝土裂缝缺陷检测方法 - Google Patents

一种基于机器视觉的混凝土裂缝缺陷检测方法 Download PDF

Info

Publication number
CN114723681B
CN114723681B CN202210282364.8A CN202210282364A CN114723681B CN 114723681 B CN114723681 B CN 114723681B CN 202210282364 A CN202210282364 A CN 202210282364A CN 114723681 B CN114723681 B CN 114723681B
Authority
CN
China
Prior art keywords
texture
edge
surface image
style
vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210282364.8A
Other languages
English (en)
Other versions
CN114723681A (zh
Inventor
李贺
郑璐
侯精明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jiangsu Yurun Intelligent Technology Co ltd
Original Assignee
Jiangsu Yurun Intelligent Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jiangsu Yurun Intelligent Technology Co ltd filed Critical Jiangsu Yurun Intelligent Technology Co ltd
Priority to CN202210282364.8A priority Critical patent/CN114723681B/zh
Publication of CN114723681A publication Critical patent/CN114723681A/zh
Application granted granted Critical
Publication of CN114723681B publication Critical patent/CN114723681B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques
    • G06T5/75
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/40Analysis of texture
    • G06T7/41Analysis of texture based on statistical description of texture
    • G06T7/45Analysis of texture based on statistical description of texture using co-occurrence matrix computation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30132Masonry; Concrete

Abstract

本发明涉及机器视觉技术领域,具体涉及一种基于机器视觉的混凝土裂缝缺陷检测方法。该方法首先采集混凝土成品的表面图像,并得到对应的混合纹理图,将表面图像分割成多个材质区域得到区域界面纹理图,由混合纹理图和区域界面纹理图得到第一纹理图;获取第一纹理图中纹理边缘上各像素点对应的纹理风格向量,计算同一边缘上的纹理风格向量的风格向量差异值;计算任意两条纹理边缘对应的纹理风格向量集合的集合相似度,根据集合相似度得到异常边缘概率;由风格向量差异值和异常边缘概率得到裂缝边缘概率和对应的裂缝边缘。本发明利用了纹理边缘上各像素点的灰度分布和纹理边缘的相似度来得到纹理边缘为裂缝边缘的概率,提高了裂缝缺陷检测的准确性。

Description

一种基于机器视觉的混凝土裂缝缺陷检测方法
技术领域
本发明涉及机器视觉技术领域,具体涉及一种基于机器视觉的混凝土裂缝缺陷检测方法。
背景技术
混凝土中包含骨料和水泥石,其中骨料包含粗骨料和细骨料,粗骨料是指比较大的石头,细骨料指的是细沙,水泥石是水泥浆固化后形成的材质。混凝土在浇筑固化之后,可能由于水泥石的应力分布、塑形收缩、温度分布等原因使得混凝土材料表面出现小的裂纹,这些裂纹主要分布在水泥石和骨料的交界处等位置,且这些裂缝通常较小,且易隐藏在界面等结构纹理处。故混凝土工件生产出来之后,需要对混凝土工件进行质检,如检测工件表面是否有裂缝。
现有的检测混凝土工件裂缝缺陷的方法常用的是边缘检测,但是由于混凝土工件本身包含有不同的材质,在进行边缘检测时往往会将不同材质的交界边缘或者是一些材质本身的纹理细节也检测为裂缝,就导致用边缘检测的方法检测裂缝曲线存在着较大的误差,误检率高。
发明内容
为了解决上述技术问题,本发明的目的在于提供一种基于机器视觉的混凝土裂缝缺陷检测方法,所采用的技术方案具体如下:
采集混凝土成品的表面图像,根据混凝土中包含的不同材质将所述表面图像分割成多个不同的材质区域,并对分割后的所述表面图像进行边缘提取,得到区域界面纹理图;
增强所述表面图像的纹理得到增强纹理图,提取所述增强纹理图的边缘得到混合纹理图;将所述混合纹理图和所述区域界面纹理图作差得到第一纹理图;
提取所述第一纹理图中的纹理边缘;计算所述纹理边缘上各像素点的边缘垂直向量;获取所述边缘垂直向量上预设范围内的像素点构成的灰度共生矩阵,使所述灰度共生矩阵展平后得到的一维向量为所述纹理边缘上相应的像素点的纹理风格向量;获取同一所述纹理边缘上所述纹理风格向量的风格向量差异值;
获取每条所述纹理边缘上所有像素点对应的纹理风格向量集合,计算任意两个所述纹理风格向量集合的集合相似度;根据所述集合相似度对所述纹理边缘进行聚类得到多个聚类类别,根据每个所述聚类类别中的纹理边缘数量的占比计算异常边缘概率;
所述风格向量差异值和所述异常边缘概率相乘得到裂缝边缘概率,使大于预设概率阈值的所述裂缝边缘概率对应的纹理边缘为裂缝边缘。
优选的,所述根据混凝土中包含的不同材质将所述表面图像分割成多个不同的材质区域,包括:
利用高斯核对所述表面图像进行模糊处理;
利用超像素分割算法将模糊处理后的所述表面图像分割为多个过分割区域;
对所述表面图像进行粗分割,得到多个粗分割区域;
基于所述粗分割区域将所述过分割区域进行合并,所述过分割区域合并后的并集区域为所述材质区域。
优选的,所述对所述表面图像进行粗分割,得到多个粗分割区域,包括:
对所述表面图像进行高斯下采样,利用超像素分割算法将高斯下采样后的所述表面图像分割为多个第一粗分割区域;
对所述第一粗分割区域进行高斯上采样,高斯上采样后的所述第一粗分割区域为所述粗分割区域。
优选的,所述增强所述表面图像的纹理得到增强纹理图,包括:
对所述表面图像进行高斯上采样,利用反锐化掩膜算法增强高斯上采样后的所述表面图像的纹理得到初始增强纹理图;
对所述初始增强纹理图进行高斯下采样得到所述增强纹理图。
优选的,所述计算所述纹理边缘上各像素点的边缘垂直向量,包括:
计算所述纹理边缘上各像素点的海森矩阵;
获取所述海森矩阵的最大特征值对应的特征向量,所述特征向量为像素点的所述边缘垂直向量。
优选的,所述获取所述边缘垂直向量上预设范围内的像素点构成的灰度共生矩阵,包括:
将所述表面图像的各像素点的灰度值进行归一化;
获取灰度值归一化后所述边缘垂直向量上预设范围内的像素点的灰度等级;
由预设范围内的各像素点的所述灰度等级构成灰度共生矩阵。
优选的,所述获取同一所述纹理边缘上所述纹理风格向量的风格向量差异值,包括:
计算同一所述纹理边缘上任意两个像素点对应的两个所述纹理风格向量之间的欧氏距离;同一所述纹理边缘上所述像素点对应的欧式距离的均值为所述风格向量差异值。
优选的,所述计算任意两个所述纹理风格向量集合的集合相似度,包括:
利用最大均值差异算法计算任意两个所述纹理风格向量集合之间的分布差异;
根据所述分布差异计算集合相似度;
所述集合相似度为:
F(l,k)=exp(-dl,k)其中,F(l,k)为第l个所述纹理风格向量集合和第k个所述纹理风格向量集合之间的所述集合相似度,dl,k为第l个所述纹理风格向量集合和第k个所述纹理风格向量集合之间的所述分布差异。
优选的,所述根据所述集合相似度对所述纹理边缘进行聚类得到多个聚类类别,包括:
将每个所述纹理边缘作为一个节点;
当任意两个所述纹理边缘对应的集合相似度大于预设边权阈值时,将所述集合相似度作为对应的两个所述节点的边权值;
否则,将零作为对应的两个所述节点的边权值;
根据所述边权值对所述节点进行谱聚类得到多个聚类类别。
优选的,所述根据每个所述聚类类别中的纹理边缘数量的占比计算异常边缘概率,包括:
所述异常边缘概率的计算公式为:
Figure GDA0003846797000000031
其中,p2i为所述异常边缘概率;ai为第i个纹理边缘所属的聚类类别中的纹理边缘数量的占比。
本发明实施例至少具有如下有益效果:
本发明实施例利用机器视觉技术,首先采集混凝土成品的表面图像,按照不同材质将表面图像分割为多个不同的材质区域,得到区域界面纹理图、表面图像对应的增强纹理图和混合纹理图,将增强纹理图和混合纹理图作差得到第一纹理图,作差后得到的第一纹理图不再包含混凝土不同材质的接触界面的区域界面纹理边缘,如水泥石和骨料接触界面的区域界面纹理边缘。计算第一纹理图上的纹理边缘的边缘垂直向量,并得到边缘垂直向量上像素点构成的灰度共生矩阵和对应的纹理风格向量,获取同一纹理边缘上纹理风格向量的风格向量差异值,该风格向量差异值反映的是纹理边缘上所有像素点对应的纹理风格特征的差异性,差异越大,则说明该纹理边缘更有可能从一个材质上延伸到另一个材质上,故该纹理边缘更有可能是裂缝边缘。计算任意两个纹理边缘对应的纹理风格向量集合的集合相似度,并根据集合相似度对纹理边缘进行聚类得到多个聚类类别,由每个聚类类别的纹理边缘数量的占比得到异常边缘概率,通常裂缝边缘的数量要小于细节纹理边缘的数量,所以可以根据聚类类别中纹理边缘的数量来进一步判断是裂缝边缘的概率。将风格向量差异值和异常边缘概率相乘得到裂缝边缘概率,使大于预设概率阈值的裂缝边缘概率对应的纹理边缘为裂缝边缘。通过纹理边缘上各像素点的纹理风格向量来反映出各像素点处的灰度分布,并计算同一边缘的风格向量差异值,来判断一条纹理边缘上各像素点的灰度值的差异程度;再由各纹理边缘的纹理风格向量集合的集合相似度得到异常边缘概率,通过风格向量差异值和异常边缘概率两个判断指标来得到裂缝边缘的概率,提高了裂缝缺陷检测的准确性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案和优点,下面将对实施例或现有技术描述中所需要使用的附图作简单的介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它附图。
图1为本发明一个实施例所提供的一种基于机器视觉的混凝土裂缝缺陷检测方法的方法流程图;
图2为本发明一个实施例所提供的将表面图形进行分割得到不同材质的材质区域的流程示意图;
图3为本发明一个实施例所提供的纹理边缘上所有像素点的纹理风格特征的风格向量差异值的获取方法的方法流程图;
图4为本发明一个实施例所涉及的异常边缘概率和纹理边缘数量的占比的关系变化曲线的示意图。
具体实施方式
为了更进一步阐述本发明为达成预定发明目的所采取的技术手段及功效,以下结合附图及较佳实施例,对依据本发明提出的一种基于机器视觉的混凝土裂缝缺陷检测方法,其具体实施方式、结构、特征及其功效,详细说明如下。在下述说明中,不同的“一个实施例”或“另一个实施例”指的不一定是同一实施例。此外,一或多个实施例中的特定特征、结构、或特点可由任何合适形式组合。
除非另有定义,本文所使用的所有的技术和科学术语与属于本发明的技术领域的技术人员通常理解的含义相同。
本发明实施例提供了一种基于机器视觉的混凝土裂缝缺陷检测方法的具体实施方法,该方法适用于混凝土成品检测场景。混凝土成品包括小型混凝土预制件和混凝土结构构件等。小型混凝土预制件如:路缘石、路测石、护坡六棱砖、窗台等,混凝土结构构件如梁、板、柱等。其中混凝土中包含骨料和水泥石,骨料包括粗骨料和细骨料,粗骨料指的是较大的石子,细骨料指的是细沙,水泥石指的是水泥浆固化后形成的材质。其中,粗骨料中较大的石子上可能存在很大细微的划痕,这些都属于正常的划痕,且粗骨料、细骨料和水泥石存在交界边缘,因为粗骨料、细骨料和水泥石的材质不同、不同材质的不同颜色由灰度相机采集到的灰度值也不同,故粗骨料、细骨料和水泥石之间存在着明显的交界边缘。工件检测时使用的相机为灰度相机,在采集混凝土构件表面的图像时,该灰度相机利用平行光源垂直照射于混凝土构件的表面。为了解决检测混凝土成品的裂缝缺陷时有多余的细节边缘干扰导致难以准确检测出真实裂缝缺陷的问题,本发明实施例采用了通过纹理边缘上各像素点的纹理风格向量来反映出各像素点处的灰度分布,并计算同一边缘的风格向量差异值,来判断一条纹理边缘上各像素点的灰度值的差异程度;再由各纹理边缘的纹理风格向量集合的集合相似度得到异常边缘概率,通过风格向量差异值和异常边缘概率两个判断指标来得到裂缝边缘的概率,达到能够消除混凝土中不同材质的区域界面边缘和材质上的细节纹理边缘的干扰,准确检测出混凝土成品的裂缝缺陷的目的。
下面结合附图具体的说明本发明所提供的一种基于机器视觉的混凝土裂缝缺陷检测方法的具体方案。
请参阅图1,其示出了本发明一个实施例提供的一种基于机器视觉的混凝土裂缝缺陷检测方法的步骤流程图,该方法包括以下步骤:
步骤S100,采集混凝土成品的表面图像,根据混凝土中包含的不同材质将表面图像分割成多个不同的材质区域,并对分割后的表面图像进行边缘提取,得到区域界面纹理图。
用灰度相机采集混凝土成品的表面图像,灰度相机采集到的表面图像是一张灰度图。灰度相机在采集图像时利用平行光源垂直照射混凝土成品的表面。
由于混凝土中有骨料和水泥石,所以得到的表面图像中分布着不同的材质,且不同的材质的灰度值各不相同。
请参阅图2,首先对表面图像进行分割,得到不同材质的材质区域,具体的:
步骤S101,利用高斯核对表面图像进行模糊处理,再利用超像素分割算法将模糊处理后的表面图像分割为多个过分割区域。
对图像进行模糊处理的目的是去除或者弱化细小纹理和噪声的影响,保证分割的准确性。获得的过分割区域中,每个区域内的灰度值近似相同,表示一种材质。但是因为一个材质中,如粗骨料中可能包含一些较强的结构纹理信息,因此先模糊处理后再进行超像素分割算法会使得一个材质可能被分割成多个区域。如一个粗骨料中的石子被分割成多个区域。
在本发明实施例中高斯核的大小为3*3,在其他实施例中可根据实时需要调整高斯核的大小。
步骤S102,对表面图像进行粗分割,得到多个粗分割区域。
因为本发明实施例需要一个材料被分割成一个区域,而不是分割成多个区域。故通过将表面图像进行粗分割来忽略部分纹理细节,达到将一个材料分割成一个区域的目的。具体的:
(1)先对表面图像进行两次高斯下采样,利用超像素分割算法将高斯下采样后的表面图像分割为多个第一粗分割区域。进行高斯下采样是为了去除一些结构信息和细微纹理细节,使得高斯下采样后得到的第一粗分割区域满足一个材质对应一个区域。如一个粗骨料就只对应一个区域。
(2)再对第一粗分割区域进行两次高斯上采样,高斯上采样后的第一粗分割区域为粗分割区域。进行高斯上采样是为了将高斯下采样后的第一粗分割区域恢复成原始尺寸,因为高斯下采样实质上是将图像进行了缩小,故需要将缩小后的第一粗分割区域恢复成缩小之前的大小,所以高斯下采样后的粗分割区域构成的图像的大小和表面图像的大小相同。
步骤S103,基于粗分割区域将过分割区域进行合并,过分割区域合并后的并集区域为材质区域。
获取任意一个粗分割区域,且一个粗分割区域就是一个材质的完整区域,但是这个粗分割区域的轮廓较为粗略,粗分割区域内的细节也因为进行了高斯下采样处理而丢失或者模糊;而一个过分割区域则分割的较为精细,轮廓和区域内的细节相对保留的更加完整,但是由于一个材质可能被多个过分割区域分割,即一个过分割区域可能只是一个材质的局部区域,并不是一个材质对应一个区域。
所以基于粗分割区域将包含同一个材质的过分割区域进行合并。具体的:获取与粗分割区域的交并比大于预设交并比阈值的所有过分割区域,这些过分割区域内都是同一个材质,如同一个粗骨料对应的多个过分割区域。将这些过分割区域的并集作为一个并集区域,这个并集区域就能准确的表示一种材料在表面图像上分布的位置区域、轮廓和纹理信息。在本发明实施例中预设交并比阈值为0.9,在其他实施例中实施者可根据实际情况调整该取值。
对于所有的粗分割区域将其对应的多个过分割区域都进行合并,完成过分割区域的合并,得到多个材质区域,每个材质区域都表示一种材料,如一个材质区域表示一个完整的、有精确边缘和纹理的粗骨料。
对分割后的有多个材质区域的表面图像进行边缘提取,得到区域界面纹理图。
步骤S200,增强表面图像的纹理得到增强纹理图,提取增强纹理图的边缘得到混合纹理图;将混合纹理图和区域界面纹理图作差得到第一纹理图。
由于表面图像上包含很多纹理,例如粗骨料和细骨料的纹理、水泥石的纹理、水泥石和骨料接触界面以及裂缝纹理等;这些纹理有的清晰,有的细微,难以分辨开来。
为了将图像中的所有细微纹理和接触界面的边缘都精准检测到,先增强表面图像的纹理得到增强纹理图像,具体的:
对表面图像进行高斯上采样,再利用反锐化掩膜算法增强高斯上采样后的表面图像的纹理得到初始增强纹理图。其中,采用高斯上采样的目的是为了提高纹理的分辨率,采用反锐化掩膜算法的目的是为了增强图像轮廓和细节纹理,在高斯上采样之后去除一些高频的噪声噪点数据,同时保持纹理的清晰,使得初始增强纹理图具有更加清晰的边缘。
再对初始增强纹理图进行高斯下采样得到增强纹理图,进行高斯下采样之后的增强纹理图的大小和表面图像的大小相同。
提取增强纹理图的边缘得到混合纹理图,在本发明实施例中利用Sobel算子提取增强纹理图中的边缘,得到的该混合纹理图为边缘的二值图。混合纹理图上灰度值为1的像素点即表示表面图像上的纹理边缘。
该混合纹理图上包含了粗骨料和细骨料的纹理、水泥石的纹理、水泥石和骨料接触界面以及裂缝纹理等;将其中的粗骨料和细骨料的纹理、水泥石的纹理统称为细节纹理边缘;将水泥石和骨料接触界面称为区域界面纹理边缘,需要说明的是,步骤S100得到的区域界面纹理图即包含区域界面纹理边缘。即混合纹理图上包含了细节纹理边缘、区域界面纹理边缘和裂缝纹理边缘。
将混合纹理图和区域界面纹理图作差得到第一纹理图。该第一纹理图不再包含混凝土不同材质的接触界面的区域界面纹理边缘,如水泥石和骨料接触界面的区域界面纹理边缘,第一纹理图仅包含了裂缝纹理边缘和细节纹理边缘。由于在第一纹理图中无法区分出哪些是裂缝纹理边缘,哪些是细节纹理边缘,故后续步骤的处理将达到区分裂缝纹理边缘和细节纹理边缘的目的。
步骤S300,提取第一纹理图中的纹理边缘;计算纹理边缘上各像素点的边缘垂直向量;获取边缘垂直向量上预设范围内的像素点构成的灰度共生矩阵,使灰度共生矩阵展平后得到的一维向量为纹理边缘上相应的像素点的纹理风格向量;获取同一纹理边缘上纹理风格向量的风格向量差异值。
将第一纹理图上连续的、灰度值为1的像素集合视为纹理边缘,具体的:获取第一纹理图上所有灰度值为1的像素点的像素坐标,对这些像素坐标利用DBSCAN聚类,得到多个聚类类别,每个聚类类别都是一些像素坐标的集合,这些像素坐标对应的像素点构成一条纹理边缘。
计算纹理边缘上各像素点的边缘垂直向量。具体的:
(1)计算纹理边缘上各像素点的海森矩阵。
任意获取一条纹理边缘,取该纹理边缘上任意一个像素点,计算该像素点的海森矩阵,海森矩阵用于表征表面图像上的灰度值在该像素点处的不同方向的二阶梯度。
(2)获取海森矩阵的最大特征值对应的特征向量,特征向量为像素点的边缘垂直向量。
像素点附近的纹理边缘可以视为一个边缘曲线,获取该像素点处的海森矩阵的最大特征值对应的特征向量,该特征向量表示的就是边缘曲线在该像素点位置处的切线方向的二维法向量,即该特征向量垂直于边缘曲线对应的切线,这个最大特征值对应的特征向量为边缘垂直向量。
对于每一条纹理边缘上的所有像素点,获取这些像素点的边缘垂直向量上的灰度值的分布情况,由灰度值得到的灰度共生矩阵,通过灰度共生矩阵展平后得到的纹理风格向量的来反映灰度值的分布情况,由纹理风格向量计算该纹理边缘上所有像素点的风格向量差异值。
计算风格向量差异值的目的是,如果一个纹理边缘不是一个裂缝纹理边缘,那么就可能是一个骨料或水泥石上的一个纹理,即细节纹理边缘,如石子上的花纹或者水泥石上的砂子边缘纹理等。细节纹理边缘的不同像素点在边缘垂直向量方向上的灰度分布是较为相似或者说是一致的,故这个纹理边缘上所有像素点对应的纹理风格特征的差异性越小,即风格向量差异值越小。而如果这个纹理边缘为裂缝纹理边缘,由于裂缝纹理边缘的出现不同于水泥石和骨料的材质与花纹,裂缝纹理边缘是由材料的力学性质决定的,裂缝纹理边缘的出现具有一定的随机性和不确定性,这使得裂缝纹理边缘可能从一个材质上延伸到另一个材质上,或者从一个花纹上延伸到另一个花纹上,因此裂缝纹理的纹理边缘上的不同像素点在边缘垂直向量方向上的灰度分布是不一致的,即这个纹理边缘上所有像素点对应的纹理风格特征的差异性越大,即风格向量差异值越大。
请参阅图3,具体的,获取纹理边缘上所有像素点的纹理风格特征的风格向量差异值的步骤为:
步骤S301,将表面图像的各像素点的灰度值进行归一化。
对表面图像上的各像素点的灰度值进行归一化,即表面图像上像素点的灰度值区间为[0,255],将其灰度值进行归一化,使归一化后像素点的灰度值区间为[0,1]。
步骤S302,获取灰度值归一化后边缘垂直向量上预设范围内的像素点的灰度等级。
选取边缘垂直向量上任意一个像素点p,获取像素点p对应的边缘垂直向量上预设范围内的像素点。在本发明实施例中预设范围为与像素点p距离最近的前2K+1个像素点,其中包含像素点p,K的取值为7,在其他实施例中实施者可根据实际情况调整该取值。
将该2K+1个像素点中归一化后灰度值位于[0,0.1]区间的像素点归为灰度等级为0,将灰度值处于(0.1,0.2]区间的像素点归为灰度等级为1,…,以此类推,将灰度值处于(0.9,1.0]区间的像素点归为灰度等级为9,共分为10个灰度等级。
步骤S303,由预设范围内的各像素点的灰度等级构成灰度共生矩阵。
根据预设范围内的2K+1个像素点的灰度等级得到灰度共生矩阵,灰度共生矩阵的大小与灰度等级有关,在本发明实施例中灰度等级为10个,因此该灰度共生矩阵的大小为10×10,该灰度共生矩阵用于表示纹理边缘上像素点p对应的边缘垂直向量上的各像素点不同灰度等级成对出现的概率,用于表征灰度分布特征与分布特点。
使该灰度共生矩阵展平后得到的一维向量为该纹理边缘上相应的像素点p相应的纹理风格向量。
重复步骤S301~步骤S303,得到纹理边缘上每个像素点的纹理风格向量。
步骤S304,计算同一条纹理边缘上各像素点的纹理风格向量的风格向量差异。
将每个纹理风格向量视为空间中的一个点,计算同一纹理边缘上任意两个像素点对应的两个纹理风格向量之间的欧氏距离。同一纹理边缘上所有像素点对应的欧式距离的均值为风格向量差异值D。
该风格向量差异值用于表示纹理风格向量的集中密集分布的程度,风格向量差异值越大,说明纹理风格向量分布的越为离散,说明同一纹理边缘上不同像素点在边缘垂直向量方向上的灰度分布差异越大;风格向量差异值越小,说明纹理风格向量分布的越为集中,说明同一纹理边缘上不同像素点在边缘垂直向量方向上的灰度分布差异越小。
当纹理边缘上所有像素点的纹理风格向量的风格向量差异值较大时,则纹理边缘是一个裂缝纹理边缘的概率比较大;当纹理边缘上所有像素点的纹理风格向量的风格向量差异值较小时,则纹理边缘是一个裂缝纹理边缘的概率比较小。故可将风格向量差异值D认为是该纹理边缘是裂缝纹理边缘的一个概率。
由步骤S300得到了任意纹理边缘的风格向量差异值,但是仅根据风格向量差异值来判断纹理边缘是否为裂缝纹理边缘还是存在一定的误差的,如有可能一些裂缝纹理边缘上所有像素的纹理风格向量的差异性本来就比较小。故后续根据纹理风格向量的相似程度来进一步确定纹理边缘为异常的裂缝纹理边缘的概率。
步骤S400,获取每条纹理边缘上所有像素点对应的纹理风格向量集合,计算任意两个纹理风格向量集合的集合相似度;根据集合相似度对纹理边缘进行聚类得到多个聚类类别,根据每个聚类类别中的纹理边缘数量的占比计算异常边缘概率。
获取任意纹理边缘上所有像素点的纹理风格向量集合Sl,然后再获取其他任意纹理边缘上的所有像素点的纹理风格向量集合Sk。利用最大均值差异算法计算纹理风格向量集合Sl和纹理风格向量集合Sk中向量之间的分布差异dl,k
根据该分布差异计算两个纹理风格向量集合的集合相似度F(l,k)。
该集合相似度F(l,k)为:
F(l,k)=exp(-dl,k)
其中,dl,k为第l个纹理风格向量集合和第k个纹理风格向量集合之间的分布差异。
集合相似度F(l,k)表示这两个纹理边缘对应的纹理风格向量集合的风格相似度。分布差异dl,k越小,集合相似度F(l,k)越大,表示纹理风格向量集合Sl和纹理风格向量集合Sk中的向量分布越相似,反映两个纹理边缘的风格越相似。反之,分布差异dl,k越大,集合相似度F(l,k)越小,表示纹理风格向量集合Sl和纹理风格向量集合Sk中的向量分布差异越大,反映两个纹理边缘的风格差异越大。
将每个纹理边缘视为一个节点,当任意两个纹理边缘对应的集合相似度大于预设边权阈值时,将集合相似度作为对应的两个节点的边权值;否则,则将零作为对应的两个节点的边权值,即当任意两个纹理边缘对应的集合相似度小于等于预设边权阈值时,将零作为对应的两个节点的边权值,由节点和对应的边权值得到一个节点图。在本发明实施例中预设边权阈值为0.3,在其他实施例中实施者可根据实际情况调整该取值。
根据边权值对节点图上的节点进行谱聚类,得到多个聚类类别。每个聚类类别都是一些节点的集合,即一些纹理边缘的集合,同一聚类类别中的纹理边缘具有相似的风格,不同的聚类类别之间的风格差异较大。
因为混凝土成品的表面图像上裂缝数量一般是比较少的,相对而言细节纹理边缘较多,所以认为多个聚类类别中,纹理边缘数量越多的聚类类别中的纹理边缘属于细节纹理边缘的概率就越大,而那些纹理边缘数量较少的聚类类别中的纹理边缘属于裂缝纹理边缘的概率较大。
故可以根据每个聚类类别中的纹理边缘数量的占比来计算异常边缘的异常边缘概率,异常边缘即为裂缝纹理边缘。
第i个纹理边缘的异常边缘概率p2i的计算公式为:
Figure GDA0003846797000000101
其中,ai为第i个纹理边缘所属的聚类类别中的纹理边缘数量的占比。
请参阅图4,该曲线为异常边缘概率p2i和纹理边缘数量的占比ai的关系变化曲线。其中,横坐标为纹理边缘数量的占比ai,纵坐标为异常边缘概率p2i。纹理边缘数量的占比ai越小,说明这个纹理边缘所属的聚类类别中的纹理边缘的数量越少,那么这个聚类类别中的纹理边缘属于异常边缘的异常边缘概率p2i就越大。纹理边缘数量的占比ai越大,说明这个纹理边缘所属的聚类类别中的纹理边缘的数量越多,那么这个聚类类别中的纹理边缘属于异常边缘的异常边缘概率p2i就越小。
步骤S500,风格向量差异值和异常边缘概率相乘得到裂缝边缘概率,使大于预设概率阈值的裂缝边缘概率对应的纹理边缘为裂缝边缘。
根据步骤S100~步骤S400得到了风格向量差异值D和异常边缘概率p2i,这两个指标判断纹理边缘的方向是不同的,单独使用其中一个指标的都具有一定的误差。故可用风格向量差异值D和异常边缘概率p2i这两个指标同时来判断纹理边缘为裂缝边缘的概率,使得对裂缝边缘的判断更准确。
将风格向量差异值和异常边缘概率相乘得到裂缝边缘概率。
第i个纹理边缘的裂缝边缘概率pi为:
pi=Di×p2i
其中,Di为第i个纹理边缘的风格向量差异值;p2i为第i个纹理边缘的异常边缘概率。
计算每个纹理边缘对应的裂缝边缘概率。
大于预设概率阈值的裂缝边缘概率对应的纹理边缘为裂缝边缘。在本发明实施例中预设概率阈值为0.7,在其他实施例中实施者可根据实际情况调整该取值。
综上所述,本发明实施例利用机器视觉技术,首先采集混凝土成品的表面图像,按照不同材质将表面图像分割为多个不同的材质区域,对分割后的表面图像进行边缘提取得到区域界面纹理图。增强表面图像的纹理得到增强纹理图,并提取增强纹理图的边缘得到混合纹理图,将增强纹理图和混合纹理图作差得到第一纹理图。计算第一纹理图上的纹理边缘的边缘垂直向量,并得到边缘垂直向量上像素点构成的灰度共生矩阵,由灰度共生矩阵得到纹理边缘上相应的像素点的纹理风格向量,获取同一纹理边缘上纹理风格向量的风格向量差异值。计算任意两个纹理边缘对应的纹理风格向量集合的集合相似度,并根据集合相似度对纹理边缘进行聚类得到多个聚类类别,由每个聚类类别的纹理边缘数量的占比计算异常边缘概率。将风格向量差异值和异常边缘概率相乘得到裂缝边缘概率,使大于预设概率阈值的裂缝边缘概率对应的纹理边缘为裂缝边缘。通过得到纹理边缘上各像素点的纹理风格向量来反映出各像素点处的灰度分布,并计算得到同一边缘的风格向量差异值,来判断一条纹理边缘上各像素点的灰度值的差异程度;再由各纹理边缘之间的纹理风格向量集合的集合相似度得到异常边缘概率来更准确的得到纹理边缘为裂缝边缘的概率,通过风格向量差异值和异常边缘概率两个判断指标来得到裂缝边缘的概率,提高了裂缝缺陷检测的准确性。
需要说明的是:上述本发明实施例先后顺序仅仅为了描述,不代表实施例的优劣。且上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (9)

1.一种基于机器视觉的混凝土裂缝缺陷检测方法,其特征在于,该方法包括以下步骤:
采集混凝土成品的表面图像,根据混凝土中包含的不同材质将所述表面图像分割成多个不同的材质区域,并对分割后的所述表面图像进行边缘提取,得到区域界面纹理图;
增强所述表面图像的纹理得到增强纹理图,提取所述增强纹理图的边缘得到混合纹理图;将所述混合纹理图和所述区域界面纹理图作差得到第一纹理图;
提取所述第一纹理图中的纹理边缘;计算所述纹理边缘上各像素点的边缘垂直向量;获取所述边缘垂直向量上预设范围内的像素点构成的灰度共生矩阵,使所述灰度共生矩阵展平后得到的一维向量为所述纹理边缘上相应的像素点的纹理风格向量;获取同一所述纹理边缘上所述纹理风格向量的风格向量差异值;
获取每条所述纹理边缘上所有像素点对应的纹理风格向量集合,计算任意两个所述纹理风格向量集合的集合相似度;根据所述集合相似度对所述纹理边缘进行聚类得到多个聚类类别,根据每个所述聚类类别中的纹理边缘数量的占比计算异常边缘概率;
所述风格向量差异值和所述异常边缘概率相乘得到裂缝边缘概率,使大于预设概率阈值的所述裂缝边缘概率对应的纹理边缘为裂缝边缘;
其中,异常边缘概率的计算公式为:
Figure FDA0003846796990000011
其中,p2i为所述异常边缘概率;ai为第i个纹理边缘所属的聚类类别中的纹理边缘数量的占比。
2.根据权利要求1所述的一种基于机器视觉的混凝土裂缝缺陷检测方法,其特征在于,所述根据混凝土中包含的不同材质将所述表面图像分割成多个不同的材质区域,包括:
利用高斯核对所述表面图像进行模糊处理;
利用超像素分割算法将模糊处理后的所述表面图像分割为多个过分割区域;
对所述表面图像进行粗分割,得到多个粗分割区域;
基于所述粗分割区域将所述过分割区域进行合并,所述过分割区域合并后的并集区域为所述材质区域。
3.根据权利要求2所述的一种基于机器视觉的混凝土裂缝缺陷检测方法,其特征在于,所述对所述表面图像进行粗分割,得到多个粗分割区域,包括:
对所述表面图像进行高斯下采样,利用超像素分割算法将高斯下采样后的所述表面图像分割为多个第一粗分割区域;
对所述第一粗分割区域进行高斯上采样,高斯上采样后的所述第一粗分割区域为所述粗分割区域。
4.根据权利要求1所述的一种基于机器视觉的混凝土裂缝缺陷检测方法,其特征在于,所述增强所述表面图像的纹理得到增强纹理图,包括:
对所述表面图像进行高斯上采样,利用反锐化掩膜算法增强高斯上采样后的所述表面图像的纹理得到初始增强纹理图;
对所述初始增强纹理图进行高斯下采样得到所述增强纹理图。
5.根据权利要求1所述的一种基于机器视觉的混凝土裂缝缺陷检测方法,其特征在于,所述计算所述纹理边缘上各像素点的边缘垂直向量,包括:
计算所述纹理边缘上各像素点的海森矩阵;
获取所述海森矩阵的最大特征值对应的特征向量,所述特征向量为像素点的所述边缘垂直向量。
6.根据权利要求1所述的一种基于机器视觉的混凝土裂缝缺陷检测方法,其特征在于,所述获取所述边缘垂直向量上预设范围内的像素点构成的灰度共生矩阵,包括:
将所述表面图像的各像素点的灰度值进行归一化;
获取灰度值归一化后所述边缘垂直向量上预设范围内的像素点的灰度等级;
由预设范围内的各像素点的所述灰度等级构成灰度共生矩阵。
7.根据权利要求1所述的一种基于机器视觉的混凝土裂缝缺陷检测方法,其特征在于,所述获取同一所述纹理边缘上所述纹理风格向量的风格向量差异值,包括:
计算同一所述纹理边缘上任意两个像素点对应的两个所述纹理风格向量之间的欧氏距离;同一所述纹理边缘上所述像素点对应的欧式距离的均值为所述风格向量差异值。
8.根据权利要求1所述的一种基于机器视觉的混凝土裂缝缺陷检测方法,其特征在于,所述计算任意两个所述纹理风格向量集合的集合相似度,包括:
利用最大均值差异算法计算任意两个所述纹理风格向量集合之间的分布差异;
根据所述分布差异计算集合相似度;
所述集合相似度为:
F(l,k)=exp(-dl,k)
其中,F(l,k)为第l个所述纹理风格向量集合和第k个所述纹理风格向量集合之间的所述集合相似度,dl,k为第l个所述纹理风格向量集合和第k个所述纹理风格向量集合之间的所述分布差异。
9.根据权利要求1所述的一种基于机器视觉的混凝土裂缝缺陷检测方法,其特征在于,所述根据所述集合相似度对所述纹理边缘进行聚类得到多个聚类类别,包括:
将每个所述纹理边缘作为一个节点;
当任意两个所述纹理边缘对应的集合相似度大于预设边权阈值时,将所述集合相似度作为对应的两个所述节点的边权值;
否则,将零作为对应的两个所述节点的边权值;
根据所述边权值对所述节点进行谱聚类得到多个聚类类别。
CN202210282364.8A 2022-03-22 2022-03-22 一种基于机器视觉的混凝土裂缝缺陷检测方法 Active CN114723681B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210282364.8A CN114723681B (zh) 2022-03-22 2022-03-22 一种基于机器视觉的混凝土裂缝缺陷检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210282364.8A CN114723681B (zh) 2022-03-22 2022-03-22 一种基于机器视觉的混凝土裂缝缺陷检测方法

Publications (2)

Publication Number Publication Date
CN114723681A CN114723681A (zh) 2022-07-08
CN114723681B true CN114723681B (zh) 2022-10-18

Family

ID=82240543

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210282364.8A Active CN114723681B (zh) 2022-03-22 2022-03-22 一种基于机器视觉的混凝土裂缝缺陷检测方法

Country Status (1)

Country Link
CN (1) CN114723681B (zh)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115063407B (zh) * 2022-07-28 2023-05-09 海门市亚泰精密铜材有限公司 一种用于环形铜垫片的划痕及裂纹识别方法
CN115063413B (zh) * 2022-08-04 2022-11-11 宁波鑫芯微电子科技有限公司 一种超大规模晶圆异常数据的特征提取方法
CN115294130B (zh) * 2022-10-08 2023-12-26 中威泵业(江苏)有限公司 一种水泵叶轮异常识别方法
CN115641327B (zh) * 2022-11-09 2023-05-09 浙江天律工程管理有限公司 一种基于大数据的建筑工程质量监理和预警系统
CN116258716B (zh) * 2023-05-15 2023-07-18 青岛宇通管业有限公司 基于图像处理的塑料管材质量检测方法
CN116385434B (zh) * 2023-06-02 2023-08-08 同济检测(济宁)有限公司 一种用于预制梁裂缝的智能检测方法
CN116486091B (zh) * 2023-06-26 2023-09-26 尚宁智感(北京)科技有限公司 基于人工智能的风机叶片缺陷区域快速分割方法及系统
CN116664572B (zh) * 2023-07-31 2023-10-13 聊城市瀚格智能科技有限公司 基于图像数据的公路路面裂缝快速检测方法
CN116823814B (zh) * 2023-08-28 2023-11-24 山东巨鑫伟业电气设备有限公司 一种配电设备焊接生产缺陷检测系统
CN116843689B (zh) * 2023-09-01 2023-11-21 山东众成菌业股份有限公司 一种菌盖表面破损检测方法
CN117351433B (zh) * 2023-12-05 2024-02-23 山东质能新型材料有限公司 基于计算机视觉的胶固砂浆饱满度监控系统
CN117593300B (zh) * 2024-01-18 2024-04-26 江西汉永新材料股份有限公司 一种pe管材裂纹缺陷检测方法及系统

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103364410A (zh) * 2013-07-23 2013-10-23 三峡大学 一种基于模板搜索的水工混凝土结构水下表面裂缝检测方法
MY158454A (en) * 2012-10-25 2016-10-14 Universiti Teknologi Petronas Method of image completion without extensive searching process
CN205691521U (zh) * 2016-06-19 2016-11-16 贵州省建材产品质量监督检验院 隧道衬砌混凝土裂缝检测装置
CN107169953A (zh) * 2017-04-07 2017-09-15 西安电子科技大学 基于hog特征的桥梁混凝土表面裂缝检测方法
CN107742286A (zh) * 2017-09-28 2018-02-27 河北工业大学 一种多晶硅太阳能电池片el测试裂纹缺陷检测方法
CN111986176A (zh) * 2020-08-20 2020-11-24 国网湖南省电力有限公司 一种裂纹图像识别方法、系统、终端及可读存储介质
CN113409313A (zh) * 2021-08-18 2021-09-17 济宁联威车轮制造有限公司 基于计算机视觉的车轮焊缝表面缺陷检测方法
CN113506246A (zh) * 2021-06-15 2021-10-15 西安建筑科技大学 基于机器视觉的混凝土3d打印构件精细检测方法
CN113610850A (zh) * 2021-10-09 2021-11-05 江苏绿泉装饰工程有限公司 一种基于图像处理的装饰纸纹理异常检测方法
CN113947570A (zh) * 2021-09-30 2022-01-18 西安交通大学 一种基于机器学习算法和计算机视觉的裂纹辨识方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105574888B (zh) * 2016-03-01 2018-01-23 浙江工业大学 基于灰度峰值的裂缝位置查找方法
CN108364280B (zh) * 2018-01-03 2022-04-15 东南大学 结构裂缝自动化描绘及宽度精准测量方法与设备
CA3045197C (en) * 2018-06-05 2023-05-23 Tata Consultancy Services Limited Systems and methods for data acquisition and asset inspection in presence of magnetic interference
CN113989280B (zh) * 2021-12-28 2022-03-22 武汉市鑫景诚路桥钢模有限公司 基于图像处理技术的钢结构焊接裂纹缺陷检测方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
MY158454A (en) * 2012-10-25 2016-10-14 Universiti Teknologi Petronas Method of image completion without extensive searching process
CN103364410A (zh) * 2013-07-23 2013-10-23 三峡大学 一种基于模板搜索的水工混凝土结构水下表面裂缝检测方法
CN205691521U (zh) * 2016-06-19 2016-11-16 贵州省建材产品质量监督检验院 隧道衬砌混凝土裂缝检测装置
CN107169953A (zh) * 2017-04-07 2017-09-15 西安电子科技大学 基于hog特征的桥梁混凝土表面裂缝检测方法
CN107742286A (zh) * 2017-09-28 2018-02-27 河北工业大学 一种多晶硅太阳能电池片el测试裂纹缺陷检测方法
CN111986176A (zh) * 2020-08-20 2020-11-24 国网湖南省电力有限公司 一种裂纹图像识别方法、系统、终端及可读存储介质
CN113506246A (zh) * 2021-06-15 2021-10-15 西安建筑科技大学 基于机器视觉的混凝土3d打印构件精细检测方法
CN113409313A (zh) * 2021-08-18 2021-09-17 济宁联威车轮制造有限公司 基于计算机视觉的车轮焊缝表面缺陷检测方法
CN113947570A (zh) * 2021-09-30 2022-01-18 西安交通大学 一种基于机器学习算法和计算机视觉的裂纹辨识方法
CN113610850A (zh) * 2021-10-09 2021-11-05 江苏绿泉装饰工程有限公司 一种基于图像处理的装饰纸纹理异常检测方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
《Research on Crack Detection Algorithm of the Concrete Bridge Based on Image Processing》;Yun Wang等;《Procedia Computer Science》;20190131;第610-616页 *
《基于TSCD模型的轨道板裂缝检测方法》;李文举 等;《应用科学学报》;20220130;第40卷(第01期);第155-166页 *
《桥梁病害图像处理及识别研究》;张亮;《中国优秀硕士学位论文全文数据库 工程科技Ⅱ辑》;20210315(第03期);第C034-119页 *
《试论建筑工程施工中高检所混凝土楼板裂缝技术》;李贺 等;《建材与装饰》;20171013(第41期);第20-21页 *

Also Published As

Publication number Publication date
CN114723681A (zh) 2022-07-08

Similar Documents

Publication Publication Date Title
CN114723681B (zh) 一种基于机器视觉的混凝土裂缝缺陷检测方法
CN112419250B (zh) 路面裂缝数字图像提取、裂缝修补及裂缝参数计算方法
CN111310558B (zh) 一种基于深度学习和图像处理法的路面病害智能提取方法
CN113450307B (zh) 一种产品边缘缺陷检测方法
CN109816652B (zh) 一种基于灰度显著性的复杂铸件缺陷识别方法
CN109191459B (zh) 连铸坯低倍组织中心偏析缺陷的自动识别与评级方法
JP6099479B2 (ja) ひび割れ検出方法
CN115345885A (zh) 一种金属健身器材外观质量检测方法
CN115049664B (zh) 基于视觉的船舶发动机配件缺陷检测方法
CN115861291B (zh) 基于机器视觉的贴片电路板生产缺陷检测方法
CN116740070B (zh) 基于机器视觉的塑料管道外观缺陷检测方法
CN115690105B (zh) 一种基于计算机视觉的铣刀划痕检测方法
CN111354047B (zh) 一种基于计算机视觉的摄像模组定位方法及系统
CN115063430B (zh) 基于图像处理的电气管道裂纹检测方法
CN113506246B (zh) 基于机器视觉的混凝土3d打印构件精细检测方法
CN116883408B (zh) 基于人工智能的积算仪壳体缺陷检测方法
CN115100191A (zh) 基于工业检测的金属铸件缺陷识别方法
CN117094975A (zh) 钢铁表面缺陷检测方法、装置及电子设备
CN116152115A (zh) 基于计算机视觉的垃圾图像去噪处理方法
CN116486091A (zh) 基于人工智能的风机叶片缺陷区域快速分割方法及系统
CN115527049A (zh) 一种引线框架引脚间距的高精度测量方法
CN112396618B (zh) 一种基于图像处理的晶界提取及晶粒度测量方法
CN112561808B (zh) 一种基于车载激光点云和卫星影像的道路边界线复原方法
CN112288680B (zh) 汽车轮毂x射线图像的缺陷区域自动提取方法及系统
CN111985461A (zh) 轨道车辆编号识别方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant