CN115239644B - 混凝土缺陷识别方法、装置、计算机设备和存储介质 - Google Patents

混凝土缺陷识别方法、装置、计算机设备和存储介质 Download PDF

Info

Publication number
CN115239644B
CN115239644B CN202210784035.3A CN202210784035A CN115239644B CN 115239644 B CN115239644 B CN 115239644B CN 202210784035 A CN202210784035 A CN 202210784035A CN 115239644 B CN115239644 B CN 115239644B
Authority
CN
China
Prior art keywords
concrete
concrete defect
image
defect
sub
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210784035.3A
Other languages
English (en)
Other versions
CN115239644A (zh
Inventor
闫禹
王鹏
戴圣龙
吴清发
徐时贤
钱黄海
刘嘉
魏绍斌
董禹飞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
HONG KONG-ZHUHAI-MACAO BRIDGE AUTHORITY
AECC Beijing Institute of Aeronautical Materials
Original Assignee
HONG KONG-ZHUHAI-MACAO BRIDGE AUTHORITY
AECC Beijing Institute of Aeronautical Materials
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by HONG KONG-ZHUHAI-MACAO BRIDGE AUTHORITY, AECC Beijing Institute of Aeronautical Materials filed Critical HONG KONG-ZHUHAI-MACAO BRIDGE AUTHORITY
Priority to CN202210784035.3A priority Critical patent/CN115239644B/zh
Publication of CN115239644A publication Critical patent/CN115239644A/zh
Application granted granted Critical
Publication of CN115239644B publication Critical patent/CN115239644B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • G06T2207/20104Interactive definition of region of interest [ROI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30132Masonry; Concrete

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Multimedia (AREA)
  • Geometry (AREA)
  • Computational Linguistics (AREA)
  • Quality & Reliability (AREA)
  • Databases & Information Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Medical Informatics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本申请涉及一种混凝土缺陷识别方法、装置、计算机设备、存储介质和计算机程序产品。所述方法包括:获取拍摄有混凝土的待识别图片,并对待识别图片按照不同的图像尺寸进行切分处理,得到待识别图片对应的多个图像块集合;多个图像块集合分别由不同图像尺寸的图像块组成;将多个图像块集合中包含的图像块,分别输入训练完成的与图像块集合对应的图像尺寸匹配的多个混凝土缺陷检测模型,通过多个混凝土缺陷检测模型得到针对于待识别图片的多个子混凝土缺陷识别结果;对多个子混凝土缺陷识别结果进行融合处理,得到针对于待识别图片的混凝土缺陷识别结果。采用本方法能够提高缺陷识别的准确率。

Description

混凝土缺陷识别方法、装置、计算机设备和存储介质
技术领域
本申请涉及图像识别技术领域,特别是涉及一种混凝土缺陷识别方法、装置、计算机设备、存储介质和计算机程序产品。
背景技术
随着图像识别技术的发展,出现了一种利用图像识别对混凝土缺陷进行检测的技术,通过预先训练用于检测混凝土缺陷的图像识别神经网络模型,并将拍摄有混凝土的图像输入训练完成的神经网络模型,由该模型输出混凝土的缺陷检测结果。
目前利用神经网络模型识别混凝土缺陷的方法中,通常需要将拍摄有混凝土的图像切分为与神经网络模型相适应的图像尺寸的图像块后,由神经网络模型对相应尺寸的图像块进行缺陷识别,然而,混凝土的缺陷包括多个种类,某些种类的缺陷不容易通过特定图像尺寸的图像块识别得到,因此现有的混凝土缺陷识别方法,缺陷识别的准确率较低。
发明内容
基于此,有必要针对上述技术问题,提供一种能够提高缺陷识别准确率的混凝土缺陷识别方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。
第一方面,本申请提供了一种混凝土缺陷识别方法,所述方法包括:
获取拍摄有混凝土的待识别图片,并对所述待识别图片按照不同的图像尺寸进行切分处理,得到所述待识别图片对应的多个图像块集合;所述多个图像块集合分别由不同图像尺寸的图像块组成;
将所述多个图像块集合中包含的图像块,分别输入训练完成的与所述图像块集合对应的图像尺寸匹配的多个混凝土缺陷检测模型,通过所述多个混凝土缺陷检测模型得到针对于所述待识别图片的多个子混凝土缺陷识别结果;
对所述多个子混凝土缺陷识别结果进行融合处理,得到针对于所述待识别图片的混凝土缺陷识别结果。
在其中一个实施例中,所述子混凝土缺陷识别结果包括通过所述多个混凝土缺陷检测模型得到的,针对于所述待识别图片的子混凝土缺陷区域以及混凝土缺陷类型;所述对所述多个子混凝土缺陷识别结果进行融合处理,得到针对于所述待识别图片的混凝土缺陷识别结果,包括:按照所述混凝土缺陷类型,对由不同的混凝土缺陷检测模型得到的子混凝土缺陷区域进行匹配处理,获取匹配的子混凝土缺陷区域组合;对所述匹配的子混凝土缺陷区域组合进行融合处理,得到针对于所述待识别图片的混凝土缺陷区域。
在其中一个实施例中,所述对所述匹配的子混凝土缺陷区域组合进行融合处理,得到针对于所述待识别图片的混凝土缺陷区域,包括:获取所述匹配的子混凝土缺陷区域组合中包含的匹配子混凝土缺陷区域,确定所述匹配子混凝土缺陷区域中,任意两个匹配子混凝土缺陷区域之间的交并比;若所述交并比大于预先设定的交并比阈值,则从所述任意两个匹配子混凝土缺陷区域中,删除缺陷区域面积较小的匹配子混凝土缺陷区域;将保留的匹配子混凝土缺陷区域,作为所述混凝土缺陷区域。
在其中一个实施例中,混凝土缺陷识别结果包括混凝土缺陷区域以及混凝土缺陷类型;所述得到针对于所述待识别图片的混凝土缺陷识别结果之后,还包括:当所述混凝土缺陷类型属于裂缝缺陷类型时,从所述待识别图片中将所述混凝土缺陷区域进行剪切,得到裂缝缺陷区域图像;从所述裂缝缺陷区域图像中提取出裂缝轮廓图像;根据所述裂缝轮廓图像,得到对应的裂缝长度、裂缝宽度以及裂缝面积。
在其中一个实施例中,所述将所述多个图像块集合中包含的图像块,分别输入训练完成的与所述图像块集合对应的图像尺寸匹配的多个混凝土缺陷检测模型之前,还包括:获取拍摄有混凝土的样本图片,对所述样本图片按照预设图像尺寸进行切分处理,得到针对于所述样本图片的样本图像块,以及所述样本图像块对应的缺陷类型标签以及缺陷区域标签;从所述样本图像块中获取训练图像块,将所述训练图像块输入待训练的混凝土缺陷检测模型,通过所述待训练的混凝土缺陷检测模型得到所述训练图像块对应的预测缺陷类型以及预测缺陷区域;根据所述训练图像块对应的缺陷类型标签与所述预测缺陷类型,以及所述训练图像块缺陷区域标签与所述预测缺陷区域,对所述待训练的混凝土缺陷检测模型进行训练,得到训练完成的与所述预设图像尺寸匹配的混凝土缺陷检测模型。
在其中一个实施例中,所述得到训练完成的与所述预设图像尺寸匹配的混凝土缺陷检测模型之后,还包括:从所述样本图像块中,获取用于对所述训练完成的与所述预设图像尺寸匹配的混凝土缺陷检测模型进行模型验证的验证图像块;将所述验证图像块输入所述训练完成的与所述预设图像尺寸匹配的混凝土缺陷检测模型,利用所述验证图像块对应的缺陷类型标签以及缺陷区域标签,对所述训练完成的与所述预设图像尺寸匹配的混凝土缺陷检测模型进行模型验证。
第二方面,本申请提供了一种混凝土缺陷识别装置,所述装置包括:
识别图片切分模块,获取拍摄有混凝土的待识别图片,并对所述待识别图片按照不同的图像尺寸进行切分处理,得到所述待识别图片对应的多个图像块集合;所述多个图像块集合分别由不同图像尺寸的图像块组成;
子识别结果获取模块,用于将所述多个图像块集合中包含的图像块,分别输入训练完成的与所述图像块集合对应的图像尺寸匹配的多个混凝土缺陷检测模型,通过所述多个混凝土缺陷检测模型得到针对于所述待识别图片的多个子混凝土缺陷识别结果;
识别结果获取模块,用于对所述多个子混凝土缺陷识别结果进行融合处理,得到针对于所述待识别图片的混凝土缺陷识别结果。
第三方面,本申请还提供了一种计算机设备。所述计算机设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
获取拍摄有混凝土的待识别图片,并对所述待识别图片按照不同的图像尺寸进行切分处理,得到所述待识别图片对应的多个图像块集合;所述多个图像块集合分别由不同图像尺寸的图像块组成;
将所述多个图像块集合中包含的图像块,分别输入训练完成的与所述图像块集合对应的图像尺寸匹配的多个混凝土缺陷检测模型,通过所述多个混凝土缺陷检测模型得到针对于所述待识别图片的多个子混凝土缺陷识别结果;
对所述多个子混凝土缺陷识别结果进行融合处理,得到针对于所述待识别图片的混凝土缺陷识别结果。
第四方面,本申请还提供了一种计算机可读存储介质。所述计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
获取拍摄有混凝土的待识别图片,并对所述待识别图片按照不同的图像尺寸进行切分处理,得到所述待识别图片对应的多个图像块集合;所述多个图像块集合分别由不同图像尺寸的图像块组成;
将所述多个图像块集合中包含的图像块,分别输入训练完成的与所述图像块集合对应的图像尺寸匹配的多个混凝土缺陷检测模型,通过所述多个混凝土缺陷检测模型得到针对于所述待识别图片的多个子混凝土缺陷识别结果;
对所述多个子混凝土缺陷识别结果进行融合处理,得到针对于所述待识别图片的混凝土缺陷识别结果。
第五方面,本申请还提供了一种计算机程序产品。所述计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现以下步骤:
获取拍摄有混凝土的待识别图片,并对所述待识别图片按照不同的图像尺寸进行切分处理,得到所述待识别图片对应的多个图像块集合;所述多个图像块集合分别由不同图像尺寸的图像块组成;
将所述多个图像块集合中包含的图像块,分别输入训练完成的与所述图像块集合对应的图像尺寸匹配的多个混凝土缺陷检测模型,通过所述多个混凝土缺陷检测模型得到针对于所述待识别图片的多个子混凝土缺陷识别结果;
对所述多个子混凝土缺陷识别结果进行融合处理,得到针对于所述待识别图片的混凝土缺陷识别结果。
上述混凝土缺陷识别方法、装置、计算机设备、存储介质和计算机程序产品,通过获取拍摄有混凝土的待识别图片,并对待识别图片按照不同的图像尺寸进行切分处理,得到待识别图片对应的多个图像块集合;多个图像块集合分别由不同图像尺寸的图像块组成;将多个图像块集合中包含的图像块,分别输入训练完成的与图像块集合对应的图像尺寸匹配的多个混凝土缺陷检测模型,通过多个混凝土缺陷检测模型得到针对于待识别图片的多个子混凝土缺陷识别结果;对多个子混凝土缺陷识别结果进行融合处理,得到针对于待识别图片的混凝土缺陷识别结果。本申请通过将拍摄有混凝土的待识别图片切分为不同图像尺寸的图像块,并输入至相应图像尺寸的混凝土缺陷检测模型中,从而可以得到针对于待识别图片的多个子混凝土缺陷识别结果,并对多个子混凝土缺陷识别结果进行融合,从而得到最终的混凝土缺陷识别结果,相比于传统技术只利用特定图像尺寸的图像块进行缺陷识别,本申请实现了利用不同图像尺寸的图像块进行缺陷识别,并将不同图像尺寸的图像块的缺陷识别结果进行融合,从而可以提高缺陷识别的准确率。
附图说明
图1为一个实施例中混凝土缺陷识别方法的流程示意图;
图2为一个实施例中得到待识别图片的混凝土缺陷识别结果的流程示意图;
图3为一个实施例中对子混凝土缺陷区域组合进行融合处理的流程示意图;
图4为一个实施例中对混凝土的裂缝缺陷类型进行处理的流程示意图;
图5为一个实施例中巡检混凝土缺陷检测模型的流程示意图;
图6为一个应用实例中基于深度学习的混凝土缺陷识别方法的流程图;
图7为一个应用实例中制作训练样本图像标记示意图;
图8为一个应用实例中对神经网络残差结构进行调整后的结构示意图;
图9为一个应用实例中基于深度学习的混凝土缺陷识别方法原理流程图;
图10为一个应用实例中提供的缺陷图像处理结果示意图;
图11为一个实施例混凝土缺陷识别装置的结构框图;
图12为一个实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
在一个实施例中,如图1所示,提供了一种混凝土缺陷识别方法,本实施例以该方法应用于终端进行举例说明,可以理解的是,该方法也可以应用于服务器,还可以应用于包括终端和服务器的系统,并通过终端和服务器的交互实现。本实施例中,该方法包括以下步骤:
步骤S101,获取拍摄有混凝土的待识别图片,并对待识别图片按照不同的图像尺寸进行切分处理,得到待识别图片对应的多个图像块集合;多个图像块集合分别由不同图像尺寸的图像块组成。
其中,待识别图像指的是拍摄有需要进行缺陷识别的混凝土的图片,图像尺寸则指的是切分后的图像块的尺寸,图像块集合则指的是由切分后的图像块组成的图像块集合。具体来说,终端可以将用于对混凝土进行缺陷识别的待识别图片按照不同的图像尺度进行切分,从而得到组成该待识别图片的不同图像尺寸的图像块,之后,终端还可以将切分得到的图像块中处于相同尺寸的图像块组成集合,从而可以得到多个按照图像尺度进行划分的图像块集合。
例如,终端可以分别对采集到的待识别图片分别按照图像尺寸A、图像尺寸B以及图像尺寸C进行图像切分,从而得到多个图像尺寸A的图像块、图像尺寸B的图像块以及图像尺寸C的图像块,并且还可以分别将图像尺寸A的图像块、图像尺寸B的图像块以及图像尺寸C的图像块进行组合,从而得到由图像尺寸A的图像块组成的图像块集合A、由图像尺寸B的图像块组成的图像块集合B,以及由图像尺寸C的图像块组成的图像块集合C。
步骤S102,将多个图像块集合中包含的图像块,分别输入训练完成的与图像块集合对应的图像尺寸匹配的多个混凝土缺陷检测模型,通过多个混凝土缺陷检测模型得到针对于待识别图片的多个子混凝土缺陷识别结果。
混凝土缺陷检测模型则是用于识别待识别图片中存在的混凝土缺陷的神经网络模型,例如可以是YOLOv4算法构建的深度卷积神经网络模型,本实施例中,混凝土缺陷检测模型的数量可以是多个,分别用于检测不同图像尺寸的图像块中包含的混凝土缺陷,而子混凝土缺陷识别结果则指的是由各个混凝土缺陷检测模型输出的混凝土缺陷识别结果。具体来说,终端在步骤S101得到不同图像尺寸的图像块组成的多个图像块集合后,则可以将多个图像块集合的包含的图像块分别输入至相应的混凝土缺陷检测模型中,从而由相应的混凝土缺陷检测模型输出相应的子混凝土缺陷识别结果,得到多个子混凝土缺陷识别结果,可以是先通过混凝土缺陷检测模型对相应图像尺寸的各个图像块识别出缺陷检测结果,再基于各图像块的检测结果,还原出针对于待识别图片的子混凝土缺陷识别结果。
例如,预先训练的混凝土缺陷检测模型可以包含混凝土缺陷检测模型A、混凝土缺陷检测模型B,以及混凝土缺陷检测模型C,其中混凝土缺陷检测模型A用于对切分成图像尺寸A的图像块进行混凝土缺陷识别,混凝土缺陷检测模型B用于对切分成图像尺寸B的图像块进行混凝土缺陷识别,而混凝土缺陷检测模型C用于对切分成图像尺寸C的图像块进行混凝土缺陷识别,因此终端可以将图像块集合A的图像块输入混凝土缺陷检测模型A,从而得到子混凝土缺陷识别结果A,还可以将图像块集合B的图像块输入混凝土缺陷检测模型B,从而得到子混凝土缺陷识别结果B,以及可以将图像块集合C的图像块输入混凝土缺陷检测模型C,从而得到子混凝土缺陷识别结果C。
步骤S103,对多个子混凝土缺陷识别结果进行融合处理,得到针对于待识别图片的混凝土缺陷识别结果。
最后,终端还可以将步骤S102得到的对所述多个子混凝土缺陷识别结果进行融合处理,得到针对于待识别图片最终的混凝土缺陷识别结果。
例如,终端可以对待识别图片分别按照图像尺寸A、图像尺寸B,以及图像尺寸C进行切分,从而分别得到由图像尺寸A的图像块组成的图像块集合A、由图像尺寸B的图像块组成的图像块集合B,以及由图像尺寸C的图像块组成的图像块集合C。之后则可以分别将图像块集合A的图像块输入混凝土缺陷检测模型A,得到子混凝土缺陷识别结果A、将图像块集合B的图像块输入混凝土缺陷检测模型B,得到子混凝土缺陷识别结果B,以及将图像块集合C的图像块输入混凝土缺陷检测模型C,得到子混凝土缺陷识别结果C,并将子混凝土缺陷识别结果A、子混凝土缺陷识别结果B以及子混凝土缺陷识别结果C进行融合处理,从而得到最终的针对于待识别图片的混凝土缺陷识别结果。
上述混凝土缺陷识别方法中,通过获取拍摄有混凝土的待识别图片,并对待识别图片按照不同的图像尺寸进行切分处理,得到待识别图片对应的多个图像块集合;多个图像块集合分别由不同图像尺寸的图像块组成;将多个图像块集合中包含的图像块,分别输入训练完成的与图像块集合对应的图像尺寸匹配的多个混凝土缺陷检测模型,通过多个混凝土缺陷检测模型得到针对于待识别图片的多个子混凝土缺陷识别结果;对多个子混凝土缺陷识别结果进行融合处理,得到针对于待识别图片的混凝土缺陷识别结果。本申请通过将拍摄有混凝土的待识别图片切分为不同图像尺寸的图像块,并输入至相应图像尺寸的混凝土缺陷检测模型中,从而可以得到针对于待识别图片的多个子混凝土缺陷识别结果,并对多个子混凝土缺陷识别结果进行融合,从而得到最终的混凝土缺陷识别结果,相比于传统技术只利用特定图像尺寸的图像块进行缺陷识别,本申请实现了利用不同图像尺寸的图像块进行缺陷识别,并将不同图像尺寸的图像块的缺陷识别结果进行融合,从而可以提高缺陷识别的准确率。
在一个实施例中,子混凝土缺陷识别结果包括通过所述多个混凝土缺陷检测模型得到的,针对于待识别图片的子混凝土缺陷区域以及混凝土缺陷类型;如图2所示,步骤S103可以进一步包括:
步骤S201,按照混凝土缺陷类型,对由不同的混凝土缺陷检测模型得到的子混凝土缺陷区域进行匹配处理,获取匹配的子混凝土缺陷区域组合。
本实施例中,子混凝土缺陷识别结果可以包括用于反映存在混凝土缺陷的缺陷区域的子混凝土缺陷区域,以及用于反应子混凝土缺陷的类型的混凝土缺陷类型,终端得到每一个混凝土缺陷检测模型检测得到的子混凝土缺陷识别结果后,则可以从该识别结果中,确定出每一个混凝土缺陷检测模型检测得到的存在混凝土缺陷的区域,例如可以是通过图像框的形式进行表征,同时,还可以得到各个缺陷区域对应的混凝土缺陷的类型。
例如,针对某一个混凝土缺陷检测模型检测得到的子混凝土缺陷识别结果中,待识别图片上包含3个存在混凝土缺陷的子混凝土缺陷区域,分别为子混凝土缺陷区域A、子混凝土缺陷区域B,以及子混凝土缺陷区域C,并且对于子混凝土缺陷区域A和混凝土缺陷区域C中对应有混凝土缺陷类型A,该类型可以表征存在裂缝缺陷,而对于子混凝土缺陷区域B,则可以对应有混凝土缺陷类型B,该类型可以表征存在混凝土剥落缺陷等等。
终端在得到每一个混凝土缺陷检测模型的子混凝土缺陷识别结果后,则可以对各个子混凝土缺陷区域进行匹配处理,例如混凝土缺陷检测模型A,检测出子混凝土缺陷区域A1、子混凝土缺陷区域A2,以及子混凝土缺陷区域A3,而混凝土缺陷检测模型B,则分别检测出了子混凝土缺陷区域B1、子混凝土缺陷区域B2,以及子混凝土缺陷区域B3,那么终端则可以进一步地对上述得到的子混凝土缺陷区域进行匹配处理,例如可以是基于各个子混凝土缺陷区域的混凝土缺陷类型进行匹配,从而得到相应的子混凝土缺陷区域组合,例如可以是子混凝土缺陷区域组合1,即子混凝土缺陷区域A1和子混凝土缺陷区域B1的匹配组合,子混凝土缺陷区域组合2,即子混凝土缺陷区域A2和子混凝土缺陷区域B2的匹配组合,以及子混凝土缺陷区域组合3,即子混凝土缺陷区域A3和子混凝土缺陷区域B3的匹配组合等等。终端可以得到所有的子混凝土缺陷区域的匹配关系,从而得到多组匹配的子混凝土缺陷区域组合。
步骤S202,对匹配的子混凝土缺陷区域组合进行融合处理,得到针对于待识别图片的混凝土缺陷区域。
混凝土缺陷区域则指的是最终得到混凝土缺陷识别结果中包含的混凝土缺陷区域,该区域可以通过对子混凝土缺陷区域组合进行融合处理得到。具体来说,步骤S201之后,则可以将步骤S201中的子混凝土缺陷区域组合进行融合,即将从混凝土缺陷检测模型A得到的子混凝土缺陷区域A1,与从混凝土缺陷检测模型B得到的子混凝土缺陷区域B1进行融合、将从混凝土缺陷检测模型A得到的子混凝土缺陷区域A2,与从混凝土缺陷检测模型B得到的子混凝土缺陷区域B2进行融合,以及将从混凝土缺陷检测模型A得到的子混凝土缺陷区域A3,与从混凝土缺陷检测模型B得到的子混凝土缺陷区域B3进行融合,从而得到最终的针对待识别图片的混凝土缺陷识别结果。
本实施例中,可以利用子混凝土缺陷识别结果中包含的子混凝土缺陷区域以及混凝土缺陷类型,实现对子混凝土缺陷区域组合进行融合,从而可以提高融合处理的效率。
进一步地,如图3所示,步骤S202可以进一步包括:
步骤S301,获取匹配的子混凝土缺陷区域组合中包含的匹配子混凝土缺陷区域,确定匹配子混凝土缺陷区域中,任意两个匹配子混凝土缺陷区域之间的交并比。
匹配子混凝土缺陷区域则指的是某一个匹配的子混凝土缺陷区域组合中包含的所有子混凝土缺陷区域,在步骤S201得到所有的子混凝土缺陷区域组合后,终端则可以从每一个子混凝土缺陷区域组合中提取出该组合中包含的子混凝土缺陷区域,假如混凝土缺陷检测模型可以包括3个,那么某一个子混凝土缺陷区域组合则可以包含3个匹配子混凝土缺陷区域,分别来自不同的混凝土缺陷检测模型,之后,终端还可以从上述匹配子混凝土缺陷区域中,选择任意两个匹配子混凝土缺陷区域并计算区域之间的交并比,该交并比可以表征任意两个匹配子混凝土缺陷区域的重叠程度。
步骤S302,若交并比大于预先设定的交并比阈值,则从任意两个匹配子混凝土缺陷区域中,删除缺陷区域面积较小的匹配子混凝土缺陷区域。
交并比阈值则指的是针对于交并比预先设定的阈值,如果两个匹配子混凝土缺陷区域的交并比较大,则表明两个匹配子混凝土缺陷区域重叠程度较高,则证明上述两个匹配子混凝土缺陷区域属于相同的混凝土缺陷区域的可能性较大,因此则可以将其进行融合,融合的方式是通过删除掉缺陷区域面积较小的匹配子混凝土缺陷区域,只保留缺陷区域面积较大的匹配子混凝土缺陷区域。
例如,交并比阈值可以设置为50%,当任意两个匹配子混凝土缺陷区域,可以是来自混凝土缺陷检测模型A得到的子混凝土缺陷区域A1,以及来自混凝土缺陷检测模型B得到的子混凝土缺陷区域B1,假如子混凝土缺陷区域A1和子混凝土缺陷区域B1之间的交并比为60%,此时交并比大于交并比阈值50%,那么则可以从子混凝土缺陷区域A1和子混凝土缺陷区域B1中删除一个缺陷区域面积较小的子混凝土缺陷区域,可以是删除子混凝土缺陷区域B1,从而只保留子混凝土缺陷区域A1,而如果子混凝土缺陷区域A1和子混凝土缺陷区域B1之间的交并比为40%,此时交并比大于交并比阈值50%,那么此时则需要同时保留子混凝土缺陷区域A1和子混凝土缺陷区域B1。
步骤S303,将保留的匹配子混凝土缺陷区域,作为混凝土缺陷区域。
最后,终端还可以进一步将步骤S302中删除后保留下来的匹配子混凝土缺陷区域,作为最终的混凝土缺陷区域,从而实现子混凝土缺陷区域的融合。
本实施例中,还可以进一步通过计算匹配子混凝土缺陷区域之间的交并比,并在交并比大于交并比阈值时,才执行删除缺陷区域面积较小的匹配子混凝土缺陷区域,来实现匹配子混凝土缺陷区域的融合处理,从而可以进一步提高融合后得到的混凝土缺陷区域的准确性。
在一个实施例中,混凝土缺陷识别结果包括混凝土缺陷区域以及混凝土缺陷类型;如图4所示,步骤S103之后,还可以包括:
步骤S401,当混凝土缺陷类型属于裂缝缺陷类型时,从待识别图片中将混凝土缺陷区域进行剪切,得到裂缝缺陷区域图像。
本实施例中,混凝土缺陷识别结果可以包括用于表征存在缺陷位置的混凝土缺陷区域,以及用于表征该缺陷位置存在的混凝土缺陷种类的混凝土缺陷类型,而其中,混凝土缺陷类型又可以包含裂缝以及网状裂缝等缺陷的裂缝缺陷类型,以及包含如麻面、蜂窝、露筋、剥落的缺陷的斑块缺陷类型等等。当终端得到各混凝土缺陷区域后,还可以进一步判断该缺陷类型是属于裂缝缺陷类型,还是属于斑块缺陷类型,如果混凝土缺陷类型属于裂缝缺陷类型时,终端还可以进一步地对混凝土缺陷区域所对应的图像从待识别图片中进行剪切,从而得到剪切后的裂缝缺陷区域图像。
步骤S402,从裂缝缺陷区域图像中提取出裂缝轮廓图像。
裂缝轮廓图像则指的是裂缝缺陷区域图像中只包含裂缝轮廓的图像,一般而言裂缝缺陷区域图像是终端在得到混凝土缺陷区域的图像框后,将该图像框从待识别图片中进行剪切后得到,因此该图像中除了包含裂缝本身,还包含其余不存在裂缝的混凝土区域,因此终端还可以进一步从上述图像中,筛选出只包含裂缝本身的裂缝轮廓图像。
例如,终端可以先对裂缝缺陷区域图像进行滤波处理,以去除图像噪音,可以是通过中值滤波、最小值滤波、高斯滤波等方式实现,之后则可以对滤波后的图像进行边缘提取以及二值化处理,由于裂缝本身具有较强的边缘特征,因此可以通过上述方式得到裂缝的轮廓,之后还可以进一步使用形态学方法对缺陷进行连通处理,以及去除干扰,可以是找到二值图中所有的轮廓,设定阈值,如果轮廓点数小于阈值则认为是干扰物,则去除。通过上述处理方式,则可以从裂缝缺陷区域图像中提取出相应的裂缝轮廓图像。
步骤S403,根据裂缝轮廓图像,得到对应的裂缝长度、裂缝宽度以及裂缝面积。
最后,在得到裂缝轮廓图像后,则可以基于该图像,从而计算出相应的裂缝长度、裂缝宽度以及裂缝面积。例如可以是对每条裂缝分布进行骨架提取,计算骨架长度即为裂缝长度;使用最大内接圆法计算裂缝宽度;统计轮廓内点数记为裂缝的面积。裂缝面积除以裂缝长度记为裂缝的平均宽度。
而如果混凝土缺陷类型属于斑块缺陷类型,那么终端则可以直接利用混凝土缺陷区域的相关信息,如缺陷位置信息,来计算混凝土缺陷的长、宽与面积。
本实施例中,在确定出混凝土缺陷识别结果后,如果是裂缝缺陷时,还可以利用识别结果计算相应的裂缝长度、裂缝宽度以及裂缝面积,从而可以进一步提高裂缝量化的效率以及准确性。
在一个实施例中,如图5所示,步骤S102之前,还可以包括:
步骤S501,获取拍摄有混凝土的样本图片,对样本图片按照预设图像尺寸进行切分处理,得到针对于样本图片的样本图像块,以及样本图像块对应的缺陷类型标签以及缺陷区域标签。
样本图片则指的是终端预先采集的用于对混凝土缺陷检测模型进行训练的图片,样本图片中可以拍摄有混凝土,样本图像块则指的是对样本图片按照预先设定的图像尺寸进行切分处理后得到的图像块,该样本图像块的图像尺寸与预先设定的图像尺寸相适应,缺陷类型标签与缺陷区域标签则指的是表征样本图像块中拍摄的混凝土所存在的混凝土缺陷的实际缺陷类型以及实际缺陷区域的标签,该标签可以是用户预先对样本图像块进行标注处理得到。
具体地,在进行混凝土缺陷检测模型的训练时,终端可以首先得到拍摄有混凝土的样本图片,并按照预先设定的图像尺寸对采集的样本图片进行切分处理,从而得到与预先设定的图像尺寸相适应的样本图像块,之后,用户还可以通过对各个样本图像块进行针对混凝土缺陷的缺陷类型以及缺陷区域的标注,从而终端则可以得到切分后的样本图像块分别对应的缺陷类型标签以及缺陷区域标签。
步骤S502,从样本图像块中获取训练图像块,将训练图像块输入待训练的混凝土缺陷检测模型,通过待训练的混凝土缺陷检测模型得到训练图像块对应的预测缺陷类型以及预测缺陷区域。
训练图像块则指的是在样本图像块中用于进行混凝土缺陷检测模型训练的图像块,该训练图像块可以是样本图像块中全部的图像块,也可以是样本图像块中的一部分图像块作为训练图像块。预测缺陷类型以及预测缺陷区域则指的是由待训练的混凝土缺陷检测模型,即需要训练的混凝土缺陷检测模型根据训练图像块预测得到的混凝土缺陷类型以及混凝土缺陷区域。终端在得到样本图像块后,则可以从中选出用于进行模型训练的训练图像块,并将训练图像块输入至用于进行混凝土缺陷检测的神经网络模型中,该神经网络模型可以是基于YOLOv4算法的深度卷积神经网络模型,之后则可以有该神经网络模型输出相应的针对训练图像块的预测结果,即得到训练图像块对应的预测缺陷类型以及预测缺陷区域。
另外,该深度卷积神经网络模型还可以是以YOLOV4-tiny结构的卷积神经网络,并且该卷积神经网络的结构可以如下所示:
L1层,输入记为x=route,输入通道数记为n。执行卷积操作,卷积层的高度和宽度为1,数量为n/2,步距为1;执行批量正则化和LeakyRelu激活操作;
L2层,对L1层输出进行卷积操作,卷积层的高度和宽度为3,数量为n,步距为1;执行批量正则化和LeakyRelu激活操作;
L3层,对L2层输出进行卷积操作,卷积层的高度和宽度为1,数量为n/2,步距为1;执行批量正则化和LeakyRelu激活操作;
L4层,对L3层输出进行卷积操作,卷积层的高度和宽度为3,数量为n/2,步距为1;执行批量正则化和LeakyRelu激活操作,记输出为route_1;
L5层,对L4层输出进行卷积操作,卷积层的高度和宽度为3,数量为n/2,步距为1;执行批量正则化和LeakyRelu激活操作;
L6层,对L5层输出进行卷积操作,卷积层的高度和宽度为1,数量为n,步距为1;执行批量正则化和LeakyRelu激活操作,记输出为feat;
L7层,将route、route_1和L6层输出结果进行Concatenate连接,对连接结果进行卷积操作,卷积层的高度和宽度为3,数量为n×2,步距为1;执行批量正则化和LeakyRelu激活操作;
L8层,对L7层输出进行卷积操作,卷积层的高度和宽度为3,数量为n×2,步距为1,补零为1;执行批量正则化和LeakyRelu激活操作;
输出L8层结果和feat。
步骤S503,根据训练图像块对应的缺陷类型标签与所述预测缺陷类型,以及训练图像块缺陷区域标签与预测缺陷区域,对待训练的混凝土缺陷检测模型进行训练,得到训练完成的与预设图像尺寸匹配的混凝土缺陷检测模型。
而终端在步骤S502得到训练图像块对应的预测缺陷类型以及预测缺陷区域后,则可以基于步骤S501中确定出的训练图像块对应的缺陷类型标签以及缺陷区域标签,构造损失函数,并利用损失函数执行针对待训练的混凝土缺陷检测模型的模型训练,直到训练完成后得到相应的与预先设定的图像尺寸匹配的混凝土缺陷检测模型,即该混凝土缺陷检测模型可以用于对预先设定的图像尺寸的拍摄有混凝土的图像块进行混凝土缺陷检测。
例如,终端可以对采集的样本图片切分为图像尺寸A的样本图像块,并且得到样本图像块相应的缺陷类型标签以及缺陷区域标签,之后终端则可以从图像尺寸A的样本图像块中筛选出训练图像块,并且将训练图像块输入至需要进行模型训练的混凝土缺陷检测模型中,由该混凝土缺陷检测模型输出相应的预测缺陷类型以及预测缺陷区域,并最终根据训练图像块的缺陷类型标签以及缺陷区域标签,与训练图像块的预测缺陷类型以及预测缺陷区域,来对模型进行训练,训练完成后则可以得到与图像尺寸A匹配的混凝土缺陷检测模型。如果终端需要得到与图像尺寸B匹配的混凝土缺陷检测模型,则可以将样本图片切分为图像尺寸B的样本图像块,从中选出训练图像块,并利用图像尺寸B的训练图像块训练得到。
本实施例中,还可以利用对样本图片按照预设图像尺寸进行切分处理后的训练图像块实现混凝土缺陷检测模型,从而可以提高混凝土缺陷识别结果的准确性。
进一步地,步骤S503之后,还可以包括:从样本图像块中,获取用于对训练完成的与预设图像尺寸匹配的混凝土缺陷检测模型进行模型验证的验证图像块;将验证图像块输入训练完成的与预设图像尺寸匹配的混凝土缺陷检测模型,利用验证图像块对应的缺陷类型标签以及缺陷区域标签,对训练完成的与预设图像尺寸匹配的混凝土缺陷检测模型进行模型验证。
本实施例中,对混凝土缺陷检测模型训练完成后,还可以对训练完成的混凝土缺陷检测模型进行进一步的模型验证,具体来说,本实施例在得到样本图像块之后,可以将样本图像块按照一定的比例进行分类,作为用于对混凝土缺陷检测模型进行训练的训练数据,即训练图像块,以及用于对训练完成的混凝土缺陷检测模型进行模型验证的验证数据,即验证图像块。在混凝土缺陷检测模型训练完成后,则可以从预先分类的样本图像块中得到相应的验证图像块。
例如,终端在完成样本图像块的采集后,可以按照预先设定的比例,将采集得到的样本图像块分割成为训练图像块与验证图像块,在终端利用训练图像块完成混凝土缺陷检测模型的训练后,还可以进一步得到从样本图像块中得到预先分割的验证图像块。
之后,终端则可以将采集得到的验证图像块输入训练完成的混凝土缺陷检测模型中,从而可以通过混凝土缺陷检测模型得到验证图像块对应的预测缺陷类型以及预测缺陷区域,并利用该验证图像块对应的缺陷类型标签以及缺陷区域标签,对训练完成的与预设图像尺寸匹配的混凝土缺陷检测模型进行进一步的模型验证。
本实施例中,在终端完成对混凝土缺陷检测模型的训练之后,还可以进一步利用验证图像块实现混凝土缺陷检测模型的模型验证,可以进一步保证训练完成的混凝土缺陷检测模型的模型性能,从而可以提高得到的混凝土缺陷检测结果的准确程度。
在一个应用实例中,还提供了一种基于YOLOv4算法的混凝土表面结构缺陷检测方法,如图6所示,该方法可以包括如下步骤:
第一步,图像多尺度切割,获取用于检测的图像数据。采用无人机搭载高像素相机采集桥梁混凝土表面图像。为了保证能够检测到大小为0.2mm的裂缝,又保证工业检测的速度,因此采用1亿像素相机进行采集。由于图像像素大小远大于深度学习模型要求输入的像素大小,因此首先需要对图像进行切割。为了保证小缺陷的识别,同时又不至于把大缺陷分割成许多小块,采用多尺度有重叠切割,大尺度图像主要用于检测大尺度缺陷,小尺度图像用于检测小尺度缺陷。作为本发明的一个优选实施例,采用三个尺度分别对图像进行有重切割。
第二步,图像预处理。由于采用无人机进行桥梁图像采集,无人机的运动特性将使图像不可避免带有噪点。因此,需先将采集到的图像进行去运动模糊、去噪处理。为了使剪切后的图像适应模型的输入,同时尽最大可能保证压缩后缺陷特征的不会丢失,采用最近邻插值算法对图像进行缩放。
第三步,对预处理后的切割图像分别进行缺陷类别、位置标注,并将标注后的图像分为训练集和测试集。通过挑选出数量相同的裂缝、网状裂缝、麻面、蜂窝、露筋、剥落以及不包含缺陷的背景图像,并进行缺陷标记;之后从制备的图像中,随机挑选一部分图像作为训练集,对第二步建立的模型进行训练,剩余部分的图像作为验证集。
其中,制作训练样本图像标记可如图7所示,使用开源软件LabelImg分别对剪切的三个尺度的图像做标记,制作三个训练集。利用训练集分别对不同切割尺度对应的基于YOLOv4深度学习模型进行训练。
第四步,构建并训练基于YOLOv4算法的深度卷积神经网络模型。并且为了提高神经网络的运算效率,本应用实例还对YOLOv4结构进行剪枝,首先将YOLOv4调整为YOLOV4-tiny结构,然后对Residual结构进行调整,调整后结构可如图8所示,调整后的结构为:
L1层,输入记为x=route,输入通道数记为n。执行卷积操作,卷积层的高度和宽度为1,数量为n/2,步距为1;执行批量正则化和LeakyRelu激活操作;
L2层,对L1层输出进行卷积操作,卷积层的高度和宽度为3,数量为n,步距为1;执行批量正则化和LeakyRelu激活操作;
L3层,对L2层输出进行卷积操作,卷积层的高度和宽度为1,数量为n/2,步距为1;执行批量正则化和LeakyRelu激活操作;
L4层,对L3层输出进行卷积操作,卷积层的高度和宽度为3,数量为n/2,步距为1;执行批量正则化和LeakyRelu激活操作,记输出为route_1;
L5层,对L4层输出进行卷积操作,卷积层的高度和宽度为3,数量为n/2,步距为1;执行批量正则化和LeakyRelu激活操作;
L6层,对L5层输出进行卷积操作,卷积层的高度和宽度为1,数量为n,步距为1;执行批量正则化和LeakyRelu激活操作,记输出为feat;
L7层,将route、route_1和L6层输出结果进行Concatenate连接,对连接结果进行卷积操作,卷积层的高度和宽度为3,数量为n×2,步距为1;执行批量正则化和LeakyRelu激活操作;
L8层,对L7层输出进行卷积操作,卷积层的高度和宽度为3,数量为n×2,步距为1,补零为1;执行批量正则化和LeakyRelu激活操作;
输出L8层结果和feat。
第五步,将预处理后的图像数据根据切割尺度分别输入训练完成的基于YOLOv4深度学习模型,得到缺陷类型和缺陷位置。如图9所示,本步骤具体可以包括以下过程:
(1)将图像输入YOLOv4模型中,经过骨干网络的特征抓取、Neck部分的融合、Head部分的输出处理,将原始图像按特征图的尺度大小(13×13、26×26、52×52)划分S×S网格。
(2)利用K-means对裂缝真实边界框做聚类分析,并进行边界框预测。对每个网格使用3个先验框对目标边界进行预测,边界框信息为物体的中心位置相对于该点所在网格左上角的偏移量(tx,ty)及宽tw和高度th。若目标中心在单元格相对于图像左上角有偏移(cx,cy),并且候选框具有宽度pw和高度ph,则修正后的边界框为:
bx=σ(tx)+cx
by=σ(ty)+cy
(3)对目标进行类别预测:每个预测任务得到的特征大小都为:S×S×[3×(4+1+B)],式中S为网格大小,3为每个网格的先验框数量,4是边界框大小和坐标,1是置信度,B是类别数量。YOLOv4对每个边界框通过逻辑回归预测该框包含目标的概率。如果预测的边界框与真实的边界框大面积重合且比其他预测的边界框重合率都要高,其概率为1;如果重合率没有达到YOLOv4阈值或大于阈值,但不是最大,预测的这个边界框会被忽略,不会对损失函数造成影响。在训练过程中,YOLOv4对每一个物体仅分配一个预测框。
第六步,将多尺度图像对应的模型输出结果进行IOU去重,得到图像识别输出结果。深度学习网络模型的输出包括缺陷的类别和位置,将图像识别结果根据它所在的切割图像位置,复原至原坐标,再进行极大值抑制算法去重框;之后,再将所有剩下框放在一个集合中,并对所有框按类别进行两两配对,保证每个框都与除自己以外的所有同类别框有配对;对每个配对组合,求两个框的交并比;如果交并比大于阈值0.5,则完全删除两个框中的面积更小的,如果交并比小于阈值0.5,则这一组两个框都暂时保存。
第七步,将有缺陷的图像根据判断的缺陷类型做进一步图像处理,得到缺陷的长、宽、面积信息。
如果是斑块缺陷如麻面、蜂窝、剥落、露筋,则直接使用得到的缺陷位置信息计算缺陷长、宽、面积;如果是裂缝缺陷如横向、纵向、斜向、网状裂缝,则进行图像处理,得到二值图像,再计算裂缝的长宽面积。
如果是裂缝缺陷图像,则需要对图像识别后存在缺陷的图像进行剪切,只保留缺陷图。然后对图像进行处理,如图10所示,包括以下步骤:
(1)去噪处理。现场环境复杂,图像采集过程会引入噪声,噪声的存在会增加图像识别难度。使用去噪方法有均值滤波、中值滤波、高斯滤波。
(2)图像增强和复原。图像增强可以突出图像中感兴趣的部分(缺陷特征)。强化高频分量,可使图像中物体轮廓清晰,细节明显;强化低频分量可减少图像中噪声影响。
(3)边缘提取。裂缝具有较强的边缘特征,即灰度有明显的阶跃现象,而背景灰度则变化缓慢、梯度较小,因此可以通过边缘检测来识别裂缝。
(4)图像分割。图像分割是指把图像分成各具有特性的区域并提取感兴趣的目标的技术和过程,这些特性可以是灰度、颜色、纹理等。对针对混凝土表面裂纹,采用自适应阈值分割技术,并使用形态学方法对图像进行连通处理。
(5)缺陷识别。对进行分割的图片,缺陷影像已经独立出来。对裂纹图像,其缺陷部分为黑色,其他背景为白色。首先找到二值图中所有的轮廓,设置阈值,如果轮廓点数小于阈值则认为是噪点,去除。对图像进行骨架处理,骨架长度为缺陷长度。计算裂缝宽度使用最大内接圆法。统计轮廓内点数计为裂缝的面积。对于裂纹缺陷,主要关注裂纹最大宽度值和裂纹长度。
上述应用实例中,基于YOLOv4深度学习模型,深度学习目标检测一般有two-stage和one-stage模型,two-stage模型检测目标时需要生产一系列样本候选框,再由卷积神经网络进行样本分类,运算成本高,效率低下。而YOLOv4采用one-stage模型不用产生候选框,而是把定位目标边框的问题转化为回归问题,算法速度快。使其检测速度更快、更准确。同时基于YOLOv4深度学习模型,并对其进行了改进。首先将其调整为YOLOv4-tiny结构,然后对其骨干网络中的Residual结构进行调整,调整后的结构相比较YOLOv4结构计算速度更快,相比较YOLOv4-tiny结构计算正确率更高。并且针对工业现场的高精度图像,多尺度对图像进行裁剪识别,使用最近邻插值算法在压缩的过程中尽可能保留图像特征,训练多个不同尺度模型分布进行检测,检测后的结果使用IOU去重得到最终结果,解决了缺陷尺度差距大,深度学习算法对输入要求严格的问题。同时对诊断后存在裂缝缺陷的图像,对图像进行剪切后再进行图像处理。图像处理过程结合图像去噪、边缘提取、阈值分割、图像连通、轮廓提取及阈值去干扰、骨架提取、最大内切圆法,能较为准确地计算缺陷的长度、宽度和面积。更加适应实际现场采集图像大、缺陷面积占比小、缺陷尺度多样、噪声干扰多的特点。还可以检测多种混凝土缺陷,且均有较好的检测结果,解决了一般模型仅针对混凝土裂缝缺陷进行检测、检测尺度单一的问题。
应该理解的是,虽然如上所述的各实施例所涉及的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,如上所述的各实施例所涉及的流程图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
基于同样的发明构思,本申请实施例还提供了一种用于实现上述所涉及的混凝土缺陷识别方法的混凝土缺陷识别装置。该装置所提供的解决问题的实现方案与上述方法中所记载的实现方案相似,故下面所提供的一个或多个混凝土缺陷识别装置实施例中的具体限定可以参见上文中对于混凝土缺陷识别方法的限定,在此不再赘述。
在一个实施例中,如图11所示,提供了一种混凝土缺陷识别装置,包括:识别图片切分模块1101、子识别结果获取模块1102和识别结果获取模块1103,其中:
识别图片切分模块1101,获取拍摄有混凝土的待识别图片,并对待识别图片按照不同的图像尺寸进行切分处理,得到待识别图片对应的多个图像块集合;多个图像块集合分别由不同图像尺寸的图像块组成;
子识别结果获取模块1102,用于将多个图像块集合中包含的图像块,分别输入训练完成的与图像块集合对应的图像尺寸匹配的多个混凝土缺陷检测模型,通过多个混凝土缺陷检测模型得到针对于待识别图片的多个子混凝土缺陷识别结果;
识别结果获取模块1103,用于对多个子混凝土缺陷识别结果进行融合处理,得到针对于待识别图片的混凝土缺陷识别结果。
在一个实施例中,子混凝土缺陷识别结果包括通过多个混凝土缺陷检测模型得到的,针对于待识别图片的子混凝土缺陷区域以及混凝土缺陷类型;识别结果获取模块1103,进一步用于按照混凝土缺陷类型,对由不同的混凝土缺陷检测模型得到的子混凝土缺陷区域进行匹配处理,获取匹配的子混凝土缺陷区域组合;对匹配的子混凝土缺陷区域组合进行融合处理,得到针对于待识别图片的混凝土缺陷区域。
在一个实施例中,识别结果获取模块1103,进一步用于获取匹配的子混凝土缺陷区域组合中包含的匹配子混凝土缺陷区域,确定匹配子混凝土缺陷区域中,任意两个匹配子混凝土缺陷区域之间的交并比;若交并比大于预先设定的交并比阈值,则从任意两个匹配子混凝土缺陷区域中,删除缺陷区域面积较小的匹配子混凝土缺陷区域;将保留的匹配子混凝土缺陷区域,作为混凝土缺陷区域。
在一个实施例中,混凝土缺陷识别结果包括混凝土缺陷区域以及混凝土缺陷类型;混凝土缺陷识别装置,还包括:缺陷识别量化模块,用于当混凝土缺陷类型属于裂缝缺陷类型时,从待识别图片中将所述混凝土缺陷区域进行剪切,得到裂缝缺陷区域图像;从裂缝缺陷区域图像中提取出裂缝轮廓图像;根据裂缝轮廓图像,得到对应的裂缝长度、裂缝宽度以及裂缝面积。
在一个实施例中,混凝土缺陷识别装置,还包括:识别模型训练模块,用于获取拍摄有混凝土的样本图片,对样本图片按照预设图像尺寸进行切分处理,得到针对于样本图片的样本图像块,以及样本图像块对应的缺陷类型标签以及缺陷区域标签;从样本图像块中获取训练图像块,将训练图像块输入待训练的混凝土缺陷检测模型,通过待训练的混凝土缺陷检测模型得到训练图像块对应的预测缺陷类型以及预测缺陷区域;根据训练图像块对应的缺陷类型标签与预测缺陷类型,以及训练图像块缺陷区域标签与预测缺陷区域,对待训练的混凝土缺陷检测模型进行训练,得到训练完成的与预设图像尺寸匹配的混凝土缺陷检测模型。
在一个实施例中,识别模型训练模块,还用于从样本图像块中,获取用于对训练完成的与预设图像尺寸匹配的混凝土缺陷检测模型进行模型验证的验证图像块;将验证图像块输入训练完成的与预设图像尺寸匹配的混凝土缺陷检测模型,利用验证图像块对应的缺陷类型标签以及缺陷区域标签,对训练完成的与预设图像尺寸匹配的混凝土缺陷检测模型进行模型验证。
上述混凝土缺陷识别装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是终端,其内部结构图可以如图12所示。该计算机设备包括通过系统总线连接的处理器、存储器、通信接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的通信接口用于与外部的终端进行有线或无线方式的通信,无线方式可通过WIFI、移动蜂窝网络、NFC(近场通信)或其他技术实现。该计算机程序被处理器执行时以实现一种混凝土缺陷识别方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解,图12中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,还提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现上述各方法实施例中的步骤。
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述各方法实施例中的步骤。
在一个实施例中,提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述各方法实施例中的步骤。
需要说明的是,本申请所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-OnlyMemory,ROM)、磁带、软盘、闪存、光存储器、高密度嵌入式非易失性存储器、阻变存储器(ReRAM)、磁变存储器(Magnetoresistive Random Access Memory,MRAM)、铁电存储器(Ferroelectric Random Access Memory,FRAM)、相变存储器(Phase Change Memory,PCM)、石墨烯存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器等。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic RandomAccess Memory,DRAM)等。本申请所提供的各实施例中所涉及的数据库可包括关系型数据库和非关系型数据库中至少一种。非关系型数据库可包括基于区块链的分布式数据库等,不限于此。本申请所提供的各实施例中所涉及的处理器可为通用处理器、中央处理器、图形处理器、数字信号处理器、可编程逻辑器、基于量子计算的数据处理逻辑器等,不限于此。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请的保护范围应以所附权利要求为准。

Claims (10)

1.一种混凝土缺陷识别方法,其特征在于,所述方法包括:
获取拍摄有混凝土的待识别图片,并对所述待识别图片按照不同的图像尺寸进行切分处理,得到所述待识别图片对应的多个图像块集合;所述多个图像块集合分别由不同图像尺寸的图像块组成;
将所述多个图像块集合中包含的图像块,分别输入训练完成的与所述图像块集合对应的图像尺寸匹配的多个混凝土缺陷检测模型,通过所述多个混凝土缺陷检测模型得到针对于所述待识别图片的多个子混凝土缺陷识别结果;所述子混凝土缺陷识别结果包括通过所述多个混凝土缺陷检测模型得到的,针对于所述待识别图片的子混凝土缺陷区域以及混凝土缺陷类型;
对所述多个子混凝土缺陷识别结果进行融合处理,得到针对于所述待识别图片的混凝土缺陷识别结果;包括:按照所述混凝土缺陷类型,对由不同的混凝土缺陷检测模型得到的子混凝土缺陷区域进行匹配处理,获取匹配的子混凝土缺陷区域组合;对所述匹配的子混凝土缺陷区域组合进行融合处理,得到针对于所述待识别图片的混凝土缺陷区域。
2.根据权利要求1所述的方法,其特征在于,所述对所述匹配的子混凝土缺陷区域组合进行融合处理,得到针对于所述待识别图片的混凝土缺陷区域,包括:
获取所述匹配的子混凝土缺陷区域组合中包含的匹配子混凝土缺陷区域,确定所述匹配子混凝土缺陷区域中,任意两个匹配子混凝土缺陷区域之间的交并比;
若所述交并比大于预先设定的交并比阈值,则从所述任意两个匹配子混凝土缺陷区域中,删除缺陷区域面积较小的匹配子混凝土缺陷区域;
将保留的匹配子混凝土缺陷区域,作为所述混凝土缺陷区域。
3.根据权利要求1所述的方法,其特征在于,混凝土缺陷识别结果包括混凝土缺陷区域以及混凝土缺陷类型;
所述得到针对于所述待识别图片的混凝土缺陷识别结果之后,还包括:
当所述混凝土缺陷类型属于裂缝缺陷类型时,从所述待识别图片中将所述混凝土缺陷区域进行剪切,得到裂缝缺陷区域图像;
从所述裂缝缺陷区域图像中提取出裂缝轮廓图像;
根据所述裂缝轮廓图像,得到对应的裂缝长度、裂缝宽度以及裂缝面积。
4.根据权利要求1至3任一项所述的方法,其特征在于,所述将所述多个图像块集合中包含的图像块,分别输入训练完成的与所述图像块集合对应的图像尺寸匹配的多个混凝土缺陷检测模型之前,还包括:
获取拍摄有混凝土的样本图片,对所述样本图片按照预设图像尺寸进行切分处理,得到针对于所述样本图片的样本图像块,以及所述样本图像块对应的缺陷类型标签以及缺陷区域标签;
从所述样本图像块中获取训练图像块,将所述训练图像块输入待训练的混凝土缺陷检测模型,通过所述待训练的混凝土缺陷检测模型得到所述训练图像块对应的预测缺陷类型以及预测缺陷区域;
根据所述训练图像块对应的缺陷类型标签与所述预测缺陷类型,以及所述训练图像块缺陷区域标签与所述预测缺陷区域,对所述待训练的混凝土缺陷检测模型进行训练,得到训练完成的与所述预设图像尺寸匹配的混凝土缺陷检测模型。
5.根据权利要求4所述的方法,其特征在于,所述得到训练完成的与所述预设图像尺寸匹配的混凝土缺陷检测模型之后,还包括:
从所述样本图像块中,获取用于对所述训练完成的与所述预设图像尺寸匹配的混凝土缺陷检测模型进行模型验证的验证图像块;
将所述验证图像块输入所述训练完成的与所述预设图像尺寸匹配的混凝土缺陷检测模型,利用所述验证图像块对应的缺陷类型标签以及缺陷区域标签,对所述训练完成的与所述预设图像尺寸匹配的混凝土缺陷检测模型进行模型验证。
6.一种混凝土缺陷识别装置,其特征在于,所述装置包括:
识别图片切分模块,获取拍摄有混凝土的待识别图片,并对所述待识别图片按照不同的图像尺寸进行切分处理,得到所述待识别图片对应的多个图像块集合;所述多个图像块集合分别由不同图像尺寸的图像块组成;
子识别结果获取模块,用于将所述多个图像块集合中包含的图像块,分别输入训练完成的与所述图像块集合对应的图像尺寸匹配的多个混凝土缺陷检测模型,通过所述多个混凝土缺陷检测模型得到针对于所述待识别图片的多个子混凝土缺陷识别结果;所述子混凝土缺陷识别结果包括通过所述多个混凝土缺陷检测模型得到的,针对于所述待识别图片的子混凝土缺陷区域以及混凝土缺陷类型;
识别结果获取模块,用于对所述多个子混凝土缺陷识别结果进行融合处理,得到针对于所述待识别图片的混凝土缺陷识别结果;进一步用于按照所述混凝土缺陷类型,对由不同的混凝土缺陷检测模型得到的子混凝土缺陷区域进行匹配处理,获取匹配的子混凝土缺陷区域组合;对所述匹配的子混凝土缺陷区域组合进行融合处理,得到针对于所述待识别图片的混凝土缺陷区域。
7.根据权利要求6所述的装置,其特征在于,识别结果获取模块,进一步用于获取所述匹配的子混凝土缺陷区域组合中包含的匹配子混凝土缺陷区域,确定所述匹配子混凝土缺陷区域中,任意两个匹配子混凝土缺陷区域之间的交并比;若所述交并比大于预先设定的交并比阈值,则从所述任意两个匹配子混凝土缺陷区域中,删除缺陷区域面积较小的匹配子混凝土缺陷区域;将保留的匹配子混凝土缺陷区域,作为所述混凝土缺陷区域。
8.根据权利要求6所述的装置,其特征在于,混凝土缺陷识别结果包括混凝土缺陷区域以及混凝土缺陷类型;所述装置还包括:缺陷识别量化模块,用于当所述混凝土缺陷类型属于裂缝缺陷类型时,从所述待识别图片中将所述混凝土缺陷区域进行剪切,得到裂缝缺陷区域图像;从所述裂缝缺陷区域图像中提取出裂缝轮廓图像;根据所述裂缝轮廓图像,得到对应的裂缝长度、裂缝宽度以及裂缝面积。
9.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至5中任一项所述的方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至5中任一项所述的方法的步骤。
CN202210784035.3A 2022-07-05 2022-07-05 混凝土缺陷识别方法、装置、计算机设备和存储介质 Active CN115239644B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210784035.3A CN115239644B (zh) 2022-07-05 2022-07-05 混凝土缺陷识别方法、装置、计算机设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210784035.3A CN115239644B (zh) 2022-07-05 2022-07-05 混凝土缺陷识别方法、装置、计算机设备和存储介质

Publications (2)

Publication Number Publication Date
CN115239644A CN115239644A (zh) 2022-10-25
CN115239644B true CN115239644B (zh) 2024-04-05

Family

ID=83671118

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210784035.3A Active CN115239644B (zh) 2022-07-05 2022-07-05 混凝土缺陷识别方法、装置、计算机设备和存储介质

Country Status (1)

Country Link
CN (1) CN115239644B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115661139A (zh) * 2022-12-13 2023-01-31 深圳思谋信息科技有限公司 路面缺陷识别方法、装置、电子设备及存储介质
CN116758040B (zh) * 2023-06-26 2024-02-20 上海感图网络科技有限公司 镀铜板表面褶皱缺陷检测方法、装置、设备及存储介质
CN116993740B (zh) * 2023-09-28 2023-12-19 山东万世机械科技有限公司 基于图像数据的混凝土结构表面缺陷检测方法

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107561738A (zh) * 2017-08-30 2018-01-09 湖南理工学院 基于fcn的tft‑lcd表面缺陷快速检测方法
CN109583489A (zh) * 2018-11-22 2019-04-05 中国科学院自动化研究所 缺陷分类识别方法、装置、计算机设备和存储介质
CN111340748A (zh) * 2018-12-17 2020-06-26 汉能移动能源控股集团有限公司 电池缺陷识别方法、装置、计算机设备和存储介质
CN111768381A (zh) * 2020-06-29 2020-10-13 北京百度网讯科技有限公司 零部件缺陷检测方法、装置及电子设备
CN112037166A (zh) * 2020-07-10 2020-12-04 武汉迈格驷友科技有限公司 一种表面缺陷检测方法及检测装置
CN112330592A (zh) * 2020-10-09 2021-02-05 西安星闪数创智能科技有限公司 风机叶片缺陷检测方法和装置、存储介质
CN113538427A (zh) * 2021-09-16 2021-10-22 深圳市信润富联数字科技有限公司 产品缺陷识别方法、装置、设备及可读存储介质
CN113989585A (zh) * 2021-10-13 2022-01-28 北京科技大学 一种基于多特征融合语义分割的中厚板表面缺陷检测方法
CN114331985A (zh) * 2021-12-21 2022-04-12 中国电子产品可靠性与环境试验研究所((工业和信息化部电子第五研究所)(中国赛宝实验室)) 电子元器件划痕缺陷检测方法、装置和计算机设备

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3939278A4 (en) * 2019-03-11 2023-03-22 Tencent America LLC TILE AND SUB-DIVISION
US11363307B2 (en) * 2019-08-08 2022-06-14 Hfi Innovation Inc. Video coding with subpictures

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107561738A (zh) * 2017-08-30 2018-01-09 湖南理工学院 基于fcn的tft‑lcd表面缺陷快速检测方法
CN109583489A (zh) * 2018-11-22 2019-04-05 中国科学院自动化研究所 缺陷分类识别方法、装置、计算机设备和存储介质
CN111340748A (zh) * 2018-12-17 2020-06-26 汉能移动能源控股集团有限公司 电池缺陷识别方法、装置、计算机设备和存储介质
CN111768381A (zh) * 2020-06-29 2020-10-13 北京百度网讯科技有限公司 零部件缺陷检测方法、装置及电子设备
CN112037166A (zh) * 2020-07-10 2020-12-04 武汉迈格驷友科技有限公司 一种表面缺陷检测方法及检测装置
CN112330592A (zh) * 2020-10-09 2021-02-05 西安星闪数创智能科技有限公司 风机叶片缺陷检测方法和装置、存储介质
CN113538427A (zh) * 2021-09-16 2021-10-22 深圳市信润富联数字科技有限公司 产品缺陷识别方法、装置、设备及可读存储介质
CN113989585A (zh) * 2021-10-13 2022-01-28 北京科技大学 一种基于多特征融合语义分割的中厚板表面缺陷检测方法
CN114331985A (zh) * 2021-12-21 2022-04-12 中国电子产品可靠性与环境试验研究所((工业和信息化部电子第五研究所)(中国赛宝实验室)) 电子元器件划痕缺陷检测方法、装置和计算机设备

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于CT图像的混凝土初始缺陷分布规律研究;覃茜;《水利学报》;第47卷(第7期);全文 *

Also Published As

Publication number Publication date
CN115239644A (zh) 2022-10-25

Similar Documents

Publication Publication Date Title
CN110738207B (zh) 一种融合文字图像中文字区域边缘信息的文字检测方法
CN115239644B (zh) 混凝土缺陷识别方法、装置、计算机设备和存储介质
CN110414507B (zh) 车牌识别方法、装置、计算机设备和存储介质
CN106960195B (zh) 一种基于深度学习的人群计数方法及装置
CN111709416B (zh) 车牌定位方法、装置、系统及存储介质
Nakamura et al. Scene text eraser
CN110378297B (zh) 基于深度学习的遥感图像目标检测方法、装置、及存储介质
CN111626295B (zh) 车牌检测模型的训练方法和装置
CN109948533B (zh) 一种文本检测方法、装置、设备及可读存储介质
CN111274926B (zh) 图像数据筛选方法、装置、计算机设备和存储介质
CN113269257A (zh) 一种图像分类方法、装置、终端设备及存储介质
CN113240623B (zh) 一种路面病害检测方法及装置
CN113487610B (zh) 疱疹图像识别方法、装置、计算机设备和存储介质
CN110751619A (zh) 一种绝缘子缺陷检测方法
CN111340026A (zh) 车辆年款识别模型的训练方法以及车辆年款的识别方法
CN111951283A (zh) 一种基于深度学习的医学图像识别方法及系统
CN111738164B (zh) 一种基于深度学习的行人检测方法
CN111382638B (zh) 一种图像检测方法、装置、设备和存储介质
CN112200789B (zh) 一种图像识别的方法及装置、电子设备和存储介质
CN115908363B (zh) 肿瘤细胞统计方法、装置、设备和存储介质
CN115630660B (zh) 基于卷积神经网络的条码定位方法和装置
CN115346206B (zh) 基于改进超分辨的深度卷积特征识别的车牌检测方法
CN111709377A (zh) 特征提取方法、目标重识别方法、装置及电子设备
CN111291704A (zh) 干扰去除方法、装置、计算机设备和存储介质
CN116246161A (zh) 领域知识引导下的遥感图像目标精细类型识别方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant