CN110555385B - 一种基于变步长曲率滤波的焊缝特征点求取方法 - Google Patents

一种基于变步长曲率滤波的焊缝特征点求取方法 Download PDF

Info

Publication number
CN110555385B
CN110555385B CN201910707905.5A CN201910707905A CN110555385B CN 110555385 B CN110555385 B CN 110555385B CN 201910707905 A CN201910707905 A CN 201910707905A CN 110555385 B CN110555385 B CN 110555385B
Authority
CN
China
Prior art keywords
image
curvature
point
theta
solving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910707905.5A
Other languages
English (en)
Other versions
CN110555385A (zh
Inventor
赵锋
李俊
廖云诚
刘李
李红云
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fuzhou Guohua Intelligent Technology Co Ltd
Original Assignee
Fuzhou Guohua Intelligent Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuzhou Guohua Intelligent Technology Co Ltd filed Critical Fuzhou Guohua Intelligent Technology Co Ltd
Priority to CN201910707905.5A priority Critical patent/CN110555385B/zh
Publication of CN110555385A publication Critical patent/CN110555385A/zh
Application granted granted Critical
Publication of CN110555385B publication Critical patent/CN110555385B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/28Quantising the image, e.g. histogram thresholding for discrimination between background and foreground patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/06Recognition of objects for industrial automation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Laser Beam Processing (AREA)

Abstract

本发明提供一种基于变步长曲率滤波的焊缝特征点求取方法,包括采集焊缝图像;对采集的焊缝图像进行膨胀和腐蚀操作,并将膨胀和腐蚀后的二值图像转化为灰度图像;构造曲率求取模型,并利用构建出的曲率求取模型来对灰度图像进行边缘提取;对提取的灰度图像的边缘进行骨架提取,获得激光条纹线图像;在激光条纹线图像上,采用变步长搜索查找到焊缝的近特征点,并依据近特征点求取出焊缝特征点的坐标。本发明方法通过结合图形学和立体几何的方法,从图像的曲率入手,优化获取激光条纹线的轮廓信息,并采用变步长搜索法来寻找焊缝的近特征点,可实现精确获取焊缝的位置。

Description

一种基于变步长曲率滤波的焊缝特征点求取方法
技术领域
本发明涉及一种焊缝特征点求取方法,特别涉及一种基于变步长曲率滤波的焊缝特征点求取方法。
背景技术
目前,针对焊缝特征点的求取方法主要是采用基于激光条纹在焊缝处形成V型槽的图像,并根据V型槽的图像进行特征点求取。但是,现有技术对如何在V型槽的图像中高精度寻找焊缝点的位置存在较大的难度。目前常规的方法大多是采用直线拟合的方法,将交叉点作为最终的角点,而这样求取的角点存在较大的误差,并且会影响后续机器人焊接过程中路径的规划问题。
发明内容
本发明要解决的技术问题,在于提供一种基于变步长曲率滤波的焊缝特征点求取方法,通过该方法可实现精确获取焊缝的位置。
本发明是这样实现的:一种基于变步长曲率滤波的焊缝特征点求取方法,所述方法包括如下步骤:
步骤S1、使用拍摄设备采集焊缝图像;
步骤S2、对采集的焊缝图像进行膨胀和腐蚀操作,并将膨胀和腐蚀后的二值图像转化为灰度图像;
步骤S3、构造曲率求取模型,并利用构建出的曲率求取模型来对灰度图像进行边缘提取;
步骤S4、对提取的灰度图像的边缘进行骨架提取,获得激光条纹线图像;
步骤S5、在激光条纹线图像上,采用变步长搜索查找到焊缝的近特征点,并依据近特征点求取出焊缝特征点的坐标。
进一步地,在所述步骤S2中,在对采集的焊缝图像进行膨胀和腐蚀操作时,将结构元素设置为3×3的圆盘形结构元素。
进一步地,在所述步骤S2中,所述将膨胀和腐蚀后的二值图像转化为灰度图像具体为:
先将采集的焊缝图像转换为灰度原图,再将灰度原图乘以二值图像得到灰度图像。
进一步地,在所述步骤S3中,所述构造曲率求取模型具体包括如下步骤:
步骤A1、利用二维曲面的表达式来求取灰度图像的连续曲面,其中,二维曲面的表达式如下:
Figure BDA0002152762290000021
步骤A2、对灰度图像的连续曲面进行求导,获得连续的平均曲率H:
Figure BDA0002152762290000022
步骤A3、对于连续的平均曲率H,采用离散化的方式来求取离散的平均曲率H:
Figure BDA0002152762290000023
步骤A4、采用曲线拟合来替代离散的平均曲率H的求取,并通过曲线拟合来构造出曲率求取模型:
Figure BDA0002152762290000024
进一步地,所述步骤S4具体为:
对提取的灰度图像的边缘进行骨架提取,获取激光条纹线,在骨架提取的过程中,对于未连接的激光条纹线,则采用填充的方式进行连接;在骨架提取完成后,即获得激光条纹线图像。
进一步地,在所述步骤S5中,所述采用变步长搜索查找到焊缝的近特征点具体包括初选步骤和细选步骤;
所述初选步骤具体为:
设置激光条纹线最右边的像素点为起始点,以大步长a作为间隔,按顺序依次编号为1至n1;从起始点开始,计算夹角θi
Figure BDA0002152762290000031
其中,ui和vi为拍摄设备坐标下的像素坐标,且ui表示横坐标,vi表示纵坐标;
将计算出的夹角θi与初选预设角进行比对,且如果θi大于初选预设角,则记录pi+1为细选时的起点A,记录pi+2为细选时的终点B,并结束初选步骤;如果θi小于等于初选预设角,则令i=i+1,并重新计算和比对θi
所述细选步骤具体为:
以A为起点,小步长b作为间隔,按顺序依次编号为1至n2;从起始点开始,计算夹角θj
Figure BDA0002152762290000032
其中,uj和vj为拍摄设备坐标下的像素坐标,且uj表示横坐标,vj表示纵坐标;
若uj<uB,则记录A为近特征点,并结束细选步骤;
若uj≥uB,将夹角θj与细选预设角进行比对,且如果θj大于细选预设角,则记录pj+1点为近特征点,并结束细选步骤;如果θj小于等于细选预设角,则令j=j+1,并重新计算和比对θj
进一步地,在所述步骤S5中,所述依据近特征点求取出焊缝特征点的坐标具体为:
以近特征点左右两侧的激光条纹线上的像素点构造直线进行直线拟合,求取拟合出的两条直线的交点,并将求出的交点作为焊缝特征点的坐标。
本发明具有如下优点:本发明方法通过结合图形学和立体几何的方法,从图像的曲率入手,优化获取激光条纹线的轮廓信息,并采用变步长搜索法来寻找焊缝的近特征点,可实现精确获取焊缝的位置。
附图说明
下面参照附图结合实施例对本发明作进一步的说明。
图1为本发明一种基于变步长曲率滤波的焊缝特征点求取方法的执行流程图。
图2为本发明中初选步骤的示意图。
图3为本发明中细选步骤的示意图。
图4为本发明中焊缝特征点提取的示意图。
具体实施方式
请参阅图1至图4所示,本发明一种基于变步长曲率滤波的焊缝特征点求取方法的较佳实施例,所述方法包括如下步骤:
步骤S1、使用拍摄设备(如照相机)采集焊缝图像;
步骤S2、对采集的焊缝图像进行膨胀和腐蚀操作,并将膨胀和腐蚀后的二值图像转化为灰度图像;
步骤S3、构造曲率求取模型,并利用构建出的曲率求取模型来对灰度图像进行边缘提取;
步骤S4、对提取的灰度图像的边缘进行骨架提取,获得激光条纹线图像;
步骤S5、在激光条纹线图像上,采用变步长搜索查找到焊缝的近特征点,并依据近特征点求取出焊缝特征点的坐标。
在所述步骤S2中,在对采集的焊缝图像进行膨胀和腐蚀操作时,将结构元素设置为3×3的圆盘形结构元素。
由于结构元素设置的越大,图像就会被腐蚀的越严重,为了确保能够获得比较清晰的轮廓信息,本发明将结构元素设置为3×3的圆盘形结构元素。
所谓的结构元素:是膨胀和腐蚀操作的最基本组成部分,用于测试输出图像,通常要比待处理的图像小很多;二维平面结构元素由一个数值为0或1的矩阵组成;结构元素的原点指定了图像中需要处理的像素范围,结构元素中数值为1的点决定结构元素的邻域像素在进行膨胀或腐蚀操作时是否需要参与计算。
在所述步骤S2中,所述将膨胀和腐蚀后的二值图像转化为灰度图像具体为:
先将采集的焊缝图像转换为灰度原图,再将灰度原图乘以二值图像得到灰度图像。所谓的灰度图像是指每个像素只有一个采样颜色的图像,这类图像通常显示为从最暗的黑色到最亮的白色的灰度。
图像曲率主要反映的是图像的弯曲程度,图像的梯度也反映的是图像的像素变化程度,但因为梯度域存在可不可积的问题,而曲率是一个标量场,不存在这样的问题,本发明的最大创新点就是要通过曲率来求取边缘。又由于曲率是三维空间的,因此,在二维图像中,我们只能通过构建来实现。
在所述步骤S3中,所述构造曲率求取模型具体包括如下步骤:
步骤A1、利用二维曲面的表达式来求取灰度图像的连续曲面,也就是说,需要将灰度图像输入到二维曲面的表达式中来求出灰度图像的连续曲面,其中,二维曲面的表达式如下:
Figure BDA0002152762290000051
步骤A2、对灰度图像的连续曲面进行求导,获得连续的平均曲率H:
Figure BDA0002152762290000052
步骤A3、对于连续的平均曲率H,由于在具体实现时,是很难直接求取连续的平均曲率的,因此,大部分连续的平均曲率都是通过离散化来获取平均曲率的,本发明中也采用离散化的方式来求取离散的平均曲率H:
Figure BDA0002152762290000053
步骤A4、由于离散的平均曲率H在具体实现时,其计算量是十分庞大的,通常情况下也比较难求解,因此在本发明中是采用曲线拟合来替代离散的平均曲率H的求取,并通过曲线拟合来构造出曲率求取模型:
Figure BDA0002152762290000061
所谓的曲线拟合,就是通过实验获得有限对测试数据(xi,yi),利用这些数据来求取近似函数y=f(x),式中x为输出量,y为被测物理量;与插值不同的是,曲线拟合并不要求y=f(x)的曲线通过所有离散点(xi,yi),只要求y=f(x)反映这些离散点的一般趋势,不出现局部波动即可。
所述步骤S4具体为:
对提取的灰度图像的边缘进行骨架提取,获取激光条纹线,在骨架提取的过程中,对于未连接的激光条纹线,则采用填充的方式进行连接;在骨架提取完成后,即获得激光条纹线图像。
在所述步骤S5中,所述采用变步长搜索查找到焊缝的近特征点具体包括初选步骤和细选步骤;将激光条纹线图像上的一段含有连续像素点的个数称为步长;
如图2所示,所述初选步骤具体为:
设置激光条纹线最右边的像素点为起始点,以大步长a作为间隔,按顺序依次编号为1至n1(即从1开始,按正整数的顺序依次编号下去,直至处理完整条激光条纹线);
从起始点开始,计算夹角θi
Figure BDA0002152762290000062
其中,ui和vi为拍摄设备坐标下的像素坐标,且ui表示横坐标,vi表示纵坐标,i表示编号的第i个像素点;
将计算出的夹角θi与初选预设角进行比对,且如果θi大于初选预设角,则记录pi+1为细选时的起点A,记录pi+2为细选时的终点B,并结束初选步骤;如果θi小于等于初选预设角,则令i=i+1,并重新计算和比对θi(直到选出细选时的起点A和终点B才停止);
我们将激光条纹线图像中的焊缝与真实的焊缝特征点之间相差一个小步长b的像素点定义为近特征点;
如图3所示,所述细选步骤具体为:
以A为起点,小步长b作为间隔,按顺序依次编号为1至n2(即从1开始,按正整数的顺序依次编号下去,直到编到终点B时结束);从起始点开始,计算夹角θj
Figure BDA0002152762290000071
其中,uj和vj为拍摄设备坐标下的像素坐标,且uj表示横坐标,vj表示纵坐标,j表示编号的第j个像素点;
若uj<uB,则记录A为近特征点,并结束细选步骤;
若uj≥uB,将夹角θj与细选预设角进行比对,且如果θj大于细选预设角,则记录pj+1点为近特征点,并结束细选步骤;如果θj小于等于细选预设角,则令j=j+1,并重新计算和比对θj
在所述步骤S5中,所述依据近特征点求取出焊缝特征点的坐标具体为:
以近特征点左右两侧的激光条纹线上的像素点构造直线进行直线拟合,求取拟合出的两条直线的交点,并将求出的交点作为焊缝特征点的坐标(如图4所示)。所谓的直线拟合就是根据给定的点集(比如轮廓)来拟合出一条直线。
本发明方法通过结合图形学和立体几何的方法,从图像的曲率入手,优化获取激光条纹线的轮廓信息,并采用变步长搜索法来寻找焊缝的近特征点,可实现精确获取焊缝的位置。
虽然以上描述了本发明的具体实施方式,但是熟悉本技术领域的技术人员应当理解,我们所描述的具体的实施例只是说明性的,而不是用于对本发明的范围的限定,熟悉本领域的技术人员在依照本发明的精神所作的等效的修饰以及变化,都应当涵盖在本发明的权利要求所保护的范围内。

Claims (5)

1.一种基于变步长曲率滤波的焊缝特征点求取方法,其特征在于:所述方法包括如下步骤:
步骤S1、使用拍摄设备采集焊缝图像;
步骤S2、对采集的焊缝图像进行膨胀和腐蚀操作,并将膨胀和腐蚀后的二值图像转化为灰度图像;
步骤S3、构造曲率求取模型,并利用构建出的曲率求取模型来对灰度图像进行边缘提取;
步骤S4、对提取的灰度图像的边缘进行骨架提取,获得激光条纹线图像;
步骤S5、在激光条纹线图像上,采用变步长搜索查找到焊缝的近特征点,并依据近特征点求取出焊缝特征点的坐标;
在所述步骤S3中,所述构造曲率求取模型具体包括如下步骤:
步骤A1、利用二维曲面的表达式来求取灰度图像的连续曲面,其中,二维曲面的表达式如下:
Figure FDA0003806006020000011
步骤A2、对灰度图像的连续曲面进行求导,获得连续的平均曲率H:
Figure FDA0003806006020000012
步骤A3、对于连续的平均曲率H,采用离散化的方式来求取离散的平均曲率Η':
Figure FDA0003806006020000013
步骤A4、采用曲线拟合来替代离散的平均曲率Η'的求取,并通过曲线拟合来构造出曲率求取模型:
Figure FDA0003806006020000021
在所述步骤S5中,所述采用变步长搜索查找到焊缝的近特征点具体包括初选步骤和细选步骤;
所述初选步骤具体为:
设置激光条纹线最右边的像素点为起始点,以大步长a作为间隔,按顺序依次编号为1至n1;从起始点开始,计算夹角θi
Figure FDA0003806006020000022
其中,ui和vi为拍摄设备坐标下的像素坐标,且ui表示横坐标,vi表示纵坐标;
将计算出的夹角θi与初选预设角进行比对,且如果θi大于初选预设角,则记录pi+1为细选时的起点A,记录pi+2为细选时的终点B,并结束初选步骤;如果θi小于等于初选预设角,则令i=i+1,并重新计算和比对θi
所述细选步骤具体为:
以A为起点,小步长b作为间隔,按顺序依次编号为1至n2;从起始点开始,计算夹角θj
Figure FDA0003806006020000023
其中,uj和vj为拍摄设备坐标下的像素坐标,且uj表示横坐标,vj表示纵坐标;
若uj<uB,则记录A为近特征点,并结束细选步骤;
若uj≥uB,将夹角θj与细选预设角进行比对,且如果θj大于细选预设角,则记录pj+1点为近特征点,并结束细选步骤;如果θj小于等于细选预设角,则令j=j+1,并重新计算和比对θj
2.根据权利要求1所述的一种基于变步长曲率滤波的焊缝特征点求取方法,其特征在于:在所述步骤S2中,在对采集的焊缝图像进行膨胀和腐蚀操作时,将结构元素设置为3×3的圆盘形结构元素。
3.根据权利要求1所述的一种基于变步长曲率滤波的焊缝特征点求取方法,其特征在于:在所述步骤S2中,所述将膨胀和腐蚀后的二值图像转化为灰度图像具体为:
先将采集的焊缝图像转换为灰度原图,再将灰度原图乘以二值图像得到灰度图像。
4.根据权利要求1所述的一种基于变步长曲率滤波的焊缝特征点求取方法,其特征在于:所述步骤S4具体为:
对提取的灰度图像的边缘进行骨架提取,获取激光条纹线,在骨架提取的过程中,对于未连接的激光条纹线,则采用填充的方式进行连接;在骨架提取完成后,即获得激光条纹线图像。
5.根据权利要求1所述的一种基于变步长曲率滤波的焊缝特征点求取方法,其特征在于:在所述步骤S5中,所述依据近特征点求取出焊缝特征点的坐标具体为:
以近特征点左右两侧的激光条纹线上的像素点构造直线进行直线拟合,求取拟合出的两条直线的交点,并将求出的交点作为焊缝特征点的坐标。
CN201910707905.5A 2019-08-01 2019-08-01 一种基于变步长曲率滤波的焊缝特征点求取方法 Active CN110555385B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910707905.5A CN110555385B (zh) 2019-08-01 2019-08-01 一种基于变步长曲率滤波的焊缝特征点求取方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910707905.5A CN110555385B (zh) 2019-08-01 2019-08-01 一种基于变步长曲率滤波的焊缝特征点求取方法

Publications (2)

Publication Number Publication Date
CN110555385A CN110555385A (zh) 2019-12-10
CN110555385B true CN110555385B (zh) 2022-11-11

Family

ID=68736776

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910707905.5A Active CN110555385B (zh) 2019-08-01 2019-08-01 一种基于变步长曲率滤波的焊缝特征点求取方法

Country Status (1)

Country Link
CN (1) CN110555385B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113358058B (zh) * 2021-06-07 2022-10-14 四川航天长征装备制造有限公司 基于离散序列点的焊缝轮廓特征计算机视觉检测方法
CN113567349B (zh) * 2021-09-06 2022-07-12 山东大学 一种焊缝界面结构的激光超声确定方法及其应用
CN118237793A (zh) * 2024-05-30 2024-06-25 中铁建工集团第四建设有限公司 管道环形自动焊接装置及环形焊接方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109060290A (zh) * 2018-07-02 2018-12-21 中国空气动力研究与发展中心高速空气动力研究所 基于视频和亚像素技术对风洞密度场进行测量的方法
CN109684997A (zh) * 2018-12-20 2019-04-26 龙口盛福达食品有限公司 一种被遮挡圆形成熟果实的图像识别与定位方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6635690B2 (ja) * 2015-06-23 2020-01-29 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109060290A (zh) * 2018-07-02 2018-12-21 中国空气动力研究与发展中心高速空气动力研究所 基于视频和亚像素技术对风洞密度场进行测量的方法
CN109684997A (zh) * 2018-12-20 2019-04-26 龙口盛福达食品有限公司 一种被遮挡圆形成熟果实的图像识别与定位方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
一种焊缝结构光图像处理与特征提取方法;李原等;《焊接学报》;20060925(第09期);全文 *

Also Published As

Publication number Publication date
CN110555385A (zh) 2019-12-10

Similar Documents

Publication Publication Date Title
CN110555385B (zh) 一种基于变步长曲率滤波的焊缝特征点求取方法
CN107876970B (zh) 一种机器人多层多道焊接焊缝三维检测及焊缝拐点识别方法
CN111462054B (zh) 一种点胶质量检测方法
CN106651767A (zh) 一种获取全景图像的方法及装置
CN114897864B (zh) 基于数模信息的工件检测及缺陷判断方法
US20020001406A1 (en) Stereo image measuring device
CN103913131A (zh) 一种基于双目视觉的自由曲面法矢量测量方法
CN111462120A (zh) 一种基于语义分割模型缺陷检测方法、装置、介质及设备
CN109360144B (zh) 一种基于手机平台的图像实时校正改进方法
CN111486797A (zh) 一种地铁圆形盾构隧道横向直径的自动提取方法
Woloszyk et al. Photogrammetry image-based approach for imperfect structure modelling and FE analysis
CN115239620A (zh) 一种基于点云的钢筋网片焊接点自动识别方法及系统
CN112419291A (zh) 一种瓶胚缺陷检测模型的训练方法、存储介质及终端设备
CN115597494A (zh) 一种基于点云的预制构件预留孔的精度检测方法、系统
CN114612412A (zh) 三维点云数据的处理方法及其用途、电子设备、存储介质
CN117058411B (zh) 电池棱边外形瑕疵识别方法、装置、介质和设备
CN117876397A (zh) 一种基于多视角数据融合的桥梁构件三维点云分割方法
CN115578260B (zh) 针对图像超分辨率的方向解耦的注意力方法和系统
CN115112098B (zh) 一种单目视觉的一维二维测量方法
CN116777769A (zh) 畸变图像的校正方法及装置、电子设备、存储介质
KR101255742B1 (ko) 렌즈 왜곡 보정 파라미터 결정 기법
CN114548250A (zh) 一种基于数据分析的手机外观检测方法及装置
RU2470368C2 (ru) Способ обработки изображений
CN117333480B (zh) 一种铸材表面瑕疵边缘视觉检测方法、系统、装置及介质
CN112308870B (zh) 基于深度学习的边缘检测滤波器优化方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant