CN113450331B - 一种异形元器件针脚检测方法 - Google Patents

一种异形元器件针脚检测方法 Download PDF

Info

Publication number
CN113450331B
CN113450331B CN202110733273.7A CN202110733273A CN113450331B CN 113450331 B CN113450331 B CN 113450331B CN 202110733273 A CN202110733273 A CN 202110733273A CN 113450331 B CN113450331 B CN 113450331B
Authority
CN
China
Prior art keywords
spot
image
template
spots
contour
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110733273.7A
Other languages
English (en)
Other versions
CN113450331A (zh
Inventor
王海霞
胡金帅
卢晓
孙浩
张治国
梁慧斌
李学艺
张华宇
聂君
宋诗斌
盛春阳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qingdao Zhuo Xintong Intelligent Technology Co ltd
Original Assignee
Qingdao Zhuo Xintong Intelligent Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qingdao Zhuo Xintong Intelligent Technology Co ltd filed Critical Qingdao Zhuo Xintong Intelligent Technology Co ltd
Priority to CN202110733273.7A priority Critical patent/CN113450331B/zh
Publication of CN113450331A publication Critical patent/CN113450331A/zh
Application granted granted Critical
Publication of CN113450331B publication Critical patent/CN113450331B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种异形元器件针脚检测方法,属于元器件针脚检测领域。该方法主要由制作斑点模板、图像斑点检测和融合算法三部分组成;具体是通过视觉传感器配合光源获取针脚图像,然后利用Hessian矩阵提取图像中的斑点信息,并通过尺度和重叠度特征获得有效斑点序列;同时,将原图像二值化后进行轮廓跟踪获得斑点的轮廓序列;最后将斑点序列与轮廓序列通过融合算法得到仅需给定目标尺度即可准确检测的方法。该方法实用性强、速度快、稳定性好,为异形自动插装设备的应用起到重要的推动作用。

Description

一种异形元器件针脚检测方法
技术领域
本发明属于元器件针脚检测领域,具体涉及一种异形元器件针脚检测方法。
背景技术
随着电子产品的需求量不断增加,各种电子元器件需要进行插装作业。当前大部分自动插装设备只能插装一些标准元器件,而异形元器件基本上依赖人工进行插装,这一工序占了整个PCB板插装工作量的60%以上,影响着产品的生产速度与质量,其原因在于手动插件作业时间长、劳动强度大、错误率高。而在生产中,异形元器件底部不规则、针脚与元器件颜色接近、锡点以及针脚反光等原因,导致难以采集到理想的针脚图像进而影响检测的准确性,针脚检测问题成为异形元器件难以自动化装配的主要原因之一。针脚检测实际上是在针脚对应的二维图像上进行斑点检测,斑点检测的主要思路是结合像素灰度值和形状特点进行检测。目前斑点检测主要有基于求导的微分方法和基于局部极值的分水岭算法。基于求导的微分方法主要有LOG(Laplacian of Gaussian)、DOG(Difference ofGaussian)、DOH(Determinant of Hessian)等方法,LOG算法检测精度高但是仅能检测深色背景上的亮斑;DOG算法类似于LOG算法,与LOG算法相比,DOG算法通过计算相邻尺度下平滑图像的差分图像降低计算复杂量;与前两种算法相比,DOH算法对细长结构的斑点有较好地抑制作用,但是其精度与稳定性有待提高。基于局部极值的分水岭算法,如SimpleBlobDetector算子,通过提取二值图像的连通域检测斑点,对图像中的噪声敏感且需要调节的参数过多。因此,解决上述针脚检测算法问题将为自动插装设备的应用开辟一个大的领域。
发明内容
针对现有技术中存在的上述技术问题,本发明提出了一种异形元器件针脚检测方法,设计合理,克服了现有技术的不足,具有良好的效果。
为了实现上述目的,本发明采用如下技术方案:
一种异形元器件针脚检测方法,采用视觉传感器和光源,包括如下步骤:
步骤1:制作斑点模板;
制作模板时,通过视觉传感器配合光源获取针脚图像,将框选出的一个针脚图像作为目标图像,记为I(xi,yj),i=1,...,m,j=1,...,n,m,n为目标图像x方向和y方向的像素个数,然后计算该图像像素点(xi,yj)的Hessian矩阵,表达式如下:
Figure BDA0003140491510000011
其中,Ixx,Ixy,Iyy为模板与图像卷积的结果,
Figure BDA0003140491510000021
表示卷积运算,Hxx,Hxy,Hyy称之为卷积模板,模板尺寸选(6σ+1)×(6σ+1),表达式如下:
Figure BDA0003140491510000022
Figure BDA0003140491510000023
Figure BDA0003140491510000024
Figure BDA0003140491510000025
其中,g(xii,yjj;σ)表示二维高斯函数,(xii,yjj)为模板像素坐标,ii,jj=1,...,6σ+1,σ为图像尺度,制作模板用到的初始图像尺度值σ0根据尺度与斑点像素半径r的关系式
Figure BDA0003140491510000026
估算出来;
计算图像中所有点对应的Hessian矩阵行列式;
Figure BDA0003140491510000027
将其中最大值det(HMax)作为σ0对应斑点响应值,斑点中心坐标记为(x0,y0);这一过程能够重复执行,通过不断调整σ0的值获得最佳斑点,并将此时的尺度作为目标尺度,记录为σobj;再根据圆度公式获得斑点的圆度值C,表达如下:
Figure BDA0003140491510000028
其中,s和p分别表示斑点面积和外轮廓周长;最后把相应的尺度σobj、响应值det(HMax)以及斑点的圆度C作为单个斑点的模板参数;
步骤2:获取实施运行时目标图像;
步骤3:进行斑点检测和轮廓检测;
斑点检测;具体如下:
初始斑点检测,通过斑点响应值和重叠度筛选斑点,得到新的斑点序列;
在实时运行中,相应的目标图像记为Iobj,尺寸与模板图像尺寸相同,根据公式(1)-(6)得到Iobj中每个像素对应的det(H(xi,yj;σobj));由于实时图像受到光照和焊锡的干扰,有时在单个针脚框选区域会检测到多个斑点,为此,将所有像素点的响应值det(H(xi,yj;σobj))由大到小进行排序,并设定一个阈值δ,将满足det(H(xi,yj;σobj))>δ的斑点中心(xM,yM)记录下来,保存到集合Bfirst∈Rl×2中,l为斑点个数;
为确保每一个被检测到的斑点都是有效并独立的,需要进一步计算斑点间的重叠度,相邻斑点的重叠度O表达式如下:
Figure BDA0003140491510000031
其中,ra和rb表示相邻斑点半径,Δx,Δy表示相邻斑点圆心分别在x和y方向的差值;相邻斑点重叠度高时保留响应值大的斑点,去除响应值小的斑点,筛选后得到新的斑点序列,记为Blast∈Rm×2,m为斑点个数且m≤l;
轮廓检测;具体如下:
检测所有轮廓,通过圆度和重叠度筛选轮廓,得到轮廓序列;
对原始目标图像Iobj进行二值化处理,利用轮廓跟踪算法得到待检测图像中所有的轮廓,并将轮廓中心坐标记录到集合Lfirst∈Rk×2中,k为轮廓个数;
接下来根据公式(7)和(8)计算Lfirst中轮廓的圆度和重叠度,重叠度高时保留与参考模板圆度相近的斑点,筛选后得到与模板圆度接近的轮廓序列Llast∈Rq×2,q为轮廓个数且q<k;
步骤4:通过融合算法,得到最终检测结果;
根据前面得到的斑点序列Blast与轮廓序列Llast,计算两者之间的相近度γ,表达式如下:
Figure BDA0003140491510000032
其中,(xBi,yBj),(xLi,yLj)分别表示斑点序列Blast与轮廓序列Llast中记录的中心点坐标;得到斑点序列与轮廓序列之间的相近度后,求出最大值γM,则最大值γM对应的斑点检测结果将作为最终的针脚检测结果;
步骤5:判断所有针脚是否检测完成;
若:判断结果是所有针脚检测完成,则结束;
或判断结果是所有针脚没有检测完成,则执行步骤2。
优选地,关系式
Figure BDA0003140491510000033
是通过Hessian矩阵行列式对σ求导得到。
本发明所带来的有益技术效果:
1、速度快;通过设定模板方法保存斑点的目标尺度,检测时只搜索对应尺度的斑点,具有很高的计算效率;
2、精度高;为避免噪点造成误检现象,检测时采用斑点序列与轮廓序列相融合的方法得到最终检测结果,提高了检测准确率;
3、应用范围广;解决现有检测技术在异形元器件针脚检测方面的不足,扩大针脚检测的应用范围。
附图说明
图1为本发明的实现流程图。
具体实施方式
下面结合附图以及具体实施方式对本发明作进一步详细说明:
一种异形元器件针脚检测方法,包括如下步骤:
步骤1:制作斑点模板;
制作模板时,将框选出的一个针脚图像作为目标图像,记为I(xi,yj),i=1,...,m,j=1,...,n,m,n为目标图像x方向和y方向的像素个数,然后计算该图像像素点(xi,yj)的Hessian矩阵,表达式如下:
Figure BDA0003140491510000041
其中,Ixx,Ixy,Iyy为模板与图像卷积的结果,
Figure BDA0003140491510000042
表示卷积运算,Hxx,Hxy,Hyy称之为卷积模板,模板尺寸选(6σ+1)×(6σ+1),表达式如下:
Figure BDA0003140491510000043
Figure BDA0003140491510000044
Figure BDA0003140491510000045
Figure BDA0003140491510000046
其中,g(xii,yjj;σ)表示二维高斯函数,(xii,yjj)为模板像素坐标,ii,jj=1,...,6σ+1,σ为图像尺度,制作模板用到的初始图像尺度值σ0根据尺度与斑点像素半径r的关系式
Figure BDA0003140491510000047
估算出来(该关系是通过Hessian矩阵行列式对σ求导得到);
计算图像中所有点对应的Hessian矩阵行列式;
Figure BDA0003140491510000051
将其中最大值det(HMax)作为σ0对应斑点响应值,斑点中心坐标记为(x0,y0);这一过程能够重复执行,通过不断调整σ0的值获得最佳斑点,并将此时的尺度作为目标尺度,记录为σobj;再根据圆度公式获得斑点的圆度值C,表达如下:
Figure BDA0003140491510000052
其中,s和p分别表示斑点面积和外轮廓周长;最后把相应的尺度σobj、响应值det(HMax)以及斑点的圆度C作为单个斑点的模板参数;
步骤2:获取实施运行时目标图像;
步骤3:进行斑点检测和轮廓检测;
斑点检测;具体如下:
初始斑点检测,通过斑点响应值和重叠度筛选斑点,得到新的斑点序列;
在实时运行中,相应的目标图像记为Iobj,尺寸与模板图像尺寸相同,根据公式(1)-(6)得到Iobj中每个像素对应的det(H(xi,yj;σobj));由于实时图像受到光照和焊锡的干扰,有时在单个针脚框选区域会检测到多个斑点,为此,将所有像素点的响应值det(H(xi,yj;σobj))由大到小进行排序,并设定一个阈值δ,将满足det(H(xi,yj;σobj))>δ的斑点中心(xM,yM)记录下来,保存到集合Bfirst∈Rl×2中,l为斑点个数;
为确保每一个被检测到的斑点都是有效并独立的,需要进一步计算斑点间的重叠度,相邻斑点的重叠度O表达式如下:
Figure BDA0003140491510000053
其中,ra和rb表示相邻斑点半径,Δx,Δy表示相邻斑点圆心分别在x和y方向的差值;相邻斑点重叠度高时保留响应值大的斑点,去除响应值小的斑点,筛选后得到新的斑点序列,记为Blast∈Rm×2,m为斑点个数且m≤l;
轮廓检测;具体如下:
检测所有轮廓,通过圆度和重叠度筛选轮廓,得到轮廓序列;
对原始目标图像Iobj进行二值化处理,利用轮廓跟踪算法得到待检测图像中所有的轮廓,并将轮廓中心坐标记录到集合Lfirst∈Rk×2中,k为轮廓个数;
接下来根据公式(7)和(8)计算Lfirst中轮廓的圆度和重叠度,重叠度高时保留与参考模板圆度相近的斑点,筛选后得到与模板圆度接近的轮廓序列Llast∈Rq×2,q为轮廓个数且q<k;
步骤4:通过融合算法,得到最终检测结果;
根据前面得到的斑点序列Blast与轮廓序列Llast,计算两者之间的相近度γ,表达式如下:
Figure BDA0003140491510000061
其中,(xBi,yBj),(xLi,yLj)分别表示斑点序列Blast与轮廓序列Llast中记录的中心点坐标;得到斑点序列与轮廓序列之间的相近度后,求出最大值γM,则最大值γM对应的斑点检测结果将作为最终的针脚检测结果;
步骤5:判断所有针脚是否检测完成;
若:判断结果是所有针脚检测完成,则结束;
或判断结果是所有针脚没有检测完成,则执行步骤2。
当然,上述说明并非是对本发明的限制,本发明也并不仅限于上述举例,本技术领域的技术人员在本发明的实质范围内所做出的变化、改型、添加或替换,也应属于本发明的保护范围。

Claims (2)

1.一种异形元器件针脚检测方法,其特征在于:采用视觉传感器和光源,包括如下步骤:
步骤1:制作斑点模板;
制作模板时,通过视觉传感器配合光源获取针脚图像,将框选出的一个针脚图像作为目标图像,记为I(xi,yj),i=1,...,m,j=1,...,n,m,n为目标图像x方向和y方向的像素个数,然后计算该图像像素点(xi,yj)的Hessian矩阵,表达式如下:
Figure FDA0003140491500000011
其中,Ixx,Ixy,Iyy为模板与图像卷积的结果,
Figure FDA0003140491500000012
表示卷积运算,Hxx,Hxy,Hyy称之为卷积模板,模板尺寸选(6σ+1)×(6σ+1),表达式如下:
Figure FDA0003140491500000013
Figure FDA0003140491500000014
Figure FDA0003140491500000015
Figure FDA0003140491500000016
其中,g(xii,yjj;σ)表示二维高斯函数,(xii,yjj)为模板像素坐标,ii,jj=1,...,6σ+1,σ为图像尺度,制作模板用到的初始图像尺度值σ0根据尺度与斑点像素半径r的关系式
Figure FDA0003140491500000017
估算出来;
计算图像中所有点对应的Hessian矩阵行列式;
Figure FDA0003140491500000018
将其中最大值det(HMax)作为σ0对应斑点响应值,斑点中心坐标记为(x0,y0);这一过程能够重复执行,通过不断调整σ0的值获得最佳斑点,并将此时的尺度作为目标尺度,记录为σobj;再根据圆度公式获得斑点的圆度值C,表达如下:
Figure FDA0003140491500000019
其中,s和p分别表示斑点面积和外轮廓周长;最后把相应的尺度σobj、响应值det(HMax)以及斑点的圆度C作为单个斑点的模板参数;
步骤2:获取实施运行时目标图像;
步骤3:进行斑点检测和轮廓检测;
斑点检测;具体如下:
初始斑点检测,通过斑点响应值和重叠度筛选斑点,得到新的斑点序列;
在实时运行中,相应的目标图像记为Iobj,尺寸与模板图像尺寸相同,根据公式(1)-(6)得到Iobj中每个像素对应的det(H(xi,yj;σobj));由于实时图像受到光照和焊锡的干扰,有时在单个针脚框选区域会检测到多个斑点,为此,将所有像素点的响应值det(H(xi,yj;σobj))由大到小进行排序,并设定一个阈值δ,将满足det(H(xi,yj;σobj))>δ的斑点中心(xM,yM)记录下来,保存到集合Bfirst∈Rl×2中,l为斑点个数;
为确保每一个被检测到的斑点都是有效并独立的,需要进一步计算斑点间的重叠度,相邻斑点的重叠度O表达式如下:
Figure FDA0003140491500000021
其中,ra和rb表示相邻斑点半径,Δx,Δy表示相邻斑点圆心分别在x和y方向的差值;相邻斑点重叠度高时保留响应值大的斑点,去除响应值小的斑点,筛选后得到新的斑点序列,记为Blast∈Rm×2,m为斑点个数且m≤l;
轮廓检测;具体如下:
检测所有轮廓,通过圆度和重叠度筛选轮廓,得到轮廓序列;
对原始目标图像Iobj进行二值化处理,利用轮廓跟踪算法得到待检测图像中所有的轮廓,并将轮廓中心坐标记录到集合Lfirst∈Rk×2中,k为轮廓个数;
接下来根据公式(7)和(8)计算Lfirst中轮廓的圆度和重叠度,重叠度高时保留与参考模板圆度相近的斑点,筛选后得到与模板圆度接近的轮廓序列Llast∈Rq×2,q为轮廓个数且q<k;
步骤4:通过融合算法,得到最终检测结果;
根据前面得到的斑点序列Blast与轮廓序列Llast,计算两者之间的相近度γ,表达式如下:
Figure FDA0003140491500000022
其中,(xBi,yBj),(xLi,yLj)分别表示斑点序列Blast与轮廓序列Llast中记录的中心点坐标;得到斑点序列与轮廓序列之间的相近度后,求出最大值γM,则最大值γM对应的斑点检测结果将作为最终的针脚检测结果;
步骤5:判断所有针脚是否检测完成;
若:判断结果是所有针脚检测完成,则结束;
或判断结果是所有针脚没有检测完成,则执行步骤2。
2.根据权利要求1所述的异形元器件针脚检测方法,其特征在于:关系式
Figure FDA0003140491500000031
是通过Hessian矩阵行列式对σ求导得到。
CN202110733273.7A 2021-06-30 2021-06-30 一种异形元器件针脚检测方法 Active CN113450331B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110733273.7A CN113450331B (zh) 2021-06-30 2021-06-30 一种异形元器件针脚检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110733273.7A CN113450331B (zh) 2021-06-30 2021-06-30 一种异形元器件针脚检测方法

Publications (2)

Publication Number Publication Date
CN113450331A CN113450331A (zh) 2021-09-28
CN113450331B true CN113450331B (zh) 2022-08-23

Family

ID=77814347

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110733273.7A Active CN113450331B (zh) 2021-06-30 2021-06-30 一种异形元器件针脚检测方法

Country Status (1)

Country Link
CN (1) CN113450331B (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107292869A (zh) * 2017-06-07 2017-10-24 西安电子科技大学 基于各向异性高斯核和梯度搜索的图像斑点检测方法
CN111145117A (zh) * 2019-12-24 2020-05-12 华东师范大学 一种基于软数理形态算子的斑点检测方法及系统

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10339647B2 (en) * 2016-10-06 2019-07-02 Toyota Motor Engineering & Manufacturing North America, Inc. Methods, systems, and media for qualitative and/or quantitative indentation detection

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107292869A (zh) * 2017-06-07 2017-10-24 西安电子科技大学 基于各向异性高斯核和梯度搜索的图像斑点检测方法
CN111145117A (zh) * 2019-12-24 2020-05-12 华东师范大学 一种基于软数理形态算子的斑点检测方法及系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
"The Hessian Blob Algorithm: Precise Particle Detection in Atomic Force Microscopy Imagery";Brendan P.Marsh etc.;《SCIENTIFIC REPORTS》;20180117;全文 *
"加速的Fast Hessian多尺度斑点特征检测";韩冰等;《光学精密工程》;20110731;第19卷(第7期);全文 *

Also Published As

Publication number Publication date
CN113450331A (zh) 2021-09-28

Similar Documents

Publication Publication Date Title
CN110349126B (zh) 一种基于卷积神经网络带标记的钢板表面缺陷检测方法
CN109141232B (zh) 一种基于机器视觉的盘类铸件在线检测方法
CN109785316B (zh) 一种芯片表观缺陷检测方法
CN114821114B (zh) 一种基于视觉系统的坡口切割机器人图像处理方法
CN108171688B (zh) 一种基于Gabor特征与随机降维的晶圆表面缺陷检测方法
CN106501272B (zh) 机器视觉焊锡定位检测系统
CN107798330A (zh) 一种焊缝图像特征信息提取方法
CN112651968B (zh) 一种基于深度信息的木板形变与凹坑检测方法
CN102496161B (zh) 一种印刷电路板图像的轮廓提取方法
CN111915704A (zh) 一种基于深度学习的苹果分级识别方法
CN109685760B (zh) 一种基于matlab的slm粉床铺粉图像凸包凹陷缺陷检测方法
CN110717872B (zh) 一种激光辅助定位下的v型焊缝图像特征点提取方法及提取系统
CN112529858A (zh) 一种基于机器视觉的焊缝图像处理方法
CN107610085A (zh) 一种基于计算机视觉的焊点缺陷检测系统
CN109540925B (zh) 基于差影法与局部方差测量算子的复杂瓷砖表面缺陷检测方法
CN110047063B (zh) 一种物料掉落的检测方法、装置、设备及存储介质
CN109584215A (zh) 一种电路板在线视觉检测系统
Said et al. Robust automatic void detection in solder balls
CN115082466A (zh) 一种pcb表面焊点缺陷检测方法及系统
CN112669295A (zh) 一种基于二次阈值分割理论的锂电池极片缺陷检测方法
CN112304957A (zh) 一种基于机器视觉的外观缺陷智能检测方法及系统
CN113705564B (zh) 一种指针式仪表识别读数方法
CN113450331B (zh) 一种异形元器件针脚检测方法
CN115753791B (zh) 基于机器视觉的缺陷检测方法、装置以及系统
JP4814116B2 (ja) 実装基板外観検査方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant