CN109883533B - 基于机器视觉的低频振动测量方法 - Google Patents

基于机器视觉的低频振动测量方法 Download PDF

Info

Publication number
CN109883533B
CN109883533B CN201910052515.9A CN201910052515A CN109883533B CN 109883533 B CN109883533 B CN 109883533B CN 201910052515 A CN201910052515 A CN 201910052515A CN 109883533 B CN109883533 B CN 109883533B
Authority
CN
China
Prior art keywords
image
region
vibration
camera
measurement method
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910052515.9A
Other languages
English (en)
Other versions
CN109883533A (zh
Inventor
隆志力
樊球
张小兵
李祚华
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Graduate School Harbin Institute of Technology
Original Assignee
Shenzhen Graduate School Harbin Institute of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Graduate School Harbin Institute of Technology filed Critical Shenzhen Graduate School Harbin Institute of Technology
Priority to CN201910052515.9A priority Critical patent/CN109883533B/zh
Publication of CN109883533A publication Critical patent/CN109883533A/zh
Application granted granted Critical
Publication of CN109883533B publication Critical patent/CN109883533B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)

Abstract

本发明公开了一种基于机器视觉的低频振动测量方法,其包括以下步骤:利用关键点检测算法检测图像序列中比较突出的物体边缘信息,然后利用ROI区域生长技术,缩小图像的计算范围,应用到图像序列中;首先截取第一幅图像的ROI区域中的一块包含多个明显角点的区域作为模板;依次在后续图像序列中进行模板匹配度计算,从而能获得模板区域的匹配矩阵,针对匹配矩阵运用曲线拟合的方法,搜寻到最佳的匹配位置;从而实现亚像素级别的定位精度,最后利用相机标定得到的参数矩阵,把像素坐标转换到世界坐标系,完成振动的幅值和频率的提取,可广泛应用于柔性结构体和大型结构件的振动测量分析。

Description

基于机器视觉的低频振动测量方法
技术领域
本发明涉及机器视觉技术领域,特别涉及一种基于机器视觉的低频振动测量方法。
背景技术
在科学研究和工程应用领域,振动测试分析一直占有很重要的意义。振动是一个物体重要的物理属性,能够反映物体的三维空间的运动变化以及内在的物理特性。在机械工程、车辆工程、土木工程、交通以及航空航天领域广泛存在。振动测量技术按照测量原理的不同分为两类:接触式测量和非接触式测量。传统的接触式测量一般将所需的传感器固定到待测物体表面来获得结构的振动参数信息(如固有频率、振型和阻尼),但是传统的振动检测系统复杂,空间分辨率低,并且由于在设备上加装传感器等器件,在一定程度上会改变结构的原有动力学特性,例如改变振动物体的质量、刚度、阻尼、固有频率等物理性质,继而影响到测试结果的准确性和客观性。尤其是针对柔性结构的振动测量,这种方法不太适合。非接触式测量在不接触物体表面的情况下通过机械、光电等方法获得目标的相关信息,它不会影响待测物原有的运动状态,测量结果更加精确可靠,而且还能测量一些不能直接接触的物体,与接触式测量相比具有更大的应用范围。基于计算机视觉的振动测量是一种被动式测量方法,该方法不需要激光光源、复杂的干涉光路及其辅助装置系统,可以同时测量图像平面内各个像素点的运动,具有非接触、测量范围宽、不改变被测物的振动特性等诸多优点。因此,利用计算机视觉技术进行振动测量,与其他测量技术相比具有精度高、速度快、非接触、柔性好、智能化水平高等特点,有广阔的应用前景。
发明内容
针对上述不足,本发明的目的在于,提供一种利用计算机视觉技术进行振动测量,具有测量精度高、速度快、非接触和柔性好等优点的基于机器视觉的低频振动测量方法。
为实现上述目的,本发明所提供的技术方案是:
一种基于机器视觉的低频振动测量方法,其包括以下步骤:
(1)通过照明光源对被测物体进行照射,以能够在相机图像中突出被测物体的边缘形状特征;
(2)通过相机采集被测物体的振动视频片段,并由图像采集卡传输到计算机;
(3)计算机处理传输的图像信息,并在显示器上显示;
(4)利用关键点检测算法检测图像序列中比较突出的被测物体边缘信息;
(5)利用ROI区域生长技术,缩小图像的搜索计算范围,应用到图像序列中;
(6)截取第一幅图像的ROI区域中的一块包含多个明显角点能突出被测物体边缘信息的区域作为模板;
(7)依次在后续图像序列中进行模板匹配度计算,从而能获得模板区域的匹配矩阵;
(8)针对匹配矩阵运用曲线拟合的方法,搜寻到最佳的匹配位置,从而实现亚像素级别的定位精度;
(9)最后利用相机标定得到的参数矩阵,把像素坐标转换到世界坐标系,完成振动的幅值和频率的提取。
作为本发明的一种改进,所述照明光源为LED灯。
作为本发明的一种改进,所述步骤(1)中采用暗场照明,照明光源位置使得大部分的光没有反射到相机中,仅仅将照射到被测物体的特定部分的光反射到相机中。
作为本发明的一种改进,所述步骤(2)中振动视频片段的帧率大于被测物体的振动频率至少一倍。
作为本发明的一种改进,所述步骤(3)中显示的图像信息是处理后的被测物体振动信息。
作为本发明的一种改进,所述相机为高速工业相机。
作为本发明的一种改进,所述步骤(4)-(9)为振动信息提取的主要过程。
作为本发明的一种改进,所述步骤(9)所述的相机标定为事先已经完成的过程,因为用的同一套设备,相机标定对于相机来说为一次性过程。一般来说随着时间变化较小。
本发明的有益效果为:本发明利用机器视觉来完成了振动位移的提取,能够有效的检测大型结构的低频振动的数据,采用SIFT检测待测物体关键点,减少了粘贴标记的繁琐过程,另外一方面,应用ROI技术减少了计算量,模板匹配提高系统的鲁棒性。在实际生活中,例如大型结构件,家用结构件的检测以及柔性结构件振动分析有比较大的应用前景。
下面结合附图与实施例,对本发明进一步说明。
附图说明
图1是本发明的系统示意框图。
图2是本发明的工作流程图。
图3是本发明的滤波示意图。
图4是本发明的模板匹配示意图。
具体实施方式
参见图1、图2和图3和图4,本实施例提供的一种基于机器视觉的低频振动测量方法。针对现有方案中存在的对测量环境要求较高,参数调整多,自动化和可移植性较差的问题等问题,本发明基于机器视觉的低频振动测量方法巧妙将ROI和基于NCC模板匹配算法相结合。一方面针对常规图像处理技术参数多,可移植性差的问题,提出一种基于NCC模板匹配的定位算法,使算法应用于不同的对象时,不需要调整过多的参数。另外一方面对于NCC模板匹配存在着归一化互相关系数计算量大的问题,所以结合了自适应ROI图像生长技术,来减小搜寻图像的区域,有效减少了计算量。另外模板位移以像素为单位,也限制了它的定位精度,利用亚像素定位技术提高定位精度。本发明基于机器视觉的低频振动测量方法采用的硬件有光源、光学镜头、相机、三脚架、图像采集卡、计算机和显示器。本发明中选用的相机优选采用Optronis公司的CL-600高速工业相机,镜头为尼康105mm定焦镜头,cameralink图像采集卡。计算机为搭载win10系统的电脑主机,显示器为AOC的显示器。
测试前,对相机进行标定,这个作为一次性工作,系统实现之初需要完成的工作,通过采集国际象棋的棋盘格不同角度的图像,通过标定棋盘格上的角点——棋盘格子的黑白交叉点——再结合棋盘的实际尺寸来实现对相机内外参数的获取,内部参数主要包括相机的有效焦距、相机的透镜畸变系数等,这些都是每个相机自身主要的参数:而外部参数主要是相化坐标系相对于世界坐标系之间的位置变换关系和两个相机之间的最主要的两个位置变换参数,即旋转矩阵和平移矩阵。
工作时,本发明基于机器视觉的低频振动测量方法包括以下步骤:
(1)通过照明光源对被测物体进行照射,采用暗场照明,光源位置使得大部分的光没有反射到相机中,仅仅将照射到被测物体的特定部分的光反射到相机中,以能够在相机图像中突出被测物体的边缘形状特征;所述照明光源优选为LED灯,增强应用条件的普适性;
(2)通过相机采集被测物体的振动视频片段,并由图像采集卡传输到计算机;振动视频片段的一般时长比较短,物体振动的频率一般为几赫兹至几十赫兹,物体振动频率必须小于相机帧率的一半,即振动视频片段的帧率大于被测物体的振动频率至少一倍;
(3)计算机处理传输的图像信息,并在显示器上显示;显示的图像信息是处理后的被测物体振动信息;
(4)利用关键点检测算法检测图像序列中比较突出的被测物体边缘信息;具体的,对采集的图像数据进行预处理,进行关键点检测;利用尺度不变特征变换法来搜寻这些关键点,对于一幅输入图像I(x,y)使用高斯核函数G(x,y,σi)去除噪点来控制关键点,尺度空间里的滤波图片L(x,y,σi)定义为:
Figure BDA0001951273770000051
其中(x,y)表示图片的像素坐标,设定图片为矩阵,宽度和高度对应图片的像素数,x表示宽度,y表示高度,
Figure BDA0001951273770000052
代表卷积操作;高斯核函数G(x,y,σi)为:
Figure BDA0001951273770000053
对高斯函数进行离散化,获得一个中心对称,旋转不变的高斯核矩阵。其中σi决定滤波窗口的尺寸,选取了3×3的核,这里σi取1,则可以得:
Figure BDA0001951273770000061
通过计算相邻图片相异函数D(x,y,σi)的局部极值来检测关键点,通过分析这些关键点,来确定能够反映物体振动的区域;其中相邻图片相异函数定义为:D(x,y,σi)=L(x,y,σi+1)-L(x,y,σi)。
(5)利用ROI区域生长技术,缩小图像的搜索计算范围,应用到图像序列中;具体的,对于已获得的关键点检测图片,利用ROI区域生长技术,来缩小图片的搜索范围;具体操作包括:选取关键点较为稀疏,并且周围较为平滑的区域或者关键点较为集中,周围较为平滑的区域来作为搜索范围。
(6)针对选取的区域进行NCC模板匹配操作。截取第一幅图像的ROI区域中的一块包含多个明显角点能突出被测物体边缘信息的区域作为模板;具体包括:截取第一幅图像的ROI区域中的一块包含多个明显角点能突出被测物体边缘信息的区域作为模板图像f(x,y),依据归一化互相关公式NCC分别计算f(x,y)在一系列搜寻图像wi=(x,y)中的相关系数矩阵M
Figure BDA0001951273770000062
(7)依次在后续图像序列中进行模板匹配度计算,从而能获得模板区域的匹配矩阵;
(8)针对匹配矩阵运用曲线拟合的方法,搜寻到最佳的匹配位置,从而实现亚像素级别的定位精度;
对于获得的相关系数矩阵M,实施亚像素定位算法。具体包括:假设相关系数在一个二位曲面上,提取相似度矩阵中最大位置点,然后选取周围八个点,总共九个点做一个二次曲面的拟合:
C(x,y)=a0+a1x+a2y+a3x2+a4xy+a5y2
这里C(x,y)表示假定得二次曲面的待定方程。通过带入相关系数矩阵极大值点及其周围点的数值,来求取方程的系数。
C(x<sub>0</sub>-1,y<sub>0</sub>-1) C(x<sub>0</sub>,y<sub>0</sub>-1) C(x<sub>0</sub>+1,y<sub>0</sub>-1)
C(x<sub>0</sub>-1,y<sub>0</sub>) C(x<sub>0</sub>,y<sub>0</sub>) C(x<sub>0</sub>+1,y<sub>0</sub>)
C(x<sub>0</sub>-1,y<sub>0</sub>+1) C(x<sub>0</sub>,y<sub>0</sub>+1) C(x<sub>0</sub>+1,y<sub>0</sub>+1)
相关系数矩阵M部分值
求得系数后就可以计算曲面峰值作为精确的匹配位置,从而获得亚像素级别的定位精度,对二次曲面方程进行偏微分求解。极值点满足一下方程组:
Figure BDA0001951273770000071
Figure BDA0001951273770000072
假定一个相关系数矩阵极大值及其8邻域的矩阵为:
Figure BDA0001951273770000073
经过曲面拟合之后,曲面在其像素位置处的值矩阵为:
Figure BDA0001951273770000074
可以看出拟合之后在像素点处的系数与原始值很接近,利用极值点方程组可以解出峰值坐标为(-0.1980,0.1688),所以经过拟合后的最优匹配位置的估计结果为(x0-0.1980,y0+0.1688)。可以看出经过拟合之后可以获得级别更高亚像素精度。
(9)根据已标定相机获得的内外参矩阵,把像素坐标转换到世界坐标系,并通过图像显示出来,完成振动提取的最后一步。
本发明利用机器视觉来完成了振动位移的提取,能够有效的检测大型结构的低频振动的数据,采用SIFT检测待测物体关键点,减少了粘贴标记的繁琐过程,另外一方面,应用ROI技术减少了计算量,模板匹配提高系统的鲁棒性。在实际生活中,例如大型结构件,家用结构件的检测以及柔性结构件振动分析有比较大的应用前景,可广泛应用于柔性结构体和大型结构件的振动测量分析。
根据上述说明书的揭示和教导,本发明所属领域的技术人员还可以对上述实施方式进行变更和修改。因此,本发明并不局限于上面揭示和描述的具体实施方式,对本发明的一些修改和变更也应当落入本发明的权利要求的保护范围内。此外,尽管本说明书中使用了一些特定的术语,但这些术语只是为了方便说明,并不对本发明构成任何限制。如本发明上述实施例所述,采用与其相同或相似的步骤而得到的其它方法,均在本发明保护范围内。

Claims (7)

1.一种基于机器视觉的低频振动测量方法,其特征在于:其包括以下步骤:
(1)通过照明光源对被测物体进行照射,以能够在相机图像中突出被测物体的边缘形状特征;
(2)通过相机采集被测物体的振动视频片段,并由图像采集卡传输到计算机;
(3)计算机处理传输的图像信息,并在显示器上显示;
(4)利用关键点检测算法检测图像序列中比较突出的被测物体边缘信息;所述步骤(4)具体包括以下步骤:
对采集的图像数据进行预处理,进行关键点检测;利用尺度不变特征变换法来搜寻这些关键点,对于一幅输入图像I(x,y)使用高斯核函数G(x,y,σi)去除噪点来控制关键点,尺度空间里的滤波图片L(x,y,σi)定义为:
Figure FDA0002966665590000011
其中(x,y)表示图片的像素坐标,设定图片为矩阵,宽度和高度对应图片的像素数,x表示宽度,y表示高度,
Figure FDA0002966665590000012
代表卷积操作;高斯核函数G(x,y,σi)为:
Figure FDA0002966665590000013
对高斯函数进行离散化,获得一个中心对称,旋转不变的高斯核矩阵, 其中σi决定滤波窗口的尺寸,选取了3×3的核,这里σi取1,则可以得:
Figure FDA0002966665590000021
通过计算相邻图片相异函数D(x,y,σi)的局部极值来检测关键点,通过分析这些关键点,来确定能够反映物体振动的区域;其中相邻图片相异函数定义为:D(x,y,σi)=L(x,y,σi+1)-L(x,y,σi);
(5)利用ROI区域生长技术,缩小图像的搜索计算范围,应用到图像序列中;
(6)截取第一幅图像的ROI区域中的一块包含多个明显角点能突出被测物体边缘信息的区域作为模板;
(7)依次在后续图像序列中进行模板匹配度计算,从而能获得模板区域的匹配矩阵;
(8)针对匹配矩阵运用曲线拟合的方法,搜寻到最佳的匹配位置,从而实现亚像素级别的定位精度;
(9)最后利用相机标定得到的参数矩阵,把像素坐标转换到世界坐标系,完成振动的幅值和频率的提取。
2.根据权利要求1所述的基于机器视觉的低频振动测量方法,其特征在于:所述照明光源为LED灯。
3.根据权利要求1所述的基于机器视觉的低频振动测量方法,其特征在于:所述步骤(1)中采用暗场照明,照明光源位置使得大部分的光没有反射到相机中,仅仅将照射到被测物体的特定部分的光反射到相机中。
4.根据权利要求1所述的基于机器视觉的低频振动测量方法,其特征在于:所述步骤(2)中振动视频片段的帧率大于被测物体的振动频率至少一倍。
5.根据权利要求1所述的基于机器视觉的低频振动测量方法,其特征在于:所述步骤(3)中显示的图像信息是处理后的被测物体振动信息。
6.根据权利要求5所述的基于机器视觉的低频振动测量方法,其特征在于:所述步骤(5)具体包括以下步骤:
对于已获得的关键点检测图片,利用ROI区域生长技术,来缩小图片的搜索范围;
选取关键点较为稀疏,并且周围较为平滑的区域或者关键点较为集中,周围较为平滑的区域来作为搜索范围。
7.根据权利要求1所述的基于机器视觉的低频振动测量方法,其特征在于:所述相机为高速工业相机。
CN201910052515.9A 2019-01-21 2019-01-21 基于机器视觉的低频振动测量方法 Active CN109883533B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910052515.9A CN109883533B (zh) 2019-01-21 2019-01-21 基于机器视觉的低频振动测量方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910052515.9A CN109883533B (zh) 2019-01-21 2019-01-21 基于机器视觉的低频振动测量方法

Publications (2)

Publication Number Publication Date
CN109883533A CN109883533A (zh) 2019-06-14
CN109883533B true CN109883533B (zh) 2021-05-25

Family

ID=66926365

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910052515.9A Active CN109883533B (zh) 2019-01-21 2019-01-21 基于机器视觉的低频振动测量方法

Country Status (1)

Country Link
CN (1) CN109883533B (zh)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110376281A (zh) * 2019-06-28 2019-10-25 三一汽车起重机械有限公司 焊缝检测方法、装置、检测设备及存储介质
CN110245650B (zh) * 2019-08-09 2019-12-03 深圳市广宁股份有限公司 振动智能检测方法及相关产品
CN110751677A (zh) * 2019-10-29 2020-02-04 西安邮电大学 一种基于改进cmt算法的视觉振动测量方法和设备
CN111275665A (zh) * 2019-12-19 2020-06-12 华中科技大学 一种基于视觉的叶片磨抛加工振动检测系统及方法
CN111275744B (zh) * 2020-01-20 2022-03-11 福州大学 基于深度学习及图像处理的非接触振动频率测量方法
CN111289087A (zh) * 2020-03-06 2020-06-16 兰州理工大学 一种远距离机器视觉振动测量方法及装置
CN113551760A (zh) * 2020-04-26 2021-10-26 中国石油天然气股份有限公司 地面振动信号测量系统、方法及装置
CN112432693B (zh) * 2020-10-22 2022-08-26 中国计量科学研究院 一种用于机器视觉低频振动测量的溯源方法及装置
CN112525326A (zh) * 2020-11-21 2021-03-19 西安交通大学 一种无标记结构三维振动的计算机视觉测量方法
CN113066128B (zh) * 2021-04-06 2023-08-08 北京大学 自识别标识板的视觉检测与恢复方法、装置、设备及介质
CN113947689B (zh) * 2021-09-30 2023-10-10 西安交通大学 一种基于计算机视觉的结构大运动快速测量方法
CN114414029A (zh) * 2021-11-30 2022-04-29 贵州电网有限责任公司 一种基于数据算法的通信光缆的桥墩撞击在线监测方法
CN117615244B (zh) * 2024-01-22 2024-04-02 四川群源科技有限公司 一种摄像设备的驱动方法、装置及电子设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102322938A (zh) * 2011-08-22 2012-01-18 华南理工大学 压电柔性板结构振动的视觉测量装置及控制方法
CN103267567A (zh) * 2013-06-05 2013-08-28 南京理工大学 基于机器视觉的柔性悬臂梁振动的测量装置及方法
CN103837225A (zh) * 2014-03-24 2014-06-04 福州大学 一种实时获取振动物体表面四维振动信息的测量方法
CN104729665A (zh) * 2015-03-10 2015-06-24 华南理工大学 一种基于双目视觉的柔性悬臂板振动检测装置及方法
CN106500832A (zh) * 2016-10-20 2017-03-15 中国计量科学研究院 一种基于机器视觉的低频振动校准装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7632231B2 (en) * 2006-03-22 2009-12-15 Wisconsin Alumni Research Foundation Ultrasonic strain imaging device and method providing parallel displacement processing

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102322938A (zh) * 2011-08-22 2012-01-18 华南理工大学 压电柔性板结构振动的视觉测量装置及控制方法
CN103267567A (zh) * 2013-06-05 2013-08-28 南京理工大学 基于机器视觉的柔性悬臂梁振动的测量装置及方法
CN103837225A (zh) * 2014-03-24 2014-06-04 福州大学 一种实时获取振动物体表面四维振动信息的测量方法
CN104729665A (zh) * 2015-03-10 2015-06-24 华南理工大学 一种基于双目视觉的柔性悬臂板振动检测装置及方法
CN106500832A (zh) * 2016-10-20 2017-03-15 中国计量科学研究院 一种基于机器视觉的低频振动校准装置

Also Published As

Publication number Publication date
CN109883533A (zh) 2019-06-14

Similar Documents

Publication Publication Date Title
CN109883533B (zh) 基于机器视觉的低频振动测量方法
CN107229930B (zh) 一种指针式仪表数值智能识别方法
CN102135236B (zh) 双目视觉管道内壁自动无损检测方法
CN110689579A (zh) 基于合作目标的快速单目视觉位姿测量方法及测量系统
CN104657711B (zh) 一种鲁棒的指针式仪表读数自动识别方法
CN108007388A (zh) 一种基于机器视觉的转盘角度高精度在线测量方法
CN109544628B (zh) 一种指针式仪表的准确读数识别系统及方法
CN109341668B (zh) 基于折射投影模型和光束追踪法的多相机测量方法
CN102494663B (zh) 摆动喷管的摆动角度的测量方法
CN108765476A (zh) 一种偏振图像配准方法
CN108225537A (zh) 一种非接触式的基于高速摄影的微小物体振动测量方法
CN109448043A (zh) 平面约束下的立木高度提取方法
CN102156978A (zh) 基于机器视觉的工业器件快速定位方法
CN116129037B (zh) 视触觉传感器及其三维重建方法、系统、设备及存储介质
CN110532725B (zh) 基于数字图像的工程结构力学参数识别方法及系统
CN112819935A (zh) 基于双目立体视觉实现工件三维重建的方法
CN112146589A (zh) 一种基于zynq平台的三维形貌测量系统及方法
US20240013437A1 (en) Method for providing calibration data for calibrating a camera, method for calibrating a camera, method for producing at least one predefined point-symmetric region, and device
Jawad et al. Measuring object dimensions and its distances based on image processing technique by analysis the image using sony camera
CN113689397A (zh) 工件圆孔特征检测方法和工件圆孔特征检测装置
CN113899528A (zh) 一种基于3d-dic原理的液面动态波高测量方法
CN113808070A (zh) 一种双目数字散斑图像相关的视差测量方法
Peng et al. Full-field visual vibration measurement of rotating machine under complex conditions via unsupervised retinex model
Xue et al. Automatic inspection and reading system of pointer instrument based on computer vision
CN110288865A (zh) 一种基于机器视觉的技能操作辅助训练与检测的系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant