CN105445721B - 基于带特征突起v型标定物的激光雷达与摄像机联合标定方法 - Google Patents

基于带特征突起v型标定物的激光雷达与摄像机联合标定方法 Download PDF

Info

Publication number
CN105445721B
CN105445721B CN201510939840.9A CN201510939840A CN105445721B CN 105445721 B CN105445721 B CN 105445721B CN 201510939840 A CN201510939840 A CN 201510939840A CN 105445721 B CN105445721 B CN 105445721B
Authority
CN
China
Prior art keywords
laser radar
feature
type
scanning
protrusion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201510939840.9A
Other languages
English (en)
Other versions
CN105445721A (zh
Inventor
康晓
苏波
靳璐
吴越
马睿璘
刘兴杰
谢强
熊巍
降晨星
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China North Vehicle Research Institute
Original Assignee
China North Vehicle Research Institute
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China North Vehicle Research Institute filed Critical China North Vehicle Research Institute
Priority to CN201510939840.9A priority Critical patent/CN105445721B/zh
Publication of CN105445721A publication Critical patent/CN105445721A/zh
Application granted granted Critical
Publication of CN105445721B publication Critical patent/CN105445721B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/497Means for monitoring or calibrating

Abstract

本发明涉及一种基于带特征突起V型标定物的激光雷达与摄像机联合标定方法,属于无人车或机器人技术领域。本发明设计带特征突起的V型标定物,采用V型标定物中特征突起物的中心点作为特征标定点,该特征标定点不仅图像特征明显,能够获取其准确的图像信息;并且具有几何特征突起,易于激光雷达分辨,并能通过将V型标定物两侧的激光雷达扫描数据点拟合直线,并求取两条数据线交点的方法间接获取激光雷达中该标定点的准确信息。通过该带特征突起的V型标定物,能够实现对应激光雷达标定点信息与摄像机点标定点信息的准确获取,从而实现激光雷达与摄像机准确的联合标定。

Description

基于带特征突起V型标定物的激光雷达与摄像机联合标定 方法
技术领域
本发明涉及无人车或机器人技术领域,具体涉及一种基于带特征突起的V型标定物的激光雷达与摄像机的联合标定方法。
背景技术
激光雷达与摄像机信息融合是目前无人车环境感知与自主导航系统中进行环境建模、障碍物检测、目标识别与跟踪中应用最广泛的方法。激光雷达与摄像机的联合标定是两者进行信息融合的必要前提与基础,即通过特定的标定物获取对应标定点信息,建立激光雷达与摄像机在各自坐标系中的观测值之间的对应关系,从而使激光雷达与摄像机的信息具有空间一致性。
联合标定中,由于激光雷达扫描线的非可见性,如何准确获取激光雷达扫描信息中的标定点信息是需要解决的关键问题。当前主要的联合标定方法中,通常采用标定物中一些具有空间几何特征的位置点作为标定点,并直接采用激光雷达扫描至该位置点处附近所获取的具有距离突变的扫描点信息来表征此标定点信息。受激光雷达分辨率的影响,这种方法不能准确获取准确的标定点信息,尤其是系统需要在远距离处进行联合标定时,这种方法将会带来较大误差,从而不能进行准确的联合标定。因此如何设计一种激光雷达与摄像机的联合标定方法,能够对激光雷达标定点进行准确获取,从而实现准确的联合标定是需要解决的技术问题。
发明内容
本发明的目的是设计一种激光雷达与摄像机的联合标定方法,能够实现对激光雷达标定点信息的准确获取,以实现准确的联合标定。
技术方案
为解决上述技术问题,本发明提供了一种基于带特征突起的V型标定物的激光雷达与摄像机联合标定方法,其包括以下步骤:
步骤一:设计带特征突起的V型标定物;
步骤二:完成基于带特征突起V型标定物的激光雷达初始扫描位置调校;
步骤三:完成基于带特征突起V型标定物的对应特征标定点信息准确获取;
步骤四:完成联合标定变换矩阵的求取。
其中,所述标定方法中,所建立的坐标系和参数设置为:激光雷达安装高度为H,扫描距离为D,扫描光束斜向下扫描至前方距离为D的A处,激光雷达坐标系为OL-XLYLZL,其中OL-XLYL定义在其扫描扇面上,ZL垂直于其扫描扇面。摄像机坐标系为OC-XCYCZC,OC为摄像机投影中心,XC轴平行于摄像机扫描方向,指向扫描像素增大的方向,YC轴垂直于扫描方向,ZC垂直于靶平面,指向摄像机成像系统视觉方向;D1、D2分别为设定的最远与最近联合标定距离,D1中未与D2重合的区域为激光雷达与摄像机需要进行信息融合的主要探测区域,即需要进行联合标定区域,Do(Do≤A)为前方任一距离,Ho为激光雷达在Do处的扫描高度。
其中,所述步骤一中,带特征突起的V型标定物:两个宽度为w,高为h,夹角为α相交的平板形成V型标定物;V型标定物在相交线指定的高度位置处安装有宽度为w′,高为h′,整个长度为l,突出部分长度为l′,后侧带有夹角α的V型槽,表面中心位置处有边长为d′的黑色正方形特征标记点,其余部分为白色的特征突起物;V型标定物中,w≥4D1θ,θ为激光雷达的水平角度分辨率,D1为最远联合标定距离;D为激光雷达扫描距离;特征突起物中,3D1θ>w′>D1θ;h′≥2v,v为摄像机在D1处的垂直分辨距离;l′≥2η,η为激光雷达的距离测量精度;d′≥2u,u为摄像机在D1处的水平分辨距离。
其中,所述步骤二中,基于带特征突起V型标定物的激光雷达初始扫描位置调校过程为:将V型标定物放至在Do(Do<D)处,并将特征突起物安装在V型标定物的Ho高度位置处,调整激光雷达俯仰角度,当激光雷达在特征突起物位置处,至少有一个激光雷达扫描数据与两侧相邻数据点表现为距离突变时,则表示激光雷达扫描到该高度处的特征突起物上,即认为激光雷达扫描至A处。
将一个或多个V型标定物以不同方向多次放置于标定区域中的不同距离位置处,并根据距离信息特征突起物安装到相应的高度位置处,重复上述过程,准确获取至少5组非共线的对应特征标记点信息。
其中,所述步骤四中,完成联合标定变换矩阵的求取过程为:
由激光雷达与摄像机的坐标系定义可知,激光雷达坐标系中的扫描点PL(XL,YL,0)与摄像机坐标系中的像素点Pc(u,v)存在如式(1)所示的关系:
其中,M′即为需要标定获取的联合变换矩阵,其包含了9个参数,将获取的至少5组非共线的对应特征标记点带入式(1),求取M′,完成联合标定变换矩阵的标定。
有益成果
该方法通过采用带特征突起的V型标定物,能够实现对应激光雷达标定点信息与摄像机点标定点信息的准确获取,以实现激光雷达与摄像机准确的联合标定。
附图说明
图1为激光雷达与摄像机的联合标定实例图。
图2为带特征突起的V型标定物结构示意图。
具体实施方式
下面结合附图并举实施例,对本发明进行详细描述。
如图1所示,激光雷达安装高度为H,扫描距离为D,扫描光束斜向下扫描至前方距离为D的A处,激光雷达坐标系为OL-XLYLZL,其中OL-XLYL定义在其扫描扇面上,ZL垂直于其扫描扇面。摄像机坐标系为OC-XCYCZC,OC为摄像机投影中心,XC轴平行于摄像机扫描方向,指向扫描像素增大的方向,YC轴垂直于扫描方向,ZC垂直于靶平面,指向摄像机成像系统视觉方向。D1、D2分别为设定的最远与最近联合标定距离,D1中未与D2重合的区域为激光雷达与摄像机需要进行信息融合的主要探测区域,即需要进行联合标定区域,Do(Do≤A)为前方任一距离,Ho为激光雷达在Do处的扫描高度。
本实施例基于带特征突起的V型标定物的联合标定方法主要包括以下步骤:
步骤1:带特征突起的V型标定物设计
本发明中带特征突起的V型标定物是指:V型标定物上装有特征突起物,其中,V型标定物是指两个宽度为w,高为h的平板相交,夹角为α;特征突起物的宽度为w′,高为h′,整个长度为l,其中突出部分长度为l′,后侧带有夹角α的V型槽,其表面中心位置处有边长为d′的黑色正方形,其余部分为白色。特征突起物可安装在V型标定物中两侧平面相交线指定的高度位置处。
V型标定物中,w≥4D1θ,其中θ(弧度)为激光雷达的水平角度分辨率,D1θ为D1处激光雷达相邻扫描数据点之间的近似距离,该设计使V型标定物每侧至少有3个激光雷达扫描数据点;h为保证在联合标定区域内激光雷达可扫描到V型标定物指定的高度位置处;优选α=90°。特征突起物中,w′为3D1θ>w′>D1θ,以保证至少有一个雷达数据点扫描至该特征突起物上;h′≥2v,v为摄像机在d1处的垂直分辨距离,此外,结合雷达的俯仰装置调节精度以及光束发散角等因素,在保证激光雷达扫描点能够扫描至该特征突起物上的基础上选取h′的最小值;l′≥2η,η为激光雷达的距离测量精度,该设计可使扫描至该特征突起物上的雷达扫描点能够表现明显的距离突变;d′≥2u,u为摄像机在d1处的水平分辨距离,该设计用于此黑色正方形在图像中的准确提取。
步骤2:基于带特征突起V型标定物的激光雷达初始扫描位置调校
如图1所示,若将V型标定物放至在Do处,将Ho作为特征突起物的安装高度安装至V型标定物上,若在特征突起物位置处附近,至少有一个激光雷达扫描数据与两侧相邻数据点具有距离突变,则表示激光雷达扫描到该高度处的特征突起物上,即认为激光雷达近似扫描至A处。
基于此原理,联合标定时,首先采用此带特征突起的V型标定物进行激光雷达扫描位置调校。将V型标定物放置在标定区域的Do(D1<Do<D2)处,将特征突起物安装至V型标定物上距地面Ho高度处,调整激光雷达俯仰角度,当激光雷达扫描至特征突起物时,表明激光雷达能近似扫描至A处,调校完毕。若需进行激光雷达水平姿态的调校,可使用两个V型标定物,当激光雷达能够扫描至指定两个位置高度的特征突起物时,则表征其能近似扫至地面位置A处。
步骤3:基于带特征突起V型标定物的对应特征标定点信息准确获取
调校完成后,将V型标定物上特征突起物中心处的黑色方点作为特征标记点。该特征标定点图像颜色特征明显,易于摄像机图像信息提取,在突起物上,具有几何特征突起,易于激光雷达分辨,并能利用V型标定物,通过将V型标定物两侧扫描数据点拟合为直线,再求取两条直线交点的方法来间接获取激光雷达对应特征标记点的信息。
将一个或多个V型标定物以不同方向多次放置于标定区域中的不同距离位置处,并根据距离信息特征突起物安装到相应的高度位置处,重复上述过程,准确获取至少5组非共线的对应特征标记点信息。
步骤4:求取联合标定变换矩阵
由激光雷达与摄像机的坐标系定义可知,激光雷达坐标系中的扫描点PL(XL,YL,0)与摄像机坐标系中的像素点Pc(u,v)存在如式1所示的关系:
其中M′即为需要标定获取的联合变换矩阵,其包含了9个参数。将获取的至少5组非共线的对应特征标记点带入式1,可求取M′,完成联合标定变换矩阵的标定。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明技术原理的前提下,还可以做出若干改进和变形,这些改进和变形也应视为本发明的保护范围。

Claims (4)

1.一种基于带特征突起的V型标定物的激光雷达与摄像机联合标定方法,其特征在于,包括以下步骤:
步骤一:设计带特征突起的V型标定物;
步骤二:完成基于带特征突起V型标定物的激光雷达初始扫描位置调校;
步骤三:完成基于带特征突起V型标定物的对应特征标定点信息准确获取;
步骤四:完成联合标定变换矩阵的求取;
所述标定方法中,建立的坐标系和参数设置为:激光雷达安装高度为H,扫描距离为D,扫描光束斜向下扫描至前方距离为D的A处,激光雷达坐标系为OL-XLYLZL,其中OL-XLYL定义在其扫描扇面上,ZL垂直于其扫描扇面;摄像机坐标系为OC-XCYCZC,OC为摄像机投影中心,XC轴平行于摄像机扫描方向,指向扫描像素增大的方向,YC轴垂直于扫描方向,ZC垂直于靶平面,指向摄像机成像系统视觉方向;D1、D2分别为设定的最远与最近联合标定距离,D1中未与D2重合的区域为激光雷达与摄像机需要进行信息融合的主要探测区域,即需要进行联合标定区域,Do为前方任一距离,Ho为激光雷达在Do处的扫描高度,Do≤D;
所述步骤一中,带特征突起的V型标定物:两个宽度为w,高为h,夹角为α相交的平板形成V型标定物;V型标定物在相交线指定的高度位置处安装有宽度为w′,高为h′,整个长度为l,突出部分长度为l′,后侧带有夹角α的V型槽,表面中心位置处有边长为d′的黑色正方形特征标记点,其余部分为白色的特征突起物;V型标定物中,w≥4D1θ,θ为激光雷达的水平角度分辨率,D1为最远联合标定距离;D为激光雷达扫描距离;特征突起物中,3D1θ>w′>D1θ;h′≥2v,v为摄像机在D1处的垂直分辨距离;l′≥2η,η为激光雷达的距离测量精度;d′≥2u,u为摄像机在D1处的水平分辨距离。
2.如权利要求1所述的方法,其特征在于,所述步骤二中,基于带特征突起V型标定物的激光雷达初始扫描位置调校过程为:将V型标定物放至在Do处,Do<D,并将特征突起物安装在V型标定物的Ho高度位置处,调整激光雷达俯仰角度,当激光雷达在特征突起物位置处,至少有一个激光雷达扫描数据与两侧相邻数据点表现为距离突变时,则表示激光雷达扫描到该高度处的特征突起物上,即认为激光雷达扫描至A处。
3.如权利要求2所述的方法,其特征在于,所述步骤三中,完成基于带特征突起V型标定物的对应特征标定点信息准确获取过程为:将V型标定物上特征突起物中心处的黑色正方形作为特征标记点,利用颜色特征,获取此特征标记点在图像中的像素坐标,设为pc(u,v);当特征突起物位置处至少有一个激光雷达扫描数据与两侧相邻数据点表现为距离突变时,判定激光雷达扫描至特征突起物,获取激光雷达特征标定点坐标,设为其中, 为特征突起物上的雷达数据点;为V型标定物左侧平面上的激光雷达数据坐标;为右侧平面上的激光雷达数据坐标,用最小二乘法将其分别拟合成两条直线L和L′,为L和L′的交点坐标;进一步获取一组对应标定点坐标(pc,pl);
将一个或多个V型标定物以不同方向多次放置于标定区域中的不同距离位置处,并根据距离信息特征突起物安装到相应的高度位置处,重复上述过程,准确获取至少5组非共线的对应特征标记点信息。
4.如权利要求3所述的方法,其特征在于,所述步骤四中,完成联合标定变换矩阵的求取过程为:
由激光雷达与摄像机的坐标系定义可知,激光雷达坐标系中的扫描点PL(XL,YL,0)与摄像机坐标系中的像素点Pc(u,v)存在如式(1)所示的关系:
其中,M′即为需要标定获取的联合变换矩阵,其包含了9个参数,将获取的至少5组非共线的对应特征标记点带入式(1),求取M′,完成联合标定变换矩阵的标定。
CN201510939840.9A 2015-12-15 2015-12-15 基于带特征突起v型标定物的激光雷达与摄像机联合标定方法 Active CN105445721B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510939840.9A CN105445721B (zh) 2015-12-15 2015-12-15 基于带特征突起v型标定物的激光雷达与摄像机联合标定方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510939840.9A CN105445721B (zh) 2015-12-15 2015-12-15 基于带特征突起v型标定物的激光雷达与摄像机联合标定方法

Publications (2)

Publication Number Publication Date
CN105445721A CN105445721A (zh) 2016-03-30
CN105445721B true CN105445721B (zh) 2018-06-12

Family

ID=55556140

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510939840.9A Active CN105445721B (zh) 2015-12-15 2015-12-15 基于带特征突起v型标定物的激光雷达与摄像机联合标定方法

Country Status (1)

Country Link
CN (1) CN105445721B (zh)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106646407B (zh) * 2016-12-15 2019-04-02 广州汽车集团股份有限公司 雷达标定设备校验方法、装置和系统
CN107870324B (zh) * 2017-05-09 2021-06-25 吉林大学 一种多线激光雷达的标定装置和方法
CN109211298B (zh) * 2017-07-04 2021-08-17 百度在线网络技术(北京)有限公司 一种传感器标定方法和装置
CN107656259B (zh) * 2017-09-14 2021-04-30 同济大学 外场环境标定的联合标定系统与方法
CN108564630B (zh) * 2018-05-02 2023-07-14 吉林大学 基于激光雷达和相机摄像头融合的标定装置及其标定方法
CN109765567B (zh) * 2019-02-12 2023-05-16 华北水利水电大学 基于长方体标定物的二维激光测距仪定位方法
CN110322519B (zh) * 2019-07-18 2023-03-31 天津大学 一种用于激光雷达与相机联合标定的标定装置及标定方法
CN110361717B (zh) * 2019-07-31 2021-03-12 苏州玖物互通智能科技有限公司 激光雷达-摄像机联合标定靶和联合标定方法
CN110428626A (zh) * 2019-08-13 2019-11-08 舟山千眼传感技术有限公司 一种微波与视频融合检测的车辆检测器及其安装方法
CN112986929B (zh) * 2019-12-02 2024-03-29 杭州海康威视数字技术股份有限公司 联动监控的装置、方法及存储介质
CN110850428B (zh) * 2019-12-12 2021-11-23 北京万集科技股份有限公司 激光雷达测距方法、装置、设备及存储介质
CN111025309B (zh) * 2019-12-31 2021-10-26 芜湖哈特机器人产业技术研究院有限公司 一种融合折角板的自然定位方法及系统
US11673567B2 (en) * 2020-04-14 2023-06-13 Plusai, Inc. Integrated fiducial marker for simultaneously calibrating sensors of different types
US11366233B2 (en) 2020-04-14 2022-06-21 Plusai, Inc. System and method for GPS based automatic initiation of sensor calibration
US11635313B2 (en) 2020-04-14 2023-04-25 Plusai, Inc. System and method for simultaneously multiple sensor calibration and transformation matrix computation
CN111709995B (zh) * 2020-05-09 2022-09-23 西安电子科技大学 一种激光雷达与摄像头之间的位置标定方法
CN112394347B (zh) * 2020-11-18 2022-12-23 杭州海康威视数字技术股份有限公司 一种目标检测方法、装置及设备
CN117716255A (zh) * 2021-07-30 2024-03-15 深圳市速腾聚创科技有限公司 一种激光雷达的姿态标定方法、相关装置、以及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101545763A (zh) * 2009-02-20 2009-09-30 中国人民解放军总装备部军械技术研究所 空间异面相位角激光检测系统
CN103049912A (zh) * 2012-12-21 2013-04-17 浙江大学 一种基于任意三面体的雷达-相机系统外部参数标定方法
CN103837869A (zh) * 2014-02-26 2014-06-04 北京工业大学 基于向量关系的单线激光雷达和ccd相机标定方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100157280A1 (en) * 2008-12-19 2010-06-24 Ambercore Software Inc. Method and system for aligning a line scan camera with a lidar scanner for real time data fusion in three dimensions

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101545763A (zh) * 2009-02-20 2009-09-30 中国人民解放军总装备部军械技术研究所 空间异面相位角激光检测系统
CN103049912A (zh) * 2012-12-21 2013-04-17 浙江大学 一种基于任意三面体的雷达-相机系统外部参数标定方法
CN103837869A (zh) * 2014-02-26 2014-06-04 北京工业大学 基于向量关系的单线激光雷达和ccd相机标定方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
A Simple and Effective Extrinsic Calibration Method of a Camera and a Single Line Scanning Lidar;Heng Yang et.al;《21st International Conference on Pattern Recognition》;20121115;第1439-1442页 *
Extrinsic Calibration of a Single Line Scanning Lidar and a Camera;Kiho Kwak et.al;《2011 IEEE/RSJ International Conference on Intelligent Robots and Systems》;20110930;第3283-3289页 *
一种单线激光雷达和可见光摄像机的标定方法;刘大学;《华中科技大学学报(自然科学版)》;20081031;第36卷;第68-71页 *

Also Published As

Publication number Publication date
CN105445721A (zh) 2016-03-30

Similar Documents

Publication Publication Date Title
CN105445721B (zh) 基于带特征突起v型标定物的激光雷达与摄像机联合标定方法
US10060739B2 (en) Method for determining a position and orientation offset of a geodetic surveying device and such a surveying device
CN110595476B (zh) 一种基于gps和图像视觉融合的无人机降落导航方法及装置
EP1378790B1 (en) Method and device for correcting lens aberrations in a stereo camera system with zoom
CN109211207B (zh) 一种基于机器视觉的螺钉识别与定位装置
CN109940603B (zh) 一种巡检机器人的到点误差补偿控制方法
CN111508027B (zh) 摄像机外参标定的方法和装置
CN113137920B (zh) 一种水下测量的设备与水下测量方法
US20100157280A1 (en) Method and system for aligning a line scan camera with a lidar scanner for real time data fusion in three dimensions
CN109685855B (zh) 一种道路云监控平台下的摄像机标定优化方法
CN104200086A (zh) 宽基线可见光相机位姿估计方法
US10810426B2 (en) Systems and methods for autonomous perpendicular imaging of test squares
CN110033407B (zh) 一种盾构隧道表面图像标定方法、拼接方法及拼接系统
CN106403900B (zh) 飞行物追踪定位系统及方法
CN109255819B (zh) 基于平面镜的Kinect标定方法及装置
Yang et al. A simple and effective extrinsic calibration method of a camera and a single line scanning lidar
CN113884002A (zh) 基于二三维信息融合的受电弓滑板上表面检测系统及方法
EP3989168A1 (en) Dynamic self-calibrating of auxiliary camera of laser scanner
CN114413958A (zh) 无人物流车的单目视觉测距测速方法
Crispel et al. All-sky photogrammetry techniques to georeference a cloud field
CN116385420A (zh) 区域尺寸的确定方法、系统、设备及存储介质
US20230324167A1 (en) Laser scanner for verifying positioning of components of assemblies
EP4086850A1 (en) Calibrating system for colorizing point-clouds
CN116447979A (zh) 一种基于无人机的双目视觉边坡位移监测方法及装置
Kim et al. An automatic robust point cloud registration on construction sites

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant