CN109272532A - 基于双目视觉的模型位姿计算方法 - Google Patents

基于双目视觉的模型位姿计算方法 Download PDF

Info

Publication number
CN109272532A
CN109272532A CN201811010194.8A CN201811010194A CN109272532A CN 109272532 A CN109272532 A CN 109272532A CN 201811010194 A CN201811010194 A CN 201811010194A CN 109272532 A CN109272532 A CN 109272532A
Authority
CN
China
Prior art keywords
model
index point
index
axis
point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201811010194.8A
Other languages
English (en)
Other versions
CN109272532B (zh
Inventor
王争取
王天旭
熊超
鲁文博
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
AVIC Shenyang Aerodynamics Research Institute
Original Assignee
AVIC Shenyang Aerodynamics Research Institute
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by AVIC Shenyang Aerodynamics Research Institute filed Critical AVIC Shenyang Aerodynamics Research Institute
Priority to CN201811010194.8A priority Critical patent/CN109272532B/zh
Publication of CN109272532A publication Critical patent/CN109272532A/zh
Application granted granted Critical
Publication of CN109272532B publication Critical patent/CN109272532B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01MTESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M9/00Aerodynamic testing; Arrangements in or on wind tunnels
    • G01M9/06Measuring arrangements specially adapted for aerodynamic testing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/66Analysis of geometric attributes of image moments or centre of gravity
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20068Projection on vertical or horizontal image axis

Abstract

本发明提供一种基于双目视觉的模型位姿计算方法,该方法根据模型表面已知空间坐标位置的标志点作为先验依据,采用计算机双目视觉测量原理结合数字图像处理算法,检测指定时刻左右二维图像中的标志点位置,计算这些点在相机坐标系下的空间三维位置,利用这些标志点到模型质心位置的距离采用极小二乘算法求解出模型的质心位置,最后通过在模型质心位置建立体轴坐标系的方法计算当前时刻模型的位置、姿态角,最终通过计算整个视频序列得出风洞投放试验中模型下落的位移和姿态角序列。本发明在不依赖模型几何外观的前提下,将数字图像处理算法和计算机双目测量技术应用到风洞试验,满足对风洞投放试验需要,测量飞机吊舱、副油箱的下落轨迹测量。

Description

基于双目视觉的模型位姿计算方法
技术领域
本发明属于风洞试验技术测控领域,具体涉及一种基于双目视觉的模型位姿计算方法。
背景技术
投放试验是风洞中的一种常见的特种试验,根据相似准则原理模拟飞行器外挂物投放后的飞行轨迹,是评估外挂物分离安全可靠性的一种试验手段。该试验一般通过投放机构来控制模型投放的初始速度、加速度,同时用高速摄影设备来采集投放过程中模型位姿图像序列。
完成风洞投放试验主要包含两项主要内容,一是利用两台高帧率、高分辨率的CMOS电路高速摄影相机作为视频采集设备,同时采用大功率直流LED照明设备作为试验光源,采集到分辨率高、对比度强的图像序列作为原始计算依据,二是采用计算机双目视觉技术和数字图像处理方法来从二维图像中提取模型表面的二维特征用来还原模型的三维空间信息,最终利用这些空间信息和先验条件来计算在不同时刻下的空间位移和姿态角,计算模型在整个投放过程中的下落轨迹。
需要根据视频序列来计算出所投放的外挂物模型的位移和姿态角序列。这个过程中涉及到如何准确地获得模型表面的标志点在图像中的二维坐标位置,如何根据一组同态的二维空间信息还原得到模型的三维空间信息,如何根据模型表面的标志点三维空间信息计算获得模型的位移变化量和姿态角变化量,都属于技术难点。
发明内容
基于以上不足之处,本发明提供一种基于双目视觉的模型位姿计算方法,在不依赖模型几何外观的前提下,将数字图像处理算法和计算机双目测量技术应用到风洞试验,满足对风洞投放试验需要,测量飞机吊舱、副油箱等投放模型在制定风洞试验条件下的下落轨迹测量。
本发明所采用的技术如下:一种基于双目视觉的模型位姿计算方法,步骤如下:
步骤1、根据模型的三维数模,以模型质心为几何中心构建模型的体轴坐标系,在三个轴上选取三个到质心位置PC相等的三个点分别为PX、PY和PZ,之后在模型表面布置N个标志点并将这些标志点编号并得到每个标志点到上述四个控制点PC、PX、PY和PZ的距离;
步骤2、在固定好两台高速相机位置之后,采用张氏标定法计算双目参数和镜头畸变参数,并采用棋盘标定版作为计算参照获得相机坐标系和风洞坐标系之间的几何关系;
步骤3、采用模板匹配结合特征矩,提取出模型表面的标志点在图像中的成像质心位置,将两组图像中的标志点进行一一对应;
步骤4、利用畸变参数对标志点在左右图像中的成像位置进行校正之后,根据双目测量方法,连同双目相机参数一同带入三角测量关系式,得出这些标志点在相机坐标系下的空间位置;
步骤5、利用步骤1中获得的标志点到模型轴线上四个控制点PX、PY和PZ的距离,采用极小二乘的方法计算出模型的质心和模型体轴三个控制点在相机坐标系下的位置,此基础上建立模型的体轴坐标系;
步骤6、计算当前时刻模型质心位置到初始状态下模型的质心位置的向量和当前模型体轴系和初始状态下模型体轴系的转角,即求解出位移和姿态角在相机坐标系下的变化,再根据相机坐标系和风洞坐标系的几何关系,将计算结果投影到风轴系,获得风轴系下模型的位姿变化。
本发明的特点及有益效果:
1.本发明不受到模型几何外形约束,并且实施方便;本方法不依赖模型的几何外形特征,采用的是从计算模型质心位置和模拟体轴系的方法计算模型的试验轨迹;
2.为了捕获模型在亚音速工况下的模型运动过程,本文采用了Lucas-Kanad光流法检测出模型表面的标志点,既克服试验段内存在着漫反射、散射等干扰,又能够准确地在图像中识别出模型表面标志点位置;
3.在建立模型体轴坐标系计算过程中,采用了最小Frobenius范数方法对计算出的体轴系优化;
4.本计算方法可以在相机深范围在1000mm左右时,达到位移测量精度优于2mm;
5.本计算方法易于扩展,计算执行效率高。
附图说明
图1是本发明的总体结构框架图;
图2是模型表面标志点提取和标记点三维空间计算流程图;
图3为模型的轴向位移变化曲线图;
图4为模型法向位移变化曲线图;
图5为模型俯仰角变化曲线图。
具体实施方式
根据说明书附图举例对本发明做进一步说明:
实施例1
本方法是将数字图像处理算法和计算机双目视觉技术结合应用于风洞投放试验,测量模型位移和姿态角变化的处理方法。其中根据求解模型质心位置变化量的方法计算位移变化,根据求解模型体轴系的方法,比较不同时刻模型体轴系的变化计算姿态角变化。因此,该方法是采用计算机双目视觉技术和数字图像处理方法来从二维图像中提取模型表面的二维特征用来还原模型的三维空间信息,最终利用这些空间信息和先验条件来计算在不同时刻下的空间位移和姿态角的处理过程。
如图1所示,一种基于双目视觉的模型位姿计算方法,主要包括模型表面标志点布置和空间坐标系建立过程、标志点图像位置检测和空间坐标计算和模型质心位置计算和位移、姿态角求解过程。
步骤1、模型表面标志点布置和空间坐标系建立过程
根据模型的数模,以模型质心位置为几何中心构建模型的体轴坐标系,在三个轴上分别选取三个到质心位置PC相等的三个点分别为PX、PY和PZ。在模型指定位置上布置N个标志点并将这些标志点编号并得到每个标志点到上述四个控制点的距离。
建立相机世界坐标系和风洞坐标系之间的关系是必要过程。该过程首先是采用张正友标定方法确定左右两台高速摄影相机的空间几何关系作为外参、相机的焦距、主点作为内参和镜头畸变参数。同时,根据数目为N(N>4)个非共线的特征点在左右图像中的一一对应关系,计算两个图像之间的投影矩阵Homo。
为了建立风洞坐标系和相机坐标系之间的关系,首先要在与试验段平行的方向上的一个平面上布置N个网格点,使得这些网格点竖直和水平方向上呈正交关系。之后计算这N个标志点位置在相机坐标系下的坐标,根据这些点的空间位置拟合一个平面,并求解出一个该平面正交的单位向量。这样,相机坐标系表示为(X Y Z),则风洞坐标系在相机坐标系下可以表示为三个相互正交的单位向量(U V W),其中U=(UXUYUZ)、V=(VX VY VZ)和W=(WXWY WZ)。
步骤2、标志点图像位置检测和空间坐标计算过程
在同一时刻,首先要从这两张图像中提取出标志点在分别在左右图像中的位置imgPointsLeft和imgPointsRight,之后根据投影矩阵Homo计算出两组标志点的一一对应关系,这样就得到两组一一对应的模型表面标志点位置坐标序列:imgPointsLeft’和imgPointsRight’。这样就可以将之前获得的双目相机标定参数和镜头畸变参数,将消除畸变影响后的两组图像坐标位置带入三角测量关系,得出这些模型表面的标志点在相机坐标系下的空间位置。之后,再根据这些标志点距离模型质心位置的理论距离,求解该时刻模型质心位置。这个过程的流程如图2所示。
步骤3、模型质心位置计算和位移、姿态角求解过程
已知在t时刻计算得到的N个已知模型标志点的空间位置,根据这些点到模型质心的理论距离为{Ldmi},求解模型实际质心即为求取这样一个空间点,使得该点到该组标志点的距离为{Ldsi},满足这两组距离的差的平方和最小:根据非线性极小二乘拟合的方法,将上式作为目标函数,将该组模型标志点到质心的理论距离{Ldmi}作为输入,计算得出模型在此时的质心位置。这样对比模型初始状态下的质心位置即可获得此刻模型的位移变化向量,再将该向量投影到风洞坐标系在相机坐标下的三个正交向量(U V W)即可得出模型在风轴系下的变化。类似求解质心过程,同样可以获得模型体轴上三个控制点(PX PY PZ)的位置,这样就可以建立此时模型的体轴坐标系。对比模型初始状态的体轴系,即可获得该时刻模型姿态角变化。
实施例2
采用本方法,在FL3风洞进成功地完成了多次投放试验。某模型在0.7马赫数且初始攻角为零的的试验轨迹如下:
如图3所示,在爆炸螺栓断裂的10毫秒之内,模型在轴向上的质心并没有发生变化。如图4所示,模型从爆炸螺栓断裂起在气动力和重力的共同作用下开始抛物线运动。如图5所示,从爆炸螺栓断裂起,模型开始翻滚。且这三个方向上的位移/角度变化,均是在风轴系下的试验结果。由于模型在实际运动过程中,侧向几乎没有位移变化且没有发生偏航角和滚转角的变化,这与仿真计算结果基本吻合。
数据的小幅波动与模型加工精度有关,与物理现象无关。下表中给出CFD仿真计算和真实试验的对比结果,从中可以看出试验获得的测量结果与仿真计算结果基本吻合。
表1CFD仿真计算和真实试验的对比结果表

Claims (1)

1.一种基于双目视觉的模型位姿计算方法,其特征在于,方法步骤如下:
步骤1、根据模型的三维数模,以模型质心为几何中心构建模型的体轴坐标系,在三个轴上选取三个到质心位置PC相等的三个点分别为PX、PY和PZ,之后在模型表面布置N个标志点并将这些标志点编号并得到每个标志点到上述四个控制点PC、PX、PY和PZ的距离;
步骤2、在固定好两台高速相机位置之后,采用张氏标定法计算双目参数和镜头畸变参数,并采用棋盘标定版作为计算参照获得相机坐标系和风洞坐标系之间的几何关系;
步骤3、采用模板匹配结合特征矩,提取出模型表面的标志点在图像中的成像质心位置,将两组图像中的标志点进行一一对应;
步骤4、利用畸变参数对标志点在左右图像中的成像位置进行校正之后,根据双目测量方法,连同双目相机参数一同带入三角测量关系式,得出这些标志点在相机坐标系下的空间位置;
步骤5、利用步骤1中获得的标志点到模型轴线上四个控制点PX、PY和PZ的距离,采用极小二乘的方法计算出模型的质心和模型体轴三个控制点在相机坐标系下的位置,此基础上建立模型的体轴坐标系;
步骤6、计算当前时刻模型质心位置到初始状态下模型的质心位置的向量和当前模型体轴系和初始状态下模型体轴系的转角,即求解出位移和姿态角在相机坐标系下的变化,再根据相机坐标系和风洞坐标系的几何关系,将计算结果投影到风轴系,获得风轴系下模型的位姿变化。
CN201811010194.8A 2018-08-31 2018-08-31 基于双目视觉的模型位姿计算方法 Active CN109272532B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811010194.8A CN109272532B (zh) 2018-08-31 2018-08-31 基于双目视觉的模型位姿计算方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811010194.8A CN109272532B (zh) 2018-08-31 2018-08-31 基于双目视觉的模型位姿计算方法

Publications (2)

Publication Number Publication Date
CN109272532A true CN109272532A (zh) 2019-01-25
CN109272532B CN109272532B (zh) 2021-08-27

Family

ID=65155078

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811010194.8A Active CN109272532B (zh) 2018-08-31 2018-08-31 基于双目视觉的模型位姿计算方法

Country Status (1)

Country Link
CN (1) CN109272532B (zh)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110296691A (zh) * 2019-06-28 2019-10-01 上海大学 融合imu标定的双目立体视觉测量方法与系统
CN110849331A (zh) * 2019-11-04 2020-02-28 上海航天控制技术研究所 基于三维点云数据库模型的单目视觉测量与地面试验方法
CN110889171A (zh) * 2019-12-02 2020-03-17 中国空气动力研究与发展中心 一种立式风洞飞机尾旋试验模型设计方法
CN111272380A (zh) * 2020-02-24 2020-06-12 中国空气动力研究与发展中心高速空气动力研究所 风洞试验模型位姿视频测量的风轴系自标定方法
CN112067233A (zh) * 2020-09-02 2020-12-11 中国航天空气动力技术研究院 一种用于风洞模型六自由度运动捕获方法
CN113063546A (zh) * 2021-03-26 2021-07-02 河南科技大学 一种轴承保持架质心运动轨迹测量方法、装置、系统
CN113237628A (zh) * 2021-07-08 2021-08-10 中国空气动力研究与发展中心低速空气动力研究所 一种低速风洞水平自由飞模型姿态测量方法
CN113358325A (zh) * 2021-07-02 2021-09-07 中国空气动力研究与发展中心低速空气动力研究所 一种风洞投放物位姿测量方法、装置、设备及存储介质
CN114910241A (zh) * 2022-07-18 2022-08-16 中国航空工业集团公司沈阳空气动力研究所 一种用于风洞模型姿态测量的风洞坐标系转换方法
CN115937261A (zh) * 2023-01-09 2023-04-07 中国人民解放军国防科技大学 基于事件相机的空间目标运动参数测量方法
CN117168312A (zh) * 2023-11-03 2023-12-05 中国航空工业集团公司沈阳空气动力研究所 一种适用结冰风洞内旋转部件脱冰轨迹测量方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140139635A1 (en) * 2012-09-17 2014-05-22 Nec Laboratories America, Inc. Real-time monocular structure from motion
CN104180965A (zh) * 2014-09-03 2014-12-03 大连理工大学 一种风洞分离模拟实验系统和方法
US20150348265A1 (en) * 2011-08-19 2015-12-03 Adobe Systems Incorporated Plane Detection and Tracking for Structure from Motion
US20170316578A1 (en) * 2016-04-29 2017-11-02 Ecole Polytechnique Federale De Lausanne (Epfl) Method, System and Device for Direct Prediction of 3D Body Poses from Motion Compensated Sequence

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150348265A1 (en) * 2011-08-19 2015-12-03 Adobe Systems Incorporated Plane Detection and Tracking for Structure from Motion
US20140139635A1 (en) * 2012-09-17 2014-05-22 Nec Laboratories America, Inc. Real-time monocular structure from motion
CN104180965A (zh) * 2014-09-03 2014-12-03 大连理工大学 一种风洞分离模拟实验系统和方法
US20170316578A1 (en) * 2016-04-29 2017-11-02 Ecole Polytechnique Federale De Lausanne (Epfl) Method, System and Device for Direct Prediction of 3D Body Poses from Motion Compensated Sequence

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110296691B (zh) * 2019-06-28 2020-09-22 上海大学 融合imu标定的双目立体视觉测量方法与系统
CN110296691A (zh) * 2019-06-28 2019-10-01 上海大学 融合imu标定的双目立体视觉测量方法与系统
CN110849331A (zh) * 2019-11-04 2020-02-28 上海航天控制技术研究所 基于三维点云数据库模型的单目视觉测量与地面试验方法
CN110849331B (zh) * 2019-11-04 2021-10-29 上海航天控制技术研究所 基于三维点云数据库模型的单目视觉测量与地面试验方法
CN110889171A (zh) * 2019-12-02 2020-03-17 中国空气动力研究与发展中心 一种立式风洞飞机尾旋试验模型设计方法
CN110889171B (zh) * 2019-12-02 2023-08-18 中国空气动力研究与发展中心 一种立式风洞飞机尾旋试验模型设计方法
CN111272380A (zh) * 2020-02-24 2020-06-12 中国空气动力研究与发展中心高速空气动力研究所 风洞试验模型位姿视频测量的风轴系自标定方法
CN111272380B (zh) * 2020-02-24 2022-02-11 中国空气动力研究与发展中心高速空气动力研究所 风洞试验模型位姿视频测量的风轴系自标定方法
CN112067233B (zh) * 2020-09-02 2022-08-12 中国航天空气动力技术研究院 一种用于风洞模型六自由度运动捕获方法
CN112067233A (zh) * 2020-09-02 2020-12-11 中国航天空气动力技术研究院 一种用于风洞模型六自由度运动捕获方法
CN113063546A (zh) * 2021-03-26 2021-07-02 河南科技大学 一种轴承保持架质心运动轨迹测量方法、装置、系统
CN113358325A (zh) * 2021-07-02 2021-09-07 中国空气动力研究与发展中心低速空气动力研究所 一种风洞投放物位姿测量方法、装置、设备及存储介质
CN113237628A (zh) * 2021-07-08 2021-08-10 中国空气动力研究与发展中心低速空气动力研究所 一种低速风洞水平自由飞模型姿态测量方法
CN114910241A (zh) * 2022-07-18 2022-08-16 中国航空工业集团公司沈阳空气动力研究所 一种用于风洞模型姿态测量的风洞坐标系转换方法
CN114910241B (zh) * 2022-07-18 2022-09-30 中国航空工业集团公司沈阳空气动力研究所 一种用于风洞模型姿态测量的风洞坐标系转换方法
CN115937261A (zh) * 2023-01-09 2023-04-07 中国人民解放军国防科技大学 基于事件相机的空间目标运动参数测量方法
CN117168312A (zh) * 2023-11-03 2023-12-05 中国航空工业集团公司沈阳空气动力研究所 一种适用结冰风洞内旋转部件脱冰轨迹测量方法
CN117168312B (zh) * 2023-11-03 2024-01-26 中国航空工业集团公司沈阳空气动力研究所 一种适用结冰风洞内旋转部件脱冰轨迹测量方法

Also Published As

Publication number Publication date
CN109272532B (zh) 2021-08-27

Similar Documents

Publication Publication Date Title
CN109272532A (zh) 基于双目视觉的模型位姿计算方法
CN104182982B (zh) 双目立体视觉摄像机标定参数的整体优化方法
CN106529495B (zh) 一种飞行器的障碍物检测方法和装置
CN105698699B (zh) 一种基于时间转轴约束的双目视觉测量方法
CN104596502B (zh) 一种基于cad模型与单目视觉的物体位姿测量方法
CN105157592B (zh) 基于双目视觉的柔性后缘可变形机翼的变形形状和速率的测量方法
CN111735479A (zh) 一种多传感器联合标定装置及方法
CN105423954B (zh) 一种基于视觉测量的柔壁喷管的测量方法
CN109615661A (zh) 光场相机内参数标定装置及方法
CN105716542A (zh) 一种基于柔性特征点的三维数据拼接方法
CN109000557A (zh) 一种核燃料棒位姿自动识别方法
CN106403924B (zh) 基于深度摄像头的机器人快速定位与姿态估计方法
CN104165750A (zh) 立体视觉结合陀螺仪风洞模型位姿测量方法
CN107144241A (zh) 一种基于景深补偿的双目视觉高精度测量方法
CN109360230A (zh) 一种基于2d相机与3d相机的图像配准方法及系统
CN104482924A (zh) 旋成体目标位姿视觉测量方法
CN109003309A (zh) 一种高精度相机标定和目标姿态估计方法
CN104200476B (zh) 利用双平面镜装置中的圆周运动求解摄像机内参数的方法
CN107560554A (zh) 一种基于旋转透镜的三维信息视觉测量方法
CN108765495A (zh) 一种基于双目视觉检测技术的快速标定方法及系统
CN104091345B (zh) 基于前方交会约束的五点相对定向方法
Liu et al. Position and attitude measurement of high-speed isolates for hypersonic facilities
CN107515012B (zh) 基于单轴旋转机构的动态视觉测量系统校准装置及方法
CN113240749B (zh) 一种面向海上舰船平台无人机回收的远距离双目标定与测距方法
CN112556657B (zh) 一种真空环境下的分离体飞行运动参数多目视觉测量系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant