CN111823233A - 基于高精度立体光学定位的机械臂手眼标定系统及方法 - Google Patents

基于高精度立体光学定位的机械臂手眼标定系统及方法 Download PDF

Info

Publication number
CN111823233A
CN111823233A CN202010621154.8A CN202010621154A CN111823233A CN 111823233 A CN111823233 A CN 111823233A CN 202010621154 A CN202010621154 A CN 202010621154A CN 111823233 A CN111823233 A CN 111823233A
Authority
CN
China
Prior art keywords
rigid body
mechanical arm
tail end
body base
base
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010621154.8A
Other languages
English (en)
Other versions
CN111823233B (zh
Inventor
陈超伟
蒋思远
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang Deshang Yunxing Medical Technology Co ltd
Original Assignee
Zhejiang Deshang Yunxing Medical Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang Deshang Yunxing Medical Technology Co ltd filed Critical Zhejiang Deshang Yunxing Medical Technology Co ltd
Priority to CN202010621154.8A priority Critical patent/CN111823233B/zh
Publication of CN111823233A publication Critical patent/CN111823233A/zh
Application granted granted Critical
Publication of CN111823233B publication Critical patent/CN111823233B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1602Programme controls characterised by the control system, structure, architecture
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion

Abstract

本发明属于医疗器械技术领域,具体涉及一种基于高精度立体光学定位系统的机械臂手眼标定方法及系统。包括刚体基座,刚体基座固定在机械臂末端;带有反光球的刚体通过螺钉固定在刚体基座上;圆盘中心有一个锥形孔洞,且和刚体基座末端匹配;NDI光学定位仪设于机械臂旁侧。方法步骤包括:一、组装系统;二、匀速使刚体基座绕凹槽作圆周运动;得到刚体固定装置到红外传感器的转移矩阵;三、以四种不同的姿态将刚体基座末端插入到圆盘中央的凹槽中,将刚体基座末端设置为新的TCP;步骤四、在示教模式下,记录下此时刚体基座末端在NDI光学定位仪系统下的坐标Pi和机械臂系统下坐标Qi;五、转化为D‑D姿态估计问题。本发明流程简单,精度高。

Description

基于高精度立体光学定位的机械臂手眼标定系统及方法
技术领域
本发明属于医疗器械技术领域,具体涉及一种基于高精度立体光学定位系统的机械臂手眼标定方法及系统。
背景技术
近年来,随着信息与工业技术的发展,医疗手术领域正不断地实现精细化、信息化。在外科手术领域中,机械臂越来越多地辅助甚至代替人手进行操作。相比人手,机械臂具有精度高、稳定性好等优点。为了实现机械臂的精准定位,需要配备一台高精度的光学定位系统。为了获取光学定位系统坐标系与机械臂坐标系之间的转换关系,我们需要对机械臂进行手眼标定(手指机械臂,眼指光学定位系统)。手眼标定的精度在很大程度上也影响了整个系统的准确性。经典的标定方案通过计算机械臂的正逆解和相机的内外参获得一组方程AX=XB(其中A,B,X均为矩阵)。求解该方程可得手眼转换关系X。
目前方程AX=XB的求解技术已经相当成熟,有众多的文献提供了各种不同的方法。这些方法大多要求较复杂的数学运算,给编程实现带来一定麻烦,且无法进一步提升精度。由于相机的内外参标定过程复杂,精度相对较低,在数据源上增加了误差。CN20180950623与US2010168915A1均提供了相应的利用NDI光学定位仪进行机械臂手眼标定的方法,但存在操作繁琐、算法实现复杂的缺陷。此外,在标定过程中,需要调整机械臂的姿态确保标定物位于相机视野当中,程序繁琐。基于以上几点,设计一种操作简单、编程便捷、精度较高的标定方法是必要的。
发明专利内容
本发明专利要解决的技术问题是,克服现有技术中的不足,提供基于高精度立体光学定位的机械臂手眼标定系统及方法。
为解决技术问题,本发明专利所采用的技术方案是:
提供一种基于高精度立体光学定位的机械臂手眼标定系统,包括刚体基座,NDI光学定位仪,带有反光球的刚体和圆盘;
刚体基座固定在机械臂末端,刚体基座的末端为圆锥形;带有反光球的刚体通过螺钉固定在刚体基座上;圆盘中心有一个锥形孔洞,且和刚体基座末端匹配;NDI光学定位仪设于机械臂旁侧。
作为一种改进,刚体基座通过带定位销的法兰盘固定在机械臂末端。
一种利用上述的一种基于高精度立体光学定位的机械臂手眼标定系统的方法,步骤为:
步骤一、将NDI光学定位仪和机械臂系统分别通过支架固定在地面上,两者保持适当距离;将NDI光学定位仪预热半小时,将带锥形凹槽的圆盘固定在桌上,位于NDI光学定位仪和机械臂系统之间,将带有反光球的刚体固定在刚体基座上;
步骤二、定制手持刚体基座的底端,将末端插入桌上圆盘的锥形凹槽并使其固定,匀速使刚体基座绕凹槽作圆周运动,期间保持反光球正对NDI光学定位仪;通过NDI光学定位仪中的NDI Track软件得到刚体固定装置到红外传感器的转移矩阵,从而可以在光学定位系统中读取到刚体基座末端在NDI光学定位仪坐标系下的坐标;
步骤三、将刚体基座装载在机械臂末端,以四种不同的姿态将刚体基座末端插入到圆盘中央的凹槽中,通过机械臂TCP配置程序将刚体基座末端设置为新的TCP(toolcenter position,即工具中心位置);
步骤四、在示教模式下手动将机械臂移动到合适位置,使刚体上的反光球正对NDI光学定位仪。保持刚体基座的姿态不变,向机械臂发送驱动指令使刚体基座在小范围内上下、左右、前后随机移动,移动到第i个位置时,停留一秒并记录下此时刚体基座末端在NDI光学定位仪系统下的坐标Pi和机械臂系统下坐标Qi,采样完成后我们得到两组点列{P1,P2,...Pn}和{Q1,Q2,...Qn},分别表示一系列样本点在光学定位系统和机械臂系统下的坐标;
步骤五、得到同一组点在两个坐标系下的坐标之后,机械臂的手眼标定问题转化为D-D姿态估计问题,最终完成机械臂手眼标定。
作为一种改进,步骤五包括以下几个子步骤:
(1)首先计算两组坐标的质心
Figure BDA0002563062830000021
(2)计算两组坐标去质心后的坐标点
Pi=Pi-P,Qi=Qi-Q;
(3)计算优化问题,得到旋转矩阵
Figure BDA0002563062830000031
(4)根据得到的R*计算t*
t*=P-R*Q;
作为一种改进,子步骤(3)根据以下的方法求解优化问题:
首先定义矩阵
Figure BDA0002563062830000032
然后对W进行SVD分解,得到
W=UΣVT
最终求得
R*=UVT
作为一种改进,步骤二中,NDI光学定位仪系统自带NDI Track软件,发行厂家NDI公司。
作为一种改进,步骤三中,四种不同的姿态为具体指保持机械臂末端的空间位置不变(即将刚体基座末端插在凹槽中),改变机械臂各个关节角的大小使机械臂呈现不同的姿态。
与现有技术相比,本发明专利的有益效果在于:
1、流程简单。本发明主要流程包括三部分:刚体基座的标定(步骤二)、机械臂TCP的标定(步骤三)、数据采样及计算(步骤四)。其中步骤二、三需手动完成,但操作简单、省时。步骤四由程序自动实现。除去步骤一中的准备及预热过程,剩余流程耗时十五分钟。
2、精度高。本发明借助高精度立体光学定位系统和机械臂自带的TCP标定功能,直接获取同一组点在光学系统坐标系和机械臂坐标系下的坐标,避免了求解相机内外参和计算机械臂正逆解过程中引入的误差,从而提高了标定精度。
附图说明
图1为一种基于高精度立体红外光学定位仪的机械臂手眼标定系统的结构示意图。
图中,1-机械臂;2-带有反光球的刚体;3-刚体基座;4-圆盘;5-NDI光学定位仪。
具体实施方式
下文给出了一种具体实施方式。首先需要说明的是,本发明专利涉及医疗器械技术、视觉技术和定位技术。在发明专利的实现过程中,可能会涉及到多个硬件功能模块的应用。申请人认为,如在仔细阅读申请文件、准确理解本发明专利的实现原理和发明专利目的以后,在结合现有公知技术的情况下,本领域技术人员完全可以运用其掌握的技术实现本发明专利。凡本发明专利申请文件提及的均属范畴,申请人不一一列举。另外,本发明专利的实现依赖于多种软件的应用,而这些软件均为现有技术,且有成熟产品可市场购置获得。
请参考图1为一种基于高精度立体红外光学定位仪的机械臂1手眼标定系统的结构示意图,主要由机械臂1,带有反光球的刚体2,刚体基座3,圆盘4,NDI光学定位仪5组成。刚体基座3通过带定位销的法兰盘固定在机械臂1末端,刚体基座3基座的末端为圆锥形;带有反光球的刚体2通过螺钉固定在刚体基座3上;圆盘4中心有一个锥形孔洞,且和刚体基座3末端匹配;NDI光学定位仪5设于机械臂1旁侧。
一种利用一种基于高精度立体光学定位的机械臂手眼标定系统的标定方法,步骤为:
步骤一、将NDI光学定位仪5和机械臂1分别通过支架固定在地面上,两者保持适当距离。打NDI光学定位仪5预热半小时。将带锥形凹槽的圆盘4固定在桌上,位于NDI光学定位仪5和机械臂1之间。将带有反光球的刚体2固定在刚体基座3上。
步骤二、手持刚体基座3的底端,将末端插入桌上圆盘4的锥形凹槽并使其固定,匀速使刚体基座3绕凹槽作圆周运动,期间保持反光球正对NDI光学定位仪5。通过NDI光学定位仪5系统自带软件可以得到刚体固定装置到红外传感器的转移矩阵,从而可以在光学定位系统中读取到刚体基座3末端在NDI光学定位仪5坐标系下的坐标。
步骤三、将刚体基座3装载在机械臂1末端法兰盘上,以四种不同的姿态将刚体基座3末端插入到圆盘4中央的凹槽中。通过机械臂1自带程序可以将刚体基座3末端设置为新的TCP。
步骤四、在示教模式下手动将机械臂1移动到合适位置,使刚体2上的反光球正对NDI光学定位仪5。保持刚体基座3的姿态不变,使用程序驱动机械臂1在小范围内上下、左右、前后随机移动。移动到第i个位置时,停留一秒并记录下此时刚体基座3末端在NDI光学定位仪5系统下的坐标Pi和机械臂1下坐标Qi。采样完成后我们得到两组点列{P1,P2,...Pn}和{Q1,Q2,...Qn},分别表示一系列样本点在光学定位系统和机械臂1下的坐标。
步骤五、得到同一组点在两个坐标系下的坐标之后,机械臂1的手眼标定问题转化为3D-3D姿态估计问题。该问题可以由以下算法求解:
(1)首先计算两组坐标的质心
Figure BDA0002563062830000051
(2)计算两组坐标去质心后的坐标点Pi=Pi-P,Qi=Qi-Q;
(3)计算优化问题,得到旋转矩阵
Figure BDA0002563062830000052
(4)根据得到的R*计算t*
t*=P-R*Q;
子步骤(3)根据以下的方法求解优化问题:首先定义矩阵
Figure BDA0002563062830000053
然后对进行SVD分解,得到
W=UΣVT
最终求得
R*=UVT
至此,我们就完成了整个手眼标定过程。

Claims (6)

1.一种基于高精度立体光学定位的机械臂手眼标定系统,其特征在于:包括刚体基座,NDI光学定位仪,带有反光球的刚体和圆盘;
刚体基座固定在机械臂末端,刚体基座基座的末端为圆锥形;带有反光球的刚体通过螺钉固定在刚体基座上;圆盘中心有一个锥形孔洞,且和刚体基座末端匹配;NDI光学定位仪设于机械臂旁侧。
2.根据权利要求1所述的一种基于高精度立体光学定位的机械臂手眼标定系统,其特征在于:所述刚体基座通过带定位销的法兰盘固定在机械臂末端。
3.一种利用权利要求1所述的一种基于高精度立体光学定位的机械臂手眼标定系统的方法,其特征在于,步骤为:
步骤一、将NDI光学定位仪和机械臂系统分别通过支架固定在地面上,两者保持适当距离;将NDI光学定位仪预热半小时,将带锥形凹槽的圆盘固定在桌上,位于NDI光学定位仪和机械臂系统之间,将带有反光球的刚体固定在刚体基座上;
步骤二、定制手持刚体基座的底端,将末端插入桌上圆盘的锥形凹槽并使其固定,匀速使刚体基座绕凹槽作圆周运动,期间保持反光球正对NDI光学定位仪;通过NDI光学定位仪中的NDI Track软件得到刚体固定装置到红外传感器的转移矩阵,从而在光学定位系统中读取到刚体基座末端在NDI光学定位仪坐标系下的坐标;
步骤三、将刚体基座装载在机械臂末端,以四种不同的姿态将刚体基座末端插入到圆盘中央的凹槽中,通过机械臂TCP配置程序将刚体基座末端设置为新的TCP,即工具中心位置;
步骤四、在示教模式下手动将机械臂移动到合适位置,使刚体上的反光球正对NDI光学定位仪。保持刚体基座的姿态不变,向机械臂发送驱动指令使刚体基座在小范围内上下、左右、前后随机移动,移动到第i个位置时,停留一秒并记录下此时刚体基座末端在NDI光学定位仪系统下的坐标Pi和机械臂系统下坐标Qi,采样完成后我们得到两组点列{P1,P2,...Pn}和{Q1,Q2,...Qn},分别表示一系列样本点在光学定位系统和机械臂系统下的坐标;
步骤五、得到同一组点在两个坐标系下的坐标之后,机械臂的手眼标定问题转化为D-D姿态估计问题,最终完成机械臂手眼标定。
4.根据权利要求3所述的方法,其特征在于,所述步骤五包括以下几个子步骤:(1)首先计算两组坐标的质心
Figure FDA0002563062820000021
(2)计算两组坐标去质心后的坐标点
Pi=Pi-P,Qi=Qi-Q;
(3)计算优化问题,得到旋转矩阵
Figure FDA0002563062820000022
(4)根据得到的R*计算t*
t*=P-R*Q。
5.根据权利要求4所述的方法,其特征在于,子步骤(3)根据以下的方法求解优化问题:
首先定义矩阵
Figure FDA0002563062820000023
然后对进行SVD分解,得到
W=UΣVT
最终求得
R*=UVT
6.根据权利要求3所述的方法,其特征在于,步骤三中,四种不同的姿态为具体指保持机械臂末端的空间位置不变,即将刚体基座末端插在凹槽中,改变机械臂各个关节角的大小使机械臂呈现四种不同的姿态。
CN202010621154.8A 2020-06-30 2020-06-30 基于高精度立体光学定位的机械臂手眼标定系统及方法 Active CN111823233B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010621154.8A CN111823233B (zh) 2020-06-30 2020-06-30 基于高精度立体光学定位的机械臂手眼标定系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010621154.8A CN111823233B (zh) 2020-06-30 2020-06-30 基于高精度立体光学定位的机械臂手眼标定系统及方法

Publications (2)

Publication Number Publication Date
CN111823233A true CN111823233A (zh) 2020-10-27
CN111823233B CN111823233B (zh) 2022-11-29

Family

ID=72900988

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010621154.8A Active CN111823233B (zh) 2020-06-30 2020-06-30 基于高精度立体光学定位的机械臂手眼标定系统及方法

Country Status (1)

Country Link
CN (1) CN111823233B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112790867A (zh) * 2021-02-03 2021-05-14 上海电气集团股份有限公司 基于机械臂的切割髋臼杯的方法和系统
CN113331948A (zh) * 2021-05-28 2021-09-03 浙江德尚韵兴医疗科技有限公司 一种介入手术机器人系统、标定装置及标定方法
CN113843792A (zh) * 2021-09-23 2021-12-28 四川锋准机器人科技有限公司 一种手术机器人的手眼标定方法
CN113959335A (zh) * 2021-10-20 2022-01-21 武汉联影智融医疗科技有限公司 光学定位器精度检测装置、系统、方法、电子装置和介质
CN116652970A (zh) * 2023-07-28 2023-08-29 上海仙工智能科技有限公司 一种四轴机械臂2d手眼标定方法及系统、存储介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104858870A (zh) * 2015-05-15 2015-08-26 江南大学 基于末端编号靶球的工业机器人测量方法
CN205215355U (zh) * 2015-12-22 2016-05-11 仲恺农业工程学院 应用于光学手术导航的标记点
WO2017033100A1 (en) * 2015-08-26 2017-03-02 Tyco Electronics (Shanghai) Co. Ltd Automatic calibration method for robot system
CN109910014A (zh) * 2019-04-08 2019-06-21 上海嘉奥信息科技发展有限公司 基于神经网络的机器人手眼标定方法
CN110025891A (zh) * 2019-04-22 2019-07-19 上海大学 经颅磁刺激手术视觉导航装置
CN110680395A (zh) * 2019-10-22 2020-01-14 浙江德尚韵兴医疗科技有限公司 一种自动超声扫查系统
CN110986774A (zh) * 2019-12-17 2020-04-10 上海嘉奥信息科技发展有限公司 基于光学定位仪的工具尖端位置的静态标定系统、方法、介质及设备
CN110974454A (zh) * 2019-12-19 2020-04-10 长春理工大学 一种正畸支抗钉标定方法及装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104858870A (zh) * 2015-05-15 2015-08-26 江南大学 基于末端编号靶球的工业机器人测量方法
WO2017033100A1 (en) * 2015-08-26 2017-03-02 Tyco Electronics (Shanghai) Co. Ltd Automatic calibration method for robot system
CN205215355U (zh) * 2015-12-22 2016-05-11 仲恺农业工程学院 应用于光学手术导航的标记点
CN109910014A (zh) * 2019-04-08 2019-06-21 上海嘉奥信息科技发展有限公司 基于神经网络的机器人手眼标定方法
CN110025891A (zh) * 2019-04-22 2019-07-19 上海大学 经颅磁刺激手术视觉导航装置
CN110680395A (zh) * 2019-10-22 2020-01-14 浙江德尚韵兴医疗科技有限公司 一种自动超声扫查系统
CN110986774A (zh) * 2019-12-17 2020-04-10 上海嘉奥信息科技发展有限公司 基于光学定位仪的工具尖端位置的静态标定系统、方法、介质及设备
CN110974454A (zh) * 2019-12-19 2020-04-10 长春理工大学 一种正畸支抗钉标定方法及装置

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112790867A (zh) * 2021-02-03 2021-05-14 上海电气集团股份有限公司 基于机械臂的切割髋臼杯的方法和系统
CN112790867B (zh) * 2021-02-03 2022-05-03 上海电气集团股份有限公司 基于机械臂的切割髋臼杯的方法和系统
CN113331948A (zh) * 2021-05-28 2021-09-03 浙江德尚韵兴医疗科技有限公司 一种介入手术机器人系统、标定装置及标定方法
CN113843792A (zh) * 2021-09-23 2021-12-28 四川锋准机器人科技有限公司 一种手术机器人的手眼标定方法
CN113843792B (zh) * 2021-09-23 2024-02-06 四川锋准机器人科技有限公司 一种手术机器人的手眼标定方法
CN113959335A (zh) * 2021-10-20 2022-01-21 武汉联影智融医疗科技有限公司 光学定位器精度检测装置、系统、方法、电子装置和介质
CN113959335B (zh) * 2021-10-20 2023-12-12 武汉联影智融医疗科技有限公司 光学定位器精度检测装置、系统、方法、电子装置和介质
CN116652970A (zh) * 2023-07-28 2023-08-29 上海仙工智能科技有限公司 一种四轴机械臂2d手眼标定方法及系统、存储介质
CN116652970B (zh) * 2023-07-28 2023-10-31 上海仙工智能科技有限公司 一种四轴机械臂2d手眼标定方法及系统、存储介质

Also Published As

Publication number Publication date
CN111823233B (zh) 2022-11-29

Similar Documents

Publication Publication Date Title
CN111823233B (zh) 基于高精度立体光学定位的机械臂手眼标定系统及方法
CN109974584B (zh) 一种辅助激光截骨手术机器人的标定系统及标定方法
JP6964989B2 (ja) 制御方法、ロボットシステム、物品の製造方法、プログラム、及び記録媒体
CN108972559B (zh) 基于红外立体视觉定位系统和机械臂的手眼标定方法
CN109291048B (zh) 一种磨抛工业机器人实时在线编程系统及方法
CN107883929B (zh) 基于多关节机械臂的单目视觉定位装置及方法
CN110116411A (zh) 一种基于球目标的机器人3d视觉手眼标定方法
CN111801198B (zh) 一种手眼标定方法、系统及计算机存储介质
CN108927801B (zh) 一种机械臂末端姿态调整方法及装置
JP2011067941A (ja) 人間型ロボットのための視覚認知システムおよび方法
CN110370316B (zh) 一种基于垂直反射的机器人tcp标定方法
JP2009269110A (ja) 組立装置
CN112057326B (zh) 一种用于经络调理系统的探针镜像装置及其算法
CN109910014B (zh) 基于神经网络的机器人手眼标定方法
CN109877840A (zh) 一种基于相机光轴约束的双机械臂标定方法
CN111546328A (zh) 基于三维视觉测量的手眼标定方法
CN112917513A (zh) 一种基于机器视觉的三维点胶针头的tcp标定方法
WO2022252676A1 (zh) 机械臂法兰物理原点的标定方法、装置及电子设备
CN114211484B (zh) 前端工具位姿同步方法、电子设备及存储介质
CN114668534B (zh) 一种用于口腔种植牙手术的术中种植精度检测系统和方法
CN114519738A (zh) 一种基于icp算法的手眼标定误差修正方法
CN115139283A (zh) 基于随机标记点阵的机器人手眼标定方法
Hvilshøj et al. Calibration techniques for industrial mobile manipulators: Theoretical configurations and best practices
CN109514554B (zh) 利用机器人末端视觉系统的工具坐标系快速标定方法
CN112958960B (zh) 一种基于光学靶标的机器人手眼标定装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant