CN105466397B - 多尺度双轴旋转激光影像三维重构系统及其方法 - Google Patents

多尺度双轴旋转激光影像三维重构系统及其方法 Download PDF

Info

Publication number
CN105466397B
CN105466397B CN201510980774.XA CN201510980774A CN105466397B CN 105466397 B CN105466397 B CN 105466397B CN 201510980774 A CN201510980774 A CN 201510980774A CN 105466397 B CN105466397 B CN 105466397B
Authority
CN
China
Prior art keywords
image
matrix
rotation
laser
imaging sensors
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201510980774.XA
Other languages
English (en)
Other versions
CN105466397A (zh
Inventor
颜润明
雷亮
王�琦
刘子强
钟嘉华
赖锦祥
周金运
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong University of Technology
Original Assignee
Guangdong University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong University of Technology filed Critical Guangdong University of Technology
Priority to CN201510980774.XA priority Critical patent/CN105466397B/zh
Publication of CN105466397A publication Critical patent/CN105466397A/zh
Application granted granted Critical
Publication of CN105466397B publication Critical patent/CN105466397B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Image Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

本发明公开了一种多尺度双轴旋转激光影像三维重构系统及其方法,重构系统包括旋转控制平台、图像采集系统、标定板、线结构激光器、计算机重构处理系统;旋转控制平台包括电控旋转台和安装在电控旋转台上的伸缩旋转支架,伸缩旋转支架为T型结构,两个支臂端部装有旋转台;图像采集系统包括两个图像传感器,图像传感器分别安装在两个支臂端部的旋转台上;线结构激光器安装在电控旋转台的旋转中心处,所发出的线激光垂直于水平面,线激光所在平面、两个图像传感器所拍摄的图像平面相交于一条垂直于水平面的直线。计算机重构处理系统用于摄像头系统标定、影像匹配与三维重构运算。本发明可以解决非角点难以重构的问题,又可以应用于多尺度范围测量。

Description

多尺度双轴旋转激光影像三维重构系统及其方法
技术领域
本发明属于图像采集处理与三维重构的技术领域,具体涉及一种多尺度双轴旋转激光影像三维重构系统及其方法。
背景技术
三维重构是指对三维物体建立适合计算机表示和处理的数学模型,是在计算机环境下对其进行处理、操作和分析其性质的基础,也是在计算机中建立表达客观世界的虚拟现实的关键技术。
通过对场景进行三维重构的一个重要作用是获取到场景的三维信息。在传统的三维重构中,常利用角点提取进行三维重构,但是对于无明显角点的物体,其三维重构就难以实现。此外,一般应用于室内场景重构的三维重构仪器,其工作距离都有一定的范围,难以实现全自动一步到位的室内场景重构。
上述论述内容目的在于向读者介绍可能与下面将被描述和/或主张的本发明的各个方面相关的技术的各个方面,相信该论述内容有助于为读者提供背景信息,以有利于更好地理解本发明的各个方面,因此,应了解是以这个角度来阅读这些论述,而不是承认现有技术。
发明内容
本发明的目的在于避免现有技术中的不足而提供一种多尺度双轴旋转激光影像三维重构系统及其方法,其既可以解决非角点难以重构的问题,又可以应用于多尺度范围测量。
本发明的目的通过以下技术方案实现:
提供一种多尺度双轴旋转激光影像三维重构系统,包括旋转控制平台、图像采集系统、标定板、线结构激光器、计算机重构处理系统;
所述旋转控制平台包括电控旋转台和安装在电控旋转台上的伸缩旋转支架,伸缩旋转支架为T型结构,伸缩旋转支架的两个支臂的端部装有可360度旋转的旋转台;
所述图像采集系统包括两个图像传感器,两个图像传感器分别安装在两个支臂端部的旋转台上;
所述线结构激光器安装在电控旋转台的旋转中心处,所发出的线激光垂直于水平面,线激光所在平面、两个图像传感器所拍摄的图像平面相交于一条垂直于水平面的直线。
所述计算机重构处理系统用于摄像头系统标定、影像匹配与三维重构运算。
其中,所述支臂的长度可调。
其中,所述两个图像传感器水平放置,互成一定夹角。
其中,所述两个图像传感器型号相同,每个传感器上装有型号相同的可变焦FA镜头。
本发明还提供了一种利用如上所述重构系统实现的重构方法,包括如下步骤:
S1、根据测量场景大小选择合适的尺度;
S2、图像采集系统的标定;
S3、结合线激光旋转扫描采集图像;
S4、在计算机重构处理系统中对图像进行处理,重构出三维场景。
其中,在步骤S1中,根据测量场景大小选择合适的尺度包括如下步骤:
S1-1:调整支架两端的长度和两图像传感器间的夹角,使两图像传感器的光轴交点到旋转中心的距离与所测场景的半径长度约等;
S1-2:调整可变焦FA镜头,设置合适的焦距。
其中,在步骤S2中,图像采集系统的标定包括如下步骤:
S2-1:变换标定板的姿态,用图像采集系统拍摄标定板不同姿态下的图像各两幅;
S2-2:对所拍摄的两幅图像进行标定点像素坐标提取,在计算机重构处理系统中进行摄像头系统标定,分别得出两图像传感器在该旋转角度下的相机矩阵M1-0与M2-0;
S2-3:通过对相机矩阵进行矩阵运算计算出图像采集系统每旋转1°对应的两个图像传感器相机矩阵M1-1与M2-1,M1-2与M2-2,……,M1-359与M2-359,即标定完成。
其中,在步骤S2-3中,矩阵计算过程如下:
标定时以旋转角为0°设定世界坐标系各轴的方向,其中X轴平行水平面向右,Y轴垂直水平面向下,Z轴平行水平面指向两摄像机成像平面的交线;
以相机矩阵M1-0为例,使用标定板标定后得出的矩阵M1-0是一个3×4的矩阵,当图像采集系统旋转α°时(这里选定α=1),实际上等价于摄像机自身旋转α°后,再在X轴与Z轴方向上分别平移了L1与L2的距离;
其中L1=L·(1-cosα),L2=L·sinα;
根据几何变换的矩阵运算,可得旋转矩阵R与平移矩阵T:
即可求得旋转α角度下的新摄像机矩阵M1-α=(M1-0)·R·T。
其中,在步骤S3中,进行图像采集时线结构激光器与两图像传感器以相同的角速度绕电控旋转台的旋转中心进行旋转,结合线激光旋转扫描采集影像包括如下步骤:
S3-1:启动线结构光激光器,使线激光照射在场景表面;
S3-2:启动电控旋转台,每旋转1°进行一次图像对的采集;
S3-3:旋转一周后将所采集的图像对存储在计算机重构处理系统中。
其中,在步骤S4中,在计算机重构处理系统里对影像进行处理包括如下步骤:
S4-1:对影像中画面进行图像分割,提出出若干激光点的像素坐标;
S4-2:对激光点进行图像匹配;
S4-3:进行三维重构运算,获得场景的三维信息。
由于采用了上述的结构,本发明对比传统的双目三维重构系统,本发明添加的伸缩旋转支架,使被检测区域的相对误差可调,利用标定板一次标定实现不同旋转角度下的各相机系统标定,然后使用线结构激光器扫描场景区域,图像采集系统获取覆盖线激光的影像图像,进行影像匹配及三维重构运算重建得该区域的三维结构。本发明能实现多尺度的空间场景三维重构,即球半径在数十厘米至亚十米的空间范围内均适用,且重构效果优良,误差小。在所提出的重构方法中,标定一次结合矩阵运算完成不同旋转角度的相机系统标定,简化了操作;利用线激光扫描重构,避免使用一般的特征点获取算法带来的系统误差,实现了图像的精准匹配,并且解决了非角点无法进行重构的难题。
附图说明
利用附图对本发明作进一步说明,但附图中的实施例不构成对本发明的任何限制,对于本领域的普通技术人员,在不付出创造性劳动的前提下,还可以根据以下附图获得其它的附图。
图1为本发明重构系统的结构图。
图2为本发明的图像采集系统旋转时的示意图。
图3为本发明重构方法的流程图。
具体实施方式
为了使本领域的技术人员更好地理解本发明的技术方案,下面结合附图和具体实施例对本发明作进一步详细的描述,需要说明的是,在不冲突的情况下,本申请的实施例及实施例中的特征可以相互组合。
如图1和图2所示,本发明所述的多尺度双轴旋转激光影像三维重构系统,包括:旋转控制平台、图像采集系统、标定板、线结构激光器、计算机重构处理系统。
其中,旋转控制平台包括电控旋转台1与伸缩旋转支架2,伸缩支架安装在电控旋转台上,可伸缩旋转支架为T型结构,伸缩旋转支架具有两个支臂4、5,支臂长度可调,支臂外端装有旋转台,能实现360度旋转;
其中,图像采集系统包括两个型号相同的图像传感器6、7,每个传感器上装有型号相同的可变焦FA镜头,两个图像传感器分别安装在伸缩旋转支架的旋转台上,且水平放置,互成一定夹角;
其中,线结构激光器3安装在电控旋转台的旋转中心处,所发出的线激光垂直于水平面,线激光所在平面和两个图像传感器所拍摄的图像平面,此三个平面相交于一条垂直于水平面的直线;
其中计算机重构处理系统,可进行摄像头系统标定、影像匹配与三维重构运算。
如图3所示,本发明提供一种利用如上所述的基于多尺度双轴旋转激光影像三维重构系统的重构方法,包括如下步骤:
S1:根据测量场景大小选择合适的尺度;
S2:图像采集系统的标定;
S3:结合线激光旋转扫描采集影像;
S4:在计算机重构处理系统里对影像进行处理,重构出三维场景。
对于步骤S1,根据测量场景大小选择合适的尺度包括如下步骤:
S1-1:调整支架两端的长度和两图像传感器间的夹角,使两图像传感器的光轴交点到旋转中心的距离与所测场景的半径长度约等;
S1-2:调整可变焦FA镜头,设置合适的焦距;
作为优选,对于步骤S2,图像采集系统的标定包括如下步骤:
S2-1:变换标定板8的姿态,用图像采集系统拍摄标定板不同姿态下的图像各两幅;
S2-2:对所拍摄的两幅图像进行标定点像素坐标提取,在计算机重构处理系统中进行摄像头系统标定,分别得出两图像传感器在该旋转角度下的相机矩阵M1-0与M2-0;
S2-3:通过对相机矩阵进行矩阵运算计算出图像采集系统每旋转1°对应的两个图像传感器相机矩阵M1-1与M2-1,M1-2与M2-2,……,M1-359与M2-359,即标定完成,矩阵计算过程如下:
如图2所示,标定时以旋转角为0°设定世界坐标系各轴的方向,其中X轴平行水平面向右,Y轴垂直水平面向下,Z轴平行水平面指向两摄像机成像平面的交线。
以相机矩阵M1-0为例,使用标定板标定后得出的矩阵M1-0是一个3×4的矩阵。当图像采集系统旋转α°时(这里选定α=1),实际上等价于摄像机自身旋转α°后,再在X轴与Z轴方向上分别平移了L1与L2的距离。
其中L1=L·(1-cosα),L2=L·sinα;
根据几何变换的矩阵运算,可得旋转矩阵R与平移矩阵T:
即可求得旋转α角度下的新摄像机矩阵M1-α=(M1-0)·R·T。
对于步骤S3,结合线激光旋转扫描采集影像包括如下步骤:
S3-1:启动线结构光激光器,使线激光照射在场景表明;
S3-2:启动电控旋转台,每旋转1°进行一次图像对的采集;
S3-3:旋转一周后将所采集的图像对存储在计算机重构处理系统中;
对于步骤S4,在计算机重构处理系统里对影像进行处理包括如下步骤:
S4-1:对影像中画面进行图像分割,提出出若干激光点的像素坐标;
S4-2:对激光点进行图像匹配;
S4-3:进行三维重构运算,获得场景的三维信息。
上面的描述中阐述了很多具体细节以便于充分理解本发明,但是,本发明还可以采用其他不同于在此描述的其他方式来实施,因此,不能理解为对本发明保护范围的限制。
总之,本发明虽然例举了上述优选实施方式,但是应该说明,虽然本领域的技术人员可以进行各种变化和改型,除非这样的变化和改型偏离了本发明的范围,否则都应该包括在本发明的保护范围内。

Claims (7)

1.一种多尺度双轴旋转激光影像三维重构系统,其特征在于:包括旋转控制平台、图像采集系统、标定板、线结构激光器、计算机重构处理系统;
所述旋转控制平台包括电控旋转台(1)和安装在电控旋转台(1)上的伸缩旋转支架(2),伸缩旋转支架(2)为T型结构,伸缩旋转支架(2)具有两个支臂(4、5),所述支臂(4、5)的长度可调,所述支臂(4、5)外端装有可360度旋转的旋转台;
所述图像采集系统包括两个图像传感器(6、7),两个图像传感器(6、7)分别安装在两个支臂(4、5)端部的旋转台上;所述两个图像传感器(6、7)水平放置,互成一定夹角;所述两个图像传感器(6、7)型号相同,每个传感器上装有型号相同的可变焦FA镜头;
所述线结构激光器(3)安装在电控旋转台(1)的旋转中心处,所发出的线激光垂直于水平面,线激光所在平面、两个图像传感器(6、7)所拍摄的图像平面相交于一条垂直于水平面的直线;
所述计算机重构处理系统用于摄像头系统标定、影像匹配与三维重构运算。
2.一种利用权利要求1所述重构系统实现的重构方法,其特征在于包括如下步骤:
S1、根据测量场景大小调节所述旋转控制平台中两图像传感器的夹角与所述图像采集系统的测量距离参数;
S2、图像采集系统的标定;
S3、结合线激光旋转扫描采集图像;
S4、在计算机重构处理系统中对图像进行处理,重构出三维场景。
3.根据权利要求2所述的重构方法,其特征在于,在步骤S1中,所述根据测量场景大小调节所述旋转控制平台中两图像传感器的夹角与所述图像采集系统的测量距离参数,具体包括如下步骤:
S1-1:调整支架两端的长度和两图像传感器间的夹角,使两图像传感器的光轴交点到旋转中心的距离与所测场景的半径长度相等;
S1-2:调整可变焦FA镜头,设置合适的焦距。
4.根据权利要求2所述的重构方法,其特征在于,在步骤S2中,图像采集系统的标定包括如下步骤:
S2-1:变换标定板的姿态,用图像采集系统拍摄标定板不同姿态下的图像各两幅;
S2-2:对所拍摄的两幅图像进行标定点像素坐标提取,在计算机重构处理系统中进行摄像头系统标定,分别得出两图像传感器在该旋转角度下的相机矩阵M1-0与M2-0;
S2-3:通过对相机矩阵进行矩阵运算计算出图像采集系统每旋转1°对应的两个图像传感器相机矩阵M1-1与M2-1,M1-2与M2-2,……,M1-359与M2-359,即标定完成。
5.根据权利要求2所述的重构方法,其特征在于,在步骤S2-3中,所述通过对相机矩阵进行矩阵运算计算出图像采集系统每旋转1°对应的两个图像传感器相机矩阵M1-1与M2-1,M1-2与M2-2,……,M1-359与M2-359,具体包括:
标定时以旋转角为0°设定世界坐标系各轴的方向,其中X轴平行水平面向右,Y轴垂直水平面向下,Z轴平行水平面指向两摄像机成像平面的交线;
以相机矩阵M1-0为例,使用标定板标定后得出的矩阵M1-0是一个3×4的矩阵,当图像采集系统旋转α°时,这里选定α=1,实际上等价于摄像机自身旋转α°后,再在X轴与Z轴方向上分别平移了L1与L2的距离;
其中L1=L·(1-cosα),L2=L·sinα;L为所述旋转控制平台中心与所述图像传感器的距离;
根据几何变换的矩阵运算,可得旋转矩阵R与平移矩阵T:
即可求得旋转α°下的新摄像机矩阵M1-α=(M1-0)·R·T。
6.根据权利要求2所述的重构方法,其特征在于,在步骤S3中,进行图像采集时线结构激光器与两图像传感器以相同的角速度绕电控旋转台的旋转中心进行旋转,结合线激光旋转扫描采集影像包括如下步骤:
S3-1:启动线结构激光器,使线激光照射在场景表面;
S3-2:启动电控旋转台,每旋转1°进行一次图像对的采集;
S3-3:旋转一周后将所采集的图像对存储在计算机重构处理系统中。
7.根据权利要求2所述的重构方法,其特征在于,在步骤S4中,在计算机重构处理系统里对影像进行处理包括如下步骤:
S4-1:对影像中画面进行图像分割,提出若干激光点的像素坐标;
S4-2:对激光点进行图像匹配;
S4-3:进行三维重构运算,获得场景的三维信息。
CN201510980774.XA 2015-12-22 2015-12-22 多尺度双轴旋转激光影像三维重构系统及其方法 Expired - Fee Related CN105466397B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510980774.XA CN105466397B (zh) 2015-12-22 2015-12-22 多尺度双轴旋转激光影像三维重构系统及其方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510980774.XA CN105466397B (zh) 2015-12-22 2015-12-22 多尺度双轴旋转激光影像三维重构系统及其方法

Publications (2)

Publication Number Publication Date
CN105466397A CN105466397A (zh) 2016-04-06
CN105466397B true CN105466397B (zh) 2018-09-25

Family

ID=55604357

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510980774.XA Expired - Fee Related CN105466397B (zh) 2015-12-22 2015-12-22 多尺度双轴旋转激光影像三维重构系统及其方法

Country Status (1)

Country Link
CN (1) CN105466397B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12120405B2 (en) * 2021-01-11 2024-10-15 Michael Toth Multi-spectral imaging system for mobile devices

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105806242B (zh) * 2016-04-15 2018-06-05 同济大学 采用激光旋转扫描的面型测量装置
CN106772423A (zh) * 2016-11-11 2017-05-31 中国船舶重工集团公司第七�三研究所 一种智能水下激光主动成像装置和成像方法
CN108665542A (zh) * 2018-04-25 2018-10-16 南京理工大学 一种基于线激光的场景三维形貌重建系统及方法
CN110566415B (zh) * 2019-08-19 2024-07-26 华电电力科学研究院有限公司 一种风电机组叶片表面故障快速拍照车及拍照方法
CN113100754B (zh) * 2020-01-21 2023-02-03 天目爱视(北京)科技有限公司 一种3d信息采集测量设备
CN116358422B (zh) * 2023-05-31 2023-08-25 河北工业大学 一种铁路接触网的导高与拉出值测量方法及装置

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1865844A (zh) * 2006-06-08 2006-11-22 天津世纪动力光电科学仪器有限公司 便携式无导轨结构光三维扫描测量系统及其测量方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001074428A (ja) * 1999-09-03 2001-03-23 Sanyo Electric Co Ltd 形状測定装置の校正方法及び校正治具
CN103236076B (zh) * 2013-04-11 2016-01-20 武汉大学 基于激光影像的物体三维模型重建系统及方法
CN103198524B (zh) * 2013-04-27 2015-08-12 清华大学 一种大规模室外场景三维重建方法
TWI486551B (zh) * 2013-10-21 2015-06-01 Univ Nat Taiwan Science Tech 三維資料擷取方法及其系統
CN104266585A (zh) * 2014-08-28 2015-01-07 合肥斯科尔智能科技有限公司 一种具有拍摄角度自调节功能的扫描系统
CN204863196U (zh) * 2015-05-21 2015-12-16 长沙维纳斯克信息技术有限公司 一种三维人体扫描装置
CN104848800A (zh) * 2015-06-17 2015-08-19 中国地质大学(武汉) 一种基于线激光扫描的多视角三维成像装置
CN205209488U (zh) * 2015-12-22 2016-05-04 广东工业大学 多尺度双轴旋转激光影像三维重构系统

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1865844A (zh) * 2006-06-08 2006-11-22 天津世纪动力光电科学仪器有限公司 便携式无导轨结构光三维扫描测量系统及其测量方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于激光扫描的人脸三维重建方法;杨宇等;《红外与激光工程》;20141231;第43卷(第12期);第3946-3950页 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12120405B2 (en) * 2021-01-11 2024-10-15 Michael Toth Multi-spectral imaging system for mobile devices

Also Published As

Publication number Publication date
CN105466397A (zh) 2016-04-06

Similar Documents

Publication Publication Date Title
CN105466397B (zh) 多尺度双轴旋转激光影像三维重构系统及其方法
WO2016037486A1 (zh) 人体三维成像方法及系统
TWI555379B (zh) 一種全景魚眼相機影像校正、合成與景深重建方法與其系統
US10008028B2 (en) 3D scanning apparatus including scanning sensor detachable from screen
CN108921901A (zh) 一种基于精密二轴转台和激光跟踪仪的大视场相机标定方法
CN102679959B (zh) 基于主动全景视觉传感器的全方位三维建模系统
WO2019071157A4 (en) Generation of one or more edges of luminosity to form three-dimensional models of objects
CN107358633A (zh) 一种基于三点标定物的多相机内外参标定方法
CN104807494B (zh) 物体微观表面形貌的光学五自由度测量装置及测量方法
CN106625673A (zh) 狭小空间装配系统及装配方法
CN111009030A (zh) 一种多视高分辨率纹理图像与双目三维点云映射方法
CN107063640B (zh) 一种背靠式双镜头光轴一致性测试治具及其测试方法
CN112949478A (zh) 基于云台相机的目标检测方法
CN104079810A (zh) 一种三维全景扫描装置及三维模型生成方法
CN105783880B (zh) 一种单目激光辅助舱段对接方法
CN111189415A (zh) 一种基于线结构光的多功能三维测量重建系统及方法
CN113554559B (zh) 带有多重复杂曲面旋转对称模型的三维重建方法及装置
CN106918306A (zh) 基于光场单相机的工业产品三维形貌实时检测系统
CN109178329A (zh) 一种第一视角巡线机器人
CN114413790B (zh) 固连摄影测量相机的大视场三维扫描装置及方法
CN113763480B (zh) 一种多镜头全景摄像机组合标定方法
CN105931177B (zh) 特定环境下的图像采集处理装置及其方法
CN105806258A (zh) 一种适用于牙颌模型的分立式三维测量系统及其标定方法
CN111951380B (zh) 基于单目立体视觉的三维重建装置及方法
CN105004283A (zh) 一种适用于牙颌模型三维测量的定位系统及其标定方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20180925

Termination date: 20211222

CF01 Termination of patent right due to non-payment of annual fee