CN103308000A - 基于双目视觉的曲线物体测量方法 - Google Patents

基于双目视觉的曲线物体测量方法 Download PDF

Info

Publication number
CN103308000A
CN103308000A CN2013102438571A CN201310243857A CN103308000A CN 103308000 A CN103308000 A CN 103308000A CN 2013102438571 A CN2013102438571 A CN 2013102438571A CN 201310243857 A CN201310243857 A CN 201310243857A CN 103308000 A CN103308000 A CN 103308000A
Authority
CN
China
Prior art keywords
point
curve object
edge
image
plane
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2013102438571A
Other languages
English (en)
Other versions
CN103308000B (zh
Inventor
杨杰
王川
孙亚东
张良俊
伍美俊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wuhan University of Technology WUT
Original Assignee
Wuhan University of Technology WUT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wuhan University of Technology WUT filed Critical Wuhan University of Technology WUT
Priority to CN201310243857.1A priority Critical patent/CN103308000B/zh
Publication of CN103308000A publication Critical patent/CN103308000A/zh
Application granted granted Critical
Publication of CN103308000B publication Critical patent/CN103308000B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

本发明涉及一种基于双目视觉的曲线物体测量方法,包括:获得待测曲线物体的左、右图像;标定所述左、右摄像机;计算图像匹配所需的极性约束条件;将所述右图像中待测曲线物体的边缘点在左图像中进行匹配,得到边缘匹配点对;将边缘匹配点对进行三角重构,获得待测曲线物体边缘点在所述左摄像机坐标系中的三维坐标集;根据所述三维坐标集计算所述右图像中待测曲线物体边缘点的平面方程解析式的最优解以及边缘点到待测曲线所在平面的距离,如果该距离大于阈值,进行非线性最优化,计算边缘解析式,得到待侧曲线物体的尺寸参数。本发明方法测量过程中不需要使用标定板,操作简单,且测量精度高,能够满足实际应用要求。

Description

基于双目视觉的曲线物体测量方法
技术领域
本发明涉及具有曲线形状物体的尺寸测量,具体地指一种基于双目视觉的曲线物体测量方法。
背景技术
随着精密制造业的高速发展,目前的测量手段存在着测量精度不高、测量过程复杂、需要人工重复操作等缺点。相反,基于机器视觉的图像测量技术得到了人们大量关注,图像测量技术具有非接触、测量精确和人工干预少等优点。图像测量的方法具有的高分辨率、高灵敏度、光谱响应宽、动态范围大等特性是传统测量仪器所无法比拟的,因此图像测量用于零部件的尺寸精密测量。
图像测量的方法包括单目测量、双目测量以及多目测量。其中,单目测量不仅需要重新放置标定板,而且需要标定板与测量平面的位置参数关系,测量繁琐且误差大;多目测量的算法复杂度高,且图像匹配复杂;因此,双目测量技术得到了广泛关注,双目测量的核心技术包括摄像机标定、图像匹配和三维重构。
在实际的应用需求中,利用双摄像机对具有曲线形状的零部件(如圆形、圆锥等)的尺寸参数的测量是一个亟待解决的问题。但是,在使用图像测量时,由于曲线形状的零部件边缘点距离间隔小而且特征信息相似性大,所以图像匹配点对的寻找是该类零部件尺寸测量的一大难题。另外,无法直接通过图像处理方法找到焦点特征点的位置,所以曲线形状边缘的焦点三维坐标位置的确定是图像测量的另一难题。
发明内容
本发明的目的在于克服上述现有技术的不足而提供一种基于双目视觉的曲线物体测量方法,用于测量具有曲线形状物体的尺寸。
实现本发明目的采用的技术方案是:一种基于双目视觉的曲线物体测量方法,其特征在于,包括以下步骤:
(1)双目视觉测量系统的左、右摄像机分别获得待测曲线物体的左、右图像;
(2)标定所述左、右摄像机,获得左、右摄像机的内部参数和外部参数;
(3)计算图像匹配所需的极性约束条件;
(4)将所述右图像中待测曲线物体的边缘点在左图像中进行匹配,得到边缘匹配点对;
(5)通过三角重构法将所述边缘匹配点对进行三角重构,获得待测曲线物体边缘点在所述左摄像机坐标系中的三维坐标集;
(6)根据所述三维坐标集计算所述右图像中待测曲线物体边缘点的平面方程解析式的最优解以及边缘点到待测曲线所在平面的距离D,如果所述距离D小于阈值H,则删除图像误匹配点;如果所述距离D大于阈值H,进行非线性最优化,计算边缘解析式,得到待侧曲线物体的尺寸参数。
在上述技术方案中,步骤(3)中的极性约束条件为:
若左图像平面上一点PL为右图像上一点Pr的匹配点,则PL在Pr的外极线上,满足下式
FPL=0
式中,F=lpror*lorol,lpror为右图像上的点Pr到右摄像机光心Or直线的平行向量,lorol为左摄像机光心Ol和右摄像机光心Or的平行向量。
本发明采用的极线约束条件能够有效地进行图像匹配,采用LM非线性最优化算法能够快速的去除误匹配点和计算出边缘的解析式方程得到零部件的尺寸参数。相对现有双目测量技术,本发明方法测量过程中不需要使用标定板,操作简单,且采用本方法测量曲线物体的精度高,能够满足实际应用要求。
附图说明
图1为本发明基于双目视觉的曲线物体测量方法的流程图;
图2为双目立体结构示意图;
图3a为左图像边缘提取结构示意图;
图3b为右图像边缘提取结构示意图;
图4a为三维重构得到的原始点集;
图4b为图3a进行删选后的点集;
图5为待测圆形物体拟合效果图。
具体实施方式
下面结合附图和具体实施例对本发明作进一步的详细说明。
本发明基于双目视觉的曲线物体测量方法用于测量具有曲线形状物体的尺寸,本实施例以待测曲线物体为圆形物体进行详细说明。
本发明测量方法具体包括以下步骤:
步骤S101、双目视觉测量系统的左、右摄像机分别获得待测曲线物体的左、右图像。
步骤S102、对上述双目视觉测量系统的左、右摄像机进行标定,得到左、右摄像机的内部参数和外部参数。
其中,左、右摄像机标定的内部参数包括:摄像机CCD芯片上相邻像素点的物理距离dx、dy,摄像机主距f,摄像机畸变参数k_1,k_2,p_1,p_2,摄像机光学中心在图像上的投影点坐标(u0,v0)。
左、右摄像机标定的外部参数包括:旋转矩阵R=R(α,β,γ)和平移向量T=(tx,ty,tz)T,其中,旋转矩阵R(α,β,γ)由右摄像机坐标系z轴绕左摄像机坐标系z轴旋转角度γ,右摄像机y轴绕左摄像机y轴旋转角度β,右摄像机x轴绕左摄像机x轴旋转角度α确定;平移向量T=(tx,ty,tz)T由右摄像机坐标系原点在左摄像机坐标系中的坐标(tx,ty,tz)T确定。R和T中的参数决定了摄像机坐标系与世界坐标系之间的相对位置关系。
摄像机标定系统中包含四个坐标系,它们分别为:世界坐标系ow,xw,yw,zw、摄像机坐标系oc,xc,yc,zc、图像坐标系oxy和计算机图像坐标系uv,各坐标系之间能够相互转换。
从世界坐标系到摄像机坐标系的变换属于刚性变换,由平移和旋转组成。因此,在世界坐标系中点Pw=(xw,yw,zw)T在摄像机坐标系中的坐标为Pc=(xc,yc,zc)T,它们之间的关系为Pc=RPw+T。
标定之后得到在世界坐标系中左右两摄像机的旋转矩阵为Rl和Rr,平移矩阵Tl和Tr,则右摄像机相对于左摄像机的旋转矩阵为
Figure BDA00003371634200041
和平移矩阵为 T r 21 = T 1 - R 1 R r - 1 T r :
双目标定得到摄像机的内部参数和外部参数,其中外部参数包括左右摄像机之间的相对位置关系。
以上标定方法和对各参数的标定均为现有技术,此处不再赘述。
步骤S103、计算图像匹配所需的极性约束条件。
在进行图像匹配之前,通过规定一些约束条件不仅可以减少运算量,也可以用来缩小待选匹配点的范围,减少歧义。本发明所使用的约束条件是含有标定信息的极线约束条件。如图2所示,在双目立体结构图中,点pl、ol和or三点所确定的平面被称为外极平面,外极平面与像平面的相交的直线称为外极线。对于左图像任意一点Pl,它所对应的空间点Pw必然在olpl直线上,该直线与点or构成的外极平面与右像平面构相交而成的外极线称为pl的外极线。容易看出,pl在右图像中的匹配点pr必然在pl的外极线上,这就是外极线约束。
本发明使用的含有标定信息的极线约束条件为:
对于左图像平面上一点PL[ul,vl,fl],ul,vl是该点计算机图像坐标系uv中的坐标,fl为左摄像机主距。若PL[ul,vl,fl]为右图像上一点Pr的匹配点,则PL在Pr的外极线上,满足下式的约束条件:
FPL=F[ul,vl,fl]=0
式中,F为右图像中一点pr及左、右摄像机光心ol、or构成的外极平面的法向量,且有:
F=lpror*lorol
式中,lpror为Pr到光心Or直线的平行向量,lorol为光心Ol和Or的平行向量,且lpror=RPr=R[ur,vr,fr],lorol=T。
步骤S104:对所述右图像中待测曲线物体的边缘点在左图像中进行匹配,获得图像匹配点对。
图像匹配方法包括区域匹配、特征匹配和相位匹配,区域匹配是根据图像子区域的灰度信息进行相似性度量和匹配;特征匹配基于特征属性定义相似性,特征属性包括边缘、线段的走向、线段的长度等;相位匹配是根据带通信号之间的相关度来进行匹配的。
本实施例以基于特征的匹配方法进行图像匹配,首先利用Canny边缘提取算法提取左、右两图像中待测量对象的边缘和获取边缘点的方向,提取边缘如图3a和图3b所示。因为外极线与圆形边缘可能相交于1个点或2个点,所以对于任意右图像边缘点Pr在左边图像边缘点集中寻找使FPL绝对值最小的两个点,作为待选匹配点P1和P2。然后提取P1和P2的边缘方向角度,选取与Pr边缘方向角度最接近的点作为Pr的匹配点,所有右图像中待测曲线物体的边缘点在左图像中的匹配点形成匹配点对。
步骤S105:将所得图像匹配点对,根据三角法重构原理获得待测曲线物体在左摄像机坐标系中的坐标集,如图4a所示。
步骤S106:计算测量圆平面方程解析式的最优解,以及边缘点到圆平面P的距离D,所述最优解即为圆形曲线的解析式。
对于坐标集中的所有坐标,并不能准确满足如式(1)和式(3)所述的3D圆的参数方程条件,每一个边缘点到圆心的距离并不准确等于半径r,所有的边缘点并不准确的位于同一平面内。因此,本实施例根据Levenberg-Marquardt最小均方优化算法(LM算法)进行三维空间圆拟合,获取圆形测量对象的半径参数。
计算测量圆平面P的解析式和删除误匹配点,圆平面P的解析式如式(1)表述,利用LM算法求得使式(2)达到最小的值时的d、e、f、g的参数值。d、e、f、g是圆平面p的方程参数,(xi,yi,zi)是匹配点的三维坐标。
P:d*x+e*y+f*z+g=0          (1)
J 1 = Σ i = 1 n ( d * x i + e * y i + f * z i + g ) 2 - - - ( 2 )
将坐标集所有的坐标点代入LM算法,求得圆平面P方程的初始参数;
步骤S107:判断边缘点到圆平面P的距离D是否小于阈值λ,λ是任意设置的阈值,可以根据实验情况设定。
步骤S109:将到圆平面P的距离大于λ的坐标点去除出坐标集,如图4b所示。
步骤S108:若坐标集中的样本点到圆平面P的距离都小于λ,则进行非线性最优化,计算边缘解析式,得到待侧曲线物体的尺寸参数。即:
计算圆的半径参数,圆的方程可以由式(3)表示,(a,b,c)T表示圆心的三维坐标,r表示半径长度。利用LM算法求得使式(4)达到最小值时圆方程参数a、b、c和r的值,即得到待测试曲线物体(圆形物体)的尺寸。参数a、b、c的初始值可以设为经步骤S106删选后的点集的三维坐标平均值。图5所示即为边缘圆拟合效果图
(xi-a)2+(yi-b)2+(zi-c)2-r2=0          (3)
J 2 = Σ i = 1 n ( ( x i - a ) 2 + ( y i - b ) 2 + ( z i - c ) 2 - r 2 ) 2 - - - ( 4 )
本发明提出了含标定信息的极线约束条件。双目标定可以确定两个相机坐标系之间的位置关系,根据双目相机立体结构,计算出含有相机实际位置参数的极线约束条件,用于图像匹配点的寻找。该约束条件可以有效的缩小图像匹配点的寻找范围,减小匹配算法的复杂度。
利用Levenberg-Marquardt非线性优化算法(LM算法)计算圆锥边缘所在平面的解析式方程,利用三维点到圆锥平面的距离大于规定阈值,则去除误匹配点。若有三维点被去除,则重新计算平面方程和去除误匹配点,迭代这一过程。若无三维点被去除,则得到圆锥平面方程。再利用LM算法求得平面内的圆锥曲线方程,得出焦点的三维坐标,进而得到圆锥零部件的尺寸参数。

Claims (5)

1.一种基于双目视觉的曲线物体测量方法,其特征在于,包括以下步骤:
(1)双目视觉测量系统的左、右摄像机分别获得待测曲线物体的左、右图像;
(2)标定所述左、右摄像机,获得左、右摄像机的内部参数和外部参数;
(3)计算图像匹配所需的极性约束条件;
(4)将所述右图像中待测曲线物体的边缘点在左图像中进行匹配,得到边缘匹配点对;
(5)通过三角重构法将所述边缘匹配点对进行三角重构,获得待测曲线物体边缘点在所述左摄像机坐标系中的三维坐标集;
(6)根据所述三维坐标集计算所述右图像中待测曲线物体边缘点的平面方程解析式的最优解以及边缘点到待测曲线所在平面的距离D,如果所述距离D小于阈值H,则删除图像误匹配点;如果所述距离D大于阈值H,进行非线性最优化,计算边缘解析式,得到待侧曲线物体的尺寸参数。
2.根据权利要求要求1所述基于双目视觉的曲线物体测量方法,其特征在于,步骤(3)中的极性约束条件为:
若左图像平面上一点PL为右图像上一点Pr的匹配点,则PL在Pr的外极线上,满足下式
FPL=0
式中,F=lpror*lorol,lpror为右图像上的点Pr到右摄像机光心Or直线的平行向量,lorol为左摄像机光心Ol和右摄像机光心Or的平行向量。
3.根据权利要求要求2所述基于双目视觉的曲线物体测量方法,其特征在于:
lpr r=RPr=R[ur,vr,fr],Pr[ur,vr,fr]为右图像平面上一点,ur,vr是该点计算机图像坐标系uv中的坐标,fr右左摄像机主距。
4.根据权利要求要求1或2或3所述基于双目视觉的曲线物体测量方法,其特征在于,步骤(4)具体包括:
首先利用Canny边缘提取算法提取左右两幅图像中待测曲线物体的边缘和获取边缘点的方向,对于右图像边缘点Pr在左边图像边缘点集中寻找使FPL绝对值最小的两个点,作为待选匹配点P1和P2
然后提取P1和P2的边缘方向角度,选取与Pr边缘方向角度最接近的点作为Pr的匹配点。
5.根据权利要求要求1所述基于双目视觉的曲线物体测量方法,其特征在于,步骤(6)具体包括:
根据Levenberg-Marquardt非线性优化算法计算待测曲线物体边缘所在平面的解析式方程,利用三维点到待测曲线物体平面的距离大于阈值,则去除误匹配点。若有三维点被去除,则重新计算平面方程和去除误匹配点,迭代这一过程;若无三维点被去除,则得到圆锥平面方程。再利用LM算法求得平面内的圆锥曲线方程,得出焦点的三维坐标,进而得到圆锥零部件的尺寸参数。
CN201310243857.1A 2013-06-19 2013-06-19 基于双目视觉的曲线物体测量方法 Expired - Fee Related CN103308000B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201310243857.1A CN103308000B (zh) 2013-06-19 2013-06-19 基于双目视觉的曲线物体测量方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201310243857.1A CN103308000B (zh) 2013-06-19 2013-06-19 基于双目视觉的曲线物体测量方法

Publications (2)

Publication Number Publication Date
CN103308000A true CN103308000A (zh) 2013-09-18
CN103308000B CN103308000B (zh) 2015-11-18

Family

ID=49133495

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310243857.1A Expired - Fee Related CN103308000B (zh) 2013-06-19 2013-06-19 基于双目视觉的曲线物体测量方法

Country Status (1)

Country Link
CN (1) CN103308000B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103542981A (zh) * 2013-09-28 2014-01-29 大连理工大学 一种双目视觉测量转动惯量的方法
CN104063689A (zh) * 2014-06-20 2014-09-24 南京航空航天大学 一种基于双目立体视觉的人脸图像识别方法
CN107238374A (zh) * 2017-05-04 2017-10-10 华南农业大学 一种不规则平面零件的分类和识别定位方法
CN108489515A (zh) * 2018-03-21 2018-09-04 南昌航空大学 一种基于散焦图像的大视场立体视觉系统标定方法
CN109255844A (zh) * 2017-07-12 2019-01-22 通用电气公司 用于使用视频检查设备测量特征的尺寸的图形叠加层
CN110675449A (zh) * 2019-09-02 2020-01-10 山东科技大学 一种基于双目相机的离岸流检测方法
CN112611325A (zh) * 2020-12-07 2021-04-06 东莞市兆丰精密仪器有限公司 一种激光中心的标定方法及其与影像中心同步的标定方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07287764A (ja) * 1995-05-08 1995-10-31 Omron Corp 立体視方法およびその方法が用いられる立体認識装置
JPH07296185A (ja) * 1994-04-28 1995-11-10 Canon Inc 3次元画像表示装置
US20020029127A1 (en) * 2000-07-19 2002-03-07 Asahi Kogaku Kogyo Kabushiki Kaisha Method and apparatus for measuring 3-D information
CN1566900A (zh) * 2003-06-11 2005-01-19 北京航空航天大学 一种空间圆几何参数的视觉测量方法
CN101093160A (zh) * 2007-07-12 2007-12-26 上海交通大学 基于双目立体视觉技术的空间圆几何参数的测量方法
CN102012217A (zh) * 2010-10-19 2011-04-13 南京大学 一种基于双目视觉的大形貌物体三维几何外形测量方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07296185A (ja) * 1994-04-28 1995-11-10 Canon Inc 3次元画像表示装置
JPH07287764A (ja) * 1995-05-08 1995-10-31 Omron Corp 立体視方法およびその方法が用いられる立体認識装置
US20020029127A1 (en) * 2000-07-19 2002-03-07 Asahi Kogaku Kogyo Kabushiki Kaisha Method and apparatus for measuring 3-D information
CN1566900A (zh) * 2003-06-11 2005-01-19 北京航空航天大学 一种空间圆几何参数的视觉测量方法
CN101093160A (zh) * 2007-07-12 2007-12-26 上海交通大学 基于双目立体视觉技术的空间圆几何参数的测量方法
CN102012217A (zh) * 2010-10-19 2011-04-13 南京大学 一种基于双目视觉的大形貌物体三维几何外形测量方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
张浩鹏: "双目立体视觉及管口视觉测量系统研究", 《中国优秀硕士学位论文全文数据库信息科技辑》 *
李鹤喜等: "采用极线约束与圆窗口匹配的立体视觉检测", 《计算机工程与应用》 *

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103542981A (zh) * 2013-09-28 2014-01-29 大连理工大学 一种双目视觉测量转动惯量的方法
CN103542981B (zh) * 2013-09-28 2015-07-29 大连理工大学 一种双目视觉测量转动惯量的方法
CN104063689A (zh) * 2014-06-20 2014-09-24 南京航空航天大学 一种基于双目立体视觉的人脸图像识别方法
CN104063689B (zh) * 2014-06-20 2017-04-19 南京航空航天大学 一种基于双目立体视觉的人脸图像识别方法
CN107238374A (zh) * 2017-05-04 2017-10-10 华南农业大学 一种不规则平面零件的分类和识别定位方法
CN107238374B (zh) * 2017-05-04 2019-05-07 华南农业大学 一种不规则平面零件的分类和识别定位方法
CN109255844A (zh) * 2017-07-12 2019-01-22 通用电气公司 用于使用视频检查设备测量特征的尺寸的图形叠加层
CN109255844B (zh) * 2017-07-12 2023-08-22 通用电气公司 用于使用视频检查设备测量特征的尺寸的方法
CN108489515A (zh) * 2018-03-21 2018-09-04 南昌航空大学 一种基于散焦图像的大视场立体视觉系统标定方法
CN110675449A (zh) * 2019-09-02 2020-01-10 山东科技大学 一种基于双目相机的离岸流检测方法
CN112611325A (zh) * 2020-12-07 2021-04-06 东莞市兆丰精密仪器有限公司 一种激光中心的标定方法及其与影像中心同步的标定方法

Also Published As

Publication number Publication date
CN103308000B (zh) 2015-11-18

Similar Documents

Publication Publication Date Title
CN107767442B (zh) 一种基于Kinect和双目视觉的脚型三维重建与测量方法
CN103308000B (zh) 基于双目视觉的曲线物体测量方法
CN107833181B (zh) 一种基于变焦立体视觉的三维全景图像生成方法
CN106384383A (zh) 一种基于fast和freak特征匹配算法的rgb‑d和slam场景重建方法
CN105205858A (zh) 一种基于单个深度视觉传感器的室内场景三维重建方法
CN104599258B (zh) 一种基于各向异性特征描述符的图像拼接方法
CN107680156B (zh) 基于偏振信息的三维重建方法
CN106485690A (zh) 基于点特征的点云数据与光学影像的自动配准融合方法
CN104182982A (zh) 双目立体视觉摄像机标定参数的整体优化方法
CN103971404A (zh) 一种高性价比的3d实景复制装置
CN103971378A (zh) 一种混合视觉系统中全景图像的三维重建方法
CN108305277B (zh) 一种基于直线段的异源图像匹配方法
CN110223355B (zh) 一种基于双重极线约束的特征标志点匹配方法
Wang et al. Single view metrology from scene constraints
AliAkbarpour et al. Fast structure from motion for sequential and wide area motion imagery
CN110879080A (zh) 一种高温锻件高精度智能测量仪和测量方法
CN107084680A (zh) 一种基于机器单目视觉的目标深度测量方法
CN102221331A (zh) 一种基于不对称双目立体视觉技术的测量方法
CN104408772A (zh) 一种基于网格投影的自由曲面三维重建方法
JP2018538709A (ja) ピクセルビームを表すデータを生成する方法及び装置
CN106500625A (zh) 一种远心立体视觉测量装置及其应用于物体三维形貌微米级精度测量的方法
CN109584157A (zh) 物体平面度测量方法及装置、存储介质、电子测量设备
Ran et al. Point cloud registration method based on SIFT and geometry feature
CN116071424A (zh) 基于单目视觉的果实空间坐标定位方法
CN105654479A (zh) 多光谱图像配准方法和装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20151118

Termination date: 20160619