CN103106661B - 空间二条相交直线线性求解抛物折反射摄像机内参数 - Google Patents

空间二条相交直线线性求解抛物折反射摄像机内参数 Download PDF

Info

Publication number
CN103106661B
CN103106661B CN201310044091.4A CN201310044091A CN103106661B CN 103106661 B CN103106661 B CN 103106661B CN 201310044091 A CN201310044091 A CN 201310044091A CN 103106661 B CN103106661 B CN 103106661B
Authority
CN
China
Prior art keywords
picture
image
parabolic catadioptric
equation
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201310044091.4A
Other languages
English (en)
Other versions
CN103106661A (zh
Inventor
赵越
周炳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yunnan University YNU
Original Assignee
Yunnan University YNU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yunnan University YNU filed Critical Yunnan University YNU
Priority to CN201310044091.4A priority Critical patent/CN103106661B/zh
Publication of CN103106661A publication Critical patent/CN103106661A/zh
Application granted granted Critical
Publication of CN103106661B publication Critical patent/CN103106661B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Analysis (AREA)

Abstract

本发明涉及一种利用空间中二条相交直线线性求解抛物折反射摄像机内参数的方法,该方法是由空间中二条相交直线构成的用于抛物折反射摄像机自标定的靶标(标定物)。使用抛物折反射摄像机对靶标从不同的方向拍摄3幅图像,直线的抛物折反射图像是二次曲线,从图像上提取边界像素点坐标以及3幅靶标图像像点坐标,分别拟合曲线方程,根据调和共轭和两条平行直线的像相交于一点,得出图像平面上正交方向上的消失点的像,利用正交方向上的像对绝对二次曲线的像的约束线性求解摄像机内参数。利用本发明中的靶标可以实现全自动标定,减少了标定过程中由测量引起的误差。由于直线是一种更简洁更全局化的基元,在摄像机标定过程中提高了标定精度。

Description

空间二条相交直线线性求解抛物折反射摄像机内参数
技术领域
本发明属于计算机研究领域,涉及一种用于求解抛物折反射摄像机内参数的直线模板。利用空间中二条相交直线作为标定模板,利用正交方向上消失点的像,线性确定抛物折反射摄像机内参数。
背景技术
计算机视觉的基本任务之一,就是从摄像机获得的二维图像信息出发恢复物体在三维空间中的几何信息,从而识别和重建三维空间中物体的几何形状。在此过程中必须确定空间物体点的三维几何位置与其图像中的对应点之间的相互关系,而这种关系又由摄像机成像的几何模型决定的,这些几何模型的参数就是摄像机参数。在大多数条件下,这些参数都是通过实验得到的,这就是摄像机标定。它一般分为传统标定和自标定两种方法,无论哪种标定方法,标定物体都是采用一些特殊的几何模型,例如:平面正方形、三角形、圆、空间立方体及圆柱等等。如何建立这些几何模型与摄像机参数之间的关系尤其是某种线性的关系,是目前摄像机标定所追求的目标,也是目前计算机视觉领域研究的热点之一。抛物折反射摄像机由一个抛物镜面和一个正交摄像机组成,可视范围大且保持单视点约束,是现代视觉领域研究热点。文献“Plane-basedcalibrationofcentralcatadioptriccameras”,(S.Gasparini,P.Sturm,J.P.Barreto,IEEE12thInternationalConferenceonComputerVision,pp.1195-1202,2009.)要用到有控制点的二维模板,这些控制点可以是角点、画上去的点或者任何容易由图像上提取的点,但是这种方法需要用迭代的方法求解内参数和外参数。文献“CalibrationofcentralcatadioptriccamerasusingaDLT-likeapproach”(L.Puig,Y.Bastanlar,P.Sturm,J.J.Guerrero,J.Barreto,InternationaljournalofComputerVision,vol.93,pp.101-114,2011.)提出基于三维点的标定,这种方法需要知道单幅图像上三维点的位置。文献“Genericself-calibrationofcentralcameras”(S.Ramalingam,P.Sturm,S.K.Lodha,ComputerVisionandImageUnderstanding,vol.114,pp.210-219,2010.)提出一种自标定方法,无需知道点的空间位置及摄像机位置,但要利用多幅图像上点的对应关系。
直线是场景中最常见的几何元素,且直线的抛物折反射成像一般是二次曲线,二次曲线在摄像机标定过程中有很多良好的性质,因而利用直线对抛物折反射摄像机进行标定是一种简便常用的方法。文献“Geometricpropertiesofcentralcatadioptriclineimagesandthereapplicationincalibration”(I.P.Barreto,H.Araujo,IEEETransactionsonPatternAnalysisandMachineIntelligence,vol.27,pp.1327-1333,2005.)研究了中心折反射模型下直线图像的几何性质,并提出了适用于任何类型的中心折反射系统的标定方法。文献“Catadioptriccameracalibrationusinggeometricinvariants”(X.Ying,Z.Hu,IEEETransactionsonPatternAnalysisandMachineIntelligence,vol.26,No.10,pp.1260-1271,2004.)分析了折反射摄像机内参数与球的成像轮廓之间的关系,他们利用直线和球的投影进行标定,直线提供了三个不变量,球提供了两个不变量。文献“Easycalibrationforpara-catadioptric-likecamera”(Y.wu,Y.Li,A.Hu,IEEE/RSJInternationalConferenceonIntelligentRobotsandSystems,pp.5719-5724,2006.)建立了关于内参数的线性约束,将中心折反射模型转换为针孔模型,无需进行曲线拟合就可以标定折反射摄相机。
发明内容
本发明提供了一种制作简单,适用广泛,稳定性好的用于求解抛物折反射摄像机内参数的标定物,该标定物由空间中二条相交直线构成,直线的抛物折反射图像是二次曲线。在求解抛物折反射摄像机内参数的过程中,只需使用抛物折反射摄像机从不同的方向拍摄空间二条相交直线的3幅图像就可以线性求解出抛物折反射摄像机的5个内参数。
本发明采用如下技术方案:
本发明是由空间中二条相交直线构成的用于抛物折反射摄像机自标定的标定物。具体的步骤包括:从图像上提取图像边界点坐标以及空间中二条相交直线在不同方向的三幅图像的像点坐标,拟合边界椭圆方程和空间二条相交直线在不同方向的三幅图像的像点的所形成的曲线方程,根据调和共轭和两条平行直线的像相交于一点,得出三幅图像平面上正交方向消失点的像,利用正交方向消失点的像对绝对二次曲线的像的约束线性求解抛物折反射摄像机内参数。
1.拟合图像边界曲线方程
利用Matlab程序中的Edge函数提取出图像边界的像素坐标,并用最小二乘算法拟合出图像边界曲线方程。
2.计算图像中心的初始值
摄像机的镜面边缘在球模型中对应着一个与虚拟针孔相机光轴垂直的圆(如图1),其中为摄像机坐标系,为世界坐标系,其中为球心,为抛物折反射摄像机中心,方向为的方向,平行,平行,其成像投影是一个椭圆(称为边界椭圆),投影平面垂直于,投影椭圆中心即为图像中心,其坐标为()。成像面不同于一条空间直线的像,成像面边界椭圆是一条较完整的二次曲线,因而能够较好地拟合出它的代数方程。假设边界椭圆的二次曲线表示为,其中为系数,为曲线上的坐标,从而得到
3.得到空间中二条相交直线不同方向的三幅图像
假定抛物折反射摄像机固定不动,通过对空间的一对直线进行旋转和平移得到不同方向上的三幅图像。
4.拟合每幅图像的曲线方程以及求出二个曲线的交点
利用Matlab程序中的Edge函数分别提取出三幅图像中的空间直线像点坐标,并用最小二乘算法拟合出曲线方程。再利用Matlab程序中的Solve函数分别求出每幅图像中二个曲线的交点,为第几幅图像,记为
5.计算每幅图像中二个曲线交点处的切线方程
利用曲线的系数方程和交点坐标,分别求出交点关于曲线的切线方程。
6.计算正交方向上的消失点的像
在抛物折反射成像模型中(如图1),空间直线在抛物折反射镜面的投影是大圆,且它们的交点是),是大圆的圆心,同时也是)的中点,根据调和共轭可求出直线方向上的消失点的像(如图1),直线关于大圆的切线平行于直线(如图2),根据平行直线的像相交于同一点,得到直线的消失点的像(如图1),关于大圆的切线平行直线(如图2),根据平行直线的像相交于同一点,得到直线的消失点的像(如图1)。
7.求解抛物折反射摄像机内参数
使用抛物折反射摄像机拍摄3幅图像,由正交方向上消失点的像对绝对二次曲线的像的约束,线性求解出抛物折反射摄像机的5个内参数,即矩阵,其中为图像的畸变因子,为纵横比,为焦距,为主点坐标,为抛物折反射摄像机的5个内参数。
本发明优点:
1.该标定物制作简单,由空间中二条相交直线构成。
2.对该标定物的物理尺度没有要求,无需知道直线的世界坐标。
3.只需用抛物折反射摄像机拍摄3幅图像便可线性求解出抛物折反射摄像机的5个内参数。
附图说明
图1是用于空间二条相交直线求解抛物折反射摄像机内参数的示意图。
图2是标定物抛物折反射成像模型。
具体实施方式
一种用于求解抛物折反射摄像机内参数的标定物,它是由空间中二条相交直线构成的,如图1。用此新型标定物完成抛物折反射摄像机内参数的求解需要经过以下步骤:从图像上提取标定块像点坐标和边界像素坐标,拟合成像边界椭圆方程和空间直线像点的椭圆方程,根据调和共轭和平行直线的像相交于一点,得出图像平面上正交方向上消失点的像,利用正交方向上消失点的像对绝对二次曲线的像的约束线性求解抛物折反射摄像机内参数。利用本发明中的方法对用于实验的抛物折反射摄像机进行标定,具体步骤如下:
1.拟合图像边界曲线方程
利用Matlab程序中的函数Edge提取出图像边界的坐标,并用最小二乘算法拟合得成像边界曲线方程。
2.计算图像中心的初始值
摄像机的镜面边缘在球模型中对应着一个与虚拟针孔相机光轴垂直的圆(如图1),其中为摄像机坐标系,为世界坐标系,其中为球心,为抛物折反射摄像机中心,方向为的方向,平行,平行,其成像面是一个椭圆(称为边界椭圆),投影平面垂直于,投影椭圆中心即为图像中心,其坐标为()。成像面不同于一般空间直线的像,成像面边界椭圆是一条较完整的二次曲线,因而能够较好地拟合出它的代数方程。假设边界椭圆表示为,从而得到
3.得到空间中一条直线不同方向的三幅图像
假定抛物折反射摄像机固定不动,通过对空间的一条直线进行旋转和平移得到不同方向上的三幅图像。
4.拟合每幅图像的曲线以及求出二个曲线的交点
利用Matlab程序中的Edge函数分别提取出三幅图像中的空间直线像点坐标,并用最小二乘算法拟合出曲线方程。再利用Matlab程序中的Solve函数分别求出每幅图像中二个曲线的交点,为第几幅图像,记为
5.计算每幅图像中二个曲线交点处的切线方程
利用曲线的系数方程和交点坐标,分别求出交点关于曲线的切线方程。
6.计算正交方向上的消失点的像
在抛物折反射成像模型中(如图1),是大圆的圆心,大圆的交点是,则是第几幅图像,)的中点,根据调和共轭可求出直线方向上的消失点的像(如图1),关于大圆的切线平行直线(如图2),根据平行直线的像相交于同一点,得到直线的消失点的像(如图1),关于大圆的切线平行直线(如图2),根据平行直线的像相交于同一点,得到直线的消失点的像(如图1)。
7.求解抛物折反射摄像机内参数
使用抛物折反射摄像机拍摄3幅图像,由正交方向上消失点的像对绝对二次曲线的像的约束,线性求解出抛物折反射摄像机的5个内参数,即矩阵,其中为图像的畸变因子,为纵横比,为焦距,为主点坐标,为抛物折反射摄像机的5个内参数。
实施例
本发明提出了利用空间中两条直线作为标定块线性确定抛物折反射摄像机的内参数。本发明采用的实验模块结构示意图如图1所示。下面以一实例对本发明的实施方案做出更为详细的描述。
基于空间中两条直线的抛物折反射摄像机标定方法采用的实验模板是空间中两条直线,如图1所示。具体步骤如下:
1.拟合图像边界曲线方程
本发明采用的图像分辨率为640×480个像素,用抛物折反射摄像机从不同方向上拍摄3幅实验图片,读入图像,利用Matlab中函数Edge提取出图像特征点的坐标,并用最小二乘算法拟合图像中的各条曲线,获取曲线方程。计算成像图上的边界曲线系数矩阵为H:
2.计算图像中心的初始值
摄像机的镜面边界在球模型中对应着一个与虚拟针孔相机光轴垂直的圆(如图1),其中为摄像机坐标系,为世界坐标系,其中为球心,为抛物折反射摄像机中心,方向为的方向,平行,平行,其投影是一个椭圆(称为边界椭圆),投影平面垂直于,投影椭圆中心即为图像中心,其坐标为()。成像面不同于一条空间直线的像,成像面边界椭圆是一条较完整的二次曲线,因而能够较好地拟合出它的代数方程。假设边界椭圆表示为:
,(1)
从而得到。(2)
利用方程(1)拟合成像边界曲线方程的系数矩阵,得代入方程(2)得到图像中心的初始值:,即图像中心齐次坐标
3.得到空间中一条直线不同方向的三幅图像
假定抛物折反射摄像机固定不动,通过对空间的二条直线进行旋转和平移得到不同方向上的三幅图像。所取三幅图像旋转矩阵和平移向量分别为
4.拟合每幅图像的曲线方程以及求出二个曲线的交点
利用Matlab程序中的Edge函数分别提取出三幅图像中的空间直线像点坐标,并用最小二乘算法拟合出曲线方程。再利用Matlab程序中的Slove函数分别求出每幅图像中二个曲线的交点,为第几幅图像,记为。空间二条相交直线的三幅图像的曲线为(),其系数矩阵为:(),系数矩阵如下:
交点齐次坐标分别为:
5.计算每幅图像中二个曲线交点处的切线方程
利用曲线系数方程和交点坐标,分别求出交点关于曲线的切线方程。如图1所示,切点分别关于的切点,设第幅图像中曲线条切线方程的方向向量为,第幅图像中曲线条切线方程的方向向量为切线的切点齐次坐标分别,则切点关于曲线的切线方程分别为(3),(4):
(3)
(4)
把切点坐标和系数矩阵分别代入(3),(4)式得到切线方向向量分别如下:
6.计算正交方向上的消失点的像
在抛物折反射成像模型中(如图1),是大圆的圆心,则)的中点,根据调和共轭求出直线方向上的消失点的像,齐次坐标分别为:
关于大圆的切线平行直线关于大圆的切线平行直线(如图2),根据平行直线的像相交于同一点,得到直线消失点的像,记消失点的像为为第几幅图像,为第几条直线,由交点方程(5):
,(5)
把切线方程代入(5)式得到直线消失点像的齐次坐标分别为:
7.求解抛物折反射摄像机内参数
三幅图像可得到六组正交方向的像坐标,可线性地解出抛物折反射摄像机的内参数矩阵为:,其中焦距,纵横比,故抛物折反射摄像机的五个内参数分别为:

Claims (1)

1.一种利用空间中二条相交直线线性求解抛物折反射摄像机内参数的方法,其特征在于只利用直线元素,靶标是由空间中二条相交直线构成;直线的抛物折反射图像是二次曲线,首先从图像上提取边界像点坐标,拟合边界曲线方程并求出边界曲线的中心,边界曲线的中心即为图像中心的初始值,然后从不同方向上得到空间二条相交直线的三幅图像,从三幅图像中分别提取直线的像点坐标,利用最小二乘算法分别拟合出图像中的曲线方程,根据调和共轭和两条平行直线的像相交于一点,分别求出图像平面上正交方向上的消失点的像,利用正交方向上的消失点的像对绝对二次曲线的像的约束线性求解抛物折反射摄像机内参数;具体步骤包括:拟合图像中的边界曲线方程,求解图像中心的初始值,分别拟合图像中的曲线方程,计算每幅图像中二个曲线交点关于曲线的切线方程,利用曲线的切线方程求出正交方向上的消失点的像,求解抛物折反射摄像机内参数矩阵中的α,fc,s,u0,v05个参数;
(1)拟合图像边界曲线方程
利用Matlab程序中的Edge函数提取出图像边界的像素坐标,并用最小二乘算法拟合出图像边界曲线方程;
(2)计算图像中心的初始值
摄像机的镜面边缘在球模型中对应着一个与虚拟针孔相机光轴垂直的圆,其投影是一个椭圆,椭圆中心即为图像中心;
(3)得到空间中二条相交直线不同方向的三幅图像
移动空间二条相交直线的位置,利用抛物折反射摄像机拍摄三幅图像;
(4)拟合每幅图像的曲线方程以及求出二个曲线的交点
利用Matlab程序中的Edge函数分别提取出三幅图像中的空间直线像点坐标,并用最小二乘算法拟合出曲线方程;再利用Matlab程序中的Solve函数分别求出每幅图像中二个曲线的交点;
(5)计算每幅图像中二个曲线交点关于曲线的切线方程
利用上一步的曲线系数方程和交点坐标,分别求出交点关于曲线的切线方程;
(6)计算正交方向上消失点的像
在抛物折反射成像模型中,O是大圆C1,C2的圆心,则O是Ai1,Bi2,i=1,2,3的中点,根据调和共轭求出直线Ai1Bi2方向上的消失点的像pi,i=1,2,3,l1,l′1关于大圆C1的切线平行直线AB,根据平行直线的像相交于同一点,得到直线EF的消失点的像qi1,i=1,2,3,l2,l′2关于大圆C2的切线平行直线CD,根据平行直线的像相交于同一点,得到直线CD的消失点的像qi2,i=1,2,3;
(7)求解抛物折反射摄像机内参数
使用抛物折反射摄像机拍摄3幅图像,由正交方向上消失点的像对绝对二次曲线的像的约束,线性求解出抛物折反射摄像机的5个内参数,即矩阵中的5个内参数,其中s为图像的畸变因子,α为纵横比,fc为焦距,(u0,v0)为主点坐标,为抛物折反射摄像机的5个内参数。
CN201310044091.4A 2013-02-01 2013-02-01 空间二条相交直线线性求解抛物折反射摄像机内参数 Expired - Fee Related CN103106661B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201310044091.4A CN103106661B (zh) 2013-02-01 2013-02-01 空间二条相交直线线性求解抛物折反射摄像机内参数

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201310044091.4A CN103106661B (zh) 2013-02-01 2013-02-01 空间二条相交直线线性求解抛物折反射摄像机内参数

Publications (2)

Publication Number Publication Date
CN103106661A CN103106661A (zh) 2013-05-15
CN103106661B true CN103106661B (zh) 2016-06-29

Family

ID=48314488

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310044091.4A Expired - Fee Related CN103106661B (zh) 2013-02-01 2013-02-01 空间二条相交直线线性求解抛物折反射摄像机内参数

Country Status (1)

Country Link
CN (1) CN103106661B (zh)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103810697A (zh) * 2013-11-01 2014-05-21 云南大学 空间四条不平行直线的像标定抛物折反射摄像机内参数
CN103942784A (zh) * 2014-04-03 2014-07-23 云南大学 棋盘格中三条互不平行直线求解抛物折反射摄像机内参数
CN104091334B (zh) * 2014-07-02 2017-01-11 无锡科技职业学院 采用平行四边形标定摄像机内参数的方法
CN104217435B (zh) * 2014-09-11 2017-01-25 云南大学 两个相互遮挡的球线性确定拋物折反射摄像机内参数方法
CN106447731A (zh) * 2016-09-22 2017-02-22 云南大学 利用单个球及正交消失点标定拋物折反射摄像机的方法
CN106780621B (zh) * 2016-11-29 2019-08-23 云南大学 利用一条直线求解锥镜面折反射摄像机镜面参数的方法
CN107507244A (zh) * 2017-07-26 2017-12-22 成都通甲优博科技有限责任公司 一种单帧图像的相机标定方法、标定操作方法及标定装置
CN107958467B (zh) * 2017-12-15 2021-06-08 云南大学 利用一条直线的成像标定抛物折反射摄像机的方法
CN108090934B (zh) * 2017-12-15 2021-06-08 云南大学 根据球截面的几何特性标定抛物折反射摄像机的方法
CN107993267A (zh) * 2017-12-15 2018-05-04 云南大学 利用空间直线对抛物折反射摄像机进行标定的方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101021947A (zh) * 2006-09-22 2007-08-22 东南大学 三维扫描系统中双摄像机标定方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4681856B2 (ja) * 2004-11-24 2011-05-11 アイシン精機株式会社 カメラの校正方法及びカメラの校正装置
CN102136143B (zh) * 2011-03-17 2012-07-18 北京师范大学 基于空间共线点的单光心反射折射摄像机焦距标定方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101021947A (zh) * 2006-09-22 2007-08-22 东南大学 三维扫描系统中双摄像机标定方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于两个正交一维物体的单幅图像相机标定;薛俊鹏 等;《光学学报》;20120131;第32卷(第1期);第0115001-1到0115001-6页 *

Also Published As

Publication number Publication date
CN103106661A (zh) 2013-05-15

Similar Documents

Publication Publication Date Title
CN103106661B (zh) 空间二条相交直线线性求解抛物折反射摄像机内参数
CN103106662B (zh) 空间一条直线线性求解抛物折反射摄像机内参数
CN102982551B (zh) 空间三条不平行直线线性求解抛物折反射摄像机内参数
CN105096317B (zh) 一种复杂背景中的高性能相机全自动标定方法
CN100562707C (zh) 双目视觉转轴标定方法
CN104835144A (zh) 利用一个球的球心的像及正交性求解摄像机内参数
CN103530880B (zh) 基于投影高斯网格图案的摄像机标定方法
CN107886546B (zh) 利用球像及公共自极三角形标定抛物折反射摄像机的方法
CN102622747B (zh) 一种用于视觉测量的摄像机参数优化方法
CN104217435B (zh) 两个相互遮挡的球线性确定拋物折反射摄像机内参数方法
CN102930548B (zh) 利用两个相同的相交椭圆线性求解摄像机内参数
CN102930551B (zh) 利用圆心的投影坐标和极线求解摄像机内参数
Ying et al. Fisheye lenses calibration using straight-line spherical perspective projection constraint
CN103942784A (zh) 棋盘格中三条互不平行直线求解抛物折反射摄像机内参数
Liu et al. Near-light photometric stereo using circularly placed point light sources
CN104200476B (zh) 利用双平面镜装置中的圆周运动求解摄像机内参数的方法
CN103116892A (zh) 两个相交相同圆及公切线求解摄像机内参数
CN104200477A (zh) 基于空间平行圆求解平面折反射摄像机内参数的方法
CN103440638A (zh) 利用双平面镜装置和圆环点性质求解摄像机内参数
CN103035007B (zh) 利用正六棱台求解摄像机内参数
CN102999895B (zh) 利用两个同心圆线性求解摄像机内参数
CN105321181A (zh) 使用双球的相离像与圆环点的像标定拋物折反射摄像机
CN102982550A (zh) 利用正五棱台求解摄像机内参数
CN103116888A (zh) 利用平面三角形求解摄像机的内参数
CN103810697A (zh) 空间四条不平行直线的像标定抛物折反射摄像机内参数

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20160629

Termination date: 20170201

CF01 Termination of patent right due to non-payment of annual fee