CN102252653B - 基于tof无扫描三维成像的位姿测量方法 - Google Patents

基于tof无扫描三维成像的位姿测量方法 Download PDF

Info

Publication number
CN102252653B
CN102252653B CN201110175406A CN201110175406A CN102252653B CN 102252653 B CN102252653 B CN 102252653B CN 201110175406 A CN201110175406 A CN 201110175406A CN 201110175406 A CN201110175406 A CN 201110175406A CN 102252653 B CN102252653 B CN 102252653B
Authority
CN
China
Prior art keywords
gauge point
rightarrow
point
camera
tof
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201110175406A
Other languages
English (en)
Other versions
CN102252653A (zh
Inventor
张旭东
高隽
叶子瑞
范之国
李文龙
高丽娟
吴国松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hefei University of Technology
Original Assignee
Hefei University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hefei University of Technology filed Critical Hefei University of Technology
Priority to CN201110175406A priority Critical patent/CN102252653B/zh
Publication of CN102252653A publication Critical patent/CN102252653A/zh
Application granted granted Critical
Publication of CN102252653B publication Critical patent/CN102252653B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)

Abstract

本发明公开了一种基于TOF无扫描三维成像的位姿测量方法,其特征是首先对目标物体建立一个三维的坐标信息数据库,利用TOF相机作为成像和距离数据获取装置,在拍摄的图片中选取三个可识别的物体作为标记点,在数据库中获得各标记点在目标本体坐标系下的坐标信息,建立一个向量组;通过TOF相机获得的数据信息,由非迭代三维空间两点间距离计算方法得出光心到各标记点的距离,经过计算得到标记点在相机坐标系下的坐标,再建立另一个向量组,由两个向量组之间的关系可以计算得出旋转矩阵和平移矩阵,从而获得姿态角和平移量,即目标物体的相对姿态。本发明避免了大量的迭代算法,并且可以快速求解满足位姿参数确定精度的要求。

Description

基于TOF无扫描三维成像的位姿测量方法
技术领域
本发明是基于TOF无扫描三维成像的位姿测量方法,属于三维视觉的目标位姿测量领域。
背景技术
物体位置与姿态的测量在航空航天、汽车车轮定位等领域都有着重要的应用价值,在很多应用领域必须对位姿进行测量后才能进行后续工作。
现有的一些技术有基于单目视觉的位姿测量方法和基于双目视觉的位姿测量方法,以及一些在此基础上加以改进和优化的方法。
基于单目视觉方法是利用几个者共面或非共面的特征光标点和单个CCD相机,通过获取特征光标物理坐标和对应图像点图像坐标之间的简化数学模型,以解析的形式给出了观察物体和目标物体之间的相对位姿参数,并对解析解进行修正;基于双目视觉是利用视差原理并利用成像设备从不同的位置获取被测物体的两幅图像,通过计算图像对应点间的位置偏差,来获取物体三维几何信息,计算目标物体的相对位姿;在此基础上加以改进和优化的方法,原理上没有大的改变,只是改变标记点的设置位置和一些参数,以达到提高计算精度和鲁棒性等效果。
以上方法在具体实现上存在以下不足:
1、单目算法中的基本方程为二次非线性方程,无直接解析解,需迭代求数值解,因此迭代求解的收敛性和速度将极大影响测量的实时性和准确性。
2、对于双目立体视觉来说,由于各种测量误差的存在,使得各个特征点空间坐标值的计算值与实际值间存在一定的误差,这样特征点间的位置关系不再满足模型的约束,位姿计算的刚性条件得不到保证,计算结果的误差会很大。
3、多数方法都是迭代求解,出现多值结果,带来识别的困难,迭代求解的收敛性和收敛速度将极大影响测量精度,而迭代过程的收敛性和收敛速度主要取决于迭代算法和初值选取。
发明内容
本发明针对上述现有技术所存在的不足,提出一种基于TOF的无扫描三维成像的位姿测量方法,避免了大量的迭代算法,并且可以快速的求解满足位姿参数确定精度的要求。
本发明解决技术问题采用如下技术方案:
本发明基于TOF无扫描三维成像的位姿测量方法的特点是包括以下步骤:
1)通过TOF相机拍摄目标物体,选取目标物体的成像图像中三个可识别物体为标记点Pi,i=1,2,3,并从事先建立的目标物体三维坐标信息数据库中获得标记点Pi在目标本体坐标系下的坐标Pi=(Xi,Yi,Zi),i=1,2,3,通过任意两个标记点的连线求出两个线性无关的单位列向量
Figure BDA0000071574120000021
Figure BDA0000071574120000022
Figure BDA0000071574120000023
Figure BDA0000071574120000024
所构成的单位列向量,构造出三个标记点Pi在目标本体坐标系下的向量组: n o = n o 1 → n o 2 → n o 3 → ;
2)通过TOF相机拍摄目标物体获得的标记点Pi的像点在像坐标系下的像素坐标计算出标记点Pi在相机坐标系下的坐标Si,所述标记点Pi在相机坐标系下的坐标Si计算方法为:
a.将标记点Pi的像点在像坐标系下的像素坐标(ui,vi)转化为像点在相机坐标系下的坐标;
b.由标记点Pi的像点在相机坐标系下的坐标确定出TOF相机光心到标记点Pi的方向向量,获得单位方向向量
Figure BDA0000071574120000026
c.由TOF相机测得标记点Pi到像平面的垂直距离Li,并通过非迭代三维空间两点间距离方法得出TOF相机光心到各标记点Pi的距离Di
d.由式(1)求出各标记点Pi在相机坐标系下的坐标Si,i=1,2,3;
S i = D i a i → - - - ( 1 )
通过任意两个标记点Pi的连线求出两个线性无关的单位列向量
Figure BDA0000071574120000028
Figure BDA0000071574120000029
Figure BDA00000715741200000210
所构成的单位列向量;构造出三个标记点Pi在相机坐标系下的向量组: n s = n s 1 → n s 2 → n s 3 → ] ;
3)由向量组 n o = n o 1 → n o 2 → n o 3 → n s = n s 1 → n s 2 → n s 3 → 通过式(2)式(3)的运算可得出旋转矩阵R和平移矩阵T;
R=nsno -1(2)
T=Si-RPi(3)
4)将旋转矩阵 R = r 00 r 01 r 02 r 10 r 11 r 12 r 20 r 21 r 22 通过式(4)计算获得绕相机坐标系的x轴、y轴和z轴沿逆时针方向的转角α、β和γ;旋转顺序是从x轴到y轴再到z轴;所述转角α、β和γ为目标物体相对于相机坐标系的三个姿态角;
γ = - arctan r 01 r 00 β = arctan r 20 r 00 cos γ - r 10 sin γ α = arctan r 02 sin γ + r 12 cos γ r 01 sin γ + r 11 cos γ - - - ( 4 )
5)将平移矩阵 T = t 0 t 1 t 2 通过式(5)计算获得目标本体坐标系和相机坐标系之间的距离d,其中t0、t1和t2分别为目标物体相对于相机坐标在x轴、y轴和z轴上的平移量;
d = t 0 2 + t 1 2 + t 2 2 - - - ( 5 ) .
本发明基于TOF无扫描三维成像的位姿测量方法的特点也在于步骤2)中所述非迭代三维空间两点间距离方法是TOF相机通过记录光线在空间中的往返时间,获取场景的三维信息,直接获得标记点Pi到像平面的垂直距离Li,即PiQi=Li,而且OO′=f和O′P′i=mi为已知,由相似三角形得:
P i ′ Q i = L i · m i f - - - ( 6 )
再由勾股定理求得TOF相机光心到标记点Pi的距离Di
D i = ( L i · m i f ) 2 + L i 2 + f 2 + m i 2 - - - ( 7 )
其中O为TOF相机光心,O′为像平面中心点,P′i为标记点Pi在像平面的像点,Qi为标记点Pi到像平面的垂足,f为相机的焦距,Li为TOF相机实时测得的标记点Pi到像平面的垂直距离,mi为O′点与P′i之间的距离。
与现有技术相比,本发明的有益效果体现在:
1、本发明采用的TOF相机是通过记录光线在空间中的往返时间,获取场景的三维信息。在获取目标物体上标记点距相机光心的距离时不需要进行复杂的计算,具有速度快,计算量小,精度高等特点。
2、本发明采用预先对目标物体进行三维信息的采集,并建立目标物体上可识别物体在目标本体坐标系下的三维坐标信息数据库,不需要预先设定标记点,在拍摄过程中可以随即选取可识别物作为标记点,而不需要寻找预设标记点,这样具有更强的实际应用效果。
3、本发明采用直接将标记点定义在目标本体坐标系上,所以在位姿的测量中可以不需要建立标记点坐标系,减少了一个标记点坐标系和目标坐标系之间的转换矩阵和平移矩阵,使计算更加简化。
4、TOF相机中的测距成像仪是一种主动式视觉传感器,包含有一个主动调制光源,所以测量时不受外界光照条件限制。
附图说明
图1本发明方法的测量系统图:
图1中标号:1目标物体;2为TOF相机;3数据处理系统;
图2本发明方法的系统流程图;
图3本发明方法中目标本体坐标系、相机坐标系和像坐标系之间的关系;
图4本发明方法中的TOF相机光心到标记点的距离计算几何图示。
具体实施方式
参见图1,本实施例系统构成包括目标物体1、TOF相机2和数据处理系统3。
参见图2,本实施例中基于TOF无扫描三维成像的位姿测量方法的工作流程为:
1)通过TOF相机拍摄目标物体,选取目标物体的成像图像中三个可识别物体为标记点Pi,i=1,2,3,并从事先建立的目标物体三维坐标信息数据库中获得标记点Pi在目标本体坐标系下的坐标Pi=(Xi,Yi,Zi),i=1,2,3,通过任意两个标记点的连线求出两个线性无关的单位列向量
Figure BDA0000071574120000041
Figure BDA0000071574120000042
Figure BDA0000071574120000043
Figure BDA0000071574120000044
所构成的单位列向量,构造出三个标记点Pi在目标本体坐标系下的向量组: n o = n o 1 → n o 2 → n o 3 → , 目标本体坐标系是以目标物体的质心为坐标原点,如图3建立目标本体坐标系Oo-XoYoZo
2)通过TOF相机拍摄目标物体获得的标记点Pi的像点在像坐标系下的像素坐标计算出标记点Pi在相机坐标系下的坐标Si,相机坐标系和像坐标系如图3所示,建立相机坐标系Os-XsYsZs。其原点Os为摄像机光心,Os到像平面的距离称为摄像机的焦距f,Ys轴为主光轴方向,Xs轴与像坐标系横方向u平行,Zs轴与像坐标系竖直方向v平行,并与其它两轴构成右手系;Oi-XiZi表示像坐标系,其原点Oi定义为相机光轴与像平面的交点,Xi轴和Zi轴分别与图像像素的列数u与行数v平行,标记点Pi在相机坐标系下的坐标Si计算方法为:
a.将标记点Pi的像点在像坐标系下的像素坐标(ui,vi)转化为像点在相机坐标系下的坐标;
b.由标记点Pi的像点在相机坐标系下的坐标确定出TOF相机光心到标记点Pi的方向向量,获得单位方向向量
Figure BDA0000071574120000051
c.由TOF相机测得标记点Pi到像平面的垂直距离Li,并通过非迭代三维空间两点间距离方法得出TOF相机光心到各标记点Pi的距离Di,如图4所示:取i=1,以标记点P1为例,TOF相机可以直接测得标记点P1到像平面的垂直距离P1Q1=L1,OO′=f,O′P′1=m1已知,有相似三角形可知
Figure BDA0000071574120000052
由勾股定理可得 D 1 = ( L 1 · m 1 f ) 2 + L 1 2 + f 2 + m 1 2 .
d.由式(1)求出各标记点Pi在相机坐标系下的坐标Si,i=1,2,3;
S i = D i a i → - - - ( 1 )
通过任意两个标记点Pi的连线求出两个线性无关的单位列向量
Figure BDA0000071574120000056
Figure BDA0000071574120000057
Figure BDA0000071574120000058
所构成的单位列向量;构造出三个标记点Pi在相机坐标系下的向量组: n s = n s 1 → n s 2 → n s 3 → ] ;
3)由向量组 n o = n o 1 → n o 2 → n o 3 → n s = n s 1 → n s 2 → n s 3 → 通过式(2)式(3)的运算可得出旋转矩阵R和平移矩阵T;
R=nsno -1(2)
T=Si-RPi(3)
4)将旋转矩阵 R = r 00 r 01 r 02 r 10 r 11 r 12 r 20 r 21 r 22 通过式(4)计算获得绕相机坐标系的x轴、y轴和z轴沿逆时针方向的转角α、β和γ;旋转顺序是从x轴到y轴再到z轴;转角α、β和γ为目标物体相对于相机坐标系的三个姿态角;
γ = - arctan r 01 r 00 β = arctan r 20 r 00 cos γ - r 10 sin γ α = arctan r 02 sin γ + r 12 cos γ r 01 sin γ + r 11 cos γ - - - ( 4 )
5)将平移矩阵 T = t 0 t 1 t 2 通过式(5)计算获得目标本体坐标系和相机坐标系之间的距离d,其中t0、t1和t2分别为目标物体相对于相机坐标在x轴、y轴和z轴上的平移量。
d = t 0 2 + t 1 2 + t 2 2 - - - ( 5 ) .

Claims (2)

1.一种基于TOF无扫描三维成像的位姿测量方法,其特征在于包括以下步骤:
1)通过TOF相机拍摄目标物体,选取目标物体的成像图像中三个可识别物体为标记点Pi,i=1,2,3,并从事先建立的目标物体三维坐标信息数据库中获得标记点Pi在目标本体坐标系下的坐标Pi=(Xi,Yi,Zi),i=1,2,3,通过任意两个标记点的连线求出两个线性无关的单位列向量
Figure FDA00001752948100011
Figure FDA00001752948100012
Figure FDA00001752948100013
Figure FDA00001752948100014
所构成的单位列向量,构造出三个标记点Pi在目标本体坐标系下的向量组: n o = n → o 1 n → o 2 n → o 3 ;
2)通过TOF相机拍摄目标物体获得的标记点Pi的像点在像坐标系下的像素坐标计算出标记点Pi在相机坐标系下的坐标Si,所述标记点Pi在相机坐标系下的坐标Si计算方法为:
a.将标记点Pi的像点在像坐标系下的像素坐标(ui,vi)转化为像点在相机坐标系下的坐标;
b.由标记点Pi的像点在相机坐标系下的坐标确定出TOF相机光心到标记点Pi的方向向量,获得单位方向向量
c.由TOF相机测得标记点Pi到像平面的垂直距离Li,并通过非迭代三维空间两点间距离方法得出TOF相机光心到各标记点Pi的距离Di
d.由式(1)求出各标记点Pi在相机坐标系下的坐标Si,i=1,2,3;
S i = D i a → i - - - ( 1 )
通过任意两个标记点Pi的连线求出两个线性无关的单位列向量
Figure FDA00001752948100018
Figure FDA00001752948100019
Figure FDA000017529481000110
Figure FDA000017529481000111
所构成的单位列向量;构造出三个标记点Pi在相机坐标系下的向量组: n s = n → s 1 n → s 2 n → s 3 ;
3)由向量组 n o = n → o 1 n → o 2 n → o 3 n s = n → s 1 n → s 2 n → s 3 通过式(2)式(3)的运算可得出旋转矩阵R和平移矩阵T;
R=nsno -1         (2)
T=Si-RPi         (3)
4)将旋转矩阵 R = r 00 r 01 r 02 r 10 r 11 r 12 r 20 r 21 r 22 通过式(4)计算获得绕相机坐标系的x轴、y轴和z轴沿逆时针方向的转角α、β和γ;旋转顺序是从x轴到y轴再到z轴;所述转角α、β和γ为目标物体相对于相机坐标系的三个姿态角;
γ = - arctan r 01 r 00 β = arctan r 20 r 00 cos γ - r 10 sin γ α = arctan r 02 sin γ + r 12 cos γ r 01 sin γ + r 11 cos γ - - - ( 4 )
5)将平移矩阵 T = t 0 t 1 t 2 通过式(5)计算获得目标本体坐标系和相机坐标系之间的距离d,其中t0、t1和t2分别为目标物体相对于相机坐标在x轴、y轴和z轴上的平移量;
d = t 0 2 + t 1 2 + t 2 2 - - - ( 5 ) ;
所述目标本体坐标系是以目标物体的质心为坐标原点;
所述像坐标系是以相机光轴与像平面的交点为坐标原点;
所述相机坐标系是以摄像机光心为坐标原点。
2.根据权利要求1所述的基于TOF无扫描三维成像的位姿测量方法,其特征的是步骤2)中所述非迭代三维空间两点间距离方法是TOF相机通过记录光线在空间中的往返时间,获取场景的三维信息,直接获得标记点Pi到像平面的垂直距离Li,即PiQi=Li,而且OO′=f和O′Pi′=mi为已知,由相似三角形得:
P i ′ Q i = L i · m i f - - - ( 6 )
再由勾股定理求得TOF相机光心到标记点Pi的距离Di
D i = ( L i · m i f ) 2 + L i 2 + f 2 + m i 2 - - - ( 7 )
其中O为TOF相机光心,O′为像平面中心点,Pi′为标记点Pi在像平面的像点,Qi为标记点Pi到像平面的垂足,f为相机的焦距,Li为TOF相机实时测得的标记点Pi到像平面的垂直距离,mi为O′点与Pi′之间的距离。
CN201110175406A 2011-06-27 2011-06-27 基于tof无扫描三维成像的位姿测量方法 Expired - Fee Related CN102252653B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201110175406A CN102252653B (zh) 2011-06-27 2011-06-27 基于tof无扫描三维成像的位姿测量方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201110175406A CN102252653B (zh) 2011-06-27 2011-06-27 基于tof无扫描三维成像的位姿测量方法

Publications (2)

Publication Number Publication Date
CN102252653A CN102252653A (zh) 2011-11-23
CN102252653B true CN102252653B (zh) 2012-09-26

Family

ID=44980070

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201110175406A Expired - Fee Related CN102252653B (zh) 2011-06-27 2011-06-27 基于tof无扫描三维成像的位姿测量方法

Country Status (1)

Country Link
CN (1) CN102252653B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140320603A1 (en) * 2011-12-06 2014-10-30 Hexagon Technology Center Gmbh Method and device for determining 3d coordinates of an object
CN109945785A (zh) * 2019-03-26 2019-06-28 湖南安华鼎科技有限公司 一种平台倾角和高度实时测量方法及系统

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2602588A1 (en) * 2011-12-06 2013-06-12 Hexagon Technology Center GmbH Position and Orientation Determination in 6-DOF
CN102589530B (zh) * 2012-02-24 2013-09-18 合肥工业大学 基于二维相机和三维相机融合的非合作目标位姿测量方法
CN102818561A (zh) * 2012-07-09 2012-12-12 中国人民解放军国防科学技术大学 基于数字狭缝摄像技术的靶场弹丸运动参数测量方法
CN104776826A (zh) * 2015-04-09 2015-07-15 江苏省东方世纪网络信息有限公司 姿态测量系统及方法
CN105115445A (zh) * 2015-09-14 2015-12-02 杭州光珀智能科技有限公司 基于深度相机与双目视觉复合的三维成像系统及成像方法
CN105919669B (zh) * 2016-07-01 2018-07-20 华南理工大学 一种利用标定装置实现光学手术导航手术器械标定的方法
CN108225316B (zh) * 2016-12-22 2023-12-29 成都天府新区光启未来技术研究院 载体姿态信息的获取方法和装置及系统
CN108571931A (zh) * 2018-05-17 2018-09-25 北京林业大学 一种以tof深度相机为工具的测树方法
CN108759666B (zh) * 2018-05-28 2020-06-23 武汉点睛三维科技有限公司 一种基于飞行时间三维相机的尺寸测量方法
CN108801226B (zh) * 2018-08-30 2021-03-02 歌尔光学科技有限公司 平面倾斜测试方法及设备
EP3667362A1 (en) * 2018-12-10 2020-06-17 Infineon Technologies AG Methods and apparatuses for determining rotation parameters for conversion between coordinate systems
CN112446917B (zh) * 2019-09-03 2023-12-15 北京地平线机器人技术研发有限公司 一种姿态确定方法及装置
CN111220106A (zh) * 2019-12-05 2020-06-02 紫光宏茂微电子(上海)有限公司 针对贴附于基板上芯片的量测方法、存储设备以及终端
CN112325767B (zh) * 2020-10-16 2022-07-26 华中科技大学鄂州工业技术研究院 一种融合机器视觉和飞行时间测量的空间平面尺寸测量方法
CN112557768A (zh) * 2020-11-23 2021-03-26 中山香山微波科技有限公司 片上天线测试系统及测试方法
CN113008454B (zh) * 2021-02-19 2023-11-14 西北工业大学 一种基于双目视觉的重心测量方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
丁津津等.基于TOF技术的3D相机应用研究综述.《仪器仪表学报》.2010,第31卷(第8期), *
潘华东.飞行时间法无扫描三维成像摄像机的机理和特性研究.《中国博士学位论文全文数据库》.2010, *
潘华东等.飞行时间法三维成像摄像机数据处理方法研究.《浙江大学学报(工学版)》.2010,第44卷(第6期), *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140320603A1 (en) * 2011-12-06 2014-10-30 Hexagon Technology Center Gmbh Method and device for determining 3d coordinates of an object
CN109945785A (zh) * 2019-03-26 2019-06-28 湖南安华鼎科技有限公司 一种平台倾角和高度实时测量方法及系统

Also Published As

Publication number Publication date
CN102252653A (zh) 2011-11-23

Similar Documents

Publication Publication Date Title
CN102252653B (zh) 基于tof无扫描三维成像的位姿测量方法
CN107945220B (zh) 一种基于双目视觉的重建方法
CN104173054B (zh) 基于双目视觉技术的人体身高测量方法及其装置
CN104596502B (zh) 一种基于cad模型与单目视觉的物体位姿测量方法
CN102697508B (zh) 采用单目视觉的三维重建来进行步态识别的方法
CN103837869B (zh) 基于向量关系的单线激光雷达和ccd相机标定方法
CN103099623B (zh) 一种人体运动学参数的提取方法
CN110176032B (zh) 一种三维重建方法及装置
CN103604417B (zh) 物方信息约束的多视影像双向匹配策略
CN111192235B (zh) 一种基于单目视觉模型和透视变换的图像测量方法
CN102589530B (zh) 基于二维相机和三维相机融合的非合作目标位姿测量方法
CN103411553A (zh) 多线结构光视觉传感器的快速标定方法
CN109272537A (zh) 一种基于结构光的全景点云配准方法
CN104034305B (zh) 一种单目视觉实时定位的方法
Hu et al. A four-camera videogrammetric system for 3-D motion measurement of deformable object
CN103278138A (zh) 一种复杂结构薄部件三维位置及姿态的测量方法
CN104616292A (zh) 基于全局单应矩阵的单目视觉测量方法
CN105043350A (zh) 一种双目视觉测量方法
CN110889873A (zh) 一种目标定位方法、装置、电子设备及存储介质
CN104268876A (zh) 基于分块的摄像机标定方法
CN104482924B (zh) 旋成体目标位姿视觉测量方法
CN104715469A (zh) 一种数据处理方法及电子设备
CN102072706A (zh) 一种多相机定位与跟踪方法及系统
CN108764080B (zh) 一种基于点云空间二值化的无人机视觉避障方法
CN103198481B (zh) 一种摄像机标定方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20120926

Termination date: 20170627

CF01 Termination of patent right due to non-payment of annual fee