CN101526338A - 线结构光视觉传感系统结构参数的现场标定方法 - Google Patents

线结构光视觉传感系统结构参数的现场标定方法 Download PDF

Info

Publication number
CN101526338A
CN101526338A CN200910132046A CN200910132046A CN101526338A CN 101526338 A CN101526338 A CN 101526338A CN 200910132046 A CN200910132046 A CN 200910132046A CN 200910132046 A CN200910132046 A CN 200910132046A CN 101526338 A CN101526338 A CN 101526338A
Authority
CN
China
Prior art keywords
plane
point
coordinate system
points
coordinate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN200910132046A
Other languages
English (en)
Other versions
CN101526338B (zh
Inventor
吕乃光
韩建栋
娄小平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Information Science and Technology University
Original Assignee
Beijing Information Science and Technology University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Information Science and Technology University filed Critical Beijing Information Science and Technology University
Priority to CN2009101320468A priority Critical patent/CN101526338B/zh
Publication of CN101526338A publication Critical patent/CN101526338A/zh
Application granted granted Critical
Publication of CN101526338B publication Critical patent/CN101526338B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

一种线结构光视觉传感系统结构参数的现场标定方法,包括:(a)在被测空间内放置可移动的平面靶标,平面靶标上布置有共线且彼此距离已知的三个特征点,线结构光投射器投射的光平面与三个特征点所在的直线相交,形成标定点;(b)利用共线三个特征点建立三点透视模型,根据三个特征点的彼此距离、三个特征点和标定点在摄像机像面上成像的像点坐标以及摄像机的内部参数,计算标定点在摄像机坐标系中的坐标;(c)在测量范围内将平面靶标移动到多个不同位置,分别形成多个另外的标定点,重复执行步骤(b),分别计算多个另外的标定点在摄像机坐标系中的坐标;(d)将多次得到的标定点的坐标拟合成平面,得到光平面在摄像机坐标系内的平面方程,由此完成现场标定。

Description

线结构光视觉传感系统结构参数的现场标定方法
技术领域
本发明涉及一种线结构光视觉传感系统的标定方法,属于光电测量领域,特别适用于线结构光传感系统结构参数的现场标定。
背景技术
线结构光主动传感技术具有成本低、体积小、非接触、测速快、方便灵活以及光条图像信息易于提取等优点,在视觉测量、工业检测等领域有着重要的意义和广阔的应用前景。在线结构光视觉传感系统中,标定视觉传感器的结构参数(即,摄像机和光学投射器的位置关系)是视觉传感器进行三维测量的必要前提。同样,研究视觉传感器的现场标定方法,是保持传感器标定状态和使用状态完全一致的有效途径,同时也为降低劳动强度、降低对设备要求提供了可能。
从线结构光三维视觉模型可知,线结构光三维视觉的标定是指摄像机的内部参数的标定和视觉系统的结构参数的标定。传统的线结构光视觉传感器的结构参数标定方法分为两类。第一类方法是将摄像机的内部参数和视觉系统的结构参数分别进行标定,其中摄像机的内部参数标定可以采用经典的标定方法或者商用化的标定软件来实现,视觉系统的结构参数的标定需要利用摄像机的参数,具有代表性的方法主要有以下几种:拉丝标定法、锯齿靶标法、基于共面标定参照物的方法等。第二类方法不需要直接标定摄像机内部参数,利用空间已知的控制点来直接标定像点坐标与空间三维点之间的映射关系,具有代表性的方法是基于交比不变性的三维立体靶标标定方法。上述标定方法普遍存在需要精密的标定辅助设备、设备成本高或标定过程繁琐等缺点,不适合于视觉传感系统的现场标定。
发明内容
本发明要解决的技术问题是:提供一种线结构光视觉传感器结构参数的标定方法,该方法具有标定过程简单、成本低、快速、精度较高的优点,可实现线结构光传感系统的在线标定。
根据本发明的一方面,提供一种线结构光视觉传感器结构参数的现场标定方法,该方法包括:(a)在线结构光视觉传感系统的被测空间内放置可移动的平面靶标,所述平面靶标上布置有共线且彼此距离已知的三个特征点,线结构光投射器的光平面与所述三个特征点所在的直线相交,形成标定点;(b)利用所述共线的三个特征点建立平面三点透视模型,并根据所述三个特征点的彼此距离、所述三个特征点和标定点在摄像机像面上成像的像点坐标以及摄像机的内部参数,计算得到标定点在摄像机坐标系中的坐标;(c)在线结构光视觉传感系统的测量范围内将平面靶标移动到多个不同的位置,所述三个特征点所在的直线与所述光平面分别形成多个另外的标定点,重复执行步骤(b),分别计算所述多个另外的标定点在摄像机坐标系中的坐标;(d)将多次得到的标定点的坐标拟合成一个平面,得到线结构光投射器的光平面在摄像机坐标系内的平面方程,由此完成线结构光视觉传感系统结构参数的现场标定。
优选的是,所述三个特征点中相邻两个特征点之间的距离相等。
优选的是,在步骤(b)中,建立平面坐标系oxy,平面坐标系oxy的坐标原点与摄像机坐标系的坐标原点重合,平面坐标系oxy的x轴与平面坐标系oxy的坐标原点和最相邻于标定点的一个特征点的连线重合,平面坐标系oxy的y轴垂直于平面坐标系oxy的x轴,由此建立所述平面三点透视模型。
优选的是,在步骤(b)中,根据所述三个特征点的彼此距离、所述三个特征点和标定点在摄像机像面上成像的像点坐标以及摄像机的内部参数,计算标定点与平面坐标系oxy的坐标原点之间的距离,根据所述距离得到标定点在摄像机坐标系中的坐标。
优选的是,在步骤(b)中,考虑摄像机镜头的光学畸变的影响,涉及到的像点坐标均需要进行畸变校正。
优选的是,在平面靶标上还布置有一组或多组点列,每组点列是共线且彼此距离已知的三个特征点,由此在平面靶标处于一个位置时获得多个标定点。
根据本发明的方法与现有技术相比,具有标定过程简单、快速、不需要复杂的计算和昂贵的标定辅助设备,可获得较高测量精度的特点,可用于线结构光传感系统的现场标定。
附图说明
通过结合附图,从下面的实施例的描述中,本发明这些和/或其它方面及优点将会变得清楚,并且更易于理解,其中:
图1是根据本发明特定实施例的视觉传感系统的结构参数标定的示意图;以及
图2是根据本发明特定实施例的共线三点透视模型的示意图。
具体实施方式
现在将详细描述本发明的实施例,其示例在附图中示出,其中,相同的标号始终表示相同的部件。下面通过参照附图来描述实施例以解释本发明。
线结构光视觉传感系统可包括线结构光投射器和摄像机,由于线结构光视觉传感系统的结构是本领域技术人员所熟知的,所以这里省略了对其的详细描述。
在本发明中,引入一个可自由移动的平面靶标,靶标上只需要共线、且相互彼此距离已知的三个特征点(或者多组特征点),将平面靶标放置在线结构光视觉传感系统的被测空间内,线结构光投射器投射出的光平面与靶标上直线相交形成标定点,利用共线三点建立平面三点透视数学模型,根据共线三点的彼此距离、共线三点和标定点在摄像机像面上成像的像点坐标以及摄像机的内部参数,就可以计算得到光平面上的标定点在摄像机坐标系中的坐标。将平面靶标在测量范围内任意移动几个位置,得到光平面上多个标定点,通过平面拟合后,得到光平面在摄像机坐标系中的平面方程。
下面详细描述根据本发明特定实施例的线结构光视觉传感器结构参数的标定方法。
图1是根据本发明特定实施例的视觉传感系统的结构参数标定的示意图。
在线结构光视觉传感系统的被测空间内引入一块可自由移动的平面靶标,靶标上布置有三个彼此距离已知的共线特征点A、B、C,设这三点确定的直线为l。根据本发明,可设定相邻两个特征点之间的距离相等,即,||AB||=||BC||=d。应该理解,本发明不限于此,也可采用其它的距离关系。将平面靶标移动到位置1,使得线结构光投射器所投射的光条纹与直线l相交,也就是,线结构光投射器投射出的光平面与直线l相交,交点记为P(即,P为标定点),O-XYZ为摄像机坐标系,o-uv为摄像机的像面坐标系,如图1所示。
要确定所述光平面与摄像机之间的关系,只需要确定光平面上不共线的三点在摄像机坐标系中的坐标。
在摄像机坐标系中,P点必定位于向量Op所在的直线上,因此,只要知道P点到摄像机中心O的空间距离,那么P点在摄像机坐标系中的坐标就能被唯一确定。
图2是根据本发明特定实施例的共线三点透视模型的示意图。
考虑摄像机非线性透视模型,在经过畸变校正后(消除摄像机镜头的光学畸变),共线四点A、B、C、P在像面上对应的理想成像点为a、b、c、p,像点坐标为(ua,va)、(ub,vb)、(uc,vc)、(up,vp)。光学透视中心O到像面的距离为摄像机透镜焦距f,光轴与像面相交于主点(u0,v0),由此得到像点a、b、c、p在摄像机坐标系中的坐标,记为(xi,yi,f),其中xi=(ui-u0)·dx,yi=(vi-v0)·dy,i∈{a,b,c,p},dx,dy分别为像素在水平方向和垂直方向的物理尺寸,其中,摄像机透镜焦距f、主点(u0,v0)以及像素在水平方向和垂直方向的物理尺寸dx,dy是上文所述的摄像机的内部参数。设向量Ob与Oc,Oa与Oc以及Op与Oc之间的夹角记为θ1,θ2和θ3,则由向量的点积定义可得:
θ 1 = arccos ( Oc → · Ob → | | Oc | | · | | Ob | | )
θ 2 = arccos ( Oc → · Oa → | | Oc | | · | | Oa | | )
θ 3 = arccos ( O → c · Op → | | Oc | | · | | Op | | ) - - - ( 1 )
设向量Oa,Ob,Oc,Op所在直线分别为l1,l2,l3,l4,由射影几何知识可知,这四条直线必定位于同一平面内,记为π。如图2所示,在平面π,建立平面坐标系oxy,坐标原点与摄像机坐标系原点(摄像机中心O)重合,x轴与l3重合(即,x轴与坐标原点和最相邻于标定点的特征点C所在的直线重合),y轴与l3垂直,由此建立共线三点透视模型。直线方程为:
l1:y=tgθ2·x;l2:y=tgθ1·x;l4:y=tgθ3·x
因此,问题转化为:在平面π内,过原点的四条已知直线与一条直线l分别相交于A、B、C、P,并且满足:AB=BC=d,求P点到原点的距离。
考虑到直线l可能与x轴垂直,分为两种情况:
(a)若直线l与x轴垂直,可设直线l方程为:x=x0,根据距离关系AB=BC=d,此时满足关系式:2tgθ1=tgθ2,可计算得到x0=d/tgθ1,从而求得:
| | OP | | = d tgθ 1 · cos θ 3 - - - ( 2 )
(b)若直线l与x轴不垂直(即,2tgθ1≠tgθ2),设直线l方程为:y=kx+m,利用约束条件AB=BC=d,得到:
k = tgθ 1 · tgθ 2 2 tgθ 1 - tgθ 2 , m = d · k ( tgθ 1 - k ) tgθ 1 · 1 + k 2 - - - ( 3 )
点P为直线l与直线l4的交点(即,标定点),计算得到:
| | OP | | = m ( tgθ 3 - k ) | cos θ 3 | - - - ( 4 )
则空间点(标定点)P在摄像机坐标系中的三维坐标为:
X p = | | OP | | Op | | Op | | - - - ( 5 )
同理,将靶标移动到其它位置2、3、4、...,按照上述方法,可以获得位于光平面上的多个标定点的坐标(Xi,Yi,Zi)(i=1,…,n)。将多次得到的三维点坐标拟合成一个平面,目标函数为点到平面的欧氏距离平方和:
f ( a 1 , a 2 , a 3 , a 4 ) = Σ i = 1 ii ( | a 1 X i + a 2 Y i + a 3 Z i + a 4 | a 1 2 + a 2 2 + a 3 2 + a 4 2 ) 2 - - - ( 6 )
最终,得到线结构光投射器投射出的光平面在摄像机坐标系内的平面方程:
a1x+a2y+a3z+a4=0             (7)
在等式(7)中,(a1,a2,a3,a4)为光平面方程的法向向量。
通过上述方法,可完成线结构光视觉传感系统结构参数的现场标定。
可选的是,为了在一次摆放位置下得到光平面上的多个标定点,可以在平面靶标上设置多组点列(也就是说,除了在平面靶标上设置上述共线特征点A、B、C之外,还可设置一组或多组点列),其中每组点列均由共线且彼此距离已知的三个特征点组成,由此可以一次获得多个标定点。
根据本发明的方法与现有技术相比,具有标定过程简单、快速、不需要复杂的计算和昂贵的标定辅助设备、可获得较高测量精度的特点,可用于线结构光传感系统结构参数的现场标定。
虽然已经参照本发明的示例性实施例具体描述和显示了本发明,但是本领域的普通技术人员应该理解,在不脱离由权利要求限定的本发明的精神和范围的情况下,可以对其进行形式和细节的各种改变。

Claims (6)

1、一种线结构光视觉传感系统结构参数的现场标定方法,所述线结构光视觉传感系统包括线结构光投射器和摄像机,所述方法包括以下步骤:
(a)在线结构光视觉传感系统的被测空间内放置可移动的平面靶标,所述平面靶标上布置有共线且彼此距离已知的三个特征点,线结构光投射器的光平面与所述三个特征点所在的直线相交,形成标定点;
(b)利用所述共线的三个特征点建立平面三点透视模型,并根据所述三个特征点的彼此距离、所述三个特征点和标定点在摄像机像面上成像的像点坐标以及摄像机的内部参数,计算得到标定点在摄像机坐标系中的坐标;
(c)在线结构光视觉传感系统的测量范围内将平面靶标移动到多个不同的位置,所述三个特征点所在的直线与所述光平面分别形成多个另外的标定点,重复执行步骤(b),分别计算所述多个另外的标定点在摄像机坐标系中的坐标;
(d)将多次得到的标定点的坐标拟合成一个平面,得到线结构光投射器的光平面在摄像机坐标系内的平面方程,由此完成线结构光视觉传感系统结构参数的现场标定。
2、根据权利要求1所述的方法,其中,所述三个特征点中相邻两个特征点之间的距离相等。
3、根据权利要求2所述的方法,其中,在步骤(b)中,建立平面坐标系oxy,平面坐标系oxy的坐标原点与摄像机坐标系的坐标原点重合,平面坐标系oxy的x轴与平面坐标系oxy的坐标原点和最相邻于标定点的一个特征点所在的直线重合,平面坐标系oxy的y轴垂直于平面坐标系oxy的x轴,由此建立所述平面三点透视模型。
4、根据权利要求3所述的方法,其中,在步骤(b)中,根据所述三个特征点的彼此距离、所述三个特征点和标定点在摄像机像面上成像的像点坐标以及摄像机的内部参数,计算标定点与平面坐标系oxy的坐标原点之间的距离,根据所述距离得到标定点在摄像机坐标系中的坐标。
5、根据权利要求4所述的方法,其中,在步骤(b)中,所述像点坐标经过畸变校正,以消除摄像机镜头的光学畸变。
6、根据权利要求5所述的方法,其中,在平面靶标上还布置有一组或多组点列,每组点列均由共线且彼此距离已知的三个特征点组成,由此在平面靶标处于一个位置时获得多个标定点。
CN2009101320468A 2009-04-15 2009-04-15 线结构光视觉传感系统结构参数的现场标定方法 Expired - Fee Related CN101526338B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN2009101320468A CN101526338B (zh) 2009-04-15 2009-04-15 线结构光视觉传感系统结构参数的现场标定方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN2009101320468A CN101526338B (zh) 2009-04-15 2009-04-15 线结构光视觉传感系统结构参数的现场标定方法

Publications (2)

Publication Number Publication Date
CN101526338A true CN101526338A (zh) 2009-09-09
CN101526338B CN101526338B (zh) 2010-09-08

Family

ID=41094337

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2009101320468A Expired - Fee Related CN101526338B (zh) 2009-04-15 2009-04-15 线结构光视觉传感系统结构参数的现场标定方法

Country Status (1)

Country Link
CN (1) CN101526338B (zh)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102062574B (zh) * 2009-11-17 2012-08-08 北京佳视互动科技股份有限公司 一种测量物体的三维坐标的方法和装置
CN102761700A (zh) * 2011-04-29 2012-10-31 国际商业机器公司 拍摄设备及获得被拍摄物上不同点之间距离的方法
CN102927908A (zh) * 2012-11-06 2013-02-13 中国科学院自动化研究所 机器人手眼系统结构光平面参数标定装置及方法
CN105716527A (zh) * 2016-04-18 2016-06-29 中国计量学院 激光焊缝跟踪传感器标定方法
CN106705849A (zh) * 2017-01-25 2017-05-24 上海新时达电气股份有限公司 线结构光传感器标定方法
CN107449402A (zh) * 2017-07-31 2017-12-08 清华大学深圳研究生院 一种非合作目标的相对位姿的测量方法
CN108981608A (zh) * 2018-05-29 2018-12-11 华南理工大学 一种新型线结构光视觉系统及标定方法
CN109015630A (zh) * 2018-06-21 2018-12-18 深圳辰视智能科技有限公司 基于标定点提取的手眼标定方法、系统及计算机存储介质
WO2018228013A1 (zh) * 2017-06-12 2018-12-20 北京航空航天大学 一种基于前镀膜平面镜的结构光参数标定装置及方法
CN109345595A (zh) * 2018-09-14 2019-02-15 北京航空航天大学 一种基于圆球透镜的立体视觉传感器标定方法
CN109425292A (zh) * 2017-08-29 2019-03-05 西安知微传感技术有限公司 基于一维线结构光的三维测量系统标定装置及方法
CN110567345A (zh) * 2019-09-04 2019-12-13 北京信息科技大学 基于机器视觉的非接触式管材壁厚测量方法与系统
CN111649669A (zh) * 2020-06-05 2020-09-11 苏州若柏视智能科技有限公司 一种无标定的线结构光视觉传感器坐标测量方法及系统

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102062574B (zh) * 2009-11-17 2012-08-08 北京佳视互动科技股份有限公司 一种测量物体的三维坐标的方法和装置
GB2505311A (en) * 2011-04-29 2014-02-26 Ibm Obtaining distance between different points on an imaged object
CN102761700A (zh) * 2011-04-29 2012-10-31 国际商业机器公司 拍摄设备及获得被拍摄物上不同点之间距离的方法
GB2505311B (en) * 2011-04-29 2014-07-02 Ibm Obtaining distance between different points on an imaged object
CN102761700B (zh) * 2011-04-29 2015-01-21 国际商业机器公司 拍摄设备及获得被拍摄物上不同点之间距离的方法
WO2012146127A1 (en) * 2011-04-29 2012-11-01 International Business Machines Corporation Obtaining distance between different points on an imaged object
CN102927908B (zh) * 2012-11-06 2015-04-22 中国科学院自动化研究所 机器人手眼系统结构光平面参数标定装置及方法
CN102927908A (zh) * 2012-11-06 2013-02-13 中国科学院自动化研究所 机器人手眼系统结构光平面参数标定装置及方法
CN105716527B (zh) * 2016-04-18 2018-01-12 中国计量学院 激光焊缝跟踪传感器标定方法
CN105716527A (zh) * 2016-04-18 2016-06-29 中国计量学院 激光焊缝跟踪传感器标定方法
CN106705849A (zh) * 2017-01-25 2017-05-24 上海新时达电气股份有限公司 线结构光传感器标定方法
US10690492B2 (en) 2017-06-12 2020-06-23 Beihang University Structural light parameter calibration device and method based on front-coating plane mirror
WO2018228013A1 (zh) * 2017-06-12 2018-12-20 北京航空航天大学 一种基于前镀膜平面镜的结构光参数标定装置及方法
CN107449402A (zh) * 2017-07-31 2017-12-08 清华大学深圳研究生院 一种非合作目标的相对位姿的测量方法
CN107449402B (zh) * 2017-07-31 2019-11-26 清华大学深圳研究生院 一种非合作目标的相对位姿的测量方法
CN109425292A (zh) * 2017-08-29 2019-03-05 西安知微传感技术有限公司 基于一维线结构光的三维测量系统标定装置及方法
CN108981608A (zh) * 2018-05-29 2018-12-11 华南理工大学 一种新型线结构光视觉系统及标定方法
CN108981608B (zh) * 2018-05-29 2020-09-22 华南理工大学 一种新型线结构光视觉系统及标定方法
CN109015630A (zh) * 2018-06-21 2018-12-18 深圳辰视智能科技有限公司 基于标定点提取的手眼标定方法、系统及计算机存储介质
CN109015630B (zh) * 2018-06-21 2021-05-18 深圳辰视智能科技有限公司 基于标定点提取的手眼标定方法、系统及计算机存储介质
CN109345595A (zh) * 2018-09-14 2019-02-15 北京航空航天大学 一种基于圆球透镜的立体视觉传感器标定方法
CN109345595B (zh) * 2018-09-14 2022-02-11 北京航空航天大学 一种基于圆球透镜的立体视觉传感器标定方法
CN110567345A (zh) * 2019-09-04 2019-12-13 北京信息科技大学 基于机器视觉的非接触式管材壁厚测量方法与系统
CN111649669A (zh) * 2020-06-05 2020-09-11 苏州若柏视智能科技有限公司 一种无标定的线结构光视觉传感器坐标测量方法及系统

Also Published As

Publication number Publication date
CN101526338B (zh) 2010-09-08

Similar Documents

Publication Publication Date Title
CN101526338B (zh) 线结构光视觉传感系统结构参数的现场标定方法
Luhmann et al. Sensor modelling and camera calibration for close-range photogrammetry
CN101419708B (zh) 一种基于一维靶标的结构光传感器标定方法
CN102980528B (zh) 无位姿约束线激光单目视觉三维测量传感器参数标定方法
CN101334267B (zh) 数字影像测头矢量坐标变换标定与误差修正方法及其装置
CN101581569B (zh) 双目视觉传感系统结构参数的标定方法
CN104315995B (zh) 基于虚拟多立方体标准目标的tof深度相机三维坐标标定装置和方法
CN103398660B (zh) 用于获取焊缝高度信息的结构光视觉传感器参数标定方法
Zhang et al. A robust and rapid camera calibration method by one captured image
CN101216937B (zh) 港口运动集装箱定位系统的参数标定方法
CN105716582A (zh) 摄像机视场角的测量方法、装置以及摄像机视场角测量仪
CN104142157A (zh) 一种标定方法、装置及设备
CN102136140B (zh) 一种基于矩形图样的视频图像距离检测方法
CN103954213A (zh) 一种分析零件的实测图的方法
CN103606147B (zh) 多台不共视场量测相机的坐标系转换标定方法
CN105046715B (zh) 一种基于空间解析几何的线阵相机标定方法
CN101975560B (zh) 一种面阵ccd靶面与安装定位面平行度的光学检测方法
CN102254318A (zh) 基于图像透视投影变换的车辆道路交通视频测速方法
CN103782232A (zh) 投影仪及其控制方法
CN103559707B (zh) 基于运动方靶标定物的工业定焦相机参数标定方法
CN104809718A (zh) 一种车载摄像头自动匹配标定方法
CN104019829A (zh) 一种基于pos系统的车载全景相机和线阵激光扫描仪的外参标定方法
CN111508027A (zh) 摄像机外参标定的方法和装置
CN106403838A (zh) 一种手持式线结构光视觉三维扫描仪的现场标定方法
CN101425185B (zh) 一种基于复合型平面靶标的小尺寸视觉测量的摄像机标定方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
C17 Cessation of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20100908

Termination date: 20110415