CN103196431A - 机载激光扫描点云与光学影像的整体空三方法 - Google Patents
机载激光扫描点云与光学影像的整体空三方法 Download PDFInfo
- Publication number
- CN103196431A CN103196431A CN2013101163069A CN201310116306A CN103196431A CN 103196431 A CN103196431 A CN 103196431A CN 2013101163069 A CN2013101163069 A CN 2013101163069A CN 201310116306 A CN201310116306 A CN 201310116306A CN 103196431 A CN103196431 A CN 103196431A
- Authority
- CN
- China
- Prior art keywords
- cam
- gps
- lid
- imu
- laser
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
本发明提出一种机载激光扫描点云与光学影像的整体空三方法,依据点云与影像的系统误差之间的关联关系,建立联合两者的整体空三严格平差模型;通过对系统误差的整体补偿,提高点云和影像的定位精度,实现两者的配准。本发明技术方案实现过程简单,支持自动化运行,结果准确率高,解决了机载LiDAR与航空相机集成系统的关键问题。
Description
技术领域
本发明涉及遥感影像技术领域,尤其是涉及一种机载激光扫描点云与光学影像的整体空三方法。
背景技术
机载LiDAR(Light Detection and Ranging)与航空相机集成系统是近年来在遥感领域迅速发展的一项高新技术,通过将POS(Position and Orientation System)系统、激光扫描测距系统与航空相机进行有效集成,实现了高精度地表几何信息与多光谱影像的同步获取,提高了遥感数据采集与后处理的效率。对点云与影像数据进行集成处理,可以充分发挥两者的优势,具有巨大的应用潜力。由于各种系统误差的影响,原始点云和影像的定位不可避免地存在系统性偏差,两种数据之间也无法直接对准,对于进一步应用具有重要影响。如何有效地消除系统误差的影响,提高两者的定位精度、实现两种数据的精确对准,是集成处理中需要解决的关键问题。
现有的方法一般按内部平差和外部配准两个步骤进行处理。内部平差主要是对影像和点云条带各自进行平差,解决影像与点云两种数据内部的配准问题;外部配准是在影像与点云之间进行配准处理,消除两种数据之间的空间错位。
内部平差:
影像数据的内部平差一般采用光束法空中三角测量(袁修孝,2001,Triggs et al.,1999;Lourakis et al.,2009)。点云数据的内部平差,则采用基于经验拟合模型或严格定位模型的条带平差进行处理(Csanyi et al.,2007;邬建伟,2008;王英丽等,2012)。
(1)基于经验模型的LiDAR条带平差选用某种数学函数对各种误差因素的影响进行拟合,常用的模型有三参数模型(Crombaghs,2000),9参数模型(Vosselman,2001),12参数模型(Kilian,1996),仿射变换模型(Bretar,2004)等。这些模型虽然简单,但却不严格,且模型的选择也会影响条带平差的精度。
(2)基于传感器严格定位模型(Baltsavias,1999)的LiDAR条带平差,通常也被称为基于传感器定标的条带平差(Shan and Toth,2008)。这种方法直接利用激光定位方程对传感器中的各类系统误差进行参数化建模,以此来统一地表达条带之间的几何偏差。由于LiDAR系统误差源众多(Schenk,2001;Alharthy,2004),且误差之间存在相关性(Filin,2003a;2003b),平差时需要进行合理的平差参数选择。现有的方法一般选择对激光扫描仪与IMU之间的偏心角、偏心分量进行处理(Burman,2000;Schenk,2002;Filin,2003;Skaloud,2006;Habib,2007;Pothou,2008)。与基于经验模型的条带平差相比,本方法能够对多个条带进行统一平差,得到一组唯一的系统误差参数。但由于点云数据的每个点的外方位元素不同,平差时只能对所有激光脚点共同的的系统误差进行处理,而不能对每个激光脚点独立的误差进行处理,未知数不完整,平差精度还可以进一步提高。
外部配准:
通过内部平差,能够较好的消除影像和点云各自的内部误差,但两者之间还存在系统误差,还需要对两者进行配准处理。外部配准可以分为间接配准和直接配准两种方式。
间接配准是在对影像和点云进行平差处理时,即采用统一的外部控制数据作为基准,不对两者进行直接的配准处理,而是利用统一的控制数据将两者纠正到一致的参考框架下(et al.,2007)。这类方法技术上比较成熟,但处理精度完全取决于控制点的数量。由于没有建立点云和影像之间的直接约束,配准精度受控制点的密度影响较大,在缺少控制点的区域配准误差较大。
直接配准则是选择某一种数据作为参考,将另一种数据配准到参考数据上。根据参考数据选择的不同,又可分为以LiDAR数据为参考的方法和以影像数据为参考的方法两种。
(1)以LiDAR点云为参考:Delara(2004)、钟良(2011)、Chen(2012)等在点云和影像上手工选取同名点,利用点云中的同名点作为控制点对影像进行光束法平差。张永军(2012)则设计了一种角点提取方法,利用特征匹配的方法,在点云与影像中确定同名点作为控制点,进行光束法平差。姚春静(2010)利用LiDAR点云中提取的建筑物边界线作为控制线,对单张像片进行绝对定向。Habib(2008)提出利用LiDAR点云中提取的线特征和面特征作为控制,对影像进行空三。邓非(2006)、杜全叶(2010)等人则先对影像进行相对定向生成立体像对,然后利用影像立体匹配得到的点云与LiDAR点云进行配准,并定立体模型的定向参数进行纠正。
(2)以影像为参考:考虑到影像经过传统摄影测量空三处理后,能达到较高的定位精度,一些学者选择影像数据作为参考,对LiDAR点云的误差进行纠正。如Habib(2007b)、Armenakis(2010)在影像匹配得到的DSM和LiDAR点云之间手工选取同名平面,利用共面约束实现两者的配准。Pothou(2006)则直接采用ICP算法对匹配得到的DSM和LiDAR点云进行自动配准。这类算法一般都是在物方进行配准,需要预先进行影像立体匹配得到高质量的DSM,配准模型一般采用刚体变换模型。由于影像匹配目前仍是一个难题,且配准模型也不严格,这类算法在实际中应用较少。
针对点云与影像定位精度改善和配准问题,现有的内部平差结合外部配准的处理方式还存在明显不足。
首先,内部平差将点云与影像分开处理,采用不同的模型分别对各自系统内部的误差进行平差,忽视了两者的内在联系。仅考虑点云与影像自身的误差而未考虑两者之间的误差,导致平差模型不完整,处理精度不高。
其次,外部配准时仅从数据间空间错位的现象出发,未能抓住造成错位的根本原因。人为选择某种数据作为参考,忽视了参考的数据本身具有系统误差,造成配准结果常常存在系统性的偏移。
综上所述,对于点云与影像集成处理中数据定位精度改善的问题,现有的方法存在模型不严格,处理精度有待改善等问题。
发明内容
针对现有技术的不足,本发明设计了一种点云与影像整体空三方法。
本发明的技术方案为一种机载激光扫描点云与光学影像的整体空三方法,包括以下步骤:
步骤1,建立基于LiDAR物方点的观测模型如下,
其中,Rlid为激光脉冲发射时刻的姿态矩阵,Rscan为激光扫描角旋转矩阵,θ为扫描角,ρ为激光脉冲测距值,(x,y)为物方点(X,Y,Z)所对应的像点坐标,f为主距,(XSc,YSc,ZSc)为摄影中心坐标,Rcam为相片姿态旋转矩阵;
步骤2,建立激光扫描仪与相机的关联性误差模型如下,
其中,(Xgps,Ygps,Zgps)为GPS天线中心位置,Rimu为IMU姿态角构成的旋转矩阵,为激光扫描仪与IMU之间的偏心角(αlid,βlid,γlid)旋转矩阵,(ulid,vlid,wlid)为GPS天线中心与激光扫描仪中心间的偏心分量,为相机主光轴与IMU坐标轴之间偏心角(αcam,βcam,γcam)旋转矩阵,(ucam,vcam,wcam)为GPS天线中心与摄影中心之间的偏心分量;
用线性漂移模型对POS系统误差建模如下,
其中t为当前摄影时刻,t0为参考时刻,aX,aY,aZ,bX,bY,bZ为GPS摄站漂移系统误差(dXgps,dYgps,dZgps)改正参数,aω,aκ,bω,bκ是IMU姿态漂移系统误差(dω,dκ)改正参数;
步骤3,建立以航空影像作为定向片的激光点外方位元素改正模型如下,
其中,Tk,Tk+1表示沿飞行方向拍摄的相邻影像k,k+1曝光时刻;t为激光脚点p对应激光脉冲发射时刻,Xk、Qk,Xk+1、Qk+1分别表示相邻影像k,k+1的线元素向量和角元素向量,(Xt,Qt)为t时刻相机的航迹;(ωp,κp,Xp,Yp,Zp)为激光脚点p的外方位元素,R(Qt)表示t时刻相机姿态旋转矩阵;
步骤4,根据步骤3所得激光点外方位元素改正模型和步骤1所得基于LiDAR物方点的观测模型,建立整体空三的误差方程,根据以下误差方程进行整体空三,
方程组中待求未知数为,
为IMU漂移误差改正参数向量;
方程组中已知数如下,
VP,Vgps,Vimu分别表示像点坐标、GPS观测值以及IMU观测值的改正数向量;
A1,…,A3;B1,…,B3;C1,C2;D1;F1;H1,H2为相应未知数的系数矩阵;
LP,Lgps,Limu分别为相应误差方程常数项向量;
PP,Pgps,Pimu分别为相应观测值权矩阵。
本发明依据点云与影像的系统误差之间的关联关系,建立联合两者的整体空三严格平差模型。通过对系统误差的整体补偿,提高点云和影像的定位精度,实现两者的配准。
附图说明
图1为本发明实施例的传感器相对位置示意图;
图2为本发明实施例的定向片示意图。
具体实施方式
以下结合附图和实施例详细说明本发明技术方案。
为有利于理解本发明技术方案,实施例分以下几个部分进行说明:
(1)基于LiDAR物方点的观测模型
依据激光定位原理,激光脚点坐标和系统误差之间的关系可以表达为式(1)。其中(X,Y,Z)为激光脚点坐标(即物方点坐标),(XSI,YSI,ZSI)为激光脉冲发射时刻的扫描中心坐标,Rlid为激光脉冲发射时刻的姿态矩阵,Rscan为激光扫描角旋转矩阵,θ为扫描角,ρ为激光脉冲测距值。
依据小孔成像原理,像点和物方点的对应关系可表示为(2)。其中(x,y)为物方点(X,Y,Z)所对应的像点坐标,f为主距,(XSc,YSc,ZSc)为摄影中心坐标,Rcam为相片姿态旋转矩阵。
将式(1)带入(2)即可构造出点云与影像的联合平差的观测方程(3)。
(2)激光扫描仪与相机的关联性误差模型
由于在数据采集工程中,点云和影像共用同一套POS数据,两者的外方位元素之间存在关联性。考虑到系统安装时各传感器物理尺寸的影响,激光扫描仪、相机(Camera)和POS之间不可能完全重合,传感器之间存在系统安置误差(偏心角、偏心分量),各传感器激光扫描仪、相机与GPS天线、IMU之间的相对位置关系见图1,图中P为地面坐标系的原点、A是某个物方点、S是相片的摄影中心。
按照传感器之间相对位置关系,可以建立激光点外方位元素、相片外方位元素与POS位置和姿态之间的关联性模型,将激光点的外方位元素误差与相片外方位元素误差联系起来。
(Xgps,Ygps,Zgps)为GPS天线中心位置,Rimu为IMU姿态角构成的旋转矩阵,为激光扫描仪与IMU之间的偏心角(αlid,βlid,γlid)旋转矩阵,(ulid,vlid,wlid)为GPS天线中心与激光扫描仪中心间的偏心分量,为相机主光轴与IMU坐标轴之间偏心角(αcam,βcam,γcam)旋转矩阵,(ucam,vcam,wcam)为GPS天线中心与摄影中心之间的偏心分量。
考虑到POS系统在飞行过程中会随时间产生漂移,可以采用线性漂移模型对POS系统误差进行建模。
其中t为当前摄影时刻,t0为参考时刻,aX,aY,aZ,bX,bY,bZ为GPS摄站漂移系统误差(dXgps,dYgps,dZgps)改正参数,aω,aκ,bω,bκ是IMU姿态漂移系统误差(dω,dκ)改正参数。(3)航空影像作为定向片的激光点外方位元素改正模型
式(3)中待求未知数既包括相片外方位元素也包括激光脚点外方位元素,每个脚点都有6个待求未知数,未知数过多会造成方程无法求解,需要建立合适的约束条件,减少未知数,提高平差精度。
对影像和点云数据特性进行分析可见,相片之间能够构建结构稳定的区域网;而点云数据具有高精度的测距和测角值,可提供准确的传感器与地面目标的相对约束。根据两者之间的特点,我们拟采用定向片法对飞行平台的航迹进行改正,提高平台位置和姿态的估计精度。
由于每张相片作为一个整体只需确定6个未知数,实施例以光学影像的外方位元素作为航迹的基准,采用Lagrange多项式来内插激光点云的位置和姿态。
如图2中,Tk,Tk+1,Tk+2,Tk+3,Tk+4表示沿飞行方向拍摄的影像k,k+1,k+2,k+3,k+4曝光时刻,在相片两次曝光间隔之间可能有很多个激光脉冲发射,例如用t1,t2,...,tn表示相片两次曝光间隔之间的n个激光脉冲发射时刻。假设激光脚点p对应激光脉冲发射时刻为t,Xj,Qj(j∈[k,k+1])分别表示2个相邻影像的线元素向量和角元素向量,Tk,Tk+1分别为相邻影像对应的曝光时刻。则t时刻相机的航迹(Xt,Qt)可表示为(8)所示Lagrange函数。
其中,R(Qt)表示t时刻相机姿态旋转矩阵。
根据定向片所确定的航迹还可列出GPS位置和IMU姿态的条件方程如式(11),(12)。
(4)建立整体空三的误差方程
将式(9),(10)带入式(3)可以构造出联合激光点云与影像的观测方程,并综合方程(11),(12),可得机载LiDAR与光学影像的整体空三的观测方程,对方程组进行线性化后,整体空三误差方程如下:
方程组中待求未知数为:
为IMU漂移误差改正参数向量;
已知数为:
VP,Vgps,Vimu分别表示像点坐标、GPS观测值以及IMU观测值的改正数向量;
A1,…,A3;B1,…,B3;C1,C2;D1;F1;H1,H2为相应未知数的系数矩阵;
LP,Lgps,Limu分别为相应误差方程常数项向量;
PP,Pgps,Pimu分别为相应观测值权矩阵。
这些向量可以根据像点坐标、激光点坐标、GPS/IMU观测值,以及偏心角、偏心分量初值计算得到。具体实施时,可采用计算机软件技术实现自动运行,根据公式(13)快速高效地完成整体空三。
本文中所描述的具体实施例仅仅是对本发明精神作举例说明。本发明所属技术领域的技术人员可以对所描述的具体实施例做各种各样的修改或补充或采用类似的方式替代,但并不会偏离本发明的精神或者超越所附权利要求书所定义的范围。
Claims (1)
1.一种机载激光扫描点云与光学影像的整体空三方法,其特征在于,包括以下步骤:
步骤1,建立基于LiDAR物方点的观测模型如下,
其中,Rlid为激光脉冲发射时刻的姿态矩阵,Rscan为激光扫描角旋转矩阵,θ为扫描角,ρ为激光脉冲测距值,(x,y)为物方点(X,Y,Z)所对应的像点坐标,f为主距,(XSc,YSc,ZSc)为摄影中心坐标,Rcam为相片姿态旋转矩阵;
步骤2,建立激光扫描仪与相机的关联性误差模型如下,
其中,(Xgps,Ygps,Zgps)为GPS天线中心位置,Rimu为IMU姿态角构成的旋转矩阵,为激光扫描仪与IMU之间的偏心角(αlid,βlid,γlid)旋转矩阵,(ulid,vlid,wlid)为GPS天线中心与激光扫描仪中心间的偏心分量,为相机主光轴与IMU坐标轴之间偏心角(αcam,βcam,γcam)旋转矩阵,(ucam,vcam,wcam)为GPS天线中心与摄影中心之间的偏心分量;
用线性漂移模型对POS系统误差建模如下,
其中t为当前摄影时刻,t0为参考时刻,aX,aY,aZ,bX,bY,bZ为GPS摄站漂移系统误差(dXgps,dYgps,dZgps)改正参数,aω,aκ,bω,bκ是IMU姿态漂移系统误差(dω,dκ)改正参数;
步骤3,建立以航空影像作为定向片的激光点外方位元素改正模型如下,
其中,Tk,Tk+1表示沿飞行方向拍摄的相邻影像k,k+1曝光时刻;t为激光脚点p对应激光脉冲发射时刻,Xk、Qk,Xk+1、Qk+1分别表示相邻影像k,k+1的线元素向量和角元素向量,(Xt,Qt)为t时刻相机的航迹;(ωp,κp,Xp,Yp,Zp)为激光脚点p的外方位元素,R(Qt)表示t时刻相机姿态旋转矩阵;
步骤4,根据步骤3所得激光点外方位元素改正模型和步骤1所得基于LiDAR物方点的观测模型,建立整体空三的误差方程,根据以下误差方程进行整体空三,
方程组中待求未知数为,
方程组中已知数如下,
VP,Vgps,Vimu分别表示像点坐标、GPS观测值以及IMU观测值的改正数向量;
A1,…,A3;B1,…,B3;C1,C2;D1;F1;H1,H2为相应未知数的系数矩阵;
LP,Lgps,Limu分别为相应误差方程常数项向量;
PP,Pgps,Pimu分别为相应观测值权矩阵。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310116306.9A CN103196431B (zh) | 2013-04-03 | 2013-04-03 | 机载激光扫描点云与光学影像的整体空三方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310116306.9A CN103196431B (zh) | 2013-04-03 | 2013-04-03 | 机载激光扫描点云与光学影像的整体空三方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103196431A true CN103196431A (zh) | 2013-07-10 |
CN103196431B CN103196431B (zh) | 2014-12-17 |
Family
ID=48719135
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310116306.9A Expired - Fee Related CN103196431B (zh) | 2013-04-03 | 2013-04-03 | 机载激光扫描点云与光学影像的整体空三方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103196431B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107917699A (zh) * | 2017-11-13 | 2018-04-17 | 中国科学院遥感与数字地球研究所 | 一种用于提高山区地貌倾斜摄影测量空三质量的方法 |
CN108447100A (zh) * | 2018-04-26 | 2018-08-24 | 王涛 | 一种机载三线阵ccd相机的偏心矢量和视轴偏心角标定方法 |
CN108613675A (zh) * | 2018-06-12 | 2018-10-02 | 武汉大学 | 低成本无人飞行器移动测量方法及系统 |
CN110068817A (zh) * | 2019-05-07 | 2019-07-30 | 中国科学院电子学研究所 | 一种基于激光测距和InSAR的地形测图方法、仪器和系统 |
CN111208497A (zh) * | 2020-04-20 | 2020-05-29 | 成都纵横融合科技有限公司 | 一种机载激光雷达系统平差处理方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101126639A (zh) * | 2007-09-18 | 2008-02-20 | 武汉大学 | 快速进行低空遥感影像自动匹配与空中三角测量方法 |
-
2013
- 2013-04-03 CN CN201310116306.9A patent/CN103196431B/zh not_active Expired - Fee Related
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101126639A (zh) * | 2007-09-18 | 2008-02-20 | 武汉大学 | 快速进行低空遥感影像自动匹配与空中三角测量方法 |
Non-Patent Citations (2)
Title |
---|
黄先锋等: "机载激光扫描数据误差分析与精度改善研究进展", 《遥感信息》 * |
黄先锋等: "机载激光雷达点云数据的实时渲染", 《武汉大学学报(信息科学版)》 * |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107917699A (zh) * | 2017-11-13 | 2018-04-17 | 中国科学院遥感与数字地球研究所 | 一种用于提高山区地貌倾斜摄影测量空三质量的方法 |
CN107917699B (zh) * | 2017-11-13 | 2020-01-17 | 中国科学院遥感与数字地球研究所 | 一种用于提高山区地貌倾斜摄影测量空三质量的方法 |
CN108447100A (zh) * | 2018-04-26 | 2018-08-24 | 王涛 | 一种机载三线阵ccd相机的偏心矢量和视轴偏心角标定方法 |
CN108447100B (zh) * | 2018-04-26 | 2020-02-11 | 王涛 | 一种机载三线阵ccd相机的偏心矢量和视轴偏心角标定方法 |
CN108613675A (zh) * | 2018-06-12 | 2018-10-02 | 武汉大学 | 低成本无人飞行器移动测量方法及系统 |
CN108613675B (zh) * | 2018-06-12 | 2021-07-20 | 武汉大学 | 低成本无人飞行器移动测量方法及系统 |
CN110068817A (zh) * | 2019-05-07 | 2019-07-30 | 中国科学院电子学研究所 | 一种基于激光测距和InSAR的地形测图方法、仪器和系统 |
CN111208497A (zh) * | 2020-04-20 | 2020-05-29 | 成都纵横融合科技有限公司 | 一种机载激光雷达系统平差处理方法 |
Also Published As
Publication number | Publication date |
---|---|
CN103196431B (zh) | 2014-12-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103674063B (zh) | 一种光学遥感相机在轨几何定标方法 | |
EP3454008A1 (en) | Survey data processing device, survey data processing method, and survey data processing program | |
CN106895851B (zh) | 一种光学遥感卫星多ccd多相机统一处理的传感器校正方法 | |
Wang et al. | Geometric accuracy validation for ZY-3 satellite imagery | |
CN107886531B (zh) | 一种基于激光测距以及物方匹配的虚拟控制点获取方法 | |
CN103196431B (zh) | 机载激光扫描点云与光学影像的整体空三方法 | |
CN103106339A (zh) | 同步航空影像辅助的机载激光点云误差改正方法 | |
CN103822615A (zh) | 一种多控制点自动提取与聚合的无人机地面目标实时定位方法 | |
CN104807449A (zh) | 一种基于立体摄影测量的输电线路交叉跨越测量系统 | |
Rüther et al. | A comparison of close-range photogrammetry to terrestrial laser scanning for heritage documentation | |
CN105823469A (zh) | 一种gnss高精度辅助无人机空三测量方法 | |
CN108447100B (zh) | 一种机载三线阵ccd相机的偏心矢量和视轴偏心角标定方法 | |
CN103411587A (zh) | 定位定姿方法及系统 | |
CN107798668B (zh) | 基于rgb影像的无人机成像高光谱几何校正的方法及系统 | |
Zhao et al. | Development of a Coordinate Transformation method for direct georeferencing in map projection frames | |
Zhao et al. | Direct georeferencing of oblique and vertical imagery in different coordinate systems | |
CN110986888A (zh) | 一种航空摄影一体化方法 | |
CN109191532B (zh) | 一种机载三线阵ccd相机标定方法 | |
CN105783879B (zh) | 一种条带约束下的同轨卫星连续景影像定位方法 | |
CN105571598B (zh) | 一种卫星激光高度计足印相机姿态的测定方法 | |
CN107063191B (zh) | 一种摄影测量区域网整体相对定向的方法 | |
CN107705272A (zh) | 一种空间影像的高精度几何校正方法 | |
CN102620745B (zh) | 一种机载imu视准轴误差检校方法 | |
CN116824079A (zh) | 基于全信息摄影测量的三维实体模型构建方法和装置 | |
Zhou et al. | High Accuracy Georeferencing of GF-6 Wide Field of View Scenes towards Analysis Ready Data |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20141217 Termination date: 20160403 |
|
CF01 | Termination of patent right due to non-payment of annual fee |