CN101900536B - 基于数字图像法的物体表面形貌的测量方法 - Google Patents

基于数字图像法的物体表面形貌的测量方法 Download PDF

Info

Publication number
CN101900536B
CN101900536B CN2010102386164A CN201010238616A CN101900536B CN 101900536 B CN101900536 B CN 101900536B CN 2010102386164 A CN2010102386164 A CN 2010102386164A CN 201010238616 A CN201010238616 A CN 201010238616A CN 101900536 B CN101900536 B CN 101900536B
Authority
CN
China
Prior art keywords
evaluation function
value
subarea
focus
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN2010102386164A
Other languages
English (en)
Other versions
CN101900536A (zh
Inventor
方钦志
乔永乐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xian Jiaotong University
Original Assignee
Xian Jiaotong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xian Jiaotong University filed Critical Xian Jiaotong University
Priority to CN2010102386164A priority Critical patent/CN101900536B/zh
Publication of CN101900536A publication Critical patent/CN101900536A/zh
Application granted granted Critical
Publication of CN101900536B publication Critical patent/CN101900536B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

本发明公开了一种基于数字图像法的物体表面形貌的测量方法,包括离焦距离-聚焦评价函数曲线标定和物体表面三维形貌重建两大步骤,其中离焦距离-聚焦评价函数曲线标定是在每张照片的同一X、Y坐标的像素点周围取相同大小的区域,计算这些区域的聚焦评价函数值,并和图像序列中每张照片的离焦距离对应起来,得出离焦距离-聚焦评价函数值曲线。物体表面三维形貌重建是在物体前方任意位置处仅拍一张照片,在该照片的各像素点周围选取一个区域,计算该区域聚焦评价函数值,并和标定曲线对应,当函数值处于有效范围段内,得到该区域聚焦评价函数值对应的距离值,该距离值和聚焦评价函数最大值对应的横坐标距离值的距离差就是该像素点高度值。

Description

基于数字图像法的物体表面形貌的测量方法
技术领域
本发明涉及一种非接触测量物体表面形貌的方法,特别涉及一种基于数字图像法的物体表面形貌的测量方法。
背景技术
基于数字图像法的物体表面三维形貌测量在国内外已经有很多相关研究,涉及光学、测试技术、图像处理等领域,因为成像装置的景深范围有限,因此在同一位置拍摄的一张照片上面不同地方的清晰度不同,目前基于数字图像法的三维形貌测量方面实际上是关于聚焦提取方面的研究,如图1所示,其基本原理是通过调整照相机Z轴位置,获取序列图像,使整个序列覆盖物体在照相机中的全部Z轴方向信息,图像序列号从k=0到k=K,在照片平面上建立直角坐标系o-xy,其中每张照片都有聚焦清晰区域和模糊区域,选择一种聚焦评价函数作为清晰度指标,获取每个像素对应的聚焦最清晰位置,例如要得到坐标原点对应最清晰的聚焦位置,在每张照片坐标原点周围选择一个大小相同的(2n+1)像素×(2n+1)像素的子区。根据散斑图像质量变形的大小,n的取值一般可在7~20之间选取。该子区内对应像素点的颜色(RGB)值的组合可以用来描述该子区的特征。通过计算每张照片子区的聚焦评价函数值Fk(x,y),提取聚焦评价函数值最大的子区对应的照片,这张照片对应的区域中心像素点就是聚焦最清晰的像点,记为f(x,y,t),将这个点作为融合图上的对应坐标(x,y)的像素点,将它的值记为f′(x,y,t)。将照片序列中每个点做如上相同的计算提取就能重建出一幅每一部位都十分清晰的图像,称为全景深融合图像,再通过聚焦分析恢复深度信息,最后对深度信息进行插值拟合,恢复出比较精确的物体深度信息。以上就是现有的通过图像序列进行三维重建和测量的技术。
对评价函数的选取应满足无偏性、单峰性、灵敏度高、信噪比高和计算量小等要求。常用的聚焦评价函数例如灰度变化函数、梯度函数、灰度熵算子、频域类函数等。这些聚焦评价函数是根据图像转化为灰度图像后聚焦子区比离焦子区包含更多的灰度变化这一特点,例如灰度方差算子,如公式(1)所示,g(i,j)为区域中对应像素点(i,j)的灰度值,g0为图片区域的灰度平均值,M、N为图片区域的宽度和高度,F为最终得到的灰度方差值,这种评价函数算法叫做灰度方差算子。子区越清晰,则F值越大;反之,最大F值对应的子区就是聚焦最清晰子区。
F = Σ i = 1 M Σ j = 1 N ( g ( i , j ) - g 0 ) 2 MN · · · ( 1 )
上述基于数字图像法的物体表面三维形貌测量技术所存在的问题是每次测量都需要调整照相机Z轴位置,拍摄很多张照片组成序列图像,以使整个序列覆盖物体在照相机中的全部Z轴方向信息才行,这样使测量工作变得繁琐而且使后面的重建工作变得复杂。
发明内容
本发明的目的就是为了解决现有物体表面三维形貌测量技术的照片数量需求多的缺点,提供一种建立在区域评价函数规律相同的基础上的物体表面形貌的测量方法,其特征在于只需要单张照片就可以完成三维形貌的测量重建,包括下述步骤:
1:离焦距离-聚焦评价函数曲线标定
1.1任意选择一个表面形貌起伏较大的物体,先在物体表面喷上一层均匀的白漆,然后在白漆表面上再均匀喷涂三种不同颜色致密的小斑点,使得三种颜色斑点能够均匀覆盖整个物体表面;
1.2调整照相机Z轴位置,获取被测物体表面图像序列,使整个图像序列覆盖物体在照相机中的全部Z轴方向信息,并记录Z轴坐标;
1.3选择一种聚焦评价函数作为清晰度的指标,聚焦评价函数的选取应满足无偏性、单峰性、灵敏度高、信噪比高和计算量小的要求;
1.4在每张照片同一X、Y坐标的像素点周围取一个相同大小的子区,子区边界对称于像素点,计算这些区域的聚焦评价函数值,将所计算的聚焦评价函数值和图像序列中每张照片的Z轴坐标对应起来,画出聚焦评价函数值随Z轴坐标变化的曲线,进一步以曲线最高点对应的Z轴坐标为坐标原点,做出离焦距离-聚焦评价函数值曲线作为标定曲线,其中,在聚焦评价函数最大值两边变化较快的部分为有效范围段,该有效范围段是相机焦距的函数;
2:物体表面三维形貌重建
2.1在需要重建表面三维形貌的物体前方适当位置处拍一张照片;
2.2为了确定表面一点的高度值,在该点周围取一个子区,子区边界对称与该点,计算该子区聚焦评价函数值,将所计算的聚焦评价函数值和步骤1.4中的标定曲线对应,当所计算的聚焦评价函数值处于有效范围段内,在事先确定出过焦和欠焦的情况下,得到该子区聚焦评价函数值对应的距离值,该距离值和标定曲线中的聚焦评价函数最大值对应的横坐标距离值的距离差就是该像素点高度值;
2.3将每个像素点的高度值确定以后,组合起来就得到了物体表面三维形貌图。
上述方案中,所述步骤1.4、2.2中所述子区大小为21像素×21像素的正方形区域。所述聚焦评价函数的选取采用改进的灰度方差算子。
本发明的核心思想是基于区域评价函数规律相同原理。因为在物体表面喷涂的三种不同颜色斑点不仅足够小而且分布均匀,在照片上不同部位大小形状相同的区域包含各色点的个数相同,将所拍照片转化为灰度图像后,根据聚焦评价函数的计算公式,清晰度程度相同的区域的聚焦评价函数值相同,在照片序列中,若在每张照片同一坐标像素点周围对称选取一个小区域,计算这些小区域的聚焦评价函数值并画出其随离焦距离的变化规律,则这些变化规律必定是相同的,
与现有的物体表面形貌测量方法相比,本发明方法方便、简单、易行,拍摄单张表面形貌照片就可以达到表面形貌三维测量的目的,在实际应用中不仅方便了现场操作,而且具有很强的时效性和准确性。
附图说明
图1为全景深融合图实现过程演示图。
图2为本发明的聚焦评价函数-离焦距离值变化规律标定曲线。
图3为表面不同高度点A、B的聚焦评价函数值-离焦距离曲线对比。
图4为本发明的表面不同高度点A、B的高度值测定。
具体实施方式
以下结合附图及实施例对本发明作进一步的详细描述。
1:离焦距离-聚焦评价函数值关系曲线的标定
1.1物体表面处理方法,选择一种表面形貌起伏较大的物体,先用喷雾器在表面喷上一层均匀的白漆,然后选择红、黑、蓝三种墨水,分别灌入三只喷雾器,在物体表面均匀喷上这三种颜色致密的小斑点,使得三种颜色斑点能够均匀覆盖整个物体表面。
1.2物体表面序列照片拍摄过程,调整照相机Z轴位置,保持移动过程中照相机Z始终处于在一条直线上(用自动控制机械控制移动),移动照相机拍摄照片,使整个序列覆盖物体在照相机中的全部Z轴方向信息,每两张照片间的距离应小于整个移动距离的1/100,这样我们得到100张以上的照片序列。
1.3选择一种聚焦评价函数作为清晰度的指标,聚焦评价函数的选取应满足无偏性、单峰性、灵敏度高、信噪比高和计算量小的要求;本实施例中选择改进的灰度方差算子,如公式(2)和(3)所示,其中T和L为设置的上下阈值,[g(i,j)-g0]2值小于L或者大于T都以0计,M为子区的宽度,N为子区的高度,在原有的灰度方差算子基础上加入上下阈值可以有效提高灵敏度以及抑制噪声的影响。
F = Σ i = 1 M Σ j = 1 N differ ( i , j ) MN · · · ( 2 )
differ ( i , j ) = 0 , [ g ( i , j ) - g 0 ] 2 ≤ L [ g ( i , j ) - g 0 ] 2 , L ≤ [ g ( i , j ) - g 0 ] 2 ≤ T 0 , [ g ( i , j ) - g 0 ] 2 ≥ T · · · ( 3 )
1.4标定曲线的确定,在实际拍照中,照相机在前后移动过程中尽管是用自动控制机械控制移动,但总会有X和Y方向的微小移动,当我们在序列照片中选择相同位置形状的子区时,这些子区之间因为存在微小位移导致每个子区里面的点分布特征不同,我们使用最大相关法进行校正,其原理是用前张照片选定位置、大小、形状的子区在后张照片相同位置周围搜寻最大相关子区,我们在前张照片中选定子区,该子区大小形状为21像素×21像素的正方形区域,中心像素点坐标位于靠近照片中心的任意像素点位置,后张照片的搜索范围为以与前张照片子区中心点相同坐标为中心,边界对称于中心的61像素×61像素正方形区域,以区域内各点为中心做边界对称于中心的21像素×21像素正方形子区,和前张照片的正方形子区做相似度计算,计算公式如(4):g1(i,j)为前张照片子区内对应(i,j)像素点的灰度值,g2(i,j)为在后张照片各子区内对应(i,j)像素点的灰度值,61像素×61像素范围内搜索计算完后,选取(4)式计算结果最大值所对应的区域作为最大相关子区。
G = Σ i = 1 M Σ j = 1 N g 1 ( i , j ) g 2 ( i , j ) Σ i = 1 M Σ j = 1 N g 1 ( i , j ) g 1 ( i , j ) Σ i = 1 M Σ j = 1 N g 2 ( i , j ) g 2 ( i , j ) ( 4 )
在后张照片中搜索得到最大相关子区以后,计算该子区聚焦评价函数值,然后寻找该子区在下张照片中的最大相关的子区,依此类推,最后将这些聚焦评价函数值和子区所在照片的Z轴坐标对应起来,画出聚焦评价函数值随Z轴坐标变化的曲线。如图2所示,以Z轴坐标增大方向为X轴方向,以曲线聚焦评价函数最高点对应的Z轴坐标为坐标原点,做出离焦距离-聚焦评价函数值曲线作为标定曲线,有效范围段是曲线上在聚焦最大值两边变化较快的部分,在有效范围段外,曲线变化趋于平缓,用计算得到的聚焦评价函数值对应离焦距离会导致误差增大,所以有效范围段外的情况不予考虑。有效范围段是焦距的函数。
根据线性几何光学的性质,位于物方同一平面内的物点,其理想像点也在同一平面内,位于物方不同平面内的物点,其理想像点也在不同平面内。又因为表面上喷涂的各色点均匀,以任何像点为中心的子区内对应像素点的颜色值组合的统计情况是相同的,所以清晰度相同的子区聚焦评价函数值也相同。基于以上分析,如图3所示,用A、B表示物体表面上的两点,以拍照距离为横坐标,以聚焦评价函数值为纵坐标做出坐标系,画出以A点为中心最后得到的标定曲线和以B点为中心最后得到的标定曲线,两条曲线实际上只是在距离轴有一位移,其形状是相同的。
2:物体表面的三维测量
2.1拍摄单张照片,在物体前方适当位置拍摄一张照片,使拍摄的照片大部分区域都相对清晰,使后面计算的聚焦评价函数值都能落在有效范围段内。照片必须覆盖被测物体表面的全部范围。
2.2物体表面点的高度值确定,如图4所示,以距离为X轴以聚焦评价函数值为Y轴,做出坐标系,在X轴上标出拍照的距离,并过该点做平行于Y轴的线,以A像点对应物点高度值的确定为例,首先在照片上A点周围取一个21像素×21像素的正方形子区,子区边界对称于A点,(距离照片边缘小于10像素宽度的像素点不能达到上述要求,所以不能进行高度测量)。计算该子区聚焦评价函数值,并将该值标在照片位置上,在事先确定出过焦和欠焦的情况下,将该聚焦评价函数值和标定曲线的聚焦评价函数值对应(标定曲线坐标系与XY坐标系平行),该聚焦函数评价值对应距离值和标定曲线聚焦评价函数最大值对应的距离值的距离差就是物点的高度值(以拍照位置为基准)。照片上B点的高度值测量同A点的测量方法,但两点对应的标定曲线位置沿Y轴有一位移,可以看出这个位移值就是A、B两点的相对高度值。
2.3物体表面形貌三维重建,照片上每个点都如上述得到相对高度值后,建立XY-Z坐标系,以每个点在照片上的横坐标、纵坐标和高度值为X、Y、Z值,绘出三维图,这样就重建出物体表面的三维形貌。

Claims (3)

1.一种基于数字图像法的物体表面形貌的测量方法,其特征在于,包括下述步骤:
步骤1、离焦距离-聚焦评价函数曲线标定
1.1、任意选择一种表面形貌起伏较大的物体,先在被测物体表面喷上一层均匀的白漆,然后在其表面均匀喷涂上三种不同颜色致密的小斑点,使得三种颜色斑点能够均匀覆盖整个被测物体表面;
1.2、调整照相机Z轴位置,获取被测物体表面图像序列,使整个图像序列覆盖物体在显微镜中的全部Z轴方向信息;
1.3、选择一种聚焦评价函数作为清晰度的指标,聚焦评价函数的选取应满足无偏性、单峰性、灵敏度高、信噪比高和计算量小的要求;
1.4、在每张照片的同一X、Y坐标的像素点周围取相同大小的一个子区,子区边界对称于像素点,计算这些子区的聚焦评价函数值,将所计算的聚焦评价函数值和图像序列中每张照片的离焦距离对应起来,画出离焦距离-聚焦评价函数值曲线作为标定曲线,其中,在聚焦最大值两边变化较快的部分为有效范围段,该有效范围段是焦距的函数;
步骤2、物体表面三维形貌重建
2.1、在需要重建表面三维形貌的物体前方任意位置处拍一张照片;
2.2、在该张照片的各像素点周围选取一个子区,子区边界对称于像素点,计算该子区聚焦评价函数值,将所计算的聚焦评价函数值和步骤1.4中的标定曲线对应,当所计算的聚焦评价函数值处于有效范围段内,得到该子区聚焦评价函数值对应的距离值,在事先确定出过焦和欠焦的情况下,该距离值和标定曲线中的聚焦评价函数最大值对应的横坐标距离值的距离差就是该像素点高度值;
2.3、将每个像素点的高度值确定以后,组合起来就得到了物体表面三维形貌图。
2.如权利要求1所述的基于数字图像法的物体表面形貌的测量方法,其特征在于,步骤1.4、2.2中所述子区大小为21像素×21像素的正方形区域。
3.如权利要求1所述的基于数字图像法的物体表面形貌的测量方法,其特征在于,步骤1.3、2.2中所述聚焦评价函数的选取采用改进的灰度方差算子,如公式(2)和(3)所示,其中T和L为设置的上下阈值,[g(i,j)-g0]2值小于L或者大于T都以0计,M为子区的宽度,N为子区的高度,
F = Σ i = 1 M Σ j = 1 N differ ( i , j ) MN . . . ( 2 )
differ ( i , j ) = 0 , [ g ( i , j ) - g 0 ] 2 < L [ g ( i , j ) - g 0 ] 2 , L &le; [ g ( i , j ) - g 0 ] 2 &le; T 0 , [ g ( i , j ) - g 0 ] 2 > T . . . ( 3 )
g(i,j)为区域中对应像素点(i,j)的灰度值,g0为图片区域的灰度平均值。
CN2010102386164A 2010-07-28 2010-07-28 基于数字图像法的物体表面形貌的测量方法 Expired - Fee Related CN101900536B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN2010102386164A CN101900536B (zh) 2010-07-28 2010-07-28 基于数字图像法的物体表面形貌的测量方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN2010102386164A CN101900536B (zh) 2010-07-28 2010-07-28 基于数字图像法的物体表面形貌的测量方法

Publications (2)

Publication Number Publication Date
CN101900536A CN101900536A (zh) 2010-12-01
CN101900536B true CN101900536B (zh) 2011-11-16

Family

ID=43226287

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2010102386164A Expired - Fee Related CN101900536B (zh) 2010-07-28 2010-07-28 基于数字图像法的物体表面形貌的测量方法

Country Status (1)

Country Link
CN (1) CN101900536B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014059858A1 (zh) * 2012-10-18 2014-04-24 苏州惠生电子科技有限公司 一种显微影像检测仪器及其自动调焦方法

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102506745B (zh) * 2011-11-15 2014-02-12 天津理工大学 基于单幅显微图像的腐蚀坑三维信息测量方法
CN106097302B (zh) * 2016-05-30 2019-07-23 西安交通大学 基于单张图片的物体三维形貌非接触测量方法
CN107918691B (zh) * 2016-10-07 2023-09-29 福特全球技术公司 用于评估信号的方法和装置
CN106403853A (zh) * 2016-11-15 2017-02-15 沈阳建筑大学 一种石材表面粗糙度的在线检测装置及方法
CN109059810B (zh) * 2018-07-24 2020-05-26 天津大学 固结磨料磨具表面地貌检测方法及装置
CN109300157B (zh) * 2018-09-14 2021-08-24 威准(厦门)自动化科技有限公司 一种视觉机器的机械位置确定方法、终端设备及存储介质
CN109764817A (zh) * 2019-01-14 2019-05-17 南京信息工程大学 非接触式透镜中心厚测量系统及方法
CN110288701B (zh) * 2019-06-26 2023-01-24 图码思(成都)科技有限公司 一种基于深度聚焦的三维重建方法及终端
CN110363734B (zh) * 2019-06-27 2021-07-13 上海交通大学 厚样本显微荧光图像重构方法及系统
CN110715616B (zh) * 2019-10-14 2021-09-07 中国科学院光电技术研究所 一种基于聚焦评价算法的结构光微纳三维形貌测量方法
CN111260776B (zh) * 2020-02-07 2023-04-18 山西大学 一种自适应正态分析的三维形貌重建方法
CN111829457B (zh) * 2020-07-09 2022-06-10 中国科学院光电技术研究所 基于结构光照明显微系统的超薄膜器件三维形貌检测方法
CN112414316B (zh) * 2020-10-28 2022-04-08 西北工业大学 一种应变片敏感栅尺寸参数测量方法
CN112489196B (zh) * 2020-11-30 2022-08-02 太原理工大学 一种多尺度三维频域变换的颗粒物三维形貌重建方法
CN116358841B (zh) * 2023-06-01 2023-08-08 南京木木西里科技有限公司 一种显微镜镜头自识别校准系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101110125A (zh) * 2007-07-25 2008-01-23 西北师范大学 基于数字图像技术构建金属表面层三维宏观形貌的方法
CN101245994A (zh) * 2008-03-17 2008-08-20 南京航空航天大学 物体表面三维轮廓结构光测量系统的标定方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4231320B2 (ja) * 2003-03-31 2009-02-25 本田技研工業株式会社 移動体の検出装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101110125A (zh) * 2007-07-25 2008-01-23 西北师范大学 基于数字图像技术构建金属表面层三维宏观形貌的方法
CN101245994A (zh) * 2008-03-17 2008-08-20 南京航空航天大学 物体表面三维轮廓结构光测量系统的标定方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014059858A1 (zh) * 2012-10-18 2014-04-24 苏州惠生电子科技有限公司 一种显微影像检测仪器及其自动调焦方法

Also Published As

Publication number Publication date
CN101900536A (zh) 2010-12-01

Similar Documents

Publication Publication Date Title
CN101900536B (zh) 基于数字图像法的物体表面形貌的测量方法
CN107167093B (zh) 一种激光线扫描与阴影莫尔的复合式测量系统及测量方法
CN105203034B (zh) 一种基于单目摄像头三维测距模型的测高测面积方法
CN103824318B (zh) 一种多摄像头阵列的深度感知方法
CN106683173B (zh) 一种基于邻域块匹配提高三维重建点云稠密程度的方法
JP6363863B2 (ja) 情報処理装置および情報処理方法
CN104335005B (zh) 3d扫描以及定位系统
WO2016138758A1 (zh) 一种远心成像的三维形貌测量系统标定方法
Helmli et al. Adaptive shape from focus with an error estimation in light microscopy
CN108489496A (zh) 基于多源信息融合的非合作目标相对导航运动估计方法及系统
CN106920263B (zh) 基于Kinect的无畸变集成成像三维显示方法
CN109360235A (zh) 一种基于光场数据的混合深度估计方法
CN109373912B (zh) 一种基于双目视觉的非接触式六自由度位移测量方法
CN107543496B (zh) 一种双目立体视觉三维坐标测量方法
CN106871815A (zh) 一种Kinect与条纹反射法结合的类镜面三维面形测量方法
CN106504290A (zh) 一种高精度的摄像机动态标定方法
CN111192235A (zh) 一种基于单目视觉模型和透视变换的图像测量方法
KR20170002409A (ko) 이미지 분석에 의한 신의 3차원 재구성 디바이스 및 방법
CN106996748A (zh) 一种基于双目视觉的轮径测量方法
CN110779491A (zh) 一种水平面上目标测距的方法、装置、设备及存储介质
CN108362205B (zh) 基于条纹投影的空间测距方法
CN108020175A (zh) 一种多光栅投影双目视觉舌体表面三维整体成像方法
CN109102546A (zh) 一种基于多标定板的机器人相机的标定方法
CN104299220A (zh) 一种对Kinect深度图像中的空洞进行实时填充的方法
CN107560549A (zh) 一种激光视觉二维位移测量系统实用标定技术方案

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20111116

Termination date: 20140728

EXPY Termination of patent right or utility model