CN102122390B - 基于深度图像进行人体检测的方法 - Google Patents
基于深度图像进行人体检测的方法 Download PDFInfo
- Publication number
- CN102122390B CN102122390B CN2011100264650A CN201110026465A CN102122390B CN 102122390 B CN102122390 B CN 102122390B CN 2011100264650 A CN2011100264650 A CN 2011100264650A CN 201110026465 A CN201110026465 A CN 201110026465A CN 102122390 B CN102122390 B CN 102122390B
- Authority
- CN
- China
- Prior art keywords
- image
- depth
- depth image
- zone
- human
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Abstract
本发明揭示了一种基于深度图像进行人体检测的方法,包括:根据所采集的深度图像的像素提取图像特征;将所述图像特征输入预设的分类模型,以得出所述深度图像是否包含人体。本发明提出的一种基于深度图像进行人体检测的方法,利用深度图像的像素提取图像特征,以实现人体检测,降低了误检测率。
Description
技术领域
本发明涉及到图像处理领域,特别涉及到一种基于深度图像进行人体检测的方法。
背景技术
目前对图像进行人体检测的算法都是在普通图像(二维数据)上进行,图像中的每个像素点的值表示的是物体的亮度,如白色衣服的亮度比黄色皮肤的亮度要高。因此普通图像的像素值只与物体表面颜色、反射的光线强度或发射的光线强度有关,与物体到相机的距离无直接关系,因此而造成的缺陷是难以克服光照变化和复杂背景干扰,普通图像中因光照引起的人的阴影、图像背景上的复杂纹理(如墙上画的人体形状),都会对人体检测造成干扰,将一些非人体区域误识别为人体,误检测率高。
发明内容
本发明的主要目的是提出一种基于深度图像进行人体检测的方法,利用深度图像的像素提取图像特征,以实现人体检测,降低了误检测率。
本发明提出的一种基于深度图像进行人体检测的方法,包括:
根据所采集的深度图像的像素提取图像特征;所述根据所采集的深度图像的像素提取图像特征包括对所述深度图像的像素进行深度差运算或局部二值运算;深度差运算是将深度图像分割成M*N个区域,对每一区域里的所有像素进行横向深度差和纵向深度差计算;局部二值运算是按照一定的规则将整幅深度图像划分为N个窗口,对这N个窗口中的每一个窗口再按照一个统一的阈值T将该窗口内的像素划分为两部分,进行二值化处理;将所述图像特征输入预设的分类模型,以得出所述深度图像是否包含人体。
优选地,所述对深度图像的像素进行深度差运算包括:
根据下列程式计算各像素的深度差:
Gx(x,y)=D(x+1,y)-D(x-1,y),Gy(x,y)=D(x,y+1)-D(x,y-1),所述Gx(x,y)为(x,y)位置的X方向深度差,Gy(x,y)为(x,y)位置的Y方向深度差,D(x,y)为(x,y)位置的深度值;
统计所有像素的深度差,形成图像特征。
优选地,所述统计所有像素的深度差包括:
以预设的角度值为单位,累加各单位的深度差;
组合所有单位的深度差。
优选地,在执行所述根据所采集的深度图像的像素提取图像特征之前,还包括:
在所述深度图像中选择一或多个区域;或检测所述深度图像中变化的区域,在该变化的区域中选择一或多个区域。
优选地,所述将图像特征输入预设的分类模型包括:
当选择的区域为多个时,分别将各区域的图像特征输入预设的分类模型,以得出各区域中是否包含人体。
优选地,在执行分别将各区域的图像特征输入预设的分类模型之后,还包括:
保存包含人体的区域的位置和大小;
合并所有包含人体的区域的位置和大小,得到所述人体的信息,所述信息包括人体的位置、大小和/或数量。
优选地,在执行所述根据所采集的深度图像的像素提取图像特征之前,还包括:
采集深度图像,该深度图像包括人体区域和非人体区域;
根据所述人体区域和非人体区域的像素提取图像特征;
根据提取的图像特征进行训练并建模,获得所述分类模型。
优选地,所述图像特征包括图像纹理特征。
优选地,所述分类模型为支持向量机模型。
本发明提出的一种基于深度图像进行人体检测的方法,在深度图像(三维数据)上进行人体检测,基于深度图像的像素建立模型,由于深度图像的像素值只与距离有关,与物体表面的亮度和颜色无关,因此本发明可以去除光照变化和复杂背景的干扰,使人体检测准确率高,误检测率低。
附图说明
图1为本发明一种基于深度图像进行人体检测的方法一实施例的流程示意图;
图2为本发明一种基于深度图像进行人体检测的方法一实施例中计算深度差的流程示意图;
图3为本发明一种基于深度图像进行人体检测的方法一实施例的深度差的示意图;
图4为本发明一种基于深度图像进行人体检测的方法一实施例的深度差直方图;
图5为本发明一种基于深度图像进行人体检测的方法一实施例中统计深度图像所有像素的深度差的流程示意图;
图6为本发明一种基于深度图像进行人体检测的方法又一实施例的流程示意图;
图7为本发明一种基于深度图像进行人体检测的方法另一实施例的流程示意图;
图8为本发明一种基于深度图像进行人体检测的方法再一实施例的流程示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
参照图1,提出本发明一种基于深度图像进行人体检测的方法一实施例,包括:
步骤S101,根据所采集的深度图像的像素提取图像特征;
利用深度相机或激光测距扫描仪等设备采集深度图像。用深度相机或激光测距扫描仪进行拍摄,可记录下环境的三维数据,也即深度信息,深度信息以深度图像(三维数据)的方式存储。深度图像中每个像素点的值表示物体到相机的距离,像素值越大,表示物体离相机越远,深度图像的像素值只与物体到相机的距离有关,与物体表面的亮度和颜色无关。根据采集到的深度图像的像素提取图像特征,提取的图像特征通常为图像纹理特征,可以表现为深度差直方图或局部二值方图,该深度差直方图或局部二值方图表示为一个向量(数组)。
步骤S102,将图像特征输入预设的分类模型,以得出深度图像是否包含人体。
将提取的图像特征输入预设的分类模型,分类模型可以是支持向量机模型,也可以是AdaBoost模型等,以判断深度图像中是否包括人体。所述人体可以是整体或局部如头、肩、人体上半身等。分类模型为预先设置,通常是预设采集一个同时包含人体和环境的深度图像,对该深度图像提取图像特征进行训练并建模获得。
本发明提出的一种基于深度图像进行人体检测的方法,在深度图像(三维数据)上进行人体检测,基于深度图像的像素建立模型,由于深度图像的像素值只与距离有关,与物体表面的亮度和颜色无关,因此本发明可以去除光照变化和复杂背景的干扰,使人体检测准确率高,误检测率低。本发明能够自动判断周围环境中是否有人存在,具有更高的智能性,可以应用于汽车、机器人或监控系统等多个领域,提高系统的智能性。
在本发明一种基于深度图像进行人体检测的方法一实施例中,步骤S101可包括:
对深度图像的像素进行深度差运算或局部二值运算。
提取深度图像的图像特征有多种方式,较佳方式是根据深度图像的像素进行深度差运算,也可采用局部二值运算,局部二值运算是按照一定的规则将整幅深度图像划分为N个窗口,对这N个窗口中的每一个窗口再按照一个统一的阈值T将该窗口内的像素划分为两部分,进行二值化处理。除深度差运算和局部二值运算以外的其它可利用深度图像的像素提取图像特征的方式也适用于本发明。
本实施例中,采用深度差运算或局部二值运算提取深度图像的图像特征,较好的实现了图像特征的提取。
参照图2,在本发明一种基于深度图像进行人体检测的方法一实施例中,对深度图像的像素进行深度差运算可包括:
步骤S1011,根据下列程式计算各像素的深度差:
Gx(x,y)=D(x+1,y)-D(x-1,y),Gy(x,y)=D(x,y+1)-D(x,y-1),所述Gx(x,y)为(x,y)位置的X方向深度差,Gy(x,y)为(x,y)位置的Y方向深度差,D(x,y)为(x,y)位置的深度值;
将深度图像分割成M*N个区域;M和N为大于或等于1的自然数。对每一区域里的所有像素进行深度差计算。深度差有两个方向,X方向(横向)和Y方向(纵向)的深度差,分别为:
Gx(x,y)=D(x+1,y)-D(x-1,y)
Gy(x,y)=D(x,y+1)-D(x,y-1)
其中,Gx(x,y)为(x,y)位置的X方向深度差,Gy(x,y)为(x,y)位置的Y方向深度差,D(x,y)为(x,y)位置的深度值,计算得出的深度差可以用如图3所示带有方向和大小的向量表示,可用如图4所示的深度差直方图直观表示。
步骤S1012,统计所有像素的深度差,形成图像特征。
统计每一区域所有像素的深度差,再将M*N个区域的深度差直方图连成一个大的向量(数组),形成深度图像的图像特征。
本实施例中,设置深度图像的像素的深度差运算公式,并以深度差直方图形式直观表现。
参照图5,在本发明一种基于深度图像进行人体检测的方法一实施例中,步骤S1012可包括:
步骤S10121,以预设的角度值为单位,累加各单位的深度差;
步骤S10122,组合所有单位的深度差。
由于深度差的方向范围在0~360度,可以以一预设值例如40度(或其他值)为一个范围,对不同角度的深度差进行统计,统计出的深度差直方图可表示为一个向量(数组)。然后将这些直方图连成一个大的向量(数组),得到最终的深度图像的深度差直方图。
本实施例中,以预设角度统计深度图像各像素的深度差并组合。
参照图6,提出本发明一种基于深度图像进行人体检测的方法又一实施例,在上述实施例中,在执行步骤S101之前,还包括:
步骤S1001,在深度图像中选择一或多个区域;或检测深度图像中变化的区域,在该变化的区域中选择一或多个区域。
当深度图像的数据量大时,可在深度图像中选择一或多个区域,分别提取所选择的一或多个区域的图像特征,通常的方式是以一预设的方式对深度图像进行扫描,例如从左上角开始,以一预设的区域范围进行扫描,以进行后续的特征提取,该方法全面精确,避免遗漏。或者可检测深度图像中变化的区域,假设该变化的区域为人体,再在该变化的区域中选择一或多个区域提取图像特征,该方法实现快速判断,提高了效率。
本实施例中,可根据需要采用按区域提取图像特征的方式。
在本发明一种基于深度图像进行人体检测的方法又一实施例中,将图像特征输入预设的分类模型包括:
当选择的区域为多个时,分别将各区域的图像特征输入预设的分类模型,以得出各区域中是否包含人体。
本实施例中,当选择多个区域对深度图像提取图像特征时,分别判断各区域的图像特征是否包含人体。
参照图7,提出本发明一种基于深度图像进行人体检测的方法另一实施例,在上述实施例中,在执行步骤S102之后,还包括:
步骤S103,保存包含人体的区域的位置和大小;
当某一选择的区域中包含人体时,保存该区域的位置和大小。
步骤S104,合并所有包含人体的区域的位置和大小,得到人体的信息,该信息包括人体的位置、大小和/或数量。
扫描完所有选择的区域后,合并所有包含人体的区域的位置和大小,也可进一步对包含人体的区域进行分析和去噪,上述合并的操作可以去除多个区域中重复的部分,得到最终的人体的信息,该信息包括人体的位置、大小和/或数量。
合并过程可如下:
假设扫描深度图像后,得到包含人体的区域R1,R2,…,Rn。这些区域都是矩形,矩形可用(x,y,w,h)表示,其中(x,y)表示左上角坐标,w和h分别表示宽度和高度。对于任意两个包含人体的矩形区域Ri和Rj,如上图所示,如果两个矩形区域重叠的面积超过任一矩形区域面积的一定比例(如60%),则认为这两个矩形区域都是指向同一个人体。将两个矩形区域合并为一个矩形,合并得到的新矩形区域为(xnew,ynew,wnew,hnew),其中:xnew=xi+xj/2,ynew=yi+yj/2,wnew=wi+wj/2,hnew=hi+hj/2。
本实施例中,在判断区域是否有人体后,还保存该区域的位置和大小,并进一步作优化处理,得到关于深度图像中关于人体的准确信息。
参照图8,提出本发明一种基于深度图像进行人体检测的方法再一实施例,在上述实施例中,在执行步骤S101之前,还包括:
步骤S98,采集深度图像,该深度图像包括人体区域和非人体区域;
采集作为训练用的深度图像,该深度图像包括人体区域和非人体区域即环境区域。
步骤S99,根据人体区域和非人体区域的像素提取图像特征;
从深度图像中标注出人体区域,将人体区域裁剪出,裁剪出的人体深度图像,可裁剪出大量人体区域深度图像,作为训练的正样本。再从深度图像中标注出非人体区域即环境区域,将非人体区域裁剪出,可裁剪出大量非人体区域,作为训练的负样本。将所有的正样本和负样本归一化到相同的宽度和高度。对所有正负样本进行图像特征的提取操作,以深度差运算为例,每个样本提取到一个深度差直方图。
步骤S100,根据提取的图像特征进行训练并建模,获得分类模型。
将所有样本的深度差直方图输入机器学习分类模型中(比如支持向量机模型),进行模型训练,最后得到一个分类模型,为人体检测作准备。
本实施例中,对三维物体的表面建立分类模型为人体检测作准备,当人体进入拍摄场景中时,可自动将人体从环境中分离出来。
在上述实施例中,图像特征包括但不限定于图像纹理特征。图像纹理特征既包括通常意义上物体表面的细小变化即物体表面上所呈现凹凸不平的沟纹,同时也包括在物体的光滑表面上的彩色图案。深度图像的图像纹理特征是指局部(小范围)的深度变化。
在上述实施例中,分类模型为支持向量机模型,也可以是其它适用于本发明的机器学习分类模型。
以上所述仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是基于本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。
Claims (9)
1.一种基于深度图像进行人体检测的方法,其特征在于,包括:
根据所采集的深度图像的像素提取图像特征;所述根据所采集的深度图像的像素提取图像特征包括对所述深度图像的像素进行深度差运算或局部二值运算;深度差运算是将深度图像分割成M*N个区域,对每一区域里的所有像素进行横向深度差和纵向深度差计算;局部二值运算是按照一定的规则将整幅深度图像划分为N个窗口,对这N个窗口中的每一个窗口再按照一个统一的阈值T将该窗口内的像素划分为两部分,进行二值化处理;
将所述图像特征输入预设的分类模型,以得出所述深度图像是否包含人体。
2.如权利要求1所述的基于深度图像进行人体检测的方法,其特征在于,所述对深度图像的像素进行深度差运算包括:
根据下列程式计算各像素的深度差:
Gx(x,y)=D(x+1,y)-D(x-1,y),Gy(x,y)=D(x,y+1)-D(x,y-1),所述Gx(x,y)为(x,y)位置的X方向深度差,Gy(x,y)为(x,y)位置的Y方向深度差,D(x,y)为(x,y)位置的深度值;
统计所有像素的深度差,形成图像特征。
3.如权利要求2所述的基于深度图像进行人体检测的方法,其特征在于,所述统计所有像素的深度差包括:
以预设的角度值为单位,累加各单位的深度差;
组合所有单位的深度差。
4.如权利要求1至3中任一项所述的基于深度图像进行人体检测的方法,其特征在于,在执行所述根据所采集的深度图像的像素提取图像特征之前,还包括:
在所述深度图像中选择一或多个区域;或检测所述深度图像中变化的区域,在该变化的区域中选择一或多个区域。
5.如权利要求4所述的基于深度图像进行人体检测的方法,其特征在于,所述将图像特征输入预设的分类模型包括:
当选择的区域为多个时,分别将各区域的图像特征输入预设的分类模型,以得出各区域中是否包含人体。
6.如权利要求5所述的基于深度图像进行人体检测的方法,其特征在于,在执行分别将各区域的图像特征输入预设的分类模型之后,还包括:
保存包含人体的区域的位置和大小;
合并所有包含人体的区域的位置和大小,得到所述人体的信息,所述信息包括人体的位置、大小和/或数量。
7.如权利要求1至3中任一项所述的基于深度图像进行人体检测的方法,其特征在于,在执行所述根据所采集的深度图像的像素提取图像特征之前,还包括:
采集深度图像,该深度图像包括人体区域和非人体区域;
根据所述人体区域和非人体区域的像素提取图像特征;
根据提取的图像特征进行训练并建模,获得所述分类模型。
8.如权利要求1至3中任一项所述的基于深度图像进行人体检测的方法,其特征在于,所述图像特征包括图像纹理特征。
9.如权利要求1至3中任一项所述的基于深度图像进行人体检测的方法,其特征在于,所述分类模型为支持向量机模型。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2011100264650A CN102122390B (zh) | 2011-01-25 | 2011-01-25 | 基于深度图像进行人体检测的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2011100264650A CN102122390B (zh) | 2011-01-25 | 2011-01-25 | 基于深度图像进行人体检测的方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102122390A CN102122390A (zh) | 2011-07-13 |
CN102122390B true CN102122390B (zh) | 2012-11-14 |
Family
ID=44250941
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2011100264650A Expired - Fee Related CN102122390B (zh) | 2011-01-25 | 2011-01-25 | 基于深度图像进行人体检测的方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102122390B (zh) |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102521646B (zh) * | 2011-11-11 | 2015-01-21 | 浙江捷尚视觉科技股份有限公司 | 基于深度信息聚类的复杂场景人数统计方法 |
CN103164894A (zh) * | 2011-12-08 | 2013-06-19 | 鸿富锦精密工业(深圳)有限公司 | 票闸控制装置及方法 |
US10009579B2 (en) | 2012-11-21 | 2018-06-26 | Pelco, Inc. | Method and system for counting people using depth sensor |
TWI532620B (zh) * | 2013-06-24 | 2016-05-11 | Utechzone Co Ltd | Vehicle occupancy number monitor and vehicle occupancy monitoring method and computer readable record media |
CN103345625B (zh) * | 2013-07-16 | 2016-08-17 | 江苏云知智能科技有限公司 | 一种三维图像分析方法及系统 |
CN105580051B (zh) * | 2013-10-30 | 2019-05-14 | 英特尔公司 | 图像捕捉反馈 |
CN103971135A (zh) * | 2014-05-05 | 2014-08-06 | 中国民航大学 | 基于头肩深度信息特征的人体目标检测方法 |
CN105335722B (zh) * | 2015-10-30 | 2021-02-02 | 商汤集团有限公司 | 一种基于深度图像信息的检测系统及方法 |
CN105631852B (zh) * | 2015-11-03 | 2018-02-06 | 四川长虹电器股份有限公司 | 基于深度图像等高线的室内人体检测方法 |
EP3389008A4 (en) * | 2015-12-08 | 2018-11-21 | Panasonic Intellectual Property Management Co., Ltd. | Image recognition device and image recognition method |
CN105930793B (zh) * | 2016-04-19 | 2019-04-16 | 中山大学 | 一种基于sae特征可视化学习的人体检测方法 |
CN108124142A (zh) * | 2018-01-31 | 2018-06-05 | 西北工业大学 | 基于rgb景深相机和高光谱相机的图像目标识别系统及方法 |
CN110866425A (zh) * | 2018-08-28 | 2020-03-06 | 天津理工大学 | 基于光场相机和深度迁移学习的行人识别方法 |
CN109710788A (zh) * | 2018-12-28 | 2019-05-03 | 斑马网络技术有限公司 | 图像样本标注和管理方法及设备 |
CN110135382B (zh) * | 2019-05-22 | 2021-07-27 | 北京华捷艾米科技有限公司 | 一种人体检测方法和装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101339607A (zh) * | 2008-08-15 | 2009-01-07 | 北京中星微电子有限公司 | 人脸识别方法及系统、人脸识别模型训练方法及系统 |
CN101398886A (zh) * | 2008-03-17 | 2009-04-01 | 杭州大清智能技术开发有限公司 | 一种基于双目被动立体视觉的快速三维人脸识别方法 |
CN101625762A (zh) * | 2009-06-19 | 2010-01-13 | 深圳市中瀛鑫科技发展有限公司 | 目标分割方法及装置 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030169906A1 (en) * | 2002-02-26 | 2003-09-11 | Gokturk Salih Burak | Method and apparatus for recognizing objects |
US20040037450A1 (en) * | 2002-08-22 | 2004-02-26 | Bradski Gary R. | Method, apparatus and system for using computer vision to identify facial characteristics |
-
2011
- 2011-01-25 CN CN2011100264650A patent/CN102122390B/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101398886A (zh) * | 2008-03-17 | 2009-04-01 | 杭州大清智能技术开发有限公司 | 一种基于双目被动立体视觉的快速三维人脸识别方法 |
CN101339607A (zh) * | 2008-08-15 | 2009-01-07 | 北京中星微电子有限公司 | 人脸识别方法及系统、人脸识别模型训练方法及系统 |
CN101625762A (zh) * | 2009-06-19 | 2010-01-13 | 深圳市中瀛鑫科技发展有限公司 | 目标分割方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN102122390A (zh) | 2011-07-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102122390B (zh) | 基于深度图像进行人体检测的方法 | |
CN106625657B (zh) | 经由通信网络连接cnc和机器人控制装置而得的机器人系统 | |
Arévalo et al. | Shadow detection in colour high‐resolution satellite images | |
KR101355974B1 (ko) | 복수의 객체를 추적하는 객체 추적 방법 및 장치 | |
CN103295016B (zh) | 基于深度与rgb信息和多尺度多方向等级层次特征的行为识别方法 | |
CN107679503A (zh) | 一种基于深度学习的人群计数算法 | |
CN105740910A (zh) | 一种车辆物件检测方法及装置 | |
CN108009591A (zh) | 一种基于深度学习的接触网关键部件识别方法 | |
CN108027248A (zh) | 具有基于特征的定位和导航的工业车辆 | |
CN105160313A (zh) | 视频监控中人群行为分析的方法及装置 | |
CN102915433B (zh) | 基于字符组合的车牌定位和识别方法 | |
CN101916372B (zh) | 基于视频的多特征融合的烟检测装置和方法 | |
CN106096603A (zh) | 一种融合多特征的动态火焰检测方法及装置 | |
CN103440035A (zh) | 一种三维空间中的手势识别系统及其识别方法 | |
CN104915642B (zh) | 前方车辆测距方法及装置 | |
CN103336961A (zh) | 一种交互式的自然场景文本检测方法 | |
CN110199317A (zh) | 使用手持设备对木板的自动检测、计数和测量 | |
EP2813973A1 (en) | Method and system for processing video image | |
CN104463869A (zh) | 一种视频火焰图像复合识别方法 | |
CN104318266A (zh) | 一种图像智能分析处理预警方法 | |
CN114202646A (zh) | 一种基于深度学习的红外图像吸烟检测方法与系统 | |
CN107491764A (zh) | 一种基于深度卷积神经网络的违规驾驶检测方法 | |
Bormann et al. | Autonomous dirt detection for cleaning in office environments | |
CN102142090B (zh) | 车辆检测方法和系统 | |
CN106650735A (zh) | 一种led字符自动定位识别方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20121114 Termination date: 20210125 |