CN103295010B - 一种处理人脸图像的光照归一化方法 - Google Patents

一种处理人脸图像的光照归一化方法 Download PDF

Info

Publication number
CN103295010B
CN103295010B CN201310211252.4A CN201310211252A CN103295010B CN 103295010 B CN103295010 B CN 103295010B CN 201310211252 A CN201310211252 A CN 201310211252A CN 103295010 B CN103295010 B CN 103295010B
Authority
CN
China
Prior art keywords
image
facial image
unitary
illumination
rectangular histogram
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201310211252.4A
Other languages
English (en)
Other versions
CN103295010A (zh
Inventor
张二虎
陈万军
牟永强
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xian University of Technology
Original Assignee
Xian University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xian University of Technology filed Critical Xian University of Technology
Priority to CN201310211252.4A priority Critical patent/CN103295010B/zh
Publication of CN103295010A publication Critical patent/CN103295010A/zh
Application granted granted Critical
Publication of CN103295010B publication Critical patent/CN103295010B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

本发明公开了一种处理人脸图像的光照归一化方法,具体按照以下步骤实施:读入待处理人脸图像并对其取对数;计算阴影层图像;计算反射层图像并进行指数变换;选取样本图像并计算其直方图;对反射层图像采用直方图匹配法进行归一化处理,即得到待处理人脸图像经光照归一化方法矫正后的图像。采用边缘保持滤波器能够保持大尺度层上的特征信息;采用处于视觉最优区域的样本图像,使校正后的反射层图像的均值和方差能够处于视觉最优的区域,有利于后续的人脸识别系统,能够提高人脸识别的正确率,解决了现有光照不变特征提取的方法,使人脸识别时的特征信息受到了较大程度的损失,不利于后续的人脸识别的问题。

Description

一种处理人脸图像的光照归一化方法
技术领域
本发明属于数字图像处理技术领域,涉及一种处理人脸图像的光照归一化方法。
背景技术
可变光照条件下,比如阴影、过曝光与欠曝光情况下的人脸识别是人脸识别系统中的一个难题。在过去的十几年间,虽然提出了许多方法,但都有不尽人意的地方,大多数无法应用于实际需求。
对可变光照条件下的人脸图像进行光照处理的一类方法是直接进行光照校正,如灰度拉伸、Gamma校正、直方图均衡化以及直方图匹配等,这些方法由于没有考虑待处理图像的光照条件,因此,这类方法很难获得满意的处理结果。另一类方法是光照不变特征提取,即将人脸图像看成是由反映人脸细节的反射部分的小尺度特征和由光照组成的大尺度特征这两部分,然后提取小尺度的特征细节部分。典型的方法有基于图像梯度域的光照不敏感特征提取方法,基于高频子带信息的光照不敏感特征提取方法及各种基于子空间的方法,这些方法都能在一定的程度上能提取到不受光照变化影响的反映人脸细节信息的图像,但对光照的过渡抑制使人脸识别时的特征信息受到了较大程度的损失,不利于后续的人脸识别。
发明内容
本发明的目的是提供一种处理人脸图像的光照归一化方法,以解决现有光照不变特征提取的方法,使人脸识别时的特征信息受到了较大程度的损失,不利于后续的人脸识别的问题。
本发明采用的技术方案为,一种处理人脸图像的光照归一化方法,具体按照以下步骤实施:
步骤1,读入待处理人脸图像f(x,y),并对其取对数得到
步骤2,计算阴影层图像
步骤3,计算反射层图像并进行指数变换得到
步骤4,选取样本图像g(x,y),并计算其直方图Hg(i);
步骤5,对反射层图像采用直方图匹配法进行归一化处理,即得到待处理人脸图像经光照归一化方法矫正后的图像r(x,y)。
本发明的特点还在于,
步骤1的具体方法为,设待处理的人脸图像为f(x,y),其大小为m×n,对f(x,y)取对数变换,则得到其中
步骤2的具体方法为,
2.1)计算步骤1中得到的人脸图像在x方向上的差分:即为图像在水平方向上左右相邻像素的灰度值之差;
2.2)计算步骤1中得到的人脸图像在y方向上的差分:即为图像在垂直方向上上下相邻像素的灰度值之差;
2.3)按照式(1)计算矩阵A的各元素Ai,j
A i , j = - λ ( | f ~ i ′ - f ~ j ′ | α + ϵ ) - 1 i ∈ N 4 ( i ) 1 - Σ k ∈ N 4 ( i ) A i , k i = j 0 otherwise - - - ( 1 )
其中,式(1)中的常数ε=0.00001,参数λ>0,参数a为1.0~1.8;
2.4)将步骤1得到的和步骤2.3)得到的A,代入式则计算出阴影层图像
步骤3的具体方法为,将步骤1中得到的和步骤2中得到的代入式(2),
r ~ ( x , y ) = f ~ ( x , y ) - s ~ ( x , y ) - - - ( 2 )
则计算出独立于光照的反射层再对取指数变换即得到去除光照影响后的图像其中
步骤4的具体方法为,
4.1)选取处于视觉最优区域的样本图像g(x,y),其整体灰度均值范围为100~20,局部区域均方差的平均值浮动范围为40~80;
4.2)求步骤4.1)中g(x,y)的亮度分布直方图Hg(i),其具体方法为,一幅灰度级为[0,L]的数字图像g(x,y),其归一化的直方图定义为离散函数Hg(i),Hg(i)=ni/n,i=0,1,…,L-1,其中,ni是图像中灰度级为i的像素个数,n为该图像中像素的总数。
步骤5的具体方法为,
5.1)求出经步骤3得到的的亮度分布直方图i=0,1,…,L-1,其中,mi是图像中灰度级为i的像素个数,m为该图像中像素的总数;
5.2)将步骤5.1)中的直方图与步骤4中求得的Hg(i)相匹配,即对步骤3得到的图像中像素的灰度值进行变换,使得变换后的图像r(x,y)的直方图与图像g(x,y)的直方图相同,r(x,y)即为步骤1中待处理人脸图像经光照归一化方法矫正后的图像。
步骤5.2)中灰度值变换的具体方法为,
和r分别代表图像和r(x,y)的灰度级,令变换 H ( r ) = Σ i = 0 r H g ( i ) , 则, r = H - 1 [ T ( r ^ ) ] .
本发明的有益效果是,采用边缘保持的滤波器估计人脸图像的光照分量,可以更好地保留人脸图像上的特征信息判别;采用基于直方图匹配的样本学习方法,使校正后的人脸图像具有亮度适中、层次分明的特点;同时,对反射层根据视觉最优准则选择的样本图像进行直方图匹配映射,使归一化后的图像具有最优的视觉质量,解决了现有光照不变特征提取的方法,使人脸识别时的特征信息受到了较大程度的损失,不利于后续的人脸识别的问题。
附图说明
图1是本发明一种处理人脸图像的光照归一化方法的流程图;
图2是本发明一种处理人脸图像的光照归一化方法实施例中的原始人脸图像;
图3是本发明一种处理人脸图像的光照归一化方法实施例中的样本图像;
图4是本发明一种处理人脸图像的光照归一化方法实施例中的经光照归一化方法校正后的人脸图像。
具体实施方式
下面通过附图和具体实施方式对本发明进行详细说明。
本发明提供了一种处理人脸图像的光照归一化方法,具体按照以下步骤实施:
步骤1,读入待处理人脸图像并对其取对数
设待处理的人脸图像为f(x,y),其大小为m×n,对f(x,y)取对数变换得到其中
步骤2,计算阴影层图像
对于步骤1中得到的图像采用加权最小均方优化的边缘保持滤波器求其对应的阴影层图像使得一方面与输入图像尽可能接近,另一方面在小梯度处要尽可能平滑,即要求在保持原图像基本特征的情况下处处平滑,其具体计算过程如下:
2.1)计算步骤1中得到的人脸图像在x方向上的差分:即为图像在水平方向上左右相邻像素的灰度值之差;
2.2)计算步骤1中得到的人脸图像在y方向上的差分:即为图像在垂直方向上上下相邻像素的灰度值之差;
2.3)按照式(1)计算矩阵A的各元素Ai,j
A i , j = - λ ( | f ~ i ′ - f ~ j ′ | α + ϵ ) - 1 j ∈ N 4 ( i ) 1 - Σ k ∈ N 4 ( i ) A i , k i = j 0 otherwise - - - ( 1 )
其中,式(1)中的常数ε=0.00001;参数λ>0,λ用来控制图像的平滑程度,增大λ将产生更加平滑的图像参数a为1.0~1.8,a是用来控制平滑过程对对图像边缘的敏感程度;
表示沿x方向或y方向的差分,其具体方向由像素i的4邻域,即N4(i)中的像素j所处的位置而定,如果i与j处于水平方向,则表示沿x方向上像素i与像素j的差分;如果i与j处于垂直方向,则表示沿y方向上像素i与像素j的差分;
2.4)将步骤1得到的和步骤2.3)得到的A,代入式则计算出阴影层图像
步骤3,计算反射层图像并进行指数变换
将步骤1中得到的和步骤2中得到的代入式(2),
r ~ ( x , y ) = f ~ ( x , y ) - s ~ ( x , y ) - - - ( 2 )
则计算出独立于光照的反射层再对取指数变换即得到去除光照影响后的图像其中
步骤4,选取样本图像并计算其直方图
4.1)选取处于视觉最优区域的样本图像g(x,y),其整体灰度均值范围为100~20,局部区域均方差的平均值浮动范围为40~80;
4.2)求g(x,y)的亮度分布直方图Hg(i);
具体方法为,一幅灰度级为[0,L]的数字图像g(x,y),其归一化的直方图定义为离散函数Hg(i),Hg(i)=ni/n,i=0,1,…,L-1,其中,ni是图像中灰度级为i的像素个数,n为该图像中像素的总数。
步骤5,对反射层图像采用直方图匹配法进行归一化处理
5.1)求步骤3中得到的的亮度分布直方图i=0,1,…,L-1,其中,mi是图像中灰度级为i的像素个数,m为该图像中像素的总数;
5.2)通过步骤5.1)中的与步骤4中得到的Hg(i)相匹配,即对图像中像素的灰度值进行变换,使得变换后的图像r(x,y)的直方图与图像g(x,y)的直方图相同,r(x,y)即为步骤1中待处理人脸图像经光照归一化方法矫正后的图像;
灰度值变换的具体计算过程为,设和r分别代表图像和r(x,y)的灰度级,令变换 T ( r ^ ) = Σ i = 0 r ^ H r ^ ( i ) , H ( r ) = Σ i = 0 r H g ( i ) , 则, r = H - 1 [ T ( r ^ ) ] .
实施例
步骤1,设一幅受光照影响的实际人脸灰度图像为f(x,y),如图2所示,其大小为80×80像素,对其进行对数变换,得到
步骤2,计算阴影层图像
2.1)计算步骤1中得到的人脸图像f(x,y)在x方向上的差分图像:即为图像在水平方向上左右相邻像素的灰度值之差;
2.2)计算步骤1中得到的人脸图像在y方向上的差分:即为图像在垂直方向上上下相邻像素的灰度值之差;
2.3)计算矩阵A的各元素Ai,j如式(1):
A i , j = - λ ( | f ~ i ′ - f ~ j ′ | α + ϵ ) - 1 j ∈ N 4 ( i ) 1 - Σ k ∈ N 4 ( i ) A i , k i = j 0 otherwise - - - ( 1 )
式(1)中的常数ε=0.00001,λ=1.5,a=1.2;表示沿x方向或y方向的差分,其具体方向由像素i的4邻域(N4(i))中的像素j所处的位置而定。如果i与j处于水平方向,则表示沿x方向上像素i与像素j的差分;如果i与j处于垂直方向,则表示沿y方向上像素i与像素j的差分;
2.4)根据计算阴影层图像
步骤3,计算反射层图像并进行指数变换
计算独立于光照的反射层其中再对反射层取指数变换得到去除光照影响后的图像其中
步骤4,选取样本图像并计算其直方图
4.1)选取样本图像g(x,y),如图3所示,其均值为116.8,局部区域均方差的平均值为40.3;
4.2)求g(x,y)的亮度分布直方图Hg(i),Hg(i)=ni/n,i=0,1,…,L-1,其中,ni是图像中灰度级为i的像素个数,n为该图像中像素的总数,L为图像灰度的级数。
步骤5,对反射层图像采用直方图匹配法进行归一化处理
求步骤3中得到的的亮度分布直方图 H r ^ ( i ) , H r ^ ( i ) = m i / m , i = 0,1 , . . . , L - 1 , 其中,mi是图像中灰度级为i的像素个数,m为该图像中像素的总数;
采用直方图匹配的方法,使直方图Hr(i)与Hg(i)相匹配,即对图像中像素的灰度值进行变换,其具体变换过程为:
和r分别代表图像和r(x,y)的灰度级,令变换 H ( r ) = Σ i = 0 r H g ( i ) , 则, r = H - 1 [ T ( r ^ ) ] ,
最后,使得变换后的图像r(x,y)的直方图与图像g(x,y)的直方图相同,即r(x,y)为步骤1中待处理人脸图像经光照归一化方法矫正后的图像。
图4是经本实施例对图2处理后的得到人脸图像r(x,y),图2的均值为91,局部区域均方差的平均值为58;图4的均值为117,局部区域均方差的平均值为44。从图2和图4的对比中可以看出,采用本发明方法校正后的人脸图像具有亮度适中、层次分明、图像特征细节信息丰富的特点。
本发明的一种处理人脸图像的光照归一化方法,采用边缘保持滤波器能够精准的将人脸图像分解为反射层和阴影层,同时在反射层中尽可能保持大尺度层上的特征信息;采用基于直方图匹配的样本学习方法,使校正后的人脸图像具有亮度适中、层次分明的特点;采用处于视觉最优区域的样本图像,使校正后的反射层图像的均值和方差能够处于视觉最优的区域,有利于后续的人脸识别系统,能够提高人脸识别的正确率,解决了现有光照不变特征提取的方法,使人脸识别时的特征信息受到了较大程度的损失,不利于后续的人脸识别的问题。

Claims (4)

1.一种处理人脸图像的光照归一化方法,其特征在于,具体按照以下步骤实施:
步骤1,读入待处理人脸图像f(x,y),并对其取对数得到
步骤2,计算阴影层图像具体方法为:
2.1)计算步骤1中得到的人脸图像在x方向上的差分:即为图像在水平方向上左右相邻像素的灰度值之差;
2.2)计算步骤1中得到的人脸图像在y方向上的差分:即为图像在垂直方向上上下相邻像素的灰度值之差;
2.3)按照式(1)计算矩阵A的各元素Ai,j
A i , j = - λ ( | f ~ i ′ - f ~ j ′ | α + ϵ ) - 1 j ∈ N 4 ( i ) 1 - Σ k ∈ N 4 ( i ) A i , k i = j 0 o t h e r w i s e - - - ( 1 )
其中,式(1)中的常数ε=0.00001,参数λ>0,参数α为1.0~1.8;
2.4)将步骤1得到的和步骤2.3)得到的A,代入式则计算出阴影层图像
步骤3,计算反射层图像并进行指数变换得到具体方法为:
将步骤1中得到的和步骤2中得到的代入式(2),
r ~ ( x , y ) = f ~ ( x , y ) - s ~ ( x , y ) - - - ( 2 )
则计算出独立于光照的反射层再对取指数变换即得到去除光照影响后的图像其中 r ^ ( x , y ) = exp ( r ~ ( x , y ) ) ;
步骤4,选取样本图像g(x,y),并计算其直方图Hg(i);
步骤5,对反射层图像采用直方图匹配法进行归一化处理,即得到待处理人脸图像经光照归一化方法矫正后的图像r(x,y),具体方法为:
5.1)求出经步骤3得到的的亮度分布直方图 i=0,1,…,L-1,其中,mi是图像中灰度级为i的像素个数,m为该图像中像素的总数;
5.2)将步骤5.1)中的直方图与步骤4中求得的Hg(i)相匹配,即对步骤3得到的图像中像素的灰度值进行变换,使得变换后的图像r(x,y)的直方图与图像g(x,y)的直方图相同,r(x,y)即为步骤1中待处理人脸图像经光照归一化方法矫正后的图像。
2.根据权利要求1所述的一种处理人脸图像的光照归一化方法,其特征在于,所述步骤1的具体方法为,设待处理的人脸图像为f(x,y),其大小为m×n,对f(x,y)取对数变换,则得到其中
3.根据权利要求1所述的一种处理人脸图像的光照归一化方法,其特征在于,所述步骤4的具体方法为,
4.1)选取处于视觉最优区域的样本图像g(x,y),其整体灰度均值范围为100~20,局部区域均方差的平均值浮动范围为40~80;
4.2)求步骤4.1)中g(x,y)的亮度分布直方图Hg(i),其具体方法为,一幅灰度级为[0,L]的数字图像g(x,y),其归一化的直方图定义为离散函数Hg(i),Hg(i)=ni/n,i=0,1,…,L-1,其中,ni是图像中灰度级为i的像素个数,n为该图像中像素的总数。
4.根据权利要求1所述的一种处理人脸图像的光照归一化方法,其特征在于,所述步骤5.2)中灰度值变换的具体方法为:
和r分别代表图像和r(x,y)的灰度级,令变换 H ( r ) = Σ i = 0 r H g ( i ) , 则, r = H - 1 [ T ( r ^ ) ] .
CN201310211252.4A 2013-05-30 2013-05-30 一种处理人脸图像的光照归一化方法 Expired - Fee Related CN103295010B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201310211252.4A CN103295010B (zh) 2013-05-30 2013-05-30 一种处理人脸图像的光照归一化方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201310211252.4A CN103295010B (zh) 2013-05-30 2013-05-30 一种处理人脸图像的光照归一化方法

Publications (2)

Publication Number Publication Date
CN103295010A CN103295010A (zh) 2013-09-11
CN103295010B true CN103295010B (zh) 2016-06-29

Family

ID=49095841

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310211252.4A Expired - Fee Related CN103295010B (zh) 2013-05-30 2013-05-30 一种处理人脸图像的光照归一化方法

Country Status (1)

Country Link
CN (1) CN103295010B (zh)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106934335B (zh) * 2015-12-31 2021-02-02 南通东华软件有限公司 图像识别的方法和装置
CN106934399A (zh) * 2017-01-19 2017-07-07 重庆三峡学院 一种利用对数变换和Laplacian算子的人脸光照不变特征提取方法
CN106897672A (zh) * 2017-01-19 2017-06-27 重庆三峡学院 一种利用对数变换和Priwitt算子的人脸光照不变特征提取方法
CN106934341A (zh) * 2017-01-19 2017-07-07 重庆三峡学院 一种利用对数变换和Kirsch算子的人脸光照不变特征提取方法
CN106934340A (zh) * 2017-01-19 2017-07-07 重庆三峡学院 一种利用对数变换和Sobel算子的人脸光照不变特征提取方法
CN106991369A (zh) * 2017-02-24 2017-07-28 重庆三峡学院 一种基于平滑滤波的人脸光照不变特征提取方法
CN106971143A (zh) * 2017-02-24 2017-07-21 重庆三峡学院 一种利用对数变换和平滑滤波的人脸光照不变特征提取方法
CN107316040B (zh) * 2017-06-06 2020-07-24 浙江大学 一种光照不变的图像颜色空间变换方法
CN107392869B (zh) * 2017-07-21 2020-12-01 长安大学 一种基于边缘保持滤波器的人脸图像滤波方法
CN113345016A (zh) * 2021-04-22 2021-09-03 国网浙江省电力有限公司嘉兴供电公司 一种针对双目识别定位位姿判断方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101187975A (zh) * 2007-12-25 2008-05-28 西南交通大学 一种具有光照鲁棒性的人脸特征提取方法
US7551802B2 (en) * 2005-09-22 2009-06-23 Konica Minolta Systems Laboratory, Inc. Map image matching method and apparatus
CN101794389A (zh) * 2009-12-30 2010-08-04 中国科学院计算技术研究所 一种人脸图像光照预处理方法
CN102789634A (zh) * 2012-07-13 2012-11-21 中国人民解放军国防科学技术大学 一种获取光照均一化图像的方法
CN102867176A (zh) * 2012-09-11 2013-01-09 清华大学深圳研究生院 一种人脸图像归一化方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011253376A (ja) * 2010-06-02 2011-12-15 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7551802B2 (en) * 2005-09-22 2009-06-23 Konica Minolta Systems Laboratory, Inc. Map image matching method and apparatus
CN101187975A (zh) * 2007-12-25 2008-05-28 西南交通大学 一种具有光照鲁棒性的人脸特征提取方法
CN101794389A (zh) * 2009-12-30 2010-08-04 中国科学院计算技术研究所 一种人脸图像光照预处理方法
CN102789634A (zh) * 2012-07-13 2012-11-21 中国人民解放军国防科学技术大学 一种获取光照均一化图像的方法
CN102867176A (zh) * 2012-09-11 2013-01-09 清华大学深圳研究生院 一种人脸图像归一化方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
一种基于小波的人脸图像光照归一化算法;范春年;《计算机工程与应用》;20101231;174-184页 *
一种改进的基于小波的人脸图像光照归一化算法;盛剑会;《辽宁工程技术大学学报》;20111231;917-920页 *

Also Published As

Publication number Publication date
CN103295010A (zh) 2013-09-11

Similar Documents

Publication Publication Date Title
CN103295010B (zh) 一种处理人脸图像的光照归一化方法
Wang et al. Low-light image enhancement via the absorption light scattering model
CN108230264B (zh) 一种基于ResNet神经网络的单幅图像去雾方法
CN108765336B (zh) 基于暗亮原色先验与自适应参数优化的图像去雾方法
CN110232389B (zh) 一种基于绿色作物特征提取不变性的立体视觉导航方法
CN108564549B (zh) 一种基于多尺度稠密连接网络的图像去雾方法
CN109978848B (zh) 基于多光源颜色恒常模型检测眼底图像中硬性渗出的方法
CN110570360B (zh) 一种基于Retinex的鲁棒和全面的低质量光照图像增强方法
CN105976330A (zh) 一种嵌入式雾天实时视频稳像方法
CN105631823A (zh) 基于阈值分割优化的暗原色天空区域去雾方法
CN107203980B (zh) 自适应多尺度暗通道先验的水下目标探测图像增强方法
CN112330613B (zh) 一种细胞病理数字图像质量的评价方法及系统
CN116091421A (zh) 一种体外受精胚胎卵裂球图像自动分割及面积计算的方法
CN114549555A (zh) 一种基于语义分割网络的人耳图像解刨学分割方法
CN110969584B (zh) 一种低照度图像增强方法
Feng et al. Low-light image enhancement algorithm based on an atmospheric physical model
CN102789634B (zh) 一种获取光照均一化图像的方法
CN115587945A (zh) 高动态红外图像细节增强方法、系统及计算机存储介质
CN108765355B (zh) 一种基于变分Retinex模型的雾天图像增强方法
CN117314793A (zh) 基于bim模型的建筑施工数据采集方法
Song et al. A Single Image Dehazing Method Based on End-to-End CPAD-Net Network in Deep Learning Environment
CN117197064A (zh) 一种无接触眼红程度自动分析方法
CN104346791A (zh) 一种校正流动池内粒子成像缺陷的方法
CN107451971A (zh) 基于暗通道和高斯组合先验的低照度盲卷积图像复原法
CN104915934A (zh) 一种基于视网膜机制的灰度图像增强方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20160629

Termination date: 20210530