CN101299234A - 一种基于嵌入式隐马尔可夫模型的人眼状态识别方法 - Google Patents
一种基于嵌入式隐马尔可夫模型的人眼状态识别方法 Download PDFInfo
- Publication number
- CN101299234A CN101299234A CNA2008100286484A CN200810028648A CN101299234A CN 101299234 A CN101299234 A CN 101299234A CN A2008100286484 A CNA2008100286484 A CN A2008100286484A CN 200810028648 A CN200810028648 A CN 200810028648A CN 101299234 A CN101299234 A CN 101299234A
- Authority
- CN
- China
- Prior art keywords
- state
- human eye
- eye
- built
- hidden markov
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Image Analysis (AREA)
Abstract
本发明公开了一种基于嵌入式隐马尔可夫模型的人眼状态识别方法,其包括如下步骤:对采集到的眼睛样本进行2D-DCT变换,对变换后的图像进行分析特征,寻找睁闭眼图像经过2D-DCT变换后的差异;对经过2D-DCT特征变换以后的人眼状态图像特征,采用嵌入式隐马尔可夫模型的方法进行训练得到分类器;用上一步骤得到的人眼睁闭状态分类器对待识别眼睛图像进行分类,首先将待识别眼睛图像经过2D-DCT变换得到观察向量序列,然后采用嵌入式隐马尔可夫模型的方法,计算睁眼和闭眼分类器产生该序列的似然值,根据此似然值判定眼睛的睁闭状态。本发明提高了算法的鲁棒性、准确性和实时性,降低计算量,从而提高眼状态判别的速度。
Description
技术领域
本发明属于图像处理和模式识别技术的应用领域,特别涉及驾驶员疲劳检测技术中的人眼状态识别方法。
背景技术
在人眼状态识别领域,目前有很多方法,这些方法大致可以分为两大类:基于特征分析的人眼状态识别和基于模式分类的人眼状态识别。基于特征分析的人眼状态识别,眼睛状态主要是由内外眼角、上下眼睑、虹膜和巩膜等特征决定的,有以下三种典型的方法:灰度模板匹配法、虹膜和眼白提取法、Hough变换检测瞳孔法,这些都对人眼区域的像素精度要求较高,适用范围受到限制。基于模式分类的人眼状态识别,是根据样本自动学习规则或知识的方法判断出人眼状态,目前主要有特征眼、神经网络、SVM(SupportVector Machine)、HMM(Hidden Markov Model)等方法,该类方法一般需要对图像进行缩放、旋转等复杂的归一化处理,运算量大,而且对像素精度也有一定要求。
发明内容
本发明的目的在于克服现有技术存在的上述不足,提供一种基于嵌入式隐马尔可夫模型的人眼状态识别方法,对人眼图片的采集没有任何环境限制,在现有技术的基础上,进一步提高了算法的鲁棒性、准确性和实时性。本发明通过如下技术方案实现。
一种基于嵌入式隐马尔可夫模型的人眼状态识别方法,包括如下步骤:
(1)人眼特征的提取:对采集到的眼睛样本进行2D-DCT变换,对变换后的图像进行分析特征,寻找睁闭眼图像经过2D-DCT变换后的差异;
(2)人眼睁闭状态分类器的训练:对经过2D-DCT特征变换以后的人眼状态图像特征,采用嵌入式隐马尔可夫模型的方法进行训练得到分类器;
(3)人眼状态识别:用步骤(2)得到的人眼睁闭状态分类器对待识别眼睛图像进行分类,首先将待识别眼睛图像经过2D-DCT变换得到观察向量序列,然后采用嵌入式隐马尔可夫模型的方法,计算睁眼和闭眼分类器产生该序列的似然值(相似程度),根据此似然值判定眼睛的睁闭状态。
上述方法中,步骤(1)中,从人眼状态样本库中提取人眼特征,该人眼状态样本库包含多个测试者在不同时间、不同光照条件、不同距离、不同面部表情、不同面部细节和不同脸部朝向条件下拍摄的多张人眼图像;对人眼状态样本库中的眼睛样本归一化后,进行2D-DCT变换,这些睁闭眼图像经过2D-DCT变换后,构成特征向量,其中包含睁闭眼之间的差异特征。
上述方法中,步骤(2)中所述分类器的训练过程如下:
(2.1)先对采集到的图像进行几何尺寸归一化处理和灰度均衡预处理,形成训练图像;
(2.2)对人眼图像进行采样并对每个采样窗进行2D-DCT变换,由2D-DCT变换后的低频系数构成观察向量序列;
(2.3)设定嵌入式隐马尔可夫模型的超状态个数和每一个超状态中的子隐马尔可夫模型状态数;
(2.4)根据超状态的个数和每个超状态内嵌入状态的个数以及嵌入式隐马尔可夫模型的结构,将人眼均匀分割;
(2.5)根据状态数和图像均匀分割后得到的观察向量序列,初始化嵌入式隐马尔可夫模型参数,通过双重嵌套的Viterbi算法,对图像进行重新分割;
(2.6)用Baum-welch算法重估嵌入式隐马尔可夫模型参数;
(2.7)当前后两次的迭代误差小于设定的阈值时,迭代停止,嵌入式隐马尔可夫模型训练完毕。
上述方法中,步骤(2.7)训练完成所得的分类器中某个状态的观察概率密度是由高斯概率密度函数的均值矢量和方差矢量来表征的,如果采用具有K个分量的混合高斯概率密度函数,则需要用K-Mean均值法将所有跟该状态有关的观测向量聚类成K类,每类分别求其均值和方差矩阵,作为各个高斯分量的均值和方差,采用高斯混合模型来表示人眼的两个状态;所述K=3。
上述方法中,步骤(2.2)中,采样窗的大小为12*12,每次窗口的偏移量水平和垂直方向都为4个像素,提取采样窗口经2D-DCT变换后左上角的3*3个低频分量系数构成观察向量序列;所述观察向量序列包含9*16个特征向量。
上述方法中,步骤(2.3)中超状态个数取3,子隐马尔可夫模型状态序列取(4,4,4),共12个子隐马尔可夫模型状态;步骤(2.4)中将人眼在垂直方向分割成3个超状态,然后将属于这个超状态的数据从左到右均匀分割成4个嵌入状态,分别与子隐马尔可夫模型状态相对应。
与现有技术相比本发明的优点与积极效果有:
1.DCT系数能反映2D信号在各方向和各频段的能量,从而基本上体现人眼在采样窗口内的主要分布和特殊结构;
2.本发明中,观察向量由图像块的二维DCT(2D-Discrete Cosine Transform,2D-DCT)系数构成,因为2D-DCT的结果是能量分布向低频成分集中,变换后能量集中在左上角对应于2D-DCT低频系数,因此只取2D-DCT左上角的低频系数组成观察向量,就可以表示人眼的主要特征。由采样图像块的2D-DCT低频系数构造观察向量可以降低对噪声和光照变化的敏感度,受图像姿态的影响也较小,另外很重要一点就是减少了观察向量的维数,降低计算量,从而提高眼状态判别的速度;
3.本发明中,将人眼图像分成块,利用2D-DCT变化以后的观察向量,建立嵌入式隐马尔可夫模型,既可以兼顾图像各个部分的特征,也可以兼顾总体特征;并且减少了计算量,提高了眼状态识别速度。
附图说明
图1是本发明中人眼嵌入式隐马尔可夫模型状态的具体例子图。
图2是图1人眼图像的嵌入式隐马尔可夫模型模型图。
图3a是实施方式中在人眼图像上提取2D-DCT变换窗口的示意图。
图3b是图3a提取出来的2D-DCT变换窗口示意图。
图4具体实施方式中嵌入式隐马尔可夫模型分类器训练模型图。
图5具体实施方式中基于人眼状态识别模型图。
具体实施方式
下面结合附图,对本发明的具体实施方式作进一步说明。人眼状态识别方法的框图如图4和图5所示,其具体实现步骤如下:
步骤一:人眼特征的提取;
步骤二:人眼睁闭状态分类器的训练;
步骤三:人眼状态识别。
其中,步骤一的具体实施步骤为:
首先从人眼状态样本库中提取人眼特征,该人眼状态样本库包含多个测试者在不同时间、不同光照条件、不同距离、不同面部表情、不同面部细节和不同脸部朝向条件下拍摄的多张人眼图像;对采集到的眼睛样本归一化后,进行2D-DCT变换,对变换后的图像进行分析特征,睁闭眼图像经过2D-DCT变换后,构成9*16的特征向量,从中寻找睁闭眼之间的差异。图1将人眼图像分割成3*4的图像块,图2针对图1所分割出来的图像块建立嵌入式隐马尔可夫模型数学模型,图3中M表示水平偏移的步长、N表示垂直偏移的步长、P表示采样窗的长、Q表示采样窗的宽,图3a中虚线的矩形表示采样窗口(大小为P*Q),偏移M行或者N列以后可以提取下一个采样窗口。图3b是根据图3a采集到的几个采样窗口,对其进行2D-DCT变换以后就可以得到所需的观察向量序列。
图1和图2中,由于睁闭眼图像都有其特征,不同拍摄条件下的人眼相片中还存在很多的随机性变异,我们对人眼做出适当的分割,人眼的上到下可以分为上中下3个重要组成部分,分别为上睫毛、瞳孔以及下睫毛,即具有结构上的恒常性。人眼的睁闭特征首先表现为上述组成部分特征的不同。我们用采集的人眼图像构造观察向量,那么观察向量与人眼状态特征之间的关系可以用一个一维马尔可夫模型(Hidden Markov Model,简记为HMM)表示。人眼状态的特征可以抽象为HMM的状态序列,相同状态的眼睛图像由于受到外界因素的影响而造成各个方面的不同,可以把这些不同的图像看作是同一组状态序列,它们对应的是同一个HMM,状态的出现及其转移可以用模型中的概率矩阵描述。对于相同的眼睛状态,所对应的HMM应当是唯一的。人眼状态识别模型研究工作的任务就于通过已收集的人眼图像来分析和建立隐Markov模型,进一步的研究分析表明,人眼水平方向自左向右也具有相对稳定的空间结构,因此,可将沿垂直方向划分的上中下3个状态再分别扩充为含有沿水平方向变化的HMM,我们把垂直方向的HMM称为主HMM,水平方向嵌入的多组HMM称为子HMM,因而可以将这种嵌入了水平方向状态转移的扩充了的一维HMM称嵌入式隐马尔可夫模型(Embedded Hidden Markov Model,简称为EHMM)。
步骤二的具体实施步骤为:
图4所示根据人眼图像经过2D-DCT特征变换以后的特征观察向量序列,采用嵌入式隐马尔可夫模型的方法进行训练,训练分类器的过程如下:
1)先对采集到的图像进行几何尺寸归一化成24*24,进行灰度均衡等预处理工作,形成训练图像。
2)对人眼图像进行采样并对每个采样窗进行2D-DCT变换,由2D-DCT变换后的低频系数构成观察向量序列(在本系统中,采样窗的大小为12*12,每次窗口的偏移量水平和垂直方向都为4个像素,提取采样窗口经2D-DCT变换后左上角的3*3个低频分量系数,共构成9*16的观察向量序列)。
3)设定嵌入式隐马尔可夫模型的超状态数和每一个超状态中嵌入子隐马尔可夫模型的状态数。本文超状态取3,子嵌入式隐马尔可夫模型状态序列取(4,4,4)共12个子嵌入式隐马尔可夫模型状态。
4)根据超状态的个数和每个超状态内嵌入状态的个数以及嵌入式隐马尔可夫模型的结构,将人眼均匀分割:首先,将人眼在垂直方向分割成3个超状态;然后,将属于这个超状态的数据从左到右均匀分割成4个嵌入状态,分别与子嵌入式隐马尔可夫模型状态相对应。
5)根据状态数和图像均匀分割后得到的观察向量,初始化嵌入式隐马尔可夫模型参数。通过双重嵌套的Viterbi算法,对图像进行重新分割。
6)用Baum-welch算法重估模型参数。
7)当前后两次的迭代误差小于某个设定的阈值时,迭代停止,嵌入式隐马尔可夫模型训练完毕。对于嵌入式隐马尔可夫模型某个状态的观察概率密度是由高斯概率密度函数的均值矢量和方差矢量来表征的。如果采用具有K个分量的混合高斯概率密度函数,则需要用K-Mean均值法将所有跟该状态有关的观测向量聚类K成类,每类分别求其均值和方差矩阵,作为各个高斯分量的均值和方差。采用高斯混合模型来表示人眼的两个状态,也就是人眼图像的观察向量概率矩阵,K=3。
步骤三的具体实施步骤为:
如图5所示眼状态识别的时候,首先将待识别眼睛图像分块,并提取窗口经过2D-DCT变换以后的图像构造观察向量序列,然后采用嵌入式隐马尔可夫模型的方法,计算睁眼和闭眼分类器产生该序列的似然值(相似程度),根据此似然值(相似程度)判定眼睛的睁闭状态,图中P(O|λ1)、P(O|λ2)分别用于计算睁眼和闭眼分类器产生该序列的似然值。
Claims (6)
1.一种基于嵌入式隐马尔可夫模型的人眼状态识别方法,其特征在于包括如下步骤:
(1)人眼特征的提取:对采集到的眼睛样本进行2D-DCT变换,对变换后的图像进行分析特征,寻找睁闭眼图像经过2D-DCT变换后的差异;
(2)人眼睁闭状态分类器的训练:对经过2D-DCT特征变换以后的人眼状态图像特征,采用嵌入式隐马尔可夫模型的方法进行训练得到分类器;
(3)人眼状态识别:用步骤(2)得到的人眼睁闭状态分类器对待识别眼睛图像进行分类,首先将待识别眼睛图像经过2D-DCT变换得到观察向量序列,然后采用嵌入式隐马尔可夫模型的方法,计算睁眼和闭眼分类器产生该序列的似然值,根据此似然值判定眼睛的睁闭状态。
2.根据权利要求1所述的方法,其特征在于步骤(1)中,从人眼状态样本库中提取人眼特征,该人眼状态样本库包含多个测试者在不同时间、不同光照条件、不同距离、不同面部表情、不同面部细节和不同脸部朝向条件下拍摄的多张人眼图像;对人眼状态样本库中的眼睛样本归一化后,进行2D-DCT变换,这些睁闭眼图像经过2D-DCT变换后,构成特征向量,其中包含睁闭眼之间的差异特征。
3.根据权利要求1或2所述的方法,其特征在于步骤(2)中所述分类器的训练过程如下:
(2.1)先对采集到的图像进行几何尺寸归一化处理和灰度均衡预处理,形成训练图像;
(2.2)对人眼图像进行采样并对每个采样窗进行2D-DCT变换,由2D-DCT变换后的低频系数构成观察向量序列;
(2.3)设定嵌入式隐马尔可夫模型的超状态个数和每一个超状态中的子隐马尔可夫模型状态数;
(2.4)根据超状态的个数和每个超状态内嵌入状态的个数以及嵌入式隐马尔可夫模型的结构,将人眼均匀分割;
(2.5)根据状态数和图像均匀分割后得到的观察向量序列,初始化嵌入式隐马尔可夫模型参数,通过双重嵌套的Viterbi算法,对图像进行重新分割;
(2.6)用Baum-welch算法重估嵌入式隐马尔可夫模型参数;
(2.7)当前后两次的迭代误差小于设定的阈值时,迭代停止,嵌入式隐马尔可夫模型训练完毕。
4.根据权利要求3所述的方法,其特征在于步骤(2.7)训练完成所得的分类器中某个状态的观察概率密度是由高斯概率密度函数的均值矢量和方差矢量来表征的,如果采用具有K个分量的混合高斯概率密度函数,则需要用K-Mean均值法将所有跟该状态有关的观测向量聚类成K类,每类分别求其均值和方差矩阵,作为各个高斯分量的均值和方差,采用高斯混合模型来表示人眼的两个状态;所述K=3。
5.根据权利要求4所述的方法,其特征在于步骤(2.2)中,采样窗的大小为12*12,每次窗口的偏移量水平和垂直方向都为4个像素,提取采样窗口经2D-DCT变换后左上角的3*3个低频分量系数构成观察向量序列;所述观察向量序列包含9*16个特征向量。
6.根据权利要求5所述的方法,其特征在于步骤(2.3)中超状态个数取3,子隐马尔可夫模型状态序列取(4,4,4),共12个子隐马尔可夫模型状态;步骤(2.4)中将人眼在垂直方向分割成3个超状态,然后将属于这个超状态的数据从左到右均匀分割成4个嵌入状态,分别与子隐马尔可夫模型状态相对应。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2008100286484A CN101299234B (zh) | 2008-06-06 | 2008-06-06 | 一种基于嵌入式隐马尔可夫模型的人眼状态识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2008100286484A CN101299234B (zh) | 2008-06-06 | 2008-06-06 | 一种基于嵌入式隐马尔可夫模型的人眼状态识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101299234A true CN101299234A (zh) | 2008-11-05 |
CN101299234B CN101299234B (zh) | 2011-05-11 |
Family
ID=40079058
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2008100286484A Expired - Fee Related CN101299234B (zh) | 2008-06-06 | 2008-06-06 | 一种基于嵌入式隐马尔可夫模型的人眼状态识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN101299234B (zh) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102393910A (zh) * | 2011-06-29 | 2012-03-28 | 浙江工业大学 | 一种基于非负矩阵分解和隐马尔科夫模型的人体行为识别方法 |
CN102902967A (zh) * | 2012-10-16 | 2013-01-30 | 第三眼(天津)生物识别科技有限公司 | 基于人眼结构分类的虹膜和瞳孔的定位方法 |
CN103839056A (zh) * | 2014-03-24 | 2014-06-04 | 智慧城市系统服务(中国)有限公司 | 一种人眼状态识别方法和装置 |
CN104091150A (zh) * | 2014-06-26 | 2014-10-08 | 浙江捷尚视觉科技股份有限公司 | 一种基于回归的人眼状态判断方法 |
CN104346629A (zh) * | 2014-10-24 | 2015-02-11 | 华为技术有限公司 | 一种模型参数训练方法、装置及系统 |
CN104732303A (zh) * | 2015-04-09 | 2015-06-24 | 中国石油大学(华东) | 一种基于动态径向基函数神经网络的油田产量预测方法 |
CN106507192A (zh) * | 2016-12-13 | 2017-03-15 | Tcl集团股份有限公司 | 一种基于人眼识别的电视关机控制方法及系统 |
CN108960040A (zh) * | 2018-05-07 | 2018-12-07 | 国网浙江省电力有限公司信息通信分公司 | 人眼检测方法 |
CN111028216A (zh) * | 2019-12-09 | 2020-04-17 | Oppo广东移动通信有限公司 | 图像评分方法、装置、存储介质及电子设备 |
-
2008
- 2008-06-06 CN CN2008100286484A patent/CN101299234B/zh not_active Expired - Fee Related
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102393910A (zh) * | 2011-06-29 | 2012-03-28 | 浙江工业大学 | 一种基于非负矩阵分解和隐马尔科夫模型的人体行为识别方法 |
CN102902967A (zh) * | 2012-10-16 | 2013-01-30 | 第三眼(天津)生物识别科技有限公司 | 基于人眼结构分类的虹膜和瞳孔的定位方法 |
CN102902967B (zh) * | 2012-10-16 | 2015-03-11 | 第三眼(天津)生物识别科技有限公司 | 基于人眼结构分类的虹膜和瞳孔的定位方法 |
CN103839056B (zh) * | 2014-03-24 | 2017-09-29 | 中智科创机器人有限公司 | 一种人眼状态识别方法和装置 |
CN103839056A (zh) * | 2014-03-24 | 2014-06-04 | 智慧城市系统服务(中国)有限公司 | 一种人眼状态识别方法和装置 |
CN104091150A (zh) * | 2014-06-26 | 2014-10-08 | 浙江捷尚视觉科技股份有限公司 | 一种基于回归的人眼状态判断方法 |
CN104091150B (zh) * | 2014-06-26 | 2019-02-26 | 浙江捷尚视觉科技股份有限公司 | 一种基于回归的人眼状态判断方法 |
CN104346629B (zh) * | 2014-10-24 | 2018-01-12 | 开源物联网(广州)有限公司 | 一种模型参数训练方法、装置及系统 |
CN104346629A (zh) * | 2014-10-24 | 2015-02-11 | 华为技术有限公司 | 一种模型参数训练方法、装置及系统 |
CN104732303A (zh) * | 2015-04-09 | 2015-06-24 | 中国石油大学(华东) | 一种基于动态径向基函数神经网络的油田产量预测方法 |
CN106507192A (zh) * | 2016-12-13 | 2017-03-15 | Tcl集团股份有限公司 | 一种基于人眼识别的电视关机控制方法及系统 |
CN106507192B (zh) * | 2016-12-13 | 2020-12-11 | Tcl科技集团股份有限公司 | 一种基于人眼识别的电视关机控制方法及系统 |
CN108960040A (zh) * | 2018-05-07 | 2018-12-07 | 国网浙江省电力有限公司信息通信分公司 | 人眼检测方法 |
CN108960040B (zh) * | 2018-05-07 | 2021-09-28 | 国网浙江省电力有限公司信息通信分公司 | 人眼检测方法 |
CN111028216A (zh) * | 2019-12-09 | 2020-04-17 | Oppo广东移动通信有限公司 | 图像评分方法、装置、存储介质及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN101299234B (zh) | 2011-05-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101299234B (zh) | 一种基于嵌入式隐马尔可夫模型的人眼状态识别方法 | |
CN111339990B (zh) | 一种基于人脸特征动态更新的人脸识别系统和方法 | |
CN100592322C (zh) | 照片人脸与活体人脸的计算机自动鉴别方法 | |
CN108256456B (zh) | 一种基于多特征阈值融合的手指静脉识别方法 | |
CN111401270A (zh) | 一种人体运动姿态识别评价方法及其系统 | |
CN101739555B (zh) | 假脸检测方法及系统、假脸模型训练方法及系统 | |
CN107133616A (zh) | 一种基于深度学习的无分割字符定位与识别方法 | |
CN102270308B (zh) | 一种基于五官相关aam模型的面部特征定位方法 | |
CN103902978B (zh) | 人脸检测及识别方法 | |
CN105184260B (zh) | 一种图像特征提取方法及行人检测方法及装置 | |
CN102262729B (zh) | 基于集成学习的混合融合人脸识别方法 | |
CN102136024B (zh) | 生物特征识别性能测评和诊断优化系统 | |
CN103942577A (zh) | 视频监控中基于自建立样本库及混合特征的身份识别方法 | |
CN105320950A (zh) | 一种视频人脸活体检测方法 | |
CN105809113B (zh) | 三维人脸识别方法及应用其的数据处理装置 | |
CN104517097A (zh) | 一种基于kinect的运动人体姿态识别方法 | |
CN101996308A (zh) | 人脸认证方法及系统、人脸模型训练方法及系统 | |
CN110263712A (zh) | 一种基于区域候选的粗精行人检测方法 | |
CN108764282A (zh) | 一种类别增量行为识别方法和系统 | |
US9147130B2 (en) | Information processing method, information processing apparatus, and recording medium for identifying a class of an object by using a plurality of discriminators | |
CN106874825A (zh) | 人脸检测的训练方法、检测方法和装置 | |
CN102254183A (zh) | 一种基于AdaBoost算法的人脸检测方法 | |
CN111368762A (zh) | 基于改进的K-means聚类算法的机器人手势识别方法 | |
CN110599463A (zh) | 一种基于轻量级联神经网络的舌像检测及定位算法 | |
CN108564040A (zh) | 一种基于深度卷积特征的指纹活性检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20110511 Termination date: 20150606 |
|
EXPY | Termination of patent right or utility model |