CN100458832C - 基于方向特征的掌纹识别方法 - Google Patents
基于方向特征的掌纹识别方法 Download PDFInfo
- Publication number
- CN100458832C CN100458832C CNB2007101112894A CN200710111289A CN100458832C CN 100458832 C CN100458832 C CN 100458832C CN B2007101112894 A CNB2007101112894 A CN B2007101112894A CN 200710111289 A CN200710111289 A CN 200710111289A CN 100458832 C CN100458832 C CN 100458832C
- Authority
- CN
- China
- Prior art keywords
- palmmprint
- image
- training
- roi image
- palm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
Abstract
本发明公开了基于方向特征的掌纹识别方法,包括掌纹图像采集、掌纹图像预处理、构造掌纹训练ROI图像集、掌纹特征提取-建立掌纹方向特征编码RPOC、点对区域的掌纹匹配。首先通过旋转掌纹训练ROI图像构造新的掌纹训练ROI图像加入到掌纹训练ROI图像集中,用以补偿旋转误差;其次设计了一种改进的有限Radon变换MFRAT,通过在掌纹图像的局部区域比较6个方向的线状区域的能量大小来获得掌纹方向特征模版;最后通过点对区域匹配对掌纹方向特征模版进行匹配。本方法的掌纹方向编码RPOC不仅能反映掌纹的结构特征,而且能携带较多的辨别信息,同时它对于光线变化、掌纹图像间的位移旋转等问题具有较强的容错能力。
Description
所属领域
本发明涉及一种利用人体生物特征进行身份认证的方法,特别涉及一种基于方向特征的掌纹识别方法。
背景技术
网络信息化社会中,迫切要求能够对人的真实身份进行有效鉴别。传统的身份鉴别方法主要有两种:一是基于密码的安全机制;二是基于证件的安全机制。但是,这些传统的确认机制有其固有的弊端。例如,多个密码难以记忆并且容易遗忘;证件容易被伪造、被盗取以及丢失等。所以,人们期待着使用更为安全、更为方便的身份认证方式。
近十几年来,基于人体生物特征的身份认证技术(Biometrics)越来越受到人们的重视。所谓生物特征识别技术是指利用人体本身所固有的物理特征或者行为特征,通过图像处理、模式识别等方法来鉴别个人身份的技术。与传统的基于密码或ID卡的身份认证方式相比,它能随身携带、难以伪造而且不用记忆,因此具有更好的安全性、可靠性和有效性。目前,生物特征识别技术中研究的物理特征主要有指纹、人脸、虹膜、掌纹、手形、耳纹以及静脉等;研究的行为特征主要有笔迹、声音、步态以及击键等。在上述研究中,基于指纹的身份鉴别是最早、也是最为成熟的一种方法,但指纹的易磨损性和易破坏性在一定程度上限制了该方法的进一步推广。基于虹膜和角膜的身份鉴别方法虽然具有识别率高等优点,但也存在着设备昂贵、用户接受性差等缺陷。人脸和声音也是生物特征识别技术的研究热点,但由于光照条件、人脸的姿态、噪音等因素的影响,其准确率也难以让人满意
人的掌纹具有唯一性和终身基本不变的特性,和指纹相比,掌纹的区域大的多,具有更丰富的纹理信息,掌纹图像的获取也更加容易。最近几年,基于掌纹识别的生物特征识别技术研究也受到了广泛关注。
早期的掌纹识别是脱机处理的,采集掌纹是使用墨水按捺手掌在白纸上,然后使用数码相机、扫描仪等获取数字图片。然而,脱机掌纹识别应用于身份认证工作中,存在很多缺点。首先,它不是实时性的,而大部分的实际应用是要求能够在线实时识别;其次,油墨掌纹图像质量不高,特征无法被高质量的表现;再次,在脱机图像中,掌纹的ROI(Regionof Interest)区域难以有效定位。2002年后,国际上掌纹识别研究逐渐转移到在线掌纹识别上来。在线掌纹识别与脱机掌纹识别最大的区别就是使用数码设备直接获取较高质量掌纹图像,能实时处理。其中,以研究为目的的相关论文中,获取掌纹图像的常用设备为CCD相机、数字扫描仪等。这里特别要指出的是香港理工大学生物特征识别中心计了一个专用的掌纹获取设备,获得了中国第14届发明展览会金奖。
在国际国内的论文数据库库中,可以检索到100多篇掌纹识别方面的论文。总的来说,所提出的掌纹识别方法可以被划分为如下几类:
(1)基于纹理特征的方法。此类方法把掌纹图像看成是一种纹理结构,使用相关方法提取掌纹的纹理特征进行识别。D.Zhang与A.Kong等提出的PalmCode是一种经典的基于纹理的掌纹识别方法,它使用Gabor滤波器对掌纹图像进行滤波,然后应用过零点准则对掌纹图像进行编码[参考文献:D.Zhang,W.K.Kong,J.You,and M.Wong,“Onlinepalmprint identification,”IEEE Transactions on Pattern Analysis and MachineIntelligence,25(9)(2003),pp.1041-1050.]。随后A.Kong等使用信息融合技术对PalmCode进行了改进提出了FusionCode,识别率得到进一步的提高[参考文献:A.Kong,D.Zhang,and M,Kamel,“Palmprint identificationusing feature-level fusion,”Pattern Recognition.39(2006)478-487]。
(2)基于线特征的方法。L.Zhang等首先对掌纹图像进行小波分解,然后使用方向建模方法提取小波子带的重要系数作为主线以及重要褶皱特征[参考文献:L.Zhang,and D.Zhang,“Characterization of palmprints bywavelet signatures via directional context modeling,”IEEE Transaction onSystems,Man and Cybernetics,Part B.34(3)(2004),pp.1335-1347.]。邬向前等则把掌线看成是一种屋脊线,根据图像的一阶导数过零点,二阶导数的幅值来确定掌线,在此算法的基础上,邬向前等探讨了基于线特征的掌纹的分类与识别算法[参考文献:X.Q.Wu,D.Zhang,and K.Q.Wang,“Palm line extraction and matching for personal authentication,”IEEETransaction on Systems,Man and Cybernetics,Part A,36(5)(2006),pp.978-987.]。
(3)基于表征特征的方法或者称为子空间方法。主要使用特征值分解以及Gram-Schmidt正交化等技术对掌纹图像进行降维,并获得相应特征向量。G.M.Lu和X.Q.Wu分别提出基于PCA(主成分分析)与LDA(线性判别分析)的掌纹识别方法[参考文献:G.M.Lu,D.Zhang,and K.Q.Wang,“Palmprint recognition using eigenpalms features,”PatternRecognition Letter,24(9-10)(2003),pp.1463-1467.],[参考文献:X.Q.Wu,D.Zhang,and K.Q Wang,“Fisherpalms based palmprint recognition,”PatternRecognitio Letter,24(15)(2003),pp.2829-2838.]。
(4)基于方向信息的方法。此方法类似于指纹图像的方向场计算与估计。对于掌纹图像,就是求得掌纹图像每个像素的方向,从而把掌纹图像从灰度空间映射到方向特征空间,然后进行匹配。目前在掌纹识别领域,基于方向特征的算法获得了较高识别率,因为掌纹线的方向信息能携带更多的辨别信息,而且对光照变化等变异情况不敏感。A.Kong与David.Zhang(张大鹏)在FusionCode基础上提出CompetitiveCode,在此方法中,使用6个方向的Gabor滤波器对图像进行滤波,然后用Winner-take-all规则提取最强响应方向作为识别特征[参考文献:A.Kong,and D.Zhang,“Competitive coding scheme for palmprint verification,”Proc.Ofthe 17th ICPR,vol(1)(2004),pp.520-523.]。
上述几种识别方法中,第一类基于纹理的方法是研究的比较早,但是这种方法容易受光照变化等因素的影响,识别率难以提高。第二类基于线的方法则受到诸多限制,例如,许多掌线比较模糊难以提取。第三类基于子空间技术的识别方法目前是研究热点,但是这种方法只考虑图像像素间的相关性,没有利用掌纹图像的结构信息,在较大规模数据库上的识别结果还有待于进一步验证。
相比而言,第四类基于方向特征的掌纹图像识别方法则能获得较理想的识别结果。目前,在各种方法识别结果的比较中,基于方向特征的方法识别率最好。经典的基于方向特征的掌纹识别方法就是我们上面所提到的CompetitiveCode[参考文献:A.Kong,and D.Zhang,“Competitivecoding scheme for palmprint verification,”Proc.Of the 17th ICPR,vol(1)(2004),pp.520-523.]。
通过国际专利数据库检索,香港理工大学生物特征识别中心张大鹏(David.Zhang)等人于2004年6月申请了美国发明专利,其专利公告号为WO/2005/124662,名称为“基于掌线方向特征的掌纹辨识方法”。此发明公开的掌纹辨识方法的核心内容就是CompetitiveCode。
然而,基于CompetitiveCode的掌纹识别方法仍然有一些不足之处。具体表现在:(1)CompetitiveCode的掌纹识别方法中使用的Gabor滤波器并不是提取掌纹图像方向特征的最佳工具;(2)特征提取速度比较慢,因为使用较大模板的Gabor滤波器对掌纹图像滤波比较耗时;(3)没有提出针对旋转问题的解决方案,识别率难以进一步提高;(4)CompetitiveCode的掌纹识别方法使用汉明距离进行匹配缺乏较好的容错能力。
发明内容
本发明的目的是克服现有技术CompetitiveCode的掌纹识别方法中的不足,提出一种新的基于方向特征的掌纹识别方法。基于方向特征的掌纹识别方法不仅具有很快的特征提取速度,而且识别率也有大幅度的提高。该方法比CompetitiveCode的掌纹识别方法具有更强的健壮性和更好的实用性。
本发明的目的是这样实现的:基于方向特征的掌纹识别方法,包括
步骤(1)掌纹图像采集
通过掌纹图像的采集装置采集掌纹图像,得到可用于进一步处理的掌纹图像灰度矩阵。在注册阶段采集的掌纹图像称为掌纹训练图像,在识别阶段采集的掌纹图像称为掌纹测试图像。
步骤(2)掌纹图像预处理
在提取掌纹图像特征前,需要对掌纹图像进行预处理。在采集掌纹图像的时候,一般是采集整个手掌的掌纹图像,但是使用这种掌纹图像进行匹配是不合适的,一方面因为整个手掌的掌纹图像比较大,处理速度慢,不适用于实时应用;另一方面因为整个手掌的掌纹图像没有经过定位处理,存在很大的旋转、位移误差,使得匹配结果不稳定。因此在掌纹图像识别方法中,首先通过定位手掌、手指位置,对掌纹图像进行旋转校正,然后在掌纹图像的中心部位切割128×128像素的方形区域作为掌纹训练ROI(Region of Interest)图像,最后对方形区域的掌纹训练ROI图像进行特征提取与匹配。
特别是还包括:步骤(3)掌纹训练图像集的构造
在掌纹识别系统中,首先会采集一幅或者几幅掌纹图像作为掌纹训练图像存放在系统中。然而,由于不完善的预处理操作,待识别的掌纹图像往往和掌纹训练图像存在一定的旋转误差,易造成错误识别。目前,掌纹识别领域还没有提出解决此问题的有效方案。本发明使用构造新的掌纹训练图像来解决此问题。通过观察,待识别掌纹图像和掌纹训练图像间的最大旋转误差约为10°。设对某个人的掌纹,系统中存有一幅掌纹训练ROI图像A,对掌纹训练ROI图像A分别旋转角度α为3°、6°、9°、-3°、-6°、-9°,得到旋转后的掌纹训练ROI图像,即形成新的掌纹训练ROI图像集A1、A2、A3、A4、A4、A6,设系统中还包括有B、C多幅掌纹训练ROI图像,则最后的掌纹训练ROI图像集为A、A1、A2、A3、A4、A5、A6、B、C,通过掌纹训练ROI图像集的构造,能有效补偿旋转误差;
其中旋转角度α,生成的新的掌纹训练图像的数量,可以根据实际情况调整。
步骤(4)掌纹特征提取-建立掌纹方向特征编码RPOC
掌纹的主要特征是线特征,同时这些线是具有方向性的,那么方向特征也可以有效表达掌纹的本质结构。在掌纹图像的局部区域,掌纹线可以被近似的看成是一条短直线,因此可以使用有限Radon变换(the finiteRadon transform,可简称为FRAT)来计算掌线的方向。然而,由于FRAT具有“环绕效应”,在计算方向特征的时候并不准确。本发明设计了一种新颖的改进Radon变换(Modified Finite Radon Transform,简称为MFRAT来准确的计算掌纹特征。MFRAT的计算掌纹特征如下:
定义Zp={0,1,...,p-1},其中p为正整数,对于有限二维网格Z2 p上的实值方程图像f[x,y],MFRAT定义为:
其中,Lk为在二维网格Z2 p中,f[x,y]的一些点组成的直线:
Lk={(i,j):j=k(i-i0)+j0,i∈Zp} (2)
上式中,Lk为直线方程,(i0,j0)为Z2 p的中心点。k表示为Lk的斜率。那么Lk就表示为经过Z2 p的中心点(i0,j0)不同斜率(方向)的直线。Lk还有另外一种表示方法L(θk),其中,θk是对应于k的角度值。
式(1)中的r(Lk)表示对不同方向的Lk进行积分(求和),即r(Lk)代表了不同方向的Lk的能量。通过比较r(Lk)的大小来计算掌纹的方向信息。由于掌纹图像中,掌线的像素值一般较小,那么选择r(Lk)中最小值的方向作为最终的方向信息。见下式:
在整个掌纹图像中,逐像素或者多个像素的移动Z2 p,那么整个图像的方向信息就被计算出来。掌纹图像的方向图公式为:
其中k(i,j)为(3)式θk(i,j)的k值。
在MFRAT中,有三个参数可以在应用中被调整,分别是p、N和W。一是p,它决定了二维网格Z2 p的大小,也就等于决定了Lk的长度;二是k的数量N,它表示计算多少条线的能量,如果N大则计算量大,如果N小则方向特征过少,一般而言,N的大小介于6~12之间;三是Lk的宽度W,可以根据应用需求来调整W的大小,一般而言,W的大小介于1~4之间。本发明中,p被设定为16;N被设定为6;W被设定为4,最终的掌纹特征图像即掌纹训练ROI图像为32×32像素。
步骤(5)基于点对区域的掌纹匹配
在其他掌纹识别方法中,归一化汉明距离(the Normalized HammingDistance)或者角度距离(Angular Distance)常被用于特征匹配。但是使用汉明距离或者角度距离的匹配结果往往不够健壮,原因是它们是基于像素对像素匹配的。一般而言,由于待识别的掌纹图像与掌纹训练图像间存在位移、旋转误差,因此两个图像的像素无法精确重合。本发明设计的基于点对区域的距离函数来进行掌纹匹配,能有效提高掌纹匹配的精度。
设A是一幅掌纹训练图像,B是一幅掌纹测试图像,它们来自同一个手掌,但是在不同时间段采集的。A与B的大小都为m×n像素。进一步设A(i,j)与B(x,y)是两个在相同位置对应点。如果A与B间没有位移、旋转误差,那么我们知道A(i,j)与B(x,y)是重合的,即“i=x”且“j=y”。但,如前段所提到的,由于位移与旋转误差,A(i,j)往往和B(x,y)并不重合。从另一方面说,A(i,j)出现在B(x,y)附近的概率比较大。根据以上分析,设计的基于点对区域的匹配可以表示为:
(5)式中,s(A,B)表示从A到B的匹配距离。表示逻辑“等”操作,即A(i,j)与中的任何一个像素的值相等,则的值为1,反之则为0。是以B(i,j)为中心的局部区域,可以被定义为不同的形状。类似的,从B到A的匹配距离为:
最终的匹配距离为:
S(A,B)=S(B,A)=Max(s(A,B),s(B,A)) (7)
使用点对区域的匹配。本发明中,被设定为面积为5像素大小的十字形区域(B(i-1,j),B(i+1,j)、B(i,j),B(i,j-1),B(i,j+1)),或者9像素大小的方形区域((B(i-1,j-1),B(i-1,j+1),B(i-1,j),B(i+1,j),B(i,j),B(i,j-1)、B(i,j+1),B(i+1,j+1),B(i+1,j-1))。
相对于现有技术,本发明的有益效果是:
其一,使用构造掌纹训练ROI图像的方法补偿旋转误差。
正如本发明前文背景技术所提到的,由于不完善的预处理处理操作,待识别的掌纹测试图像往往和注册阶段采集的掌纹训练图像有较大的旋转误差,易造成错误识别,本发明构造新的掌纹训练ROI图像用于补偿旋转误差。例如,系统中存有一幅掌纹训练ROI图像A,对掌纹训练ROI图像A进行旋转,角度α分别为3°、6°、9°、-3°、-6°、-9°,得到新的掌纹训练ROI图像集A1、A2、A3、A4、A5、A6。若系统中存有多幅掌纹训练ROI图像,除了掌纹训练ROI图像A之外还有B、C等,那么最后的掌纹训练ROI图像集为A、A1、A2、A3、A4、A5、A6、B、C。其中旋转角度α,生成的新的掌纹训练ROI图像的数量,根据实际情况调整。通过构造掌纹训练ROI图像集的方法来补偿旋转误差,可以有效的降低旋转误差给掌纹图像识别带来的负面影响。
其二,提出掌纹方向特征编码RPOC,即Robust Palmprint OrientationCode,其中改进有限Radon变换MFRAT(Modified Finite RadonTransform),能快速准确的提取掌纹的方向特征的高精度识别率。现有技术中,经典的基于方向信息的掌纹识别方法Competitive Code使用6个方向的Gabor滤波器对图像进行滤波,通过比较滤波器响应值的大小来确定像素的方向值。但是Gabor滤波与图像的卷积比较费时,因为需要用到大量的乘法与加法操作,而且Gabor滤波器不能很好的模拟线状特征。
本发明提出改进的有限Radon变换MFRAT,在掌纹图像的局部范围内,除了高精度的识别率,掌纹方向特征编码RPOC的一大优势是具有非常快的处理速度,因为在使用MFRAT做特征提取时,主要使用加法运算,在6个方向的线状区域进行加法操作,可以有效的减少掌纹特征提取的时间,且能非常好的拟和线状特征,具有比Gabor滤波器更好的提取方向特征的能力。在具体实施方式的图5MFRAT中,线的宽度W为1,方向的数量为6个,(a)(b)(c)(d)(e)(f)图像代表了不同方向的线的积分(求和),这些方向分别为0°,30°,60°,90°,120°,150°。
另外在具体实施方式图7是本发明的比较图中,(a)图像是原始的掌纹ROI图像,(b)是基于CompetitiveCode的掌纹识别方法,(c)是掌纹方向特征编码RPOC,可以看出,本发明掌纹方向特征编码RPOC可以更好的反映掌纹结构特征。在图11中,展示了掌纹方向特征编码RPOC与几种经典的掌纹识别方法(Palmcode、Fuioncode、Competitivecode)的ROC曲线图。在ROC曲线中,给定一个FAR值,GAR的值越大,说明识别率越好。可以看出,掌纹方向特征编码RPOC的识别性能要明显好于现有技术中其他几种经典的掌纹识别方法。
其三,提出一种新颖的点对区域的掌纹特征匹配,具有更好的容错能力。现有技术中,归一化汉明距离(Normalized Hamming distance)或者角度距离(Angular distance)常被用于特征匹配。但是使用汉明距离或者角度距离的匹配结果往往不够健壮,原因是它们是基于像素对像素匹配的。一般而言,由于待识别的掌纹测试图像与注册阶段采集的掌纹训练图像间存在位移、旋转误差,因此待识别的掌纹测试图像与注册阶段采集的掌纹训练图像的像素无法精确重合。
本发明中设计的基于点对区域的匹配可以表示为:
(8)式中,s(A,B)表示从A到B的匹配距离。表示逻辑“等”操作,即A(i,j)与中的任何一个像素的值相等,则的值为1,反之则为0。是以B(i,j)为中心的局部区域,可以被定义为不同的形状。类似的,从B到A的匹配距离为:
最终的匹配距离为:
S(A,B)=S(B,A)=Max(s(A,B),s(B,A)) (10)
附图说明
图1是基于方向特征的掌纹识别方法的流程图。
图2是本发明采集的掌纹图像。
图3是本发明剪切后原始的掌纹训练ROI图像。
图4是本发明构造掌纹训练ROI图像集的示意图。
图5是本发明9×9大小的MFRAT示意图。
图6是本发明16×16大小的MFRAT示意图。
图7是本发明的RPOC与Competitivecode特征比较图。
图8是本发明点对区域匹配算子的示意图。
图9是本发明验证试验中,真匹配与假匹配的匹配值分布图。
图10是本发明验证试验的FAR与FRR分布图。
图11是本发明掌纹方向特征编码RPOC结果比较的ROC曲线图。
具体实施方式
下面结合附图对本发明的实施例作进一步的说明。
图1是基于方向特征的掌纹识别方法的流程图。在图1中,基于方向特征的掌纹识别方法包括注册过程和识别过程。
注册过程是:用户使用采集设备进行掌纹图像采集,与用户的个人信息如姓名、ID号等存入系统中。一般情况下,对每位用户需进行1~3次采集,存入模版数据库1~3幅掌纹训练图像。采用掌纹图像预处理,切割掌纹训练图像中128×128大小的中心区域作为掌纹训练ROI图像。构造掌纹训练ROI图像集,是对其中的一副掌纹训练ROI图像进行若干小角度旋转,形成若干幅旋转后的掌纹训练ROI图像,即形成新的掌纹训练ROI图像集。使用MFRAT提取所有掌纹训练ROI图像的方向特征,将形成掌纹训练图像集的掌纹方向特征模版存入模版数据库中。其中,每个掌纹训练ROI图像集的掌纹方向特征模版都和先前存入的个人身份信息如姓名、ID号等对应。
识别过程是:用户使用采集设备进行掌纹图像采集。对掌纹测试图像预处理,切割掌纹测试图像中128×128大小的中心区域作为掌纹测试ROI图像。用MFRAT提取掌纹测试ROI图像的方向特征,形成待识别的掌纹方向特征模版。对于身份验证操作,待识别用户还需要向系统中输入ID号等身份信息。掌纹测试方向特征模版与训练模版数据库中的具有相同ID号的若干掌纹训练方向特征模版进行匹配。使用点对区域的掌纹匹配。取测试方向特征模版与模版数据库中训练方向特征模版具有最大相似度的值作为最终的匹配值。若此匹配值大于事先设定的阈值T,则验证操作成功。否则验证失败。对于身份辨识操作,待识别用户无需向系统中输入ID号等身份信息,掌纹测试方向特征模版与训练模版数据库中所有训练特征模版进行匹配,系统返回与测试方向特征模版具有最大匹配值的训练方向特征模版的ID号,若此匹配值大于事先设定的阈值T,则辨识成功。否则辨识失败。
图2是本发明采集的掌纹图像。在采集的掌纹图像中,背景为黑色,便于分割出掌纹区域图像。此图像分辨率约为75dpi。虽然分辨率低,但掌纹主线、皱褶等特征仍然相当清楚,可以用来身份认证。使用低分辨率掌纹图像的第一个优点是图像采集设备便宜,利于降低成本,第二个优点是图像的尺寸小,在处理时速度快。
图3是本发明剪切后原始的掌纹训练ROI图像。在剪切后的掌纹训练ROI图像中,仍然含有掌纹的主要特征,如主线、皱褶等。使用掌纹训练ROI图像的主要目的是对掌纹图像进行定位,使得来自同一个手掌在不同时间采集的掌纹图像间具有比较小的位移与旋转误差,便于掌纹匹配。
图4是本发明构造掌纹训练ROI图像集的示意图。通过观察,待识别掌纹图像即测试图像和注册阶段采集的掌纹训练图像间的最大旋转误差约为10°。设对某个人的掌纹,系统中存有一幅掌纹训练ROI图像A,对掌纹训练ROI图像A分别旋转3°、6°、9°、-3°、-6°、-9°,得到新的训练掌纹ROI图像A1、A2、A3、A4、A5、A6。若系统中存有多幅掌纹训练ROI图像,除了掌纹训练ROI图像A之外还有B、C等,那么最后的掌纹训练图像集为A、A1、A2、A3、A4、A5、A6、B、C。通过掌纹训练ROI图像集的构造,能有效补偿旋转误差。
图5是本发明9×9大小的MFRAT示意图。在图5MFRAT中,线的宽度W为1,方向的数量为6个,(a)(b)(c)(d)(e)(f)图像代表了不同方向的线的积分(求和),这些方向分别为0°,30°,60°,90°,120°,150°。使用此MFRAT,每次可以计算一个像素(中心像素)的方向特征。
图6是本发明16×16大小的MFRAT示意图。在图6的MFRAT中,线的宽度W为4,方向的数量为6个,(a)(b)(c)(d)(e)(f)图像代表了不同方向的线的积分,这些方向分别为0°,30°,60°,90°,120°,150°。使用此MFRAT,每次可以计算4×4个像素(中心区域的深色像素)的方向特征。此4×4个像素具有相同的方向特征值,在特征图像中,此4×4个像素可被看作为1个像素,因此128×128的原始图像,其特征图像为32×32像素大小。
图7是本发明的RPOC与Competitivecode特征比较图。其中(a)图像是原始的掌纹ROI图像,(b)是基于CompetitiveCode的掌纹识别方法,(c)是掌纹方向特征编码RPOC。可以看出,掌纹方向特征编码RPOC可以更好的反映掌纹结构特征。这里需要指出的是,图7(b)与(c)的大小为32×32像素,为了方便显示,它们被放大。其中每个小方格代表一个像素。此外,图7(b)与(c)中,不同的灰度值代表了不同的方向值。
图8是本发明点对区域匹配算子的示意图。其中(a)是点对点的匹配算子,(b)是点对十字形区域的匹配算子。(c)是点对小方形的匹配算子。
图9是本发明验证试验中,匹配值的分布图。
在验证实验中,来自同一个手掌的掌纹匹配称为真匹配,即Genuine匹配,来自不同手掌的掌纹匹配称为假匹配,即Imposter匹配。真匹配的结果就是合法用户对自己合法身份的验证。而假匹配则是冒充真实用户的匹配。图9是对所有真匹配与假匹配中匹配值的统计,真匹配的匹配值分布中心点约为0.7,假匹配的匹配值分布中心点约为0.5。从图9中可以看出,真匹配与假匹配值能较好的分开,冒充者很难冒充成功。对于一个完美的系统,真匹配值与假匹配值的分布应该没有交点。
图10是本发明验证试验的FAR与FRR分布图。
生物特征识别技术中一般采用三个指标来衡量识别效果,即误识率(False Acceptance Rate,FAR)、误拒率(False Reject Rate,FRR)和等错率(Equal Error Rate,EER)。FRR是指系统将真实用户当成假冒者而拒绝的概率;FAR是指系统将假冒者当成真实用户而接受的概率。EER是指FAR与FRR相等时候的错误率。FRR和FAR是同一个算法系统的两个参数,把它们放在同一个坐标中,如图所示,FAR是随着阈值增大而减小的,FRR是随着阈值增大而增大的。一般而言,FAR与FRR呈反比关系,FAR越大,则FRR越小,反之亦然。FAR与FRR在图中有交叉点,这个点是在某个阈值下的FAR与FRR等值的点(对应此阈值的等值点称为EER)。习惯上使用EER来衡量算法的综合性能,对于一个更优的掌纹识别算法,希望在相同阈值情况下,FAR和FRR都越小越好。
图11是本发明掌纹方向特征编码RPOC结果比较的ROC曲线图。在图11中,展示了掌纹方向特征编码RPOC与几种经典的掌纹识别方法(Palmcode、Fuioncode、Competitivecode)的ROC曲线图。ROC曲线中,横坐标是误识率(FAR),纵坐标是正确的接受率(Genuine Acceptance Rate,GAR)。在ROC曲线中,给定一个误识率FAR值,正确的接受率GAR的值越大,说明识别率越好。从图11中,可以看出,掌纹方向特征编码RPOC的识别性能要明显好于其他几种经典的掌纹识别方法。
实施例
(1)图像数据库
采用本发明的算法在香港理工大学生物特征识别研究中心(PolyU_BRC)的掌纹数据库中进行了实验。这些图像是分两次对不同年龄的男性和女性进行采集的,两次采集间隔平均为2个月,每次对一个手掌采集10幅左右的掌纹图像。所以,数据库中每个手掌有近20幅掌纹图像。掌纹图像大小为384×284像素。
(2)图像预处理
应用张大鹏等人提出的掌纹预处理算法[参考文献:D.Zhang,W.K.Kong,J.You,and M.Wong,“Online palmprint identification,”IEEETransactions on Pattern Analysis and Machine Intelligence,25(9)(2003),pp.1041-1050.],截取掌纹图像中心大小为128×128像素的掌纹ROI图像块,在此掌纹ROI图像块上进行掌纹特征提取与匹配。
(3)构造掌纹训练ROI图像集
我们选用采集的每个手掌的第一幅图像作为掌纹训练ROI图像集。剩下的19幅掌纹图像作为掌纹测试图像集。设对某个人的掌纹训练ROI图像A,对掌纹训练ROI图像A分别旋转3°、6°、9°、-3°、-6°、-9°,得到新的掌纹训练ROI图像集A1、A2、A3、A4、A5、A6。那么最后的掌纹训练ROI图像集为A、A1、A2、A3、A4、A5、A6,共有7幅掌纹训练ROI图像。
(4)使用MFRAT提取掌纹的方向特征
使用MFRAT提取掌纹的方向特征,本发明中,p被设定为16;N被设定为6;W被设定为4。最终的特征图像即掌纹训练ROI图像大小为32×32像素。
(5)使用基于点对区域的掌纹匹配进行匹配
使用基于点对区域的掌纹匹配。
本发明中,被设定为面积为5像素的十字形区域(B(i-1,j),B(i+1,j),B(i,j),B(i,j-1),B(i,j+1)),或者9像素的方形区域((B(i-1,j-1),B(i-1,j+1),B(i-1,j),B(i+1,j),B(i,j),B(i,j-1),B(i,j+1),B(i+1,j+1),B(i+1,j-1))。
(6)掌纹识别试验结果分析
掌纹识别试验可以分为两类,即验证(Verification)和辨识(Identification)。验证就是通过采集到的掌纹与一个已经登记的掌纹进行一对一的比对(one-to-one matching),来确认身份的过程。作为验证的前提条件,他或她的掌纹必须在掌纹库中已经注册。掌纹以一定的压缩格式存贮,并与其姓名或其标识(ID,PIN)联系起来。随后在比对现场,先验证其标识,然后,利用系统的掌纹与现场采集的掌纹比对来证明其标识是合法的。验证其实是回答了这样一个问题:″他是他自称的这个人吗?″。
辨识则是把采集到的掌纹同掌纹数据库中的掌纹逐一对比,从中找出与测试掌纹相匹配的指纹。这也叫“一对多匹配(one-to-manymatching)”。辨识其实是回答了这样一个问题:“他是谁?”。
1、验证结果分析
在验证试验中,掌纹测试图像集中所有的掌纹图像要与掌纹训练图像集中所有图像进行匹配。如果掌纹测试图像与掌纹训练图像来自于同一个手掌,那么他们之间的匹配被称为真实匹配(Genuine Matching),如果测试图像与掌纹训练图像来自不同的手掌,那么他们之间的匹配被称为冒名匹配(Impostor Matching)。匹配产生的结果为匹配值,匹配值的范围在[0,1]之间,如果匹配值超过了给定的阈值,则认为验证通过,否则被拒绝。图9展示了真实匹配Genuine Matching与冒名匹配ImpostorMatching的匹配值分布图。
图10与下表展示了本发明方法在不同阈值时FAR与FRR值。可以看出,当FAR在4.0×10-5%时,FRR仅为1.631%。当阈值为0.616时EER约为0.16%。
图11与下表展示了不同掌纹识别方法的识别结果比较。当FAR在4.0×10-5%时,Palmcode的FRR为17.2%,Fusioncode的FRR为12.1%,Competitivecode的FRR为4.86%,掌纹方向特征编码RPOC的FRR仅为1.631%。Palmcode的EER为0.98%,Fusioncode的EER为0.87%,Competitivecode的EER为0.47%,RPOC的EER仅为0.16%。比其他几种方法的结果好很多。目前,从可以查阅到的资料中,本发明掌纹方向特征编码RPOC获得了掌纹识别领域的较高识别率。
2、辨识结果分析
以每个手掌的第一幅图像作为掌纹训练图像,剩下的19幅图像作为掌纹测试图像进行辨识试验。掌纹方向特征编码RPOC的辨识精度为98.12%,而PalmCode,FusionCode,CompetitiveCode的辨识精度分别为95.41%、96.46%与97.85%。在掌纹辨识试验中,掌纹方向特征编码RPOC也获得了较好的识别率。
3、存储量
掌纹方向特征编码RPOC的特征图像即掌纹训练图像大小为32×32,每个像素点的值可能是1、2、3、4、5、6这六个数中的一个。那么对每个像素点使用3个比特就可以代表这几个值,如使用001代表1,010代表2,011代表3,100代表4,101代表5,110代表6。以这种方法存储一幅掌纹训练图像的方向特征,则需要使用的字节数为(32×32×3)/8=384 bytes。可见,掌纹方向特征编码RPOC的存储量非常小,非常适合实时应用。
4、处理速度
除了高精度的识别率,掌纹方向特征编码RPOC的另一大优势是具有非常快的处理速度,因为在使用MFRAT做特征提取时,主要使用加法运算,因此减少了处理器的时间开销。所有试验是在主频为2.4GHZ的奔腾处理器、256M内存的个人电脑上完成的,使用的编程平台为VisualC++。下表列出了掌纹方向特征编码RPOC算法预处理、特征提取以及匹配所需要的平均时间。使用掌纹方向特征编码RPOC方法进行一次身份验证的平均响应时间小于0.4秒。掌纹方向特征编码RPOC的特征提取时间仅为50毫秒,而CompetitiveCode的特征提取时间为200毫秒,掌纹方向特征编码RPOC所用的特征提取时间只是CompetitiveCode的四分之一。
Claims (4)
1、一种基于方向特征的掌纹识别方法,包括a:掌纹图像采集,用户通过采集装置进行掌纹图像采集,得到可用于进一步处理的掌纹图像灰度矩阵,在注册阶段采集的掌纹图像称为掌纹训练ROI图像,在识别阶段采集的掌纹图像称为掌纹测试图像;
b:掌纹图像预处理,首先通过定位手掌、手指位置,对掌纹图像进行旋转校正,然后在掌纹图像的中心部位切割128×128像素的方形区域作为掌纹训练ROI图像,最后对方形区域的掌纹训练ROI图像进行特征提取与匹配,其特征在于该方法还包括:
c:构造掌纹训练ROI图像集,设对某个人的掌纹,系统中存有一幅掌纹训练ROI图像A,对掌纹训练ROI图像A分别旋转角度α为3°、6°、9°、-3°、-6°、-9°,得到旋转后的掌纹训练ROI图像,即形成新的掌纹训练ROI图像集A1、A2、A3、A4、A5、A6,设系统中还包括有B、C多幅掌纹训练ROI图像,则最后的掌纹训练ROI图像集为A、A1、A2、A3、A4、A5、A6、B、C,通过掌纹训练ROI图像集的构造,能有效补偿旋转误差;
d:掌纹特征提取-建立掌纹方向特征编码RPOC(RobustPalmprint Orientation Code)
掌纹的主要特征是线特征,这些线具有方向性,即方向特征能够表达掌纹的本质结构,提取方向特征的MFRAT描述如下:
定义Zp={0,1,...,p-1},其中p为正整数,对于有限二维网格Z2 p上的实值方程f[x,y],MFRAT定义为:
其中,f[x,y]是图像灰度矩阵,Lk为在二维网格Z2 p中,f[x,y]的一些点组成的直线:
Lk={(i,j):j=k(i-i0)+j0,i∈Zp}
上式中,Lk为直线方程,(i0,j0)为Z2 p的中心点,k表示为Lk的斜率;那么Lk就表示为经过Z2 p的中心点(i0,j0)不同方向的直线,Lk还有另外一种表示方法L(θk),其中,θk是对应于k的角度值;
公式中的r(Lk)表示对不同方向的Lk进行积分即求和,r(Lk)代表了不同方向的Lk的能量;通过比较r(Lk)计算掌纹的方向信息;选择r(Lk)中值小的方向作为(i0,j0)的最终方向信息;见下式:
在整个掌纹图像中,逐像素或者多个像素的移动Z2 p,整个掌纹图像的方向信息就计算出来,掌纹图像的方向图公式为:
其中k(i,j)为式θk(i,j)的k值;
在MFRAT中,有三个参数在应用中调整,分别是p、N和W,其中:p决定了二维网格Z2 p的大小,即决定了Lk的长度;k的数量N表示计算线的数量,如果N大则计算量大,如果N小则方向特征少,N介于6~12之间;Lk的宽度W能够根据应用需求进行调整,W介于1~4之间;
使用MFRAT提取所有掌纹训练ROI图像的方向特征,将形成掌纹训练ROI图像集的掌纹方向特征模版存入模版数据库中;
e:基于点对区域的掌纹匹配
设来自同一个手掌的在不同时间段采集的A是一幅掌纹训练ROI图像,B是一幅掌纹测试图像,A与B的大小都为m×n像素,进一步设A与B间没有位移与旋转误差,A(i,j)与B(x,y)是两个在相同位置的对应点,此时A(i,j)与B(x,y)重合,即“i=x”且“j=y”,由于位移与旋转误差,A(i,j)往往和B(x,y)不重合,但A(i,j)出现在B(x,y)附近的概率大,设计的基于点对区域的掌纹匹配表示为:
公式中,s(A,B)表示从A到B的匹配距离,表示逻辑操作,A(i,j)与B(i,j)中的任何一个像素的值相等,则的值为1,反之则为0,B(i,j)是以B(i,j)为中心的局部区域,能够定义为不同的形状;
类似的,从B到A的匹配距离为:
最终的匹配距离为:
S(A,B)=S(B,A)=Max(s(A,B),s(B,A))。
2、根据权利要求1所述的基于方向特征的掌纹识别方法,其特征是:所述的设对某个人的掌纹,系统中存有一幅掌纹训练ROI图像A,对掌纹训练ROI图像A分别旋转角度α为3°、6°、9°、-3°、-6°、-9°,得到旋转后的掌纹训练ROI图像,即形成新的掌纹训练ROI图像集A1、A2、A3、A4、A5、A6,设系统中还包括有B、C多幅掌纹训练ROI图像,则最后的掌纹训练ROI图像集为A、A1、A2、A3、A4、A5、A6、B、C,其中旋转角度α,生成新的掌纹训练ROI图像的数量根据实际情况调整。
3、根据权利要求1所述的基于方向特征的掌纹识别方法,其特征是:所述的在MFRAT中,有三个参数在应用中调整,分别是p、N和W,其中p设定为16、N设定为6、W设定为4,最终的掌纹特征图像即掌纹训练ROI图像为32×32像素。
4、根据权利要求1所述的基于方向特征的掌纹识别方法,其特征是:所述的基于点对区域的掌纹匹配,其中B(i,j)设定为面积为5像素的十字形区域B(i-1,j),B(i+1,j),B(i,j),B(i,j-1),B(i,j+1),或者9像素的方形区域B(i-1,j-1),B(i-1,j+1),B(i-1,j),B(i+1,j),B(i,j),B(i,j-1),B(i,j+1),B(i+1,j+1),B(i+1,j-1)。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CNB2007101112894A CN100458832C (zh) | 2007-06-21 | 2007-06-21 | 基于方向特征的掌纹识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CNB2007101112894A CN100458832C (zh) | 2007-06-21 | 2007-06-21 | 基于方向特征的掌纹识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101055618A CN101055618A (zh) | 2007-10-17 |
CN100458832C true CN100458832C (zh) | 2009-02-04 |
Family
ID=38795452
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CNB2007101112894A Expired - Fee Related CN100458832C (zh) | 2007-06-21 | 2007-06-21 | 基于方向特征的掌纹识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN100458832C (zh) |
Families Citing this family (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101196988B (zh) * | 2007-12-25 | 2010-06-02 | 哈尔滨工业大学 | 三维掌纹身份鉴别系统的手掌定位及中心区提取方法 |
CN101593268B (zh) * | 2008-05-30 | 2012-03-07 | 深圳市普罗巴克科技股份有限公司 | 一种多分辨率指纹识别方法和多分辨率指纹识别系统 |
CN101763501B (zh) * | 2008-12-24 | 2012-07-04 | 中国科学院半导体研究所 | 一种无约束手掌图像采集装置 |
CN102073843B (zh) * | 2010-11-05 | 2013-03-20 | 沈阳工业大学 | 非接触式快速人手多模态信息融合识别方法 |
CN102592152B (zh) * | 2012-01-05 | 2013-06-19 | 中国科学院合肥物质科学研究院 | 一种基于计算机系统的在线笔迹认证方法 |
CN102609698A (zh) * | 2012-02-09 | 2012-07-25 | 北京海和鑫生信息科学研究所有限公司 | 活体采集侧面掌纹质量评估方法 |
CN103383465B (zh) * | 2013-05-10 | 2015-01-07 | 北京国基科技股份有限公司 | 一种基于相关器特征输出的信息融合方法 |
CN103268483B (zh) * | 2013-05-31 | 2017-08-04 | 沈阳工业大学 | 开放式环境非接触采集下的掌纹识别方法 |
CN104091144A (zh) * | 2013-06-02 | 2014-10-08 | 广东智冠实业发展有限公司 | 静脉图像特征提取过程中的方向滤波器构建方法 |
CN104268502B (zh) * | 2013-06-02 | 2018-01-19 | 广东智冠实业发展有限公司 | 人体静脉图像特征提取后的认识方法 |
CN104091146A (zh) * | 2013-06-02 | 2014-10-08 | 广东智冠实业发展有限公司 | 人体静脉图像特征提取方法 |
CN104217207A (zh) * | 2013-06-02 | 2014-12-17 | 广东智冠实业发展有限公司 | 静脉特征提取过程中滤波器领域有效范围的设定方法 |
CN104091145B (zh) * | 2013-06-02 | 2018-05-15 | 广东智冠实业发展有限公司 | 人体掌脉特征图像采集方法 |
WO2015042783A1 (zh) * | 2013-09-24 | 2015-04-02 | 北京正邦信息技术有限公司 | 非接触式掌纹认证方法、装置及便携终端 |
CN103793692A (zh) * | 2014-01-29 | 2014-05-14 | 五邑大学 | 低分辨率多光谱掌纹、掌静脉实时身份识别方法与系统 |
CN105279472A (zh) * | 2014-05-28 | 2016-01-27 | 上海方付通商务服务有限公司 | 一种掌纹识别方法及系统 |
CN104123537B (zh) * | 2014-07-04 | 2017-06-20 | 西安理工大学 | 一种基于手形和掌纹识别的快速身份验证方法 |
CN106354738B (zh) * | 2015-07-18 | 2019-09-10 | 严之鸿 | 一种平面图像录入及匹配的方法和系统 |
CN105574845B (zh) * | 2015-09-01 | 2018-03-06 | 湖南大学 | 一种多相机阵列烟标叠层数量测量方法及装置 |
WO2017173605A1 (en) * | 2016-04-06 | 2017-10-12 | Xiaogang Wang | Method and system for person recognition |
CN106230098A (zh) * | 2016-07-30 | 2016-12-14 | 孟玲 | 一种安全性能高的高压开关柜系统 |
CN106296901A (zh) * | 2016-07-30 | 2017-01-04 | 孟玲 | 一种基于手掌识别的电子锁系统 |
CN106296905A (zh) * | 2016-07-30 | 2017-01-04 | 孟玲 | 一种通过手掌进行识别的门锁 |
CN106295537A (zh) * | 2016-07-30 | 2017-01-04 | 孟玲 | 一种具有身份识别功能的控制开关 |
CN106156760A (zh) * | 2016-07-30 | 2016-11-23 | 孟玲 | 一种基于手掌识别的自动控制装置 |
CN107341473B (zh) * | 2017-07-04 | 2018-07-06 | 深圳市利众信息科技有限公司 | 手掌特征识别方法、手掌特征识别设备、及存储介质 |
CN108197577B (zh) * | 2018-01-08 | 2021-11-12 | 安徽大学 | 联合Sobel和MFRAT的指静脉图像特征提取方法 |
CN109829383B (zh) * | 2018-12-29 | 2024-03-15 | 平安科技(深圳)有限公司 | 掌纹识别方法、装置和计算机设备 |
CN109871779B (zh) * | 2019-01-23 | 2020-11-03 | 北京细推科技有限公司 | 掌纹识别的方法及电子设备 |
CN112288660B (zh) * | 2020-12-25 | 2021-04-13 | 四川圣点世纪科技有限公司 | 基于nmrt方向特征约束的静脉图像修复方法及装置 |
CN117058723B (zh) * | 2023-10-11 | 2024-01-19 | 腾讯科技(深圳)有限公司 | 掌纹识别方法、装置及存储介质 |
CN117475539B (zh) * | 2023-12-28 | 2024-04-12 | 深圳市盛思达通讯技术有限公司 | 一种基于掌纹识别的门禁管理方法及系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2004029862A1 (en) * | 2002-09-25 | 2004-04-08 | The Hong Kong Polytechnic University | Method and apparatus for palmprint identification |
JP2006012196A (ja) * | 2005-09-20 | 2006-01-12 | Nec Corp | 変形推定方法、変形推定装置及び変形推定プログラム |
CN1971582A (zh) * | 2005-11-24 | 2007-05-30 | 中国科学院自动化研究所 | 一种基于掌纹图像识别的身份鉴别方法 |
-
2007
- 2007-06-21 CN CNB2007101112894A patent/CN100458832C/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2004029862A1 (en) * | 2002-09-25 | 2004-04-08 | The Hong Kong Polytechnic University | Method and apparatus for palmprint identification |
JP2006012196A (ja) * | 2005-09-20 | 2006-01-12 | Nec Corp | 変形推定方法、変形推定装置及び変形推定プログラム |
CN1971582A (zh) * | 2005-11-24 | 2007-05-30 | 中国科学院自动化研究所 | 一种基于掌纹图像识别的身份鉴别方法 |
Also Published As
Publication number | Publication date |
---|---|
CN101055618A (zh) | 2007-10-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN100458832C (zh) | 基于方向特征的掌纹识别方法 | |
Zhang et al. | Online palmprint identification | |
CN104123537B (zh) | 一种基于手形和掌纹识别的快速身份验证方法 | |
Sun et al. | Improving iris recognition accuracy via cascaded classifiers | |
Wu et al. | A secure palm vein recognition system | |
Kumar et al. | Personal authentication using hand images | |
Kong et al. | Palmprint feature extraction using 2-D Gabor filters | |
CN100557624C (zh) | 基于多部件多特征融合的人脸识别方法 | |
Wu et al. | Wavelet energy feature extraction and matching for palmprint recognition | |
Yang et al. | Fingerprint verification based on invariant moment features and nonlinear BPNN | |
Matin et al. | Weighted score level fusion of iris and face to identify an individual | |
Al-Juboori et al. | Biometric authentication system based on palm vein | |
CN103593660B (zh) | 一种稳定特征图像下交叉梯度编码的掌纹识别方法 | |
Rani et al. | Finger knuckle print recognition techniques—a survey | |
Shen et al. | Hand-based biometrics fusing palmprint and finger-knuckle-print | |
Rahman et al. | A simple and effective technique for human verification with Hand Geometry | |
Adeyemo et al. | Adaptive SIFT/SURF algorithm for off-line signature recognition | |
Anwar et al. | Multibiometric systems based verification technique | |
Noor | A new algorithm for minutiae extraction and matching in fingerprint | |
Meraoumia et al. | 2D and 3D palmprint information and hidden Markov model for improved identification performance | |
Nath et al. | Fingerprint recognition system: design & analysis | |
Hayfron-Acquah et al. | Classification and recognition of fingerprints using self organizing maps (SOM) | |
Thul et al. | Sum rule based matching score level fusion of fingerprint and Iris images for multimodal biometrics identification | |
Yang et al. | Fingerprint matching using invariant moment features | |
Dehghani et al. | Retinal identification based on rotation invariant moments |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20090204 Termination date: 20150621 |
|
EXPY | Termination of patent right or utility model |