CN103226699A - 一种基于分离度差有监督局部保持投影的人脸识别方法 - Google Patents
一种基于分离度差有监督局部保持投影的人脸识别方法 Download PDFInfo
- Publication number
- CN103226699A CN103226699A CN2013101319128A CN201310131912A CN103226699A CN 103226699 A CN103226699 A CN 103226699A CN 2013101319128 A CN2013101319128 A CN 2013101319128A CN 201310131912 A CN201310131912 A CN 201310131912A CN 103226699 A CN103226699 A CN 103226699A
- Authority
- CN
- China
- Prior art keywords
- class
- matrix
- degree
- face
- separation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Image Analysis (AREA)
Abstract
本发明涉及的是一种生物特征身份识别领域,特别涉及一种基于分离度差有监督局部保持投影的人脸识别方法。本发明包括以下步骤:从人脸库中读取人脸图像;对人脸图像进行特征提取,形成人脸特征;对人脸区域图像进行特征提取,从而获得特征提取所需变换矩阵和训练人脸图像的特征;针对测试人脸图像进行特征提取,并通过基于欧氏距离的最近邻分类器进行分类识别。本发明避免了人脸识别中的小样本问题,同时也使得有监督局部保持投影方法不再受限于PCA过程保留特征维数。避免了由于小样本导致的类内分离度矩阵奇异的问题和难以选取PCA与SLPP最优匹配维数的问题。
Description
技术领域
本发明涉及的是一种生物特征身份识别领域,特别涉及一种基于分离度差有监督局部保持投影的人脸识别方法。
背景技术
局部保持投影(Locality Preserving Projection,LPP)是一种局部线性特征提取方法,作为拉普拉斯特征映射的线性近似,它能够提取反映高维样本非线性流形的低维特征,同时也能够处理训练样本外的数据。局部保持投影本质上是一种无监督降维,并不能充分利用训练样本的类别信息(He X,Niyogi P.Locality preserving projections[J].Advances in Neural InformationProcessing Systems.2003,16:153-160)。
申中华等则从保留类内局部结构和类间分离度的角度出发提出一种有监督的局部保留投影方法(Supervised Locality Preserving Projection,SLPP),在一定程度上提高了局部保持投影方法的性能,但该方法确定的目标函数为Rayleigh商形式,其求解过程类似于传统的Fisher准则,因此,在人脸识别等小样本应用中,会遇到类内分离度矩阵奇异的问题,一般的解决思路是采用PCA和SLPP相结合,但降维过程中SLPP保留特征的维数将严重受限于PCA过程中所保留的特征维数(申中华,潘永惠,王士同.有监督的局部保留投影降维算法[J],模式识别与人工智能,2008,21(2):233-239.)。
发明内容
本发明的目的在于提供一种能够有效避免有监督局部保持投影在小样本情况下导致类内分离度矩阵奇异的特征提取人脸识别方法。
本发明的目的是这样实现的:
本发明包括以下步骤:
(1)从人脸库中读取人脸图像;
(2)对人脸图像进行特征提取,形成人脸特征;
(3)对人脸区域图像进行特征提取,从而获得特征提取所需变换矩阵和训练人脸图像的特征:
1)定义类内分离度矩阵为GW=XLWXT,类内分离度JW=aTXLWXTa=aTGWa和类间分离度矩阵为GB=XLBXT,类间分离度JB=aTXLBXTa=aTGBa,其中a为所求的投影向量,若W为类内相似度矩阵,LW为通过W求取的类内拉普拉斯矩阵,X为高维欧氏空间中的训练样本,B为类间相似度矩阵,LB为通过B求取的类间拉普拉斯矩阵;
2)构造出差模式的目标函数参数η为非负的可调因子;
3)求解广义分离度差矩阵(GB-ηGW)的特征值和特征向量确定出最优的投影轴;
(4)针对测试人脸图像进行特征提取,并通过基于欧氏距离的最近邻分类器进行分类识别。
本发明的有益效果在于:本发明采用基于差模式的目标函数代替基于Rayleigh商形式的目标函数,避免了人脸识别中的小样本问题,同时也使得有监督局部保持投影方法不再受限于PCA过程保留特征维数。避免了由于小样本导致的类内分离度矩阵奇异的问题和难以选取PCA与SLPP最优匹配维数的问题。
附图说明
图1为基于分离度差有监督局部保持投影的人脸识别流程图;
图2为部分训练样本图像;
图3为部分测试样本图像;
图4为Yale人脸库上的实验结果比较示意图;
图5为ORL人脸库上的实验结果比较示意图;
具体实施方式
下面结合附图对本发明作进一步描述:
一种基于分离度差有监督局部保持投影的人脸识别方法,首先需要从人脸数据库中读取人脸图像,然后针对人脸区域图像进行特征提取,最后通过最近邻分类完成人脸识别。
1、读取人脸图像
结合图2和图3,本发明使用了2个人脸数据库,Yale人脸库,ORL人脸库。Yale人脸库包含了15个人的165幅照片,每个人由11幅照片所构成,为256级灰度,这些照片在不同表情和光照等条件下拍摄,其分辨率为100×100。实验中使用每人的前6幅图像作为训练样本,共90幅,剩余75幅图像作为测试样本。
ORL人脸数据库,包括40个人,每人10幅,共400幅人脸图像,图像为256级灰度,分辨率为112×92(宽×高)像素。拍摄于不同时间,采用统一的黑色均匀背景,一定范围内存在光照、面部表情变化(睁眼或者闭眼、微笑或者严肃)以及脸部细节变化(如是否戴眼镜)。所有的照片都是正面直立的,允许一定角度的头部倾斜和旋转。实验中使用每人的前5幅图像作训练样本,共200幅,剩余200幅图像用于测试。
2、人脸特征提取方法
2.1、局部保持投影(LPP)
假设在高维欧氏空间RD中存在样本X=[x1,x2L,xN],其中N为样本的个数,D为样本的维数。局部保持投影的目标是寻找变换矩阵a,可将样本X映射到一个相对低维数的特征空间Rd,其中维数d<<D,如公式(1):
xi→yi=aTxi,i=1,2L N (1)
其中yi为降维之后的向量。
假设局部保持投影的相似度矩阵为W,最小化目标函数为:
其中,wij是相似度矩阵W中的元素。最小化的目的是使高维空间中xi和xj相近时,经过变换得到的低维yi和yj也是相近的。目标函数可修改为如下形式:
为保证a≠0加入约束条件,则最终可转化为求特征值、特征向量问题:
XLXTa=λXDXTa (4)
其中λ为式(4)的特征值,a为与特征值相对应的特征向量。将前d个最小特征值按逆序排列,得到其相应的特征向量依次为a1,a2,L ad,它们组成了变换矩阵a=[a1,a2,L ad],降维过程就可表示为xi→yi=aTxi,其中yi是d维向量。
2.2、有监督局部保持投影(SLPP)
有监督局部保持投影在保持类内局部结构的情况下,同时考虑使类间样本在低维空间中的分离程度达到最大。
类内相似度矩阵:对于任意数据点,只在其同类数据点中进行近邻搜索,类内近邻点xi与xj之间的相似程度为Wij,则所有Wij构成的矩阵W称为类内相似度矩阵。
类间相似度矩阵:对于任意数据点,只在其不同类的数据点中进行近邻搜索,xi与xj之间的相似程度为Bij,所有元素Bij构成的矩阵B称为类间相似度矩阵。
有监督局部保持投影的思想为:对于投影之后相距较远的类内近邻点引入一个大的惩罚,这样通过使得类内结构得到保留,分离程度达到最小;对于投影后相距较近的类间近邻点引人一个小的惩罚,这样通过使得类间样本分离程度达到最大。其目标函数为:
假设a为所求的投影向量,则yT=aTX,则目标函数可变为:
其中,X=[x1,L xm]。DB和DW是对角矩阵,是类间相似度矩阵Bij第i行或第i列的和,即而是类内相似度矩阵Wij第i行或第i列的和,即LB=DB-B为类间拉普拉斯矩阵,LW=DW-W为类内拉普拉斯矩阵。最终,公式(5)可转化为广义特征值问题,特征方程为:
XLBXTa=λXLWXTa (7)
通过求解上述方程的最大特征值对应的特征向量可确定最优的投影向量。
2.3、基于分离度差的有监督局部保持投影(SDDSLPP)
有监督局部保持投影的目标函数为Rayleigh商形式,对于人脸识别等小样本问题必然会遇到XLWXT为奇异的困难,因此需要在对样本进行有监督局部保持投影之前做PCA降维操作,这样不可避免的使有监督局部保持投影保留特征的维数受到了前期降维操作的影响,很难确定有监督局部保持投影过程中最优投影轴的个数。
鉴于上述问题,本发明提出一种基于分离度差的有监督局部保持投影特征提取方法。首先提出类内分离度矩阵和类间分离度矩阵的概念,并以这两个矩阵为基础构造出差模式的目标函数,最终通过求解广义分离度差矩阵的特征值和特征向量确定出最优的投影轴。该方法能够避免小样本问题的出现。
若W为类内相似度矩阵,LW为通过W求取的类内拉普拉斯矩阵,则类内分离度矩阵GW=XLWXT,类内分离度JW=aTXLWXTa=aTGWa,它反映了样本类内结构的保持程度,类内分离程度越小表明在低维空间样本的类内结构得到更好地保持。
若B为类间相似度矩阵,LB为通过B求取的类间拉普拉斯矩阵,则类间分离度矩阵GB=XLBXT,类间分离度JB=aTXLBXTa=aTGBa,类间分离度越大表明不同类间的样本在低维空间相距较远。
与有监督局部保持投影的思想相同,需要最小化类内分离度且最大化类间分离度。本发明提出的基于分离度差的有监督局部保持投影,其目标函数最终表达形式为:
其中,矩阵(GB-ηGW)称为广义分离度差矩阵,参数η为非负的可调因子,用于调整最大化GB=XLBXT和最小化GW=XLWXT。另外,加入约束条件||a||=1,则公式(8)达到最大值的投影方向等价于求解一个二次规划问题:
J(a)=aT(GB-ηGW)a的最优投影方向为矩阵(GB-ηGW)的最大特征值对应的特征向量。对于多类分类问题,需要保留多个投影方向,因此需要保留前d个最大特征值对应的特征向量作为最终的投影方向,即a=[a1,L ad]。降维过程就可表示为xi→yi=aTxi,其中yi是降维后的向量。
下面给出该方法的具体步骤:
步骤1:建立邻接关系图。分别构建类内邻接图和类间邻接图,采用k近邻方法。类内邻接图:当点xi属于点xj或点xj属于点xi的k个类内近邻之一时,点xi和点xj相互连接。类间邻接图:当点xi属于点xj或点xj属于点xi的k个类间近邻之一时,点xi和点xj相互连接。
步骤2:构建相似度矩阵。分别构建类内相似度矩阵和类间相似度矩阵。
类内相似度Wij,对于类内邻接图有:
类间相似度Bij,对于类间邻接图有:
其中参数t为所有样本数据点之间的距离的平均值。
步骤3:计算矩阵GW和矩阵GB。
步骤4:选定合适的参数η,计算矩阵(GB-ηGW)。
步骤5:求解矩阵(GB-ηGW)的前d个最大特征值λ1>λ2>L λd对应的特征向量a1,a2,L ad,即投影矩阵a=[a1,L ad]。
降维以后的结果为:
xi→yi=aTxi a=[a1,a2,L ad] (10)
其中,xi为原始n维空间向量,yi为将xi映射到d维低维空间后的向量,而a为一个n×d的矩阵。
3、测试人脸的分类识别过程
测试过程:
(1)首先需要从测试库中提取人脸图像T。
(2)分别采用训练过程获得的变换矩阵a=[a1,L ad]对图像T进行变换,获得结果为Ty=aTT。
(3)将测试图像的特征Ty与训练样本特征计算欧式距离,采用最近邻分类得出分类结果。
通过实验说明本发明的有效性:
为更好地验证本发明提出方法的有效性,将局部保持投影、有监督局部保持投影进行了实验比较。结合图4和图5分别给出了不同人脸库上各方法的特征最终保留维数和最优识别效果。
通过实验数据分析可知,局部保持投影识别率较低,这是由于该方法属于无监督学习方法,未能充分利用样本的类别信息。有监督局部保持投影属于有监督学习方法,它使得识别效果得到一定程度的改善,但是其最优识别效果需要在PCA和SLPP维数达到最佳匹配的情况下才能实现,而这种最佳匹配的获得需要进行大量的对比实验。
本发明提出的一种基于分离度差有监督局部保持投影的人脸识别方法,将基于Rayleigh商形式的准则函数改进为基于差形式的准则函数,避免了由于小样本导致的类内分离度矩阵奇异的问题和难以选取PCA与SLPP最优匹配维数的问题,而且识别效果较已有方法有一定程度的改善。对比实验也证明了本发明所提出方法的有效性。
Claims (1)
1.一种基于分离度差有监督局部保持投影的人脸识别方法,其特征在于,包括以下步骤:
(1)从人脸库中读取人脸图像;
(2)对人脸图像进行特征提取,形成人脸特征;
(3)对人脸区域图像进行特征提取,从而获得特征提取所需变换矩阵和训练人脸图像的特征:
1)定义类内分离度矩阵为GW=XLWXT,类内分离度JW=aTXLWXTa=aTGWa和类间分离度矩阵为GB=XLBXT,类间分离度JB=aTXLBXTa=aTGBa,其中a为所求的投影向量,若W为类内相似度矩阵,LW为通过W求取的类内拉普拉斯矩阵,X为高维欧氏空间中的训练样本,B为类间相似度矩阵,LB为通过B求取的类间拉普拉斯矩阵;
3)求解广义分离度差矩阵(GB-ηGW)的特征值和特征向量确定出最优的投影轴;
(4)针对测试人脸图像进行特征提取,并通过基于欧氏距离的最近邻分类器进行分类识别。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310131912.8A CN103226699B (zh) | 2013-04-16 | 2013-04-16 | 一种基于分离度差有监督局部保持投影的人脸识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310131912.8A CN103226699B (zh) | 2013-04-16 | 2013-04-16 | 一种基于分离度差有监督局部保持投影的人脸识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103226699A true CN103226699A (zh) | 2013-07-31 |
CN103226699B CN103226699B (zh) | 2016-06-29 |
Family
ID=48837140
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310131912.8A Active CN103226699B (zh) | 2013-04-16 | 2013-04-16 | 一种基于分离度差有监督局部保持投影的人脸识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103226699B (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104616000A (zh) * | 2015-02-27 | 2015-05-13 | 苏州大学 | 一种人脸识别方法和装置 |
CN105389560A (zh) * | 2015-11-13 | 2016-03-09 | 东北师范大学 | 基于局部约束的图优化维数约简方法 |
CN105654070A (zh) * | 2016-02-04 | 2016-06-08 | 山东理工大学 | 一种低分辨率人脸识别方法 |
CN105678261A (zh) * | 2016-01-07 | 2016-06-15 | 西安电子科技大学 | 基于有监督图的直推式数据降维方法 |
CN106960216A (zh) * | 2017-02-24 | 2017-07-18 | 北京农业智能装备技术研究中心 | 一种农机作业机具类型的识别方法和装置 |
CN108121965A (zh) * | 2017-12-21 | 2018-06-05 | 深圳大学 | 基于鲁棒联合稀疏特征提取的图像识别方法 |
CN108573235A (zh) * | 2018-04-20 | 2018-09-25 | 天津科技大学 | 多方向权重优化的紧凑图结构人脸特征提取算法 |
CN113806706A (zh) * | 2021-09-22 | 2021-12-17 | 神谱科技(上海)有限公司 | 一种基于秘密分享的隐私保护人脸核验系统 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050123202A1 (en) * | 2003-12-04 | 2005-06-09 | Samsung Electronics Co., Ltd. | Face recognition apparatus and method using PCA learning per subgroup |
CN102982322A (zh) * | 2012-12-07 | 2013-03-20 | 大连大学 | 基于pca图像重构和lda的人脸识别方法 |
-
2013
- 2013-04-16 CN CN201310131912.8A patent/CN103226699B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050123202A1 (en) * | 2003-12-04 | 2005-06-09 | Samsung Electronics Co., Ltd. | Face recognition apparatus and method using PCA learning per subgroup |
CN102982322A (zh) * | 2012-12-07 | 2013-03-20 | 大连大学 | 基于pca图像重构和lda的人脸识别方法 |
Non-Patent Citations (4)
Title |
---|
GUI-FU LU ET AL: "face recognition using discriminant locality preserving projections based on maximum margin criterion", 《PATTERN RECOGNITION》 * |
王勇,卢桂馥: "基于最大间距MFA的鉴别分析", 《光电工程》 * |
申中华 等: "有监督的局部保留投影降维算法", 《模式识别与人工智能》 * |
高全学 等: "融合局部结构和差异信息的监督特征提取算法", 《自动化学报》 * |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104616000A (zh) * | 2015-02-27 | 2015-05-13 | 苏州大学 | 一种人脸识别方法和装置 |
CN104616000B (zh) * | 2015-02-27 | 2018-08-07 | 苏州大学 | 一种人脸识别方法和装置 |
CN105389560A (zh) * | 2015-11-13 | 2016-03-09 | 东北师范大学 | 基于局部约束的图优化维数约简方法 |
CN105389560B (zh) * | 2015-11-13 | 2018-05-11 | 东北师范大学 | 基于局部约束的图优化维数约简方法 |
CN105678261A (zh) * | 2016-01-07 | 2016-06-15 | 西安电子科技大学 | 基于有监督图的直推式数据降维方法 |
CN105678261B (zh) * | 2016-01-07 | 2019-03-26 | 西安电子科技大学 | 基于有监督图的直推式数据降维方法 |
CN105654070A (zh) * | 2016-02-04 | 2016-06-08 | 山东理工大学 | 一种低分辨率人脸识别方法 |
CN106960216A (zh) * | 2017-02-24 | 2017-07-18 | 北京农业智能装备技术研究中心 | 一种农机作业机具类型的识别方法和装置 |
CN108121965A (zh) * | 2017-12-21 | 2018-06-05 | 深圳大学 | 基于鲁棒联合稀疏特征提取的图像识别方法 |
CN108121965B (zh) * | 2017-12-21 | 2020-04-21 | 深圳大学 | 基于鲁棒联合稀疏特征提取的图像识别方法 |
CN108573235A (zh) * | 2018-04-20 | 2018-09-25 | 天津科技大学 | 多方向权重优化的紧凑图结构人脸特征提取算法 |
CN113806706A (zh) * | 2021-09-22 | 2021-12-17 | 神谱科技(上海)有限公司 | 一种基于秘密分享的隐私保护人脸核验系统 |
Also Published As
Publication number | Publication date |
---|---|
CN103226699B (zh) | 2016-06-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103226699A (zh) | 一种基于分离度差有监督局部保持投影的人脸识别方法 | |
Jiang et al. | SuperPCA: A superpixelwise PCA approach for unsupervised feature extraction of hyperspectral imagery | |
CN106599797B (zh) | 一种基于局部并行神经网络的红外人脸识别方法 | |
Fan et al. | Learning deep face representation | |
CN103150580B (zh) | 一种高光谱图像半监督分类方法及装置 | |
CN101777131B (zh) | 双模人脸识别方法及装置 | |
CN101419671B (zh) | 基于模糊支持向量机的人脸性别识别方法 | |
Yang et al. | Privileged information-based conditional regression forest for facial feature detection | |
Cui et al. | Locality preserving genetic algorithms for spatial-spectral hyperspectral image classification | |
Xiao et al. | Coupled feature selection for cross-sensor iris recognition | |
CN102262729B (zh) | 基于集成学习的混合融合人脸识别方法 | |
CN106778512A (zh) | 一种基于lbp和深度学校的非限制条件下人脸识别方法 | |
CN103268485A (zh) | 基于稀疏正则化的实现多波段人脸图像信息融合的人脸识别方法 | |
CN112052772A (zh) | 一种人脸遮挡检测算法 | |
Feng et al. | Marginal stacked autoencoder with adaptively-spatial regularization for hyperspectral image classification | |
CN106127228A (zh) | 一种基于决策模板分类器融合的遥感图像船舶检测候选区鉴别方法 | |
CN104966075B (zh) | 一种基于二维判别特征的人脸识别方法与系统 | |
CN105608443B (zh) | 一种多特征描述及局部决策加权的人脸识别方法 | |
CN105678342B (zh) | 基于联合偏度的玉米种子高光谱图像波段选择方法 | |
Zhang et al. | Category modeling from just a single labeling: Use depth information to guide the learning of 2d models | |
Kumar et al. | Multiclass support vector machine based plant leaf diseases identification from color, texture and shape features | |
Dos Santos et al. | Extending face identification to open-set face recognition | |
Ni et al. | Multi-task deep metric learning with boundary discriminative information for cross-age face verification | |
Omara et al. | LDM-DAGSVM: learning distance metric via DAG support vector machine for ear recognition problem | |
CN112241680A (zh) | 基于静脉相似图像知识迁移网络的多模态身份认证方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |