CN1936924A - 基于统计不相关和正交特性的局部保留映射人脸识别方法 - Google Patents
基于统计不相关和正交特性的局部保留映射人脸识别方法 Download PDFInfo
- Publication number
- CN1936924A CN1936924A CN 200610117047 CN200610117047A CN1936924A CN 1936924 A CN1936924 A CN 1936924A CN 200610117047 CN200610117047 CN 200610117047 CN 200610117047 A CN200610117047 A CN 200610117047A CN 1936924 A CN1936924 A CN 1936924A
- Authority
- CN
- China
- Prior art keywords
- phi
- matrix
- projection
- uncorrelated
- vector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Image Analysis (AREA)
Abstract
一种图像处理技术领域的基于统计不相关和正交特性的局部保留映射人脸识别方法。本发明首先对输入训练样本图像进行主成分分析,得到主成分分析的投影矩阵;然后建立一个连接图,得到任意两个节点之间的相似性,并按照最近邻原则,确定所有节点的邻接点,计算出输入数据的相似矩阵;再将这一相似矩阵应用到局部保留映射方法中,加入统计不相关和正交两个约束条件,采用叠代算法,根据特征值问题并结合主成分分析的投影矩阵求出不相关且正交的投影矩阵,得出训练投影系数矩阵和测试投影系数矩阵;最后再用最小距离方法进行识别。本发明具有最小的冗余,并有利于实现原始数据的重构,应用到人脸识别中,可以提高识别性能。
Description
技术领域
本发明涉及一种图像处理技术领域的方法,具体是一种基于统计不相关和正交特性的局部保留映射人脸识别方法。可用于视频监控系统、自动门卫系统、军事目标跟踪识别系统等各类民用及军用系统中。
背景技术
人脸识别技术已经成为当今研究的热点。该项技术已成功应用于身份鉴别、人机界面、自动取款机、视频监控等领域。目前人脸识别的难点主要是人脸在发生光照、肤色、表情、姿态等变化情况下,识别精度比较低。
作为人脸识别关键环节之一的特征提取方法,就是将原始的高维数据映射到一个低维的特征空间。该技术已经成为机器学习和模式识别的一个研究热点。常用的特征提取方法可分为两类:基于全局几何结构的分析方法和基于局部结构信息的分析方法。在基于全局几何结构的分析法中,主成分分析方法(PCA)是一种经典的特征提取和数据表出技术,它保留了原始数据空间的全局结构,而且投影矩阵任意两个互异的基向量是统计不相关且正交的。不相关和正交性是模式识别中两个非常重要的特性。不相关能使数据具有最小的冗余,而正交性可以保持人脸空间的度量结构,实现原始数据的重构。局部保留映射方法(LPP)基于数据的局部结构分析,是最近发展的一种线性的特征提取方法,算法简单且易于实现。局部保留映射方法只保留原始数据空间的局部信息,而在人脸识别中,局部信息起到了非常重要的作用。
经对现有技术文献的检索发现,X.He等人在《IEEE Trans.on PatternAnalysis and Machine Intelligence》(模式分析与机器智能IEEE杂志,2005,vol.27,no.3,pp.328-340)上发表“Face Recognition Using Laplacianfaces”(基于拉普拉斯脸的人脸识别方法)。该文首先提出了利用局部保留映射的特征提取方法进行人脸识别。文章通过实验说明,该方法能够得到优于主成分分析的识别结果。但是,局部保留映射方法的投影矩阵基向量是统计相关和非正交的,因此提取的特征含有冗余,交迭的信息会导致特征的实际分布发生歪曲,而且非正交的特征也不利于原始数据的重构,这两个缺点严重影响了局部保留映射算法的性能。迄今为止,还没有人提出能够同时满足统计不相关和正交特性的局部保留映射方法。
发明内容
本发明的目的在于克服现有局部保留映射方法的不足,提供一种基于统计不相关和正交特性的局部保留映射人脸识别方法,使其用于人脸识别,能够提高人脸识别的精度。
本发明是通过以下技术方案实现的,本发明建立一个连接图,得到任意两个节点的相似性,在相似性中按照最近邻原则,确定所有节点的邻接点,得到输入数据的相似矩阵,并计算出对角矩阵和拉普拉斯矩阵;再将这一相似矩阵应用到局部保留映射方法中,加入统计不相关和正交两个约束条件,采用迭代算法,根据特征值问题求出不相关且正交的投影矩阵,得到训练投影系数矩阵和测试投影系数矩阵,最后进行识别。由于人脸图像是稀疏超高维向量,其维数远远高于人脸的图片数,为保证数据矩阵非奇异,在上述技术方案前还必须对输入数据先进行主成分分析。本发明应用到FERET/ORL数据库中,获得了比其它几种特征提取算法(主成分分析法、局部保留映射法、不相关的局部保留映射法、正交拉普拉斯脸算法)更好的识别性能。
以下对本发明方法作进一步的说明,具体步骤如下:
第一步,主成分分析:将每张人脸图像表示为一个列向量,组成训练样本集,计算训练样本集的协方差矩阵的特征值,并选取大的特征值对应的特征向量作为基向量,从而构成主成分分析的投影矩阵;
第二步,相似矩阵确定:建立一个连接图,使得属于同一类的节点完全连接,得到任意两个节点的相似性,再根据最近邻原则,求出输入节点的相似矩阵,并由这一相似矩阵推出对角矩阵和拉普拉斯矩阵;
第三步,统计不相关且正交的局部保留映射投影矩阵确定:根据第二步中得到的相似矩阵,再根据局部保留映射的思想,并加入统计不相关和正交两个约束条件,采用迭代算法,解特征值问题求出投影矩阵,最后再将此投影矩阵与第一步中得到的主成分分析投影矩阵相乘,求出不相关且正交的局部保留映射投影矩阵;
第四步,识别:将所有训练图像向量投影到第三步中得到的投影矩阵,得到训练系数矩阵,再将测试图像投影到投影矩阵,得到测试系数矩阵,采用最小距离分类器进行分类识别。
本发明同传统的局部保留映射方法相比,能够在保留原始数据空间的局部信息的同时,使提取的特征满足统计不相关和正交性,从而具有最小的冗余,并有利于实现原始数据的重构,应用到人脸识别中,可以提高识别性能。本发明可应用于视频监控系统、视频会议系统、军事目标跟踪识别系统等各类民用及军用系统中,具有广阔的市场前景和应用价值。
附图说明
图1为本发明方法总体框图。
图2为本发明与其它几种特征提取算法的识别率比较,其中横坐标为特征值的维数,纵坐标为识别率。
具体实施方式
为了更好地理解本发明的技术方案,以下结合附图对本发明的实施方式作进一步描述。
如图1所示,首先通过主成分分析,计算主成分分析的投影矩阵,然后计算出相似矩阵,根据相似矩阵解特征值问题求出投影矩阵,再联合主成分分析的投影矩阵得到统计不相关且正交的局部保留映射投影矩阵,最后将训练图像和测试图像都投影到投影矩阵中,得到训练系数矩阵和测试系数矩阵,利用最小距离分类器进行识别。各部分具体实施细节如下:
1.主成分分析
令人脸图Γ(x,y)为一个2维的N×N矩阵,它同时也可以表示为一个N2的向量Γn。令训练库的人脸图为Γ1,Γ2,Γ3,…,ΓM。库中人脸的平均值定义为
每张人脸与平均值的差值为Φn=Γn-Ψ。协方差矩阵由下式确定
其中矩阵A=[Φ1,Φ2,…,ΦM],投影矩阵可以通过计算C的特征向量un得到。
仅取前M′个最大特征值对应的特征向量构成投影矩阵,这样,特征向量的数目由M降为M′。令主成分分析的投影矩阵为ΦPCA,则一张新的人脸图Γ可由下式映射得到它的特征元向量
2.相似矩阵的确定
在训练样本集{Γ1,Γ2,…,ΓM}中,M为训练数据的个数,令每一训练数据代表一个节点,并假设每一节点的邻接点个数为K,建立一个连接图,使得属于同一类的节点完全连接,任意两个节点的相似性可以表示成:
相似性Sij反映了两个节点的相似程度。在相似性中按照最近邻原则,找出所有节点的近邻节点,得到输入数据的相似矩阵Wij,Wij可以表示为:
最后,再根据相似矩阵W,分别计算出对角矩阵D和拉普拉斯矩阵L:
D=diag(Dii) (6)
L=D-W (7)
其中
3.统计不相关且正交的局部保留映射投影矩阵的确定
设训练样本集X={x1,x2,…,xM},SL=XLXT,SD=XDXT,I=diag(1,1,...,1),协方差矩阵ST=E[(X-EX)(X-EX)T],Φ=[φ1,φ2,...,φk]为投影矩阵,并定义
Φk-1=[φ1,φ2,...,φk-1] (8)
局部保留映射方法的目标函数是:
其中,yi是节点xi对应于低维空间的投影结果。通过一些简单的几何知识,上述目标函数可化为如下的最小化问题:
满足最小化目标函数的投影矩阵可以转化为一般的特征值问题:
XLXTФ=λXDXTФ (11)
为了得到不相关且正交的投影向量φk,在式(11)的基础上增加统计不相关和正交两个约束:
由于φk是归一化的向量,满足
,则局部保留映射又增加了一个约束:
采用拉格朗日乘子法,联合式(11)~(13)进行求解,问题等价于求φk使下述函数取到最大值:
关于φk求导数,并令导数为零,可得到:
在式(15)的两边左乘上φk T,利用式(12)的约束,可知后两项为零,于是可解得:
问题就是要使λ取到最大值。
再在式(15)的两边分别左乘上φj TSTSD -1和φj TSD -1,推导整理可得:
其中j=1,2,...,k-1。
设μ=[μ1,μ2,...,μk-1],γ=[γ1,γ2,...,γk-1],则式(17)和(18)可表示成:
联合式(19)和(20)求出μ和γ,并根据
式(15)进一步表示为:
2SLφk-2λSDφk-STΦk-1γ-Φk-1μ=0 (21)
将γ和μ的解代入式(21),并经过一系列数学推导和整理,最终,不相关且正交的投影向量φk可按照如下步骤迭代计算:
(a)计算矩阵SD -1SL的特征值,并选取最小特征值对应的特征向量作为投影向量φ1。
(b)求解如下特征方程(式(22))的特征值,并取最小特征值对应的特征向量作为不相关且正交的投影向量φk。
R(k)SLφ=λSDφ (22)
其中
R(k)=I-STΦk-1M-1N-Φk-1P-1Q (23)
最后,令投影矩阵Φ*=[φ1,φ2,...,φd],联合步骤(1)得到的主成分分析的投影矩阵ΦPCA,则统计不相关且正交的局部保留映射投影矩阵ΦUOLPP可表示为:
ΦUOLPP=ΦPCAΦ* (28)
设x为测试图像,则测试图像在投影矩阵中的投影系数向量可表示为:
4.识别
将训练图像和测试图像分别投影到投影矩阵中,得到训练系数矩阵和测试系数矩阵。采用最小距离分类器,即可获得识别结果。
实验选用FERET人脸数据库,从中选取了72个对象,每个对象有6张图像。实验中,分别在每个对象中随机选取Num张(Num=2,3,4,5)图像创建训练库,并用剩余的图像组成相应的测试库。在每个训练库和相应的测试库上都重复实验20次,并取平均值作为识别结果。
图2显示了主成分分析法(PCA)、拉普拉斯脸算法(局部保留映射法,LPP)、不相关的局部保留映射法(ULPP)、正交的拉普拉斯脸算法(OLPP)以及本发明提出的算法(UOLPP)在FERET数据库中的识别结果(取Num=3)。从图中可看出,本发明提出的UOLPP方法明显优于其它几种特征提取算法,能获得更具判别性的特征,应用到人脸识别中,可以提高识别性能。
Claims (3)
1、一种基于统计不相关和正交特性的局部保留映射人脸识别方法,其特征在于,具体步骤如下:
第一步,主成分分析:将每张人脸图像表示为一个列向量,组成训练样本集,计算训练样本集的协方差矩阵的特征值,并选取大的特征值对应的特征向量作为基向量,从而构成主成分分析的投影矩阵;
第二步,相似矩阵确定:建立一个连接图,使得属于同一类的节点完全连接,得到任意两个节点的相似性,再根据最近邻原则,求出输入节点的相似矩阵,并由这一相似矩阵推出对角矩阵和拉普拉斯矩阵;
第三步,统计不相关且正交的局部保留映射投影矩阵确定:根据第二步中得到的相似矩阵,再根据局部保留映射的思想,并加入统计不相关和正交两个约束条件,采用迭代算法,解特征值问题求出投影矩阵,最后再将此投影矩阵与第一步中得到的主成分分析投影矩阵相乘,求出不相关且正交的局部保留映射投影矩阵;
第四步,识别:将所有训练图像向量投影到第三步中得到的投影矩阵,得到训练系数矩阵,再将测试图像投影到投影矩阵,得到测试系数矩阵,采用最小距离分类器进行分类识别。
2、根据权利要求1所述的基于统计不相关和正交特性的局部保留映射人脸识别方法,其特征是,所述第二步,具体实现如下:
设训练样本集{Γ1,Γ2,…,ΓM},M为训练数据的个数,令每一训练数据代表一个节点,并假设每一节点的邻接点个数为K,建立一个连接图,使得属于同一类的节点完全连接,则任意两个节点的相似性表示成:
在相似性中按照最近邻原则,找出所有节点的近邻节点,得到输入数据的相似矩阵Wij,Wij表示为:
最后,再根据相似矩阵W,分别计算出对角矩阵D和拉普拉斯矩阵L:
D=diag(Dii)
L=D-W
其中
3、根据权利要求1所述的基于统计不相关和正交特性的局部保留映射人脸识别方法,其特征是,所述第三步,具体实现如下:
根据求得的相似矩阵Wij,对角矩阵D和拉普拉斯矩阵L,设训练样本集X={x1,x2,…,xM},SL=XLXT,SD=XDXT,I=diag(1,1,...,1),协方差矩阵ST=E[(X-EX)(X-EX)T],Φ=[φ1,φ2,...,φk]为投影矩阵,并定义
Φk-1=[φ1,φ2,...,φk-1]
局部保留映射方法的目标函数是:
其中,yi是节点xi对应于低维空间的投影结果,通过几何知识,满足最小化目标函数的投影矩阵最终转化为一般的特征值问题:
XLXTΦ=λXDXTΦ
为了得到不相关且正交的投影向量φk,在式XLXTΦ=λXDXTΦ的基础上增加统计不相关和正交两个约束:
由于φk是归一化的向量,满足
则局部保留映射又增加了一个约束:
采用拉格朗日乘子法,联合以上公式进行求解,统计不相关且正交的投影向量φk,按照如下步骤迭代计算:
a.计算矩阵SD -1SL的特征值,并选取最小特征值对应的特征向量作为投影向量φ1;
b.求解如下特征方程式的特征值,并取最小特征值对应的特征向量作为不相关且正交的投影向量φk,
R(k)SLφ=λSDφ
其中:
最后,令投影矩阵Φ*=[φ1,φ2,...,φd],并联合主成分分析的投影矩阵ΦPCA,则统计不相关且正交的局部保留映射投影矩阵ΦUOLPP表示为:
ΦUOLPP=ΦPCAΦ*。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CNB2006101170471A CN100535927C (zh) | 2006-10-12 | 2006-10-12 | 基于统计不相关和正交特性的局部保留映射人脸识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CNB2006101170471A CN100535927C (zh) | 2006-10-12 | 2006-10-12 | 基于统计不相关和正交特性的局部保留映射人脸识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN1936924A true CN1936924A (zh) | 2007-03-28 |
CN100535927C CN100535927C (zh) | 2009-09-02 |
Family
ID=37954419
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CNB2006101170471A Expired - Fee Related CN100535927C (zh) | 2006-10-12 | 2006-10-12 | 基于统计不相关和正交特性的局部保留映射人脸识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN100535927C (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101226590B (zh) * | 2008-01-31 | 2010-06-02 | 湖南创合世纪智能技术有限公司 | 一种人脸识别方法 |
CN101324923B (zh) * | 2008-08-05 | 2012-08-01 | 北京中星微电子有限公司 | 用于人脸识别的特征提取方法和装置 |
CN104881684A (zh) * | 2015-05-27 | 2015-09-02 | 天津大学 | 一种立体图像质量客观评价方法 |
-
2006
- 2006-10-12 CN CNB2006101170471A patent/CN100535927C/zh not_active Expired - Fee Related
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101226590B (zh) * | 2008-01-31 | 2010-06-02 | 湖南创合世纪智能技术有限公司 | 一种人脸识别方法 |
CN101324923B (zh) * | 2008-08-05 | 2012-08-01 | 北京中星微电子有限公司 | 用于人脸识别的特征提取方法和装置 |
CN104881684A (zh) * | 2015-05-27 | 2015-09-02 | 天津大学 | 一种立体图像质量客观评价方法 |
Also Published As
Publication number | Publication date |
---|---|
CN100535927C (zh) | 2009-09-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Parkhi et al. | Deep face recognition | |
Zhao et al. | Differential earth mover's distance with its applications to visual tracking | |
CN107330397B (zh) | 一种基于大间隔相对距离度量学习的行人重识别方法 | |
US9984280B2 (en) | Object recognition system using left and right images and method | |
CN107832672A (zh) | 一种利用姿态信息设计多损失函数的行人重识别方法 | |
Campo et al. | Multimodal stereo vision system: 3D data extraction and algorithm evaluation | |
CN109063649B (zh) | 基于孪生行人对齐残差网络的行人重识别方法 | |
CN110532920A (zh) | 基于FaceNet方法的小数量数据集人脸识别方法 | |
CN110751018A (zh) | 一种基于混合注意力机制的群组行人重识别方法 | |
CN107424161B (zh) | 一种由粗至精的室内场景图像布局估计方法 | |
CN110110783A (zh) | 一种基于多层特征图连接的深度学习目标检测方法 | |
CN110765841A (zh) | 基于混合注意力机制的群组行人重识别系统及终端 | |
CN110472495B (zh) | 一种基于图形推理全局特征的深度学习人脸识别方法 | |
Yi et al. | Motion keypoint trajectory and covariance descriptor for human action recognition | |
CN115830637B (zh) | 一种基于姿态估计和背景抑制的遮挡行人重识别方法 | |
CN113361542A (zh) | 一种基于深度学习的局部特征提取方法 | |
CN114511012A (zh) | 基于特征匹配和位置匹配的sar图像与光学图像匹配方法 | |
CN104966075A (zh) | 一种基于二维判别特征的人脸识别方法与系统 | |
CN113239885A (zh) | 一种人脸检测与识别方法及系统 | |
Ricci et al. | Learning large margin likelihoods for realtime head pose tracking | |
CN100535927C (zh) | 基于统计不相关和正交特性的局部保留映射人脸识别方法 | |
CN118135660A (zh) | 一种视角缺失条件下的联合多视角信息瓶颈的跨视角步态识别方法 | |
CN107784284A (zh) | 人脸识别方法及系统 | |
Sahbi et al. | Robust face recognition using dynamic space warping | |
CN114663839B (zh) | 一种遮挡行人重识别方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
C17 | Cessation of patent right | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20090902 Termination date: 20121012 |