CN103971132A - 应用二维非负稀疏偏最小二乘进行人脸识别的方法 - Google Patents

Abstract

本发明涉及应用二维非负稀疏偏最小二乘进行人脸识别的方法，它包括如下步骤，首先构造人脸训练样本集的类别矩阵，再构建使投影人脸训练样本集和类别矩阵时信息量损失最少的目标函数，然后在目标函数中加入非负性约束和稀疏性约束得到收敛的非负的基矩阵，将人脸训练样本集投影在基矩阵上获得测试样本系数矩阵，对测试样本也进行前述操作得到测试样本的系数矩阵，使用最近邻策略对测试样本的系数矩阵和测试样本系数矩阵中的某个要素矩阵是同一类，则认为测试样本的系数矩阵所对应的测试样本上的人与该要素矩阵所对应的训练样本上的人为同一人。该方法识别率和鲁棒性，由于只需对基矩阵进行迭代求解，简化了运算，降低了时间复杂度，识别速度快。

Description

应用二维非负稀疏偏最小二乘进行人脸识别的方法

技术领域

本发明属于图像处理和模式识别技术领域，具体涉及应用二维非负稀疏偏最小二乘进行人脸识别的方法。

背景技术

随着科技的进步，人脸识别作为重要的一种生物特征识别技术，正受到越来越多的关注和研究。Wold H提出的偏最小二乘(Partial Least Squares，PLS)可以解决变量之间的多重相关性问题，适合在样本容量小于变量个数的情况下应用。近几年PLS及其改进算法在人脸识别中得到了广泛应用。J.Beak.等首次将PLS用于人脸识别，得到不错的识别率。孙权森等将PLS扩展成二维算法，提出了二维偏最小二乘(Two-dimensional PLS，2DPLS)，以提高人脸识别的准确率。其他将PLS应用到人脸识别中的算法也层出不穷。

但是这些算法没有考虑到非负性和稀疏性(稀疏表示)的结合。非负性是由Lee等提出的，他们提出了非负矩阵分解(Nonnegative Matrix Factorization，NMF)，其符合人对事物由局部到整体的认知规律。NMF的关键约束是要求基矩阵非负，这意味着所有的信息只能相加。NMF通过非负性约束可以得出一个关于特征的加性组合，其不仅可以提高所获数据的局部性，而且可以让基矩阵稀疏。因此在已有的全局性算法中加入非负性约束已经成为一个新的研究方向。但是这些算法没有考虑稀疏性约束，因此，鲁棒性不足。

稀疏表示是由压缩感知理论发展而来的。Donoho和Candes等人提出了压缩感知(Compressed Sensing，CS)也被称为压缩采样或稀疏采样，指出只要信号是可压缩的或者在某个变换域上是足够稀疏的，即使以远低于奈奎斯特(Nyquist)采样频率对其进行采样，也能够完全恢复出原始信号。这种利用信号本身的稀疏性建立起来的用于信号获取和重建的理论和方法得到了广泛的研究。随着稀疏表示理论的发展，一系列的基于稀疏表示的子空间算法被提出，如稀疏主成分分析(Sparse principle component analysis，SPCA)、稀疏判别分析(Sparse linear discriminant analysis，SLDA)、图稀疏投影(Sparse projections over graph，SPG)、稀疏保留映射(Sparsity preserving projections，SPP)]等，均得到了较好的实验结果。但是这些算法没有考虑非负性约束。因此，结果的可解释性不足。

发明内容

针对现有技术存在的上述问题，本发明的目的是提供一种识别准确率高，识别速度快 的人脸图像识别方法。

为实现上述目的，本发明采用如下技术方案：应用二维非负稀疏偏最小二乘进行人脸识别的方法，具体包括如下步骤：

步骤a：构造人脸训练样本集的类别矩阵Y：

a1：构建人脸训练样本集：在人脸库中任意选取N张人脸图像，该N张人脸图像属于m个人，其中每个人有n张人脸图像，并记为n_i,i＝1,...,m，每张人脸图像为一个训练样本，则人脸训练样本集为其中x_ij表示第i个人的第j个训练样本，j＝1,...,n，h表示人脸图像的纵向像素数，l表示人脸图像的横向像素数；

a2：构造步骤a1中的人脸训练样本集X的类别矩阵Y，

其中，P_i对应的是第i个人的n个训练样本，每个训练样本对应大小为l×l的单位矩阵I_l，因此，

步骤b：构建使投影人脸训练样本集X和类别矩阵Y时信息量损失最少的目标函数如式(1)：

$\begin{array}{c}\underset{w,c}{\max }<w^{T}X,c^{T}Y>=w^T{\mathrm{XY}}^{T}c\\ s.t.\left\{\begin{array}{c}{w}^{T}w=I\\ c^{T}c=I\end{array}\right.\end{array}---\left(1\right);$

其中w是人脸训练样本集X的投影矩阵，c为类别矩阵Y的投影矩阵，w^T表示矩阵w的转置，c^T表示矩阵c的转置，I表示单位矩阵；

步骤c：在步骤b构建的目标函数中加入非负性约束得式(3)：

$\left\{\begin{array}{cc}\underset{w}{\max }{\left|\right|w^T{\mathrm{XY}}^{T}c\left|\right|}_F^2-\mathrm{\&alpha;}{\left|\right|w^{T}w-I\left|\right|}_F^2,& I\\ s.t.c^{T}c={\mathrm{cc}}^T=I,w\&GreaterEqual;0,& \mathrm{II}\end{array}\right.---\left(3\right);$

其中α为任意正常数

将式(3)中表示非负性约束的Ⅱ式代入Ⅰ式得到非负性目标函数如式(6)：

$\underset{w}{\max }{w}^T{\mathrm{XY}}^T{\mathrm{YX}}^{T}w-\mathrm{\&alpha;}{(w^{T}w-I)}^2---\left(6\right);$

步骤d：在步骤c得到的非负性目标函数中再加入稀疏性约束：

用l¹范数的约束，对w引入稀疏性约束，式(6)转化为式(7)：

$\left\{\begin{array}{cc}\max w^T{\mathrm{XY}}^T{\mathrm{YX}}^{T}w-\mathrm{\&alpha;}{(w^{T}w-I)}^2,& I\\ s.t.{\left|\right|w\left|\right|}_1\&le;\mathrm{\&lambda;},& \mathrm{II}\end{array}\right.---\left(7\right);$

其中λ为稀疏程度，将式(7)中表示稀疏性约束的Ⅱ式加入Ⅰ式得到最优目标函数如式(8)：

$\underset{w}{\max }{w}^T{\mathrm{XY}}^T{\mathrm{YX}}^{T}w-\mathrm{\&alpha;}{(w^{T}w-I)}^2-\mathrm{\&beta;}{\left|\right|w\left|\right|}_1---\left(8\right):$

将式(8)中l¹约束改为l²约束得到最优目标函数如式(9)：

$\underset{w}{\max }{w}^T{\mathrm{XY}}^T{\mathrm{YX}}^{T}w-\mathrm{\&alpha;}{(w^{T}w-I)}^2-\mathrm{\&beta;}{\left|\right|w\left|\right|}_2^2---\left(9\right);$

其中β为任意的正常数；

将l²范数展开并且带入式稀疏性约束得式(11)；

f(w)＝w^TXY^TYX^Tw-α(w^Tw-I)²-βw^Tw (11)；

对式(11)利用乘性迭代法得出迭代格式(14)；

$w^{n+1}\&LeftArrow;w^n\frac{({\mathrm{XY}}^T{\mathrm{YX}}^T{w}^n+{2\mathrm{\&alpha;w}}^n)}{{2\mathrm{\&alpha;w}}^n{\left(w^n\right)}^T{w}^n+{\mathrm{\&beta;w}}^n}---\left(14\right);$

步骤e：通过步骤d得到迭代格式(14)迭代最后得到收敛的非负的基矩阵w'，将人脸训练样本集X投影在基矩阵w'上获得测试样本系数矩阵t，t＝w'^TX；

步骤f：人脸图像识别过程：

f1：采集获取人脸图像测试样本，采用与步骤a2相同的方法构造测试样本的类别矩阵；

f2：采用与步骤b相同的方法构建使投影测试样本和测试样本的类别矩阵时信息量损失最少的目标函数；

f3：在步骤f2构建的目标函数中加入与步骤c相同的非负性约束得到测试样本的非负性目标函数；

f4：在步骤f3构建的测试样本的非负性目标函数中加入与步骤d相同的稀疏性约束得到最优目标函数，利用乘性迭代法得到测试样本的迭代格式，然后通过迭代求得测试样本的基矩阵，最后将测试样本投影在其基矩阵上获得测试样本系数矩阵；

f5：使用最近邻策略对测试样本的系数矩阵与人脸训练样本集投影在基矩阵上获得测试样本系数矩阵进行分类识别，当测试样本的系数矩阵与人脸训练样本集投影在基矩阵上获得系数矩阵中的某个要素矩阵是同一类时，则认为测试样本的系数矩阵所对应的测试样本上的人与该要素矩阵对应的训练样本上的人为同一人。

相对于现有技术，本发明具有如下优点：本发明构造了人脸训练样本集的类别矩阵，利用了训练样本的类比信息，并且尽可能保持人脸图像信息，不破坏人脸图像的内部结构，同时加上非负性约束和稀疏性，使得所得的基矩阵符合局部认知规律而且具有一定的稀疏性，从而提高了识别率和鲁棒性。另外对于人脸识别问题，只需对基矩阵进行迭代求解，不需要考虑系数矩阵，故可以大大简化运算，降低了时间复杂度。

附图说明

图1为有遮挡的情况Yale人脸库样本。

图2为对图1(a)各算法在不同训练样本下的识别率(％)。

图3为对图1(b)中各算法在不同训练样本下的识别率(％)。

图4为对图1(c)中各算法在不同训练样本下的识别率(％)。

图5为对图1(d)中各算法在不同训练样本下的识别率(％)。

图6为对图1(e)中各算法在不同训练样本下的识别率(％)。

图7为对图1(f)中各算法在不同训练样本下的识别率(％)。

图8为PIE人脸库中2个人的图像。

图9为PIE人脸库中各算法在不同训练样本下的识别率(％)。

具体实施方式

下面结合附图对本发明作进一步详细说明。

应用二维非负稀疏偏最小二乘进行人脸识别的方法，其特征在于具体包括如下步骤：

步骤a：构造人脸训练样本集的类别矩阵Y：

a1：构建人脸训练样本集：在人脸库中任意选取N张人脸图像，该N张人脸图像属 于m个人，其中每个人有n张人脸图像，记为n_i,i＝1,...,m，每张人脸图像为一个训练样本，则人脸训练样本集为其中x_ij表示第i个人的第j个训练样本，j＝1,...,n，h表示人脸图像的纵向像素数，l表示人脸图像的横向像素数；

a2：构造步骤a1中的人脸训练样本集X的类别矩阵Y，该类别矩阵Y的构建方法可以参照现有技术文件1中方法。(现有技术文件1出处为Matthew B,William R,partial least squares for discrimination[J],journal of chemometrics,17:166-1732003)

其中，P_i对应的是第i个人的n个训练样本，每个训练样本对应大小为l×l的单位矩阵I_l，因此，该类别矩阵不仅能体现出每个训练样本与各类(此处的“各类”指N张人脸图像所对应的人)的从属关系，还保留了训练样本数据的空间信息。

步骤b：构建使投影人脸训练样本集X和类别矩阵Y时信息量损失最少的目标函数如式(1)：

$\begin{array}{c}\underset{w,c}{\max }<w^{T}X,c^{T}Y>=w^T{\mathrm{XY}}^{T}c\\ s.t.\left\{\begin{array}{c}{w}^{T}w=I\\ c^{T}c=I\end{array}\right.\end{array}---\left(1\right);$

其中w是人脸训练样本集X的投影矩阵，c为类别矩阵Y的投影矩阵，w^T表示矩阵w的转置，c^T表示矩阵c的转置，I表示单位矩阵；

步骤c：在步骤b构建的目标函数中加入非负性约束：

将非负性约束加入到式(1)中得到式(3)：

$\left\{\begin{array}{cc}\underset{w}{\max }{\left|\right|w^T{\mathrm{XY}}^{T}c\left|\right|}_F^2-\mathrm{\&alpha;}{\left|\right|w^{T}w-I\left|\right|}_F^2,& I\\ s.t.c^{T}c={\mathrm{cc}}^T=I,w\&GreaterEqual;0,& \mathrm{II}\end{array}\right.---\left(3\right);$

其中A是针对α的矩阵，没有实际含义；α为任意正常数，通常为1，将式(3)中F范数展开并且带入非负性约束，可得式(4)：

f(w)＝tr(w^TXY^Tcc^TYX^Tw)-α·tr(w^Tw-I)²

＝tr(w^TXY^TYX^Tw)-α·tr(w^Tw-I)² (4)；

→max

其中，tr表示矩阵的迹，使用现有技术文件2中记载的乘性迭代法(现有技术文件2的出处为：D.Lee,H.Seung,Algorithms for non-negative matrix factorization[J].Adv.Neural Inf.Process.,pp.556–562,2000.)得出如下迭代格式(5)：

$w^{n+1}\&LeftArrow;w^n\frac{({\mathrm{XY}}^T{\mathrm{YX}}^T{w}^n+{2\mathrm{\&alpha;w}}^n)}{{2\mathrm{\&alpha;w}}^n{\left(w^n\right)}^T{w}^n}---\left(5\right);$

将式(3)中表示非负性约束的Ⅱ式代入Ⅰ式得到非负性目标函数如式(6) $\underset{w}{\max }{w}^T{\mathrm{XY}}^T{\mathrm{YX}}^{T}w-\mathrm{\&alpha;}{(w^{T}w-I)}^2---\left(6\right);$

步骤d：为了提高本方法的鲁棒性，在步骤c得到的非负性目标函数中再加入稀疏性约束：

由稀疏表达和压缩感知的理论得出可以用l¹范数近似等价l⁰范数，对w引入稀疏约束，将式(6)转化为式(7)：

$\left\{\begin{array}{cc}\max w^T{\mathrm{XY}}^T{\mathrm{YX}}^{T}w-\mathrm{\&alpha;}{(w^{T}w-I)}^2,& I\\ s.t.{\left|\right|w\left|\right|}_1\&le;\mathrm{\&lambda;},& \mathrm{II}\end{array}\right.---\left(7\right);$

其中λ为稀疏程度，为经验值，表示的意思是一个有限常数，目的是要w的1范数尽可能的小，将式(7)中的Ⅱ式稀疏性约束加入Ⅰ式得到式(8)：

$\underset{w}{\max }{w}^T{\mathrm{XY}}^T{\mathrm{YX}}^{T}w-\mathrm{\&alpha;}{(w^{T}w-I)}^2-\mathrm{\&beta;}{\left|\right|w\left|\right|}_1---\left(8\right):$

α,β均为系数，具体为任意的正常数，一般取1。对于l¹优化式(8)，可以用基追踪(Basis Pursit，BP)算法等求解，但是想要保留非负性约束，就显得比较困难。为了达到良好的分类(此处的分类是指将同一人的人脸图像划为一类)效果，l¹范数约束并非必要的。大量的实验表明在l²范数约束下也能取得相同的结果，甚至要好于在l¹范数约束下的情况。故将优化式(8)中l¹约束改为l²约束得到最优目标函数，如式(9)：

$\underset{w}{\max }{w}^T{\mathrm{XY}}^T{\mathrm{YX}}^{T}w-\mathrm{\&alpha;}{(w^{T}w-I)}^2-\mathrm{\&beta;}{\left|\right|w\left|\right|}_2^2---\left(9\right);$

式(9)改写为 $f\left(w\right)=w^T{\mathrm{XY}}^T{\mathrm{YX}}^{T}w-\mathrm{\&alpha;}{(w^{T}w-I)}^2-\mathrm{\&beta;}{\left|\right|w\left|\right|}_2^2---\left(10\right);$

将l²范数展开并且带入式稀疏性约束得式(11)

f(w)＝w^TXY^TYX^Tw-α(w^Tw-I)²-βw^Tw (11)；

此时对于公式(11)而言，使用现有技术文件2中记载的乘性迭代法，保留w的非负性就很好处理了。具体计算过程如下：

$\frac{\&PartialD;f}{\&PartialD;w}={2\mathrm{XY}}^T{\mathrm{YX}}^{T}w-4\mathrm{\&alpha;w}(w^{T}w-I)-2\mathrm{\&beta;w}---\left(12\right)$

得到迭代公式：

$w^{n+1}=w^n+\mathrm{\&gamma;}\frac{\&PartialD;f}{\&PartialD;w}=w^n+\mathrm{\&gamma;}({2\mathrm{XY}}^T{\mathrm{YX}}^T{w}^n-{4\mathrm{\&alpha;w}}^n({\left(w^n\right)}^T{w}^n-I))-{2\mathrm{\&beta;w}}^n---\left(13\right)$

常系数都纳入α，β中。

令公式(13)右边wn与负项-(4αwⁿ(wⁿ)^Twⁿ+2βwⁿ)相抵，得出 $\mathrm{\&gamma;}=\frac{w^n}{{4\mathrm{\&alpha;w}}^n{\left(w^n\right)}^T{w}^n+{2\mathrm{\&beta;w}}^n},$ 则得到如下乘性迭代格式：

$w^{n+1}\&LeftArrow;w^n\frac{({\mathrm{XY}}^T{\mathrm{YX}}^T{w}^n+{2\mathrm{\&alpha;w}}^n)}{{2\mathrm{\&alpha;w}}^n{\left(w^n\right)}^T{w}^n+{\mathrm{\&beta;w}}^n}---\left(14\right);$

步骤e：通过步骤d得到迭代格式(14)迭代最后得到收敛的非负的基矩阵w'，将人脸训练样本集X投影在基矩阵w'上获得训练样本系数矩阵t，t＝w'^TX；

步骤f：人脸图像识别过程：

f1：采集获取人脸图像测试样本，采用与步骤a2相同的方法构造测试样本的类别矩阵；

f2：采用与步骤b相同的方法构建使投影测试样本和测试样本的类别矩阵时信息量损失最少的目标函数；

f3：在步骤f2构建的目标函数中加入与步骤c相同的非负性约束得到测试样本的非负性目标函数；

f4：在步骤f3构建的测试样本的非负性目标函数中加入与步骤d相同的稀疏性约束到最优目标函数，利用乘性迭代法得到测试样本的迭代格式，然后通过迭代求得测试样本的基矩阵，最后将测试样本投影在其基矩阵上获得测试样本系数矩阵；

f5：使用最近邻策略对测试样本的系数矩阵与人脸训练样本集投影在基矩阵上获得测试样本系数矩阵进行分类识别，当测试样本的系数矩阵与人脸训练样本集投影在基矩阵上获得系数矩阵中的某个要素矩阵是同一类时，则认为测试样本系数矩阵所对应的测试样本上的人与该要素矩阵对应的训练样本上的人为同一人。最近邻策略即计算测试样本的系数矩阵与训练样本系数矩阵中各个要素矩阵(此处的要素矩阵是指每个训练样本在基矩阵w'上投影)之间余弦距离或欧式距离，测试样本系数矩阵与训练样本系数矩阵中某个要素矩阵之间余弦距离或欧式距离最短，则认为他们为一类，即测试样本系数矩阵所对应的测试样本上的人与该要素矩阵对应的训练样本上的人为同一人。

实施例：选择Yale人脸库中的人脸图像进行人工遮挡，如图1所示，图1(a)是一个人无遮挡的11张原图像，图1(b)是对后7张图片加入了一个30×30的黑块遮挡，遮挡率9％。图1(c)是对后7张图片加入了一个50×50的黑块遮挡，遮挡率25％。图1(d)是对后7张图片加入了一个70×70的黑块遮挡，遮挡率49％。图1(e)是对后7张图片加入了一个50×50的baboo图片遮挡，遮挡率25％。图1(f)是对后7张图片加入了一个70×70的baboo图片遮挡，遮挡率49％。

分别选取每人前2、4、6、8、10张图片进行训练，剩余部分图片进行测试。所得最高识别率(％)的结果如图2-7所示。

实施例1：对图1(a)是一个人无遮挡的11张原图像进行，所得最高识别率结果如图2所示。由此可以看出2DNSPLS的方法【本发明方法，即求人脸训练样本集X投影在基矩阵时，考虑了非负性约束性和稀疏性约束】和2DNPLS的方法【二维非负偏最小二乘(Two-dimensional Nonnegative PLS，2DNPLS，即人脸训练样本集X投影在基矩阵时只考虑了非负性约束性，通过迭代格式(5)迭代最后得到收敛的基矩阵】在训练样本较少时结果要好于其他二维算法。2DLDA和2DLPP算法在则在训练样本较少时表现较差。总体上，2DNSPLS和2DNPLS还是优于其他算法，两者表现接近。

实施例2：本实施例是在图1(b)、图1(c)、图1(d)、图1(e)和图1(f)五种情况下所对应的人脸库中，对2DPCA、2DLDA、2DLPP、2DPLS分别表示二维主成分分析，二维判别分析，二维局部保留映射，二维偏最小二乘2DNPLS、2DNSPLS算法进行测试。实验结果如图3-7所示。

如图3所示，在9％遮挡的图1(b)中，训练样本较少时2DLDA表现最差，2DLPP表现次之。2DNSPLS算法在各个训练样本下都表现出较好的识别率和鲁棒性。2DNPLS算法随着出现遮挡识别率有所降低，其他算法受影响程度较大。2DLDA和2DLPP在样本数较少时都受到比较大的影响。

比较图3、4、5，即在人脸库图1(b)、图1(c)、图1(d)下的实验可得：随着遮挡率的提高2DNSPLS算法表现出更加鲁棒的识别效果，总体效果优于其他算法。而2DNPLS算法则受影响略大，但是仍要优于2DLDA、2DLPP。2DPCA、2DPLS也受到不同影响，识别率都有所降低。

比较图6、7，即在图1(e)和图1(f)下的实验可得：在有干扰信息存在(baboon图片)的情况下，总体来说2DNSPLS算法在不同训练样本下的识别率都要明显优于其他算法。

实施例3：采用PIE人脸库上的实验【人脸库是卡耐基梅隆大学建立的包括姿态(pose)、光照(illumination)和表情(exprsssion)的变化的人脸库】它包括来自68个人的40000张照片，其中每个人有13种姿态条件、43种光照条件和4种表情下的照片。本实施例选取了每人45张照片作为实验总样本。图8是其中2人的各自45张图片。

分别选取每人前5、10、15、20、25、30、35、40张图片进行训练，剩余部分图片进行测试。实验结果如图9所示。

由图9可知，2DNSPLS在训练样本量较少时识别率明显优于其他算法，随着训练样本数量的增加优势在减少，但是仍优于其他算法。2DPCA在这些算法中总体表现最差，2DNPLS总体上与2DPLS接近，略优于2DPLS。

分别选取每人前5、10、15、20、25、30、35、40张图片进行训练，剩余部分图片进行测试。实验结果如图9所示。

最后说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或者等同替换，而不脱离本发明技术方案的宗旨和范围，其均应涵盖在本发明的权利要求范围当中。

Claims (1)

1.应用二维非负稀疏偏最小二乘进行人脸识别的方法，其特征在于具体包括如下步骤：

步骤a：构造人脸训练样本集的类别矩阵Y：

a1：构建人脸训练样本集：在人脸库中任意选取N张人脸图像，该N张人脸图像属于m个人，其中每个人有n张人脸图像，并记为n_i,i＝1,...,m，每张人脸图像为一个训练样本，则人脸训练样本集为其中x_ij表示第i个人的第j个训练样本，j＝1,...,n，h表示人脸图像的纵向像素数，l表示人脸图像的横向像素数；

a2：构造步骤a1中的人脸训练样本集X的类别矩阵Y，

其中，P_i对应的是第i个人的n个训练样本，每个训练样本对应大小为l×l的单位矩阵I_l，因此，

步骤b：构建使投影人脸训练样本集X和类别矩阵Y时信息量损失最少的目标函数如式(1)：

$\begin{array}{c}\underset{w,c}{\max }<w^{T}X,c^{T}Y>=w^T{\mathrm{XY}}^{T}c\\ s.t.\left\{\begin{array}{c}{w}^{T}w=I\\ c^{T}c=I\end{array}\right.\end{array}---\left(1\right);$

其中w是人脸训练样本集X的投影矩阵，c为类别矩阵Y的投影矩阵，w^T表示矩阵w的转置，c^T表示矩阵c的转置，I表示单位矩阵；

步骤c：在步骤b构建的目标函数中加入非负性约束得式(3)：

$\left\{\begin{array}{cc}\underset{w}{\max }{\left|\right|w^T{\mathrm{XY}}^{T}c\left|\right|}_F^2-\mathrm{\&alpha;}{\left|\right|w^{T}w-I\left|\right|}_F^2,& I\\ s.t.c^{T}c={\mathrm{cc}}^T=I,w\&GreaterEqual;0,& \mathrm{II}\end{array}\right.---\left(3\right);$

其中α为任意正常数

将式(3)中表示非负性约束的Ⅱ式代入Ⅰ式得到非负性目标函数如式(6)：

$\underset{w}{\max }{w}^T{\mathrm{XY}}^T{\mathrm{YX}}^{T}w-\mathrm{\&alpha;}{(w^{T}w-I)}^2---\left(6\right);$

步骤d：在步骤c得到的非负性目标函数中再加入稀疏性约束：

用l¹范数的约束，对w引入稀疏性约束，式(6)转化为式(7)：

$\left\{\begin{array}{cc}\max w^T{\mathrm{XY}}^T{\mathrm{YX}}^{T}w-\mathrm{\&alpha;}{(w^{T}w-I)}^2,& I\\ s.t.{\left|\right|w\left|\right|}_1\&le;\mathrm{\&lambda;},& \mathrm{II}\end{array}\right.---\left(7\right);$

其中λ为稀疏程度，将式(7)中表示稀疏性约束的Ⅱ式加入Ⅰ式得到最优目标函数如式(8)：

$\underset{w}{\max }{w}^T{\mathrm{XY}}^T{\mathrm{YX}}^{T}w-\mathrm{\&alpha;}{(w^{T}w-I)}^2-\mathrm{\&beta;}{\left|\right|w\left|\right|}_1---\left(8\right):$

将式(8)中l¹约束改为l²约束得到最优目标函数如式(9)：

$\underset{w}{\max }{w}^T{\mathrm{XY}}^T{\mathrm{YX}}^{T}w-\mathrm{\&alpha;}{(w^{T}w-I)}^2-\mathrm{\&beta;}{\left|\right|w\left|\right|}_2^2---\left(9\right);$

其中β为任意的正常数；

将l²范数展开并且带入式稀疏性约束得式(11)；

f(w)＝w^TXY^TYX^Tw-α(w^Tw-I)²-βw^Tw (11)；

对式(11)利用乘性迭代法得出迭代格式(14)；

$w^{n+1}\&LeftArrow;w^n\frac{({\mathrm{XY}}^T{\mathrm{YX}}^T{w}^n+{2\mathrm{\&alpha;w}}^n)}{{2\mathrm{\&alpha;w}}^n{\left(w^n\right)}^T{w}^n+{\mathrm{\&beta;w}}^n}---\left(14\right);$

步骤e：通过步骤d得到迭代格式(14)迭代最后得到收敛的非负的基矩阵w'，将人脸训练样本集X投影在基矩阵w'上获得测试样本系数矩阵t，t＝w'^TX；

步骤f：人脸图像识别过程：

f1：采集获取人脸图像测试样本，采用与步骤a2相同的方法构造测试样本的类别矩阵；

f2：采用与步骤b相同的方法构建使投影测试样本和测试样本的类别矩阵时信息量损失最少的目标函数；

f3：在步骤f2构建的目标函数中加入与步骤c相同的非负性约束得到测试样本的非负性目标函数；

f4：在步骤f3构建的测试样本的非负性目标函数中加入与步骤d相同的稀疏性约束得到最优目标函数，利用乘性迭代法得到测试样本的迭代格式，然后通过迭代求得测试样本的基矩阵，最后将测试样本投影在其基矩阵上获得测试样本系数矩阵；

f5：使用最近邻策略对测试样本的系数矩阵与人脸训练样本集投影在基矩阵上获得测试样本系数矩阵进行分类识别，当测试样本的系数矩阵与人脸训练样本集投影在基矩阵上获得系数矩阵中的某个要素矩阵是同一类时，则认为测试样本的系数矩阵所对应的测试样本上的人与该要素矩阵对应的训练样本上的人为同一人。