CN103366182B - 基于全监督非负矩阵分解的人脸识别方法 - Google Patents

Abstract

本发明公开了一种基于全监督非负矩阵分解的人脸识别方法，主要解决现有方法不能有效利用类标信息的问题，其实现步骤是：(1)将训练图像数据集表示为非负矩阵X；(2)对非负矩阵X进行全监督非负矩阵分解，得到更新后的基矩阵U′和更新后的系数矩阵V′；(3)将测试图像数据集表示为非负矩阵T；(4)用更新后的基矩阵U′对测试图像数据集的非负矩阵T进行投影，得到测试数据的投影系数H；(5)用更新后的系数矩阵V′和训练图像数据集的类标信息s_ij做为训练数据，将测试数据集的投影系数H做为测试数据，再用最近邻分类器对测试数据进行分类，输出分类结果。本发明能有效利用训练样本的类标信息，提高人脸识别系统的识别率，可应用于身份辨识和信息安全。

Description

基于全监督非负矩阵分解的人脸识别方法

技术领域

本发明属于图像处理和模式识别技术领域，涉及人脸图像处理和识别方法，可应用于身份辨识和信息安全。

背景技术

随着社会经济的迅速发展和科学技术的不断进步，信息安全得到了人们越来越广泛的重视。传统的基于身份标识物如证件、卡片或身份认证码如用户名、密码等身份识别方法由于存在容易丢失、伪造、窃取等缺点已经远远不能满足人们的需求,寻找新的实用可靠且不易伪造的身份认证方法迫在眉睫。人的生物特征由于具有唯一性、稳定性和不易丢失及伪造等特点，已逐渐成为鉴别个人身份的首选方式。人脸识别技术是一种利用计算机分析比较人脸图像，从中提取有效视觉特征信息来进行身份鉴别的计算机技术。在现有的生物特征识别技术中，人脸识别技术具有操作简便和易于实现等优势而得到广泛采用。

人脸图像的维数通常较高，不同人脸图像之间也具有较强的相似性，如果单纯利用原始人脸图像进行身份鉴别，会使人脸识别系统计算量较大而且影响识别效果。为解决此问题，人们通常对高维的人脸图像进行降维处理，将其压缩到一个低维的子空间中来进行识别，低维空间中的样本通常较原始人脸图像更具鉴别性。主成分分析、独立成分分析和Fisher判别分析等方法都属于这类方法。然而，传统的降维方法通常允许降维后的数据含有负值，而人脸图像具有非负性，负值在人脸图像中缺少明确的物理意义。

非负矩阵分解方法可以对人脸图像进行非负降维，使降维后的人脸数据不存在负值，具有较好可解释性和明确的物理意义以及占用存储空间少等优点,已经被成功的应用到人脸识别中。华南师范大学申请的专利“基于非负矩阵分解和多种距离函数的人脸识别方法”（授权公布号CN102592148A，授权公告日为2012.07.18，专利号为201110454407.8），首先利用非负矩阵分解方法得到测试数据的低维表示，然后利用多种距离函数计算测试数据的低维表示与各类训练图像集低维表示均值之间对应的相似度，最后根据最近邻分类方法进行分类。然而，非负矩阵分解是无监督的方法，在降维的过程中无法利用训练样本的类标信息来提高样本低维表示的鉴别性能，从而影响了人脸识别系统的识别率。

发明内容

本发明的目的在于针对上述已有技术的不足，提供一种基于全监督非负矩阵分解的人脸识别方法，以有效利用训练图像的类标信息，得到更具鉴别性的低维样本，从而提高人脸识别方法的识别率。

实现本发明的技术思路是，在训练模式下，利用全监督非负矩阵分解方法对训练数据进行分解，得到训练数据的基矩阵和系数矩阵；在测试模式下，利用训练模式下获得的基矩阵对测试数据进行投影，得到测试数据的低维表示，然后利用最近邻分类器对测试数据的低维表示进行分类，输出分类结果。其实现步骤包括如下：

(1)将训练图像数据集表示为非负矩阵X；

(2)对非负矩阵X进行全监督非负矩阵分解，得到对应的基矩阵U：

2a)根据训练图像数据集的类标信息s_ij，构造约束矩阵S＝[s_ij]_N×N，

其中，i,j＝1,2,...,N，N为训练图像的个数，x_i和x_j分别代表第i个人和第j个人的人脸图像，δ为小于1的正数，设置为0.01；

2b)构造全监督非负矩阵分解的目标函数G：

$G={\left|\right|X-{\mathrm{UV}}^T\left|\right|}_F^2+\frac{\mathrm{\α}}{2}\mathrm{\Σ}{\left(U^{T}U\right)}_{\mathrm{ij}}+\frac{\mathrm{\β}}{2}\mathrm{tr}\left(V^T\mathrm{SV}\right),$

其中，U＝[u₁,u₂,...,u_K]代表全监督非负矩阵分解的基矩阵，V＝[v₁,v₂,...,v_N]^T代表全监督非负矩阵分解的系数矩阵，K为全监督非负矩阵分解的低维表示维数,||||_F代表矩阵的F范数，tr()代表矩阵的迹，α和β均为正数，分别为正交约束项Σ(U^TU)_ij和约束信息保持项tr(V^TSV)的权重大小；

2c)将基矩阵U和系数矩阵V中的所有元素的值初始化为（0,1）之间的随机数；

2d)设定全监督非负矩阵分解的目标函数G的最小值、低维表示维数K值、正交约束项权重大小α的值以及约束信息保持项权重大小β的值；

2e)设定最大迭代次数I，利用迭代更新基矩阵U中元素u_ik，利用迭代更新系数矩阵V中元素v_jk，其中i＝1,2,...,M，j＝1,2,...,N，k＝1,2,...,K，M为图像数据像素个数，D为一个对角矩阵，其对角元素为 $D_{\mathrm{ii}}=\underset{j=1}{\overset{N}{\mathrm{\Σ}}}{s}_{\mathrm{ij}},$ i＝1,2,...,N；

2f)每次迭代完成后计算目标函数G的值，重复迭代直到目标函数值G小于设定的最小值或者迭代次数达到最大迭代次数I，得到更新后的基矩阵U′和更新后的系数矩阵V′；

(3)将测试图像数据集表示为非负矩阵T；

(4)利用更新后的基矩阵U′对测试图像数据集的非负矩阵T进行投影，得到测试数据的投影系数H；

(5)将更新后的系数矩阵V′和训练图像数据集的类标信息s_ij做为训练数据，将测试数据集的投影系数H做为测试数据，然后利用最近邻分类器根据测试数据和训练数据之间的欧式距离对测试数据进行分类，输出分类结果。

本发明与现有技术相比具有以下优点：

本发明由于将类标信息添加到非负矩阵分解的分解过程中，并对非负矩阵分解的基矩阵增加了正交性约束项，因而能得到更具局部特性的基矩阵和更具鉴别特性的系数矩阵，从而解决了非负矩阵分解无法利用训练数据类标的问题，明显地提高了人脸识别系统的识别率。

附图说明

图1为本发明的流程图；

图2为本发明与传统非负矩阵分解方法在Yale人脸数据库下的实验结果图；

图3为本发明与传统非负矩阵分解方法在ORL人脸数据库下的实验结果图。

具体实施方案

参照图1，本发明的具体实现步骤如下：

步骤1，将训练图像数据集表示为非负矩阵X：

1a)对训练数据集的每幅图像进行大小归一化，使每幅图像均包含M个像素值；

1b)将每幅图像表示成一个M维的列向量，记为x_i，i＝1,2,...,N，其中N为训练图像的个数；

1c)按顺序将x_i，i＝1,2,...,N，排列成非负矩阵X，即X＝[x₁,x₂,...,x_N]。

步骤2，对非负矩阵X进行全监督非负矩阵分解，得到对应的基矩阵U：

2a)根据训练图像数据集的类标信息s_ij，构造约束矩阵：S＝[s_ij]_N×N，

其中，i,j＝1,2,...,N，N为训练图像的个数，x_i和x_j分别代表第i个人和第j个人的人脸图像，δ为小于1的正数，设置为0.01；

2b)构造全监督非负矩阵分解的目标函数G：

2b1)由非负矩阵X、基矩阵U和系数矩阵V，构造误差项：其中，U＝[u₁,u₂,...,u_K]代表全监督非负矩阵分解的基矩阵，V＝[v₁,v₂,...,v_N]^T代表全监督非负矩阵分解的系数矩阵，||||_F代表矩阵的F范数，K为全监督非负矩阵分解的低维表示维数；

2b2)由基矩阵U构造正交约束项：Σ(U^TU)_ij；

2b3)由系数矩阵V和约束矩阵S构造约束信息保持项：tr(V^TSV),其中，tr()代表矩阵的迹；

2b4)将重构误差项正交约束项Σ(U^TU)_ij和约束信息保持项tr(V^TSV)按照正交约束项权重大小α以及约束信息保持项权重大小β加权，构成全监督非负矩阵分解的目标函数： $G={\left|\right|X-{\mathrm{UV}}^T\left|\right|}_F^2+\frac{\mathrm{\α}}{2}\mathrm{\Σ}{\left(U^{T}U\right)}_{\mathrm{ij}}+\frac{\mathrm{\β}}{2}\mathrm{tr}\left(V^T\mathrm{SV}\right);$

2c)将基矩阵U和系数矩阵V中的所有元素的值初始化为（0,1）之间的随机数；

2d)设定全监督非负矩阵分解的目标函数G的最小值、低维表示维数K值、正交约束项权重大小α的值以及约束信息保持项权重大小β的值；

2e)设定最大迭代次数I，利用迭代更新基矩阵U中元素u_ik，利用迭代更新系数矩阵V中元素v_jk，其中i＝1,2,...,M，j＝1,2,...,N，k＝1,2,...,K，M为图像数据像素个数，D为一个对角矩阵，其对角元素为i＝1,2,...,N，本实例设I=100；

2f)每次迭代完成后计算目标函数G的值，重复迭代直到目标函数值G小于设定的最小值或者迭代次数达到最大迭代次数I，得到更新后的基矩阵U′和更新后的系数矩阵V′。

步骤3，将测试图像数据集表示为非负矩阵T。

3a)对测试数据集的每幅图像进行大小归一化，使每幅图像均包含M个像素值；

3b)将每幅图像表示成一个M维的列向量，记为t_i，i＝1,2,...,P，其中P为测试图像的个数；

3c)按顺序将t_i，i＝1,2,...,P，排列成非负矩阵T，即T＝[t₁,t₂,...,t_P]。

步骤4，利用更新后的基矩阵U′对测试图像数据集的非负矩阵T进行投影，得到测试数据的投影系数H：

4a)根据下式计算投影矩阵W：

W＝(U′^TU′)^-1U′^T；

4b)利用投影矩阵W对测试数据的非负矩阵T进行投影，得到测试数据的投影系数H＝WT。

步骤5，将更新后的系数矩阵V′和训练图像数据集的类标信息s_ij做为训练数据，将测试数据集的投影系数H做为测试数据，利用最近邻分类器进行分类，输出分类结果。

5a)从投影系数矩阵H中取出一个数据做为测试数据，记为h_i，i＝1,2,...,P，其中，投影系数矩阵H中每一列为一个数据；

5b)计算该测试数据h_i与系数矩阵V′中的每个数据的欧式距离，其中，系数矩阵V′的每一列为一个数据；

5c)从系数矩阵V′中选择与测试数据h_i欧式距离最小的数据，记为v′_j，j＝1,2,...,N；

5d)将数据v′_j的类标信息s_ij赋给测试数据h_i，做为测试数据h_i的类标信息。

本发明的效果可以通过以下仿真进一步说明：

1，仿真条件

本发明的仿真使用Matlab7.12.0仿真软件，将全监督非负矩阵分解算法的参数α设为0.1，β设为100，目标函数最小值设为10^-5，最大迭代次数为100次，每次实验均重复独立运行5次，取其平均值作为最终结果。

2，仿真内容

仿真1：在Yale人脸数据库下分别采用本发明方法和传统非负矩阵分解方法进行人脸识别实验，实验结果如图2所示。其中，

图2（a）为随机抽取每人的3张图像作为训练数据集而将其余8张图像作为测试数据集的人脸识别结果图；

图2（b）为随机抽取每人的5张图像作为训练数据集而将其余6张图像作为测试数据集的人脸识别结果图；

图2（c）为随机抽取每人的7张图像作为训练数据集而将其余4张图像作为测试数据集的人脸识别结果图。

仿真2：在ORL人脸数据库下分别采用本发明方法和传统非负矩阵分解方法进行人脸识别实验，实验结果如图3所示，其中：

图3（a）为随机抽取每人的3张图像作为训练数据集而将其余7张图像作为测试数据集的人脸识别结果图；

图3（b）为随机抽取每人的5张图像作为训练数据集而将其余5张图像作为测试数据集的人脸识别结果图；

图3（c）为随机抽取每人的7张图像图像作为训练数据集而将其余3张图像作为测试数据集的人脸识别结果图。

由图2和图3的仿真结果可见，采用本发明进行人脸识别实验的识别率显著优于采用传统非负矩阵分解方法的人脸识别实验的识别率。所以，与现有技术相比，本发明能有效利用训练数据的类标信息，显著提高人脸识别系统的识别率。

Claims (6)

1.一种基于全监督非负矩阵分解的人脸识别方法，包括如下步骤：

(1)将训练图像数据集表示为非负矩阵X；

(2)对非负矩阵X进行全监督非负矩阵分解，得到对应的基矩阵U：

2a)根据训练图像数据集的类标信息s_ij，构造约束矩阵S＝[s_ij]_N×N，

其中，i,j＝1,2,...,N，N为训练图像的个数，x_i和x_j分别代表第i个人和第j个人的人脸图像，δ为小于1的正数，设置为0.01；

2b)构造全监督非负矩阵分解的目标函数G：

$G=\left|\right|X-{\mathrm{UV}}^T|{|}_F^2+\frac{\mathrm{\α}}{2}\mathrm{\Σ}{\left(U^{T}U\right)}_{ij}+\frac{\mathrm{\β}}{2}tr\left(V^{T}SV\right),$

其中，U＝[u₁,u₂,...,u_K]代表全监督非负矩阵分解的基矩阵，V＝[v₁,v₂,...,v_N]^T代表全监督非负矩阵分解的系数矩阵，K为全监督非负矩阵分解的低维表示维数,||||_F代表矩阵的F范数，tr()代表矩阵的迹，α和β均为正数，分别为正交约束项∑(U^TU)_ij和约束信息保持项tr(V^TSV)的权重大小；

2c)将基矩阵U和系数矩阵V中的所有元素的值初始化为(0,1)之间的随机数；

2d)设定全监督非负矩阵分解的目标函数G的最小值、低维表示维数K值、正交约束项权重大小α的值以及约束信息保持项权重大小β的值；

2e)设定最大迭代次数I，利用迭代更新基矩阵U中元素u_ik，利用迭代更新系数矩阵V中元素v_jk，其中i＝1,2,...,M，j＝1,2,...,N，k＝1,2,...,K，M为图像数据像素个数，D为一个对角矩阵，其对角元素为i＝1,2,...,N；

2f)每次迭代完成后计算目标函数G的值，重复迭代直到目标函数值G小于设定的最小值或者迭代次数达到最大迭代次数I，得到更新后的基矩阵U′和更新后的系数矩阵V′；

(3)将测试图像数据集表示为非负矩阵T；

(4)利用更新后的基矩阵U′对测试图像数据集的非负矩阵T进行投影，得到测试数据的投影系数H；

(5)将更新后的系数矩阵V′和训练图像数据集的类标信息s_ij做为训练数据，将测试数据集的投影系数H做为测试数据，然后利用最近邻分类器根据测试数据和训练数据之间的欧式距离对测试数据进行分类，输出分类结果。

2.根据权利要求1所述的基于全监督非负矩阵分解的人脸识别方法，其特征在于，步骤(1)所述的将训练图像数据集表示为非负矩阵X，按如下步骤进行：

1a)对训练数据集的每幅图像进行大小归一化，使每幅图像均包含M个像素值；

1b)将每幅图像表示成一个M维的列向量，记为x_i，i＝1,2,...,N，其中N为训练图像的个数；

1c)按顺序将x_i，i＝1,2,...,N，排列成非负矩阵X，即X＝[x₁,x₂,...,x_N]。

3.根据权利要求1所述的基于全监督非负矩阵分解的人脸识别方法，其特征在于，步骤2b)所述的构造全监督非负矩阵分解的目标函数G，按如下步骤进行：

2b1)由非负矩阵X、基矩阵U和系数矩阵V，构造误差项：

2b2)由基矩阵U构造正交约束项：∑(U^TU)_ij；

2b3)由系数矩阵V和约束矩阵S构造约束信息保持项：tr(V^TSV)；

2b4)将重构误差项正交约束项∑(U^TU)_ij和约束信息保持项tr(V^TSV)按照正交约束项权重大小α以及约束信息保持项权重大小β加权，构成全监督非负矩阵分解的目标函数

4.根据权利要求1所述的基于全监督非负矩阵分解的人脸识别方法，其特征在于，步骤(3)所述的将测试图像数据集表示为非负矩阵T，按如下步骤进行：

3a)对测试数据集的每幅图像进行大小归一化，使每幅图像均包含M个像素值；

3b)将每幅图像表示成一个M维的列向量，记为t_i，i＝1,2,...,P，其中P为测试图像的个数；

3c)按顺序将t_i，i＝1,2,...,P，排列成非负矩阵T，即T＝[t₁,t₂,...,t_P]。

5.根据权利要求1所述的基于全监督非负矩阵分解的人脸识别方法，其特征在于，步骤(4)所述的利用更新后的基矩阵U′对测试图像数据集的非负矩阵T进行投影，按如下步骤进行：

4a)根据下式计算投影矩阵W：

W＝(U′^TU′)^-1U′^T；

4b)利用投影矩阵W对测试数据的非负矩阵T进行投影，得到测试数据的投影系数H＝WT。

6.根据权利要求1所述的基于全监督非负矩阵分解的人脸识别方法，其特征在于，步骤(5)所述的利用最近邻分类器根据测试数据和训练数据之间的欧式距离对测试数据进行分类，按如下步骤进行：

5a)从投影系数H中取出一个数据做为测试数据，记为h_i，i＝1,2,...,P，其中，投影系数矩阵H中每一列为一个数据；

5b)计算该测试数据h_i与系数矩阵V′中的每个数据的欧式距离，其中，系数矩阵V′的每一列为一个数据；

5c)从系数矩阵V′中选择与测试数据h_i欧式距离最小的数据，记为v′_j，j＝1,2,...,N；

5d)将数据v′_j的类标信息s_ij赋给测试数据h_i，做为测试数据h_i的类标信息。