CN103577839B - 一种邻域保持判别嵌入人脸识别方法及系统 - Google Patents

Abstract

一种邻域保持判别嵌入人脸识别方法及系统，本发明方法包括以下步骤。S1、对已有的人脸训练样本集进行初始降维，并根据训练样本矩阵确定初始降维训练样本矩阵。S2、寻找最优变换AX₁，令二次降维训练样本矩阵X₂=AX₁，并获取二次降维训练样本集。S3、建立测试样本并将其进行二次降维获得二次降维测试样本，在二次降维训练样本中查找与所述二次降维测试样本相邻的样本，并将占比较高的二次降维训练样本的类别赋予所述测试样本。

Description

一种邻域保持判别嵌入人脸识别方法及系统

技术领域

本发明涉及一种邻域保持判别嵌入人脸识别方法及系统，尤其涉及一种基于类别信息的邻域保持判别嵌入人脸识别方法及系统。

背景技术

在许多科学研究领域中，数据都是以高维形式存在的，比如图像分类、文本分类、语音识别等，它们的维度（属性）通常可以达到成百上千维，甚至更高。如何从高维数据中挖掘出用户感兴趣的特征，是近年来研究的一个热点问题。而由于“维灾”的影响，也使得高维数据挖掘变得异常地困难，必须采用一些特殊的手段进行处理。

人脸识别是基于人的脸部特征信息进行身份识别的一种识别技术。在人脸识别技术中，需要把人脸数据从高维空间映射到低维子空间。人脸是一种复杂、多变、高维的模式。尽管人们识别熟悉的人脸是容易的，但对机器来说如何准确识别出人脸，仍是一件困难的事情。然而，由于人脸识别在身份验证、安全系统等方面具有广泛用途，这一问题吸引众多的研究者，使其成为计算机视觉和模式识别中一个重要的研究领域。

由于原始图像数据的高维性，需要将训练数据集投影到低维线性子空间进行降维。现有技术中的降维方法主要有主成分分析方法和邻域保持嵌入算法。其中，主成分分析（Principal Component Analysis，PCA）方法是常用的降维方法，是将多个变量通过线性变换以选出较少个数重要变量的一种多元统计分析方法。但该方法只适合于线性表示的数据。He等人提出了邻域保持嵌入（Neighborhood Preserving Embedding，NPE）算法，该方法适用于流形数据，已经被成功地应用到人脸识别领域。在有监督学习中，判别信息对人脸识别问题是非常重要的。然而，NPE在进行线性重构时没有对邻域作类别判断，忽略了样本本身的类别信息。因此，该方法也存在一定缺陷。

鉴于上述原因，需要提供一种在NPE算法基础上引入判别信息，基于类别信息的邻域保持判别嵌入人脸识别方法，使得样本点的低维坐标能够同时保持流形的局部几何结构和分类信息，提高人脸识别的效率。

发明内容

本发明提供一种邻域保持判别嵌入人脸识别方法，包括以下步骤：

S1、对已有的人脸训练样本集进行初始降维，并根据训练样本矩阵确定初始降维训练样本矩阵；

S2、寻找最优变换AX₁，令二次降维训练样本矩阵X₂=AX₁，并获取二次降维训练样本集；

S3、建立测试样本并将其进行二次降维获得二次降维测试样本，在二次降维训练样本中查找与所述二次降维测试样本相邻的样本，并将占比较高的二次降维训练样本的类别赋予所述测试样本。

优选的，在步骤S1中，若人脸训练样本集为x_i∈R^D，y_i={1,2,…,c}，进行所述初始降维后获得

优选的，在步骤S1中，若训练样本矩阵为X=[x₁,x₂,...,x_l]∈R^D×l，则初始降维训练样本矩阵为X₁=A₁X，其中D是样本的维数，l是样本数据的个数，c是数据的类别数，A₁∈R^d×D是利用PCA获得的投影矩阵。

优选的，在步骤S1中，创建具有分类信息的矩阵其中且当y_i=j时，的第j个分量为1，否则为0。

优选的，在步骤S1中，初始降维采用主成分分析方法。

优选的，在步骤S2中，使得 $\underset{A}{\min }\frac{1}{2}\underset{i}{\mathrm{\Σ}}{\left|\right|y_i-\underset{j}{\mathrm{\Σ}}{W}_{\mathrm{ij}}{y}_j\left|\right|}^2+\mathrm{\β}{\left|\right|Y-\hat{Y}\left|\right|}^2,$ 其中β∈(0,+∞)，重构权值系数矩阵W通过求解 $\begin{array}{cc}\min & \underset{i}{\mathrm{\Σ}}{\left|\right|{\stackrel{\‾}{x}}_i-\underset{j}{\mathrm{\Σ}}{W}_{\mathrm{ij}}{\stackrel{\‾}{x}}_j\left|\right|}^2\\ s.t& \underset{j}{\mathrm{\Σ}}{W}_{\mathrm{ij}}=1\end{array}$ 获得。

优选的，在步骤S2中，所述二次降维训练样本集为且 $A=\mathrm{\β}{(X_1{{\mathrm{MX}}_1}^T+{\mathrm{\βX}}_1{X_1}^T)}^{-1}{X}_1{\hat{Y}}^T,$ 其中M=(I-W)^T(I-W)，I为单位矩阵。

优选的，在步骤S3中，利用K近邻分类器，在二次降维训练样本中找到K个和二次降维测试样本相邻的样本，并挑选占比较高的二次降维训练样本的类别。

本发明还提供一种邻域保持判别嵌入人脸识别系统，包括预处理降维模块、二次降维模块及分类模块，所述预处理降维模块连接二次降维模块，所述二次降维模块连接分类模块，

所述预处理降维模块，用于以主成分分析方法对训练样本集进行初始降维；

所述二次降维模块，用于对已进行初始降维的训练样本进行二次降维，得到二次降维训练样本；

所述分类模块，用于在二次降维训练样本集中，利用K近邻分类器，对二次降维测试样本进行分类。

根据本发明提供的邻域保持判别嵌入人脸识别方法及系统，通过对人脸训练样本集进行初始降维后寻找最优变换后进行二次降维，在二次降维训练样本中查找与二次降维测试样本相邻的样本，并将最多的二次降维训练样本的类别赋予测试样本。如此，把不同的人脸图像从高维空间降到低维空间，保持类别信息的同时，增强了人脸识别的效果。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本发明较佳实施例提供的邻域保持判别嵌入人脸识别方法流程图；

图2是本发明较佳实施例提供的邻域保持判别嵌入人脸识别系统结构示意图。

具体实施方式

下文中将参考附图并结合实施例来详细说明本发明。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。

图1是本发明较佳实施例提供的邻域保持判别嵌入人脸识别方法流程图。如图1所示，本发明较佳实施例提供的邻域保持判别嵌入人脸识别方法包括步骤S1至S3。

步骤S1：对已有的人脸训练样本集进行初始降维，并根据训练样本矩阵确定初始降维训练样本矩阵。

具体而言，本发明涉及的实验数据在MATLAB软件中实现。初始降维是采用PCA方法，即主成分分析方法。

在上述初始降维过程中，若人脸训练样本集为x_i∈R^D,y_i={1,2,…,c}，进行所述初始降维后获得同时，训练样本矩阵为X=[x₁,x₂,...,x_l]∈R^D×l，对应初始降维训练样本矩阵为X₁=A₁X。其中，D代表样本的维数，l代表样本数据的个数，c代表数据的类别数，A₁∈R^d×D是利用PCA获得的投影矩阵。

获得降维训练样本集后，利用训练样本的标签信息，创建一个具有分类信息的矩阵 $\hat{Y}=[{\hat{y}}_1,{\hat{y}}_2,...,{\hat{Y}}_l]\∈R^{c\×l},$ 其中 ${\hat{Y}}_i\∈R^c,$ 且当y_i=j时，的第j个分量为1，否则为0。

步骤S2：寻找最优变换AX₁，令二次降维训练样本矩阵X₂=AX₁，并获取二次降维训练样本集。

具体而言，为了同时考虑保持低维坐标的几何特征和训练点信息，寻找一个最优变换Y=AX₁，并将数据集投影到相对低维的特征空间。

于本实施例中，所述二次降维训练样本集为且 $A=\mathrm{\β}{(X_1{{\mathrm{MX}}_1}^T+{\mathrm{\βX}}_1{X_1}^T)}^{-1}{X}_1{\hat{Y}}^T,$ 其中M=(I-W)^T(I-W)，I为单位矩阵。

接下来，在邻域保持嵌入（即NPE）算法的基础上，引入一个具有判别信息的项，使得 $\underset{A}{\min }\frac{1}{2}\underset{i}{\mathrm{\Σ}}{\left|\right|y_i-\underset{j}{\mathrm{\Σ}}{W}_{\mathrm{ij}}{y}_j\left|\right|}^2+\mathrm{\β}{\left|\right|Y-\hat{Y}\left|\right|}^2,$ 其中β∈(0,+∞)。所述β反映了对已知低维信息的信任度，并控制着训练点信息对数据的影响。

在上述过程中，二次投影矩阵A由 $\underset{A}{\min }\frac{1}{2}\underset{i}{\mathrm{\Σ}}{\left|\right|y_i-\underset{j}{\mathrm{\Σ}}{W}_{\mathrm{ij}}{y}_j\left|\right|}^2+\mathrm{\β}{\left|\right|Y-\hat{Y}\left|\right|}^2$ 式最小化后得到。

于此，重构权值系数矩阵W通过求解优化问题 $\begin{array}{cc}\min & \underset{i}{\mathrm{\Σ}}{\left|\right|{\stackrel{\‾}{x}}_i-\underset{j}{\mathrm{\Σ}}{W}_{\mathrm{ij}}{\stackrel{\‾}{x}}_j\left|\right|}^2\\ s.t& \underset{j}{\mathrm{\Σ}}{W}_{\mathrm{ij}}=1\end{array}$ 获得。在二次训练样本集中，x'_i∈R^c。

步骤S3：建立测试样本并将其进行二次降维获得二次降维测试样本，在二次降维训练样本中查找与所述二次降维测试样本相邻的样本，并将占比较高的二次降维训练样本的类别赋予所述测试样本。

具体而言，建立一个测试样本x并在MATLAB软件中输入，对其进行两次降维，得到二次降维测试样本x'=AA₁x。

接下来，利用K近邻分类器，在二次降维训练样本中找到K个和二次降维测试样本相邻的样本，并挑选占比较高的二次降维训练样本的类别。具体为：在二次降维训练样本集中，找到K个和二次降维测试样本相邻的样本，哪个类别的二次降维训练样本占据数量最多，就将该类别赋予测试样本。

下面以具体实施例说明本发明方法的实现过程。以Att_faces人脸数据集为例，Att_faces数据集包含40张人脸共400幅图像。选取Att_faces数据集中一半作为训练样例，另一半作为测试训练集。

首先是初始降维的实现过程。具体地，设已有人脸训练样本集为x_i∈R^D，y_i={1,2,…,c}，本实施例中，D=10304，l=200，c=40。然后用PCA方法对训练样本集进行初始降维，获得降维训练样本集令训练样本矩阵为X=[x₁,x₂,...,x_l]∈R^D×l，降维训练样本矩阵表示为X₁=A₁X，其中A₁∈R^d×D是利用PCA获得的投影矩阵。本实施例中，d=100。

接下来，参照步骤S2对训练样本集进行二次降维，得到X₂=AX₁中的 $A=\mathrm{\β}{(X_1{{\mathrm{MX}}_1}^T+{\mathrm{\βX}}_1{X_1}^T)}^{-1}{X}_1{\hat{Y}}^T.$ 本实施例中，β=10。

最后按照步骤S3，利用K近邻分类器，对二次降维测试样本进行分类。本实施例中K=3，则在二次降维训练样本中找到3个和二次降维测试样本相邻的样本，将占比较高的二次降维训练样本的类别，赋予测试样本。

本实施例还使用PCA及NPE方法分别获取了Att_faces人脸数据集的识别率，识别率分别为，PCA为73%，NPE为79%。本发明的邻域保持判别嵌入人脸识别方法识别率为91%，实验效果明显优于现有的降维方法。

图2是本发明较佳实施例提供的邻域保持判别嵌入人脸识别系统结构示意图。如图2所示，本发明较佳实施例提供的邻域保持判别嵌入人脸识别系统包括预处理降维模块1、二次降维模块2及分类模块3，所述预处理降维模块1连接二次降维模块2，所述二次降维模块2连接分类模块3。所述预处理降维模块1，用于以主成分分析方法对训练样本集进行初始降维。所述二次降维模块2，用于对已进行初始降维的训练样本进行二次降维，得到二次降维训练样本。所述分类模块3，用于在二次降维训练样本集中，利用K近邻分类器，对二次降维测试样本进行分类。关于上述系统的操作流程同上述方法所述，故于此不再赘述。

综上所述，根据本发明较佳实施例提供的邻域保持判别嵌入人脸识别方法及系统，通过对人脸训练样本集进行初始降维，再寻找最优变换后进行二次降维，为类别信息的判断提前做好降维准备。同时，在二次降维训练样本中查找与二次降维测试样本相邻的样本，并将最多的二次降维训练样本的类别赋予测试样本。如此，在低维空间中保持原空间的邻域信息及类别信息的前提下，提高了人脸数据集识别的效率。

对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (8)

1.一种邻域保持判别嵌入人脸识别方法，其特征在于，包括以下步骤：

S1、对已有的人脸训练样本集进行初始降维，并根据训练样本矩阵确定初始降维训练样本矩阵；

S2、寻找最优变换AX₁，令二次降维训练样本矩阵Y＝AX₁，并获取二次降维训练样本集，其中A表示的含义是第二次降维得到的最优变换矩阵，X₁表示的含义是第一次降维后的训练样本矩阵，Y是由y_i组成的矩阵，是二次降维的样本矩阵；

S3、建立测试样本并将其进行二次降维获得二次降维测试样本，在二次降维训练样本中查找与所述二次降维测试样本相邻的样本，并将占比较高的二次降维训练样本的类别赋予所述测试样本；

在步骤S2中，使得其中β∈(0,+∞)，重构权值系数矩阵W通过求解获得，表示的含义是初始降维后的样本数据，表示的含义是分类信息矩阵。

2.根据权利要求1所述的方法，其特征在于，在步骤S1中，若人脸训练样本集为x_i∈R^D,v_i＝{1,2,…,c}，进行所述初始降维后获得其中，D是样本的维数，l是样本数据的个数，c是数据的类别数。

3.根据权利要求1所述的方法，其特征在于，在步骤S1中，若训练样本矩阵为X＝[x₁,x₂,...,x_l]∈R^D×l，则初始降维训练样本矩阵为X₁＝A₁X，其中A₁∈R^d×D是利用PCA获得的投影矩阵，其中d表示的含义是初次降维过程中所降到的维数，D表示的含义是原始样本的维数，l表示的含义是样本数据的个数。

4.根据权利要求2所述的方法，其特征在于，在步骤S1中，创建具有分类信息的矩阵其中且当v_i＝j时，的第j个分量为1，否则为0。

5.根据权利要求1所述的方法，其特征在于，在步骤S1中，初始降维采用主成分分析方法。

6.根据权利要求1所述的方法，其特征在于，在步骤S2中，所述二次降维训练样本集为且其中M＝(I-W)^T(I-W)，I为单位矩阵，l表示的含义是样本数据的个数。

7.根据权利要求1所述的方法，其特征在于，在步骤S3中，利用K近邻分类器，在二次降维训练样本中找到K个和二次降维测试样本相邻的样本，并挑选占比较高的二次降维训练样本的类别。

8.一种邻域保持判别嵌入人脸识别系统，其特征在于，包括预处理降维模块、二次降维模块及分类模块，所述预处理降维模块连接二次降维模块，所述二次降维模块连接分类模块，

所述预处理降维模块，用于以主成分分析方法对训练样本集进行初始降维；

所述二次降维模块，用于对已进行初始降维的训练样本进行二次降维，得到二次降维训练样本，寻找最优变换AX₁，令二次降维训练样本矩阵Y＝AX₁，并获取二次降维训练样本集，其中A表示的含义是第二次降维得到的最优变换矩阵，X₁表示的含义是第一次降维后的训练样本矩阵，Y是由y_i组成的矩阵，是二次降维的样本矩阵，使得其中β∈(0,+∞)，重构权值系数矩阵W通过求解获得，其中表示的含义是初始降维后的样本数据，表示的含义是分类信息矩阵；

所述分类模块，用于在二次降维训练样本集中，利用K近邻分类器，对二次降维测试样本进行分类。