CN103793704B - 一种监督邻域保持嵌入人脸识别方法和系统及人脸识别器 - Google Patents

Abstract

本申请公开了一种监督邻域保持嵌入人脸识别方法和系统及人脸识别器，所述方法包括：对训练样本集进行初始降维，获得一次降维训练样本集和一次降维训练样本矩阵；采用类别散度矩阵对一次降维训练样本集中的每个训练点的类别信息进行标记；采用二次投影矩阵对一次降维训练样本矩阵进行二次降维，得到二次降维训练样本矩阵，和二次降维训练样本集；建立测试样本，对所述测试验本进行两次降维，得到二次降维测试样本；提取与所述二次降维测试样本距离最近的二次降维训练样本，并把所述二次降维训练样本的类别标签赋予所述二次降维测试样本。相对于现有技术的降维方法，采用本申请提供的人脸识别方法，可以实现有监督学习，并且具有较高的识别率。

Description

一种监督邻域保持嵌入人脸识别方法和系统及人脸识别器

技术领域

本申请涉及人脸检测技术领域，更具体地说，涉及一种监督邻域保持嵌入人脸识别方法和系统及人脸识别器。

背景技术

人脸识别是基于人的脸部特征信息进行身份识别的一种生物识别技术，它由计算机分析人脸图像，从图像中提取有效信息并自动鉴别，人脸识别技术广泛应用于安全系统及人机交互等方面，已成为计算机视觉和模式识别领域中重要的研究课题之一。

通常而言人脸图像都是以高维数据存储的，需要将训练数据集投影到低维空间进行降维。

传统的降维算法分为线性降维及非线性降维，经典的线性降维算法有主分量分析(PCA)、线性判别分析(LDA)等。线性降维算法通过对训练样本的学习得到映射矩阵，再通过线性运算将高维空间的数据映射至低维空间，算法计算复杂度低，适合实时应用。但是，它对非线性分布数据的降维效果不佳。对于非线性分布的数据，我们可以采用流形学习的降维方法。

因此，又出现了邻域保持嵌入(Neighborhood Preserving Embedding，NPE)算法，该方法适用于分布在流形上的数据，已经被成功地应用到人脸识别领域。但是NPE算法在进行线性重构时并没有对邻域种类进行判断，导致识别率降低。

发明内容

有鉴于此，本申请提供一种能够在进行线性重构时可以对邻域种类进行判断，从而提高人脸别率降的方法、系统以及人脸识别器。。

为了实现上述目的，现提出的方案如下：

一种监督邻域保持嵌入人脸识别方法，所述方法可以包括：

对训练样本集进行初始降维，获得一次降维训练样本集和一次降维训练样本矩阵；

采用类别散度矩阵对一次降维训练样本集中的每个训练点的类别信息进行标记；

采用二次投影矩阵对一次降维训练样本矩阵进行二次降维，得到二次降维训练样本矩阵，和二次降维训练样本集；

建立测试样本，对所述测试样本进行两次降维，得到二次降维测试样本；

提取与所述二次降维测试样本距离最近的二次降维训练样本，并把所述二次降维训练样本的类别标签赋予所述二次降维测试样本。

其特征在于，上述方法中，所述对已有训练样本集进行初始降维，获得一次降维训练样本集和一次降维训练样本矩阵，包括：

设训练样本集为其中d为样本的维数，n为样本数据的个数，C为数据的类别数；

训练样本矩阵为X＝[x₁,x₂,...,x_n]∈R^d×n；

对训练样本集进行初始降维，获得一次降维训练样本集和一次降维训练样本矩阵X₁＝P₁ ^TX，其中，P₁是由PCA方法生成的投影矩阵，且P₁∈R^d×d1。

优选的，上述方法中，所述采用类别散度矩阵对一次降维训练样本集中的每个训练点的类别信息进行标记，包括：

构建并采用类别散度矩阵H标记每个训练点的类别信息；

具体的，对于训练样本若在所述的k近邻内且与具有相同的类别标签，则H_ij＝-1；否则H_ij＝+1；

具体的，所述H定义为：

优选的，上述方法中，所述二次降维的目标优化函数为：

$\begin{array}{cc}\underset{P}{max}& \frac{\underset{i,j}{\Σ}\left|\right|P^T{\stackrel{\‾}{x}}_i-P^T{\stackrel{\‾}{x}}_j|{|}^2{H}_{ij}}{\underset{i=1}{\overset{n}{\Σ}}\left|\right|P^T{\stackrel{\‾}{x}}_i-\underset{j=1}{\overset{n}{\Σ}}{W}_{ij}{P}^T{\stackrel{\‾}{x}}_j|{|}^2}\end{array}---\left(1\right)$

其中重构权值系数矩阵W可通过最小二乘方法求得。

优选的，上述方法中，对所述公式(1)中的二次投影矩阵P求解可以通过对矩阵(2)进行特征分解得到；

XLX^Tα＝XMX^Tα (2)

其中M＝(I-W)^T(I-W)，I为单位矩阵，L＝D-H，并且所述二次投影矩阵P为特征分解后的最大的特征值所对应的特征向量。

优选的，上述方法中，所述二次降维训练样本矩阵：可以包括：X₂＝P^TX₁；所述二次降维训练样本集为：其中

优选的，上述方法中，所述二次降维测试样本为：x'＝P^TP₁ ^Tx。

一种监督邻域保持嵌入人脸识别系统，包括：预处理模块、二次降维模块和分类模块；

所述预处理模块，用于对训练样本集进行初始降维，获得一次降维训练样本集和一次降维训练样本矩阵，采用类别散度矩阵对一次降维训练样本集中的每个训练点的类别信息进行标记；

所述二次降维模块，用于采用二次投影矩阵对一次降维训练样本矩阵进行二次降维，得到二次降维训练样本矩阵，和二次降维训练样本集；

所述分类模块，用于建立测试样本，对所述测试样本进行两次降维，得到二次降维测试样本，找到与所述二次降维测试样本距离最近的二次降维训练样本，并把所述二次降维训练样本的类别标签赋予所述二次降维测试样本。

一种人脸识别器，包括上述任意一项公开的监督邻域保持嵌入人脸识别系统。

从上述的技术方案可以看出，本申请公开的人脸识别方法通过，对训练样本集进行初始降维，后采用类别散度矩阵对一次降维训练样本集中的每个训练点的类别信息进行标记，再进行二次降维，最后提取与所述二次降维测试样本距离最近的二次降维训练样本，并把所述二次降维训练样本的类别标签赋予所述二次降维测试样本。所述类别信息的引入，使所述人脸识别方法实现有监督学习，从而提高了识别率。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本申请实施例公开的一种监督邻域保持嵌入人脸识别方法的流程图；

图2为本申请实施例公开的一种监督邻域保持嵌入人脸识别系统的结构图；

图3为本申请实施例公开的预处理模块的结构图；

图4为本申请实施例公开的分类模块的结构图。

具体实施方式

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

为了在人脸识别过程中能够对领域的种类进行判断，从而进一步提高识别率，本申请提供了一种监督邻域保持嵌入人脸识别方法和系统，当然在这里所述人脸识别并不一定指的是具体的人体面部的识别，其可以统指生物识别技术。

为了实现上述目的，现本申请提供一种监督邻域保持嵌入人脸识别方法。

图1为本申请公开的监督邻域保持嵌入人脸识别方法的流程图。

所述监督邻域保持嵌入人脸识别方法可以包括：

步骤S101：对训练样本集进行初始降维，获得一次降维训练样本集和一次降维训练样本矩阵。

具体而言，步骤S101中的所述方法又可以具体包括：

设已有的人脸识别训练样本集为其中d为样本的维数，n为样本数据的个数，C为数据的类别数，同时可使得训练样本矩阵为X＝[x₁,x₂,...,x_n]∈R^d×n。

采用PCA方法对训练样本集进行初始降维，获得一次降维训练样本集所述d₁为一次降维训练样本集中样本的维数，其中初始降维后的一次降维训练矩阵可以表示为X₁＝P₁ ^TX，其中P₁是由PCA方法生成的投影矩阵，且P₁∈R^d×d1。

步骤S102：采用类别散度矩阵对一次降维训练样本集中的每个训练点的类别信息进行标记。

在初始降维过程中，由于属于同一类的训练样本会分布在一个局部的流形上，因此本申请提供的方法还可以构建一个类别散度矩阵H，所述类别散度矩阵H用于标记一次降维训练样本集中的每个训练点的类别信息。

具体而言所述采用散度矩阵对每个训练点的类别信息进行标记的过程可以为：对训练样本点判断是否在的k近邻内，如果是，判断所述是否与属于同一类(具有相同的类别标签)，如果是则令H_ij＝-1；否则H_ij＝+1。其中H采用公式定义如下所示：

所述表示的邻域集合，表示的邻域集合。

步骤S103：采用二次投影矩阵对一次降维训练样本矩阵进行二次降维，得到二次降维训练样本矩阵，和二次降维训练样本集；

在本发明提供的二次降维过程中，还可以对由PCA方法初始降维后获得的一次降维训练样本矩阵X₁，确定一个最优变换矩阵P，采用所述最优变换矩阵将一次降维训练样本集投影到相对低维的特征空间中。

为了不破坏原始高维数据局部几何结构的同时，使处于不同子流形上的样本点尽可能分开，可以将其目标函数优化为：

$\begin{array}{cc}\underset{P}{max}& \frac{\underset{i,j}{\Σ}\left|\right|P^T{\stackrel{\‾}{x}}_i-P^T{\stackrel{\‾}{x}}_j|{|}^2{H}_{ij}}{\underset{i=1}{\overset{n}{\Σ}}\left|\right|P^T{\stackrel{\‾}{x}}_i-\underset{j=1}{\overset{n}{\Σ}}{W}_{ij}{P}^T{\stackrel{\‾}{x}}_j|{|}^2}\end{array}---\left(1\right)$

其中公式(1)中的重构权值系数矩阵W为已知的，具体的，所述重构权值系数矩阵W可以用最小二乘方法求得。

在对所述公式(1)的求解的过程中，需要确定二次投影矩阵P以使所述目标优化函数的求解结果最优，所述二次投影矩阵P，可以通过对矩阵XLX^Tα＝XMX^Tα进行特征分解得到，其中所述M＝(I-W)^T(I-W)，I为单位矩阵，L＝D-H，特征分解后的最大的特征值所对应的特征向量组成的矩阵即为二次投影矩阵P。

求得二次投影矩阵P后，再对所述一次降维训练样集本进行二次降维，得到二次降维训练样本矩阵X₂＝P^TX₁，其中，二次降维训练样本集表示为其中d₂为二次降维训练样本集中样本的维数。

步骤S104：建立测试样本，对所述测试样本进行两次降维，得到二次降维测试样本；

具体的，该步骤可以包括：在对二次投影后的训练样本进行测试时，首先需要输入一个测试样本x，然后对所述测试样本x进行两次降维后得到二次降维测试样本x'＝P^TP₁ ^Tx。

步骤S105：提取与所述二次降维测试样本距离最近的二次降维训练样本，并把所述二次降维训练样本的类别标签赋予所述二次降维测试样本。

下面以具体实施例来说明本发明方法的实现过程。

可以理解的是本发明的所述方法可以在MATLAB软件中进行实验，当然也可以是采用其他具有汇编功能的编程软件，例如C++、DSP等，在此不必过多论述。在采用MATLAB软件对本发明提供的方法进行论述时，所述已有的人脸识别训练样本集为可以采用UMIST人脸数据集为例。其中所述UMIST人脸数据库中可以包含20个人的574幅图像，在采用MATLAB软件进行实验时，可选取290幅不同人脸图像作为训练图像，剩余的284幅图像作为测试图像。

首先，设已有人脸训练样本集为在采用MATLAB软件对本发明提供的方法进行论述时，所述d＝10304，n＝290，C＝20。

令训练样本矩阵为X＝[x₁,x₂,...,x_n]∈R^d×n。通过PCA方法对所述训练样本集进行初始降维，获得一次降维训练样本集在本实施例中所述d₁＝100。初始降维后的一次降维训练样本矩阵可以表示为X₁＝P₁ ^TX，然后构建类别散度矩阵H。所述类别散度矩阵H定义如下所示：

在本实施例中k＝15。

其次，获得一次降维训练样本矩阵的目标函数：

$\begin{array}{cc}\underset{P}{max}& \frac{\underset{i,j}{\Σ}\left|\right|P^T{\stackrel{\‾}{x}}_i-P^T{\stackrel{\‾}{x}}_j|{|}^2{H}_{ij}}{\underset{i=1}{\overset{n}{\Σ}}\left|\right|P^T{\stackrel{\‾}{x}}_i-\underset{j=1}{\overset{n}{\Σ}}{W}_{ij}{P}^T{\stackrel{\‾}{x}}_j|{|}^2}\end{array}$

通过对XLX^Tα＝XMX^Tα进行特征分解获得二次投影矩阵P，其中P由对XLX^Tα＝XMX^Tα进行特征分解后的最大的特征值所对应的特征向量组成，在本实施例中可以令所述d₂＝20。

采用得到的二次投影矩阵P对所述一次降维训练样本矩阵进行二次降维，二次降维后的二次降维训练样本矩阵为X₂＝P^TX₁，二次降维训练样本集为

最后，输入一个测试样本x，对所述测试样本x进行二次降维后得到二次降维测试样本矩阵x'＝P^TP₁ ^Tx，在二次降维训练样本集中，利用分类器对二次降维测试样本进行分类。

因为本实验中所述测试样本有284个，所以需要对284个测试样本都进行分类，最终经试验得到本次试验的识别率为93.31％。

参见表1，表1为三种算法在对UMIST人脸数据集上的分类性能对比，由表1可以看出，由NPE对所述UMIST人脸数据集进行分类结果的识别率为91.55％，由LPP算法对所述UMIST人脸数据集进行分类结果的识别率为86.27％，明显可见，本申请提供的降维方法明显优于现有的降维方法，具有较高的识别率。

表1

对应于上述方法，本申请还提供了一种监督邻域保持嵌入人脸识别系统。

图2为本申请提供的一种监督邻域保持嵌入人脸识别系统的结构图，参见图2，所述系统可以包括预处理模块1、二次降维模块2和分类模块3。

所述预处理模块1，用于对训练样本集进行初始降维，获得一次降维训练样本集和一次降维训练样本矩阵，采用类别散度矩阵对一次降维训练样本集中的每个训练点的类别信息进行标记。

图3为所述预处理模块的结构图，参见图3，其中，所述预处理模块1又可以包括：一次降维模块101和类别信息标记模块102

一次降维模块101，用于对训练样本集进行初始降维，获得一次降维训练样本集和一次降维训练样本矩阵。

类别信息标记模块102，用于采用类别散度矩阵对一次降维训练样本集中的每个训练点的类别信息进行标记。

所述二次降维模块2，用于采用二次投影矩阵对一次降维训练样本矩阵进行二次降维，得到二次降维训练样本矩阵，和二次降维训练样本集；

所述分类模块3，用于建立测试样本，对所述测试样本进行两次降维，得到二次降维测试样本，找到与所述二次降维测试样本距离最近的二次降维训练样本，并把所述二次降维训练样本的类别标签赋予所述二次降维测试样本。

图4为本申请实施例中公开的分类模块的结构图，参见图4，所述分类模块3可以包括：测试样本降维模块301和类别标签赋予模块302。

所述测试样本降维模块301，用于对所述测试样本进行两次降维，得到二次降维测试样本；

所述类别标签赋予模块302，用于提取与所述二次降维测试样本距离最近的二次降维训练样本，并把所述二次降维训练样本的类别标签赋予所述二次降维测试样本。

可以理解的是，本申请提公的所述系统的具体工作过程可以借鉴上述方法中提到的工作过程，在此不必累述。

当然，对应于上述系统，本申请还提供的一种人脸识别器，所述人脸识别器可以包括应用本申请上述任意实施例公开的系统的人脸识别器。

最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个…...”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。

对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下，在其它实施例中实现。因此，本申请将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (7)

1.一种监督邻域保持嵌入人脸识别方法，其特征在于，所述方法包括：

对训练样本集进行初始降维，获得一次降维训练样本集和一次降维训练样本矩阵；

采用类别散度矩阵对一次降维训练样本集中的每个训练点的类别信息进行标记；

采用二次投影矩阵对一次降维训练样本矩阵进行二次降维，得到二次降维训练样本矩阵，和二次降维训练样本集；

建立测试样本，对所述测试样本进行两次降维，得到二次降维测试样本；

提取与所述二次降维测试样本距离最近的二次降维训练样本，并把所述二次降维训练样本的类别标签赋予所述二次降维测试样本；

所述对训练样本集进行初始降维，获得一次降维训练样本集和一次降维训练样本矩阵，包括：

设训练样本集为c_i＝{1,2,…,C}，其中d为样本的维数，n为样本数据的个数，C为数据的类别数；

训练样本矩阵为X＝[x₁,x₂,...,x_n]∈R^d×n；

对训练样本集进行初始降维，获得一次降维训练样本集和一次降维训练样本矩阵X₁＝P₁ ^TX，其中，P₁是由PCA方法生成的投影矩阵，所述d₁为一次降维训练样本集中样本的维数，且P₁∈R^d×d1；

采用类别散度矩阵对一次降维训练样本集中的每个训练点的类别信息进行标记，包括：

构建并采用类别散度矩阵H标记每个训练点的类别信息；

具体的，对于训练样本若在所述的k近邻内且与具有相同的类别标签，则H_ij＝-1；否则H_ij＝+1；

具体的，所述H定义为：

所述表示的邻域集合，表示的邻域集合。

2.根据权利要求1中的所述方法，其特征在于，所述二次降维的目标优化函数为：

$\begin{array}{cc}\underset{P}{\max }& \frac{\underset{i,j}{\Σ}\left|\right|P^T{\stackrel{\‾}{x}}_i-P^T{\stackrel{\‾}{x}}_j|{|}^2{H}_{ij}}{\underset{i=1}{\overset{n}{\Σ}}\left|\right|P^T{\stackrel{\‾}{x}}_i-\underset{j=1}{\overset{n}{\Σ}}{W}_{ij}{P}^T{\stackrel{\‾}{x}}_j|{|}^2}\end{array}---\left(1\right)$

所述P为二次投影矩阵，W_ij为权值系数矩阵W中第i行第j列的权值系数；

其中重构权值系数矩阵W可通过最小二乘方法求得。

3.根据权利要求2中的所述方法，其特征在于，包括：

二次投影矩阵P通过对矩阵(2)进行特征分解得到；

XLX^T＝XMX^T (2)

其中M＝(I-W)^T(I-W)，I为单位矩阵，L＝D-H，并且所述二次投影矩阵P为特征分解后的最大的特征值所对应的特征向量。

4.根据权利要求2中的所述方法，其特征在于，所述二次降维训练样本矩阵：包括：X₂＝P^TX₁；所述二次降维训练样本集为：其中d₂为二次降维训练样本集中样本的维数。

5.根据权利要求4中的所述方法，其特征在于，所述二次降维测试样本为：x'＝P^TP₁ ^Tx，所述x为测试样本。

6.一种监督邻域保持嵌入人脸识别系统，其特征在于，包括：预处理模块、二次降维模块和分类模块；

所述预处理模块，用于对训练样本集进行初始降维，获得一次降维训练样本集和一次降维训练样本矩阵，采用类别散度矩阵对一次降维训练样本集中的每个训练点的类别信息进行标记；所述对训练样本集进行初始降维，获得一次降维训练样本集和一次降维训练样本矩阵，包括：设训练样本集为c_i＝{1,2,…,C}，其中d为样本的维数，n为样本数据的个数，C为数据的类别数；训练样本矩阵为X＝[x₁,x₂,...,x_n]∈R^d×n；对训练样本集进行初始降维，获得一次降维训练样本集和一次降维训练样本矩阵X₁＝P₁ ^TX，其中，所述d₁为一次姜维训练样本集中样本的维数，P₁是由PCA方法生成的投影矩阵，且P₁∈R^d×d1；采用类别散度矩阵对一次降维训练样本集中的每个训练点的类别信息进行标记，包括：构建并采用类别散度矩阵H标记每个训练点的类别信息；具体的，对于训练样本若在所述的k近邻内且与具有相同的类别标签，则H_ij＝-1；否则H_ij＝+1；具体的，所述H定义为：所述表示的邻域集合，表示的邻域集合；

所述二次降维模块，用于采用二次投影矩阵对一次降维训练样本矩阵进行二次降维，得到二次降维训练样本矩阵，和二次降维训练样本集；

所述分类模块，用于建立测试样本，对所述测试样本进行两次降维，得到二次降维测试样本，找到与所述二次降维测试样本距离最近的二次降维训练样本，并把所述二次降维训练样本的类别标签赋予所述二次降维测试样本。

7.一种人脸识别器，其特征在于，包括权利要求6中的所述人脸识别系统。