CN112070023B - 一种邻域先验嵌入型协同表示模式识别方法 - Google Patents

Abstract

本发明提出了一种邻域先验嵌入型协同表示模式识别方法，用于解决现有人脸识别方法准确率偏低、鲁棒性差、泛化能力差、小样本过拟合的技术问题。其步骤为：首先，对人脸数据库中的人脸图像进行预处理，得到训练样本和测试样本；其次，根据训练样本和测试样本获取测试样本的近邻先验信息；然后根据测试样本的近邻先验信息构建基于邻域先验嵌入型协同表示模型；最后，对基于邻域先验嵌入型协同表示模型进行求解，得到最优编码系数向量，并根据最优编码系数向量对测试样本进行分类。本发明考虑样本的局部一致性信息的重要性，把获取的测试样本的近邻先验嵌入到原有的协同表示模型中，从而提高分类器的分类准确率和鲁棒性、防止过拟合。

Description

一种邻域先验嵌入型协同表示模式识别方法

技术领域

本发明涉及人脸识别技术领域，特别是指一种邻域先验嵌入型协同表示模式识别方法。

背景技术

人脸识别由于其在信息安全，视频监控，城市轨道交通安全等的广泛应用，已成为计算机视觉领域热门的研究课题。然而现实生活中，真实的拍摄环境比如多变的表情和光照，不同的姿势和遮挡等因素会降低面部图像的质量，使得人脸识别更加困难。另外，需求的多样性和应用场景的复杂性使得设计灵活有效的分类器变得更具挑战。人脸识别系统一般采用高质量的特征提取技术，系统的成功很大程度上取决于分类器的性能。因此，设计出功能强大的分类器对人脸识别系统的高效运行至关重要。

目前已有的基于表示的分类器方法存在准确率偏低、鲁棒性差、泛化能力差、小样本过拟合等问题，尚无法对人脸做到高效精确的分类与识别。

发明内容

针对上述背景技术中存在的缺陷，本发明提出了一种邻域先验嵌入型协同表示模式识别方法，解决了现有人脸识别方法存在准确率偏低、鲁棒性差、泛化能力差、小样本过拟合的技术问题。

本发明的技术方案是这样实现的：

一种邻域先验嵌入型协同表示模式识别方法，其步骤如下：

步骤一、对总类别数目为K的人脸数据库中的人脸图像进行预处理，得到K类训练样本和K类测试样本；

步骤二、根据训练样本和测试样本获取测试样本的近邻先验信息；

步骤三、根据测试样本的近邻先验信息构建基于邻域先验嵌入型协同表示模型；

步骤四、对基于邻域先验嵌入型协同表示模型进行求解，得到最优编码系数向量，并根据最优编码系数向量对测试样本进行分类。

所述对总类别数目为K的人脸数据库中的人脸图像进行预处理，得到K类训练样本和K类测试样本的方法为：

S11、在人脸数据库中随机选择M幅人脸图像作为第一次训练样本，人脸数据库中剩余的人脸图像作为第一次测试样本；在人脸数据库中随机选取4次，得到4组K类第一次训练样本和第一次测试样本；

S12、分别将第一次训练样本和第一次测试样本中的人脸图像转化为列向量数据，得到第二次训练样本和第二次测试样本；

S13、通过主成分分析方法对第二次训练样本和第二次测试样本中的人脸图像进行降维，并对降维后的第二次训练样本和第二次测试样本中的人脸图像进行归一化处理，得到训练样本和测试样本。

根据训练样本和测试样本获取测试样本的近邻先验信息的方法包括两种方法，分别为基于最近质心的搜索方法和基于最近子空间分类的搜索方法；

基于最近质心的搜索方法：分别计算K类训练样本的质心，根据测试样本与每类训练样本的质心的距离搜索测试样本的近邻先验信息；

其中，z表示测试样本的近邻先验信息，y表示测试样本中的测试向量，测试向量y的大小为n×1，

表示第k类训练样本的质心，||·||₂表示向量的2范数；

基于最近子空间分类的搜索方法：根据测试样本与每类训练样本线性组合间的距离搜索测试样本的近邻先验信息；

其中，X_k表示第k类训练样本对应的训练样本矩阵，训练样本矩阵X_k的大小为n×m，m表示第k类训练样本中的人脸图像的数量，

表示NSC搜索方法中第k类训练样本矩阵X_k对应的编码系数向量。

所述基于邻域先验嵌入型协同表示模型为：

其中，

表示目标函数f(c)取最小值时变量c的值，c表示训练样本矩阵X对应的编码系数向量，y是测试样本中的测试向量；X是训练样本矩阵，训练样本矩阵X的大小为n×M，M表示训练样本中所有类别的人脸图像的数量，λ＞0和0≤γ＜1是正则化参数，c^*是最优编码系数向量。

所述对基于邻域先验嵌入型协同表示模型进行求解，得到最优编码系数向量的方法为：

设定正则化参数λ∈{0.0001，0.001，0.01，0.1，1，10，100}，正则化参数γ在区间[0.1，0.8]随机选取一个值；

计算基于邻域先验嵌入型协同表示模型关于c的偏导，并令c的偏导数为零，得到：

(1-γ)(-2X^Ty+2X^TXc)+γ(-2X^Tz+2X^TXc)+2λc＝0，

c的偏导数为零时对应的c的值为最优编码系数向量，即：

c^*＝P[(1-γ)y+γz]，

其中，P＝(X^TX+λI)^-1X^T是大小为M×M的投影矩阵，I是大小为M×M的单位矩阵。

所述根据最优编码系数向量对测试样本进行分类的方法为：

根据最小重构误差原则对测试样本进行分类预测：

其中，label(y)是测试样本中的测试向量y的类别，X_k是第k类训练样本对应的训练样本矩阵，

是最优编码系数向量c^*对应的X_k上的最优编码子向量。

本技术方案能产生的有益效果：本发明考虑到样本的局部一致性信息的重要性，把获取的测试样本的近邻先验嵌入到原有的协同表示模型中，从而提高分类器的分类准确率和鲁棒性、防止过拟合。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明基于的样本局部一致性信息示意图。

图2为本发明的流程图。

图3为本发明的人脸识别实例图。

图4为本发明与协同表示方法的人脸识别准对比图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有付出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

图1为本发明基于的样本局部一致性信息示意图。其中样本的局部一致性是指类似的样本具有类似的编码。

图1左边部分中前两幅人脸图像来自同一个人，最后一幅来自另一个人。图1右边部分清晰地显示出，来自同一个人的两幅图像之间编码的相似度高于另一幅图像，也即是类似的样本具有类似的编码。本发明将这一重要的局部一致性信息纳入到分类器建模过程中。具体实施方法如图2所示。

如图2所示，本发明实施例提供了一种邻域先验嵌入型协同表示模式识别方法，其步骤如下：

步骤一、对总类别数目为K的人脸数据库中的人脸图像进行预处理，得到K类训练样本和K类测试样本；具体方法为：

S11、在人脸数据库中随机选择一部分人脸图像作为第一次训练样本，人脸数据库中剩余的人脸图像作为第一次测试样本，在人脸数据库中共随机选取4次，得到4组K类第一次训练样本和第一次测试样本；

S12、分别将第一次训练样本和第一次测试样本中的人脸图像转化为列向量数据，得到第二次训练样本和第二次测试样本；

S13、通过主成分分析方法对第二次训练样本和第二次测试样本中的人脸图像进行降维，并对降维后的第二次训练样本和第二次测试样本中的人脸图像进行归一化处理，得到训练样本和测试样本。

步骤二、根据训练样本和测试样本获取测试样本的近邻先验信息；获取测试样本的近邻先验信息的方法包括两种方法，分别为基于最近质心(NC)的搜索方法和基于最近子空间分类(NSC)的搜索方法；基于最近质心(NC)和基于最近子空间分类(NSC)来搜索测试样本的近邻先验信息用于后续的建模过程，并从最终的实验结果上对比它们的优劣性。

基于最近质心(NC)的搜索方法：首先计算K类训练样本的质心，根据测试样本与每类训练样本的质心的距离最小原则搜索测试样本的近邻先验信息；

其中，z表示测试样本的近邻先验信息，y表示测试样本中的测试向量，测试向量y的大小为n×1，

表示第k类训练样本的质心，||·||₂表示向量的2范数；

基于最近子空间分类(NSC)的搜索方法：根据测试样本与每类训练样本线性组合间的距离最小原则搜索测试样本的近邻先验信息；

其中，X_k表示第k类训练样本对应的训练样本矩阵，训练样本矩阵X_k的大小为n×m，m表示第k类训练样本中的人脸图像的数量，

表示NSC搜索方法中第k类训练样本矩阵X_k对应的编码系数向量。具体实施过程中将两种方法得到的近邻先验信息z保存下来，用于后续建模。

步骤三、根据测试样本的近邻先验信息构建基于邻域先验嵌入型协同表示模型；样本的局部一致性使得训练样本的最优线性组合应同时逼近测试样本和它的近邻。将测试样本的近邻先验信息z纳入到协同表示建模过程中，得到基于邻域先验嵌入型协同表示模型中。具体实施过程中，把预处理后的维度为n×1的测试样本向量y、n×M的训练样本集矩阵X、n×1的近邻先验信息z输入到基于邻域先验嵌入型协同表示模型中。

所述基于邻域先验嵌入型协同表示模型为：

其中，

表示目标函数f(c)取最小值时变量c的值，c表示训练样本矩阵X对应的编码系数向量，y是测试样本中的测试向量；X是训练样本矩阵，训练样本矩阵X的大小为n×M，M表示训练样本中所有类别的人脸图像的数量；z是测试样本的近邻先验信息，c^*是最优编码系数向量；邻域先验嵌入型协同表示模型中的两个正则化参数λ＞0和0≤γ＜1用于控制模型的复杂度，对模型的分类预测结果至关重要，在进行模型求解时要首先确定λ和γ的值。

步骤四、对基于邻域先验嵌入型协同表示模型进行求解，得到最优编码系数向量，并根据最优编码系数向量对测试样本进行分类。

对基于邻域先验嵌入型协同表示模型进行求解的方法为：

设定正则化参数λ∈{0.0001，0.001，0.01，0.1，1，10，100}，正则化参数γ在区间[0.1，0.8]随机选取一个值；

求解基于邻域先验嵌入型协同表示模型也即是计算模型的目标函数关于c的偏导数为零时所对应的c的值。因此计算基于邻域先验嵌入型协同表示模型关于c的偏导，并令c的偏导数为零，得到：

(1-γ)-2X^Ty+2X^TXc)+γ(-2X^Tz+2X^TXc)+2λc＝0，

c的偏导数为零时对应的c的值为最优编码系数向量，即：

c^*＝P[(1-γ)y+γz]，

其中，P＝(X^TX+λI)^-1X^T是大小为M×M的投影矩阵，I是大小为M×M的单位矩阵。投影矩阵P只与训练样本矩阵X有关，与测试样本中的测试向量y和它的近邻先验信息z无关，所以在计算c^*之前先把P储存下来。一旦输入测试样本中的测试向量y，则可利用步骤二获取它的近邻先验信息z，进而利用步骤四得到M×1最优编码系数向量c^*。

所述根据最优编码系数向量对测试样本进行分类的方法为：

根据最小重构误差原则对测试样本进行分类预测：

其中，label(y)是测试样本中的测试向量y的类别，X_k是第k类训练样本对应的训练样本矩阵，

是最优编码系数向量c^*对应的X_k上的最优编码子向量。

根据步骤四得到的分类结果对基于邻域先验嵌入型协同表示模型进行性能评估；首先，对4次随机选取的测试样本的预测准确率取平均值，获得平均预测准确率；其次，统计测试样本的每次预测运行时间，得到平均预测运行时间；最后，根据平均预测准确率和平均预测运行时间对基于邻域先验嵌入型协同表示模型进行性能评估。

图3为本发明的人脸识别实例图，具体实施步骤为：

首先，在总类别数目为40的ORL人脸数据库中，随机挑选出一幅属于第2类的图像，经预处理后得到测试样本y；然后，利用NC或NSC方法搜索y的近邻得到z；接下来，计算模型的最优编码系数c^*中的(1-γ)y+γz；紧接着，将储存的投影矩阵P与(1-γ)y+γz做矩阵乘法得到c^*；最后，获取每类的重构留数直方图。本例中的重构留数直方图显示测试图像被分到了第2类，也即本发明实现了此人脸图像的正确分类。

研究发现近邻先验嵌入型协同表示方法能够消除过拟合、提高人脸识别准确率。图4为本发明与协同表示方法的人脸识别对比图，其中，图的左边是来自于ORL数据库中第5类的一个测试样本，右边红框中第一行分别表示利用协同表示方法得到的最优编码系数和重构留数直方图，第二行和第三行分别是本发明中采用NC和NSC提取近邻先验获得的结果。

从图4看出，协同表示方法把第5类的测试样本错分到了第40类；本发明采用的两种方法都实现了正确分类。

关于本发明的运行时间问题，分析本发明所用方法的时间计算复杂度，具体的分析结果如表1所示。

表1本发明方法CRC-NC、CRC-NSC与协同表示方法(CRC)的时间计算复杂度对比

分析发现，本发明的时间计算复杂度与经典的协同表示方法属于同一量级，也即是说本发明的预测运行时间与协同表示方法的时间是相当的。具体用ORL数据库的运行时间加以说明。

表2本发明与其他方法在ORL数据库上的运行时间对比

由表2可看出本发明采用的方法与协同表示方法的运行时间基本相当。

综上所述，本发明提供的技术方法通过对人脸图像的测试样本与训练样本进行预处理、设计基于最近质心和最近子空间的搜索方法获取测试样本的近邻先验、构建基于邻域先验嵌入型协同表示模型、求解分类器模型对测试样本进行识别的技术手段，提高了人脸识别准确率，消除了鲁棒性差、过拟合等问题。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (4)

1.一种邻域先验嵌入型协同表示模式识别方法，其特征在于，其步骤如下：

步骤一、对总类别数目为K的人脸数据库中的人脸图像进行预处理，得到K类训练样本和K类测试样本；

步骤二、根据训练样本和测试样本获取测试样本的近邻先验信息；

根据训练样本和测试样本获取测试样本的近邻先验信息的方法包括两种方法，分别为基于最近质心的搜索方法和基于最近子空间分类的搜索方法；

基于最近质心的搜索方法：分别计算K类训练样本的质心，根据测试样本与每类训练样本的质心的距离搜索测试样本的近邻先验信息；

其中，z表示测试样本的近邻先验信息，y表示测试样本中的测试向量，测试向量y的大小为n×1，

表示第k类训练样本的质心，||·||₂表示向量的2范数；

基于最近子空间分类的搜索方法：根据测试样本与每类训练样本线性组合间的距离搜索测试样本的近邻先验信息；

其中，X_k表示第k类训练样本对应的训练样本矩阵，训练样本矩阵X_k的大小为n×m，m表示第k类训练样本中的人脸图像的数量，

表示NSC搜索方法中第k类训练样本矩阵X_k对应的编码系数向量；

步骤三、根据测试样本的近邻先验信息构建基于邻域先验嵌入型协同表示模型；

基于邻域先验嵌入型协同表示模型为：

其中，c表示训练样本矩阵X对应的编码系数向量，y是测试样本中的测试向量；X是训练样本矩阵，训练样本矩阵X的大小为n×M，M表示训练样本中所有类别的人脸图像的数量，λ＞0和0≤γ＜1是正则化参数，c^*是最优编码系数向量；

步骤四、对基于邻域先验嵌入型协同表示模型进行求解，得到最优编码系数向量，并根据最优编码系数向量对测试样本进行分类。

2.根据权利要求1所述的邻域先验嵌入型协同表示模式识别方法，其特征在于，所述对总类别数目为K的人脸数据库中的人脸图像进行预处理，得到K类训练样本和K类测试样本的方法为：

S11、在人脸数据库中随机选择M幅人脸图像作为第一次训练样本，人脸数据库中剩余的人脸图像作为第一次测试样本；在人脸数据库中随机选取4次，得到4组K类第一次训练样本和第一次测试样本；

S12、分别将第一次训练样本和第一次测试样本中的人脸图像转化为列向量数据，得到第二次训练样本和第二次测试样本；

S13、通过主成分分析方法对第二次训练样本和第二次测试样本中的人脸图像进行降维，并对降维后的第二次训练样本和第二次测试样本中的人脸图像进行归一化处理，得到训练样本和测试样本。

3.根据权利要求1所述的邻域先验嵌入型协同表示模式识别方法，其特征在于，所述对基于邻域先验嵌入型协同表示模型进行求解，得到最优编码系数向量的方法为：

设定正则化参数λ∈{0.0001，0.001，0.01，0.1，1，10，100}，正则化参数γ在区间[0.1，0.8]随机选取一个值；

计算基于邻域先验嵌入型协同表示模型关于c的偏导，并令c的偏导数为零，得到：

(1-γ)(-2X^Ty+2X^TXc)+γ(-2X^Tz+2X^TXc)+2λc＝0，

c的偏导数为零时对应的c的值为最优编码系数向量，即：

c^*＝P[(1-γ)y+γz]，

其中，P＝(X^TX+λI)^-1X^T是大小为M×M的投影矩阵，I是大小为M×M的单位矩阵。

4.根据权利要求3所述的邻域先验嵌入型协同表示模式识别方法，其特征在于，所述根据最优编码系数向量对测试样本进行分类的方法为：

根据最小重构误差原则对测试样本进行分类预测：

其中，label(y)是测试样本中的测试向量y的类别，X_k是第k类训练样本对应的训练样本矩阵，

是最优编码系数向量c^*对应的X_k上的最优编码子向量。

Images