CN106127131A - 一种基于互信息无参数局部保持投影算法的人脸识别方法 - Google Patents

Abstract

本发明公开了本发明提供了一种基于互信息无参数局部保持投影算法的人脸识别方法，该方法采用MI来计算样本之间的相似度，并以此值直接作为样本间的相似系数，同时给出了一种以样本的平均相似度作为分界点，将样本分成了近邻与非近邻样本，基于此确定了样本的局部近邻相似散度矩阵和非近邻散度矩阵。该方法不但考虑近邻样本的作用，同时考虑非近邻样本的作用，因此该方法的目标函数能够使得原始为近邻的样本投影后仍保持近邻关系，而非近邻的样本投影后将尽量远离；对于目标函数的求解，可先采用PCA算法将样本降维至到总体散度矩阵的非零空间，然后将目标函数转换为差形式，从而有效地解决了小样本问题，该方法无需设置任何参数，增强了方法的实用性。

Description

一种基于互信息无参数局部保持投影算法的人脸识别方法

技术领域

本发明属于人脸识别的技术领域，尤其涉及的是一种基于互信息无参数局部保持投影算法的人脸识别方法。

背景技术

人脸识别技术始于二十世纪六十年代中后期，多年来一直是一个研究热点，近几年，更成为一个热门的研究课题。现今人脸识别产品已广泛应用于金融、司法、军队、公安、边检、政府、航天、教育、医疗及众多企事业单位等领域。对于人脸识别问题由于其样本维数非常高，因此需要对高维样本进行特征提取(降维)处理。基于此，很多特征提取方法被提出，如主成分分析(Principal Component Analysis,PCA)和线性鉴别分析(LinearDiscriminant Analysis，LDA)。但这两种方法都是基于全局思想的算法，2005年何晓飞等提出了保局投影映射(Locality Preserving Projections,LPP)算法，该算法是一种基于局部近邻思想的特征提取算法，一经提出就受到了学者们的关注，并从不同角度提出了一系列改进的算法。LPP算法不同于以有的主成份分析、线性判别分析算法，该算法将训练样本看成是高维空间中的一个点，通过样本间近邻关系来构造目标函数，其目的是保持样本局部流形结构，即原始空间中近邻样本投影到低维空间中应该保持原来的近邻关系，因此更能够发现样本的本质结构，提取出更加有效的分类特征，该算法在人脸识别等图像识别领域取得了广泛的应用。LPP算法是通过高斯核函数来计算训练样本对之间的近邻关系并以此作为相似权值，然后再利用近邻权值矩阵构造目标函数，而算法的近邻大小k和高斯核函数中的t都需要人工设置，因此LPP算法识别结果对参数设置是非常敏感,如何选择合适的参数使得算法达到最佳效果是当前的一个研究难点。最近已有学者对此进行了研究，如非相度保持投影算法(Dissimilarity Preserving Projection,DPP)和无参数局部保持投影算法(Parameter-Free Locality Preserving Projections,PFLPP)。DPP算法考虑所有的样本对间的相似关系，因此不需参数的设置，有效地解决了算法对参数敏感这一问题。但该算法以样本的重构误差作为相似权值，这显然与分类关系不大，另外其采用欧式距离作为度量，而欧式距离对样本的分布是比较敏感的。PFLPP则提出采用样本间的余弦距离来计算相似权值,可有效地避免欧式距离对样本的分布敏感这一问题，然而该算法仍存在着以下三点问题:一、所采用无参数近邻计算方法并不能有效地保持样本的局部流形；二、忽略了非近邻样本对分类所起的作用；三、同LPP算法一样，目标函数存在着小样本问题。因此期望找到一种算法，同时解决以上三个问题。

发明内容

本发明的目的在于克服现有技术的不足，提供了一种基于互信息无参数局部保持投影算法的人脸识别方法，以解决现有技术的计算方法不能有效保持样本的局部流形、忽略非近邻样本对分类所起的作用以及目标函数存在小样本等问题。

本发明是通过以下技术方案实现的：

本发明提供了一种基于互信息无参数局部保持投影算法的人脸识别方法，包括以下步骤：

步骤S1：选择标准人脸库的图像作为总样本集，并划分训练样本集X；

步骤S2：计算训练样本集中所有图像之间的互信息值，获得训练样本集中所有图像的互信息值的矩阵M，对矩阵M进行归一化处理，获得GM；

步骤S3：计算训练样本集图像的平均相似度d，并根据GM和d自适应确定每个样本的近邻；

步骤S4：计算训练样本集的近邻相似权值矩阵S和非近邻权值矩阵B，再根据S和B计算近邻散度矩阵S_L和非近邻散度矩阵S_B

步骤S5：计算训练样本集的总体散布矩阵S_t，及其非零特征值所对应的特征向量P；

步骤S6：根据S_L和S_B，分别计算投影到P空间上的近邻散度矩阵和非近邻散度矩阵并对矩阵进行特征值分解；

步骤S7：将获得的特征值按降序排列，选择前k个最大特征值所对应的特征向量v₁,v₂,…,v_k，令V＝[v₁v₂…v_k]，获得最优投影方向矩阵W＝PV，所述k为最终降维样本的维度；

步骤S8：对未知样本x_i按照最优投影方向矩阵W＝PV进行投影，获得x_i的低维的投影特征系数向量y_i，即y_i＝W^Tx_i，最后采用常规的最近邻分类方法进行分类。

进一步地，所述步骤S1中，选择ORL标准人脸库作为总样本集。

进一步地，所述步骤S2中，训练样本集中所有图像之间的互信息值MI值的计算方法，包括以下步骤：

步骤S201：计算图像x_i和x_j中各灰度级i出现的频率P_A(i)和P_B(i)，x_i和x_j为训练样本集中的任意两张图像，具体为：

分别计算图像x_i和x_j的灰度直方图，并统计图像x_i和x_j的所有灰度级i出现次数，记为F_A(i)和F_B(i)，其中，i∈[0,255]，A代表图像x_i，B代表图像x_j；

对图像x_i所有灰度级i出现的次数进行累加，获得

对图像x_j的所有灰度级i出现次数进行累加，获得

则：P_A(i)＝F_A(i)/sumA，P_B(i)＝F_B(i)/sumB

步骤S202：计算图像x_i和x_j对应位置的灰度对(i,j)出现的频率P_AB(i,j)，具体为：

根据图像x_i和x_j的灰度直方图，计算图像x_i和x_j的联合直方图F_AB(i,j)，(i,j)表示图像x_i和x_j对应位置的灰度对；

对图像x_i和x_j的所有灰度对(i,j)出现的次数进行累加，获得

则：P_AB(i,j)＝F_AB(i,j)/sumAB；

步骤S203：熵值计算：

图像x_i的信息熵

图像x_j的信息熵

图像x_i和x_j的联合熵

步骤S204：计算图像x_i、x_j的MI值M(x_i,x_j)＝H(A)+H(B)-H(A,B)。

进一步地，所述步骤S3中，平均相似度d的计算方法及自适应确定每个样本的近邻的方法为：

步骤S301：将矩阵M中的所有元素值规范化到[0,1]内，具体为：

找到M中最大元素max，将M中的所有元素M(x_i,x_j)除以max，得到归一化图像互信息矩阵GM，矩阵GM中个元素为GM(x_i,x_j)；

步骤S302：对GM中所有元素进行累加，再除以N×N，得到平均相似度d；

步骤S303：若GM(x_i,x_j)≥d，则图像x_i和x_j是近邻，否则为非近邻；

进一步地，所述步骤S4中：训练样本集的近邻相似权值矩阵S和非近邻权值矩阵B的计算方法为：

设GS是一N×N的零矩阵，当GM(x_i,x_j)≥d时，令GS的元素GS(x_i,x_j)＝GM(x_i,x_j)，否则GS的元素不变，将所有元素检测完毕后，得到近邻相似权值矩阵S；非近邻权值矩阵B＝GM-S；

训练样本集图像的近邻散度矩阵S_L和非近邻散度矩阵S_B的计算方法为：

S_L＝XL_SX^T

式中：L_S＝D_S-S为拉普拉斯矩阵,D_S为对角阵,其对角元素

S_B＝XL_BX^T

式中：L_N＝D_B-B，D_B为对角阵，其对角元素

进一步地，所述步骤S5中，训练样本集的总体散布矩阵S_t，及其非零特征值所对应的特征向量P的计算方法为：

计算总体散布矩阵S_t：

式中：其中F为训练样本集的总体均值向量，e为所有元素均为1的列向量；对H_t进行奇异值分解：H_t＝UΣV^T，其中U和V分别为正交阵，Σ_m是按降序排列的对角阵，m为H_t的秩，即m＝rank(H_t)；

计算S_t的非零特征值所对应的特征向量P：P＝U₁，U₁为H_t的非零特征值对应的特征向量构成的空间，即U₁∈R^n×m，n为原始图像样本进行拉直处理后的维度。

进一步地，所述步骤S6中，投影到P空间上的近邻散度矩阵和非近邻散度矩阵的计算方法为：

进一步地，所述步骤S7中，k等于或大于标准人脸库中样本类别数。

本发明相比现有技术具有以下优点：本发明提供了一种基于互信息无参数局部保持投影算法的人脸识别方法，该方法中，互信息MI是用来描述2个随机变量间的信息相关性，衡量两幅图像相似程度的MI可以用熵来表示，熵是对图像概率分布的一种描述；该方法采用MI来计算样本之间的相似度，并以此值直接作为样本间的相似系数，同时为了更好地保持局部流形的结构，更加充分地使用训练样本，给出了一种以总体样本的平均MI，也称之为平均相似度作为分界点，将样本分成了近邻与非近邻样本，基于此确定了样本的局部近邻相似散度矩阵和非近邻散度矩阵。该方法不但考虑近邻样本的作用，同时考虑非近邻样本的作用，因此该方法的目标函数能够使得原始为近邻的样本投影后仍保持近邻关系，而非近邻的样本投影后将尽量远离；对于目标函数的求解，可先采用PCA算法将样本降维至到总体散度矩阵的非零空间，然后将目标函数转换为差形式，从而有效地解决了小样本问题，该方法无需设置任何参数，增强了方法的实用性。

附图说明

图1为本发明基于互信息无参数局部保持投影算法的人脸识别方法的流程图；

图2为MI值的计算方法流程图；

图3为平均相似度d的计算方法流程图。

具体实施方式

下面对本发明的实施例作详细说明，本实施例在以本发明技术方案为前提下进行实施，给出了详细的实施方式和具体的操作过程，但本发明的保护范围不限于下述的实施例。

实施例1

在人脸识别中，首先就是要找到一个投影矩阵，该投影矩阵不但要使投影后的人脸图像具有较低的维数，而且也要具有较好的可分性，本实施例提供了一种基于互信息无参数局部保持投影算法的人脸识别方法，就是要提供一个最优投影方向矩阵，并根据该矩阵将未知人脸图像进行投影，获得未知人脸图像的低维的投影特征系数向量，最后采用常规的最近邻方法进行样本的分类，包括以下步骤：

步骤S1：选择ORL标准人脸库的图像作为总样本集，ORL标准人脸库有40个人，每人10幅图像，一共400幅图像，人脸姿态有相当程度的变化，每幅图像的尺寸为112×92pixel,选择每人前5幅作为训练样本，后5幅作为测试样本，因此训练样本和测试样本各有200幅图像，假设X＝{x₁,x₂,…,x₂₀₀}为人脸图像训练样本集，其中x_i是第i幅人脸图像；

步骤S2：计算训练样本集中所有图像之间的互信息值(MI值)，获得所有训练样本集的MI值的矩阵M，其中，图像x_i、x_j的MI值表示为M(x_i,x_j)，矩阵M为一N阶矩阵，N等于训练样本集中图像的数量，本实施例中，矩阵M为一200×200的矩阵，即N＝200，图像x_i、x_j的MI值的计算方法，包括以下步骤：

步骤S201：计算图像x_i和x_j中各灰度级i出现的频率P_A(i)和P_B(i)，具体为：

分别计算图像x_i和x_j的灰度直方图，并统计图像x_i和x_j的所有灰度级i出现次数，记为F_A(i)和F_B(i)，其中，i∈[0,255]，A代表图像x_i，B代表图像x_j；

对图像x_i所有灰度级i出现的次数进行累加，获得

对图像x_j的所有灰度级i出现次数进行累加，获得

则：P_A(i)＝F_A(i)/sumA，P_B(i)＝F_B(i)/sumB

步骤S202：计算图像x_i和x_j对应位置的灰度对(i,j)出现的频率P_AB(i,j)，具体为：

根据图像x_i和x_j的灰度直方图，计算图像x_i和x_j的联合直方图F_AB(i,j)，(i,j)表示图像x_i和x_j对应位置的灰度对；

对图像x_i和x_j的所有灰度对(i,j)出现的次数进行累加，获得

则：P_AB(i,j)＝F_AB(i,j)/sumAB；

步骤S203：熵值计算：

图像x_i的信息熵

图像x_j的信息熵

图像x_i和x_j的联合熵

步骤S204：计算图像x_i、x_j的MI值M(x_i,x_j)＝H(A)+H(B)-H(A,B)；

本实施例中，根据上述步骤S2计算的ORL人脸图像的前两个样本M(x₁,x₂)＝1.525,选择异类两个样本x₁和x₇计算MI值，M(x₁,x₇)＝1.2884，可以看出二者的差异较大，故可以将M(x_i,x_j)作为权值；

步骤S3：为了自适应确定每个样本的近邻，计算训练样本集中所有图像的平均相似度d，并根据平均相似度d将训练样本集中的图像分成近邻和非近邻，具体为：

步骤S301：将矩阵M中的所有元素值规范化到[0,1]内，具体为：

找到M中最大元素max，将M中的所有元素M(x_i,x_j)除以max，得到归一化图像互信息矩阵GM，矩阵GM中个元素为GM(x_i,x_j)，本实施例中，max＝2.2146；

步骤S302：对GM中所有元素进行累加，再除以N×N，得到平均相似度d；本实施例中，d＝0.6348；

步骤S303：若GM(x_i,x_j)≥d，则图像x_i和x_j是近邻，否则为非近邻；

步骤S4：计算训练样本集的近邻相似权值矩阵S和非近邻权值矩阵B，具体为：

设S是一N×N的零矩阵，当GM(x_i,x_j)≥d时，令S的元素S(x_i,x_j)＝GM(x_i,x_j)，否则S的元素不变，将所有元素检测完毕后，得到近邻相似权值矩阵S；非近邻权值矩阵B＝GM-S；

计算训练样本集图像的近邻散度矩阵S_L和非近邻散度矩阵S_B，其中：

S_L＝XL_SX^T

式中：L_S＝D_S-S为拉普拉斯矩阵,D_S为对角阵,其对角元素

S_B＝XL_BX^T

式中：L_N＝D_B-B，D_B为对角阵，其对角元素

步骤S5：计算训练样本集的总体散布矩阵的非零特征值所对应的特征向量P，具体为：

计算总体散布矩阵S_t：

式中：其中F为训练样本集的总体均值向量，e为所有元素均为1的列向量；对H_t进行奇异值分解：H_t＝UΣV^T，其中U和V分别为正交阵，Σ_m是按降序排列的对角阵，m为H_t的秩，即m＝rank(H_t)，本实施例中，m＝199；

计算S_t的非零特征值所对应的特征向量P：P＝U₁，U₁为H_t的非零特征值对应的特征向量构成的空间，即U₁∈R^n×m，n为原始图像样本进行拉直处理后的维度，比如说，原图像的维度为100×100，拉直处理，即将原图像每列首尾相接拉直成一个10000维的列向量，n＝10000；

步骤S6：分别计算投影到S_t的非零特征值所对应的特征向量P空间上的近邻散度矩阵和非近邻散度矩阵并对矩阵进行特征值分解：

$S_L^P={\mathrm{PS}}_L{P}^T$

$S_B^P={\mathrm{PS}}_B{P}^T;$

步骤S7：，将求得的特征值λ_i按降序排列，选择前k个最大特征值所对应的特征向量v₁,v₂,…,v_k，令V＝[v₁v₂…v_k]，获得最优投影方向矩阵W＝PV，所述k为最终降维样本图像的维度，优选地，k的取值可以等于或大于标准人脸库中样本类别数，由于ORL标准人脸库有40个人，即ORL标准人脸库的中样本类别数为40，因此，本实施例中，k取值为40；

步骤S8：在人脸识别中，首先就是要找到一个投影矩阵W，该投影矩阵不但要使投影后的人脸图像具有较低的维数，而且也要具有较好的可分性，对未知样本x_i进行投影可按下式计算y_i＝W^Tx_i，y_i代表未知样本x_i的低维的投影特征系数向量，最后采用常规的最近邻分类方法进行样本的分类。

Claims (8)

1.一种基于互信息无参数局部保持投影算法的人脸识别方法，其特征在于，包括以下步骤：

步骤S1：选择标准人脸库的图像作为总样本集，并划分训练样本集X；

步骤S2：计算训练样本集中所有图像之间的互信息值，获得训练样本集中所有图像的互信息值的矩阵M，对矩阵M进行归一化处理，获得GM；

步骤S3：计算训练样本集图像的平均相似度d，并以d为分界点确定每个样本的近邻关系；

步骤S4：根据GM和d计算训练样本集的近邻相似权值矩阵S和非近邻权值矩阵B，再根据S和B计算近邻散度矩阵S_L和非近邻散度矩阵S_B；

步骤S5：计算训练样本集的总体散布矩阵S_t，及其非零特征值所对应的特征向量P；

步骤S6：根据S_L和S_B，分别计算投影到P空间上的近邻散度矩阵和非近邻散度矩阵并对矩阵进行特征值分解；

步骤S7：将获得的特征值按降序排列，选择前k个最大特征值所对应的特征向量v₁,v₂,…,v_k，令V＝[v₁v₂…v_k]，获得最优投影方向矩阵W＝PV，所述k为最终降维样本图像的维度；

步骤S8：对未知样本x_i按照最优投影方向矩阵W＝PV进行投影，获得x_i的低维的投影特征系数向量y_i，即y_i＝W^Tx_i，最后采用常规的最近邻分类方法进行分类。

2.根据权利要求1所述的一种基于互信息无参数局部保持投影算法的人脸识别方法，其特征在于，所述步骤S1中，选择ORL标准人脸库作为总样本集。

3.根据权利要求1所述的一种基于互信息无参数局部保持投影算法的人脸识别方法，其特征在于，所述步骤S2中，训练样本集中所有图像之间的互信息值的计算方法，包括以下步骤：

步骤S201：计算图像x_i和x_j中各灰度级i出现的频率P_A(i)和P_B(i)，其中，x_i和x_j为训练样本集中的任意两张图像，具体为：

分别计算图像x_i和x_j的灰度直方图，并统计图像x_i和x_j的所有灰度级i出现次数，记为F_A(i)和F_B(i)，其中，i∈[0,255]，A代表图像x_i，B代表图像x_j；

对图像x_i所有灰度级i出现的次数进行累加，获得

对图像x_j的所有灰度级i出现次数进行累加，获得

则：P_A(i)＝F_A(i)/sumA，P_B(i)＝F_B(i)/sumB

步骤S202：计算图像x_i和x_j对应位置的灰度对(i,j)出现的频率P_AB(i,j)，具体为：

根据图像x_i和x_j的灰度直方图，计算图像x_i和x_j的联合直方图F_AB(i,j)，(i,j)表示图像x_i和x_j对应位置的灰度对；

对图像x_i和x_j的所有灰度对(i,j)出现的次数进行累加，获得

则：P_AB(i,j)＝F_AB(i,j)/sumAB；

步骤S203：熵值计算：

图像x_i的信息熵

图像x_j的信息熵

图像x_i和x_j的联合熵

步骤S204：计算图像x_i、x_j的互信息值M(x_i,x_j)＝H(A)+H(B)-H(A,B)。

4.根据权利要求1所述的一种基于互信息无参数局部保持投影算法的人脸识别方法，其特征在于，所述步骤S3中，平均相似度d的计算方法及确定每个样本的近邻关系的方法为：

步骤S301：将矩阵M中的所有元素值规范化到[0,1]内，具体为：

找到M中最大元素max，将M中的所有元素M(x_i,x_j)除以max，得到归一化图像互信息矩阵GM，矩阵GM中个元素为GM(x_i,x_j)；

步骤S302：对GM中所有元素进行累加，再除以N×N，得到平均相似度d；

步骤S303：若GM(x_i,x_j)≥d，则图像x_i和x_j是近邻，否则为非近邻。

5.根据权利要求1所述的一种基于互信息无参数局部保持投影算法的人脸识别方法，其特征在于，所述步骤S4中，训练样本集的近邻相似权值矩阵S和非近邻权值矩阵B的计算方法为：

设S是一N×N的零矩阵，当GM(x_i,x_j)≥d时，令S的元素S(x_i,x_j)＝GM(x_i,x_j)，否则S的元素不变，将所有元素检测完毕后，得到近邻相似权值矩阵S；非近邻权值矩阵B＝GM-S；

训练样本集图像的近邻散度矩阵S_L和非近邻散度矩阵S_B的计算方法为：

S_L＝XL_SX^T

式中：L_S＝D_S-S为拉普拉斯矩阵,D_S为对角阵,其对角元素

S_B＝XL_BX^T

式中：L_N＝D_B-B，D_B为对角阵，其对角元素

6.根据权利要求1所述的一种基于互信息无参数局部保持投影算法的人脸识别方法，其特征在于，所述步骤S5中，训练样本集的总体散布矩阵S_t，及其非零特征值所对应的特征向量P的计算方法为：

计算总体散布矩阵S_t：

式中：其中F为训练样本集的总体均值向量，e为所有元素均为1的列向量；对H_t进行奇异值分解：H_t＝UΣV^T，其中U和V分别 为正交阵，Σ_m是按降序排列的对角阵，m为H_t的秩，即m＝rank(H_t)；

计算S_t的非零特征值所对应的特征向量P：P＝U₁，U₁为H_t的非零特征值对应的特征向量构成的空间，即U₁∈R^n×m，n为原始图像样本进行拉直处理后的维度。

7.根据权利要求1所述的一种基于互信息无参数局部保持投影算法的人脸识别方法，其特征在于，所述步骤S6中，投影到P空间上的近邻散度矩阵和非近邻散度矩阵的计算方法为：

8.根据权利要求1所述的一种基于互信息无参数局部保持投影算法的人脸识别方法，其特征在于，所述步骤S7中，k等于或大于标准人脸库中样本类别数。