CN103150570B

CN103150570B - 基于Lp范数的样本对加权的人脸特征提取方法

Info

Publication number: CN103150570B
Application number: CN201310074301.4A
Authority: CN
Inventors: 梁志贞; 刘宁
Original assignee: China University of Mining and Technology CUMT
Current assignee: China University of Mining and Technology CUMT
Priority date: 2013-03-08
Filing date: 2013-03-08
Publication date: 2015-10-21
Anticipated expiration: 2033-03-08
Also published as: CN103150570A

Abstract

一种基于Lp范数的样本对加权的人脸特征提取方法，属于模式识别中的特征提取方法。1）将n幅大小为的人脸图像用列向量形式表示为，其中的维数为d，这些列向量形成样本矩阵； 2）对同类的人脸样本对和不同类的人脸样本对分别采用不同函数作为加权函数； 3）建立具有Lp范数的约束的样本对加权的优化模型，利用迭代优化算法得出局部最优的单位投影向量w；4）使用贪婪算法，将人脸图像的特征从最初的d维降到m维，实现维数约简和有效特征的提取。该方法可以灵活的对不同类型数据集进行特征提取，降低对异常值的敏感性，更能适应人脸图像的复杂性；对样本对进行加权，避免样本均值影响，提取的特征更加有效。在遮挡的情况下相比PCA和Lp-PCA-L1性能提高2~5%。

Description

基于Lp范数的样本对加权的人脸特征提取方法

技术领域

本发明涉及一种模式识别中的特征提取方法，特别是一种基于Lp范数的样本对加权的人脸特征提取方法。

背景技术

人脸图像信息量过大且样本维数过高，人脸识别需要大量的存储和计算代价，导致“维数灾难”。因此在人脸识别之前需要对人脸图像进行处理，特征提取能够有效处理高维数据，采用线性或非线性的变换提取出最能代表该样本的少量特征。较高的维数通常包含冗余特征，降维同时需要尽可能保证数据的完整性和内在的结构性。

PCA(Principal Component Analysis)主成分分析是一种传统的降维方法，它可以将高维数据投影到较低维空间，使投影后的数据有最大斜方差。但是，传统的PCA方法在目标函数中使用了L2范数，因此它对异常值或离群点非常敏感。

为了解决这个问题，近年来研究人员提出了Lp 范数约束的最大化L1 范数主成分分析方法（Lp-PCA-L1），降低了对异常值的敏感性，但是它容易受到样本均值影响，无法突出样本中的关键特征所起的作用，很难适应具有复杂特征的数据，影响识别效果。

发明内容

为了解决现有技术存在的不足，本发明提出一种基于Lp范数的样本对加权的人脸特征提取方法，能有效避免样本均值影响，且对不同的样本对赋给不同的权重，突出对识别起关键作用的特征。

本发明的目的是这样实现的：基于Lp范数约束的样本对加权特征提取算法，与PCA方法相比，该方法对目标函数采用L1范数，降低对异常值的敏感性，通过参数p的选择，控制投影向量的稀疏性；与Lp-PCA-L1方法相比，该方法能有效避免样本均值影响，且对不同的样本对赋给不同的权重，突出对识别起关键作用的特征；

本发明解决其技术问题所采用的技术方案是：

步骤1）将n幅大小为的人脸图像用列向量形式表示为，其中的维数为d，这些列向量形成样本矩阵；

步骤2）对同类的人脸样本对和不同类的人脸样本对分别采用不同函数作为加权函数；

步骤3）建立具有Lp范数的约束的样本对加权的优化模型，利用迭代优化算法得出，得出局部最优的单位投影向量w；

步骤4）使用贪婪算法，将人脸图像的特征从最初的d维降到m维，一般m维远远小于d维，实现维数约简和有效特征提取；

所述步骤2）同类的人脸样本对选用具有高斯分布的函数作为加权函数：，对不同类的人脸样本对选用，从而得到加权矩阵f，其中表示第i和j 样本构成的样本对和是一个取值为所有样本对距离平方的均值得参数；这样对属于不同类的人脸样本对，尽量考虑距离近的样本对，也就是赋给这样的样本对大的权重，而在同类的人脸样本对，则考虑距离大的样本对，这样使得算法具有较好的抑制污染的人脸图像；

所述步骤3）中所述的具有Lp范数约束的样本队加权的特征提取算法的具体步骤为：

步骤3.1）设t 为迭代次数，初值为，选择任意的，令，其中为初始的投影矢量；

步骤3.2）极性检测，对于所有的，，当时，，其中是第t次迭代的投影矢量，T表示矢量的转置，否则，；

步骤3.3）翻转和最大化：，；令，，对所有的，如果，，其中是第k个特征，否则，；令；

步骤3.4）收敛性检测；

所述步骤3.4）中收敛性检测包括以下步骤：

步骤3.4.1）如果，执行步骤2；

步骤3.4.2）如果存在i和j，使得，那么，令，然后转到步骤2；其中，是一个小的非零向量；

步骤3.4.3）否则，令最优投影向量为，算法停止；

所述步骤4）所述的贪婪算法的具体步骤如下：

步骤4.1）设，，；

步骤4.2）循环：，对所有的，偏值数据为，其中为第s个投影向量；

步骤4.3）利用具有Lp范数约束的样本对加权的特征提取算法得到；再用上述算法获取多个关联特征矩阵，则W 为m个投影向量构成的矩阵。

有益效果,由于采用了上述方案，本发明提出的一种基于Lp范数约束的样本对加权的人脸特征提取算法同已有的方法相比，该方法在PCA和Lp-PCA-L1方法基础上进行改进，可以灵活的对不同类型数据集进行特征提取，降低对异常值的敏感性，更能适应人脸图像的复杂性；对样本对进行加权，突出对识别起关键作用的特征，避免样本均值影响，提取的特征更加有效。从NYU_UMIST人脸数据库的识别率比较和ORL人脸数据库的识别率比较可以看出，该方法在遮挡或者为遮挡的情况下相比PCA和Lp-PCA-L1性能提高2~5%。

附图说明

图1为本发明方法的流程图。

图2-1为NYU_UMIST人脸数据库的未遮挡识别率图。

图2-2为NYU_UMIST人脸数据库的加遮挡识别率图。

图3-1为ORL人脸数据库的未遮挡识别率图。

图3-2为ORL人脸数据库的加遮挡识别率图。

具体实施方式

下面结合附图对本发明作进一步说明。

实施例1：基于Lp范数约束的样本对加权特征提取算法，与PCA方法相比，该方法对目标函数采用L1范数，降低对异常值的敏感性，通过参数p的选择，控制投影向量的稀疏性；与Lp-PCA-L1方法相比，该方法能有效避免样本均值影响，且对不同的样本对赋给不同的权重，突出对识别起关键作用的特征；

在图1中，一种基于Lp范数的样本对加权的人脸特征提取方法，包括以下步骤：

（1）、将n幅大小为的人脸图像用列向量形式表示为，其中的维数为d，这些列向量形成样本矩阵;

（2）对同类的人脸样本对和不同类的人脸样本对分别采用不同函数作为加权函数；

（3）采用具有Lp范数约束的样本对加权的优化算法提取特征，得出局部最优的正交投影向量w；

（4）使用贪婪算法，将人脸图像的特征从最初的d维降到m维，一般m维远远小于d维，实现维数约简和有效特征提取。

所述步骤2）同类样本对选用具有高斯分布的函数作为加权函数：，对不属于同类样本对选用，从而得到加权矩阵f，其中表示第i和j 样本构成的样本对；这样对属于不同类的样本对，尽量考虑距离近的样本对，也就是赋给这样的样本对大的权重，而在同类的样本对，则考虑距离大的样本对，这样使得算法具有较好的抑制污染的人脸图像；

所述步骤3）中所述的具有Lp范数约束加权特征提取算法的具体步骤为：

3.1）设t 为迭代次数，初值为，选择任意的，令，其中为初始的投影矢量；

3.2）极性检测，对于所有的，，当时，，其中是第t次迭代的投影矢量，T表示矢量的转置，否则，；

3.3）翻转和最大化：，， q为p的对偶数。令，，对所有的，如果，，其中是第k个特征，否则，；令；

3.4）收敛性检测；

所述步骤3.4）中收敛性检测包括以下步骤：

3.4.1）如果，执行步骤2；

3.4.2）如果存在i和j，使得，那么，令，然后转到步骤2；其中，是一个小的非零向量；

3.4.3）否则，令最优投影向量为，算法停止；

所述步骤4）所述的贪婪算法的具体步骤如下：

4.1) 设，，；

循环：，对所有的，偏值数据为，其中为第s个投影向量；

4.2）利用具有Lp范数约束的样本对加权特征提取算法得到；再用上述算法获取多个关联特征矩阵，则W 为m个投影向量构成的矩阵。

本发明以NYU_UMIST人脸数据库作为实例，共包括20人，575幅人脸图像，每幅图像大小为11292, 从每类样本中随机选取4幅图像，一共80幅图像作为训练集，其余图像作为测试集，并在原始图像上加入88的遮挡块得到遮挡图像，然后进行遮挡试验。实验结果为十次随机实验的平均值。参数p在[1.1~2.0]范围内以0.1间隔变化，对本文方法和Lp-PCA-L1方法分别进行实验。对于PCA方法，提取80个最优特征数中的最大识别率。具体实施的硬件环境是：Genuine1.6GHz计算机、1GB内存；软件环境是：Matlab7.1和Windows XP。图2-1表示3种方法未遮挡的情况下识别率的比较，图2-2表示3种方法在遮挡的情况下识别率的比较。

在图2中，通过参数p的选择，该方法可以灵活控制投影向量的稀疏性，在图2-1，在未遮挡的情况下，该方法在p=1.2时，性能达到最优，其最佳识别率为82.10%，Lp-PCA-L1方法在p=1.3时，性能最优，其最佳识别率为81.56%，PCA方法的最佳识别率为79.31%；在图2-2中，在遮挡的情况下，该方法在p=1.3时性能达到最优，其最佳识别率为80.42%，Lp-PCA-L1方法在p=1.3时的最佳性能为79.68%，PCA方法的最佳识别率为77.62%。

选取ORL人脸数据库作为实例，共包括400幅（10幅/每人×40个人）人脸图像，每幅图像大小为11292，从每类样本中随机选取4幅图像，一共160幅图像作为训练集，其余图像作为测试集，并在原始图像上加入88的遮挡块得到遮挡图像，然后进行遮挡试验。实验结果为十次随机实验的平均值。参数p在[1.1~2.0]范围内以0.1间隔变化，对本文方法和Lp-PCA-L1方法分别进行实验。对于PCA方法，提取100个最优特征数中的最大识别率。具体实施的硬件环境是：Genuine1.6GHz计算机、1GB内存；软件环境是：Matlab7.1和Windows XP。图3-1表示3种方法未遮挡的情况下识别率的比较，图3-2表示3种方法在遮挡的情况下识别率的比较。

同样，通过参数p的选择，该方法可以灵活控制投影向量的稀疏性，在图3-1中，在未遮挡的情况下，该方法在p=1.5时，性能达到最优，其最佳识别率为72.29%，Lp-PCA-L1方法在p=1.5时，性能最优，其最佳识别率为66.77%，PCA方法的最佳识别率为67.29%；在图3-2中，在遮挡的情况下，该方法在p=1.8时性能达到最优，其最佳识别率为59.90%，Lp-PCA-L1方法在p=1.6时的最佳性能为55.73%，PCA方法的最佳识别率为56.56%。

Claims

1.一种基于Lp范数的样本对加权的人脸特征提取方法，其特征在于：按照以下步骤进行：

步骤1)将n幅大小为M×N的人脸图像I₁，I₂，…，I_n用列向量形式表示为x₁，x₂，…，x_n，其中x_i的维数为d，这些列向量形成样本矩阵X＝(x₁，x₂，…，x_n)；

步骤2)对同类的人脸样本对和不同类的人脸样本对分别采用不同函数作为加权函数；

步骤3)建立具有Lp范数的约束的样本对加权的优化模型，利用迭代优化算法得出局部最优的单位投影向量w；

步骤4)使用贪婪算法，将人脸图像的特征从最初的d维降到m维，m维小于d维，实现维数约简和有效特征提取；

所述步骤2)同类的人脸样本对选用具有高斯分布的函数作为加权函数：对不同类的人脸样本对选用从而得到加权矩阵f，其中(i，j)表示第i和j样本构成的样本对和σ²是一个取值为所有样本对距离平方的均值得参数；这样对属于不同类的人脸样本对，尽量考虑距离近的样本对，也就是赋给这样的样本对大的权重，而在同类的人脸样本对，则考虑距离大的样本对，这样使得算法具有的抑制污染的人脸图像；

所述步骤3)中所述的具有Lp范数约束的样本对加权的特征提取算法的具体步骤为：

步骤3.1)设t为迭代次数，初值为t＝0，选择任意的w(0)，令w(0)←w(0)/||w(0)||_p，其中w(0)为初始的投影矢量；

步骤3.2)极性检测，对于所有的i∈{1，2，…，n}，j∈{1，2，…，n}，当(w^T(t)x_i-w^T(t)x_j)f_ij＜0时，l_ij(t)＝-1，l_ji(t)＝1，其中w(t)是第t次迭代的投影矢量，T表示矢量的转置，l_ij(t)＝1，l_ji(t)＝-1；

步骤3.3)翻转和最大化：p＞1，1/p+1/q＝1，q为p的对偶数；令t←t+1，对所有的k∈{1，2，…，d}，如果w_k(t)＞0，w_k(t)＝||w_k(t)|^q|^1/p，其中w_k(t)是w(t)第k个特征，否则，w_k(t)＝-||w_k(t)|^q|^1/p；令w(t)←(w(t)/||w(t)||_p)；

步骤3.4)收敛性检测；

所述步骤3.4)中收敛性检测包括以下步骤：

步骤3.4.1)如果w(t)≠w(t-1)，执行步骤2；

步骤3.4.2)如果存在i和j，使得w^T(t)(x_i-x_j)f_ij＝0，那么，令w(t)←(w(t)+Δw)/||w(t)+Δw||_p，然后转到步骤2；其中，Δw是一个小的非零向量；

步骤3.4.3)否则，令最优投影向量为w^*＝w(t)，算法停止；

所述步骤4)所述的贪婪算法的具体步骤如下：

步骤4.1)设w₀＝0，初始数据i∈{1，2，…，n}；

步骤4.2)循环：s∈{1，2，…，m}，对所有的i∈{1，2，…，n}，偏值数据为其中w_(s)为第s个投影向量；

步骤4.3)利用具有Lp范数约束的样本对加权的特征提取算法得到w_(s+1)；再用上述算法获取多个关联特征矩阵W＝{w₁，w₂，…，w_m}，则W为m个投影向量构成的矩阵。