CN105574475A - 一种基于共同向量词典的稀疏表示分类方法 - Google Patents

Abstract

本发明提出了一种基于共同向量的稀疏表示分类方法。本发明先通过每一类训练样本的差分子空间作Gram-Schmidt正交变换得到每一类的共同向量；随后将所有共同向量构成的字典作为稀疏表示分类器的字典，通过最小化l₁范数，求出测试样本在字典上的稀疏系数；以及使用每一个类别对应的稀疏系数与该类的训练样本获得估计的测试样本，将所述估计的测试样本与所述采集的测试样本对比，将相似度最高的类别作为分类结果。本发明的核心思想是使用训练样本中每类的共同向量组成字典取代原稀疏表示分类器的使用全部训练样本组成的字典，显著地提高小样本情况下的人脸识别方法的正确率。

Description

一种基于共同向量词典的稀疏表示分类方法

技术领域

本发明涉及人脸识别领域，尤其涉及一种基于共同向量词典的稀疏表示分类方法。

背景技术

人脸识别是模式识别、机器学习和计算机视觉领域最具挑战性的研究方向之一。人脸识别研究涉及范围很广，包括模式识别、图像处理、人工智能等。身份识别方法通常有指纹、掌纹、红外温谱、声纹、人脸。相比之下，人脸识别有着更便捷的采集方式、操作也更加快捷。在人的各种形式的生物特征中，人脸是一个人区别于他人的最自然、最主要的特征。人脸特征具有唯一性，一个人与他人的脸部是不同的，即使是双胞胎的脸部也有区别，这说明用人脸进行身份确认(生物识别)是合理可行的。另一方面，人脸图像相对于其他生物特征来说更容易获取，人没有抵制心理，法律上也没有障碍。人脸识别技术在国家公共安全方面、信息安全方面和家庭娱乐方面等的应用己经越来越广泛；在计算机视觉、客户身份鉴别、多媒体数据检索等领域也有着十分广泛的应用前景。

近来，稀疏表示成为研究热点，压缩感知理论被提出后，稀疏表示在机器视觉、机器学习和模式识别等领域引起了广泛的关注。2009年，Wright等人将稀疏表示引入人脸识别领域，其假定当测试样本所在类的训练样本数足够多时，测试样本可由这些训练样本进行线性表示，而其它类的样本对重构该测试样本的贡献为零，从而将人脸识别分类问题转化为稀疏表示问题，并据此提出一种名为基于稀疏表示的分类器(sparserepresentationbasedclassifier，SRC)。

共同向量是为解决独立单词识别问题而提出的。通过每一类的差分子空间作Gram-Schmidt(格拉姆-施密特)正交变换而得到与样本空间维数相同的共同向量，它表示每一类的共同性质。

发明所要解决的技术问题

一股来说，基于稀疏表示的分类器对于每个待识别的个体需要通过大量的训练样本构成过完备的字典才能构建稀疏的条件，对于小样本情况的识别效果不尽理想。然而，小样本问题是人脸识别中的一个普遍现象。

本发明鉴于上述问题而完成，其目的在于提出一种在小样本问题下的基于共同向量的稀疏表示分类方法。本发明先通过每一类的差分子空间作Gram-Schmidt正交变换得到每一类的共同向量，随后将所有共同向量构成SRC字典，最后采用稀疏表示分类器将样本分类标记成相应的类。本发明的核心思想是使用训练样本中每类的共同向量组成字典取代原稀疏表示分类器的使用全部训练样本组成的字典，显著地提高小样本情况下的人脸识别方法的正确率。

发明内容

本发明提出了一种基于共同向量词典的稀疏表示分类方法，用于人脸识别，包括以下步骤：

步骤一：分别对训练样本集的人脸图像和采集的测试样本的人脸图像进行预处理；所述人脸图像为从人脸数据库中获得的多个类别的人脸图像；

步骤二：对预处理后的训练样本中的每一类的差分子空间作Gram-Schmidt正交变换得到每一类的共同向量；

步骤三：将步骤二得到的各类的共同向量组成字典矩阵；

步骤四：使用步骤三得到的字典作为稀疏表示分类器的字典，通过最小化l₁范数，求出预处理后的测试样本在字典上的稀疏系数；以及

步骤五：使用每一个类别对应的稀疏系数与该类的训练样本获得估计的测试样本，将所述估计的测试样本与所述采集的测试样本对比，将相似度最高的类别作为分类结果。

本发明提出的所述基于共同向量词典的稀疏表示分类方法中，所述步骤一中的预处理包括将人脸图像分割、校正以及变换为一维向量；其中，将前述变换后的训练样本集表示为A＝[A₁，A₂，...，A_c]∈R^m×n，c表示样本类别数，R表示实数空间，m表示图像大小，n表示训练样本集的样本总数，其中第i类的训练样本集n_i为第i类的训练样本数，将前述变换后的测试样本表示为y。

本发明提出的所述基于共同向量词典的稀疏表示分类方法中，步骤二中获得所述训练样本的每一类的共同向量包括以下步骤：

根据预处理后的训练样本集A，对其中第i类训练样本的列向量张成一个差分子空间B_i，如公式(1)所示

$B_i=[b_{i,1},b_{i,2},...,b_{i,n_i-1}]---\left(1\right)$

其中，b_i，k＝v_i，k+1-v_i，1，k＝1，2，...，n_i-1，这里v_i，1是一个参考向量，是从第i类样本中随机抽取的；

对B_i进行Gram-Schmidt正交变换，得到正交向量集在本类中随机选取一个样本v_i，k，投影到正交向量z_i，k(k＝1，2，...，n_i-1)，则获得投影后的向量s_i

$s_i=\⟨u_{i,k},z_{i,1}\⟩z_{i,1}+\⟨v_{i,k},z_{i,2}\⟩z_{i,2}+...+\⟨v_{i,k},z_{{i,n}_i-1}\⟩z_{{i,n}_i-1}---\left(2\right)$

则第i类的共同向量为

$v_{\mathrm{common}}^i=v_{i,k}-s_i,k=\mathrm{1,2},...,n_i---\left(3\right)$

本发明提出的所述基于共同向量词典的稀疏表示分类方法中，步骤三中，设新组成的字典矩阵为

D＝[D₁，D₂，...，D_c]∈R^c×p，其中 $D_i=v_{\mathrm{common}}^i,i=\mathrm{1,2},...,c---\left(4\right)$

本发明提出的所述基于共同向量词典的稀疏表示分类方法中，步骤四中，将步骤一得到的预处理后的测试样本y和步骤三得到的共同向量字典D代入以下公式，求解l₁范数最小化问题，获得所述预处理后的测试样本在字典上的稀疏系数：

${\widehat{\mathrm{\α}}}_1={\arg \min }_{\mathrm{\α}}{\left|\right|\mathrm{\α}\left|\right|}_1$ 约束条件：Dα＝y.(5)

其中α表示稀疏系数。

本发明提出的所述基于共同向量词典的稀疏表示分类方法中，步骤四中通过正交匹配追踪算法求解上述问题得出稀疏系数，所述算法在每一步迭代过程中选择和当前迭代残差最相关的样本，然后更新样本空间，通过最小二乘问题，在新的样本空间中寻求残差最小，从而更新稀疏系数估计值和残差，由此循环迭代直到满足约束条件，所述循环迭代包括以下步骤：

令迭代次数为T，索引为I；

步骤4a：初始化：残差r₀＝y，迭代次数t＝1，D₀为空矩阵；

步骤4b：在D中选出与残差相关性最大的列：

I_t＝argmax_i＝1...c〈r_t-1，D_i〉(6)

步骤4c：更新已选列空间：

步骤4d：通过解决一个最小二乘问题，保证残差最小，获得在已选列向量上的最优投影，更新已选各列的稀疏系数估计值

${\widehat{\mathrm{\α}}}_1=\arg {\min }_{\mathrm{\α}}{\left|\right|y-D_t\mathrm{\α}\left|\right|}_2---\left(7\right)$

步骤4e：更新残差：

步骤4f：t＝t+1。如果t＜T，回到步骤4b，否则停止迭代；

步骤4g：输出近似稀疏系数

本发明提出的所述基于共同向量词典的稀疏表示分类方法中，步骤五中进一步包括：

步骤5a：通过第i类测试样本对应的稀疏系数和字典D估计测试样本，来获得第i类的估计的测试样本；

步骤5b：获得第i类的估计的测试样本与所述采集的测试样本之间的残差 其中i＝1，...，c；以及

步骤5c：将所述残差中的最小值对应的类别即相似度最高的类别作为分类结果，即，

identity(y)＝argminr_i(y)。

本发明的效果

本发明与现行技术相比具有以下优点：

(1)本发明采用了代表每一类共同性质的共同向量，它表示同类人脸图像的共同不变的性质。在人脸识别过程中具有更好的判别性；

(2)本发明采用了基于稀疏表示的分类器。由于人脸图像的分布是非线性的或者多模型的，基于稀疏表示的分类器可以更好地反映训练样本的实际分布；

(3)本发明采用了每一类训练样本的共同向量构成的字典代替了稀疏表示分类器中整个训练集构成的字典，在基本不丢失每类的性质的基础上大大减少了字典的容量，降低了运算的复杂度。

附图说明

图1所示为根据本发明实施例的人脸识别流程图。

图2是6类人脸图像与对应的共同向量的示意图。

图3所示为随机抽取的一个测试样本经过求解l₁范数最小化问题所得到的稀疏系数。

图4所示为AR人脸库上本发明与稀疏表示分类器(SRC)、最近邻分类器(NN)的识别率比较图。

具体实施方式

结合以下具体实施例和附图，对发明作进一步的详细说明。实施本发明的过程、条件、实验方法等，除以下专门提及的内容之外，均为本领域的普遍知识和公知常识，本发明没有特别限制内容。

图1所示为本发明实施例的人脸识别流程图。

本实施例采用了一个公共的人脸数据库，AR人脸库。在AR标准彩色人脸库中，有4,000多幅分辨率为768×576、具有不同表情、不同光照以及不同程度的遮挡(眼镜、围巾)的人脸图像，分别拍摄于不同时期(相隔两个星期以上等)，一共126个人(70男，56女)。

本实施例从该公共数据库中随机抽取54个人，作为54个类，每人(即每类)13张正面人脸图像，包含了不同的光照、表情、遮挡。本实施例中，对每一类人分别从其13张人脸图像中随机抽取2张、3张、4张、5张图像作为训练样本，其余图像作为测试样本，来分别进行四组实验。即，例如，第一组实验中，每一类人的训练样本为随机抽取的2张人脸图样，另外11张人脸图像为测试样本。这样，将该组实验中的训练样本集为2×54＝108张人脸图样。每组实验可以重复20次，以确保得到相对可靠的数据。

下面根据图1，以第一组实验为例，详细说明本发明实施例的人脸识别流程的具体步骤。

步骤一：分别对训练样本集中的人脸图像和采集的测试样本进行预处理。所述预处理包括将人脸图像分割、校正以及由二维矩阵变换成一维向量。

首先，将彩色图像转化为灰度图像，手动将人脸图像上的眼睛，鼻子的位置进行标定，目的是为了使得人脸图像的分割后眼睛能在一个相对固定的位置，并且去除非人脸的其它部分图像，标定后将人脸图像分割出来，然后采用双线性差值法将所有类的全部人脸图像压缩至32×32像素大小。接着将所述压缩后的人脸图像由二维矩阵变换成一维向量(该变换由系统自动进行)。

将变换成一维向量后的训练样本集由A表示，设A＝[A₁，A₂，...，A_c]∈R^m×n，c表示样本类别数(本实施例中c＝54)，R表示实数空间，m表示图像大小(本实施例中m＝1024)，n表示训练样本集的样本总数(本实施例中为108张人脸图像)。其中第i类的训练样本集R表示实数空间，m表示图像大小(本实施例中m＝1024)，n_i为第i类的训练样本数(本实施例中为2张人脸图像)。例如，第1类训练样本集A₁＝[v_1，1，v_1，2]，即表示第1类训练样本集A₁有2张人脸图像v_1，1，v_1，2。

将变换成一维向量后的测试样本由y表示，y∈R^m，R表示实数空间，m表示图像大小(本实施例中m＝1024)；

步骤二：对预处理后的训练样本A中的每一类的差分子空间作Gram-Schmidt正交变换得到每一类的共同向量。具体如下：

首先，根据预处理后的训练集A，对其中第i类训练样本的列向量张成一个差分子空间B_i，如下公式所示，

$B_i=[b_{i,j},b_{i,2},...,b_{{i,n}_i-1}]---\left(1\right)$

其中，b_i，k＝v_i，k+1-v_i，1，k＝1，2，...，n_i-1，这里v_i，1是一个参考向量，是从第i类中随机抽取的，n_i为第i类的训练样本数。

接着，这里选取第一个训练样本对上述得到的第i类差分子空间B_i进行Gram-Schmidt正交变换，得到正交向量集在第i类训练样本中随机选取一个训练样本v_i，k，投影到前述正交向量集的第k个正交向量z_i，k(k＝1，2，...，n_i-1)，则获得投影后的向量s_i，

$s_i=\⟨v_{i,k},z_{i,1}\⟩z_{i,1}+\⟨v_{i,k},z_{i,2}\⟩z_{i,2}+...+\⟨v_{i,k},z_{{i,n}_i-1}\⟩z_{{i,n}_i-1}---\left(2\right)$

那么，第i类的共同向量为

$v_{\mathrm{common}}^i=v_{i,k}-s_i,k=\mathrm{1,2},...,n_i---\left(3\right)$

根据关于共同向量的定理：第i类的共同向量是独立于所选择的第k个样本v_i，k的，即

$v_{\mathrm{common}-k}^i=v_{\mathrm{common}-h}^i,k,h=\mathrm{1,2},...,n_i---\left(4\right)$

由上述定理可知，对于第i类样本是唯一的，可以用来表示第i类共同不变的性质。

综上所述，可以获得c个共同向量(本实施例中为54个共同向量)。

图2是6类人脸图像与对应的共同向量的示意图。如图2中所示，第一行图像为AR人脸库中随机抽取的6类不同的人脸图像(每类各一个人脸图像)，第二行图像为与这6类人脸图像分别对应的6个共同向量。该共同向量可以表示其对应的类的共同不变的性质。

步骤三：将步骤二得到的各类的共同向量组合成字典。

设新组成的字典矩阵为D＝[D₁，D₂，...，D_c]∈R^c×p，其中第i类的字典为i＝1，2，...，c。

步骤四：使用步骤三得到的字典作为稀疏表示分类器的字典，对预处理后的测试样本获得稀疏系数。

将步骤一得到的预处理后的测试样本y和步骤三得到的共同向量字典矩阵D代入以下的稀疏表示分类器公式，求解下列l₁范数最小化问题，可以得到每个测试样本在字典上的稀疏系数；

约束条件：Dα＝y.(5)

其中α表示稀疏系数，也是一个向量。

这里通过正交匹配追踪算法求解上述问题得出上述稀疏系数。正交匹配追踪算法是稀疏表示的一种经典算法，该算法在每一步迭代过程中选择和当前迭代残差最相关的样本，然后更新样本空间，通过最小二乘问题，在新的样本空间中寻求残差最小，从而更新稀疏系数估计值和残差，由此循环迭代直到满足约束条件。具体步骤如下：

令迭代次数为T，索引为I。

步骤4a：初始化：残差r₀＝y，迭代次数t＝1，D₀为空矩阵；

步骤4b：在D中选出与残差相关性最大的列：

I_t＝argmax_i＝1...c〈r_t-1，D_i〉(6)

步骤4c：更新已选列空间：

步骤4d：通过解决一个最小二乘问题，保证残差最小，获得在已选列向量上的最优投影，更新已选各列的稀疏系数估计值

${\widehat{\mathrm{\α}}}_1=\arg {\min }_{\mathrm{\α}}{\left|\right|y-D_t\mathrm{\α}\left|\right|}_2---\left(7\right)$

步骤4e：更新残差：

步骤4f：t＝t+1。如果t＜T，回到4b，否则停止迭代；

步骤4g：输出近似稀疏系数

其中，一个测试样本相对于每一类共同向量均获得一个稀疏系数。即，本实施例中，共同向量为54个，则一个测试样本对应地可计算得到54个稀疏系数。

图3所示为随机抽取的一个测试样本经过求解l₁范数最小化问题所得到的稀疏系数与共同向量类别的关系图。其中，横轴表示共同向量类别，共54个类；纵轴表示该抽取的测试样本的对应于每个共同向量的稀疏系数的值。测试样本对于某类共同向量的稀疏系数值越高，表明该测试样本与该类共同向量的相关性越高。由图3可见，该测试样本与第一类共同向量的相关性最高，稀疏系数为1.2，明显高于该测试样本与其他类共同向量的相关性。

步骤五：得到步骤四中的稀疏系数后，通过第i类测试样本对应的稀疏系数和字典D来获得第i类的估计的测试样本。本实施例中，由于一个测试样本(原始测试样本或采集的测试样本)具有54个稀疏系数，因此对应地具有54个估计的测试样本。

然后，可以得到第i类的估计的测试样本与原始测试样本(即采集的测试样本)之间的残差其中i＝1，...，c。其中，y表示原始测试样本，表示第i类的估计的测试样本。例如，第i类的第1个原始测试样本与和其对应的54个估计的测试样本之间可计算获得54个残差。

将上述得到的残差中的最小值对应的类别作为输出分类结果，即identity(y)＝argminr_i(y)。从该分类结果即可知道该测试样本所属的类别，即属于哪一个人的人脸图像。

图4所示为AR人脸库上本发明与稀疏表示分类器(SRC)、最近邻分类器(NN)的识别率比较图。横轴表示训练集中训练样本的个数，纵轴表示识别的正确率。图中所示的数据说明了本发明的优越性，在不同训练样本数(2，3，4，5)情况下，均获得了不错的识别率。而且相较于其他两种算法优势明显。本发明采用的通过在样本的差分子空间上作Gram-Schmidt正交变换得到的共同向量，表示了同类人脸图像的共同不变的性质。同时各类的共同向量是不相关的，恰好符合稀疏表示的字典的特性，运用稀疏表示在分类过程中得到与测试样本最相关的样本作为识别结果，获得了较好的识别效果。

本发明的保护内容不局限于以上实施例。在不背离发明构思的精神和范围下，本领域技术人员能够想到的变化和优点都被包括在本发明中，并且以所附的权利要求书为保护范围。

Claims (7)

1.一种基于共同向量词典的稀疏表示分类方法，其特征在于，所述方法用于人脸识别，包括以下步骤：

步骤一：分别对训练样本集的人脸图像和采集的测试样本的人脸图像进行预处理；所述人脸图像为从人脸数据库中获得的多个类别的人脸图像；

步骤二：对预处理后的训练样本中的每一类的差分子空间作Gram-Schmidt正交变换得到每一类的共同向量；

步骤三：将步骤二得到的各类的共同向量组成字典矩阵；

步骤四：使用步骤三得到的字典作为稀疏表示分类器的字典，通过最小化l₁范数，求出预处理后的测试样本在字典上的稀疏系数；以及

步骤五：使用每一个类别对应的稀疏系数与该类的训练样本获得估计的测试样本，将所述估计的测试样本与所述采集的测试样本对比，将相似度最高的类别作为分类结果。

2.根据权利要求1所述的方法，其特征在于，

所述步骤一中的预处理包括将人脸图像分割、校正以及变换为一维向量；

其中，将前述变换后的训练样本集表示为A＝[A₁，A₂，...，A_c]∈R^m×n，c表示样本类别数，R表示实数空间，m表示图像大小，n表示训练样本集的样本总数，其中第i类的训练样本集n_i为第i类的训练样本数，将前述变换后的测试样本表示为y。

3.根据权利要求2所述的方法，其特征在于，步骤二中获得所述训练样本的每一类的共同向量包括以下步骤：

根据预处理后的训练样本集A，对其中第i类训练样本的列向量张成一个差分子空间B_i，如公式(1)所示

其中，b_i，k＝v_i，k+1-v_i，1，k＝1，2，...，n_i-1，这里v_i，1是一个参考向量，是从第i类样本中随机抽取的；

对B_i进行Gram-Schmidt正交变换，得到正交向量集在本类中随机选取一个样本v_i，k，投影到正交向量z_i，k(k＝1，2，...，n_i-1)，则获得投影后的向量s_i

则第i类的共同向量为

。

4.根据权利要求3所述的方法，其特征在于，步骤三中，设新组成的字典矩阵为

D＝[D₁，D₂，...，D_c]∈R^c×p，其中。

5.根据权利要求4所述的方法，其特征在于，步骤四中，将步骤一得到的预处理后的测试样本y和步骤三得到的共同向量字典D代入以下公式，求解l₁范数最小化问题，获得所述预处理后的测试样本在字典上的稀疏系数：

约束条件：Dα＝y.(5)

其中α表示稀疏系数。

6.根据权利要求5所述的方法，其特征在于，步骤四中通过正交匹配追踪算法求解上述问题得出稀疏系数，所述算法在每一步迭代过程中选择和当前迭代残差最相关的样本，然后更新样本空间，通过最小二乘问题，在新的样本空间中寻求残差最小，从而更新稀疏系数估计值和残差，由此循环迭代直到满足约束条件，所述循环迭代包括以下步骤：

令迭代次数为T，索引为I；

步骤4a：初始化：残差r₀＝y，迭代次数t＝1，D₀为空矩阵；

步骤4b：在D中选出与残差相关性最大的列：

I_t＝argmax_i＝1...c<r_t-1，D_i>(6)

步骤4c：更新已选列空间：

步骤4d：通过解决一个最小二乘问题，保证残差最小，获得在已选列向量上的最优投影，更新已选各列的稀疏系数估计值

步骤4e：更新残差：

步骤4f：t＝t+1。如果t＜T，回到步骤4b，否则停止迭代；

步骤4g：输出近似稀疏系数

7.根据权利要求6所述的方法，其特征在于，步骤五中进一步包括：

步骤5a：通过第i类测试样本对应的稀疏系数和字典D估计测试样本，来获得第i类的估计的测试样本；

步骤5b：获得第i类的估计的测试样本与所述采集的测试样本之间的残差 其中i＝1，...，c；以及

步骤5c：将所述残差中的最小值对应的类别即相似度最高的类别作为分类结果，即，

identity(y)＝argminr_i(y)。