CN103413117A - 一种基于局部保持非负矩阵分解的增量学习人脸识别方法 - Google Patents

Abstract

本发明公开一种基于局部保持非负矩阵分解(LPNMF)的增量学习人脸识别方法，其涉及模式识别技术领域，本质是一种基于在线学习的人脸识别方法，实现步骤如下：a)人脸图像的预处理；b)初始样本训练；c)增量学习；d)人脸识别。该方法不仅可以适用于线性和非线性的人脸识别系统，而且保持了人脸图像原空间的局部结构，大大提高了识别率，可在线实际应用。

Description

一种基于局部保持非负矩阵分解的增量学习人脸识别方法

技术领域

本发明涉及一种模式识别技术领域，具体涉及一种基于局部保持非负矩阵分解(LPNMF)的增量学习人脸识别方法。

背景技术

近二十年来，人脸识别技术作为一种高效的生物特征识别技术，日益受到学术界以及工业界的重视。人脸识别研究的关键是特征提取，有基于全局特征的提取，也有基于局部特征的提取。

特征脸方法也称为主元分析法(PCA)，是一种基于全局特征提取的人脸识别方法。PCA将主成分提取出来，减少了样本间的冗余信息，达到了降维的目的。然而，特征脸方法有几个缺点：a)如何选取主元仍然是个问题；b)当训练样本线性不可分时，特征脸方法的识别率很低；c)基于全局特征的PCA无法提取到局部特征。

非负矩阵分解(NMF)是在矩阵元素均为非负数的约束条件下的一种矩阵分解方法。NMF是一种局部特征提取方法，其将人脸表示成基图像的线性组合，而基图像代表了眼、鼻子、嘴等人脸的局部特征，符合人类思维局部构成整体的概念。这种方法最早由Lee等人提出并成功应用于基于物体局部特征的识别，之后研究人员对NMF方法进行了更深入的研究。研究者们提出了几种改进算法如局部非负矩阵分解(LNMF)、Fisher非负矩阵分解(FNMF)、稀疏非负矩阵分解(SNMF)、加权非负矩阵分解(WNMF)等，这些方法能在一定程度上提高识别率，但在迭代得到基矩阵时需要更大的计算量。

目前基于NMF的所有算法大多存在两方面的缺点，即分解速度慢以及对训练样本或类别的增加都必须重复学习，这大大限制了NMF在实际中的应用。

发明内容

本发明的目的在于：为了克服已有技术的不足，提出了一种基于局部保持非负矩阵分解的增量学习人脸识别方法，该方法保持了样本空间的局部结构，明显提高了算法效率，更好地应用于人脸识别的在线学习。

本发明解决其技术问题所采用的技术方案是：

一种基于局部保持非负矩阵分解的增量学习人脸识别方法，包括以下步骤：

a) 人脸图像的预处理：将每张人脸图像规范化成一个同一规格的样本；

b) 初始样本训练：运用LPNMF算法计算初始样本的基矩阵W和系数矩阵H；

c) 增量学习：对新来样本运用增量的LPNMF算法更新基矩阵

和系数矩阵

d) 人脸识别：采用最近邻分类器进行识别检测。

具体来讲，在本发明的人脸识别方法中，所述增量学习过程具体包括下述步骤：

a1 对于新来的样本

已给出初始样本训练矩阵V=[v₁,v₂,…,v_n]，确定更新样本矩阵为 $\tilde{V}=[v_1,v_2,...,v_n,\tilde{v}];$

a2 初始化基矩阵

和随机初始化系数矩阵

a3 设定最大迭代次数t，相互迭代更新

和

使得

a4 步骤a3中的

按如下迭代规则更新：

${\left(\tilde{W}\right)}_{\mathrm{ia}}\←{\left(\tilde{W}\right)}_{\mathrm{ia}}\frac{\mathrm{\α}{\left(V{H}^T\right)}_{\mathrm{ia}}+\mathrm{\β}{\left(\tilde{v}{\tilde{h}}^T\right)}_{\mathrm{ia}}}{\mathrm{\α}{\left(\tilde{W}H{H}^T\right)}_{\mathrm{ia}}+\mathrm{\β}{\left(\tilde{W}\tilde{h}{\tilde{h}}^T\right)}_{\mathrm{ia}}}$

其中α和β是权重系数，α代表初始样本的比重，β代表新来样本的比重取β=1-α；

a5步骤a3中的

不更新前n个样本所对应的的系数矩阵H，只更新新来样本

所对应的的更新迭代规则如下：

${\left(\tilde{h}\right)}_a^{t+1}\←P[{\left(\tilde{h}\right)}_a^t-{\mathrm{\λ}}_t{\left(\frac{\∂f_{\tilde{W}}\left({\tilde{H}}^t\right)}{\∂\tilde{h}}\right)}_a]$

其中 $P\left[z_i\right]=\left\{\begin{array}{cc}{z}_i& z_i\&GreaterEqual;0\\ 0& z_i<0\end{array}\right.,$ ${\mathrm{\&lambda;}}_t={\mathrm{\&phi;}}^{g_t}(0<\mathrm{\&phi;}<1)$ 和g_t是第一个非负整数满足如下公式：

$(1-\mathrm{\&sigma;})<\&dtri;f_{\tilde{W}}\left({\tilde{H}}^t\right),{\tilde{H}}^{t+1}-{\tilde{H}}^t>+\frac{1}{2}<{\tilde{H}}^{t+1}-{\tilde{H}}^t,{\&dtri;}^2{f}_{\tilde{W}}\left({\tilde{H}}^t\right)>\&le;0$

其中0<σ<1和符号<.,.>代表两个矩阵的点积；

a6步骤a5中

计算如下：

$\&dtri;f_{\tilde{W}}\left(\tilde{H}\right)=\frac{\&PartialD;f_{\tilde{W}}\left(\tilde{H}\right)}{\&PartialD;\tilde{h}}=\mathrm{\&beta;}\left({\tilde{W}}^T\tilde{W}\tilde{h}-{\tilde{W}}^T\tilde{v}\right)+\mathrm{\&beta;}\left(2\tilde{L}\tilde{h}\right)$

${\&dtri;}^2{f}_{\tilde{W}}\left(\tilde{H}\right)=\frac{{\&PartialD;}^2{f}_{\tilde{W}}\left(\tilde{H}\right)}{{\&PartialD;}^2\tilde{h}}=\mathrm{\&beta;}{\tilde{W}}^T\tilde{W}+2\mathrm{\&beta;}\tilde{L}$

上式中得采用块优化策略计算，初始化

更新规则如下：

其中i从1取到N。N代表样本分块的总数，为第i块的拉普拉斯算子。Sⁱ定义为：

其中

代表第i块索引集。

本发明的技术构思：本发明是对最近由郑建炜等提出的一种新的降维分析方法，称为增量的局部保持非负矩阵分解（incremental locality preserving nonnegativematrix factorization，ILPNMF）进行改进的。LPNMF是在Lee等提出的非负矩阵分解（nonnegative matrix factorization，NMF）的基础上引入局部保持投影(locality preserving projections，LPP)算法进行改进。改进算法有效地保持了样本空间的局部结构，但应对在线学习相关应用存在计算冗余问题。本发明利用增量学习的思想提出一种基于局部保持非负矩阵分解的增量学习人脸识别方法，很好地克服了LPNMF的缺陷。

本发明具有以下优点：1、有效地保持了样本空间的局部结构，使算法具有较高的识别准确率；2、实现了增量学习，在识别过程中能够充分利用已接触的信息，对识别结果进行改进；3、在进行增量学习时能够充分利用原有的计算结果，避免了重复计算，提高了时间效率；4、在进行增量学习时大大节约了存储空间。

附图说明

图1是本发明的ILPNMF和LPNMF在ORL人脸库识别率比较图；

图2是本发明的ILPNMF和LPNMF在ORL人脸库训练时间比较图；

图3是本发明的ILPNMF和LPNMF在COIL人脸库识别率比较图；

图4是本发明的ILPNMF和LPNMF在COIL人脸库训练时间比较图；

图5是本发明的流程图。

具体实施方式

下面对本发明作进一步描述。参照附图：

一种基于局部保持非负矩阵分解的增量学习人脸识别方法，包括以下步骤：

a) 人脸图像的预处理：将每张人脸图像规范化成一个同一规格的样本；

b) 初始样本训练：运用LPNMF算法计算初始样本的基矩阵W和系数矩阵H：

1) 将每个样本v_i构造成初始样本训练矩阵V=[v₁,v₂,…,v_n]；

2) 设定最大迭代次数t，相互迭代更新W和H，使得WH≈V；

3) 步骤2中W和H按如下规则更新：

$W_{\mathrm{ia}}\&LeftArrow;W_{\mathrm{ia}}\frac{{\left(V{H}^T\right)}_{\mathrm{ia}}}{{\left(\mathrm{WH}{H}^T\right)}_{\mathrm{ia}}}$

$H^{t+1}\&LeftArrow;P[H^t-{\mathrm{\&lambda;}}_t\&dtri;f_w\left(H^t\right)]$

其中 $P\left[z_i\right]=\left\{\begin{array}{cc}{z}_i& z_i\&GreaterEqual;0\\ 0& z_i<0\end{array}\right.,$ ${\mathrm{\&lambda;}}_t={\mathrm{\&phi;}}^{g_t}(0<\mathrm{\&phi;}<1)$ 和g_t是第一个非负整数满足如下公式：

$(1-\mathrm{\&sigma;})<\&dtri;f_W\left(H^t\right),H^{t+1}-H^t>+\frac{1}{2}<H^{t+1}-H^t,{\&dtri;}^2{f}_W\left(H^t\right)>\&le;0$

其中0<σ<1和符号<.,.>代表两个矩阵的点积，

$\&dtri;f_W\left(H\right)=\frac{\&PartialD;f_W\left(H\right)}{\&PartialD;H}=(W^T\mathrm{WH}-W^{T}V)+\left(2\mathrm{LH}\right)$

${\&dtri;}^2{f}_W\left(H\right)=\frac{{\&PartialD;}^2{f}_W\left(H\right)}{{\&PartialD;}^{2}H}=W^{T}W+L$

c) 增量学习：对新来样本运用增量的LPNMF算法更新基矩阵

和系数矩阵

1) 对于新来的人脸图像样本

已给出初始样本训练矩阵V=[v₁,v₂,…,v_n]，确定更新样本矩阵为

2) 初始化基矩阵和随机初始化系数矩阵

3) 设定最大迭代次数t，相互迭代更新

和

使得

4) 步骤3中的

按如下迭代规则更新：

${\left(\tilde{W}\right)}_{\mathrm{ia}}\&LeftArrow;{\left(\tilde{W}\right)}_{\mathrm{ia}}\frac{\mathrm{\&alpha;}{\left(V{H}^T\right)}_{\mathrm{ia}}+\mathrm{\&beta;}{\left(\tilde{v}{\tilde{h}}^T\right)}_{\mathrm{ia}}}{\mathrm{\&alpha;}{\left(\tilde{W}H{H}^T\right)}_{\mathrm{ia}}+\mathrm{\&beta;}{\left(\tilde{W}\tilde{h}{\tilde{h}}^T\right)}_{\mathrm{ia}}}$

其中α和β是权重系数，α代表初始样本的比重，β代表新来样本的比重，取β=1-α；

5) 步骤3中的

不更新前n个样本所对应的的系数矩阵H，只更新新来样本

所对应的的

更新迭代规则如下：

${\left(\tilde{h}\right)}_a^{t+1}\&LeftArrow;P[{\left(\tilde{h}\right)}_a^t-{\mathrm{\&lambda;}}_t{\left(\frac{\&PartialD;f_{\tilde{W}}\left({\tilde{H}}^t\right)}{\&PartialD;\tilde{h}}\right)}_a]$

其中 $P\left[z_i\right]=\left\{\begin{array}{cc}{z}_i& z_i\&GreaterEqual;0\\ 0& z_i<0\end{array}\right.,$ ${\mathrm{\&lambda;}}_t={\mathrm{\&phi;}}^{g_t}(0<\mathrm{\&phi;}<1)$ 和g_t是第一个非负整数满足如下公式：

$(1-\mathrm{\&sigma;})<\&dtri;f_{\tilde{W}}\left({\tilde{H}}^t\right),{\tilde{H}}^{t+1}-{\tilde{H}}^t>+\frac{1}{2}<{\tilde{H}}^{t+1}-{\tilde{H}}^t,{\&dtri;}^2{f}_{\tilde{W}}\left({\tilde{H}}^t\right)>\&le;0$

其中0<σ<1和符号<.,.>代表两个矩阵的点积；

6) 步骤5中

计算如下：

$\&dtri;f_{\tilde{W}}\left(\tilde{H}\right)=\frac{\&PartialD;f_{\tilde{W}}\left(\tilde{H}\right)}{\&PartialD;\tilde{h}}=\mathrm{\&beta;}\left({\tilde{W}}^T\tilde{W}\tilde{h}-{\tilde{W}}^T\tilde{v}\right)+\mathrm{\&beta;}\left(2\tilde{L}\tilde{h}\right)$

${\&dtri;}^2{f}_{\tilde{W}}\left(\tilde{H}\right)=\frac{{\&PartialD;}^2{f}_{\tilde{W}}\left(\tilde{H}\right)}{{\&PartialD;}^2\tilde{h}}=\mathrm{\&beta;}{\tilde{W}}^T\tilde{W}+2\mathrm{\&beta;}\tilde{L}$

上式中得

采用块优化策略计算，初始化

更新规则如下：

其中i从1取到N。N代表样本分块的总数，为第i块的拉普拉斯算子。Sⁱ定义为：

其中 $F_i=\{i,i^1,...,i^{n_i-1},i_1,...,i_k\}$ 代表第i块索引集；

d) 人脸识别：采用最近邻分类器进行识别检测。

采用ORL和COIL两个经典的人脸数据库进行识别率和效率上的检测。首先选择本发明的增量的LPNMF算法和普通的增量的NMF算法做性能上的比较。在ORL人脸数据库上，我们随机选择每个人的5张图像作为训练，剩下的用于测试。在COIL人脸数据库上，我们随机选择每个对象的10个样品作为训练，剩下的随机10个样品用于测试。

表1和表2分别给出了不同降维维度和比重系数下两种算法在ORL数据库和COIL数据库上的识别率比较，其中r表示降维维度和β表示比重系数。由表可知，增量的NMF和增量的LPNMF在ORL数据库上的最佳识别率分别是87.03%和91.35%。同样增量的NMF和增量的LPNMF在COIL数据库上的最佳识别率分别是87.57%和92.67%。结果表明，本发明的增量的LPNMF算法比普通的增量的NMF有较高的识别率，更好地保持了空间的局部结构。

然后选择本发明的增量的LPNMF算法和原先的LPNMF算法在识别率和时耗上做比较。在ORL数据库上，先随机选择每个人的3张图像运用LPNMF算法做初始训练，然后每次每个人添加1张图像作为增量学习。实验结果如图1、图2。结果表明，增量的LPNMF算法识别率与原先的LPNMF算法接近，而时耗上远低于LPNMF算法。

在COIL数据库上，最初随机选择每个对象的5个样本进行初始训练，然后每次每个对象插入5个样本作为增量学习。实验结果如图3、图4。结果表明，增量的LPNMF算法在识别率上稍微低于LPNMF算法但计算量远小于LPNMF算法。LPNMF算法训练30个样品需要5分钟，而增量的LPNMF算法只需要19秒。因此，增量的LPNMF算法在效率上得到了很大的提高。

表1不同降维维度和比重系数下INMF和ILPNMF在ORL数据库上的识别率比较

表2不同降维维度和比重系数下INMF和ILPNMF在COIL数据库上的识别率比较

Claims (3)

1.一种基于局部保持非负矩阵分解的增量学习人脸识别方法，其特征在于，包括以下步骤：

a) 人脸图像的预处理：将每张人脸图像规范化成一个同一规格的样本；

b) 初始样本训练：运用LPNMF算法计算初始样本的基矩阵W和系数矩阵H；

c) 增量学习：对新来样本运用增量的LPNMF算法更新基矩阵

和系数矩阵

d) 人脸识别：采用最近邻分类器进行识别检测。

2.根据权利要求1所述的人脸识别方法，其特征在于，在所述步骤c)中，对新来样本运用增量的LPNMF算法更新基矩阵和系数矩阵

包括下述六个步骤：

a1 对于新来的样本

，已给出初始样本训练矩阵V=[v₁,v₂,…,v_n]，确定更新样本矩阵为

a2 初始化基矩阵

和随机初始化系数矩阵

a3 设定最大迭代次数t，相互迭代更新

和

使得

a4 步骤a3中的

按如下迭代规则更新：

${\left(\tilde{W}\right)}_{\mathrm{ia}}\&LeftArrow;{\left(\tilde{W}\right)}_{\mathrm{ia}}\frac{\mathrm{\&alpha;}{\left(V{H}^T\right)}_{\mathrm{ia}}+\mathrm{\&beta;}{\left(\tilde{v}{\tilde{h}}^T\right)}_{\mathrm{ia}}}{\mathrm{\&alpha;}{\left(\tilde{W}H{H}^T\right)}_{\mathrm{ia}}+\mathrm{\&beta;}{\left(\tilde{W}\tilde{h}{\tilde{h}}^T\right)}_{\mathrm{ia}}}$

其中α和β是权重系数，α代表初始样本的比重，β代表新来样本的比重，取β=1-α；

a5 步骤a3中的

不更新前n个样本所对应的的系数矩阵H，只更新新来样本

所对应的的更新迭代规则如下：

${\left(\tilde{h}\right)}_a^{t+1}\&LeftArrow;P[{\left(\tilde{h}\right)}_a^t-{\mathrm{\&lambda;}}_t{\left(\frac{\&PartialD;f_{\tilde{W}}\left({\tilde{H}}^t\right)}{\&PartialD;\tilde{h}}\right)}_a]$

其中 $P\left[z_i\right]=\left\{\begin{array}{cc}{z}_i& z_i\&GreaterEqual;0\\ 0& z_i<0\end{array}\right.,$ ${\mathrm{\&lambda;}}_t={\mathrm{\&phi;}}^{g_t}(0<\mathrm{\&phi;}<1)$ 和g_t是第一个非负整数满足如下公式：

$(1-\mathrm{\&sigma;})<\&dtri;f_{\tilde{W}}\left({\tilde{H}}^t\right),{\tilde{H}}^{t+1}-{\tilde{H}}^t>+\frac{1}{2}<{\tilde{H}}^{t+1}-{\tilde{H}}^t,{\&dtri;}^2{f}_{\tilde{W}}\left({\tilde{H}}^t\right)>\&le;0$

其中0<σ<1和符号<.,.>代表两个矩阵的点积；

a6 步骤a5中

计算如下：

$\&dtri;f_{\tilde{W}}\left(\tilde{H}\right)=\frac{\&PartialD;f_{\tilde{W}}\left(\tilde{H}\right)}{\&PartialD;\tilde{h}}=\mathrm{\&beta;}\left({\tilde{W}}^T\tilde{W}\tilde{h}-{\tilde{W}}^T\tilde{v}\right)+\mathrm{\&beta;}\left(2\tilde{L}\tilde{h}\right)$

${\&dtri;}^2{f}_{\tilde{W}}\left(\tilde{H}\right)=\frac{{\&PartialD;}^2{f}_{\tilde{W}}\left(\tilde{H}\right)}{{\&PartialD;}^2\tilde{h}}=\mathrm{\&beta;}{\tilde{W}}^T\tilde{W}+2\mathrm{\&beta;}\tilde{L}$

上式中得采用块优化策略计算，初始化

更新规则如下：

其中i从1取到N。N代表样本分块的总数，为第i块的拉普拉斯算子。Sⁱ定义为：

其中 $F_i=\{i,i^1,...,i^{n_i-1},i_1,...,i_k\}$ 代表第i块索引集。

3.根据权利要求2所述的人脸识别方法，其特征在于，在所述步骤a4、a5中

和相互迭代规则为：

${\left(\tilde{W}\right)}_{\mathrm{ia}}\&LeftArrow;{\left(\tilde{W}\right)}_{\mathrm{ia}}\frac{\mathrm{\&alpha;}{\left(V{H}^T\right)}_{\mathrm{ia}}+\mathrm{\&beta;}{\left(\tilde{v}{\tilde{h}}^T\right)}_{\mathrm{ia}}}{\mathrm{\&alpha;}{\left(\tilde{W}H{H}^T\right)}_{\mathrm{ia}}+\mathrm{\&beta;}{\left(\tilde{W}\tilde{h}{\tilde{h}}^T\right)}_{\mathrm{ia}}}$

${\left(\tilde{h}\right)}_a^{t+1}\&LeftArrow;P[{\left(\tilde{h}\right)}_a^t-{\mathrm{\&lambda;}}_t{\left(\frac{\&PartialD;f_{\tilde{W}}\left({\tilde{H}}^t\right)}{\&PartialD;\tilde{h}}\right)}_a]$

Images