CN103530657B - 一种基于加权l2抽取深度学习人脸识别方法 - Google Patents

Abstract

本发明公开了一种基于加权L2抽取深度学习人脸识别方法，首先通过多种卷积核卷积提取人脸特征矢量，然后利用加权L2抽取方法对特征矢量进行降维，接着通过局部平均归一化处理方法对特征矢量进行归一化，从而构成深度学习中的一层网络，利用相同方法搭建三层深度学习网络，并将三层深度学习网络进行级联，构成一个层次化的三层深度学习网络，最后利用支持矢量机分类器进行人脸的训练和识别。本发明提出加权L2抽取方法进行特征降维，克服传统L2抽取特征单一和训练中的过拟合问题，有效实现特征矢量降维的同时能提高人脸识别性能，能有效提取更高级的特征，稳定性强，识别性能高。

Description

一种基于加权L2抽取深度学习人脸识别方法

技术领域

本发明涉及习人脸识别方法，特别涉及一种基于加权L2抽取深度学习人脸识别方法。

背景技术

人脸识别技术是指识别出一幅静态图像，或者一段动态视频中的图像是否为人脸的一种技术。人脸识别技术属于生物特征识别技术，该技术特指利用分析处理人脸视觉特征信息进行身份鉴别的计算机技术。人脸是人类感情表达和交流最为重要也是最直接的载体，通过人脸可以推断出一个人的种族、地域、甚至身份、地位等信息。自90年代后期以来，一些商业化的人脸识别系统逐渐进入市场，比较常用的应用如，国家安全、军事安全和公共安全领域、智能门禁、家庭娱乐方面等领域都有广泛应用。

由于人脸识别技术广泛的应用性，当前人脸识别在计算机领域占据重要地位。目前专利CN101162500提供一种分区式人脸识别方法，该方法首先预建包含一个或者多个人脸各区域特征数据的人脸特征数据库，然后对待识别的人脸进行分区，并提取经分区后的人脸各区域的特征数据，再设定需进行比对的区域，接着根据所设定的需进行比对的区域，将相应区域的特征数据与所述人脸特征数据库内的数据进行比对，并计算相似度，从而识别人脸，该方法由于仅需要对被设定的区域的特征数据进行比对，所以识别速度快，但是该方法的识别性能同预建立的数据库大小和复杂度成正相关，前期工作复杂。专利CN1011744337提供了一种基于人脸识别的监控装置及嵌入式门禁监控系统，其中人脸识别的监控装置包括视频采集模块、视频编码模块、人脸识别模块、控制模块及通信模块，可对采集的包括人脸的视频图像进行人脸识别并根据识别的结果发出相应的控制信号，同时对采集的视频图像进行视频编码以保存现场图像。该方法可以实现将人脸识别和视频监控系统的有机集成，但是由于人脸识别方法简单，容易造成门禁系统漏洞。

发明内容

为了克服现有技术的上述缺点与不足，本发明的目的在于提供一种基于加权L2抽取深度学习人脸识别方法，克服传统L2抽取特征单一和训练中的过拟合问题，提高人脸识别技术的识别性能。

本发明的目的通过以下技术方案实现：

一种基于加权L2抽取深度学习人脸识别方法，包括以下步骤：

（1）对人脸训练图片进行预处理；

（2）选择T种卷积核对预处理后的人脸训练图片进行卷积，得到T个的特征图层，分别对每个特征图层提取特征矢量，得到特征矢量；T≥2；

（3）用加权L2抽取方法对步骤（2）提取的特征矢量进行降维；所述加权L2抽取方法具体如下：

将加权L2抽取方法描述为一个两层的网络，其中第一层为简单层，第二层为采样层，简单层的权值矩阵为W,采样层的权值矩阵为V，设x^(t)为第t个特征图层的特征矢量，t=1,2,3…T；则采样层的输出响应为

$p_i(x^{\left(t\right)};W,V)=\sqrt{{\mathrm{\Σ}}_{k=1}^m{V}_{\mathrm{ik}}{\left({\mathrm{\Σ}}_{j=1}^n{W}_{\mathrm{kj}}{x}_j^{\left(t\right)}\right)}^2}$

上式中，W∈R^m*n，V∈R^m*m,n代表第t个特征图层的特征矢量大小，m代表简单层单元的个数，W_kj表示矩阵W第k行，第j列的元素，V_ik表示矩阵V第i行，第k列的元素；i=1,2,3…m；

其中，矩阵W由以下目标函数给出：

$\underset{W}{\min \mathrm{imize}}{\mathrm{\Σ}}_{t=1}^T{\mathrm{\Σ}}_{i=1}^m{p}_i(x^{\left(t\right)};W,V)$

目标函数的约束条件为：WW^T=I，其中W^T为W的转置矩阵；

矩阵V是一个固定矩阵；

（4）对降维后的特征向量进行归一化处理；

（5）以步骤（4）的输出作为输入，进行步骤（2）～（4）；

（6）以步骤（5）的输出作为输入，进行步骤（2）～（4）；

（7）将步骤（6）的输出送入支持向量机分类器进行训练，得到训练好的支持向量机分类器；

（8）利用步骤（7）训练好的支持向量机分类器对人脸进行识别。

步骤（4）所述归一化处理具体为局部平均归一化处理。

V_ik=1或V_ik=0。

所述卷积核包括：梯度方向边缘检测核、均值滤波核、高通滤波核、低通滤波核、拉普拉斯核、边缘增强核和对比度增强核。

所述梯度方向边缘检测核包括:

$\begin{array}{cccc}\left(\begin{array}{ccc}1& 1& 1\\ 1& -2& 1\\ -1& -1& -1\end{array}\right)& \left(\begin{array}{ccc}1& 1& 1\\ -1& -2& 1\\ -1& -1& 1\end{array}\right)& \left(\begin{array}{ccc}-1& 1& 1\\ -1& -2& 1\\ -1& 1& 1\end{array}\right)& \left(\begin{array}{ccc}-1& -1& 1\\ -1& -2& 1\\ 1& 1& 1\end{array}\right)\\ \left(\begin{array}{ccc}-1& -1& -1\\ 1& -2& 1\\ 1& 1& 1\end{array}\right)& \left(\begin{array}{ccc}1& -1& -1\\ 1& -2& -1\\ 1& 1& 1\end{array}\right)& \left(\begin{array}{ccc}1& 1& -1\\ 1& -2& -1\\ 1& 1& -1\end{array}\right)& \left(\begin{array}{ccc}1& 1& 1\\ 1& -2& -1\\ 1& -1& -1\end{array}\right)\end{array}..$

步骤（1）所述对人脸图片进行预处理，具体为：

对人脸图片进行白化处理，并将每张人脸图片的大小调整为相同的尺寸。

所述支持向量机分类器为二类支持向量机分类器。

本发明公开了一种基于加权L2抽取深度学习人脸识别方法，首先通过多种卷积核卷积提取人脸特征矢量，然后利用加权L2抽取方法对特征矢量进行降维，接着通过局部平均归一化处理方法对特征矢量进行归一化，从而构成深度学习中的一层网络，利用相同方法搭建三层深度学习网络，并将三层深度学习网络进行级联，构成一个层次化的三层深度学习网络，最后利用支持矢量机分类器进行人脸的训练和识别。

与现有技术相比，本发明具有以下优点和有益效果；

（1）本发明的加权L2抽取方法对特征矢量进行有效降维，不仅能有效地抽取显著特征，同时对区域内的变换具有稳定性；

（2）本发明的局部平均归一化处理方法利用局部区域的均值和标准差，重点突出局部区域内对特征矢量的影响，比普通的归一化方法更加有针对性，效果更佳；

（3）本发明利用多种卷积核对图像进行特征提取，多图层的特征图谱可以极大的丰富特征复杂度；

（4）本发明采用最流行的深度学习方法，通过计算机来模拟大脑的多层信息处理机制，并且选择三层深度网络，符合人脑神经元处理层次，有助于提取高级特征，提高网络的识别性能；

（5）本发明选用二类支持向量机分类器，该分类器收敛解是全局解，同时也很少出现过拟合，是很好的线性判别分类器。

附图说明

图1为本发明的实施例的基于加权L2抽取深度学习人脸识别方法的流程图。

图2为本发明的实施例的基于加权L2抽取深度学习人脸识别方法的每一层网络的建立流程图。

具体实施方式

下面结合实施例，对本发明作进一步地详细说明，但本发明的实施方式不限于此。

实施例

如图1所示，本实施例的基于加权L2抽取深度学习人脸识别方法，搭建一个三层的深度网络结构，上一层网络的输出作为下一层网络的输入，第三层网络的输出作为最终输出结果，每一层网络的建立过程见图2；具体步骤如下：

（1）对人脸图片进行预处理：对人脸训练图片进行白化处理，并将每张人脸图片的大小调整为64*64的统一大小，为进一步处理做好准备；人脸训练图片包括5000张人脸和5000张非人脸图像；

（2）多卷积核特征提取：选择图像处理中最常用的T种（T≥2，本实施例T=7）卷积核对预处理后的人脸训练图片进行卷积，得到七个的特征图层，分别对每个特征图层提取特征矢量，得到特征矢量；

所述卷积核包括以下：梯度方向边缘检测核、均值滤波核、高通滤波核、低通滤波核、拉普拉斯核、边缘增强核和对比度增强核；

其中，梯度方向边缘检测核包括:

$\begin{array}{cccc}\left(\begin{array}{ccc}1& 1& 1\\ 1& -2& 1\\ -1& -1& -1\end{array}\right)& \left(\begin{array}{ccc}1& 1& 1\\ -1& -2& 1\\ -1& -1& 1\end{array}\right)& \left(\begin{array}{ccc}-1& 1& 1\\ -1& -2& 1\\ -1& 1& 1\end{array}\right)& \left(\begin{array}{ccc}-1& -1& 1\\ -1& -2& 1\\ 1& 1& 1\end{array}\right)\\ \left(\begin{array}{ccc}-1& -1& -1\\ 1& -2& 1\\ 1& 1& 1\end{array}\right)& \left(\begin{array}{ccc}1& -1& -1\\ 1& -2& -1\\ 1& 1& 1\end{array}\right)& \left(\begin{array}{ccc}1& 1& -1\\ 1& -2& -1\\ 1& 1& -1\end{array}\right)& \left(\begin{array}{ccc}1& 1& 1\\ 1& -2& -1\\ 1& -1& -1\end{array}\right)\end{array}..$

均值滤波核、高通滤波核、低通滤波核、拉普拉斯核、边缘增强核和对比度增强核都可以用MATLAB中的fspecial函数生成；

（3）用加权L2抽取方法（WeightL2Pooling,WL2Pooling）对步骤（2）提取的特征矢量进行降维；

所述加权L2抽取方法具体如下：

将加权L2抽取方法描述为一个两层的网络，第一层和第二层分别是平方和开算术平方根，其中第一层为简单层，第二层为采样层，简单层的权值矩阵为W,采样层的权值矩阵为V，设x^(t)为第t个特征图层的特征矢量，t=1,2,3…T；则采样层的输出响应为

$p_i(x^{\left(t\right)};W,V)=\sqrt{{\mathrm{\Σ}}_{k=1}^m{V}_{\mathrm{ik}}{\left({\mathrm{\Σ}}_{j=1}^n{W}_{\mathrm{kj}}{x}_j^{\left(t\right)}\right)}^2}$

上式中，W∈R^m*n，V∈R^m*m,n代表第t个特征图层的特征矢量大小，m代表简单层单元的个数，W_kj表示矩阵W第k行，第j列的元素，V_ik表示矩阵V第i行，第k列的元素；p_i(x^(t);W,V)为采样层的输出响应的特征矢量的元素，i=1,2,3…m；

为了找到加权L2抽取的最佳结构，就需要学习到参数矩阵W，可以通过找到稀疏特征表示，因此，矩阵W由以下目标函数给出：

$\underset{W}{\min \mathrm{imize}}{\mathrm{\Σ}}_{t=1}^T{\mathrm{\Σ}}_{i=1}^m{p}_i(x^{\left(t\right)};W,V)$

为了保证所学习到的特征矢量的差异性，目标函数的约束条件为：WW^T=I，其中W^T为W的转置矩阵；

为了计算简便，矩阵V是一个固定矩阵；V_ik=1或V_ik=0；

为了提高训练速度，对步骤（2）提取的特征矢量进行降维时，如是相同距离上相邻点，其对应的权重矩阵W相同，以减少整个网络上权重变量个数。

（4）对降维后的特征向量进行局部平均归一化处理（LocalAverageNormalization，LAN），其具体实现细节如下：假定采样层的输出响应的特征矢量为p，其局部平均归一化处理处理后的输出o_i，k＝(p-p_u)/p_σ，其中p_u为窗口的宽和高大小的均值，p_σ为窗口的宽和高大小（本发明设定其窗口大小为9*9）的标准方差；

步骤（2）～（4）完成第一层网络的建立；

（5）以步骤（4）的输出作为输入，进行步骤（2）～（4），完成第二层网络的建立；

（6）以步骤（5）的输出作为输入，进行步骤（2）～（4），完成第三层网络的建立；

（7）将步骤（6）的输出作为送入支持向量机分类器进行训练，得到训练好的支持向量机分类器；

（8）利用步骤（7）训练好的二类支持向量机分类器（SVM分类器）对人脸进行识别：

人脸测试图片经预处理、多卷积核特征矢量提取、加权L2抽取方法对特征矢量降维、局部平均归一化处理后，利用步骤（7）训练好的支持向量机分类器判断当前人测试图片是人脸还是非人脸，并且计算识别准确率。

上述实施例为本发明较佳的实施方式，但本发明的实施方式并不受所述实施例的限制，如卷积核还可以选用其他常用的卷积核，其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化，均应为等效的置换方式，都包含在本发明的保护范围之内。

Claims (7)

1.一种基于加权L2抽取深度学习人脸识别方法，其特征在于，包括以下步骤：

(1)对人脸训练图片进行预处理；

(2)选择T种卷积核对预处理后的人脸训练图片进行卷积，得到T个的特征图层，分别对每个特征图层提取特征矢量，得到特征矢量；T≥2；

(3)用加权L2抽取方法对步骤(2)提取的特征矢量进行降维；所述加权L2抽取方法具体如下：

将加权L2抽取方法描述为一个两层的网络，其中第一层为简单层，第二层为采样层，简单层的权值矩阵为W,采样层的权值矩阵为V，设x^(t)为第t个特征图层的特征矢量，t＝1,2,3…T；则采样层的输出响应为

$p_i(x^{\left(t\right)};W,V)=\sqrt{{\mathrm{\Σ}}_{k=1}^m{V}_{ik}{\left({\mathrm{\Σ}}_{j=1}^n{W}_{kj}{x}_j^{\left(t\right)}\right)}^2}$

上式中，W∈R^m*n，V∈R^m*m,n代表第t个特征图层的特征矢量大小，m代表简单层单元的个数，W_kj表示矩阵W第k行，第j列的元素，V_ik表示矩阵V第i行，第k列的元素；i＝1,2,3…m；

其中，矩阵W由以下目标函数给出：

$\underset{W}{\min imize}{\mathrm{\Σ}}_{t=1}^T{\mathrm{\Σ}}_{i=1}^m{p}_i(x^{\left(t\right)};W,V)$

目标函数的约束条件为：WW^T＝I，其中W^T为W的转置矩阵；

矩阵V是一个固定矩阵；

(4)对降维后的特征向量进行归一化处理；

(5)以步骤(4)的输出作为输入，进行步骤(2)～(4)；

(6)以步骤(5)的输出作为输入，进行步骤(2)～(4)；

(7)将步骤(6)的输出送入支持向量机分类器进行训练，得到训练好的支持向量机分类器；

(8)利用步骤(7)训练好的支持向量机分类器对人脸进行识别。

2.根据权利要求1所述的基于加权L2抽取深度学习人脸识别方法，其特征在于，步骤(4)所述归一化处理具体为局部平均归一化处理。

3.根据权利要求1所述的基于加权L2抽取深度学习人脸识别方法，其特征在于，V_ik＝1或V_ik＝0。

4.根据权利要求1所述的基于加权L2抽取深度学习人脸识别方法，其特征在于，所述卷积核包括：梯度方向边缘检测核、均值滤波核、高通滤波核、低通滤波核、拉普拉斯核、边缘增强核和对比度增强核。

5.根据权利要求4所述的基于加权L2抽取深度学习人脸识别方法，其特征在于，所述梯度方向边缘检测核包括:

$\begin{array}{c}\left(\begin{array}{ccc}1& 1& 1\\ 1& -2& 1\\ -1& -1& -1\end{array}\right)\left(\begin{array}{ccc}1& 1& 1\\ -1& -2& 1\\ -1& -1& 1\end{array}\right)\left(\begin{array}{ccc}-1& 1& 1\\ -1& -2& 1\\ -1& 1& 1\end{array}\right)\left(\begin{array}{ccc}-1& -1& 1\\ -1& -2& 1\\ 1& 1& 1\end{array}\right)\\ \left(\begin{array}{ccc}-1& -1& -1\\ 1& -2& 1\\ 1& 1& 1\end{array}\right)\left(\begin{array}{ccc}1& -1& -1\\ 1& -2& -1\\ 1& 1& 1\end{array}\right)\left(\begin{array}{ccc}1& 1& -1\\ 1& -2& -1\\ 1& 1& -1\end{array}\right)\left(\begin{array}{ccc}1& 1& 1\\ 1& -2& -1\\ 1& -1& -1\end{array}\right)\end{array}.$

6.根据权利要求1所述的基于加权L2抽取深度学习人脸识别方法，其特征在于，步骤(1)所述对人脸训练图片进行预处理，具体为：

对人脸训练图片进行白化处理，并将每张人脸训练图片的大小调整为相同的尺寸。

7.根据权利要求1所述的基于加权L2抽取深度学习人脸识别方法，其特征在于，所述支持向量机分类器为二类支持向量机分类器。