CN104408435A - 一种基于随机池化卷积神经网络的人脸识别方法 - Google Patents

Abstract

本发明公开了一种基于随机池化卷积神经网络的人脸识别方法。该方法利用随机池化的卷积神经网络来快速提取人脸图像的特征并级联以实现人脸识别。在构建卷积神经网络的过程中采用了新的池化值的选取策略和步骤，然后利用softmax分类器进行有监督的训练。本发明在采样过程中使用的概率分布是基于能量的，能够对卷积神经网络提取特征的计算速度的提高和卷积神经网络训练结果的泛化应用具有优化作用。基于随机池化的卷积神经网络训练简单，准确率高，将会促进随机池化在人脸识别特征提取过程中的广泛应用。

Description

一种基于随机池化卷积神经网络的人脸识别方法

技术领域

本发明属于机器学习、人脸识别领域，涉及一种基于随机池化卷积神经网络的人脸识别方法。

背景技术

人脸识别作为一个生物特征识别技术已经成为图像处理与模式识别领域的研究热点，在公共安全、人机交互和身份认证等领域得到广泛研究。目前，国内外对人脸识别的特征提取研究主要集中在手动提取相应特征和构建神经网络自动提取特征两大方向。传统的卷积神经网络参数多，一个主要问题是计算复杂度和时间开销，需要计算的特征矩阵维度较大，不利于分类器的训练。因此在卷积特征提取的过程中，卷积运算的下一步池化过程被用作减少特征算法计算量和存储量的一个主要解决办法。现有的池化技术主要使用求均值或者最大值函数作为池化方法，其中均值函数池化方法会降低具有较大卷积值的影响作用，而最大值函数池化方法会使得某些卷积值过于代表了整个池化方块卷积向量造成训练集过拟合的问题，不利于整个卷积神经网络对人脸识别问题的泛化。

发明内容

本发明目的在于针对现有技术的不足，提供一种基于随机池化卷积神经网络的人脸识别方法，该方法在构建卷积神经网络过程中将随机化和确定函数的池化方法相结合，根据池化区域内各个元素基于能量分布的概率进行随机采样，从而快速地将提取的人脸特征图从较大维度矩阵降低至较小维度的矩阵，输入softmax分类器训练后输出类别信息以实现人脸识别。

本发明的目的是通过以下技术方案来实现的：一种基于随机池化卷积神经网络的人脸识别方法，该方法包括以下步骤：

(1)采集f个人的标准人脸灰度图，其中每个人采集10张，得到10f张标准人脸灰度图作为训练图像；每张训练图像对应一个1×f维的二值人脸类别标记向量y_label＝[y_label(1),y_label(2),...,y_label(f)]，其中第n个人脸图像的类别标记向量y_label应满足以下条件：

(2)将训练图像裁剪为r×c像素大小，对裁剪得到的图像做预处理，分别计算图像中所有像素值X_i的均值x_average和标准差σ：

$x_{\mathrm{average}}=\frac{1}{r\·c}{\mathrm{\Σ}}_{i\∈r\·c}{x}_i$

$\mathrm{\σ}=\sqrt{\frac{1}{r\·c}\underset{i=1}{\overset{r\·c}{\mathrm{\Σ}}}{(x_i-x_{\mathrm{average}})}^2}$

对每个像素值进行归一化，得到图像定义为X_large，具体如下：

$X_{l\arg e}\←\frac{x_i-x_{\mathrm{average}}}{\mathrm{\σ}}$

(3)按照0为均值，1为方差的高斯分布随机初始化k个a×b大小(其中，1<a<r,1<b<c)的小块作为卷积核模板，定义为X_con；

(4)用步骤(3)得到的k个卷积核模板X_con分别与X_large进行卷积运算，并用滤波器进行滤波得到k个卷积特征图X_f，每个卷积特征图X_f具体计算公式为：

$X_f=\max (0,X_{\mathrm{con}}\&CircleTimes;X_{l\arg e})$

其中代表卷积运算，max(x,y)代表滤波器函数，它可取x和y两个值的较大值作为输出；X_f的矩阵大小均为(r-a+1)×(c-b+1)；

(5)将卷积特征图X_f划分为若干大小为m×n的池化区域，其中m取(r-a+1)大于1的因子，n取(c-b+1)大于1的因子；在每个池化区域R_j中，计算每个矩阵元素值t_i基于能量分布的概率值：对每个池化区域R_j按照概率值p_i进行随机采样得到采样值t_q，其中q满足的分布；令该池化区域的值R_j＝s_q代表整个池化区域R_j，并对该卷积特征图X_f内所有m×n大小的池化区域R_j进行重复操作，即可得到基于能量分布的随机池化结果特征矩阵X_small。本步骤将卷积特征图X_f从(r-a+1)×(c-b+1)维度的特征矩阵降低至维度的特征矩阵X_small；

(6)对步骤(4)得到的k个卷积特征图X_f分别进行步骤(5)的操作，得到k个特征矩阵X_small；将计算得到的k个特征矩阵X_small按照行的顺序依次级联，得到维的级联特征向量X_cascade；

(7)对于步骤(1)采集的10f张人脸训练图重复步骤(2)-步骤(6)，分别得到各自的级联特征向量X_cascade，输入至f维的softmax分类器，根据步骤(1)得到的1×f维的人脸类别标记向量y_label对softmax分类器进行有监督的反向传播算法训练，得到分类器映射关系Y_output＝g(X_cascade)，其中Y_output为类别输出矩阵；

(8)采集步骤(1)中f个人中任一个人的人脸图像作为测试人脸图像，重复步骤(2)-步骤(6)计算得到其级联特征向量X_test_cascade，利用步骤(7)训练得到的分类器映射关系g计算相应的类别输出矩阵Y_test_output＝g(X_test_cascade)；类别输出矩阵Y_test_output是一个1×f维的向量，其最大元素值所在的标号即为该测试人脸图像的类别序号，从而实现人脸识别。其中，1≤n≤f，n、f、r、c、a、b和k均为自然数。

本发明的有益效果是，本发明采用基于随机池化卷积神经网络来提取特征并级联不仅让池化区域的每个值都有一定概率被代表为特征、去除了较小卷积值的影响作用，而且解决了最大值池化函数带来的训练过拟合问题，同时可以迅速、简单地提取出级联特征。本发明提出新的基于随机池化卷积神经网络的人脸识别方法有利于在训练时降低计算量，促进随机池化在人脸识别特征提取过程中的广泛应用。

附图说明

图1为无标签训练原图的裁剪预处理示意图；

图2为随机初始化得到的卷积核参数示意图；

图3为随机池化采样得到卷积特征图的示意图；

图4为池化区域选取过程示意图；

图5为池化采样示例流程图；

图6为所有卷积特征图的随机池化和级联特征的示意图；

图7为测试人脸识别的流程图。

具体实施方式

以下结合附图和实施实例对本发明作进一步说明。

本发明一种基于随机池化卷积神经网络的人脸识别方法，包括以下步骤：(1)采集100个人的人脸灰度图，其中每个人需要10张人脸标准训练图像，得到1000张训练图像，每张训练图像对应一个1×100维的二值类别标记向量y_label＝[y_label(1),y_label(2),...,y_label(100)]，其中第n个人脸图像的类别标记向量y_label应满足以下条件：

例如对于第三个人的人脸图像，其对应的类别标记向量可以写作y_label＝[0,0,1,0,0...,0]，y_label中第三个元素为1，其余元素均为0；

(2)将训练图像裁剪为50×38像素大小，裁剪得到的图像做预处理，分别计算图像中所有像素值X_i的均值x_average和标准差σ：

$x_{\mathrm{average}}=\frac{1}{1900}{\mathrm{\&Sigma;}}_{i\&Element;1900}{x}_i=178$

$\mathrm{\&sigma;}=\sqrt{\frac{1}{1900}\underset{i=1}{\overset{1900}{\mathrm{\&Sigma;}}}{(x_i-178)}^2}=1.13$

对每个像素值进行归一化，得到图像定义为X_large，如图1所示，具体如下：

$X_{l\arg e}\&LeftArrow;\frac{x_i-178}{1.13}$

(3)按照0为均值，1为方差的高斯分布来随机初始化5个3×3像素的小块作为卷积核模板，定义为X_con，如图2所示；

(4)用步骤(3)得到的5个卷积核模板X_con分别与X_large进行卷积运算，并用取正值的滤波器进行滤波得到5个卷积特征图X_f，如图3所示，每个卷积特征图X_f具体计算公式为：

$X_f=\max (0,X_{\mathrm{con}}\&CircleTimes;X_{l\arg e})$

其中代表卷积运算，max(x,y)代表滤波器函数，它可取x和y两个值的较大值作为输出；X_f的矩阵大小均为48×36；

(5)将卷积特征图划分为12×9＝108个大小为4×4的池化区域，如图4所示；在每个池化区域R_j中，计算每个矩阵元素值t_i基于能量分布的随机概率值：对每个池化区域R_j按照概率值p_i进行随机采样得到采样值t_q，其中q满足的分布。令该池化区域的值R_j＝s_q代表整个池化区域，对该特征图内所有4×4大小的池化区域进行重复操作，即可得到基于能量分布的随机池化结果特征矩阵X_small。单个池化单元的随机池化过程示例如图5所示，左边表示一个经过卷积层之后得到的矩阵，这里面有零值也有非零值。对于池化单元内计算基于能量分布的随机概率值，其中非零的概率集是{0.243,0.027,0.431,0.108,0.191}，根据概率集随机采样，假设本次采样值落在概率为0.243的元素上，则池化单元取对应的元素激活值为1.8，而不是最大值。对卷积特征层的每个池化区域均重复采样，最终可以将卷积特征图从48×36维的特征矩阵降低至12×9维的特征矩阵X_small；

(6)对步骤(4)得到的5个卷积特征图分别进行步骤(5)的操作，可以得到5个特征矩阵X_small。将计算得到的5个特征矩阵X_small按照行的顺序依次级联，得到5×12×9＝540维的级联特征向量X_cascade，如图6所示。与原图像50×38＝1900维矩阵相比，本方法计算得到的级联特征向量X_cascade维度更低，所代表的特征信息更高级更抽象，更有利于分类任务；

(7)对于步骤(1)采集的1000张人脸训练图重复步骤(2)-步骤(6)，分别得到各自的级联特征向量X_cascade，输入至100维的softmax分类器，根据步骤(1)得到的100维的人脸类别标记向量y_label对softmax分类器进行有监督的反向传播算法训练，得到分类器映射关系Y_output＝g(X_cascade)，其中Y_output为类别输出矩阵；

(8)采集步骤(1)中100个人中任一个人的人脸图像作为测试人脸图像，重复步骤(2)-步骤(6)计算得到其级联特征向量X_test_cascade，利用步骤(7)训练得到的分类器映射关系g计算相应的类别输出矩阵Y_test_output＝g(X_test_cascade)；本实例中类别输出矩阵Y_test_output是一个1×100维的向量，其最大元素值所在的标号即为该测试人脸图像所述的类别序号。具体流程如图7所示，最后计算得到的类别输出矩阵Y_test_output各个元素中第5项值(0.140)最大，则最终将该测试人脸图像分类至第5个人的人脸。

以上所述仅为本发明的优选实施方式，但本发明保护范围并不局限于此。任何本领域的技术人员在本发明公开的技术范围内，均可对其进行适当的改变或变化，而这种改变或变化都应涵盖在本发明的保护范围之内。

Claims (1)

1.一种基于随机池化卷积神经网络的人脸识别方法，其特征在于，该方法包括以下步骤：

(1)采集f个人的标准人脸灰度图，其中每个人采集10张，得到10f张标准人脸灰度图作为训练图像；每张训练图像对应一个1×f维的二值人脸类别标记向量y_label＝[y_label(1),y_label(2),...,y_label(f)]，其中第n个人脸图像的类别标记向量y_label应满足以下条件：

(2)将训练图像裁剪为r×c像素大小，对裁剪得到的图像做预处理，分别计算图像中所有像素值X_i的均值x_average和标准差σ：

$x_{\mathrm{average}}=\frac{1}{r\&CenterDot;c}{\mathrm{\&Sigma;}}_{i\&Element;r\&CenterDot;c}{x}_i$

$\mathrm{\&sigma;}=\sqrt{\frac{1}{r\&CenterDot;c}\underset{i=1}{\overset{r\&CenterDot;c}{\mathrm{\&Sigma;}}}{(x_i-x_{\mathrm{average}})}^2}$

对每个像素值进行归一化，得到图像定义为X_large，具体如下：

$X_{l\arg e}\&LeftArrow;\frac{x_i-x_{\mathrm{average}}}{\mathrm{\&sigma;}}$

(3)按照0为均值，1为方差的高斯分布随机初始化k个a×b大小(其中，1<a<r,1<b<c)的小块作为卷积核模板，定义为X_con；

(4)用步骤(3)得到的k个卷积核模板X_con分别与X_large进行卷积运算，并用滤波器进行滤波得到k个卷积特征图X_f，每个卷积特征图X_f具体计算公式为：

$X_f=\max (0,X_{\mathrm{con}}\&CircleTimes;X_{l\arg e})$

其中代表卷积运算，max(x,y)代表滤波器函数，它可取x和y两个值的较大值作为输出；X_f的矩阵大小均为(r-a+1)×(c-b+1)；

(5)将卷积特征图X_f划分为若干大小为m×n的池化区域，其中m取(r-a+1)大于1的因子，n取(c-b+1)大于1的因子；在每个池化区域R_j中，计算每个矩阵元素值t_i基于能量分布的概率值：对每个池化区域R_j按照概率值p_i进行随机采样得到采样值t_q，其中q满足的分布；令该池化区域的值R_j＝s_q代表整个池化区域R_j，并对该卷积特征图X_f内所有m×n大小的池化区域R_j进行重复操作，即可得到基于能量分布的随机池化结果特征矩阵X_small。本步骤将卷积特征图X_f从(r-a+1)×(c-b+1)维度的特征矩阵降低至维度的特征矩阵X_small；

(6)对步骤(4)得到的k个卷积特征图X_f分别进行步骤(5)的操作，得到k个特征矩阵X_small；将计算得到的k个特征矩阵X_small按照行的顺序依次级联，得到维的级联特征向量X_cascade；

(7)对于步骤(1)采集的10f张人脸训练图重复步骤(2)-步骤(6)，分别得到各自的级联特征向量X_cascade，输入至f维的softmax分类器，根据步骤(1)得到的1×f维的人脸类别标记向量y_label对softmax分类器进行有监督的反向传播算法训练，得到分类器映射关系Y_output＝g(X_cascade)，其中Y_output为类别输出矩阵；

(8)采集步骤(1)中f个人中任一个人的人脸图像作为测试人脸图像，重复步骤(2)-步骤(6)计算得到其级联特征向量X_test_cascade，利用步骤(7)训练得到的分类器映射关系g计算相应的类别输出矩阵Y_test_output＝g(X_test_cascade)；类别输出矩阵Y_test_output是一个1×f维的向量，其最大元素值所在的标号即为该测试人脸图像的类别序号，从而实现人脸识别。