CN110321777B - 一种基于栈式卷积稀疏去噪自编码器的人脸识别方法 - Google Patents

Abstract

本发明属于人脸识别领域，特别涉及一种基于栈式卷积稀疏去噪自编码器的人脸识别方法；所述方法包括通过将多个卷积的稀疏去噪自编码器与多个池化层交替连接，从而构建出栈式卷积稀疏去噪自编码器模型；将所述栈式卷积稀疏去噪编码器模型的卷积形式去除，采用分块的方式训练栈式稀疏去噪自编码器模型；用训练好的参数构成卷积滤波器，以卷积形式实现栈式卷积稀疏去噪自编码器；利用栈式卷积稀疏去噪自编码器进行人脸特征提取，并采用分类器对人脸进行分类与识别；本发明通过可以非监督训练的深度卷积神经网络，提取出与有监督深度卷积神经网络有相似性能的人脸特征，有效简化了训练难度。

Description

一种基于栈式卷积稀疏去噪自编码器的人脸识别方法

技术领域

本发明涉及一种人脸识别方法，特别涉及一种基于栈式卷积稀疏去噪自编码器的人脸识别方法。

背景技术

人脸识别作为一项人工智能技术，在国家安全、金融和人机交互等领域有着广阔的应用前景。随着大数据和高性能计算的出现，人脸识别技术得到了飞速的发展，约束环境(用户比较配合、采集条件比较理想)下的人脸识别已经达到了可以实用的程度。但在非约束环境下，由于人脸图像容易受到光照变化、表情变化、角度变化、年龄变化及遮挡等非可控因素的影响，很难实现精准的人脸识别。近年来，基于深度学习的人脸识别技术大大提高了非约束人脸识别的性能，逐渐成为人脸识别领域的研究热点。特别是，深度卷积神经网络(Deep Convolutional Neural Network,DCNN)由于其多层深度结构能够获取保留丰富空间信息的人脸特征，在人脸识别应用中取得了良好的表现。Facebook提出的DeepFace、香港中文大学的Yi Sun等提出的DeepID系列、以及Google提出的FaceNet等都是基于DCNN的人脸识别方法的典型代表。近期，还有一些文献提出了新的损失函数可以进一步提高基于DCNN的人脸识别的性能，如A-softmax(SphereFace)、Range Loss、ArcFace等。然而，像DCNN这样的有监督学习模型需要大量的有标签人脸数据进行训练，现实情况下获取这样的数据往往花费巨大，难以实现。

发明内容

有鉴于此，本发明的目的在于提供一种基于无监督的深度神经网络(称之为栈式卷积稀疏去噪自编码器)的人脸识别方法，该方法通过将卷积的稀疏去噪自编码器与池化(pooling)层相结合进行堆叠的方式构成非监督的深度神经网络，在不需要有监督训练的同时保留了类似DCNN的卷积层与池化层相结合的结构，能够提取出具有丰富空间信息的人脸特征。该方法首先构建非监督的栈式卷积稀疏去噪自编码器模型并通过非监督方式对其进行训练，然后通过该栈式卷积稀疏去噪自编码器对输入的人脸图片(对齐后的)进行人脸特征提取，得到具有判别性的特征向量，最后采用分类器(如支持向量机)进行人脸识别。

为达到上述目的，本发明提供如下技术方案：

基于栈式卷积稀疏去噪自编码器的人脸识别方法，该方法包括以下步骤：

步骤一：通过将多个卷积的稀疏去噪自编码器与多个池化层交替连接，从而构建出栈式卷积稀疏去噪自编码器模型；

步骤二：将所述栈式卷积稀疏去噪编码器模型的卷积形式去除，以分块的方式直接训练栈式稀疏去噪自编码器模型；

步骤三：用训练好的参数构成卷积滤波器，以卷积的形式实现栈式卷积稀疏去噪自编码器；利用栈式卷积稀疏去噪自编码器进行人脸特征提取，并采用分类器对人脸进行分类与识别。

进一步的，所述步骤一包括：

步骤1)将稀疏去噪自编码器训练出来的参数进行重组，生成卷积参数，即滤波器；

步骤2)采用重组的卷积参数构成的滤波器实现卷积操作，从而构成卷积的稀疏去噪自编码器；

步骤3)将所述卷积的稀疏去噪自编码器与池化层交替连接；从而构建出栈式卷积稀疏去噪自编码器模型。

优选的，重复步骤1)～步骤3)两次即可，即表示栈式卷积稀疏去噪自编码器模型中至少有两个卷积的稀疏去噪自编码器和两个池化层。

所述池化层采用最大池化层、平均池化或金字塔池化中任意一种或多种。

进一步的，所述步骤二包括：

步骤1)将栈式卷积稀疏去噪编码器模型的每个卷积稀疏去噪自编码器中的卷积形式去掉，再将稀疏去噪自编码器的输入分成若干个块组成训练样本集，训练稀疏去噪自编码器；

步骤2)采用非监督逐层预训练，即根据所述训练样本集训练第一层的参数，将每一层的输出作为下一层的输入训练下一层的参数，通过反向传播算法最小化第一损失函数，获得稀疏去噪自编码器的参数；

步骤3)采用后向传播算法最小化第二损失函数，从而对所述参数再次进行调整，即微调(fine-tune)；

步骤4)通过将上述训练后的稀疏去噪自编码器参数进行重组，组成k个卷积核，获得最终的卷积参数；其中，k为稀疏去噪自编码器隐层神经元的个数。

进一步的，所述稀疏去噪自编码器的参数包括：

其中，0＝{w，w′，b，b′}表示稀疏去噪自编码器模型的参数；w，b分别表示编码权值和偏移量；w′，b′分别表示解码的权值和偏移量；L_SDA(θ)表示稀疏去噪自编码器的损失函数，即第一损失函数。

进一步的，所述第一损失函数包括：

其中，

表示KL距离，即为稀疏惩罚项；ρ为稀疏参数，/>

为第j个隐单元的平均激活值，β为稀疏惩罚项的权值；x表示原始输入图像，y表示重建的输入图像；/>

表示训练样本集；x⁽ⁱ⁾表示第i个训练样本；N表示训练样本个数；k表示稀疏去噪自编码器隐层神经元的个数，即隐单元的个数；/>

表示二范数；λ表示权值的衰减项参数。

进一步的，所述第二损失函数包括：

其中，x表示原始输入图像，y表示重建的输入图像。

进一步的，所述步骤三包括：

步骤1)将训练好的稀疏去噪自编码器的参数重组成卷积参数，根据重组后的卷积参数对人脸图片进行卷积操作以及池化操作，从而提取出人脸特征；

步骤2)将人脸特征送入分类器进行人脸分类与识别。

进一步的，所述卷积操作包括：

其中，

表示第l+1层的第j个特征图；/>

表示第l层的第i个特征图，σ表示非线性的激活函数；w_j表示重组后第j个卷积核的编码权值参数；b_j表示重组后第j个卷积核的偏移量参数；*表示卷积操作。

本发明的有益效果在于：本发明提出基于栈式卷积稀疏去噪自编码器的人脸识别方法，通过可以非监督训练的深度神经网络提取出与有监督深度神经网络(如DCNN)有相似性能的人脸特征，有效解决了有监督网络容易因为大量有标签数据获取困难而难以训练的问题。

本方法具有以下优点：

1)栈式卷积稀疏去噪自编码器通过将卷积的稀疏去噪自编码器与池化层相结合堆叠起来形成一个层次化的深度神经网络，该模型具有与DCNN等相似的层次化结构，同时又具备稀疏去噪自编码器对输入图像的变化鲁棒的特点，因此能够提取鲁棒且抽象的人脸特征；

2)由于栈式卷积稀疏去噪自编码器是一个非监督的网络，训练该模型仅需要无标签的数据，简化了训练难度。

附图说明

图1为本发明采用的方法流程图；

图2为本发明采用的去噪自编码器结构图；

图3为本发明采用的栈式卷积稀疏去噪自编码器结构图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。

本发明的一种基于栈式卷积稀疏去噪自编码器的人脸识别方法，如图1所示，包括以下步骤：

步骤一：通过将多个卷积的稀疏去噪自编码器与多个池化层交替连接，从而构建出栈式卷积稀疏去噪自编码器模型；

步骤二：将所述栈式卷积稀疏去噪编码器模型的卷积形式去除，采用分块的方式直接训练栈式稀疏去噪自编码器模型；

步骤三：在上述训练模型的过程中，训练出参数，使用训练好的参数构成卷积滤波器，以卷积形式实现栈式卷积稀疏去噪自编码器模型；利用栈式卷积稀疏去噪自编码器进行人脸特征提取，并采用分类器对人脸进行分类与识别。

本发明中，去噪自编码器的网络结构图如图2所示。假设原始输入图像为x，对原始图像x进行加噪处理后得到的加噪图像为x′，重建的输入图像为y，则去噪自编码器(Denoising Auto-Encoder，DAE)的编码过程和解码过程分别可以表示为：

h＝g(x′)＝σ(wx′+b) (1)

y＝f(h)＝σ(w′h+b′) (2)

其中，σ表示非线性的激活函数，w，b分别表示编码权值和偏移量，w′，b′分别表示解码的权值和偏移量。

对于加噪图像的噪声选择，通常是黑白图像用binomial噪声进行加噪，而彩色图像选用高斯噪声进行加噪处理。去噪自编码器的损失函数，即第二损失函数可表示为：

其中，θ＝{w，w′，b，b′}表示模型的参数，λ是权值的衰减项参数，用于降低权值的量级和避免过拟合。为了使输出尽可能的接近输入，需要DAE的隐层尽可能满足一定的稀疏性，该性能可以通过在损失函数中加入稀疏的惩罚项的方式实现，即形成稀疏去噪自编码器(Sparse DenoisingAuto-Encoder，SDA)。相应地，稀疏去噪自编码器的损失函数，即第一损失函数为：

其中，

表示KL距离，即为稀疏惩罚项，ρ为稀疏参数，一般取很小，如0.01～0.1本发明中取值为0.05；/>

为第j个隐单元的平均激活值，从训练样本中平均而来，为满足稀疏性即要近似使得/>

β为稀疏惩罚项的权值。稀疏去噪自编码器的参数可以通过后向传播最小化第一损失函数的方式进行训练，即：

θ＝argmin_θ L_SDA(θ) (5)

稀疏去噪自编码器能够获取相对鲁棒且具有判别性的特征，但是其仍然是一个浅层的神经网络。为了能够提取更为抽象的高级特征，本发明将稀疏去噪自编码器以卷积形式实现并将其与池化层相结合进行堆叠以构建一个深层的网络结构，即栈式卷积稀疏去噪自编码器。

模型的构建：

栈式卷积稀疏去噪自编码器是一个层次化的结构，其网络结构如图3所示。栈式卷积稀疏去噪自编码器由多个卷积的稀疏去噪自编码器与池化层交替连接而成，卷积的稀疏去噪自编码器通过由稀疏去噪自编码器学来的滤波器对输入的人脸图像(或特征图)进行卷积操作生成特征图，池化层对特征进行下采样，用于降低特征维数并选择最显著的特征。

作为一种可选方式，所述池化层采用最大池化层、平均池化或金字塔池化中任意一种或多种。优选的，本发明中可以采用Max-Pooling方式，即最大池化方式。卷积的稀疏去噪自编码器的实现是通过将稀疏去噪自编码器训练出来的参数重组(reshape)生成卷积(滤波器)参数，然后进行卷积操作。

模型的训练：

由于卷积的自编码器很难训练(卷积的自编码器的输入图片为高维的张量)，本发明仅在测试阶段采用卷积结构，而在训练阶段，则将卷积结构去掉直接训练SDA，为了适配测试阶段的卷积结构，SDA的训练是通过分块的方式进行，即将SDA的输入分成若干个块(patch)组成SDA的训练样本集。假设每个patch的大小为L₁×L₂，C表示通道个数，则SDA的卷积核为一个L₁×L₂×C大小的三维数组。去掉卷积结构训练SDA类似于训练栈式稀疏去噪自编码器(SSDA)，故可采用SSDA的训练方式，即非监督逐层预训练与微调结合。

具体包括：

非监督逐层预训练：即首先根据输入训练第一层的参数，然后采用第一层的输出作为输入训练第二层的参数，以此类推，将每一层的输出作为下一层的输入训练下一层的参数。

微调阶段：这个过程完成后，再采用后向传播算法最小化第二损失函数进一步微调参数。由于在预训练阶段，损失函数已经加入了稀疏项，在微调阶段，损失函数可以去掉稀疏项。在SDA的参数训练出来之后，将这些参数进行重组得到一个大小为L₁×L₂×C×k的四维形式的卷积核，表示组成了k个L₁×L₂×C大小的卷积核，其中k为SDA隐层的神经元个数(k可以通过人为设置)。该四维形式的卷积核即为最终的卷积稀疏去噪自编码器的卷积参数。

测试(特征提取)过程：

测试过程即利用训练好的栈式卷积稀疏去噪自编码器在输入的对齐的人脸图片上进行人脸特征提取，再将特征送入SVM等分类器进行人脸分类与识别。与训练阶段不同，该特征提取过程采用的卷积结构(去掉SDA的重建层)，即利用训练好的SDA的参数重组成卷积参数进行卷积操作及后续的池化操作，以提取出鲁棒的人脸特征。卷积操作的数学表达为：

其中，，

表示第l+1层的第j个特征图；/>

表示第l层的第i个特征图，σ表示非线性的激活函数；w_j表示第j个特征图对应的由稀疏去噪自编码器参数重组后编码权值参数(第j个卷积核的编码权值参数)；b_j表示第j个特征图中由稀疏去噪自编码器参数重组后的偏移量参数(第j个卷积核的偏移量参数)，*表示卷积操作。

其中，作为一种可实现方式，分类器可采用SVM支持向量机、复合型SVM支持向量机、随机森林等等。

本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，该程序可以存储于一计算机可读存储介质中，存储介质可以包括：ROM、RAM、磁盘或光盘等。

以上所举实施例，对本发明的目的、技术方案和优点进行了进一步的详细说明，所应理解的是，以上所举实施例仅为本发明的优选实施方式而已，并不用以限制本发明，凡在本发明的精神和原则之内对本发明所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (7)

1.一种基于栈式卷积稀疏去噪自编码器的人脸识别方法，其特征在于，所述方法包括以下步骤：

步骤一：通过将多个卷积的稀疏去噪自编码器与多个池化层交替连接，从而构建出栈式卷积稀疏去噪自编码器模型；

所述步骤一包括：步骤1)将稀疏去噪自编码器训练出来的参数进行重组，生成卷积参数，即滤波器；

步骤2)采用重组的卷积参数构成的滤波器实现卷积操作，即构成卷积的稀疏去噪自编码器；

步骤3)将所述卷积的稀疏去噪自编码器与池化层交替连接；从而构建出栈式卷积稀疏去噪自编码器模型；

步骤二：将栈式卷积稀疏去噪编码器模型的卷积形式去除，以分块的方式直接训练栈式稀疏去噪自编码器模型；

所述步骤二包括：步骤1)将栈式卷积稀疏去噪编码器模型的每个卷积稀疏去噪自编码器中的卷积形式去掉，再将稀疏去噪自编码器的输入分成若干个块组成训练样本集，训练稀疏去噪自编码器；

步骤2)采用非监督逐层预训练，即根据所述训练样本集训练第一层的参数，将每一层的输出作为下一层的输入训练下一层的参数，通过反向传播算法最小化第一损失函数，获得稀疏去噪自编码器的参数；

步骤3)采用后向传播算法最小化第二损失函数，从而对所述参数再次进行微调；

步骤4)通过将上述训练后的稀疏去噪自编码器参数进行重组，组成k个卷积核，获得最终的卷积参数；其中，k为稀疏去噪自编码器隐层神经元的个数；

步骤三：用训练好的参数构成卷积滤波器，以卷积形式实现栈式卷积稀疏去噪自编码器；利用栈式卷积稀疏去噪自编码器进行人脸特征提取，并采用分类器对人脸进行分类与识别。

2.根据权利要求1所述的一种基于栈式卷积稀疏去噪自编码器的人脸识别方法，其特征在于，所述池化层采用最大池化层、平均池化或金字塔池化中任意一种或多种。

3.根据权利要求1所述的一种基于栈式卷积稀疏去噪自编码器的人脸识别方法，其特征在于，所述稀疏去噪自编码器的参数包括：

其中，θ＝{w，w′，b，b′}表示稀疏去噪自编码器模型的参数；w，b分别表示编码权值和偏移量；w′，b′分别表示解码的权值和偏移量；L_SDA(θ)表示稀疏去噪自编码器的损失函数，即第一损失函数。

4.根据权利要求3所述的一种基于栈式卷积稀疏去噪自编码器的人脸识别方法，其特征在于，所述第一损失函数包括：

/>

其中，

表示KL距离，即为稀疏惩罚项；ρ为稀疏参数，/>

为第j个隐单元的平均激活值，β为稀疏惩罚项的权值；x⁽ⁱ⁾表示原始输入图像即第i个训练样本，y表示重建的输入图像；/>

表示训练样本集；N表示训练样本个数；/>

表示二范数；λ表示权值的衰减项参数。

5.根据权利要求1所述的一种基于栈式卷积稀疏去噪自编码器的人脸识别方法，其特征在于，所述第二损失函数包括：

其中，x⁽ⁱ⁾表示原始输入图像即第i个训练样本，y表示重建的输入图像；

表示训练样本集，x⁽ⁱ⁾表示第i个训练样本，N表示训练样本个数；/>

表示二范数；λ表示权值的衰减项参数。

6.根据权利要求1所述的一种基于栈式卷积稀疏去噪自编码器的人脸识别方法，其特征在于，所述步骤三包括：

步骤1)将训练好的稀疏去噪自编码器的参数重组成卷积参数，根据重组后的卷积参数对人脸图片进行卷积操作以及池化操作，从而提取出人脸特征；

步骤2)将人脸特征送入分类器进行人脸分类与识别。

7.根据权利要求6所述的一种基于栈式卷积稀疏去噪自编码器的人脸识别方法，其特征在于，所述卷积操作包括：

其中，

表示第l+1层的第j个特征图；/>

表示第l层的第i个特征图，σ表示非线性的激活函数；w_j表示重组后第j个卷积核的编码权值参数；b_j表示重组后第j个卷积核的偏移量参数；*表示卷积操作。/>

Images