CN111339931A - 一种联合性别属性训练的人脸识别网络模型构建方法 - Google Patents

Abstract

本发明公开了一种联合性别属性训练的人脸识别网络模型构建方法，包括以下步骤：从前至后按卷积层、批正则化层、参数修正线性单元层和挤压激活单元模块的顺序封装成残差块，并以预设的数量复制依次排布；从前至后按照卷积层、批正则化层、参数修正线性单元层、数个残差块的顺序依次堆叠，得到网络块；复制并依次排布以构成主干特征提取网络结构；在主干特征提取网络结构添加随机失活层，并在尾端加入并行分支的标准全连接层和带正则化的全连接层，得到网络结构模型；求得输出值的总损失值；采用带动量的随机梯度下降法优化网络结构模型参数；设定迭代次数，并重复总损失值计算和网络结构模型参数优化，直至获得最优的人脸识别网络模型。

Description

一种联合性别属性训练的人脸识别网络模型构建方法

技术领域

本发明涉及人脸识别技术领域，尤其是一种联合性别属性训练的人脸识别网络模型构建方法。

背景技术

近几年，随着计算机技术与深度学习技术的快速发展，人们的生活水平不断得到提高。与此同时，人们开始更加注重个人隐私信息的安全性，已有的传统身份鉴定方法已经不能满足当代社会人们的需求了，比如证件、密码等方式。这种安全需求推动了生物识别技术的发展，生物识别是计算机视觉技术中的热门研究之一，主要是依据人类特有的一些生理特征(比如人脸、指纹、声音等)通过模式识别算法进行身份鉴别。在生物识别技术中，人脸识别技术因其人脸特征的独特性成为了极其重要的识别方法。人脸识别技术主要通过提取算法提取需要对比人脸的视觉特征信息，再进行身份鉴别，即使是双胞胎的人脸相似度也无法达到100％，任何人脸都存在差异。所以，人脸识别技术被广泛应用在身份验证、公共安全等领域中，可以为个人身份验证提供安全、方便、高效的解决方案。

但是，目前人脸识别技术主要通过学习可区别的特征或者使用损失函数强制将不同类别的人脸特征分开，将同类的人脸特征聚集。基于传统图像处理的技术大多依赖于手工特征，但手工特征受很多外界因素的制约，识别效果非常不好，而基于深度学习的技术在人脸识别领域出现了显著的识别效果，与传统的方法对比具有更强的泛化性。

目前，基于深度学习的人脸识别算法主要分为两类：

第一类，是基于深度度量学习的人脸识别算法，这些算法将人脸识别看成距离度量问题，自动学习卷积神经网络提取的人脸特征之间计算出来的距离度量，比如欧几里得距离、曼哈顿距离。为了减小其他因素带来的影响，可以通过损失函数优化参数，从而减小类内距离，增大类间距离，最常用的损失函数有对比损失和三元组损失。虽然这类算法简洁、易于理解，但是训练方式较为复杂，需要有经验地挑选训练样本，并且网络训练时容易出现不收敛情况。

第二类，是基于间隔的人脸识别算法，这类算法的核心思想是通过对柔性最大值损失函数的改进，在计算损失值时加上间隔这个约束，从而得到更具有辨别力的损失函数，期望在特征空间上得到最大类内距离小于最小类间距离的结果。但是这类算法需视情况增减约束，施加太强的约束会大大降低算法的性能，或者在训练时容易出现不收敛，反之，太弱的约束会使算法达不到期望的分类效果。

目前现有的基于深度学习的算法偏重于优化人脸特征的邻接关系，忽略了人脸样本之间的邻接关系，从而会受样本密度不均匀的影响，造成精度上的偏差。因此，急需要提出一种原理简单、实施便捷的人脸识别训练方案，以解决受外界因素影响的问题。

发明内容

针对上述问题，本发明的目的在于提供一种联合性别属性训练的人脸识别网络模型构建方法，本发明采用的技术方案如下：

一种联合性别属性训练的人脸识别网络模型构建方法，包括以下步骤：

从前至后按卷积层、批正则化层、参数修正线性单元层和挤压激活单元模块的顺序封装成残差块，并以预设的数量复制依次排布；

从前至后按照卷积层、批正则化层、参数修正线性单元层、数个残差块的顺序依次堆叠，得到网络块；复制并依次排布网络块，以构成主干特征提取网络结构；

在所述主干特征提取网络结构添加随机失活层，并在尾端加入并行分支的标准全连接层和带正则化的全连接层，得到网络结构模型；

分别求得标准全连接层和带正则化的全连接层的输出值的总损失值；

采用带动量的随机梯度下降法优化网络结构模型参数；

设定迭代次数，并重复总损失值计算和网络结构模型参数优化，直至获得最优的人脸识别网络模型。

进一步地，所述分别求得标准全连接层和带正则化的全连接层的输出值的总损失值，包括以下步骤：

采用柔性最大值损失函数求得标准全连接层分支的输出值的第一损失值；

采用附加间隔的柔性最大值损失函数求得带正则化的全连接层分支的输出值的第二损失值；

将第一损失值与第二损失值按比例求和，得到输出值的总损失值。

更进一步地，所述总损失值对应的损失函数推导过程如下：

所述柔性最大损失函数的表达式如下：

其中，参数N表示批处理样本的大小，n表示类数，x_i表示第i个样本的特征向量，

表示真实样本标签y_i对应的网络权重值的转置，而

表示预测为j类标签对应的网络权重值的转置。

所述附加间隔的柔性最大值损失函数的表达式如下：

其中s表示缩放因子，用于缩放余弦值，参数m是一个距离调节因子，用于调节类间距离，c参数表示类别的总数。

总损失值对应的损失函数的表达式为：

Loss＝L₂+λL₁

其中，λ表示权重因子，即性别分类分支损失值的量级和加快网络损失值的收敛速度。

优选地，所述权重因子λ的取值为0.1。

优选地，所述人脸识别网络模型由4个网络块依次堆叠构成；所述网络块中包含的残差块数量依次为2、4、8、2，且人脸识别网络模型包含36层卷积层。

优选地，所述采用带动量的随机梯度下降法优化网络结构模型参数，包括以下步骤：

设定学习率为0.01，并采用预热余弦学习率下降调整目标函数的收敛；

设定随机梯度下降法的动量参数为0.9；

网络结构进行一次前馈传播计算出总损失值；

采用带动量的随机梯度下降法优化网络参数，重复计算总损失值，直至损失值收敛得到最优解。

优选地，所述迭代次数为15000次。

进一步地，所述缩放因子S取值为40,且距离调节因子m取值为0.4。

与现有技术相比，本发明具有以下有益效果：

(1)本发明巧妙地设置批正则化层，并根据数据集调整超参数，既可以加快算法的收敛速度，也可以一定程度上预防过拟合情况。

(2)本发明巧妙地引入挤压激活单元模块，对每个通道的特征进行权重重标定，给予特征不同的权重，类似注意力机制，帮助算法学习重要的特征信息。

(3)本发明提出了一种联合性别属性训练的人脸识别网络模型构建方法，从多任务学习机制中受到启发，算法通过学习多个任务的知识来增强学习能力，在学习过程中看重任务之间的联系，从而学习到人脸样本之间的关系，解决受样本密度不均匀影响的问题，提高算法模型的泛化性和精度。

(4)本发明在主干特征提取网络之后添加随机失活层，减少参数量和防止过拟合。

(5)本发明在网络模型在前几十次迭代训练时学习率较小，让网络模型在这期间损失值慢慢下降，逐渐趋于稳定，待模型损失值相对稳定之后再使用最开始设定的学习率进行训练，这样操作之后模型的收敛速度变得更快，在一定程度下使模型效果达到最佳。其次，采用带动量参数的随机梯度下降法可以减小参数优化时产生的震荡，加速模型训练，从而使网络模型更优，收敛效果更加稳定。

(6)本发明采用神经元不同的全连接层；输入到附加间隔柔性最大值损失函数的特征值需先正则化，以减少计算量。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需使用的附图作简单介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对保护范围的限定，对于本领域技术人员来说，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1为本发明的网络残差块封装示意图。

图2为本发明的网络结构示意图。

图3为本发明的人脸图像特征簇分布对比示意图。。

具体实施方式

为使本申请的目的、技术方案和优点更为清楚，下面结合附图和实施例对本发明作进一步说明，本发明的实施方式包括但不限于下列实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本申请保护的范围。

实施例

如图1至图3所示，本实施例提供了一种联合性别属性训练的人脸识别网络模型构建方法，在本实施例中，联合性别标签训练人脸识别算法为全新方法，因此，先说明本实施例的联合训练网络模型的构建方法，包括以下步骤：

第一步，从前至后按卷积层、批正则化层、参数修正线性单元层和挤压激活单元模块的顺序封装成残差块，按设置的数量复制依次排布。如图1所示，在本实施例中，将这四层封装成一个残差块，他们的顺序是卷积层->批正则化层->参数修正线性单元层->卷积层->批正则化层->参数修正线性单元层->挤压激活单元模块。其中挤压激活单元模块主要由平均池化层、卷积层、修正线性单元层、通道特征权重重定义层构成。

第二步，从前至后按照卷积层、批正则化层、参数修正线性单元层、数个残差块的顺序依次堆叠，得到网络块，复制并依次排布构成主干特征提取网络结构。然后，在主干特征提取网络之后添加随机失活层，减少参数量和防止过拟合。最后，在网络末端添加两个并行的分支，一个是标准的全连接层，另一个是带正则化的全连接层，完成整体网络结构的搭建。如图2所示，网络块中包含的残差块数量依次为2、4、8、2，整个网络结构包含36层卷积层。

第三步，分别对不同全连接层输出值计算损失，在标准的全连接层分支使用传统的柔性最大值损失函数，而在带正则化的全连接层分支用附加间隔的柔性最大值损失函数，并设定权重因子，调整损失值比例，相加得到总损失值。所述总损失值对应的损失函数推导过程如下：

所述柔性最大损失函数的表达式如下：

其中，参数N表示批处理样本的大小，n表示共有多少类，x_i表示第i个样本的特征向量，

表示真实样本标签y_i对应的网络权重值的转置，而

表示预测为j类标签对应的网络权重值的转置。

所述附加间隔的柔性最大值损失函数的表达式如下：

其中s表示缩放因子，用于缩放余弦值，参数m是一个距离调节因子，用于调节类间距离，c参数表示类别的总数。

总损失值对应的损失函数的表达式为：

Loss＝L₂+λL₁

其中，λ表示权重因子，即性别分类分支损失值的量级和加快网络损失值的收敛速度。在本发明中λ参数设为0.1，该参数为了平衡两种损失的权重，通过调整权重因子能设置性别分类分支损失值的量级和加快网络损失值的收敛速度。在训练过程中需将全连接层的偏移项设为0，缩放因子s能提高收敛速度，设定s为40，参数因子m调节类间距离，设定m为0.4。

第四步，采用带动量的随机梯度下降法优化模型参数，包括以下步骤：

(1)设定学习率为0.01，并采用预热余弦学习率下降来控制目标函数的收敛；

(2)设定随机梯度下降法的动量参数为0.9，加速目标损失函数的收敛程度；

上述步骤属于算法模型的优化步骤。采用的预热余弦学习率下降法可以使网络模型在前几十次迭代训练时学习率较小，从而让网络模型在这期间损失值慢慢下降，逐渐趋于稳定，待模型损失值相对稳定之后再使用最开始设定的学习率进行训练，这样操作之后模型的收敛速度变得更快，在一定程度下使模型效果达到最佳。其次，采用带动量参数的随机梯度下降法可以减小参数优化时产生的震荡，加速模型训练，从而使网络模型更优，收敛效果更加稳定。

第五步，设定迭代次数为15000次，网络结构进行一次前馈传播计算出总损失值，再使用带动量的随机梯度下降法优化网络参数，重复计算直至损失值收敛得到最优解。

为了验证本发明的有效性，在实施例中构建了一个简单的数据集，包含8个人，每个人有姓名和性别两种标签，共1356张照片，如图3所示，(a)为单标签训练之后提取的特征分布图，(b)联合性别属性训练之后提取的特征分布图，其中蓝色代表男性，红色代表女性，由图可以看出(a)中的类内距离比(b)中的类内距离大，(b)中样本簇的分布更为集中，分类效果更好。

在本实施例中使用LFW人脸数据集作为测试集，将采用本发明中提出的联合性别属性训练的人脸识别方法和单标签训练的人脸识别方法进行对比，使用准确度作为评价指标。单标签训练的模型测试精度为89.35％，而本发明训练的模型测试精度为90.35％，明显优于单标签的训练方式。因此，本发明具有突出的实质性特点和显著的进步，在人脸识别技术领域具有很高的实用价值和推广价值上述实施例仅为本发明的优选实施例，并非对本发明保护范围的限制，但凡采用本发明的设计原理，以及在此基础上进行非创造性劳动而作出的变化，均应属于本发明的保护范围之内。

Claims (8)

1.一种联合性别属性训练的人脸识别网络模型构建方法，其特征在于，包括以下步骤：

从前至后按卷积层、批正则化层、参数修正线性单元层和挤压激活单元模块的顺序封装成残差块，并以预设的数量复制依次排布；

从前至后按照卷积层、批正则化层、参数修正线性单元层、数个残差块的顺序依次堆叠，得到网络块；复制并依次排布网络块，以构成主干特征提取网络结构；

在所述主干特征提取网络结构添加随机失活层，并在尾端加入并行分支的标准全连接层和带正则化的全连接层，得到网络结构模型；

分别求得标准全连接层和带正则化的全连接层的输出值的总损失值；

采用带动量的随机梯度下降法优化网络结构模型参数；

设定迭代次数，并重复总损失值计算和网络结构模型参数优化，直至获得最优的人脸识别网络模型。

2.根据权利要求1所述的一种联合性别属性训练的人脸识别网络模型构建方法，其特征在于，所述分别求得标准全连接层和带正则化的全连接层的输出值的总损失值，包括以下步骤：

采用柔性最大值损失函数求得标准全连接层分支的输出值的第一损失值；

采用附加间隔的柔性最大值损失函数求得带正则化的全连接层分支的输出值的第二损失值；

将第一损失值与第二损失值按比例求和，得到输出值的总损失值。

3.根据权利要求2所述的一种联合性别属性训练的人脸识别网络模型构建方法，其特征在于，所述总损失值对应的损失函数推导过程如下：

所述柔性最大损失函数的表达式如下：

其中，参数N表示批处理样本的大小，n表示类数，x_i表示第i个样本的特征向量，

表示真实样本标签y_i对应的网络权重值的转置，

表示预测为j类标签对应的网络权重值的转置；

所述附加间隔的柔性最大值损失函数的表达式如下：

其中，s表示缩放因子，m表示距离调节因子，c表示类别的总数；

总损失值对应的损失函数的表达式为：

Loss＝L₂+λL₁

其中，λ表示权重因子，即性别分类分支损失值的量级和加快网络损失值的收敛速度。

4.根据权利要求3所述的一种联合性别属性训练的人脸识别网络模型构建方法，其特征在于，所述权重因子λ的取值为0.1。

5.根据权利要求1所述的一种联合性别属性训练的人脸识别网络模型构建方法，其特征在于，所述人脸识别网络模型由4个网络块依次堆叠构成；所述网络块中包含的残差块数量依次为2、4、8、2，且人脸识别网络模型包含36层卷积层。

6.根据权利要求1所述的一种联合性别属性训练的人脸识别网络模型构建方法，其特征在于，所述采用带动量的随机梯度下降法优化网络结构模型参数，包括以下步骤：

设定学习率为0.01，并采用预热余弦学习率下降调整目标函数的收敛程度；

设定随机梯度下降法的动量参数为0.9；

网络结构进行一次前馈传播计算出总损失值；

采用带动量的随机梯度下降法优化网络参数，重复计算总损失值，直至损失值收敛得到最优解。

7.根据权利要求1所述的一种联合性别属性训练的人脸识别网络模型构建方法，其特征在于，所述迭代次数为15000次。

8.根据权利要求1所述的一种联合性别属性训练的人脸识别网络模型构建方法，其特征在于，所述缩放因子S取值为40，且距离调节因子m取值为0.4。

Images