CN109726703A - 一种基于改进集成学习策略的人脸图像年龄识别方法 - Google Patents

Abstract

一种基于改进集成学习策略的人脸图像年龄识别方法,包括以下步骤：1)在集成学习模型中，需要获得多个弱分类器，每个弱分类器能独自实现对输入对象的预测估计，构建包含多个弱分类器的预测模型；2)基于DCNN获得的多个弱分类器和集成获得的强分类器，均采用softmax分类器；3)采用改进的集成学习策略，首先，遵循投票原则的结合方法，并用设定的阈值T把控每个弱分类器“意见”的信任度；接着，当弱分类器的信任度普遍偏低时，摒弃投票结合方法，并计算每个弱分类器的自信系数aⁱ作为各自的权重值；最后，用加权结合的方法得到强分类器的概率分布数组并取它最大分量对应的分类标签作为最终的预测结果。本发明显著提升准确性。

Description

一种基于改进集成学习策略的人脸图像年龄识别方法

技术领域

本发明涉及一种人脸图像年龄识别方法，尤其是一种基于改进集成学习策略的人脸图像年龄识别方法。

背景技术

随着计算机视觉、模式识别和生物识别技术的快速发展，近年来基于计算机的人脸年龄估计越来越受到重视。它具备广泛的计算机视觉应用前景，包括安全检测、法医学、人机交互(HCI)、电子客户信息管理(ECRM)等。在现实生活中，利用监控相机和年龄识别系统协同，可以有效预防自动贩卖机对未成年人出售香烟和违禁药品。在社会治安中，发生在自动提款机的诈骗违法行为通常发生在特定的年龄人群，因而能通过引入年龄信息确认提前预防。在生物统计学领域中，面部年龄估计作为一种个体信息的重要补充，可与虹膜、手印、DNA、指纹等个体身份信息结合，从而提高生物识别系统的整体性能。总之，基于计算机的人脸年龄估计技术不仅在许多领域有着广泛应用，它还具有与其他智能技术融合性强的特点。

虽然当前国内外已有相关的人脸年龄估计研究，但受限于个体年龄生成差异、纹理信息的复杂性、数据缺乏、干扰因素等原因，使得估计准确率并不高。从根本上讲，年龄估计问题可划分为两个主要分支：1)确认一个年龄范围(如29～38岁)；2)得到一个确切的年龄(如18岁)。在实际应用中，许多年龄识别任务通常只需要确定一个年龄范围，而且确定年龄范围比得到确切的年龄更加容易。

发明内容

为了显著提升人脸图像年龄估计系统的准确性，本发明提供了一种基于改进集成学习策略的年龄识别方法。

本发明解决其技术问题所采用的技术方案是：

一种基于改进集成学习策略的年龄识别方法，所述识别方法包括如下步骤：

1)在集成学习模型中，需要获得多个弱分类器，每个弱分类器能独自实现对输入对象的预测估计，构建包含多个弱分类器的预测模型的步骤如下：

步骤1.1：为获取性能不同的弱分类器，应用图像处理技术来丰富训练数据，包括图片放缩、旋转、剪切、直方图修正、亮度修正和色度空间转换；

步骤1.2：图片学习模型是深度卷积神经网络模型DCNN；

2)基于DCNN获得的多个弱分类器和集成获得的强分类器，均采用softmax分类器，softmax分类器是将多个由DCNN输出的标量参数值映射为一个概率分布数组，每一个概率即是对应分类标签的可能性，对于训练数据集且s_i为图片数据，y_i∈{1,2,···,C}，其中C为类别标签个数，N为图片数据数量，softmax能将数据集特征提取并映射为其中x_i∈R，其模型为：

其中，各参数定义如下：

概率分布数组；

x：数据映射集合；

C：类别标签个数；

参数θ＝(θ₁,θ₂,···,θ_C)通过交叉熵(cross-entropy)建立优化目标函数和优化算法(SGD、PMSprop、Adam等)求解，优化目标函数如下所示：

其中，各参数定义如下：

N：图片数据数目；

C：类别标签个数；

δ：狄利克雷函数；

R(·)：正则化约束项；

在深度卷积神经网络模型中，选择使用Adam优化器求解参数θ，基于DCNN的弱分类器通过人脸图片数据集预训练和Adam优化目标函数获得参数θ来建立，取softmax分类器输出的概率分布数组中最大分量对应的分类标签作为该弱分类器的预测结果，该过程可示为：

其中，L是该分类器的预测分类标签；

3)采用改进的集成学习策略，过程为：首先，遵循投票原则的结合方法，并用设定的阈值T把控每个弱分类器“意见”的信任度；接着，当弱分类器的信任度普遍偏低时，摒弃投票结合方法，并计算每个弱分类器的自信系数aⁱ作为各自的权重值；最后，用加权结合的方法得到强分类器的概率分布数组并取它最大分量对应的分类标签作为最终的预测结果。

进一步，所述步骤3)中，集成学习过程的步骤如下：

步骤3.1：设定阈值T作为每个弱分类器的把控，当弱分类器的概率分布数组最大分量大于该阈值时，它的预测结果会被信任；否则，它的预测结果不会被用于集成，若超过半数的弱分类器被信任，则进行投票原则集成，该集成过程表示为：

o＞n/2；

其中，各参数和函数实现功能定义如下：

L₁：投票原则集成的预测分类标签；

most[]：该函数实现找到数组中最多的元素并将该元素输出的功能；

被信任的弱分类器的预测结果组成的数组；

o：被信任的弱分类器数目；

n：弱分类器的数量；

当不满足半数弱分类器被信任的条件时，投票原则集成方法被摒弃，转至步骤3.2；

步骤3.2：计算每个弱分类器的自信系数，自信系数反映了弱分类器对于预测结果的自信程度，既取决于概率分布数组中最大分量和其它分量的接近程度，也与给定阈值T相关，该计算过程由如下表示：

其中，各参数和函数实现功能定义如下：

T：设定的阈值；

第i个弱分类器的概率分布数组；

order():该函数实现数组元素从大到小排序(当两个元素相等时随机前后顺序)；

第i个弱分类器的概率分布数组各分量经从大到小排序后的数组；

S(x)：该函数为Sigmoid函数；

C：分类标签数目；

概率数组的第j个元素；

aⁱ：第i个弱分类器的自信系数(权重)；

步骤3.3：把步骤3.2获得的自信系数aⁱ作为权重，用加权集成的方法集成弱分类器获得强分类器，加权计算强分类器概率数组并把它最大分量对应的分类标签作为最终的预测结果，该过程表示为：

其中，各参数和函数实现的功能定义如下：

第i个弱分类器的概率分布数组；

加权集成获得的强分类器的概率数组；

L₂：加权集成方法的预测分类标签。

再进一步，所述步骤1)中，应用图像处理技术和多元化深度卷积神经网络DCNN结合构造多个弱分类器的预测模型，具体所选用的图像处理技术和DCNN取决于图片数据的特性；步骤3)中，阈值T的选择可结合实际工程更改；当T较大时，加权集成方法起主要作用；当T较小时，投票集成的方法起主要作用。

本发明的技术构思为：首先，在人脸图像年龄识别系统中应用集成学习的方法，需要多个弱分类器。为了得到这些弱分类器，我们通过图像处理技术丰富训练数据，同时采用多元化的深度卷积神经网络模型来提取特征，既确保了各个弱分类器之间存在差异，又能保持预测精度良好。接着，针对弱分类器预测精度不够理想的情况，我们通过集成弱分类器从而得到一个泛化的强分类器来改善精度。然后，从预测结果只取决于softmax分类器概率数组最大分量这一缺陷出发，我们提出了一种改进的集成学习策略。该策略主要分为两部分：投票原则集成和加权集成。通过设定阈值T把控弱分类器的可信度，当大部分弱分类器可信时，执行投票原则集成获得预测结果L₁；当大部分弱分类器不可信时，摒弃投票原则集成的方法并计算每一个弱分类器的自信系数aⁱ，把自信系数作为权重进行加权集成。最后，把加权集成的强分类器的预测结果L₂作为最后系统的最终预测结果。通过这种方法，可以使得人脸图像年龄估计系统的精度显著提升，并使得系统具备处理多样化图片数据的能力。

本发明的有益效果主要表现为：1、通常采用单一的分类模型，为了提高分类精度，只能致力于改善学习模型的网络结构或者增大训练数据集，但这两种办法都有实现上的困难。于此相比，用同一数据集训练多个弱分类器再集成获得强分类器的方法更容易实现，且获得的强分类器具有泛化的能力，能应用于处理多元化的图片数据；2、我们提出的改进集成学习策略，能更加综合性地融合各个弱分类器的性能，从而实现系统预测精度的显著提升。

附图说明

图1是结合图像处理技术和多元化DCNN构建的包含多个弱分类器的预测模型示意图；

图2是集成学习示意图；

图3是改进集成学习策略算法流程图。

具体实施方式

下面结合附图对本发明作进一步详细描述。

参照图1～图3，一种基于改进集成学习策略的人脸图像年龄识别方法，使用集成学习的方法实现人脸图像年龄估计，因此需要构造一个包含多个弱分类器的预测模型(如图1)。应对弱分类器预测精度不理想的情况，我们提出了一种改进的集成学习策略(如图3)将预测模型中的弱分类器集成，从而得到了一个泛化的强分类器。包括如下步骤：

1)分类器的估计性能取决于学习模型的网络结构和训练数据。对于集成学习而言，要求弱分类器具有以下特点：弱分类器有一定的准确性，即分类性能不能太差；并且要有多样性，即弱分类器间具有差异，构建包含多个弱分类器的预测模型步骤如下：

步骤1.1：为获取性能不同的弱分类器，可应用图像处理技术来丰富训练数据，包括图片放缩、旋转、剪切、直方图修正、亮度修正、色度空间转换等；

步骤1.2：为了保证弱分类器的分类能力好但存在差异，应当使用多样化的学习模型，目前常用的图片学习模型是深度卷积神经网络(DCNN)，它在图片特征提取和学习上展现出了强大的能力。基于网络结构加深的DCNN有：VGG16、VGG19、MSRANet等；基于增强卷积模块功能的DCNN有：NIN、GoogLeNet、InceptionV3、InceptionV4等；基于两者性能结合的DCNN有：ResNet等；

2)在多分类问题中，最普遍使用的是softmax分类器，无论是基于DCNN获得的多个弱分类器，还是集成获得的强分类器，均采用softmax分类器，softmax分类器是将多个由DCNN输出的标量参数值映射为一个概率分布数组，每一个概率即是对应分类标签的可能性，对于训练数据集且s_i为图片数据，y_i∈{1,2,···,C}，其中C为类别标签个数，N为图片数据数量，softmax能将数据集特征提取并映射为其中x_i∈R，其模型为：

其中，各参数定义如下：

概率分布数组；

x：数据映射集合；

C：类别标签个数；

参数θ＝(θ₁,θ₂,···,θ_C)可通过交叉熵(cross-entropy)建立优化目标函数和优化算法(SGD、PMSprop、Adam等)求解，优化目标函数如下所示：

其中，各参数定义如下：

N：图片数据数目；

C：类别标签个数；

δ：狄利克雷函数；

R(·)：正则化约束项；

在深度卷积神经网络模型中，Adam是常用的优化器，它在图片分类问题中相较于SGD、RMSprop等优化器有更好的性能，因此我们选择使用Adam优化器求解参数θ，基于DCNN的弱分类器通过人脸图片数据集预训练和Adam优化目标函数获得参数θ来建立，取softmax分类器输出的概率分布数组中最大分量对应的分类标签作为该弱分类器的预测结果，该过程表示为：

其中，L是该分类器的预测分类标签；

3)应对弱分类器预测精度不理想的情况，可通过集成学习的方法将弱分类器集成起来得到一个具有泛化能力的强分类器。对此，本专利提出了一种改进的集成学习策略；过程为：首先，遵循投票原则的结合方法，并用设定的阈值T把控每个弱分类器“意见”的信任度；接着，当弱分类器的信任度普遍偏低时，摒弃投票结合方法，并计算每个弱分类器的自信系数aⁱ作为各自的权重值；最后，用加权结合的方法得到强分类器的概率分布数组并取它最大分量对应的分类标签作为最终的预测结果。

该集成过程的步骤如下：

步骤3.1：设定阈值T作为每个弱分类器的把控，当弱分类器的概率分布数组最大分量大于该阈值时，它的预测结果会被信任；否则，它的预测结果不会被用于集成，若超过半数的弱分类器被信任，则进行投票原则集成，该集成过程表示为：

o＞n/2；

其中，各参数和函数实现功能定义如下：

L₁：投票原则集成的预测分类标签；

most[]：该函数实现找到数组中最多的元素并将该元素输出(存在两个最多时同时输出该两个)的功能；

被信任的弱分类器的预测结果组成的数组；

o：被信任的弱分类器数目；

n：弱分类器的数量；

当不满足半数弱分类器被信任的条件时，投票原则集成方法被摒弃，转至步骤3.2；

步骤3.2：计算每个弱分类器的自信系数，自信系数反映了弱分类器对于预测结果的自信程度，既取决于概率分布数组中最大分量和其它分量的接近程度，也与给定阈值T相关，该计算过程由如下表示：

其中，各参数和函数实现功能定义如下：

T：设定的阈值；

第i个弱分类器的概率分布数组；

order():该函数实现数组元素从大到小排序(当两个元素相等时随机前后顺序)；

第i个弱分类器的概率分布数组各分量经从大到小排序后的数组；

S(x)：该函数为Sigmoid函数；

C：分类标签数目；

概率数组的第j个元素；

aⁱ：第i个弱分类器的自信系数(权重)；

步骤3.3：把步骤3.2获得的自信系数aⁱ作为权重，用加权集成的方法集成弱分类器获得强分类器，加权计算强分类器概率数组并把它最大分量对应的分类标签作为最终的预测结果，该过程表示为：

其中，各参数和函数实现的功能定义如下：

加权集成获得的强分类器的概率数组；

L₂：加权集成方法的预测分类标签。

Claims (3)

1.一种基于改进集成学习策略的年龄识别方法，其特征在于，所述识别方法包括如下步骤：

1)在集成学习模型中，需要获得多个弱分类器，每个弱分类器能独自实现对输入对象的预测估计，构建包含多个弱分类器的预测模型的步骤如下：

步骤1.1：为获取性能不同的弱分类器，应用图像处理技术来丰富训练数据，包括图片放缩、旋转、剪切、直方图修正、亮度修正和色度空间转换；

步骤1.2：图片学习模型是深度卷积神经网络模型DCNN；

2)基于DCNN获得的多个弱分类器和集成获得的强分类器，均采用softmax分类器，softmax分类器是将多个由DCNN输出的标量参数值映射为一个概率分布数组，每一个概率即是对应分类标签的可能性，对于训练数据集且s_i为图片数据，y_i∈{1,2,···,C}，其中C为类别标签个数，N为图片数据数量，softmax能将数据集特征提取并映射为其中x_i∈R，其模型为：

其中，各参数定义如下：

概率分布数组；

x：数据映射集合；

C：类别标签个数；

参数θ＝(θ₁,θ₂,···,θ_C)通过交叉熵建立优化目标函数和优化算法求解，优化目标函数如下所示：

其中，各参数定义如下：

N：图片数据数目；

C：类别标签个数；

δ：狄利克雷函数；

R(·)：正则化约束项；

在深度卷积神经网络模型中，选择使用Adam优化器求解参数θ，基于DCNN的弱分类器通过人脸图片数据集预训练和Adam优化目标函数获得参数θ来建立，取softmax分类器输出的概率分布数组中最大分量对应的分类标签作为该弱分类器的预测结果，该过程可示为：

其中，L是该分类器的预测分类标签；

3)采用改进的集成学习策略，过程为：首先，遵循投票原则的结合方法，并用设定的阈值T把控每个弱分类器“意见”的信任度；接着，当弱分类器的信任度普遍偏低时，摒弃投票结合方法，并计算每个弱分类器的自信系数aⁱ作为各自的权重值；最后，用加权结合的方法得到强分类器的概率分布数组并取它最大分量对应的分类标签作为最终的预测结果。

2.如权利要求1所述的一种基于改进集成学习策略的年龄识别方法，其特征在于，所述步骤3)中，集成学习过程的步骤如下：

步骤3.1：设定阈值T作为每个弱分类器的把控，当弱分类器的概率分布数组最大分量大于该阈值时，它的预测结果会被信任；否则，它的预测结果不会被用于集成，若超过半数的弱分类器被信任，则进行投票原则集成，该集成过程表示为：

o＞n/2；

其中，各参数和函数实现功能定义如下：

L₁：投票原则集成的预测分类标签；

most[]：该函数实现找到数组中最多的元素并将该元素输出的功能；

被信任的弱分类器的预测结果组成的数组；

o：被信任的弱分类器数目；

n：弱分类器的数量；

当不满足半数弱分类器被信任的条件时，投票原则集成方法被摒弃，转至步骤3.2；

步骤3.2：计算每个弱分类器的自信系数，自信系数反映了弱分类器对于预测结果的自信程度，既取决于概率分布数组中最大分量和其它分量的接近程度，也与给定阈值T相关，该计算过程由如下表示：

其中，各参数和函数实现功能定义如下：

T：设定的阈值；

第i个弱分类器的概率分布数组；

order():该函数实现数组元素从大到小排序，当两个元素相等时随机前后顺序；

第i个弱分类器的概率分布数组各分量经从大到小排序后的数组；

S(x)：该函数为Sigmoid函数；

C：分类标签数目；

概率数组的第j个元素；

aⁱ：第i个弱分类器的自信系数，即权重；

步骤3.3：把步骤3.2获得的自信系数aⁱ作为权重，用加权集成的方法集成弱分类器获得强分类器，加权计算强分类器概率数组并把它最大分量对应的分类标签作为最终的预测结果，该过程表示为：

其中，各参数和函数实现的功能定义如下：

第i个弱分类器的概率分布数组；

加权集成获得的强分类器的概率数组；

L₂：加权集成方法的预测分类标签。

3.如权利要求1或2所述的一种基于改进集成学习策略的人脸图像年龄识别方法，其特征在于：所述步骤1)中，应用图像处理技术和多元化深度卷积神经网络DCNN结合构造多个弱分类器的预测模型，具体所选用的图像处理技术和DCNN取决于图片数据的特性；步骤3)中，阈值T的选择可结合实际工程更改；当T较大时，加权集成方法起主要作用；当T较小时，投票集成的方法起主要作用。