CN103390154A - 基于进化多特征提取的人脸识别方法 - Google Patents

Abstract

本发明公开了一种基于进化多特征提取的人脸识别方法，其步骤为：（1）初始样本的分类：将初始样本分为3个部分，分别为特征提取的训练样本、权值进化的训练样本和测试样本，各部分之间没有交集；（2）训练样本的特征提取：利用多种子空间方法对训练样本进行特征提取，例如采用PCA、LDA或LPP等方法；（3）多特征融合进化：将不同特征提取方法获得的特征进行融合，如Φ=ω₁Φ₁+ω₂Φ₂+......+ω_nΦ_n的形式，其中ω是权重系数。然后利用遗传算法获取最优的权重系数，使得融合后的特征具有较之前更好的识别效果。本发明具有原理简单、方法独特、易于应用等优点。

Description

基于进化多特征提取的人脸识别方法

技术领域

本发明主要涉及到特征提取和人脸识别领域，特指一种适用于人脸识别系统的基于进化多特征提取的人脸识别方法。

背景技术

目前，人脸图像识别分析和理解的成功应用已受到显著的关注。但是，在具体实现一个现实世界中的人脸辨识系统，仍存在许多挑战。面临的主要挑战之一是“维数灾难”问题，这是一个模式识别的普遍问题。它指出一个事实，即作为数据尺寸增加的代价，所需的样本估计准确表示的数据呈指数增长。人脸图像的空间分辨率是至少有数百个像素，有时候会被数以万计。从统计的角度来看，这将需要成千上万的人脸样本来处理人脸识别的问题。然而收集这么多的样本，这往往是非常困难的，甚至是不可能的。

因此，降维技术（包括特征选择和提取）广泛用于现有的人脸识别系统以解决或缓解这一问题。在之前模式识别领域的研究中，特征提取应用的必要性已经得到了很好的证明。当原始数据存在噪声污染或含有大量的冗余信息时，对它们直接分析的结果可能就会出现偏差。另一方面，原始数据通常是非常高维的，这不仅带来昂贵的计算成本，同时也导致了“维数灾难”。这些问题在实际的应用系统中广泛的存在，如人脸识别系统。

主成分分析（PCA）的目的是找到一个线性映射，其保留了总方差最大化的数据变化。线性判别分析（LDA）使用可用的类别信息，旨在通过最大化类间散布，同时尽量减少类内散布获得的最大的判别信息的线性映射。如果提供的样本足够多，LDA是最优的分类，在理论上是优于PCA，但在非常有限的样本的问题，PCA可以超越LDA。因为LDA是敏感的训练数据集，小样本中一旦存在少量误差，就会导致巨大的错误。PCA和LDA计算非常简单，但其概括的只是有限的事实，只能看到全局欧几里德图像空间结构。局部保持投影（LPP）可以找到一个线性嵌入、保持局部结构图。但之前的研究已经指出，PCA+LPP的框架，理论上是不理想的。此外，LPP方法的目的是低维空间中维护区域样本，而不是追求良好的泛化能力。因此，不同类别的投影向量可能会重叠，这将影响有效的概括能力。

基于矩阵的方法，包括二维PCA（2DPCA）、二维LDA（2DLDA）和两维LPP（2DLPP）的已被证明是有效的方法，这些基于矢量的方法都用以避免高维小样本的问题。然而，这三种方法都不能够有效地概括存在噪声的样本。2DPCA和2DLDA表现出的局限性，是基于矢量的PCA和LDA的，因为它们识别的是全局唯一的欧式结构。相反，由于局部性的学习，2DLPP全局概括能力是有限的，因为它只是识别局部的图像空间结构。然而，这些方法的共同缺点很明显，就如同PCA和LDA存在的问题，2DPCA和2DLDA不能考虑到两个样本之间的空间关系，只能看到全局的欧氏构造。2DLPP只考虑局部图像空间的流形结构，可以有效地维护局部结构，但并不能全局概括。

尽管不同的特征提取方法有很多，如何选择最好的或适当的特征提取方法，仍然是一个悬而未决的问题。

发明内容

本发明要解决的技术问题就在于：针对现有技术存在的技术问题，本发明提供一种原理简单、易于实现、检测精度高的基于进化多特征提取的人脸识别方法。

为解决上述技术问题，本发明采用以下技术方案：

一种基于进化多特征提取的人脸识别方法，其步骤为：

（1）初始样本分类：从所有的数据样本D中选择一部分作为训练样本，进一步将训练样本分为两部分：一部分D₁包括M₁个样本，用于特征提取；另一部分D₂包括M₂个样本，用于权值进化；

（2）训练样本的特征提取：在同一部分样本D₁中，利用多种不同的特征提取方法进行特征提取；在特征提取过程中，先将原始样本转变为向量，得出向量化的特征；再将多个特征向量拼接成特征矩阵，不同的特征提取方法获取相同维数的特征矩阵；

（3）多特征融合进化：依据Φ=ω₁Φ₁+ω₂Φ₂+......+ω_nΦ_n的形式，对不同方法获取的特征矩阵进行融合，得出一个与采用单一特征提取方法相同大小的特征矩阵，投影后得出的投影坐标与采用单一特征提取方法保持相同的维数；然后利用遗传算法对多特征进行进化，进化的目标函数为多特征在D₂中的识别率，进化的目的是获取最优权重w。

作为本发明的进一步改进：

所述步骤（2）的具体流程为：

（2.1）将原始的图片矩阵信息，通过逐行或逐列的累加变为m×n维列向量，再将k个图片的列向量叠加在一起，形成k列的矩阵；

（2.2）利用提取方法对上述矩阵进行特征提取，得到j个m×n维特征向量Φ，j的大小为提前设定。

所述步骤（3）的具体流程为：

（3.1）依据Φ=ω₁Φ₁+ω₂Φ₂+......+ω_nΦ_n的形式，对不同方法获取的特征矩阵进行融合；

（3.2）将w₁、w₂……w_n作为遗传算法的变量，依据先验信息确定种群数、初始种群、目标函数、终止条件，其中目标函数为每一个个体在样本群D₂中的错误率；

（3.3）设置种群迭代方式、交叉率和变异率，不断优化种群，使目标函数的值持续优化；

（3.4）达到终止条件后，取最优个体作为迭代结果。

所述步骤（3.3）的具体流程为：

（3.3.1）通过预先设定的方式得出下一代种群，包括一部分从上一代遗留下来的个体加上通过交叉新生成的个体，在此基础上再进行变异；

（3.3.2）从样本群D₂中选出一部分作为某一个个体的权值进化样本，将种群中的每一个个体都在这部分样本中进行检验，得出对应每一个个体的错误率；

（3.3.3）按照从高到低的顺序，排列当前种群的个体，用以得出下一代种群。

与现有技术相比，本发明的优点在于：

1、本发明的原理简单，易于实现，应用后可以获取更好的识别结果，通过在几个数据库上的实验（AR、YaleB、FERET等）更加证明了结果的正确性。

2、本发明由于采用了一定的优化，对于训练样本较小的情况也能得到较好的结果，进而提高了方法的可靠性。

附图说明

图1是本发明人脸识别方法的流程示意图。

图2是本发明中遗传算法的流程示意图。

图3是本发明在YaleB数据库中对应不同特征维数的实验结果示意图。

图4是本发明在FERET数据库对应不同D₁样本数量的实验结果示意图。

图5是本发明在YaleB数据库对应不同D₁样本数量的实验结果示意图。

图6是本发明在AR数据库对应不同特征维数的实验结果示意图。

具体实施方式

以下将结合说明书附图和具体实施例对本发明做进一步详细说明。

如图1所示，本发明基于进化多特征提取的人脸识别方法，包括以下步骤：

（1）从全部数据集D中取出一部分作为训练样本。这一部分训练样本又划分为2个部分:一部分为D₁，包含M₁个样本，用于特征提取；另一部分为D₂，包含M₂个样本，用于权值进化，训练样本的大小将会影响结果的好坏。

（2）在相同的样本集D₁={x₁,x₂,…,x_M1}上，使用多种子空间方法构造特征。为了便于特征的构造，首先需要将图片转换为向量的形式，之后才是特征提取的过程，可根据实际需要采用PCA、LDA、LPP、KPCA等多种方法。

（3）使用遗传算法（GAs）进化所构造的多特征的权值。

在应用多种算法获得特征之后，将这些特征组合起来。特征将通过如下方式组合Φ=ω₁Φ₁+ω₂Φ₂+......+ω_nΦ_n,其中Φ₁、Φ₂、….Φ_n是通过不同的特征提取方法提取的特征。需要优化权重系数w₁、w₂、……w_n，使得组合特征可以获得更好的分类效果。

在这个最优化问题中，若S作为解空间，则S中的所有元素都存在它们的适应度价值。同时S作为一个2维权重空间，可以包含所有的权重解。在这里需要定义适应度函数来评估每一个权重解的优劣。适应度函数定义为特征在数据集D2中进行识别的错误率。通过解空间中搜索并比较其适应度函数这种简单的方法，来极小化适应度函数从而获得最优解。但是，如果不选取一个适当的表示方法和适当的计算过程，计算的复杂度将会比较高。

GAs是一种全局最小化搜索过程，一个包含N个个体的种群P，N叫做种群的规模，每一个P中的个体都包含一系列的基因，每个基因都是一个二进制的编码，其定义为：

c=[w₁w₂]

=[a_k-1,a_k-2,...,a_k-m,a_k-m-1,...,a₁,a₀],

a_i=0/1,i=1,2,...,k-1

其中w₁的编码长度为m，w₂的编码长度为k-m。

在训练样本D₂={x₁,x₂,…,x_M2}中，个体的适应度函数定义为

f(c)=1-E^c(D₂)

其中，E^c(D₂)为组合特征Φ在训练样本集D₂中的识别率，其最优化问题可以表示为：

minf(c)

s.t.c∈R²

种群P通过特定的基因转变方法将会进化为种群P’。具有较高适应度的个体将会有更高的概率被保存在下一代种群中，换句话说，具有较低适应度的个体将会被较高适应度的个体替代。这样，种群中个体的适应度将会越来越好。在若干代进化之后，种群在理论上将会包含一个全局最优解。

（4）比较测试结果并得出结论。

使用最近邻分类器来评价组合特征Φ在数据集D₃上的表现，通过比较分类器的识别率来区分优劣。

本实施例中，在上述步骤（2）中，具体步骤为：

（2.1）将图片转变为向量的过程：简单来说就是通过将图片的原始矩阵分解为若干列向量，再将各列向量累加得到。

假设图片A的原始灰度矩阵为X，其中X为m×m维方阵。首先，将X分解为m个列向量v₁,v₂,…v_m，其中v_i为X的第i列，再通过以下方式构造列向量v：

$v=\left[\begin{array}{c}{v}_1\\ v_2\\ \·\\ \·\\ \·\\ v_m\end{array}\right]$

列向量v即为图片原始矩阵所对应的向量。

（2.2）使用子空间的方法提取特征，主要包括使用PCA、LDA、LPP等方法来提取特征。

通过单一子空间方法得到特征后，再将原样本矩阵X进行投影，每一个样本在投影后对应一个低维向量。相对应的，每一个样本图片对应一种子空间方法得到一个投影向量，例如样本图片A对应PCA方法的投影向量为Φ₁、对应LDA方法的投影向量为Φ₂、对应LPP方法的投影向量为Φ₃。

加权多特征Φ通过以下方法定义

Φ=ω₁Φ₁+ω₂Φ₂+ω₃Φ₃

其中ω₁、ω₂、ω₃为权重系数，多特征向量Φ与Φ₁…Φ₃有相同的维数。

本实施例中，如图2所示，在上述步骤（3）中，具体步骤为：

（3.1）初始化：设置进化代数计数器t=0，设置最大进化代数T，随机生成M个个体作为初始群体P(0)。

（3.2）算法进入以下循环过程产生一系列新的子代直到达到终止条件。

（3.2.1）个体评价：计算群体P(t)中各个个体的适应度。

进化论中的适应度，是表示某一个体对环境的适应能力，也表示该个体繁殖后代的能力。遗传算法的适应度函数也叫评价函数，是用来判断群体中的个体的优劣程度的指标，它是根据所求问题的目标函数来进行评估的。

遗传算法在搜索进化过程中一般不需要其他外部信息，仅用评估函数来评估个体或解的优劣，并作为以后遗传操作的依据。由于遗传算法中，适应度函数要比较排序并在此基础上计算选择概率，所以适应度函数的值要取正值。由此可见，在不少场合，将目标函数映射成求最大值形式且函数值非负的适应度函数是必要的。

在特征进化过程中的适应度函数定义为该特征在测试样本集D₂中的识别错误率。

（3.2.2）选择运算：将选择算子作用于群体。选择的目的是把优化的个体直接遗传到下一代或通过配对交叉产生新的个体再遗传到下一代。选择操作是建立在群体中个体的适应度评估基础上的。

（3.2.3）交叉运算：将交叉算子作用于群体。所谓交叉是指把两个父代个体的部分结构加以替换重组而生成新个体的操作。遗传算法中起核心作用的就是交叉算子。

交叉算子根据交叉率将种群中的两个个体随机地交换某些基因，能够产生新的基因组合，期望将有益基因组合在一起。根据编码表示方法的不同，可以有以下的算法：

a)实值重组（real valued recombination）

1)离散重组（discrete recombination）

2)中间重组（intermediate recombination）

3)线性重组（linear recombination）

4)扩展线性重组（extended linear recombination）。

b)二进制交叉（binary valued crossover）

1)单点交叉（single-point crossover）

2)多点交叉（multiple-point crossover）

3)均匀交叉（uniform crossover）

4)洗牌交叉（shuffle crossover）

5)缩小代理交叉（crossover with reduced surrogate）。

最常用的交叉算子为单点交叉(one-point crossover)。具体操作是：在个体串中随机设定一个交叉点，实行交叉时，该点前或后的两个个体的部分结构进行互换，并生成两个新个体。下面给出了单点交叉的一个例子：

个体A：1001↑111→1001000新个体

个体B：0011↑000→0011111新个体

（3.2.4）变异运算：将变异算子作用于群体。即是对群体中的个体串的某些基因座上的基因值作变动。

变异算子的基本内容是对群体中的个体串的某些基因座上的基因值作变动。依据个体编码表示方法的不同，可以有以下的算法：

a)实值变异

b)二进制变异。

一般来说，变异算子操作的基本步骤如下：

a)对群中所有个体以事先设定的变异概率判断是否进行变异

b)对进行变异的个体随机选择变异位进行变异。

遗传算法引入变异的目的有两个：一是使遗传算法具有局部的随机搜索能力。当遗传算法通过交叉算子已接近最优解邻域时，利用变异算子的这种局部随机搜索能力可以加速向最优解收敛。显然，此种情况下的变异概率应取较小值，否则接近最优解的积木块会因变异而遭到破坏。二是使遗传算法可维持群体多样性，以防止出现未成熟收敛现象。此时收敛概率应取较大值。

变异率的选取一般受种群大小、染色体长度等因素的影响，通常选取很小，一般取0.001－0.1。

下面给出了变异的一个例子：

个体：1001111→1001011新个体

（3.2.5）群体P(t)经过选择、交叉、变异运算之后得到下一代群体P(t₁)。

（3.3）终止条件判断：

终止条件一般包含以下几种形式：

1）代数限制。当迭代的子代次数达到终止条件（遗传迭代n步后结束）。

2）时间限制。当运行时间达到终止条件（遗传迭代n秒后结束）。

3）适应度限制。当种群的适应度最大值等于或低于适应度终止条件（达到要求后结束）。

4）阻滞限制。当对种群最优化所带来的适应度变化低于阈值，算法停止（最优化过程阻滞）。

5）时间阻滞限制。当算法经过一定时间的迭代仍旧没有达到优化，并且时间超过阈值，算法停止（最优化过程阻滞）。

6）非线性参数条件。非线性参数条件不作为迭代终止条件，一般用于决定非线性参数的可行性。

特征加权过程中的GA演化终止条件选择为代数限制，一般选择为30代。

由上可知，本发明提出的基于进化多特征的人脸识别方法（E2FE）将多个特征提取方法集成在进化的加权框架中，遗传算法（GAs）用于搜索全局的最优加权值来组合多个不同的特征提取方法提取的特征向量，个体的适应度函数则用来评价加权特征向量在最近邻分类器中的性能。通过三个人脸图片资料库：FERET，AR和YaleB将用来评价E2FE的性能。如图3所示，为本发明在YaleB数据库中对应不同特征维数的实验结果示意图；如图4所示，为本发明在FERET数据库对应不同D₁样本数量的实验结果示意图；如图5所示，为本发明在YaleB数据库对应不同D₁样本数量的实验结果示意图；如图6所示，为本发明在AR数据库对应不同特征维数的实验结果示意图。通过上述几个应用后可知，本发明可以获取更好的识别结果，在上述几个数据库上的实验（AR、YaleB、FERET等）更加证明了结果的正确性。

具体应用实例：本发明在具体应用实例中，操作过程为：

（1）样本集的选择。

选择样本集作为进化多特征人脸识别方法的测试样本集来源。

本实施例中，选择YaleB样本集，YaleB样本集是由耶鲁（Yale）大学机器视觉和控制实验室建立，包含38个人的2512张图片，每个人包含60～65张图片，每张图片都是64×64的灰度人脸图片，已经进行过相应的预处理。为了便于测试，选择使用每个人的前60张图片作为测试样本，因此测试样本集包含38个人的2280张图片。

（2）分类器的建立。

（2.1）样本集的划分。

将样本集划分为3个部分：用于特征提取的样本、用于权值进化的样本、用于测试的样本。具体方法为：首先将每个人的60张图片样本划分为3个部分，再将每个人用于相同目的的部分样本组合成为样本集D₁-D₃。

举例来说，假设取每个人60张图片中的30张用于特征提取、20张用于权值训练、10张用于测试。那么，特征提取样本集D₁包含每个人60张图片中的随机30个样本，共1140张图片；权值训练样本集D₂包含每个人剩余30张图片的随机20张图片，共760张图片；测试样本集D₃包含每个人最后10张图片，共380张图片。

（2.2）样本集的特征提取。

首先，将样本集D₁中的样本图片按照之前所述方式由矩阵转变为向量，再对样本集D₁对应的向量进行特征提取，可以根据实际需要采用PCA、LDA、LPP等方法进行特征提取。通过相对应的提取特征方法提取特征后，再对原样本矩阵进行投影，最终得到的是原样本投影后的结果，每一个原始样本对应一个低维（一般设定为30）的向量。

相对应的，每一个样本对应一种特征提取方法为一个低维的向量，按照之前所述方法得到加权多特征Φ。

（2.3）多特征的GA进化。

将加权多特征Φ=ω₁Φ₁+ω₂Φ₂+ω₃Φ₃中的ω₁、ω₂、ω₃3个值作为GA进化的数值，适应度函数设定为加权多特征Φ在样本集D₂中的识别错误率，进化终止条件为30代终止。按照之前所述的GA过程，通过GA进化得出加权多特征的权值。

通过GA进化得出的权值即是样本分类器。

（3）对D₃中的样本进行测试。

通过将测试样本经过单一的子目标方法提取特征，再依据之前GA进化的系数进行加权，得到加权后的投影。通过与已知分类的图片样本投影计算欧式距离，并采用最近邻分类器进行分类，得到测试样本的分类。

以上仅是本发明的优选实施方式，本发明的保护范围并不仅局限于上述实施例，凡属于本发明思路下的技术方案均属于本发明的保护范围。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理前提下的若干改进和润饰，应视为本发明的保护范围。

Claims (4)

1.一种基于进化多特征提取的人脸识别方法，其特征在于，步骤为：

（1）初始样本分类：从所有的数据样本D中选择一部分作为训练样本，进一步将训练样本分为两部分：一部分D₁包括M₁个样本，用于特征提取；另一部分D₂包括M₂个样本，用于权值进化；

（2）训练样本的特征提取：在同一部分样本D₁中，利用多种不同的特征提取方法进行特征提取；在特征提取过程中，先将原始样本转变为向量，得出向量化的特征；再将多个特征向量拼接成特征矩阵，不同的特征提取方法获取相同维数的特征矩阵；

（3）多特征融合进化：依据Φ=ω₁Φ₁+ω₂Φ₂+......+ω_nΦ_n的形式，对不同方法获取的特征矩阵进行融合，得出一个与采用单一特征提取方法相同大小的特征矩阵，投影后得出的投影坐标与采用单一特征提取方法保持相同的维数；然后利用遗传算法对多特征进行进化，进化的目标函数为多特征在D₂中的识别率，进化的目的是获取最优权重w。

2.根据权利要求1所述的基于进化多特征提取的人脸识别方法，其特征在于，所述步骤（2）的具体流程为：

（2.1）将原始的图片矩阵信息，通过逐行或逐列的累加变为m×n维列向量，再将k个图片的列向量叠加在一起，形成k列的矩阵；

（2.2）利用提取方法对上述矩阵进行特征提取，得到j个m×n维特征向量Φ，j的大小为提前设定。

3.根据权利要求1所述的基于进化多特征提取的人脸识别方法，其特征在于，所述步骤（3）的具体流程为：

（3.1）依据Φ=ω₁Φ₁+ω₂Φ₂+......+ω_nΦ_n的形式，对不同方法获取的特征矩阵进行融合；

（3.2）将w₁、w₂……w_n作为遗传算法的变量，依据先验信息确定种群数、初始种群、目标函数、终止条件，其中目标函数为每一个个体在样本群D₂中的错误率；

（3.3）设置种群迭代方式、交叉率和变异率，不断优化种群，使目标函数的值持续优化；

（3.4）达到终止条件后，取最优个体作为迭代结果。

4.根据权利要求3所述的基于进化多特征提取的人脸识别方法，其特征在于，所述步骤（3.3）的具体流程为：

（3.3.1）通过预先设定的方式得出下一代种群，包括一部分从上一代遗留下来的个体加上通过交叉新生成的个体，在此基础上再进行变异；

（3.3.2）从样本群D₂中选出一部分作为某一个个体的权值进化样本，将种群中的每一个个体都在这部分样本中进行检验，得出对应每一个个体的错误率；

（3.3.3）按照从高到低的顺序，排列当前种群的个体，用以得出下一代种群。

Images