CN103208007A - 一种基于支持向量机和遗传算法的人脸识别方法 - Google Patents

Abstract

本发明涉及人脸识别领域，特别是一种基于支持向量机和遗传算法的人脸识别方法，其包括以下步骤：步骤1)将输入图像进行小波分解，并将分解后的图像PCA降维后加权组合成特征脸；步骤2）用SVM支持向量机对步骤1得到的特征脸进行分类；步骤3）利用遗传算法执行选择、交叉、变异三个算子；步骤4）根据步骤3）得到的最优分类面输出分类结果。本发明能够使人脸识别准确率得到有效提高。

Description

一种基于支持向量机和遗传算法的人脸识别方法

技术领域

本发明涉及人脸识别领域，特别是一种基于支持向量机和遗传算法的人脸识别方法。

背景技术

在信息化管理水平日益强大的今天，对教室内学员的考勤进行快速高效的管理是一个日益亟待解决的问题。人脸识别方法由于本身具有非接触实时监控管理的优势，而备受人们关注。然而至今很多单位所提出的人脸识别算法并没有达到很高的识别率。

专利申请号为201210120265.6的发明专利公开了一种人脸识别的方法，通过对测试样本和训练样本进行随机的降维，并生成相似性学习训练集和测试集，选择支持向量机的正则参数和高斯核函数，将相似性学习的训练集输入到正则参数和高斯核函数中，得到分类器模型，再将相似性学习的测试集输入到分类器模型中，得到分类结果，通过将所述分类结果进行求和，与某一类样本的样本数量的商为所述某一类的相似性概率的大小，取得最大值，并将所述最大值输出，得到相似性概率的大小，得到最准确的人脸识别结果。通过对样本的降维，将样本复杂度降低，使得基于SVM来学习人脸图像之间的相似性的算法快速；另外，通过对于每一类进行的算法，使得人脸识别率有了相应的提高。该方法虽然使人脸识别的速度有了一定的提高，但无法保证人脸识别方法较高的识别率，原因在于SVM分类器分类的效果并不十分理想。

发明内容

本发明的目的在于克服现有技术的不足，本发明提出一种人脸识别方法，能够使识别的准确率得到有效提高。

为解决以上技术问题，本发明的技术方案为：一种基于支持向量机和遗传算法的人脸识别方法，其包括以下步骤：步骤1)、将输入图像进行小波分解，并将分解后的图像PCA降维后加权组合成特征脸；

步骤2）、用SVM支持向量机对步骤1得到的特征脸进行分类；

步骤3）、利用遗传算法执行选择、交叉、变异三个算子，当前群体的个体最优值达到优化目标的最大值或进化代数达到最大进化代数GENmax，则终止，从而得到最优的惩罚系数C和核函数参数σ²，代入SVM对测试样本数据进行训练以获得最优分类面；否则令GENmax=GENmax+1，重新以前面所述以核函数参数σ²，惩罚系数C为基础，运用SVM支持向量机对样本进行分类，重新确定最优惩罚系数C和核函数参数σ²；

步骤4）、根据步骤3）得到的最优分类面输出分类结果。

与现有技术相比，本发明具有如下有益效果：传统的基于Wavelet+PCA+SVM的人脸识别算法仅将小波分解的低频分量作为人脸的特征信息，易丢失高频信息，并且SVM分类器参数的训练结果不准确，造成识别率低。本专利将小波分解的四个分量图像进行PCA特征提取，并将4个分量对应的特征进行加权融合，融合后的人脸数据作为SVM分类器的输入数据，在SVM分类器训练时使用了一种更优的遗传算法选择算子、交叉算子和变异算子，使其能够快速搜索问题的全局最优解，从而能够使识别的准确率得到有效提高。

附图说明

图1为本发明实施例的流程图。

具体实施方式

参见图1，本发明实施例一种基于支持向量机和遗传算法的人脸识别方法，其包括以下步骤；步骤1)、小波变换的理论是对傅里叶变换的发展，小波变换具有变化的频率和有限的持续时间，具有多分辨率和多尺度分析的优点。

对尺度为m×n的人脸图像A(x,y)的离散小波变换为：

$\left\{\begin{array}{c}{W}_j(j_0,m,n)=\frac{1}{\sqrt{\mathrm{mn}}}\underset{x=0}{\overset{m-1}{\mathrm{\Σ}}}\underset{y=0}{\overset{n-1}{\mathrm{\Σ}}}A(x,y)j_{0,m,n}(x,y)\\ W_{\mathrm{\ψ}}^i(j,m,n)=\frac{1}{\mathrm{mn}}\underset{x=0}{\overset{m-1}{\mathrm{\Σ}}}\underset{y=0}{\overset{n-1}{\mathrm{\Σ}}}A(x,y){\mathrm{\ψ}}_{j,m,n}^i(x,y)\end{array}\right.---\left(1\right)$

式中，j₀是任意的开始尺度，W_φ(j₀,m,n)为尺度j₀上的原图像的近似分量，i={H,V,D}，

则分别是原图像经过离散小波变换后的水平分量、垂直分量和对角线分量。对任意一幅人脸图像进行一层小波变换，将得到4个子图像LL、LH、HL、HH，其中LL为低频分量，包含了原始图像的绝大部分信息，即原始图像的近似图像。LH为水平分量，包含了人的眼睛和嘴巴等反应人脸表情的信息。HL为垂直分量，包含了人的鼻子、耳朵和边缘轮廓信息。HH为对角线分量，包含了原图像中较少的信息量。

PCA主成分分析法进行降维：设人脸图像的大小为m×n，经过向量化之后变成N=m×n维的列向量。设训练样本的个数为M，X_i为第i个样本的列向量，则

$\mathrm{\μ}=\frac{1}{M}\underset{i=1}{\overset{M}{\mathrm{\Σ}}}{X}_i$

μ为训练样本的均值脸，把训练样本的每一个人脸图像均值化之后组成矩阵A，则

A=[X₁-μ,X₂-μ,…,X_M-μ]，那么训练样本的协方差矩阵为

$C=\frac{A-A^T}{M}$

其维数为N×N。

由协方差矩阵C非零特征值所对应的特征向量组成所要寻找的最优投影子空间，在实际的人脸识别中一般用特征值的累积贡献率

来确定要选取的主要成分维数d，参数α的取值范围为0.9<α<1。特征值对应的特征向量构造成特征空间，设特征空间矩阵为U=[u₁,u₂,…,u_d]，将训练样本向特征空间上投影，得到投影矩阵：

Q=U^TA

即为样本的特征脸。将4个子图像LL₁、LH₁、HL₁、HH₁分别进行PCA特征提取，即

${\mathrm{LL}}_1^{\&prime;}=U_1^T{\mathrm{LL}}_1,$ ${\mathrm{LH}}_1^{\&prime;}=U_2^T{\mathrm{LH}}_1$

${\mathrm{HL}}_1^{\&prime;}=U_3^T{\mathrm{HL}}_1,$ ${\mathrm{HH}}_1^{\&prime;}=U_4^T{\mathrm{HH}}_1$

得到的4个分量的特征分别为LL₁′、LH₁′、HL₁′和HH₁′(式中U₁,U₂,U₃,U₄为各分量对应的最优投影空间)。然后将这4个分量对应的特征进行加权融合，将融合后的人脸数据作为分类器的输入数据。采用不同的权重融合后的人脸记为

X=ω₁LL₁′+ω₂LH₁′+ω₃HL₁′+ω₄HH₁′

令4个权重之和ω₁+ω₂+ω₃+ω₄=1，分配权重时，由于低频分量LL₁′包含了原图像的绝大部分信息，所以给ω₁分配绝大部分权重，取ω₁=0.6，而LH₁′包含的人脸眼睛和嘴巴等水平信息、HL₁′包含的鼻子耳朵和人脸边缘轮廓等竖直信息比较多，所以给它们分配的权重适当大一点，取ω₂=0.16，ω₃=0.16，HH₁′在对角线分量中包含的人脸信息最少，所以给它分配最少的权重，取ω₄=0.08。

步骤2)、SVM支持向量机的基本思想是:首先通过将输入样本空间(由上述步骤中X组成的空间)非线性变换到另一个空间R^d(特征空间)，然后在这个新的空间中求取样本的最优线性分类面(使两类样本的分类间隔最大)，而这种非线性变换是通过定义适当的内积函数(或称为核函数)实现的。上述那些与最优分类面最近的两类样本被称为支持向量(Support Vector,SV)。设两类线性可分学习(训练)样本集为是其类别标记,其中+1代表数据库中已有的特征脸，-1代表数据库中没有的特征脸。

最优分类面函数设为:

$g\left(x_i\right)=\underset{j=1}{\overset{n}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_i^{\mathrm{op}}{y}_{i}K(x_i,x_j)+b^{\mathrm{op}},i=\mathrm{1,2},...n---\left(2\right)$

其中b^op为分类阈值，k(x_i,x_j)是一内积函数。这里选下列径向基函数作为内积函数：

$K(x,x_i)=\exp (-\frac{{\left|\right|x-x_i\left|\right|}^2}{{\mathrm{\&sigma;}}^2})---\left(3\right)$

由此得到的支持向量机是一种径向基函数分类器，

最优分类面函数是通过下列函数Q(a)的最优化解

来确定的。

$\underset{a}{\mathrm{Min}}Q\left(a\right)=-\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}{a}_i+0.5\underset{1}{\overset{n}{\mathrm{\&Sigma;}}}\underset{1}{\overset{n}{\mathrm{\&Sigma;}}}{a}_i{a}_j{y}_j{y}_{j}k(x_i,x_j)---\left(4\right)$

$\mathrm{Subjectto}\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}{y}_i{a}_i=0,C\&GreaterEqual;a_i\&GreaterEqual;0,i=\mathrm{1,2},...,n,$ $y_i(\underset{j=1}{\overset{n}{\mathrm{\&Sigma;}}}{a}_j^{\mathrm{op}}{y}_{j}k(x_i,x_j)+b^{\mathrm{op}})-1=0---\left(5\right)$

其中a=[a₁,a₂,…,a_n]^T，C为某一正常数。这是一个不等式约束下的二次函数极值问题，存在唯一解，最优化的过程实际上是使分类间隔最大。

根据Kǖhn-Tucker条件，Q(a)的最优化解中，多数

为0，取值不为0的(记为

)所对应的能使式(5)成立的那些样本即为支持向量:

它们通常只是全体样本中很少的一部分，即s远小于n,例如0<s/n<0.00001,这样才能找到一个最优分类面。于是，只要代入上式任一支持向量及对应的类别标记

即可求出分类阈值b^op：

$b^{\mathrm{op}}=y_i^{\mathrm{sv}}-\underset{j=1}{\overset{n}{\mathrm{\&Sigma;}}}{a}_j^{\mathrm{op}}{y}_{j}k(x_i^{\mathrm{sv}},x_j)=y_i^{\mathrm{sv}}-\underset{j=1}{\overset{s}{\mathrm{\&Sigma;}}}-a_j^{\mathrm{sv}}{y}_j^{\mathrm{sv}}k(x_i^{\mathrm{sv}},x_j^{\mathrm{sv}})---\left(6\right)$

最后得到支持向量机的最优分类函数为:

$f\left(x\right)=\mathrm{sign}\left\{g\left(x\right)\right\}=\mathrm{sign}(\underset{i=1}{\overset{s}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_l^{\mathrm{sv}}{y}_l^{\mathrm{sv}}<x,x_l^{\mathrm{sv}}>+b^{\mathrm{op}})---\left(7\right)$

在SVM算法中，参数C、σ²对支持向量机的性能有着十分重要的影响。参数C是经验风险和置信范围的裁决;参数σ²影响数据在高维空间中分布的复杂度。在基于SVM的人脸识别系统应用中也表明，惩罚系数C和核函数参数σ²对分类结果的影响均很大，只有选择合适的模型参数，SVM的优越性才能更好地发挥出来。

随着SVM在模式识别领域的广泛应用，各种对参数选择进行优化的方法层出不穷，本专利采用改进的遗传算法对SVM参数优选进行了研究，为支持向量机参数优选提供一种新的方法，并把它应用到人脸识别系统中。

步骤3)、下面将详细展开论述求解惩罚系数C和核函数参数σ²的问题，这两个参数可用一个随机产生的24位二进制串表示一个个体，多个个体组成种群，种群的规模就是指种群中个体的数目。这里规模取为30，进化代数为30。适应度函数取

f(σ²,C)=ln2/(ln2+error_rate)   (8)

其中，error_rate是SVM在训练样本集上的错分率，SVM在测试样本集上的分类错误率越低，对应于该组参数的染色体适应度函数值越大。初始种群代数gen=0，GENmax表示最大进化代数，初始化优化目标的最大值记为fmax。确定C、σ²两个参数变量的取值范围，然后进行24位二进制串编码。

在各变量取值范围之内，随机生成规模为POPnumber的初始种群Rgen，其中单个初始染色体记作X_k，k=1,2,…,POPnumber。此处POPnumber值取30。以参数σ²，C为基础，运用SVM对样本进行分类。然后用上面的(8)式计算适应度函数值。按适应度值进行排序，对各染色体X_k进行解码，并依据适应度值对染色体进行排序。在遗传操作中要用到三个操作，即选择算子，交叉算子和变异算子。下面给出这三个算子的具体实施方法。

选择算子：选择算子的操作方法如下:父代的部分最佳个体及经过渐变进化的优秀个体可以直接进入下一代;部分次优个体和突变进化后的优秀个体可以进入下一代。这样的种群构造方式不仅保证了优秀个体可以保留同时也保证了各代种群的多样性，降低了种群之间的相似性，提高了交叉操作的效率。

交叉算子：由于我们将种群分为了渐变种群和突变种群，为了使渐变种群能够达到局部最优，因此我们依据交叉概率Pc对渐变种群做两点交叉的交叉操作，以减小其改变量，使其在最优解邻域内做局部搜索;对于突变种群为保证其能在整体范围内最优，我们可以采用再次随机产生新个体的方法，使其以大概率与突变种群的个体做交叉操作，通过不断引入新个体，使种群做较大的改变。

变异算子:所谓变异运算，是指依据变异概率Pm将个体编码串中的某些基因值用其他基因值来替换，从而形成一个新的个体。遗传算法中的变异运算是产生新个体的辅助方法，它决定了遗传算法的局部搜索能力，同时保持种群的多样性。交叉运算和变异运算的相互配合，共同完成对搜索空间的全局搜索和局部搜索。标准遗传算法中变异算子采用基本位变异算子。如二进制编码符号串所表示的个体若需要进行变异操作方法如下:即某一基因座上的原有基因值为0，则变异操作将其变为1;反之，若原有基因值为1，则变异操作将其变为0，

0000001110000000010000变异后0000000110000000010000

通过如上变异我们发现，二进制各基因位所表现出的位权重不一样，导致变异后的解增量是不同的，如二进制串0110,若第一位变异(为0111),串值改变量是1,而第四位变异后(为1110)串值改变量是8，变异越往高位，串值的改变量越大，结果可能导致接近最优点的个体遗漏。

因此在变异操作时我们要求渐变种群以变异概率做较少的基本位变异，且控制变异区的权重较小，避免串值的改变量太大，导致接近最优点的个体遗漏;对于突变种群，我们允许多个基因位以变异概率同时变异且变异位不受限制。

参数控制:遗传算法的运行需要很多参数进行控制，参数的不同可能导致收敛的速度与效率，本专利对遗传算法进行实施的过程中需要控制如下四个参数：①M:种群规模;②T:遗传运算的终止进化代数;③Pc:交叉概率;④Pm:变异概率等。Schaffer建议的最优参数范围是:M=20～100,T=100～500,Pc=0.4～0.9,Pm=0.001～0.010.本专利所提出的渐变种群与突变种群的交叉变异概率可根据具体问题做适当调整。如使突变种群的变异概率为渐变种群变异概率的2.5倍。

遗传算法执行选择、交叉、变异三个算子至程序终止的条件为，当前群体的个体最优值达到优化目标的最大值fmax或进化代数达到最大进化代数GENmax，则终止。得到最优的惩罚系数C和核函数参数σ²，代入SVM对测试样本数据进行训练以获得最优分类面；否则令GENmax=GENmax+1，重新转到前面所述以参数σ²，C为基础，运用SVM对样本进行分类。然后用(8)式重新确定适应度值。

步骤4)、根据所获得的最优分类面，输出分类结果。

本发明实施例能给驾驶培训管理系统提供有效的视频人脸识别智能考勤管理方法。

本实施例在以本发明技术方案为前提下进行实施，给出了详细的实施方式和具体的操作过程，但本发明的保护范围不限于上述的实施例。

Claims (1)

1.一种基于支持向量机和遗传算法的人脸识别方法，其特征在于：其包括以下步骤：

步骤1)、将输入图像进行小波分解，并将分解后的图像PCA降维后加权组合成特征脸；

步骤2）、用SVM支持向量机对步骤1得到的特征脸进行分类；

步骤3）、利用遗传算法执行选择、交叉、变异三个算子，当前群体的个体最优值达到优化目标的最大值或进化代数达到最大进化代数GENmax，则终止，从而得到最优的惩罚系数C和核函数参数σ²，代入SVM对测试样本数据进行训练以获得最优分类面；否则令GENmax=GENmax+1，重新以前面所述以核函数参数σ²，惩罚系数C为基础，运用SVM支持向量机对样本进行分类，重新确定最优惩罚系数C和核函数参数σ²；

步骤4）、根据步骤3）得到的最优分类面输出分类结果。