CN110287997B - 一种自适应加权局部约束稀疏编码方法 - Google Patents

Abstract

本发明属于模式识别与医学图像处理技术领域，具体涉及一种自适应加权局部约束稀疏编码方法。解决了单一度量函数很难精准地刻画出样本间的相似性问题。为了充分地探索数据的内部结构，利用自适应加权融合多种度量函数的方式来构建局部约束。同时，将局部约束与稀疏约束相融合，即约束少量且近邻的训练样本进行重构，以达到高效重构的目的。

Description

一种自适应加权局部约束稀疏编码方法

技术领域

本发明属于模式识别技术领域，具体涉及一种自适应加权局部约束稀疏编码方法。

背景技术

随着科学技术不断发展及进步，当今世界已经进入了一个信息化的时代。在信息化社会中，公民身份的隐性化和社会化成为最主要的特点。因此，在保证公民人身安全不受侵犯的前提下，公民身份的正确性和唯一性的认证已经成为当今信息技术研究领域中的重点与难点课题。目前在绝大多数的情况下，通常采用传统的身份识别技术来进行身份的验证，其中口令和密钥是最容易被盗用及破解的，因此，它们存在一定的安全隐患。为避免隐患的发生，生物特征识别技术应运而生，并成为一个热门的研究领域。

生物特征识别技术一般被称为生物测定学，它主要依据一个人的物理的或是行为的特征对其进行自动的识别。从上述定义，我们可以很容易知道，生物特征识别技术就是利用人体自身所拥有的部分生物特征来进行身份识别及鉴定的一项技术。它们具有很强的稳定性和区分性，因此被用于身份的验证。

人脸识别技术作为生物特征识别领域的一个分支，在生物、人机交互和信息安全等领域中得到了广泛的应用，同时使它成为模式识别和计算机视觉领域中一个非常重要的研究课题。

尽管已有大量研究者提出了各种相关算法来提高人脸识别系统的性能，但它仍然是一个极具有挑战性的问题。这是因为真实环境下拍摄的人脸图像极其容易受到光照、年龄、姿势、面部表情和伪装等影响。而且，遮挡和噪声等因素也会影响人脸识别算法的性能。如果能够在一定的程度上克服这些因素的影响，可以使人脸识别系统更加具有鲁棒性。

目前有多种度量函数被提出并用于度量两个人脸图像间的差异性，但是由于它们是通过不同的假设或设计原则，仅适用于描述特殊类型的数据结构，且易受到各种噪声的影响，在实际人脸识别应用中很难选择最优的测量标准。

发明内容

针对现有技术存在的不足，本发明提出了一种自适应加权局部约束稀疏编码方法，可以将其应用于人脸识别。

本发明技术方案如下：

一种自适应加权局部约束稀疏编码方法，包括以下步骤：

步骤1：给定一个矩阵

其中N表示参照图像数目，K为维数，对于一个新的测试图像

通过最小化公式(1)来获得它的优化稀疏重构系数w：

其中，β表示平衡参数，公式(1)中的第一项为重构误差项，以确保较好的重构性能；第二项为稀疏约束项，用于约束少量的参照图像对其重构，鉴于非负性与视觉数据生物建模一致性对数据表示的重要性，将非负约束引入到稀疏向量w中，即w≥0；

步骤2：设计一个惩罚项，用于惩罚与测试图像不相似参照图像的重构过程，具体为：

其中，λ为一个平衡参数，M表示为距离度量函数总数目，d^m∈R^N×1(m＝1,…,M)表示为差异性度量向量，d^m表示测试图像y与X中的全部参照图像在第m个距离度量函数下的距离；

步骤3：不同的距离度量函数有相应的加权系数，表示为μ＝[μ₁,μ₂,...,μ_M]，公式(2)中的第一项为多距离度量函数融合项，用于更好地探索图像间的差异性，第二项为约束项，用于约束有且仅有一个d^m被选择，以实现两个图像间相似性的有效度量；

步骤4：通过最小化公式(2)可以得知，当距离值大时，小的或接近零的值被约束地分配给w中的稀疏表示系数，即选择X中与测试图像y距离较近的参照图像进行重建，确保了样本的局部平滑；

步骤5：多距离度量向量μ＝[μ₁,μ₂,...,μ_M]可以自适应地融入到算法中，实现优化距离度量函数的有效选择，在此，将公式(1)和公式(2)整合到统一的框架下，获得目标函数：

其中，α为一个正的平衡参数；

步骤6：算法优化，公式(3)中包含w和μ两个参数，采用迭代的方式进行求解，即首先固定稀疏表示系数向量w，更新非负向量μ；之后，固定非负向量μ，然后更新稀疏表示向量w，具体过程如下：

步骤6.1：固定w，更新μ，从公式(3)中移除不重要的项后，将其约简为：

其中，

步骤6.2：为了计算方便，将公式(4)进一步地转变为：

其中，q＝[q₁,q₂,...,q_M]^T∈R^M×1和

步骤6.3：公式(5)是一个凸二次规划问题，采用坐标下降法对其进行求解；

步骤6.4：固定μ，更新w，从公式(3)中移除不重要的项后，该公式将约简为：

步骤6.5：为了计算方便，将公式(6)简化为：

其中，

步骤6.6：将公式(7)重新调整为：

其中，

为对角矩阵，其主对角线元素为

i＝1,2,...,N，0＝[0,0,...,0]∈R^N×1为零向量，

和

步骤6.7：公式(8)是一个标准的l₁范数规范化最小二乘问题，可以采用l₁-l_s工具箱进行求解；

步骤6.8：利用公式(8)和公式(5)来迭代更新变量w和变量μ，直到公式(3)中的目标函数值不在发生变化为止；

步骤7：收敛性证明：提出的方法将随着ψ(w,μ)数值的降低而单调降低；

将公式(3)表示为ψ(w,μ)，详细的证明如下：

步骤7.1、假设ψ(w^t,μ^t)表示第t次迭代的目标函数值，即在第(t+1)次迭代中，固定μ^t来求解

在每次迭代求解w之后，目标函数的数值也将随之降低，表示为：

ψ(w^t+1,μ^t)≤ψ(w^t,μ^t)   (9)

步骤7.2：固定w^t，同时求解子问题ψ(w^t,μ^t)，该过程可以通过坐标下降法来进行求解，同时获得优化的μ^t+1为：

ψ(w^t,μ^t+1)≤ψ(w^t,μ^t)   (10)

步骤7.3：将公式(9)和公式(10)相融合，可以获得：

ψ(w^t+1,μ^t+1)≤ψ(w^t,μ^t)   (11)

完成证明；

步骤7.4：由于公式(3)中的全部项都大于等于零，即提出的方法有下边界，根据柯西收敛性准则可知，提出的方法是收敛的，收敛性证明完毕。

本发明的有益效果是：

本发明提出了一种自适应加权局部约束稀疏编码方法，解决了单一度量函数很难精准地刻画出样本间的相似性问题。为了充分地探索数据的内部结构，利用自适应加权融合多种度量函数的方式来构建局部约束。同时，将局部约束与稀疏约束相融合，即约束少量且近邻的训练样本进行重构，以达到高效重构的目的。

附图说明

图1 ORL数据库中的人脸图像示例；

图2 AR数据库中的人脸图像示例；

图3给出了本实施方案在ORL和AR数据库上的收敛性曲线；

其中，(a)ORL数据库；(b)AR数据库。

具体实施方式

本发明将提供的基于自适应加权局部约束稀疏编码方法应用到人脸识别检测问题中。同时，在目前两个公开的人脸图像数据库中，分别为：ORL和AR，进一步验证提出方案的有效性。

在ORL人脸数据库中，一共包含40个人，每个人均含有10张人脸图像。这些人脸图像均来自于不同的光照条件、人脸表情(睁眼或闭眼、微笑或不微笑)和人脸细节(戴眼镜或不戴眼镜)等。考虑到实验过程中算法的计算效率问题，我们事先将该数据库中的全部人脸图像尺寸缩减成64×64像素。图1中展示的是属于同一个人的不同人脸图像。

在AR人脸数据库中，一共包含70个男人和56个女人的4000幅正面人脸图像，其中每一个人都包含来自不同条件下拍摄的26张人脸图像，这些人脸图像中的变化主要体现在光照条件、面部表情和面部遮挡等三个方面。在我们的实验中，选取该数据库中的一个子集，即：选取一个包含50个男人和50个女人的人脸图像集，并将它作为我们实验中的数据集。考虑到算法的计算效率，我们同样将实验数据集中的全部人脸图像调整到64×64像素。图2中给出了来自于AR人脸数据库中的部分人脸图像。

对于每一个数据库，本实施方案首先将该数据库中的全部人脸图像，分别在尺度和方向上进行规范化，例如：眼睛位置的对齐和人脸区域的分割等。同时，为了防止算法的过度拟合以及确保不同算法间的公平性比较，在实施方案中，随机地将每个数据库分成三个不相邻的子集，分别包括：训练集合、验证集合和测试集合。其中，训练集合主要用于训练不同的识别算法，验证集合用于完成算法中相关参数的寻优，测试集合则是用于评价不同算法的识别性能。在此，我们采用人脸识别的准确率来度量本实施方案的有效性。具体实施过程如下：

步骤1、训练样本集

测试样本

其中K＝64×64。同时设置算法的迭代次数T＝100以及平衡参数α,β,λ。

步骤2、初始化稀疏表示系数向量w＝ones(1,N)/N，权重向量μ＝1/M和t＝1。

步骤3、假设x₁和x₂是两个规范化数据样本，在本实施方案中，使用如下六种不同的距离度量函数来获得度量矩阵d^m(m＝1,…,M)：

欧式距离：

指数函数：

其中σ表示为一个正参数。

规范化指数函数：

内积：

其中，

和

是x_i与x_j的两个规范化向量。

指数函数和内积：

其中σ表示为一个非零参数。

l₁范数：

步骤4、利用公式(8)更新变量w；

步骤5、利用公式(5)更新变量μ；

步骤6、t＝t+1；

步骤7、返回到步骤5，重复执行步骤5～7，直到满足设定的迭代次数为止。

步骤8、输出变量w和μ；

步骤9、利用获得的稀疏表示系数矩阵w来计算测试样本图像y在各类别上的重构误差，并将具有最小重构误差的类别赋给测试样本图像，实现测试样本图像的分类。

具体实验过程如下：

对于ORL数据库中的每一个人，随机从中选择七张人脸图像，前四张形成相应的训练集合，后三张形成相应的验证集合，并将剩下的样本图像组成测试集合。重复执行十次该随机选择过程，然后取十次识别结果的均值作为最终的识别率。依据不同的参数α,β和λ取值讨论分析它们对提出算法的影响。在这个实验中，参数α,β和λ的取值范围均为{0.001,0.01,0.05,0.1,1,10,100,1000}。经实验证发现，当参数取中间值时，提出方法可以取得最优的人脸识别性能，即在本实施方案中，对于ORL数据库，我们分别将α,β和λ设定为0.1，1，0.1。

对于AR数据库中的每一个人，从数据集中选择受到光照和表情变化的14张人脸图像。在所选的这些图像中，分别从每个人中随机选取6张人脸图像用于训练，4张人脸图像用于验证，剩下的人脸图像用于测试。这个随机选择过程被重复执行十次。与ORL数据库的参数设置相同，将参数α,β和λ的取值范围设置为{0.001,0.01,0.05,0.1,1,10,100,1000}。经过实验验证发现，当α,β和λ的参数值分别设定为0.05，1，1时，提出的算法可以取得最高的识别率。

在最优参数确定后，分别对两个数据库中的测试人脸图像集进行验证，经验证发现，本方案可以在ORL和AR数据库上实现92.01％和98.35％的准确率。

为了验证提出实施方案的收敛性，图3给出了本实施方案在ORL和AR数据库上的收敛性曲线，其中，横坐标表示为迭代次数，纵坐标表示为目标函数值。通过观察图3可以看出，目标函数值在每次迭代中都在快速地减少，且在全部数据库中都可以实现收敛，证明了本实施方案具有快速的收敛性。

由上述对比分析可得，与现有的基于单一相似性度量函数的重构方法相比，本发明基于自适应加权局部约束稀疏编码方法可有效地挖掘不同人脸图像间的差异性，对光照变化、遮挡情况的人脸识别更具优势。因此，本发明不仅可以充分地探索数据内部的结构特性，还能提升人脸识别的有效性，为人脸识别系统提供核心的技术支撑。

Claims (1)

1.一种自适应加权局部约束稀疏编码方法，其特征在于，包括以下步骤：

步骤1：给定一个矩阵

其中N表示参照图像数目，K为维数，对于一个新的测试图像

通过最小化公式(1)来获得它的优化稀疏重构系数w：

其中，β表示平衡参数，公式(1)中的第一项为重构误差项，以确保较好的重构性能；第二项为稀疏约束项，用于约束少量的参照图像对其重构，鉴于非负性与视觉数据生物建模一致性对数据表示的重要性，将非负约束引入到稀疏向量w中，即w≥0；

步骤2：设计一个惩罚项，用于惩罚与测试图像不相似参照图像的重构过程，具体为：

其中，λ为一个平衡参数，M表示为距离度量函数总数目，d^m∈R^N×1(m＝1,…,M)表示为差异性度量向量，d^m表示测试图像y与X中的全部参照图像在第m个距离度量函数下的距离；

步骤3：不同的距离度量函数有相应的加权系数，表示为μ＝[μ₁,μ₂,...,μ_M]，公式(2)中的第一项为多距离度量函数融合项，用于更好地探索图像间的差异性，第二项为约束项，用于约束有且仅有一个d^m被选择，以实现两个图像间相似性的有效度量；

步骤4：通过最小化公式(2)可以得知，当距离值大时，小的或接近零的值被约束地分配给w中的稀疏表示系数，即选择X中与测试图像y距离较近的参照图像进行重建，确保了样本的局部平滑；

步骤5：多距离度量向量μ＝[μ₁,μ₂,...,μ_M]可以自适应地融入到算法中，实现优化距离度量函数的有效选择，在此，将公式(1)和公式(2)整合到统一的框架下，获得目标函数：

其中，α为一个正的平衡参数；

步骤6：算法优化，公式(3)中包含w和μ两个参数，采用迭代的方式进行求解，即首先固定稀疏表示系数向量w，更新非负向量μ；之后，固定非负向量μ，然后更新稀疏表示向量w，具体过程如下：

步骤6.1：固定w，更新μ，从公式(3)中移除不重要的项后，将其约简为：

其中，

步骤6.2：为了计算方便，将公式(4)进一步地转变为：

其中，q＝[q₁,q₂,...,q_M]^T∈R^M×1和

步骤6.3：公式(5)是一个凸二次规划问题，采用坐标下降法对其进行求解；

步骤6.4：固定μ，更新w，从公式(3)中移除不重要的项后，该公式将约简为：

步骤6.5：为了计算方便，将公式(6)简化为：

其中，

步骤6.6：将公式(7)重新调整为：

其中，

为对角矩阵，其主对角线元素为

0＝[0,0,...,0]∈R^N×1为零向量，

和

步骤6.7：公式(8)是一个标准的l₁范数规范化最小二乘问题，可以采用l₁-l_s工具箱进行求解；

步骤6.8：利用公式(8)和公式(5)来迭代更新变量w和变量μ，直到公式(3)中的目标函数值不在发生变化为止；

步骤7：收敛性证明：提出的方法将随着ψ(w,μ)数值的降低而单调降低；

将公式(3)表示为ψ(w,μ)，详细的证明如下：

步骤7.1、假设ψ(w^t,μ^t)表示第t次迭代的目标函数值，即在第(t+1)次迭代中，固定μ^t来求解

在每次迭代求解w之后，目标函数的数值也将随之降低，表示为：

ψ(w^t+1,μ^t)≤ψ(w^t,μ^t)     (9)

步骤7.2：固定w^t，同时求解子问题ψ(w^t,μ^t)，该过程可以通过坐标下降法来进行求解，同时获得优化的μ^t+1为：

ψ(w^t,μ^t+1)≤ψ(w^t,μ^t)      (10)

步骤7.3：将公式(9)和公式(10)相融合，可以获得：

ψ(w^t+1,μ^t+1)≤ψ(w^t,μ^t)      (11)

完成证明；

步骤7.4：由于公式(3)中的全部项都大于等于零，即提出的方法有下边界，根据柯西收敛性准则可知，提出的方法是收敛的，收敛性证明完毕。

Images