一种基于主动判别性跨域对齐的低分辨人脸识别方法
技术领域
本发明属于人脸识别方法技术领域,涉及一种基于主动判别性跨域对齐的低分辨人脸识别方法。
背景技术
人脸识别是计算机视觉领域最重要的研究课题之一。目前,在受控条件下的高分辨(High-Resolution,简称HR)人脸识别方法已趋于成熟,在很多生产实践中开始大范围推广应用。然而,在实际的非受控条件下,受姿态、光照、表情、遮挡和分辨率等不利因素的影响,致使摄像头捕获的人脸图像与真实的高分辨人脸图像之间的数据分布存在巨大差异,进而使得人脸识别系统的性能急剧下降,无法满足实际应用要求。因此,研究低分辨率(Low-Resolution,简称LR)人脸的识别技术受到研究者的广泛关注。
在过去几十年,人们提出了许多不同的低分辨人脸识别方法。根据识别原理的不同,大体可以分为三种类型:基于重构超分辨(Super-Resolution,简称SR)图像的LR人脸识别方法、基于公共特征子空间的LR人脸识别方法和基于深度学习的LR人脸识别方法。
基于重构SR图像的LR人脸识别方法发展迅速,该类方法主要利用图像SR重建技术,获得视觉效果较好的HR人脸图像实现人脸的相似性匹配。尽管基于图像SR的方法能够获得视觉效果较高的HR人脸图像,但容易在人脸关键特征点处引入伪像,严重影响识别性能;而且,随着监控网络的大面积覆盖,该类方法的计算复杂度较高,而难以满足实际应用要求。
近年来,基于公共特征子空间的LR人脸识别方法由于其算法相对简单,耗时少等优点,成为一条解决HR-LR人脸图像特征维度不匹配问题的有效途径。此类方法通过学习HR-LR人脸的耦合映射,将不同维数的HR-LR人脸图像先映射到一个公共特征子空间,然后在维数相同的特征子空间中完成HR-LR人脸图像的相似性匹配。目前针对公共特征子空间的LR人脸问题主要有两种常见的解决方法,其中第一种是基于字典学习和稀疏表示的LR人脸识别方法,该方法主要通过字典学习和稀疏表示对人脸的局部结构特征进行稀疏编码后变换到低维特征空间中实现LR人脸的匹配。第二种是基于耦合映射的LR人脸识别方法,一般有3种映射方式:1)将HR人脸图像下采样到和LR人脸图像同一特征维度进行匹配;2)将LR人脸图像上采样到和HR人脸图像同一特征维度进行匹配;3)同时将HR-LR人脸图像映射到公共特征子空间进行匹配。其目的是将HR-LR训练人脸图像特征变换到公共特征子空间来学习HR-LR耦合映射矩阵,然后将HR耦合映射矩阵和LR耦合映射矩阵分别变换到公共特征子空间后,实现LR测试人脸图像特征的变换与识别。
随着深度学习的迅速发展,基于深度学习的LR人脸识别方法相继被提出,相比传统机器学习算法,深度学习在处理大量训练样本时更具有优势。其主要通过卷积神经网络提取人脸特征,采用有效的激活函数和损失函数对网络参数进行优化,实现端到端HR-LR人脸的识别。
现有的方法在现实应用场景中,因被监控人群与监控设备距离较远而导致摄像头捕获的人脸图像通常出现LR、尺寸小和失真等现象,即摄像头捕获的人脸图像与真实的高分辨人脸图像之间存在巨大的数据分布差异,从而严重影响直接与高分辨参考人脸图像的匹配识别。
发明内容
本发明的目的是提供一种基于主动判别性跨域对齐的低分辨人脸识别方法,通过线性变换将源域与目标域人脸特征空间变换到一个公共域子空间中实现LR人脸的匹配识别,采用主动学习选择具有代表性和多样性的源域样本训练分类器,提升算法的识别性能。
本发明所采用的技术方案是,一种基于主动判别性跨域对齐的低分辨人脸识别方法,具体按照如下步骤实施:
步骤1,从标准人脸数据集中选取N幅HR人脸图像构成HR图像集,对HR图像集进行平滑下采样处理,生成LR人脸图像集;
步骤2,采用主动学习从LR人脸图像集中挑选源域样本,形成源域样本集,并构造源域样本的类别标签,LR人脸图像集中剩余的LR人脸图像形成目标域样本集;
步骤3,同时减小源域与目标域样本之间的统计分布差异;
步骤4,构造包含源域样本的流形结构、判别信息和标签信息的判别对齐矩;
步骤5,建立源域与目标域样本的线性变换关系;
步骤6,然后根据统计分布差异、判别对齐矩以及线性变换关系构造关于源域与目标域样本变换矩阵的目标函数;
步骤7,求解目标函数,计算源域样本变换矩阵以及目标域样本变换矩阵;
步骤8,将源域与目标域人脸样本变换到公共域子空间,分别得到源域与目标域人脸变换特征,对变换到公共域子空间内的源域与目标域人脸变换特征进行分类,应用最近邻分类器推断出目标域人脸变换特征的类别标签。
本发明的特征还在于,
步骤1具体为:
从标准人脸数据库中选取N幅高分辨人脸图像构成HR图像集:其中,/>表示第i幅高分辨人脸图像,对HR图像集经过平滑下采样,生成低分辨的人脸图像集,即就是LR人脸图像集:/>其中/>表示第i幅低分辨人脸图像。
标准人脸数据库包括YALE-B、CMU-PIE、UMIST、ORL、FERET和AR人脸库,对HR图像集进行平滑下采样处理,生成LR人脸图像集具体为:
对高分辨率HR图像集:YALE-B和CMU-PIE人脸库分辨率为32×28,UMIST和ORL人脸库分辨率为90×80,FERET人脸库分辨率为40×40,AR人脸库分辨率为140×120,分别经过YALE-B和CMU-PIE人脸库2倍和4倍,UMIST和ORL人脸库5倍和10倍,FERET人脸库4倍和5倍,AR人脸库10倍和20倍的平滑下采样生成低分辨:YALE-B和CMU-PIE人脸库分辨率为16×14和8×7,UMIST和ORL人脸库分辨率为18×16和9×8,FERET人脸库分辨率为10×10和8×8,AR人脸库分辨率为14×12和7×6的LR人脸图像集。
步骤2具体为:
采用主动学习从LR人脸图像集中挑选源域样本xi为第i个源域样本,D表示源域样本中样本的特征维度,nS为源域样本的数目;LR人脸图像集中剩余LR人脸图像作为目标域样本集,XT=XL-XS,xj为第j个目标域样本,nT为目标域样本的数目,nS+nT=N;
其中采用主动学习从LR人脸图像集中挑选源域样本具体为:
步骤2.1,从候选集,即就是LR人脸图像集XL中选择兼顾代表性准则和多样性准则的人脸图像,兼顾代表性准则和多样性准则的函数为:
其中,λ用来平衡样本的代表性准则与多样性准则,为人为设置参数,挑选出的人脸图像放在源域样本集中,源域样本集表示为D表示样本的特征维度,nS为源域样本的数目;
其中,R(xi)为人脸图像样本xi的代表性函数,从LR人脸图像集选择满足代表性准则的人脸图像,Ni为人脸图像样本xi的邻域样本数目,σR表示高斯核宽,/>ρ为尺度系数,将满足代表性准则的人脸图像样本放入集合S中;
D(xi)表示样本xi的多样性函数,从剩余候选集U=XL-S挑选出满足多样性准则的人脸图像,多样性函数具体为:
步骤2.2,构造源域样本的类别标签列向量:
步骤3具体为:
步骤3.1,建立边缘分布概率表达式:
其中,A为源域样本变换矩阵,B为目标域样本变换矩阵,F表示弗罗贝尼乌斯范数。
步骤3.2,建立条件分布概率表达式:
其中,c表示样本的类别,分别表示第c类源域与目标域样本的数量,XS,(c),XT,(c)分别表示第c类源域与目标域样本。
步骤3.3,同时减小边缘与条件分布概率,实现跨域自适应匹配:
进行矩阵化表达为:
其中,
步骤4具体为:
步骤4.1,建立局部对齐表达式:
其中,μ∈[0,1]用来反映类内与类间样本对源域样本xi的重要性,为人为设置参数;为和源域样本xi属于同一类的第u个源域样本;/>为和源域样本xi不属于同一类的第v个源域样本,设/>为系数向量,kw、kb为人为设置的类内与类间样本数量的参数,则上式可改写为:
其中,为和源域样本xi不属于同一类样本的样本系数向量;/>为第i个源域样本xi的局部块;Wi是局部对齐矩阵,定义如下:
步骤4.2,对步骤4.1中第i个源域样本xi的局部块通过源域样本xi的边缘度函数进行加权:
其中,源域样本xi的边缘度函数i=1,...,nS,δ是一个正则项系数,t表示一个尺度因子;
步骤4.3,对于每一个局部块,通过步骤4.2进行优化,最终对所有优化的局部块进行整合得到判别对齐矩阵,假设第i个局部块是从全局候选集即就是源域样本/>中挑选的,则:
其中,为挑选矩阵,定义如下:
其中,p表示全局候选集中的第p个样本;Fi{q}表示局部块中的第q个样本;
步骤4.4,结合步骤4.2和步骤4.3,得到:
对所有优化进行累加,得到全局对齐阶段表示形式:
其中,为判别对齐矩阵;
步骤4.5,通过迭代更新,得到最终包含样本的流形结构、判别信息和标签信息的判别对齐矩阵:WL←W+mi Wi。
步骤5具体为:建立线性变换关系,构建域自适应匹配子空间:
步骤6具体为:
构造目标函数表达式:
s.t.ATXSCS(XS)TA=I andBTXTCT(XT)TB=I其中,α和β被用来权衡各项对整体识别性能的重要性,为人为设置参数, 表示中心化矩阵;/>是元素全为1的列向量,I、IS和IT表示单位矩阵。
步骤7具体为:
设GT=[AT BT],则目标函数表达式简化式为:s.t.ATXSCS(XS)TA=I andBTXTCT(XT)TB=I;根据约束优化理论,设/>表示拉格朗日多乘子,则目标函数表达式简化式的拉格朗日函数表示为:
设则得到拉格朗日函数的广义特征值分解为:
求解步骤拉格朗日函数的广义特征值分解,选取前k个最小的特征向量作为自适应矩阵G=[g1,g2,..,gk],其中g1,g2,..,gk表示自适应矩阵G中的元素,进而得到变换矩阵A和B。
步骤8具体为:
步骤8.1,根据源域样本变换矩阵A和目标域样本变换矩阵B分别将源域样本XS与目标域样本XT变换到公共域子空间,得到源域与目标域人脸变换特征和
步骤8.2,应用最近邻分类器推断出目标域人脸变换特征的类别标签列向量具体为:
步骤8.2.1,初始化源域样本XS、目标域样本XT和源域样本的类别标签列向量
步骤8.2.2,计算目标域样本XT与源域样本XS的欧式距离:
步骤8.2.3,根据欧氏距离大小对源域样本进行升序排序;
步骤8.2.4,选取欧式距离最小的前θ个源域样本,统计其在各类别中出现的频率;
步骤8.4.5,返回频率最大的类别,即该目标域样本属于该类别
本发明的有益效果是:
本发明的方法在训练阶段,首先采用主动学习挑选具有代表性的样本作为源域样本,其次通过优化寻找两种线性变换将源域与目标域人脸样本变换到公共域子空间以减小两个域数据之间的统计分布差异,利用判别局部对齐思想保留样本的全局和局部流形几何结构信息。在测试阶段,针对给定的LR目标域人脸图像,利用学习的两种线性变换将源域与目标域人脸特征同时变换到公共域子空间中进行相似性匹配,本发明结合迁移学习、域自适应和子空间学习,在变换的公共域子空间同时减小不同域之间的统计分布差异,对齐源域与目标域人脸样本之间的流形几何结构,极大地增强了样本特征在变换特征子空间中的可分性;采用主动学习挑选源域样本来训练分类器,充分利用了人脸的差异性表征,有效地提高了算法的识别性能。
附图说明
图1是本发明一种基于主动判别性跨域对齐的低分辨人脸识别方法的系统框架图;
图2是本发明的方法与已有方法在YALE-B标准人脸数据集上的特征维度对识别效果的影响对比结果图;
图3是本发明的方法与已有方法在UMIST标准人脸数据集上的特征维度对识别效果的影响对比结果图;
图4是本发明的方法与已有方法在ORL标准人脸数据集上的特征维度对识别效果的影响对比结果图;
图5是本发明的方法与已有方法在FERET标准人脸数据集上的特征维度对识别效果的影响对比结果图;
图6是本发明的方法与已有方法在CMU PIE标准人脸数据集上的特征维度对识别效果的影响对比结果图;
图7是本发明的方法与已有方法在AR标准人脸数据集上的特征维度对识别效果的影响对比结果图;
图8是本发明的方法与已有方法在YALE-B标准人脸数据集上的rank级别对识别效果的影响对比结果图;
图9是本发明的方法与已有方法在UMIST标准人脸数据集上的rank级别对识别效果的影响对比结果图;
图10是本发明的方法与已有方法在ORL标准人脸数据集上的rank级别对识别效果的影响对比结果图;
图11是本发明的方法与已有方法在FERET标准人脸数据集上的rank级别对识别效果的影响对比结果图;
图12是本发明的方法与已有方法在CMU PIE标准人脸数据集上的rank级别对识别效果的影响对比结果图;
图13是本发明的方法与已有方法在AR标准人脸数据集上的rank级别对识别效果的影响对比结果图;
图14是本发明的方法与已有方法在YALE-B标准人脸数据集上的分辨率对识别效果的影响对比结果图;
图15是本发明的方法与已有方法在UMIST标准人脸数据集上的分辨率对识别效果的影响对比结果图;
图16是本发明的方法与已有方法在ORL标准人脸数据集上的分辨率对识别效果的影响对比结果图;
图17是本发明的方法与已有方法在FERET标准人脸数据集上的分辨率对识别效果的影响对比结果图;
图18是本发明的方法与已有方法在CMU PIE标准人脸数据集上的分辨率对识别效果的影响对比结果图;
图19是本发明的方法与已有方法在AR标准人脸数据集上的分辨率对识别效果的影响对比结果图。
具体实施方式
下面结合附图和具体实施方式对本发明进行详细说明。
本发明一种基于主动判别性跨域对齐的低分辨人脸识别方法,其流程如图1所示,具体按照如下步骤实施:
一、训练阶段
步骤1,从标准人脸数据集中选取N幅HR人脸图像构成HR图像集,对HR图像集进行平滑下采样处理,生成LR人脸图像集,具体为:
从标准人脸数据库中选取N幅高分辨人脸图像构成HR图像集:其中,/>表示第i幅高分辨人脸图像,对HR图像集经过平滑下采样,生成低分辨的人脸图像集,即就是LR人脸图像集:/>其中/>表示第i幅低分辨人脸图像;
标准人脸数据库包括YALE-B、CMU-PIE、UMIST、ORL、FERET和AR人脸库,对HR图像集进行平滑下采样处理,生成LR人脸图像集具体为:
对高分辨率HR图像集:YALE-B和CMU-PIE人脸库分辨率为32×28,UMIST和ORL人脸库分辨率为90×80,FERET人脸库分辨率为40×40,AR人脸库分辨率为140×120,分别经过YALE-B和CMU-PIE人脸库2倍和4倍,UMIST和ORL人脸库5倍和10倍,FERET人脸库4倍和5倍,AR人脸库10倍和20倍的平滑下采样生成低分辨:YALE-B和CMU-PIE人脸库分辨率为16×14和8×7,UMIST和ORL人脸库分辨率为18×16和9×8,FERET人脸库分辨率为10×10和8×8,AR人脸库分辨率为14×12和7×6的LR人脸图像集;
步骤2,采用主动学习从LR人脸图像集中挑选源域样本,形成源域样本集,并构造源域样本的类别标签,LR人脸图像集中剩余的LR人脸图像形成目标域样本集;具体为:
采用主动学习从LR人脸图像集中挑选源域样本xi为第i个源域样本,D表示源域样本中样本的特征维度,nS为源域样本的数目;LR人脸图像集中剩余LR人脸图像作为目标域样本集,XT=XL-XS,xj为第j个目标域样本,nT为目标域样本的数目,nS+nT=N;
其中采用主动学习从LR人脸图像集中挑选源域样本具体为:
步骤2.1,从候选集,即就是LR人脸图像集XL中选择兼顾代表性准则和多样性准则的人脸图像,兼顾代表性准则和多样性准则的函数为:
其中,λ用来平衡样本的代表性准则与多样性准则,为人为设置参数,挑选出的人脸图像放在源域样本集中,源域样本集表示为D表示样本的特征维度,nS为源域样本的数目;
其中,R(xi)为人脸图像样本xi的代表性函数,从LR人脸图像集选择满足代表性准则的人脸图像,Ni为人脸图像样本xi的邻域样本数目,σR表示高斯核宽,/>ρ为尺度系数,将满足代表性准则的人脸图像样本放入集合S中;
D(xi)表示样本xi的多样性函数,从剩余候选集U=XL-S挑选出满足多样性准则的人脸图像,多样性函数具体为:
步骤2.2,构造源域样本的类别标签列向量:
步骤3,同时减小源域与目标域样本之间的统计分布差异;具体为:
步骤3.1,建立边缘分布概率表达式:
其中,A为源域样本变换矩阵,B为目标域样本变换矩阵,F表示弗罗贝尼乌斯范数;
步骤3.2,建立条件分布概率表达式:
其中,c表示样本的类别,分别表示第c类源域与目标域样本的数量,XS,(c),XT,(c)分别表示第c类源域与目标域样本。
步骤3.3,同时减小边缘与条件分布概率,实现跨域自适应匹配:
进行矩阵化表达为:
其中,
其中,是元素全为1的列向量;
步骤4,构造包含源域样本的流形结构、判别信息和标签信息的判别对齐矩;具体为:
步骤4.1,建立局部对齐表达式:
其中,μ∈[0,1]用来反映类内与类间样本对源域样本xi的重要性,为人为设置参数;为和源域样本xi属于同一类的第u个源域样本;/>为和源域样本xi不属于同一类的第v个源域样本,设/>为系数向量,kw、kb为人为设置的类内与类间样本数量的参数,则上式可改写为:
其中,为和源域样本xi不属于同一类样本的样本系数向量;/>为第i个源域样本xi的局部块;Wi是局部对齐矩阵,定义如下:
/>
步骤4.2,对步骤4.1中第i个源域样本xi的局部块通过源域样本xi的边缘度函数进行加权:
其中,源域样本xi的边缘度函数i=1,...,nS,δ是一个正则项系数,t表示一个尺度因子,
步骤4.3,对于每一个局部块,通过步骤4.2进行优化,最终对所有优化的局部块进行整合得到判别对齐矩阵,假设第i个局部块是从全局候选集中挑选的,则:
其中,为挑选矩阵,定义如下:
其中,p表示全局候选集中的第p个样本;Fi{q}表示局部块中的第q个样本;
步骤4.4,结合步骤4.2和步骤4.3,得到:
对所有优化进行累加,得到全局对齐阶段表示形式:
其中,为判别对齐矩阵;
步骤4.5,通过迭代更新,得到最终包含样本的流形结构、判别信息和标签信息的判别对齐矩阵:WL←W+mi Wi;
步骤5,建立源域与目标域样本的线性变换关系;具体为:建立线性变换关系,构建域自适应匹配子空间:
步骤6,然后根据统计分布差异、判别对齐矩以及线性变换关系构造关于源域与目标域样本变换矩阵的目标函数;具体为:
构造目标函数表达式:
其中,α和β被用来权衡各项对整体识别性能的重要性,为人为设置参数,/> 表示中心化矩阵;/>是元素全为1的列向量,I、IS和IT表示单位矩阵;
步骤7,求解目标函数,计算源域样本变换矩阵以及目标域样本变换矩阵;具体为:
设GT=[AT BT],则目标函数表达式简化式为:
s.t.ATXSCS(XS)TA=I andBTXTCT(XT)TB=I;根据约束优化理论,设/>表示拉格朗日多乘子,则目标函数表达式简化式的拉格朗日函数表示为:
设则得到拉格朗日函数的广义特征值分解为:
求解步骤拉格朗日函数的广义特征值分解,选取前k个最小的特征向量作为自适应矩阵G=[g1,g2,..,gk],其中g1,g2,..,gk表示自适应矩阵G中的元素,进而得到变换矩阵A和B;
二、测试阶段
步骤8,将源域与目标域人脸样本变换到公共域子空间,分别得到源域与目标域人脸变换特征,对变换到公共域子空间内的源域与目标域人脸变换特征进行分类,应用最近邻分类器推断出目标域人脸变换特征的类别标签,具体为:
步骤8.1,根据源域样本变换矩阵A和目标域样本变换矩阵B分别将源域样本XS与目标域样本XT变换到公共域子空间,得到源域与目标域人脸变换特征和
步骤8.2,应用最近邻分类器推断出目标域人脸变换特征的类别标签列向量具体为:
步骤8.2.1,初始化源域样本XS、目标域样本XT和源域样本的类别标签列向量
步骤8.2.2,计算目标域样本XT与源域样本XS的欧式距离:
步骤8.2.3,根据欧氏距离大小对源域样本进行升序排序;
步骤8.2.4,选取欧式距离最小的前θ个源域样本,统计其在各类别中出现的频率;
步骤8.4.5,返回频率最大的类别,即该目标域样本属于该类别
以下通过仿真实验验证本发明的有效性:
在相同的数据集条件设置下,采用对比实验的形式,选择一些使用主成分分析(简称PCA)和线性判别分析(简称LDA)提取人脸特征的基准方法,如HR-PCA(直接对HR人脸图像使用PCA提取特征)、HR-LDA(直接对HR人脸图像使用LDA提取特征),几种迁移学习与域自适应方法,如迁移成分分析(简称TCA)、联合分布分析(简称JDA)、迁移联合匹配(简称TJM)、联合几何与统计对齐(简称JGSA),几种耦合映射方法,如耦合局部保留映射(简称CLPMs)、耦合判别多流形分析(简称CDMMA)等方法进行比较,以验证本发明的有效性。
实验一,本发明利用Rank-1和分辨率为8×7(YALE-B和CMU-PIE人脸库)、9×8(UMIST和ORL人脸库)、8×8(FERET人脸库)、7×6(AR人脸库)进行实验,分析特征维度对识别效果的影响。从图2-7的仿真结果可以看出:除在AR人脸库上,识别性能稍差于HR-LDA基准方法外,本发明在其余5个标准人脸数据集上都达到最好的识别效果,识别性能均远优于其他方法。这是因为本发明联合主动学习、迁移学习、域自适应和子空间学习来减小不同域数据之间的统计分布差异,同时选择和保留源域样本的判别性信息以提高本发明的分类识别性能。
实验二,Rank-n是模式识别中用于评价识别算法性能的一项重要指标,它用于计算匹配结果中最靠前的n张人脸图像中包含正确匹配的概率。当匹配的人脸在候选集中按照相似性由大到小排序后,正确匹配的人脸排序越靠前,则算法的效果越好。本部分实验采用Rank-n来评价本发明的性能,图8-13是不同Rank级别下本发明的识别性能。从图8-13的仿真结果可以看出:以YALE-B人脸库的Rank-1为例,本发明在n个(n=1,2,…,10)最相似人脸中第一次匹配到目标人脸的概率达到99.74%。而且,在5个标准人脸数据集上(AR人脸库除外),本发明的最高识别率在不同rank级别均明显优于其他方法,识别率随着rank级别的逐渐增加而缓慢上升,最终趋于平缓。该实验充分表明了本发明具有较好的稳定性。
实验三,本实验分别对每个标准人脸数据集设置了两种分辨率来评估本发明的识别性能,分析分辨率对识别效果的影响,其中YALE-B和CMU-PIE人脸库的分辨率分别为8×7和16×14,UMIST和ORL人脸库分辨率分别为9×8和18×16,FERET人脸库的分辨率分别为8×8和10×10,AR人脸库的分辨率分别为7×6和14×12。从图14-19的仿真结果可以看出:除在AR人脸库上识别效果略差于HR-LDA方法,本发明在其他5个标准人脸数据集上的识别效果都要优于其他方法,不会受分辨率的影响而导致识别效果差于其他方法,充分说明了本发明对人脸样本的分辨率具有良好的鲁棒性。
上述三个实验的结果表明,本发明与已有的基于迁移学习和子空间学习的低分辨人脸识别方法相比,对样本具有更强的判别能力和可分性,识别性能远优于其他同类方法。