CN102034079A - 眼镜遮挡下的人脸识别方法和系统 - Google Patents

眼镜遮挡下的人脸识别方法和系统 Download PDF

Info

Publication number
CN102034079A
CN102034079A CN2009100932611A CN200910093261A CN102034079A CN 102034079 A CN102034079 A CN 102034079A CN 2009100932611 A CN2009100932611 A CN 2009100932611A CN 200910093261 A CN200910093261 A CN 200910093261A CN 102034079 A CN102034079 A CN 102034079A
Authority
CN
China
Prior art keywords
model
face
glasses
wire frame
eyeglass
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2009100932611A
Other languages
English (en)
Other versions
CN102034079B (zh
Inventor
刘昌平
黄磊
熊鹏飞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hanwang Technology Co Ltd
Original Assignee
Hanwang Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hanwang Technology Co Ltd filed Critical Hanwang Technology Co Ltd
Priority to CN2009100932611A priority Critical patent/CN102034079B/zh
Publication of CN102034079A publication Critical patent/CN102034079A/zh
Application granted granted Critical
Publication of CN102034079B publication Critical patent/CN102034079B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)

Abstract

本发明公开了一种眼镜遮挡下的人脸识别方法,包括以下步骤:输入单张无眼镜人脸图像和通用人脸模型,获得人脸图像与模型上对应点,对所有顶点均进行坐标变换,调整到同一坐标系下;对模型进行处理,获得姿态校正后的正面人头模型;在人头模型上添加眼镜模型并粘贴纹理;对眼镜镜片进行模糊处理和反光处理;投影模型生成不同条件下戴眼镜的虚拟样本。本发明还提供了一种相应的人脸识别系统。本发明模拟范围更广,可以涵盖更多眼镜的变化,通用性更强,识别效果也有了更大改善,具有实时快速,操作简单,实用性强,识别率高等多方面优点。

Description

眼镜遮挡下的人脸识别方法和系统
技术领域
本发明属于模式识别领域,具体涉及一种有遮挡的人脸识别方法和系统。
背景技术
人脸识别作为一种重要的身份鉴别技术,在安全、金融、人机交互、信息、教育等诸多领域有着广泛的应用前景。目前的人脸识别系统通过将模版库中的模板图像与待识别人脸形成的识别图像相比较来进行人脸识别,在模板图像与识别图像获取条件基本一致时有很好的识别效果。但识别图像存在遮挡物而模板图像无遮挡时,会由于图像之间特征的差异而降低识别率,其中眼镜的遮挡尤为突出,由于眼镜镜框纹理、形状、位置、镜片颜色、模糊程度和镜片反光等因素的变化,使人脸形成的识别图像稳定性下降,因此眼镜遮挡的人脸识别难以进行识别。而随着日常生活中人们配戴眼镜的比例越来越高,眼镜对人脸的遮挡则成为了人脸识别中必须解决的一个问题,现有技术对该问题进行了不断的研究和讨论。
目前主要的解决眼镜遮挡的人脸识别方法可以分为两类:一类是图像分块,从遮挡图像中获得未被遮挡的图像特征;一类是眼镜消除,从遮挡图像中消除眼镜,获得无眼镜的对应图像。
1、基于图像分块的方法
基于图像分块的方法把人脸图像划分成很多小块,检测每一块是否被遮挡,从而从未被遮挡的小块中提取特征作为该图像的特征进行识别。比较典型的是Hyun Jun Oh等人在“In Proceedings Asian Conference on Computer Vision”,2006,Vol.3851,pp.120-129,Jan.2006”上提到的的方法,他把人脸分成很多小块,利用最近邻的分类方法检测每一小块是否为遮挡区域,继而从未被遮挡的小块中获取图像特征进行识别。特征的选择是根据大量的样本分成同样的小块后获得的每一块的NMF(nonnegative matrix factorization)特征。这类方法过于依赖区域检测结果,区域检测的方法一般为从训练样本学习出分类器进行检测,本身检测的结果便会有误差。同时区域划分的方法在粗划分时容易造成图像大面积的丢失,使得未被遮挡的图像区域难以描述整幅图像特征,而进行细划分时,虽然对整张人脸特征的描述更为准确,但也给识别的效率带来了负担。
2、基于眼镜消除的方法
基于眼镜消除的方法通过学习带眼镜图像与对应无眼镜图像之间的关系来消除图像中的眼镜遮挡。其主要思路是用主成分分析(Principal Component Analysis)的方法训练一批没有配戴眼镜的图像,投影戴眼镜的人脸图像到该空间以获得无眼镜图像特征对戴眼镜图像的描述,从而重建出对应摘掉眼镜的人脸图像。最早由Saito在“International Conference on Image Processing”,Vol.4,pp.197-201,Oct.1999”中提出,之后又有Du等人在《Pattern Recognition Letters》,Vol.26,pp.2215-2220,Oct.2005上做了一定的改进:先利用阈值强化重建的图像与原图像之间的差异获得眼镜的区域,通过迭代的方法逐渐消除原图中眼镜区域,使得重建的图像更为真实。在这其中,应用了各种眼镜检测的方法,比如主动形状模型(active shape model)、snake模型、人工神经网络(Artificial Neural Networks)、Hough变换等方法,但这类方法的问题在于:过于依赖眼镜检测的结果,而由于眼镜的多样性,本身眼镜检测就难以达到要求;重建图像存在失真,重建图像由训练样本线性组成,必然与原图存在差异;对于镜片模糊或者有反光的情况以及镜框颜色较深的情况都表现很差,重建图像中总会有镜框和黑斑等遗留的存在,需要特定的戴眼镜与对应无眼镜样本进行学习。
发明内容
本发明所要解决的技术问题是提供了一种眼镜遮挡下的人脸识别方法和系统。通过对单张人脸图像重建出其姿态校正后的模型,在模型上添加各种眼镜模型,粘贴人脸和眼镜纹理,并对眼镜模型的镜片做相应模糊和反光处理,投影模型生成虚拟样本进行识别。不需要大规模的特定样本集进行先验知识学习和大量的三维数据库,重建效率更高,模拟更加真实。
一种眼镜遮挡下人脸识别方法,包含以下步骤:
步骤1、输入单张无眼镜人脸图像和通用人脸网格模型,将人脸图像与通用人脸网格模型调整到同一坐标系下,得到粗略人脸网格模型;
步骤2、对粗略人脸网格模型进行处理,获得姿态校正后的精细人脸网格模型;
步骤3、在精细人脸网格模型上添加眼镜网格模型,并粘贴人脸和眼镜的纹理,获得真实感人脸模型;
步骤4、对真实感人脸模型中眼镜模型的镜片进行模糊处理和反光处理;
步骤5、对镜片处理后的真实感人脸模型进行投影,生成多个配戴眼镜的虚拟样本;
步骤6、将虚拟样本存储为待匹配图像进行人脸识别。
其中,所述步骤2包括:
步骤21、用径向基函数插值法对粗略人脸网格模型进行变形;
步骤22、对粗略人脸网格模型进行姿态校正,得到精细人脸网格模型。
其中,所述步骤3包括:
步骤31、在精细人脸网格模型上添加眼镜网格模型;
步骤32、在精细人脸网格模型上粘贴人脸纹理,在眼镜网格模型上粘贴眼镜纹理。
其中,所述步骤22在姿态校正时,结合粗略人脸网格模型的空间位置进行姿态的估计,并在估计的姿态下,通过迭代计算获得姿态校正后的精细人脸网格模型。
所述添加眼镜网格模型时,根据精细人脸网格模型与眼镜网格模型的相对坐标来调节眼镜模型得到大小和位置。
所述步骤4在对镜片做模糊处理时,采用openGL的多纹理混合的方式对镜片和人眼区域进行混合,并使镜片透明度在[0.0,0.5]范围内变化来模拟镜片的模糊效果。
所述步骤4在对镜片做反光处理时,采用束光源来模拟镜片上的高亮区域,束光源的位置和投射大小根据眼镜模型的空间位置进行调节。
一种眼镜遮挡下的人脸识别系统,包括:
输入单元,用于输入单张无眼镜人脸图像和通用人脸模型,将人脸图像与通用人脸模型调整到同一坐标系下,得到粗略模型;
预处理单元,用于对粗略模型进行处理,获得姿态校正后的精细模型;
图像生成单元,用于在精细模型上添加眼镜模型并粘贴纹理;
镜片处理单元,用于对眼镜模型的镜片进行模糊处理和反光处理;
样本生成单元,用于投影模型以生成不同条件下戴眼镜的虚拟样本;
人脸识别单元,将虚拟样本存储为待匹配图像进行人脸识别。
相对于其他方法,本发明一种眼镜遮挡下的人脸识别方法和系统不需要进行眼镜检测,因此不依赖眼镜检测的结果;不需要大规模的特定样本集进行先验知识学习,仅仅从当前图像三维重建即可;直接对单张图像重建,并结合模型进行姿态校正,不需要大量的三维数据库,重建的虚拟图像更加真实,重建效率更高;在处理中把眼镜分解为镜框和镜架两个部分,尤其对眼镜镜片做了相应模糊反光的处理,模拟更加真实,不会出现图像特征的丢失与变形。
附图说明
图1为本发明重建三维戴眼镜模型并生成虚拟样本进行识别的方法流程图;
图2(a)为本发明中通用人脸网格模型与二维图像特征点的对应点示意图;
图2(b)为本发明中根据二维图像对通用人脸网格模型进行模型变形后示意图;
图2(c)为本发明中根据二维图像对变形后模型进行姿态校正示意图;
图2(d)为本发明中对模型进行姿态校正选择的参考点示意图;
图3(a)为本发明中人脸网格模型与眼镜模型对应点的示意图;
图3(b)为本发明中添加眼镜模型后网格模型的示意图;
图4(a)为本发明中生成不同镜片透明度处理虚拟样本的示意图;
图4(b)为本发明中生成不同镜片反光处理虚拟样本的示意图;
图5为本发明对模型进行投影后生成不同姿态不同光照不同眼镜的虚拟样本的示意图;
具体实施方式
图1示出了根据本发明重建三维戴眼镜模型并生成虚拟样本以进行识别的整体流程图,参照该图,以下将对本发明的各个步骤进行详细的描述。
步骤101、输入单张无眼镜人脸图像和通用人脸网格模型,将人脸图像与通用人脸网格模型调整到同一坐标系下,得到粗略人脸网格模型。
如图2(a)所示,对三维通用人脸网格模型可以很方便的获得,并在openGL下对通用人脸网格模型的所有稀疏点的进行坐标读取和变换,并将所有稀疏点均调整到openGL自定义的视图坐标系下。对输入的正面的人脸图像,本实施例中自定义了65个关键点,这些关键点包括额头,脸部轮廓,眉毛,眼睛,鼻子,嘴巴等器官部位的边界点。在设定人脸图像的关键点之后,与预先在通用人脸模型上指定的稀疏点一起建立关联,使关键点与稀疏点两者对应,并将所有关键点调整到与对应稀疏点所在的openGL自定义的视图坐标系下,这样就得到了粗略人脸网格模型。
步骤102、用径向基函数插值法对粗略人脸网格模型进行变形,获得变形后的人脸网格模型。
径向基函数的实质是一种多变量离散数据插值方法。对于已知的点集,可以以获得最小能量为目的拟合出非线性的函数关系。已知点集x={x1,x2,...,xn}和其对应函数值f={f1,f2,...,fn},由这两组值可以建立函数关系y=s(x),使得对于每个点xi都有fi=s(xi)。该函数关系为
Figure B2009100932611D0000061
其中p(x)=axo+byo+czo+d表示该点的线性多项式,(xo,yo,zo)为该点的坐标值,(a,b,c,d)为系数;
Figure B2009100932611D0000062
为插值基函数,|x-xi|为未知点x与已知点xi之间的距离,λi为对应每组基函数的权重,其中i=1,2,...,n。
在本发明中采用这种插值方法来进行粗略人脸网格模型的变形。模型变形的目的是使粗略人脸网格模型与人脸图像保持形状上的一致性,因此粗略人脸网格模型预先指定的稀疏点xm=(xm1,xm2,...,xm65),其变形后坐标应与人脸图像上关键点xf=(xf1,xf2,...,xf65)相同。其中稀疏点为三维坐标xmi=(xmio,ymio,zmio),关键点为二维坐标xfi=(xfio,yfio),(i=1,2,...,65)。由于在光照均匀的人脸主视图投影中,人脸的深度信息(即z坐标)对人脸图像的影响很小,因此,本发明对此不作考虑。即变形后对于每一个预先指定的稀疏点有
f ( x mi ) = f ( x mi o ) = x fi o f ( y mi o ) = y fi o f ( z mi o ) = z mi o
从而可以获得网格上预先指定的65个稀疏点变形后的坐标。根据这65个稀疏点xm=(xm1,xm2,...,xm65)和其对应变形后坐标f(xm)=(f(xm1),f(xm2),...,f(xm65))可以拟合出插值函数
Figure B2009100932611D0000064
使得f(xmi)=s(xmi)。将该插值函数扩展到整个网格模型,则粗略人脸网格模型上任意稀疏点x=(xo,yo,zo)均可以从该函数关系中计算出该点变形后的坐标s(x)=(xo′,yo′,zo′)。如图2(b)为对模型进行变形后示意图。
步骤103、对粗略模型进行姿态校正,得到精细人脸网格模型,即姿态校正后的正面人脸网格模型。
由于人脸网格模型变形中只参照了人脸图像正面的关键点,因此在人脸图像姿态非正面时,模型的变形会出现畸变,因此本发明从人脸图像中获得人脸的姿态,来校正模型变形中的畸变。从单张人脸图像获得其对应人脸姿态是畸形的问题。本发明结合三维模型来获得该人脸姿态。人脸姿态的旋转变化有三个自由度,分别为x,y,z方向的旋转。其中人脸图像平面定义为x-y平面,根据右手定则确定垂直于x-y平面向外的方向为z方向。姿态旋转的原点定义为模型的原点。
z方向的人脸旋转姿态:z方向的人脸姿态变化表现为人脸的倾斜。在人脸发生z方向姿态变化后,人眼连线会与水平方向存在夹角。本发明选取人脸的两眼中心为参照点,如图2(d)所示。分别记左眼下边界点为le(x1,y1,z1),右眼下边界点为re(x2,y2,z2),则z方向旋转角度为
Figure B2009100932611D0000071
y方向的人脸旋转姿态:y方向的人脸姿态变化表现为人脸的正侧。由于模型变形中只依据了人脸图像正面的关键点以及其对应的人脸网格模型上正面的稀疏点,因此人脸网格模型背面的稀疏点由于距离指定的稀疏点距离过远,而在变形中受到的影响很小,可以近似为变形后模型背面的稀疏点没有发生变化。因此,对于有y方向姿态变化的人脸图像,模型变形后模型正面将向某侧偏移,而模型背面则保持不变。利用这一变化关系可以获得人脸y方向的姿态。本发明在原始通用人脸模型上选取模型正面与模型背面相互对应的一组稀疏点作为参考点{(yfp1,ybp1),(yfp2,ybp2),...,(yfpn,ybpn)},如图2(d)所示。其中n为参考点个数。对其中任一对参考点,正面点为yfpi(x1,y1,z1),背面点ybpi(x2,y2,z2),可获得旋转角度为则y方向旋转角度为
Figure B2009100932611D0000073
i=1,2,...,n。
x方向的人脸旋转姿态:x方向的人脸姿态变化表现为人脸的俯仰。与y方向人脸姿态变化角度相同。同样,本发明在原始通用人脸模型上选取模型正面与模型背面一组相互对应的参考点{(xfp1,xbp1),(xfp2,xbp2),...,(xfpn,xbpn)},如图2(d)所示,其中n为参考点个数。在模型变化后参考点中的任一对参考点连线在y-z平面会发生旋转。对其中任一对参考点,正面点为xfpi(x1,y1,z1),背面点xbpi(x2,y2,z2),可获得旋转角度为则y方向旋转角度为
Figure B2009100932611D0000082
i=1,2,...,n。
由于变形过程中,粗略人脸模型正面发生的形变要远大于背面发生的形变,因此变形后模型会发生畸变。在获得人脸姿态的基础上,本发明用迭代的方法进一步减小这种畸变,使模型变得更加圆滑。
1、根据人脸图像对粗略人脸网格模型进行变形,从变形后模型中获得人脸的姿态(α,β,γ)。
2、将原始粗略网格模型按姿态角(α,β,γ)旋转到该姿态下,根据人脸图像对旋转后的人脸网格模型进行变形。变形后的人脸网格模型再按姿态角(-α,-β,-γ)旋转为正面。
3、获得该正面人脸网格模型姿态角(Δα,Δβ,Δγ)。
4、若姿态角(Δα,Δβ,Δγ)小于给定阈值,则退出;否则更新原人脸姿态角为(α,β,γ)=(α-Δα,β-Δβ,γ-Δγ),返回第2步。
如图2(c)为对变形后模型进行姿态校正后的示意图。
步骤104、在精细模型上添加眼镜模型,得到配戴眼镜的人头网格模型。
在精细人脸网格模型上添加眼镜模型的过程实际上是把眼镜模型与精细人脸模型拼接在一起。对于给定的眼镜模型与精细人脸模型,根据人脸模型来调节眼镜模型的尺寸和位移。本发明分别在人脸模型和眼镜模型上选取一组稀疏点作为参考点{(f1,g1),(f2,g2),(f3,f3),(f4,g4)},如图3(a)所示。眼镜模型的变形为尺寸变化:
Figure B2009100932611D0000083
位移变化:d=(f2+f3)/2-(g2*s+g3*s)/2。如图3(b)所示,为人脸网格模型上添加眼镜模型后示意图。
步骤105、在精细模型上粘贴人脸纹理,在眼镜模型上粘贴眼镜纹理,得到真实感的戴眼镜图像。
人脸纹理图像从二维人脸图像中直接获得。由于在模型变形中,精细人脸网格模型预先指定的稀疏点的坐标与人脸图像关键点坐标一致,因此模型变形后,人脸模型的每一个稀疏点均在二维图像上有一个像素点与之对应。根据二维图像与纹理图像的关系,可以获得人脸模型每一个稀疏点在纹理图像上的纹理坐标,从而可以将纹理图像映射到网格模型上,实现人脸模型的纹理映射。
眼镜的纹理图像分为镜框和镜片两个部分。由于镜框和镜片的整体颜色通常不会变化,因此本发明预先以不同颜色定义镜框和镜片的纹理图像,直接粘贴眼镜纹理。
步骤106、对眼镜镜片做模糊处理。
在镜片的模糊遮挡下,眼睛区域的纹理表现为镜片的纹理颜色与眼睛的初始纹理混合。本发明引入了openGL中的多纹理混合的方法来对镜片和人眼区域进行混合。对于配戴眼镜的真实感人脸模型,假设镜片上某一点Pg(xg,yg,zg),其纹理值为Tg(rg,gg,bg),而人脸模型上该点所遮挡的人眼区域对应点为Pe(xe,ye,ze),其纹理值为Te(re,ge,be),其中xe=xg,ye=yg。则在镜片覆盖下,该点的纹理值会发生混合:
pm=(rgg+ree,ggg+gee,bgg+bee)
其中,αg表示镜片的透明度,αe表示人脸部分的透明度;为描述不同程度的镜片模糊,包括完全透明的镜片,本发明中令αe=1-αg;αg=1表示人脸部分完全透明,此时混合后纹理完全表现为镜片的颜色;αg=0表示镜片部分完全透明,此时混合后纹理完全表现为人脸未被遮挡时人脸纹理的颜色。镜片的透明度越低,镜片越模糊。由于在多数情况下,普通眼镜镜片(不含墨镜)其透明程度是有范围的,透明度过高时,所生成的虚拟样本会造成原人脸图像特征的丢失。因此本发明中设置镜片透明度αg为[0.0,0.5]范围内变化来模拟镜片的模糊效果。如图4(a)所示,为不同镜片透明度下的虚拟样本。
步骤107、对眼镜镜片做反光处理。
镜片的反光表现为镜片某个部位强烈的光斑。反光是拍摄背景中光源在镜片凹透镜中所成的像。本方法在模型的基础上引入了束光源来模拟这种反光,束光源的位置和投射大小均根据眼镜模型的空间位置进行调节。
对于给定的配戴眼睛模型的精细模型,可以获得眼镜区域的位置。在主视图的眼镜区域的正上方设置束光源。假设光源位置为l(xl,yl,zl),其法向方向为(α,β,γ),为在眼镜区域上实现光照,通常设γ<0。假设眼镜区域为位于z=zg的平面,则该束光源在镜片上的投影可以计算获得。为方便计算,将坐标系平移到光源位置。设z=zg-xl
1、该光源法向与眼镜平面交点为
Figure B2009100932611D0000101
2、投影平面可分成两个部分,靠近轴的部分与远离轴的部分分别构成椭圆。根据光源在与眼镜平面接触点的圆面半径
Figure B2009100932611D0000102
可以分别获得两个椭圆部分的长短轴。
其中,靠近轴椭圆为 a = z γ * α 2 + β 2 , b = z * α 2 + β 2 α 2 + β 2 + γ 2 * α 2 + β 2 γ 2 ;
远离轴椭圆为 a = z * α 2 + β 2 * ( α 2 + β 2 + γ 2 ) γ ( γ 2 - α 2 - β 2 ) , b = z * α 2 + β 2 α 2 + β 2 + γ 2 * α 2 + β 2 γ 2 ;
根据Phong光照模型的描述,图像表面的光照强度I由多种光线的混合作用而成。I=IaKa+IdKdcosθ+IsKscos(ns*α)。其中,Ia,Ka,Id,Kd,Is,Ks分别为环境光,漫射光和镜面反射光的光强和对应系数,θ为反射角,ns为镜面反射指数,α为视线与镜面反射的夹角。
在光照影响下,物体所表现的颜色是物体本身的材质和光源共同作用的结果。在获得束光源在眼镜模型的镜片投影后,设置光源镜面反射光系数ks=1,漫反射系数Kd<1,从而保证光源在该投影区域具有强光,同时在光源的边缘也存在逐渐衰减的弱光。在获得投影区域之后,根据眼镜区域的范围,对投影区域大小进行约束,置超出眼镜模型的镜片范围的光照为0。如图4(b)所示,为不同镜片反光下的虚拟样本。
步骤108、对处理后的真实感人脸模型分别进行姿态的旋转变化,外加不同的光源,更换不同的眼镜模型,并处于不同的镜片处理,可以获得多张不同条件下的配戴眼镜后人脸虚拟样本。如图5所示,为真实感人脸模型在配戴不同眼镜下,不同姿态,不同光照下投影获得的虚拟样本。
图6为一种实现上述方法的人脸识别系统的框图。该系统包括输入单元501,用于输入单张无眼镜人脸图像和通用人脸模型,获得人脸图像与模型上对应点,对所有顶点均进行坐标变换,调整到同一坐标系下;初步处理单元502,用于对模型进行处理,获得姿态校正后的正面人头模型;真实图像生成单元503,用于在人头模型上添加眼镜模型并粘贴纹理;镜片处理单元504,用于对眼镜镜片进行模糊处理和反光处理;虚拟样本生成单元505,用于投影模型以生成不同条件下戴眼镜的虚拟样本。其中,所述初步处理单元502包括:变形单元521,用于使用径向基函数插值法对模型进行变形;校正单元522,用于对模型进行姿态校正。其中,所述真实图像生成单元503包括:眼镜模型添加单元531,用于在模型上添加眼镜模型,得到配戴眼镜的人头网格模型;纹理添加单元532,用于在模型上粘贴人脸纹理和眼镜纹理,得到真实感的戴眼镜图像。该识别系统只是一种示意性的实施方式,还可以有多种变形同样用以实现本发明的方法。
在本发明中,针对眼镜的多样性,在镜框的形状上设计了多幅眼镜模型,并对每张图像生成多张不同的戴眼镜投影,在镜框的颜色上设置不同的眼镜颜色,在镜框的尺寸和配戴位置上本发明以随机数的形式来进行随机的调节,在镜片的模糊上以随机数形式自动调节镜片透明度以满足不同的程度地镜片模糊,在镜片的反光上以随机数的形式来设置反光的位置和大小。投影生成的虚拟图像可以模拟任意眼镜变化下的遮挡图像,以虚拟图像进行识别可以大幅度提高识别率。
应该注意的是,上述实施例仅仅为了便于说明而示例。本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若对本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。

Claims (8)

1.一种眼镜遮挡下的人脸识别方法,其特征在于,该方法包括以下步骤:
步骤1、输入单张无眼镜人脸图像和通用人脸网格模型,将人脸图像与模型上的对应点调整到同一坐标系下,得到粗略人脸网格模型;
步骤2、对粗略人脸网格模型进行处理,获得姿态校正后的精细人脸网格模型;
步骤3、在精细人脸网格模型上添加眼镜网格模型,并在获得的配戴眼镜人脸网格模型上粘贴人脸和眼镜的纹理,获得真实感的人脸模型;
步骤4、对真实感人脸模型中眼镜模型的部分进行镜片的模糊处理和反光处理;
步骤5、对处理后的真实感人脸模型进行投影,生成多个不同条件下的配戴眼镜的虚拟样本;
步骤6、将虚拟样本存储为待匹配图像进行人脸识别。
2.如权利要求1所述的人脸识别方法,其特征在于:其中所述步骤2包括:
步骤21、用径向基函数插值法对粗略人脸网格模型进行变形;
步骤22、对粗略人脸网格模型进行姿态校正,得到精细人脸网格模型。
3.如权利要求1所述的人脸识别方法,其特征在于:其中所述步骤3包括:
步骤31、在精细人脸网格模型上添加眼镜网格模型;
步骤32、在精细人脸网格模型上粘贴人脸纹理,在眼镜网格模型上粘贴眼镜纹理。
4.如权利要求2所述的人脸识别方法,其特征在于:其中所述步骤22在姿态校正时,结合粗略人脸网格模型的空间位置进行姿态的估计,并在估计的姿态下,通过迭代计算获得姿态校正后的精细人脸网格模型。
5.如权利要求1或3所述的人脸识别方法,其特征在于:所述添加眼镜模型时,根据精细人脸网格模型与眼镜网格模型的相对坐标来调节眼镜网格模型的大小和位置。
6.如权利要求1所述的人脸识别方法,其特征在于:其中所述步骤4在对镜片做模糊处理时,采用openGL的多纹理混合的方式对镜片和人眼区域进行混合,并使镜片透明度在[0.0,0.5]范围内变化来模拟镜片的模糊效果。
7.如权利要求1所述的人脸识别方法,其特征在于:其中所述步骤4在对镜片做反光处理时,采用束光源来模拟镜片上的高亮区域,束光源的位置和投射大小均根据眼镜模型的空间位置进行调节。
8.一种眼镜遮挡下的人脸识别系统,其特征在于,该系统包括:
输入单元,用于输入单张无眼镜人脸图像和通用人脸网格模型,将人脸图像与模型上的对应点调整到同一坐标系下,得到粗略人脸网格模型;
预处理单元,用于对粗略人脸网格模型进行处理,获得姿态校正后的精细人脸网格模型;
模型生成单元,用于在精细人脸网格模型上添加眼镜网格模型并粘贴人脸和眼镜的纹理;
镜片处理单元,用于对眼镜模型的镜片进行模糊处理和反光处理;
样本生成单元,用于投影模型以生成不同条件下戴眼镜的虚拟样本;
人脸识别单元,将虚拟样本存储为待匹配图像进行人脸识别。
CN2009100932611A 2009-09-24 2009-09-24 眼镜遮挡下的人脸识别方法和系统 Active CN102034079B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN2009100932611A CN102034079B (zh) 2009-09-24 2009-09-24 眼镜遮挡下的人脸识别方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN2009100932611A CN102034079B (zh) 2009-09-24 2009-09-24 眼镜遮挡下的人脸识别方法和系统

Publications (2)

Publication Number Publication Date
CN102034079A true CN102034079A (zh) 2011-04-27
CN102034079B CN102034079B (zh) 2012-11-28

Family

ID=43886952

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2009100932611A Active CN102034079B (zh) 2009-09-24 2009-09-24 眼镜遮挡下的人脸识别方法和系统

Country Status (1)

Country Link
CN (1) CN102034079B (zh)

Cited By (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103093210A (zh) * 2013-01-24 2013-05-08 北京天诚盛业科技有限公司 人脸识别中眼镜的鉴别方法及装置
CN103902962A (zh) * 2012-12-28 2014-07-02 汉王科技股份有限公司 一种遮挡或光源自适应人脸识别方法和装置
CN103942531A (zh) * 2014-03-06 2014-07-23 中南民族大学 一种人脸识别系统及其方法
CN104077563A (zh) * 2014-05-30 2014-10-01 小米科技有限责任公司 人脸识别方法和装置
CN104156700A (zh) * 2014-07-26 2014-11-19 佳都新太科技股份有限公司 基于活动形状模型和加权插值法的人脸图像眼镜去除方法
CN104680508A (zh) * 2013-11-29 2015-06-03 华为技术有限公司 卷积神经网络和基于卷积神经网络的目标物体检测方法
WO2015165365A1 (zh) * 2014-04-29 2015-11-05 华为技术有限公司 一种人脸识别方法及系统
CN105184253A (zh) * 2015-09-01 2015-12-23 北京旷视科技有限公司 一种人脸识别方法和人脸识别系统
CN105389570A (zh) * 2015-11-19 2016-03-09 吴建忠 一种人脸角度判定方法及其系统
CN106407912A (zh) * 2016-08-31 2017-02-15 腾讯科技(深圳)有限公司 一种人脸验证的方法及装置
CN106462738A (zh) * 2014-05-20 2017-02-22 埃西勒国际通用光学公司 用于构建个人的面部的模型的方法、用于使用这样的模型分析姿态的方法和设备
CN107004296A (zh) * 2014-08-04 2017-08-01 脸谱公司 用于对虚拟现实环境的遮挡面部进行重构的方法和系统
CN107016370A (zh) * 2017-04-10 2017-08-04 电子科技大学 一种基于数据增强的部分遮挡人脸识别方法
CN107273871A (zh) * 2017-07-11 2017-10-20 夏立 一种人脸特征模型的训练方法及装置
CN107368806A (zh) * 2017-07-18 2017-11-21 广东欧珀移动通信有限公司 图像矫正方法、装置、计算机可读存储介质和计算机设备
CN107609481A (zh) * 2017-08-14 2018-01-19 百度在线网络技术(北京)有限公司 为人脸识别生成训练数据的方法、装置和计算机存储介质
CN107845062A (zh) * 2017-11-14 2018-03-27 北京小米移动软件有限公司 图像生成方法及装置
CN107862270A (zh) * 2017-10-31 2018-03-30 深圳云天励飞技术有限公司 人脸分类器训练方法、人脸检测方法及装置、电子设备
CN108460398A (zh) * 2017-12-27 2018-08-28 达闼科技(北京)有限公司 图像处理方法、装置、云处理设备和计算机程序产品
CN108491824A (zh) * 2018-04-03 2018-09-04 百度在线网络技术(北京)有限公司 模型生成方法和装置
CN108509855A (zh) * 2018-03-06 2018-09-07 成都睿码科技有限责任公司 一种通过增强现实生成机器学习样本图片的系统及方法
CN108717537A (zh) * 2018-05-30 2018-10-30 淮阴工学院 一种基于模式识别的复杂场景的人脸识别方法及系统
CN108921148A (zh) * 2018-09-07 2018-11-30 北京相貌空间科技有限公司 确定正脸倾斜角度的方法及装置
CN109035375A (zh) * 2018-06-22 2018-12-18 广州久邦世纪科技有限公司 一种基于OpenGL的3D眼镜渲染方法及其系统
CN109584358A (zh) * 2018-11-28 2019-04-05 深圳市商汤科技有限公司 一种三维人脸重建方法及装置、设备和存储介质
CN109671097A (zh) * 2018-12-12 2019-04-23 北京像素软件科技股份有限公司 运动模糊实现方法及装置
CN109784255A (zh) * 2019-01-07 2019-05-21 深圳市商汤科技有限公司 神经网络训练方法及装置以及识别方法及装置
CN110070017A (zh) * 2019-04-12 2019-07-30 北京迈格威科技有限公司 一种人脸假眼图像生成方法及装置
CN110969139A (zh) * 2019-12-11 2020-04-07 深圳市捷顺科技实业股份有限公司 人脸识别模型训练方法及相关装置、人脸识别方法及相关装置
CN110991325A (zh) * 2019-11-29 2020-04-10 腾讯科技(深圳)有限公司 一种模型训练的方法、图像识别的方法以及相关装置
CN111507937A (zh) * 2020-03-03 2020-08-07 平安科技(深圳)有限公司 一种图像数据的生成方法及装置
CN112215113A (zh) * 2020-09-30 2021-01-12 张成林 人脸识别方法及装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005242640A (ja) * 2004-02-26 2005-09-08 Fuji Photo Film Co Ltd 対象物検出方法および装置並びにプログラム
CN101162502A (zh) * 2006-10-13 2008-04-16 上海银晨智能识别科技有限公司 一种人脸识别中的眼镜消除的方法

Cited By (51)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103902962A (zh) * 2012-12-28 2014-07-02 汉王科技股份有限公司 一种遮挡或光源自适应人脸识别方法和装置
CN103093210A (zh) * 2013-01-24 2013-05-08 北京天诚盛业科技有限公司 人脸识别中眼镜的鉴别方法及装置
CN103093210B (zh) * 2013-01-24 2017-02-08 北京天诚盛业科技有限公司 人脸识别中眼镜的鉴别方法及装置
CN104680508A (zh) * 2013-11-29 2015-06-03 华为技术有限公司 卷积神经网络和基于卷积神经网络的目标物体检测方法
CN103942531A (zh) * 2014-03-06 2014-07-23 中南民族大学 一种人脸识别系统及其方法
CN103942531B (zh) * 2014-03-06 2017-03-29 中南民族大学 一种人脸识别系统及其方法
CN105095829B (zh) * 2014-04-29 2019-02-19 华为技术有限公司 一种人脸识别方法及系统
WO2015165365A1 (zh) * 2014-04-29 2015-11-05 华为技术有限公司 一种人脸识别方法及系统
CN105095829A (zh) * 2014-04-29 2015-11-25 华为技术有限公司 一种人脸识别方法及系统
US10380411B2 (en) 2014-05-20 2019-08-13 Essilor International Method for constructing a model of the face of a person, method and device for posture analysis using such a model
CN106462738A (zh) * 2014-05-20 2017-02-22 埃西勒国际通用光学公司 用于构建个人的面部的模型的方法、用于使用这样的模型分析姿态的方法和设备
CN106462738B (zh) * 2014-05-20 2020-10-09 依视路国际公司 用于构建个人的面部的模型的方法、用于使用这样的模型分析姿态的方法和设备
CN104077563B (zh) * 2014-05-30 2018-02-02 小米科技有限责任公司 人脸识别方法和装置
CN104077563A (zh) * 2014-05-30 2014-10-01 小米科技有限责任公司 人脸识别方法和装置
CN104156700A (zh) * 2014-07-26 2014-11-19 佳都新太科技股份有限公司 基于活动形状模型和加权插值法的人脸图像眼镜去除方法
CN107004296A (zh) * 2014-08-04 2017-08-01 脸谱公司 用于对虚拟现实环境的遮挡面部进行重构的方法和系统
CN107004296B (zh) * 2014-08-04 2020-12-29 脸谱科技有限责任公司 用于对虚拟现实环境的遮挡面部进行重构的方法和系统
CN105184253A (zh) * 2015-09-01 2015-12-23 北京旷视科技有限公司 一种人脸识别方法和人脸识别系统
CN105184253B (zh) * 2015-09-01 2020-04-24 北京旷视科技有限公司 一种人脸识别方法和人脸识别系统
CN105389570A (zh) * 2015-11-19 2016-03-09 吴建忠 一种人脸角度判定方法及其系统
CN106407912A (zh) * 2016-08-31 2017-02-15 腾讯科技(深圳)有限公司 一种人脸验证的方法及装置
CN107016370A (zh) * 2017-04-10 2017-08-04 电子科技大学 一种基于数据增强的部分遮挡人脸识别方法
CN107273871A (zh) * 2017-07-11 2017-10-20 夏立 一种人脸特征模型的训练方法及装置
CN107368806A (zh) * 2017-07-18 2017-11-21 广东欧珀移动通信有限公司 图像矫正方法、装置、计算机可读存储介质和计算机设备
CN107368806B (zh) * 2017-07-18 2020-01-10 Oppo广东移动通信有限公司 图像矫正方法、装置、计算机可读存储介质和计算机设备
CN107609481B (zh) * 2017-08-14 2020-11-20 百度在线网络技术(北京)有限公司 为人脸识别生成训练数据的方法、装置和计算机存储介质
CN107609481A (zh) * 2017-08-14 2018-01-19 百度在线网络技术(北京)有限公司 为人脸识别生成训练数据的方法、装置和计算机存储介质
CN107862270A (zh) * 2017-10-31 2018-03-30 深圳云天励飞技术有限公司 人脸分类器训练方法、人脸检测方法及装置、电子设备
CN107862270B (zh) * 2017-10-31 2020-07-21 深圳云天励飞技术有限公司 人脸分类器训练方法、人脸检测方法及装置、电子设备
CN107845062B (zh) * 2017-11-14 2021-08-17 北京小米移动软件有限公司 图像生成方法及装置
CN107845062A (zh) * 2017-11-14 2018-03-27 北京小米移动软件有限公司 图像生成方法及装置
CN108460398A (zh) * 2017-12-27 2018-08-28 达闼科技(北京)有限公司 图像处理方法、装置、云处理设备和计算机程序产品
CN108460398B (zh) * 2017-12-27 2021-08-10 达闼科技(北京)有限公司 图像处理方法、装置、云处理设备
CN108509855A (zh) * 2018-03-06 2018-09-07 成都睿码科技有限责任公司 一种通过增强现实生成机器学习样本图片的系统及方法
CN108509855B (zh) * 2018-03-06 2021-11-23 成都睿码科技有限责任公司 一种通过增强现实生成机器学习样本图片的系统及方法
CN108491824A (zh) * 2018-04-03 2018-09-04 百度在线网络技术(北京)有限公司 模型生成方法和装置
CN108717537A (zh) * 2018-05-30 2018-10-30 淮阴工学院 一种基于模式识别的复杂场景的人脸识别方法及系统
CN108717537B (zh) * 2018-05-30 2019-05-14 淮阴工学院 一种基于模式识别的复杂场景的人脸识别方法及系统
CN109035375B (zh) * 2018-06-22 2023-11-10 广州久邦世纪科技有限公司 一种基于OpenGL的3D眼镜渲染方法及其系统
CN109035375A (zh) * 2018-06-22 2018-12-18 广州久邦世纪科技有限公司 一种基于OpenGL的3D眼镜渲染方法及其系统
CN108921148A (zh) * 2018-09-07 2018-11-30 北京相貌空间科技有限公司 确定正脸倾斜角度的方法及装置
CN109584358A (zh) * 2018-11-28 2019-04-05 深圳市商汤科技有限公司 一种三维人脸重建方法及装置、设备和存储介质
CN109671097A (zh) * 2018-12-12 2019-04-23 北京像素软件科技股份有限公司 运动模糊实现方法及装置
CN109784255A (zh) * 2019-01-07 2019-05-21 深圳市商汤科技有限公司 神经网络训练方法及装置以及识别方法及装置
CN110070017B (zh) * 2019-04-12 2021-08-24 北京迈格威科技有限公司 一种人脸假眼图像生成方法及装置
CN110070017A (zh) * 2019-04-12 2019-07-30 北京迈格威科技有限公司 一种人脸假眼图像生成方法及装置
CN110991325A (zh) * 2019-11-29 2020-04-10 腾讯科技(深圳)有限公司 一种模型训练的方法、图像识别的方法以及相关装置
CN110969139A (zh) * 2019-12-11 2020-04-07 深圳市捷顺科技实业股份有限公司 人脸识别模型训练方法及相关装置、人脸识别方法及相关装置
CN111507937A (zh) * 2020-03-03 2020-08-07 平安科技(深圳)有限公司 一种图像数据的生成方法及装置
CN111507937B (zh) * 2020-03-03 2024-05-10 平安科技(深圳)有限公司 一种图像数据的生成方法及装置
CN112215113A (zh) * 2020-09-30 2021-01-12 张成林 人脸识别方法及装置

Also Published As

Publication number Publication date
CN102034079B (zh) 2012-11-28

Similar Documents

Publication Publication Date Title
CN102034079B (zh) 眼镜遮挡下的人脸识别方法和系统
US9317973B2 (en) Augmented reality method applied to the integration of a pair of spectacles into an image of a face
CN107358648B (zh) 基于单张人脸图像的实时全自动高质量三维人脸重建方法
CN101751689B (zh) 一种三维人脸重建方法
CN111784821B (zh) 三维模型生成方法、装置、计算机设备及存储介质
US6850872B1 (en) Facial image processing methods and systems
CN106067190B (zh) 一种基于单幅图像的快速人脸三维模型生成和变换方法
US6950104B1 (en) Methods and systems for animating facial features, and methods and systems for expression transformation
CN105046219B (zh) 一种人脸识别系统
CN103208133B (zh) 一种图像中人脸胖瘦的调整方法
Samaras et al. Incorporating illumination constraints in deformable models for shape from shading and light direction estimation
EP3671324A1 (de) Verfahren, vorrichtung und computerprogramm zum virtuellen anpassen einer brillenfassung
EP4207079A1 (en) Parameter estimation model training method and apparatus, and device and storage medium
US20050084140A1 (en) Multi-modal face recognition
CN106910102A (zh) 眼镜虚拟试戴方法及装置
CN113066171B (zh) 一种基于三维人脸形变模型的人脸图像生成方法
CN105913416A (zh) 一种自动分割三维人脸模型区域的方法
CN102800129A (zh) 一种基于单幅图像的头发建模和肖像编辑方法
CN105844695A (zh) 一种基于真实材质测量数据的光照建模方法
Zhang et al. A virtual try-on system for prescription eyeglasses
CN103337088B (zh) 一种基于边缘保持的人脸图像光影编辑方法
CN116416376A (zh) 一种三维头发的重建方法、系统、电子设备及存储介质
CN101533521B (zh) 重建三维表面模型的方法
CN110717978A (zh) 基于单张图像的三维头部重建方法
CN113724302A (zh) 一种个性化眼镜定制方法及定制系统

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant