CN108898665A - 三维人脸重建方法、装置、设备及计算机可读存储介质 - Google Patents
三维人脸重建方法、装置、设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN108898665A CN108898665A CN201810621836.1A CN201810621836A CN108898665A CN 108898665 A CN108898665 A CN 108898665A CN 201810621836 A CN201810621836 A CN 201810621836A CN 108898665 A CN108898665 A CN 108898665A
- Authority
- CN
- China
- Prior art keywords
- face
- dimensional
- reference picture
- normal
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Oral & Maxillofacial Surgery (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Graphics (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Image Processing (AREA)
Abstract
本发明公开一种三维人脸重建方法、装置、设备及计算机可读存储介质,对人脸参考图像集中人脸参考图像进行特征点标定,基于特征点像素坐标对参考模型进行全局轮廓变形,对变形后的初级人脸模型采用基于法线的光度立体技术进行光度法线重建,基于重建后的目标人脸模型的表面法向量,使用网格变形技术利用优化后的法线迭代生成目标人脸模型。本发明提出基于光度法线的鲁棒性三维人脸重建技术,借助无约束图像集和参考模型,结合使用光度立体技术和网格变形技术,降低了对人脸参考图像的限制,利用了两种技术的优点,同时也避免了单独使用一种技术重建人脸时的缺陷,提高了维人脸重建质量,实现了鲁棒性的高精度三维人脸重建。
Description
技术领域
本发明涉及电子技术领域,更具体地说,涉及一种三维人脸重建方法、装置、设备及计算机可读存储介质。
背景技术
基于图像的三维人脸重建被广泛应用于人脸识别、公安、医疗、游戏动画、影视娱乐等领域,它旨在实现人脸的三维几何模型重构,是计算机视觉和计算机图形学中一个有趣而富挑战性的研究热点。目前,三维人脸重建技术主要分为两大类:主动重建技术和被动重建技术。主动重建技术使用三维深度扫描仪来捕获人脸的三维位置信息,经拟合处理构造人脸三维模型。基于深度扫描仪的方法可以得到精确的结果,但需要特殊的硬件设备和高昂的费用,故不适用于复杂对象。被动重建技术是利用计算机视觉的相关算法,通过单张或多张二维人脸图像来重建三维人脸。与主动重建技术相比,被动重建技术不受硬件限制,且是一种相对经济的方法。
光度立体技术是一种被广泛应用的被动重建技术,最初是由明暗恢复形状(Shape from Shading,SFS)算法发展而来,由Woodham于1980年正式提出,是一种利用同一物体在同一位置而不同光源下的多幅图像来恢复物体表面形状的三维重建方法。它能成功利用三张及以上图像实现三维建模,且具有低硬件成本、较快速度、适中的重建质量等优点,故在工业检测、虚拟现实等领域得到了广泛的研究与应用。然而,光度立体技术的算法通常需使用奇异值(SVD) 分解来解决低秩球谐函数问题,该问题需要严格的约束限制,解的存在性和唯一性在实际中很难从理论上得到保证,这容易使求得的解与真实解间可能存在较大偏差。
另一方面,基于模型的网格变形技术由于具有较好特性,且变形过程相对简单,也成为三维重建、虚拟现实等领域中一种常用的方法。网格变形技术是通过在原有模型网格上进行逐顶点的变形操作得到需要的新形状三维网格模型,可以生成扫描仪和一些传统造型构建方法无法获取的三维模型。目前,流行的网格变形技术大体可分为:基于空间变形的变形技术、基于骨架驱动的变形技术、基于网格曲面的变形技术。其中,基于网格曲面的变形技术是应用时间和范围最广的网格变形技术,该变形技术又可分为基于多分辨率表示的变形技术和基于微分坐标的变形技术。基于微分坐标的变形技术中的Laplacian变形技术是中最受关注的方法之一,它基于Laplacian框架,采用微分坐标表示实现三维表面网格重建,具有线性性质和平移不变性,能够保持变形前后的网格的局部几何细节,即能成功保持顶点之间的拓扑信息。然而,该变形技术运算复杂,且对图像质量限制较高。
发明内容
本发明要解决的技术问题在于提供一种更为完善的三维人脸重建方法、装置、设备及计算机可读存储介质。
本发明提供的三维人脸重建方法包括:
步骤101、获取目标人脸的人脸参考图像集,所述人脸参考图像集包括至少两幅人脸参考图像;
步骤102、对所述人脸参考图像集中各幅所述人脸参考图像进行人脸特征点标定,各幅所述人脸参考图像标定出q个特征点,q为大于或等于1的正整数;
步骤103、基于标定的特征点像素坐标对参考模型进行全局轮廓变形,得到全局轮廓形变后的初始人脸模型,所述参考模型为一个已知的三维人脸模型;
步骤104、对所述初级人脸模型采用基于法线的光度立体技术进行光度法线重建,估算得到所述目标人脸的目标人脸模型的表面法向量。
步骤105、基于所述目标人脸模型的表面法向量,使用网格变形技术利用优化后的法线迭代生成所述目标人脸模型;
步骤106、显示或保存所述目标人脸模型。
可选的,第i幅所述人脸参考图像表示成Ii=(u,v),所述特征点像素坐标记为二维矩阵Wi,矩阵维度为2*q。
可选的,所述q的取值为68。
可选的,所述步骤103包括:采用基于标定点约束的拉普拉斯Laplacian变形技术,基于标定的特征点像素坐标对参考模型进行全局轮廓变形,得到全局轮廓形变后的初始人脸模型。
可选的,所述采用基于标定点约束的Laplacian变形技术,基于标定的特征点像素坐标对参考模型进行全局轮廓变形包括:
把所述初始人脸模型表面离散为一个含p个顶点的三维网格,其对应的三维坐标表示成矩阵,采用以下公式计算得到全局轮廓形变后的所述初始人脸模型顶点的三维坐标矩阵X:
其中,
Pi为第i幅图像对应的投影矩阵,Pi k表示第k次迭代的第i幅图像对应的投影矩阵,X0表示参考模型对应的p个顶点的三维网格坐标,二维矩阵Wi如2 中介绍为图像上标定的特征点像素坐标,λl为权重系数。Di是一个对角矩阵,若第i幅图像上有对应特征点则Dii=1,否则为0;,
L是Laplacian Beltrami算子的离散化,是一个对称矩阵,其中每项为这里αi,j和βi,j为边ij相对的两个角;
根据上式,对所述P个顶点进行渲染显示,得到初始人脸模型。
可选的,所述步骤104包括采用以下公式进行光度法线重建,经过多次迭代估算得到目标人脸模型的表面法向量nj:
式中:Mi,j表示顶点j在第i幅图像上的光照强度,ρj为顶点j点处的反射率,nj s表示当前模型在对应顶点j处的表面法向量,λm为权重因子,Li=[ka,kdli]T表示第i幅图像的光源方向矩阵,其中ka为环境系数,kd为散射系数,li为光源方向。首先初始化所有的ρj=1和nj为当前模型的法线,先估算出Li,然后固定nj求解ρj,最后估算nj,这样经过多次迭代能够更准备地估算出表面法向量。
可选的,所述步骤105中使用的网格变形技术包括:Laplacian变形技术。
可选的,所述步骤105包括采用以下公式生成所述目标人脸模型:
其中,H为由-Hini组成的维度为3q的向量,
为顶点i邻域的平均曲率,Hk表示第k步迭代计算得到的H;Lb矩阵中元素为Lb,ij,Lb,ij=1/||eij||,||eij||为边eij的模;Xk表示第k步迭代计算得到的X,Pi k表示第k步迭代计算得到的Pi,Xk+1即为根据第k步迭代计算得到的第k+1步的X,X为将所述初始人脸模型表面离散为一个含p个顶点的三维网格的基础上所述p个顶点的三维坐标矩阵。
本发明还提供一种三维人脸重建装置,所述三维人脸重建装置包括:
第一模块,用于获取目标人脸的人脸参考图像集,所述人脸参考图像集包括至少两幅人脸参考图像;
第二模块,用于对所述人脸参考图像集中各幅所述人脸参考图像进行人脸特征点标定,各幅所述人脸参考图像标定出q个特征点,q为大于或等于1的正整数;
第三模块,用于基于标定的特征点像素坐标对参考模型进行全局轮廓变形,得到全局轮廓形变后的初始人脸模型,所述参考模型为一个已知的三维人脸模型;
第四模块,用于对所述初级人脸模型采用基于法线的光度立体技术进行光度法线重建,估算得到目标人脸模型的表面法向量。
第五模块,用于基于所述目标人脸模型的表面法向量,使用网格变形技术利用优化后的法线迭代生成所述目标人脸模型;
第六模块,用于显示或保存所述目标人脸模型。
本发明还提供了一种三维人脸重建设备,包括处理器、存储器及通信总线;所述通信总线用于实现处理器和存储器之间的连接通信;所述处理器用于执行存储器中存储的一个或者多个程序,以实现上述任一项所述的三维人脸重建方法的步骤。
本发明还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现上述任一项所述的三维人脸重建方法的步骤。
有益效果
本发明提供的三维人脸重建方法、装置、设备及计算机可读存储介质,对现有三维人脸重建技术中存在的问题,如光度立体技术中算法的奇异值(SVD) 分解存在解不唯一性,导致重建误差偏大;以及图像低质导致Laplacian变形技术运算复杂甚至变形扭曲等,提出基于光度法线的鲁棒性三维人脸重建技术,结合使用了光度立体技术和网格变形技术,利用了两种方法的优点,同时也避免了单独使用一种方法重建人脸时的缺陷,以提高三维人脸重建质量,而且本发明降低了对输入人脸参考图像的限制,允许人脸参考图像中含不同光照、不同表情,甚至存在人脸姿态偏转的图像,提高了适用性;针对无约束图像集,借助参考模型,结合使用了改进后的光度立体技术与Laplacian变形技术,实现了鲁棒性的高精度三维人脸重建。另外,克服了主动三维人脸重建过程中三维扫描仪的操作复杂、测量中存在误差、耗费人力物力等缺点。进一步地,使用基于标定点约束的Laplacian变形技术进行全局轮廓形变,降低了Laplacian 网格变形算法的复杂度。
附图说明
下面将结合附图及实施例对本发明作进一步说明,附图中:
图1为本发明第一实施例提供的三维人脸重建方法的流程图;
图2为本发明第二实施例提供的三维人脸重建方法的流程图;
图3为本发明第二实施例中人脸参考图像集示意图;
图4为本发明第二实施例中特征点标定示意图;
图5为本发明第二实施例中参考模型的示意图;
图6为本发明第二实施例中基于光度法线的表面精细化重建的示意图;
图7为本发明第二实施例生成的最终的三维人脸模型的示意图;
图8为本发明第四实施例提供的三维人脸重建设备的示意图。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
第一实施例
图1为本发明第一实施例提供的三维人脸重建方法,该三维人脸重建方法包括:
步骤101、获取目标人脸的人脸参考图像集,所述人脸参考图像集包括至少两幅人脸参考图像;
步骤102、对所述人脸参考图像集中各幅所述人脸参考图像进行人脸特征点标定,各幅所述人脸参考图像标定出q个特征点,q为大于或等于1的正整数;
步骤103、基于标定的特征点像素坐标对参考模型进行全局轮廓变形,得到全局轮廓形变后的初始人脸模型,所述参考模型为一个已知的三维人脸模型;
步骤104、对所述初级人脸模型采用基于法线的光度立体技术进行光度法线重建,得到所述目标人脸的目标人脸模型的表面法向量;
步骤105、基于所述中级人脸模型,使用网格变形技术利用优化后的法线迭代生成所述目标人脸模型;
步骤106、显示或保存所述目标人脸模型。
上述步骤101中,可以获取一个、两个或两个以上的人脸参考图像集,针对每个人脸参考图像集分别执行上述步骤102至106,得到与各人脸参考图像集对应的最终的目标人脸模型,目标人脸模型为三维人脸模型,可以包括:左视图、正视图、右视图等等。不同人脸参考图像集中所包括的人脸参考图像不同,同一人脸参考图像集中的人脸参考图像也不同,不同之处可以体现在以下至少一种要素上:光照强度、表情、人脸偏转角度等等。
步骤102中,可以对人脸参考图像集使用预训练模型 shape_predictor_68_face_landmarks.dat对人脸参考图像集中每幅人脸参考图像标定q个特征点,q为大于或等于1的正整数。
在一些实施例中,可以将特征点像素坐标存为二维矩阵,为了适用算法,可以将人脸参考图像表示成:第i幅人脸参考图像表示成Ii=(u,v)。那么,特征点像素坐标记为二维矩阵Wi,矩阵维度为2*q。
在一些实施例中,q的取值为68,即每幅人脸参考图像标定68个特征点,特征点像素坐标记成的二维矩阵Wi的矩阵维度为2*68。
上述步骤103,由于参考模型和目标人脸的脸型宽高比可能并不相同,因此需要先对参考模型进行初始的对齐变形。为了适用算法,将参考模型记为三维坐标矩阵X0,可以使用基于标定点约束的Laplacian变形技术对该参考模型进行初始变形,完成目标人脸三维模型的全局轮廓形变,得到全局轮廓形变后的初始人脸模型,形变后X0变成了初始人脸模型X1,对每个人脸参考图像集分别进行初始变形。
基于标定点约束的Laplacian变形技术如下:
假设为弱透视投影,基于特征点求解每幅人脸参考图像的投影矩阵问题就转化为最小二乘问题:
式中:Pi为第i幅人脸参考图像对应的投影矩阵,Xland为参考模型模型上对应标定特征点的三维坐标矩阵,Di是一个对角矩阵,若第i幅人脸参考图像上有对应特征点则Dii=1,否则为0。
为了保持整体人脸形状,且尽量降低从2D坐标变换到3D坐标的误差,把初始人脸模型表面离散为一个含p个顶点的三维网格,其对应的三维坐标表示成矩阵X,则初始变形问题就转化为最小化下面的能量公式:
式中:||LX-LX0||2是Laplacian Beltrami算子偏差在三维模型表面下积分的离散化,其中L是Laplacian Beltrami算子的离散化,是一个对称矩阵,其中每项为这里αi,j和βi,j为边ij相对的两个角。||PiDiX-W||i 2是图像标定特征点对应的参考模型顶点投影后的二维坐标与图像上标定特征点的二维坐标的均方误差,X0表示参考模型对应的p个顶点的三维网格坐标,且(5) 式是一个关于X的二次函数。
综上所述,整个初始对齐变形过程可以写为一个线性系统:
步骤103中,实现了参考模型的全局轮廓变形,但丢失了很多细节信息。为此,步骤104中,使用基于法线的光度立体技术来优化模型细节,对初始人脸模型X1使用增加法线的平滑变化条件约束的改进光度法线技术对模型表面法向估算,实现光度法线重建,得目标人脸模型的表面法向量nj:
基于法线的光度立体技术如下:
假设在Lambertian光照模型下拍摄的每幅人脸参考图像,于是人脸参考图像上任意点x的光照强度计算公式为:
式中:ka为环境系数,kd为散射系数,l=(lx,ly,lz)为光源方向,ρj为该点处的反射率,为该点处的表面法向量。记sj=ρj[1,nj]T则(7)式可以改写成矩阵形式I(u,v)=lsj。
不妨记顶点j在第i幅人脸参考图像上的光照强度为Mi,j,若不可见则将其光照强度设置为0,于是n幅人脸参考图像的光照强度可以组成矩阵M。第i幅人脸参考图像的光源方向记为则n幅人脸参考图像的光源方向就可以组成矩阵L∈Rn×4;同理,p个模型顶点的sj可以组成矩阵S∈R4×p,于是有 M=LS。对M进行SVD分解,M=U∧VT。然而,SVD分解存在解的不唯一性,当任意给定一个4×4的矩阵A时,故不能直接得出和为消除SVD分解的病态,通常可以使用初始对齐后的参考模型约束矩阵A趋于一个稳定值。但是通过消除SVD分解歧义性进行法线估计不能很好地适用于无特定约束的输入图像集的重建,尤其是当人脸表情夸张、图像低质量和小数量图像集时重建噪声很大。
为改善重建精度和提高对无特定约束的图像集的适用性和鲁棒性,本方案提出增加一项平滑变化条件约束能量项来改进法向量nj的估计,则问题转化为最小能量式:
式中:nj s表示当前模型在对应顶点j处的表面法向量,λm为权重因子。首先初始化所有的ρj=1和nj为当前模型的法线,先估算出Li,然后固定nj求解ρj,最后估算nj,这样经过多次迭代能够更准备地估算出表面法向量。
步骤105中,基于步骤104得到的目标人脸模型的表面法向量nj:,使用 Laplacian算子的网格形变技术,迭代优化人脸表面,最后生成高质量的目标人脸模型X,且整个算法具有鲁棒性。
由于步骤104中,光度法线技术可以高精度地估算表面法线,而表面法线能够很好地反应表面细节,因此步骤105中可以利用平均曲率公式Δx=-Hn重构出三维人脸表面。于是,离散化的人脸表面重建问题转化为最小化式||LX-H||2, H为由-Hini组成的维度为3q的向量,Hi为顶点i邻域的平均曲率,可表示为:
式中:eij为邻接顶点i与顶点j的边。考虑到平均曲率在边缘处退化为测地曲率,于是离散化表面的精细化重建的整个能量函数可以表示为:
式中:Lb,ij=1/||eij||,||eij||为边eij的模。如上(10)式为X的一个线性表达式,可进一步表示为:
综上,可以实现基于光度法线的三维人脸模型精细化重建,生成目标人脸模型。
本实施例中,提出基于光度法线的鲁棒性三维人脸重建技术,结合使用了光度立体技术和网格变形技术,利用了两种方法的优点,同时也避免了单独使用一种方法重建人脸时的缺陷,以提高三维人脸重建质量,而且本发明降低了对输入人脸参考图像的限制,允许人脸参考图像中含不同光照、不同表情,甚至存在人脸姿态偏转的图像,提高了适用性;针对无约束图像集,借助参考模型,结合使用了改进后的光度立体技术与Laplacian变形技术,实现了鲁棒性的高精度三维人脸重建。另外,克服了主动三维人脸重建过程中三维扫描仪的操作复杂、测量中存在误差、耗费人力物力等缺点。进一步地,使用基于标定点约束的Laplacian变形技术进行全局轮廓形变,降低了Laplacian网格变形算法的复杂度。
第二实施例
图2为本发明第二实施例提供的三维人脸重建方法,该三维人脸重建方法包括:
步骤201、获取目标人脸的3个人脸参考图像集,分别为正面中性图像集 (A)、偏转30度中性图像集(B)和正面随机表情图像集(C),如图3所示。
具体的,编译好dlib库,这是一个c++库,包含了许多机器学习常用算法,下载LDiCaprio的人脸参考图像,可含有正面、侧面、多表情、以及不同光照的人脸图片,将图片分成3个人脸参考图像集,分别为正面中性图像集(A)、偏转30度中性图像集(B)和正面随机表情图像集(C)。且每个人脸参考图像集中含有40张图像,其中正面中性图像集(A)中只含有40张正面中性表情的人脸图像,偏转30度中性图像集(B)中含有20张人脸姿态偏转30度以内的中性表情的人脸图像和20张正面中性表情的人脸图像,正面随机表情图像集(C) 中含有20张正面随机表情的人脸图像和20张正面中性表情的人脸图像。
步骤202、对每个人脸参考图像集中的每幅人脸参考图像分别使用预训练模型shape_predictor_68_face_landmarks.dat进行特征点标定,每幅人脸参考图像标定68个特征点,如图4所示,示出了其中两幅人脸参考图像中标定的特征点,第i幅人脸参考图像表示成Ii=(u,v),特征点像素坐标记为二维矩阵Wi,矩阵维度为2*68。
步骤203、选定参考模型,如图5所示,根据标定点的像素坐标矩阵以及参考模型的三维坐标矩阵X0,使用Laplacian网格变形技术对该参考模型进行初始变形,完成目标人脸模型的全局轮廓形变,形变后X0变成了初始人脸模型X1,对每个人脸参考图像集分别进行初始变形。
步骤204、对每个人脸参考图像集分别使用增加法线的平滑变化条件约束的改进光度法线技术对模型表面法向估算,并结合基于Laplacian算子的网格形变技术,迭代优化人脸表面,实现表面精细化重建,最后生成高质量的目标人脸模型X,且整个算法具有鲁棒性,如图6所示。
如图7所示,是对LDiCaprio的三个不同人脸图像集使用本实施例的实验结果,从结果可以看出本方案基于无特定约束人脸图像集可以实现高质量的三维重建,且具有鲁棒性。
其中,图3-7中的各图像可以为彩色,或灰度的。
本实施例中,提出基于光度法线的鲁棒性三维人脸重建技术,结合使用了光度立体技术和网格变形技术,利用了两种方法的优点,同时也避免了单独使用一种方法重建人脸时的缺陷,以提高三维人脸重建质量,而且本发明降低了对输入人脸参考图像的限制,允许人脸参考图像中含不同光照、不同表情,甚至存在人脸姿态偏转的图像,提高了适用性;针对无约束图像集,借助参考模型,结合使用了改进后的光度立体技术与Laplacian变形技术,实现了鲁棒性的高精度三维人脸重建。另外,克服了主动三维人脸重建过程中三维扫描仪的操作复杂、测量中存在误差、耗费人力物力等缺点。进一步地,使用基于标定点约束的Laplacian变形技术进行全局轮廓形变,降低了Laplacian网格变形算法的复杂度。
第三实施例
本发明还提供一种三维人脸重建装置,该三维人脸重建装置包括:
第一模块,用于获取目标人脸的人脸参考图像集,所述人脸参考图像集包括至少两幅人脸参考图像;
第二模块,用于对所述人脸参考图像集中各幅所述人脸参考图像进行人脸特征点标定,各幅所述人脸参考图像标定出q个特征点,q为大于或等于1的正整数;
第三模块,用于基于标定的特征点像素坐标对参考模型进行全局轮廓变形,得到全局轮廓形变后的初始人脸模型,所述参考模型为一个已知的三维人脸模型;
第四模块,用于对所述初级人脸模型采用基于法线的光度立体技术进行光度法线重建,估算得到目标人脸模型的表面法向量。
第五模块,用于基于所述目标人脸模型的表面法向量,使用网格变形技术利用优化后的法线迭代生成所述目标人脸模型;
第六模块,用于显示或保存所述目标人脸模型。
该三维人脸重建装置用以实现第一实施例中的三维人脸重建方法。
第四实施例
本实施例提供了一种三维人脸重建设备,可以是终端或服务器设备,如图8 所示,该设备包括处理器51、存储器52及通信总线53;通信总线53用于实现处理器51和存储器52之间的连接通信。处理器51用于执行存储器52中存储的一个或者多个程序,以实现第一实施例中的三维人脸重建方法的步骤。
第五实施例
本实施例提供了一种计算机可读存储介质,该计算机可读存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现如第一实施例中的三维人脸重建方法的步骤。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
上面结合附图对本发明的实施例进行了描述,但是本发明并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本发明的启示下,在不脱离本发明宗旨和权利要求所保护的范围情况下,还可做出很多形式,这些均属于本发明的保护之内。
Claims (11)
1.一种三维人脸重建方法,其特征在于,所述三维人脸重建方法包括:
步骤101、获取目标人脸的人脸参考图像集,所述人脸参考图像集包括至少两幅人脸参考图像;
步骤102、对所述人脸参考图像集中各幅所述人脸参考图像进行人脸特征点标定,各幅所述人脸参考图像标定出q个特征点,q为大于或等于1的正整数;
步骤103、基于标定的特征点像素坐标对参考模型进行全局轮廓变形,得到全局轮廓形变后的初始人脸模型,所述参考模型为一个已知的三维人脸模型;
步骤104、对所述初级人脸模型采用基于法线的光度立体技术进行光度法线重建,估算得到所述目标人脸的目标人脸模型的表面法向量。
步骤105、基于所述目标人脸模型的表面法向量,使用网格变形技术利用优化后的法线迭代生成所述目标人脸模型;
步骤106、显示或保存所述目标人脸模型。
2.根据权利要求1所述的三维人脸重建方法,其特征在于,第i幅所述人脸参考图像表示成Ii=(u,v),所述特征点像素坐标记为二维矩阵Wi,矩阵维度为2*q。
3.根据权利要求2所述的三维人脸重建方法,其特征在于,所述q的取值为68。
4.根据权利要求1所述的三维人脸重建方法,其特征在于,所述步骤103包括:采用基于标定点约束的拉普拉斯Laplacian变形技术,基于标定的特征点像素坐标对参考模型进行全局轮廓变形,得到全局轮廓形变后的初始人脸模型。
5.根据权利要求4所述的三维人脸重建方法,其特征在于,所述采用基于标定点约束的Laplacian变形技术,基于标定的特征点像素坐标对参考模型进行全局轮廓变形,得到全局轮廓形变后的初始人脸模型具体包括:
将所述初始人脸模型表面离散为一个含个顶点的三维网格,其对应的三维坐标表示成矩阵X,采用以下公式计算得到全局轮廓形变后的所述初始人脸模型顶点的三维坐标矩阵X,所述三维坐标矩阵X用于表示所述初始人脸模型:
其中,
Pi为第i幅图像对应的投影矩阵,Pi k表示第k次迭代的第i幅图像对应的投影矩阵,X0表示参考模型对应的p个顶点的三维网格坐标,二维矩阵Wi如2中介绍为图像上标定的特征点像素坐标,λl为权重系数。Di是一个对角矩阵,若第i幅图像上有对应特征点则Dii=1,否则为0;,
是Laplacian Beltrami算子的离散化,是一个对称矩阵,其中每项为,这里αi,j和βi,j边ij相对的两个角。
6.根据权利要求1所述的三维人脸重建方法,其特征在于,所述步骤104包括采用以下公式进行光度法线重建,经过多次迭代估算得到目标人脸模型的表面法向量nj:
式中:Mi,j表示顶点j在第i幅图像上的光照强度,ρj为顶点j点处的反射率,nj 3表示当前模型在对应顶点j处的表面法向量,λm为权重因子,Li=[ka,kdli]T表示第i幅图像的光源方向矩阵,其中ka为环境系数,kd为散射系数,li为光源方向。首先初始化所有的ρj=1和ni为当前模型的法线,先估算出Li,然后固定ni求解ρi,最后估算ni,这样经过多次迭代能够更准备地估算出表面法向量。
7.根据权利要求1所述的三维人脸重建方法,其特征在于,所述步骤105中使用的网格变形技术包括:Laplacian变形技术。
8.根据权利要求7所述的三维人脸重建方法,其特征在于,所述步骤105包括采用以下公式生成所述目标人脸模型:
其中,H为由-Hini组成的维度为3q的向量,为顶点i邻域的平均曲率,Hk表示第k步迭代计算得到的H;Lb矩阵中元素为Lb,ij,Lb,ij=1/||eij||,||eij||为边eij模;Xk表示第k步迭代计算得到的X,Pi k表示第k步迭代计算得到的Pi,Xk +1即为根据第k步迭代计算得到的第k+1步的X,X为将所述初始人脸模型表面离散为一个含个顶点的三维网格的基础上所述个顶点的三维坐标矩阵。
9.一种三维人脸重建装置,其特征在于,所述三维人脸重建装置包括:
第一模块,用于获取目标人脸的人脸参考图像集,所述人脸参考图像集包括至少两幅人脸参考图像;
第二模块,用于对所述人脸参考图像集中各幅所述人脸参考图像进行人脸特征点标定,各幅所述人脸参考图像标定出q个特征点,q为大于或等于1的正整数;
第三模块,用于基于标定的特征点像素坐标对参考模型进行全局轮廓变形,得到全局轮廓形变后的初始人脸模型,所述参考模型为一个已知的三维人脸模型;
第四模块,用于对所述初级人脸模型采用基于法线的光度立体技术进行光度法线重建,估算得到目标人脸模型的表面法向量。
第五模块,用于基于所述目标人脸模型的表面法向量,使用网格变形技术利用优化后的法线迭代生成所述目标人脸模型;
第六模块,用于显示或保存所述目标人脸模型。
10.一种三维人脸重建设备,其特征在于,所述三维人脸重建设备包括处理器、存储器及通信总线;
所述通信总线用于实现处理器和存储器之间的连接通信;
所述处理器用于执行存储器中存储的一个或者多个程序,以实现如权利要求1至7中任一项所述的三维人脸重建方法的步骤。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现如权利要求1至7中任一项所述的三维人脸重建方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810621836.1A CN108898665A (zh) | 2018-06-15 | 2018-06-15 | 三维人脸重建方法、装置、设备及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810621836.1A CN108898665A (zh) | 2018-06-15 | 2018-06-15 | 三维人脸重建方法、装置、设备及计算机可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108898665A true CN108898665A (zh) | 2018-11-27 |
Family
ID=64345324
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810621836.1A Pending CN108898665A (zh) | 2018-06-15 | 2018-06-15 | 三维人脸重建方法、装置、设备及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108898665A (zh) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109754467A (zh) * | 2018-12-18 | 2019-05-14 | 广州市百果园网络科技有限公司 | 三维人脸构建方法、计算机存储介质和计算机设备 |
CN110163953A (zh) * | 2019-03-11 | 2019-08-23 | 腾讯科技(深圳)有限公司 | 三维人脸重建方法、装置、存储介质和电子装置 |
CN110675413A (zh) * | 2019-09-27 | 2020-01-10 | 腾讯科技(深圳)有限公司 | 三维人脸模型构建方法、装置、计算机设备及存储介质 |
CN110807833A (zh) * | 2019-11-04 | 2020-02-18 | 成都数字天空科技有限公司 | 一种网状拓扑获得方法、装置、电子设备及存储介质 |
CN111160232A (zh) * | 2019-12-25 | 2020-05-15 | 上海骏聿数码科技有限公司 | 正面人脸重建方法、装置及系统 |
CN111382618A (zh) * | 2018-12-28 | 2020-07-07 | 广州市百果园信息技术有限公司 | 一种人脸图像的光照检测方法、装置、设备和存储介质 |
CN111710035A (zh) * | 2020-07-16 | 2020-09-25 | 腾讯科技(深圳)有限公司 | 人脸重建方法、装置、计算机设备及存储介质 |
CN111754431A (zh) * | 2020-06-17 | 2020-10-09 | 北京百度网讯科技有限公司 | 一种图像区域替换方法、装置、设备及存储介质 |
CN112233018A (zh) * | 2020-09-22 | 2021-01-15 | 天津大学 | 基于三维形变模型的参考图引导的人脸超分辨率方法 |
CN113239850A (zh) * | 2021-05-27 | 2021-08-10 | 武汉天远视科技有限责任公司 | 一种三维人脸体征采集系统及方法 |
CN113447489A (zh) * | 2021-06-28 | 2021-09-28 | 上饶市中科院云计算中心大数据研究院 | 大曲率光学镜片表面疵病检测中去除光晕影响的方法及装置 |
CN113516603A (zh) * | 2021-08-03 | 2021-10-19 | 上海交通大学 | 基于空间融合的磁共振图像多模态重建方法及存储介质 |
CN113826148A (zh) * | 2019-07-18 | 2021-12-21 | 索尼集团公司 | 使用经修改的从阴影恢复形状(sfs)方案对三角形三维网格进行形状细化 |
CN114494392A (zh) * | 2022-02-14 | 2022-05-13 | 腾讯科技(深圳)有限公司 | 一种图像处理方法、装置、计算机设备以及可读存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101303772A (zh) * | 2008-06-20 | 2008-11-12 | 浙江大学 | 一种基于单幅图像的非线性三维人脸建模方法 |
CN101751689A (zh) * | 2009-09-28 | 2010-06-23 | 中国科学院自动化研究所 | 一种三维人脸重建方法 |
CN102521586A (zh) * | 2011-12-08 | 2012-06-27 | 中国科学院苏州纳米技术与纳米仿生研究所 | 一种用于拍照手机的高分辨率三维人脸扫描方法 |
CN104157010A (zh) * | 2014-08-29 | 2014-11-19 | 厦门幻世网络科技有限公司 | 一种3d人脸重建的方法及其装置 |
CN104966316A (zh) * | 2015-05-22 | 2015-10-07 | 腾讯科技(深圳)有限公司 | 一种3d人脸重建方法、装置及服务器 |
CN106991718A (zh) * | 2017-03-31 | 2017-07-28 | 上海健康医学院 | 一种基于明暗度恢复重建眼底三维结构的方法 |
-
2018
- 2018-06-15 CN CN201810621836.1A patent/CN108898665A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101303772A (zh) * | 2008-06-20 | 2008-11-12 | 浙江大学 | 一种基于单幅图像的非线性三维人脸建模方法 |
CN101751689A (zh) * | 2009-09-28 | 2010-06-23 | 中国科学院自动化研究所 | 一种三维人脸重建方法 |
CN102521586A (zh) * | 2011-12-08 | 2012-06-27 | 中国科学院苏州纳米技术与纳米仿生研究所 | 一种用于拍照手机的高分辨率三维人脸扫描方法 |
CN104157010A (zh) * | 2014-08-29 | 2014-11-19 | 厦门幻世网络科技有限公司 | 一种3d人脸重建的方法及其装置 |
CN104966316A (zh) * | 2015-05-22 | 2015-10-07 | 腾讯科技(深圳)有限公司 | 一种3d人脸重建方法、装置及服务器 |
CN106991718A (zh) * | 2017-03-31 | 2017-07-28 | 上海健康医学院 | 一种基于明暗度恢复重建眼底三维结构的方法 |
Non-Patent Citations (3)
Title |
---|
JOSEPH ROTH 等: "Adaptive 3D Face Reconstruction from Unconstrained Photo Collections", 《2016 IEEE CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION (CVPR)》 * |
JOSEPH ROTH 等: "Adaptive 3D Face Reconstruction from Unconstrained Photo Collections", 《IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE》 * |
O. SORKINE 等: "Laplacian Surface Editing", 《EUROGRAPHICS SYMPOSIUM ON GEOMETRY PROCESSING》 * |
Cited By (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109754467A (zh) * | 2018-12-18 | 2019-05-14 | 广州市百果园网络科技有限公司 | 三维人脸构建方法、计算机存储介质和计算机设备 |
CN109754467B (zh) * | 2018-12-18 | 2023-09-22 | 广州市百果园网络科技有限公司 | 三维人脸构建方法、计算机存储介质和计算机设备 |
US11908236B2 (en) | 2018-12-28 | 2024-02-20 | Bigo Technology Pte. Ltd. | Illumination detection method and apparatus for face image, and device and storage medium |
CN111382618A (zh) * | 2018-12-28 | 2020-07-07 | 广州市百果园信息技术有限公司 | 一种人脸图像的光照检测方法、装置、设备和存储介质 |
CN110163953A (zh) * | 2019-03-11 | 2019-08-23 | 腾讯科技(深圳)有限公司 | 三维人脸重建方法、装置、存储介质和电子装置 |
CN110163953B (zh) * | 2019-03-11 | 2023-08-25 | 腾讯科技(深圳)有限公司 | 三维人脸重建方法、装置、存储介质和电子装置 |
CN113826148A (zh) * | 2019-07-18 | 2021-12-21 | 索尼集团公司 | 使用经修改的从阴影恢复形状(sfs)方案对三角形三维网格进行形状细化 |
CN110675413A (zh) * | 2019-09-27 | 2020-01-10 | 腾讯科技(深圳)有限公司 | 三维人脸模型构建方法、装置、计算机设备及存储介质 |
CN110675413B (zh) * | 2019-09-27 | 2020-11-13 | 腾讯科技(深圳)有限公司 | 三维人脸模型构建方法、装置、计算机设备及存储介质 |
CN110807833A (zh) * | 2019-11-04 | 2020-02-18 | 成都数字天空科技有限公司 | 一种网状拓扑获得方法、装置、电子设备及存储介质 |
CN110807833B (zh) * | 2019-11-04 | 2023-07-25 | 成都数字天空科技有限公司 | 一种网状拓扑获得方法、装置、电子设备及存储介质 |
CN111160232A (zh) * | 2019-12-25 | 2020-05-15 | 上海骏聿数码科技有限公司 | 正面人脸重建方法、装置及系统 |
CN111160232B (zh) * | 2019-12-25 | 2021-03-12 | 上海骏聿数码科技有限公司 | 正面人脸重建方法、装置及系统 |
CN111754431A (zh) * | 2020-06-17 | 2020-10-09 | 北京百度网讯科技有限公司 | 一种图像区域替换方法、装置、设备及存储介质 |
CN111754431B (zh) * | 2020-06-17 | 2023-08-01 | 北京百度网讯科技有限公司 | 一种图像区域替换方法、装置、设备及存储介质 |
CN111710035A (zh) * | 2020-07-16 | 2020-09-25 | 腾讯科技(深圳)有限公司 | 人脸重建方法、装置、计算机设备及存储介质 |
CN111710035B (zh) * | 2020-07-16 | 2023-11-07 | 腾讯科技(深圳)有限公司 | 人脸重建方法、装置、计算机设备及存储介质 |
CN112233018A (zh) * | 2020-09-22 | 2021-01-15 | 天津大学 | 基于三维形变模型的参考图引导的人脸超分辨率方法 |
CN113239850A (zh) * | 2021-05-27 | 2021-08-10 | 武汉天远视科技有限责任公司 | 一种三维人脸体征采集系统及方法 |
CN113447489B (zh) * | 2021-06-28 | 2022-12-13 | 上饶市中科院云计算中心大数据研究院 | 大曲率光学镜片表面疵病检测中去除光晕影响的方法及装置 |
CN113447489A (zh) * | 2021-06-28 | 2021-09-28 | 上饶市中科院云计算中心大数据研究院 | 大曲率光学镜片表面疵病检测中去除光晕影响的方法及装置 |
CN113516603B (zh) * | 2021-08-03 | 2022-08-19 | 上海交通大学 | 基于空间融合的磁共振图像多模态重建方法及存储介质 |
CN113516603A (zh) * | 2021-08-03 | 2021-10-19 | 上海交通大学 | 基于空间融合的磁共振图像多模态重建方法及存储介质 |
CN114494392A (zh) * | 2022-02-14 | 2022-05-13 | 腾讯科技(深圳)有限公司 | 一种图像处理方法、装置、计算机设备以及可读存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108898665A (zh) | 三维人脸重建方法、装置、设备及计算机可读存储介质 | |
CN101916454B (zh) | 基于网格变形和连续优化的高分辨率人脸重建方法 | |
Varol et al. | Template-free monocular reconstruction of deformable surfaces | |
CN103733226B (zh) | 快速的有关节运动的跟踪 | |
EP3971841A1 (en) | Three-dimensional model generation method and apparatus, and computer device and storage medium | |
CN109003325A (zh) | 一种三维重建的方法、介质、装置和计算设备 | |
CN109544677A (zh) | 基于深度图像关键帧的室内场景主结构重建方法及系统 | |
CN107679537A (zh) | 一种基于轮廓点orb特征匹配的无纹理空间目标姿态估计算法 | |
CN104574432B (zh) | 一种自动多视角人脸自拍图像的三维人脸重建方法及系统 | |
CN104794722A (zh) | 利用单个Kinect计算着装人体三维净体模型的方法 | |
CN113012293A (zh) | 石刻模型构建方法、装置、设备及存储介质 | |
CN103559737A (zh) | 一种对象全景建模方法 | |
CN104077808A (zh) | 一种用于计算机图形图像处理的、基于深度信息的实时三维人脸建模方法 | |
CN113313828B (zh) | 基于单图片本征图像分解的三维重建方法与系统 | |
CN110020600A (zh) | 生成用于训练人脸对齐模型的数据集的方法 | |
CN113936090A (zh) | 三维人体重建的方法、装置、电子设备及存储介质 | |
Wang et al. | Quasi-perspective projection model: Theory and application to structure and motion factorization from uncalibrated image sequences | |
CN114742956B (zh) | 模型处理方法、装置、设备及计算机可读存储介质 | |
Fan et al. | Convex hull aided registration method (CHARM) | |
CN112365589B (zh) | 一种虚拟三维场景展示方法、装置及系统 | |
CN112348957A (zh) | 一种基于多视角深度相机的三维人像实时重建及渲染方法 | |
Starck et al. | Model-based human shape reconstruction from multiple views | |
Wang et al. | Structure and motion recovery based on spatial-and-temporal-weighted factorization | |
Lai et al. | Efficient object shape recovery via slicing planes | |
Cagniart et al. | Iterative mesh deformation for dense surface tracking |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20181127 |
|
RJ01 | Rejection of invention patent application after publication |