CN108492373B - 一种人脸浮雕几何建模方法 - Google Patents
一种人脸浮雕几何建模方法 Download PDFInfo
- Publication number
- CN108492373B CN108492373B CN201810205313.9A CN201810205313A CN108492373B CN 108492373 B CN108492373 B CN 108492373B CN 201810205313 A CN201810205313 A CN 201810205313A CN 108492373 B CN108492373 B CN 108492373B
- Authority
- CN
- China
- Prior art keywords
- face
- brightness
- embossment
- normal direction
- vertex
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/30—Polynomial surface description
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/04—Indexing scheme for image data processing or generation, in general involving 3D image data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Optimization (AREA)
- Mathematical Physics (AREA)
- Mathematical Analysis (AREA)
- Algebra (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Processing Or Creating Images (AREA)
Abstract
本发明公开了一种人脸浮雕几何建模方法,属于浮雕建模领域,解决现有人像浮雕建模效率低、自动化差的问题;其方法包括如下步骤:对输入的单张人脸图像进行人脸关键特征点定位,获取人脸图像特征点;基于BFM参数化人脸模型构建初始3D人脸;基于Bi‑Laplacian约束点位移法对初始3D人脸进行形状优化,生成形状优化后3D人脸;基于人脸图像光照强度与3D人脸几何法向之间的联系对形状优化后3D人脸进行高度场优化,生成高度优化后3D人脸;对高度场优化后3D人脸进行线性压缩,生成原始3D人脸浮雕,并通过基于关键点约束的Bi‑Laplacian网格变形法对原始人脸浮雕进行几何细节优化,生成具备丰富几何细节的人脸浮雕。
Description
技术领域
本发明涉及浮雕建模领域,具体地说是一种人脸浮雕几何建模方法。
背景技术
人像浮雕是浮雕艺术的一种常见类型,它在背景平面或曲面上雕刻出凹凸起伏的人物形象,加上光线的运用塑造出空间感,在单一材质和有限的体积厚度内传递人物形态,是介于2D肖像和3D雕塑之间的一种艺术表现形式。根据厚度不同,人像浮雕可以分为浅浮雕和高浮雕两种类型。
传统数字人像浮雕设计以手工建模为主,专业性强,设计师需要在软件平台上(如ArtCAM、Type3、JDPaint)构造点线面进行大量虚拟雕刻,人机交互复杂,设计一件作品需要花费几个小时时间。如何提高人像浮雕的设计效率解决的技术问题。
发明内容
本发明的技术任务是针对以上不足,提供一种人脸浮雕几何建模方法,来解决现有人像浮雕建模效率低、自动化差的问题。
本发明的技术任务是按以下方式实现的:
一种人脸浮雕几何建模方法,以单张人脸图像为输入,在网格域进行三维几何自动重构,根据用户指定的厚度和映射角度生成人脸浮雕模型,包括如下步骤:
S1、对输入的单张人脸图像进行人脸关键特征点定位,获取人脸图像特征点;
S2、基于BFM参数化人脸模型构建初始3D人脸;
S3、基于Bi-Laplacian约束点位移法对初始3D人脸进行形状优化,生成形状优化后3D人脸;
S4、基于人脸图像光照强度与形状优化后3D人脸几何法向之间的联系,通过人脸高度场泊松重建方法对形状优化后3D人脸进行高度场优化,生成高度场优化后3D人脸;
S5、对高度场优化后3D人脸进行线性压缩,生成原始3D人脸浮雕,并通过人脸高度场泊松重建方法对原始人脸浮雕进行几何细节优化,生成具备丰富几何细节的人脸浮雕。
通过人脸图像特征点定位、构建初始3D人脸、对初始3D人脸进行形状优化、对形状优化后3D人脸进行高度场优化,对高度优化后3D人脸进行优化生成人脸浮雕五个步骤,在少量人机互动的基础上生成可自主设定浮雕高度和映射角度的人脸浮雕。
进一步的,步骤S2基于BFM参数化人脸模型构建初始3D初始人脸,包括如下步骤:
S21、BFM人脸表示为M=(μ,σ,t),基于上述BFM人脸,3D人脸在BFM模型空间表示为S(α)=μ+t·diag(σ)·α,其中α为形状因子,μ∈R3m为平均人脸,m为3D人脸网格顶点数量,σ∈Rn-1为形状标准偏差,t=(t1,t2,......,tn)∈R3m×n-1为n-1个经过PCA分解的标准正交基;
S22、人脸图像特征点像素坐标表示为fi'=(wi,hi),平均人脸图像特征点空间坐标表示为gi=(xi,yi,zi),将人脸图像特征点像素坐标逆映射为BFM模型空间坐标,BFM模型空间坐标表示为fi=(xi,yi,zi),BFM模型空间坐标与平均人脸图像特征点空间坐标之间的坐标差表示为D=(d1,d2,......,dn)T∈R2m withdi=fi-gi;
S23、输入矩阵Q∈R2m×n with qij=σj·tij,输入矩阵Q的SVD奇异值分解式表示为Q=U·W·V with W∈R2m×n,通过上述输入矩阵Q的SVD奇异值分解式构建形状因子,形状因子的表达式为
S24、将上述形状因子的表达式代入3D人脸在BFM模型空间的表达式,生成初始3D人脸。
进一步的,步骤S3中基于Bi-Laplacian约束点位移法对初始3D人脸进行形状优化,包括如下步骤:
S31、选取人脸图像特征点作为约束点,求解约束点由当前位置移动至目标位置的约束点位置变动量;
S32、基于上述约束点位置变动量采用硬约束通过Bi-Laplacian约束点位移法求解并带动3D人脸中除约束点之外的其它3D人脸顶点产生位移。
进一步的,步骤S4基于人脸图像光照强度与形状优化后3D人脸几何法向之间的联系对形状优化后3D人脸进行高度场优化,包括如下步骤:
S41、通过二次光照模型模拟人脸图像的当前光照环境,计算形状优化后3D人脸网格顶点亮度,并对形状优化后3D人脸网格顶点亮度进行光照细节分割,得到形状优化后3D人脸顶点亮度的中低频组分和高频组分;
S42、以形状优化后3D人脸网格顶点亮度的中低频组分为目标亮度,以形状优化后3D人脸法向为初始值,通过基于半球网格模型的三角面片法向搜索方法对形状优化后3D人脸的每个三角面片进行法向搜索,生成3D人脸的目标法向;
S43、以3D人脸的目标法向为输入,通过高度场泊松重建方法对形状优化后3D人脸进行高度场优化,生成高度场优化后3D人脸。
步骤S41中通过计算形状优化后3D人脸顶点亮度,该亮度可理解为灰度,可通过亮度看到人脸的明暗变化。
步骤S42中通过基于半球网格模型的三角面片法向搜索方法进行法向搜索,该方法降低了法向搜索的运算复杂度,尤其相对于传统的梯度下降法或牛顿迭代法。
进一步的,步骤S41包括如下步骤:
S411、在全局光照条件下,形状优化后3D人脸网格顶点亮度Si表示为形状优化后3D人脸网格顶点法向的二次函数:对称矩阵A∈R3×3,向量b∈R3×1,c为常量,ni为形状优化后3D人脸网格顶点法向,形状优化后3D人脸网格顶点亮度Si的取值范围为0~255,对称矩阵A、向量b和常量c组成二次光照参数,以形状优化后3D人脸网格顶点法向ni和人脸图像内对应的像素亮度Ii为输入条件,通过最小二乘法计算上述二次光照参数;
S412、以形状优化后3D人脸网格顶点法向ni和上述二次光照参数为输入条件,计算形状优化后3D人脸网格顶点亮度Si;
S413、形状优化后3D人脸网格顶点亮度Si和人脸图像内对应的像素亮度Ii的亮度差li表示为li=Ii-Si,通过能量最小化提取亮度差li的中低频组分,能量最小化公式表示为通过求解上述能量最小化公式得到形状优化后3D人脸网格顶点亮度的高频组分ri,ri=li-l'i。
进一步的,步骤S5包括如下步骤:
S51、将高度场优化后3D人脸变换至指定映射角度,在指定映射角度下对高度场优化后3D人脸的高度坐标进行归一化并进行线性压缩,生成原始人脸浮雕;
S52、以人脸图像像素亮度为目标亮度,以3D人脸的目标法向为初始值,通过基于半球网格模型的三角面片法向搜索方法进行法向二次搜索,生成浮雕人脸的目标法向;
S53、以人脸浮雕的目标法向为输入,基于人脸高度场泊松重建方法对原始浮雕人脸进行高度场优化,生成高度场优化后的浮雕人脸。
进一步的,步骤S42以及步骤S52中基于半球网格模型的三角面片法向搜索方法,包括如下步骤:
L1、在人脸图像的当前光照环境下计算半球网格模型的亮度范围,亮度范围记为[bmin,bmax],并将亮度范围均分为多个半球亮度区间,每个半球亮度区间内均包括多个具有相同亮度的半球顶点,上述位于同一个半球亮度区间内、且具有相同亮度的半球顶点记为候选顶点;
L2、将上述亮度范围设定为目标亮度,根据三角面片的目标亮度搜索到对应的半球亮度区间,半球亮度区间内每个半球顶点的亮度和与其对应的三角面片的目标亮度一致;
L3、根据法向夹角最小判断准则,位于同一半球亮度区间内的所有候选顶点中其法向与三角面片输入法向夹角最小的候选顶点法向为对应三角面片的目标法向。
进一步的,步骤S43以及步骤S53中人脸高度场泊松重建方法,包括如下步骤:
M1、通过欧拉-拉格朗日方程推导目标函数生成泊松方程ΔH=div(g),上述泊松方程等价于求解稀疏线性系统L·z=b,其中,L为人脸网格顶点的Laplacian矩阵,z为人脸网格顶点的高度坐标向量,b为人脸网格顶点的散度向量;
M2、将每个三角面片沿其中心旋转至目标法向位置,计算每个三角面片的高度梯度,并基于三角面片的高度梯度计算人脸网格顶点高度方向的散度;
M3、对人脸内部进行高度不变的位置约束,稀疏线性系统变形为位置约束后稀疏线性系统L2·z=LTb,其中L2为Bi-Laplacian矩阵。
进一步的,步骤S43还包括如下步骤:区分3D人脸网格顶点在泊松重建过程中的变形比重,并在位置约束后稀疏线性系统的两侧同时乘以对称的对角矩阵M,位置约束后稀疏线性系统变形为M·L2·z=M·LTb,M的对角元素为每个3D人脸网格顶点的权因子ωj,ωj=exp(λ·l'i),l'i为亮度补偿值,λ为常数。
进一步的,步骤S53还包括如下步骤:区分原始浮雕人脸网格顶点在泊松重建过程中的变形比重,并在位置约束后稀疏线性系统的两侧同时乘以对称的对角矩阵M,位置约束后稀疏线性系统变形为M·L2·z=M·LTb,M的对角元素为每个原始浮雕人脸网格顶点的权因子ωj,ωj=exp(λ·ri),ri为3D人脸网格顶点亮度的高频亮度,λ为常数。
本发明的一种人脸浮雕几何建模方法具有以下优点:
1、自动构建人脸五官凹凸起伏变化,无需用户手工干涉;
2、人脸上的法令纹、眼袋、皱纹等关键几何特征和几何细节自动生成;
3、仅需单张图像为输入,可自动生成人脸浅浮雕和人脸高浮雕,并可以生成不同投影角度的人脸浮雕。
附图说明
下面结合附图对本发明进一步说明。
附图1为实施例一种人脸浮雕几何建模方法的步骤框图;
附图2为实施例一种人脸浮雕几何建模方法中步骤S1人脸图像特征点编号效果图;
附图3为实施例一种人脸浮雕几何建模方法中光照细节分隔前的人脸图像;
附图4为实施例一种人脸浮雕几何建模方法中3D人脸网格顶点亮度的中低频亮度图像;
附图5为实施例一种人脸浮雕几何建模方法中3D人脸网格顶点亮度的中亮度残差图像;
附图6为实施例一种人脸浮雕几何建模方法中不同厚度压缩系数的人脸浮雕对比图;
附图7为实施例一种人脸浮雕几何建模方法中不同映射角度的人脸浮雕对比图;
附图8为实施例一种人脸浮雕几何建模方法中不同输入角度的人脸浮雕对比图;
附图9为实施例一种人脸浮雕几何建模方法中不同表情的人脸浮雕对比图。
具体实施方式
参照说明书附图和具体实施例对本发明的一种人脸浮雕几何建模方法作以下详细地说明。
实施例:
如附图1所示,本发明的一种人脸浮雕几何建模方法,以单张人脸图像为输入,在网格域进行三维几何自动重构,根据用户指定的厚度和映射角度生成人脸浮雕模型,包括如下步骤:
S1、对输入的单张人脸图像进行人脸关键特征点定位,获取人脸图像特征点;
S2、基于BFM参数化人脸模型构建初始3D人脸;
S3、基于Bi-Laplacian约束点位移法对初始3D人脸进行形状优化,生成形状优化后3D人脸;
S4、基于人脸图像光照强度与3D人脸几何法向之间的联系对形状优化后3D人脸进行高度场优化,生成高度优化后3D人脸;
S5、对高度场优化后3D人脸进行线性压缩,生成原始3D人脸浮雕,并通过基于关键点约束的Bi-Laplacian网格变形法对原始人脸浮雕进行几何细节优化,生成具备丰富几何细节的人脸浮雕。
其中,步骤S1中,为了保证人脸浮雕建模精度,本实施例中采用120特征点模型,如图附图2所示,其中1-83#特征点由Face++软件进行人脸关键特征点自动定位,84-120#特征点由用户手工标记位置坐标。
获取人脸图像特征点后,通过步骤S2构建初始3D人脸,具体操作步骤为:
S21、BFM人脸表示为M=(μ,σ,U),基于上述BFM人脸,3D人脸在BFM模型空间表示为:
S(α)=μ+U·diag(σ)·α (1)
其中α为形状因子,μ∈R3m为平均人脸,m为人脸网格顶点数量,m=53490,σ∈Rn-1为形状标准偏差,U=(u1,u2,......,un)∈R3m×n-1为n-1个经过PCA分解的标准正交基,n=200;
S22、人脸图像特征点像素坐标表示为fi'=(wi,hi),平均人脸图像特征点空间坐标表示为gi=(xi,yi,zi),在OpenGL环境里通过gluUnProject语句将人脸图像特征点像素坐标逆映射为BFM模型空间坐标,BFM模型空间坐标表示为fi=(xi,yi,zi),BFM模型空间坐标与平均人脸图像特征点空间坐标之间的坐标差表示为D=(d1,d2,......,dn)T∈R2m withdi=fi-gi;
S23、输入矩阵Q∈R2m×n with qij=σij·uij,输入矩阵Q的SVD奇异值分解式为:Q=U·W·V with W∈R2m×n,通过上述输入矩阵Q的SVD奇异值分解式构建形状因子,形状因子的表达式为:
其中η=1.0×107;
S24、将上述公式(2)的形状因子的表达式代入3D人脸在BFM模型空间的表达式(1),生成初始3D人脸。
初始3D人脸构建后,其形状与人脸图像之间存在差距,为了提高3D人脸的形状精度,通过步骤S3对初始3D人脸进行形状优化,生成形状优化后3D人脸。步骤S3包括如下步骤:
S31、选取人脸图像特征点作为约束点,通过Bi-Laplacian约束点位移法求解约束点由当前位置移动至目标位置的约束点位置变动量,Bi-Laplacian约束点位移线性方程为:
其中,L2为Bi-Laplacian矩阵、等价于两个Laplacian矩阵的乘积L2=L·L,L为Laplacian矩阵,Ik为单位矩阵,n为网格顶点总数量,n'为自由顶点数量,m为约束点数量,m=n-n'=120,约束点位置变动量di=fi-gi为上述Bi-Laplacian约束点位移线性方程系统的边界条件;
S32、基于上述约束点位置变动量采用硬约束将每个约束点移位至目标位置,并带动3D人脸中除约束点之外的其它3D人脸网格顶点产生位移,其中,3D人脸的最终位置为v‘i=vi+di,i=0,1,.....n,由于采用硬约束,120个约束点精确位移到目标位置,3D人脸整体形状得以优化。
形状优化后3D人脸沿用了初始3D人脸的高度分布,没有几何细节,高度外观与人脸图像存在较大差距。通过步骤S4对形状优化后3D人脸进行高度优化,具体包括如下操作步骤:
S41、通过二次光照模型模拟人脸图像的当前光照环境,计算形状优化后3D人脸网格顶点亮度,并对形状优化后3D人脸网格顶点亮度进行光照细节分割,得到形状优化后3D人脸网格顶点亮度的中低频组分和高频组分;
S42、以形状优化后3D人脸网格顶点亮度的低频亮度为目标亮度,以形状优化后3D人脸法向为初始值,通过基于半球网格模型的三角面片法向搜索方法对形状优化后3D人脸的每个三角面片进行法向搜索,生成3D人脸的目标法向;
S43、以3D人脸的目标法向为输入,基于人脸高度场泊松重建方法对形状优化后3D人脸进行高度场优化,生成高度场优化后的3D人脸。
本实施例中,步骤S41具体包括如下操作步骤:
S411、在全局光照条件下,形状优化后3D人脸网格顶点亮度Si表示为形状优化后3D人脸网格顶点法向的二次函数:
其中,对称矩阵A∈R3×3,向量b∈R3×1,c为常量,ni为形状优化后3D人脸网格顶点法向,形状优化后3D顶点亮度Si的取值范围为0~255,对称矩阵A、向量b和常量c组成二次光照参数,以形状优化后3D人脸网格顶点法向ni和人脸图像内对应的像素亮度Ii为输入条件,通过最小二乘法计算上述二次光照参数,考虑到眉毛、嘴唇、胡须的光照反射系数与人脸皮肤有一定差异,本实施例仅选择鼻子区域和未包含胡须的人脸区域顶点参与运算;
S412、以形状优化后3D人脸网格顶点法向ni和上述二次光照参数为输入条件,通过公式(4)计算形状优化后3D人脸网格顶点亮度Si;
S413、形状优化后3D人脸网格顶点亮度Si和人脸图像内对应的像素亮度Ii的亮度差li表示为li=Ii-Si,整个形状优化后3D人脸内,亮度差li(或称为亮度补偿量)存在较大噪声分布,为了使其光滑连续,接下来通过能量最小化提取亮度差li的中低频组分,能量最小化公式为:
其中,能量函数的第二项用来约束亮度差的整体幅度,第三项用来使亮度差保持Bi-Laplacian连续,l‘i为光顺后的亮度差,默认条件下,系数μ1=1.0,μ2=100.0。该能量函数等价于求解一个无约束条件的稀疏线性系统。
通过求解上述能量最小化公式生成3D人脸网格顶点亮度的高频亮度ri,ri=li-l'i,人脸图像细节如皱纹、毛孔均包含在残差内,如附图3、附图4和附图5所示。
基于形状优化后3D人脸网格顶点亮度的中低频组分,在步骤S42中通过基于半球网格模型的三角面片法向搜索方法对形状优化后3D人脸的每个三角面片进行法向搜索,具体包括如下操作步骤:
S421、在人脸图像的当前光照环境下计算半球网格模型(21185个顶点)的亮度范围,亮度范围记为[bmin,bmax],并将亮度范围均分为n个半球亮度区间,每个半球亮度区间内均包括多个具有相同亮度的半球顶点,上述位于同一个半球亮度区间内、且具有相同亮度的半球顶点记为候选顶点;
S422、将上述亮度范围设定为目标亮度,根据三角面片的目标亮度搜索到对应的半球亮度区间,半球亮度区间内每个半球顶点的亮度和与其对应的三角面片的目标亮度一致;
S423、根据法向夹角最小判断准则,位于同一半球亮度区间内的所有候选顶点中其法向与三角面片输入法向夹角最小的候选顶点法向为对应三角面片的目标法向。
基于上述3D人脸的目标法向,通过步骤S43对形状优化后3D人脸进行高度优化,具体包括如下操作步骤:
S431、目标函数为:
通过欧拉-拉格朗日方程推导目标函数,生成泊松方程:
ΔH=div(g') (7)
上述泊松方程等价于求解稀疏线性系统:
L·z=b (8)
其中,L为网格顶点的Laplacian矩阵,z为人脸网格顶点的高度坐标向量,b为人脸网格顶点的散度向量;
S432、将每个三角面片沿其中心旋转至目标法向位置,计算每个三角面片的高度梯度,并基于三角面片的高度梯度计算人脸网格顶点高度方向的散度;
S433、对形状优化后3D人脸内部进行高度不变的位置约束,稀疏线性系统变形为位置约束后稀疏线性系统:
L2·z=LTb (9)
其中,L2为Bi-Laplacian矩阵,位置约束方式类似公式(3)采用硬约束。
S434、为区分形状优化后3D人脸网格顶点在泊松重建过程中的变形比重,在位置约束后稀疏线性系统的两侧同时乘以对称的对角矩阵M,位置约束后稀疏线性系统变形为:
M·L2·z=M·LTb (10)
其中,M的对角元素为每个3D人脸网格顶点的权因子ωj,ωj=exp(λ·l'i),l'i为亮度补偿值,λ为常数,默认λ=0.1。
高度场优化后,人脸法令线等大尺度特征逐渐显现,高度优化后3D人脸逐渐接近目标图像,但仍缺少几何纹理细节。接下来通过步骤S5对高度优化后3D人脸法向进一步优化,生成指定映射角度和压缩厚度的人脸浮雕,在保持原有高度优化后3D人脸五官几何架构的前提下,使人脸中频低几何细节和高频细节同时显现。步骤S5包括如下步骤:
S51、将高度优化后3D人脸变换至指定映射角度(α,β,θ),其中,α是以y轴为旋转轴的左右摆角,β是以x轴为旋转轴的上下摆角,θ是以z轴为旋转轴的平面旋转角,在当前指定映射角度下对高度优化后3D人脸的高度坐标进行归一化并进行线性压缩,生成原始人脸浮雕:
z'=λ·(z-zmax)/(zmax-zmin) (11)
其中,zmax为人脸最大高度值,zmin为人脸最小高度值,λ为厚度压缩系数;
S52、线性压缩后的人脸浮雕五官会出现外观模糊和几何细节丢失现象,为了强化人脸几何细节,以人脸图像像素亮度为目标亮度,以步骤S42中得到的3D人脸的目标法向为初始值,通过基于半球网格模型的三角面片法向搜索方法进行二次法向搜索,即对高度优化后3D人脸的每个三角面片进行法向搜索,生成浮雕人脸的目标法向;
S53、以浮雕人脸的目标法向为输入,基于人脸高度场泊松重建方法对原始浮雕人脸进行高度场优化,生成高度优化后的浮雕人脸。
步骤S52中通过基于半球网格模型的三角面片法向搜索方法对高度优化后3D人脸的每个三角面片进行法向搜索,具体操作步骤为:
S521、在人脸图像的当前光照环境下计算半球网格模型(21185个顶点)的亮度范围,亮度范围记为[bmin,bmax],并将亮度范围均分为n个半球亮度区间,每个半球亮度区间内均包括多个具有相同亮度的半球顶点,上述位于同一个半球亮度区间内、且具有相同亮度的半球顶点记为候选顶点;
S522、将上述亮度范围设定为目标亮度,根据三角面片的目标亮度搜索到对应的半球亮度区间,半球亮度区间内每个半球顶点的亮度和与其对应的三角面片的目标亮度一致;
S523、根据法向夹角最小判断准则,位于同一半球亮度区间内的所有候选顶点中其法向与三角面片输入法向夹角最小的候选顶点法向为对应三角面片的目标法向。
步骤S53基于人脸高度场泊松重建方法对原始浮雕人脸进行高度场优化,具体操作步骤为:
S531、目标函数为:
通过欧拉-拉格朗日方程推导目标函数,生成泊松方程:
ΔH=div(g') (7)
上述泊松方程等价于求解稀疏线性系统:
L·z=b (8)
其中,L为网格顶点的Laplacian矩阵,z为人脸网格顶点的高度坐标向量,b为人脸网格顶点的散度向量;
S532、将每个三角面片沿其中心旋转至目标法向位置,计算每个三角面片的高度梯度,并基于三角面片的高度梯度计算原始浮雕人脸网格顶点高度方向的散度;
S533、对原始浮雕人脸内部进行高度不变的位置约束,稀疏线性系统变形为位置约束后稀疏线性系统:
L2·z=LTb (9)
其中,L2为Bi-Laplacian矩阵,位置约束方式类似公式(3)采用硬约束。
S534、为区分原始浮雕人脸网格顶点在泊松重建过程中的变形比重,在位置约束后稀疏线性系统的两侧同时乘以对称的对角矩阵M,位置约束后稀疏线性系统变形为M·L2·z=M·LTb,M的对角元素为每个原始浮雕人脸网格顶点的权因子ωj,ωj=exp(λ·ri),ri为形状优化后3D人脸网格顶点亮度的高频亮度,λ为常数,默认λ=0.1。
泊松重建后的人脸浮雕保持了目标法向内的几何细节,其外观相比原始人脸浮雕有了较大改进,同时五官高低分布与原有高度优化后3D人脸保持一致。
在实际操作中,通过变换厚度压缩系数λ,可获得不同压缩的人脸浮雕,如附图6所示;通过变换映射角度(α,β,θ),可获得不同映射角度的人脸浮雕,附图7所示;通过输入不同输入角度的单张人脸图像,可获得不同输入角度的人脸浮雕,如附图8所示;通过输入不同表情的单张人脸图像,可获得不同表情的人脸浮雕,如附图9所示。
通过上面具体实施方式,所述技术领域的技术人员可容易的实现本发明。但是应当理解,本发明并不限于上述的具体实施方式。在公开的实施方式的基础上,所述技术领域的技术人员可任意组合不同的技术特征,从而实现不同的技术方案。除说明书所述的技术特征外,均为本专业技术人员的已知技术。
Claims (9)
1.一种人脸浮雕几何建模方法,其特征在于以单张人脸图像为输入,在网格域进行三维几何自动重构,根据用户指定的厚度和映射角度生成人脸浮雕模型,包括如下步骤:
S1、对输入的单张人脸图像进行人脸关键特征点定位,获取人脸图像特征点;
S2、基于BFM参数化人脸模型构建初始3D人脸;
S3、基于Bi-Laplacian约束点位移法对初始3D人脸进行形状优化,生成形状优化后3D人脸,包括:选取人脸图像特征点作为约束点,求解约束点由当前位置移动至目标位置的约束点位置变动量;基于上述约束点位置变动量,采用硬约束通过Bi-Laplacian约束点位移法求解并带动初始3D人脸中除约束点之外的其它3D人脸网格顶点产生位移;
Bi-Laplacian约束点位移线性方程为:
其中,L2为Bi-Laplacian矩阵、等价于两个Laplacian矩阵的乘积L2=L·L,L为Laplacian矩阵,Ik为单位矩阵,n为形状优化后3D人脸顶点总数量,n'为自由顶点数量,m为约束点数量,m=n-n',约束点位置变动量di=fi-gi为上述Bi-Laplacian约束点位移线性方程系统的边界条件;
S4、基于人脸图像光照强度与形状优化后3D人脸几何法向之间的联系,通过人脸高度场泊松重建方法对形状优化后3D人脸进行高度场优化,生成高度场优化后3D人脸;
S5、对高度场优化后3D人脸进行线性压缩,生成原始3D人脸浮雕,并通过人脸高度场泊松重建方法对原始人脸浮雕进行几何细节优化,生成具备丰富几何细节的人脸浮雕。
2.根据权利要求1所述的一种人脸浮雕几何建模方法,其特征在于步骤S2基于BFM参数化人脸模型构建初始3D初始人脸,包括如下步骤:
S21、BFM人脸表示为M=(μ,σ,t),基于上述BFM人脸,3D人脸在BFM模型空间表示为S(α)=μ+t·diag(σ)·α,其中α为形状因子,μ∈R3m为平均人脸,m为3D人脸网格顶点数量,σ∈Rn-1为形状标准偏差,t=(t1,t2,......,tn)∈R3m×n-1为n-1个经过PCA分解的标准正交基;
S22、人脸图像特征点像素坐标表示为fi'=(wi,hi),平均人脸图像特征点空间坐标表示为gi=(xi,yi,zi),将人脸图像特征点像素坐标逆映射为BFM模型空间坐标,BFM模型空间坐标表示为fi=(xi,yi,zi),BFM模型空间坐标与平均人脸图像特征点空间坐标之间的坐标差表示为D=(d1,d2,......,dn)T∈R2mwith di=fi-gi;
S23、输入矩阵Q∈R2m×nwith qij=σj·tij,输入矩阵Q的SVD奇异值分解式表示为Q=U·W·V with W∈R2m×n,通过上述输入矩阵Q的SVD奇异值分解式构建形状因子,形状因子的表达式为
S24、将上述形状因子的表达式代入3D人脸在BFM模型空间的表达式,生成初始3D人脸。
3.根据权利要求2所述的一种人脸浮雕几何建模方法,其特征在于步骤S4基于人脸图像光照强度与形状优化后3D人脸几何法向之间的联系对形状优化后3D人脸进行高度场优化,包括如下步骤:
S41、通过二次光照模型模拟人脸图像的当前光照环境,计算形状优化后3D人脸网格顶点亮度,并对形状优化后3D人脸网格顶点亮度进行光照细节分割,得到形状优化后3D人脸顶点亮度的中低频组分和高频组分;
S42、以形状优化后3D人脸网格顶点亮度的中低频组分为目标亮度,以形状优化后3D人脸法向为初始值,通过基于半球网格模型的三角面片法向搜索方法对形状优化后3D人脸的每个三角面片进行法向搜索,生成3D人脸的目标法向;
S43、以3D人脸的目标法向为输入,通过高度场泊松重建方法对形状优化后3D人脸进行高度场优化,生成高度场优化后3D人脸。
4.根据权利要求3所述的一种人脸浮雕几何建模方法,其特征在于步骤S41包括如下步骤:
S411、在全局光照条件下,形状优化后3D人脸顶点网格亮度Si表示为形状优化后3D人脸网格顶点法向的二次函数:对称矩阵A∈R3×3,向量b∈R3×1,c为常量,ni为形状优化后3D人脸网格顶点法向,形状优化后3D人脸网格顶点亮度Si的取值范围为0~255,对称矩阵A、向量b和常量c组成二次光照参数,以形状优化后3D人脸网格顶点法向ni和人脸图像内对应的像素亮度Ii为输入条件,通过最小二乘法计算上述二次光照参数;
S412、以形状优化后3D人脸网格顶点法向ni和上述二次光照参数为输入条件,计算形状优化后3D人脸网格顶点亮度Si;
S413、形状优化后3D人脸网格顶点亮度Si和人脸图像内对应的像素亮度Ii的亮度差li表示为li=Ii-Si,通过能量最小化提取亮度差li的中低频组分,能量最小化公式表示为通过求解上述能量最小化公式得到形状优化后3D人脸网格顶点亮度的高频组分ri,ri=li-l′i,li'为光顺后的亮度差,L2为Bi-Laplacian矩阵、等价于两个Laplacian矩阵的乘积L2=L·L,L为Laplacian矩阵。
5.根据权利要求4所述的一种人脸浮雕几何建模方法,其特征在于步骤S5包括如下步骤:
S51、将高度场优化后3D人脸变换至指定映射角度,在指定映射角度下对高度场优化后3D人脸的高度坐标进行归一化并进行线性压缩,生成原始人脸浮雕;
S52、以人脸图像像素亮度为目标亮度,以3D人脸的目标法向为初始值,通过基于半球网格模型的三角面片法向搜索方法进行法向二次搜索,生成浮雕人脸的目标法向;
S53、以人脸浮雕的目标法向为输入,基于人脸高度场泊松重建方法对原始浮雕人脸进行高度场优化,生成高度场优化后的浮雕人脸。
6.根据权利要求5所述的一种人脸浮雕几何建模方法,其特征在于步骤S42以及步骤S52中基于半球网格模型的三角面片法向搜索方法,包括如下步骤:
L1、在人脸图像的当前光照环境下计算半球网格模型的亮度范围,亮度范围记为[bmin,bmax],并将亮度范围均分为多个半球亮度区间,每个半球亮度区间内均包括多个具有相同亮度的半球顶点,上述位于同一个半球亮度区间内、且具有相同亮度的半球顶点记为候选顶点;
L2、将上述亮度范围设定为目标亮度,根据三角面片的目标亮度搜索到对应的半球亮度区间,半球亮度区间内每个半球顶点的亮度和与其对应的三角面片的目标亮度一致;
L3、根据法向夹角最小判断准则,位于同一半球亮度区间内的所有候选顶点中其法向与三角面片输入法向夹角最小的候选顶点法向为对应三角面片的目标法向。
7.根据权利要求5所述的一种人脸浮雕几何建模方法,其特征在于步骤S43以及步骤S53中人脸高度场泊松重建方法,包括如下步骤:
M1、通过欧拉-拉格朗日方程推导目标函数生成泊松方程ΔH=div(g'),上述泊松方程等价于求解稀疏线性系统L·z=b,其中,L为人脸顶点网格顶点的Laplacian矩阵,z为人脸网格顶点的高度坐标向量,b为人脸网格顶点的散度向量;
M2、将每个三角面片沿其中心旋转至目标法向位置,计算每个三角面片的高度梯度,并基于三角面片的高度梯度计算人脸网格顶点高度方向的散度;
M3、对人脸内部进行高度不变的位置约束,稀疏线性系统变形为位置约束后稀疏线性系统L2·z=LTb,其中L2为Bi-Laplacian矩阵。
8.根据权利要求6所述的一种人脸浮雕几何建模方法,其特征在于步骤S43还包括如下步骤:区分3D人脸网格顶点在泊松重建过程中的变形比重,并在位置约束后稀疏线性系统的两侧同时乘以对称的对角矩阵M,位置约束后稀疏线性系统变形为M·L2·z=M·LTb,M的对角元素为每个3D人脸网格顶点的权因子ωj,ωj=exp(λ·l′i),l′i为亮度补偿值,λ为常数。
9.根据权利要求6所述的一种人脸浮雕几何建模方法,其特征在于步骤S53还包括如下步骤:区分原始浮雕人脸网格顶点在泊松重建过程中的变形比重,并在位置约束后稀疏线性系统的两侧同时乘以对称的对角矩阵M,位置约束后稀疏线性系统变形为M·L2·z=M·LTb,M的对角元素为每个原始浮雕人脸网格顶点的权因子ωj,ωj=exp(λ·ri),ri为3D人脸网格顶点亮度的高频亮度,λ为常数。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810205313.9A CN108492373B (zh) | 2018-03-13 | 2018-03-13 | 一种人脸浮雕几何建模方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810205313.9A CN108492373B (zh) | 2018-03-13 | 2018-03-13 | 一种人脸浮雕几何建模方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108492373A CN108492373A (zh) | 2018-09-04 |
CN108492373B true CN108492373B (zh) | 2019-03-08 |
Family
ID=63338953
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810205313.9A Active CN108492373B (zh) | 2018-03-13 | 2018-03-13 | 一种人脸浮雕几何建模方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108492373B (zh) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111382618B (zh) | 2018-12-28 | 2021-02-05 | 广州市百果园信息技术有限公司 | 一种人脸图像的光照检测方法、装置、设备和存储介质 |
CN110176074B (zh) * | 2019-05-21 | 2023-02-03 | 杭州电子科技大学上虞科学与工程研究院有限公司 | 基于等几何配点法的浅浮雕模型快速建模方法 |
CN110197530B (zh) * | 2019-06-13 | 2020-04-24 | 齐鲁工业大学 | 透光浮雕灯罩实体模型构建方法及系统 |
CN110751665B (zh) * | 2019-10-23 | 2021-06-01 | 齐鲁工业大学 | 一种由人像浮雕重建3d人像模型的方法及系统 |
CN114004779A (zh) * | 2020-07-27 | 2022-02-01 | 中移物联网有限公司 | 一种基于深度学习的人脸质量评价方法及装置 |
CN111951386B (zh) * | 2020-08-13 | 2021-06-01 | 齐鲁工业大学 | 人像高浮雕建模方法及建模系统 |
CN112651888A (zh) * | 2020-11-25 | 2021-04-13 | 北京字跳网络技术有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN112561797B (zh) * | 2020-12-09 | 2022-12-13 | 齐鲁工业大学 | 花卉浮雕模型构建方法及基于线条图的花卉浮雕重建方法 |
CN113632098A (zh) * | 2021-07-02 | 2021-11-09 | 华为技术有限公司 | 人脸图像处理方法、装置和车辆 |
CN116524132A (zh) * | 2023-05-08 | 2023-08-01 | 齐鲁工业大学(山东省科学院) | 由单张人体图像生成人体浮雕的建模方法及系统 |
CN117476509B (zh) * | 2023-12-27 | 2024-03-19 | 联合富士半导体有限公司 | 一种用于半导体芯片产品的激光雕刻装置及控制方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7224357B2 (en) * | 2000-05-03 | 2007-05-29 | University Of Southern California | Three-dimensional modeling based on photographic images |
CN101395613A (zh) * | 2006-01-31 | 2009-03-25 | 南加利福尼亚大学 | 由2d图像实现3d人脸重建 |
CN101404091A (zh) * | 2008-11-07 | 2009-04-08 | 重庆邮电大学 | 基于两步形状建模的三维人脸重建方法和系统 |
CN102054291A (zh) * | 2009-11-04 | 2011-05-11 | 厦门市美亚柏科信息股份有限公司 | 一种基于单幅人脸图像实现三维人脸重建的方法及其装置 |
CN105931298A (zh) * | 2016-04-13 | 2016-09-07 | 山东大学 | 一种基于视觉显著性的浅浮雕位置自动选择方法 |
CN107133980A (zh) * | 2016-02-29 | 2017-09-05 | 韩国电子通信研究院 | 三维浮雕模型生成装置及方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6807290B2 (en) * | 2000-03-09 | 2004-10-19 | Microsoft Corporation | Rapid computer modeling of faces for animation |
KR101840563B1 (ko) * | 2016-07-04 | 2018-03-20 | 한양대학교 에리카산학협력단 | 신경망을 이용한 3차원 얼굴 복원 방법 및 장치 |
KR101801749B1 (ko) * | 2016-08-24 | 2017-11-28 | 한국과학기술연구원 | 3차원 복원을 위한 다중시점 영상 디블러링 방법, 이를 수행하기 위한 기록 매체 및 장치 |
CN107481317A (zh) * | 2017-07-31 | 2017-12-15 | 广东欧珀移动通信有限公司 | 人脸3d模型的面部调整方法及其装置 |
-
2018
- 2018-03-13 CN CN201810205313.9A patent/CN108492373B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7224357B2 (en) * | 2000-05-03 | 2007-05-29 | University Of Southern California | Three-dimensional modeling based on photographic images |
CN101395613A (zh) * | 2006-01-31 | 2009-03-25 | 南加利福尼亚大学 | 由2d图像实现3d人脸重建 |
CN101404091A (zh) * | 2008-11-07 | 2009-04-08 | 重庆邮电大学 | 基于两步形状建模的三维人脸重建方法和系统 |
CN102054291A (zh) * | 2009-11-04 | 2011-05-11 | 厦门市美亚柏科信息股份有限公司 | 一种基于单幅人脸图像实现三维人脸重建的方法及其装置 |
CN107133980A (zh) * | 2016-02-29 | 2017-09-05 | 韩国电子通信研究院 | 三维浮雕模型生成装置及方法 |
CN105931298A (zh) * | 2016-04-13 | 2016-09-07 | 山东大学 | 一种基于视觉显著性的浅浮雕位置自动选择方法 |
Non-Patent Citations (4)
Title |
---|
Bas-Relief Generation and Shape Editing through Gradient-Based Mesh Deformation;张玉伟 等;《IEEE TRANSACTIONS ON VISUALIZATION AND COMPUTER GRAPHICS》;20141204;第21卷(第3期);328-338 |
L1约束的三维人脸稀疏重建;丁镠 等;《清华大学学报》;20120531;第52卷(第5期);581-585 |
Reconstruction of relief objects from line drawings;Michael Kolomenkin 等;《CVPR 2011》;20110822;993-1000 |
基于特征点的三维人脸形变模型;龚勋 等;《Journal of Software》;20090331;第20卷(第3期);724?733 |
Also Published As
Publication number | Publication date |
---|---|
CN108492373A (zh) | 2018-09-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108492373B (zh) | 一种人脸浮雕几何建模方法 | |
Gotsman et al. | Fundamentals of spherical parameterization for 3D meshes | |
Seo et al. | An automatic modeling of human bodies from sizing parameters | |
CN111091624B (zh) | 一种从单张图片生成高精度可驱动人脸三维模型的方法 | |
CN109978930A (zh) | 一种基于单幅图像的风格化人脸三维模型自动生成方法 | |
CN101339670B (zh) | 一种计算机辅助的三维颅面复原方法 | |
CN110516388A (zh) | 基于调和映射的曲面离散点云模型环切刀轨生成方法 | |
CN108492247A (zh) | 一种基于网格变形的眼妆贴图方法 | |
RU2007147846A (ru) | Большая деформация сетки с использованием лапласиана объемного графа | |
CN101777195A (zh) | 一种三维人脸模型的调整方法 | |
Peyré et al. | Surface segmentation using geodesic centroidal tesselation | |
CN108629294A (zh) | 基于变形图的人体与人脸网格模板拟合方法 | |
CN112199846A (zh) | 基于三维人体重建技术分析和定制床垫的系统 | |
CN114169022B (zh) | 在胚料上雕刻出雕刻标的3d表面的方法及系统 | |
KR20170103364A (ko) | 3d 볼륨 마스크 모델정보 생성 장치 및 그 방법 | |
CN114037802A (zh) | 三维人脸模型重建方法、装置、存储介质及计算机设备 | |
CN106127818A (zh) | 一种基于单幅图像的材质外观获取系统及方法 | |
CN109147025A (zh) | 一种面向rgbd三维重建的纹理生成方法 | |
CN103337085A (zh) | 一种高效的人像面部变形方法 | |
Zayer et al. | Discrete tensorial quasi-harmonic maps | |
CN110111237A (zh) | 一种基于Brep模型的三维模型坐标转换方法 | |
CN102637304B (zh) | 基于gpu的几何表面上各向同性/异性纹理合成方法 | |
CN107564097B (zh) | 一种基于正面图像的遗容三维重建方法 | |
CN112315257A (zh) | 一种基于最优传输的床垫系统 | |
KR101409842B1 (ko) | 근육 및 외형 곡면 기반 개체 표준 메쉬 모델의 파라메트릭 제어를 통한 자동 리깅 및 형상 전이 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |