CN110400369A - 一种人脸重建的方法、系统平台及存储介质 - Google Patents
一种人脸重建的方法、系统平台及存储介质 Download PDFInfo
- Publication number
- CN110400369A CN110400369A CN201910543241.3A CN201910543241A CN110400369A CN 110400369 A CN110400369 A CN 110400369A CN 201910543241 A CN201910543241 A CN 201910543241A CN 110400369 A CN110400369 A CN 110400369A
- Authority
- CN
- China
- Prior art keywords
- face
- human face
- picture
- characteristic point
- rebuilding
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/04—Texture mapping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
Abstract
本发明涉及计算机技术领域,具体涉及一种人脸重建的方法、系统、平台及存储介质。本发明通过获取含有人脸图片数据信息;对含有人脸图片进行特征点标记,并输出人脸特征点的坐标;根据人脸特征点、含有人脸图片以及预设的人脸标准模型,生成人脸形状模型;根据含有人脸图片和人脸特征点生成人脸纹理;结合环境渲染参数、相机位置相应参数,将生成的人脸形状模型信息和人脸纹理信息进行贴合;并生成人脸模型。可以通过单张带有人脸的图片重建多尺度的、模型与材质(即纹理)可分离的三维人脸模型,美术设计师仅通过简单的后处理,就能得到逼真的人脸模型和自然的表情动作。
Description
技术领域
本发明涉及计算机技术领域,具体涉及一种人脸重建的方法、系统、平台及存储介质。
背景技术
人脸三维重建是当前比较热门的研究方向。目前,人脸三维重建技术能够根据单张照片还原出人脸的三维模型,该模型能够在三维P图、游戏角色设计、虚拟现实等多个领域用到,节省了美术设计师大量时间。
但是,现有的人脸三维重建算法的训练数据集都是近10万面片数构成的点面模型,所以这类重建算法得到的模型都是不含材质,高面片数的人脸模型,只能在高性能设备上运行,无法在低性能的嵌入式设备上使用。此外,所得的模型往往是难以拓扑(人工修改)的模型,无法通过后期处理的方式生成逼真的人脸三维模型以及各种表情变换。
发明内容
针对以上人脸三维重建技术无法在低性能的嵌入式设备上使用,所得的模型往往是难以拓扑(人工修改)的模型,且无法通过后期处理的方式生成逼真的人脸三维模型以及各种表情变换的问题缺陷,本发明提供一种人脸重建的方法、系统、平台及存储介质,美术设计师仅需做简单的后处理就能实现人脸表情动作的设置。
本发明具体通过以下技术方案实现:
一种人脸重建的方法,所述的方法具体包括如下步骤:
获取含有人脸图片数据信息;
对含有人脸图片进行特征点标记,并输出人脸特征点的坐标;
根据人脸特征点、含有人脸图片以及预设的人脸标准模型,生成人脸形状模型;
根据含有人脸图片的人脸特征点和标准人脸模型,生成人脸纹理;
结合环境渲染参数、相机位置参数,将生成的人脸形状模型信息和人脸纹理信息进行贴合,并生成人脸模型。
进一步地,于步骤获取含有人脸图片数据信息之前,还包括如下步骤:
获取图片数据信息;
对图片进行人脸检测,获取含有人脸图片。
进一步地,于步骤根据人脸特征点、含有人脸图片以及预设的人脸标准模型,生成人脸形状模型之中,还包括如下步骤:
根据含有人脸图片中的人脸尺寸选择最为接近的预设人脸标准模型;
结合已生成的人脸特征点,将选定的人脸标准模型部分点与特征点一一对应;
生成粗粒度的人脸重建模型;
相应地,还包括如下步骤:
从所述含有人脸图片中获取形状向量和表情向量;
所述的形状向量具体为没有表情的人脸模型形状的系数构成的向量,所述的表情向量具体指人脸图片的人脸表情的系数构成的向量;
利用所述形状向量和表情向量对所述粗粒度的人脸重建模型进行修正,得到人脸形状模型。
进一步地,于步骤根据含有人脸图片的人脸特征点和标准人脸模型生成人脸纹理之中,还包括如下步骤:,
根据人脸标准模型设定人脸的邻域点个数,计算邻接距离矩阵;
计算每对点之间的最小路径,并将邻接矩阵矩阵转为最小路径矩阵;
通过MDS算法,得出人脸纹理信息。
进一步地,于步骤结合环境渲染参数、相机位置参数,将生成的人脸形状模型信息和人脸纹理信息进行贴合,并生成人脸模型中,还包括根据环境参数计算最小化代价函数,具体计算公式如下:
其中,EI代表损失函数,σN代表标准误差,(α,β,ρ)代表参数;
具体地,损失函数计算公式如下所示:
其中,
为实现上述目的,本发明还提供一种人脸重建的系统,所述的系统具体包括:
第一获取单元,用于获取含有人脸图片数据信息;
特征点标记单元,用于对含有人脸图片进行特征点标记,并输出人脸特征点的坐标;
第一生成单元,用于根据人脸特征点、含有人脸图片以及预设的人脸标准模型,生成人脸形状模型;
第二生成单元,用于根据含有人脸图片的人脸特征点和标准人脸模型,生成人脸纹理;
信息贴合单元,用于结合环境渲染参数、相机位置参数,将生成的人脸形状模型信息和人脸纹理信息进行贴合,并生成人脸模型。
进一步地,所述的系统还包括:
第一获取模块,用于获取图片数据信息;
图片检测模块,用于对图片进行人脸检测,获取含有人脸图片;
人脸获取模块,用于从所述含有人脸图片中获取形状向量和表情向量;
第一计算模块,用于根据人脸标准模型设定人脸定邻域点个数,计算邻接距离矩阵;
第二计算模块,用于计算每对点之间的最小路径,并将邻接矩阵矩阵转为最小路径矩阵;
第三计算模块,用于通过MDS算法,得出人脸纹理信息;
所述的第一生成单元中,还包括:
人脸尺寸选择模块,用于根据含有人脸图片中的人脸尺寸选择最为接近的预设人脸标准模型;
特征点对应模块,用于结合已生成的人脸特征点,将选定的人脸标准模型部分点与特征点一一对应;
第一生成模块,用于生成粗粒度的人脸重建模型;
所述的信息贴合单元中还包括:
第四计算模块,用于根据环境参数计算最小化代价函数。
为实现上述目的,本发明还提供一种人脸重建的平台,包括:
处理器、存储器以及人脸重建平台控制程序;
其中在所述的处理器执行所述人脸重建平台控制程序,所述人脸重建平台控制程序被存储在所述存储器中,所述的人脸重建平台控制程序,实现所述的人脸重建的方法步骤。
为实现上述目的,本发明还提供一种计算机可读取存储介质,所述计算机可读取存储介质存储有人脸重建平台控制程序,所述人脸重建平台控制程序,实现所述的人脸重建的方法步骤。
与现有技术相比,本发明具有以下有益效果:
本发明通过一种人脸重建的方法,
获取含有人脸图片数据信息;
对含有人脸图片进行特征点标记,并输出人脸特征点的坐标;
根据人脸特征点、含有人脸图片以及预设的人脸标准模型,生成人脸形状模型;
根据含有人脸图片的人脸特征点和标准人脸模型,生成人脸纹理;
结合环境渲染参数、相机位置参数,将生成的人脸形状模型信息和人脸材纹理信息进行贴合,并生成人脸模型。
及相应地系统单元和模块:
第一获取单元,用于获取含有人脸图片数据信息;
特征点标记单元,用于对含有人脸图片进行特征点标记,并输出人脸特征点的坐标;
第一生成单元,用于根据人脸特征点、含有人脸图片以及预设的人脸标准模型,生成人脸形状模型;
第二生成单元,用于根据含有人脸图片的人脸特征点和标准人脸模型,生成人脸纹理;
信息贴合单元,用于结合环境渲染参数、相机位置参数,将生成的人脸形状模型信息和人脸纹理信息进行贴合并生成人脸模型。
进一步地,所述的系统还包括:
第一获取模块,用于获取图片数据信息;
图片检测模块,用于对图片进行人脸检测,获取含有人脸图片;
人脸获取模块,用于从所述含有人脸图片中获取形状向量和表情向量;
第一计算模块,用于根据人脸标准模型设定人脸定邻域点个数,计算邻接距离矩阵;
第二计算模块,用于计算每对点之间的最小路径,并将邻接矩阵矩阵转为最小路径矩阵;
第三计算模块,用于通过MDS算法,得出人脸纹理信息;
相应地,所述的第一生成单元中,还包括:
人脸尺寸选择模块,用于根据含有人脸图片中的人脸尺寸选择最为接近的预设人脸标准模型;
特征点对应模块,用于结合已生成的人脸特征点,将选定的人脸标准模型部分点与特征点一一对应;
第一生成模块,用于生成粗粒度的人脸重建模型;
相应地,所述的信息贴合单元中还包括:
第四计算模块,用于根据环境参数计算最小化代价函数。
及相应地平台及存储介质;
可以通过单张带有人脸的图片重建多尺度的、模型与材质(即纹理)可分离的三维人脸模型,美术设计师仅通过简单的后处理,就能得到逼真的人脸模型和自然的表情动作。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明一种人脸重建的方法架构流程示意图;
图2为本发明一种人脸重建的方法之第二优选实施例架构流程示意图;
图3为本发明一种人脸重建的系统架构示意图;
图4为本发明一种人脸重建的系统之模块框架示意图;
图5为本发明一种人脸重建的平台架构示意图;
图6为本发明一种实施例中计算机可读取存储介质架构示意图;
本发明目的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
为便于更好的理解本发明的目的、技术方案和优点更加清楚,下面结合附图和具体的实施方式对本发明作进一步说明,本领域技术人员可由本说明书所揭示的内容轻易地了解本发明的其它优点与功效。
本发明亦可通过其它不同的具体实例加以施行或应用,本说明书中的各项细节亦可基于不同观点与应用,在不背离本发明的精神下进行各种修饰与变更。
需要说明,若本发明实施例中有涉及方向性指示(诸如上、下、左、右、前、后……),则该方向性指示仅用于解释在某一特定姿态(如附图所示)下各部件之间的相对位置关系、运动情况等,如果该特定姿态发生改变时,则该方向性指示也相应地随之改变。
另外,若本发明实施例中有涉及“第一”、“第二”等的描述,则该“第一”、“第二”等的描述仅用于描述目的,而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。其次,各个实施例之间的技术方案可以相互结合,但是必须是以本领域普通技术人员能够实现为基础,当技术方案的结合出现相互矛盾或无法实现时,应当认为这种技术方案的结合不存在,也不在本发明要求的保护范围之内。
优选地,本发明一种人脸重建的方法应用在一个或者多个终端或者服务器中。所述终端是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(Application Specific IntegratedCircuit,ASIC)、可编程门阵列(Field-Programmable Gate Array,FPGA)、数字处理器(Digital Signal Processor,DSP)、嵌入式设备等。
所述终端可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述终端可以与客户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
本发明为实现一种人脸重建的方法、系统、平台及存储介质。
如图1所示,是本发明实施例提供的人脸重建的方法的流程图。
在本实施例中,所述人脸重建的方法,可以应用于具备显示功能的终端或者固定终端中,所述终端并不限定于个人电脑、智能手机、平板电脑、安装有摄像头的台式机或一体机等。
所述人脸重建的方法也可以应用于由终端和通过网络与所述终端进行连接的服务器所构成的硬件环境中。网络包括但不限于:广域网、城域网或局域网。本发明实施例的人脸重建的方法可以由服务器来执行,也可以由终端来执行,还可以是由服务器和终端共同执行。
例如,对于需要进行人脸重建的终端,可以直接在终端上集成本发明的方法所提供的人脸重建的功能,或者安装用于实现本发明的方法的客户端。再如,本发明所提供的方法还可以软件开发工具包(Software Development Kit,SDK)的形式运行在服务器等设备上,以SDK的形式提供人脸重建的功能的接口,终端或其他设备通过所提供的接口即可实现人脸重建的功能。
如图1所示,本发明提供了一种人脸重建的方法,所述方法具体包括如下步骤,根据不同的需求,该流程图中步骤的顺序可以改变,某些步骤可以省略。
S10、获取含有人脸图片数据信息;
S20、对含有人脸图片进行特征点标记,并输出人脸特征点的坐标;
S30、根据人脸特征点、含有人脸图片以及预设的人脸标准模型,生成人脸形状模型;
S40、根据含有人脸图片的人脸特征点从所述含有人脸图片中获取,生成人脸纹理;
S50、结合环境渲染参数、相机位置参数,将生成的人脸形状模型信息和人脸纹理信息进行贴合,并生成人脸模型。
具体地,所述的环境渲染参数,为结合工程需要实时定义的参数,比如环境光、人脸色泽度、光的反射度、饱和度、对比度、人脸大小、旋转、平移等参数。
在本实施例中,所述的含有人脸图片数据信息具体为:所有(包括含有人脸图片)的有关需要待以处理的含有人脸图片的所有数据信息;所述的含有人脸图片单单指的是仅含有人脸的图片。
所述的将生产的人脸形状模型信息和人脸纹理信息进行贴合,具体为将人脸形状模型和人脸材质(即人脸纹理)中需要进行贴合参数进行贴合。较佳地,于步骤获取含有人脸图片数据信息之前,还包括如下步骤:
获取图片数据信息;
对图片进行人脸检测,获取含有人脸图片。
具体他,如图2所示,对输入图片进行人脸检测,获取图片中的所有人脸并对人脸进行裁剪,获得含有人脸的图片;
结合裁剪的人脸图片,对图片进行特征点标记,所标记的特征点为人脸的特征点,输出人脸特征点的坐标;
根据人脸特征点、输入图片和预设的人脸标准模型,生成人脸形状模型;
根据输入图片和人脸特征点生成人脸材质;
结合环境渲染参数、相机位置等参数,将生成的人脸模型信息和材质信息贴合,采用非线性优化方法计算最优的参数信息;
输出最终的人脸模型(包含obj文件、mtl文件和材质图片)。
在本发明实施例中,人脸重建具体为基于单张人脸照片重建三维人脸;
步骤中的人脸检测和人脸对齐:人脸检测即在图片中找到人脸并裁剪作为人脸对齐的输入,而人脸对齐即根据输入的人脸图像,定位出面部关键特征点,如嘴角、眉毛、眼睛以及人脸各部件轮廓点等。本发明基于传统的HOG(方向梯度直方图)、线性分类器、图像金字塔和一个滑动窗口来进行人脸检测与人脸对齐。研究人员已经基于HOG实现了人脸检测与人脸对齐的算法实现,也就是说,本发明应用现有的成熟技术快速实现人脸检测与人脸对齐。
具体地,于步骤根据人脸特征点、含有人脸图片以及预设的人脸标准模型,生成人脸形状模型之中,还包括如下步骤:
根据含有人脸图片中的人脸尺寸选择最为接近的预设人脸标准模型;
结合已生成的人脸特征点,将选定的人脸标准模型部分点与特征点一一对应;
生成粗粒度的人脸重建模型;
具体地,在本方案实例中,粗粒度人脸重建模型为人脸朝向、嘴巴形状、眼睛闭合、鼻子形状等粗粒度的信息都可根据特征点获取。结合人脸纹理、材质和组粒度人脸模型三者可生成最终的人脸模型。
于步骤根据人脸特征点、含有人脸图片以及预设的人脸标准模型,生成人脸形状模型之后,还包括如下步骤:
从所述含有人脸图片中获取形状向量和表情向量;
所述的形状向量具体为没有表情的人脸模型形状的系数构成的向量,所述的表情向量具体指人脸图片的人脸表情的系数构成的向量;
利用所述形状向量和表情向量对所述粗粒度的人脸重建模型进行修正,得到人脸形状模型。
进一步地,于步骤生成粗粒度的人脸重建模型中,还包括:
构建包含三维坐标信息的人脸;
具体计算函数如下:
S=(X1,Y1,Z1,…,Xn,Yn,Zn)T (1)
其中,n表示模型的顶点数,X、Y、Z分别表示顶点的三维坐标;
相应地,将初始的标准人脸模型表示为:
其中,m表示数据集中人脸样本数,Si表示数据集中第i个人脸样本。
也就是说,在本发明实施例中,预设的人脸标准模型包含多种模型,系统在进行人脸检测之后,会根据人脸的尺寸选择最为接近的预设人脸标准模型。然后,本发明结合已生成的人脸特征点,将选定的人脸标准模型部分点与特征点一一对应,使得在人脸标准模型生成时能够快速生成一个粗粒度的人脸重建模型,进而在粗粒度的人脸重建模型上加入输入图像中的人脸图片对应的形状向量和表情向量,得到最终的人脸重建模型。
同时,为了生成最终的人脸重建模型,本发明将人脸拆分为两个向量:形状向量、表情向量。形状向量指没有表情的人脸模型形状、表情向量指输入图片的人脸表情。
本发明构建包含X、Y、Z坐标信息的人脸:
S=(X1,Y1,Z1,…,Xn,Yn,Zn)T (1)
其中n表示模型的顶点数,X、Y、Z分别表示顶点的三维坐标。
本发明将初始的标准人脸模型表示为:
其中m表示数据集中人脸样本数,Si表示数据集中第i个人脸样本。
也就是说,重构的人脸模型可以通过在标准人脸模型上加入形状向量和表情参数得到。为了得到相较于平均人脸模型的特征,使用PCA方法得到人脸特征。
具体方式步骤如下:
S001、计算S′、其中,S′是标准人脸形状模型,是平均人脸表情模型;
S002、中心化人脸数据,求得ΔS′=Si′-S,(求得的结果分别是人脸形状样本Si′的协方差向量,人脸表情样本Ti的协方差向量);
S003、分别计算协方差矩阵CS,CT;
S004、求得相应协方差矩阵的特征值和特征向量,(即求得下面公式中的Si′和ei)。
在完成以上步骤之后,新的人脸模型就可以用下述公式表示为:
其中,表示标准人脸模型,si′表示形状向量对应的PCA部分,αi表示相应的系数(全部αi,i至m构成形状向量)。
类似的,也可以得到人脸表情向量,扩充人脸模型得新的公式:
于是人脸重建问题转为了求α、β系数的问题。已经得到人脸的68个特征点坐标(X),不同的α、β系数可以得到不同的人脸模型,也将得到不同的68个特征坐标点,将这些特征点映射到二位面片也将不同。将平均脸模型与输入图像中的脸部进行拟合。具体求解过程如下:
这里Xprojection是三维模型投影到二维平面的点,P=[[1,0,0],[0,1,0]]为正交投影矩阵,R(3,3)为旋转矩阵,t2d为位移矩阵。故问题转换为求解有关s、R、t2d、α、β的最优解问题:
这里表示正则化项,其中γ是PCA系数(包括形状向量α以及表情向量β),δ表示对应的主成分偏差。通过求得与68个特征点距离最小的系数来求得人脸模型的形状。
也就是说:
如上所述,将选定的人脸标准模型部分点与特征点一一对应,使得在人脸标准模型生成时能够快速生成一个粗粒度的人脸重建模型;
该粗粒度的人脸重建模型表示为:
进而在粗粒度的人脸重建模型上加入输入图像中的人脸图片对应的形状向量和表情向量,得到最终的人脸重建模型。即利用上述最优求解方式求得形状向量α和表情向量β。
较佳地,于步骤根据含有人脸图片和人脸特征点生成人脸纹理之后,还包括如下步骤:
根据人脸标准模型设定人脸定邻域点个数,计算邻接距离矩阵;
计算每对点之间的最小路径,并将邻接矩阵矩阵转为最小路径矩阵;
通过MDS算法,得出人脸纹理信息。
进一步地,于步骤结合环境渲染参数、相机位置参数,将生成的人脸形状模型信息和人脸纹理信息进行贴合,并生成人脸模型中,还包括根据环境参数计算最小化代价函数,具体计算公式如下:
其中,EI代表损失函数,σN代表标准误差,(x,y,z)代表参数;
具体地,损失函数计算公式如下所示:
其中,
也就是说,生成人脸之后,需要在人脸上增加纹理,以便提高人脸的真实度。
传统的PCA方法可以生成人脸纹理,但是不能够获取高精度的人脸纹理细节,本发明提出一种基于输入图像的特征点和标准人脸模型的纹理生成方式。
根据人脸对齐得到的68个特征点,可以得到人脸的大致形状,人脸朝向、嘴巴形状、眼睛闭合、鼻子形状等粗粒度的信息都可根据特征点获取。已知人脸特征点信息和人脸标准模型后,采用等距离映射算法获取人脸纹理信息。本发明的具体做法具体步骤如下:
S0001、根据人脸标准模型设定人脸的邻域点个数,计算邻接距离矩阵,不在邻域之外的距离设为无穷大;
S0004、求每对点之间的最小路径,将邻接矩阵矩阵转为最小路径矩阵(最小路径算法采用Floyd算法);
S0003、输入MDS算法,得出结果。
具体地,有了人脸形状模型和纹理后,进行人脸渲染。此时需要设定环境参数诸如环境光、相机位置等,为了方便起见,将人脸大小、旋转、平移等参数也作为环境参数,此时问题转为化为求得参数(x,y,z),使得条件概率p(Iinput|x,y,z)最大。根据贝叶斯定理,引入标准误差σN,可以得到:
则最大化概率条件可以转化为最小化代价函数:
其中EI表示人脸渲染后所得图片与输入图片的损失函数,使用Phong光照模型对人脸模型进行着色。根据公式:
c=cr(ca+clmax(0,n*l))+clcp(h*n)p (10)
着色人脸模型各个顶点并映射到二维平面得到IModel(x,y,z),则损失函数如下:
使用梯度下降的方式得到最优(x,y,z)即可求得人脸三维模型。因为生成的人脸模型由四边面片构成,所以在后期预处理进行人脸动画生成的时候能够得到更加自然的表情,且只需进行简单的人工拓扑,就能得到优秀的模型。
为实现上述目的,如图3所示,本发明还提供一种人脸重建的系统,所述的系统包括:
第一获取单元,用于获取含有人脸图片数据信息;
特征点标记单元,用于对含有人脸图片进行特征点标记,并输出人脸特征点的坐标;
第一生成单元,用于根据人脸特征点、含有人脸图片以及预设的人脸标准模型,生成人脸形状模型;
第二生成单元,用于根据含有人脸图片的人脸特征点和标准人脸模型,生成人脸纹理;
信息贴合单元,用于结合环境渲染参数、相机位置参数,将生成的人脸形状模型信息和人脸纹理信息进行贴合,并于生成人脸模型。
进一步地,如图4所示,所述的系统还包括:
第一获取模块,用于获取图片数据信息;
图片检测模块,用于对图片进行人脸检测,获取含有人脸图片;
人脸获取模块,用于从所述含有人脸图片中获取形状向量和表情向量;
第一计算模块,用于根据人脸标准模型设定人脸定邻域点个数,计算邻接距离矩阵;
第二计算模块,用于计算每对点之间的最小路径,并将邻接矩阵矩阵转为最小路径矩阵;
第三计算模块,用于通过MDS算法,得出人脸纹理信息;
所述的第一生成单元中,还包括:
人脸尺寸选择模块,用于根据含有人脸图片中的人脸尺寸选择最为接近的预设人脸标准模型;
特征点对应模块,用于结合已生成的人脸特征点,将选定的人脸标准模型部分点与特征点一一对应;
第一生成模块,用于生成粗粒度的人脸重建模型;
所述的信息贴合单元中还包括:
第四计算模块,用于根据环境参数计算最小化代价函数。
本发明还提出一种人脸重建的平台,如图5所示,包括:
处理器、存储器以及人脸重建平台控制程序;
其中在所述的处理器执行所述人脸重建平台控制程序,所述人脸重建平台控制程序被存储在所述存储器中,所述人脸重建平台控制程序,实现所述的人脸重建的方法步骤,例如:
S10、获取含有人脸图片数据信息;
S20、对含有人脸图片进行特征点标记,并输出人脸特征点的坐标;
S30、根据人脸特征点、含有人脸图片以及预设的人脸标准模型,生成人脸形状模型;
S40、根据含有人脸图片的人脸特征点和标准人脸模型,生成人脸纹理;
S50、结合环境渲染参数、相机位置参数,将生成的人脸形状模型信息和人脸纹理信息进行贴合,并生成人脸模型。
步骤具体细节已在上文阐述,此处不再赘述;
本发明实施例中,所述的人脸重建的平台内置处理器,可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processingunit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。处理器利用各种接口和线路连接取各个部件,通过运行或执行存储在存储器内的程序或者单元,以及调用存储在存储器内的数据,以执行人脸重建的各种功能和处理数据;
存储器用于存储程序代码和各种数据,安装在人脸重建的平台中,并在运行过程中实现高速、自动地完成程序或数据的存取。
所述存储器包括只读存储器(Read-Only Memory,ROM),随机存储器(RandomAccess Memory,RAM)、可编程只读存储器(Programmable Read-Only Memory,PROM)、可擦除可编程只读存储器(Erasable Programmable Read-Only Memory,EPROM)、一次可编程只读存储器(One-time Programmable Read-Only Memory,OTPROM)、电子擦除式可复写只读存储器(Electrically-Erasable Programmable Read-Only Memory,EEPROM)、只读光盘(Compact Disc Read-Only Memory,CD-ROM)或其他光盘存储器、磁盘存储器、磁带存储器、或者能够用于携带或存储数据的计算机可读的任何其他介质。
本发明还提出一种计算机可读取存储介质,如图6所示,所述计算机可读取存储介质存储有人脸重建平台控制程序,所述人脸重建平台控制程序,实现所述的人脸重建的方法步骤,例如,
S10、获取含有人脸图片数据信息;
S20、对含有人脸图片进行特征点标记,并输出人脸特征点的坐标;
S30、根据人脸特征点、含有人脸图片以及预设的人脸标准模型,生成人脸形状模型;
S40、根据含有人脸图片的人脸特征点和标准人脸模型,生成人脸纹理;
S50、结合环境渲染参数、相机位置参数,将生成的人脸形状模型信息和人脸纹理信息进行贴合,并生成人脸模型。
步骤具体细节已在上文阐述,此处不再赘述;
在本发明的实施方式的描述中,需要说明的是,流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本发明的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本发明的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理模块的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,“计算机可读取介质”可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读取介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
通过本发明的方法步骤、系统、平台及存储介质,可以通过单张带有人脸的图片重建多尺度的、模型与材质(即纹理)可分离的三维人脸模型,美术设计师仅通过简单的后处理,就能得到逼真的人脸模型和自然的表情动作,即美术设计师仅需做简单的后处理就能实现人脸表情动作的设置。
以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。
Claims (9)
1.一种人脸重建的方法,其特征在于,所述的方法具体包括如下步骤:
获取含有人脸图片数据信息;
对含有人脸图片进行特征点标记,并输出人脸特征点的坐标;
根据人脸特征点、含有人脸图片以及预设的人脸标准模型,生成人脸形状模型;
根据含有人脸图片的人脸特征点和标准人脸模型,生成人脸纹理;
结合环境渲染参数、相机位置参数,将生成的人脸形状模型信息和人脸纹理信息进行贴合,并生成人脸模型。
2.根据权利要求1所述的一种人脸重建的方法,其特征在于,于步骤获取含有人脸图片数据信息之前,还包括如下步骤:
获取图片数据信息;
对图片进行人脸检测,获取含有人脸图片。
3.根据权利要求1所述的一种人脸重建的方法,其特征在于,于步骤根据人脸特征点、含有人脸图片以及预设的人脸标准模型,生成人脸形状模型之中,还包括如下步骤:
根据含有人脸图片中的人脸尺寸选择最为接近的预设人脸标准模型;
结合已生成的人脸特征点,将选定的人脸标准模型部分点与特征点一一对应;
生成粗粒度的人脸重建模型;
相应地,还包括如下步骤:
从所述含有人脸图片中获取形状向量和表情向量;
所述的形状向量具体为没有表情的人脸模型形状的系数构成的向量,所述的表情向量具体指人脸图片的人脸表情的系数构成的向量;
利用所述形状向量和表情向量对所述粗粒度的人脸重建模型进行修正,得到人脸形状模型。
4.根据权利要求1所述的一种人脸重建的方法,其特征在于,于步骤根据含有人脸图片的人脸特征点和标准人脸模型,生成人脸纹理之中,还包括如下步骤:
根据人脸标准模型设定人脸的邻域点个数,计算邻接距离矩阵;
计算每对点之间的最小路径,并将邻接矩阵矩阵转为最小路径矩阵;
通过MDS算法,得出人脸纹理信息。
5.根据权利要求1所述的一种人脸重建的方法,其特征在于,于步骤结合环境渲染参数、相机位置参数,将生成的人脸形状模型信息和人脸纹理信息进行贴合,并生成人脸模型中,还包括根据环境参数计算最小化代价函数,具体计算公式如下:
其中,EI代表损失函数,σN代表标准误差,(x,y,z)代表参数;
具体地,损失函数计算公式如下所示:
其中,
6.一种人脸重建的系统,其特征在于,所述的系统具体包括:
第一获取单元,用于获取含有人脸图片数据信息;
特征点标记单元,用于对含有人脸图片进行特征点标记,并输出人脸特征点的坐标;
第一生成单元,用于根据人脸特征点、含有人脸图片以及预设的人脸标准模型,生成人脸形状模型;
第二生成单元,用于根据含有人脸图片的人脸特征点和标准人脸模型,生成人脸纹理;
信息贴合单元,用于结合环境渲染参数、相机位置参数,将生成的人脸形状模型信息和人脸纹理信息进行贴合,并生成人脸模型。
7.根据权利要求6所述的一种人脸重建的系统,其特征在于,所述的系统还包括:
第一获取模块,用于获取图片数据信息;
图片检测模块,用于对图片进行人脸检测和,获取含有人脸图片;
人脸获取模块,用于从所述含有人脸图片中获取形状向量和表情向量;
第一计算模块,用于根据人脸标准模型设定人脸定邻域点个数,计算邻接距离矩阵;
第二计算模块,用于计算每对点之间的最小路径,并将邻接矩阵矩阵转为最小路径矩阵;
第三计算模块,用于通过MDS算法,得出人脸纹理信息;
所述的第一生成单元中,还包括:
人脸尺寸选择模块,用于根据含有人脸图片中的人脸尺寸选择最为接近的预设人脸标准模型;
特征点对应模块,用于结合已生成的人脸特征点,将选定的人脸标准模型部分点与特征点一一对应;
第一生成模块,用于生成粗粒度的人脸重建模型;
所述的信息贴合单元中还包括:
第四计算模块,用于根据环境参数计算最小化代价函数。
8.一种人脸重建的平台,其特征在于,包括:
处理器、存储器以及人脸重建平台控制程序;
其中在所述的处理器执行所述人脸重建平台控制程序,所述人脸重建平台控制程序被存储在所述存储器中,所述的人脸重建平台控制程序,实现如权利要求1至5中任一项所述的人脸重建的方法步骤。
9.一种计算机可读取存储介质,其特征在于,所述计算机可读取存储介质存储有人脸重建平台控制程序,所述人脸重建平台控制程序,实现如权利要求1至5中任一项所述的人脸重建的方法步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910543241.3A CN110400369A (zh) | 2019-06-21 | 2019-06-21 | 一种人脸重建的方法、系统平台及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910543241.3A CN110400369A (zh) | 2019-06-21 | 2019-06-21 | 一种人脸重建的方法、系统平台及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110400369A true CN110400369A (zh) | 2019-11-01 |
Family
ID=68323392
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910543241.3A Pending CN110400369A (zh) | 2019-06-21 | 2019-06-21 | 一种人脸重建的方法、系统平台及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110400369A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112419485A (zh) * | 2020-11-25 | 2021-02-26 | 北京市商汤科技开发有限公司 | 一种人脸重建方法、装置、计算机设备及存储介质 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101159064A (zh) * | 2007-11-29 | 2008-04-09 | 腾讯科技(深圳)有限公司 | 画像生成系统以及按照图像生成画像的方法 |
CN102999942A (zh) * | 2012-12-13 | 2013-03-27 | 清华大学 | 三维人脸重建方法 |
CN104299250A (zh) * | 2014-10-15 | 2015-01-21 | 南京航空航天大学 | 基于先验模型的正面人脸图像合成方法及系统 |
CN104658024A (zh) * | 2013-11-21 | 2015-05-27 | 大连佑嘉软件科技有限公司 | 基于特征点的人脸表情合成方法 |
CN106780713A (zh) * | 2016-11-11 | 2017-05-31 | 吴怀宇 | 一种基于单幅照片的三维人脸建模方法及系统 |
US20170186212A1 (en) * | 2015-03-31 | 2017-06-29 | Baidu Online Network Technology (Beijing) Co., Ltd. | Picture presentation method and apparatus |
CN108154550A (zh) * | 2017-11-29 | 2018-06-12 | 深圳奥比中光科技有限公司 | 基于rgbd相机的人脸实时三维重建方法 |
CN108510583A (zh) * | 2018-04-03 | 2018-09-07 | 北京华捷艾米科技有限公司 | 人脸图像的生成方法和人脸图像的生成装置 |
GB201903125D0 (en) * | 2019-03-08 | 2019-04-24 | Facesoft Ltd | Combining three-dimensional morphable models |
-
2019
- 2019-06-21 CN CN201910543241.3A patent/CN110400369A/zh active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101159064A (zh) * | 2007-11-29 | 2008-04-09 | 腾讯科技(深圳)有限公司 | 画像生成系统以及按照图像生成画像的方法 |
CN102999942A (zh) * | 2012-12-13 | 2013-03-27 | 清华大学 | 三维人脸重建方法 |
CN104658024A (zh) * | 2013-11-21 | 2015-05-27 | 大连佑嘉软件科技有限公司 | 基于特征点的人脸表情合成方法 |
CN104299250A (zh) * | 2014-10-15 | 2015-01-21 | 南京航空航天大学 | 基于先验模型的正面人脸图像合成方法及系统 |
US20170186212A1 (en) * | 2015-03-31 | 2017-06-29 | Baidu Online Network Technology (Beijing) Co., Ltd. | Picture presentation method and apparatus |
CN106780713A (zh) * | 2016-11-11 | 2017-05-31 | 吴怀宇 | 一种基于单幅照片的三维人脸建模方法及系统 |
CN108154550A (zh) * | 2017-11-29 | 2018-06-12 | 深圳奥比中光科技有限公司 | 基于rgbd相机的人脸实时三维重建方法 |
CN108510583A (zh) * | 2018-04-03 | 2018-09-07 | 北京华捷艾米科技有限公司 | 人脸图像的生成方法和人脸图像的生成装置 |
GB201903125D0 (en) * | 2019-03-08 | 2019-04-24 | Facesoft Ltd | Combining three-dimensional morphable models |
Non-Patent Citations (3)
Title |
---|
B.CHU 等: "3D-aided face recognition robust to expression and pose variations", 《CVPR2014》 * |
GIL ZIGELMAN 等: "Texture Mapping using Surface Flattening via Multi-Dimensional S", 《IEEE》 * |
龚勋: "基于单张二维图片的三维人脸建模", 《中国博士学位论文全文数据库信息科技辑》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112419485A (zh) * | 2020-11-25 | 2021-02-26 | 北京市商汤科技开发有限公司 | 一种人脸重建方法、装置、计算机设备及存储介质 |
CN112419485B (zh) * | 2020-11-25 | 2023-11-24 | 北京市商汤科技开发有限公司 | 一种人脸重建方法、装置、计算机设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106023288B (zh) | 一种基于图像的动态替身构造方法 | |
Schmid et al. | Overcoat: an implicit canvas for 3d painting | |
US9142056B1 (en) | Mixed-order compositing for images having three-dimensional painting effects | |
CN107358648A (zh) | 基于单张人脸图像的实时全自动高质量三维人脸重建方法 | |
Shen et al. | Deepsketchhair: Deep sketch-based 3d hair modeling | |
KR20220083830A (ko) | 이미지 처리 방법 및 이미지 합성 방법, 이미지 처리 장치 및 이미지 합성 장치, 그리고 저장 매체 | |
US11615602B2 (en) | Appearance-driven automatic three-dimensional modeling | |
CN109948454B (zh) | 表情数据库的增强方法、训练方法、计算设备及存储介质 | |
Tretschk et al. | State of the Art in Dense Monocular Non‐Rigid 3D Reconstruction | |
RU2671990C1 (ru) | Способ отображения трехмерного лица объекта и устройство для него | |
KR20230085931A (ko) | 얼굴 이미지에서 색상을 추출하기 위한 방법 및 시스템 | |
DE102022113244A1 (de) | Gemeinsame Form- und Erscheinungsbildoptimierung durch Topologieabtastung | |
Zhou et al. | Image deformation with vector-field interpolation based on MRLS-TPS | |
JP2024506170A (ja) | 個人化された3d頭部モデルおよび顔モデルを形成するための方法、電子装置、およびプログラム | |
CN110400369A (zh) | 一种人脸重建的方法、系统平台及存储介质 | |
CN109285208A (zh) | 基于表情动态模板库的虚拟角色表情卡通化算法 | |
Jeong et al. | Automatic generation of subdivision surface head models from point cloud data | |
CN110415333A (zh) | 一种重构人脸模型的方法、系统平台及存储介质 | |
Guo et al. | Perspective reconstruction of human faces by joint mesh and landmark regression | |
CN113408694A (zh) | 用于生成式神经网络的权重解调 | |
CN110097644A (zh) | 一种基于混合现实的表情迁移方法、装置、系统和处理器 | |
Guo et al. | Multichannel 3D ink painting rendering model based on the LMS algorithm | |
Tan et al. | A free shape 3d modeling system for creative design based on modified catmull-clark subdivision | |
JP7483301B2 (ja) | 画像処理及び画像合成方法、装置及びコンピュータプログラム | |
Guo et al. | 3D face cartoonizer: Generating personalized 3D cartoon faces from 2D real photos with a hybrid dataset |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20191101 |
|
WD01 | Invention patent application deemed withdrawn after publication |