CN108876896A - 参数化人脸模型生成方法、装置、系统和存储介质 - Google Patents
参数化人脸模型生成方法、装置、系统和存储介质 Download PDFInfo
- Publication number
- CN108876896A CN108876896A CN201810339223.9A CN201810339223A CN108876896A CN 108876896 A CN108876896 A CN 108876896A CN 201810339223 A CN201810339223 A CN 201810339223A CN 108876896 A CN108876896 A CN 108876896A
- Authority
- CN
- China
- Prior art keywords
- faceform
- parametrization
- face
- image
- facial image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
Abstract
本发明提供了一种参数化人脸模型生成方法、装置、系统和存储介质,该方法包括:根据待生成的参数化人脸模型的类型,获取预定数量的具有相应特征的人脸图像;针对每张人脸图像,基于已有参数化人脸模型对该张人脸图像进行人脸三维重建以生成重建的人脸模型;针对所生成的所有重建的人脸模型进行参数化,以得到待生成的参数化人脸模型。本发明的参数化人脸模型生成方法、装置、系统和存储介质利用对二维人脸图像的人脸三维重建获得人脸重建模型,并基于多个人脸重建模型得到参数化人脸模型,无需真实人脸三维扫描或采集,可以大幅度提高参数化人脸模型的获取效率;此外,可以根据需求高效率地生成任意类型的参数化人脸模型,扩大模型适用范围。
Description
技术领域
本发明涉及参数化人脸模型技术领域,更具体地涉及一种参数化人脸模型生成方法、装置、系统和存储介质。
背景技术
参数化人脸模型是近年来使用非常广泛的人脸先验模型,在人脸三维重建、渲染等领域占有非常重要的地位。然而参数化人脸模型的获取并不容易,一般需要对成百上千的人脸进行三维扫描,或多视角三维重建,注册到模版脸上,再进行参数化,得到参数化人脸模型。这样的方法十分费力费时间,所以当前世界上存在的参数化人脸模型非常有限,且都只适用于非常局限的人群。
发明内容
本发明提出了一种关于参数化人脸模型生成方案,其利用对二维人脸图像的人脸三维重建获得人脸重建模型,并基于多个人脸重建模型得到参数化人脸模型,无需真实人脸三维扫描或采集,可以大幅度提高参数化人脸模型的获取效率。下面简要描述本发明提出的关于参数化人脸模型生成方案,更多细节将在后续结合附图在具体实施方式中加以描述。
根据本发明一方面,提供了一种参数化人脸模型生成方法,所述方法包括:根据待生成的参数化人脸模型的类型,获取预定数量的具有相应特征的人脸图像;针对每张所述人脸图像,基于已有参数化人脸模型对该张人脸图像进行人脸三维重建以生成重建的人脸模型;以及针对所生成的所有重建的人脸模型进行参数化,以得到所述待生成的参数化人脸模型。
在一个实施例中,所述具有相应特征的人脸图像是通过互联网获取的。
在一个实施例中,所述根据待生成的参数化人脸模型的类型,获取预定数量的具有相应特征的人脸图像包括:根据待生成的参数化人脸模型的类型,获取具有相应特征的多个人脸图像;以及对所述多个人脸图像进行过滤,以得到合格的所述预定数量的人脸图像用于进行所述人脸三维重建。
在一个实施例中,所述对所述多个人脸图像进行过滤包括滤除以下至少一种图像:不包含人脸的图像;人脸置信度低于第一阈值的图像;人脸区域尺寸小于第二阈值的图像;人脸区域模糊度大于第三阈值的图像;人脸区域亮度不在预定范围内的图像;人脸旋转角度超过第四阈值的图像;以及人脸被遮挡程度大于第五阈值的图像。
在一个实施例中,所述基于已有参数化人脸模型对该张人脸图像进行人脸三维重建包括:在所述已有参数化人脸模型的参数化人脸空间中搜索与该张人脸图像中的人脸最为匹配的人脸模型;以及根据该张人脸图像中的人脸关键点对所述最为匹配的人脸模型进行变形,使得变形后的人脸模型的人脸关键点与该张人脸图像中的人脸关键点重合,以得到该张人脸图像中人脸的模型。
在一个实施例中,所述基于已有参数化人脸模型对该张人脸图像进行人脸三维重建包括还包括:对所得到的该张人脸图像中的人脸的模型进行细节优化。
在一个实施例中,所述细节优化是基于阴影恢复形状方法。
在一个实施例中,所述针对所得到的所有重建的人脸模型进行参数化包括:针对所得到的所有重建的人脸模型执行主成分分析,得到平均三维人脸模型和多个残差,以表示所述待生成的参数化人脸模型。
在一个实施例中,所述待生成的参数化人脸模型的类型包括以下中的至少一项:特定人种的参数化人脸模型;特定国籍的参数化人脸模型;特定民族的参数化人脸模型;特定性别的参数化人脸模型;特定年龄的参数化人脸模型;特定地域的参数化人脸模型;以及特定职业的参数化人脸模型。
根据本发明另一方面,提供了一种参数化人脸模型生成装置,所述装置包括:图像获取模块,用于根据待生成的参数化人脸模型的类型,获取预定数量的具有相应特征的人脸图像;模型重建模块,用于针对所述图像获取模块获取的每张所述人脸图像,基于已有参数化人脸模型对该张人脸图像进行人脸三维重建以生成重建的人脸模型;以及模型参数化模块,用于针对所述模型重建模块所生成的所有重建的人脸模型进行参数化,以得到所述待生成的参数化人脸模型。
在一个实施例中,所述具有相应特征的人脸图像是通过互联网获取的。
在一个实施例中,所述获取模块具体用于根据待生成的参数化人脸模型的类型获取具有相应特征的多个人脸图像,并对所述多个人脸图像进行过滤,以得到合格的所述预定数量的人脸图像用于由模型重建模块进行所述人脸三维重建。
在一个实施例中,所述获取模块对所述多个人脸图像进行过滤包括滤除以下至少一种图像:不包含人脸的图像;人脸置信度低于第一阈值的图像;人脸区域尺寸小于第二阈值的图像;人脸区域模糊度大于第三阈值的图像;人脸区域亮度不在预定范围内的图像;人脸旋转角度超过第四阈值的图像;以及人脸被遮挡程度大于第五阈值的图像。
在一个实施例中,所述模型重建模块基于已有参数化人脸模型对该张人脸图像进行人脸三维重建包括:在所述已有参数化人脸模型的参数化人脸空间中搜索与该张人脸图像中的人脸最为匹配的人脸模型;以及根据该张人脸图像中的人脸关键点对所述最为匹配的人脸模型进行变形,使得变形后的人脸模型的人脸关键点与该张人脸图像中的人脸关键点重合,以得到该张人脸图像中人脸的模型。
在一个实施例中,所述模型重建模块基于已有参数化人脸模型对该张人脸图像进行人脸三维重建包括还包括:对所得到的该张人脸图像中的人脸的模型进行细节优化。
在一个实施例中,所述模型重建模块进行的细节优化是基于阴影恢复形状方法。
在一个实施例中,所述模型参数化模块针对所述模型重建模块所得到的所有重建的人脸模型进行参数化包括:针对所述模型重建模块所得到的所有重建的人脸模型执行主成分分析,得到平均三维人脸模型和多个残差,以表示所述待生成的参数化人脸模型。
在一个实施例中,所述待生成的参数化人脸模型的类型包括以下中的至少一项:特定人种的参数化人脸模型;特定国籍的参数化人脸模型;特定民族的参数化人脸模型;特定性别的参数化人脸模型;特定年龄的参数化人脸模型;特定地域的参数化人脸模型;以及特定职业的参数化人脸模型。
根据本发明又一方面,提供了一种参数化人脸模型生成系统,所述系统包括存储装置和处理器,所述存储装置上存储有由所述处理器运行的计算机程序,所述计算机程序在被所述处理器运行时执行上述任一项所述的参数化人脸模型生成方法。
根据本发明再一方面,提供了一种存储介质,所述存储介质上存储有计算机程序,所述计算机程序在运行时执行上述任一项所述的参数化人脸模型生成方法。
根据本发明实施例的参数化人脸模型生成方法、装置、系统和存储介质利用对二维人脸图像的人脸三维重建获得人脸重建模型,并基于多个人脸重建模型得到参数化人脸模型,无需真实人脸三维扫描或采集,可以大幅度提高参数化人脸模型的获取效率;此外,可以根据需求高效率地生成任意类型的参数化人脸模型,扩大模型适用范围。
附图说明
通过结合附图对本发明实施例进行更详细的描述,本发明的上述以及其它目的、特征和优势将变得更加明显。附图用来提供对本发明实施例的进一步理解,并且构成说明书的一部分,与本发明实施例一起用于解释本发明,并不构成对本发明的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1示出用于实现根据本发明实施例的参数化人脸模型生成方法、装置、系统和存储介质的示例电子设备的示意性框图;
图2示出根据本发明实施例的参数化人脸模型生成方法的示意性流程图;
图3示出根据本发明实施例的参数化人脸模型生成装置的示意性框图;以及
图4示出根据本发明实施例的参数化人脸模型生成系统的示意性框图。
具体实施方式
为了使得本发明的目的、技术方案和优点更为明显,下面将参照附图详细描述根据本发明的示例实施例。显然,所描述的实施例仅仅是本发明的一部分实施例,而不是本发明的全部实施例,应理解,本发明不受这里描述的示例实施例的限制。
首先,参照图1来描述用于实现本发明实施例的参数化人脸模型生成方法、装置、系统和存储介质的示例电子设备100。
如图1所示,电子设备100包括一个或多个处理器102、一个或多个存储装置104。可选地,电子设备100还可以包括输入装置106以及输出装置108,这些组件通过总线系统110和/或其它形式的连接机构(未示出)互连。应当注意,图1所示的电子设备100的组件和结构只是示例性的,而非限制性的,根据需要,所述电子设备也可以具有其他组件和结构。
所述处理器102可以是中央处理单元(CPU)、图像处理单元(GPU)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元,并且可以控制所述电子设备100中的其它组件以执行期望的功能。
所述存储装置104可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器102可以运行所述程序指令,以实现下文所述的本发明实施例中(由处理器实现)的客户端功能以及/或者其它期望的功能。在所述计算机可读存储介质中还可以存储各种应用程序和各种数据,例如所述应用程序使用和/或产生的各种数据等。
所述输入装置106可以是用户用来输入指令的装置,并且可以包括键盘、鼠标、麦克风和触摸屏等中的一个或多个。
所述输出装置108可以向外部(例如用户)输出各种信息(例如图像或声音),并且可以包括显示器、扬声器等中的一个或多个。
示例性地,用于实现根据本发明实施例的参数化人脸模型生成方法和装置的示例电子设备可以被实现为诸如智能手机、平板电脑等等移动终端。
下面,将参考图2描述根据本发明实施例的参数化人脸模型生成方法200。如图2所示,参数化人脸模型生成方法200可以包括如下步骤:
在步骤S210,根据待生成的参数化人脸模型的类型,获取预定数量的具有相应特征的人脸图像。
在一个实施例中,待生成的参数化人脸模型可以是各种不同类型的参数化人脸模型。示例性地,待生成的参数化人脸模型可以是特定人种(例如黄种人、白种人、或黑种人)的参数化人脸模型;示例性地,待生成的参数化人脸模型可以是特定国籍(例如美国、英国、中国等)的参数化人脸模型;示例性地,待生成的参数化人脸模型可以是特定民族(例如维吾尔族、汉族等)的参数化人脸模型;示例性地,待生成的参数化人脸模型可以是特定性别(例如男性或女性)的参数化人脸模型;示例性地,待生成的参数化人脸模型可以是特定年龄(例如20岁、30-35岁等)的参数化人脸模型;示例性地,待生成的参数化人脸模型可以是特定地域(例如欧洲、美洲、或某个国家的不同地区)的参数化人脸模型;示例性地,待生成的参数化人脸模型可以是特定职业(例如医生、律师等)的参数化人脸模型。在其他示例中,待生成的参数化人脸模型可以是任何需要的具有特定特征的参数化人脸模型。
相应地,可以根据待生成的参数化人脸模型的类型获取预定数量的具有相应特征的人脸图像。示例性地,待生成的参数化人脸模型为白种人参数化人脸模型,则可以获取预定数量的白种人的人脸图像。示例性地,待生成的参数化人脸模型为欧洲地区的参数化人脸模型,则可以获取欧洲地区的人的人脸图像,诸如此类。其中,可以根据对待生成的参数化人脸模型的精度需求、计算量等因素设置需要获取的人脸图像的数量。示例性地,可以获取数百张人脸图像。其中,所获取的人脸图像可以为图片数据、视频数据或其他任何可以获得人脸图像的数据形式。此外,可以通过互联网获取具有相应特征的人脸图像。例如,可以通过设置搜索关键字、文本检索等方式来通过互联网(例如通过爬虫爬取)获取具有相应特征的人脸图像。在其他示例中,也可以获取来自任何数据源的人脸图像。
在步骤S220,针对每张所述人脸图像,基于已有参数化人脸模型对该张人脸图像进行人脸三维重建以生成重建的人脸模型。
基于步骤S210中获取的人脸图像,可以采用已有参数化人脸模型针对每张人脸图像实施人脸三维重建,以生成该张二维人脸图像中人脸的三维重建模型。此处,已有参数化人脸模型可以为已有的任何类型的参数化人脸模型,也就是说,可采用的已有参数化人脸模型不受待生成的参数化人脸模型的类型的限制。例如,待生成的参数化人脸模型为黄种人参数化人脸模型,此时可采用已有的白种人参数化人脸模型、欧洲人参数化人脸模型等任何可用的参数化人脸模型。当然,如果存在更接近待生成的参数化人脸模型的类型的已有参数化人脸模型,也可使用该已有参数化人脸模型。
在一个实施例中,步骤S220中针对每张人脸图像基于已有参数化人脸模型对该张人脸图像进行人脸三维重建可以包括:在所述已有参数化人脸模型的参数化人脸空间中搜索与该张人脸图像中的人脸最为匹配的人脸模型;根据该张人脸图像中的人脸关键点对所述最为匹配的人脸模型进行变形,使得变形后的人脸模型的人脸关键点与该张人脸图像中的人脸关键点重合,以得到该张人脸图像中人脸的模型。其中,已有参数化人脸模型的参数化人脸空间即为已有参数化人脸模型对人脸的描述空间,可以在该空间中搜索与该张人脸图像中的人脸最为匹配的人脸模型。此处,最为匹配的人脸模型可以是根据预设的若干指标(可根据需求设置指标类型和数值)与人脸图像中人脸最为接近的人脸模型。接着,可以通过对人脸图像进行人脸关键点检测而得到人脸图像中的人脸关键点,并基于这些关键点对搜索到的最为匹配的人脸模型进行变形,使得变形后的人脸模型的人脸关键点与该张人脸图像中的人脸关键点重合,从而将该二维人脸图像变为三维人脸重建模型。
进一步地,还可以在得到该三维人脸重建模型后对该模型进行细节优化,以得到更为优化的人脸模型。在一个实施例中,可以采用阴影恢复形状(shape from shading)方法对该三维人脸重建模型进行细节优化。具体地,在变形后得到的模型的较强初始值的前提下,可以根据图像颜色值反推环境光照和模型细节,对模型进行细节上的优化,从而得到经优化的人脸模型。在其他示例中,也可以采用任何合适的方法对得到的三维人脸重建模型进行优化。
进一步地,在实施步骤S220之前,可以对步骤S210所获取的人脸图像进行过滤,以得到合格的人脸图像用于进行所述人脸三维重建,这样可以节约不必要的计算量同时提高重建的人脸模型的精度。示例性地,可以从步骤S210所获取的图像中滤除以下至少一种图像:不包含人脸的图像;人脸置信度低于第一阈值的图像;人脸区域尺寸小于第二阈值的图像;人脸区域模糊度大于第三阈值的图像;人脸区域亮度不在预定范围内的图像;人脸旋转角度超过第四阈值的图像;以及人脸被遮挡程度大于第五阈值的图像。可以将上述图像视为不合格图像滤除,从而提高后续处理的效率和精度。此处,第一阈值、第二阈值、第三阈值、第四阈值、第五阈值等可以根据需求来设置。在其他示例中,还可以滤除任何其他视为不合适的图像。经过滤后得到的人脸图像通过人脸三维重建,可以得到更好的重建模型以用于后续的处理。在一个示例中,经过滤后得到的人脸图像的数量可以不少于200张。
在步骤S230,针对所生成的所有重建的人脸模型进行参数化,以得到所述待生成的参数化人脸模型。
在一个实施例中,可以采用参数化方法对步骤S220所生成的所有重建的人脸模型(即进行人脸三维重建的所有人脸图像中人脸的重建模型)进行参数化。具体地,可以针对所得到的所有重建的人脸模型执行主成分分析(PCA),得到平均三维人脸模型和多个残差,以表示所述待生成的参数化人脸模型。基于所生成的参数化人脸模型,通过为所述多个残差中的每个残差赋予不同的权重,即可以得到不同的三维人脸模型,无需浪费大量的存储空间存储这些不同的三维人脸模型,而仅需存储该参数化人脸模型,就可得到不同的三维人脸模型。
基于上面的描述,根据本发明实施例的参数化人脸模型生成方法利用对二维人脸图像的人脸三维重建获得人脸重建模型,并基于多个人脸重建模型得到参数化人脸模型,无需真实人脸三维扫描或采集,可以大幅度提高参数化人脸模型的获取效率;此外,可以根据需求高效率地生成任意类型的参数化人脸模型,扩大模型适用范围。此外,由于整个过程是全自动的,所以实施起来非常便利高效。
以上示例性地描述了根据本发明实施例的参数化人脸模型生成方法。示例性地,根据本发明实施例的参数化人脸模型生成方法可以在具有存储器和处理器的设备、装置或者系统中实现。
此外,根据本发明实施例的参数化人脸模型生成方法可以方便地部署到智能手机、平板电脑、个人计算机等移动设备上。替代地,根据本发明实施例的参数化人脸模型生成方法还可以部署在服务器端(或云端)。替代地,根据本发明实施例的参数化人脸模型生成方法还可以分布地部署在服务器端(或云端)和个人终端处。
下面结合图3描述本发明另一方面提供的参数化人脸模型生成装置。图3示出了根据本发明实施例的参数化人脸模型生成装置300的示意性框图。
如图3所示,根据本发明实施例的参数化人脸模型生成装置300包括图像获取模块310、模型重建模块320和模型参数化模块330。所述各个模块可分别执行上文中结合图2描述的参数化人脸模型生成方法的各个步骤/功能。以下仅对参数化人脸模型生成装置300的各模块的主要功能进行描述,而省略以上已经描述过的细节内容。
图像获取模块310用于根据待生成的参数化人脸模型的类型,获取预定数量的具有相应特征的人脸图像。模型重建模块320用于针对所述图像获取模块310获取的每张所述人脸图像,基于已有参数化人脸模型对该张人脸图像进行人脸三维重建以生成重建的人脸模型。模型参数化模块330用于针对所述模型重建模块320所生成的所有重建的人脸模型进行参数化,以得到所述待生成的参数化人脸模型。图像获取模块310、模型重建模块320和模型参数化模块330均可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。
在一个实施例中,待生成的参数化人脸模型可以是各种不同类型的参数化人脸模型。示例性地,待生成的参数化人脸模型可以是特定人种(例如黄种人、白种人、或黑种人)的参数化人脸模型;示例性地,待生成的参数化人脸模型可以是特定国籍(例如美国、英国、中国等)的参数化人脸模型;示例性地,待生成的参数化人脸模型可以是特定民族(例如维吾尔族、汉族等)的参数化人脸模型;示例性地,待生成的参数化人脸模型可以是特定性别(例如男性或女性)的参数化人脸模型;示例性地,待生成的参数化人脸模型可以是特定年龄(例如20岁、30-35岁等)的参数化人脸模型;示例性地,待生成的参数化人脸模型可以是特定地域(例如欧洲、美洲、或某个国家的不同地区)的参数化人脸模型;示例性地,待生成的参数化人脸模型可以是特定职业(例如医生、律师等)的参数化人脸模型。在其他示例中,待生成的参数化人脸模型可以是任何需要的具有特定特征的参数化人脸模型。
相应地,图像获取模块310可以根据待生成的参数化人脸模型的类型获取预定数量的具有相应特征的人脸图像。示例性地,待生成的参数化人脸模型为白种人参数化人脸模型,则图像获取模块310可以获取预定数量的白种人的人脸图像。示例性地,待生成的参数化人脸模型为欧洲地区的参数化人脸模型,则图像获取模块310可以获取欧洲地区的人的人脸图像,诸如此类。其中,可以根据对待生成的参数化人脸模型的精度需求、计算量等因素设置需要获取的人脸图像的数量。示例性地,图像获取模块310可以获取数百张人脸图像。其中,图像获取模块310所获取的人脸图像可以为图片数据、视频数据或其他任何可以获得人脸图像的数据形式。此外,图像获取模块310可以通过互联网获取具有相应特征的人脸图像。例如,可以通过设置搜索关键字、文本检索等方式来通过互联网(例如通过爬虫爬取)获取具有相应特征的人脸图像。在其他示例中,图像获取模块310也可以获取来自任何数据源的人脸图像。
进一步地,图像获取模块310可以根据待生成的参数化人脸模型的类型获取具有相应特征的多个人脸图像,并对所述多个人脸图像进行过滤,以得到合格的所述预定数量的人脸图像用于由模型重建模块320进行所述人脸三维重建,这样可以节约不必要的计算量同时提高重建的人脸模型的精度。示例性地,图像获取模块310对所述多个人脸图像进行过滤可以包括滤除以下至少一种图像:不包含人脸的图像;人脸置信度低于第一阈值的图像;人脸区域尺寸小于第二阈值的图像;人脸区域模糊度大于第三阈值的图像;人脸区域亮度不在预定范围内的图像;人脸旋转角度超过第四阈值的图像;以及人脸被遮挡程度大于第五阈值的图像。可以将上述图像视为不合格图像滤除,从而提高后续处理的效率和精度。此处,第一阈值、第二阈值、第三阈值、第四阈值、第五阈值等可以根据需求来设置。在其他示例中,图像获取模块310还可以滤除任何其他视为不合适的图像。经过滤后得到的人脸图像通过人脸三维重建,可以得到更好的重建模型以用于后续的处理。在一个示例中,经过滤后得到的人脸图像的数量可以不少于200张。
基于图像获取模块310获取的人脸图像,模型重建模块320可以采用已有参数化人脸模型针对每张人脸图像实施人脸三维重建,以生成该张二维人脸图像中人脸的三维重建模型。此处,已有参数化人脸模型可以为已有的任何类型的参数化人脸模型,也就是说,可采用的已有参数化人脸模型不受待生成的参数化人脸模型的类型的限制。例如,待生成的参数化人脸模型为黄种人参数化人脸模型,此时模型重建模块320可采用已有的白种人参数化人脸模型、欧洲人参数化人脸模型等任何可用的参数化人脸模型。当然,如果存在更接近待生成的参数化人脸模型的类型的已有参数化人脸模型,模型重建模块320也可使用该已有参数化人脸模型。
在一个实施例中,模型重建模块320针对每张人脸图像基于已有参数化人脸模型对该张人脸图像进行人脸三维重建可以包括:在所述已有参数化人脸模型的参数化人脸空间中搜索与该张人脸图像中的人脸最为匹配的人脸模型;根据该张人脸图像中的人脸关键点对所述最为匹配的人脸模型进行变形,使得变形后的人脸模型的人脸关键点与该张人脸图像中的人脸关键点重合,以得到该张人脸图像中人脸的模型。其中,已有参数化人脸模型的参数化人脸空间即为已有参数化人脸模型对人脸的描述空间,模型重建模块320可以在该空间中搜索与该张人脸图像中的人脸最为匹配的人脸模型。此处,最为匹配的人脸模型可以是根据预设的若干指标(可根据需求设置指标类型和数值)与人脸图像中人脸最为接近的人脸模型。接着,模型重建模块320可以通过对人脸图像进行人脸关键点检测而得到人脸图像中的人脸关键点,并基于这些关键点对搜索到的最为匹配的人脸模型进行变形,使得变形后的人脸模型的人脸关键点与该张人脸图像中的人脸关键点重合,从而将该二维人脸图像变为三维人脸重建模型。
进一步地,模型重建模块320还可以在得到该三维人脸重建模型后对该模型进行细节优化,以得到更为优化的人脸模型。在一个实施例中,模型重建模块320可以采用阴影恢复形状(shape from shading)方法对该三维人脸重建模型进行细节优化。具体地,在变形后得到的模型的较强初始值的前提下,模型重建模块320可以根据图像颜色值反推环境光照和模型细节,对模型进行细节上的优化,从而得到经优化的人脸模型。在其他示例中,模型重建模块320也可以采用任何合适的方法对得到的三维人脸重建模型进行优化。
在一个实施例中,模型参数化模块330可以采用参数化方法对模型重建模块320所生成的所有重建的人脸模型(即进行人脸三维重建的所有人脸图像中人脸的重建模型)进行参数化。具体地,模型参数化模块330可以针对所得到的所有重建的人脸模型执行主成分分析(PCA),得到平均三维人脸模型和多个残差,以表示所述待生成的参数化人脸模型。基于所生成的参数化人脸模型,通过为所述多个残差中的每个残差赋予不同的权重,即可以得到不同的三维人脸模型,无需浪费大量的存储空间存储这些不同的三维人脸模型,而仅需存储该参数化人脸模型,就可得到不同的三维人脸模型。
基于上面的描述,根据本发明实施例的参数化人脸模型生成装置利用对二维人脸图像的人脸三维重建获得人脸重建模型,并基于多个人脸重建模型得到参数化人脸模型,无需真实人脸三维扫描或采集,可以大幅度提高参数化人脸模型的获取效率;此外,可以根据需求高效率地生成任意类型的参数化人脸模型,扩大模型适用范围。
图4示出了根据本发明实施例的参数化人脸模型生成系统400的示意性框图。参数化人脸模型生成系统400包括存储装置410以及处理器420。
其中,存储装置410存储用于实现根据本发明实施例的参数化人脸模型生成方法中的相应步骤的程序代码。处理器420用于运行存储装置410中存储的程序代码,以执行根据本发明实施例的参数化人脸模型生成方法的相应步骤,并且用于实现根据本发明实施例的参数化人脸模型生成装置中的相应模块。
在一个实施例中,在所述程序代码被处理器420运行时使得参数化人脸模型生成系统400执行以下步骤:根据待生成的参数化人脸模型的类型,获取预定数量的具有相应特征的人脸图像;针对每张所述人脸图像,基于已有参数化人脸模型对该张人脸图像进行人脸三维重建以生成重建的人脸模型;以及针对所生成的所有重建的人脸模型进行参数化,以得到所述待生成的参数化人脸模型。
在一个实施例中,所述具有相应特征的人脸图像是通过互联网获取的。
在一个实施例中,在所述程序代码被处理器420运行时还使得参数化人脸模型生成系统400执行的根据待生成的参数化人脸模型的类型,获取预定数量的具有相应特征的人脸图像包括:根据待生成的参数化人脸模型的类型,获取具有相应特征的多个人脸图像;以及对所述多个人脸图像进行过滤,以得到合格的所述预定数量的人脸图像用于进行所述人脸三维重建。
在一个实施例中,在所述程序代码被处理器420运行时还使得参数化人脸模型生成系统400执行的所述对所述多个人脸图像进行过滤包括滤除以下至少一种图像:不包含人脸的图像;人脸置信度低于第一阈值的图像;人脸区域尺寸小于第二阈值的图像;人脸区域模糊度大于第三阈值的图像;人脸区域亮度不在预定范围内的图像;人脸旋转角度超过第四阈值的图像;以及人脸被遮挡程度大于第五阈值的图像。
在一个实施例中,在所述程序代码被处理器420运行时使得参数化人脸模型生成系统400执行的所述基于已有参数化人脸模型对该张人脸图像进行人脸三维重建包括:在所述已有参数化人脸模型的参数化人脸空间中搜索与该张人脸图像中的人脸最为匹配的人脸模型;以及根据该张人脸图像中的人脸关键点对所述最为匹配的人脸模型进行变形,使得变形后的人脸模型的人脸关键点与该张人脸图像中的人脸关键点重合,以得到该张人脸图像中人脸的模型。
在一个实施例中,在所述程序代码被处理器420运行时使得参数化人脸模型生成系统400执行的所述基于已有参数化人脸模型对该张人脸图像进行人脸三维重建包括还包括:对所得到的该张人脸图像中的人脸的模型进行细节优化。
在一个实施例中,在所述程序代码被处理器420运行时使得参数化人脸模型生成系统400执行的所述细节优化是基于阴影恢复形状方法。
在一个实施例中,在所述程序代码被处理器420运行时使得参数化人脸模型生成系统400执行的所述针对所得到的所有重建的人脸模型进行参数化包括:针对所得到的所有重建的人脸模型执行主成分分析,得到平均三维人脸模型和多个残差,以表示所述待生成的参数化人脸模型。
在一个实施例中,所述待生成的参数化人脸模型的类型包括以下中的至少一项:特定人种的参数化人脸模型;特定国籍的参数化人脸模型;特定民族的参数化人脸模型;特定性别的参数化人脸模型;特定年龄的参数化人脸模型;特定地域的参数化人脸模型;以及特定职业的参数化人脸模型。
此外,根据本发明实施例,还提供了一种存储介质,在所述存储介质上存储了程序指令,在所述程序指令被计算机或处理器运行时用于执行本发明实施例的参数化人脸模型生成方法的相应步骤,并且用于实现根据本发明实施例的参数化人脸模型生成装置中的相应模块。所述存储介质例如可以包括智能电话的存储卡、平板电脑的存储部件、个人计算机的硬盘、只读存储器(ROM)、可擦除可编程只读存储器(EPROM)、便携式紧致盘只读存储器(CD-ROM)、USB存储器、或者上述存储介质的任意组合。所述计算机可读存储介质可以是一个或多个计算机可读存储介质的任意组合。
在一个实施例中,所述计算机程序指令在被计算机运行时可以实现根据本发明实施例的参数化人脸模型生成装置的各个功能模块,并且/或者可以执行根据本发明实施例的参数化人脸模型生成方法。
在一个实施例中,所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤:根据待生成的参数化人脸模型的类型,获取预定数量的具有相应特征的人脸图像;针对每张所述人脸图像,基于已有参数化人脸模型对该张人脸图像进行人脸三维重建以生成重建的人脸模型;以及针对所生成的所有重建的人脸模型进行参数化,以得到所述待生成的参数化人脸模型。
在一个实施例中,所述具有相应特征的人脸图像是通过互联网获取的。
在一个实施例中,所述计算机程序指令在被计算机或处理器运行时还使计算机或处理器执行的根据待生成的参数化人脸模型的类型,获取预定数量的具有相应特征的人脸图像包括:根据待生成的参数化人脸模型的类型,获取具有相应特征的多个人脸图像;以及对所述多个人脸图像进行过滤,以得到合格的所述预定数量的人脸图像用于进行所述人脸三维重建。
在一个实施例中,所述计算机程序指令在被计算机或处理器运行时还使计算机或处理器执行的所述对所述多个人脸图像进行过滤包括滤除以下至少一种图像:不包含人脸的图像;人脸置信度低于第一阈值的图像;人脸区域尺寸小于第二阈值的图像;人脸区域模糊度大于第三阈值的图像;人脸区域亮度不在预定范围内的图像;人脸旋转角度超过第四阈值的图像;以及人脸被遮挡程度大于第五阈值的图像。
在一个实施例中,所述计算机程序指令在被计算机或处理器运行时还使计算机或处理器执行的所述基于已有参数化人脸模型对该张人脸图像进行人脸三维重建包括:在所述已有参数化人脸模型的参数化人脸空间中搜索与该张人脸图像中的人脸最为匹配的人脸模型;以及根据该张人脸图像中的人脸关键点对所述最为匹配的人脸模型进行变形,使得变形后的人脸模型的人脸关键点与该张人脸图像中的人脸关键点重合,以得到该张人脸图像中人脸的模型。
在一个实施例中,所述计算机程序指令在被计算机或处理器运行时还使计算机或处理器执行的所述基于已有参数化人脸模型对该张人脸图像进行人脸三维重建包括还包括:对所得到的该张人脸图像中的人脸的模型进行细节优化。
在一个实施例中,所述计算机程序指令在被计算机或处理器运行时还使计算机或处理器执行的所述细节优化是基于阴影恢复形状方法。
在一个实施例中,所述计算机程序指令在被计算机或处理器运行时还使计算机或处理器执行的所述针对所得到的所有重建的人脸模型进行参数化包括:针对所得到的所有重建的人脸模型执行主成分分析,得到平均三维人脸模型和多个残差,以表示所述待生成的参数化人脸模型。
在一个实施例中,所述待生成的参数化人脸模型的类型包括以下中的至少一项:特定人种的参数化人脸模型;特定国籍的参数化人脸模型;特定民族的参数化人脸模型;特定性别的参数化人脸模型;特定年龄的参数化人脸模型;特定地域的参数化人脸模型;以及特定职业的参数化人脸模型。
根据本发明实施例的参数化人脸模型生成装置中的各模块可以通过根据本发明实施例的参数化人脸模型生成的电子设备的处理器运行在存储器中存储的计算机程序指令来实现,或者可以在根据本发明实施例的计算机程序产品的计算机可读存储介质中存储的计算机指令被计算机运行时实现。
根据本发明实施例的参数化人脸模型生成方法、装置、系统和存储介质利用对二维人脸图像的人脸三维重建获得人脸重建模型,并基于多个人脸重建模型得到参数化人脸模型,无需真实人脸三维扫描或采集,可以大幅度提高参数化人脸模型的获取效率;此外,可以根据需求高效率地生成任意类型的参数化人脸模型,扩大模型适用范围。
尽管这里已经参考附图描述了示例实施例,应理解上述示例实施例仅仅是示例性的,并且不意图将本发明的范围限制于此。本领域普通技术人员可以在其中进行各种改变和修改,而不偏离本发明的范围和精神。所有这些改变和修改意在被包括在所附权利要求所要求的本发明的范围之内。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。例如,以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个设备,或一些特征可以忽略,或不执行。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本发明并帮助理解各个发明方面中的一个或多个,在对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该本发明的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如相应的权利要求书所反映的那样,其发明点在于可以用少于某个公开的单个实施例的所有特征的特征来解决相应的技术问题。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域的技术人员可以理解,除了特征之间相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的一些模块的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
以上所述,仅为本发明的具体实施方式或对具体实施方式的说明,本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。本发明的保护范围应以权利要求的保护范围为准。
Claims (12)
1.一种参数化人脸模型生成方法,其特征在于,所述方法包括:
根据待生成的参数化人脸模型的类型,获取预定数量的具有相应特征的人脸图像;
针对每张所述人脸图像,基于已有参数化人脸模型对该张人脸图像进行人脸三维重建以生成重建的人脸模型;以及
针对所生成的所有重建的人脸模型进行参数化,以得到所述待生成的参数化人脸模型。
2.根据权利要求1所述的方法,其特征在于,所述具有相应特征的人脸图像是通过互联网获取的。
3.根据权利要求1或2所述的方法,其特征在于,所述根据待生成的参数化人脸模型的类型,获取预定数量的具有相应特征的人脸图像包括:
根据待生成的参数化人脸模型的类型,获取具有相应特征的多个人脸图像;以及
对所述多个人脸图像进行过滤,以得到合格的所述预定数量的人脸图像用于进行所述人脸三维重建。
4.根据权利要求3所述的方法,其特征在于,所述对所述多个人脸图像进行过滤包括滤除以下至少一种图像:
不包含人脸的图像;
人脸置信度低于第一阈值的图像;
人脸区域尺寸小于第二阈值的图像;
人脸区域模糊度大于第三阈值的图像;
人脸区域亮度不在预定范围内的图像;
人脸旋转角度超过第四阈值的图像;以及
人脸被遮挡程度大于第五阈值的图像。
5.根据权利要求1或2所述的方法,其特征在于,所述基于已有参数化人脸模型对该张人脸图像进行人脸三维重建包括:
在所述已有参数化人脸模型的参数化人脸空间中搜索与该张人脸图像中的人脸最为匹配的人脸模型;以及
根据该张人脸图像中的人脸关键点对所述最为匹配的人脸模型进行变形,使得变形后的人脸模型的人脸关键点与该张人脸图像中的人脸关键点重合,以得到该张人脸图像中人脸的模型。
6.根据权利要求5所述的方法,其特征在于,所述基于已有参数化人脸模型对该张人脸图像进行人脸三维重建包括还包括:
对所得到的该张人脸图像中的人脸的模型进行细节优化。
7.根据权利要求6所述的方法,其特征在于,所述细节优化是基于阴影恢复形状方法。
8.根据权利要求1或2所述的方法,其特征在于,所述针对所得到的所有重建的人脸模型进行参数化包括:
针对所得到的所有重建的人脸模型执行主成分分析,得到平均三维人脸模型和多个残差,以表示所述待生成的参数化人脸模型。
9.根据权利要求1或2所述的方法,其特征在于,所述待生成的参数化人脸模型的类型包括以下中的至少一项:
特定人种的参数化人脸模型;
特定国籍的参数化人脸模型;
特定民族的参数化人脸模型;
特定性别的参数化人脸模型;
特定年龄的参数化人脸模型;
特定地域的参数化人脸模型;以及
特定职业的参数化人脸模型。
10.一种参数化人脸模型生成装置,其特征在于,所述装置包括:
图像获取模块,用于根据待生成的参数化人脸模型的类型,获取预定数量的具有相应特征的人脸图像;
模型重建模块,用于针对所述图像获取模块获取的每张所述人脸图像,基于已有参数化人脸模型对该张人脸图像进行人脸三维重建以生成重建的人脸模型;以及
模型参数化模块,用于针对所述模型重建模块所生成的所有重建的人脸模型进行参数化,以得到所述待生成的参数化人脸模型。
11.一种参数化人脸模型生成系统,其特征在于,所述系统包括存储装置和处理器,所述存储装置上存储有由所述处理器运行的计算机程序,所述计算机程序在被所述处理器运行时执行如权利要求1-9中的任一项所述的参数化人脸模型生成方法。
12.一种存储介质,其特征在于,所述存储介质上存储有计算机程序,所述计算机程序在运行时执行如权利要求1-9中的任一项所述的参数化人脸模型生成方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810339223.9A CN108876896A (zh) | 2018-04-16 | 2018-04-16 | 参数化人脸模型生成方法、装置、系统和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810339223.9A CN108876896A (zh) | 2018-04-16 | 2018-04-16 | 参数化人脸模型生成方法、装置、系统和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108876896A true CN108876896A (zh) | 2018-11-23 |
Family
ID=64326741
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810339223.9A Withdrawn CN108876896A (zh) | 2018-04-16 | 2018-04-16 | 参数化人脸模型生成方法、装置、系统和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108876896A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109685873A (zh) * | 2018-12-14 | 2019-04-26 | 广州市百果园信息技术有限公司 | 一种人脸重建方法、装置、设备和存储介质 |
-
2018
- 2018-04-16 CN CN201810339223.9A patent/CN108876896A/zh not_active Withdrawn
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109685873A (zh) * | 2018-12-14 | 2019-04-26 | 广州市百果园信息技术有限公司 | 一种人脸重建方法、装置、设备和存储介质 |
CN109685873B (zh) * | 2018-12-14 | 2023-09-05 | 广州市百果园信息技术有限公司 | 一种人脸重建方法、装置、设备和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10489683B1 (en) | Methods and systems for automatic generation of massive training data sets from 3D models for training deep learning networks | |
EP3433732B1 (en) | Converting visual diagrams into code | |
CN109146830A (zh) | 用于生成训练数据的方法、装置、系统和存储介质 | |
Laganière | OpenCV 3 Computer Vision Application Programming Cookbook | |
CN105354248B (zh) | 基于灰度的分布式图像底层特征识别方法及系统 | |
US11232632B2 (en) | Learning-based 3D model creation apparatus and method | |
CN108876833A (zh) | 图像处理方法、图像处理装置和计算机可读存储介质 | |
CN109543663A (zh) | 一种犬只身份识别方法、装置、系统及存储介质 | |
CN109684005A (zh) | 图形界面中组件相似度确定方法及装置 | |
US11688109B2 (en) | Generating differentiable procedural materials | |
US11935217B2 (en) | Generating deep harmonized digital images | |
Ntavelis et al. | AIM 2020 challenge on image extreme inpainting | |
CN108875483A (zh) | 图像检测方法、装置、系统和计算机可读介质 | |
CN115761082A (zh) | 三维图形渲染的方法和装置、电子设备和存储介质 | |
CN108875764A (zh) | 模型训练方法、装置、系统和计算机可读介质 | |
US9171401B2 (en) | Conservative partitioning for rendering a computer-generated animation | |
US20240078730A1 (en) | Content-specific-preset edits for digital images | |
CN110490058A (zh) | 行人检测模型的训练方法、装置、系统和计算机可读介质 | |
CN109829380A (zh) | 一种狗脸特征点的检测方法、装置、系统及存储介质 | |
CN108876896A (zh) | 参数化人脸模型生成方法、装置、系统和存储介质 | |
Marelli et al. | SfM Flow: A comprehensive toolset for the evaluation of 3D reconstruction pipelines | |
CN109766123A (zh) | 应用程序封装方法及装置 | |
CN107492143A (zh) | 控制图像合成中的补块使用 | |
CN116483645A (zh) | 设备虚拟调试方法、装置、设备、存储介质和程序产品 | |
CN110348900A (zh) | 一种数据处理方法、系统及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20181123 |
|
WW01 | Invention patent application withdrawn after publication |