CN107644455A - 人脸图像合成方法和装置 - Google Patents

人脸图像合成方法和装置 Download PDF

Info

Publication number
CN107644455A
CN107644455A CN201710949855.2A CN201710949855A CN107644455A CN 107644455 A CN107644455 A CN 107644455A CN 201710949855 A CN201710949855 A CN 201710949855A CN 107644455 A CN107644455 A CN 107644455A
Authority
CN
China
Prior art keywords
model data
data
dimensional model
parameterized
residual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201710949855.2A
Other languages
English (en)
Other versions
CN107644455B (zh
Inventor
马里千
高端
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Megvii Technology Co Ltd
Beijing Maigewei Technology Co Ltd
Original Assignee
Beijing Megvii Technology Co Ltd
Beijing Maigewei Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Megvii Technology Co Ltd, Beijing Maigewei Technology Co Ltd filed Critical Beijing Megvii Technology Co Ltd
Priority to CN201710949855.2A priority Critical patent/CN107644455B/zh
Publication of CN107644455A publication Critical patent/CN107644455A/zh
Application granted granted Critical
Publication of CN107644455B publication Critical patent/CN107644455B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)

Abstract

本发明提供了人脸图像合成方法和装置,包括:通过获取参数化的人脸三维模型数据;将获取的参数化的人脸三维模型数据进行处理,得到特征数据;然后将特征数据和获取到的渲染参数通过渲染算法进行渲染合成,得到人脸图像,从而可以通过系统自动合成人脸图像,并进行自动标注人脸特征,能够提高采集效率,并降低成本。

Description

人脸图像合成方法和装置
技术领域
本发明涉及图像合成技术领域,尤其是涉及人脸图像合成方法和装置。
背景技术
人脸图像作为图像数据的一种,目前被广泛使用在计算机视觉、人工智能等领域,可以提升人脸检测与识别、人脸属性检测和人脸关键点检测的性能。
目前,人脸图像的采集和标注需要耗费大量的人力和物力进行,当人脸图像的采集和标注规模较大时,会使成本更高,是目前亟需解决的问题。
发明内容
有鉴于此,本发明的目的在于提供人脸图像合成方法和装置,可以通过系统自动合成人脸图像,并进行自动标注人脸特征,能够提高采集效率,并降低成本。
第一方面,本发明实施例提供了人脸图像合成方法,所述方法包括:
获取参数化的人脸三维模型数据,所述参数化的人脸三维模型数据包括参数化的人头三维模型数据、参数化的人脸表情模型数据、参数化的人头材质模型数据和参数化的环境光照模型数据中的至少一种;
将所述参数化的人脸三维模型数据进行处理,得到特征数据,所述特征数据包括人头三维模型、人脸表情、人头材质和环境光照中的至少一种;
获取渲染参数,并将所述渲染参数和所述特征数据通过渲染算法进行渲染合成,得到人脸图像。
结合第一方面,本发明实施例提供了第一方面的第一种可能的实施方式,其中,所述参数化的人脸三维模型数据是通过以下方法得到的:
采集多个人脸三维模型数据;
将所述多个人脸三维模型数据进行参数化,得到所述参数化的人脸三维模型数据。
结合第一方面或结合第一方面的第一种可能的实施方式,本发明实施例提供了第一方面的第二种可能的实施方式,其中,所述参数化的人头三维模型数据包括平均人头三维模型数据和多个残差人头三维模型数据,所述将所述参数化的人脸三维模型数据进行处理,得到特征数据,包括:
确定所述多个残差人头三维模型数据分别对应的第一权重值;
根据所述多个残差人头三维模型数据分别对应的所述第一权重值、所述多个残差人头三维模型数据和所述平均人头三维模型数据,得到所述人头三维模型。
结合第一方面或结合第一方面的第一种可能的实施方式,本发明实施例提供了第一方面的第三种可能的实施方式,其中,所述参数化的人脸表情模型数据包括平均人脸表情模型数据和多个残差人脸表情模型数据,所述将所述参数化的人脸三维模型数据进行处理,得到特征数据,包括:
确定所述多个残差人脸表情模型数据分别对应的第二权重值;
根据所述多个残差人脸表情模型数据分别对应的所述第二权重值、所述多个残差人脸表情模型数据和所述平均人脸表情模型数据,得到所述人脸表情。
结合第一方面或结合第一方面的第一种可能的实施方式,本发明实施例提供了第一方面的第四种可能的实施方式,其中,所述人头材质包括皮肤材质,所述参数化的人头材质模型数据包括平均皮肤材质数据和和多个残差皮肤材质数据,所述将所述参数化的人脸三维模型数据进行处理,得到特征数据,包括:
确定所述多个残差皮肤材质数据分别对应的第三权重值;
根据所述多个残差皮肤材质数据分别对应的所述第三权重值、所述多个残差皮肤材质数据以及所述平均皮肤材质数据,得到所述皮肤材质;
或者,
所述人头材质包括毛发材质,所述参数化的人头材质模型数据包括平均毛发材质数据和多个残差毛发材质数据,所述将所述参数化的人脸三维模型数据进行处理,得到特征数据,包括:
确定所述多个残差毛发材质数据分别对应的第四权重值;
根据所述多个残差毛发材质数据分别对应的所述第四权重值、所述多个残差毛发材质数据以及所述平均毛发材质数据,得到所述毛发材质。
结合第一方面或结合第一方面的第一种可能的实施方式,本发明实施例提供了第一方面的第五种可能的实施方式,其中,所述参数化的环境光照模型数据包括多个环境光照参数,所述多个环境光照参数为球面调和函数的参数,所述将所述参数化的人脸三维模型数据进行处理,得到特征数据,包括:
确定所述多个环境光照参数分别对应的第五权重值;
根据所述多个环境光照参数分别对应的所述第五权重值、所述多个环境光照参数和所述球面调和函数,得到所述环境光照。
结合第一方面或结合第一方面的第一种可能的实施方式,本发明实施例提供了第一方面的第六种可能的实施方式,其中,所述方法还包括:
从人脸图像渲染算法库中选取所述渲染算法。
结合第一方面或结合第一方面的第一种可能的实施方式,本发明实施例提供了第一方面的第七种可能的实施方式,其中,所述方法还包括:
当渲染合成的人脸图像的数量达到预设数量阈值时,停止渲染合成新的人脸图像;
或者,
当渲染合成持续的时间达到预设时间阈值时,停止渲染合成新的人脸图像。
第二方面,本发明实施例还提供人脸图像合成装置,所述装置包括:
获取模块,用于获取参数化的人脸三维模型数据,所述参数化的人脸三维模型数据包括参数化的人头三维模型数据、参数化的人脸表情模型数据、参数化的人头材质模型数据和参数化的环境光照模型数据中的至少一种;
处理模块,用于将所述获取模块获取到的所述参数化的人脸三维模型数据进行处理,得到多个特征数据,所述特征数据包括人头三维模型、人脸表情、人头材质和环境光照中的至少一种;
渲染合成模块,用于获取渲染参数,并将所述渲染参数和所述特征数据通过渲染算法进行渲染合成,得到人脸图像。
结合第二方面,本发明实施例提供了第二方面的第一种可能的实施方式,其中,所述参数化的人脸三维模型数据是通过以下方法得到的:
采集多个人脸三维模型数据;
将采集到的所述多个人脸三维模型数据进行参数化,得到所述参数化的人脸三维模型数据。
结合第二方面或结合第二方面的第一种可能的实施方式,本发明实施例提供了第二方面的第二种可能的实施方式,其中,所述参数化的人头三维模型数据包括平均人头三维模型数据和多个残差人头三维模型数据,所述处理模块具体用于:
确定所述多个残差人头三维模型数据分别对应的第一权重值;
根据所述多个残差人头三维模型数据分别对应的所述第一权重值、所述多个残差人头三维模型数据和所述平均人头三维模型数据,得到所述人头三维模型。
结合第二方面或结合第二方面的第一种可能的实施方式,本发明实施例提供了第二方面的第三种可能的实施方式,其中,所述参数化的人脸表情模型数据包括平均人脸表情模型数据和多个残差人脸表情模型数据,所述处理模块具体用于:
确定所述多个残差人脸表情模型数据分别对应的第二权重值;
根据所述多个残差人脸表情模型数据分别对应的所述第二权重值、所述多个残差人脸表情模型数据和所述平均人脸表情模型数据,得到所述人脸表情。
结合第二方面或结合第二方面的第一种可能的实施方式,本发明实施例提供了第二方面的第四种可能的实施方式,其中,所述人头材质包括皮肤材质,所述参数化的人头材质模型数据包括平均皮肤材质数据和多个残差皮肤材质数据,所述处理模块具体用于:
确定所述多个残差皮肤材质数据分别对应的第三权重值;
根据所述多个残差皮肤材质数据分别对应的所述第三权重值、所述多个残差皮肤材质数据以及所述平均皮肤材质数据,得到所述皮肤材质;
或者,
所述人头材质包括毛发材质,所述参数化的人头材质模型数据包括平均毛发材质数据和多个残差毛发材质数据,所述处理模块具体用于::
确定所述多个残差毛发材质数据分别对应的第四权重值;
根据所述多个残差毛发材质数据分别对应的所述第四权重值、所述多个残差毛发材质数据以及所述平均毛发材质数据,得到所述毛发材质。
结合第二方面或结合第二方面的第一种可能的实施方式,本发明实施例提供了第二方面的第五种可能的实施方式,其中,所述参数化的环境光照模型数据包括多个环境光照参数,所述多个环境光照参数为球面调和函数的参数,所述处理模块具体用于:
确定所述多个环境光照参数分别对应的第五权重值;
根据所述多个环境光照参数分别对应的所述第五权重值、所述多个环境光照参数和所述球面调和函数,得到所述环境光照。
结合第二方面或结合第二方面的第一种可能的实施方式,本发明实施例提供了第二方面的第六种可能的实施方式,其中,所述装置还包括:
选取模块,用于从人脸图像渲染算法库中选取所述渲染算法。
结合第二方面或结合第二方面的第一种可能的实施方式,本发明实施例提供了第二方面的第七种可能的实施方式,其中,所述渲染合成模块还用于:
在渲染合成的人脸图像的数量达到预设数量阈值的情况下,停止渲染合成新的人脸图像;
或者,
在渲染合成持续的时间达到预设时间阈值的情况下,停止渲染合成新的人脸图像。
第三方面,本发明实施例还提供电子设备,包括存储器和处理器,所述存储器中存储有可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述的人脸图像合成方法的步骤。
第四方面,本发明实施例还提供计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行上述的人脸图像合成方法的步骤。
本发明实施例提供了人脸图像合成方法和装置,包括:通过获取参数化的人脸三维模型数据;将获取的参数化的人脸三维模型数据进行处理,得到特征数据;然后将特征数据和获取到的渲染参数通过渲染算法进行渲染合成,得到人脸图像,从而可以通过系统自动合成人脸图像,并进行自动标注人脸特征,能够提高采集效率,并降低成本。
本发明的其他特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。
为使本发明的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例一提供的电子设备的示意图;
图2为本发明实施例二提供的人脸图像合成方法流程图;
图3为本发明实施例二提供的人脸图像合成方法中步骤S102的流程图;
图4为本发明实施例二提供的另一人脸图像合成方法中步骤S102的流程图;
图5为本发明实施例二提供的另一人脸图像合成方法中步骤S102的流程图;
图6为本发明实施例二提供的另一人脸图像合成方法中步骤S102的流程图;
图7为本发明实施例二提供的另一人脸图像合成方法中步骤S102的流程图;
图8为本发明实施例三提供的人脸图像合成装置示意图。
图标:
10-获取模块;20-处理模块;30-渲染合成模块;100-电子设备;102-处理器;104-存储装置;106-输入装置;108-输出装置;110-图像采集装置;112-总线系统。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合附图对本发明的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
为便于对本实施例进行理解,下面对本发明实施例进行详细介绍。
实施例一:
图1是本发明实施例一提供的电子设备的示意图。
参照图1,用于实现本发明实施例的人脸图像合成方法和装置的示例电子设备100,包括一个或多个处理器102、一个或多个存储装置104、输入装置106、输出装置108以及图像采集装置110,这些组件通过总线系统112和/或其它形式的连接机构(未示出)互连。应当注意,图1所示的电子设备100的组件和结构只是示例性的,而非限制性的,根据需要,所述电子设备也可以具有其他组件和结构。
所述处理器102可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元,并且可以控制所述电子设备100中的其它组件以执行期望的功能。
所述存储装置104可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(Random Access Memory,简称RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(Read-Only Memory,简称ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器102可以运行所述程序指令,以实现下文所述的本发明实施例中(由处理器实现)的客户端功能以及/或者其它期望的功能。在所述计算机可读存储介质中还可以存储各种应用程序和各种数据,例如所述应用程序使用和/或产生的各种数据等。
所述输入装置106可以是用户用来输入指令的装置,并且可以包括键盘、鼠标、麦克风和触摸屏等中的一个或多个。
所述输出装置108可以向外部(例如,用户)输出各种信息(例如,图像或声音),并且可以包括显示器、扬声器等中的一个或多个。
所述图像采集装置110可以拍摄用户期望的图像(例如照片、视频等),并且将所拍摄的图像存储在所述存储装置104中以供其它组件使用。
示例性地,用于实现根据本发明实施例提供的人脸图像合成方法和装置的示例电子设备可以被实现为诸如智能手机、平板电脑等移动终端上。
实施例二:
图2为本发明实施例二提供的人脸图像合成方法流程图。
根据本发明实施例,提供了人脸图像合成方法的实施例,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。参照图2,该方法包括以下步骤:
步骤S101,获取参数化的人脸三维模型数据,参数化的人脸三维模型数据包括参数化的人头三维模型数据、参数化的人脸表情模型数据、参数化的人头材质模型数据和参数化的环境光照模型数据中的至少一种。
可以从参数化的人头三维模型数据、参数化的人脸表情模型数据、参数化的人头材质模型数据和参数化的环境光照模型数据中,随机选取一种或多种模型数据,也可以根据需求选取一种或多种模型数据。
步骤S102,将参数化的人脸三维模型数据进行处理,得到特征数据,特征数据包括人头三维模型、人脸表情、人头材质和环境光照中的至少一种。
可选地,在步骤S102中可以包括:确定参数化的人脸三维模型数据对应的权重;根据该权重对参数化的人脸三维模型数据进行处理,得到特征数据。应理解,分别根据不同的权重对参数化的人脸三维模型数据进行处理,可以得到不同的特征数据。
其中,参数化的人头三维模型数据用于表示人脸和头发的形状,利用不同的权重对参数化的人头三维模型数据进行处理,即可得到不同的人脸和头发形状。参数化的人脸表情模型数据用于表示人脸表情,利用不同的权重对参数化的人脸表情模型数据进行处理,即可得到不同的人脸表情。参数化的人头材质模型数据包括参数化的皮肤材质数据或参数化的毛发材质数据,参数化的皮肤材质数据用于表示人脸颜色、痘印、皱纹等皮肤纹理,利用不同的权重对参数化的皮肤材质数据进行处理,即可得到不同的皮肤纹理;参数化的毛发材质数据用于表示头发颜色等毛发材质,利用不同的权重对参数化的毛发材质数据进行处理,即可得到不同的毛发材质。参数化的环境光照模型数据用于表示环境光照,利用不同的权重对参数化的环境光照模型数据进行处理,即可得到不同的环境光照。
步骤S103,获取渲染参数,并将渲染参数和特征数据通过渲染算法进行渲染合成,得到人脸图像。
可选地,渲染参数包括人头参数和虚拟摄像机参数,其中,人头参数包括人头的朝向、位置和尺寸中的至少一个参数,虚拟摄像机参数包括摄像机的位置、视角大小、光圈、焦距、视域长宽比和图像分辨率中的至少一个参数。
当获取渲染参数后,还可以获取数据库中的数据,数据库包括背景图像库和/或人脸配饰库,其中,人脸配饰库中的数据包括眼镜、胡子、耳坠和口罩等数据,背景图像库中的数据包括背景图。
将渲染参数、特征数据以及数据库中的数据通过渲染算法进行渲染合成,得到具有特定背景图和/或人脸配饰的人脸图像。
可选地,还可以从人脸图像渲染算法库中随机选取渲染算法,或按照需求选取渲染算法。渲染算法可以为三维渲染引擎,三维渲染引擎具体包括Unity渲染引擎、Unreal虚幻渲染引擎或Blender渲染引擎等。
本发明实施例中,通过将获取的参数化的人脸三维模型数据进行处理,得到特征数据,然后将该特征数据和获取到的渲染参数通过渲染算法进行渲染合成,得到人脸图像,使得可以通过系统自动合成人脸图像,并在人脸图像上自动标注人脸特征,提高了图像采集效率,同时还降低了成本。
自动标注人脸特征意味着可以在人脸图像上自动添加特定特征,例如:口罩、眼镜和胡子等。
进一步的,步骤S101可以包括:从存储器中获取预先存储的参数化的人脸三维模型数据,该参数化的人脸三维模型数据可以是通过以下步骤S201和S202得到的。本发明实施例通过存储参数化的人脸三维模型数据,而非存储多个人脸三维模型数据,有利于降低人脸图像合成系统占用的存储空间。
在另一实施例中,步骤S101还可以包括以下步骤S201和S202。
步骤S201,采集多个人脸三维模型数据;
这里,人脸三维模型数据包括人头三维模型数据、人脸表情模型数据、人头材质模型数据和环境光照模型数据中的至少一种。
人头三维模型数据、人脸表情模型数据和人头材质模型数据可以是通过相机阵列采集的,例如,可以采集100~1000个不同的人头三维模型数据、人脸表情模型数据和人头材质模型数据。在一些实施例中,相机阵列包括多个小镜头,这样可以从各种不同的角度进行采集,从而保证采集的多样性和全面性。而环境光照模型数据也可以是通过相机采集多个真实场景的环境光照得到的。
步骤S202,将多个人脸三维模型数据进行参数化,得到参数化的人脸三维模型数据。
这里,将多个人头三维模型数据、多个人脸表情模型数据、多个人头材质模型数据和多个环境光照模型数据分别进行参数化,从而得到参数化的人头三维模型数据、参数化的人脸表情模型数据、参数化的人头材质模型数据和参数化的环境光照模型数据。
其中,参数化的人头三维模型数据、参数化的人脸表情模型数据和参数化的人头材质模型数据中的每种模型数据包括平均模型数据和多个残差模型数据,平均模型数据可以表示根据采集到的真实模型数据得到的平均模型,多个残差模型数据可以是该平均模型的调整参数,通过对每个残差模型数据赋予不同的权重值,利用这些权重值,可以扩展平均模型的调整参数的取值,从而能够在更大范围内调整平均模型,以得到更多新的模型数据;参数化的环境光照模型数据包括球面调和函数的多个环境光照参数,通过对该多个环境光照参数赋予设定的权重值,可以确定新的环境光照参数,将该新的环境光照参数代入球面调和函数,即可得到新的环境光照。
如果直接保存采集到的多个人脸三维模型数据,一方面,需要占用较大的存储空间;另一方面,由于采集的人脸三维模型数据的数量有限,将会导致合成的人脸图像受限于采集到的人脸三维模型数据,使得无法合成多样化的人脸图像。在本发明实施例中,通过将采集到的多个人脸三维模型数据进行参数化处理,不仅有利于减少占用的存储空间,还能够使得合成的人脸图像不再受限于采集到的人脸三维模型数据,以合成更加多样化的人脸图像。
需要说明的是,在步骤S202中,可以采用多种方法实现对多个人脸三维模型数据的参数化,本发明实施例对此不作限定。
进一步的,参照图3,参数化的人头三维模型数据包括平均人头三维模型数据和多个残差人头三维模型数据,步骤S102包括以下步骤:
步骤S301,确定多个残差人头三维模型数据分别对应的第一权重值;
步骤S302,根据多个残差人头三维模型数据分别对应的第一权重值、多个残差人头三维模型数据和平均人头三维模型数据,得到人头三维模型。
例如,平均人头三维模型数据通常是指采集到的所有人的平均人头模型,然后将平均人头模型上的点进行不同程度的偏移,即可调整人头模型的形状,从而形成新的人头模型。多个残差人头三维模型数据可以理解为平均人头模型上的多个点的偏移参数。通过对多个残差人头三维模型数据中的每个残差人头三维模型数据赋予不同的权重值,利用这些权重值,可以扩展平均人头模型上的每个点的偏移参数的取值,从而能够在更大范围内调整人头形状,以得到新的人头模型。
也就是将多个残差人头三维模型数据与各自对应的第一权重值相乘后,再与平均人头三维模型数据相加,从而得到人头三维模型。即人头三维模型T=X+W*Y,其中X表示平均人头三维模型数据,W表示多个残差人头三维模型数据矩阵,Y表示多个残差人头三维模型数据对应的权重向量。
进一步的,参照图4,参数化的人脸表情模型数据包括平均人脸表情模型数据和多个残差人脸表情模型数据,步骤S102还包括以下步骤:
步骤S401,确定多个残差人脸表情模型数据分别对应的第二权重值;
步骤S402,根据多个残差人脸表情模型数据分别对应的第二权重值、多个残差人脸表情模型数据和平均人脸表情模型数据,得到人脸表情。
参数化的人脸表情模型数据的原理与上文描述的参数化的人头三维模型数据的原理类似,在此不做赘述。
因此,将多个残差人脸表情模型数据与其对应的第二权重值相乘,再与平均人脸表情模型数据相加,即可得到人脸表情。
进一步的,参照图5,人头材质包括皮肤材质,参数化的人头材质模型数据包括平均皮肤材质数据和和多个残差皮肤材质数据,步骤S102还包括以下步骤:
步骤S501,确定多个残差皮肤材质数据分别对应的第三权重值;
步骤S502,根据多个残差皮肤材质数据分别对应的第三权重值、多个残差皮肤材质数据以及平均皮肤材质数据,得到皮肤材质。
进一步的,参照图6,人头材质包括毛发材质,参数化的人头材质模型数据包括平均毛发材质数据和多个残差毛发材质数据,步骤S102还包括以下步骤:
步骤S601,确定多个残差毛发材质数据分别对应的第四权重值;
步骤S602,根据多个残差毛发材质数据分别对应的第四权重值、多个残差毛发材质数据以及平均毛发材质数据,得到毛发材质。
这里,参数化的人头材质模型数据的原理与上文描述的参数化的人头三维模型数据的原理类似,皮肤材质与毛发材质的获取与上文描述的人头三维模型和人脸表情的获取过程类似,在此不作赘述。
进一步的,参照图7,参数化的环境光照模型数据包括多个环境光照参数,多个环境光照参数为球面调和函数的参数,步骤S102还包括以下步骤:
步骤S701,确定多个环境光照参数分别对应的第五权重值;
步骤S702,根据多个环境光照参数分别对应的第五权重值、多个环境光照参数和球面调和函数,得到环境光照。
在步骤S702中可以采用多种计算方法得到环境光照,本发明实施例对此不作限定。例如,可以将多个环境光照参数与各自对应的第五权重值分别相乘,将相乘后得到的参数再相加,得到新的参数,再将新的参数代入球面调和函数中,得到环境光照。
可选的,所述方法还包括:
当渲染合成的人脸图像的数量达到预设数量阈值时,停止渲染合成新的人脸图像;
或者,
当渲染合成持续的时间达到预设时间阈值时,停止渲染合成新的人脸图像。
具体地,在渲染合成后,得到一张人脸图像,可以通过设定渲染合成的人脸图像的数量或渲染合成人脸图像的持续时间,并重复执行步骤S101至步骤S103,当满足预设数量阈值或预设时间阈值时,停止渲染合成新的人脸图像。
本发明实施例提供了人脸图像合成方法,包括:通过获取参数化的人脸三维模型数据;将获取的参数化的人脸三维模型数据进行处理,得到特征数据;然后将特征数据和获取到的渲染参数通过渲染算法进行渲染合成,得到人脸图像,从而可以通过系统自动合成人脸图像,并进行自动标注人脸特征,能够提高采集效率,并降低成本。
实施例三:
本发明实施例还提供人脸图像合成装置,该人脸图像合成装置主要用于执行本发明实施例上述内容所提供的人脸图像合成方法,以下对本发明实施例提供的人脸图像合成装置做具体介绍。
图8为本发明实施例三提供的人脸图像合成装置示意图。
参照图8,该系统包括获取模块10、处理模块20和渲染合成模块30。
获取模块10,用于获取参数化的人脸三维模型数据,参数化的人脸三维模型数据包括参数化的人头三维模型数据、参数化的人脸表情模型数据、参数化的人头材质模型数据和参数化的环境光照模型数据中的至少一种;
处理模块20,用于将获取模块获取到的参数化的人脸三维模型数据进行处理,得到多个特征数据,特征数据包括人头三维模型、人脸表情、人头材质和环境光照中的至少一种;
渲染合成模块30,用于获取渲染参数,并将渲染参数和特征数据通过渲染算法进行渲染合成,得到人脸图像。
进一步的,参数化的人脸三维模型数据是通过以下方法得到的:
采集多个人脸三维模型数据;
将采集到的所述多个人脸三维模型数据进行参数化,得到所述参数化的人脸三维模型数据。
进一步的,参数化的人头三维模型数据包括平均人头三维模型数据和多个残差人头三维模型数据,处理模块20具体用于:
确定所述多个残差人头三维模型数据分别对应的第一权重值;
根据所述多个残差人头三维模型数据分别对应的所述第一权重值、所述多个残差人头三维模型数据和所述平均人头三维模型数据,得到所述人头三维模型。
进一步的,参数化的人脸表情模型数据包括平均人脸表情模型数据和多个残差人脸表情模型数据,处理模块20具体用于:
确定多个残差人脸表情模型数据分别对应的第二权重值;
根据多个残差人脸表情模型数据分别对应的第二权重值、多个残差人脸表情模型数据和平均人脸表情模型数据,得到人脸表情。
进一步的,人头材质包括皮肤材质,参数化的人头材质模型数据包括平均皮肤材质数据和多个残差皮肤材质数据,处理模块20具体用于:
确定多个残差皮肤材质数据分别对应的第三权重值;
根据多个残差皮肤材质数据分别对应的第三权重值、多个残差皮肤材质数据以及平均皮肤材质数据,得到皮肤材质;
或者,
人头材质包括毛发材质,参数化的人头材质模型数据包括平均毛发材质数据和多个残差毛发材质数据,处理模块20具体用于:
确定多个残差毛发材质数据分别对应的第四权重值;
根据多个残差毛发材质数据分别对应的第四权重值、多个残差毛发材质数据以及平均毛发材质数据,得到毛发材质。
进一步的,参数化的环境光照模型数据包括多个环境光照参数,多个环境光照参数为球面调和函数的参数,处理模块20具体用于:
确定多个环境光照参数分别对应的第五权重值;
根据多个环境光照参数分别对应的第五权重值、多个环境光照参数和球面调和函数,得到环境光照。
进一步的,该装置还包括:
选取模块(未示出),用于从人脸图像渲染算法库中选取渲染算法。
进一步的,渲染合成模块30还用于:
在渲染合成的人脸图像的数量达到预设数量阈值的情况下,停止渲染合成新的人脸图像;
或者,
在渲染合成持续的时间达到预设时间阈值的情况下,停止渲染合成新的人脸图像。
本发明实施例提供了人脸图像合成装置,包括:通过获取参数化的人脸三维模型数据;将获取的参数化的人脸三维模型数据进行处理,得到特征数据;然后将特征数据和获取到的渲染参数通过渲染算法进行渲染合成,得到人脸图像,从而可以通过系统自动合成人脸图像,并进行自动标注人脸特征,能够提高采集效率,并降低成本。
应理解,在一些实施例中,获取模块10、处理模块20和渲染合成模块30还可以由图1所示电子设备100中的处理器102来实现。在另一些实施例中,选取模块也可以由图1所示电子设备100中的处理器102来实现。
本发明实施例提供的人脸图像合成装置,与上述实施例提供的人脸图像合成方法具有相同的技术特征,所以也能解决相同的技术问题,达到相同的技术效果。
本发明实施例所提供的计算机程序产品,包括存储了程序代码的计算机可读存储介质,所述程序代码包括的指令可用于执行前面方法实施例中所述的方法,具体实现可参见方法实施例,在此不再赘述。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统和装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
另外,在本发明实施例的描述中,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
在本发明的描述中,需要说明的是,术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”、“第三”仅用于描述目的,而不能理解为指示或暗示相对重要性。
最后应说明的是:以上所述实施例,仅为本发明的具体实施方式,用以说明本发明的技术方案,而非对其限制,本发明的保护范围并不局限于此,尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应所述以权利要求的保护范围为准。

Claims (18)

1.一种人脸图像合成方法,其特征在于,所述方法包括:
获取参数化的人脸三维模型数据,所述参数化的人脸三维模型数据包括参数化的人头三维模型数据、参数化的人脸表情模型数据、参数化的人头材质模型数据和参数化的环境光照模型数据中的至少一种;
将所述参数化的人脸三维模型数据进行处理,得到特征数据,所述特征数据包括人头三维模型、人脸表情、人头材质和环境光照中的至少一种;
获取渲染参数,并将所述渲染参数和所述特征数据通过渲染算法进行渲染合成,得到人脸图像。
2.根据权利要求1所述的人脸图像合成方法,其特征在于,所述参数化的人脸三维模型数据是通过以下方法得到的:
采集多个人脸三维模型数据;
将所述多个人脸三维模型数据进行参数化,得到所述参数化的人脸三维模型数据。
3.根据权利要求1或2所述的人脸图像合成方法,其特征在于,所述参数化的人头三维模型数据包括平均人头三维模型数据和多个残差人头三维模型数据,所述将所述参数化的人脸三维模型数据进行处理,得到特征数据,包括:
确定所述多个残差人头三维模型数据分别对应的第一权重值;
根据所述多个残差人头三维模型数据分别对应的所述第一权重值、所述多个残差人头三维模型数据和所述平均人头三维模型数据,得到所述人头三维模型。
4.根据权利要求1或2所述的人脸图像合成方法,其特征在于,所述参数化的人脸表情模型数据包括平均人脸表情模型数据和多个残差人脸表情模型数据,所述将所述参数化的人脸三维模型数据进行处理,得到特征数据,包括:
确定所述多个残差人脸表情模型数据分别对应的第二权重值;
根据所述多个残差人脸表情模型数据分别对应的所述第二权重值、所述多个残差人脸表情模型数据和所述平均人脸表情模型数据,得到所述人脸表情。
5.根据权利要求1或2所述的人脸图像合成方法,其特征在于,
所述人头材质包括皮肤材质,所述参数化的人头材质模型数据包括平均皮肤材质数据和多个残差皮肤材质数据,所述将所述参数化的人脸三维模型数据进行处理,得到特征数据,包括:
确定所述多个残差皮肤材质数据分别对应的第三权重值;
根据所述多个残差皮肤材质数据分别对应的所述第三权重值、所述多个残差皮肤材质数据以及所述平均皮肤材质数据,得到所述皮肤材质;
或者,
所述人头材质包括毛发材质,所述参数化的人头材质模型数据包括平均毛发材质数据和多个残差毛发材质数据,所述将所述参数化的人脸三维模型数据进行处理,得到特征数据,包括:
确定所述多个残差毛发材质数据分别对应的第四权重值;
根据所述多个残差毛发材质数据分别对应的所述第四权重值、所述多个残差毛发材质数据以及所述平均毛发材质数据,得到所述毛发材质。
6.根据权利要求1或2所述的人脸图像合成方法,其特征在于,所述参数化的环境光照模型数据包括多个环境光照参数,所述多个环境光照参数为球面调和函数的参数,所述将所述参数化的人脸三维模型数据进行处理,得到特征数据,包括:
确定所述多个环境光照参数分别对应的第五权重值;
根据所述多个环境光照参数分别对应的所述第五权重值、所述多个环境光照参数和所述球面调和函数,得到所述环境光照。
7.根据权利要求1或2所述的人脸图像合成方法,其特征在于,所述方法还包括:
从人脸图像渲染算法库中选取所述渲染算法。
8.根据权利要求1或2所述的人脸图像合成方法,其特征在于,所述方法还包括:
当渲染合成的人脸图像的数量达到预设数量阈值时,停止渲染合成新的人脸图像;
或者,
当渲染合成持续的时间达到预设时间阈值时,停止渲染合成新的人脸图像。
9.一种人脸图像合成装置,其特征在于,所述装置包括:
获取模块,用于获取参数化的人脸三维模型数据,所述参数化的人脸三维模型数据包括参数化的人头三维模型数据、参数化的人脸表情模型数据、参数化的人头材质模型数据和参数化的环境光照模型数据中的至少一种;
处理模块,用于将所述获取模块获取到的所述参数化的人脸三维模型数据进行处理,得到多个特征数据,所述特征数据包括人头三维模型、人脸表情、人头材质和环境光照中的至少一种;
渲染合成模块,用于获取渲染参数,并将所述渲染参数和所述特征数据通过渲染算法进行渲染合成,得到人脸图像。
10.根据权利要求9所述的人脸图像合成装置,其特征在于,所述参数化的人脸三维模型数据是通过以下方法得到的:
采集多个人脸三维模型数据;
将采集到的所述多个人脸三维模型数据进行参数化,得到所述参数化的人脸三维模型数据。
11.根据权利要求9或10所述的人脸图像合成装置,其特征在于,所述参数化的人头三维模型数据包括平均人头三维模型数据和多个残差人头三维模型数据,所述处理模块具体用于:
确定所述多个残差人头三维模型数据分别对应的第一权重值;
根据所述多个残差人头三维模型数据分别对应的所述第一权重值、所述多个残差人头三维模型数据和所述平均人头三维模型数据,得到所述人头三维模型。
12.根据权利要求9或10所述的人脸图像合成装置,其特征在于,所述参数化的人脸表情模型数据包括平均人脸表情模型数据和多个残差人脸表情模型数据,所述处理模块具体用于:
确定所述多个残差人脸表情模型数据分别对应的第二权重值;
根据所述多个残差人脸表情模型数据分别对应的所述第二权重值、所述多个残差人脸表情模型数据和所述平均人脸表情模型数据,得到所述人脸表情。
13.根据权利要求9或10所述的人脸图像合成装置,其特征在于,所述人头材质包括皮肤材质,所述参数化的人头材质模型数据包括平均皮肤材质数据和多个残差皮肤材质数据,所述处理模块具体用于:
确定所述多个残差皮肤材质数据分别对应的第三权重值;
根据所述多个残差皮肤材质数据分别对应的所述第三权重值、所述多个残差皮肤材质数据以及所述平均皮肤材质数据,得到所述皮肤材质;
或者,
所述人头材质包括毛发材质,所述参数化的人头材质模型数据包括平均毛发材质数据和多个残差毛发材质数据,所述处理模块具体用于:
确定所述多个残差毛发材质数据分别对应的第四权重值;
根据所述多个残差毛发材质数据分别对应的所述第四权重值、所述多个残差毛发材质数据以及所述平均毛发材质数据,得到所述毛发材质。
14.根据权利要求9或10所述的人脸图像合成装置,其特征在于,所述参数化的环境光照模型数据包括多个环境光照参数,所述多个环境光照参数为球面调和函数的参数,所述处理模块具体用于:
确定所述多个环境光照参数分别对应的第五权重值;
根据所述多个环境光照参数分别对应的所述第五权重值、所述多个环境光照参数和所述球面调和函数,得到所述环境光照。
15.根据权利要求9或10所述的人脸图像合成装置,其特征在于,所述装置还包括:
选取模块,用于从人脸图像渲染算法库中选取所述渲染算法。
16.根据权利要求9或10所述的人脸图像合成装置,其特征在于,所述渲染合成模块还用于:
在渲染合成的人脸图像的数量达到预设数量阈值的情况下,停止渲染合成新的人脸图像;
或者,
在渲染合成持续的时间达到预设时间阈值的情况下,停止渲染合成新的人脸图像。
17.一种电子设备,包括存储器和处理器,所述存储器中存储有可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现上述权利要求1至8中任一项所述的方法的步骤。
18.一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,其特征在于,所述计算机程序被处理器运行时执行上述权利要求1至8中任一项所述的方法的步骤。
CN201710949855.2A 2017-10-12 2017-10-12 人脸图像合成方法和装置 Expired - Fee Related CN107644455B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710949855.2A CN107644455B (zh) 2017-10-12 2017-10-12 人脸图像合成方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710949855.2A CN107644455B (zh) 2017-10-12 2017-10-12 人脸图像合成方法和装置

Publications (2)

Publication Number Publication Date
CN107644455A true CN107644455A (zh) 2018-01-30
CN107644455B CN107644455B (zh) 2022-02-22

Family

ID=61123147

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710949855.2A Expired - Fee Related CN107644455B (zh) 2017-10-12 2017-10-12 人脸图像合成方法和装置

Country Status (1)

Country Link
CN (1) CN107644455B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108876894A (zh) * 2018-02-01 2018-11-23 北京旷视科技有限公司 三维人脸模型和三维人头模型生成方法和生成装置
CN108898068A (zh) * 2018-06-06 2018-11-27 腾讯科技(深圳)有限公司 一种人脸图像的处理方法和装置以及计算机可读存储介质
CN113011277A (zh) * 2021-02-25 2021-06-22 日立楼宇技术(广州)有限公司 基于人脸识别的数据处理方法、装置、设备及介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101004791A (zh) * 2007-01-19 2007-07-25 赵力 一种基于二维偏最小二乘法的面部表情识别方法
US20070229498A1 (en) * 2006-03-29 2007-10-04 Wojciech Matusik Statistical modeling for synthesis of detailed facial geometry
CN101216889A (zh) * 2008-01-14 2008-07-09 浙江大学 一种融合全局特征与局部细节信息的人脸图像超分辨率方法
CN101976453A (zh) * 2010-09-26 2011-02-16 浙江大学 一种基于gpu的三维人脸表情合成方法
CN105160312A (zh) * 2015-08-27 2015-12-16 南京信息工程大学 基于人脸相似度匹配的明星脸装扮推荐方法
WO2016011834A1 (zh) * 2014-07-23 2016-01-28 邢小月 一种图像处理方法及系统
CN106910247A (zh) * 2017-03-20 2017-06-30 厦门幻世网络科技有限公司 用于生成三维头像模型的方法和装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070229498A1 (en) * 2006-03-29 2007-10-04 Wojciech Matusik Statistical modeling for synthesis of detailed facial geometry
CN101004791A (zh) * 2007-01-19 2007-07-25 赵力 一种基于二维偏最小二乘法的面部表情识别方法
CN101216889A (zh) * 2008-01-14 2008-07-09 浙江大学 一种融合全局特征与局部细节信息的人脸图像超分辨率方法
CN101976453A (zh) * 2010-09-26 2011-02-16 浙江大学 一种基于gpu的三维人脸表情合成方法
WO2016011834A1 (zh) * 2014-07-23 2016-01-28 邢小月 一种图像处理方法及系统
CN105160312A (zh) * 2015-08-27 2015-12-16 南京信息工程大学 基于人脸相似度匹配的明星脸装扮推荐方法
CN106910247A (zh) * 2017-03-20 2017-06-30 厦门幻世网络科技有限公司 用于生成三维头像模型的方法和装置

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
LI H 等: "Guided face cartoon synthesis", 《IEEE TRANSACTIONS ON MULTIMEDIA》 *
吉娜烨 等: "局部回归模型驱动的人脸素描自动生成", 《计算机辅助设计与图形学学报》 *
吕小彪 等: "《SketchUp建筑建模教程》", 31 May 2017 *
韩松 等: "GPU加速的三维人脸真实表情合成", 《计算机辅助设计与图形学学报》 *
高娅莉: "基于Blendshape的人脸表情动画生成的研究与实现", 《万方数据库》 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108876894A (zh) * 2018-02-01 2018-11-23 北京旷视科技有限公司 三维人脸模型和三维人头模型生成方法和生成装置
CN108898068A (zh) * 2018-06-06 2018-11-27 腾讯科技(深圳)有限公司 一种人脸图像的处理方法和装置以及计算机可读存储介质
CN113011277A (zh) * 2021-02-25 2021-06-22 日立楼宇技术(广州)有限公司 基于人脸识别的数据处理方法、装置、设备及介质
CN113011277B (zh) * 2021-02-25 2023-11-21 日立楼宇技术(广州)有限公司 基于人脸识别的数据处理方法、装置、设备及介质

Also Published As

Publication number Publication date
CN107644455B (zh) 2022-02-22

Similar Documents

Publication Publication Date Title
CN109325437B (zh) 图像处理方法、装置和系统
CN106778928B (zh) 图像处理方法及装置
CN109242961B (zh) 一种脸部建模方法、装置、电子设备和计算机可读介质
CN107993216B (zh) 一种图像融合方法及其设备、存储介质、终端
CN110148102B (zh) 图像合成方法、广告素材合成方法及装置
CN107944420B (zh) 人脸图像的光照处理方法和装置
CN112288665B (zh) 图像融合的方法、装置、存储介质及电子设备
CN112419170A (zh) 遮挡检测模型的训练方法及人脸图像的美化处理方法
CN110072046B (zh) 图像合成方法和装置
CN111597884A (zh) 面部动作单元识别方法、装置、电子设备及存储介质
CN107644455B (zh) 人脸图像合成方法和装置
CN107369174A (zh) 一种人脸图像的处理方法及计算设备
JP2022550948A (ja) 3次元顔モデル生成方法、装置、コンピュータデバイス及びコンピュータプログラム
CN115601484B (zh) 虚拟人物面部驱动方法、装置、终端设备和可读存储介质
CN111640165A (zh) Ar合影图像的获取方法、装置、计算机设备及存储介质
CN111382791B (zh) 深度学习任务处理方法、图像识别任务处理方法和装置
CN110647859B (zh) 人脸图像分解方法和装置、电子设备及存储介质
CN114359471A (zh) 脸部图像的处理方法、装置和系统
CN115984447A (zh) 图像渲染方法、装置、设备和介质
CN114612614A (zh) 人体模型的重建方法、装置、计算机设备及存储介质
CN109376618B (zh) 图像处理方法、装置及电子设备
CN113194256B (zh) 拍摄方法、装置、电子设备和存储介质
CN109785439A (zh) 人脸素描图像生成方法及相关产品
CN113642359B (zh) 人脸图像生成方法、装置、电子设备及存储介质
CN110766631A (zh) 人脸图像的修饰方法、装置、电子设备和计算机可读介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20220222