CN112541958B - 三维人脸的参数化建模方法和装置 - Google Patents

Abstract

本申请提出一种三维人脸的参数化建模方法和装置，涉及图像处理技术领域，其中，方法包括：对每一人脸图像进行局部分区，建立每个人脸局部分区对应的局部训练编码器；从预先建立的偏置贴图中获取每一人脸图像对应的人脸偏置贴图，通过局部训练编码器分别对人脸偏置贴图进行编码，获取低维度特征向量；通过训练解码器对低维度特征向量、每一人脸图像对应的标注年龄和表情进行处理，获取重建偏置贴图；根据重建偏置贴图和人脸偏置贴图的误差对局部训练编码器和训练解码器的参数进行调整。由此，可以拟合低质量的人脸扫描数据恢复高质量的细节，生成的细节应用到双线性模型上，生成带细节的人脸动画。

Description

三维人脸的参数化建模方法和装置

技术领域

本申请涉及图像处理技术领域，尤其涉及一种三维人脸的参数化建模方法和装置。

背景技术

通常，在三维人脸动画的制作过程中，皱纹等几何细节能够传达人脸角色的年龄、表情、身份等细微信息，具有重要的意义。现有的人脸建模技术大多使用线性的模型，不能精确的建模非线性的皱纹产生过程。皱纹分布在人脸的特定局部区域，不同区域之间的皱纹显现较低的相关性，而现有的建模技术大多是全局建模技术，会使建模的皱纹在区域间出现耦合，进而在动画生成时出现不自然的现象。

相关技术中，生成的人脸动画对应的几何细节不够准确。

发明内容

本申请旨在至少在一定程度上解决相关技术中的技术问题之一。

为此，本申请的第一个目的在于提出一种三维人脸的参数化建模方法，一个对人脸皱纹细节进行建模的方法，给定一些皱纹细节数据集能够建立人脸细节的参数化模型，能够生成新的皱纹样本，也可以拟合低质量的人脸扫描数据恢复高质量的细节，生成的细节可以应用到双线性模型上，生成带细节的人脸动画。

本申请的第二个目的在于提出一种三维人脸的参数化建模装置。

为达上述目的，本申请第一方面实施例提出了一种三维人脸的参数化建模方法，包括：

对每一人脸图像进行局部分区，建立每个人脸局部分区对应的局部训练编码器；

从预先建立的偏置贴图中获取每一人脸图像对应的人脸偏置贴图，通过所述局部训练编码器分别对所述人脸偏置贴图进行编码，获取低维度特征向量；

通过训练解码器对所述低维度特征向量、所述每一人脸图像对应的标注年龄和表情进行处理，获取重建偏置贴图；

根据所述重建偏置贴图和所述人脸偏置贴图的误差对所述局部训练编码器和所述训练解码器的参数进行调整。

本申请实施例的三维人脸的参数化建模方法，通过对每一人脸图像进行局部分区，建立每个人脸局部分区对应的局部训练编码器；从预先建立的偏置贴图中获取每一人脸图像对应的人脸偏置贴图，通过局部训练编码器分别对人脸偏置贴图进行编码，获取低维度特征向量；通过训练解码器对低维度特征向量、每一人脸图像对应的标注年龄和表情进行处理，获取重建偏置贴图；根据重建偏置贴图和人脸偏置贴图的误差对局部训练编码器和训练解码器的参数进行调整。由此，可以拟合低质量的人脸扫描数据恢复高质量的细节，生成的细节应用到双线性模型上，生成带细节的人脸动画。

在本申请的一个实施例中，在所述对每一人脸图像进行局部分区之前，还包括：

获取人脸图像数据样本，并获取所述人脸图像数据样本对应的标注年龄和表情；

使用注册算法将所述人脸图像数据样本进行统一参数化后转换为人脸网格模型，并对所述人脸网格模型进行贴图处理，生成所述偏置贴图。

在本申请的一个实施例中，所述对所述人脸网格模型进行贴图处理，生成偏置贴图，包括：

对所述人脸网格模型进行贴图展开，将所述人脸网格模型的每个顶点映射到贴图空间；

将所述人脸图像数据样本相对于所述人脸网格模型的差映射到所述贴图空间，保存在所述偏置贴图中。

在本申请的一个实施例中，所述的方法，还包括：

从变分自动编码器的先验分布中进行采样，获取一个采样的身份系数和年龄，并在整个动画序列中固定所述身份系数和所述年龄；

从双线性人脸模型中提取中每帧动画的表情系数，将所述身份系数、所述年龄、所述表情系数输入解码器，获取每帧动画的偏置贴图样本。

在本申请的一个实施例中，所述三维人脸的参数化建模方法，还包括：

获取待处理人脸图像扫描数据；

对所述待处理人脸图像扫描数据进行拉普拉斯平滑处理，将所述待处理人脸图像扫描数据与平滑后的扫描数据的差映射到贴图空间，保存在所述偏置贴图中。

为达上述目的，本申请第二方面实施例提出了一种三维人脸的参数化建模装置，包括：

建立模块，用于对每一人脸图像进行局部分区，建立每个人脸局部分区对应的局部训练编码器；

第一获取模块，用于从预先建立的偏置贴图中获取每一人脸图像对应的人脸偏置贴图，通过所述局部训练编码器分别对所述人脸偏置贴图进行编码，获取低维度特征向量；

处理模块，用于通过训练解码器对所述低维度特征向量、所述每一人脸图像对应的标注年龄和表情进行处理，获取重建偏置贴图；

训练模块，用于根据所述重建偏置贴图和所述人脸偏置贴图的误差对所述局部训练编码器和所述训练解码器的参数进行调整。

本申请实施例的三维人脸的参数化建模装置，通过对每一人脸图像进行局部分区，建立每个人脸局部分区对应的局部训练编码器；从预先建立的偏置贴图中获取每一人脸图像对应的人脸偏置贴图，通过局部训练编码器分别对人脸偏置贴图进行编码，获取低维度特征向量；通过训练解码器对低维度特征向量、每一人脸图像对应的标注年龄和表情进行处理，获取重建偏置贴图；根据重建偏置贴图和人脸偏置贴图的误差对局部训练编码器和训练解码器的参数进行调整。由此，可以拟合低质量的人脸扫描数据恢复高质量的细节，生成的细节应用到双线性模型上，生成带细节的人脸动画。

本申请附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。

附图说明

本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

图1为本申请实施例一所提供的一种三维人脸的参数化建模方法的流程示意图；

图2为本申请实施例所提供的一种三维人脸的参数化建模装置的结构示意图。

具体实施方式

下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本申请，而不能理解为对本申请的限制。

下面参考附图描述本申请实施例的三维人脸的参数化建模方法和装置。

图1为本申请实施例一所提供的一种三维人脸的参数化建模方法的流程示意图。

如图1所示，该三维人脸的参数化建模方法包括以下步骤：

步骤101，对每一人脸图像进行局部分区，建立每个人脸局部分区对应的局部训练编码器。

在本申请实施例中，在对每一人脸图像进行局部分区之前，还包括：获取人脸图像数据样本，并获取人脸图像数据样本对应的标注年龄和表情；使用相关技术中的人脸非刚性变形算法将一个统一的人脸模板网格拟合到人脸扫描数据上，将人脸扫描的拓扑转化成人脸模板的拓扑，完成注册，即通过注册算法将所述人脸图像数据样本进行统一参数化后转换为人脸网格模型，并对人脸网格模型进行贴图处理，生成偏置贴图。

在本申请实施例中，根据人脸模板上的贴图坐标，在Maya动画软件中将高精人脸扫描数据与注册后的人脸之间的顶点位移投射到贴图空间，烘焙出偏置贴图对人脸网格模型进行贴图处理，生成偏置贴图，包括：对人脸网格模型进行贴图展开，将人脸网格模型的每个顶点映射到贴图空间；将人脸图像数据样本相对于人脸网格模型的差映射到贴图空间，保存在偏置贴图中。

具体地，对于不同身份、不同表情的高精度人脸扫描数据，可以统一参数化为光滑低精度的人脸网格模型，将高精扫描数据与低模的差保存在一个贴图中。贴图每个像素存放在对应的表面位置沿着表面法向的移动，即皱纹细节。

更具体地，使用多视角重建方法采集一定数据的人脸扫描数据，并标注每个人脸数据的年龄和表情。使用注册算法将人脸扫描数据统一参数化，转为具有统一贴图的同拓扑人脸网格模型。对参数化后的网格模型进行贴图展开，将每个顶点映射到贴图空间。将高精人脸扫描数据相对于低模人脸模型的差映射到贴图空间，保存在偏置贴图中，偏置贴图是单通道的灰度图，将人脸模型的顶点沿着法向移动偏置贴图中保存的距离，即可产生人脸皱纹的细节偏置贴图的值即保存着人脸的皱纹细节。

在本申请实施例中，先由动画师构建一套通用的人脸混合系数的表情基，根据表情基的激活区域确定容易产生皱纹的区域，将每个表情基激活的区域作为一个皱纹分区，对每个分区，使用独立的自编码器模型建模这个贴图块。将人脸按照运动进行局部分区，对每个人脸分区建立局部自编码器模型，和全局模型相比在相同的参数量下可以提升表达细节的精细程度。

步骤102，从预先建立的偏置贴图中获取每一人脸图像对应的人脸偏置贴图，通过所述局部训练编码器分别对人脸偏置贴图进行编码，获取低维度特征向量。

步骤103，通过训练解码器对所述低维度特征向量、每一人脸图像对应的标注年龄和表情进行处理，获取重建偏置贴图。

步骤104，根据重建偏置贴图和人脸偏置贴图的误差对局部训练编码器和训练解码器的参数进行调整。

在本申请实施例中，对于对齐的人脸偏置贴图数据，可以用条件变分自编码器在数据上训练，得到对贴图进行降维的编码器网络和进行重建的解码器网络。编码器网络能够对偏置贴图得到低维的特征表示，而对特征表示进行采样或者插值后，可以用解码器生成新的偏置贴图。

具体地，使用卷积条件自编码器对人脸偏置贴图进行编码。编码器输入人脸偏置贴图，回归出低维的特征表示，解码器输入特征表示和年龄、表情标注信息，输出重建后的偏置贴图。算法通过最小化输入贴图和重建结果的重建误差，以及特征表示与先验分布的分布距离来进行训练。

也就是说，一个条件变分自编码器，在有年龄、表情标注的人脸偏置贴图数据集上进行训练，以年龄、表情作为能控制生成结果的有明确语义的参数，训练编码器网络从偏置贴图回归出能表达该贴图的低维特征向量，同时训练解码器从低维特征向量重建出原本的偏置贴图，可以为光滑的人脸模型和人脸三维动画进行皱纹细节增强。

具体地，对于一段用双线性人脸模型表示的人脸动画，可以用得到的细节参数模型进行细节增强。从变分自动编码器的先验分布中进行采样，得到一个采样的身份系数和年龄，并在整个动画序列中固定该身份系数和年龄。从双线性人脸模型中提取中每帧动画的表情系数，将身份、表情、年龄系数输入解码器，即可得到每帧动画的偏置贴图样本。将生成的偏置贴图添加到双线性模型生成结果上，即可得到带细节的三维人脸，实现对平滑的三维人脸动画进行细节增强。

在本申请实施例中，获取待处理人脸图像扫描数据；对待处理人脸图像扫描数据进行拉普拉斯平滑处理，将待处理人脸图像扫描数据与平滑后的扫描数据的差映射到贴图空间，保存在偏置贴图中。

具体地，对于表面带有噪声的人脸扫描数据，可以利用本申请提出的细节参数化模型提取出细节并去除噪声，用3DMM拟合人脸扫描数据，此时贴图空间中同时存储了皱纹信息和扫描噪声，可以使用细节模型去除噪声，提取出皱纹信息。对人脸扫描数据进行拉普拉斯平滑处理，将原扫描数据与平滑后的扫描数据的差映射到贴图空间，将人脸细节和噪声都保存进输入的偏置贴图中，求解最优的特征表示向量，使该特征向量经过解码器解码后，解码结果与输入偏置贴图尽量接近。由于从低维特征向量解码出的偏置贴图不会带有噪声，可以通过解非线性方程组求解出最优的特征向量，使解码结果既能恢复输入中的皱纹细节，又能去掉输入中的噪声。将最终的解码结果添加到平滑后的扫描数据上，即可得到有细节但去除的噪声的人脸扫描数据。

本申请实施例的三维人脸的参数化建模方法，通过对每一人脸图像进行局部分区，建立每个人脸局部分区对应的局部训练编码器；从预先建立的偏置贴图中获取每一人脸图像对应的人脸偏置贴图，通过局部训练编码器分别对人脸偏置贴图进行编码，获取低维度特征向量；通过训练解码器对低维度特征向量、每一人脸图像对应的标注年龄和表情进行处理，获取重建偏置贴图；根据重建偏置贴图和人脸偏置贴图的误差对局部训练编码器和训练解码器的参数进行调整。由此，可以拟合低质量的人脸扫描数据恢复高质量的细节，生成的细节应用到双线性模型上，生成带细节的人脸动画。

为了实现上述实施例，本申请还提出一种三维人脸的参数化建模装置。

图2为本申请实施例提供的一种三维人脸的参数化建模装置的结构示意图。

如图2所示，该三维人脸的参数化建模装置包括：建立模块210、第一获取模块220处理模块230和训练模块240。

建立模块210，用于对每一人脸图像进行局部分区，建立每个人脸局部分区对应的局部训练编码器。

第一获取模块220，用于从预先建立的偏置贴图中获取每一人脸图像对应的人脸偏置贴图，通过所述局部训练编码器分别对所述人脸偏置贴图进行编码，获取低维度特征向量。

处理模块230，用于通过训练解码器对所述低维度特征向量、所述每一人脸图像对应的标注年龄和表情进行处理，获取重建偏置贴图。

训练模块240，用于根据所述重建偏置贴图和所述人脸偏置贴图的误差对所述局部训练编码器和所述训练解码器的参数进行调整。

本申请实施例的三维人脸的参数化建模装置，通过对每一人脸图像进行局部分区，建立每个人脸局部分区对应的局部训练编码器；从预先建立的偏置贴图中获取每一人脸图像对应的人脸偏置贴图，通过局部训练编码器分别对人脸偏置贴图进行编码，获取低维度特征向量；通过训练解码器对低维度特征向量、每一人脸图像对应的标注年龄和表情进行处理，获取重建偏置贴图；根据重建偏置贴图和人脸偏置贴图的误差对局部训练编码器和训练解码器的参数进行调整。由此，可以拟合低质量的人脸扫描数据恢复高质量的细节，生成的细节应用到双线性模型上，生成带细节的人脸动画。

需要说明的是，前述对三维人脸的参数化建模方法实施例的解释说明也适用于该实施例的三维人脸的参数化建模装置，此处不再赘述。

在本申请实施例中，第二获取模块，用于获取人脸图像数据样本，并获取所述人脸图像数据样本对应的标注年龄和表情；

转换模块，用于使用注册算法将所述人脸图像数据样本进行统一参数化后转换为人脸网格模型，并对所述人脸网格模型进行贴图处理，生成所述偏置贴图。

在本申请实施例中，所述转换模块，具体用于：

对所述人脸网格模型进行贴图展开，将所述人脸网格模型的每个顶点映射到贴图空间；

将所述人脸图像数据样本相对于所述人脸网格模型的差映射到所述贴图空间，保存在所述偏置贴图中。

在本申请实施例中，第三获取模块，用于从变分自动编码器的先验分布中进行采样，获取一个采样的身份系数和年龄，并在整个动画序列中固定所述身份系数和所述年龄；从双线性人脸模型中提取中每帧动画的表情系数，将所述身份系数、所述年龄、所述表情系数输入解码器，获取每帧动画的偏置贴图样本。

在本申请实施例中，第四获取模块，用于获取待处理人脸图像扫描数据；

保存模块，用于对所述待处理人脸图像扫描数据进行拉普拉斯平滑处理，将所述待处理人脸图像扫描数据与平滑后的扫描数据的差映射到贴图空间，保存在所述偏置贴图中。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本申请的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本申请的实施例所属技术领域的技术人员所理解。

在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。

应当理解，本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本申请各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本申请的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本申请的限制，本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (6)

1.一种三维人脸的参数化建模方法，其特征在于，包括以下步骤：

对每一人脸图像进行局部分区，建立每个人脸局部分区对应的局部训练编码器；

从预先建立的偏置贴图中获取每一人脸图像对应的人脸偏置贴图，通过所述局部训练编码器分别对所述人脸偏置贴图进行编码，获取低维度特征向量；

通过训练解码器对所述低维度特征向量、所述每一人脸图像对应的标注年龄和表情进行处理，获取重建偏置贴图；

根据所述重建偏置贴图和所述人脸偏置贴图的误差对所述局部训练编码器和所述训练解码器的参数进行调整；

其中，在所述对每一人脸图像进行局部分区之前，还包括：

获取人脸图像数据样本，并获取所述人脸图像数据样本对应的标注年龄和表情；

使用注册算法将所述人脸图像数据样本进行统一参数化后转换为人脸网格模型，并对所述人脸网格模型进行贴图处理，生成所述偏置贴图；

其中，所述对所述人脸网格模型进行贴图处理，生成偏置贴图，包括：

对所述人脸网格模型进行贴图展开，将所述人脸网格模型的每个顶点映射到贴图空间；

将所述人脸图像数据样本相对于所述人脸网格模型的差映射到所述贴图空间，保存在所述偏置贴图中。

2.如权利要求1所述的方法，其特征在于，还包括：

从变分自动编码器的先验分布中进行采样，获取一个采样的身份系数和年龄，并在整个动画序列中固定所述身份系数和所述年龄；

从双线性人脸模型中提取中每帧动画的表情系数，将所述身份系数、所述年龄、所述表情系数输入解码器，获取每帧动画的偏置贴图样本。

3.如权利要求1所述的方法，其特征在于，还包括：

获取待处理人脸图像扫描数据；

对所述待处理人脸图像扫描数据进行拉普拉斯平滑处理，将所述待处理人脸图像扫描数据与平滑后的扫描数据的差映射到贴图空间，保存在所述偏置贴图中。

4.一种三维人脸的参数化建模装置，其特征在于，所述装置包括：

建立模块，用于对每一人脸图像进行局部分区，建立每个人脸局部分区对应的局部训练编码器；

第一获取模块，用于从预先建立的偏置贴图中获取每一人脸图像对应的人脸偏置贴图，通过所述局部训练编码器分别对所述人脸偏置贴图进行编码，获取低维度特征向量；

处理模块，用于通过训练解码器对所述低维度特征向量、所述每一人脸图像对应的标注年龄和表情进行处理，获取重建偏置贴图；

训练模块，用于根据所述重建偏置贴图和所述人脸偏置贴图的误差对所述局部训练编码器和所述训练解码器的参数进行调整；

其中，所述装置还包括：

第二获取模块，用于获取人脸图像数据样本，并获取所述人脸图像数据样本对应的标注年龄和表情；

转换模块，用于使用注册算法将所述人脸图像数据样本进行统一参数化后转换为人脸网格模型，并对所述人脸网格模型进行贴图处理，生成所述偏置贴图；

其中，所述转换模块，具体用于：

对所述人脸网格模型进行贴图展开，将所述人脸网格模型的每个顶点映射到贴图空间；

将所述人脸图像数据样本相对于所述人脸网格模型的差映射到所述贴图空间，保存在所述偏置贴图中。

5.如权利要求4所述的装置，其特征在于，还包括：

第三获取模块，用于从变分自动编码器的先验分布中进行采样，获取一个采样的身份系数和年龄，并在整个动画序列中固定所述身份系数和所述年龄，从双线性人脸模型中提取中每帧动画的表情系数，将所述身份系数、所述年龄、所述表情系数输入解码器，获取每帧动画的偏置贴图样本。

6.如权利要求4所述的装置，其特征在于，还包括：

第四获取模块，用于获取待处理人脸图像扫描数据；

保存模块，用于对所述待处理人脸图像扫描数据进行拉普拉斯平滑处理，将所述待处理人脸图像扫描数据与平滑后的扫描数据的差映射到贴图空间，保存在所述偏置贴图中。

Images