CN113256799A - 一种三维人脸模型训练方法和装置 - Google Patents

一种三维人脸模型训练方法和装置 Download PDF

Info

Publication number
CN113256799A
CN113256799A CN202110631221.9A CN202110631221A CN113256799A CN 113256799 A CN113256799 A CN 113256799A CN 202110631221 A CN202110631221 A CN 202110631221A CN 113256799 A CN113256799 A CN 113256799A
Authority
CN
China
Prior art keywords
dimensional face
adjusted
contour
face model
points
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110631221.9A
Other languages
English (en)
Inventor
芦爱余
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangzhou Huya Technology Co Ltd
Original Assignee
Guangzhou Huya Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangzhou Huya Technology Co Ltd filed Critical Guangzhou Huya Technology Co Ltd
Priority to CN202110631221.9A priority Critical patent/CN113256799A/zh
Publication of CN113256799A publication Critical patent/CN113256799A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/181—Segmentation; Edge detection involving edge growing; involving edge linking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10028—Range image; Depth image; 3D point clouds
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30196—Human being; Person
    • G06T2207/30201—Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本发明的实施例提供了一种三维人脸模型训练方法及装置，方法包括：计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息；将损失惩罚项信息输入三维人脸重建网络，以获得更新后的待调整三维人脸模型；返回执行计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤，直至最新的损失惩罚项信息满足轮廓贴合条件。通过待调整三维人脸模型中的特征点与标准三维人脸模型中的特征点，反复迭代计算损失惩罚项信息，增强三维人脸重建网络对轮廓点的学习，从而构建出的三维人脸模型的边缘轮廓点与标准轮廓点尽可能的贴合。

Description

一种三维人脸模型训练方法和装置
技术领域
本发明涉及三维人脸重建技术领域，具体而言，涉及一种三维人脸模型训练方法和装置。
背景技术
随着人工智能和三维技术的发展，出现了三维人脸重建技术，三维人脸重建是计算机视觉和计算机图形学的一个重要研究课题，广泛应用于人脸识别、人机交互、人脸表情驱动、AI(Artificial Intelligence，人工智能)三维动画效果领域。
目前，在很多应用程序中，用户使用三维动画特效，在人脸角度偏转较大时，三维动画效果与人脸不贴合。
发明内容
本发明的目的包括，例如，提供了一种三维人脸模型训练方法和装置，其能够解决在人脸角度偏转较大时，三维动画效果与人脸不贴合的问题。
为了实现上述目的，本申请实施例采用的技术方案如下：
第一方面，本申请实施例提供了一种三维人脸模型训练方法，所述方法包括：
计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息，所述待调整轮廓点为未标记训练图像经三维人脸重建网络生成的待调整三维人脸模型中的特征点；所述标准轮廓点基于已标记图像生成的标准三维人脸模型中的特征点；所述未标记训练图像与所述已标记图像的视觉内容一致；
将所述损失惩罚项信息输入所述三维人脸重建网络，以获得更新后的待调整三维人脸模型；
返回执行所述计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤，直至最新的损失惩罚项信息满足轮廓贴合条件。
在可选的实施方式中，所述损失惩罚项信息为五官特征点的损失惩罚项信息，当所述未标记训练图像为正视图时，则所述计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤包括：
计算待调整轮廓点与对应的标准轮廓点的五官特征点的损失惩罚项信息，其中，待调整轮轮廓点为所述三维人脸重建网络生成的待调整三维人脸模型中的五官特征点，标准轮廓点为基于已标记图像生成的标准三维人脸模型中的五官特征点，所述五官特征点的损失惩罚项信息为待调整三维人脸模型中的五官特征点与标准三维人脸模型中的五官特征点的差异；
所述将所述损失惩罚项信息输入所述三维人脸重建网络，以获得更新后的待调整三维人脸模型的步骤，包括：
将所述五官特征点的损失惩罚项信息输入所述三维人脸重建网络，以获得更新后的待调整三维人脸模型。
在可选的实施方式中，所述损失惩罚项信息包括五官特征点的损失惩罚项信息和轮廓点的损失惩罚项信息，当所述未标记训练图像为侧视图时，则所述计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤包括：
计算待调整轮廓点与对应的标准轮廓点的轮廓点的损失惩罚项信息；
计算待调整轮廓点与对应的标准轮廓点的五官特征点的损失惩罚项信息，其中，待调整轮廓点为所述三维人脸重建网络生成的待调整三维人脸模型中的五官特征点和轮廓点，标准轮廓点为基于已标记图像生成的标准三维人脸模型中的五官特征点和轮廓点，所述轮廓点的损失惩罚项信息为待调整三维人脸模型中的轮廓点与标准人脸模型中的轮廓点的差异，所述五官特征点的损失惩罚项信息为待调整三维人脸模型中的五官特征点与标准人脸模型中五官特征点的差异；
所述将所述损失惩罚项信息输入所述三维人脸重建网络，以获得更新后的待调整三维人脸模型的步骤，包括：
将所述五官特征点的损失惩罚项信息和轮廓点的损失惩罚项信息输入所述三维人脸重建网络，以获得更新后的待调整三维人脸模型。
在可选的实施方式中，所述五官特征点的损失惩罚项信息，满足如下公式：
Figure BDA0003103586760000031
其中，predictcontour为待调整三维人脸模型中五官特征点的坐标，labelcontour为标准三维人脸模型中五官特征点的坐标。
在可选的实施方式中，所述轮廓点的损失惩罚项信息，满足如下公式：
Figure BDA0003103586760000032
其中，predictkpt为待调整三维人脸模型中轮廓点的坐标，labelkpt标准三维人脸模型中轮廓点的坐标。
在可选的实施方式中，所述方法还包括：
确定所述待调整三维人脸模型或标准三维人脸模型中的每个网格点的坐标；
确定各所述网格点的纵坐标，并按照纵坐标的值将各所述网格点进行排序；
获取具有相同纵坐标的第一目标网格点组；
针对每组所述第一目标网格点组，确定所述第一目标网格点组的每个网格点的横坐标；
将所述第一目标网格点组中的网格点，按照横坐标的大小进行排序；
获取排序后，横坐标最大和最小的网格点，得到所述待调整三维人脸模型中的特征点或标准三维人脸模型中的特征点。
第二方面，本申请实施例提供了一种三维人脸重建网络，所述三维人脸网络通过所述三维人脸模型训练方法获得。
第三方面，本申请实施例提供了一种三维人脸模型训练装置，所述装置包括：
计算模块，用于计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息，所述待调整轮廓点为未标记训练图像经三维人脸重建网络生成的待调整三维人脸模型中的特征点；所述标准轮廓点基于已标记图像生成的标准三维人脸模型中的特征点；所述未标记训练图像与所述已标记图像的视觉内容一致；
输入模块，用于将所述损失惩罚项信息输入所述三维人脸重建网络，以获得更新后的待调整三维人脸模型；
执行模块，用于返回执行所述计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤，直至最新的损失惩罚项信息满足轮廓贴合条件。
第四方面，本申请实施例提供了一种电子设备，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现所述三维人脸模型训练方法的步骤。
第五方面，本申请实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现所述三维人脸模型训练方法的步骤。
本申请具有以下有益效果：
本申请通过计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息，将损失惩罚项信息输入三维人脸重建网络，以获得更新后的待调整三维人脸模型，返回执行计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤，直至最新的损失惩罚项信息满足轮廓贴合条件。通过待调整三维人脸模型中的特征点与标准三维人脸模型中的特征点，反复迭代计算损失惩罚项信息，增强三维人脸重建网络对轮廓点的学习，从而构建出的三维人脸模型的边缘轮廓点与标准轮廓点尽可能的贴合。
附图说明
为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
图1为本发明实施例提供的电子设备的方框示意图；
图2为本发明实施例提供的一种三维人脸模型训练方法的流程示意图之一；
图3为本发明实施例提供的一种三维人脸模型训练方法的流程图之二；
图4为本发明实施例提供的一种三维人脸模型训练方法的流程图之三；
图5为本发明实施例提供的三维人脸模型的轮廓点示意图；
图6为本发明实施例提供的一种三维人脸模型训练装置的结构框图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。
因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。
在本发明的描述中，需要说明的是，若出现术语“上”、“下”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，或者是该发明产品使用时惯常摆放的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。
此外，若出现术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
在本申请的描述中，还需要说明的是，除非另有明确的规定和限定，术语“设置”、“安装”、“相连”、“连接”应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通。对于本领域的普通技术人员而言，可以具体情况理解上述术语在本申请中的具体含义。
经过发明人大量研究发现，在很多应用程序中，用户使用三维动画特效，在人脸角度偏转较大时，三维动画效果与人脸不贴合。
有鉴于对上述问题的发现，本实施例提供了一种三维人脸模型训练方法和装置，能够通过待调整三维人脸模型中的特征点与标准三维人脸模型中的特征点，反复迭代计算损失惩罚项信息，增强三维人脸重建网络对轮廓点的学习，从而构建出的三维人脸模型的边缘轮廓点与标准轮廓点尽可能的贴合，下面对本实施例提供的方案进行详细阐述。
本实施例提供一种可以对三维人脸模型进行训练的电子设备。在一种可能的实现方式中，所述电子设备可以为用户终端，例如，电子设备可以是，但不限于，服务器、智能手机、个人电脑(PersonalComputer，PC)、平板电脑、个人数字助理(Personal DigitalAssistant，PDA)、移动上网设备(Mobile Internet Device，MID)以及图像采集装置等。
请参照图1，图1是本申请实施例提供的电子设备100的结构示意图。所述电子设备100还可包括比图1中所示更多或者更少的组件，或者具有与图1所示不同的配置。图1中所示的各组件可以采用硬件、软件或其组合实现。
所述电子设备100包括三维人脸模型训练装置110、存储器120及处理器130。
所述存储器120及处理器130各元件相互之间直接或间接地电性连接，以实现数据的传输或交互。例如，这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。所述三维人脸模型训练装置110包括至少一个可以软件或固件(firmware)的形式存储于所述存储器120中或固化在所述电子设备100的操作系统(operating system，OS)中的软件功能模块。所述处理器130用于执行所述存储器120中存储的可执行模块，例如所述基于三维人脸模型训练装置110所包括的软件功能模块及计算机程序等。
其中，所述存储器120可以是，但不限于，随机存取存储器(RandomAccess Memory，RAM)，只读存储器(Read Only Memory，ROM)，可编程只读存储器(Programmable Read-OnlyMemory，PROM)，可擦除只读存储器(Erasable ProgrammableRead-Only Memory，EPROM)，电可擦除只读存储器(Electric Erasable ProgrammableRead-Only Memory，EEPROM)等。其中，存储器120用于存储程序，所述处理器130在接收到执行指令后，执行所述程序。
请参照图2，图2为应用于图1的电子设备100的一种三维人脸模型训练方法的流程图，以下将方法包括各个步骤进行详细阐述。
步骤201：计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息。
待调整轮廓点为未标记训练图像经三维人脸重建网络生成的待调整三维人脸模型中的特征点；标准轮廓点基于已标记图像生成的标准三维人脸模型中的特征点；未标记训练图像与已标记图像的视觉内容一致。
步骤202：将损失惩罚项信息输入三维人脸重建网络，以获得更新后的待调整三维人脸模型。
步骤203：返回执行计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤，直至最新的损失惩罚项信息满足轮廓贴合条件。
未标记训练图像为人脸的二维图像。在三维人脸重建网络中输入未标记训练图像，三维人脸重建网络中对应有未标记训练图像的预测参数，基于预测参数生成待调整三维人脸模型。由于三维人脸重建网络的初始值是不准确的，因此生成的待调整三维人脸模型与对应的标准三维人脸模型差异较大。
标准三维人脸模型由已标记图像生成，已标记图像为预先对图像的参数进行标定的图像，基于已标记图像，得到已标记图像对应的标签参数，基于标签参数直接生成标准三维人脸模型。
为了使得三维人脸重建网络输出的待调整三维人脸模型与标准三维人脸模型的差异减小，需要计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息。
三维人脸重建网络可以为mobilenetV3网络模型。
未标记训练图像与已标记图像的视觉内容一致，即未标记训练图像与已标记图像的角度一致以及图像内容一致，当未标记训练图像为人脸主视图时，则已标记图像也为人脸主视图。当未标记训练图像为人脸侧视图时，则已标记图像也为人脸侧视图。
将计算的损失惩罚项信息重新输入至三维人脸重建网络中，基于损失惩罚项信息对三维人脸重建网络的参数进行更改，从而得到更新后的待调整三维人脸模型。
返回执行计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤，直至最新的损失惩罚项信息满足轮廓贴合条件。
最新的损失惩罚项信息满足轮廓贴合条件，即将最新的损失惩罚项信息输入至三维人脸重建网络，得到更新后待调整三维人脸模型，最终得到的三维人脸模型的轮廓点与标准三维人脸模型的轮廓点贴合，则三维人脸重建网络训练完成。
本申请通过计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息，将损失惩罚项信息输入三维人脸重建网络，以获得更新后的待调整三维人脸模型，返回执行计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤，直至最新的损失惩罚项信息满足轮廓贴合条件。通过待调整三维人脸模型中的特征点与标准三维人脸模型中的特征点，反复迭代计算损失惩罚项信息，增强三维人脸重建网络对轮廓点的学习，从而构建出的三维人脸模型的边缘轮廓点与标准轮廓点尽可能的贴合。
当未标记训练图像为正视图时，针对上述步骤201和步骤202，在本申请的另一实施例中，如图3所示，提供了一种三维人脸模型训练方法，具体包括如下步骤：
步骤201-1：计算待调整轮廓点与对应的标准轮廓点的五官特征点的损失惩罚项信息。
其中，待调整轮轮廓点为三维人脸重建网络生成的待调整三维人脸模型中的五官特征点，标准轮廓点为基于已标记图像生成的标准三维人脸模型中的五官特征点，五官特征点的损失惩罚项信息为待调整三维人脸模型中的五官特征点与标准三维人脸模型中的五官特征点的差异。
五官特征点的损失惩罚项信息，满足如下公式：
Figure BDA0003103586760000101
Figure BDA0003103586760000102
其中，predictcontour为待调整三维人脸模型中五官特征点的坐标，labelcontour为标准三维人脸模型中五官特征点的坐标。
步骤202-1：将五官特征点的损失惩罚项信息输入至三维人脸重建网络，以获得更新后的待调整三维人脸模型。
由于正视图是没有轮廓点的，对于未标记训练图像为正视图时，确定未标记训练图像输入至三维人脸重建网络中，得到待调整三维人脸模型，确定待调整三维人脸模型中的五官特征点，并随机选取待调整三维人脸模型中的五官特征点。确定与待调整三维人脸模型中的五官特征点对应的标准三维人脸模型中的五官特征点，计算待调整三维人脸模型中的五官特征点与标准三维人脸模型的五官特征点的五官特征点的损失惩罚项信息。
其中，五官特征点可以为眼睛特征点、嘴巴特征点、鼻子特征点、耳朵特征点等。
将五官特征点的损失惩罚项信息输入至三维人脸重建网络中，修改三维人脸重建网络中的参数，三维人脸重建网络输出更新后的预测参数，基于以下公式，得到更新后的待调整三维人脸模型：
Figure BDA0003103586760000103
f为尺度缩放因子，Pr为正交投影矩阵，是一个3*3单位矩阵，R是一个3*3的单位正交矩阵，语义是旋转矩阵，
Figure BDA0003103586760000104
是平均人脸，Aid是人脸形状PCA正交矩阵，aid是回归出来的人脸形状系数，Aexp是人脸表情PCA正交矩阵，aexp是回归出来的人脸表情系数，t2d是回归出来的mesh偏移矩阵。
返回执行计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤，直至最新的损失惩罚项信息满足轮廓贴合条件。
本申请通过计算待调整轮廓点与对应的标准轮廓点的五官特征点的损失惩罚项信息，待调整轮廓点为待调整三维人脸模型的五官特征点，标准轮廓点为标准三维人脸模型的五官特征点。将五官特征点的损失惩罚项信息输入三维人脸重建网络，以获得更新后的待调整三维人脸模型，返回执行计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤，直至最新的损失惩罚项信息满足轮廓贴合条件。通过待调整三维人脸模型中的五官特征点与标准三维人脸模型中的五官特征点，反复迭代计算五官特征点的损失惩罚项信息，增强三维人脸重建网络对轮廓点的学习，从而构建出的三维人脸模型的五官特征点与标准五官特征点尽可能的贴合。
当未标记训练图像为侧视图时，针对上述步骤201和步骤202，在本申请的另一实施例中，如图4所示，提供了一种三维人脸模型训练方法，具体包括如下步骤：
步骤201-2：计算待调整轮廓点与对应的标准轮廓点的轮廓点的损失惩罚项信息。
步骤201-3：计算待调整轮廓点与对应的标准轮廓点的五官特征点的损失惩罚项信息。
其中，待调整轮廓点为三维人脸重建网络生成的待调整三维人脸模型中的五官特征点和轮廓点，标准轮廓点为基于已标记图像生成的标准三维人脸模型中的五官特征点和轮廓点，轮廓点的损失惩罚项信息为待调整三维人脸模型中的轮廓点与标准人脸模型中的轮廓点的差异，五官特征点的损失惩罚项信息为待调整三维人脸模型中的五官特征点与标准人脸模型中五官特征点的差异。
步骤202-2：将轮廓点的损失惩罚项信息和五官特征点的损失惩罚项信息输入三维人脸重建网络，以获得更新后的待调整三维人脸模型。
当未标记训练图像为侧视图时，其中侧视图为侧脸角度大于20度的图像。
将未标记训练图像输入至三维人脸重建网络中，得到待调整三维人脸模型，确定待调整三维人脸模型中的轮廓点和五官特征点。
待调整三维人脸模型中的轮廓点基于以下方式进行确定：如图5所示，为三维人脸模型的轮廓点示意图；确定待调整三维人脸模型或标准三维人脸模型中的每个网格点的坐标；确定各网格点的纵坐标，并按照纵坐标的值将各网格点进行排序；获取具有相同纵坐标的第一目标网格点组；针对每组第一目标网格点组，确定第一目标网格点组的每个网格点的横坐标；将第一目标网格点组中的网格点，按照横坐标的大小进行排序；获取排序后，横坐标最大和最小的网格点，得到待调整三维人脸模型中的特征点或标准三维人脸模型中的特征点。
需要说明的是，本申请实施例中的轮廓点为构建出的三维人脸模型的边缘点。
随机选取待调整三维人脸模型中的五官特征点和轮廓点，将确定与待调整三维人脸模型中的轮廓点和五官特征点对应的标准三维人脸模型的轮廓点和五官特征点，分别计算待调整三维人脸模型中的轮廓点与标准三维人脸模型的轮廓点的轮廓点的损失惩罚项信息，待调整三维人脸模型中的五官特征点和标准三维人脸模型中的五官特征点的五官特征点的损失惩罚项信息。
Figure BDA0003103586760000121
其中，predictkpt为待调整三维人脸模型中轮廓点的坐标，labelkpt标准三维人脸模型中轮廓点的坐标。
五官特征点的损失惩罚项信息，满足如下公式：
Figure BDA0003103586760000131
Figure BDA0003103586760000132
其中，predictcontour为待调整三维人脸模型中五官特征点的坐标，labelcontour为标准三维人脸模型中五官特征点的坐标。
将轮廓点的损失惩罚项信息和五官特征点的损失惩罚项信息输入至三维人脸重建网络中，修改三维人脸重建网络中的参数，得到更新后的待调整三维人脸模型。
返回执行计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤，直至最新的损失惩罚项信息满足轮廓贴合条件。
本申请通过计算待调整轮廓点与对应的标准轮廓点的轮廓点的轮廓点的损失惩罚项信息，计算待调整五官特征点与对应的标准五官特征点的五官特征点的损失惩罚项信息。将轮廓点的损失惩罚项信息和五官特征点的损失惩罚项信息输入三维人脸重建网络，以获得更新后的待调整三维人脸模型，返回执行计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤，直至最新的损失惩罚项信息满足轮廓贴合条件。通过对侧视图构建的待调整三维人脸模型和标准三维人脸模型中轮廓点和五官特征点，反复迭代计算五官特征点的损失惩罚项信息和轮廓点的损失惩罚项信息，在增强三维人脸重建网络对轮廓点的学习的同时，对五官特征点也进行调整，从而构建出的待调整三维人脸模型与标准三维人脸模型尽可能的贴合。
本申请还提供了一种三维人脸模型重建方法，通过所述三维人脸模型训练方法进行三维人脸模型重建。
请参照图6，本申请实施例还提供了一种应用于图1所述电子设备100的三维人脸模型训练装置110，所述三维人脸模型训练装置110包括：
计算模块111，用于计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息，所述待调整轮廓点为未标记训练图像经三维人脸重建网络生成的待调整三维人脸模型中的特征点；所述标准轮廓点基于已标记图像生成的标准三维人脸模型中的特征点；所述未标记训练图像与所述已标记图像的视觉内容一致。
在本实施例中，所述计算模块111可用于执行图2所示的步骤201，关于所述计算模块111的集体描述可参照对所述步骤201的描述。
输入模块112，用于将所述损失惩罚项信息输入所述三维人脸重建网络，以获得更新后的待调整三维人脸模型。
本实施例中，所述输入模块112可用于执行图2所示的步骤202，关于所述输入模块112的具体描述可参照对所述步骤202的描述。
执行模块113，用于返回执行所述计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤，直至最新的损失惩罚项信息满足轮廓贴合条件。
本实施例中，所述执行模块113可用于执行图2所示的步骤203，关于所述执行模块113的具体描述可参照对所述步骤203的描述。
可选地，在一些可能的实施方式中，所述计算模块111具体用于：
当所述未标记训练图像为正视图时，计算待调整轮廓点与对应的标准轮廓点的五官特征点的损失惩罚项信息，其中，待调整轮轮廓点为所述三维人脸重建网络生成的待调整三维人脸模型中的五官特征点，标准轮廓点为基于已标记图像生成的标准三维人脸模型中的五官特征点，所述五官特征点的损失惩罚项信息为待调整三维人脸模型中的五官特征点与标准三维人脸模型中的五官特征点的差异；
所述执行模块113具体用于：
将所述五官特征点的损失惩罚项信息输入所述三维人脸重建网络，以获得更新后的待调整三维人脸模型。
可选地，在一些可能的实施方式中，所述计算模块111具体用于：
当所述未标记训练图像为侧视图时，计算待调整轮廓点与对应的标准轮廓点的轮廓点的损失惩罚项信息；
计算待调整轮廓点与对应的标准轮廓点的五官特征点的损失惩罚项信息，其中，待调整轮廓点为所述三维人脸重建网络生成的待调整三维人脸模型中的五官特征点和轮廓点，标准轮廓点为基于已标记图像生成的标准三维人脸模型中的五官特征点和轮廓点，所述轮廓点的损失惩罚项信息为待调整三维人脸模型中的轮廓点与标准人脸模型中的轮廓点的差异，所述五官特征点的损失惩罚项信息为待调整三维人脸模型中的五官特征点与标准人脸模型中五官特征点的差异；
所述执行模块113具体用于：
将所述五官特征点的损失惩罚项信息和轮廓点的损失惩罚项信息输入所述三维人脸重建网络，以获得更新后的待调整三维人脸模型。
可选地，在一些可能的实施方式中，所述五官特征点的损失惩罚项信息，满足如下公式：
Figure BDA0003103586760000151
Figure BDA0003103586760000152
其中，predictcontour为待调整三维人脸模型中五官特征点的坐标，labelcontour为标准三维人脸模型中五官特征点的坐标。
可选地，在一些可能的实施方式中，所述轮廓点的损失惩罚项信息，满足如下公式：
Figure BDA0003103586760000153
其中，predictkpt为待调整三维人脸模型中轮廓点的坐标，labelkpt标准三维人脸模型中轮廓点的坐标。
可选地，在一些可能的实施方式中，所述计算模块111还用于：
确定所述待调整三维人脸模型或标准三维人脸模型中的每个网格点的坐标；
确定各所述网格点的纵坐标，并按照纵坐标的值将各所述网格点进行排序；
获取具有相同纵坐标的第一目标网格点组；
针对每组所述第一目标网格点组，确定所述第一目标网格点组的每个网格点的横坐标；
将所述第一目标网格点组中的网格点，按照横坐标的大小进行排序；
获取排序后，横坐标最大和最小的网格点，得到所述待调整三维人脸模型中的特征点或标准三维人脸模型中的特征点。
综上所述，本申请通过计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息，将损失惩罚项信息输入三维人脸重建网络，以获得更新后的待调整三维人脸模型，返回执行计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤，直至最新的损失惩罚项信息满足轮廓贴合条件。通过待调整三维人脸模型中的特征点与标准三维人脸模型中的特征点，反复迭代计算损失惩罚项信息，增强三维人脸重建网络对轮廓点的学习，从而构建出的三维人脸模型的边缘轮廓点与标准轮廓点尽可能的贴合。
本申请还提供一种电子设备100，电子设备100包括处理器130以及存储器120。存储器120存储有计算机可执行指令，计算机可执行指令被处理器130执行时，实现该三维人脸模型训练方法。
本申请实施例还提供一种计算机可读存储介质，存储介质存储有计算机程序，计算机程序被处理器130执行时，实现该三维人脸模型训练方法。
在本申请所提供的实施例中，应该理解到，所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
另外，在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述，仅为本申请的各种实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应所述以权利要求的保护范围为准。

Claims (10)

1.一种三维人脸模型训练方法，其特征在于，所述方法包括：
计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息，所述待调整轮廓点为未标记训练图像经三维人脸重建网络生成的待调整三维人脸模型中的特征点；所述标准轮廓点基于已标记图像生成的标准三维人脸模型中的特征点；所述未标记训练图像与所述已标记图像的视觉内容一致；
将所述损失惩罚项信息输入所述三维人脸重建网络，以获得更新后的待调整三维人脸模型；
返回执行所述计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤，直至最新的损失惩罚项信息满足轮廓贴合条件。
2.根据权利要求1所述的方法，其特征在于，所述损失惩罚项信息为五官特征点的损失惩罚项信息，当所述未标记训练图像为正视图时，则所述计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤包括：
计算待调整轮廓点与对应的标准轮廓点的五官特征点的损失惩罚项信息，其中，待调整轮轮廓点为所述三维人脸重建网络生成的待调整三维人脸模型中的五官特征点，标准轮廓点为基于已标记图像生成的标准三维人脸模型中的五官特征点，所述五官特征点的损失惩罚项信息为待调整三维人脸模型中的五官特征点与标准三维人脸模型中的五官特征点的差异；
所述将所述损失惩罚项信息输入所述三维人脸重建网络，以获得更新后的待调整三维人脸模型的步骤，包括：
将所述五官特征点的损失惩罚项信息输入所述三维人脸重建网络，以获得更新后的待调整三维人脸模型。
3.根据权利要求1所述的方法，其特征在于，所述损失惩罚项信息包括五官特征点的损失惩罚项信息和轮廓点的损失惩罚项信息，当所述未标记训练图像为侧视图时，则所述计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤包括：
计算待调整轮廓点与对应的标准轮廓点的轮廓点的损失惩罚项信息；
计算待调整轮廓点与对应的标准轮廓点的五官特征点的损失惩罚项信息，其中，待调整轮廓点为所述三维人脸重建网络生成的待调整三维人脸模型中的五官特征点和轮廓点，标准轮廓点为基于已标记图像生成的标准三维人脸模型中的五官特征点和轮廓点，所述轮廓点的损失惩罚项信息为待调整三维人脸模型中的轮廓点与标准人脸模型中的轮廓点的差异，所述五官特征点的损失惩罚项信息为待调整三维人脸模型中的五官特征点与标准人脸模型中五官特征点的差异；
所述将所述损失惩罚项信息输入所述三维人脸重建网络，以获得更新后的待调整三维人脸模型的步骤，包括：
将所述五官特征点的损失惩罚项信息和轮廓点的损失惩罚项信息输入所述三维人脸重建网络，以获得更新后的待调整三维人脸模型。
4.根据权利要求2或3所述的方法，其特征在于，所述五官特征点的损失惩罚项信息，满足如下公式：
Figure FDA0003103586750000021
Figure FDA0003103586750000022
其中，predictcontour为待调整三维人脸模型中五官特征点的坐标，labelcontour为标准三维人脸模型中五官特征点的坐标。
5.根据权利要求3所述的方法，其特征在于，所述轮廓点的损失惩罚项信息，满足如下公式：
Figure FDA0003103586750000031
其中，predictkpt为待调整三维人脸模型中轮廓点的坐标，labelkpt标准三维人脸模型中轮廓点的坐标。
6.根据权利要求1所述的方法，其特征在于，所述方法还包括：
确定所述待调整三维人脸模型或标准三维人脸模型中的每个网格点的坐标；
确定各所述网格点的纵坐标，并按照纵坐标的值将各所述网格点进行排序；
获取具有相同纵坐标的第一目标网格点组；
针对每组所述第一目标网格点组，确定所述第一目标网格点组的每个网格点的横坐标；
将所述第一目标网格点组中的网格点，按照横坐标的大小进行排序；
获取排序后，横坐标最大和最小的网格点，得到所述待调整三维人脸模型中的特征点或标准三维人脸模型中的特征点。
7.一种三维人脸重建方法，其特征在于，通过所述权利要求1-6的方法进行三维人脸重建。
8.一种三维人脸模型训练装置，其特征在于，所述装置包括：
计算模块，用于计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息，所述待调整轮廓点为未标记训练图像经三维人脸重建网络生成的待调整三维人脸模型中的特征点；所述标准轮廓点基于已标记图像生成的标准三维人脸模型中的特征点；所述未标记训练图像与所述已标记图像的视觉内容一致；
输入模块，用于将所述损失惩罚项信息输入所述三维人脸重建网络，以获得更新后的待调整三维人脸模型；
执行模块，用于返回执行所述计算待调整轮廓点与对应的标准轮廓点的损失惩罚项信息的步骤，直至最新的损失惩罚项信息满足轮廓贴合条件。
9.一种电子设备，其特征在于，包括存储器和处理器，所述存储器存储有计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1-6任一项所述方法的步骤。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现权利要求1-6中任一项所述方法的步骤。
CN202110631221.9A 2021-06-07 2021-06-07 一种三维人脸模型训练方法和装置 Pending CN113256799A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110631221.9A CN113256799A (zh) 2021-06-07 2021-06-07 一种三维人脸模型训练方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110631221.9A CN113256799A (zh) 2021-06-07 2021-06-07 一种三维人脸模型训练方法和装置

Publications (1)

Publication Number Publication Date
CN113256799A true CN113256799A (zh) 2021-08-13

Family

ID=77186819

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110631221.9A Pending CN113256799A (zh) 2021-06-07 2021-06-07 一种三维人脸模型训练方法和装置

Country Status (1)

Country Link
CN (1) CN113256799A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115359194A (zh) * 2022-10-20 2022-11-18 北京百度网讯科技有限公司 图像处理方法、装置、电子设备及存储介质
CN117058329A (zh) * 2023-10-11 2023-11-14 湖南马栏山视频先进技术研究院有限公司 一种人脸快速三维建模方法及系统
CN117456144A (zh) * 2023-11-10 2024-01-26 中国人民解放军海军航空大学 基于可见光遥感图像的目标建筑物三维模型优化方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115359194A (zh) * 2022-10-20 2022-11-18 北京百度网讯科技有限公司 图像处理方法、装置、电子设备及存储介质
CN115359194B (zh) * 2022-10-20 2023-03-14 北京百度网讯科技有限公司 图像处理方法、装置、电子设备及存储介质
CN117058329A (zh) * 2023-10-11 2023-11-14 湖南马栏山视频先进技术研究院有限公司 一种人脸快速三维建模方法及系统
CN117058329B (zh) * 2023-10-11 2023-12-26 湖南马栏山视频先进技术研究院有限公司 一种人脸快速三维建模方法及系统
CN117456144A (zh) * 2023-11-10 2024-01-26 中国人民解放军海军航空大学 基于可见光遥感图像的目标建筑物三维模型优化方法
CN117456144B (zh) * 2023-11-10 2024-05-07 中国人民解放军海军航空大学 基于可见光遥感图像的目标建筑物三维模型优化方法

Similar Documents

Publication Publication Date Title
US10997787B2 (en) 3D hand shape and pose estimation
US10992619B2 (en) Messaging system with avatar generation
CN113256799A (zh) 一种三维人脸模型训练方法和装置
US11798261B2 (en) Image face manipulation
TWI754887B (zh) 活體檢測方法和裝置、電子設備及儲存介質
CN111144242B (zh) 一种三维目标检测方法、装置及终端
CN115956255B (zh) 使用广角成像设备的3d重建
CN109064390A (zh) 一种图像处理方法、图像处理装置及移动终端
US20220101586A1 (en) Music reactive animation of human characters
US10672136B2 (en) Active image depth prediction
US20220019640A1 (en) Automatic website data migration
CN113506367B (zh) 一种三维人脸模型训练方法、三维人脸重建方法及相关装置
CN108229375B (zh) 用于检测人脸图像的方法和装置
US11604963B2 (en) Feedback adversarial learning
CN115335820A (zh) 用于大规模增强现实的位置映射
KR20170002097A (ko) 감성 아바타 이모티콘 기반의 초경량 데이터 애니메이션 방식 제공 방법, 그리고 이를 구현하기 위한 감성 아바타 이모티콘 제공 단말장치
CN117274491A (zh) 三维重建模型的训练方法、装置、设备和介质
CN107644455B (zh) 人脸图像合成方法和装置
CN113240789A (zh) 虚拟对象构建方法及装置
CN108229477B (zh) 针对图像的视觉关联性识别方法、装置、设备及存储介质
CN115731326A (zh) 虚拟角色生成方法及装置、计算机可读介质和电子设备
CN113761281A (zh) 虚拟资源处理方法、装置、介质及电子设备
CN113223103A (zh) 素描画生成的方法、装置、电子设备及介质
Kim Region Adaptive Single Image Dehazing
CN117541883B (zh) 图像生成模型训练、图像生成方法、系统以及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination