CN109767487A - 人脸三维重建方法、装置、电子设备及存储介质 - Google Patents
人脸三维重建方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN109767487A CN109767487A CN201910008837.3A CN201910008837A CN109767487A CN 109767487 A CN109767487 A CN 109767487A CN 201910008837 A CN201910008837 A CN 201910008837A CN 109767487 A CN109767487 A CN 109767487A
- Authority
- CN
- China
- Prior art keywords
- dimensional
- face
- facial image
- vertex
- initial
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 54
- 238000003860 storage Methods 0.000 title claims abstract description 17
- 230000001815 facial effect Effects 0.000 claims abstract description 205
- 238000012545 processing Methods 0.000 claims abstract description 40
- 238000013507 mapping Methods 0.000 claims abstract description 29
- 238000003384 imaging method Methods 0.000 claims abstract description 20
- 239000011159 matrix material Substances 0.000 claims description 74
- 238000009877 rendering Methods 0.000 claims description 18
- 230000008569 process Effects 0.000 abstract description 13
- 238000005516 engineering process Methods 0.000 abstract description 9
- 230000014509 gene expression Effects 0.000 description 17
- 238000006073 displacement reaction Methods 0.000 description 13
- 230000001133 acceleration Effects 0.000 description 9
- 230000002093 peripheral effect Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 230000018109 developmental process Effects 0.000 description 3
- 230000004927 fusion Effects 0.000 description 3
- 230000005484 gravity Effects 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 2
- 239000000919 ceramic Substances 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 210000000887 face Anatomy 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000001052 transient effect Effects 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 230000006698 induction Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 210000003127 knee Anatomy 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000002310 reflectometry Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Processing Or Creating Images (AREA)
- Image Generation (AREA)
Abstract
本公开是关于一种人脸三维重建方法、装置、电子设备及存储介质，属于计算机技术领域。所述方法包括：获取初始三维人脸模型和人脸图像；对所述人脸图像进行人脸识别，得到人脸姿态数据；根据所述人脸姿态数据、采集所述人脸图像的设备的投影参数以及所述初始三维人脸模型的各个顶点的三维坐标，获取所述初始三维人脸模型在所述人脸姿态数据对应的姿态下，所述各个顶点投影到所述设备的成像平面上的二维坐标；根据所述各个顶点的二维坐标和所述人脸图像，对所述初始三维人脸模型进行纹理贴图处理，得到所述人脸图像的三维人脸模型。本公开简化了重建过程，运算量小，提高了人脸三维重建的效率。
Description
技术领域
本公开涉及计算机技术领域，尤其涉及一种人脸三维重建方法、装置、电子设备及存储介质。
背景技术
近年来，随着增强现实(Augmented Reality，AR)技术的发展，AR应用中存在根据摄像头获得人脸图像，实现人脸三维重建的需求。其中，人脸三维重建是指根据包含人脸的二维图像，也即是人脸图像，生成三维人脸模型。
相关技术中，一般是利用三维形变模型(3D Morphable Model，3DMM)来实现人脸三维重建，具体地，先获取大量的三维原型人脸，对这些三维原型人脸进行复杂的预处理过程，再通过主成分分析方法(Principal Components Analysis，PCA)对人脸的形状、纹理及表面反射率进行统计建模，生成形变模型，再利用形变模型对人脸图像进行人脸合成，实现人脸三维重建。
上述技术利用三维形变模型来实现人脸三维重建，需要通过主成分分析方法进行统计建模，过程繁琐，运算量较大，人脸三维重建的效率低。
发明内容
本公开提供一种人脸三维重建方法、装置、电子设备及存储介质，能够克服过程繁琐，运算量较大，人脸三维重建的效率低的问题。
根据本公开实施例的第一方面，提供一种人脸三维重建方法，包括：
获取初始三维人脸模型和人脸图像；
对所述人脸图像进行人脸识别，得到人脸姿态数据；
根据所述人脸姿态数据、采集所述人脸图像的设备的投影参数以及所述初始三维人脸模型的各个顶点的三维坐标，获取所述初始三维人脸模型在所述人脸姿态数据对应的姿态下，所述各个顶点投影到所述设备的成像平面上的二维坐标；
根据所述各个顶点的二维坐标和所述人脸图像，对所述初始三维人脸模型进行纹理贴图处理，得到所述人脸图像的三维人脸模型。
在一种可能实现方式中，所述对所述人脸图像进行人脸识别，得到人脸姿态数据，包括：
对所述人脸图像进行人脸识别，将识别得到的所述人脸图像中人脸的位置和朝向作为所述人脸姿态数据。
在一种可能实现方式中，所述对所述人脸图像进行人脸识别，将识别得到的所述人脸图像中人脸的位置和朝向作为所述人脸姿态数据，包括：
采用人脸识别算法，对所述人脸图像进行人脸识别，得到位移矩阵和旋转矩阵，所述位移矩阵用于表示所述设备在采集所述人脸图像时所述人脸在三维空间中的位置，所述旋转矩阵用于表示所述设备在采集所述人脸图像时所述人脸在三维空间中的朝向；
将所述位移矩阵和所述旋转矩阵相乘得到的矩阵作为所述人脸姿态数据。
在一种可能实现方式中，所述投影参数包括投影矩阵，
相应地，所述根据所述人脸姿态数据、采集所述人脸图像的设备的投影参数以及所述初始三维人脸模型的各个顶点的三维坐标，获取所述初始三维人脸模型在所述人脸姿态数据对应的姿态下，所述各个顶点投影到所述设备的成像平面上的二维坐标，包括：
对于所述各个顶点中的每个顶点，将所述顶点的三维坐标与所述矩阵和所述投影矩阵相乘，得到所述顶点的二维坐标。
在一种可能实现方式中，所述根据所述各个顶点的二维坐标和所述人脸图像，对所述初始三维人脸模型进行纹理贴图处理，得到所述人脸图像的三维人脸模型，包括：
根据所述各个顶点的二维坐标，对所述人脸图像进行纹理数据采集；
根据采集到的纹理数据，对所述初始三维人脸模型进行纹理贴图处理，得到所述三维人脸模型。
在一种可能实现方式中，所述根据所述各个顶点的二维坐标和所述人脸图像，对所述初始三维人脸模型进行纹理贴图处理，得到所述人脸图像的三维人脸模型之后，所述方法还包括：
根据所述人脸姿态数据、所述各个顶点的三维坐标和二维坐标，将所述三维人脸模型渲染到所述人脸图像上。
在一种可能实现方式中，所述根据所述人脸姿态数据、所述各个顶点的三维坐标和二维坐标，将所述三维人脸模型渲染到所述人脸图像上，包括：
根据所述人脸姿态数据、所述各个顶点的三维坐标和二维坐标，对所述三维人脸模型进行渲染；
将渲染得到的图像覆盖到所述人脸图像上。
在一种可能实现方式中，所述根据所述人脸姿态数据、所述各个顶点的三维坐标和二维坐标，将所述三维人脸模型渲染到所述人脸图像上之前，所述方法还包括：
根据动画数据和所述各个顶点的三维坐标，获取根据所述动画数据驱动所述三维人脸模型作出对应的表情或动作时，所述各个顶点发生位移后的三维坐标；
相应地，所述根据所述人脸姿态数据、所述各个顶点的三维坐标和二维坐标，将所述三维人脸模型渲染到所述人脸图像上，包括：
根据所述人脸姿态数据、所述各个顶点发生位移后的三维坐标和所述各个顶点的二维坐标，将所述三维人脸模型渲染到所述人脸图像上。
在一种可能实现方式中，所述根据所述各个顶点的二维坐标和所述人脸图像，对所述初始三维人脸模型进行纹理贴图处理，得到所述人脸图像的三维人脸模型之后，所述方法还包括：
根据动画数据，驱动所述三维人脸模型做出所述动画数据对应的表情或动作。
根据本公开实施例的第二方面，提供一种人脸三维重建装置，包括：
获取模块，被配置为执行获取初始三维人脸模型和人脸图像；
识别模块，被配置为执行对所述人脸图像进行人脸识别，得到人脸姿态数据；
所述获取模块还被配置为执行根据所述人脸姿态数据、采集所述人脸图像的设备的投影参数以及所述初始三维人脸模型的各个顶点的三维坐标，获取所述初始三维人脸模型在所述人脸姿态数据对应的姿态下，所述各个顶点投影到所述设备的成像平面上的二维坐标；
处理模块，被配置为执行根据所述各个顶点的二维坐标和所述人脸图像，对所述初始三维人脸模型进行纹理贴图处理，得到所述人脸图像的三维人脸模型。
在一种可能实现方式中，所述识别模块被配置为执行对所述人脸图像进行人脸识别，将识别得到的所述人脸图像中人脸的位置和朝向作为所述人脸姿态数据。
在一种可能实现方式中，所述识别模块被配置为执行：
采用人脸识别算法，对所述人脸图像进行人脸识别，得到位移矩阵和旋转矩阵，所述位移矩阵用于表示所述设备在采集所述人脸图像时所述人脸在三维空间中的位置，所述旋转矩阵用于表示所述设备在采集所述人脸图像时所述人脸在三维空间中的朝向；
将所述位移矩阵和所述旋转矩阵相乘得到的矩阵作为所述人脸姿态数据。
在一种可能实现方式中，所述投影参数包括投影矩阵，
相应地，所述获取模块被配置为执行对于所述各个顶点中的每个顶点，将所述顶点的三维坐标与所述矩阵和所述投影矩阵相乘，得到所述顶点的二维坐标。
在一种可能实现方式中，所述处理模块被配置为执行：
根据所述各个顶点的二维坐标，对所述人脸图像进行纹理数据采集；
根据采集到的纹理数据，对所述初始三维人脸模型进行纹理贴图处理，得到所述三维人脸模型。
在一种可能实现方式中，所述装置还包括：
渲染模块，被配置为执行根据所述人脸姿态数据、所述各个顶点的三维坐标和二维坐标，将所述三维人脸模型渲染到所述人脸图像上。
在一种可能实现方式中，所述渲染模块被配置为执行根据所述人脸姿态数据、所述各个顶点的三维坐标和二维坐标，对所述三维人脸模型进行渲染；将渲染得到的图像覆盖到所述人脸图像上。
在一种可能实现方式中，所述获取模块还被配置为执行根据动画数据和所述各个顶点的三维坐标，获取根据所述动画数据驱动所述三维人脸模型作出对应的表情或动作时，所述各个顶点发生位移后的三维坐标；
所述渲染模块被配置为执行根据所述人脸姿态数据、所述各个顶点发生位移后的三维坐标和所述各个顶点的二维坐标，将所述三维人脸模型渲染到所述人脸图像上。
在一种可能实现方式中，所述装置还包括：
驱动模块，被配置为执行根据动画数据，驱动所述三维人脸模型做出所述动画数据对应的表情或动作。
根据本公开实施例的第三方面，提供了一种电子设备，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为：
获取初始三维人脸模型和人脸图像；
对所述人脸图像进行人脸识别，得到人脸姿态数据；
根据所述人脸姿态数据、采集所述人脸图像的设备的投影参数以及所述初始三维人脸模型的各个顶点的三维坐标，获取所述初始三维人脸模型在所述人脸姿态数据对应的姿态下，所述各个顶点投影到所述设备的成像平面上的二维坐标；
根据所述各个顶点的二维坐标和所述人脸图像，对所述初始三维人脸模型进行纹理贴图处理，得到所述人脸图像的三维人脸模型。
根据本公开实施例的第四方面，提供了一种非临时性计算机可读存储介质，当所述存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行一种人脸三维重建方法，所述方法包括：
获取初始三维人脸模型和人脸图像；
对所述人脸图像进行人脸识别，得到人脸姿态数据；
根据所述人脸姿态数据、采集所述人脸图像的设备的投影参数以及所述初始三维人脸模型的各个顶点的三维坐标，获取所述初始三维人脸模型在所述人脸姿态数据对应的姿态下，所述各个顶点投影到所述设备的成像平面上的二维坐标；
根据所述各个顶点的二维坐标和所述人脸图像，对所述初始三维人脸模型进行纹理贴图处理，得到所述人脸图像的三维人脸模型。
根据本公开实施例的第五方面，提供一种应用程序产品，当所述应用程序产品中的指令由电子设备的处理器执行时，使得电子设备能够执行一种人脸三维重建方法，所述方法包括：
获取初始三维人脸模型和人脸图像；
对所述人脸图像进行人脸识别，得到人脸姿态数据；
根据所述人脸姿态数据、采集所述人脸图像的设备的投影参数以及所述初始三维人脸模型的各个顶点的三维坐标，获取所述初始三维人脸模型在所述人脸姿态数据对应的姿态下，所述各个顶点投影到所述设备的成像平面上的二维坐标；
根据所述各个顶点的二维坐标和所述人脸图像，对所述初始三维人脸模型进行纹理贴图处理，得到所述人脸图像的三维人脸模型。
本公开的实施例提供的技术方案可以包括以下有益效果：
通过获取一个初始三维人脸模型，对待进行人脸三维重建的人脸图像进行人脸识别，得到人脸姿态数据后，根据人脸姿态数据和采集该人脸图像的设备的投影参数，即可快速地将初始三维人脸模型的各个顶点的三维坐标转换为二维坐标，也即得到了初始三维人脸模型的各个顶点投影到人脸图像上的二维坐标，进而根据该二维坐标进行纹理贴图处理，即可得到重建后的三维人脸模型，简化了重建过程，运算量小，提高了人脸三维重建的效率。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。
图1是根据一示例性实施例示出的一种人脸三维重建方法的流程图。
图2是根据一示例性实施例示出的一种人脸三维重建方法的流程图。
图3是根据一示例性实施例示出的一种人脸三维重建装置的框图。
图4是根据一示例性实施例示出的一种人脸三维重建装置的框图。
图5是根据一示例性实施例示出的一种人脸三维重建装置的框图。
图6是根据一示例性实施例示出的一种电子设备600的框图。
具体实施方式
这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
图1是根据一示例性实施例示出的一种人脸三维重建方法的流程图，如图1所示，人脸三维重建方法用于电子设备中，包括以下步骤。
在步骤S11中，获取初始三维人脸模型和人脸图像。
在步骤S12中，对该人脸图像进行人脸识别，得到人脸姿态数据。
在步骤S13中，根据该人脸姿态数据、采集该人脸图像的设备的投影参数以及该初始三维人脸模型的各个顶点的三维坐标，获取该初始三维人脸模型在该人脸姿态数据对应的姿态下，该各个顶点投影到该设备的成像平面上的二维坐标。
在步骤S14中，根据该各个顶点的二维坐标和该人脸图像，对该初始三维人脸模型进行纹理贴图处理，得到该人脸图像的三维人脸模型。
本公开实施例提供的方法，通过获取一个初始三维人脸模型，对待进行人脸三维重建的人脸图像进行人脸识别，得到人脸姿态数据后，根据人脸姿态数据和采集该人脸图像的设备的投影参数，即可快速地将初始三维人脸模型的各个顶点的三维坐标转换为二维坐标，也即得到了初始三维人脸模型的各个顶点投影到人脸图像上的二维坐标，进而根据该二维坐标进行纹理贴图处理，即可得到重建后的三维人脸模型，简化了重建过程，运算量小，提高了人脸三维重建的效率。
在一种可能实现方式中，该对该人脸图像进行人脸识别，得到人脸姿态数据，包括：
对该人脸图像进行人脸识别，将识别得到的该人脸图像中人脸的位置和朝向作为该人脸姿态数据。
在一种可能实现方式中，该对该人脸图像进行人脸识别，将识别得到的该人脸图像中人脸的位置和朝向作为该人脸姿态数据，包括：
采用人脸识别算法，对该人脸图像进行人脸识别，得到位移矩阵和旋转矩阵，该位移矩阵用于表示该设备在采集该人脸图像时该人脸在三维空间中的位置，该旋转矩阵用于表示该设备在采集该人脸图像时该人脸在三维空间中的朝向；
将该位移矩阵和该旋转矩阵相乘得到的矩阵作为该人脸姿态数据。
在一种可能实现方式中，该投影参数包括投影矩阵，
相应地，该根据该人脸姿态数据、采集该人脸图像的设备的投影参数以及该初始三维人脸模型的各个顶点的三维坐标，获取该初始三维人脸模型在该人脸姿态数据对应的姿态下，该各个顶点投影到该设备的成像平面上的二维坐标，包括：
对于该各个顶点中的每个顶点，将该顶点的三维坐标与该矩阵和该投影矩阵相乘，得到该顶点的二维坐标。
在一种可能实现方式中，该根据该各个顶点的二维坐标和该人脸图像，对该初始三维人脸模型进行纹理贴图处理，得到该人脸图像的三维人脸模型，包括：
根据该各个顶点的二维坐标，对该人脸图像进行纹理数据采集；
根据采集到的纹理数据，对该初始三维人脸模型进行纹理贴图处理，得到该三维人脸模型。
在一种可能实现方式中，该根据该各个顶点的二维坐标和该人脸图像，对该初始三维人脸模型进行纹理贴图处理，得到该人脸图像的三维人脸模型之后，该方法还包括：
根据该人脸姿态数据、该各个顶点的三维坐标和二维坐标，将该三维人脸模型渲染到该人脸图像上。
在一种可能实现方式中，该根据该人脸姿态数据、该各个顶点的三维坐标和二维坐标，将该三维人脸模型渲染到该人脸图像上，包括：
根据该人脸姿态数据、该各个顶点的三维坐标和二维坐标，对该三维人脸模型进行渲染；
将渲染得到的图像覆盖到该人脸图像上。
在一种可能实现方式中，该根据该人脸姿态数据、该各个顶点的三维坐标和二维坐标，将该三维人脸模型渲染到该人脸图像上之前，该方法还包括：
根据动画数据和该各个顶点的三维坐标，获取根据该动画数据驱动该三维人脸模型作出对应的表情或动作时，该各个顶点发生位移后的三维坐标；
相应地，该根据该人脸姿态数据、该各个顶点的三维坐标和二维坐标，将该三维人脸模型渲染到该人脸图像上，包括：
根据该人脸姿态数据、该各个顶点发生位移后的三维坐标和该各个顶点的二维坐标，将该三维人脸模型渲染到该人脸图像上。
在一种可能实现方式中，该根据该各个顶点的二维坐标和该人脸图像，对该初始三维人脸模型进行纹理贴图处理，得到该人脸图像的三维人脸模型之后，该方法还包括：
根据动画数据，驱动该三维人脸模型做出该动画数据对应的表情或动作。
上述所有可选技术方案，可以采用任意结合形成本公开的可选实施例，在此不再一一赘述。
图2是根据一示例性实施例示出的一种人脸三维重建方法的流程图，如图2所示，人脸三维重建方法用于电子设备中，包括以下步骤：
在步骤S21中，获取初始三维人脸模型和人脸图像。
其中，该初始三维人脸模型可以是一个标准三维人脸模型(或通用三维人脸模型)，该人脸图像是指包括人脸的图像，也即是，待进行人脸三维重建的图像。
针对该初始三维人脸模型的获取过程，该初始三维人脸模型可以由电子设备构建，也可以由其他设备构建后，发送给该电子设备，使得电子设备可以获取到该初始三维人脸模型。例如，电子设备可以预先构建或从其他设备获取该初始三维人脸模型，并存储在本地，在该步骤S21中，电子设备可以从本地存储中获取该初始三维人脸模型。当然，电子设备也可以在当前时间构建或从其他设备获取该初始三维人脸模型，本公开实施例对此不做限定。
在一种可能实现方式中，该初始三维人脸模型的构建过程可以包括：从人脸图像数据库中获取人脸图像，提取人脸图像的人脸特征点，基于人脸特征点生成该初始三维人脸模型。其中，该人脸特征点包括但不限于人脸中表征眉毛、鼻子、眼睛、嘴巴和脸外轮廓等特征的关键点。人脸特征点可以通过人脸检测SDK(Software Development Kit，软件开发工具包)对人脸图像进行人脸检测得到。
三维模型通常使用三维空间中的一些点以及这些点连成的三角面表示，这些点称为顶点。该初始三维人脸模型一旦构建完成，则可以得到该初始三维人脸模型的各个顶点的三维坐标，也即是，顶点在三维空间中的位置坐标(V.POS)。
针对人脸图像的获取过程，该人脸图像可以为电子设备的摄像头实时采集到的人脸图像。例如，电子设备可以通过摄像模组(如摄像头)采集人脸图像，对于采集到的每一帧人脸图像，均可以执行后续步骤S22至步骤S25的处理过程，使得每一帧人脸图像都可以得到实时的三维重建结果。当然，该人脸图像也可以是该电子设备预先采集的人脸图像，还可以是除该电子设备以外的摄像设备采集到的人脸图像，本公开实施例对该人脸图像的来源不做具体限定。
在步骤S22中，对该人脸图像进行人脸识别，得到人脸姿态数据。
本公开实施例中，人脸图像中包括人脸，该电子设备或其他设备在采集该人脸图像时，该人脸具有相应的姿态。在一种可能实现方式中，该步骤S22可以包括：对该人脸图像进行人脸识别，将识别得到的该人脸图像中人脸的位置和朝向作为该人脸姿态数据。
其中，人脸的位置和朝向可以是设备在采集该人脸图像时该人脸在三维空间中的位置和朝向，例如，人脸的位置可以是该人脸在设备的视野范围内偏左的位置、偏右的位置或正中间等位置，人脸的朝向可以是正面人脸、左侧脸、右侧脸、抬头或低头等朝向。
在一种可能实现方式中，对该人脸图像进行人脸识别的过程可以包括：采用人脸识别算法，对该人脸图像进行人脸识别，得到位移矩阵和旋转矩阵，该位移矩阵用于表示该设备在采集该人脸图像时该人脸在三维空间中的位置，该旋转矩阵用于表示该设备在采集该人脸图像时该人脸在三维空间中的朝向；将该位移矩阵和该旋转矩阵相乘得到的矩阵作为该人脸姿态数据。其中，位移矩阵和该旋转矩阵相乘得到的矩阵(记为矩阵M)可以是一个4×4的矩阵。
在步骤S23中，根据该人脸姿态数据、采集该人脸图像的设备的投影参数以及该初始三维人脸模型的各个顶点的三维坐标，获取该初始三维人脸模型在该人脸姿态数据对应的姿态下，该各个顶点投影到该设备的成像平面上的二维坐标。
其中，各个顶点的二维坐标也称为贴图坐标(V.UV)。
本公开实施例中，电子设备根据人脸图像获取到人脸姿态数据后，可以将该人脸姿态数据作为三维人脸模型的姿态数据，包括三维人脸模型的位置和朝向。相应地，电子设备可以获取三维人脸模型在该姿态下经投影后每个顶点的二维坐标，由于人脸图像时由该设备采集的，也即是，该人脸图像是将人脸在该设备的成像平面上成像得到的，因此，各个顶点投影到该设备的成像平面上的二维坐标，也即是，各个顶点投影到人脸图像上的二维坐标，这样就实现了三维人脸模型与人脸图像之间的点对点映射。
在一种可能实现方式中，该投影参数包括投影矩阵(记为矩阵P)。如果该人脸图像由电子设备采集得到，则该投影矩阵是指该电子设备的摄像模组的投影矩阵，如果该人脸图像由电子设备以外的摄像设备采集得到，则该投影矩阵是指该摄像设备的投影矩阵。
针对步骤S22中将该位移矩阵和该旋转矩阵相乘得到的矩阵作为该人脸姿态数据，该步骤S23可以包括：对于该各个顶点中的每个顶点，将该顶点的三维坐标与该矩阵和该投影矩阵相乘，得到该顶点的二维坐标。也即是，V.UV＝P*M*V.POS。
通过将初始三维人脸模型的每个顶点的三维坐标乘以用于表示姿态的矩阵，再乘以采集人脸图像的设备的投影矩阵，可以得到初始三维人脸模型在该姿态下经相机投影后每个顶点的二维坐标，也即是，初始三维人脸模型的顶点投影到人脸图像上的坐标，初始三维人脸模型的每个顶点可以映射到人脸图像上的一个像素点。这种通过投影方式，来获取三维人脸模型的每个顶点的二维坐标的过程速度快、运算量小。
在步骤S24中，根据该各个顶点的二维坐标和该人脸图像，对该初始三维人脸模型进行纹理贴图处理，得到该人脸图像的三维人脸模型。
本公开实施例中，初始三维人脸模型可以是任意一个标准人脸模型，不具有人脸图像中人脸的纹理信息，电子设备通过上述步骤获取到该初始三维人脸模型的姿态数据和各个顶点的二维坐标后，可以对初始三维人脸模型进行纹理贴图处理，得到具有纹理信息的三维人脸模型。
在一种可能实现方式中，该步骤S24可以包括：根据该各个顶点的二维坐标，对该人脸图像进行纹理数据采集；根据采集到的纹理数据，对该初始三维人脸模型进行纹理贴图处理，得到该三维人脸模型。
通过将人脸图像的纹理数据按照各个顶点的二维坐标进行采样，作为初始三维人脸模型的贴图，贴图完成后即完成了人脸三维重建，将得到的三维重建结果作为该人脸图像的三维人脸模型。通过利用成熟的人脸识别算法得到姿态数据，通过简单运算既可重建三维人脸模型，运算量小，速度快，提高了人脸三维重建的效率。
在步骤S25中，根据该人脸姿态数据、该各个顶点的三维坐标和二维坐标，将该三维人脸模型渲染到该人脸图像上。
本公开实施例中，电子设备在通过人脸三维重建得到重建后的人脸三维模型后，可以通过渲染的方式，将重建结果显示出来。在一种可能实现方式中，该步骤S25可以包括：根据该人脸姿态数据、该各个顶点的三维坐标和二维坐标，对该三维人脸模型进行渲染；将渲染得到的图像覆盖到该人脸图像上。
电子设备可以用三维渲染技术，根据三维人脸模型的人脸姿态数据、三维人脸模型的各个顶点的三维坐标和二维坐标，将三维人脸模型渲染到人脸图像上，三维人脸模型的各个顶点与人脸图像中像素点之间的点对点映射，可以实现三维人脸模型的渲染结果与人脸图像自然融合在一起，没有清晰的分界线。
在一种可能实现方式中，电子设备在获得人脸图像的三维人脸模型之后，可以根据动画数据，驱动该三维人脸模型做出该动画数据对应的表情或动作。其中，该动画数据用于展示人脸作出表情或动作，如作出张嘴、伸舌头等表情或动作，本公开实施例对动画数据对应的表情或动作不做限定。
该动画数据可以是电子设备预先获取的动画数据，例如，电子设备可以在获取初始三维人脸模型时，还可以获取该动画数据。例如，电子设备可以采用骨骼动画、顶点动画等技术，来制作动画数据。其中，骨骼动画、顶点动画等技术的基本原理是让模型的各个顶点随着时间的变化发生位移。通过在重建三维人脸模型之前，获取动画数据，在重建得到三维人脸模型后，将预先获取的动画数据直接应用到三维人脸模型，实现了动画重定向，可以适配大多数人的表情或动作。
在一种可能实现方式中，电子设备将该三维人脸模型渲染到该人脸图像上之前，可以根据动画数据和该各个顶点的三维坐标，获取根据该动画数据驱动该三维人脸模型作出对应的表情或动作时，该各个顶点发生位移后的三维坐标。相应地，该步骤S25可以包括：根据该人脸姿态数据、该各个顶点发生位移后的三维坐标和该各个顶点的二维坐标，将该三维人脸模型渲染到该人脸图像上。
电子设备在根据动画数据驱动三维人脸模型时，三维人脸模型的各个顶点会发生位移，电子设备可以根据各个顶点发生位移后的三维坐标，对三维人脸模型进行渲染，使得渲染结果为作出相应表情或动作的人脸，实现了表情或动作的重定向。
以人脸图像为电子设备的摄像头采集到的人脸图像为例，本公开实施例提供的技术方案可以高性能的实时重建三维人脸模型，并与预先制作好的动画数据相结合，实现人脸按照预先制作的动画移动，作出张嘴、伸舌头等表情、动作，并与人脸图像很好的融合。
本公开实施例提供的方法，通过获取一个初始三维人脸模型，对待进行人脸三维重建的人脸图像进行人脸识别，得到人脸姿态数据后，根据人脸姿态数据和采集该人脸图像的设备的投影参数，即可快速地将初始三维人脸模型的各个顶点的三维坐标转换为二维坐标，也即得到了初始三维人脸模型的各个顶点投影到人脸图像上的二维坐标，进而根据该二维坐标进行纹理贴图处理，即可得到重建后的三维人脸模型，简化了重建过程，运算量小，提高了人脸三维重建的效率。
图3是根据一示例性实施例示出的一种人脸三维重建装置的框图。参照图3，该装置包括获取模块301，识别模块302和处理模块303。
该获取模块301被配置为执行获取初始三维人脸模型和人脸图像；
该识别模块302被配置为执行对该人脸图像进行人脸识别，得到人脸姿态数据；
该获取模块301还被配置为执行根据该人脸姿态数据、采集该人脸图像的设备的投影参数以及该初始三维人脸模型的各个顶点的三维坐标，获取该初始三维人脸模型在该人脸姿态数据对应的姿态下，该各个顶点投影到该设备的成像平面上的二维坐标；
该处理模块303被配置为执行根据该各个顶点的二维坐标和该人脸图像，对该初始三维人脸模型进行纹理贴图处理，得到该人脸图像的三维人脸模型。
在一种可能实现方式中，该识别模块302被配置为执行对该人脸图像进行人脸识别，将识别得到的该人脸图像中人脸的位置和朝向作为该人脸姿态数据。
在一种可能实现方式中，该识别模块302被配置为执行：
采用人脸识别算法，对该人脸图像进行人脸识别，得到位移矩阵和旋转矩阵，该位移矩阵用于表示该设备在采集该人脸图像时该人脸在三维空间中的位置，该旋转矩阵用于表示该设备在采集该人脸图像时该人脸在三维空间中的朝向；
将该位移矩阵和该旋转矩阵相乘得到的矩阵作为该人脸姿态数据。
在一种可能实现方式中，该投影参数包括投影矩阵，
相应地，该获取模块301被配置为执行对于该各个顶点中的每个顶点，将该顶点的三维坐标与该矩阵和该投影矩阵相乘，得到该顶点的二维坐标。
在一种可能实现方式中，该处理模块303被配置为执行：
根据该各个顶点的二维坐标，对该人脸图像进行纹理数据采集；
根据采集到的纹理数据，对该初始三维人脸模型进行纹理贴图处理，得到该三维人脸模型。
在一种可能实现方式中，参见图4，该装置还包括：
渲染模块304，被配置为执行根据该人脸姿态数据、该各个顶点的三维坐标和二维坐标，将该三维人脸模型渲染到该人脸图像上。
在一种可能实现方式中，该渲染模块304被配置为执行根据该人脸姿态数据、该各个顶点的三维坐标和二维坐标，对该三维人脸模型进行渲染；将渲染得到的图像覆盖到该人脸图像上。
在一种可能实现方式中，该获取模块301还被配置为执行根据动画数据和该各个顶点的三维坐标，获取根据该动画数据驱动该三维人脸模型作出对应的表情或动作时，该各个顶点发生位移后的三维坐标；
该渲染模块304被配置为执行根据该人脸姿态数据、该各个顶点发生位移后的三维坐标和该各个顶点的二维坐标，将该三维人脸模型渲染到该人脸图像上。
在一种可能实现方式中，参见图5，该装置还包括：
驱动模块305，被配置为执行根据动画数据，驱动该三维人脸模型做出该动画数据对应的表情或动作。
本公开实施例中，通过获取一个初始三维人脸模型，对待进行人脸三维重建的人脸图像进行人脸识别，得到人脸姿态数据后，根据人脸姿态数据和采集该人脸图像的设备的投影参数，即可快速地将初始三维人脸模型的各个顶点的三维坐标转换为二维坐标，也即得到了初始三维人脸模型的各个顶点投影到人脸图像上的二维坐标，进而根据该二维坐标进行纹理贴图处理，即可得到重建后的三维人脸模型，简化了重建过程，运算量小，提高了人脸三维重建的效率。
关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。
图6是根据一示例性实施例示出的一种电子设备600的框图。该电子设备600可以是：智能手机、平板电脑、MP3播放器(Moving Picture Experts Group Audio Layer III，动态影像专家压缩标准音频层面3)、MP4(Moving Picture Experts Group Audio LayerIV，动态影像专家压缩标准音频层面4)播放器、笔记本电脑或台式电脑。电子设备600还可能被称为用户设备、便携式电子设备、膝上型电子设备、台式电子设备等其他名称。
通常，电子设备600包括有：处理器601和存储器602。
处理器601可以包括一个或多个处理核心，比如4核心处理器、8核心处理器等。处理器601可以采用DSP(Digital Signal Processing，数字信号处理)、FPGA(Field－Programmable Gate Array，现场可编程门阵列)、PLA(Programmable Logic Array，可编程逻辑阵列)中的至少一种硬件形式来实现。处理器601也可以包括主处理器和协处理器，主处理器是用于对在唤醒状态下的数据进行处理的处理器，也称CPU(Central ProcessingUnit，中央处理器)；协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中，处理器601可以在集成有GPU(Graphics Processing Unit，图像处理器)，GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中，处理器601还可以包括AI(Artificial Intelligence，人工智能)处理器，该AI处理器用于处理有关机器学习的计算操作。
存储器602可以包括一个或多个计算机可读存储介质，该计算机可读存储介质可以是非暂态的。存储器602还可包括高速随机存取存储器，以及非易失性存储器，比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中，存储器602中的非暂态的计算机可读存储介质用于存储至少一个指令，该至少一个指令用于被处理器601所执行以实现本公开中的方法实施例提供的人脸三维重建方法。
在一些实施例中，电子设备600还可选包括有：外围设备接口603和至少一个外围设备。处理器601、存储器602和外围设备接口603之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与外围设备接口603相连。具体地，外围设备包括：射频电路604、显示屏605、摄像头606、音频电路607、定位组件608和电源609中的至少一种。
外围设备接口603可被用于将I/O(Input/Output，输入/输出)相关的至少一个外围设备连接到处理器601和存储器602。在一些实施例中，处理器601、存储器602和外围设备接口603被集成在同一芯片或电路板上；在一些其他实施例中，处理器601、存储器602和外围设备接口603中的任意一个或两个可以在单独的芯片或电路板上实现，本实施例对此不加以限定。
射频电路604用于接收和发射RF(Radio Frequency，射频)信号，也称电磁信号。射频电路604通过电磁信号与通信网络以及其他通信设备进行通信。射频电路604将电信号转换为电磁信号进行发送，或者，将接收到的电磁信号转换为电信号。可选地，射频电路604包括：天线系统、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路604可以通过至少一种无线通信协议来与其它电子设备进行通信。该无线通信协议包括但不限于：城域网、各代移动通信网络(2G、3G、4G及5G)、无线局域网和/或WiFi(Wireless Fidelity，无线保真)网络。在一些实施例中，射频电路604还可以包括NFC(Near Field Communication，近距离无线通信)有关的电路，本申请对此不加以限定。
显示屏605用于显示UI(User Interface，用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏605是触摸显示屏时，显示屏605还具有采集在显示屏605的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器601进行处理。此时，显示屏605还可以用于提供虚拟按钮和/或虚拟键盘，也称软按钮和/或软键盘。在一些实施例中，显示屏605可以为一个，设置电子设备600的前面板；在另一些实施例中，显示屏605可以为至少两个，分别设置在电子设备600的不同表面或呈折叠设计；在再一些实施例中，显示屏605可以是柔性显示屏，设置在电子设备600的弯曲表面上或折叠面上。甚至，显示屏605还可以设置成非矩形的不规则图形，也即异形屏。显示屏605可以采用LCD(Liquid Crystal Display，液晶显示屏)、OLED(Organic Light-Emitting Diode,有机发光二极管)等材质制备。
摄像头组件606用于采集图像或视频。可选地，摄像头组件606包括前置摄像头和后置摄像头。通常，前置摄像头设置在电子设备的前面板，后置摄像头设置在电子设备的背面。在一些实施例中，后置摄像头为至少两个，分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种，以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及VR(Virtual Reality，虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中，摄像头组件606还可以包括闪光灯。闪光灯可以是单色温闪光灯，也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合，可以用于不同色温下的光线补偿。
音频电路607可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波，并将声波转换为电信号输入至处理器601进行处理，或者输入至射频电路604以实现语音通信。出于立体声采集或降噪的目的，麦克风可以为多个，分别设置在电子设备600的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器601或射频电路604的电信号转换为声波。扬声器可以是传统的薄膜扬声器，也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时，不仅可以将电信号转换为人类可听见的声波，也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中，音频电路607还可以包括耳机插孔。
定位组件608用于定位电子设备600的当前地理位置，以实现导航或LBS(LocationBased Service，基于位置的服务)。定位组件608可以是基于美国的GPS(GlobalPositioning System，全球定位系统)、中国的北斗系统、俄罗斯的格雷纳斯系统或欧盟的伽利略系统的定位组件。
电源609用于为电子设备600中的各个组件进行供电。电源609可以是交流电、直流电、一次性电池或可充电电池。当电源609包括可充电电池时，该可充电电池可以支持有线充电或无线充电。该可充电电池还可以用于支持快充技术。
在一些实施例中，电子设备600还包括有一个或多个传感器610。该一个或多个传感器610包括但不限于：加速度传感器611、陀螺仪传感器612、压力传感器613、指纹传感器614、光学传感器615以及接近传感器616。
加速度传感器611可以检测以电子设备600建立的坐标系的三个坐标轴上的加速度大小。比如，加速度传感器611可以用于检测重力加速度在三个坐标轴上的分量。处理器601可以根据加速度传感器611采集的重力加速度信号，控制触摸显示屏605以横向视图或纵向视图进行用户界面的显示。加速度传感器611还可以用于游戏或者用户的运动数据的采集。
陀螺仪传感器612可以检测电子设备600的机体方向及转动角度，陀螺仪传感器612可以与加速度传感器611协同采集用户对电子设备600的3D动作。处理器601根据陀螺仪传感器612采集的数据，可以实现如下功能：动作感应(比如根据用户的倾斜操作来改变UI)、拍摄时的图像稳定、游戏控制以及惯性导航。
压力传感器613可以设置在电子设备600的侧边框和/或触摸显示屏605的下层。当压力传感器613设置在电子设备600的侧边框时，可以检测用户对电子设备600的握持信号，由处理器601根据压力传感器613采集的握持信号进行左右手识别或快捷操作。当压力传感器613设置在触摸显示屏605的下层时，由处理器601根据用户对触摸显示屏605的压力操作，实现对UI界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
指纹传感器614用于采集用户的指纹，由处理器601根据指纹传感器614采集到的指纹识别用户的身份，或者，由指纹传感器614根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时，由处理器601授权该用户执行相关的敏感操作，该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器614可以被设置电子设备600的正面、背面或侧面。当电子设备600上设置有物理按键或厂商Logo时，指纹传感器614可以与物理按键或厂商Logo集成在一起。
光学传感器615用于采集环境光强度。在一个实施例中，处理器601可以根据光学传感器615采集的环境光强度，控制触摸显示屏605的显示亮度。具体地，当环境光强度较高时，调高触摸显示屏605的显示亮度；当环境光强度较低时，调低触摸显示屏605的显示亮度。在另一个实施例中，处理器601还可以根据光学传感器615采集的环境光强度，动态调整摄像头组件606的拍摄参数。
接近传感器616，也称距离传感器，通常设置在电子设备600的前面板。接近传感器616用于采集用户与电子设备600的正面之间的距离。在一个实施例中，当接近传感器616检测到用户与电子设备600的正面之间的距离逐渐变小时，由处理器601控制触摸显示屏605从亮屏状态切换为息屏状态；当接近传感器616检测到用户与电子设备600的正面之间的距离逐渐变大时，由处理器601控制触摸显示屏605从息屏状态切换为亮屏状态。
本领域技术人员可以理解，图6中示出的结构并不构成对电子设备600的限定，可以包括比图示更多或更少的组件，或者组合某些组件，或者采用不同的组件布置。
在示例性实施例中，还提供了一种非临时性计算机可读存储介质，当该存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行一种人脸三维重建方法，该方法包括：
获取初始三维人脸模型和人脸图像；
对该人脸图像进行人脸识别，得到人脸姿态数据；
根据该人脸姿态数据、采集该人脸图像的设备的投影参数以及该初始三维人脸模型的各个顶点的三维坐标，获取该初始三维人脸模型在该人脸姿态数据对应的姿态下，该各个顶点投影到该设备的成像平面上的二维坐标；
根据该各个顶点的二维坐标和该人脸图像，对该初始三维人脸模型进行纹理贴图处理，得到该人脸图像的三维人脸模型。
例如，该非临时性计算机可读存储介质可以是只读内存(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory，RAM)、只读光盘(Compact Disc Read-OnlyMemory，CD-ROM)、磁带、软盘和光数据存储设备等。
在示例性实施例中，还提供了一种应用程序产品，当该应用程序产品中的指令由电子设备的处理器执行时，使得电子设备能够执行一种人脸三维重建方法，该方法包括：
获取初始三维人脸模型和人脸图像；
对该人脸图像进行人脸识别，得到人脸姿态数据；
根据该人脸姿态数据、采集该人脸图像的设备的投影参数以及该初始三维人脸模型的各个顶点的三维坐标，获取该初始三维人脸模型在该人脸姿态数据对应的姿态下，该各个顶点投影到该设备的成像平面上的二维坐标；
根据该各个顶点的二维坐标和该人脸图像，对该初始三维人脸模型进行纹理贴图处理，得到该人脸图像的三维人脸模型。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。
应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
Claims (10)
1.一种人脸三维重建方法，其特征在于，包括：
获取初始三维人脸模型和人脸图像；
对所述人脸图像进行人脸识别，得到人脸姿态数据；
根据所述人脸姿态数据、采集所述人脸图像的设备的投影参数以及所述初始三维人脸模型的各个顶点的三维坐标，获取所述初始三维人脸模型在所述人脸姿态数据对应的姿态下，所述各个顶点投影到所述设备的成像平面上的二维坐标；
根据所述各个顶点的二维坐标和所述人脸图像，对所述初始三维人脸模型进行纹理贴图处理，得到所述人脸图像的三维人脸模型。
2.根据权利要求1所述的人脸三维重建方法，其特征在于，所述对所述人脸图像进行人脸识别，得到人脸姿态数据，包括：
对所述人脸图像进行人脸识别，将识别得到的所述人脸图像中人脸的位置和朝向作为所述人脸姿态数据。
3.根据权利要求2所述的人脸三维重建方法，其特征在于，所述对所述人脸图像进行人脸识别，将识别得到的所述人脸图像中人脸的位置和朝向作为所述人脸姿态数据，包括：
采用人脸识别算法，对所述人脸图像进行人脸识别，得到位移矩阵和旋转矩阵，所述位移矩阵用于表示所述设备在采集所述人脸图像时所述人脸在三维空间中的位置，所述旋转矩阵用于表示所述设备在采集所述人脸图像时所述人脸在三维空间中的朝向；
将所述位移矩阵和所述旋转矩阵相乘得到的矩阵作为所述人脸姿态数据。
4.根据权利要求3所述的人脸三维重建方法，其特征在于，所述投影参数包括投影矩阵，
相应地，所述根据所述人脸姿态数据、采集所述人脸图像的设备的投影参数以及所述初始三维人脸模型的各个顶点的三维坐标，获取所述初始三维人脸模型在所述人脸姿态数据对应的姿态下，所述各个顶点投影到所述设备的成像平面上的二维坐标，包括：
对于所述各个顶点中的每个顶点，将所述顶点的三维坐标与所述矩阵和所述投影矩阵相乘，得到所述顶点的二维坐标。
5.根据权利要求1所述的人脸三维重建方法，其特征在于，所述根据所述各个顶点的二维坐标和所述人脸图像，对所述初始三维人脸模型进行纹理贴图处理，得到所述人脸图像的三维人脸模型，包括：
根据所述各个顶点的二维坐标，对所述人脸图像进行纹理数据采集；
根据采集到的纹理数据，对所述初始三维人脸模型进行纹理贴图处理，得到所述三维人脸模型。
6.根据权利要求1所述的人脸三维重建方法，其特征在于，所述根据所述各个顶点的二维坐标和所述人脸图像，对所述初始三维人脸模型进行纹理贴图处理，得到所述人脸图像的三维人脸模型之后，所述方法还包括：
根据所述人脸姿态数据、所述各个顶点的三维坐标和二维坐标，将所述三维人脸模型渲染到所述人脸图像上。
7.根据权利要求6所述的人脸三维重建方法，其特征在于，所述根据所述人脸姿态数据、所述各个顶点的三维坐标和二维坐标，将所述三维人脸模型渲染到所述人脸图像上，包括：
根据所述人脸姿态数据、所述各个顶点的三维坐标和二维坐标，对所述三维人脸模型进行渲染；
将渲染得到的图像覆盖到所述人脸图像上。
8.一种人脸三维重建装置，其特征在于，包括：
获取模块，被配置为执行获取初始三维人脸模型和人脸图像；
识别模块，被配置为执行对所述人脸图像进行人脸识别，得到人脸姿态数据；
所述获取模块还被配置为执行根据所述人脸姿态数据、采集所述人脸图像的设备的投影参数以及所述初始三维人脸模型的各个顶点的三维坐标，获取所述初始三维人脸模型在所述人脸姿态数据对应的姿态下，所述各个顶点投影到所述设备的成像平面上的二维坐标；
处理模块，被配置为执行根据所述各个顶点的二维坐标和所述人脸图像，对所述初始三维人脸模型进行纹理贴图处理，得到所述人脸图像的三维人脸模型。
9.一种电子设备，其特征在于，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为：
获取初始三维人脸模型和人脸图像；
对所述人脸图像进行人脸识别，得到人脸姿态数据；
根据所述人脸姿态数据、采集所述人脸图像的设备的投影参数以及所述初始三维人脸模型的各个顶点的三维坐标，获取所述初始三维人脸模型在所述人脸姿态数据对应的姿态下，所述各个顶点投影到所述设备的成像平面上的二维坐标；
根据所述各个顶点的二维坐标和所述人脸图像，对所述初始三维人脸模型进行纹理贴图处理，得到所述人脸图像的三维人脸模型。
10.一种非临时性计算机可读存储介质，其特征在于，当所述存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行一种人脸三维重建方法，所述方法包括：
获取初始三维人脸模型和人脸图像；
对所述人脸图像进行人脸识别，得到人脸姿态数据；
根据所述人脸姿态数据、采集所述人脸图像的设备的投影参数以及所述初始三维人脸模型的各个顶点的三维坐标，获取所述初始三维人脸模型在所述人脸姿态数据对应的姿态下，所述各个顶点投影到所述设备的成像平面上的二维坐标；
根据所述各个顶点的二维坐标和所述人脸图像，对所述初始三维人脸模型进行纹理贴图处理，得到所述人脸图像的三维人脸模型。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910008837.3A CN109767487A (zh) | 2019-01-04 | 2019-01-04 | 人脸三维重建方法、装置、电子设备及存储介质 |
| PCT/CN2019/128900 WO2020140832A1 (zh) | 2019-01-04 | 2019-12-26 | 人脸三维重建方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910008837.3A CN109767487A (zh) | 2019-01-04 | 2019-01-04 | 人脸三维重建方法、装置、电子设备及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN109767487A true CN109767487A (zh) | 2019-05-17 |
Family
ID=66453244
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910008837.3A Pending CN109767487A (zh) | 2019-01-04 | 2019-01-04 | 人脸三维重建方法、装置、电子设备及存储介质 |
Country Status (2)
| Country | Link |
|---|---|
| CN (1) | CN109767487A (zh) |
| WO (1) | WO2020140832A1 (zh) |
Cited By (19)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110309554A (zh) * | 2019-06-12 | 2019-10-08 | 清华大学 | 基于服装建模与仿真的视频人体三维重建方法及装置 |
| CN110533777A (zh) * | 2019-08-01 | 2019-12-03 | 北京达佳互联信息技术有限公司 | 三维人脸图像修正方法、装置、电子设备和存储介质 |
| CN110555815A (zh) * | 2019-08-30 | 2019-12-10 | 维沃移动通信有限公司 | 一种图像处理方法和电子设备 |
| CN110675413A (zh) * | 2019-09-27 | 2020-01-10 | 腾讯科技（深圳）有限公司 | 三维人脸模型构建方法、装置、计算机设备及存储介质 |
| CN110796083A (zh) * | 2019-10-29 | 2020-02-14 | 腾讯科技（深圳）有限公司 | 图像显示方法、装置、终端及存储介质 |
| CN111160278A (zh) * | 2019-12-31 | 2020-05-15 | 河南中原大数据研究院有限公司 | 基于单个图像传感器的人脸纹理结构数据采集方法 |
| CN111340943A (zh) * | 2020-02-26 | 2020-06-26 | 北京市商汤科技开发有限公司 | 图像处理方法、装置、设备及存储介质 |
| WO2020140832A1 (zh) * | 2019-01-04 | 2020-07-09 | 北京达佳互联信息技术有限公司 | 人脸三维重建方法、装置、电子设备及存储介质 |
| CN111460937A (zh) * | 2020-03-19 | 2020-07-28 | 深圳市新镜介网络有限公司 | 脸部特征点的定位方法、装置、终端设备及存储介质 |
| CN111626924A (zh) * | 2020-05-28 | 2020-09-04 | 维沃移动通信有限公司 | 图像的虚化处理方法、装置、电子设备及可读存储介质 |
| CN111753739A (zh) * | 2020-06-26 | 2020-10-09 | 北京百度网讯科技有限公司 | 物体检测方法、装置、设备以及存储介质 |
| CN112406608A (zh) * | 2019-08-23 | 2021-02-26 | 国创新能源汽车能源与信息创新中心(江苏)有限公司 | 充电桩及其自动充电装置和方法 |
| CN112562090A (zh) * | 2020-11-30 | 2021-03-26 | 厦门美图之家科技有限公司 | 一种虚拟上妆方法、系统及设备 |
| CN112883870A (zh) * | 2021-02-22 | 2021-06-01 | 北京中科深智科技有限公司 | 一种人脸影像映射方法及系统 |
| CN113129362A (zh) * | 2021-04-23 | 2021-07-16 | 北京地平线机器人技术研发有限公司 | 一种三维坐标数据的获取方法及装置 |
| CN113643348A (zh) * | 2020-04-23 | 2021-11-12 | 杭州海康威视数字技术股份有限公司 | 一种人脸属性分析方法及装置 |
| CN113763531A (zh) * | 2020-06-05 | 2021-12-07 | 北京达佳互联信息技术有限公司 | 三维人脸重建方法、装置、电子设备及存储介质 |
| CN115239576A (zh) * | 2022-06-15 | 2022-10-25 | 荣耀终端有限公司 | 一种照片优化方法、电子设备和存储介质 |
| WO2023231926A1 (zh) * | 2022-06-02 | 2023-12-07 | 北京字跳网络技术有限公司 | 图像处理方法、装置、设备及存储介质 |
Families Citing this family (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112037320B (zh) * | 2020-09-01 | 2023-10-20 | 腾讯科技（深圳）有限公司 | 一种图像处理方法、装置、设备以及计算机可读存储介质 |
| CN112613357B (zh) * | 2020-12-08 | 2024-04-09 | 深圳数联天下智能科技有限公司 | 人脸测量方法、装置、电子设备和介质 |
| CN112734890B (zh) * | 2020-12-22 | 2023-11-10 | 上海影谱科技有限公司 | 基于三维重建的人脸替换方法及装置 |
| CN112652057B (zh) * | 2020-12-30 | 2024-05-07 | 北京百度网讯科技有限公司 | 生成人体三维模型的方法、装置、设备以及存储介质 |
| CN112766215A (zh) * | 2021-01-29 | 2021-05-07 | 北京字跳网络技术有限公司 | 人脸融合方法、装置、电子设备及存储介质 |
| CN113763532B (zh) * | 2021-04-19 | 2024-01-19 | 腾讯科技（深圳）有限公司 | 基于三维虚拟对象的人机交互方法、装置、设备及介质 |
| CN113343879A (zh) * | 2021-06-18 | 2021-09-03 | 厦门美图之家科技有限公司 | 全景面部图像的制作方法、装置、电子设备及存储介质 |
| CN113658313B (zh) * | 2021-09-09 | 2024-05-17 | 北京达佳互联信息技术有限公司 | 人脸模型的渲染方法、装置及电子设备 |
| CN115082640A (zh) * | 2022-08-01 | 2022-09-20 | 聚好看科技股份有限公司 | 基于单张图像的3d人脸模型纹理重建方法及设备 |
| CN115631285B (zh) * | 2022-11-25 | 2023-05-02 | 北京红棉小冰科技有限公司 | 基于统一驱动的人脸渲染方法、装置、设备及存储介质 |
| CN116978102A (zh) * | 2023-08-04 | 2023-10-31 | 深圳市英锐存储科技有限公司 | 一种人脸特征建模识别方法、芯片及终端 |
| CN117496059B (zh) * | 2023-11-03 | 2024-04-12 | 北京元点未来科技有限公司 | 基于空间算法利用aigc技术的三维影像系统 |
| CN117496019B (zh) * | 2023-12-29 | 2024-04-05 | 南昌市小核桃科技有限公司 | 一种驱动静态图像的图像动画处理方法及系统 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5742749A (en) * | 1993-07-09 | 1998-04-21 | Silicon Graphics, Inc. | Method and apparatus for shadow generation through depth mapping |
| CN101515324A (zh) * | 2009-01-21 | 2009-08-26 | 上海银晨智能识别科技有限公司 | 适用于多种姿态的人脸识别布控系统及方法 |
| CN102074015A (zh) * | 2011-02-24 | 2011-05-25 | 哈尔滨工业大学 | 一种基于二维图像序列的目标对象的三维重建方法 |
| CN102804231A (zh) * | 2009-06-15 | 2012-11-28 | 微软公司 | 三维场景的分段平面重建 |
| CN108765550A (zh) * | 2018-05-09 | 2018-11-06 | 华南理工大学 | 一种基于单张图片的三维人脸重建方法 |
| CN108921795A (zh) * | 2018-06-04 | 2018-11-30 | 腾讯科技（深圳）有限公司 | 一种图像融合方法、装置及存储介质 |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102999942B (zh) * | 2012-12-13 | 2015-07-15 | 清华大学 | 三维人脸重建方法 |
| CN104966316B (zh) * | 2015-05-22 | 2019-03-15 | 腾讯科技（深圳）有限公司 | 一种3d人脸重建方法、装置及服务器 |
| CN109035394B (zh) * | 2018-08-22 | 2023-04-07 | 广东工业大学 | 人脸三维模型重建方法、装置、设备、系统及移动终端 |
| CN109767487A (zh) * | 2019-01-04 | 2019-05-17 | 北京达佳互联信息技术有限公司 | 人脸三维重建方法、装置、电子设备及存储介质 |
-
2019
- 2019-01-04 CN CN201910008837.3A patent/CN109767487A/zh active Pending
- 2019-12-26 WO PCT/CN2019/128900 patent/WO2020140832A1/zh active Application Filing
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5742749A (en) * | 1993-07-09 | 1998-04-21 | Silicon Graphics, Inc. | Method and apparatus for shadow generation through depth mapping |
| CN101515324A (zh) * | 2009-01-21 | 2009-08-26 | 上海银晨智能识别科技有限公司 | 适用于多种姿态的人脸识别布控系统及方法 |
| CN102804231A (zh) * | 2009-06-15 | 2012-11-28 | 微软公司 | 三维场景的分段平面重建 |
| CN102074015A (zh) * | 2011-02-24 | 2011-05-25 | 哈尔滨工业大学 | 一种基于二维图像序列的目标对象的三维重建方法 |
| CN108765550A (zh) * | 2018-05-09 | 2018-11-06 | 华南理工大学 | 一种基于单张图片的三维人脸重建方法 |
| CN108921795A (zh) * | 2018-06-04 | 2018-11-30 | 腾讯科技（深圳）有限公司 | 一种图像融合方法、装置及存储介质 |
Non-Patent Citations (1)
| Title |
|---|
| 张强: "三维重建中纹理映射的研究", 《万方中国学位论文全文数据库》 * |
Cited By (32)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2020140832A1 (zh) * | 2019-01-04 | 2020-07-09 | 北京达佳互联信息技术有限公司 | 人脸三维重建方法、装置、电子设备及存储介质 |
| CN110309554B (zh) * | 2019-06-12 | 2021-01-15 | 清华大学 | 基于服装建模与仿真的视频人体三维重建方法及装置 |
| CN110309554A (zh) * | 2019-06-12 | 2019-10-08 | 清华大学 | 基于服装建模与仿真的视频人体三维重建方法及装置 |
| CN110533777A (zh) * | 2019-08-01 | 2019-12-03 | 北京达佳互联信息技术有限公司 | 三维人脸图像修正方法、装置、电子设备和存储介质 |
| CN110533777B (zh) * | 2019-08-01 | 2020-09-15 | 北京达佳互联信息技术有限公司 | 三维人脸图像修正方法、装置、电子设备和存储介质 |
| CN112406608A (zh) * | 2019-08-23 | 2021-02-26 | 国创新能源汽车能源与信息创新中心(江苏)有限公司 | 充电桩及其自动充电装置和方法 |
| CN110555815B (zh) * | 2019-08-30 | 2022-05-20 | 维沃移动通信有限公司 | 一种图像处理方法和电子设备 |
| CN110555815A (zh) * | 2019-08-30 | 2019-12-10 | 维沃移动通信有限公司 | 一种图像处理方法和电子设备 |
| CN110675413A (zh) * | 2019-09-27 | 2020-01-10 | 腾讯科技（深圳）有限公司 | 三维人脸模型构建方法、装置、计算机设备及存储介质 |
| CN110675413B (zh) * | 2019-09-27 | 2020-11-13 | 腾讯科技（深圳）有限公司 | 三维人脸模型构建方法、装置、计算机设备及存储介质 |
| CN110796083B (zh) * | 2019-10-29 | 2023-07-04 | 腾讯科技（深圳）有限公司 | 图像显示方法、装置、终端及存储介质 |
| CN110796083A (zh) * | 2019-10-29 | 2020-02-14 | 腾讯科技（深圳）有限公司 | 图像显示方法、装置、终端及存储介质 |
| CN111160278B (zh) * | 2019-12-31 | 2023-04-07 | 陕西西图数联科技有限公司 | 基于单个图像传感器的人脸纹理结构数据采集方法 |
| CN111160278A (zh) * | 2019-12-31 | 2020-05-15 | 河南中原大数据研究院有限公司 | 基于单个图像传感器的人脸纹理结构数据采集方法 |
| CN111340943A (zh) * | 2020-02-26 | 2020-06-26 | 北京市商汤科技开发有限公司 | 图像处理方法、装置、设备及存储介质 |
| CN111460937B (zh) * | 2020-03-19 | 2023-12-19 | 深圳市新镜介网络有限公司 | 脸部特征点的定位方法、装置、终端设备及存储介质 |
| CN111460937A (zh) * | 2020-03-19 | 2020-07-28 | 深圳市新镜介网络有限公司 | 脸部特征点的定位方法、装置、终端设备及存储介质 |
| CN113643348B (zh) * | 2020-04-23 | 2024-02-06 | 杭州海康威视数字技术股份有限公司 | 一种人脸属性分析方法及装置 |
| CN113643348A (zh) * | 2020-04-23 | 2021-11-12 | 杭州海康威视数字技术股份有限公司 | 一种人脸属性分析方法及装置 |
| CN111626924A (zh) * | 2020-05-28 | 2020-09-04 | 维沃移动通信有限公司 | 图像的虚化处理方法、装置、电子设备及可读存储介质 |
| CN111626924B (zh) * | 2020-05-28 | 2023-08-15 | 维沃移动通信有限公司 | 图像的虚化处理方法、装置、电子设备及可读存储介质 |
| CN113763531A (zh) * | 2020-06-05 | 2021-12-07 | 北京达佳互联信息技术有限公司 | 三维人脸重建方法、装置、电子设备及存储介质 |
| CN113763531B (zh) * | 2020-06-05 | 2023-11-28 | 北京达佳互联信息技术有限公司 | 三维人脸重建方法、装置、电子设备及存储介质 |
| CN111753739A (zh) * | 2020-06-26 | 2020-10-09 | 北京百度网讯科技有限公司 | 物体检测方法、装置、设备以及存储介质 |
| CN111753739B (zh) * | 2020-06-26 | 2023-10-31 | 北京百度网讯科技有限公司 | 物体检测方法、装置、设备以及存储介质 |
| CN112562090A (zh) * | 2020-11-30 | 2021-03-26 | 厦门美图之家科技有限公司 | 一种虚拟上妆方法、系统及设备 |
| CN112883870A (zh) * | 2021-02-22 | 2021-06-01 | 北京中科深智科技有限公司 | 一种人脸影像映射方法及系统 |
| CN113129362A (zh) * | 2021-04-23 | 2021-07-16 | 北京地平线机器人技术研发有限公司 | 一种三维坐标数据的获取方法及装置 |
| CN113129362B (zh) * | 2021-04-23 | 2024-05-10 | 北京地平线机器人技术研发有限公司 | 一种三维坐标数据的获取方法及装置 |
| WO2023231926A1 (zh) * | 2022-06-02 | 2023-12-07 | 北京字跳网络技术有限公司 | 图像处理方法、装置、设备及存储介质 |
| CN115239576B (zh) * | 2022-06-15 | 2023-08-04 | 荣耀终端有限公司 | 一种照片优化方法、电子设备和存储介质 |
| CN115239576A (zh) * | 2022-06-15 | 2022-10-25 | 荣耀终端有限公司 | 一种照片优化方法、电子设备和存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| WO2020140832A1 (zh) | 2020-07-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109767487A (zh) | 人脸三维重建方法、装置、电子设备及存储介质 | |
| CN109308727B (zh) | 虚拟形象模型生成方法、装置及存储介质 | |
| CN109978989A (zh) | 三维人脸模型生成方法、装置、计算机设备及存储介质 | |
| CN110189340A (zh) | 图像分割方法、装置、电子设备及存储介质 | |
| CN110276840A (zh) | 多虚拟角色的控制方法、装置、设备及存储介质 | |
| CN108648235A (zh) | 相机姿态追踪过程的重定位方法、装置及存储介质 | |
| CN110141857A (zh) | 虚拟角色的面部显示方法、装置、设备及存储介质 | |
| CN110427110A (zh) | 一种直播方法、装置以及直播服务器 | |
| CN110488977A (zh) | 虚拟现实显示方法、装置、系统及存储介质 | |
| CN112907725B (zh) | 图像生成、图像处理模型的训练、图像处理方法和装置 | |
| CN108965922A (zh) | 视频封面生成方法、装置和存储介质 | |
| CN110135336A (zh) | 行人生成模型的训练方法、装置及存储介质 | |
| CN112337105B (zh) | 虚拟形象生成方法、装置、终端及存储介质 | |
| CN110059652A (zh) | 人脸图像处理方法、装置及存储介质 | |
| CN109522863A (zh) | 耳部关键点检测方法、装置及存储介质 | |
| CN110956580B (zh) | 图像换脸的方法、装置、计算机设备以及存储介质 | |
| CN110064200A (zh) | 基于虚拟环境的物体构建方法、装置及可读存储介质 | |
| CN110263617A (zh) | 三维人脸模型获取方法及装置 | |
| CN110136236A (zh) | 三维角色的个性化脸部显示方法、装置、设备及存储介质 | |
| CN110033503A (zh) | 动画显示方法、装置、计算机设备及存储介质 | |
| CN109947338A (zh) | 图像切换显示方法、装置、电子设备及存储介质 | |
| CN109886208A (zh) | 物体检测的方法、装置、计算机设备及存储介质 | |
| CN109583370A (zh) | 人脸结构网格模型建立方法、装置、电子设备及存储介质 | |
| CN109192218A (zh) | 音频处理的方法和装置 | |
| CN111680758B (zh) | 图像训练样本生成方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190517 |
|
| RJ01 | Rejection of invention patent application after publication |