CN113240811A - 三维人脸模型创建方法、系统、设备及存储介质 - Google Patents

三维人脸模型创建方法、系统、设备及存储介质 Download PDF

Info

Publication number
CN113240811A
CN113240811A CN202110466699.0A CN202110466699A CN113240811A CN 113240811 A CN113240811 A CN 113240811A CN 202110466699 A CN202110466699 A CN 202110466699A CN 113240811 A CN113240811 A CN 113240811A
Authority
CN
China
Prior art keywords
face
model
dimensional
basic
preset
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110466699.0A
Other languages
English (en)
Other versions
CN113240811B (zh
Inventor
李骥
明利
郭睿
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Feather Trace Technology Co ltd
Original Assignee
Shenzhen Feather Trace Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Feather Trace Technology Co ltd filed Critical Shenzhen Feather Trace Technology Co ltd
Priority to CN202110466699.0A priority Critical patent/CN113240811B/zh
Publication of CN113240811A publication Critical patent/CN113240811A/zh
Application granted granted Critical
Publication of CN113240811B publication Critical patent/CN113240811B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/04Texture mapping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Graphics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本发明公开了一种三维人脸模型创建方法、系统、设备及存储介质,三维人脸模型创建方法包括:获取照片集,照片集包括用户多个角度的人脸照片;提取照片集中满足预设角度规则的多张不同角度人脸照片;根据人脸照片获取人脸关键点和面部纹理,并将人脸关键点和面部纹理代入预设人脸重建算法以确定人脸照片对应的基础人脸模型;将多张人脸照片对应的多个基础人脸模型在矢量空间进行拟合以得到三维人脸模型。本发明通过人脸关键点、面部纹理代入预设人脸重建算法确定对应的基础人脸模型,将不同角度的基础人脸模型在矢量空间进行拟合以得到三维人脸模型,使得三维人脸模型构建更加符合用户真实的人脸,实现三维人脸模型构建更加高效、精确的效果。

Description

三维人脸模型创建方法、系统、设备及存储介质
技术领域
本发明涉及计算即视觉技术领域,尤其是涉及一种三维人脸模型创建方法、系统、设备及存储介质。
背景技术
3D人体建模是目前计算机图形学和计算机视觉领域最基础的研究问题之一,三维人体模型在身份鉴别、医疗辅助、影视制作、游戏制作、数字艺术等方面均有广泛的应用,3D人脸网格的重建是指一张或多张2D图像中重建人脸的3D网格。
相关技术中,关于人脸的自动三维化技术主要是基于人工智能技术的单张照片三维重建方法,通过一张照片的人脸信息计算出关键特征点的空间位置关系,实现模型的创建。但是采用单张照片建模的方式缺点是缺失了人脸的左右两侧面部关键点的信息,导致计算出来的关键点坐标位置不够精确,从而生成的模型相似度不够高。
发明内容
本发明旨在至少解决现有技术中存在的技术问题之一。为此,本发明提出一种三维人脸模型创建方法,能够得到更加准确的人脸模型。
本发明还提出一种三维人脸模型创建系统。
本发明还提出一种电子控制设备。
本发明还提出一种计算机可读存储介质。
第一方面,本发明的一个实施例提供了三维人脸模型创建方法,包括:
获取照片集,所述照片集包括用户多个角度的人脸照片;
提取所述照片集中满足预设角度规则的多张不同角度所述人脸照片;
根据所述人脸照片获取人脸关键点和面部纹理,并将所述人脸关键点和所述面部纹理代入预设人脸重建算法以确定所述人脸照片对应的基础人脸模型;
将多张所述人脸照片对应的多个所述基础人脸模型在矢量空间进行拟合以得到三维人脸模型。
本发明实施例的三维人脸模型创建方法至少具有如下有益效果:通过提取照片集中不同角度的人脸照片后提取每张人脸照片的人脸关键点和面部纹理,然后根据人脸关键点、面部纹理代入预设人脸重建算法确定对应的基础人脸模型,再将不同角度的基础人脸模型在矢量空间进行拟合以得到三维人脸模型,使得三维人脸模型构建更加符合用户真实的人脸,实现三维人脸模型构建更加高效、精确的效果。
根据本发明的另一些实施例的三维人脸模型创建方法,所述提取所述照片集中满足预设角度规则的多张不同角度所述人脸照片,包括:
识别所述照片集中所述人脸照片的图像角度;
提取所述照片集中所述图像角度满足预设角度规则的多张所述人脸照片。
根据本发明的另一些实施例的三维人脸模型创建方法,所述根据所述人脸照片获取人脸关键点和面部纹理,并将所述人脸关键点和所述面部纹理代入预设人脸重建算法以确定所述人脸照片对应的基础人脸模型,包括:
根据所述人脸照片获取所述人脸关键点和所述面部纹理;
将所述人脸关键点与预设人脸基础模型的骨骼点相互对齐以得到初步人脸模型;
获取所述预设人脸基础模型的基本贴图,根据所述基本贴图和所述面部纹理进行差值计算和融合以得到基础纹理数据;
根据所述初步人脸模型和所述基础纹理数据确定所述人脸照片对应的所述基础人脸模型。
根据本发明的另一些实施例的三维人脸模型创建方法,所述将多张所述人脸照片对应的多个所述基础人脸模型在矢量空间进行拟合以得到三维人脸模型,包括:
提取多张所述人脸照片对应的所述基础人脸模型的人脸面部纹理和三角网格;
将多个所述三角网格在矢量空间进行权重拟合以得到三维模型网格;
将多个所述人脸面部纹理在矢量空间进行权重融合以得到人脸纹理贴图;
根据所述三维模型网格和所述人脸纹理贴图确定所述三维人脸模型。
根据本发明的另一些实施例的三维人脸模型创建方法,所述将多个所述三角网格在矢量空间进行权重拟合以得到三维模型网格包括:
获取所述三角网格每个点的法线方向以得到网格法线方向;
计算所述网格法线方向和预设法线方向的重合度;
根据所述重合度、预设重合度与预设权重的对应关系确定所述三角网格对应第一权重;
将多个所述三角网格以对应的所述第一权重进行拟合以得到所述三维模型网格。
根据本发明的另一些实施例的三维人脸模型创建方法,所述将多个所述人脸面部纹理在矢量空间进行权重融合以得到人脸纹理贴图,包括:
获取所述人脸面部纹理的每条纹理的法线方向以得到纹理法线方向;
计算所述纹理法线方向和预设法线方向的融合度;
根据所述融合度、预设融合度与预设权重的对应关系确定所述人脸面部纹理对应第二权重;
将多个所述人脸面部纹理以对应的所述第二权重进行拟合以得到所述人脸纹理贴图。
根据本发明的另一些实施例的三维人脸模型创建方法,所述提取所述照片集中所述图像角度满足多个预设角度规则的多张所述人脸照片,包括:
计算所述照片集中所述图像角度和多个预设角度的差值;
提取所述照片集中所述差值在预设差值区间中的多张所述人脸照片。
第二方面,本发明的一个实施例提供了三维人脸模型创建系统,包括:
获取模块,用于获取照片集,所述照片集包括用户多个角度的人脸照片;
提取模块,用于提取所述照片集不同角度的多张所述人脸照片;
处理模块,用于根据所述人脸照片获取人脸关键点和面部纹理,并将所述人脸关键点和所述面部纹理代入预设人脸重建算法以确定所述人脸照片对应的基础人脸模型;
拟合模块,用于将多张所述人脸照片对应的多个所述基础人脸模型在矢量空间进行拟合以得到三维人脸模型。
本发明实施例的三维人脸模型创建系统至少具有如下有益效果:通过提取照片集中不同角度的人脸照片后提取每张人脸照片的人脸关键点和面部纹理,然后根据人脸关键点、面部纹理代入预设人脸重建算法确定对应的基础人脸模型,再将不同角度的基础人脸模型在矢量空间进行拟合以得到三维人脸模型,使得三维人脸模型构建更加符合用户真实的人脸,实现三维人脸模型构建更加高效、精确的效果。
第三方面,本发明的一个实施例提供了电子控制设备,包括:
至少一个处理器,以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如第一方面所述的三维人脸模型创建方法。
第四方面,本发明的一个实施例提供了计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令用于使计算机执行如第一方面所述的三维人脸模型创建方法。
本申请的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本申请而了解。本申请的目的和其他优点可通过在说明书以及附图中所特别指出的结构来实现和获得。
附图说明
图1是本发明实施例中三维人脸模型创建方法的一具体实施例流程示意图;
图2是本发明实施例中三维人脸模型创建方法的另一具体实施例流程示意图;
图3是本发明实施例中三维人脸模型创建方法的另一具体实施例流程示意图;
图4是本发明实施例中三维人脸模型创建方法的另一具体实施例流程示意图;
图5是本发明实施例中三维人脸模型创建方法的一具体实施例中不同角度人脸照片的示意图;
图6是本发明实施例中三维人脸模型创建方法的另一具体实施例流程示意图;
图7是本发明实施例中三维人脸模型创建方法的一具体实施例中人脸网格提取的示意图;
图8是本发明实施例中三维人脸模型创建方法的一具体实施例中人脸模型构建示意图;
图9是本发明实施例中三维人脸模型创建方法的另一具体实施例流程示意图;
图10是本发明实施例中三维人脸模型创建方法的另一具体实施例流程示意图;
图11是本发明实施例中三维人脸模型创建方法的另一具体实施例中三个角度的基础人脸模型示意图;
图12是本发明实施例中三维人脸模型创建系统的一具体实施例模块框图;
图13是本发明实施例中电子控制设备的一具体实施例模块框图。
附图标记:100、获取模块;200、提取模块;300、处理模块;400、拟合模块;500、处理器;600、存储器。
具体实施方式
以下将结合实施例对本发明的构思及产生的技术效果进行清楚、完整地描述,以充分地理解本发明的目的、特征和效果。显然,所描述的实施例只是本发明的一部分实施例,而不是全部实施例,基于本发明的实施例,本领域的技术人员在不付出创造性劳动的前提下所获得的其他实施例,均属于本发明保护的范围。
在本发明实施例的描述中,如果涉及到“若干”,其含义是一个以上,如果涉及到“多个”,其含义是两个以上,如果涉及到“大于”、“小于”、“超过”,均应理解为不包括本数,如果涉及到“以上”、“以下”、“以内”,均应理解为包括本数。如果涉及到“第一”、“第二”,应当理解为用于区分技术特征,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量或者隐含指明所指示的技术特征的先后关系。
照片建模属于三维重建领域,目前关于人脸的自动三维技术主要是基于人工智能技术的单照片三维重建方法,通过单张照片的人脸信息计算出关键特征点的空间位置关系,实现模型的创建,单张照片建模的方式缺点是缺失了左右两侧面部关键点的信息,导致计算出来的关键点坐标位置不够精确,从而生成的模型相似度不够高。
单张照片的三维人脸建模算法的优势在于稳定性好,速度快且适用性强,但是单张照片的三维人脸建模算法精度低且与实际的人脸模型具有一定的误差。
基于此,本申请公开了一种三维人脸模型创建方法、系统、设备及存储介质,能够得到更加精确的三维人脸模型。
第一方面,参照图1,本发明实施例公开了一种三维人脸模型创建方法,包括:
S100、获取照片集,照片集包括用户多个角度的人脸照片;
S200、提取照片集中满足预设角度规则的多张不同角度人脸照片;
S300、根据人脸照片获取人脸关键点和面部纹理,并将人脸关键点和面部纹理代入预设人脸重建算法以确定人脸照片对应的基础人脸模型;
S400、将多张人脸照片对应的多个基础人脸模型在矢量空间进行拟合以得到三维人脸模型。
通过在照片集中提取多张不同角度的人脸照片,然后对不同角度的人脸照片提取人脸关键点和面部纹理,通过将每张人脸照片的人脸关键点和面部纹理代入预设人脸重建算法以得到人脸照片对应的基础人脸模型,然后将不同角度的人脸照片建立的多个基础人脸模型在矢量空间进行拟合以得到三维人脸模型。由于不同角度的人脸建立的基础人脸模型已经是一个完整的人脸模型,但是每个基础人脸模型会有一定的误差,所以再将多个基础人脸模型进行拟合以排除误差干扰信息以得到更加精确的三维人脸模型,从而提高三维人脸模型和实际人脸的相似度。
其中,照片集是拍摄用户不同角度的人脸照片所创建,通过显示不同角度提示以获取不同角度的人脸照片,且用户可以根据所显示的角度提示转动人脸以得到不同角度的人脸照片。通过将多张不同角度的人脸照片存储至照片集,但是照片集内存储的人脸照片不一定满足显示的角度提示,所以需要在照片集中提取满足预设角度规则的不同角度的人脸照片,以减少基础人脸模型建立的误差率。
参照图2,在一些实施例中,步骤S200包括:
S210、识别照片集中人脸照片的图像角度;
S220、提取照片集中图像角度满足预设角度规则的多张人脸照片。
由于照片集内存储多张人脸照片,所以需要在照片集内提取可以进行基础模型建立的人脸照片,为了得到更加准确的三维人脸模型,需要构建不同角度的基础人脸模型,所以识别照片集中每张人脸照片的图像角度,再将图像角度和预设角度规则进行比对以获取照片集中图像角度满足预设角度规则的人脸照片,即可根据不同角度的人脸照片建立不同角度的基础人脸模型,则根据不同角度的基础人脸模型拟合得到的三维人脸模型更加符合实际的人脸。
例如,在本实施例中,需要获取三个不同角度的人脸照片以构建三个角度的基础人脸模型。其中预设角度规则主要为正面角度、左侧45°和右侧45°,所以获取满足正面角度、左侧45°、右侧45°的人脸照片,然后通过三张不同的人脸照片创建对应的基础人脸模型,然后将正面角度、左侧45°、右侧45°的基础人脸模型进行拟合以得到与用户人脸吻合度极高的三维人脸模型,以提高人脸模型创建的精确度。
参照图3,在一些实施例中,步骤S220包括:
S221、计算照片集中图像角度和多个预设角度的差值;
S222、提取照片集中差值在预设差值区间中的多张人脸照片。
由于用户在根据显示的角度提示拍照时不一定采集到完全符合预设角度的人脸照片,所以只需要提取照片集中满足预设角度规则的人脸照片即可。其中预设角度规则主要是人脸照片的图像角度和预设角度的差值在预设差值区间即可,所以需要计算照片集中每一张图像角度和多个预设角度的差值,然后将差值和预设差值区间进行比较以采集差值符合预设差值区间的人脸照片,以得到更加符合基础人脸模型建立的人脸照片。
其中,预设角度设置多个,且预设角度的设置数量根据用户对于三维人脸模型的精确度要求所确定。例如若三维人脸模型只需要拟合三个基础人脸模型则预设角度设置三个,然后将照片集中所有的图像角度和三个预设角度进行差值计算。若图像角度和同一个预设角度的差值符合预设差值区间的人脸照片存在多张,则获取图像角度和预设角度的差值最小的人脸照片,以保证基础人脸模型构建的准确性,也无需对多张人脸照片都建立基础人脸模型,以通过三张满足预设角度规则的人脸照片构建三个基础人脸模型,然后通过三个基础人脸模型进行拟合以得到的三维人脸模型,既保证了三维人脸模型的准确性又能够提高三维人脸模型构建的效率。
例如,参照图5,假设预设角度设置三个,且三个预设角度分别为0°、45°和-45°,且以人脸正面为0°,所以将照片集中每张人脸照片的图像角度和0°、45°和-45°逐个进行差值计算。若A人脸照片的图像角度为44°,B人脸照片的图像角度为41°,C人脸照片的图像角度为43°,预设差值区间为0~3°,则计算A、B、C人脸照片的差值为1°和4°,所以只有A和C人脸照片满足预设角度规则,再获取A和C人脸照片中差值最小的A人脸照片,以根据A人脸照片建立对应的基础人脸模型,使得人脸基础模型建立更加准确。同理,其他预设角度的人脸照片获取原理与45°的人脸照片相同。其中,预设角度可以根据用户要求设定为任意角度,且预设差值区间也根据用户设定为0~20°,因此采集的预设角度只要满足0°、-60°~-40°、40°~60°即可。
参照图4,在一些实施例中,步骤S300包括:
S310、根据人脸照片获取人脸关键点和面部纹理;
S320、将人脸关键点与预设人脸基础模型的骨骼点相互对齐以得到初步人脸模型;
S330、获取预设人脸基础模型的基本贴图,根据基本贴图和面部纹理进行差值计算和融合以得到基础纹理数据;
S340、根据初步人脸模型和基础纹理数据确定人脸照片对应的基础人脸模型。
提取不同角度的人脸照片后,根据单张人脸照片建立对应的基础人脸模型。首先根据单张人脸照片进行解析然后对特征点进行标注以获取人脸照片的人脸关键点,再获取人脸关键点的空间坐标,其中人脸关键点的空间坐标主要根据人脸照片的亮度所确定。然后将人脸关键点的空间坐标和预设人脸基础模型的骨骼点的空间坐标进行对齐以得到初步人脸模型。先获取面部纹理,在面部纹理的基础上生成一张与面部纹理和颜色值相近的人脸贴图,并获取预设人脸基础模型的基本贴图,将基本贴图和人脸贴图进行差值计算,然后根据基本贴图和人脸贴图进行UV自动绘制和融合以得到基础纹理数据,然后将基础纹理数据代入初步人脸模型中以与人脸照片对应的基础人脸模型,因此得到的基础人脸模型操作简易且符合人脸照片。
其中,人脸关键点的获取主要采集最能代表人脸特征的某些地方,主要包括人脸轮廓和人脸面部的各器官,如眼、鼻、嘴和脸颊等,通过结合解剖学中的骨点、人体测量学中的测量点即MPEG-4中的面部特征点的定义以采集人脸照片的人脸关键点。通过人脸关键点和预设人脸基础模型的骨骼点确定初步人脸模型后需要给初步人脸模型贴上特定人脸照片的面部纹理,以得到基础人脸模型更加富有真实感。因此根据基本贴图和面部纹理确定基础纹理数据后,根据基础纹理数据将面部纹理映射到初步人脸模型以得到与人脸照片对应的基础人脸模型,使得基础人脸模型确定更加快速且准确。
参照图6,在一些实施例中,步骤S400包括:
S410、提取多张人脸照片对应的基础人脸模型的人脸面部纹理和三角网格;
S420、将多个三角网格在矢量空间进行权重拟合以得到三维模型网格;
S430、将多个人脸面部纹理在矢量空间进行权重融合以得到人脸纹理贴图;
S440、根据三维模型网格和人脸纹理贴图确定三维人脸模型。
参照图7和图8,若通过多张人脸照片建立完整的三维人脸模型,则需要对多张人脸照片进行融合,且需要通过多张人脸照片才能得到稳定且精确的三维人脸模型,多张人脸照片直接融合得到的三维人脸模型的效率也更加低下。因此在完整单张人脸照片构建得到一个基础人脸模型后,获取每个基础人脸模型的人脸面部纹理和三角网格,其中三角网格也即初步人脸模型的人脸网格。由于每个基础人脸模型都是通过预设人脸基础模型所构建,所以多个基础人脸模型的尺寸大小一致,直接将多个三角网格在矢量空间进行权重拟合以得到三维模型网格,且将多个人脸面部纹理在矢量空间进行权重拟合以得到人脸纹理贴图,以得到更加完整的三维模型网格和人脸纹理贴图,即可根据完整的三维模型网格和人脸纹理贴图构建的三维人脸模型更加精确,且只需要少量的基础人脸模型即可得到准确的三维人脸模型以提高了建模效率。其中,采用权重拟合主要考虑基础人脸模型时不同角度的人脸照片所构建,且不同角度的基础人脸模型存在一定误差,所以对于不同角度的基础人脸模型拟合的要求也是不同,因此采用权重拟合确定三维模型网格和人脸纹理贴图更加符合用户实际的人脸。
参照图9,在一些实施例中,步骤S420包括:
S421、获取三角网格每个点的法线方向以得到网格法线方向;
S422、计算网格法线方向和预设法线方向的重合度;
S423、根据重合度、预设重合度与预设权重的对应关系确定每个三角网格对应第一权重;
S424、将多个三角网格以对应的第一权重进行拟合以得到三维模型网格。
通过获取三角网格每个点的法线方向以得到网格法线方向,网格法线法相和预设法线方向的重合度越高,说明所构建的基础人脸模型更加准确。其中预设重合度和预设权重的对应关系根据多次训练基础人脸模型以确定,所以确定了重合度后,根据重合度和预设权重的对应关系即可确定第一权重,重合度越高则第一权重也就越高,表示构建的基础人脸模型也即更加准确。因此将多个三角网格根据其对应的第一权重进行拟合以得到三维模型网格更加准确。
参照图10,例如,在本实施例中采用三个角度的人脸照片构建三个基础人脸模型,然后获取三个基础人脸模型的三角网格,以得到A、B、C三个三角网格,且A网格法线方向和预设法线方向的重合度为80%,根据预设重合度和预设权重的对应关系确定A三角网格的第一权重为0.3,假设得到B三角网格的第一权重为0.4,C三角网格的第一权重0.3,因此根据A、B、C三个三角网格以对应的第一权重进行拟合以得到一个更加精确的三维模型网格。
参照图11,在一些实施例中,步骤S430包括:
S431、获取人脸面部纹理的每条纹理的法线方向以得到纹理法线方向;
S432、计算纹理法线方向和预设法线方向的融合度;
S433、根据融合度、预设融合度与预设权重的对应关系确定每个人脸面部纹理对应第二权重;
S434、将多个人脸面部纹理以对应的第二权重进行拟合以得到人脸纹理贴图。
由于不同角度的人脸面部纹理和真实的人脸照片出现偏差,所以获取不同角度的人脸面部纹理的法线方向以得到纹理法线方向,然后计算纹理法线方向和预设法线方向的融合度,根据预设融合度和预设权重确定第二权重,则不同角度的人脸面部纹理以对应的第二权重进行拟合以得到更加符合用户真实人脸的人脸纹理贴图。
通过多个三角网格以对应第一权重进行拟合以得到三维模型网格,多个人脸面部纹理以对应的第二权重进行拟合得到人脸纹理贴图,根据人脸纹理贴图映射在认为模型网格上以得到更加符合用户真实人脸的三维人脸模型。因此通过先确定了每个人脸照片对应的基础人脸模型后,再获取每个基础人脸模型的三角网格和人脸面部纹理,然后将多个三角网格以对应的第一权重进行拟合得到三维模型网格,且多个人脸面部纹理以第二权重进行拟合以得到人脸纹理贴图,再通过人脸纹理贴图映射到三维模型网格上得到更加符合用户真实人脸的三维人脸模型,使得三维人脸模型构建更加高效、精确。
下面参考图1至图11以一个具体的实施例详细描述根据本发明实施例的三维人脸模型创建方法。值得理解的是,下述描述仅是示例性说明,而不是对发明的具体限制。
第二方面,参照图12,本发明实施例还公开了一种三维人脸模型创建系统,包括:获取模块100、提取模块200、处理模块300和拟合模块400;获取模块100用于获取照片集,照片集包括用户多个角度的人脸照片;提取模块200用于提取照片集不同角度的多张人脸照片;处理模块300用于根据人脸照片获取人脸关键点和面部纹理,并将人脸关键点和面部纹理代入预设人脸重建算法以确定人脸照片对应的基础人脸模型;拟合模块400用于将多张人脸照片对应的多个基础人脸模型在矢量空间进行拟合以得到三维人脸模型。
通过提取模块200提取照片集中不同角度的人脸照片后,处理模块300提取每张人脸照片的人脸关键点和面部纹理,然后根据人脸关键点、面部纹理代入预设人脸重建算法确定对应的基础人脸模型,然后将不同角度的基础人脸模型在矢量空间进行拟合以得到三维人脸模型,使得三维人脸模型构建更加符合用户真实的人脸,实现三维人脸模型构建更加高效、精确的效果。
其中,一种三维人脸模型创建系统具体操作过程参照第一方面的三维人脸模型创建方法,此处不再赘述。
第三方面,参照图13,本发明实施例还公开了一种电子控制设备,包括:至少一个处理器500,以及,与至少一个处理器500通信连接的存储器600;其中,存储器600存储有可被至少一个处理器500执行的指令,指令被至少一个处理器500执行,以使至少一个处理器500能够执行如第一方面的三维人脸模型创建方法。
电子控制设备可以为移动终端设备,也可以为非移动终端设备。移动终端设备可以为手机、平板电脑、笔记本电脑、掌上电脑、车载终端设备、可穿戴设备、超级移动个人计算机、上网本、个人数字助理、CPE、UFI(无线热点设备)等;非移动终端设备可以为个人计算机、电视机、柜员机或者自助机等;本发明实施方案不作具体限定。
存储器600可以为外部存储器,也可以为内部存储器,外部存储器为外部存储卡,例如Micro SD卡。外部存储卡通过外部存储器接口与处理器500通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。内部存储器可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。
处理器500可以包括一个或多个处理单元,例如:处理器500可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器500(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
在一些实施例中,处理器执行如第一方面步骤S100至步骤S400所述三维人脸模型创建方法。或者,执行如步骤S100、步骤S210、步骤S220、步骤S300至步骤S400所述三维人脸模型创建方法。或者,执行如步骤S100、步骤S210、步骤S221、步骤S222、步骤S300至步骤S400所述三维人脸模型创建方法。或者,执行如步骤S100、步骤S200、步骤S310至步骤S340、步骤S400的所述三维人脸模型创建方法。或者,执行如步骤S100、步骤S210、步骤S221、步骤S222、步骤S310至步骤S340、步骤S400所述三维人脸模型创建方法。或者,执行如步骤S100、步骤S200、步骤S300、步骤S410至步骤S440的所述三维人脸模型创建方法。或者,执行如步骤S100、步骤S210、步骤S221、步骤S222、步骤S300、步骤S410至步骤S440所述三维人脸模型创建方法。或者,执行如步骤S100、步骤S210、步骤S221、步骤S222、步骤S310至步骤S340、步骤S410至步骤S440所述三维人脸模型创建方法。或者,执行如步骤S100、步骤S200、步骤S300、步骤S410、步骤S421至步骤S424、步骤S430、步骤S440的所述人脸模型创建方法。或者,执行如步骤S100、步骤S210、步骤S221、步骤S222、步骤S300、步骤S410、步骤S421至步骤S424、步骤S430、步骤S440所述三维人脸模型创建方法。或者,执行如步骤S100、步骤S210、步骤S221、步骤S222、步骤S310至步骤S340、步骤S410、步骤S421至步骤S424、步骤S430、步骤S440所述三维人脸模型创建方法。或者,执行如步骤S100、步骤S200、步骤S300、步骤S410、步骤S421至步骤S424、步骤S431至步骤S434、步骤S440的所述人脸模型创建方法。或者,执行如步骤S100、步骤S210、步骤S221、步骤S222、步骤S300、步骤S410、步骤S421至步骤S424、步骤S431至步骤S434、步骤S440所述三维人脸模型创建方法。或者,执行如步骤S100、步骤S210、步骤S221、步骤S222、步骤S310至步骤S340、步骤S410、步骤S421至步骤S424、步骤S431至步骤S434、步骤S440所述三维人脸模型创建方法。
第四方面,本发明实施例还公开了一种计算机可读存储介质,计算机可读存储介质存储有计算机可执行指令,计算机可执行指令用于使计算机执行如第一方面的三维人脸模型创建方法。
以上所描述的装置实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
本领域普通技术人员可以理解,上文中所公开方法中的全部或某些步骤、系统可以被实施为软件、固件、硬件及其适当的组合。某些物理组件或所有物理组件可以被实施为由处理器,如中央处理器、数字信号处理器或微处理器执行的软件,或者被实施为硬件,或者被实施为集成电路,如专用集成电路。这样的软件可以分布在计算机可读介质上,计算机可读介质可以包括计算机存储介质(或非暂时性介质)和通信介质(或暂时性介质)。如本领域普通技术人员公知的,术语计算机存储介质包括在用于存储信息(诸如计算机可读指令、数据结构、程序模块或其他数据)的任何方法或技术中实施的易失性和非易失性、可移除和不可移除介质。计算机存储介质包括但不限于RAM、ROM、EEPROM、闪存或其他存储器技术、CD-ROM、数字多功能盘(DVD)或其他光盘存储、磁盒、磁带、磁盘存储或其他磁存储装置、或者可以用于存储期望的信息并且可以被计算机访问的任何其他的介质。此外,本领域普通技术人员公知的是,通信介质通常包含计算机可读指令、数据结构、程序模块或者诸如载波或其他传输机制之类的调制数据信号中的其他数据,并且可包括任何信息递送介质。
上面结合附图对本发明实施例作了详细说明,但是本发明不限于上述实施例,在所属技术领域普通技术人员所具备的知识范围内,还可以在不脱离本发明宗旨的前提下作出各种变化。此外,在不冲突的情况下,本发明的实施例及实施例中的特征可以相互组合。

Claims (10)

1.一种三维人脸模型创建方法,其特征在于,包括:
获取照片集,所述照片集包括用户多个角度的人脸照片;
提取所述照片集中满足预设角度规则的多张不同角度所述人脸照片;
根据所述人脸照片获取人脸关键点和面部纹理,并将所述人脸关键点和所述面部纹理代入预设人脸重建算法以确定所述人脸照片对应的基础人脸模型;
将多张所述人脸照片对应的多个所述基础人脸模型在矢量空间进行拟合以得到三维人脸模型。
2.根据权利要求1所述的三维人脸模型创建方法,其特征在于,所述提取所述照片集中满足预设角度规则的多张不同角度所述人脸照片,包括:
识别所述照片集中所述人脸照片的图像角度;
提取所述照片集中所述图像角度满足预设角度规则的多张所述人脸照片。
3.根据权利要求2所述的三维人脸模型创建方法,其特征在于,所述根据所述人脸照片获取人脸关键点和面部纹理,并将所述人脸关键点和所述面部纹理代入预设人脸重建算法以确定所述人脸照片对应的基础人脸模型,包括:
根据所述人脸照片获取所述人脸关键点和所述面部纹理;
将所述人脸关键点与预设人脸基础模型的骨骼点相互对齐以得到初步人脸模型;
获取所述预设人脸基础模型的基本贴图,根据所述基本贴图和所述面部纹理进行差值计算和融合以得到基础纹理数据;
根据所述初步人脸模型和所述基础纹理数据确定所述人脸照片对应的所述基础人脸模型。
4.根据权利要求2所述的三维人脸模型创建方法,其特征在于,所述将多张所述人脸照片对应的多个所述基础人脸模型在矢量空间进行拟合以得到三维人脸模型,包括:
提取多张所述人脸照片对应的所述基础人脸模型的人脸面部纹理和三角网格;
将多个所述三角网格在矢量空间进行权重拟合以得到三维模型网格;
将多个所述人脸面部纹理在矢量空间进行权重融合以得到人脸纹理贴图;
根据所述三维模型网格和所述人脸纹理贴图确定所述三维人脸模型。
5.根据权利要求4所述的三维人脸模型创建方法,其特征在于,所述将多个所述三角网格在矢量空间进行权重拟合以得到三维模型网格包括:
获取所述三角网格每个点的法线方向以得到网格法线方向;
计算所述网格法线方向和预设法线方向的重合度;
根据所述重合度、预设重合度与预设权重的对应关系确定所述三角网格对应第一权重;
将多个所述三角网格以对应的所述第一权重进行拟合以得到所述三维模型网格。
6.根据权利要求4所述的三维人脸模型创建方法,其特征在于,所述将多个所述人脸面部纹理在矢量空间进行权重融合以得到人脸纹理贴图,包括:
获取所述人脸面部纹理的每条纹理的法线方向以得到纹理法线方向;
计算所述纹理法线方向和预设法线方向的融合度;
根据所述融合度、预设融合度与预设权重的对应关系确定所述人脸面部纹理对应第二权重;
将多个所述人脸面部纹理以对应的所述第二权重进行拟合以得到所述人脸纹理贴图。
7.根据权利要求2所述的三维人脸模型创建方法,其特征在于,所述提取所述照片集中所述图像角度满足多个预设角度规则的多张所述人脸照片,包括:
计算所述照片集中所述图像角度和多个预设角度的差值;
提取所述照片集中所述差值在预设差值区间中的多张所述人脸照片。
8.一种三维人脸模型创建系统,其特征在于,包括:
获取模块,用于获取照片集,所述照片集包括用户多个角度的人脸照片;
提取模块,用于提取所述照片集不同角度的多张所述人脸照片;
处理模块,用于根据所述人脸照片获取人脸关键点和面部纹理,并将所述人脸关键点和所述面部纹理代入预设人脸重建算法以确定所述人脸照片对应的基础人脸模型;
拟合模块,用于将多张所述人脸照片对应的多个所述基础人脸模型在矢量空间进行拟合以得到三维人脸模型。
9.一种电子控制设备,其特征在于,包括:
至少一个处理器,以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至7任一项所述的三维人脸模型创建方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令用于使计算机执行如权利要求1至7任一项所述的三维人脸模型创建方法。
CN202110466699.0A 2021-04-28 2021-04-28 三维人脸模型创建方法、系统、设备及存储介质 Active CN113240811B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110466699.0A CN113240811B (zh) 2021-04-28 2021-04-28 三维人脸模型创建方法、系统、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110466699.0A CN113240811B (zh) 2021-04-28 2021-04-28 三维人脸模型创建方法、系统、设备及存储介质

Publications (2)

Publication Number Publication Date
CN113240811A true CN113240811A (zh) 2021-08-10
CN113240811B CN113240811B (zh) 2022-06-07

Family

ID=77129733

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110466699.0A Active CN113240811B (zh) 2021-04-28 2021-04-28 三维人脸模型创建方法、系统、设备及存储介质

Country Status (1)

Country Link
CN (1) CN113240811B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117115358A (zh) * 2023-10-11 2023-11-24 世优(北京)科技有限公司 数字人自动建模方法及装置

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1999064961A1 (en) * 1998-06-08 1999-12-16 Microsoft Corporation Method and system for capturing and representing 3d geometry, color and shading of facial expressions
CN101916454A (zh) * 2010-04-08 2010-12-15 董洪伟 基于网格变形和连续优化的高分辨率人脸重建方法
CN102663820A (zh) * 2012-04-28 2012-09-12 清华大学 三维头部模型重建方法
WO2015102014A1 (en) * 2013-12-31 2015-07-09 Vats Nitin Texturing of 3d-models using photographs and/or video for use in user-controlled interactions implementation
CN106910247A (zh) * 2017-03-20 2017-06-30 厦门幻世网络科技有限公司 用于生成三维头像模型的方法和装置
CN107705355A (zh) * 2017-09-08 2018-02-16 郭睿 一种基于多张图片的3d人体建模方法及装置
CN110443885A (zh) * 2019-07-18 2019-11-12 西北工业大学 基于随机人脸图像的三维人头脸模型重建方法
CN111476878A (zh) * 2019-01-23 2020-07-31 北京奇虎科技有限公司 3d人脸生成控制方法、装置、计算机设备及存储介质
CN112308963A (zh) * 2020-11-13 2021-02-02 四川川大智胜软件股份有限公司 一种无感三维人脸重建方法及采集重建系统

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1999064961A1 (en) * 1998-06-08 1999-12-16 Microsoft Corporation Method and system for capturing and representing 3d geometry, color and shading of facial expressions
CN101916454A (zh) * 2010-04-08 2010-12-15 董洪伟 基于网格变形和连续优化的高分辨率人脸重建方法
CN102663820A (zh) * 2012-04-28 2012-09-12 清华大学 三维头部模型重建方法
WO2015102014A1 (en) * 2013-12-31 2015-07-09 Vats Nitin Texturing of 3d-models using photographs and/or video for use in user-controlled interactions implementation
CN106910247A (zh) * 2017-03-20 2017-06-30 厦门幻世网络科技有限公司 用于生成三维头像模型的方法和装置
CN107705355A (zh) * 2017-09-08 2018-02-16 郭睿 一种基于多张图片的3d人体建模方法及装置
CN111476878A (zh) * 2019-01-23 2020-07-31 北京奇虎科技有限公司 3d人脸生成控制方法、装置、计算机设备及存储介质
CN110443885A (zh) * 2019-07-18 2019-11-12 西北工业大学 基于随机人脸图像的三维人头脸模型重建方法
CN112308963A (zh) * 2020-11-13 2021-02-02 四川川大智胜软件股份有限公司 一种无感三维人脸重建方法及采集重建系统

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
ZHANG JINHUA等: "3D face reconstruction based on non-absolute positive photos and skin model", 《IEEE》, 14 May 2012 (2012-05-14) *
杨振等: "基于单张图像的三维人脸重建", 《传感器与微系统》, no. 08, 31 August 2018 (2018-08-31), pages 147 - 149 *
邹晓等: "基于移动平台的三维虚拟试发型系统实现及应用", 《图学学报》, no. 02, 30 April 2018 (2018-04-30), pages 133 - 140 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117115358A (zh) * 2023-10-11 2023-11-24 世优(北京)科技有限公司 数字人自动建模方法及装置

Also Published As

Publication number Publication date
CN113240811B (zh) 2022-06-07

Similar Documents

Publication Publication Date Title
JP7249390B2 (ja) 単眼カメラを用いたリアルタイム3d捕捉およびライブフィードバックのための方法およびシステム
WO2021077720A1 (zh) 获取对象三维模型的方法、装置、电子设备及系统
WO2021135627A1 (zh) 一种目标物的三维模型构建方法和相关装置
CN113012282B (zh) 三维人体重建方法、装置、设备及存储介质
EP2992508B1 (en) Diminished and mediated reality effects from reconstruction
KR101251701B1 (ko) 게임용 스테레오 비디오에 대하여 장치가 프로세스를실행할 수 있게 하는 정보를 저장하는 하나 이상의 컴퓨터판독가능 매체
EP4036863A1 (en) Human body model reconstruction method and reconstruction system, and storage medium
US8933928B2 (en) Multiview face content creation
CN109242961A (zh) 一种脸部建模方法、装置、电子设备和计算机可读介质
JP2023514289A (ja) 3次元顔モデルの構築方法、3次元顔モデルの構築装置、コンピュータ機器、及びコンピュータプログラム
CN109584358A (zh) 一种三维人脸重建方法及装置、设备和存储介质
CN110458865A (zh) 平面自然特征目标的原位形成
CN111710035B (zh) 人脸重建方法、装置、计算机设备及存储介质
CN110275968A (zh) 图像数据处理方法和装置
CN113657357B (zh) 图像处理方法、装置、电子设备及存储介质
KR20230078777A (ko) 3차원 재구성 방법, 장치와 시스템, 매체 및 컴퓨터 기기
CN107578469A (zh) 一种基于单张照片的3d人体建模方法及装置
CN113240811B (zh) 三维人脸模型创建方法、系统、设备及存储介质
CN114529648A (zh) 模型展示方法、设备、装置、电子设备及存储介质
CN114373044A (zh) 生成脸部三维模型的方法、装置、计算设备和存储介质
CN107092348A (zh) 一种沉浸式虚拟现实漫游系统中的视觉定位标识布局方法
CN110751026B (zh) 视频处理方法及相关装置
CN108053376A (zh) 一种语义分割信息指导深度学习鱼眼图像校正方法
CN109829960A (zh) 一种vr动漫系统交互方法
CN108905208A (zh) 一种基于增强现实的电子游戏方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant