CN110738157A - 虚拟面部的构建方法及装置 - Google Patents

虚拟面部的构建方法及装置 Download PDF

Info

Publication number
CN110738157A
CN110738157A CN201910960940.8A CN201910960940A CN110738157A CN 110738157 A CN110738157 A CN 110738157A CN 201910960940 A CN201910960940 A CN 201910960940A CN 110738157 A CN110738157 A CN 110738157A
Authority
CN
China
Prior art keywords
virtual
feature
user
constructing
face
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910960940.8A
Other languages
English (en)
Inventor
余泓
牛建伟
崔学成
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing Horizon Robotics Technology Co Ltd
Original Assignee
Nanjing Horizon Robotics Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing Horizon Robotics Technology Co Ltd filed Critical Nanjing Horizon Robotics Technology Co Ltd
Priority to CN201910960940.8A priority Critical patent/CN110738157A/zh
Publication of CN110738157A publication Critical patent/CN110738157A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174Facial expression recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Processing Or Creating Images (AREA)

Abstract

公开了一种虚拟面部的构建方法及装置,涉及计算机图形学技术领域。该虚拟面部的构建方法包括:对用户的面部图像进行特征识别,得到所述用户的多个实体特征部位;确定所述多个实体特征部位中每个实体特征部位对应的虚拟局部特征;以及将所述多个实体特征部位中每个实体特征部位对应的所述虚拟局部特征进行拼接,得到所述用户的虚拟面部。在本申请的实施例能够实现专属于用户的虚拟面部的构建,从而满足了虚拟面部的个性化的应用场景的需求。

Description

虚拟面部的构建方法及装置
技术领域
本申请涉及计算机图形学技术领域,尤其涉及一种虚拟面部的构建方法及装置、虚拟形体的构建方法及装置、计算机可读存储介质和电子设备。
背景技术
随着计算机图形学的发展,虚拟现实、虚拟试穿、虚拟社交等应用中的虚拟面部得到了用户的广泛喜爱。但是,目前的虚拟面部多属于特定情形下的形象构建,不具有个性化,不能满足个性化的应用场景。
因此,如何形成专属于用户的个性化的虚拟面部成为亟待解决的问题。
发明内容
有鉴于此,本申请实施例致力于提供一种虚拟面部的构建方法及装置、虚拟形体的构建方法及装置、计算机可读存储介质和电子设备,以解决现有技术中不能形成专属于用户的个性化的虚拟形体的问题。
本申请一方面提供了一种虚拟面部的构建方法,包括:对用户的面部图像进行特征识别,得到所述用户的多个实体特征部位;确定所述多个实体特征部位中每个实体特征部位对应的虚拟局部特征;以及将所述多个实体特征部位中每个实体特征部位对应的所述虚拟局部特征进行拼接,得到所述用户的虚拟面部。
本申请另一方面提供了一种虚拟形体的构建方法,包括:如上述第一方面任一项所述的虚拟面部的构建方法;确定所述用户的虚拟躯体;以及将所述虚拟面部和所述虚拟躯体拼接,得到所述用户的虚拟形体。
本申请再一方面提供了一种虚拟面部的构建装置,包括:识别模块,用于对用户的面部图像进行特征识别,得到所述用户的多个实体特征部位;第一确定模块,用于确定所述多个实体特征部位中每个实体特征部位对应的虚拟局部特征;以及第一拼接模块,用于将所述多个实体特征部位中每个实体特征部位对应的所述虚拟局部特征进行拼接,得到所述用户的虚拟面部。
本申请又一方面提供了一种虚拟形体的构建装置,包括:如上述第三方面所述的虚拟面部的构建装置;第二确定模块,用于确定所述用户的虚拟躯体;以及第二拼接模块,用于将所述虚拟面部和所述虚拟躯体拼接,得到所述用户的虚拟形体。
本申请又一方面提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于执行上述第一方面任一项所述的虚拟面部的构建方法;或,所述计算机程序用于执行上述第二方面任一项所述的虚拟形体的构建方法。
本申请又一方面提供了一种电子设备,所述电子设备包括:处理器;用于存储所述处理器可执行指令的存储器;所述处理器,用于执行上述第一方面任一项所述的虚拟面部的构建方法或上述第二方面任一项所述的虚拟形体的构建方法。
本申请的实施例通过对用户的面部图像进行特征识别,从而得到用户的多个实体特征部位。在这里,由于该实体特征部位是用户的面部图像的局部区域,因此该实体特征部位具有用户的面部的局部属性信息。相应地,根据该实体特征部位确定的与该实体特征部位对应的虚拟局部特征也可以具有用户的面部的局部属性信息。在这样的情况下,将多个实体特征部位中每个实体特征部位对应的虚拟局部特征进行拼接之后,得到的用户的虚拟面部可以具有用户的面部的整体属性信息,从而使得该得到的用户的虚拟面部可以专属于该用户,也就是说,实现了专属于用户的虚拟面部的构建。
附图说明
通过结合附图对本申请实施例进行更详细的描述,本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解,并且构成说明书的一部分,与本申请实施例一起用于解释本申请,并不构成对本申请的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1a是根据本申请一个实施例的电子设备的示意性框架图。
图1b是根据本申请另一个实施例的电子设备的示意性框架图。
图2是根据本申请一个实施例的虚拟面部的构建方法的流程示意图。
图3a是根据本申请另一个实施例的虚拟面部的构建方法的流程示意图。
图3b是根据本申请一个实施例的虚拟面部示意图。
图4是根据本申请又一个实施例的虚拟面部的构建方法的流程示意图。
图5是根据本申请一个实施例的虚拟形体的构建方法的流程示意图。
图6是根据本申请另一个实施例的虚拟形体的构建方法的流程示意图。
图7是根据本申请一个实施例的虚拟面部的构建装置的结构示意图。
图8是根据本申请一个实施例的第一确定模块的结构示意图。
图9a是根据本申请一个实施例的虚拟形体的构建装置的结构示意图。
图9b是根据本申请另一个实施例的虚拟形体的构建装置的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
申请概述
正如背景技术所述,目前的虚拟面部多为特定情形下的形像构建,因此存在形态单一的问题。换句话说,不同的用户可能会采用相同的虚拟面部,从而使得目前的虚拟面部不能满足个性化的应用场景的需求。例如,当虚拟面部用于身份识别时,相同的虚拟面部就不能满足身份识别的需求。比如,需要身份识别的场景可以包括室内导航、智能预约就诊、智能订餐等。
因此,若是能构建出专属于用户的个性化的虚拟面部,将有效改善目前的虚拟面部不能满足个性化的应用场景的问题。
基于此,本申请的实施例提供了一种虚拟面部的构建方法及装置、虚拟形体的构建方法及装置、计算机可读存储介质和电子设备,以改善上述问题。
示例性电子设备
图1a是根据本申请一个实施例的电子设备100的示意性框架图。
如图1所示,该电子设备100可以包括图像采集模块110、处理器120、存储模块130和应用模块140,且图像采集模块110、存储模块130和应用模块140可以分别与处理器120通过内部总线的方式进行通信。
为了便于描述,在本申请的实施例中,构建的用户的面部形象可以称为虚拟面部。构建的用户的整体形象可以称为虚拟形体。
具体地,该电子设备100可以完成虚拟面部或虚拟形体的构建。例如,该电子设备100可以应用在酒店、餐馆、医院、剧院、游乐场等场地。图像采集模块110可以用于获取用户的图像,且该图像可以为深度图像。存储模块130可以用于存储虚拟局部特征。当电子设备100用于完成虚拟面部的构建时,处理器120可以根据用户的图像从存储模块130获取构成虚拟面部的虚拟局部特征并进行拼接,得到用户的虚拟面部。当电子设备100用于完成虚拟形体的构建时,处理器120可以根据用户的图像从存储模块130获取构成虚拟形体的虚拟局部特征并进行拼接,得到用户的虚拟形体。应用模块140可以应用处理器120拼接的虚拟面部或虚拟形体。例如,虚拟面部或虚拟形体可以被应用模块140上的程序调用。比如,该程序可以用于直播等。
在本申请的一个实施例中,该电子设备100可以进一步包括用于存储处理器120可执行指令的存储器。处理器120可以用于执行下述“示例性方法”中任一项所述的虚拟面部的构建方法或任一项所述的虚拟形体的构建方法。
在这里,图像采集模块110和处理器120可以分别是单独的设备,也可以是同一个设备的不同组成部分,本申请的实施例对于图像采集模块110和处理器120的设置关系不做具体限定。类似地,处理器120和存储模块130可以分别是单独的设备,也可以是同一个设备的不同组成部分,本申请的实施例对于处理器120和存储模块130的设置关系也不做具体限定。同样地,应用模块140和处理器120可以分别是单独的设备,也可以是同一个设备的不同组成部分,本申请的实施例对应用模块140和处理器120的设置关系也不做具体限定。
当图像采集模块110、处理器120、存储模块130和应用模块140中至少有一个为单独的设备时,该单独的设备可以通过有线或者无线的方式与电子设备100通信。
例如,当存储模块130为单独的设备时,存储模块130可以为云端服务器、服务器集群等。当应用模块140为单独的设备时,应用模块140可以为移动终端、计算机或者其它可以应用虚拟面部或虚拟形体的设备。当图像采集模块110为单独的设备时,图像采集模块110可以为深度相机。
图1b是根据本申请一个实施例的电子设备10的示意性框架图。
具体地,如图1b所示,该电子设备10可以包括处理器11和用于存储处理器11可执行指令的存储器12。处理器11可以用于执行下述“示例性方法”中任一项所述的虚拟面部的构建方法或任一项所述的虚拟形体的构建方法。
具体地,该电子设备10可以包括一个或多个处理器11和存储器12。处理器11可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备10中的其他组件以执行期望的功能。
存储器12可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器11可以运行所述程序指令,以实现上文所述的本申请的各个实施例的虚拟面部的构建方法或者虚拟形体的构建方法。在所述计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。
在本申请的一个实施例中,电子设备10还可以包括:输入装置13和输出装置14,这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。
例如,该输入装置13可以包括通信网络连接器、键盘、鼠标等。该输出装置14可以包括显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等。
当然,为了简化,图1b中仅示出了该电子设备10中与本申请有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备10还可以包括任何其他适当的组件。
示例性方法
图2是根据本申请一个实施例的虚拟面部的构建方法的流程示意图。该方法可以由图1a的电子设备100或者图1b的电子设备10执行。
如图2所示,该虚拟面部的构建方法可以包括如下步骤。
步骤210,对用户的面部图像进行特征识别,得到用户的多个实体特征部。
具体地,用户的面部图像可以由图像采集模块110对用户拍照后获取。在图像采集模块110获得用户的面部图像后,可以将该用户的面部图像发送给处理器120,以便处理器120根据用户的面部图像完成虚拟面部的拼接。
在这里,特征识别可以是指五官识别,且特征识别后得到的多个实体特征部可以为五官。而五官可以是指眉毛区域、眼睛区域、鼻子区域、嘴区域和脸部轮廓。
此外,特征识别也可以是指五官和其它器官的识别。例如,特征识别后得到的多个实体特征部可以包括五官和耳朵等。
步骤220,确定多个实体特征部位中每个实体特征部位对应的虚拟局部特征。
具体地,处理器120在得到多个实体特征部位之后,可以根据该多个实体特征部位从存储模块130获取每个实体特征部位所对应的虚拟局部特征。
步骤230,将多个实体特征部位中每个实体特征部位对应的虚拟局部特征进行拼接,得到用户的虚拟面部。
具体地,在处理器120得到用户的虚拟面部之后,可以将该用户的虚拟面部发送给应用模块140,以便应用模块140应用。
本申请的实施例通过对用户的面部图像进行特征识别,从而得到用户的多个实体特征部位。在这里,由于该实体特征部位是用户的面部图像的局部区域,因此该实体特征部位具有用户的面部的局部属性信息。相应地,根据该实体特征部位确定的与该实体特征部位对应的虚拟局部特征也可以具有用户的面部的局部属性信息。在这样的情况下,将多个实体特征部位中每个实体特征部位对应的虚拟局部特征进行拼接之后,得到的用户的虚拟面部可以具有用户的面部的整体属性信息,从而使得该得到的用户的虚拟面部可以专属于该用户,也就是说,实现了专属于用户的虚拟面部的构建。
在本申请的一个实施例中,为了使得构建的虚拟面部可以接近用户的真实面部,该用户的面部图像可以为深度图像。相应地,深度图像中每个像素点的位置坐标可以为三维坐标。在本申请的一个实施例中,该虚拟面部可以是卡通形象,例如三维动画等,相应地,虚拟局部特征可以是卡通形象的一部分。
在本申请的一个实施例中,相邻的两个虚拟局部特征经拼接后会形成拼接线。在该实施例中,该拼接线可以进行突出处理,且虚拟面部的肤色可以设置为机械金属色,从而形成一种机器人的视觉感官,进而带给用户一种新的视觉体验。
图3a是根据本申请另一个实施例的虚拟面部的构建方法的流程示意图。图3b是根据本申请一个实施例的虚拟面部示意图。
在本申请的一个实施例中,步骤220可以包括如下步骤。
步骤2202,根据实体特征部位的多个轮廓点中每个轮廓点的坐标信息计算欧氏距离,得到实体特征部位的特征参数。
在这里,由于实体特征部位是用户的面部图像的局部区域,因此,该实体特征部位具有用户的面部的局部属性信息。也就是说,该局部属性信息可以包括由该实体特征部位的多个轮廓点中每个轮廓点的坐标信息得到的特征参数,且该特征参数可以包括该欧氏距离。
具体地,在对用户的面部图像进行特征识别时,得到的每个实体特征部位可以均包括多个轮廓点,且这些轮廓点可以为相应实体特征部位的特征点。相应地,特征识别可以为每个实体特征部位的多个轮廓点的识别。在这里,轮廓点的识别可以基于先验规则的方法、基于几何图形状的方法、基于统计模型的方法等。
在得到每个实体特征部位的多个轮廓点之后,处理器120可以对每个实体特征部位的多个轮廓点进行欧氏距离的计算,以便得到每个实体特征部位的特征参数。在这里,该欧氏距离可以包括多个轮廓点中任意两点之间的距离,还可以包括多个轮廓点组成的线段中任意两条线段之间的距离。具体地,该线段可以由两个轮廓点的连线构成。两条线段之间的距离可以为平行的两条线段之间的距离。在本申请的一个实施例中,当用户的面部图像为深度图像时,该轮廓点的坐标信息可以为三维坐标信息,从而使得得到的特征参数可以更接近用户的实际参数。
具体地,由于三维坐标信息相对于二维坐标信息可以具有更为精准的空间位置信息,因此,包括由三维坐标信息计算的欧式距离的特征参数可以更接近用户的实际参数。也就是说,由三维坐标信息得到特征参数可以更为精准,从而使得由该特征参数确定的虚拟局部特征与相应的实体特征部位相似度更高。
步骤2204,根据实体特征部位的特征参数在虚拟局部特征库中进行检索,得到实体特征部位对应的虚拟局部特征。在这样的情况下,实体特征部位对应的虚拟局部特征的特征参数与实体特征部位的特征参数的相似度可以大于等于预设相似度。
在这里,虚拟局部特征库可以存储在存储模块130上。处理器120可以从存储模块130获取虚拟局部特征,以便确定该获取的虚拟局部特征与实体特征部位的相似度是否大于等于预设相似度。具体地,处理器120可以采用孪生网络模型,且该孪生网络模型的输入对象可以分别为实体特征部位和虚拟局部特征,输出对象可以分别为实体特征部位的特征参数和虚拟局部特征的特征参数。例如,当实体特征部位为眼睛区域时,虚拟局部特征也应为虚拟眼睛区域,从而使得输入对象存在可比性。虚拟局部特征也可以包括多个轮廓点,且这些轮廓点的位置和数量可以与实体特征部位的多个轮廓点的位置和数量相同。处理器120也可以对虚拟局部特征的多个轮廓点进行欧氏距离的计算,从而得到虚拟局部特征的特征参数。
在得到孪生网络模型的输出对象之后,处理器120可以进行实体特征部位的特征参数和虚拟局部特征的特征参数的相似度的比较。例如,可以对实体特征部位的特征参数的多个数值和虚拟局部特征的特征参数的多个数值逐个进行比较,以便确定虚拟局部特征的特征参数中哪些数值可以与实体特征部位的特征参数中的数值相匹配。之后,可以通过匹配的数值的个数和特征参数的数值的总数的比值来确定相似度。
在本申请的实施例中,预设相似度可以大于等于60%,小于等于100%。例如,预设相似度可以为80%。
本申请的实施例通过对每个实体特征部位的多个轮廓点的识别,从而得到了每个实体特征部位。又根据每个实体特征部位的多个轮廓点中每个轮廓点的坐标信息进行欧氏距离的计算,从而得到了每个实体特征部位的特征参数。由于实体特征部位具有用户的面部的局部属性信息,因此用户的面部的局部属性信息可以包括该特征参数。相应地,由该特征参数确定的虚拟局部特征可以有相似的特征参数,也就是说,确定的虚拟局部特征可以与相应的实体特征部位相似,从而为构建专属于用户的虚拟面部奠定了基础。
在本申请的一个实施例中,虚拟局部特征可以为用于实体建模的基本体素。
具体地,存储模块130上存储的虚拟局部特征可以分别为用于实体建模的基本体素。当处理器120从存储模块130获得每个实体特征部位对应的虚拟局部特征之后,可以将这些虚拟局部特征直接进行拼接。
在这里,虚拟局部特征除了可以包括多个轮廓点外,还可以包括用于实体建模的建模参数,以便处理器120可以根据建模参数完成每个虚拟局部特征的拼接。
在本申请的一个实施例中,步骤230可以包括:根据预设的拼接顺序,将多个实体特征部位中每个实体特征部位对应的虚拟局部特征逐个进行拼接。具体地,排序在后的虚拟局部特征可以拼接在排序在前的虚拟局部特征上。在排序在后的虚拟局部特征拼接在排序在前的虚拟局部特征上之前,该虚拟面部的构建方法可以进一步包括:依据排序在前的虚拟局部特征的对接区域的尺寸,对排序在后的虚拟局部特征的对接区域进行几何变换。
例如,如图3b所示,当多个实体特征部位所对应的虚拟局部特征分别为五官时,该预设的拼接顺序可以为脸部轮廓1、眉毛区域2、眼睛区域3、鼻子区域4和嘴区域5。也就是说,眉毛区域2可以拼接在脸部轮廓1上,眼睛区域3可以拼接在眉毛区域2上,鼻子区域4可以拼接在眼睛区域3上,嘴区域5可以拼接在鼻子区域4上。此外,当眼睛区域3拼接在眉毛区域2上时,眼睛区域3也可以和脸部轮廓1进行拼接。换句话说,眼睛区域3可以分别与眉毛区域2和脸部轮廓区域1拼接。类似地,鼻子区域4可以分别与眼睛区域3和脸部轮廓区域1拼接,嘴区域5可以分别与鼻子区域4和脸部轮廓1拼接。
在拼接的过程中,相邻的两个虚拟局部特征可以存在对接区域。在这里,相邻的两个虚拟局部特征可以分别是指排序在后的虚拟局部特征和排序在前的虚拟局部特征。相邻的两个虚拟局部特征在拼接时会产生拼接线。虚拟局部特征的对接区域可以是指位于拼接线一侧的区域。相应地,相邻的两个虚拟局部特征可以分别包括对应的对接区域。
在拼接前,相邻的两个虚拟局部特征的对接区域的尺寸可能不相同。为了实现完好地拼接,在拼接前,处理器120可以依据排序在前的虚拟局部特征的对接区域的尺寸,对排序在后的虚拟局部特征的对接区域进行几何变换,以便排序在前的虚拟局部特征的对接区域的尺寸和排序在后的虚拟局部特征的对接区域的尺寸相同,从而使得拼接后任意相邻的两个虚拟局部特征可以均无间隙。在这里,间隙可以是指由于尺寸不合适而导致的空缺的区域。几何变换可以包括拉伸变换、压缩变换等。
图4是根据本申请又一个实施例的虚拟面部的构建方法的流程示意图。
在本申请的一个实施例中,在步骤220之前,该虚拟面部的构建方法可以进一步包括如下步骤。
步骤410,对面部图像进行标签识别,得到标签信息。
具体地,处理器120在进行拼接之前,还可以对用户的面部图像进行标签识别。在这里,标签识别的目的是为了获得标签信息,该标签信息可以包括用户的属性信息。例如,标签信息可以包括用户的性别、年龄等。
步骤420,根据标签信息在虚拟局部特征库中进行检索,得到筛选后的虚拟局部特征组。
具体地,在筛选后的虚拟局部特征组中,确定多个实体特征部位中每个实体特征部位对应的虚拟局部特征,从而加快每个实体特征部位对应的虚拟局部特征的确定速度。
例如,当标签信息包括男性且年龄在20岁到25岁之间时,在虚拟局部特征库中进行检索后,可以得到标签为男性且年龄在20岁到25岁之间的全部虚拟局部特征。该全部虚拟局部特征可以组成筛选后的虚拟局部特征组。
在本申请的一个实施例中,图像采集模块110在获取用户的面部图像时,可以获取多张。电子设备100可以根据该多张面部图像得到多个虚拟面部,从而在多个虚拟面部中选择最接近用户的虚拟面部。或者,电子设备100可以根据该多张面部图像对得到的第一个虚拟面部进行优化,从而得到最接近用户的虚拟面部。
在本申请的一个实施例中,在得到用户的虚拟面部之后,处理器120可以根据用户的需求对虚拟面部进行瘦脸、眼睛增大等调整,以便增强用户的娱乐性体验。
上面描述了根据本申请的实施例的虚拟面部的构建方法,下面结合图5描述根据本申请的实施例的虚拟形体的构建方法。
图5是根据本申请一个实施例的虚拟形体的构建方法的流程示意图。
如图5所示,该虚拟形体的构建方法可以包括如下步骤。
步骤510,构建虚拟面部。
具体地,步骤510可以为上述虚拟面部的构建方法的实施例中任一项所述的虚拟面部的构建方法。
步骤520,确定用户的虚拟躯体。
具体地,用户的虚拟躯体可以是统一的躯体,也可以是专属于用户的躯体。
当虚拟躯体是统一的躯体时,虚拟躯体可以仅分为男性躯体和女性躯体。相应地,通过用户的性别信息就可以确定用户的虚拟躯体。在这里,男性躯体和女性躯体也可以存储在存储模块130上。处理器120在得到用户的性别信息后即可从存储模块130获得相应的虚拟躯体。
当用户的虚拟躯体是专属于用户的躯体时,虚拟躯体的构建方式可以参考虚拟面部的构建方式。例如,存储模块130上存储的虚拟局部特征可以对应躯体的局部。比如,虚拟局部特征可以对应躯体的上肢、下肢或躯干等。处理器120可以根据用户的躯体的特征参数从存储模块130获取对应躯体的虚拟局部特征,并进行拼接,形成虚拟躯体。在这里,躯体的特征参数可以从用户的整体图像中获取,也可以从其它设备获取。不同的应用场景,躯体的特征参数的获取途径不同。例如,当电子设备100应用在医院时,躯体的特征参数可以根据用户的信息从医院的后台获取。具体地,电子设备100在获取用户的图像时,还可以获取用户的信息,且该用户的信息可以通过就诊卡或者人脸识别等方式获得。
当躯体的特征参数从用户的整体图像中获取时,图像采集模块110可以获取用户的整体图像,且该整体图像可以包括上述面部图像,以便虚拟面部的构建。该整体图像可以包括用户体型的三维数据。
在本申请的实施例中,躯体的特征参数可以包括身高、体重和身体比例等。在无法确定身体比例的情况下,身体比例可以采用人体的黄金比例。
步骤530,将虚拟面部和虚拟躯体拼接,得到用户的虚拟形体。
在拼接前,为了完好拼接,也可以对对接区域进行几何变换。
本申请的实施例通过构建用户的虚拟面部,确定用户的虚拟躯体,以及将虚拟面部和虚拟躯体拼接,得到用户的虚拟形体,从而实现了专属于用户的虚拟形体的构建。
图6是根据本申请另一个实施例的虚拟形体的构建方法的流程示意图。
在本申请的一个实施例中,如图6所示,该虚拟形体的构建方法可以进一步包括如下步骤。
步骤610,对面部图像进行表情识别,得到表情信息。
例如,该表情信息可以表征用户是否微笑。
步骤620,根据表情信息确定装束。在这里,多种装束也可以存储在存储模块130上。处理器120可以根据表情信息从存储模块130确定并获取相应的装束。
例如,当用户表情为微笑时,该确定的装束可以为运动装。当用户表情为非微笑时,该确定的装束可以为职业装。
步骤630,将装束与用户的虚拟形体进行拼接。
具体地,步骤620和步骤630可以在得到用户的虚拟形体之后执行。
在本申请的另一个实施例中,处理器120可以对用户的整体图像进行职业识别,得到职业信息,以及根据职业信息确定装束。
具体地,装束可以根据性别、年龄和职业确定。在进行职业识别的同时,还可以进行性别以及年龄的识别,以便根据性别、年龄和职业确定装束。
例如,当整体图像中用户的穿着为西服时,得到的职业信息可以包括西服的信息。之后,处理器120可以根据性别和年龄从存储模块130中选取符合用户的西服的装束。
本申请的实施例通过表情识别或职业识别为虚拟形体确定装束,从而使得得到的虚拟形体可以更加符合用户的视觉感官。
示例性装置
上面描述了根据本申请的实施例的虚拟面部的构建方法和虚拟形体的构建方法,下面结合图7至图9b描述根据本申请的实施例的虚拟面部的构建装置和虚拟形体的构建装置。
图7是根据本申请一个实施例的虚拟面部的构建装置的结构示意图。
如图7所示,该虚拟面部的构建装置可以包括:识别模块710,用于对用户的面部图像进行特征识别,得到用户的多个实体特征部位。第一确定模块720用于确定多个实体特征部位中每个实体特征部位对应的虚拟局部特征。第一拼接模块730用于将多个实体特征部位中每个实体特征部位对应的虚拟局部特征进行拼接,得到用户的虚拟面部。
本申请的实施例通过对用户的面部图像进行特征识别,得到用户的多个实体特征部位,确定多个实体特征部位中每个实体特征部位对应的虚拟局部特征,以及将多个实体特征部位中每个实体特征部位对应的虚拟局部特征进行拼接,得到用户的虚拟面部,从而实现了专属于用户的虚拟面部的构建。
图8是根据本申请一个实施例的第一确定模块720的结构示意图。
在本申请的一个实施例中,如图8所示,第一确定模块720可以包括计算单元7202和检索单元7204。计算单元7202用于根据实体特征部位的多个轮廓点中每个轮廓点的坐标信息计算欧氏距离,得到实体特征部位的特征参数。检索单元7204用于根据实体特征部位的特征参数在虚拟局部特征库中进行检索,得到实体特征部位对应的虚拟局部特征。在这样的情况下,实体特征部位对应的虚拟局部特征的特征参数与实体特征部位的特征参数的相似度大于等于预设相似度。
在本申请的一个实施例中,轮廓点的坐标信息为三维坐标信息。
在本申请的一个实施例中,虚拟局部特征为用于实体建模的基本体素。
在本申请的一个实施例中,第一拼接模块730可以根据预设的拼接顺序,将多个实体特征部位中每个实体特征部位对应的虚拟局部特征逐个进行拼接。在这样的情况下,排序在后的虚拟局部特征可以拼接在排序在前的虚拟局部特征上。在排序在后的虚拟局部特征拼接在排序在前的虚拟局部特征上之前,第一拼接模块730可以进一步依据排序在前的虚拟局部特征的对接区域的尺寸,对排序在后的虚拟局部特征的对接区域进行几何变换。
在本申请的一个实施例中,识别模块710可以进一步对面部图像进行标签识别,得到标签信息。在得到标签信息之后,第一确定模块720可以根据该标签信息在虚拟局部特征库中进行检索,得到筛选后的虚拟局部特征组。在筛选后的虚拟局部特征组中,第一确定模块720可以确定多个实体特征部位中每个实体特征部位对应的虚拟局部特征。
虚拟面部的构建装置中的各个模块和单元的操作和功能可以参考上述虚拟面部的构建方法的实施例,为了避免重复,在此不再赘述。
图9a是根据本申请一个实施例的虚拟形体的构建装置的结构示意图。
如图9所示,该虚拟形体的构建装置可以包括:虚拟面部构建模块910、第二确定模块920和第二拼接模块930。在这样的情况下,虚拟面部构建模块910可以是上述任一项实施例所述的虚拟面部的构建装置。第二确定模块920可以用于确定用户的虚拟躯体。第二拼接模块930可以用于将虚拟面部和虚拟躯体拼接,得到用户的虚拟形体。
具体地,虚拟面部构建模块910可以为上述任一项所述的虚拟面部的构建装置。
本申请的实施例通过构建用户的虚拟面部,确定用户的虚拟躯体,以及将虚拟面部和虚拟躯体拼接,得到用户的虚拟形体,从而实现了专属于用户的虚拟形体的构建。
图9b是根据本申请另一个实施例的虚拟形体的构建装置的结构示意图。
在本申请的一个实施例中,如图9b所示,该虚拟形体的构建装置可以进一步包括表情识别模块940。该表情识别模块940可以用于对面部图像进行表情识别,得到表情信息。在得到用户的虚拟形体之后,第二确定模块920可以根据表情信息确定装束,而第二拼接模块930可以将装束与用户的虚拟形体进行拼接。
具体地,表情识别模块940可以属于虚拟面部构建模块910,也可以不属于虚拟面部构建模块910,本申请的实施例对于表情识别模块940和虚拟面部构建模块910的设置关系不做限定。
虚拟形体的构建装置中各个模块的操作和功能可以参考上述虚拟形体的构建方法的实施例,为了避免重复,在此不再赘述。
示例性计算机程序产品和计算机可读存储介质
本申请的实施例提供了一种计算机可读存储介质。该存储介质存储有计算机程序,计算机程序用于执行上述实施例中任一项所述的虚拟面部的构建方法;或,计算机程序用于执行上述实施例中任一项所述的虚拟形体的构建方法。
具体地,除了上述方法和设备以外,本申请的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的虚拟面部的构建方法或虚拟形体的构建方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本申请的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的虚拟面部的构建方法或虚拟形体的构建方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本申请的基本原理,但是,需要指出的是,在本申请中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本申请为必须采用上述具体的细节来实现。
本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
还需要指出的是,在本申请的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此,本申请不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (12)

1.一种虚拟面部的构建方法,包括:
对用户的面部图像进行特征识别,得到所述用户的多个实体特征部位;
确定所述多个实体特征部位中每个实体特征部位对应的虚拟局部特征;以及
将所述多个实体特征部位中每个实体特征部位对应的所述虚拟局部特征进行拼接,得到所述用户的虚拟面部。
2.根据权利要求1所述的虚拟面部的构建方法,其中,所述确定所述多个实体特征部位中每个实体特征部位对应的虚拟局部特征包括:
根据所述实体特征部位的多个轮廓点中每个所述轮廓点的坐标信息计算欧氏距离,得到所述实体特征部位的特征参数;
根据所述实体特征部位的所述特征参数在虚拟局部特征库中进行检索,得到所述实体特征部位对应的所述虚拟局部特征,其中所述实体特征部位对应的所述虚拟局部特征的特征参数与所述实体特征部位的所述特征参数的相似度大于等于预设相似度。
3.根据权利要求2所述的虚拟面部的构建方法,其中,所述轮廓点的所述坐标信息为三维坐标信息。
4.根据权利要求1所述的虚拟面部的构建方法,其中,所述虚拟局部特征为用于实体建模的基本体素。
5.根据权利要求1所述的虚拟面部的构建方法,其中,所述将所述多个实体特征部位中每个实体特征部位对应的所述虚拟局部特征进行拼接包括:
根据预设的拼接顺序,将所述多个实体特征部位中每个实体特征部位对应的所述虚拟局部特征逐个进行拼接,其中,排序在后的所述虚拟局部特征拼接在排序在前的所述虚拟局部特征上;
其中,在排序在后的所述虚拟局部特征拼接在排序在前的所述虚拟局部特征上之前,所述虚拟面部的构建方法进一步包括:
依据所述排序在前的所述虚拟局部特征的对接区域的尺寸,对所述排序在后的所述虚拟局部特征的对接区域进行几何变换。
6.根据权利要求1至5中任一项所述的虚拟面部的构建方法,其中,在所述确定所述多个实体特征部位中每个实体特征部位对应的虚拟局部特征之前,进一步包括:
对所述面部图像进行标签识别,得到标签信息;以及
根据所述标签信息在虚拟局部特征库中进行检索,得到筛选后的虚拟局部特征组;
其中,在所述筛选后的虚拟局部特征组中,确定所述多个实体特征部位中每个实体特征部位对应的所述虚拟局部特征。
7.一种虚拟形体的构建方法,包括:
如权利要求1至6中任一项所述的虚拟面部的构建方法;
确定所述用户的虚拟躯体;以及
将所述虚拟面部和所述虚拟躯体拼接,得到所述用户的虚拟形体。
8.根据权利要求7所述的虚拟形体的构建方法,其中,进一步包括:对所述面部图像进行表情识别,得到表情信息;
在所述得到所述用户的虚拟形体之后,所述虚拟形体的构建方法进一步包括:
根据所述表情信息确定装束;
将所述装束与所述用户的所述虚拟形体进行拼接。
9.一种虚拟面部的构建装置,包括:
识别模块,用于对用户的面部图像进行特征识别,得到所述用户的多个实体特征部位;
第一确定模块,用于确定所述多个实体特征部位中每个实体特征部位对应的虚拟局部特征;以及
第一拼接模块,用于将所述多个实体特征部位中每个实体特征部位对应的所述虚拟局部特征进行拼接,得到所述用户的虚拟面部。
10.一种虚拟形体的构建装置,包括:
如权利要求9所述的虚拟面部的构建装置;
第二确定模块,用于确定所述用户的虚拟躯体;以及
第二拼接模块,用于将所述虚拟面部和所述虚拟躯体拼接,得到所述用户的虚拟形体。
11.一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于执行上述权利要求1至6中任一项所述的虚拟面部的构建方法;
或,所述计算机程序用于执行上述权利要求7或8所述的虚拟形体的构建方法。
12.一种电子设备,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于执行上述权利要求1至6中任一项所述的虚拟面部的构建方法或上述权利要求7或8所述的虚拟形体的构建方法。
CN201910960940.8A 2019-10-10 2019-10-10 虚拟面部的构建方法及装置 Pending CN110738157A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910960940.8A CN110738157A (zh) 2019-10-10 2019-10-10 虚拟面部的构建方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910960940.8A CN110738157A (zh) 2019-10-10 2019-10-10 虚拟面部的构建方法及装置

Publications (1)

Publication Number Publication Date
CN110738157A true CN110738157A (zh) 2020-01-31

Family

ID=69268688

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910960940.8A Pending CN110738157A (zh) 2019-10-10 2019-10-10 虚拟面部的构建方法及装置

Country Status (1)

Country Link
CN (1) CN110738157A (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104463779A (zh) * 2014-12-18 2015-03-25 北京奇虎科技有限公司 一种肖像漫画生成方法及其装置
US20160098863A1 (en) * 2013-06-06 2016-04-07 Telefonaktiebolaget L M Ericsson (Publ) Combining a digital image with a virtual entity
CN108510437A (zh) * 2018-04-04 2018-09-07 科大讯飞股份有限公司 一种虚拟形象生成方法、装置、设备以及可读存储介质
CN110111418A (zh) * 2019-05-15 2019-08-09 北京市商汤科技开发有限公司 创建脸部模型的方法、装置及电子设备
CN110298326A (zh) * 2019-07-03 2019-10-01 北京字节跳动网络技术有限公司 一种图像处理方法及装置、存储介质与终端

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160098863A1 (en) * 2013-06-06 2016-04-07 Telefonaktiebolaget L M Ericsson (Publ) Combining a digital image with a virtual entity
CN104463779A (zh) * 2014-12-18 2015-03-25 北京奇虎科技有限公司 一种肖像漫画生成方法及其装置
CN108510437A (zh) * 2018-04-04 2018-09-07 科大讯飞股份有限公司 一种虚拟形象生成方法、装置、设备以及可读存储介质
CN110111418A (zh) * 2019-05-15 2019-08-09 北京市商汤科技开发有限公司 创建脸部模型的方法、装置及电子设备
CN110298326A (zh) * 2019-07-03 2019-10-01 北京字节跳动网络技术有限公司 一种图像处理方法及装置、存储介质与终端

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
隋爱娜等: "《数字内容安全技术》", 中国传媒大学出版社, pages: 121 - 130 *

Similar Documents

Publication Publication Date Title
US20200184251A1 (en) System and method for creating navigable views
CN110807836B (zh) 三维人脸模型的生成方法、装置、设备及介质
US11748934B2 (en) Three-dimensional expression base generation method and apparatus, speech interaction method and apparatus, and medium
US10860838B1 (en) Universal facial expression translation and character rendering system
CN110807451B (zh) 人脸关键点检测方法、装置、设备及存储介质
CN112927363B (zh) 体素地图构建方法及装置、计算机可读介质和电子设备
CN111710036A (zh) 三维人脸模型的构建方法、装置、设备及存储介质
CN112598780B (zh) 实例对象模型构建方法及装置、可读介质和电子设备
US20210158593A1 (en) Pose selection and animation of characters using video data and training techniques
US20200057778A1 (en) Depth image pose search with a bootstrapped-created database
US11055892B1 (en) Systems and methods for generating a skull surface for computer animation
JP6046501B2 (ja) 特徴点出力装置、特徴点出力プログラム、特徴点出力方法、検索装置、検索プログラムおよび検索方法
CN114913303A (zh) 虚拟形象生成方法及相关装置、电子设备、存储介质
CN114359471A (zh) 脸部图像的处理方法、装置和系统
KR102068489B1 (ko) 3차원 객체 생성 장치
CN111739134B (zh) 虚拟角色的模型处理方法、装置及可读存储介质
US20210158565A1 (en) Pose selection and animation of characters using video data and training techniques
CN117115917A (zh) 基于多模态特征融合的教师行为识别方法、设备以及介质
CN110738157A (zh) 虚拟面部的构建方法及装置
CN113384892A (zh) 场景模型的素材图片获取和展示方法、装置及存储介质
CN115994944A (zh) 三维关键点预测方法、训练方法及相关设备
CN113694525A (zh) 获取虚拟形象的方法、装置、设备及存储介质
CN115690891B (zh) 人脸情绪的识别方法、装置、设备及存储介质
US20230209171A1 (en) Image processing apparatus, image processing method, and program
CN111581411B (zh) 高精度人脸形状库的构建方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination