CN114092616A - 渲染方法、装置、电子设备和存储介质 - Google Patents

渲染方法、装置、电子设备和存储介质 Download PDF

Info

Publication number
CN114092616A
CN114092616A CN202111242485.1A CN202111242485A CN114092616A CN 114092616 A CN114092616 A CN 114092616A CN 202111242485 A CN202111242485 A CN 202111242485A CN 114092616 A CN114092616 A CN 114092616A
Authority
CN
China
Prior art keywords
map
initial texture
mapping position
texture map
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202111242485.1A
Other languages
English (en)
Other versions
CN114092616B (zh
Inventor
王迪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202111242485.1A priority Critical patent/CN114092616B/zh
Publication of CN114092616A publication Critical patent/CN114092616A/zh
Application granted granted Critical
Publication of CN114092616B publication Critical patent/CN114092616B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Generation (AREA)

Abstract

本公开提供了一种渲染方法、装置、电子设备和存储介质,涉及人工智能领域,具体涉及计算机视觉、深度学习、增强/虚拟现实技术。具体实现方案为:将面部的点云图中除目标五官区域以外的各位置点映射至面部的初始纹理图上,以确定初始纹理图上对应的映射位置点,针对初始纹理图上的各映射位置点,根据初始纹理图上设定区域中的多个像素点的像素值,更新对应映射位置点的像素值,以根据更新后的初始纹理图和点云图进行渲染,得到目标渲染图。由此,可以使得更新后的初始纹理图上各肤色区域的像素值与初始纹理图中设定区域的像素值接近,从而减小更新后的初始纹理图上各个区域之间的肤色差异,从而实现均衡更新后的初始纹理图的肤色。

Description

渲染方法、装置、电子设备和存储介质
技术领域
本公开涉及人工智能领域,具体涉及计算机视觉、深度学习、增强/虚拟现实技术,尤其涉及渲染方法、装置、电子设备和存储介质。
背景技术
人脸是人体最具表达力的部分,具有个性化和多样性的特点。随着计算机视觉、计算机技术等相关领域的飞速发展,人脸的面部三维重建技术也在不断更新。其中,面部三维重建在军事、医疗、安防、增强/虚拟现实、游戏娱乐等诸多方面具有重要的研究意义。
在面部三维重建时,如何减小人脸皮肤各个区域之间的肤色差异,从而均衡人脸肤色是非常重要的。
发明内容
本公开提供了一种用于渲染方法、装置、电子设备和存储介质。
根据本公开的一方面,提供了一种渲染方法,包括:
获取面部的初始纹理图,并获取面部的点云图;
将所述点云图中除目标五官区域以外的各位置点映射至所述初始纹理图上,以确定所述初始纹理图上对应的映射位置点;
针对所述初始纹理图上的各所述映射位置点,根据所述初始纹理图上设定区域中的多个像素点的像素值,更新对应映射位置点的像素值;
根据更新后的初始纹理图和所述点云图进行渲染,得到目标渲染图。
根据本公开的另一方面,提供了一种渲染装置,包括:
获取模块,用于获取面部的初始纹理图,并获取面部的点云图;
确定模块,用于将所述点云图中除目标五官区域以外的各位置点映射至所述初始纹理图上,以确定所述初始纹理图上对应的映射位置点;
更新模块,用于针对所述初始纹理图上的各所述映射位置点,根据所述初始纹理图上设定区域中的多个像素点的像素值,更新对应映射位置点的像素值;
渲染模块,用于根据更新后的初始纹理图和所述点云图进行渲染,得到目标渲染图。
根据本公开的又一方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本公开上述一方面提出的渲染方法。
根据本公开的再一方面,提供了一种计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行本公开上述一方面提出的渲染方法。
根据本公开的还一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现本公开上述一方面提出的渲染方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1为本公开实施例一所提供的渲染方法的流程示意图;
图2为本公开实施例二所提供的渲染方法的流程示意图;
图3为本公开实施例三所提供的渲染方法的流程示意图;
图4为本公开实施例四所提供的渲染方法的流程示意图;
图5为本公开实施例中的点云图示意图;
图6为本公开实施例五所提供的渲染方法的流程示意图;
图7为本公开实施例六所提供的渲染装置的结构示意图;
图8示出了可以用来实施本公开的实施例的示例电子设备的示意性框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
目前可以基于深度学习技术,对人脸图像进行三维重建,即可以通过渲染图的真实状况(groundtruth)数据进行约束,预测纹理图像系数以及形状(shape)系数,生成三维(3D)点云图以及纹理图。其中,采用预测纹理图像系数乘以纹理基底的方式,生成纹理图。
然而上述纹理图的生成方式,无法覆盖住纹理基底表现力以外的人脸效果。因此出现了对纹理图的所有像素点进行单独训练调整的方案,但是由于唯一的约束是渲染图,只能对纹理图中前脸区域进行约束,可能导致除纹理图中前脸区域以外的区域的肤色和前脸区域的肤色之间的差异较大。因此,如何对齐纹理图的整体肤色,以减小纹理图中各个区域之间的肤色差异是非常重要的。
针对上述问题,本公开提出一种渲染方法、装置、电子设备和存储介质。
下面参考附图描述本公开实施例的渲染方法、装置、电子设备和存储介质。
图1为本公开实施例一所提供的渲染方法的流程示意图。
本公开实施例以该渲染方法被配置于渲染装置中来举例说明,该渲染装置可以应用于任一电子设备中,以使该电子设备可以执行渲染功能。
其中,电子设备可以为任一具有计算能力的设备,例如可以为个人电脑、移动终端、服务器等,移动终端例如可以为车载设备、手机、平板电脑、个人数字助理、穿戴式设备等具有各种操作系统、触摸屏和/或显示屏的硬件设备。
如图1所示,该渲染方法可以包括以下步骤:
步骤101,获取面部的初始纹理图,并获取面部的点云图。
在本公开实施例中,初始纹理图是指未进行肤色调整之前的纹理图。
在本公开实施例中,面部的初始纹理图可以根据面部图像对应的纹理系数与设定纹理基底生成。后续将对此进行详细介绍,此处不做赘述。
在本公开实施例中,面部的点云图可以为基于深度学习技术预测的点云图,或者,也可以为人工定制化的点云图,或者,也可以为通过其他手段生成或获取的点云图,本公开对此并不做限制。
步骤102,将点云图中除目标五官区域以外的各位置点映射至初始纹理图上,以确定初始纹理图上对应的映射位置点。
在本公开实施例中,为了实现仅对初始纹理图上的肤色区域中的各像素点进行调整,目标五官区域可以为未包含肤色的五官区域,比如,目标五官区域可以包括眉毛区域(左侧眉毛区域和右侧眉毛区域)、眼睛区域(左眼区域和右眼区域)、嘴巴区域。
在本公开实施例中,可以将点云图中除了目标五官区域以外的各位置点映射至初始纹理图上,以得到上述各位置点映射至初始纹理图上对应的映射位置点。
步骤103,针对初始纹理图上的各映射位置点,根据初始纹理图上设定区域中的多个像素点的像素值,更新对应映射位置点的像素值。
需要说明的是,根据面部图像对应的纹理系数与设定纹理基底生成的初始纹理图中,只能保证前脸区域(比如脸颊区域)肤色均衡,而无法保证其他肤色区域(比如额头区域)与前脸区域之间的肤色对齐。
因此,为了解决上述问题,在本公开实施例中,设定区域可以为初始纹理图中肤色均衡的区域,比如设定区域可以为前脸区域(例如脸颊区域)。
本公开中,针对初始纹理图上的各映射位置点,可以根据该初始纹理图上设定区域中的多个像素点的像素值,更新对应映射位置点的像素值,从而使得更新后的初始纹理图上各肤色区域的像素值与设定区域的像素值接近,以减小更新后的初始纹理图上各个区域之间的肤色差异,从而实现均衡更新后的初始纹理图的肤色,即对齐初始纹理图整体肤色。
步骤104,根据更新后的初始纹理图和点云图进行渲染,得到目标渲染图。
在本公开实施例中,可以根据更新后的初始纹理图和点云图进行渲染,得到目标渲染图。可以理解的是,由于更新后的初始纹理图为肤色均衡后的纹理图,采用该更新后的初始纹理图和点云图进行渲染,可以使得渲染后的目标渲染图的肤色均衡。
本公开实施例的渲染方法,通过将面部的点云图中除目标五官区域以外的各位置点映射至面部的初始纹理图上,以确定初始纹理图上对应的映射位置点,针对初始纹理图上的各映射位置点,根据初始纹理图上设定区域中的多个像素点的像素值,更新对应映射位置点的像素值,以根据更新后的初始纹理图和点云图进行渲染,得到目标渲染图。由此,可以使得更新后的初始纹理图上各肤色区域的像素值与初始纹理图中设定区域的像素值接近,从而减小更新后的初始纹理图上各个区域之间的肤色差异,从而实现均衡更新后的初始纹理图的肤色。并且,由于更新后的初始纹理图为肤色均衡后的纹理图,采用该更新后的初始纹理图和点云图进行渲染,可以使得渲染后的目标渲染图的肤色均衡,改善用户的使用效果。
需要说明的是,本公开的技术方案中,所涉及的用户个人信息(比如面部图像、点云图)的收集、存储、使用、加工、传输、提供和公开等处理,均在征得用户同意的前提下进行,并且均符合相关法律法规的规定,且不违背公序良俗。
为了清楚说明本公开上述实施例中是如何对各映射位置点的像素值进行更新的,本公开还提出一种渲染方法。
图2为本公开实施例二所提供的渲染方法的流程示意图。
如图2所示,该渲染方法可以包括以下步骤:
步骤201,获取面部的初始纹理图,并获取面部的点云图。
步骤202,将点云图中除目标五官区域以外的各位置点映射至初始纹理图上,以确定初始纹理图上对应的映射位置点。
步骤201至202的执行过程可以参见本公开任一实施例的执行过程,在此不做赘述。
步骤203,从初始纹理图上设定区域中,获取各映射位置点对应的多个像素点的像素值。
需要说明的是,前述实施例中对设定区域的解释说明也适用于该实施例,在此不做赘述。
在本公开实施例中,针对映射至初始纹理图上的各映射位置点,可以从初始纹理图上设定区域中,获取各映射位置点对应的多个像素点的像素值。
例如,针对初始纹理图上的多个映射位置点,可以从设定区域中,获取各映射位置点对应的多个像素点的像素值。比如,针对各映射位置点,可以随机地从设定区域中获取对应的多个像素点,在获取到各映射位置点对应的多个像素点之后,可以获取各映射位置点对应的多个像素点所对应的像素值。
在本公开实施例的一种可能的实现方式中,为了进一步减小更新后的初始纹理图上各个区域之间的肤色差异,从而实现均衡更新后的初始纹理图的肤色,可以对每个映射位置点的像素值进行调整,即针对初始纹理图上的每个映射位置点,可以获取初始纹理图上设定区域中对应的多个像素点的像素值。比如,针对每个映射位置点,可以随机地从设定区域中获取对应的多个像素点,在获取到对应的多个像素点之后,可以获取上述多个像素点对应的像素值。
步骤204,根据各映射位置点对应的多个像素点的像素值的均值,更新对应的映射位置点的像素值。
在本公开实施例中,针对各映射位置点,可以求取各映射位置点对应的多个像素点的像素值的均值,根据各映射位置点对应的多个像素点的像素值的均值,更新对应的映射位置点的像素值。例如,可以利用均值,替换对应的映射位置点的像素值。
举例而言,以设定区域为脸颊区域进行示例性说明,针对映射位置点1(比如额头区域中的位置点1),可以从脸颊区域中随机地获取N个像素点,其中,N为大于1的正整数,将随机获取的N个像素点的像素值的均值,作为该映射位置点1对应的更新后的像素值;同理,针对映射位置点2(比如额头区域中的位置点2),可以从脸颊区域中再次随机地获取N个像素点,并将随机获取的N个像素点的像素值的均值,作为该映射位置点2对应的更新后的像素值。
在本公开实施例的一种可能的实现方式中,为了进一步减小更新后的初始纹理图上各个区域之间的肤色差异,从而实现均衡更新后的初始纹理图的肤色,可以对每个映射位置点的像素值进行调整,即针对每个映射位置点,可以求取该映射位置点对应的多个像素点的像素值的均值,根据多个像素点的像素值的均值,更新该映射位置点的像素值。例如,可以利用均值,替换该映射位置点的像素值。
由此,可以实现根据该初始纹理图上设定区域中的多个像素点的像素值,有效更新每个映射位置点的像素值,从而使得更新后的初始纹理图上各肤色区域的像素值与设定区域的像素值接近,以减小更新后的初始纹理图上各个区域之间的肤色差异,从而实现进一步均衡更新后的初始纹理图的肤色,对齐初始纹理图整体肤色。
步骤205,根据更新后的初始纹理图和点云图进行渲染,得到目标渲染图。
在本公开实施例的一种可能的实现方式中,为了提升面部三维重建效果,可以将更新后的初始纹理图贴图至点云图上,对贴图后的点云图进行渲染,以得到上述目标渲染图。
本公开实施例的渲染方法,通过从初始纹理图上设定区域中,获取各映射位置点对应的多个像素点的像素值;根据各映射位置点对应的多个像素点的像素值的均值,更新对应的映射位置点的像素值。由此,可以实现根据该初始纹理图上设定区域中的多个像素点的像素值,有效更新各映射位置点的像素值,从而使得更新后的初始纹理图上各肤色区域的像素值与设定区域的像素值接近,以减小更新后的初始纹理图上各个区域之间的肤色差异,从而实现均衡更新后的初始纹理图的肤色,对齐初始纹理图整体肤色。
为了清楚说明本公开上述实施例中是如何对各映射位置点的像素值进行更新的,本公开还提出一种渲染方法。
图3为本公开实施例三所提供的渲染方法的流程示意图。
如图3所示,该渲染方法可以包括以下步骤:
步骤301,获取面部的初始纹理图,并获取面部的点云图。
步骤302,将点云图中除目标五官区域以外的各位置点映射至初始纹理图上,以确定初始纹理图上对应的映射位置点。
步骤303,从初始纹理图上设定区域中,获取各映射位置点对应的多个像素点的像素值。
步骤301至303的执行过程可以参见本公开任一实施例的执行过程,在此不做赘述。
步骤304,分别将各映射位置点对应的多个像素点的像素值进行加权求和,得到对应映射位置点的加权值。
步骤305,根据各映射位置点的加权值,更新对应的映射位置点的像素值。
在本公开实施例中,针对映射至初始纹理图上的各映射位置点,可以从初始纹理图上设定区域中,获取各映射位置点对应的多个像素点的像素值,并分别将各映射位置点对应的多个像素点的像素值进行加权求和,得到对应映射位置点的加权值,从而可以根据各映射位置点的加权值,更新对应的映射位置点的像素值。
举例而言,以设定区域为脸颊区域进行示例性说明,针对映射位置点1(比如额头区域中的位置点1),可以从脸颊区域中随机地获取N个像素点,并利用设定权重,对随机获取的N个像素点的像素值进行加权求和,得到加权值,将加权值作为该映射位置点1对应的更新后的像素值。
在本公开实施例的一种可能的实现方式中,为了进一步减小更新后的初始纹理图上各个区域之间的肤色差异,从而实现均衡更新后的初始纹理图的肤色,可以对每个映射位置点的像素值进行调整,即针对每个映射位置点,可以将该映射位置点对应的多个像素点的像素值进行加权求和,得到该映射位置点对应的加权值,从而可以根据上述加权值,更新该映射位置点的像素值。例如,可以利用加权值,替换初始纹理图中该映射位置点的像素值。
步骤306,根据更新后的初始纹理图和点云图进行渲染,得到目标渲染图。
步骤306的执行过程可以参见本公开任一实施例的执行过程,在此不做赘述。
本公开实施例的渲染方法,通过从初始纹理图上设定区域中,获取各映射位置点对应的多个像素点的像素值;分别将各映射位置点对应的多个像素点的像素值进行加权求和,得到对应映射位置点的加权值;根据各映射位置点的加权值,更新对应的映射位置点的像素值。由此,可以实现根据该初始纹理图上设定区域中的多个像素点的像素值,有效更新各映射位置点的像素值,从而使得更新后的初始纹理图上各肤色区域的像素值与设定区域的像素值接近,以减小更新后的初始纹理图上各个区域之间的肤色差异,从而实现均衡更新后的初始纹理图的肤色,对齐初始纹理图整体肤色。
为了清楚说明本公开上述实施例中是如何对各映射位置点的像素值进行更新的,本公开还提出一种渲染方法。
图4为本公开实施例四所提供的渲染方法的流程示意图。
如图4所示,该渲染方法可以包括以下步骤:
步骤401,获取面部的初始纹理图,并获取面部的点云图。
步骤402,将点云图中除目标五官区域以外的各位置点映射至初始纹理图上,以确定初始纹理图上对应的映射位置点。
步骤403,从初始纹理图上设定区域中,获取各映射位置点对应的多个像素点的像素值。
步骤401至403的执行过程可以参见本公开任一实施例的执行过程,在此不做赘述。
步骤404,分别确定各映射位置点的像素值与对应的多个像素点的像素值之间的差异。
步骤405,调整各映射位置点的像素值,以使对应的差异最小化。
在本公开实施例中,针对映射至初始纹理图上的各映射位置点,可以从初始纹理图上设定区域中,获取各映射位置点对应的多个像素点的像素值,分别确定初始纹理图中各映射位置点的像素值与对应的多个像素点的像素值之间的差异,并调整各映射位置点的像素值,以使各映射位置点对应的差异最小化。
在本公开实施例的一种可能的实现方式中,为了进一步减小更新后的初始纹理图上各个区域之间的肤色差异,从而实现均衡更新后的初始纹理图的肤色,可以对每个映射位置点的像素值进行调整,即针对每个映射位置点,可以确定初始纹理图中该映射位置点的像素值,与对应的多个像素点的像素值之间的差异,并调整该映射位置点的像素值,以使上述差异最小化。
步骤406,根据更新后的初始纹理图和点云图进行渲染,得到目标渲染图。
步骤406的执行过程可以参见本公开任一实施例的执行过程,在此不做赘述。
作为一种应用场景,可以在3D渲染软件中打开obj文件(即点云图所对应的文件),其中,点云图中可以携带各位置点的坐标(例如携带各3D点的坐标),还可以包括脸部面片(或称为网格)。之后,可以扣除点云图中的一部分网格,比如扣除嘴巴、双眼、双眉毛所对应的网格,使得扣除后的点云图中剩余顶点通过位置映射到初始纹理图上的区域是初始纹理图上除去嘴巴、双眼、双眉毛以外的人脸肤色区域。例如,扣除后的点云图可以如图5所示。
投影至初始纹理图上的每个映射位置点,均可以随机地在前脸区域内选取N个像素点,利用这N个像素点的RGB值,更新对应映射位置点的RGB值,从而使得前脸区域的肤色与人脸其他区域的肤色趋同。
在对初始纹理图中各映射位置点的RGB值进行更新后,可以将更新后的初始纹理图贴图至点云图上,并对贴图后的点云图进行渲染,得到目标渲染图。
本公开实施例的渲染方法,通过从初始纹理图上设定区域中,获取各映射位置点对应的多个像素点的像素值;分别确定各映射位置点的像素值与对应的多个像素点的像素值之间的差异;调整各映射位置点的像素值,以使对应的差异最小化。由此,可以实现根据该初始纹理图上设定区域中的多个像素点的像素值,有效更新各映射位置点的像素值,从而使得更新后的初始纹理图上各肤色区域的像素值与设定区域的像素值接近,以减小更新后的初始纹理图上各个区域之间的肤色差异,从而实现均衡更新后的初始纹理图的肤色,对齐初始纹理图整体肤色。
为了清楚说明本公开上述任一实施例中是如何获取初始纹理图的,本公开还提出一种渲染方法。
图6为本公开实施例五所提供的渲染方法的流程示意图。
如图6所示,该渲染方法可以包括以下步骤:
步骤601,获取目标面部图像。
在本公开实施例中,目标面部图像可以为目标对象的面部图像,其中,目标对象可以为人或动物。该目标面部图像可以为在线采集的面部图像,比如可以通过网络爬虫技术,在线采集目标对象的面部图像,或者,目标面部图像也可以为线下采集的面部图像,或者,目标面部图像也可以为实时采集目标对象的面部图像,或者,目标面部图像也可以为人工合成的面部图像,等等,本公开实施例对此并不做限制。
步骤602,对目标面部图像提取目标纹理系数。
在本公开实施例中,可以对目标面部图像提取目标纹理系数。
作为一种示例,可以将目标面部图像输入面部纹理系数模型中,以由面部纹理系数模型对该目标面部图像进行纹理系数提取,得到该目标面部图像对应的目标纹理系数。比如,该面部纹理系数模型可以为经过训练后的卷积神经网络。
作为另一种示例,可以通过特征提取算法对目标面部图像进行纹理特征提取,根据提取到的纹理特征确定目标纹理系数。
步骤603,根据目标纹理系数与设定纹理基底,生成初始纹理图。
在本公开实施例中,设定纹理基底可以为与目标面部图像同一类型的纹理基底,或者,设定纹理基底也可以为与目标面部图像不同类型的纹理基底,本公开对此并不做限制。
在本公开实施例中,可以根据目标纹理系数与设定纹理基底,生成初始纹理图。
在本公开实施例的一种可能的实现方式中,为了提升纹理图的生成效果,可以将目标纹理系数与设定纹理基底进行融合,以得到初始纹理图。比如,可以将目标纹理系数与设定纹理基底进行线性求和,生成初始纹理图。
在本公开实施例的另一种可能的实现方式中,为了使纹理基底的表达力范畴更加适用于目标面部图像,本公开中,还可以根据目标纹理系数,执行多轮纹理基底的更新过程,其中,可以将设定纹理基底作为第一轮的纹理基底,任意的一轮更新过程中包括:将本轮的纹理基底与目标纹理系数融合,以得到本轮的纹理图,采用本轮的纹理图进行渲染,以得到本轮的预测渲染图,根据本轮的纹理图进行纹理基底更新,以得到下一轮的纹理基底,比如,可以将本轮的纹理图输入卷积神经网络进行特征提取,以获取本轮的纹理图对应的纹理基底,将本轮的纹理图对应的纹理基底,作为下一轮的纹理基底;在预测渲染图和目标面部图像对应的参考渲染图之间的差异小于设定阈值的情况下,停止执行更新过程;将目标纹理系数与最后一轮的纹理基底进行融合,以得到初始纹理图。
由此,可以通过不同方式,生成初始纹理图,可以提升该方法的灵活性和适用性。
步骤604,获取面部的点云图。
需要说明的是,本公开仅以步骤604在步骤603之后执行进行示例,但本公开并不限于此,实际应用时,步骤604仅需在步骤605之前执行即可,例如,步骤604还可以在步骤601之前执行,或者,步骤604还可以与步骤601至603并列执行,或者,步骤604还可以在步骤601之后,且在步骤602之前执行,或者,步骤604还可以在步骤602之后,且在步骤603之前执行,等等,对此不做限制。
步骤605,将点云图中除目标五官区域以外的各位置点映射至初始纹理图上,以确定初始纹理图上对应的映射位置点。
步骤606,针对初始纹理图上的各映射位置点,根据初始纹理图上设定区域中的多个像素点的像素值,更新对应映射位置点的像素值。
步骤607,根据更新后的初始纹理图和点云图进行渲染,得到目标渲染图。
步骤604至607的执行过程可以参见本公开任一实施例的执行过程,在此不做赘述。
本公开实施例的渲染方法,通过获取目标面部图像;对目标面部图像提取目标纹理系数;根据目标纹理系数与设定纹理基底,生成初始纹理图。由此,可以实现根据目标面部图像,有效生成初始纹理图。
与上述图1至图6实施例提供的渲染方法相对应,本公开还提供一种渲染装置,由于本公开实施例提供的渲染装置与上述图1至图4实施例提供的渲染方法相对应,因此在渲染方法的实施方式也适用于本公开实施例提供的渲染装置,在本公开实施例中不再详细描述。
图7为本公开实施例六所提供的渲染装置的结构示意图。
如图7所示,该渲染装置700可以包括:获取模块710、确定模块720、更新模块730以及渲染模块740。
其中,获取模块710,用于获取面部的初始纹理图,并获取面部的点云图。
确定模块720,用于将点云图中除目标五官区域以外的各位置点映射至初始纹理图上,以确定初始纹理图上对应的映射位置点。
更新模块730,用于针对初始纹理图上的各映射位置点,根据初始纹理图上设定区域中的多个像素点的像素值,更新对应映射位置点的像素值。
渲染模块740,用于根据更新后的初始纹理图和点云图进行渲染,得到目标渲染图。
在本公开实施例的一种可能的实现方式中,更新模块730,具体用于:从初始纹理图上设定区域中,获取各映射位置点对应的多个像素点的像素值;根据各映射位置点对应的多个像素点的像素值的均值,更新对应的映射位置点的像素值。
在本公开实施例的一种可能的实现方式中,更新模块730,具体用于:从初始纹理图上设定区域中,获取各映射位置点对应的多个像素点的像素值;分别将各映射位置点对应的多个像素点的像素值进行加权求和,得到对应映射位置点的加权值;根据各映射位置点的加权值,更新对应的映射位置点的像素值。
在本公开实施例的一种可能的实现方式中,更新模块730,具体用于:从初始纹理图上设定区域中,获取各映射位置点对应的多个像素点的像素值;分别确定各映射位置点的像素值与对应的多个像素点的像素值之间的差异;调整各映射位置点的像素值,以使对应的差异最小化。
在本公开实施例的一种可能的实现方式中,获取模块710,具体用于:获取目标面部图像;对目标面部图像提取目标纹理系数;根据目标纹理系数与设定纹理基底,生成初始纹理图。
在本公开实施例的一种可能的实现方式中,获取模块710,具体用于:将目标纹理系数与设定纹理基底进行融合,以得到初始纹理图。
在本公开实施例的一种可能的实现方式中,渲染模块740,具体用于:将更新后的初始纹理图贴图至点云图上;对贴图后的点云图进行渲染,得到目标渲染图。
本公开实施例的渲染装置,通过将面部的点云图中除目标五官区域以外的各位置点映射至面部的初始纹理图上,以确定初始纹理图上对应的映射位置点,针对初始纹理图上的各映射位置点,根据初始纹理图上设定区域中的多个像素点的像素值,更新对应映射位置点的像素值,以根据更新后的初始纹理图和点云图进行渲染,得到目标渲染图。由此,可以使得更新后的初始纹理图上各肤色区域的像素值与初始纹理图中设定区域的像素值接近,从而减小更新后的初始纹理图上各个区域之间的肤色差异,从而实现均衡更新后的初始纹理图的肤色。并且,由于更新后的初始纹理图为肤色均衡后的纹理图,采用该更新后的初始纹理图和点云图进行渲染,可以使得渲染后的目标渲染图的肤色均衡,改善用户的使用效果。
为了实现上述实施例,本公开还提供一种电子设备,该电子设备可以包括至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行本公开上述任一实施例提出的渲染方法。
为了实现上述实施例,本公开还提供一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行本公开上述任一实施例提出的渲染方法。
为了实现上述实施例,本公开还提供一种计算机程序产品,该计算机程序产品包括计算机程序,计算机程序在被处理器执行时实现本公开上述任一实施例提出的渲染方法。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图8示出了可以用来实施本公开的实施例的示例电子设备的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图8所示,设备800包括计算单元801,其可以根据存储在ROM(Read-OnlyMemory,只读存储器)802中的计算机程序或者从存储单元807加载到RAM(Random AccessMemory,随机访问/存取存储器)803中的计算机程序,来执行各种适当的动作和处理。在RAM803中,还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。I/O(Input/Output,输入/输出)接口805也连接至总线804。
设备800中的多个部件连接至I/O接口805,包括:输入单元806,例如键盘、鼠标等;输出单元807,例如各种类型的显示器、扬声器等;存储单元808,例如磁盘、光盘等;以及通信单元809,例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于CPU(Central Processing Unit,中央处理单元)、GPU(Graphic Processing Units,图形处理单元)、各种专用的AI(Artificial Intelligence,人工智能)计算芯片、各种运行机器学习模型算法的计算单元、DSP(Digital SignalProcessor,数字信号处理器)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理,例如上述渲染方法。例如,在一些实施例中,上述渲染方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元808。在一些实施例中,计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由计算单元801执行时,可以执行上文描述的渲染方法的一个或多个步骤。备选地,在其他实施例中,计算单元801可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行上述渲染方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、FPGA(Field Programmable Gate Array,现场可编程门阵列)、ASIC(Application-Specific Integrated Circuit,专用集成电路)、ASSP(Application Specific StandardProduct,专用标准产品)、SOC(System On Chip,芯片上系统的系统)、CPLD(ComplexProgrammable Logic Device,复杂可编程逻辑设备)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、RAM、ROM、EPROM(Electrically Programmable Read-Only-Memory,可擦除可编程只读存储器)或快闪存储器、光纤、CD-ROM(Compact Disc Read-Only Memory,便捷式紧凑盘只读存储器)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(Cathode-Ray Tube,阴极射线管)或者LCD(Liquid Crystal Display,液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:LAN(LocalArea Network,局域网)、WAN(Wide Area Network,广域网)、互联网和区块链网络。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务(VirtualPrivate Server,虚拟专用服务器)中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器,或者是结合了区块链的服务器。
其中,需要说明的是,人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。
根据本公开实施例的技术方案,通过将面部的点云图中除目标五官区域以外的各位置点映射至面部的初始纹理图上,以确定初始纹理图上对应的映射位置点,针对初始纹理图上的各映射位置点,根据初始纹理图上设定区域中的多个像素点的像素值,更新对应映射位置点的像素值,以根据更新后的初始纹理图和点云图进行渲染,得到目标渲染图。由此,可以使得更新后的初始纹理图上各肤色区域的像素值与初始纹理图中设定区域的像素值接近,从而减小更新后的初始纹理图上各个区域之间的肤色差异,从而实现均衡更新后的初始纹理图的肤色。并且,由于更新后的初始纹理图为肤色均衡后的纹理图,采用该更新后的初始纹理图和点云图进行渲染,可以使得渲染后的目标渲染图的肤色均衡,改善用户的使用效果。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。

Claims (17)

1.一种渲染方法,所述方法包括:
获取面部的初始纹理图,并获取面部的点云图;
将所述点云图中除目标五官区域以外的各位置点映射至所述初始纹理图上,以确定所述初始纹理图上对应的映射位置点;
针对所述初始纹理图上的各所述映射位置点,根据所述初始纹理图上设定区域中的多个像素点的像素值,更新对应映射位置点的像素值;
根据更新后的初始纹理图和所述点云图进行渲染,得到目标渲染图。
2.根据权利要求1所述的方法,其中,所述针对所述初始纹理图上的各所述映射位置点,根据所述初始纹理图上设定区域中的多个像素点的像素值,更新对应映射位置点的像素值,包括:
从所述初始纹理图上所述设定区域中,获取各所述映射位置点对应的多个像素点的像素值;
根据各所述映射位置点对应的多个所述像素点的像素值的均值,更新对应的所述映射位置点的像素值。
3.根据权利要求1所述的方法,其中,所述针对所述初始纹理图上的各所述映射位置点,根据所述初始纹理图上设定区域中的多个像素点的像素值,更新对应映射位置点的像素值,包括:
从所述初始纹理图上所述设定区域中,获取各所述映射位置点对应的多个像素点的像素值;
分别将各所述映射位置点对应的多个所述像素点的像素值进行加权求和,得到对应映射位置点的加权值;
根据各所述映射位置点的加权值,更新对应的所述映射位置点的像素值。
4.根据权利要求1所述的方法,其中,所述针对所述初始纹理图上的各所述映射位置点,根据所述初始纹理图上设定区域中的多个像素点的像素值,更新对应映射位置点的像素值,包括:
从所述初始纹理图上所述设定区域中,获取各所述映射位置点对应的多个像素点的像素值;
分别确定各所述映射位置点的像素值与对应的多个所述像素点的像素值之间的差异;
调整各所述映射位置点的像素值,以使对应的所述差异最小化。
5.根据权利要求1-4任一项所述的方法,其中,所述获取初始纹理图,包括:
获取目标面部图像;
对所述目标面部图像提取目标纹理系数;
根据所述目标纹理系数与设定纹理基底,生成所述初始纹理图。
6.根据权利要求5所述的方法,其中,所述根据所述目标纹理系数与设定纹理基底,生成所述初始纹理图,包括:
将所述目标纹理系数与设定纹理基底进行融合,以得到所述初始纹理图。
7.根据权利要求1-4任一项所述的方法,其中,所述根据更新后的初始纹理图和所述点云图进行渲染,得到目标渲染图,包括:
将更新后的初始纹理图贴图至所述点云图上;
对贴图后的所述点云图进行渲染,得到所述目标渲染图。
8.一种渲染装置,所述装置包括:
获取模块,用于获取面部的初始纹理图,并获取面部的点云图;
确定模块,用于将所述点云图中除目标五官区域以外的各位置点映射至所述初始纹理图上,以确定所述初始纹理图上对应的映射位置点;
更新模块,用于针对所述初始纹理图上的各所述映射位置点,根据所述初始纹理图上设定区域中的多个像素点的像素值,更新对应映射位置点的像素值;
渲染模块,用于根据更新后的初始纹理图和所述点云图进行渲染,得到目标渲染图。
9.根据权利要求8所述的装置,其中,所述更新模块,具体用于:
从所述初始纹理图上所述设定区域中,获取各所述映射位置点对应的多个像素点的像素值;
根据各所述映射位置点对应的多个所述像素点的像素值的均值,更新对应的所述映射位置点的像素值。
10.根据权利要求8所述的装置,其中,所述更新模块,具体用于:
从所述初始纹理图上所述设定区域中,获取各所述映射位置点对应的多个像素点的像素值;
分别将各所述映射位置点对应的多个所述像素点的像素值进行加权求和,得到对应映射位置点的加权值;
根据各所述映射位置点的加权值,更新对应的所述映射位置点的像素值。
11.根据权利要求8所述的装置,其中,所述更新模块,具体用于:
从所述初始纹理图上所述设定区域中,获取各所述映射位置点对应的多个像素点的像素值;
分别确定各所述映射位置点的像素值与对应的多个所述像素点的像素值之间的差异;
调整各所述映射位置点的像素值,以使对应的所述差异最小化。
12.根据权利要求8-11任一项所述的装置,其中,所述获取模块,具体用于:
获取目标面部图像;
对所述目标面部图像提取目标纹理系数;
根据所述目标纹理系数与设定纹理基底,生成所述初始纹理图。
13.根据权利要求12所述的装置,其中,所述获取模块,具体用于:
将所述目标纹理系数与设定纹理基底进行融合,以得到所述初始纹理图。
14.根据权利要求8-11任一项所述的装置,其中,所述渲染模块,具体用于:
将更新后的初始纹理图贴图至所述点云图上;
对贴图后的所述点云图进行渲染,得到所述目标渲染图。
15.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的渲染方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的渲染方法。
17.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现权利要求1-7中任一项所述渲染方法的步骤。
CN202111242485.1A 2021-10-25 2021-10-25 渲染方法、装置、电子设备和存储介质 Active CN114092616B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111242485.1A CN114092616B (zh) 2021-10-25 2021-10-25 渲染方法、装置、电子设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111242485.1A CN114092616B (zh) 2021-10-25 2021-10-25 渲染方法、装置、电子设备和存储介质

Publications (2)

Publication Number Publication Date
CN114092616A true CN114092616A (zh) 2022-02-25
CN114092616B CN114092616B (zh) 2023-03-28

Family

ID=80297954

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111242485.1A Active CN114092616B (zh) 2021-10-25 2021-10-25 渲染方法、装置、电子设备和存储介质

Country Status (1)

Country Link
CN (1) CN114092616B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114549728A (zh) * 2022-03-25 2022-05-27 北京百度网讯科技有限公司 图像处理模型的训练方法、图像处理方法、装置及介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190228587A1 (en) * 2018-01-24 2019-07-25 Google Llc Image Style Transfer for Three-Dimensional Models
CN111325823A (zh) * 2020-02-05 2020-06-23 腾讯科技(深圳)有限公司 人脸纹理图像的获取方法、装置、设备及存储介质
CN111882627A (zh) * 2020-07-20 2020-11-03 广州市百果园信息技术有限公司 图像处理方法、视频处理方法、装置、设备和存储介质

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190228587A1 (en) * 2018-01-24 2019-07-25 Google Llc Image Style Transfer for Three-Dimensional Models
CN111325823A (zh) * 2020-02-05 2020-06-23 腾讯科技(深圳)有限公司 人脸纹理图像的获取方法、装置、设备及存储介质
CN111882627A (zh) * 2020-07-20 2020-11-03 广州市百果园信息技术有限公司 图像处理方法、视频处理方法、装置、设备和存储介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114549728A (zh) * 2022-03-25 2022-05-27 北京百度网讯科技有限公司 图像处理模型的训练方法、图像处理方法、装置及介质

Also Published As

Publication number Publication date
CN114092616B (zh) 2023-03-28

Similar Documents

Publication Publication Date Title
CN113643412B (zh) 虚拟形象的生成方法、装置、电子设备及存储介质
CN113963110B (zh) 纹理图生成方法、装置、电子设备及存储介质
CN113327278B (zh) 三维人脸重建方法、装置、设备以及存储介质
CN113658309B (zh) 三维重建方法、装置、设备以及存储介质
CN114820905B (zh) 虚拟形象生成方法、装置、电子设备及可读存储介质
CN113052962B (zh) 模型训练、信息输出方法,装置,设备以及存储介质
CN114549710A (zh) 一种虚拟形象的生成方法、装置、电子设备及存储介质
CN115393488B (zh) 虚拟人物表情的驱动方法、装置、电子设备和存储介质
CN114723888B (zh) 三维发丝模型生成方法、装置、设备、存储介质及产品
CN113362263A (zh) 变换虚拟偶像的形象的方法、设备、介质及程序产品
CN111754431B (zh) 一种图像区域替换方法、装置、设备及存储介质
CN114549728A (zh) 图像处理模型的训练方法、图像处理方法、装置及介质
CN114972017A (zh) 个性化人脸风格图的生成方法、装置和电子设备
CN114092616B (zh) 渲染方法、装置、电子设备和存储介质
CN113781653B (zh) 对象模型生成方法、装置、电子设备及存储介质
US20180240271A1 (en) Automatic generation of three-dimensional entities
CN112884889B (zh) 模型训练、人头重建方法,装置,设备以及存储介质
CN111523467B (zh) 人脸跟踪方法和装置
CN113808249A (zh) 图像处理方法、装置、设备和计算机存储介质
CN113380269A (zh) 视频图像生成方法、装置、设备、介质和计算机程序产品
CN115359166B (zh) 一种图像生成方法、装置、电子设备和介质
CN113223128B (zh) 用于生成图像的方法和装置
CN114648601A (zh) 虚拟形象的生成方法、电子设备、程序产品及用户终端
CN114078184A (zh) 数据处理方法、装置、电子设备和介质
CN115953553B (zh) 虚拟形象生成方法、装置、电子设备以及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant