CN109584145A - 卡通化方法和装置、电子设备和计算机存储介质 - Google Patents
卡通化方法和装置、电子设备和计算机存储介质 Download PDFInfo
- Publication number
- CN109584145A CN109584145A CN201811198152.1A CN201811198152A CN109584145A CN 109584145 A CN109584145 A CN 109584145A CN 201811198152 A CN201811198152 A CN 201811198152A CN 109584145 A CN109584145 A CN 109584145A
- Authority
- CN
- China
- Prior art keywords
- model
- cartoon
- dimensional object
- texture
- face
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 72
- 230000001815 facial effect Effects 0.000 claims abstract description 169
- 238000012545 processing Methods 0.000 description 19
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 13
- 230000006854 communication Effects 0.000 description 13
- 238000004590 computer program Methods 0.000 description 13
- 230000009466 transformation Effects 0.000 description 13
- 238000004891 communication Methods 0.000 description 12
- 238000009434 installation Methods 0.000 description 11
- 230000008569 process Effects 0.000 description 10
- 230000004927 fusion Effects 0.000 description 9
- 239000003086 colorant Substances 0.000 description 7
- 230000008859 change Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 238000001914 filtration Methods 0.000 description 6
- 238000000513 principal component analysis Methods 0.000 description 6
- 210000004709 eyebrow Anatomy 0.000 description 5
- 210000000216 zygoma Anatomy 0.000 description 5
- 241000208340 Araliaceae Species 0.000 description 4
- 241001465754 Metazoa Species 0.000 description 4
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 4
- 235000003140 Panax quinquefolius Nutrition 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 235000008434 ginseng Nutrition 0.000 description 4
- 238000002156 mixing Methods 0.000 description 4
- 238000013135 deep learning Methods 0.000 description 3
- 239000000463 material Substances 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 206010053238 Amimia Diseases 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/06—Topological mapping of higher dimensional structures onto lower dimensional surfaces
- G06T3/067—Reshaping or unfolding 3D tree structures onto 2D planes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Processing Or Creating Images (AREA)
- Image Generation (AREA)
Abstract
本申请实施例公开了一种卡通化方法和装置、电子设备和计算机存储介质,其中,方法包括:获取三维目标模型,其中,所述三维目标模型基于二维图像重建获得;根据所述三维目标模型的脸型特性,对预设卡通模型模板的脸型进行调整,得到对应的卡通脸型;根据所述三维目标模型确定所述二维图像的纹理特性,并根据所述纹理特性,对所述预设卡通模型模板的纹理进行调整,得到所述卡通脸型对应的卡通纹理,生成目标卡通模型。本申请实施例可以实现卡通形象的自动定制。
Description
技术领域
本申请涉及计算机视觉技术,尤其是一种卡通化方法和装置、电子设备和计算机存储介质。
背景技术
三维人脸重建是指根据一张或者多张二维人脸图像重建出对应的三维人脸模型。近年来,随着相关技术的发展,三维人脸重建在许多领域得到了广泛的应用。其中,卡通化已经成为三维人脸重建的一个新的应用方向。
发明内容
本申请实施例提供一种卡通化技术方案。
根据本申请实施例的一个方面,提供一种卡通化方法,包括:
获取三维目标模型,其中,所述三维目标模型基于二维图像重建获得;
根据所述三维目标模型的脸型特性,对预设卡通模型模板的脸型进行调整,得到对应的卡通脸型;
根据所述三维目标模型确定所述二维图像的纹理特性,并根据所述纹理特性,对所述预设卡通模型模板的纹理进行调整,得到所述卡通脸型对应的卡通纹理,生成目标卡通模型。
可选地,在本申请上述方法实施例中,所述获取三维目标模型之前,还包括:
基于二维图像重建获得所述三维目标模型。
可选地,在本申请上述任一方法实施例中,在所述根据所述三维目标模型的脸型特性,对预设卡通模型模板的脸型进行调整之前,还包括:
获取所述三维目标模型的脸型特性。
可选地,在本申请上述任一方法实施例中,所述获取所述三维目标模型的脸型特性,包括:
根据所述预设卡通模型模板的类型确定脸型特性的种类;
根据所述脸型特性的种类获取所述三维目标模型的脸型特性。
可选地,在本申请上述任一方法实施例中,所述根据所述三维目标模型的脸型特性,对所述预设卡通模型模板的脸型进行调整,包括:
确定所述三维目标模型的脸型特性中每个脸型特性的权重;
根据所述三维目标模型的脸型特性中每个脸型特性的权重,将所述三维目标模型的脸型特性迁移到所述预设卡通模型模板上,得到具有所述脸型特性的卡通脸型。
可选地,在本申请上述任一方法实施例中,所述确定所述三维目标模型的脸型特性中每个脸型特性的权重,包括:
确定多个预设三维目标模型的平均三维目标模型,其中,所述多个预设三维目标模型的脸型参数值不相同,表情参数为预定值;
根据所述三维目标模型的脸型特性中的每个脸型特性,分别对所述平均三维目标模型对应的脸型参数进行修改,得到脸型调整后的平均三维目标模型;
根据所述三维目标模型、所述平均三维目标模型和所述脸型调整后的平均三维目标模型,确定所述三维目标模型的脸型特性中每个脸型特性的权重。
可选地,在本申请上述任一方法实施例中,所述根据所述三维目标模型的脸型特性中每个脸型特性的权重,将所述三维目标模型的脸型特性迁移到所述预设卡通模型模板上,包括:
根据所述预设卡通模型模板确定平均卡通模型;
根据所述三维目标模型的脸型特性中的每个脸型特性,分别对所述平均卡通模型对应的脸型参数进行修改,得到脸型调整后的平均卡通模型;
根据所述三维目标模型的脸型特性中每个脸型特性的权重和所述脸型调整后的平均卡通模型,将所述三维目标模型的脸型特性迁移到所述预设卡通模型模板上。
可选地,在本申请上述任一方法实施例中,所述根据所述三维目标模型确定所述二维图像的纹理特性,并根据所述纹理特性,对所述预设卡通模型模板的纹理进行调整,包括:
根据所述三维目标模型对所述二维图像中的目标对象进行纹理区域划分;
根据所述二维图像中目标对象的每个纹理区域中的纹理特性,分别对所述预设卡通模型模板中对应的纹理区域中的纹理进行调整,得到具有所述纹理特性的卡通模型。
可选地,在本申请上述任一方法实施例中,所述根据所述三维目标模型对所述二维图像中的目标对象进行纹理区域划分,包括:
根据所述预设卡通模型模板的类型确定所述三维目标模型的纹理区域;
根据所述三维目标模型的纹理区域对所述二维图像中的目标对象进行纹理区域划分。
可选地,在本申请上述任一方法实施例中,所述根据所述二维图像中目标对象的每个纹理区域中的纹理特性,分别对所述预设卡通模型模板中对应的纹理区域中的纹理进行调整,包括:
获取所述二维图像中目标对象的纹理区域中的纹理的颜色统计值;
根据所述纹理的颜色统计值,分别对所述预设卡通模型模板中对应的纹理区域中的纹理进行调整,得到具有所述纹理特性的卡通模型。
可选地,在本申请上述任一方法实施例中,所述根据所述二维图像中目标对象的每个纹理区域中的纹理特性,分别对所述预设卡通模型模板中对应的纹理区域中的纹理进行调整,包括:
对所述二维图像中目标对象的纹理区域中的纹理进行卡通化处理;
将所述卡通化处理后的纹理仿射变换到所述预设卡通模型模板对应的纹理区域中,得到具有所述纹理特性的卡通模型。
可选地,在本申请上述任一方法实施例中,所述对所述二维图像中目标对象的纹理区域中的纹理进行卡通化处理,包括:
通过滤波或者深度学习对所述二维图像中目标对象的纹理区域中的纹理进行卡通化处理。
可选地,在本申请上述任一方法实施例中,所述将所述卡通化处理后的纹理仿射变换到所述预设卡通模型模板对应的纹理区域中之后,还包括:
对仿射变换后的纹理,与其周围的所述预设卡通模型模板的纹理区域中的纹理进行融合处理。
根据本申请实施例的另一个方面,提供一种卡通化装置,包括:
模型获取单元,用于获取三维目标模型,其中,所述三维目标模型基于二维图像重建获得;
脸型调整单元,用于根据所述三维目标模型的脸型特性,对预设卡通模型模板的脸型进行调整,得到对应的卡通脸型;
纹理调整单元,用于根据所述三维目标模型确定所述二维图像的纹理特性,并根据所述纹理特性,对所述预设卡通模型模板的纹理进行调整,得到所述卡通脸型对应的卡通纹理,生成目标卡通模型。
可选地,在本申请上述装置实施例中,还包括:
重建单元,用于基于二维图像重建获得所述三维目标模型。
可选地,在本申请上述任一装置实施例中,所述脸型调整单元,还用于获取所述三维目标模型的脸型特性。
可选地,在本申请上述任一装置实施例中,所述脸型调整单元,用于根据所述预设卡通模型模板的类型确定脸型特性的种类;以及根据所述脸型特性的种类获取所述三维目标模型的脸型特性。
可选地,在本申请上述任一装置实施例中,所述脸型调整单元,包括:
权重确定模块,用于确定所述三维目标模型的脸型特性中每个脸型特性的权重;
特性迁移模块,用于根据所述三维目标模型的脸型特性中每个脸型特性的权重,将所述三维目标模型的脸型特性迁移到所述预设卡通模型模板上,得到具有所述脸型特性的卡通脸型。
可选地,在本申请上述任一装置实施例中,所述权重确定模块,用于确定多个预设三维目标模型的平均三维目标模型,其中,所述多个预设三维目标模型的脸型参数值不相同,表情参数为预定值;根据所述三维目标模型的脸型特性中的每个脸型特性,分别对所述平均三维目标模型对应的脸型参数进行修改,得到脸型调整后的平均三维目标模型;根据所述三维目标模型、所述平均三维目标模型和所述脸型调整后的平均三维目标模型,确定所述三维目标模型的脸型特性中每个脸型特性的权重。
可选地,在本申请上述任一装置实施例中,所述特性迁移模块,用于根据所述预设卡通模型模板确定平均卡通模型;根据所述三维目标模型的脸型特性中的每个脸型特性,分别对所述平均卡通模型对应的脸型参数进行修改,得到脸型调整后的平均卡通模型;以及根据所述三维目标模型的脸型特性中每个脸型特性的权重和所述脸型调整后的平均卡通模型,将所述三维目标模型的脸型特性迁移到所述预设卡通模型模板上。
可选地,在本申请上述任一装置实施例中,所述纹理调整单元,包括:
区域划分模块,用于根据所述三维目标模型对所述二维图像中的目标对象进行纹理区域划分;
纹理调整模块,用于根据所述二维图像中目标对象的每个纹理区域中的纹理特性,分别对所述预设卡通模型模板中对应的纹理区域中的纹理进行调整,得到具有所述纹理特性的卡通模型。
可选地,在本申请上述任一装置实施例中,所述区域划分模块,用于根据所述预设卡通模型模板的类型确定所述三维目标模型的纹理区域;以及根据所述三维目标模型的纹理区域对所述二维图像中的目标对象进行纹理区域划分。
可选地,在本申请上述任一装置实施例中,所述纹理调整模块,用于获取所述二维图像中目标对象的纹理区域中的纹理的颜色统计值;以及根据所述纹理的颜色统计值,分别对所述预设卡通模型模板中对应的纹理区域中的纹理进行调整,得到具有所述纹理特性的卡通模型。
可选地,在本申请上述任一装置实施例中,所述纹理调整模块,用于对所述二维图像中目标对象的纹理区域中的纹理进行卡通化处理;以及将所述卡通化处理后的纹理仿射变换到所述预设卡通模型模板对应的纹理区域中,得到具有所述纹理特性的卡通模型。
可选地,在本申请上述任一装置实施例中,所述纹理调整模块,用于通过滤波或者深度学习对所述二维图像中目标对象的纹理区域中的纹理进行卡通化处理。
可选地,在本申请上述任一装置实施例中,还包括:
融合处理单元,用于对仿射变换后的纹理,与其周围的所述预设卡通模型模板的纹理区域中的纹理进行融合处理。
根据本申请实施例的又一个方面,提供的一种电子设备,包括上述任一实施例所述的装置。
根据本申请实施例的再一个方面,提供的一种电子设备,包括:
存储器,用于存储可执行指令;以及
处理器,用于执行所述可执行指令从而完成上述任一实施例所述的方法。
根据本申请实施例的再一个方面,提供的一种计算机程序,包括计算机可读代码,当所述计算机可读代码在设备上运行时,所述设备中的处理器执行用于实现上述任一实施例所述方法的指令。
根据本申请实施例的再一个方面,提供的一种计算机程序产品,用于存储计算机可读指令,所述指令被执行时使得计算机执行上述任一实施例所述的方法。
在一个可选实施方式中,所述计算机程序产品具体为计算机存储介质,在另一个可选实施方式中,所述计算机程序产品具体为软件产品,例如SDK等。
基于本申请上述实施例提供的卡通化方法和装置、电子设备和计算机存储介质,通过获取三维目标模型,其中三维目标模型基于二维图像重建获得,根据三维目标模型的脸型特性,对预设卡通模型模板的脸型进行调整,得到对应的卡通脸型,根据三维目标模型确定二维图像的纹理特性,并根据纹理特性,对预设卡通模型模板的纹理进行调整,得到卡通脸型对应的卡通纹理,生成目标卡通模型,利用预设卡通模型模板定义卡通模型的解空间,将根据三维目标模型确定的脸型特性和根据三维目标模型对应的二维图像确定的纹理特性作为卡通模型的解,可以自动生成具有三维目标模型的脸型特性和对应的二维图像的纹理特性的目标卡通模型,实现卡通形象的自动定制,为各种虚拟三维环境提供大量的三维素材。
下面通过附图和实施例,对本申请的技术方案做进一步的详细描述。
附图说明
构成说明书的一部分的附图描述了本申请的实施例,并且连同描述一起用于解释本申请的原理。
参照附图,根据下面的详细描述,可以更加清楚地理解本申请,其中:
图1为本申请一些实施例的卡通化方法的流程图;
图2和图3为本申请一些实施例根据三维目标模型的脸型特性对预设卡通模型模板的脸型进行调整的流程图;
图4和图5为本申请一些实施例根据二维图像中纹理区域中的纹理特性,对预设卡通模型模板中对应的纹理区域中的纹理进行调整的流程图;
图6为本申请一些实施例的卡通化装置的结构示意图;
图7为本申请一些实施例的纹理调整单元的结构示意图;
图8为本申请一些实施例的脸型调整单元的结构示意图;
图9是本申请一些实施例提供的电子设备的结构示意图。
具体实施方式
现在将参照附图来详细描述本申请的各种示例性实施例。应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本申请的范围。
同时,应当明白,为了便于描述,附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本申请及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
本申请实施例可以应用于计算机系统/服务器,其可与众多其它通用或专用计算系统环境或配置一起操作。适于与计算机系统/服务器一起使用的众所周知的计算系统、环境和/或配置的例子包括但不限于:个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统﹑大型计算机系统和包括上述任何系统的分布式云计算技术环境,等等。
计算机系统/服务器可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常,程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等,它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施,分布式云计算环境中,任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中,程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。
图1为本申请一些实施例的卡通化方法的流程图。该方法可以由服务器或终端设备执行,终端设备例如包括:手机、计算机、车载设备等。如图1所示,该方法包括:
102,获取三维目标模型。
在本实施例中,三维目标模型可以基于二维图像重建获得,其中,三维目标模型可以为人脸模型,也可以为动物头部模型,本实施例对此不作限定。在一个可选的例子中,可以预先存储基于二维图像重建获得的三维目标模型,获取预先存储的三维目标模型。在另一个可选的例子中,可以在获取三维目标模型之前,基于二维图像重建获得三维目标模型,获取重建获得的三维目标模型。本实施例对三维目标模型的获取方法不作限定。
可选地,可以预设二维图像中目标对象的关键点,根据二维图像中目标对象的关键点与先验的三维模型的关键点之间的对应关系,生成三维目标模型。在一个可选的例子中,目标对象为人脸,可以对二维图像中的人脸预设多个关键点,根据这些关键点与先验的三维模型的关键点之间的对应关系,生成三维目标模型。多个关键点可以包括脸部外轮廓关键点、眼部关键点、眉毛关键点、嘴唇关键点、鼻子关键点等,本申请实施例对关键点的类型和数量不作限定。
先验的三维模型可以为主成分分析(Principal Component Analysis,简称PCA)模型,也可以为除主成分分析外的其它三维模型,本实施例对先验的三维模型的类型不作限定。在一个可选的例子中,目标对象为人脸,可以根据二维图像中人脸的关键点与PCA模型的关键点之间的对应关系,生成人脸的三维模型。
104,根据三维目标模型的脸型特性,对预设卡通模型模板的脸型进行调整,得到对应的卡通脸型。
可选地,预设卡通模型模板可以为人物卡通模型模板,也可以为动物卡通模型模板,本实施例对此不作限定。预设卡通模型模板定义卡通模型的解空间,它可以包括脸型参数,例如,预设卡通模型模板为人物卡通模型模板,则预设卡通模型模板的脸型参数可以包括:眉头参数、颧骨参数、脸颊参数、下巴参数、眼睛参数、脸型参数等,本实施例对脸型参数的类型和数量不作限定。在一个可选的例子中,预设卡通模型模板的脸型参数可以为归一化参数,即参数大小在[-1,1]之间,以便于将不同三维目标模型的脸型特性适配到预设卡通模型模板上,例如,将不同大小的眼睛特性归一化到[-1,1]之间,适配到预设卡通模型模板上,本实施例对此不作限定。
可选地,可以获取三维目标模型的脸型特性,然后根据三维目标模型的脸型特性,对预设卡通模型模板的脸型进行调整,得到与三维目标模型的脸型特性一致的卡通脸型。例如,三维目标模型为三维人脸模型,预设卡通模型模板为人物卡通模型模板,通过获取三维人脸模型的脸型特性,根据三维人脸模型的脸型特性,对预设卡通模型模板的脸型进行调整,可以得到与三维人脸模型的脸型特性一致的卡通人脸。
在一个可选的例子中,预设卡通模型模板可以生成多种类型的卡通模型,不同类型的卡通模型关注的脸型特性的种类不同,可以通过选取预设卡通模型模板的类型,根据预设卡通模型模板的类型确定脸型特性的种类,然后根据脸型特性的种类获取三维目标模型的脸型特性。例如,预设卡通模型模板的类型为生成没有鼻子的卡通人脸,则根据预设卡通模型模板的类型确定的脸型特性的种类中不包含鼻子的特性,根据脸型特性的种类获取的三维目标模型的脸型特性中也不包含鼻子的特性。
106,根据三维目标模型确定二维图像的纹理特性,并根据纹理特性,对预设卡通模型模板的纹理进行调整,得到卡通脸型对应的卡通纹理,生成目标卡通模型。
可选地,预设卡通模型模板定义的卡通模型的解空间还可以包括纹理参数,纹理参数可以根据卡通模型中具有不同颜色纹理的区域来确定,例如,预设卡通模型模板为人物卡通模型模板,由于卡通人脸的纹理由肤色、眉色、虹膜、唇色等不同颜色的纹理组成,其中肤色、眉色、虹膜、唇色等不同颜色的纹理分别对应着卡通人脸中的皮肤区域、眉毛区域、眼睛区域、嘴唇区域等相互独立的区域,则根据卡通人脸中具有不同颜色纹理的区域,可以确定预设卡通模型模板的纹理参数包括肤色参数、眉色参数、虹膜参数、唇色参数等,本实施例对纹理参数的类型和数量不作限定。
可选地,可以根据三维目标模型确定二维图像中目标对象的纹理特性,根据二维图像中目标对象的纹理特性,对预设卡通模型模板的纹理进行调整,得到与二维图像中目标对象的纹理特性一致的卡通纹理。例如,二维图像中目标对象为人脸,三维目标模型为三维人脸模型,预设卡通模型模板为人物卡通模型模板,根据三维目标模型确定二维图像的纹理特性,并根据纹理特性,对预设卡通模型模板的纹理进行调整,可以得到与二维图像中的人脸的纹理特性一致的卡通纹理。
由于具有不同颜色纹理的区域在三维目标模型上的位置是已知且不变的,在一个可选的例子中,可以将三维目标模型对应的纹理区域投影到二维图像上,根据三维目标模型对二维图像中的目标对象进行纹理区域划分,从而可以根据二维图像中目标对象的每个纹理区域中的纹理特性,分别对预设卡通模型模板中对应的纹理区域中的纹理进行调整,得到具有该纹理特性的卡通模型。
在一个可选的例子中,预设卡通模型模板可以生成多种类型的卡通模型,不同类型的卡通模型具有不同的纹理特性,不同的纹理特性对应着不同的纹理区域划分,可以通过选取预设卡通模型模板的类型,根据预设卡通模型模板的类型确定三维目标模型的纹理区域,然后根据三维目标模型的纹理区域对二维图像进行纹理区域划分。
基于本申请上述实施例提供的卡通化方法,通过获取三维目标模型,其中三维目标模型基于二维图像重建获得,根据三维目标模型的脸型特性,对预设卡通模型模板的脸型进行调整,得到对应的卡通脸型,根据三维目标模型确定二维图像的纹理特性,并根据纹理特性,对预设卡通模型模板的纹理进行调整,得到卡通脸型对应的卡通纹理,生成目标卡通模型,利用预设卡通模型模板定义卡通模型的解空间,将根据三维目标模型确定的脸型特性和根据三维目标模型对应的二维图像确定的纹理特性作为卡通模型的解,可以自动生成具有三维目标模型的脸型特性和对应的二维图像的纹理特性的目标卡通模型,可以实现卡通形象的自动定制,为各种虚拟三维环境提供大量的三维素材。
在一些实施例中,根据三维目标模型的脸型特性对预设卡通模型模板的脸型进行调整,可以先确定三维目标模型的脸型特性中每个脸型特性的权重,然后根据三维目标模型的脸型特性中每个脸型特性的权重,将三维目标模型的脸型特性迁移到预设卡通模型模板上,得到具有该脸型特性的卡通脸型。
下面将结合图2和图3,详细描述根据三维目标模型的脸型特性对预设卡通模型模板的脸型进行调整的流程。
如图2所示,该方法包括:
202,确定多个预设三维目标模型的平均三维目标模型。
可选地,多个预设三维目标模型可以为脸型参数值不相同,表情参数为预定值的三维目标模型,例如,预定值为使三维目标模型无表情时的表情参数值,采用无表情的三维目标模型可以避免表情因素产生的影响,使卡通模型的脸型仅与三维目标模型的脸型相关。在一个可选的例子中,三维目标模型为三维人脸模型,多个预设三维目标模型为脸型参数值不相同,表情参数为预定值的预设三维人脸模型。
可选地,可以根据多个脸型参数值不相同,表情参数为预定值的预设三维目标模型,确定平均三维目标模型。例如,可以通过计算多个预设三维目标模型对应的脸型参数的算数平均值,获得平均三维目标模型对应的脸型参数值,从而确定平均三维目标模型的脸型。
可选地,在确定多个预设三维目标模型的平均三维目标模型之前,还可以获取多个预设三维目标模型。在一个可选的例子中,可以基于通用三维目标模型获取多个预设三维目标模型。例如,三维目标模型为三维人脸模型,可以建立通用三维人脸模型,其中通用三维人脸模型可以包括表情参数和脸型参数,通过设定表情参数为预定值,并改变脸型参数值,获得多个预设三维人脸模型。
204,根据三维目标模型的脸型特性中的每个脸型参数,分别对平均三维目标模型的脸型参数进行修改,得到脸型调整后的平均三维目标模型。
可选地,可以获取三维目标模型的脸型特性,其中,三维目标模型的脸型特性可以包括至少一个脸型特性,然后根据三维目标模型的脸型特性中的每个脸型特性,分别对平均三维目标模型的脸型参数进行修改,得到脸型调整后的平均三维目标模型。例如,三维目标模型为三维人脸模型,获取的三维人脸模型的脸型特性包括:眉头高、颧骨宽、脸颊凹陷、下巴尖、眼睛大、脸型长等,可以根据脸型特性中的每个脸形特性分别对平均三维人脸模型的脸型参数进行修改,得到脸型调整后的平均三维人脸模型,即眉头高的平均三维人脸模型、颧骨宽的平均三维人脸模型、脸颊凹陷的平均三维人脸模型、下巴尖的平均三维人脸模型、眼睛大的平均三维人脸模型、脸型长的平均三维人脸模型。
206,根据三维目标模型、平均三维目标模型和脸型调整后的平均三维目标模型,确定三维目标模型的脸型特性中每个脸型特性的权重。
在一个可选的例子中,三维目标模型为M,获取的三维目标模型M的脸型特性包括l个脸型特性,平均三维目标模型为则根据l个脸型特性分别对平均三维目标模型的脸型参数进行修改,得到脸型调整后的具有第j个脸型特性的平均三维目标模型其中j=1,…,l,根据三维目标模型为M,平均三维目标模型为和脸型调整后的平均三维目标模型确定三维目标模型M的第j个脸型特性的权重为由此得到三维目标模型M的l个脸型特性的权重为F=[f1,...,fl]T。
如图3所示,该方法包括:
302,根据预设卡通模型模板确定平均卡通模型。
可选地,可以根据预设卡通模型模板,改变预设卡通模型模板的脸型参数值,获得多个卡通模型,然后根据多个卡通模型确定平均卡通模型。例如,可以通过计算多个卡通模型的脸型参数的算数平均值,获得平均卡通模型对应的脸型参数值,从而确定平均卡通模型的脸型。
304,根据三维目标模型的脸型特性中的每个脸型特性,分别对平均卡通模型对应的脸型参数进行修改,得到脸型调整后的平均卡通模型。
可选地,可以获取三维目标模型的脸型特性,其中,三维目标模型的脸型特性可以包括至少一个脸型特性,然后根据三维目标模型的脸型特性中的每个脸型特性,分别对平均卡通模型的脸型参数进行修改,得到脸型调整后的平均卡通模型。例如,三维目标模型为三维人脸模型,获取的三维人脸模型的脸型特性包括:眉头高、颧骨宽、脸颊凹陷、下巴尖、眼睛大、脸型长等,可以根据脸型特性中的每个脸形特性分别对平均卡通模型的脸型参数进行修改,得到脸型调整后的平均卡通模型,即眉头高的平均卡通模型、颧骨宽的平均卡通模型、脸颊凹陷的平均卡通模型、下巴尖的平均卡通模型、眼睛大的平均卡通模型、脸型长的平均卡通模型。
306,根据三维目标模型的脸型特性中每个脸型特性的权重和脸型调整后的平均卡通模型,将三维目标模型的脸型特性迁移到预设卡通模型模板上。
在一个可选的例子中,三维目标模型为M,获取的三维目标模型M的脸型特性包括l个脸型特性,根据预设卡通模型模板确定的平均卡通模型为C0,则根据l个脸型特性分别对平均卡通模型C0的脸型参数进行修改,得到脸型调整后的具有第j个脸型特性的平均卡通模型Cj,其中j=1,…,l,由于脸型调整后的具有第j个脸型特性的平均三维目标模型相对于平均三维目标模型为具有与脸型调整后的具有第j个脸型特性的平均卡通模型Cj相对于平均卡通模型C0相同的脸型特性,因此在已知三维目标模型M的l个脸型特性的权重为F=[f1,...,fl]T和脸型调整后的平均卡通模型Cj的情况下,可以根据将三维目标模型M的脸型特性迁移到预设卡通模型模板上,得到具有l个脸型特性的卡通模型C。
上述实施例通过评估三维目标模型的每个脸型特性的权重,将其作为对应的脸型特性在卡通模型中的权重,将三维目标模型的脸型特性迁移到预设卡通模型模板上,可以得到具有三维目标模型的脸型特性的卡通人脸。
在一些实施例中,根据三维目标模型确定二维图像的纹理特性,并根据纹理特性,对预设卡通模型模板的纹理进行调整,可以根据三维目标模型对二维图像中的目标对象进行纹理区域划分,然后根据二维图像中目标对象的每个纹理区域中的纹理特性,分别对预设卡通模型模板中对应的纹理区域中的纹理进行调整,其中,对于不同的纹理区域,可以采用相同的方法对预设卡通模型模板中对应的纹理区域中的纹理进行调整,也可以采用不同的方法对预设卡通模型模板中对应的纹理区域中的纹理进行调整。
下面将结合图4和图5,详细描述根据二维图像中目标对象的纹理区域中的纹理特性,对预设卡通模型模板中对应的纹理区域中的纹理进行调整的流程。
如图4所示,该方法包括:
402,获取二维图像中目标对象的纹理区域中的纹理的颜色统计值。
可选地,对于预设卡通模型模板中不需要展示细节的纹理区域,例如,预设卡通模型模板为人物卡通模型模板,人物卡通模型模板中的皮肤区域和嘴唇区域只需要纹理非常平滑,可以丢掉很多细节,可以获取对应的二维图像中目标对象的纹理区域中的纹理的颜色统计值。在一个可选的例子中,可以通过统计二维图像中目标对象的纹理区域的直方图,获得纹理的颜色统计值。
404,根据纹理的颜色统计值,分别对预设卡通模型模板中对应的纹理区域中的纹理进行调整,得到具有该纹理特性的卡通模型。
在一个可选的例子中,二维图像中的目标对象为人脸,预设卡通模型模板为人物卡通模型模板,可以分别统计二维图像中人脸的皮肤区域和嘴唇区域的直方图,获得二维图像中人脸的皮肤区域和嘴唇区域中的纹理的颜色统计值,然后根据二维图像中人脸的皮肤区域和嘴唇区域中的纹理的颜色统计值,分别对人物卡通模型模板中对应的皮肤区域和嘴唇区域中的纹理进行调整,得到具有与二维图像中人脸的皮肤区域和嘴唇区域中的纹理特性一致的卡通模型。
如图5所示,该方法包括:
502,对二维图像中目标对象的纹理区域中的纹理进行卡通化处理。
可选地,对于预设卡通模型模板中具有特殊性纹理的纹理区域,希望卡通模型能够具有相应的特征,例如,预设卡通模型模板为人物卡通模型模板,人物卡通模型模板中的皮肤区域和眼睛区域,可以对对应的对二维图像中目标对象的纹理区域中的纹理进行卡通化处理。在一个可选的例子中,可以通过滤波或者深度学习对二维图像中目标对象的纹理区域中的纹理进行卡通化处理。
504,将卡通化处理后的纹理仿射变换到预设卡通模型模板对应的纹理区域中,得到具有该纹理特性的卡通模型。
在一个可选的例子中,二维图像中的目标对象为人脸,预设卡通模型模板为人物卡通模型模板,可以通过区域变换滤波(Domain Transform)或者L0滤波(L0 smooth)对二维图像中人脸的眼睛区域中的纹理进行卡通化处理,然后将卡通化处理后的纹理仿射变换到人物卡通模型模板对应的眼睛区域中,得到具有与二维图像中人脸的眼睛区域中的纹理特性一致的卡通模型。其中,为了保留纹理区域中的细节特征,此处的仿射变换通常只进行缩放变换,很少进行压扁拉伸等变换,以保证变换后具有较少的失真。
可选地,在将卡通化处理后的纹理仿射变换到预设卡通模型模板对应的纹理区域中之后,还可以对仿射变换后的纹理,与其周围的预设卡通模型模板的纹理区域中的纹理进行融合处理,以消除拼接处的明显痕迹,例如,融合处理可以采用拉普拉斯金字塔融合(Laplacian Pyramid Blending)算法,其中,如果希望卡通模型具有较高的对比度,可以调小融合算法对拼接处的模糊处理参数。
上述实施例提供了根据二维图像中目标对象的纹理区域中的纹理特性,对预设卡通模型模板中对应的纹理区域中的纹理进行调整的不同方法,采用不同的方法对预设卡通模型模板中对应的纹理区域中的纹理进行调整,可以获得多种风格的卡通模型。
图6为本申请一些实施例的卡通化装置的结构示意图。该装置可以设置于服务器或终端设备,终端设备例如包括:手机、计算机、车载设备等。如图6所示,该装置包括:模型获取单元610、脸型调整单元620和纹理调整单元630。其中,
模型获取单元610,用于获取三维目标模型。
在本实施例中,三维目标模型可以基于二维图像重建获得,其中,三维目标模型可以为人脸模型,也可以为动物头部模型,本实施例对此不作限定。在一个可选的例子中,可以预先存储基于二维图像重建获得的三维目标模型,模型获取单元610用于获取预先存储的三维目标模型。在另一个可选的例子中,该装置还可以包括重建单元,用于基于二维图像重建获得三维目标模型,模型获取单元610用于获取重建获得的三维目标模型。本实施例对模型获取单元610获取三维目标模型的方法不作限定。
可选地,重建单元可以预设二维图像中目标对象的关键点,根据二维图像中目标对象的关键点与先验的三维模型的关键点之间的对应关系,生成三维目标模型。在一个可选的例子中,目标对象为人脸,可以对二维图像中的人脸预设多个关键点,根据这些关键点与先验的三维模型的关键点之间的对应关系,生成三维目标模型。多个关键点可以包括脸部外轮廓关键点、眼部关键点、眉毛关键点、嘴唇关键点、鼻子关键点等,本实施例对关键点的类型和数量不作限定。
先验的三维模型可以为主成分分析(Principal Component Analysis,简称PCA)模型,也可以为除主成分分析外的其它三维模型,本实施例对先验的三维模型的类型不作限定。在一个可选的例子中,目标对象为人脸,重建单元可以根据二维图像中人脸的关键点与PCA模型的关键点之间的对应关系,生成人脸的三维模型。
脸型调整单元620,用于根据三维目标模型的脸型特性,对预设卡通模型模板的脸型进行调整,得到对应的卡通脸型。
可选地,预设卡通模型模板可以为人物卡通模型模板,也可以为动物卡通模型模板,本实施例对此不作限定。预设卡通模型模板定义卡通模型的解空间,它可以包括脸型参数,本实施例对脸型参数的类型和数量不作限定。在一个可选的例子中,预设卡通模型模板的脸型参数可以为归一化参数,即参数大小在[-1,1]之间,以便于将不同三维目标模型的脸型特性适配到预设卡通模型模板上,但本实施例对此不作限定。
可选地,脸型调整单元620可以获取三维目标模型的脸型特性,然后根据三维目标模型的脸型特性,对预设卡通模型模板的脸型进行调整,得到与三维目标模型的脸型特性一致的卡通脸型。例如,三维目标模型为三维人脸模型,预设卡通模型模板为人物卡通模型模板,脸型调整单元620通过获取三维人脸模型的脸型特性,根据三维人脸模型的脸型特性,对预设卡通模型模板的脸型进行调整,可以得到与三维人脸模型的脸型特性一致的卡通人脸。
在一个可选的例子中,预设卡通模型模板可以生成多种类型的卡通模型,不同类型的卡通模型关注的脸型特性的种类不同,脸型调整单元620还可以通过选取的预设卡通模型模板的类型,根据预设卡通模型模板的类型确定脸型特性的种类,然后根据脸型特性的种类获取三维目标模型的脸型特性。
纹理调整单元630,用于根据三维目标模型确定二维图像的纹理特性,并根据纹理特性,对预设卡通模型模板的纹理进行调整,得到卡通脸型对应的卡通纹理,生成目标卡通模型。
可选地,预设卡通模型模板定义的卡通模型的解空间还可以包括纹理参数,纹理参数可以根据卡通模型中具有不同颜色纹理的区域来确定,本实施例对纹理参数的类型和数量不作限定。
可选地,纹理调整单元630可以根据三维目标模型确定二维图像中目标对象的纹理特性,根据二维图像中目标对象的纹理特性,对预设卡通模型模板的纹理进行调整,得到与二维图像中目标对象的纹理特性一致的卡通纹理。
由于具有不同颜色纹理的区域在三维目标模型上的位置是已知且不变的,在一个可选的例子中,如图7所示,纹理调整单元630可以包括:区域划分模块710和纹理调整模块720,其中,区域划分模块710用于将三维目标模型对应的纹理区域投影到二维图像上,根据三维目标模型对二维图像中的目标对象进行纹理区域划分,纹理调整模块720用于根据二维图像中目标对象的每个纹理区域中的纹理特性,分别对预设卡通模型模板中对应的纹理区域中的纹理进行调整,得到具有该纹理特性的卡通模型。
在一个可选的例子中,预设卡通模型模板可以生成多种类型的卡通模型,不同类型的卡通模型具有不同的纹理特性,不同的纹理特性对应着不同的纹理区域划分,区域划分模块710还可以通过选取的预设卡通模型模板的类型,根据预设卡通模型模板的类型确定三维目标模型的纹理区域,然后根据三维目标模型的纹理区域对二维图像进行纹理区域划分。
基于本申请上述实施例提供的卡通化装置,通过获取三维目标模型,其中三维目标模型基于二维图像重建获得,根据三维目标模型的脸型特性,对预设卡通模型模板的脸型进行调整,得到对应的卡通脸型,根据三维目标模型确定二维图像的纹理特性,并根据纹理特性,对预设卡通模型模板的纹理进行调整,得到卡通脸型对应的卡通纹理,生成目标卡通模型,利用预设卡通模型模板定义卡通模型的解空间,将根据三维目标模型确定的脸型特性和根据三维目标模型对应的二维图像确定的纹理特性作为卡通模型的解,可以自动生成具有三维目标模型的脸型特性和对应的二维图像的纹理特性的目标卡通模型,可以实现卡通形象的自动定制,为各种虚拟三维环境提供大量的三维素材。
在一些实施例中,如图8所示,脸型调整单元620可以包括:权重确定模块810和特性迁移模块820。其中,权重确定模块810用于确定三维目标模型的脸型特性中每个脸型特性的权重,特性迁移模块820用于根据三维目标模型的脸型特性中每个脸型特性的权重,将三维目标模型的脸型特性迁移到预设卡通模型模板上,得到具有该脸型特性的卡通脸型。
可选地,权重确定模块810可以确定多个预设三维目标模型的平均三维目标模型;根据三维目标模型的脸型特性中的每个脸型参数,分别对平均三维目标模型的脸型参数进行修改,得到脸型调整后的平均三维目标模型;以及根据三维目标模型、平均三维目标模型和脸型调整后的平均三维目标模型,确定三维目标模型的脸型特性中每个脸型参数的权重。
可选地,多个预设三维目标模型可以为脸型参数值不相同,表情参数为预定值的三维目标模型,例如,预定值为使三维目标模型无表情时的表情参数值,采用无表情的三维目标模型可以避免表情因素产生的影响,使卡通模型的脸型仅与三维目标模型的脸型相关。
可选地,权重确定模块810可以根据多个脸型参数值不相同,表情参数为预定值的预设三维目标模型,确定平均三维目标模型。例如,可以通过计算多个预设三维目标模型对应的脸型参数的算数平均值,获得平均三维目标模型对应的脸型参数值,从而确定平均三维目标模型的脸型。
可选地,权重确定模块810在确定多个预设三维目标模型的平均三维目标模型之前,还可以获取多个预设三维目标模型。在一个可选的例子中,可以基于通用三维目标模型获取多个预设三维目标模型。
可选地,特性迁移模块820可以根据预设卡通模型模板确定平均卡通模型;根据三维目标模型的脸型特性中的每个脸型特性,分别对平均卡通模型对应的脸型参数进行修改,得到脸型调整后的平均卡通模型;以及根据三维目标模型的脸型特性中每个脸型特性的权重和脸型调整后的平均卡通模型,将三维目标模型的脸型特性迁移到预设卡通模型模板上。
可选地,特性迁移模块820可以根据预设卡通模型模板,改变预设卡通模型模板的脸型参数值,获得多个卡通模型,然后根据多个卡通模型确定平均卡通模型。例如,可以通过计算多个卡通模型的脸型参数的算数平均值,获得平均卡通模型对应的脸型参数值,从而确定平均卡通模型的脸型。
本实施例通过评估三维目标模型的每个脸型特性的权重,将其作为对应的脸型特性在卡通模型中的权重,将三维目标模型的脸型特性迁移到预设卡通模型模板上,可以得到具有三维目标模型的脸型特性的卡通人脸。
在一些实施例中,纹理调整模块720对于不同的纹理区域,可以采用相同的方法对预设卡通模型模板中对应的纹理区域中的纹理进行调整,也可以采用不同的方法对预设卡通模型模板中对应的纹理区域中的纹理进行调整。
可选地,纹理调整模块720可以获取二维图像中目标对象的纹理区域中的纹理的颜色统计值;根据纹理的颜色统计值,分别对预设卡通模型模板中对应的纹理区域中的纹理进行调整,得到具有该纹理特性的卡通模型。
可选地,对于预设卡通模型模板中不需要展示细节的纹理区域,纹理调整模块720可以获取对应的二维图像中目标对象的纹理区域中的纹理的颜色统计值。在一个可选的例子中,纹理调整模块720可以通过统计二维图像中目标对象的纹理区域的直方图,获得纹理的颜色统计值。
可选地,纹理调整模块720可以对二维图像中目标对象的纹理区域中的纹理进行卡通化处理;将卡通化处理后的纹理仿射变换到预设卡通模型模板对应的纹理区域中,得到具有该纹理特性的卡通模型。
可选地,对于预设卡通模型模板中具有特殊性纹理的纹理区域,希望卡通模型能够具有相应的特征,纹理调整模块720可以对对应的对二维图像中目标对象的纹理区域中的纹理进行卡通化处理。在一个可选的例子中,纹理调整模块720可以通过滤波或者深度学习对二维图像中目标对象的纹理区域中的纹理进行卡通化处理。
可选地,该装置还可以包括融合处理单元,在将卡通化处理后的纹理仿射变换到预设卡通模型模板对应的纹理区域中之后,融合处理单元用于对仿射变换后的纹理,与其周围的预设卡通模型模板的纹理区域中的纹理进行融合处理,以消除拼接处的明显痕迹,例如,融合处理可以采用拉普拉斯金字塔融合(Laplacian Pyramid Blending)算法,其中,如果希望卡通模型具有较高的对比度,可以调小融合算法对拼接处的模糊处理参数。
本实施例提供了根据二维图像中目标对象的纹理区域中的纹理特性,对预设卡通模型模板中对应的纹理区域中的纹理进行调整的不同方法,采用不同的方法对预设卡通模型模板中对应的纹理区域中的纹理进行调整,可以获得多种风格的卡通模型。
本申请实施例还提供了一种电子设备,例如可以是移动终端、个人计算机(PC)、平板电脑、服务器等。下面参考图9,其示出了适于用来实现本申请实施例的终端设备或服务器的电子设备900的结构示意图:如图9所示,电子设备900包括一个或多个处理器、通信部等,所述一个或多个处理器例如:一个或多个中央处理单元(CPU)901,和/或一个或多个加速单元913等,加速单元913可包括但不限于GPU、FPGA、其他类型的专用处理器等,处理器可以根据存储在只读存储器(ROM)902中的可执行指令或者从存储部分908加载到随机访问存储器(RAM)903中的可执行指令而执行各种适当的动作和处理。通信部912可包括但不限于网卡,所述网卡可包括但不限于IB(Infiniband)网卡,处理器可与只读存储器902和/或随机访问存储器903中通信以执行可执行指令,通过总线904与通信部912相连、并经通信部912与其他目标设备通信,从而完成本申请实施例提供的任一项方法对应的操作,例如,获取三维目标模型,其中,所述三维目标模型基于二维图像重建获得;根据所述三维目标模型的脸型特性,对预设卡通模型模板的脸型进行调整,得到对应的卡通脸型;根据所述三维目标模型确定所述二维图像的纹理特性,并根据所述纹理特性,对所述预设卡通模型模板的纹理进行调整,得到所述卡通脸型对应的卡通纹理,生成目标卡通模型。
此外,在RAM 903中,还可存储有装置操作所需的各种程序和数据。CPU901、ROM902以及RAM903通过总线904彼此相连。在有RAM903的情况下,ROM902为可选模块。RAM903存储可执行指令,或在运行时向ROM902中写入可执行指令,可执行指令使中央处理单元901执行上述通信方法对应的操作。输入/输出(I/O)接口905也连接至总线904。通信部912可以集成设置,也可以设置为具有多个子模块(例如多个IB网卡),并在总线链接上。
以下部件连接至I/O接口905:包括键盘、鼠标等的输入部分906;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分907;包括硬盘等的存储部分908;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至I/O接口905。可拆卸介质911,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器910上,以便于从其上读出的计算机程序根据需要被安装入存储部分908。
需要说明的,如图9所示的架构仅为一种可选实现方式,在具体实践过程中,可根据实际需要对上述图9的部件数量和类型进行选择、删减、增加或替换;在不同功能部件设置上,也可采用分离设置或集成设置等实现方式,例如加速单元913和CPU901可分离设置或者可将加速单元913集成在CPU901上,通信部912可分离设置,也可集成设置在CPU901或加速单元913上,等等。这些可替换的实施方式均落入本申请公开的保护范围。
特别地,根据本申请的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本申请的实施例包括一种计算机程序产品,其包括有形地包含在机器可读介质上的计算机程序,计算机程序包含用于执行流程图所示的方法的程序代码,程序代码可包括对应执行本申请实施例提供的方法步骤对应的指令,例如,获取三维目标模型,其中,所述三维目标模型基于二维图像重建获得;根据所述三维目标模型的脸型特性,对预设卡通模型模板的脸型进行调整,得到对应的卡通脸型;根据所述三维目标模型确定所述二维图像的纹理特性,并根据所述纹理特性,对所述预设卡通模型模板的纹理进行调整,得到所述卡通脸型对应的卡通纹理,生成目标卡通模型。在这样的实施例中,该计算机程序可以通过通信部分909从网络上被下载和安装,和/或从可拆卸介质911被安装。在该计算机程序被中央处理单元(CPU)901执行时,执行本申请的方法中限定的上述功能。
在一个或多个可选实施方式中,本申请实施例还提供了一种计算机程序程序产品,用于存储计算机可读指令,该指令被执行时使得计算机执行上述任一可能的实现方式中的卡通化方法。
该计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选例子中,该计算机程序产品具体体现为计算机存储介质,在另一个可选例子中,该计算机程序产品具体体现为软件产品,例如软件开发包(Software Development Kit,SDK)等等。
在一个或多个可选实施方式中,本申请实施例还提供了一种卡通化方法及其对应的装置、电子设备、计算机存储介质、计算机程序以及计算机程序产品,其中,该方法包括:第一装置向第二装置发送卡通化指示,该指示使得第二装置执行上述任一可能的实施例中的卡通化方法;第一装置接收第二装置发送的卡通化结果。
在一些实施例中,该卡通化指示可以具体为调用指令,第一装置可以通过调用的方式指示第二装置执行卡通化处理,相应地,响应于接收到调用指令,第二装置可以执行上述卡通化方法中的任意实施例中的步骤和/或流程。
应理解,本申请实施例中的“第一”、“第二”等术语仅仅是为了区分,而不应理解成对本申请实施例的限定。
还应理解,在本申请中,“多个”可以指两个或两个以上,“至少一个”可以指一个、两个或两个以上。
还应理解,对于本申请中提及的任一部件、数据或结构,在没有明确限定或者在前后文给出相反启示的情况下,一般可以理解为一个或多个。
还应理解,本申请对各个实施例的描述着重强调各个实施例之间的不同之处,其相同或相似之处可以相互参考,为了简洁,不再一一赘述。
可能以许多方式来实现本申请的方法和装置。例如,可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本申请的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明,本申请的方法的步骤不限于以上具体描述的顺序,除非以其它方式特别说明。此外,在一些实施例中,还可将本申请实施为记录在记录介质中的程序,这些程序包括用于实现根据本申请的方法的机器可读指令。因而,本申请还覆盖存储用于执行根据本申请的方法的程序的记录介质。
本申请的描述是为了示例和描述起见而给出的,而并不是无遗漏的或者将本申请限于所公开的形式。很多修改和变化对于本领域的普通技术人员而言是显然的。选择和描述实施例是为了更好说明本申请的原理和实际应用,并且使本领域的普通技术人员能够理解本申请从而设计适于特定用途的带有各种修改的各种实施例。
Claims (10)
1.一种卡通化方法,其特征在于,包括:
获取三维目标模型,其中,所述三维目标模型基于二维图像重建获得;
根据所述三维目标模型的脸型特性,对预设卡通模型模板的脸型进行调整,得到对应的卡通脸型;
根据所述三维目标模型确定所述二维图像的纹理特性,并根据所述纹理特性,对所述预设卡通模型模板的纹理进行调整,得到所述卡通脸型对应的卡通纹理,生成目标卡通模型。
2.根据权利要求1所述的方法,其特征在于,在所述根据所述三维目标模型的脸型特性,对预设卡通模型模板的脸型进行调整之前,还包括:
获取所述三维目标模型的脸型特性。
3.根据权利要求2所述的方法,其特征在于,所述根据所述三维目标模型的脸型特性,对所述预设卡通模型模板的脸型进行调整,包括:
确定所述三维目标模型的脸型特性中每个脸型特性的权重;
根据所述三维目标模型的脸型特性中每个脸型特性的权重,将所述三维目标模型的脸型特性迁移到所述预设卡通模型模板上,得到具有所述脸型特性的卡通脸型。
4.根据权利要求3所述的方法,其特征在于,所述确定所述三维目标模型的脸型特性中每个脸型特性的权重,包括:
确定多个预设三维目标模型的平均三维目标模型,其中,所述多个预设三维目标模型的脸型参数值不相同,表情参数为预定值;
根据所述三维目标模型的脸型特性中的每个脸型特性,分别对所述平均三维目标模型对应的脸型参数进行修改,得到脸型调整后的平均三维目标模型;
根据所述三维目标模型、所述平均三维目标模型和所述脸型调整后的平均三维目标模型,确定所述三维目标模型的脸型特性中每个脸型特性的权重。
5.根据权利要求3或4所述的方法,其特征在于,所述根据所述三维目标模型的脸型特性中每个脸型特性的权重,将所述三维目标模型的脸型特性迁移到所述预设卡通模型模板上,包括:
根据所述预设卡通模型模板确定平均卡通模型;
根据所述三维目标模型的脸型特性中的每个脸型特性,分别对所述平均卡通模型对应的脸型参数进行修改,得到脸型调整后的平均卡通模型;
根据所述三维目标模型的脸型特性中每个脸型特性的权重和所述脸型调整后的平均卡通模型,将所述三维目标模型的脸型特性迁移到所述预设卡通模型模板上。
6.根据权利要求1至5中任意一项所述的方法,其特征在于,所述根据所述三维目标模型确定所述二维图像的纹理特性,并根据所述纹理特性,对所述预设卡通模型模板的纹理进行调整,包括:
根据所述三维目标模型对所述二维图像中的目标对象进行纹理区域划分;
根据所述二维图像中目标对象的每个纹理区域中的纹理特性,分别对所述预设卡通模型模板中对应的纹理区域中的纹理进行调整,得到具有所述纹理特性的卡通模型。
7.一种卡通化装置,其特征在于,包括:
模型获取单元,用于获取三维目标模型,其中,所述三维目标模型基于二维图像重建获得;
脸型调整单元,用于根据所述三维目标模型的脸型特性,对预设卡通模型模板的脸型进行调整,得到对应的卡通脸型;
纹理调整单元,用于根据所述三维目标模型确定所述二维图像的纹理特性,并根据所述纹理特性,对所述预设卡通模型模板的纹理进行调整,得到所述卡通脸型对应的卡通纹理,生成目标卡通模型。
8.一种电子设备,其特征在于,包括权利要求7所述的装置。
9.一种电子设备,其特征在于,包括:
存储器,用于存储可执行指令;以及
处理器,用于执行所述可执行指令从而完成权利要求1至6中任意一项所述的方法。
10.一种计算机存储介质,用于存储计算机可读取的指令,其特征在于,所述指令被执行时实现权利要求1至6中任意一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811198152.1A CN109584145A (zh) | 2018-10-15 | 2018-10-15 | 卡通化方法和装置、电子设备和计算机存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811198152.1A CN109584145A (zh) | 2018-10-15 | 2018-10-15 | 卡通化方法和装置、电子设备和计算机存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109584145A true CN109584145A (zh) | 2019-04-05 |
Family
ID=65920020
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811198152.1A Pending CN109584145A (zh) | 2018-10-15 | 2018-10-15 | 卡通化方法和装置、电子设备和计算机存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109584145A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110992493A (zh) * | 2019-11-21 | 2020-04-10 | 北京达佳互联信息技术有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN112381927A (zh) * | 2020-11-19 | 2021-02-19 | 北京百度网讯科技有限公司 | 图像生成的方法、装置、设备以及存储介质 |
CN113592988A (zh) * | 2021-08-05 | 2021-11-02 | 北京奇艺世纪科技有限公司 | 三维虚拟角色图像生成方法及装置 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101493953A (zh) * | 2009-03-04 | 2009-07-29 | 中国科学院计算技术研究所 | 一种交互式三维卡通人脸生成方法及装置 |
CN103646416A (zh) * | 2013-12-18 | 2014-03-19 | 中国科学院计算技术研究所 | 一种三维卡通人脸纹理生成方法及设备 |
CN103971394A (zh) * | 2014-05-21 | 2014-08-06 | 中国科学院苏州纳米技术与纳米仿生研究所 | 人脸动画合成方法 |
CN104157010A (zh) * | 2014-08-29 | 2014-11-19 | 厦门幻世网络科技有限公司 | 一种3d人脸重建的方法及其装置 |
CN104966316A (zh) * | 2015-05-22 | 2015-10-07 | 腾讯科技(深圳)有限公司 | 一种3d人脸重建方法、装置及服务器 |
CN108305312A (zh) * | 2017-01-23 | 2018-07-20 | 腾讯科技(深圳)有限公司 | 3d虚拟形象的生成方法和装置 |
CN108596091A (zh) * | 2018-04-24 | 2018-09-28 | 杭州数为科技有限公司 | 人物形象卡通化还原方法、系统及介质 |
CN108629339A (zh) * | 2018-06-15 | 2018-10-09 | Oppo广东移动通信有限公司 | 图像处理方法及相关产品 |
-
2018
- 2018-10-15 CN CN201811198152.1A patent/CN109584145A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101493953A (zh) * | 2009-03-04 | 2009-07-29 | 中国科学院计算技术研究所 | 一种交互式三维卡通人脸生成方法及装置 |
CN103646416A (zh) * | 2013-12-18 | 2014-03-19 | 中国科学院计算技术研究所 | 一种三维卡通人脸纹理生成方法及设备 |
CN103971394A (zh) * | 2014-05-21 | 2014-08-06 | 中国科学院苏州纳米技术与纳米仿生研究所 | 人脸动画合成方法 |
CN104157010A (zh) * | 2014-08-29 | 2014-11-19 | 厦门幻世网络科技有限公司 | 一种3d人脸重建的方法及其装置 |
CN104966316A (zh) * | 2015-05-22 | 2015-10-07 | 腾讯科技(深圳)有限公司 | 一种3d人脸重建方法、装置及服务器 |
CN108305312A (zh) * | 2017-01-23 | 2018-07-20 | 腾讯科技(深圳)有限公司 | 3d虚拟形象的生成方法和装置 |
CN108596091A (zh) * | 2018-04-24 | 2018-09-28 | 杭州数为科技有限公司 | 人物形象卡通化还原方法、系统及介质 |
CN108629339A (zh) * | 2018-06-15 | 2018-10-09 | Oppo广东移动通信有限公司 | 图像处理方法及相关产品 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110992493A (zh) * | 2019-11-21 | 2020-04-10 | 北京达佳互联信息技术有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN110992493B (zh) * | 2019-11-21 | 2023-10-31 | 北京达佳互联信息技术有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN112381927A (zh) * | 2020-11-19 | 2021-02-19 | 北京百度网讯科技有限公司 | 图像生成的方法、装置、设备以及存储介质 |
CN113592988A (zh) * | 2021-08-05 | 2021-11-02 | 北京奇艺世纪科技有限公司 | 三维虚拟角色图像生成方法及装置 |
CN113592988B (zh) * | 2021-08-05 | 2023-06-30 | 北京奇艺世纪科技有限公司 | 三维虚拟角色图像生成方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11907839B2 (en) | Detail-preserving image editing techniques | |
CN110807836B (zh) | 三维人脸模型的生成方法、装置、设备及介质 | |
US10540749B2 (en) | System and method for learning-based image super-resolution | |
CN108305312B (zh) | 3d虚拟形象的生成方法和装置 | |
US9792725B2 (en) | Method for image and video virtual hairstyle modeling | |
CN103208133B (zh) | 一种图像中人脸胖瘦的调整方法 | |
CN109389069A (zh) | 注视点判断方法和装置、电子设备和计算机存储介质 | |
CN109952594A (zh) | 图像处理方法、装置、终端及存储介质 | |
CN108961369A (zh) | 生成3d动画的方法和装置 | |
CN105184249A (zh) | 用于人脸图像处理的方法和装置 | |
EP1748391A2 (en) | Three-dimensional animation of soft tissue of characters using controls associated with a surface mesh | |
CN109584145A (zh) | 卡通化方法和装置、电子设备和计算机存储介质 | |
CN109151540A (zh) | 视频图像的交互处理方法及装置 | |
US11403800B1 (en) | Image generation from 3D model using neural network | |
CN112862807B (zh) | 基于头发图像的数据处理方法及装置 | |
CN107705240A (zh) | 虚拟试妆方法、装置和电子设备 | |
CN109191508A (zh) | 一种模拟整容装置、模拟整容方法及设备 | |
CN108734078A (zh) | 图像处理方法、装置、电子设备、存储介质及程序 | |
CN109410309A (zh) | 重光照方法和装置、电子设备和计算机存储介质 | |
CN109584146A (zh) | 美颜处理方法和装置、电子设备和计算机存储介质 | |
CN113822981B (zh) | 一种图像渲染方法、装置、电子设备及存储介质 | |
DE112021000108T5 (de) | Entrauschungstechniken für rekurrente unschärfen bei raytracing-anwendungen | |
JP2024503794A (ja) | 2次元(2d)顔画像から色を抽出するための方法、システム及びコンピュータプログラム | |
US10803677B2 (en) | Method and system of automated facial morphing for eyebrow hair and face color detection | |
CN109242760A (zh) | 人脸图像的处理方法、装置和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190405 |