CN116030201A - 多颜色发型演示图像的生成方法、装置、终端及存储介质 - Google Patents
多颜色发型演示图像的生成方法、装置、终端及存储介质 Download PDFInfo
- Publication number
- CN116030201A CN116030201A CN202310310740.4A CN202310310740A CN116030201A CN 116030201 A CN116030201 A CN 116030201A CN 202310310740 A CN202310310740 A CN 202310310740A CN 116030201 A CN116030201 A CN 116030201A
- Authority
- CN
- China
- Prior art keywords
- image
- hairstyle
- demonstration
- face
- color
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本实施例公开了一种多颜色发型演示图像的生成方法、装置、终端及存储介质,其中,所述方法包括:获取设计发型的掩膜图像和待变换人脸重建模型图像;将所述掩膜图像转换到LAB空间,并将A通道和B通道数据置为0,得到参考图像;将所述参考图像输入至发型纹理特征提取神经网络,输出得到发型纹理特征;将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码‑解码模型,并将所述发型纹理特征加入的所述发型演示图像编码‑解码模型中下采样最后一层提取到的特征中;接收所述发型演示图像编码‑解码模型输出的图像作为多颜色发型演示图像。
Description
技术领域
本发明涉及图像处理技术领域,尤其涉及一种多颜色发型演示图像的生成方法、装置、终端及存储介质。
背景技术
发型设计是一门综合的艺术,利用头发的长度,分区,角度,色彩搭配,结合被设计人的喜好以及习惯,一款好的发型设计不仅可以很好修饰脸型,还能使人心情愉悦。随着时代的进步,人们对审美的要求越来越高,现在的发型设计已经包括了各种场合变换不同的发型,根据服装,职业,环境来变换不同的发型设计。
随着人工智能(artificial intelligence,AI)技术的发展,可以将AI应用于发型设计。具体的,可通过将大量包含目标人物的人脸的图像作为训练集对神经网络进行训练,通过向训练后的神经网络输入参考人脸姿态图像(即包含人脸姿态信息的图像)和包含目标人物的人脸的参考人脸图像可获得一张目标图像,该目标图像中的人脸姿态为参考人脸图像中的人脸姿态,该目标图像中的人脸纹理为目标人物的人脸纹理。利用该种方式,可为每个顾客生成相应的发型设计图像,供顾客参考选择。
在实现本发明的过程中,发明人发现如下技术问题:采用上述方式则需要较多的发型样本图像进行充分训练后,才能得到效果较好的发型融合图像。然而,发型样本图像往往只有一种颜色,而顾客往往则需要多种颜色的同发型图像进行比较。进而使得在生成发型设计图像时,头发颜色的准确度和头发清晰度都与实际发型图像存在一定差距,生成的发型设计图像无法达到实际模拟效果。
发明内容
本发明实施例提供了一种多颜色发型演示图像的生成方法、装置、终端备及存储介质,以解决现有技术中由于样本数量过少导致生成的发型设计图像颜色的准确度和头发清晰度质量较差的技术问题。
第一方面,本发明实施例提供了一种多颜色发型演示图像的生成方法,包括:
获取设计发型的掩膜图像和待变换人脸重建模型图像;
将所述掩膜图像转换到LAB空间,并将A通道和B通道数据置为0,得到参考图像;
将所述参考图像输入至发型纹理特征提取神经网络,输出得到发型纹理特征;
将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,并将所述发型纹理特征加入的所述发型演示图像编码-解码模型中下采样最后一层提取到的特征中,所述发型纹理特征的通道数配置为与所述发型演示图像编码-解码模型中下采样最后一层提取到的特征通道数一致;
接收所述发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像。
第二方面,本发明实施例还提供了一种多颜色发型演示图像的生成装置,包括:
获取模块,用于获取设计发型的掩膜图像和待变换人脸重建模型图像;
转换模块,用于将所述掩膜图像转换到LAB空间,并将A通道和B通道数据置为0,得到参考图像;
输出模块,用于将所述参考图像输入至发型纹理特征提取神经网络,输出得到发型纹理特征;
输入模块,用于将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,并将所述发型纹理特征加入的所述发型演示图像编码-解码模型中下采样最后一层提取到的特征中,所述发型纹理特征的通道数配置为与所述发型演示图像编码-解码模型中下采样最后一层提取到的特征通道数一致;
接收模块,用于接收所述发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像。
第三方面,本发明实施例还提供了一种终端,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如上述实施例提供的多颜色发型演示图像的生成方法。
第四方面,本发明实施例还提供了包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如上述实施例提供的多颜色发型演示图像的生成方法。
本发明实施例提供的多颜色发型演示图像的生成方法、装置、终端及存储介质,通过获取设计发型的掩膜图像和待变换人脸重建模型图像;将所述掩膜图像转换到LAB空间,并将A通道和B通道数据置为0,得到参考图像;将所述参考图像输入至发型纹理特征提取神经网络,输出得到发型纹理特征;将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,并将所述发型纹理特征加入的所述发型演示图像编码-解码模型中下采样最后一层提取到的特征中,所述发型纹理特征的通道数配置为与所述发型演示图像编码-解码模型中下采样最后一层提取到的特征通道数一致;接收所述发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像。可利用编码-解码模型,充分提取人脸和发型的图像特征,并在融合过程中,利用掩膜图像中L通道表征发型中颜色纹理的特点,将提取L通道的图像特征,输入到编码模块中,以使得生成的发型演示图像能够增加相应的颜色纹理特征,使得生成的发型图像更加生动,避免由于新发型样本图像过少导致的颜色的准确度和头发清晰度质量较差较差的情况,能够为客户提供接近于实际情况的各种不同颜色的发型演示图像供客户参考。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显:
图1是本发明实施例一提供的多颜色发型演示图像的生成方法的流程示意图;
图2是本发明实施例二提供的多颜色发型演示图像的生成方法的流程示意图;
图3是本发明实施例三提供的多颜色发型演示图像的生成方法的流程示意图;
图4是本发明实施例四提供的多颜色发型演示图像的生成装置的结构示意图;
图5是本发明实施例五提供的终端的结构图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1是本发明实施例一提供的多颜色发型演示图像的生成方法的流程图,本实施例可适用于利用发型图像和人脸图像生成符合要求的发型图像的情况,该方法可以由多颜色发型演示图像的生成装置来执行,由于运算具有轻量化的特定,可集成于终端或者服务器中,具体包括如下步骤:
步骤110, 获取设计发型的掩膜图像和待变换人脸重建模型图像。
在本实施例中,设计发型的掩膜图像可以由以下两种方式获得:第一种可以是由相应的程序设计得到的三维矢量模型,或者二维图像,如果是三维矢量模型,则可以将其转换为对应的二维图像。
示例性的,所述获取设计发型的掩膜图像,可以包括:基于头发识别神经网络模型计算头发的图像区域;将所述图像区域设定为设计发型的掩膜图像。
所述头发识别神经网络模型可以为语义分割模型也是建立是分类模型基础上的,即利用 CNN 网络来提取特征进行分类。并还可基于分割模型,给出图像不同位置的分类概率和相对的图像位置坐标。通过分类可从图像中得到头发,并基于分割模型得到头发的准确坐标。进而得到头发的图像区域,将发型图像从图像中取出。通过上述方式,可以实现绝大多数场景的发丝级分割效果。得到设计发型的掩膜图像。
相应的,所述获取待变换人脸重建模型图像,还可以包括:将所述掩膜图像中的像素灰度置为0,并与原图像相乘,得到人脸图像;对所述人脸图像的关键点进行识别,得到人脸图像关键点;根据所述人脸图像关键点构建脸部特征向量,并根据所述脸部特征向量构建变换人脸重建模型图像。由于拍摄得到的图像中,既包括人脸也包括头发,因此,可利用前述采用的方式,确定头发的图像区域,并将该区域的像素灰度值置为0,并与原图相乘,这样,可以使得头发区域为空白,实现对人脸图像的提取。可通过设定的的137点脸部特征点标准,通过人工标注2万+的人脸关键点数据,经过了的迭代优化,在输入一张对齐后的人脸图片后,模型会回归出137点的坐标。
步骤120,将所述掩膜图像转换到LAB空间,并将A通道和B通道数据置为0,得到参考图像。
LAB颜色模型是一种色彩模式。自然界中任何一点色都可以在LAB空间中表达出来,它的色彩空间比RGB空间还要大。另外,这种模式是以数字化方式来描述人的视觉感应。LAB颜色模型取坐标LAB,其中L亮度;a的正数代表红色,负端代表绿色;b的正数代表黄色,负端代表蓝色。其中发型颜色的纹理等特征依靠L体现。因此,在本实施例中,可将A通道和B通道数据置为0,屏蔽掉不同颜色的影响,只保留掩膜图像中的纹理特征。
步骤130,将所述参考图像输入至发型纹理特征提取神经网络,输出得到发型纹理特征。
将上述步骤得到的参考图像输入至发型纹理特征提取神经网络,所述发型纹理特征提取神经网络可采用现有的图像特征提取神经网络架构实现。并可针对参考图像的纹理特征设定卷积核的大小,以充分提取发型纹理特征。
步骤140,将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,并将所述发型纹理特征加入的所述发型演示图像编码-解码模型中下采样最后一层提取到的特征中,所述发型纹理特征的通道数配置为与所述发型演示图像编码-解码模型中下采样最后一层提取到的特征通道数一致。
将所述掩膜图像和待变换人脸重建模型图像进行融合,可以视作为将一部分内容添加到另一图像中。因此,可将所述掩膜图像和待变换人脸重建模型图像作为输入内容,进行编码,通过至少两次的下采样卷积,进行特征提取,将其转换为相应的特征集合作为编码。然后再对编码进行解码,通过至少两次的上采样卷积、空洞卷积和注意力机制等方法,将其还原为图像。示例性的,可采用常用的各种解码和编码模型结构实现。
发型演示图像编码-解码模型需要进行相应的训练,示例性的,可以将同一个用户除了发型不一样,其他都一样的配对数据,这样的配对数据要至少1万对以上输入发型演示图像编码-解码模型进行训练。
在本实施例中,由于纹理特征作为一部分特征,需要增加到生成图像中。且纹理特征也可视作生成图像的“噪声”。因此,可将发型纹理特征加入到所述发型演示图像编码-解码模型中下采样最后一层提取到的特征中,以避免在下采样过程中,将发型纹理特征视为真正的噪声,对其进行抑制。相应的,为方便加入,可将发型纹理特征的通道数配置为与所述发型演示图像编码-解码模型中下采样最后一层提取到的特征通道数一致。示例性的,可根据所述掩膜图像的尺寸,进行下采样或者上采样调整,以使得二者通道数一致。
步骤150,接收所述发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像。
通过训练的发型演示图像编码-解码模型在融合了发型颜色纹理特征后,可通过逐层上采样卷积还原生成多颜色发型演示图像。
本发明实施例通过获取设计发型的掩膜图像和待变换人脸重建模型图像;将所述掩膜图像转换到LAB空间,并将A通道和B通道数据置为0,得到参考图像;将所述参考图像输入至发型纹理特征提取神经网络,输出得到发型纹理特征;将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,并将所述发型纹理特征加入的所述发型演示图像编码-解码模型中下采样最后一层提取到的特征中,所述发型纹理特征的通道数配置为与所述发型演示图像编码-解码模型中下采样最后一层提取到的特征通道数一致;接收所述发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像。可利用编码-解码模型,充分提取人脸和发型的图像特征,并在融合过程中,利用掩膜图像中L通道表征发型中颜色纹理的特点,将提取L通道的图像特征,输入到编码模块中,以使得生成的发型演示图像能够增加相应的颜色纹理特征,使得生成的发型图像更加生动,避免由于新发型样本图像过少导致的颜色的准确度和头发清晰度质量较差较差的情况,能够为客户提供接近于实际情况的各种不同颜色的发型演示图像供客户参考。
在本实施例的另一优选实施方式中,还可以将所述根据所述脸部特征向量构建变换人脸重建模型图像,具体优化为:根据所述脸部特征向量中脸部外围轮廓构建基础脸型;根据所述脸部特征向量中器官特征点构建表情基础脸型;根据输入的表情权重和脸型权重生成人脸三维模型图像。基于前述提取到的匹配的面部特征点,可分为脸部轮廓点和器官特征点。利用分别利用脸部外围轮廓点绘制面部轮廓曲线,并利用器官特征点对应的向量,可构建相应的器官矢量。利用二者可建立变换人脸重建模型图像,为后续生成更多的参考发型图像提供基础。示例性的,可通过如下方式实现构建:任意人脸=公共人脸+表情基×表情权重+脸型基×脸型权重。
进一步的,所述根据所述脸部特征向量构建变换人脸重建模型图像,还可以包括如下步骤:接收输入的表情参数、脸型参数和对应的相机参数;根据所述表情参数、脸型参数和人脸重建模型图像线性表达式生成人脸图像;根据所述相机参数将所述人脸图像投射到二维人脸基础图像中,生成变换人脸重建模型图像。在获得变换人脸重建模型图像后,还可通过相应的参数,对人脸图像进行进一步的调整,例如:调整表情和微调脸型。以给顾客更多的观看选择,由于顾客的人脸也是出长期变化中,因此,利用上述方式,还可实现未来发型整体预测的实现。以更好的满足顾客的需求。并且还可根据用户输入的相机参数,提供不同角度的人脸图像,以便于提供多种角度的发型演示图像供顾客参考。示例性的,可以根据相机参数可以计算投影矩阵,将调整表情和脸型的图像模型投影到2D平面,上并计算可以得到其对应的投影图,并经过渲染得到变换人脸重建模型图像。
实施例二
图2为本发明实施例二提供的多颜色发型演示图像的生成方法的流程示意图。本实施例以上述实施例为基础进行优化,在本实施例中,所述方法还可增加如下步骤:将所述掩膜图像转换到HSV空间,将H通道和S通道置为0,得到辅助图像;将所述辅助图像输入至发型纹理特征提取神经网络,输出得到发型纹理辅助特征;将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,并将所述发型纹理辅助特征征加入的所述发型演示图像编码-解码模型中下采样最后一层提取到的特征中,所述发型纹理辅助特征的通道数配置为与所述发型演示图像编码-解码模型中下采样最后一层提取到的特征通道数一致,得到多颜色发型参考图像;并将所述接收所述发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像,具体优化为:计算所述多颜色发型参考图像和多颜色发型演示图像的差值,在差值小于预设的阈值时,将所述发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像;否则,调整所述发型演示图像编码-解码模型中训练采用的损失函数中Featureloss的权重值,直至所述多颜色发型参考图像和多颜色发型演示图像的差值小于所述预设的阈值。
相应的,本实施例所提供的多颜色发型演示图像的生成方法,具体包括:
步骤210, 获取设计发型的掩膜图像和待变换人脸重建模型图像。
步骤220,将所述掩膜图像转换到LAB空间,并将A通道和B通道数据置为0,得到参考图像
步骤230,将所述参考图像输入至发型纹理特征提取神经网络,输出得到发型纹理特征;
步骤240,将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,并将所述发型纹理特征加入的所述发型演示图像编码解码模型中下采样最后一层提取到的特征中。
步骤250,将所述掩膜图像转换到HSV空间,将H通道和S通道置为0,得到辅助图像。
HSV色系对用户来说是一种直观的颜色模型,模型中颜色的参数分别是:色调(H),饱和度(S),亮度(V)。色调H参数表示色彩信息,即所处的光谱颜色的位置。饱和度S;亮度V。因此,也可将亮度V作为纹理特征。予以保留。
步骤260, 将所述辅助图像输入至发型纹理特征提取神经网络,输出得到发型纹理辅助特征。
利用发型纹理特征提取神经网络可提取辅助图像中纹理特征。辅助图像
步骤270,将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,并将所述发型纹理辅助特征征加入的所述发型演示图像编码-解码模型中下采样最后一层提取到的特征中,所述发型纹理辅助特征的通道数配置为与所述发型演示图像编码-解码模型中下采样最后一层提取到的特征通道数一致,得到多颜色发型参考图像。
利用辅助图像的纹理特征可生成多颜色发型参考图像。
步骤280,计算所述多颜色发型参考图像和多颜色发型演示图像的差值,在差值小于预设的阈值时,将所述发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像。
由于参考图像和演示图像的图像来源相同,但提取的纹理特征和利用不同纹理特征生成的图像不同,因此,可将二者进行比较,以确定训练完成的发型演示图像编码-解码模型中的超参数是否能够满足要求,即生成的图像中不同颜色的发型纹理与实际趋近于一致。因此,可计算二者之间的差值,示例性的,可将二者图像中的法型部分的像素转换为多维空间,计算二者之间的空间距离,在空间距离小于预设的阈值时,可以认为二次输出的图像基本一致,发型演示图像编码-解码模型训练成功。可将发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像。
步骤290,否则,调整所述发型演示图像编码-解码模型中训练采用的损失函数中Featureloss的权重值,直至所述多颜色发型参考图像和多颜色发型演示图像的差值小于所述预设的阈值。
在利用发型演示图像编码-解码模型进行训练时,可通过自回归模型中损失函数对其中的参数进行迭代优化,其中包括Featureloss,由于该模型中包括多种损失参数,例如L1,L2等,且每个损失参数都设有对应的权重。由于需要体现不同颜色发型的纹理细节,因此,在本实施例中,可对Featureloss的权重值进行调整,示例性的,可下调对应的权重值,通过对损失函数参数的干预,使得训练模型能够扩大图像纹理特征,使得生成的发型图像能够体现不同颜色的纹理,进而使得发型图像更加生动,贴近于真实。
本实施例通过增加如下步骤:将所述掩膜图像转换到HSV空间,将H通道和S通道置为0,得到辅助图像;将所述辅助图像输入至发型纹理特征提取神经网络,输出得到发型纹理辅助特征;将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,并将所述发型纹理辅助特征征加入的所述发型演示图像编码-解码模型中下采样最后一层提取到的特征中,所述发型纹理辅助特征的通道数配置为与所述发型演示图像编码-解码模型中下采样最后一层提取到的特征通道数一致,得到多颜色发型参考图像;并将所述接收所述发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像,具体优化为:计算所述多颜色发型参考图像和多颜色发型演示图像的差值,在差值小于预设的阈值时,将所述发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像;否则,调整所述发型演示图像编码-解码模型中训练采用的损失函数中Featureloss的权重值,直至所述多颜色发型参考图像和多颜色发型演示图像的差值小于所述预设的阈值。可避免由于不同颜色发型样本图像过少导致的发型纹理与实际相差较多的情况,能够为客户提供接近于实际情况的不同颜色的发型演示图像供客户参考。
实施例三
图3为本发明实施例3提供的多颜色发型演示图像的生成方法的流程示意图。本实施例以上述实施例为基础进行优化,在本实施例中,将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,具体优化为:提取多个不同角度的变换人脸重建模型图像的图像特征;将所述图像特征作为参数输入至所述发型演示图像编码-解码模型中的编码模块中,以得到所述多个不同角度的发型人脸融合图像。
相应的,本实施例所提供的多颜色发型演示图像的生成方法,具体包括:
步骤310,获取设计发型的掩膜图像和待变换人脸重建模型图像。
步骤220,将所述掩膜图像转换到LAB空间,并将A通道和B通道数据置为0,得到参考图像。
步骤330,将所述参考图像输入至发型纹理特征提取神经网络,输出得到发型纹理特征。
步骤340,提取多个不同角度的变换人脸重建模型图像的图像特征。
在本实施例中,可以提供多个角度的发型演示图像供顾客参考。示例性的,可以按照前述提供的方法,利用设置的相机参数,生成多个角度的变换人脸重建模型图像,可将生成多个角度的变换人脸重建模型图像输入到训练完成的神经网络模型中,提取每个角度的图像特征。示例性的,可采用预先训练好的VGG19的网络得到对应的特征。
步骤350,将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,并将所述发型纹理特征加入的所述发型演示图像编码-解码模型中下采样最后一层提取到的特征中。
步骤360,将所述图像特征作为参数输入至发型演示图像编码-解码模型中的编码模块中。
在本实施例中,可以将上述提取到的图像特征作为参数直接输入到解码模块中,无需再次进行编码提取特征。利用该种方式,可快速生成多个角度的发型图像,无需将所有的运算工作全部堆积到的编码-解码模型中。示例性的,可将对应特征卷积得到gamma和beta,其中,Beta的卷积结构和gamma完全一样,均为多通道卷积特征,然后作用到解码的网络隐藏层的特征上。
即 out = out * (1 + gamma) + beta
步骤370,接收所述发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像。
本实施例通过将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,具体优化为:提取多个不同角度的变换人脸重建模型图像的图像特征;将所述图像特征作为参数输入至所述发型演示图像编码-解码模型中的编码模块中,以得到所述多个不同角度的发型人脸融合图像。可提供多种不同角度的不同颜色的发型演示图像,便于顾客从各个角度观看发型演示。
实施例四
图4是本发明实施例三提供的多颜色发型演示图像的生成装置的结构示意图,如图4所示,所述装置包括:
获取模块410,用于获取设计发型的掩膜图像和待变换人脸重建模型图像;
转换模块420,用于将所述掩膜图像转换到LAB空间,并将A通道和B通道数据置为0,得到参考图像;
输出模块430,用于将所述参考图像输入至发型纹理特征提取神经网络,输出得到发型纹理特征;
输入模块440,用于将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,并将所述发型纹理特征加入的所述发型演示图像编码-解码模型中下采样最后一层提取到的特征中,所述发型纹理特征的通道数配置为与所述发型演示图像编码-解码模型中下采样最后一层提取到的特征通道数一致;
接收模块450,用于接收所述发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像。
本实施例提供的多颜色发型演示图像的生成装置,通过获取设计发型的掩膜图像和待变换人脸重建模型图像;将所述掩膜图像转换到LAB空间,并将A通道和B通道数据置为0,得到参考图像;将所述参考图像输入至发型纹理特征提取神经网络,输出得到发型纹理特征;将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,并将所述发型纹理特征加入的所述发型演示图像编码-解码模型中下采样最后一层提取到的特征中,所述发型纹理特征的通道数配置为与所述发型演示图像编码-解码模型中下采样最后一层提取到的特征通道数一致;接收所述发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像。可利用编码-解码模型,充分提取人脸和发型的图像特征,并在融合过程中,利用掩膜图像中L通道表征发型中颜色纹理的特点,将提取L通道的图像特征,输入到编码模块中,以使得生成的发型演示图像能够增加相应的颜色纹理特征,使得生成的发型图像更加生动,避免由于新发型样本图像过少导致的颜色的准确度和头发清晰度质量较差较差的情况,能够为客户提供接近于实际情况的各种不同颜色的发型演示图像供客户参考。
在上述各实施例的基础上,所述装置还包括:
辅助图像转换模块,用于将所述掩膜图像转换到HSV空间,将H通道和S通道置为0,得到辅助图像;
辅助特征获取模块,用于将所述辅助图像输入至发型纹理特征提取神经网络,输出得到发型纹理辅助特征;
参考图像生成模块,用于将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,并将所述发型纹理辅助特征征加入的所述发型演示图像编码-解码模型中下采样最后一层提取到的特征中,所述发型纹理辅助特征的通道数配置为与所述发型演示图像编码-解码模型中下采样最后一层提取到的特征通道数一致,得到多颜色发型参考图像;
相应的,所述接收模块,用于:
计算所述多颜色发型参考图像和多颜色发型演示图像的差值,在差值小于预设的阈值时,将所述发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像;
否则,调整所述发型演示图像编码-解码模型中训练采用的损失函数中Featureloss的权重值,直至所述多颜色发型参考图像和多颜色发型演示图像的差值小于所述预设的阈值。
在上述各实施例的基础上,所述获取模块包括:
图像区域计算单元,用于基于头发识别神经网络模型计算头发的图像区域;
图像设定单元,用于将所述图像区域设定为设计发型的掩膜图像。
在上述各实施例的基础上,所述获取模块包括:
相乘单元,用于将所述掩膜图像中的像素灰度置为0,并与原图像相乘,得到人脸图像;
识别单元,用于对所述人脸图像的关键点进行识别,得到人脸图像关键点;
构建单元,用于根据所述人脸图像关键点构建脸部特征向量,并根据所述脸部特征向量构建变换人脸重建模型图像。
在上述各实施例的基础上,所述构建单元包括:
基础脸型构建子单元,用于根据所述脸部特征向量中脸部外围轮廓构建基础脸型;
表情基础脸型构建子单元,用于根据所述脸部特征向量中器官特征点构建表情基础脸型;
生成子单元,用于根据输入的表情权重和脸型权重生成人脸三维模型图像。
在上述各实施例的基础上,所述构建单元还包括:
接收子单元,用于接收输入的表情参数、脸型参数和对应的相机参数;
图像生成子单元,用于根据所述表情参数、脸型参数和人脸重建模型图像线性表达式生成人脸图像;
投射子单元,用于根据所述相机参数将所述人脸图像投射到二维人脸基础图像中,生成变换人脸重建模型图像。
在上述各实施例的基础上,所述输入模块包括:
提取单元,用于提取多个不同角度的变换人脸重建模型图像的图像特征;
输入单元,用于将所述图像特征作为参数输入至所述发型演示图像编码-解码模型中的编码模块中,以得到所述多个不同角度的发型人脸融合图像。
本发明实施例所提供的多颜色发型演示图像的生成装置可执行本发明任意实施例所提供的多颜色发型演示图像的生成方法,具备执行方法相应的功能模块和有益效果。
实施例五
图5为本发明实施例五提供的一种终端的结构示意图。图5示出了适于用来实现本发明实施方式的示例性终端12的框图。图5显示的终端12仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示,终端12以通用计算设备的形式表现。终端12的组件可以包括但不限于:一个或者多个处理器或者处理单元16,系统存储器28,连接不同系统组件(包括系统存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
终端12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被终端12访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
系统存储器28可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)30和/或高速缓存32。终端12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统34可以用于读写不可移动的、非易失性磁介质(图5未显示,通常称为“硬盘驱动器”)。尽管图5中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM, DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线18相连。系统存储器28可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40,可以存储在例如系统存储器28中,这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
终端12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信,还可与一个或者多个使得用户能与该终端12交互的设备通信,和/或与使得该终端12能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且,终端12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器20通过总线18与终端12的其它模块通信。应当明白,尽管图中未示出,可以结合终端12使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元16通过运行存储在系统存储器28中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例所提供的多颜色发型演示图像的生成方法。
实施例六
本发明实施例六还提供了一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如上述实施例提供的任一所述的多颜色发型演示图像的生成方法。
本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如”C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种多颜色发型演示图像的生成方法,其特征在于,包括:
获取设计发型的掩膜图像和待变换人脸重建模型图像;
将所述掩膜图像转换到LAB空间,并将A通道和B通道数据置为0,得到参考图像;
将所述参考图像输入至发型纹理特征提取神经网络,输出得到发型纹理特征;
将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,并将所述发型纹理特征加入的所述发型演示图像编码-解码模型中下采样最后一层提取到的特征中,所述发型纹理特征的通道数配置为与所述发型演示图像编码-解码模型中下采样最后一层提取到的特征通道数一致;
接收所述发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
将所述掩膜图像转换到HSV空间,将H通道和S通道置为0,得到辅助图像;
将所述辅助图像输入至发型纹理特征提取神经网络,输出得到发型纹理辅助特征;
将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,并将所述发型纹理辅助特征征加入的所述发型演示图像编码-解码模型中下采样最后一层提取到的特征中,所述发型纹理辅助特征的通道数配置为与所述发型演示图像编码-解码模型中下采样最后一层提取到的特征通道数一致,得到多颜色发型参考图像;
所述接收所述发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像,包括:
计算所述多颜色发型参考图像和多颜色发型演示图像的差值,在差值小于预设的阈值时,将所述发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像;
否则,调整所述发型演示图像编码-解码模型中训练采用的损失函数中Featureloss的权重值,直至所述多颜色发型参考图像和多颜色发型演示图像的差值小于所述预设的阈值。
3.根据权利要求1所述的方法,其特征在于,所述获取设计发型的掩膜图像,包括:
基于头发识别神经网络模型计算头发的图像区域;
将所述图像区域设定为设计发型的掩膜图像。
4.根据权利要求3所述的方法,其特征在于,获取待变换人脸重建模型图像,包括:
将所述掩膜图像中的像素灰度置为0,并与原图像相乘,得到人脸图像;
对所述人脸图像的关键点进行识别,得到人脸图像关键点;
根据所述人脸图像关键点构建脸部特征向量,并根据所述脸部特征向量构建变换人脸重建模型图像。
5.根据权利要求4所述的方法,其特征在于,所述根据所述脸部特征向量构建变换人脸重建模型图像,包括:
根据所述脸部特征向量中脸部外围轮廓构建基础脸型;
根据所述脸部特征向量中器官特征点构建表情基础脸型;
根据输入的表情权重和脸型权重生成人脸三维模型图像。
6.根据权利要求5所述的方法,其特征在于,所述根据所述脸部特征向量构建变换人脸重建模型图像,还包括:
接收输入的表情参数、脸型参数和对应的相机参数;
根据所述表情参数、脸型参数和人脸重建模型图像线性表达式生成人脸图像;
根据所述相机参数将所述人脸图像投射到二维人脸基础图像中,生成变换人脸重建模型图像。
7.根据权利要求6所述的方法,其特征在于,所述将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,包括:
提取多个不同角度的变换人脸重建模型图像的图像特征;
将所述图像特征作为参数输入至所述发型演示图像编码-解码模型中的编码模块中,以得到所述多个不同角度的发型人脸融合图像。
8.一种多颜色发型演示图像的生成装置,其特征在于,包括:
获取模块,用于获取设计发型的掩膜图像和待变换人脸重建模型图像;
转换模块,用于将所述掩膜图像转换到LAB空间,并将A通道和B通道数据置为0,得到参考图像;
输出模块,用于将所述参考图像输入至发型纹理特征提取神经网络,输出得到发型纹理特征;
输入模块,用于将所述掩膜图像和待变换人脸重建模型图像输入至发型演示图像编码-解码模型,并将所述发型纹理特征加入的所述发型演示图像编码-解码模型中下采样最后一层提取到的特征中,所述发型纹理特征的通道数配置为与所述发型演示图像编码-解码模型中下采样最后一层提取到的特征通道数一致;
接收模块,用于接收所述发型演示图像编码-解码模型输出的图像作为多颜色发型演示图像。
9.一种终端,其特征在于,所述终端包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的多颜色发型演示图像的生成方法。
10.一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-7任一所述的多颜色发型演示图像的生成方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310310740.4A CN116030201B (zh) | 2023-03-28 | 2023-03-28 | 多颜色发型演示图像的生成方法、装置、终端及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310310740.4A CN116030201B (zh) | 2023-03-28 | 2023-03-28 | 多颜色发型演示图像的生成方法、装置、终端及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116030201A true CN116030201A (zh) | 2023-04-28 |
CN116030201B CN116030201B (zh) | 2023-06-02 |
Family
ID=86072752
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310310740.4A Active CN116030201B (zh) | 2023-03-28 | 2023-03-28 | 多颜色发型演示图像的生成方法、装置、终端及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116030201B (zh) |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107808136A (zh) * | 2017-10-31 | 2018-03-16 | 广东欧珀移动通信有限公司 | 图像处理方法、装置、可读存储介质和计算机设备 |
CN110909756A (zh) * | 2018-09-18 | 2020-03-24 | 苏宁 | 用于医学图像识别的卷积神经网络模型训练方法和装置 |
CN111448581A (zh) * | 2017-10-24 | 2020-07-24 | 巴黎欧莱雅公司 | 使用深层神经网络进行图像处理的系统和方法 |
CN111507944A (zh) * | 2020-03-31 | 2020-08-07 | 北京百度网讯科技有限公司 | 皮肤光滑度的确定方法、装置和电子设备 |
CN112669447A (zh) * | 2020-12-30 | 2021-04-16 | 网易(杭州)网络有限公司 | 一种模型头像创建方法、装置、电子设备和存储介质 |
CN113129347A (zh) * | 2021-04-26 | 2021-07-16 | 南京大学 | 一种自监督单视图三维发丝模型重建方法及系统 |
WO2021189855A1 (zh) * | 2020-09-22 | 2021-09-30 | 平安科技(深圳)有限公司 | 基于ct序列的图像识别方法、装置、电子设备及介质 |
CN113570684A (zh) * | 2021-01-22 | 2021-10-29 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、计算机设备和存储介质 |
CN115049765A (zh) * | 2022-06-29 | 2022-09-13 | 北京奇艺世纪科技有限公司 | 模型生成、3d发型生成方法、装置、电子设备及存储介质 |
CN115100330A (zh) * | 2022-06-29 | 2022-09-23 | 北京奇艺世纪科技有限公司 | 模型生成、3d发型生成方法、装置、电子设备及存储介质 |
CN115115560A (zh) * | 2022-06-14 | 2022-09-27 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、设备和介质 |
-
2023
- 2023-03-28 CN CN202310310740.4A patent/CN116030201B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111448581A (zh) * | 2017-10-24 | 2020-07-24 | 巴黎欧莱雅公司 | 使用深层神经网络进行图像处理的系统和方法 |
CN107808136A (zh) * | 2017-10-31 | 2018-03-16 | 广东欧珀移动通信有限公司 | 图像处理方法、装置、可读存储介质和计算机设备 |
CN110909756A (zh) * | 2018-09-18 | 2020-03-24 | 苏宁 | 用于医学图像识别的卷积神经网络模型训练方法和装置 |
CN111507944A (zh) * | 2020-03-31 | 2020-08-07 | 北京百度网讯科技有限公司 | 皮肤光滑度的确定方法、装置和电子设备 |
WO2021189855A1 (zh) * | 2020-09-22 | 2021-09-30 | 平安科技(深圳)有限公司 | 基于ct序列的图像识别方法、装置、电子设备及介质 |
CN112669447A (zh) * | 2020-12-30 | 2021-04-16 | 网易(杭州)网络有限公司 | 一种模型头像创建方法、装置、电子设备和存储介质 |
CN113570684A (zh) * | 2021-01-22 | 2021-10-29 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、计算机设备和存储介质 |
CN113129347A (zh) * | 2021-04-26 | 2021-07-16 | 南京大学 | 一种自监督单视图三维发丝模型重建方法及系统 |
CN115115560A (zh) * | 2022-06-14 | 2022-09-27 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、设备和介质 |
CN115049765A (zh) * | 2022-06-29 | 2022-09-13 | 北京奇艺世纪科技有限公司 | 模型生成、3d发型生成方法、装置、电子设备及存储介质 |
CN115100330A (zh) * | 2022-06-29 | 2022-09-23 | 北京奇艺世纪科技有限公司 | 模型生成、3d发型生成方法、装置、电子设备及存储介质 |
Non-Patent Citations (1)
Title |
---|
黄宗福;孙刚;陈曾平;: "空间目标检测序列图像中恒星目标抑制", 中国图象图形学报, no. 07 * |
Also Published As
Publication number | Publication date |
---|---|
CN116030201B (zh) | 2023-06-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113569791B (zh) | 图像处理方法及装置、处理器、电子设备及存储介质 | |
CN109902767B (zh) | 模型训练方法、图像处理方法及装置、设备和介质 | |
CN111354079A (zh) | 三维人脸重建网络训练及虚拟人脸形象生成方法和装置 | |
WO2021052375A1 (zh) | 目标图像生成方法、装置、服务器及存储介质 | |
CN108734653B (zh) | 图像风格转换方法及装置 | |
CN111402143A (zh) | 图像处理方法、装置、设备及计算机可读存储介质 | |
WO2024051445A1 (zh) | 图像生成方法以及相关设备 | |
CN114187633B (zh) | 图像处理方法及装置、图像生成模型的训练方法及装置 | |
US20220301295A1 (en) | Recurrent multi-task convolutional neural network architecture | |
WO2024032464A1 (zh) | 三维人脸重建方法及其装置、设备、介质、产品 | |
CN113850168A (zh) | 人脸图片的融合方法、装置、设备及存储介质 | |
CN110619334B (zh) | 基于深度学习的人像分割方法、架构及相关装置 | |
CN115358917B (zh) | 一种手绘风格非对齐人脸迁移方法、设备、介质和系统 | |
CN113392791A (zh) | 一种皮肤预测处理方法、装置、设备及存储介质 | |
CN116634242A (zh) | 语音驱动的说话视频生成方法、系统、设备和存储介质 | |
CN114049290A (zh) | 图像处理方法、装置、设备及存储介质 | |
CN114120413A (zh) | 模型训练方法、图像合成方法、装置、设备及程序产品 | |
CN113850714A (zh) | 图像风格转换模型的训练、图像风格转换方法及相关装置 | |
CN111815748B (zh) | 一种动画处理方法、装置、存储介质及电子设备 | |
Xu et al. | RelightGAN: Instance-level generative adversarial network for face illumination transfer | |
CN116030201B (zh) | 多颜色发型演示图像的生成方法、装置、终端及存储介质 | |
CN115775300A (zh) | 人体模型的重建方法、人体重建模型的训练方法及装置 | |
CN115984426B (zh) | 发型演示图像的生成的方法、装置、终端及存储介质 | |
CN113971830A (zh) | 一种人脸识别方法、装置、存储介质及电子设备 | |
Li et al. | A review of image colourisation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |