CN111833240B - 人脸图像转换方法、装置、电子设备及存储介质 - Google Patents

人脸图像转换方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN111833240B
CN111833240B CN202010493200.0A CN202010493200A CN111833240B CN 111833240 B CN111833240 B CN 111833240B CN 202010493200 A CN202010493200 A CN 202010493200A CN 111833240 B CN111833240 B CN 111833240B
Authority
CN
China
Prior art keywords
face
image
hair
hair image
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010493200.0A
Other languages
English (en)
Other versions
CN111833240A (zh
Inventor
杨少雄
赵晨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202010493200.0A priority Critical patent/CN111833240B/zh
Publication of CN111833240A publication Critical patent/CN111833240A/zh
Application granted granted Critical
Publication of CN111833240B publication Critical patent/CN111833240B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/04Context-preserving transformations, e.g. by using an importance map
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/18Image warping, e.g. rearranging pixels individually

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)

Abstract

本申请公开了人脸图像转换方法、装置、电子设备及存储介质,涉及图像处理技术领域。具体实现方案为:获取待转换的人脸图像;根据人脸图像,确定转换后的人脸图像的标签信息;将标签信息输入头发图像生成模型,获取头发图像生成模型生成的带人脸的第一头发图像;根据带人脸的第一头发图像生成不带人脸的第二头发图像;结合第一头发图像和第二头发图像,对人脸图像进行转换,得到转换后的人脸图像。由此,根据带人脸的第一头发图像生成不带人脸的第二头发图像,避免了带人脸的第一头发图像和不带人脸的第二头发图像不匹配的问题,从而能够使得转换后的人脸图像中人脸与头发之间贴合,提高了贴合匹配度。

Description

人脸图像转换方法、装置、电子设备及存储介质
技术领域
本申请涉及计算机技术领域,具体涉及图像处理技术领域,尤其涉及人脸图像转换方法、装置、电子设备及存储介质。
背景技术
目前的男女性别转换技术,是为男性脸贴合女性头发,或者为女性脸贴合男性头发。以男性脸结合女性头发为例,相关技术中,通过两个模型分别生成带模特人脸的头发图像和不带模特人脸的头发图像,并根据用户人脸与带模特人脸头发图像之间的关系,将不带模特人脸的头发图像贴合在用户人脸上,得到性别转换后的用户人脸图像。
上述方法中,用于生成带模特人脸的头发图像和不带模特人脸的头发图像的模型之间是相互独立的,生成的带模特人脸的头发图像和不带模特人脸的头发图像可能不匹配,例如脸型不匹配、姿态不匹配等,在根据用户人脸与带模特人脸头发图像之间的关系,将不带模特人脸的头发图像贴合在用户人脸上时,存在贴合位置偏差等问题,导致贴合不匹配。
发明内容
提供了一种人脸图像转换方法、装置、电子设备及存储介质。
根据第一方面,提供了一种人脸图像转换方法,通过将转换后的人脸图像的标签信息输入至头发图像生成模型获取对应的带人脸的第一头发图像,根据该第一头发图像生成不带人脸的第二头发图像,并根据第一头发图像和第二头发图像,对人脸图像进行转换,得到转换后的人脸图像。由此,根据带人脸的第一头发图像生成不带人脸的第二头发图像,避免了带人脸的第一头发图像和不带人脸的第二头发图像不匹配的问题,从而能够使得转换后的人脸图像中人脸与头发之间贴合,提高了贴合匹配度。
本申请第二方面,提出一种人脸图像转换装置。
本申请第三方面,提出一种电子设备。
本申请第四方面,提出一种计算机可读存储介质。
本申请第五方面,提出一种计算机程序产品。
本申请第一方面实施例提出了一种人脸图像转换方法,包括:获取待转换的人脸图像;根据所述人脸图像,确定转换后的人脸图像的标签信息;将所述标签信息输入头发图像生成模型,获取所述头发图像生成模型生成的带人脸的第一头发图像;根据所述带人脸的第一头发图像生成不带人脸的第二头发图像;以及,结合所述第一头发图像和所述第二头发图像,对所述人脸图像进行转换,得到转换后的人脸图像。
本申请实施例的人脸图像转换方法,通过获取待转换的人脸图像;根据所述人脸图像,确定转换后的人脸图像的标签信息;将所述标签信息输入头发图像生成模型,获取所述头发图像生成模型生成的带人脸的第一头发图像;根据所述带人脸的第一头发图像生成不带人脸的第二头发图像;以及,结合所述第一头发图像和所述第二头发图像,对所述人脸图像进行转换,得到转换后的人脸图像。该方法通过将转换后的人脸图像的标签信息输入至头发图像生成模型获取对应的带人脸的第一头发图像,根据该第一头发图像生成不带人脸的第二头发图像,并根据第一头发图像和第二头发图像,对人脸图像进行转换,得到转换后的人脸图像。由此,根据带人脸的第一头发图像生成不带人脸的第二头发图像,避免了带人脸的第一头发图像和不带人脸的第二头发图像不匹配的问题,从而能够使得转换后的人脸图像中人脸与头发之间贴合,提高了贴合匹配度。
本申请第二方面实施例提出了一种人脸图像转换装置,包括:第一获取模块,用于获取待转换的人脸图像;确定模块,用于根据所述人脸图像,确定转换后的人脸图像的标签信息;第二获取模块,用于将所述标签信息输入头发图像生成模型,获取所述头发图像生成模型生成的带人脸的第一头发图像;生成模块,用于根据所述带人脸的第一头发图像生成不带人脸的第二头发图像;转换模块,用于结合所述第一头发图像和所述第二头发图像,对所述人脸图像进行转换,得到转换后的人脸图像。
本申请第三方面实施例提出了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上所述的人脸图像转换方法。
本申请第四方面实施例提出了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行如上所述的人脸图像转换方法。
本申请第五方面实施例提出了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现如上所述的人脸图像转换方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是根据本申请第一实施例的示意图;
图2是根据本申请第二实施例的示意图;
图3是根据本申请第三实施例的示意图;
图4是根据本申请实施例的条件对抗网络模型同时生成带人脸的第一头发图像和不带人脸的第二头发示意图;
图5是根据本申请的某角度下的真实图像和生成图像的示意图;
图6是根据本申请第四实施例的示意图;
图7是用来实现本申请实施例的人脸图像转换方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
下面参考附图描述本申请实施例的人脸图像转换方法、装置、电子设备及存储介质。
图1是根据本申请第一实施例的示意图。其中,需要说明的是,本实施例提供的人脸图像转换方法的执行主体为人脸图像转换装置,人脸图像转换装置具体可以为硬件设备,或者硬件设备中的软件等。其中,硬件设备例如终端设备、服务器等。
如图1所示,人脸图像转换方法具体实现过程如下:
步骤101,获取待转换的人脸图像。
在本申请实施例中,待转换的人脸图像可为需要进行人脸转换的图像。待转换的人脸图像可通过网络下载、对需要进行人脸转换的用户进行人脸图像拍摄等进行获取。
步骤102,根据人脸图像,确定转换后的人脸图像的标签信息。
可选地,根据待转换的人脸图像,结合转换需求,可确定转换后的人脸图像的标签信息。比如,待转换的人脸图像与转换后的人脸图像之间需要进行性别转换,如,男性转换为女性,可将待转换的人脸图像的标签信息中的男性替换为女性,并将标签信息中的男性头发长度替换为女性头发长度等。其中,需要说明的是,标签信息可包括但不限于性别、头发长度、颜色、姿态、脸型、人脸角度等。
步骤103,将标签信息输入头发图像生成模型,获取头发图像生成模型生成的带人脸的第一头发图像。
接着,将转换后的人脸图像的标签信息输入至头发图像生成模型中,该模型可输出带人脸的第一头发图像。
可以理解,在将标签信息输入头发图像生成模型之前,可先获取头发图像生成模型。作为一种示例,在将标签信息输入头发图像生成模型之前,可获取条件生成对抗网络模型,并根据训练数据对该条件生成对抗网络模型进行训练,其中,需要说明的是,条件对抗网络模型中可包括但不限于头发图像生成模型和人脸去除模型。具体详见后续实施例的描述。
步骤104,根据带人脸的第一头发图像生成不带人脸的第二头发图像。
为了避免了带人脸的第一头发图像和不带人脸的第二头发图像不匹配的问题,在本申请实施例中,可根据带人脸的第一头发图像生成不带人脸的第二头发图像。作为一种示例,将带人脸的第一头发图像输入至人脸去除模型中,人脸去除模型可对带人脸的第一头发图像进行人脸去除,并输出不带人脸的第二头发图像。
步骤105,结合第一头发图像和第二头发图像,对人脸图像进行转换,得到转换后的人脸图像。
可选地,确定第一头发图像和人脸图像之间的变形映射关系;根据变形映射关系,对第二头发图像进行变形处理,得到第三头发图像;根据第三头发图像和人脸图像,生成转换后的人脸图像。具体详见后续实施例的描述。
综上,通过将转换后的人脸图像的标签信息输入至头发图像生成模型获取对应的带人脸的第一头发图像,根据该第一头发图像生成不带人脸的第二头发图像,并根据第一头发图像和第二头发图像,对人脸图像进行转换,得到转换后的人脸图像。由此,根据带人脸的第一头发图像生成不带人脸的第二头发图像,避免了带人脸的第一头发图像和不带人脸的第二头发图像不匹配的问题,从而能够使得用户人脸与变形后的不带模特人脸的第二头发图像之间贴合,提高了贴合匹配度。
为了将人脸图像的标签信息输入头发生成模型中,获取带人脸的第一头发图像,在本申请实施例中,如图2所示,图2是根据本申请第二实施例的示意图,在将标签信息输入头发图像生成模型之前,可对条件生成对抗网络模型进行获取,并根据训练数据对该条件生成对抗网络模型进行训练,在图1所述实施例步骤103之前还可包括如下步骤:
步骤201,获取条件生成对抗网络模型,其中,条件生成对抗网络模型包括头发图像生成模型和人脸去除模型。
步骤202,获取训练数据。
在本申请实施例中,可预先设置条件生成对抗网络模型以及训练数据,其中,条件生成对抗网络模型可包括但不限于头发图像生成模型、人脸去除模型,训练数据可包括多个训练样本,其中每个训练样本可包括但不限于带人脸的样本头发图像、对应的不带人脸的样本头发图像、以及样本头发图像对应的标签信息等。其中,样本头发图像对应的标签信息可包括但不限于性别、头发长度、颜色、姿态、脸型、人脸角度等。
为了便于条件对抗网络模型的训练,进一步提高条件对抗网络模型的准确度,条件生成对抗网络模型还可包括第一判别模型和第二判别模型,其中,第一判别模型用于判别生成的带人脸的第一头发图像的真实度,第二判别模型用于判别生成的不带人脸的第二头发图像的真实度。
步骤203,采用训练数据对条件生成对抗网络模型进行训练。
可选地,针对训练数据中的每个样本,将样本中的标签信息输入头发图像生成模型和人脸去除模型,获取带人脸的生成头发图像和不带人脸的生成头发图像;将带人脸的生成头发图像和带人脸的样本头发图像输入第一判别模型,获取第一判别结果;将不带人脸的生成头发图像和不带人脸的样本头发图像输入第二判别模型,获取第二判别结果;根据第一判别结果和第二判别结果,对条件生成对抗网络模型的系数进行调整,以实现训练。
也就是说,将训练数据中每个训练样本中的标签信息输入至条件生成对抗网络中的头发图像生成模型中,头发图像生成模型可输出带人脸的生成头发图像,将带人脸的生成头发图像输入至对抗网络中的人脸去除模型中,人脸去除模型可输出不带人脸的生成头发图像;接着,将带人脸的生成头发图像和带人脸的样本头发图像输入第一判别模型,第一判别模型将带人脸的生成头发图像与带人脸的样本头发图像进行比对,获取带人脸的生成头发图像与带人脸的样本头发图像的差别,将该差别作为第一判别结果;同时,将将不带人脸的生成头发图像和不带人脸的样本头发图像输入第二判别模型,第二判别模型将不带人脸的生成头发图像和不带人脸的样本头发图像进行比对,获取不带人脸的生成头发图像和不带人脸的样本头发图像的差别,将该差别作为第二判别结果;之后,根据第一判别结果和第二判别结果,对条件生成对抗网络模型的系数进行调整,以实现训练。由此,可减小不带人脸的生成头发图像、不带人脸的生成头发图像与训练样本中的带人脸的样本头发图像、不带人脸的样本头发图像之间的差别,使不带人脸的生成头发图像、不带人脸的生成头发图像更加接近于训练样本中的带人脸的样本头发图像、不带人脸的样本头发图像。
综上,通过训练样本对条件对抗网络模型进行训练,经过训练的条件对抗网络模型根据带人脸的第一头发图像生成不带人脸的第二头发图像,避免了带人脸的第一头发图像和不带人脸的第二头发图像不匹配的问题,从而能够使得转换后的人脸图像中人脸与头发之间贴合,提高了贴合匹配度。
为了使用户人脸与变形后的不带人脸的第二头发图像之间更加贴合,提高贴合匹配度,在本申请实施例中,如图3所示,图3是根据本申请第三实施例的示意图,通过确定第一头发图像和人脸图像之间的变形映射关系;根据变形映射关系,对第二头发图像进行变形处理,得到第三头发图像;根据第三头发图像和人脸图像,生成转换后的人脸图像,在图1所述实施例的步骤105中还可包括如下步骤:
步骤301,确定第一头发图像和人脸图像之间的变形映射关系。
可选地,确定第一头发图像中各个人脸关键点的第一位置关系;确定人脸图像中各个人脸关键点的第二位置关系;根据第一位置关系和所述第二位置关系,确定第一头发图像和人脸图像之间的变形映射关系。
也就是说,可确定带人脸的第一头发图像中各个人脸关键点在该图像中的坐标位置,将该坐标位置作为第一位置关系,同时,确定人脸图像中各个人脸关键点在该图像中的坐标位置,将该坐标位置作为第二位置关系。由于图像生成模型根据人脸图像的标签生成带人脸的第一头发图像,带人脸的第一头发图像与人脸图像之间具有一定的差别,比如,脸型的胖瘦程度不同。因此,将第一位置关系与第二位置关系进行比对并映射,可确定第一头发图像和人脸图像之间的变形映射关系。
步骤302,根据变形映射关系,对第二头发图像进行变形处理,得到第三头发图像。
需要理解的是,将带人脸的第一头发图像输入人脸去除模型中可获取不带人脸的第二头发图像,由于带人脸的第一头发图像与人脸图像之间具有一定的差别,因此,为了使变形后的不带人脸的第二头发图像与人脸图像更加贴合,可根据第一头发图像和人脸图像之间的变形映射关系,对第二头发图像进行变形处理,将变形处理的不带人脸的第二头发图像作为第三头发图像。
步骤303,根据第三头发图像和人脸图像,生成转换后的人脸图像。
可选地,去除人脸图像中的头发部分,得到不带头发的人脸图像;确定第三头发图像和人脸图像之间的关键点映射关系;根据关键点映射关系,确定第三头发图像中各个关键点在不带头发的人脸图像中的位置信息;按照第三头发图像中各个关键点在不带头发的人脸图像中的位置信息,将第三头发图像和不带头发的人脸图像进行整合,得到转换后的人脸图像。
也就是说,可对人脸图像中的头发部分进行提取并去除,可得到不带头发的人脸图像;之后,可确定第三头发图像和人脸图像之间的关键点映射关系;比如,可将第三头发图像中的若干关键点与人脸图像的若干关键点进行贴合,从而可确定第三头发图像和人脸图像之间的关键点映射关系。之后,根据第三头发图像和人脸图像之间的关键点映射关系,可确定第三头发图像中各个关键点在不带头发的人脸图像中的位置信息,根据该位置信息,可将第三头发图像和不带头发的人脸图像进行整合,从而可得到转换后的人脸图像,由此,转换后的人脸图像中人脸与头发之间贴合,提高了贴合匹配度。
综上,通过确定第一头发图像和人脸图像之间的变形映射关系;根据变形映射关系,对第二头发图像进行变形处理,得到第三头发图像;根据第三头发图像和人脸图像,生成转换后的人脸图像,可使得转换后的人脸图像中人脸与头发之间贴合,提高了贴合匹配度。
为了方便本领域技术人员能够更加清楚地了解本申请,下面将举例进行说明。
举例而言,如图4所示,图4是根据本申请实施例的条件对抗网络模型同时生成带人脸的第一头发图像和不带人脸的第二头发示意图。将人脸图像的样本标签输入条件对抗网络模型中,条件对抗网络模型中的头发生成模型可生成带人脸的第一头发图像,将带人脸的第一头发图像输入条件对抗网络模型中的人脸去除模型中,将带人脸的第一头发图像中的人脸进行去除,可获取不带人脸的第二头发图像。
此外,如图5所示,图5中的图像分别为某角度下真实的人脸头发图像、真实的不带人脸的头发图像、生成的带人脸的头发图像和不带人脸的头发图像,可以看出,经过条件生成对抗网络模型生成的带人脸的头发图像和不带人脸的头发图像与真实的人脸头发图像、真实的不带人脸的头发图像基本一致。
由此,采用同一个条件对抗网络模型来生成带人脸的第一头发图像和不带人脸的第二头发图像,避免了带人脸的第一头发图像和不带人脸的第二头发图像不匹配的问题,从而能够使得转换后的人脸图像中人脸与头发之间贴合,提高了贴合匹配度。
本申请实施例的人脸图像转换方法,通过获取待转换的人脸图像;根据人脸图像,确定转换后的人脸图像的标签信息;将标签信息输入头发图像生成模型,获取头发图像生成模型生成的带人脸的第一头发图像;根据带人脸的第一头发图像生成不带人脸的第二头发图像;以及,结合第一头发图像和第二头发图像,对人脸图像进行转换,得到转换后的人脸图像。该方法通过将转换后的人脸图像的标签信息输入至头发图像生成模型获取对应的带人脸的第一头发图像,根据该第一头发图像生成不带人脸的第二头发图像,并根据第一头发图像和第二头发图像,对人脸图像进行转换,得到转换后的人脸图像。由此,根据带人脸的第一头发图像生成不带人脸的第二头发图像,避免了带人脸的第一头发图像和不带人脸的第二头发图像不匹配的问题,从而能够使得转换后的人脸图像中人脸与头发之间贴合,提高了贴合匹配度。
为了实现上述实施例,本申请实施例还提出一种人脸图像转换装置。
图6是根据本申请第四实施例的示意图。如图6所示,该人脸图像转换装置600包括:第一获取模块610、确定模块620、第二获取模块630、生成模块640、转换模块650。
其中,第一获取模块610,用于获取待转换的人脸图像;确定模块620,用于根据人脸图像,确定转换后的人脸图像的标签信息;第二获取模块630,用于将标签信息输入头发图像生成模型,获取头发图像生成模型生成的带人脸的第一头发图像;生成模块640用于根据带人脸的第一头发图像生成不带人脸的第二头发图像;转换模块650用于结合第一头发图像和第二头发图像,对人脸图像进行转换,得到转换后的人脸图像。
作为本申请实施例的一种可能实现方式,生成模块640具体用于将第一头发图像输入至人脸去除模型以对第一头发图像进行人脸去除,并生成不带人脸的第二头发图像。
作为本申请实施例的一种可能实现方式,人脸图像转换装置600还包括:第三获取模块、第四获取模块、训练模块。
其中,第三获取模块,用于获取条件生成对抗网络模型,其中,条件生成对抗网络模型包括头发图像生成模型和人脸去除模型;第四获取模块,用于获取训练数据;训练模块,用于采用训练数据对条件生成对抗网络模型进行训练。
作为本申请实施例的一种可能实现方式,条件生成对抗网络模型还包括:第一判别模型和第二判别模型,其中,第一判别模型用于判别生成的带人脸的第一头发图像的真实度,第二判别模型用于判别生成的不带人脸的第二头发图像的真实度。
作为本申请实施例的一种可能实现方式,训练数据中的每个训练样本包括:带人脸的样本头发图像、对应的不带人脸的样本头发图像、以及样本头发图像对应的标签信息,其中,训练模块具体用于针对所述训练数据中的每个样本,将所述样本中的标签信息输入所述头发图像生成模型和所述人脸去除模型,获取带人脸的生成头发图像和不带人脸的生成头发图像;将带人脸的生成头发图像和带人脸的样本头发图像输入第一判别模型,获取第一判别结果;将不带人脸的生成头发图像和不带人脸的样本头发图像输入第二判别模型,获取第二判别结果;根据第一判别结果和第二判别结果,对条件生成对抗网络模型的系数进行调整,以实现训练。
作为本申请实施例的一种可能实现方式,转换模块650包括:确定单元、处理单元、生成单元。
其中,确定单元,用于确定第一头发图像和人脸图像之间的变形映射关系;处理单元,用于根据变形映射关系,对第二头发图像进行变形处理,得到第三头发图像;生成单元,用于根据所述第三头发图像和所述人脸图像,生成转换后的人脸图像。
作为本申请实施例的一种可能实现方式,确定单元具体用于确定第一头发图像中各个人脸关键点的第一位置关系;确定人脸图像中各个人脸关键点的第二位置关系;根据第一位置关系和第二位置关系,确定第一头发图像和人脸图像之间的变形映射关系。
作为本申请实施例的一种可能实现方式,生成单元具体用于去除人脸图像中的头发部分,得到不带头发的人脸图像;确定第三头发图像和所述人脸图像之间的关键点映射关系;根据关键点映射关系,确定第三头发图像中各个关键点在不带头发的人脸图像中的位置信息;按照第三头发图像中各个关键点在不带头发的人脸图像中的位置信息,将第三头发图像和不带头发的人脸图像进行整合,得到转换后的人脸图像。
本申请实施例的人脸图像转换装置,通过获取待转换的人脸图像;根据人脸图像,确定转换后的人脸图像的标签信息;将标签信息输入头发图像生成模型,获取头发图像生成模型生成的带人脸的第一头发图像;根据带人脸的第一头发图像生成不带人脸的第二头发图像;以及,结合第一头发图像和第二头发图像,对人脸图像进行转换,得到转换后的人脸图像。该方法通过将转换后的人脸图像的标签信息输入至头发图像生成模型获取对应的带人脸的第一头发图像,根据该第一头发图像生成不带人脸的第二头发图像,并根据第一头发图像和第二头发图像,对人脸图像进行转换,得到转换后的人脸图像。由此,根据带人脸的第一头发图像生成不带人脸的第二头发图像,避免了带人脸的第一头发图像和不带人脸的第二头发图像不匹配的问题,从而能够使得转换后的人脸图像中人脸与头发之间贴合,提高了贴合匹配度。
根据本申请的实施例,本申请还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
如图7所示,是根据本申请实施例的人脸图像转换方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图7所示,该电子设备包括:一个或多个处理器701、存储器702,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图7中以一个处理器701为例。
存储器702即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的人脸图像转换方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的人脸图像转换方法。
存储器702作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的人脸图像转换的方法对应的程序指令/模块(例如,附图6所示的第一获取模块610、确定模块620、第二获取模块630、生成模块640、转换模块650)。处理器701通过运行存储在存储器702中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的人脸图像转换方法。
存储器702可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据人脸图像转换的电子设备的使用所创建的数据等。此外,存储器702可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器702可选包括相对于处理器701远程设置的存储器,这些远程存储器可以通过网络连接至人脸图像转换的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
人脸图像转换方法的电子设备还可以包括:输入装置703和输出装置704。处理器701、存储器702、输入装置703和输出装置704可以通过总线或者其他方式连接,图7中以通过总线连接为例。
输入装置703可接收输入的数字或字符信息,以及产生与人脸图像转换的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置704可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器、等离子体显示器和有机电激光显示(OLED,OrganicLight-Emitting Diode)。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。

Claims (16)

1.一种人脸图像转换方法,包括:
获取待转换的人脸图像;
根据所述人脸图像,确定转换后的人脸图像的标签信息,其中, 所述标签信息用于表示转换需求,包括但不限于性别、头发长度、颜色、姿态、脸型、人脸角度;
将所述标签信息输入头发图像生成模型,获取所述头发图像生成模型生成的带人脸的第一头发图像;
根据所述带人脸的第一头发图像生成不带人脸的第二头发图像;以及,
结合所述第一头发图像和所述第二头发图像,对所述人脸图像进行转换,得到转换后的人脸图像,其中,确定所述第一头发图像和所述人脸图像之间的变形映射关系,根据所述变形映射关系,对所述第二头发图像进行变形处理,得到第三头发图像,去除所述人脸图像中的头发部分,得到不带头发的人脸图像,将所述第三头发图像和所述不带头发的人脸图像进行整合,得到转换后的人脸图像。
2.根据权利要求1所述的方法,其中,所述根据所述带人脸的第一头发图像生成不带人脸的第二头发图像,包括:
将所述第一头发图像输入至人脸去除模型以对所述第一头发图像进行人脸去除,并生成不带人脸的第二头发图像。
3.根据权利要求2所述的方法,其中,在将所述标签信息输入头发图像生成模型之前,还包括:
获取条件生成对抗网络模型,其中,所述条件生成对抗网络模型包括所述头发图像生成模型和所述人脸去除模型;
获取训练数据;
采用所述训练数据对所述条件生成对抗网络模型进行训练。
4.根据权利要求3所述的方法,其中,所述条件生成对抗网络模型还包括:第一判别模型和第二判别模型,其中,所述第一判别模型用于判别生成的带人脸的第一头发图像的真实度,所述第二判别模型用于判别生成的不带人脸的第二头发图像的真实度。
5.根据权利要求4所述的方法,所述训练数据中的每个训练样本包括:带人脸的样本头发图像、对应的不带人脸的样本头发图像、以及所述样本头发图像对应的标签信息,其中,
所述采用所述训练数据对所述条件生成对抗网络模型进行训练,包括:
针对所述训练数据中的每个样本,将所述样本中的标签信息输入所述头发图像生成模型和所述人脸去除模型,获取带人脸的生成头发图像和不带人脸的生成头发图像;
将所述带人脸的生成头发图像和所述带人脸的样本头发图像输入第一判别模型,获取第一判别结果;
将所述不带人脸的生成头发图像和所述不带人脸的样本头发图像输入第二判别模型,获取第二判别结果;
根据所述第一判别结果和所述第二判别结果,对所述条件生成对抗网络模型的系数进行调整,以实现训练。
6.根据权利要求1所述的方法,其中,所述确定所述第一头发图像和所述人脸图像之间的变形映射关系,包括:
确定所述第一头发图像中各个人脸关键点的第一位置关系;
确定所述人脸图像中各个人脸关键点的第二位置关系;
根据所述第一位置关系和所述第二位置关系,确定所述第一头发图像和所述人脸图像之间的变形映射关系。
7.根据权利要求1所述的方法,其中,所述将所述第三头发图像和所述不带头发的人脸图像进行整合,得到转换后的人脸图像,包括:
确定所述第三头发图像和所述人脸图像之间的关键点映射关系;
根据所述关键点映射关系,确定所述第三头发图像中各个关键点在所述不带头发的人脸图像中的位置信息;
按照所述第三头发图像中各个关键点在所述不带头发的人脸图像中的位置信息,将所述第三头发图像和所述不带头发的人脸图像进行整合,得到转换后的人脸图像。
8.一种人脸图像转换装置,包括:
第一获取模块,用于获取待转换的人脸图像;
确定模块,用于根据所述人脸图像,确定转换后的人脸图像的标签信息,其中,所述标签信息用于表示转换需求,包括但不限于性别、头发长度、颜色、姿态、脸型、人脸角度;
第二获取模块,用于将所述标签信息输入头发图像生成模型,获取所述头发图像生成模型生成的带人脸的第一头发图像;
生成模块,用于根据所述带人脸的第一头发图像生成不带人脸的第二头发图像;
转换模块,用于结合所述第一头发图像和所述第二头发图像,对所述人脸图像进行转换,得到转换后的人脸图像;
其中,所述转换模块包括:
确定单元,用于确定所述第一头发图像和所述人脸图像之间的变形映射关系;
处理单元,用于根据所述变形映射关系,对所述第二头发图像进行变形处理,得到第三头发图像;
生成单元,用于去除所述人脸图像中的头发部分,得到不带头发的人脸图像,将所述第三头发图像和所述不带头发的人脸图像进行整合,得到转换后的人脸图像。
9.根据权利要求8所述的装置,其中,所述生成模块具体用于:
将所述第一头发图像输入至人脸去除模型以对所述第一头发图像进行人脸去除,并生成不带人脸的第二头发图像。
10.根据权利要求9所述的装置,其中,所述装置还包括:
第三获取模块,用于获取条件生成对抗网络模型,其中,所述条件生成对抗网络模型包括所述头发图像生成模型和所述人脸去除模型;
第四获取模块,用于获取训练数据;
训练模块,用于采用所述训练数据对所述条件生成对抗网络模型进行训练。
11.根据权利要求10所述的装置,其中,所述条件生成对抗网络模型还包括:第一判别模型和第二判别模型,其中,所述第一判别模型用于判别生成的带人脸的第一头发图像的真实度,所述第二判别模型用于判别生成的不带人脸的第二头发图像的真实度。
12.根据权利要求11所述的装置,所述训练数据中的每个训练样本包括:带人脸的样本头发图像、对应的不带人脸的样本头发图像、以及所述样本头发图像对应的标签信息,其中,所述训练模块具体用于:
针对所述训练数据中的每个样本,将所述样本中的标签信息输入所述头发图像生成模型和所述人脸去除模型,获取带人脸的生成头发图像和不带人脸的生成头发图像;
将所述带人脸的生成头发图像和所述带人脸的样本头发图像输入第一判别模型,获取第一判别结果;
将所述不带人脸的生成头发图像和所述不带人脸的样本头发图像输入第二判别模型,获取第二判别结果;
根据所述第一判别结果和所述第二判别结果,对所述条件生成对抗网络模型的系数进行调整,以实现训练。
13.根据权利要求8所述的装置,其中,所述确定单元具体用于:
确定所述第一头发图像中各个人脸关键点的第一位置关系;
确定所述人脸图像中各个人脸关键点的第二位置关系;
根据所述第一位置关系和所述第二位置关系,确定所述第一头发图像和所述人脸图像之间的变形映射关系。
14.根据权利要求8所述的装置,其中,所述生成单元具体用于:
确定所述第三头发图像和所述人脸图像之间的关键点映射关系;
根据所述关键点映射关系,确定所述第三头发图像中各个关键点在所述不带头发的人脸图像中的位置信息;
按照所述第三头发图像中各个关键点在所述不带头发的人脸图像中的位置信息,将所述第三头发图像和所述不带头发的人脸图像进行整合,得到转换后的人脸图像。
15.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的方法。
CN202010493200.0A 2020-06-03 2020-06-03 人脸图像转换方法、装置、电子设备及存储介质 Active CN111833240B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010493200.0A CN111833240B (zh) 2020-06-03 2020-06-03 人脸图像转换方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010493200.0A CN111833240B (zh) 2020-06-03 2020-06-03 人脸图像转换方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN111833240A CN111833240A (zh) 2020-10-27
CN111833240B true CN111833240B (zh) 2023-07-25

Family

ID=72897964

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010493200.0A Active CN111833240B (zh) 2020-06-03 2020-06-03 人脸图像转换方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN111833240B (zh)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107451950A (zh) * 2016-05-30 2017-12-08 北京旷视科技有限公司 人脸图像生成方法、人脸识别模型训练方法及相应装置
CN107808136A (zh) * 2017-10-31 2018-03-16 广东欧珀移动通信有限公司 图像处理方法、装置、可读存储介质和计算机设备
WO2018094653A1 (zh) * 2016-11-24 2018-05-31 华为技术有限公司 一种用户头发模型的重建方法、装置及终端
WO2019128508A1 (zh) * 2017-12-28 2019-07-04 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN110070483A (zh) * 2019-03-26 2019-07-30 中山大学 一种基于生成式对抗网络的人像卡通化方法
CN110288513A (zh) * 2019-05-24 2019-09-27 北京百度网讯科技有限公司 用于改变人脸属性的方法、装置、设备和存储介质
CN110659582A (zh) * 2019-08-29 2020-01-07 深圳云天励飞技术有限公司 图像转换模型训练方法、异质人脸识别方法、装置及设备
CN111062260A (zh) * 2019-11-25 2020-04-24 杭州绿度信息技术有限公司 一种面部整容推荐方案自动生成方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107451950A (zh) * 2016-05-30 2017-12-08 北京旷视科技有限公司 人脸图像生成方法、人脸识别模型训练方法及相应装置
WO2018094653A1 (zh) * 2016-11-24 2018-05-31 华为技术有限公司 一种用户头发模型的重建方法、装置及终端
CN107808136A (zh) * 2017-10-31 2018-03-16 广东欧珀移动通信有限公司 图像处理方法、装置、可读存储介质和计算机设备
WO2019128508A1 (zh) * 2017-12-28 2019-07-04 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN110070483A (zh) * 2019-03-26 2019-07-30 中山大学 一种基于生成式对抗网络的人像卡通化方法
CN110288513A (zh) * 2019-05-24 2019-09-27 北京百度网讯科技有限公司 用于改变人脸属性的方法、装置、设备和存储介质
CN110659582A (zh) * 2019-08-29 2020-01-07 深圳云天励飞技术有限公司 图像转换模型训练方法、异质人脸识别方法、装置及设备
CN111062260A (zh) * 2019-11-25 2020-04-24 杭州绿度信息技术有限公司 一种面部整容推荐方案自动生成方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CG-GAN: An Interactive Evolutionary GAN-Based Approach for Facial Composite Generation;Nicola Zaltron等;《AAAI Technical Track: Human-AI Collaboration》;2544-2551 *
基于生成对抗网络的异质人脸图像合成:进展与挑战;黄菲;高飞;朱静洁;戴玲娜;俞俊;;南京信息工程大学学报(自然科学版)(06);全文 *

Also Published As

Publication number Publication date
CN111833240A (zh) 2020-10-27

Similar Documents

Publication Publication Date Title
CN111783605B (zh) 一种人脸图像识别方法、装置、设备及存储介质
CN111968203B (zh) 动画驱动方法、装置、电子设备及存储介质
CN111259671B (zh) 文本实体的语义描述处理方法、装置及设备
CN111860167B (zh) 人脸融合模型获取及人脸融合方法、装置及存储介质
CN112270711B (zh) 模型训练以及姿态预测方法、装置、设备以及存储介质
EP3848897A2 (en) Image adjustment method and apparatus, electronic device and storage medium
EP3811337A1 (en) System for predicting articulated object feature location
CN111507355B (zh) 一种字符识别方法、装置、设备和存储介质
CN111709875B (zh) 图像处理方法、装置、电子设备及存储介质
CN111695519B (zh) 关键点定位方法、装置、设备以及存储介质
CN111967568A (zh) 深度学习模型的适配方法、装置及电子设备
CN112149741B (zh) 图像识别模型的训练方法、装置、电子设备及存储介质
CN111753761B (zh) 模型生成方法、装置、电子设备及存储介质
CN112241716B (zh) 训练样本的生成方法和装置
CN111666771B (zh) 文书的语义标签抽取、装置、电子设备及可读存储介质
CN111079449B (zh) 平行语料数据的获取方法、装置、电子设备和存储介质
CN111523467A (zh) 人脸跟踪方法和装置
CN111708477A (zh) 按键识别方法、装置、设备以及存储介质
CN112508964B (zh) 图像分割方法、装置、电子设备和存储介质
CN111832611B (zh) 动物识别模型的训练方法、装置、设备及存储介质
CN112116548A (zh) 人脸图像的合成方法、装置
CN111275110B (zh) 图像描述的方法、装置、电子设备及存储介质
CN111833240B (zh) 人脸图像转换方法、装置、电子设备及存储介质
CN112381927A (zh) 图像生成的方法、装置、设备以及存储介质
CN111309153A (zh) 人机交互的控制方法和装置、电子设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant