CN110321802B - 面部图像生成方法和装置、存储设备和电子设备 - Google Patents

面部图像生成方法和装置、存储设备和电子设备 Download PDF

Info

Publication number
CN110321802B
CN110321802B CN201910497775.7A CN201910497775A CN110321802B CN 110321802 B CN110321802 B CN 110321802B CN 201910497775 A CN201910497775 A CN 201910497775A CN 110321802 B CN110321802 B CN 110321802B
Authority
CN
China
Prior art keywords
contour
sample
face
contour map
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910497775.7A
Other languages
English (en)
Other versions
CN110321802A (zh
Inventor
王子朋
刘兆祥
廉士国
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Cloudminds Shanghai Robotics Co Ltd
Original Assignee
Cloudminds Robotics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Cloudminds Robotics Co Ltd filed Critical Cloudminds Robotics Co Ltd
Priority to CN201910497775.7A priority Critical patent/CN110321802B/zh
Publication of CN110321802A publication Critical patent/CN110321802A/zh
Application granted granted Critical
Publication of CN110321802B publication Critical patent/CN110321802B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/001Texturing; Colouring; Generation of texture or colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/752Contour matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本公开涉及面部图像生成方法和装置、存储介质和电子设备,所述方法包括:通过轮廓提取模型从待处理面部图像中获取第一面部轮廓图;基于预训练的轮廓改变模型调整所述第一面部轮廓图中轮廓线条,得到第二面部轮廓图;基于预训练的图像生成模型将第二面部轮廓图转换为目标面部图像;其中,所述轮廓改变模型通过第一样本轮廓图集和第二样本轮廓图集训练得到,所述第一样本轮廓图集对应的人物年龄段与所述第二样本轮廓图集对应的人物年龄段不同。

Description

面部图像生成方法和装置、存储设备和电子设备
技术领域
本公开涉及图像处理领域,具体地,涉及一种面部图像生成方法和装置、存储介质和电子设备。
背景技术
在图像处理技术越来越成熟的今天,用户对图像处理也有了新的要求。面容是人们在生活中识别身份的重要特征,且面容随着人的年龄增长会发生显著变化,因此,在一些需要进行面部识别或者需要进行照片比对应用场景下,由于存储的数据或已拍摄的照片都仅仅表现着用户在记录数据或拍摄照片当时的面容情况,然而随着时间的推移,用户的面容也会发生改变,从而对面部识别或照片比对造成困难。或者,有人想要了解用户不同年龄的面容情况,却只有用户某一年龄阶段时的照片时,很难获得用户其他年龄阶段时的面容图片。
目前的面部图像老化技术,可以通过将面部特征区域替换为数据库中相似的老化后面部特征区域,例如将眼睛替换成数据库中形状相似的老化后的眼睛,将嘴巴替换成数据库中形状相似的嘴巴等,从而实现直观上的面部图片老化。
但是,这样对图像进行部分替换的方法,虽然能达到图像的老化,且具有一定的相似性,但是由于每个人的面容细节都不相同,一些特征区域无法找到与其完全一致的老化图像,从而在多部位替换之后,很可能使图面中的面容失去原有的特征,仅仅能达到老化的目的,却失去了人物辨识度。
发明内容
本公开的目的是提供一种面部图像生成方法和装置、存储介质及电子设备,以解决上述技术问题。
本公开的第一方面,提供一种面部图像生成方法。该方法包括:基于轮廓提取模型从待处理面部图像中获取第一面部轮廓图;基于预训练的轮廓改变模型调整所述第一面部轮廓图中轮廓线条,得到第二面部轮廓图;基于预训练的图像生成模型将所述第二面部轮廓图转换为目标面部图像;其中,所述轮廓改变模型通过第一样本轮廓图集和第二样本轮廓图集训练得到,所述第一样本轮廓图集对应的人物年龄段与所述第二样本轮廓图集对应的人物年龄段不同;所述轮廓改变模型的训练过程包括:重复执行基于所述轮廓改变模型将所述第一样本轮廓图集中的第一样本轮廓图转换为预测轮廓图,并获取所述预测轮廓图的第一特征信息与所述第二样本轮廓图集的第二特征信息的第一匹配度,并根据所述第一匹配度调整所述轮廓改变模型中的参数的步骤,直至获取的所述第一匹配度符合第一匹配度条件。
可选地,所述图像生成模型,通过第三样本轮廓图集和原始面部图集训练得到;所述第三样本轮廓图集包括,基于所述轮廓提取模型从所述原始面部图集中的原始面部图像中提取的第三样本轮廓图;所述图像生成模型的训练过程包括:重复执行基于所述图像生成模型将所述第三样本轮廓图转换为样本生成图像,并获取所述样本生成图像和对应的原始面部图像的相似度,并根据所述相似度调整所述图像生成模型中的参数的步骤,直至获取的所述相似度符合预设相似度条件。
可选地,在所述基于预训练的图像生成模型,将所述第二面部轮廓图转换为目标面部图像之前,所述方法还包括:基于标签提取模型提取所述待处理面部图像的目标标签信息,其中,目标标签信息包括用于表征同一面部部位的不同属性的向量;所述基于预训练的图像生成模型将所述第二面部轮廓图转换为目标面部图像,包括:基于预训练的所述图像生成模型和所述目标标签信息将所述第二面部轮廓图转换为所述目标面部图像;其中,所述图像生成模型由所述第三样本轮廓图集、所述原始面部图集和样本标签信息训练得到;所述样本标签信息为基于所述标签提取模型从所述原始面部图集中提取的标签信息;所述图像生成模型的训练过程包括:重复执行基于所述样本标签信息,基于所述图像生成模型将第三样本轮廓图集中的第三样本轮廓图转换为样本生成图像,并获取所述样本生成图像和对应的原始面部图像的相似度,并根据所述相似度调整所述图像生成模型中的参数的步骤,直至获取的所述相似度符合预设相似度条件。
可选地,基于轮廓提取模型从待处理面部图像中获取第一面部轮廓图,包括:从所述待处理面部图像中获取canny轮廓图层;从所述待处理面部图像中获取由预设采样点就近连线得到的采样轮廓图层,其中,所述预设采样点拟合于面部边缘和五官边缘;将所述canny轮廓图层与所述采样轮廓图层结合,得到所述第一面部轮廓图。
可选地,所述基于预训练的轮廓改变模型调整所述第一面部轮廓图中轮廓线条,得到第二面部轮廓图,包括:基于所述轮廓改变模型调整所述第一面部轮廓图的所述canny轮廓图层中的轮廓线条;将调整后的所述第一面部轮廓图作为所述第二面部轮廓图。
可选地,所述轮廓改变模型通过所述第一样本轮廓图集、所述第二样本轮廓图集和逆改变模型训练得到;所述轮廓改变模型的训练过程包括:重复执行如下步骤:基于所述轮廓改变模型将所述第一样本轮廓图集中的第一样本轮廓图转换为预测轮廓图,并获取所述预测轮廓图的第一特征信息与所述第二样本轮廓图集的第二特征信息的第一匹配度;基于所述逆改变模型将所述预测轮廓图转换为逆变轮廓图,获取所述逆变轮廓图的第三特征信息与所述第一样本轮廓图集中的第四特征信息的第二匹配度;根据所述第一匹配度和所述第二匹配度调整所述轮廓改变模型的参数,并调整所述逆改变模型的参数;直至获取的所述第一匹配度符合第一匹配度条件,且获取的所述第二匹配度符合第二匹配度条件。
本公开的第二方面,提供一种面部图像生成装置,所述装置包括:轮廓提取模块,用于基于轮廓提取模型从待处理面部图像中获取第一面部轮廓图;轮廓调整模块,用于基于预训练的轮廓改变模型调整所述第一面部轮廓图中轮廓线条,得到第二面部轮廓图;图像生成模块,用于基于预训练的图像生成模型将所述第二面部轮廓图转换为目标面部图像;其中,所述轮廓改变模型通过第一样本轮廓图集和第二样本轮廓图集训练得到,所述第一样本轮廓图集对应的人物年龄段与所述第二样本轮廓图集对应的人物年龄段不同;所述轮廓改变模型的训练过程包括:重复执行基于所述轮廓改变模型将所述第一样本轮廓图集中的第一样本轮廓图转换为预测轮廓图,并获取所述预测轮廓图的第一特征信息与所述第二样本轮廓图集的第二特征信息的第一匹配度,并根据所述第一匹配度调整所述轮廓改变模型中的参数的步骤,直至获取的所述第一匹配度符合第一匹配度条件。
可选地,所述图像生成模型,通过第三样本轮廓图集和原始面部图集训练得到;所述第三样本轮廓图集包括,基于所述轮廓提取模型从所述原始面部图集中的原始面部图像中提取的第三样本轮廓图;所述图像生成模型的训练过程包括:重复执行基于所述图像生成模型将所述第三样本轮廓图转换为样本生成图像,并获取所述样本生成图像和对应的原始面部图像的相似度,并根据所述相似度调整所述图像生成模型中的参数的步骤,直至获取的所述相似度符合预设相似度条件。
可选地,所述装置还包括:标签提取模块,用于基于标签提取模型提取所述待处理面部图像的目标标签信息,其中,目标标签信息包括用于表征同一面部部位的不同属性的向量;所述图像生成模块,用于基于预训练的所述图像生成模型和所述目标标签信息将所述第二面部轮廓图转换为所述目标面部图像;其中,所述图像生成模型由所述第三样本轮廓图集、所述原始面部图集和样本标签信息训练得到;所述样本标签信息为基于所述标签提取模型从所述原始面部图集中提取的标签信息;所述图像生成模型的训练过程包括:重复执行基于所述样本标签信息,基于所述图像生成模型将第三样本轮廓图集中的第三样本轮廓图转换为样本生成图像,并获取所述样本生成图像和对应的原始面部图像的相似度,并根据所述相似度调整所述图像生成模型中的参数的步骤,直至获取的所述相似度符合预设相似度条件。
可选地,所述轮廓提取模块,用于从所述待处理面部图像中获取canny轮廓图层;从所述待处理面部图像中获取由预设采样点就近连线得到的采样轮廓图层,其中,所述预设采样点拟合于面部边缘和五官边缘;将所述canny轮廓图层与所述采样轮廓图层结合,得到所述第一面部轮廓图。
可选地,所述轮廓调整模块,用于基于所述轮廓改变模型调整所述第一面部轮廓图的所述canny轮廓图层中的轮廓线条;将调整后的所述第一面部轮廓图作为所述第二面部轮廓图。
可选地,所述轮廓改变模型通过所述第一样本轮廓图集、所述第二样本轮廓图集和逆改变模型训练得到;所述轮廓改变模型的训练过程包括:重复执行如下步骤:基于所述轮廓改变模型将所述第一样本轮廓图集中的第一样本轮廓图转换为预测轮廓图,并获取所述预测轮廓图的第一特征信息与所述第二样本轮廓图集的第二特征信息的第一匹配度;基于所述逆改变模型将所述预测轮廓图转换为逆变轮廓图,获取所述逆变轮廓图的第三特征信息与所述第一样本轮廓图集中的第四特征信息的第二匹配度;根据所述第一匹配度和所述第二匹配度调整所述轮廓改变模型的参数,并调整所述逆改变模型的参数;直至获取的所述第一匹配度符合第一匹配度条件,且获取的所述第二匹配度符合第二匹配度条件。
本公开的第三方面,提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现本公开第一方面中任一项所述方法的步骤。
本公开的第四方面,提供一种电子设备,包括存储器,其上存储有计算机程序;处理器,用于执行所述存储器中的所述计算机程序,以实现本公开第一方面中任一项所述方法的步骤。
上述技术方案,至少能够达到以下技术效果:通过提取待处理面部图像的面部轮廓图,并调整面部轮廓图中的轮廓线条,再根据改变后的面部轮廓图的轮廓线条生成目标面部图像的方法,通过轮廓图很大程度地保留了面部的可识别性特征,再通过调整轮廓线条改变面部图像所传达的年龄信息,这样,在改变人物的面部轮廓图时可以保留人物的五官特征、脸型特征及面部细节特征,使生成的面部轮廓图和后续生成的面部图像更具有人物特点,因此,可以生成具有人物辨识度的年龄迁移图像。
与现有技术中利用不同年龄段的局部图像进行替换的方式不同,本公开的技术方案可以很大程度保留人物的独有特点。例如,如果人物的眼周有一条疤痕,如果采用现有技术中的方法,在对眼周图像进行替换以后,这条疤痕可能被替换的图像所遮盖,使人物面部的辨识度下降。但是如果采用本公开的技术方案,不对图像进行替换,而是基于面部轮廓图重新生成面部图像,减少了面部细节特点的丢失。
本公开的其他特征和优点将在随后的具体实施方式部分予以详细说明。
附图说明
附图是用来提供对本公开的进一步理解,并且构成说明书的一部分,与下面的具体实施方式一起用于解释本公开,但并不构成对本公开的限制。在附图中:
图1是根据一示例性实施例示出的一种面部图像生成方法的流程图。
图2是根据一示例性实施例示出的轮廓提取模型对面部图像的处理内容的示意图。
图3是根据一示例性实施例示出的轮廓提取模型对面部图像的具体处理内容的示意图。
图4是根据一示例性实施例示出的轮廓改变模型对轮廓图的调整内容的示意图。
图5是根据一示例性实施例示出的图像生成模型生成面部图像的示意图。
图6是根据一示例性实施例示出的一种面部图像生成方法的流程图。
图7是根据一示例性实施例示出的一种面部图像生成装置的框图。
图8是根据一示例性实施例示出的一种电子设备的框图。
具体实施方式
以下结合附图对本公开的具体实施方式进行详细说明。应当理解的是,此处所描述的具体实施方式仅用于说明和解释本公开,并不用于限制本公开。
图1是根据一示例性公开实施例示出的一种面部图像生成方法的流程图。如图1所示,所述方法包括如下步骤:
S11、基于轮廓提取模型从待处理面部图像中获取第一面部轮廓图。
面部图像中包含多条具有人物特点的线条,如面部边缘线条、五官边缘线条、皱纹线条、肌肉走向线条、头发走向线条、疤痕胎记线条等,基于轮廓提取模型从面部图像中将此类线条提取并生成面部轮廓图。
如图2所示的是面部图像图2a和与面部图像图对应的面部轮廓图2b。通过面部轮廓图,可以获取人的人物特点,例如人物的五官形状、面部形状等,还可以通过皱纹线条等判断人物的年龄段。
在一种可能的实现方式中,可以通过如下方式获取所述第一面部轮廓图:
首先,从所述待处理面部图像中获取canny轮廓图层。
其中,canny轮廓图层可以通过对待处理面部图像进行canny边缘检测算法处理获得。
然后,从所述待处理面部图像中获取由预设采样点就近连线得到的采样轮廓图层,其中,所述预设采样点拟合于面部边缘和五官边缘。
其中,采样点的数目为可以实现连线结果且不会过拟合的任意值,在不出现过拟合的情况下,采样点的数目越多,采样轮廓图层的精度更高,与面部图像的重合率也越大。
最后,将所述canny轮廓图层与所述采样轮廓图层结合,得到所述第一面部轮廓图。
值得说明的是,canny轮廓图层与采样轮廓图层的结合,可以仅仅是两个图层合并为同一个面部轮廓图文件,从文件中可以查看并使用canny轮廓图和采样轮廓图重叠后的轮廓图,也可以分别查看并使用canny轮廓图和采样轮廓图。
如图3所示,3a表示面部图像,3b表示从该面部图像中提取的canny轮廓图层,3c表示该面部图像中的采样点排列示意,3d表示该采样点连线形成的采样轮廓图层,3e表示该canny轮廓图层与该采样轮廓图层结合得到的面部轮廓图。
S12、基于预训练的轮廓改变模型,调整所述第一面部轮廓图中轮廓线条,得到第二面部轮廓图。
如图4所示,4a表示第一面部轮廓图,4b表示基于轮廓改变模型得到的第二面部轮廓图。
其中,所述轮廓改变模型通过第一样本轮廓图集和第二样本轮廓图集训练得到,所述第一样本轮廓图集对应的人物年龄段与所述第二样本轮廓图集对应的人物年龄段不同。
所述轮廓改变模型的训练过程包括:重复执行基于所述轮廓改变模型将所述第一样本轮廓图集中的第一样本轮廓图转换为预测轮廓图,并获取所述预测轮廓图的第一特征信息与所述第二样本轮廓图集的第二特征信息的第一匹配度,并根据所述第一匹配度调整所述轮廓改变模型中的参数的步骤,直至获取的所述第一匹配度符合第一匹配度条件。
该第一样本轮廓图集与第二样本轮廓图集对应的年龄段不同,且可以根据应用需要对第一样本轮廓图集与第二样本轮廓图集的内容进行调整,例如,当需要从年轻面部图像中生成老年面部图像时,可以将第一样本轮廓图集设置为年轻的面部轮廓图的图集,将第二样本轮廓图集设置为老年的面部轮廓的图集,反之亦然;另外,该年龄段也可以被设置为某一特定的年龄段,例如,可以将第一样本轮廓图集设置为40至45岁的面部轮廓图的图集,将第二样本轮廓图集设置为10至15岁的面部轮廓图的图集。这样,通过这样的一选定的年龄段的面部轮廓图的图集和另一选定的年龄段的面部轮廓图的图集训练得到的轮廓改变模型,可以实现从一选定的年龄段的面部轮廓图到另一选定的年龄段的面部轮廓图的转换。
特征信息是某一年龄段的面部轮廓图所独有的可以提现年龄特征的信息,不同的年龄段的面部轮廓图中的线条走向和数量不同。
例如,年龄较大面部的面部轮廓图中的线条数量多于年龄较小面部的面部轮廓图,且不同年龄段的面部轮廓图中特定区域(如眼周、唇周等)内的线条的数量可以量化在不同的范围;再比如,年龄较大面部的面部轮廓图中的某些区域内的线条走向与年龄较小面部的面部轮廓图不同,多呈现向下弯曲的趋势,且不同年龄段的面部轮廓中的线条弯曲程度可以量化在不同的范围。
该特征信息可以是一个年龄段的面部轮廓图中的轮廓线条所具有的特点被量化后得到的结果。
轮廓改变模型通过学习第二样本轮廓图集的特征信息,并改变第一样本轮廓图中的轮廓线条,使生成的预测轮廓图具有第二样本轮廓图集的第二特征。
可选地,可以通过判别器判断预测轮廓图的特征信息是否与第二特征信息相同,或判断预测轮廓图的特征信息中的各量化值是否属于第二特征信息中的各量化范围内,从判断结果得到第一匹配度。当第一匹配度不符合第一匹配度条件时,继续改变轮廓改变模型中的参数,直到轮廓改变模型生成的预测轮廓图具有第二样本轮廓图集的第二特征,亦即所述第一特征信息与第二特征信息的第一匹配度符合第一匹配度条件。
值得说明的是,由于人的年龄发生变化时,面部边缘线条(亦即脸型)、五官边缘线条基本不会发生改变,而其他的线条例如肌肉走向线条、皱纹线条等通常会发生显著变化。而在S11的一种可能的实现方式中获得的canny轮廓图层通常记录会发生显著变化的线条,而采样轮廓图层通常记录的是不会发生改变的线条。
因此,在一种可能的实现方式中,在通过S11的一种可能的实现方式中获得了包含canny轮廓图层和采样轮廓图层的第一面部轮廓图后,在基于与训练的轮廓改变模型得到第二面部轮廓图时,可以基于所述轮廓改变模型,调整所述第一面部轮廓图的所述canny轮廓图层中的轮廓线条,并将调整后的所述第一面部轮廓图作为所述第二面部轮廓图。
这样,在改变人物的面部轮廓图时可以保留人物的五官特征及脸型特征,使生成的面部轮廓图和后续生成的面部图像更具有人物特点。
在一种可选的实施方式中,所述轮廓改变模型通过所述第一样本轮廓图集、所述第二样本轮廓图集和逆改变模型训练得到。所述轮廓改变模型的训练过程包括:
重复执行如下步骤:
首先,基于所述轮廓改变模型将所述第一样本轮廓图集中的第一样本轮廓图转换为预测轮廓图,并获取所述预测轮廓图的第一特征信息与所述第二样本轮廓图集的第二特征信息的第一匹配度。
然后,基于所述逆改变模型将所述预测轮廓图转换为逆变轮廓图,获取所述逆变轮廓图的第三特征信息与所述第一样本轮廓图集中的第四特征信息的第二匹配度。
然后,根据所述第一匹配度和所述第二匹配度调整所述轮廓改变模型的参数,并调整所述逆改变模型的参数。
直至获取的所述第一匹配度符合第一匹配度条件,且获取的所述第二匹配度符合第二匹配度条件。
在使轮廓改变模型学习如何将具有第一样本轮廓图集的第四特征信息的轮廓图改变为具有第二特征信息的轮廓图的同时,逆改变模型也在学习如何将具有第二特征信息的轮廓图改变为具有第四特征信息的轮廓图。这样,在轮廓改变模型将第一样本轮廓图转换为预测轮廓图后,逆改变模型再将预测轮廓图转换为逆变轮廓图,通过逆变轮廓图的特征信息与第四特征信息之间的第二匹配度,可以了解到轮廓改变模型和逆改变模型的转换效果,通过第一匹配度,也可以了解到轮廓改变模型的转换效果。在循环学习过程中,使第一匹配度满足第一匹配度条件,且第二匹配度满足第二匹配度条件,从而使轮廓改变模型的转换效果更佳。
并且,在实际运用中,例如,如果在训练了可以实现从年轻到年老的轮廓图的转换的轮廓改变模型后,又需要从年老的图像中生成年轻的图像,则不需要再次训练从年老到年轻的轮廓改变模型,而是用逆改变模型替换原本的轮廓改变模型,使原本的轮廓改变模型作为新的逆改变模型,就可以实现将轮廓图从年老到年轻的转化。
S13、基于预训练的图像生成模型将所述第二面部轮廓图转换为目标面部图像。
具体地,该图像生成模型基于学习结果,向第二面部轮廓图中填充符合轮廓线条走向的色块,以生成符合轮廓线条的与真实人物面部相似的面部图像。
如图5所示,5a表示第二面部轮廓图,5b表示基于图像生成模型得到的目标面部图像。
在一种可能的实现方式中,所述图像生成模型,通过第三样本轮廓图集和原始面部图集训练得到。所述第三样本轮廓图集包括,基于所述轮廓提取模型从所述原始面部图集中的原始面部图像中提取的第三样本轮廓图。
所述图像生成模型的训练过程包括:重复执行基于所述图像生成模型将所述第三样本轮廓图转换为样本生成图像,并获取所述样本生成图像和对应的原始面部图像的相似度,并根据所述相似度调整所述图像生成模型中的参数的步骤,直至获取的所述相似度符合预设相似度条件。
该第三样本轮廓图集的特征信息与第二样本轮廓图集的特征信息相同,也就是说,第三样本轮廓图集中收录的面部轮廓图,与第二样本轮廓图集中收录的面部轮廓图属于同一年龄段,特别地,该第三样本轮廓图集和第二样本轮廓图集可以是内容相同的图集。该第三样本轮廓图集是通过S11中相同的轮廓提取模型,从原始面部图集中提取得到。原始面部图集中收录的面部图像的年龄段,与第二样本轮廓图集、第三样本轮廓图集中的图像的年龄段相同,特别地,当第二样本轮廓图集与第三样本轮廓图集内容相同时,该第二样本轮廓图集也是从该原始面部图集中提取的。
为了使生成的图像更接近真实面部图像,基于所述图像生成模型将所述第三样本轮廓图转换得到的样本生成图像,与该样本轮廓图所对应的原始面部图像之间应当具有相似性。因此,在一种可选的实施方式中,可以用判别器对样本生成图像和与之对应的原始面部图进行对比判别,若两者的相似度符合不预设相似度条件,则对图像生成模型的函数进行修改,直至所述相似度符合所述相似度条件,亦即图像生成模型生成的图像与真实的面部图像接近。
值得说明的是,当需要生成的目标面部图像的年龄发生改变时,第二样本轮廓图集、第三样本轮廓图集和原始面部图集中收录的图像也会改变至与需要生成的图像的年龄一致,轮廓改变模型和图像生成模型也需要重新训练。
例如,当需要将40-50岁的面部图像转换为20-30岁的面部图像时,第一样本轮廓图集收录的是40-50岁的面部轮廓图,第二样本轮廓图集收录的是20-30岁的面部轮廓图,原始面部图集收录的是20-30岁的面部图像,第三样本轮廓图集收录的是与原始面部图集中的图像一一对应的面部轮廓图。
上述技术方案,至少能够达到以下技术效果:通过提取待处理面部图像的面部轮廓图,并调整面部轮廓图中的轮廓线条,再根据改变后的面部轮廓图的轮廓线条生成目标面部图像的方法,通过轮廓图很大程度地保留了面部的可识别性特征,再通过调整轮廓线条改变面部图像所传达的年龄信息,这样,在改变人物的面部轮廓图时可以保留人物的五官特征、脸型特征及面部细节特征,使生成的面部轮廓图和后续生成的面部图像更具有人物特点,因此,可以生成具有人物辨识度的年龄迁移图像。
与现有技术中利用不同年龄段的局部图像进行替换的方式不同,本公开的技术方案可以很大程度保留人物的独有特点。例如,如果人物的眼周有一条疤痕,如果采用现有技术中的方法,在对眼周图像进行替换以后,这条疤痕可能被替换的图像所遮盖,使人物面部的辨识度下降。但是如果采用本公开的技术方案,不对图像进行替换,而是基于面部轮廓图重新生成面部图像,减少了面部细节特点的丢失。
图6是根据一示例性公开实施例示出的另一面部图像生成方法的流程图。如图6所示,所述方法包括如下步骤:
S21、基于轮廓提取模型从待处理面部图像中获取第一面部轮廓图。
面部图像中包含多条具有人物特点的线条,如面部边缘线条、五官边缘线条、皱纹线条、肌肉走向线条、头发走向线条、疤痕胎记线条等,基于轮廓提取模型从面部图像中将此类线条提取并生成面部轮廓图。
如图2所示的是面部图像图2a和与面部图像图对应的面部轮廓图2b。通过面部轮廓图,可以获取人的人物特点,例如人物的五官形状、面部形状等,还可以通过皱纹线条等判断人物的年龄段。
在一种可能的实现方式中,可以通过如下方式获取所述第一面部轮廓图:
首先,从所述待处理面部图像中获取canny轮廓图层。
其中,canny轮廓图层可以通过对面部图像进行canny边缘检测算法处理获得。
然后,从所述待处理面部图像中获取由预设采样点就近连线得到的采样轮廓图层,其中,所述预设采样点拟合于面部边缘和五官边缘。
其中,采样点的数目为可以实现连线结果且不会过拟合的任意值,在不出现过拟合的情况下,采样点的数目越多,采样轮廓图层的精度更高,与面部图像的重合率也越大。
最后,将所述canny轮廓图层与所述采样轮廓图层结合,得到所述第一面部轮廓图。
值得说明的是,canny轮廓图层与采样轮廓图层的结合,可以仅仅是两个图层合并为同一个面部轮廓图文件,从文件中可以查看并使用canny轮廓图和采样轮廓图重叠后的轮廓图,也可以分别查看并使用canny轮廓图和采样轮廓图。
如图3所示,3a表示面部图像,3b表示从该面部图像中提取的canny轮廓图层,3c表示该面部图像中的采样点排列示意,3d表示该采样点连线形成的采样轮廓图层,3e表示该canny轮廓图层与该采样轮廓图层结合得到的面部轮廓图。
S22、基于预训练的轮廓改变模型调整所述第一面部轮廓图中轮廓线条,得到第二面部轮廓图。
如图4所示,4a表示第一面部轮廓图,4b表示基于轮廓改变模型得到的第二面部轮廓图。
其中,所述轮廓改变模型通过第一样本轮廓图集和第二样本轮廓图集训练得到,所述第一样本轮廓图集对应的人物年龄段与所述第二样本轮廓图集对应的人物年龄段不同。
所述轮廓改变模型的训练过程包括:重复执行基于所述轮廓改变模型将所述第一样本轮廓图集中的第一样本轮廓图转换为预测轮廓图,并获取所述预测轮廓图的第一特征信息与所述第二样本轮廓图集的第二特征信息的第一匹配度,并根据所述第一匹配度调整所述轮廓改变模型中的参数的步骤,直至获取的所述第一匹配度符合第一匹配度条件。
该第一样本轮廓图集与第二样本轮廓图集对应的年龄段不同,且可以根据应用需要对第一样本轮廓图集与第二样本轮廓图集的内容进行调整,例如,当需要从年轻面部图像中生成老年面部图像时,可以将第一样本轮廓图集设置为年轻的面部轮廓图的图集,将第二样本轮廓图集设置为老年的面部轮廓的图集,反之亦然;另外,该年龄段也可以被设置为某一特定的年龄段,例如,可以将第一样本轮廓图集设置为40至45岁的面部轮廓图的图集,将第二样本轮廓图集设置为10至15岁的面部轮廓图的图集。这样,通过这样的一选定的年龄段的面部轮廓图的图集和另一选定的年龄段的面部轮廓图的图集训练得到的轮廓改变模型,可以实现从一选定的年龄段的面部轮廓图到另一选定的年龄段的面部轮廓图的转换。
特征信息是某一年龄段的面部轮廓图所独有的可以提现年龄特征的信息,不同的年龄段的面部轮廓图中的线条走向和数量不同。
例如,年龄较大面部的面部轮廓图中的线条数量多于年龄较小面部的面部轮廓图,且不同年龄段的面部轮廓图中特定区域(如眼周、唇周等)内的线条的数量可以量化在不同的范围;再比如,年龄较大面部的面部轮廓图中的某些区域内的线条走向与年龄较小面部的面部轮廓图不同,多呈现向下弯曲的趋势,且不同年龄段的面部轮廓中的线条弯曲程度可以量化在不同的范围。
该特征信息可以是一个年龄段的面部轮廓图中的轮廓线条所具有的特点被量化后得到的结果。
轮廓改变模型通过学习第二样本轮廓图集的特征信息,并改变第一样本轮廓图中的轮廓线条,使生成的预测轮廓图具有第二样本轮廓图集的第二特征。
可选地,可以通过判别器判断预测轮廓图的特征信息是否与第二特征信息相同,或判断预测轮廓图的特征信息中的各量化值是否属于第二特征信息中的各量化范围内,从判断结果得到第一匹配度。当第一匹配度不符合第一匹配度条件时,继续改变轮廓改变模型中的参数,直到轮廓改变模型生成的预测轮廓图具有第二样本轮廓图集的第二特征,亦即所述第一特征信息与第二特征信息的第一匹配度符合第一匹配度条件。
值得说明的是,由于人的年龄发生变化时,面部边缘线条(亦即脸型)、五官边缘线条基本不会发生改变,而其他的线条例如肌肉走向线条、皱纹线条等通常会发生显著变化。而在S21的一种可能的实现方式中获得的canny轮廓图层通常记录会发生显著变化的线条,而采样轮廓图层通常记录的是不会发生改变的线条。
因此,在一种可能的实现方式中,在通过S21的一种可能的实现方式中获得了包含canny轮廓图层和采样轮廓图层的第一面部轮廓图后,在基于与训练的轮廓改变模型得到第二面部轮廓图时,可以基于所述轮廓改变模型调整所述第一面部轮廓图的所述canny轮廓图层中的轮廓线条,并将调整后的所述第一面部轮廓图作为所述第二面部轮廓图。
这样,在改变人物的面部轮廓图时可以保留人物的五官特征及脸型特征,使生成的面部轮廓图和后续生成的面部图像更具有人物特点。
在一种可选的实施方式中,所述轮廓改变模型通过所述第一样本轮廓图集、所述第二样本轮廓图集和逆改变模型训练得到。所述轮廓改变模型的训练过程包括:
重复执行如下步骤:
首先,基于所述轮廓改变模型将所述第一样本轮廓图集中的第一样本轮廓图转换为预测轮廓图,并获取所述预测轮廓图的第一特征信息与所述第二样本轮廓图集的第二特征信息的第一匹配度。
然后,基于所述逆改变模型将所述预测轮廓图转换为逆变轮廓图,获取所述逆变轮廓图的第三特征信息与所述第一样本轮廓图集中的第四特征信息的第二匹配度。
然后,根据所述第一匹配度和所述第二匹配度调整所述轮廓改变模型的参数,并调整所述逆改变模型的参数。
直至获取的所述第一匹配度符合第一匹配度条件,且获取的所述第二匹配度符合第二匹配度条件。
在使轮廓改变模型学习如何将具有第一样本轮廓图集的第四特征信息的轮廓图改变为具有第二特征信息的轮廓图的同时,逆改变模型也在学习如何将具有第二特征信息的轮廓图改变为具有第四特征信息的轮廓图。这样,在轮廓改变模型将第一样本轮廓图转换为预测轮廓图后,逆改变模型再将预测轮廓图转换为逆变轮廓图,通过逆变轮廓图的特征信息与第四特征信息之间的第二匹配度,可以了解到轮廓改变模型和逆改变模型的转换效果,通过第一匹配度,也可以了解到轮廓改变模型的转换效果。在循环学习过程中,使第一匹配度满足第一匹配度条件,且第二匹配度满足第二匹配度条件,从而使轮廓改变模型的转换效果更佳。
并且,在实际运用中,例如,如果在训练了可以实现从年轻到年老的轮廓图的转换的轮廓改变模型后,又需要从年老的图像中生成年轻的图像,则不需要再次训练从年老到年轻的轮廓改变模型,而是用逆改变模型替换原本的轮廓改变模型,使原本的轮廓改变模型作为新的逆改变模型,就可以实现将轮廓图从年老到年轻的转化。
S23、基于标签提取模型提取所述待处理面部图像的目标标签信息。
值得说明的是,本步骤可以发生在S24之前的任一步骤之前或之后,或与S24之前的任一步骤同时发生。本实施例中将其设定于步骤S22之后、步骤S24之前仅是一种示例性的说明,在其他的实施方式中,本步骤也可以发生在S21之前、S21之后或与S21同时发生,或者发生在S22之前、S22之后或与S22同时发生。
其中,目标标签信息包括用于表征同一面部部位的不同属性的向量。可选地,标签信息可以是一种多维的语义向量,每一维度表征着面部部位的不同属性。在使用时,可以将向量进行复制,生成多维的矩阵,以使矩阵维度与输入的轮廓图的分辨率相适应。例如,在实际运用中,该标签信息可以是512维的向量,输入的轮廓图的分辨率可以是256×256,因此,可以将该向量复制128次,生成256×256维的矩阵,与轮廓图的分辨率相适应。
该标签信息可以包含面部部位的不同属性值,可以体现面部的细节。例如,该标签信息中可以包括眼睛的颜色、头发的颜色、皮肤的颜色、皮肤质量等信息,基于这些信息,图像生成模型可以生成更具人物原本的特点的面部图像。
S24、基于预训练的所述图像生成模型和所述目标标签信息将所述第二面部轮廓图转换为所述目标面部图像。
具体地,该图像生成模型基于学习结果,向第二面部轮廓图中填充符合轮廓线条走向的色块,以生成符合轮廓线条的与真实人物面部相似的面部图像。
如图5所示,5a表示第二面部轮廓图,5b表示基于图像生成模型得到的目标面部图像。
在一种可能的实现方式中,所述图像生成模型由所述第三样本轮廓图集、所述原始面部图集和样本标签信息训练得到。所述样本标签信息为基于所述标签提取模型从所述原始面部图集中提取的标签信息。
所述图像生成模型的训练过程包括:重复执行基于所述样本标签信息,基于所述图像生成模型将第三样本轮廓图集中的第三样本轮廓图转换为样本生成图像,并获取所述样本生成图像和对应的原始面部图像的相似度,并根据所述相似度调整所述图像生成模型中的参数的步骤,直至获取的所述相似度符合预设相似度条件。
也就是说,在图像生成模型的训练过程中,也许要对训练样本(即第三样本轮廓图)提取样本标签信息,并基于样本标签信息生成样本生成图像。重复这样的训练过程,可以使图像生成模型掌握如何应用标签信息生成与真实的面部图像更相似的图像。
该第三样本轮廓图集的特征信息与第二样本轮廓图集的特征信息相同,也就是说,第三样本轮廓图集中收录的面部轮廓图,与第二样本轮廓图集中收录的面部轮廓图属于同一年龄段,特别地,该第三样本轮廓图集和第二样本轮廓图集可以是内容相同的图集。该第三样本轮廓图集是基于S21中相同的轮廓提取模型,从原始面部图集中提取得到。原始面部图集中收录的面部图像的年龄段,与第二样本轮廓图集、第三样本轮廓图集中的图像的年龄段相同,特别地,当第二样本轮廓图集与第三样本轮廓图集内容相同时,该第二样本轮廓图集也是从该原始面部图集中提取的。
为了使生成的图像更接近真实面部图像,基于所述图像生成模型根据样本标签信息将所述第三样本轮廓图转换得到的样本生成图像,与该样本轮廓图所对应的原始面部图像之间应当具有相似性。因此,在一种可选的实施方式中,可以用判别器对样本生成图像和与之对应的原始面部图进行对比判别,若两者的相似度符合不预设相似度条件,则对图像生成模型的函数进行修改,直至所述相似度符合所述相似度条件,亦即图像生成模型生成的图像与真实的面部图像接近。
值得说明的是,当需要生成的目标面部图像的年龄发生改变时,第二样本轮廓图集、第三样本轮廓图集和原始面部图集中收录的图像也会改变至与需要生成的图像的年龄一致,轮廓改变模型和图像生成模型也需要重新训练。
例如,当需要将40-50岁的面部图像转换为20-30岁的面部图像时,第一样本轮廓图集收录的是40-50岁的面部轮廓图,第二样本轮廓图集收录的是20-30岁的面部轮廓图,原始面部图集收录的是20-30岁的面部图像,第三样本轮廓图集收录的是与原始面部图集中的图像一一对应的面部轮廓图。
上述技术方案,至少能够达到以下技术效果:通过提取待处理面部图像的面部轮廓图和目标标签信息,并调整面部轮廓图中的轮廓线条,再根据目标标签信息和改变后的面部轮廓图的轮廓线条生成目标面部图像的方法,通过轮廓图及目标标签信息很大程度地保留了面部的可识别性特征,再通过调整轮廓线条改变面部图像所传达的年龄信息,这样,在改变人物的面部轮廓图时可以保留人物的五官特征、脸型特征及面部细节特征,使生成的面部轮廓图和后续生成的面部图像更具有人物特点,因此,可以生成具有人物辨识度的年龄迁移图像。
与现有技术中利用不同年龄段的局部图像进行替换的方式不同,本公开的技术方案可以很大程度保留人物的独有特点。例如,如果人物的眼周有一条疤痕,如果采用现有技术中的方法,在对眼周图像进行替换以后,这条疤痕可能被替换的图像所遮盖,使人物面部的辨识度下降。但是如果采用本公开的技术方案,不对图像进行替换,而是基于面部轮廓图重新生成面部图像,减少了面部细节特点的丢失。
图7是根据一示例性公开实施例示出的一种面部图像生成装置700,所述装置700包括轮廓提取模块701、轮廓调整模块702和图像生成模块703。
所述轮廓提取模块701用于基于轮廓提取模型从待处理面部图像中获取第一面部轮廓图。
所述轮廓调整模块702,用于基于预训练的轮廓改变模型调整所述第一面部轮廓图中轮廓线条,得到第二面部轮廓图。
所述图像生成模块703,用于基于预训练的图像生成模型将所述第二面部轮廓图转换为目标面部图像。
其中,所述轮廓改变模型通过第一样本轮廓图集和第二样本轮廓图集训练得到,所述第一样本轮廓图集对应的人物年龄段与所述第二样本轮廓图集对应的人物年龄段不同。所述轮廓改变模型的训练过程包括:重复执行基于所述轮廓改变模型将所述第一样本轮廓图集中的第一样本轮廓图转换为预测轮廓图,并获取所述预测轮廓图的第一特征信息与所述第二样本轮廓图集的第二特征信息的第一匹配度,并根据所述第一匹配度调整所述轮廓改变模型中的参数的步骤,直至获取的所述第一匹配度符合第一匹配度条件。
可选地,所述图像生成模型703,通过第三样本轮廓图集和原始面部图集训练得到;所述第三样本轮廓图集包括,基于所述轮廓提取模型从所述原始面部图集中的原始面部图像中提取的第三样本轮廓图;所述图像生成模型的训练过程包括:重复执行基于所述图像生成模型将所述第三样本轮廓图转换为样本生成图像,并获取所述样本生成图像和对应的原始面部图像的相似度,并根据所述相似度调整所述图像生成模型中的参数的步骤,直至获取的所述相似度符合预设相似度条件。
可选地,所述装置700还包括:标签提取模块,用于基于标签提取模型提取所述待处理面部图像的目标标签信息,其中,目标标签信息包括用于表征同一面部部位的不同属性的向量;所述图像生成模块,用于基于预训练的所述图像生成模型和所述目标标签信息将所述第二面部轮廓图转换为所述目标面部图像;其中,所述图像生成模型由所述第三样本轮廓图集、所述原始面部图集和样本标签信息训练得到;所述样本标签信息为基于所述标签提取模型从所述原始面部图集中提取的标签信息;所述图像生成模型的训练过程包括:重复执行基于所述样本标签信息,基于所述图像生成模型将第三样本轮廓图集中的第三样本轮廓图转换为样本生成图像,并获取所述样本生成图像和对应的原始面部图像的相似度,并根据所述相似度调整所述图像生成模型中的参数的步骤,直至获取的所述相似度符合预设相似度条件。
可选地,所述轮廓提取模块701,用于从所述待处理面部图像中获取canny轮廓图层;从所述待处理面部图像中获取由预设采样点就近连线得到的采样轮廓图层,其中,所述预设采样点拟合于面部边缘和五官边缘;将所述canny轮廓图层与所述采样轮廓图层结合,得到所述第一面部轮廓图。
可选地,所述轮廓调整模块702,用于基于所述轮廓改变模型调整所述第一面部轮廓图的所述canny轮廓图层中的轮廓线条;将调整后的所述第一面部轮廓图作为所述第二面部轮廓图。
可选地,所述轮廓改变模型通过所述第一样本轮廓图集、所述第二样本轮廓图集和逆改变模型训练得到;所述轮廓改变模型的训练过程包括:重复执行如下步骤:基于所述轮廓改变模型将所述第一样本轮廓图集中的第一样本轮廓图转换为预测轮廓图,并获取所述预测轮廓图的第一特征信息与所述第二样本轮廓图集的第二特征信息的第一匹配度;基于所述逆改变模型将所述预测轮廓图转换为逆变轮廓图,获取所述逆变轮廓图的第三特征信息与所述第一样本轮廓图集中的第四特征信息的第二匹配度;根据所述第一匹配度和所述第二匹配度调整所述轮廓改变模型的参数,并调整所述逆改变模型的参数;直至获取的所述第一匹配度符合第一匹配度条件,且获取的所述第二匹配度符合第二匹配度条件。
上述技术方案,至少能够达到以下技术效果:通过提取待处理面部图像的面部轮廓图,并调整面部轮廓图中的轮廓线条,再根据改变后的面部轮廓图的轮廓线条生成目标面部图像的方法,通过轮廓图很大程度地保留了面部的可识别性特征,再通过调整轮廓线条改变面部图像所传达的年龄信息,这样,在改变人物的面部轮廓图时可以保留人物的五官特征、脸型特征及面部细节特征,使生成的面部轮廓图和后续生成的面部图像更具有人物特点,因此,可以生成具有人物辨识度的年龄迁移图像。
与现有技术中利用不同年龄段的局部图像进行替换的方式不同,本公开的技术方案可以很大程度保留人物的独有特点。例如,如果人物的眼周有一条疤痕,如果采用现有技术中的方法,在对眼周图像进行替换以后,这条疤痕可能被替换的图像所遮盖,使人物面部的辨识度下降。但是如果采用本公开的技术方案,不对图像进行替换,而是基于面部轮廓图重新生成面部图像,减少了面部细节特点的丢失。
本公开实施例还提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现所述面部图像生成的方法的步骤。
本公开实施例还提供一种电子设备,包括:
存储器,其上存储有计算机程序;
处理器,用于执行所述存储器中的所述计算机程序,以实现所述面部图像生成的方法的步骤。
图8是根据一示例性实施例示出的一种电子设备800的框图。如图8所示,该电子设备800可以包括:处理器801,存储器802。该电子设备800还可以包括多媒体组件803,输入/输出(I/O)接口804,以及通信组件805中的一者或多者。
其中,处理器801用于控制该电子设备800的整体操作,以完成上述的面部图像生成的方法中的全部或部分步骤。存储器802用于存储各种类型的数据以支持在该电子设备800的操作,这些数据例如可以包括用于在该电子设备800上操作的任何应用程序或方法的指令,以及指令相关的数据,例如本公开实施例中的各模型训练需要的数据、待处理的图像、中间处理的图像及标签信息等。该存储器802可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,例如静态随机存取存储器(Static Random Access Memory,简称SRAM),电可擦除可编程只读存储器(Electrically Erasable Programmable Read-OnlyMemory,简称EEPROM),可擦除可编程只读存储器(Erasable Programmable Read-OnlyMemory,简称EPROM),可编程只读存储器(Programmable Read-Only Memory,简称PROM),只读存储器(Read-Only Memory,简称ROM),磁存储器,快闪存储器,磁盘或光盘。多媒体组件803可以包括屏幕和音频组件。其中屏幕例如可以是触摸屏,音频组件用于输出和/或输入音频信号。例如,音频组件可以包括一个麦克风,麦克风用于接收外部音频信号。所接收的音频信号可以被进一步存储在存储器802或通过通信组件805发送。音频组件还包括至少一个扬声器,用于输出音频信号。I/O接口804为处理器801和其他接口模块之间提供接口,上述其他接口模块可以是键盘,鼠标,按钮等。这些按钮可以是虚拟按钮或者实体按钮。通信组件805用于该电子设备800与其他设备之间进行有线或无线通信。无线通信,例如Wi-Fi,蓝牙,近场通信(Near Field Communication,简称NFC),2G、3G或4G,或它们中的一种或几种的组合,因此相应的该通信组件805可以包括:Wi-Fi模块,蓝牙模块,NFC模块。
在一示例性实施例中,电子设备800可以被一个或多个应用专用集成电路(Application Specific Integrated Circuit,简称ASIC)、数字信号处理器(DigitalSignal Processor,简称DSP)、数字信号处理设备(Digital Signal Processing Device,简称DSPD)、可编程逻辑器件(Programmable Logic Device,简称PLD)、现场可编程门阵列(Field Programmable Gate Array,简称FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述的面部图像生成的方法。
在另一示例性实施例中,还提供了一种包括程序指令的计算机可读存储介质,该程序指令被处理器执行时实现上述的面部图像生成的方法的步骤。例如,该计算机可读存储介质可以为上述包括程序指令的存储器802,上述程序指令可由电子设备800的处理器801执行以完成上述的面部图像生成的方法。
以上结合附图详细描述了本公开的优选实施方式,但是,本公开并不限于上述实施方式中的具体细节,在本公开的技术构思范围内,可以对本公开的技术方案进行多种简单变型,这些简单变型均属于本公开的保护范围。
另外需要说明的是,在上述具体实施方式中所描述的各个具体技术特征,在不矛盾的情况下,可以通过任何合适的方式进行组合,为了避免不必要的重复,本公开对各种可能的组合方式不再另行说明。
此外,本公开的各种不同的实施方式之间也可以进行任意组合,只要其不违背本公开的思想,其同样应当视为本公开所公开的内容。

Claims (11)

1.一种面部图像生成方法,其特征在于,所述方法包括:
基于轮廓提取模型从待处理面部图像中获取第一面部轮廓图;
基于预训练的轮廓改变模型调整所述第一面部轮廓图中轮廓线条,得到第二面部轮廓图;
基于预训练的图像生成模型将所述第二面部轮廓图转换为目标面部图像;
其中,所述轮廓改变模型通过第一样本轮廓图集和第二样本轮廓图集训练得到,所述第一样本轮廓图集对应的人物年龄段与所述第二样本轮廓图集对应的人物年龄段不同;
所述轮廓改变模型的训练过程包括:重复执行基于所述轮廓改变模型将所述第一样本轮廓图集中的第一样本轮廓图转换为预测轮廓图,并获取所述预测轮廓图的第一特征信息与所述第二样本轮廓图集的第二特征信息的第一匹配度,并根据所述第一匹配度调整所述轮廓改变模型中的参数的步骤,直至获取的所述第一匹配度符合第一匹配度条件;
所述图像生成模型,通过第三样本轮廓图集和原始面部图集训练得到;
所述第三样本轮廓图集包括,基于所述轮廓提取模型从所述原始面部图集中的原始面部图像中提取的第三样本轮廓图;
所述图像生成模型的训练过程包括:重复执行基于所述图像生成模型将所述第三样本轮廓图转换为样本生成图像,并获取所述样本生成图像和对应的原始面部图像的相似度,并根据所述相似度调整所述图像生成模型中的参数的步骤,直至获取的所述相似度符合预设相似度条件。
2.根据权利要求1所述的方法,其特征在于,在所述基于预训练的图像生成模型将所述第二面部轮廓图转换为目标面部图像之前,所述方法还包括:
基于标签提取模型提取所述待处理面部图像的目标标签信息,其中,目标标签信息包括用于表征同一面部部位的不同属性的向量;
所述基于预训练的图像生成模型将所述第二面部轮廓图转换为目标面部图像,包括:
基于预训练的所述图像生成模型和所述目标标签信息将所述第二面部轮廓图转换为所述目标面部图像;
其中,所述图像生成模型由所述第三样本轮廓图集、所述原始面部图集和样本标签信息训练得到;所述样本标签信息为基于所述标签提取模型从所述原始面部图集中提取的标签信息;
所述图像生成模型的训练过程包括:重复执行基于所述样本标签信息,基于所述图像生成模型将第三样本轮廓图集中的第三样本轮廓图转换为样本生成图像,并获取所述样本生成图像和对应的原始面部图像的相似度,并根据所述相似度调整所述图像生成模型中的参数的步骤,直至获取的所述相似度符合预设相似度条件。
3.根据权利要求1或2任一项所述的方法,其特征在于,基于轮廓提取模型从待处理面部图像中获取第一面部轮廓图,包括:
从所述待处理面部图像中获取canny轮廓图层;
从所述待处理面部图像中获取由预设采样点就近连线得到的采样轮廓图层,其中,所述预设采样点拟合于面部边缘和五官边缘;
将所述canny轮廓图层与所述采样轮廓图层结合,得到所述第一面部轮廓图。
4.根据权利要求3所述的方法,其特征在于,所述基于预训练的轮廓改变模型,调整所述第一面部轮廓图中轮廓线条,得到第二面部轮廓图,包括:
基于所述轮廓改变模型调整所述第一面部轮廓图的所述canny轮廓图层中的轮廓线条;
将调整后的所述第一面部轮廓图作为所述第二面部轮廓图。
5.根据权利要求1所述的方法,其特征在于,所述轮廓改变模型通过所述第一样本轮廓图集、所述第二样本轮廓图集和逆改变模型训练得到;所述轮廓改变模型的训练过程包括:
重复执行如下步骤:
基于所述轮廓改变模型将所述第一样本轮廓图集中的第一样本轮廓图转换为预测轮廓图,并获取所述预测轮廓图的第一特征信息与所述第二样本轮廓图集的第二特征信息的第一匹配度;
基于所述逆改变模型将所述预测轮廓图转换为逆变轮廓图,获取所述逆变轮廓图的第三特征信息与所述第一样本轮廓图集中的第四特征信息的第二匹配度;
根据所述第一匹配度和所述第二匹配度调整所述轮廓改变模型的参数,并调整所述逆改变模型的参数;
直至获取的所述第一匹配度符合第一匹配度条件,且获取的所述第二匹配度符合第二匹配度条件。
6.一种面部图像生成装置,其特征在于,所述装置包括:
轮廓提取模块,用于基于轮廓提取模型从待处理面部图像中获取第一面部轮廓图;
轮廓调整模块,用于基于预训练的轮廓改变模型调整所述第一面部轮廓图中轮廓线条,得到第二面部轮廓图;
图像生成模块,用于基于预训练的图像生成模型将所述第二面部轮廓图转换为目标面部图像;
其中,所述轮廓改变模型通过第一样本轮廓图集和第二样本轮廓图集训练得到,所述第一样本轮廓图集对应的人物年龄段与所述第二样本轮廓图集对应的人物年龄段不同;
所述轮廓改变模型的训练过程包括:重复执行基于所述轮廓改变模型将所述第一样本轮廓图集中的第一样本轮廓图转换为预测轮廓图,并获取所述预测轮廓图的第一特征信息与所述第二样本轮廓图集的第二特征信息的第一匹配度,并根据所述第一匹配度调整所述轮廓改变模型中的参数的步骤,直至获取的所述第一匹配度符合第一匹配度条件;
所述图像生成模型,通过第三样本轮廓图集和原始面部图集训练得到;所述第三样本轮廓图集包括,基于所述轮廓提取模型从所述原始面部图集中的原始面部图像中提取的第三样本轮廓图;所述图像生成模型的训练过程包括:重复执行基于所述图像生成模型将所述第三样本轮廓图转换为样本生成图像,并获取所述样本生成图像和对应的原始面部图像的相似度,并根据所述相似度调整所述图像生成模型中的参数的步骤,直至获取的所述相似度符合预设相似度条件。
7.根据权利要求6所述的装置,其特征在于,所述装置还包括:
标签提取模块,用于基于标签提取模型提取所述待处理面部图像的目标标签信息,其中,目标标签信息包括用于表征同一面部部位的不同属性的向量;
所述图像生成模块,用于基于预训练的所述图像生成模型和所述目标标签信息将所述第二面部轮廓图转换为所述目标面部图像;
其中,所述图像生成模型由所述第三样本轮廓图集、所述原始面部图集和样本标签信息训练得到;所述样本标签信息为基于所述标签提取模型从所述原始面部图集中提取的标签信息;
所述图像生成模型的训练过程包括:重复执行基于所述样本标签信息,基于所述图像生成模型将第三样本轮廓图集中的第三样本轮廓图转换为样本生成图像,并获取所述样本生成图像和对应的原始面部图像的相似度,并根据所述相似度调整所述图像生成模型中的参数的步骤,直至获取的所述相似度符合预设相似度条件。
8.根据权利要求6或7任一项所述的装置,其特征在于,
所述轮廓提取模块,用于从所述待处理面部图像中获取canny轮廓图层;从所述待处理面部图像中获取由预设采样点就近连线得到的采样轮廓图层,其中,所述预设采样点拟合于面部边缘和五官边缘;将所述canny轮廓图层与所述采样轮廓图层结合,得到所述第一面部轮廓图。
9.根据权利要求8所述的装置,其特征在于,
所述轮廓调整模块,用于基于所述轮廓改变模型调整所述第一面部轮廓图的所述canny轮廓图层中的轮廓线条;将调整后的所述第一面部轮廓图作为所述第二面部轮廓图。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1-5中任一项所述方法的步骤。
11.一种电子设备,其特征在于,包括:
存储器,其上存储有计算机程序;
处理器,用于执行所述存储器中的所述计算机程序,以实现权利要求1-5中任一项所述方法的步骤。
CN201910497775.7A 2019-06-10 2019-06-10 面部图像生成方法和装置、存储设备和电子设备 Active CN110321802B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910497775.7A CN110321802B (zh) 2019-06-10 2019-06-10 面部图像生成方法和装置、存储设备和电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910497775.7A CN110321802B (zh) 2019-06-10 2019-06-10 面部图像生成方法和装置、存储设备和电子设备

Publications (2)

Publication Number Publication Date
CN110321802A CN110321802A (zh) 2019-10-11
CN110321802B true CN110321802B (zh) 2021-10-01

Family

ID=68120797

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910497775.7A Active CN110321802B (zh) 2019-06-10 2019-06-10 面部图像生成方法和装置、存储设备和电子设备

Country Status (1)

Country Link
CN (1) CN110321802B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113870094A (zh) * 2020-06-30 2021-12-31 北京达佳互联信息技术有限公司 一种图像处理方法、装置、电子设备及存储介质
CN112258504B (zh) * 2020-11-13 2023-12-08 腾讯科技(深圳)有限公司 一种图像检测方法、设备及计算机可读存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101652784A (zh) * 2007-03-02 2010-02-17 宝洁公司 模拟面部皮肤老化和去老化的方法及装置
CN107798276A (zh) * 2016-09-05 2018-03-13 中兴通讯股份有限公司 一种人脸图像的年龄变换方法及装置
CN107977629A (zh) * 2017-12-04 2018-05-01 电子科技大学 一种基于特征分离对抗网络的人脸图像衰老合成方法
CN108985215A (zh) * 2018-07-09 2018-12-11 Oppo(重庆)智能科技有限公司 一种图片处理方法、图片处理装置及终端设备
CN109002763A (zh) * 2018-06-15 2018-12-14 中国科学院半导体研究所 基于同源连续性的模拟人脸老化的方法及装置
CN109308450A (zh) * 2018-08-08 2019-02-05 杰创智能科技股份有限公司 一种基于生成对抗网络的脸部变化预测方法
CN109784275A (zh) * 2019-01-15 2019-05-21 安徽杰锐达智能科技有限公司 多点位人脸识别智能化辨识方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101652784A (zh) * 2007-03-02 2010-02-17 宝洁公司 模拟面部皮肤老化和去老化的方法及装置
CN107798276A (zh) * 2016-09-05 2018-03-13 中兴通讯股份有限公司 一种人脸图像的年龄变换方法及装置
CN107977629A (zh) * 2017-12-04 2018-05-01 电子科技大学 一种基于特征分离对抗网络的人脸图像衰老合成方法
CN109002763A (zh) * 2018-06-15 2018-12-14 中国科学院半导体研究所 基于同源连续性的模拟人脸老化的方法及装置
CN108985215A (zh) * 2018-07-09 2018-12-11 Oppo(重庆)智能科技有限公司 一种图片处理方法、图片处理装置及终端设备
CN109308450A (zh) * 2018-08-08 2019-02-05 杰创智能科技股份有限公司 一种基于生成对抗网络的脸部变化预测方法
CN109784275A (zh) * 2019-01-15 2019-05-21 安徽杰锐达智能科技有限公司 多点位人脸识别智能化辨识方法

Also Published As

Publication number Publication date
CN110321802A (zh) 2019-10-11

Similar Documents

Publication Publication Date Title
CN111758116B (zh) 脸部图像识别系统、识别器生成装置、识别装置与系统
WO2020248841A1 (zh) 图像的au检测方法、装置、电子设备及存储介质
CN111914076B (zh) 一种基于人机对话的用户画像构建方法、系统、终端及存储介质
CN113901894A (zh) 一种视频生成方法、装置、服务器及存储介质
CN111524521A (zh) 声纹提取模型训练方法和声纹识别方法、及其装置和介质
CN110321802B (zh) 面部图像生成方法和装置、存储设备和电子设备
CN108304376B (zh) 文本向量的确定方法、装置、存储介质及电子装置
JP2020197833A (ja) データ拡張システム、データ拡張方法、及びプログラム
CN111739027A (zh) 一种图像处理方法、装置、设备及可读存储介质
CN107609487B (zh) 一种用户头像的生成方法和装置
CN114610851A (zh) 意图识别模型的训练方法、意图识别方法、设备及介质
CN109961152B (zh) 虚拟偶像的个性化互动方法、系统、终端设备及存储介质
CN117252791A (zh) 图像处理方法、装置、电子设备及存储介质
WO2024103637A9 (zh) 舞蹈动作生成方法、计算机设备及存储介质
CN113222841A (zh) 一种图像处理方法、装置、设备及介质
CN115392216B (zh) 一种虚拟形象生成方法、装置、电子设备及存储介质
Kakkar Facial expression recognition with LDPP & LTP using deep belief network
CN115862641A (zh) 基于区块链的印控仪智能启动和安全应用方法及系统
CN113257235B (zh) 模型训练方法、语音识别方法、装置、服务器及存储介质
Han-wen et al. Fingerspelling identification for American sign language based on Resnet-18
CN112541446B (zh) 一种生物特征库更新方法、装置及电子设备
KR102504722B1 (ko) 감정 표현 영상 생성을 위한 학습 장치 및 방법과 감정 표현 영상 생성 장치 및 방법
CN113129399A (zh) 纹样生成
CN118364830B (zh) 结合图像分析以及语音识别的翻译方法、装置以及翻译机
CN114822495B (zh) 声学模型训练方法、装置及语音合成方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20210303

Address after: 201111 2nd floor, building 2, no.1508, Kunyang Road, Minhang District, Shanghai

Applicant after: Dalu Robot Co.,Ltd.

Address before: 518000 Room 201, building A, No. 1, Qian Wan Road, Qianhai Shenzhen Hong Kong cooperation zone, Shenzhen, Guangdong (Shenzhen Qianhai business secretary Co., Ltd.)

Applicant before: Shenzhen Qianhaida Yunyun Intelligent Technology Co.,Ltd.

GR01 Patent grant
GR01 Patent grant
CP03 Change of name, title or address
CP03 Change of name, title or address

Address after: 201111 Building 8, No. 207, Zhongqing Road, Minhang District, Shanghai

Patentee after: Dayu robot Co.,Ltd.

Address before: 201111 2nd floor, building 2, no.1508, Kunyang Road, Minhang District, Shanghai

Patentee before: Dalu Robot Co.,Ltd.