CN116245773A - 一种人脸合成模型训练方法、装置、存储介质及电子设备 - Google Patents

一种人脸合成模型训练方法、装置、存储介质及电子设备 Download PDF

Info

Publication number
CN116245773A
CN116245773A CN202211679279.1A CN202211679279A CN116245773A CN 116245773 A CN116245773 A CN 116245773A CN 202211679279 A CN202211679279 A CN 202211679279A CN 116245773 A CN116245773 A CN 116245773A
Authority
CN
China
Prior art keywords
face
image
trained
synthesis model
training sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202211679279.1A
Other languages
English (en)
Inventor
兰钧
陈昊星
孟昌华
王维强
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alipay Hangzhou Information Technology Co Ltd
Original Assignee
Alipay Hangzhou Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alipay Hangzhou Information Technology Co Ltd filed Critical Alipay Hangzhou Information Technology Co Ltd
Priority to CN202211679279.1A priority Critical patent/CN116245773A/zh
Publication of CN116245773A publication Critical patent/CN116245773A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image

Abstract

本说明书公开了一种人脸合成模型训练方法、装置、存储介质及电子设备,在本说明书提供的方法中,获取人脸图像并对其进行调整,将调整后的人脸图像的人脸区域的图像作为目标图像,将目标图像与调整前的人脸图像进行人脸合成的图像作为训练样本,输入待训练的人脸合成模型,以模型输出的优化图像与调整前的人脸图像的差异最小为训练目标训练待训练的人脸合成模型。从上述方法中可以看出,本方法预先对人脸图像进行调整与合成得到训练样本,然后以模型的输出图像与调整前的人脸图像的差异最小为训练目标训练待训练的人脸合成模型,通过这种方法训练得到的人脸合成模型能够使人脸合成图像的前景与背景之间的差异更小。

Description

一种人脸合成模型训练方法、装置、存储介质及电子设备
技术领域
本申请涉及计算机领域,特别涉及一种人脸合成模型训练方法、装置、存储介质及电子设备。
背景技术
随着互联网技术与机器学习技术的不断发展,深度伪造(Deepfake)技术也在不断地发展。
深度伪造中较广为人知的技术之一就是人脸合成,即将不同人的脸合成一张新脸,如将一个人的部分脸作为前景,另一人的脸作为后景,将前景覆盖在后景上,合成一张新脸,这一技术除了被应用于影视、娱乐等领域之外,也被不少不法分子用于不法活动,给社会治安造成了很大危害,所以鉴定深度伪造是十分必要的,而鉴定深度伪造模型的训练样本是采用人脸合成技术合成的人脸,采用人脸合成技术合成的人脸越逼真,则使用其训练得到的鉴定深度伪造模型的鉴定效果也越好。
所以,如何训练一种模型合成更逼真的人脸是一个亟待解决的问题。
发明内容
本说明书提供一种人脸模型训练方法、装置、存储介质及电子设备,以至少部分的解决现有技术存在的上述问题。
本说明书采用下述技术方案:
本说明书提供一种人脸合成模型训练的方法,所述方法包括:
获取人脸图像;
确定所述人脸图像中人脸所在的区域,作为前景区域;
对所述人脸图像进行调整,将调整后的人脸图像的前景区域中的图像作为目标图像;
将所述目标图像与调整前的人脸图像进行人脸合成,将得到的合成图像作为训练样本;
将所述训练样本与所述前景区域输入待训练的人脸合成模型中,获得所述待训练的人脸合成模型输出的优化图像;
以所述优化图像与所述调整前的人脸图像的差异最小为训练目标,训练所述待训练的人脸合成模型。
可选地,对所述人脸图像进行调整,具体包括:
对所述人脸图像做频域变换和/或空域变换。
可选地,所述频域变换包括平滑变换、模糊变换中的至少一种;
所述空域变换包括亮度变换、对比度变换、饱和度变换中的至少一种。
可选地,将所述目标图像与调整前的人脸图像进行人脸合成,具体包括:
使用所述目标图像替换调整前的人脸图像的前景区域中的图像。
可选地,待训练的人脸合成模型至少包括特征提取层、特征融合层与输出层;
将所述训练样本与所述前景区域输入待训练的人脸合成模型中,获得所述待训练的人脸合成模型输出的优化图像,具体包括:
将所述训练样本与所述前景区域输入待训练的人脸合成模型中,通过待训练的人脸合成模型的特征提取层提取所述训练样本在前景区域中的特征与背景区域中的特征;
将所述训练样本在前景区域中的特征与背景区域中的特征输入所述待训练的人脸合成模型的特征融合层中,获得所述特征融合层输出的所述训练样本在前景区域中的特征与非前景区域中的特征的融合特征;
将所述融合特征输入所述待训练的人脸合成模型的输出层中,获得所述输出层根据所述融合特征输出的优化图像。
可选地,所述方法还包括:
获取第一人脸图像与第二人脸图像;
确定所述第二人脸图像中人脸所在的区域,作为所述第二人脸图像的前景区域;
确定所述第二人脸图像的前景区域中的图像作为目标图像;
将所述目标图像与所述第一人脸图像进行人脸合成,将得到的合成图像作为待处理图像;
将所述待处理图像与所述第二人脸图像的前景区域输入训练好的人脸合成模型中,获得训练好的人脸合成模型输出的处理后图像。
本说明书提供了一种人脸合成模型训练的装置,所述装置包括:
获取模块,获取人脸图像;
确定模块,用于确定所述人脸图像中人脸所在的区域,作为前景区域;
调整模块,用于对所述人脸图像进行调整,将调整后的人脸图像的前景区域中的图像作为目标图像;
第一合成模块,用于将所述目标图像与调整前的人脸图像进行人脸合成,将得到的合成图像作为训练样本;
第二合成模块,用于将所述训练样本与所述前景区域输入待训练的人脸合成模型中,获得所述待训练的人脸合成模型输出的优化图像;
训练模块,用于以所述优化图像与所述调整前的人脸图像的差异最小为训练目标,训练所述待训练的人脸合成模型。
可选地,所述调整模块具体用于对所述人脸图像做频域变换和/或空域变换。
可选地,所述频域变换包括平滑变换、模糊变换中的至少一种;
所述空域变换包括亮度变换、对比度变换、饱和度变换中的至少一种。
可选地,所述第一合成模块具体用于,使用所述目标图像替换调整前的人脸图像的前景区域中的图像。
可选地,待训练的人脸合成模型至少包括特征提取层、特征融合层与输出层;
所述第二合成模块具体用于,将所述训练样本与所述前景区域输入待训练的人脸合成模型中,通过待训练的人脸合成模型的特征提取层提取所述训练样本在前景区域中的特征与背景区域中的特征;将所述训练样本在前景区域中的特征与背景区域中的特征输入所述待训练的人脸合成模型的特征融合层中,获得所述特征融合层输出的所述训练样本在前景区域中的特征与非前景区域中的特征的融合特征;将所述融合特征输入所述待训练的人脸合成模型的输出层中,获得所述输出层根据所述融合特征输出的优化图像。
可选地,所述装置还包括:
应用模块,用于获取第一人脸图像与第二人脸图像;确定所述第二人脸图像中人脸所在的区域,作为所述第二人脸图像的前景区域;确定所述第二人脸图像的前景区域中的图像作为目标图像;将所述目标图像与所述第一人脸图像进行人脸合成,将得到的合成图像作为待处理图像;将所述待处理图像与所述第二人脸图像的前景区域输入训练好的人脸合成模型中,获得训练好的人脸合成模型输出的处理后图像。
本说明书提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述方法。
本说明书提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述方法。
本说明书采用的上述至少一个技术方案能够达到以下有益效果:
在本申请提供的人脸合成模型训练的方法中,获取人脸图像并对其进行调整,将调整后的人脸图像的人脸区域的图像作为目标图像,将目标图像与调整前的人脸图像进行人脸合成的图像作为训练样本,输入待训练的人脸合成模型,以模型输出的优化图像与调整前的人脸图像的差异最小为训练目标训练待训练的人脸合成模型。
从上述方法中可以看出,本方法先对人脸图像进行调整与合成得到训练样本,然后以模型的输出图像与调整前的人脸图像的差异最小为训练目标训练待训练的人脸合成模型,通过这种方法训练得到的人脸合成模型能够使人脸合成图像的前景与背景之间的差异更小。
附图说明
此处所说明的附图用来提供对本说明书的进一步理解,构成本说明书的一部分,本说明书的示意性实施例及其说明用于解释本说明书,并不构成对本说明书的不当限定。在附图中:
图1为本说明书提供的一种人脸合成模型训练方法的流程示意图;
图2A为本说明书提供的一种A的人脸图像的示意图;
图2B为本说明书提供的一种B的人脸图像的示意图;
图2C为本说明书提供的一种A与B的人脸合成图像的示意图;
图3为本说明书提供的一种合成目标图像与调整前的人脸图像的示意图;
图4为本说明书提供的一种人脸合成模型训练装置的示意图;
图5为本说明书提供的对应于图1的电子设备示意图。
具体实施方式
为使本说明书的目的、技术方案和优点更加清楚,下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
以下结合附图,详细说明本说明书各实施例提供的技术方案。
图1为本说明书提供的一种人脸合成模型训练方法的流程示意图,具体包括以下步骤:
S100:获取人脸图像。
本说明书提供的人脸合成模型训练方法的执行主体可以是任意一种具备计算能力的电子设备,如服务器、终端等,本方法用于训练人脸合成模型,训练好的人脸合成模型可以将不同人的人脸合成图像合成为效果更好的人脸图像。
将不同人的人脸合成图像合成为效果更好的人脸合成图像,即,使人脸合成图像中来自不同人的图像之间的差异尽量小。通常的人脸合成图像中,人脸合成图像的前景区域的图像来自一个人的人脸图像,其后景区域的图像是另一个人的人脸图像,如图2A所示,A的人脸图像中下边的阴影部分为A的人脸(即图2A中所示的前景区域),其他区域即为背景区域,B的人脸图像中下边的阴影部分为B的人脸(即图2B中所示的前景区域),A和B的人脸合成图像即使用A的人脸图像中下边的阴影部分替换B的人脸图像中下边的阴影部分,如图2C所示,A和B的人脸合成图像的前景区域的图像来自A的前景区域的阴影部分,背景区域的图像为B的人脸图像中除前景区域外的图像,这种人脸合成图像的前景与背景通常存在差异,为方便训练,本方法使用同一人脸图像来模拟这种前景与背景存在差异的人脸合成图像。
具体地,本方法先获取人脸图像,人脸图像是以人脸为主要特征的图像,可以通过多任务卷积神经网络(Multi-task convolutional neural network,MTCNN)等人脸检测模型或算法检测图像是否以人脸为主要特征。
S102:确定所述人脸图像中人脸所在的区域,作为前景区域。
确定人脸图像中人脸所在的区域,具体地,可以通过人脸的特征点确定人脸所在的区域。
S104:对所述人脸图像进行调整,将调整后的人脸图像的前景区域中的图像作为目标图像。
如上所述,本方法模拟前景与背景存在差异的人脸合成图像,需要对人脸合成图像做出调整,使调整后的人脸图像不同于调整前的人脸图像。
不同的人脸之间存在差异的主要表现可能为图像的频域与空域的之间存在差异。
具体地,调整人脸图像即对人脸图像做频域变换和/或空域变换,频域变换包括平滑变换、模糊变换中的至少一种,空域变换包括亮度变换、对比度变换、饱和度变换中的至少一种。
例如,对人脸图像进行滤波处理,滤波可以如均值滤波、高斯滤波等,或调整人脸图像的亮度、对比度、饱和度等。
调整后的人脸图像与调整前的人脸图像之间具有差异,将调整后的人脸图像的前景区域中的图像作为目标图像,用于下述步骤S106。
S106:将所述目标图像与调整前的人脸图像进行人脸合成,将得到的合成图像作为训练样本。
将目标图像与调整前的人脸图像进行人脸合成,具体地,如图3所示,C的人脸图像为调整前的人脸图像,C1的人脸图像为调整后的人脸图像,C1的目标图像即C1的人脸图像中下边的阴影部分,即前景区域的图像,将C1的目标图像与调整前的人脸图像进行人脸合成,可以使用目标图像替换调整前的人脸图像的前景区域中的图像,即使用C1的前景区域的图像(即C1的人脸图像中下边的阴影部分的图像)替换C的前景区域中的图像(即C的人脸图像中下边的阴影部分的图像)。
如步骤S104所述,目标图像是调整后的人脸图像的前景区域中的图像,所以目标图像与调整前的人脸图像之间也存在差异,将目标图像与调整前的人脸图像进行人脸合成后得到的合成图像,即训练样本,就是前景与背景存在差异的人脸合成图像。
S108:将所述训练样本与所述前景区域输入待训练的人脸合成模型中,获得所述待训练的人脸合成模型输出的优化图像。
可选地,待训练的人脸合成模型至少包括特征提取层、特征融合层与输出层
将训练样本与所述前景区域输入待训练的人脸合成模型中,可以通过待训练的人脸合成模型的特征提取层提取训练样本在前景区域中的特征与背景区域中的特征,然后将训练样本在前景区域中的特征与背景区域中的特征输入待训练的人脸合成模型的特征融合层中,获得特征融合层输出的训练样本在前景区域中的特征与非前景区域中的特征的融合特征,最后将融合特征输入待训练的人脸合成模型的输出层中,获得输出层根据融合特征输出的优化图像。
S110:以所述优化图像与所述调整前的人脸图像的差异最小为训练目标,训练所述待训练的人脸合成模型。
因为训练人脸合成模型的目的是使模型输出的合成图像的前景与背景之间的差异尽量小,且训练样本的前景是调整后的人脸图像的人脸区域的图像,背景是调整前的人脸图像,而调整前的人脸图像的前景与背景之间不存在差异,所以若希望模型输出的合成图像的前景与背景的差异尽量小,可以以优化图像与调整前的人脸图像的差异最小为训练目标来训练人脸合成模型。
从上述方法可以看出,本方法使用一个人的人脸图像模拟两个不同的人的人脸合成图像,通过调整人脸图像然后将调整后的人脸图像与调整前的人脸图像融合,来模拟两个不同人的人脸合成图像,实际是在模拟两个不同的人的人脸合成图像中来自不同人脸的图像之间的差异,也即模拟两个不同的人的人脸合成图像的前景与背景之间的差异,将模拟的人脸合成图像输入待训练的人脸合成模型中,为使模拟的人脸合成图像的前景与背景之间的差异尽量小,所以以模型的输出图像与调整前的人脸图像的差异最小为训练目标训练待训练的人脸合成模型,使用本方法训练得到的人脸合成模型能够使人脸合成图像的前景与背景之间的差异更小。
可选地,按照上述步骤S100所述获取的所述人脸图像的数量不小于一个,为方便训练,获取多个人脸图像后,可以如步骤S102~S106所述,针对每个获取的人脸图像,都确定目标图像,并将目标图像与调整前的人脸图像进行人脸合成,将得到的合成图像作为训练样本。即可以确定多个训练样本后,对待训练的人脸合成模型进行训练。
具体地,获取多个人脸图像后,针对每个人脸图像,确定该人脸图像中人脸所在的区域,作为该人脸图像的前景区域,对该人脸图像进行调整,将调整后的该人脸图像的前景区域中的图像作为该人脸图像的目标图像,将该人脸图像的目标图像与调整前的该人脸图像进行人脸合成,将得到的合成图像作为训练样本。
可选地,按照上述S100~110所述的步骤训练完成人脸合成模型后,应用训练好的人脸合成模型可以如下所述,先获取第一人脸图像与第二人脸图像,然后确定第二人脸图像中人脸所在的区域,作为第二人脸图像的前景区域,并确定第二人脸图像的前景区域中的图像作为目标图像,将目标图像与第一人脸图像进行人脸合成,将得到的合成图像作为待处理图像,最后将待处理图像与第二人脸图像的前景区域输入训练好的人脸合成模型中,获得训练好的人脸合成模型输出的处理后图像,得到第一人脸图像与第二人脸图像的合成图像。
以上为本说明书的一个或多个实施例提供的人脸合成模型训练方法,基于同样的思路,本说明书还提供了相应的人脸合成模型训练装置,如图2所示。
图4为本说明书提供的一种人脸合成模型训练装置示意图,具体包括:
获取模块401,获取人脸图像;
确定模块402,用于确定所述人脸图像中人脸所在的区域,作为前景区域;
调整模块403,用于对所述人脸图像进行调整,将调整后的人脸图像的前景区域中的图像作为目标图像;
第一合成模块404,用于将所述目标图像与调整前的人脸图像进行人脸合成,将得到的合成图像作为训练样本;
第二合成模块405,用于将所述训练样本与所述前景区域输入待训练的人脸合成模型中,获得所述待训练的人脸合成模型输出的优化图像;
训练模块406,用于以所述优化图像与所述调整前的人脸图像的差异最小为训练目标,训练所述待训练的人脸合成模型。
可选地,所述调整模块403具体用于对所述人脸图像做频域变换和/或空域变换。
可选地,所述频域变换包括平滑变换、模糊变换中的至少一种;
所述空域变换包括亮度变换、对比度变换、饱和度变换中的至少一种。
可选地,所述第一合成模块404具体用于,使用所述目标图像替换调整前的人脸图像的前景区域中的图像。
可选地,待训练的人脸合成模型至少包括特征提取层、特征融合层与输出层;
所述第二合成模块405具体用于,将所述训练样本与所述前景区域输入待训练的人脸合成模型中,通过待训练的人脸合成模型的特征提取层提取所述训练样本在前景区域中的特征与背景区域中的特征;将所述训练样本在前景区域中的特征与背景区域中的特征输入所述待训练的人脸合成模型的特征融合层中,获得所述特征融合层输出的所述训练样本在前景区域中的特征与非前景区域中的特征的融合特征;将所述融合特征输入所述待训练的人脸合成模型的输出层中,获得所述输出层根据所述融合特征输出的优化图像。
可选地,所述装置还包括:
应用模块407,用于获取第一人脸图像与第二人脸图像;确定所述第二人脸图像中人脸所在的区域,作为所述第二人脸图像的前景区域;确定所述第二人脸图像的前景区域中的图像作为目标图像;将所述目标图像与所述第一人脸图像进行人脸合成,将得到的合成图像作为待处理图像;将所述待处理图像与所述第二人脸图像的前景区域输入训练好的人脸合成模型中,获得训练好的人脸合成模型输出的处理后图像。
本说明书还提供了一种计算机可读存储介质,该存储介质存储有计算机程序,计算机程序可用于执行上述图1提供的人脸合成模型方法。
本说明书还提供了图5所示的电子设备的结构示意图。如图5所述,在硬件层面,该无人驾驶设备包括处理器、内部总线、网络接口、内存以及非易失性存储器,当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,以实现上述图1所述的人脸合成模型方法。当然,除了软件实现方式之外,本说明书并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说以下处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本说明书的实施例可提供为方法、系统或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已,并不用于限制本说明书。对于本领域技术人员来说,本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。

Claims (14)

1.一种人脸合成模型训练的方法,所述方法包括:
获取人脸图像;
确定所述人脸图像中人脸所在的区域,作为前景区域;
对所述人脸图像进行调整,将调整后的人脸图像的前景区域中的图像作为目标图像;
将所述目标图像与调整前的人脸图像进行人脸合成,将得到的合成图像作为训练样本;
将所述训练样本与所述前景区域输入待训练的人脸合成模型中,获得所述待训练的人脸合成模型输出的优化图像;
以所述优化图像与所述调整前的人脸图像的差异最小为训练目标,训练所述待训练的人脸合成模型。
2.如权利要求1所述的方法,对所述人脸图像进行调整,具体包括:
对所述人脸图像做频域变换和/或空域变换。
3.如权利要求2所述的方法,所述频域变换包括平滑变换、模糊变换中的至少一种;
所述空域变换包括亮度变换、对比度变换、饱和度变换中的至少一种。
4.如权利要求1所述的方法,将所述目标图像与调整前的人脸图像进行人脸合成,具体包括:
使用所述目标图像替换调整前的人脸图像的前景区域中的图像。
5.如权利要求1所述的方法,待训练的人脸合成模型至少包括特征提取层、特征融合层与输出层;
将所述训练样本与所述前景区域输入待训练的人脸合成模型中,获得所述待训练的人脸合成模型输出的优化图像,具体包括:
将所述训练样本与所述前景区域输入待训练的人脸合成模型中,通过待训练的人脸合成模型的特征提取层提取所述训练样本在前景区域中的特征与背景区域中的特征;
将所述训练样本在前景区域中的特征与背景区域中的特征输入所述待训练的人脸合成模型的特征融合层中,获得所述特征融合层输出的所述训练样本在前景区域中的特征与非前景区域中的特征的融合特征;
将所述融合特征输入所述待训练的人脸合成模型的输出层中,获得所述输出层根据所述融合特征输出的优化图像。
6.如权利要求1所述的方法,所述方法还包括:
获取第一人脸图像与第二人脸图像;
确定所述第二人脸图像中人脸所在的区域,作为所述第二人脸图像的前景区域;
确定所述第二人脸图像的前景区域中的图像作为目标图像;
将所述目标图像与所述第一人脸图像进行人脸合成,将得到的合成图像作为待处理图像;
将所述待处理图像与所述第二人脸图像的前景区域输入训练好的人脸合成模型中,获得训练好的人脸合成模型输出的处理后图像,作为所述第一人脸图像与所述第二人脸图像的合成图像。
7.一种人脸合成模型训练的装置,所述装置包括:
获取模块,获取人脸图像;
确定模块,用于确定所述人脸图像中人脸所在的区域,作为前景区域;
调整模块,用于对所述人脸图像进行调整,将调整后的人脸图像的前景区域中的图像作为目标图像;
第一合成模块,用于将所述目标图像与调整前的人脸图像进行人脸合成,将得到的合成图像作为训练样本;
第二合成模块,用于将所述训练样本与所述前景区域输入待训练的人脸合成模型中,获得所述待训练的人脸合成模型输出的优化图像;
训练模块,用于以所述优化图像与所述调整前的人脸图像的差异最小为训练目标,训练所述待训练的人脸合成模型。
8.如权利要求7所述的装置,所述调整模块具体用于对所述人脸图像做频域变换和/或空域变换。
9.如权利要求8所述的装置,所述频域变换包括平滑变换、模糊变换中的至少一种;
所述空域变换包括亮度变换、对比度变换、饱和度变换中的至少一种。
10.如权利要求7所述的装置,所述第一合成模块具体用于,使用所述目标图像替换调整前的人脸图像的前景区域中的图像。
11.如权利要求7所述的装置,待训练的人脸合成模型至少包括特征提取层、特征融合层与输出层;
所述第二合成模块具体用于,将所述训练样本与所述前景区域输入待训练的人脸合成模型中,通过待训练的人脸合成模型的特征提取层提取所述训练样本在前景区域中的特征与背景区域中的特征;将所述训练样本在前景区域中的特征与背景区域中的特征输入所述待训练的人脸合成模型的特征融合层中,获得所述特征融合层输出的所述训练样本在前景区域中的特征与非前景区域中的特征的融合特征;将所述融合特征输入所述待训练的人脸合成模型的输出层中,获得所述输出层根据所述融合特征输出的优化图像。
12.如权利要求7所述的装置,所述装置还包括:
应用模块,用于获取第一人脸图像与第二人脸图像;确定所述第二人脸图像中人脸所在的区域,作为所述第二人脸图像的前景区域;确定所述第二人脸图像的前景区域中的图像作为目标图像;将所述目标图像与所述第一人脸图像进行人脸合成,将得到的合成图像作为待处理图像;将所述待处理图像与所述第二人脸图像的前景区域输入训练好的人脸合成模型中,获得训练好的人脸合成模型输出的处理后图像。
13.一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述权利要求1~6中任一项所述的方法。
14.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述权利要求1~6中任一项所述的方法。
CN202211679279.1A 2022-12-26 2022-12-26 一种人脸合成模型训练方法、装置、存储介质及电子设备 Pending CN116245773A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211679279.1A CN116245773A (zh) 2022-12-26 2022-12-26 一种人脸合成模型训练方法、装置、存储介质及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211679279.1A CN116245773A (zh) 2022-12-26 2022-12-26 一种人脸合成模型训练方法、装置、存储介质及电子设备

Publications (1)

Publication Number Publication Date
CN116245773A true CN116245773A (zh) 2023-06-09

Family

ID=86626764

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211679279.1A Pending CN116245773A (zh) 2022-12-26 2022-12-26 一种人脸合成模型训练方法、装置、存储介质及电子设备

Country Status (1)

Country Link
CN (1) CN116245773A (zh)

Similar Documents

Publication Publication Date Title
CN112784857B (zh) 一种模型训练以及图像处理方法及装置
CN117372631B (zh) 一种多视角图像生成模型的训练方法、应用方法
CN115828162B (zh) 一种分类模型训练的方法、装置、存储介质及电子设备
CN111738161B (zh) 一种活体检测方法、装置及电子设备
CN113888415B (zh) 一种模型训练以及图像修复方法及装置
CN117197781B (zh) 一种交通标志识别的方法、装置、存储介质及电子设备
CN117635822A (zh) 一种模型训练的方法、装置、存储介质及电子设备
CN117409466A (zh) 一种基于多标签控制的三维动态表情生成方法及装置
CN116245773A (zh) 一种人脸合成模型训练方法、装置、存储介质及电子设备
CN114359935A (zh) 一种模型训练以及表格识别方法及装置
CN117726760B (zh) 一种用于视频的三维人体重建模型的训练方法及装置
CN114528923B (zh) 基于时域上下文的视频目标检测方法、装置、设备及介质
CN113887326B (zh) 一种人脸图像处理方法及装置
CN117911630B (zh) 一种三维人体建模的方法、装置、存储介质及电子设备
CN117392485B (zh) 图像生成模型训练方法、业务执行方法、装置及介质
CN117523323B (zh) 一种生成图像的检测方法及装置
CN117726907B (zh) 一种建模模型的训练方法、三维人体建模的方法以及装置
CN117037046B (zh) 一种视听事件检测方法、装置、存储介质及电子设备
CN116109008B (zh) 一种业务执行的方法、装置、存储介质及电子设备
CN116595456B (zh) 一种基于脑机接口的数据筛选和模型训练方法及装置
CN115017915B (zh) 一种模型训练、任务执行的方法及装置
CN117575941A (zh) 基于自适应值域滤波的图像去噪方法、电子设备、介质
CN115019062A (zh) 一种显著性区域的获取方法、装置、设备及介质
CN117314764A (zh) 一种图像去模糊方法、装置、设备、系统及介质
CN117392688A (zh) 一种图像分类的方法、装置、存储介质以及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination