CN114387656A - 基于人工智能的换脸方法、装置、设备及存储介质 - Google Patents

基于人工智能的换脸方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN114387656A
CN114387656A CN202210044175.7A CN202210044175A CN114387656A CN 114387656 A CN114387656 A CN 114387656A CN 202210044175 A CN202210044175 A CN 202210044175A CN 114387656 A CN114387656 A CN 114387656A
Authority
CN
China
Prior art keywords
target
image
face
face image
portrait
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210044175.7A
Other languages
English (en)
Inventor
张舒怡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN202210044175.7A priority Critical patent/CN114387656A/zh
Publication of CN114387656A publication Critical patent/CN114387656A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computational Linguistics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Evolutionary Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本申请涉及人工智能和图像处理领域,提供了一种基于人工智能的换脸方法、装置、设备及存储介质,该方法包括:根据第一样本数据集对第一生成式对抗网络模型进行训练;根据第二样本数据集对第二生成式对抗网络模型进行训练;运行第一生成式对抗网络模型对源人像和目标人像进行处理;确定第一人脸图像的关键点特征向量,并从目标人像中提取第一目标面部图像和从第一人脸图像提取第二目标面部图像;运行第二生成式对抗网络模型,利用关键点特征向量、第一目标面部图像和第二目标面部图像对第一人脸图像进行处理;对第二人脸图像和目标人像进行融合。本申请提高了换脸的真实度。上述存储介质可存储根据区块链节点的使用所创建的数据。

Description

基于人工智能的换脸方法、装置、设备及存储介质
技术领域
本申请涉及图像处理领域,尤其涉及一种基于人工智能的换脸方法、装置、设备及存储介质。
背景技术
随着人工智能和网络技术的快速发展,基于人工智能的换脸技术也随之诞生,换脸技术可以将图像或者视频中源人脸换成目标人脸。但是,目前的换脸技术中,是需要将源人脸转换为仿真脸,再将图像或者视频中的目标人脸替换为仿真脸,如果使仿真脸相似度更加接近源人脸,则对于源人脸与目标人脸脸型相差过大的情况,存在仿真脸脸型与目标脸型不贴合的问题,无法保证仿真脸的真实度,换脸效果较差。
发明内容
本申请实施例提供一种基于人工智能的换脸方法、装置、设备及存储介质,旨在提高换脸的真实度和换脸效果。
第一方面,本申请实施例提供一种基于人工智能的换脸方法,包括:
获取第一样本数据集,并根据所述第一样本数据集对第一生成式对抗网络模型进行迭代训练,直至所述第一生成式对抗网络模型收敛;
获取第二样本数据集,并根据所述第二样本数据集对第二生成式对抗网络模型进行迭代训练,直至所述第二生成式对抗网络模型收敛;
获取源人像和目标人像,并运行收敛后的所述第一生成式对抗网络模型对所述源人像和所述目标人像进行处理,得到第一人脸图像;
确定所述第一人脸图像的关键点特征向量,并从所述目标人像中提取第一目标面部图像和从所述第一人脸图像提取第二目标面部图像;
运行收敛后的第二生成式对抗网络模型,利用所述关键点特征向量、第一目标面部图像和第二目标面部图像对所述第一人脸图像进行处理,得到第二人脸图像;
对所述第二人脸图像和所述目标人像进行融合,得到目标换脸人像。
第二方面,本申请实施例还提供一种基于人工智能的换脸装置,所述基于人工智能的换脸装置包括:
模型训练模块,用于获取第一样本数据集,并根据所述第一样本数据集对第一生成式对抗网络模型进行迭代训练,直至所述第一生成式对抗网络模型收敛;
所述模型训练模块,还用于获取第二样本数据集,并根据所述第二样本数据集对第二生成式对抗网络模型进行迭代训练,直至所述第二生成式对抗网络模型收敛;
获取模块,用于获取源人像和目标人像;
第一处理模块,用于运行收敛后的所述第一生成式对抗网络模型对所述源人像和所述目标人像进行处理,得到第一人脸图像;
确定模块,用于确定所述第一人脸图像的关键点特征向量,并从所述目标人像中提取第一目标面部图像和从所述第一人脸图像提取第二目标面部图像;
第二处理模块,用于运行收敛后的第二生成式对抗网络模型,利用所述关键点特征向量、第一目标面部图像和第二目标面部图像对所述第一人脸图像进行处理,得到第二人脸图像;
图像融合模块,用于对所述第二人脸图像和所述目标人像进行融合,得到目标换脸人像。
第三方面,本申请实施例还提供一种计算机设备,所述计算机设备包括处理器、存储器、以及存储在所述存储器上并可被所述处理器执行的计算机程序,其中所述计算机程序被所述处理器执行时,实现如上所述的基于人工智能的换脸方法的步骤。
第四方面,本申请实施例还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,其中所述计算机程序被处理器执行时,实现如上所述的基于人工智能的换脸方法的步骤。
本申请实施例提供一种基于人工智能的换脸方法、装置、设备及存储介质,通过训练得到第一生成式对抗网络模型和第二生成式对抗网络模型,并通过第一生成式对抗网络模型对源人像和目标人像进行融合处理,得到仿真度高的第一人脸图像,然后确定第一人脸图像的关键点特征向量,并从目标人像中提取第一目标面部图像和从第一人脸图像提取第二目标面部图像,最后通过第二生成式对抗网络模型,利用关键点特征向量、第一目标面部图像和第二目标面部图像,对第一人脸图像进行处理,得到与目标人像朝向更接近,且形状与目标人像的人脸形状更相似的第二人脸人像,并对第二人脸图像和目标人像进行融合,得到目标换脸人像,从而提高了换脸的真实度和换脸效果。
附图说明
为了更清楚地说明本申请实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种基于人工智能的换脸方法的流程示意图;
图2是本申请实施例中第一生成式对抗网络模型的层级结构示意图;
图3是本申请实施例提供的一种基于人工智能的换脸装置的示意性框图;
图4是图3中的基于人工智能的换脸装置的子模块的示意性框图;
图5是本申请实施例提供的一种计算机设备的结构示意性框图。
本申请目的的实现、功能特点及优点将结合实施例,参阅附图做进一步说明。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
附图中所示的流程图仅是示例说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解、组合或部分合并,因此实际执行的顺序有可能根据实际情况改变。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
本申请实施例提供一种基于人工智能的换脸方法、装置、设备及计算机可读存储介质。其中,该基于人工智能的换脸方法可应用于服务器中,服务器可以是独立的服务器,也可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content Delivery Network,CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。
下面结合附图,对本申请的一些实施方式作详细说明。在不冲突的情况下,下述的实施例及实施例中的特征可以相互组合。
请参阅图1,图1是本申请实施例提供的一种基于人工智能的换脸方法的流程示意图。
如图1所示,该基于人工智能的换脸方法包括步骤S101至步骤S106。
步骤S101、获取第一样本数据集,并根据第一样本数据集对第一生成式对抗网络模型进行迭代训练,直至第一生成式对抗网络模型收敛。
其中,第一样本数据集包括多个人像对,人像对包括第一源人像和第二目标人像,如图2所示,第一生成式对抗网络(GAN,Generative Adversarial Networks)模型包括面部特征提取网络110、属性特征提取网络120和第一GAN网络130,面部特征提取网络110与属性特征提取网络120并联后,与第一GAN网络130串联,面部特征提取网络110用于提取人像的面部特征,属性特征提取网络120用于提取人像的属性特征,,属性特征包括但不限于光照、表情、发型,面部特征提取网络包括Arcface网络,属性特征提取网络包括8层u-net网络结构。
在一实施例中,从第一样本数据集中选择一个人像对作为目标人像对;将目标人像对中的第一源人像输入面部特征提取网络进行面部特征提取,得到第一面部特征向量;将目标人像对中的第一目标人像输入属性特征网络进行属性特征提取,得到第一属性特征向量;将第一面部特征向量和第一属性特征向量输入第一生成式对抗网络进行处理,得到第一预测人脸图像;确定第一预测人脸图像的第二面部特征向量以及所述第一预测人脸图像的第二属性特征向量;根据第一面部特征向量、第一属性特征向量、第二面部特征向量、第二属性特征向量、第一源人像和第一预测人脸图像,计算第一模型损失值;根据第一模型损失值确定第一生成式对抗网络模型是否收敛;若第一生成式对抗网络模型未收敛,则更新第一生成式对抗网络模型的模型参数;返回执行从第一样本数据集中选择一个人像对作为目标人像对的步骤,直至第一生成式对抗网络模型收敛。
示例性的,从第一样本数据集中随机选择一个人像对作为目标人像对。或者,给从第一样本数据集中各人像对分配标识ID,并基于标识ID的按照从小到大的顺序,从第一样本数据集中选择一个人像对作为目标人像对。其中,每次选择的人像对不重复。
示例性的,确定第一面部特征向量与第二面部特征向量之间的第一相似度;确定第一属性特征向量与第二属性特征向量之间的第二相似度;确定第一源人像与第一预测人脸图像之间的第三相似度;根据第一相似度、第二相似度和第三相似度,计算第一模型损失值。其中,第一相似度、第二相似度和第三相似度可以基于余弦相似度公式计算得到。
示例性的,获取第一加权系数、第二加权系数和第三加权系数;计算第一相似度与第一加权系数之间的乘积,得到第一损失值;计算第二相似度与第二加权系数之间的乘积,得到第二损失值;计算第三相似度与第三加权系数之间的乘积,得到第三损失值;对第一损失值、第二损失值和第三损失值进行求和,得到第一模型损失值。其中,第一加权系数、第二加权系数和第三加权系数可基于实际情况进行设置,本实施例对此不做具体限定。
示例性的,根据第一模型损失值确定第一生成式对抗网络模型是否收敛的方式可以为:确定第一模型损失值是否小于或等于预设的第一损失值,若第一模型损失值小于或等于预设的第一损失值,则确定第一生成式对抗网络模型收敛;若第一模型损失值大于第一损失值,则确定第一生成式对抗网络模型未收敛。
步骤S102、获取第二样本数据集,并根据第二样本数据集对第二生成式对抗网络模型进行迭代训练,直至第二生成式对抗网络模型收敛。
其中,第二样本数据集包括多个样本数据,样本数据包括样本人脸图像、样本人像和标注的人脸图像,样本人脸图像为第一生成式对抗网络模型生成的人脸图像。
在一实施例中,从第二样本数据集中选择一个样本数据作为目标样本数据;将目标样本数据中的样本人脸图像输入关键点检测网络进行关键点检测,得到样本人脸图像的关键点特征向量;从样本人脸图像中分割得到第一面部图像,并从目标样本数据中的样本人像内分割得到第二面部图像;将样本人脸图像、样本人脸图像的关键点特征向量、第一面部图像和第二面部图像输入第二生成式对抗网络进行处理,得到第二预测人脸图像;根据第二预测人脸图像与目标样本数据中的标注的人脸图像,计算第二模型损失值;根据第二模型损失值确定所述第二生成式对抗网络是否收敛;若第二生成式对抗网络未收敛,则更新第二生成式对抗网络的模型参数;返回执行从第二样本数据集中选择一个样本数据作为目标样本数据的步骤,直至第二生成式对抗网络收敛。
示例性的,确定第二预测人脸图像与标注的人脸图像之间的相似度,并将该相似度的倒数确定为第二模型损失值。若第二模型损失值小于或等于预设的第二损失值,则确定第二生成式对抗网络模型收敛,若第二模型损失值大于预设的第二损失值,则确定第二生成式对抗网络模型未收敛。
步骤S103、获取源人像和目标人像,并运行收敛后的第一生成式对抗网络模型对源人像和目标人像进行处理,得到第一人脸图像。
示例性的,将源人像输入收敛后的第一生成式对抗网络模型中的面部特征提取网络进行面部特征提取,得到源人像的面部特征向量;将目标人像输入收敛后的第一生成式对抗网络模型中的属性特征网络进行属性特征提取,得到目标人像的属性特征向量;将源人像的面部特征向量和目标人像的属性特征向量输入收敛后的第一生成式对抗网络模型模型中的第一生成式对抗网络进行图像生成处理,得到第一人脸图像。通过融合源人像的面部特征向量和目标人像的属性特征向量可以生成仿真度高的人脸图像。
步骤S104、确定第一人脸图像的关键点特征向量,并从目标人像中提取第一目标面部图像和从第一人脸图像提取第二目标面部图像。
示例性的,将第一人脸图像输入关键点检测网络进行关键点特征提取,得到第一人脸图像的关键点特征向量;将目标人像输入面部分割网络进行面部分割,得到第一面部图像,并将第一人脸图像进行面部分割,得到第二面部图像。其中,关键点检测网络为预先训练好的神经网络,面部分割网络可以为预先训练好的深度卷积神经网络。
步骤S105、运行收敛后的第二生成式对抗网络模型,利用关键点特征向量、第一目标面部图像和第二目标面部图像对第一人脸图像进行处理,得到第二人脸图像。
示例性的,运行收敛后的第二生成式对抗网络模型,利用关键点特征向量、第一目标面部图像和第二目标面部图像对第一人脸图像进行朝向校正和边缘补充处理,得到与目标人像的面部朝向更贴合以及面部轮廓更接近的第二人脸图像。
步骤S106、对第二人脸图像和目标人像进行融合,得到目标换脸人像。
示例性的,对第二目标面部图像的人脸掩膜mask进行边缘羽化处理,得到目标人脸掩膜mask;利用目标人脸掩膜mask对第二人脸图像和目标人像进行融合,得到目标换脸人像。通过边缘过渡自然的目标人脸掩膜mask,对第二人脸图像和目标人像进行融合,可以得到脸部边缘过度自然的整体换脸人像。
在一实施例中,获取目标超分辨率处理模型;运行目标超分辨率处理模型对目标换脸人像进行超分辨率处理。其中,目标超分辨率处理模型为预先根据训练图像集对神经网络模型进行迭代训练得到的,训练图像集包括多个图像组,每个图像组均包括第一图像和第一图像对应的第二图像,第一图像的分辨率低于第二图像的分辨率,该神经网络模型包括但不限于增强深度超分辨率网络(Enhanced Deep Super-Resolution Network,EDSR)、基于深度学习的端到端的超分辨率网络(Super-Resolution ConvolutionalNeural Network,SRCNN)、高效子像素卷积神经网络(Efficient Sub-PixelConvolutional Neural Network,ESPCN)、基于深拉普拉斯金字塔网络的超分辨率网络(Deep Laplacian Pyramid Networks for Fast and Accurate Super-Resolution,LapSRN)等。通过对融合得到的目标换脸人像进行超分辨率处理,可以得到清晰度更高的换脸人像。
上述实施例提供的基于人工智能的换脸方法,通过训练得到第一生成式对抗网络模型和第二生成式对抗网络模型,并通过第一生成式对抗网络模型对源人像和目标人像进行融合处理,得到仿真度高的第一人脸图像,然后确定第一人脸图像的关键点特征向量,并从目标人像中提取第一目标面部图像和从第一人脸图像提取第二目标面部图像,最后通过第二生成式对抗网络模型,利用关键点特征向量、第一目标面部图像和第二目标面部图像,对第一人脸图像进行处理,得到与目标人像朝向更接近,且形状与目标人像的人脸形状更相似的第二人脸人像,并对第二人脸图像和目标人像进行融合,得到目标换脸人像,从而提高了换脸的真实度和换脸效果。
请参阅图3,图3是本申请实施例提供的一种基于人工智能的换脸装置的示意性框图。
如图3所示,该基于人工智能的换脸装置200,包括:
模型训练模块210,用于获取第一样本数据集,并根据所述第一样本数据集对第一生成式对抗网络模型进行迭代训练,直至所述第一生成式对抗网络模型收敛;
所述模型训练模块210,还用于获取第二样本数据集,并根据所述第二样本数据集对第二生成式对抗网络模型进行迭代训练,直至所述第二生成式对抗网络模型收敛;
获取模块220,用于获取源人像和目标人像;
第一处理模块230,用于运行收敛后的所述第一生成式对抗网络模型对所述源人像和所述目标人像进行处理,得到第一人脸图像;
确定模块240,用于确定所述第一人脸图像的关键点特征向量,并从所述目标人像中提取第一目标面部图像和从所述第一人脸图像提取第二目标面部图像;
第二处理模块250,用于运行收敛后的第二生成式对抗网络模型,利用所述关键点特征向量、第一目标面部图像和第二目标面部图像对所述第一人脸图像进行处理,得到第二人脸图像;
图像融合模块260,用于对所述第二人脸图像和所述目标人像进行融合,得到目标换脸人像。
在一实施例中,所述第一生成式对抗网络模型包括面部特征提取网络、属性特征提取网络和第一生成式对抗网络,所述第一样本数据集包括多个人像对,所述人像对包括第一源人像和第二目标人像,所述模型训练模块210还用于:
从所述第一样本数据集中选择一个人像对作为目标人像对;
将所述目标人像对中的第一源人像输入所述面部特征提取网络进行面部特征提取,得到第一面部特征向量;
将所述目标人像对中的第一目标人像输入所述属性特征网络进行属性特征提取,得到第一属性特征向量;
将所述第一面部特征向量和第一属性特征向量输入第一生成式对抗网络进行处理,得到第一预测人脸图像;
确定所述第一预测人脸图像的第二面部特征向量以及所述第一预测人脸图像的第二属性特征向量;
根据所述第一面部特征向量、第一属性特征向量、第二面部特征向量、第二属性特征向量、第一源人像和第一预测人脸图像,计算第一模型损失值;
根据第一模型损失值确定所述第一生成式对抗网络模型是否收敛;
若第一生成式对抗网络模型未收敛,则更新第一生成式对抗网络模型的模型参数;
返回执行所述从所述第一样本数据集中选择一个人像对作为目标人像对的步骤,直至所述第一生成式对抗网络模型收敛。
在一实施例中,所述模型训练模块210还用于:
确定所述第一面部特征向量与所述第二面部特征向量之间的第一相似度;
确定所述第一属性特征向量与所述第二属性特征向量之间的第二相似度;
确定所述第一源人像与所述第一预测人脸图像之间的第三相似度;
根据所述第一相似度、第二相似度和第三相似度,计算第一模型损失值。
在一实施例中,所述模型训练模块210还用于:
获取第一加权系数、第二加权系数和第三加权系数;
计算所述第一相似度与所述第一加权系数之间的乘积,得到第一损失值;
计算所述第二相似度与所述第二加权系数之间的乘积,得到第二损失值;
计算所述第三相似度与所述第三加权系数之间的乘积,得到第三损失值;
对所述第一损失值、所述第二损失值和所述第三损失值进行求和,得到所述第一模型损失值。
在一实施例中,所述第二生成式对抗网络模型包括第二生成式对抗网络,所述第二样本数据集包括多个样本数据,所述模型训练模块210还用于:
从所述第二样本数据集中选择一个样本数据作为目标样本数据;
将所述目标样本数据中的样本人脸图像输入所述关键点检测网络进行关键点检测,得到所述样本人脸图像的关键点特征向量;
从所述样本人脸图像中分割得到第一面部图像,并从所述目标样本数据中的样本人像内分割得到第二面部图像;
将所述样本人脸图像、所述样本人脸图像的关键点特征向量、所述第一面部图像和第二面部图像输入所述第二生成式对抗网络进行处理,得到第二预测人脸图像;
根据所述第二预测人脸图像与所述目标样本数据中的标注的人脸图像,计算第二模型损失值;
根据所述第二模型损失值确定所述第二生成式对抗网络是否收敛;
若所述第二生成式对抗网络未收敛,则更新所述第二生成式对抗网络的模型参数;
返回执行所述从所述第二样本数据集中选择一个样本数据作为目标样本数据的步骤,直至所述第二生成式对抗网络收敛。
在一实施例中,如图4所示,所述图像融合模块260包括:
边缘羽化处理子模块261,用于对所述第二目标面部图像的人脸掩膜进行边缘羽化处理,得到目标人脸掩膜;
图像融合子模块262,用于利用所述目标人脸掩膜对所述第二人脸图像和所述目标人像进行融合,得到目标换脸人像。
在一实施例中,所述第二处理模块250还用于:
获取目标超分辨率处理模型,其中,所述超分辨率处理模型为预先根据训练图像集对神经网络模型进行迭代训练得到的,所述训练图像集包括多个图像组,所述图像组包括第一图像和所述第一图像对应的第二图像,所述第一图像的分辨率低于所述第二图像的分辨率;
运行所述目标超分辨率处理模型对所述目标换脸人像进行超分辨率处理。
需要说明的是,所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的装置和各模块及单元的具体工作过程,可以参考前述基于人工智能的换脸方法实施例中的对应过程,在此不再赘述。
上述实施例提供的装置可以实现为一种计算机程序的形式,该计算机程序可以在如图5所示的计算机设备上运行。
请参阅图5,图5是本申请实施例提供的一种计算机设备的结构示意性框图。该计算机设备可以为服务器或终端设备。
如图5所示,该计算机设备包括通过系统总线连接的处理器、存储器和网络接口,其中,存储器可以包括存储介质和内存储器。
存储介质可存储操作系统和计算机程序。该计算机程序包括程序指令,该程序指令被执行时,可使得处理器执行任意一种基于人工智能的换脸方法。
处理器用于提供计算和控制能力,支撑整个计算机设备的运行。
该网络接口用于进行网络通信,如发送分配的任务等。本领域技术人员可以理解,图5中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
应当理解的是,处理器可以是中央处理单元(Central Processing Unit,CPU),该处理器还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中,通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
其中,在一实施例中,所述处理器用于运行存储在存储器中的计算机程序,以实现以下步骤:
获取第一样本数据集,并根据所述第一样本数据集对第一生成式对抗网络模型进行迭代训练,直至所述第一生成式对抗网络模型收敛;
获取第二样本数据集,并根据所述第二样本数据集对第二生成式对抗网络模型进行迭代训练,直至所述第二生成式对抗网络模型收敛;
获取源人像和目标人像,并运行收敛后的所述第一生成式对抗网络模型对所述源人像和所述目标人像进行处理,得到第一人脸图像;
确定所述第一人脸图像的关键点特征向量,并从所述目标人像中提取第一目标面部图像和从所述第一人脸图像提取第二目标面部图像;
运行收敛后的第二生成式对抗网络模型,利用所述关键点特征向量、第一目标面部图像和第二目标面部图像对所述第一人脸图像进行处理,得到第二人脸图像;
对所述第二人脸图像和所述目标人像进行融合,得到目标换脸人像。
在一实施例中,所述第一生成式对抗网络模型包括面部特征提取网络、属性特征提取网络和第一生成式对抗网络,所述第一样本数据集包括多个人像对,所述人像对包括第一源人像和第二目标人像,所述处理器在实现根据所述第一样本数据集对第一生成式对抗网络模型进行迭代训练,直至所述第一生成式对抗网络模型收敛时,用于实现:
从所述第一样本数据集中选择一个人像对作为目标人像对;
将所述目标人像对中的第一源人像输入所述面部特征提取网络进行面部特征提取,得到第一面部特征向量;
将所述目标人像对中的第一目标人像输入所述属性特征网络进行属性特征提取,得到第一属性特征向量;
将所述第一面部特征向量和第一属性特征向量输入第一生成式对抗网络进行处理,得到第一预测人脸图像;
确定所述第一预测人脸图像的第二面部特征向量以及所述第一预测人脸图像的第二属性特征向量;
根据所述第一面部特征向量、第一属性特征向量、第二面部特征向量、第二属性特征向量、第一源人像和第一预测人脸图像,计算第一模型损失值;
根据第一模型损失值确定所述第一生成式对抗网络模型是否收敛;
若第一生成式对抗网络模型未收敛,则更新第一生成式对抗网络模型的模型参数;
返回执行所述从所述第一样本数据集中选择一个人像对作为目标人像对的步骤,直至所述第一生成式对抗网络模型收敛。
在一实施例中,所述处理器在实现根据所述第一面部特征向量、第一属性特征向量、第二面部特征向量、第二属性特征向量、第一源人像和第一预测人脸图像,计算第一模型损失值时,用于实现:
确定所述第一面部特征向量与所述第二面部特征向量之间的第一相似度;
确定所述第一属性特征向量与所述第二属性特征向量之间的第二相似度;
确定所述第一源人像与所述第一预测人脸图像之间的第三相似度;
根据所述第一相似度、第二相似度和第三相似度,计算第一模型损失值。
在一实施例中,所述处理器在实现根据所述第一相似度、第二相似度和第三相似度,计算第一模型损失值时,用于实现:
获取第一加权系数、第二加权系数和第三加权系数;
计算所述第一相似度与所述第一加权系数之间的乘积,得到第一损失值;
计算所述第二相似度与所述第二加权系数之间的乘积,得到第二损失值;
计算所述第三相似度与所述第三加权系数之间的乘积,得到第三损失值;
对所述第一损失值、所述第二损失值和所述第三损失值进行求和,得到所述第一模型损失值。
在一实施例中,所述第二生成式对抗网络模型包括第二生成式对抗网络,所述第二样本数据集包括多个样本数据,所述处理器在实现根据所述第二样本数据集对第二生成式对抗网络模型进行迭代训练,直至所述第二生成式对抗网络模型收敛时,用于实现:
从所述第二样本数据集中选择一个样本数据作为目标样本数据;
将所述目标样本数据中的样本人脸图像输入所述关键点检测网络进行关键点检测,得到所述样本人脸图像的关键点特征向量;
从所述样本人脸图像中分割得到第一面部图像,并从所述目标样本数据中的样本人像内分割得到第二面部图像;
将所述样本人脸图像、所述样本人脸图像的关键点特征向量、所述第一面部图像和第二面部图像输入所述第二生成式对抗网络进行处理,得到第二预测人脸图像;
根据所述第二预测人脸图像与所述目标样本数据中的标注的人脸图像,计算第二模型损失值;
根据所述第二模型损失值确定所述第二生成式对抗网络是否收敛;
若所述第二生成式对抗网络未收敛,则更新所述第二生成式对抗网络的模型参数;
返回执行所述从所述第二样本数据集中选择一个样本数据作为目标样本数据的步骤,直至所述第二生成式对抗网络收敛。
在一实施例中,所述处理器在实现对所述第二人脸图像和所述目标人像进行融合,得到目标换脸人像时,用于实现:
对所述第二目标面部图像的人脸掩膜进行边缘羽化处理,得到目标人脸掩膜;
利用所述目标人脸掩膜对所述第二人脸图像和所述目标人像进行融合,得到目标换脸人像。
在一实施例中,所述处理器还用于实现以下步骤:
获取目标超分辨率处理模型,其中,所述超分辨率处理模型为预先根据训练图像集对神经网络模型进行迭代训练得到的,所述训练图像集包括多个图像组,所述图像组包括第一图像和所述第一图像对应的第二图像,所述第一图像的分辨率低于所述第二图像的分辨率;
运行所述目标超分辨率处理模型对所述目标换脸人像进行超分辨率处理。
需要说明的是,所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的计算机设备的具体工作过程,可以参考前述基于人工智能的换脸方法实施例中的对应过程,在此不再赘述。
通过以上的实施方式的描述可知,本领域的技术人员可以清楚地了解到本申请可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例或者实施例的某些部分所述的方法。
本申请实施例还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序中包括程序指令,所述程序指令被执行时所实现的方法可参阅本申请基于人工智能的换脸方法的各个实施例。
其中,所述计算机可读存储介质可以是易失性的,也可以是非易失性的。所述计算机可读存储介质可以是前述实施例所述的计算机设备的内部存储单元,例如所述计算机设备的硬盘或内存。所述计算机可读存储介质也可以是所述计算机设备的外部存储设备,例如所述计算机设备上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。
进一步地,所述计算机可读存储介质可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序等;存储数据区可存储根据区块链节点的使用所创建的数据等。
本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
应当理解,在此本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。

Claims (10)

1.一种基于人工智能的换脸方法,其特征在于,包括:
获取第一样本数据集,并根据所述第一样本数据集对第一生成式对抗网络模型进行迭代训练,直至所述第一生成式对抗网络模型收敛;
获取第二样本数据集,并根据所述第二样本数据集对第二生成式对抗网络模型进行迭代训练,直至所述第二生成式对抗网络模型收敛;
获取源人像和目标人像,并运行收敛后的所述第一生成式对抗网络模型对所述源人像和所述目标人像进行处理,得到第一人脸图像;
确定所述第一人脸图像的关键点特征向量,并从所述目标人像中提取第一目标面部图像和从所述第一人脸图像提取第二目标面部图像;
运行收敛后的第二生成式对抗网络模型,利用所述关键点特征向量、第一目标面部图像和第二目标面部图像对所述第一人脸图像进行处理,得到第二人脸图像;
对所述第二人脸图像和所述目标人像进行融合,得到目标换脸人像。
2.根据权利要求1所述的基于人工智能的换脸方法,其特征在于,所述第一生成式对抗网络模型包括面部特征提取网络、属性特征提取网络和第一生成式对抗网络,所述第一样本数据集包括多个人像对,所述人像对包括第一源人像和第二目标人像,所述根据所述第一样本数据集对第一生成式对抗网络模型进行迭代训练,直至所述第一生成式对抗网络模型收敛,包括:
从所述第一样本数据集中选择一个人像对作为目标人像对;
将所述目标人像对中的第一源人像输入所述面部特征提取网络进行面部特征提取,得到第一面部特征向量;
将所述目标人像对中的第一目标人像输入所述属性特征网络进行属性特征提取,得到第一属性特征向量;
将所述第一面部特征向量和第一属性特征向量输入第一生成式对抗网络进行处理,得到第一预测人脸图像;
确定所述第一预测人脸图像的第二面部特征向量以及所述第一预测人脸图像的第二属性特征向量;
根据所述第一面部特征向量、第一属性特征向量、第二面部特征向量、第二属性特征向量、第一源人像和第一预测人脸图像,计算第一模型损失值;
根据第一模型损失值确定所述第一生成式对抗网络模型是否收敛;
若第一生成式对抗网络模型未收敛,则更新第一生成式对抗网络模型的模型参数;
返回执行所述从所述第一样本数据集中选择一个人像对作为目标人像对的步骤,直至所述第一生成式对抗网络模型收敛。
3.根据权利要求2所述的基于人工智能的换脸方法,其特征在于,所述根据所述第一面部特征向量、第一属性特征向量、第二面部特征向量、第二属性特征向量、第一源人像和第一预测人脸图像,计算第一模型损失值,包括:
确定所述第一面部特征向量与所述第二面部特征向量之间的第一相似度;
确定所述第一属性特征向量与所述第二属性特征向量之间的第二相似度;
确定所述第一源人像与所述第一预测人脸图像之间的第三相似度;
根据所述第一相似度、第二相似度和第三相似度,计算第一模型损失值。
4.根据权利要求3所述的基于人工智能的换脸方法,其特征在于,所述根据所述第一相似度、第二相似度和第三相似度,计算第一模型损失值,包括:
获取第一加权系数、第二加权系数和第三加权系数;
计算所述第一相似度与所述第一加权系数之间的乘积,得到第一损失值;
计算所述第二相似度与所述第二加权系数之间的乘积,得到第二损失值;
计算所述第三相似度与所述第三加权系数之间的乘积,得到第三损失值;
对所述第一损失值、所述第二损失值和所述第三损失值进行求和,得到所述第一模型损失值。
5.根据权利要求1所述的基于人工智能的换脸方法,其特征在于,所述第二生成式对抗网络模型包括第二生成式对抗网络,所述第二样本数据集包括多个样本数据,所述根据所述第二样本数据集对第二生成式对抗网络模型进行迭代训练,直至所述第二生成式对抗网络模型收敛,包括:
从所述第二样本数据集中选择一个样本数据作为目标样本数据;
将所述目标样本数据中的样本人脸图像输入所述关键点检测网络进行关键点检测,得到所述样本人脸图像的关键点特征向量;
从所述样本人脸图像中分割得到第一面部图像,并从所述目标样本数据中的样本人像内分割得到第二面部图像;
将所述样本人脸图像、所述样本人脸图像的关键点特征向量、所述第一面部图像和第二面部图像输入所述第二生成式对抗网络进行处理,得到第二预测人脸图像;
根据所述第二预测人脸图像与所述目标样本数据中的标注的人脸图像,计算第二模型损失值;
根据所述第二模型损失值确定所述第二生成式对抗网络是否收敛;
若所述第二生成式对抗网络未收敛,则更新所述第二生成式对抗网络的模型参数;
返回执行所述从所述第二样本数据集中选择一个样本数据作为目标样本数据的步骤,直至所述第二生成式对抗网络收敛。
6.根据权利要求1-5中任一项所述的基于人工智能的换脸方法,其特征在于,所述对所述第二人脸图像和所述目标人像进行融合,得到目标换脸人像,包括:
对所述第二目标面部图像的人脸掩膜进行边缘羽化处理,得到目标人脸掩膜;
利用所述目标人脸掩膜对所述第二人脸图像和所述目标人像进行融合,得到目标换脸人像。
7.根据权利要求6所述的基于人工智能的换脸方法,其特征在于,所述方法还包括:
获取目标超分辨率处理模型,其中,所述超分辨率处理模型为预先根据训练图像集对神经网络模型进行迭代训练得到的,所述训练图像集包括多个图像组,所述图像组包括第一图像和所述第一图像对应的第二图像,所述第一图像的分辨率低于所述第二图像的分辨率;
运行所述目标超分辨率处理模型对所述目标换脸人像进行超分辨率处理。
8.一种基于人工智能的换脸装置,其特征在于,所述基于人工智能的换脸装置包括:
模型训练模块,用于获取第一样本数据集,并根据所述第一样本数据集对第一生成式对抗网络模型进行迭代训练,直至所述第一生成式对抗网络模型收敛;
所述模型训练模块,还用于获取第二样本数据集,并根据所述第二样本数据集对第二生成式对抗网络模型进行迭代训练,直至所述第二生成式对抗网络模型收敛;
获取模块,用于获取源人像和目标人像;
第一图像生成模块,用于将所述源人像和所述目标人像输入收敛后的所述第一生成式对抗网络模型进行处理,得到第一人脸图像;
确定模块,用于确定所述第一人脸图像的关键点特征向量,并从所述目标人像中提取第一目标面部图像和从所述第一人脸图像提取第二目标面部图像;
第二图像生成模块,用于将所述第一人脸图像、关键点特征向量、第一目标面部图像和第二目标面部图像输入收敛后的所述第二生成式对抗网络模型进行处理,得到第二人脸图像;
图像融合模块,用于对所述第二人脸图像和所述目标人像进行融合,得到目标换脸人像。
9.一种计算机设备,其特征在于,所述计算机设备包括处理器、存储器、以及存储在所述存储器上并可被所述处理器执行的计算机程序,其中所述计算机程序被所述处理器执行时,实现如权利要求1至7中任一项所述的基于人工智能的换脸方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,其中所述计算机程序被处理器执行时,实现如权利要求1至7中任一项所述的基于人工智能的换脸方法的步骤。
CN202210044175.7A 2022-01-14 2022-01-14 基于人工智能的换脸方法、装置、设备及存储介质 Pending CN114387656A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210044175.7A CN114387656A (zh) 2022-01-14 2022-01-14 基于人工智能的换脸方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210044175.7A CN114387656A (zh) 2022-01-14 2022-01-14 基于人工智能的换脸方法、装置、设备及存储介质

Publications (1)

Publication Number Publication Date
CN114387656A true CN114387656A (zh) 2022-04-22

Family

ID=81202620

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210044175.7A Pending CN114387656A (zh) 2022-01-14 2022-01-14 基于人工智能的换脸方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN114387656A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115565238A (zh) * 2022-11-22 2023-01-03 腾讯科技(深圳)有限公司 换脸模型的训练方法、装置、设备、存储介质和程序产品
WO2024099004A1 (zh) * 2022-11-09 2024-05-16 腾讯科技(深圳)有限公司 一种图像处理模型训练方法、装置、电子设备、计算机可读存储介质及计算机程序产品

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019228317A1 (zh) * 2018-05-28 2019-12-05 华为技术有限公司 人脸识别方法、装置及计算机可读介质
CN111783603A (zh) * 2020-06-24 2020-10-16 有半岛(北京)信息科技有限公司 生成对抗网络训练方法、图像换脸、视频换脸方法及装置
CN111783647A (zh) * 2020-06-30 2020-10-16 北京百度网讯科技有限公司 人脸融合模型的训练方法、人脸融合方法、装置及设备
CN111860045A (zh) * 2019-04-26 2020-10-30 北京陌陌信息技术有限公司 人脸换脸方法、装置、设备及计算机存储介质
CN113361490A (zh) * 2021-07-14 2021-09-07 网易(杭州)网络有限公司 图像生成、网络训练方法、装置、计算机设备和存储介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019228317A1 (zh) * 2018-05-28 2019-12-05 华为技术有限公司 人脸识别方法、装置及计算机可读介质
CN111860045A (zh) * 2019-04-26 2020-10-30 北京陌陌信息技术有限公司 人脸换脸方法、装置、设备及计算机存储介质
CN111783603A (zh) * 2020-06-24 2020-10-16 有半岛(北京)信息科技有限公司 生成对抗网络训练方法、图像换脸、视频换脸方法及装置
WO2021258920A1 (zh) * 2020-06-24 2021-12-30 百果园技术(新加坡)有限公司 生成对抗网络训练方法、图像换脸、视频换脸方法及装置
CN111783647A (zh) * 2020-06-30 2020-10-16 北京百度网讯科技有限公司 人脸融合模型的训练方法、人脸融合方法、装置及设备
CN113361490A (zh) * 2021-07-14 2021-09-07 网易(杭州)网络有限公司 图像生成、网络训练方法、装置、计算机设备和存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
贾瑞明;李彤;刘圣杰;崔家礼;袁飞;: "基于级联多尺度信息融合对抗网络的红外仿真", 光学学报, vol. 40, no. 18, 30 September 2020 (2020-09-30), pages 1810001 - 1 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024099004A1 (zh) * 2022-11-09 2024-05-16 腾讯科技(深圳)有限公司 一种图像处理模型训练方法、装置、电子设备、计算机可读存储介质及计算机程序产品
CN115565238A (zh) * 2022-11-22 2023-01-03 腾讯科技(深圳)有限公司 换脸模型的训练方法、装置、设备、存储介质和程序产品
CN115565238B (zh) * 2022-11-22 2023-03-28 腾讯科技(深圳)有限公司 换脸模型的训练方法、装置、设备、存储介质和程序产品

Similar Documents

Publication Publication Date Title
Wang et al. Neural graph matching network: Learning lawler’s quadratic assignment problem with extension to hypergraph and multiple-graph matching
Lin et al. Cross-domain visual matching via generalized similarity measure and feature learning
Xiao et al. Deep salient object detection with dense connections and distraction diagnosis
Zhang et al. Image categorization by learning a propagated graphlet path
Han et al. Mesh convolutional restricted Boltzmann machines for unsupervised learning of features with structure preservation on 3-D meshes
CN111476806B (zh) 图像处理方法、装置、计算机设备和存储介质
CN110023989B (zh) 一种素描图像的生成方法及装置
CN114387656A (zh) 基于人工智能的换脸方法、装置、设备及存储介质
CN110598019B (zh) 重复图像识别方法及装置
CN113570684A (zh) 图像处理方法、装置、计算机设备和存储介质
CN111783506A (zh) 目标特征的确定方法、装置和计算机可读存储介质
JP6107531B2 (ja) 特徴抽出プログラム及び情報処理装置
CN110648289A (zh) 图像的加噪处理方法及装置
CN111783779A (zh) 图像处理方法、装置和计算机可读存储介质
CN113673439A (zh) 基于人工智能的宠物狗识别方法、装置、设备及存储介质
CN112200266A (zh) 基于图结构数据的网络训练方法、装置以及节点分类方法
CN112966685A (zh) 用于场景文本识别的攻击网络训练方法、装置及相关设备
CN114972016A (zh) 图像处理方法、装置、计算机设备、存储介质及程序产品
CN114299304A (zh) 一种图像处理方法及相关设备
CN114373224A (zh) 基于自监督学习的模糊3d骨架动作识别方法及装置
CN113537187A (zh) 文本识别方法、装置、电子设备及可读存储介质
WO2015068417A1 (ja) 画像照合システム、画像照合方法およびプログラム
CN112287662A (zh) 基于多个机器学习模型的自然语言处理方法、装置和设备
CN112801045B (zh) 一种文本区域检测方法、电子设备及计算机存储介质
Safar et al. Learning shape priors for object segmentation via neural networks

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination