CN110472558A - 图像处理方法和装置 - Google Patents
图像处理方法和装置 Download PDFInfo
- Publication number
- CN110472558A CN110472558A CN201910742627.7A CN201910742627A CN110472558A CN 110472558 A CN110472558 A CN 110472558A CN 201910742627 A CN201910742627 A CN 201910742627A CN 110472558 A CN110472558 A CN 110472558A
- Authority
- CN
- China
- Prior art keywords
- face
- image set
- similarity degree
- face image
- video template
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
Abstract
本申请实施例公开了图像处理方法和装置。该方法的一具体实施方式包括:获取人脸视频模板,获取该人脸视频模板与至少一个人脸图像集的人脸相似度;输出各个该人脸图像集对应的人脸相似度的相关信息;获取指示该至少一个人脸图像集中的目标人脸图像集的用户选择信息,将该人脸视频模板的视频帧和该目标人脸图像集中的人脸图像输入深度学习模型进行训练;利用训练后的深度学习模型将该人脸视频模板中的人脸区域转换为合成人脸,得到并输出合成图视频帧。本申请实施例可以引导用户参照人脸相似度选取人脸图像集,让用户有更大几率选择人脸相似度较高的人脸图像集,从而加快训练速度。
Description
技术领域
本申请实施例涉及计算机技术领域,具体涉及互联网技术领域,尤其涉及图像处理方法和装置。
背景技术
随着人脸检测(Face Detection)技术的发展,越来越多的用户通过终端设备的各种应用使用人脸检测技术。
通过检测人脸可以确定脸部的多个关键点,每个关键点都有其对应的特征。通过这些关键点,不同的人脸会呈现出不同的特征,利用人脸检测技术可以确定不同人的人脸所呈现的特征。
发明内容
本申请实施例提出了图像处理方法和装置。
第一方面,本申请实施例提供了一种图像处理方法,包括:获取人脸视频模板,获取人脸视频模板与至少一个人脸图像集的人脸相似度,其中,人脸视频模板中的视频帧包含同一个人的人脸,每个人脸图像集中的人脸图像包含同一个人的人脸;输出各个人脸图像集对应的人脸相似度的相关信息;获取指示至少一个人脸图像集中的目标人脸图像集的用户选择信息,将人脸视频模板的视频帧和目标人脸图像集中的人脸图像输入深度学习模型进行训练,利用训练后的深度学习模型将人脸视频模板中的人脸区域转换为合成人脸,得到并输出合成图视频帧,其中,合成人脸是由目标人脸图像集所包含的人脸和人脸区域所合成的人脸,合成人脸与目标人脸图像集的人脸相似度大于合成人脸与人脸视频模板的人脸相似度。
第二方面,本申请实施例提供了一种图像处理装置,包括:获取单元,被配置成获取人脸视频模板,获取人脸视频模板与至少一个人脸图像集的人脸相似度,其中,人脸视频模板中的视频帧包含同一个人的人脸,每个人脸图像集中的人脸图像包含同一个人的人脸;第一输出单元,被配置成输出各个人脸图像集对应的人脸相似度的相关信息;训练单元,被配置成获取指示至少一个人脸图像集中的目标人脸图像集的用户选择信息,将人脸视频模板的视频帧和目标人脸图像集中的人脸图像输入深度学习模型进行训练;合成单元,被配置成利用训练后的深度学习模型将人脸视频模板中的人脸区域转换为合成人脸,得到并输出合成图视频帧,其中,合成人脸是由目标人脸图像集所包含的人脸和人脸区域所合成的人脸,合成人脸与目标人脸图像集的人脸相似度大于合成人脸与人脸视频模板的人脸相似度。
第三方面,本申请实施例提供了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如图像处理方法中任一实施例的方法。
第四方面,本申请实施例提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如图像处理方法中任一实施例的方法。
本申请实施例提供的图像处理方案,首先,获取人脸视频模板,获取人脸视频模板与至少一个人脸图像集的人脸相似度,其中,人脸视频模板中的视频帧包含同一个人的人脸,每个人脸图像集中的人脸图像包含同一个人的人脸。之后,输出各个人脸图像集对应的人脸相似度的相关信息。然后,获取指示至少一个人脸图像集中的目标人脸图像集的用户选择信息,将人脸视频模板的视频帧和目标人脸图像集中的人脸图像输入深度学习模型进行训练,利用训练后的深度学习模型将人脸视频模板中的人脸区域转换为合成人脸,得到合成图视频帧,其中,合成人脸是由目标人脸图像集所包含的人脸和人脸区域所合成的人脸。最后,输出合成图视频帧。本申请实施例可以通过输出人脸相似度的相关信息,以使用户可以看到各个人脸图像集与人脸视频模板的人脸相似度的相关信息,从而了解到各个人脸图像集对应的人脸相似度。这样,本申请实施例可以引导用户参照人脸相似度选取人脸图像集,让用户有更大几率选择人脸相似度较高的人脸图像集,从而加快训练速度。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:
图1是本申请可以应用于其中的示例性系统架构图;
图2a是根据本申请的图像处理方法的一个实施例的流程图;
图2b是根据本申请的图像处理方法的一个实施例一些应用场景的流程图;
图3是根据本申请的图像处理方法的一个应用场景的示意图;
图4是根据本申请的图像处理装置的一个实施例的结构示意图;
图5是适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的图像处理方法或图像处理装置的实施例的示例性系统架构100。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等,比如从服务器获取人脸视频模板与至少一个人脸图像集的人脸相似度。终端设备101、102、103上可以安装有各种通讯客户端应用,例如图像处理应用、视频类应用、直播应用、即时通信工具、邮箱客户端、社交平台软件等。
这里的终端设备101、102、103可以是硬件,也可以是软件。当终端设备101、102、103为硬件时,可以是具有显示屏的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件或软件模块),也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103提供支持的后台服务器。后台服务器可以对接收到的人脸视频模板,以及后台服务器存储的人脸图像集等数据进行分析等处理,并将处理结果(例如人脸相似度)反馈给终端设备。
需要说明的是,本申请实施例所提供的图像处理方法可以由服务器105或者终端设备101、102、103(比如终端设备的处理器)执行,相应地,图像处理装置可以设置于服务器105或者终端设备101、102、103中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
继续参考图2a,示出了根据本申请的图像处理方法的一个实施例的流程200。该图像处理方法,包括以下步骤:
步骤201,获取人脸视频模板,获取人脸视频模板与至少一个人脸图像集的人脸相似度,其中,人脸视频模板中的视频帧包含同一个人的人脸,每个人脸图像集中的人脸图像包含同一个人的人脸。
在本实施例中,图像处理方法的执行主体可以获取人脸视频模板,以及人脸视频模板与至少一个人脸图像集之间的人脸相似度。上述执行主体可以从本地或者其他电子设备获取人脸视频模板。具体地,人脸视频模板可以是用户利用终端设备选择的。人脸视频模板是人脸的视频,其中的视频帧包含人脸。上述执行主体后续可以对人脸视频模板的视频帧中的局部区域进行处理,并保留其他区域。
上述执行主体可以获取其他电子设备确定的人脸视频模板与至少一个人脸图像集的人脸相似度,也可以由上述执行主体确定上述人脸相似度。具体地,上述执行主体或者其他电子设备可以通过多种方式确定上述人脸相似度。比如,上述执行主体或者其他电子设备可以选取人脸视频模板中的其中一帧,以及人脸图像集的其中一个人脸图像,对上述其中一帧包含的人脸和上述其中一个人脸确定相似度,并作为上述人脸相似度。并且,上述执行主体或者其他电子设备还可以选取人脸视频模板中的至少一帧,以及人脸图像集的其中至少一个人脸图像,对上述至少一帧中的每一帧,遍历确定该帧与至少一个人脸图像中各个图像的人脸相似度,或对至少一个人脸图像中的每个人脸图像,遍历确定该人脸图像与模板的各帧视频的人脸相似度。之后,可以确定得到的人脸相似度的平均值。此外,上述执行主体或者其他电子设备还可以对人脸视频模板的每个视频帧,遍历确定该视频帧与人脸图像集中各个人脸图像的人脸相似度,或者,对人脸图像集中的每个人脸图像,遍历确定该人脸图像与人脸视频模板的各视频帧的人脸相似度。之后,确定各个人脸相似度的平均值。
步骤202,输出各个人脸图像集对应的人脸相似度的相关信息。
在本实施例中,上述执行主体可以输出每个人脸图像集对应的人脸相似度的相关信息。如果上述执行主体是服务器,上述执行主体可以向其他电子设备输出人脸相似度的相关信息。如果上述执行主体是终端设备的处理器,上述执行主体可以向显示器输出上述相关信息。
具体地,人脸相似度的相关信息可以是与人脸相似度相关的各种信息,比如上述相关信息可以包括以下至少一种:人脸相似度、不同的人脸相似度对应的标识,比如高相似度对应的红色标识,低相似度对应的蓝色标识。
步骤203,获取指示至少一个人脸图像集中的目标人脸图像集的用户选择信息,将人脸视频模板的视频帧和目标人脸图像集中的人脸图像输入深度学习模型进行训练。
在本实施例中,上述执行主体可以获取用户选择信息,用户选择信息可以指示用户从上述至少一个人脸图像集中选择的人脸图像集,也即目标人脸图像集。之后上述执行主体可以将人脸视频模板的视频帧和目标人脸图像集中的人脸图像输入深度学习模型,以对该深度学习模型进行训练。
在训练的过程中,深度学习模型可以利用人脸视频模板的视频帧,以及目标人脸图像集中的人脸图像进行训练,以使深度学习模型学习上述视频帧以及人脸图像中的特征。训练后的深度神经网络可以将人脸视频模板中的人脸区域,转换为上述合成人脸。深度学习模型输出的合成图视频帧,是人脸视频模型中人脸区域以外的其他区域,与上述合成人脸结合得到的图像。
在本实施例的一些可选的实现方式中,上述方法还包括:
判断本地是否存在人脸图像集;若本地不存在人脸图像集,执行如下获取及判断步骤:获取已选人脸图像并组成人脸图像集,判断已选人脸图像的数量是否达到预设阈值;若所述已选人脸图像的数量达到预设阈值,将所述人脸图像集上传至所述服务器和/或存储于本地;若所述已选人脸图像的数量未达到预设阈值,执行所述获取及判断步骤。
在这些可选的实现方式中,上述执行主体可以在获取了用户选择的人脸视频模板之后,确定本地是否存在人脸图像集。若本地存在人脸图像集,则该人脸图像集已存储于本地,以便于后续在本地确定人脸相似度。此外,该人脸图像集也可以被同步给服务器,也即在服务器存在本地的人脸图像集的同步信息,以便于服务器确定人脸相似度。
若本地不存在人脸图像集,则上述执行主体可以显示图像集新建引导信息,以引导用户选择出已选人脸图像以便于上述执行主体的后续上传。之后,上述执行主体可以利用这些已选人脸图像新建人脸图像集,并在已选人脸图像的数量达到预设阈值的情况下,上传该新建的人脸图像集。这里的图像集新建引导信息是引导用户选择出用于新建人脸图像集的已选人脸图像,以便于后续上述执行主体上传新建的人脸图像集。比如图像集新建引导信息可以是所显示的待选的“新建图像集”。已选人脸图像可以是多个人脸图像组成的人脸视频,也可以是相互间不存在播放先后关系的图片。
这些实现方式可以增加用户的参与度,从而使合成图视频帧更加符合用户的需求。
在这些实现方式的一些可选的应用场景中,上述获取人脸视频模板与至少一个人脸图像集的人脸相似度,可以包括:若本地存在人脸图像集,获取人脸视频模板与至少一个人脸图像集的人脸相似度;以及在若本地存在人脸图像集,获取人脸视频模板与至少一个人脸图像集的人脸相似度之后,步骤202可以包括:显示指示选择是否使用本地存在的人脸图像集的候选选项,和各个人脸图像集对应的人脸相似度的相关信息。
在这些可选的应用场景中,上述执行主体可以显示出指示选择是否使用本地存在的人脸图像集的候选选项,并显示各个人脸图像集对应的人脸相似度的相关信息,让用户选择是否使用本地存在的人脸图像集。
这些应用场景可以通过让用户选择是否使用本地的人脸图像集来给用户自主选择权,增加用户与电子设备之间的交互,让得到的合成图视频帧更符合用户的意愿。
可选地,上述获取指示至少一个人脸图像集中的目标人脸图像集的用户选择信息,可以包括:响应于检测到第一选择操作,获取指示至少一个人脸图像集中的目标人脸图像集的用户选择信息,其中,第一选择操作为对使用本地存在的人脸图像集的候选选项的选择操作;以及上述方法还可以包括:响应于检测到第二选择操作,显示图像集新建引导信息,其中,第二选择操作为对不使用本地存在的人脸图像集的候选选项的选择操作。
具体地,如果用户选择使用本地的人脸图像集,则可以继续让用户选择使用哪个人脸图像集,从而将用户选择的人脸图像集作为目标人脸图像集。如果用户选择不使用本地的人脸图像集,则可以显示图像集新建引导信息,以新建人脸图像集。如图2b所示,图2b示出了这些场景的流程图。
这些可选的场景可以在用户不满意本地的人脸图像集的情况下,新建符合意愿的人脸图像集。这样,方案中采用的人脸图像集能够更加符合用户的主观意愿。
在本实施例的一些可选的实现方式中,上述方法应用于终端设备;步骤202可以包括:
显示各个人脸图像集和/或各个人脸图像集的标识,以及各个人脸图像集对应的人脸相似度;或按照各个人脸图像集对应的人脸相似度由大到小的顺序,显示各个人脸图像集和/或各个人脸图像集的标识。
在这些可选的实现方式中,作为终端设备的上述执行主体可以向用户显示各个人脸图像集,也可以显示人脸图像集的标识,此外,还可以显示人脸图像集对应的人脸相似度。这里的人脸图像集的标识可以是人脸图像集中的某个人脸图像,还可以是人脸图像集的名称等等。
通过人脸相似度高的人脸视频模板和人脸图像集进行训练,可以提高训练速度,因而,这些实现方式可以通过显示相似度,直观地显示出人脸相似度高的人脸图像集,以引导用户的选择。并且,这些实现方式可以按照人脸相似度由大到小的顺序,显示人脸图像集以及人脸图像集的标识,进一步引导用户选择与人脸视频模板有高相似度的人脸图像集,从而能够进一步实现缩短训练时间的目的。
在本实施例的一些可选的实现方式中,步骤203可以包括:响应于目标人脸图像集对应的人脸相似度大于预设相似度阈值,将人脸视频模板的视频帧和目标人脸图像集中的人脸图像输入深度学习模型进行训练。
在这些可选的实现方式中,上述执行主体可以在目标人脸图像集对应的人脸相似度大于预设相似度阈值的情况下,将目标人脸图像集中的人脸图像输入深度学习模型进行训练。
这些实现方式可以这些实现方式可以在现有的人脸图像集的条件下,通过人脸相似度较大的人脸图像集进行训练,实现以较快速度训练深度学习模型。
在本实施例的一些可选的实现方式中,步骤203可以包括:响应于目标人脸图像集对应的人脸相似度,为至少一个人脸图像集对应的人脸相似度中的最大人脸相似度,将人脸视频模板的视频帧和目标人脸图像集中的人脸图像输入深度学习模型进行训练。
在这些可选的实现方式中,响应于目标人脸图像集对应的人脸相似度,在至少一个人脸图像集对应的人脸相似度中是最大的人脸相似度,上述执行主体可以将该目标人脸图像集中的人脸图像输入深度学习模型进行训练。
这些实现方式可以在现有的人脸图像集的条件下,通过人脸相似度最大的人脸图像集进行训练,实现以最快速度训练深度学习模型。
步骤204,利用训练后的深度学习模型将人脸视频模板中的人脸区域转换为合成人脸,得到合成图视频帧,其中,合成人脸是由目标人脸图像集所包含的人脸和人脸区域所合成的人脸,合成人脸与目标人脸图像集的人脸相似度大于合成人脸与人脸视频模板的人脸相似度。
在本实施例中,上述执行主体可以利用训练后的深度学习模型将人脸视频模板中的人脸区域转换为合成人脸,得到合成图视频帧。所得到的合成人脸与人脸图像集所包含的人脸的相似度,大于与人脸视频模板的人脸区域的相似度。
在实践中,上述执行主体可以通过深度学习模型,采用多种方式得到合成人脸。比如,合成图视频帧中的合成人脸,可以是深度学习模型将目标人脸图像集包含的人脸,与人脸视频模板的人脸区域进行融合所得到的人脸。
在本实施例的一些可选的实现方式中,初始深度学习模型包括编码器和解码器;以及步骤203可以包括:将人脸视频模板和目标人脸图像集中的人脸图像输入深度学习模型,通过编码器,基于预设损失函数学习人脸区域和人脸图像集所包含的人脸的共同特征;以及步骤204可以包括:通过解码器,根据共同特征,还原人脸图像集所包含的人脸,得到上述合成人脸;将上述合成人脸和人脸视频模板中人脸区域以外的其他区域进行融合,得到合成图视频帧。
在这些可选的实现方式中,上述执行主体可以利用深度神经网络的编码器学习人脸视频模板的人脸区域,以及人脸图像集所包含的人脸的共同特征。之后,利用解码器还原人脸图像集包含的人脸,并将生成的还原人脸作为上述合成人脸。
这些实现方式可以在人脸视频模板的人脸区域的基础上,还原出人脸图像集中的人脸,从而得到非常自然的合成人脸。
在本实施例的一些可选的实现方式中,步骤203可以包括:利用终端设备的至少一个图形处理器,对深度学习模型进行训练。
在这些可选的实现方式中,上述执行主体可以利用终端设备的至少一个图像处理器训练上述深度学习模型。具体地,上述至少一个图像处理器可以是多个图像处理器组成的图像处理器集群。
这些实现方式在有较高几率采用高相似度的人脸视频模板和人脸图像集进行训练,从而提高了训练速度的基础上,可以将数据量较小的训练步骤放在终端设备完成,从而实现在终端设备快速得到合成图视频帧。
在本实施例的一些可选的实现方式中,接收服务器发送的人脸视频模板与至少一个人脸图像集的人脸相似度,其中,服务器响应于确定人脸图像集的数量为至少两个,确定并发送人脸视频模板与至少一个人脸图像集的人脸相似度。
在这些可选的实现方式中,上述执行主体可以接收服务器发送的人脸相似度从而获取到人脸相似度。服务器在人脸图像集的数量为至少两个的情况下,可以确定人脸相似度从而让终端设备显示人脸相似度的相关信息。
这些实现方式可以在人脸图像集的数量较多的情况下,确定人脸相似度并输出人脸相似度的相关信息,从而引导用户选择相似度较高的人脸图像集。
继续参见图3,图3是根据本实施例的图像处理方法的应用场景的一个示意图。在图3的应用场景中,执行主体301可以获取人脸视频模板,该人脸视频模板包含张某的脸部,获取人脸视频模板与三个人脸图像集的人脸相似度,其中,人脸视频模板中的视频帧包含同一个人的人脸,每个人脸图像集中的人脸图像包含同一个人的人脸。输出各个人脸图像集对应的人脸相似度的相关信息。获取指示上述三个人脸图像集中的人脸图像集A的用户选择信息,其中,人脸图像集A的人脸图像包含李某的脸部。执行主体301将人脸视频模板的视频帧和目标人脸图像集中的人脸图像输入深度学习模型进行训练,利用训练后的深度学习模型将人脸视频模板中的人脸区域转换为合成人脸,得到合成图视频帧,其中,合成人脸是由李某的脸部和张某的脸部所合成的人脸,并且合成人脸很像李某的脸。输出合成图视频帧。
本申请的上述实施例提供的方法能够通过输出人脸相似度的相关信息,以使用户可以看到各个人脸图像集与人脸视频模板的人脸相似度的相关信息,从而了解到各个人脸图像集对应的人脸相似度。这样,本申请实施例可以引导用户参照人脸相似度选取人脸图像集,让用户有更大几率选择人脸相似度较高的人脸图像集,从而加快训练速度。
进一步参考图4,作为对上述各图所示方法的实现,本申请提供了一种图像处理装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图4所示,本实施例的图像处理装置400包括获取单元401、第一输出单元402、训练单元403和合成单元404。其中,获取单元401,被配置成获取人脸视频模板,获取人脸视频模板与至少一个人脸图像集的人脸相似度,其中,人脸视频模板中的视频帧包含同一个人的人脸,每个人脸图像集中的人脸图像包含同一个人的人脸;第一输出单元402,被配置成输出各个人脸图像集对应的人脸相似度的相关信息;训练单元403,被配置成获取指示至少一个人脸图像集中的目标人脸图像集的用户选择信息,将人脸视频模板的视频帧和目标人脸图像集中的人脸图像输入深度学习模型进行训练;合成单元404,被配置成利用训练后的深度学习模型将人脸视频模板中的人脸区域转换为合成人脸,得到并输出合成图视频帧,其中,合成人脸是由目标人脸图像集所包含的人脸和人脸区域所合成的人脸,合成人脸与目标人脸图像集的人脸相似度大于合成人脸与人脸视频模板的人脸相似度。
在一些实施例中,图像处理装置400的获取单元501可以获取人脸视频模板,以及人脸视频模板与至少一个人脸图像集之间的人脸相似度。上述执行主体可以从本地或者其他电子设备获取人脸视频模板。具体地,人脸视频模板可以是用户利用终端设备选择的。
在一些实施例中,第一输出单元402可以输出每个人脸图像集对应的人脸相似度的相关信息。如果上述执行主体是服务器,上述执行主体可以向其他电子设备输出人脸相似度的相关信息。如果上述执行主体是终端设备的处理器,上述执行主体可以向显示器输出上述相关信息。
在一些实施例中,训练单元403可以获取用户选择信息,用户选择信息可以指示用户从上述至少一个人脸图像集中选择的人脸图像集,也即目标人脸图像集。之后上述执行主体可以将人脸视频模板的视频帧和目标人脸图像集中的人脸图像输入深度学习模型,以对该深度学习模型进行训练。
在一些实施例中,合成单元404可以利用训练后的深度学习模型将人脸视频模板中的人脸区域转换为合成人脸,得到合成图视频帧。所得到的合成人脸与人脸图像集所包含的人脸的相似度,大于与人脸视频模板的人脸区域的相似度。
在本实施例的一些可选的实现方式中,所述装置应用于终端设备;所述第一输出单元进一步被配置成:显示各个所述人脸图像集和/或各个所述人脸图像集的标识,以及各个所述人脸图像集对应的人脸相似度;或按照各个所述人脸图像集对应的人脸相似度由大到小的顺序,显示各个所述人脸图像集和/或各个所述人脸图像集的标识。
在本实施例的一些可选的实现方式中,所述训练单元进一步被配置成:利用所述终端设备的至少一个图形处理器,对所述深度学习模型进行训练。
在本实施例的一些可选的实现方式中,所述初始深度学习模型包括编码器和解码器;所述训练单元进一步被配置成:将所述人脸视频模板和所述目标人脸图像集中的人脸图像输入所述深度学习模型,通过所述编码器,基于预设损失函数学习所述人脸区域和人脸图像集所包含的人脸的共同特征;以及所述合成单元进一步被配置成:通过所述解码器,根据所述共同特征,还原所述人脸图像集所包含的人脸,得到所述合成人脸;将所述合成人脸和所述人脸视频模板中人脸区域以外的其他区域进行融合,得到所述合成图视频帧。
在本实施例的一些可选的实现方式中,获取单元进一步被配置成:接收服务器发送的所述人脸视频模板与所述至少一个人脸图像集的人脸相似度,其中,所述服务器响应于确定人脸图像集的数量为至少两个,确定并发送所述人脸视频模板与所述至少一个人脸图像集的人脸相似度。
在本实施例的一些可选的实现方式中,所述训练单元进一步被配置成:响应于所述目标人脸图像集对应的人脸相似度,为所述至少一个人脸图像集对应的人脸相似度中的最大人脸相似度,将所述人脸视频模板的视频帧和所述目标人脸图像集中的人脸图像输入深度学习模型进行训练。
在本实施例的一些可选的实现方式中,所述训练单元进一步被配置成:响应于所述目标人脸图像集对应的人脸相似度大于预设相似度阈值,将所述人脸视频模板的视频帧和所述目标人脸图像集中的人脸图像输入深度学习模型进行训练。
在本实施例的一些可选的实现方式中,所述装置还包括:第一判断单元,被配置成判断本地是否存在人脸图像集;第二判断单元,被配置成若本地不存在人脸图像集,执行如下获取及判断步骤:获取已选人脸图像并组成人脸图像集,判断已选人脸图像的数量是否达到预设阈值;上传单元,被配置成若所述已选人脸图像的数量达到预设阈值,将所述人脸图像集上传至所述服务器和/或存储于本地;第三判断单元,被配置成若所述已选人脸图像的数量未达到预设阈值,执行所述获取及判断步骤。
在本实施例的一些可选的实现方式中,所述获取单元,进一步被配置成:若本地存在人脸图像集,获取所述人脸视频模板与至少一个人脸图像集的人脸相似度,以及在所述若本地存在人脸图像集,获取所述人脸视频模板与至少一个人脸图像集的人脸相似度之后,所述第一输出单元进一步被配置成:显示指示选择是否使用本地存在的人脸图像集的候选选项,和各个所述人脸图像集对应的人脸相似度的相关信息。
在本实施例的一些可选的实现方式中,所述训练单元,包括:响应于检测到第一选择操作,获取指示所述至少一个人脸图像集中的目标人脸图像集的用户选择信息,其中,所述第一选择操作为对使用本地存在的人脸图像集的候选选项的选择操作;以及所述装置还包括:第四判断单元,被配置成响应于检测到第二选择操作,执行所述获取及判断步骤,其中,所述第二选择操作为对不使用本地存在的人脸图像集的候选选项的选择操作。
如图5所示,电子设备500可以包括处理装置(例如中央处理器、图形处理器等)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储装置508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有电子设备500操作所需的各种程序和数据。处理装置501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
通常,以下装置可以连接至I/O接口505:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置506;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置507;包括例如磁带、硬盘等的存储装置508;以及通信装置509。通信装置509可以允许电子设备500与其他设备进行无线或有线通信以交换数据。虽然图5示出了具有各种装置的电子设备500,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图5中示出的每个方框可以代表一个装置,也可以根据需要代表多个装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置509从网络上被下载和安装,或者从存储装置508被安装,或者从ROM 502被安装。在该计算机程序被处理装置501执行时,执行本公开的实施例的方法中限定的上述功能。需要说明的是,本公开的实施例所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括获取单元、第一输出单元、训练单元和合成单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,输出单元还可以被描述为“输出各个所述人脸图像集对应的人脸相似度的相关信息的单元”。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的装置中所包含的;也可以是单独存在,而未装配入该装置中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该装置执行时,使得该装置:获取人脸视频模板,获取所述人脸视频模板与至少一个人脸图像集的人脸相似度,其中,人脸视频模板中的视频帧包含同一个人的人脸,每个所述人脸图像集中的人脸图像包含同一个人的人脸;输出各个所述人脸图像集对应的人脸相似度的相关信息;获取指示所述至少一个人脸图像集中的目标人脸图像集的用户选择信息,将所述人脸视频模板的视频帧和所述目标人脸图像集中的人脸图像输入深度学习模型进行训练;利用训练后的深度学习模型将所述人脸视频模板中的人脸区域转换为合成人脸,得到并输出合成图视频帧,其中,所述合成人脸是由所述目标人脸图像集所包含的人脸和所述人脸区域所合成的人脸,所述合成人脸与所述目标人脸图像集的人脸相似度大于所述合成人脸与所述人脸视频模板的人脸相似度。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本申请中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (11)
1.一种图像处理方法,所述方法包括:
获取人脸视频模板,获取所述人脸视频模板与至少一个人脸图像集的人脸相似度,其中,人脸视频模板中的视频帧包含同一个人的人脸,每个所述人脸图像集中的人脸图像包含同一个人的人脸;
输出各个所述人脸图像集对应的人脸相似度的相关信息;
获取指示所述至少一个人脸图像集中的目标人脸图像集的用户选择信息,将所述人脸视频模板的视频帧和所述目标人脸图像集中的人脸图像输入深度学习模型进行训练;
利用训练后的深度学习模型将所述人脸视频模板中的人脸区域转换为合成人脸,得到并输出合成图视频帧,其中,所述合成人脸是由所述目标人脸图像集所包含的人脸和所述人脸区域所合成的人脸,所述合成人脸与所述目标人脸图像集的人脸相似度大于所述合成人脸与所述人脸视频模板的人脸相似度。
2.根据权利要求1所述的方法,其中,所述方法应用于终端设备;所述输出各个所述人脸图像集对应的人脸相似度的相关信息,包括:
显示各个所述人脸图像集和/或各个所述人脸图像集的标识,以及各个所述人脸图像集对应的人脸相似度;或
按照各个所述人脸图像集对应的人脸相似度由大到小的顺序,显示各个所述人脸图像集和/或各个所述人脸图像集的标识。
3.根据权利要求2所述的方法,其中,所述将所述人脸视频模板和所述目标人脸图像集中的人脸图像输入深度学习模型进行训练,包括:
利用所述终端设备的至少一个图形处理器,对所述深度学习模型进行训练。
4.根据权利要求1所述的方法,其中,所述初始深度学习模型包括编码器和解码器;
所述将所述人脸视频模板的视频帧和所述目标人脸图像集中的人脸图像输入深度学习模型进行训练,包括:
将所述人脸视频模板和所述目标人脸图像集中的人脸图像输入所述深度学习模型,通过所述编码器,基于预设损失函数学习所述人脸区域和人脸图像集所包含的人脸的共同特征;以及
所述利用训练后的深度学习模型将所述人脸视频模板中的人脸区域转换为合成人脸,包括:
通过所述解码器,根据所述共同特征,还原所述人脸图像集所包含的人脸,得到所述合成人脸;
将所述合成人脸和所述人脸视频模板中人脸区域以外的其他区域进行融合,得到所述合成图视频帧。
5.根据权利要求1所述的方法,其中,获取所述人脸视频模板与至少一个人脸图像集的人脸相似度,包括:
接收服务器发送的所述人脸视频模板与所述至少一个人脸图像集的人脸相似度,其中,所述服务器响应于确定人脸图像集的数量为至少两个,确定并发送所述人脸视频模板与所述至少一个人脸图像集的人脸相似度。
6.根据权利要求1所述的方法,其中,所述将所述人脸视频模板的视频帧和所述目标人脸图像集中的人脸图像输入深度学习模型进行训练,包括:
响应于所述目标人脸图像集对应的人脸相似度,为所述至少一个人脸图像集对应的人脸相似度中的最大人脸相似度,将所述人脸视频模板的视频帧和所述目标人脸图像集中的人脸图像输入深度学习模型进行训练;或
响应于所述目标人脸图像集对应的人脸相似度大于预设相似度阈值,将所述人脸视频模板的视频帧和所述目标人脸图像集中的人脸图像输入深度学习模型进行训练。
7.根据权利要求1所述的方法,其中,所述方法还包括:
判断本地是否存在人脸图像集;
若本地不存在人脸图像集,执行如下获取及判断步骤:获取已选人脸图像并组成人脸图像集,判断已选人脸图像的数量是否达到预设阈值;
若所述已选人脸图像的数量达到预设阈值,将所述人脸图像集上传至所述服务器和/或存储于本地;
若所述已选人脸图像的数量未达到预设阈值,执行所述获取及判断步骤。
8.根据权利要求7所述的方法,其中,所述获取所述人脸视频模板与至少一个人脸图像集的人脸相似度,包括:
若本地存在人脸图像集,获取所述人脸视频模板与至少一个人脸图像集的人脸相似度;以及
在所述若本地存在人脸图像集,获取所述人脸视频模板与至少一个人脸图像集的人脸相似度之后,所述输出各个所述人脸图像集对应的人脸相似度的相关信息,包括:
显示指示选择是否使用本地存在的人脸图像集的候选选项,和各个所述人脸图像集对应的人脸相似度的相关信息。
9.根据权利要求8所述的方法,其中,所述获取指示所述至少一个人脸图像集中的目标人脸图像集的用户选择信息,包括:
响应于检测到第一选择操作,获取指示所述至少一个人脸图像集中的目标人脸图像集的用户选择信息,其中,所述第一选择操作为对使用本地存在的人脸图像集的候选选项的选择操作;以及
所述方法还包括:
响应于检测到第二选择操作,执行所述获取及判断步骤,其中,所述第二选择操作为对不使用本地存在的人脸图像集的候选选项的选择操作。
10.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-9中任一所述的方法。
11.一种计算机可读存储介质,其上存储有计算机程序,其中,该程序被处理器执行时实现如权利要求1-9中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910742627.7A CN110472558B (zh) | 2019-08-13 | 2019-08-13 | 图像处理方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910742627.7A CN110472558B (zh) | 2019-08-13 | 2019-08-13 | 图像处理方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110472558A true CN110472558A (zh) | 2019-11-19 |
CN110472558B CN110472558B (zh) | 2023-08-15 |
Family
ID=68511738
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910742627.7A Active CN110472558B (zh) | 2019-08-13 | 2019-08-13 | 图像处理方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110472558B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112017141A (zh) * | 2020-09-14 | 2020-12-01 | 北京百度网讯科技有限公司 | 视频数据处理方法和装置 |
CN112153422A (zh) * | 2020-09-25 | 2020-12-29 | 连尚(北京)网络科技有限公司 | 视频融合方法和设备 |
CN113763232A (zh) * | 2020-08-10 | 2021-12-07 | 北京沃东天骏信息技术有限公司 | 图像处理方法、装置、设备及计算机可读存储介质 |
WO2023143101A1 (zh) * | 2022-01-25 | 2023-08-03 | 阿里巴巴(中国)有限公司 | 一种面部视频编码方法、解码方法及装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108228742A (zh) * | 2017-12-15 | 2018-06-29 | 深圳市商汤科技有限公司 | 人脸查重方法和装置、电子设备、介质、程序 |
CN108921138A (zh) * | 2018-08-03 | 2018-11-30 | 北京字节跳动网络技术有限公司 | 用于生成信息的方法和装置 |
CN109919888A (zh) * | 2019-02-26 | 2019-06-21 | 腾讯科技(深圳)有限公司 | 一种图像融合的方法、模型训练的方法以及相关装置 |
-
2019
- 2019-08-13 CN CN201910742627.7A patent/CN110472558B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108228742A (zh) * | 2017-12-15 | 2018-06-29 | 深圳市商汤科技有限公司 | 人脸查重方法和装置、电子设备、介质、程序 |
CN108921138A (zh) * | 2018-08-03 | 2018-11-30 | 北京字节跳动网络技术有限公司 | 用于生成信息的方法和装置 |
CN109919888A (zh) * | 2019-02-26 | 2019-06-21 | 腾讯科技(深圳)有限公司 | 一种图像融合的方法、模型训练的方法以及相关装置 |
Non-Patent Citations (1)
Title |
---|
「已注销」: "实现 AI 换脸的第一步:人脸搜索", 《CSDN HTTPS://BLOG.CSDN.NET/SOLEDADZZ/ARTICLE/DETAILS/89478476》 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113763232A (zh) * | 2020-08-10 | 2021-12-07 | 北京沃东天骏信息技术有限公司 | 图像处理方法、装置、设备及计算机可读存储介质 |
CN112017141A (zh) * | 2020-09-14 | 2020-12-01 | 北京百度网讯科技有限公司 | 视频数据处理方法和装置 |
CN112153422A (zh) * | 2020-09-25 | 2020-12-29 | 连尚(北京)网络科技有限公司 | 视频融合方法和设备 |
WO2023143101A1 (zh) * | 2022-01-25 | 2023-08-03 | 阿里巴巴(中国)有限公司 | 一种面部视频编码方法、解码方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN110472558B (zh) | 2023-08-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110472558A (zh) | 图像处理方法和装置 | |
CN104995865B (zh) | 基于声音和/或面部辨识的服务提供 | |
US20210312671A1 (en) | Method and apparatus for generating video | |
CN109858445A (zh) | 用于生成模型的方法和装置 | |
CN108898185A (zh) | 用于生成图像识别模型的方法和装置 | |
CN108595628A (zh) | 用于推送信息的方法和装置 | |
CN107343000A (zh) | 用于处理任务的方法和装置 | |
CN109993150A (zh) | 用于识别年龄的方法和装置 | |
CN109308490A (zh) | 用于生成信息的方法和装置 | |
CN109447156A (zh) | 用于生成模型的方法和装置 | |
CN109829432A (zh) | 用于生成信息的方法和装置 | |
CN110516678A (zh) | 图像处理方法和装置 | |
CN109784304A (zh) | 用于标注牙齿图像的方法和装置 | |
CN110502665A (zh) | 视频处理方法和装置 | |
CN109977839A (zh) | 信息处理方法和装置 | |
CN110471733A (zh) | 信息处理方法和装置 | |
CN108521516A (zh) | 用于终端设备的控制方法和装置 | |
CN110009059A (zh) | 用于生成模型的方法和装置 | |
CN109862100A (zh) | 用于推送信息的方法和装置 | |
CN109446442A (zh) | 用于处理信息的方法和装置 | |
CN110516099A (zh) | 图像处理方法和装置 | |
CN109145783A (zh) | 用于生成信息的方法和装置 | |
CN108510084A (zh) | 用于生成信息的方法和装置 | |
CN109271929A (zh) | 检测方法和装置 | |
CN109117758A (zh) | 用于生成信息的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |