CN110059739A - 图像合成方法、装置、电子设备和计算机可读存储介质 - Google Patents

图像合成方法、装置、电子设备和计算机可读存储介质 Download PDF

Info

Publication number
CN110059739A
CN110059739A CN201910292543.8A CN201910292543A CN110059739A CN 110059739 A CN110059739 A CN 110059739A CN 201910292543 A CN201910292543 A CN 201910292543A CN 110059739 A CN110059739 A CN 110059739A
Authority
CN
China
Prior art keywords
image
feature
attribute value
value
coefficient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910292543.8A
Other languages
English (en)
Other versions
CN110059739B (zh
Inventor
王诗吟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Douyin Vision Co Ltd
Douyin Vision Beijing Co Ltd
Original Assignee
Beijing ByteDance Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing ByteDance Network Technology Co Ltd filed Critical Beijing ByteDance Network Technology Co Ltd
Priority to CN201910292543.8A priority Critical patent/CN110059739B/zh
Publication of CN110059739A publication Critical patent/CN110059739A/zh
Application granted granted Critical
Publication of CN110059739B publication Critical patent/CN110059739B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

本公开公开了一种图像合成方法,其特征在于,包括:获取第一图像和第二图像,其中所述第一图像的图像特征对应第一属性值,所述第二图像的所述图像特征对应第二属性值;根据所述第一图像和所述第二图像合成第三图像,其中所述第三图像的所述图像特征对应第三属性值,所述第三属性值大于所述第一属性值,并且所述第三属性值小于所述第二属性值。本公开实施例提供的图像合成方法、装置、电子设备和计算机可读存储介质,基于分类器的训练集合中对应不同属性值或类别的图像数据,合成的图像数据可以用于丰富分类器的训练数据,提高分类器的分类效果。

Description

图像合成方法、装置、电子设备和计算机可读存储介质
技术领域
本公开涉及信息处理领域,尤其涉及一种图像合成方法、装置、电子设备及计算机可读存储介质。
背景技术
随着计算机技术的进步,与图像相关的应用愈发丰富,例如能够通过分类器对图像进行分类和/或识别,进而根据分类和/或识别的结果对图像进一步处理。
以较为流行的美颜应用为例,具有美颜功能的应用能够通过分类器对拍摄的人脸图像进行分类并根据分类结果进行矫正。作为一个具体的示例,分类器包括多个目标类别,每个目标类别对应有特定的关于图像特征的属性值,例如对于根据图像特征中的肤色特征进行分类的分类器,其包括的第一目标类别对应的属性值为0、代表偏黑肤色,其包括的第二目标类别对应的属性值为1、代表亮白肤色,该分类器输出的分类结果包括针对每个目标类别的概率分布,其中针对各目标类别的概率分布的和为1,例如针对前述两个目标类别的概率分布为(0.99,0.01),那么根据该概率分布和各目标类别对应的肤色属性值可以计算输入图像的肤色属性值的期望为0*0.99+1*0.01=0.01,从而确定输入图像中的肤色属于偏黑肤色,进而基于该期望0.01进行“亮白肤色”的矫正以实现美颜的功能。
由于分类器是通过对大量的数据项目进行训练得到的,为了使分类器的分类结果更加显著,用于训练分类器的数据项目往往是根据目标类别精心挑选的。例如对于前述根据图像特征中的肤色特征进行分类的分类器,在挑选用于训练分类器的数据项目时,会倾向于挑选具有偏黑肤色的图像标记为第一目标类别(由于第一目标类别对应的属性值为0,因此也可以将所述图像的属性值标记为0),挑选具有更亮白肤色的图像标记为第二目标类别(由于第二目标类别对应的属性值为1,因此也可以将所述图像的属性值标记为1),根据这些精心挑选的图像所训练出的分类器,其输出的分类结果会更加显著,即分类结果对于某一个目标类别会表现为更高的概率。但是可能存在如下问题:由于被标记为第一目标类别的图像和被标记为第二目标类别的图像的图像特征(例如肤色特征)差距较大,对于图像特征居于第一类别和第二类别之间的输入图像,分类器可能难以得到准确的分类结果,相应地,如果基于不准确的分类结果进一步对输入图像进行处理、例如进行美颜,则可能会矫正过度。
发明内容
本公开实施例提供图像合成方法,装置,电子设备,和计算机可读存储介质,基于分类器的训练集合中对应不同属性值或类别的图像数据,合成对应中间属性值或类别的图像数据,合成的图像数据可以用于丰富分类器的训练数据,提高分类器的分类效果。
第一方面,本公开实施例提供一种图像合成方法,包括:获取第一图像和第二图像,其中所述第一图像的图像特征对应第一属性值,所述第二图像的所述图像特征对应第二属性值;根据所述第一图像和所述第二图像合成第三图像,其中所述第三图像的所述图像特征对应第三属性值,所述第三属性值大于所述第一属性值,并且所述第三属性值小于所述第二属性值。
进一步的,所述图像特征包括人脸图像特征。
进一步的,在根据所述第一图像和所述第二图像合成第三图像之前,还包括:确定第一系数和第二系数,所述第一系数和所述第二系数的和为1,并且所述第一系数和所述第二系数均为正数;所述第三属性值大于所述第一属性值,并且所述第三属性值小于所述第二属性值,包括:所述第三属性值等于所述第一系数与所述第一属性值的乘积与所述第二系数与所述第二属性值的乘积的和。
进一步的,根据所述第一图像和所述第二图像合成第三图像,包括:确定所述第一图像的所述图像特征的第一特征值;确定所述第二图像的所述图像特征的第二特征值;确定所述第三图像的所述图像特征的第三特征值,所述第三特征值等于所述第一系数与所述第一特征值的乘积与所述第二系数与所述第二特征值的乘积的和;根据所述第三特征值合成所述第三图像。
进一步的,根据所述第三特征值合成所述第三图像,包括:根据所述第三特征值渲染所述第三图像中与所述图像特征关联的像素。
进一步的,确定所述第一图像的所述图像特征的第一特征值,包括:从所述第一图像中确定第一人脸关键点,根据所述第一人脸关键点确定所述第一特征值;确定所述第二图像的所述图像特征的第二特征值,包括:从所述第二图像中确定第二人脸关键点,根据所述第二人脸关键点确定所述第二特征值。
进一步的,所述获取第一图像和第二图像,包括:从第一图像集合中获取所述第一图像,从第二图像集合中获取所述第二图像,所述第一图像集合中的图像的所述图像特征对应所述第一属性值,所述第二图像集合中的图像的所述图像特征对应所述第二属性值。
进一步的,所述第三图像属于第三图像集合,所述第三图像集合中的图像的所述图像特征对应所述第三属性值;所述方法还包括,基于所述第一图像集合,所述第二图像集合,和所述第三图像集合训练图像分类器。
第二方面,本公开实施例提供一种图像合成装置,其特征在于,包括:图像获取模块,用于获取第一图像和第二图像,所述第一图像的图像特征对应第一属性值,所述第二图像的所述图像特征对应第二属性值;图像合成模块,用于根据所述第一图像和所述第二图像合成第三图像,其中所述第三图像的所述图像特征对应第三属性值,所述第三属性值大于所述第一属性值,并且所述第三属性值小于所述第二属性值。
进一步的,所述图像特征包括人脸图像特征。
所述图像合成模块还用于:确定第一系数和第二系数,所述第一系数和所述第二系数的和为1,并且所述第一系数和所述第二系数均为正数;所述第三属性值大于所述第一属性值,并且所述第三属性值小于所述第二属性值,包括:所述第三属性值等于所述第一系数与所述第一属性值的乘积与所述第二系数与所述第二属性值的乘积的和。
进一步的,所述图像合成模块还用于:确定所述第一图像的所述图像特征的第一特征值;确定所述第二图像的所述图像特征的第二特征值;确定所述第三图像的所述图像特征的第三特征值,所述第三特征值等于所述第一系数与所述第一特征值的乘积与所述第二系数与所述第二特征值的乘积的和;根据所述第三特征值合成所述第三图像。
进一步的,所述图像合成模块还用于:根据所述第三特征值渲染所述第三图像中与所述图像特征关联的像素。
进一步的,所述图像合成模块还用于:从所述第一图像中确定第一人脸关键点,根据所述第一人脸关键点确定所述第一特征值;确定所述第二图像的所述图像特征的第二特征值,包括:从所述第二图像中确定第二人脸关键点,根据所述第二人脸关键点确定所述第二特征值。
进一步的,所述图像获取模块还用于:从第一图像集合中获取所述第一图像,从第二图像集合中获取所述第二图像,所述第一图像集合中的图像的所述图像特征对应所述第一属性值,所述第二图像集合中的图像的所述图像特征对应所述第二属性值。
进一步的,所述第三图像属于第三图像集合,所述第三图像集合中的图像的所述图像特征对应所述第三属性值;所述图像合成装置还包括训练模块,所述训练模块用于:基于所述第一图像集合,所述第二图像集合,和所述第三图像集合训练图像分类器。
第三方面,本公开实施例提供一种电子设备,包括:存储器,用于存储计算机可读指令;以及与所述存储器耦合的一个或多个处理器,用于运行所述计算机可读指令,使得所述处理器运行时实现前述第一方面中的任一所述图像合成方法。
第四方面,本公开实施例提供一种非暂态计算机可读存储介质,其特征在于,所述非暂态计算机可读存储介质存储计算机指令,当所述计算机指令被计算机执行时,使得所述计算机执行前述第一方面中的任一所述图像合成方法。
本公开公开了一种图像合成方法、装置、电子设备和计算机可读存储介质。其中所述图像合成方法,其特征在于,包括:获取第一图像和第二图像,其中所述第一图像的图像特征对应第一属性值,所述第二图像的所述图像特征对应第二属性值;根据所述第一图像和所述第二图像合成第三图像,其中所述第三图像的所述图像特征对应第三属性值,所述第三属性值大于所述第一属性值,并且所述第三属性值小于所述第二属性值。本公开实施例提供的图像合成方法、装置、电子设备和计算机可读存储介质,基于分类器的训练数据中对应不同属性值或类别的图像数据,合成对应中间属性值或类别的图像数据,合成的图像数据可以用于丰富分类器的训练数据,提高分类器的分类效果。
上述说明仅是本公开技术方案的概述,为了能更清楚了解本公开的技术手段,而可依照说明书的内容予以实施,并且为让本公开的上述和其他目的、特征和优点能够更明显易懂,以下特举较佳实施例,并配合附图,详细说明如下。
附图说明
为了更清楚地说明本公开实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本公开实施例提供的图像合成方法实施例一的流程图;
图2为本公开实施例提供的图像合成方法实施例二的流程图;
图3为本公开实施例提供的图像合成装置实施例的结构示意图;
图4为根据本公开实施例提供的电子设备的结构示意图。
具体实施方式
以下通过特定的具体实例说明本公开的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本公开的其他优点与功效。显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。本公开还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本公开的精神下进行各种修饰或改变。需说明的是,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。基于本公开中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
需要说明的是,下文描述在所附权利要求书的范围内的实施例的各种方面。应显而易见,本文中所描述的方面可体现于广泛多种形式中,且本文中所描述的任何特定结构及/或功能仅为说明性的。基于本公开,所属领域的技术人员应了解,本文中所描述的一个方面可与任何其它方面独立地实施,且可以各种方式组合这些方面中的两者或两者以上。举例来说,可使用本文中所阐述的任何数目个方面来实施设备及/或实践方法。另外,可使用除了本文中所阐述的方面中的一或多者之外的其它结构及/或功能性实施此设备及/或实践此方法。
还需要说明的是,以下实施例中所提供的图示仅以示意方式说明本公开的基本构想,图示中仅显示与本公开中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制,其实际实施时各组件的型态、数量及比例可为一种随意的改变,且其组件布局型态也可能更为复杂。
另外,在以下描述中,提供具体细节是为了便于透彻理解实例。然而,所属领域的技术人员将理解,可在没有这些特定细节的情况下实践所述方面。
本实施例提供的该图像合成方法可以由一个图像合成装置来执行,该装置可以实现为软件,可以实现为硬件,还可以实现为软件和硬件的组合,例如所述图像合成装置包括计算机设备,从而通过该计算机设备来执行本实施例提供的该图像合成方法,如本领域技术人员所理解的,计算机设备可以是台式或便携计算机设备,还可以是移动终端设备等。
图1为本公开实施例提供的图像合成方法实施例一的流程图,如图1所示,本公开实施例的图像合成方法包括如下步骤:
步骤S101,获取第一图像和第二图像,其中所述第一图像的图像特征对应第一属性值,所述第二图像的所述图像特征对应第二属性值;
本公开实施例期望对获取的对应不同属性值的图像来合成对应中间属性值的图像,以便丰富分类器的训练数据,以期提高分类器的分类效果,因此在步骤S101中,首先要获取用于合成图像的第一图像和第二图像,所述第一图像和第二图像的所述图像特征分别对应了不同的属性值即第一属性值和第二属性值。作为示例,所述图像特征包括肤色特征,在步骤S101中所获取的所述第一图像的肤色特征对应第一属性值(例如为0,代表偏黑肤色),所获取的所述第二图像的肤色特征对应第二属性值(例如为1,代表亮白肤色),所述第一属性值和所述第二属性值不同。
可选的,本公开实施例中的图像特征包括人脸图像特征或人像图像特征等。例如所述人脸图像特征或人像图像特征可以包括脸型特征,鼻型特征,眼型特征,耳型特征,嘴型特征,眉型特征,发型特征,肤色特征,身高特征,体型特征等。如本领域技术人员所明确的,本公开实施例中的图像特征可以通过颜色特征和/或形状特征来表征,所述颜色特征和形状特征包括像素颜色,像素亮度,像素灰度,和/或像素位置。另外,本领域技术人员可以理解,本公开实施例中图像特征所对应的属性值(例如第一属性值,第二属性值,第三属性值等)可以用于量化所述图像特征,例如对于肤色特征,其所对应的属性值越大则代表肤色越亮白,其对应的属性值越小则代表肤色越偏黑。本领域技术人员可以根据需要对图像特征和所述图像特征对应的属性值的取值范围和表征内容等进行任意定义。
步骤S102,根据所述第一图像和所述第二图像合成第三图像,其中所述第三图像的所述图像特征对应第三属性值,所述第三属性值大于所述第一属性值,并且所述第三属性值小于所述第二属性值。
在步骤S102中,根据在步骤S101所获取的所述第一图像和所述第二图像所合成的第三图像,其图像特征对应的第三属性值居于所述第一属性值和所述第二属性值之间。基于前述图像特征包括肤色特征的示例,由于所述第一图像的肤色特征对应第一属性值为0,代表偏黑肤色,所述第二图像的肤色特征对应第二属性值为1,代表亮白肤色),那么根据所述第一图像和所述第二图像所合成的第三图像的肤色特征对应的第三属性值例如可以为0.3,0.5,或者0.8。通过上述方式能够基于获取的对应不同属性值的图像合成新的图像,合成的新的图像的图像特征所对应的属性值介于所述不同属性值之间,因此新合成的图像可以用于训练图像分类器,从而丰富了分类器的训练数据。
在一个可选的实施例中,在根据所述第一图像和所述第二图像合成第三图像之前,还包括:确定第一系数和第二系数,所述第一系数和所述第二系数的和为1,并且所述第一系数和所述第二系数均为正数;所述第三属性值大于所述第一属性值,并且所述第三属性值小于所述第二属性值,包括:所述第三属性值等于所述第一系数与所述第一属性值的乘积与所述第二系数与所述第二属性值的乘积的和。基于前述图像特征包括肤色特征的示例,所述第一图像的肤色特征对应第一属性值为O,所述第二图像的肤色特征对应第二属性值为1,如果所述第一系数为0.3,所述第二系数为0.7,那么合成的第三图像的肤色特征对应的属性值为0*0.3+1*0.7=0.7,这可以代表所述第三图像的肤色特征对应了中等偏黑的肤色;如果所述第一系数为0.5,所述第二系数为0.5,那么合成的第三图像的肤色特征对应的属性值为0*0.5+1*0.5=0.5,这可以代表所述第三图像中的肤色特征对应了正常肤色。由于合成的第三图像的肤色特征对应了第三属性值,因此可以基于该第三属性值将所述第三图像用于训练基于肤色特征进行分类的图像分类器。如本领域技术人员所理解的,图像分类器可以对输入的大量图像进行分析,以图像分类器基于一个图像特征如肤色特征对图像进行训练为例,用于训练该图像分类器的训练数据包括大量图像,所述大量图像事先标记有与肤色特征对应的属性值(例如本公开实施例中的第一属性值,第二属性值,第三属性值等),在训练图像分类器的过程中会通过对所述大量图像进行数据处理,识别其属性值并将识别的属性值与所述与肤色特征对应的属性值进行比对并将比对结果用于修正图像分类器,从而完成对图像分类器的训练,本公开实施例合成的一个或多个所述第三图像,以及一个或多个所述第一图像,和一个或多个所述第二图像均能够用于训练图像分类器,例如用于训练基于LeNet,AlexNet,GoogLeNet等各种卷积神经网络的分类器。
在一个可选的实施例中,根据所述第一图像和所述第二图像合成第三图像,包括:确定所述第一图像的所述图像特征的第一特征值;确定所述第二图像的所述图像特征的第二特征值;确定所述第三图像的所述图像特征的第三特征值,所述第三特征值等于所述第一系数与所述第一特征值的乘积与所述第二系数与所述第二特征值的乘积的和;根据所述第三特征值合成所述第三图像。如前所述,本公开实施例中的图像特征可以通过颜色特征和/或形状特征来表征,所述颜色特征和形状特征包括像素颜色,像素亮度,像素灰度,和/或像素位置,并且本领域技术人员可以明确,任何现有的或将来的获取图像的图像特征的图像处理方法均能够应用到本公开实施例中。
以所述图像特征包括肤色特征为例,可以通过数据库事先存储所述第一图像的肤色特征的第一特征值和所述第二图像的肤色特征的第二特征值,从而可以通过读取数据库的方式确定所述第一特征值和所述第二特征值,还可以通过颜色特征在所述第一图像和所述第二图像中确定人物皮肤的位置范围,进而根据人物皮肤的位置范围中的像素的颜色确定所述第一特征值和所述第二特征值。作为一个示例,所述肤色特征的特征值包括图像中的面部区域内的各像素颜色的平均值,那么所述第一特征值包括所述第一图像中的面部区域内的各像素颜色的平均值例如为M,所述第二特征值包括所述第二图像中的面部区域内的各像素颜色的平均值例如为N,相应地所述第三图像中的肤色特征的第三特征值Q=M*第一系数+N*第二系数,从而在合成所述第三图像的过程中,将根据第三特征值Q合成所述第三图像。
在一个可选的实施例中,根据所述第三特征值合成所述第三图像,包括:根据所述第三特征值渲染所述第三图像中与所述图像特征关联的像素。例如根据上述肤色特征的第三特征值Q合成所述第三图像时,与所述图像特征关联的像素为图像中的面部区域内的像素,因此通过所述第三特征值Q渲染所述第三图像中的面部区域内的像素的颜色,或者通过与肤色对应的颜色渲染所述第三图像中的面部区域内的像素的颜色但所述面部区域内的像素的颜色的平均值为0。
在确定所述第一特征值和所述第二特征值的过程中,可选的,确定所述第一图像的所述图像特征的第一特征值,包括:从所述第一图像中确定第一人脸关键点,根据所述第一人脸关键点确定所述第一特征值;确定所述第二图像的所述图像特征的第二特征值,包括:从所述第二图像中确定第二人脸关键点,根据所述第二人脸关键点确定所述第二特征值。
如同本领域技术人员所理解的,图像处理技术可以实现在图像中确定与颜色特征和/或形状特征匹配或者对应的位置,即实现关键点定位。因此基于与人脸特征对应的颜色特征和/或形状特征能够确定图像中的人脸关键点,根据所述与人脸特征对应的颜色特征和/或形状特征的不同,所确定的人脸关键点可以包括人脸轮廓关键点,五官关键点(例如眼、口、鼻、耳、眉等关键点),发型关键点等。由于人脸关键点在图像中仅占据非常小的面积(通常只有几个至几十个像素的大小),与人脸关键点对应的人脸特征在图像上所占据的区域通常也是非常有限和局部的,目前用的特征提取方式有两种:(1)沿轮廓垂向的一维范围图像特征提取;(2)关键点方形邻域的二维范围图像特征提取。上述两种方式有很多种实现方法,如ASM和AAM类方法、统计能量函数类方法、回归分析方法、深度学习方法、分类器方法、批量提取方法等等。
通过上述方法,可以根据需要基于人脸特征确定人脸关键点,例如本公开实施例中所述图像特征为脸型特征,那么可以通过上述方法提取人脸轮廓关键点,并基于人脸轮廓关键点确定脸型特征的特征值;还例如本公开实施例中所述图像特征为肤色特征,那么可以通过上述方法提取人脸轮廓关键点,并基于人脸轮廓关键点在人脸轮廓内确定肤色特征的特征值。
作为一个示例,所述图像特征为脸型特征,在通过步骤S101获取所述第一图像和所述第二图像后,通过上述方法分别从第一图像和第二图像中确定人脸轮廓关键点:例如确定的所述人脸轮廓关键点包括一个头顶关键点、一个下巴关键点、两个眉毛延长线关键点,两个眼角延长线关键点,两个脸颊关键点,和两个嘴角延长线关键点,因此基于上述关键点的坐标可以得到脸型特征的特征值,所述特征值包括头顶关键点和下巴关键点之间的距离,两个眉毛延长线关键点之间的距离,两个眼角延长线关键点之间的距离,两个脸颊关键点之间的距离,和两个嘴角延长线关键点之间的距离共五个距离。在通过上述方式确定了所述第一图像的脸型特征的第一特征值和所述第二图像的脸型特征的第二特征值后,就可以根据所述第一系数和所述第二系数确定所述第三图像的脸型特征的第三特征值(所述脸型特征的第三特征值包括头顶关键点和下巴关键点之间的距离,两个眉毛延长线关键点之间的距离,两个眼角延长线关键点之间的距离,两个脸颊关键点之间的距离,和两个嘴角延长线关键点之间的距离共五个距离,其中的每个距离为所述第一图像对应的距离与第一系数的乘积与所述第二图像对应的距离与第二系数的乘积的和),从而在步骤S102中,可以根据所述第三特征值合成所述第三图像,例如根据第三特征值的五个距离可以确定人脸轮廓关键点,从而根据人脸轮廓关键点基于三角剖分技术等生成脸部轮廓,而对于第三图像中与所述脸部轮廓无关的像素,可以基于所述第一图像和所述第二图像进行合成处理。
如本领域技术人员所理解的,在前述基于所述第一图像和所述第二图像进行合成处理的处理过程中,可以对所述第一图像和所述第二图像进行对准处理,以使所述第一图像和所述第二图像将具有相同或相似的分辨率和/或尺寸,进一步的,可以根据设定的比例使经过所述对准处理的第一图像和第二图像中的脸部区域在图像中具有相同或相似的比例,从而在基于所述第一图像和所述第二图像合成所述第三图像的过程中,可以采用相同或相应位置的像素颜色直接叠加的方式合成所述第三图像,还可以采用相同或相应位置的像素颜色分别乘以所述第一系数和所述第二系数再相加的方式合成所述第三图像。进一步的,对于合成处理过程中由于像素叠加造成的边界模糊,可以采用泊松融合的方式对边界进行处理以形成更加平滑、自然的第三图像。尽管本公开提供了多种通过两个图像合成一个图像的示例,但是本领域技术人员可以理解,本公开对于通过两个图像合成一个图像的图像处理技术不做限定,任何现有的和将来的图像合成技术均能够应用到本公开实施例中。
如图2所示,在本公开的图像合成方法的实施例二中,在与步骤S101对应的步骤S201中,所获取的第一图像是从第一图像集合中获取的,所获取的第二图像是从第二图像集合中获取的,所述第一图像集合中的图像的所述图像特征对应所述第一属性值,所述第二图像集合中的图像的所述图像特征对应所述第二属性值。也就是说,所述步骤S201包括:从第一图像集合获取第一图像,从第二图像集合获取第二图像,所述第一图像集合中的图像的图像特征对应第一属性值,所述第二图像集合中的图像的所述图像特征对应第二属性值。
在与步骤S102对应的步骤S202中,根据所述第一图像和所述第二图像合成的所述第三图像属于第三图像集合,所述第三图像集合中的所述图像特征对应于所述第三属性值。也就是说,步骤S202包括:根据所述第一图像和所述第二图像合成第三图像,其中所述第三图像属于第三图像集合,所述第三图像集合中的图像的所述图像特征对应第三属性值,所述第三属性值大于所述第一属性值,并且所述第三属性值小于所述第二属性值。
通过步骤S201和步骤S202,可以根据所述第一图像和所述第二图像合成第三图像,其中所述第三图像的图像特征对应的属性值介于所述第一图像和所述第二图像的所述图像对应的属性值之间,从而可以以较低成本获得具有不同属性值或类别的图像,用以丰富分类器的训练数据。进一步的,在本公开的图像合成方法的实施例二中,还可以按照图像合成方法的实施例一中的实施方式合成所述第三图像,此处不再赘述。
进一步可选的,所述第三图像属于第图像三集合,所述第三图像集合中的图像的所述图像特征对应所述第三属性值,在本公开的图像合成方法的实施例二中,还可以基于所述第一图像集合,所述第二图像集合,和所述第三图像集合训练图像分类器。例如所述第一图像集合和第二图像集合中均包括大量的图像,那么可以采用随机的方式从所述第一图像集合和所述第二图像集合中获取所述第一图像和所述第二图像以生成所述第三图像;并且还可以从所述第一图像集合和所述第二图像集合中获取多个第一图像和第二图像以合成多个第三图像,所述多个第三图像属于第三图像集合,所述第三图像集合中的图像的所述图像特征均对应所述第三属性值。那么可以将所述第一图像集合,所述第二图像集合,和所述第三图像集合作为训练集合训练基于所述图像特征进行分类的图像分类器。由于该训练集合中的图像已经对应有与该图像特征对应的属性值(例如所述第一属性值,所述第二属性值,是第三属性值等),在训练图像分类器的过程中会通过对所述训练集合中图像进行数据处理,识别其属性值并将识别的属性值与标记的所述属性值进行比对并将比对结果用于修正图像分类器,从而完成对图像分类器的训练,即训练所述图像分类器包括:根据所述第一属性值,所述第二属性值,所述第三属性值训练所述图像分类器。例如基于上述训练集合训练的图像分类器可以用于对输入的图像进行分类,该图像分类器可以包括三个目标类别,该三个目标类别分别对应所述第一属性值,第二属性值,第三属性值,该图像分类器输出的分类结果包括针对每个目标类别(或每个属性值)的概率分布,其中针对各目标类别的概率分布的和为1,进而可以根据该概率分布和各目标类别对应的属性值计算输入图像的所述图像特征对应的属性值的期望,以用于诸如美颜功能等各种应用。
图3所示为本公开实施例提供的图像合成装置300实施例的结构示意图,如图3所示,所述装置包括图像获取模块301和图像合成模块302。
图像获取模块301,用于获取第一图像和第二图像,其中所述第一图像的图像特征对应第一属性值,所述第二图像的所述图像特征对应第二属性值;
图像合成模块302,用于根据所述第一图像和所述第二图像合成第三图像,其中所述第三图像的所述图像特征对应第三属性值,所述第三属性值大于所述第一属性值,并且所述第三属性值小于所述第二属性值。
可选的,所述第一图像是从第一图像集合中获取的,所述第二图像是从第二图像集合中获取的,所述第一图像集合中的图像的所述图像特征对应所述第一属性值,所述第二图像集合中的图像的所述图像特征对应所述第二属性值,并且所述第三图像属于第三图像集合,所述第图像三集合中的图像的所述图像特征对应所述第三属性值,相应地,所述图像合成装置还包括训练模块303,所述训练模块303用于根据所述训练集合训练图像分类器。
图3所示装置可以执行图1和/或图2所示实施例的方法,本实施例未详细描述的部分,可参考对图1和/或图2所示实施例的相关说明。该技术方案的执行过程和技术效果参见图1和/或图2所示实施例中的描述,在此不再赘述。
下面参考图4,其示出了适于用来实现本公开实施例的电子设备400的结构示意图。本公开实施例中的电子设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图4示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图4所示,电子设备400可以包括处理装置(例如中央处理器、图形处理器等)401,其可以根据存储在只读存储器(ROM)402中的程序或者从存储装置408加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。在RAM 403中,还存储有电子设备400操作所需的各种程序和数据。处理装置401、ROM 402以及RAM 403通过总线或通信线路404彼此相连。输入/输出(I/O)接口405也连接至总线或通信线路404。
通常,以下装置可以连接至I/O接口405:包括例如触摸屏、触摸板、键盘、鼠标、图像传感器、麦克风、加速度计、陀螺仪等的输入装置406;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置407;包括例如磁带、硬盘等的存储装置408;以及通信装置409。通信装置409可以允许电子设备400与其他设备进行无线或有线通信以交换数据。虽然图4示出了具有各种装置的电子设备400,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置409从网络上被下载和安装,或者从存储装置408被安装,或者从ROM 402被安装。在该计算机程序被处理装置401执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备执行上述实施例中的图像合成方法。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言-诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言-诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络-包括局域网(LAN)或广域网(WAN)-连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (11)

1.一种图像合成方法,其特征在于,包括:
获取第一图像和第二图像,其中所述第一图像的图像特征对应第一属性值,所述第二图像的所述图像特征对应第二属性值;
根据所述第一图像和所述第二图像合成第三图像,其中所述第三图像的所述图像特征对应第三属性值,所述第三属性值大于所述第一属性值,并且所述第三属性值小于所述第二属性值。
2.根据权利要求1所述的图像合成方法,其特征在于,所述图像特征包括人脸图像特征。
3.根据权利要求1或2所述的图像合成方法,其特征在于,在根据所述第一图像和所述第二图像合成第三图像之前,还包括:
确定第一系数和第二系数,所述第一系数和所述第二系数的和为1,并且所述第一系数和所述第二系数均为正数;
所述第三属性值大于所述第一属性值,并且所述第三属性值小于所述第二属性值,包括:
所述第三属性值等于所述第一系数与所述第一属性值的乘积与所述第二系数与所述第二属性值的乘积的和。
4.根据权利要求3所述的图像合成方法,其特征在于,根据所述第一图像和所述第二图像合成第三图像,包括:
确定所述第一图像的所述图像特征的第一特征值;
确定所述第二图像的所述图像特征的第二特征值;
确定所述第三图像的所述图像特征的第三特征值,所述第三特征值等于所述第一系数与所述第一特征值的乘积与所述第二系数与所述第二特征值的乘积的和;
根据所述第三特征值合成所述第三图像。
5.根据权利要求4所述的图像合成方法,其特征在于,根据所述第三特征值合成所述第三图像,包括:
根据所述第三特征值渲染所述第三图像中与所述图像特征关联的像素。
6.根据权利要求4或5所述的图像合成方法,其特征在于,确定所述第一图像的所述图像特征的第一特征值,包括:
从所述第一图像中确定第一人脸关键点,根据所述第一人脸关键点确定所述第一特征值;
确定所述第二图像的所述图像特征的第二特征值,包括:
从所述第二图像中确定第二人脸关键点,根据所述第二人脸关键点确定所述第二特征值。
7.根据权利要求1所述的图像合成方法,其特征在于,所述获取第一图像和第二图像,包括:从第一图像集合中获取所述第一图像,从第二图像集合中获取所述第二图像,所述第一图像集合中的图像的所述图像特征对应所述第一属性值,所述第二图像集合中的图像的所述图像特征对应所述第二属性值。
8.根据权利要求7所述的图像合成方法,其特征在于,所述第三图像属于第三图像集合,所述第三图像集合中的图像的所述图像特征对应所述第三属性值;
所述方法还包括,基于所述第一图像集合,所述第二图像集合,和所述第三图像集合训练图像分类器。
9.一种图像合成装置,其特征在于,包括:
图像获取模块,用于获取第一图像和第二图像,所述第一图像的图像特征对应第一属性值,所述第二图像的所述图像特征对应第二属性值;
图像合成模块,用于根据所述第一图像和所述第二图像合成第三图像,其中所述第三图像的所述图像特征对应第三属性值,所述第三属性值大于所述第一属性值,并且所述第三属性值小于所述第二属性值。
10.一种电子设备,包括:
存储器,用于存储计算机可读指令;以及
处理器,用于运行所述计算机可读指令,使得所述处理器运行时实现根据权利要求1-8中任意一项所述的图像合成方法。
11.一种非暂态计算机可读存储介质,用于存储计算机可读指令,当所述计算机可读指令由计算机执行时,使得所述计算机执行权利要求1-8中任意一项所述的图像合成方法。
CN201910292543.8A 2019-04-12 2019-04-12 图像合成方法、装置、电子设备和计算机可读存储介质 Active CN110059739B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910292543.8A CN110059739B (zh) 2019-04-12 2019-04-12 图像合成方法、装置、电子设备和计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910292543.8A CN110059739B (zh) 2019-04-12 2019-04-12 图像合成方法、装置、电子设备和计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN110059739A true CN110059739A (zh) 2019-07-26
CN110059739B CN110059739B (zh) 2022-03-04

Family

ID=67317709

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910292543.8A Active CN110059739B (zh) 2019-04-12 2019-04-12 图像合成方法、装置、电子设备和计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN110059739B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111062314A (zh) * 2019-12-13 2020-04-24 腾讯科技(深圳)有限公司 图像选取方法、装置、计算机可读存储介质及电子设备
CN111325704A (zh) * 2020-02-07 2020-06-23 北京字节跳动网络技术有限公司 图像修复方法、装置、电子设备及计算机可读存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101187977A (zh) * 2007-12-18 2008-05-28 北京中星微电子有限公司 一种人脸认证的方法和装置
CN104217454A (zh) * 2014-08-21 2014-12-17 中国科学院计算技术研究所 一种视频驱动的人脸动画生成方法
CN104869316A (zh) * 2015-05-29 2015-08-26 北京京东尚科信息技术有限公司 一种多目标的摄像方法及装置
CN105611146A (zh) * 2015-09-30 2016-05-25 宇龙计算机通信科技(深圳)有限公司 基于双摄像头的成像方法及装置
CN105792756A (zh) * 2014-01-24 2016-07-20 奥林巴斯株式会社 超声波观测装置、超声波观测装置的动作方法以及超声波观测装置的动作程序
CN107566761A (zh) * 2017-09-30 2018-01-09 联想(北京)有限公司 一种图像处理方法及电子设备
CN108257162A (zh) * 2016-12-29 2018-07-06 北京三星通信技术研究有限公司 合成脸部表情图像的方法和装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101187977A (zh) * 2007-12-18 2008-05-28 北京中星微电子有限公司 一种人脸认证的方法和装置
CN105792756A (zh) * 2014-01-24 2016-07-20 奥林巴斯株式会社 超声波观测装置、超声波观测装置的动作方法以及超声波观测装置的动作程序
CN104217454A (zh) * 2014-08-21 2014-12-17 中国科学院计算技术研究所 一种视频驱动的人脸动画生成方法
CN104869316A (zh) * 2015-05-29 2015-08-26 北京京东尚科信息技术有限公司 一种多目标的摄像方法及装置
CN105611146A (zh) * 2015-09-30 2016-05-25 宇龙计算机通信科技(深圳)有限公司 基于双摄像头的成像方法及装置
CN108257162A (zh) * 2016-12-29 2018-07-06 北京三星通信技术研究有限公司 合成脸部表情图像的方法和装置
CN107566761A (zh) * 2017-09-30 2018-01-09 联想(北京)有限公司 一种图像处理方法及电子设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
K SREEKUMAR等: "《Automatic image annotation using synthesis of complementary features》", 《2013 IEEE SECOND INTERNATIONAL CONFERENCE ON IMAGE INFORMATION PROCESSING (ICIIP-2013)》 *
邹国锋等: "《基于加权均值人脸的多姿态人脸识别》", 《计算机应用研究》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111062314A (zh) * 2019-12-13 2020-04-24 腾讯科技(深圳)有限公司 图像选取方法、装置、计算机可读存储介质及电子设备
CN111325704A (zh) * 2020-02-07 2020-06-23 北京字节跳动网络技术有限公司 图像修复方法、装置、电子设备及计算机可读存储介质

Also Published As

Publication number Publication date
CN110059739B (zh) 2022-03-04

Similar Documents

Publication Publication Date Title
US11734851B2 (en) Face key point detection method and apparatus, storage medium, and electronic device
US9811894B2 (en) Image processing method and apparatus
CN105184249B (zh) 用于人脸图像处理的方法和装置
CN108510472B (zh) 用于处理图像的方法和装置
CN107633218A (zh) 用于生成图像的方法和装置
CN108388878A (zh) 用于识别人脸的方法和装置
CN110047124A (zh) 渲染视频的方法、装置、电子设备和计算机可读存储介质
CN110023964A (zh) 训练和/或使用神经网络模型来生成光谱图像的中间输出
CN110070551A (zh) 视频图像的渲染方法、装置和电子设备
CN108509892A (zh) 用于生成近红外图像的方法和装置
CN108694719A (zh) 图像输出方法和装置
CN110070499A (zh) 图像处理方法、装置和计算机可读存储介质
CN110084172A (zh) 文字识别方法、装置和电子设备
CN109948699A (zh) 用于生成特征图的方法和装置
CN110210501A (zh) 虚拟对象生成方法、电子设备及计算机可读存储介质
CN110069974A (zh) 高光图像处理方法、装置和电子设备
CN108446658A (zh) 用于识别人脸图像的方法和装置
CN110211195A (zh) 生成图像集合的方法、装置、电子设备和计算机可读存储介质
CN110062157A (zh) 渲染图像的方法、装置、电子设备和计算机可读存储介质
CN108491812A (zh) 人脸识别模型的生成方法和装置
CN110059739A (zh) 图像合成方法、装置、电子设备和计算机可读存储介质
WO2020155984A1 (zh) 人脸表情图像处理方法、装置和电子设备
US20230036366A1 (en) Image attribute classification method, apparatus, electronic device, medium and program product
CN109981989A (zh) 渲染图像的方法、装置、电子设备和计算机可读存储介质
Park et al. Effective shortcut technique for generative adversarial networks

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP01 Change in the name or title of a patent holder

Address after: 100041 B-0035, 2 floor, 3 building, 30 Shixing street, Shijingshan District, Beijing.

Patentee after: Tiktok vision (Beijing) Co.,Ltd.

Address before: 100041 B-0035, 2 floor, 3 building, 30 Shixing street, Shijingshan District, Beijing.

Patentee before: BEIJING BYTEDANCE NETWORK TECHNOLOGY Co.,Ltd.

Address after: 100041 B-0035, 2 floor, 3 building, 30 Shixing street, Shijingshan District, Beijing.

Patentee after: Douyin Vision Co.,Ltd.

Address before: 100041 B-0035, 2 floor, 3 building, 30 Shixing street, Shijingshan District, Beijing.

Patentee before: Tiktok vision (Beijing) Co.,Ltd.

CP01 Change in the name or title of a patent holder