CN110069992A - 一种人脸图像合成方法、装置、电子设备及存储介质 - Google Patents

一种人脸图像合成方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN110069992A
CN110069992A CN201910204042.XA CN201910204042A CN110069992A CN 110069992 A CN110069992 A CN 110069992A CN 201910204042 A CN201910204042 A CN 201910204042A CN 110069992 A CN110069992 A CN 110069992A
Authority
CN
China
Prior art keywords
human face
image
face photo
collection
portrait
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910204042.XA
Other languages
English (en)
Other versions
CN110069992B (zh
Inventor
彭春蕾
王楠楠
高新波
李洁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xidian University
Original Assignee
Xidian University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xidian University filed Critical Xidian University
Priority to CN201910204042.XA priority Critical patent/CN110069992B/zh
Publication of CN110069992A publication Critical patent/CN110069992A/zh
Application granted granted Critical
Publication of CN110069992B publication Critical patent/CN110069992B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/04Context-preserving transformations, e.g. by using an importance map
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Processing (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本发明公开了一种人脸图像合成方法、装置、电子设备及存储介质,该方法包括:获取人脸画像图像和人脸照片图像;根据所述人脸画像图像和所述人脸照片图像得到人脸画像训练图像块集、人脸照片训练图像块集;根据所述人脸画像训练图像块集、所述人脸照片训练图像块集训练深度神经网络模型,根据深度神经网络模型得到深度特征表示模型;根据人脸照片测试图像、概率图模型、所述深度特征表示模型得到第一组合权值集,根据所述第一组合权值集得到所述人脸照片测试图像的人脸合成图像。本发明由于采用深度特征表示与概率图模型进行建模,比现有方法可以更好的应对复杂的背景、光照和遮挡等不可控情况,从而提升了合成图像的图像质量与细节结构质量。

Description

一种人脸图像合成方法、装置、电子设备及存储介质
技术领域
本发明属于人工智能和图像处理技术领域,具体涉及一种人脸图像合成方法、装置、电子设备及存储介质。
背景技术
随着科技的发展与计算机计算性能的提高,人脸照片到人脸素描画像的合成方法在社会公共安全与数字娱乐等方面具有广泛的应用价值,人脸图像合成方法的研究具有重要的意义。
由于人脸照片和人脸素描画像的生成机制不同,在纹理和人脸面部细节展现等方面具有明显的差异,同时在社会公共安全场景中,比如案发现场,案发现场监控摄像的缺失或者监控摄像所采集人脸图像存在遮挡、角度和模糊等问题,给目标人员的人脸检索与身份识别带来困难。此时,可以结合目击证人的描述与案发现场的低质量监控影像,绘制出目标人脸的素描画像。为了在人脸识别过程中缩小照片与素描画像的纹理与细节差异,可以采用人脸画像合成方法将警方公民数据库中的照片转化为素描画像,进而与目标人脸的素描画像进行比对识别以确定目标身份。Liu等人在文献“Q.Liu,X.Tang,H.Jin,H.Lu,andS.Ma,“A nonlinear approach for face sketch synthesis and recognition,”inComputer Vision and Pattern Recognition,2005,pp.1005–1010”中提出了一种非线性的人脸画像合成方法,通过局部线性嵌入方法对训练数据集和测试数据集中的人脸图像块之间关系进行建模,实现人脸图像的合成。Zhou等人在文献“H.Zhou,Z.Kuang,and K.Wong,“Markov weight fields for face sketch synthesis,”in Computer Vision andPattern Recognition,2012,pp.1091–1097”中提出了利用马尔科夫权重场对训练数据集和测试数据集中的人脸图像块进行建模,在Liu等人非线性方法的基础上考虑到了人脸相邻图像块之间的联系,实现人脸图像的合成。
但上述现有的人脸图像合成方法大多采用传统的人工设计特征对人脸图像进行特征表示,而人工设计特征无法应对复杂的背景、光照和遮挡等不受控情况,导致人脸画像合成结果的图像质量较差。
发明内容
为了解决现有技术中存在的上述问题,本发明提供了一种人脸图像合成方法、装置、电子设备及存储介质。
本发明实施例提供了一种人脸图像合成方法,该方法包括:
获取人脸画像图像和人脸照片图像;
根据所述人脸画像图像和所述人脸照片图像得到人脸画像训练图像块集、人脸照片训练图像块集;
根据所述人脸画像训练图像块集、所述人脸照片训练图像块集训练深度神经网络模型,根据深度神经网络模型得到深度特征表示模型;
根据人脸照片测试图像、概率图模型、所述深度特征表示模型得到第一组合权值集,根据所述第一组合权值集得到所述人脸照片测试图像的人脸合成图像。
在本发明的一个实施例中,根据所述人脸画像图像和所述人脸照片图像得到人脸训练画像图像块集、人脸照片训练图像块集,包括:
从所述人脸画像图像中选取M张人脸画像图像组成人脸画像训练图像集,其中,0<M<H,H为人脸画像图像数目,M、H均为整数;
从所述人脸照片图像中选取与M张所述人脸画像图像一一对应的M张人脸照片图像组成人脸照片训练图像集;
将所述人脸画像训练图像集中的每张人脸画像图像划分为大小相同、覆盖比例相同的人脸画像训练图像块,所述人脸画像训练图像块组成人脸画像训练图像块集;
将所述人脸画像训练图像集中的每张人脸画像图像划分为大小相同、覆盖比例相同的人脸画像训练图像块,所述人脸画像训练图像块组成人脸画像训练图像块集。
在本发明的一个实施例中,根据所述人脸画像训练图像块集、所述人脸照片训练图像块集训练深度神经网络模型,根据深度神经网络模型得到深度特征表示模型,包括:
将所述人脸画像训练图像块集、所述人脸照片训练图像块集以三元组数据输入深度神经网络模型中;
采用梯度下降方法训练深度神经网络模型,直至所述深度神经网络模型的损失函数的损失值最小,得到最终所述深度神经网络模型;
通过所述深度神经网络模型的参数集得到深度特征表示模型。
在本发明的一个实施例中,所述概率图模型为:
其中,ξ(·)为第一相似度函数,Φ(·)为第二相似度函数,Ψ(·)为兼容性函数,x’u为所述人脸照片测试图像,为第一组合权值,为第二组合权值,yu为第一待合成图像块,yv为第二待合成图像块。
在本发明的一个实施例中,根据人脸照片测试图像、概率图模型、所述深度特征表示模型得到第一组合权值集,包括:
将所述人脸照片测试图像划分为大小相同、覆盖比例相同的人脸照片测试图像块;
从人脸照片训练图像块集中选取K个与所述人脸照片测试图像块相似的人脸照片训练图像块,并选取与K个所述人脸照片训练图像块一一对应的K个人脸画像训练图像块,由K个所述人脸照片训练图像块和K个人脸画像训练图像块组成所述人脸照片测试图像块的待合成图像块;
通过所述深度特征表示模型得到所述人脸照片测试图像块的第一深度特征表示、K个所述人脸照片训练图像块的第二深度特征表示;
将所述人脸照片测试图像块、所述待合成图像块、所述第一深度特征表示、所述第二深度特征表示输入概率图模型得到第一组合权值集。
在本发明的一个实施例中,将所述人脸照片测试图像块、所述待合成图像块、所述第一深度特征表示、所述第二深度特征表示输入概率图模型得到第一组合权值集,包括:
通过所述第一相似度函数计算所述人脸照片测试图像块、所述待合成图像块中的K个所述人脸照片训练图像块的相似度,得到第一相似度值;
通过所述第二相似度函数计算所述第一深度特征表示、所述第二深度特征表示的相似度,得到第二相似度值;
通过所述兼容性函数计算相邻所述待合成图像块间的兼容性,得到兼容值;
将所述第一相似度值、所述第二相似度值、所述兼容值输入到所述概率图模型,得到第二组合权值;
将所述第一相似度值、所述第二相似度值、所述兼容值、第二组合权值输入到所述概率图模型,得到所述第一组合权值;
通过所述第一组合权值得到所述第一组合权值集。
在本发明的一个实施例中,根据所述第一组合权值集得到所述人脸照片测试图像的人脸合成图像,包括:
获取所述人脸照片测试图像的待合成图像;
将所述第一组合权值集中的第一组合权值分别与所述待合成图像中的待合成图像块相乘再进行线性相加,得到所述人脸照片测试图像的人脸合成图像。
本发明的另一个实施例提供了一种人脸图像合成装置,所述装置包括:
数据获取模块,用于获取所述人脸画像图像和所述人脸照片图像;
数据处理模块,用于根据所述人脸画像图像和所述人脸照片图像得到所述人脸画像训练图像块集、所述人脸照片训练图像块集;
数据模型构建模块,用于根据所述人脸画像训练图像块集、所述人脸照片训练图像块集训练深度神经网络模型,根据深度神经网络模型得到所述深度特征表示模型;
数据确定模块,用于根据所述人脸照片测试图像、所述概率图模型、所述深度特征表示模型得到所述第一组合权值集,根据所述第一组合权值集得到所述人脸照片测试图像的人脸合成图像。
本发明的再一个实施例提供了一种人脸图像合成电子设备,所述电子设备包括处理器、通信接口、存储器和通信总线,其中,所述处理器、所述通信接口、所述存储器通过所述通信总线完成相互间的通信;
所述存储器,用于存放计算机程序;
所述处理器,用于执行所述存储器上存放的所述计算机程序时,实现上述任一所述的方法。
本发明的又一个实施例提供了一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述任一所述的方法。
与现有技术相比,本发明的有益效果:
本发明由于采用深度特征表示与概率图模型进行建模,比现有方法可以更好的应对复杂的背景、光照和遮挡等不可控情况,从而提升了合成图像的图像质量与细节结构质量。
附图说明
图1为本发明实施例提供的一种人脸图像合成方法的流程示意图;
图2为本发明实施例提供的一种人脸图像合成装置的结构示意图;
图3为本发明实施例提供的一种人脸图像合成电子设备的结构示意图;
图4为本发明实施例提供的一种人脸图像合成计算机存储介质的结构示意图;
图5为本发明实施例提供的不同方法下人脸图像合成结果示意图。
具体实施方式
下面结合具体实施例对本发明做进一步详细的描述,但本发明的实施方式不限于此。
实施例1:
请参见图1,图1为本发明实施例提供的一种人脸图像合成方法的流程示意图。本发明实施例提供了一种人脸图像合成方法,该方法包括如下步骤:
步骤1、获取人脸画像图像和人脸照片图像。
具体地,本实施例中,人脸画像图像、人脸照片图像用于模拟人脸图像合成的图像库,人脸画像图像、人脸照片图像的数据规模均为H张。其中,H为大于0的整数。
步骤2、根据人脸画像图像和人脸照片图像得到人脸画像训练图像块集、人脸照片训练图像块集。
本实施例,首先对H张人脸画像图像和H张人脸照片图像进行分类处理,根据人脸画像图像和人脸照片图像得到人脸画像训练图像集、人脸照片训练图像集。
具体地,从H张人脸画像图像中选取M张人脸画像图像,组成人脸画像训练图像集,并从人脸照片图像中取出M张与人脸画像训练图像集中的人脸画像图像一一对应的人脸照片图像,组成人脸照片训练图像集。其中,M为大于0的整数,且M小于H。
进一步地,根据人脸画像训练图像集、人脸照片训练图像集分别得到人脸画像训练图像块集、人脸照片训练图像块集。
具体地,将人脸画像训练图像集中的每张人脸画像训练图像划分为若干大小相同、覆盖比例相同的人脸画像训练图像块,这些大小相同、覆盖比例相同的人脸画像训练图像块组成人脸画像训练图像块集。其中,每个人脸画像训练图像块包括人脸画像训练图像块的像素值和人脸画像训练图像块的位置信息。
优选地,人脸画像训练图像块大小为10x10,覆盖比例为50%。
将人脸照片训练图像集中的每张人脸训练画像图像划分为大小相同、覆盖比例相同的人脸照片训练图像块,这些大小相同、覆盖比例相同的人脸照片训练图像块组成人脸照片训练图像块集。其中,每个人脸照片训练图像块包括人脸照片训练图像块的像素值和人脸照片训练图像块的位置信息。
优选地,人脸照片训练图像块大小为10x10,覆盖比例为50%。
步骤3、根据人脸画像训练图像块集、人脸照片训练图像块集训练深度神经网络模型,根据深度神经网络模型得到深度特征表示模型。
本实施例中,根据人脸画像训练图像块集、人脸照片训练图像块集训练深度神经网络模型,根据深度神经网络模型得到深度特征表示模型包括:
将人脸画像训练图像块集、人脸照片训练图像块集以三元组数据输入深度神经网络模型中;
采用梯度下降方法训练深度神经网络模型,直至深度神经网络模型的损失函数的损失值最小,得到最终深度神经网络模型;
通过深度神经网络模型的参数集得到深度特征表示模型。
进一步地,构建深度神经网络模型,深度神经网络模型包括深度神经网络的参数集和损失函数。
具体地,本实施例利用文献“F.Schroff,D.Kalenichenko,andJ.Philbin.Facenet:a unified embedding for face recognition and clustering.inProceedings of IEEE Conference on Computer Vision and Pattern Recognition,2015:815-823”所公开的方法,建立深度神经网络模型,其中,深度神经网络模型所需要学习的深度神经网络参数集为WF,深度神经网络参数集WF里面包含了深度神经网络模型待学习的所有参数,深度神经网络模型的损失函数包括了深度特征表示函数,该深度特征表示函数通过深度神经网络参数集WF构建得到。
进一步地,将人脸画像训练图像块集、人脸照片训练图像块集以三元组数据输入深度神经网络模型中。
具体地,本实施例利用人脸画像训练图像块集和人脸照片训练图像块集,对上述建立的深度神经网络模型进行训练。在深度神经网络模型训练中,训练图像块以三元组的数据形式输入,三元组均是从人脸画像训练图像块集和人脸照片训练图像块集里随机选取获得的训练图像块。其中,xu表示两个训练图像块属于同一类别,而xu表示两个训练图像块属于不同类别,同一类别表示两个训练图像块分别来自一一对应的人脸画像训练图像块与人脸照片训练图像块的相同块位置。根据输入的三元组训练图像块,本实施例深度神经网络模型中的损失函数具体表示为:
其中,L为损失函数,F(·)为深度特征表示函数,即本实施例的深度特征表示模型,WF为深度神经网络的参数集,均为人脸画像训练图像块、人脸照片训练图像块。
进一步地,采用梯度下降方法训练深度神经网络模型,直至深度神经网络模型的损失函数L的损失值最小,得到最终深度神经网络模型。
具体地,本实施例采用随机梯度下降方法对深度神经网络模型进行训练,训练过程中不断地调整深度神经网络参数集WF中的参数,使得损失函数L的值达到最小,此时深度神经网络模型训练完成,此时深度神经网络模型中的深度神经网络参数集WF是损失函数L最小时对应的深度神经网络参数集WF
进一步地,通过深度神经网络模型的参数集得到深度特征表示模型。
具体地,由公式(1)可知,损失函数L中包括深度特征表示函数,当损失函数L最小时,得到一组深度神经网络参数集WF,该参数集WF对应的可得到本实施例的深度特征表示模型F(·)。
本实施例通过深度神经网络模型构建深度特征表示模型,深度特征表示模型可以对人脸图像的细节特征进行更好的描述刻画,从而提高了人脸合成图像的质量。
步骤4、根据人脸照片测试图像、概率图模型、深度特征表示模型得到第一组合权值集,根据第一组合权值集得到人脸照片测试图像的人脸合成图像。
具体地,本实施例中人脸照片测试图像是从剩余的H-M张人脸照片图像中选取的,通过该人脸照片测试图像验证本实施例提供的人脸合成图像方法,人脸照片测试图像包括若干人脸照片测试图像块,若干人脸照片测试图像块组成人脸照片测试图像块集;概率图模型为本实施例构建的模型,概率图模型具体设计为:
其中,ξ(·)为第一相似度函数,Φ(·)为第二相似度函数,Ψ(·)为兼容性函数,x’u为人脸照片测试图像块集中的人脸照片测试图像块,表示在人脸照片测试图像块位置为u时对应的像素值与其第一深度特征表示之间的第二组合权值,表示在待合成图像块位置为u时的待合成图像块之间的第一组合权值,v∈Ξu表示位置为u的待合成图像块和位置为v的待合成图像块是相邻的,yu表示位置为u时的第一待合成图像块,yv表示位置为v时的第二待合成图像块,待合成图像块为人脸照片训练图像块集中寻找K个与人脸照片测试图像块相似的人脸照片训练图像块,并与K个人脸照片训练图像块一一对应的K个人脸画像训练图像块组成待合成图像块。
概率图模型中的第一相似度函数用于衡量人脸照片测试图像块与人脸照片训练图像块集中的K个人脸照片训练图像块之间的像素值的相似程度,本实施例中第一相似度函数具体设计为:
其中,第一组合权值 表示待合成图像块位置为u时的第k个待合成图像块的组合权值,人脸照片测试图像块x′u={xu,1,xu,2,…,xu,k},即人脸照片测试图像块x′u可以表示为人脸照片训练图像块集中找到的K个与之相似的人脸照片训练图像块,xu,k为在人脸照片训练图像块集中找到的第k个和人脸照片测试图像块x′u相似的人脸训练照片块。
概率图模型中的第二相似度函数用于衡量人脸照片测试图像块与人脸照片训练图像块集中的K个人脸照片训练图像块之间的深度特征表示的相似程度,本实施例中第二相似度函数具体设计为:
其中,第二组合权值 表示人脸照片测试图像块位置为u时的第k个人脸照片测试图像块的组合权值,F(x'u,WF)表示人脸照片测试图像块x′u的第一深度特征表示,F(xu,k,WF)表示K个人脸照片训练图像块中的第k个人脸照片训练图像块的第二深度特征表示。其中,WF为深度神经网络模型训练完成对应的参数集。
概率图模型中的兼容性函数用于衡量相邻待合成图像块之间的兼容性,本实施例中兼容性函数具体设计为:
其中,第一待合成图像块yu={yu,1,yu,2,…,yu,k},yu,k表示yu中的第k个待合成图像块,第二待合成图像块yv={yv,1,yv,2,…,yv,K},yv,k表示yv中的第k个待合成图像块;第一像素值表示待合成图像块位置u和待合成图像块v的互相覆盖区域yu,k的像素值,第二像素值表示待合成图像块位置u和待合成图像块v的互相覆盖区域yv,k的像素值,表示位置为u时的第k个待合成图像块的组合权值,表示位置为v时的待合成图像块的第k个待合成图像块的组合权值。
本实施例构建的概率图模型更多的考虑到了待合成图像块之间的约束关系,从而可以提高人脸合成图像质量。
进一步地,根据人脸照片测试图像、概率图模型、深度特征表示模型得到第一组合权值集。
本实施例中,根据人脸照片测试图像、概率图模型、深度特征表示模型得到第一组合权值集,包括:
将人脸照片测试图像划分为大小相同、覆盖比例相同的人脸照片测试图像块;
从人脸照片训练图像块集中选取K个与人脸照片测试图像块相似的人脸照片训练图像块,并选取与K个人脸照片训练图像块一一对应的K个人脸画像训练图像块,由K个人脸照片训练图像块和K个人脸画像训练图像块组成人脸照片测试图像块的待合成图像块;
通过深度特征表示模型得到人脸照片测试图像块的第一深度特征表示、K个人脸照片训练图像块的第二深度特征表示;
将脸照片测试图像块、待合成图像块、第一深度特征表示、第二深度特征表示输入概率图模型得到第一组合权值集。
进一步地,将人脸照片测试图像划分为大小相同、覆盖比例相同的人脸照片测试图像块。
本实施例中从H张人脸照片图像选取M张人脸照片训练图像后,人脸照片测试图像是从剩余的H-M张人脸照片图像中选取的。将该人脸照片测试图像划分为若干大小相同、覆盖比例相同的人脸照片测试图像块,这些大小相同、覆盖比例相同的人脸照片测试图像块组成人脸照片测试图像块集。其中,每个人脸照片测试图像块包括人脸照片测试图像块的像素值和人脸照片测试图像块的位置信息。
优选地,人脸照片测试图像块大小为10x10,覆盖比例为50%。
进一步地,通过深度特征表示模型得到人脸照片测试图像块的第一深度特征表示、K个人脸照片训练图像块的第二深度特征表示。
具体地,本实施例通过上述深度特征表示模型F(·),获取人脸照片测试图像块集中所有人脸照片测试图像块的第一深度特征表示,以及获取每个人脸照片测试图像块的K个人脸照片训练图像块的第二深度特征表示。
进一步地,将人脸照片测试图像块、待合成图像块、第一深度特征表示、第二深度特征表示输入概率图模型得到第一组合权值集。
具体地,本实施例通过公式(3)的第一相似度函数计算每个人脸照片测试图像块和该人脸照片测试图像块对应的待合成图像块中的K个人脸照片训练图像块的相似度,得到第一相似度值,本实施例中第一相似度值具体计算的是人脸照片测试图像块的像素值与人脸照片训练图像块的像素值之间的相似度;
然后通过深度特征表示模型F(·)分别计算每个人脸测试图像块的第一深度特征表示和该人脸照片测试图像块对应的待合成图像块中的K个人脸照片训练图像块的第二深度特征表示,再通过公式(4)的第二相似度函数计算第一深度特征表示和第二深度特征表示的相似度,得到第二相似度值;
再次通过公式(5)的兼容性函数计算该待合成图像块与其相邻待合成图像块之间的兼容性,得到兼容值;
将第一相似度值、第二相似度值、兼容值输入公式(2)的概率图模型,得到第二组合权值此时第一组合权值固定维持初始赋值情况;
得到第二组合权值后,将第一相似度值、第二相似度值、兼容值、第二组合权值输入公式(2)的概率图模型,得到第一组合权值,此时第二组合权值固定为上次通过公式(2)求得的第二组合权值。
进一步地,通过第一组合权值得到第一组合权值集。
具体地,本实施例通过求解人脸照片测试图像中所有人脸照片测试图像块的第一组合权值然后由第一组合权值组成第一组合权值集。在第一组合权值集求解过程中,采用的交替迭代的方法,在上述求解的第二组合权值基础上,分别计算每个人脸照片测试图像块的第一相似度值、第二相似度值、兼容值,遍历每个人脸测试图像块,得到第一组合权值集。其中,交替迭代过程比如为:获取第一个人脸照片测试图像块,通过公式(3)、公式(4)、公式(5)分别计算得到该人脸照片测试图像块的第一相似度值、第二相似度值、兼容值,将第一相似度值、第二相似度值、兼容值以及第一组合权值的初始赋值代入公式(2),得到该人脸照片测试图像块的第二组合阻值,再将第一相似度值、第二相似度值、兼容值以及计算得到第二组合权值代入公式(2),得到第一个人脸照片测试图像块的第一组合权值获取第二个人脸照片测试图像块,分别计算该人脸照片测试图像块的第一相似度值、第二相似度值、兼容值,将第一相似度值、第二相似度值、兼容值以及第一个人脸测试图像块对应的第一组合权值代入公式(2),得到该人脸照片测试图像块的第二组合权值再将第一相似度值、第二相似度值、兼容值以及计算得到第二组合权值代入公式(2),得到第二个人脸照片测试图像块的第一组合权值依次遍历人脸测试图像的所有图像块,得到所有人脸测试图像块的第一组合权值由这些第一组合权值组成第一组合权值集。
进一步地,根据所述第一组合权值集得到所述人脸照片测试图像的人脸合成图像。
本实施例中,根据第一组合权值集得到人脸照片测试图像的人脸合成图像,包括:
获取人脸照片测试图像的待合成图像;
将第一组合权值集中的第一组合权值分别与待合成图像中的待合成图像块相乘再进行线性相加,得到人脸照片测试图像的人脸合成图像。
具体地,由上述可知,每个人脸照片测试图像由若干人脸照片测试图像块组成,每个人脸照片测试图像块均由K个与该人脸照片测试图像块相似的人脸照片训练图像块组成,再选取与K个人脸照片训练图像块一一对应的人脸画像训练图像块,由该K个人脸照片训练图像块和K个人脸画像训练图像块组成该人脸照片测试图像块的待合成图像块,依次每个人脸照片测试图像块均对应有其的待合成图像块。每个第一组合权值集中的第一组合权值与待合成图像块对应,则本实施例通过第一组合权值集中的第一组合权值与该第一组合权值对应的待合成图像块分别相乘再进行线性加权,最终得到与人脸照片测试图像对应的人脸合成图像。
本实施例通过概率图模型进行人脸合成图像时,采用的是交替迭代求解第一组合权值和第二组合权值并未直接对概率图模型中的第一组合权值和第二组合权值同时进行求解,降低了人脸合成图像的计算复杂度。
请参见图2,图2为本发明实施例提供的一种人脸图像合成装置的结构示意图。本发明另一实施例提供了一种人脸图像合成装置,该装置包括:
数据获取模块,获取人脸画像图像和人脸照片图像;
数据处理模块,用于根据人脸画像图像和人脸照片图像得到人脸画像训练图像块集、人脸照片训练图像块集;
数据模型构建模块,用于根据人脸画像训练图像块集、人脸照片训练图像块集训练深度神经网络模型,根据深度神经网络模型得到深度特征表示模型;
数据确定模块,用于根据人脸照片测试图像、概率图模型、深度特征表示模型得到第一组合权值集,根据第一组合权值集得到人脸照片测试图像的人脸合成图像。
本发明实施例提供的一种人脸图像合成装置,可以执行上述方法实施例,其实现原理和技术效果类似,在此不再赘述。
请参见图3,图3为本发明实施例提供的一种人脸图像合成电子设备的结构示意图。本发明再一实施例提供了一种人脸图像合成电子设备,该电子设备包括处理器、通信接口、存储器和通信总线,其中,处理器、通信接口、存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上存放的计算机程序时,该计算机程序被处理器执行时实现以下步骤:
获取人脸画像图像和人脸照片图像;
根据人脸画像图像和人脸照片图像得到人脸画像训练图像块集、人脸照片训练图像块集;
根据人脸画像训练图像块集、人脸照片训练图像块集训练深度神经网络模型,根据深度神经网络模型得到深度特征表示模型;
根据人脸照片测试图像、概率图模型、深度特征表示模型得到第一组合权值集,根据第一组合权值集得到人脸照片测试图像的人脸合成图像。
本发明实施例提供的一种人脸图像合成电子设备,可以执行上述方法实施例,其实现原理和技术效果类似,在此不再赘述。
请参见图4,图4为本发明实施例提供的一种人脸图像合成计算机存储介质的结构示意图。本发明又一实施例提供了一种计算机可读存储介质,其上存储有计算机程序,上述计算机程序被处理器执行时实现以下步骤:
获取人脸画像图像和人脸照片图像;
根据人脸画像图像和人脸照片图像得到人脸画像训练图像块集、人脸照片训练图像块集;
根据人脸画像训练图像块集、人脸照片训练图像块集训练深度神经网络模型,根据深度神经网络模型得到深度特征表示模型;
根据人脸照片测试图像、概率图模型、深度特征表示模型得到第一组合权值集,根据第一组合权值集得到人脸照片测试图像的人脸合成图像。
本发明实施例提供的一种计算机可读存储介质,可以执行上述方法实施例,其实现原理和技术效果类似,在此不再赘述。
为了说明本申请的优势,本实施例在中央处理器为Inter(R)Core(TM)i7-47903.60GHz CPU、NVIDIA Titan X GPU、Ubuntu 16.04操作系统上,运用美国Mathworks公司开发的MATLAB 2015a进行仿真实验,实验中数据库采用了香港中文大学CUFS数据库。实验中所对比的方法包括:基于局部线性嵌入算法的方法,本实施例中记为LLE,参考文献为Q.Liu,X.Tang,H.Jin,H.Lu,and S.Ma,“A nonlinear approach for face sketchsynthesis and recognition,”in Computer Vision and Pattern Recognition,2005,pp.1005–1010;基于马尔科夫权重场的方法,本实施例中记为MWF,参考文献为Markovweight fields for face sketch synthesis,”in Computer Vision and PatternRecognition,2012,pp.1091–1097。
本实施例采用评价指标是结构相似度(Structural Similarity Image Metric,简称SSIM)和视觉信息保真度(Visual Information Fiedity,简称VIF)两个指标。通过SSIM和VIF,分别给出了本申请、基于局部线性嵌入算法的方法LLE、基于马尔科夫权重场的方法MWF三种不同方法在香港中文大学的CUFS数据库上所合成图像的质量评价结果。其中,SSIM和VIF的值越大,表示人脸图像合成的质量越好。
表1不同人脸图像合成方法的合成图像质量评价结果
方法 SSIM VIF
LLE 0.5258 0.1264
MWF 0.5393 0.1299
本发明 0.5632 0.1347
从表1中可以看出,本申请人脸图像合成方法所合成图像的SSIM和VIF的值均高于对比方法,可见,本申请合成的人脸图像与真实画像的相似程度更高,合成质量更好,进一步验证了本申请的先进性。
请参见图5,图5为本发明实施例提供的不同方法下人脸图像合成结果示意图。本实施例在基于局部线性嵌入算法的方法LLE、基于马尔科夫权重场方法MWF和本申请三种方法下,在香港中文大学的CUFS数据库上进行了人脸图像的合成,实验结果如图5所示,其中,图5(a)为原始照片,图5(b)为基于局部线性嵌入算法的方法LLE,图5(c)为基于马尔科夫权重场的方法MWF,图5(d)为本申请方法合成的图像。由图5可见,本申请人脸图像合成方法合成的图像质量更高,细节结构纹理也更加清晰。
综上,本实施例采用深度特征表示与概率图模型的人脸合成方法,比现有人脸合成方法可以更好的应对复杂的背景、光照和遮挡等不可控情况,从而提升了合成图像的图像质量与细节结构质量。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。

Claims (10)

1.一种人脸图像合成方法,其特征在于,包括:
获取人脸画像图像和人脸照片图像;
根据所述人脸画像图像和所述人脸照片图像得到人脸画像训练图像块集、人脸照片训练图像块集;
根据所述人脸画像训练图像块集、所述人脸照片训练图像块集训练深度神经网络模型,根据深度神经网络模型得到深度特征表示模型;
根据人脸照片测试图像、概率图模型、所述深度特征表示模型得到第一组合权值集,根据所述第一组合权值集得到所述人脸照片测试图像的人脸合成图像。
2.根据权利要求1所述的方法,其特征在于,根据所述人脸画像图像和所述人脸照片图像得到人脸训练画像图像块集、人脸照片训练图像块集,包括:
从所述人脸画像图像中选取M张人脸画像图像组成人脸画像训练图像集,其中,0<M<H,H为人脸画像图像数目,M、H均为整数;
从所述人脸照片图像中选取与M张所述人脸画像图像一一对应的M张人脸照片图像组成人脸照片训练图像集;
将所述人脸画像训练图像集中的每张人脸画像图像划分为大小相同、覆盖比例相同的人脸画像训练图像块,所述人脸画像训练图像块组成人脸画像训练图像块集;
将所述人脸画像训练图像集中的每张人脸画像图像划分为大小相同、覆盖比例相同的人脸画像训练图像块,所述人脸画像训练图像块组成人脸画像训练图像块集。
3.根据权利要求1所述的方法,其特征在于,根据所述人脸画像训练图像块集、所述人脸照片训练图像块集训练深度神经网络模型,根据深度神经网络模型得到深度特征表示模型,包括:
将所述人脸画像训练图像块集、所述人脸照片训练图像块集以三元组数据输入深度神经网络模型中;
采用梯度下降方法训练深度神经网络模型,直至所述深度神经网络模型的损失函数的损失值最小,得到最终所述深度神经网络模型;
通过所述深度神经网络模型的参数集得到深度特征表示模型。
4.根据权利要求3所述的方法,其特征在于,所述概率图模型为:
其中,ξ(·)为第一相似度函数,Φ(·)为第二相似度函数,Ψ(·)为兼容性函数,x’u为所述人脸照片测试图像,为第一组合权值,为第二组合权值,yu为第一待合成图像块,yv为第二待合成图像块。
5.根据权利要求4所述的方法,其特征在于,根据人脸照片测试图像、概率图模型、所述深度特征表示模型得到第一组合权值集,包括:
将所述人脸照片测试图像划分为大小相同、覆盖比例相同的人脸照片测试图像块;
从人脸照片训练图像块集中选取K个与所述人脸照片测试图像块相似的人脸照片训练图像块,并选取与K个所述人脸照片训练图像块一一对应的K个人脸画像训练图像块,由K个所述人脸照片训练图像块和K个人脸画像训练图像块组成所述人脸照片测试图像块的待合成图像块;
通过所述深度特征表示模型得到所述人脸照片测试图像块的第一深度特征表示、K个所述人脸照片训练图像块的第二深度特征表示;
将所述人脸照片测试图像块、所述待合成图像块、所述第一深度特征表示、所述第二深度特征表示输入概率图模型得到第一组合权值集。
6.根据权利要求5所述的方法,其特征在于,将所述人脸照片测试图像块、所述待合成图像块、所述第一深度特征表示、所述第二深度特征表示输入概率图模型得到第一组合权值集,包括:
通过所述第一相似度函数计算所述人脸照片测试图像块、所述待合成图像块中的K个所述人脸照片训练图像块的相似度,得到第一相似度值;
通过所述第二相似度函数计算所述第一深度特征表示、所述第二深度特征表示的相似度,得到第二相似度值;
通过所述兼容性函数计算相邻所述待合成图像块间的兼容性,得到兼容值;
将所述第一相似度值、所述第二相似度值、所述兼容值输入到所述概率图模型,得到第二组合权值;
将所述第一相似度值、所述第二相似度值、所述兼容值、第二组合权值输入到所述概率图模型,得到所述第一组合权值;
通过所述第一组合权值得到所述第一组合权值集。
7.根据权利要求6所述的方法,其特征在于,根据所述第一组合权值集得到所述人脸照片测试图像的人脸合成图像,包括:
获取所述人脸照片测试图像的待合成图像;
将所述第一组合权值集中的第一组合权值分别与所述待合成图像中的待合成图像块相乘再进行线性相加,得到所述人脸照片测试图像的人脸合成图像。
8.一种人脸图像合成装置,其特征在于,所述装置包括:
数据获取模块,用于获取所述人脸画像图像和所述人脸照片图像;
数据处理模块,用于根据所述人脸画像图像和所述人脸照片图像得到所述人脸画像训练图像块集、所述人脸照片训练图像块集;
数据模型构建模块,用于根据所述人脸画像训练图像块集、所述人脸照片训练图像块集训练深度神经网络模型,根据深度神经网络模型得到所述深度特征表示模型;
数据确定模块,用于根据所述人脸照片测试图像、所述概率图模型、所述深度特征表示模型得到所述第一组合权值集,根据所述第一组合权值集得到所述人脸照片测试图像的人脸合成图像。
9.一种人脸图像合成的电子设备,其特征在于,所述电子设备包括处理器、通信接口、存储器和通信总线,其中,所述处理器、所述通信接口、所述存储器通过所述通信总线完成相互间的通信;
所述存储器,用于存放计算机程序;
所述处理器,用于执行所述存储器上存放的所述计算机程序时,实现权利要求1-7任一所述的方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1-7任一所述的方法。
CN201910204042.XA 2019-03-18 2019-03-18 一种人脸图像合成方法、装置、电子设备及存储介质 Active CN110069992B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910204042.XA CN110069992B (zh) 2019-03-18 2019-03-18 一种人脸图像合成方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910204042.XA CN110069992B (zh) 2019-03-18 2019-03-18 一种人脸图像合成方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN110069992A true CN110069992A (zh) 2019-07-30
CN110069992B CN110069992B (zh) 2021-02-09

Family

ID=67365338

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910204042.XA Active CN110069992B (zh) 2019-03-18 2019-03-18 一种人脸图像合成方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN110069992B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111046757A (zh) * 2019-11-27 2020-04-21 西安电子科技大学 人脸画像生成模型的训练方法、装置及相关设备
CN111275778A (zh) * 2020-01-08 2020-06-12 浙江省北大信息技术高等研究院 人脸简笔画生成方法及装置
WO2021036059A1 (zh) * 2019-08-29 2021-03-04 深圳云天励飞技术有限公司 图像转换模型训练方法、异质人脸识别方法、装置及设备
CN113722528A (zh) * 2021-08-03 2021-11-30 南京邮电大学 一种面向素描图进行照片快速检索的方法及系统

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101719270A (zh) * 2009-12-25 2010-06-02 武汉大学 一种基于非负矩阵分解的人脸超分辨率处理方法
CN105718898A (zh) * 2016-01-22 2016-06-29 东南大学 基于稀疏无向概率图模型的人脸年龄估计方法、系统
CN105844605A (zh) * 2016-03-17 2016-08-10 西安电子科技大学 基于自适应表示的人脸画像合成方法
CN107392213A (zh) * 2017-07-21 2017-11-24 西安电子科技大学 基于深度图模型特征学习的人脸画像合成方法
CN107609506A (zh) * 2017-09-08 2018-01-19 百度在线网络技术(北京)有限公司 用于生成图像的方法和装置
CN107633218A (zh) * 2017-09-08 2018-01-26 百度在线网络技术(北京)有限公司 用于生成图像的方法和装置
CN107924579A (zh) * 2015-08-14 2018-04-17 麦特尔有限公司 生成个性化3d头部模型或3d身体模型的方法
CN108009286A (zh) * 2017-12-25 2018-05-08 合肥阿巴赛信息科技有限公司 一种基于深度学习的草图检索方法
CN108596024A (zh) * 2018-03-13 2018-09-28 杭州电子科技大学 一种基于人脸结构信息的肖像生成方法
WO2018176281A1 (zh) * 2017-03-29 2018-10-04 华为技术有限公司 一种素描图像的生成方法及装置
CN109145704A (zh) * 2018-06-14 2019-01-04 西安电子科技大学 一种基于人脸属性的人脸画像识别方法

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101719270A (zh) * 2009-12-25 2010-06-02 武汉大学 一种基于非负矩阵分解的人脸超分辨率处理方法
CN107924579A (zh) * 2015-08-14 2018-04-17 麦特尔有限公司 生成个性化3d头部模型或3d身体模型的方法
CN105718898A (zh) * 2016-01-22 2016-06-29 东南大学 基于稀疏无向概率图模型的人脸年龄估计方法、系统
CN105844605A (zh) * 2016-03-17 2016-08-10 西安电子科技大学 基于自适应表示的人脸画像合成方法
WO2018176281A1 (zh) * 2017-03-29 2018-10-04 华为技术有限公司 一种素描图像的生成方法及装置
CN107392213A (zh) * 2017-07-21 2017-11-24 西安电子科技大学 基于深度图模型特征学习的人脸画像合成方法
CN107609506A (zh) * 2017-09-08 2018-01-19 百度在线网络技术(北京)有限公司 用于生成图像的方法和装置
CN107633218A (zh) * 2017-09-08 2018-01-26 百度在线网络技术(北京)有限公司 用于生成图像的方法和装置
CN108009286A (zh) * 2017-12-25 2018-05-08 合肥阿巴赛信息科技有限公司 一种基于深度学习的草图检索方法
CN108596024A (zh) * 2018-03-13 2018-09-28 杭州电子科技大学 一种基于人脸结构信息的肖像生成方法
CN109145704A (zh) * 2018-06-14 2019-01-04 西安电子科技大学 一种基于人脸属性的人脸画像识别方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
PAUL WOHLHART ET AL.: "Learning Descriptors for Object Recognition and 3D Pose Estimation", 《PROC. IEEE CONF. COMPUT. VIS. PATTERN RECOGNIT.》 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021036059A1 (zh) * 2019-08-29 2021-03-04 深圳云天励飞技术有限公司 图像转换模型训练方法、异质人脸识别方法、装置及设备
CN111046757A (zh) * 2019-11-27 2020-04-21 西安电子科技大学 人脸画像生成模型的训练方法、装置及相关设备
CN111046757B (zh) * 2019-11-27 2024-03-05 西安电子科技大学 人脸画像生成模型的训练方法、装置及相关设备
CN111275778A (zh) * 2020-01-08 2020-06-12 浙江省北大信息技术高等研究院 人脸简笔画生成方法及装置
CN111275778B (zh) * 2020-01-08 2023-11-21 杭州未名信科科技有限公司 人脸简笔画生成方法及装置
CN113722528A (zh) * 2021-08-03 2021-11-30 南京邮电大学 一种面向素描图进行照片快速检索的方法及系统

Also Published As

Publication number Publication date
CN110069992B (zh) 2021-02-09

Similar Documents

Publication Publication Date Title
CN110069992A (zh) 一种人脸图像合成方法、装置、电子设备及存储介质
CN112766160B (zh) 基于多级属性编码器和注意力机制的人脸替换方法
CN104143079B (zh) 人脸属性识别的方法和系统
CN108573243A (zh) 一种基于深度卷积神经网络的低质量人脸的比对方法
CN108921822A (zh) 基于卷积神经网络的图像目标计数方法
CN106462771A (zh) 一种3d图像的显著性检测方法
CN107871100A (zh) 人脸模型的训练方法和装置、人脸认证方法和装置
CN109711426A (zh) 一种基于gan和迁移学习的病理图片分类装置及方法
CN106776662A (zh) 一种照片的分类整理方法和装置
CN106303233A (zh) 一种基于表情融合的视频隐私保护方法
CN110309835A (zh) 一种图像局部特征提取方法及装置
CN114332578A (zh) 图像异常检测模型训练方法、图像异常检测方法和装置
CN110263768A (zh) 一种基于深度残差网络的人脸识别方法
CN105956570B (zh) 基于唇部特征和深度学习的笑脸识别方法
CN109871845A (zh) 证件图像提取方法及终端设备
CN110188673A (zh) 表情识别方法和装置
CN109886153A (zh) 一种基于深度卷积神经网络的实时人脸检测方法
CN109376787A (zh) 流形学习网络及基于其的计算机视觉图像集分类方法
CN111310821A (zh) 多视图特征融合方法、系统、计算机设备及存储介质
CN107871103A (zh) 一种人脸认证方法和装置
CN103984954B (zh) 基于多特征融合的图像合成方法
CN109145971A (zh) 基于改进匹配网络模型的单样本学习方法
CN109284668A (zh) 一种基于距离正则化投影和字典学习的行人重识别算法
CN108537887A (zh) 基于3d打印的草图与模型库三维视图匹配方法
CN110309713A (zh) 表情识别模型训练方法、装置、设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant