CN111489290A - 一种人脸图像超分辨重建方法、装置及终端设备 - Google Patents

一种人脸图像超分辨重建方法、装置及终端设备 Download PDF

Info

Publication number
CN111489290A
CN111489290A CN201910260848.0A CN201910260848A CN111489290A CN 111489290 A CN111489290 A CN 111489290A CN 201910260848 A CN201910260848 A CN 201910260848A CN 111489290 A CN111489290 A CN 111489290A
Authority
CN
China
Prior art keywords
face
image
face image
reconstructed
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910260848.0A
Other languages
English (en)
Other versions
CN111489290B (zh
Inventor
史方
邹佳运
王标
黄梓琪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Changxin Intelligent Control Network Technology Co ltd
Original Assignee
Tongguan Technology Shenzhen Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tongguan Technology Shenzhen Co ltd filed Critical Tongguan Technology Shenzhen Co ltd
Priority to CN201910260848.0A priority Critical patent/CN111489290B/zh
Publication of CN111489290A publication Critical patent/CN111489290A/zh
Application granted granted Critical
Publication of CN111489290B publication Critical patent/CN111489290B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本申请适用于数据处理技术领域,提供了一种人脸图像超分辨重建方法、装置及终端设备,所述方法包括:使用模糊算法对第一人脸图像进行处理,得到第二人脸图像;将第一人脸图像和第二人脸图像的人脸相似度作为人脸特征损失值;将人脸特征损失值乘以第一预置系数后与生成损失值相加,得到新的生成损失值;根据新的生成损失值和判别损失值对待训练的生成网络和待训练的判别网络的网络权重参数进行更新,重复训练,直至达到预设停止条件,得到经过训练的生成网络;将待重建的人脸图像输入经过训练的生成网络中,得到重建后的人脸图像。本申请可以解决现有的超分辨方案易在重建的高分辨率图像中引入噪声,影响人脸识别的准确率的问题。

Description

一种人脸图像超分辨重建方法、装置及终端设备
技术领域
本申请属于数据处理技术领域,尤其涉及一种人脸图像超分辨重建方法、装置及终端设备。
背景技术
随着经济的发展,人们的生活水平不断提高,人们越来越重视个人安全和财产安全,对生活居住环境的安防工作提出了更高的要求,人防的保安方式难以适应人们的需求,智能安防的发展已成为当今安防产业的发展趋势。
在中国平安城市建设的过程中,摄像头是智能安防的一个重要组成部分,当今大多数摄像头都已实现了数字化和网络化,计算机可以对摄像头拍摄的视频画面进行分析处理,实现人脸识别、车辆识别、异常事项提醒等功能。
其中,人脸识别作为一种重要的身份识别手段,在公安机关各警种业务中起着举足轻重的作用,摄像头只需要拍下疑犯面部图像,系统就可以自动将图像与面像数据库中的逃犯面像进行比较,迅速地作出身份判断。
在人脸识别中,人脸图像的清晰度是人脸识别系统能否准确识别人物身份的重要因素,但是现有的大部分普通安防监控摄像头无法满足人脸识别的需求,这些摄像头的视场角往往被设置地比较广,并且拍摄时摄像头往往离人的距离比较远,导致摄像头拍摄的人脸图像分辨率较低,识别准确率不高。
对此,人们提出了利用神经网络对低分辨率图像进行超分辨的方案,将低分辨率图像重建成高分辨率图像。但是当前的超分辨方案对低分辨率图像进行超分辨重建时,容易在重建的高分辨率图像中引入原先不存在的噪声,这些噪声在后续进行人脸识别时,会对识别准确率造成较大的影响。
综上,现有的超分辨方案易在重建的高分辨率图像中引入噪声,影响人脸识别的准确率。
发明内容
有鉴于此,本申请实施例提供了一种人脸图像超分辨重建方法、装置及终端设备,以解决现有的超分辨方案易在重建的高分辨率图像中引入噪声,影响人脸识别的准确率的问题。
本申请实施例的第一方面提供了一种人脸图像超分辨重建方法,包括:
获取第一人脸图像,使用模糊算法对所述第一人脸图像进行模糊处理,得到第二人脸图像;
将所述第一人脸图像和所述第二人脸图像输入人脸特征网络中,计算所述第一人脸图像和所述第二人脸图像的人脸相似度,以所述人脸相似度作为人脸特征损失值;
将所述第二人脸图像输入待训练的生成网络中,得到训练重建图像,其中,所述生成网络用于对人脸图像进行超分辨重建处理;
将所述第一人脸图像和所述训练重建图像输入待训练的判别网络中,得到所述第一人脸图像的第一判别结果和所述训练重建图像的第二判别结果;
根据所述第一判别结果和所述第二判别结果计算所述生成网络的生成损失值和所述判别网络的判别损失值;
将所述人脸特征损失值乘以第一预置系数后与所述生成损失值相加,得到新的生成损失值;
根据所述新的生成损失值和所述判别损失值对所述待训练的生成网络和所述待训练的判别网络的网络权重参数进行更新,重复训练,直至达到预设停止条件,得到经过训练的生成网络;
获取待重建的人脸图像,将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像。
本申请实施例的第二方面提供了一种人脸图像超分辨重建装置,包括:
图像模糊模块,用于获取第一人脸图像,使用模糊算法对所述第一人脸图像进行模糊处理,得到第二人脸图像;
相似计算模块,用于将所述第一人脸图像和所述第二人脸图像输入人脸特征网络中,计算所述第一人脸图像和所述第二人脸图像的人脸相似度,以所述人脸相似度作为人脸特征损失值;
训练重建模块,用于将所述第二人脸图像输入待训练的生成网络中,得到训练重建图像,其中,所述生成网络用于对人脸图像进行超分辨重建处理;
图像判别模块,用于将所述第一人脸图像和所述训练重建图像输入待训练的判别网络中,得到所述第一人脸图像的第一判别结果和所述训练重建图像的第二判别结果;
损失计算模块,用于根据所述第一判别结果和所述第二判别结果计算所述生成网络的生成损失值和所述判别网络的判别损失值;
损失合成模块,用于将所述人脸特征损失值乘以第一预置系数后与所述生成损失值相加,得到新的生成损失值;
网络更新模块,用于根据所述新的生成损失值和所述判别损失值对所述待训练的生成网络和所述待训练的判别网络的网络权重参数进行更新,重复训练,直至达到预设停止条件,得到经过训练的生成网络;
图像重建模块,用于获取待重建的人脸图像,将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像。
本申请实施例的第三方面提供了一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上述方法的步骤。
本申请实施例的第四方面提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如上述方法的步骤。
本申请实施例与现有技术相比存在的有益效果是:
本申请的人脸图像超分辨重建方法中,在训练对抗神经网络的过程中,在常规的生成网络的损失函数中添加了人脸特征网络的人脸特征损失函数,从而计算新的生成损失值,根据新的生成损失值和判别损失值更新对抗神经网络的网络权重参数,重复训练直至达到预设停止条件,得到经过训练的生成网络,使用经过训练的生成网络进行人脸图像的超分辨重建,可以减少外部引入的噪声,提高使用重建后的人脸图像进行人脸识别的准确率,解决了现有的超分辨方案易在重建的高分辨率图像中引入噪声,影响人脸识别的准确率的问题。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种人脸图像超分辨重建方法的实现流程示意图;
图2是本申请实施例提供的一种人脸图像超分辨重建装置的示意图;
图3是本申请实施例提供的终端设备的示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
为了说明本申请所述的技术方案,下面通过具体实施例来进行说明。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在此本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
具体实现中,本申请实施例中描述的移动终端包括但不限于诸如具有触摸敏感表面(例如,触摸屏显示器和/或触摸板)的移动电话、膝上型计算机或平板计算机之类的其它便携式设备。还应当理解的是,在某些实施例中,上述设备并非便携式通信设备,而是具有触摸敏感表面(例如,触摸屏显示器和/或触摸板)的台式计算机。
在接下来的讨论中,描述了包括显示器和触摸敏感表面的移动终端。然而,应当理解的是,移动终端可以包括诸如物理键盘、鼠标和/或控制杆的一个或多个其它物理用户接口设备。
移动终端支持各种应用程序,例如以下中的一个或多个:绘图应用程序、演示应用程序、文字处理应用程序、网站创建应用程序、盘刻录应用程序、电子表格应用程序、游戏应用程序、电话应用程序、视频会议应用程序、电子邮件应用程序、即时消息收发应用程序、锻炼支持应用程序、照片管理应用程序、数码相机应用程序、数字摄影机应用程序、web浏览应用程序、数字音乐播放器应用程序和/或数字视频播放器应用程序。
可以在移动终端上执行的各种应用程序可以使用诸如触摸敏感表面的至少一个公共物理用户接口设备。可以在应用程序之间和/或相应应用程序内调整和/或改变触摸敏感表面的一个或多个功能以及终端上显示的相应信息。这样,终端的公共物理架构(例如,触摸敏感表面)可以支持具有对用户而言直观且透明的用户界面的各种应用程序。
另外,在本申请的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
实施例一:
下面对本申请实施例一提供的一种人脸图像超分辨重建方法进行描述,请参阅附图1,本申请实施例一中的人脸图像超分辨重建方法包括:
步骤S101、获取第一人脸图像,使用模糊算法对所述第一人脸图像进行模糊处理,得到第二人脸图像;
本实施例中采用对抗生成网络进行人脸超分辨重建,对抗生成网络包括生成网络和判别网络,生成网络和判别网络的网络结构可以根据实际需要进行选择,生成网络和判别网络的网络结构可以为同一种对抗生成网络的生成网络和判别网络,也可以为不同对抗生成网络的生成网络和判别网络,例如,当生成网络选用SRGAN的生成网络时,判别网络不一定要选用SRGAN的判别网络,可以选用GAN、WGAN或WGAN-GP等对抗生成网络的判别网络。
在进行人脸图像超分辨重建之前,需要训练对抗生成网络。第一人脸图像为高分辨率的训练图像,使用模糊算法对第一人脸图像进行模糊处理,得到第二人脸图像,第二人脸图像为低分辨率的训练图像。
模糊算法可以选用双线性插值算法、fastBlur算法、RenderScript算法等模糊算法中的一种,模糊算法的具体类型可以根据实际情况进行选择。
在使用模糊算法进行模糊处理的过程中,为方便计算,通常将高分辨率的第一人脸图像缩小4倍分辨率得到低分辨率的第二人脸图像。
步骤S102、将所述第一人脸图像和所述第二人脸图像输入人脸特征网络中,计算所述第一人脸图像和所述第二人脸图像的人脸相似度,以所述人脸相似度作为人脸特征损失值;
人脸特征网络可以识别计算不同人脸图像之间的相似度,将第一人脸图像和第二人脸图像输入人脸特征网络可以计算第一人脸图像和第二人脸图像的人脸相似度,可以将计算得到的人脸相似度作为人脸特征损失值。
人脸特征网络可以为InsightFace、SphereFace、DeepID等人脸特征网络中的一种,具体类型可以根据实际情况进行选择,例如在具体实施的过程中,若选用InsightFace或SphereFace人脸特征网络,则可以使用余弦相似度函数作为人脸特征损失函数计算人脸特征损失值。
步骤S103、将所述第二人脸图像输入待训练的生成网络中,得到训练重建图像,其中,所述生成网络用于对人脸图像进行超分辨重建处理;
生成网络可以对人脸图像进行超分辨重建,将第二人脸图像输入待训练的生成网络中,可以得到训练重建图像。
步骤S104、将所述第一人脸图像和所述训练重建图像输入待训练的判别网络中,得到所述第一人脸图像的第一判别结果和所述训练重建图像的第二判别结果;
得到训练重建图像之后,可以将第一人脸图像和训练重建图像输入待训练的判别网络中,得到第一人脸图像的第一判别结果和训练重建图像的第二判别结果,第一判别结果为待训练的判别网络判断第一人脸图像为真的概率,第二判别结果为待训练的判别网络判断训练重建图像为真的概率。
步骤S105、根据所述第一判别结果和所述第二判别结果计算所述生成网络的生成损失值和所述判别网络的判别损失值;
将第一判别结果和第二判别结果代入生成网络和判别网络的损失函数中,可计算生成网络的生成损失值和判别网络的判别损失值。
步骤S106、将所述人脸特征损失值乘以第一预置系数后与所述生成损失值相加,得到新的生成损失值;
计算了人脸特征损失值和生成损失值之后,可以将人脸特征损失值乘以第一预置系数之后与生成损失值相加,得到新的生成损失值,从模型的角度相当于将人脸特征网络的人脸特征损失函数加入到生成网络的损失函数中,形成新的生成损失函数,例如:
当生成损失函数可以采用SRGAN的损失函数时,具体表达式为:
L=LX+λLgan
其中,L为生成损失函数,LX为对抗损失函数,Lgan为基于内容的损失函数,λ为第二预置系数,LX的具体表达式为:
LX=LMSE0Ladv
其中,LMSE为基于像素的损失函数,Ladv为基于SRGAN的对抗损失函数,λ0为第三预置系数。
将人脸特征损失函数乘以第一预置系数后与生成损失函数相加,得到新的生成损失函数,具体表达式为:
L0=λ1LCOS+L
其中,LCOS为人脸特征损失函数,λ1为第一预置系数,L0为新的生成损失函数。
步骤S107、根据所述新的生成损失值和所述判别损失值对所述待训练的生成网络和所述待训练的判别网络的网络权重参数进行更新,重复训练,直至达到预设停止条件,得到经过训练的生成网络;
根据新的生成损失值和判别损失值可以分别对生成网络和判别网络进行更新,重复根据第一人脸图像和第二人脸图像对待训练的生成网络和判别网络进行训练更新,直至达到预设停止条件,得到经过训练的生成网络。
预设停止条件可以根据实际情况进行设置,例如可以设置为达到预设训练次数、达到预设损失值阈值和达到预设判别结果等条件中的一种或多种的组合。
步骤S108、获取待重建的人脸图像,将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像。
生成网络训练完成后,可以将待重建的人脸图像输入经过训练的生成网络中,生成网络输出重建后的人脸图像。
进一步地,所述获取待重建的人脸图像,将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像具体包括:
A1、获取待处理的原始图像,使用人脸检测算法对所述待处理的原始图像进行人脸检测,裁剪所述原始图像中检测到人脸的区域,得到待重建的人脸图像;
可以将摄像头拍摄的图像作为待处理的原始图像,原始图像中大部分区域为无人脸的背景图像,因此,在进行人脸图像超分辨重建时,可以先使用人脸检测算法对待处理的原始图像进行人脸检测,人脸检测算法可以检测出包含人脸的区域,裁剪原始图像中检测到人脸的区域,得到待重建的人脸图像。
待重建的人脸图像中的人脸应为完整的人脸,允许有一定程度的遮挡,如佩戴墨镜或口罩,但是不能全遮挡。
A2、将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像。
将待重建的人脸图像输入经过训练的生成网络中,经过训练的生成网络输出重建后的人脸图像。
进一步地,所述将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像具体包括:
B1、判断所述待重建的人脸图像的图像分辨率是否大于或等于预置分辨率阈值;
在将待重建的人脸图像输入经过训练的生成网络之前,可以先判断待重建的人脸图像的图像分辨率是否大于或等于预置分辨率阈值。
B2、当所述待重建的人脸图像的图像分辨率大于或等于所述预置分辨率阈值时,将所述待重建的人脸图像作为重建后的人脸图像;
当被拍摄的人脸距离摄像头比较近,角度比较合适的情况下,待重建的人脸图像的图像分辨率可能会大于或等于预置分辨率阈值,此时该人脸图像中的人脸较为清晰,可以不进行超分辨重建处理,直接将待重建的人脸图像作为重建后的人脸图像。
B3、当所述待重建的人脸图像的图像分辨率小于所述预置分辨率阈值时,将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像。
当待重建的人脸图像的图像分辨率小于预置分辨率阈值时,人脸图像中的人脸清晰度较差,影响人脸识别结果的准确性,此时可以将待重建的人脸图像输入经过训练的生成网络中,得到重建后的人脸图像,使用重建后的人脸图像进行人脸识别,提高人脸识别的准确性。
进一步地,所述将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像之前还包括:
C1、对所述待重建的人脸图像进行人脸对齐处理,得到人脸对齐的待重建的人脸图像。
此外,将待重建的人脸图像输入经过训练的生成网络之前,还可以先对待重建的人脸图像进行人脸对齐处理,使用人脸对齐的待重建人脸图像可以方便超分辨重建和得到更好的人脸识别结果。
本实施例一提供的人脸图像超分辨重建方法中,在训练对抗神经网络的过程中,在常规的生成网络的损失函数中添加了人脸特征网络的人脸特征损失函数,从而计算新的生成损失值,根据新的生成损失值和判别损失值更新对抗神经网络的网络权重参数,重复训练直至达到预设停止条件,得到经过训练的生成网络,使用经过训练的生成网络进行人脸图像的超分辨重建,可以减少外部引入的噪声,提高使用重建后的人脸图像进行人脸识别的准确率,解决了现有的超分辨方案易在重建的高分辨率图像中引入噪声,影响人脸识别的准确率的问题。
在获取到原始图像时,可以通过人脸检测算法检测人脸所在的区域,裁剪检测到人脸的区域,去除背景图像,得到待重建的人脸图像,并可以进一步对待重建的人脸图像进行人脸对齐处理,方便后续人脸超分辨重建和识别。
在将待重建的人脸图像输入经过训练的生成网络之前,还可以判断待重建的人脸图像的图像分辨率是否大于或等于预置分辨率阈值,若是,则可以不进行超分辨重建处理,节约计算机算力,提高处理速度,若否,则进行超分辨重建处理,提高人脸识别的准确性。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
实施例二:
本申请实施例二提供了一种人脸图像超分辨重建装置,为便于说明,仅示出与本申请相关的部分,如图2所示,人脸图像超分辨重建装置包括,
图像模糊模块201,用于获取第一人脸图像,使用模糊算法对所述第一人脸图像进行模糊处理,得到第二人脸图像;
相似计算模块202,用于将所述第一人脸图像和所述第二人脸图像输入人脸特征网络中,计算所述第一人脸图像和所述第二人脸图像的人脸相似度,以所述人脸相似度作为人脸特征损失值;
训练重建模块203,用于将所述第二人脸图像输入待训练的生成网络中,得到训练重建图像,其中,所述生成网络用于对人脸图像进行超分辨重建处理;
图像判别模块204,用于将所述第一人脸图像和所述训练重建图像输入待训练的判别网络中,得到所述第一人脸图像的第一判别结果和所述训练重建图像的第二判别结果;
损失计算模块205,用于根据所述第一判别结果和所述第二判别结果计算所述生成网络的生成损失值和所述判别网络的判别损失值;
损失合成模块206,用于将所述人脸特征损失值乘以第一预置系数后与所述生成损失值相加,得到新的生成损失值;
网络更新模块207,用于根据所述新的生成损失值和所述判别损失值对所述待训练的生成网络和所述待训练的判别网络的网络权重参数进行更新,重复训练,直至达到预设停止条件,得到经过训练的生成网络;
图像重建模块208,用于获取待重建的人脸图像,将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像。
进一步地,所述图像重建模块208具体包括:
人脸检测子模块,用于获取待处理的原始图像,使用人脸检测算法对所述待处理的原始图像进行人脸检测,裁剪所述原始图像中检测到人脸的区域,得到待重建的人脸图像;
人脸重建子模块,用于将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像。
进一步地,所述重建子模块具体包括:
分辨率子模块,用于判断所述待重建的人脸图像的图像分辨率是否大于或等于预置分辨率阈值;
沿用子模块,用于当所述待重建的人脸图像的图像分辨率大于或等于所述预置分辨率阈值时,将所述待重建的人脸图像作为重建后的人脸图像;
重建子模块,用于当所述待重建的人脸图像的图像分辨率小于所述预置分辨率阈值时,将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像。
进一步地,所述图像重建模块208还包括:
人脸对齐子模块,用于对所述待重建的人脸图像进行人脸对齐处理,得到人脸对齐的待重建的人脸图像。
需要说明的是,上述装置/单元之间的信息交互、执行过程等内容,由于与本申请方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
实施例三:
图3是本申请实施例三提供的终端设备的示意图。如图3所示,该实施例的终端设备3包括:处理器30、存储器31以及存储在所述存储器31中并可在所述处理器30上运行的计算机程序32。所述处理器30执行所述计算机程序32时实现上述人脸图像超分辨重建方法实施例中的步骤,例如图1所示的步骤S101至S108。或者,所述处理器30执行所述计算机程序32时实现上述各装置实施例中各模块/单元的功能,例如图2所示模块201至208的功能。
示例性的,所述计算机程序32可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器31中,并由所述处理器30执行,以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序32在所述终端设备3中的执行过程。例如,所述计算机程序32可以被分割成图像模糊模块、相似计算模块、训练重建模块、图像判别模块、损失计算模块、损失合成模块、网络更新模块以及图像重建模块,各模块具体功能如下:
图像模糊模块,用于获取第一人脸图像,使用模糊算法对所述第一人脸图像进行模糊处理,得到第二人脸图像;
相似计算模块,用于将所述第一人脸图像和所述第二人脸图像输入人脸特征网络中,计算所述第一人脸图像和所述第二人脸图像的人脸相似度,以所述人脸相似度作为人脸特征损失值;
训练重建模块,用于将所述第二人脸图像输入待训练的生成网络中,得到训练重建图像,其中,所述生成网络用于对人脸图像进行超分辨重建处理;
图像判别模块,用于将所述第一人脸图像和所述训练重建图像输入待训练的判别网络中,得到所述第一人脸图像的第一判别结果和所述训练重建图像的第二判别结果;
损失计算模块,用于根据所述第一判别结果和所述第二判别结果计算所述生成网络的生成损失值和所述判别网络的判别损失值;
损失合成模块,用于将所述人脸特征损失值乘以第一预置系数后与所述生成损失值相加,得到新的生成损失值;
网络更新模块,用于根据所述新的生成损失值和所述判别损失值对所述待训练的生成网络和所述待训练的判别网络的网络权重参数进行更新,重复训练,直至达到预设停止条件,得到经过训练的生成网络;
图像重建模块,用于获取待重建的人脸图像,将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像。
所述终端设备3可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述终端设备可包括,但不仅限于,处理器30、存储器31。本领域技术人员可以理解,图3仅仅是终端设备3的示例,并不构成对终端设备3的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述终端设备还可以包括输入输出设备、网络接入设备、总线等。
所称处理器30可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器31可以是所述终端设备3的内部存储单元,例如终端设备3的硬盘或内存。所述存储器31也可以是所述终端设备3的外部存储设备,例如所述终端设备3上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器31还可以既包括所述终端设备3的内部存储单元也包括外部存储设备。所述存储器31用于存储所述计算机程序以及所述终端设备所需的其他程序和数据。所述存储器31还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/终端设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/终端设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
以上所述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。

Claims (10)

1.一种人脸图像超分辨重建方法,其特征在于,包括:
获取第一人脸图像,使用模糊算法对所述第一人脸图像进行模糊处理,得到第二人脸图像;
将所述第一人脸图像和所述第二人脸图像输入人脸特征网络中,计算所述第一人脸图像和所述第二人脸图像的人脸相似度,以所述人脸相似度作为人脸特征损失值;
将所述第二人脸图像输入待训练的生成网络中,得到训练重建图像,其中,所述生成网络用于对人脸图像进行超分辨重建处理;
将所述第一人脸图像和所述训练重建图像输入待训练的判别网络中,得到所述第一人脸图像的第一判别结果和所述训练重建图像的第二判别结果;
根据所述第一判别结果和所述第二判别结果计算所述生成网络的生成损失值和所述判别网络的判别损失值;
将所述人脸特征损失值乘以第一预置系数后与所述生成损失值相加,得到新的生成损失值;
根据所述新的生成损失值和所述判别损失值对所述待训练的生成网络和所述待训练的判别网络的网络权重参数进行更新,重复训练,直至达到预设停止条件,得到经过训练的生成网络;
获取待重建的人脸图像,将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像。
2.如权利要求1所述的人脸图像超分辨重建方法,其特征在于,所述获取待重建的人脸图像,将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像具体包括:
获取待处理的原始图像,使用人脸检测算法对所述待处理的原始图像进行人脸检测,裁剪所述原始图像中检测到人脸的区域,得到待重建的人脸图像;
将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像。
3.如权利要求2所述的人脸图像超分辨重建方法,其特征在于,所述将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像具体包括:
判断所述待重建的人脸图像的图像分辨率是否大于或等于预置分辨率阈值;
当所述待重建的人脸图像的图像分辨率大于或等于所述预置分辨率阈值时,将所述待重建的人脸图像作为重建后的人脸图像;
当所述待重建的人脸图像的图像分辨率小于所述预置分辨率阈值时,将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像。
4.如权利要求2所述的人脸图像超分辨重建方法,其特征在于,所述将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像之前还包括:
对所述待重建的人脸图像进行人脸对齐处理,得到人脸对齐的待重建的人脸图像。
5.一种人脸图像超分辨重建装置,其特征在于,包括:
图像模糊模块,用于获取第一人脸图像,使用模糊算法对所述第一人脸图像进行模糊处理,得到第二人脸图像;
相似计算模块,用于将所述第一人脸图像和所述第二人脸图像输入人脸特征网络中,计算所述第一人脸图像和所述第二人脸图像的人脸相似度,以所述人脸相似度作为人脸特征损失值;
训练重建模块,用于将所述第二人脸图像输入待训练的生成网络中,得到训练重建图像,其中,所述生成网络用于对人脸图像进行超分辨重建处理;
图像判别模块,用于将所述第一人脸图像和所述训练重建图像输入待训练的判别网络中,得到所述第一人脸图像的第一判别结果和所述训练重建图像的第二判别结果;
损失计算模块,用于根据所述第一判别结果和所述第二判别结果计算所述生成网络的生成损失值和所述判别网络的判别损失值;
损失合成模块,用于将所述人脸特征损失值乘以第一预置系数后与所述生成损失值相加,得到新的生成损失值;
网络更新模块,用于根据所述新的生成损失值和所述判别损失值对所述待训练的生成网络和所述待训练的判别网络的网络权重参数进行更新,重复训练,直至达到预设停止条件,得到经过训练的生成网络;
图像重建模块,用于获取待重建的人脸图像,将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像。
6.如权利要求5所述的人脸图像超分辨重建装置,其特征在于,所述图像重建模块具体包括:
人脸检测子模块,用于获取待处理的原始图像,使用人脸检测算法对所述待处理的原始图像进行人脸检测,裁剪所述原始图像中检测到人脸的区域,得到待重建的人脸图像;
人脸重建子模块,用于将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像。
7.如权利要求6所述的人脸图像超分辨重建装置,其特征在于,所述重建子模块具体包括:
分辨率子模块,用于判断所述待重建的人脸图像的图像分辨率是否大于或等于预置分辨率阈值;
沿用子模块,用于当所述待重建的人脸图像的图像分辨率大于或等于所述预置分辨率阈值时,将所述待重建的人脸图像作为重建后的人脸图像;
重建子模块,用于当所述待重建的人脸图像的图像分辨率小于所述预置分辨率阈值时,将所述待重建的人脸图像输入所述经过训练的生成网络中,得到重建后的人脸图像。
8.如权利要求6所述的人脸图像超分辨重建装置,其特征在于,所述图像重建模块还包括:
人脸对齐子模块,用于对所述待重建的人脸图像进行人脸对齐处理,得到人脸对齐的待重建的人脸图像。
9.一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至4任一项所述方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至4任一项所述方法的步骤。
CN201910260848.0A 2019-04-02 2019-04-02 一种人脸图像超分辨重建方法、装置及终端设备 Active CN111489290B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910260848.0A CN111489290B (zh) 2019-04-02 2019-04-02 一种人脸图像超分辨重建方法、装置及终端设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910260848.0A CN111489290B (zh) 2019-04-02 2019-04-02 一种人脸图像超分辨重建方法、装置及终端设备

Publications (2)

Publication Number Publication Date
CN111489290A true CN111489290A (zh) 2020-08-04
CN111489290B CN111489290B (zh) 2023-05-16

Family

ID=71791388

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910260848.0A Active CN111489290B (zh) 2019-04-02 2019-04-02 一种人脸图像超分辨重建方法、装置及终端设备

Country Status (1)

Country Link
CN (1) CN111489290B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112183488A (zh) * 2020-11-03 2021-01-05 平安科技(深圳)有限公司 人脸检测模型训练方法、设备及人脸检测方法
CN112507617A (zh) * 2020-12-03 2021-03-16 青岛海纳云科技控股有限公司 一种SRFlow超分辨率模型的训练方法及人脸识别方法
CN112508782A (zh) * 2020-09-10 2021-03-16 浙江大华技术股份有限公司 网络模型的训练方法、人脸图像超分辨率重建方法及设备
CN112509154A (zh) * 2020-11-26 2021-03-16 北京达佳互联信息技术有限公司 图像生成模型的训练方法、图像生成方法及装置
CN112949592A (zh) * 2021-03-31 2021-06-11 云南大学 高光谱图像的分类方法、装置和电子设备
CN114359113A (zh) * 2022-03-15 2022-04-15 天津市电子计算机研究所有限公司 一种人脸图像重建复原方法的检测方法及应用系统
CN114981835A (zh) * 2020-10-29 2022-08-30 京东方科技集团股份有限公司 人脸重建模型的训练方法及装置、人脸重建方法及装置、电子设备和可读存储介质
CN115439894A (zh) * 2022-11-08 2022-12-06 荣耀终端有限公司 训练指纹配对模型的方法、电子设备、程序产品及介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107154023A (zh) * 2017-05-17 2017-09-12 电子科技大学 基于生成对抗网络和亚像素卷积的人脸超分辨率重建方法
US20180075581A1 (en) * 2016-09-15 2018-03-15 Twitter, Inc. Super resolution using a generative adversarial network
CN108596833A (zh) * 2018-04-26 2018-09-28 广东工业大学 超分辨率图像重构方法、装置、设备及可读存储介质
US20190050632A1 (en) * 2017-08-14 2019-02-14 Baidu Online Network Technology (Beijing) Co., Ltd . Method and apparatus for generating training data for human face recognition, device and computer storage medium

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180075581A1 (en) * 2016-09-15 2018-03-15 Twitter, Inc. Super resolution using a generative adversarial network
CN107154023A (zh) * 2017-05-17 2017-09-12 电子科技大学 基于生成对抗网络和亚像素卷积的人脸超分辨率重建方法
US20190050632A1 (en) * 2017-08-14 2019-02-14 Baidu Online Network Technology (Beijing) Co., Ltd . Method and apparatus for generating training data for human face recognition, device and computer storage medium
CN108596833A (zh) * 2018-04-26 2018-09-28 广东工业大学 超分辨率图像重构方法、装置、设备及可读存储介质

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112508782A (zh) * 2020-09-10 2021-03-16 浙江大华技术股份有限公司 网络模型的训练方法、人脸图像超分辨率重建方法及设备
CN112508782B (zh) * 2020-09-10 2024-04-26 浙江大华技术股份有限公司 网络模型的训练方法、人脸图像超分辨率重建方法及设备
CN114981835A (zh) * 2020-10-29 2022-08-30 京东方科技集团股份有限公司 人脸重建模型的训练方法及装置、人脸重建方法及装置、电子设备和可读存储介质
CN112183488A (zh) * 2020-11-03 2021-01-05 平安科技(深圳)有限公司 人脸检测模型训练方法、设备及人脸检测方法
CN112509154A (zh) * 2020-11-26 2021-03-16 北京达佳互联信息技术有限公司 图像生成模型的训练方法、图像生成方法及装置
CN112509154B (zh) * 2020-11-26 2024-03-22 北京达佳互联信息技术有限公司 图像生成模型的训练方法、图像生成方法及装置
CN112507617A (zh) * 2020-12-03 2021-03-16 青岛海纳云科技控股有限公司 一种SRFlow超分辨率模型的训练方法及人脸识别方法
CN112949592A (zh) * 2021-03-31 2021-06-11 云南大学 高光谱图像的分类方法、装置和电子设备
CN114359113A (zh) * 2022-03-15 2022-04-15 天津市电子计算机研究所有限公司 一种人脸图像重建复原方法的检测方法及应用系统
CN115439894A (zh) * 2022-11-08 2022-12-06 荣耀终端有限公司 训练指纹配对模型的方法、电子设备、程序产品及介质

Also Published As

Publication number Publication date
CN111489290B (zh) 2023-05-16

Similar Documents

Publication Publication Date Title
CN111489290B (zh) 一种人脸图像超分辨重建方法、装置及终端设备
WO2021057848A1 (zh) 网络的训练方法、图像处理方法、网络、终端设备及介质
CN108961157B (zh) 图片处理方法、图片处理装置及终端设备
CN108765340B (zh) 模糊图像处理方法、装置及终端设备
CN108400868B (zh) 种子密钥的存储方法、装置及移动终端
CN108564550B (zh) 图像处理方法、装置及终端设备
CN108961267B (zh) 图片处理方法、图片处理装置及终端设备
WO2021104097A1 (zh) 表情包生成方法、装置及终端设备
CN110266994B (zh) 一种视频通话方法、视频通话装置及终端
CN109657543B (zh) 人流量监控方法、装置及终端设备
CN110457963B (zh) 显示控制方法、装置、移动终端及计算机可读存储介质
CN109215037A (zh) 目标图像分割方法、装置及终端设备
CN111818385B (zh) 视频处理方法、视频处理装置及终端设备
CN113192639B (zh) 信息预测模型的训练方法、装置、设备及存储介质
CN108629767B (zh) 一种场景检测的方法、装置及移动终端
CN109873980A (zh) 视频监控方法、装置及终端设备
CN108776959B (zh) 图像处理方法、装置及终端设备
CN109165648B (zh) 一种图像处理方法、图像处理装置及移动终端
CN109492249B (zh) 设计图的快速生成方法、装置及终端设备
CN108763491B (zh) 图片处理方法、装置及终端设备
CN116311389B (zh) 指纹识别的方法和装置
CN107798249B (zh) 行为模式数据的发布方法及终端设备
CN114913567A (zh) 口罩佩戴的检测方法、装置、终端设备及可读存储介质
CN111985305A (zh) 防窥屏方法、装置及终端设备
CN107580030B (zh) 一种数据管理方法、装置及服务器

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20211201

Address after: 241000 12th floor, advertising creative complex building, Wuhu advertising industrial park, middle Beijing Road, Jiujiang District, Wuhu City, Anhui Province

Applicant after: CHANGXIN INTELLIGENT CONTROL NETWORK TECHNOLOGY CO.,LTD.

Address before: 518000 room 1002, phase II, international student entrepreneurship building, No. 29, South Ring Road, gaoxinyuan, Yuehai street, Nanshan District, Shenzhen City, Guangdong Province

Applicant before: TONGGUAN TECHNOLOGY (SHENZHEN) CO.,LTD.

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant