CN109145745B - 一种遮挡情况下的人脸识别方法 - Google Patents

一种遮挡情况下的人脸识别方法 Download PDF

Info

Publication number
CN109145745B
CN109145745B CN201810803139.8A CN201810803139A CN109145745B CN 109145745 B CN109145745 B CN 109145745B CN 201810803139 A CN201810803139 A CN 201810803139A CN 109145745 B CN109145745 B CN 109145745B
Authority
CN
China
Prior art keywords
face
image
loss function
sample set
features
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810803139.8A
Other languages
English (en)
Other versions
CN109145745A (zh
Inventor
曹琨
吴飞
骆立志
毛万葵
章裕润
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai University of Engineering Science
Original Assignee
Shanghai University of Engineering Science
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai University of Engineering Science filed Critical Shanghai University of Engineering Science
Priority to CN201810803139.8A priority Critical patent/CN109145745B/zh
Publication of CN109145745A publication Critical patent/CN109145745A/zh
Application granted granted Critical
Publication of CN109145745B publication Critical patent/CN109145745B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明涉及一种遮挡情况下的人脸识别方法,该方法将采集的人脸图像进行特征提取,并将提取出来的人脸特征输入人脸修补模型,对人脸遮挡部分进行修补,然后对修补后的人脸进行特征识别,最后对人脸识别结果进行展示。与现有技术相比,本发明通过对遮挡位置进行重构,提高了遮挡人脸的识别率,且有效提高了在复杂环境中人脸识别的准确率,满足人脸识别的需求。

Description

一种遮挡情况下的人脸识别方法
技术领域
本发明涉及模式识别和生物特征识别技术领域,尤其是涉及一种遮挡情况下的人脸识别方法。
背景技术
人脸识别技术是基于计算机、图像处理及模式识别的一种生物特征识别技术。近年来,随着人脸识别在商业和执法部门的广泛应用,如刑事鉴定、安全系统、监控等,人脸识别技术得到了越来越多的关注。
在人脸识别过程中,存在因人脸被遮挡导致识别率不高的问题。例如,现有技术利用无遮挡人脸照片作为样本库,但是如果被识别对象的面部为戴有墨镜的图像,则可能无法识别或造成错误识别。
发明内容
本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种遮挡情况下的人脸识别方法。
本发明的目的可以通过以下技术方案来实现:
一种遮挡情况下的人脸识别方法,该方法包括以下步骤:
S1:采集识别区域的原始人脸图像,获取人脸训练样本集和人脸测试样本集。
S2:对人脸训练样本集和人脸测试样本集的图像进行去噪处理和归一化处理,采用卷积神经网络对人脸特征进行提取。
S3:将提取的人脸特征输入人脸修补模型进行图像修补,结合损失函数,获取修补后的人脸图像。
优选地,所述的人脸修补模型采用VGG-19网络体系结构,且在VGG-19网络体系结构的基础上叠加有两个卷积层、一个池化层和一个全连接层。
人脸修补模型结合损失函数所构成的综合损失函数为:
Figure BDA0001737585010000021
式中,λ1、λ2分别为平衡不同损失影响的权重,Lr为生成器的重建损失函数,D1、D2分别为局部判别器和全局判别器,
Figure BDA0001737585010000022
分别为局部判别器和全局判别器的损失函数。
生成器的重建损失函数Lr的表达式为:
Figure BDA0001737585010000023
式中,f(x)为提取的人脸特征,f(xi)为生成图像,α为超参数。
局部判别器和全局判别器具有相同的损失函数,该损失函数的定义为:
Figure BDA0001737585010000024
式中,pdata(x)和pz(z)分别为噪声变量z和实际数据x的分布,D(x|y)为带有监督信号y条件下实际数据x通过判别器D后的输出,G(z|y)为生成器G的输出。
S4:对修补后的人脸图像进行特征提取,根据特征进行人脸图像匹配,获取人脸识别结果;具体内容为:
采用SIFT方法将重构人脸的SIFT特征和样本集里所有SIFT特征计算欧式距离,将距离最小的特征作为准确匹配点,根据多个准确匹配点进行人脸图像匹配。
S5:显示人脸识别结果。
与现有技术相比,本发明通过对人脸的遮挡部分进行人脸内容重构,并根据重构内容进行特征点匹配,进而完成人脸识别,可有效提高遮挡人脸的识别率,充分满足用户的需求。
附图说明
图1为本发明方法的流程示意图;
图2为本发明方法中的人脸修补模型的结构示意图。
具体实施方式
下面结合附图和具体实施例对本发明进行详细说明。
实施例
本发明涉及一种遮挡情况下的人脸识别方法,如图1所示,包括以下步骤:
步骤一、采集识别区域的原始人脸图像,获取人脸训练样本集和人脸测试样本集。
步骤二、对人脸训练样本集和人脸测试样本集的图像进行去噪处理和归一化处理,然后通过卷积神经网络对预处理后的图像进行五官等脸部特征提取。
步骤三、将提取的人脸特征输入人脸修补模型进行图像修补,结合损失函数,获取修补后的人脸图像;即将遮挡人脸特征输入人脸修补模型的生成器中,将人脸被遮挡的区域进行重构,最后将重构后的人脸分别输入局部信息判别器和全局信息判别器中。具体内容为:
人脸修补模型中生成器G是直接从遮挡处填补的噪声向量开始,从编码器获得的隐含表示捕获更多的变量和未知和已知的关系之间的关系,然后馈送到解码器以生成内容。在模型中使用VGG-19网络的“conv1”到“pool3”的体系结构,在此基础上再叠加两个卷积层和一个池化层,并在其之后添加一个全连接层作为编码器。解码器与编码器的每一层结构相对应。
人脸修补模型的生成器填充内容粗糙,像素模糊。为了更接近原图,引入全局判别器和局部判别器,局部判别器D1是针对缺损区域中重构内容的真实度,全局判别器D2是确定整个图像的真实度。
人脸修补模型中生成器引入了重建损失Lr,即网络输出和原始图像之间的L2距离,即:
Figure BDA0001737585010000031
其中,f(x)是原始图像,f(xi)是生成图像,超参数α是为了拉大f(xi)和f(x)的距离。
人脸修补模型中引入的两种判别器:局部判别器D1和全局判别器D2,两个判别网络{D1,D2}具有相同的损失函数定义,以局部判别器D1为例,其损失函数为下式:
Figure BDA0001737585010000032
式中,pdata(x)和pz(z)表示噪声变量z和实际数据x的分布。D(x|y)表示带有监督信号y条件下实际数据x通过判别器D后的输出。
人脸修补模型结合损失函数,生成重构后的完整人脸。本发明的人脸修补模型中的综合损失函数为:
Figure BDA0001737585010000033
其中,λ1、λ2是平衡不同损失影响的权重。
步骤四、对修补后的人脸图像利用SIFT方法进行特征提取,具体内容为:
将重构人脸的SIFT(Scale-invariant feature transform,尺度不变特征变换)特征和样本集里所有SIFT特征计算欧式距离,将距离最小的特征作为准确匹配点,根据多个准确匹配点进行人脸图像匹配,获取人脸识别结果。
步骤五、显示人脸识别结果。
本实施例通过实际实验对本发明方法得到的识别人脸图像和原始人脸图像的相似度做进一步说明。
为了验证本发明提供的遮挡情况下人脸识别方法的人脸相似度,本实施例在公开人脸数据库Celeb数据集上进行了测试。该数据库由202599张人脸图像组成,每幅人脸图像被裁剪,按两只眼睛的位置大致对齐,重新标度为128×128×3像素。遵循标准分割,本实施例中训练采用162770张图像,验证采用19867张图像,测试采用19962张图像。同时,将利用本发明方法识别生成的人脸图像与基于边缘像素重构方法识别生成的图像进行了对比,两种方法各自计算生成的图像与原始图像的余弦相似度与SSIM(structural similarityindex,结构相似性)如表1所示。
表1人脸相似性对比
Figure BDA0001737585010000041
由表1对比可以看出,本发明方法生成的人脸图像与原始图像相比,相似度更高,表明本发明方法得到的人脸图像具有更高的识别率,置信度更高。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的工作人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。

Claims (3)

1.一种遮挡情况下的人脸识别方法,其特征在于,该方法包括以下步骤:
1)采集识别区域的原始人脸图像,获取人脸训练样本集和人脸测试样本集;
2)对人脸训练样本集和人脸测试样本集的图像进行预处理,提取人脸特征;
3)将提取的人脸特征输入人脸修补模型进行图像修补,结合损失函数,获取修补后的人脸图像;
4)对修补后的人脸图像进行特征提取,根据特征进行人脸图像匹配,获取人脸识别结果;
5)显示人脸识别结果;
所述的人脸修补模型采用VGG-19网络体系结构,且在VGG-19网络体系结构的基础上叠加有两个卷积层、一个池化层和一个全连接层;人脸修补模型结合损失函数所构成的综合损失函数为:
Figure FDA0003311496540000011
式中,λ1、λ2分别为平衡不同损失影响的权重,Lr为生成器的重建损失函数,D1、D2分别为局部判别器和全局判别器,
Figure FDA0003311496540000012
分别为局部判别器和全局判别器的损失函数;
生成器的重建损失函数Lr的表达式为:
Figure FDA0003311496540000013
式中,f(x)为提取的人脸特征,f(xi)为生成图像,α为超参数;
局部判别器和全局判别器具有相同的损失函数,该损失函数的定义为:
Figure FDA0003311496540000014
式中,pdata(x)和pz(z)分别为噪声变量z和实际数据x的分布,D(x|y)为带有监督信号y条件下实际数据x通过判别器D后的输出,G(z|y)为生成器G的输出;
步骤4)的具体内容为:
采用SIFT方法将重构人脸的SIFT特征和样本集里所有SIFT特征计算欧式距离,将距离最小的特征作为准确匹配点,根据多个准确匹配点进行人脸图像匹配。
2.根据权利要求1所述的一种遮挡情况下的人脸识别方法,其特征在于,步骤2)中,所述的预处理包括去噪处理和归一化处理。
3.根据权利要求1所述的一种遮挡情况下的人脸识别方法,其特征在于,步骤2)中,采用卷积神经网络对人脸特征进行提取。
CN201810803139.8A 2018-07-20 2018-07-20 一种遮挡情况下的人脸识别方法 Active CN109145745B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810803139.8A CN109145745B (zh) 2018-07-20 2018-07-20 一种遮挡情况下的人脸识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810803139.8A CN109145745B (zh) 2018-07-20 2018-07-20 一种遮挡情况下的人脸识别方法

Publications (2)

Publication Number Publication Date
CN109145745A CN109145745A (zh) 2019-01-04
CN109145745B true CN109145745B (zh) 2022-02-11

Family

ID=64801305

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810803139.8A Active CN109145745B (zh) 2018-07-20 2018-07-20 一种遮挡情况下的人脸识别方法

Country Status (1)

Country Link
CN (1) CN109145745B (zh)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109886167B (zh) * 2019-02-01 2020-11-20 中国科学院信息工程研究所 一种遮挡人脸识别方法及装置
CN110110681A (zh) * 2019-05-14 2019-08-09 哈尔滨理工大学 一种用于有遮挡的人脸识别方法
CN112131915B (zh) * 2019-06-25 2023-03-24 杭州海康威视数字技术股份有限公司 人脸考勤系统以及摄像机和码流设备
CN110569731B (zh) * 2019-08-07 2023-04-14 北京旷视科技有限公司 一种人脸识别方法、装置及电子设备
CN110659566B (zh) * 2019-08-15 2020-12-18 重庆特斯联智慧科技股份有限公司 一种遮挡状态下的目标跟踪方法及系统
CN111814603B (zh) * 2020-06-23 2023-09-05 汇纳科技股份有限公司 一种人脸识别方法、介质及电子设备
CN111915307A (zh) * 2020-07-02 2020-11-10 浙江恒科实业有限公司 一种无接触式移动支付系统及方法
CN113761997B (zh) * 2020-08-27 2024-04-09 北京沃东天骏信息技术有限公司 生成半遮挡人脸识别器的方法和装置
CN113205035B (zh) * 2021-04-27 2023-06-30 安徽中科晶格技术有限公司 一种身份识别方法、装置、设备及存储介质
CN114821795B (zh) * 2022-05-05 2022-10-28 北京容联易通信息技术有限公司 一种基于ReID技术的人员跑动检测和预警方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107993190A (zh) * 2017-11-14 2018-05-04 中国科学院自动化研究所 图像水印去除装置
CN108229349A (zh) * 2017-12-21 2018-06-29 中国科学院自动化研究所 网纹人脸图像识别装置
CN108269245A (zh) * 2018-01-26 2018-07-10 深圳市唯特视科技有限公司 一种基于新型生成对抗网络的眼部图像修复方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107993190A (zh) * 2017-11-14 2018-05-04 中国科学院自动化研究所 图像水印去除装置
CN108229349A (zh) * 2017-12-21 2018-06-29 中国科学院自动化研究所 网纹人脸图像识别装置
CN108269245A (zh) * 2018-01-26 2018-07-10 深圳市唯特视科技有限公司 一种基于新型生成对抗网络的眼部图像修复方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
From Eyes to Face Synthesis: a New Approach for Human-Centered Smart Surveillance;XIANG CHEN等;《IEEE》;20180208;第14567-14576页 *
XIANG CHEN等.From Eyes to Face Synthesis: a New Approach for Human-Centered Smart Surveillance.《IEEE》.2018,第14567-14576页. *

Also Published As

Publication number Publication date
CN109145745A (zh) 2019-01-04

Similar Documents

Publication Publication Date Title
CN109145745B (zh) 一种遮挡情况下的人脸识别方法
Yin et al. Hot region selection based on selective search and modified fuzzy C-means in remote sensing images
Dibeklioglu et al. 3D facial landmarking under expression, pose, and occlusion variations
Zhang et al. A dense u-net with cross-layer intersection for detection and localization of image forgery
Mazaheri et al. A Skip Connection Architecture for Localization of Image Manipulations.
Kadam et al. Detection and localization of multiple image splicing using MobileNet V1
CN111709313B (zh) 基于局部和通道组合特征的行人重识别方法
CN101147159A (zh) 利用统计模板匹配进行对象检测的快速方法
CN111639558A (zh) 一种基于ArcFace Loss和改进残差网络的指静脉身份验证方法
Quan et al. Deep feature correlation learning for multi-modal remote sensing image registration
CN112668519A (zh) 基于MCCAE网络和Deep SVDD网络的异常人脸识别活体检测方法及系统
CN112560710B (zh) 一种用于构建指静脉识别系统的方法及指静脉识别系统
CN113158777A (zh) 质量评分方法、质量评分模型的训练方法及相关装置
CN115690803A (zh) 数字图像的识别方法、装置、电子设备及可读存储介质
Sabeena et al. Convolutional block attention based network for copy-move image forgery detection
CN112329662B (zh) 基于无监督学习的多视角显著性估计方法
Xin et al. Random part localization model for fine grained image classification
CN116884045A (zh) 身份识别方法、装置、计算机设备和存储介质
CN108154107B (zh) 一种确定遥感图像归属的场景类别的方法
Kekre et al. Performance comparison of DCT and VQ based techniques for iris recognition
CN113657498B (zh) 生物特征提取方法、训练方法、认证方法、装置和设备
CN116188956A (zh) 一种深度伪造人脸图像检测的方法及相关设备
CN115795394A (zh) 层级多模态和高级增量学习的生物特征融合身份识别方法
Ruiz-del-Solar et al. A new approach for fingerprint verification based on wide baseline matching using local interest points and descriptors
Das et al. Person identification through IRIS recognition

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant