CN109145745A - 一种遮挡情况下的人脸识别方法 - Google Patents

一种遮挡情况下的人脸识别方法 Download PDF

Info

Publication number
CN109145745A
CN109145745A CN201810803139.8A CN201810803139A CN109145745A CN 109145745 A CN109145745 A CN 109145745A CN 201810803139 A CN201810803139 A CN 201810803139A CN 109145745 A CN109145745 A CN 109145745A
Authority
CN
China
Prior art keywords
face
circumstance
loss function
identification method
method under
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810803139.8A
Other languages
English (en)
Other versions
CN109145745B (zh
Inventor
曹琨
吴飞
骆立志
毛万葵
章裕润
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai University of Engineering Science
Original Assignee
Shanghai University of Engineering Science
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai University of Engineering Science filed Critical Shanghai University of Engineering Science
Priority to CN201810803139.8A priority Critical patent/CN109145745B/zh
Publication of CN109145745A publication Critical patent/CN109145745A/zh
Application granted granted Critical
Publication of CN109145745B publication Critical patent/CN109145745B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明涉及一种遮挡情况下的人脸识别方法,该方法将采集的人脸图像进行特征提取,并将提取出来的人脸特征输入人脸修补模型,对人脸遮挡部分进行修补,然后对修补后的人脸进行特征识别,最后对人脸识别结果进行展示。与现有技术相比,本发明通过对遮挡位置进行重构,提高了遮挡人脸的识别率,且有效提高了在复杂环境中人脸识别的准确率,满足人脸识别的需求。

Description

一种遮挡情况下的人脸识别方法
技术领域
本发明涉及模式识别和生物特征识别技术领域,尤其是涉及一种遮挡情况下的人脸识别方法。
背景技术
人脸识别技术是基于计算机、图像处理及模式识别的一种生物特征识别技术。近年来,随着人脸识别在商业和执法部门的广泛应用,如刑事鉴定、安全系统、监控等,人脸识别技术得到了越来越多的关注。
在人脸识别过程中,存在因人脸被遮挡导致识别率不高的问题。例如,现有技术利用无遮挡人脸照片作为样本库,但是如果被识别对象的面部为戴有墨镜的图像,则可能无法识别或造成错误识别。
发明内容
本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种遮挡情况下的人脸识别方法。
本发明的目的可以通过以下技术方案来实现:
一种遮挡情况下的人脸识别方法,该方法包括以下步骤:
S1:采集识别区域的原始人脸图像,获取人脸训练样本集和人脸测试样本集。
S2:对人脸训练样本集和人脸测试样本集的图像进行去噪处理和归一化处理,采用卷积神经网络对人脸特征进行提取。
S3:将提取的人脸特征输入人脸修补模型进行图像修补,结合损失函数,获取修补后的人脸图像。
优选地,所述的人脸修补模型采用VGG-19网络体系结构,且在VGG-19网络体系结构的基础上叠加有两个卷积层、一个池化层和一个全连接层。
人脸修补模型结合损失函数所构成的综合损失函数为:
式中,λ1、λ2分别为平衡不同损失影响的权重,Lr为生成器的重建损失函数,D1、D2分别为局部判别器和全局判别器,分别为局部判别器和全局判别器的损失函数。
生成器的重建损失函数Lr的表达式为:
式中,f(x)为提取的人脸特征,f(xi)为生成图像,α为超参数。
局部判别器和全局判别器具有相同的损失函数,该损失函数的定义为:
式中,pdata(x)和pz(z)分别为噪声变量z和实际数据x的分布,D(x|y)为带有监督信号y条件下实际数据x通过判别器D后的输出,G(z|y)为生成器G的输出。
S4:对修补后的人脸图像进行特征提取,根据特征进行人脸图像匹配,获取人脸识别结果;具体内容为:
采用SIFT方法将重构人脸的SIFT特征和样本集里所有SIFT特征计算欧式距离,将距离最小的特征作为准确匹配点,根据多个准确匹配点进行人脸图像匹配。
S5:显示人脸识别结果。
与现有技术相比,本发明通过对人脸的遮挡部分进行人脸内容重构,并根据重构内容进行特征点匹配,进而完成人脸识别,可有效提高遮挡人脸的识别率,充分满足用户的需求。
附图说明
图1为本发明方法的流程示意图;
图2为本发明方法中的人脸修补模型的结构示意图。
具体实施方式
下面结合附图和具体实施例对本发明进行详细说明。
实施例
本发明涉及一种遮挡情况下的人脸识别方法,如图1所示,包括以下步骤:
步骤一、采集识别区域的原始人脸图像,获取人脸训练样本集和人脸测试样本集。
步骤二、对人脸训练样本集和人脸测试样本集的图像进行去噪处理和归一化处理,然后通过卷积神经网络对预处理后的图像进行五官等脸部特征提取。
步骤三、将提取的人脸特征输入人脸修补模型进行图像修补,结合损失函数,获取修补后的人脸图像;即将遮挡人脸特征输入人脸修补模型的生成器中,将人脸被遮挡的区域进行重构,最后将重构后的人脸分别输入局部信息判别器和全局信息判别器中。具体内容为:
人脸修补模型中生成器G是直接从遮挡处填补的噪声向量开始,从编码器获得的隐含表示捕获更多的变量和未知和已知的关系之间的关系,然后馈送到解码器以生成内容。在模型中使用VGG-19网络的“conv1”到“pool3”的体系结构,在此基础上再叠加两个卷积层和一个池化层,并在其之后添加一个全连接层作为编码器。解码器与编码器的每一层结构相对应。
人脸修补模型的生成器填充内容粗糙,像素模糊。为了更接近原图,引入全局判别器和局部判别器,局部判别器D1是针对缺损区域中重构内容的真实度,全局判别器D2是确定整个图像的真实度。
人脸修补模型中生成器引入了重建损失Lr,即网络输出和原始图像之间的L2距离,即:
其中,f(x)是原始图像,f(xi)是生成图像,超参数α是为了拉大f(xi)和f(x)的距离。
人脸修补模型中引入的两种判别器:局部判别器D1和全局判别器D2,两个判别网络{D1,D2}具有相同的损失函数定义,以局部判别器D1为例,其损失函数为下式:
式中,pdata(x)和pz(z)表示噪声变量z和实际数据x的分布。D(x|y)表示带有监督信号y条件下实际数据x通过判别器D后的输出。
人脸修补模型结合损失函数,生成重构后的完整人脸。本发明的人脸修补模型中的综合损失函数为:
其中,λ1、λ2是平衡不同损失影响的权重。
步骤四、对修补后的人脸图像利用SIFT方法进行特征提取,具体内容为:
将重构人脸的SIFT(Scale-invariant feature transform,尺度不变特征变换)特征和样本集里所有SIFT特征计算欧式距离,将距离最小的特征作为准确匹配点,根据多个准确匹配点进行人脸图像匹配,获取人脸识别结果。
步骤五、显示人脸识别结果。
本实施例通过实际实验对本发明方法得到的识别人脸图像和原始人脸图像的相似度做进一步说明。
为了验证本发明提供的遮挡情况下人脸识别方法的人脸相似度,本实施例在公开人脸数据库Celeb数据集上进行了测试。该数据库由202599张人脸图像组成,每幅人脸图像被裁剪,按两只眼睛的位置大致对齐,重新标度为128×128×3像素。遵循标准分割,本实施例中训练采用162770张图像,验证采用19867张图像,测试采用19962张图像。同时,将利用本发明方法识别生成的人脸图像与基于边缘像素重构方法识别生成的图像进行了对比,两种方法各自计算生成的图像与原始图像的余弦相似度与SSIM(structural similarityindex,结构相似性)如表1所示。
表1人脸相似性对比
由表1对比可以看出,本发明方法生成的人脸图像与原始图像相比,相似度更高,表明本发明方法得到的人脸图像具有更高的识别率,置信度更高。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的工作人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。

Claims (8)

1.一种遮挡情况下的人脸识别方法,其特征在于,该方法包括以下步骤:
1)采集识别区域的原始人脸图像,获取人脸训练样本集和人脸测试样本集;
2)对人脸训练样本集和人脸测试样本集的图像进行预处理,提取人脸特征;
3)将提取的人脸特征输入人脸修补模型进行图像修补,结合损失函数,获取修补后的人脸图像;
4)对修补后的人脸图像进行特征提取,根据特征进行人脸图像匹配,获取人脸识别结果;
5)显示人脸识别结果。
2.根据权利要求1所述的一种遮挡情况下的人脸识别方法,其特征在于,步骤2)中,所述的预处理包括去噪处理和归一化处理。
3.根据权利要求1所述的一种遮挡情况下的人脸识别方法,其特征在于,步骤2)中,采用卷积神经网络对人脸特征进行提取。
4.根据权利要求1所述的一种遮挡情况下的人脸识别方法,其特征在于,所述的人脸修补模型采用VGG-19网络体系结构,且在VGG-19网络体系结构的基础上叠加有两个卷积层、一个池化层和一个全连接层。
5.根据权利要求4所述的一种遮挡情况下的人脸识别方法,其特征在于,步骤3)中,人脸修补模型结合损失函数所构成的综合损失函数为:
式中,λ1、λ2分别为平衡不同损失影响的权重,Lr为生成器的重建损失函数,D1、D2分别为局部判别器和全局判别器,分别为局部判别器和全局判别器的损失函数。
6.根据权利要求5所述的一种遮挡情况下的人脸识别方法,其特征在于,生成器的重建损失函数Lr的表达式为:
式中,f(x)为提取的人脸特征,f(xi)为生成图像,α为超参数。
7.根据权利要求5所述的一种遮挡情况下的人脸识别方法,其特征在于,生成器的,局部判别器和全局判别器具有相同的损失函数,该损失函数的定义为:
式中,pdata(x)和pz(z)分别为噪声变量z和实际数据x的分布,D(x|y)为带有监督信号y条件下实际数据x通过判别器D后的输出,G(z|y)为生成器G的输出。
8.根据权利要求1所述的一种遮挡情况下的人脸识别方法,其特征在于,步骤4)的具体内容为:
采用SIFT方法将重构人脸的SIFT特征和样本集里所有SIFT特征计算欧式距离,将距离最小的特征作为准确匹配点,根据多个准确匹配点进行人脸图像匹配。
CN201810803139.8A 2018-07-20 2018-07-20 一种遮挡情况下的人脸识别方法 Active CN109145745B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810803139.8A CN109145745B (zh) 2018-07-20 2018-07-20 一种遮挡情况下的人脸识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810803139.8A CN109145745B (zh) 2018-07-20 2018-07-20 一种遮挡情况下的人脸识别方法

Publications (2)

Publication Number Publication Date
CN109145745A true CN109145745A (zh) 2019-01-04
CN109145745B CN109145745B (zh) 2022-02-11

Family

ID=64801305

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810803139.8A Active CN109145745B (zh) 2018-07-20 2018-07-20 一种遮挡情况下的人脸识别方法

Country Status (1)

Country Link
CN (1) CN109145745B (zh)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109886167A (zh) * 2019-02-01 2019-06-14 中国科学院信息工程研究所 一种遮挡人脸识别方法及装置
CN110110681A (zh) * 2019-05-14 2019-08-09 哈尔滨理工大学 一种用于有遮挡的人脸识别方法
CN110569731A (zh) * 2019-08-07 2019-12-13 北京旷视科技有限公司 一种人脸识别方法、装置及电子设备
CN110659566A (zh) * 2019-08-15 2020-01-07 重庆特斯联智慧科技股份有限公司 一种遮挡状态下的目标跟踪方法及系统
CN111814603A (zh) * 2020-06-23 2020-10-23 汇纳科技股份有限公司 一种人脸识别方法、介质及电子设备
CN111915307A (zh) * 2020-07-02 2020-11-10 浙江恒科实业有限公司 一种无接触式移动支付系统及方法
CN112131915A (zh) * 2019-06-25 2020-12-25 杭州海康威视数字技术股份有限公司 人脸考勤系统以及摄像机和码流设备
CN113205035A (zh) * 2021-04-27 2021-08-03 安徽中科晶格技术有限公司 一种身份识别方法、装置、设备及存储介质
CN113761997A (zh) * 2020-08-27 2021-12-07 北京沃东天骏信息技术有限公司 生成半遮挡人脸识别器的方法和装置
CN114821795A (zh) * 2022-05-05 2022-07-29 北京容联易通信息技术有限公司 一种基于ReID技术的人员跑动检测和预警方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107993190A (zh) * 2017-11-14 2018-05-04 中国科学院自动化研究所 图像水印去除装置
CN108229349A (zh) * 2017-12-21 2018-06-29 中国科学院自动化研究所 网纹人脸图像识别装置
CN108269245A (zh) * 2018-01-26 2018-07-10 深圳市唯特视科技有限公司 一种基于新型生成对抗网络的眼部图像修复方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107993190A (zh) * 2017-11-14 2018-05-04 中国科学院自动化研究所 图像水印去除装置
CN108229349A (zh) * 2017-12-21 2018-06-29 中国科学院自动化研究所 网纹人脸图像识别装置
CN108269245A (zh) * 2018-01-26 2018-07-10 深圳市唯特视科技有限公司 一种基于新型生成对抗网络的眼部图像修复方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
XIANG CHEN等: "From Eyes to Face Synthesis: a New Approach for Human-Centered Smart Surveillance", 《IEEE》 *

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109886167A (zh) * 2019-02-01 2019-06-14 中国科学院信息工程研究所 一种遮挡人脸识别方法及装置
CN110110681A (zh) * 2019-05-14 2019-08-09 哈尔滨理工大学 一种用于有遮挡的人脸识别方法
CN112131915A (zh) * 2019-06-25 2020-12-25 杭州海康威视数字技术股份有限公司 人脸考勤系统以及摄像机和码流设备
CN110569731A (zh) * 2019-08-07 2019-12-13 北京旷视科技有限公司 一种人脸识别方法、装置及电子设备
CN110569731B (zh) * 2019-08-07 2023-04-14 北京旷视科技有限公司 一种人脸识别方法、装置及电子设备
CN110659566A (zh) * 2019-08-15 2020-01-07 重庆特斯联智慧科技股份有限公司 一种遮挡状态下的目标跟踪方法及系统
CN111814603A (zh) * 2020-06-23 2020-10-23 汇纳科技股份有限公司 一种人脸识别方法、介质及电子设备
CN111814603B (zh) * 2020-06-23 2023-09-05 汇纳科技股份有限公司 一种人脸识别方法、介质及电子设备
CN111915307A (zh) * 2020-07-02 2020-11-10 浙江恒科实业有限公司 一种无接触式移动支付系统及方法
CN113761997A (zh) * 2020-08-27 2021-12-07 北京沃东天骏信息技术有限公司 生成半遮挡人脸识别器的方法和装置
CN113761997B (zh) * 2020-08-27 2024-04-09 北京沃东天骏信息技术有限公司 生成半遮挡人脸识别器的方法和装置
CN113205035A (zh) * 2021-04-27 2021-08-03 安徽中科晶格技术有限公司 一种身份识别方法、装置、设备及存储介质
CN114821795A (zh) * 2022-05-05 2022-07-29 北京容联易通信息技术有限公司 一种基于ReID技术的人员跑动检测和预警方法及系统
CN114821795B (zh) * 2022-05-05 2022-10-28 北京容联易通信息技术有限公司 一种基于ReID技术的人员跑动检测和预警方法及系统

Also Published As

Publication number Publication date
CN109145745B (zh) 2022-02-11

Similar Documents

Publication Publication Date Title
CN109145745A (zh) 一种遮挡情况下的人脸识别方法
CN105426870B (zh) 一种人脸关键点定位方法及装置
CN105917353B (zh) 用于生物认证的特征提取及匹配以及模板更新
US9514356B2 (en) Method and apparatus for generating facial feature verification model
CN107133608A (zh) 基于活体检测和人脸验证的身份认证系统
CN109241901B (zh) 一种对具有孔洞的三维点云的检测与识别方法
Pirlo et al. Verification of static signatures by optical flow analysis
Alheeti Biometric iris recognition based on hybrid technique
CN106203387A (zh) 人脸验证方法及系统
Zhong et al. Change detection based on pulse-coupled neural networks and the NMI feature for high spatial resolution remote sensing imagery
Paulino et al. Latent fingerprint matching: Fusion of manually marked and derived minutiae
CN111539247A (zh) 一种超光谱人脸识别方法、装置、电子设备及其存储介质
CN106022782A (zh) 一种虹膜支付系统
Suwannakhun et al. Identification and Retrieval System by Using Face Detection
CN109241951A (zh) 色情图片识别方法、识别模型构建方法及识别模型和计算机可读存储介质
Gao et al. Sea ice change detection in SAR images based on collaborative representation
Xin et al. Random part localization model for fine grained image classification
KR100602526B1 (ko) 가변 임계치를 이용한 실시간 홍채패턴 검증 방법
CN110738099B (zh) 一种基于自适应双分支网络的低分辨率行人再识别方法
CN112819486B (zh) 用于身份证明的方法和系统
Mr et al. Developing a novel technique to match composite sketches with images captured by unmanned aerial vehicle
Ning et al. Infrared object recognition based on monogenic features and multiple kernel learning
CN115035052A (zh) 一种基于身份差异量化的伪造换脸图像检测方法和系统
CN114373213A (zh) 基于人脸识别的未成年人身份识别方法及装置
Xiuyan et al. Research on personal identity verification based on hand vein iris and fingerprint

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant