CN107016370B - 一种基于数据增强的部分遮挡人脸识别方法 - Google Patents
一种基于数据增强的部分遮挡人脸识别方法 Download PDFInfo
- Publication number
- CN107016370B CN107016370B CN201710227787.9A CN201710227787A CN107016370B CN 107016370 B CN107016370 B CN 107016370B CN 201710227787 A CN201710227787 A CN 201710227787A CN 107016370 B CN107016370 B CN 107016370B
- Authority
- CN
- China
- Prior art keywords
- face
- sunglasses
- blocking
- mask
- picture
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/165—Detection; Localisation; Normalisation using facial parts and geometric relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- Biophysics (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Geometry (AREA)
- Image Analysis (AREA)
- Collating Specific Patterns (AREA)
Abstract
本发明公开了一种基于数据增强的部分遮挡人脸识别方法,运用了人工智能的深度卷积神经网络,多次进行人脸对齐,五官检测,人脸特征提取,人脸匹配;通过数据增强的原理,通过对标准人脸的遮挡物进行遮挡种类预判断,对遮挡人脸的身份预判断对标准人脸的遮挡物进行遮挡种类预判断,整合两次预判断结果进行数据增强,以标准人脸为基础,重构遮挡人脸库,最后通过原始遮挡人脸与重构遮挡人脸库进行匹配。该技术解决了现有的遮挡人脸识别方法存在因遮挡导致特征信息丢失,人脸识别难度增大,识别准确率降低的技术难题,实现了提高遮挡人脸识别精度和效率的技术效果。
Description
技术领域
本发明涉及人脸识别技术领域,具体地,涉及一种基于数据增强的部分遮挡人脸识别方法。
背景技术
人脸识别作为重要的机器视觉技术,在人工智能领域发挥重大作用。在实际人脸图像处理过程中,人脸图像的遮挡特别是重要特征遮挡的情景(如因墨镜导致的眼睛遮挡、口罩导致的嘴部遮挡)出现频率较高。遮挡的人脸区域很难提取出真实准确的特征描述,特征描述的不准确性大幅度增加人脸识技术的难度,若使用传统机器视觉识别方法,必然会导致识别精度的大幅下降。人脸识别技术需面临遮挡、光照、表情,姿势等技术难关,而如何高精度解决人脸遮挡问题是最大难题。目前国内外研究都能未能理想的解决面部遮挡问题,如何快速、高精度地进行遮挡人脸的识别,已成为近年来人脸图像处理的研究难点之一。
人脸识别作为最常用的生物识别技术,广泛应用于罪犯身份识别系统,海关及银行的监控系统,日常生活的自动门卫系统,办公考勤系统等。在多数场景下,识别结果容易受到人脸局部遮挡造成信息缺失的干扰。对安保系统而言,遮挡人脸带来巨大安全隐患。若犯罪分子尝试使用墨镜、口罩等方式刻意遮挡面部,则可防止监控系统记录下全部的人脸信息,从而达到逃避法律惩罚的目的。运用高精度遮挡人脸识别技术可通过处理犯罪分子的监控信息,将其刻意遮挡的面部与其真实身份相匹配,进而对犯罪行为进行主动防御;对整个人脸识别系统而言,高精度遮挡人脸识别技术可提高人脸识别精度,增强系统的泛化能力。因此,人脸遮挡分析与识别技术是对人脸识别系统与安防系统的完善,具有很髙的实际应用价值。
现有技术中的相关技术如下:
对遮挡人脸进行直接识别:遮挡人脸的识别传统方法可使用光学,场量法(零空间保局投影法NDLPP、维数增加法CODI、分类法VariantFaces等)和代数解析(主成分分析方法PCA,支持向量机SVM等)的方式,直接对遮挡人脸进行识别。
通过还原遮挡部分对人脸进行识别:对于人脸遮挡问题,解决方法是对遮挡区域进行人脸重建,还原被遮挡部分,再用重建后无遮挡的人脸图像进行人脸的识别。现有的人脸重建方法,如迭代PCA、缺口PCA等,能够快速地对遮挡区域进行人脸重建,有效提高人脸识别正确率。
通过数据增强,对标准人脸增加遮挡,进行人脸识别:该方案已有两个专利:CN200910093261-墨镜遮挡下的人脸识别方法和系统-申请公开,CN201410180720-一种人脸识别方法及系统-申请公开。请参考表1,表2。
表1
表2
专利名称 | 一种人脸识别方法及系统 |
遮挡物来源 | 从遮挡人脸中提取。 |
匹配的标准人脸库 | 匹配库中存在带标签的遮挡人脸。 |
处理量 | 单张人脸。 |
对重构图片进行操作 | 匹配失败后进行多次人脸调整操作。 |
人脸特征提取方法 | 定位特征算子(Local Binary Pattern,简称:LBP)。 |
遮挡物判断方法 | 分类器:支持向量机Support Vector Machine(SVM)。 |
人脸对齐方法 | SDM方法。 |
运用方法 | 传统机器视觉方法。 |
综上所述,本申请发明人在实现本申请发明技术方案的过程中,发现上述技术至少存在如下技术问题:
1.在现有技术无法处理海量遮挡人脸的情况;2.现有技术无法对遮挡人脸进行快速识别相应,识别速度慢,实时性差;3.现有技术使用传统机器视觉方法,遮挡人脸识别精度底;4.现有技术多停留在研究阶段,无法运用于实际场景。
发明内容
本发明提供了一种基于数据增强的部分遮挡人脸识别方法,解决了现有的遮挡人脸识别方法存在因遮挡导致特征信息丢失,人脸识别难度增大,识别准确率低,识别速度慢的技术难题,实现了提高遮挡人脸识别精度和效率的技术效果。
为解决上述技术问题,本申请提供了一种基于数据增强的部分遮挡人脸识别方法,所述方法包括:
步骤一:系统获得具有遮挡物的待识别人脸图片,人脸图片中遮挡物为墨镜或口罩;
步骤二:对待识别的遮挡人脸图片进行预处理,获得预处理后的遮挡人脸图片;
步骤三:对预处理后的遮挡人脸图片进行检测,获得图片中遮挡物信息;基于遮挡物信息对遮挡物的类型进行判断,若为墨镜遮挡,使用神经网络模型(代称DNN-1)对该墨镜进行分析处理,通过TOP-N分析方法,获得与该墨镜类型相似的G款匹配墨镜,G为大于等于1的正整数;若为口罩遮挡,使用神经网络模型(代称DNN-2)对该口罩进行分析处理,通过TOP-N分析方法,获得与该口罩类型相似的G款匹配口罩,M为大于等于1的正整数;
步骤四:若为墨镜遮挡,使用卷积神经网络模型(代称CNN-1),对匹配的G款墨镜或进行轮廓与关键点检测;若为口罩遮挡,使用卷积神经网络模型(代称CNN-2),对匹配的M款口罩进行轮廓与关键点检测;为步骤九的标准人脸遮挡重构做数据准备;
步骤五:使用多任务检测卷积神经网络(Multi-task convolutional neuralnetworks,简称mtcnn),对预处理后的遮挡人脸图片进行关键5点检测,并按照未遮挡的标准人脸的人脸对齐方式,对预处理后的遮挡人脸进行人脸对齐操作,使预处理后的遮挡人脸图片与未遮挡的标准人脸图片有相同的人脸对齐方式(标准人脸库中无遮挡,含有人脸的身份标签,且包包含待识别人脸的身份标签);调用公开的dllb库,得到遮挡人脸的轮廓与五官关键点68点信息(因为遮挡,导致关键点不足68点);
步骤六:基于深度卷积神经网络模型(代称CNN-3),对进行人脸对齐操作后的遮挡人脸图片进行特征信息提取处理,得到多维特征信息information1;
步骤七:基于步骤六提取出的特征信息,在有身份标签、无遮挡的标准人脸数据库中,对待识别的遮挡人脸图片进行身份匹配,根据TOP-N分析方法,按照相似程度,在标准人脸 数据库中匹配出与待识别遮挡人脸图片相似的N张标准人脸,N为大于等于1的正整数;
步骤八:使用mtcnn与dllb方法,对匹配得到的N个标准人脸进行人脸检测,得到标准人脸5点与68点的面部轮廓及其五官等关键点信息;
步骤九:使用步骤四的遮挡物匹配信息与步骤五中的遮挡物关键点提取信息,若待识别的遮挡人脸的遮挡物为墨镜遮挡,则对匹配的有标签、无遮挡的标准人脸按照眼部轮廓和眼部中心等关键点进行墨镜轮廓和墨镜中心等关键点的映射,重构戴墨镜遮挡人脸;若待识别的遮挡人脸的遮挡物为口罩遮挡,则对匹配的有标签、无遮挡的标准人脸按照面部轮廓和鼻子中心等关键点进行口罩轮廓和口罩中心等关键点的映射,重构戴口罩遮挡人脸;
步骤十:根据步骤九中的重构遮挡人脸图片,建立带标签的遮挡人脸数据库:若遮挡为墨镜,则构建墨镜遮挡人脸数据库;若遮挡为口罩,则构建口罩遮挡人脸数据库;
步骤十一:使用同步骤六的深度卷积神经网络模型(代称CNN-3),对重构的遮挡人脸进行特征信息提取处理,得到多维特征信息information2;
步骤十二:将提取出原始遮挡人脸特征信息information1与重构遮挡人脸的特征信息information2,通过比较其欧氏距离,进行原始遮挡人脸的身份匹配,基于匹配结果实现遮挡人脸的识别。
进一步的,由于图片为场景图像,存在不同的成像特性,如图片大小不一、光照不均等,所以可以通过图片的预处理,可以提高五官的定位和人脸识别的正确率与速度。对待识别人脸图片进行预处理,具体包括:对图片尺寸进行的归一化处理,对图片颜色进行均值化处理,对图片进行颜色增强处理。
进一步的,对待识别人脸图片进行预处理还包括:按网络需求进行灰度图转化操作处理。
进一步的,所述对该墨镜进行分析处理,具体为:运用神经网络,对墨镜的进行检测识别,通过TOP-N分析方法该墨镜类别进行匹配。TOP-N分析方法为(N表示可变整数):通过神经网络(代称DNN-1)的检测与识别,从大量墨镜数据集中得到G个与遮挡墨镜最为类似的墨镜,进而减小匹配的墨镜的数据量,提高精度。
进一步的,所述对该口罩进行分析处理,具体为:运用神经网络,对口罩的进行检测,通过TOP-N分析方法该口罩类别进行匹配。TOP-N分析方法为(N表示可变整数):通过神经网络(代称DNN-2)的检测与识别,从大量口罩数据集中得到M个与遮挡口罩最为类似的口罩,进而减小匹配的口罩的数据量,提高精度。
进一步的,所述步骤5具体为:
使用多任务检测卷积神经网络(Multi-task convolutional neural networks,简称mtcnn),对预处理后的遮挡人脸图片进行人脸5点检测,并按照未遮挡的标准人脸的人脸对 齐方式,对预处理后的遮挡人脸进行人脸对齐操作;其中,5点为:左眼的中心点、右眼的中心点、鼻子的中心点、嘴巴的左角点与右角点,使预处理后的遮挡人脸与无遮挡的标准人脸有相同的对齐方式。调用公开的dllb库,得到遮挡人脸的轮廓与五官关键点68点信息;其中68点为:面部轮廓17点,左眉5点,右眉5点,左眼6点,右眼6点,鼻梁4点,鼻翼5点,嘴部轮廓20点。68点标注能够勾勒人脸的轮廓与定位五官信息;
进一步的,所述步骤十具体为:
建立带标签的遮挡人脸数据库:若遮挡为墨镜,则构建墨镜遮挡人脸数据库,根据遮挡人脸匹配的N个标准人脸,墨镜匹配的G个墨镜,数据库大小为N*G;若遮挡为口罩,则构建口罩遮挡人脸数据库,根据遮挡人脸匹配的N个标准人脸,口罩匹配的M个口罩,数据库大小为N*M。
进一步的,步骤三、四与步骤五、六、七、八可并行。
本申请提供的一个或多个技术方案,至少具有如下技术效果或优点:
基于数据增强的部分遮挡人脸识别方法运用了人工智能的深度神经网络,多次进行人脸对齐,五官检测,人脸特征提取,人脸匹配,相比传统的机器视觉方法提高了遮挡人脸识别准确度,加快了遮挡人脸识别的速度。
进一步的,本申请中的技术方案运用数据增强的原理,对遮挡人脸图片中的遮挡物进行遮挡物预判断,高精度匹配到人脸遮挡物;对遮挡人脸进行身份预判断,高精度匹配到无遮挡、带有身份标签的标准人脸。将两次预判断结果进行整合,得到有遮挡、带有身份标签的重构遮挡人脸库。最后对图片中经过预处理的原始遮挡人脸与重构遮挡人脸库进行匹配,实现遮挡人脸的识别。两次预判与人脸库重构从概率上提高了匹配精度匹配。
进一步的,本申请中的技术方案能够快速批处理大规模遮挡人脸数据集。通过并行技术与神经网络的运用,保证人脸识别系统的高吞吐量,提高实时性,进而对海量遮挡人脸的数据集提供高精度、低延时的响应。该特性保证系统可用于大场景下的遮挡人脸识别,例如路口,安检处,银行及其周边,敏感地带的安全监控等。
进一步的,通过遮挡数据的预处理,减少后续计算复杂度,提高后续计算效率,保证系统的响应速度。
进一步的,运用深度学习的方式解决遮挡人脸问题,具有很好的延展性,可在此基础上嫁接其他人工智能的方法用于解决机器视觉方面挑战,网络空间安全方面难题。
附图说明
此处所说明的附图用来提供对本发明实施例的进一步理解,构成本申请的一部分,并不构成对本发明实施例的限定;
图1是本申请中基于数据增强的部分遮挡人脸识别方法的流程示意图;
图2是本申请中人脸面部68点信息示意图;
图3是本申请中人脸面部5点信息示意图;
图4是本申请中墨镜23点示意图;
图5是本申请中口罩25点示意图。
具体实施方式
本发明提供了一种基于数据增强的部分遮挡人脸识别方法,解决了现有的遮挡人脸识别方法存在因遮挡导致特征信息丢失,人脸识别难度增大,识别准确率低,识别速度慢的技术难题,实现了提高遮挡人脸识别精度和效率的技术效果。
为了能够更清楚地理解本发明的上述目的、特征和优点,下面结合附图和具体实施方式对本发明进行进一步的详细描述。需要说明的是,在相互不冲突的情况下,本申请的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本发明,但是,本发明还可以采用其他不同于在此描述范围内的其他方式来实施,因此,本发明的保护范围并不受下面公开的具体实施例的限制。
请参考图1,本申请提供了一种基于数据增强的部分遮挡人脸识别方法,具体包括:
步骤一:系统获得具有遮挡物的待识别人脸图片,图片中只存在墨镜或者口罩一种遮挡;
步骤二:对具有遮挡人脸的图片进行预处理操作:图片尺寸的归一化处理,图片颜色均值化处理,图片颜色增强,按神经网络需求进行灰度图转化操作。
步骤三:将预处理后的遮挡人脸图片进行遮挡物检测,若为墨镜遮挡,则使用神经网络(代称DNN-1)对该墨镜进行分析处理,使用TOP-N分析方法,获得与该墨镜类型相似的G款匹配墨镜,G为大于等于1的正整数,从而锁定遮挡墨镜范围;若为口罩遮挡,则使用神经网络(代称DNN-2)对该口罩进行分析处理,获得与该口罩类型相似的G款匹配口罩,M为大于等于1的正整数,从而锁定遮挡口罩范围。
步骤四:对遮挡物进行关键点检测。若为墨镜遮挡,使用卷积神经网络(代称CNN-1),则对匹配的G款墨镜进行轮廓与关键点检测,共检测23点;若为口罩遮挡,使用卷积神经网络(代称CNN-2),则对匹配的M款口罩进行轮廓与关键点检测,共检测25点。此步骤为步骤九做准备,即对标准人脸进行墨镜或口罩遮挡重构;
步骤五:使用多任务检测卷积神经网络(Multi-task convolutional neuralnetworks,简称mtcnn),得到人脸的5点信息,并按照未遮挡的标准人脸的人脸对齐方式,对预处理后的遮挡人脸进行人脸对齐操作,使预处理后的遮挡人脸图片与未遮挡的标准人脸图片有相同 的人脸对齐方式(标准人脸库中无遮挡,含有人脸的身份标签,且包包含待识别人脸的身份标签)。通过调用公开的dllb库,对遮挡的人脸进行68点检测(由于遮挡部分的检测导致检测出的点不够68点),检测出脸部轮廓、五官信息。五点信息为:左眼中心为1点,右眼中心为1点,鼻子中心为1点,左边嘴角为1点,右边嘴角为1点。5点对齐可将多角度人脸调整为统一角度,同时调整双眼与鼻子,嘴角的相对位置。面部68点信息为:面部轮廓17点,左眉5点,右眉5点,左眼6点,右眼6点,鼻梁4点,鼻翼5点,嘴部轮廓20点。68点标注能够勾勒人脸的轮廓与定位五官信息,提高人脸识别精度。具体68点如图2,5点如图3。
步骤六:基于深度卷积神经网络(代称CNN-3),对预处理后的遮挡人脸图片进行特征信息提取处理,得到多维特征信息information1。
步骤七:通过提取的特征信息,运用TOP-N分析方法,在有身份标签、无遮挡的标准人脸数据库中,对待识别的遮挡人脸图片进行身份匹配,按照相似程度,在标准人脸数据库中匹配出与待识别遮挡人脸图片相似的N张标准人脸,N为大于等于1的正整数。匹配人脸数量N的数量选择,原则上是在保证高匹配精确度的情况下N的大小尽可能小。N的大小取决于遮挡人脸识别系统的运用场景复杂度,其中涉及到系统的标准人脸库的大小(待识别的遮挡人脸匹配身份必须包含在标准人脸库的标签中),待识别的遮挡人脸数量,同一时间内遮挡人脸识别请求数,识别系统的响应时间要求,系统硬件支持程度。
步骤八:使用mtcnn与dllb方法,对匹配得到的N个标准人脸进行人脸检测,得到人脸5点与68点面部轮廓及其五官等关键点信息。
步骤九:使用步骤四的遮挡物匹配信息与步骤五中的遮挡物关键点提取信息,若待识别的遮挡人脸的遮挡物为墨镜遮挡,则对匹配的有标签、无遮挡的标准人脸按照眼部轮廓和眼部中心等关键点进行墨镜轮廓和墨镜中心等关键点的映射,重构戴墨镜遮挡人脸;若待识别的遮挡人脸的遮挡物为口罩遮挡,则对匹配的有标签、无遮挡的标准人脸按照面部轮廓和鼻子中心等关键点进行口罩轮廓和口罩中心等关键点的映射,重构戴口罩遮挡人脸。具体映射为:墨镜的长宽映射:墨镜宽度:人脸68点中的1点与墨镜的19点进行映射,人脸68点中的17点与墨镜的23点进行映射;墨镜高度:墨镜高度按照宽度映射,进行比例调整;墨镜的位置映射:人脸68点中的28点与墨镜20点映射,人脸5点中的1点与墨镜的20点映射,人脸五点中的2点与墨镜22点映射;其他作为辅助,调整映射。口罩的轮廓映射:人脸68点中的轮廓1-17点与口罩的1-17点映射,人脸68点中的28-31点与口罩的18-22点映射,人脸68点中的34点与口罩的22点映射,人脸68点中的52点与口罩的23点映射,人脸68点中的63点与口罩的24点映射,人脸68点中的58点与口罩的25点映射,其他作为辅助, 调整映射。
步骤十:根据步骤九中的重构遮挡人脸图片,新建带标签的遮挡人脸数据库:若遮挡为墨镜,则构建墨镜遮挡人脸数据库:根据遮挡人脸预匹配的N个无遮挡标准人脸,根据遮挡物墨镜预匹配的G个墨镜,N个标准人脸分别戴G个预匹配墨镜,数据库大小为N*G;若遮挡为口罩,则构建口罩遮挡人脸数据库,根据遮挡人脸预匹配的N个无遮挡标准人脸,根据遮挡物口罩预匹配M个口罩,N个标准人脸分别戴M个预匹配口罩,数据库大小为N*M。
步骤十一:使用同步骤六的深度卷积神经网络模型(代称CNN-3),对重构的遮挡人脸进行特征信息提取处理,得到多维特征信息information2;
步骤十二:将提取出原始遮挡人脸特征信息information1与重构遮挡人脸的特征信息information2,通过比较其欧氏距离,进行原始遮挡人脸的身份匹配;通过TOP-N的方法,得到TOP-1,TOP-5,TOP-10的高精度匹配,实现遮挡人脸的识别。
申请人将本申请与现有技术中的两个专利进行了比较,以体现本申请的进步,请参考表3和表4,
表3
表4
上述本申请实施例中的技术方案,至少具有如下的技术效果或优点:
基于数据增强的部分遮挡人脸识别方法运用了人工智能的神经网络,多次进行人脸对齐,五官检测,人脸特征提取,人脸匹配,相比传统的机器视觉方法提高了遮挡人脸识别准确度,加快了遮挡人脸识别的速度。
进一步的,本申请中的技术方案运用数据增强的原理,对遮挡人脸图片中的遮挡物进行遮挡物预判断,高精度匹配到人脸遮挡物;对遮挡人脸进行身份预判断,高精度匹配到无遮挡、带有身份标签的标准人脸。将两次预判断结果进行整合,得到有遮挡、带有身份标签的重构遮挡人脸库。最后对图片中经过预处理的原始遮挡人脸与重构遮挡人脸库进行匹配,实现遮挡人脸的识别。两次预判与人脸库重构从概率上提高了匹配精度匹配。
进一步的,本申请中的技术方案能够快速批处理大规模遮挡人脸数据集。通过并行技术与神经网络的运用,保证人脸识别系统的高吞吐量,提高实时性,进而对海量遮挡人脸的数据集提供高精度、低延时的响应。该特性保证系统可用于大场景下的遮挡人脸识别,例如路口,安检处,银行及其周边,敏感地带的安全监控等。
进一步的,通过遮挡数据的预处理,减少后续计算复杂度,提高后续计算效率,保证系统的响应速度。
进一步的,运用深度学习的方式解决遮挡人脸问题,具有很好的延展性,可在此基础上嫁接其他人工智能的方法用于解决机器视觉方面挑战,网络空间安全方面难题。
尽管已描述了本发明的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例作出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。
Claims (8)
1.一种基于数据增强的部分遮挡人脸识别方法,其特征在于,所述方法包括:
步骤一:获得具有遮挡物的待识别人脸图片,人脸图片中遮挡物为墨镜或口罩;
步骤二:对待识别遮挡人脸图片进行预处理,获得预处理后的遮挡人脸图片;
步骤三:对预处理后的遮挡人脸图片进行检测,获得图片中遮挡人脸的遮挡物信息;基于遮挡物信息对遮挡物的类型进行判断,若为墨镜遮挡,使用神经网络模型对该墨镜进行分析处理,获得与该墨镜类型相似的G款匹配墨镜,G为大于等于1的正整数;若为口罩遮挡,使用神经网络模型对该口罩进行分析处理,获得与该口罩类型相似的M款匹配口罩,M为大于等于1的正整数;
步骤四:若为墨镜遮挡,使用卷积神经网络模型,对匹配的G款墨镜或进行轮廓与关键点检测,获得匹配墨镜的关键信息;若为口罩遮挡,使用卷积神经网络模型,对匹配的M款口罩进行轮廓与关键点检测,获得匹配口罩的关键信息;
步骤五:使用多任务检测卷积神经网络,对预处理后的遮挡人脸图片进行关键5点检测,并按照未遮挡的标准人脸的人脸对齐方式,对预处理后的遮挡人脸进行人脸对齐操作;调用Dlib库,得到预处理后的遮挡人脸68点信息,包括轮廓与五官关键点信息;
步骤六:基于深度卷积神经网络模型,对进行人脸对齐操作后的遮挡人脸图片进行特征信息提取处理,得到多维特征信息information1;
步骤七:基于步骤六提取出的特征信息,在有身份标签、无遮挡的标准人脸数据库中,对待识别的遮挡人脸图片进行身份匹配;按照相似程度,在标准人脸数据库中匹配出与待识别遮挡人脸图片相似的N张标准人脸,N为大于等于1的正整数;
步骤八:使用mtcnn,调用Dlib库,对匹配得到的N个标准人脸进行人脸检测,得到标准人脸5点与68点面部轮廓及其五官关键点信息;
步骤九:使用步骤四的遮挡物匹配信息与步骤五中的遮挡物关键点提取信息,若待识别的遮挡人脸的遮挡物为墨镜遮挡,则对匹配的有标签、无遮挡的标准人脸按照眼部轮廓和眼部中心关键点进行墨镜轮廓和墨镜中心关键点的映射,重构戴墨镜遮挡人脸;若待识别的遮挡人脸的遮挡物为口罩遮挡,则对匹配的有标签、无遮挡的标准人脸按照面部轮廓和鼻子中心关键点进行口罩轮廓和口罩中心关键点的映射,重构戴口罩遮挡人脸;
步骤十:根据步骤九中的重构遮挡人脸图片,建立带标签的遮挡人脸数据库:若遮挡为墨镜,则构建墨镜遮挡人脸数据库;若遮挡为口罩,则构建口罩遮挡人脸数据库;
步骤十一:使用同步骤六的深度卷积神经网络模型,对重构的遮挡人脸进行特征信息提取处理,得到多维特征信息information2;
步骤十二:将提取出原始遮挡人脸特征信息information1与重构遮挡人脸的特征信息information2,通过比较其欧氏距离,进行原始遮挡人脸的身份匹配,基于匹配结果实现遮挡人脸的识别。
2.根据权利要求1所述的基于数据增强的部分遮挡人脸识别方法,其特征在于,对待识别人脸图片进行预处理,具体包括:对图片尺寸进行的归一化处理,对图片颜色进行均值化处理,对图片进行颜色增强处理。
3.根据权利要求2所述的基于数据增强的部分遮挡人脸识别方法,其特征在于,对待识别人脸图片进行预处理还包括:按网络需求进行灰度图转化操作处理。
4.根据权利要求1所述的基于数据增强的部分遮挡人脸识别方法,其特征在于,所述对该墨镜进行分析处理,具体为:运用神经网络,对墨镜的进行检测与识别,从墨镜数据集中得到G个与遮挡墨镜最为类似的墨镜,G为大于等于1的整数。
5.根据权利要求1所述的基于数据增强的部分遮挡人脸识别方法,其特征在于,所述对该口罩进行分析处理,具体为:运用神经网络,对口罩的进行检测与识别,从口罩数据集中得到M个与遮挡口罩最为类似的口罩,M为大于等于1的整数。
6.根据权利要求1所述的基于数据增强的部分遮挡人脸识别方法,其特征在于,所述步骤五具体为:
对预处理后的遮挡人脸图片进行关键5点检测,并按照未遮挡的标准人脸的人脸对齐方式,对预处理后的遮挡人脸进行人脸对齐操作;其中,五点为:左眼的中心点、右眼的中心点、鼻子的中心点、嘴巴的左角点与右角点,使预处理后的遮挡人脸与无遮挡的标准人脸有相同的对齐方式。
7.根据权利要求1所述的基于数据增强的部分遮挡人脸识别方法,其特征在于,所述步骤十具体为:
建立带标签的遮挡人脸数据库:若遮挡为墨镜,则构建墨镜遮挡人脸数据库,根据遮挡人脸匹配的N个标准人脸,墨镜匹配的G个墨镜,数据库大小为N*G;若遮挡为口罩,则构建口罩遮挡人脸数据库,根据遮挡人脸匹配的N个标准人脸,口罩匹配的M个口罩,数据库大小为N*M。
8.根据权利要求1所述的基于数据增强的部分遮挡人脸识别方法,步骤三、四与步骤五、六、七、八可并行。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710227787.9A CN107016370B (zh) | 2017-04-10 | 2017-04-10 | 一种基于数据增强的部分遮挡人脸识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710227787.9A CN107016370B (zh) | 2017-04-10 | 2017-04-10 | 一种基于数据增强的部分遮挡人脸识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107016370A CN107016370A (zh) | 2017-08-04 |
CN107016370B true CN107016370B (zh) | 2019-10-11 |
Family
ID=59445584
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710227787.9A Active CN107016370B (zh) | 2017-04-10 | 2017-04-10 | 一种基于数据增强的部分遮挡人脸识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107016370B (zh) |
Families Citing this family (43)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107729886B (zh) * | 2017-11-24 | 2021-03-02 | 北京小米移动软件有限公司 | 人脸图像的处理方法及装置 |
CN107944398A (zh) * | 2017-11-27 | 2018-04-20 | 深圳大学 | 基于深度特征联合表示图像集人脸识别方法、装置和介质 |
CN108205659A (zh) * | 2017-11-30 | 2018-06-26 | 深圳市深网视界科技有限公司 | 人脸遮挡物去除及其模型构建的方法、设备及介质 |
CN109934058B (zh) * | 2017-12-15 | 2021-08-06 | 北京市商汤科技开发有限公司 | 人脸图像处理方法、装置、电子设备、存储介质及程序 |
WO2019153175A1 (zh) * | 2018-02-08 | 2019-08-15 | 国民技术股份有限公司 | 基于机器学习的遮挡人脸识别系统、方法及存储介质 |
CN108460345A (zh) * | 2018-02-08 | 2018-08-28 | 电子科技大学 | 一种基于人脸关键点定位的面部疲劳检测方法 |
CN110363047B (zh) * | 2018-03-26 | 2021-10-26 | 普天信息技术有限公司 | 人脸识别的方法、装置、电子设备和存储介质 |
CN108764041B (zh) * | 2018-04-25 | 2021-09-14 | 电子科技大学 | 用于下部遮挡人脸图像的人脸识别方法 |
CN108710839A (zh) * | 2018-05-08 | 2018-10-26 | 中山大学 | 一种基于深度学习计算机视觉的哨兵瞌睡智能监控系统 |
CN108805046B (zh) * | 2018-05-25 | 2022-11-04 | 京东方科技集团股份有限公司 | 用于面部匹配的方法、设备、装置和存储介质 |
CN108776983A (zh) * | 2018-05-31 | 2018-11-09 | 北京市商汤科技开发有限公司 | 基于重建网络的人脸重建方法和装置、设备、介质、产品 |
CN109241852B (zh) * | 2018-08-10 | 2021-01-12 | 广州杰赛科技股份有限公司 | 具有附加特征的人脸识别方法、装置、计算机设备 |
CN109117801A (zh) * | 2018-08-20 | 2019-01-01 | 深圳壹账通智能科技有限公司 | 人脸识别的方法、装置、终端及计算机可读存储介质 |
CN109598210B (zh) * | 2018-11-16 | 2020-10-27 | 三星电子(中国)研发中心 | 一种图片处理方法和装置 |
CN109492614A (zh) * | 2018-11-29 | 2019-03-19 | 上海道枢信息技术有限公司 | 一种基于安防视频识别面部特征的方法及系统 |
CN111382651A (zh) * | 2018-12-29 | 2020-07-07 | 杭州光启人工智能研究院 | 数据打标方法、计算机装置及计算机可读存储介质 |
CN109886121B (zh) * | 2019-01-23 | 2021-04-06 | 浙江大学 | 一种遮挡鲁棒的人脸关键点定位方法 |
CN110188713A (zh) * | 2019-06-03 | 2019-08-30 | 北京字节跳动网络技术有限公司 | 用于输出信息的方法和装置 |
CN110334615A (zh) * | 2019-06-20 | 2019-10-15 | 湖北亮诚光电科技有限公司 | 一种有遮挡的人脸识别的方法 |
CN110334698A (zh) * | 2019-08-30 | 2019-10-15 | 上海聚虹光电科技有限公司 | 眼镜检测系统及方法 |
CN110909595B (zh) * | 2019-10-12 | 2023-04-18 | 平安科技(深圳)有限公司 | 面部动作识别模型训练方法、面部动作识别方法 |
CN110807448B (zh) * | 2020-01-07 | 2020-04-14 | 南京甄视智能科技有限公司 | 人脸关键点数据增强方法 |
CN111325191A (zh) * | 2020-04-07 | 2020-06-23 | 上海极链网络科技有限公司 | 一种人脸识别方法及系统 |
CN111461047A (zh) * | 2020-04-10 | 2020-07-28 | 北京爱笔科技有限公司 | 身份识别的方法、装置、设备及计算机存储介质 |
CN111523473B (zh) * | 2020-04-23 | 2023-09-26 | 北京百度网讯科技有限公司 | 口罩佩戴识别方法、装置、设备和可读存储介质 |
CN111539368B (zh) * | 2020-04-30 | 2023-06-02 | 中穗科技股份有限公司 | 一种防疫检测信息一体化识别方法及装置 |
CN111444887A (zh) * | 2020-04-30 | 2020-07-24 | 北京每日优鲜电子商务有限公司 | 口罩佩戴的检测方法、装置、存储介质及电子设备 |
CN111709288B (zh) * | 2020-05-15 | 2022-03-01 | 北京百度网讯科技有限公司 | 人脸关键点检测方法、装置以及电子设备 |
CN111695431A (zh) * | 2020-05-19 | 2020-09-22 | 深圳禾思众成科技有限公司 | 一种人脸识别方法、装置、终端设备及存储介质 |
CN111626213A (zh) * | 2020-05-27 | 2020-09-04 | 北京嘀嘀无限科技发展有限公司 | 一种身份验证方法、装置、电子设备及可读存储介质 |
CN111914630A (zh) * | 2020-06-19 | 2020-11-10 | 北京百度网讯科技有限公司 | 为人脸识别生成训练数据的方法、装置、设备和存储介质 |
CN111881740B (zh) * | 2020-06-19 | 2024-03-22 | 杭州魔点科技有限公司 | 人脸识别方法、装置、电子设备及介质 |
CN111914629B (zh) * | 2020-06-19 | 2024-06-11 | 北京百度网讯科技有限公司 | 为人脸识别生成训练数据的方法、装置、设备和存储介质 |
CN111915307A (zh) * | 2020-07-02 | 2020-11-10 | 浙江恒科实业有限公司 | 一种无接触式移动支付系统及方法 |
CN112069995B (zh) * | 2020-09-04 | 2024-02-27 | 西安西图之光智能科技有限公司 | 一种深度域人脸稠密特征提取方法、系统和存储介质 |
CN112597854B (zh) * | 2020-12-15 | 2023-04-07 | 重庆电子工程职业学院 | 无配合式人脸识别系统及方法 |
CN112800847B (zh) * | 2020-12-30 | 2023-03-24 | 广州广电卓识智能科技有限公司 | 人脸采集源检测方法、装置、设备和介质 |
CN112614263A (zh) * | 2020-12-30 | 2021-04-06 | 浙江大华技术股份有限公司 | 一种控制闸机的方法、装置、计算机设备及存储介质 |
CN113516002A (zh) * | 2021-03-05 | 2021-10-19 | 武汉特斯联智能工程有限公司 | 应用智慧社区的基于人脸识别模型的人脸识别方法及装置 |
CN113762136A (zh) * | 2021-09-02 | 2021-12-07 | 北京格灵深瞳信息技术股份有限公司 | 人脸图像遮挡判断方法、装置、电子设备和存储介质 |
CN114360033B (zh) * | 2022-03-18 | 2022-06-14 | 武汉大学 | 基于图卷积融合网络的口罩人脸识别方法、系统及设备 |
CN115619410B (zh) * | 2022-10-19 | 2024-01-26 | 闫雪 | 自适应金融支付平台 |
CN115909468B (zh) * | 2023-01-09 | 2023-06-06 | 广州佰锐网络科技有限公司 | 人脸五官遮挡检测方法、存储介质及系统 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102034079B (zh) * | 2009-09-24 | 2012-11-28 | 汉王科技股份有限公司 | 眼镜遮挡下的人脸识别方法和系统 |
CN105095829B (zh) * | 2014-04-29 | 2019-02-19 | 华为技术有限公司 | 一种人脸识别方法及系统 |
CN105069413B (zh) * | 2015-07-27 | 2018-04-06 | 电子科技大学 | 一种基于深度卷积神经网络的人体姿势识别方法 |
CN105654049B (zh) * | 2015-12-29 | 2019-08-16 | 中国科学院深圳先进技术研究院 | 人脸表情识别的方法及装置 |
CN105894025A (zh) * | 2016-03-30 | 2016-08-24 | 中国科学院自动化研究所 | 基于多任务深度学习的自然图像美感质量评估方法 |
CN106096535B (zh) * | 2016-06-07 | 2020-10-23 | 广东顺德中山大学卡内基梅隆大学国际联合研究院 | 一种基于双线性联合cnn的人脸验证方法 |
-
2017
- 2017-04-10 CN CN201710227787.9A patent/CN107016370B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN107016370A (zh) | 2017-08-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107016370B (zh) | 一种基于数据增强的部分遮挡人脸识别方法 | |
Yuan et al. | Fingerprint liveness detection using an improved CNN with image scale equalization | |
Long et al. | Detecting Iris Liveness with Batch Normalized Convolutional Neural Network. | |
CN112215180B (zh) | 一种活体检测方法及装置 | |
CN106250821A (zh) | 一种聚类再分类的人脸识别方法 | |
CN102844766A (zh) | 基于人眼图像的多特征融合身份识别方法 | |
CN103473564B (zh) | 一种基于敏感区域的正面人脸检测方法 | |
CN107194361A (zh) | 二维姿势检测方法及装置 | |
KR20050025927A (ko) | 홍채인식을 위한 동공 검출 방법 및 형상기술자 추출방법과 그를 이용한 홍채 특징 추출 장치 및 그 방법과홍채인식 시스템 및 그 방법 | |
CN111274916A (zh) | 人脸识别方法和人脸识别装置 | |
Liu et al. | Finger vein recognition with superpixel-based features | |
CN110287813A (zh) | 身份识别方法及系统 | |
CN109255319A (zh) | 针对静态照片的人脸识别支付信息防伪方法 | |
CN113537027B (zh) | 基于面部划分的人脸深度伪造检测方法及系统 | |
CN109886242A (zh) | 一种行人重识别的方法及系统 | |
Paul et al. | Extraction of facial feature points using cumulative histogram | |
CN110119695A (zh) | 一种基于特征融合和机器学习的虹膜活性检测方法 | |
CN108960103A (zh) | 一种人脸和唇语相融合的身份认证方法及系统 | |
CN109145716B (zh) | 基于脸部识别的登机口检验平台 | |
CN110163182A (zh) | 一种基于kaze特征的手背静脉识别方法 | |
Sun et al. | [Retracted] Research on Face Recognition Algorithm Based on Image Processing | |
Li | Feature extraction, recognition, and matching of damaged fingerprint: Application of deep learning network | |
Albadarneh et al. | Iris recognition system for secure authentication based on texture and shape features | |
Qiao | Application of Gabor image recognition technology in intelligent clothing design | |
KR101174103B1 (ko) | 근골격 구조에 기초한 수학적 패턴 분석의 얼굴인식 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |