CN112597867B - 戴口罩人脸识别方法、系统、计算机设备及存储介质 - Google Patents

戴口罩人脸识别方法、系统、计算机设备及存储介质 Download PDF

Info

Publication number
CN112597867B
CN112597867B CN202011491152.8A CN202011491152A CN112597867B CN 112597867 B CN112597867 B CN 112597867B CN 202011491152 A CN202011491152 A CN 202011491152A CN 112597867 B CN112597867 B CN 112597867B
Authority
CN
China
Prior art keywords
face
layer
mask
image
hidden layer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011491152.8A
Other languages
English (en)
Other versions
CN112597867A (zh
Inventor
曾凡智
邱腾达
周燕
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Foshan University
Original Assignee
Foshan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Foshan University filed Critical Foshan University
Priority to CN202011491152.8A priority Critical patent/CN112597867B/zh
Publication of CN112597867A publication Critical patent/CN112597867A/zh
Application granted granted Critical
Publication of CN112597867B publication Critical patent/CN112597867B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/048Activation functions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification

Abstract

本发明公开了一种戴口罩人脸识别方法、系统、计算机设备及存储介质,所述方法包括:获取待识别的视频流图像;加载人脸口罩检测模型,通过人脸口罩检测模型对待识别的视频流图像进行检测,得到检测结果;若检测结果为检测到人脸佩戴口罩,加载人脸补全模型,通过人脸补全模型对检测到人脸佩戴口罩的视频流图像进行补全,得到补全人脸图像;加载人脸识别模型,通过人脸识别模型对补全人脸图像进行识别,得到人脸识别结果。本发明可以检测到人员是否佩戴口罩,并可以定位出人脸戴口罩的具体位置,将口罩区域进行抹除,运用人脸补全技术将抹除部分进行人脸补全,得到完整的人脸,最后再进行人脸识别,从而增大戴口罩的人脸识别率。

Description

戴口罩人脸识别方法、系统、计算机设备及存储介质
技术领域
本发明涉及一种戴口罩人脸识别方法、系统、计算机设备及存储介质,属于深度学习和图像处理领域。
背景技术
人脸识别技术是基于生物特征信息进行身份识别的一种生物识别技术,主要是利用录像机或者摄像机来采集具有人脸的视频或者图像,然后利用算法对图像进行信息分析来感知人、识别人。通常被称为人脸识别或面部识别。目前人脸识别该技术主要应用到刑事侦查、监控系统、打卡考勤、安全支付等领域。
人脸识别技术(Face Recognition)的经典流程主要分为两大步骤:人脸检测与人脸特征提取。其中人脸检测主要用于对图像中的人脸位置进行定位,从而对人脸图像进行截取。目前人脸检测主流的方法有CascadeCNN通过级联架构来训练一个具有高精度定位能力的卷积神经网络;CMS-RCNN将Faster RCNN构架运用到人脸检测中,实现对图像上下文信息的分析。人脸特征提取方法运用的主构架网络包括VGG16、ResNet和DenseNet等。而目前最为流行的人脸损失函数有ArcFcae在传统的损失函数softmax上改进,直接在角度空间最大化分类界限;CosineFace是利用修改Softmax后的损失函数,形成在余弦空间中最大化分类界限;SphereFace移除倒数第二层(一般为全连接层)的激活函数,使模型学习到的特征分布不被限制在第一象限,学习到的特征分布更加合理。人脸特征对比主要是运用欧几里得距离或者余弦距离去衡量人脸相识度。
现有众多的人脸识别算法主要是基于没有带口罩的人脸进行识别,对于带上口罩的人脸,其面部特征已经遮挡了一大半,这样在对人脸特征提取过程中会导致大量特征点丢失,造成识别率严重下降。特别在2020年发生新型冠状病毒肺炎疫情的情况下,要求全体公民出门都要戴口罩,当人员进出小区,或者员工上班进行打卡时都需要身份验证,在人员戴上口罩的情况下,传统的人脸识别算法就失去了作用,其识别结果在很大的程度上都会返回未识别,或者识别错误。
发明内容
有鉴于此,本发明提供了一种戴口罩人脸识别方法、系统、计算机设备及存储介质,其可以检测到人员是否佩戴口罩,并可以定位出人脸戴口罩的具体位置,将口罩区域进行抹除,运用人脸补全技术将抹除部分进行人脸补全,得到完整的人脸,最后再进行人脸识别,从而增大戴口罩的人脸识别率。
本发明的第一个目的在于提供一种戴口罩人脸识别方法。
本发明的第二个目的在于提供一种戴口罩人脸识别系统。
本发明的第三个目的在于提供一种计算机设备。
本发明的第四个目的在于提供一种存储介质。
本发明的第一个目的可以通过采取如下技术方案达到:
一种戴口罩人脸识别方法,所述方法包括:
获取待识别的视频流图像;
加载人脸口罩检测模型,通过人脸口罩检测模型对待识别的视频流图像进行检测,得到检测结果;
若检测结果为检测到人脸佩戴口罩,加载人脸补全模型,通过人脸补全模型对检测到人脸佩戴口罩的视频流图像进行补全,得到补全人脸图像;
加载人脸识别模型,通过人脸识别模型对补全人脸图像进行识别,得到人脸识别结果。
进一步的,所述人脸口罩检测模型采用多级联网络,所述多级联网络包括第一级网络、第二级网络和第三级网络;
所述第一级网络包括依次连接的第一输入层、第一隐藏层、第二隐藏层、第三隐藏层、第四隐藏层和第一输出层;其中,所述第一隐藏层、第二隐藏层、第三隐藏层、第四隐藏层均包括全卷积层和激活函数层;
所述第二级网络包括依次连接第二输入层、第五隐藏层、第六隐藏层、第七隐藏层、第一全连接层和第二输出层;其中,所述第五隐藏层和第六隐藏层均包括全卷积层、池化层和激活函数层,所述第七隐藏层包括全卷积层和激活函数层;
所述第三级网络包括依次连接的第三输入层、第六隐藏层、第七隐藏层、第八隐藏层、第九隐藏层、第二全连接层和第三输出层;其中,所述第六隐藏层、第七隐藏层和第八隐藏层均包括全卷积层、池化层和激活函数层,所述第九隐藏层包括全卷积层和激活函数层。
进一步的,所述通过人脸口罩检测模型对待识别的视频流图像进行检测,具体包括:
将待识别的视频流图像输入第一级网络的输入层,经过第一隐藏层、第二隐藏层、第三隐藏层和第四隐藏层进行特征提取,由第一输出层输出带人脸分类框、人脸坐标回归框、口罩分类框和口罩坐标回归框的第一特征信息;
将第一特征信息输入第二级网络的输入层,经过第五隐藏层、第六隐藏层、第七隐藏层和第一全连接层进行特征提取,由第二输出层输出置信度更高的第二特征信息;
将第二特征信息输入第三级网络的输入层,经过第六隐藏层、第七隐藏层、第八隐藏层、第九隐藏层和第二全连接层进行特征提取,由第三输出层输出检测结果。
进一步的,所述通过人脸补全模型对检测到人脸佩戴口罩的视频流图像进行补全,具体包括:
将检测到人脸佩戴口罩的视频流图像中的人脸口罩部分进行掩码;
将掩码后的图像输入人脸补全模型,对掩码部分进行补全,得到补全人脸图像。
进一步的,所述人脸补全模型包括生成网络、全局鉴别器和局部鉴别器,所述生成网络包括编码器、解码器和第三全连接层,所述编码器通过第三全连接层与解码器连接,所述解码器分别与全局鉴别器、局部鉴别器连接;
所述人脸补全模型的构建过程如下:
在给定的原始人脸图像上添加掩码信息;
将添加掩码信息的图像作为生成网络的输入,由生成网络根据掩码信息生成人脸缺失部分,得到补全人脸图像;
将补全人脸图像和原始人脸图像馈送到全局鉴别器,由全局鉴别器对补全人脸图像和原始人脸图像进行鉴定,得到第一鉴定分数;
将第一鉴定分数与第一设定阈值进行比较,若第一鉴定分数低于第一设定阈值,则将补全人脸图像反馈给生成网络,对生成网络的训练参数进行更新;
将人脸缺失部分和原始人脸图像的掩码部分馈送到局部鉴别器,由局部鉴别器对人脸缺失部分和原始人脸图像的掩码部分进行鉴定,得到第二鉴定分数;
将第二鉴定分数与第二设定阈值进行比较,若第二鉴定分数低于第二设定阈值,则将人脸缺失部分反馈给生成网络,对生成网络的训练参数进行更新;
将全局鉴别器的最后一层特征和局部鉴别器的而最后一层特征进行连接,经过第四全连接层,使用sigmoid函数激活,返回真实分类信息。
进一步的,所述通过人脸识别模型对补全人脸图像进行识别,得到人脸识别结果,具体包括:
将补全人脸图像输入VGG特征提取网络进行特征提取,得到第一特征描述;
将比对人脸图像输入VGG特征提取网络进行特征提取,得到第二特征描述;
在第一特征描述和第二特征描述上,使用距离度量计算第一特征描述与第二特征描述之间的相似度得分;
若相似度得分超过第三设定阈值,则判断补全人脸图像和比对人脸图像来自同一人员。
进一步的,所述人脸识别模型训练时所使用的损失函数采用加法角余量损失函数,如下:
其中,N表示样本的数量,i表示第i个样本,j表示第j个类别,m表示超参数,θyi表示参数W与特征向量x的夹角,s表示一个缩放系数。
本发明的第二个目的可以通过采取如下技术方案达到:
一种戴口罩人脸识别系统,所述系统包括:
获取模块,用于获取待识别的视频流图像;
人脸口罩检测模块,用于加载人脸口罩检测模型,通过人脸口罩检测模型对待识别的视频流图像进行检测,得到检测结果;
人脸补全模块,用于若检测结果为检测到人脸佩戴口罩,加载人脸补全模型,通过人脸补全模型对检测到人脸佩戴口罩的视频流图像进行补全,得到补全人脸图像;
人脸识别模块,用于加载人脸识别模型,通过人脸识别模型对补全人脸图像进行识别,得到人脸识别结果。
本发明的第三个目的可以通过采取如下技术方案达到:
一种计算机设备,包括处理器以及用于存储处理器可执行程序的存储器,所述处理器执行存储器存储的程序时,实现上述的戴口罩人脸识别方法。
本发明的第四个目的可以通过采取如下技术方案达到:
一种存储介质,存储有程序,所述程序被处理器执行时,实现上述的戴口罩人脸识别方法。
本发明相对于现有技术具有如下的有益效果:
1、本发明主要是针对疫情下的口罩人脸识别,通过人脸口罩检测模型对待识别的视频流图像进行检测,得到检测结果,如果检测到人脸佩戴口罩,通过人脸补全模型对检测到人脸佩戴口罩的视频流图像进行补全,得到补全人脸图像,通过人脸识别模型对补全人脸图像进行识别,得到人脸识别结果,与传统的人脸识别算法对戴口罩的人脸识别率过低,大多数会出现识别失败相比,本发明在人脸补全的基础上对戴口罩人脸进行识别,这样将在被口罩遮盖住的特征点上进行弥补,从而人脸在被抽象成数组时增加了信息量,故最后识别率会比被口罩遮盖住的人脸识别时要高。
2、本发明的人脸口罩检测模型采用多级联网络,通过多级联网络对人脸进行定位,对于不同形态的人脸都可精准的捕捉到,在定位人脸的基础上,加入多任务分类回归参数,可判断人脸是否佩戴口罩,以及口罩区域位置。
3、本发明的人脸补全模型通过加入全局鉴别器和局部鉴别器的判别方法,增加人脸补全对全局观测上一致,并且能够优化其补全细节,使补全人脸图像更为真实。
4、本发明的人脸识别模型为基于VGG特征提取网络的人脸识别模型,通过VGG特征提取网络提取补全人脸特征,提高人脸在空间的特征映射能力。
5、本发明的人脸识别模型训练时采用加法角余量损失函数,增强类内样本的相识度和类间样本的多样性,并且增大类外样本的距离,最大化分类了界限问题。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图示出的结构获得其他的附图。
图1为本发明实施例1的戴口罩人脸识别方法的简易流程图。
图2为本发明实施例1的戴口罩人脸识别方法的详细流程图。
图3为本发明实施例1的人脸口罩检测模型的架构图。
图4为本发明实施例1的通过人脸口罩检测模型进行检测的流程图。
图5为本发明实施例1的通过人脸补全模型进行补全的流程图。
图6为本发明实施例1的人脸补全模型的架构图。
图7为本发明实施例1的人脸识别模型的架构图。
图8为采用传统Softmax损失函数的效果图。
图9为采用加法角余量损失函数的效果图。
图10为本发明实施例2的戴口罩人脸识别系统的结构框图。
图11为本发明实施例3的计算机设备的结构框图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明的一部分实施例,而不是全部的实施例,基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
实施例1:
如图1和图2所示,本实施例提供了一种戴口罩人脸识别方法,该方法包括以下步骤:
S201、获取待识别的视频流图像。
其中,待识别的视频流图像通过采集获取,如通过摄像头等设备采集获取。
S202、加载人脸口罩检测模型,通过人脸口罩检测模型对待识别的视频流图像进行检测,得到检测结果。
目前大部分的人脸检测方法在时间运算方面所耗费的时间过高,而将该方法移植到移动端设备上应用时,并不能对视频流进行快速反应,本实施例的人脸口罩检测模型采用多级联网络,每一级对数据的处理都明确分工,趋于一个渐进的方式。这样的图像处理模式,不仅在精度上有较高的准确率,而且该多级联网络的参数计算量少,可达到实时检测效果。
如图3所示,本实施例的多级联网络包括第一级网络、第二级网络和第三级网络,各级网络的具体说明如下:
1)第一级网络包括依次连接的第一输入层、第一隐藏层、第二隐藏层、第三隐藏层、第四隐藏层和第一输出层。
其中,第一隐藏层、第二隐藏层、第三隐藏层、第四隐藏层均包括全卷积层和激活函数层(Relu)。
2)第二级网络包括依次连接第二输入层、第五隐藏层、第六隐藏层、第七隐藏层、第一全连接层和第二输出层。
其中,第五隐藏层和第六隐藏层均包括全卷积层、池化层(MP)和激活函数层(Relu),所述第七隐藏层包括全卷积层和激活函数层(Relu)。
3)第三级网络包括依次连接的第三输入层、第六隐藏层、第七隐藏层、第八隐藏层、第九隐藏层、第二全连接层和第三输出层。
其中,第六隐藏层、第七隐藏层和第八隐藏层均包括全卷积层、池化层(MP)和激活函数层(Relu),所述第九隐藏层包括全卷积层和激活函数层(Relu)。
根据以上所述,人脸口罩检测模型分为三个阶段来检测人脸,如图4所示,具体包括:
S401、将待识别的视频流图像输入第一级网络的输入层,经过第一隐藏层、第二隐藏层、第三隐藏层和第四隐藏层进行特征提取,由第一输出层输出带人脸分类框(faceclassification)、人脸坐标回归框(bounding box regression)、口罩分类框(maskclassification)和口罩坐标回归框(mask box regression)的第一特征信息。
该步骤S301为第一阶段,第一阶段主要功能是对正常人脸和戴口罩人脸的粗检测,具备高效率,可快速筛选。
S402、将第一特征信息输入第二级网络的输入层,经过第五隐藏层、第六隐藏层、第七隐藏层和第一全连接层进行特征提取,由第二输出层输出置信度更高的第二特征信息。
该步骤S302为第二阶段,第二阶段接收第一阶段反馈回来的信息,再进一步加工筛选,主要将之前12x12x3的输入变化为24x24x3的输入,这样可将第一阶段所筛选的候选区域更加精准的判断人脸信息,从而筛选出置信度更高的区域,其中第二阶段与第一阶段相比,在隐藏层最后阶段接入一个全连接层(第一全连接层),其主要目的是为了增加计算精度,而在第一阶段没有加入全连接层,这样可减少参数计算量,保持高速率,而且不限制输入图片大小。
S403、将第二特征信息输入第三级网络的输入层,经过第六隐藏层、第七隐藏层、第八隐藏层、第九隐藏层和第二全连接层进行特征提取,由第三输出层输出检测结果。
该步骤S303为第三阶段,将之前24x24x3的输入变化为48x48x3的输入,相对第二阶段设计,在隐藏层加了一个全卷积层,这样可以更好的检测人脸在图像中的定位。
若检测结果为检测到人脸佩戴口罩,进入步骤S203;若检测结果为没有检测到人脸佩戴口罩,进入步骤S205。
S203、加载人脸补全模型,通过人脸补全模型对检测到人脸佩戴口罩的视频流图像进行补全,得到补全人脸图像。
人脸面部特征信息量对人脸识别效果影响巨大,在人脸佩戴口罩的情况下,人脸面积大幅度被遮挡,通过神经网络提取出来的特征会形成大量的信息点流失,针对以上情况,本实施例在人脸识别之前提出人脸补全模型,根据人脸口罩检测模型定位到人脸口罩部分,进行掩码(mask),然后使用人脸补全模型对掩码部分进行补全,这样可大大增加识别率。
本实施例中,通过人脸补全模型对检测到人脸佩戴口罩的视频流图像进行补全,得到补全人脸图像,如图5所示,具体包括:
S501、将检测到人脸佩戴口罩的视频流图像中的人脸口罩部分进行掩码。
S502、将掩码后的图像输入人脸补全模型,对掩码部分进行补全,得到补全人脸图像。
对于人脸补全模型,本实施例使用了深度学习方法,加入生成对抗网络(Generative Adversarial Network,简称GAN)思想对遮挡的人脸口罩进行去掩码,然后补全人脸缺失部分,使得人脸识别准确率和召回率大大升高,人脸补全模型的架构如图6所示,包括生成网络(Completion Network)、全局鉴别器(Global Discriminator)和局部鉴别器(Local Discriminator),生成网络包括编码器(Encoder)、解码器(Decoder)和第三全连接层,编码器通过第三全连接层与解码器连接,解码器分别与全局鉴别器、局部鉴别器连接。
人脸补全模型构建的主要思想,在给定的原始人脸图像(原始的完整图像)上添加掩码信息(噪声);将添加掩码信息的图像(不完整图像)作为生成网络的输入,由生成网络根据掩码信息生成人脸缺失部分,得到补全人脸图像(生成的完整图像);将补全人脸图像和原始人脸图像馈送到全局鉴别器,全局鉴别器的功能是对补全人脸图像和原始人脸图像进行鉴定,对补全图像进行把关,得到第一鉴定分数;将第一鉴定分数与第一设定阈值进行比较,若第一鉴定分数低于第一设定阈值,则认为补全人脸图像不合格,将补全人脸图像反馈给生成网络,对生成网络的训练参数进行更新;为了能够使得最终网络不但可以使全局观测一致,而且能够优化其细节,本实施例增加了一个局部鉴别器,将人脸缺失部分和原始人脸图像的掩码部分馈送到局部鉴别器,局部鉴别器的功能是对人脸缺失部分和原始人脸图像的掩码部分进行鉴定,得到第二鉴定分数;将第二鉴定分数与第二设定阈值进行比较,若低于第二设定阈值,则认为人脸缺失部分不合格,将人脸缺失部分反馈给生成网络,对生成网络的训练参数进行更新,通过这种方式可以同时获取补全人脸图像和人脸缺失部分的信息,从而避免模型出现仅仅关注补全那一部分带来的误判,让生成图像的细节更加完善。
在生成网络部分,其由一个编码器和一个解码器组成,中间还添加一层全连接层,目的是为了增加生成图像的精度;在该生成网络中,编码器起到数据降维的作用得到压缩图层,而解码器负责将压缩图层解码成完整图像;在两个鉴别器(全局鉴别器和局部鉴别器)输出都为真的情况下,将全局鉴别器的最后一层特征和局部鉴别器的而最后一层特征进行连接(concat),经过一个全连接层(第四全连接层),使用sigmoid函数激活,返回真实分类信息。
S204、加载人脸识别模型,通过人脸识别模型对补全人脸图像进行识别,得到人脸识别结果。
对于人脸识别模型,本发明采用比较经典的特征提取框架VGG16作为人脸特征提取的骨干网络框架(VGG16对图像特征具有良好的描述性),在训练时采用arcface中的损失loss函数,其架构如图7所示。
具体地,将补全人脸图像输入特征提取网络进行特征提取,得到第一特征描述;将比对人脸图像输入特征提取网络进行特征提取,得到第二特征描述;在第一特征描述和第二特征描述上,使用距离度量计算第一特征描述与第二特征描述之间的相似度得分;若相似度得分超过第三设定阈值,则判断补全人脸图像和比对人脸图像来自同一人员,若相似度得分低于第三设定阈值,则判断补全人脸图像和比对人脸图像不是同一人员。
S205、加载人脸识别模型,通过人脸识别模型对没有检测到人脸佩戴口罩的视频流图像进行识别,得到人脸识别结果。
具体地,与步骤S204相似,将视频流图像输入特征提取网络进行特征提取,得到第一特征描述;将比对人脸图像输入特征提取网络进行特征提取,得到第二特征描述;在第一特征描述和第二特征描述上,使用距离度量计算第一特征描述与第二特征描述之间的相似度得分;若相似度得分超过设定阈值,则判断视频流图像和比对人脸图像来自同一人员,若相似度得分低于第三设定阈值,则判断视频流图像和比对人脸图像不是同一人员。
本实施例中,使用余弦距离比较人脸相似度,如式(1):
人脸识别模型训练时不再使用传统的Softmax损失函数,如式(2):
其中,N是样本的数量,i代表第i个样本,j代表第j个类别,是全连接层的输出,代表这每一个类别的分数,每一个分数即为权重W和特征向量x的内积并加上偏置b。
而是使用加法角余量损失函数(additive angular margin loss),如式(3):
其中,N表示样本的数量,i表示第i个样本,j表示第j个类别,m表示超参数,θyi表示参数W与特征向量x的夹角,s表示一个缩放系数。
图8为采用传统Softmax损失函数的效果图,图9为采用加法角余量损失函数的效果图,Softmax损失函数没有明确地优化特征嵌入,而加法角余量损失函数增强类内样本的相识度和类间样本的多样性,并且增大类外样本的距离,从而最大化分类了界限问题。
本领域技术人员可以理解,实现上述实施例的方法中的全部或部分步骤可以通过程序来指令相关的硬件来完成,相应的程序可以存储于计算机可读存储介质中。
应当注意,尽管在附图中以特定顺序描述了上述实施例的方法操作,但是这并非要求或者暗示必须按照该特定顺序来执行这些操作,或是必须执行全部所示的操作才能实现期望的结果。相反,描绘的步骤可以改变执行顺序。附加地或备选地,可以省略某些步骤,将多个步骤合并为一个步骤执行,和/或将一个步骤分解为多个步骤执行。
实施例2:
如图10所示,本实施例提供了一种戴口罩人脸识别系统,该系统包括获取模块1001、人脸口罩检测模块1002、人脸补全模块1003和人脸识别模块1004,各个模块具体功能如下:
获取模块1001,用于获取待识别的视频流图像。
人脸口罩检测模块1002,用于加载人脸口罩检测模型,通过人脸口罩检测模型对待识别的视频流图像进行检测,得到检测结果。
人脸补全模块1003,用于若检测结果为检测到人脸佩戴口罩,加载人脸补全模型,通过人脸补全模型对检测到人脸佩戴口罩的视频流图像进行补全,得到补全人脸图像。
人脸识别模块1004,用于加载人脸识别模型,通过人脸识别模型对补全人脸图像进行识别,得到人脸识别结果。
进一步地,人脸识别模块1004还用于若检测结果为没有检测到人脸佩戴口罩,加载人脸识别模型,通过人脸识别模型对没有检测到人脸佩戴口罩的视频流图像进行识别,得到人脸识别结果。
本实施例中各个模块的具体实现可以参见上述实施例1,在此不再一一赘述;需要说明的是,本实施例提供的系统仅以上述各功能模块的划分进行举例说明,在实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。
实施例3:
本实施例提供了一种计算机设备,该计算机设备可以为计算机,如图11所示,其通过系统总线1101连接的处理器1102、存储器、输入装置1103、显示器1104和网络接口1105,该处理器用于提供计算和控制能力,该存储器包括非易失性存储介质1106和内存储器1107,该非易失性存储介质1106存储有操作系统、计算机程序和数据库,该内存储器1107为非易失性存储介质中的操作系统和计算机程序的运行提供环境,处理器1102执行存储器存储的计算机程序时,实现上述实施例1的戴口罩人脸识别方法,如下:
获取待识别的视频流图像;
加载人脸口罩检测模型,通过人脸口罩检测模型对待识别的视频流图像进行检测,得到检测结果;
若检测结果为检测到人脸佩戴口罩,加载人脸补全模型,通过人脸补全模型对检测到人脸佩戴口罩的视频流图像进行补全,得到补全人脸图像;
加载人脸识别模型,通过人脸识别模型对补全人脸图像进行识别,得到人脸识别结果。
实施例4:
本实施例提供了一种存储介质,该存储介质为计算机可读存储介质,其存储有计算机程序,所述计算机程序被处理器执行时,实现上述实施例1的戴口罩人脸识别方法,如下:
获取待识别的视频流图像;
加载人脸口罩检测模型,通过人脸口罩检测模型对待识别的视频流图像进行检测,得到检测结果;
若检测结果为检测到人脸佩戴口罩,加载人脸补全模型,通过人脸补全模型对检测到人脸佩戴口罩的视频流图像进行补全,得到补全人脸图像;
加载人脸识别模型,通过人脸识别模型对补全人脸图像进行识别,得到人脸识别结果。
需要说明的是,本实施例的计算机可读存储介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
综上所述,本发明主要是针对疫情下的口罩人脸识别,通过人脸口罩检测模型对待识别的视频流图像进行检测,得到检测结果,如果检测到人脸佩戴口罩,通过人脸补全模型对检测到人脸佩戴口罩的视频流图像进行补全,得到补全人脸图像,通过人脸识别模型对补全人脸图像进行识别,得到人脸识别结果,与传统的人脸识别算法对戴口罩的人脸识别率过低,大多数会出现识别失败相比,本发明在人脸补全的基础上对戴口罩人脸进行识别,这样将在被口罩遮盖住的特征点上进行弥补,从而人脸在被抽象成数组时增加了信息量,故最后识别率会比被口罩遮盖住的人脸识别时要高。
以上所述,仅为本发明专利较佳的实施例,但本发明专利的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明专利所公开的范围内,根据本发明专利的技术方案及其发明构思加以等同替换或改变,都属于本发明专利的保护范围。

Claims (9)

1.一种戴口罩人脸识别方法,其特征在于,所述方法包括:
获取待识别的视频流图像;
加载人脸口罩检测模型,通过人脸口罩检测模型对待识别的视频流图像进行检测,得到检测结果;
若检测结果为检测到人脸佩戴口罩,加载人脸补全模型,通过人脸补全模型对检测到人脸佩戴口罩的视频流图像进行补全,得到补全人脸图像;
加载人脸识别模型,通过人脸识别模型对补全人脸图像进行识别,得到人脸识别结果;
所述人脸口罩检测模型采用多级联网络,所述多级联网络包括第一级网络、第二级网络和第三级网络;
所述第一级网络包括依次连接的第一输入层、第一隐藏层、第二隐藏层、第三隐藏层、第四隐藏层和第一输出层;其中,所述第一隐藏层、第二隐藏层、第三隐藏层、第四隐藏层均包括全卷积层和激活函数层;
所述第二级网络包括依次连接第二输入层、第五隐藏层、第六隐藏层、第七隐藏层、第一全连接层和第二输出层;其中,所述第五隐藏层和第六隐藏层均包括全卷积层、池化层和激活函数层,所述第七隐藏层包括全卷积层和激活函数层;
所述第三级网络包括依次连接的第三输入层、第六隐藏层、第七隐藏层、第八隐藏层、第九隐藏层、第二全连接层和第三输出层;其中,所述第六隐藏层、第七隐藏层和第八隐藏层均包括全卷积层、池化层和激活函数层,所述第九隐藏层包括全卷积层和激活函数层。
2.根据权利要求1所述的戴口罩人脸识别方法,其特征在于,所述通过人脸口罩检测模型对待识别的视频流图像进行检测,具体包括:
将待识别的视频流图像输入第一级网络的输入层,经过第一隐藏层、第二隐藏层、第三隐藏层和第四隐藏层进行特征提取,由第一输出层输出带人脸分类框、人脸坐标回归框、口罩分类框和口罩坐标回归框的第一特征信息;
将第一特征信息输入第二级网络的输入层,经过第五隐藏层、第六隐藏层、第七隐藏层和第一全连接层进行特征提取,由第二输出层输出置信度更高的第二特征信息;
将第二特征信息输入第三级网络的输入层,经过第六隐藏层、第七隐藏层、第八隐藏层、第九隐藏层和第二全连接层进行特征提取,由第三输出层输出检测结果。
3.根据权利要求1所述的戴口罩人脸识别方法,其特征在于,所述通过人脸补全模型对检测到人脸佩戴口罩的视频流图像进行补全,具体包括:
将检测到人脸佩戴口罩的视频流图像中的人脸口罩部分进行掩码;
将掩码后的图像输入人脸补全模型,对掩码部分进行补全,得到补全人脸图像。
4.根据权利要求1所述的戴口罩人脸识别方法,其特征在于,所述人脸补全模型包括生成网络、全局鉴别器和局部鉴别器,所述生成网络包括编码器、解码器和第三全连接层,所述编码器通过第三全连接层与解码器连接,所述解码器分别与全局鉴别器、局部鉴别器连接;
所述人脸补全模型的构建过程如下:
在给定的原始人脸图像上添加掩码信息;
将添加掩码信息的图像作为生成网络的输入,由生成网络根据掩码信息生成人脸缺失部分,得到补全人脸图像;
将补全人脸图像和原始人脸图像馈送到全局鉴别器,由全局鉴别器对补全人脸图像和原始人脸图像进行鉴定,得到第一鉴定分数;
将第一鉴定分数与第一设定阈值进行比较,若第一鉴定分数低于第一设定阈值,则将补全人脸图像反馈给生成网络,对生成网络的训练参数进行更新;
将人脸缺失部分和原始人脸图像的掩码部分馈送到局部鉴别器,由局部鉴别器对人脸缺失部分和原始人脸图像的掩码部分进行鉴定,得到第二鉴定分数;
将第二鉴定分数与第二设定阈值进行比较,若第二鉴定分数低于第二设定阈值,则将人脸缺失部分反馈给生成网络,对生成网络的训练参数进行更新;
将全局鉴别器的最后一层特征和局部鉴别器的而最后一层特征进行连接,经过第四全连接层,使用sigmoid函数激活,返回真实分类信息。
5.根据权利要求1-4任一项所述的戴口罩人脸识别方法,其特征在于,所述通过人脸识别模型对补全人脸图像进行识别,得到人脸识别结果,具体包括:
将补全人脸图像输入VGG特征提取网络进行特征提取,得到第一特征描述;
将比对人脸图像输入VGG特征提取网络进行特征提取,得到第二特征描述;
在第一特征描述和第二特征描述上,使用距离度量计算第一特征描述与第二特征描述之间的相似度得分;
若相似度得分超过第三设定阈值,则判断补全人脸图像和比对人脸图像来自同一人员。
6.根据权利要求1-4任一项所述的戴口罩人脸识别方法,其特征在于,所述人脸识别模型训练时所使用的损失函数采用加法角余量损失函数,如下:
其中,N表示样本的数量,i表示第i个样本,j表示第j个类别,m表示超参数,θyi表示参数W与特征向量x的夹角,s表示一个缩放系数。
7.一种戴口罩人脸识别系统,其特征在于,所述系统包括:
获取模块,用于获取待识别的视频流图像;
人脸口罩检测模块,用于加载人脸口罩检测模型,通过人脸口罩检测模型对待识别的视频流图像进行检测,得到检测结果;
人脸补全模块,用于若检测结果为检测到人脸佩戴口罩,加载人脸补全模型,通过人脸补全模型对检测到人脸佩戴口罩的视频流图像进行补全,得到补全人脸图像;
人脸识别模块,用于加载人脸识别模型,通过人脸识别模型对补全人脸图像进行识别,得到人脸识别结果;
所述人脸口罩检测模型采用多级联网络,所述多级联网络包括第一级网络、第二级网络和第三级网络;
所述第一级网络包括依次连接的第一输入层、第一隐藏层、第二隐藏层、第三隐藏层、第四隐藏层和第一输出层;其中,所述第一隐藏层、第二隐藏层、第三隐藏层、第四隐藏层均包括全卷积层和激活函数层;
所述第二级网络包括依次连接第二输入层、第五隐藏层、第六隐藏层、第七隐藏层、第一全连接层和第二输出层;其中,所述第五隐藏层和第六隐藏层均包括全卷积层、池化层和激活函数层,所述第七隐藏层包括全卷积层和激活函数层;
所述第三级网络包括依次连接的第三输入层、第六隐藏层、第七隐藏层、第八隐藏层、第九隐藏层、第二全连接层和第三输出层;其中,所述第六隐藏层、第七隐藏层和第八隐藏层均包括全卷积层、池化层和激活函数层,所述第九隐藏层包括全卷积层和激活函数层。
8.一种计算机设备,包括处理器以及用于存储处理器可执行程序的存储器,其特征在于,所述处理器执行存储器存储的程序时,实现权利要求1-6任一项所述的戴口罩人脸识别方法。
9.一种存储介质,存储有程序,其特征在于,所述程序被处理器执行时,实现权利要求1-6任一项所述的戴口罩人脸识别方法。
CN202011491152.8A 2020-12-17 2020-12-17 戴口罩人脸识别方法、系统、计算机设备及存储介质 Active CN112597867B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011491152.8A CN112597867B (zh) 2020-12-17 2020-12-17 戴口罩人脸识别方法、系统、计算机设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011491152.8A CN112597867B (zh) 2020-12-17 2020-12-17 戴口罩人脸识别方法、系统、计算机设备及存储介质

Publications (2)

Publication Number Publication Date
CN112597867A CN112597867A (zh) 2021-04-02
CN112597867B true CN112597867B (zh) 2024-04-26

Family

ID=75196838

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011491152.8A Active CN112597867B (zh) 2020-12-17 2020-12-17 戴口罩人脸识别方法、系统、计算机设备及存储介质

Country Status (1)

Country Link
CN (1) CN112597867B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113111781A (zh) * 2021-04-14 2021-07-13 东南大学 一种基于Sigmoid函数的分类层监督用于人脸识别的方法
CN113610002B (zh) * 2021-08-09 2024-04-16 公安部第一研究所 一种基于张量补全的有遮挡人脸检测方法
CN113723308B (zh) * 2021-08-31 2023-08-22 上海西井科技股份有限公司 基于图像的防疫套件的检测方法、系统、设备及存储介质
WO2023037812A1 (ja) * 2021-09-10 2023-03-16 株式会社Nttドコモ オンライン対話支援システム
CN114220143B (zh) * 2021-11-26 2024-04-19 华南理工大学 一种佩戴口罩的人脸识别方法
CN113963426B (zh) * 2021-12-22 2022-08-26 合肥的卢深视科技有限公司 模型训练、戴口罩人脸识别方法、电子设备及存储介质
CN113963183B (zh) * 2021-12-22 2022-05-31 合肥的卢深视科技有限公司 模型训练、人脸识别方法、电子设备及存储介质
CN115457624B (zh) * 2022-08-18 2023-09-01 中科天网(广东)科技有限公司 一种局部与整体人脸特征交叉融合的戴口罩人脸识别方法、装置、设备和介质

Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101763504A (zh) * 2009-12-30 2010-06-30 邱怀骏 复杂场景下的人体头部识别方法
CN101980242A (zh) * 2010-09-30 2011-02-23 徐勇 人脸面相判别方法、系统及公共安全系统
CN107145867A (zh) * 2017-05-09 2017-09-08 电子科技大学 基于多任务深度学习的人脸及人脸遮挡物检测方法
CN108898168A (zh) * 2018-06-19 2018-11-27 清华大学 用于目标检测的卷积神经网络模型的压缩方法和系统
CN108986041A (zh) * 2018-06-13 2018-12-11 浙江大华技术股份有限公司 一种图像恢复方法、装置、电子设备及可读存储介质
CN110827832A (zh) * 2018-08-14 2020-02-21 上海汇付数据服务有限公司 一种视频身份的识别设备及其方法
CN110825765A (zh) * 2019-10-23 2020-02-21 中国建设银行股份有限公司 一种人脸识别的方法和装置
CN110991281A (zh) * 2019-11-21 2020-04-10 电子科技大学 一种动态人脸识别方法
CN111160281A (zh) * 2019-12-31 2020-05-15 南京甄视智能科技有限公司 一种基于人脸识别的人员识别方法和装置
CN111310624A (zh) * 2020-02-05 2020-06-19 腾讯科技(深圳)有限公司 遮挡识别方法、装置、计算机设备及存储介质
CN111428581A (zh) * 2020-03-05 2020-07-17 平安科技(深圳)有限公司 人脸遮挡检测方法及系统
CN111428604A (zh) * 2020-03-19 2020-07-17 上海东普信息科技有限公司 面部佩戴口罩识别方法、装置、设备及存储介质
CN111626243A (zh) * 2020-05-28 2020-09-04 上海锘科智能科技有限公司 口罩遮挡人脸的身份识别方法、装置及存储介质
CN111860400A (zh) * 2020-07-28 2020-10-30 平安科技(深圳)有限公司 人脸增强识别方法、装置、设备及存储介质
CN111881770A (zh) * 2020-07-06 2020-11-03 上海序言泽网络科技有限公司 一种人脸识别方法及系统
CN111898561A (zh) * 2020-08-04 2020-11-06 腾讯科技(深圳)有限公司 一种人脸认证方法、装置、设备及介质

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9838657B2 (en) * 2016-01-07 2017-12-05 International Business Machines Coporation Projection enhancement system
US10289822B2 (en) * 2016-07-22 2019-05-14 Nec Corporation Liveness detection for antispoof face recognition

Patent Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101763504A (zh) * 2009-12-30 2010-06-30 邱怀骏 复杂场景下的人体头部识别方法
CN101980242A (zh) * 2010-09-30 2011-02-23 徐勇 人脸面相判别方法、系统及公共安全系统
CN107145867A (zh) * 2017-05-09 2017-09-08 电子科技大学 基于多任务深度学习的人脸及人脸遮挡物检测方法
CN108986041A (zh) * 2018-06-13 2018-12-11 浙江大华技术股份有限公司 一种图像恢复方法、装置、电子设备及可读存储介质
CN108898168A (zh) * 2018-06-19 2018-11-27 清华大学 用于目标检测的卷积神经网络模型的压缩方法和系统
CN110827832A (zh) * 2018-08-14 2020-02-21 上海汇付数据服务有限公司 一种视频身份的识别设备及其方法
CN110825765A (zh) * 2019-10-23 2020-02-21 中国建设银行股份有限公司 一种人脸识别的方法和装置
CN110991281A (zh) * 2019-11-21 2020-04-10 电子科技大学 一种动态人脸识别方法
CN111160281A (zh) * 2019-12-31 2020-05-15 南京甄视智能科技有限公司 一种基于人脸识别的人员识别方法和装置
CN111310624A (zh) * 2020-02-05 2020-06-19 腾讯科技(深圳)有限公司 遮挡识别方法、装置、计算机设备及存储介质
CN111428581A (zh) * 2020-03-05 2020-07-17 平安科技(深圳)有限公司 人脸遮挡检测方法及系统
CN111428604A (zh) * 2020-03-19 2020-07-17 上海东普信息科技有限公司 面部佩戴口罩识别方法、装置、设备及存储介质
CN111626243A (zh) * 2020-05-28 2020-09-04 上海锘科智能科技有限公司 口罩遮挡人脸的身份识别方法、装置及存储介质
CN111881770A (zh) * 2020-07-06 2020-11-03 上海序言泽网络科技有限公司 一种人脸识别方法及系统
CN111860400A (zh) * 2020-07-28 2020-10-30 平安科技(深圳)有限公司 人脸增强识别方法、装置、设备及存储介质
CN111898561A (zh) * 2020-08-04 2020-11-06 腾讯科技(深圳)有限公司 一种人脸认证方法、装置、设备及介质

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
Stereoscopy based 3D face recognition system;Emanuele Zappa;Procedia Computer Science;20111231;第2521-2528页 *
基于MTCNN的FaceNet架构的人脸识别考勤系统设计与实现;李林峰;李春青;田博源;廖晓霞;;电脑知识与技术;20200925(27);第187-189页 *
基于多特征融合的三维模型检索算法;周燕 等;《计算机科学》;20160715;第第43卷卷(第第7期期);第303-309页 *
基于条件生成对抗网络的人脸补全算法;曹琨;吴飞;骆立志;杨照坤;邬倩;;传感器与微系统;20190610(06);第135-138页 *
基于深度学习的墨镜佩戴检测系统;张睿鑫;王嘉扬;;工业控制计算机;20200625(06);第9-11页 *
基于计算机视觉的人脸检测系统的研究;姜荣;鲁凤莲;;科学技术与工程;20070815(16);第250-252+271页 *

Also Published As

Publication number Publication date
CN112597867A (zh) 2021-04-02

Similar Documents

Publication Publication Date Title
CN112597867B (zh) 戴口罩人脸识别方法、系统、计算机设备及存储介质
CN111950329A (zh) 目标检测及模型训练方法、装置、计算机设备和存储介质
CN109145745B (zh) 一种遮挡情况下的人脸识别方法
CN103150546B (zh) 视频人脸识别方法和装置
Conte et al. An ensemble of rejecting classifiers for anomaly detection of audio events
Zhang et al. Heterogeneous multi-metric learning for multi-sensor fusion
Amaro et al. Evaluation of machine learning techniques for face detection and recognition
CN110808995B (zh) 安全防护方法和装置
Zhang et al. Rotationally unconstrained region proposals for ship target segmentation in optical remote sensing
Deng et al. Attention-aware dual-stream network for multimodal face anti-spoofing
Zhang et al. An attention convolutional neural network for forest fire smoke recognition
CN115168895A (zh) 结合人工智能的用户信息威胁分析方法及服务器
CN115410035A (zh) 基于监控视频的空中交通管制员不安全行为分类方法
Kavita et al. Human face recognition and age estimation with machine learning: A critical review and future perspective
Li et al. A novel fingerprint indexing approach focusing on minutia location and direction
Sanin et al. K-tangent spaces on Riemannian manifolds for improved pedestrian detection
CN114399729A (zh) 监控对象移动识别方法、系统、终端及存储介质
CN112232329A (zh) 入侵信号识别的多核svm训练、报警方法、装置及系统
Gkalelis et al. Video event detection using a subclass recoding error-correcting output codes framework
Nguyen et al. Electricity theft detection in power grid with a hybrid convolutional neural network-support vector machine model
CN110555338A (zh) 对象识别方法和装置、神经网络生成方法和装置
CN117407733B (zh) 一种基于对抗生成shapelet的流量异常检测方法及系统
Kovari et al. Stroke matching for off-line signature verification based on bounding rectangles
Mohammad et al. Cross Input Neighbourhood Difference for Re-identification of Occupational Humans
CN117407816A (zh) 一种基于对比学习的多元时间序列异常检测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant