CN113051960A - 深度图人脸检测方法、系统、设备及存储介质 - Google Patents

深度图人脸检测方法、系统、设备及存储介质 Download PDF

Info

Publication number
CN113051960A
CN113051960A CN201911364538.XA CN201911364538A CN113051960A CN 113051960 A CN113051960 A CN 113051960A CN 201911364538 A CN201911364538 A CN 201911364538A CN 113051960 A CN113051960 A CN 113051960A
Authority
CN
China
Prior art keywords
layer
face detection
detection
face
depth map
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201911364538.XA
Other languages
English (en)
Inventor
段兴
陈荡荡
朱力
吕方璐
汪博
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Guangjian Technology Co Ltd
Original Assignee
Shenzhen Guangjian Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Guangjian Technology Co Ltd filed Critical Shenzhen Guangjian Technology Co Ltd
Priority to CN201911364538.XA priority Critical patent/CN113051960A/zh
Publication of CN113051960A publication Critical patent/CN113051960A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification

Abstract

本发明提供了一种深度图人脸检测方法、系统、设备及存储介质,包括:将人脸深度图输入预设置的第一级神经网络模型进行检测,生成多个第一人脸检测框;当第一人脸检测框对应的第一检测置信度大于预设置的第一概率阈值时,则根据第一人脸检测框对人脸深度图进行截取生成多个第一检测图像;将多个第一检测图像输入预设置的第二级神经网络模型进行检测生第二人脸检测框;当第一检测图像的第二检测置信度大于预设置的第二概率阈值且对应的第一人脸检测框和第二人脸检测框之间的交并比大于预设置的第一阈值时,将该第一检测图像上面积较小的人脸检测框删除后输出第二检测图像。本发明中能够实现对深度图的人脸准确检测,以准确得到深度图中的人脸位置。

Description

深度图人脸检测方法、系统、设备及存储介质
技术领域
本发明涉及人脸检测,具体地,涉及一种深度图人脸检测方法、系统、设备及存储介质。
背景技术
人脸检测方法大致可以分为两类:基于2D人脸图像的人脸检测和基于3D人脸图像的人脸检测。其中2D人脸检测是通过2D摄像头平面成像,无法接收物理世界中的第三位信息(尺寸和距离等几何数据),即使算法及软件再先进,在有限的信息接收状态下,安全级别终究不够高,通过照片//视频/化妆/人皮面具等方式可以很容易进行破解,无法满足智能手机安全级别的需求。
3D人脸检测则是通过3D摄像头立体成像,能够检测视野内空间每个点位的三维坐标信息,从而使得计算机得到空间的3D数据并能够复原完整的三维世界,并实现各种智能的三维定位。简单的说就是机器获取的信息多了,分析判断的准确性有了极大的提升,人脸检测功能可以分辨出平面图像/视频/化妆/皮面具/双胞胎等状态,适合金融领域和智能手机等安全级别要求高的应用场景。
传统的3D人脸检测设备一般都是通过同时装备RGB摄像头和深度摄像头,通过RGB摄像头拍摄的RGB图像进行人脸检测,然后再将RGB图像上检测到的人脸对应到深度图上,该方法硬件成本高,需要配两个摄像头,同时需要在RGB摄像头和深度摄像头之间进行切换,因此运算速度较慢。
发明内容
针对现有技术中的缺陷,本发明的目的是提供一种深度图人脸检测方法、系统、设备及存储介质。
根据本发明提供的深度图人脸检测方法,包括如下步骤:
步骤S1:获取一人脸深度图,将所述人脸深度图输入预设置的第一级神经网络模型进行检测,生成多个第一人脸检测框和对应的第一检测置信度;
步骤S2:当一第一人脸检测框对应的第一检测置信度大于预设置的第一概率阈值时,则根据所述第一人脸检测框对所述人脸深度图进行截取生成多个第一检测图像;
步骤S3:将多个所述第一检测图像输入预设置的第二级神经网络模型进行检测生第二人脸检测框和对应的第二检测置信度;
步骤S4:当一第一检测图像的第二检测置信度大于预设置的第二概率阈值且对应的所述第一人脸检测框和所述第二人脸检测框之间的交并比大于预设置的第一阈值时,则将该第一检测图像上面积较小的人脸检测框删除后输出第二检测图像。
优选地,还包括如下步骤:
步骤S5:将多个所述第二检测图像输入预设置的第三级神经网络模型进行检测生第三人脸检测框和对应的第三检测置信度;
步骤S6:当一第二检测图像的第二检测置信度大于预设的第三概率阈值且对应的所述第一人脸检测框和所述第二人脸检测框之间的交并比大于预设置的第一阈值时,则将该第二检测图像上面积较小的人脸检测框删除后输出第三检测图像。
优选地,所述步骤S1包括如下步骤:
步骤S101:获取一人脸深度图像,将所述人脸深度图像伸缩至不同的尺寸生成多张伸缩深度图像,每一伸缩深度图像包括一伸缩因子;
步骤S102:将多张所述伸缩深度图像输入到所述第一级神经网络模型生成中间人脸检测框;
步骤S103:将所述中间人脸检测框和对应的伸缩深度图像根据伸缩因子恢复至原始尺寸,从而获得所述人脸深度图像上的多个中间人脸检测框;
步骤S104:当一任意两个中间人脸检测框之间的交并比大于预设置的第二阈值时,则将面积较小的中间人脸检测框删除,即确定所述第一人脸检测框。
优选地,所述步骤S4包括如下步骤:
步骤S401:判断所述第一检测图像的第二检测置信度是否大于预设置的第二概率阈值,当大于时触发步骤S402:
步骤S402:判断所述第一人脸检测框和所述第二人脸检测框之间的交并比是否大于预设置的第一阈值,当大于时触发步骤S403;
步骤S403:比较所述第一人脸检测框和所述第二人脸检测框的面积,当所述第一人脸检测框的面积大于等于所述第二人脸检测框的面积时,删除所述第二人脸检测框,将具有第一人脸检测框的第二检测图像输出,当所述第一人脸检测框的面积小于所述第二人脸检测框的面积时,删除所述第二人脸检测框,将具有第二人脸检测框的第二检测图像输出。
优选地,所述第一级神经网络包括顺次设置的第一数据层和第一数据合并层,与所述第一数据合并层的一输出端顺次连接的第一卷积层、第一批量归一化层、第一非线性激活层、第一池化层,与所述第一数据合并层的另一输出端顺次连接的第二卷积层、第二批量归一化层、第二非线性激活层,与所述第一池化层、所述第二非线性激活层顺次连接的第一拼接层、第三卷积层、第三批量归一化层、第三非线性激活层、第四卷积层、第四批量归一化层、第四非线性激活层以及与所述第四非线性激活层的输出端连接的第五卷积层和第六卷积层。
优选地,所述第二级神经网络模型包括顺次设置的第二数据层和第二数据合并层,与所述第二数据合并层的一输出端顺次连接的第七卷积层、第五批量归一化层、第五非线性激活层、第二池化层,与所述第一数据合并层的另一输出端顺次连接的第八卷积层、第六批量归一化层、第六非线性激活层,与所述第二池化层、所述第六非线性激活层顺次连接的第二拼接层,与所述第二拼接层连接输出端的第九卷积层、第七批量归一化层、第七非线性激活层、第三池化层,与所述第二拼接层输出端连接的第十卷积层、第八批量归一化层、第八非线性激活层,与所述第三池化层、所述第八非线性激活层连接的所述第三拼接层,与第三拼接层连接的第十一卷积层、第九批量归一化层、第九非线性激活层、第一全连接层、第十非线性激活层以及与所述第十非线性激活层的输出端连接的第二全连接层和第三全连接层。
优选地,所述第三级神经网络模型包括顺次设置的第三数据层、第三数据合并层、第十二卷积层、第十批量归一化层、第十一非线性激活层、第四池化层、第十三卷积层、第十一批量归一化层、第十二非线性激活层、第十四卷积层、第十三非线性激活层、第五池化层、第十五卷积层、第十二批量归一化层、第十四非线性激活层、第十七卷积层、第十三批量归一化层、第十五非线性激活层、第六池化层、第十八卷积层、第十四批量归一化层、第十六非线性激活层、第十九卷积层、第十五批量归一化层、第十七非线性激活层、第四全连接层、第十八非线性激活层以及与所述第十八非线性激活层的输出端连接的第五全连接层和第六全连接层。
本发明提供的深度图人脸检测系统,包括如下模块:
第一检测模块,用于获取一人脸深度图,将所述人脸深度图输入预设置的第一级神经网络模型进行检测,生成多个第一人脸检测框和对应的第一检测置信度;
检测图像生成模块,用于当一第一人脸检测框对应的第一检测置信度大于预设置的第一概率阈值时,则根据所述第一人脸检测框对所述人脸深度图进行截取生成多个第一检测图像;
第二检测模块,用于将多个所述第一检测图像输入预设置的第二级神经网络模型进行检测生成第二人脸检测框和对应的第二检测置信度;
检测图像输出模块,用于当一第一检测图像的第二检测置信度大于预设的第二概率函数且对应的所述第一人脸检测框和所述第二人脸检测框之间的交并比大于预设置的第一阈值时,则将该第一检测图像上面积较小的人脸检测框删除后输出第二检测图像。
根据本发明提供的深度图人脸检测设备,其特征在于,包括:
处理器;
存储器,其中存储有所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行所述深度图人脸检测方法的步骤。
根据本发明提供的计算机可读存储介质,用于存储程序,所述程序被执行时实现权所述深度图人脸检测方法的步骤。
与现有技术相比,本发明具有如下的有益效果:
在本发明中通过具有多个神经网络模型级联的深度图人脸检测模型对采集的人脸深度图顺次检测,从而实现对深度图的人脸准确检测,以准确得到深度图中的人脸位置;
在本发明中将第一级神经网络模型检测出的人脸区域截取出生成第一检测图像,将所述第一检测图像发送至第二级神经网络模型进行检测,并在第一人脸检测框和所述第二人脸检测框之间的交并比大于预设置的第一阈值的两个人脸检测框选择面积较大的人脸检测框输出,提高深度图上人脸检测的准确度。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。通过阅读参照以下附图对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显:
图1为本发明实施例中深度图人脸检测方法的步骤流程图;
图2为本发明变形例中深度图人脸检测方法的步骤流程图;
图3为本发明实施例中生成第一人脸检测框的步骤流程图;
图4为本发明实施例中生成第二检测图像的步骤流程图;
图5为本发明实施例中输出检测人脸框的人脸深度图的示例图;
图6为本发明实施例中边框回归方法进行检测人脸框输出的示意图;
图7为本发明实施例中第一级神经网络模型的结构示意图;
图8(a)为本发明实施例中第一级神经网络模型中迭代次数与训练误差的曲线图;
图8(b)为本发明实施例中第一级神经网络模型中迭代次数与验证误差的曲线图;
图9为本发明实施例中第二级神经网络模型的结构示意图;
图10(a)为本发明实施例中第二级神经网络模型中迭代次数与训练误差的曲线图;
图10(b)为本发明实施例中第二级神经网络模型中迭代次数与验证误差的曲线图;
图11为本发明实施例中第三级神经网络模型的结构示意图;
图12(a)为本发明实施例中第二级神经网络模型中迭代次数与训练误差的曲线图;
图12(b)为本发明实施例中第二级神经网络模型中迭代次数与验证误差的曲线图;
图13为本发明实施例中深度图人脸检测模型使用的步骤流程图;
图14为本发明实施例中深度图人脸检测系统的模块示意图;
图15为本发明实施例中深度图人脸检测设备的结构示意图;以及
图16为本发明实施例中计算机可读存储介质的结构示意图。
具体实施方式
下面结合具体实施例对本发明进行详细说明。以下实施例将有助于本领域的技术人员进一步理解本发明,但不以任何形式限制本发明。应当指出的是,对本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进。这些都属于本发明的保护范围。
本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例,例如能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
下面以具体地实施例对本发明的技术方案进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例不再赘述。
本发明提供的深度图人脸检测方法,旨在解决现有技术中存在的问题。
下面以具体地实施例对本发明的技术方案以及本申请的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图,对本发明的实施例进行描述。
图1为本发明实施例中深度图人脸检测方法的步骤流程图,如图1所示,本发明提供的深度图人脸检测方法,包括如下步骤:
步骤S1:获取一人脸深度图,将所述人脸深度图输入预设置的第一级神经网络模型进行检测,生成多个第一人脸检测框和对应的第一检测置信度;
步骤S2:当一第一人脸检测框对应的第一检测置信度大于预设置的第一概率阈值时,则根据所述第一人脸检测框对所述人脸深度图进行截取生成多个第一检测图像;
步骤S3:将多个所述第一检测图像输入预设置的第二级神经网络模型进行检测生第二人脸检测框和对应的第二检测置信度;
步骤S4:当一第一检测图像的第二检测置信度大于预设置的第二概率阈值且对应的所述第一人脸检测框和所述第二人脸检测框之间的交并比大于预设置的第一阈值时,则将该第一检测图像上面积较小的人脸检测框删除后输出第二检测图像。
在本发明实施例中,所述第一概率阈值与所述第二概率阈值可以设置为相同的数值,也可以设置为不同的数值。所述第一概率阈值可以设置为0.5至0.9之间的任意值,在本发明实施例中,所述第一概率阈值优选为0.6。所述第二概率阈值可以设置为0.5至 0.9之间的任意值,在本发明实施例中,所述第二概率阈值优选为0.6。
所述第一阈值可以设置为0.6至0.9之间的任意值,在本发明实施例中,所述第一阈值优选为0.7。
在本发明实施例中,将第一级神经网络模型检测出的且置信度大于第一概率阈值的人脸区域截取出生成第一检测图像,将所述第一检测图像发送至第二级神经网络模型进行检测,将所述第二级神经网络模型检测出且置信度大于第二概率阈值的第二人脸检测框与第一人脸检测框进行交并比求取,当交并比大于预设置的第一阈值时,将两个人脸检测框选择面积较大的人脸检测框输出,提高深度图上人脸检测的准确度。
图2为本发明变形例中深度图人脸检测方法的步骤流程图,如图2所示,本发明提供的深度图人脸检测方法,还包括如下步骤:
步骤S5:将多个所述第二检测图像输入预设置的第三级神经网络模型进行检测生第三人脸检测框和对应的第三检测置信度;
步骤S6:当一第二检测图像的第二检测置信度大于预设的第三概率阈值且对应的所述第一人脸检测框和所述第二人脸检测框之间的交并比大于预设置的第一阈值时,则将该第二检测图像上面积较小的人脸检测框删除后输出第三检测图像。
在本发明变形例中,所述第一概率阈值、所述第二概率阈值以及所述第三概率阈值可以设置为相同的数值,也可以设置为不同的数值。所述第三概率阈值可以设置为0.5至0.9之间的任意值,在本发明实施例中,所述第三概率阈值优选为0.6。
在本发明变形例中,可以增加下一级神经网络模型的数量,实现更多的神经网络模型的级联,使得本发明变形例中深度图人脸检测模型能够更准确的输出检测结果。
图3为本发明实施例中生成第一人脸检测框的步骤流程图,如图3所示,所述步骤S1包括如下步骤:
步骤S101:获取一人脸深度图像,将所述人脸深度图像伸缩至不同的尺寸生成多张伸缩深度图像,每一伸缩深度图像包括一伸缩因子;
步骤S102:将多张所述伸缩深度图像输入到所述第一级神经网络模型生成中间人脸检测框;
步骤S103:将所述中间人脸检测框和对应的伸缩深度图像根据伸缩因子恢复至原始尺寸,从而获得所述人脸深度图像上的多个中间人脸检测框;
步骤S104:当一任意两个中间人脸检测框之间的交并比大于预设置的第二阈值时,则将面积较小的中间人脸检测框删除,即确定所述第一人脸检测框。
所述第二阈值可以设置为0.6至0.9之间的任意值,在本发明实施例中,所述第二阈值优选为0.7。
为了增强神经网络模型对于人脸的检测效果,采用图像金字塔方法,对于任意一张输入的深度图,通过图像金字塔方法将深度图伸缩至不同的尺寸,每一个尺寸的深度图对应都有一个伸缩因子(scale),然后将这些不同尺寸的深度图分别输入到神经网络模型中进行推断,将每个尺寸的深度图推断得到的人脸预测框结合尺寸对应的伸缩因子进行拉伸,便能够得到该人脸检测框在原深度图中的位置。在进行最优人脸检测框的推断时,每一级神经网络模型的输出都会经过非最小边框压缩对输出的最优人脸检测框进行合并,以能够加快神经网络模型在推断时的运行速度。
图4为本发明实施例中生成第二检测图像的步骤流程图,如图4所示,所述步骤S4包括如下步骤:
步骤S401:判断所述第一检测图像的第二检测置信度是否大于预设置的第二概率阈值,当大于时触发步骤S402:
步骤S402:判断所述第一人脸检测框和所述第二人脸检测框之间的交并比是否大于预设置的第一阈值,当大于时触发步骤S403;
步骤S403:比较所述第一人脸检测框和所述第二人脸检测框的面积,当所述第一人脸检测框的面积大于等于所述第二人脸检测框的面积时,删除所述第二人脸检测框,将具有第一人脸检测框的第二检测图像输出,当所述第一人脸检测框的面积小于所述第二人脸检测框的面积时,删除所述第二人脸检测框,将具有第二人脸检测框的第二检测图像输出。
在本发明一实施例中,对于第一级神经网络模型、第二级神经网络模型以及第一级神经网络模型、第二级神经网络模型产生的两个人脸检测框进行选择时采用非最小边框压缩进行最优人脸检测框的推断,具体为:
当人脸检测框W1和人脸检测框W2的交并比大于0.7且人脸检测框W2的面积大于等于人脸检测框W1的面积,则删除人脸检测框W1,仅保留人脸检测框W2。
图5为本发明实施例中输出检测人脸框的人脸深度图的示例图,如图5所示,当将人脸深度图顺次通过所述第一级神经网络模型、所述第二级神经网络模型、所述第三级神经网络模型进行检测,能将人脸区域在所述人脸深度图准确框出。
在本发明实施例中,图6为本发明实施例中边框回归方法进行检测人脸框输出的示意图,如图6所示,即所述第一级神经网络模型、所述第二级神经网络模型输出为所述检测人脸框与标注人脸框的相对偏移值;通过使用边框回归方法,能够降低神经网络对于人脸框检测的学习难度,从而加快神经网络模型训练的收敛速度。
图7为本发明实施例中第一级神经网络模型的结构示意图,如图7所示,在本发明一实施例中,所述第一级神经网络模型包括顺次设置的第一数据层和第一数据合并层,与所述第一数据合并层的一输出端顺次连接的第一卷积层、第一批量归一化层、第一非线性激活层、第一池化层,与所述第一数据合并层的另一输出端顺次连接的第二卷积层、第二批量归一化层、第二非线性激活层,与所述第一池化层、所述第二非线性激活层顺次连接的第一拼接层、第三卷积层、第三批量归一化层、第三非线性激活层、第四卷积层、第四批量归一化层、第四非线性激活层以及与所述第四非线性激活层的输出端连接的第五卷积层和第六卷积层。
在本发明一实施例中,所述第一级神经网络模型采用全卷积神经网络(FCN:FullyConvolutional Network)训练生成。第一级神经网络模型对于输入的深度图的尺寸没有要求,即可以输入任意尺寸的深度图,输出包括第五卷积层和第六卷积层,第五卷积层和第六卷积层的输出都是热图(Heat map)。第五卷积层输出为每个人脸检测框的概率,第六卷积层输出的每一个位置包含四个值,为每个人脸检测框相对于标注人脸框的位置偏移值,包括四个值(△x1,△y1,△x2,△y2),(△x1,△y1)为人脸检测框的左上角相对于标注人脸框左上角的位置偏移量,(△x2,△y2)为人脸检测框的右下角相对于标注人脸框右下角的位置偏移量。
图8(a)为本发明实施例中第一级神经网络模型中迭代次数与训练误差的曲线图,在图8(a)中,横坐标为迭代次数,实线表示训练误差的变化,虚线表示测试误差的变化。
图8(b)为本发明实施例中第一级神经网络模型中迭代次数与验证误差的曲线图,在图8(b)中,横坐标为迭代次数,表示随着迭代次数的增加,测试精度的变化情况。
图9为本发明实施例中第二级神经网络模型的结构示意图,如图9所示,在本发明一实施例中,所述第二级神经网络模型包括顺次设置的第二数据层和第二数据合并层,与所述第二数据合并层的一输出端顺次连接的第七卷积层、第五批量归一化层、第五非线性激活层、第二池化层,与所述第一数据合并层的另一输出端顺次连接的第八卷积层、第六批量归一化层、第六非线性激活层,与所述第二池化层、所述第六非线性激活层顺次连接的第二拼接层,与所述第二拼接层连接输出端的第九卷积层、第七批量归一化层、第七非线性激活层、第三池化层,与所述第二拼接层输出端连接的第十卷积层、第八批量归一化层、第八非线性激活层,与所述第三池化层、所述第八非线性激活层连接的所述第三拼接层,与第三拼接层连接的第十一卷积层、第九批量归一化层、第九非线性激活层、第一全连接层、第十非线性激活层以及与所述第十非线性激活层的输出端连接的第二全连接层和第三全连接层。
在本发明一实施例中,所述第二级神经网络模型为一个带有全连接层FC(FullyConnected layer)的卷积神经网络,所述第二级神经网络模型的输入设定为24x24的深度,输出由第二全连接层和第三全连接层进行特征融合并进行输出,所述第二全连接层的输出值需要经过层softmax层得到输入深度图每个人脸检测框的概率,第三全连接层输出为人脸检测框相对于标注人脸框的位置偏移值,包括四个值(△x1,△y1,△x2,△ y2)。所述第二级神经网络模型,负样本图像集需要加入从第一级神经网络模型中筛选出来的困难负样本。
图10(a)为本发明实施例中第一级神经网络模型中迭代次数与训练误差的曲线图,在图10(a)中,横坐标为迭代次数,实线表示训练误差的变化,虚线表示测试误差的变化。
图10(b)为本发明实施例中第一级神经网络模型中迭代次数与验证误差的曲线图,在图10(b)中,横坐标为迭代次数,表示随着迭代次数的增加,测试精度的变化情况。
图11为本发明实施例中第三级神经网络模型的结构示意图,如图11所示,在本发明一实施例中,所述第三级神经网络模型包括顺次设置的第三数据层、第三数据合并层、第十二卷积层、第十批量归一化层、第十一非线性激活层、第四池化层、第十三卷积层、第十一批量归一化层、第十二非线性激活层、第十四卷积层、第十三非线性激活层、第五池化层、第十五卷积层、第十二批量归一化层、第十四非线性激活层、第十七卷积层、第十三批量归一化层、第十五非线性激活层、第六池化层、第十八卷积层、第十四批量归一化层、第十六非线性激活层、第十九卷积层、第十五批量归一化层、第十七非线性激活层、第四全连接层、第十八非线性激活层以及与所述第十八非线性激活层的输出端连接的第五全连接层和第六全连接层。
在本发明一实施例中,所述第三级神经网络模型为一个带有全连接层FC(FullyConnected layer)的卷积神经网络,所述第三级神经网络模型的输入设定为48x48的深度图,输出由第五全连接层和第六全连接层进行特征融合并进行输出,第五全连接层的输出值需要经过层softmax层得到输入深度图每个人脸检测框的概率,第六全连接层输出为人脸检测框相对于标注人脸框的位置偏移值,包括四个值(△x1,△y1,△x2,△y2),所述第三级神经网络模型的训练过程中,训练的负样本图像集需要加入从第二级神经网络模型中筛选出来的困难负样本。
图12(a)为本发明实施例中第一级神经网络模型中迭代次数与训练误差的曲线图,在图12(a)中,横坐标为迭代次数,实线表示训练误差的变化,虚线表示测试误差的变化。
图12(b)为本发明实施例中第一级神经网络模型中迭代次数与验证误差的曲线图,在图12(b)中,横坐标为迭代次数,表示随着迭代次数的增加,测试精度的变化情况。
图13为本发明实施例中深度图人脸检测模型使用的步骤流程图,如图13所示,当使用本发明训练后的深度图人脸检测模型时,首先将所述人脸深度图输入预设置的第一级神经网络模型进行检测,生成多个第一检测人脸框和对应的第一检测置信度;当一第一检测人脸框对应的第一检测置信度大于预设值的第一概率阈值时,则根据所述第一检测人脸框对所述人脸深度图进行截取生成多个第一检测图像;将多个所述第一检测图像输入预设置的第二级神经网络模型进行检测生第二检测人脸框和对应的第二检测置信度;当一第一检测图像的第二检测置信度大于预设的第二概率函数且对应的所述第一检测人脸框和所述第二检测人脸框之间的交并比大于预设值的第一阈值时,则将该第一检测图像上面积较小的检测人脸框删除后输出第二检测图像。将多个所述第二检测图像输入预设置的第三级神经网络模型进行检测生第三检测人脸框和对应的第三检测置信度;当一第二检测图像的第二检测置信度大于预设的第三概率函数且对应的所述第一检测人脸框和所述第二检测人脸框之间的交并比大于预设值的第一阈值时,则将该第二检测图像上面积较小的检测人脸框删除后输出第三检测图像。
图14为本发明实施例中深度图人脸检测系统的模块示意图,如图14所示,本发明提供的深度图人脸检测系统,包括如下模块:
第一检测模块,用于获取一人脸深度图,将所述人脸深度图输入预设置的第一级神经网络模型进行检测,生成多个第一人脸检测框和对应的第一检测置信度;
检测图像生成模块,用于当一第一人脸检测框对应的第一检测置信度大于预设置的第一概率阈值时,则根据所述第一人脸检测框对所述人脸深度图进行截取生成多个第一检测图像;
第二检测模块,用于将多个所述第一检测图像输入预设置的第二级神经网络模型进行检测生成第二人脸检测框和对应的第二检测置信度;
检测图像输出模块,用于当一第一检测图像的第二检测置信度大于预设的第二概率函数且对应的所述第一人脸检测框和所述第二人脸检测框之间的交并比大于预设置的第一阈值时,则将该第一检测图像上面积较小的人脸检测框删除后输出第二检测图像。
本发明实施例中还提供一种深度图人脸检测设备,包括处理器。存储器,其中存储有处理器的可执行指令。其中,处理器配置为经由执行可执行指令来执行的深度图人脸检测方法的步骤。
如上,该实施例能够通过具有多个神经网络模型级联的深度图人脸检测模型对采集的人脸深度图顺次检测,从而实现对深度图的人脸准确检测,以准确得到深度图中的人脸位置。
所属技术领域的技术人员能够理解,本发明的各个方面可以实现为系统、方法或程序产品。因此,本发明的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“平台”。
图15是本发明实施例中的深度图人脸检测设备的结构示意图。下面参照图15来描述根据本发明的这种实施方式的电子设备600。图15显示的电子设备600仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如15所示,电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于:至少一个处理单元610、至少一个存储单元620、连接不同平台组件(包括存储单元620和处理单元610)的总线630、显示单元640等。
其中,存储单元存储有程序代码,程序代码可以被处理单元610执行,使得处理单元610执行本说明书上述深度图人脸检测方法部分中描述的根据本发明各种示例性实施方式的步骤。例如,处理单元610可以执行如图1中所示的步骤。
存储单元620可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202,还可以进一步包括只读存储单元(ROM)6203。
存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204,这样的程序模块6205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线630可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备600交互的设备通信,和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且,电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白,尽管15中未示出,可以结合电子设备600使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储平台等。
本发明实施例中还提供一种计算机可读存储介质,用于存储程序,程序被执行时实现的深度图人脸检测方法的步骤。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当程序产品在终端设备上运行时,程序代码用于使终端设备执行本说明书上述深度图人脸检测方法部分中描述的根据本发明各种示例性实施方式的步骤。
如上所示,该实施例的计算机可读存储介质的程序在执行时,本发明通过具有多个神经网络模型级联的深度图人脸检测模型对采集的人脸深度图顺次检测,从而实现对深度图的人脸准确检测,以准确得到深度图中的人脸位置。
图16是本发明实施例中的计算机可读存储介质的结构示意图。参考图16所示,描述了根据本发明的实施方式的用于实现上述方法的程序产品800,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器 (RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网 (LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
在本发明实施例中,在本发明通过具有多个神经网络模型级联的深度图人脸检测模型对采集的人脸深度图顺次检测,从而实现对深度图的人脸准确检测,以准确得到深度图中的人脸位置;
在本发明中将第一级神经网络模型检测出的人脸区域截取出生成第一检测图像,将所述第一检测图像发送至第二级神经网络模型进行检测,并在第一人脸检测框和所述第二人脸检测框之间的交并比大于预设置的第一阈值的两个人脸检测框选择面积较大的人脸检测框输出,提高深度图上人脸检测的准确度。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
以上对本发明的具体实施例进行了描述。需要理解的是,本发明并不局限于上述特定实施方式,本领域技术人员可以在权利要求的范围内做出各种变形或修改,这并不影响本发明的实质内容。

Claims (10)

1.一种深度图人脸检测方法,其特征在于,包括如下步骤:
步骤S1:获取一人脸深度图,将所述人脸深度图输入预设置的第一级神经网络模型进行检测,生成多个第一人脸检测框和对应的第一检测置信度;
步骤S2:当一第一人脸检测框对应的第一检测置信度大于预设置的第一概率阈值时,则根据所述第一人脸检测框对所述人脸深度图进行截取生成多个第一检测图像;
步骤S3:将多个所述第一检测图像输入预设置的第二级神经网络模型进行检测生第二人脸检测框和对应的第二检测置信度;
步骤S4:当一第一检测图像的第二检测置信度大于预设置的第二概率阈值且对应的所述第一人脸检测框和所述第二人脸检测框之间的交并比大于预设置的第一阈值时,则将该第一检测图像上面积较小的人脸检测框删除后输出第二检测图像。
2.根据权利要求1所述的深度图人脸检测方法,其特征在于,还包括如下步骤:
步骤S5:将多个所述第二检测图像输入预设置的第三级神经网络模型进行检测生第三人脸检测框和对应的第三检测置信度;
步骤S6:当一第二检测图像的第二检测置信度大于预设的第三概率阈值且对应的所述第一人脸检测框和所述第二人脸检测框之间的交并比大于预设置的第一阈值时,则将该第二检测图像上面积较小的人脸检测框删除后输出第三检测图像。
3.根据权利要求1所述的深度图人脸检测方法,其特征在于,所述步骤S1包括如下步骤:
步骤S101:获取一人脸深度图像,将所述人脸深度图像伸缩至不同的尺寸生成多张伸缩深度图像,每一伸缩深度图像包括一伸缩因子;
步骤S102:将多张所述伸缩深度图像输入到所述第一级神经网络模型生成中间人脸检测框;
步骤S103:将所述中间人脸检测框和对应的伸缩深度图像根据伸缩因子恢复至原始尺寸,从而获得所述人脸深度图像上的多个中间人脸检测框;
步骤S104:当一任意两个中间人脸检测框之间的交并比大于预设置的第二阈值时,则将面积较小的中间人脸检测框删除,即确定所述第一人脸检测框。
4.根据权利要求1所述的深度图人脸检测方法,其特征在于,所述步骤S4包括如下步骤:
步骤S401:判断所述第一检测图像的第二检测置信度是否大于预设置的第二概率阈值,当大于时触发步骤S402:
步骤S402:判断所述第一人脸检测框和所述第二人脸检测框之间的交并比是否大于预设置的第一阈值,当大于时触发步骤S403;
步骤S403:比较所述第一人脸检测框和所述第二人脸检测框的面积,当所述第一人脸检测框的面积大于等于所述第二人脸检测框的面积时,删除所述第二人脸检测框,将具有第一人脸检测框的第二检测图像输出,当所述第一人脸检测框的面积小于所述第二人脸检测框的面积时,删除所述第二人脸检测框,将具有第二人脸检测框的第二检测图像输出。
5.根据权利要求1所述的深度图人脸检测方法,其特征在于,所述第一级神经网络包括顺次设置的第一数据层和第一数据合并层,与所述第一数据合并层的一输出端顺次连接的第一卷积层、第一批量归一化层、第一非线性激活层、第一池化层,与所述第一数据合并层的另一输出端顺次连接的第二卷积层、第二批量归一化层、第二非线性激活层,与所述第一池化层、所述第二非线性激活层顺次连接的第一拼接层、第三卷积层、第三批量归一化层、第三非线性激活层、第四卷积层、第四批量归一化层、第四非线性激活层以及与所述第四非线性激活层的输出端连接的第五卷积层和第六卷积层。
6.根据权利要求1所述的深度图人脸检测方法,其特征在于,所述第二级神经网络模型包括顺次设置的第二数据层和第二数据合并层,与所述第二数据合并层的一输出端顺次连接的第七卷积层、第五批量归一化层、第五非线性激活层、第二池化层,与所述第一数据合并层的另一输出端顺次连接的第八卷积层、第六批量归一化层、第六非线性激活层,与所述第二池化层、所述第六非线性激活层顺次连接的第二拼接层,与所述第二拼接层连接输出端的第九卷积层、第七批量归一化层、第七非线性激活层、第三池化层,与所述第二拼接层输出端连接的第十卷积层、第八批量归一化层、第八非线性激活层,与所述第三池化层、所述第八非线性激活层连接的所述第三拼接层,与第三拼接层连接的第十一卷积层、第九批量归一化层、第九非线性激活层、第一全连接层、第十非线性激活层以及与所述第十非线性激活层的输出端连接的第二全连接层和第三全连接层。
7.根据权利要求2所述的深度图人脸检测方法,其特征在于,所述第三级神经网络模型包括顺次设置的第三数据层、第三数据合并层、第十二卷积层、第十批量归一化层、第十一非线性激活层、第四池化层、第十三卷积层、第十一批量归一化层、第十二非线性激活层、第十四卷积层、第十三非线性激活层、第五池化层、第十五卷积层、第十二批量归一化层、第十四非线性激活层、第十七卷积层、第十三批量归一化层、第十五非线性激活层、第六池化层、第十八卷积层、第十四批量归一化层、第十六非线性激活层、第十九卷积层、第十五批量归一化层、第十七非线性激活层、第四全连接层、第十八非线性激活层以及与所述第十八非线性激活层的输出端连接的第五全连接层和第六全连接层。
8.一种深度图人脸检测系统,其特征在于,包括如下模块:
第一检测模块,用于获取一人脸深度图,将所述人脸深度图输入预设置的第一级神经网络模型进行检测,生成多个第一人脸检测框和对应的第一检测置信度;
检测图像生成模块,用于当一第一人脸检测框对应的第一检测置信度大于预设置的第一概率阈值时,则根据所述第一人脸检测框对所述人脸深度图进行截取生成多个第一检测图像;
第二检测模块,用于将多个所述第一检测图像输入预设置的第二级神经网络模型进行检测生成第二人脸检测框和对应的第二检测置信度;
检测图像输出模块,用于当一第一检测图像的第二检测置信度大于预设的第二概率函数且对应的所述第一人脸检测框和所述第二人脸检测框之间的交并比大于预设置的第一阈值时,则将该第一检测图像上面积较小的人脸检测框删除后输出第二检测图像。
9.一种深度图人脸检测设备,其特征在于,包括:
处理器;
存储器,其中存储有所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1至7中任意一项所述深度图人脸检测方法的步骤。
10.一种计算机可读存储介质,用于存储程序,其特征在于,所述程序被执行时实现权利要求1至7中任意一项所述深度图人脸检测方法的步骤。
CN201911364538.XA 2019-12-26 2019-12-26 深度图人脸检测方法、系统、设备及存储介质 Pending CN113051960A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911364538.XA CN113051960A (zh) 2019-12-26 2019-12-26 深度图人脸检测方法、系统、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911364538.XA CN113051960A (zh) 2019-12-26 2019-12-26 深度图人脸检测方法、系统、设备及存储介质

Publications (1)

Publication Number Publication Date
CN113051960A true CN113051960A (zh) 2021-06-29

Family

ID=76505311

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911364538.XA Pending CN113051960A (zh) 2019-12-26 2019-12-26 深度图人脸检测方法、系统、设备及存储介质

Country Status (1)

Country Link
CN (1) CN113051960A (zh)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106650699A (zh) * 2016-12-30 2017-05-10 中国科学院深圳先进技术研究院 一种基于卷积神经网络的人脸检测方法及装置
CN107247949A (zh) * 2017-08-02 2017-10-13 北京智慧眼科技股份有限公司 基于深度学习的人脸识别方法、装置和电子设备
CN107871102A (zh) * 2016-09-23 2018-04-03 北京眼神科技有限公司 一种人脸检测方法及装置
CN107871134A (zh) * 2016-09-23 2018-04-03 北京眼神科技有限公司 一种人脸检测方法及装置
CN108875833A (zh) * 2018-06-22 2018-11-23 北京智能管家科技有限公司 神经网络的训练方法、人脸识别方法及装置
CN108875624A (zh) * 2018-06-13 2018-11-23 华南理工大学 基于多尺度的级联稠密连接神经网络的人脸检测方法
CN109918969A (zh) * 2017-12-12 2019-06-21 深圳云天励飞技术有限公司 人脸检测方法及装置、计算机装置和计算机可读存储介质
CN110263774A (zh) * 2019-08-19 2019-09-20 珠海亿智电子科技有限公司 一种人脸检测方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107871102A (zh) * 2016-09-23 2018-04-03 北京眼神科技有限公司 一种人脸检测方法及装置
CN107871134A (zh) * 2016-09-23 2018-04-03 北京眼神科技有限公司 一种人脸检测方法及装置
CN106650699A (zh) * 2016-12-30 2017-05-10 中国科学院深圳先进技术研究院 一种基于卷积神经网络的人脸检测方法及装置
CN107247949A (zh) * 2017-08-02 2017-10-13 北京智慧眼科技股份有限公司 基于深度学习的人脸识别方法、装置和电子设备
CN109918969A (zh) * 2017-12-12 2019-06-21 深圳云天励飞技术有限公司 人脸检测方法及装置、计算机装置和计算机可读存储介质
CN108875624A (zh) * 2018-06-13 2018-11-23 华南理工大学 基于多尺度的级联稠密连接神经网络的人脸检测方法
CN108875833A (zh) * 2018-06-22 2018-11-23 北京智能管家科技有限公司 神经网络的训练方法、人脸识别方法及装置
CN110263774A (zh) * 2019-08-19 2019-09-20 珠海亿智电子科技有限公司 一种人脸检测方法

Similar Documents

Publication Publication Date Title
US20210312163A1 (en) Face recognition method, device and electronic equipment, and computer non-volatile readable storage medium
CN112767303B (zh) 一种图像检测方法、装置、设备及计算机可读存储介质
AU2021203821B2 (en) Methods, devices, apparatuses and storage media of detecting correlated objects involved in images
CN115311730B (zh) 一种人脸关键点的检测方法、系统和电子设备
CN111611925A (zh) 一种建筑物检测与识别方法及装置
CN114758337B (zh) 一种语义实例重建方法、装置、设备及介质
JP2023526899A (ja) 画像修復モデルを生成するための方法、デバイス、媒体及びプログラム製品
CN110060264B (zh) 神经网络训练方法、视频帧处理方法、装置及系统
CN114663871A (zh) 图像识别方法、训练方法、装置、系统及存储介质
CN113051961A (zh) 深度图人脸检测模型训练方法、系统、设备及存储介质
CN115205793B (zh) 基于深度学习二次确认的电力机房烟雾检测方法及装置
CN111428740A (zh) 网络翻拍照片的检测方法、装置、计算机设备及存储介质
CN110516094A (zh) 门类兴趣点数据的去重方法、装置、电子设备及存储介质
CN115690845A (zh) 一种运动轨迹预测方法及装置
CN116229535A (zh) 人脸检测模型的训练方法、人脸检测方法及装置
CN114038067B (zh) 煤矿人员行为检测方法、设备及存储介质
CN113051960A (zh) 深度图人脸检测方法、系统、设备及存储介质
CN115424346A (zh) 一种人体坐姿检测方法、装置、计算机设备及系统
KR20220146663A (ko) 비디오 복구 방법, 장치, 기기, 매체 및 컴퓨터 프로그램
CN114842411A (zh) 一种基于互补时空信息建模的群体行为识别方法
CN114140879A (zh) 基于多头级联注意网络与时间卷积网络的行为识别方法及装置
CN111353464B (zh) 一种物体检测模型训练、物体检测方法及装置
CN113762248A (zh) 一种目标落地检测方法、装置、电子设备和存储介质
WO2022144605A1 (en) Methods, devices, apparatuses and storage media of detecting correlated objects in images
CN115171062A (zh) 对象检测结果确定方法、对象检测模型训练方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination