CN108875492A - 人脸检测及关键点定位方法、装置、系统和存储介质 - Google Patents

Abstract

本发明提供了一种人脸检测及关键点定位方法、装置、系统和存储介质，所述方法包括：导入待检测图像；对所述待检测图像进行人脸检测和多次人脸关键点定位，每次人脸关键点定位的结果用于更新人脸检测结果，且更新后的带有人脸关键点定位的人脸检测结果作为下一次人脸关键点定位的基础；以及将基于最后一次人脸关键点定位结果更新后的带有人脸关键点定位的人脸检测结果输出以作为最终的人脸检测及关键点定位结果。根据本发明实施例的人脸检测及关键点定位方法、装置、系统和存储介质将人脸检测和人脸关键点定位相结合来执行，使其成为彼此的辅助，可以更快速地执行人脸检测及关键点定位，并且能够得到更好的人脸检测及关键点定位结果。

Description

人脸检测及关键点定位方法、装置、系统和存储介质

技术领域

本发明涉及图像检测技术领域，更具体地涉及一种人脸检测及关键点定位方法、装置、系统和存储介质。

背景技术

人脸检测(face detection)及姿态估计(face alignment/landmark detection)对于很多人脸应用是非常基础并且至关重要的，比如人脸识别，人脸美妆，人脸增强现实(AR)等。目前常见的人脸算法往往把检测以及姿态估计分成两个独立的步骤，即人脸检测和姿态估计之间相互没有影响，无法为彼此提供辅助。

发明内容

本发明提出了一种关于人脸检测及关键点定位的方案，其将人脸检测和姿态估计相结合，可以得到更好的人脸检测以及关键点(姿态估计)定位的效果。下面简要描述本发明提出的关于人脸检测及关键点定位的方案，更多细节将在后续结合附图在具体实施方式中加以描述。

根据本发明一方面，提供了一种人脸检测及关键点定位方法，所述人脸检测及关键点定位方法包括：导入待检测图像；对所述待检测图像进行人脸检测和多次人脸关键点定位，每次人脸关键点定位的结果用于更新人脸检测结果，且更新后的带有人脸关键点定位的人脸检测结果作为下一次人脸关键点定位的基础；以及将基于最后一次人脸关键点定位结果更新后的带有人脸关键点定位的人脸检测结果输出以作为最终的人脸检测及关键点定位结果。

在本发明的一个实施例中，所述多次人脸关键点定位中的每次人脸关键点定位分别采用具有不同定位精度的神经网络，且从前到后的神经网络的定位精度递增。

在本发明的一个实施例中，所述每次人脸关键点定位的结果用于更新人脸检测结果包括：所述每次人脸关键点定位的结果均对前次的人脸检测结果产生新的置信度值，所述更新人脸检测结果包括过滤掉新的置信度值低于预定阈值的人脸框。

在本发明的一个实施例中，所述的方法进一步包括：对所述待检测图像进行人脸框定位，并输出第一人脸框定位结果；对所述第一人脸框定位结果中的第一人脸框进行人脸粗略内部关键点定位，并基于所述人脸粗略内部关键点定位的结果过滤所述第一人脸框以产生带有人脸内部关键点定位的第二人脸框定位结果；对所述第二人脸框定位结果中的第二人脸框进行人脸粗略关键点定位，并基于所述人脸粗略关键点定位的结果过滤所述第二人脸框以产生带有人脸粗略关键点定位的第三人脸框定位结果；以及对所述第三人脸框定位结果中的第三人脸框进行人脸精细关键点定位，并基于所述人脸精细关键点定位的结果过滤所述第三人脸框以产生带有人脸精细关键点定位的第四人脸框定位结果，以作为所述待检测图像的最终人脸检测及关键点定位结果。

在本发明的一个实施例中，所述人脸框定位、所述人脸粗略内部关键点定位、所述人脸粗略关键点定位以及所述人脸精细关键点定位是基于多个级联的神经网络分别执行的。

在本发明的一个实施例中，所述多个级联的神经网络是经过端到端的联合训练而成。

在本发明的一个实施例中，用于执行所述人脸框定位的神经网络为轻量级神经网络。

根据本发明另一方面，提供了一种用于实现上述任一项所述的人脸检测及关键点定位方法的人脸检测及关键点定位装置，所述人脸检测及关键点定位装置包括：导入模块，用于导入待检测图像；检测模块，用于对所述待检测图像进行人脸检测和多次人脸关键点定位，每次人脸关键点定位的结果用于更新人脸检测结果，且更新后的带有人脸关键点定位的人脸检测结果作为下一次人脸关键点定位的基础；以及输出模块，用于将基于最后一次人脸关键点定位结果更新后的带有人脸关键点定位的人脸检测结果输出以作为最终的人脸检测及关键点定位结果。

在本发明的一个实施例中，所述多次人脸关键点定位中的每次人脸关键点定位分别采用具有不同定位精度的神经网络，且从前到后的神经网络的定位精度递增。

在本发明的一个实施例中，所述每次人脸关键点定位的结果用于更新人脸检测结果包括：所述每次人脸关键点定位的结果均对前次的人脸检测结果产生新的置信度值，所述更新人脸检测结果包括过滤掉新的置信度值低于预定阈值的人脸框。

在本发明的一个实施例中，所述检测模块和所述输出模块的操作进一步包括：对所述待检测图像进行人脸框定位，并输出第一人脸框定位结果；对所述第一人脸框定位结果中的第一人脸框进行人脸粗略内部关键点定位，并基于所述人脸粗略内部关键点定位的结果过滤所述第一人脸框以产生带有人脸内部关键点定位的第二人脸框定位结果；对所述第二人脸框定位结果中的第二人脸框进行人脸粗略关键点定位，并基于所述人脸粗略关键点定位的结果过滤所述第二人脸框以产生带有人脸粗略关键点定位的第三人脸框定位结果；以及对所述第三人脸框定位结果中的第三人脸框进行人脸精细关键点定位，并基于所述人脸精细关键点定位的结果过滤所述第三人脸框以产生带有人脸精细关键点定位的第四人脸框定位结果，以作为所述待检测图像的最终人脸检测及关键点定位结果。

在本发明的一个实施例中，所述检测模块基于多个级联的神经网络分别依次执行所述人脸框定位、所述人脸粗略内部关键点定位、所述人脸粗略关键点定位以及所述人脸精细关键点定位。

在本发明的一个实施例中，所述多个级联的神经网络是经过端到端的联合训练而成。

在本发明的一个实施例中，用于执行所述人脸框定位的神经网络为轻量级神经网络。

根据本发明又一方面，提供了一种人脸检测及关键点定位系统，所述人脸检测及关键点定位系统包括存储装置和处理器，所述存储装置上存储有由所述处理器运行的计算机程序，所述计算机程序在被所述处理器运行时执行上述任一项所述的人脸检测及关键点定位方法。

根据本发明再一方面，提供了一种存储介质，所述存储介质上存储有计算机程序，所述计算机程序在运行时执行上述任一项所述的人脸检测及关键点定位方法。

根据本发明实施例的人脸检测及关键点定位方法、装置、系统和存储介质将人脸检测和人脸关键点定位相结合来执行，使其成为彼此的辅助，可以更快速地执行人脸检测及关键点定位，并且能够得到更好的人脸检测及关键点定位结果。

附图说明

通过结合附图对本发明实施例进行更详细的描述，本发明的上述以及其它目的、特征和优势将变得更加明显。附图用来提供对本发明实施例的进一步理解，并且构成说明书的一部分，与本发明实施例一起用于解释本发明，并不构成对本发明的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1示出用于实现根据本发明实施例的人脸检测及关键点定位方法、装置、系统和存储介质的示例电子设备的示意性框图；

图2示出根据本发明实施例的人脸检测及关键点定位方法的示意性流程图；

图3示出根据本发明实施例的人脸检测及多次关键点定位的示意性流程图；

图4示出根据本发明实施例的人脸检测及关键点定位方法采用的用于执行人脸框定位的神经网络的示例性结构示意图；

图5示出根据本发明实施例的人脸检测及关键点定位装置的示意性框图；以及

图6示出根据本发明实施例的人脸检测及关键点定位系统的示意性框图。

具体实施方式

为了使得本发明的目的、技术方案和优点更为明显，下面将参照附图详细描述根据本发明的示例实施例。显然，所描述的实施例仅仅是本发明的一部分实施例，而不是本发明的全部实施例，应理解，本发明不受这里描述的示例实施例的限制。基于本发明中描述的本发明实施例，本领域技术人员在没有付出创造性劳动的情况下所得到的所有其它实施例都应落入本发明的保护范围之内。

首先，参照图1来描述用于实现本发明实施例的人脸检测及关键点定位方法、装置、系统和存储介质的示例电子设备100。

如图1所示，电子设备100包括一个或多个处理器102、一个或多个存储装置104、输入装置106、输出装置108以及图像采集装置110，这些组件通过总线系统112和/或其它形式的连接机构(未示出)互连。应当注意，图1所示的电子设备100的组件和结构只是示例性的，而非限制性的，根据需要，所述电子设备也可以具有其他组件和结构。

所述处理器102可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元，并且可以控制所述电子设备100中的其它组件以执行期望的功能。

所述存储装置104可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器102可以运行所述程序指令，以实现下文所述的本发明实施例中(由处理器实现)的客户端功能以及/或者其它期望的功能。在所述计算机可读存储介质中还可以存储各种应用程序和各种数据，例如所述应用程序使用和/或产生的各种数据等。

所述输入装置106可以是用户用来输入指令的装置，并且可以包括键盘、鼠标、麦克风和触摸屏等中的一个或多个。

所述输出装置108可以向外部(例如用户)输出各种信息(例如图像或声音)，并且可以包括显示器、扬声器等中的一个或多个。

所述图像采集装置110可以采集用户期望的图像(例如照片、视频等)，并且将所采集的图像存储在所述存储装置104中以供其它组件使用。图像采集装置110可以是摄像头。应当理解，图像采集装置110仅是示例，电子设备100可以不包括图像采集装置110。在这种情况下，可以利用具有图像采集能力的部件采集待检测图像，并将采集的待检测图像发送给电子设备100。

示例性地，用于实现根据本发明实施例的人脸检测及关键点定位方法和装置的示例电子设备可以被实现为诸如智能手机、平板电脑等等移动终端。

下面，将参考图2描述根据本发明实施例的人脸检测及关键点定位方法200。如图2所示，人脸检测及关键点定位方法200可以包括如下步骤：

在步骤S210，导入待检测图像。

在一个示例中，待检测图像可以为人脸图像或包括人脸的图像。在一个示例中，待检测图像可以为图像采集装置实时采集的原始图像或者对原始图像经过图像预处理之后获得的图像。在其他示例中，所接收的待检测图像也可以为来自任何源的图像。此处，所接收的待检测图像可以为静态的单帧图像数据，也可以为动态的多帧视频数据。

在步骤S220，对所述待检测图像进行人脸检测和多次人脸关键点定位，每次人脸关键点定位的结果用于更新人脸检测结果，且更新后的带有人脸关键点定位的人脸检测结果作为下一次人脸关键点定位的基础。

在本发明的实施例中，将人脸检测和人脸关键点定位相结合来执行，这是因为，本发明的设计者发现，人脸检测的特征对于人脸关键点的估计非常有价值，同时，准确的关键点估计对于人脸检测也是非常有帮助的。因此，在本发明的实施例中，将人脸检测和人脸关键点定位相结合来执行，使其彼此辅助，可以得到更好的人脸检测及关键点定位结果。

具体地，可以首先对步骤S210中导入的待检测图像进行初步的人脸检测，在此基础上由粗到精地实施人脸关键点定位。也就是说，可以采用定位精度递增的多个神经网络实施多次精确程度不同的人脸关键点定位，每次人脸关键点定位后的结果可以用于更新前次的人脸检测结果，更新后的带有人脸关键点定位的人脸检测结果作为下一次人脸关键点定位的基础。如此循环，直到执行最后一次人脸关键点定位(例如直到执行到满足要求的精确的人脸关键点定位)。可以结合图3来进一步详细理解步骤S220的操作。

图3示出了根据本发明实施例的人脸检测及多次人脸关键点定位的过程300的示意性流程图。如图3所示，过程300(即步骤S220)可以进一步包括如下步骤：

在步骤S310，对待检测图像进行人脸框定位，并输出第一人脸框定位结果。

该步骤即为前面所述的对待检测图像实施的初步人脸检测。在一个示例中，可以采用第一神经网络来实施步骤S310的人脸框定位。此处，术语“第一神经网络”仅为了与后续将描述的“第二神经网络”、“第三神经网络”以及“第四神经网络”相区分而这样定义，而非限制性意义；同样地，后续将描述的“第二神经网络”、“第三神经网络”以及“第四神经网络”也是如此。示例性地，第一神经网络可以采用图片数据库ImageNet上面训练过的基础模型(例如VGG16，残差网络等)，在此基础上，剔除该基础模型最后的全连接层(fc)，加上专门用于人脸检测的后端即可。示例性地，该人脸检测的后端的设计可以整合网络浅层的空间分辨率(空间上面比较精细)以及网络深层的语义信息。可以结合图4理解根据本发明实施例的方法采用的用于执行人脸框定位的第一神经网络的结构。

如图4所示，第一神经网络可以包括多个卷积层，为了简洁，在图中示出了5个卷积层conv1、conv2、conv3、conv4和conv5，待检测图像的图片数据输入到该神经网络后经过这些卷积层后输出不同的特征图(feature map)。在本发明的实施例中，作为一个示例，可以将后面三个卷积层(即conv3、conv4和conv5)输出的特征图拼接起来。因为空间上面分辨率有差异，所以对于conv3输出的特征图进行下采样操作，对于conv5输出的特征图进行上采样操作，然后把多层的特征图拼接起来，如图4所示的。最后，第一神经网络将在拼接起来的特征图的每一个空间点的位置输出一个框以及一个分数(该分数用于判断该框处是否是人脸，也可称为置信度值)，然后对所有的框进行非极大值抑制(NMS)操作，最终保留超过阈值的那些框作为上述的初步人脸检测结果，即步骤S310中所述的第一人脸框定位结果。

此处，术语“第一人脸框定位结果”仅为了与后续将描述的“第二人脸框定位结果”、“第三人脸框定位结果”以及“第四人脸框定位结果”相区分而这样定义，而非限制性意义；同样地，后续将描述的“第二人脸框定位结果”、“第三人脸框定位结果”以及“第四人脸框定位结果”也是如此。类似地，术语“第一人脸框”、“第二人脸框”以及“第三人脸框”分别表示“第一人脸框定位结果”、“第二人脸框定位结果”以及“第三人脸框定位结果”中包括的人脸框，仅为了区分彼此而定义，而非限制性意义。

在一个实施例中，在第一神经网络的训练阶段，对于每个输出的框，会将其与地面真值(ground-truth)中的人脸框进行匹配，然后计算损失(Loss)。

在一个实施例中，用于执行人脸框定位的上述第一神经网络为轻量级神经网络，即该网络参数较少，所需训练数据少。由于后续的步骤中将逐步精细化，因此初步人脸检测时采用轻量级神经网络预测得到粗略的结果即可，能够加快整体的处理速度。

现在返回继续参考图3描述过程300后续的步骤。

在步骤S320，对所述第一人脸框定位结果中的第一人脸框进行人脸粗略内部关键点定位，并基于所述人脸粗略内部关键点定位的结果过滤所述第一人脸框以产生带有人脸内部关键点定位的第二人脸框定位结果。

对于步骤S310中得到的第一人脸框定位结果，可对其进行初步的内部若干关键点的粗略定位。在本文中，术语“粗略”定位是与后面将描述的“精细”定位相对的概念。相对于“精细”定位来说，“粗略”定位将定位的关键点的数目要更少或少得多。换言之，可以将“粗略”定位理解为比“精细”定位所定位的关键点少的定位。在一个实施例中，内部若干关键点例如可以包括左眼中心、右眼中心、鼻尖等内部点。

示例性地，可以采用任何合适的卷积神经网络(例如称为第二神经网络，其与前述的第一神经网络连接)来实施该步骤描述的人脸粗略内部关键点定位。例如，可以进行多次的卷积/池化，然后使用步骤S310的结果将多层特征图拼接在一起，然后输出k*2维的向量，以及一个分数值。其中k是自然数，指代该步骤需要输出的关键点的个数。分数值代表这个位置是人脸的概率值。对于分数值小于阈值的框，将其过滤掉；对于分数值大于阈值的框，会保留下来作为前面所述的带有人脸内部关键点定位的第二人脸框定位结果以用于进行下一步的操作。

在步骤S330，对所述第二人脸框定位结果中的第二人脸框进行人脸粗略关键点定位，并基于所述人脸粗略关键点定位的结果过滤所述第二人脸框以产生带有人脸粗略关键点定位的第三人脸框定位结果。

对于步骤S320处理后产生的第二人脸框定位结果，可以采用另一个神经网络(例如称为第三神经网络，其与前述的第二神经网络连接)进行人脸粗略关键点定位。与前述的人脸粗略内部关键点定位略有不同，此处的人脸粗略关键点定位是包括之前的内部点以及一些其他内部及轮廓点。由于步骤S320中的第二人脸框定位结果已经带有初步的内部轮廓点，因此，基于这些点以及一个平均脸，可对当前图片进行affline操作，以减轻人脸变换导致的影响，然后采用第三神经网络进行处理。第三神经网络与第二神经网络的处理类似，只是其输出的是c*2+1的维度的向量，其中c是指期望预测的所有关键点的个数。另外还预测第二人脸框定位结果中的人脸框是人脸的置信度值(即分数值)。与步骤S320类似的，对于分数值小于某阈值的框，将其过滤掉；对于分数值大于阈值的框，会保留下来作为前面所述的带有人脸粗略关键点定位的第三人脸框定位结果以用于进行下一步的操作。

在步骤S340，对所述第三人脸框定位结果中的第三人脸框进行人脸精细关键点定位，并基于所述人脸精细关键点定位的结果过滤所述第三人脸框以产生带有人脸精细关键点定位的第四人脸框定位结果，以作为所述待检测图像的最终人脸检测及关键点定位结果。

步骤S340与步骤S330类似，区别在于步骤S340进行相对于步骤S330来说更精细的人脸关键点定位。对于步骤S330处理后得到的第三人脸框定位结果，可以采用另一个神经网络(例如称为第四神经网络，其与前述的第三神经网络连接)进行人脸精细关键点定位。

示例性地，可以基于第三人脸框定位结果中包括的第三人脸框中的关键点进行affline变化，将图片中的人脸转正，这样更方便关键点定位。然后输入到第四神经网络(可以类似于图3的神经网络)，用于更精细的关键点定位，第四神经网络的输出跟步骤S330的输出类似。最终第四神经网络输出的带有人脸精细关键点定位的第四人脸框定位结果即可作为待检测图像的最终人脸检测及关键点定位结果。示例性地，第四人脸框可以为包住所有精细关键点的最小的框。

以上结合图3示例性地描述了步骤S210所包括的人脸检测和多次人脸关键点定位的示例性过程300。该过程基于多个级联的神经网络分别依次执行上述的人脸框定位、人脸粗略内部关键点定位、人脸粗略关键点定位以及人脸精细关键点定位，由粗到精地输出人脸检测和关键点定位结果，使得人脸检测和人脸关键点定位充分结合、彼此辅助，从而能够得到更好的人脸检测和关键点定位结果。示例性地，所述多个级联的神经网络是经过端到端的联合训练而成，从而从整体上优化人脸检测和关键点定位。

值得注意的是，上述过程300仅是示例性的，其可以不包括上述的全部步骤而得以实现，例如可以省略步骤S320；另外，其也可以包括更多的步骤，例如可以包括更多次数的人脸关键点定位。此外，在其精神范围内的任何改变和替换也是允许的，应落在本发明的保护范围内。

现在返回参考图2继续描述根据本发明实施例的人脸检测及关键点定位方法200的后续步骤。

在步骤S230，将基于最后一次人脸关键点定位结果更新后的带有人脸关键点定位的人脸检测结果输出以作为最终的人脸检测及关键点定位结果。

基于上面的描述，根据本发明实施例的人脸检测及关键点定位方法将人脸检测和人脸关键点定位相结合来执行，使其成为彼此的辅助，可以更快速地执行人脸检测及关键点定位，并且能够得到更好的人脸检测及关键点定位结果。

以上示例性地描述了根据本发明实施例的人脸检测及关键点定位方法。示例性地，根据本发明实施例的人脸检测及关键点定位方法可以在具有存储器和处理器的设备、装置或者系统中实现。

此外，根据本发明实施例的人脸检测及关键点定位方法处理速度快，可以方便地部署到智能手机、平板电脑、个人计算机等移动设备上。替代地，根据本发明实施例的人脸检测及关键点定位方法还可以部署在服务器端(或云端)。替代地，根据本发明实施例的人脸检测及关键点定位方法还可以分布地部署在服务器端(或云端)和个人终端处。

下面结合图5描述本发明另一方面提供的人脸检测及关键点定位装置。图5示出了根据本发明实施例的人脸检测及关键点定位装置500的示意性框图。

如图5所示，根据本发明实施例的人脸检测及关键点定位装置400包括导入模块510、检测模块520以及输出模块530。所述各个模块可分别执行上文中结合图2描述的人脸检测及关键点定位方法的各个步骤/功能。以下仅对人脸检测及关键点定位装置500的各模块的主要功能进行描述，而省略以上已经描述过的细节内容。

导入模块510用于导入待检测图像。检测模块520用于对所述待检测图像进行人脸检测和多次人脸关键点定位，每次人脸关键点定位的结果用于更新人脸检测结果，且更新后的带有人脸关键点定位的人脸检测结果作为下一次人脸关键点定位的基础。输出模块530用于将基于最后一次人脸关键点定位结果更新后的带有人脸关键点定位的人脸检测结果输出以作为最终的人脸检测及关键点定位结果。导入模块510、检测模块520以及输出模块530均可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。

在一个示例中，待检测图像可以为人脸图像或包括人脸的图像。在一个示例中，待检测图像可以为图像采集装置实时采集的原始图像或者对原始图像经过图像预处理之后获得的图像。在其他示例中，所接收的待检测图像也可以为来自任何源的图像。此处，所接收的待检测图像可以为静态的单帧图像数据，也可以为动态的多帧视频数据。

在一个实施例中，检测模块520可以首先对导入模块510导入的待检测图像进行初步的人脸检测，在此基础上由粗到精地实施人脸关键点定位。也就是说，检测模块520可以采用定位精度递增的多个神经网络实施多次精确程度不同的人脸关键点定位，每次人脸关键点定位后的结果可以用于更新前次的人脸检测结果，更新后的带有人脸关键点定位的人脸检测结果作为下一次人脸关键点定位的基础。如此循环，直到执行最后一次人脸关键点定位(例如直到执行到满足要求的精确的人脸关键点定位)。

在一个实施例中，检测模块520对待检测图像进行人脸检测和多次人脸关键点定位可以进一步包括：对所述待检测图像进行人脸框定位，并输出第一人脸框定位结果；对所述第一人脸框定位结果中的第一人脸框进行人脸粗略内部关键点定位，并基于所述人脸粗略内部关键点定位的结果过滤所述第一人脸框以产生带有人脸内部关键点定位的第二人脸框定位结果；对所述第二人脸框定位结果中的第二人脸框进行人脸粗略关键点定位，并基于所述人脸粗略关键点定位的结果过滤所述第二人脸框以产生带有人脸粗略关键点定位的第三人脸框定位结果；以及对所述第三人脸框定位结果中的第三人脸框进行人脸精细关键点定位，并基于所述人脸精细关键点定位的结果过滤所述第三人脸框以产生带有人脸精细关键点定位的第四人脸框定位结果，以作为所述待检测图像的最终人脸检测及关键点定位结果。在一个实施例中，所述每次人脸关键点定位的结果均对前次的人脸检测结果产生新的置信度值，所述更新人脸检测结果包括过滤掉新的置信度值低于预定阈值的人脸框。可以结合图3参照前文关于图3的描述来详细理解检测模块520的上述操作，为了简洁，此处不再赘述。

在一个实施例中，检测模块520可以基于多个级联的神经网络分别依次执行所述人脸框定位、所述人脸粗略内部关键点定位、所述人脸粗略关键点定位以及所述人脸精细关键点定位。示例性地，所述多个级联的神经网络是经过端到端的联合训练而成。示例性地，用于执行所述人脸框定位的神经网络为轻量级神经网络。可以结合图4参照前文关于图4的描述理解执行所述人脸框定位的神经网络的示例性结构，为了简洁，此处不再赘述。

基于上面的描述，根据本发明实施例的人脸检测及关键点定位装置将人脸检测和人脸关键点定位相结合来执行，使其成为彼此的辅助，可以更快速地执行人脸检测及关键点定位，并且能够得到更好的人脸检测及关键点定位结果。

图6示出了根据本发明实施例的人脸检测及关键点定位系统600的示意性框图。人脸检测及关键点定位系统600包括存储装置610以及处理器620。

其中，存储装置610存储用于实现根据本发明实施例的人脸检测及关键点定位方法中的相应步骤的程序代码。处理器620用于运行存储装置610中存储的程序代码，以执行根据本发明实施例的人脸检测及关键点定位方法的相应步骤，并且用于实现根据本发明实施例的人脸检测及关键点定位装置中的相应模块。此外，人脸检测及关键点定位系统600还可以包括图像采集装置(未在图6中示出)，其可以用于采集待检测图像。当然，图像采集装置不是必需的，可直接接收来自其他源的待检测图像的输入。

在一个实施例中，在所述程序代码被处理器620运行时使得人脸检测及关键点定位系统600执行以下步骤：导入待检测图像；对所述待检测图像进行人脸检测和多次人脸关键点定位，每次人脸关键点定位的结果用于更新人脸检测结果，且更新后的带有人脸关键点定位的人脸检测结果作为下一次人脸关键点定位的基础；以及将基于最后一次人脸关键点定位结果更新后的带有人脸关键点定位的人脸检测结果输出以作为最终的人脸检测及关键点定位结果。

在一个实施例中，在所述程序代码被处理器620运行时使得人脸检测及关键点定位系统600执行的所述多次人脸关键点定位中的每次人脸关键点定位分别采用具有不同定位精度的神经网络，且从前到后的神经网络的定位精度递增。

在一个实施例中，在所述程序代码被处理器620运行时使得人脸检测及关键点定位系统600执行的所述每次人脸关键点定位的结果用于更新人脸检测结果包括：所述每次人脸关键点定位的结果均对前次的人脸检测结果产生新的置信度值，在所述程序代码被处理器620运行时使得人脸检测及关键点定位系统600执行的所述更新人脸检测结果包括过滤掉新的置信度值低于预定阈值的人脸框。

在一个实施例中，在所述程序代码被处理器620运行时使得人脸检测及关键点定位系统600进一步执行如下步骤：对所述待检测图像进行人脸框定位，并输出第一人脸框定位结果；对所述第一人脸框定位结果中的第一人脸框进行人脸粗略内部关键点定位，并基于所述人脸粗略内部关键点定位的结果过滤所述第一人脸框以产生带有人脸内部关键点定位的第二人脸框定位结果；对所述第二人脸框定位结果中的第二人脸框进行人脸粗略关键点定位，并基于所述人脸粗略关键点定位的结果过滤所述第二人脸框以产生带有人脸粗略关键点定位的第三人脸框定位结果；以及对所述第三人脸框定位结果中的第三人脸框进行人脸精细关键点定位，并基于所述人脸精细关键点定位的结果过滤所述第三人脸框以产生带有人脸精细关键点定位的第四人脸框定位结果，以作为所述待检测图像的最终人脸检测及关键点定位结果。

在一个实施例中，在所述程序代码被处理器620运行时使得人脸检测及关键点定位系统600执行的所述人脸框定位、所述人脸粗略内部关键点定位、所述人脸粗略关键点定位以及所述人脸精细关键点定位是基于多个级联的神经网络分别执行的。

在一个实施例中，所述多个级联的神经网络是经过端到端的联合训练而成。

在一个实施例中，用于执行所述人脸框定位的神经网络为轻量级神经网络。

此外，根据本发明实施例，还提供了一种存储介质，在所述存储介质上存储了程序指令，在所述程序指令被计算机或处理器运行时用于执行本发明实施例的人脸检测及关键点定位方法的相应步骤，并且用于实现根据本发明实施例的人脸检测及关键点定位装置中的相应模块。所述存储介质例如可以包括智能电话的存储卡、平板电脑的存储部件、个人计算机的硬盘、只读存储器(ROM)、可擦除可编程只读存储器(EPROM)、便携式紧致盘只读存储器(CD-ROM)、USB存储器、或者上述存储介质的任意组合。所述计算机可读存储介质可以是一个或多个计算机可读存储介质的任意组合，例如一个计算机可读存储介质包含导入待检测图像的计算机可读的程序代码，另一个计算机可读存储介质包含对所述待检测图像进行人脸检测和多次人脸关键点定位的计算机可读的程序代码，又一个计算机可读存储介质包含将基于最后一次人脸关键点定位结果更新后的带有人脸关键点定位的人脸检测结果输出的计算机可读的程序代码。

在一个实施例中，所述计算机程序指令在被计算机运行时可以实现根据本发明实施例的人脸检测及关键点定位装置的各个功能模块，并且/或者可以执行根据本发明实施例的人脸检测及关键点定位方法。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤：导入待检测图像；对所述待检测图像进行人脸检测和多次人脸关键点定位，每次人脸关键点定位的结果用于更新人脸检测结果，且更新后的带有人脸关键点定位的人脸检测结果作为下一次人脸关键点定位的基础；以及将基于最后一次人脸关键点定位结果更新后的带有人脸关键点定位的人脸检测结果输出以作为最终的人脸检测及关键点定位结果。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行的所述多次人脸关键点定位中的每次人脸关键点定位分别采用具有不同定位精度的神经网络，且从前到后的神经网络的定位精度递增。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行的所述每次人脸关键点定位的结果用于更新人脸检测结果包括：所述每次人脸关键点定位的结果均对前次的人脸检测结果产生新的置信度值，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行的所述更新人脸检测结果包括过滤掉新的置信度值低于预定阈值的人脸框。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器进一步执行如下步骤：对所述待检测图像进行人脸框定位，并输出第一人脸框定位结果；对所述第一人脸框定位结果中的第一人脸框进行人脸粗略内部关键点定位，并基于所述人脸粗略内部关键点定位的结果过滤所述第一人脸框以产生带有人脸内部关键点定位的第二人脸框定位结果；对所述第二人脸框定位结果中的第二人脸框进行人脸粗略关键点定位，并基于所述人脸粗略关键点定位的结果过滤所述第二人脸框以产生带有人脸粗略关键点定位的第三人脸框定位结果；以及对所述第三人脸框定位结果中的第三人脸框进行人脸精细关键点定位，并基于所述人脸精细关键点定位的结果过滤所述第三人脸框以产生带有人脸精细关键点定位的第四人脸框定位结果，以作为所述待检测图像的最终人脸检测及关键点定位结果。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行的所述人脸框定位、所述人脸粗略内部关键点定位、所述人脸粗略关键点定位以及所述人脸精细关键点定位是基于多个级联的神经网络分别执行的。

在一个实施例中，所述多个级联的神经网络是经过端到端的联合训练而成。

在一个实施例中，用于执行所述人脸框定位的神经网络为轻量级神经网络。

根据本发明实施例的人脸检测及关键点定位装置中的各模块可以通过根据本发明实施例的人脸检测及关键点定位的电子设备的处理器运行在存储器中存储的计算机程序指令来实现，或者可以在根据本发明实施例的计算机程序产品的计算机可读存储介质中存储的计算机指令被计算机运行时实现。

根据本发明实施例的人脸检测及关键点定位方法、装置、系统以及存储介质将人脸检测和人脸关键点定位相结合来执行，使其成为彼此的辅助，可以更快速地执行人脸检测及关键点定位，并且能够得到更好的人脸检测及关键点定位结果。

尽管这里已经参考附图描述了示例实施例，应理解上述示例实施例仅仅是示例性的，并且不意图将本发明的范围限制于此。本领域普通技术人员可以在其中进行各种改变和修改，而不偏离本发明的范围和精神。所有这些改变和修改意在被包括在所附权利要求所要求的本发明的范围之内。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

在本申请所提供的几个实施例中，应该理解到，所揭露的设备和方法，可以通过其它的方式实现。例如，以上所描述的设备实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个设备，或一些特征可以忽略，或不执行。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本发明并帮助理解各个发明方面中的一个或多个，在对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该本发明的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如相应的权利要求书所反映的那样，其发明点在于可以用少于某个公开的单个实施例的所有特征的特征来解决相应的技术问题。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域的技术人员可以理解，除了特征之间相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的一些模块的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

以上所述，仅为本发明的具体实施方式或对具体实施方式的说明，本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。本发明的保护范围应以权利要求的保护范围为准。

Claims (10)

1.一种人脸检测及关键点定位方法，其特征在于，所述方法包括：

导入待检测图像；

对所述待检测图像进行人脸检测和多次人脸关键点定位，每次人脸关键点定位的结果用于更新人脸检测结果，且更新后的带有人脸关键点定位的人脸检测结果作为下一次人脸关键点定位的基础；以及

将基于最后一次人脸关键点定位结果更新后的带有人脸关键点定位的人脸检测结果输出以作为最终的人脸检测及关键点定位结果。

2.根据权利要求1所述的方法，其特征在于，所述多次人脸关键点定位中的每次人脸关键点定位分别采用具有不同定位精度的神经网络，且从前到后的神经网络的定位精度递增。

3.根据权利要求1所述的方法，其特征在于，所述每次人脸关键点定位的结果用于更新人脸检测结果包括：

所述每次人脸关键点定位的结果均对前次的人脸检测结果产生新的置信度值，所述更新人脸检测结果包括过滤掉新的置信度值低于预定阈值的人脸框。

4.根据权利要求1-3中的任一项所述的方法，其特征在于，所述的方法进一步包括：

对所述待检测图像进行人脸框定位，并输出第一人脸框定位结果；

对所述第一人脸框定位结果中的第一人脸框进行人脸粗略内部关键点定位，并基于所述人脸粗略内部关键点定位的结果过滤所述第一人脸框以产生带有人脸内部关键点定位的第二人脸框定位结果；

对所述第二人脸框定位结果中的第二人脸框进行人脸粗略关键点定位，并基于所述人脸粗略关键点定位的结果过滤所述第二人脸框以产生带有人脸粗略关键点定位的第三人脸框定位结果；以及

对所述第三人脸框定位结果中的第三人脸框进行人脸精细关键点定位，并基于所述人脸精细关键点定位的结果过滤所述第三人脸框以产生带有人脸精细关键点定位的第四人脸框定位结果，以作为所述待检测图像的最终人脸检测及关键点定位结果。

5.根据权利要求4所述的方法，其特征在于，所述人脸框定位、所述人脸粗略内部关键点定位、所述人脸粗略关键点定位以及所述人脸精细关键点定位是基于多个级联的神经网络分别执行的。

6.根据权利要求5所述的方法，其特征在于，所述多个级联的神经网络是经过端到端的联合训练而成。

7.根据权利要求5所述的方法，其特征在于，用于执行所述人脸框定位的神经网络为轻量级神经网络。

8.一种用于实现权利要求1-7中的任一项所述的人脸检测及关键点定位方法的人脸检测及关键点定位装置，其特征在于，所述装置包括：

导入模块，用于导入待检测图像；

检测模块，用于对所述待检测图像进行人脸检测和多次人脸关键点定位，每次人脸关键点定位的结果用于更新人脸检测结果，且更新后的带有人脸关键点定位的人脸检测结果作为下一次人脸关键点定位的基础；以及

输出模块，用于将基于最后一次人脸关键点定位结果更新后的带有人脸关键点定位的人脸检测结果输出以作为最终的人脸检测及关键点定位结果。

9.一种人脸检测及关键点定位系统，其特征在于，所述人脸检测及关键点定位系统包括存储装置和处理器，所述存储装置上存储有由所述处理器运行的计算机程序，所述计算机程序在被所述处理器运行时执行如权利要求1-7中的任一项所述的人脸检测及关键点定位方法。

10.一种存储介质，其特征在于，所述存储介质上存储有计算机程序，所述计算机程序在运行时执行如权利要求1-7中的任一项所述的人脸检测及关键点定位方法。