CN109241921A - 用于检测人脸关键点的方法和装置 - Google Patents

Abstract

本申请实施例公开了用于检测人脸关键点的方法和装置。该方法的一具体实施方式包括：基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，确定该当前帧中存在人脸对象的第一候选区域；对该当前帧进行人脸检测，确定该当前帧中的人脸对象区域；从所确定的人脸对象区域中，确定出与该第一候选区域的交并比小于第一预设数值的人脸对象区域，作为第二候选区域；对该第一候选区域与该第二候选区域进行人脸关键点检测，得到当前帧中的人脸对象的人脸关键点检测结果。该实施方式实现了对视频中的人脸对象的人脸关键点的跟踪，丰富了人脸关键点检测的方式。

Description

用于检测人脸关键点的方法和装置

技术领域

本申请实施例涉及计算机技术领域，具体涉及用于检测人脸关键点的方法和装置。

背景技术

人脸关键点是对于图像中人脸五官与轮廓定位的标注，主要用来对人脸的关键位置，如脸廓、眉毛、眼睛、嘴唇进行定位。人脸关键点检测是人脸识别过程中重要的一步，同时这项技术在现实中也有极其广泛的应用空间：如表情识别、人脸动画合成等。尤其是最近几年被大家所熟知熟用的直播、美颜、特效相机等互联网应用产品的爆火也得益于人脸关键点相关技术水平的提升。

在对视频中人脸对象进行人脸关键点检测时，相关的方式通常是逐一地对视频中的各帧进行独立的人脸关键点检测，不考虑其他帧的人脸对象。

发明内容

本申请实施例提出了用于检测人脸关键点的方法和装置。

第一方面，本申请实施例提供了一种用于检测人脸关键点的方法，该方法包括：基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，确定当前帧中存在人脸对象的第一候选区域；对当前帧进行人脸检测，确定当前帧中的人脸对象区域；从所确定的人脸对象区域中，确定出与第一候选区域的交并比小于第一预设数值的人脸对象区域，作为第二候选区域；对第一候选区域与第二候选区域进行人脸关键点检测，得到当前帧中的人脸对象的人脸关键点检测结果。

在一些实施例中，基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，确定当前帧中存在人脸对象的第一候选区域，包括：基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，确定人脸对象的人脸关键点的最小外接矩形；将最小外接矩形放大，确定放大后的矩形区域的位置信息；将当前帧中的、所确定的位置信息所指示的区域确定为当前帧中存在人脸对象的第一候选区域。

在一些实施例中，将最小外接矩形放大，包括：以最小外接矩形的中心为中心，将最小外接矩形的长和宽分别放大至预设倍数。

在一些实施例中，当当前帧的上一帧为目标视频的首帧时，首帧中的人脸对象的人脸关键点检测结果通过如下步骤确定：将首帧输入至预先训练的人脸检测模型，确定首帧中的人脸对象区域，其中，人脸检测模型用于检测图像中的人脸对象区域；将首帧中的人脸对象区域输入至预先训练的人脸关键点检测模型，得到首帧中的人脸对象的人脸关键点检测结果，其中，人脸关键点检测模型用于检测图像中的人脸对象的人脸关键点的位置。

在一些实施例中，在对第一候选区域与第二候选区域进行人脸关键点检测之前，该方法还包括：确定第一候选区域与第二候选区域中每两个候选区域所构成的候选区域对的交并比；对于交并比大于第二预设数值的候选区域对，删除该候选区域对中的任一候选区域。

在一些实施例中，上一帧中的每一个人脸对象的人脸关键点检测结果带有用于指示该人脸对象的标识；以及该方法还包括：对于上一帧中的人脸对象，将该人脸对象的人脸关键点所带有的标识作为目标身份标识，将当前帧中的、基于该人脸对象的人脸关键点检测结果所确定的第一候选区域作为目标候选区域，将目标候选区域中的人脸对象的人脸关键点检测结果添加目标标识；对于当前帧中的每一个第二候选区域，对该第二候选区域中的人脸对象添加新的标识。

第二方面，本申请实施例提供了一种用于检测人脸关键点的装置，该装置包括：第一确定单元，被配置成基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，确定当前帧中存在人脸对象的第一候选区域；第二确定单元，被配置成对当前帧进行人脸检测，确定当前帧中的人脸对象区域；第三确定单元，被配置成从所确定的人脸对象区域中，确定出与第一候选区域的交并比小于第一预设数值的人脸对象区域，作为第二候选区域；检测单元，被配置成对第一候选区域与第二候选区域进行人脸关键点检测，得到当前帧中的人脸对象的人脸关键点检测结果。

在一些实施例中，第一确定单元，包括：第一确定模块，被配置成基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，确定人脸对象的人脸关键点的最小外接矩形；第二确定模块，被配置成将最小外接矩形放大，确定放大后的矩形区域的位置信息；第三确定模块，被配置成将当前帧中的、所确定的位置信息所指示的区域确定为当前帧中存在人脸对象的第一候选区域。

在一些实施例中，第二确定模块进一步被配置成：以最小外接矩形的中心为中心，将最小外接矩形的长和宽分别放大至预设倍数。

在一些实施例中，当当前帧的上一帧为目标视频的首帧时，首帧中的人脸对象的人脸关键点检测结果通过如下步骤确定：将首帧输入至预先训练的人脸检测模型，确定首帧中的人脸对象区域，其中，人脸检测模型用于检测图像中的人脸对象区域；将首帧中的人脸对象区域输入至预先训练的人脸关键点检测模型，得到首帧中的人脸对象的人脸关键点检测结果，其中，人脸关键点检测模型用于检测图像中的人脸对象的人脸关键点的位置。

在一些实施例中，该装置还包括：第四确定单元，被配置成确定第一候选区域与第二候选区域中每两个候选区域所构成的候选区域对的交并比；删除单元，被配置成对于交并比大于第二预设数值的候选区域对，删除该候选区域对中的任一候选区域。

在一些实施例中，上一帧中的每一个人脸对象的人脸关键点检测结果带有用于指示该人脸对象的标识；以及该装置还包括：第一添加单元，被配置成对于上一帧中的人脸对象，将该人脸对象的人脸关键点所带有的标识作为目标标识，将当前帧中的、基于该人脸对象的人脸关键点检测结果所确定的第一候选区域作为目标候选区域，将目标候选区域中的人脸对象的人脸关键点检测结果添加目标标识；第二添加单元，被配置成对于当前帧中的每一个第二候选区域，对该第二候选区域中的人脸对象添加新的标识。

第三方面，本申请实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如上述第一方面中任一实施例的方法。

第四方面，本申请实施例提供了一种计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如上述第一方面中任一实施例的方法。

本申请实施例提供的用于检测人脸关键点的方法和装置，通过预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，可以确定出当前帧中存在人脸对象的第一候选区域。由此，可以确定出上一帧的人脸对象在当前帧中所在的区域。而后，可以对当前帧进行人脸检测，确定当前帧中的人脸对象区域，以便从所确定的人脸对象区域中，确定出与第一候选区域的交并比小于第一预设数值的人脸对象区域，作为第二候选区域。由此可以找到当前帧相对于上一帧新增的人脸对象。最后，对第一候选区域与第二候选区域进行人脸关键点检测，可以得到当前帧中的人脸对象的人脸关键点检测结果，从而得到当前帧中的各个人脸对象(包括上一帧中的人脸对象和新增加的人脸对象)的关键点检测结果。由此，可以基于上一帧的人脸关键点检测结果确定出当前帧的人脸对象所在的区域，进而进行人脸关键点的检测，实现了对视频中的人脸对象的人脸关键点的跟踪，丰富了人脸关键点检测的方式。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：

图1是本申请的一个实施例可以应用于其中的示例性系统架构图；

图2是根据本申请的用于检测人脸关键点的方法的一个实施例的流程图；

图3是根据本申请的用于检测人脸关键点的方法的一个应用场景的示意图；

图4是根据本申请的用于检测人脸关键点的方法的又一个实施例的流程图；

图5是根据本申请的用于检测人脸关键点的装置的一个实施例的结构示意图；

图6是适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。

具体实施方式

下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

图1示出了可以应用本申请的用于检测人脸关键点的方法或用于检测人脸关键点的装置的示例性系统架构100。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如语音交互类应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。

终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture Experts Group Audio Layer III，动态影像专家压缩标准音频层面3)、MP4(Moving Picture Experts Group Audio Layer IV，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。

当终端设备101、102、103为硬件时，其上还可以安装有图像采集设备。图像采集设备可以是各种能实现采集图像功能的设备，如摄像头、传感器等等。用户可以利用终端设备101、102、103上的图像采集设备，来采集视频。

终端设备101、102、103可以对其所播放的视频或用户所录制的视频中的帧进行人脸检测、人脸关键点检测等处理；也可以对人脸关键点检测结果进行分析、计算等处理，并存储处理结果(例如各帧的人脸关键点检测结果)。

服务器105可以是提供各种服务的服务器，例如用于对终端设备101、102、103上传的视频进行存储、管理或者分析的视频处理服务器。视频处理服务器可以存储有大量的视频，并可以向终端设备101、102、103发送视频。

需要说明的是，服务器105可以是硬件，也可以是软件。当服务器为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。

需要说明的是，本申请实施例所提供的用于检测人脸关键点的方法一般由终端设备101、102、103执行，相应地，用于检测人脸关键点的装置一般设置于终端设备101、102、103中。

需要指出的是，在终端设备101、102、103可以实现服务器105的相关功能的情况下，系统架构100中可以不设置服务器105。

还需要指出的是，服务器105也可以对其所存储的视频或者终端设备101、102、103所上传的视频进行人脸检测、人脸关键点检测、等处理，并将处理结果返回给终端设备101、102、103。此时，本申请实施例所提供的用于检测人脸关键点的方法也可以由服务器105执行，相应地，用于检测人脸关键点的装置也可以设置于服务器105中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

继续参考图2，示出了根据本申请的用于检测人脸关键点的方法的一个实施例的流程200。该用于检测人脸关键点的方法，包括以下步骤：

步骤201，基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，确定当前帧中存在人脸对象的第一候选区域。

在本实施例中，用于检测人脸关键点的方法的执行主体(例如图1所示的终端设备101、102、103)可以进行视频的录制或播放。其所播放的视频可以是预先存储在本地的视频；也可以是通过有线连接或者无线连接方式，从服务器(例如图1所示的服务器105)中获取的视频。此处，当进行视频的录制时，上述执行主体可以安装或连接有图像采集装置(例如摄像头)。需要指出的是，上述无线连接方式可以包括但不限于3G/4G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。

在本实施例中，上述执行主体可以首先获取预先确定的、对目标视频的当前帧的上一帧中的人脸对象进行人脸关键点检测后所得到的人脸关键点检测结果。其中，上述目标视频可以是当前正在播放的视频，也可以是用户正在录制的视频。此处不作限定。上述人脸关键检测结果可以包括各个人脸关键点的位置(可以用坐标表示)。实践中，人脸关键点可以是人脸中的关键的点(例如具有语义信息的点，或者影响脸部轮廓或者五官形状的点等)。人脸关键检测结果中可以包括鼻尖位置的坐标，嘴角位置的坐标等。

此处，目标视频的当前帧，可以是目标视频中待对其中的人脸对象进行人脸关键点检测的帧。作为示例，上述执行主体可以按照帧的时间戳的顺序，依次对目标视频中的每一帧中的人脸对象进行人脸关键点检测。当前待进行人脸关键点检测且存在上一帧的帧，即可以称为目标视频的当前帧。以如下两种场景为例：

在一种场景中，目标视频可以是上述执行主体正在播放的视频。在目标视频的播放过程中，上述执行主体可以逐一地对每一个待播放的帧进行人脸关键点检测，得到该帧中的人脸对象的人脸关键点检测结果，进而进行该帧的播放。在当前时刻即将进行人脸关键点检测的帧，可以为当前帧。

在另一种场景中，目标视频可以是上述执行主体正在录制的视频。在目标视频的录制过程中，上述执行主体可以逐一地对每一个已捕获的帧进行人脸关键点检测，得到该帧中的人脸对象的人脸关键点检测结果，进而对该帧进行显示。在当前时刻所获取的最新的且尚未得到人脸关键点检测结果的帧，可以为当前帧。

需要说明的是，在已知目标视频的首帧的人脸关键点检测结果的情况下，对于目标视频中的每一个非首帧(首帧以外的帧，例如依次为第二帧，第三帧，第四帧等)，上述执行主体均可以利用本实施例提供的方法确定该帧的人脸关键点的检测结果。

在本实施例中，在获取到当前帧的上一帧中的人脸对象的人脸关键点检测结果之后，上述执行主体可以基于该人脸关键点检测结果，利用各种方式确定出当前帧中存在人脸对象的第一候选区域。从而可以确定出上一帧的人脸对象在当前帧中所在的区域。可以理解的是，当上一帧中存在多个人脸对象时，上述执行主体可以分别对于每一个人脸对象，基于该人脸对象的人脸关键点检测结果，确定出当前帧中的一个第一候选区域。

在本实施例的一些可选的实现方式中，可以利用如下步骤确定出当前帧中存在人脸对象的第一候选区域：首先，可以读取该人脸关键点检测结果中各个人脸关键点的坐标。而后，可以将所读取的坐标中的横坐标最小值、横坐标最大值、纵坐标最小值、纵坐标最大值进行提取。之后，可以对所提取的四个值进行更新。例如，可以将横坐标最小值、纵坐标最小值分别减预设数值，并将横坐标最大值、纵坐标最大值分别加上述预设数值。从而，可以对横坐标最小值、横坐标最大值、纵坐标最小值、纵坐标最大值进行更新。然后，可以将更新后的横坐标最小值、更新后的纵坐标最小值构成第一坐标，将更新后的横坐标最大值、更新后的纵坐标最大值构成第二坐标。最后，可以将第一坐标和第二坐标分别作为矩形区域的对角点，将当前帧中以第一坐标和第二坐标作为对角点所构成的矩形区域确定为存在人脸对象的第一候选区域。

在本实施例的一些可选的实现方式中，可以利用如下步骤确定出当前帧中存在人脸对象的第一候选区域：

第一步，可以基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，确定上述人脸对象的最小外接矩形。此处，由于人脸关键点检测结果中包括人脸关键点的坐标，因此，上述执行主体可以直接利用人脸关键点的坐标，确定人脸关键点的最小外接矩形。此处，确定最小外接矩形的方法不作赘述。

第二步，可以将上述最小外接矩形放大，确定放大后的矩形区域的位置信息。此处，可以以预先设定某一点为中心，利用各种方式进行最小外接矩形的放大。作为示例，可以以上述最小外接矩形的中心为中心，将上述最小外接矩形的长和宽分别放大至预设倍数，以实现最小外接矩形的放大。作为又一示例，由于人脸关键点检测结果中可以包括鼻尖位置的坐标，因此，可以以鼻尖为中心，将将上述最小外接矩形的长和宽分别放大至预设倍数，以实现最小外接矩形的放大。作为再一示例，可以以上述最小外接矩形的中心为中心，将上述最小外接矩形的长与宽分别与预设数值相加，以实现最小外接矩形的放大。

需要说明的是，由于最小外接矩形的顶点坐标已知，因而可以直接进行坐标计算，确定出放大后的矩形区域的顶点坐标，即矩形区域的位置信息。

第三步，可以将上述当前帧中的、所确定的位置信息所指示的区域确定为上述当前帧中存在人脸对象的第一候选区域。

由此，利用关键点所确定出的第一候选区域，相对于直接使用上一帧的人脸检测框作为第一候选区域的方式，所确定出的第一候选区域更准确。并且，由于分别对每帧进行人脸检测所得到的人脸检测框存在抖动的情况，因此，基于人脸关键点检测结果确定第一候选区域的方式可以提高第一候选区域的稳定性。另外，根据上一帧中的关键点确定下一帧中存在人脸对象的第一候选区域，最终确定出第一候选区域的人脸关键点后，可以实现对视频中的人脸关键点的跟踪。

在本实施例的一些可选的实现方式中，当上述当前帧的上一帧为上述目标视频的首帧时，则上述首帧中的人脸对象的人脸关键点检测结果通过如下步骤确定：

第一步，可以将上述首帧输入至预先训练的人脸检测模型，确定上述首帧中的人脸对象区域。其中，上述人脸检测模型用于检测图像中的人脸对象区域。这里，人脸检测模型可以是利用机器学习方法，基于样本集(包含人脸图像和用于指示人脸对象区域的位置的标注)，对现有的卷积神经网络进行有监督训练得到的。其中，卷积神经网络可以使用各种现有的结构，例如DenseBox、VGGNet、ResNet、SegNet等。需要说明的是，上述机器学习方法、有监督训练方法是目前广泛研究和应用的公知技术，在此不再赘述。

第二步，可以将上述首帧中的人脸对象区域输入至预先训练的人脸关键点检测模型，得到上述首帧中的人脸对象的人脸关键点检测结果。其中，上述人脸关键点检测模型用于检测图像中的人脸对象的人脸关键点的位置。这里，人脸关键点检测模型可以是利用机器学习方法，基于样本集(包含人脸图像和用于指示人脸关键点的位置的标注)，对现有的卷积神经网络进行有监督训练得到的。其中，卷积神经网络可以使用各种现有的结构，例如DenseBox、VGGNet、ResNet、SegNet等。需要说明的是，上述机器学习方法、有监督训练方法是目前广泛研究和应用的公知技术，在此不再赘述。

需要说明的是，上述执行主体还可以利用其他各种现有的人脸关键点检测方式确定首帧的人脸关键点检测结果。此处不再赘述。

步骤202，对当前帧进行人脸检测，确定当前帧中的人脸对象区域。

在本实施例中，上述执行主体中可以利用各种人脸检测方式，对当前帧进行人脸检测，确定当前帧中的人脸对象区域。作为示例，上述执行主体中可以存储有预先训练的人脸检测模型。上述执行主体可以将当前帧输入至上述人脸检测模型，得到人脸检测结果(例如用于指示人脸对象区域的位置，即，人脸检测框的位置)。

步骤203，从所确定的人脸对象区域中，确定出与第一候选区域的交并比小于第一预设数值的人脸对象区域，作为第二候选区域。

在本实施例中，上述执行主体可以从步骤202所确定出的人脸对象区域中，确定出与第一候选区域的交并比(Intersection-over-Union，IOU)小于第一预设数值的人脸对象区域，作为第二候选区域。由此可以找到当前帧相对于上一帧新增的人脸对象。实践中，两个矩形的交并比可以是两个矩形的相交的区域的面积与这两个矩形的相并的区域的面积的比值。此处，两个矩形的相并的区域的面积等于两个矩形的面积之和减去这两个矩形的相交的区域的面积。此处，第一预设数值可以是技术人员预先基于大量的数据统计和试验所设定的数值。

可以理解的是，若步骤202所确定出的人脸对象区域中，存在多个与第一候选区域的交并比小于第一预设数值的人脸对象区域，则可以将每一个与第一候选区域的交并比小于第一预设数值的人脸对象区域确定为第二候选区域。若步骤202所确定出的人脸对象区域中，不存在与第一候选区域的交并比小于第一预设数值的人脸对象区域，则当前帧中不存在第二候选区域。

步骤204，对第一候选区域与第二候选区域进行人脸关键点检测，得到当前帧中的人脸对象的人脸关键点检测结果。

在本实施例中，上述执行主体可以利用各种人脸关键点检测方式，对第一候选区域与第二候选区域进行人脸关键点检测，得到当前帧中的人脸对象的人脸关键点检测结果。作为示例，上述执行主体中可以预先存储有人脸关键点检测模型。上述执行主体可以将当前帧中的各个第一候选区域和各个第二候选区域分别输入至上述人脸检测模型，得到所输入的候选区域中的人脸对象的人脸检测结果(例如人脸关键点的坐标)。

在本实施例的一些可选的实现方式中，在对第一候选区域与第二候选区域进行人脸关键点检测之前，上述执行主体还可以执行候选区域的去重操作：首先，可以确定上述第一候选区域与上述第二候选区域中每两个候选区域所构成的候选区域对的交并比。之后，对于交并比大于第二预设数值的候选区域对，删除该候选区域对中的任一候选区域。

在本实施例的一些可选的实现方式中，上述上一帧中的每一个人脸对象的人脸关键点检测结果带有用于指示该人脸对象的标识。标识可以是由各种字符(例如数字、字母等)构成的字符串。标识可以用于区别和确定人脸对象。不同的人脸对象对应不同的标识。上述执行主体还可以执行如下步骤：对于上述上一帧中的人脸对象，可以将该人脸对象的人脸关键点所带有的标识作为目标标识，将上述当前帧中的、基于该人脸对象的人脸关键点检测结果所确定的第一候选区域作为目标候选区域，将上述目标候选区域中的人脸对象的人脸关键点检测结果添加上述目标标识。对于上述当前帧中的每一个第二候选区域，可以对该第二候选区域中的人脸对象添加新的标识。由此，可以进一步有助于对视频中的人脸关键点的跟踪，为后续给不同的人脸对象添加不同的特效提供支持。

继续参见图3，图3是根据本实施例的用于检测人脸关键点的方法的应用场景的一个示意图。在图3的应用场景中，用户使用终端设备301的自拍模式录制目标视频。

终端设备在捕获到第一帧后，利用其所存储的人脸关键点检测模型对第一帧进行了人脸关键点检测，并获取了第一帧的人脸关键点检测结果302。

终端设备301在捕获到第二帧后，可以基于第一帧的人脸关键点检测结果302确定出第二帧中存在人脸对象的第一候选区域303。而后，可以对上述第二帧进行人脸检测，确定第二帧中的人脸对象区域。接着，可以从所确定的人脸对象区域中，确定出与上述第一候选区域的交并比小于第一预设数值的人脸对象区域，作为第二候选区域304。最后，可以对上述第一候选区域与上述第二候选区域进行人脸关键点检测，得到当前帧中的人脸对象的人脸关键点检测结果305。

终端设备301在捕获到第三帧后，可以参照捕获到第二帧后所执行的操作，来确定第三帧中的人脸对象的人脸关键点检测结果。

以此类推。最终，终端设备301可得到所录制的视频中的各帧中的人脸对象的人脸关键点检测结果。

本申请的上述实施例提供的方法，通过预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，可以确定出当前帧中存在人脸对象的第一候选区域。由此，可以确定出上一帧的人脸对象在当前帧中所在的区域。由于人脸关键点相对于直接对帧进行人脸检测所得到的人脸检测框，数据的粒度更小、更精确，因此，利用人脸关键点所确定出的第一候选区域，相较于直接对帧进行人脸检测所得到的人脸检测框更准确。此外，人脸检测框通常存在抖动的情况，利用人脸关键点所确定出的第一候选区域，提高了第一候选区域的稳定性。之后通过对上述当前帧进行人脸检测，确定上述当前帧中的人脸对象区域，可以从上述人脸对象区域中，确定出与上述第一候选区域的交并比小于第一预设数值的人脸对象区域，作为第二候选区域。由此可以找到当前帧相对于上一帧新增的人脸对象。通过对上述第一候选区域与上述第二候选区域进行人脸关键点检测，可以得到当前帧中的人脸对象的人脸关键点检测结果，从而得到当前帧中的各个人脸对象(包括上一帧中的人脸对象和新增加的人脸对象)的关键点检测结果。由此，可以基于上一帧的人脸关键点检测结果确定出当前帧的人脸对象所在的区域，进而进行人脸关键点的检测，实现了对视频中的人脸对象的人脸关键点的跟踪，丰富了人脸关键点检测的方式。

进一步参考图4，其示出了用于检测人脸关键点的方法的又一个实施例的流程400。该用于检测人脸关键点的方法的流程400，包括以下步骤：

步骤401，基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，确定人脸对象的人脸关键点的最小外接矩形。

在本实施例中，上述执行主体基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，确定上述人脸对象的最小外接矩形。此处，由于人脸关键点检测结果中包括人脸关键点的坐标，因此，上述执行主体可以直接利用人脸关键点的坐标，确定人脸关键点的最小外接矩形。

步骤402，以最小外接矩形的中心为中心，将最小外接矩形的长和宽分别放大至预设倍数，确定放大后的矩形区域的位置信息。

在本实施例中，上述执行主体可以以上述最小外接矩形的中心为中心，将上述最小外接矩形的长和宽分别放大至预设倍数，以实现最小外接矩形的放大。由于最小外接矩形的顶点坐标已知，因而可以直接进行坐标计算，确定出放大后的矩形区域的顶点坐标，即矩形区域的位置信息。

步骤403，将当前帧中的、所确定的位置信息所指示的区域确定为当前帧中存在人脸对象的第一候选区域。

在本实施例中，上述执行主体可以将当前帧中的、步骤402所确定的位置信息所指示的区域确定为当前帧中存在人脸对象的第一候选区域。

步骤404，对当前帧进行人脸检测，确定当前帧中的人脸对象区域。

在本实施例中，上述执行主体中可以利用各种人脸检测方式，对当前帧进行人脸检测，确定当前帧中的人脸对象区域。作为示例，上述执行主体中可以存储有预先训练的人脸检测模型。上述执行主体可以将当前帧输入至上述人脸检测模型，得到人脸检测结果(例如用于指示人脸对象区域的位置，即，人脸检测框的位置)。

步骤405，从所确定的人脸对象区域中，确定出与第一候选区域的交并比小于第一预设数值的人脸对象区域，作为第二候选区域。

在本实施例中，上述执行主体可以从步骤404所确定出的人脸对象区域中，确定出与第一候选区域的交并比小于第一预设数值的人脸对象区域，作为第二候选区域。由此可以找到当前帧相对于上一帧新增的人脸对象。

步骤406，确定第一候选区域与第二候选区域中每两个候选区域所构成的候选区域对的交并比。

在本实施例中，上述执行主体可以确定第一候选区域与第二候选区域中每两个候选区域所构成的候选区域对的交并比。

步骤407，对于交并比大于第二预设数值的候选区域对，删除该候选区域对中的任一候选区域。

在本实施例中，对于交并比大于第二预设数值的候选区域对，上述执行主体可以删除该候选区域对中的任一候选区域。由此，可以对候选区域进行去重，有助于进一步提高人脸关键点检测结果的准确性。

步骤408，对第一候选区域与第二候选区域进行人脸关键点检测，得到当前帧中的人脸对象的人脸关键点检测结果。

在本实施例中，上述执行主体可以利用各种人脸关键点检测方式，对去重后的第一候选区域与第二候选区域进行人脸关键点检测，得到当前帧中的人脸对象的人脸关键点检测结果。作为示例，上述执行主体中可以预先存储有人脸关键点检测模型。上述执行主体可以将当前帧中的各个第一候选区域和各个第二候选区域分别输入至上述人脸检测模型，得到所输入的候选区域中的人脸对象的人脸检测结果(例如人脸关键点的坐标)。

从图4中可以看出，与图2对应的实施例相比，本实施例中的用于检测人脸关键点的方法的流程400涉及了将上一帧的人脸关键点的最小外接矩形放大预设倍数后所形成的矩形区域作为当前帧的第一候选区域的步骤。由于视频中的相邻两帧间隔时间较短，在相邻两帧中，人脸对象移动幅度较小。因此，当前帧的第一候选区域包含了上一帧中的人脸对象。从而实现了对视频中的人脸关键点的跟踪。此外，由于人脸关键点相对于人脸检测框，数据的粒度更小、更精确，因此，利用人脸关键点确定出的第一候选区域更准确且更稳定。此外，本实施例中的用于检测人脸关键点的方法的流程400还涉及了对第一候选框和第二候选框进行去重的步骤，由此，可以对候选区域进行去重，有助于进一步提高人脸关键点检测结果的准确性。

进一步参考图5，作为对上述各图所示方法的实现，本申请提供了一种用于检测人脸关键点的装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图5所示，本实施例所述的用于检测人脸关键点的装置500包括：第一确定单元501，被配置成基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，确定上述当前帧中存在人脸对象的第一候选区域；第二确定单元502，被配置成对上述当前帧进行人脸检测，确定上述当前帧中的人脸对象区域；第三确定单元503，被配置成从上述人脸对象区域中，确定出与上述第一候选区域的交并比小于第一预设数值的人脸对象区域，作为第二候选区域；检测单元504，被配置成对上述第一候选区域与上述第二候选区域进行人脸关键点检测，得到当前帧中的人脸对象的人脸关键点检测结果。

在本实施例的一些可选的实现方式中，上述第一确定单元501可以包括第一确定模块和第二确定模块(图中未示出)。其中，上述第一确定模块可以被配置成基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，确定上述人脸对象的人脸关键点的最小外接矩形。上述第二确定模块可以被配置成将上述最小外接矩形放大，确定放大后的矩形区域的位置信息；第三确定模块，被配置成将上述当前帧中的、所确定的位置信息所指示的区域确定为上述当前帧中存在人脸对象的第一候选区域。

在本实施例的一些可选的实现方式中，上述第二确定模块可以进一步被配置成：以上述最小外接矩形的中心为中心，将上述最小外接矩形的长和宽分别放大至预设倍数。

在本实施例的一些可选的实现方式中，当上述当前帧的上一帧为上述目标视频的首帧时，上述首帧中的人脸对象的人脸关键点检测结果可以通过如下步骤确定：将上述首帧输入至预先训练的人脸检测模型，确定上述首帧中的人脸对象区域，其中，上述人脸检测模型用于检测图像中的人脸对象区域；将上述首帧中的人脸对象区域输入至预先训练的人脸关键点检测模型，得到上述首帧中的人脸对象的人脸关键点检测结果，其中，上述人脸关键点检测模型用于检测图像中的人脸对象的人脸关键点的位置。

在本实施例的一些可选的实现方式中，该装置还可以包括第四确定单元和删除单元(图中未示出)。其中，上述第四确定单元可以被配置成确定上述第一候选区域与上述第二候选区域中每两个候选区域所构成的候选区域对的交并比。上述删除单元可以被配置成对于交并比大于第二预设数值的候选区域对，删除该候选区域对中的任一候选区域。

在本实施例的一些可选的实现方式中，上述上一帧中的每一个人脸对象的人脸关键点检测结果带有用于指示该人脸对象的标识。以及，该装置还可以包括第一添加单元和第二添加单元(图中未示出)。其中，上述第一添加单元可以被配置成对于上述上一帧中的人脸对象，将该人脸对象的人脸关键点所带有的标识作为目标标识，将上述当前帧中的、基于该人脸对象的人脸关键点检测结果所确定的第一候选区域作为目标候选区域，将上述目标候选区域中的人脸对象的人脸关键点检测结果添加上述目标标识。上述第二添加单元可以被配置成对于上述当前帧中的每一个第二候选区域，对该第二候选区域中的人脸对象添加新的标识。

本申请的上述实施例提供的装置，通过第一确定单元501基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，可以确定出当前帧中存在人脸对象的第一候选区域。由此，由于人脸关键点相对于人脸检测框，数据的粒度更小、更精确，利用关键点所确定出的第一候选区域，相较于直接对当前帧进行人脸检测所确定的人脸检测框更准确。并且，由于分别对每帧进行人脸检测所得到的人脸检测框存在抖动的情况，因此，基于人脸关键点检测结果确定第一候选区域的方式可以提高第一候选区域的稳定性。而后，第二确定单元502可以对上述当前帧进行人脸检测，确定上述当前帧中的人脸对象区域，以便第三确定单元503从上述人脸对象区域中，确定出与上述第一候选区域的交并比小于第一预设数值的人脸对象区域，作为第二候选区域。由此可以找到当前帧相对于上一帧新增的人脸对象。最后，检测单元504对上述第一候选区域与上述第二候选区域进行人脸关键点检测，可以得到当前帧中的人脸对象的人脸关键点检测结果，从而得到当前帧中的各个人脸对象(包括上一帧中的人脸对象和新增加的人脸对象)的关键点检测结果。由此，可以实现对视频中的人脸对象的人脸关键点的跟踪，丰富了人脸关键点检测的方式。

下面参考图6，其示出了适于用来实现本申请实施例的电子设备的计算机系统600的结构示意图。图6示出的电子设备仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。

如图6所示，计算机系统600包括中央处理单元(CPU)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有系统600操作所需的各种程序和数据。CPU 601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

以下部件连接至I/O接口605：包括键盘、鼠标等的输入部分606；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装入存储部分608。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时，执行本申请的方法中限定的上述功能。需要说明的是，本申请所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括第一确定单元、第二确定单元、第三确定单元和检测单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，第一单元还可以被描述为“确定当前帧中存在人脸对象的第一候选区域的单元”。

作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的装置中所包含的；也可以是单独存在，而未装配入该装置中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该装置执行时，使得该装置：基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，确定该当前帧中存在人脸对象的第一候选区域；对该当前帧进行人脸检测，确定该当前帧中的人脸对象区域；从该人脸对象区域中，确定出与该第一候选区域的交并比小于第一预设数值的人脸对象区域，作为第二候选区域；对该第一候选区域与该第二候选区域进行人脸关键点检测，得到当前帧中的人脸对象的人脸关键点检测结果。

以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (14)

1.一种用于检测人脸关键点的方法，包括：

基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，确定所述当前帧中存在人脸对象的第一候选区域；

对所述当前帧进行人脸检测，确定所述当前帧中的人脸对象区域；

从所确定的人脸对象区域中，确定出与所述第一候选区域的交并比小于第一预设数值的人脸对象区域，作为第二候选区域；

对所述第一候选区域与所述第二候选区域进行人脸关键点检测，得到当前帧中的人脸对象的人脸关键点检测结果。

2.根据权利要求1所述的用于检测人脸关键点的方法，其中，所述基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，确定所述当前帧中存在人脸对象的第一候选区域，包括：

基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，确定所述人脸对象的人脸关键点的最小外接矩形；

将所述最小外接矩形放大，确定放大后的矩形区域的位置信息；

将所述当前帧中的、所确定的位置信息所指示的区域确定为所述当前帧中存在人脸对象的第一候选区域。

3.根据权利要求2所述的用于检测人脸关键点的方法，其中，所述将所述最小外接矩形放大，包括：

以所述最小外接矩形的中心为中心，将所述最小外接矩形的长和宽分别放大至预设倍数。

4.根据权利要求1所述的用于检测人脸关键点的方法，其中，当所述当前帧的上一帧为所述目标视频的首帧时，所述首帧中的人脸对象的人脸关键点检测结果通过如下步骤确定：

将所述首帧输入至预先训练的人脸检测模型，确定所述首帧中的人脸对象区域，其中，所述人脸检测模型用于检测图像中的人脸对象区域；

将所述首帧中的人脸对象区域输入至预先训练的人脸关键点检测模型，得到所述首帧中的人脸对象的人脸关键点检测结果，其中，所述人脸关键点检测模型用于检测图像中的人脸对象的人脸关键点的位置。

5.根据权利要求1所述的用于检测人脸关键点的方法，其中，在所述对所述第一候选区域与所述第二候选区域进行人脸关键点检测之前，所述方法还包括：

确定所述第一候选区域与所述第二候选区域中每两个候选区域所构成的候选区域对的交并比；

对于交并比大于第二预设数值的候选区域对，删除该候选区域对中的任一候选区域。

6.根据权利要求1所述的用于检测人脸关键点的方法，其中，所述上一帧中的每一个人脸对象的人脸关键点检测结果带有用于指示该人脸对象的标识；以及

所述方法还包括：

对于所述上一帧中的人脸对象，将该人脸对象的人脸关键点所带有的标识作为目标标识，将所述当前帧中的、基于该人脸对象的人脸关键点检测结果所确定的第一候选区域作为目标候选区域，将所述目标候选区域中的人脸对象的人脸关键点检测结果添加所述目标标识；

对于所述当前帧中的每一个第二候选区域，对该第二候选区域中的人脸对象添加新的标识。

7.一种用于检测人脸关键点的装置，包括：

第一确定单元，被配置成基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，确定所述当前帧中存在人脸对象的第一候选区域；

第二确定单元，被配置成对所述当前帧进行人脸检测，确定所述当前帧中的人脸对象区域；

第三确定单元，被配置成从所确定的人脸对象区域中，确定出与所述第一候选区域的交并比小于第一预设数值的人脸对象区域，作为第二候选区域；

检测单元，被配置成对所述第一候选区域与所述第二候选区域进行人脸关键点检测，得到当前帧中的人脸对象的人脸关键点检测结果。

8.根据权利要求7所述的用于检测人脸关键点的装置，其中，所述第一确定单元，包括：

第一确定模块，被配置成基于预先确定的、目标视频的当前帧的上一帧中的人脸对象的人脸关键点检测结果，确定所述人脸对象的人脸关键点的最小外接矩形；

第二确定模块，被配置成将所述最小外接矩形放大，确定放大后的矩形区域的位置信息；

第三确定模块，被配置成将所述当前帧中的、所确定的位置信息所指示的区域确定为所述当前帧中存在人脸对象的第一候选区域。

9.根据权利要求8所述的用于检测人脸关键点的装置，其中，所述第二确定模块进一步被配置成：

以所述最小外接矩形的中心为中心，将所述最小外接矩形的长和宽分别放大至预设倍数。

10.根据权利要求7所述的用于检测人脸关键点的装置，其中，当所述当前帧的上一帧为所述目标视频的首帧时，所述首帧中的人脸对象的人脸关键点检测结果通过如下步骤确定：

将所述首帧输入至预先训练的人脸检测模型，确定所述首帧中的人脸对象区域，其中，所述人脸检测模型用于检测图像中的人脸对象区域；

将所述首帧中的人脸对象区域输入至预先训练的人脸关键点检测模型，得到所述首帧中的人脸对象的人脸关键点检测结果，其中，所述人脸关键点检测模型用于检测图像中的人脸对象的人脸关键点的位置。

11.根据权利要求7所述的用于检测人脸关键点的装置，其中，所述装置还包括：

第四确定单元，被配置成确定所述第一候选区域与所述第二候选区域中每两个候选区域所构成的候选区域对的交并比；

删除单元，被配置成对于交并比大于第二预设数值的候选区域对，删除该候选区域对中的任一候选区域。

12.根据权利要求7所述的用于检测人脸关键点的方法，其中，所述上一帧中的每一个人脸对象的人脸关键点检测结果带有用于指示该人脸对象的标识；以及

所述装置还包括：

第一添加单元，被配置成对于所述上一帧中的人脸对象，将该人脸对象的人脸关键点所带有的标识作为目标标识，将所述当前帧中的、基于该人脸对象的人脸关键点检测结果所确定的第一候选区域作为目标候选区域，将所述目标候选区域中的人脸对象的人脸关键点检测结果添加所述目标标识；

第二添加单元，被配置成对于所述当前帧中的每一个第二候选区域，对该第二候选区域中的人脸对象添加新的标识。

13.一种电子设备，包括：

一个或多个处理器；

存储装置，其上存储有一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-6中任一所述的方法。

14.一种计算机可读介质，其上存储有计算机程序，其中，该程序被处理器执行时实现如权利要求1-6中任一所述的方法。