CN113284167B - 人脸跟踪检测方法、装置、设备和介质 - Google Patents
人脸跟踪检测方法、装置、设备和介质 Download PDFInfo
- Publication number
- CN113284167B CN113284167B CN202110594044.1A CN202110594044A CN113284167B CN 113284167 B CN113284167 B CN 113284167B CN 202110594044 A CN202110594044 A CN 202110594044A CN 113284167 B CN113284167 B CN 113284167B
- Authority
- CN
- China
- Prior art keywords
- frame
- face
- distance threshold
- geometric center
- center point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Abstract
本发明公开了一种人脸跟踪检测方法,该方法包括:通过人脸检测算法获取在初始帧的第一人脸框中第一几何中心点的第一位置,再根据光流算法确定在当前帧中的第二几何中心点的第二位置。由于是采用光流算法定位相邻帧的几何中心点位置,可实现在各种情形下的准确定位,能避免出现人脸框不停抖动的问题。然后根据第一位置与第二位置计算第二几何中心点相对于第一几何中心点的相对距离和相对方向,并根据相对距离和相对方向确定在当前帧中的第二人脸框。可见,本方案中是对每一帧的人脸框进行逐帧定位,这对于目标快速移动,或者远近移动等情形也能很好的进行检测,可解决人脸快速移动和人脸远近移动时跟踪效果较差的问题。此外,还提出了人脸跟踪检测装置、设备和存储介质。
Description
技术领域
本发明涉及人脸识别技术领域,尤其是涉及人脸跟踪检测方法、装置、设备和介质。
背景技术
常见的人脸跟踪检测算法包括KCF(Kernel Correlation Filter,核相关滤波)人脸跟踪检测算法。KCF采用鉴别式追踪方法,这类方法一般都是在追踪过程中持续训练一个目标检测器,以该目标检测器去检测下一帧的预测位置处是否存在目标,选取存在目标的目标区域为正样本,选取目标区域的周围区域为负样本,然后再使用新检测得到的结果去更新训练集进而更新目标检测器。然而当目标快速移动,或者远近移动时,前后帧上相同物体的移动距离较大,由于目标检测器仅能实现在上一帧检测点的附近范围的预测,因此会出现检测效果误差很大的问题。
发明内容
基于此,有必要针对上述问题,提供解决快速移动或远近移动时检测效果较差的人脸跟踪检测方法、装置、设备和介质。
一种人脸跟踪检测的方法,所述方法包括:
将待检测的视频流中的其中一帧图像作为初始帧,根据预设的人脸检测算法获取在所述初始帧的第一人脸框,确定所述第一人脸框中第一几何中心点的第一位置;
将所述初始帧的下一帧作为当前帧,根据光流算法确定在所述当前帧中的第二几何中心点的第二位置,所述第二几何中心点为所述第一几何中心点在所述当前帧中对应的点;
根据所述第一位置与所述第二位置计算所述第二几何中心点相对于所述第一几何中心点的相对距离和相对方向;
获取预设的第一距离阈值和第二距离阈值,所述第一距离阈值小于第二距离阈值,将所述相对距离与第一距离阈值和所述第二距离阈值进行比较,若所述相对距离小于所述第一距离阈值,则将所述第一人脸框作为所述当前帧中的第二人脸框;
若所述相对距离大于或等于所述第一距离阈值且小于所述第二距离阈值,则将向所述相对方向移动所述相对距离后的第一人脸框作为在所述当前帧中的第二人脸框。
在其中一个实施例中,在所述将所述当前帧作为所述初始帧之前,还包括:
若所述相对距离大于或等于所述第二距离阈值,则将所述当前帧作为所述初始帧,返回执行所述根据预设的人脸检测算法获取在所述初始帧的第一人脸框,确定所述第一人脸框中第一几何中心点的第一位置的步骤及后续步骤。
在其中一个实施例中,所述获取预设的第一距离阈值和第二距离阈值,包括:
获取预设的动作帧组合和非动作帧组合,所述动作帧组合包括若干个检测到存在人脸连续运动的帧,所述非动作帧组合包括若干个人脸静止的帧;
根据所述非动作帧组合确定所述第一距离阈值,根据所述动作帧组合确定所述第二距离阈值。
在其中一个实施例中,所述根据所述非动作帧组合确定所述第一距离阈值,根据所述动作帧组合确定所述第二距离阈值,包括:
根据预设的人脸检测算法和光流算法获取所述动作帧组合中每一帧的人脸框内几何中心点的第三位置和所述非动作帧组合中每一帧的人脸框内几何中心点的第四位置;
根据每相邻的两个第四位置确定所述非动作帧组合的第一相对距离集,根据每相邻的两个第三位置确定所述动作帧组合的第二相对距离集;
将所述第一相对距离集中的最大相对距离作为所述第一距离阈值,将所述第二相对距离集中的最大相对距离作为所述第二距离阈值。
在其中一个实施例中,所述根据光流算法确定在所述当前帧中的第二几何中心点的第二位置,包括:
将所述初始帧划分为若干个宏块,获取每个宏块中的一个像素点,得到像素点集合,所述像素点集合包括所述第一几何中心点;
通过光流算法跟踪并计算所述像素点集合在所述当前帧中的局部运动矢量,所述局部运动矢量为所述像素点集合沿不同运动轴的运动矢量;
根据所述第一位置与所述局部运动矢量计算所述当前帧中的第二几何中心点的第二位置。
在其中一个实施例中,所述人脸检测算法为dlib、mtcnn、resnet10-ssd中的任意一种。
一种人脸跟踪检测装置,所述装置包括:
第一位置获取模块,用于将待检测的视频流中的其中一帧图像作为初始帧,根据预设的人脸检测算法获取在所述初始帧的第一人脸框中第一几何中心点的第一位置;
第二位置获取模块,用于将所述初始帧的下一帧作为当前帧,根据光流算法确定在所述当前帧中的第二几何中心点的第二位置,所述第二几何中心点为所述第一几何中心点在所述当前帧中对应的点;
人脸框跟踪模块,用于根据所述第一位置与所述第二位置计算所述第二几何中心点相对于所述第一几何中心点的相对距离和相对方向,获取预设的第一距离阈值和第二距离阈值,所述第一距离阈值小于第二距离阈值,将所述相对距离与第一距离阈值和所述第二距离阈值进行比较,若所述相对距离小于所述第一距离阈值,则将所述第一人脸框作为所述当前帧中的第二人脸框;若所述相对距离大于或等于所述第一距离阈值且小于所述第二距离阈值,则将向所述相对方向移动所述相对距离后的第一人脸框作为在所述当前帧中的第二人脸框。
一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时,使得所述处理器执行如下步骤:
将待检测的视频流中的其中一帧图像作为初始帧,根据预设的人脸检测算法获取在所述初始帧的第一人脸框中第一几何中心点的第一位置;
将所述初始帧的下一帧作为当前帧,根据光流算法确定在所述当前帧中的第二几何中心点的第二位置,所述第二几何中心点为所述第一几何中心点在所述当前帧中对应的点;
根据所述第一位置与所述第二位置计算所述第二几何中心点相对于所述第一几何中心点的相对距离和相对方向;
获取预设的第一距离阈值和第二距离阈值,所述第一距离阈值小于第二距离阈值,将所述相对距离与第一距离阈值和所述第二距离阈值进行比较,若所述相对距离小于所述第一距离阈值,则将所述第一人脸框作为所述当前帧中的第二人脸框;
若所述相对距离大于或等于所述第一距离阈值且小于所述第二距离阈值,则将向所述相对方向移动所述相对距离后的第一人脸框作为在所述当前帧中的第二人脸框。
一种人脸跟踪检测设备,包括存储器和处理器,所述存储器存储有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如下步骤:
将待检测的视频流中的其中一帧图像作为初始帧,根据预设的人脸检测算法获取在所述初始帧的第一人脸框中第一几何中心点的第一位置;
将所述初始帧的下一帧作为当前帧,根据光流算法确定在所述当前帧中的第二几何中心点的第二位置,所述第二几何中心点为所述第一几何中心点在所述当前帧中对应的点;
根据所述第一位置与所述第二位置计算所述第二几何中心点相对于所述第一几何中心点的相对距离和相对方向;
获取预设的第一距离阈值和第二距离阈值,所述第一距离阈值小于第二距离阈值,将所述相对距离与第一距离阈值和所述第二距离阈值进行比较,若所述相对距离小于所述第一距离阈值,则将所述第一人脸框作为所述当前帧中的第二人脸框;
若所述相对距离大于或等于所述第一距离阈值且小于所述第二距离阈值,则将向所述相对方向移动所述相对距离后的第一人脸框作为在所述当前帧中的第二人脸框。
本发明提供了人脸跟踪检测方法、装置、设备和介质,首先通过预设的人脸检测算法获取在初始帧的第一人脸框中第一几何中心点的第一位置,再根据光流算法确定在当前帧中的第二几何中心点的第二位置。因为光流携带了运动物体的运动信息,因此能很好的确定两帧间相同点的位置,即第二位置。然后根据第一位置与第二位置计算第二几何中心点相对于第一几何中心点的相对距离和相对方向,并根据相对距离和相对方向确定在当前帧中的第二人脸框。可见,本方案中无需单独通过人脸检测算法再次确定第二人脸框,而对第二人脸框的确定是基于已确定的第一人脸框。由于光流算法能准确确定运动目标的位置,从而也能实现依据几何中心点的位置在两帧间变化准确定位第二人脸框,这使得对于目标快速移动,或者远近移动等情形也能很好的进行跟踪检测,可解决人脸快速移动和人脸远近移动时跟踪效果较差的问题。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
其中:
图1为一个实施例中人脸跟踪检测方法的流程示意图;
图2为一个实施例中人脸跟踪检测装置的结构示意图;
图3为一个实施例中人脸跟踪检测设备的结构框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,图1为一个实施例中人脸跟踪检测方法的流程示意图,本实施例中人脸跟踪检测方法提供的步骤包括:
步骤102,将待检测的视频流中的其中一帧图像作为初始帧,根据预设的人脸检测算法获取在初始帧的第一人脸框,确定第一人脸框中第一几何中心点的第一位置。
其中,该待检测的视频流可以是预先存储于设备存储器中的一段视频流,也可以是由视频采集设备实时采集的一段视频流,又或者是从云端下载的一段视频流,在此不做具体限定。本实施例中将视频流的第一帧作为初始帧,对每一帧的人脸框进行逐帧定位。
本实施例中预设的人脸检测算法可以是采用已有的人脸检测算法,例如dlib、mtcnn、resnet10-ssd中的任意一种,当然也可以是其他能确定图像中人脸框位置的人脸检测算法。第一人脸框为第一帧中包含人脸部分的矩形框。在得到第一人脸框的坐标位置后,便可基于任意一组对角点的位置计算得到第一几何中心点的第一位置,例如基于第一人脸框的一组对角点A(X1,Y1),B(X2,Y2),确定第一几何中心点P0的第一位置为
步骤104,将初始帧的下一帧作为当前帧,根据光流算法确定在当前帧中的第二几何中心点的第二位置。
其中,本实施例中对每一帧的人脸框进行逐帧定位,将初始帧的下一帧作为人脸跟踪检测的当前帧,而该第二几何中心点为第一几何中心点在当前帧中对应的点,即将第一几何中心点P0经过t秒后在当前帧中的相同的一点作为第二几何中心点P1。本实施例中可采用的光流算法包括基于梯度(微分)的方法、基于匹配的方法、基于能量(频率)的方法、基于相位的方法和神经动力学方法。
在一个具体实施例中,执行的光流算法步骤包括:首先将初始帧划分为若干个块(例如4x4像素),然后由相同数量的整数个块组成若干个宏块。获取每个宏块中的任意一个像素点,得到像素点集合,而这个像素点集合中包括第一几何中心点。示例性的,以一个初始帧的处理为例,可以将初始帧等分成m*n个宏块,在每个宏块中取中心像素点,便可取到m*n个像素点的像素点集合。
再跟踪并计算像素点集合在当前帧中的局部运动矢量,该局部运动矢量为像素点集合沿不同运动轴的运动矢量。光流算法满足的条件包括:同一目标在不同帧间运动时,其亮度不会发生改变。时间的变化不会引起目标位置的剧烈变化,相邻帧之间位移要比较小。考虑一个像素I(x,y,t)在第一帧的光强度(其中t代表其所在的时间维度)。它移动了(dx,dy)的距离到下一帧,用了dt的时间。因为是同一个像素点,依据上文提到的条件我们认为该像素在运动前后的光强度是不变的,则相邻两帧的图像中对该像素点I的约束方程为:
I(x,y,t)=I(x+dx,y+dy,t+dt)
其中I(x,y,t)表示初始帧中任意一个像素点的光强度,I(x+dx,y+dy,t+dt)表示当前帧中同一像素点的光强度。x,y,t为像素点在初始帧中各自轴的坐标,dt表示运动时间,dx,dy为像素点在dt时间内沿各自轴的移动距离。
可以对所获取的m*n个像素点分别应用上述约束方程,再对该方程使用泰勒级数展开就能求出每个像素点I的局部运动矢量,即共可以获得m*n个局部运动矢量。其中,每个像素点I的局部运动矢量满足:
在上式中,表示沿X轴的运动矢量,表示沿Y轴的运动矢量,表示沿T轴的运动矢量。设u为光流沿X轴的速度矢量,v为光流沿Y轴的速度矢量。而(u,v)为光流矢量,即二维图像平面特定坐标点上的灰度瞬时变化率,在时间间隔很小(比如视频的连续前后两帧之间)时,也等同于目标点的位移。
对m*n个光流矢量(u,v)取均值,以得到反映整体移动的目标光流矢量(u0,v0),根据待检测视频的帧率确定两帧间的时间t,用该时间t乘于目标光流矢量(u0,v0)得到初始帧与当前帧间的移动距离(x0,y0),将第一几何中心点的第一位置与移动距离(x0,y0)相加就可以得到第二几何中心点的第二位置。
步骤106,根据第一位置与第二位置计算第二几何中心点相对于第一几何中心点的相对距离和相对方向,获取预设的第一距离阈值和第二距离阈值,将相对距离与第一距离阈值和第二距离阈值进行比较。
若相对距离小于第一距离阈值,则执行步骤108,将第一人脸框作为当前帧中的第二人脸框。若相对距离大于或等于第一距离阈值且小于第二距离阈值,则执行步骤110,将向相对方向移动相对距离后的第一人脸框作为在当前帧中的第二人脸框。
其中,基于第一位置与第二位置计算相对距离满足基本的距离计算公式,例如第一位置为I1(x1,y1),第二位置为I2(x2,y2),则相对距离满足:
在第一位置处建立坐标轴,则相对方向满足再获取预设的第一距离阈值和第二距离阈值,该第一距离阈值小于该第二距离阈值,第一距离阈值为反应存在人脸运动的最小阈值,第二距离阈值为反应存在人脸运动的最大阈值。将相对距离分别与第一距离阈值和第二距离阈值进行比较:第一种情况,若相对距离小于第一距离阈值,则说明人脸未发生移动或只发生轻微的移动,此时将第一人脸框作为当前帧中的第二人脸框,可在第二人脸框内截取到清晰的人脸图像。第二种情况,若相对距离大于或等于第一距离阈值且小于第二距离阈值,则说明此时人脸发生明显的移动,此时基于求得的相对距离和相对方向,将向相对方向移动相对距离后的第一人脸框作为在当前帧中的第二人脸框,从而得到位置调整后的第二人脸框。第三种情况,若相对距离大于或等于第二距离阈值,则说明人脸移动过快或在先步骤存在偏差,将当前帧作为初始帧,再次返回步骤102进行核对检测。
在一个具体实施例中,第一距离阈值的确定基于预设的非动作帧组合,第二距离阈值的确定基于预设的动作帧组合。其中,该非动作帧组合包括任意的若干个人脸静止的帧,而该动作帧组合包括任意的若干个检测到存在人脸连续运动的帧,例如一组t秒的非动作帧组合中测试的人脸只是静止或轻微的移动,一组t秒的动作帧组合中测试的人脸保持在设定的速度范围内连续的左右晃动。基于同步骤102相同的人脸检测算法和步骤104相同的光流算法结合获取动作帧组合中每一帧的人脸框内几何中心点的第三位置和非动作帧组合中每一帧的人脸框内几何中心点的第四位置。
对于第一距离阈值的确定,从非动作帧组合中的第一帧开始,根据每相邻的两个第四位置计算一个相对距离,根据这些相对距离确定非动作帧组合的第一相对距离集。由于人脸移动时必然第一几何中心点与第二几何中心点的相对距离必然大于第一相对距离集中的任意一个值,因此将第一相对距离集中的最大相对距离作为第一距离阈值。
对于第二距离阈值的确定,从动作帧组合中的第一帧开始,根据每相邻的两个第三位置计算一个相对距离,根据这些相对距离确定动作帧组合的第二相对距离集。若人脸移动时第一几何中心点与第二几何中心点的相对距离大于第二相对距离集中的最大相对距离,则表明人脸移动过快不利于准确的人脸检测,因此将第二相对距离集中的最大相对距离作为第二距离阈值。该第一距离阈值和第二距离阈值的设定参考实际的非动作帧组合和动作帧组合,能结合已确定为运动或静止相对距离的来确定第一距离阈值和第二距离阈值合适的临界值。
上述人脸跟踪检测方法,首先通过预设的人脸检测算法获取在初始帧的第一人脸框中第一几何中心点的第一位置,再根据光流算法确定在当前帧中的第二几何中心点的第二位置。因为光流携带了运动物体的运动信息,因此能很好的确定两帧间相同点的位置,即第二位置,。然后根据第一位置与第二位置计算第二几何中心点相对于第一几何中心点的相对距离和相对方向,并根据相对距离和相对方向确定在当前帧中的第二人脸框。可见,本方案中无需单独通过人脸检测算法再次确定第二人脸框,而对第二人脸框的确定是基于已确定的第一人脸框。由于光流算法能准确确定运动目标的位置,从而也能实现依据几何中心点的位置在两帧间变化准确定位第二人脸框,这使得对于目标快速移动,或者远近移动等情形也能很好的进行跟踪检测,可解决人脸快速移动和人脸远近移动时跟踪效果较差的问题。
在一个实施例中,如图2所示,提出了一种人脸跟踪检测装置,该装置包括:
第一位置获取模块202,用于将待检测的视频流中的其中一帧图像作为初始帧,根据预设的人脸检测算法获取在初始帧的第一人脸框中第一几何中心点的第一位置;
第二位置获取模块204,用于将初始帧的下一帧作为当前帧,根据光流算法确定在当前帧中的第二几何中心点的第二位置,第二几何中心点为第一几何中心点在当前帧中对应的点;
人脸框跟踪模块206,用于根据第一位置与第二位置计算第二几何中心点相对于第一几何中心点的相对距离和相对方向;获取预设的第一距离阈值和第二距离阈值,第一距离阈值小于第二距离阈值,将相对距离与第一距离阈值和第二距离阈值进行比较,若相对距离小于第一距离阈值,则将第一人脸框作为当前帧中的第二人脸框;若相对距离大于或等于第一距离阈值且小于第二距离阈值,则将向相对方向移动相对距离后的第一人脸框作为在当前帧中的第二人脸框。
上述人脸跟踪检测装置,首先通过预设的人脸检测算法获取在初始帧的第一人脸框中第一几何中心点的第一位置,再根据光流算法确定在当前帧中的第二几何中心点的第二位置。因为光流携带了运动物体的运动信息,因此能很好的确定两帧间相同点的位置,即第二位置,。然后根据第一位置与第二位置计算第二几何中心点相对于第一几何中心点的相对距离和相对方向,并根据相对距离和相对方向确定在当前帧中的第二人脸框。可见,本方案中无需单独通过人脸检测算法再次确定第二人脸框,而对第二人脸框的确定是基于已确定的第一人脸框。由于光流算法能准确确定运动目标的位置,从而也能实现依据几何中心点的位置在两帧间变化准确定位第二人脸框,这使得对于目标快速移动,或者远近移动等情形也能很好的进行跟踪检测,可解决人脸快速移动和人脸远近移动时跟踪效果较差的问题。
在一个实施例中,人脸框跟踪模块206,还具体用于:若相对距离大于或等于第二距离阈值,则将当前帧作为初始帧,返回执行根据预设的人脸检测算法获取在初始帧的第一人脸框,确定第一人脸框中第一几何中心点的第一位置的步骤及后续步骤。
在一个实施例中,人脸框跟踪模块206,具体用于:获取预设的动作帧组合和非动作帧组合,动作帧组合包括若干个检测到存在人脸连续运动的帧,非动作帧组合包括若干个人脸静止的帧;根据非动作帧组合确定第一距离阈值,根据动作帧组合确定第二距离阈值。
在一个实施例中,人脸框跟踪模块206,具体用于:根据预设的人脸检测算法和光流算法获取动作帧组合中每一帧的人脸框内几何中心点的第三位置和非动作帧组合中每一帧的人脸框内几何中心点的第四位置;根据每相邻的两个第四位置确定非动作帧组合的第一相对距离集,根据每相邻的两个第三位置确定动作帧组合的第二相对距离集;将第一相对距离集中的最大相对距离作为第一距离阈值,将第二相对距离集中的最大相对距离作为第二距离阈值。
在一个实施例中,第二位置获取模块204,具体用于:将初始帧划分为若干个宏块,获取每个宏块中的一个像素点,得到像素点集合,像素点集合包括第一几何中心点;通过光流算法跟踪并计算像素点集合在当前帧中的局部运动矢量;根据第一位置与局部运动矢量计算当前帧中的第二几何中心点的第二位置。
图3示出了一个实施例中人脸跟踪检测设备的内部结构图。如图3所示,该人脸跟踪检测设备包括通过系统总线连接的处理器、存储器和网络接口。其中,存储器包括非易失性存储介质和内存储器。该人脸跟踪检测设备的非易失性存储介质存储有操作系统,还可存储有计算机程序,该计算机程序被处理器执行时,可使得处理器实现人脸跟踪检测方法。该内存储器中也可储存有计算机程序,该计算机程序被处理器执行时,可使得处理器执行人脸跟踪检测方法。本领域技术人员可以理解,图3中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的人脸跟踪检测设备的限定,具体的人脸跟踪检测设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
一种人脸跟踪检测设备,包括存储器、处理器以及存储在该存储器中并可在该处理器上执行的计算机程序,该处理器执行该计算机程序时实现如下步骤:将待检测的视频流中的其中一帧图像作为初始帧,根据预设的人脸检测算法获取在初始帧的第一人脸框中第一几何中心点的第一位置;将初始帧的下一帧作为当前帧,根据光流算法确定在当前帧中的第二几何中心点的第二位置,第二几何中心点为第一几何中心点在当前帧中对应的点;根据第一位置与第二位置计算第二几何中心点相对于第一几何中心点的相对距离和相对方向;获取预设的第一距离阈值和第二距离阈值,第一距离阈值小于第二距离阈值,将相对距离与第一距离阈值和第二距离阈值进行比较,若相对距离小于第一距离阈值,则将第一人脸框作为当前帧中的第二人脸框;若相对距离大于或等于第一距离阈值且小于第二距离阈值,则将向相对方向移动相对距离后的第一人脸框作为在当前帧中的第二人脸框。
在一个实施例中,在将当前帧作为初始帧之前,还包括:若相对距离大于或等于第二距离阈值,则将当前帧作为初始帧,返回执行根据预设的人脸检测算法获取在初始帧的第一人脸框,确定第一人脸框中第一几何中心点的第一位置的步骤及后续步骤。
在一个实施例中,获取预设的第一距离阈值和第二距离阈值,包括:获取预设的动作帧组合和非动作帧组合,动作帧组合包括若干个检测到存在人脸连续运动的帧,非动作帧组合包括若干个人脸静止的帧;根据非动作帧组合确定第一距离阈值,根据动作帧组合确定第二距离阈值。
在一个实施例中,根据非动作帧组合确定第一距离阈值,根据动作帧组合确定第二距离阈值,包括:根据预设的人脸检测算法和光流算法获取动作帧组合中每一帧的人脸框内几何中心点的第三位置和非动作帧组合中每一帧的人脸框内几何中心点的第四位置;根据每相邻的两个第四位置确定非动作帧组合的第一相对距离集,根据每相邻的两个第三位置确定动作帧组合的第二相对距离集;将第一相对距离集中的最大相对距离作为第一距离阈值,将第二相对距离集中的最大相对距离作为第二距离阈值。
在一个实施例中,根据光流算法确定在当前帧中的第二几何中心点的第二位置,包括:将初始帧划分为若干个宏块,获取每个宏块中的一个像素点,得到像素点集合,像素点集合包括第一几何中心点;通过光流算法跟踪并计算像素点集合在当前帧中的局部运动矢量;根据第一位置与局部运动矢量计算当前帧中的第二几何中心点的第二位置。
一种计算机可读存储介质,该计算机可读存储介质存储有计算机程序,该计算机程序被处理器执行时实现如下步骤:获取待检测的视频流,将视频流的第一帧作为初始帧,根据预设的人脸检测算法获取在初始帧的第一人脸框中第一几何中心点的第一位置;将初始帧的下一帧作为当前帧,根据光流算法确定在当前帧中的第二几何中心点的第二位置,第二几何中心点为第一几何中心点在当前帧中对应的点;根据第一位置与第二位置计算第二几何中心点相对于第一几何中心点的相对距离和相对方向;获取预设的第一距离阈值和第二距离阈值,第一距离阈值小于第二距离阈值,将相对距离与第一距离阈值和第二距离阈值进行比较,若相对距离小于第一距离阈值,则将第一人脸框作为当前帧中的第二人脸框;若相对距离大于或等于第一距离阈值且小于第二距离阈值,则将向相对方向移动相对距离后的第一人脸框作为在当前帧中的第二人脸框。
在一个实施例中,在将当前帧作为初始帧之前,还包括:若相对距离大于或等于第二距离阈值,则将当前帧作为初始帧,返回执行根据预设的人脸检测算法获取在初始帧的第一人脸框,确定第一人脸框中第一几何中心点的第一位置的步骤及后续步骤。
在一个实施例中,获取预设的第一距离阈值和第二距离阈值,包括:获取预设的动作帧组合和非动作帧组合,动作帧组合包括若干个检测到存在人脸连续运动的帧,非动作帧组合包括若干个人脸静止的帧;根据非动作帧组合确定第一距离阈值,根据动作帧组合确定第二距离阈值。
在一个实施例中,根据非动作帧组合确定第一距离阈值,根据动作帧组合确定第二距离阈值,包括:根据预设的人脸检测算法和光流算法获取动作帧组合中每一帧的人脸框内几何中心点的第三位置和非动作帧组合中每一帧的人脸框内几何中心点的第四位置;根据每相邻的两个第四位置确定非动作帧组合的第一相对距离集,根据每相邻的两个第三位置确定动作帧组合的第二相对距离集;将第一相对距离集中的最大相对距离作为第一距离阈值,将第二相对距离集中的最大相对距离作为第二距离阈值。
在一个实施例中,根据光流算法确定在当前帧中的第二几何中心点的第二位置,包括:将初始帧划分为若干个宏块,获取每个宏块中的一个像素点,得到像素点集合,像素点集合包括第一几何中心点;通过光流算法跟踪并计算像素点集合在当前帧中的局部运动矢量;根据第一位置与局部运动矢量计算当前帧中的第二几何中心点的第二位置。
需要说明的是,上述人脸跟踪检测方法、装置、设备及计算机可读存储介质属于一个总的发明构思,人脸跟踪检测方法、装置、设备及计算机可读存储介质实施例中的内容可相互适用。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,该程序可存储于一非易失性计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。
Claims (7)
1.一种人脸跟踪检测的方法,其特征在于,所述方法包括:
将待检测的视频流中的其中一帧图像作为初始帧,根据预设的人脸检测算法获取在所述初始帧的第一人脸框,确定所述第一人脸框中第一几何中心点的第一位置;
将所述初始帧的下一帧作为当前帧,根据光流算法确定在所述当前帧中的第二几何中心点的第二位置,所述第二几何中心点为所述第一几何中心点在所述当前帧中对应的点;
根据所述第一位置与所述第二位置计算所述第二几何中心点相对于所述第一几何中心点的相对距离和相对方向;
获取预设的第一距离阈值和第二距离阈值,所述第一距离阈值小于第二距离阈值,将所述相对距离与第一距离阈值和所述第二距离阈值进行比较,若所述相对距离小于所述第一距离阈值,则将所述第一人脸框作为所述当前帧中的第二人脸框;
若所述相对距离大于或等于所述第一距离阈值且小于所述第二距离阈值,则将向所述相对方向移动所述相对距离后的第一人脸框作为在所述当前帧中的第二人脸框;
其中,所述获取预设的第一距离阈值和第二距离阈值,包括:获取预设的动作帧组合和非动作帧组合,所述动作帧组合包括若干个检测到存在人脸在设定的速度范围内连续运动的帧,所述非动作帧组合包括若干个人脸静止的帧;根据所述非动作帧组合确定所述第一距离阈值,根据所述动作帧组合确定所述第二距离阈值;所述第一距离阈值和所述第二距离阈值为一个预设值;
所述根据所述非动作帧组合确定所述第一距离阈值,根据所述动作帧组合确定所述第二距离阈值,包括:根据预设的人脸检测算法和光流算法获取所述动作帧组合中每一帧的人脸框内几何中心点的第三位置和所述非动作帧组合中每一帧的人脸框内几何中心点的第四位置;根据每相邻的两个第四位置确定所述非动作帧组合的第一相对距离集,根据每相邻的两个第三位置确定所述动作帧组合的第二相对距离集;将所述第一相对距离集中的最大相对距离作为所述第一距离阈值,将所述第二相对距离集中的最大相对距离作为所述第二距离阈值。
2.根据权利要求1所述的方法,其特征在于,在所述将所述相对距离与第一距离阈值和所述第二距离阈值进行比较之后,还包括:
若所述相对距离大于或等于所述第二距离阈值,则将所述当前帧作为所述初始帧,返回执行所述根据预设的人脸检测算法获取在所述初始帧的第一人脸框,确定所述第一人脸框中第一几何中心点的第一位置的步骤及后续步骤。
3.根据权利要求1所述的方法,其特征在于,所述根据光流算法确定在所述当前帧中的第二几何中心点的第二位置,包括:
将所述初始帧划分为若干个宏块,获取每个宏块中的一个像素点,得到像素点集合,所述像素点集合包括所述第一几何中心点;
通过光流算法跟踪并计算所述像素点集合在所述当前帧中的局部运动矢量,所述局部运动矢量为所述像素点集合沿不同运动轴的运动矢量;
根据所述第一位置与所述局部运动矢量计算所述当前帧中的第二几何中心点的第二位置。
4.根据权利要求1所述的方法,其特征在于,所述人脸检测算法为dlib、mtcnn、resnet10-ssd中的任意一种。
5.一种人脸跟踪检测装置,其特征在于,所述装置包括:
第一位置获取模块,用于将待检测的视频流中的其中一帧图像作为初始帧,根据预设的人脸检测算法获取在所述初始帧的第一人脸框,确定所述第一人脸框中第一几何中心点的第一位置;
第二位置获取模块,用于将所述初始帧的下一帧作为当前帧,根据光流算法确定在所述当前帧中的第二几何中心点的第二位置,所述第二几何中心点为所述第一几何中心点在所述当前帧中对应的点;
人脸框跟踪模块,用于根据所述第一位置与所述第二位置计算所述第二几何中心点相对于所述第一几何中心点的相对距离和相对方向,获取预设的第一距离阈值和第二距离阈值,所述第一距离阈值小于第二距离阈值,将所述相对距离与第一距离阈值和所述第二距离阈值进行比较,若所述相对距离小于所述第一距离阈值,则将所述第一人脸框作为所述当前帧中的第二人脸框;若所述相对距离大于或等于所述第一距离阈值且小于所述第二距离阈值,则将向所述相对方向移动所述相对距离后的第一人脸框作为在所述当前帧中的第二人脸框;
人脸框跟踪模块,具体用于获取预设的动作帧组合和非动作帧组合,所述动作帧组合包括若干个检测到存在人脸在设定的速度范围内连续运动的帧,所述非动作帧组合包括若干个人脸静止的帧;根据所述非动作帧组合确定所述第一距离阈值,根据所述动作帧组合确定所述第二距离阈值;所述第一距离阈值和所述第二距离阈值为一个预设值;及,
根据预设的人脸检测算法和光流算法获取所述动作帧组合中每一帧的人脸框内几何中心点的第三位置和所述非动作帧组合中每一帧的人脸框内几何中心点的第四位置;根据每相邻的两个第四位置确定所述非动作帧组合的第一相对距离集,根据每相邻的两个第三位置确定所述动作帧组合的第二相对距离集;将所述第一相对距离集中的最大相对距离作为所述第一距离阈值,将所述第二相对距离集中的最大相对距离作为所述第二距离阈值。
6.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时,使得所述处理器执行如权利要求1至4中任一项所述方法的步骤。
7.一种人脸跟踪检测设备,包括存储器和处理器,其特征在于,所述存储器存储有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如权利要求1至4中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110594044.1A CN113284167B (zh) | 2021-05-28 | 2021-05-28 | 人脸跟踪检测方法、装置、设备和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110594044.1A CN113284167B (zh) | 2021-05-28 | 2021-05-28 | 人脸跟踪检测方法、装置、设备和介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113284167A CN113284167A (zh) | 2021-08-20 |
CN113284167B true CN113284167B (zh) | 2023-03-07 |
Family
ID=77282619
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110594044.1A Active CN113284167B (zh) | 2021-05-28 | 2021-05-28 | 人脸跟踪检测方法、装置、设备和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113284167B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113821109B (zh) * | 2021-11-25 | 2022-03-11 | 上海齐感电子信息科技有限公司 | 控制方法及控制系统 |
CN114445753A (zh) * | 2022-01-29 | 2022-05-06 | 成都商汤科技有限公司 | 人脸跟踪识别方法及装置、电子设备和存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108765455A (zh) * | 2018-05-24 | 2018-11-06 | 中国科学院光电技术研究所 | 一种基于tld算法的目标稳定跟踪方法 |
CN110852254A (zh) * | 2019-11-08 | 2020-02-28 | 杭州网易云音乐科技有限公司 | 人脸关键点跟踪方法、介质、装置和计算设备 |
CN111047626A (zh) * | 2019-12-26 | 2020-04-21 | 深圳云天励飞技术有限公司 | 目标跟踪方法、装置、电子设备及存储介质 |
CN111950401A (zh) * | 2020-07-28 | 2020-11-17 | 深圳数联天下智能科技有限公司 | 确定关键点区域位置的方法、图像处理系统、设备和介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9729865B1 (en) * | 2014-06-18 | 2017-08-08 | Amazon Technologies, Inc. | Object detection and tracking |
-
2021
- 2021-05-28 CN CN202110594044.1A patent/CN113284167B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108765455A (zh) * | 2018-05-24 | 2018-11-06 | 中国科学院光电技术研究所 | 一种基于tld算法的目标稳定跟踪方法 |
CN110852254A (zh) * | 2019-11-08 | 2020-02-28 | 杭州网易云音乐科技有限公司 | 人脸关键点跟踪方法、介质、装置和计算设备 |
CN111047626A (zh) * | 2019-12-26 | 2020-04-21 | 深圳云天励飞技术有限公司 | 目标跟踪方法、装置、电子设备及存储介质 |
CN111950401A (zh) * | 2020-07-28 | 2020-11-17 | 深圳数联天下智能科技有限公司 | 确定关键点区域位置的方法、图像处理系统、设备和介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113284167A (zh) | 2021-08-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113284167B (zh) | 人脸跟踪检测方法、装置、设备和介质 | |
KR100985805B1 (ko) | 적응적인 칼만필터를 이용한 영상 안정화 장치 및 방법 | |
JP7272024B2 (ja) | 物体追跡装置、監視システムおよび物体追跡方法 | |
CN110728697A (zh) | 基于卷积神经网络的红外弱小目标检测跟踪方法 | |
CN111144213B (zh) | 一种对象检测方法和相关设备 | |
KR20210027778A (ko) | 객체 검출 및 추적을 통한 이상행동 분석 장치 및 방법 | |
CN109255802B (zh) | 行人跟踪方法、装置、计算机设备及存储介质 | |
JP2005174353A (ja) | オブジェクト検出 | |
CN108369739B (zh) | 物体检测装置和物体检测方法 | |
US11669978B2 (en) | Method and device for estimating background motion of infrared image sequences and storage medium | |
CN112652021A (zh) | 相机偏移检测方法、装置、电子设备及存储介质 | |
CN110263754B (zh) | 屏下指纹去底纹方法、装置、计算机设备和存储介质 | |
CN111652314A (zh) | 温度检测方法、装置、计算机设备和存储介质 | |
CN111462178A (zh) | 基于热成像的活体流向检测方法、装置、设备及存储介质 | |
KR100994722B1 (ko) | 카메라 핸드오프를 이용한 다중 카메라상의 연속적인 물체추적 방법 | |
CN109658441A (zh) | 基于深度信息的前景检测方法及装置 | |
JP2006285358A (ja) | エッジトラッキング方法及びそのコンピュータプログラム | |
CN116883897A (zh) | 一种低分辨率目标识别方法 | |
JP6579816B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
CN111768427A (zh) | 一种多运动目标跟踪方法、装置及存储介质 | |
CN108846856B (zh) | 图片特征点的跟踪方法和跟踪装置 | |
CN110838134B (zh) | 目标对象的统计方法、装置、计算机设备和存储介质 | |
CN114882003A (zh) | 一种检测相机的拍摄位姿变化的方法、介质及计算设备 | |
KR101480824B1 (ko) | 다중 호모그래피 기법을 이용한 배경 움직임 보상 방법 | |
KR100332639B1 (ko) | 라인 매칭 기법을 이용한 이동 물체 검출 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |