CN109711332A - 一种基于回归算法的人脸跟踪方法及应用 - Google Patents
一种基于回归算法的人脸跟踪方法及应用 Download PDFInfo
- Publication number
- CN109711332A CN109711332A CN201811597050.7A CN201811597050A CN109711332A CN 109711332 A CN109711332 A CN 109711332A CN 201811597050 A CN201811597050 A CN 201811597050A CN 109711332 A CN109711332 A CN 109711332A
- Authority
- CN
- China
- Prior art keywords
- face
- tracking
- frame
- bbx
- algorithm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Abstract
本发明公开了一种基于回归算法的人脸跟踪方法及应用。本发明充分利用了待跟踪的目标是人脸这个先验信息,使得跟踪算法更具针对性,跟踪框的结果可以更加准确。所设计的人脸跟踪算法,主要由一个人脸跟踪网络和一组策略构成,能同时完成人脸框的跟踪以及跟踪结果是否依然为人脸的判断。所设计的人脸跟踪网络,采用一个单一、小型的神经网络,实现了端到端的训练以及快速的预测。所设计的人脸跟踪网络的输入仅与当前帧图像信息及上一帧的人脸框位置有关,而与上一帧及之前帧的人脸图像均无关。另外本发明还将跟踪算法和人脸检测算法进行结合,构成了一个完整的人脸检测跟踪算法,可实现视频中人脸的实时检测跟踪应用。
Description
技术领域
本发明属于计算机视觉技术领域,涉及一种基于回归算法的人脸跟踪方法及应用。
背景技术
嵌入式视频人脸识别等应用(如人脸考勤机等)中,人脸跟踪手段的应用,对于视频的实时处理等具备重要意义;跟踪结果的准确性也可进一步降低后续分析模块(如人脸质量判断)的难度。
现有的跟踪方法,主要有基于相关滤波的方法(如KCF等)、基于卷积神经网络的方法以及其他方法。这些方法,存在以下问题:
1. 没有利用待跟踪的目标是人脸这个先验信息,而是仅仅跟踪的是指定(或者事先框好)的一个视觉目标(可能是人眼,可能是嘴巴,可能是一只猫等等)。
2. 当目标发生旋转、形变,现有的跟踪方法往往难以得到位置准确的跟踪框(如,人脸从正面变成侧面等情况时)。
3. 对于跟踪目标消失、跟踪目标被遮挡、跟踪的人脸目标变成了后脑勺等,一般的跟踪算法(如KCF)只能给出图像中跟踪目标最可能的位置(跟踪框),而无法很好得给出跟踪框是否已经不再是一个原本要跟踪的目标这样的非常有效判断(尤其是当这种目标消失、遮挡、转向到后脑勺的过程是缓慢的)。(如专利CN108765470A,一种针对目标遮挡改进的KCF跟踪算法)
4. 类似KCF等单尺度的目标跟踪方法,当目标发生尺度变化时,难以得到准确的跟踪框,在这些算法基础上添加多尺度也难以包含所有尺度,同时还会带来耗时的快速增加。
5. 类似TLD(全称:Tracking-Learning-Detection,一种单目标长时跟踪算法),将传统跟踪算法和传统检测算法相结合来解决跟踪过程中目标发生遮挡等问题。TLD包含3个模块:跟踪模块、检测模块、学习模块,通过在线学习机制对检测模块和跟踪模块的内部参数不断更新,同时,检测模块和跟踪模块是相互独立且并行运行。整体上,TLD存在耗时大的问题。(如专利CN108765455A,一种基于TLD算法的目标稳定跟踪方法)(TLD的论文:Tracking-Learning-Detection,发表信息:IEEE Transactions on Pattern Analysisand Machine Intelligence,Volume:34,Issue:7,July 2012)。
总的来说,如何快速、准确得完成人脸框的跟踪以及准确判断出跟踪结果是否依然为人脸,是人脸跟踪所需要解决的问题。
发明内容
本发明针对现有技术的不足,一种基于回归算法的人脸跟踪方法及应用
本发明充分利用了待跟踪的目标是人脸这个先验信息,并设计小型的神经网络,完成人脸目标的快速准确跟踪。进一步,将该人脸跟踪算法和人脸检测算法进行结合,构成了一个完整的人脸检测跟踪方法(人脸检测器的引入,一方面是为人脸跟踪器提供了初始跟踪框,也为切换跟踪不同的人脸提供了可能),可实现视频中人脸的实时检测跟踪应用。
本发明的方法具体是:
1. 该人脸跟踪方法的输入输出为:
输入:上一帧中的人脸框位置和当前帧的图像。
输出:是否成功跟踪到人脸框的标记,更新后的人脸框位置(如果成功跟踪到人脸框)。
2. 人脸跟踪算法的算法流程为:
Step1. 根据提供的上一帧人脸框位置trk_face_bbx_old(由四个数值构成:cx_old,cy_old,wid_old,hei_old,分别为框的中心点的坐标以及框的宽高)和当前帧的图像,制作人脸跟踪网络的输入图像数据trknet_in_img(一个C*H*W的图片,C为通道数,H为高,W为宽)。具体包括如下过程:人脸框成比例外扩(上下左后分别外扩宽高的某个固定倍数),外扩后人脸框中的图像缩放成固定大小(C*H*W)的图像,并进一步进行像素值的归一化。
Step2. 将trknet_in_img输入到人脸跟踪网络,得到属于人脸的概率trknet_out_face_prob和指示人脸框位置的数据(或称为,相对人脸框)trknet_out_face_rel_bbx(由4个数值构成:dcx,dcy,sw,sh)。trknet_out_face_rel_bbx的4个数值含义为:目标人脸框中心点的相对偏移量(dxc,dcy)、目标人脸框的宽高的相对变化量的log值(sw,sh),均相对于trk_face_bbx_old的宽高。
Step3. 当trknet_out_face_prob大于某个事先设定的阈值thresh_face_prob,则认为跟踪到的结果是“人脸”,否则为“非人脸”。
Step4. 根据网络的输出trknet_out_face_rel_bbx,计算当前帧图像中的人脸框位置trk_face_bbx(cx,cy,wid,hei)
cx=cx_old+ dcx* wid_old
cy=cy_old+dcy*hei_old
wid=wid_old*exp(sw)
hei=hei_old*exp(sh)
Step5. 计算trk_face_bbx_old和trk_face_bbx之间的IOU(两个矩形框交集区域面积除以两个矩形框并集区域面积,用于度量两个矩形框之间的重叠度)。
Step6. 如果IOU值大于某个事先设定的阈值thresh_iou,且跟踪结果判断为人脸,则表示跟踪成功,否则表示跟踪失败(表明很有可能不是同一个人脸)。
Step7. 输出跟踪成功与否的标志及跟踪到的人脸框位置。
其中人脸跟踪网络,是设计出来的一个小型卷积网络,输入trknet_in_img是固定大小的图片,输出是属于人脸的概率trknet_out_face_prob和指示人脸框位置的数据(或称为,相对人脸框)trknet_out_face_rel_bbx(由4个数值构成:dcx,dcy,sw,sh)。
跟踪结果框的准确性主要取决于人脸跟踪网络的训练:训练样本、网络结构、训练机制。
人脸跟踪网络的训练样本:
1.1原始图片集(单张图片上可能有多个人脸)是一系列进行了准确的人脸框标注的图片集合。
1.2从已经标好人脸框的原始图片集中采集人脸跟踪网络训练所需的样本(正样本和负样本)。基于人脸标注框label_bbx,制作人脸跟踪网络所需的正负样本。
1.2.1 正样本:对label_bbx进行一定程度的随机缩放、平移,得到扰动后的框init_bbx,如果init_bbx与label_bbx之间的IOU值大于某个事先设定的阈值,则当前这个扰动框就可以作为一个正样本框;并进一步生成该正样本的跟踪框位置相关的待回归目标值trknet_gt_rel_bbx。trknet_gt_rel_bbx由4个数值构成:dcx,dcy,sw,sh,分别为label_bbx的中心点相对于init_bbx的中心点的相对偏移量,以及,label_bbx的宽高相对于init_bbx的宽高的相对变化量。并控制最终生成的正样本的IOU分布。如,根据IOU值将正样本分为3类,IOU属于(iou_p1, iou_p2]的为一类,IOU属于(iou_p2, iou_p3]的为一类,IOU属于(iou_p3, 1]的为一类,其中iou_p1< iou_p2< iou_p3<1。并控制这三类正样本之间的比例大致为某种事先设置好的比例ratio_p1:ratio_p2:ratio_p3。
1.2.2负样本:在人脸标注框的周围及原始图片集的图片中随机选定人脸初始框init_bbx,根据IOU的值(与当前图像中的所有人脸标注框进行比较得到的最大的IOU值)分为2类,IOU属于[0,iou_n1)的为一类,IOU为[iou_n1, iou_n2)的为一类,其中0<iou_n1<iou_n2,并控制这两类负样本之间的比例大致为某种事先设置好的比例ratio_n1:ratio_n2。
1.2.3 正负样本小图的制作:对init_bbx成比例外扩(上下左后分别外扩宽高的某个固定倍数),外扩后人脸框中的图像缩放成固定大小(C*H*W)的图像,并进行像素值的归一化,作为后续神经网络的输入。
人脸跟踪网络的网络结构:为实现快速的跟踪,基于SqueezeNet设计了一个小型有效的卷积网络,同时回归出了框位置信息trknet_out_face_rel_bbx(由4个数值构成:dcx,dcy,sw,sh)和属于人脸的概率trknet_out_face_pro(根据是否大于事先设置的阈值,可完成是否属于人脸的判断)。其中,框位置的回归值在共有特征的基础上再连接一个卷积层和一个全连接层得到,属于人脸的概率回归则是在共有特征的基础上再连接一个卷积层、一个全连接层、一个softmax层得到。
人脸跟踪网络训练机制:
训练所使用的损失函数:由框位置的回归损失(记为loss_bbx,采用Smooth L1 Loss)和属于人脸的概率的回归损失(记为loss_face_prop,采用Softmax Loss)进行加权构成,具体为loss_bbx+weight*loss_face_prop,其中weight为事先设置的权重。
整个人脸跟踪网络均是线下训练,不存在在线训练相关工作。通过线下大规模样本的训练,可以得到一个较好的跟踪模型。
本发明还可以与人脸检测算法结合,从而构成实时的人脸检测跟踪算法,完成对人脸框的准确跟踪及跟踪目标的切换(单帧最多跟踪一个人脸时),且不产生人脸框的滞留情况。在该方法中,跟踪的人脸框的定义是和检测的人脸框定义相同的,所以检测算法得到的人脸框位置和跟踪算法得到的人脸框位置,从定义上是一样的。使得本跟踪算法和检测算法结合一起使用时,整体的输出框定义是一致的。人脸跟踪算法和具体的人脸检测算法结合的一种方式,如下所示(人脸跟踪算法结合人脸检测算法实现的人脸检测跟踪流程图):
如果当前帧还没有待跟踪的目标:
判断当前帧是否满足调用人脸检测算法的条件(如必须偶数帧才进行检测等,以减少耗时),如满足则调用人脸检测算法进行检测:
Step1. 检测算法检测出当前帧上的人脸(可能是多个)。
Step2. 通过一定的规则(如,最大的人脸)选择一个人脸赋予ID,作为当前帧的输出人脸目标。
Step3. 输出跟踪/检测的结果:是否有检测到的人脸目标,有的话继续输出相应的人脸框、ID及其他附加信息(如跟踪持续帧数)。
如果有待跟踪的目标:
Step1. 判断是否要继续跟踪,还是需要重新启动人脸检测算法。(如果存在多个人脸,该操作提供了切换到其他跟踪目标的可能)。
Step2. 如果继续跟踪,则采用人脸跟踪算法进行跟踪,得到跟踪成功与否的判断以及跟踪到的人脸框位置。
Step3. 如果在当前帧重启人脸检测算法,则通过一定的规则选择一个检测出来的人脸赋予ID,作为当前帧的输出人脸目标。(如果选择出来的人脸框和待跟踪目标框的IOU大于某值,则ID不变(表明为同一人),否则ID进行更新)。
Step4. 输出跟踪/检测的结果:是否有检测到/跟踪到的人脸目标,有的话继续输出相应的人脸框、ID及其他附加信息(如跟踪持续帧数)。
本发明的有益效果:
1. 本发明针对人脸设计,保证跟踪的始终是人脸。
2. 本发明采用了小型的神经网络,耗时低,能够实时。
3. 本发明具有跟踪结果是否为人脸的判断,使得其跟踪持续性好(不需要人脸检测算法定期介入)。
4. 人脸跟踪网络采用单一的神经网络模型结构,同时实现人脸跟踪框的回归以及跟踪结果属于人脸的概率的回归。
5. 人脸跟踪网络基于大规模样本的线下训练,使得跟踪框足够准确,以及对人脸非人脸的判断也足够准确。
6. 采用本发明,由于其含有跟踪框是否为人脸的判断功能且准确,所以,即使人脸离开了图像,也不会出现跟踪框滞留现象(跟踪框滞留现象是指:目标已经不在图像中,但是目标的跟踪框依然存在的情况)。
7. 整个方法的耗时小,在和人脸检测算法结合构成一个完整的人脸检测跟踪方法(检测方法的引入为目标切换提供了可能)时,可以达到很好的实时效果(实际上在嵌入式设备上使用,可以达到非常好的实时效果)。
附图说明
图1. 人脸跟踪网络的网络结构图;
图2. 人脸跟踪算法的流程图;
图3. 人脸跟踪结合人脸检测实现的人脸检测跟踪流程图(单帧上的流程图)。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整的描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他的实施例,都属于本发明保护的范围。
如图2所示,本实施例的输入输出:
输入:上一帧中的人脸框位置trk_face_bbx_old(由四个数值构成:cx_old,cy_old,wid_old,hei_old,分别为框的中心点的坐标以及框的宽高)和当前帧的图像cur_image。
输出:是否成功跟踪到人脸框的标志(1:跟踪成功;0跟踪失败),更新后的人脸框位置trk_face_bbx(由四个数值构成:cx,cy,wid,hei,分别为框的中心点的坐标以及框的宽高)(如果成功跟踪到人脸框)。
人脸跟踪算法的算法流程为:
Step1. 根据提供的上一帧人脸框位置(也即,待跟踪人脸框)trk_face_bbx_old和当前帧的图像,制作人脸跟踪网络的输入数据trknet_in_img(一个C*H*W的图片,C为通道数,H为高,W为宽,其中,C=3(3为bgr彩色图像),H=32,W=32)。具体包括如下过程:人脸框成比例外扩(上下左后分别外扩宽高的0.3倍),外扩后人脸框中的图像缩放成固定大小(3*32*32)的图像,并进一步进行像素值的归一化(各像素值除以255)。
Step2. 将trknet_in_img输入到人脸跟踪网络,得到属于人脸的概率trknet_out_face_prob和指示人脸框位置的数据trknet_out_face_rel_bbx(由4个数值构成:dcx,dcy,sw,sh,该4个数值的含义可参见人脸跟踪网络正样本制作的相关内容进行类推,整体含义是中心点的相对偏移量以及宽高的相对变化量的log值)。
Step3. 当trknet_out_face_prob大于0.4,则认为跟踪到的结果是“人脸”,否则为“非人脸”。
Step4. 根据网络的输出trknet_out_face_rel_bbx,换算出当前帧图像中的人脸框位置trk_face_bbx(cx,cy,wid,hei)
cx=cx_old+ dcx* wid_old
cy=cy_old+dcy*hei_old
wid=wid_old*exp(sw)
hei=hei_old*exp(sh)
其中,exp()是以e为底的指数运算。
Step5. 计算trk_face_bbx_old和trk_face_bbx之间的IOU(两个矩形框交集区域面积除以两个矩形框并集区域面积,用于衡量2个矩形框之间的重叠度)。
Step6. 如果IOU值大于0.33,且跟踪结果判断为人脸,则表示跟踪成功,否则表示跟踪失败(表明很有可能不是同一个人脸)。
Step7. 输出跟踪成功与否的标志及跟踪到的人脸框位置。
上述实施例中的人脸跟踪网络
人脸跟踪网络的输入输出:
输入:固定大小的图片trknet_in_img(图像大小为:3*32*32)
输出:属于人脸的概率trknet_out_face_prob和指示人脸框位置的数据trknet_out_face_rel_bbx(由4个数值构成:dcx,dcy,sw,sh)。
人脸跟踪网络的训练
人脸跟踪网络的训练样本:
原始图片集(单张图片上可能有多个人脸)是一系列进行了准确的人脸框标注的图片集合(准确的标注,可以使得人脸跟踪网络所回归出来的人脸框比较精确),其图片数目约50万,标注的人脸约为60万。从已经标好人脸框的原始图片集中采集人脸跟踪网络训练所需的样本(正样本和负样本)。基于人脸标注框label_bbx(由中心点坐标和宽高构成),制作人脸跟踪网络所需的正负样本。
正样本:对label_bbx(含四个数值:cx_label, cy_label, wid_label, hei_label)进行一定程度(扰动程度最大为:如相对于label_bbx宽高的0.3)的随机缩放、平移,得到扰动后的框init_bbx(含四个数值:cx_init,cy_init,wid_init ,hei_init),如果init_bbx与label_bbx之间的IOU(框的交集面积/框的并集面积)值大于0.33,则当前这个扰动框就可以作为一个正样本框;并进一步生成该正样本的跟踪框位置相关的待回归目标值trknet_gt_rel_bbx。trknet_gt_rel_bbx由4个数值构成:dcx_gt,dcy_gt,sw_gt,sh_gt,分别为label_bbx的中心点相对于init_bbx的中心点的相对偏移量,以及,label_bbx的宽高相对于init_bbx的宽高的相对变化量的log值,具体计算公式:
dcx_gt = (cx_label- cx_init)/ wid_init
dcy_gt = (cy_label- cy_init)/hei_init
sw_gt = log(wid_label/ wid_init)
sh_gt = log(hei_label/hei_init)
其中,log()为以e为底的对数运算
同时,根据IOU值将正样本分为3类,IOU属于(0.33,0.55]的为一类,IOU属于(0.55,0.77]的为一类,IOU属于(0.77, 1]的为一类。并控制这三类正负样本之间的比例大致为0.8:1:0.8。如此控制,可以使得人脸跟踪网络可以对这些IOU值上的样本回归都尽可能好,且略有侧重点。如果对正样本的分布不加控制,则可能会存在生成的样本在各IOU值上的样本非常不均匀,如可能会出现主要集中在了IOU属于(0.55, 0.77]上,而其他段上的样本极少的问题。
负样本:人脸框的周围及在大图中随机出来的框init_bbx,根据IOU的值(与当前图像中的所有人脸标注框进行比较的得到的最大的IOU值)分为2类,IOU属于[0,0.1)的为一类,IOU为[0.1,0.33)的为一类,并控制这两类负样本之间的比例大致为0.3:1。
另外正样本与负样本之间的比例控制在1:1。
正负样本小图的制作:对init_bbx成比例外扩(上下左后分别外扩宽高的0.3倍),外扩后人脸框中的图像缩放成固定大小(3*32*32)的图像,并进行像素值的归一化(各像素值除以255处理),作为后续神经网络的输入。最后制作出来的正负样本数目可能是:正样本200万个,负样本200万个。
人脸跟踪网络的网络结构:参见附图1.人脸跟踪网络的网络结构图,图中卷基层的默认参数为:stride=1,pad=0。图中卷积层(Conv)中的第二行为:输出通道数*卷积核宽*卷积核高N*H*W:N为通道数,H为图片高度,W为图片宽度。训练所使用的损失函数:由框位置的回归损失(记为loss_bbx,采用Smooth L1 Loss)和属于人脸的概率的回归损失(记为loss_face_prop,采用Softmax Loss)进行加权构成,具体为loss_bbx+0.1*loss_face_prop。整个人脸跟踪网络均是线下caffe训练,不存在在线训练相关工作。通过线下大规模样本的训练,可以得到一个较好的跟踪模型。
人脸跟踪器结合人脸检测器实现人脸检测跟踪应用:设计了一组策略,将该人脸跟踪算法和具体的人脸检测算法结合,从而构成实时的人脸检测跟踪算法,完成对人脸框的准确跟踪及跟踪目标的切换(单帧最多跟踪一个人脸时),且不产生人脸框的滞留情况。在本实施例中,跟踪的人脸框的定义是和检测的人脸框定义相同的,所以检测算法得到的人脸框位置和跟踪算法得到的人脸框位置,从定义上是一样的。使得本跟踪算法和检测算法结合一起使用时,整体的输出框定义是一致的。人脸跟踪算法和具体的人脸检测算法结合的一种方式,如下所示(另外,也可参见附图3. 人脸跟踪算法结合人脸检测算法实现的人脸检测跟踪流程图;附图是单帧上的流程图,连续帧上,当前帧的输入为:当前帧的图像,上一帧上的跟踪结果(人脸框和ID)):
如果当前帧还没有待跟踪的目标:
判断当前帧是否满足调用人脸检测算法的条件(如必须偶数帧才进行检测等,以减少耗时),如满足则调用人脸检测算法进行检测:
Step1. 检测算法检测出当前帧上的人脸(可能是多个)。
Step2. 选择最大的人脸赋予ID,作为当前帧的输出人脸目标。
Step3. 输出跟踪/检测的结果:是否有检测到的人脸目标,有的话继续输出相应的人脸框、ID及当前目标持续跟踪帧数。
如果有待跟踪的目标:
Step1. 判断是否要继续跟踪,还是需要重新启动人脸检测算法(如果当前目标连续跟踪帧数为50的倍数,则重启人脸检测算法)。(如果存在多个人脸,该操作提供了切换到其他跟踪目标的可能)。
Step2. 如果继续跟踪,则采用人脸跟踪算法进行跟踪,得到跟踪成功与否的判断以及跟踪到的人脸框位置。
Step3. 如果在当前帧重启人脸检测算法,则选择最大的人脸赋予ID,作为当前帧的输出人脸目标。(如果选择出来的人脸框和待跟踪目标框的IOU大于某值(如0.33),则ID不变(表明为同一人),否则ID进行更新)
Step4. 输出跟踪/检测的结果:是否有检测到/跟踪到的人脸目标,有的话继续输出相应的人脸框、ID及当前目标持续跟踪帧数。
综上,本发明充分利用了待跟踪的目标是人脸这个先验信息,使得跟踪算法更具针对性,跟踪框的结果可以更加准确。(充分利用了待跟踪目标是人脸的这个先验信息,直接设计针对于人脸目标的跟踪算法。具体的是直接根据上一帧的人脸框,直接回归出在当前帧中的位置。具体的回归模型,则是采用了神经网络模型。)所设计的人脸跟踪算法,主要由一个人脸跟踪网络和一组策略构成,能同时完成人脸框的跟踪以及跟踪结果是否依然为人脸的判断。(进一步,基于人脸在帧间没有出现大的位移的假设,采用一些通用的策略判断是否为同一个人脸)。所设计的人脸跟踪网络,采用一个单一、小型的神经网络,实现了端到端的训练以及快速的预测。所设计的人脸跟踪网络,基于大规模且有准确人脸框标注的人脸样本的进行离线训练,网络模型无需在线更新。这样训练出来的网络,所回归得到的跟踪框可以非常精确,且对属于人脸的概率回归值也非常有效。所设计的人脸跟踪网络的输入仅与当前帧图像信息及上一帧的人脸框位置有关,而与上一帧及之前帧的人脸图像均无关。另外本发明还将跟踪算法和人脸检测算法进行结合,构成了一个完整的人脸检测跟踪算法,可实现视频中人脸的实时检测跟踪应用。
以上所述,仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围,应当理解,本发明并不限于这里所描述的实现方案,这些实现方案描述的目的在于帮助本领域中的技术人员实践本发明。
Claims (6)
1.一种基于回归算法的人脸跟踪方法,其特征在于该方法包括以下步骤:
步骤1. 确定人脸跟踪方法的输入和输出:
输入:上一帧中的人脸框位置和当前帧的图像;
输出:是否成功跟踪到人脸框的标记,如果成功跟踪到人脸框,则更新后的人脸框位置;
步骤2. 执行人脸跟踪算法,具体是:
2-1. 根据提供的上一帧人脸框位置trk_face_bbx_old和当前帧的图像,制作人脸跟踪网络的输入图像数据trknet_in_img;
2-2. 将输入图像数据trknet_in_img输入到人脸跟踪网络,得到属于人脸的概率trknet_out_face_prob和指示人脸框位置的数据trknet_out_face_rel_bbx;
2-3. 当人脸的概率trknet_out_face_prob大于某个设定的阈值thresh_face_prob时,则认为跟踪到的结果是“人脸”,否则为“非人脸”;
2-4. 根据网络的输出指示人脸框位置的数据trknet_out_face_rel_bbx,计算当前帧图像中的人脸框位置trk_face_bbx;
2-5. 计算上一帧人脸框位置trk_face_bbx_old和当前帧图像中的人脸框位置trk_face_bbx之间的重叠度IOU;
2-6. 如果重叠度IOU值大于某个设定的阈值thresh_iou,且跟踪结果判断为人脸,则表示跟踪成功,否则表示跟踪失败;
2-7. 输出跟踪成功与否的标志及跟踪到的人脸框位置。
2.根据权利要求1所述的一种基于回归算法的人脸跟踪方法,其特征在于:步骤2.1中制作人脸跟踪网络的输入图像数据trknet_in_img具体是:人脸框成比例外扩,外扩后人脸框中的图像缩放成固定大小的图像,并进一步进行像素值的归一化。
3.根据权利要求1所述的一种基于回归算法的人脸跟踪方法,其特征在于:步骤2.2中所述的人脸跟踪网络是一个基于SqueezeNet设计的小型有效的卷积网络,其中,指示人脸框位置的数据trknet_out_face_rel_bbx是在共有特征的基础上再连接一个卷积层和一个全连接层得到;属于人脸的概率trknet_out_face_prob是在共有特征的基础上再连接一个卷积层、一个全连接层、一个softmax层得到;
所述的人脸跟踪网络在使用前需要先进行训练,其训练样本的获取过程为:采集原始图片集,该原始图片集是一系列进行了准确的人脸框标注的图片集合;从已经标好人脸框的原始图片集中采集人脸跟踪网络训练所需的样本,包括正样本和负样本,基于人脸标注框label_bbx,制作人脸跟踪网络所需的正负样本;
所述的人脸跟踪网络的训练机制为:该训练所使用的损失函数由指示人脸框框位置的回归损失和属于人脸的概率的回归损失进行加权构成。
4.根据权利要求3所述的一种基于回归算法的人脸跟踪方法,其特征在于:正样本的制作过程为:对人脸标注框label_bbx进行一定程度的随机缩放、平移,得到扰动后的人脸初始框init_bbx,如果扰动后的人脸标注框与之前的人脸标注框之间的重叠度IOU大于某个设定的阈值,则当前这个扰动后的人脸标注框框就作为一个正样本框;并进一步生成该正样本的跟踪框位置相关的待回归目标值trknet_gt_rel_bbx;待回归目标值trknet_gt_rel_bbx由4个数值构成:dcx,dcy,sw,sh,分别为扰动后的人脸标注框label_bbx的中心点相对于扰动后的人脸初始框init_bbx的中心点的相对偏移量,以及,扰动后的人脸标注框label_bbx的宽高相对于人脸初始框init_bbx的宽高的相对变化量,并控制最终生成的正样本的重叠度分布。
5.根据权利要求3所述的一种基于回归算法的人脸跟踪方法,其特征在于:负样本的制作过程为:在人脸标注框的周围及原始图片集的图片中随机选定人脸初始框init_bbx。
6.一种基于回归算法的人脸跟踪方法在人脸检测跟踪方法中的应用:
判断当前帧有无待跟踪的目标,有待跟踪的目标,则判断是否要继续跟踪,还是需要重新启动人脸检测算法;
如果继续跟踪,则采用人脸跟踪算法进行跟踪,得到跟踪成功与否的判断以及跟踪到的人脸框位置;
如果在当前帧重启人脸检测算法,则通过选择一个检测出来的人脸赋予ID,作为当前帧的输出人脸目标;
输出跟踪或检测的结果:是否有检测到或跟踪到的人脸目标,有的话继续输出相应的人脸框、ID及其他附加信息;
如果当前帧还没有待跟踪的目标,判断当前帧是否满足调用人脸检测算法的条件,如满足则调用人脸检测算法进行检测:
人脸检测算法检测出当前帧上的人脸,选择一个人脸赋予ID,作为当前帧的输出人脸目标;
输出跟踪或检测的结果:是否有检测到的人脸目标,有的话继续输出相应的人脸框、ID及其他附加信息。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811597050.7A CN109711332B (zh) | 2018-12-26 | 2018-12-26 | 一种基于回归算法的人脸跟踪方法及应用 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811597050.7A CN109711332B (zh) | 2018-12-26 | 2018-12-26 | 一种基于回归算法的人脸跟踪方法及应用 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109711332A true CN109711332A (zh) | 2019-05-03 |
CN109711332B CN109711332B (zh) | 2021-03-26 |
Family
ID=66258274
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811597050.7A Active CN109711332B (zh) | 2018-12-26 | 2018-12-26 | 一种基于回归算法的人脸跟踪方法及应用 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109711332B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110363126A (zh) * | 2019-07-04 | 2019-10-22 | 杭州视洞科技有限公司 | 一种多人脸实时跟踪与择优算法 |
CN110689557A (zh) * | 2019-09-21 | 2020-01-14 | 天津大学 | 一种基于kcf的改进型抗遮挡目标跟踪方法 |
CN111145215A (zh) * | 2019-12-25 | 2020-05-12 | 北京迈格威科技有限公司 | 一种目标跟踪方法及装置 |
CN111339936A (zh) * | 2020-02-25 | 2020-06-26 | 杭州涂鸦信息技术有限公司 | 人脸跟踪方法及其系统 |
CN111563466A (zh) * | 2020-05-12 | 2020-08-21 | Oppo广东移动通信有限公司 | 人脸检测方法及相关产品 |
Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105701466A (zh) * | 2016-01-13 | 2016-06-22 | 杭州奇客科技有限公司 | 快速的全角度人脸跟踪方法 |
US20160275339A1 (en) * | 2014-01-13 | 2016-09-22 | Carnegie Mellon University | System and Method for Detecting and Tracking Facial Features In Images |
CN106709936A (zh) * | 2016-12-14 | 2017-05-24 | 北京工业大学 | 一种基于卷积神经网络的单目标跟踪方法 |
CN106845430A (zh) * | 2017-02-06 | 2017-06-13 | 东华大学 | 基于加速区域卷积神经网络的行人检测与跟踪方法 |
CN106875422A (zh) * | 2017-02-06 | 2017-06-20 | 腾讯科技(上海)有限公司 | 人脸跟踪方法和装置 |
CN106909888A (zh) * | 2017-01-22 | 2017-06-30 | 南京开为网络科技有限公司 | 应用于移动设备端的人脸关键点跟踪系统及方法 |
CN107527355A (zh) * | 2017-07-20 | 2017-12-29 | 中国科学院自动化研究所 | 基于卷积神经网络回归模型的视觉跟踪方法、装置 |
CN108197604A (zh) * | 2018-01-31 | 2018-06-22 | 上海敏识网络科技有限公司 | 基于嵌入式设备的快速人脸定位跟踪方法 |
CN108229442A (zh) * | 2018-02-07 | 2018-06-29 | 西南科技大学 | 基于ms-kcf的图像序列中人脸快速稳定检测方法 |
CN108346159A (zh) * | 2018-01-28 | 2018-07-31 | 北京工业大学 | 一种基于跟踪-学习-检测的视觉目标跟踪方法 |
CN108875588A (zh) * | 2018-05-25 | 2018-11-23 | 武汉大学 | 基于深度学习的跨摄像头行人检测跟踪方法 |
US10147023B1 (en) * | 2016-10-20 | 2018-12-04 | Disney Enterprises, Inc. | Markerless face tracking with synthetic priors |
CN108986143A (zh) * | 2018-08-17 | 2018-12-11 | 浙江捷尚视觉科技股份有限公司 | 一种视频中目标检测跟踪方法 |
-
2018
- 2018-12-26 CN CN201811597050.7A patent/CN109711332B/zh active Active
Patent Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160275339A1 (en) * | 2014-01-13 | 2016-09-22 | Carnegie Mellon University | System and Method for Detecting and Tracking Facial Features In Images |
CN105701466A (zh) * | 2016-01-13 | 2016-06-22 | 杭州奇客科技有限公司 | 快速的全角度人脸跟踪方法 |
US10147023B1 (en) * | 2016-10-20 | 2018-12-04 | Disney Enterprises, Inc. | Markerless face tracking with synthetic priors |
CN106709936A (zh) * | 2016-12-14 | 2017-05-24 | 北京工业大学 | 一种基于卷积神经网络的单目标跟踪方法 |
CN106909888A (zh) * | 2017-01-22 | 2017-06-30 | 南京开为网络科技有限公司 | 应用于移动设备端的人脸关键点跟踪系统及方法 |
CN106845430A (zh) * | 2017-02-06 | 2017-06-13 | 东华大学 | 基于加速区域卷积神经网络的行人检测与跟踪方法 |
CN106875422A (zh) * | 2017-02-06 | 2017-06-20 | 腾讯科技(上海)有限公司 | 人脸跟踪方法和装置 |
CN107527355A (zh) * | 2017-07-20 | 2017-12-29 | 中国科学院自动化研究所 | 基于卷积神经网络回归模型的视觉跟踪方法、装置 |
CN108346159A (zh) * | 2018-01-28 | 2018-07-31 | 北京工业大学 | 一种基于跟踪-学习-检测的视觉目标跟踪方法 |
CN108197604A (zh) * | 2018-01-31 | 2018-06-22 | 上海敏识网络科技有限公司 | 基于嵌入式设备的快速人脸定位跟踪方法 |
CN108229442A (zh) * | 2018-02-07 | 2018-06-29 | 西南科技大学 | 基于ms-kcf的图像序列中人脸快速稳定检测方法 |
CN108875588A (zh) * | 2018-05-25 | 2018-11-23 | 武汉大学 | 基于深度学习的跨摄像头行人检测跟踪方法 |
CN108986143A (zh) * | 2018-08-17 | 2018-12-11 | 浙江捷尚视觉科技股份有限公司 | 一种视频中目标检测跟踪方法 |
Non-Patent Citations (4)
Title |
---|
DAVID HELD 等: "Learning to Track at 100 FPS with Deep Regression Networks", 《ARXIV》 * |
任梓涵 等: "基于视觉跟踪的实时视频人脸识别", 《厦门大学学报(自然科学版)》 * |
吴汉钊: "基于孪生卷积神经网络的人脸追踪", 《计算机工程与应用》 * |
管皓 等: "在线单目标视频跟踪算法综述", 《小型微型计算机系统》 * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110363126A (zh) * | 2019-07-04 | 2019-10-22 | 杭州视洞科技有限公司 | 一种多人脸实时跟踪与择优算法 |
CN110689557A (zh) * | 2019-09-21 | 2020-01-14 | 天津大学 | 一种基于kcf的改进型抗遮挡目标跟踪方法 |
CN111145215A (zh) * | 2019-12-25 | 2020-05-12 | 北京迈格威科技有限公司 | 一种目标跟踪方法及装置 |
CN111145215B (zh) * | 2019-12-25 | 2023-09-05 | 北京迈格威科技有限公司 | 一种目标跟踪方法及装置 |
CN111339936A (zh) * | 2020-02-25 | 2020-06-26 | 杭州涂鸦信息技术有限公司 | 人脸跟踪方法及其系统 |
CN111563466A (zh) * | 2020-05-12 | 2020-08-21 | Oppo广东移动通信有限公司 | 人脸检测方法及相关产品 |
CN111563466B (zh) * | 2020-05-12 | 2023-10-10 | Oppo广东移动通信有限公司 | 人脸检测方法及相关产品 |
Also Published As
Publication number | Publication date |
---|---|
CN109711332B (zh) | 2021-03-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109711332A (zh) | 一种基于回归算法的人脸跟踪方法及应用 | |
CN109034013B (zh) | 一种人脸图像识别方法、装置及存储介质 | |
CN108898118B (zh) | 一种视频数据处理方法、装置和存储介质 | |
CN108470353A (zh) | 一种目标跟踪方法、装置和存储介质 | |
US20090052783A1 (en) | Similar shot detecting apparatus, computer program product, and similar shot detecting method | |
JP2007042072A (ja) | 追跡装置 | |
CN109325456A (zh) | 目标识别方法、装置、目标识别设备及存储介质 | |
Wu et al. | Eyenet: A multi-task deep network for off-axis eye gaze estimation | |
CN109767453A (zh) | 信息处理装置、背景图像更新方法和非暂态计算机可读存储介质 | |
JP7422456B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
CN109447066A (zh) | 一种快速精确的单阶段目标检测方法及装置 | |
Kuai et al. | Masked and dynamic Siamese network for robust visual tracking | |
CN116645396A (zh) | 轨迹确定方法、装置、计算机可读存储介质及电子设备 | |
Kurihara et al. | Non-contact heart rate estimation via adaptive rgb/nir signal fusion | |
CN108416800A (zh) | 目标跟踪方法及装置、终端、计算机可读存储介质 | |
CN107506691A (zh) | 一种基于肤色检测的唇部定位方法和系统 | |
KR20190009006A (ko) | 전역적 움직임 기반의 실시간 다중 객체 추적 장치 및 방법 | |
CN109949344A (zh) | 一种基于颜色概率目标建议窗口的核相关滤波跟踪方法 | |
CN114022514A (zh) | 一种融合头部姿态和眼球跟踪的实时视线推断方法 | |
CN116453198B (zh) | 一种基于头部姿态差异的视线校准方法和装置 | |
CN108108709A (zh) | 一种识别方法及装置、计算机存储介质 | |
JP2006285358A (ja) | エッジトラッキング方法及びそのコンピュータプログラム | |
CN109003264B (zh) | 一种视网膜病变图像类型识别方法、装置和存储介质 | |
WO2012153868A1 (ja) | 情報処理装置、情報処理方法および情報処理プログラム | |
CN109685826A (zh) | 自适应特征选择的目标追踪方法、系统及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right |
Effective date of registration: 20230515 Address after: Room 319-2, 3rd Floor, Building 2, No. 262 Wantang Road, Xihu District, Hangzhou City, Zhejiang Province, 310012 Patentee after: Hangzhou Jieshang Safety Equipment Co.,Ltd. Address before: 311121 East Building, building 7, No. 998, Wenyi West Road, Wuchang Street, Yuhang District, Hangzhou City, Zhejiang Province Patentee before: ZHEJIANG ICARE VISION TECHNOLOGY Co.,Ltd. |
|
TR01 | Transfer of patent right |