CN111354022B - 基于核相关滤波的目标跟踪方法及系统 - Google Patents

Abstract

本公开的实施例提供了基于核相关滤波的目标跟踪方法、系统、设备和计算机可读存储介质。所述方法包括在第一帧中得到目标的检测边界框，将目标分配为活跃状态；根据检测边界框进行核相关滤波训练；在后续帧中进行核相关滤波检测，得到核相关滤波跟踪候选框；与后续帧中检测边界框进行匹配；若匹配成功，保持为跟踪状态，利用核相关滤波跟踪候选框与检测边界框得到最终跟踪边界框，更新目标的核相关滤波追踪器；若匹配失败，将后续帧检测到的目标分配为跟丢状态，从过去帧中找出丢失的目标并计算相似距离；若小于阈值，分配为跟踪状态；否则分配为活跃状态。以此方式，鲁棒性更强；充分利用了单目标跟踪中相关滤波技术产生的高效跟踪框。

Description

基于核相关滤波的目标跟踪方法及系统

技术领域

本公开的实施例一般涉及计算机视觉领域，并且更具体地，涉及基于核相关滤波的目标跟踪方法、系统、设备和计算机可读存储介质。

背景技术

在线多目标跟踪是计算机视觉领域的一个重要内容，在无人驾驶、运动分析、机器人导航和军事打击等方向具有非常广泛的应用。在线多目标跟踪的目的是在视频序列中估计不同目标的位置，并且保持他们身份的一致性，进而形成各自具有较高准确率的轨迹。

在线多目标跟踪中面临的问题主要有成像质量下降、噪声和背景干扰、频繁遮挡、不同目标之间的相似外观、光照变化、同一目标的外观变化、目标运动模式的变化、被跟踪目标数目的不确定性等等；因此，在线多目标跟踪是计算机视觉领域中的一个极富有挑战性的任务。

数据关联是在线多目标跟踪中中非常重要的环节，关于数据关联，目前也存在着诸多方法，如强化学习、局部数据关联、全局数据关联和局部与全局相结合的数据关联等。为了提高多目标跟踪系统中数据关联的实时性，现有技术往往使用较为简单的外观特征，这是现有技术的第一大缺点。事实上，外观模型对于进行鲁棒的多目标跟踪非常重要。相关滤波在单目标跟踪领域发展迅速，但终究是只能跟踪一个目标，而不能用于跟踪多个目标。这是现有技术的第二大缺点。

发明内容

根据本公开的实施例，提供了一种基于核相关滤波的目标跟踪方案。

在本公开的第一方面，提供了一种基于核相关滤波的目标跟踪方法。该方法包括在视频序列的第一帧中进行目标检测，得到目标的检测边界框，将检测得到的目标分配为活跃状态；根据目标的检测边界框进行核相关滤波训练，得到目标的核相关滤波追踪器；在后续帧中进行核相关滤波检测，得到目标的核相关滤波跟踪候选框；将目标的核相关滤波跟踪候选框与后续帧中进行目标检测得到的目标的检测边界框进行匹配；若匹配成功，将匹配成功的目标保持为跟踪状态；对跟踪状态的目标，利用核相关滤波跟踪候选框与检测边界框得到最终跟踪边界框，更新目标的核相关滤波追踪器；若匹配失败，将后续帧检测到的目标分配为跟丢状态；对跟丢状态的目标，从过去帧中找出丢失的目标并计算相似距离；若小于阈值，则认为是目标重现，分配为跟踪状态；否则标记为新的目标，分配为活跃状态。

如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述目标检测包括根据预先训练的Faster-RCNN模型进行目标检测。

如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，在后续帧中进行核相关滤波检测，得到目标的核相关滤波跟踪候选框包括：

基于当前帧的检测结果的位置获取核相关滤波的跟踪结果，作为候选跟踪框。

如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，将目标的核相关滤波跟踪候选框与后续帧中进行目标检测得到的目标的检测边界框进行匹配包括：

将目标的核相关滤波跟踪候选框与后续帧中进行光流检测得到的光流跟踪框通过加权平均产生跟踪融合框；将所述跟踪融合框与后续帧中进行目标检测得到的目标的检测边界框进行匹配。

如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，利用核相关滤波跟踪候选框与检测边界框得到最终跟踪边界框，更新目标的核相关滤波追踪器包括：

利用所述跟踪融合框与检测边界框通过加权平均产生最终跟踪边界框，根据所述最终跟踪边界框进行核相关滤波训练，更新目标的核相关滤波追踪器。

如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，将目标的核相关滤波跟踪候选框与后续帧中进行光流检测得到的光流跟踪框通过加权平均产生跟踪融合框之前，将目标的核相关滤波跟踪候选框与后续帧中进行光流检测得到的光流跟踪框进行相互关联。

如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述方法还包括：

重复对后续帧的上述操作，直至视频序列的结束帧。

在本公开的第二方面，提供了一种基于核相关滤波的目标跟踪系统。该系统包括目标检测模块，用于在视频序列的第一帧中进行目标检测，得到目标的检测边界框，将检测得到的目标分配为活跃状态；还用于在后续帧中进行目标检测；核相关滤波检测模块，用于根据目标的检测边界框进行核相关滤波训练，得到目标的核相关滤波追踪器；在后续帧中进行核相关滤波检测，得到目标的核相关滤波跟踪候选框；匹配模块，用于将目标的核相关滤波跟踪候选框与后续帧中进行目标检测得到的目标的检测边界框进行匹配；若匹配成功，将匹配成功的目标保持为跟踪状态；对跟踪状态的目标，利用核相关滤波跟踪候选框与检测边界框得到最终跟踪边界框，更新目标的核相关滤波追踪器；若匹配失败，将后续帧检测到的目标分配为跟丢状态；对跟丢状态的目标，从过去帧中找出丢失的目标并计算相似距离；若小于阈值，则认为是目标重现，分配为跟踪状态；否则标记为新的目标，分配为活跃状态。

在本公开的第三方面，提供了一种电子设备。该电子设备包括：存储器和处理器，所述存储器上存储有计算机程序，所述处理器执行所述程序时实现如以上所述的方法。

在本公开的第四方面，提供了一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现如根据本公开的第一方面的方法。

应当理解，发明内容部分中所描述的内容并非旨在限定本公开的实施例的关键或重要特征，亦非用于限制本公开的范围。本公开的其它特征将通过以下的描述变得容易理解。

附图说明

结合附图并参考以下详细说明，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。在附图中，相同或相似的附图标记表示相同或相似的元素，其中：

图1示出了根据本公开的实施例的基于核相关滤波的目标跟踪方法的流程图；

图2示出了根据本公开的实施例的基于核相关滤波的目标跟踪系统的方框图；

图3示出了能够实施本公开的实施例的示例性电子设备的方框图。

具体实施方式

为使本公开实施例的目的、技术方案和优点更加清楚，下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本公开一部分实施例，而不是全部的实施例。基于本公开中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例，都属于本公开保护的范围。

另外，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。

图1示出了根据本公开实施例的基于核相关滤波的目标跟踪方法100的流程图。如图1所示，所述方法100包括以下步骤：

在框102，在视频序列的第一帧中进行目标检测，得到目标的检测边界框，将检测得到的目标分配为活跃状态；根据目标的检测边界框进行核相关滤波训练，得到目标的核相关滤波追踪器；

在一些实施例中，把在线多目标跟踪的问题建模成一个马尔科夫决策问题，并且用光流法做模板跟踪。在马尔科夫策略中，一个目标的生命周期用一个带有四个状态子空间的马尔科夫决策过程来建模，这四个状态子空间分别是活跃(Active)状态、跟踪(Tracked)状态、跟丢(Lost)状态和失活(Inactive)状态。活跃(Active)状态是任意目标的初始状态，只要目标能被目标检测器检测到，该目标就进入了活跃(Active)状态。活跃(Active)状态的目标可以转换到跟踪(Tracked)状态，或者失活(Inactive)状态。一般情况下，被目标检测器检测出来的目标会转换到跟踪(Tracked)状态，而误警会转换成失活(Inactive)状态。一个正在跟踪的目标能够继续保持跟踪(Tracked)状态，也可以由于漏检、遮挡、视野消失等原因将目标跟丢，进而将目标转换成跟丢(Lost)状态。一个跟丢(Lost)的目标可以保持在跟丢(Lost)状态，或者若该目标再次出现在视野中而转换成跟踪(Tracked)状态，再或者由于目标长时间跟丢(Lost)而将目标转换为失活(Inactive)状态；对于Lost状态，采用目标相似性判断方法解决目标重现问题。失活(Inactive)状态是任意目标的终止状态，处于失活(Inactive)状态的目标将会一直处于失活(Inactive)状态。

在一些实施例中，对第一帧图像根据预先训练的Faster-RCNN模型进行目标检测，Faster RCNN网络对于一副任意大小P*Q的图像，首先缩放至固定大小M*N，然后将M*N大小的图像送入网络；其Conv layers中包含了13个conv层+13个relu层+4个pooling层，所述Conv layers提取image的feature maps，该feature maps被共享用于后续RPN层和全连接层；RPN网络首先经过3x3卷积，再分别生成foreground anchors与bounding boxregression偏移量，然后计算出proposals；而Roi Pooling层则利用proposals从featuremaps中提取proposal feature送入后续全连接和softmax网络作classification。

在一些实施例中，以飞机为目标，对于通过Faster-RCNN模型检测到的目标，选择飞机部分。

在一些实施例中，对根据Faster-RCNN模型检测到的目标的检测边界框进行核相关滤波训练，得到各目标的核相关滤波追踪器。

在框104，在后续帧中，进行核相关滤波检测，得到目标的核相关滤波跟踪候选框；将目标的所述核相关滤波跟踪候选框与当前帧进行目标检测得到的检测边界框进行匹配；

在一些实施例中，对后续帧，例如第二帧，根据预先训练的Faster-RCNN模型进行目标检测，得到第二帧中各目标的检测边界框。

在一些实施例中，对后续帧，例如第二帧，采用光流法进行目标检测，得到第二帧中各目标的光流跟踪边界框。对上一帧，例如第一帧，中检测得到的各目标，找到其具有代表性的关键特征点，在当前帧，例如第二帧中，寻找上一帧中目标的关键特征点在当前帧中的位置坐标，进而确定当前帧中各目标的光流跟踪边界框。

在一些实施例中，所述核相关滤波采用的是根据框302中训练得到的各目标的核相关滤波追踪器。在对一个目标进行跟踪处理时，基于当前帧而非前一帧的检测结果的位置获取核相关滤波的跟踪结果，作为多目标跟踪的一种候选跟踪框。滤波响应特征就是核相关滤波响应图的最大响应值，在多目标跟踪中该值可以反映出目标的外观变化，作为外观相似性度量的一条线索。为了获得该响应图，通过框302训练的核相关滤波器模型对当前帧的检测结果的位置做检测从而产生响应图，进而获取核相关滤波跟踪候选框。

在一些实施例中，将核相关滤波跟踪候选框与光流跟踪框两种跟踪边界框通过加权平均的方式相结合，产生跟踪融合框。核相关滤波跟踪候选框与光流跟踪框的权重相等。

对于多目标跟踪，前后帧中检测到的目标数量是变化的、不确定的，在将同一目标的核相关滤波跟踪候选框与光流跟踪框两种跟踪边界框进行结合之前，需要将各目标的核相关滤波跟踪候选框与光流跟踪框相互关联。

所述相互关联，通过计算核相关滤波跟踪候选框与光流跟踪框的交并比。例如，在上一帧训练了N个核相关滤波追踪器，当前帧检测到N个目标，则将这些目标一一计算其交换比，构成一个大小为M*N的交并比矩阵，并进行优化，例如匈牙利算法优化，得到最佳关联结果。例如，当核相关滤波跟踪候选框与光流跟踪框的重叠率为1，则完全匹配；若为0，则完全不相关。当重叠率大于预设阈值，则将其相互关联。

在一些实施例中，将将各目标的跟踪融合框与检测边界框进行匹配。

在框106，若匹配成功，将匹配成功的目标保持为跟踪状态；对跟踪状态的目标，利用核相关滤波跟踪候选框与检测边界框得到最终跟踪边界框，更新各目标的核相关滤波追踪器；

一般而言，误警不能被持续检测到，所以，本公开实施例为了降低误警，在进行跟踪处理时利用所述跟踪融合框与检测边界框通过加权平均的方式相结合，得到最终跟踪边界框。跟踪融合框与检测边界框的权重相等。

在一些实施例中，在进行结合之前，需要将各目标的跟踪融合框与检测边界框相互关联。所述相互关联的方式不再赘述。

在框108，若匹配失败，将当前帧检测到的目标分配为跟丢状态；对跟丢状态的目标，从过去帧中找出丢失的目标并计算相似距离；若小于阈值，则认为是目标重现，分配为跟踪状态；否则标记为新的目标，分配为活跃状态；

在多目标跟踪过程中，目标可能会出现被遮挡、消失后重现等情况，如果不进行目标外观判断就会把重现的目标作为新目标，从而导致目标追踪错误。

在一些实施例中，将跟丢状态的目标作为新出现的目标，与过去帧中丢失的目标进行相似性判断，例如计算两个目标对应位置像素差的平均值，作为相似度距离，若小于预设阈值，则认为是目标重现；否则标记为新出现的目标。所述相似性判断的特征向量可以包括前后向(FB)误差，归一化相关系数(NCC)，高度比，检测置信度，目标和检测之间的距离。

在一些实施例中，若某一目标连续多帧未出现，则将其从跟丢状态分配为失活状态。例如，将最大生存时间设置为8帧，若目标处于跟丢状态超过8帧，则认为目标消失，分配为失活状态。所述最大生存时间越大，跟丢状态的目标重新回到跟踪状态的概率越大，但其处理时间越长。

在框110，判断当前帧是否为视频序列结束帧，若否，重复框104-框108，直到视频序列结束。

根据本公开的实施例，实现了以下技术效果：

1.外观模型鲁棒更强。外观模型对于进行鲁棒的数据关联非常重要，本公开实施例中，核相关滤波的最大响应值是将核相关滤波器作用于当前帧目标检测的检测位置的响应峰值，可有效增加外观特征的鲁棒性。

2.充分利用了单目标跟踪中相关滤波技术产生的高效跟踪框。在本公开实施例中，基于当前帧而非前一帧的检测结果的位置获取核相关滤波的跟踪结果，作为多目标跟踪的一种候选跟踪框；然后，将该边界框与光流跟踪框两种跟踪边界框通过一种加权平均的方式相结合，得到了跟踪结果较为准确的最终跟踪边界框，作为多目标跟踪的结果。

需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本公开并不受所描述的动作顺序的限制，因为依据本公开，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于可选实施例，所涉及的动作和模块并不一定是本公开所必须的。

以上是关于方法实施例的介绍，以下通过装置实施例，对本公开所述方案进行进一步说明。

图2示出了根据本公开的实施例的基于核相关滤波的目标跟踪系统200的方框图。如图2所示，系统200包括：

目标检测模块202，用于在视频序列的第一帧中进行目标检测，得到目标的检测边界框，将检测得到的目标分配为活跃状态；还用于在后续帧中进行目标检测；

核相关滤波检测模块204，用于根据目标的检测边界框进行核相关滤波训练，得到目标的核相关滤波追踪器；在后续帧中进行核相关滤波检测，得到目标的核相关滤波跟踪候选框；

匹配模块206，用于将目标的核相关滤波跟踪候选框与后续帧中进行目标检测得到的目标的检测边界框进行匹配；若匹配成功，将匹配成功的目标保持为跟踪状态；对跟踪状态的目标，利用核相关滤波跟踪候选框与检测边界框得到最终跟踪边界框，更新目标的核相关滤波追踪器；若匹配失败，将后续帧检测到的目标分配为跟丢状态；对跟丢状态的目标，从过去帧中找出丢失的目标并计算相似距离；若小于阈值，则认为是目标重现，分配为跟踪状态；否则标记为新的目标，分配为活跃状态。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，所述描述的模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

图3示出了可以用来实施本公开的实施例的电子设备300的示意性框图。设备300可以用于实现图2的系统200。如图所示，设备300包括中央处理单元(CPU)301，其可以根据存储在只读存储器(ROM)302中的计算机程序指令或者从存储单元308加载到随机访问存储器(RAM)303中的计算机程序指令，来执行各种适当的动作和处理。在RAM 303中，还可以存储设备300操作所需的各种程序和数据。CPU 301、ROM 302以及RAM 303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。

设备300中的多个部件连接至I/O接口305，包括：输入单元306，例如键盘、鼠标等；输出单元307，例如各种类型的显示器、扬声器等；存储单元308，例如磁盘、光盘等；以及通信单元309，例如网卡、调制解调器、无线通信收发机等。通信单元309允许设备300通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

处理单元301执行上文所描述的各个方法和处理，例如方法100。例如，在一些实施例中，方法100可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元308。在一些实施例中，计算机程序的部分或者全部可以经由ROM 302和/或通信单元309而被载入和/或安装到设备300上。当计算机程序加载到RAM 303并由CPU 301执行时，可以执行上文描述的方法100的一个或多个步骤。备选地，在其他实施例中，CPU 301可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行方法100。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)等等。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

此外，虽然采用特定次序描绘了各操作，但是这应当理解为要求这样操作以所示出的特定次序或以顺序次序执行，或者要求所有图示的操作应被执行以取得期望的结果。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实现中。相反地，在单个实现的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实现中。

尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (6)

1.一种基于核相关滤波的目标跟踪方法，其特征在于，包括：

在视频序列的第一帧中进行目标检测，得到目标的检测边界框，将检测得到的目标分配为活跃状态；根据目标的检测边界框进行核相关滤波训练，得到目标的核相关滤波追踪器；

基于当前帧的检测结果的位置获取核相关滤波的跟踪结果，作为目标的核相关滤波跟踪候选框；将目标的核相关滤波跟踪候选框与后续帧中进行光流检测得到的光流跟踪框通过加权平均产生跟踪融合框；将所述跟踪融合框与后续帧中进行目标检测得到的目标的检测边界框进行匹配；其中，

所述将目标的核相关滤波跟踪候选框与后续帧中进行光流检测得到的光流跟踪框通过加权平均产生跟踪融合框之前，将目标的核相关滤波跟踪候选框与后续帧中进行光流检测得到的光流跟踪框进行相互关联；

若匹配成功，将匹配成功的目标保持为跟踪状态；对跟踪状态的目标，利用所述跟踪融合框与检测边界框通过加权平均产生最终跟踪边界框，根据所述最终跟踪边界框进行核相关滤波训练，更新目标的核相关滤波追踪器；

若匹配失败，将后续帧检测到的目标分配为跟丢状态；对跟丢状态的目标，从过去帧中找出丢失的目标并计算相似距离；若小于阈值，则认为是目标重现，分配为跟踪状态；否则标记为新的目标，分配为活跃状态。

2.根据权利要求1所述的方法，其特征在于，所述目标检测包括:

根据预先训练的Faster-RCNN模型进行目标检测。

3.根据权利要求1所述的方法，其特征在于，所述方法还包括：

重复对后续帧的上述操作，直至视频序列的结束帧。

4.一种基于核相关滤波的目标跟踪系统，其特征在于，包括：

目标检测模块，用于在视频序列的第一帧中进行目标检测，得到目标的检测边界框，将检测得到的目标分配为活跃状态；还用于在后续帧中进行目标检测；

核相关滤波检测模块，用于根据目标的检测边界框进行核相关滤波训练，得到目标的核相关滤波追踪器；基于当前帧的检测结果的位置获取核相关滤波的跟踪结果，作为目标的核相关滤波跟踪候选框；

匹配模块，用于将目标的核相关滤波跟踪候选框与后续帧中进行光流检测得到的光流跟踪框通过加权平均产生跟踪融合框；将所述跟踪融合框与后续帧中进行目标检测得到的目标的检测边界框进行匹配；其中，所述将目标的核相关滤波跟踪候选框与后续帧中进行光流检测得到的光流跟踪框通过加权平均产生跟踪融合框之前，将目标的核相关滤波跟踪候选框与后续帧中进行光流检测得到的光流跟踪框进行相互关联；若匹配成功，将匹配成功的目标保持为跟踪状态；对跟踪状态的目标，利用所述跟踪融合框与检测边界框通过加权平均产生最终跟踪边界框，根据所述最终跟踪边界框进行核相关滤波训练，更新目标的核相关滤波追踪器；若匹配失败，将后续帧检测到的目标分配为跟丢状态；对跟丢状态的目标，从过去帧中找出丢失的目标并计算相似距离；若小于阈值，则认为是目标重现，分配为跟踪状态；否则标记为新的目标，分配为活跃状态。

5.一种电子设备，包括存储器和处理器，所述存储器上存储有计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1～3中任一项所述的方法。

6.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1～3中任一项所述的方法。