CN114663462A - 目标跟踪方法、装置、电子设备及存储介质 - Google Patents

目标跟踪方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN114663462A
CN114663462A CN202210359773.3A CN202210359773A CN114663462A CN 114663462 A CN114663462 A CN 114663462A CN 202210359773 A CN202210359773 A CN 202210359773A CN 114663462 A CN114663462 A CN 114663462A
Authority
CN
China
Prior art keywords
video frame
frame
target frame
target
image block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210359773.3A
Other languages
English (en)
Inventor
林凡雨
崔书刚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Yuandu Internet Technology Co ltd
Original Assignee
Beijing Yuandu Internet Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Yuandu Internet Technology Co ltd filed Critical Beijing Yuandu Internet Technology Co ltd
Priority to CN202210359773.3A priority Critical patent/CN114663462A/zh
Publication of CN114663462A publication Critical patent/CN114663462A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10148Varying focus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Abstract

本申请提供了一种目标跟踪方法、装置、电子设备及存储介质,该方法包括:基于第二视频帧的第二变焦倍数与初始视频帧的初始变焦倍数之间的比值,对初始视频帧的初始目标框尺寸进行变换,得到第二视频帧的第二目标框尺寸;基于第一视频帧的第一目标框位置,在第二视频帧中截取搜索图像块;基于比值,对搜索图像块进行尺寸变换,得到变换后搜索图像块;采用基于第一视频帧的第一目标框图像块训练得到的第一相关滤波器,在变换后搜索图像块中进行搜索,确定第二视频帧的第二目标框位置;基于第二目标框位置以及第二目标框尺寸,获取第二视频帧的第二目标框。本申请实施例能够在保证跟踪准确性的同时提高跟踪效率。

Description

目标跟踪方法、装置、电子设备及存储介质
技术领域
本申请涉及图像处理领域,具体涉及一种目标跟踪方法、装置、电子设备及存储介质。
背景技术
在对视频中目标进行跟踪的过程中,相机的变焦倍数可能会发生变动。针对变焦倍数发生变动这一情况,现有技术一般针对每一变焦倍数发生变动的视频帧,均需要对相关滤波器进行初始化,利用初始化的相关滤波器进行跟踪。由于初始化的相关滤波器的目标跟踪能力不足,因此现有技术这一方式需要依赖额外的目标检测技术以保证跟踪准确性。但同时额外的目标检测技术会增加计算量,从而导致跟踪效率降低。
发明内容
本申请的一个目的在于提出一种目标跟踪方法、装置、电子设备及存储介质,能够在保证跟踪准确性的同时提高跟踪效率。
根据本申请实施例的一方面,公开了一种目标跟踪方法,所述方法包括:
基于第二视频帧的第二变焦倍数与初始视频帧的初始变焦倍数之间的比值,对所述初始视频帧的初始目标框尺寸进行变换,得到所述第二视频帧的第二目标框尺寸,其中,所述第二视频帧位于所述初始视频帧之后;
基于第一视频帧的第一目标框位置,在所述第二视频帧中截取搜索图像块,其中,所述第一视频帧为所述第二视频帧的前一视频帧;
基于所述比值,对所述搜索图像块进行尺寸变换,得到变换后搜索图像块;
采用基于所述第一视频帧的第一目标框图像块训练得到的第一相关滤波器,在所述变换后搜索图像块中进行搜索,确定所述第二视频帧的第二目标框位置;
基于所述第二目标框位置以及所述第二目标框尺寸,获取所述第二视频帧的第二目标框。
根据本申请实施例的一方面,公开了一种目标跟踪装置,所述装置包括:
第二目标框尺寸获取模块,配置为基于第二视频帧的第二变焦倍数与初始视频帧的初始变焦倍数之间的比值,对所述初始视频帧的初始目标框尺寸进行变换,得到所述第二视频帧的第二目标框尺寸,其中,所述第二视频帧位于所述初始视频帧之后;
搜索图像块获取模块,配置为基于第一视频帧的第一目标框位置,在所述第二视频帧中截取搜索图像块,其中,所述第一视频帧为所述第二视频帧的前一视频帧;
变换后图像块获取模块,配置为基于所述比值,对所述搜索图像块进行尺寸变换,得到变换后搜索图像块;
第二目标框定位模块,配置为采用基于所述第一视频帧的第一目标框图像块训练得到的第一相关滤波器,在所述变换后搜索图像块中进行搜索,确定所述第二视频帧的第二目标框位置;
第二目标框获取模块,配置为基于所述第二目标框位置以及所述第二目标框尺寸,获取所述第二视频帧的第二目标框。
根据本申请实施例的一方面,公开了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述电子设备实现上述各种可选实现方式中提供的方法。
根据本申请实施例的一方面,公开了一种计算机程序介质,其上存储有计算机可读指令,当所述计算机可读指令被计算机的处理器执行时,使计算机执行上述各种可选实现方式中提供的方法。
根据本申请实施例的一个方面,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述各种可选实现方式中提供的方法。
本申请实施例中,通过基于第二变焦倍数与初始变焦倍数之间的比值进行双重变换(其中一次变换为对初始目标框尺寸进行变换以得到第二目标框尺寸,另一次变换为对搜索图像块进行尺寸变换以得到用于搜索并确定第二目标框位置的变换后搜索图像块),能够补偿视频帧的变焦倍数变动对图像尺寸所带来的偏差,避免了现有技术中针对每一变焦倍数发生变动的视频帧均需要对相关滤波器进行初始化,从而在保证跟踪准确性的同时提高了跟踪效率。
本申请的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本申请的实践而习得。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性的,并不能限制本申请。
附图说明
通过参考附图详细描述其示例实施例,本申请的上述和其它目标、特征及优点将变得更加显而易见。
图1示出了根据本申请一实施例的目标跟踪方法的流程图。
图2示出了根据本申请一实施例的目标跟踪具体过程的流程图。
图3示出了根据本申请一实施例的目标跟踪装置的框图。
图4示出了根据本申请一实施例的电子设备的硬件图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些示例实施方式使得本申请的描述将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。附图仅为本申请的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。
此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多示例实施方式中。在下面的描述中,提供许多具体细节从而给出对本申请的示例实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本申请的技术方案而省略所述特定细节中的一个或更多,或者可以采用其它的方法、组元、步骤等。在其它情况下,不详细示出或描述公知结构、方法、实现或者操作以避免喧宾夺主而使得本申请的各方面变得模糊。
附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
本申请提供了一种目标跟踪方法,可应用于无人机领域。通过为无人机提供目标跟踪的功能,支持无人机执行物资投放、救援搜索等任务。
在一实施例中,搭载相机的无人机拍摄移动中的目标,并将拍摄到的视频实时无线传输至飞手的终端。飞手在终端上手动选取初始视频帧中的目标后,终端根据飞手选取的目标,在初始视频帧中截取目标框,得到初始目标框图像块。
终端采用初始目标框图像块初始化样本空间,并基于样本空间训练得到初始化的相关滤波器。其中,相关滤波器(Correlation Filters)主要是采用滤波模板与图像序列做卷积的方式,确定各视频帧中的目标框位置。
在目标跟踪过程中,每当采用相关滤波器在新的视频帧中确定目标框位置,进而得到对应的目标框后,便截取得到新的目标框图像块,采用新的目标框图像块更新样本空间,并基于更新后的样本空间更新相关滤波器。
图1示出了本申请所提供目标跟踪方法的流程图,该方法的示例性执行主体为服务器,该服务器可以设于云端,也可以设于终端。该方法包括:
步骤S110、基于第二视频帧的第二变焦倍数与初始视频帧的初始变焦倍数之间的比值,对初始视频帧的初始目标框尺寸进行变换,得到第二视频帧的第二目标框尺寸,其中,第二视频帧位于初始视频帧之后;
步骤S120、基于第一视频帧的第一目标框位置,在第二视频帧中截取搜索图像块,其中,第一视频帧为第二视频帧的前一视频帧;
步骤S130、基于比值,对搜索图像块进行尺寸变换,得到变换后搜索图像块;
步骤S140、采用基于第一视频帧的第一目标框图像块训练得到的第一相关滤波器,在变换后搜索图像块中进行搜索,确定第二视频帧的第二目标框位置;
步骤S150、基于第二目标框位置以及第二目标框尺寸,获取第二视频帧的第二目标框。
本申请实施例中,通过确定各视频帧中目标所在的目标框,实现目标跟踪。第二视频帧一般为目标跟踪过程中的当前视频帧。第一视频帧为第二视频帧的前一视频帧。
记初始视频帧为I0,初始视频帧的初始变焦倍数为Z0,初始视频帧的初始目标框尺寸为S0;记第一视频帧为In-1,第一视频帧的第一目标框位置为Ln-1,第一视频帧的第一目标框尺寸为Sn-1;记第二视频帧为In,第二视频帧的第二变焦倍数为Zn,第二视频帧的第二目标框位置为Ln,第二视频帧的第二目标框尺寸Sn,其中,n为大于1的正整数。
其中,目标框位置一般指的是目标框的几何中心所在位置。当目标框为矩形框时,目标框位置指的是其矩形中心所在位置;当目标框为圆形框时,目标框位置指的是其圆心所在位置;同理不再赘述其他情况下的目标框位置。
目标框尺寸一般指的是目标框框体的几何尺寸。当目标框为矩形框时,目标框尺寸通常指的是其宽度和高度;当目标框为圆形框时,目标框尺寸可以指的是其半径长度,也可以指的是其周长;同理不再赘述其他情况下的目标框尺寸。
在已得到第二视频帧In的情况下,初始变焦倍数Z0、初始目标框尺寸S0、第一目标框位置Ln-1、第一目标框尺寸Sn-1、第二变焦倍数Zn均能够得以确定。为了确定第二视频帧的第二目标框,需要确定第二目标框位置Ln和第二目标框尺寸Sn
为了确定第二目标框尺寸Sn,基于初始变焦倍数Z0与第二变焦倍数Zn之间的比值,对初始目标框尺寸S0进行变换,从而得到第二目标框尺寸Sn
为了确定第二目标框位置Ln,基于第一目标框位置Ln-1,在第二视频帧In中截取搜索图像块Pn。进而基于初始变焦倍数Z0与第二变焦倍数Zn之间的比值,对搜索图像块Pn进行尺寸变换,得到变换后搜索图像块Pn’。
需要说明的是,为了使得变换后搜索图像块Pn’与初始目标框保持尺寸尺度一致,对搜索图像块Pn进行尺寸变换的变换方向,反向于对初始目标框尺寸S0进行变换的变换方向。即,这两次变换过程中,包含一次放大过程和一次缩小过程。例如:若第二目标框尺寸Sn是通过对初始目标框尺寸S0放大得到的,则变换后搜索图像块Pn’是通过对搜索图像块Pn缩小得到的;同理,若第二目标框尺寸Sn是通过对初始目标框尺寸S0缩小得到的,则变换后搜索图像块Pn’是通过对搜索图像块Pn放大得到的。
得到变换后搜索图像块Pn’后,采用第一相关滤波器Fn-1在变换后搜索图像块Pn’中进行搜索,从而确定第二目标框位置Ln。第一相关滤波器Fn-1指的是基于第一视频帧的第一目标框图像块Qn-1训练得到的相关滤波器。第一目标框图像块Qn-1指的是在第一视频帧中截取第一目标框得到的图像块。
进而基于第二目标框位置Ln以及第二目标框尺寸Sn,获取第二视频帧的第二目标框,从而实现目标跟踪。
由此可见,本申请实施例中,通过基于第二变焦倍数与初始变焦倍数之间的比值进行双重变换(其中一次变换为对初始目标框尺寸进行变换以得到第二目标框尺寸,另一次变换为对搜索图像块进行尺寸变换以得到用于搜索并确定第二目标框位置的变换后搜索图像块),能够补偿视频帧的变焦倍数变动对图像尺寸所带来的偏差,避免了现有技术中针对每一变焦倍数发生变动的视频帧均需要对相关滤波器进行初始化,从而在保证跟踪准确性的同时提高了跟踪效率。
尤其是在目标处于高速移动状态,需要快速定位跟踪目标的高速巡检场景中,由于本申请实施例几乎不会增加额外的计算量,因此本申请实施例能够满足高速巡检场景中对于跟踪速度的需求,保证高速巡检场景中的跟踪稳定性。
在一实施例中,将第二变焦倍数除以初始变焦倍数,得到K。将初始目标框尺寸变换为K倍,得到第二目标框尺寸,其中,K大于0。
该实施例中,通过如下所示公式计算得到第二目标框尺寸Sn
Sn=S0*K
K=Zn/Z0
在一实施例中,在第一目标框位置处,截取第二视频帧中a倍于第二目标框尺寸的图像块,得到搜索图像块,其中,a大于1。
该实施例中,截取第二视频帧In中第一目标框位置Ln-1处,尺寸为aSn的图像块,得到搜索图像块Pn。即,搜索图像块Pn为第二视频帧In中的图像,其位置为Ln-1,其尺寸为aSn。其中,a可以被称为搜索步长系数。
在另一实施例中,基于目标的运动速度以及第一目标框位置,预测候选第二目标框位置。在候选第二目标框位置处,截取第二视频帧中a倍于第二目标框尺寸的图像块,得到搜索图像块,其中,a大于1。
该实施例中,记第一视频帧的前一视频帧的目标框位置为Ln-2
计算Ln-2与第一目标框位置Ln-1之间的距离D1,使用距离D1除以第一视频帧与其前一视频帧之间的时间间隔,得到目标的运动速度。
得到目标的运动速度后,结合第一视频帧与第二视频帧之间的时间间隔,可以预测得到第一目标框位置Ln-1与第二目标框位置Ln之间的距离D2。
将第一目标框位置Ln-1与距离D2进行叠加,得到候选第二目标框位置Ln’。进而截取第二视频帧In中候选第二目标框位置Ln’处,尺寸为aSn的图像块,得到搜索图像块Pn
需要说明的是,记第一视频帧的第一变焦倍数为Zn-1。当第二变焦倍数Zn为第一变焦倍数Zn-1的k倍时,将距离D2变换为k倍后再与第一目标框位置Ln-1进行叠加以得到候选第二目标框位置Ln’,从而补偿第二视频帧与第一视频帧之间尺寸尺度的偏差。
该实施例的优点在于,通过基于目标的运动速度调整搜索图像块的位置,提高了搜索图像块中包含第二目标框的可能性,从而提高第二目标框的检测成功率。
在一实施例中,将初始变焦倍数Z0除以第二变焦倍数Zn,得到1/K。将搜索图像块的尺寸变换为1/K倍,得到变换后搜索图像块Pn’,其中,K大于0。
在一实施例中,采用第一相关滤波器在变换后搜索图像块中进行搜索,确定搜索到的各候选区域的响应值。基于响应值最大的候选区域的位置,确定第二目标框位置。
该实施例中,可以采取尺寸为S0的预设滑窗在变换后搜索图像块Pn’中滑动,得到各候选区域。即,该预设滑窗的尺寸与初始目标框尺寸S0一致。
进而采用第一相关滤波器Fn-1确定各候选区域的响应值。其中,响应值用于描述候选区域与目标之间的相似度。响应值越大,说明候选区域与目标之间的相似度越大。需要说明的是,目标是指从当前图像帧的历史视频帧的目标框中提取后的目标特征,并非特指数据意义上的某一个视频帧对应的目标框图像块。
确定各候选区域对应的响应值之后,确定响应值最大的候选区域的位置。进而基于响应值最大的候选区域的位置,确定第二目标框位置Ln
在一实施例中,获取响应值最大的候选区域的位置与第一目标框位置之间的距离。基于比值,对距离进行变换,得到变换后距离。基于第一目标框位置与变换后距离,确定第二目标框位置。
该实施例中,考虑到候选区域的位置是以变换后搜索图像块为载体得到的,第二目标框位置是以第二视频帧为载体得到的,而变换后搜索图像块与第二视频帧之间尺寸尺度不符,因此响应值最大的候选区域的位置与第一目标框位置Ln-1之间的距离并未直接反映出第二目标框位置Ln与第一目标框位置Ln-1之间的距离。
因此,在得到响应值最大的候选区域的位置与第一目标框位置Ln-1之间的距离后,基于第二变焦倍数Zn与初始变焦倍数Z0之间的比值,同向于初始目标框尺寸S0的变换方向,对该距离进行变换,得到变换后距离。即,若第二目标框尺寸Sn是通过对初始目标框尺寸S0放大得到的,则变换后距离是通过对该距离进行放大得到的;同理,若第二目标框尺寸Sn是通过对初始目标框尺寸S0缩小得到的,则变换后距离是通过对该距离进行缩小得到的。
得到变换后距离后,可以通过将第一目标框位置Ln-1与变换后距离进行叠加,得到第二目标框位置Ln。例如:若第二目标框尺寸Sn为初始目标框尺寸S0的K倍,则得到响应值最大的候选区域的位置与第一目标框位置之间的距离X后,根据公式Ln=Ln-1+K*X得到第二目标框位置Ln
该实施例的优点在于,通过对响应值最大的候选区域的位置与第一目标框位置之间的距离进行变换,补偿了变换后搜索图像块与第二视频帧之间尺寸尺度的偏差,从而保证了第二目标框位置的准确性。
需要指出的是,初始化相关滤波器是指仅基于当前视频帧对相关滤波器的参数进行初始化设置,更新相关滤波器是指基于当前视频帧对该当前视频帧前一视频帧对应的相关滤波器的参数进行更新。即,初始化的相关滤波器是仅根据当前视频帧得到的,更新的相关滤波器是根据当前视频帧及其之前所有视频帧共同得到的。
由此可见,在目标跟踪过程中,若中途不对相关滤波器进行初始化处理,每更新一次相关滤波器,相关滤波器的目标跟踪能力越强,跟踪效果越优秀。
在一实施例中,采用初始视频帧的目标框图像块初始化样本空间,进而基于初始化的样本空间初始化相关滤波器。在初始视频帧之后,每当得到新视频帧的目标框,基于新视频帧的目标框图像块更新样本空间,进而基于更新的样本空间更新相关滤波器。
由于本申请实施例能够避免现有技术中针对每一变焦倍数发生变动的视频帧均需要对相关滤波器进行初始化,因此该实施例中,随着视频帧的不断更新,样本空间所描述的目标特征越全面,相关滤波器的目标跟踪能力不断增强,从而能够不断提升跟踪效果。
在一实施例中,在第二视频帧中截取第二目标框,得到第二目标框图像块。基于比值,对第二目标框图像块进行尺寸变换,得到变换后第二目标框图像块。采用变换后第二目标框图像块更新样本空间,并基于样本空间包含的目标框图像块训练得到第二相关滤波器,以采用第二相关滤波器确定第三视频帧的第三目标框位置,其中,第三视频帧为第二视频帧的后一视频帧。
该实施例中,得到第二目标框后,在第二视频帧中截取第二目标框,得到第二目标框图像块Qn
为了将样本空间中目标框图像块的尺寸尺度维持一致,基于第二变焦倍数与初始变焦倍数之间的比值,反向于初始目标框尺寸的变换方向,对第二目标框图像块Qn进行变换,得到变换后第二目标框图像块Qn’。即,若第二目标框尺寸Sn是通过对初始目标框尺寸S0放大得到的,则变换后第二目标框图像块Qn’是通过对第二目标框图像块Qn缩小得到的;同理,若第二目标框尺寸Sn是通过对初始目标框尺寸S0缩小得到的,则变换后第二目标框图像块Qn’是通过对第二目标框图像块Qn放大得到的。
将变换后第二目标框图像块Qn’作为新样本,更新样本空间。样本空间中的各样本为视频帧中的目标框图像块。基于样本空间包含的目标框图像块训练得到第二相关滤波器,进而可以采用第二相关滤波器定位第三视频帧In+1中的第三目标框,以继续进行目标跟踪。
可以理解的,In可以视为In+1的第一视频帧,In+1可以视为In的第二视频帧。
在一实施例中,将样本空间中所有目标框图像块的尺寸统一维持为SF
具体的,可以采取经验预估的方式,也可以采取读取在目标跟踪开始之前的视频帧(即,读取在初始视频帧I0之前的视频帧)的方式,确定视频帧数量满足条件的变焦倍数ZF。例如:采取经验预估的方式,将视频帧数量最有可能占比最高的变焦倍数作为ZF;读取在目标跟踪开始之前的各视频帧的变焦倍数,并将视频帧数量占比最高的变焦倍数作为ZF
得到初始变焦倍数Z0后,计算得到变换系数I,I=ZF/Z0。进而将初始目标框尺寸S0变换为SF,SF=S0*I。截取得到尺寸为SF的变换后初始目标框图像块Q0’,采用变换后初始目标框图像块Q0’初始化样本空间。
进而针对第二视频帧,通过如下所示公式计算得到第二目标框尺寸Sn
Sn=S0* I * K
K=Zn/Z0
截取得到尺寸为Sn的第二目标框图像块Qn后,将第二目标框图像块Qn变换为1/K倍,得到尺寸为SF的变换后第二目标框图像块Qn’,并采用尺寸为SF的变换后第二目标框图像块Qn’更新样本空间。
该实施例的优点在于,根据视频帧数量满足条件的变焦倍数设置尺寸SF,并将样本空间中所有目标框图像块的尺寸统一维持为SF,能够提升变换计算效率,从而降低变焦倍数的波动对于相关滤波器造成的不良影响。
图2示出了本申请一实施例的目标跟踪具体过程的流程图。
该实施例中,获取初始视频帧I0和初始变焦倍数Z0,并确定初始目标框位置L0和初始目标框尺寸S0,得到初始目标框。
在初始视频帧I0截取初始目标框,得到初始目标框图像块Q0
采用初始目标框图像块Q0初始化样本空间,进而基于样本空间训练得到初始视频帧I0对应的初始相关滤波器F0。初始相关滤波器F0用于定位初始视频帧I0下一视频帧的目标框。
获取第二视频帧In和第二变焦倍数Zn,通过如下公式计算第二目标框尺寸Sn
Sn=S0*K
K=Zn/Z0
在第二视频帧In中第一目标框位置Ln-1处截取尺寸为aSn的搜索图像块Pn
将搜索图像块Pn的尺寸变换为1/K倍,得到变换后搜索图像块Pn’。
采用第一相关滤波器Fn-1在变换后搜索图像块Pn’定位第二目标框位置Ln
在第二视频帧In中第二目标框位置Ln处截取尺寸为Sn的第二目标框图像块Qn
将第二目标框图像块Qn的尺寸变换为1/K倍,得到变换后第二目标框图像块Qn’。采用变换后第二目标框图像块Qn’更新样本空间,进而基于样本空间训练得到第二视频帧In对应的第二相关滤波器Fn。第二相关滤波器Fn用于定位第二视频帧In下一视频帧的目标框。
不断重复上述获取第二目标框的过程,直至退出跟踪。
图3示出了根据本申请一实施例的目标跟踪装置的框图,所述装置包括:
第二目标框尺寸获取模块210,配置为基于第二视频帧的第二变焦倍数与初始视频帧的初始变焦倍数之间的比值,对所述初始视频帧的初始目标框尺寸进行变换,得到所述第二视频帧的第二目标框尺寸,其中,所述第二视频帧位于所述初始视频帧之后;
搜索图像块获取模块220,配置为基于第一视频帧的第一目标框位置,在所述第二视频帧中截取搜索图像块,其中,所述第一视频帧为所述第二视频帧的前一视频帧;
变换后图像块获取模块230,配置为基于所述比值,对所述搜索图像块进行尺寸变换,得到变换后搜索图像块;
第二目标框定位模块240,配置为采用基于所述第一视频帧的第一目标框图像块训练得到的第一相关滤波器,在所述变换后搜索图像块中进行搜索,确定所述第二视频帧的第二目标框位置;
第二目标框获取模块250,配置为基于所述第二目标框位置以及所述第二目标框尺寸,获取所述第二视频帧的第二目标框。
在本申请的一示例性实施例中,第二目标框尺寸获取模块配置为:
将所述第二变焦倍数除以所述初始变焦倍数,得到K,其中,所述K大于0;
将所述初始目标框尺寸变换为K倍,得到所述第二目标框尺寸。
在本申请的一示例性实施例中,变换后图像块获取模块配置为:
将所述初始变焦倍数除以所述第二变焦倍数,得到1/K,其中,所述K大于0;
将所述搜索图像块的尺寸变换为1/K倍,得到所述变换后搜索图像块。
在本申请的一示例性实施例中,搜索图像块获取模块配置为:
在所述第一目标框位置处,截取所述第二视频帧中a倍于所述第二目标框尺寸的图像块,得到所述搜索图像块,其中,a大于1。
在本申请的一示例性实施例中,第二目标框定位模块配置为:
采用所述第一相关滤波器在所述变换后搜索图像块中进行搜索,确定搜索到的各候选区域的响应值;
基于所述响应值最大的候选区域的位置,确定所述第二目标框位置。
在本申请的一示例性实施例中,第二目标框定位模块配置为:
获取所述响应值最大的候选区域的位置与所述第一目标框位置之间的距离;
基于所述比值,对所述距离进行变换,得到变换后距离;
基于所述第一目标框位置与所述变换后距离,确定所述第二目标框位置。
在本申请的一示例性实施例中,所述装置配置为:
在所述第二视频帧中截取所述第二目标框,得到第二目标框图像块;
基于所述比值,对所述第二目标框图像块进行尺寸变换,得到变换后第二目标框图像块;
采用所述变换后第二目标框图像块更新样本空间,并基于所述样本空间包含的目标框图像块训练得到第二相关滤波器,以采用所述第二相关滤波器确定第三视频帧的第三目标框位置,其中,所述第三视频帧为所述第二视频帧的后一视频帧。
下面参考图4来描述根据本申请实施例的电子设备30。图4显示的电子设备30仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图4所示,电子设备30以通用计算设备的形式表现。电子设备30的组件可以包括但不限于:上述至少一个处理单元310、上述至少一个存储单元320、连接不同系统组件(包括存储单元320和处理单元310)的总线330。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元310执行,使得所述处理单元310执行本说明书上述示例性方法的描述部分中描述的根据本发明各种示例性实施方式的步骤。例如,所述处理单元310可以执行如图1中所示的各个步骤。
存储单元320可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)3201和/或高速缓存存储单元3202,还可以进一步包括只读存储单元(ROM)3203。
存储单元320还可以包括具有一组(至少一个)程序模块3205的程序/实用工具3204,这样的程序模块3205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线330可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备30也可以与一个或多个外部设备400(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备30交互的设备通信,和/或与使得该电子设备30能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口350进行。输入/输出(I/O)接口350与显示单元340相连。并且,电子设备30还可以通过网络适配器360与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器360通过总线330与电子设备30的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备30使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本申请实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本申请实施方式的方法。
在本申请的示例性实施例中,还提供了一种计算机可读存储介质,其上存储有计算机可读指令,当所述计算机可读指令被计算机的处理器执行时,使计算机执行上述方法实施例部分描述的方法。
根据本申请的一个实施例,还提供了一种用于实现上述方法实施例中的方法的程序产品,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如JAVA、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本申请的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外,尽管在附图中以特定顺序描述了本申请中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本申请实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本申请实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本申请的真正范围和精神由所附的权利要求指出。

Claims (10)

1.一种目标跟踪方法,其特征在于,所述方法包括:
基于第二视频帧的第二变焦倍数与初始视频帧的初始变焦倍数之间的比值,对所述初始视频帧的初始目标框尺寸进行变换,得到所述第二视频帧的第二目标框尺寸,其中,所述第二视频帧位于所述初始视频帧之后;
基于第一视频帧的第一目标框位置,在所述第二视频帧中截取搜索图像块,其中,所述第一视频帧为所述第二视频帧的前一视频帧;
基于所述比值,对所述搜索图像块进行尺寸变换,得到变换后搜索图像块;
采用基于所述第一视频帧的第一目标框图像块训练得到的第一相关滤波器,在所述变换后搜索图像块中进行搜索,确定所述第二视频帧的第二目标框位置;
基于所述第二目标框位置以及所述第二目标框尺寸,获取所述第二视频帧的第二目标框。
2.根据权利要求1所述的方法,其特征在于,基于第二视频帧的第二变焦倍数与初始视频帧的初始变焦倍数之间的比值,对所述初始视频帧的初始目标框尺寸进行变换,得到所述第二视频帧的第二目标框尺寸,包括:
将所述第二变焦倍数除以所述初始变焦倍数,得到K,其中,所述K大于0;
将所述初始目标框尺寸变换为K倍,得到所述第二目标框尺寸。
3.根据权利要求1所述的方法,其特征在于,基于所述比值,对所述搜索图像块进行尺寸变换,得到变换后搜索图像块,包括:
将所述初始变焦倍数除以所述第二变焦倍数,得到1/K,其中,所述K大于0;
将所述搜索图像块的尺寸变换为1/K倍,得到所述变换后搜索图像块。
4.根据权利要求1所述的方法,其特征在于,基于第一视频帧的第一目标框位置,在所述第二视频帧中截取搜索图像块,包括:
在所述第一目标框位置处,截取所述第二视频帧中a倍于所述第二目标框尺寸的图像块,得到所述搜索图像块,其中,a大于1。
5.根据权利要求1所述的方法,其特征在于,采用基于所述第一视频帧训练得到的第一相关滤波器,在所述变换后搜索图像块中进行搜索,确定所述第二视频帧的第二目标框位置,包括:
采用所述第一相关滤波器在所述变换后搜索图像块中进行搜索,确定搜索到的各候选区域的响应值;
基于所述响应值最大的候选区域的位置,确定所述第二目标框位置。
6.根据权利要求5所述的方法,其特征在于,基于所述响应值最大的候选区域的位置,确定所述第二目标框位置,包括:
获取所述响应值最大的候选区域的位置与所述第一目标框位置之间的距离;
基于所述比值,对所述距离进行变换,得到变换后距离;
基于所述第一目标框位置与所述变换后距离,确定所述第二目标框位置。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在所述第二视频帧中截取所述第二目标框,得到第二目标框图像块;
基于所述比值,对所述第二目标框图像块进行尺寸变换,得到变换后第二目标框图像块;
采用所述变换后第二目标框图像块更新样本空间,并基于所述样本空间包含的目标框图像块训练得到第二相关滤波器,以采用所述第二相关滤波器确定第三视频帧的第三目标框位置,其中,所述第三视频帧为所述第二视频帧的后一视频帧。
8.一种目标跟踪装置,其特征在于,所述装置包括:
第二目标框尺寸获取模块,配置为基于第二视频帧的第二变焦倍数与初始视频帧的初始变焦倍数之间的比值,对所述初始视频帧的初始目标框尺寸进行变换,得到所述第二视频帧的第二目标框尺寸,其中,所述第二视频帧位于所述初始视频帧之后;
搜索图像块获取模块,配置为基于第一视频帧的第一目标框位置,在所述第二视频帧中截取搜索图像块,其中,所述第一视频帧为所述第二视频帧的前一视频帧;
变换后图像块获取模块,配置为基于所述比值,对所述搜索图像块进行尺寸变换,得到变换后搜索图像块;
第二目标框定位模块,配置为采用基于所述第一视频帧的第一目标框图像块训练得到的第一相关滤波器,在所述变换后搜索图像块中进行搜索,确定所述第二视频帧的第二目标框位置;
第二目标框获取模块,配置为基于所述第二目标框位置以及所述第二目标框尺寸,获取所述第二视频帧的第二目标框。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述电子设备实现如权利要求1至7任一项所述的方法。
10.一种计算机可读存储介质,其特征在于,其上存储有计算机可读指令,当所述计算机可读指令被计算机的处理器执行时,使计算机执行权利要求1至7任一项所述的方法。
CN202210359773.3A 2022-04-07 2022-04-07 目标跟踪方法、装置、电子设备及存储介质 Pending CN114663462A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210359773.3A CN114663462A (zh) 2022-04-07 2022-04-07 目标跟踪方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210359773.3A CN114663462A (zh) 2022-04-07 2022-04-07 目标跟踪方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN114663462A true CN114663462A (zh) 2022-06-24

Family

ID=82036224

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210359773.3A Pending CN114663462A (zh) 2022-04-07 2022-04-07 目标跟踪方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN114663462A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115147458A (zh) * 2022-07-21 2022-10-04 北京远度互联科技有限公司 目标跟踪方法、装置、电子设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104851111A (zh) * 2015-04-23 2015-08-19 北京环境特性研究所 一种使用连续变焦探测器的目标跟踪方法
CN110706252A (zh) * 2019-09-09 2020-01-17 西安理工大学 运动模型引导下的机器人核相关滤波跟踪算法
CN112489077A (zh) * 2019-09-12 2021-03-12 阿里巴巴集团控股有限公司 目标跟踪方法、装置及计算机系统
CN113989696A (zh) * 2021-09-18 2022-01-28 北京远度互联科技有限公司 目标跟踪方法、装置、电子设备及存储介质
CN114241008A (zh) * 2021-12-21 2022-03-25 北京航空航天大学 一种适应场景和目标变化的长时区域跟踪方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104851111A (zh) * 2015-04-23 2015-08-19 北京环境特性研究所 一种使用连续变焦探测器的目标跟踪方法
CN110706252A (zh) * 2019-09-09 2020-01-17 西安理工大学 运动模型引导下的机器人核相关滤波跟踪算法
CN112489077A (zh) * 2019-09-12 2021-03-12 阿里巴巴集团控股有限公司 目标跟踪方法、装置及计算机系统
CN113989696A (zh) * 2021-09-18 2022-01-28 北京远度互联科技有限公司 目标跟踪方法、装置、电子设备及存储介质
CN114241008A (zh) * 2021-12-21 2022-03-25 北京航空航天大学 一种适应场景和目标变化的长时区域跟踪方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115147458A (zh) * 2022-07-21 2022-10-04 北京远度互联科技有限公司 目标跟踪方法、装置、电子设备及存储介质

Similar Documents

Publication Publication Date Title
US11423695B2 (en) Face location tracking method, apparatus, and electronic device
US11321593B2 (en) Method and apparatus for detecting object, method and apparatus for training neural network, and electronic device
CN107886048B (zh) 目标跟踪方法及系统、存储介质及电子终端
CN111292420B (zh) 用于构建地图的方法和装置
WO2020228522A1 (zh) 目标跟踪方法、装置、存储介质及电子设备
CN110555405B (zh) 目标跟踪方法及装置、存储介质和电子设备
CN110706262B (zh) 图像处理方法、装置、设备及存储介质
JP7163372B2 (ja) 目標トラッキング方法及び装置、電子機器並びに記憶媒体
CN110874853A (zh) 目标运动的确定方法、装置、设备及存储介质
CN109902588B (zh) 一种手势识别方法、装置及计算机可读存储介质
CN113989696B (zh) 目标跟踪方法、装置、电子设备及存储介质
CN112907628A (zh) 视频目标追踪方法、装置、存储介质及电子设备
CN111784757A (zh) 深度估计模型的训练方法、深度估计方法、装置及设备
CN112861940A (zh) 双目视差估计方法、模型训练方法以及相关设备
CN114071015B (zh) 一种联动抓拍路径的确定方法、装置、介质及设备
CN114663462A (zh) 目标跟踪方法、装置、电子设备及存储介质
CN110717405B (zh) 人脸特征点定位方法、装置、介质及电子设备
CN108010052A (zh) 复杂场景中的目标跟踪方法及系统、存储介质及电子终端
CN115546487A (zh) 图像模型训练方法、装置、介质及电子设备
CN112085842B (zh) 深度值确定方法及装置、电子设备和存储介质
KR20220080696A (ko) 깊이 추정 방법, 디바이스, 전자 장비 및 컴퓨터 판독가능 저장 매체
CN110852252B (zh) 一种基于最小距离、最大长宽比的车辆排重方法和装置
CN111160197A (zh) 人脸检测方法、装置、电子设备、存储介质
CN115086541A (zh) 一种拍摄位置确定方法、装置、设备及介质
CN115100360B (zh) 图像生成方法及装置、存储介质和电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination