CN116664668A - 一种目标持续跟踪方法和装置、电子设备和存储介质 - Google Patents
一种目标持续跟踪方法和装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN116664668A CN116664668A CN202310594225.3A CN202310594225A CN116664668A CN 116664668 A CN116664668 A CN 116664668A CN 202310594225 A CN202310594225 A CN 202310594225A CN 116664668 A CN116664668 A CN 116664668A
- Authority
- CN
- China
- Prior art keywords
- target
- shielding
- current frame
- detection
- frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 59
- 238000001514 detection method Methods 0.000 claims abstract description 175
- 230000002688 persistence Effects 0.000 claims description 2
- 238000004422 calculation algorithm Methods 0.000 description 12
- 238000004590 computer program Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 238000012545 processing Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 239000003550 marker Substances 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000008447 perception Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 230000000903 blocking effect Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000003595 mist Substances 0.000 description 1
- 238000011022 operating instruction Methods 0.000 description 1
- -1 raindrops Substances 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004576 sand Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/277—Analysis of motion involving stochastic approaches, e.g. using Kalman filters
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Radar Systems Or Details Thereof (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了一种目标持续跟踪方法和装置、电子设备和存储介质。该方法包括:获取当前帧的待处理目标,所述待处理目标包括基于当前帧道路图像得到的检测目标和基于上一帧目标跟踪结果预测出的在当前帧处于遮挡状态的遮挡目标;根据所述遮挡目标的上一帧跟踪结果获取所述遮挡目标的当前帧预测位置,并根据当前帧预测位置获得所述遮挡目标的当前帧跟踪结果;根据所述检测目标的当前帧检测位置获得所述检测目标的当前帧跟踪结果;根据所述待处理目标的当前帧跟踪结果预测所述待处理目标在下一帧的遮挡状态,以根据预测结果获取在下一帧处于遮挡状态的遮挡目标。本申请的技术方案能够目标跟踪的连续性和准确性。
Description
技术领域
本申请涉及图像处理技术领域,尤其涉及一种目标持续跟踪方法和装置、电子设备和存储介质。
背景技术
路侧相机是智能交通系统(Intelligent Transportation System,ITS)中的一种重要的用于车路协同感知的设备,路侧相机通常是在已经正常通行的道路上通过架设横杆,并将相机安装在横杆上。由于高度固定,有时候难免会因为已有的设备或者横杆挡着相机视角。例如在一些场景中,可能会因为基础的违法拍照闪光灯或其他路侧设备、障碍物(例如树枝、树叶等)等遮挡路侧相机的视野,导致路侧相机无法感知到行驶到对应位置的车辆或行人等交通参与者,从而在目标跟踪过程中,存在目标忽然中途消失的情况。
发明内容
本申请实施例提供了一种目标持续跟踪方法和装置、电子设备和存储介质,以保证目标跟踪的连续性。
本申请实施例采用下述技术方案:
第一方面,本申请实施例提供一种目标持续跟踪方法,所述方法包括:
获取当前帧的待处理目标,所述待处理目标包括基于当前帧道路图像得到的检测目标和基于上一帧目标跟踪结果预测出的在当前帧处于遮挡状态的遮挡目标;
根据所述遮挡目标的上一帧跟踪结果获取所述遮挡目标的当前帧预测位置,并根据当前帧预测位置获得所述遮挡目标的当前帧跟踪结果;
根据所述检测目标的当前帧检测位置获得所述检测目标的当前帧跟踪结果;
根据所述待处理目标的当前帧跟踪结果预测所述待处理目标在下一帧的遮挡状态,以根据预测结果获取在下一帧处于遮挡状态的遮挡目标。
第二方面,本申请实施例还提供一种目标持续跟踪装置,所述装置包括:
目标获取单元,用于获取当前帧的待处理目标,所述待处理目标包括基于当前帧道路图像得到的检测目标和基于上一帧目标跟踪结果预测出的在当前帧处于遮挡状态的遮挡目标;
第一跟踪单元,用于根据所述遮挡目标的上一帧跟踪结果获取所述遮挡目标的当前帧预测位置,并根据当前帧预测位置获得所述遮挡目标的当前帧跟踪结果;
第二跟踪单元,用于根据所述检测目标的当前帧检测位置获得所述检测目标的当前帧跟踪结果;
状态预测单元,用于根据所述待处理目标的当前帧跟踪结果预测所述待处理目标在下一帧的遮挡状态,以根据预测结果获取在下一帧处于遮挡状态的遮挡目标。
第三方面,本申请实施例还提供一种电子设备,包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行前述目标持续跟踪方法。
第四方面,本申请实施例还提供一种计算机可读存储介质,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被包括多个应用程序的电子设备执行时,使得所述电子设备执行前述目标持续跟踪方法。
本申请实施例采用的上述至少一个技术方案能够达到以下有益效果:
本申请实施例将基于当前帧道路图像得到的检测目标和将基于上一帧目标跟踪结果预测出的在当前帧处于遮挡状态的遮挡目标作为当前帧的待处理目标,对待处理目标中的检测目标利用其当前帧检测位置得到当前帧跟踪结果,而对待处理目标中的遮挡目标,是基于当前帧预测位置得到当前帧跟踪结果,如此对处于遮挡状态的遮挡目标和对未处于遮挡状态的检测目标采用不同方法获取其在当前帧的位置,基于当前帧的位置获取当前帧跟踪结果,能够在保证目标跟踪连续性不受遮挡区域影响的情况下,保证目标跟踪的准确性。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1为本申请实施例中一种目标持续跟踪方法的流程示意图;
图2为路侧相机的一种安装状态示意图;
图3为本申请实施例中一种目标持续跟踪装置的结构示意图;
图4为本申请实施例中一种电子设备的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
以下结合附图,详细说明本申请各实施例提供的技术方案。
本申请实施例提供了一种目标持续跟踪方法,本申请下述实施例以路侧设备作为目标持续跟踪方法的执行主体进行示例说明。可以理解的是,本申请实施例的执行主体也可以为其他设备或系统,例如为路侧边缘计算系统或芯片系统,芯片系统包含至少一个处理器,以及通信接口或者存储器,其中,该存储器用于存储程序或指令,该通信接口用于为处理器提供信息或数据的输入输出功能。或者,本申请实施例的目标定位方法的执行主体也可以是软件或硬件,不同的执行步骤可以集中式也可以是分布式。
如图1所示,提供了本申请实施例中一种目标持续跟踪方法的流程示意图,所述方法至少包括如下的步骤S110至步骤S140:
步骤S110,获取当前帧的待处理目标,所述待处理目标包括基于当前帧道路图像得到的检测目标和基于上一帧目标跟踪结果预测出的在当前帧处于遮挡状态的遮挡目标。
本申请实施例进行目标持续跟踪时,先获取当前帧的待处理目标。与现有技术不同的是,本申请实施例当前帧的待处理目标包括基于当前帧道路图像得到的检测目标和基于上一帧目标跟踪结果预测出的在当前帧处于遮挡状态的遮挡目标。
也就是说,在获取当前帧的待处理目标时,本申请实施例一方面对当前帧道路图像进行目标检测,得到检测目标;另一方面还根据上一帧目标跟踪结果得到在当前帧处于遮挡状态的遮挡目标,将在上一帧中未处于遮挡状态而在当前帧处于遮挡状态的遮挡目标作为当前帧的待处理目标。如此可以避免因相机的部分视野被遮挡,导致处于视野遮挡区域的目标无法通过图像检测算法感知,进而避免仅基于图像检测算法进行目标跟踪导致处于遮挡区域的目标跟踪丢失的情况。
在实际应用中,本领域技术人员可以采用各种目标检测算法从当前帧道路图像中获得检测目标。而对于遮挡目标,可以根据上一帧目标跟踪结果来确定,即在获取上一帧目标跟踪结果时,还预测目标在下一帧(即当前帧)是否会处于遮挡状态,如此可以根据预测结果获取遮挡目标。
步骤S120,根据所述遮挡目标的上一帧跟踪结果获取所述遮挡目标的当前帧预测位置,并根据当前帧预测位置获得所述遮挡目标的当前帧跟踪结果。
研究发现,遮挡区域造成目标跟踪丢失的主要原因是,当目标驶入遮挡区域时,基于图像检测算法无法感知目标,也就无法得到目标的位置信息,使得当前检测结果中不存在与未驶入遮挡区域之前的跟踪结果相匹配的检测结果,在当前帧无法更新遮挡目标的跟踪结果,导致目标突然中途消失。
针对上述情况,本申请实施例对当前帧的遮挡目标进行位置预测。由于遮挡目标在当前帧已处于相机的视野盲区内,那么通过对当前帧道路图像已无法得到目标的检测结果或者所得到的检测结果不够可靠。在此情况下,本申请实施例是获取遮挡目标的当前帧预测位置,利用当前帧预测位置将当前帧的遮挡目标与该遮挡目标的上一帧跟踪结果进行位置关联,得到当前帧跟踪结果,实现遮挡目标的持续跟踪。
其中,本申请实施例的“当前帧预测位置”是指基于预测算法计算出的位置信息。在一些场景中,可以利用卡尔曼滤波器进行当前帧预测位置的计算,此情况下,由于当前帧预测位置是通过卡尔曼滤波器预测得到的,若此时利用当前帧预测位置更新卡尔曼滤波系数,则无法降低卡尔曼滤波器的噪声,因此,在实际应用中,对于遮挡目标来说,当前帧可以不更新卡尔曼滤波系数。
步骤S130,根据所述检测目标的当前帧检测位置获得所述检测目标的当前帧跟踪结果。
对于本申请实施例中的检测目标来说,其在当前帧未处于相机的视野盲区内,那么通过对当前帧道路图像进行目标检测所得到的检测位置足够可靠。在此情况下,本申请实施例是获取检测目标的当前帧检测位置,基于当前帧检测位置将当前帧的检测目标与该检测目标的上一帧跟踪结果进行位置关联,得到当前帧跟踪结果,实现检测目标的持续跟踪。
其中,本申请实施例的“当前帧检测位置”是指基于目标检测算法计算出的位置信息,由于计算出的当前帧检测位置的准确度较高,因此本申请实施例基于检测目标的当前帧检测位置更新该检测目标的卡尔曼滤波系数,以降低卡尔曼滤波器的噪声。
在实际应用中,本领域技术人员可以结合现有技术将当前帧的待处理目标与该待处理目标的上一帧跟踪结果进行位置关联,例如待处理目标的当前帧位置包括基于目标检测算法得到的目标检测框和基于预测算得到的目标预测框,为便于描述,目标检测框和目标预测框统称为目标框。由此可以将当前帧的待处理目标的目标框与上一帧所有跟踪目标的跟踪框进行框关联,若某个目标框与某个跟踪框满足框关联关系(例如两个框的交并比大于交并比阈值),则将该目标框的待处理目标与该跟踪框的跟踪目标进行关联,从而实现当前帧的待处理目标与上一帧跟踪目标的关联,实现目标的持续跟踪。
需要说明的是,本申请实施例并不限定步骤S120和步骤S130的执行顺序,本领域技术人员也可以先执行步骤S130,再执行步骤S120;或者同时执行步骤S120和步骤S130。
步骤S140,根据所述待处理目标的当前帧跟踪结果预测所述待处理目标在下一帧的遮挡状态,以根据预测结果获取在下一帧处于遮挡状态的遮挡目标。
本申请实施例可以获取相机的遮挡区域,根据待处理目标与遮挡区域的关系预测待处理目标在下一帧是否处于遮挡状态,具体的预测方法将在后续实施例中予以详细说明。
如图1所示的目标持续跟踪方法可知,本申请实施例将基于当前帧道路图像得到的检测目标和将基于上一帧目标跟踪结果预测出的在当前帧处于遮挡状态的遮挡目标作为当前帧的待处理目标,对待处理目标中的检测目标利用其当前帧检测位置得到当前帧跟踪结果,而对待处理目标中的遮挡目标,是基于当前帧预测位置得到当前帧跟踪结果,如此对处于遮挡状态的遮挡目标和对未处于遮挡状态的检测目标采用不同方法获取其当前帧跟踪结果,能够在保证目标跟踪连续性不受遮挡区域影响的情况下,保证目标跟踪的准确性。
对比相机的整个感知范围而言,相机的遮挡区域通常是小范围的,一般情况下,目标在小范围的运动可以视为匀速运动,因此可以在短时间内通过预测算法计算出遮挡目标的接近真实位置的预测位置。
在本申请的一些实施例中,上述步骤S120中根据所述遮挡目标的上一帧跟踪结果获取所述遮挡目标的当前帧预测位置,具体包括:
根据所述遮挡目标的上一帧跟踪结果获取所述遮挡目标在上一帧的跟踪位置和跟踪速度;
获取上一帧与当前帧的时间间隔;
根据所述遮挡目标在上一帧的跟踪位置和跟踪速度以及上一帧与当前帧的时间间隔,获取所述遮挡目标的当前帧预测位置。
本申请实施例在此示出了一种基于匀速运动的预测算法计算遮挡目标的当前帧预测位置的实现方案,在本申请的其他实施例中,本领域技术人员也可以采用其他实现方案,例如根据遮挡目标的类型设定目标的运动模型,运动模型可以通过目标的历史数据进行训练,如此可以通过训练好的运动模型计算遮挡目标的当前帧预测位置。
在本申请的一些实施例中,当待处理目标为检测目标时,上述步骤S140中根据所述待处理目标的当前帧跟踪结果预测所述待处理目标在下一帧的遮挡状态,具体包括:
获取相机的遮挡区域,遮挡区域的获取方法将在后续实施例予以详细描述,再此不予展开描述;
根据所述检测目标的当前帧跟踪结果获取所述检测目标的当前帧检测位置和下一帧预测位置;
根据所述检测目标的当前帧的位置和所述遮挡区域,获取所述检测目标与所述遮挡区域的相对距离;以及根据所述检测目标的当前帧检测位置和下一帧预测位置以及所述遮挡区域,获取所述检测目标是否正在驶入所述遮挡区域;
若所述检测目标与所述遮挡区域的相对距离小于预设距离,且所述检测目标正在驶入所述遮挡区域,则确定所述检测目标在下一帧处于遮挡状态;否则,则确定所述检测目标在下一帧未处于遮挡状态。
本实施例可以利用检测目标的当前帧检测位置更新卡尔曼滤波算法的参数,例如利用检测目标的目标检测框的底边中心点所在的世界坐标系下的位置更新卡尔曼滤波算法的参数,从而使用卡尔曼滤波算法预测检测目标的下一帧预测位置。
在本实施例的一个可能实现方案中,遮挡区域包括图像遮挡区域Im和与所述图像遮挡区域Im对应的道路遮挡区域Wm,那么根据所述检测目标的当前帧的位置和所述遮挡区域,获取所述检测目标与所述遮挡区域的相对距离,具体包括:
根据检测目标的目标检测框与所述图像遮挡区域,获取所述检测目标与所述遮挡区域的相对距离,例如分别计算目标检测框四个边框的边框像素点坐标与图像遮挡区域的边缘像素点坐标的像素点距离,得到四个边框与图像遮挡区域边缘的像素距离,将四个像素距离中的最小像素距离作为检测目标与遮挡区域的相对距离。其中四个边框与图像遮挡区域边缘的像素距离可以是多个像素点对和值或均值,像素点对是指与每个边框像素点距离最近的边缘像素点。
可以理解的是,本申请实施例中的预设距离是用于衡量检测目标是否接近遮挡区域,或者检测目标是否已部分位于遮挡区域内,当检测目标与遮挡区域的相对距离小于预设距离时,说明检测目标与遮挡区域存在三种位置关系,第一种位置关系,当前已接近遮挡区域(此时检测目标位于遮挡区域外);第二种位置关系,检测目标当前已部分驶入遮挡区域;第三种位置关系,检测目标当前有部分已驶出遮挡区域(另一部分仍然处于遮挡区域内)。
当检测目标与遮挡区域的位置关系属于第三种位置关系时,由于下一帧检测目标的更多部分或者全部将处于遮挡区域之外,此时基于图像检测算法能够得到比当前帧更可靠的检测结果,因此此时不需要将检测目标的下一帧状态设定为遮挡状态。
为了避免将属于第三种位置关系的检测目标的下一帧状态误设定为遮挡状态,本实施例还获取检测目标是否正在驶入所述遮挡区域,具体是根据所述检测目标的当前帧检测位置获取所述检测目标在当前帧相对于所述道路遮挡区域的第一物理距离,以及根据所述检测目标的下一帧预测位置获取所述检测目标在下一帧相对于所述道路遮挡区域的第二物理距离;根据所述第一物理距离和所述第二物理距离获取所述检测目标是否正在驶入所述遮挡区域,例如当第二物理距离小于第一物理距离时,确定检测目标正驶入遮挡区域;当第二物理距离不小于第一物理距离时,确定检测目标正驶出遮挡区域。
如此,结合检测目标与遮挡区域的当前帧相对距离和检测目标是否正在驶入遮挡区域,能够准确地预测出在下一帧将处于遮挡状态的检测目标。
在本申请的另一些实施例中,当待处理目标为遮挡目标时,上述步骤S140中根据所述待处理目标的当前帧跟踪结果预测所述待处理目标在下一帧的遮挡状态,具体包括:
获取相机的遮挡区域;
根据所述遮挡目标的当前帧跟踪结果获取所述遮挡目标的下一帧预测位置;
若所述遮挡目标的下一帧预测位置处于所述遮挡区域之外,则确定遮挡目标在下一帧未处于遮挡状态;否则,则确定所述遮挡目标在下一帧处于遮挡状态。
本实施例可以参考上述步骤S120中根据遮挡目标的上一帧跟踪结果获取遮挡目标的当前帧预测位置的实现方案来获取遮挡目标的下一帧预测位置;也可以根据遮挡目标的卡尔曼滤波器获取遮挡目标的下一帧预测位置,本实施例在此不予展开描述。此外,本实施例可以基于射线法、面积法等现有方法计算遮挡目标的下一帧预测位置是否处于遮挡区域之外,当遮挡目标的下一帧预测位置处于遮挡区域之外时,确定该遮挡目标在下一帧未处于遮挡状态;当遮挡目标的下一帧预测位置处于遮挡区域之内时,确定该遮挡目标在下一帧处于遮挡状态。
如此,通过上述实施例能够得到每个待处理目标在下一帧的遮挡状态。在本申请的一些实施例中,当前帧跟踪结果包括状态预测标识,在根据所述待处理目标的当前帧跟踪结果预测所述待处理目标在下一帧的遮挡状态时,图1的方法还包括:
根据所述待处理目标在下一帧的遮挡状态更新所述当前帧跟踪结果的状态预测标识,以使得上述步骤S110中可以根据上一帧目标跟踪结果的状态预测标识得到当前帧处于遮挡状态的遮挡目标。
在本申请的一些实施例中,获取相机的遮挡区域,具体包括:
获取所述相机的遮挡信息表,所述遮挡信息表中记录有遮挡区域;
根据所述遮挡信息表获取所述相机的遮挡区域。
如图2所示,在实际应用中,安装在横杆上的路侧相机可能会被该横杆上的其他相机或其他路侧设备等固定障碍物长时间遮挡,或者被树枝、树叶、各自空中漂浮物暂时遮挡,或者由风沙、雨滴、水雾、雪花等对相机镜头造成的模糊遮挡。在本申请实施例中,可以获取上述各种原因形成的第一区域,并将第一区域记录到相机的遮挡信息表,其中第一区域的获取步骤如下:
获取所述相机被固定障碍物遮挡的第一遮挡区域,例如在相机安装过程中或定期排查相机时,通过相机标定获得其他相机、其他路侧设备、地面建筑物等固定障碍物遮挡的第一遮挡区域。
以及,获取所述相机在设定时间内采集的多帧道路图像,根据所述多帧道路图像的移动目标(车辆、行人等移动目标)的检测结果确定所述移动目标丢失的第二遮挡区域;例如通过目标检测方法对设定时间(例如10个小时或者1天或者其他时长)内的连续多帧道路图像检测行人与车辆,根据行人与车辆在每帧图像上的检测结果确定在该设定时间内,始终没有检测出行人与车辆的道路区域,该道路区域即为第二遮挡区域。
根据所述第一遮挡区域和/或所述第二遮挡区域获取所述遮挡信息表中的第一区域。
如此,通过上述步骤可以得到本申请实施例中的遮挡信息表。此外,本申请实施例的遮挡信息表中还记录与所述相机关联的其他相机的可视区域,这里关联相机可以理解为处于同一横杆上的相机。
具体来说,在一些场景中,当遮挡信息表中的遮挡区域包括相机被障碍物遮挡的第一区域和与相机关联的其他相机的可视区域,此时根据所述遮挡信息表获取所述相机的遮挡区域,包括:
确定所述第一区域与所述其他相机的可视区域是否存在重叠区域;
当所述第一区域与所述其他相机的可视区域存在重叠区域时,从所述第一区域中清除重叠区域,将清除重叠区域后的第一区域作为所述相机最终的遮挡区域。
在目标的跟踪过程中,通常需要对目标进行融合处理,即将属于同一物体的目标进行融合,以得到目标更完整、更准确的信息。结合本申请实施例来说,当第一区域的某个或某些子区域能够被其他相机感知时,在目标融合阶段,通过融合其他相机的感知结果即可克服遮挡导致的目标跟踪丢失的问题。因此,本申请实施例在获取所述相机的遮挡区域时,将第一区域中能够被其他相机感知的区域清除掉,将剩余区域作为相机最终的遮挡区域。
需要说明的是,本申请实施例在此示出了一种基于相机的遮挡信息表获取相机的遮挡区域的实现方案,在本申请的其他实施例中,也可以通过其他实现方案获取相机的遮挡区域,例如在相机的感知区域内设置的标记物体,通过相机采集感知区域的图像并对图像中的标记物体进行检测,基于检测到的标记物体和感知区域内设置的标记物体的对比结果,确定没有被检测到的标记物体所在的区域为相机的遮挡区域。
本申请实施例还提供了一种目标持续跟踪装置300,如图3所示,提供了本申请实施例中一种目标持续跟踪装置的结构示意图,所述装置300包括:目标获取单元310、第一跟踪单元320、第二跟踪单元330以及状态预测单元340,其中:
目标获取单元310,用于获取当前帧的待处理目标,所述待处理目标包括基于当前帧道路图像得到的检测目标和基于上一帧目标跟踪结果预测出的在当前帧处于遮挡状态的遮挡目标;
第一跟踪单元320,用于根据所述遮挡目标的上一帧跟踪结果获取所述遮挡目标的当前帧预测位置,并根据当前帧预测位置获得所述遮挡目标的当前帧跟踪结果;
第二跟踪单元330,用于根据所述检测目标的当前帧检测位置获得所述检测目标的当前帧跟踪结果;
状态预测单元340,用于根据所述待处理目标的当前帧跟踪结果预测所述待处理目标在下一帧的遮挡状态,以根据预测结果获取在下一帧处于遮挡状态的遮挡目标。
在本申请的一些实施例中,第一跟踪单元320,具体用于根据所述遮挡目标的上一帧跟踪结果获取所述遮挡目标在上一帧的跟踪位置和跟踪速度;获取上一帧与当前帧的时间间隔;根据所述遮挡目标在上一帧的跟踪位置和跟踪速度以及上一帧与当前帧的时间间隔,获取所述遮挡目标的当前帧预测位置。
在本申请的一些实施例中,状态预测单元340,具体用于当所述待处理目标为所述检测目标时,获取相机的遮挡区域;根据所述检测目标的当前帧跟踪结果获取所述检测目标的当前帧检测位置和下一帧预测位置;根据所述检测目标的当前帧的位置和所述遮挡区域,获取所述检测目标与所述遮挡区域的相对距离;以及根据所述检测目标的当前帧检测位置和下一帧预测位置以及所述遮挡区域,获取所述检测目标是否正在驶入所述遮挡区域;若所述检测目标与所述遮挡区域的相对距离小于预设距离,且所述检测目标正在驶入所述遮挡区域,则确定所述检测目标在下一帧处于遮挡状态;否则,则确定所述检测目标在下一帧未处于遮挡状态。
在本申请的一些实施例中,所述遮挡区域包括图像遮挡区域和与所述图像遮挡区域对应的道路遮挡区域,状态预测单元340,具体用于根据所述检测目标的目标检测框与所述图像遮挡区域,获取所述检测目标与所述遮挡区域的相对距离;以及根据所述检测目标的当前帧检测位置获取所述检测目标在当前帧相对于所述道路遮挡区域的第一物理距离,以及根据所述检测目标的下一帧预测位置获取所述检测目标在下一帧相对于所述道路遮挡区域的第二物理距离;根据所述第一物理距离和所述第二物理距离获取所述检测目标是否正在驶入所述遮挡区域。
在本申请的一些实施例中,状态预测单元340具体用于当所述待处理目标为遮挡目标时,获取相机的遮挡区域;根据所述遮挡目标的当前帧跟踪结果获取所述遮挡目标的下一帧预测位置;若所述遮挡目标的下一帧预测位置处于所述遮挡区域之外,则确定所述遮挡目标在下一帧未处于遮挡状态;否则,则确定所述遮挡目标在下一帧处于遮挡状态。
在本申请的一些实施例中,状态预测单元340,具体用于获取所述相机的遮挡信息表,所述遮挡信息表中记录有遮挡区域;根据所述遮挡信息表获取所述相机的遮挡区域。
在本申请的一些实施例中,所述遮挡信息表中的遮挡区域包括所述相机被障碍物遮挡的第一区域和与所述相机关联的其他相机的可视区域,状态预测单元340,具体用于确定所述第一区域与所述其他相机的可视区域是否存在重叠区域;当所述第一区域与所述其他相机的可视区域存在重叠区域时,从所述第一区域中清除重叠区域,将清除重叠区域后的第一区域作为所述相机最终的遮挡区域。
能够理解,上述目标持续跟踪装置,能够实现前述实施例中提供的目标持续跟踪方法的各个步骤,关于目标持续跟踪方法的相关阐释均适用于目标持续跟踪装置,此处不再赘述。
图4是本申请的一个实施例电子设备的结构示意图。请参考图4,在硬件层面,该电子设备包括处理器,可选地还包括内部总线、网络接口、存储器。其中,存储器可能包含内存,例如高速随机存取存储器(Random-Access Memory,RAM),也可能还包括非易失性存储器(non-volatile memory),例如至少1个磁盘存储器等。当然,该电子设备还可能包括其他业务所需要的硬件。
处理器、网络接口和存储器可以通过内部总线相互连接,该内部总线可以是ISA(Industry Standard Architecture,工业标准体系结构)总线、PCI(PeripheralComponent Interconnect,外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture,扩展工业标准结构)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示,图4中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。
存储器,用于存放程序。具体地,程序可以包括程序代码,所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器,并向处理器提供指令和数据。
处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,在逻辑层面上形成目标持续跟踪装置。处理器,执行存储器所存放的程序,并具体用于执行以下操作:
获取当前帧的待处理目标,所述待处理目标包括基于当前帧道路图像得到的检测目标和基于上一帧目标跟踪结果预测出的在当前帧处于遮挡状态的遮挡目标;
根据所述遮挡目标的上一帧跟踪结果获取所述遮挡目标的当前帧预测位置,并根据当前帧预测位置获得所述遮挡目标的当前帧跟踪结果;
根据所述检测目标的当前帧检测位置获得所述检测目标的当前帧跟踪结果;
根据所述待处理目标的当前帧跟踪结果预测所述待处理目标在下一帧的遮挡状态,以根据预测结果获取在下一帧处于遮挡状态的遮挡目标。
上述如本申请图1所示实施例揭示的目标持续跟踪装置执行的方法可以应用于处理器中,或者由处理器实现。处理器可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(Network Processor,NP)等;还可以是数字信号处理器(Digital SignalProcessor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器,处理器读取存储器中的信息,结合其硬件完成上述目标持续跟踪方法的步骤。
该电子设备还可执行图1中目标持续跟踪装置执行的方法,并实现目标持续跟踪装置在图1所示实施例的功能,本申请实施例在此不再赘述。
本申请实施例还提出了一种计算机可读存储介质,该计算机可读存储介质存储一个或多个程序,该一个或多个程序包括指令,该指令当被包括多个应用程序的电子设备执行时,能够使该电子设备执行图1所示实施例中目标持续跟踪装置执行的方法,并具体用于执行:
获取当前帧的待处理目标,所述待处理目标包括基于当前帧道路图像得到的检测目标和基于上一帧目标跟踪结果预测出的在当前帧处于遮挡状态的遮挡目标;
根据所述遮挡目标的上一帧跟踪结果获取所述遮挡目标的当前帧预测位置,并根据当前帧预测位置获得所述遮挡目标的当前帧跟踪结果;
根据所述检测目标的当前帧检测位置获得所述检测目标的当前帧跟踪结果;
根据所述待处理目标的当前帧跟踪结果预测所述待处理目标在下一帧的遮挡状态,以根据预测结果获取在下一帧处于遮挡状态的遮挡目标。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本申请的实施例可提供为方法、系统或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
以上所述仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
Claims (10)
1.一种目标持续跟踪方法,其特征在于,所述方法包括:
获取当前帧的待处理目标,所述待处理目标包括基于当前帧道路图像得到的检测目标和基于上一帧目标跟踪结果预测出的在当前帧处于遮挡状态的遮挡目标;
根据所述遮挡目标的上一帧跟踪结果获取所述遮挡目标的当前帧预测位置,并根据当前帧预测位置获得所述遮挡目标的当前帧跟踪结果;
根据所述检测目标的当前帧检测位置获得所述检测目标的当前帧跟踪结果;
根据所述待处理目标的当前帧跟踪结果预测所述待处理目标在下一帧的遮挡状态,以根据预测结果获取在下一帧处于遮挡状态的遮挡目标。
2.如权利要求1所述的方法,其特征在于,所述根据所述遮挡目标的上一帧跟踪结果获取所述遮挡目标的当前帧预测位置,包括:
根据所述遮挡目标的上一帧跟踪结果获取所述遮挡目标在上一帧的跟踪位置和跟踪速度;
获取上一帧与当前帧的时间间隔;
根据所述遮挡目标在上一帧的跟踪位置和跟踪速度以及上一帧与当前帧的时间间隔,获取所述遮挡目标的当前帧预测位置。
3.如权利要求1所述的方法,其特征在于,当所述待处理目标为所述检测目标时,所述根据所述待处理目标的当前帧跟踪结果预测所述待处理目标在下一帧的遮挡状态,包括:
获取相机的遮挡区域;
根据所述检测目标的当前帧跟踪结果获取所述检测目标的当前帧检测位置和下一帧预测位置;
根据所述检测目标的当前帧的位置和所述遮挡区域,获取所述检测目标与所述遮挡区域的相对距离;以及根据所述检测目标的当前帧检测位置和下一帧预测位置以及所述遮挡区域,获取所述检测目标是否正在驶入所述遮挡区域;
若所述检测目标与所述遮挡区域的相对距离小于预设距离,且所述检测目标正在驶入所述遮挡区域,则确定所述检测目标在下一帧处于遮挡状态;否则,则确定所述检测目标在下一帧未处于遮挡状态。
4.如权利要求3所述的方法,其特征在于,所述遮挡区域包括图像遮挡区域和与所述图像遮挡区域对应的道路遮挡区域,所述根据所述检测目标的当前帧的位置和所述遮挡区域,获取所述检测目标与所述遮挡区域的相对距离,包括:
根据所述检测目标的目标检测框与所述图像遮挡区域,获取所述检测目标与所述遮挡区域的相对距离;
所述根据所述检测目标的当前帧检测位置和下一帧预测位置以及所述遮挡区域,获取所述检测目标是否正在驶入所述遮挡区域,包括:
根据所述检测目标的当前帧检测位置获取所述检测目标在当前帧相对于所述道路遮挡区域的第一物理距离,以及根据所述检测目标的下一帧预测位置获取所述检测目标在下一帧相对于所述道路遮挡区域的第二物理距离;
根据所述第一物理距离和所述第二物理距离获取所述检测目标是否正在驶入所述遮挡区域。
5.如权利要求1所述的方法,其特征在于,当所述待处理目标为遮挡目标时,所述根据所述待处理目标的当前帧跟踪结果预测所述待处理目标在下一帧的遮挡状态,包括:
获取相机的遮挡区域;
根据所述遮挡目标的当前帧跟踪结果获取所述遮挡目标的下一帧预测位置;
若所述遮挡目标的下一帧预测位置处于所述遮挡区域之外,则确定所述遮挡目标在下一帧未处于遮挡状态;否则,则确定所述遮挡目标在下一帧处于遮挡状态。
6.如权利要求3或5所述的方法,其特征在于,所述获取相机的遮挡区域,包括:
获取所述相机的遮挡信息表,所述遮挡信息表中记录有遮挡区域;
根据所述遮挡信息表获取所述相机的遮挡区域。
7.如权利要求6所述的方法,其特征在于,所述遮挡信息表中的遮挡区域包括所述相机被障碍物遮挡的第一区域和与所述相机关联的其他相机的可视区域,所述根据所述遮挡信息表获取所述相机的遮挡区域,包括:
确定所述第一区域与所述其他相机的可视区域是否存在重叠区域;
当所述第一区域与所述其他相机的可视区域存在重叠区域时,从所述第一区域中清除重叠区域,将清除重叠区域后的第一区域作为所述相机最终的遮挡区域。
8.如权利要求6所述的方法,其特征在于,通过下述步骤获取所述遮挡信息表中的第一区域:
获取所述相机被固定障碍物遮挡的第一遮挡区域,以及获取所述相机在设定时间内采集的多帧道路图像,根据所述多帧道路图像的移动目标的检测结果确定所述移动目标丢失的第二遮挡区域;
根据所述第一遮挡区域和/或所述第二遮挡区域获取所述遮挡信息表中的第一区域。
9.一种目标持续跟踪装置,其特征在于,所述装置包括:
目标获取单元,用于获取当前帧的待处理目标,所述待处理目标包括基于当前帧道路图像得到的检测目标和基于上一帧目标跟踪结果预测出的在当前帧处于遮挡状态的遮挡目标;
第一跟踪单元,用于根据所述遮挡目标的上一帧跟踪结果获取所述遮挡目标的当前帧预测位置,并根据当前帧预测位置获得所述遮挡目标的当前帧跟踪结果;
第二跟踪单元,用于根据所述检测目标的当前帧检测位置获得所述检测目标的当前帧跟踪结果;
状态预测单元,用于根据所述待处理目标的当前帧跟踪结果预测所述待处理目标在下一帧的遮挡状态,以根据预测结果获取在下一帧处于遮挡状态的遮挡目标。
10.一种电子设备,其特征在于,包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行权利要求1~8之任一项所述的目标持续跟踪方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310594225.3A CN116664668A (zh) | 2023-05-24 | 2023-05-24 | 一种目标持续跟踪方法和装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310594225.3A CN116664668A (zh) | 2023-05-24 | 2023-05-24 | 一种目标持续跟踪方法和装置、电子设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116664668A true CN116664668A (zh) | 2023-08-29 |
Family
ID=87709030
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310594225.3A Pending CN116664668A (zh) | 2023-05-24 | 2023-05-24 | 一种目标持续跟踪方法和装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116664668A (zh) |
-
2023
- 2023-05-24 CN CN202310594225.3A patent/CN116664668A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10339812B2 (en) | Surrounding view camera blockage detection | |
US11054265B2 (en) | Methods and systems for improving maps | |
CN111932901B (zh) | 道路车辆跟踪检测设备、方法及存储介质 | |
JP2021099793A (ja) | インテリジェント交通管制システム及びその制御方法 | |
CN110942038B (zh) | 基于视觉的交通场景识别方法、装置、介质及电子设备 | |
CN106203381A (zh) | 一种行车中障碍物检测方法与装置 | |
CN111323038B (zh) | 隧道内无人驾驶车辆的定位方法、系统和电子设备 | |
CN115493602A (zh) | 语义地图构建方法、装置及电子设备、存储介质 | |
CN115761668A (zh) | 摄像头的污渍识别方法、装置、车辆及存储介质 | |
CN116682091A (zh) | 用于自动驾驶车辆的障碍物感知方法、装置 | |
JP2020166409A (ja) | 車載装置、車載システムおよび周辺監視方法 | |
CN116164763A (zh) | 目标航向角确定方法、装置及电子设备、存储介质 | |
CN116664668A (zh) | 一种目标持续跟踪方法和装置、电子设备和存储介质 | |
CN116546424A (zh) | 激光建图方法及其装置、激光定位方法及其装置 | |
JP2020201746A (ja) | 距離推定装置、距離推定方法及び距離推定用コンピュータプログラム | |
CN115661014A (zh) | 一种点云数据处理方法、装置和电子设备、存储介质 | |
CN114155282A (zh) | 车辆追踪阈值更新方法、装置、电子设备及存储介质 | |
EP3288260A1 (en) | Image processing device, imaging device, equipment control system, equipment, image processing method, and carrier means | |
JP7147464B2 (ja) | 画像選択装置及び画像選択方法 | |
CN116625384B (zh) | 一种数据关联方法、装置及电子设备 | |
CN116228821A (zh) | 目标跟踪预测方法、装置及电子设备、存储介质 | |
CN115128655B (zh) | 自动驾驶车辆的定位方法和装置、电子设备和存储介质 | |
CN118068357B (zh) | 路沿融合处理方法、装置及电子设备、存储介质 | |
CN115830079B (zh) | 交通参与者的轨迹追踪方法、装置及介质 | |
CN117037060A (zh) | 行人轨迹跟踪方法、装置及电子设备、存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |