CN114140730A - 目标匹配方法、装置、设备及存储介质 - Google Patents
目标匹配方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN114140730A CN114140730A CN202111474736.9A CN202111474736A CN114140730A CN 114140730 A CN114140730 A CN 114140730A CN 202111474736 A CN202111474736 A CN 202111474736A CN 114140730 A CN114140730 A CN 114140730A
- Authority
- CN
- China
- Prior art keywords
- target
- prediction
- detection
- frame
- similarity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本公开实施例涉及一种目标匹配方法、装置、设备及存储介质,其中该方法包括:获取待处理图像对应的检测目标和预测目标;基于所述检测目标与所述预测目标进行多阶段匹配,其中,不同阶段采用的匹配策略不同。本公开实施例能够较好改善现有单阶段匹配容易出现的匹配不全等问题,可有效提升匹配准确度。
Description
相关申请的交叉引用
本公开要求于2021年11月24日提交中国专利局的申请号为2021114046049,名称为“目标匹配方法、装置、设备及存储介质”的中国专利申请的优先权,其全部内容通过引用结合在本公开中。
技术领域
本公开涉及图像处理技术领域,尤其涉及一种目标匹配方法、装置、设备及存储介质。
背景技术
在目标跟踪等技术中,为了在视频中确定同一目标对象,通常需要进行目标匹配。也即,通过对检测目标与预测目标进行匹配,匹配成功则确认其对应同一目标对象,从而实现针对同一目标对象的跟踪。目标匹配的准确度会直接影响目标跟踪结果,而相关技术中所采用的目标匹配算法的准确度仍旧有待提高。
发明内容
为了解决上述技术问题或者至少部分地解决上述技术问题,本公开提供了一种目标匹配方法、装置、设备及存储介质。
第一方面,本公开实施例提供了一种目标匹配方法,包括:获取待处理图像对应的检测目标和预测目标;基于所述检测目标与所述预测目标进行多阶段匹配,其中,不同阶段采用的匹配策略不同。
第二方面,本公开实施例提供了一种目标匹配装置,包括:获取模块,用于获取待处理图像对应的检测目标和预测目标;多阶段匹配模块,用于基于所述检测目标与所述预测目标进行多阶段匹配;其中,不同阶段采用的匹配策略不同。
第三方面,本公开实施例提供了一种电子设备,所述电子设备包括:处理器;用于存储所述处理器可执行指令的存储器;所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现如本公开实施例提供的目标匹配方法。
第四方面,本公开实施例还提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于执行如本公开实施例提供的目标匹配方法。
本公开实施例提供的上述技术方案,可以首先获取待处理图像对应的检测目标和预测目标;然后基于所述检测目标与所述预测目标进行多阶段匹配,由于采用多阶段匹配,且不同阶段采用的匹配策略不同,能够较好改善现有单阶段匹配容易出现的匹配不全等问题,可有效提升匹配准确度。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
为了更清楚地说明本公开实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本公开实施例提供的一种目标匹配方法的流程示意图;
图2为本公开实施例提供的一种检测目标与预测目标之间的常见关系示意图;
图3为本公开实施例提供的一种边界距离度量示意图;
图4为本公开实施例提供的一种组合属性度量示意图;
图5为本公开实施例提供的一种两阶段目标匹配方法的流程示意图;
图6为本公开实施例提供的一种两阶段目标匹配示意图;
图7为本公开实施例提供的一种多目标跟踪结构示意图;
图8为本公开实施例提供的一种目标匹配装置的结构示意图;
图9为本公开实施例提供的一种电子设备的结构示意图。
具体实施方式
为了能够更清楚地理解本公开的上述目的、特征和优点,下面将对本公开的方案进行进一步描述。需要说明的是,在不冲突的情况下,本公开的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本公开,但本公开还可以采用其他不同于在此描述的方式来实施;显然,说明书中的实施例只是本公开的一部分实施例,而不是全部的实施例。
图1为本公开实施例提供的一种目标匹配方法的流程示意图,该方法可以由目标匹配装置执行,其中该装置可以采用软件和/或硬件实现,一般可集成在电子设备中。如图1所示,该方法主要包括如下步骤S102~步骤S104:
步骤S102,获取待处理图像对应的检测目标和预测目标。
在一些实施方式中,上述待处理图像可以为待处理视频中的帧图像,诸如,可以将待处理视频中的每帧图像依次作为待处理图像,也可以按照指定间隔从待处理视频中抽取帧图像,将抽取的帧图像作为待处理图像。在待处理图像中可能只存在一个目标对象,此时检测目标与预测目标均为一个;在待处理图像中也可能同时存在多个目标对象,此时检测目标与预测目标均为多个,需要对任意检测目标和任意预测目标都进行两两之间的目标匹配,实现多目标匹配。本公开实施例对目标个数不进行限制,同时也对目标类别不进行限制,诸如,该目标可以为人物,也可以为车辆等。
在实际应用中,可以采用目标检测算法对待处理图像进行目标检测,得到检测目标;以及获取待处理图像的采集时刻之前的目标轨迹,并根据目标轨迹对待处理图像进行目标预测,得到预测目标。示例性地,可以采用3D目标检测器实现目标检测,并采用卡尔曼滤波器基于待处理图像上一时刻的目标轨迹进行预测,得到预测目标。
步骤S104,基于检测目标与预测目标进行多阶段匹配,其中,不同阶段采用的匹配策略不同。
匹配的目的在于确定属于同一目标对象的检测目标和预测目标。在一些实施方式中,上述多阶段匹配可以为:首个阶段的待匹配对象为所有检测目标和所有预测目标,非首个阶段的待匹配对象为在上一阶段未匹配成功的检测目标和预测目标。不同阶段采用的匹配策略中的相似度度量算法和/或相似度筛选阈值不同;其中,相似度度量算法用于计算待匹配的检测目标与预测目标之间的相似度,且匹配成功的检测目标和预测目标之间的相似度高于相似度筛选阈值。通过上述方式,可以分阶段采用不同的匹配策略进行目标匹配,从而极大降低了目标错误匹配、目标匹配不全等问题,具体而言,在单阶段中不仅容易出现错误匹配的情况,还容易出现本对应同一目标对象的检测目标和预测目标却未被成功匹配,导致目标匹配不全面(也可简称为目标匹配不全或者遗漏匹配目标),而本公开实施例提供的多阶段匹配方式可以有效改善上述问题,综合提升目标匹配准确度。
另外,在一些实施方式中,前一阶段的匹配策略的严格程度高于后一阶段的匹配策略的严格程度,为便于理解,以两阶段匹配为例,对于检测目标A和预测目标a而言,假设其在第一阶段匹配成功的概率是60%,则在第二阶段匹配成功的概率则可能为75%;换言之,对于某一检测目标和预测目标,假设在第一阶段未匹配成功,其在第二阶段则有可能匹配成功,因为第二阶段的匹配策略的严格程度低于第一阶段的匹配策略的严格程度。本公开实施例在多阶段匹配中,可以首先通过在前阶段采用严格的匹配策略筛选出最有可能匹配的检测目标和预测目标,其匹配结果的准确度也是最高,充分保障匹配准确度,然后在此基础上再采用其它匹配策略对余下未匹配的检测目标和预测目标进行匹配,从而改善匹配不全等问题。
综上,本公开实施例通过采用多阶段匹配,且不同阶段采用的匹配策略不同,能够较好改善现有单阶段匹配容易出现的匹配不全等问题,可有效提升匹配准确度。
在采用多阶段目标匹配的基础上,为了进一步提升每个阶段的匹配准确率,本公开实施例还创新性地提出了边界相似度度量算法和组合属性度量算法,为便于理解,以下分别阐述说明:
(一)边界相似度度量算法
边界相似度度量算法为本公开实施例提出的新的相似度度量算法,可基于检测目标与预测目标的边界来度量二者之间的相似度,也即,一个阶段采用边界相似度度量算法确定检测目标与预测目标之间的相似度,并根据相似度对检测目标与预测目标进行匹配;其中,匹配成功的检测目标与预测目标之间的相似度大于预设的第一相似度筛选阈值。第一相似度筛选阈值可根据实际需求进行设置,在此不进行限制。
在一些实施方式中,该边界相似度度量算法主要包括如下步骤:获取检测目标与预测目标之间的边界距离;获取检测目标与预测目标之间的重合度;根据边界距离和重合度确定检测目标与预测目标之间的相似度。上述重合度也可理解为检测目标的边界构成的检测目标区域与预测目标的边界构成的预测目标区域之间的重合度。可以理解的是,重合度与相似度呈正相关,重合度越大,检测目标与预测目标的相似度越大;而边界距离与相似度呈负相关,边界距离越大,检测目标与预测目标的相似度越小;在边界相似度度量算法中,可以综合考虑检测目标与预测目标之间的重合度与边界距离,基于重合度和边界距离两个因素共同衡量检测目标与预测目标之间的相似度,综合提升相似度度量的准确性。而相关技术中在对检测目标和预测目标进行相似度度量时,大多仅采用传统的IOU(Intersection-over-Union,交并比)相似度度量算法,但对于检测目标与预测目标之间没有交集的情况,则无法采用该算法进行相似度度量。诸如,参见图2示意出的一种检测目标与预测目标之间的常见关系示意图,在图2中的示例a为检测目标与预测目标之间存在交集的情况(也即,至少部分重合),在图2中的示例b为检测目标与预测目标之间未存在交集的情况(也即,完全没有重合)。显然,现有的IOU相似度度量算法无法计算示例b中检测目标与预测目标之间的相似度,因无交集而得到的IOU相似度度量值均为零,也即,IOU相似度度量算法无法针对无交集目标进行相似度评价。而本公开实施例提供的上述边界相似度度量算法,综合考虑到检测目标与预测目标之间的边界距离以及重合度,即便对于示例b,也可以合理评估其相似度,因此相似度评估的适用性也更广,而且结合边界距离和重合度进行综合评估,所得到的相似度的准确性也高于单一评估IOU相似度的准确性。
在一些具体的实施方式中,检测目标以检测框的形式表征,预测目标以预测框的形式表征;检测框与预测框的形式也可参照图2,在此不再赘述。
在检测目标以检测框的形式表征,预测目标以预测框的形式表征的基础上,在一些实施方式中,获取检测目标与预测目标之间的重合度的步骤,包括:对于待匹配的检测框与预测框,确定该检测框与该预测框之间的交并比,将得到的交并比数值作为该检测框与该预测框之间的重合度。也即,检测框与预测框这两个框重合部分的面积与这两个框合并起来的面积的比值,即为上述交并比,通过交并比数值来衡量检测框与预测框之间的重合度。在另一些实施方式中,还可以仅基于检测框与预测框之间的重合面积确定重合度,诸如,将重合面积进行归一化处理,将归一化结果作为检测框与预测框之间的重合度,此外还可以采用其它方式计算检测框与预测框之间的重合度,本公开实施例对重合度计算方式不进行限制。
在检测目标以检测框的形式表征,预测目标以预测框的形式表征的基础上,在一些实施方式中,获取检测目标与预测目标之间的边界距离的步骤,包括:对于待匹配的检测框与预测框,根据该检测框的顶点和该预测框的顶点,获取该检测框与该预测框之间的边界距离。在一些实施方式中,可以基于框顶点确定框边界,进而得到检测框与预测框的边界距离,本公开实施例不限制具体的框顶点,也不限制边界距离的具体计算方式,只要能够合理客观地体现出两个框之间的距离即可。
在根据该检测框的顶点和该预测框的顶点,获取该检测框与该预测框之间的边界距离的一些实施方式中,可以首先获取该检测框的指定顶点和该预测框的指定顶点之间的顶点距离,然后根据顶点距离确定该检测框与该预测框之间的边界距离。
在一些实施方式中,倘若检测框与预测框为两个平行框,则可以仅基于两个框中相同位置的顶点确定边界距离,诸如,将检测框与预测框各自的左上角顶点之间的距离作为检测框与该预测框之间的边界距离。应当注意的是,上述左上角顶点仅为示例,实际应用中还可以为右上角顶点、左下角顶点、右下角顶点等,具体可自行指定,在此不进行限制。在一些实施方式中,可以采用指定的至少两个不同顶点确定边界距离,诸如,采用左上角顶点、右下角顶点确定框边界,或者采用右上角顶点、左下角顶点确定框边界,然后根据检测框与预测框之间的左上角顶点距离以及右下角顶点距离共同确定两个框之间的边界距离。在该方式中,无论检测框与预测框是否平行均适用。
在前述基础上,获取该检测框的指定顶点和该预测框的指定顶点之间的顶点距离,根据顶点距离确定该检测框与该预测框之间的边界距离的步骤,可以参照如下步骤a至步骤d执行:
步骤a,获取该检测框的第一顶点和该预测框的第一顶点之间的第一距离;
步骤b,获取该检测框的第二顶点和该预测框的第二顶点之间的第二距离;其中,第一顶点为左上角顶点,第二顶点为右下角顶点;或者,第一顶点坐标为右上角顶点,第二顶点坐标为左下角顶点;
步骤c,根据该检测框的各顶点和该预测框的各顶点,得到包含有该检测框和该预测框的最小包围框,并确定最小包围框的对角线长度;
步骤d,根据第一距离、第二距离和最小包围框的对角线长度,确定检测框与该预测框之间的边界距离。
为便于理解,也可参照图3所示的一种边界距离度量示意图,在图3中,d0为检测目标与预测目标的左上角顶点之间的距离;d1为检测目标与预测目标的右下角顶点之间的距离,C为最小包围框(虚线框)的对角线长度。
在一些具体的实施方式中,可以首先将第一距离的平方值与第二距离的平方值求和,得到和值;然后将和值与最小包围框的对角线长度的平方值之间的比值,作为该检测框与该预测框之间的边界距离。
在根据检测框的顶点和预测框的顶点,获取该检测框与该预测框之间的边界距离的另一些实施方式中,可以根据该检测框的各顶点与该预测框的各顶点,确定该检测框的待度量边线以及该预测框的待度量边线;根据该检测框的待度量边线以及该预测框的待度量边线确定该检测框与该预测框之间的边界距离。诸如,根据检测框的各顶点坐标A1(左上顶点)、A2(左下顶点)、A3(右下顶点)、A4(右上顶点)和预测框的各顶点坐标B1(左上顶点)、B2(左下顶点)、B3(右下顶点)、B4(右上顶点),确认检测框与预测框平行,则在一些实施方式中,可以将检测框的待度量边线设置为A1A2(表示A1和A2构成的边线),预测框的待度量边线设置为B1B2,直接将A1A2与B1B2之间的距离作为检测框与预测框之间的边界距离。在另一些实施方式中,也可以计算诸如A1A2与B1B2之间的距离,以及A1A4与B1B4之间的距离、A1A4与B2B3之间的距离、A2A3与B1B4之间的距离、A2A3与B2B3之间的距离中的多种,然后根据距离最大值和距离最小值确定检测框与预测框之间的边界距离,示例性地,将距离最小值与距离最大值的均值作为边界距离;其中,距离最小值对应的两条边线以及距离最大值对应的两条边线均可视为待度量边线。以上仅为示例,具体可以根据实际需求进行设置,所用到的边线均可作为待度量边线。
如前所述,在获取到检测目标与预测目标之间的边界距离和重合度之后,采用边界距离和重合度确定检测目标与预测目标之间的相似度的一种实施方式中,可以根据重合度与边界距离的差值,确定检测目标与预测目标之间的相似度。示例性地,重合度和边界距离都可以通过归一化方式表示为0~1之间的数值,然后即可通过二者之间的差值来确定相似度,诸如,直接将差值作为检测目标与预测目标之间的相似度。在一些具体的实施方式中,还可以获取重合度的权重系数以及边界距离的权重系数,然后重合度与其权重系数的乘积与边界距离与其权重系数的乘积之间的差值作为检测目标与预测目标之间的相似度。
在前述基础上,本公开实施例给出了边界相似度度量算法的一种具体实施示例,在该实施示例中,也可将边界相似度度量算法称为BIOU(Boundary Intersection-over-Union)度量算法,无论检测目标与预测目标之间是否存在交集,检测目标与预测目标是否平行,均可采用该算法实现合理客观地相似度度量,具体的,BIOU度量算法的计算公式参照如下:
BIOU=IOU-RBIOU
其中RBIOU为边界距离;C2为两个边框最小闭包(也即,检测框和预测框的最小包围框)的对角线距离的平方,前述b0为检测目标(也即,检测框)的左上角顶点,b0 p为预测目标(也即,预测框)的左上角顶点,b1为检测目标的右下角顶点,b1 p为预测目标的右下角顶点,ρ2(b0b0 p)表示为检测目标与预测目标各自左上角顶点距离的平方,ρ2(b1b1 p)为检测目标与预测目标各自右下角顶点距离的平方。示例性地,以图3为例,d02=ρ2(b0b0 p),d12=ρ2(b1b1 p)。
其中,IOU=S1/S2,S1为检测目标与预测目标之间的交集面积,S2为检测目标和预测目标的并集面积。在BIOU算法中,直接将IOU值作为检测目标与预测目标的重合度。
最终将IOU与RBIOU的差值作为BIOU值,其中,RBIOU也可视为在IOU相似度度量的基础上结合边框的边界距离设计的惩罚项,通过上述公式,可以综合考虑检测目标与预测目标之间的重合度以及边界距离两方面因素,从而更为合理有效地实现两个目标之间的相似度度量,而且即便两个目标之间无交集,IOU为0,依然可通过RBIOU对两个目标之间的相似度进行描述,诸如,两个目标之间的距离越大,相应的RBIOU越大,取负值后所得的相似度越小。
由于上述边界相似度度量算法是基于重合度和边界距离两方面进行检测目标与预测目标之间的相似度度量,其严格程度也高于传统的IOU相似度度量,因此在一些实施方式中,在对检测目标与预测目标进行多阶段匹配时,可以令首阶段的匹配策略采用上述边界相似度度量算法,以此筛选出的匹配成功的检测目标与预测目标对应同一目标对象的准确性最高。
综上,本公开实施例提供的边界相似度度量算法可以综合考虑两个目标之间的边界距离以及重合度,较好解决了传统的IOU算法无法衡量无交集目标之间的相似度的问题,具有更为广泛的适用性。
(二)组合属性度量算法
为了能够更为全面地评价两个目标之间的相似度,本公开实施例还提供了一种组合属性度量算法,组合属性度量算法用于基于目标中心点位置、边框尺度、目标朝向等属性综合实现相似度度量。在对检测目标与预测目标进行多阶段匹配时,其中一个阶段可以采用组合属性度量算法确定检测目标与预测目标之间的相似度,并根据相似度对检测目标与预测目标进行匹配;其中,匹配成功的检测目标与预测目标之间的相似度大于预设的第二相似度筛选阈值。该第二相似度筛选阈值可以根据实际情况而灵活设置,在此不进行限制。
在检测目标以检测框的形式表征,预测目标以预测框的形式表征的基础上,一个阶段采用组合属性度量算法确定检测目标与预测目标之间的相似度的步骤,包括如下步骤A和步骤B:
步骤A,对于待匹配的检测框和预测框,确定该检测框和该预测框之间的中心点距离、对角线长度之差以及朝向角度之差。应当注意的是,上述朝向角度可基于预设的坐标系而定,检测框与预测框位于同一预设坐标系中,示例性地,将检测框相对于X轴的角度作为检测框的朝向角度,预测框相对于X轴的角度作为预测框的朝向角度。
步骤B,基于该检测框和该预测框之间的中心点距离、对角线长度之差和朝向角度之差,确定该检测框与该预测框之间的相似度。在该步骤中,通过中心点距离、对角线长度(表征前述边框尺度)、朝向角度这三个目标属性的差异情况共同衡量检测目标与预测目标之间的相似度,从而较为全面客观地实现相似度度量。
在一些实施方式中,上述步骤B可参照如下步骤B1~步骤B5实现:
步骤B1,基于该检测框的顶点坐标和该预测框的顶点坐标确定包含有该检测框和该预测框的最小包围框,并获取最小包围框的对角线长度。示例性地,可参照图4所示的一种组合属性度量示意图,虚线框为最小包围框。在一些实施方式中,可以直接将同时包含有检测框与预测框的面积最小的框作为最小包围框,在另一些实施方式中,可以直接将同时包含有检测框与预测框的周长最小的框作为最小包围框,具体可根据实际情况进行灵活设置。在前述基础上,假设同时存在面积相同(均为最小面积)的两个包围框,可以从中选取周长最小的包围框作为最小包围框;假设同时存在周长相同(均为最小周长)的两个包围框,可以从中选取面积最小的包围框作为最小包围框。
步骤B2,基于该检测框和该预测框之间的中心点距离和最小包围框的对角线长度,确定该检测框与该预测框之间的中心差异评估值。
在一些具体的实施方式中,可以计算该检测框和该预测框之间的中心点距离的平方值与最小包围框的对角线长度的平方值之间的第一比值,将第一比值作为该检测框与该预测框之间的中心差异评估值。具体的,可参照如下公式:
其中,C2为两个边框最小闭包(也即,检测框和预测框的最小包围框)的对角线距离的平方,c表示检测目标(检测框)的中心点,cp表示预测目标(预测框)的中心点,ρ2(c,cp)表示为检测目标与预测目标的中心点距离的平方。
步骤B3,基于该检测框和该预测框之间的对角线长度之差和最小包围框的对角线长度,确定该检测框与该预测框之间的对角线差异评估值。
在一些具体的实施方式中,可以计算该检测框和该预测框之间的对角线长度之差的平方值与最小包围框的对角线长度的平方值之间的第二比值,将第二比值作为该检测框与该预测框之间的对角线差异评估值。具体的,可参照如下公式:
其中,C2为两个边框最小闭包(也即,检测框和预测框的最小包围框)的对角线距离的平方,t0为检测框的对角线长度,t1为预测框的对角线长度,ρ2(t0,t1p)为检测框与预测框的对角线长度之差的平方。
步骤B4,基于朝向角度之差以及预设的三角函数,确定该检测框与该预测框之间的角度差异评估值。
在一些具体的实施方式中,可以基于正弦三角函数,计算朝向角度之差的正弦三角函数值;将正弦三角函数值的平方值作为该检测框与该预测框之间的角度差异评估值。具体的,可参照如下公式:
ΔY=sin2(θ0-θ1)
其中,θ0为检测目标相对x轴的角度,θ1为预测目标相对于x轴的角度。
步骤B5,根据中心差异评估值、对角线差异评估值和角度差异评估值,确定该检测框与该预测框之间的相似度。
在一些实施方式中,按照如下公式确定该检测框与该预测框之间的相似度JM:
JM=α×(1-ΔD)+β×(1-ΔS)+(1-α-β)×(1-ΔY)
其中,ΔD表示中心差异评估值;ΔS表示对角线差异评估值;ΔY表示角度差异评估值;α表示预设的第一权重系数,β表示预设的第二权重系数。在实际应用中,可以根据需求而灵活设置α、β的值,通过系数的不同来调整三种属性的重要程度,以取得更好的相似度描述。
综上,本公开实施例提供的上述组合属性度量算法,可以综合考虑目标的中心点、尺寸、朝向等属性,从而较为准确地描述目标的相似度,对于目标较小的情况下,相比于传统的诸如IOU等相似度评估算法而言,上述组合属性度量算法具有更好的相似度评估效果。
在一些实施方式中,组合属性度量算法用于确定上个阶段未匹配成功的检测目标与预测目标之间的相似度,示例性地,以两阶段匹配目标为例,第一阶段采用前述边界相似度度量算法,以较为严格的方式筛选出匹配成功的检测目标和预测目标,也即筛选出最优的一对一匹配结果,充分保障匹配准确性,然后第二阶段采用前述组合属性度量算法,对第一阶段未能匹配成功的检测目标和预测目标进行匹配,充分保障匹配的全面性,综合减少了错误匹配以及匹配丢失的情况。
除了前述边界相似度度量算法和组合属性度量算法之外,在实际应用中,还可以在一个阶段采用交并比算法(IOU算法)确定检测目标与预测目标之间的相似度,并根据相似度对检测目标与预测目标进行匹配;其中,匹配成功的检测目标与预测目标之间的相似度大于预设的第三相似度筛选阈值。示例性地,在多阶段匹配中,可以选用边界相似度度量算法、组合属性度量算法、交并比算法中的至少两种。
在通过上述诸如边界相似度度量算法、组合属性度量算法、交并比算法等任一算法得到检测目标与预测目标的相似度之后,可以进一步基于相似度进行目标匹配。在一些实施方式中,任一阶段所采用的匹配策略,都包含如下步骤:
(1)对于待匹配的至少一个检测目标和至少一个预测目标,通过该阶段采用的相似度算法计算任意检测目标与任意预测目标之间的相似度,得到任意两个检测/预测目标之间的相似度。示例性地,检测目标集包含两个检测目标X1X2,预测目标集包含两个预测目标Y1Y2,则需要分别计算X1Y1、X1Y2、X2Y1、X2Y2的相似度。为了便于处理,还可以将得到的所有相似度构成诸如2*2的相似度矩阵。
(2)根据任意两个检测/预测目标之间的相似度,采用预设的指派算法确定最优的一对一匹配关系,得到检测目标与预测目标的匹配结果。一种具体实施示例中,该指派算法为匈牙利算法。示例性地,通过指派算法认为X1与Y2匹配,X2与Y1匹配。
(3)通过该阶段采用的相似度筛选阈值对上述检测目标与预测目标的匹配结果进行筛选,将在一对一匹配关系中相似度大于相似度筛选阈值的检测目标与预测目标视为匹配成功。示例性地,假设相似度筛选阈值为80%,而X1与Y2的相似度为75%,X2与Y1的相似度为89%,则认为X2与Y1在本阶段匹配成功。
如果存在未匹配成功的检测目标与预测目标,诸如,X1与Y2未匹配成功,则可以采用下一阶段的匹配策略再次对其进行匹配,采用下一阶段的匹配策略执行上述(1)~(3)的步骤,由于不同阶段所采用的匹配策略不同,也即,不同阶段所采用的相似度算法和/或相似度筛选阈值不同,因此上一阶段未得以匹配成功的检测目标与预测目标可能在下一阶段得以成功匹配。通过多阶段匹配方式可以有效保障匹配的准确性以及全面性,诸如,在前阶段可以通过较为严格的匹配策略保障匹配准确性,在后阶段可以通过对未匹配成功的检测目标与预测目标通过其它策略进行匹配,从而避免目标丢失的情况,综合保障了匹配精度。
在前述基础上,本公开实施例给出一种多阶段匹配的具体实施示例,在该实施示例中主要为两阶段匹配,具体可参见图5所示的一种两阶段目标匹配方法的流程示意图,主要包括如下步骤S502~步骤S518:
步骤S502,获取待匹配的检测目标与预测目标。
步骤S504,采用边界相似度度量算法对所有待匹配的检测目标与预测目标进行相似度度量,得到第一相似度度量结果。其中,该第一相似度度量结果可以以相似度矩阵的形式表示。
步骤S506,基于第一相似度度量结果,采用匈牙利算法进行求解指派,得到一对一匹配关系。
步骤S508,基于第一相似度筛选阈值对上述匹配关系进行筛选,得到第一阶段匹配成功的检测目标与预测目标;其中,第一阶段匹配成功的检测目标与预测目标之间的相似度大于第一相似度筛选阈值。
步骤S510,判断是否所有检测目标与预测目标均匹配成功;如果是,执行步骤S518,如果否,执行步骤S512;
步骤S512,采用组合属性相似度度量算法对上述未匹配成功的检测目标与预测目标进行相似度度量,得到第二相似度度量结果。其中,该第二相似度度量结果可以以相似度矩阵的形式表示。
步骤S514,基于第二相似度度量结果,采用匈牙利算法进行求解指派,得到一对一匹配关系。
步骤S516,基于第二相似度筛选阈值对上述匹配关系(步骤S514所得的匹配关系)进行筛选,得到第二阶段匹配成功的检测目标与预测目标;其中,第二阶段匹配成功的检测目标与预测目标之间的相似度大于第二相似度筛选阈值。
步骤S518,将所有匹配成功的检测目标与预测目标集合起来共同作为两阶段目标匹配结果。也即,将第一阶段和第二阶段匹配成功的检测目标与预测目标集合起来共同作为两阶段目标匹配结果。
为便于理解,也可参见图6所示的一种两阶段目标匹配示意图,在图6中,直接采用BIOU指代边界相似度度量算法,JM度量指代前述组合属性相似度度量算法,其余的具体匹配流程可参照图5,在此不再赘述。
通过上述图5和图6的方式,第一阶段采用前述边界相似度度量算法,以较为严格的方式筛选出匹配成功的检测目标和预测目标,充分保障匹配准确性,然后第二阶段采用前述组合属性度量算法,对第一阶段未能匹配成功的检测目标和预测目标进行匹配,充分保障匹配的全面性,综合减少了错误匹配以及匹配丢失的情况。
对于最后一个阶段也未匹配成功的检测目标与预测目标,则可以另行处理,诸如将其保存在指定位置,并保存预设时长,以防在预设时长内可能对其进行应用,如果预设时长内该未匹配成功的检测目标与预测目标一直未被应用,则可以将其丢弃。
如前所述,通过对检测目标与预测目标进行多阶段匹配,可以得到每个阶段匹配成功的检测目标和预测目标,然后可将各个阶段匹配成功的检测目标和预测目标共同作为多阶段匹配结果。应当注意的是,假设有某个阶段中已将所有待检测的检测目标与预测目标都匹配成功,则多阶段目标匹配结束,不再执行后续阶段。诸如图5所示,假设第一阶段已将所有检测目标与预测目标都成功匹配,则不再执行第二阶段的匹配流程。
应当注意的是,诸如图5和图6所示的两阶段匹配方法仅为示例,不应当被视为限制,在实际应用中,不同阶段所采用的匹配策略中的相似度度量算法可以根据需求而自行设置,以及,还可以扩展为诸如三阶段、四阶段、五阶段等进行多阶段级联匹配,最后得到多阶段匹配结果。
在得到多阶段匹配结果之后,可以根据多阶段匹配结果进行目标跟踪,诸如对于待处理图像而言,针对待处理图像中的检测目标与预测目标进行多阶段匹配,得到对应于同一目标对象的检测目标与预测目标,但检测目标与预测目标的位置可能存在差异,因此可以基于检测目标的位置和预测目标的位置,确定其所对应的目标对象的位置,通过这种方式,可以标注获取的每张图像中各目标对象的位置,基于各图像的采集时间,可实现目标轨迹跟踪,目标跟踪可较好应用于诸如无人驾驶场景中,作为无人驾驶环境感知系统中的重要组成部分。
在前述基础上,本公开实施例提供了如图7所示的一种多目标跟踪结构示意图,示意出了3D多目标跟踪框架,在图7中,可以采用3D目标检测器对待处理图像进行目标检测,得到检测目标;在实际应用过程中,3D目标检测器可以实时获取当前场景中的3D检测目标,并将其表现为3D边框(检测框)的形式。卡尔曼滤波器可以基于上一时刻目标轨迹对待处理图像进行目标预测,得到预测目标;也即,卡尔曼滤波器可以利用历史帧的检测信息对当前帧的目标位置进行预测,得到预测目标,并将其表现为预测框的形式。预测目标和检测目标进行目标匹配(一对一关联),可以得到目标匹配结果。目标匹配结果可以将完成匹配的检测目标和预测目标(也即,匹配成功的检测目标和预测目标)再返给卡尔曼滤波器进行后验估计,并基于后验估计结果进行轨迹管理。其中,上述后验估计包括的主要步骤为:对于匹配成功的检测目标与预测目标各自的位置,确定其所对应的目标对象的位置,以此作为该目标对象对应在待处理图像中的记录位置,从而用在后续轨迹管理中。此外,对于未匹配目标(未匹配检测/未匹配跟踪)可进行生命周期管理环节。在生命周期管理环节中,可以将未匹配目标保留预设时长,倘若超过预设时长都未用到该未匹配目标,则将未匹配目标丢弃。倘若在预设时长内再次应用到未匹配目标(诸如,先检测目标A,后来目标A被遮挡,之后目标A再次出现),则可以继续对其进行轨迹管理。
综上所述,本公开实施例提供的目标匹配方法,通过多阶段匹配,且不同阶段采用的匹配策略不同,能够较好改善现有单阶段匹配容易出现的匹配不全等问题,可有效提升匹配准确度。为了进一步提升每个阶段的匹配准确率,本公开实施例还创新提出了边界相似度度量算法和组合属性度量算法,边界相似度度量算法可以综合考虑两个目标之间的边界距离以及重合度,解决了传统的IOU算法无法衡量无交集目标之间的相似度的问题。组合属性度量算法可以综合考虑目标的中心点、尺寸、朝向等属性,从而较为准确地描述目标的相似度,而且也可更好适用于较小目标的相似度评估。
进一步,本公开实施例还提出了多阶段中匹配策略的严格程度依次递减的方式,诸如,在前阶段优先采用度量较为严格的匹配策略进行目标匹配,充分保障匹配准确度,并且在后阶段采用度量并不十分严格的匹配策略对在前阶段未能匹配成功的检测目标与预测目标进行匹配,从而避免目标丢失。在一些具体实施方式中,第一阶段采用前述边界相似度度量算法,以较为严格的方式筛选出匹配成功的检测目标和预测目标,充分保障匹配准确性,然后第二阶段采用前述组合属性度量算法,对第一阶段未能匹配成功的检测目标和预测目标进行匹配,充分保障匹配的全面性,综合减少了错误匹配以及匹配丢失的情况。最终将各个阶段匹配成功的检测目标与预测目标共同作为多阶段匹配结果,综合提升了匹配准确率,也有助于进一步提升基于匹配结果进行目标跟踪的跟踪可靠性。
另外,相关技术中会采用深度学习模型或者相关性预测网络对检测目标与预测目标进行特征提取,基于特征进行相似度计算,但是需要进行充分数据进行网络训练,训练成本较高;而且上述方式对场景较为敏感,一旦更换场景,往往需要重新训练网络,才能计算出较为准确的相似度。此外,在基于激光雷达的3D目标跟踪中,由于点云的稀疏性,也不易于提取特征;而当目标过小时,更难以提取出有效的点云序列进行相似度计算。相比于相关技术,本公开实施例提供的上述方法所需成本较低,可直接采用较为便捷的算法进行目标匹配,而且不受场景限制,具有普遍适用性。
对应于前述目标匹配方法,本公开实施例还提供了一种目标匹配装置,图8为本公开实施例提供的一种目标匹配装置的结构示意图,该装置可由软件和/或硬件实现,一般可集成在电子设备中,如图8所示,包括:
目标获取模块802,用于获取待处理图像对应的检测目标和预测目标;
多阶段匹配模块804,用于基于检测目标与预测目标进行多阶段匹配;其中,不同阶段采用的匹配策略不同。
上述方式通过采用多阶段匹配,且不同阶段采用的匹配策略不同,能够较好改善现有单阶段匹配容易出现的匹配不全等问题,可有效提升匹配准确度。为了进一步提升每个阶段的匹配准确率。
在一些实施方式中,一个阶段采用边界相似度度量算法确定所述检测目标与所述预测目标之间的相似度,并根据所述相似度对所述检测目标与所述预测目标进行匹配;其中,匹配成功的所述检测目标与所述预测目标之间的相似度大于预设的第一相似度筛选阈值。
在一些实施方式中,多阶段匹配模块包括:
距离获取单元,用于获取所述检测目标与所述预测目标之间的边界距离;
重合度获取单元,用于获取所述检测目标与所述预测目标之间的重合度;
第一相似度确定单元,用于根据所述边界距离和所述重合度确定所述检测目标与所述预测目标之间的相似度。
在一些实施方式中,所述检测目标以检测框的形式表征,所述预测目标以预测框的形式表征;
距离获取单元具体用于:对于待匹配的检测框与预测框,根据该检测框的顶点和该预测框的顶点,获取该检测框与该预测框之间的边界距离;
重合度获取单元具体用于:确定该检测框与该预测框之间的交并比,将得到的交并比数值作为该检测框与该预测框之间的重合度。
在一些实施方式中,距离获取单元具体用于:获取该检测框的指定顶点和该预测框的指定顶点之间的顶点距离,根据所述顶点距离确定该检测框与该预测框之间的边界距离。
在一些实施方式中,距离获取单元具体用于:获取该检测框的第一顶点和该预测框的第一顶点之间的第一距离;获取该检测框的第二顶点和该预测框的第二顶点之间的第二距离;其中,第一顶点为左上角顶点,所述第二顶点为右下角顶点;或者,所述第一顶点坐标为右上角顶点,所述第二顶点坐标为左下角顶点;根据该检测框的各顶点和该预测框的各顶点,得到包含有该检测框和该预测框的最小包围框,并确定所述最小包围框的对角线长度;根据所述第一距离、所述第二距离和所述最小包围框的对角线长度,确定检测框与该预测框之间的边界距离。
在一些实施方式中,距离获取单元具体用于:将所述第一距离的平方值与所述第二距离的平方值求和,得到和值;将所述和值与所述最小包围框的对角线长度的平方值之间的比值,作为该检测框与该预测框之间的边界距离。
在一些实施方式中,距离获取单元具体用于:根据该检测框的各顶点与该预测框的各顶点,确定该检测框的待度量边线以及该预测框的待度量边线;根据该检测框的待度量边线以及该预测框的待度量边线确定该检测框与该预测框之间的边界距离。
在一些实施方式中,第一相似度确定单元具体用于:根据所述重合度与所述边界距离的差值,确定所述检测目标与所述预测目标之间的相似度。
在一些实施方式中,一个阶段采用组合属性度量算法确定所述检测目标与所述预测目标之间的相似度,并根据所述相似度对所述检测目标与所述预测目标进行匹配;其中,匹配成功的所述检测目标与所述预测目标之间的相似度大于预设的第二相似度筛选阈值。
在一些实施方式中,所述组合属性度量算法用于确定上个阶段未匹配成功的检测目标与预测目标之间的相似度。
在一些实施方式中,所述检测目标以检测框的形式表征,所述预测目标以预测框的形式表征;多阶段匹配模块包括:
多属性确定单元,用于对于待匹配的检测框和预测框,确定该检测框和该预测框之间的中心点距离、对角线长度之差以及朝向角度之差;
第二相似度确定单元,用于基于该检测框和该预测框之间的中心点距离、对角线长度之差和朝向角度之差,确定该检测框与该预测框之间的相似度。
在一些实施方式中,第二相似度确定单元具体用于:基于该检测框的顶点坐标和该预测框的顶点坐标确定包含有该检测框和该预测框的最小包围框,并获取所述最小包围框的对角线长度;基于该检测框和该预测框之间的中心点距离和所述最小包围框的对角线长度,确定该检测框与该预测框之间的中心差异评估值;基于该检测框和该预测框之间的对角线长度之差和所述最小包围框的对角线长度,确定该检测框与该预测框之间的对角线差异评估值;基于所述朝向角度之差以及预设的三角函数,确定该检测框与该预测框之间的角度差异评估值;根据所述中心差异评估值、所述对角线差异评估值和所述角度差异评估值,确定该检测框与该预测框之间的相似度。
在前述基础上,一些实施方式中,第二相似度确定单元具体用于:计算该检测框和该预测框之间的中心点距离的平方值与所述最小包围框的对角线长度的平方值之间的第一比值,将所述第一比值作为该检测框与该预测框之间的中心差异评估值。
在前述基础上,一些实施方式中,第二相似度确定单元具体用于:计算该检测框和该预测框之间的对角线长度之差的平方值与所述最小包围框的对角线长度的平方值之间的第二比值,将所述第二比值作为该检测框与该预测框之间的对角线差异评估值。
在前述基础上,一些实施方式中,第二相似度确定单元具体用于:基于正弦三角函数,计算所述朝向角度之差的正弦三角函数值;将所述正弦三角函数值的平方值作为该检测框与该预测框之间的角度差异评估值。
在前述基础上,一些实施方式中,第二相似度确定单元具体用于:按照如下公式确定该检测框与该预测框之间的相似度JM:
JM=α×(1-ΔD)+β×(1-ΔS)+(1-α-β)×(1-ΔY)
其中,ΔD表示所述中心差异评估值;ΔS表示所述对角线差异评估值;ΔY表示所述角度差异评估值;α表示预设的第一权重系数,β表示预设的第二权重系数。
在一些实施方式中,一个阶段采用交并比算法确定所述检测目标与所述预测目标之间的相似度,并根据所述相似度对所述检测目标与所述预测目标进行匹配;其中,匹配成功的所述检测目标与所述预测目标之间的相似度大于预设的第三相似度筛选阈值。
在一些实施方式中,目标获取模块用于:采用目标检测算法对所述待处理图像进行目标检测,得到检测目标;获取所述待处理图像的采集时刻之前的目标轨迹,并根据所述目标轨迹对所述待处理图像进行目标预测,得到预测目标。
在一些实施方式中,所述装置还包括:跟踪模块,用于将各个阶段匹配成功的检测目标和预测目标共同作为多阶段匹配结果;根据所述多阶段匹配结果进行目标跟踪。
本公开实施例所提供的目标匹配装置可执行本公开任意实施例所提供的目标匹配方法,具备执行方法相应的功能模块和有益效果。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的装置实施例的具体工作过程,可以参考方法实施例中的对应过程,在此不再赘述。
本公开实施例提供了一种电子设备,电子设备包括:处理器;用于存储处理器可执行指令的存储器;处理器,用于从存储器中读取可执行指令,并执行指令以实现上述任一目标匹配方法。
图9为本公开实施例提供的一种电子设备的结构示意图。如图9所示,电子设备900包括一个或多个处理器901和存储器902。
处理器901可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备900中的其他组件以执行期望的功能。
存储器902可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器901可以运行所述程序指令,以实现上文所述的本公开的实施例的目标匹配方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。
在一个示例中,电子设备900还可以包括:输入装置903和输出装置904,这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。
此外,该输入装置903还可以包括例如键盘、鼠标等等。
该输出装置904可以向外部输出各种信息,包括确定出的距离信息、方向信息等。该输出装置904可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然,为了简化,图9中仅示出了该电子设备900中与本公开有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备900还可以包括任何其他适当的组件。
除了上述方法和设备以外,本公开的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本公开实施例所提供的目标匹配方法。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本公开的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本公开实施例所提供的目标匹配方法。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
本公开实施例还提供了一种计算机程序产品,包括计算机程序/指令,该计算机程序/指令被处理器执行时实现本公开实施例中的目标匹配方法。
需要说明的是,在本文中,诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
综上,本公开实施例提供的目标匹配方法、装置、设备及存储介质,可参照如下执行:
A1.一种目标匹配方法,包括:
获取待处理图像对应的检测目标和预测目标;
基于所述检测目标与所述预测目标进行多阶段匹配,其中,不同阶段采用的匹配策略不同。
A2.根据A1所述的方法,一个阶段采用边界相似度度量算法确定所述检测目标与所述预测目标之间的相似度,并根据所述相似度对所述检测目标与所述预测目标进行匹配;其中,匹配成功的所述检测目标与所述预测目标之间的相似度大于预设的第一相似度筛选阈值。
A3.根据A2所述的方法,一个阶段采用边界相似度度量算法确定所述检测目标与所述预测目标之间的相似度的步骤,包括:
获取所述检测目标与所述预测目标之间的边界距离;
获取所述检测目标与所述预测目标之间的重合度;
根据所述边界距离和所述重合度确定所述检测目标与所述预测目标之间的相似度。
A4.根据A3所述的方法,所述检测目标以检测框的形式表征,所述预测目标以预测框的形式表征;
获取所述检测目标与所述预测目标之间的边界距离的步骤,包括:
对于待匹配的检测框与预测框,根据该检测框的顶点和该预测框的顶点,获取该检测框与该预测框之间的边界距离;
获取所述检测目标与所述预测目标之间的重合度的步骤,包括:
确定该检测框与该预测框之间的交并比,将得到的交并比数值作为该检测框与该预测框之间的重合度。
A5.根据A4所述的方法,根据该检测框的顶点和该预测框的顶点,获取该检测框与该预测框之间的边界距离的步骤,包括:
获取该检测框的指定顶点和该预测框的指定顶点之间的顶点距离,根据所述顶点距离确定该检测框与该预测框之间的边界距离。
A6.根据A5所述的方法,获取该检测框的指定顶点和该预测框的指定顶点之间的顶点距离,根据所述顶点距离确定该检测框与该预测框之间的边界距离的步骤,包括:
获取该检测框的第一顶点和该预测框的第一顶点之间的第一距离;
获取该检测框的第二顶点和该预测框的第二顶点之间的第二距离;其中,第一顶点为左上角顶点,所述第二顶点为右下角顶点;或者,所述第一顶点坐标为右上角顶点,所述第二顶点坐标为左下角顶点;
根据该检测框的各顶点和该预测框的各顶点,得到包含有该检测框和该预测框的最小包围框,并确定所述最小包围框的对角线长度;
根据所述第一距离、所述第二距离和所述最小包围框的对角线长度,确定检测框与该预测框之间的边界距离。
A7.根据A6所述的方法,根据所述第一距离、所述第二距离和所述对角线长度,确定该检测框与该预测框之间的边界距离的步骤,包括:
将所述第一距离的平方值与所述第二距离的平方值求和,得到和值;
将所述和值与所述最小包围框的对角线长度的平方值之间的比值,作为该检测框与该预测框之间的边界距离。
A8.根据A4所述的方法,根据该检测框的顶点和该预测框的顶点,获取该检测框与该预测框之间的边界距离的步骤,包括:
根据该检测框的各顶点与该预测框的各顶点,确定该检测框的待度量边线以及该预测框的待度量边线;根据该检测框的待度量边线以及该预测框的待度量边线确定该检测框与该预测框之间的边界距离。
A9.根据A3所述的方法,根据所述边界距离和所述重合度确定所述检测目标与所述预测目标之间的相似度的步骤,包括:
根据所述重合度与所述边界距离的差值,确定所述检测目标与所述预测目标之间的相似度。
A10.根据A1至A9任一项所述的方法,一个阶段采用组合属性度量算法确定所述检测目标与所述预测目标之间的相似度,并根据所述相似度对所述检测目标与所述预测目标进行匹配;其中,匹配成功的所述检测目标与所述预测目标之间的相似度大于预设的第二相似度筛选阈值。
A11.根据A10所述的方法,所述组合属性度量算法用于确定上个阶段未匹配成功的检测目标与预测目标之间的相似度。
A12.根据A10或A11所述的方法,所述检测目标以检测框的形式表征,所述预测目标以预测框的形式表征;
一个阶段采用组合属性度量算法确定所述检测目标与所述预测目标之间的相似度的步骤,包括:
对于待匹配的检测框和预测框,确定该检测框和该预测框之间的中心点距离、对角线长度之差以及朝向角度之差;
基于该检测框和该预测框之间的中心点距离、对角线长度之差和朝向角度之差,确定该检测框与该预测框之间的相似度。
A13.根据A12所述的方法,基于所述中心点距离、所述对角线长度之差和所述朝向角度之差,确定该检测框与该预测框之间的相似度的步骤,包括:
基于该检测框的顶点坐标和该预测框的顶点坐标确定包含有该检测框和该预测框的最小包围框,并获取所述最小包围框的对角线长度;
基于该检测框和该预测框之间的中心点距离和所述最小包围框的对角线长度,确定该检测框与该预测框之间的中心差异评估值;
基于该检测框和该预测框之间的对角线长度之差和所述最小包围框的对角线长度,确定该检测框与该预测框之间的对角线差异评估值;
基于所述朝向角度之差以及预设的三角函数,确定该检测框与该预测框之间的角度差异评估值;
根据所述中心差异评估值、所述对角线差异评估值和所述角度差异评估值,确定该检测框与该预测框之间的相似度。
A14.根据A13所述的方法,基于该检测框和该预测框之间的中心点距离和所述最小包围框的对角线长度,确定该检测框与该预测框之间的中心差异评估值的步骤,包括:
计算该检测框和该预测框之间的中心点距离的平方值与所述最小包围框的对角线长度的平方值之间的第一比值,将所述第一比值作为该检测框与该预测框之间的中心差异评估值。
A15.根据A13所述的方法,基于该检测框和该预测框之间的对角线长度之差和所述最小包围框的对角线长度,确定该检测框与该预测框之间的对角线差异评估值的步骤,包括:
计算该检测框和该预测框之间的对角线长度之差的平方值与所述最小包围框的对角线长度的平方值之间的第二比值,将所述第二比值作为该检测框与该预测框之间的对角线差异评估值。
A16.根据A13所述的方法,基于所述朝向角度之差以及预设的三角函数,确定该检测框与该预测框之间的角度差异评估值的步骤,包括:
基于正弦三角函数,计算所述朝向角度之差的正弦三角函数值;
将所述正弦三角函数值的平方值作为该检测框与该预测框之间的角度差异评估值。
A17.根据A13所述的方法,根据所述中心差异评估值、所述对角线差异评估值和所述角度差异评估值,确定该检测框与该预测框之间的相似度的步骤,包括:
按照如下公式确定该检测框与该预测框之间的相似度JM:
JM=α×(1-ΔD)+β×(1-ΔS)+(1-α-β)×(1-ΔY)
其中,ΔD表示所述中心差异评估值;ΔS表示所述对角线差异评估值;ΔY表示所述角度差异评估值;α表示预设的第一权重系数,β表示预设的第二权重系数。
A18.根据A1所述的方法,一个阶段采用交并比算法确定所述检测目标与所述预测目标之间的相似度,并根据所述相似度对所述检测目标与所述预测目标进行匹配;其中,匹配成功的所述检测目标与所述预测目标之间的相似度大于预设的第三相似度筛选阈值。
A19.根据A1所述的方法,获取待处理图像对应的检测目标和预测目标的步骤,包括:
采用目标检测算法对所述待处理图像进行目标检测,得到检测目标;
获取所述待处理图像的采集时刻之前的目标轨迹,并根据所述目标轨迹对所述待处理图像进行目标预测,得到预测目标。
A20.根据A1所述的方法,所述方法还包括:
将各个阶段匹配成功的检测目标和预测目标共同作为多阶段匹配结果;
根据所述多阶段匹配结果进行目标跟踪。
B21.一种目标匹配装置,包括:
获取模块,用于获取待处理图像对应的检测目标和预测目标;
多阶段匹配模块,用于基于所述检测目标与所述预测目标进行多阶段匹配;其中,不同阶段采用的匹配策略不同。
C22.一种电子设备,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现上述A1-A20中任一所述的目标匹配方法。
D23.一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于执行上述A1-A20中任一所述的目标匹配方法。
以上所述仅是本公开的具体实施方式,使本领域技术人员能够理解或实现本公开。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本公开的精神或范围的情况下,在其它实施例中实现。因此,本公开将不会被限制于本文所述的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种目标匹配方法,其特征在于,包括:
获取待处理图像对应的检测目标和预测目标;
基于所述检测目标与所述预测目标进行多阶段匹配,其中,不同阶段采用的匹配策略不同。
2.根据权利要求1所述的方法,其特征在于,一个阶段采用边界相似度度量算法确定所述检测目标与所述预测目标之间的相似度,并根据所述相似度对所述检测目标与所述预测目标进行匹配;其中,匹配成功的所述检测目标与所述预测目标之间的相似度大于预设的第一相似度筛选阈值。
3.根据权利要求2所述的方法,其特征在于,一个阶段采用边界相似度度量算法确定所述检测目标与所述预测目标之间的相似度的步骤,包括:
获取所述检测目标与所述预测目标之间的边界距离;
获取所述检测目标与所述预测目标之间的重合度;
根据所述边界距离和所述重合度确定所述检测目标与所述预测目标之间的相似度。
4.根据权利要求3所述的方法,其特征在于,所述检测目标以检测框的形式表征,所述预测目标以预测框的形式表征;
获取所述检测目标与所述预测目标之间的边界距离的步骤,包括:
对于待匹配的检测框与预测框,根据该检测框的顶点和该预测框的顶点,获取该检测框与该预测框之间的边界距离;
获取所述检测目标与所述预测目标之间的重合度的步骤,包括:
确定该检测框与该预测框之间的交并比,将得到的交并比数值作为该检测框与该预测框之间的重合度。
5.根据权利要求1至4任一项所述的方法,其特征在于,一个阶段采用组合属性度量算法确定所述检测目标与所述预测目标之间的相似度,并根据所述相似度对所述检测目标与所述预测目标进行匹配;其中,匹配成功的所述检测目标与所述预测目标之间的相似度大于预设的第二相似度筛选阈值。
6.根据权利要求5所述的方法,其特征在于,所述检测目标以检测框的形式表征,所述预测目标以预测框的形式表征;
一个阶段采用组合属性度量算法确定所述检测目标与所述预测目标之间的相似度的步骤,包括:
对于待匹配的检测框和预测框,确定该检测框和该预测框之间的中心点距离、对角线长度之差以及朝向角度之差;
基于该检测框和该预测框之间的中心点距离、对角线长度之差和朝向角度之差,确定该检测框与该预测框之间的相似度。
7.根据权利要求6所述的方法,其特征在于,基于该检测框和该预测框之间的中心点距离、对角线长度之差和朝向角度之差,确定该检测框与该预测框之间的相似度的步骤,包括:
基于该检测框的顶点坐标和该预测框的顶点坐标确定包含有该检测框和该预测框的最小包围框,并获取所述最小包围框的对角线长度;
基于该检测框和该预测框之间的中心点距离和所述最小包围框的对角线长度,确定该检测框与该预测框之间的中心差异评估值;
基于该检测框和该预测框之间的对角线长度之差和所述最小包围框的对角线长度,确定该检测框与该预测框之间的对角线差异评估值;
基于所述朝向角度之差以及预设的三角函数,确定该检测框与该预测框之间的角度差异评估值;
根据所述中心差异评估值、所述对角线差异评估值和所述角度差异评估值,确定该检测框与该预测框之间的相似度。
8.一种目标匹配装置,其特征在于,包括:
获取模块,用于获取待处理图像对应的检测目标和预测目标;
多阶段匹配模块,用于基于所述检测目标与所述预测目标进行多阶段匹配;
其中,不同阶段采用的匹配策略不同。
9.一种电子设备,其特征在于,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现上述权利要求1-7中任一所述的目标匹配方法。
10.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序用于执行上述权利要求1-7中任一所述的目标匹配方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111404604 | 2021-11-24 | ||
CN2021114046049 | 2021-11-24 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114140730A true CN114140730A (zh) | 2022-03-04 |
Family
ID=80384330
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111474736.9A Pending CN114140730A (zh) | 2021-11-24 | 2021-12-03 | 目标匹配方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114140730A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116309696A (zh) * | 2022-12-23 | 2023-06-23 | 苏州驾驶宝智能科技有限公司 | 一种基于改进广义交并比的多类别多目标跟踪方法及装置 |
CN116580051A (zh) * | 2023-04-27 | 2023-08-11 | 广州小鹏自动驾驶科技有限公司 | 对象追踪方法、装置、终端设备及存储介质 |
-
2021
- 2021-12-03 CN CN202111474736.9A patent/CN114140730A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116309696A (zh) * | 2022-12-23 | 2023-06-23 | 苏州驾驶宝智能科技有限公司 | 一种基于改进广义交并比的多类别多目标跟踪方法及装置 |
CN116309696B (zh) * | 2022-12-23 | 2023-12-01 | 苏州驾驶宝智能科技有限公司 | 一种基于改进广义交并比的多类别多目标跟踪方法及装置 |
CN116580051A (zh) * | 2023-04-27 | 2023-08-11 | 广州小鹏自动驾驶科技有限公司 | 对象追踪方法、装置、终端设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108038474B (zh) | 人脸检测方法、卷积神经网络参数的训练方法、装置及介质 | |
WO2022166400A1 (zh) | 一种处理三维点云的方法、装置、设备以及存储介质 | |
US10691982B2 (en) | Method and apparatus for vehicle damage identification | |
CA2914799C (en) | Method for detecting a plurality of instances of an object | |
JP5705147B2 (ja) | 記述子を用いて3dオブジェクトまたはオブジェクトを表す方法 | |
US10455219B2 (en) | Stereo correspondence and depth sensors | |
CN109740633B (zh) | 一种图像相似度计算方法、装置、存储介质 | |
CN114140730A (zh) | 目标匹配方法、装置、设备及存储介质 | |
US20170109427A1 (en) | Information processing apparatus, information processing method, and storage medium | |
US9697439B2 (en) | Efficient object detection with patch-level window processing | |
US10275682B2 (en) | Information processing apparatus, information processing method, and storage medium | |
CN110909712B (zh) | 运动目标检测方法、装置、电子设备及存储介质 | |
US20110103652A1 (en) | Image processing apparatus and image processing method | |
CN115294328A (zh) | 目标检测框的生成方法、装置、存储介质和电子设备 | |
US11468609B2 (en) | Methods and apparatus for generating point cloud histograms | |
CN117893468A (zh) | 一种快速3d孔洞检测方法、系统、计算机设备及介质 | |
CN117649515A (zh) | 一种基于数字孪生的半监督3d目标检测方法、系统和设备 | |
US11461597B2 (en) | Object likelihood estimation device, method, and program | |
CN111091022A (zh) | 机器视觉的效能评估方法与系统 | |
CN114913118A (zh) | 工业视觉检测方法、装置、电子设备以及存储介质 | |
CN113762027A (zh) | 一种异常行为的识别方法、装置、设备及存储介质 | |
WO2016106595A1 (en) | Moving object detection in videos | |
CN112215032A (zh) | 图像中的目标识别方法、装置、电子设备及程序介质 | |
US20240161303A1 (en) | Methods and apparatuses for auto segmentation using bounding box | |
US20240078794A1 (en) | Method And Device For Validating Annotations Of Objects |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |