CN112669277B - 一种车辆关联方法,计算机设备以及装置 - Google Patents
一种车辆关联方法,计算机设备以及装置 Download PDFInfo
- Publication number
- CN112669277B CN112669277B CN202011562684.6A CN202011562684A CN112669277B CN 112669277 B CN112669277 B CN 112669277B CN 202011562684 A CN202011562684 A CN 202011562684A CN 112669277 B CN112669277 B CN 112669277B
- Authority
- CN
- China
- Prior art keywords
- vehicle
- frame image
- matching
- vehicles
- current frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 63
- 238000004364 calculation method Methods 0.000 claims description 47
- 238000001514 detection method Methods 0.000 claims description 11
- 238000013145 classification model Methods 0.000 claims description 8
- 238000000605 extraction Methods 0.000 claims description 8
- 238000012545 processing Methods 0.000 abstract description 7
- 239000013598 vector Substances 0.000 description 28
- 238000012216 screening Methods 0.000 description 9
- 238000004458 analytical method Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000003044 adaptive effect Effects 0.000 description 2
- 238000012550 audit Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 230000006386 memory function Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本申请公开了一种车辆关联方法,计算机设备以及装置,车辆关联方法包括:获取当前帧图像;提取当前帧图像中的多个车辆的姿态位置信息和特征信息,以及提取目标车辆在历史帧图像中的姿态位置信息和特征信息;将当前帧图像中的每个车辆的姿态位置信息和目标车辆在历史帧图像中的姿态位置信息进行分析处理,以从当前帧图像的多个车辆中确定候选车辆;分别对每个候选车辆的特征信息与目标车辆的特征信息进行匹配,确定目标车辆在当前帧图像中的关联车辆。通过上述方式,本申请能够准确的确定不同帧图像中的目标车辆,提高图像间车辆关联的准确度。
Description
技术领域
本申请涉及图像处理领域,特别是涉及一种车辆关联方法,计算机设备以及装置。
背景技术
车辆为人们出行带来了极大便利,然而随着车辆保有量的日益攀升,车辆的违章事件也日益增多。车辆违章的智能检测可以帮助交通管理部门提高违章判断速度,降低人工成本。车辆违章的智能检测是使用各类传感器和影像获取设备在前端抓拍违章车辆,后端对车辆违章进行二次审核。
在车辆违章的二次审核中,需要寻找不同帧图像中的同一个违章车辆,将不同帧图像的同一个违章车辆进行关联。但是,违章审核所获得的违章图像序列并不完整,违章图像序列中图像之间间隔的时长是不固定的。本申请的发明人在长期的研发过程中,发现违章图像序列中不同图像间的车辆关联准确度较低,常常会导致误判。
发明内容
本申请主要解决的技术问题是提供一种车辆关联方法,计算机设备以及装置,能够准确的确定不同帧图像中的目标车辆,提高图像间车辆关联的准确度。
为解决上述技术问题,本申请采用的一个技术方案是:提供一种车辆关联方法,包括:获取当前帧图像;提取当前帧图像中的多个车辆的姿态位置信息和特征信息,以及提取目标车辆在历史帧图像中的姿态位置信息和特征信息;将当前帧图像中的每个车辆的姿态位置信息和目标车辆在历史帧图像中的姿态位置信息进行分析处理,以从当前帧图像的多个车辆中确定候选车辆;分别对每个候选车辆的特征信息与目标车辆的特征信息进行匹配,确定目标车辆在当前帧图像中的关联车辆。
其中,将当前帧图像中的每个车辆的姿态位置信息和目标车辆在历史帧图像中的姿态位置信息进行分析处理,以从当前帧图像的多个车辆中确定候选车辆包括:将当前帧图像中每个车辆的姿态位置信息和目标车辆在前一帧图像的姿态位置信息进行对比;其中,与目标车辆满足姿态位置约束关系的车辆确定为候选车辆。
其中,姿态位置约束关系包括运动姿态的约束关系,和/或运动姿态与位置之间的约束关系。
其中,分别对每个候选车辆的特征信息与目标车辆的特征信息进行匹配,确定目标车辆在当前帧图像中的关联车辆包括:获取历史帧图像中多个车辆的特征信息;其中历史帧图像中多个车辆包括目标车辆;分别对每个候选车辆的特征信息与历史帧图像中多个车辆的特征信息进行匹配,确定目标车辆在当前帧中的关联车辆。
其中,分别对每个候选车辆的特征信息与历史帧图像中多个车辆的特征信息进行匹配,确定目标车辆在当前帧中的关联车辆,包括:将每个候选车辆的特征信息与目标车辆在历史帧图像中的特征信息进行第一匹配计算,获得每个候选车辆的第一匹配度;选取多个候选车辆中第一匹配度最大的为预选关联车辆;将预选关联车辆的特征信息与历史帧图像中的每个车辆的特征信息进行第二匹配计算,获得历史帧图像中每个车辆的第二匹配度;在历史帧中第二匹配度最大的车辆为目标车辆时,预选关联车辆即为当前帧中目标车辆的关联车辆;否则,判断在历史帧中第二匹配度最大的车辆是否满足预设条件:若是,预选关联车辆即为当前帧中目标车辆的关联车辆;若否,更换预选关联车辆并继续进行第二匹配计算。
其中,预设条件包括:在历史帧中第二匹配度最大的车辆的矩形框与预选关联车辆的矩形框的交并比小于第一阈值。
其中,第一匹配计算的计算方法包括计算余弦相似度法或计算欧式距离相似度法。
其中,第二匹配计算的计算方法包括计算余弦相似度法或计算欧式距离相似度法。
其中,特征信息包括车牌信息;分别对每个候选车辆的特征信息与目标车辆的特征信息进行匹配,确定目标车辆在当前帧图像中的关联车辆,包括:将候选车辆的车牌信息与目标车辆的车牌信息进行第三匹配计算,获得第三匹配率;其中,第三匹配率最大的候选车辆为当前帧图像中目标车辆的关联车辆。
其中,姿态位置信息包括姿态信息和位置信息;提取每个车辆的姿态位置信息和特征信息,包括:将当前帧图像输入车辆检测模型,提取当前帧图像中多个车辆的矩形框以及车辆的位置信息;将车辆的矩形框输入姿态分类模型,提取当前帧图像中多个车辆的姿态信息;将车辆的矩形框输入特征提取模型,提取当前帧图像中多个车辆的特征信息。
为解决上述技术问题,本申请采用的另一个技术方案是:提供一种计算机设备,包括处理器,处理器用于执行指令以实现如上所述的车辆关联方法。
为解决上述技术问题,本申请采用的另一个技术方案是:提供一种具有存储功能的装置,存储有程序数据,能够被计算机所读取,程序数据能够被处理器执行,以实现如上所述的车辆关联方法。
本申请的有益效果是:区别于现有技术的情况,本申请公开了一种车辆关联方法,包括将当前帧图像中的每个车辆的姿态位置信息和目标车辆在历史帧图像中的姿态位置信息进行分析处理,以从当前帧图像的多个车辆中确定候选车辆;分别对每个候选车辆的特征信息与目标车辆的特征信息进行匹配,确定目标车辆在当前帧中的关联车辆。在图像的车辆关联方法中,首选基于当前帧车辆的姿态位置信息进行初筛,去除不符合运动规律的车辆,之后再进行特征匹配以获得目标车辆的关联车辆。通过初筛可以减少进行特征匹配的候选车辆数,减少运算量,提高关联速度。同时,由于增加了筛选条件,可以进一步的提高车辆关联的准确性。
附图说明
图1是根据本申请一实施例的车辆关联方法的流程示意图;
图2是根据本申请另一实施例的车辆关联方法的流程示意图;
图3是根据本申请一实施例的历史帧图像示意图;
图4是根据本申请一实施例的当前帧图像示意图;
图5是根据本申请一实施例的车辆特征向量匹配方法的流程示意图;
图6是根据本申请又一实施例的车辆关联方法的流程示意图;
图7是根据本申请一实施例的车辆关联装置的结构示意图;
图8是根据本申请一实施例的计算机设备的结构示意图;
图9是根据本申请一实施例的具有存储功能的装置的结构示意图。
具体实施方式
为使本申请的目的、技术方案及效果更加清楚、明确,以下参照附图并举实施例对本申请进一步详细说明。
本申请公开的车辆关联方法,通过对不同图像中车辆的姿态、位置等信息进行分析,对需要进行匹配的车辆进行初筛后再进行其他车辆特征的匹配,从而获得不同帧图像中的目标车辆的关联车辆。本申请的实施例可以应用于各种车辆跟踪监测系统,包括但不限于:车辆违章审核系统或车辆定位系统等。本申请实施例描述的应用场景是为了更加清楚的说明本申请实施例的技术方案,并不构成对于本申请实施例提供的结束方案的限定。本领域普通技术人员可知,在不付出创造性劳动的前提下,本申请实施例提供的技术方案对于其他应用场景中的类似技术问题,同样适用。
在车辆违章审核系统中,违章图像序列不完整,并且有些图像之间间隔的时长较长,车辆会发生较大的变化。从而,不同帧图像之间的车辆关联具有较大的难度。为解决上述问题,本申请公开了一种车辆关联方法,以下进行详细阐述。
参阅图1,图1是根据本申请一实施例的车辆关联方法的流程示意图。需注意的是,若有实质上相同的结果,本实施例并不以图1所示的流程顺序为限。如图1所示,该方法包括:
步骤S110:获取当前帧图像。
当前帧图像可以是从已保存的图像序列中获取,或者也可以是从摄像装置处实时获取。其中,已保存的图像序列由同一位置的摄像装置拍摄获取的。当前帧图像中包括若干车辆,若干车辆中包括目标车辆的关联车辆。
步骤S130:提取当前帧图像中的多个车辆的姿态位置信息和特征信息,以及提取目标车辆在历史帧图像中的姿态位置信息和特征信息。
将当前帧图像输入训练好的学习模型中,获得当前帧图像中多个车辆的矩形框,并获得多个车辆的姿态位置信息和特征信息。可以从已保存的历史帧图像的信息中,获取目标车辆在历史帧图像中的姿态位置信息和特征信息。其中,目标车辆是指待跟踪关联的目标车辆,例如,可以是指违章车辆。
姿态位置信息可以包括姿态信息和位置信息。其中姿态信息包括但不限于车辆的姿态,车辆的车头位置,车辆的车尾位置和车头朝向等。位置信息包括车辆在图像中的位置信息。特征信息可以包括车辆的车牌信息,车辆矩形框的特征向量等。
步骤S150:将当前帧图像中的每个车辆的姿态位置信息和目标车辆在历史帧图像中的姿态位置信息进行分析处理,以从当前帧图像的多个车辆中确定候选车辆。
将当前帧图像中的每个车辆的姿态位置与目标车辆在历史帧图像中的姿态位置进行对比分析。筛选去除姿态位置信息不符合运动学规律的车辆,从而确定进行下一步匹配的若干候选车辆。其中运动学规律可以是指在车辆行驶运动过程中,车辆的姿态以及位置会遵循的变化规律。例如,当前帧图像中的关联车辆需要满足目标车辆行驶方向所遵循的位置变化规则。
步骤S170:分别对每个候选车辆的特征信息与目标车辆的特征信息进行匹配,确定目标车辆在当前帧图像中的关联车辆。
根据候选车辆的特征信息以及目标车辆的特征信息进行匹配。其中目标车辆的特征信息可以是目标车辆在历史帧图像中所获得的特征信息,例如目标车辆在历史帧图像中的特征向量,也可以是目标车辆自身的特征信息,例如目标车辆的车牌号信息等。
在多帧图像的车辆关联方法中,首选基于当前帧车辆的姿态位置信息进行初筛,去除不符合运动规律的车辆,之后再进行特征匹配以获得目标车辆的关联车辆。通过初筛可以减少进行特征匹配的候选车辆数,减少运算量,提高关联速度。同时,由于增加了筛选条件,可以进一步的提高车辆关联的准确性。
参阅图2,图2是根据本申请另一实施例的车辆关联方法的流程示意图。需注意的是,若有实质上相同的结果,本实施例并不以图2所示的流程顺序为限。如图2所示,该方法包括:
S210:获取当前帧图像。
S230:提取当前帧图像中多个车辆的姿态位置信息和特征信息。
在一实施例中,将当前帧图像输入车辆检测模型,提取当前帧图像中多个车辆的矩形框以及车辆的位置信息。将当前帧图像输入车辆检测模型,车辆检测模型输出当前帧图像中每个车辆的矩形框,并且输出各车辆的矩形框在当前帧图像中的位置坐标。车辆检测模型可以是预先训练好的车辆检测网络模型。
在一实施例中,将车辆的矩形框输入姿态分类模型,提取当前帧图像中多个车辆的姿态信息。姿态分类模型可以为预先训练好的姿态朝向网络模型。将各车辆的矩形框输入姿态分类模型,姿态分类模型可以输出各车辆的姿态分类以及车辆的车头朝向等信息。其中姿态分类可以包括矩形框中车辆为车辆的车头、车尾或侧身等。
在一实施例中,将车辆的矩形框输入特征提取模型,提取当前帧图像中多个车辆的特征信息。特征提取模型可以包括预先训练好的车辆重识别(ReID)网络模型和车牌识别网络模型。利用车辆ReID网络模型对各车辆的矩形框进行特征提取,获得各个车辆的特征向量。利用车牌识别网络模型,获得各车辆的车牌文字内容。
S250:提取目标车辆在历史帧图像中的姿态位置信息和特征信息。
在一实施例中,提取目标车辆的特征信息,以及目标车辆在历史帧图像上的姿态位置信息和特征信息。目标车辆的特征信息可以包括目标车辆的车牌信息。
其中,在进行车辆违章二次审核的过程中,违章车辆的车牌号是可以直接获取得到的。或者,在进行审核的图像序列中会包括违章车辆的特写图像,能够通过车牌识别网络模型检测识别违章车辆的车牌号码。
目标车辆在历史帧图像上的姿态位置信息和特征信息可以从已存储的信息集合中获取,也可以通过车辆检测模型、姿态分类模型、特征提取模型进行处理获得。
S270:进行姿态位置分析,确定候选车辆。
在一实施例中,将当前帧图像中每个车辆的姿态位置信息和目标车辆在前一帧图像的姿态位置信息进行对比;其中,与目标车辆满足姿态位置约束关系的车辆确定为候选车辆。姿态位置约束关系是根据车辆行驶过程的运动学规律以及统计规律预先设定的先验规则。其中,姿态位置约束关系包括运动姿态的约束关系,和/或运动姿态与位置之间的约束关系。
具体的,姿态位置约束关系包括但不限于以下约束关系:
(1)在前一帧图像中目标车辆的姿态为车尾时,对于当前帧图像中姿态为车尾或侧身的候选车辆,坐标位置需要位于前一帧图像中目标车辆上方。
(2)在前一帧图像中目标车辆的姿态为车尾时,对于当前帧图像中姿态为车头的候选车辆,坐标位置需要位于前一帧图像中目标车辆的下方或基本保持水平。
(3)在前一帧图像中目标车辆的姿态为车头时,候选车辆坐标位置需要位于前一帧图像中目标车辆的下方。
(4)在前一帧图像中目标车辆的姿态为车头或侧身时,候选车辆不包括当前帧图像中姿态为车尾的车辆。
(5)对于当前帧图像中姿态与前一帧图像中目标车辆姿态相同的候选车辆。还需要满足:在当前帧图像候选车辆的矩形框中心点与目标车辆的矩形框中心点的垂直距离小于第一预设距离的情况下,两者的矩形框中心点水平距离需要小于或等于第二预设距离。
(6)在前一帧图像中目标车辆朝向为左时,候选车辆不包括朝向为左并且车辆矩形框左边缘位于前一帧图像中目标车辆矩形框中心的右侧的车辆。
(7)在前一帧图像中目标车辆朝向为左时,候选车辆不包括朝向为右并且车辆矩形框右边缘位于前一帧图像中目标车辆矩形框中心的左侧的车辆。
(8)候选车辆不包括当前帧图像中车头朝向为左并且其矩形框的左边缘位于前一帧图像中目标车辆矩形框的右边缘的右侧的车辆。
(9)候选车辆不包括当前帧图像中车头朝向为右并且其矩形框的右边缘位于前一帧图像中目标车辆矩形框的左边缘的左侧的车辆。
在进行根据姿态位置约束关系确定候选车辆的步骤中所使用的姿态位置约束关系可以是上述约束关系中的一项或任意多项的集合。例如,如图3和4所示,图3是根据本申请一实施例的历史帧图像示意图。图4是根据本申请一实施例的当前帧图像示意图。图3中目标车辆310的姿态为车尾,即车辆是朝向远离摄像装置的方向行驶的。根据上述姿态位置约束关系中的第一项,可以排除位于目标车辆下方的当前帧中的车辆410和车辆420。其中车辆410的特征与目标车辆310的特征相似,在特征匹配的过程中容易造成匹配错误。但是通过姿态位置分析能够先将车辆410排除,从而减少了特征匹配过程中的干扰项,有效提高车辆关联的准确度。此外,当前帧图像中,正确的关联目标为车辆430,车辆430与目标车辆310符合上述的姿态位置约束关系。
S290:将候选车辆与目标车辆进行特征匹配,确定当前帧图像中的关联车辆。
其中,特征匹配包括车牌信息匹配和特征向量匹配。在一实施例中,同时对当前帧图像进行车牌信息匹配和特征向量匹配。在另一实施例中,首先对当前帧图像进行车牌信息匹配,在车牌信息匹配不成功后再进行特征向量匹配。
在一实施例中,将候选车辆的车牌信息与目标车辆的车牌信息进行第三匹配计算,获得第三匹配率;其中,第三匹配率最大的候选车辆为当前帧图像中目标车辆的关联车辆。其中第三匹配计算是指将每个候选车辆的车牌信息与目标车辆的车牌信息进行匹配对比,获得匹配字符的长度值,即第三匹配率。当若干候选车辆的匹配字符长度中的最大值大于或等于第二阈值时,匹配成功;此时匹配字符长度最大值对应的车辆为当前帧图像中目标车辆的关联车辆。当若干候选车辆的匹配字符长度中的最大值小于第二阈值时,匹配失败;此时关联车辆由特征向量的匹配结果确定。第二阈值是预先设定的长度值,在大于该长度值时说明车牌的匹配长度足够长,能够确定匹配成功。
在一实施例中,获取历史帧图像中多个车辆的特征信息;其中历史帧图像中多个车辆包括目标车辆;分别对每个候选车辆的特征信息与历史帧图像中多个车辆的特征信息进行匹配,确定目标车辆在当前帧中的关联车辆。其中特征信息包括特征向量。其中历史帧图像为前一帧图像。通过对当前帧图像中多个车辆的特征向量与前一帧图像中多个车辆的特征向量进行匹配计算,确定当前帧中的关联车辆。具体的特征向量匹配方法参阅图3及其相关描述。
参阅图5,图5是根据本申请一实施例的车辆特征向量匹配方法的流程示意图。需注意的是,若有实质上相同的结果,本实施例并不以图5所示的流程顺序为限。如图5所示,该方法包括:
S510,获取第一匹配度。
在一实施例中,将每个候选车辆的特征信息与目标车辆在历史帧图像中的特征信息进行第一匹配计算,获得每个候选车辆的第一匹配度。其中,历史帧图像为当前时刻之前的任意历史时刻的图像,例如,可以为当前时刻的前一时刻的图像,即前一帧图像。特征信息为特征向量。
第一匹配计算的方法包括:计算余弦相似度法或计算欧式距离相似度法。计算余弦相似度法,是指通过计算两个特征向量间的余弦相似度,以余弦相似度代表两个特征向量的相似度。计算两个特征向量间夹角的余弦值,余弦值即为余弦相似度。。计算欧式距离相似度法是指,通过计算两个特征向量的欧式距离,以欧式距离加1后的倒数为两个特征向量的相似度。欧式距离是指在m维空间中两个点之间的真实距离,或者向量的自然长度(即该点到原点的距离)。在二维和三维空间中的欧氏距离就是两点之间的实际距离。
S520,确定预选关联车辆。
在一实施例中,选取多个候选车辆中第一匹配度最大的为预选关联车辆。对多个候选车辆的第一匹配度进行比较,选择其中第一匹配度最大的候选车辆作为预选关联车辆。在第一匹配度最大的候选车辆在后续步骤中匹配不成功时,可以选择第一匹配度第二大的候选车辆作为预选关联车辆,以此类推。
S530,获取第二匹配度。
在一实施例中,将预选关联车辆的特征信息与历史帧图像中的每个车辆的特征信息进行第二匹配计算,获得历史帧图像中每个车辆第二匹配度。其中,历史帧图像为当前时刻之前的任意历史时刻的图像,例如,可以为当前时刻的前一时刻的图像,即前一帧图像。对前一帧图像中每个车辆的特征向量均与预选关联车辆的特征向量进行第二匹配计算,获得前一图像中每个车辆的第二匹配度。其中第二匹配计算可以采用与第一匹配计算相同的计算方法,也可以采用与第一匹配计算不同的计算方法。第二匹配计算的计算方法包括计算余弦相似度法或计算欧式距离相似度法。
以预选关联车辆为匹配目标,对历史帧中的车辆进行反向匹配计算,可以进一步的验证以目标车辆为匹配目标的正向匹配的结果是否合理、准确,从而增加了车辆关联的准确度。
S540,判断历史帧中第二匹配度最大的车辆是否为目标车辆。
若为是,则进行步骤560;若为否,则进行步骤550。在一实施例中,在历史帧中第二匹配度最大的车辆为目标车辆时,预选关联车辆即为当前帧中目标车辆的关联车辆。在目标车辆的第二匹配度为前一帧中所有车辆的第二匹配度的最大值时,目标车辆与预选关联车辆互为最相似车辆。此时以该预选关联车辆为当前帧中的目标车辆的关联车辆具有较高的准确度。在目标车辆的第二匹配度不为前一帧中所有车辆的第二匹配度的最大值时,说明在进行正向和反向匹配时,匹配结果具有一定的误差。也即预选关联车辆不一定为目标车辆的关联车辆,还需要进行再次判断。
S550,判断在历史帧中第二匹配度最大的车辆是否满足预设条件。
若为是,则进行步骤S560;若为否,则重复进行步骤520.在一实施例中,预设条件包括:在历史帧中第二匹配度最大的车辆的矩形框与预选关联车辆的矩形框的交并比小于第一阈值。具体地,获取历史帧中第二匹配度最大的车辆的矩形框与预选关联车辆的矩形框的交并比,判断该交并比是否小于第一阈值,在小于第一阈值时,则该预选关联车辆即为当前帧中目标车辆的关联车辆。在大于或等于第一阈值时,则更换预选关联车辆并继续进行第二匹配计算。
S560,确定关联车辆。
本申请的实施例中采用正向匹配与反向匹配相结合的方式,保证了当前帧图像与历史帧图像相互匹配关联的合理性。正反向匹配相结合的方法隐式地包含了多目标相互比较的结果,使得关联车辆不会错误匹配到其他车辆的轨迹上,提高了车辆关联的稳健性。
区别于现有技术,本申请还提供了又一种车辆关联方法,具体步骤参阅图6。图6是根据本申请又一实施例的车辆关联方法的流程示意图。需注意的是,若有实质上相同的结果,本实施例并不以图6所示的流程顺序为限。如图6所示,该方法包括:
步骤S610,获取图像序列。
在一实施例中,获取车辆违章判定的图像序列。其中包括目标车辆即违章车辆的车牌号信息。
步骤S620,对一帧图像进行车牌匹配。
在一实施例中,获取图像序列中,每一帧图像中的多个车辆的矩形框以及车辆的姿态位置信息、特征信息等。对一帧图像进行车牌匹配以确定违章车辆的关联车辆,关联车辆即为目标车辆。
步骤S630,判断是否循环完所有帧。
在一实施例中,需要判断图像序列中的所有帧图像是否已经循环完成,从而可以判断是否具有需要进行车牌匹配的下一帧图像。若为否,则进行步骤S640,若为是,则进行步骤S650。
步骤S640,对下一帧图像中的车辆进行姿态位置分析,确定候选车辆。
在一实施例中,对下一帧图像中的车辆与该帧图像中的目标车辆进行姿态、位置的对比分析,筛选符合姿态位置约束的车辆作为下一帧图像的候选车辆。具体的筛选步骤如上文。
之后进行步骤S620,对下一帧图像中的候选车辆进行车牌匹配。
步骤S650,判断是否全部关联成功。
在一实施例中,若为是,则关联完成;若为否,则对未关联成功图像进行步骤S660。通过判断是否全部关联成功可以判断图像序列中的所有帧图像是否还具有未关联成功的图像。
步骤S660,对未关联成功的图像进行特征向量匹配。
在一实施例中,获取未关联成功图像中车辆的特征向量,并且获取历史帧图像中车辆的特征向量。利用正向匹配和反向匹配相结合的方式,进行特征向量匹配,确定关联图像。
步骤S670,判断是否循环完所有帧。
在一实施例中,若为是,则关联完成;若为否,则对未特征匹配的图像进行步骤S680。
步骤S680,对下一帧图像中的车辆进行姿态位置分析,确定候选车辆。
在一实施例中,对下一帧图像中的车辆与该帧图像中的目标车辆进行姿态、位置的对比分析,筛选符合姿态位置约束的车辆作为下一帧图像的候选车辆。具体的筛选步骤如上文。
之后进行步骤S660,对下一帧图像中的候选车辆进行特征向量匹配。
本申请实施例中,通过车牌匹配和特征向量匹配相结合的方式对全部违章序列进行匹配关联,可以有效的提高车辆匹配的准确度,进而提高车辆违章判断的准确性。
区别于现有技术,本申请还提供了一种车辆关联装置,参阅图7。图7是根据本申请一实施例的车辆关联装置的结构示意图。该实施例中,车辆关联装置700包括获取模块710,提取模块720,分析模块730和匹配模块740。
获取模块710用于获取当前帧图像。
提取模块720用于提取当前帧图像中的多个车辆的姿态位置信息和特征信息,以及提取目标车辆在历史帧图像中的姿态位置信息和特征信息。提取模块720还用于将当前帧图像输入车辆检测模型,提取当前帧图像中多个车辆的矩形框以及车辆的位置信息;将车辆的矩形框输入姿态分类模型,提取当前帧图像中多个车辆的姿态信息;将车辆的矩形框输入特征提取模型,提取当前帧图像中多个车辆的特征信息。
分析模块730用于将当前帧图像中的每个车辆的姿态位置信息和目标车辆在历史帧图像中的姿态位置信息进行分析处理,以从当前帧图像的多个车辆中确定候选车辆。分析模块730还用于将当前帧图像中每个车辆的姿态位置信息和目标车辆在前一帧图像的姿态位置信息进行对比;其中,与目标车辆满足姿态位置约束关系的车辆确定为候选车辆。姿态位置约束关系包括运动姿态的约束关系,和/或运动姿态与位置之间的约束关系。
匹配模块740用于分别对每个候选车辆的特征信息与目标车辆的特征信息进行匹配,确定目标车辆在当前帧中的关联车辆。匹配模块740还用于获取历史帧图像中多个车辆的特征信息;其中历史帧图像中多个车辆包括目标车辆;分别对每个候选车辆的特征信息与历史帧图像中多个车辆的特征信息进行匹配,确定目标车辆在当前帧中的关联车辆。匹配模块740还用于将每个候选车辆的特征信息与目标车辆在历史帧图像中的特征信息进行第一匹配计算,获得每个候选车辆的第一匹配度;选取多个候选车辆中第一匹配度最大的为预选关联车辆;将预选关联车辆的特征信息与历史帧图像中的每个车辆的特征信息进行第二匹配计算,获得历史帧图像中每个车辆的第二匹配度;在历史帧中第二匹配度最大的车辆为目标车辆时,预选关联车辆即为当前帧中目标车辆的关联车辆;否则,判断在历史帧中第二匹配度最大的车辆是否满足预设条件:若是,预选关联车辆即为当前帧中目标车辆的关联车辆;若否,更换预选关联车辆并继续进行第二匹配计算。预设条件包括:在历史帧中第二匹配度最大的车辆的矩形框与预选关联车辆的矩形框的交并比小于第一阈值。第一匹配计算的计算方法包括计算余弦相似度法或计算欧式距离相似度法。第二匹配计算的计算方法包括计算余弦相似度法或计算欧式距离相似度法。
特征信息包括车牌信息;匹配模块740还用于将候选车辆的车牌信息与目标车辆的车牌信息进行第三匹配计算,获得第三匹配率;其中,第三匹配率最大的候选车辆为当前帧中目标车辆的关联车辆。
请参阅图8,图8是根据本申请一实施例的计算机设备的结构示意图。该实施方式中,计算机设备800包括处理器810。
处理器810还可以称为CPU(Central Processing Unit,中央处理单元)。处理器810可能是一种集成电路芯片,具有信号的处理能力。处理器810还可以是通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
计算机设备800可以进一步包括存储器(图中未示出),用于存储处理器810运行所需的指令和数据。
处理器810用于执行指令以实现上述自适应滤波方法任一实施例及任意不冲突的组合所提供的方法。
请参阅图9,图9是根据本申请一实施例的具有存储功能的装置的结构示意图。本申请实施例的具有存储功能的装置900存储有指令,该指令被执行时实现本申请自适应滤波方法任一实施例以及任意不冲突的组合所提供的方法。其中,该指令可以形成程序文件以软件产品的形式存储在上述具有存储功能的装置中,以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本申请各个实施方式方法的全部或部分步骤。而前述的具有存储功能的装置900包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质,或者是计算机、服务器、手机、平板等终端设备。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
以上仅为本申请的实施方式,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本申请的专利保护范围内。
Claims (11)
1.一种车辆关联方法,其特征在于,包括:
获取当前帧图像;
提取所述当前帧图像中的多个车辆的姿态位置信息和特征信息,以及提取目标车辆在历史帧图像中的姿态位置信息和特征信息;
将所述当前帧图像中的每个车辆的所述姿态位置信息和所述目标车辆在历史帧图像中的所述姿态位置信息进行分析处理,以从所述当前帧图像的多个车辆中确定候选车辆;
将每个所述候选车辆的特征信息与所述目标车辆在历史帧图像中的特征信息进行第一匹配计算,获得每个所述候选车辆的第一匹配度,基于所述第一匹配度的结果确定预选关联车辆;
将预选关联车辆的特征信息与历史帧图像中的每个车辆的特征信息进行第二匹配计算,获得历史帧图像中每个车辆第二匹配度,通过判断历史帧中与所述预选关联车辆之间的第二匹配度最大的车辆是否为目标车辆以及在所述历史帧中与所述预选关联车辆之间第二匹配度最大的车辆是否满足预设条件,以确认所述预选关联车辆是否为所述目标车辆的关联车辆,其中,所述预设条件包括:在所述历史帧中所述第二匹配度最大的所述车辆的矩形框与所述预选关联车辆的矩形框的交并比小于第一阈值。
2.根据权利要求1所述的车辆关联方法,其特征在于,所述将所述当前帧图像中的每个车辆的所述姿态位置信息和所述目标车辆在历史帧图像中的所述姿态位置信息进行分析处理,以从所述当前帧图像的多个车辆中确定候选车辆包括:
将所述当前帧图像中每个所述车辆的姿态位置信息和所述目标车辆在前一帧图像的所述姿态位置信息进行对比;其中,与所述目标车辆满足姿态位置约束关系的所述车辆确定为所述候选车辆。
3.根据权利要求2所述的车辆关联方法,其特征在于,所述姿态位置约束关系包括运动姿态的约束关系,和/或运动姿态与位置之间的约束关系。
4.根据权利要求1所述的车辆关联方法,其特征在于,所述将每个所述候选车辆的特征信息与所述目标车辆在历史帧图像中的特征信息进行第一匹配度计算,获得每个所述候选车辆的第一匹配度,基于所述第一匹配度的结果确定预选关联车辆,之前包括:
获取所述历史帧图像中多个车辆的特征信息;其中所述历史帧图像中多个车辆包括目标车辆。
5.根据权利要求4所述的车辆关联方法,其特征在于,所述基于所述第一匹配度的结果确定预选关联车辆,包括:
选取多个所述候选车辆中第一匹配度最大的为预选关联车辆;
所述通过判断历史帧中与所述预选关联车辆之间的第二匹配度最大的车辆是否为目标车辆以及判断在历史帧中与所述预选关联车辆之间第二匹配度最大的车辆是否满足预设条件,以确认所述预选关联车辆是否为所述目标车辆的关联车辆,包括:
在所述历史帧中所述第二匹配度最大的所述车辆为所述目标车辆时,所述预选关联车辆即为所述当前帧中目标车辆的所述关联车辆;否则,
判断在所述历史帧中所述第二匹配度最大的所述车辆是否满足预设条件:
若是,所述预选关联车辆即为所述当前帧中目标车辆的关联车辆;
若否,更换所述预选关联车辆并继续进行所述第二匹配计算。
6.根据权利要求5所述的车辆关联方法,其特征在于,所述第一匹配计算的计算方法包括计算余弦相似度法或计算欧式距离相似度法。
7.根据权利要求5所述的车辆关联方法,其特征在于,所述第二匹配计算的计算方法包括计算余弦相似度法或计算欧式距离相似度法。
8.根据权利要求1所述的车辆关联方法,其特征在于,所述特征信息包括车牌信息;所述将所述当前帧图像中的每个车辆的所述姿态位置信息和所述目标车辆在历史帧图像中的所述姿态位置信息进行分析处理,以从所述当前帧图像的多个车辆中确定候选车辆,之后包括:
将所述候选车辆的车牌信息与所述目标车辆的车牌信息进行第三匹配计算,获得第三匹配率;其中,所述第三匹配率最大的所述候选车辆为所述当前帧图像中目标车辆的所述关联车辆。
9.根据权利要求1所述的车辆关联方法,其特征在于,所述姿态位置信息包括姿态信息和位置信息;提取每个所述车辆的姿态位置信息和特征信息,包括:
将所述当前帧图像输入车辆检测模型,提取所述当前帧图像中多个所述车辆的矩形框以及所述车辆的所述位置信息;
将所述车辆的矩形框输入姿态分类模型,提取所述当前帧图像中多个所述车辆的所述姿态信息;
将所述车辆的矩形框输入特征提取模型,提取所述当前帧图像中多个所述车辆的所述特征信息。
10.一种计算机设备,其特征在于,包括处理器,所述处理器用于执行指令以实现如权利要求1-9任一项所述的车辆关联方法。
11.一种具有存储功能的装置,其特征在于,存储有程序数据,能够被计算机所读取,所述程序数据能够被处理器执行,以实现如权利要求1-9任一项所述的车辆关联方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011562684.6A CN112669277B (zh) | 2020-12-25 | 2020-12-25 | 一种车辆关联方法,计算机设备以及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011562684.6A CN112669277B (zh) | 2020-12-25 | 2020-12-25 | 一种车辆关联方法,计算机设备以及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112669277A CN112669277A (zh) | 2021-04-16 |
CN112669277B true CN112669277B (zh) | 2024-05-10 |
Family
ID=75409174
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011562684.6A Active CN112669277B (zh) | 2020-12-25 | 2020-12-25 | 一种车辆关联方法,计算机设备以及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112669277B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113743359B (zh) * | 2021-09-16 | 2024-02-02 | 重庆紫光华山智安科技有限公司 | 车辆重识别方法、模型训练方法及相关装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018209470A1 (zh) * | 2017-05-15 | 2018-11-22 | 深圳市卓希科技有限公司 | 一种车牌辨识方法和系统 |
CN109165606A (zh) * | 2018-08-29 | 2019-01-08 | 腾讯科技(深圳)有限公司 | 一种车辆信息的获取方法、装置以及存储介质 |
CN110826415A (zh) * | 2019-10-11 | 2020-02-21 | 上海眼控科技股份有限公司 | 一种场景图像中车辆的重识别方法及设备 |
CN111652234A (zh) * | 2020-06-04 | 2020-09-11 | 上海眼控科技股份有限公司 | 车牌识别方法、系统、计算机设备及可读存储介质 |
-
2020
- 2020-12-25 CN CN202011562684.6A patent/CN112669277B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018209470A1 (zh) * | 2017-05-15 | 2018-11-22 | 深圳市卓希科技有限公司 | 一种车牌辨识方法和系统 |
CN109165606A (zh) * | 2018-08-29 | 2019-01-08 | 腾讯科技(深圳)有限公司 | 一种车辆信息的获取方法、装置以及存储介质 |
CN110826415A (zh) * | 2019-10-11 | 2020-02-21 | 上海眼控科技股份有限公司 | 一种场景图像中车辆的重识别方法及设备 |
CN111652234A (zh) * | 2020-06-04 | 2020-09-11 | 上海眼控科技股份有限公司 | 车牌识别方法、系统、计算机设备及可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112669277A (zh) | 2021-04-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110020592B (zh) | 物体检测模型训练方法、装置、计算机设备及存储介质 | |
CN108388879B (zh) | 目标的检测方法、装置和存储介质 | |
EP2808827B1 (en) | System and method for OCR output verification | |
TWI425454B (zh) | 行車路徑重建方法、系統及電腦程式產品 | |
CN111639653B (zh) | 一种误检图像确定方法、装置、设备和介质 | |
CN112309126B (zh) | 车牌检测方法、装置、电子设备及计算机可读存储介质 | |
CN117292338B (zh) | 基于视频流解析的车辆事故识别和分析方法 | |
CN112132103A (zh) | 一种视频人脸检测识别方法和系统 | |
CN111898491A (zh) | 一种车辆逆向行驶的识别方法、装置及电子设备 | |
CN110826415A (zh) | 一种场景图像中车辆的重识别方法及设备 | |
KR20180070258A (ko) | 주행상황에서의 동시적 물체 인식 및 학습 방법 | |
US20220375202A1 (en) | Hierarchical sampling for object identification | |
Zaarane et al. | Real‐Time Vehicle Detection Using Cross‐Correlation and 2D‐DWT for Feature Extraction | |
CN112669277B (zh) | 一种车辆关联方法,计算机设备以及装置 | |
Shao et al. | Faster R-CNN learning-based semantic filter for geometry estimation and its application in vSLAM systems | |
CN111832349A (zh) | 遗留物错误检测的识别方法、装置及图像处理设备 | |
CN110765940B (zh) | 目标对象统计方法和装置 | |
CN112163521A (zh) | 一种车辆行驶行为的识别方法、装置及设备 | |
CN111476059A (zh) | 目标检测方法、装置、计算机设备及存储介质 | |
CN115393755A (zh) | 视觉目标跟踪方法、装置、设备以及存储介质 | |
CN114445787A (zh) | 非机动车重识别方法及相关设备 | |
CN110781710B (zh) | 一种目标对象聚类方法及装置 | |
CN116503695B (zh) | 目标检测模型的训练方法、目标检测方法及设备 | |
CN116052220B (zh) | 行人重识别方法、装置、设备及介质 | |
CN114494754B (zh) | 车间杂物的检测方法、装置、终端及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |