CN113657378B - 车辆跟踪方法、车辆跟踪系统和计算设备 - Google Patents
车辆跟踪方法、车辆跟踪系统和计算设备 Download PDFInfo
- Publication number
- CN113657378B CN113657378B CN202110858203.4A CN202110858203A CN113657378B CN 113657378 B CN113657378 B CN 113657378B CN 202110858203 A CN202110858203 A CN 202110858203A CN 113657378 B CN113657378 B CN 113657378B
- Authority
- CN
- China
- Prior art keywords
- vehicle
- license plate
- result
- plate number
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 44
- 239000013598 vector Substances 0.000 claims abstract description 70
- 238000012216 screening Methods 0.000 claims abstract description 21
- 238000000605 extraction Methods 0.000 claims description 26
- 238000004590 computer program Methods 0.000 claims description 10
- 238000001514 detection method Methods 0.000 claims description 10
- 230000015572 biosynthetic process Effects 0.000 claims description 4
- 238000003786 synthesis reaction Methods 0.000 claims description 4
- 238000012163 sequencing technique Methods 0.000 claims description 2
- 238000012544 monitoring process Methods 0.000 abstract description 19
- 230000006870 function Effects 0.000 description 9
- 238000012545 processing Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 4
- 238000003709 image segmentation Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/5866—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, manually generated location and time information
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Library & Information Science (AREA)
- Databases & Information Systems (AREA)
- Traffic Control Systems (AREA)
Abstract
本发明提供了车辆跟踪方法、车辆跟踪系统和计算设备,该方法包括:接收包含待识别车辆的至少一个待识别图像,对待识别图像中的车辆进行检测,以得到车辆的车辆图像和角度;从车辆图像提取车辆的与所述车辆的角度对应的向量信息;基于车辆的向量信息检索预先建立的车辆信息数据库中与该车辆的角度对应的向量信息字段,以得到候选结果;基于车牌识别结果对候选结果进行筛选,以得到最终结果,所述最终结果指示车辆信息数据库中的所筛选出的也包含该车辆的匹配图像。本发明充分利用城市监控系统,能够利用车辆的多模态信息实现车辆识别和跨境追踪,大大提高了车辆识别和跨境追踪的速度和准确率。
Description
技术领域
本发明涉及车辆跟踪领域,更具体地,涉及车辆跟踪方法、车辆跟踪系统和计算设备。
背景技术
截至2020年6月,全国机动车保有量达3.6亿辆,其中汽车2.7亿辆,占机动车总量的75%。为了对城市中数量巨大、行驶轨迹复杂的机动车实现智能化管理,除了城市系统中数量庞大的监控系统外,还需要更为智能的算法。
目前城市监控系统中,除了卡口点位的相机以外,其余大部分相机很难实现对车牌的识别,单纯依靠车牌识别实现车辆智能分析,往往不能充分利用城市监控系统的作用,而车辆重识别技术实现的车辆检索功能,往往只能达到返回相似图片列表的功能,对于同一车辆不同角度的特征差异成为车辆重识别技术难以落地的难点之一,例如利用车辆前脸在数据库中检索相似车辆,往往难以得到该车辆的后脸图像,从而漏掉大量同一车辆不同角度的数据。
如何充分利用城市监控系统实现车辆行驶轨迹的智能监控和车辆跨镜追踪成为一个亟待解决的问题。
发明内容
为了解决上述问题而提出了本发明。根据本发明的一方面,提供了一种车辆跟踪方法,所述方法包括:接收包含待识别车辆的至少一个待识别图像,对所述待识别图像中的车辆进行检测,以得到所述车辆的车辆图像和角度;从所述车辆图像提取所述车辆的与所述车辆的角度对应的向量信息;基于所述车辆的向量信息检索预先建立的车辆信息数据库中与所述车辆的角度对应的向量信息字段,以得到候选结果;基于车牌识别结果对所述候选结果进行筛选,以得到最终结果,所述最终结果指示所述车辆信息数据库中的所筛选出的也包含所述车辆的匹配图像。
在一个实施例中,其中所述车牌识别结果包括车牌号码可识别和车牌号码不可识别,其中基于车牌识别结果对所述候选结果进行筛选包括:当所述车牌识别结果为车牌号码可识别时,则根据车牌号码匹配结果对所述候选结果进行筛选,以得到最终结果,其中所述车牌号码匹配结果指示所述候选结果的车牌号码与所述车辆的车牌号码是否一致;当所述车牌识别结果为车牌号码不可识别时,将所述候选结果作为所述最终结果。
在一个实施例中,所述方法还包括:从所述车辆图像提取所述向量信息的同时,还提取所述车辆的标量信息,其中根据车牌号码匹配结果对所述候选结果进行筛选包括:当所述车牌号码匹配结果指示所述候选结果的车牌号码与所述车辆的车牌号码一致时,则将所述候选结果作为所述最终结果;当所述车牌号码匹配结果指示所述候选结果的车牌号码与所述车辆的车牌号码不一致时,则根据所述车辆的标量信息对所述候选结果进行筛选,以得到所述最终结果。
在一个实施例中,其中根据所述车辆的标量信息对所述候选结果进行筛选包括:如果所述候选结果的所有标量信息均与所述车辆的对应标量信息不一致,则丢弃所述候选结果,不将其作为所述最终结果;如果所述候选结果的所述标量信息之一与所述车辆的对应标量信息一致,则将所述候选结果作为所述最终结果。
在一个实施例中,所述方法还包括:如果所述最终结果为多于一个结果,且所述多于一个结果中的至少两个结果不匹配,则基于所述车牌识别结果和所述车牌号码匹配结果为每个最终结果分配一权重,根据所述权重去除错误结果。
在一个实施例中,所述方法还包括:按照所述待识别图像和所述匹配图像的拍摄时间先后顺序将所述待识别图像和所述匹配图像进行排序,以合成所述车辆的运动轨迹。
在一个实施例中,其中所述标量信息包括车辆的颜色、车型和品牌。
根据本发明的另一实施例,提供了一种车辆跟踪系统,所述系统包括:检测模块,用于对接收到的待识别车辆的至少一个待识别图像中的车辆进行检测,以得到所述车辆的车辆图像和角度;信息提取模块,用于从所述车辆图像提取所述车辆的与所述车辆的角度对应的向量信息;检索模块,用于基于所述车辆的向量信息检索预先建立的车辆信息数据库中与所述车辆的角度对应的向量信息字段,以得到候选结果;筛选模块,用于基于所述车牌识别结果对所述候选结果进行筛选,以得到最终结果,所述最终结果指示所述车辆信息数据库中的所筛选出的也包含所述车辆的匹配图像。
在一个实施例中,所述系统还包括轨迹合成模块,用于按照所述待识别图像和所述匹配图像的拍摄时间先后顺序将所述待识别图像和所述匹配图像进行排序,以合成所述车辆的运动轨迹。
根据本发明的又一实施例,提供了一种计算设备,所述计算设备包括存储器和处理器,所述存储器上存储有计算机程序,所述计算机程序在被所述处理器运行时,使得所述处理器执行如上所述的方法。
根据本发明的再一实施例,提供了一种计算机可读介质,所述计算机可读介质上存储有计算机程序,所述计算机程序在被运行时,执行如上所述的方法。
根据本发明实施例的车辆跟踪方法、车辆跟踪系统和计算设备,充分利用城市监控系统,能够利用车辆的多模态信息实现车辆识别和跨境追踪,大大提高了车辆识别和跨境追踪的速度和准确率。
附图说明
通过结合附图对本发明实施例进行更详细的描述,本发明的上述以及其它目的、特征和优势将变得更加明显。附图用来提供对本发明实施例的进一步理解,并且构成说明书的一部分,与本发明实施例一起用于解释本发明,并不构成对本发明的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1示出了用于实现根据本发明实施例的车辆跟踪方法、车辆跟踪系统和计算设备的电子设备。
图2示出了根据本发明的一个实施例的车辆跟踪方法的步骤流程图。
图3示出了根据本发明一个实施例的车辆跟踪系统的示意性结构框图。
图4示出了根据本发明一个实施例的用于实施车辆跟踪的计算设备的示意性结构框图。
具体实施方式
为了使得本发明的目的、技术方案和优点更为明显,下面将参照附图详细描述根据本发明的示例实施例。显然,所描述的实施例仅仅是本发明的一部分实施例,而不是本发明的全部实施例,应理解,本发明不受这里描述的示例实施例的限制。基于本发明中描述的本发明实施例,本领域技术人员在没有付出创造性劳动的情况下所得到的所有其它实施例都应落入本发明的保护范围之内。
如上所述,现有的车辆识别技术,无法根据同一车辆不同角度的特征识别车辆。因此为了充分利用城市监控系统实现车辆行驶轨迹的智能监控和车辆跨镜追踪,本发明提供了一种车辆跟踪方法,所述方法包括:接收包含待识别车辆的至少一个待识别图像,对所述待识别图像中的车辆进行检测,以得到所述车辆的车辆图像和角度;从所述车辆图像提取所述车辆的与所述车辆的角度对应的向量信息;基于所述车辆的向量信息检索预先建立的车辆信息数据库中与所述车辆的角度对应的向量信息字段,以得到候选结果;基于车牌识别结果对所述候选结果进行筛选,以得到最终结果,所述最终结果指示所述车辆信息数据库中的所筛选出的也包含所述车辆的匹配图像。
本发明充分利用城市监控系统,能够利用车辆的多模态信息实现车辆识别和跨境追踪,大大提高了车辆识别和跨境追踪的速度和准确率。
下面结合具体实施例详细描述根据本发明的实时识别手写汉字的笔顺的方法、系统和计算设备。
首先,参照图1来描述用于实现根据本发明实施例的还原车辆的运动轨迹的方法、系统和计算设备的电子设备100。
在一个实施例中,电子设备100可以是例如笔记本电脑、台式计算机、平板电脑、学习机、移动设备(诸如,智能手机、电话手表等)、嵌入式计算机、塔式服务器、机架服务器、刀片服务器或任何其他合适的电子设备。
在一个实施例中,电子设备100可以包括至少一个处理器102和至少一个存储器104。
其中,存储器104可以是易失性存储器,诸如随机存取存储器(RAM)、高速缓存存储器(cache)、动态随机存取存储器(DRAM)(包括堆叠的DRAM)或高带宽存储器(HBM)等,也可以是非易失性存储器,诸如只读存储器(ROM)、闪存、3D Xpoint等。在一个实施例中,存储器104的某些部分可以是易失性存储器,而另一部分可以是非易失性存储器(例如,使用两级存储器层次结构)。存储器104用于存储计算机程序,该计算机程序在被运行时,能够实现下文所述的本发明实施例中(由处理器实现)的客户端功能以及/或者其他期望的功能。
处理器102可以是中央处理单元(CPU)、图形处理单元(GPU)、微处理器或具有数据处理能力和/或指令执行能力的其他处理单元。处理器102可经由通信总线通信地耦合到任何合适数量或种类的组件、外围设备、模块或设备。在一个实施例中,通信总线可以使用任何合适的协议来实现,诸如外围组件互连(PCI)、快速外围组件互连(PCIe)、加速图形端口(AGP)、超传输或任何其他总线或一个或更多个点对点通信协议。
电子设备100还可以包括输入装置106和输出装置108。其中,输入装置106是用于接收用户输入的装置,其可以包括键盘、鼠标、触摸板、麦克风等。此外,输入装置106也可以是任何接收信息的接口。输出装置108可以向外部(例如用户)输出各种信息(例如图像或声音),其可以包括显示器、扬声器等中的一个或更多个。此外,输出装置108也可以是任何其他具备输出功能的设备,例如打印机等。
下面参考图2描述根据本发明的一个实施例的车辆跟踪方法200的步骤流程图。如图2所示,车辆跟踪方法200可以包括如下步骤:
在步骤S210,接收包含待识别车辆的至少一个待识别图像,对待识别图像中的车辆进行检测,以得到车辆的车辆图像和车辆的角度。
在一个实施例中,对待识别图像中的车辆进行检测可以采用本领域公知的任何目标检测和图像分割算法来实现,还可以用户手动地进行图像分割,本发明对此不作限定。示例性地,目标检测可以包括例如Fast R-CNN、Faster R-CNN、R-FCN、YOLO、SSD、RetinaNet等,本发明对此不作限定。
在一个实施例中,对每个图像中的车辆进行检测后,可输出车辆的6个基本属性。示例性地,6个基本属性可以包括xmin,ymin,xmax,ymax,score,cls_id,其中xmax、ymax可表示车辆左上角的坐标,xmax、ymax可表示车辆右下角的坐标,score可表示置信度分数,cls_id可表示车辆的类型,例如轿车、面包车、SUV、卡车等。
由于同一车辆不同角度的特征不同,因此为了提高识别准确率,在一个实施例中,对待识别图像中的车辆进行检测后,还可输出车辆的角度。示例性地,车辆的角度可以包括:正前、左前、右前、左、右、正后、左后、右后。应理解,车辆的角度还可以采用其他表示方法,例如用车头与水平方向的夹角表示等,本发明对此不作限定。
车辆的车牌号码是车辆的唯一ID,对于车辆的区别能力是远大于车辆的其他信息的。因此,在一个实施例中,在得到车辆的车辆图像后,可以基于车辆图像识别车辆的车牌号码以得到车牌识别结果,其中车牌识别结果可以包括车牌号码可识别和车牌号码不可识别。
在一个实施例中,可采用经训练的车牌识别网络来识别车辆的车牌号码,也可人工识别车辆的车牌号码,本发明对此不作限定。示例性地,采用经训练的车牌识别网络来识别车辆的车牌号码时,车牌识别网络可以包括车牌提取、图像预处理、特征提取、车牌字符识别等层,这在本领域中是公知的,在此不再赘述。
其中,如果车牌识别结果为车牌号码可识别,则保存识别出的车牌号码;如果车牌识别结果为车牌号码不可识别,则车牌号码为空。
示例性地,车牌识别结果还可以包括车牌的颜色等信息,本发明对此不作限定。
在步骤S220,从车辆图像提取车辆的与车辆的角度对应的向量信息。
其中,向量信息可以包括车辆的特征向量。由于同一车辆不同角度的特征向量不同,因此,在车辆的角度包括正前、左前、右前、左、右、正后、左后、右后八个角度的情况下,车辆的特征向量可以包括16种,分别为车牌号码可识别和车牌号码不可识别情况下八个角度的特征向量。
示例性地,可以采用本领域公知的特征提取算法来提取车辆的特征向量,例如LBP(局部二值模式)特征提取算法、HOG特征提取算法、Haar特征提取算法、LoG特征提取算法、Harris角点特征提取算法、SIFT特征提取算法、SURF特征提取算法或其他能够实现特征提取的算法等,本发明对此不作限定。
在一个实施例中,在从车辆图像提取向量信息的同时,还提取该车辆的标量信息。其中,标量信息可以包括车辆的颜色、品牌、车型等信息。应理解,车牌号码和车辆的角度也属于车辆的标量信息,但本文中在该步骤中提取的待识别车辆的标量信息并未描述为包括车牌号码和车辆的角度,但这并不是限制,仅仅是为了描述的方便。
在步骤S230,基于车辆的向量信息检索预先建立的车辆信息数据库中与车辆的角度对应的向量信息字段,以得到候选结果。
在一个实施例中,可以利用现有的监控系统捕获的视频文件来建立车辆信息数据库,具体地:
当车辆进入监控系统的摄像头的视野范围内时,监控系统在车辆信息数据库中智慧记录一条数据,主要记录如下信息:车牌号码、车辆的颜色、品牌、车型、车辆的角度、特征向量、以及开始时间、结束时间。示例性地,车辆信息数据库可以包括标量信息字段和向量信息字段,其中,标量信息字段可以包括车牌号码、车辆的颜色、品牌、车型、车辆的角度等信息,向量信息字段可以包括车辆在不同角度的特征向量。其中车辆的颜色、品牌、车牌号码等有可能因为角度、距离、光线等原因出现无法识别的情况,而车辆的角度与特征向量为必有字段,无论是否存在车辆的距离、光线等因素干扰,都能够获取。
并且,系统会对车辆进行跟踪识别,当车辆信息发生变化时,则更新相关信息,例如,如果车辆的角度发生变化,例如由正后方变化为左后方时,则提取车辆左后方的特征向量写入数据库;当车辆从远处靠近摄像头,车牌由不可识别变为可识别时,则补充记录车牌信息,例如车牌号码。其中,当车辆由远变近,由不清晰变为清晰时,若干信息由不可识别变为可识别,则将车辆在该角度下的特征向量也更新为标量信息最全的那一帧中的车辆图像。
具体地,当进行检索时,只需要检索车辆信息数据库中与待识别车辆的角度对应的向量信息字段。例如,待识别车辆的角度为左前方,则提取的待识别车辆的特征向量为左前方的特征向量,则只需要检索车辆信息数据库中与左前方相对应的向量信息字段,以得到候选结果。在一个实施例中,如果检索到多个候选结果,则可以将多个候选结果按照与待识别车辆的特征向量的相似度进行排名。
在步骤S240,基于车牌识别结果对候选结果进行筛选,以得到最终结果。其中,最终结果指示车辆信息数据库中的所筛选出的也包含该待识别车辆的匹配图像。
在一个实施例中,在基于车牌识别结果对候选结果进行筛选时,可以分为车牌号码可识别和车牌号码不可识别两种情况来说明。具体地:
当车牌识别结果为车牌号码可识别时,则可根据车牌号码匹配结果对候选结果进行筛选,以得到最终结果,其中车牌号码匹配结果可指示候选结果的车牌号码与待识别车辆的车牌号码是否一致。例如,示例性地,车牌号码匹配结果为正,可指示候选结果的车牌号码与待识别车辆的车牌号码一致;车牌号码匹配结果为负,可指示候选结果的车牌号码与待识别车辆的车牌号码不一致。应理解,车牌号码匹配结果还可以采用其他表示方法,例如数字0(可指示不一致)和1(可指示一致),本发明对此不作限定。
在一个实施例中,当车牌号码匹配结果指示候选结果的车牌号码与待识别车辆的车牌号码一致时,则将候选结果作为最终结果。因为车牌号码是车辆的唯一ID,其区分度远远大于车辆的其他信息,因此当候选结果的车牌号码与待识别车辆的车牌号码一致时,无需再进行其他比对,可直接将候选结果作为最终结果。
在一个实施例中,当车牌号码匹配结果指示候选结果的车牌号码与待识别车辆的车牌号码不一致时,则需要比对车辆的其他信息,此时可根据待识别车辆的标量信息对该候选结果进行筛选,例如可以比对车辆的颜色、品牌等标量信息,以得到最终结果。
示例性地,如果候选结果的所有标量信息均与待识别车辆的对应标量信息不一致,例如颜色、品牌、车型等均不一致,说明候选结果是待识别车辆的可能性很小,则丢弃该候选结果,不将其作为最终结果;
示例性地,如果候选结果的标量信息之一与待识别车辆的对应标量信息一致,说明候选结果仍有一定可能是待识别车辆,则将候选结果作为最终结果。
当车牌识别结果为车牌号码不可识别时,无需再比对其他信息,直接将候选结果作为最终结果。示例性地,该最终结果可以按照与待识别车辆的相似度进行排名。
如果得到的最终结果为多于一个结果,有时会出现结果冲突的情况,即多于一个结果中的至少两个结果不匹配,此时需要排除错误结果。例如,从摄像头A中获取了车辆的3个不同角度的图像,在附近摄像头中检索,发现有两个符合条件的选项,其中B摄像头有2个图像可以匹配上,显示该车辆向东行驶8公里,C摄像头有3个图像可以匹配上,显示改车辆向西行驶10公里,而从时间分析该车辆不可能在B、C摄像头所在的地点同时出现,从而B摄像头的2个图像和C摄像头有3个图像是冲突的。
此时,在一个实施例中,可以基于车牌识别结果和车牌号码匹配结果为每个最终结果分配一权重,根据权重去除错误结果。
示例性地,基于车牌识别结果和车牌号码匹配结果分配权重的规则可以如下设置:
是否识别车牌 | 车牌是否匹配 | 权重 |
是 | 是 | 3.0 |
是 | 否 | 1.0 |
否 | 1.0 |
在去除了错误结果,得到正确结果后,按照待识别图像和匹配图像的拍摄时间先后顺序将该待识别图像和匹配图像进行排序,以合成待识别车辆的运动轨迹,即完成了车辆运动轨迹的还原。
本发明用于车辆跟踪方法,充分利用城市监控系统,能够利用车辆的多模态信息实现车辆识别和跨境追踪,大大提高了车辆识别和跨境追踪的速度和准确率。
下面参考图3描述根据本发明的一个实施例的车辆跟踪系统300的示意性结构框图。如图3所示,车辆跟踪系统300可以包括检测模块310、信息提取模块330、检索模块340、筛选模块350和轨迹合成模块360。车辆跟踪系统300还可以包括识别模块320。
其中,检测模块310用于对接收到的待识别车辆的至少一个待识别图像中的车辆进行检测,以得到待识别车辆的车辆图像和车辆的角度。
在一个实施例中,对待识别图像中的车辆进行检测可以采用本领域公知的任何目标检测和图像分割算法来实现,还可以用户手动地进行图像分割,本发明对此不作限定。示例性地,目标检测可以包括例如Fast R-CNN、Faster R-CNN、R-FCN、YOLO、SSD、RetinaNet等,本发明对此不作限定。
在一个实施例中,对每个图像中的车辆进行检测后,可输出车辆的6个基本属性。示例性地,6个基本属性可以包括xmin,ymin,xmax,ymax,score,cls_id,其中xmax、ymax可表示车辆左上角的坐标,xmax、ymax可表示车辆右下角的坐标,score可表示置信度分数,cls_id可表示车辆的类型,例如轿车、面包车、SUV、卡车等。
由于同一车辆不同角度的特征不同,因此为了提高识别准确率,在一个实施例中,对待识别图像中的车辆进行检测后,还可输出车辆的角度。示例性地,车辆的角度可以包括:正前、左前、右前、左、右、正后、左后、右后。应理解,车辆的角度还可以采用其他表示方法,例如用车头与水平方向的夹角表示等,本发明对此不作限定。
车辆的车牌号码是车辆的唯一ID,对于车辆的区别能力是远大于车辆的其他信息的。因此,在得到车辆的车辆图像后,可利用识别模块320基于该车辆图像识别车辆的车牌号码以得到车牌识别结果,其中车牌识别结果包括车牌号码可识别和车牌号码不可识别。
在一个实施例中,可采用经训练的车牌识别网络来识别车辆的车牌号码,也可人工识别车辆的车牌号码,本发明对此不作限定。示例性地,采用经训练的车牌识别网络来识别车辆的车牌号码时,车牌识别网络可以包括车牌提取、图像预处理、特征提取、车牌字符识别等层,这在本领域中是公知的,在此不再赘述。
其中,如果车牌识别结果为车牌号码可识别,则保存识别出的车牌号码;如果车牌识别结果为车牌号码不可识别,则车牌号码为空。
示例性地,车牌识别结果还可以包括车牌的颜色等信息,本发明对此不作限定。
信息提取模块330用于从车辆图像提取车辆的与车辆的角度对应的向量信息。
其中,向量信息可以包括车辆的特征向量。由于同一车辆不同角度的特征向量不同,因此,在车辆的角度包括正前、左前、右前、左、右、正后、左后、右后八个角度的情况下,车辆的特征向量可以包括16种,分别为车牌号码可识别和车牌号码不可识别情况下八个角度的特征向量。
示例性地,可以采用本领域公知的特征提取算法来提取车辆的特征向量,例如LBP(局部二值模式)特征提取算法、HOG特征提取算法、Haar特征提取算法、LoG特征提取算法、Harris角点特征提取算法、SIFT特征提取算法、SURF特征提取算法或其他能够实现特征提取的算法等,本发明对此不作限定。
在一个实施例中,在从车辆图像提取向量信息的同时,还提取该车辆的标量信息。其中,标量信息可以包括车辆的颜色、品牌、车型等信息。应理解,车牌号码和车辆的角度也属于车辆的标量信息,但本文中在该步骤中提取的待识别车辆的标量信息并未描述为包括车牌号码和车辆的角度,但这并不是限制,仅仅是为了描述的方便。
检索模块340用于基于车辆的向量信息检索预先建立的车辆信息数据库中与车辆的角度对应的向量信息字段,以得到候选结果。
在一个实施例中,可以利用现有的监控系统捕获的视频文件来建立车辆信息数据库,具体地:
当车辆进入监控系统的摄像头的视野范围内时,监控系统在车辆信息数据库中智慧记录一条数据,主要记录如下信息:车牌号码、车辆的颜色、品牌、车型、车辆的角度、特征向量、以及开始时间、结束时间。示例性地,车辆信息数据库可以包括标量信息字段和向量信息字段,其中,标量信息字段可以包括车牌号码、车辆的颜色、品牌、车型、车辆的角度等信息,向量信息字段可以包括车辆在不同角度的特征向量。其中车辆的颜色、品牌、车牌号码等有可能因为角度、距离、光线等原因出现无法识别的情况,而车辆的角度与特征向量为必有字段,无论是否存在车辆的距离、光线等因素干扰,都能够获取。
并且,系统会对车辆进行跟踪识别,当车辆信息发生变化时,则更新相关信息,例如,如果车辆的角度发生变化,例如由正后方变化为左后方时,则提取车辆左后方的特征向量写入数据库;当车辆从远处靠近摄像头,车牌由不可识别变为可识别时,则补充记录车牌信息,例如车牌号码。其中,当车辆由远变近,由不清晰变为清晰时,若干信息由不可识别变为可识别,则将车辆在该角度下的特征向量也更新为标量信息最全的那一帧中的车辆图像。
具体地,当进行检索时,只需要检索车辆信息数据库中与待识别车辆的角度对应的向量信息字段。例如,待识别车辆的角度为左前方,则提取的待识别车辆的特征向量为左前方的特征向量,则只需要检索车辆信息数据库中与左前方相对应的向量信息字段,以得到候选结果。在一个实施例中,如果检索到多个候选结果,则可以将多个候选结果按照与待识别车辆的特征向量的相似度进行排名。
筛选模块350用于基于车牌识别结果对候选结果进行筛选,以得到最终结果。其中,最终结果指示车辆信息数据库中的所筛选出的也包含该待识别车辆的匹配图像。
在一个实施例中,在基于车牌识别结果对候选结果进行筛选时,可以分为车牌号码可识别和车牌号码不可识别两种情况来说明。具体地:
当车牌识别结果为车牌号码可识别时,则可根据车牌号码匹配结果对候选结果进行筛选,以得到最终结果,其中车牌号码匹配结果可指示候选结果的车牌号码与待识别车辆的车牌号码是否一致。例如,示例性地,车牌号码匹配结果为正,可指示候选结果的车牌号码与待识别车辆的车牌号码一致;车牌号码匹配结果为负,可指示候选结果的车牌号码与待识别车辆的车牌号码不一致。应理解,车牌号码匹配结果还可以采用其他表示方法,例如数字0(可指示不一致)和1(可指示一致),本发明对此不作限定。
在一个实施例中,当车牌号码匹配结果指示候选结果的车牌号码与待识别车辆的车牌号码一致时,则将候选结果作为最终结果。因为车牌号码是车辆的唯一ID,其区分度远远大于车辆的其他信息,因此当候选结果的车牌号码与待识别车辆的车牌号码一致时,无需再进行其他比对,可直接将候选结果作为最终结果。
在一个实施例中,当车牌号码匹配结果指示候选结果的车牌号码与待识别车辆的车牌号码不一致时,则需要比对车辆的其他信息,此时可根据待识别车辆的标量信息对该候选结果进行筛选,例如可以比对车辆的颜色、品牌等标量信息,以得到最终结果。
示例性地,如果候选结果的所有标量信息均与待识别车辆的对应标量信息不一致,例如颜色、品牌、车型等均不一致,说明候选结果是待识别车辆的可能性很小,则丢弃该候选结果,不将其作为最终结果;
示例性地,如果候选结果的标量信息之一与待识别车辆的对应标量信息一致,说明候选结果仍有一定可能是待识别车辆,则将候选结果作为最终结果。
当车牌识别结果为车牌号码不可识别时,无需再比对其他信息,直接将候选结果作为最终结果。示例性地,该最终结果可以按照与待识别车辆的相似度进行排名。
如果得到的最终结果为多于一个结果,有时会出现结果冲突的情况,即多于一个结果中的至少两个结果不匹配,此时需要排除错误结果。
此时,在一个实施例中,可以基于车牌识别结果和车牌号码匹配结果为每个最终结果分配一权重,根据权重去除错误结果。
示例性地,基于车牌识别结果和车牌号码匹配结果分配权重的规则可以如上设置,在此不再赘述。
在去除了错误结果,得到正确结果后,可以利用轨迹合成模块360按照待识别图像和匹配图像的拍摄时间先后顺序将该待识别图像和匹配图像进行排序,以合成待识别车辆的运动轨迹,即完成了车辆运动轨迹的还原。
本发明车辆跟踪系统,充分利用城市监控系统,能够利用车辆的多模态信息实现车辆识别和跨境追踪,大大提高了车辆识别和跨境追踪的速度和准确率。
下面参考图4,图4示出了根据本发明的一个实施例的用于还原车辆的运动轨迹的计算设备400的示意性结构框图。如图4所示,计算设备400可以包括存储器410和处理器420,其中存储器410上存储有计算机程序,该计算机程序在被该处理器420运行时,使得处理器420执行如上所述的车辆跟踪方法。
本领域技术人员可以结合前文所述的内容理解根据本发明实施例的计算设备400的具体操作,为了简洁,此处不再赘述具体的细节,仅描述处理器420的一些主要操作如下:
接收包含待识别车辆的至少一个待识别图像,对所述待识别图像中的车辆进行检测,以得到所述车辆的车辆图像和角度;
从所述车辆图像提取所述车辆的与所述车辆的角度对应的向量信息;
基于所述车辆的向量信息检索预先建立的车辆信息数据库中与所述车辆的角度对应的向量信息字段,以得到候选结果;
基于车牌识别结果对所述候选结果进行筛选,以得到最终结果,所述最终结果指示所述车辆信息数据库中的所筛选出的也包含所述车辆的匹配图像。
本发明用于实施车辆跟踪的计算设备,充分利用城市监控系统,能够利用车辆的多模态信息实现车辆识别和跨境追踪,大大提高了车辆识别和跨境追踪的速度和准确率。
本发明还提供了一种计算机可读介质,该计算机可读介质上存储有计算机程序,所述计算机程序在运行时执行如上述实施例所述的方法。任何有形的、非暂时性的计算机可读介质皆可被使用,包括磁存储设备(硬盘、软盘等)、光存储设备(CD-ROM、DVD、蓝光光盘等)、闪存和/或诸如此类。这些计算机程序指令可被加载到通用计算机、专用计算机或其他可编程数据处理设备上以形成机器,使得这些在计算机上或其他可编程数据处理装置上执行的指令可以生成实现指定功能的装置。这些计算机程序指令也可以存储在计算机可读存储器中,该计算机可读存储器可以指示计算机或其他可编程数据处理设备以特定的方式运行,这样存储在计算机可读存储器中的指令就可以形成一件制造品,包括实现指定功能的实现装置。计算机程序指令也可以加载到计算机或其他可编程数据处理设备上,从而在计算机或其他可编程设备上执行一系列操作步骤以产生一个计算机实现的进程,使得在计算机或其他可编程设备上执行的指令可以提供用于实现指定功能的步骤。
尽管这里已经参考附图描述了示例实施例,应理解上述示例实施例仅仅是示例性的,并且不意图将本发明的范围限制于此。本领域普通技术人员可以在其中进行各种改变和修改,而不偏离本发明的范围和精神。所有这些改变和修改意在被包括在所附权利要求所要求的本发明的范围之内。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本发明并帮助理解各个发明方面中的一个或多个,在对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该本发明的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如相应的权利要求书所反映的那样,其发明点在于可以用少于某个公开的单个实施例的所有特征的特征来解决相应的技术问题。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域的技术人员可以理解,除了特征之间相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
以上所述,仅为本发明的具体实施方式或对具体实施方式的说明,本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。本发明的保护范围应以权利要求的保护范围为准。
Claims (11)
1.一种车辆跟踪方法,其特征在于,所述方法包括:
接收包含待识别车辆的至少一个待识别图像,对所述待识别图像中的车辆进行检测,以得到所述车辆的车辆图像和角度;
从所述车辆图像提取所述车辆的与所述车辆的角度对应的向量信息和标量信息,所述向量信息包括所述车辆的特征向量;
基于所述车辆的向量信息检索预先建立的车辆信息数据库中与所述车辆的角度对应的向量信息字段,以得到候选结果,其中在所述车辆信息数据库中,车辆的角度与特征向量为必有字段;
基于对所述车辆的车牌识别结果对所述候选结果进行筛选,以得到最终结果,所述最终结果指示所述车辆信息数据库中的所筛选出的也包含所述车辆的匹配图像。
2.如权利要求1所述的方法,其特征在于,其中所述车牌识别结果包括车牌号码可识别和车牌号码不可识别,其中基于所述车牌识别结果对所述候选结果进行筛选包括:
当所述车牌识别结果指示车牌号码可识别时,则根据车牌号码匹配结果对所述候选结果进行筛选,以得到最终结果,其中所述车牌号码匹配结果指示所述候选结果的车牌号码与所述车辆的车牌号码是否一致;
当所述车牌识别结果为车牌号码不可识别时,将所述候选结果作为所述最终结果。
3.如权利要求2所述的方法,其特征在于,其中根据所述车牌号码匹配结果对所述候选结果进行筛选包括:
当所述车牌号码匹配结果指示所述候选结果的车牌号码与所述车辆的车牌号码一致时,则将所述候选结果作为所述最终结果;
当所述车牌号码匹配结果指示所述候选结果的车牌号码与所述车辆的车牌号码不一致时,则根据所述车辆的标量信息对所述候选结果进行筛选,以得到所述最终结果。
4.如权利要求3所述的方法,其特征在于,其中根据所述车辆的标量信息对所述候选结果进行筛选包括:
如果所述候选结果的所有标量信息均与所述车辆的对应标量信息不一致,则丢弃所述候选结果,不将其作为所述最终结果;
如果所述候选结果的所述标量信息之一与所述车辆的对应标量信息一致,则将所述候选结果作为所述最终结果。
5.如权利要求1所述的方法,其特征在于,所述方法还包括:
如果所述最终结果为多于一个结果,且所述多于一个结果中的至少两个结果不匹配,则基于所述车牌识别结果和所述车牌号码匹配结果为每个最终结果分配一权重,根据所述权重去除错误结果。
6.如权利要求1所述的方法,其特征在于,所述方法还包括:
按照所述待识别图像和所述匹配图像的拍摄时间先后顺序将所述待识别图像和所述匹配图像进行排序,以合成所述车辆的运动轨迹。
7.如权利要求3所述的方法,其特征在于,其中所述标量信息包括车辆的颜色、车型和品牌。
8.一种车辆跟踪系统,其特征在于,所述系统包括:
检测模块,用于对接收到的待识别车辆的至少一个待识别图像中的车辆进行检测,以得到所述车辆的车辆图像和角度;
信息提取模块,用于从所述车辆图像提取所述车辆的与所述车辆的角度对应的向量信息和标量信息,所述向量信息包括所述车辆的特征向量;
检索模块,用于基于所述车辆的向量信息检索预先建立的车辆信息数据库中与所述车辆的角度对应的向量信息字段,以得到候选结果,其中在所述车辆信息数据库中,车辆的角度与特征向量为必有字段;
筛选模块,用于基于对所述车辆的车牌识别结果对所述候选结果进行筛选,以得到最终结果,所述最终结果指示所述车辆信息数据库中的所筛选出的也包含所述车辆的匹配图像。
9.如权利要求8所述的系统,其特征在于,所述系统还包括轨迹合成模块,用于按照所述待识别图像和所述匹配图像的拍摄时间先后顺序将所述待识别图像和所述匹配图像进行排序,以合成所述车辆的运动轨迹。
10.一种计算设备,其特征在于,所述计算设备包括存储器和处理器,所述存储器上存储有计算机程序,所述计算机程序在被所述处理器运行时,使得所述处理器执行如权利要求1-7中的任一项所述的方法。
11.一种计算机可读介质,其特征在于,所述计算机可读介质上存储有计算机程序,所述计算机程序在被运行时,执行如权利要求1-7中的任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110858203.4A CN113657378B (zh) | 2021-07-28 | 2021-07-28 | 车辆跟踪方法、车辆跟踪系统和计算设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110858203.4A CN113657378B (zh) | 2021-07-28 | 2021-07-28 | 车辆跟踪方法、车辆跟踪系统和计算设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113657378A CN113657378A (zh) | 2021-11-16 |
CN113657378B true CN113657378B (zh) | 2024-04-26 |
Family
ID=78478856
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110858203.4A Active CN113657378B (zh) | 2021-07-28 | 2021-07-28 | 车辆跟踪方法、车辆跟踪系统和计算设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113657378B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114219836B (zh) * | 2021-12-15 | 2022-06-03 | 北京建筑大学 | 一种基于时空信息辅助的无人机视频车辆跟踪方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106682087A (zh) * | 2016-11-28 | 2017-05-17 | 东南大学 | 一种基于车载装饰品特征稀疏编码的车辆检索方法 |
CN106778648A (zh) * | 2016-12-26 | 2017-05-31 | 江苏盛世华安智能科技股份有限公司 | 车辆轨迹跟踪及车牌识别系统和识别方法 |
CN107729818A (zh) * | 2017-09-21 | 2018-02-23 | 北京航空航天大学 | 一种基于深度学习的多特征融合车辆重识别方法 |
CN109409208A (zh) * | 2018-09-10 | 2019-03-01 | 东南大学 | 一种基于视频的车辆特征提取与匹配方法 |
CN110766720A (zh) * | 2019-09-23 | 2020-02-07 | 盐城吉大智能终端产业研究院有限公司 | 一种基于深度学习的多摄像头车辆跟踪系统 |
CN111932901A (zh) * | 2019-05-13 | 2020-11-13 | 阿里巴巴集团控股有限公司 | 道路车辆跟踪检测设备、方法及存储介质 |
CN112069969A (zh) * | 2020-08-31 | 2020-12-11 | 河北省交通规划设计院 | 一种高速公路监控视频跨镜车辆跟踪方法及系统 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8620026B2 (en) * | 2011-04-13 | 2013-12-31 | International Business Machines Corporation | Video-based detection of multiple object types under varying poses |
US8836788B2 (en) * | 2012-08-06 | 2014-09-16 | Cloudparc, Inc. | Controlling use of parking spaces and restricted locations using multiple cameras |
CN110245565A (zh) * | 2019-05-14 | 2019-09-17 | 东软集团股份有限公司 | 车辆跟踪方法、装置、计算机可读存储介质及电子设备 |
-
2021
- 2021-07-28 CN CN202110858203.4A patent/CN113657378B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106682087A (zh) * | 2016-11-28 | 2017-05-17 | 东南大学 | 一种基于车载装饰品特征稀疏编码的车辆检索方法 |
CN106778648A (zh) * | 2016-12-26 | 2017-05-31 | 江苏盛世华安智能科技股份有限公司 | 车辆轨迹跟踪及车牌识别系统和识别方法 |
CN107729818A (zh) * | 2017-09-21 | 2018-02-23 | 北京航空航天大学 | 一种基于深度学习的多特征融合车辆重识别方法 |
CN109409208A (zh) * | 2018-09-10 | 2019-03-01 | 东南大学 | 一种基于视频的车辆特征提取与匹配方法 |
CN111932901A (zh) * | 2019-05-13 | 2020-11-13 | 阿里巴巴集团控股有限公司 | 道路车辆跟踪检测设备、方法及存储介质 |
CN110766720A (zh) * | 2019-09-23 | 2020-02-07 | 盐城吉大智能终端产业研究院有限公司 | 一种基于深度学习的多摄像头车辆跟踪系统 |
CN112069969A (zh) * | 2020-08-31 | 2020-12-11 | 河北省交通规划设计院 | 一种高速公路监控视频跨镜车辆跟踪方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN113657378A (zh) | 2021-11-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106446816B (zh) | 人脸识别方法及装置 | |
JP5775225B2 (ja) | マルチレイヤ連結成分をヒストグラムと共に用いるテキスト検出 | |
Zhou et al. | Principal visual word discovery for automatic license plate detection | |
CN103699905B (zh) | 一种车牌定位方法及装置 | |
Wang et al. | An effective method for plate number recognition | |
CN111353491B (zh) | 一种文字方向确定方法、装置、设备及存储介质 | |
Li et al. | An anti-fraud system for car insurance claim based on visual evidence | |
US10354134B1 (en) | Feature classification with spatial analysis | |
Molina-Moreno et al. | Efficient scale-adaptive license plate detection system | |
CN104615986A (zh) | 利用多检测器对场景变化的视频图像进行行人检测的方法 | |
US10423817B2 (en) | Latent fingerprint ridge flow map improvement | |
CN111814690B (zh) | 一种目标重识别方法、装置和计算机可读存储介质 | |
US8027978B2 (en) | Image search method, apparatus, and program | |
He et al. | Aggregating local context for accurate scene text detection | |
CN110826415A (zh) | 一种场景图像中车辆的重识别方法及设备 | |
CN106384071A (zh) | 一种二维码扫描识别处理方法及装置 | |
US20190205693A1 (en) | Scale-Invariant Feature Point Extraction in Edge Map | |
CN113657378B (zh) | 车辆跟踪方法、车辆跟踪系统和计算设备 | |
CN115171125A (zh) | 数据异常的检测方法 | |
Ganapathy et al. | A Malaysian vehicle license plate localization and recognition system | |
CN114168768A (zh) | 图像检索方法及相关设备 | |
CN111767908A (zh) | 字符检测方法、装置、检测设备及存储介质 | |
CN116704490B (zh) | 车牌识别方法、装置和计算机设备 | |
CN114783042A (zh) | 基于多移动目标的人脸识别方法、装置、设备及存储介质 | |
CN114724128A (zh) | 一种车牌识别方法、装置、设备和介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |