CN111191604A - 检测车牌完整性的方法、设备和存储介质 - Google Patents

Abstract

本发明提供了一种用于检测车牌完整性的方法、设备和存储介质。该方法包括：获取包括至少一个车辆的原始图像；从该原始图像中检测黄牌货车；基于车牌目标检测模型检测该黄牌货车的至少一个候选车牌图像；对每个候选车牌图像进行至少两次随机裁剪，以得到该候选车牌图像的至少两个裁剪样本；以及将该候选车牌图像的该至少两个裁剪样本输入车牌识别模型以确定该候选车牌图像的完整性。

Description

检测车牌完整性的方法、设备和存储介质

技术领域

本发明涉及智能检测领域，更具体地，涉及一种用于检测车牌完整性的方法、实现这种方法的设备以及计算机可读存储介质。

背景技术

随着社会经济的不断发展和人民生活水平的不断提高，一方面越来越多的居民拥有私家车辆，另一方面，城市的工程建设也越来越频繁。在此种情况下，政府对城市环保提出了更高要求，尤其对通往市区或者郊区的工程用车，故此，要求对黄牌货车进行污损车牌或遮挡车牌进行审核。黄牌车通常是指大型车辆，如2吨以上卡车或客车等，以其车牌颜色为黄色而得名。本文中的黄牌货车是指车牌为黄色的货车，如工程用车、土方车、垃圾转运车等。传统的黄牌货车污损车牌审核主要是通过人工方式，该方法成本较高，效率低下，并且长时间重复性查看图片易使人产生疲劳、注意力不集中等状态，最终影响审核准确率。

如何快速准确地对污损车牌进行审核，同时避免人工检测成本高，检测人员易疲劳、易疏忽等弊端，是当前急需解决的技术问题。

发明内容

针对上述问题，本发明提供了一种用于检测车牌完整性的方案，能够从摄像头拍摄的图像中快速准确地识别出存在车牌污损或车牌遮挡的黄牌货车。

根据本发明的一个方面，提供了一种于检测车牌完整性的方法，包括：获取包括至少一个车辆的原始图像；从该原始图像中检测黄牌货车；基于车牌目标检测模型检测该黄牌货车的至少一个候选车牌图像；对每个候选车牌图像进行至少两次随机裁剪，以得到该候选车牌图像的至少两个裁剪样本；以及将该候选车牌图像的该至少两个裁剪样本输入车牌识别模型以确定该候选车牌图像的完整性。

根据本发明的另一个方面，提供了一种用于检测车辆轮胎的花纹的设备。该设备包括：存储器，其上存储有计算机程序代码；以及处理器，其被配置为运行该计算机程序代码，以执行如上所述的方法。

根据本发明的再一个方面，提供了一种计算机可读存储介质。该计算机可读存储介质上存储有计算机程序代码，该计算机程序代码在被运行时执行如上所述的方法。

利用本发明的方案，能够准确地从复杂环境中选择出黄牌货车，并且能够快速准确地审核出黄牌货车是否存在污损和遮挡等情况。

附图说明

图1示出了根据本发明的实施例的用于检测车牌完整性的方法的流程图；以及

图2示出了可以用来实施本发明的实施例的示例设备的示意性框图。

具体实施方式

以下将结合附图对本发明的各实施例进行详细说明，以便更清楚理解本发明的目的、特点和优点。应理解的是，附图所示的实施例并不是对本发明范围的限制，而只是为了说明本发明技术方案的实质精神。

在下文的描述中，出于说明各种发明的实施例的目的阐述了某些具体细节以提供对各种发明实施例的透彻理解。但是，相关领域技术人员将认识到可在无这些具体细节中的一个或多个细节的情况来实践实施例。在其它情形下，与本申请相关联的熟知的装置、结构和技术可能并未详细地示出或描述从而避免不必要地混淆实施例的描述。

除非语境有其它需要，在整个说明书和权利要求中，词语“包括”和其变型，诸如“包含”和“具有”应被理解为开放的、包含的含义，即应解释为“包括，但不限于”。

在整个说明书中对“一个实施例”或“一些实施例”的提及表示结合实施例所描述的特定特点、结构或特征包括于至少一个实施例中。因此，在整个说明书的各个位置“在一个实施例中”或“在一些实施例”中的出现不一定全都指相同实施例。另外，特定特点、结构或特征可在一个或多个实施例中以任何方式组合。

说明书和所附权利要求中所用的单数形式“一”和“所述”包括复数指代物，除非文中清楚地另外规定。应当指出的是术语“或”通常以其包括“和/或”的含义使用，除非文中清楚地另外规定。

图1示出了根据本发明的实施例的用于检测车牌完整性的方法100的流程图。

方法100包括步骤110，其中获取包括至少一个车辆的原始图像。在一些实施例中，该原始图像可以是通过交通摄像头实时抓拍的。在另一些实施例中，该原始图像可以是从诸如交警中心或者环保管理中心的服务器上获取的。如本领域技术人员所知的，交通摄像头通常在有车辆经过时对车辆进行拍摄，因此所拍摄的图像上通常有至少一个车辆。然而，在一些情况下，所拍摄的图像可能不包含有效车辆，例如只拍到了车辆的局部，在这种情况下，步骤110中还包括筛选出包含至少一个有效车辆的原始图像。在本发明中，由于是要对车牌的完整性进行检测，因此这里所获取的原始图像应当剔除了不包含车牌区域(如车头或车尾)的图像。

接下来，在步骤120，从原始图像中检测出黄牌货车。

在根据本发明的一些实施例中，设计了一种多层检测方案来从原始图像中检测黄牌货车。

具体地，步骤120可以包括子步骤122(图中未示出)，其中对原始图像进行检测以确定至少一个车辆是大车还是小车。假设原始图像为X，其中包括n个车辆，x_i(i＝0，1，2，...，n)表示图像X中的第i个车辆，x_ic表示车辆x_i的类别(或者完整性类别)。在根据本发明的方案中，x_ic∈(0，1，2，3，4)，其中x_ic＝0表示车辆x_i的类别为非目标车辆，x_ic＝1表示车辆x_i的类别为无牌车辆，x_ic＝2表示车辆x_i的类别为车牌遮挡，x_ic＝3表示车辆x_i的类别为车牌污损，x_ic＝4表示车辆x_i的类别为正常车辆。在子步骤122中，如果车辆x_i被确定为小车，则忽略该车辆x_i，继续检测下一车辆x_i+1。

在一种实现中，子步骤122中可以利用基于深度学习的大小车辆检测识别模型来进行检测。具体地，训练该大小车辆检测识别模型的过程可以包括：获取不同交通路口下、不同时段摄像机抓拍的各种图像；采用矩形框标记图像中所有出现的机动车辆，并分别将车辆标记为大车或小车；使用带有标记的大车和小车的图像训练目标检测识别深度神经网络模型(例如YOLO(You Only Look Once)v3网络等)，以获得大小车辆检测识别模型。

如果在子步骤122确定车辆x_i是大车，则接下来在子步骤124(图中未示出)，对被确定为大车的车辆进行检测以确定该大车是货车还是非货车。在子步骤124中，如果车辆x_i被确定为非货车，则忽略该车辆x_i，将车辆x_i的类别设置为x_ic＝0，并继续检测下一车辆x_i+1。

在一种实现中，子步骤124中可以利用基于深度学习的货车识别模型来进行检测。具体地，训练该基于深度学习的货车识别模型的过程可以包括：利用上述大小车辆检测识别模型获得大车图像；对获得的大车图像进行人工标注分类，分为货车、非货车两类；使用带有标记的货车图像、非货车图像训练货车识别深度神经网络模型(例如残差网络ResNet((Residual Network)-18或其他残差网络)，以获得货车识别模型。

如果在子步骤124确定车辆x_i是货车，则接下来在子步骤126(图中未示出)对被确定为货车的车辆进行检测以确定该货车是黄牌车辆还是非黄牌车辆。在子步骤126中，如果车辆x_i被确定为非黄牌车辆，则忽略该车辆x_i，将车辆x_i的类别设置为x_ic＝0，并继续检测下一车辆x_i+1。此外，如果在子步骤126确定车辆x_i为无牌车，则可以将车辆x_i的类别设置为x_ic＝1。

在一种实现中，子步骤126中可以利用基于深度学习的黄色车牌识别模型来进行检测。具体地，训练该基于深度学习的黄色车牌识别模型的过程可以包括：利用上述货车识别模型获得货车图像；对获得的货车图像进行人工标注分类，分为黄牌货车、无牌货车、非黄牌货车三类；使用带有标记的黄牌货车、无牌货车、非黄牌货车的图像训练黄色车牌识别深度神经网络模型(例如残差网络ResNet-18模型等)以获得黄色车牌识别模型。

接下来，在步骤120中检测出原始图像中的黄牌货车之后，在步骤130，可以基于车牌目标检测模型检测该黄牌货车的至少一个候选车牌图像。这里，候选车牌图像是该黄牌货车上的、可能存在车牌的区域的图像。对于正常车牌来说，车牌目标检测模型可能仅仅检测出一个车牌，而对于可能存在车牌污损或遮挡的车辆来说，由于车牌不完整并且车身上可能存在其他与车牌颜色类似的区域(如黄色区域)，因此车牌目标检测模型将输出多个候选车牌区域，每个候选车牌区域对应于一个可能的车牌位置。

在一种实施例中，步骤130包括子步骤132，其中基于该车牌目标检测模型检测该黄牌货车的至少一个黄色区域。

这里，假设从黄牌货车x_i上检测到m个黄色区域(即候选车牌区域)，m为大于或等于1的整数。黄色区域p_ij表示黄牌货车x_i上检测出的第j个可能的车牌位置，j∈1，2，3，...，m，m表示所检测到的或者所选择的黄色区域的数量。为了避免车牌检测模型在仅输出一个车牌时输出误检车牌，这里通常将m设置得大于1，例如设置m＝5，即选择输出车牌置信度最高的前5个黄色区域。

由于在车牌遮挡或污损的情况下车牌检测模型输出的黄色区域可能会切割到部分车牌内容，为了获得包括污损部分或遮挡部分在内的完整车牌图像，步骤130还可以包括子步骤134，其中对该至少一个黄色区域进行扩张以获得与该至少一个黄色区域相对应的候选车牌图像。

例如，可以将子步骤132中检测出的每个黄色区域p_ij扩张为原来的h倍，以获得候选车牌图像p′_ij。例如，h可以设置为h＝2。

在一种实施例中，可以按照以下方式对每个黄色区域p_ij进行扩张：

如果p_ijx-p_ijw*(h-1)/2＜0，则p′_ijx＝0；

如果p_ijx-p_ijw*(h-1)/2≥0，则p′_ijx＝p_ijx-p_ijw*(h-1)/2；

如果p_ijy-p_ijy*(h-1)/2＜0，则p′_ijy＝0；

如果p_ijy-p_ijh*(h-1)/2≥0，则p′_ijy＝p_ijy-p_ijh*(h-1)/2；

如果p_ijw*h＜x_iw-p′_ijx-1，则p′_ijw＝p_ijx*h；

如果p_ijw*h≥x_iw-p′_ijx-1，则p′_ijw＝x_iw-p′_ijx-1；

如果p_ijh*h＜x_ih-p′_ijy-1，则p′_ijh＝p_ijh*h；

如果p_ijh*h≥x_ih-p′_ijy-1，则p′_ijh＝x_ih-p′_ijy-1，

其中p_ij表示一个黄色区域，

p′_ij表示对黄色区域p_ij进行扩张得到的候选车牌图像，

p_ijx表示黄色区域p_ij的左上角的横坐标，

p′_ijx表示候选车牌图像p′_ij的左上角的横坐标，

p_ijy表示黄色区域p_ij的左上角的纵坐标，

p′_ijy表示候选车牌图像p′_ij的左上角的纵坐标，

p_ijw表示黄色区域p_ij的宽度，

p′_ijw表示候选车牌图像p′_ij的宽度，

p_ijh表示黄色区域p_ij的高度，

p′_ijh表示候选车牌图像p′_ij的高度，

x_iw表示所述黄牌货车x_i的宽度，

x_ih表示所述黄牌货车x_i的高度。

在一种实现中，子步骤134中可以利用基于深度学习的车牌目标检测模型来进行检测。具体地，训练该基于深度学习的车牌目标检测模型的过程可以包括：获取不同交通路口下、不同时段摄像机抓拍图像中的黄牌货车图像；对获得的黄牌货车图像采用矩形框标记黄牌货车车牌所在位置，并标记为车牌；使用上述的已标记图像训练车牌目标检测深度神经网路模型(如本领域公知的一些检测模型，如SSD(Single Shot MultiBox Detector)检测模型、YOLO(You Only Look Once)检测模型和RefineDet检测模型等中的任一种)，以获得车牌目标检测模型。检测模型是本领域公知的一些检测模型，在此不再赘述。

在获得了候选车牌图像p′_ij之后，接下来，在步骤140，对每个候选车牌图像p′_ij进行至少两次随机裁剪，以得到该候选车牌图像p′_ij的至少两个裁剪样本。

在一些实施例中，步骤140还可以包括子步骤142(图中未示出)，其中确定针对候选车牌图像p′_ij的k次随机裁剪的裁剪比例r_z的集合(1.0，rand₁，rand₂，...，rand_k-1)，其中rand_z∈(0.5，1)，z＝1，2，…，k-1，k为大于或等于2的整数。

接下来，在子步骤144(图中未示出)，以裁剪比例rand_z依次对该候选车牌图像p′_ij进行裁剪以得到该至少两个裁剪样本p′_ijz。其中，z＝1，2，……，k，k表示对候选车牌图像p′_ij进行裁剪的次数。

在一种实施例中，可以按照以下方式对候选车牌图像p′_ij进行裁剪以得到至少两个裁剪样本p′_ijz：

r_f＝r_z*h-1，

如果(h-1.0)/2＞(rand_t)*r_f，则r_t＝(rand_t)*r_f，

如果(h-1.0)/2≤(rand_t)*r_f，则r_t＝(h-1.0)/2，

r_b＝r_f-r_t，

如果(h-1.0)/2＞(rand_l)*r_f，则r_l＝(rand_l)*r_f，

如果(h-1.0)/2≤(rand_l)*r_f，则r_l＝(h-1.0)/2，

r_r＝r_f-r_l，

p′_ijzx＝((h-1)/2-r_l)*p_ijw，

p′_ijzy＝((h-1)/2-r_t)*p_ijh，

p′_ijzw＝p′_ijw-((h-1)/2-r_r)*p_ijw-p′_ijzx，

p′_ijzh＝p′_ijh-((h-1)/2-r_b)*p_ijh-p′_ijzy，

其中，

z＝1，2，……，k，k表示对候选车牌图像p′_ij进行裁剪的次数，

p′_ijzx表示裁剪样本p′_ijz左上角的横坐标，

p′_ijzv表示裁剪样本p′_ijz左上角的纵坐标，

p′_ijzw表示裁剪样本p′_ijz的宽度，

p′_ijzh表示裁剪样本p′_ijz的高度，

rand_t和rand_l为随机数且在(0，1)之间。

通过这种方式，可以对每个候选车牌图像p′_ij进行k次裁剪，从而得到k个裁剪样本p′_ijz。这里，k是大于或等于2的整数。优选地，k可以是[2，5]范围内的任意整数。更优选地，k＝3。

在将候选车牌图像p′_ij进行裁剪之后，在步骤150，可以将该候选车牌图像p′_ij的该至少两个裁剪样本p′_ijz输入车牌识别模型以确定该候选车牌图像的完整性。

在一种实施例中，步骤150可以包括子步骤152，其中将该至少两个裁剪样本p′_ijz输入该车牌识别模型以获得每个裁剪样本p′_ijz的输出特征f_ijz；

在子步骤154，将该k个裁剪样本p′_ijz的输出特征f_ijz求平均以获得该k个裁剪样本p′_ijz的特征均值

接下来，在子步骤156，将该k个裁剪样本p′_ijz的特征均值f_ijm进行分类以确定该候选车牌图像p′_ij中的车牌的完整性类别。

具体地，子步骤156还可以包括：通过该车牌识别模型的softmax层将该候选车牌图像p′_ij中的车牌的完整性类别表示为车牌污损、车牌遮挡、非车牌和正常车牌中的一种。

如果候选车牌图像p′_ij被识别为非车牌，则继续对下一候选车牌图像p′_i(i+1)执行步骤150，直至识别到类别为车牌污损、车牌遮挡和正常车牌中的一种。如果车辆x_i中的所有候选车牌图像p′_ij都被识别为非车牌，则将该车辆x_i识别为无牌车辆，x_ic＝1。另一方面，如果候选车牌图像p′_ij中的车牌的完整性类别被表示为车牌污损，则令x_ic＝3；如果候选车牌图像p′_ij中的车牌的完整性类别被表示为车牌遮挡，则令x_ic＝2。如果候选车牌图像p′_ij中的车牌的完整性类别被表示为正常车牌，则令x_ic＝4。

此外，在子步骤156中确定该候选车牌图像p′_ij中的车牌的完整性类别的同时，还可以为该候选车牌图像p′_ij的完整性类别产生类别置信度以指示该完整性类别的确定的准确性。

在交通违法行为检查或者复核时，有时候需要对包含多个车辆的原始图像的整体违法行为进行判断，并给出整个原始图像的违法状态。针对这种情况，在对原始图像中的所有车辆执行了上述操作之后，方法100还可以包括：

确定该原始图像中的所有黄牌货车x_i的完整性类别x_ic和相应的类别置信度y_ic。

确定该原始图像中是否存在完整性类别x_ic为车牌污损(x_ic＝3)或车牌遮挡(x_ic＝2)的黄牌货车。

如果该原始图像中仅存在完整性类别x_ic为车牌污损(x_ic＝3)或车牌遮挡(x_ic＝2)的黄牌货车，确定该原始图像的违法状态是违法，并且相应地确定该原始图像的违法类型为车牌污损(x_ic＝3)或车牌遮挡(x_ic＝2)。

如果该原始图像中存在完整性类别x_ic为车牌污损(x_ic＝3)的黄牌货车和车牌遮挡(x_ic＝2)的黄牌货车，确定该原始图像的违法状态是违法，并且比较该车牌污损(x_ic＝3)和车牌遮挡(x_ic＝2)的黄牌货车的类别置信度，确定该原始图像的违法类型为具有类别置信度y_ic较大的黄牌货车的完整性类别。例如，如果判断车辆x_i中是否存在x_ic＝3和x_ic＝2状态，如果存在，则图像X的违法状态为违法，并且如果类别置信度y_i3大于y_i2时，违法类别为“车牌污损”，反之违法类别为“车牌遮挡”。

如果该原始图像中不存在完整性类别x_ic为车牌污损(x_ic＝3)和车牌遮挡(x_ic＝2)的黄牌货车，确定该原始图像的违法状态是未违法。此外，在这种情况下，还可以选择类别置信度最大的黄牌货车的完整性类别作为未违法的原因。

在一种实现中，子步骤152可以使用基于深度学习的污损车牌识别模型来执行。具体地，训练该基于深度学习的污损车牌识别模型的过程可以包括：利用车牌目标检测模型获得车牌图像；对获得的图像进行人工标注为污损车牌、遮挡车牌、非车牌、正常车牌四类；使用上述标记的车牌图像训练污损车牌识别深度神经网络模型(如残差网络ResNet-50等)以得到污损车牌识别模型。

图2示出了可以用来实施本发明的实施例的示例设备200的示意性框图。设备200例如可以是交警中心或道路安监系统的计算机等。如图所示，设备200可以包括一个或多个中央处理单元(CPU)210(图中仅示意性地示出了一个)，其可以根据存储在只读存储器(ROM)220中的计算机程序指令或者从存储单元280加载到随机访问存储器(RAM)230中的计算机程序指令，来执行各种适当的动作和处理。在RAM 230中，还可存储设备200操作所需的各种程序和数据。CPU 210、ROM 220以及RAM 230通过总线240彼此相连。输入/输出(I/O)接口250也连接至总线240。

设备200中的多个部件连接至I/O接口250，包括：输入单元260，例如键盘、鼠标等；输出单元270，例如各种类型的显示器、扬声器等；存储单元280，例如磁盘、光盘等；以及通信单元290，例如网卡、调制解调器、无线通信收发机等。通信单元290允许设备200通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

上文所描述的方法100例如可由一个设备200或多个设备200的处理单元210执行。例如，在一些实施例中，方法100可被实现为计算机软件程序，其被有形地包括于机器可读介质，例如存储单元280。在一些实施例中，计算机程序的部分或者全部可以经由ROM 220和/或通信单元290而被载入和/或安装到设备200上。当计算机程序被加载到RAM 230并由CPU210执行时，可以执行上文描述的方法100的一个或多个操作。此外，通信单元290可以支持有线或无线通信功能。

以上结合附图对根据本发明的用于检测车牌完整性的方法100和设备200进行了描述。然而本领域技术人员可以理解，方法100的步骤的执行并不局限于图中所示和以上所述的顺序，而是可以以任何其他合理的顺序来执行。此外，设备200也不必须包括图2中所示的所有组件，其可以仅仅包括执行本发明中所述的功能所必须的其中一些组件，并且这些组件的连接方式也不局限于图中所示的形式。

利用本发明的方案，通过利用深度学习目标检测和目标分类模型，能够准确的从复杂环境中选择出黄牌货车，可以应用于交通摄像头抓拍图像中黄牌货车车牌是否污损的违法审核，并且能够过滤掉图片中远处模糊黄牌货车车辆以及近处不完整的黄牌货车车辆，进而准确定位到有效黄牌货车，最终审核出当前图片是否有违法车辆，并给出违法原因以及未违法原因，同时审核过程的全程自动检测识别，既节约了人力，又保证了审核工作的公开、公正。

本发明可以是方法、装置、系统和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于执行本发明的各个方面的计算机可读程序指令。

计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身，诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如，通过光纤电缆的光脉冲)、或者通过电线传输的电信号。

这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备，或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令，并转发该计算机可读程序指令，以供存储在各个计算/处理设备中的计算机可读存储介质中。

用于执行本发明操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码，所述编程语言包括面向对象的编程语言-诸如Smalltalk、C++等，以及常规的过程式编程语言-诸如"C"语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络-包括局域网(LAN)或广域网(WAN)-连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中，通过利用计算机可读程序指令的状态信息来个性化定制电子电路，例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA)，该电子电路可以执行计算机可读程序指令，从而实现本发明的各个方面。

这里参照根据本发明实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本发明的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。

这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理单元，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理单元执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作，从而，存储有指令的计算机可读介质则包括一个制造品，其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。

也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上，使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。

附图中的流程图和框图显示了根据本发明的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分，所述模块、程序段或指令的一部分包括一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

以上已经描述了本发明的各实施例，上述说明是示例性的，并非穷尽性的，并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择，旨在最好地解释各实施例的原理、实际应用或对市场中的技术的技术改进，或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。

Claims (11)

1.一种用于检测车牌完整性的方法，其特征在于，包括：

获取包括至少一个车辆的原始图像；

从所述原始图像中检测黄牌货车；

基于车牌目标检测模型检测所述黄牌货车的至少一个候选车牌图像；

对每个候选车牌图像进行至少两次随机裁剪，以得到所述候选车牌图像的至少两个裁剪样本；以及

将所述候选车牌图像的所述至少两个裁剪样本输入车牌识别模型以确定所述候选车牌图像的完整性。

2.如权利要求1所述的方法，其特征在于，从所述原始图像中检测黄牌货车包括：：

对所述原始图像进行检测以确定所述至少一个车辆是大车还是小车；

对被确定为大车的车辆进行检测以确定所述大车是货车还是非货车；以及

对被确定为货车的车辆进行检测以确定所述货车是黄牌车辆还是非黄牌车辆；

如果确定所述货车是黄牌车辆，则将所述黄牌车辆确定为所述黄牌货车；以及

将所述至少一个车辆中被确定为小车、非货车和非黄牌车辆的车辆标记为非目标车辆。

3.如权利要求1所述的方法，其特征在于，基于车牌目标检测模型检测所述黄牌货车的至少一个候选车牌图像包括：

基于所述车牌目标检测模型检测所述黄牌货车的至少一个黄色区域；以及

对所述至少一个黄色区域进行扩张以获得与所述至少一个黄色区域相对应的候选车牌图像。

4.如权利要求3所述的方法，其特征在于，对所述至少一个黄色区域进行扩张以获得与所述至少一个黄色区域相对应的候选车牌图像包括：

按照以下方式对每个黄色区域进行扩张：

如果p_ijx-p_ijw*(h-1)/2＜0，则p′_ijx＝0；

如果p_ijx-p_ijw*(h-1)/2≥0，则p′_ijx＝p_ijx-p_ijw*(h-1)/2；

如果p_ijy-p_ijy*(h-1)/2＜0，则p′_ijy＝0；

如果p_ijy-p_ijh*(h-1)/2≥0，则p′_ijy＝p_ijy-p_ijh*(h-1)/2；

如果p_ijw*h＜x_iw-p′_ijx-1，则p′_ijw＝p_ijx*h；

如果p_ijw*h≥x_iw-p′_ijx-1，则p′_ijw＝x_iw-p′_ijx-1；

如果p_ijh*h＜x_ih-p′_ijy-1，则p′_ijh＝p_ijh*h；

如果p_ijh*h≥x_ih-p′_ijy-1，则p′_ijh＝x_ih-p′_ijy-1，

其中，

p_ij表示一个黄色区域，

p′_ij表示对黄色区域p_ij进行扩张得到的候选车牌图像，

h表示扩张的倍数，

p_ijx表示黄色区域p_ij的左上角的横坐标，

p′_ijx表示候选车牌图像p′_ij的左上角的横坐标，

p_ijy表示黄色区域p_ij的左上角的纵坐标，

p′_ijy表示候选车牌图像p′_ij的左上角的纵坐标，

p_ijw表示黄色区域p_ij的宽度，

p′_ijw表示候选车牌图像p′_ij的宽度，

p_ijh表示黄色区域p_ij的高度，

p′_ijh表示候选车牌图像p′_ij的高度，

x_iw表示所述黄牌货车x_i的宽度，

x_ih表示所述黄牌货车x_i的高度。

5.如权利要求1所述的方法，其特征在于，对每个候选车牌图像进行至少两次随机裁剪，以得到所述候选车牌图像的至少两个裁剪样本包括：

确定针对候选车牌图像p′_ij的k次随机裁剪的裁剪比例的集合(1.0，rand₁，rand₂，...，rand_k-1)，其中rand_z∈(0.5，1)，z＝1，2，…，k-1，k为大于或等于2的整数；以及

以裁剪比例rand_z依次对所述候选车牌图像p′_ij进行裁剪以得到所述至少两个裁剪样本p′_ijz。

6.如权利要求5所述的方法，其特征在于，以裁剪比例rand_z依次对所述候选车牌图像p′_ij进行裁剪以得到所述至少两个裁剪样本p′_ijz包括：

按照以下方式对所述候选车牌图像p′_ij进行裁剪以得到所述至少两个裁剪样本p′_ijz：

r_f＝r_z*h-1，

如果(h-1.0)/2＞(rand_t)*r_f，则r_t＝(rand_t)*r_f，

如果(h-1.0)/2≤(rand_t)*r_f，则t_r＝(h-1.0)/2，

r_b＝r_f-r_t，

如果(h-1.0)/2＞(rand_l)*r_f，则r_l＝(rand_l)*r_f，

如果(h-1.0)/2≤(rand_l)*r_f，则r_l＝(h-1.0)/2，

r_r＝r_f-r_l，

p′_ijzx＝((h-1)/2-r_l)*p_ijw，

p′_ijzy＝((h-1)/2-r_t)*p_ijh，

p′_ijzw＝p′_ijw-((h-1)/2-r_r)*p_ijw-p′_ijzx，

p′_ijzh＝p′_ijh-((h-1)/2-r_b)*p_ijh-p′_ijzy，

其中，

z＝1,2,……,k，k表示对候选车牌图像p′_ij进行裁剪的次数，k是大于或等于2的整数，

p′_ijzx表示裁剪样本p′_ijz左上角的横坐标，

p′_ijzv表示裁剪样本p′_ijz左上角的纵坐标，

p′_ijzw表示裁剪样本p′_ijz的宽度，

p′_ijzh表示裁剪样本p′_ijz的高度，

rand_t和rand_l为随机数且在(0,1)之间。

7.如权利要求1所述的方法，其特征在于，将所述候选车牌图像的所述至少两个裁剪样本输入车牌识别模型以确定所述候选车牌图像的完整性包括：

将所述至少两个裁剪样本输入所述车牌识别模型以获得每个裁剪样本的输出特征；

将所述至少两个裁剪样本的输出特征求平均以获得所述至少两个裁剪样本的特征均值；以及

将所述至少两个裁剪样本的特征均值进行分类以确定所述候选车牌图像中的车牌的完整性类别。

8.如权利要求7所述的方法，其特征在于，将所述至少两个裁剪样本的特征均值进行分类以确定所述候选车牌图像中的车牌的完整性类别包括：

通过所述车牌识别模型的softmax层将所述候选车牌图像中的车牌的完整性类别确定为车牌污损、车牌遮挡、非车牌和正常车牌中的一种。

9.如权利要求8所述的方法，其特征在于，所述方法还包括：

确定所述原始图像中的所有黄牌货车的完整性类别和相应的类别置信度；

确定所述原始图像中是否存在完整性类别为车牌污损或车牌遮挡的黄牌货车；

如果所述原始图像中仅存在完整性类别为车牌污损或车牌遮挡的黄牌货车中的一种，确定所述原始图像的违法状态是违法，并且确定所述原始图像的违法类型为车牌污损或车牌遮挡；

如果所述原始图像中存在完整性类别为车牌污损的黄牌货车和车牌遮挡的黄牌货车，确定所述原始图像的违法状态是违法，并且比较所述车牌污损的黄牌货车和车牌遮挡的黄牌货车的类别置信度，确定所述原始图像的违法类型为具有类别置信度较大的黄牌货车的完整性类别；以及

如果所述原始图像中不存在完整性类别为车牌污损和车牌遮挡的黄牌货车，确定所述原始图像的违法状态是未违法。

10.一种用于检测车牌完整性的设备，包括：

存储器，其上存储有计算机程序代码；以及

处理器，其被配置为运行所述计算机程序代码，以执行如权利要求1至9中任一项所述的方法。

11.一种计算机可读存储介质，其上存储有计算机程序代码，所述计算机程序代码在被运行时执行如权利要求1至9中任一项所述的方法。

Images