CN114998883A - 车牌识别方法、装置、电子设备、智能交通设备 - Google Patents

车牌识别方法、装置、电子设备、智能交通设备 Download PDF

Info

Publication number
CN114998883A
CN114998883A CN202210602925.8A CN202210602925A CN114998883A CN 114998883 A CN114998883 A CN 114998883A CN 202210602925 A CN202210602925 A CN 202210602925A CN 114998883 A CN114998883 A CN 114998883A
Authority
CN
China
Prior art keywords
feature
license plate
fusion
block
regional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210602925.8A
Other languages
English (en)
Other versions
CN114998883B (zh
Inventor
杨书杰
董子超
王烁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apollo Intelligent Connectivity Beijing Technology Co Ltd
Original Assignee
Apollo Intelligent Connectivity Beijing Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Apollo Intelligent Connectivity Beijing Technology Co Ltd filed Critical Apollo Intelligent Connectivity Beijing Technology Co Ltd
Priority to CN202210602925.8A priority Critical patent/CN114998883B/zh
Publication of CN114998883A publication Critical patent/CN114998883A/zh
Application granted granted Critical
Publication of CN114998883B publication Critical patent/CN114998883B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/62Text, e.g. of license plates, overlay texts or captions on TV images
    • G06V20/625License plates
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Character Discrimination (AREA)
  • Image Analysis (AREA)

Abstract

本公开提供了车牌识别方法、装置、电子设备、智能交通设备,涉及人工智能技术领域,尤其涉及自动驾驶、智能交通、计算机视觉等领域。具体实现方案为:获取目标图像的第一特征图;将第一特征图分割成与多个车牌字符一一对应的多个区域特征块;将每个区域特征块与相邻的区域特征块进行特征提取及融合得到每个区域特征块对应的第二特征图;基于每个区域特征块对应的第二特征图进行分类得到每个车牌字符的识别结果。从而实现一种端到端的车牌识别方法,提升车牌识别精度,并且降低模型时延。

Description

车牌识别方法、装置、电子设备、智能交通设备
技术领域
本公开涉及人工智能技术领域,尤其涉及自动驾驶、智能交通、计算机视觉等领域。
背景技术
车牌识别技术是智能交通系统中重要组成部分之一,目前已被广泛运用于众多交通场景中,例如高速公路收费系统、电子警察抓拍、停车场收费系统等等。由于图像分辨率、相机视角、天气、光照、模糊等诸多因素,提供一种高精度且低时延的车牌识别方法是十分具有挑战性的。
发明内容
本公开提供了一种用于车牌识别的方法、装置、设备、存储介质以及智能交通设备。
根据本公开的第一方面,提供了一种车牌识别方法,包括:
获取目标图像的第一特征图;
将所述第一特征图分割成与多个车牌字符一一对应的多个区域特征块;
将每个所述区域特征块与相邻的所述区域特征块进行特征提取及融合得到每个所述区域特征块对应的第二特征图;
基于每个所述区域特征块对应的所述第二特征图进行分类得到每个所述车牌字符的识别结果。
可选的,所述获取目标图像的第一特征图包括:
获取所述目标图像;
对所述目标图像进行浅层特征提取得到所述第一特征图。
可选的,所述将所述第一特征图分割成与多个车牌字符一一对应的多个区域特征块包括:
将所述第一特征图等分成多个尺寸相同的所述区域特征块。
可选的,所述将每个所述区域特征块与相邻的所述区域特征块进行特征提取及融合得到每个所述区域特征块对应的第二特征图包括:
对每个所述区域特征块进行归一化处理;
对归一化处理后的所述区域特征块进行卷积特征提取得到每个所述区域特征块对应的邻域特征;
将每个所述区域特征块与相邻的所述区域特征块对应的所述邻域特征进行特征融合得到每个所述区域特征块对应的融合信息;
对每个所述区域特征块对应的所述融合信息进行归一化处理;
对归一化处理后的所述融合信息进行卷积特征提取,并通过激活函数得到每个所述区域特征块对应的单个字符特征;
将每个所述区域特征块对应的所述融合信息与对应的所述单个字符特征进行特征融合得到对应的所述第二特征图。
可选的,所述基于每个所述区域特征块对应的所述第二特征图进行分类得到每个所述车牌字符的识别结果包括:
将每个所述区域特征块对应的所述第二特征图进行降维处理转换为一维向量;
对每个所述区域特征块对应的所述一维向量进行分类得到每个所述车牌字符的识别结果。
根据本公开的第二方面,提供了一种车牌识别装置,包括:
图像获取模块,被配置为获取目标图像的第一特征图;
特征分割模块,被配置为将所述第一特征图分割成与多个车牌字符一一对应的多个区域特征块;
特征提取及融合模块,被配置为将每个所述区域特征块与相邻的所述区域特征块进行特征提取及融合得到每个所述区域特征块对应的第二特征图;
分类模块,被配置为基于每个所述区域特征块对应的所述第二特征图进行分类得到每个所述车牌字符的识别结果。
可选的,所述图像获取模块包括:
获取单元,被配置为获取所述目标图像;
浅层特征提取单元,被配置为对所述目标图像进行浅层特征提取得到所述第一特征图。
可选的,所述特征分割模块将所述第一特征图分割成与多个车牌字符一一对应的多个区域特征块包括:
将所述第一特征图等分成多个尺寸相同的所述区域特征块。
可选的,所述特征提取及融合模块包括:
第一归一化单元,被配置为对每个所述区域特征块进行归一化处理;
第一特征提取单元,被配置为对归一化处理后的所述区域特征块进行卷积特征提取得到每个所述区域特征块对应的邻域特征;
第一融合单元,被配置为将每个所述区域特征块与相邻的所述区域特征块对应的所述邻域特征进行特征融合得到每个所述区域特征块对应的融合信息;
第二归一化单元,被配置为对每个所述区域特征块对应的所述融合信息进行归一化处理;
第二特征提取单元,被配置为对归一化处理后的所述融合信息进行卷积特征提取,并通过激活函数得到每个所述区域特征块对应的单个字符特征;
第二融合单元,被配置为将每个所述区域特征块对应的所述融合信息与对应的所述单个字符特征进行特征融合得到对应的所述第二特征图。
可选的,所述分类模块基于每个所述区域特征块对应的所述第二特征图进行分类得到每个所述车牌字符的识别结果包括:
将每个所述区域特征块对应的所述第二特征图进行降维处理转换为一维向量;
基于每个所述区域特征块对应的所述一维向量进行分类得到每个所述车牌字符的识别结果。
根据本公开的第三方面,提供了一种智能交通设备,包括:
上述技术方案中任一项所述的车牌识别装置;
至少一个图像采集装置,与所述车牌识别装置通信连接,被配置为采集目标图像并向所述车牌识别装置提供;以及
执行装置,被配置为根据所述车牌识别装置输出的识别结果执行任务。
根据本公开的第四方面,提供了一种电子设备,该电子设备包括:
至少一个处理器;以及
与上述至少一个处理器通信连接的存储器;其中,
存储器存储有可被上述至少一个处理器执行的指令,指令被上述至少一个处理器执行,以使上述至少一个处理器能够执行上述车牌识别方法。
根据本公开的第五方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,该计算机指令用于使计算机执行上述车牌识别方法。
根据本公开的第六方面,提供了一种计算机程序产品,包括计算机程序,该计算机程序在被处理器执行时实现上述车牌识别方法。
本公开提供一种车牌识别方法、装置、设备、存储介质以及智能交通设备,提升了车牌识别精度,并且降低了模型时延。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开第一实施例的车牌识别方法的步骤示意图;
图2是根据本公开第一实施例的车牌识别方法的流程原理图;
图3是根据本公开第一实施例的第一特征图的分割原理图;
图4是根据本公开第一实施例的端到端车牌识别方法的原理图;
图5是现有技术中的分割式车牌识别方法的原理图;
图6是根据本公开第一实施例的对区域特征块进行特征提取及融合的步骤示意图;
图7是根据本公开第一实施例的特征提取及融合的流程原理图;
图8是根据本公开第二实施例的车牌识别装置的原理框图;
图9是根据本公开第二实施例的特征提取及融合模块的原理框图;
图10是根据本公开第三实施例的智能交通设备的原理框图;
图11是用来实现本公开实施例的车牌识别方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
本公开第一实施例提供了一种车牌识别方法,如图1所示,包括:
步骤S101,获取目标图像的第一特征图;
步骤S102,将第一特征图分割成与多个车牌字符一一对应的多个区域特征块;
步骤S103,将每个区域特征块与相邻的区域特征块进行特征提取及融合得到每个区域特征块对应的第二特征图;
步骤S104,基于每个区域特征块对应的第二特征图进行分类得到每个车牌字符的识别结果。
具体地,如图2所示,步骤S101首先获取目标图像的第一特征图,目标图像包含车牌,第一特征图是对目标图像进行特征提取得到的基础视觉特征,即浅层特征。目前国内外很多车牌的字符间距基本相等,例如国内绝大部分汽车牌照具有统一的标准尺寸,车牌一共包括7个或8个字符,其中,每个字符的宽度为45mm,高度为90mm,间隔符的宽度为10mm,除了第二个和第三个字符之间的间距为34mm外,其它字符之间的间隔宽度均为12mm。基于车牌字符间距基本相等的特点,本公开在步骤S102中,可以直接对目标图像提取的浅层特征进行等分,例如,如图3所示,目标图像中包括8个字符,通过特征分割操作可以直接将第一特征图分割成8个宽度相等的区域特征块(以下简称patch),使得每个patch对应一个字符。
进一步地,由于字符之间的间距可能不是完全相等的,例如上面提到国内车牌第二个字符和第三个字符的间距要比其他字符之间的间距更大,上述步骤S102中分割patch,可能会出现分割不准确的问题,即有些patch所包含的字符是不完整的,如果直接对这些不完整的patch进行识别会导致字符识别错误。因此,在步骤S103中,我们将每个patch与相邻patch进行特征提取及融合,对于车牌字符识别任务来说,识别出一个字符仅仅需要这个字符及该字符周围字符区域的邻域信息,提取周围区域的邻域信息可以增加容错率,即使步骤S102中patch分割不准确,但是也可以通过对相邻patch的访问,来帮助模型识别,提升模型识别的准确率,相对于使用循环神经网络的现有技术,本公开利用先验知识粗略分块提取浅层特征、再对浅层特征进行相邻信息融合,从而利用相邻块提升了对车牌中每个字符块的容错率。本公开的神经网络不需要很深的网络和大量的参数,就可以提取到与车牌字符对应关系较强的特征,因此算法的总耗时大大减少。同时,本公开提供的车牌识别方法是一种端到端的识别方法,如图4所示,即输入模型的是图像,输出的是识别结果,相比传统的车牌识别方法,需要先进行字符分割再进行识别方法(图5所示),本公开的模型的复杂度更低,且时延更低。
在步骤S103对每个patch进行邻域信息融合及特征提取后,得到每个patch对应的第二特征图,此时,每个第二特征图融合了周围区域的信息,因此每个第二特征图包含的字符特征是完整的。步骤S104最后对每个patch对应的第二特征图进行分类得到每个patch对应的车牌字符,再汇总识别结果得到所有的车牌字符。
需要说明的是,本公开的上述技术方案不限于对国内车牌进行识别处理,也可以对其他国家或地区的车牌进行处理,本公开的车牌识别方法适用于识别所有字符间距相等或基本相等的车牌,其核心在于基于车牌的字符间距基本相等(并不要求车牌的字符间距完全相等)对车牌图像提取的浅层特征进行分割,将其分割成多个尺寸相同的patch,patch的数量与车牌字符的数量相同,使用简单的分割方式就能使patch与车牌字符之间形成一种较强的对应关系。即使出现了patch分割不准确的情况,也可以在对每个patch进行识别之前融合其周围区域的特征,即融合相邻patch的特征,使得每个patch能够包含其对应字符的完整特征,例如,假设第一个patch对应的字符为“W”,在patch分割时,可能因为patch分割不准确,“W”的一部分边缘特征被分割到相邻的下一个patch中,即第二个patch中,这就可能导致对第一个patch的识别不准确,因此,需要把第二个patch与第一个patch相邻的边缘特征融合到第一个patch中,使得第一个patch包含的字符“W”的特征是完整的。
作为可选的实施方式,在步骤S101中,获取目标图像的第一特征图包括:获取目标图像;对目标图像进行浅层特征提取得到第一特征图。
作为可选的实施方式,神经网络模型利用卷积层对目标图像进行浅层特征提取得到基础视觉特征(该步骤在本领域被称为convolutional stem),convolutional stem是计算机视觉任务中涉及到分patch操作的方法,例如MLP(Multilayer Perceptron,多层感知机)方法,transformer方法当中常用的一个步骤,可以有效提高模型的鲁棒性,收敛更快,精度更高。
作为可选的实施方式,如图6所示,步骤S103将每个区域特征块与相邻的区域特征块进行特征提取及融合得到每个区域特征块对应的第二特征图具体包括:
步骤S601,对每个区域特征块进行归一化处理;
步骤S602,对归一化处理后的区域特征块进行卷积特征提取得到每个区域特征块对应的邻域特征;
步骤S603,将每个区域特征块与相邻的区域特征块对应的邻域特征进行特征融合得到每个区域特征块对应的融合信息;
步骤S604,对每个区域特征块对应的融合信息进行归一化处理;
步骤S605,对归一化处理后的融合信息进行卷积特征提取,并通过激活函数得到每个区域特征块对应的单个字符特征;
步骤S606,将每个区域特征块对应的融合信息与对应的单个字符特征进行特征融合得到对应的第二特征图。
具体地,如图7所示,神经网络模型利用一维卷积层对输入的每个patch进行特征提取及融合。一维卷积层的作用主要包括融合patch在宽度上的邻近像素的特征,因为对于车牌字符识别任务来说,识别出一个字符仅仅需要这个字符的特征和其周围字符区域的信息,一维卷积层可以很好地满足这个需求。前面提到过传统的方法会因为分割不准导致识别错误,因此需要提取每个patch周围区域的信息,这样可以增加容错率,即使出现patch分割不准的情况,也可以通过一维卷积层实现对相邻patch的访问,获取patch周围的邻域信息来帮助模型识别每个patch对应的字符。并且,一维卷积层的计算量小,也更契合字符识别任务。而传统的transformer中使用attention(注意力)机制执行字符识别任务,需要全局信息进行交互,计算量非常大,同时也会囊括一些冗余的信息,导致模型收敛会更困难。
本实施例中对每个patch的特征与相邻patch的特征进行提取及融合可以通过下列公式表达:
F(X)=X+conv1d(layerNorm(X))
其中,X表示输入的第一特征图;conv1d表示一维卷积层;layerNorm表示归一化处理;
进一步地,对每个区域特征块对应的融合信息进行卷积特征提取及融合可以通过下列公式表达:
G(Y)=Y+GELU(FC(layerNorm(Y)))
其中,Y=F(X),F(X)表示第一次特征提取及融合得到的融合信息;即对第一次特征提取及融合后输出的结果F(X)进行第二次特征提取及融合。其中,GELU表示激活函数,
Figure BDA0003670363490000081
erf表示误差函数;FC表示全连接层,第二次特征提取采用全连接层进行卷积特征提取,FC的卷积提取过程可以通过下列公式表达:
WhereFC(X)=max(0,XW1+b1)W2+b2
其中,W1和W2表示全连接层的权重;b1和b2表示全连接层的偏置。
示例性地,如图7所示,每个patch对应的第一特征图X输入特征提取及融合模块,通过第一归一化层701进行归一化处理及一维卷积层702处理得到融合信息F(X),接下来以F(X)为输入,利用第二归一化层703对F(X)进行归一化处理,全连接层704进行卷积特征提取及融合,经激活函数705后输出G(Y)。本实施例中提出了使用一维卷积层来对空间信息进行融合,相比使用自注意力模块进行全局的特征融合,一维卷积层更适用于字符识别任务,且计算量较小。对于单个字符的识别,仅需要考虑与它相邻区域的信息,即邻域信息,而并非整个输入图像的信息。而一维卷积层能够很好的提取每个patch的邻域信息,在减少时延的同时去除了一些冗余的全局信息,让模型能够更快收敛,并达到更高精度。需要说明的是,使用一维卷积层进行特征提取及融合仅为一种较优的实施方式,也可以使用自注意模块进行处理,相对一维卷积层来说,自注意模块的计算量更大一些,并且会囊括一些冗余的信息,因此模型收敛较慢。
本实施例中神经网络模型通过两次特征提取及融合得到每个patch对应的第二特征图,在确保模型精度的前提下,尽可能减少时延。但需要说明的是,特征提取及融合的次数不限于两次,次数可以根据实际需要调整,特征提取融合的次数越多,模型的能力越强,精度通常会更高,但是时延相应地也会增大。
作为可选的实施方式,在步骤S104中,基于每个区域特征块对应的第二特征图进行分类得到每个车牌字符的识别结果包括:
将每个区域特征块对应的第二特征图进行降维处理转换为一维向量;
对每个区域特征块对应的一维向量进行分类得到每个车牌字符的识别结果。
本实施例中将第二特征图转换为一维向量有助于减少计算量,从而缩短神经网络模型的时延。另外,本公开的车牌识别方法中,通过步骤S102对车牌的浅层特征划分patch的方式,能有效地对齐特征与字符,使每个patch对应一个字符,从而可以仅使用全连接层对patch的第二特征图直接进行分类。相比于现在流行的基于深度学习的车牌识别方法,车牌特征没有与单个车牌字符一一对应,所以需要解码操作,其通常采用RNN(RecurrentNeural Networks,循环神经网络)+CTC(Connectionist Temporal Classification)进行解码,其中,CTC主要解决一个问题:输入序列和输出序列对应的问题,比如字符数量、大小不同,输出不能和每个字符很好的一一对应。本公开无需现有技术中耗时较大的解码操作,所需的神经网络结构更简单,并可以提升识别的效率,降低时延。
本公开第二实施例提供了一种车牌识别装置,如图8所示,包括:
图像获取模块801,被配置为获取目标图像的第一特征图;
特征分割模块802,被配置为将第一特征图分割成与多个车牌字符一一对应的多个区域特征块;
特征提取及融合模块803,被配置为将每个区域特征块与相邻的区域特征块进行特征提取及融合得到每个区域特征块对应的第二特征图;
分类模块804,被配置为基于每个区域特征块对应的第二特征图进行分类得到每个车牌字符的识别结果。
具体地,如图2所示,首先利用图像获取模块801获取目标图像的第一特征图,目标图像包含车牌,第一特征图是对目标图像进行特征提取得到的基础视觉特征,即浅层特征。目前国内外很多车牌的字符间距基本相等,例如国内绝大部分汽车牌照具有统一的标准尺寸,车牌一共包括7个或8个字符,其中,每个字符的宽度为45mm,高度为90mm,间隔符的宽度为10mm,除了第二个和第三个字符之间的间距为34mm外,其它字符之间的间隔宽度均为12mm。基于车牌字符间距基本相等的特点,可以利用特征分割模块802直接对目标图像提取的浅层特征进行等分,例如,如图3所示,目标图像中包括8个字符,通过特征分割操作可以直接将第一特征图分割成8个宽度相等的区域特征块(以下简称patch),使得每个patch对应一个字符。
进一步地,由于字符之间的间距可能不是完全相等的,例如前面提到国内车牌第二个字符和第三个字符的间距要比其他字符之间的间距更大,特征分割模块802对第一特征图粗略分块,可能会出现patch分割不准确的问题,即有些patch所包含的字符是不完整的,如果直接对这些不完整的patch进行识别会导致字符识别错误。因此,可以利用特征提取及融合模块803将每个patch与相邻patch进行特征提取及融合,对于车牌字符识别任务来说,识别出一个字符仅仅需要这个字符及该字符周围的字符区域的邻域信息,提取周围区域的邻域信息可以增加容错率,即使特征分割模块802的patch分割不准确,也可以通过特征提取及融合模块803对相邻patch的访问,来帮助模型识别,提升模型识别的准确率。
相对于使用循环神经网络的现有技术,本公开利用先验知识粗略分块提取浅层特征、再对浅层特征进行邻域信息融合,从而利用邻域信息提升了对车牌中每个字符块的容错率。本公开的神经网络不需要很深的网络和大量的参数,就可以提取到与车牌字符对应关系较强的特征,因此算法的总耗时大大减少。同时,本公开提供的车牌识别装置实现的是一种端到端的识别方法。
在特征提取及融合模块803对每个patch进行邻域信息融合及特征提取后,得到每个patch对应的第二特征图,此时,每个第二特征图融合了周围区域的信息,因此每个第二特征图包含的字符特征是完整的。最后分类模块804对每个patch对应的第二特征图进行分类得到每个patch对应的车牌字符,再汇总识别结果得到所有的车牌字符。
需要说明的是,本公开的上述技术方案不限于对国内车牌进行识别处理,也可以对其他国家或地区的车牌进行处理,本公开的车牌识别装置适用于识别所有字符间距相等或基本相等的车牌,其核心在于基于车牌的字符间距基本相等(并不要求车牌的字符间距完全相等)对车牌图像提取的浅层特征进行分割,将其分割成多个尺寸相同的patch,patch的数量与车牌字符的数量相同,使用简单的分割方式就能使patch与车牌字符之间形成一种较强的对应关系。即使出现了patch分割不准确的情况,可以在对每个patch进行识别之前融合其周围区域的特征,即融合相邻patch的特征,使得每个patch能够包含其对应字符的完整特征,例如,假设第一个patch对应的字符为“W”,在patch分割时,可能因为patch分割不准确,“W”的一部分边缘特征被分割到相邻的下一个patch中,即第二个patch中,这就可能导致对第一个patch的识别不准确。因此,需要把第二个patch与第一个patch相邻的边缘特征融合到第一个patch中,使得第一个patch包含的字符“W”的特征是完整的。
作为可选的实施方式,图像获取模块801获取目标图像的第一特征图包括:获取单元,被配置为获取目标图像;浅层特征提取单元,被配置为对目标图像进行浅层特征提取得到第一特征图。
作为可选的实施方式,浅层特征提取单元利用神经网络模型的卷积层对目标图像进行浅层特征提取得到基础视觉特征。。
作为可选的实施方式,如图9所示,特征提取及融合模块803包括:
第一归一化单元901,被配置为对每个区域特征块进行归一化处理;
第一特征提取单元902,被配置为对归一化处理后的区域特征块进行卷积特征提取得到每个区域特征块对应的邻域特征;
第一融合单元903,被配置为将每个区域特征块与相邻的区域特征块对应的邻域特征进行特征融合得到每个区域特征块对应的融合信息;
第二归一化单元904,被配置为对每个区域特征块对应的融合信息进行归一化处理;
第二特征提取单元905,被配置为对归一化处理后的融合信息进行卷积特征提取,并通过激活函数得到每个区域特征块对应的单个字符特征;
第二融合单元906,被配置为将每个区域特征块对应的融合信息与对应的单个字符特征进行特征融合得到对应的第二特征图。
具体地,如图7所示,神经网络模型利用一维卷积层对输入的每个patch进行特征提取及融合。一维卷积层的作用主要包括融合pateh在宽度上邻近像素的特征,因为对于字符识别任务来说,我们并不需要全局特征,识别出一个字符仅仅需要这个字符的特征和其周围区域的信息,一维卷积层可以很好地满足这个需求。前面提到过传统的方法会因为分割不准导致识别错误,因此需要提取每个patch周围区域的信息,这样可以增加容错率,即使出现patch分割不准的情况,也可以通过一维卷积层实现对相邻patch的访问,获取patch周围的邻域信息来帮助模型识别每个patch对应的字符。并且,一维卷积层的计算量小,也更契合字符识别任务。而传统的transformer中使用attention机制执行字符识别任务,需要全局信息进行交互,计算量非常大,同时也会囊括一些冗余的信息,导致模型收敛会更困难。
本实施例中,特征提取及融合模块803对每个pateh的特征与相邻patch的特征进行提取及融合可以通过下列公式表达:
F(X)=X+conv1d(layerNorm(X))
其中,X表示输入的第一特征图;conv1d表示一维卷积层;layerNorm表示归一化处理;
进一步地,特征提取及融合模块803对每个区域特征块对应的融合信息进行卷积特征提取及融合可以通过下列公式表达:
G(Y)=Y+GELU(FC(layerNorm(Y)))
其中,Y=F(X),F(X)表示第一次特征提取及融合得到的融合信息;即对第一次特征提取及融合后输出的结果F(X)进行第二次特征提取及融合。其中,GELU表示激活函数,
Figure BDA0003670363490000121
erf表示误差函数;FC表示全连接层,第二次特征提取采用全连接层进行卷积特征提取,FC的卷积提取过程可以通过下列公式表达:
Where FC(X)=max(0,XW1+b1)W2+b2
其中,W1和W2表示全连接层的权重;b1和b2表示全连接层的偏置。
具体地,如图7所示,每个patch对应的第一特征图X输入特征提取及融合模块,通过第一归一化层701进行归一化处理及一维卷积层702进行卷积特征提取及融合得到融合信息F(X),接下来以F(X)为输入,利用第二归一化层703对F(X)进行归一化处理,全连接层704进行卷积特征提取及融合,经激活函数705后输出G(Y)。本实施例中提出了使用一维卷积层来对空间信息进行融合,相比使用自注意力模块进行全局的特征融合,一维卷积层更适用于字符识别任务,且计算量较小。对于单个字符的识别,仅需要考虑与它相邻区域的信息,即邻域信息,而并非整个输入图像的信息。而一维卷积层能够很好的提取每个patch的邻域信息,在减少时延的同时去除了一些冗余的全局信息,让模型能够更快收敛,并达到更高精度。需要说明的是,使用一维卷积层进行特征提取及融合仅为一种较优的实施方式,也可以使用自注意模块进行处理,相对一维卷积层来说,自注意模块计算量更大一些,并且会囊括一些冗余的信息,因此模型收敛较慢。
本实施例中神经网络模型通过两次特征提取及融合得到每个patch对应的第二特征图,在确保模型精度的前提下,尽可能缩小时延。但需要说明的是,特征提取及融合的次数不限于两次,这个参数可以根据实际需要调整,特征提取融合的次数越多,模型的能力越强,精度通常会更高,但是时延相应地也会增大。
作为可选的实施方式,分类模块804基于每个区域特征块对应的第二特征图进行分类得到每个车牌字符的识别结果包括:
将每个区域特征块对应的第二特征图进行降维处理转换为一维向量;
对每个区域特征块对应的一维向量进行分类得到每个车牌字符的识别结果。
本实施例中将第二特征图转换为一维向量有助于减少计算量,从而缩短神经网络模型的时延。另外,本公开的车牌识别方法中,通过特征分割模块802对车牌的浅层特征分patch的方式,能有效地对齐特征与字符,使每个patch对应一个字符,从而可以仅使用全连接层对patch的第二特征图直接进行分类。相比于现在流行的基于深度学习的车牌识别方法,车牌特征没有与单个车牌字符一一对应,所以需要解码操作,其通常采用RNN+CTC进行解码,其中,CTC主要解决一个问题:输入序列和输出序列对应的问题,比如字符数量、大小不同,输出不能和每个字符很好的一一对应。本公开无需现有技术中耗时较大的解码操作,所需的神经网络结构更简单,并可以提升识别的效率,降低时延。
本公开第三实施例提供了一种智能交通设备1000,如图10所示,包括:
第二实施例中任一项所述的车牌识别装置1001;
至少一个图像采集装置1002,与车牌识别装置1001通信连接,被配置为采集目标图像并向车牌识别装置1001提供;以及
执行装置1003,被配置为根据车牌识别装置1001输出的识别结果执行任务。
具体地,本公开的智能交通设备1000可以包括电子收费(Electronic TollCollection,ETC)系统、停车场管理系统、电子警察抓拍等应用场景。车牌识别技术结合电子不停车收费系统(ETC)识别车辆,过往车辆通过道口时无须停车,即能够实现车辆身份自动识别、自动收费。在车场管理系统中,为提高出入口车辆通行效率,车牌识别针对无需收停车费的车辆(如月卡车、内部免费通行车辆),建设无人值守的快速通道,免取卡、不停车的出入体验,可以提升停车场管理效率。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图11示出了可以用来实施本公开的实施例的示例电子设备1100的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图11所示,设备1100包括计算单元1101,其可以根据存储在只读存储器(ROM)1102中的计算机程序或者从存储单元1108加载到随机访问存储器(RAM)1103中的计算机程序,来执行各种适当的动作和处理。在RAM 1103中,还可存储设备1100操作所需的各种程序和数据。计算单元1101、ROM 1102以及RAM 1103通过总线1104彼此相连。输入/输出(I/O)接口1105也连接至总线1104。
设备1100中的多个部件连接至I/O接口1105,包括:输入单元1106,例如键盘、鼠标等;输出单元1107,例如各种类型的显示器、扬声器等;存储单元1108,例如磁盘、光盘等;以及通信单元1109,例如网卡、调制解调器、无线通信收发机等。通信单元1109允许设备1100通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1101可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1101的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1101执行上文所描述的各个方法和处理,例如车牌识别方法。例如,在一些实施例中,车牌识别方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1108。在一些实施例中,计算机程序的部分或者全部可以经由ROM1102和/或通信单元1109而被载入和/或安装到设备1100上。当计算机程序加载到RAM 1103并由计算单元1101执行时,可以执行上文描述的车牌识别方法的一个或多个步骤。备选地,在其他实施例中,计算单元1101可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行车牌识别方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。

Claims (14)

1.一种车牌识别方法,包括:
获取目标图像的第一特征图;
将所述第一特征图分割成与多个车牌字符一一对应的多个区域特征块;
将每个所述区域特征块与相邻的所述区域特征块进行特征提取及融合得到每个所述区域特征块对应的第二特征图;
基于每个所述区域特征块对应的所述第二特征图进行分类得到每个所述车牌字符的识别结果。
2.根据权利要求1所述的车牌识别方法,其中,所述获取目标图像的第一特征图包括:
获取所述目标图像;
对所述目标图像进行浅层特征提取得到所述第一特征图。
3.根据权利要求1所述的车牌识别方法,其中,所述将所述第一特征图分割成与多个车牌字符一一对应的多个区域特征块包括:
将所述第一特征图等分成多个尺寸相同的所述区域特征块。
4.根据权利要求1-3中任一项所述的车牌识别方法,其中,所述将每个所述区域特征块与相邻的所述区域特征块进行特征提取及融合得到每个所述区域特征块对应的第二特征图包括:
对每个所述区域特征块进行归一化处理;
对归一化处理后的所述区域特征块进行卷积特征提取得到每个所述区域特征块对应的邻域特征;
将每个所述区域特征块与相邻的所述区域特征块对应的所述邻域特征进行特征融合得到每个所述区域特征块对应的融合信息;
对每个所述区域特征块对应的所述融合信息进行归一化处理;
对归一化处理后的所述融合信息进行卷积特征提取,并通过激活函数得到每个所述区域特征块对应的单个字符特征;
将每个所述区域特征块对应的所述融合信息与对应的所述单个字符特征进行特征融合得到对应的所述第二特征图。
5.根据权利要求1所述的车牌识别方法,其中,所述基于每个所述区域特征块对应的所述第二特征图进行分类得到每个所述车牌字符的识别结果包括:
将每个所述区域特征块对应的所述第二特征图进行降维处理转换为一维向量;
对每个所述区域特征块对应的所述一维向量进行分类得到每个所述车牌字符的识别结果。
6.一种车牌识别装置,包括:
图像获取模块,被配置为获取目标图像的第一特征图;
特征分割模块,被配置为将所述第一特征图分割成与多个车牌字符一一对应的多个区域特征块;
特征提取及融合模块,被配置为将每个所述区域特征块与相邻的所述区域特征块进行特征提取及融合得到每个所述区域特征块对应的第二特征图;
分类模块,被配置为基于每个所述区域特征块对应的所述第二特征图进行分类得到每个所述车牌字符的识别结果。
7.根据权利要求6所述的车牌识别装置,其中,所述图像获取模块包括:
获取单元,被配置为获取所述目标图像;
浅层特征提取单元,被配置为对所述目标图像进行浅层特征提取得到所述第一特征图。
8.根据权利要求6所述的车牌识别装置,其中,所述特征分割模块将所述第一特征图分割成与多个车牌字符一一对应的多个区域特征块包括:
将所述第一特征图等分成多个尺寸相同的所述区域特征块。
9.根据权利要求6-8中任一项所述的车牌识别装置,其中,所述特征提取及融合模块包括:
第一归一化单元,被配置为对每个所述区域特征块进行归一化处理;
第一特征提取单元,被配置为对归一化处理后的所述区域特征块进行卷积特征提取得到每个所述区域特征块对应的邻域特征;
第一融合单元,被配置为将每个所述区域特征块与相邻的所述区域特征块对应的所述邻域特征进行特征融合得到每个所述区域特征块对应的融合信息;
第二归一化单元,被配置为对每个所述区域特征块对应的所述融合信息进行归一化处理;
第二特征提取单元,被配置为对归一化处理后的所述融合信息进行卷积特征提取,并通过激活函数得到每个所述区域特征块对应的单个字符特征;
第二融合单元,被配置为将每个所述区域特征块对应的所述融合信息与对应的所述单个字符特征进行特征融合得到对应的所述第二特征图。
10.根据权利要求6所述的车牌识别装置,其中,所述分类模块基于每个所述区域特征块对应的所述第二特征图进行分类得到每个所述车牌字符的识别结果包括:
将每个所述区域特征块对应的所述第二特征图进行降维处理转换为一维向量;
基于每个所述区域特征块对应的所述一维向量进行分类得到每个所述车牌字符的识别结果。
11.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5中任一项所述的车牌识别方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-5中任一项所述的车牌识别方法。
13.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-5中任一项所述的车牌识别方法。
14.一种智能交通设备,包括:
权利要求6-10中任一项所述的车牌识别装置;
至少一个图像采集装置,与所述车牌识别装置通信连接,被配置为采集目标图像并向所述车牌识别装置提供;以及
执行装置,被配置为根据所述车牌识别装置输出的识别结果执行任务。
CN202210602925.8A 2022-05-30 2022-05-30 车牌识别方法、装置、电子设备、智能交通设备 Active CN114998883B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210602925.8A CN114998883B (zh) 2022-05-30 2022-05-30 车牌识别方法、装置、电子设备、智能交通设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210602925.8A CN114998883B (zh) 2022-05-30 2022-05-30 车牌识别方法、装置、电子设备、智能交通设备

Publications (2)

Publication Number Publication Date
CN114998883A true CN114998883A (zh) 2022-09-02
CN114998883B CN114998883B (zh) 2024-10-18

Family

ID=83031302

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210602925.8A Active CN114998883B (zh) 2022-05-30 2022-05-30 车牌识别方法、装置、电子设备、智能交通设备

Country Status (1)

Country Link
CN (1) CN114998883B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115376119A (zh) * 2022-10-25 2022-11-22 珠海亿智电子科技有限公司 一种车牌识别方法、装置、车牌识别设备及存储介质
CN118429952A (zh) * 2024-07-02 2024-08-02 微网优联科技(成都)有限公司 用于交通管理的智能车牌识别平台

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210004627A1 (en) * 2018-03-14 2021-01-07 Delta Electronics, Inc. License plate identification method and system thereof
CN113920494A (zh) * 2021-09-27 2022-01-11 安徽清新互联信息科技有限公司 一种基于transformer的车牌字符识别方法
CN114330543A (zh) * 2021-12-28 2022-04-12 阿波罗智联(北京)科技有限公司 模型训练方法、装置、设备、介质及程序产品

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210004627A1 (en) * 2018-03-14 2021-01-07 Delta Electronics, Inc. License plate identification method and system thereof
CN113920494A (zh) * 2021-09-27 2022-01-11 安徽清新互联信息科技有限公司 一种基于transformer的车牌字符识别方法
CN114330543A (zh) * 2021-12-28 2022-04-12 阿波罗智联(北京)科技有限公司 模型训练方法、装置、设备、介质及程序产品

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
SONG-REN WANG等: ""End-to-End High Accuracy License Plate Recognition Based on Depthwise Separable Convolution Networks"", 《ARXIV》, 21 February 2022 (2022-02-21), pages 1 - 8 *
苑玮琦等: ""分块思想在汽车牌照粗定位中的应用"", 《光电子技术与信息》, vol. 18, no. 4, 31 December 2005 (2005-12-31), pages 69 - 72 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115376119A (zh) * 2022-10-25 2022-11-22 珠海亿智电子科技有限公司 一种车牌识别方法、装置、车牌识别设备及存储介质
CN118429952A (zh) * 2024-07-02 2024-08-02 微网优联科技(成都)有限公司 用于交通管理的智能车牌识别平台
CN118429952B (zh) * 2024-07-02 2024-09-10 微网优联科技(成都)有限公司 用于交通管理的智能车牌识别平台

Also Published As

Publication number Publication date
CN114998883B (zh) 2024-10-18

Similar Documents

Publication Publication Date Title
CN113902897B (zh) 目标检测模型的训练、目标检测方法、装置、设备和介质
WO2022126377A1 (zh) 检测车道线的方法、装置、终端设备及可读存储介质
CN114998883B (zh) 车牌识别方法、装置、电子设备、智能交通设备
Zhang et al. ReYOLO: A traffic sign detector based on network reparameterization and features adaptive weighting
US20240320840A1 (en) Target tracking method, target tracking apparatus, electronic device and computer readable medium
EP4016474A2 (en) Method and apparatus of recognizing illegal parking of vehicle, device and storage medium
CN115641359B (zh) 确定对象的运动轨迹的方法、装置、电子设备和介质
CN112818792A (zh) 车道线检测方法、装置、电子设备及计算机存储介质
EP4174789B1 (en) Method and apparatus of processing image, and storage medium
CN114612741A (zh) 缺陷识别模型的训练方法、装置、电子设备及存储介质
CN114283343A (zh) 基于遥感卫星图像的地图更新方法、训练方法和设备
Wang et al. A lightweight high-resolution RS image road extraction method combining multi-scale and attention mechanism
CN113902898A (zh) 目标检测模型的训练、目标检测方法、装置、设备和介质
CN112699773A (zh) 交通灯识别方法、装置及电子设备
CN116958939A (zh) 一种雨雾天气下道路检测方法、系统及存储介质
CN114724113B (zh) 道路标牌识别方法、自动驾驶方法、装置和设备
CN114429631B (zh) 三维对象检测方法、装置、设备以及存储介质
CN115761698A (zh) 一种目标检测方法、装置、设备及存储介质
CN115439692A (zh) 一种图像处理方法、装置、电子设备及介质
CN114821190A (zh) 图像分类模型训练方法、图像分类方法、装置及设备
CN114333409A (zh) 目标跟踪方法、装置、电子设备及存储介质
CN115984839A (zh) 车牌识别方法、装置、设备及存储介质
CN116310403A (zh) 目标跟踪方法、装置、电子设备与可读存储介质
CN114842465A (zh) 车牌检测方法、装置、电子设备、介质及智能交通设备
CN112966606A (zh) 图像识别方法、相关装置及计算机程序产品

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant