CN111832568A - 车牌识别方法、车牌识别模型的训练方法和装置 - Google Patents

车牌识别方法、车牌识别模型的训练方法和装置 Download PDF

Info

Publication number
CN111832568A
CN111832568A CN202010536808.7A CN202010536808A CN111832568A CN 111832568 A CN111832568 A CN 111832568A CN 202010536808 A CN202010536808 A CN 202010536808A CN 111832568 A CN111832568 A CN 111832568A
Authority
CN
China
Prior art keywords
license plate
decoding
code
feature
neural network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010536808.7A
Other languages
English (en)
Other versions
CN111832568B (zh
Inventor
倪子涵
孙逸鹏
韩钧宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202010536808.7A priority Critical patent/CN111832568B/zh
Publication of CN111832568A publication Critical patent/CN111832568A/zh
Priority to US17/212,712 priority patent/US20210209395A1/en
Priority to EP21169665.3A priority patent/EP3907660A1/en
Priority to JP2021076270A priority patent/JP7166388B2/ja
Priority to KR1020210075649A priority patent/KR20210080291A/ko
Application granted granted Critical
Publication of CN111832568B publication Critical patent/CN111832568B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/62Text, e.g. of license plates, overlay texts or captions on TV images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/148Segmentation of character regions
    • G06V30/153Segmentation of character regions using recognition of characters or words
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/18Extraction of features or characteristics of the image
    • G06V30/182Extraction of features or characteristics of the image by coding the contour of the pattern
    • G06V30/1823Extraction of features or characteristics of the image by coding the contour of the pattern using vector-coding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • G06V30/191Design or setup of recognition systems or techniques; Extraction of features in feature space; Clustering techniques; Blind source separation
    • G06V30/19173Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/62Text, e.g. of license plates, overlay texts or captions on TV images
    • G06V20/625License plates
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Biomedical Technology (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)

Abstract

本申请公开了一种车牌识别方法,涉及人工智能、计算机视觉以及深度学习技术领域,具体涉及图像识别技术领域。具体实现方案为:通过获取车牌区域的特征图的多个特征向量;将多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个特征向量的第一编码;将多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个特征向量的第二编码;根据每一个特征向量的第一编码和每一个特征向量的第二编码,以生成多个特征向量的多个目标编码;以及对多个目标编码进行解码,以得到车牌中的多个字符。该方法中对提取的车牌区域的特征图包含的多个特征向量,分别采用循环神经网络进行正反向编码,从而使得编码后的特征携带有上下文信息,大大提高了车牌识别的准确率。

Description

车牌识别方法、车牌识别模型的训练方法和装置
技术领域
本申请涉及人工智能、计算机视觉以及深度学习技术领域,具体涉及图像识别技术领域,尤其涉及一种车牌识别方法、车牌识别模型的训练方法和装置。
背景技术
车牌识别是城市车辆管理的重要技术之一,对各种复杂场景下的车牌进行准确、快速的识别,能够有效提升交通执法、停车场管理以及道路通行的效率。
目前,车牌识别技术在卡口、道路监控等场景上已基本成熟,但是在双行车牌以及中文文字等复杂场景下的识别准确率还不够理想。
发明内容
本申请提供了一种车牌识别方法、车牌识别模型的训练方法、装置、电子设备以及存储介质。
本申请第一方面实施例提供了一种车牌识别方法,包括:
获取车牌区域的特征图,其中,所述特征图之中包含多个特征向量;
将所述多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个所述特征向量的第一编码;
将所述多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个所述特征向量的第二编码;
根据每一个所述特征向量的第一编码和每一个所述特征向量的第二编码,以生成多个所述特征向量的多个目标编码;以及
对多个所述目标编码进行解码,以得到车牌中的多个字符。
本申请第二方面实施例提供了一种车牌识别模型的训练方法,包括:
获取多个训练图像;
采用所述多个训练图像,对车牌识别模型进行训练,其中,所述车牌识别模型,包括特征提取网络和识别网络;
所述特征提取网络,用于获取车牌区域的特征图,其中,所述特征图之中包含多个特征向量;
所述识别网络,用于将所述多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个所述特征向量的第一编码;将所述多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个所述特征向量的第二编码;根据每一个所述特征向量的第一编码和每一个所述特征向量的第二编码,以生成多个所述特征向量的多个目标编码;对多个所述目标编码进行解码,以得到车牌中的多个字符。
本申请第三方面实施例提供了一种车牌识别装置,包括:
获取模块,用于获取车牌区域的特征图,其中,所述特征图之中包含多个特征向量;
第一编码模块,用于将所述多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个所述特征向量的第一编码;
第二编码模块,用于将所述多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个所述特征向量的第二编码;
生成模块,用于根据每一个所述特征向量的第一编码和每一个所述特征向量的第二编码,以生成多个所述特征向量的多个目标编码;
解码模块,用于对多个所述目标编码进行解码,以得到车牌中的多个字符。
本申请第四方面实施例提供了一种车牌识别模型的训练装置,包括:
获取模块,用于获取多个训练图像;
训练模块,用于采用所述多个训练图像,对车牌识别模型进行训练,其中,所述车牌识别模型,包括特征提取网络和识别网络;
所述特征提取网络,用于获取车牌区域的特征图,其中,所述特征图之中包含多个特征向量;
所述识别网络,用于将所述多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个所述特征向量的第一编码;将所述多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个所述特征向量的第二编码;根据每一个所述特征向量的第一编码和每一个所述特征向量的第二编码,以生成多个所述特征向量的多个目标编码;对多个所述目标编码进行解码,以得到车牌中的多个字符。
本申请第五方面实施例提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行第一方面实施例的车牌识别方法,或者,执行第二方面实施例的车牌识别模型的训练方法。
本申请第六方面实施例提供了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行第一方面实施例的车牌识别方法,或者,执行第二方面实施例的车牌识别模型的训练方法。
上述申请中的一个实施例具有如下优点或有益效果:通过获取车牌区域的特征图,其中,特征图之中包含多个特征向量;将多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个特征向量的第一编码;将多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个特征向量的第二编码;根据每一个特征向量的第一编码和每一个特征向量的第二编码,以生成多个特征向量的多个目标编码;以及对多个目标编码进行解码,以得到车牌中的多个字符。该方法中对提取的车牌区域的特征图包含的多个特征向量,分别采用循环神经网络进行正反向编码,从而使得编码后的特征携带有上下文信息,大大提高了车牌识别的准确率。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1为本申请实施例一提供的车牌识别方法的流程示意图;
图2为本申请实施例二提供的车牌识别方法的流程示意图;
图3为本申请实施例提供的解码过程的子流程示意图;
图4为本申请实施例三提供的用于获取特征图的子流程示意图;
图5为本申请实施例四提供的车牌识别模型的训练方法的流程示意图;
图6为本申请实施例五提供的用于获取样本图像的子流程示意图;
图7为本申请实施例六提供的车牌识别装置的结构示意图;
图8为本申请实施例七提供的车牌识别模型的训练装置的结构示意图;
图9为本申请实施例提供的电子设备的框图的结构示意图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
传统的车牌识别系统一般先利用边缘检测、轮廓提取等方法定位车牌,再根据车牌的四角点位置进行矫正,然后使用MSER等方法来进行单字检测,再对每一个单字区域使用SVM等分类器进行分类,最终整合所有单字的识别结果,得到车牌号码。
其中,现有的车牌端到端系统采用基于神经网络的时序类分类模型(Connectionist Temporal Classification,CTC)进行车牌识别,只能处理单行车牌,因此大多采用行切分的方式进行多行车牌识别。由于对双行车牌进行识别时未能利用上下文信息,特征表达能力有限,从而导致车牌识别效果不够理想。
针对上述现有的车牌识别技术存在的技术问题,本申请提出了一种车牌识别方法,通过获取车牌区域的特征图,其中,特征图之中包含多个特征向量;将多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个特征向量的第一编码;将多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个特征向量的第二编码;根据每一个特征向量的第一编码和每一个特征向量的第二编码,以生成多个特征向量的多个目标编码;以及对多个目标编码进行解码,以得到车牌中的多个字符。由于对提取的车牌区域的特征分别采用循环神经网络进行正反向编码,使得特征编码携带有上下文信息,增强了特征表达能力,从而可以更加准确的识别出多种类型车牌,优化了车牌识别效果。
下面参考附图描述本申请实施例的车牌识别方法、车牌识别模型的训练方法、装置、电子设备和存储介质。
图1为本申请实施例一提供的车牌识别方法的流程示意图。
本申请实施例以该车牌识别方法被配置于车牌识别装置中来举例说明,该车牌识别装置可以应用于任一电子设备中,以使该电子设备可以执行车牌识别功能。
其中,电子设备可以为个人电脑(Personal Computer,简称PC)、云端设备、移动设备等,移动设备例如可以为手机、平板电脑、个人数字助理、穿戴式设备、车载设备等具有各种操作系统的硬件设备。
如图1所示,该车牌识别方法,可以包括以下步骤:
步骤101,获取车牌区域的特征图。
其中,特征图之中包含多个特征向量。
例如,车牌区域的特征图中可以包含有车牌的颜色特征、纹理特征、形状特征和空间关系特征等等。
本申请实施例中,采用拍摄设备拍摄车牌,获取到包含有车牌区域的车牌图像后,可以通过卷积神经网络模型提取车牌图像的特征图,以从车牌图像的特征图中,确定车牌区域的特征图。
需要说明的是,在获取车牌图像时,可以采用普通拍摄设备拍摄车牌,以获取包含车牌区域的二维图像;也可以采用深度相机拍摄车牌,以获取包含车牌区域的三维图像,在此不做限定。
例如,卷积神经网络包括卷积层和池化层,可以通过卷积层对车牌图像进行特征提取,以获取到车牌图像的特征图,以从车牌图像的特征图中,确定车牌区域的特征图。
为了控制车牌识别的速度,输入卷积神经网络的车牌图像可以缩放至一定的尺寸,如512*512。但是小尺寸的车牌在车牌图像中的尺寸更小,从而导致小尺寸的车牌识别效果较差。在一种可能的情况下,在对车牌图像进行特征提取时,可以适当的扩大特征提取的范围,以得到车牌区域的特征图。
例如,在获取到小尺寸车牌区域的外接矩形后,可以适当的向外扩充0.5倍宽或高,通过扩大小尺寸车牌区域的特征提取范围,得到小尺寸车牌区域的特征图。
由于双行车牌的国家标准尺寸为220*440,为了均衡识别分支的耗时以及保证足够的特征,本申请中可以选取8*16作为车牌区域的特征图的尺寸。
步骤102,将多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个特征向量的第一编码。
步骤103,将多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个特征向量的第二编码。
其中,循环神经网络(Recurrent Neural Network,RNN),是一类以序列数据为输入,在序列的演进方向进行递归且所有节点按链式连接的递归神经网络。
为了便于区别,本申请中将按照第一顺序对多个特征向量依次进行编码的循环神经网络命名为第一循环神经网络,将按照第二顺序将多个特征向量依次进行编码的循环神经网络命名为第二循环神经网络。当然,也可以为其他命名方式,本申请中仅作为一种示例性表述。
同样地,为了便于区别,本申请中将每一个特征向量输入第一循环神经网络进行编码,得到的编码后的特征向量命名为第一编码,将每一个特征向量输入第二循环神经网络进行编码,得到的编码后的特征向量命名为第二编码。当然,也可以为其他命名方式,本申请中仅作为一种示例性表述。
本申请中,获取到车牌区域的特征图中包含的多个特征向量后,可以将多个特征向量按照第一顺序依次输入第一循环神经网络进行编码,以根据第一循环神经网络的编码结果,得到每一个特征向量的第一编码。还可以将多个特征向量按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个特征向量的第二编码。
需要说明的是,第一顺序,可以为从左到右的正向顺序,也可以为从右到左的反向顺序。也就是说,可以将多个特征向量从左到右依次输入第一循环神经网络进行编码,也可以将多个特征向量从右到左依次输入第一循环神经网络进行编码,本申请中对此不做限定。
同理,第二顺序,可以为从左到右的正向顺序,也可以为从右到左的反向顺序,本申请中对此也不做限定。本申请,第一顺序与第二顺序需要为相反的顺序,例如,第一顺序为从左到右的正向顺序时,第二顺序为从右到左的反向顺序。也就是说,第一循环神经网络对多个特征向量进行正向编码时,第二循环神经网络对多个特征向量进行反向编码。
需要说明的是,上述步骤102和步骤103不限于上述顺序执行过程,还可以先执行步骤103,再执行步骤102,或者,还可以同时执行步骤102和步骤103。可见,本申请中对步骤102和步骤103的执行顺序不做限定。
步骤104,根据每一个特征向量的第一编码和每一个特征向量的第二编码,以生成多个特征向量的多个目标编码。
其中,目标编码,可以为对每一个特征向量进行编码最终得到的编码结果。
作为一种可能的实现方式,在得到每一个特征向量的第一编码和第二编码后,可以通过每一特征向量对应的第一编码和第二编码之间的连接关系,对每一个特征向量的第一编码和第二编码进行组合,以生成每一个特征向量的目标编码。
可以理解的是,车牌图像和图像中文字对应一个有顺序的序列,两个方向的信息均是有用信息。本申请中,将车牌区域的特征图中包含的多个特征向量分别采用循环神经网络进行正反向编码,使得得到的每一个特征对应的目标编码携带有上下文信息,从而可以提取出更有用的信息。
步骤105,对多个目标编码进行解码,以得到车牌中的多个字符。
其中,车牌中的多个字符,可以为中文、数字以及字母的任意组合。并且,多个字符可以排列为一行,也可以分两行排列,在此不做限定。
本申请实施例中,在获取到多个特征向量的多个目标编码后,可以对多个目标编码进行解码,以根据解码的结果确定车牌中的多个字符。
作为一种可能的实现方式,对多个特征向量进行编码,得到多个目标编码后,可以将多个目标编码输入循环神经网络进行解码,以得到多个解码向量。进而,根据多个解码向量,确定车牌中的多个字符。
本申请实施例的车牌识别方法,通过获取车牌区域的特征图,其中,特征图之中包含多个特征向量;将多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个特征向量的第一编码;将多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个特征向量的第二编码;根据每一个特征向量的第一编码和每一个特征向量的第二编码,以生成多个特征向量的多个目标编码;以及对多个目标编码进行解码,以得到车牌中的多个字符。该方法中对提取的车牌区域的特征图包含的多个特征向量,分别采用循环神经网络进行正反向编码,从而使得编码后的特征携带有上下文信息,大大提高了车牌识别的准确率。
在上述实施例的基础上,作为一种可能的情况,在得到每一个特征向量的第一编码和第二编码后,可以拼接每一个特征向量的第一编码和第二编码,得到多个目标编码,以对目标编码进行解码,得到车牌中的多个字符。下面结合图2对上述过程进行详细介绍,图2为本申请实施例二提供的车牌识别方法的流程示意图。
如图2所示,该车牌识别方法,还可以包括以下步骤:
步骤201,获取车牌区域的特征图。
步骤202,将多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个特征向量的第一编码。
步骤203,将多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个特征向量的第二编码。
本申请实施例中,步骤201至步骤203的实现过程,可以参见上述实施例中步骤101至步骤103的实现过程,在此不再赘述。
需要说明的是,上述步骤202和步骤203不限于上述顺序执行过程,还可以先执行步骤203,再执行步骤202,或者,还可以同时执行步骤202和步骤203。可见,本申请中对步骤202和步骤203的执行顺序不做限定。
步骤204,对每一个特征向量,拼接第一编码和第二编码,以得到多个目标编码。
本申请实施例中,将多个特征向量,依次输入第一循环神经网络和第二循环神经网络进行编码,得到每一个特征向量的第一编码和第二编码后,可以对每一个特征向量的第一编码和第二编码进行拼接,以得到对应的目标编码。由此,能够得到包含有上下文的语义信息。
例如,假设车牌区域的特征图A包含多个特征向量Ai,j,其中,i和j代表特征图中每一个点上的坐标。分别采用第一循环神经网络和第二循环神经网络对多个特征向量Ai,j进行编码,得到第一编码Fi,j和第二编码Bi,j,将第一编码Fi,j和第二编码Bi,j按照位置进行拼接,得到目标编码。其中,第一编码Fi,j和第二编码Bi,j的尺寸都为C*H*W,即每个位置都是一个C维的向量,则按位置拼接是对于H*W中的每个位置都将两个特征图的C维向量进行拼接,最终得到的目标编码为2C*H*W的特征图。
步骤205,对多个目标编码采用第三循环神经网络顺序地进行解码,以得到多个解码向量。
本申请实施例中,对多个目标编码进行解码时,也可以采用循环神经网络,为了便于与用于编码的循环神经网络进行区分,本实施例中将用于对多个目标编码进行解码的循环神经网络命名为第三循环神经网络。
作为一种可能的实现方式,采用第三循环神经网络对多个目标编码顺序地进行解码时,可以执行多轮解码过程。参见图3,其中,每一轮解码过程可以包括以下子步骤:
子步骤2051,获取本轮解码的目标编码。
可以理解的是,对多个目标编码采用第三循环神经网络顺序进行解码时,每一轮编码均有对应的目标编码。因此,采用第三循环神经网络执行多轮解码过程中,需要获取本轮解码的目标编码。
子步骤2052,确定第三循环神经网络在上一轮解码输出的系统状态向量和本轮解码的目标编码之间的相似度。
其中,系统状态向量,为系统状态变量在某一时刻的值,称为系统在该时刻的状态。例如,状态变量在t=0时刻的值称为系统初始状态向量或起始状态向量。
作为一种可能的实现方式,可以采用空间注意力机制来计算第三循环神经网络在上一轮解码输出的系统状态向量和本轮解码的目标编码之间的相似度。
子步骤2053,根据相似度,对本轮解码的目标编码进行加权,得到本轮加权编码。
可以理解为,第三循环神经网络在上一轮解码输出的系统状态向量和本轮解码的目标编码之间的相似度概率较大时,在对本轮解码的目标编码进行加权时,可以采用较高的权重,以得到本轮加权编码。
子步骤2054,将本轮加权编码、上一轮解码输出的系统状态向量和上一轮解码输出的解码向量输入第三循环神经网络,以输出本轮解码的系统状态向量,和本轮解码的解码向量。
本申请中,根据第三循环神经网络在上一轮解码输出的系统状态向量和本轮解码的目标编码之间的相似度,得到本轮加权编码后,可以将本轮加权编码、上一轮解码输出的系统状态向量和上一轮解码输出的解码向量输入第三循环神经网络,以输出本轮解码的系统状态向量,和本轮解码的解码向量。
需要说明的是,由于采用第三循环神经网络对多个目标编码进行首轮解码时,不存在上一轮解码输出的系统状态向量和上一轮解码输出的解码向量,因此,本申请中可以预先设定解码的起始标识,将设定的起始标识确定为上一轮解码输出的解码向量。也可以将第二循环神经网络最后一次编码输出的系统状态向量,确定为上一轮解码输出的系统状态向量。
进而,在采用第三循环神经网络对多个目标编码进行首轮解码过程中,可以确定第二循环神经网络最后一次编码输出的系统状态向量和首轮解码的目标编码之间的相似度;进而,根据相似度,对本轮解码的目标编码进行加权,以得到本轮加权编码;最后,将本轮加权编码、第二循环神经网络最后一次编码输出的系统状态向量和设定的起始标识输入第三循环神经网络,以输出首轮解码的系统状态向量和首轮解码的解码向量。
步骤206,根据多个解码向量,确定车牌中的多个字符。
本申请中,对多个目标编码采用第三循环神经网络顺序地进行多轮解码,得到多个解码向量后,可以对多个解码向量进行整合,以确定车牌中的多个字符。
本申请实施例的车牌识别方法,通过获取车牌区域的特征图,其中,特征图之中包含多个特征向量,采用循环神经网络对多个特征向量进行正反向编码后,分别得到每一个特征向量的第一编码和第二编码,进而对每一个特征向量,拼接第一编码和第二编码,得到的多个目标编码,对多个目标编码采用第三循环神经网络顺序地进行解码,以得到多个解码向量;以及根据多个解码向量,确定车牌中的多个字符。由于多个目标编码中携带有上下文信息,使得特征表达能力得到了增强,从而提高了单行和双行车牌的识别性能。
由于在一些场景下,车牌会存在较大角度的倾斜或者是车牌尺寸较小。对于小尺寸车牌识别时,现有的车牌识别模型是从检测识别共享的特征图中抠取车牌特征,由于小尺寸的车牌在共享特征图中的占比非常小,从而导致识别效果较差。对于这类场景,在上述任一实施例中,对原始图像的文字区域以及外周的设定范围进行特征提取,从而解决车牌尺寸较小,导致特征图较小或者容易无法识别出车牌区域的问题。同时,在步骤101或步骤201中获取车牌区域的特征图时,还可以对获取的原始图像进行特征提取,得到原始特征图,以在原始特征图中,确定车牌区域对应的原始特征图,进一步的,对车牌区域对应的原始特征图进行透视变换,得到车牌区域对应的目标特征图,通过进行透视变换避免车牌较大角度的倾斜引起的检测误差。下面结合图4对上述过程进行详细介绍,图4为本申请实施例三提供的用于获取特征图的子流程示意图。
如图4所示,步骤101或201,还可以包括如下子步骤:
步骤301,获取原始图像。
其中,原始图像,可以为包含有车牌区域的整车图像。
本申请中,获取原始图像时,可以采用普通拍摄设备拍摄,得到二维的原始图像;也可以采用深度相机拍摄,得到三维的原始图像,在此不做限定。
例如,可以通过设置在十字路口或者道路两侧图像采集设备,对道路上行驶的车辆进行采集,以获取到原始图像。
步骤302,对原始图像进行特征提取,以得到原始特征图。
特征提取是计算机视觉和图像处理中的一个概念。它指的是使用计算机提取图像信息,决定每个图像的点是否属于一个图像特征。特征提取的结果是把图像上的点分为不同的子集,这些子集往往属于孤立的点、连续的曲线或者连续的区域。其中,常用的图像特征有颜色特征、纹理特征、形状特征、空间关系特征。
颜色特征是一种全局特征,描述了图像或图像区域所对应的物体的表面性质。例如,可以采用颜色直方图方法提取原始图像的颜色特征。
纹理特征也是一种全局特征,它也描述了图像或图像区域所对应物体的表面性质。与颜色特征不同,纹理特征不是基于像素点的特征,它需要在包含多个像素点的区域中进行统计计算。例如,可以采用基于统计的方法提取被测对象的原始图像的纹理特征。
提取原始图像的形状特征时可以采用几何参数法、形状不变矩法,等等。
提取图像空间关系特征可以有两种方法:一种方法是首先对原始图像进行自动分割,划分出原始图像中所包含的对象或颜色区域,然后根据这些区域提取图像特征,并建立索引;另一种方法则简单地将原始图像均匀地划分为若干规则子块,然后对每个图像子块提取特征,并建立索引。
需要解释的是,提取原始图像的图像特征时,可以提取原始图像的颜色特征、纹理特征、形状特征、空间关系特征中的至少一个。
作为一种可能的实现方式,可以对获取到的原始图像识别文字区域,对原始图像中的文字区域,以及文字区域外周的设定范围进行特征提取,以得到原始特征图。由此,可以准确的获取到车牌区域对应的特征图。
例如,原始图像中的车牌为小尺寸车牌,在识别得到原始图像的文字区域后,可以适当的向外扩充0.5倍宽或高,以对原始图像的文字区域和文字区域外围的设定范围进行特征提取,以得到小尺寸车牌区域的特征图。
步骤303,从原始特征图中,确定车牌区域对应的原始特征图。
可以理解的是,原始图像中虽然包含有车牌区域,但是还包含有车辆以及周围环境等其他区域,为了准确识别车牌,可以从原始特征图中,确定车牌区域对应的原始特征图,以对车牌区域对应的原始特征图进行车牌识别。
例如,小尺寸的车牌在原始图像对应的原始特征图中所占比例可能较小,如果直接对原始图像提取到的原始特征图进行车牌识别,可能存在小尺寸车牌识别率较低的情况。为了提高小尺寸车牌的识别率,本申请中,可以从原始特征图中确定车牌区域对应的原始特征图,进而,仅对车牌区域对应的原始特征图进行处理,实现了提高小尺寸车牌识别的效果。
作为一种可能的实现方式,对原始图像进行特征提取得到原始特征图后,可以将原始特征图输入全卷积网络(Fully Convolutional Networks,简称FCN)进行对象识别,以在原始特征图中确定车牌候选框。进而,将处于车牌候选框内的原始特征图,作为车牌区域对应的原始特征图。
步骤304,对车牌区域对应的原始特征图进行透视变换,以得到车牌区域对应的目标特征图。
其中,透视变换的本质是将图像投影到一个新的视平面,其中透视变换的通用变换公式如下:
Figure BDA0002537295090000111
其中,[x’,y’,w’]为透视变换后输出特征图上的坐标;[u,v,w]为输入的原始特征图上的坐标;
Figure BDA0002537295090000112
为变换矩阵;a33为1,其余8个为未知变量。
本申请中,得到车牌区域对应的原始特征图后,可以对车牌区域对应的原始特征图进行透视变换,以得到宽度和高度固定的车牌区域对应的目标特征图。
本申请实施例中,通过获取原始图像,对原始图像进行特征提取,以得到原始特征图,从原始特征图中,确定车牌区域对应的原始特征图,对车牌区域对应的原始特征图进行透视变换,以得到车牌区域对应的目标特征图。由此,可以准确得到车牌区域对应的目标特征图,以从车牌区域对应的目标特征图中识别得到车牌的多个字符,有利于提高车牌识别的精确度。
为了提高车牌识别模型的准确度,可以基于深度学习的模型训练方法对车牌识别模型进行训练,以使得训练后的车牌识别模型能够准确识别各种类型的车牌。为此,本申请提出了一种车牌识别模型的训练方法。
图5为本申请实施例四提供的车牌识别模型的训练方法的流程示意图。
如图5所示,该车牌识别模型的训练方法,可以包括以下步骤:
步骤401,获取多个训练图像。
为了实现车牌识别模型可以对全种类的车牌进行识别,需要将各种类型的车牌作为训练样本对车牌识别模型进行训练。例如,现有的车牌种类可以包括:新能源车牌、混油新能源车牌、双层黄车牌、普通蓝车牌、港澳车牌、警车牌、单层武警车牌、双层武警车牌、农用车牌、民航车牌等等。
但是,现有公开的车牌数据集种类过少且地区过于集中,并且少见种类车牌的采集成本也很高。鉴于无法获取到全种类的车牌图像,本申请中可以采用数据合成的方式,生成全种类、全地区覆盖的车牌图像,作为训练图像。也就说,本申请中的训练图像中不仅包括采集的真实车牌图像,还包括合成车牌图像。
为了使合成得到的车牌图像更加真实,可以基于现有的真实车牌图像,将合成车牌替换到真实车牌区域。作为一种可能的实现方式,获取车牌集合和车辆外观图片;根据车牌集合中的多个车牌,生成每一车牌对应的车牌图片;将每一车牌对应的车牌图片分别与车辆图片合成,得到每一个车牌对应的训练图像。
步骤402,采用多个训练图像,对车牌识别模型进行训练。
其中,车牌识别模型,包括特征提取网络和识别网络。
特征提取网络,用于获取车牌区域的特征图,其中,特征图之中包含多个特征向量。
作为一种可能的情况,将每一个训练图像输入车牌识别模型后,可以通过特征提取网络对训练图像进行特征提取,以获取到车牌区域的特征图。
识别网络,用于将多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个特征向量的第一编码;将多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个特征向量的第二编码;根据每一个特征向量的第一编码和每一个特征向量的第二编码,以生成多个特征向量的多个目标编码;对多个目标编码进行解码,以得到车牌中的多个字符。
为了便于区别,本申请中将按照第一顺序对多个特征向量依次进行编码的循环神经网络命名为第一循环神经网络,将按照第二顺序将多个特征向量依次进行编码的循环神经网络命名为第二循环神经网络。当然,也可以为其他命名方式,本申请中仅作为一种示例性表述。
同样地,为了便于区别,本申请中将每一个特征向量输入第一循环神经网络进行编码,得到的编码后的特征向量命名为第一编码,将每一个特征向量输入第二循环神经网络进行编码,得到的编码后的特征向量命名为第二编码。当然,也可以为其他命名方式,本申请中仅作为一种示例性表述。
本申请中,获取到车牌区域的特征图中包含的多个特征向量后,车牌识别模型的识别网络可以将多个特征向量按照第一顺序依次输入第一循环神经网络进行编码,以根据第一循环神经网络的编码结果,得到每一个特征向量的第一编码。还可以将多个特征向量按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个特征向量的第二编码。
需要说明的是,第一顺序,可以为从左到右的正向顺序,也可以为从右到左的反向顺序。也就是说,可以将多个特征向量从左到右依次输入第一循环神经网络进行编码,也可以将多个特征向量从右到左依次输入第一循环神经网络进行编码,本申请中对此不做限定。
同理,第二顺序,可以为从左到右的正向顺序,也可以为从右到左的反向顺序,本申请中对此也不做限定。本申请,第一顺序与第二顺序需要为相反的顺序,例如,第一顺序为从左到右的正向顺序时,第二顺序为从右到左的反向顺序。也就是说,第一循环神经网络对多个特征向量进行正向编码时,第二循环神经网络对多个特征向量进行反向编码。
为保证车牌识别模型对单双行车牌的识别性能,训练过程中每一次迭代需要保证单/双行车牌、真实/合成车牌数据的比例合理,比如在一次模型训练过程中可以采用的单行真实车牌、单行合成车牌、双行真实车牌、双行合成车牌的样本比例可以为0.3:0.2:0.2:0.3。
本申请实施例的车辆识别模型的训练方法,通过获取多个训练图像,采用多个训练图像,对车牌识别模型进行训练。由此,通过多个训练图像进行训练后的车牌识别模型,能够准确的识别出各种类型的车牌,有利于提高车牌识别方法的实用性。
作为本申请实施例的一种可能的实现方式,在获取合成的车牌图像作为训练图像时,可以车牌集合中每一个车牌和车辆外观图片,可以合成得到每一个车牌对应的训练图像,从而可以获取到各种类的车牌图像作为训练图像。具体实现过程见图6,图6为本申请实施例五提供的用于获取样本图像的子流程示意图。
如图6所示,在上述步骤401中获取训练图像时,还可以包括以下子步骤:
步骤501,获取车牌集合和车辆外观图片。
为了使合成得到的车牌图像更加真实,可以基于现有的真实车牌图像,将合成车牌替换到真实车牌区域。为此,本申请中,可以获取包含有全种类车牌的车牌集合和车辆外观图片。
其中,车牌集合中包括多种类型的车牌,例如,新能源车牌、混油新能源车牌、双层黄车牌、普通蓝车牌、港澳车牌、警车牌、单层武警车牌、双层武警车牌、农用车牌、民航车牌等等。
本申请中,车辆外观图片,为包括有车牌区域的车辆外观图片,可以为与车牌类型对应的车辆,也可以为其他类型的车辆,在此不做限定。
步骤502,根据车牌集合中的多个车牌,生成每一车牌对应的车牌图片。
作为一种可能的实现方式,可以将车牌集合中的每一车牌与该种类车牌的车牌模板进行融合,以合成得到每一车牌对应的车牌图片。
进一步地,统计真实车牌图片中车牌区域R、G、B三个颜色通道的平均值,根据其最大值与255的比率调整合成车牌图片的亮度,并加上一定的高斯模糊,以减少合成车牌图像的图像噪声以及降低细节层次。
步骤503,将每一车牌对应的车牌图片分别与车辆图片合成,得到每一个车牌对应的训练图像。
本申请实施例中,得到每一车牌对应的车牌图片后,将每一车牌对应的车牌图片填充至车辆图片中的真实车牌区域,通过与车辆图片合成,得到每一个车牌对应的训练图像。
作为一种可能的实现方式,可以采用仿射变换方式将每一车牌对应的车牌图片分别与车辆图片合成,以得到每一个车牌对应的训练图像。
步骤504,对每一个训练图像,采用对应的车牌进行标注。
可以理解的是,每一个车牌均是独一无二的,在得到每一个车牌对应的训练图像后,可以采用对应的车牌对训练图像进行标注。
本申请实施例中,通过获取车牌集合和车辆外观图片,根据车牌集合中的多个车牌,生成每一车牌对应的车牌图片,将每一车牌对应的车牌图片分别与车辆图片合成,得到每一个车牌对应的训练图像,对每一个训练图像,采用对应的车牌进行标注。由此,通过车牌集合中每一个车牌和车辆外观图片,可以合成得到每一个车牌对应的训练图像,从而可以获取到各种类的车牌图像作为训练图像。
为了实现上述实施例,本申请提出了一种车牌识别装置。
图7为本申请实施例六提供的车牌识别装置的结构示意图。
如图7所示,该车牌识别装置600,可以包括:获取模块610、第一编码模块620、第二编码模块630、生成模块640以及解码模块650。
其中,获取模块610,用于获取车牌区域的特征图,其中,特征图之中包含多个特征向量。
第一编码模块620,用于将多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个特征向量的第一编码。
第二编码模块630,用于将多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个特征向量的第二编码。
生成模块640,用于根据每一个特征向量的第一编码和每一个特征向量的第二编码,以生成多个特征向量的多个目标编码。
解码模块650,用于对多个目标编码进行解码,以得到车牌中的多个字符。
作为一种可能的情况,生成模块640,可以包括:
拼接单元,用于对每一个所述特征向量,拼接所述第一编码和所述第二编码,以得到所述多个目标编码。
作为另一种可能的情况,解码模块650,可以包括:
解码单元,用于对多个目标编码采用第三循环神经网络顺序地进行解码,以得到多个解码向量;以及
第一确定单元,用于根据多个解码向量,确定车牌中的多个字符。
作为另一种可能的情况,解码单元,还可以用于:
采用第三循环神经网络执行多轮解码过程;
其中,每一轮解码过程包括:
获取本轮解码的目标编码;
确定第三循环神经网络在上一轮解码输出的系统状态向量和本轮解码的目标编码之间的相似度;
根据相似度,对本轮解码的目标编码进行加权,得到本轮加权编码;
将本轮加权编码、上一轮解码输出的系统状态向量和上一轮解码输出的解码向量输入第三循环神经网络,以输出本轮解码的系统状态向量,和本轮解码的解码向量;
其中,首轮解码过程,还包括:
将设定的起始标识,确定为上一轮解码输出的解码向量;
将第二循环神经网络最后一次编码输出的系统状态向量,确定为上一轮解码输出的系统状态向量。
作为另一种可能的情况,获取模块610,可以包括:
获取单元,用于获取原始图像;
提取单元,用于对原始图像进行特征提取,以得到原始特征图;
第二确定单元,用于从原始特征图中,确定车牌区域对应的原始特征图;
变换单元,用于对车牌区域对应的原始特征图进行透视变换,以得到车牌区域对应的目标特征图。
作为另一种可能的情况,第二确定单元,还可以用于:
将原始特征图,输入全卷积网络进行对象识别,以在原始特征图中确定车牌候选框;
将处于车牌候选框内的原始特征图,作为车牌区域对应的原始特征图。
作为另一种可能的情况,提取单元,还可以用于:
对原始图像识别文字区域;
对原始图像中的文字区域,以及文字区域外周的设定范围进行特征提取,以得到原始特征图。
需要说明的是,前述对车牌识别方法实施例的解释说明也适用于该实施例的车牌识别装置,此处不再赘述。
本申请实施例的车牌识别装置,通过获取车牌区域的特征图,其中,特征图之中包含多个特征向量;将多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个特征向量的第一编码;将多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个特征向量的第二编码;根据每一个特征向量的第一编码和每一个特征向量的第二编码,以生成多个特征向量的多个目标编码;以及对多个目标编码进行解码,以得到车牌中的多个字符。该方法中对提取的车牌区域的特征图包含的多个特征向量,分别采用循环神经网络进行正反向编码,从而使得编码后的特征携带有上下文信息,大大提高了车牌识别的准确率。
为了实现上述实施例,本申请提出了一种车牌识别模型的训练装置。
图8为本申请实施例七提供的车牌识别模型的训练装置的结构示意图。
如图8所示,该车牌识别模型的训练装置700,可以包括:获取模块710以及训练模块720。
其中,获取模块710,用于获取多个训练图像。
训练模块720,用于采用多个训练图像,对车牌识别模型进行训练,其中,车牌识别模型,包括特征提取网络和识别网络;
特征提取网络,用于获取车牌区域的特征图,其中,特征图之中包含多个特征向量;
识别网络,用于将多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个特征向量的第一编码;将多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个特征向量的第二编码;根据每一个特征向量的第一编码和每一个特征向量的第二编码,以生成多个特征向量的多个目标编码;对多个目标编码进行解码,以得到车牌中的多个字符。
作为一种可能的情况,获取模块710,还可以包括:
获取单元,用于获取车牌集合和车辆外观图片。
生成单元,用于根据车牌集合中的多个车牌,生成每一车牌对应的车牌图片。
合成单元,用于将每一车牌对应的车牌图片分别与车辆图片合成,得到每一个车牌对应的训练图像。
标注单元,用于对每一个训练图像,采用对应的车牌进行标注。
需要说明的是,前述对车牌识别模型的训练方法实施例的解释说明也适用于该实施例的车牌识别模型的训练装置,此处不再赘述。
本申请实施例的车辆识别模型的训练装置,通过获取多个训练图像,采用多个训练图像,对车牌识别模型进行训练。由此,通过多个训练图像进行训练后的车牌识别模型,能够准确的识别出各种类型的车牌,有利于提高车牌识别方法的实用性。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图9所示,是根据本申请实施例的车牌识别方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图9所示,该电子设备包括:一个或多个处理器801、存储器802,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图9中以一个处理器801为例。
存储器802即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的车牌识别方法,或者,执行本申请所提供的车牌识别模型的训练方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的车牌识别方法。
存储器802作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的车牌识别方法,或者,执行本申请所提供的车牌识别模型的训练方法对应的程序指令/模块(例如,附图7所示的获取模块610、第一编码模块620、第二编码模块630、生成模块640以及解码模块650,或者,附图8所示的获取模块710以及训练模块720)。处理器801通过运行存储在存储器802中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的车牌识别方法,或者,车牌识别模型的训练方法。
存储器802可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据电子设备的使用所创建的数据等。此外,存储器802可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器802可选包括相对于处理器801远程设置的存储器,这些远程存储器可以通过网络连接至电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
电子设备还可以包括:输入装置803和输出装置804。处理器801、存储器802、输入装置803和输出装置804可以通过总线或者其他方式连接,图9中以通过总线连接为例。
输入装置803可接收输入的数字或字符信息,以及产生与电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置804可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,通过获取车牌区域的特征图,其中,特征图之中包含多个特征向量;将多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个特征向量的第一编码;将多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个特征向量的第二编码;根据每一个特征向量的第一编码和每一个特征向量的第二编码,以生成多个特征向量的多个目标编码;以及对多个目标编码进行解码,以得到车牌中的多个字符。该方法中对提取的车牌区域的特征图包含的多个特征向量,分别采用循环神经网络进行正反向编码,从而使得编码后的特征携带有上下文信息,大大提高了车牌识别的准确率。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。

Claims (20)

1.一种车牌识别方法,所述方法包括:
获取车牌区域的特征图,其中,所述特征图之中包含多个特征向量;
将所述多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个所述特征向量的第一编码;
将所述多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个所述特征向量的第二编码;
根据每一个所述特征向量的第一编码和每一个所述特征向量的第二编码,以生成多个所述特征向量的多个目标编码;以及
对多个所述目标编码进行解码,以得到车牌中的多个字符。
2.根据权利要求1所述的车牌识别方法,其中,所述根据每一个所述特征向量的第一编码和每一个所述特征向量的第二编码,以生成多个所述特征向量的多个目标编码,包括:
对每一个所述特征向量,拼接所述第一编码和所述第二编码,以得到所述多个目标编码。
3.根据权利要求1所述的车牌识别方法,其中,所述对所述多个目标编码进行解码,以得到车牌中的多个字符,包括:
对所述多个目标编码采用第三循环神经网络顺序地进行解码,以得到多个解码向量;以及
根据所述多个解码向量,确定车牌中的多个字符。
4.根据权利要求3所述的车牌识别方法,其中,所述对所述多个目标编码采用第三循环神经网络顺序地进行解码,包括:
采用所述第三循环神经网络执行多轮解码过程;
其中,每一轮所述解码过程包括:
获取本轮解码的目标编码;
确定所述第三循环神经网络在上一轮解码输出的系统状态向量和所述本轮解码的目标编码之间的相似度;
根据所述相似度,对所述本轮解码的目标编码进行加权,得到本轮加权编码;
将所述本轮加权编码、所述上一轮解码输出的系统状态向量和上一轮解码输出的解码向量输入所述第三循环神经网络,以输出本轮解码的系统状态向量,和本轮解码的解码向量;
其中,首轮所述解码过程,还包括:
将设定的起始标识,确定为所述上一轮解码输出的解码向量;
将所述第二循环神经网络最后一次编码输出的系统状态向量,确定为所述上一轮解码输出的系统状态向量。
5.根据权利要求1-4任一项所述的车牌识别方法,其中,所述获取车牌区域的特征图,包括:
获取原始图像;
对所述原始图像进行特征提取,以得到原始特征图;
从所述原始特征图中,确定车牌区域对应的原始特征图;
对所述车牌区域对应的原始特征图进行透视变换,以得到所述车牌区域对应的目标特征图。
6.根据权利要求5所述的车牌识别方法,其中,所述从所述原始特征图中,确定车牌区域对应的原始特征图,包括:
将所述原始特征图,输入全卷积网络进行对象识别,以在所述原始特征图中确定车牌候选框;
将处于所述车牌候选框内的所述原始特征图,作为所述车牌区域对应的原始特征图。
7.根据权利要求5所述的车牌识别方法,其中,所述对所述原始图像进行特征提取,以得到原始特征图,包括:
对所述原始图像识别文字区域;
对所述原始图像中的所述文字区域,以及所述文字区域外周的设定范围进行特征提取,以得到所述原始特征图。
8.一种车牌识别模型的训练方法,所述方法包括:
获取多个训练图像;
采用所述多个训练图像,对车牌识别模型进行训练,其中,所述车牌识别模型,包括特征提取网络和识别网络;
所述特征提取网络,用于获取车牌区域的特征图,其中,所述特征图之中包含多个特征向量;
所述识别网络,用于将所述多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个所述特征向量的第一编码;将所述多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个所述特征向量的第二编码;根据每一个所述特征向量的第一编码和每一个所述特征向量的第二编码,以生成多个所述特征向量的多个目标编码;对多个所述目标编码进行解码,以得到车牌中的多个字符。
9.根据权利要求8所述的训练方法,其中,所述获取训练图像,包括:
获取车牌集合和车辆外观图片;
根据所述车牌集合中的多个车牌,生成每一所述车牌对应的车牌图片;
将每一所述车牌对应的车牌图片分别与所述车辆图片合成,得到每一个所述车牌对应的训练图像;
对每一个所述训练图像,采用对应的所述车牌进行标注。
10.一种车牌识别装置,所述装置包括:
获取模块,用于获取车牌区域的特征图,其中,所述特征图之中包含多个特征向量;
第一编码模块,用于将所述多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个所述特征向量的第一编码;
第二编码模块,用于将所述多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个所述特征向量的第二编码;
生成模块,用于根据每一个所述特征向量的第一编码和每一个所述特征向量的第二编码,以生成多个所述特征向量的多个目标编码;
解码模块,用于对多个所述目标编码进行解码,以得到车牌中的多个字符。
11.根据权利要求10所述的车牌识别装置,其中,所述生成模块,包括:
拼接单元,用于对每一个所述特征向量,拼接所述第一编码和所述第二编码,以得到所述多个目标编码。
12.根据权利要求10所述的车牌识别装置,其中,所述解码模块,包括:
解码单元,用于对所述多个目标编码采用第三循环神经网络顺序地进行解码,以得到多个解码向量;以及
第一确定单元,用于根据所述多个解码向量,确定车牌中的多个字符。
13.根据权利要求12所述的车牌识别装置,其中,所述解码单元,还用于:
采用所述第三循环神经网络执行多轮解码过程;
其中,每一轮所述解码过程包括:
获取本轮解码的目标编码;
确定所述第三循环神经网络在上一轮解码输出的系统状态向量和所述本轮解码的目标编码之间的相似度;
根据所述相似度,对所述本轮解码的目标编码进行加权,得到本轮加权编码;
将所述本轮加权编码、所述上一轮解码输出的系统状态向量和上一轮解码输出的解码向量输入所述循环神经网络,以输出本轮解码的系统状态向量,和本轮解码的解码向量;
其中,首轮所述解码过程,还包括:
将设定的起始标识,确定为所述上一轮解码输出的解码向量;
将所述第二循环神经网络最后一次编码输出的系统状态向量,确定为所述上一轮解码输出的系统状态向量。
14.根据权利要求10-13任一项所述的车牌识别装置,其中,所述获取模块,包括:
获取单元,用于获取原始图像;
提取单元,用于对所述原始图像进行特征提取,以得到原始特征图;
第二确定单元,用于从所述原始特征图中,确定车牌区域对应的原始特征图;
变换单元,用于对所述车牌区域对应的原始特征图进行透视变换,以得到所述车牌区域对应的目标特征图。
15.根据权利要求14所述的车牌识别装置,其中,所述第二确定单元,用于:
将所述原始特征图,输入全卷积网络进行对象识别,以在所述原始特征图中确定车牌候选框;
将处于所述车牌候选框内的所述原始特征图,作为所述车牌区域对应的原始特征图。
16.根据权利要求14所述的车牌识别装置,其中,所述提取单元,还用于:
对所述原始图像识别文字区域;
对所述原始图像中的所述文字区域,以及所述文字区域外周的设定范围进行特征提取,以得到所述原始特征图。
17.一种车牌识别模型的训练装置,所述装置包括:
获取模块,用于获取多个训练图像;
训练模块,用于采用所述多个训练图像,对车牌识别模型进行训练,其中,所述车牌识别模型,包括特征提取网络和识别网络;
所述特征提取网络,用于获取车牌区域的特征图,其中,所述特征图之中包含多个特征向量;
所述识别网络,用于将所述多个特征向量,按照第一顺序依次输入第一循环神经网络进行编码,以得到每一个所述特征向量的第一编码;将所述多个特征向量,按照第二顺序依次输入第二循环神经网络进行编码,以得到每一个所述特征向量的第二编码;根据每一个所述特征向量的第一编码和每一个所述特征向量的第二编码,以生成多个所述特征向量的多个目标编码;对多个所述目标编码进行解码,以得到车牌中的多个字符。
18.根据权利要求17所述的训练装置,其中,所述获取模块,包括:
获取单元,用于获取车牌集合和车辆外观图片;
生成单元,用于根据所述车牌集合中的多个车牌,生成每一所述车牌对应的车牌图片;
合成单元,用于将每一所述车牌对应的车牌图片分别与所述车辆图片合成,得到每一个所述车牌对应的训练图像;
标注单元,用于对每一个所述训练图像,采用对应的所述车牌进行标注。
19.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的车牌识别方法,或者,执行权利要求8或9所述的车牌识别模型的训练方法。
20.一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的车牌识别方法,或者,执行权利要求8或9所述的车牌识别模型的训练方法。
CN202010536808.7A 2020-06-12 2020-06-12 车牌识别方法、车牌识别模型的训练方法和装置 Active CN111832568B (zh)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN202010536808.7A CN111832568B (zh) 2020-06-12 2020-06-12 车牌识别方法、车牌识别模型的训练方法和装置
US17/212,712 US20210209395A1 (en) 2020-06-12 2021-03-25 Method, electronic device, and storage medium for recognizing license plate
EP21169665.3A EP3907660A1 (en) 2020-06-12 2021-04-21 Method, apparatus, electronic device, and storage medium for recognizing license plate
JP2021076270A JP7166388B2 (ja) 2020-06-12 2021-04-28 ナンバープレート認識方法、ナンバープレート認識モデルの訓練方法及び装置
KR1020210075649A KR20210080291A (ko) 2020-06-12 2021-06-10 차량 번호판 인식 방법, 차량 번호판 인식 모델의 트레이닝 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010536808.7A CN111832568B (zh) 2020-06-12 2020-06-12 车牌识别方法、车牌识别模型的训练方法和装置

Publications (2)

Publication Number Publication Date
CN111832568A true CN111832568A (zh) 2020-10-27
CN111832568B CN111832568B (zh) 2024-01-12

Family

ID=72897932

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010536808.7A Active CN111832568B (zh) 2020-06-12 2020-06-12 车牌识别方法、车牌识别模型的训练方法和装置

Country Status (5)

Country Link
US (1) US20210209395A1 (zh)
EP (1) EP3907660A1 (zh)
JP (1) JP7166388B2 (zh)
KR (1) KR20210080291A (zh)
CN (1) CN111832568B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112508018A (zh) * 2020-12-14 2021-03-16 北京澎思科技有限公司 车牌识别方法、装置及存储介质
CN113191220A (zh) * 2021-04-15 2021-07-30 广州紫为云科技有限公司 一种基于深度学习的双层车牌识别方法
CN113850253A (zh) * 2021-08-24 2021-12-28 中国船舶重工集团公司第七0九研究所 基于深度学习的车牌识别方法及系统、服务器及介质
CN114945108A (zh) * 2022-05-14 2022-08-26 云知声智能科技股份有限公司 一种用于辅助视觉障碍者理解图片的方法及装置

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113807361B (zh) * 2021-08-11 2023-04-18 华为技术有限公司 神经网络、目标检测方法、神经网络训练方法及相关产品
KR102479671B1 (ko) * 2021-11-30 2022-12-21 주식회사 오토피디아 차량 부품 정보를 제공하기 위한 방법
CN115937837B (zh) * 2022-11-09 2023-10-27 粤丰科盈智能投资(广东)有限公司 一种基于位置编码的车牌检测方法、装置及计算机可读存储介质
KR102642630B1 (ko) 2023-04-03 2024-03-05 주식회사 이투온 식별 장치 및 이를 이용한 차량 번호판 인식 방법
CN117558136A (zh) * 2023-11-18 2024-02-13 广东有位智能科技有限公司 一种地区车牌智能识别系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107784303A (zh) * 2016-12-15 2018-03-09 平安科技(深圳)有限公司 车牌识别方法及装置
CN108229474A (zh) * 2017-12-29 2018-06-29 北京旷视科技有限公司 车牌识别方法、装置及电子设备
US20190095730A1 (en) * 2017-09-25 2019-03-28 Beijing University Of Posts And Telecommunications End-To-End Lightweight Method And Apparatus For License Plate Recognition
CN110070085A (zh) * 2019-04-30 2019-07-30 北京百度网讯科技有限公司 车牌识别方法和装置
CN110163199A (zh) * 2018-09-30 2019-08-23 腾讯科技(深圳)有限公司 车牌识别方法、车牌识别装置、车牌识别设备及介质
CN110490179A (zh) * 2018-05-15 2019-11-22 杭州海康威视数字技术股份有限公司 车牌识别方法、装置及存储介质
CN111079753A (zh) * 2019-12-20 2020-04-28 长沙千视通智能科技有限公司 一种基于深度学习与大数据结合的车牌识别方法及装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002342880A (ja) * 2001-05-18 2002-11-29 Hitachi Eng Co Ltd 車番認識装置
US9602728B2 (en) * 2014-06-09 2017-03-21 Qualcomm Incorporated Image capturing parameter adjustment in preview mode
CN107679531A (zh) * 2017-06-23 2018-02-09 平安科技(深圳)有限公司 基于深度学习的车牌识别方法、装置、设备及存储介质
US11170158B2 (en) * 2018-03-08 2021-11-09 Adobe Inc. Abstractive summarization of long documents using deep learning
TWI677826B (zh) * 2018-09-19 2019-11-21 國家中山科學研究院 車牌辨識系統與方法
CN111209783A (zh) * 2018-11-22 2020-05-29 台达电子工业股份有限公司 使用模拟物件影像的物件识别系统及其方法
US11537811B2 (en) * 2018-12-04 2022-12-27 Tesla, Inc. Enhanced object detection for autonomous vehicles based on field view
CN110033003B (zh) * 2019-03-01 2023-12-15 华为技术有限公司 图像分割方法和图像处理装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107784303A (zh) * 2016-12-15 2018-03-09 平安科技(深圳)有限公司 车牌识别方法及装置
US20190095730A1 (en) * 2017-09-25 2019-03-28 Beijing University Of Posts And Telecommunications End-To-End Lightweight Method And Apparatus For License Plate Recognition
CN108229474A (zh) * 2017-12-29 2018-06-29 北京旷视科技有限公司 车牌识别方法、装置及电子设备
CN110490179A (zh) * 2018-05-15 2019-11-22 杭州海康威视数字技术股份有限公司 车牌识别方法、装置及存储介质
CN110163199A (zh) * 2018-09-30 2019-08-23 腾讯科技(深圳)有限公司 车牌识别方法、车牌识别装置、车牌识别设备及介质
CN110070085A (zh) * 2019-04-30 2019-07-30 北京百度网讯科技有限公司 车牌识别方法和装置
CN111079753A (zh) * 2019-12-20 2020-04-28 长沙千视通智能科技有限公司 一种基于深度学习与大数据结合的车牌识别方法及装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
PALAIAHNAKOTE SHIVAKUMARA, DONGQI TANG, MARYAM ASADZADEHKALJAHI, TONG LU, UMAPADA PAL, MOHAMMAD HOSSEIN ANISI: "CNN-RNN based method for license plate recognition", CAAI TRANSACTIONS ON INTELLIGENCE TECHNOLOGY - 2018 / HTTPS://DOI.ORG/10.1049/TRIT.2018.1015 *
丁进超;张伟伟;吴训成;: "基于双向长短期记忆网络的车牌识别算法", 电子测量与仪器学报, no. 06 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112508018A (zh) * 2020-12-14 2021-03-16 北京澎思科技有限公司 车牌识别方法、装置及存储介质
CN113191220A (zh) * 2021-04-15 2021-07-30 广州紫为云科技有限公司 一种基于深度学习的双层车牌识别方法
CN113850253A (zh) * 2021-08-24 2021-12-28 中国船舶重工集团公司第七0九研究所 基于深度学习的车牌识别方法及系统、服务器及介质
CN114945108A (zh) * 2022-05-14 2022-08-26 云知声智能科技股份有限公司 一种用于辅助视觉障碍者理解图片的方法及装置

Also Published As

Publication number Publication date
EP3907660A1 (en) 2021-11-10
US20210209395A1 (en) 2021-07-08
JP7166388B2 (ja) 2022-11-07
CN111832568B (zh) 2024-01-12
KR20210080291A (ko) 2021-06-30
JP2021119506A (ja) 2021-08-12

Similar Documents

Publication Publication Date Title
CN111832568B (zh) 车牌识别方法、车牌识别模型的训练方法和装置
Yang et al. Deep detection network for real-life traffic sign in vehicular networks
Zhou et al. MFFENet: Multiscale feature fusion and enhancement network for RGB–thermal urban road scene parsing
Xie et al. Multilevel cloud detection in remote sensing images based on deep learning
Zhao et al. Semantic segmentation with attention mechanism for remote sensing images
CN109753885B (zh) 一种目标检测方法、装置以及行人检测方法、系统
CN111709328B (zh) 车辆跟踪方法、装置及电子设备
Xiao et al. Deep salient object detection with dense connections and distraction diagnosis
CN205721777U (zh) 视觉搜索设备和系统
WO2019222951A1 (en) Method and apparatus for computer vision
CN105956560A (zh) 一种基于池化多尺度深度卷积特征的车型识别方法
CN111783646B (zh) 行人再识别模型的训练方法、装置、设备和存储介质
Cho et al. Semantic segmentation with low light images by modified CycleGAN-based image enhancement
Gawande et al. SIRA: Scale illumination rotation affine invariant mask R-CNN for pedestrian detection
Zhang et al. Background subtraction using an adaptive local median texture feature in illumination changes urban traffic scenes
WO2020000171A1 (en) Method and apparatus for computer vision
CN115620090A (zh) 模型训练方法、低照度目标重识别方法和装置、终端设备
Sun et al. IRDCLNet: Instance segmentation of ship images based on interference reduction and dynamic contour learning in foggy scenes
Vaishali Real-time object detection system using caffe model
Liao et al. Multi-scale saliency features fusion model for person re-identification
CN111932530B (zh) 三维对象检测方法、装置、设备和可读存储介质
Zhang et al. Boosting transferability of physical attack against detectors by redistributing separable attention
CN113822134A (zh) 一种基于视频的实例跟踪方法、装置、设备及存储介质
CN112529917A (zh) 一种三维目标分割方法、装置、设备和存储介质
CN114283087A (zh) 一种图像去噪方法及相关设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant