CN113657372B - 一种车牌识别方法、装置、设备及计算机存储介质 - Google Patents

一种车牌识别方法、装置、设备及计算机存储介质 Download PDF

Info

Publication number
CN113657372B
CN113657372B CN202010396153.8A CN202010396153A CN113657372B CN 113657372 B CN113657372 B CN 113657372B CN 202010396153 A CN202010396153 A CN 202010396153A CN 113657372 B CN113657372 B CN 113657372B
Authority
CN
China
Prior art keywords
information
license plate
target
acquisition
determining
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010396153.8A
Other languages
English (en)
Other versions
CN113657372A (zh
Inventor
蒋鑫
熊诚锋
张群
陈智勇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Mobile Communications Group Co Ltd
China Mobile Shanghai ICT Co Ltd
Original Assignee
China Mobile Communications Group Co Ltd
China Mobile Shanghai ICT Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Mobile Communications Group Co Ltd, China Mobile Shanghai ICT Co Ltd filed Critical China Mobile Communications Group Co Ltd
Priority to CN202010396153.8A priority Critical patent/CN113657372B/zh
Publication of CN113657372A publication Critical patent/CN113657372A/zh
Application granted granted Critical
Publication of CN113657372B publication Critical patent/CN113657372B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Traffic Control Systems (AREA)

Abstract

本发明公开了一种车牌识别方法、装置、设备及计算机存储介质。该方法包括:获取多个采集节点的采集环境信息和每个采集节点采集的目标车牌的第一车牌信息;根据每个采集节点的采集环境信息对第一车牌信息按预设方式进行信息融合,确定目标车牌的第二车牌信息;根据多个时刻的第二车牌信息确定目标车牌的车牌信息。根据本发明实施例,能够提高车牌识别的精准度。

Description

一种车牌识别方法、装置、设备及计算机存储介质
技术领域
本发明属于信息处理领域,尤其涉及一种车牌识别方法、装置、设备及计算机存储介质。
背景技术
随着道路建设的不断普及与完善,道路上的车辆越来越多,为了保证交通安全,提高交通效率,识别车牌成为交通网络中尤为重要的一环。
车牌识别要求能够将运动中的汽车牌照从复杂背景中提取并识别出来,通过车牌提取、图像预处理、特征提取、车牌字符识别等技术,识别车辆牌号、颜色等信息。但是由于道路情况复杂,而且采集设备采集的车牌清晰度受环境影响较大,目前的车牌识别技术识别出的车牌精准度不够高,无法满足交通安全的需求。
基于此,如何提高车牌识别的精准度成为亟待解决的问题。
发明内容
本发明实施例提供一种车牌识别方法、装置、设备及计算机存储介质,能够提高车牌识别的精准度。
第一方面,提供了一种车牌识别方法,该方法包括:获取多个采集节点的采集环境信息和每个采集节点采集的目标车牌的第一车牌信息;根据每个采集节点的采集环境信息对第一车牌信息按预设方式进行信息融合,确定目标车牌的第二车牌信息;根据多个时刻的第二车牌信息确定目标车牌的车牌信息。
在一种可能的实现中,每个第二车牌信息包括标识信息,根据多个时刻的第二车牌信息确定目标车牌的车牌信息,包括:若第二车牌信息中的目标标识信息与全部标识信息的比值大于第一阈值,则提升目标标识信息的置信度为第一置信度;在所述第一置信度满足预设条件的情况下,将目标标识信息对应的第二车牌信息确定为目标车牌的车牌信息。
在一种可能的实现中,在预设方式为第一信息融合方式的情况下,根据每个采集节点的采集环境信息对第一车牌信息按预设方式进行信息融合,确定目标车牌的第二车牌信息,包括:将第一车牌信息拆分为多个字符,每个第一车牌信息包括的字符位相同;根据每个采集节点的采集环境信息确定每个第一车牌信息的第N个字符位的字符对应的权重;根据第一车牌信息的第N个字符位的字符和每个第一车牌信息的第N个字符位的字符对应的权重确定目标车牌的第二车牌信息;其中,N为正整数。
在一种可能的实现中,在预设方式为第二信息融合方式的情况下,根据每个采集节点的采集环境信息对第一车牌信息按预设方式进行信息融合,确定目标车牌的第二车牌信息,包括:根据每个采集节点的采集环境信息确定每个第一车牌信息对应的权重;根据第一车牌信息和每个第一车牌信息对应的权重确定目标车牌的第二车牌信息。
在一种可能的实现中,采集环境信息包括下述中的至少一项:光照强度信息、采集角度信息、采集距离信息和采集清晰度信息。
在一种可能的实现中,采集节点包括下述中的至少一项:摄像机、雷达传感器和TOF传感器。
在一种可能的实现中,在根据多个时刻的第二车牌信息确定目标车牌的车牌信息之前,方法还包括:比较多个时刻的第二车牌信息中第一时刻对应的第二车牌信息包括的第一字符串与第二时刻对应的第二车牌信息包括的第二字符串;若第一字符串与第二字符串一致,将第二时刻对应的第二车牌信息的第二标识信息替换为第一标识信息;第一时刻早于第二时刻。
第二方面,提供了一种车牌识别装置,装置包括:获取模块,用于多个采集节点的采集环境信息和每个采集节点采集的目标车牌的第一车牌信息;融合模块,用于根据每个采集节点的采集环境信息对第一车牌信息按预设方式进行信息融合,确定目标车牌的第二车牌信息;确定模块,用于将多个时刻的第二车牌信息确定出目标车牌的车牌信息。
第三方面,提供了一种计算设备,设备包括:处理器以及存储有计算机程序指令的存储器;处理器执行计算机程序指令时实现如第一方面任一可能的实现中的方法。
第四方面,提供了一种计算机存储介质,计算机存储介质上存储有计算机程序指令,计算机程序指令被处理器执行时实现如第一方面任一可能的实现中的方法。
基于本发明实施例提供的车牌识别方法、装置、设备及计算机存储介质,通过根据对多个采集节点的第一车牌信息进行信息融合,确定融合后的车牌信息,能够充分利用每个采集节点的车牌信息,提高车牌识别的准确度,然后根据多个时刻的融合后的车牌信息确定目标车牌的车牌信息,对单一时间确定的车牌信息进行修正,进一步提高了车牌识别的准确度。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例中所需要使用的附图作简单的介绍,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种车牌识别的场景示意图;
图2是本发明实施例提供的一种车牌识别方法的流程示意图;
图3是本发明实施例提供的一种实现车牌识别方法的流程示意图;
图4是本发明实施例提供的一种基于目标级融合实现车牌识别方法的流程示意图;
图5是本发明实施例提供的一种基于决策级融合实现车牌识别方法的流程示意图;
图6是本发明实施例提供的一种基于数据级融合实现车牌识别方法的流程示意图;
图7是本发明实施例提供的一种车牌识别装置的结构示意图;
图8是本发明实施例提供的示例性硬件架构的示意图。
具体实施方式
下面将详细描述本发明的各个方面的特征和示例性实施例,为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及具体实施例,对本发明进行进一步详细描述。应理解,此处所描述的具体实施例仅被配置为解释本发明,并不被配置为限定本发明。对于本领域技术人员来说,本发明可以在不需要这些具体细节中的一些细节的情况下实施。下面对实施例的描述仅仅是为了通过示出本发明的示例来提供对本发明更好的理解。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
车路协同技术是打造未来智慧交通系统的重要一环,通过建立汽车与路侧设备的信息感知和交互系统,实现交通信息的动态采集和融合,进而保证交通安全、提高交通效率,具有很好的应用价值。
其中,感知和交互系统的基础之一是对车辆身份的准确识别,这是和车主建立通信连接、对路况精准监控的必要保证。
如图1所示,道路上设置有多个采集节点(采集节点1、采集节点2、采集节点3和采集节点4等),每个采集节点都会采集目标车辆的车牌信息,但是由于视线遮挡、距离过远等问题,导致采集到的车牌信息出现误差。比如,图1中的采集节点的采集角度比较偏,采集到的车牌信息就会出现误差,采集节点4的采集距离过远,也会导致采集到的车牌信息出现误差。
此外,还有在车牌角度倾斜(角度过大)、光照过明亮或过暗、距离过远,以及视线遮挡等恶劣观测的情况下,也会导致识别车牌能力严重恶化,即识别性能恶化,对车牌上字符识别的准确率也随之降低,无法满足实际应用需求。鉴于单个传感器可能在恶劣观测环境下失效。
本发明实施例通过融合多个路侧传感器在不同倾角、光照、距离等观测环境下的多源车牌信息,以解决目前车牌识别的精准度低的问题。基于此,本发明提出一种车牌识别方法、装置、设备及计算机存储介质。
下面结合附图对本发明实施例提供的技术方案进行描述。
图2是本发明实施例提供的一种车牌识别方法的流程示意图。如图2所示,该方法的执行主体是服务器,该方法可以包括S201-S203,具体如下所示:
S201,获取多个采集节点的采集环境信息和每个采集节点采集的目标车牌的第一车牌信息。
S202,根据每个采集节点的采集环境信息对第一车牌信息按预设方式进行信息融合,确定目标车牌的第二车牌信息。
S203,根据多个时刻的第二车牌信息确定目标车牌的车牌信息。
下面对S202-S203分别进行介绍:
首先,涉及S201,道路两侧可以按照预设距离设置采集节点。当机动车行驶在道路上时,由于每个采集节点的所处的位置不同,所以每个采集节点的采集环境也各不相同,进而导致每个采集节点采集到的第一车牌信息也是有可能不同的,因此要获取多个采集节点的采集环境信息和每个采集节点采集的目标车牌的第一车牌信息,来为确定目标车牌的车牌信息做准备。
可选地,上述涉及到的采集环境信息包括下述中的至少一项:光照强度信息、采集角度信息、采集距离信息、采集清晰度信息和车速信息等。
示例性地,光照强度信息、采集角度信息、采集距离信息和采集清晰度信息均可以采用等级或分数的方式表示。比如,采集节点光照过强或过弱会降低该采集节点的分数,也就是采集节点对应的第一车牌信息的权重。再比如,在采集节点为摄像机的情况下,采集角度过偏会降低该采集节点的分数。
另外,如果采集节点采集车牌信息时,采集节点与车牌之间的倾斜角越小,该采集节点对应的权值越高;采集节点与车辆之间的距离越近,该采集节点对应的权值越高;以及车辆的行驶速度越小,该采集节点对应的权值越高。并且,上述几种调节权重的方式可以随机组合。
上述涉及到的采集节点可以包括下述中的至少一项:摄像机、雷达传感器和飞行时间(Time of Flight,TOF)传感器等用于获取采集环境信息和每个采集节点采集的目标车牌的第一车牌信息的设备。
具体地,摄像机可以拍摄车牌信息,还可以根据图像光流法测速。雷达传感器可以测量车辆的位置和速度,TOF传感器也可以测量车辆的位置和速度。
示例性地,对于同一采集节点,可以包括至少一种传感器。例如,一个采集节点包括摄像机和雷达传感器,雷达传感器用于测量目标车牌距离第一采集节点的距离,摄像机用于确定目标车牌的第一车牌信息,后续服务器就可以根据雷达传感器采集的目标车牌距离第一采集节点的距离确定摄像机采集的第一车牌信息的权重,为后续进行信息融合,确定目标车牌的第二车牌信息做准备。
其次,涉及S202,根据每个采集节点的采集环境信息确定每个采集节点的第一车牌信息的权重,根据每个第一车牌信息及其权重按预设方式进行信息融合,确定目标车牌的第二车牌信息。
可选地,在一个实施例中,在预设方式为第一信息融合方式的情况下,第一信息融合方式为目标级信息融合方式,目标级信息融合方式通过融合单个字符得到识别结果,S202具体可以包括以下步骤:
将第一车牌信息拆分为多个字符,每个第一车牌信息包括的字符位相同;根据每个采集节点的采集环境信息确定每个第一车牌信息的第N个字符位的字符对应的权重;根据第一车牌信息的第N个字符位的字符和每个第一车牌信息的第N个字符位的字符对应的权重确定目标车牌的第二车牌信息;其中,N为正整数。
示例性地,第一采集节点采集到的车牌信息为“京A12345”,第二采集节点采集到的车牌信息为“京A12346”……,那么对于第一个字符位来说,第一采集节点和第二采集节点采集的信息是一致的,所以确定第一字符为“京”。对于第六个字符位来说,第一采集节点和第二采集节点采集的信息中的字符不一致,就需要每个第一车牌信息的第N个字符位的字符对应的权重来确定第六个字符位的结果。
若第一采集节点采集到的车牌信息的第六个字符位的权重为0.6,第二采集节点采集到的车牌信息的第六个字符位的权重为0.4,则将第六个字符位确定为6,目标车牌的第二车牌信息为“京A12346”。
由于采集角度的不同,同一车牌信息包括的多个字符位的权重,是可以不相同的。
可选地,在另一个实施例中,在预设方式为第二信息融合方式的情况下,第二信息融合方式为决策级信息融合方式,决策级信息融合方式通过融合整体车牌信息得到识别结果,S202具体可以包括以下步骤:
根据每个采集节点的采集环境信息确定每个第一车牌信息对应的权重;根据第一车牌信息和每个第一车牌信息对应的权重确定目标车牌的第二车牌信息。
示例性地,第一采集节点采集到的车牌信息为“京A11345”第二采集节点采集到的车牌信息为“京A22346”……,比如,第一采集节点采集到的车牌信息的权重为0.3,第二采集节点采集到的车牌信息的第六个字符位的权重为0.8,那么目标车牌的第二车牌信息为“京A22346”。
最后,涉及S203,可选地,在一个实施例中,若第二车牌信息中的目标标识信息与全部标识信息的比值大于第一阈值,则提升目标标识信息的置信度为第一置信度,在第一置信度满足预设条件的情况下,将目标标识信息对应的第二车牌信息确定为目标车牌的车牌信息。
具体地,若目标标识信息对应的第二车牌信息中在多个时刻的第二车牌信息的集合中出现的频率大于第一阈值,则目标标识信息的置信度进行增长,相反则进行衰减,上述涉及的第一阈值可以根据实际需求设置。
这里,根据本时帧的最终输出(多个时刻的第二车牌信息以及多个时刻的第二车牌信息的置信度)对每个第二车牌信息的置信度动态修正,即根据目标标识信息对应的第二车牌信息中在多个时刻的第二车牌信息的集合中出现的频率来对每个第二车牌信息的置信度进行提升或降低,若出现的频率高则提升目标标识信息的置信度,若出现的频率低则降低目标标识信息的置信度,这样,能够进一步保证融合结果的准确度和时间稳定性。
字符全部一致的第二车牌信息具有相同的标识信息,例如,ID1对应“京A11345”,ID2对应“京A22346”。如果5秒内确定了10个第二车牌信息,“京A11345”出现了4次,“京A22346”出现了6次,那么ID1出现的频率为0.4,ID2出现的频率为0.6,若ID1出现的频率0.4大于第一阈值,则提升ID1(“京A11345”)的置信度,以这样的不断调整车牌的标识信息的置信度,直至第二车牌信息集合中出现满足预设条件的标识信息。
示例性地,若目标标识信息对应的第二车牌信息中在多个时刻的第二车牌信息的集合中出现的频率大于某一阈值α,则其在多源池中对应的置信度均*(1+β),否则均/(1+β);其中β为增长和/或衰减因子,该因子越大,系统稳定性越强,对变化的适应性越弱。作为本发明的一种实现方式,为了提升车牌信息识别的准确度,在S203之前,还可以包括以下步骤:
比较多个时刻的第二车牌信息中第一时刻对应的第二车牌信息包括的第一字符串与第二时刻对应的第二车牌信息包括的第二字符串;若第一字符串与第二字符串一致,将第二时刻对应的第二车牌信息的第二标识信息替换为第一标识信息;第一时刻早于第二时刻。
具体地,第一时刻对应的第二车牌信息的第一标识信息为ID1,第一时刻对应的第二车牌信息为“京A12346”;第二时刻对应的第二车牌信息的第二标识信息为ID2,第二时刻对应的第二车牌信息也为“京A12346”,将第二时刻对应的第二车牌信息的第二标识信息ID2替换为第一标识信息ID1。
需要提示的是,本发明实施例中出现的车牌信息均为示例性说明,不代表真实车牌信息。
基于本发明实施例提供的车牌识别方法,通过根据对多个采集节点的第一车牌信息进行信息融合,确定融合后的车牌信息,能够充分利用每个采集节点的车牌信息,提高车牌识别的准确度,然后根据多个时刻的融合后的车牌信息确定目标车牌的车牌信息,对单一时间确定的车牌信息进行修正,进一步提高了车牌识别的准确度。
另外,基于上述车牌识别方法,本发明实施例还提供了一种实现车牌识别方法,具体结合图3进行详细说明。该方法的执行主体是服务器,该方法可以包括S301-S307,具体如下所示:
S301,对每个路侧传感器节点采集的图像帧持续进行车牌识别。
首先,每个路测传感器节点采集图像帧;然后,每个路测传感器节点将采集到的图像帧发送给服务器;服务器对每个路侧传感器节点采集的图像帧持续进行车牌识别。
S302,确定T个时帧的每辆车的识别结果并存储,记为每辆车的“节点池”并不断更新。
首先,路测传感器节点采集T个时帧的每辆车的车牌信息;然后,每个路测传感器节点将采集到的T个时帧的每辆车的车牌信息发送给服务器;最后,服务器根据T个时帧的每辆车的车牌信息,确定出T个时帧的每辆车的识别结果,并将识别结果存储在“节点池”中。
其中,识别结果包括但不限于每个字符及每个字符对应置信度,平均置信度,车牌原图等。若某个节点本时帧未观察到该车辆,则其识别结果为空,仍然占据节点池一个时帧。
示例性地,T取值为50。
S303,通过关联总计R个路侧传感器节点识别到的车辆目标,针对每个车辆汇总该车R个传感器的节点池,并为每个节点加权,记为每辆车的“多源池”并不断更新。
其中,R为正整数。
多源池通过在R个路侧传感器相互关联的基础上,汇总多源信息。并利用传感器感知到的信息进行适宜的加权,提高信息融合的准确度。
示例性地,路侧传感器节点具有包括照相机和/或摄像头在内的多种传感器,除了拍摄图片/录制视频还具备感知车辆位置、速度的功能。则关联过程可以采用基于多传感器融合的融合关联方法;否则可以选用例如DeepSort算法在内的多目标纯视觉关联算法。
示例性地,若传感器节点同时具备感知车辆位置、速度的功能,可以用上述车辆运动信息为传感器节点加权:车牌倾斜角越小,车辆距离越近,车辆速度越小,权值越高;否则可以利用该节点车牌识别结果在下文所述结果池中出现的频次加权,频次越高,权值越高。另外,加权方式包括但不限于上述加权方法。
由此,通过建立多源池,融合多个路侧传感器在不同倾角、光照、距离等观测环境下的多源车牌信息,充分利用每个传感器的有益信息,为多源车牌信息添加适宜的权重,提升在恶劣观测环境下,车牌识别的准确度。
S304,对多源池中的数据进行决策级、目标级或者数据级融合,以多源池中结果的加权置信度累加和作为判据。
其中,决策级融合车牌整体识别结果,目标级融合单个字符识别结果,数据级融合原始车牌图像。
这里,通过建立多源池和结果池实现了多源动态的融合过程。该过程兼容决策级、目标级和数据级不同的融合方案,将多个路侧传感器原本时变的、分立的、互有差异的本地信息统一起来,实现全时间全路段车牌信息的数字化融合。
S305,将最大置信度判据对应结果作为该时段的最终输出。
S306,存储T’个时帧的最终输出,记为每辆车的“结果池”并不断更新。
示例性地,一种可能的T’取值为250。
进一步地,结果池可以实现关联修正算法等应用。下面具体结合具体示例进行说明:
示例一、基于车牌识别的错误关联核验机制:监测每一个车辆身份的结果池,若出现阶段性的变化(即某一时刻开始车牌变更为另一结果),则考虑重新为该目标分配身份。该方法可以有效减少将不同目标错误关联在一起的问题,提升关联的准确率。
示例二、基于车牌识别的新身份重检机制:将关联过程中新出现的车辆身份与原有车辆进行比对,即将新出现车辆的车牌和原有车辆结果池一一进行对比,若存相同结果则考虑将新出现车辆身份和原有同车牌车辆身份统一一致。该方法可以有效减少由于遮挡等原因引发的身份切换问题。
这里,通过结果池的建立支持进一步包括但不限于多源传感器节点间检测目标的关联算法的修正。通过基于车牌识别的错误关联核验机制和新身份重检机制提升关联的准确率,减少身份切换问题。
由此,通过建立结果池并利用结果池通过存储一个时段的最终输出对多源池进行动态修正,保证融合结果的时间稳定性。引入增长和/或衰减因子实现车牌识别最终结果时间稳定性和对变化适应性的平衡。
S307,根据本时帧最终输出在结果池中的频率对多源池中的置信度进行动态修正;将修正后的置信度添加至S303中涉及的多源池。
进一步地,最终结果在结果池中出现频率高,对其在多源池中的置信度进行增长;相反则进行衰减。
示例性地,若本时帧最终输出在结果池中频率大于某一阈值α,则其在多源池中对应的置信度均乘(1+β),否则均除以(1+β);其中β为增长和/或衰减因子,该因子越大,系统稳定性越强,对变化的适应性越弱。
由此,本发明实施例提供的一种实现车牌识别方法,通过建立多源池,融合多个路侧传感器在不同倾角、光照、距离等观测环境下的多源车牌信息,充分利用每个传感器的有益信息,为多源车牌信息添加适宜的权重,解决目前存在的车牌识别性能在恶劣观测环境下恶化的问题;通过建立结果池并利用结果池对多源池进行动态修正,保证融合结果的时间稳定性。引入增长和/或衰减因子实现车牌识别最终结果时间稳定性和对变化适应性的平衡;通过建立多源池和结果池实现了多源动态的融合过程。该过程兼容决策级、目标级和数据级不同的融合方案;将多个路侧传感器原本时变的、分立的、互有差异的本地信息统一起来,实现全时间全路段车牌信息的数字化融合。
另外,基于上述车牌识别方法,本发明实施例还提供了一种基于目标级融合实现车牌识别方法,具体结合图4进行详细说明。
图4所示的实施例是对上述图3中所示的S304和S305的一种可替代方案,详细描述对多源池中的数据进行目标级融合的方法。目标级融合方案融合单个字符识别结果,能够在保证运算效率的前提下获得较高的融合精度。
目标级融合方案在S302的基础上,多源池存储每个车牌字符位识别结果和该字符对应的节点加权置信度,对S304、S305的替代流程图如图4所示。
S401,将每辆车多源池的每个字符位进行汇总。示例性地,国内车牌总计7位,分为第一字符位、第二字符位、……、第七字符位。
S402,针对每一个字符位,在多源池中查找相同字符,以每种字符的加权置信度累加和作为第一判据。
判断最大第一判据是否唯一,若最大第一判据唯一,则进入S403,否则进入S404。
其中,第一判据可以为对给定字符位对应的字符的加权置信度的累加值。例如,第一字符位在多源池的多个车牌信息中有100个字符结果,其中60个重复的字符为“A”,40个重复的字符为“B”。对于“A”来说,累加60个字符为“A”的加权置信度即为第一判据。对于“B”来说,累加40个字符为“B”的加权置信度即为第一判据。
最大第一判据可以为给定字符位对应的多个字符的加权置信度的累加值,即多个第一判据中的最大值。若最大第一判据唯一,即最大第一判据只有一个,则进入S403。
若最大第一判据不唯一,即最大第一判据有两个以上,则进入S404。
S403,该字符位输出最大第一判据对应字符。
S404,计算所有最大第一判据对应字符在结果池中的置信度累加和,作为第二判据。
若最大第二判据唯一,则进入S403,否则进入S405。
在最大第一判据不唯一,即最大第一判据有两个以上的情况下,计算每个最大第一判据在结果池中的置信度累加和,得到第二判据。结果池中存储多个时帧的最终输出,也就是累加多个时帧的最大第一判据对应的字符的置信度,得到第二判据。
S405,通过两次最大置信度判据都无法确定最优融合结果,故保持上一时帧输出。
也就是说,在最大第一判据和最大第二判据均不唯一的情况下,保持上一时帧输出即可。
可选地,将该时帧在结果池中记录的置信度进行适当地衰减。
S406,将七个字符位组成完整车牌字符串作为本时帧最终输出。
相应地,在图3所示的S306中,结果池存储每个车牌字符位最终输出结果和该字符对应的平均置信度。
根据本发明的实施例,以车牌上每一个字符为融合对象,能够提高可操作性和实际应用性,还能在保证运算效率的前提下进一步提升融合精度。
另外,基于上述车牌识别方法,本发明实施例还提供了一种基于决策级融合实现车牌识别方法,具体结合图5进行详细说明。
图5所示的实施例是一种对上述图3中所示的S304和S305的可替代方案,详细描述对多源池中的数据进行决策级融合的方法。决策级融合方案融合车牌整体识别结果,适用于存储资源有限、计算资源紧张以及要求算法易于实现的应用场景。
决策级融合方案在上述S302的基础上,多源池存储车牌整体识别结果和整体对应的节点加权置信度。对S304、S305的替代流程图如图5所示。
S501,针对每辆车将多源池进行汇总,在多源池中查找相同识别结果,以每种结果的加权置信度累加和作为第一判据。
示例性地,车牌整体识别结果应当为7位字符串,其对应置信度为每个字符位置信度的平均值。若最大第一判据唯一,则进入第二步骤S502,否则进入第三步骤S505。
其中,第一判据可以为对目标车牌的加权置信度的累加值。例如,目标车牌在多源池的多个车牌信息中有100个字符结果,其中60个相同的车牌号为“京A12345”,40个相同的车牌号为“京A12346”。对于“京A12345”来说,累加60个车牌号为“京A12345”的加权置信度即为第一判据。对于“京A12346”来说,累加40个车牌号为“京A12346”的加权置信度即为第一判据。
若最大第一判据唯一,即第一判据中的最大值只有一个,则进入S502。
若最大第一判据不唯一,即第一判据中的最大值有两个以上,则进入S505。
S502,本时帧最终输出最大第一判据或者第二判据对应车牌整体识别结果。
可选地,将最大第一判据对应车牌号确定为车牌整体识别结果,即车牌号。
可选地,将最大第二判据对应车牌号确定为车牌整体识别结果,其中,最大第二判据为所有最大第一判据对应结果在结果池中的置信度累加和。相应地,在上述S306中,结果池存储车牌整体最终输出结果和对应的平均置信度。
S503,计算所有最大第一判据对应结果在结果池中的置信度累加和,作为第二判据。
若最大第二判据唯一,则进入第二步骤S502,否则进入第四步骤S504。
在最大第一判据有两个以上的情况下,计算每个最大第一判据在结果池中的置信度累加和,其中,结果池中存储多个时帧的车牌整体最终输出结果,也就是累加多个时帧的最大第一判据对应的车牌整体最终输出结果的置信度,得到第二判据。
S504,通过两次最大置信度判据都无法确定最优融合结果,故保持上一时帧输出。
相应地,在上述S306中,结果池存储车牌整体最终输出结果和对应的平均置信度。
具体地,可以将该时帧在结果池中记录的置信度进行适当地衰减。
根据本发明的实施例,融合车牌整体识别结果,能够缓解计算压力,在保证准确度的同时减少计算缓存。
另外,基于上述车牌识别方法,本发明实施例还提供了一种基于数据级融合实现车牌识别方法,具体结合图6进行详细说明。
图6所示的实施例是一种对上述图3中所示的S304和S305的可替代方案,详细描述对多源池中的数据进行数据级融合的方法。
数据级融合方案融合原始车牌图像,其精度依赖于图像融合技术的算法性能,更加适用于存储资源和计算资源丰富、图像融合算法性能优异的应用场景。
相应地,数据级融合方案S302中,多源池存储原始车牌图像和该节点该时帧权重。
对上述S304和S305的替代流程图如图6所示:
S601,针对每辆车,将多源池中的原始车牌图像和该节点该时帧权重进行汇总。
S602,原始车牌图像校正配准。
示例性地,可以采用包括但不限于方向场校正、投影变换校正等校正方法。
S603,变换域图像融合,利用节点权重对变换域内系数加权。
S604,对融合车牌图像进行字符识别。
S605,输出最大置信度对应结果。
相应地,在上述S306中,结果池存储车牌整体最终输出结果和对应的平均置信度;在在上述S307中,对多源池中的该节点的权重值进行动态修正。
根据本发明的实施例,仅通过摄像机采集的车牌图像,就可以融合多个车牌图像,得到目标车牌的车牌信息,由此,对采集车牌图像的设备要求低,实用性强。
另外,基于上述车牌识别方法,本发明实施例还提供了一种车牌识别装置,具体结合图7进行详细说明。
图7是本发明实施例提供的一种车牌识别装置的结构示意图,如图7所示,该装置700可以包括:
获取模块710,用于多个采集节点的采集环境信息和每个采集节点采集的目标车牌的第一车牌信息。
融合模块720,用于根据每个采集节点的采集环境信息对第一车牌信息按预设方式进行信息融合,确定目标车牌的第二车牌信息。
确定模块730,用于将多个时刻的第二车牌信息确定出目标车牌的车牌信息。
上述涉及到的采集环境信息包括下述中的至少一项:光照强度信息、采集角度信息、采集距离信息和采集清晰度信息。
上述涉及到的采集节点包括下述中的至少一项:摄像机、雷达传感器和TOF传感器。
作为一个示例,融合模块720具体用于将第一车牌信息拆分为多个字符,每个第一车牌信息包括的字符位相同;根据每个采集节点的采集环境信息确定每个第一车牌信息的第N个字符位的字符对应的权重;根据第一车牌信息的第N个字符位的字符和每个第一车牌信息的第N个字符位的字符对应的权重确定目标车牌的第二车牌信息;其中,N为正整数。
作为一个示例,融合模块720具体用于根据每个采集节点的采集环境信息确定每个第一车牌信息对应的权重;根据第一车牌信息和每个第一车牌信息对应的权重确定目标车牌的第二车牌信息。
作为一个示例,确定模块730具体用于若第二车牌信息中的目标标识信息与全部标识信息的比值大于第一阈值,则提升目标标识信息的置信度为第一置信度,在第一置信度满足预设条件的情况下,将目标标识信息对应的第二车牌信息确定为目标车牌的车牌信息。
确定模块730还可以用于比较多个时刻的第二车牌信息中第一时刻对应的第二车牌信息包括的第一字符串与第二时刻对应的第二车牌信息包括的第二字符串;若第一字符串与第二字符串一致,将第二时刻对应的第二车牌信息的第二标识信息替换为第一标识信息;第一时刻早于第二时刻。
该实施例提供的车牌识别装置的各个模块可以实现图2所示实例中的方法,为简洁描述,在此不再赘述。
基于本发明实施例提供的车牌识别装置,通过根据对多个采集节点的第一车牌信息进行信息融合,确定融合后的车牌信息,能够充分利用每个采集节点的车牌信息,提高车牌识别的准确度,然后根据多个时刻的融合后的车牌信息确定目标车牌的车牌信息,对单一时间确定的车牌信息进行修正,进一步提高了车牌识别的准确度。
图8是本发明实施例提供的一种硬件架构的示意图。
处理设备可以包括处理器801以及存储有计算机程序指令的存储器802。
上述处理器801可以包括中央处理器(Central Processing Unit,PU),或者特定集成电路(Application Specific Integrated Circuit,ASIC),或者可以被配置成实施本发明实施例的一个或多个集成电路。
存储器802可以包括用于数据或指令的大容量存储器。举例来说而非限制,存储器802可包括硬盘驱动器(Hard Disk Drive,HDD)、软盘驱动器、闪存、光盘、磁光盘、磁带或通用串行总线(Universal Serial Bus,USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下,存储器802可包括可移除或不可移除(或固定)的介质。在合适的情况下,存储器802可在综合网关容灾设备的内部或外部。在特定实施例中,存储器802是非易失性固态存储器。在特定实施例中,存储器802包括只读存储器(ROM)。在合适的情况下,该ROM可以是掩模编程的ROM、可编程ROM(PROM)、可擦除PROM(EPROM)、电可擦除PROM(EEPROM)、电可改写ROM(EAROM)或闪存或者两个或更多个以上这些的组合。
处理器801通过读取并执行存储器802中存储的计算机程序指令,以实现上述图2所示实例中的车牌识别方法。
在一个示例中,处理设备还可包括通信接口803和总线810。其中,如图8所示,处理器801、存储器802、通信接口803通过总线810连接并完成相互间的通信。
通信接口803,主要用于实现本发明实施例中各模块、装置、单元和/或设备之间的通信。
总线810包括硬件、软件或两者,将设备的部件彼此耦接在一起。举例来说而非限制,总线可包括加速图形端口(AGP)或其他图形总线、增强工业标准架构(EISA)总线、前端总线(FSB)、超传输(HT)互连、工业标准架构(ISA)总线、无限带宽互连、低引脚数(LPC)总线、存储器总线、微信道架构(MCA)总线、外围组件互连(PCI)总线、PCI-Express(PCI-X)总线、串行高级技术附件(SATA)总线、视频电子标准协会局部(VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下,总线810可包括一个或多个总线。尽管本发明实施例描述和示出了特定的总线,但本发明考虑任何合适的总线或互连。
该处理设备可以执行本发明实施例中的方法,从而实现结合图2-图6所示实例描述的方法。
另外,结合上述实施例中的方法,本发明实施例可提供一种计算机存储介质来实现。该计算机存储介质上存储有计算机程序指令;该计算机程序指令被处理器执行时实现上述实施例中的任意一项方法。
需要明确的是,本发明并不局限于上文所描述并在图中示出的特定配置和处理。为了简明起见,这里省略了对已知方法的详细描述。在上述实施例中,描述和示出了若干具体的步骤作为示例。但是,本发明的方法过程并不限于所描述和示出的具体步骤,本领域的技术人员可以在领会本发明的精神后,作出各种改变、修改和添加,或者改变步骤之间的顺序。
以上所述的结构框图中所示的功能块可以实现为软件方式,本发明的元素是被用于执行所需任务的程序或者代码段。程序或者代码段可以存储在机器可读介质中,或者通过载波中携带的数据信号在传输介质或者通信链路上传送。“机器可读介质”可以包括能够存储或传输信息的任何介质。机器可读介质的例子包括电子电路、半导体存储器设备、ROM、闪存、可擦除ROM(EROM)、软盘、CD-ROM、光盘、硬盘、光纤介质、射频(RF)链路,等等。代码段可以经由诸如因特网、内联网等的计算机网络被下载。
还需要说明的是,本发明中提及的示例性实施例,基于一系列的步骤或者装置描述一些方法或系统。但是,本发明不局限于上述步骤的顺序,也就是说,可以按照实施例中提及的顺序执行步骤,也可以不同于实施例中的顺序,或者若干步骤同时执行。
以上所述,仅为本发明的具体实施方式,所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的系统、模块和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。应理解,本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。

Claims (9)

1.一种车牌识别方法,其特征在于,所述车牌识别方法包括:
获取多个采集节点的采集环境信息和每个采集节点采集的目标车牌的第一车牌信息;
根据每个采集节点的采集环境信息对所述第一车牌信息按预设方式进行信息融合,确定所述目标车牌的第二车牌信息,所述预设方式包括:目标级信息融合方式和决策级信息融合方式中的至少一种,所述决策级信息融合方式通过融合整体第一车牌信息得到第二车牌信息,所述目标级信息融合方式通过融合所述第一车牌信息中的单个字符得到第二车牌信息;
根据多个时刻的所述第二车牌信息确定所述目标车牌的车牌信息,每个所述第二车牌信息包括标识信息;
所述根据多个时刻的所述第二车牌信息确定所述目标车牌的车牌信息,包括:
若所述第二车牌信息中的目标标识信息与全部标识信息的比值大于第一阈值,则提升所述目标标识信息的置信度为第一置信度;
在所述第一置信度满足预设条件的情况下,将所述目标标识信息对应的第二车牌信息确定为所述目标车牌的车牌信息。
2.根据权利要求1所述的方法,其特征在于,在所述预设方式为第一信息融合方式的情况下,所述根据每个采集节点的采集环境信息对所述第一车牌信息按预设方式进行信息融合,确定所述目标车牌的第二车牌信息,包括:
将所述第一车牌信息拆分为多个字符,每个所述第一车牌信息包括的字符位相同;
根据所述每个采集节点的采集环境信息确定每个第一车牌信息的第N个字符位的字符对应的权重;
根据所述第一车牌信息的第N个字符位的字符和所述每个第一车牌信息的第N个字符位的字符对应的权重确定所述目标车牌的第二车牌信息;
其中,N为正整数。
3.根据权利要求1所述的方法,其特征在于,在所述预设方式为第二信息融合方式的情况下,所述根据每个采集节点的采集环境信息对所述第一车牌信息按预设方式进行信息融合,确定所述目标车牌的第二车牌信息,包括:
根据所述每个采集节点的采集环境信息确定每个第一车牌信息对应的权重;
根据所述第一车牌信息和所述每个第一车牌信息对应的权重确定所述目标车牌的第二车牌信息。
4.根据权利要求1所述的方法,其特征在于,所述采集环境信息包括下述中的至少一项:
光照强度信息、采集角度信息、采集距离信息和采集清晰度信息。
5.根据权利要求1所述的方法,其特征在于,所述采集节点包括下述中的至少一项:摄像机、雷达传感器和TOF传感器。
6.根据权利要求1所述的方法,其特征在于,在所述根据多个时刻的所述第二车牌信息确定所述目标车牌的车牌信息之前,所述方法还包括:
比较所述多个时刻的第二车牌信息中第一时刻对应的第二车牌信息包括的第一字符串与第二时刻对应的第二车牌信息包括的第二字符串;
若所述第一字符串与所述第二字符串一致,将所述第二时刻对应的第二车牌信息的第二标识信息替换为第一标识信息;
所述第一时刻早于所述第二时刻。
7.一种车牌识别装置,其特征在于,所述装置包括:
获取模块,用于多个采集节点的采集环境信息和每个采集节点采集的目标车牌的第一车牌信息;
融合模块,用于根据每个采集节点的采集环境信息对所述第一车牌信息按预设方式进行信息融合,确定所述目标车牌的第二车牌信息,所述预设方式包括:目标级信息融合方式和决策级信息融合方式中的至少一种,所述决策级信息融合方式通过融合整体第一车牌信息得到第二车牌信息,所述目标级信息融合方式通过融合所述第一车牌信息中的单个字符得到第二车牌信息;
确定模块,用于将多个时刻的所述第二车牌信息确定出所述目标车牌的车牌信息,每个所述第二车牌信息包括标识信息;
确定模块,包括:
提升单元,用于若所述第二车牌信息中的目标标识信息与全部标识信息的比值大于第一阈值,则提升所述目标标识信息的置信度为第一置信度;
确定单元,用于在所述第一置信度满足预设条件的情况下,将所述目标标识信息对应的第二车牌信息确定为所述目标车牌的车牌信息。
8.一种计算设备,其特征在于,所述设备包括:处理器以及存储有计算机程序指令的存储器;所述处理器执行所述计算机程序指令时实现如权利要求1-6任意一项所述的车牌识别方法。
9.一种计算机存储介质,其特征在于,所述计算机存储介质上存
储有计算机程序指令,所述计算机程序指令被处理器执行时实现如权利要求1-6任意一项所述的车牌识别方法。
CN202010396153.8A 2020-05-12 2020-05-12 一种车牌识别方法、装置、设备及计算机存储介质 Active CN113657372B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010396153.8A CN113657372B (zh) 2020-05-12 2020-05-12 一种车牌识别方法、装置、设备及计算机存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010396153.8A CN113657372B (zh) 2020-05-12 2020-05-12 一种车牌识别方法、装置、设备及计算机存储介质

Publications (2)

Publication Number Publication Date
CN113657372A CN113657372A (zh) 2021-11-16
CN113657372B true CN113657372B (zh) 2024-05-07

Family

ID=78476808

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010396153.8A Active CN113657372B (zh) 2020-05-12 2020-05-12 一种车牌识别方法、装置、设备及计算机存储介质

Country Status (1)

Country Link
CN (1) CN113657372B (zh)

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002175587A (ja) * 2000-12-07 2002-06-21 Oriental Consultants:Kk 道路交通調査方法および同システム
JP2006329776A (ja) * 2005-05-25 2006-12-07 Sumitomo Electric Ind Ltd 車両位置検出方法、並びに車両速度検出方法及び装置
JP2009042907A (ja) * 2007-08-07 2009-02-26 Mitsubishi Heavy Ind Ltd 旅行時間計測装置
US8620078B1 (en) * 2009-07-14 2013-12-31 Matrox Electronic Systems, Ltd. Determining a class associated with an image
CN105405298A (zh) * 2015-12-24 2016-03-16 浙江宇视科技有限公司 一种车牌标识的识别方法和装置
CN108052931A (zh) * 2018-01-05 2018-05-18 北京智芯原动科技有限公司 一种车牌识别结果融合方法及装置
WO2018116298A1 (en) * 2016-12-19 2018-06-28 Telicomm City Connect, Ltd. Predictive network management for real-time video with varying video and network conditions
CN110084232A (zh) * 2018-01-25 2019-08-02 浙江宇视科技有限公司 车牌中汉字字符的识别方法、装置及终端设备
CN110224885A (zh) * 2019-05-31 2019-09-10 东软集团股份有限公司 设备监控的告警方法、装置、存储介质及电子设备
CN110796052A (zh) * 2019-10-21 2020-02-14 和昌未来科技(深圳)有限公司 车牌识别方法、装置、设备及可读介质
CN110796144A (zh) * 2019-11-08 2020-02-14 北京字节跳动网络技术有限公司 车牌检测方法、装置、设备及存储介质

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103632542A (zh) * 2012-08-27 2014-03-12 国际商业机器公司 交通信息处理方法、装置和相应设备

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002175587A (ja) * 2000-12-07 2002-06-21 Oriental Consultants:Kk 道路交通調査方法および同システム
JP2006329776A (ja) * 2005-05-25 2006-12-07 Sumitomo Electric Ind Ltd 車両位置検出方法、並びに車両速度検出方法及び装置
JP2009042907A (ja) * 2007-08-07 2009-02-26 Mitsubishi Heavy Ind Ltd 旅行時間計測装置
US8620078B1 (en) * 2009-07-14 2013-12-31 Matrox Electronic Systems, Ltd. Determining a class associated with an image
CN105405298A (zh) * 2015-12-24 2016-03-16 浙江宇视科技有限公司 一种车牌标识的识别方法和装置
WO2018116298A1 (en) * 2016-12-19 2018-06-28 Telicomm City Connect, Ltd. Predictive network management for real-time video with varying video and network conditions
CN108052931A (zh) * 2018-01-05 2018-05-18 北京智芯原动科技有限公司 一种车牌识别结果融合方法及装置
CN110084232A (zh) * 2018-01-25 2019-08-02 浙江宇视科技有限公司 车牌中汉字字符的识别方法、装置及终端设备
CN110224885A (zh) * 2019-05-31 2019-09-10 东软集团股份有限公司 设备监控的告警方法、装置、存储介质及电子设备
CN110796052A (zh) * 2019-10-21 2020-02-14 和昌未来科技(深圳)有限公司 车牌识别方法、装置、设备及可读介质
CN110796144A (zh) * 2019-11-08 2020-02-14 北京字节跳动网络技术有限公司 车牌检测方法、装置、设备及存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Method for multiple feature extraction of characters and application in vehicle license plate recognition;He Zhaocheng;Computer Engineering And Applications;第47卷(第23期);228-31 *
图像融合技术在车牌识别中的应用;董燕;朱永胜;刘聪;;计算机测量与控制(第03期);247-249 *

Also Published As

Publication number Publication date
CN113657372A (zh) 2021-11-16

Similar Documents

Publication Publication Date Title
CN1223964C (zh) 用于测量车辆队列长度的装置和方法
CN102118561B (zh) 监控系统中相机移动检测系统及方法
CN108196285B (zh) 一种基于多传感器融合的精确定位系统
CN111582130B (zh) 一种基于多源异构信息的交通行为感知融合系统及方法
CN103310435B (zh) 将垂直投影和最优路径相结合对车牌字符进行分割的方法
WO2023197232A9 (zh) 目标跟踪方法及装置、电子设备、计算机可读介质
CN110322687B (zh) 确定目标交叉口运行状态信息的方法和装置
CN115205559A (zh) 一种跨域车辆重识别及连续轨迹构建方法
CN113052159A (zh) 一种图像识别方法、装置、设备及计算机存储介质
CN112488043B (zh) 一种基于边缘智能的无人机车辆目标检测方法
CN113657372B (zh) 一种车牌识别方法、装置、设备及计算机存储介质
CN117152949A (zh) 一种基于无人机的交通事件识别方法及系统
CN104282157A (zh) 一种用于交通信号控制的干线视频流量检测方法
CN115393655A (zh) 基于YOLOv5s网络模型的工业运载车的检测方法
CN110837775A (zh) 一种基于二值化网络的井下机车行人及距离检测方法
US11815362B2 (en) Map data generation apparatus
KR102596186B1 (ko) 차량의 이동 거리에 따라 차량의 주행 정보를 전송하는 차량용 전자 장치 및 방법
CN115909285A (zh) 一种雷达和视频信号融合的车辆跟踪方法
JP6997664B2 (ja) 状態判定装置
JP2012203722A (ja) 地物選定システム、地物選定プログラム及び地物選定方法
JP7327355B2 (ja) 地図更新装置及び地図更新方法
CN113487688B (zh) 一种道路标志检测方法、装置以及计算机可读存储介质
CN115861379B (zh) 孪生网络基于局部可信模板进行模板更新的视频跟踪方法
CN113888602B (zh) 一种雷达车辆目标与视觉车辆目标的关联方法及装置
CN115985113B (zh) 交通信号灯控制方法及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant