CN113984072B - 车辆定位方法、装置、设备、存储介质及自动驾驶车辆 - Google Patents

车辆定位方法、装置、设备、存储介质及自动驾驶车辆 Download PDF

Info

Publication number
CN113984072B
CN113984072B CN202111266023.3A CN202111266023A CN113984072B CN 113984072 B CN113984072 B CN 113984072B CN 202111266023 A CN202111266023 A CN 202111266023A CN 113984072 B CN113984072 B CN 113984072B
Authority
CN
China
Prior art keywords
positioning
matching
image
elements
map
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111266023.3A
Other languages
English (en)
Other versions
CN113984072A (zh
Inventor
高巍
侯深化
何宇喆
彭亮
万国伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apollo Intelligent Technology Beijing Co Ltd
Original Assignee
Apollo Intelligent Technology Beijing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Apollo Intelligent Technology Beijing Co Ltd filed Critical Apollo Intelligent Technology Beijing Co Ltd
Priority to CN202111266023.3A priority Critical patent/CN113984072B/zh
Publication of CN113984072A publication Critical patent/CN113984072A/zh
Application granted granted Critical
Publication of CN113984072B publication Critical patent/CN113984072B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/28Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network with correlation of data from several navigational instruments
    • G01C21/30Map- or contour-matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Navigation (AREA)

Abstract

本公开提供了车辆定位方法、装置、设备、存储介质及自动驾驶车辆,涉及人工智能技术领域,尤其涉及自动驾驶技术领域。具体实现方案为:获取目标车辆运行环境的环境图像;根据环境图像确定图像定位元素;图像定位元素与预先构建的定位地图中的地图定位元素具有多类初始匹配关系;在多类初始匹配关系中,确定满足预设的第一匹配条件的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素;根据第一匹配元素确定目标车辆的定位数据。本公开的技术方案可提高定位数据的计算精度和鲁棒性,以满足自动驾驶车辆的使用需求。

Description

车辆定位方法、装置、设备、存储介质及自动驾驶车辆
技术领域
本公开涉及人工智能技术领域,尤其涉及自动驾驶技术领域,具体涉及车辆定位方法、装置、设备、存储介质及自动驾驶车辆。
背景技术
定位初始化是自动驾驶车辆正常工作的前提,在定位初始化阶段会对自动驾驶车辆的位置和朝向进行估计,确定自动驾驶车辆在地图中的具体位姿状态,可对自动驾驶车辆的行驶、路径规划等提供依据。
现有的自动驾驶车辆的定位初始化方法通常需要将全球导航卫星系统(GNSS)与激光雷达(LiDAR)配合使用,确定自动驾驶车辆的位姿状态,但该方法的精度不够高,误差较大甚至得到错误的位姿状态,且鲁棒性较差。
发明内容
本公开提供了一种车辆定位方法、装置、设备、存储介质及自动驾驶车辆。
根据本公开的第一方面,提供了一种车辆定位方法,包括:
获取目标车辆运行环境的环境图像;
根据环境图像确定图像定位元素;图像定位元素与预先构建的定位地图中的地图定位元素具有多类初始匹配关系;
在多类初始匹配关系中,确定满足预设的第一匹配条件的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素;
根据第一匹配元素确定目标车辆的定位数据。
根据本公开的第二方面,提供了一种车辆定位装置,包括:
第一图像获取模块,用于获取目标车辆运行环境的环境图像;
第一元素确定模块,用于根据环境图像确定图像定位元素;图像定位元素与预先构建的定位地图中的地图定位元素具有多类初始匹配关系;
匹配模块,用于在多类初始匹配关系中,确定满足预设的第一匹配条件的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素;
定位模块,用于根据第一匹配元素确定目标车辆的定位数据。
根据本公开的第三方面,提供了一种电子设备,包括:
至少一个处理器;以及
与至少一个处理器通信连接的存储器;其中,
存储器存储有可被至少一个处理器执行的指令,该指令被至少一个处理器执行,以使至少一个处理器能够执行本公开第一方面提供的车辆定位方法。
根据本公开的第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行本公开第一方面提供的车辆定位方法。
根据本公开的第五方面,提供了一种计算机程序产品,包括计算机程序,该计算机程序在被处理器执行时实现本公开第一方面提供的车辆定位方法。
根据本公开的第六方面,提供了一种自动驾驶车辆,包括:本公开第二方面提供的车辆定位装置,或本公开第三方面提供的电子设备。
本公开提供的车辆定位方法、装置、设备、存储介质及自动驾驶车辆,可基于环境图像中图像定位元素和定位地图中地图定位元素之间的多类初始匹配关系,确定出满足第一匹配条件的初始匹配关系,进而根据满足第一匹配条件的该初始匹配关系中的各定位元素确定目标车辆的定位数据,可提高定位数据的计算精度和鲁棒性,以满足自动驾驶车辆的使用需求。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是本公开实施例提供的一种车辆定位方法的流程示意图;
图2是本公开实施例涉及的第一类匹配关系的示意图;
图3是本公开实施例涉及的第二类匹配关系的示意图;
图4是本公开实施例涉及的第三类匹配关系的示意图;
图5是本公开实施例提供的另一种车辆定位方法的部分流程示意图;
图6是现有的一种对图像定位元素和地图定位元素进行匹配的原理示意图;
图7是本公开实施例提供的基于备选图像定位元素的至少两个特征信息对图像定位元素和地图定位元素进行匹配的原理示意图;
图8是本公开实施例提供的又一种车辆定位方法的部分流程示意图;
图9是本公开实施例提供的再一种车辆定位方法的部分流程示意图;
图10是本公开实施例提供的一种车辆定位装置的结构框架示意图;
图11是本公开实施例提供的车辆定位装置中的一种匹配模块的结构框架示意图;
图12是本公开实施例提供的车辆定位装置中的一种定位模块的结构框架示意图;
图13是用来实现本公开实施例的车辆定位方法的电子设备的结构框架示意图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
根据本公开的实施例,本公开提供了一种车辆定位方法,如图1所示,该车辆定位方法包括:
S101,获取目标车辆运行环境的环境图像。
可选的,获取的环境图像可以图像采集装置采集的实时环境图像,也可以是图像采集装置采集的距离当前时刻较近的历史环境图像。
可选的,获取的环境图像可以是一帧或多帧。
S102,根据环境图像确定图像定位元素。
图像定位元素与预先构建的定位地图中的地图定位元素具有多类初始匹配关系。图像定位元素可以是用于表征环境图像中的定位信息的元素,地图定位元素可以是用于表征定位地图中的定位信息的元素,初始匹配关系可反映各图像定位元素和各地图定位元素的匹配情况,例如某个图像定位元素和某个地图定位元素属于同一定位标牌或其它定位标记的情况。
在一种可选的实施方式中,在获取的环境图像为一帧的情况下,可通过光学字符识别(OCR)技术识别该帧环境图像中的图像定位元素。
在另一种可选的实施方式中,在获取的环境图像为两帧以上的情况下,可通过OCR技术识别每帧环境图像中的图像定位元素,根据各帧环境图像中的图像定位元素,确定一组图像定位元素。
本公开实施例中的图像定位元素可以是通过OCR技术对环境图像中的定位标牌进行识别得到。定位标牌可以是具有文本信息、身份标识号码(ID)信息等明确特征信息的标志物,例如可以带有ID的标牌、限速标牌、警示标牌、导流标识、反光条等,本公开实施例对定位标牌的形状不作限定,可以是矩形、正方形、圆形等多种形状,定位标牌可以预先设置在目标车辆运行环境中,以便于目标车辆在需要时进行图像采集。识别出的图像定位元素可以携带有定位标牌文本信息、ID信息以及在所属图像中的位置信息等多种特征信息。
在一个示例中,若预先在运行环境中设置3个定位标牌,通过图像采集装置采集10帧环境图像且每一帧环境图像都拍摄到了3个定位标牌,每个定位标牌都可识别出10个图像定位元素,可从该10个图像定位元素中确定出一个图像定位元素作为该定位标牌的关联定位元素,3个定位标牌可确定出3个关联定位元素,该3个关联定位元素即作为环境图像的一组图像定位元素,用于后续处理。
在上述示例中,可通过以下确定每个定位标牌的关联定位元素:将基于该定位标牌识别出的10个图像定位元素在所属图像中的位置信息取平均值,得到该定位标牌的关联定位元素的图像位置信息;将该10个图像定位元素的文本信息中出现次数最多的一个文本信息作为该定位标牌的关联定位元素的文本信息;将该10个图像定位元素的ID信息中出现次数最多的一个ID信息作为该定位标牌的关联定位元素的ID信息,得到的关联定位元素的各特征信息可共同构成该关联定位元素的信息。
上述基于多帧环境图像确定图像定位元素的方式,可消除随机选一帧环境图像进行识别所引入的不确定性,提高图像识别的可靠性。
本公开实施例中的初始匹配关系可以通过以下任意一种方式得到:方式一,在图像采集装置的位姿状态(pose)未知的情况下,随机设置或基于经验规律进行设置;方式二,基于已知的图像采集装置的位姿状态确定,此方式下,图像采集装置的位姿状态可根据经验值预先设置。
本公开实施例中识别出的图像定位元素可以是多个,可避免仅使用单个图像定位元素进行匹配所引入的不确定性。
S103,在多类初始匹配关系中,确定满足预设的第一匹配条件的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素。
在一种可选的实施方式中,在多类初始匹配关系中,确定满足预设的第一匹配条件的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素,包括:
在目标车辆的图像采集装置的位姿状态未知的情况下,在多类初始匹配关系中,选出满足预设的一致性条件的初始匹配关系;在选出的各类初始匹配关系中,确定成功匹配的图像定位元素数量最多的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素。
在一个示例中,对于任意一类初始匹配关系,若基于该初始匹配关系中的图像定位元素可以计算出图像采集装置的位姿状态,则认为该初始匹配关系满足一致性条件,否则认为该初始匹配关系不满足一致性条件。
图2至图4作为一种示例示出了三类初始匹配关系,图中的每个方框代表一个定位元素,A、B和C为图像定位元素,A’、B’和C’为A、B和C三个图像定位元素分别对应的地图定位元素,基于图2至图4的三类初始匹配关系可分别通过多点透视(PnP)问题求解算法求出图像采集装置的位姿状态,也可以用其它可以位姿状态的算法进行计算。
在一个示例中,基于图2所示的第一类初始匹配关系和将图4所示的第三类初始匹配关系,均可以求出图像采集装置的位姿状态T,基于图3所示的第二类初始匹配关系无法求出图像采集装置的位姿状态T,则图2所示的第一类初始匹配关系和图4所示的第三类初始匹配关系满足一致性条件,图3所所示的第二类初始匹配关系不满足一致性条件。在满足一致性条件的图2和图4的图像定位元素中,图2所示的第一类匹配关系中的成功匹配的图像定位元素数量最多,因此可将图2所示的第一类匹配关系中的图像定位元素A、B、C和地图定位元素A’、B’、C’作为第一匹配元素,用于后续计算。
通过该种方式,可在目标车辆的图像采集装置的位姿状态未知的情况下进行第一次匹配,在多类初始匹配关系中筛选出最大一致的匹配关系,进而得到最大一致的匹配元素即第一匹配元素,为后续的定位计算提供更可靠的匹配元素基础。
在另一种可选的实施方式中,在多类初始匹配关系中,确定满足预设的第一匹配条件的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素,包括:
在目标车辆的图像采集装置的位姿状态已知的情况下,在多类初始匹配关系中,确定成功匹配的图像定位元素数量最多的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素。
该种方式下,图像采集装置的位姿状态可以根据实际情况或经验数据预先设置。
通过该种方式,可在目标车辆的目标车辆的图像采集装置的位姿状态已知的情况下,在多类初始匹配关系中筛选出最大一致的匹配关系,进而得到最大一致的匹配元素即第一匹配元素,为后续的定位计算提供更可靠的匹配元素基础。
S104,根据第一匹配元素确定目标车辆的定位数据。
在一种可选的实施方式中,根据第一匹配元素确定目标车辆的定位数据,包括:
根据第一匹配元素确定图像采集装置的当前位姿状态,根据图像采集装置的当前位姿状态、以及图像采集装置与目标车辆的惯性传感器(IMU)的位姿关系,确定IMU的位姿状态。
在一个示例中,可通过PnP问题求解算法求出图像采集装置的当前位姿状态。
在另一种可选的实施方式中,如图5所示,根据第一匹配元素确定目标车辆的定位数据,包括如下步骤S501-S504:
S501,根据第一匹配元素确定目标车辆的图像采集装置的当前位姿状态。
参照前面的内容,本步骤可通过PnP问题求解算法实现。
S502,确定备选图像定位元素和地图定位元素在图像采集装置的当前位姿状态下的多类备选匹配关系。
备选图像定位元素为第一匹配元素之外的图像定位元素,即确定第一匹配元素的过程中未成功匹配的图像定位元素。
在一种可选的实施方式中,在图像采集装置的当前位姿状态下,根据备选图像定位元素中地图定位元素在定位地图中的位置信息和图像采集装置的成像模型进行成像,得到成像结果,成像结果包含有成像后的地图定位元素的信息,根据第一匹配元素中的图像定位元素与上述成像结果中的地图定位元素中的匹配度确定图像定位元素和地图定位元素的多类匹配关系,作为多类备选匹配关系。备选匹配关系可反映各备选图像定位元素和各地图定位元素的匹配情况,例如某个备选图像定位元素和某个地图定位元素属于同一定位标牌或其它定位标记的情况。
图像采集装置的成像模型的参数可预先标定,在一个示例中,可采用张氏标定法来预先标定。
在一种可选的实施方式中,可基于备选图像定位元素的一个指定的特征信息、以及该特征信息和地图定位元素的对应关系,确定备选图像定位元素和地图定位元素在图像采集装置的当前位姿状态下的多类备选匹配关系。
在另一种可选的实施方式中,基于备选图像定位元素的至少两个特征信息、以及备选图像定位元素的特征信息和地图定位元素的对应关系,确定备选图像定位元素和地图定位元素在图像采集装置的当前位姿状态下的多类备选匹配关系。此方式可扩大图像定位元素在地图上的匹配范围,对同一图像定位元素可匹配出更多的地图定位元素,可有效减少或避免漏匹配和误匹配。
参照前面的内容,备选图像定位元素的至少两个特征信息可以是备选图像定位元素的文本信息、ID信息以及备选图像定位元素在所属图像中的位置信息等至少两种特征信息。指定的特征信息可以是根据经验确定出的匹配准确性较高的特征信息,例如ID信息。
图6示出了现有的一种图像定位元素和地图定位元素的匹配方式,该匹配方式下对于一个图像定位元素,例如图6中的图像定位元素B,通常只能匹配出一个地图定位元素,由于图像采集装置的位置通常存在一定误差,很容易匹配到错误的地图定位元素,例如图6中的地图定位元素A’,进而得到错误匹配关系。
图7示出了本公开实施例提供的基于备选图像定位元素的至少两个特征信息进行匹配的示意图,图像定位元素B可以匹配到更多的地图定位元素,例如图7中的地图定位元素A’和B’,匹配范围扩大后,有更大的概率将正确的地图定位元素(例如B’)涵盖进来扩大后的匹配范围,可以减少或避免漏匹配。当至少两个特征信息包括指定的特征信息(例如ID信息)时,可进一步提高匹配的准确性。
S503,在多类备选匹配关系中,确定满足预设的第二匹配条件的备选匹配关系中的图像定位元素和地图定位元素为第二匹配元素。
可选的,在多类备选匹配关系中,确定成功匹配的图像定位元素数量最多的备选匹配关系中的图像定位元素和地图定位元素为第二匹配元素。即对于某一类备选匹配关系,其中成功匹配的图像定位元素数量在各类备选匹配关系中最多时,认为该类备选匹配关系满足第二匹配条件。
通过该种方式,可在多类备选匹配关系中筛选出最大一致的匹配关系,进而得到本次匹配过程中最大一致的匹配元素即第二匹配元素,实现对匹配元素的优化,为后续的定位计算提供更可靠的匹配元素基础。
S504,根据第二匹配元素确定目标车辆的定位数据。
可选的,根据第二匹配元素确定目标车辆的图像采集装置的当前位姿状态;根据该当前位姿状态、以及图像采集装置与IMU的相对位姿关系,确IMU的位姿状态,该IMU的位姿状态即作为目标车辆的定位数据。
在一个示例中,在根据第二匹配元素确定目标车辆的图像采集装置的当前位姿状态时,可通过光束平差(BA)算法实现,BA算法通过最优化问题求解的方式即最小化匹配元素的重投影误差来实现对图像采集装置的当前位姿状态,其表达式如下:
argminTi∈{matchingpoints}‖πc(TPi)-pi2 表达式(1)
在表达式(1)中,T为要求取的图像采集装置的位姿状态,{matching point*}为图像定位元素和地图定位元素的角点集合,πc为图像采集装置的成像模型,Pi为第i组匹配元素(每组匹配元素中包括成功匹配的一个图像定位元素和地图定位元素)中的地图定位元素的角点的三维度(3D)坐标,pi为第i组匹配元素中的图像定位元素的角点的平面(2D)坐标。
图像采集装置与IMU的相对位姿关系可预先标定,在一个示例中,可采用Kalibr工具进行标定,标定后可存储于目标车辆的存储器中,以备后续调用。
基于上述步骤S501-S504的实施方式,本公开实施例可对第一次匹配过程中未成功匹配的图像定位元素再次与地图定位元素进行匹配,得到满足第二匹配条件的备选匹配关系,实现匹配过程的优化,排除因地图数据变更、定位元素变更、定位元素分布不均、识别错误等因素带来的无效匹配,进而得到第二次匹配过程中最大一致的匹配元素,基于该最大一致的匹配元素进行目标车辆的定位数据的计算,可进一步提高计算精度和计算精度的稳定性,使定位误差控制在十厘米以内,定位错误率小于2%,定位过程耗时小于4秒。
在又一种可选的实施方式中,如图8所示,根据第一匹配元素确定目标车辆的定位数据,包括如下步骤S801-S806:
S801,根据第一匹配元素确定目标车辆的图像采集装置的当前位姿状态。
S802,确定备选图像定位元素和地图定位元素在图像采集装置的当前位姿状态下的多类备选匹配关系。
S803,在多类备选匹配关系中,确定满足预设的第二匹配条件的备选匹配关系中的图像定位元素和地图定位元素为第二匹配元素。
S804,根据第二匹配元素确定目标车辆的定位数据。
步骤S801-S804的具体可选实施方式可参照前述的步骤S501-S504的相关内容,此处不再赘述。
S805,确定目标车辆的定位数据是否在预设阈值范围内。
可选的,确定目标车辆的位姿状态是否在预设阈值范围,该预设阈值范围可根据实际需求设置。
S806,对第二匹配元素之外的图像定位元素和地图定位元素进行至少一次匹配,直到基于该至少一次匹配的结果得到的目标车辆的定位数据在预设阈值范围内。
每次匹配的具体方式以及定位数据的计算方式可以参照前面的步骤S501至S504,将S501中的第一匹配元素替换为当前的第二匹配元素进行匹配,以得到新的备选匹配关系和新的第二匹配元素,根据新的第二匹配元素可确定出新的目标车辆的定位数据。
基于上述S801-S806的实施方式,可在第二次匹配之后得到的定位数据不满足需求的情况下,继续进行图像定位元素和地图定位元素的匹配的不断对匹配关系进而对定位结果进行优化,以更好地满足用户的使用需求。
在一种可选的实施方式中,如图9所示,本公开实施例提供的车辆定位方法还包括通过如下步骤S901-S904的方式预先构建定位地图:
S901,获取目标车辆运行环境的历史环境图像。
可选的,获取的历史环境图像可以多帧,可以是与当前时刻较近的一个历史时间段内由图像采集装置采集到的环境图像。
S902,根据历史环境图像确定历史图像定位元素。
根据历史环境图像确定历史图像定位元素的具体方式可参照前述的步骤S120的相关内容,此处不再赘述。
S903,根据历史图像定位元素在历史环境图像中的第一特征信息,确定历史图像定位元素在目标车辆运行环境的初始定位地图中的第二特征信息。
可选的,第一特征信息可以包括预先设置且被图像采集装置采集到的定位标牌(作为历史图像定位元素的定位标牌)的文本信息、ID信息以及所属图像中的位置信息(例如2D坐标)等多种特征信息;第二特征信息可以包括历史图像定位元素的文本信息、ID信息以及历史图像定位元素在初始定位地图中的位置信息(例如3D坐标)。
在一个示例中,可将历史图像定位元素在所属图像中的2D坐标转换为在初始定位地图中的3D坐标,结合历史图像定位元素的文本信息和ID信息等无需转换的信息,得到历史图像定位元素在初始定位地图中的第二特征信息。
S904,在初始定位地图中记录第二特征信息,得到定位地图。
通过上述步骤S901-904的实施方式可以得到带有语音和矢量信息的高精地图数据,为车辆的定位提供可靠性更高的地图数据,提高车辆的定位精度。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种车辆定位装置,如图10所示,该车辆定位装置包括:第一图像获取模块1001、第一元素确定模块1002、匹配模块1003和定位模块1004。
第一图像获取模块1001,用于获取目标车辆运行环境的环境图像。
第一元素确定模块1002,用于根据环境图像确定图像定位元素;图像定位元素与预先构建的定位地图中的地图定位元素具有多类初始匹配关系。
匹配模块1003,用于在多类初始匹配关系中,确定满足预设的第一匹配条件的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素。
定位模块1004,用于根据第一匹配元素确定目标车辆的定位数据。
在一种可选的实施方式中,如图11所示,匹配模块1003包括:一致性筛选单元1101和第一数量筛选单元1102。
一致性筛选单元1101,用于在目标车辆的图像采集装置的位姿状态未知的情况下,在多类初始匹配关系中,选出满足预设的一致性条件的初始匹配关系;
第一数量筛选单元1102,用于在选出的各类初始匹配关系中,确定成功匹配的图像定位元素数量最多的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素。
在另一种可选的实施方式中,匹配模块1003包括:第二数量筛选单元。
第二数量筛选单元,用于在目标车辆的图像采集装置的位姿状态已知的情况下,在多类初始匹配关系中,确定成功匹配的图像定位元素数量最多的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素。
在一种可选的实施方式中,如图12所示,定位模块1004包括:位姿确定单元1201、匹配关系确定单元1202、匹配元素确定单元1203和定位数据确定单元1204。
位姿确定单元1201,用于根据第一匹配元素确定目标车辆的图像采集装置的当前位姿状态;
匹配关系确定单元1202,用于确定备选图像定位元素和地图定位元素在图像采集装置的当前位姿状态下的多类备选匹配关系;备选图像定位元素为第一匹配元素之外的图像定位元素;
匹配元素确定单元1203,用于在多类备选匹配关系中,确定满足预设的第二匹配条件的备选匹配关系中的图像定位元素和地图定位元素为第二匹配元素;
定位数据确定单元1204,用于根据第二匹配元素确定目标车辆的定位数据。
匹配关系确定单元1202可具体用于:基于备选图像定位元素的至少两个特征信息、以及备选图像定位元素的特征信息和地图定位元素的对应关系,确定备选图像定位元素和地图定位元素在图像采集装置的当前位姿状态下的多类备选匹配关系。
匹配元素确定单元1203可具体用于:在多类备选匹配关系中,确定成功匹配的图像定位元素数量最多的备选匹配关系中的图像定位元素和地图定位元素为第二匹配元素。
在一种可选的实施方式中,定位模块1004还包括:数据检测单元和优化匹配单元。
数据检测单元,用于确定目标车辆的定位数据是否在预设阈值范围内;
优化匹配单元,用于在目标车辆的定位数据不在预设阈值范围内的情况下,对第二匹配元素之外的图像定位元素和地图定位元素进行至少一次匹配,直到基于该至少一次匹配的结果得到的目标车辆的定位数据在预设阈值范围内。
在一种可选的实施方式中,本公开提供的车辆定位装置还包括:第二图像获取模块、第二元素确定模块、位置确定模块和地图构建模块。
第二图像获取模块,用于获取目标车辆运行环境的历史环境图像。
第二元素确定模块,用于根据历史环境图像确定历史图像定位元素。
位置确定模块,用于根据历史图像定位元素在历史环境图像中的第一特征信息,确定历史图像定位元素在目标车辆运行环境的初始定位地图中的第二特征信息。
地图构建模块,用于在初始定位地图中记录第二特征信息,得到定位地图。
本公开实施例各装置中的各单元、模块或子模块的功能可以参见上述方法实施例中的对应描述,在此不再赘述。
根据本公开的实施例,本公开还提供了一种电子设备、一种非瞬时计算机可读存储介质、一种计算机程序产品和一种车辆。
本公开提供的电子设备,包括:至少一个处理器,以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行本公开提供的任意一种车辆定位方法。
本公开提供的非瞬时计算机可读存储介质存储有计算机指令,该计算机指令用于使计算机执行本公开提供的任意一种车辆定位方法。
本公开提供的计算程序产品包括计算机程序,该计算机程序在被处理器执行时实现本公开提供的任意一种车辆定位方法。
本公开提供的自动驾驶车辆包括:本公开提供的上述任意一种车辆定位装置或电子设备。
图13示出了可以用来实施本公开的实施例的示例电子设备1300的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图13所示,设备1300包括计算单元1301,其可以根据存储在只读存储器(ROM)1302中的计算机程序或者从存储单元1301加载到随机访问存储器(RAM)1303中的计算机程序,来执行各种适当的动作和处理。在RAM 1303中,还可存储设备1300操作所需的各种程序和数据。计算单元1301、ROM 1302以及RAM 1303通过总线1304彼此相连。输入/输出(I/O)接口1305也连接至总线1304。
设备1300中的多个部件连接至I/O接口1305,包括:输入单元1306,例如键盘、鼠标等;输出单元1307,例如各种类型的显示器、扬声器等;存储单元1308,例如磁盘、光盘等;以及通信单元1309,例如网卡、调制解调器、无线通信收发机等。通信单元1309允许设备1300通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1301可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1301的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1301执行上文所描述的各个方法和处理,例如车辆定位方法。例如,在一些实施例中,车辆定位方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1308。在一些实施例中,计算机程序的部分或者全部可以经由ROM1302和/或通信单元1309而被载入和/或安装到设备1300上。当计算机程序加载到RAM 1303并由计算单元1301执行时,可以执行上文描述的车辆定位方法的一个或多个步骤。备选地,在其他实施例中,计算单元1301可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行车辆定位方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。

Claims (18)

1.一种车辆定位方法,包括:
获取目标车辆运行环境的环境图像;
根据所述环境图像确定图像定位元素;所述图像定位元素与预先构建的定位地图中的地图定位元素具有多类初始匹配关系;
在所述多类初始匹配关系中,确定满足预设的第一匹配条件的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素;
根据所述第一匹配元素确定所述目标车辆的图像采集装置的当前位姿状态;
确定备选图像定位元素和所述地图定位元素在所述图像采集装置的当前位姿状态下的多类备选匹配关系;所述备选图像定位元素为所述第一匹配元素之外的图像定位元素;
在所述多类备选匹配关系中,确定满足预设的第二匹配条件的备选匹配关系中的图像定位元素和地图定位元素为第二匹配元素;
根据所述第二匹配元素确定所述目标车辆的定位数据。
2.根据权利要求1所述的车辆定位方法,其中,所述在所述多类初始匹配关系中,确定满足预设的第一匹配条件的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素,包括:
在所述目标车辆的图像采集装置的位姿状态未知的情况下,在所述多类初始匹配关系中,选出满足预设的一致性条件的初始匹配关系;
在选出的各类初始匹配关系中,确定成功匹配的图像定位元素数量最多的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素。
3.根据权利要求1所述的车辆定位方法,其中,所述在所述多类初始匹配关系中,确定满足预设的第一匹配条件的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素,包括:
在所述目标车辆的图像采集装置的位姿状态已知的情况下,在所述多类初始匹配关系中,确定成功匹配的图像定位元素数量最多的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素。
4.根据权利要求1-3中任一项所述的车辆定位方法,所述根据所述第二匹配元素确定所述目标车辆的定位数据之后,还包括:
确定所述目标车辆的定位数据是否在预设阈值范围内;
在所述目标车辆的定位数据不在所述预设阈值范围内的情况下,对所述第二匹配元素之外的图像定位元素和地图定位元素进行至少一次匹配,直到基于所述至少一次匹配的结果得到的目标车辆的定位数据在预设阈值范围内。
5.根据权利要求1-3中任一项所述的车辆定位方法,其中,所述在所述多类备选匹配关系中,确定满足预设的第二匹配条件的备选匹配关系中的图像定位元素和地图定位元素为第二匹配元素,包括:
在所述多类备选匹配关系中,确定成功匹配的图像定位元素数量最多的备选匹配关系中的图像定位元素和地图定位元素为第二匹配元素。
6.根据权利要求1-3中任一项所述的车辆定位方法,其中,所述确定备选图像定位元素和所述地图定位元素在所述图像采集装置的当前位姿状态下的多类备选匹配关系,包括:
基于所述备选图像定位元素的至少两个特征信息、以及所述备选图像定位元素的特征信息和所述地图定位元素的对应关系,确定所述备选图像定位元素和所述地图定位元素在所述图像采集装置的当前位姿状态下的多类备选匹配关系。
7.根据权利要求1-3中任一项所述的车辆定位方法,还包括通过以下方式预先构建所述定位地图:
获取所述目标车辆运行环境的历史环境图像;
根据所述历史环境图像确定历史图像定位元素;
根据所述历史图像定位元素在所述历史环境图像中的第一特征信息,确定所述历史图像定位元素在所述目标车辆运行环境的初始定位地图中的第二特征信息;
在所述初始定位地图中记录所述第二特征信息,得到所述定位地图。
8.一种车辆定位装置,包括:
第一图像获取模块,用于获取目标车辆运行环境的环境图像;
第一元素确定模块,用于根据所述环境图像确定图像定位元素;所述图像定位元素与预先构建的定位地图中的地图定位元素具有多类初始匹配关系;
匹配模块,用于在所述多类初始匹配关系中,确定满足预设的第一匹配条件的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素;
定位模块,所述定位模块包括:
位姿确定单元,用于根据所述第一匹配元素确定所述目标车辆的图像采集装置的当前位姿状态;
匹配关系确定单元,用于确定备选图像定位元素和所述地图定位元素在所述图像采集装置的当前位姿状态下的多类备选匹配关系;所述备选图像定位元素为所述第一匹配元素之外的图像定位元素;
匹配元素确定单元,用于在所述多类备选匹配关系中,确定满足预设的第二匹配条件的备选匹配关系中的图像定位元素和地图定位元素为第二匹配元素;
定位数据确定单元,用于根据所述第二匹配元素确定所述目标车辆的定位数据。
9.根据权利要求8所述的车辆定位装置,其中,所述匹配模块包括:
一致性筛选单元,用于在所述目标车辆的图像采集装置的位姿状态未知的情况下,在所述多类初始匹配关系中,选出满足预设的一致性条件的初始匹配关系;
第一数量筛选单元,用于在选出的各类初始匹配关系中,确定成功匹配的图像定位元素数量最多的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素。
10.根据权利要求8所述的车辆定位装置,其中,所述匹配模块包括:
第二数量筛选单元,用于在所述目标车辆的图像采集装置的位姿状态已知的情况下,在所述多类初始匹配关系中,确定成功匹配的图像定位元素数量最多的初始匹配关系中的图像定位元素和地图定位元素为第一匹配元素。
11.根据权利要求8-10中任一项所述的车辆定位装置,其中,所述定位模块还包括:
数据检测单元,用于确定所述目标车辆的定位数据是否在预设阈值范围内;
优化匹配单元,用于在所述目标车辆的定位数据不在所述预设阈值范围内的情况下,对所述第二匹配元素之外的图像定位元素和地图定位元素进行至少一次匹配,直到基于所述至少一次匹配的结果得到的目标车辆的定位数据在预设阈值范围内。
12.根据权利要求8-10中任一项所述的车辆定位装置,其中,所述匹配元素确定单元具体用于:
在所述多类备选匹配关系中,确定成功匹配的图像定位元素数量最多的备选匹配关系中的图像定位元素和地图定位元素为第二匹配元素。
13.根据权利要求8-10中任一项所述的车辆定位装置,其中,所述匹配关系确定单元具体用于:
基于所述备选图像定位元素的至少两个特征信息、以及所述备选图像定位元素的特征信息和所述地图定位元素的对应关系,确定所述备选图像定位元素和所述地图定位元素在所述图像采集装置的当前位姿状态下的多类备选匹配关系。
14.根据权利要求8-10中任一项所述的车辆定位装置,还包括:
第二图像获取模块,用于获取目标车辆运行环境的历史环境图像;
第二元素确定模块,用于根据所述历史环境图像确定历史图像定位元素;
位置确定模块,用于根据所述历史图像定位元素在所述历史环境图像中的第一特征信息,确定所述历史图像定位元素在所述目标车辆运行环境的初始定位地图中的第二特征信息;
地图构建模块,用于在所述初始定位地图中记录所述第二特征信息,得到所述定位地图。
15.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的车辆定位方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的车辆定位方法。
17.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-7中任一项所述的车辆定位方法。
18.一种自动驾驶车辆,包括:如权利要求8-14中任一项所述的车辆定位装置,或如权利要求15所述的电子设备。
CN202111266023.3A 2021-10-28 2021-10-28 车辆定位方法、装置、设备、存储介质及自动驾驶车辆 Active CN113984072B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111266023.3A CN113984072B (zh) 2021-10-28 2021-10-28 车辆定位方法、装置、设备、存储介质及自动驾驶车辆

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111266023.3A CN113984072B (zh) 2021-10-28 2021-10-28 车辆定位方法、装置、设备、存储介质及自动驾驶车辆

Publications (2)

Publication Number Publication Date
CN113984072A CN113984072A (zh) 2022-01-28
CN113984072B true CN113984072B (zh) 2024-05-17

Family

ID=79743817

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111266023.3A Active CN113984072B (zh) 2021-10-28 2021-10-28 车辆定位方法、装置、设备、存储介质及自动驾驶车辆

Country Status (1)

Country Link
CN (1) CN113984072B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114646320B (zh) * 2022-02-09 2023-04-28 江苏泽景汽车电子股份有限公司 一种路径引导方法、装置、电子设备及可读存储介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109299652A (zh) * 2018-07-30 2019-02-01 华晓精密工业(苏州)有限公司 一种用于图像定位的模型训练方法、图像定位方法及装置
WO2019037484A1 (zh) * 2017-08-23 2019-02-28 腾讯科技(深圳)有限公司 激光扫描设备标定的方法、装置、设备及存储介质
CN111220164A (zh) * 2020-01-21 2020-06-02 北京百度网讯科技有限公司 定位方法、装置、设备及存储介质
CN112150538A (zh) * 2019-06-27 2020-12-29 北京初速度科技有限公司 一种在三维地图构建过程中车辆位姿的确定方法和装置
CN112444251A (zh) * 2019-08-29 2021-03-05 长沙智能驾驶研究院有限公司 车辆行车位置确定方法、装置、存储介质及计算机设备
CN112581514A (zh) * 2019-09-30 2021-03-30 浙江商汤科技开发有限公司 一种地图构建方法及装置、存储介质
EP3842753A2 (en) * 2020-07-30 2021-06-30 Beijing Baidu Netcom Science Technology Co., Ltd. Method and apparatus for positioning vehicle, vehicle, storage medium, and computer program product
EP3851802A1 (en) * 2020-01-20 2021-07-21 Beijing Baidu Netcom Science And Technology Co. Ltd. Method and apparatus for positioning vehicle, electronic device and storage medium

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019037484A1 (zh) * 2017-08-23 2019-02-28 腾讯科技(深圳)有限公司 激光扫描设备标定的方法、装置、设备及存储介质
CN109299652A (zh) * 2018-07-30 2019-02-01 华晓精密工业(苏州)有限公司 一种用于图像定位的模型训练方法、图像定位方法及装置
CN112150538A (zh) * 2019-06-27 2020-12-29 北京初速度科技有限公司 一种在三维地图构建过程中车辆位姿的确定方法和装置
CN112444251A (zh) * 2019-08-29 2021-03-05 长沙智能驾驶研究院有限公司 车辆行车位置确定方法、装置、存储介质及计算机设备
CN112581514A (zh) * 2019-09-30 2021-03-30 浙江商汤科技开发有限公司 一种地图构建方法及装置、存储介质
EP3851802A1 (en) * 2020-01-20 2021-07-21 Beijing Baidu Netcom Science And Technology Co. Ltd. Method and apparatus for positioning vehicle, electronic device and storage medium
CN111220164A (zh) * 2020-01-21 2020-06-02 北京百度网讯科技有限公司 定位方法、装置、设备及存储介质
EP3842753A2 (en) * 2020-07-30 2021-06-30 Beijing Baidu Netcom Science Technology Co., Ltd. Method and apparatus for positioning vehicle, vehicle, storage medium, and computer program product

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
GNSS受限条件下的无人机视觉导航技术研究;郑亚兴;中国优秀硕士学位论文全文数据库 (工程科技Ⅱ辑);20210515(第5期);全文 *
三阶段局部双目光束法平差视觉里程计;赵彤;刘洁瑜;李卓;;光电工程;20181113(11);全文 *

Also Published As

Publication number Publication date
CN113984072A (zh) 2022-01-28

Similar Documents

Publication Publication Date Title
EP3852008A2 (en) Image detection method and apparatus, device, storage medium and computer program product
CN112560680A (zh) 车道线处理方法、装置、电子设备及存储介质
EP3943964A2 (en) Method and apparatus for determining positioning information of vehicle, electronic device, storage medium and program product
CN112560684A (zh) 车道线检测方法、装置、电子设备、存储介质以及车辆
CN116188893A (zh) 基于bev的图像检测模型训练及目标检测方法和装置
CN113205041A (zh) 结构化信息提取方法、装置、设备和存储介质
CN114743178B (zh) 道路边缘线生成方法、装置、设备及存储介质
CN113984072B (zh) 车辆定位方法、装置、设备、存储介质及自动驾驶车辆
CN113705716B (zh) 图像识别模型训练方法、设备、云控平台及自动驾驶车辆
CN114528941A (zh) 传感器数据融合方法、装置、电子设备及存储介质
CN114359932A (zh) 文本检测方法、文本识别方法及装置
CN114429631B (zh) 三维对象检测方法、装置、设备以及存储介质
CN116758503A (zh) 车道线自动标注方法、装置、设备及存储介质
CN113762397B (zh) 检测模型训练、高精度地图更新方法、设备、介质及产品
CN113379592B (zh) 图片中敏感区域的处理方法、装置和电子设备
CN116052097A (zh) 一种地图要素检测方法、装置、电子设备和存储介质
CN114419564A (zh) 车辆位姿检测方法、装置、设备、介质及自动驾驶车辆
CN113936158A (zh) 一种标签匹配方法及装置
CN114281832A (zh) 基于定位结果的高精地图数据更新方法、装置和电子设备
CN114219907B (zh) 三维地图生成方法、装置、设备以及存储介质
CN112507951B (zh) 指示灯识别方法、装置、设备、路侧设备和云控平台
CN113361379B (zh) 生成目标检测系统和检测目标的方法及装置
CN113029136B (zh) 定位信息处理的方法、设备、存储介质及程序产品
CN113361524B (zh) 图像处理方法及装置
CN114155508B (zh) 一种道路变化检测方法、装置、设备以及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant