CN111982133A - 基于高精地图对车辆进行定位的方法、装置及电子设备 - Google Patents

基于高精地图对车辆进行定位的方法、装置及电子设备 Download PDF

Info

Publication number
CN111982133A
CN111982133A CN201910436164.1A CN201910436164A CN111982133A CN 111982133 A CN111982133 A CN 111982133A CN 201910436164 A CN201910436164 A CN 201910436164A CN 111982133 A CN111982133 A CN 111982133A
Authority
CN
China
Prior art keywords
precision map
map
determining
cloud
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910436164.1A
Other languages
English (en)
Other versions
CN111982133B (zh
Inventor
杨德刚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Horizon Robotics Technology Research and Development Co Ltd
Original Assignee
Beijing Horizon Robotics Technology Research and Development Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Horizon Robotics Technology Research and Development Co Ltd filed Critical Beijing Horizon Robotics Technology Research and Development Co Ltd
Priority to CN201910436164.1A priority Critical patent/CN111982133B/zh
Publication of CN111982133A publication Critical patent/CN111982133A/zh
Application granted granted Critical
Publication of CN111982133B publication Critical patent/CN111982133B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/28Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network with correlation of data from several navigational instruments
    • G01C21/30Map- or contour-matching
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02TCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00Road transport of goods or passengers
    • Y02T10/10Internal combustion engine [ICE] based vehicles
    • Y02T10/40Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Navigation (AREA)
  • Instructional Devices (AREA)

Abstract

公开了一种基于高精地图对车辆进行定位的方法,包括:确定车辆的当前环境数据;基于所述当前环境数据,确定局部高精地图;基于所述局部高精地图和第一云端高精地图,确定所述车辆在所述第一云端高精地图中的定位位姿。公开了一种高精地图更新的方法,包括:确定高精地图更新信息;基于所述高精地图更新信息和第一云端高精地图,确定当前地图元素集合和当前地图元素属性;基于所述第一云端高精地图、所述当前地图元素集合和所述当前地图元素属性,得到第二云端高精地图。公开了一种基于高精地图对车辆进行定位的装置和一种高精地图更新的装置。不需要大量的人工参与,可以降低地图更新、定位成本。

Description

基于高精地图对车辆进行定位的方法、装置及电子设备
技术领域
本发明涉及地图处理技术领域,具体涉及一种基于高精地图对车辆进行定位的方法、装置及电子设备。
背景技术
近年来,自动驾驶引起了人们的关注,自动驾驶是一项复杂的机器人任务,需要在不断变化的环境中进行感知、规划和执行。自动驾驶汽车需要利用高精地图进行定位和规划,在已经建立高精地图以后,场景有可能发生变化,需要及时更新以使得自动驾驶汽车正常运行。目前更新高精地图与生产高精地图流程一致,处理流程自动化程度低。
发明内容
为了解决上述技术问题,本申请实施例提供了一种基于高精地图对车辆进行定位的方法、装置及电子设备。
根据本申请的一个方面,提供了一种基于高精地图对车辆进行定位的方法,包括:确定车辆的当前环境数据;基于所述当前环境数据,确定局部高精地图;基于所述局部高精地图和第一云端高精地图,确定所述车辆在所述第一云端高精地图中的定位位姿。
根据本申请的另一个方面,提供了一种高精地图更新的方法,包括:确定高精地图更新信息;基于所述高精地图更新信息和第一云端高精地图,确定当前地图元素集合和当前地图元素属性;基于所述第一云端高精地图、所述当前地图元素集合和所述当前地图元素属性,得到第二云端高精地图。
根据本申请的另一个方面,提供了一种基于高精地图对车辆进行定位的装置,包括:环境确定模块,用于确定车辆的当前环境数据;地图确定模块,用于基于所述当前环境数据,确定局部高精地图;位置确定模块,用于基于所述局部高精地图和第一云端高精地图,确定所述车辆在所述第一云端高精地图中的定位位姿。
根据本申请的另一个方面,提供了一种高精地图更新的装置,包括:更新信息确定模块,用于确定高精地图更新信息;元素确定模块,用于基于所述高精地图更新信息和第一云端高精地图,确定当前地图元素集合和当前地图元素属性;处理模块,用于基于所述第一云端高精地图、所述当前地图元素集合和所述当前地图元素属性,得到第二云端高精地图。
根据本申请的另一个方面,提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于执行上述任一所述的方法。
根据本申请的另一个方面,提供了一种电子设备,所述电子设备包括:处理器;用于存储所述处理器可执行指令的存储器;所述处理器,用于执行上述任一所述的方法。
本申请实施例提供的基于高精地图对车辆进行定位的方法,通过确定车辆的当前环境数据,基于当前环境数据,确定局部高精地图,基于局部高精地图和第一云端高精地图,确定车辆在第一云端高精地图中的定位位姿,可以根据当前环境数据,自动确定局部高精地图,从而自动确定车辆在第一云端高精地图中的定位位姿,不需要大量的人工参与,可以降低地图更新、定位成本;可以实现高精度地图数据的实时更新,更新属性的自动融合,不需要人工参与,可以提高准确度,降低成本。
附图说明
通过结合附图对本申请实施例进行更详细的描述,本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解,并且构成说明书的一部分,与本申请实施例一起用于解释本申请,并不构成对本申请的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1是本申请一示例性实施例提供的基于高精地图对车辆进行定位的方法的流程示意图。
图2是本申请一示例性实施例提供的基于当前环境数据,确定局部高精地图的流程示意图。
图3是本申请一示例性实施例提供的构建局部高精地图的示意图。
图4是本申请一示例性实施例提供的基于局部高精地图和第一云端高精地图,确定车辆在第一云端高精地图中的定位位姿的流程示意图。
图5是本申请一示例性实施例提供的局部高精地图与第一云端高精地图进行匹配的示意图。
图6是本申请另一示例性实施例提供的基于局部高精地图和第一云端高精地图,确定车辆在第一云端高精地图中的定位位姿的流程示意图。
图7是本申请一示例性实施例提供的高精地图更新的方法的流程示意图。
图8是本申请一示例性实施例提供的基于高精地图更新信息和第一云端高精地图,确定当前地图元素集合和当前地图元素属性的流程示意图。
图9是本申请一示例性实施例提供的将高精地图更新信息和第一云端高精地图进行关联,建立统一的高精地图优化目标函数的示意图。
图10是本申请一示例性实施例提供的基于高精地图对车辆进行定位的装置的结构示意图。
图11是本申请一示例性实施例提供的基于高精地图对车辆进行定位的装置中地图确定模块的结构示意图。
图12是本申请一示例性实施例提供的基于高精地图对车辆进行定位的装置中位姿确定模块的结构示意图。
图13是本申请另一示例性实施例提供的基于高精地图对车辆进行定位的装置中位姿确定模块的结构示意图。
图14是本申请一示例性实施例提供的高精地图更新的装置的结构示意图。
图15是本申请一示例性实施例提供的高精地图更新的装置中元素确定模块的结构示意图。
图16是本申请一示例性实施例提供的电子设备的框图示意图。
具体实施方式
下面,将参考附图详细地描述根据本申请的示例实施例。显然,所描述的实施例仅仅是本申请的一部分实施例,而不是本申请的全部实施例,应理解,本申请不受这里描述的示例实施例的限制。
申请概述
目前更新高精地图与生产高精地图流程一致,都是利用专门的地图采集设备采集数据,然后进行数据对齐、地图元素提取参数化、地图的合并综合等。目前每个环节都需要地图测绘或者算法人员的专业知识进行监督,处理流程自动化程度低,地图更新成本较高。
针对上述技术问题,本申请的基本构思是提出一种基于高精地图对车辆进行定位的方法、装置及电子设备,可以根据当前环境数据,自动确定局部高精地图,从而自动确定车辆在第一云端高精地图中的定位位姿,不需要大量的人工参与,可以降低地图更新、定位成本;可以实现高精度地图数据的实时更新,更新属性的自动融合,不需要人工参与,可以提高地图更新准确度,降低地图更新成本。
需要说明的是,本申请的应用范围不局限于车载电子技术领域。例如,本申请实施例提及的技术方案还可以应用于其他智能可移动设备,具体用于对智能可移动设备提供地图技术支持。
下面将参考附图来具体介绍本申请的各种非限制性实施例。
示例性方法
图1是本申请一示例性实施例提供的基于高精地图对车辆进行定位的方法的流程示意图。本申请实施例提供的基于高精地图对车辆进行定位的方法可应用到汽车的地图处理技术领域,亦可应用到智能机器人的地图处理类功能领域。如图1所示,本申请实施例提供的基于高精地图对车辆进行定位的方法包括如下步骤:
步骤101,确定车辆的当前环境数据。
具体地,确定车辆所在位置的当前环境数据,便于后续根据车辆的当前环境数据确定车辆的具体位置。例如,车辆的当前环境数据为以行政区划为单位的街道某路段的环境数据。
步骤102,基于当前环境数据,确定局部高精地图。
具体地,基于车辆的当前环境数据,确定车辆当前所处环境的局部高精地图。其中,局部高精地图中包括各个地图元素,例如:可以包括行政区划范围内的路段的车道线、停止线、斑马线、标志牌、指示牌、红绿灯等。
步骤103,基于局部高精地图和第一云端高精地图,确定车辆在第一云端高精地图中的定位位姿。
其中,第一云端高精地图可以是从云端服务器获取的与局部高精地图对应的预先生成并存储在云端的高精地图。基于车辆的局部高精地图,确定与车辆的局部高精地图对应的第一云端高精地图,及车辆在第一云端高精地图中的定位位姿。其中,定位位姿可以包括车辆当前的地理位置、空间朝向等信息。
本申请实施例所提及的基于高精地图对车辆进行定位的方法,通过确定车辆的当前环境数据,基于当前环境数据,确定局部高精地图,基于局部高精地图和第一云端高精地图,确定车辆在第一云端高精地图中的定位位姿,可以根据当前环境数据,自动确定局部高精地图,从而自动确定车辆在第一云端高精地图中的定位位姿,不需要大量的人工参与,可以降低地图更新、定位成本。
本申请一示例性实施例提供了确定车辆的当前环境数据的流程示意图。在本申请图1所示实施例的基础上延伸出本申请所示实施例,下面着重叙述本申请所示实施例与图1所示实施例的不同之处,相同之处不再赘述。
在本申请实施例提供的基于高精地图对车辆进行定位的方法中,确定车辆的当前环境数据(即步骤101),包括:
通过车辆自身的采集设备,收集车辆对应的当前环境数据,其中,当前环境数据包括采集设备采集的图像序列,以及惯性测量单元数据和GNSS(Global NavigationSatellite System,全球定位系统)位置数据。
具体地,当装备有相应采集设备(如摄像头、惯性测量单元(IMU,Inertialmeasurement unit)、全球卫星定位系统GNSS等)的车辆在路上行驶时,每种采集设备会源源不断的收集数据。摄像头会采集图像序列、惯性测量单元会收集惯性测量单元数据、全球定位系统GNSS会收集全球定位系统GNSS位置数据等。其中,惯性测量单元可以测量车辆在三维空间中的角速度和加速度,并以此解算出车辆的姿态,即惯性测量单元数据可以包括车辆在三维空间中的角速度和加速度,以及车辆的姿态等。
本申请实施例所提及的基于高精地图对车辆进行定位的方法,通过车辆自身的采集设备,收集车辆对应的当前环境数据,不需要专门的地图采集设备,成本比较低,可以大规模应用,可以增加采集的范围和频率,提高地图更新的速度。
图2是本申请一示例性实施例提供的基于当前环境数据,确定局部高精地图的流程示意图。在上一所示实施例的基础上延伸出本申请图2所示实施例,下面着重叙述图2所示实施例与上一所示实施例的不同之处,相同之处不再赘述。
如图2所示,在本申请实施例提供的基于高精地图对车辆进行定位的方法中,基于当前环境数据,确定局部高精地图(即步骤102),包括:
步骤1021,确定采集设备采集的图像序列中的感兴趣语义实例以及感兴趣语义实例的语义边缘。
其中,感兴趣语义实例包含路面的车道线、停止线、斑马线、路沿、路面箭头、路面标志等和垂直方向的标志牌、指示牌、红绿灯、隔离带、柱子等。可以利用预设深度学习模型预测采集设备采集的图像序列中的感兴趣语义实例的类别以及感兴趣语义实例的语义边缘。
步骤1022,通过SLAM(Simultaneous Localization And Mapping,同步定位与建图)重建感兴趣语义实例的语义边缘,得到感兴趣语义实例的三维重建结果。
具体地,利用同步定位与建图SLAM算法将物体(感兴趣语义实例)的准确三维(3d)轮廓重建出,得到三维重建结果。
步骤1023,基于三维重建结果、惯性测量单元数据和全球定位系统GNSS位置数据,构建局部高精地图。
具体地,基于三维重建结果、惯性测量单元数据和全球定位系统GNSS位置数据,在三维(3d)空间聚类得到每个地图元素,并估计其相应的几何属性(包含位置、朝向、边缘、宽度等),识别地图元素的语义属性(如类别、数值、意义等,可以通过图像空间识别得到),从而构建出局部高精地图。
在一实施例中,参见图3,左侧是摄像头视角的视频图像,右侧是:基于三维重建结果、惯性测量单元数据和全球定位系统GNSS位置数据,构建得到的局部高精地图。通过局部高精地图可以了解车辆当前的位置、车辆当前所在的环境信息等。
需要说明的是,为了提高构建局部高精地图的速度,可以设置专用的计算板卡,通过专用的计算板卡构建局部高精地图。
本申请实施例所提及的基于高精地图对车辆进行定位的方法,通过同步定位与建图SLAM重建感兴趣语义实例的语义边缘,得到感兴趣语义实例的三维重建结果,基于三维重建结果、惯性测量单元数据和全球定位系统GNSS位置数据,构建局部高精地图,可以自动实现局部高精地图的构建,可以节省大量的人工并提高构建速度。
图4是本申请一示例性实施例提供的基于局部高精地图和第一云端高精地图,确定车辆在第一云端高精地图中的定位位姿的流程示意图。在本申请图1所示实施例的基础上延伸出本申请图4所示实施例,下面着重叙述图4所示实施例与图1所示实施例的不同之处,相同之处不再赘述。
如图4所示,在本申请实施例提供的基于高精地图对车辆进行定位的方法中,基于局部高精地图和第一云端高精地图,确定车辆在第一云端高精地图中的定位位姿(即步骤103),包括:
步骤1031,确定与局部高精地图对应的第一云端高精地图。
具体地,根据局部高精地图的位置信息,可以确定与局部高精地图对应的第一云端高精地图,并将第一云端高精地图下载到车辆端。例如:局部高精地图的位置为某市某街道某路段,则可以根据某市某街道某路段查询到对应的第一云端高精地图。
步骤1032,将局部高精地图与第一云端高精地图进行匹配,得到匹配结果。
具体描述详见步骤1033。
步骤1033,根据匹配结果,确定车辆在第一云端高精地图中的定位位姿。
具体地,将局部高精地图与第一云端高精地图进行匹配,由于两个集合的地图元素都具有多维的属性信息,参见图5,可以将多维的属性信息作为特征进行局部匹配搜索,得到匹配结果,根据匹配结果中每个地图元素的几何组成关系,可以进一步得到对应的边界点集(例如A点集、B点集),根据对应的边界点集,利用矩阵分解的方法计算车辆在第一云端高精地图中的定位位姿,如下:
1、计算A点集、B点集的中心Ca、Cb;
其中,中心Ca的坐标为将A点集中的坐标相加后进行平均,中心C的坐标为将B点集中的坐标相加后进行平均。
2、计算A点集、B点集的相关矩阵Corr为:
Corr=Ma*MbT
其中,Ma是A点集所有点减去中心Ca以后的矩阵,Mb是B点集所有点减去中心Cb以后的矩阵。
3、计算车辆在第一云端高精地图中的定位位姿:R(表示车辆在世界坐标系的旋转朝向)、t(表示车辆在世界坐标系中的位置(x、y坐标值))。
对Corr进行SVD(SingularValue Decomposition,奇异值分解)分解得到旋转矩阵:[U,D,V]=SVD(Corr);
计算R:R=V*UT
计算t:t=Cb-R*Ca。
需要说明的是,由于地图元素的属性不准确或者不完整,可能出现错误匹配,如图5所示,这时可以利用随机抽样一致性算法通过多次迭代进行剔除。
本申请实施例所提及的基于高精地图对车辆进行定位的方法,通过确定与局部高精地图对应的第一云端高精地图,将局部高精地图与第一云端高精地图进行匹配,得到匹配结果,根据匹配结果,确定车辆在第一云端高精地图中的定位位姿,不需要大量的人工参与,可以降低地图定位成本。
图6是本申请另一示例性实施例提供的基于局部高精地图和第一云端高精地图,确定车辆在第一云端高精地图中的定位位姿的流程示意图。在本申请图4所示实施例的基础上延伸出本申请图6所示实施例,下面着重叙述图6所示实施例与图4所示实施例的不同之处,相同之处不再赘述。
如图6所示,在本申请实施例提供的基于高精地图对车辆进行定位的方法,基于局部高精地图和第一云端高精地图,确定车辆在第一云端高精地图中的定位位姿,还包括:
步骤1034,根据匹配结果,确定高精地图更新信息。
具体地,在步骤1033获取匹配结果的时候,根据匹配结果,可以对不同的地图元素更新情况进行识别,确定高精地图更新信息。可以通过地图元素(用x表示)的存在置信度表示更新情况:
E(x)=1,局部高精地图观测到地图元素x但是在第一云端高精地图中不存在地图元素x,确定地图元素x为新增元素;
E(x)=0,局部高精地图没有观测到地图元素x并且没有被遮挡,但是对应位置第一云端高精地图有元素存在,确定地图元素x为删除元素;
E(x)不可用,局部高精地图由于遮挡没有观测到地图元素x。
将每个地图元素的E(x)和其他属性值进行组合,即完成本次高精地图更新信息的生成。
本申请实施例所提及的基于高精地图对车辆进行定位的方法,根据匹配结果,确定高精地图更新信息,可以实现高精度地图数据的实时更新,不需要人工参与,可以提高更新速度、降低更新成本。
图7是本申请一示例性实施例提供的高精地图更新的方法的流程示意图。如图7所示,本申请实施例提供的高精地图更新的方法,包括:
步骤201:确定高精地图更新信息。
具体地,获取车辆端上传的高精地图更新信息。其中,车辆端上传的高精地图更新信息可以是步骤104中根据匹配结果,确定高精地图更新信息后上传。其中,高精地图更新信息包含有地图元素及地图元素属性。实际应用中,车辆端会源源不断地上传与第一云端高精地图对应的高精地图更新信息,会收集到多个车量多次的高精地图更新信息。
步骤202:基于高精地图更新信息和第一云端高精地图,确定当前地图元素集合和当前地图元素属性。
具体地,基于高精地图更新信息中的地图元素及地图元素属性,第一云端高精地图中的地图元素及地图元素属性,确定当前地图元素集合和当前地图元素属性。
步骤203:基于第一云端高精地图、当前地图元素集合和当前地图元素属性,得到第二云端高精地图。
具体地,基于第一云端高精地图、当前地图元素集合和当前地图元素属性,将当前地图元素集合融合到第一云端高精地图,得到第二云端高精地图。
需要说明的是,步骤201-步骤203的过程在车辆行驶的过程中持续进行,当有成百上千个车辆在运行的时候,即可比较高频率的更新云端高精地图。如果云端服务器初始没有生成第一云端高精地图并且云端服务器未存储第一云端高精地图,与第一云端高精地图对应的高精地图更新信息就是局部高精地图的信息,因此局部高精地图的信息会全部上传到云端服务器,进而建立第二云端高精地图。
本申请实施例所提及的高精地图更新的方法,由于可以基于高精地图更新信息和第一云端高精地图,确定当前地图元素集合和当前地图元素属性,基于第一云端高精地图、当前地图元素集合和当前地图元素属性,得到第二云端高精地图,可以实现高精度地图数据的实时更新,更新属性的自动融合,不需要人工参与,可以提高地图更新准确度,降低地图更新成本;并且可以获取多个车量多次的高精地图更新信息,可以通过大型的大众网络的形式实现高精度地图的更新,可以获取大覆盖、高动态、低成本的数据,保证地图的广泛度、新鲜度、精准度。
图8是本申请一示例性实施例提供的基于高精地图更新信息和第一云端高精地图,确定当前地图元素集合和当前地图元素属性的流程示意图。在本申请图7所示实施例的基础上延伸出本申请图8所示实施例,下面着重叙述图8所示实施例与图7所示实施例的不同之处,相同之处不再赘述。
如图8所示,本申请实施例提供的基于高精地图更新信息和第一云端高精地图,确定当前地图元素集合和当前地图元素属性(即步骤202),包括:
步骤2021,将高精地图更新信息和第一云端高精地图进行关联,建立统一的高精地图优化目标函数。
具体地,实际应用中,会收集到多个车量多次的与第一云端高精地图对应的高精地图更新信息,已有的第一云端高精地图和多个车量多次的高精地图更新信息进行关联,可以建立统一的高精地图优化目标函数,如图9所示,每个地图元素x包含存在置信度及其他几何、语义属性,如果一次观测得到的E(x)可用,则建立一条存在边,约束本次观测点和地图元素的关系,对于匹配上的地图元素的几何、语义属性,也分别建立几何、语义属性边,这样最终可以得到以局部高精地图和每次观测点为参考地图元素,地图元素存在性、几何属性、语义属性为待求地图元素的高精地图优化目标函数:
Figure BDA0002070575680000121
其中,Ei,Gi,Ai为每个地图元素的存在置信度、位置属性、其他属性(比如类别、颜色),Tk为每次观测的参考位姿(如图9的①②③),Ei *,Gi *,Ai *,Tk *为相应的最优求解结果,Nk为总的观测次数,Ni为地图元素数,ck,i为第k次对第i个地图元素观测的置信度,Ek,i′为第k次对第i个地图元素观测的存在置信度,Gk,i′为第k次对第i个地图元素观测的位置属性值,Ak,i′为第k次对第i个地图元素观测的其他属性值。
需要说明的是,高精地图优化目标函数是非线性最小二乘模型,可以用Levenberg-Marquardt(莱文贝格-马夸特)算法或Gauss-Newton(高斯-牛顿)算法进行求解,即一方面可以获得每个地图元素的存在置信度E(x)=e,另一方面也可以得到多次观测优化更新后的地图元素属性。随着同一片段观测数据的增多,对与那些删除的地图元素,其存在置信度会由1慢慢变为0,表示消失;对新增的地图元素其存在置信度会从开始出现就变为1,并且其属性会随着观测次数的增多优化的更加精确;对由于遮挡没有见到的地图元素,本次观测对其没有影响。
步骤2022,基于高精地图优化目标函数,得到当前地图元素集合和当前地图元素属性。
具体地,基于步骤2021高精地图元素属性目标函数,得到经过优化更新以后的地图元素集合以及地图元素属性,将经过优化更新以后的地图元素集合以及地图元素属性分别作为当前地图元素集合和当前地图元素属性。
本申请实施例所提及的高精地图更新的方法,由于可以将高精地图更新信息和第一云端高精地图进行关联,建立统一的高精地图优化目标函数,基于高精地图优化目标函数,得到当前地图元素集合和当前地图元素属性,可以保证高精地图的新鲜和准确,获取更好的驾驶体验。
示例性装置
图10是本申请一示例性实施例提供的基于高精地图对车辆进行定位的装置的结构示意图。本申请实施例提供的基于高精地图对车辆进行定位的装置可应用到车载电子技术领域,亦可应用到其他智能可移动设备。如图10所示,本申请实施例提供的基于高精地图对车辆进行定位的装置,包括:
环境确定模块301,用于确定车辆的当前环境数据;
局部地图确定模块302,用于基于当前环境数据,确定局部高精地图;
位姿确定模块303,用于基于局部高精地图和第一云端高精地图,确定车辆在第一云端高精地图中的定位位姿。
本申请一示例性实施例提供了基于高精地图对车辆进行定位的装置中环境确定模块的结构示意图。在本申请图10所示实施例的基础上延伸出本申请所示实施例,下面着重叙述本申请所示实施例与图10所示实施例的不同之处,相同之处不再赘述。
在本申请实施例提供的确定高精地图的装置中,环境确定模块301,具体用于通过车辆自身的采集设备,收集车辆对应的当前环境数据,其中,当前环境数据包括采集设备采集的图像序列,以及惯性测量单元数据和全球定位系统GNSS位置数据。
图11是本申请一示例性实施例提供的基于高精地图对车辆进行定位的装置中地图确定模块的结构示意图。在本申请上一所示实施例的基础上延伸出本申请图11所示实施例,下面着重叙述图11所示实施例与上一所示实施例的不同之处,相同之处不再赘述。
在本申请实施例提供的确定高精地图的装置中,局部地图确定模块302包括:
语义确定单元3021,用于确定采集设备采集的图像序列中的感兴趣语义实例以及感兴趣语义实例的语义边缘;
三维重建单元3022,用于通过同步定位与建图SLAM重建感兴趣语义实例的语义边缘,得到感兴趣语义实例的三维重建结果;
地图构建单元3023,用于基于三维重建结果、惯性测量单元数据和全球定位系统GNSS位置数据,构建局部高精地图。
图12是本申请一示例性实施例提供的基于高精地图对车辆进行定位的装置中位姿确定模块的结构示意图。在本申请图10所示实施例的基础上延伸出本申请图12所示实施例,下面着重叙述图12所示实施例与图10所示实施例的不同之处,相同之处不再赘述。
如图12所示,在本申请实施例提供的基于高精地图对车辆进行定位的装置中,位姿确定模块303包括:
第一确定单元3031,用于确定与局部高精地图对应的第一云端高精地图;
匹配单元3032,用于将局部高精地图与第一云端高精地图进行匹配,得到匹配结果;
第二确定单元3033,用于根据匹配结果,确定车辆在第一云端高精地图中的定位位姿。
图13是本申请另一示例性实施例提供的基于高精地图对车辆进行定位的装置中位姿确定模块的结构示意图。在本申请图12所示实施例的基础上延伸出本申请图13所示实施例,下面着重叙述图13所示实施例与图12所示实施例的不同之处,相同之处不再赘述。
如图13所示,在本申请实施例提供的基于高精地图对车辆进行定位的装置中,位姿确定模块303还包括:
第三确定单元3034,用于根据匹配结果,确定高精地图更新信息。
应当理解,图10至图13提供的基于高精地图对车辆进行定位的装置中的环境确定模块301、局部地图确定模块302、位姿确定模块303,以及局部地图确定模块302中包括的语义确定单元3021、三维重建单元3022、地图构建单元3023,位姿确定模块303中包括的第一确定单元3031、匹配单元3032、第二确定单元3033和第三确定单元3034的操作和功能可以参考上述图1至图9提供的基于高精地图对车辆进行定位的方法,为了避免重复,在此不再赘述。
图14是本申请一示例性实施例提供的高精地图更新的装置的结构示意图。本申请实施例提供的高精地图更新的装置可应用到车载电子技术领域,亦可应用到其他智能可移动设备。如图14所示,本申请实施例提供的高精地图更新的装置,包括:
信息确定模块401,用于确定高精地图更新信息;
元素确定模块402,用于基于高精地图更新信息和第一云端高精地图,确定当前地图元素集合和当前地图元素属性;
第二地图确定模块403,用于基于第一云端高精地图、当前地图元素集合和当前地图元素属性,得到第二云端高精地图。
图15是本申请一示例性实施例提供的高精地图更新的装置中元素确定模块的结构示意图。在本申请图14所示实施例的基础上延伸出本申请图15所示实施例,下面着重叙述图15所示实施例与图14所示实施例的不同之处,相同之处不再赘述。
在本申请实施例提供的高精地图更新的装置中,元素确定模块402包括:
建立单元4021,用于将高精地图更新信息和第一云端高精地图进行关联,建立统一的高精地图优化目标函数;
处理单元4022,用于基于高精地图优化目标函数,得到当前地图元素集合和当前地图元素属性。
应当理解,图14至图15提供的高精地图更新的装置中的信息确定模块401、元素确定模块402、第二地图确定模块403,以及元素确定模块402中包括的建立单元4021和处理单元4022的操作和功能可以参考上述图7至图8提供的高精地图更新的方法,为了避免重复,在此不再赘述。
示例性电子设备
图16图示了根据本申请实施例的电子设备的框图。
如图16所示,电子设备11包括一个或多个处理器111和存储器112。
处理器111可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备11中的其他组件以执行期望的功能。
存储器112可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器111可以运行所述程序指令,以实现上文所述的本申请的各个实施例的基于高精地图对车辆进行定位的方法以及/或者其他期望的功能,或实现上文所述的本申请的各个实施例的高精地图更新的方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。
在一个示例中,电子设备11还可以包括:输入装置113和输出装置114,这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。
例如,该输入装置113可以是摄像头或麦克风、麦克风阵列等,用于捕捉图像或声源的输入信号。在该电子设备是单机设备时,该输入装置113可以是通信网络连接器,用于从网络处理器接收所采集的输入信号。
此外,该输入设备113还可以包括例如键盘、鼠标等等。
该输出装置114可以向外部输出各种信息,包括确定出的输出电压、输出电流信息等。该输出设备114可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然,为了简化,图14中仅示出了该电子设备11中与本申请有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备11还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外,本申请的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的基于高精地图对车辆进行定位的方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本申请的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的基于高精地图对车辆进行定位的方法的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本申请的基本原理,但是,需要指出的是,在本申请中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本申请为必须采用上述具体的细节来实现。
本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
还需要指出的是,在本申请的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此,本申请不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (11)

1.一种基于高精地图对车辆进行定位的方法,包括:
确定车辆的当前环境数据;
基于所述当前环境数据,确定局部高精地图;
基于所述局部高精地图和第一云端高精地图,确定所述车辆在所述第一云端高精地图中的定位位姿。
2.根据权利要求1所述的方法,其中,确定车辆的当前环境数据,包括:
通过所述车辆自身的采集设备,收集所述车辆对应的所述当前环境数据,其中,所述当前环境数据包括所述采集设备采集的图像序列,以及惯性测量单元数据和全球定位系统GNSS位置数据。
3.根据权利要求2所述的方法,其中,基于所述当前环境数据,确定局部高精地图,包括:
确定所述采集设备采集的图像序列中的感兴趣语义实例以及所述感兴趣语义实例的语义边缘;
通过同步定位与建图SLAM重建所述感兴趣语义实例的语义边缘,得到所述感兴趣语义实例的三维重建结果;
基于所述三维重建结果、惯性测量单元数据和全球定位系统GNSS位置数据,构建所述局部高精地图。
4.根据权利要求1所述的方法,其中,基于所述局部高精地图和第一云端高精地图,确定所述车辆在所述第一云端高精地图中的定位位姿,包括:
确定与所述局部高精地图对应的所述第一云端高精地图;
将所述局部高精地图与所述第一云端高精地图进行匹配,得到匹配结果;
根据所述匹配结果,确定所述车辆在所述第一云端高精地图中的定位位姿。
5.根据权利要求4所述的方法,其中,还包括:
根据所述匹配结果,确定高精地图更新信息。
6.一种高精地图更新的方法,包括:
确定高精地图更新信息;
基于所述高精地图更新信息和第一云端高精地图,确定当前地图元素集合和当前地图元素属性;
基于所述第一云端高精地图、所述当前地图元素集合和所述当前地图元素属性,得到第二云端高精地图。
7.根据权利要求6所述的方法,其中,基于所述高精地图更新信息和第一云端高精地图,确定当前地图元素集合和当前地图元素属性,包括:
将所述高精地图更新信息和第一云端高精地图进行关联,建立统一的高精地图优化目标函数;
基于所述高精地图优化目标函数,得到当前地图元素集合和当前地图元素属性。
8.一种基于高精地图对车辆进行定位的装置,包括:
环境确定模块,用于确定车辆的当前环境数据;
地图确定模块,用于基于所述当前环境数据,确定局部高精地图;
位置确定模块,用于基于所述局部高精地图和第一云端高精地图,确定所述车辆在所述第一云端高精地图中的定位位姿。
9.一种高精地图更新的装置,包括:
更新信息确定模块,用于确定高精地图更新信息;
元素确定模块,用于基于所述高精地图更新信息和第一云端高精地图,确定当前地图元素集合和当前地图元素属性;
处理模块,用于基于所述第一云端高精地图、所述当前地图元素集合和所述当前地图元素属性,得到第二云端高精地图。
10.一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于执行上述权利要求1-5任一所述的基于高精地图对车辆进行定位的方法,或所述计算机程序用于执行上述权利要求6-7任一所述的高精地图更新的方法。
11.一种电子设备,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于执行上述权利要求1-5任一所述的基于高精地图对车辆进行定位的方法,或用于执行上述权利要求6-7任一所述的高精地图更新的方法。
CN201910436164.1A 2019-05-23 2019-05-23 基于高精地图对车辆进行定位的方法、装置及电子设备 Active CN111982133B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910436164.1A CN111982133B (zh) 2019-05-23 2019-05-23 基于高精地图对车辆进行定位的方法、装置及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910436164.1A CN111982133B (zh) 2019-05-23 2019-05-23 基于高精地图对车辆进行定位的方法、装置及电子设备

Publications (2)

Publication Number Publication Date
CN111982133A true CN111982133A (zh) 2020-11-24
CN111982133B CN111982133B (zh) 2023-01-31

Family

ID=73436593

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910436164.1A Active CN111982133B (zh) 2019-05-23 2019-05-23 基于高精地图对车辆进行定位的方法、装置及电子设备

Country Status (1)

Country Link
CN (1) CN111982133B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112284400A (zh) * 2020-12-24 2021-01-29 腾讯科技(深圳)有限公司 车辆的定位方法、装置、电子设备及计算机可读存储介质
CN114111813A (zh) * 2021-10-18 2022-03-01 阿波罗智能技术(北京)有限公司 高精地图元素更新方法、装置、电子设备及存储介质
CN114419180A (zh) * 2022-01-25 2022-04-29 智道网联科技(北京)有限公司 重构高精地图的方法、装置和电子设备
CN115235448A (zh) * 2022-06-28 2022-10-25 广州文远知行科技有限公司 一种高精地图的更新方法、装置、设备及存储介质
CN115265561A (zh) * 2022-09-27 2022-11-01 小米汽车科技有限公司 车辆定位方法、装置、车辆及介质

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104732518A (zh) * 2015-01-19 2015-06-24 北京工业大学 一种基于智能机器人地面特征的ptam改进方法
US20170015317A1 (en) * 2015-07-13 2017-01-19 Cruise Automation, Inc. Method for image-based vehicle localization
CN106767853A (zh) * 2016-12-30 2017-05-31 中国科学院合肥物质科学研究院 一种基于多信息融合的无人驾驶车辆高精度定位方法
CN106780699A (zh) * 2017-01-09 2017-05-31 东南大学 一种基于sins/gps和里程计辅助的视觉slam方法
CN107084727A (zh) * 2017-04-12 2017-08-22 武汉理工大学 一种基于高精度三维地图的视觉定位系统及方法
CN107144285A (zh) * 2017-05-08 2017-09-08 深圳地平线机器人科技有限公司 位姿信息确定方法、装置和可移动设备
JP2018017826A (ja) * 2016-07-26 2018-02-01 株式会社豊田中央研究所 自律移動体と環境地図更新装置
US20180075643A1 (en) * 2015-04-10 2018-03-15 The European Atomic Energy Community (Euratom), Represented By The European Commission Method and device for real-time mapping and localization
CN108303721A (zh) * 2018-02-12 2018-07-20 北京经纬恒润科技有限公司 一种车辆定位方法及系统
CN108847121A (zh) * 2018-07-04 2018-11-20 深圳地平线机器人科技有限公司 构建高精度地图的方法和装置
CN108896050A (zh) * 2018-06-26 2018-11-27 上海交通大学 一种基于激光传感器的移动机器人长期定位系统及方法
CN109084785A (zh) * 2018-07-25 2018-12-25 吉林大学 多车辆协同定位与地图构建方法、装置、设备及存储介质
CN109239752A (zh) * 2018-09-29 2019-01-18 重庆长安汽车股份有限公司 车辆定位系统
CN109556615A (zh) * 2018-10-10 2019-04-02 吉林大学 基于自动驾驶的多传感器融合认知的驾驶地图生成方法

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104732518A (zh) * 2015-01-19 2015-06-24 北京工业大学 一种基于智能机器人地面特征的ptam改进方法
US20180075643A1 (en) * 2015-04-10 2018-03-15 The European Atomic Energy Community (Euratom), Represented By The European Commission Method and device for real-time mapping and localization
US20170015317A1 (en) * 2015-07-13 2017-01-19 Cruise Automation, Inc. Method for image-based vehicle localization
JP2018017826A (ja) * 2016-07-26 2018-02-01 株式会社豊田中央研究所 自律移動体と環境地図更新装置
CN106767853A (zh) * 2016-12-30 2017-05-31 中国科学院合肥物质科学研究院 一种基于多信息融合的无人驾驶车辆高精度定位方法
CN106780699A (zh) * 2017-01-09 2017-05-31 东南大学 一种基于sins/gps和里程计辅助的视觉slam方法
CN107084727A (zh) * 2017-04-12 2017-08-22 武汉理工大学 一种基于高精度三维地图的视觉定位系统及方法
CN107144285A (zh) * 2017-05-08 2017-09-08 深圳地平线机器人科技有限公司 位姿信息确定方法、装置和可移动设备
CN108303721A (zh) * 2018-02-12 2018-07-20 北京经纬恒润科技有限公司 一种车辆定位方法及系统
CN108896050A (zh) * 2018-06-26 2018-11-27 上海交通大学 一种基于激光传感器的移动机器人长期定位系统及方法
CN108847121A (zh) * 2018-07-04 2018-11-20 深圳地平线机器人科技有限公司 构建高精度地图的方法和装置
CN109084785A (zh) * 2018-07-25 2018-12-25 吉林大学 多车辆协同定位与地图构建方法、装置、设备及存储介质
CN109239752A (zh) * 2018-09-29 2019-01-18 重庆长安汽车股份有限公司 车辆定位系统
CN109556615A (zh) * 2018-10-10 2019-04-02 吉林大学 基于自动驾驶的多传感器融合认知的驾驶地图生成方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
曹梦龙等: "即时定位与制图辅助的INS/GPS组合导航系统", 《中国惯性技术学报》 *
王相龙等: "基于路面指纹的高精度车辆定位", 《交通运输系统工程与信息》 *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112284400A (zh) * 2020-12-24 2021-01-29 腾讯科技(深圳)有限公司 车辆的定位方法、装置、电子设备及计算机可读存储介质
CN112284400B (zh) * 2020-12-24 2021-03-19 腾讯科技(深圳)有限公司 车辆的定位方法、装置、电子设备及计算机可读存储介质
CN114111813A (zh) * 2021-10-18 2022-03-01 阿波罗智能技术(北京)有限公司 高精地图元素更新方法、装置、电子设备及存储介质
CN114111813B (zh) * 2021-10-18 2024-06-18 阿波罗智能技术(北京)有限公司 高精地图元素更新方法、装置、电子设备及存储介质
CN114419180A (zh) * 2022-01-25 2022-04-29 智道网联科技(北京)有限公司 重构高精地图的方法、装置和电子设备
CN115235448A (zh) * 2022-06-28 2022-10-25 广州文远知行科技有限公司 一种高精地图的更新方法、装置、设备及存储介质
CN115265561A (zh) * 2022-09-27 2022-11-01 小米汽车科技有限公司 车辆定位方法、装置、车辆及介质

Also Published As

Publication number Publication date
CN111982133B (zh) 2023-01-31

Similar Documents

Publication Publication Date Title
CN111982133B (zh) 基于高精地图对车辆进行定位的方法、装置及电子设备
KR102145109B1 (ko) 지도 생성 및 운동 객체 위치 결정 방법 및 장치
CN111897305B (zh) 一种基于自动驾驶的数据处理方法、装置、设备及介质
EP3505869B1 (en) Method, apparatus, and computer readable storage medium for updating electronic map
CN111694903B (zh) 地图构建方法、装置、设备以及可读存储介质
CN109285220B (zh) 一种三维场景地图的生成方法、装置、设备及存储介质
US20210049412A1 (en) Machine learning a feature detector using synthetic training data
CN108763287B (zh) 大规模可通行区域驾驶地图的构建方法及其无人驾驶应用方法
CN110426051A (zh) 一种车道线绘制方法、装置及存储介质
CN108981730A (zh) 用于为操作自动驾驶车辆生成参考路径的方法和系统
CN110715671B (zh) 三维地图生成方法、装置、车辆导航设备和无人驾驶车辆
CN106296814B (zh) 公路养护检测与可视化交互方法和系统
JP2015148601A (ja) マッピング、位置特定、及び姿勢補正のためのシステム及び方法
CN111351502B (zh) 用于从透视图生成环境的俯视图的方法,装置和计算机程序产品
KR102130687B1 (ko) 다중 센서 플랫폼 간 정보 융합을 위한 시스템
CN112146682B (zh) 智能汽车的传感器标定方法、装置、电子设备及介质
KR100484941B1 (ko) 영상정보를 이용한 지리정보 구축 및 브라우징 시스템과그 방법
CN115164918A (zh) 语义点云地图构建方法、装置及电子设备
Protzmann et al. Implementation of a perception module for smart mobility applications in eclipse mosaic
CN112651991B (zh) 视觉定位方法、装置及计算机系统
CN113724397A (zh) 虚拟对象的定位方法、装置、电子设备及存储介质
CN112507891A (zh) 自动化识别高速路口并构建路口向量的方法及装置
CN108416044B (zh) 场景缩略图的生成方法、装置、电子设备及存储介质
Wang et al. Real-time location estimation for indoor navigation using a visual-inertial sensor
CN117132728B (zh) 构建地图的方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant