CN116007637B - 定位装置、方法、车载设备、车辆、及计算机程序产品 - Google Patents
定位装置、方法、车载设备、车辆、及计算机程序产品 Download PDFInfo
- Publication number
- CN116007637B CN116007637B CN202310303444.1A CN202310303444A CN116007637B CN 116007637 B CN116007637 B CN 116007637B CN 202310303444 A CN202310303444 A CN 202310303444A CN 116007637 B CN116007637 B CN 116007637B
- Authority
- CN
- China
- Prior art keywords
- image
- target object
- association information
- target
- pose
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Abstract
本公开提供了一种定位装置、方法、车载设备、车辆、及计算机程序产品;定位装置包括:处理器,所述处理器用于执行下述定位过程:获取道路图像,并基于道路图像,确定第一目标对象在俯视BEV视角下的第一分割图像、和第二目标对象在透视PV视角下的第二分割图像;以及,基于检测位姿、以及高精三维地图确定第一目标对象在BEV视角下的第三分割图像;对第一分割图像和第三分割图像进行第一关联处理,得到第一关联信息,并对高精三维地图中属于第二目标对象的点云点、和第二分割图像进行第二关联处理,得到第二关联信息;基于第一关联信息、第二关联信息,进行多视角非线性位姿估计处理,得到目标位姿。
Description
技术领域
本公开涉及智能驾驶技术领域,具体而言,涉及一种定位装置、方法、车载设备、车辆、及计算机程序产品。
背景技术
随着自动驾驶技术的快速发展,精确定位车辆位姿成为影响自动驾驶安全的重要因素。在相关技术中,为了能够确定车辆位姿,通常采用利用图像结合全球卫星导航系统和全球导航卫星系统(Global Navigation Satellite System,GNSS)进行位姿估算的方式,来确定车辆的当前位姿。这种方法存在确定的车辆位姿精度低的问题。
发明内容
本公开实施例至少提供一种定位装置、方法、车载设备、车辆、及计算机程序产品。
第一方面,本公开实施例提供了一种定位装置,包括:处理器,所述处理器用于执行下述定位过程:
获取道路图像,并基于所述道路图像,确定第一目标对象在俯视BEV视角下的第一分割图像、和第二目标对象在透视PV视角下的第二分割图像;以及,基于检测位姿、以及高精三维地图确定所述第一目标对象在所述BEV视角下的第三分割图像;
对所述第一分割图像和所述第三分割图像进行第一关联处理,得到第一关联信息,并对所述高精三维地图中属于所述第二目标对象的点云点、和所述第二分割图像进行第二关联处理,得到第二关联信息;
基于所述第一关联信息、所述第二关联信息,进行多视角非线性位姿估计处理,得到目标位姿。
一种可能的实施方式中,所述处理器,在基于所述道路图像,确定第一目标对象在BEV视角下的第一分割图像时,用于:
利用BEV感知网络对所述道路图像进行处理,得到至少一种第一目标对象分别在所述BEV视角下的第一掩码图像;其中,所述第一掩码图像中任一像素点的像素值,表征该像素点是否属于对应第一目标对象;
对至少一种所述第一目标对象分别在所述BEV视角下的第一掩码图像进行合并处理,得到合并处理后的第一掩码图像;
对所述合并处理后的第一掩码图像进行距离变换处理,得到所述第一分割图像;其中,所述第一分割图像中任一像素点的像素值,表征该像素点与属于所述第一目标对象的像素点的最近距离。
一种可能的实施方式中,所述处理器,在基于所述道路图像,确定所述第二目标对象在PV视角下的第二分割图像时,用于:
利用预先训练的目标检测网络对所述道路图像进行处理,得到第二掩码图像;所述第二掩码图像中任一像素点的像素值,表征该像素点是否属于所述第二目标对象在所述道路图像中投影的端点连线;
对所述第二掩码图像进行距离变换处理,得到所述第二分割图像;所述第二分割图像中任一像素点的像素值,表征该像素点与属于所述端点连线的像素点的最近距离。
一种可能的实施方式中,所述高精三维地图包括:多个点云点、以及多个点云点分别对应的语义信息;
所述处理器,在基于检测位姿、以及高精三维地图确定所述第一目标对象在所述BEV视角下的第三分割图像时,用于:
获取所述检测位姿;
基于所述检测位姿,从所述高精三维地图中确定属于所述第一目标对象的多个第一目标点云点;
将所述第一目标点云点投影至所述第一预设视角下,得到第三掩码图像;所述第三掩码图像中每个像素点的像素值,表征该像素点是否属于对应第一目标对象;
对所述第三掩码图像进行距离变换处理,得到所述第三分割图像;其中,所述第三分割图像中任一像素点的像素值,表征该像素点与属于所述第一目标对象的像素点的最近距离。
一种可能的实施方式中,所述处理器,在对所述第一分割图像和所述第三分割图像进行第一关联处理,得到第一关联信息时,用于:对所述第一分割图像和所述第三分割图像进行对齐处理,得到所述第一分割图像和所述第三分割图像中属于相同位置点的像素点之间的匹配关系;
基于所述匹配关系,从所述第一分割图像和所述第二分割图像中,确定多个位置匹配的像素点对;所述像素点对用于描述所述第一关联信息。
一种可能的实施方式中,所述处理器,在对所述第一分割图像和所述第三分割图像进行对齐处理,得到所述第一分割图像和所述第三分割图像中属于相同位置点的像素点之间的匹配关系时,用于:
针对第一分割图像中的每个第一像素点,确定在所述第三分割图像中位置与所述第一像素点匹配的第三像素点之间的归一化关联系数;
将所述归一化关联系数、和目标系数阈值进行比对;
响应于所述归一化关联系数大于所述目标系数阈值,将该第一像素点和对应第三像素点之间的匹配关系确定为匹配失败;
响应于所述归一化关联系数小于或者等于所述目标系数阈值,将该第一像素点和对应第三像素点之间的匹配关系确定为匹配成功。
一种可能的实施方式中,所述处理器,在对所述高精三维地图中属于所述第二目标对象的点云点、和所述第二分割图像进行第二关联处理,得到第二关联信息时,用于:
基于所述检测位姿,从所述高精三维地图中确定属于所述第二目标对象的多个第二目标点云点;
基于所述检测位姿,将所述第二目标点云点投影至所述PV视角下,得到所述第二目标点云点在所述PV视角下的投影关系信息;所述投影关系信息用于描述所述第二关联信息。
一种可能的实施方式中,所述处理器,在基于所述第一关联信息、所述第二关联信息,进行多视角非线性位姿估计处理,得到目标位姿时,用于:
基于所述第一关联信息、所述第二关联信息,构建约束条件;
基于所述约束条件,得到所述目标位姿。
一种可能的实施方式中,所述处理器,在基于所述第一关联信息、所述第二关联信息,构建约束条件时,用于:
基于所述第一关联信息,建立在所述BEV视角下的二维运动约束条件;
以及,将所述第二关联信息,确定为在PV视角下的三维约束条件;
基于所述二维运动约束条件、以及所述三维约束条件,生成对位姿的所述约束条件。
第二方面,本公开实施例还提供一种定位方法,包括:
获取道路图像,并基于所述道路图像,确定第一目标对象在俯视BEV视角下的第一分割图像、和第二目标对象在透视PV视角下的第二分割图像;以及,基于检测位姿、以及高精三维地图确定所述第一目标对象在所述BEV视角下的第三分割图像;
对所述第一分割图像和所述第三分割图像进行第一关联处理,得到第一关联信息,并对所述高精三维地图中属于所述第二目标对象的点云点、和所述第二分割图像进行第二关联处理,得到第二关联信息;
基于所述第一关联信息、所述第二关联信息,进行多视角非线性位姿估计处理,得到目标位姿。
第三方面,本公开实施例还提供一种车载设备,包括:如第一方面、或第一方面任一项所述的定位装置。
第四方面,本公开实施例还提供一种车辆,包括:如第一方面、或第一方面任一项所述的定位装置、或如第三方面所述的车载设备。
第五方面,本公开实施例还提供一种计算机程序产品,包括计算机程序,当所述计算机程序被执行时实现如权利要求10所述的定位方法。
本公开实施例通过获取的道路图像,确定第一目标对象在BEV视角下的第一分割图像、和第二目标对象在透视PV视角下的第二分割图像;并基于检测位姿、以及高精三维地图确定所述第一目标对象在所述BEV视角下的第三分割图像;然后对第一分割图像和所述第三分割图像进行第一关联处理,得到第一关联信息,并对所述高精三维地图中属于所述第二目标对象的点云点、和所述第二分割图像进行第二关联处理,得到第二关联信息;基于所述第一关联信息、所述第二关联信息,进行多视角非线性位姿估计处理,得到目标位姿,进而实现了将BEV视角下的感知观测与PV视角下的感知观测结合起来,共同构成对检测位姿的约束条件,以实现对位姿的优化,得到更高精度的目标位姿。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本公开的技术方案。
为使本公开的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本公开实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,此处的附图被并入说明书中并构成本说明书中的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。应当理解,以下附图仅示出了本公开的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了本公开一些实施例所提供的定位方法的流程图;
图2示出了本公开一些实施例所提供的确定第一分割图像具体方法的流程图;
图3示出了本公开一些实施例所提供的确定第二分割图像具体方法的流程图;
图4示出了本公开一些实施例所提供的确定第三分割图像具体方法的流程图;
图5示出了本公开一些实施例所提供的定位装置的示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例中附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。通常在此处描述和示出的本公开实施例的组件可以以各种不同的配置来布置和设计。因此,以下对本公开的实施例的详细描述并非旨在限制要求保护的本公开的范围,而是仅仅表示本公开的选定实施例。基于本公开的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本公开保护的范围。
经研究发现,在相关技术中确定车辆位姿时,是通过将获取到的车辆周围的环境图像,从透视视角(Perspective View,PV)通过平面投影方法获得以视觉为中心的俯视(Bird Eye View,BEV)视角下的感知点云,然后使用迭代闭合点(Iterated Closed Point,ICP)算法计算感知点云相对于地图中的位置,融合GNSS信息,得到车辆在地图中的最优估计位姿。但本方法依赖于地面的平面假设,该假设通常是数学计算中的理想模型,因此通过透视图视角下感知转换到BEV视角下的感知点云中的点的位置坐标并不准确。同时在ICP算法中,计算的是点云匹配点对的平均误差,因此最终得出的位姿存在的误差较大。
基于上述研究,本公开提供了一种定位装置、以及定位方法,将BEV视角下的感知观测与PV视角下的感知观测结合起来,共同构成对检测位姿的约束条件,以实现对位姿的优化,得到更高精度的目标位姿。
针对以上方案所存在的缺陷,均是发明人在经过实践并仔细研究后得出的结果,因此,上述问题的发现过程以及下文中本公开针对上述问题所提出的解决方案,都应该是发明人在本公开过程中对本公开做出的贡献。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
为便于对本实施例进行理解,首先对本公开实施例所公开的一种定位方法进行详细介绍,本公开实施例所提供的定位方法的执行主体一般为具有一定计算能力的计算机设备,该计算机设备例如包括:终端设备或服务器或其它处理设备,终端设备可以为用户设备(User Equipment,UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字助理(Personal Digital Assistant,PDA)、手持设备、计算设备、车载设备、可穿戴设备等。在一些可能的实现方式中,该定位方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。
下面以将本公开实施例提供得到定位方法应用于车载设备中为例,对本公开实施例提供的定位方法加以说明。
参见图1所示,为本公开实施例提供的定位方法的流程图,所述方法包括步骤S101~S103,其中:
S101:获取道路图像。
在一种可能的实施方式中,与车载设备连接有图像获取设备;该图像获取设备能够实时获取车辆周边的道路图像,并将道路图像传输给车载设备。车载设备能够接收图像获取设备获取的道路图像,并利用该道路图像执行后续的步骤。
S102:基于所述道路图像,确定第一目标对象在BEV视角下的第一分割图像、和第二目标对象在PV视角下的第二分割图像。
在具体实施中,第一道路图像例如包括道路中的车道线、道路边界线、人行道轮廓线等中的一种或者多种。
参见图2所示,本公开实施例提供一种基于道路图像,确定第一目标对象在BEV视角下的第一分割图像的具体方式,包括:
S201:利用BEV感知网络对所述道路图像进行处理,得到至少一种第一目标对象分别在所述BEV视角下的第一掩码图像;其中,所述第一掩码图像中任一像素点的像素值,表征该像素点是否属于对应第一目标对象。
此处,BEV感知网络例如包括:BEVFormer网络或者HDMapNet网络;也可以是根据实际的应用需求构建的神经网络,其例如可以采用下述方式训练得到:
获取多张样本道路图像、以及与多张样本道路图像分别对应的样本掩码图像;其中,每张样本道路图像对应的样本掩码图像,例如可以采用不同拍摄角度的拍摄设备,对同一道路区域进行同步拍摄处理,其中,两个拍摄角度包括了俯视角度(也即BEV视角下)、以及除俯视角度外的其他拍摄角度;将除俯视角度外的其他拍摄角度拍摄得到的图像,作为样本道路图像,并对俯视角度拍摄得到的图像进行第一目标对象的标注,以得到与样本道路图像对应的样本掩码图像。然后将样本掩码图像作为监督信息,利用样本道路图像对待训练的BEV感知神经网络进行训练,得到训练好的BEV感知网络。
在实际使用过程中,可以将该BEV感知网络部署到车载设备中,在得到道路图像后,可以利用车载设备中部署的BEV感知网络对道路图像进行处理,得到与道路图像中的至少一种第一目标对象分别在BEV视角下的第一掩码图像。
其中,与任一种第一目标对象M对应的第一掩码图像中各个像素点的像素值,用于表征该像素点是否属于第一目标对象M。
以第一目标对象包括:车道线、道路边界线、以及行人道轮廓线为例,三种第一目标对象对应的标签值分别为1,2,3。
对于BEV视角下的RGB图像,每个位置的像素点都会被分类到上述3种类别中的一类,并将255赋值给掩码图像中对应位置的像素点。如果某个像素点并非是上述3种标签类别中任一类,则将掩码图像中对应位置的像素点赋值为0。上述对掩码图像中各个像素点的赋值,具体可以根据实际的需要确定,本公开实施例不做限定。
S202:对至少一种所述第一目标对象分别在所述BEV视角下的第一掩码图像进行合并处理,得到合并处理后的第一掩码图像。
S203:对所述合并处理后的第一掩码图像进行距离变换处理,得到所述第一分割图像;其中,所述第一分割图像中任一像素点的像素值,表征该像素点与属于所述第一目标对象的像素点的最近距离。
此处,在对合并处理后的第一掩码图像进行距离变换处理时,例如可以遍历合并处理后的第一掩码图像中的各个像素点,并针对遍历到的像素点,确定与该遍历到的像素点距离最近的目标像素点的距离,也即最近距离;其中,目标像素点是属于第一目标对象的像素点。此处,假若遍历到的像素点属于第一目标对象,则与距离最近的目标像素点的距离为0;若遍历到的像素点并不属于第一目标对象,则与距离最近的目标像素点的距离根据实际情况而有所不同,从而将/>从两值图像转换为可微分的第一分割图像/>,以方便后续的处理。
第二目标对象例如包括道路中常见的杆状物体,如红绿灯杆、指示牌杆、路灯杆等中一种或者多种。
参见图3所示,本公开实施例还提供一种基于道路图像,确定第二目标对象在PV视角下的第二分割图像的具体方式,包括:
S301:利用预先训练的目标检测网络对所述道路图像进行处理,得到第二掩码图像;所述第二掩码图像中任一像素点的像素值,表征该像素点是否属于所述第二目标对象在所述道路图像中投影的端点连线。
在具体实施中,目标检测网络例如为关键点检测网络,如Centernet网络,能够将杆状物体的两个端点和/>从道路图像中检测出来,如路灯杆的最高点和最低点,红绿灯杆的最高点与最低点等。两个端点之间的连线可以构成一条线段/>,也即第二目标对象在道路图像中投影的端点连线。
S302:对所述第二掩码图像进行距离变换处理,得到所述第二分割图像;所述第二分割图像中任一像素点的像素值,表征该像素点与属于所述端点连线的像素点的最近距离。
此处,在对第二掩码图像进行距离变换处理时,例如可以遍历第二掩码图像中的各个像素点,并针对遍历到的像素点,确定与该遍历到的像素点与端点连线/>的距离。此处,假若遍历到的像素点属于端点连线/>,则将其值确定为0;若遍历到的像素点并不属于端点连线/>,则其与端点连线/>的距离根据实际情况而有所不同,从而将/>从两值图像转换为可微分的第二分割图像/>,以方便后续的处理。
承接上述S101,本公开实施例提供的定位方法还包括下述S103:
S103:基于检测位姿、以及高精三维地图确定所述第一目标对象在所述BEV视角下的第三分割图像。
此处,S102和S103并无执行的先后顺序。
在具体实施中,检测位姿,例如是通过与车载设备连接的GNSS、以及惯性测量单元(Inertial measurement unit,IMU)等车载惯导设备检测得到的位姿。
高精三维地图包括多个点云点、以及与多个点云点分别对应的语义信息。其中,点云点用于表征与高精三维地图对应的物理世界中的各个物体;语义信息用于表征与点云点对应的物体的语义,如现实物理世界中的红绿灯,在高精三维地图中通过多个点云点构成,每个构成红绿灯的点云点均对应有语义信息“红绿灯”;又例如现实物理世界中的车道线,在高精三维地图中也通过多个点云点构成,每个构成车道线的点云点均对应有语义信息“车道线”。
参见图4所示,本公开实施例提供一种基于检测位姿、以及高精三维地图,确定第一目标对象在BEV视角下第三分割图像的具体方式,包括:
S401:获取所述检测位姿。
在具体实施中,可以将车载设备连接具体的惯导设备,并获取惯导设备输出的当前检测位姿。这里,检测位姿的确定时间、和道路图像的拍摄时间是同步的,或者两者之间的差异小于一定的差异阈值。
S402:基于所述检测位姿,从所述高精三维地图中确定属于所述第一目标对象的多个第一目标点云点。
S403:将所述第一目标点云点投影至所述第一预设视角下,得到第三掩码图像;所述第三掩码图像中每个像素点的像素值,表征该像素点是否属于对应第一目标对象。
在具体实施中,在确定第一目标点云点时,例如采用下述方式:确定一四棱锥形的目标空间,该目标空间以检测位姿为中心,以相机的光心为中心,且锥底的底长和宽分别为M米;从高精三维地图中,确定位于该目标空间内的多个备选点云点。基于多个备选点云点分别对应的语义信息,从多个备选点云点中筛选属于第一目标对象的第一目标点云点。
例如,确定的多个备选点云点构成的集合为,对于高精三维地图中的车道线,道路边界线以及人行横道轮廓线上的点云点,也即第一目标点云点构成的集合为/>,对于/>中的每个点云点/>,将其投影到BEV视角下时,对应的投影点/>满足:/>。
S404:对所述第三掩码图像进行距离变换处理,得到所述第三分割图像;其中,所述第三分割图像中任一像素点的像素值,表征该像素点与属于所述第一目标对象的像素点的最近距离。
此处,在对第三掩码图像进行距离变换处理时,和对合并后的第一掩码图像进行距离变换处理的方式相似,在此不再赘述。
此外,在对第三掩码图像进行距离变换处理之前,还可以对第三掩码图像进行开运算处理,以消除第三掩码图像中可能存在的断点;之后,再对进行了开运算处理后的第三掩码图像进行距离变换处理,以得到在BEV视角下的可微分的第三分割图像。
承接上述S102以及S103,本公开实施例提供的定位方法还包括:
S104:对所述第一分割图像和所述第三分割图像进行第一关联处理,得到第一关联信息,并对所述高精三维地图中属于所述第二目标对象的点云点、和所述第二分割图像进行第二关联处理,得到第二关联信息。
对第一图分割图像和第二分割图像进行第一关联处理,目的是要建立第一分割图像和第二分割图像之间的关联;该关联对应的第一关联信息,用于描述基于道路图像确定的在BEV视角下的各个第一目标对象、和基于检测位姿和高精三维地图确定的在BEV视角下的各个第一目标对象之间的位置差异;该位置差异越大,则表征检测位姿的误差也就越大;反之,若该位置差异越小,则表征检测位姿的误差也就越小。
本公开实施例提供一种对第一分割图像和第三分割图像进行关联处理的具体方式,包括:对所述第一分割图像和所述第三分割图像进行对齐处理,得到所述第一分割图像和所述第三分割图像中属于相同位置点的像素点之间的匹配关系。基于所述匹配关系,从所述第一分割图像和所述第二分割图像中,确定多个位置匹配的像素点对;所述像素点对用于描述所述第一关联信息。
在具体实施中,在对第一分割图像和第二分割图像进行对齐处理时,例如可以采用下述方式:针对第一分割图像中的每个第一像素点,确定在所述第三分割图像中位置与所述第一像素点匹配的第三像素点之间的归一化关联系数;将所述归一化关联系数、和目标系数阈值进行比对;响应于所述归一化关联系数大于所述目标系数阈值,将该第一像素点和对应第三像素点之间的匹配关系确定为匹配失败;响应于所述归一化关联系数小于或者等于所述目标系数阈值,将该第一像素点和对应第三像素点之间的匹配关系确定为匹配成功。
其中,可以遍历第一分割图像中的每个第一像素点,并针对遍历到的第一像素点,从第三分割图像中确定与该遍历到的第一像素点位置对应的第二像素点。
此外,本公开实施例在对所述高精三维地图中属于所述第二目标对象的点云点、和所述第二分割图像进行第二关联处理,得到第二关联信息时,目的是要建立属于第二目标对象的点云点和第二分割图像之间的关联;该关联对应的第二关联信息,用于描述基于道路图像确定的在PV视角下的各个第二目标对象、和基于检测位姿和高精三维地图确定的在PV视角下的各个第二目标对象之间的位置差异;类似的,该位置差异越大,则表征检测位姿的误差也就越大;反之,若该位置差异越小,则表征检测位姿的误差也就越小。
具体地,例如可以采用下述方式得到第二关联信息:基于所述检测位姿,从所述高精三维地图中确定属于所述第二目标对象的多个第二目标点云点;基于所述检测位姿,将所述第二目标点云点投影至所述PV视角下,得到所述第二目标点云点在所述PV视角下的投影关系信息;所述投影关系信息用于描述所述第二关联信息。
在具体实施中,在基于检测位姿,从高精三维地图中确定属于第二目标对象的多个第二目标点云点时,例如采用下述方式:确定以检测位姿为中心,长和宽分别为M米的投影面;从高精三维地图中,确定能够投影至该投影面的多个备选点云点。基于多个备选点云点分别对应的语义信息,从多个备选点云点中筛选属于第二目标对象的第二目标点云点。
这里,备选点云点的确定过程只需要执行一次即可,无需在确定第一目标点云点和第二目标点云点时分别执行两次,可以在确定第一目标点云点的过程中,将第二目标点云点从确定的与检测位姿对应的备选点云点中筛选并存储,以供后续的使用。
承接上述S104,本公开实施例提供的定位方法还包括:
S105:基于所述第一关联信息、所述第二关联信息,进行多视角非线性位姿估计处理,得到目标位姿。
在具体实施中,多视角是指BEV视角和PV视角;通过BEV视角和PV视角下分别对应的第一关联信息、和第二关联信息,进行位姿估计处理。
在基于第一关联信息和第二关联信息进行多视角非线性位姿估计处理时,例如可以采用下述方式:
基于所述第一关联信息、所述第二关联信息,构建对位姿的约束条件;
基于所述约束条件,确定所述目标位姿。
其中,在基于第一关联信息、以及第二关联信息,构建对位姿的约束条件时,例如可以采用下述方式:基于第一关联信息,建立在BEV视角下的二维运动约束条件;以及将第二关联信息,确定为在PV视角下的三维约束条件;
基于所述二维运动约束条件、以及所述三维约束条件,生成对位姿的约束条件。
联立上述二维运动约束条件和三维约束条件,可以得到对位姿的约束条件,该约束条件满足下述公式(8):
其中,满足上述公式(7);/>表示检测位姿;第二目标对象对应的第二目标点云点构成的点云点集合为/>,对于/>中的每个点云点/>,将其投影到PV视角下时,对应的投影点/>;/>表示车辆位姿的最优估计,也即目标位姿。然后对上述公式(8)进行求解,得到目标位姿。
本公开实施例提供的定位方法,通过获取的道路图像,确定第一目标对象在BEV视角下的第一分割图像、和第二目标对象在透视PV视角下的第二分割图像;并基于检测位姿、以及高精三维地图确定所述第一目标对象在所述BEV视角下的第三分割图像;然后对第一分割图像和所述第三分割图像进行第一关联处理,得到第一关联信息,并对所述高精三维地图中属于所述第二目标对象的点云点、和所述第二分割图像进行第二关联处理,得到第二关联信息;基于所述第一关联信息、所述第二关联信息,进行多视角非线性位姿估计处理,得到目标位姿,进而实现了将BEV视角下的感知观测与PV视角下的感知观测结合起来,共同构成对检测位姿的约束条件,以实现对位姿的优化,得到更高精度的目标位姿。
本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
基于同一发明构思,基于同一发明构思,本公开实施例中还提供了与定位方法对应的定位装置,由于本公开实施例中的装置解决问题的原理与本公开实施例上述定位方法相似,因此装置的实施可以参见方法的实施,重复之处不再赘述。
如图5所示,本公开实施例提供的定位装置,包括:处理器10所述处理器用于执行下述定位过程:
获取道路图像,并基于所述道路图像,确定第一目标对象在俯视BEV视角下的第一分割图像、和第二目标对象在透视PV视角下的第二分割图像;以及,基于检测位姿、以及高精三维地图确定所述第一目标对象在所述BEV视角下的第三分割图像;
对所述第一分割图像和所述第三分割图像进行第一关联处理,得到第一关联信息,并对所述高精三维地图中属于所述第二目标对象的点云点、和所述第二分割图像进行第二关联处理,得到第二关联信息;
基于所述第一关联信息、所述第二关联信息,进行多视角非线性位姿估计处理,得到目标位姿。
一种可能的实施方式中,所述处理器10,在基于所述道路图像,确定第一目标对象在BEV视角下的第一分割图像时,用于:
利用BEV感知网络对所述道路图像进行处理,得到至少一种第一目标对象分别在所述BEV视角下的第一掩码图像;其中,所述第一掩码图像中任一像素点的像素值,表征该像素点是否属于对应第一目标对象;
对至少一种所述第一目标对象分别在所述BEV视角下的第一掩码图像进行合并处理,得到合并处理后的第一掩码图像;
对所述合并处理后的第一掩码图像进行距离变换处理,得到所述第一分割图像;其中,所述第一分割图像中任一像素点的像素值,表征该像素点与属于所述第一目标对象的像素点的最近距离。
一种可能的实施方式中,所述处理器10,在基于所述道路图像,确定所述第二目标对象在PV视角下的第二分割图像时,用于:
利用预先训练的目标检测网络对所述道路图像进行处理,得到第二掩码图像;所述第二掩码图像中任一像素点的像素值,表征该像素点是否属于所述第二目标对象在所述道路图像中投影的端点连线;
对所述第二掩码图像进行距离变换处理,得到所述第二分割图像;所述第二分割图像中任一像素点的像素值,表征该像素点与属于所述端点连线的像素点的最近距离。
一种可能的实施方式中,所述高精三维地图包括:多个点云点、以及多个点云点分别对应的语义信息;
所述处理器10,在基于检测位姿、以及高精三维地图确定所述第一目标对象在所述BEV视角下的第三分割图像时,用于:
获取所述检测位姿;
基于所述检测位姿,从所述高精三维地图中确定属于所述第一目标对象的多个第一目标点云点;
将所述第一目标点云点投影至所述第一预设视角下,得到第三掩码图像;所述第三掩码图像中每个像素点的像素值,表征该像素点是否属于对应第一目标对象;
对所述第三掩码图像进行距离变换处理,得到所述第三分割图像;其中,所述第三分割图像中任一像素点的像素值,表征该像素点与属于所述第一目标对象的像素点的最近距离。
一种可能的实施方式中,所述处理器10,在对所述第一分割图像和所述第三分割图像进行第一关联处理,得到第一关联信息时,用于:对所述第一分割图像和所述第三分割图像进行对齐处理,得到所述第一分割图像和所述第三分割图像中属于相同位置点的像素点之间的匹配关系;
基于所述匹配关系,从所述第一分割图像和所述第二分割图像中,确定多个位置匹配的像素点对;所述像素点对用于描述所述第一关联信息。
一种可能的实施方式中,所述处理器10,在对所述第一分割图像和所述第三分割图像进行对齐处理,得到所述第一分割图像和所述第三分割图像中属于相同位置点的像素点之间的匹配关系时,用于:
针对第一分割图像中的每个第一像素点,确定在所述第三分割图像中位置与所述第一像素点匹配的第三像素点之间的归一化关联系数;
将所述归一化关联系数、和目标系数阈值进行比对;
响应于所述归一化关联系数大于所述目标系数阈值,将该第一像素点和对应第三像素点之间的匹配关系确定为匹配失败;
响应于所述归一化关联系数小于或者等于所述目标系数阈值,将该第一像素点和对应第三像素点之间的匹配关系确定为匹配成功。
一种可能的实施方式中,所述处理器10,在对所述高精三维地图中属于所述第二目标对象的点云点、和所述第二分割图像进行第二关联处理,得到第二关联信息时,用于:
基于所述检测位姿,从所述高精三维地图中确定属于所述第二目标对象的多个第二目标点云点;
基于所述检测位姿,将所述第二目标点云点投影至所述PV视角下,得到所述第二目标点云点在所述PV视角下的投影关系信息;所述投影关系信息用于描述所述第二关联信息。
一种可能的实施方式中,所述处理器10,在基于所述第一关联信息、所述第二关联信息,进行多视角非线性位姿估计处理,得到目标位姿时,用于:
基于所述第一关联信息、所述第二关联信息,构建约束条件;
基于所述约束条件,得到所述目标位姿。
一种可能的实施方式中,所述处理器10,在基于所述第一关联信息、所述第二关联信息,构建约束条件时,用于:
基于所述第一关联信息,建立在所述BEV视角下的二维运动约束条件;
以及,将所述第二关联信息,确定为在PV视角下的三维约束条件;
基于所述二维运动约束条件、以及所述三维约束条件,生成对位姿的所述约束条件。
关于装置中的各模块的处理流程、以及各模块之间的交互流程的描述可以参照上述方法实施例中的相关说明,这里不再详述。
本公开实施例还提供一种车载设备,包括如本公开任一实施例提供的定位装置。
本公开实施例还提供一种车辆,包括如本公开任一实施例提供的定位装置、或车载设备。
本公开实施例还提供一种计算机程序产品,包括计算机程序/指令,当所述计算机程序/指令处理器被执行时实现如本公开各实施例提供的定位方法。
本公开实施例中的方法可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机程序或指令。在计算机上加载和执行所述计算机程序或指令时,全部或部分地执行本申请所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、网络设备、用户设备、核心网设备、OAM或者其它可编程装置。
所述计算机程序或指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机程序或指令可以从一个网站站点、计算机、服务器或数据中心通过有线或无线方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是集成一个或多个可用介质的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,例如,软盘、硬盘、磁带;也可以是光介质,例如,数字视频光盘;还可以是半导体介质,例如,固态硬盘。该计算机可读存储介质可以是易失性或非易失性存储介质,或可包括易失性和非易失性两种类型的存储介质。
最后应说明的是:以上所述实施例,仅为本公开的具体实施方式,用以说明本公开的技术方案,而非对其限制,本公开的保护范围并不局限于此,尽管参照前述实施例对本公开进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本公开实施例技术方案的精神和范围,都应涵盖在本公开的保护范围之内。因此,本公开的保护范围应所述以权利要求的保护范围为准。
Claims (11)
1.一种定位装置,其特征在于,包括:处理器,所述处理器用于执行下述定位过程:
获取道路图像,并基于所述道路图像,确定第一目标对象在俯视BEV视角下的第一分割图像、和第二目标对象在透视PV视角下的第二分割图像;以及,基于检测位姿、以及高精三维地图确定所述第一目标对象在所述BEV视角下的第三分割图像;
对所述第一分割图像和所述第三分割图像进行第一关联处理,得到第一关联信息,并对所述高精三维地图中属于所述第二目标对象的点云点、和所述第二分割图像进行第二关联处理,得到第二关联信息;
基于所述第一关联信息、所述第二关联信息,进行多视角非线性位姿估计处理,得到车辆的目标位姿;
其中,所述处理器,在基于所述第一关联信息、所述第二关联信息,进行多视角非线性位姿估计处理,得到目标位姿时,用于:
基于所述第一关联信息、所述第二关联信息,构建约束条件;
基于所述约束条件,得到所述目标位姿。
2.根据权利要求1所述的定位装置,其特征在于,所述处理器,在基于所述道路图像,确定第一目标对象在BEV视角下的第一分割图像时,用于:
利用BEV感知网络对所述道路图像进行处理,得到至少一种第一目标对象分别在所述BEV视角下的第一掩码图像;其中,所述第一掩码图像中任一像素点的像素值,表征该像素点是否属于对应第一目标对象;
对至少一种所述第一目标对象分别在所述BEV视角下的第一掩码图像进行合并处理,得到合并处理后的第一掩码图像;
对所述合并处理后的第一掩码图像进行距离变换处理,得到所述第一分割图像;其中,所述第一分割图像中任一像素点的像素值,表征该像素点与属于所述第一目标对象的像素点的最近距离。
3.根据权利要求1或2所述的定位装置,其特征在于,所述处理器,在基于所述道路图像,确定所述第二目标对象在PV视角下的第二分割图像时,用于:
利用预先训练的目标检测网络对所述道路图像进行处理,得到第二掩码图像;所述第二掩码图像中任一像素点的像素值,表征该像素点是否属于所述第二目标对象在所述道路图像中投影的端点连线;
对所述第二掩码图像进行距离变换处理,得到所述第二分割图像;所述第二分割图像中任一像素点的像素值,表征该像素点与属于所述端点连线的像素点的最近距离。
4.根据权利要求1所述的定位装置,其特征在于,所述高精三维地图包括:多个点云点、以及多个点云点分别对应的语义信息;
所述处理器,在基于检测位姿、以及高精三维地图确定所述第一目标对象在所述BEV视角下的第三分割图像时,用于:
获取所述检测位姿;
基于所述检测位姿,从所述高精三维地图中确定属于所述第一目标对象的多个第一目标点云点;
将所述第一目标点云点投影至所述BEV视角下,得到第三掩码图像;所述第三掩码图像中每个像素点的像素值,表征该像素点是否属于对应第一目标对象;
对所述第三掩码图像进行距离变换处理,得到所述第三分割图像;其中,所述第三分割图像中任一像素点的像素值,表征该像素点与属于所述第一目标对象的像素点的最近距离。
5.根据权利要求1所述的定位装置,其特征在于,所述处理器,在对所述第一分割图像和所述第三分割图像进行第一关联处理,得到第一关联信息时,用于:对所述第一分割图像和所述第三分割图像进行对齐处理,得到所述第一分割图像和所述第三分割图像中属于相同位置点的像素点之间的匹配关系;
基于所述匹配关系,从所述第一分割图像和所述第二分割图像中,确定多个位置匹配的像素点对;所述像素点对用于描述所述第一关联信息。
6.根据权利要求5所述的定位装置,其特征在于,所述处理器,在对所述第一分割图像和所述第三分割图像进行对齐处理,得到所述第一分割图像和所述第三分割图像中属于相同位置点的像素点之间的匹配关系时,用于:
针对第一分割图像中的每个第一像素点,确定在所述第三分割图像中位置与所述第一像素点匹配的第三像素点之间的归一化关联系数;
将所述归一化关联系数、和目标系数阈值进行比对;
响应于所述归一化关联系数大于所述目标系数阈值,将该第一像素点和对应第三像素点之间的匹配关系确定为匹配失败;
响应于所述归一化关联系数小于或者等于所述目标系数阈值,将该第一像素点和对应第三像素点之间的匹配关系确定为匹配成功。
7.根据权利要求1所述的定位装置,其特征在于,所述处理器,在对所述高精三维地图中属于所述第二目标对象的点云点、和所述第二分割图像进行第二关联处理,得到第二关联信息时,用于:
基于所述检测位姿,从所述高精三维地图中确定属于所述第二目标对象的多个第二目标点云点;
基于所述检测位姿,将所述第二目标点云点投影至所述PV视角下,得到所述第二目标点云点在所述PV视角下的投影关系信息;所述投影关系信息用于描述所述第二关联信息。
8.根据权利要求1所述的定位装置,其特征在于,所述处理器,在基于所述第一关联信息、所述第二关联信息,构建约束条件时,用于:
基于所述第一关联信息,建立在所述BEV视角下的二维运动约束条件;
以及,将所述第二关联信息,确定为在PV视角下的三维约束条件;
基于所述二维运动约束条件、以及所述三维约束条件,生成对位姿的所述约束条件。
9.一种定位方法,其特征在于,包括:
获取道路图像,并基于所述道路图像,确定第一目标对象在俯视BEV视角下的第一分割图像、和第二目标对象在透视PV视角下的第二分割图像;以及,基于检测位姿、以及高精三维地图确定所述第一目标对象在所述BEV视角下的第三分割图像;
对所述第一分割图像和所述第三分割图像进行第一关联处理,得到第一关联信息,并对所述高精三维地图中属于所述第二目标对象的点云点、和所述第二分割图像进行第二关联处理,得到第二关联信息;
基于所述第一关联信息、所述第二关联信息,进行多视角非线性位姿估计处理,得到车辆的目标位姿;
所述基于所述第一关联信息、所述第二关联信息,进行多视角非线性位姿估计处理,得到目标位姿,包括:
基于所述第一关联信息、所述第二关联信息,构建约束条件;
基于所述约束条件,得到所述目标位姿。
10.一种车载设备,其特征在于,包括:如权利要求1-8任一项所述的定位装置。
11.一种车辆,其特征在于,包括:如权利要求1-8任一项所述的定位装置、或如权利要求10所述的车载设备。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310303444.1A CN116007637B (zh) | 2023-03-27 | 2023-03-27 | 定位装置、方法、车载设备、车辆、及计算机程序产品 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310303444.1A CN116007637B (zh) | 2023-03-27 | 2023-03-27 | 定位装置、方法、车载设备、车辆、及计算机程序产品 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116007637A CN116007637A (zh) | 2023-04-25 |
CN116007637B true CN116007637B (zh) | 2023-05-30 |
Family
ID=86025190
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310303444.1A Active CN116007637B (zh) | 2023-03-27 | 2023-03-27 | 定位装置、方法、车载设备、车辆、及计算机程序产品 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116007637B (zh) |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112902953A (zh) * | 2021-01-26 | 2021-06-04 | 中国科学院国家空间科学中心 | 一种基于slam技术的自主位姿测量方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112598731B (zh) * | 2020-10-28 | 2021-11-23 | 禾多科技(北京)有限公司 | 车辆定位方法、装置、电子设备和计算机可读介质 |
CN112967339B (zh) * | 2020-12-28 | 2023-07-25 | 北京市商汤科技开发有限公司 | 一种车辆位姿的确定方法、车辆控制方法及装置、车辆 |
CN113095184B (zh) * | 2021-03-31 | 2023-01-31 | 上海商汤临港智能科技有限公司 | 定位方法、行驶控制方法、装置、计算机设备及存储介质 |
CN113902802A (zh) * | 2021-09-29 | 2022-01-07 | 浙江商汤科技开发有限公司 | 视觉定位方法及相关装置、电子设备和存储介质 |
CN115222791B (zh) * | 2022-07-15 | 2023-08-15 | 小米汽车科技有限公司 | 目标关联方法、装置、可读存储介质及芯片 |
CN115620264B (zh) * | 2022-12-02 | 2023-03-07 | 广汽埃安新能源汽车股份有限公司 | 车辆定位方法、装置、电子设备和计算机可读介质 |
CN115717894B (zh) * | 2022-12-02 | 2024-03-29 | 大连理工大学 | 一种基于gps和普通导航地图的车辆高精度定位方法 |
-
2023
- 2023-03-27 CN CN202310303444.1A patent/CN116007637B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112902953A (zh) * | 2021-01-26 | 2021-06-04 | 中国科学院国家空间科学中心 | 一种基于slam技术的自主位姿测量方法 |
Also Published As
Publication number | Publication date |
---|---|
CN116007637A (zh) | 2023-04-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102266830B1 (ko) | 차선 결정 방법, 디바이스 및 저장 매체 | |
WO2021004312A1 (zh) | 一种基于双目立体视觉系统的车辆智能测轨迹方法 | |
US10867189B2 (en) | Systems and methods for lane-marker detection | |
US8855442B2 (en) | Image registration of multimodal data using 3D-GeoArcs | |
WO2020102944A1 (zh) | 点云处理方法、设备及存储介质 | |
US10909395B2 (en) | Object detection apparatus | |
WO2020043081A1 (zh) | 定位技术 | |
EP3904831A1 (en) | Visual localization using a three-dimensional model and image segmentation | |
JP2008065087A (ja) | 静止物地図生成装置 | |
KR20200110120A (ko) | 3d-vr 멀티센서 시스템 기반의 도로 시설물 관리 솔루션을 구현하는 시스템 및 그 방법 | |
WO2020156923A2 (en) | Map and method for creating a map | |
CN111932627B (zh) | 一种标识物绘制方法及系统 | |
JP2017181476A (ja) | 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラム | |
Demetriou et al. | Codrive: Improving automobile positioning via collaborative driving | |
CN113804100B (zh) | 确定目标对象的空间坐标的方法、装置、设备和存储介质 | |
KR102249381B1 (ko) | 3차원 영상 정보를 이용한 모바일 디바이스의 공간 정보 생성 시스템 및 방법 | |
JP2014092922A (ja) | 検出装置、検出方法及び検出プログラム | |
CN116823966A (zh) | 相机的内参标定方法、装置、计算机设备和存储介质 | |
CN113902047B (zh) | 图像元素匹配方法、装置、设备以及存储介质 | |
CN116007637B (zh) | 定位装置、方法、车载设备、车辆、及计算机程序产品 | |
CN110827340B (zh) | 地图的更新方法、装置及存储介质 | |
Zhang et al. | Vehicle localisation and deep model for automatic calibration of monocular camera in expressway scenes | |
Jiang et al. | Multilayer map construction and vision-only multi-scale localization for intelligent vehicles in underground parking | |
KR20220062709A (ko) | 모바일 디바이스 영상에 기반한 공간 정보 클러스터링에 의한 재난 상황 인지 시스템 및 방법 | |
CN115544189A (zh) | 语义地图更新方法、装置和计算机存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |