CN115239776B - 点云的配准方法、装置、设备和介质 - Google Patents
点云的配准方法、装置、设备和介质 Download PDFInfo
- Publication number
- CN115239776B CN115239776B CN202210832365.5A CN202210832365A CN115239776B CN 115239776 B CN115239776 B CN 115239776B CN 202210832365 A CN202210832365 A CN 202210832365A CN 115239776 B CN115239776 B CN 115239776B
- Authority
- CN
- China
- Prior art keywords
- dimensional
- point
- feature
- target
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Abstract
本公开提供了一种点云的配准方法、装置、设备和介质,涉及图像处理技术领域,尤其涉及高精点云、点云配准、自动驾驶及云服务技术领域。具体实现方案为:获取第一移动设备在同一时间采集的待配准点云和第一相机图像,以及第二移动设备在同一时间采集的目标点云和第二相机图像;确定第一相机图像的第一特征点以及第二相机图像的第二特征点,并根据第一特征点和第二特征点确定第一相机图像和第二相机图像之间的图像变换矩阵;根据图像变换矩阵确定待配准点云和目标点云之间的点云变换矩阵,并根据点云变换矩阵对待配准点云和目标点云进行配准。本公开实现了提高点云配准的成功率和精准度的效果。
Description
技术领域
本公开涉及图像处理技术领域,尤其涉及高精点云、点云配准、自动驾驶及云服务技术领域,特别涉及一种点云的配准方法、装置、设备和介质。
背景技术
随着自动驾驶技术的发展,越来越多的车辆开始配备自动驾驶功能。自动驾驶功能的实现离不开完整的高精地图,而在高精地图的制作过程中,制作点云地图是一个重要环节。
在点云地图的制作过程中,需要对采集的各个点云进行配准,以将各个点云统一到同一坐标系下。可见,点云配准的精准度直接影响到自动驾驶功能的实现。
发明内容
本公开提供了一种用于提高点云配准精准度的方法、装置、电子设备和介质。
根据本公开的一方面,提供了一种点云的配准方法,包括:
获取第一移动设备在同一时间采集的待配准点云和第一相机图像,以及第二移动设备在同一时间采集的目标点云和第二相机图像;
确定所述第一相机图像的第一特征点以及所述第二相机图像的第二特征点,并根据所述第一特征点和所述第二特征点确定所述第一相机图像和所述第二相机图像之间的图像变换矩阵;
根据所述图像变换矩阵确定所述待配准点云和所述目标点云之间的点云变换矩阵,并根据所述点云变换矩阵对所述待配准点云和所述目标点云进行配准。
根据本公开的另一方面,提供了一种点云的配准装置,包括:
数据获取模块,用于获取第一移动设备在同一时间采集的待配准点云和第一相机图像,以及第二移动设备在同一时间采集的目标点云和第二相机图像;
特征点确定模块,用于确定所述第一相机图像的第一特征点以及所述第二相机图像的第二特征点,并根据所述第一特征点和所述第二特征点确定所述第一相机图像和所述第二相机图像之间的图像变换矩阵;
点云配准模块,用于根据所述图像变换矩阵确定所述待配准点云和所述目标点云之间的点云变换矩阵,并根据所述点云变换矩阵对所述待配准点云和所述目标点云进行配准。
根据本公开的另一方面,提供了一种电子设备,包括:
至少一个处理器;以及
与至少一个处理器通信连接的存储器;其中,
存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行本公开中任一项的方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行本公开中任一项的方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行本公开中任一项的方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开实施例公开的一些点云的配准方法的流程图;
图2是根据本公开实施例公开的一些特征点确定方法的流程图;
图3是根据本公开实施例公开的一些三维特征点确定方法的流程图;
图4是根据本公开实施例公开的一些动态三维特征点过滤方法的流程图;
图5是根据本公开实施例公开的一些图像变换矩阵确定方法的流程图;
图6是根据本公开实施例公开的另一些图像变换矩阵确定方法的流程图;
图7是根据本公开实施例公开的一些点云变换矩阵确定方法的流程图;
图8是根据本公开实施例公开的一些点云配准方法的流程图;
图9是根据本公开实施例公开的一些点云配准的场景示意图;
图10是根据本公开实施例公开的一些特征点提取的场景示意图;
图11是根据本公开实施例公开的一些点云的配准装置的结构示意图;
图12是用来实现本公开实施例公开的点云的配准方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
目前自动驾驶的建图模块主要采用纯激光的方式进行点云配准,而传统的激光点云配准方法,例如ICP(Iterative Closest Point,迭代最近点)方法和GICP(GeneralizedICP,广义迭代最近点)方法等,在没有初值的情况下点云配准的成功率较低,同时在面对一些空间结构较弱的退化场景时,容易产生误匹配的结果,导致点云配准的精准度同样较低。
考虑到自动驾驶车辆上除了安装有用于采集点云的激光雷达外,还安装有用于采集不同方向图像的相机,因此考虑使用多视角的相机图像辅助进行点云配准。
图1是根据本公开实施例公开的一些点云的配准方法的流程图,本实施例可以适用于利用相机图像辅助进行点云配准的情况。本实施例方法可以由本公开实施例公开的点云的配准装置来执行,装置可采用软件和/或硬件实现,并可集成在任意的具有计算能力的电子设备上。
如图1所示,本实施例公开的点云的配准方法可以包括:
S101、获取第一移动设备在同一时间采集的待配准点云和第一相机图像,以及第二移动设备在同一时间采集的目标点云和第二相机图像。
其中,第一移动设备和第二移动设备表示任意可移动的机器设备,例如,第一移动设备和第二移动设备可以是用于采集地图数据的地图采集车辆或者地图采集机器人等。在第一移动设备和第二移动设备上分别安装有激光雷达和至少一个相机,且各个相机具有不同的采集角度,激光雷达用于采集点云,而相机用于采集相机图像。
第一移动设备上的激光雷达和相机在同一时间进行数据采集,分别采集得到待配准点云和至少一张第一相机图像。相应的,第二移动设备上的激光雷达和相机在同一时间进行数据采集,分别采集得到目标点云和至少一张第二相机图像。换言之,待配准点云和第一相机图像的采集时间相同,而目标点云和第二相机图像的采集时间相同。可以理解的是,由于第一移动设备上各个相机具有不同的采集角度,并且第二移动设备上各个相机同样具有不同的采集角度,因此当采集时间为连续时间段时,第一相机图像和第二相机图像均包括至少两个采集角度的相机图像,且同一采集角度下又包含连续多帧的相机图像。
第一移动设备和第二移动设备可以是不同的移动设备,即通过某个移动设备采集得到待配准点云和第一相机图像,并通过另一个移动设备采集得到目标点云和第二相机图像;第一移动设备和第二移动设备还可以是同一的移动设备,即通过同一移动设备在某一时间采集得到待配准点云和第一相机图像,并在另一不同时间采集得到目标点云和第二相机图像。
在S101的一种实施方式中,点云和相机图像的存储方式包括但不限于本地存储和云端存储等。
在点云和相机图像采用本地存储时,即待配准点云和第一相机图像存储于第一移动设备的存储设备中,而目标点云和第二相机图像存储于第二移动设备的存储设备中。则分别访问第一移动设备和第二移动设备的存储设备,以从存储设备中分别获取待配准点云和第一相机图像、以及目标点云和第二相机图像。其中,存储设备包括但不限于内存、硬盘、软盘和磁盘等。
在点云和相机图像采用云端存储时,即待配准点云和第一相机图像、以及目标点云和第二相机图像,均存储于云端服务器中。则根据第一移动设备的标识信息从云端服务器中获取待配准点云和第一相机图像,并且根据第二移动设备的标识信息从云端服务器中获取目标点云和第二相机图像。
通过获取第一移动设备在同一时间采集的待配准点云和第一相机图像,以及第二移动设备在同一时间采集的目标点云和第二相机图像,实现了数据准备的效果,为后续进行点云配准奠定了数据基础。
S102、确定第一相机图像的第一特征点以及第二相机图像的第二特征点,并根据第一特征点和第二特征点确定第一相机图像和第二相机图像之间的图像变换矩阵。
其中,特征点指的是图像中能够反映图像本质特征的像素点,包括但不限于图像灰度值发生剧烈变化的像素点,或者在图像边缘上曲率较大的像素点等,例如,角点像素点、边缘像素点和区块像素点等。第一特征点即指的第一相机图像的特征点,而第二特征点即指的第二相机图像的特征点。第一特征点和第二特征点
第一特征点由二维形式的二维第一特征点和三维形式的三维第一特征点组成。相应的,第二特征点由二维形式的二维第二特征点和三维形式的三维第二特征点组成。
在一种实施方式中,根据第一相机图像和第二相机图像,采用包括但不限于HOG(Histogram of oriented gradient,方向梯度直方图)、SIFT(Scale-invariant featuretransform,尺度不变特征转换)、SURF(Speeded Up Robust Features,加速稳健特征)、DOG(Difference of Gaussian,高斯函数差分)和LBP(Local Binary Patterns,局部二值模式)等方法确定第一相机图像的二维第一特征点,和第二相机图像的二维第二特征点。并且,对第一相机图像和第二相机图像进行三维建模,并对三维建模图像进行三维特征点提取,确定第一相机图像的三维第一特征点,和第二相机图像的三维第二特征点。
在另一种实施方式中,对第一相机图像和第二相机图像分别进行二维特征点的提取,确定第一相机图像的二维第一特征点以及第二相机图像的二维第二特征点。其中,二维特征点提取的方式包括但不限于采用SuperPoint方式。
确定待配准点云在第一相机图像中的第一候选投影点,以及确定目标点云在第二相机图像中的第二候选投影点。可选的,采用如下公式确定第一候选投影点以及第二候选投影点:
其中,当Pt表示待配准点云的三维点云坐标时,(Rcl,tcl)表示采集第一相机图像的第一辅助相机与采集待配准点云的激光雷达之间的相对位姿;K表示第一辅助相机的内参;Z表示待配准点云在第一辅助相机的相机坐标系中,Z方向的取值;Pix表示第一候选投影点的二维坐标。
当Pt表示目标点云的三维点云坐标时,(Rcl,tcl)表示采集第二相机图像的第二辅助相机与采集目标点云的激光雷达之间的相对位姿;K表示第二辅助相机的内参;Z表示目标点云在第二辅助相机的相机坐标系中,Z方向的取值;Pix表示第二候选投影点的二维坐标。
根据每个二维第一特征点的二维坐标,以及每个第一候选投影点的投影点坐标,确定距离每个二维第一特征点最近的预设数量的第一目标投影点,并将第一目标投影点在待配准点云中所属点云数据的平均深度值,作为对应二维第一特征点的特征点深度值。最终根据每个二维第一特征点的特征点深度值,进行三维特征点的重建得到三维第一特征点。相应的,根据每个二维第二特征点的二维坐标,以及每个第二候选投影点的投影点坐标,确定距离每个二维第二特征点最近的预设数量的第二目标投影点,并将第二目标投影点在目标点云中所属点云数据的平均深度值,作为对应二维第二特征点的特征点深度值。最终根据每个二维第二特征点的特征点深度值,进行三维特征点的重建得到三维第二特征点。
将采集时间和采集角度相同的第一相机图像和第二相机图像作为图像对,并将图像对中具有匹配关系的二维第一特征点和二维第二特征点,分别作为目标第一特征点和目标第二特征点。确定三维第一特征点与目标第一特征点之间的第一对应关系,以及确定三维第二特征点与目标第二特征点之间的第二对应关系。根据目标第一特征点、目标第二特征点、第一对应关系和第二对应关系,确定各图像对的图像变换矩阵,进而从各图像对的图像变换矩阵中选取目标图像变换矩阵,作为第一相机图像和第二相机图像之间的图像变换矩阵。
其中,图像变换矩阵可用于对第一相机图像和第二相机图像进行二维图像的配准。
通过确定第一相机图像的第一特征点以及第二相机图像的第二特征点,并根据第一特征点和第二特征点确定第一相机图像和第二相机图像之间的图像变换矩阵,实现了基于图像特征点确定第一相机图像和第二相机图像之间的图像变换矩阵,为后续根据图像变换矩阵确定点云变换矩阵,奠定了数据基础。
S103、根据图像变换矩阵确定待配准点云和目标点云之间的点云变换矩阵,并根据点云变换矩阵对待配准点云和目标点云进行配准。
在一种实施方式中,将目标图像变换矩阵所属的图像对作为目标图像对,并将用于采集目标图像对中第一相机图像的第一辅助相机,作为第一目标相机,以及将用于采集目标图像对中第二相机图像的第二辅助相机,作为第二目标相机。
根据第一目标相机与用于采集待配准点云的激光雷达之间的相对位姿、用于采集目标点云的激光雷达与第二目标相机之间的相对位姿、以及第一相机图像和第二相机图像之间的图像变换矩阵,确定待配准点云和目标点云之间的点云变换矩阵。根据点云变换矩阵对待配准点云和目标点云进行配准。
本公开通过获取第一移动设备在同一时间采集的待配准点云和第一相机图像,以及第二移动设备在同一时间采集的目标点云和第二相机图像,确定第一相机图像的第一特征点以及第二相机图像的第二特征点,并根据第一特征点和第二特征点确定第一相机图像和第二相机图像之间的图像变换矩阵,进而根据图像变换矩阵确定待配准点云和目标点云之间的点云变换矩阵,最终根据点云变换矩阵对待配准点云和目标点云进行配准,由于图像特征点具有较丰富的纹理信息,因此利用图像特征点辅助点云配准,能够避免面对空间结构较弱的退化场景时,产生误匹配的问题,提高点云配准的精准度,同时不依赖初值,成功率较高;并且,由于图像特征点相较于点云特征具有更多的高维信息,鲁棒性较强,因此利用图像特征点辅助点云配准泛化性强,不需要针对性训练。
图2是根据本公开实施例公开的一些特征点确定方法的流程图,对本公开上述“确定第一相机图像的第一特征点以及第二相机图像的第二特征点”进行进一步优化与扩展,并可以与上述各个可选实施方式进行结合。
如图2所示,本实施例公开的特征点确定方法可以包括:
通过如下步骤确定第一相机图像的第一特征点,和/或确定第二相机图像的第二特征点:
S201、确定点云在相同移动设备采集的相机图像中的候选投影点,以及相机图像中包括的二维特征点,并根据候选投影点的投影点坐标以及二维特征点的二维特征点坐标,从候选投影点中确定目标投影点。
其中,点云为待配准点云或目标点云。相机图像为第一相机图像或第二相机图像,二维特征点为第一特征点中的二维第一特征点,或第二特征点中的二维第二特征点。
在一种实施方式中,确定待配准点云在第一相机图像中的第一候选投影点,并且,将确定的第一候选投影点的第一投影点坐标存储于第一KDtree中。对第一相机图像进行二维特征点的提取,确定第一相机图像的二维第一特征点。对于任一二维第一特征点,根据该二维第一特征点的二维特征点坐标,在第一KDtree中进行搜索,从第一候选投影点中确定第一目标投影点。
在另一种实施方式中,确定目标点云在第二相机图像中的第二候选投影点,并且,将确定的第二候选投影点的第二投影点坐标存储于第二KDtree中。对第二相机图像进行二维特征点的提取,确定第二相机图像的二维第二特征点。对于任一二维第二特征点,根据该二维第二特征点的二维特征点坐标,在第二KDtree中进行搜索,从第二候选投影点中确定第二目标投影点。
可选的,采用如下公式确定第一候选投影点以及第二候选投影点:
其中,当Pt表示待配准点云的三维点云坐标时,(Rcl,tcl)表示采集第一相机图像的第一辅助相机与采集待配准点云的激光雷达之间的相对位姿;K表示第一辅助相机的内参;Z表示待配准点云在第一辅助相机的相机坐标系中,Z方向的取值;Pix表示第一候选投影点的二维坐标。
当Pt表示目标点云的三维点云坐标时,(Rcl,tcl)表示采集第二相机图像的第二辅助相机与采集目标点云的激光雷达之间的相对位姿;K表示第二辅助相机的内参;Z表示目标点云在第二辅助相机的相机坐标系中,Z方向的取值;Pix表示第二候选投影点的二维坐标。
可选的,S201中“根据候选投影点的投影点坐标以及二维特征点的二维特征点坐标,从候选投影点中确定目标投影点”,包括:
1)根据候选投影点的投影点坐标以及二维特征点的二维特征点坐标,从候选投影点中确定辅助投影点。在一种实施方式中,对于任一二维第一特征点,根据各第一候选投影点的第一投影点坐标以及该二维第一特征点的二维特征点坐标,确定各第一候选投影点与该二维第一特征点之间的距离值,并选取距离值最近的预设数量的第一候选投影点作为第一辅助投影点。其中,预设数量可选的为五个。
在另一种实施方式中,对于任一二维第二特征点,根据各第二候选投影点的第二投影点坐标以及该二维第二特征点的二维特征点坐标,确定各第二候选投影点与该二维第二特征点之间的距离值,并选取距离值最近的预设数量的第二候选投影点作为第二辅助投影点。其中,预设数量可选的为五个。2)确定辅助投影点与二维特征点的距离值,并根据距离值确定平均距离值以及距离值标准差。
在一种实施方式中,确定各第一辅助投影点与该二维第一特征点的距离值,并根据各距离值计算第一平均距离值,以及各第一辅助投影点与该二维第一特征点的第一距离值标准差。
在另一种实施方式中,确定各第二辅助投影点与该二维第二特征点的距离值,并根据各距离值计算第二平均距离值,以及各第二辅助投影点与该二维第二特征点的第二距离值标准差。3)根据平均距离值和距离值标准差对辅助投影点进行校验,并在校验通过的情况下将辅助投影点作为目标投影点。
在一种实施方式中,从各第一距离值标准差中确定第一最大标准差,并根据第一最大标准差与标准差阈值,以及第一平均距离值与平均距离阈值,对各第一辅助投影点进行校验。若第一最大标准差小于标准差阈值,且第一平均距离值小于平均距离阈值,则各第一辅助投影点通过校验,并将各第一辅助投影点作为第一目标投影点。
在另一种实施方式中,从各第二距离值标准差中确定第二最大标准差,并根据第二最大标准差与标准差阈值,以及第二平均距离值与平均距离阈值,对各第二辅助投影点进行校验。若第二最大标准差小于标准差阈值,且第二平均距离值小于平均距离阈值,则各第二辅助投影点通过校验,并将各第二辅助投影点作为第二目标投影点。
通过根据候选投影点的投影点坐标以及二维特征点的二维特征点坐标,从候选投影点中确定辅助投影点,确定辅助投影点与二维特征点的距离值,并根据距离值确定平均距离值以及距离值标准差,根据平均距离值和距离值标准差对辅助投影点进行校验,并在校验通过的情况下将辅助投影点作为目标投影点,从而保证了目标投影点确定的可靠性和准确性,且为后续根据目标投影点确定二维特征点的特征点深度值,奠定了数据基础。
S202、根据目标投影点所属点云数据的深度值,确定二维特征点的特征点深度值。
在一种实施方式中,确定各第一目标投影点在待配准点云中所属的点云数据,并根据各点云数据的深度值确定第一平均深度值,进而将第一平均深度值作为该二维第一特征点的特征点深度值。
确定各第二目标投影点在目标点云中所属的点云数据,并根据各点云数据的深度值确定第二平均深度值,进而将第二平均深度值作为该二维第二特征点的特征点深度值。
S203、根据特征点深度值确定相机图像的初始三维特征点,并根据初始三维特征点确定相机图像的三维特征点。
在一种实施方式中,根据各二维第一特征点的特征点深度值,进行三维特征点的重建得到第一初始三维特征点。并且,从第一相机图像中确定与任一第一初始三维特征点不匹配的第一辅助二维特征点,根据第一辅助二维特征点进行三角化生成第一补充三维特征点,最终将第一初始三维特征点和第一补充三维特征点,共同作为第一相机图像的三维第一特征点。
在另一种实施方式中,根据各二维第二特征点的特征点深度值,进行三维特征点的重建得到第二初始三维特征点。并且,从第二相机图像中确定与任一第二初始三维特征点不匹配的第一辅助二维特征点,根据第一辅助二维特征点进行三角化生成第二补充三维特征点,最终将第二初始三维特征点和第二补充三维特征点,共同作为第二相机图像的三维第二特征点。
通过确定点云在相同移动设备采集的相机图像中的候选投影点,以及相机图像中包括的二维特征点,并根据候选投影点的投影点坐标以及二维特征点的二维特征点坐标,从候选投影点中确定目标投影点,根据目标投影点所属点云数据的深度值,确定二维特征点的特征点深度值,根据特征点深度值确定相机图像的初始三维特征点,并根据初始三维特征点确定相机图像的三维特征点,实现了根据目标投影点所属点云数据的深度值,对相机图像的三维特征点进行重建的效果,无需专门对相机图像进行三维建模,提高了效率节省了成本,且为后续根据三维特征点辅助进行点云配准,奠定了数据基础。
由于点云中点云数据的深度值并不完整,因此根据点云在相机图像中的投影点以及点云数据的深度值,进行三维特征点的重建得到的初始三维特征点,同样并不完整。
图3是根据本公开实施例公开的一些三维特征点确定方法的流程图,适用于提高相机图像三维特征点的完整性的情况,是对本公开上述“根据初始三维特征点确定相机图像的三维特征点”进行进一步优化与扩展,并可以与上述各个可选实施方式进行结合。
如图3所示,本实施例公开的三维特征点确定方法可以包括:
S301、将同一采集角度的相机图像作为辅助相机图像,并确定相邻采集时间的辅助相机图像之间二维特征点的匹配关系。
在一种实施方式中,选取同一采集角度的连续第一相机图像,作为第一相机图像中的辅助相机图像,并对相邻采集时间的辅助相机图像进行二维特征点的匹配,确定相邻采集时间的辅助相机图像之间二维第一特征点的匹配关系。
在另一种实施方式中,选取同一采集角度的连续第二相机图像,作为第二相机图像中的辅助相机图像,并对相邻采集时间的辅助相机图像进行二维特征点的匹配,确定相邻采集时间的辅助相机图像之间二维第二特征点的匹配关系。
其中,二维特征点的匹配方式包括但不限于采用SuperGlue方式。
S302、确定初始三维特征点在辅助相机图像中的特征投影点,并根据特征投影点的投影点坐标以及二维特征点的第一描述子,从二维特征点中确定匹配二维特征点。
在一种实施方式中,确定第一初始三维特征点,在第一相机图像中的辅助相机图像中的第一特征投影点。并且,根据第一特征投影点的投影点坐标,从二维第一特征点中确定第一候选二维特征点,再根据第一候选二维特征点的第一描述子,从第一候选二维特征点中确定第一匹配二维特征点。
在另一种实施方式中,确定第二初始三维特征点,在第二相机图像中的辅助相机图像中的第二特征投影点。并且,根据第二特征投影点的投影点坐标,从二维第二特征点中确定第二候选二维特征点,再根据第二候选二维特征点的第二描述子,从第二候选二维特征点中确定第二匹配二维特征点。
可选的,S302中“根据特征投影点的投影点坐标以及二维特征点的第一描述子,从二维特征点中确定匹配二维特征点”,包括:
1)根据特征投影点的投影点坐标以及二维特征点坐标,从二维特征点中确定候选二维特征点。
在一种实施方式中,对于任一第一特征投影点,根据该第一特征投影点的投影点坐标以及各二维第一特征点的二维特征点坐标,确定各二维第一特征点与该第一特征投影点的距离值,并根据距离值从各二维第一特征点中确定第一候选二维特征点。
在另一种实施方式中,对于任一第二特征投影点,根据该第二特征投影点的投影点坐标以及各二维第二特征点的二维特征点坐标,确定各二维第二特征点与该第二特征投影点的距离值,并根据距离值从各二维第二特征点中确定第二候选二维特征点。
2)根据候选二维特征点的第一描述子以及初始三维特征点的第二描述子,确定候选二维特征点与初始三维特征点之间的第一相似度。
其中,描述子表示用于对特征点进行描述的参数信息。
在一种实施方式中,确定各第一候选二维特征点的第一描述子,以及确定该第一特征投影点所属第一初始三维特征点的第二描述子,进而根据第一描述子和第二描述子,确定各第一候选二维特征点与该第一初始三维特征点之间的第一相似度。
在另一种实施方式中,确定各第二候选二维特征点的第一描述子,以及确定该第二特征投影点所属第二初始三维特征点的第二描述子,进而根据第一描述子和第二描述子,确定各第二候选二维特征点与该第二初始三维特征点之间的第一相似度。
可选的,根据第一描述子和第二描述子之间的距离确定第一相似度。
3)根据第一相似度从候选二维特征点中确定匹配二维特征点。
在一种实施方式中,对各第一候选二维特征点与该第一初始三维特征点之间的第一相似度进行排序,确定最大相似度和第二大相似度,当最大相似度与第二大相似度的比值大于预设比值时,则将最大相似度所属的第一候选二维特征点,作为第一匹配二维特征点。
在另一种实施方式中,对各第二候选二维特征点与该第二初始三维特征点之间的第一相似度进行排序,确定最大相似度和第二大相似度,当最大相似度与第二大相似度的比值大于预设比值时,则将最大相似度所属的第二候选二维特征点,作为第二匹配二维特征点。
可选的,确定各第一候选二维特征点的第一描述子,与该第一初始三维特征点的第二描述子之间的描述子距离,并对描述子距离进行排序,确定最小描述子距离和第二小描述子距离,当最小描述子距离小于第二小描述子距离的0.8倍时,则将最小描述子距离所属的第一候选二维特征点,作为第一匹配二维特征点。
可选的,确定各第二候选二维特征点的第一描述子,与该第二初始三维特征点的第二描述子之间的描述子距离,并对描述子距离进行排序,确定最小描述子距离和第二小描述子距离,当最小描述子距离小于第二小描述子距离的0.8倍时,则将最小描述子距离所属的第二候选二维特征点,作为第二匹配二维特征点。
通过根据特征投影点的投影点坐标以及二维特征点坐标,从二维特征点中确定候选二维特征点,根据候选二维特征点的第一描述子以及初始三维特征点的第二描述子,确定候选二维特征点与初始三维特征点之间的第一相似度,根据第一相似度从候选二维特征点中确定匹配二维特征点,保证了匹配二维特征点确定的准确性和可靠性,并且为后续根据匹配二维特征点确定第一辅助二维特征点,奠定了数据基础。
S303、将除去匹配二维特征点后剩余的二维特征点,作为第一辅助二维特征点,并根据匹配关系确定与第一辅助二维特征点匹配的第二辅助二维特征点。
在一种实施方式中,将二维第一特征点中,除去第一匹配二维特征点后剩余的二维第一特征点,作为二维第一特征点中的第一辅助二维特征点。根据建立的辅助相机图像之间二维第一特征点的匹配关系,确定与第一辅助二维特征点具有匹配关系的第二辅助二维特征点。
在另一种实施方式中,将二维第二特征点中,除去第二匹配二维特征点后剩余的二维第二特征点,作为二维第二特征点中的第一辅助二维特征点。根据建立的辅助相机图像之间二维第二特征点的匹配关系,确定与第一辅助二维特征点具有匹配关系的第二辅助二维特征点。
S304、根据第一辅助二维特征点和第二辅助二维特征点进行三角化生成补充三维特征点,并将初始三维特征点和补充三维特征点,共同作为相机图像的三维特征点。
在一种实施方式中,确定二维第一特征点中的第一辅助二维特征点以及与其匹配的第二辅助二维特征点的二维坐标,并确定第一相机图像中相邻采集时间的辅助相机图像之间相机的相对位姿,根据该二维坐标以及该相对位姿进行三角化生成第一补充三维特征点,进而将第一初始三维特征点和第一补充三维特征点,共同作为第一相机图像的三维第一特征点。
在另一种实施方式中,确定二维第二特征点中的第一辅助二维特征点以及与其匹配的第二辅助二维特征点的二维坐标,并确定第二相机图像中相邻采集时间的辅助相机图像之间相机的相对位姿,根据该二维坐标以及该相对位姿进行三角化生成第二补充三维特征点,进而将第二初始三维特征点和第二补充三维特征点,共同作为第二相机图像的三维第二特征点。
通过将同一采集角度的相机图像作为辅助相机图像,并确定相邻采集时间的辅助相机图像之间二维特征点的匹配关系,确定初始三维特征点在辅助相机图像中的特征投影点,并根据特征投影点的投影点坐标以及二维特征点的第一描述子,从二维特征点中确定匹配二维特征点,将除去匹配二维特征点后剩余的二维特征点,作为第一辅助二维特征点,并根据匹配关系确定与第一辅助二维特征点匹配的第二辅助二维特征点,根据第一辅助二维特征点和第二辅助二维特征点进行三角化生成补充三维特征点,并将初始三维特征点和补充三维特征点,共同作为相机图像的三维特征点,实现了除初始三维特征点外,再通过三角化生成补充三维特征点的效果,从而提高了相机图像三维特征点的完整性的效果
图4是根据本公开实施例公开的一些动态三维特征点过滤方法的流程图,适用于在三维特征点中过滤动态三维特征点的情况,是在本公开上述“根据初始三维特征点确定相机图像的三维特征点”步骤之后,进行进一步优化与扩展,并可以与上述各个可选实施方式进行结合。
如图4所示,本实施例公开的动态三维特征点过滤方法可以包括:
S401、将任一三维特征点在相机图像中对应的二维特征点,作为关联二维特征点,并确定关联二维特征点在所属相机图像中的二维特征点类别。
在一种实施方式中,若任一三维第一特征点是通过任一二维第一特征点的特征点深度值确定的,则该二维第一特征点与该三维第一特征点对应,即将该二维第一特征点作为第一关联二维特征点。或者,若任一三维第一特征点是通过至少两个二维第一特征点进行三角化得到,则该至少两个二维第一特征点与该三维第一特征点对应,即将该至少两个二维第一特征点作为第一关联二维特征点。对各第一关联二维特征点所属的第一相机图像进行像素语义提取,确定各第一关联二维特征点的第一二维特征点类别。
在另一种实施方式中,若任一三维第二特征点是通过任一二维第二特征点的特征点深度值确定的,则该二维第二特征点与该三维第二特征点对应,即将该二维第二特征点作为第二关联二维特征点。或者,若任一三维第二特征点是通过至少两个二维第二特征点进行三角化得到,则该至少两个二维第二特征点与该三维第二特征点对应,即将该至少两个二维第二特征点作为第二关联二维特征点。对各第二关联二维特征点所属的第二相机图像进行像素语义提取,确定各第二关联二维特征点的第二二维特征点类别。
其中,二维特征点类别包括动态类别和静态类别,静态类别即表示关联二维特征点为静态物体的像素点,动态类别即表示关联二维特征点为动态物体的像素点,例如汽车、摩托车或行人等容易发生运动的物体。像素语义提取的方式包括但不限于通过语义分割网络进行提取的方式。
S402、确定二维特征点类别为动态类别的关联二维特征点的数量,并根据数量确定该三维特征点的三维特征点类别。
在一种实施方式中,统计任一三维第一特征点的各第一关联二维特征点的二维特征点类别,若二维特征点类别为动态类别的第一关联二维特征点的数量,大于预设阈值,则确定该三维第一特征点的第一三维特征点类别为动态类别,否则为静态类别。
在另一种实施方式中,统计任一三维第二特征点的各第二关联二维特征点的二维特征点类别,若二维特征点类别为动态类别的第二关联二维特征点的数量,大于预设阈值,则确定该三维第二特征点的第二三维特征点类别为动态类别,否则为静态类别。
S403、在三维特征点类别为动态类别的情况下,根据该三维特征点的属性类型,对该三维特征点执行特征点删除操作。
其中,三维特征点的属性类型包括初始三维特征点和补充三维特征点。
在一种实施方式中,确定任一第一三维特征点类别为动态类别的三维第一特征点的第一属性类型,并根据第一属性类型对该三维第一特征点执行特征点删除操作。
在另一种实施方式中,确定任一第二三维特征点类别为动态类别的三维第二特征点的第二属性类型,并根据第二属性类型对该三维第二特征点执行特征点删除操作。
通过将任一三维特征点在相机图像中对应的二维特征点,作为关联二维特征点,并确定关联二维特征点在所属相机图像中的二维特征点类别,确定二维特征点类别为动态类别的关联二维特征点的数量,并根据数量确定该三维特征点的三维特征点类别,在三维特征点类别为动态类别的情况下,根据该三维特征点的属性类型,对该三维特征点执行特征点删除操作,实现了对动态三维特征点的进行过滤的效果,提高了三维特征点的数据可靠性,间接提高了点云配准的精准度。
可选的,S402中“根据该三维特征点的属性类型,对该三维特征点执行特征点删除操作”,包括:
1)在该三维特征点的属性类型为初始三维特征点的情况下,对该三维特征点执行特征点删除操作。
在一种实施方式中,若该三维第一特征点的第一属性类型为初始三维特征点,即表示该三维第一特征点是通过任一二维第一特征点的特征点深度值确定的,则直接将该三维第一特征点删除。
在另一种实施方式中,若该三维第二特征点的第二属性类型为初始三维特征点,即表示该三维第二特征点是通过任一二维第二特征点的特征点深度值确定的,则直接将该三维第二特征点删除。
2)在该三维特征点的属性类型为补充三维特征点的情况下,根据关联二维特征点的数量,对该三维特征点执行特征点删除操作。
在一种实施方式中,若该三维第一特征点的第一属性类型为补充三维特征点,表示该三维第一特征点是通过至少两个二维第一特征点进行三角化得到,即第一关联二维特征点的数量至少为两个。此时根据第一关联二维特征点的数量,对该三维第一特征点执行特征点删除操作。
在另一种实施方式中,若该三维第二特征点的第二属性类型为补充三维特征点,表示该三维第二特征点是通过至少两个二维第二特征点进行三角化得到,即第二关联二维特征点的数量至少为两个。此时根据第二关联二维特征点的数量,对该三维第二特征点执行特征点删除操作。
通过在该三维特征点的属性类型为初始三维特征点的情况下,对该三维特征点执行特征点删除操作,在该三维特征点的属性类型为补充三维特征点的情况下,根据关联二维特征点的数量,对该三维特征点执行特征点删除操作,实现了防止删除假动态三维特征点的效果,例如停在路边汽车的三维特征点,进一步提高了三维特征点的数据可靠性。
可选的,“根据关联二维特征点的数量,对该三维特征点执行特征点删除操作”,包括:
1)在关联二维特征点的数量等于两个的情况下,对该三维特征点执行特征点删除操作。
在一种实施方式中,若该三维第一特征点的第一属性类型为补充三维特征点,且第一关联二维特征点的数量等于两个,则对该三维第一特征点执行特征点删除操作。
在另一种实施方式中,若该三维第二特征点的第二属性类型为补充三维特征点,且第二关联二维特征点的数量等于两个,则对该三维第二特征点执行特征点删除操作。
2)在关联二维特征点的数量大于两个的情况下,根据该三维特征点在相同移动设备采集的相机图像中的投影点,与关联二维特征点的平均距离,对该三维特征点执行特征点删除操作。
在一种实施方式中,若该三维第一特征点的第一属性类型为补充三维特征点,且第一关联二维特征点的数量大于两个,则确定该三维第一特征点在第一相机图像中的投影点,与第一关联二维特征点的平均距离。若该平均距离大于距离阈值,则对该三维第一特征点执行特征点删除操作。
在另一种实施方式中,若该三维第二特征点的第二属性类型为补充三维特征点,且第二关联二维特征点的数量大于两个,则确定该三维第二特征点在第二相机图像中的投影点,与第二关联二维特征点的平均距离。若该平均距离大于距离阈值,则对该三维第二特征点执行特征点删除操作。
通过在关联二维特征点的数量等于两个的情况下,对该三维特征点执行特征点删除操作,在关联二维特征点的数量大于两个的情况下,根据该三维特征点在相同移动设备采集的相机图像中的投影点,与关联二维特征点的平均距离,对该三维特征点执行特征点删除操作,进一步防止了删除假动态三维特征点,保证剩余的三维特征点大概率为静态三维特征点,间接提高了点云配准的精准度。
可选的,“对该三维特征点执行特征点删除操作”之后,还包括:
确定剩余三维特征点,并采用如下优化函数对剩余三维特征点的三维坐标和相机位姿进行联合优化,得到剩余三维特征点优化后的三维坐标:
其中,当ζ表示三维第一特征点的集合,Ti表示用于采集第i个第一相机图像的相机的位姿(Ri,ti)时,Pij表示三维第一特征点Ptj在第i张第一相机图像对应二维第一特征点的二维坐标,Pij F表示Pij的归一化坐标,Z表示Ptj在所述相机的相机坐标系中,Z方向上的取值;Ki表示所述相机的内参,mn表示第一相机图像的总数量,α为常数。
当ζ表示三维第二特征点的集合,Ti表示用于采集第i个第二相机图像的相机的位姿(Ri,ti)时,Pij表示三维第二特征点Ptj在第i张第二相机图像对应二维第二特征点的二维坐标,Pij F表示Pij的归一化坐标,Z表示Ptj在所述相机的相机坐标系中,Z方向上的取值;Ki表示所述相机的内参,mn表示第二相机图像的总数量,α为常数。
图5是根据本公开实施例公开的一些图像变换矩阵确定方法的流程图,对本公开上述“根据第一特征点和第二特征点确定第一相机图像和第二相机图像之间的图像变换矩阵”进行进一步优化与扩展,并可以与上述各个可选实施方式进行结合。
如图5所示,本实施例公开的图像变换矩阵确定方法可以包括:
S501、将采集时间和采集角度相同的第一相机图像和第二相机图像作为图像对,并从图像对中确定第一图像对和第二图像对;其中,第一图像对和第二图像对不同。
在一种实施方式中,确定各第一相机图像和第二相机图像的采集时间和采集角度,并将具有相同采集时间和采集角度的第一相机图像和第二相机图像,作为一个图像对。从各图像对中选取任意一个作为第一图像对,且将除第一图像对以外的任意一个图像对作为第二图像对。
S502、确定第一图像对的图像旋转矩阵和无尺度平移向量,并根据第一辅助相机图像的二维第一特征点,和第二辅助相机图像的二维第二特征点,确定无尺度平移向量的真实尺度。
其中,第一辅助相机图像为第二图像对中的第一相机图像,第二辅助相机图像为第二图像对中的第二相机图像。
在一种实施方式中,根据五分法恢复出第一图像对对应的本质矩阵,并根据本质矩阵可以恢复出第一图像对中第一相机图像和第二相机图像之间的图像旋转矩阵和无尺度平移向量。
由于无尺度平移向量是无尺度的,需要确定其对应的真是尺度。因此,确定第一辅助相机图像的二维第一特征点,与第二辅助相机图像的二维第二特征点之间的匹配关系。并根据该匹配关系以及第一辅助相机图像和第二辅助相机图像的坐标,确定无尺度平移向量的真实尺度。
可选的,S502中“根据第一辅助相机图像的二维第一特征点,和第二辅助相机图像的二维第二特征点,确定无尺度平移向量的真实尺度”,包括:
1)将第一相机采集第一辅助相机图像和第三辅助相机图像时的位姿分别作为第一位姿和第二位姿,并将第二相机采集第二辅助相机图像和第四辅助相机图像时的位姿分别作为第三位姿和第四位姿。
其中,第一相机设置于第一移动设备上,第二相机设置于第二移动设备上;第三辅助相机图像为第一图像对中的第一相机图像,第四辅助相机图像为第一图像对中的第二相机图像。
2)确定第一位姿和第二位姿之间的第一相对位姿,以及第四位姿和第三位姿之间的第二相对位姿。
其中,第一相对位姿即表示第一位姿和第二位姿之间的旋转矩阵和偏移矩阵,第二相对位姿即表示第四位姿和第三位姿之间的旋转矩阵和偏移矩阵。
3)根据第一相对位姿、第二相对位姿、第一辅助相机图像的二维第一特征点和第二辅助相机图像的二维第二特征点,确定无尺度平移向量的真实尺度。
在一种实施方式中,确定第一辅助相机图像的二维第一特征点和第二辅助相机图像的二维第二特征点之间的匹配关系,并根据具有匹配关系的二维第一特征点和二维第二特征点的二维坐标,以及第一相对位姿和第二相对位姿,计算确定无尺度平移向量的真实尺度。
通过将第一相机采集第一辅助相机图像和第三辅助相机图像时的位姿分别作为第一位姿和第二位姿,并将第二相机采集第二辅助相机图像和第四辅助相机图像时的位姿分别作为第三位姿和第四位姿,确定第一位姿和第二位姿之间的第一相对位姿,以及第四位姿和第三位姿之间的第二相对位姿,根据第一相对位姿、第二相对位姿、第一辅助相机图像的二维第一特征点和第二辅助相机图像的二维第二特征点,确定无尺度平移向量的真实尺度,实现了基于第一相对位姿和第二相对位姿,对无尺度平移向量的真实尺度进行预估的效果,保证最终得到的图像变换矩阵的精准性,间接提高了点云配准的精准性。
可选的,“根据第一相对位姿、第二相对位姿、第一辅助相机图像的二维第一特征点和第二辅助相机图像的二维第二特征点,确定无尺度平移向量的真实尺度”,包括:
1)确定第一辅助相机图像的二维第一特征点和第二辅助相机图像的二维第二特征点之间的匹配关系,并将具有匹配关系的二维第一特征点和二维第二特征点,分别作为目标第一特征点和目标第二特征点。
在一种实施方式中,对第一辅助相机图像和第二辅助相机图像进行二维特征点的匹配,确定第一辅助相机图像的各二维第一特征点和第二辅助相机图像的各二维第二特征点之间的匹配关系。将具有匹配关系的二维第一特征点和二维第二特征点,分别作为目标第一特征点和目标第二特征点。
2)根据三维第一特征点在第一相机图像中的投影点,与三维第一特征点在第一相机图像中对应的二维第一特征点的距离值,从三维第一特征点中确定目标第三特征点。
在一种实施方式中,确定任一三维第一特征点在第一相机图像中的投影点,与该三维第一特征点在第一相机图像中对应的二维第一特征点的距离值。将该距离值与距离阈值进行比对,若距离值小于距离阈值则将该三维第一特征点作为目标第三特征点。
3)根据三维第二特征点在第二相机图像中的投影点,与三维第二特征点在第二相机图像中对应的二维第二特征点的距离值,从三维第二特征点中确定目标第四特征点。
在一种实施方式中,确定任一三维第二特征点在第二相机图像中的投影点,与该三维第二特征点在第二相机图像中对应的二维第二特征点的距离值。将该距离值与距离阈值进行比对,若距离值小于距离阈值则将该三维第二特征点作为目标第四特征点。
4)根据第一相对位姿、第二相对位姿、目标第一特征点、目标第二特征点、目标第三特征点和目标第四特征点,确定无尺度平移向量的真实尺度。
在一种实施方式中,根据目标第一特征点和目标第二特征点的二维坐标、目标第三特征点在第一相机的相机坐标系Z方向上的取值和目标第四特征点在第二相机的相机坐标系Z方向上的取值,确定无尺度平移向量的真实尺度。
由于真实尺度是一个标量,导致其对噪声很敏感,因此通过根据三维第一特征点在第一相机图像中的投影点,与三维第一特征点在第一相机图像中对应的二维第一特征点的距离值,从三维第一特征点中确定目标第三特征点,并根据三维第二特征点在第二相机图像中的投影点,与三维第二特征点在第二相机图像中对应的二维第二特征点的距离值,从三维第二特征点中确定目标第四特征点,保证了目标第三特征点和目标第四特征点的置信度,从而使得目标第三特征点和目标第四特征点参与到真实尺度的计算中,可以得到精度更高的真实尺度;通过根据第一相对位姿、第二相对位姿、目标第一特征点、目标第二特征点、目标第三特征点和目标第四特征点,确定无尺度平移向量的真实尺度,实现了对无尺度平移向量的真实尺度进行预估的效果,保证最终得到的图像变换矩阵的精准性,间接提高了点云配准的精准性。
可选的,“根据三维第二特征点在第二相机图像中的投影点,与三维第二特征点在第二相机图像中对应的二维第二特征点的距离值,从三维第二特征点中确定目标第四特征点”,包括以下A和B两种执行方式:
A、在任一目标第一特征点为任一目标第三特征点对应的二维第一特征点的情况下,采用如下公式确定无尺度平移向量的真实尺度:
其中,Si表示无尺度平移向量的真实尺度,Rik表示第二图像对的图像旋转矩阵,表示第二相对位姿中的相对位置,/>表示第一相对位姿中的相对姿态,/>表示第一相对位姿中的相对位置,/>表示该目标第一特征点的二维坐标,/>表示与该目标第一特征点匹配的目标第二特征点的二维坐标,Ri表示第一图像对的图像旋转矩阵,/>表示第一图像对的无尺度平移向量,/>表示该目标第三特征点在第一相机的相机坐标系Z方向上的取值。
B、在任一目标第二特征点为任一目标第四特征点对应的二维第二特征点的情况下,采用如下公式确定无尺度平移向量的真实尺度:
其中,Si表示无尺度平移向量的真实尺度,Rik表示第二图像对的图像旋转矩阵,表示第二相对位姿中的相对位置,/>表示第一相对位姿中的相对姿态,/>表示第一相对位姿中的相对位置,/>表示该目标第二特征点的二维坐标,/>表示与该目标第二特征点匹配的目标第一特征点的二维坐标,Ri表示第一图像对的图像旋转矩阵,/>表示第一图像对的无尺度平移向量,/>表示该目标第四特征点在第二相机的相机坐标系Z方向上的取值。
遍历所有目标第一特征点和目标第二特征点,从而得到由A和B中真实尺度Si表达式构成的超定方程,进而采用寻优算法对超定方程求解,得到真实尺度Si的数值,例如采用最小二乘解方法对超定方程求解。
上述A和B中两个公式是通过如下流程推理得到:
1)假设第一图像对的图像旋转矩阵为Ri,无尺度平移向量为无尺度平移向量的真实尺度为Si,则可以根据Ri、/>和Si恢复出第二图像对的图像变换矩阵(Rik,tik),如以下公式所示:
其中,表示第一相对位姿,/>表示第二相对位姿。
2)对于第二图像对中具有匹配关系的目标第一特征点和目标第二特征点/>具有如下等式关系:
其中,表示目标第一特征点的二维坐标,/>表示目标第二特征点的二维坐标,表示与/>对应的三维第一特征点在第一相机的相机坐标系Z方向上的取值,/>表示与/>对应的三维第二特征点在第二相机的相机坐标系Z方向上的取值。
根据步骤1)和步骤2)中的两个公式:
在任一目标第二特征点为任一目标第四特征点对应的二维第二特征点的情况下,Si可以表示为:
在任一目标第一特征点为任一目标第三特征点对应的二维第一特征点的情况下,Si可以表示为:
通过在任一目标第一特征点为任一目标第三特征点对应的二维第一特征点的情况下,采用如下公式确定无尺度平移向量的真实尺度:
或者,在任一目标第二特征点为任一目标第四特征点对应的二维第二特征点的情况下,采用如下公式确定无尺度平移向量的真实尺度:
/>
增加了确定真实尺度的方法冗余度,使得无论是根据目标第一特征点或目标第二特征点,均可以恢复出无尺度平移向量的真实尺度。
S503、根据图像旋转矩阵、无尺度平移向量和真实尺度确定第一图像对的图像变换矩阵,并根据第一图像对的图像变换矩阵确定第一相机图像和第二相机图像之间的图像变换矩阵。
在一种实施方式中,根据S501~S502确定每个第一图像对的图像旋转矩阵、无尺度平移向量和真实尺度,进而确定无尺度平移向量和真实尺度之间的乘积结果,并根据图像旋转矩阵和该乘积结果,确定每个第一图像对的图像变换矩阵。例如,第一图像对的图像变换矩阵可以通过如下方式表示:(Ri,Si )。
根据每个第一图像对的图像变换矩阵,以及预设的误差函数,确定每个第一图像对图像变换矩阵的误差值,进而根据误差值从每个第一图像对图像变换矩阵中选取目标图像变换矩阵,作为第一相机图像和第二相机图像之间的图像变换矩阵。
通过将采集时间和采集角度相同的第一相机图像和第二相机图像作为图像对,并从图像对中确定第一图像对和第二图像对;其中,第一图像对和第二图像对不同,确定第一图像对的图像旋转矩阵和无尺度平移向量,并根据第一辅助相机图像的二维第一特征点,和第二辅助相机图像的二维第二特征点,确定无尺度平移向量的真实尺度,根据图像旋转矩阵、无尺度平移向量和真实尺度确定第一图像对的图像变换矩阵,并根据第一图像对的图像变换矩阵确定第一相机图像和第二相机图像之间的图像变换矩阵,由于确定了无尺度平移向量的真实尺度,因此保证了第一图像对的图像变换矩阵的可靠性和准确性,进一步保证了第一相机图像和第二相机图像之间的图像变换矩阵的可靠性和准确性,从而间接保证了点云配准的精准度。
图6是根据本公开实施例公开的另一些图像变换矩阵确定方法的流程图,对本公开上述“根据第一图像对的图像变换矩阵确定第一相机图像和第二相机图像之间的图像变换矩阵”进行进一步优化与扩展,并可以与上述各个可选实施方式进行结合。
如图6所示,本实施例公开的图像变换矩阵确定方法可以包括:
S601、根据各第一图像对的图像变换矩阵,确定三维第一特征点在第二相机图像中的第一投影点,以及三维第二特征点在第一相机图像中的第二投影点。
在一种实施方式中,采用如下公式确定第一投影点和第二投影点:
其中,Pix1表示任一三维第一特征点在任一第二相机图像中,第一投影点的二维坐标,Pix2表示任一三维第二特征点在任一第一相机图像中,第二投影点的二维坐标,(Ri,Si )表示任一第一图像对的图像变换矩阵,/>表示该三维第一特征点的三维坐标,/>表示该三维第二特征点的第二坐标,Ka表示采集该第二相机图像的相机的位姿,Kb表示采集该第一相机图像的相机的位姿,Za表示该三维第一特征点在,采集该第二相机图像的相机的相机坐标系中,Z方向的取值,Zb表示该三维第二特征点在,采集该第一相机图像的相机的相机坐标系中,Z方向的取值。
S602、确定第一投影点与匹配第一特征点之间的第一距离值,以及第二投影点与匹配第二特征点之间的第二距离值。
其中,匹配第一特征点为第二相机图像中与关联第一特征点具有匹配关系的二维第二特征点,关联第一特征点为第一相机图像中与三维第一特征点对应的二维第一特征点;匹配第二特征点为第一相机图像中与关联第二特征点具有匹配关系的二维第一特征点,关联第二特征点为第二相机图像中与三维第二特征点对应的二维第二特征点。
在一种实施方式中,根据各第一投影点的二维坐标以及各匹配第一特征点的二维坐标,确定各第一投影点与各匹配第一特征点之间的第一距离值;根据各第二投影点的二维坐标以及各匹配第二特征点的二维坐标,确定各第二投影点与各匹配第二特征点之间的第二距离值。
S603、根据第一距离值和第二距离值,从各第一图像对的图像变换矩阵中确定目标图像变换矩阵,并将目标图像变换矩阵作为第一相机图像和第二相机图像之间的图像变换矩阵。
在一种实施方式中,将根据各第一图像对的图像变换矩阵,确定的各第一距离值和各第二距离值,分别与第一阈值和第二阈值进行比对,并统计小于第一阈值的第一距离值,和小于第二阈值的第二距离值的总数量,将统计得到总数量最多的第一图像对的图像变换矩阵,作为目标图像变换矩阵。
可选的,采用如下公式确定目标图像变换矩阵:
其中,[Ri,Si ]表示任一第一图像对的图像变换矩阵,/>表示任一三维第一特征点在任一第二相机图像中,第一投影点的二维坐标,/>表示任一三维第二特征点在任一第一相机图像中,第二投影点的二维坐标,/>表示该三维第一特征点的三维坐标,/>表示该三维第二特征点的第二坐标,/>表示匹配第一特征点的二维坐标,/>表示匹配第二特征点的二维坐标,MIs表示第一相机图像的集合,MIt表示第二相机图像的集合。
通过根据各第一图像对的图像变换矩阵,确定三维第一特征点在第二相机图像中的第一投影点,以及三维第二特征点在第一相机图像中的第二投影点,确定第一投影点与匹配第一特征点之间的第一距离值,以及第二投影点与匹配第二特征点之间的第二距离值,根据第一距离值和第二距离值,从各第一图像对的图像变换矩阵中确定目标图像变换矩阵,并将目标图像变换矩阵作为第一相机图像和第二相机图像之间的图像变换矩阵,从而将根据第一距离值和第二距离值,确定的最优的第一图像对的图像变换矩阵,作为第一相机图像和第二相机图像之间的图像变换矩阵,提高了第一相机图像和第二相机图像之间的图像变换矩阵的准确性。
图7是根据本公开实施例公开的一些点云变换矩阵确定方法的流程图,对本公开上述“根据图像变换矩阵确定待配准点云和目标点云之间的点云变换矩阵”进行进一步优化与扩展,并可以与上述各个可选实施方式进行结合。
如图7所示,本实施例公开的点云变换矩阵确定方法可以包括:
S701、确定第一移动设备上第一目标相机与第一激光雷达之间的第三相对位姿,以及第二移动设备上第二激光雷达与第二目标相机之间的第四相对位姿。
其中,第一激光雷达用于采集待配准点云,第二激光雷达用于采集目标点云;第一目标相机和第二目标相机分别为采集第一目标图像对的第一相机和第二相机,第一目标图像对为目标图像变换矩阵所属的第一图像对。
S702、根据第三相对位姿、第四相对位姿以及第一相机图像和第二相机图像之间的图像变换矩阵,确定待配准点云和目标点云之间的点云变换矩阵。
在一种实施方式中,根据第三相对位姿、第四相对位姿以及第一相机图像和第二相机图像之间的图像变换矩阵,确定矩阵相乘结果,并将矩阵相乘结果作为待配准点云和目标点云之间的点云变换矩阵。
可选的,采用如下公式确定待配准点云和目标点云之间的点云变换矩阵:
其中,(Rγ,tγ)表示点云变换矩阵,表示第三相对位姿,(Ri,Si/>)表示第一相机图像和第二相机图像之间的图像变换矩阵,/>表示第四相对位姿。
通过确定第一移动设备上第一目标相机与第一激光雷达之间的第三相对位姿,以及第二移动设备上第二激光雷达与第二目标相机之间的第四相对位姿,根据第三相对位姿、第四相对位姿以及第一相机图像和第二相机图像之间的图像变换矩阵,确定待配准点云和目标点云之间的点云变换矩阵,实现了通过第一相机图像和第二相机图像之间的图像变换矩阵,辅助确定待配准点云和目标点云之间的点云变换矩阵,保证了点云变换矩阵的精准度。
可选的,S702包括:
1)若任一三维第一特征点在第一相机图像中对应的二维第一特征点,与第二相机图像中任一二维第二特征点具有匹配关系,则根据第一相机图像和第二相机图像之间的图像变换矩阵,确定该三维第一特征点在第二相机图像中的第三投影点。
在一种实施方式中,根据如下公式确定第三投影点:
其中,π(Pts)表示第三投影点的二维坐标,Pts表示该三维第一特征点的三维坐标,(Ri,Si )表示第一相机图像和第二相机图像之间的图像变换矩阵,Kx表示采集该第二相机图像的相机的内参,Zx表示该三维第一特征点在该相机的相机坐标系中,Z方向上的取值。
2)根据第三投影点和该二维第二特征点确定第一优化函数,并根据第一优化函数对第一相机图像和第二相机图像之间的图像变换矩阵进行优化,生成第一优化图像变换矩阵。
在一种实施方式中,通过如下公式确定第一优化函数:
其中,Err1表示第一优化函数,Pixt表示该二维第二特征点的二维坐标,π(Pts)表示第三投影点的二维坐标。
采用优化方法,例如非线性优化方法,对第一优化函数进行优化,确定最优的图像变换矩阵,作为第一优化图像变换矩阵。
3)根据第三相对位姿、第四相对位姿和第一优化图像变换矩阵,确定待配准点云和目标点云之间的点云变换矩阵。
通过若任一三维第一特征点在第一相机图像中对应的二维第一特征点,与第二相机图像中任一二维第二特征点具有匹配关系,则根据第一相机图像和第二相机图像之间的图像变换矩阵,确定该三维第一特征点在第二相机图像中的第三投影点,根据第三投影点和该二维第二特征点确定第一优化函数,并根据第一优化函数对第一相机图像和第二相机图像之间的图像变换矩阵进行优化,生成第一优化图像变换矩阵,根据第三相对位姿、第四相对位姿和第一优化图像变换矩阵,确定待配准点云和目标点云之间的点云变换矩阵,实现了对第一相机图像和第二相机图像之间的图像变换矩阵进行优化的效果,进一步提高了点云变换矩阵的精准度,间接提高了点云配准的精准度。
4)若该三维第一特征点在第二相机的相机坐标系Z方向上的取值为第一取值,则根据点云变换矩阵、第一取值、第二相机的内参、该三维第一特征点和该二维第二特征点,确定第二优化函数。
在一种实施方式中,根据点云变换矩阵、该三维第一特征点的三维坐标确定第一数值,并根据第二相机的内参、第一取值、和该二维第二特征点的二维坐标,确定第二数值,根据第一数值和第二数值之间的差值确定第二优化函数。
可选的,通过如下公式确定第二优化函数:
其中,Err2表示第二优化函数,(Rδ,tδ)表示点云变换矩阵,Pts表示该三维第一特征点的三维坐标,K1表示第二相机的内参,Pixt表示该二维第二特征点的二维坐标,λt表示第一取值。
通过设置第二优化函数如下,可以减少点云变换矩阵的深度估计误差,从而实现了对点云变换矩阵进行优化的效果:
5)根据第二优化函数对点云变换矩阵进行优化,生成第一优化点云变换矩阵,并根据第一优化点云变换矩阵对待配准点云和目标点云进行配准。
在一种实施方式中,采用优化方法,例如非线性优化方法,对第二优化函数进行优化,确定最优的点云变换矩阵,作为第一优化点云变换矩阵。并且,根据第一优化点云变换矩阵对待配准点云和目标点云进行配准。
通过若该三维第一特征点在第二相机的相机坐标系Z方向上的取值为第一取值,则根据点云变换矩阵、第一取值、第二相机的内参、该三维第一特征点和该二维第二特征点,确定第二优化函数,根据第二优化函数对点云变换矩阵进行优化,生成第一优化点云变换矩阵,并根据第一优化点云变换矩阵对待配准点云和目标点云进行配准,实现了对点云变换矩阵进行优化的效果,进一步提高了点云变换矩阵的精准度,间接提高了点云配准的精准度。
可选的,S702还包括:
1)若任一三维第二特征点在第二相机图像中对应的二维第一特征点,与第一相机图像中任一二维第一特征点具有匹配关系,则根据第一相机图像和第二相机图像之间的图像变换矩阵,确定该三维第二特征点在第一相机图像中的第四投影点。
在一种实施方式中,根据如下公式确定第四投影点:
其中,π(Ptt)表示第四投影点的二维坐标,Ptt表示该三维第二特征点的三维坐标,(Ri,Si )表示第一相机图像和第二相机图像之间的图像变换矩阵,Ky表示采集该第一相机图像的相机的内参,Zy表示该三维第二特征点在该相机的相机坐标系中,Z方向上的取值。
2)根据第四投影点和该二维第一特征点确定第三优化函数,并根据第三优化函数对第一相机图像和第二相机图像之间的图像变换矩阵进行优化,生成第二优化图像变换矩阵。
在一种实施方式中,通过如下公式确定所述第三优化函数:
其中,Err3表示第三优化函数,Pixs表示该二维第一特征点的二维坐标,π(Ptt)表示第四投影点的二维坐标。
采用优化方法,例如非线性优化方法,对第三优化函数进行优化,确定最优的图像变换矩阵,作为第二优化图像变换矩阵。
3)根据第三相对位姿、第四相对位姿和第二优化图像变换矩阵,确定待配准点云和目标点云之间的点云变换矩阵。
通过若任一三维第二特征点在第二相机图像中对应的二维第一特征点,与第一相机图像中任一二维第一特征点具有匹配关系,则根据第一相机图像和第二相机图像之间的图像变换矩阵,确定该三维第二特征点在第一相机图像中的第四投影点,根据第四投影点和该二维第一特征点确定第三优化函数,并根据第三优化函数对第一相机图像和第二相机图像之间的图像变换矩阵进行优化,生成第二优化图像变换矩阵,根据第三相对位姿、第四相对位姿和第二优化图像变换矩阵,确定待配准点云和目标点云之间的点云变换矩阵,实现了对第一相机图像和第二相机图像之间的图像变换矩阵进行优化的效果,进一步提高了点云变换矩阵的精准度,间接提高了点云配准的精准度。
4)若该三维第二特征点在第一相机的相机坐标系Z方向上的取值为第二取值,则根据点云变换矩阵、第二取值、第一相机的内参、该三维第二特征点和该二维第一特征点,确定第四优化函数。
在一种实施方式中,根据点云变换矩阵、该三维第二特征点的三维坐标确定第三数值,并根据第一相机的内参、第二取值、和该二维第一特征点的二维坐标,确定第四数值,根据第三数值和第四数值之间的差值确定第四优化函数。
可选的,通过如下公式确定第四优化函数:
其中,Err4表示第四优化函数,(Rδ,tδ)表示点云变换矩阵,Ptt表示该三维第二特征点的三维坐标,Pixs表示该二维第一特征点的二维坐标,K2表示第一相机的内参,λs表示第二取值。
通过设置第四优化函数如下,可以减少点云变换矩阵的深度估计误差,从而实现了对点云变换矩阵进行优化的效果:
5)根据第四优化函数对点云变换矩阵进行优化,生成第二优化点云变换矩阵,并根据第二优化点云变换矩阵对待配准点云和目标点云进行配准。
在一种实施方式中,采用优化方法,例如非线性优化方法,对第四优化函数进行优化,确定最优的点云变换矩阵,作为第二优化点云变换矩阵。并且,根据第二优化点云变换矩阵对待配准点云和目标点云进行配准。
通过若该三维第二特征点在第一相机的相机坐标系Z方向上的取值为第二取值,则根据点云变换矩阵、第二取值、第一相机的内参、该三维第二特征点和该二维第一特征点,确定第四优化函数,根据第四优化函数对点云变换矩阵进行优化,生成第二优化点云变换矩阵,并根据第二优化点云变换矩阵对待配准点云和目标点云进行配准,实现了对点云变换矩阵进行优化的效果,进一步提高了点云变换矩阵的精准度,间接提高了点云配准的精准度。
图8是根据本公开实施例公开的一些点云配准方法的流程图,对本公开上述“根据点云变换矩阵对待配准点云和目标点云进行配准”进行进一步优化与扩展,并可以与上述各个可选实施方式进行结合。
如图8所示,本实施例公开的点云配准方法可以包括:
S801、根据点云变换矩阵确定目标第五特征点在三维第二特征点中的第五投影点,并根据目标第六特征点的三维坐标以及第五投影点的三维坐标,从目标第六特征点中确定目标第七特征点。
其中,目标第五特征点为除目标第三特征点以外的三维第一特征点;目标第六特征点为除目标第四特征点以外的三维第二特征点。
在一种实施方式中,通过如下公式确定目标第五特征点在三维第二特征点中的第五投影点:
Pt′=RγPt+tγ
其中,Pt'表示第五投影点的三维坐标,(Rγ,tγ)表示点云变换矩阵,Pt表示目标第五特征点的三维坐标。
根据第五投影点的三维坐标,以及预设的距离阈值,确定与第五投影点距离处于距离阈值内的目标第六特征点,作为目标第七特征点。
S802、根据目标第七特征点的第三描述子和目标第五特征点的第四描述子,确定目标第七特征点与目标第五特征点之间的第二相似度,并根据第二相似度从目标第七特征点中,确定与目标第五特征点匹配的目标第八特征点。
在一种实施方式中,确定各目标第七特征点的第三描述子,以及确定目标第五特征点的第四描述子,进而根据第三描述子和第四描述子,确定各目标第七特征点与目标第五特征点之间的第二相似度。
对各目标第七特征点与目标第五特征点之间的第二相似度进行排序,确定最大相似度和第二大相似度,当最大相似度与第二大相似度的比值大于预设比值时,则将最大相似度所属的目标第七特征点,作为与目标第五特征点匹配的目标第八特征点。
可选的,确定各目标第七特征点的第三描述子,与目标第五特征点的第四描述子之间的描述子距离,并对描述子距离进行排序,确定最小描述子距离和第二小描述子距离,当最小描述子距离小于第二小描述子距离的0.8倍时,则将最小描述子距离所属的目标第七特征点,作为与目标第五特征点匹配的目标第八特征点。
S803、根据目标第五特征点和目标第八特征点对点云变换矩阵进行优化,生成第三优化点云变换矩阵,并根据第三优化点云变换矩阵对待配准点云和目标点云进行配准。
在一种实施方式中,根据目标第五特征点和目标第八特征点的三维坐标,生成优化函数,并根据优化函数对点云变换矩阵进行优化,生成第三优化点云变换矩阵,进而根据第三优化点云变换矩阵对待配准点云和目标点云进行配准。
通过根据点云变换矩阵确定目标第五特征点在三维第二特征点中的第五投影点,并根据目标第六特征点的三维坐标以及第五投影点的三维坐标,从目标第六特征点中确定目标第七特征点,根据目标第七特征点的第三描述子和目标第五特征点的第四描述子,确定目标第七特征点与目标第五特征点之间的第二相似度,并根据第二相似度从目标第七特征点中,确定与目标第五特征点匹配的目标第八特征点,根据目标第五特征点和目标第八特征点对点云变换矩阵进行优化,生成第三优化点云变换矩阵,并根据第三优化点云变换矩阵对待配准点云和目标点云进行配准,实现了对点云变换矩阵进行优化的效果,保证最终点云配准的精准度。
可选的,S803包括:
根据点云变换矩阵、目标第五特征点和目标第八特征点,确定第五优化函数,并根据第五优化函数对点云变换矩阵进行优化,生成第三优化点云变换矩阵。
在一种实施方式中,根据点云变换矩阵和目标第五特征点确定第五数值,并根据第五数值与目标第八特征点的三维坐标之间的差值,确定第五优化函数,进而根据第五优化函数对点云变换矩阵进行优化,生成第三优化点云变换矩阵。
通过根据点云变换矩阵、目标第五特征点和目标第八特征点,确定第五优化函数,并根据第五优化函数对点云变换矩阵进行优化,生成第三优化点云变换矩阵,实现了对点云变换矩阵进行优化的效果,进一步提高了点云变换矩阵的精准度,间接提高了点云配准的精准度。
可选的,通过如下公式确定所述第五优化函数:
其中,Err5表示第五优化函数,(Rδ,tδ)表示点云变换矩阵,Pta表示目标第五特征点的三维坐标,Ptb表示目标第八特征点的三维坐标。
通过设置第五优化函数如下,可以减少点云变换矩阵的三维坐标误差,从而实现了对点云变换矩阵进行优化的效果:
图9是根据本公开实施例公开的一些点云配准的场景示意图,如图9所示:
根据待配准点云和第一相机图像进行特征点提取,确定第一相机图像的二维第一特征点和三维第一特征点;并且,根据目标点云和第二相机图像进行特征点提取,确定第二相机图像的二维第二特征点和三维第二特征点。
确定第一相机图像中第一辅助相机图像的二维第一特征点,和第二相机图像中第二辅助相机图像的二维第二特征点之间的匹配关系,并将具有匹配关系的二维第一特征点和二维第二特征点,分别作为目标第一特征点和目标第二特征点。
根据三维第一特征点、三维第二特征点、目标第一特征点和目标第二特征点,进行图像变换矩阵的预估,以确定第一相机图像和第二相机图像之间的图像变换矩阵。并且,根据第一相机图像和第二相机图像之间的图像变换矩阵,进行点云变换矩阵的预估,以确定待配准点云和目标点云之间的点云变换矩阵。
最终,采用优化函数对点云变换矩阵进行优化生成优化点云变换矩阵,并根据优化点云变换矩阵对待配准点云和目标点云进行配准。
上述点云配准流程中的具体实施方式,详见本公开实施例中具体实施方式的描述,本处不再赘述。
图10是根据本公开实施例公开的一些特征点提取的场景示意图,可对图9中“特征点提取”相关步骤进行进一步优化与扩展,如图10所示:
首先,对各相机图像进行二维特征点提取,确定各相机图像包括的二维特征点。并且,根据点云以及二维特征点确定二维特征点的特征点深度值,进而根据二维特征点的特征点深度值确定相机图像的初始三维特征点。
其次,从各相机图像包括的二维特征点中确定第一辅助二维特征点和第二辅助二维特征点,并对第一辅助二维特征点和第二辅助二维特征点进行三角化生成补充三维特征点,进而将初始三维特征点和补充三维特征点,共同作为相机图像的三维特征点。对动态类别的三维特征点执行删除操作。
最终,将得到的各相机图像包括的二维特征点输出,且将过滤后的三维特征点的三维坐标进行优化后输出。
其中,上述流程既适用于提取第一相机图像的第一特征点,也适用于提取第二相机图像的第二特征点。换言之,所述点云为待配准点云或目标点云;所述相机图像为第一相机图像或第二相机图像;所述二维特征点为第一相机图像的二维第一特征点,或第二相机图像的二维第二特征点;所述初始三维特征点为第一相机图像的初始三维特征点,或第二相机图像的初始三维特征点;所述补充三维特征点为第一相机图像的补充三维特征点,或第二相机图像的补充三维特征点。
上述特征点提取流程中的具体实施方式,详见本公开实施例中具体实施方式的描述,本处不再赘述。
图11是根据本公开实施例公开的一些点云的配准装置的结构示意图,可以适用于利用相机图像辅助进行点云配准的情况。本实施例装置可采用软件和/或硬件实现,并可集成在任意的具有计算能力的电子设备上。
如图11所示,本实施例公开的点云的配准装置110可以包括数据获取模块111、特征点确定模块112和点云配准模块113,其中:
数据获取模块111,用于获取第一移动设备在同一时间采集的待配准点云和第一相机图像,以及第二移动设备在同一时间采集的目标点云和第二相机图像;
特征点确定模块112,用于确定第一相机图像的第一特征点以及第二相机图像的第二特征点,并根据第一特征点和第二特征点确定第一相机图像和第二相机图像之间的图像变换矩阵;
点云配准模块113,用于根据图像变换矩阵确定待配准点云和目标点云之间的点云变换矩阵,并根据点云变换矩阵对待配准点云和目标点云进行配准。
可选的,特征点确定模块112,具体用于:
确定点云在相同移动设备采集的相机图像中的候选投影点,以及相机图像中包括的二维特征点,并根据候选投影点的投影点坐标以及二维特征点的二维特征点坐标,从候选投影点中确定目标投影点;
根据目标投影点所属点云数据的深度值,确定二维特征点的特征点深度值;
根据特征点深度值确定相机图像的初始三维特征点,并根据初始三维特征点确定相机图像的三维特征点;
其中,点云为待配准点云或目标点云;相机图像为第一相机图像或第二相机图像;二维特征点为第一特征点中的二维第一特征点,或第二特征点中的二维第二特征点;三维特征点为第一特征点中的三维第一特征点,或第二特征点中的三维第二特征点。
可选的,特征点确定模块112,具体还用于:
根据候选投影点的投影点坐标以及二维特征点的二维特征点坐标,从候选投影点中确定辅助投影点;
确定辅助投影点与二维特征点的距离值,并根据距离值确定平均距离值以及距离值标准差;
根据平均距离值和距离值标准差对辅助投影点进行校验,并在校验通过的情况下将辅助投影点作为目标投影点。
可选的,特征点确定模块112,具体还用于:
将同一采集角度的相机图像作为辅助相机图像,并确定相邻采集时间的辅助相机图像之间二维特征点的匹配关系;
确定初始三维特征点在辅助相机图像中的特征投影点,并根据特征投影点的投影点坐标以及二维特征点的第一描述子,从二维特征点中确定匹配二维特征点;
将除去匹配二维特征点后剩余的二维特征点,作为第一辅助二维特征点,并根据匹配关系确定与第一辅助二维特征点匹配的第二辅助二维特征点;
根据第一辅助二维特征点和第二辅助二维特征点进行三角化生成补充三维特征点,并将初始三维特征点和补充三维特征点,共同作为相机图像的三维特征点。
可选的,特征点确定模块112,具体还用于:
根据特征投影点的投影点坐标以及二维特征点坐标,从二维特征点中确定候选二维特征点;
根据候选二维特征点的第一描述子以及初始三维特征点的第二描述子,确定候选二维特征点与初始三维特征点之间的第一相似度;
根据第一相似度从候选二维特征点中确定匹配二维特征点。
可选的,装置还包括特征点删除模块,具体用于:
将任一三维特征点在相机图像中对应的二维特征点,作为关联二维特征点,并确定关联二维特征点在所属相机图像中的二维特征点类别;
确定二维特征点类别为动态类别的关联二维特征点的数量,并根据数量确定该三维特征点的三维特征点类别;
在三维特征点类别为动态类别的情况下,根据该三维特征点的属性类型,对该三维特征点执行特征点删除操作。
可选的,特征点删除模块,具体还用于:
在该三维特征点的属性类型为初始三维特征点的情况下,对该三维特征点执行特征点删除操作;
在该三维特征点的属性类型为补充三维特征点的情况下,根据关联二维特征点的数量,对该三维特征点执行特征点删除操作。
可选的,特征点删除模块,具体还用于:
在关联二维特征点的数量等于两个的情况下,对该三维特征点执行特征点删除操作;
在关联二维特征点的数量大于两个的情况下,根据该三维特征点在相同移动设备采集的相机图像中的投影点,与关联二维特征点的平均距离,对该三维特征点执行特征点删除操作。
可选的,特征点确定模块112,具体还用于:
将采集时间和采集角度相同的第一相机图像和第二相机图像作为图像对,并从图像对中确定第一图像对和第二图像对;其中,第一图像对和第二图像对不同;
确定第一图像对的图像旋转矩阵和无尺度平移向量,并根据第一辅助相机图像的二维第一特征点,和第二辅助相机图像的二维第二特征点,确定无尺度平移向量的真实尺度;
根据图像旋转矩阵、无尺度平移向量和真实尺度确定第一图像对的图像变换矩阵,并根据第一图像对的图像变换矩阵确定第一相机图像和第二相机图像之间的图像变换矩阵;
其中,第一辅助相机图像为第二图像对中的第一相机图像,第二辅助相机图像为第二图像对中的第二相机图像。
可选的,特征点确定模块112,具体还用于:
将第一相机采集第一辅助相机图像和第三辅助相机图像时的位姿分别作为第一位姿和第二位姿,并将第二相机采集第二辅助相机图像和第四辅助相机图像时的位姿分别作为第三位姿和第四位姿;
确定第一位姿和第二位姿之间的第一相对位姿,以及第四位姿和第三位姿之间的第二相对位姿;
根据第一相对位姿、第二相对位姿、第一辅助相机图像的二维第一特征点和第二辅助相机图像的二维第二特征点,确定无尺度平移向量的真实尺度;
其中,第一相机设置于第一移动设备上,第二相机设置于第二移动设备上;第三辅助相机图像为第一图像对中的第一相机图像,第四辅助相机图像为第一图像对中的第二相机图像。
可选的,特征点确定模块112,具体还用于:
确定第一辅助相机图像的二维第一特征点和第二辅助相机图像的二维第二特征点之间的匹配关系,并将具有匹配关系的二维第一特征点和二维第二特征点,分别作为目标第一特征点和目标第二特征点;
根据三维第一特征点在第一相机图像中的投影点,与三维第一特征点在第一相机图像中对应的二维第一特征点的距离值,从三维第一特征点中确定目标第三特征点;
根据三维第二特征点在第二相机图像中的投影点,与三维第二特征点在第二相机图像中对应的二维第二特征点的距离值,从三维第二特征点中确定目标第四特征点;
根据第一相对位姿、第二相对位姿、目标第一特征点、目标第二特征点、目标第三特征点和目标第四特征点,确定无尺度平移向量的真实尺度。
可选的,特征点确定模块112,具体还用于:
在任一目标第一特征点为任一目标第三特征点对应的二维第一特征点的情况下,采用如下公式确定无尺度平移向量的真实尺度:
其中,Si表示无尺度平移向量的真实尺度,Rik表示第二图像对的图像旋转矩阵,表示第二相对位姿中的相对位置,/>表示第一相对位姿中的相对姿态,/>表示第一相对位姿中的相对位置,/>表示该目标第一特征点的二维坐标,/>表示与该目标第一特征点匹配的目标第二特征点的二维坐标,Ri表示第一图像对的图像旋转矩阵,/>表示第一图像对的无尺度平移向量,/>表示该目标第三特征点在第一相机的相机坐标系Z方向上的取值。
可选的,特征点确定模块112,具体还用于:
在任一目标第二特征点为任一目标第四特征点对应的二维第二特征点的情况下,采用如下公式确定无尺度平移向量的真实尺度:
/>
其中,Si表示无尺度平移向量的真实尺度,Rik表示第二图像对的图像旋转矩阵,表示第二相对位姿中的相对位置,/>表示第一相对位姿中的相对姿态,/>表示第一相对位姿中的相对位置,/>表示该目标第二特征点的二维坐标,/>表示与该目标第二特征点匹配的目标第一特征点的二维坐标,Ri表示第一图像对的图像旋转矩阵,/>表示第一图像对的无尺度平移向量,/>表示该目标第四特征点在第二相机的相机坐标系Z方向上的取值。
可选的,特征点确定模块112,具体还用于:
根据各第一图像对的图像变换矩阵,确定三维第一特征点在第二相机图像中的第一投影点,以及三维第二特征点在第一相机图像中的第二投影点;
确定第一投影点与匹配第一特征点之间的第一距离值,以及第二投影点与匹配第二特征点之间的第二距离值;
根据第一距离值和第二距离值,从各第一图像对的图像变换矩阵中确定目标图像变换矩阵,并将目标图像变换矩阵作为第一相机图像和第二相机图像之间的图像变换矩阵;
其中,匹配第一特征点为第二相机图像中与关联第一特征点具有匹配关系的二维第二特征点,关联第一特征点为第一相机图像中与三维第一特征点对应的二维第一特征点;匹配第二特征点为第一相机图像中与关联第二特征点具有匹配关系的二维第一特征点,关联第二特征点为第二相机图像中与三维第二特征点对应的二维第二特征点。
可选的,点云配准模块113,具体用于:
确定第一移动设备上第一目标相机与第一激光雷达之间的第三相对位姿,以及第二移动设备上第二激光雷达与第二目标相机之间的第四相对位姿;
根据第三相对位姿、第四相对位姿以及第一相机图像和第二相机图像之间的图像变换矩阵,确定待配准点云和目标点云之间的点云变换矩阵;
其中,第一激光雷达用于采集待配准点云,第二激光雷达用于采集目标点云;第一目标相机和第二目标相机分别为采集第一目标图像对的第一相机和第二相机,第一目标图像对为目标图像变换矩阵所属的第一图像对。
可选的,点云配准模块113,具体还用于:
若任一三维第一特征点在第一相机图像中对应的二维第一特征点,与第二相机图像中任一二维第二特征点具有匹配关系,则根据第一相机图像和第二相机图像之间的图像变换矩阵,确定该三维第一特征点在第二相机图像中的第三投影点;
根据第三投影点和该二维第二特征点确定第一优化函数,并根据第一优化函数对第一相机图像和第二相机图像之间的图像变换矩阵进行优化,生成第一优化图像变换矩阵;
根据第三相对位姿、第四相对位姿和第一优化图像变换矩阵,确定待配准点云和目标点云之间的点云变换矩阵。
可选的,点云配准模块113,具体还用于:
若该三维第一特征点在第二相机的相机坐标系Z方向上的取值为第一取值,则根据点云变换矩阵、第一取值、第二相机的内参、该三维第一特征点和该二维第二特征点,确定第二优化函数;
根据第二优化函数对点云变换矩阵进行优化,生成第一优化点云变换矩阵,并根据第一优化点云变换矩阵对待配准点云和目标点云进行配准。
可选的,点云配准模块113,具体还用于:
通过如下公式确定第二优化函数:
其中,Err2表示第二优化函数,(Rδ,tδ)表示点云变换矩阵,Pts表示该三维第一特征点的三维坐标,K1表示第二相机的内参,Pixt表示该二维第二特征点的二维坐标,λt表示第一取值。
可选的,点云配准模块113,具体还用于:
若任一三维第二特征点在第二相机图像中对应的二维第一特征点,与第一相机图像中任一二维第一特征点具有匹配关系,则根据第一相机图像和第二相机图像之间的图像变换矩阵,确定该三维第二特征点在第一相机图像中的第四投影点;
根据第四投影点和该二维第一特征点确定第三优化函数,并根据第三优化函数对第一相机图像和第二相机图像之间的图像变换矩阵进行优化,生成第二优化图像变换矩阵;
根据第三相对位姿、第四相对位姿和第二优化图像变换矩阵,确定待配准点云和目标点云之间的点云变换矩阵。
可选的,点云配准模块113,具体还用于:
若该三维第二特征点在第一相机的相机坐标系Z方向上的取值为第二取值,则根据点云变换矩阵、第二取值、第一相机的内参、该三维第二特征点和该二维第一特征点,确定第四优化函数;
根据第四优化函数对点云变换矩阵进行优化,生成第二优化点云变换矩阵,并根据第二优化点云变换矩阵对待配准点云和目标点云进行配准。
可选的,点云配准模块113,具体还用于:
通过如下公式确定第四优化函数:
其中,Err4表示第四优化函数,(Rδ,tδ)表示点云变换矩阵,Ptt表示该三维第二特征点的三维坐标,Pixs表示该二维第一特征点的二维坐标,K2表示第一相机的内参,λs表示第二取值。
可选的,点云配准模块113,具体还用于:
根据点云变换矩阵确定目标第五特征点在三维第二特征点中的第五投影点,并根据目标第六特征点的三维坐标以及第五投影点的三维坐标,从目标第六特征点中确定目标第七特征点;
根据目标第七特征点的第三描述子和目标第五特征点的第四描述子,确定目标第七特征点与目标第五特征点之间的第二相似度,并根据第二相似度从目标第七特征点中,确定与目标第五特征点匹配的目标第八特征点;
根据目标第五特征点和目标第八特征点对点云变换矩阵进行优化,生成第三优化点云变换矩阵,并根据第三优化点云变换矩阵对待配准点云和目标点云进行配准;
其中,目标第五特征点为除目标第三特征点以外的三维第一特征点;目标第六特征点为除目标第四特征点以外的三维第二特征点。
可选的,点云配准模块113,具体还用于:
根据点云变换矩阵、目标第五特征点和目标第八特征点,确定第五优化函数,并根据第五优化函数对点云变换矩阵进行优化,生成第三优化点云变换矩阵。
可选的,点云配准模块113,具体还用于:
通过如下公式确定第五优化函数:
其中,Err5表示第五优化函数,(Rδ,tδ)表示点云变换矩阵,Pta表示目标第五特征点的三维坐标,Ptb表示目标第八特征点的三维坐标。
本公开实施例所公开的点云的配准装置110可执行本公开实施例所公开的点云的配准方法,具备执行方法相应的功能模块和有益效果。本实施例中未详尽描述的内容可以参考本公开方法实施例中的描述。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图12示出了可以用来实施本公开的实施例的示例电子设备1200的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图12所示,设备1200包括计算单元1201,其可以根据存储在只读存储器(ROM)1202中的计算机程序或者从存储单元1208加载到随机访问存储器(RAM)1203中的计算机程序,来执行各种适当的动作和处理。在RAM 1203中,还可存储设备1200操作所需的各种程序和数据。计算单元1201、ROM 1202以及RAM 1203通过总线1204彼此相连。输入/输出(I/O)接口1205也连接至总线1204。
设备1200中的多个部件连接至I/O接口1205,包括:输入单元1206,例如键盘、鼠标等;输出单元1207,例如各种类型的显示器、扬声器等;存储单元1208,例如磁盘、光盘等;以及通信单元1209,例如网卡、调制解调器、无线通信收发机等。通信单元1209允许设备1200通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1201可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1201的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1201执行上文所描述的各个方法和处理,例如点云的配准方法。例如,在一些实施例中,点云的配准方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1208。在一些实施例中,计算机程序的部分或者全部可以经由ROM 1202和/或通信单元1209而被载入和/或安装到设备1200上。当计算机程序加载到RAM 1203并由计算单元1201执行时,可以执行上文描述的点云的配准方法的一个或多个步骤。备选地,在其他实施例中,计算单元1201可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行点云的配准方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (48)
1.一种点云的配准方法,包括:
获取第一移动设备在同一时间采集的待配准点云和第一相机图像,以及第二移动设备在同一时间采集的目标点云和第二相机图像;
确定所述第一相机图像的第一特征点以及所述第二相机图像的第二特征点,并根据所述第一特征点和所述第二特征点确定所述第一相机图像和所述第二相机图像之间的图像变换矩阵;其中,所述第一特征点由二维形式的二维第一特征点和三维形式的三维第一特征点组成;所述第二特征点由二维形式的二维第二特征点和三维形式的三维第二特征点组成;
根据所述图像变换矩阵确定所述待配准点云和所述目标点云之间的点云变换矩阵,并根据所述点云变换矩阵对所述待配准点云和所述目标点云进行配准;
其中,所述确定所述第一相机图像的第一特征点,或者所述确定所述第二相机图像的第二特征点,包括:
确定点云在相同移动设备采集的相机图像中的候选投影点,以及所述相机图像中包括的二维特征点,并根据所述候选投影点的投影点坐标以及所述二维特征点的二维特征点坐标,从所述候选投影点中确定目标投影点;
根据所述目标投影点所属点云数据的深度值,确定所述二维特征点的特征点深度值;
根据所述特征点深度值确定所述相机图像的初始三维特征点,并根据所述初始三维特征点确定所述相机图像的三维特征点;
其中,所述点云为所述待配准点云或所述目标点云;所述相机图像为所述第一相机图像或所述第二相机图像;所述二维特征点为所述第一特征点中的二维第一特征点,或所述第二特征点中的二维第二特征点;所述三维特征点为所述第一特征点中的三维第一特征点,或所述第二特征点中的三维第二特征点。
2.根据权利要求1所述的方法,其中,所述根据所述候选投影点的投影点坐标以及所述二维特征点的二维特征点坐标,从所述候选投影点中确定目标投影点,包括:
根据所述候选投影点的投影点坐标以及所述二维特征点的二维特征点坐标,从所述候选投影点中确定辅助投影点;
确定所述辅助投影点与所述二维特征点的距离值,并根据所述距离值确定平均距离值以及距离值标准差;
根据所述平均距离值和所述距离值标准差对所述辅助投影点进行校验,并在校验通过的情况下将所述辅助投影点作为所述目标投影点。
3.根据权利要求1所述的方法,其中,所述根据所述初始三维特征点确定所述相机图像的三维特征点,包括:
将同一采集角度的所述相机图像作为辅助相机图像,并确定相邻采集时间的辅助相机图像之间二维特征点的匹配关系;
确定所述初始三维特征点在所述辅助相机图像中的特征投影点,并根据所述特征投影点的投影点坐标以及所述二维特征点的第一描述子,从所述二维特征点中确定匹配二维特征点;
将除去所述匹配二维特征点后剩余的二维特征点,作为第一辅助二维特征点,并根据所述匹配关系确定与所述第一辅助二维特征点匹配的第二辅助二维特征点;
根据所述第一辅助二维特征点和所述第二辅助二维特征点进行三角化生成补充三维特征点,并将所述初始三维特征点和所述补充三维特征点,共同作为所述相机图像的三维特征点。
4.根据权利要求3所述的方法,其中,所述根据所述特征投影点的投影点坐标以及所述二维特征点的第一描述子,从所述二维特征点中确定匹配二维特征点,包括:
根据所述特征投影点的投影点坐标以及所述二维特征点坐标,从所述二维特征点中确定候选二维特征点;
根据所述候选二维特征点的第一描述子以及所述初始三维特征点的第二描述子,确定所述候选二维特征点与所述初始三维特征点之间的第一相似度;
根据所述第一相似度从所述候选二维特征点中确定匹配二维特征点。
5.根据权利要求3所述的方法,所述根据所述初始三维特征点确定所述相机图像的三维特征点之后,还包括:
将任一三维特征点在所述相机图像中对应的二维特征点,作为关联二维特征点,并确定所述关联二维特征点在所属相机图像中的二维特征点类别;
确定二维特征点类别为动态类别的关联二维特征点的数量,并根据所述数量确定该三维特征点的三维特征点类别;
在所述三维特征点类别为动态类别的情况下,根据该三维特征点的属性类型,对该三维特征点执行特征点删除操作。
6.根据权利要求5所述的方法,其中,所述根据该三维特征点的属性类型,对该三维特征点执行特征点删除操作,包括:
在该三维特征点的属性类型为所述初始三维特征点的情况下,对该三维特征点执行特征点删除操作;
在该三维特征点的属性类型为所述补充三维特征点的情况下,根据所述关联二维特征点的数量,对该三维特征点执行特征点删除操作。
7.根据权利要求6所述的方法,其中,所述根据所述关联二维特征点的数量,对该三维特征点执行特征点删除操作,包括:
在所述关联二维特征点的数量等于两个的情况下,对该三维特征点执行特征点删除操作;
在所述关联二维特征点的数量大于两个的情况下,根据该三维特征点在相同移动设备采集的相机图像中的投影点,与所述关联二维特征点的平均距离,对该三维特征点执行特征点删除操作。
8.根据权利要求3所述的方法,其中,所述根据所述第一特征点和所述第二特征点确定所述第一相机图像和所述第二相机图像之间的图像变换矩阵,包括:
将采集时间和采集角度相同的所述第一相机图像和所述第二相机图像作为图像对,并从所述图像对中确定第一图像对和第二图像对;其中,所述第一图像对和第二图像对不同;
确定所述第一图像对的图像旋转矩阵和无尺度平移向量,并根据第一辅助相机图像的二维第一特征点,和第二辅助相机图像的二维第二特征点,确定所述无尺度平移向量的真实尺度;
根据所述图像旋转矩阵、所述无尺度平移向量和所述真实尺度确定所述第一图像对的图像变换矩阵,并根据所述第一图像对的图像变换矩阵确定所述第一相机图像和所述第二相机图像之间的图像变换矩阵;
其中,所述第一辅助相机图像为所述第二图像对中的第一相机图像,所述第二辅助相机图像为所述第二图像对中的第二相机图像。
9.根据权利要求8所述的方法,其中,所述根据第一辅助相机图像的二维第一特征点,和第二辅助相机图像的二维第二特征点,确定所述无尺度平移向量的真实尺度,包括:
将第一相机采集所述第一辅助相机图像和第三辅助相机图像时的位姿分别作为第一位姿和第二位姿,并将第二相机采集所述第二辅助相机图像和第四辅助相机图像时的位姿分别作为第三位姿和第四位姿;
确定所述第一位姿和所述第二位姿之间的第一相对位姿,以及所述第四位姿和所述第三位姿之间的第二相对位姿;
根据所述第一相对位姿、所述第二相对位姿、所述第一辅助相机图像的二维第一特征点和所述第二辅助相机图像的二维第二特征点,确定所述无尺度平移向量的真实尺度;
其中,所述第一相机设置于所述第一移动设备上,所述第二相机设置于所述第二移动设备上;所述第三辅助相机图像为所述第一图像对中的第一相机图像,所述第四辅助相机图像为所述第一图像对中的第二相机图像。
10.根据权利要求9所述的方法,其中,所述根据所述第一相对位姿、所述第二相对位姿、所述第一辅助相机图像的二维第一特征点和所述第二辅助相机图像的二维第二特征点,确定所述无尺度平移向量的真实尺度,包括:
确定所述第一辅助相机图像的二维第一特征点和所述第二辅助相机图像的二维第二特征点之间的匹配关系,并将具有所述匹配关系的二维第一特征点和二维第二特征点,分别作为目标第一特征点和目标第二特征点;
根据所述三维第一特征点在所述第一相机图像中的投影点,与所述三维第一特征点在所述第一相机图像中对应的二维第一特征点的距离值,从所述三维第一特征点中确定目标第三特征点;
根据所述三维第二特征点在所述第二相机图像中的投影点,与所述三维第二特征点在所述第二相机图像中对应的二维第二特征点的距离值,从所述三维第二特征点中确定目标第四特征点;
根据所述第一相对位姿、所述第二相对位姿、所述目标第一特征点、所述目标第二特征点、所述目标第三特征点和所述目标第四特征点,确定所述无尺度平移向量的真实尺度。
11.根据权利要求10所述的方法,其中,所述根据所述第一相对位姿、所述第二相对位姿、所述目标第一特征点、所述目标第二特征点、所述目标第三特征点和所述目标第四特征点,确定所述无尺度平移向量的真实尺度,包括:
在任一目标第一特征点为任一目标第三特征点对应的二维第一特征点的情况下,采用如下公式确定所述无尺度平移向量的真实尺度:
其中,Si表示所述无尺度平移向量的真实尺度,Rik表示所述第二图像对的图像旋转矩阵,表示所述第二相对位姿中的相对位置,/>表示所述第一相对位姿中的相对姿态,/>表示所述第一相对位姿中的相对位置,/>表示该目标第一特征点的二维坐标,/>表示与该目标第一特征点匹配的目标第二特征点的二维坐标,Ri表示所述第一图像对的图像旋转矩阵,/>表示所述第一图像对的无尺度平移向量,/>表示该目标第三特征点在所述第一相机的相机坐标系Z方向上的取值。
12.根据权利要求10所述的方法,其中,所述根据所述第一相对位姿、所述第二相对位姿、所述目标第一特征点、所述目标第二特征点、所述目标第三特征点和所述目标第四特征点,确定所述无尺度平移向量的真实尺度,包括:
在任一目标第二特征点为任一目标第四特征点对应的二维第二特征点的情况下,采用如下公式确定所述无尺度平移向量的真实尺度:
其中,Si表示所述无尺度平移向量的真实尺度,Rik表示所述第二图像对的图像旋转矩阵,表示所述第二相对位姿中的相对位置,/>表示所述第一相对位姿中的相对姿态,/>表示所述第一相对位姿中的相对位置,/>表示该目标第二特征点的二维坐标,/>表示与该目标第二特征点匹配的目标第一特征点的二维坐标,Ri表示所述第一图像对的图像旋转矩阵,/>表示所述第一图像对的无尺度平移向量,/>表示该目标第四特征点在所述第二相机的相机坐标系Z方向上的取值。
13.根据权利要求8所述的方法,其中,所述根据所述第一图像对的图像变换矩阵确定所述第一相机图像和所述第二相机图像之间的图像变换矩阵,包括:
根据各所述第一图像对的图像变换矩阵,确定所述三维第一特征点在所述第二相机图像中的第一投影点,以及所述三维第二特征点在所述第一相机图像中的第二投影点;
确定所述第一投影点与匹配第一特征点之间的第一距离值,以及所述第二投影点与匹配第二特征点之间的第二距离值;
根据所述第一距离值和所述第二距离值,从各所述第一图像对的图像变换矩阵中确定目标图像变换矩阵,并将所述目标图像变换矩阵作为所述第一相机图像和所述第二相机图像之间的图像变换矩阵;
其中,所述匹配第一特征点为所述第二相机图像中与关联第一特征点具有匹配关系的二维第二特征点,所述关联第一特征点为所述第一相机图像中与所述三维第一特征点对应的二维第一特征点;所述匹配第二特征点为所述第一相机图像中与关联第二特征点具有匹配关系的二维第一特征点,所述关联第二特征点为所述第二相机图像中与所述三维第二特征点对应的二维第二特征点。
14.根据权利要求13所述的方法,其中,所述根据所述图像变换矩阵确定所述待配准点云和所述目标点云之间的点云变换矩阵,包括:
确定所述第一移动设备上第一目标相机与第一激光雷达之间的第三相对位姿,以及所述第二移动设备上第二激光雷达与第二目标相机之间的第四相对位姿;
根据所述第三相对位姿、所述第四相对位姿以及所述第一相机图像和所述第二相机图像之间的图像变换矩阵,确定所述待配准点云和所述目标点云之间的点云变换矩阵;
其中,所述第一激光雷达用于采集所述待配准点云,所述第二激光雷达用于采集所述目标点云;所述第一目标相机和所述第二目标相机分别为采集第一目标图像对的第一相机和第二相机,所述第一目标图像对为所述目标图像变换矩阵所属的第一图像对。
15.根据权利要求14所述的方法,其中,所述根据所述第三相对位姿、所述第四相对位姿以及所述第一相机图像和所述第二相机图像之间的图像变换矩阵,确定所述待配准点云和所述目标点云之间的点云变换矩阵,包括:
若任一三维第一特征点在所述第一相机图像中对应的二维第一特征点,与所述第二相机图像中任一二维第二特征点具有匹配关系,则根据所述第一相机图像和所述第二相机图像之间的图像变换矩阵,确定该三维第一特征点在所述第二相机图像中的第三投影点;
根据所述第三投影点和该二维第二特征点确定第一优化函数,并根据所述第一优化函数对所述第一相机图像和所述第二相机图像之间的图像变换矩阵进行优化,生成第一优化图像变换矩阵;
根据所述第三相对位姿、所述第四相对位姿和所述第一优化图像变换矩阵,确定所述待配准点云和所述目标点云之间的点云变换矩阵。
16.根据权利要求15所述的方法,其中,所述根据所述点云变换矩阵对所述待配准点云和所述目标点云进行配准,包括:
若该三维第一特征点在所述第二相机的相机坐标系Z方向上的取值为第一取值,则根据所述点云变换矩阵、所述第一取值、所述第二相机的内参、该三维第一特征点和该二维第二特征点,确定第二优化函数;
根据所述第二优化函数对所述点云变换矩阵进行优化,生成第一优化点云变换矩阵,并根据所述第一优化点云变换矩阵对所述待配准点云和所述目标点云进行配准。
17.根据权利要求16所述的方法,其中,所述根据所述点云变换矩阵、所述第一取值、所述第二相机的内参、该三维第一特征点和该二维第二特征点,确定第二优化函数,包括:
通过如下公式确定所述第二优化函数:
其中,Err2表示所述第二优化函数,(Rδ,tδ)表示所述点云变换矩阵,Pts表示该三维第一特征点的三维坐标,K1表示所述第二相机的内参,Pixt表示该二维第二特征点的二维坐标,λt表示所述第一取值。
18.根据权利要求14所述的方法,其中,所述根据所述第三相对位姿、所述第四相对位姿和所述第一相机图像和所述第二相机图像之间的图像变换矩阵,确定所述待配准点云和所述目标点云之间的点云变换矩阵,包括:
若任一三维第二特征点在所述第二相机图像中对应的二维第一特征点,与所述第一相机图像中任一二维第一特征点具有匹配关系,则根据所述第一相机图像和所述第二相机图像之间的图像变换矩阵,确定该三维第二特征点在所述第一相机图像中的第四投影点;
根据所述第四投影点和该二维第一特征点确定第三优化函数,并根据所述第三优化函数对所述第一相机图像和所述第二相机图像之间的图像变换矩阵进行优化,生成第二优化图像变换矩阵;
根据所述第三相对位姿、所述第四相对位姿和所述第二优化图像变换矩阵,确定所述待配准点云和所述目标点云之间的点云变换矩阵。
19.根据权利要求18所述的方法,其中,所述根据所述点云变换矩阵对所述待配准点云和所述目标点云进行配准,包括:
若该三维第二特征点在所述第一相机的相机坐标系Z方向上的取值为第二取值,则根据所述点云变换矩阵、所述第二取值、所述第一相机的内参、该三维第二特征点和该二维第一特征点,确定第四优化函数;
根据所述第四优化函数对所述点云变换矩阵进行优化,生成第二优化点云变换矩阵,并根据所述第二优化点云变换矩阵对所述待配准点云和所述目标点云进行配准。
20.根据权利要求19所述的方法,其中,所述根据所述点云变换矩阵、所述第二取值、所述第一相机的内参、该三维第二特征点和该二维第一特征点,确定第四优化函数,包括:
通过如下公式确定所述第四优化函数:
其中,Err4表示所述第四优化函数,(Rδ,tδ)表示所述点云变换矩阵,Ptt表示该三维第二特征点的三维坐标,Pixs表示该二维第一特征点的二维坐标,K2表示所述第一相机的内参,λs表示所述第二取值。
21.根据权利要求10所述的方法,其中,所述根据所述点云变换矩阵对所述待配准点云和所述目标点云进行配准,包括:
根据所述点云变换矩阵确定目标第五特征点在所述三维第二特征点中的第五投影点,并根据目标第六特征点的三维坐标以及所述第五投影点的三维坐标,从所述目标第六特征点中确定目标第七特征点;
根据所述目标第七特征点的第三描述子和所述目标第五特征点的第四描述子,确定所述目标第七特征点与所述目标第五特征点之间的第二相似度,并根据所述第二相似度从所述目标第七特征点中,确定与所述目标第五特征点匹配的目标第八特征点;
根据所述目标第五特征点和所述目标第八特征点对所述点云变换矩阵进行优化,生成第三优化点云变换矩阵,并根据所述第三优化点云变换矩阵对所述待配准点云和所述目标点云进行配准;
其中,所述目标第五特征点为除所述目标第三特征点以外的三维第一特征点;所述目标第六特征点为除所述目标第四特征点以外的三维第二特征点。
22.根据权利要求21所述的方法,其中,所述根据所述目标第五特征点和所述目标第八特征点对所述点云变换矩阵进行优化,生成第三优化点云变换矩阵,包括:
根据所述点云变换矩阵、所述目标第五特征点和所述目标第八特征点,确定第五优化函数,并根据所述第五优化函数对所述点云变换矩阵进行优化,生成第三优化点云变换矩阵。
23.根据权利要求22所述的方法,其中,所述根据所述点云变换矩阵、所述目标第五特征点和所述目标第八特征点,确定第五优化函数,包括:
通过如下公式确定所述第五优化函数:
其中,Err5表示所述第五优化函数,(Rδ,tδ)表示所述点云变换矩阵,Pta表示所述目标第五特征点的三维坐标,Ptb表示所述目标第八特征点的三维坐标。
24.一种点云的配准装置,包括:
数据获取模块,用于获取第一移动设备在同一时间采集的待配准点云和第一相机图像,以及第二移动设备在同一时间采集的目标点云和第二相机图像;
特征点确定模块,用于确定所述第一相机图像的第一特征点以及所述第二相机图像的第二特征点,并根据所述第一特征点和所述第二特征点确定所述第一相机图像和所述第二相机图像之间的图像变换矩阵;其中,所述第一特征点由二维形式的二维第一特征点和三维形式的三维第一特征点组成;所述第二特征点由二维形式的二维第二特征点和三维形式的三维第二特征点组成;
点云配准模块,用于根据所述图像变换矩阵确定所述待配准点云和所述目标点云之间的点云变换矩阵,并根据所述点云变换矩阵对所述待配准点云和所述目标点云进行配准;
其中,所述特征点确定模块,具体用于:
确定点云在相同移动设备采集的相机图像中的候选投影点,以及所述相机图像中包括的二维特征点,并根据所述候选投影点的投影点坐标以及所述二维特征点的二维特征点坐标,从所述候选投影点中确定目标投影点;
根据所述目标投影点所属点云数据的深度值,确定所述二维特征点的特征点深度值;
根据所述特征点深度值确定所述相机图像的初始三维特征点,并根据所述初始三维特征点确定所述相机图像的三维特征点;
其中,所述点云为所述待配准点云或所述目标点云;所述相机图像为所述第一相机图像或所述第二相机图像;所述二维特征点为所述第一特征点中的二维第一特征点,或所述第二特征点中的二维第二特征点;所述三维特征点为所述第一特征点中的三维第一特征点,或所述第二特征点中的三维第二特征点。
25.根据权利要求24所述的装置,其中,所述特征点确定模块,具体还用于:
根据所述候选投影点的投影点坐标以及所述二维特征点的二维特征点坐标,从所述候选投影点中确定辅助投影点;
确定所述辅助投影点与所述二维特征点的距离值,并根据所述距离值确定平均距离值以及距离值标准差;
根据所述平均距离值和所述距离值标准差对所述辅助投影点进行校验,并在校验通过的情况下将所述辅助投影点作为所述目标投影点。
26.根据权利要求24所述的装置,其中,所述特征点确定模块,具体还用于:
将同一采集角度的所述相机图像作为辅助相机图像,并确定相邻采集时间的辅助相机图像之间二维特征点的匹配关系;
确定所述初始三维特征点在所述辅助相机图像中的特征投影点,并根据所述特征投影点的投影点坐标以及所述二维特征点的第一描述子,从所述二维特征点中确定匹配二维特征点;
将除去所述匹配二维特征点后剩余的二维特征点,作为第一辅助二维特征点,并根据所述匹配关系确定与所述第一辅助二维特征点匹配的第二辅助二维特征点;
根据所述第一辅助二维特征点和所述第二辅助二维特征点进行三角化生成补充三维特征点,并将所述初始三维特征点和所述补充三维特征点,共同作为所述相机图像的三维特征点。
27.根据权利要求26所述的装置,其中,所述特征点确定模块,具体还用于:
根据所述特征投影点的投影点坐标以及所述二维特征点坐标,从所述二维特征点中确定候选二维特征点;
根据所述候选二维特征点的第一描述子以及所述初始三维特征点的第二描述子,确定所述候选二维特征点与所述初始三维特征点之间的第一相似度;
根据所述第一相似度从所述候选二维特征点中确定匹配二维特征点。
28.根据权利要求26所述的装置,所述装置还包括特征点删除模块,具体用于:
将任一三维特征点在所述相机图像中对应的二维特征点,作为关联二维特征点,并确定所述关联二维特征点在所属相机图像中的二维特征点类别;
确定二维特征点类别为动态类别的关联二维特征点的数量,并根据所述数量确定该三维特征点的三维特征点类别;
在所述三维特征点类别为动态类别的情况下,根据该三维特征点的属性类型,对该三维特征点执行特征点删除操作。
29.根据权利要求28所述的装置,其中,所述特征点删除模块,具体还用于:
在该三维特征点的属性类型为所述初始三维特征点的情况下,对该三维特征点执行特征点删除操作;
在该三维特征点的属性类型为所述补充三维特征点的情况下,根据所述关联二维特征点的数量,对该三维特征点执行特征点删除操作。
30.根据权利要求29所述的装置,其中,所述特征点删除模块,具体还用于:
在所述关联二维特征点的数量等于两个的情况下,对该三维特征点执行特征点删除操作;
在所述关联二维特征点的数量大于两个的情况下,根据该三维特征点在相同移动设备采集的相机图像中的投影点,与所述关联二维特征点的平均距离,对该三维特征点执行特征点删除操作。
31.根据权利要求26所述的装置,其中,所述特征点确定模块,具体还用于:
将采集时间和采集角度相同的所述第一相机图像和所述第二相机图像作为图像对,并从所述图像对中确定第一图像对和第二图像对;其中,所述第一图像对和第二图像对不同;
确定所述第一图像对的图像旋转矩阵和无尺度平移向量,并根据第一辅助相机图像的二维第一特征点,和第二辅助相机图像的二维第二特征点,确定所述无尺度平移向量的真实尺度;
根据所述图像旋转矩阵、所述无尺度平移向量和所述真实尺度确定所述第一图像对的图像变换矩阵,并根据所述第一图像对的图像变换矩阵确定所述第一相机图像和所述第二相机图像之间的图像变换矩阵;
其中,所述第一辅助相机图像为所述第二图像对中的第一相机图像,所述第二辅助相机图像为所述第二图像对中的第二相机图像。
32.根据权利要求31所述的装置,其中,所述特征点确定模块,具体还用于:
将第一相机采集所述第一辅助相机图像和第三辅助相机图像时的位姿分别作为第一位姿和第二位姿,并将第二相机采集所述第二辅助相机图像和第四辅助相机图像时的位姿分别作为第三位姿和第四位姿;
确定所述第一位姿和所述第二位姿之间的第一相对位姿,以及所述第四位姿和所述第三位姿之间的第二相对位姿;
根据所述第一相对位姿、所述第二相对位姿、所述第一辅助相机图像的二维第一特征点和所述第二辅助相机图像的二维第二特征点,确定所述无尺度平移向量的真实尺度;
其中,所述第一相机设置于所述第一移动设备上,所述第二相机设置于所述第二移动设备上;所述第三辅助相机图像为所述第一图像对中的第一相机图像,所述第四辅助相机图像为所述第一图像对中的第二相机图像。
33.根据权利要求32所述的装置,其中,所述特征点确定模块,具体还用于:
确定所述第一辅助相机图像的二维第一特征点和所述第二辅助相机图像的二维第二特征点之间的匹配关系,并将具有所述匹配关系的二维第一特征点和二维第二特征点,分别作为目标第一特征点和目标第二特征点;
根据所述三维第一特征点在所述第一相机图像中的投影点,与所述三维第一特征点在所述第一相机图像中对应的二维第一特征点的距离值,从所述三维第一特征点中确定目标第三特征点;
根据所述三维第二特征点在所述第二相机图像中的投影点,与所述三维第二特征点在所述第二相机图像中对应的二维第二特征点的距离值,从所述三维第二特征点中确定目标第四特征点;
根据所述第一相对位姿、所述第二相对位姿、所述目标第一特征点、所述目标第二特征点、所述目标第三特征点和所述目标第四特征点,确定所述无尺度平移向量的真实尺度。
34.根据权利要求33所述的装置,其中,所述特征点确定模块,具体还用于:
在任一目标第一特征点为任一目标第三特征点对应的二维第一特征点的情况下,采用如下公式确定所述无尺度平移向量的真实尺度:
其中,Si表示所述无尺度平移向量的真实尺度,Rik表示所述第二图像对的图像旋转矩阵,表示所述第二相对位姿中的相对位置,/>表示所述第一相对位姿中的相对姿态,/>表示所述第一相对位姿中的相对位置,/>表示该目标第一特征点的二维坐标,/>表示与该目标第一特征点匹配的目标第二特征点的二维坐标,Ri表示所述第一图像对的图像旋转矩阵,/>表示所述第一图像对的无尺度平移向量,/>表示该目标第三特征点在所述第一相机的相机坐标系Z方向上的取值。
35.根据权利要求33所述的装置,其中,所述特征点确定模块,具体还用于:
在任一目标第二特征点为任一目标第四特征点对应的二维第二特征点的情况下,采用如下公式确定所述无尺度平移向量的真实尺度:
其中,Si表示所述无尺度平移向量的真实尺度,Rik表示所述第二图像对的图像旋转矩阵,表示所述第二相对位姿中的相对位置,/>表示所述第一相对位姿中的相对姿态,/>表示所述第一相对位姿中的相对位置,/>表示该目标第二特征点的二维坐标,/>表示与该目标第二特征点匹配的目标第一特征点的二维坐标,Ri表示所述第一图像对的图像旋转矩阵,/>表示所述第一图像对的无尺度平移向量,/>表示该目标第四特征点在所述第二相机的相机坐标系Z方向上的取值。
36.根据权利要求31所述的装置,其中,所述特征点确定模块,具体还用于:
根据各所述第一图像对的图像变换矩阵,确定所述三维第一特征点在所述第二相机图像中的第一投影点,以及所述三维第二特征点在所述第一相机图像中的第二投影点;
确定所述第一投影点与匹配第一特征点之间的第一距离值,以及所述第二投影点与匹配第二特征点之间的第二距离值;
根据所述第一距离值和所述第二距离值,从各所述第一图像对的图像变换矩阵中确定目标图像变换矩阵,并将所述目标图像变换矩阵作为所述第一相机图像和所述第二相机图像之间的图像变换矩阵;
其中,所述匹配第一特征点为所述第二相机图像中与关联第一特征点具有匹配关系的二维第二特征点,所述关联第一特征点为所述第一相机图像中与所述三维第一特征点对应的二维第一特征点;所述匹配第二特征点为所述第一相机图像中与关联第二特征点具有匹配关系的二维第一特征点,所述关联第二特征点为所述第二相机图像中与所述三维第二特征点对应的二维第二特征点。
37.根据权利要求36所述的装置,其中,所述点云配准模块,具体用于:
确定所述第一移动设备上第一目标相机与第一激光雷达之间的第三相对位姿,以及所述第二移动设备上第二激光雷达与第二目标相机之间的第四相对位姿;
根据所述第三相对位姿、所述第四相对位姿以及所述第一相机图像和所述第二相机图像之间的图像变换矩阵,确定所述待配准点云和所述目标点云之间的点云变换矩阵;
其中,所述第一激光雷达用于采集所述待配准点云,所述第二激光雷达用于采集所述目标点云;所述第一目标相机和所述第二目标相机分别为采集第一目标图像对的第一相机和第二相机,所述第一目标图像对为所述目标图像变换矩阵所属的第一图像对。
38.根据权利要求37所述的装置,其中,所述点云配准模块,具体还用于:
若任一三维第一特征点在所述第一相机图像中对应的二维第一特征点,与所述第二相机图像中任一二维第二特征点具有匹配关系,则根据所述第一相机图像和所述第二相机图像之间的图像变换矩阵,确定该三维第一特征点在所述第二相机图像中的第三投影点;
根据所述第三投影点和该二维第二特征点确定第一优化函数,并根据所述第一优化函数对所述第一相机图像和所述第二相机图像之间的图像变换矩阵进行优化,生成第一优化图像变换矩阵;
根据所述第三相对位姿、所述第四相对位姿和所述第一优化图像变换矩阵,确定所述待配准点云和所述目标点云之间的点云变换矩阵。
39.根据权利要求38所述的装置,其中,所述点云配准模块,具体还用于:
若该三维第一特征点在所述第二相机的相机坐标系Z方向上的取值为第一取值,则根据所述点云变换矩阵、所述第一取值、所述第二相机的内参、该三维第一特征点和该二维第二特征点,确定第二优化函数;
根据所述第二优化函数对所述点云变换矩阵进行优化,生成第一优化点云变换矩阵,并根据所述第一优化点云变换矩阵对所述待配准点云和所述目标点云进行配准。
40.根据权利要求39所述的装置,其中,所述点云配准模块,具体还用于:
通过如下公式确定所述第二优化函数:
其中,Err2表示所述第二优化函数,(Rδ,tδ)表示所述点云变换矩阵,Pts表示该三维第一特征点的三维坐标,K1表示所述第二相机的内参,Pixt表示该二维第二特征点的二维坐标,λt表示所述第一取值。
41.根据权利要求40所述的装置,其中,所述点云配准模块,具体还用于:
若任一三维第二特征点在所述第二相机图像中对应的二维第一特征点,与所述第一相机图像中任一二维第一特征点具有匹配关系,则根据所述第一相机图像和所述第二相机图像之间的图像变换矩阵,确定该三维第二特征点在所述第一相机图像中的第四投影点;
根据所述第四投影点和该二维第一特征点确定第三优化函数,并根据所述第三优化函数对所述第一相机图像和所述第二相机图像之间的图像变换矩阵进行优化,生成第二优化图像变换矩阵;
根据所述第三相对位姿、所述第四相对位姿和所述第二优化图像变换矩阵,确定所述待配准点云和所述目标点云之间的点云变换矩阵。
42.根据权利要求41所述的装置,其中,所述点云配准模块,具体还用于:
若该三维第二特征点在所述第一相机的相机坐标系Z方向上的取值为第二取值,则根据所述点云变换矩阵、所述第二取值、所述第一相机的内参、该三维第二特征点和该二维第一特征点,确定第四优化函数;
根据所述第四优化函数对所述点云变换矩阵进行优化,生成第二优化点云变换矩阵,并根据所述第二优化点云变换矩阵对所述待配准点云和所述目标点云进行配准。
43.根据权利要求42所述的装置,其中,所述点云配准模块,具体还用于:
通过如下公式确定所述第四优化函数:
其中,Err4表示所述第四优化函数,(Rδ,tδ)表示所述点云变换矩阵,Ptt表示该三维第二特征点的三维坐标,Pixs表示该二维第一特征点的二维坐标,K2表示所述第一相机的内参,λs表示所述第二取值。
44.根据权利要求33所述的装置,其中,所述点云配准模块,具体还用于:
根据所述点云变换矩阵确定目标第五特征点在所述三维第二特征点中的第五投影点,并根据目标第六特征点的三维坐标以及所述第五投影点的三维坐标,从所述目标第六特征点中确定目标第七特征点;
根据所述目标第七特征点的第三描述子和所述目标第五特征点的第四描述子,确定所述目标第七特征点与所述目标第五特征点之间的第二相似度,并根据所述第二相似度从所述目标第七特征点中,确定与所述目标第五特征点匹配的目标第八特征点;
根据所述目标第五特征点和所述目标第八特征点对所述点云变换矩阵进行优化,生成第三优化点云变换矩阵,并根据所述第三优化点云变换矩阵对所述待配准点云和所述目标点云进行配准;
其中,所述目标第五特征点为除所述目标第三特征点以外的三维第一特征点;所述目标第六特征点为除所述目标第四特征点以外的三维第二特征点。
45.根据权利要求44所述的装置,其中,所述点云配准模块,具体还用于:
根据所述点云变换矩阵、所述目标第五特征点和所述目标第八特征点,确定第五优化函数,并根据所述第五优化函数对所述点云变换矩阵进行优化,生成第三优化点云变换矩阵。
46.根据权利要求45所述的装置,其中,所述点云配准模块,具体还用于:
通过如下公式确定所述第五优化函数:
其中,Err5表示所述第五优化函数,(Rδ,tδ)表示所述点云变换矩阵,Pta表示所述目标第五特征点的三维坐标,Ptb表示所述目标第八特征点的三维坐标。
47.一种电子设备,包括:
至少一个处理器;以及
与至少一个处理器通信连接的存储器;其中,
存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行权利要求1-23中任一项的方法。
48.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行根据权利要求1-23中任一项的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210832365.5A CN115239776B (zh) | 2022-07-14 | 2022-07-14 | 点云的配准方法、装置、设备和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210832365.5A CN115239776B (zh) | 2022-07-14 | 2022-07-14 | 点云的配准方法、装置、设备和介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115239776A CN115239776A (zh) | 2022-10-25 |
CN115239776B true CN115239776B (zh) | 2023-07-28 |
Family
ID=83673281
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210832365.5A Active CN115239776B (zh) | 2022-07-14 | 2022-07-14 | 点云的配准方法、装置、设备和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115239776B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115457088B (zh) * | 2022-10-31 | 2023-03-24 | 成都盛锴科技有限公司 | 一种列车定轴方法及系统 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113344986A (zh) * | 2021-08-03 | 2021-09-03 | 深圳市信润富联数字科技有限公司 | 点云配准结果的评估方法、装置、设备及存储介质 |
CN114663519A (zh) * | 2022-02-18 | 2022-06-24 | 奥比中光科技集团股份有限公司 | 一种多相机标定方法、装置及相关设备 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11423508B2 (en) * | 2018-02-26 | 2022-08-23 | Intel Corporation | Method and system of point cloud registration for image processing |
CN109509226B (zh) * | 2018-11-27 | 2023-03-28 | 广东工业大学 | 三维点云数据配准方法、装置、设备及可读存储介质 |
CN110443840A (zh) * | 2019-08-07 | 2019-11-12 | 山东理工大学 | 实物表面采样点集初始配准的优化求解方法 |
CN110930443B (zh) * | 2019-11-27 | 2023-04-07 | 中国科学院深圳先进技术研究院 | 图像配准方法、装置及终端设备 |
CN113793370B (zh) * | 2021-01-13 | 2024-04-19 | 北京京东叁佰陆拾度电子商务有限公司 | 三维点云配准方法、装置、电子设备及可读介质 |
CN113205560B (zh) * | 2021-05-06 | 2024-02-23 | Oppo广东移动通信有限公司 | 多深度相机的标定方法、装置、设备及存储介质 |
-
2022
- 2022-07-14 CN CN202210832365.5A patent/CN115239776B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113344986A (zh) * | 2021-08-03 | 2021-09-03 | 深圳市信润富联数字科技有限公司 | 点云配准结果的评估方法、装置、设备及存储介质 |
CN114663519A (zh) * | 2022-02-18 | 2022-06-24 | 奥比中光科技集团股份有限公司 | 一种多相机标定方法、装置及相关设备 |
Also Published As
Publication number | Publication date |
---|---|
CN115239776A (zh) | 2022-10-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11145078B2 (en) | Depth information determining method and related apparatus | |
JP6745328B2 (ja) | 点群データを復旧するための方法及び装置 | |
US10776936B2 (en) | Point cloud matching method | |
CN108960211B (zh) | 一种多目标人体姿态检测方法以及系统 | |
US20220114750A1 (en) | Map constructing method, positioning method and wireless communication terminal | |
CN107735797B (zh) | 用于确定第一坐标系与第二坐标系之间的运动的方法 | |
CN113012212A (zh) | 一种基于深度信息融合的室内场景三维点云重建方法和系统 | |
CN113989450B (zh) | 图像处理方法、装置、电子设备和介质 | |
Miclea et al. | Real-time semantic segmentation-based stereo reconstruction | |
US20220172376A1 (en) | Target Tracking Method and Device, and Electronic Apparatus | |
CN112336342A (zh) | 手部关键点检测方法、装置及终端设备 | |
GB2566443A (en) | Cross-source point cloud registration | |
CN115239776B (zh) | 点云的配准方法、装置、设备和介质 | |
CN116188893A (zh) | 基于bev的图像检测模型训练及目标检测方法和装置 | |
CN110751722B (zh) | 同时定位建图方法及装置 | |
CN112200056A (zh) | 人脸活体检测方法、装置、电子设备及存储介质 | |
CN111664845B (zh) | 交通标志定位、视觉地图制作方法及装置、定位系统 | |
CN113724388B (zh) | 高精地图的生成方法、装置、设备以及存储介质 | |
CN115018999A (zh) | 一种多机器人协作的稠密点云地图构建方法及装置 | |
CN113592015B (zh) | 定位以及训练特征匹配网络的方法和装置 | |
CN115239892B (zh) | 三维血管模型的构建方法、装置、设备及存储介质 | |
CN115239899B (zh) | 位姿图生成方法、高精地图生成方法和装置 | |
CN114674328B (zh) | 地图生成方法、装置、电子设备、存储介质、及车辆 | |
CN114743178B (zh) | 道路边缘线生成方法、装置、设备及存储介质 | |
CN113570713B (zh) | 一种面向动态环境的语义地图构建方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |