CN110163903A

CN110163903A - 三维图像的获取及图像定位方法、装置、设备和存储介质

Info

Publication number: CN110163903A
Application number: CN201910447312.XA
Authority: CN
Inventors: 王浩
Original assignee: Beijing Baidu Netcom Science and Technology Co Ltd
Current assignee: Baidu Online Network Technology Beijing Co Ltd; Beijing Baidu Netcom Science and Technology Co Ltd
Priority date: 2019-05-27
Filing date: 2019-05-27
Publication date: 2019-08-23
Anticipated expiration: 2039-05-27
Also published as: CN110163903B

Abstract

本发明实施例公开了一种三维图像的获取及图像定位方法、装置、设备和存储介质。所述三维图像的获取方法包括：获取目标二维图像及其对应的点云数据；根据点云数据的采集设备对应的三维坐标及目标二维图像的采集设备对应的二维坐标间的坐标对应关系，将目标二维图像中的二维图像点的特征向量赋予点云数据中的三维图像点；根据点云数据中具有特征向量的三维图像点，得到目标二维图像对应的三维场景图像。本发明实施例的技术方案实现了提高基于二维图像对场景进行重建的准确度，可对大规模场景进行准确地三维重建，重建得到的三维图像与真实场景之间几乎无尺度差，还实现了通过较小的计算量简便、快速地获取二维图像对应的拍摄设备姿态。

Description

三维图像的获取及图像定位方法、装置、设备和存储介质

技术领域

本发明实施例涉及三维场景重建技术，尤其涉及一种三维图像的获取及图像定位方法、装置、设备和存储介质。

背景技术

基于视觉的三维重建，指的是通过摄像机获取场景中的物体的二维图像，并对该二维图像进行分析处理，再结合计算机视觉知识，推导得到该场景的三维图像。

现有技术中，一般是通过SFM(structure from motion，运动恢复结构)技术来实现三维场景重建。重建过程一般为：先获取待重建场景对应的多幅二维图像，然后对所有二维图像进行特征提取、特征匹配等操作，确定二维图像中的二维图像点与三维图像点之间的匹配关系，最后，根据各匹配关系，建立该场景的三维图像。

发明人在实现本发明的过程中，发现现有技术存在如下缺陷：通过SFM技术进行三维场景重建的过程中存在累计误差，使得重建的三维场景准确度较低，且更加难以对大规模的场景进行准确重建，另外，特征提取的过程较为繁琐、费时、计算量较大，且需要使用性能较高的硬件进行支持。

发明内容

本发明实施例提供了一种三维图像的获取及图像定位方法、装置、设备和存储介质，以实现提高基于二维图像对场景进行三维重建的准确度。

第一方面，本发明实施例提供了一种三维图像的获取方法，包括：

获取目标二维图像，以及所述目标二维图像对应的点云数据；

根据所述点云数据的点云采集设备对应的点云三维坐标，以及所述目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，将所述目标二维图像中的二维图像点的特征向量，赋予所述点云数据中的三维图像点；

根据所述点云数据中，具有特征向量的各所述三维图像点，得到所述目标二维图像对应的三维场景图像。

第二方面，本发明实施例提供了一种图像定位方法，包括：

获取与待定位二维图像对应的三维场景图像；

从所述三维场景图像中的各三维图像点的参考特征向量中，查找与所述待定位二维图像中的各二维图像点的待匹配特征向量，分别对应的目标特征向量；

根据所述目标特征向量以及所述待匹配特征向量之间的对应关系，确定获取所述待定位二维图像时，图像采集设备的姿态数据；

其中，所述三维场景图像由根据所述点云数据的点云采集设备对应的点云三维坐标，以及所述目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，将所述目标二维图像中的二维图像点的特征向量，赋予所述点云数据中的三维图像点而得到。

第三方面，本发明实施例提供了一种三维图像的获取装置，包括：

点云数据获取模块，用于获取目标二维图像，以及所述目标二维图像对应的点云数据；

特征向量赋予模块，用于根据所述点云数据的点云采集设备对应的点云三维坐标，以及所述目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，将所述目标二维图像中的二维图像点的特征向量，赋予所述点云数据中的三维图像点；

三维场景图像获取模块，用于根据所述点云数据中，具有特征向量的各所述三维图像点，得到所述目标二维图像对应的三维场景图像。

第四方面，本发明实施例提供了一种图像定位装置，包括：

三维图像获取模块，用于获取与待定位二维图像对应的三维场景图像；

目标特征向量查找模块，用于从所述三维场景图像中的各三维图像点的参考特征向量中，查找与所述待定位二维图像中的各二维图像点的待匹配特征向量，分别对应的目标特征向量；

姿态数据获取模块，用于根据所述目标特征向量以及所述待匹配特征向量之间的对应关系，确定获取所述待定位二维图像时，图像采集设备的姿态数据；

第五方面，本发明实施例提供了一种设备，所述设备包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本发明任意实施例所述的三维图像的获取方法或图像定位方法。

第六方面，本发明实施例提供了一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行本发明任意实施例所述的三维图像的获取方法或图像定位方法。

本发明实施例提供了一种三维图像的获取及图像定位方法、装置、设备和存储介质，通过根据点云数据的点云采集设备对应的点云三维坐标，以及目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，将目标二维图像中的二维图像点的特征向量，赋予点云数据中的三维图像点，得到目标二维图像对应的三维场景图像，并进一步通过从上述三维场景图像中的各三维图像点的参考特征向量中，查找待定位图像中的各二维图像点分别对应的目标特征向量，确定获取待定位二维图像时，图像采集设备的姿态数据，解决了现有技术中通过SFM技术重建三维场景存在累计误差，导致三维场景准确度较低，以及通过SFM技术确定二维图像对应的拍摄设备姿态的计算方法较为繁琐、复杂且计算量较大的技术缺陷，实现了提高基于二维图像对场景进行三维重建的准确度，还可以对大规模的场景进行准确地三维重建，且重建得到的三维场景图像与真实场景之间几乎没有尺度差，进一步还实现了通过较小的计算量简便、快速地获取二维图像对应的拍摄设备姿态。

附图说明

图1是本发明实施例一提供的三维图像的获取方法的流程图；

图2是本发明实施例二提供的三维图像的获取方法的流程图；

图3是本发明实施例三提供的三维图像的获取方法的流程图；

图4是本发明实施例四提供的图像定位方法的流程图；

图5是本发明实施例五提供的图像定位方法的流程图；

图6是本发明实施例六提供的三维图像的获取装置的结构图；

图7是本发明实施例七提供的图像定位装置的结构图；

图8是本发明实施例八提供的一种设备的结构图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。

实施例一

图1为本发明实施例一提供的一种三维图像的获取方法的流程图，本实施例可适用于基于场景对应的二维图像，重建该场景的三维图像的情况，该方法可以由三维图像的获取装置来执行，该装置可以通过软件和/或硬件实现，该装置可集成在服务器等设备中。如图1所示，该方法具体包括如下步骤：

S110、获取目标二维图像，以及目标二维图像对应的点云数据。

在本实施例中，目标二维图像具体可以是包括有一个或多个景物的某场景的图像。一般来说，一个较小的场景仅通过一幅二维图像就可对该场景实现全面的展现，而一个较大的场景则需要通过多幅二维图像才能完整地展示该场景。因此，本实施例步骤110中所获取的目标二维图像既可以仅是一幅二维图像(该图像应可完整地展现对应的场景)，可以是用于共同展现同一场景的多幅二维图像。

进一步地，目标二维图像对应的点云图像具体是指目标二维图像所要展现的场景的点云图像。

S120、根据点云数据的点云采集设备对应的点云三维坐标，以及目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，将目标二维图像中的二维图像点的特征向量，赋予点云数据中的三维图像点。

可以理解的是，用于拍摄同一场景的点云数据的点云拍摄设备，与拍摄二维图像的图像拍摄设备之间存在拍摄位置对应关系，根据该拍摄位置对应关系，可以确定点云拍摄设备所对应的三维坐标系(即点云数据中的各三维图像点所处的三维坐标系)，与图像拍摄设备所对应的二维坐标系(即目标二维图像中的各二维图像点所处的二维坐标系)之间的坐标对应关系。

因此，本实施例中的三维图像的获取方法，创造性地利用了上述坐标对应关系，实现了将目标二维图像中的二维图像点的特征向量，准确地赋予与该二维图像点的坐标相对应的点云数据中的三维图像点。

在本实施例中，图像采集设备具体是指目标二维图像的获取设备。点云采集设备具体是指用于获取目标二维图像所展现场景的点云数据的设备。点云三维坐标具体是点云采集设备所获取的点云数据中的三维图像点的坐标。图像二维坐标具体是指图像采集设备所获取的二维图像中的二维图像点的坐标。

在本实施例中，坐标对应关系具体是指点云数据中的三维图像点的三维坐标，与目标二维图像中的二维图像点的二维坐标之间的对应转换关系。也就是说，根据坐标转换关系，可以得到与点云数据中的任意三维图像点的三维坐标，所对应的二维坐标，该二维坐标为目标二维图像的图像采集设备对应的图像二维坐标。

具体来说，在本实施例中，首先，根据点云三维坐标与图像二维坐标之间的坐标对应关系，确定与点云数据中的三维图像点的三维坐标，对应的二维坐标；然后，在目标二维图像中，获取与上述二维坐标对应的二维图像点的特征向量；最后，将获取的该特征向量赋予该三维图像点。由此，点云数据中的三维图像点就成为了具有特征向量的三维图像点，进一步地，就可以通过步骤130，根据这些具有特征向量的三维图像点，得到目标二维图像对应的三维场景图像。

这里需要说明的是，由于目标二维图像中的二维图像点的数量有限，相应的，对应的二维坐标的数量就是有限的，因此，可能会出现目标二维图像对应的各二维坐标中不存在，与点云数据中的某个或某几个三维图像点对应的二维坐标的情况，那么此时可以不对这样的三维图像点赋予任何特征向量，如此操作并不会影响步骤130中得到的三维场景图像的准确度，因为这样的三维图像点数量一般非常少。

还需要说明的是，如果步骤110中所获取的目标二维图像是多幅二维图像，那么，可能会在多幅目标二维图像中找到与点云数据中同一个三维图像点对应的多个二维图像点，由此就会得到多个特征向量。此时，可以把所有特征向量都先同时赋予该三维图像点，之后在步骤130中再做进一步处理(例如，在上述得到的多个特征向量中，查找与邻近的三维图像点的特征向量的距离最近的一个特征向量，并将该特征向量作为该三维图像点最后的特征向量)，也可以对上述得到的多个特征向量进行适当的处理(例如求平均)，然后将处理后得到的特征向量赋予该三维图像点。

S130、根据点云数据中，具有特征向量的各三维图像点，得到目标二维图像对应的三维场景图像。

基于上述对步骤120的说明内容可知，可能会出现点云数据中的一个或多个三维图像点不存在对应的二维图像点，进而没有被赋予特征向量的情况。那么，由于三维场景图像是由具有特征向量的三维图像点所组成，因此，在本实施例中，会从点云数据中挑选出所有被赋予了特征向量的三维图像点，进而根据这些挑选出来的三维图像点，准确地得到与目标二维图像对应的三维场景图像。

本发明实施例提供了一种三维图像的获取方法，通过根据点云数据的点云采集设备对应的点云三维坐标，以及目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，将目标二维图像中的二维图像点的特征向量，赋予点云数据中的三维图像点，得到目标二维图像对应的三维场景图像，解决了现有技术中通过SFM技术重建三维场景存在累计误差，导致三维场景准确度较低的技术缺陷，实现了提高基于二维图像对场景进行三维重建的准确度，还可以对大规模的场景进行准确地三维重建，且重建得到的三维场景图像与真实场景之间几乎没有尺度差。

实施例二

图2是本发明实施例二提供的一种三维图像的获取方法的流程图。本实施例以上述实施例为基础进行优化，在本实施例中，给出了一种具体化特征向量赋予方法的具体实施方式。与上述实施例相同或相应的术语解释，本实施例不再赘述。

相应的，本实施例的方法具体包括：

S210、获取目标二维图像，以及目标二维图像对应的点云数据。

S220、根据点云数据的点云采集设备对应的点云三维坐标，以及目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，得到点云数据中的各三维图像点分别对应的二维映射点的坐标。

在本实施例中，通过步骤220和步骤230对三维图像点进行特征向量的赋予。首先，通过本步骤220获取三维图像点对应的二维映射点的坐标。

具体来说，可以是对点云数据中的三维图像点的三维坐标，进行与坐标对应关系匹配的坐标计算，进而得到该三维坐标对应的二维坐标，即二维映射坐标。

S230、将目标二维图像中，与二维映射点的坐标之间满足设定坐标匹配规则的二维图像点的特征向量，作为二维映射点对应的三维图像点的特征向量。

在本实施例中，在得到三维图像点对应的二维映射点的坐标后，并不是直接将目标二维图像中坐标，与该二维映射点的坐标相同的二维图像点的特征向量赋予该三维图像点。可以理解的是，可能会出现目标二维图像对应的各二维坐标中不存在，与点云数据中的三维图像点对应的二维坐标的情况，那么此时就不能给三维图像点赋予特征向量。

进一步地，可以理解的是，相近的三维图像点的特征向量一般会较为接近，且相近的三维图像点对应的二维映射点在二维平面中的位置也会较为接近。因此，为了给更多的三维图像点赋予较为准确的特征向量，在本实施例中，会将目标二维图像中，与二维映射点的坐标之间满足设定坐标匹配规则的二维图像点的特征向量，作为二维映射点对应的三维图像点的特征向量。

示例性地，设定坐标匹配规则可以是X轴的坐标差以及Y轴的坐标差均小于设定数值，那么就可以计算目标二维图像中的各二维图像点的坐标中的X坐标值以及Y坐标值，分别与二维映射点的X坐标值与Y坐标值之间的差值，进而确定与二维映射点的坐标之间满足设定坐标匹配规则的二维图像点。这里需要说明的是，只要上述坐标差设置的较为合适，那么一般不会出现多个二维图像点的坐标，均与二维映射点的坐标之间满足设定坐标匹配规则的情况。

S240、根据点云数据中，具有特征向量的各三维图像点，得到目标二维图像对应的三维场景图像。

本发明实施例提供了一种三维图像的获取方法，该方法具体化了特征向量赋予方法，实现可对点云数据中更多的三维图像点赋予较为准确的特征向量，进而提高三维场景图像的真实度。

实施例三

图3是本发明实施例三提供的一种三维图像的获取方法的流程图。本实施例以上述实施例为基础进行优化，在本实施例中，给出了一种具体化二维映射点的获取方法，以及具体化特征向量的映射方法的具体实施方式。与上述实施例相同或相应的术语解释，本实施例不再赘述。

相应的，本实施例的方法具体包括：

S310、获取目标二维图像，以及目标二维图像对应的点云数据。

S320、获取点云数据的点云采集设备对应的点云三维坐标，以及目标二维图像的图像采集设备对应的图像二维坐标之间的坐标转换矩阵。

在本实施例中，通过步骤320和步骤330获取三维图像点对应的二维映射点的坐标。

可知的是，点云数据的点云采集设备对应的点云三维坐标与目标二维图像的图像采集设备对应的图像二维坐标之间存在一个3×4的坐标转换矩阵，根据该坐标转换矩阵，可以得到与点云三维坐标对应的图像二维坐标。

S330、根据所述坐标转换矩阵，与所述点云数据中的各三维图像点的坐标齐次向量的乘积，得到各所述三维图像点对应的二维映射点的坐标。

在本实施例中，先通过公式x_i＝f(PX_i)计算二维映射点的坐标齐次向量，其中，P为上述3×4的坐标转换矩阵，X_i为三维图像点的4×1的坐标齐次向量，P与X_i相乘，得到一个3×1的向量x_i。

在本实施例中，在得到3×1的向量x_i之后，会根据该向量，计算得到二维映射点的坐标。具体的，设3×1的向量为(x，y，z)，那么，二维映射点的坐标为(x/z，x/y)。

S340、根据目标二维图像中的各二维图像点的坐标，以及二维映射点的坐标，分别计算各二维图像点与二维映射点之间的图像点距离。

在本实施例中，通过步骤340至步骤360对三维图像点进行特征向量的赋予。

首先，通过本步骤进行二维点之间的距离计算。具体来说，在确定二维映射点的坐标之后，会计算目标二维图像中的每一个二维图像点与该二维映射点之间的距离。当然为了减小计算量，也可以先对二维图像点进行筛选，将X坐标或Y坐标，与二维映射点的X坐标或Y坐标的差值较大的点剔除，不进行距离计算。

S350、将小于设定距离阈值的图像点距离所对应的二维图像点，作为二维映射点的匹配二维图像点。

在本实施例中，会设置一个较为合适的设定距离阈值，使得可以从目标二维图像中的各二维图像点中，筛选出一个与二维映射点的平面距离较为接近的二维图像点，作为二维映射点的匹配二维图像点。

S360、将匹配二维图像点的特征向量，作为二维映射点对应的三维图像点的特征向量。

S370、根据点云数据中，具有特征向量的各三维图像点，得到目标二维图像对应的三维场景图像。

本发明实施例提供了一种三维图像的获取方法，该方法具体化了二维映射点的获取方法，实现了简便、快速以及准确地获取而二维映射点，还具体化了特征向量的映射方法，在实现对更多的三维图像点赋予特征向量的同时，提高了特征向量赋予的准确度，进而提高了三维场景图像的准确度。

实施例四

图4为本发明实施例一提供的一种图像定位方法的流程图，本实施例可适用于获取拍摄二维图像时，拍摄设备的姿态数据的情况，该方法可以由图像定位装置来执行，该装置可以通过软件和/或硬件实现，该装置可集成在服务器等设备中。如图1所示，该方法具体包括如下步骤：

S410、获取与待定位二维图像对应的三维场景图像,其中，三维场景图像由根据点云数据的点云采集设备对应的点云三维坐标，以及目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，将目标二维图像中的二维图像点的特征向量，赋予点云数据中的三维图像点而得到。

本实施例中的三维场景图像的获取方法与上述各实施例相同，在此不再进行详细阐述。

在本实施例中，待定位二维图像与三维场景图像的对应关系具体是指拍摄待定位二维图像的图像拍摄设备对应的二维坐标系，与用于通过上述各实施例中的三维场景图像的获取方法得到三维场景图像的目标二维图像的拍摄设备所对应的二维坐标系相同。

S420、从三维场景图像中的各三维图像点的参考特征向量中，查找与待定位二维图像中的各二维图像点的待匹配特征向量，分别对应的目标特征向量。

在本实施例中，会建立三维场景图像中的三维图像点与待定位二维图像中的二维图像点之间的对应关系，以进而根据该对应关系，通过步骤430获取图像采集设备的姿态数据。

具体的，可以是从待定位二维图像中的所有二维图像点中按顺序或随机选取一个二维图像点作为当前匹配图像点，然后从三维场景图像中的所有三维图像点的参考特征向量中，查找与当前匹配图像点的待匹配特征向量向对应的参考特征向量，最为当前匹配图像点对应的目标特征向量。对待定位二维图像中的所有二维图像点均执行上述操作，得到每一个二维图像点对应的目标特征向量。

当然，对于不同的查找方法，有可能是每一个二维图像点都能查找到对应的目标特征向量，有可能是绝大部分二维图像点都能查找到对应的目标特征向量，这两种情况都认为是正确地，只要可以查找到对应的目标特征向量的二维图像点的数量，对二维图像点的总数量的占比足够大，就能保证步骤430所获取的姿态数据的准确度。

S430、根据目标特征向量以及待匹配特征向量之间的对应关系，确定获取待定位二维图像时，图像采集设备的姿态数据。

在本实施例中，在确定各二维图像点对应的目标特征向量之后，就确定了二维图像点与三维图像点之间的对应关系，进而，根据具有对应关系的二维图像点和三维图像点各自的坐标和特征向量，即可确定拍摄待定位二维图像时，图像采集设备的姿态数据。其中，姿态数据典型的可以只六自由度数据。

本发明实施例提供了一种图像定位方法，通过从三维场景图像中的各三维图像点的参考特征向量中，查找待定位图像中的各二维图像点分别对应的目标特征向量，确定获取待定位二维图像时，图像采集设备的姿态数据，解决了现有技术中通过SFM技术确定二维图像对应的拍摄设备姿态的计算方法较为繁琐、复杂且计算量较大的技术缺陷，实现了通过较小的计算量简便、快速地获取二维图像对应的拍摄设备姿态。

实施例五

图5是本发明实施例五提供的一种图像定位方法的流程图。本实施例以上述实施例为基础进行优化，在本实施例中，给出了一种具体化三维场景图像的获取方法，具体化目标特征向量的查找方法，以及具体化姿态数据的确定方法的具体实施方式。与上述实施例相同或相应的术语解释，本实施例不再赘述。

相应的，本实施例的方法具体包括：

S510、将所对应的GPS数据，与待定位二维图像对应的GPS数据，相匹配的三维场景图像，作为待定位二维图像对应的三维场景图像。

可知的，图像采集设备在拍摄二维图像时，可以同时输出该二维图像对应的GPS数据，并且每一幅三维场景图像也具有GPS数据。因此，在本实施例中，依据GPS数据的匹配性，来获取待定位二维图像对应的三维场景图像。

示例性地，如果待定位二维图像可以完整的展现一个场景，那么该场景的三维场景图像对应的GPS数据可以与待定位二维图像对应的GPS相同，此时，就可以将所对应的GPS数据，与待定位二维图像对应的GPS数据相同的三维场景图像，作为待定位二维图像对应的三维场景图像。

S520、分别计算三维场景图像中的各三维图像点的参考特征向量，与待定位二维图像中的二维图像点的待匹配特征向量之间的向量距离。

在本实施例中，通过步骤520至步骤550获取二维图像点对应的目标特征向量。首先，通过本步骤计算向量之间的距离。

具体的，对于二维图像中的每一个二维图像点的待匹配特征向量，都会计算其与三维场景图像中的所有三维图像点的参考特征向量之间的向量距离，以全面地获知待匹配特征向量与各参考特征向量之间的差异，进而准确地确定待匹配特征向量与参考特征向量之间的匹配关系。

S530、判断最小的向量距离与次小的向量距离之间是否满足设定距离匹配规则，若是，则执行步骤550，若否，则执行步骤540。

在本实施例中，在通过步骤520计算全面的特征向量间距离的计算之后，针对每一个二维图像点，会从使用器待匹配特征向量进行计算得到的所有向量距离中的最小向量距离和次小向量距离，作为两个参考数值，进行特征向量间对应性的判定。

具体的，在本实施例中，会根据最小的向量距离与次小的向量距离之间是否满足设定距离匹配规则，来进行特征向量间对应性的判定。示例性地，设定距离匹配规则可以是最小的向量距离的平方，与次小的向量距离的平方的比值，小于设定比例阈值。

S540、确定待定位二维图像中的该二维图像点不存在对应的目标特征向量。

在本实施例中，如果通过步骤530的判断，确定一个二维图像点对应的最小的向量距离与次小的向量距离之间不满足设定距离匹配规则，则确定该二维图像点不存在对应的目标特征向量，进而该二维图像点的坐标和特征向量等数据不会用于获取姿态数据。

S550、将最小的向量距离对应的参考特征向量，作为待匹配特征向量对应的目标特征向量。

在本实施例中，如果一个二维图像点对应的最小的向量距离与次小的向量距离之间满足设定距离匹配规则，则将最小的向量距离对应的参考特征向量，作为该二维图像点的待匹配特征向量所对应的目标特征向量。

S560、使用目标特征向量所属的三维图像点，以及该目标特征向量对应的待匹配特征向量所属的二维图像点，组成一组二维三维匹配关系。

在本实施例中，通过步骤560和步骤570获取图像采集设备的姿态数据。首先，通过本步骤获取二维三维匹配关系。

具体的，在获取了待匹配特征向量所对应的目标特征向量之后，就可以根据该对应关系确定二维图像点与三维图像点之间的关系，由此得到多组二维三维匹配关系。其中，二维三维匹配关系具体可以包括二维坐标与三维坐标之间的对应关系等。

S570、根据各组二维三维匹配关系，确定获取待定位二维图像时，图像采集设备的姿态数据。

本发明实施例提供了一种图像定位方法，该方法具体化了三维场景图像的获取方法，提高了获取三维场景图像的准确度，具体化了目标特征向量的查找方法，实现了快速、准确地对待匹配特征向量所对应的目标特征向量进行查找，还具体化了姿态数据的确定方法，实现了更加简便、快速地获取拍摄设备的姿态数据。

实施例六

图6是本发明实施例六提供的一种三维图像的获取装置的结构图，本实施例在上述各实施例的基础上，提供了“三维图像的获取方法”的实施方式。与上述实施例相同或相应的术语解释，本实施例不再赘述。

如图6所示，所述装置包括：点云数据获取模块601、特征向量赋予模块602以及三维场景图像获取模块603，其中：

点云数据获取模块601，用于获取目标二维图像，以及目标二维图像对应的点云数据；

特征向量赋予模块602，用于根据点云数据的点云采集设备对应的点云三维坐标，以及目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，将目标二维图像中的二维图像点的特征向量，赋予点云数据中的三维图像点；

三维场景图像获取模块603，用于根据点云数据中，具有特征向量的各三维图像点，得到目标二维图像对应的三维场景图像。

本发明实施例提供了一种三维图像的获取装置，该装置首先通过点云数据获取模块601获取目标二维图像，以及目标二维图像对应的点云数据，然后通过特征向量赋予模块602，根据点云数据的点云采集设备对应的点云三维坐标，以及目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，将目标二维图像中的二维图像点的特征向量，赋予点云数据中的三维图像点，最后通过三维场景图像获取模块603根据点云数据中，具有特征向量的各三维图像点，得到目标二维图像对应的三维场景图像。

该装置解决了现有技术中通过SFM技术重建三维场景存在累计误差，导致三维场景准确度较低的技术缺陷，实现了提高基于二维图像对场景进行三维重建的准确度，还可以对大规模的场景进行准确地三维重建，且重建得到的三维场景图像与真实场景之间几乎没有尺度差。

在上述各实施例的基础上，特征向量赋予模块602可以包括：

坐标获取单元，用于根据点云数据的点云采集设备对应的点云三维坐标，以及目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，得到点云数据中的各三维图像点分别对应的二维映射点的坐标；

特征向量确定单元，用于将目标二维图像中，与二维映射点的坐标之间满足设定坐标匹配规则的二维图像点的特征向量，作为二维映射点对应的三维图像点的特征向量。

在上述各实施例的基础上，坐标获取单元可以包括：

矩阵获取子单元，用于获取点云数据的点云采集设备对应的点云三维坐标，以及目标二维图像的图像采集设备对应的图像二维坐标之间的坐标转换矩阵；

坐标确定子单元，用于根据坐标转换矩阵，与点云数据中的各三维图像点的坐标齐次向量的乘积，得到各三维图像点对应的二维映射点的坐标。

在上述各实施例的基础上，特征向量确定单元可以包括：

距离计算子单元，用于根据目标二维图像中的各二维图像点的坐标，以及二维映射点的坐标，分别计算各二维图像点与二维映射点之间的图像点距离；

匹配图像点确定子单元，用于将小于设定距离阈值的图像点距离所对应的二维图像点，作为二维映射点的匹配二维图像点；

特征向量获取子单元，用于将匹配二维图像点的特征向量，作为二维映射点对应的三维图像点的特征向量。

本发明实施例所提供的三维图像的获取装置可执行本发明任意实施例所提供的三维图像的获取方法，具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节，可参见本发明任意实施例提供的三维图像的获取方法。

实施例七

图7是本发明实施例六提供的一种图像定位装置的结构图，本实施例在上述各实施例的基础上，提供了“图像定位方法”的实施方式。与上述实施例相同或相应的术语解释，本实施例不再赘述。

如图7所示，所述装置包括：三维图像获取模块701、目标特征向量查找模块702以及姿态数据获取模块703，其中：

三维图像获取模块701，用于获取与待定位二维图像对应的三维场景图像；

目标特征向量查找模块702，用于从三维场景图像中的各三维图像点的参考特征向量中，查找与待定位二维图像中的各二维图像点的待匹配特征向量，分别对应的目标特征向量；

姿态数据获取模块703，用于根据目标特征向量以及待匹配特征向量之间的对应关系，确定获取待定位二维图像时，图像采集设备的姿态数据；

其中，三维场景图像由根据点云数据的点云采集设备对应的点云三维坐标，以及目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，将目标二维图像中的二维图像点的特征向量，赋予点云数据中的三维图像点而得到。

本发明实施例提供了一种图像定位装置，该装置首先通过三维图像获取模块701获取与待定位二维图像对应的三维场景图像，然后通过目标特征向量查找模块702从三维场景图像中的各三维图像点的参考特征向量中，查找与待定位二维图像中的各二维图像点的待匹配特征向量，分别对应的目标特征向量，最后通过姿态数据获取模块703根据目标特征向量以及待匹配特征向量之间的对应关系，确定获取待定位二维图像时，图像采集设备的姿态数据；其中，三维场景图像由根据点云数据的点云采集设备对应的点云三维坐标，以及目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，将目标二维图像中的二维图像点的特征向量，赋予点云数据中的三维图像点而得到。

该装置解决了现有技术中通过SFM技术确定二维图像对应的拍摄设备姿态的计算方法较为繁琐、复杂且计算量较大的技术缺陷，实现了通过较小的计算量简便、快速地获取二维图像对应的拍摄设备姿态。

在上述各实施例的基础上，目标特征向量查找模块702可以包括：

向量距离计算单元，用于分别计算三维场景图像中的各三维图像点的参考特征向量，与待定位二维图像中的二维图像点的待匹配特征向量之间的向量距离；

目标特征向量确定单元，用于如果最小的向量距离与次小的向量距离之间满足设定距离匹配规则，则将最小的向量距离对应的参考特征向量，作为待匹配特征向量对应的目标特征向量。

在上述各实施例的基础上，设定距离匹配规则可以为：

最小的向量距离的平方，与次小的向量距离的平方的比值，小于设定比例阈值。

在上述各实施例的基础上，姿态数据获取模块703可以包括：

匹配关系确定单元，用于使用目标特征向量所属的三维图像点，以及该目标特征向量对应的待匹配特征向量所属的二维图像点，组成一组二维三维匹配关系；

姿态数据确定单元，用于根据各组二维三维匹配关系，确定获取待定位二维图像时，图像采集设备的姿态数据。

在上述各实施例的基础上，三维图像获取模块701，包括：

将所对应的GPS数据，与待定位二维图像对应的GPS数据，相匹配的三维场景图像，作为待定位二维图像对应的三维场景图像。

本发明实施例所提供的图像定位装置可执行本发明任意实施例所提供的图像定位方法，具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节，可参见本发明任意实施例提供的图像定位方法。

实施例八

图8为本发明实施例八提供的一种设备的结构示意图。图8示出了适于用来实现本发明实施方式的示例性设备12的框图。图8显示的设备12仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图8所示，设备12以通用计算设备的形式表现。设备12的组件可以包括但不限于：一个或者多个处理器或者处理单元16，系统存储器28，连接不同系统组件(包括系统存储器28和处理单元16)的总线18。

总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线，微通道体系结构(MAC)总线，增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。

设备12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被设备12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。

系统存储器28可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(RAM)30和/或高速缓存存储器32。设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统34可以用于读写不可移动的、非易失性磁介质(图8未显示，通常称为“硬盘驱动器”)。尽管图8中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。系统存储器28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。

具有一组(至少一个)程序模块42的程序/实用工具40，可以存储在例如系统存储器28中，这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。

设备12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信，还可与一个或者多个使得用户能与该设备12交互的设备通信，和/或与使得该设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且，设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器20通过总线18与设备12的其它模块通信。应当明白，尽管图中未示出，可以结合设备12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

处理单元16通过运行存储在系统存储器28中的程序，从而执行各种功能应用以及数据处理，例如实现本发明实施例所提供的三维图像的获取方法，也即：获取目标二维图像，以及所述目标二维图像对应的点云数据；根据所述点云数据的点云采集设备对应的点云三维坐标，以及所述目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，将所述目标二维图像中的二维图像点的特征向量，赋予所述点云数据中的三维图像点；根据所述点云数据中，具有特征向量的各所述三维图像点，得到所述目标二维图像对应的三维场景图像；

或图像定位方法，也即：

获取与待定位二维图像对应的三维场景图像；从所述三维场景图像中的各三维图像点的参考特征向量中，查找与所述待定位二维图像中的各二维图像点的待匹配特征向量，分别对应的目标特征向量；根据所述目标特征向量以及所述待匹配特征向量之间的对应关系，确定获取所述待定位二维图像时，图像采集设备的姿态数据；其中，所述三维场景图像由根据所述点云数据的点云采集设备对应的点云三维坐标，以及所述目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，将所述目标二维图像中的二维图像点的特征向量，赋予所述点云数据中的三维图像点而得到。

实施例九

本发明实施例九还提供了一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如本发明任意实施例所述的三维图像的获取方法，也即：获取目标二维图像，以及所述目标二维图像对应的点云数据；根据所述点云数据的点云采集设备对应的点云三维坐标，以及所述目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，将所述目标二维图像中的二维图像点的特征向量，赋予所述点云数据中的三维图像点；根据所述点云数据中，具有特征向量的各所述三维图像点，得到所述目标二维图像对应的三维场景图像；

或，图像定位方法，也即：

本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如”C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims

1.一种三维图像的获取方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，所述根据所述点云数据的点云采集设备对应的点云三维坐标，以及所述目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，将所述目标二维图像中的二维图像点的特征向量，赋予所述点云数据中的三维图像点，包括：

根据所述点云数据的点云采集设备对应的点云三维坐标，以及所述目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，得到所述点云数据中的各三维图像点分别对应的二维映射点的坐标；

将所述目标二维图像中，与所述二维映射点的坐标之间满足设定坐标匹配规则的二维图像点的特征向量，作为所述二维映射点对应的所述三维图像点的特征向量。

3.根据权利要求2所述的方法，其特征在于，所述根据所述点云数据的点云采集设备对应的点云三维坐标，以及所述目标二维图像的图像采集设备对应的图像二维坐标之间的坐标对应关系，得到所述点云数据中的各三维图像点分别对应的二维映射点的坐标，包括：

获取所述点云数据的点云采集设备对应的点云三维坐标，以及所述目标二维图像的图像采集设备对应的图像二维坐标之间的坐标转换矩阵；

根据所述坐标转换矩阵，与所述点云数据中的各三维图像点的坐标齐次向量的乘积，得到各所述三维图像点对应的二维映射点的坐标。

4.根据权利要求2或3所述的方法，其特征在于，所述将所述目标二维图像中，与所述二维映射点的坐标之间满足设定坐标匹配规则的二维图像点的特征向量，作为所述二维映射点对应的所述三维图像点的特征向量，包括：

根据所述目标二维图像中的各二维图像点的坐标，以及所述二维映射点的坐标，分别计算各所述二维图像点与所述二维映射点之间的图像点距离；

将小于设定距离阈值的图像点距离所对应的二维图像点，作为所述二维映射点的匹配二维图像点；

将所述匹配二维图像点的特征向量，作为所述二维映射点对应的所述三维图像点的特征向量。

5.一种图像定位方法，其特征在于，包括：

获取与待定位二维图像对应的三维场景图像；

6.根据权利要求5所述的方法，其特征在于，所述从所述三维场景图像中的各三维图像点的参考特征向量中，查找与所述待定位二维图像中的各二维图像点的待匹配特征向量，分别对应的目标特征向量，包括：

分别计算所述三维场景图像中的各三维图像点的参考特征向量，与所述待定位二维图像中的二维图像点的待匹配特征向量之间的向量距离；

如果最小的所述向量距离与次小的所述向量距离之间满足设定距离匹配规则，则将所述最小的所述向量距离对应的参考特征向量，作为所述待匹配特征向量对应的目标特征向量。

7.根据权利要求6所述的方法，其特征在于，所述设定距离匹配规则为：

所述最小的所述向量距离的平方，与所述次小的所述向量距离的平方的比值，小于设定比例阈值。

8.根据权利要求5所述的方法，其特征在于，所述根据所述目标特征向量以及所述待匹配特征向量之间的对应关系，确定获取所述待定位二维图像时，图像采集设备的姿态数据，包括：

使用所述目标特征向量所属的三维图像点，以及该目标特征向量对应的所述待匹配特征向量所属的二维图像点，组成一组二维三维匹配关系；

根据各组所述二维三维匹配关系，确定获取所述待定位二维图像时，图像采集设备的姿态数据。

9.根据权利要求5-8中任一项所述的方法，其特征在于，所述获取与待定位二维图像对应的三维场景图像，包括：

将所对应的GPS数据，与所述待定位二维图像对应的GPS数据，相匹配的三维场景图像，作为所述待定位二维图像对应的三维场景图像。

10.一种三维图像的获取装置，其特征在于，包括：

11.一种图像定位装置，其特征在于，包括：

12.一种设备，其特征在于，所述设备包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-4中任一所述的三维图像的获取方法，或如权利要求5-9中任一所述的图像定位方法。

13.一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-4中任一所述的三维图像的获取方法，或如权利要求5-9中任一所述的图像定位方法。