CN110263209B - 用于生成信息的方法和装置 - Google Patents

Abstract

本公开的实施例公开了用于生成信息的方法和装置。该方法的一具体实施方式包括：获取位置查询图像的全局特征和局部特征，其中，位置查询图像中显示有待查询区域的场景信息；基于与位置查询图像的全局特征之间的相似度和与位置查询图像的局部特征之间的相似度，从预设的图像数据库和点云数据库中确定出第一目标数目张待匹配图像和第二目标数目个待匹配点，其中，图像数据库中的图像显示有点云数据库中的点数据所指示的点；基于所确定的相似度确定第三目标数目个匹配点；根据第三目标数目个匹配点，生成拍摄位置查询图像的设备的位姿信息。该实施方式实现了图像检索与点云数据匹配方法的耦合，从而提升了生成位姿信息的鲁棒性和准确性。

Description

用于生成信息的方法和装置

技术领域

本公开的实施例涉及计算机技术领域，具体涉及用于生成信息的方法和装置。

背景技术

随着计算机技术的发展，利用计算机视觉技术来进行定位受到越来越多的关注。

相关的方式通常是首先利用二维图像搜索从地图中确定待匹配的图像子集，再从上述所确定的图像子集所对应的三维点云数据中进一步确定匹配的点云数据，从而获取位姿信息。

发明内容

本公开的实施例提出了用于生成信息的方法和装置。

第一方面，本公开的实施例提供了一种用于生成信息的方法，该方法包括：获取位置查询图像的全局特征和局部特征，其中，位置查询图像中显示有待查询区域的场景信息；基于与位置查询图像的全局特征之间的相似度，从预设的图像数据库中确定出第一目标数目张待匹配图像；基于与位置查询图像的局部特征之间的相似度，从预设的点云数据库中确定出第二目标数目个待匹配点，其中，图像数据库中的图像显示有点云数据库中的点数据所指示的点；基于与第一目标数目张待匹配图像对应的相似度和与第二目标数目个待匹配点对应的相似度，确定第三目标数目个匹配点；根据第三目标数目个匹配点，生成拍摄位置查询图像的设备的位姿信息。

在一些实施例中，上述基于与第一目标数目张待匹配图像对应的相似度和与第二目标数目个待匹配点对应的相似度，确定第三目标数目个匹配点，包括：构建概率图模型，其中，概率图模型包括节点和边，节点的初始值与节点所表征的待匹配图像对应的相似度呈正相关关系，边的初始值与节点所表征的待匹配图像对应的待匹配点对应的相似度呈正相关关系；利用随机游走算法确定各节点的稳定值；从大于预设阈值的稳定值对应的节点所表征的待匹配图像中确定出第三目标数目个匹配点。

在一些实施例中，上述概率图模型的边的初始值与节点所表征的待匹配图像对应的待匹配点对应的相似度和共视关系的链接数呈正相关关系。

在一些实施例中，上述基于与位置查询图像的全局特征之间的相似度，从预设的图像数据库中确定出第一目标数目张待匹配图像，包括：将图像数据库中的图像的全局特征划分为预设数目个子特征；建立与各子特征对应的二项树结构，其中，二项树结构用于表征图像数据库中的图像的子特征之间的关联关系；将位置查询图像的全局特征划分为预设数目个子特征；基于位置查询图像的子特征各自对应的二项树结构进行查询，确定位置查询图像与图像数据库中的图像之间的相似度；按照相似度从高至低的顺序选取第一目标数目个图像作为待匹配图像。

在一些实施例中，上述图像数据库和点云数据库通过如下步骤生成：获取已知图像集合，其中，已知图像中显示有待建图区域的场景信息，待建图区域包括待查询区域；提取已知图像集合中的各已知图像的全局特征和局部特征；基于已知图像集合中的各已知图像的全局特征构建索引；生成图像数据库；基于已知图像集合中的各已知图像的局部特征的匹配，生成点云数据库，其中，点云数据库中的点与图像的局部特征相对应。

第二方面，本公开的实施例提供了一种用于生成信息的装置，该装置包括：获取单元，被配置成获取位置查询图像的全局特征和局部特征，其中，位置查询图像中显示有待查询区域的场景信息；第一匹配单元，被配置成基于与位置查询图像的全局特征之间的相似度，从预设的图像数据库中确定出第一目标数目张待匹配图像；第二匹配单元，被配置成基于与位置查询图像的局部特征之间的相似度，从预设的点云数据库中确定出第二目标数目个待匹配点，其中，图像数据库中的图像显示有点云数据库中的点数据所指示的点；第三匹配单元，被配置成基于与第一目标数目张待匹配图像对应的相似度和与第二目标数目个待匹配点对应的相似度，确定第三目标数目个匹配点；生成单元，被配置成根据第三目标数目个匹配点，生成拍摄位置查询图像的设备的位姿信息。

在一些实施例中，上述第三匹配单元包括：构建模块，被配置成构建概率图模型，其中，概率图模型包括节点和边，节点的初始值与节点所表征的待匹配图像对应的相似度呈正相关关系，边的初始值与节点所表征的待匹配图像对应的待匹配点对应的相似度呈正相关关系；第一确定模块，被配置成利用随机游走算法确定各节点的稳定值；第一匹配模块，被配置成从大于预设阈值的稳定值对应的节点所表征的待匹配图像中确定出第三目标数目个匹配点。

在一些实施例中，上述概率图模型的边的初始值与节点所表征的待匹配图像对应的待匹配点对应的相似度和共视关系的链接数呈正相关关系。

在一些实施例中，上述第一匹配单元包括：第一划分模块，被配置成将图像数据库中的图像的全局特征划分为预设数目个子特征；建立模块，被配置成建立与各子特征对应的二项树结构，其中，二项树结构用于表征图像数据库中的图像的子特征之间的关联关系；第二划分模块，被配置成将位置查询图像的全局特征划分为预设数目个子特征；第二确定模块，被配置成基于位置查询图像的子特征各自对应的二项树结构进行查询，确定位置查询图像与图像数据库中的图像之间的相似度；第二匹配模块，被配置成按照相似度从高至低的顺序选取第一目标数目个图像作为待匹配图像。

在一些实施例中，上述图像数据库和点云数据库通过如下步骤生成：获取已知图像集合，其中，已知图像中显示有待建图区域的场景信息，待建图区域包括待查询区域；提取已知图像集合中的各已知图像的全局特征和局部特征；基于已知图像集合中的各已知图像的全局特征构建索引；生成图像数据库；基于已知图像集合中的各已知图像的局部特征的匹配，生成点云数据库，其中，点云数据库中的点与图像的局部特征相对应。

第三方面，本公开的实施例提供了一种电子设备，该电子设备包括：一个或多个处理器；存储装置，其上存储有一个或多个程序；当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。

第四方面，本公开的实施例提供了一种计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如第一方面中任一实现方式描述的方法。

本公开的实施例提供的用于生成信息的方法和装置，首先获取位置查询图像的全局特征和局部特征，其中，位置查询图像中显示有待查询区域的场景信息；之后，基于与位置查询图像的全局特征之间的相似度，从预设的图像数据库中确定出第一目标数目张待匹配图像；而后，基于与位置查询图像的局部特征之间的相似度，从预设的点云数据库中确定出第二目标数目个待匹配点，其中，图像数据库中的图像显示有点云数据库中的点数据所指示的点；接下来，基于与第一目标数目张待匹配图像对应的相似度和与第二目标数目个待匹配点对应的相似度，确定第三目标数目个匹配点；最后，根据第三目标数目个匹配点，生成拍摄位置查询图像的设备的位姿信息。实现了图像检索与点云数据匹配方法的耦合，从而提升了生成位姿信息的鲁棒性和准确性。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本公开的其它特征、目的和优点将会变得更明显：

图1是本公开的一个实施例可以应用于其中的示例性系统架构图；

图2是根据本公开的用于生成信息的方法的一个实施例的流程图；

图3是根据本公开的实施例的用于生成信息的方法的一个应用场景的示意图；

图4是根据本公开的用于生成信息的方法的又一个实施例的流程图；

图5是根据本公开的用于生成信息的装置的一个实施例的结构示意图；

图6是适于用来实现本公开的实施例的电子设备的结构示意图。

具体实施方式

下面结合附图和实施例对本公开作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。

图1示出了可以应用本公开的用于生成信息的方法或用于生成信息的装置的示例性架构100。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如搜索类应用、即时通信工具、邮箱客户端、社交平台软件、地图类应用等。

终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是具有显示屏并且支持图像传输的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。

服务器105可以是提供各种服务的服务器，例如为终端设备101、102、103显示的位姿信息提供支持的后台服务器。后台服务器可以对接收到的位置查询图像进行分析处理并生成处理结果(如拍摄位置查询图像的设备的位姿信息)，还可以将上述处理结果反馈给终端设备。

需要说明的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。

需要说明的是，本公开的实施例所提供的用于生成信息的方法一般由服务器105执行，相应地，用于生成信息的装置一般设置于服务器105中。

终端设备101、102、103也可用于执行该用于生成信息的方法。终端设备101、102、103可以直接获取位置查询图像的局部特征和全局特征并进行处理，此时，可以不存在网络104和服务器105。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

继续参考图2，示出了根据本公开的用于生成信息的方法的一个实施例的流程200。该用于生成信息的方法包括以下步骤：

步骤201，获取位置查询图像的全局特征和局部特征。

在本实施例中，用于生成信息的方法的执行主体(如图1所示的服务器105)可以通过各种方式获取位置查询图像的全局特征和局部特征。作为示例，上述执行主体可以通过有线连接方式或者无线连接方式从电子设备获取上述位置查询图像的全局特征和局部特征。作为又一示例，上述执行主体还可以首先获取位置查询图像。其中，上述位置查询图像中可以显示有待查询区域的场景信息。上述场景信息可以包括能够表征位置的信息。例如，上述场景信息可以是街景图像。再例如，上述场景信息可以是机场候机大厅的图像。之后，上述执行主体可以从上述位置查询图像中提取全局特征和局部特征。其中，上述全局特征可以包括但不限于以下至少一项：颜色特征(例如方向梯度直方图等)，纹理特征，形状特征。上述局部特征可以包括但不限于以下至少一项：SIFT(Scale Invariant FeatureTransform，尺度不变特征变换)，SURF(Speeded Up Robust Features，加速稳健特征)，FREAK(Fast Retina KeyPoint，快速视网膜关键点)。

步骤202，基于与位置查询图像的全局特征之间的相似度，从预设的图像数据库中确定出第一目标数目张待匹配图像。

在本实施例中，基于与位置查询图像的全局特征之间的相似度，上述执行主体可以通过各种方式从预设的图像数据库中确定出第一目标数目张待匹配图像。其中，预设的图像数据库可以预先存储于上述执行主体，也可以由上述执行主体从通信连接的数据库服务器获取。上述第一目标数目可以是预设数目，也可以是根据规则而定的数目(例如相似度超过预设相似度阈值的图像的数目)。

在本实施例中，上述预设的图像数据库可以中可以存储有图像与从该图像中提取的全局特征之间的对应关系。基于图像的全局特征，可以构建上述图像数据库的索引。上述执行主体可以确定步骤201所获取的位置查询图像的全局特征与图像数据库中的图像的全局特征之间的相似度。其中，上述相似度可以包括但不限于以下至少一项：SSIM(structural similarity index，结构相似性指数)，余弦相似度，汉明距离，欧式距离。然后，上述执行主体可以按照相似度由高至低(即距离由低至高)的顺序确定出上述第一目标数目张图像作为待匹配图像。

在本实施例的一些可选的实现方式中，上述执行主体还可以按照如下步骤从预设的图像数据库中确定出第一目标数目张待匹配图像：

第一步，将图像数据库中的图像的全局特征划分为预设数目个子特征。

在这些实现方式中，上述图像的全局特征通常是一个高维度(例如128维)的向量。上述执行主体可以将全局特征划分为预设数目个子特征。上述预设数目可以预先设定，例如2。通常，上述执行主体可以根据上述全局特征的维度平均分成预设数目个子特征。例如从128维的全局特征向量划分为2个64维的子特征。

第二步，建立与各子特征对应的二项树结构。

在这些实现方式中，上述执行主体可以建立与上述第一步所划分的预设数目个子特征对应的二项树结构。其中，上述二项树结构可以用于表征上述图像数据库中的图像的子特征之间的关联关系。上述二项树结构例如可以是Kd树(K-dimension tree)。

第三步，将位置查询图像的全局特征划分为预设数目个子特征。

在这些实现方式中，上述执行主体可以按照与图像数据库中的全局特征划分一致的方法将步骤201所获取的位置查询图像的全局特征划分为预设数目个子特征。

第四步，基于位置查询图像的子特征各自对应的二项树结构进行查询，确定位置查询图像与图像数据库中的图像之间的相似度。

在这些实现方式中，上述执行主体可以将划分后的位置查询图像的子特征在其对应的二项树结构中进行查询，从而确定位置查询图像与图像数据库中的图像之间的相似度。其中，上述相似度与前述的描述一致，此处不再赘述。

第五步，按照相似度从高至低的顺序选取第一目标数目个图像作为待匹配图像。

在这些实现方式中，上述执行主体可以按照相似度从高至低(即距离从低至高)的顺序选取第一目标数目个图像作为待匹配图像。

基于上述可选的实现方式，通过将全局特征划分为若干个子部分，降低了搜索的时间复杂度，从而加快了图像的匹配速度。

在本实施例的一些可选的实现方式中，上述图像数据库可以通过如下步骤生成：

第一步，获取已知图像集合。

在这些实现方式中，用于生成图像数据库的执行主体可以首先获取已知图像集合。其中，上述已知图像中可以显示有待建图区域的场景信息。上述待建图区域可以包括上述待查询区域。实践中，上述已知图像通常可以通过地图采集设备获取。从而，上述执行主体可以通过上述地图采集设备获取已知图像集合。

第二步，提取已知图像集合中的各已知图像的全局特征。

在这些实现方式中，上述执行主体可以提取上述第一步所获取的图像集合中的各已知图像的全局特征。其中，上述全局特征的描述与前述一致，此处不再赘述。

第三步，基于已知图像集合中的各已知图像的全局特征构建索引。

第四步，生成图像数据库。

在这些实现方式中，上述执行主体可以根据各已知图像，利用各种建图方法，生成具有上述索引的图像数据库。其中，上述建图方法可以包括但不限于以下至少一项：SFM(Structure from Motion，运动恢复结构)，SLAM(Simultaneous localization andmapping，同步定位与地图构建)。

需要说明的是，上述用于生成图像数据库的执行主体可以与上述执行用于生成信息的方法的执行主体相同或者不同。如果不同，上述执行用于生成信息的方法的执行主体可以从上述用于生成图像数据库的执行主体获取上述图像数据库。

步骤203，基于与位置查询图像的局部特征之间的相似度，从预设的点云数据库中确定出第二目标数目个待匹配点。

在本实施例中，基于与位置查询图像的局部特征之间的相似度，上述执行主体可以利用各种2D-3D匹配的方法从预设的点云数据库中确定出第二目标数目个待匹配点。其中，上述图像数据库中的图像可以显示有上述点云数据库中的点数据所指示的点。具体地，上述图像数据库中的图像特征所指示的特征点可以与上述点云数据库中相应的点数据所指示的特征点一致。其中，点云数据可以指在一个三维坐标系统中的一组向量的集合。上述向量通常可以用三维坐标的形式表示。上述点云数据通常用于表征物体的外表面形状。可选地，上述向量中还可以包括用于表征点的RGB颜色、灰度值、深度、分割结果等信息的元素。上述点云数据可以由3D扫描设备产生。上述3D扫描设备例如可以包括激光雷达(2D/3D)，立体摄像头(stereo camera)，越渡时间相机(time-of-flight camera)等。

在本实施例中，上述点云数据库中可以包括点数据与生成该点数据的图像的局部特征之间的对应关系。作为示例，上述执行主体可以根据步骤201所获取的位置查询图像的局部特征确定与上述点云数据库中的点数据对应的局部特征之间的相似度。从而，上述执行主体可以按照相似度从高至低(即距离从低至高)的顺序选取第二目标数目个待匹配点。其中，上述待匹配点为上述点云数据库中的点数据所指示的点。

在本实施例的一些可选的实现方式中，基于上述图像数据库的生成方式，上述点云数据库可以通过如下步骤生成：

第一步，提取已知图像集合中的各已知图像的局部特征。

在这些实现方式中，上述执行主体可以提取上述第一步所获取的图像集合中的各已知图像的局部特征。其中，上述局部特征的描述与前述一致，此处不再赘述。

第二步，基于已知图像集合中的各已知图像的局部特征的匹配，生成点云数据库。

在这些实现方式中，上述执行主体可以根据已知图像集合中的各已知图像的局部特征的匹配，利用各种建图方法，生成上述点云数据库。其中，上述点云数据库中的点可以与图像的局部特征相对应。上述建图方法可以包括但不限于以下至少一项：SFM，SLAM。

作为示例，首先，上述主体可以将上述图像集合中的每张图像与图像集合中的其他图像的局部特征进行共视关系的匹配，根据对应的匹配点得到图像序列。然后，上述执行主体可以对所确定的各匹配点进行三角化，从而得到对应的点数据。其中，上述点数据中包括用于表征点所在的三维位置的信息。而后，上述执行主体还可以利用BA(BundleAdjustment，光束法平差)模型进行优化，从而生成上述点云数据库。

步骤204，基于与第一目标数目张待匹配图像对应的相似度和与第二目标数目个待匹配点对应的相似度，确定第三目标数目个匹配点。

在本实施例中，基于与第一目标数目张待匹配图像对应的相似度和与第二目标数目个待匹配点对应的相似度，上述执行主体可以通过各种方式确定第三目标数目个匹配点。作为示例，上述执行主体可以为上述所确定的待匹配图像对应的相似度和待匹配点对应的相似度分配预设的权重，从而将加权后的值确定为综合相似度。作为又一示例，上述执行主体还可以将所确定的待匹配图像对应的相似度和待匹配点对应的相似度相乘，将乘积确定为综合相似度。然后，上述执行主体可以按照综合相似度从高至低的顺序选取第三目标数目个综合相似度对应的待匹配点作为匹配点。

步骤205，根据第三目标数目个匹配点，生成拍摄位置查询图像的设备的位姿信息。

在本实施例中，上述执行主体可以根据步骤204所确定的第三目标数目个匹配点，通过各种方式生成拍摄位置查询图像的设备的位姿信息。其中，上述位姿信息通常可以包括6-DOF(degree of freedom，自由度)所对应的值。通常，上述第三目标数目为大于3的数值。作为示例，上述执行主体可以利用各种求解PnP(Perspective n Points)问题的方法来生成拍摄位置查询图像的设备的位姿信息。上述方法可以包括但不限于以下至少一项：RANSAC(random sample consensus，随机抽样一致)，ICP(iterative closest points，迭代最近邻点)，DLT(direct linear transformation，直接线性变换)。

在本实施例的一些可选的实现方式中，上述执行主体还可以将步骤205所生成的位姿信息发送至目标设备。其中，上述目标设备例如可以是拍摄上述位置查询图像的设备，从而实现了上述设备自身的定位。上述目标设备例如还可以是移动机器人，从而上述移动机器人可以进一步通过路径规划移动至上述位姿信息所指示的位置，进而实现相应的功能(例如配送物品、清洁等)。

继续参见图3，图3是根据本公开的实施例的用于生成信息的方法的应用场景的一个示意图。在图3的应用场景中，用户301使用手机302向所面对的方向拍摄一张街景图片305并上传。服务器303接收到街景图片305。服务器303对街景图片305进行特征提取，生成全局特征3061和局部特征3062。之后，基于与全局特征3061之间的相似度，从预设的图像数据库中确定出10张待匹配图像3071。而后，基于与局部特征3062之间的相似度，从预设的点云数据库中确定出200个待匹配点3072。接下来，对于每个待匹配点，可以将待匹配点对应的相似度乘以预设权重0.7；将显示有该匹配点的待匹配图像对应的相似度(如果有多张图像可以取平均值)乘以预设权重0.3；再将上述乘积相加后的值确定为综合相似度。而后，根据综合相似度从高至低的顺序选取30个匹配点308。最后，利用ransac算法求解手机302的位姿信息309。可选地，上述服务器303还可以将上述位姿信息309发送至自动配送小车304。从而，上述自动配送小车304可以根据所获取的位姿信息309将待配送物品送达用户301。可选地，用户301也可以通过手机302直接将街景图片305发送至配送小车304。从而，可以由配送小车304执行上述用于生成信息的方法。

目前，现有技术之一通常是通过图像的二维特征从待匹配图像中进行搜索，从而确定利用2D-3D点云匹配方法进行匹配的图像子集。但这种方式往往导致最终的匹配结果强依赖于第一步图像搜索所匹配出的结果的质量。如果第一步图像搜索所确定的图像子集中不包括正确的结果，后续的2D-3D点云匹配方法将无法对结果进行校正。而本公开的上述实施例提供的方法，通过对单独采用图像搜索与三维点云匹配的方法所得到的匹配结果进行融合，实现了生成拍摄位置查询图像的设备的位姿信息。从而可以发挥各自匹配方法的优点，在充分发挥图像检索方法对光照、天气、季节等的鲁棒性的基础上也能够保证点云匹配方法的准确性。

进一步参考图4，其示出了用于生成信息的方法的又一个实施例的流程400。该用于生成信息的方法的流程400，包括以下步骤：

步骤401，获取位置查询图像的全局特征和局部特征。

步骤402，基于与位置查询图像的全局特征之间的相似度，从预设的图像数据库中确定出第一目标数目张待匹配图像。

步骤403，基于与位置查询图像的局部特征之间的相似度，从预设的点云数据库中确定出第二目标数目个待匹配点。

步骤404，构建概率图模型。

在本实施例中，用于生成信息的方法的执行主体(例如图1所示的服务器105)可以基于步骤402和步骤403所确定的相似度，构建概率图模型。其中，上述概率图模型可以包括节点和边。上述节点的初始值可以与节点所表征的待匹配图像对应的相似度呈正相关关系。例如，上述节点的初始值可以是该节点所表征的待匹配图像的全局特征与位置查询图像的全局特征之间的相似度。上述边的初始值可以与节点所表征的待匹配图像对应的待匹配点对应的相似度呈正相关关系。需要说明的是，由于点云数据中的点可以与图像数据库中具有共视关系的图像对应，因此待匹配点也可以显示在待匹配图像中。可选地，待匹配图像中可以显示有多个待匹配点。

在本实施例的一些可选的实现方式中，上述概率图模型的边的初始值与节点所表征的待匹配图像对应的待匹配点对应的相似度和共视关系的链接数呈正相关关系。

在这些实现方式中，上述概率图模型的边的初始值可以与节点所表征的待匹配图像对应的待匹配点对应的相似度和共视关系的链接数呈正相关关系。其中，上述共视关系可以用于表征同一个特征点在不同的图像之间均有显示。上述共视关系的链接数可以用于指示待匹配点属于离群值的概率。上述正相关关系可以根据实际应用需求而预先设定。例如可以将上述相似度和共视关系的连接数进行相乘，也可以在归一化后进行加权。可选地，由于共视关系中可能存在断链，上述执行主体也可以只选用连通区域最大的图作为上述概率图模型。

基于上述可选的实现方式，可以实现对一部分离群值(outlier)的删除，从而提高匹配的准确度。

步骤405，利用随机游走算法确定各节点的稳定值。

在本实施例中，上述执行主体可以利用随机游走(random walk)算法确定各节点的稳定值。其中，上述稳定值可以用于指示节点所表征的待匹配图像与位置查询图像的相似程度。

步骤406，从大于预设阈值的稳定值对应的节点所表征的待匹配图像中确定出第三目标数目个匹配点。

在本实施例中，上述执行主体可以首先选取大于预设阈值的稳定值对应的节点所表征的待匹配图像。然后，上述执行主体可以按照相似度由高至低(距离由低至高)的顺序从所选取的待匹配图像中再确定出第三目标数目个匹配点。

步骤407，根据第三目标数目个匹配点，生成拍摄位置查询图像的设备的位姿信息。

上述步骤401、步骤402、步骤403和步骤407分别与前述实施例中的步骤201、步骤202、步骤203和步骤205一致，上文针对步骤201、步骤202、步骤203和步骤205的描述也适用于步骤401、步骤402、步骤403和步骤407，此处不再赘述。

从图4中可以看出，本实施例中的用于生成信息的方法的流程400体现了构建概率图模型从待匹配图像中确定出第三目标数目个匹配点的步骤。由此，本实施例描述的方案可以利用图像检索所得到的相似度和点云匹配所得到的相似度构建概率图模型，从而实现了对不同方法计算的结果进行融合，进而可以有效地发挥各自算法的优势，以生成更准确的位姿信息。

进一步参考图5，作为对上述各图所示方法的实现，本公开提供了用于生成信息的装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图5所示，本实施例提供的用于生成信息的装置500包括获取单元501、第一匹配单元502、第二匹配单元503、第三匹配单元和生成单元505。其中，获取单元501，被配置成获取位置查询图像的全局特征和局部特征，其中，位置查询图像中显示有待查询区域的场景信息；第一匹配单元502，被配置成基于与位置查询图像的全局特征之间的相似度，从预设的图像数据库中确定出第一目标数目张待匹配图像；第二匹配单元503，被配置成基于与位置查询图像的局部特征之间的相似度，从预设的点云数据库中确定出第二目标数目个待匹配点，其中，图像数据库中的图像显示有点云数据库中的点数据所指示的点；第三匹配单元504，被配置成基于与第一目标数目张待匹配图像对应的相似度和与第二目标数目个待匹配点对应的相似度，确定第三目标数目个匹配点；生成单元，被配置成根据第三目标数目个匹配点，生成拍摄位置查询图像的设备的位姿信息。

在本实施例中，用于生成信息的装置500中：获取单元501、第一匹配单元502、第二匹配单元503、第三匹配单元和生成单元505的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201、步骤202、步骤203、步骤204和步骤205的相关说明，在此不再赘述。

在本实施例的一些可选的实现方式中，上述第三匹配单元504可以包括：构建模块(图中未示出)、第一确定模块(图中未示出)、第一匹配模块(图中未示出)。其中，上述构建模块可以被配置成构建概率图模型。上述概率图模型可以包括节点和边。上述节点的初始值可以与节点所表征的待匹配图像对应的相似度呈正相关关系。上述边的初始值可以与节点所表征的待匹配图像对应的待匹配点对应的相似度呈正相关关系。上述第一确定模块可以被配置成利用随机游走算法确定各节点的稳定值。上述第一匹配模块可以被配置成从大于预设阈值的稳定值对应的节点所表征的待匹配图像中确定出第三目标数目个匹配点。

在本实施例的一些可选的实现方式中，上述概率图模型的边的初始值可以与节点所表征的待匹配图像对应的待匹配点对应的相似度和共视关系的链接数呈正相关关系。

在本实施例的一些可选的实现方式中，上述第一匹配单元502可以包括：第一划分模块(图中未示出)、建立模块(图中未示出)、第二划分模块(图中未示出)、第二确定模块(图中未示出)、第二匹配模块(图中未示出)。其中，上述第一划分模块可以被配置成将图像数据库中的图像的全局特征划分为预设数目个子特征。上述建立模块可以被配置成建立与各子特征对应的二项树结构。上述二项树结构可以用于表征图像数据库中的图像的子特征之间的关联关系。上述第二划分模块可以被配置成将位置查询图像的全局特征划分为预设数目个子特征。上述第二确定模块可以被配置成基于位置查询图像的子特征各自对应的二项树结构进行查询，确定位置查询图像与图像数据库中的图像之间的相似度。上述第二匹配模块可以被配置成按照相似度从高至低的顺序选取第一目标数目个图像作为待匹配图像。

在本实施例的一些可选的实现方式中，上述图像数据库和点云数据库可以通过如下步骤生成：第一步，获取已知图像集合。其中，上述已知图像中可以显示有待建图区域的场景信息。上述待建图区域可以包括待查询区域。第二步，提取已知图像集合中的各已知图像的全局特征和局部特征。第三步，基于已知图像集合中的各已知图像的全局特征构建索引。第四步，生成图像数据库。第五步，基于已知图像集合中的各已知图像的局部特征的匹配，生成点云数据库。其中，上述点云数据库中的点可以与图像的局部特征相对应。

本公开的上述实施例提供的装置，首先通过获取单元501获取位置查询图像的全局特征和局部特征。其中，上述位置查询图像中显示有待查询区域的场景信息。然后，基于与位置查询图像的全局特征之间的相似度，第一匹配单元502从预设的图像数据库中确定出第一目标数目张待匹配图像。接下来，基于与位置查询图像的局部特征之间的相似度，第二匹配单元503从预设的点云数据库中确定出第二目标数目个待匹配点。其中，上述图像数据库中的图像显示有点云数据库中的点数据所指示的点。而后，基于与第一目标数目张待匹配图像对应的相似度和与第二目标数目个待匹配点对应的相似度，第三匹配单元504确定第三目标数目个匹配点。最后，根据第三目标数目个匹配点，生成单元505生成拍摄位置查询图像的设备的位姿信息。从而实现了图像检索与点云数据匹配方法的耦合，从而提升了生成位姿信息的鲁棒性和准确性。

下面参考图6，其示出了适于用来实现本公开的实施例的电子设备(例如图1中的服务器)600的结构示意图。本公开的实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、PAD(平板电脑)、车载终端(例如车载导航终端)、移动机器人等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图6示出的服务器仅仅是一个示例，不应对本公开的实施例的功能和使用范围带来任何限制。

如图6所示，电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

通常，以下装置可以连接至I/O接口605：包括例如触摸屏、触摸板、键盘、鼠标、摄像头等的输入装置606；包括例如液晶显示器(LCD，Liquid Crystal Display)、扬声器、振动器等的输出装置607；包括例如磁带、硬盘等的存储装置608；以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图6中示出的每个方框可以代表一个装置，也可以根据需要代表多个装置。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置609从网络上被下载和安装，或者从存储装置608被安装，或者从ROM 602被安装。在该计算机程序被处理装置601执行时，执行本公开的实施例的方法中限定的上述功能。

需要说明的是，本公开的实施例所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的实施例中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的实施例中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(Radio Frequency，射频)等等，或者上述的任意合适的组合。

上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取位置查询图像的全局特征和局部特征，其中，位置查询图像中显示有待查询区域的场景信息；基于与位置查询图像的全局特征之间的相似度，从预设的图像数据库中确定出第一目标数目张待匹配图像；基于与位置查询图像的局部特征之间的相似度，从预设的点云数据库中确定出第二目标数目个待匹配点，其中，图像数据库中的图像显示有点云数据库中的点数据所指示的点；基于与第一目标数目张待匹配图像对应的相似度和与第二目标数目个待匹配点对应的相似度，确定第三目标数目个匹配点；根据第三目标数目个匹配点，生成拍摄位置查询图像的设备的位姿信息。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的实施例的操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开的各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开的实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器，包括获取单元、第一匹配单元、第二匹配单元、第三匹配单元、生成单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，获取单元还可以被描述为“获取位置查询图像的全局特征和局部特征的单元，其中，位置查询图像中显示有待查询区域的场景信息”。

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开的实施例中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (12)

1.一种用于生成信息的方法，包括：

获取位置查询图像的全局特征和局部特征，其中，所述位置查询图像中显示有待查询区域的场景信息；

基于与所述位置查询图像的全局特征之间的相似度，从预设的图像数据库中确定出第一目标数目张待匹配图像；

基于与所述位置查询图像的局部特征之间的相似度，从预设的点云数据库中确定出第二目标数目个待匹配点，其中，所述图像数据库中的图像显示有所述点云数据库中的点数据所指示的点；

基于与所述第一目标数目张待匹配图像对应的相似度和与所述第二目标数目个待匹配点对应的相似度，确定第三目标数目个匹配点，其中，所述第一目标数目张待匹配图像对应的相似度包括显示有所述第二目标数目个待匹配点中的待匹配点的待匹配图像对应的相似度；

根据所述第三目标数目个匹配点，生成拍摄所述位置查询图像的设备的位姿信息。

2.根据权利要求1所述的方法，其中，所述基于与所述第一目标数目张待匹配图像对应的相似度和与所述第二目标数目个待匹配点对应的相似度，确定第三目标数目个匹配点，包括：

构建概率图模型，其中，所述概率图模型包括节点和边，节点的初始值与节点所表征的待匹配图像对应的相似度呈正相关关系，边的初始值与节点所表征的待匹配图像对应的待匹配点对应的相似度呈正相关关系；

利用随机游走算法确定各节点的稳定值；

从大于预设阈值的稳定值对应的节点所表征的待匹配图像中确定出第三目标数目个匹配点。

3.根据权利要求2所述的方法，其中，所述概率图模型的边的初始值与节点所表征的待匹配图像对应的待匹配点对应的相似度和共视关系的链接数呈正相关关系。

4.根据权利要求1所述的方法，其中，所述基于与所述位置查询图像的全局特征之间的相似度，从预设的图像数据库中确定出第一目标数目张待匹配图像，包括：

将所述图像数据库中的图像的全局特征划分为预设数目个子特征；

建立与各子特征对应的二项树结构，其中，二项树结构用于表征所述图像数据库中的图像的子特征之间的关联关系；

将所述位置查询图像的全局特征划分为所述预设数目个子特征；

基于所述位置查询图像的子特征各自对应的二项树结构进行查询，确定所述位置查询图像与所述图像数据库中的图像之间的相似度；

按照相似度从高至低的顺序选取第一目标数目个图像作为待匹配图像。

5.根据权利要求1-4之一所述的方法，其中，所述图像数据库和所述点云数据库通过如下步骤生成：

获取已知图像集合，其中，已知图像中显示有待建图区域的场景信息，所述待建图区域包括所述待查询区域；

提取所述已知图像集合中的各已知图像的全局特征和局部特征；

基于所述已知图像集合中的各已知图像的全局特征构建索引；

生成所述图像数据库；

基于所述已知图像集合中的各已知图像的局部特征的匹配，生成所述点云数据库，其中，所述点云数据库中的点与图像的局部特征相对应。

6.一种用于生成信息的装置，包括：

获取单元，被配置成获取位置查询图像的全局特征和局部特征，其中，所述位置查询图像中显示有待查询区域的场景信息；

第一匹配单元，被配置成基于与所述位置查询图像的全局特征之间的相似度，从预设的图像数据库中确定出第一目标数目张待匹配图像；

第二匹配单元，被配置成基于与所述位置查询图像的局部特征之间的相似度，从预设的点云数据库中确定出第二目标数目个待匹配点，其中，所述图像数据库中的图像显示有所述点云数据库中的点数据所指示的点；

第三匹配单元，被配置成基于与所述第一目标数目张待匹配图像对应的相似度和与所述第二目标数目个待匹配点对应的相似度，确定第三目标数目个匹配点，其中，所述第一目标数目张待匹配图像对应的相似度包括显示有所述第二目标数目个待匹配点中的待匹配点的待匹配图像对应的相似度；

生成单元，被配置成根据所述第三目标数目个匹配点，生成拍摄所述位置查询图像的设备的位姿信息。

7.根据权利要求6所述的装置，其中，所述第三匹配单元包括：

构建模块，被配置成构建概率图模型，其中，所述概率图模型包括节点和边，节点的初始值与节点所表征的待匹配图像对应的相似度呈正相关关系，边的初始值与节点所表征的待匹配图像对应的待匹配点对应的相似度呈正相关关系；

第一确定模块，被配置成利用随机游走算法确定各节点的稳定值；

第一匹配模块，被配置成从大于预设阈值的稳定值对应的节点所表征的待匹配图像中确定出第三目标数目个匹配点。

8.根据权利要求7所述的装置，其中，所述概率图模型的边的初始值与节点所表征的待匹配图像对应的待匹配点对应的相似度和共视关系的链接数呈正相关关系。

9.根据权利要求6所述的装置，其中，所述第一匹配单元包括：

第一划分模块，被配置成将所述图像数据库中的图像的全局特征划分为预设数目个子特征；

建立模块，被配置成建立与各子特征对应的二项树结构，其中，二项树结构用于表征所述图像数据库中的图像的子特征之间的关联关系；

第二划分模块，被配置成将所述位置查询图像的全局特征划分为所述预设数目个子特征；

第二确定模块，被配置成基于所述位置查询图像的子特征各自对应的二项树结构进行查询，确定所述位置查询图像与所述图像数据库中的图像之间的相似度；

第二匹配模块，被配置成按照相似度从高至低的顺序选取第一目标数目个图像作为待匹配图像。

10.根据权利要求6-9之一所述的装置，其中，所述图像数据库和所述点云数据库通过如下步骤生成：

获取已知图像集合，其中，已知图像中显示有待建图区域的场景信息，所述待建图区域包括所述待查询区域；

提取所述已知图像集合中的各已知图像的全局特征和局部特征；

基于所述已知图像集合中的各已知图像的全局特征构建索引；

生成所述图像数据库；

基于所述已知图像集合中的各已知图像的局部特征的匹配，生成所述点云数据库，其中，所述点云数据库中的点与图像的局部特征相对应。

11.一种电子设备，包括：

一个或多个处理器；

存储装置，其上存储有一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-5中任一所述的方法。

12.一种计算机可读介质，其上存储有计算机程序，其中，该程序被处理器执行时实现如权利要求1-5中任一所述的方法。

Images