CN117788710A - 基于鱼眼图的三维空间融合方法、装置、电子设备和介质 - Google Patents

Abstract

本公开实施例公开了一种基于鱼眼图的三维空间融合方法、装置、电子设备和介质，其中，方法包括：获得预设空间的鱼眼图；对所述鱼眼图进行处理，得到模拟全景图；基于所述模拟全景图得到所述预设空间对应的三维空间模型；利用所述模拟全景图对所述三维空间模型进行贴图，得到所述预设空间对应的三维融合模型。本公开实施例将鱼眼图模拟表达为模拟全景图，再基于模拟全景图得到三维融合模型，该方案相对于现有技术，无需计算相机内外参和寻找图像坐标系与物理坐标系的对应关系，利用鱼眼图得到三维融合模型，简化了三维融合技术需要的信息，实现了简洁的三维空间融合。

Description

基于鱼眼图的三维空间融合方法、装置、电子设备和介质

技术领域

本公开涉及三维融合技术，尤其是一种基于鱼眼图的三维空间融合方法、装置、电子设备和介质。

背景技术

随着科学技术的发展，三维的呈现方式在装修设计等领域扮演着非常重要的角色。三维融合技术是将二维的图片以3D的形式展现出来，还原真实的物理场景。例如，对于户型图的三维融合，传统的方法是基于户型的建筑信息模型(bim_json)文件，建筑信息模型文件中包含户型全部信息，如分间名，墙，门，窗等关键元素的位置。通过一系列算法确定关键点的三维空间坐标，如墙角点，门点等。同样地，在二维图像上确定对应关键点的坐标，确定一组<3D,2D>点对，基于多组<3D,2D>点对求解相机外参，基于相机外参实现2D图像到3D空间的映射。传统方案需要知道房间的结构信息，且实现三维融合的过程复杂。

发明内容

为了解决上述技术问题，提出了本公开。本公开的实施例提供了一种基于鱼眼图的三维空间融合方法、装置、电子设备和介质。

根据本公开实施例的一个方面，提供了一种基于鱼眼图的三维空间融合方法，包括：

获得预设空间的鱼眼图；

对所述鱼眼图进行处理，得到模拟全景图；

基于所述模拟全景图得到所述预设空间对应的三维空间模型；以及

利用所述模拟全景图对所述三维空间模型进行贴图，得到所述预设空间对应的三维融合模型。

可选地，所述鱼眼图为通过鱼眼相机在所述预设空间中的预设位置采集获得；所述对所述鱼眼图进行处理，得到模拟全景图，包括：

对所述鱼眼图进行展开，得到鱼眼展开图；

对所述鱼眼展开图进行上下方向的镜像翻转，得到翻转展开图；

将所述鱼眼展开图和所述翻转展开图沿镜像翻转线进行拼接，得到所述模拟全景图。

可选地，所述对所述鱼眼图进行展开，得到鱼眼展开图，包括：

对所述鱼眼图进行检测，确定所述鱼眼图的圆心；

基于所述圆心对所述鱼眼图进行展开处理，得到所述鱼眼展开图。

可选地，所述基于所述圆心对应所述鱼眼图进行展开处理，得到所述鱼眼展开图，包括：

确定所述鱼眼图的外接四边形，得到鱼眼正方形；

基于所述圆心为底边，以所述鱼眼正方形的边长确定半径，基于所述底边和半径对所述鱼眼图进行展开，得到所述鱼眼展开图。

可选地，所述基于所述模拟全景图得到所述预设空间对应的三维空间模型，包括：

通过预设网络模型对所述模拟全景图进行处理，确定所述模拟全景图中的多个区域连接线；其中，每个所述区域连接线用于连接两个不同平面；

基于所述多个区域连接线确定所述三维空间模型的形状，得到所述预设空间对应的三维空间模型。

可选地，所述区域连接线包括以下至少之一：墙地线、墙顶线、墙角线；其中，所述墙地线表示所述预设空间中的墙面和地面之间的连接线在所述模拟全景图中的投影，所述墙顶线表示所述预设空间中的墙面和顶面之间的连接线在所述模拟全景图中的投影，所述墙角线表示所述预设空间中的墙面和墙面之间的连接线在所述模拟全景图中的投影；

所述基于所述多个区域连接线确定所述三维空间模型的形状，得到所述预设空间对应的三维空间模型，包括：

基于所述墙角线与所述墙地线，以及所述墙角线与所述墙顶线，确定所述三维空间模型中包括的所有墙角点的位置；

基于多个所述墙角点的位置，确定所述三维空间模型的形状，得到所述预设空间对应的三维空间模型。

可选地，所述利用所述模拟全景图对所述三维空间模型进行贴图，得到所述预设空间对应的三维融合模型之前，还包括：

基于所述墙角线、所述墙地线和所述墙顶线，对所述模拟全景图信息分割，得到至少一个图像区域；

根据所述至少一个图像区域中每个图像区域对应的边缘线的性质，确定所述图像区域为以下其中之一：墙面区域、地面区域、顶面区域；

所述利用所述模拟全景图对所述三维空间模型进行贴图，得到所述预设空间对应的三维融合模型，包括：

基于所述模拟全景图中包括的至少一个所述图像区域对所述三维空间模型中的至少一个面进行贴图；

将贴图完成的所述三维空间模型按照对称内容进行分割，得到所述三维融合模型。

可选地，所述基于所述模拟全景图中包括的至少一个所述图像区域对所述三维空间模型中的至少一个面进行贴图，包括:

将所述模拟全景图中的所述墙面区域贴图到所述三维空间模型中的至少一个侧面；

将所述模拟全景图中的所述地面区域贴图到所述三维空间模型中的底面；

将所述模拟全景图中的所述顶面区域贴图到所述三维空间模型中的顶面。

根据本公开实施例的另一方面，提供了一种基于鱼眼图的三维空间融合装置，包括：

鱼眼图采集模块，用于获得预设空间的鱼眼图；

全景图模拟模块，用于对所述鱼眼图进行处理，得到模拟全景图；

空间模型模块，用于基于所述模拟全景图得到所述预设空间对应的三维空间模型；

模型贴图模块，用于利用所述模拟全景图对所述三维空间模型进行贴图，得到所述预设空间对应的三维融合模型。

可选地，所述鱼眼图为通过鱼眼相机在所述预设空间中的预设位置采集获得；所述全景图模拟模块，包括：

鱼眼图展开单元，用于对所述鱼眼图进行展开，得到鱼眼展开图；

镜像翻转单元，用于对所述鱼眼展开图进行上下方向的镜像翻转，得到翻转展开图；

图拼接单元，用于将所述鱼眼展开图和所述翻转展开图沿镜像翻转线进行拼接，得到所述模拟全景图。

可选地，所述鱼眼图展开单元，具体用于对所述鱼眼图进行检测，确定所述鱼眼图的圆心；基于所述圆心对所述鱼眼图进行展开处理，得到所述鱼眼展开图。

可选地，所述鱼眼图展开单元在基于所述圆心对应所述鱼眼图进行展开处理，得到所述鱼眼展开图时，用于确定所述鱼眼图的外接四边形，得到鱼眼正方形；基于所述圆心为底边，以所述鱼眼正方形的边长确定半径，基于所述底边和半径对所述鱼眼图进行展开，得到所述鱼眼展开图。

可选地，所述空间模型模块，包括：

连接线识别单元，用于通过预设网络模型对所述模拟全景图进行处理，确定所述模拟全景图中的多个区域连接线；其中，每个所述区域连接线用于连接两个不同平面；

模型确定单元，用于基于所述多个区域连接线确定所述三维空间模型的形状，得到所述预设空间对应的三维空间模型。

可选地，所述区域连接线包括以下至少之一：墙地线、墙顶线、墙角线；其中，所述墙地线表示所述预设空间中的墙面和地面之间的连接线在所述模拟全景图中的投影，所述墙顶线表示所述预设空间中的墙面和顶面之间的连接线在所述模拟全景图中的投影，所述墙角线表示所述预设空间中的墙面和墙面之间的连接线在所述模拟全景图中的投影；

所述模型确定单元，具体用于基于所述墙角线与所述墙地线，以及所述墙角线与所述墙顶线，确定所述三维空间模型中包括的所有墙角点的位置；基于多个所述墙角点的位置，确定所述三维空间模型的形状，得到所述预设空间对应的三维空间模型。

可选地，所述装置还包括：

全景图分割模块，用于基于所述墙角线、所述墙地线和所述墙顶线，对所述模拟全景图信息分割，得到至少一个图像区域；根据所述至少一个图像区域中每个图像区域对应的边缘线的性质，确定所述图像区域为以下其中之一：墙面区域、地面区域、顶面区域；

所述模型贴图模块，包括：

区域贴图单元，用于基于所述模拟全景图中包括的至少一个所述图像区域对所述三维空间模型中的至少一个面进行贴图；

模型分割单元，用于将贴图完成的所述三维空间模型按照对称内容进行分割，得到所述三维融合模型。

可选地，所述区域贴图单元，具体用于将所述模拟全景图中的所述墙面区域贴图到所述三维空间模型中的至少一个侧面；将所述模拟全景图中的所述地面区域贴图到所述三维空间模型中的底面；将所述模拟全景图中的所述顶面区域贴图到所述三维空间模型中的顶面。

根据本公开实施例的又一方面，提供了一种电子设备，包括：

存储器，用于存储计算机程序产品；

处理器，用于执行所述存储器中存储的计算机程序产品，且所述计算机程序产品被执行时，实现上述任一实施例所述的基于鱼眼图的三维空间融合方法。

根据本公开实施例的还一方面，提供了一种计算机可读存储介质，其上存储有计算机程序指令，该计算机程序指令被处理器执行时，实现上述任一实施例所述的基于鱼眼图的三维空间融合方法。

根据本公开实施例的再一方面，提供了一种计算机程序产品，包括计算机程序指令，该计算机程序指令被处理器执行时实现上述任一实施例所述的基于鱼眼图的三维空间融合方法。

基于本公开上述实施例提供的一种基于鱼眼图的三维空间融合方法、装置、电子设备和介质，包括：获得预设空间的鱼眼图；对所述鱼眼图进行处理，得到模拟全景图；基于所述模拟全景图得到所述预设空间对应的三维空间模型；利用所述模拟全景图对所述三维空间模型进行贴图，得到所述预设空间对应的三维融合模型。本公开实施例将鱼眼图模拟表达为模拟全景图，再基于模拟全景图得到三维融合模型，该方案相对于现有技术，无需计算相机内外参和寻找图像坐标系与物理坐标系的对应关系，利用鱼眼图得到三维融合模型，简化了三维融合技术需要的信息，实现了简洁的三维空间融合。

下面通过附图和实施例，对本公开的技术方案做进一步的详细描述。

附图说明

构成说明书的一部分的附图描述了本公开的实施例，并且连同描述一起用于解释本公开的原理。

参照附图，根据下面的详细描述，可以更加清楚地理解本公开，其中：

图1是本公开一示例性实施例提供的基于鱼眼图的三维空间融合方法的流程示意图；

图2是本公开一示例性实施例采集得到的一个鱼眼图示意图；

图3是本公开图1所示的实施例中步骤104的一个流程示意图；

图4是本公开图3所示的实施例中步骤1041的一个流程示意图；

图5是对图2所示的鱼眼图执行霍夫圆检测得到的确定圆心的鱼眼图示意图；

图6是对图5所示的鱼眼图展开后得到的鱼眼展开图示意图；

图7是对图6所示的鱼眼展开图进行镜像翻转处理并拼接得到的模拟全景图示意图；

图8是图1所示的实施例中步骤106的一个流程示意图；

图9是对图7所示示例提供的模拟全景图进行处理得到的区域连接线示意图；

图10是基于图9所示示例提供的具有多个区域连接线的模拟全景图得到的三维融合模型示意图；

图11是本公开一示例性实施例提供的基于鱼眼图的三维空间融合装置的结构示意图；

图12图示了根据本公开实施例的电子设备的框图。

具体实施方式

下面，将参考附图详细地描述根据本公开的示例实施例。显然，所描述的实施例仅仅是本公开的一部分实施例，而不是本公开的全部实施例，应理解，本公开不受这里描述的示例实施例的限制。

应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。

本领域技术人员可以理解，本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等，既不代表任何特定技术含义，也不表示它们之间的必然逻辑顺序。

还应理解，在本公开实施例中，“多个”可以指两个或两个以上，“至少一个”可以指一个、两个或两个以上。

还应理解，对于本公开实施例中提及的任一部件、数据或结构，在没有明确限定或者在前后文给出相反启示的情况下，一般可以理解为一个或多个。

另外，本公开中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本公开中字符“/”，一般表示前后关联对象是一种“或”的关系。本公开中所指数据可以包括文本、图像、视频等非结构化数据，也可以是结构化数据。

还应理解，本公开对各个实施例的描述着重强调各个实施例之间的不同之处，其相同或相似之处可以相互参考，为了简洁，不再一一赘述。

同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。

以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使用的任何限制。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为说明书的一部分。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

本公开实施例可以应用于终端设备、计算机系统、服务器等电子设备，其可与众多其它通用或专用计算系统环境或配置一起操作。适于与终端设备、计算机系统、服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括但不限于：个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统、大型计算机系统和包括上述任何系统的分布式云计算技术环境，等等。

终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常，程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等，它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施，分布式云计算环境中，任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中，程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。

申请概述

在实现本公开的过程中，发明人发现，随着科学技术的发展，三维的呈现方式在各个领域(例如，装修设计领域等)扮演着非常重要的角色。其中，在装修设计领域中的作用包括：1)三维场景给客户提供足够大的视角，观察到家里的装修情况，并且对施工工作更有信心；2)对于品控和质检来说，都极高的提高了工作效率；3)提升了用户体验和宣传效果。在装修施工时，为了获得更大的视角，可以在工地场景装配鱼眼相机(通常安装在顶面中心位置)，但鱼眼相机引入的畸变问题导致画面呈现效果很差。而三维融合技术让用户以透视的视角看到画面，更符合人眼的直观感受。

示例性方法

图1是本公开一示例性实施例提供的基于鱼眼图的三维空间融合方法的流程示意图。本实施例可应用在电子设备上，如图1所示，包括如下步骤：

步骤102，获得预设空间的鱼眼图。

可选地，基于设置在预设位置的鱼眼相机对预设空间进行图像采集，得到鱼眼图。预设空间可以为任意具有边界的有限大小的空间，例如，房间内，车辆内等；本实施例中为了便于采集到预设空间中的更多信息，可将鱼眼相机设置在预设空间的较高位置的相对中心位置，或者将鱼眼相机设置在预设空间的底面的相对中心位置等，可选地，鱼眼图中包括该预设空间的所有侧面边界和至少一个底面(或顶面)，以便于在得到的三维融合模型中可以相对完整的体现该预设空间。例如，一个可选示例中，将鱼眼相机设置在房间的顶面(例如，天花板)中间，采集得到如图2所示的鱼眼图，如图2所示，该鱼眼图中包括房间的4面墙和地板。

步骤104，对鱼眼图进行处理，得到模拟全景图。

在一实施例中，考虑到全景相机和鱼眼相机的相同点以及不同点。首先全景相机和鱼眼相机都是全向相机，大视角和大畸变，直观上的效果和平时看到的透视效果有很大的差异。不同点在于全景相机拍摄出来的场景是360°范围内，而鱼眼相机拍摄出来的范围一般在180°-220°之间，大概是一个半圆的范围。既然全景相机和鱼眼相机都可以覆盖180°以上的面积，这两种相机都可以将感兴趣的区域记录下来，而不存在信息丢失。因此，本实施例将全景相机和鱼眼相机的图像进行转换，可选地，将鱼眼图经过至少一种处理，得到对应该预设空间的模拟全景图。例如，一个可选示例中，将鱼眼图进行拉伸，再将其镜像翻转得到360°的视角范围，使其可视化效果和全景相机的效果大致相同，实现获得模拟全景图。又例如，将鱼眼图基于圆心展开，得到长为鱼眼图周长，宽为鱼眼图半径的矩形展开图像，以得到的矩形展开图像作为模拟全景图。又例如，将鱼眼图基于圆心展开，得到长为鱼眼图周长，宽为鱼眼图半径的矩形展开图像，将矩形展开图像上下翻转，将翻转得到的图像与矩形展开图像拼接后作为模拟全景图。又例如，将鱼眼图基于周长展开，得到长为鱼眼图周长，宽为鱼眼图半径的矩形，对得到的矩形执行上下翻转，将翻转后的矩形与展开的矩形按照矩形的长边拼接，得到模拟全景图。

步骤106，基于模拟全景图得到预设空间对应的三维空间模型。

可选地，可通过对模拟全景图中的边缘线进行识别，确定预设空间中的多个面的边界线(通常每个面的边界与其他面连接，因此，该边缘线也是连接线)在模拟全景图中的位置，由于这些边缘线处于面的边缘，与其他面共用，例如，墙地线(表示房间中墙面与地面的边缘线)，墙角线(表示房间中两个墙面的连接线)，墙顶线(表示房间中墙面与顶面的边缘线)。通过将多个边缘线作为三维空间模型的折线，可将二维的模拟全景图恢复为三维表示的三维空间模型。可选地，基于模拟全景图中的图像内容，对模拟全景图中可拼接的边缘线进行拼接融合，将矩形的模拟全景图恢复为立方体的三维空间模型。可选地，还可以基于现有技术中可实现基于全景图得到三维空间模型的任意技术方案，实现本实施例中的三维空间模型确定。

步骤108，利用模拟全景图对三维空间模型进行贴图，得到预设空间对应的三维融合模型。

可选地，在建立了具有三维结构的三维空间模型之后，该三维空间模型仅具有预设空间的模拟形状，在确定了形状之后，为了达到便于用户查看预设空间的技术效果，需要对三维空间模型进行渲染，例如，利用模拟全景图对三维空间模型进行贴图。

本公开上述实施例提供的一种基于鱼眼图的三维空间融合方法，包括：获得预设空间的鱼眼图；对所述鱼眼图进行处理，得到模拟全景图；基于所述模拟全景图得到所述预设空间对应的三维空间模型；利用所述模拟全景图对所述三维空间模型进行贴图，得到所述预设空间对应的三维融合模型。本公开实施例将鱼眼图模拟表达为模拟全景图，再基于模拟全景图得到三维融合模型，该方案相对于现有技术，无需计算相机内外参和寻找图像坐标系与物理坐标系的对应关系，利用鱼眼图得到三维融合模型，简化了三维融合技术需要的信息，实现了简洁的三维空间融合。

如图3所示，在上述图1所示实施例的基础上，步骤104可包括如下步骤：

步骤1041，对鱼眼图进行展开，得到鱼眼展开图。

可选地，鱼眼图为通过鱼眼相机在预设空间中的预设位置采集获得。可选地，本实施例中的预设位置为预设空间中靠近顶面的相对中心位置，或者为预设空间中靠近底面的相对中心位置，其中，中心位置可以为几何中心或面积中心等可以将预设空间中的顶面或底面完全采集的位置；例如，当预设空间的底面和顶面为规则形状时，中心位置可以为几何中心，而当预设空间的底面和顶面为不规则形状时，中心位置可以为面积中心。

由于本实施例中希望基于鱼眼图得到模拟全景图的效果，因此，需要对鱼眼图对应的圆进行展开成长方形，例如，基于鱼眼图的圆心进行展开，或者基于鱼眼图的周长进行展开；可选地，将圆心拉长为与鱼眼图对应的周长相同长度的线，将鱼眼图中每条环绕圆心的像素都拉长为周长相同长度的线，即可得到鱼眼展开图。或者，可选地，建立基于鱼眼图周长为长，半径为宽的矩形，通过将鱼眼图中的内容映射到该矩形中，得到鱼眼展开图。

步骤1042，对鱼眼展开图进行上下方向的镜像翻转，得到翻转展开图。

由于拍摄位置和视野的特殊性，全景图中的预设空间的顶面(例如，房间的顶面等)和底面(例如，房间的地面等)构成了一种对称关系，顶面与侧面的连接线和底面与侧面的连接线具有对称性。基于全景图的特性，本实施例为了模拟全景图，需要基于鱼眼展开图模拟顶面与侧面的连接线部分，而由于鱼眼图的视角问题，采集的鱼眼图中不包括顶面(或底面)的部分，因此，本实施例通过镜像翻转以底面模拟顶面(或以顶面模拟底面)，以底面与侧面的连接线模拟顶面与侧面的连接线。

步骤1043，将鱼眼展开图和翻转展开图沿镜像翻转线进行拼接，得到模拟全景图。

上述步骤通过镜像翻转，基于鱼眼展开图中的底面模拟成全景图中的顶面，因此，原鱼眼展开图中包括了预设空间的底面和侧面的部分，而翻转得到的翻转展开图中包括了预设空间的模拟顶面和侧面的部分，此时，为了得到完整的全景图，可将鱼眼展开图和翻转展开图沿镜像翻转线进行拼接，得到模拟全景图。基于上述拼接得到的模拟全景图中包括了预设空间中的所有侧面、顶面和底面，可选地，当鱼眼图中包括底面时，顶面为基于底面模拟得到的；当鱼眼图中包括顶面时，底面为基于顶面模拟得到的；因此，该模拟全景图相当于在预设空间中基于全景相机采集得到的全景图，具有全景图的优点和特性。

如图4所示，在上述图3所示实施例的基础上，步骤1041可包括如下步骤：

步骤401，对鱼眼图进行检测，确定鱼眼图的圆心。

可选地，可利用任意现有技术手段确定鱼眼图的圆心，例如，利用霍夫圆检测方法对鱼眼图进行检测，确定鱼眼图的圆心。鱼眼图展开到矩形图，首先需要确定相机的光心。由于相机硬件工艺问题，本实施例中采集得到的鱼眼图并不是标准的以图像中心为原点的圆结构(具有一定变形)，需要通过一些算法确定鱼眼图的成像中心，即圆心的位置，可选地，可以采用现有技术中任意可确定成像中心的技术方法，例如，利用霍夫圆检测方法确定鱼眼图的圆心，一个可选示例中，对图2所示的鱼眼图执行霍夫圆检测，得到如图5所示的确定了圆心的鱼眼图；基于鱼眼图中预设空间图像部分确定外接四边形(由于是圆形，因此外切矩阵为正方形)。

步骤402，基于圆心对鱼眼图进行展开处理，得到鱼眼展开图。

本实施例中，基于霍夫圆检测方法对鱼眼图进行检测后，得到校正后的鱼眼图后，以圆心为底边，半径为高进行径向展开，能得到类似于全景图的效果。可选地，展开过程可以包括：

确定鱼眼图的外接四边形，得到鱼眼正方形。

基于圆心为底边，以鱼眼正方形的边长确定半径，基于底边和半径对鱼眼图进行展开，得到鱼眼展开图。

可选地，首先，基于霍夫圆检测方法确定了鱼眼图的圆心之后，可以基于圆心对鱼眼图进行校准，使鱼眼图更接近圆形，在得到圆形的鱼眼图后，为了快速确定该圆形的半径，可对鱼眼图确定对应的外接四边形，由于该鱼眼图是圆形，因此，该外接四边形为正方形(鱼眼正方形)，此时正方形的边长的一半即为鱼眼图的半径，可以基于以下公式(1)确定半径R：

其中，R为鱼眼图的半径，A为鱼眼正方形的边长。

可选地，可利用cv2.remap函数将鱼眼图展开到鱼眼展开图，例如，包括：基于鱼眼图的半径确定鱼眼展开图的高，基于鱼眼图的周长确定鱼眼展开图的长；再通过cv2.remap函数确定鱼眼展开图中每个点的坐标与鱼眼图中点的对应关系，通过映射即可实现鱼眼图的展开，得到矩形表示的鱼眼展开图。

将鱼眼图展开到鱼眼展开图的过程可基于以下公式(2)和(3)实现：

mapx(i，j)＝R+sinθ*r 公式(2)

mapy(i，j)＝R-cosθ*r 公式(3)

其中，θ＝(j/W)*2π；r＝H-i。R为鱼眼图的半径，鱼眼展开图的宽和高分别为鱼眼图的周长和半径R；H表示鱼眼展开图的高，H＝R；W表示鱼眼展开图的宽，W＝2*π*R。mapx(i，j)表示源图(鱼眼图)x轴的坐标到目标图(鱼眼展开图)x轴坐标的变换；mapy(i，j)表示源图(鱼眼图)y轴的坐标到目标图(鱼眼展开图)y轴坐标的变换。i表示鱼眼展开图中一点的x轴坐标，j表示鱼眼展开图中该点的y轴坐标。基于上述公式(2)和(3)提供的mapx(i，j)和mapy(i，j)作为参数，利用cv2.remap函数，即可实现将鱼眼图展开为鱼眼展开图。例如，一个可选示例中，通过对图5所示的矫正后的鱼眼图进行展开，得到如图6所示的鱼眼展开图，其中，鱼眼展开图中的底边是基于鱼眼图的圆心展开到周长的长度得到的。由于全景图的特点是：其一拍摄视角和鱼眼视角不同，鱼眼视角基本上是悬挂在顶面，fov在180°左右，而全景图视角和人眼视角平行，且视角范围是360°；其二，由于拍摄位置和视野的特殊性，全景图的顶面和底面构成了一种对称关系，顶面与侧面的连接线和底面与侧面的连接线具有对称性。根据全景图以上特点，在一个可选示例中，对上述图6所示鱼眼展开图进行镜像翻转处理，并将镜像翻转后的图像与图6所示的鱼眼展开图进行拼接，得到如图7所示的模拟全景图。基于展开和镜像翻转以及拼接得到的模拟全景图具有全景图的特性和优点。

如图8所示，在上述图1所示实施例的基础上，步骤106可包括如下步骤：

步骤1061，通过预设网络模型对模拟全景图进行处理，确定模拟全景图中的多个区域连接线。

其中，每个区域连接线用于连接两个不同平面。

本实施例中，预设网络模型可以为现有技术中任意可以实现对全景图进行区域识别的网络模型，例如，深度神经网络等。可选地，预设网络模型包括特征提取器和递归神经网络。该预设网络模型的输入为一个全景图片(本实施例中的模拟全景图)，输出为，例如，一个可选示例中，输入的模拟全景图的尺寸为3x512x1024(通道，高度，宽度)，输出结果的尺寸为3x1 x1024(通道，高度，宽度)。三个输出通道中的两个表示每个图像列的顶面与侧面连接线和底面与侧面连接线的边界位置(例如，房间中的墙顶线和墙地线)，另一个表示侧面与侧面连接线的边界位置(例如，房间中的墙角线)。例如，一个可选示例中，通过预设网络模型对对上述图7提供的模拟全景图进行处理，得到如图9所示的多个区域连接线，其中，横向分布的分别为墙顶线和墙地线，纵向分布的为墙角线。

步骤1062，基于多个区域连接线确定三维空间模型的形状，得到预设空间对应的三维空间模型。

在确定了多个区域连接线后，可确定多个顶点，例如，基于至少两个区域连接线的交点作为顶点(如，房间中的墙地线和墙角线的交点为墙角点，墙顶线与墙角线的交点也为墙角点，其中墙顶线和墙地线相互平行，不存在交点)，确定了多个顶点后，基于曼哈顿世界假设(假设预设空间中每两个存在交线的面之间的夹角为90度)，可基于多个顶点确定三维空间模型的形状，即得到三维空间模型。

可选地，在一些可选的实施例中，区域连接线包括以下至少之一：墙地线、墙顶线、墙角线；其中，墙地线表示预设空间中的墙面和地面之间的连接线在模拟全景图中的投影，墙顶线表示预设空间中的墙面和顶面之间的连接线在模拟全景图中的投影，墙角线表示预设空间中的墙面和墙面之间的连接线在模拟全景图中的投影。该实施例中假设预设空间为一个房间，此时步骤1062可以包括：

基于墙角线与墙地线，以及墙角线与墙顶线，确定三维空间模型中包括的所有墙角点的位置。

基于多个墙角点的位置，确定三维空间模型的形状，得到预设空间对应的三维空间模型。

在呈现3D效果时，并不需要知道房间墙角点的绝对物理坐标。因此，本实施例中无需获得模拟全景图中的真实坐标信息，只需获得相对关系即可，基于墙角线与墙地线可确定三维空间模型中每个与地面连接的墙线的墙角点，基于墙角线与墙顶线可确定三维空间模型中每个与顶面连接的墙线的墙角点，这些墙角点确定了三维空间模型的顶点，连接这些顶点即可确定三维空间模型，连接时可参考曼哈顿世界假设(房间形状通常符合曼哈顿世界假设)的几何约束，使连接后得到的三维空间模型符合曼哈顿世界假设。

可选地，在执行步骤108之前还可以包括：

基于墙角线、墙地线和墙顶线，对模拟全景图信息分割，得到至少一个图像区域。

根据至少一个图像区域中每个图像区域对应的边缘线的性质，确定图像区域为以下其中之一：墙面区域、地面区域、顶面区域。

本实施例中，在基于模拟全景图进行贴图之前，需要先对模拟全景图进行区域分割，将对应预设空间不同平面的区域分割为不同的区域，由于上述实施例中，已经基于预设网络模型确定了墙角线、墙地线和墙顶线，墙角线分割每两个相邻的墙面，墙地线分割墙面和地面，墙顶线分割墙面和顶面，基于墙角线、墙地线和墙顶线即可将模拟全景图中包括的多个墙面区域、地面区域和顶面区域分割出来，基于得到的墙面区域、地面区域和顶面区域对三维空间模型进行贴图，减少了贴图错误，提升了贴图效果。

对应的，步骤108可以包括：

基于模拟全景图中包括的至少一个图像区域对三维空间模型中的至少一个面进行贴图。

将贴图完成的三维空间模型按照对称内容进行分割，得到三维融合模型。

本实施例中，利用模拟全景图分割得到的墙面区域、地面区域和顶面区域对三维空间模型进行贴图，可得到具有渲染效果的三维空间模型，但是，由于在获得模拟全景图时，对鱼眼展开图进行过一次镜像翻转和拼接，即模拟全景图实际包括的内容是鱼眼图的二倍，因此，本实施例对贴图完成的三维空间模型需要进行分割，将模拟全景图中模拟的顶面部分(实际是鱼眼展开图中的地面部分)和重复的墙面部分删除，得到的即为基于鱼眼图确定的三维融合模型。可选地，具体分割可基于贴图完成后的三维空间模型沿侧面分割为完全相同的两部分，取其中任意一部分即为三维融合模型。例如，一个可选示例中，基于上述图9提供的具有多个区域连接线的模拟全景图得到的三维融合模型如图10所示，基于该三维融合模型可以实现对预设空间中的内容进行更直观的查看。本实施例采用的三维融合方法，整个过程无需确定相机的内外参和图像坐标系与物理坐标系的对应关系，减少了大量计算，相对于传统三维融合方法，本实施例简洁快速，需要已知的条件少，仅需通过设置在预设空间的鱼眼相机即可完成对预设空间的三维融合，提出了一种三维融合的新思路，并且，由于绕过了相机内外参数的计算和寻找图像坐标系与物理坐标系的对应关系，减少了大量计算误差，提升了三维融合的效率和准确率。

可选地，基于模拟全景图中包括的至少一个图像区域对三维空间模型中的至少一个面进行贴图，包括:

将模拟全景图中的墙面区域贴图到三维空间模型中的至少一个侧面；

将模拟全景图中的地面区域贴图到三维空间模型中的底面；

将模拟全景图中的顶面区域贴图到三维空间模型中的顶面。

本实施例中，在已经对模拟全景图进行分割后，确定了模拟全景图中每个区域与预设空间中的不同平面之间的对应关系，基于对应关系进行贴图可获得更好的贴图效果，减少了由于贴图错误导致的三维融合模型与预设空间不对应的问题。

本公开实施例提供的任一种基于鱼眼图的三维空间融合方法可以由任意适当的具有数据处理能力的设备执行，包括但不限于：终端设备和服务器等。或者，本公开实施例提供的任一种基于鱼眼图的三维空间融合方法可以由处理器执行，如处理器通过调用存储器存储的相应指令来执行本公开实施例提及的任一种基于鱼眼图的三维空间融合方法。下文不再赘述。

示例性装置

图11是本公开一示例性实施例提供的基于鱼眼图的三维空间融合装置的结构示意图。如图11所示，本实施例提供的装置包括：

鱼眼图采集模块111，用于获得预设空间的鱼眼图。

全景图模拟模块112，用于对鱼眼图进行处理，得到模拟全景图。

空间模型模块113，用于基于模拟全景图得到预设空间对应的三维空间模型。

模型贴图模块114，用于利用模拟全景图对三维空间模型进行贴图，得到预设空间对应的三维融合模型。

本公开上述实施例提供的一种基于鱼眼图的三维空间融合装置，包括：获得预设空间的鱼眼图；对所述鱼眼图进行处理，得到模拟全景图；基于所述模拟全景图得到所述预设空间对应的三维空间模型；利用所述模拟全景图对所述三维空间模型进行贴图，得到所述预设空间对应的三维融合模型。本公开实施例将鱼眼图模拟表达为模拟全景图，再基于模拟全景图得到三维融合模型，该方案相对于现有技术，无需计算相机内外参和寻找图像坐标系与物理坐标系的对应关系，利用鱼眼图得到三维融合模型，简化了三维融合技术需要的信息，实现了简洁的三维空间融合。

在一些可选的实施例中，鱼眼图为通过鱼眼相机在预设空间中的预设位置采集获得；全景图模拟模块112，包括：

鱼眼图展开单元，用于对鱼眼图进行展开，得到鱼眼展开图；

镜像翻转单元，用于对鱼眼展开图进行上下方向的镜像翻转，得到翻转展开图；

图拼接单元，用于将鱼眼展开图和翻转展开图沿镜像翻转线进行拼接，得到模拟全景图。

可选地，鱼眼图展开单元，具体用于对鱼眼图进行检测，确定鱼眼图的圆心；基于圆心对应鱼眼图进行展开处理，得到鱼眼展开图。

可选地，鱼眼图展开单元在基于圆心对鱼眼图进行展开处理，得到鱼眼展开图时，用于确定鱼眼图的外接四边形，得到鱼眼正方形；基于圆心为底边，以鱼眼正方形的边长确定半径，基于底边和半径对鱼眼图进行展开，得到鱼眼展开图。

在一些可选的实施例中，空间模型模块113，包括：

连接线识别单元，用于通过预设网络模型对模拟全景图进行处理，确定模拟全景图中的多个区域连接线；其中，每个区域连接线用于连接两个不同平面；

模型确定单元，用于基于多个区域连接线确定三维空间模型的形状，得到预设空间对应的三维空间模型。

可选地，区域连接线包括以下至少之一：墙地线、墙顶线、墙角线；其中，墙地线表示预设空间中的墙面和地面之间的连接线在模拟全景图中的投影，墙顶线表示预设空间中的墙面和顶面之间的连接线在模拟全景图中的投影，墙角线表示预设空间中的墙面和墙面之间的连接线在模拟全景图中的投影；

模型确定单元，具体用于基于墙角线与墙地线，以及墙角线与墙顶线，确定三维空间模型中包括的所有墙角点的位置；基于多个墙角点的位置，确定三维空间模型的形状，得到预设空间对应的三维空间模型。

在一些可选的实施例中，本实施例提供的装置还可以包括：

全景图分割模块，用于基于墙角线、墙地线和墙顶线，对模拟全景图信息分割，得到至少一个图像区域；根据至少一个图像区域中每个图像区域对应的边缘线的性质，确定图像区域为以下其中之一：墙面区域、地面区域、顶面区域。

模型贴图模块114，包括：

区域贴图单元，用于基于模拟全景图中包括的至少一个图像区域对三维空间模型中的至少一个面进行贴图；

模型分割单元，用于将贴图完成的三维空间模型按照对称内容进行分割，得到三维融合模型。

可选地，区域贴图单元，具体用于将模拟全景图中的墙面区域贴图到三维空间模型中的至少一个侧面；将模拟全景图中的地面区域贴图到三维空间模型中的底面；将模拟全景图中的顶面区域贴图到三维空间模型中的顶面。

示例性电子设备

下面，参考图12来描述根据本公开实施例的电子设备。该电子设备可以是第一设备和第二设备中的任一个或两者、或与它们独立的单机设备，该单机设备可以与第一设备和第二设备进行通信，以从它们接收所采集到的输入信号。

图12图示了根据本公开实施例的电子设备的框图。

如图12所示，电子设备包括一个或多个处理器和存储器。

处理器可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备中的其他组件以执行期望的功能。

存储器可以存储一个或多个计算机程序产品，所述存储器可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序产品，处理器可以运行所述计算机程序产品，以实现上文所述的本公开的各个实施例的基于鱼眼图的三维空间融合方法以及/或者其他期望的功能。

在一个示例中，电子装置还可以包括：输入装置和输出装置，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。

此外，该输入装置还可以包括例如键盘、鼠标等等。

该输出装置可以向外部输出各种信息，包括确定出的距离信息、方向信息等。该输出装置可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出装置等等。

当然，为了简化，图12中仅示出了该电子设备中与本公开有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备还可以包括任何其他适当的组件。

除了上述方法和设备以外，本公开的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述部分中描述的根据本公开各种实施例的基于鱼眼图的三维空间融合方法中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本公开的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述部分中描述的根据本公开各种实施例的基于鱼眼图的三维空间融合方法中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本公开的基本原理，但是，需要指出的是，在本公开中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本公开为必须采用上述具体的细节来实现。

本说明书中各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言，由于其与方法实施例基本对应，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

可能以许多方式来实现本公开的方法和装置。例如，可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明，本公开的方法的步骤不限于以上具体描述的顺序，除非以其它方式特别说明。此外，在一些实施例中，还可将本公开实施为记录在记录介质中的程序，这些程序包括用于实现根据本公开的方法的机器可读指令。因而，本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。

还需要指出的是，在本公开的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此，本公开不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (12)

1.一种基于鱼眼图的三维空间融合方法，其特征在于，包括：

获得预设空间的鱼眼图；

对所述鱼眼图进行处理，得到模拟全景图；

基于所述模拟全景图得到所述预设空间对应的三维空间模型；以及

利用所述模拟全景图对所述三维空间模型进行贴图，得到所述预设空间对应的三维融合模型。

2.根据权利要求1所述的方法，其特征在于，所述鱼眼图为通过鱼眼相机在所述预设空间中的预设位置采集获得；所述对所述鱼眼图进行处理，得到模拟全景图，包括：

对所述鱼眼图进行展开，得到鱼眼展开图；

对所述鱼眼展开图进行上下方向的镜像翻转，得到翻转展开图；

将所述鱼眼展开图和所述翻转展开图沿镜像翻转线进行拼接，得到所述模拟全景图。

3.根据权利要求2所述的方法，其特征在于，所述对所述鱼眼图进行展开，得到鱼眼展开图，包括：

对所述鱼眼图进行检测，确定所述鱼眼图的圆心；

基于所述圆心对所述鱼眼图进行展开处理，得到所述鱼眼展开图。

4.根据权利要求3所述的方法，其特征在于，所述基于所述圆心对应所述鱼眼图进行展开处理，得到所述鱼眼展开图，包括：

确定所述鱼眼图的外接四边形，得到鱼眼正方形；

基于所述圆心为底边，以所述鱼眼正方形的边长确定半径，基于所述底边和半径对所述鱼眼图进行展开，得到所述鱼眼展开图。

5.根据权利要求1-4任一所述的方法，其特征在于，所述基于所述模拟全景图得到所述预设空间对应的三维空间模型，包括：

通过预设网络模型对所述模拟全景图进行处理，确定所述模拟全景图中的多个区域连接线；其中，每个所述区域连接线用于连接两个不同平面；

基于所述多个区域连接线确定所述三维空间模型的形状，得到所述预设空间对应的三维空间模型。

6.根据权利要求5所述的方法，其特征在于，所述区域连接线包括以下至少之一：墙地线、墙顶线、墙角线；其中，所述墙地线表示所述预设空间中的墙面和地面之间的连接线在所述模拟全景图中的投影，所述墙顶线表示所述预设空间中的墙面和顶面之间的连接线在所述模拟全景图中的投影，所述墙角线表示所述预设空间中的墙面和墙面之间的连接线在所述模拟全景图中的投影；

所述基于所述多个区域连接线确定所述三维空间模型的形状，得到所述预设空间对应的三维空间模型，包括：

基于所述墙角线与所述墙地线，以及所述墙角线与所述墙顶线，确定所述三维空间模型中包括的所有墙角点的位置；

基于多个所述墙角点的位置，确定所述三维空间模型的形状，得到所述预设空间对应的三维空间模型。

7.根据权利要求6所述的方法，其特征在于，所述利用所述模拟全景图对所述三维空间模型进行贴图，得到所述预设空间对应的三维融合模型之前，还包括：

基于所述墙角线、所述墙地线和所述墙顶线，对所述模拟全景图信息分割，得到至少一个图像区域；

根据所述至少一个图像区域中每个图像区域对应的边缘线的性质，确定所述图像区域为以下其中之一：墙面区域、地面区域、顶面区域；

所述利用所述模拟全景图对所述三维空间模型进行贴图，得到所述预设空间对应的三维融合模型，包括：

基于所述模拟全景图中包括的至少一个所述图像区域对所述三维空间模型中的至少一个面进行贴图；

将贴图完成的所述三维空间模型按照对称内容进行分割，得到所述三维融合模型。

8.根据权利要求7所述的方法，其特征在于，所述基于所述模拟全景图中包括的至少一个所述图像区域对所述三维空间模型中的至少一个面进行贴图，包括:

将所述模拟全景图中的所述墙面区域贴图到所述三维空间模型中的至少一个侧面；

将所述模拟全景图中的所述地面区域贴图到所述三维空间模型中的底面；

将所述模拟全景图中的所述顶面区域贴图到所述三维空间模型中的顶面。

9.一种基于鱼眼图的三维空间融合装置，其特征在于，包括：

鱼眼图采集模块，用于获得预设空间的鱼眼图；

全景图模拟模块，用于对所述鱼眼图进行处理，得到模拟全景图；

空间模型模块，用于基于所述模拟全景图得到所述预设空间对应的三维空间模型；

模型贴图模块，用于利用所述模拟全景图对所述三维空间模型进行贴图，得到所述预设空间对应的三维融合模型。

10.一种电子设备，其特征在于，包括：

存储器，用于存储计算机程序产品；

处理器，用于执行所述存储器中存储的计算机程序产品，且所述计算机程序产品被执行时，实现上述权利要求1-8任一所述的基于鱼眼图的三维空间融合方法。

11.一种计算机可读存储介质，其上存储有计算机程序指令，其特征在于，该计算机程序指令被处理器执行时，实现上述权利要求1-8任一所述的基于鱼眼图的三维空间融合方法。

12.一种计算机程序产品，包括计算机程序指令，其特征在于，该计算机程序指令被处理器执行时实现上述权利要求1-8任一所述的基于鱼眼图的三维空间融合方法。