CN111008985B - 全景图拼缝检测方法、装置、可读存储介质及电子设备 - Google Patents

Abstract

本公开实施例公开了一种全景图拼缝检测方法和装置，其中，该方法包括：获取全景图拍摄设备拍摄的预设数量的局部图和初始全景深度图；基于初始全景深度图，将预设数量的局部图拼接成全景图；从全景图中提取用于表征预先设置的线条的线条图；在线条图中确定拼接线，其中，拼接线对应于全景图中的两个相邻的局部图之间的交界线；在拼接线两侧的每行像素中，确定颜色不相等的像素数量占拼接线两侧的总像素数量的比重；响应于确定比重符合第一预设条件，输出用于表征全景图中的拼缝过大的信息。本公开实施例实现了对包含三维信息的全景图中的拼缝做出有效检测，有助于根据拼缝检测的结果改善全景图拼接的效果。

Description

全景图拼缝检测方法、装置、可读存储介质及电子设备

技术领域

本公开涉及计算机视觉技术领域，尤其是一种全景图拼缝检测方法、装置、计算机可读存储介质及电子设备。

背景技术

随着虚拟现实技术的不断发展，全景图像被广泛的应用在房屋租赁、酒店民宿、家装家居、文博展览、电商零售等领域，全景图像相对于单视角的普通图像可以提供720度的视野信息，因此，全景图像预览越被大众所追捧和喜爱。

传统的全景图像一般是通过全景相机拍摄两幅图片拼接得到一张全景图，由于这类全景图只有两幅图像拼接成，故其全景拼缝效果较好，但是该类相机不能够采集空间的三维信息。为了采集三维信息，可以同时采用双目相机等设备获取被拍摄景物的深度图，根据深度图对彩色图进行拼接，从而可以使全景图可以反映被拍摄景物的三维信息。

发明内容

本公开的实施例提供了一种全景图拼缝检测方法、装置、计算机可读存储介质及电子设备。

本公开的实施例提供了一种全景图拼缝检测方法，该方法包括：获取全景图拍摄设备拍摄的预设数量的局部图和初始全景深度图；基于初始全景深度图，将预设数量的局部图拼接成全景图；从全景图中提取用于表征预先设置的线条的线条图；在线条图中确定拼接线，其中，拼接线对应于全景图中的两个相邻的局部图之间的交界线；在拼接线两侧的每行像素中，确定颜色不相等的像素数量占拼接线两侧的总像素数量的比重；响应于确定比重符合第一预设条件，输出用于表征全景图中的拼缝过大的信息。

在一些实施例中，基于初始全景深度图，将预设数量的局部图拼接成全景图，包括：确定初始全景深度图中是否包括空洞区域；如果包括空洞区域，将空洞区域填充，得到无空洞全景深度图；如果不包括空洞区域，将初始全景深度图确定为无空洞全景深度图；基于无空洞全景深度图，将预设数量的局部图拼接成全景图。

在一些实施例中，基于无空洞全景深度图，将预设数量的局部图拼接成全景图，包括：利用预设的外参数，将无空洞全景深度图的坐标系投影到预设数量的局部图的坐标系中，得到无空洞全景深度图中的像素与预设数量的局部图中的像素的对应关系；基于对应关系，生成全景图。

在一些实施例中，在获取全景图拍摄设备拍摄的预设数量的局部图和初始全景深度图之前，方法还包括：获取全景图拍摄设备在旋转一周过程中的起点位置和终点位置分别拍摄的起点图像和终点图像；从起点图像和终点图像中分别提取第一目标标记图像；确定起点图像中的第一目标标记图像和终点图像中的第一目标标记图像的位置偏差；响应于确定位置偏差符合第二预设条件，向全景图拍摄设备发送用于指示重新拍摄预设数量的局部图和全景深度图的命令。

在一些实施例中，从全景图中提取用于表征预先设置的线条的线条图，包括：对全景图进行二值化处理，得到二值化图像；从二值化图像中确定线条图。

在一些实施例中，从二值化图像中确定线条图，包括：从二值化图像中确定第二目标标记图像；以第二目标标记图像作为线条起点，提取线条图。

根据本公开实施例的另一个方面，提供了一种全景图拼缝检测装置，该装置包括：第一获取模块，用于获取全景图拍摄设备拍摄的预设数量的局部图和初始全景深度图；拼接模块，用于基于初始全景深度图，将预设数量的局部图拼接成全景图；第一提取模块，用于从全景图中提取用于表征预先设置的线条的线条图；第一确定模块，用于在线条图中确定拼接线，其中，拼接线对应于全景图中的两个相邻的局部图之间的交界线；第二确定模块，用于在拼接线两侧的每行像素中，确定颜色不相等的像素数量占拼接线两侧的总像素数量的比重；输出模块，用于响应于确定比重符合第一预设条件，输出用于表征全景图中的拼缝过大的信息。

在一些实施例中，该装置还包括：第二获取模块，用于获取全景图拍摄设备在旋转一周过程中的起点位置和终点位置分别拍摄的起点图像和终点图像；第二提取模块，用于从起点图像和终点图像中分别提取第一目标标记图像；第三确定模块，用于确定起点图像中的第一目标标记图像和终点图像中的第一目标标记图像的位置偏差；发送模块，用于响应于确定位置偏差符合第二预设条件，向全景图拍摄设备发送用于指示重新拍摄预设数量的局部图和全景深度图的命令。

根据本公开实施例的另一个方面，提供了一种计算机可读存储介质，计算机可读存储介质存储有计算机程序，计算机程序用于执行上述全景图拼缝检测方法。

根据本公开实施例的另一个方面，提供了一种电子设备，电子设备包括：处理器；用于存储处理器可执行指令的存储器；处理器，用于从存储器中读取可执行指令，并执行指令以实现上述全景图拼缝检测方法。

基于本公开上述实施例提供的全景图拼缝检测方法、装置、计算机可读存储介质及电子设备，通过使用全景深度图，将局部图拼接成全景图，再从全景图中提取线条图，然后确定线条图中的拼接线两侧的像素的颜色是否相等，如果不相等的像素所占的比重符合第一预设条件，则确定全景图的拼缝过大，从而实现了对包含三维信息的全景图中的拼缝做出有效检测，有助于根据拼缝检测的结果改善全景图拼接的效果。

下面通过附图和实施例，对本公开的技术方案做进一步的详细描述。

附图说明

通过结合附图对本公开实施例进行更详细的描述，本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解，并且构成说明书的一部分，与本公开实施例一起用于解释本公开，并不构成对本公开的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1是本公开所适用的系统图。

图2是本公开一示例性实施例提供的全景图拼缝检测方法的流程示意图。

图3是本公开的实施例的全景图拼缝检测方法的全景图的示例性示意图。

图4是本公开的实施例的全景图拼缝检测方法的二值化图像的示例性示意图。

图5是本公开的实施例的全景图拼缝检测方法的线条图的示例性示意图。

图6是本公开的实施例的全景图拼缝检测方法的拼接线的示例性示意图。

图7是本公开另一示例性实施例提供的全景图拼缝检测方法的流程示意图。

图8是本公开一示例性实施例提供的全景图拼缝检测装置的结构示意图。

图9是本公开另一示例性实施例提供的全景图拼缝检测装置的结构示意图。

图10是本公开一示例性实施例提供的电子设备的结构图。

具体实施方式

下面，将参考附图详细地描述根据本公开的示例实施例。显然，所描述的实施例仅仅是本公开的一部分实施例，而不是本公开的全部实施例，应理解，本公开不受这里描述的示例实施例的限制。

应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。

本领域技术人员可以理解，本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等，既不代表任何特定技术含义，也不表示它们之间的必然逻辑顺序。

还应理解，在本公开实施例中，“多个”可以指两个或两个以上，“至少一个”可以指一个、两个或两个以上。

还应理解，对于本公开实施例中提及的任一部件、数据或结构，在没有明确限定或者在前后文给出相反启示的情况下，一般可以理解为一个或多个。

另外，本公开中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本公开中字符“/”，一般表示前后关联对象是一种“或”的关系。

还应理解，本公开对各个实施例的描述着重强调各个实施例之间的不同之处，其相同或相似之处可以相互参考，为了简洁，不再一一赘述。

同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。

以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使用的任何限制。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为说明书的一部分。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

本公开实施例可以应用于终端设备、计算机系统、服务器等电子设备，其可与众多其它通用或专用计算系统环境或配置一起操作。适于与终端设备、计算机系统、服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括但不限于：个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统、大型计算机系统和包括上述任何系统的分布式云计算技术环境，等等。

终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常，程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等，它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施，分布式云计算环境中，任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中，程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。

申请概述

传统的全景图像一般是通过全景相机拍摄两幅图片拼接得到一张全景图，由于这类全景图只有两幅图像拼接成，故其全景拼缝效果较好，但是该类相机不能够采集空间的三维信息。为了采集三维信息，可以同时采用双目相机等设备获取被拍摄景物的深度图，根据深度图对彩色图进行拼接，从而可以使全景图可以反映被拍摄景物的三维信息。但是，该种方法得到的全景图中的拼缝通常较为明显，图像展示效果不好，因此，为了改善图像拼接的效果，需要对全景图中的拼缝做出快速、有效的检测，以进一步对全景图拍摄设备进行校准和标定。

示例性系统

图1示出了可以应用本公开的实施例的全景图拼缝检测方法或全景图拼缝检测装置的示例性系统架构100。

如图1所示，系统架构100可以包括终端设备101，网络102、服务器103和全景图拍摄设备104。网络102用于在终端设备101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101通过网络102与服务器103交互，以接收或发送消息等。终端设备101上可以安装有各种通讯客户端应用，例如图像处理类应用、地图类应用、房屋展示类应用等。

终端设备101可以是各种电子设备，包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端，还可以包括单片机、FPGA等嵌入式芯片。

服务器103可以是提供各种服务的服务器，例如对终端设备101或全景图拍摄设备104上传的图像进行处理的后台图像处理服务器。后台图像处理服务器可以对接收到的图像进行拼接、拼缝检测等处理，得到处理结果(例如用于表征拼缝是否过大的信息)。

全景图拍摄设备104可以对周围环境进行拍摄，得到多个图像，以及全景深度图。通常，全景图拍摄设备104可以包括多组相机(例如由上到下依次排列的三组双目相机)，多组相机可以对周围环境进行各种角度的拍摄。

需要说明的是，本公开的实施例所提供的全景图拼缝检测方法可以由服务器103执行，也可以由终端设备101执行，相应地，全景图拼缝检测装置可以设置于服务器103中，也可以设置于终端设备101中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

示例性方法

图2是本公开一示例性实施例提供的全景图拼缝检测方法的流程示意图。本实施例可应用在电子设备(如图1所示的终端设备101或服务器103)上，如图2所示，该方法包括如下步骤：

步骤201，获取全景图拍摄设备拍摄的预设数量的局部图和初始全景深度图。

在本实施例中，电子设备可以从远程或从本地获取全景图拍摄设备(如图1所示的全景图拍摄设备104)拍摄的预设数量的局部图和初始全景深度图。通常，全景图拍摄设备设置在某处，且可以360度旋转，全景图拍摄设备可以包括多组相机，全景图拍摄设备每旋转一周，每组相机可以对周围环境拍摄多个图像(即局部图，通常为彩色图)。相机可以是双目相机，每旋转一周，还可以得到一张全景深度图，该全景深度图可以是每组相机旋转过程中拍摄得到的深度图拼接而成的。需要说明的是，生成全景深度图的方法是目前广泛研究和应用的公知技术，在此不再赘述。

作为示例，全景图拍摄设备可以放置在检测房间的中央，检测房间的墙壁为白色，墙壁上粘贴若干黑色线条，用于检测拼缝是否过大。全景图拍摄设备在电机的带动下水平旋转，每旋转60度可以拍摄一次图像，如果包括三组相机，则旋转一周可以拍摄18张彩色图像，并生成一张初始全景深度图。

步骤202，基于初始全景深度图，将预设数量的局部图拼接成全景图。

在本实施例中，电子设备可以基于初始全景深度图，将预设数量的局部图拼接成全景图。作为示例，电子设备可以根据各个局部图的拍摄角度，将各个局部图投影到初始全景深度图中，从而实现将局部图拼接成全景图。如图3所示，其示出了本实施例的全景图的示例性示意图。

在一些可选的实现方式中，本步骤可以如下执行：

首先，确定全景深度图中是否包括空洞区域。通常，由于相机抖动、相机对焦不准等原因，会造成深度图的生成过程中产生计算错误，形成空洞区域。空洞区域可以是全景深度图中的，在全景深度图对应的坐标系中没有对应的坐标的像素。

如果包括空洞区域，将空洞区域填充，得到无空洞全景深度图。具体地，电子设备可以利用现有的各种方式对空洞进行填充。作为示例，可以采用高斯卷积方法对空洞进行填充。

如果不包括空洞区域，将初始全景深度图确定为无空洞全景深度图。

最后，基于无空洞全景深度图，将预设数量的局部图拼接成全景图。作为示例，电子设备可以根据预设的外参数，确定无空洞全景深度图的坐标系与各个局部图的坐标系之间的对应关系，根据该对应关系，将各个局部图投影到全景深度图中，从而得到全景图。

本实现方式通过对空洞区域进行填充，可以避免在生成全景图时空洞区域造成的影响，提高生成全景图的准确性。

在一些可选的实现方式中，电子设备可以按照如下步骤生成全景图：

首先，利用预设的外参数，将无空洞全景深度图的坐标系投影到预设数量的局部图的坐标系中，得到无空洞全景深度图中的像素与预设数量的局部图中的像素的对应关系。具体地，无空洞全景深度图的坐标系为世界坐标系，每个局部图对应于一套外参数，通常为外参数矩阵，对于某个局部图，电子设备可以利用对应于该局部图的外参数，将世界坐标系投影到该局部图的相机坐标系中。通过坐标系的变换，最终可以确定全景深度图中的每个像素与局部图中的像素的对应关系。

然后，基于对应关系，生成全景图。具体地，电子设备可以将全景深度图中的每个像素替换为对应的局部图中的像素，从而得到全景图。本实现方式可以根据外参数实现准确地坐标变换，进而生成全景图，从而实现了生成的全景图可以反映三维信息，提高了生成全景图的准确性。

步骤203，从全景图中提取用于表征预先设置的线条的线条图。

在本实施例中，电子设备可以从全景图中提取用于表征预先设置的线条的线条图。作为示例，电子设备可以从全景图中确定颜色为预设颜色，且连续排列成线条状的像素组成的线条图。

通常，上述用于表征预先设置的线条的线条图可以是预先在检测房间的墙壁上所粘贴的预设颜色(例如黑色)的线条的图像。

在一些可选的实现方式中，电子设备可以按照如下步骤从全景图中提取用于表征预先设置的线条的线条图：

首先，对全景图进行二值化处理，得到二值化图像。通常，二值化图像包括黑白两种颜色的像素，由于通常检测房间的墙壁呈白色、线条呈黑色，因此二值化图像可以将黑色线条凸显出来。如图4所示，其示出了基于图3所示的全景图进行二值化处理得到的二值化图像，二值化图像包括黑白两种颜色，二值化图像中的白色线条即为墙壁上粘贴的黑色线条。

然后，从二值化图像中确定线条图。具体地，电子设备可以从二值化图像中确定颜色为预设颜色，且连续排列成线条状的像素组成的线条图。本实现方式通过对全景图进行二值化处理，可以将其他颜色的像素屏蔽掉，有助于更准确地提取线条图。如图5所示，其示出了从二值化图像中确定的线条图。

在一些可选的实现方式中，电子设备可以按照如下步骤从二值化图像中确定线条图：

首先，从二值化图像中确定第二目标标记图像。其中，第二目标标记图像是预先设置在线条上的标记的图像，该标记可以是各种形式，例如，该标记可以是二维码。电子设备可以从二值化图像中识别该二维码，从而确定二维码的位置。需要说明的是，第二目标标记图像还可以是其他形式，例如某种图形，或某种物体的照片等等。如图3所示，301为二维码形式的第二目标标记。

然后，以第二目标标记图像作为线条起点，提取线条图。具体地，电子设备可以以第二目标标记图像作为起点，利用区域生长算法将线条提取出来，得到线条图。

本实现方式，通过识别第二目标标记图像来提取线条图，可以准确地确定线条起点位置，提高了提取线条图的准确性。

步骤204，在线条图中确定拼接线。

在本实施例中，电子设备可以在线条图中确定拼接线。其中，拼接线对应于全景图中的两个相邻的局部图之间的交界线。具体地，线条图的大小与全景图的大小相同，可以根据在全景图中两个相邻的局部图之前的交界线的位置，确定线条图中的拼接线的位置。

步骤205，在拼接线两侧的每行像素中，确定颜色不相等的像素数量占拼接线两侧的总像素数量的比重。

在本实施例中，电子设备可以在拼接线两侧的每行像素中，确定颜色不相等的像素数量占拼接线两侧的总像素数量的比重。如图6所示，假设拼接线601两侧的像素总数为20，其中，拼接线两侧不相等的像素的数量为8(如图中虚线框所示)，则比重为8/20。

步骤206，响应于确定比重符合第一预设条件，输出用于表征全景图中的拼缝过大的信息。

在本实施例中，电子设备可以响应于确定比重符合第一预设条件，输出用于表征全景图中的拼缝过大的信息。其中，第一预设条件可以是上述比重大于或等于预设的比重阈值。输出的信息可以包括但不限于以下至少一种形式的信息：文字、符号、图像等。通常，在输出上述信息后，技术人员可以重新对全景图拍摄设备进行校准、标定等操作，然后重新执行上述步骤201-步骤206，以使拼缝的大小降低到符合要求。

本公开的上述实施例提供的方法，通过使用全景深度图，将局部图拼接成全景图，再从全景图中提取线条图，然后确定线条图中的拼接线两侧的像素的颜色是否相等，如果不相等的像素所占的比重符合第一预设条件，则确定全景图的拼缝过大，从而实现了对包含三维信息的全景图中的拼缝做出有效检测，有助于根据拼缝检测的结果改善全景图拼接的效果。

进一步参考图7，示出了全景图拼缝检测方法的又一个实施例的流程示意图。如图7所示，在上述图2所示实施例的基础上，在步骤201之前，还可以包括如下步骤：

步骤701，获取全景图拍摄设备在旋转一周过程中的起点位置和终点位置分别拍摄的起点图像和终点图像。

在本实施例中，电子设备可以获取全景图拍摄设备在旋转一周过程中的起点位置和终点位置分别拍摄的起点图像和终点图像。作为示例，全景图拍摄设备可以每旋转60度拍摄一次，假设第一次拍摄时的位置为起点位置，则第七次拍摄时的位置为终点位置。

步骤702，从起点图像和终点图像中分别提取第一目标标记图像。

在本实施例中，电子设备可以从起点图像和终点图像中分别提取第一目标标记图像。其中，第一目标标记图像是预先设置在线条上的标记的图像，该标记可以是各种形式，例如，该标记可以是二维码。电子设备可以从二值化图像中识别该二维码，从而确定二维码的位置。需要说明的是，第一目标标记图像还可以是其他形式，例如某种图形，或某种物体的照片等等。如图3所示，302为二维码形式的第一目标标记。

步骤703，确定起点图像中的第一目标标记图像和终点图像中的第一目标标记图像的位置偏差。

在本实施例中，电子设备可以确定起点图像中的第一目标标记图像和终点图像中的第一目标标记图像的位置偏差。位置偏差可以采用各种形式确定，例如，可以确定起点图像中的第一目标标记图像的中心点和终点图像中的第一目标标记图像的中心点的坐标，将两个中心点之间的距离作为位置偏差。此外，还可以确定其他标记点之间的距离作为位置偏差，例如矩形的角点。

步骤704，响应于确定位置偏差符合第二预设条件，向全景图拍摄设备发送用于指示重新拍摄预设数量的局部图和全景深度图的命令。

在本实施例中，电子设备可以响应于确定位置偏差符合第二预设条件，向全景图拍摄设备发送用于指示重新拍摄预设数量的局部图和全景深度图的命令。其中，第二预设条件可以为位置偏差大于或等于预设的位置偏差阈值。当位置偏差符合第二预设条件时，表示全景图拍摄设备旋转一周后因设备抖动、电机旋转误差等原因没有回到起始位置，此时，电子设备向全景图拍摄设备发送命令，全景图拍摄设备重新旋转一周拍摄局部图和全景深度图。

上述图7对应实施例提供的方法，通过比较起点图像中的第一目标标记图像和终点图像中的第一目标标记图像的位置偏差，可以准确地确定全景图拍摄设备旋转一周后是否精确地回到原位，有助于降低设备本身对生成全景图的影响，减少生成全景图时产生的拼接误差，以及提高检测拼缝的准确性。

示例性装置

图8是本公开一示例性实施例提供的全景图拼缝检测装置的结构示意图。本实施例可应用在电子设备上，如图8所示，全景图拼缝检测装置包括：第一获取模块801，用于获取全景图拍摄设备拍摄的预设数量的局部图和初始全景深度图；拼接模块802，用于基于初始全景深度图，将预设数量的局部图拼接成全景图；第一提取模块803，用于从全景图中提取用于表征预先设置的线条的线条图；第一确定模块804，用于在线条图中确定拼接线，其中，拼接线对应于全景图中的两个相邻的局部图之间的交界线；第二确定模块805，用于在拼接线两侧的每行像素中，确定颜色不相等的像素数量占拼接线两侧的总像素数量的比重；输出模块806，用于响应于确定比重符合第一预设条件，输出用于表征全景图中的拼缝过大的信息。

在本实施例中，第一获取模块801可以从远程或从本地获取全景图拍摄设备(如图1所示的全景图拍摄设备104)拍摄的预设数量的局部图和初始全景深度图。通常，全景图拍摄设备设置在某处，且可以360度旋转，全景图拍摄设备可以包括多组相机，全景图拍摄设备每旋转一周，每组相机可以对周围环境拍摄多个图像(即局部图，通常为彩色图)。相机可以是双目相机，每旋转一周，还可以得到一张全景深度图，该全景深度图可以是每组相机旋转过程中拍摄得到的深度图拼接而成的。需要说明的是，生成全景深度图的方法是目前广泛研究和应用的公知技术，在此不再赘述。

作为示例，全景图拍摄设备可以放置在检测房间的中央，检测房间的墙壁为白色，墙壁上粘贴若干黑色线条，用于检测拼缝是否过大。全景图拍摄设备在电机的带动下水平旋转，每旋转60度可以拍摄一次图像，如果包括三组相机，则旋转一周可以拍摄18张彩色图像，并生成一张初始全景深度图。

在本实施例中，拼接模块802可以基于初始全景深度图，将预设数量的局部图拼接成全景图。作为示例，拼接模块802可以根据各个局部图的拍摄角度，将各个局部图投影到初始全景深度图中，从而实现将局部图拼接成全景图。如图3所示，其示出了本实施例的全景图的示例性示意图。

在本实施例中，第一提取模块803可以从全景图中提取用于表征预先设置的线条的线条图。作为示例，第一提取模块803可以从全景图中确定颜色为预设颜色，且连续排列成线条状的像素组成的线条图。

通常，上述用于表征预先设置的线条的线条图可以是预先在检测房间的墙壁上所粘贴的预设颜色(例如黑色)的线条的图像。

在本实施例中，第一确定模块804可以在线条图中确定拼接线。其中，拼接线对应于全景图中的两个相邻的局部图之间的交界线。具体地，线条图的大小与全景图的大小相同，可以根据在全景图中两个相邻的局部图之前的交界线的位置，确定线条图中的拼接线的位置。

在本实施例中，第二确定模块805可以在拼接线两侧的每行像素中，确定颜色不相等的像素数量占拼接线两侧的总像素数量的比重。如图6所示，假设拼接线601两侧的像素总数为20，其中，拼接线两侧不相等的像素的数量为8(如图中虚线框所示)，则比重为8/20。

在本实施例中，输出模块806可以响应于确定比重符合第一预设条件，输出用于表征全景图中的拼缝过大的信息。其中，第一预设条件可以是上述比重大于或等于预设的比重阈值。输出的信息可以包括但不限于以下至少一种形式的信息：文字、符号、图像等。

参照图9，图9是本公开另一示例性实施例提供的全景图拼缝检测装置的结构示意图。

在一些可选的实现方式中，该装置还可以包括：第二获取模块807，用于获取全景图拍摄设备在旋转一周过程中的起点位置和终点位置分别拍摄的起点图像和终点图像；第二提取模块808，用于从起点图像和终点图像中分别提取第一目标标记图像；第三确定模块809，用于确定起点图像中的第一目标标记图像和终点图像中的第一目标标记图像的位置偏差；发送模块810，用于响应于确定位置偏差符合第二预设条件，向全景图拍摄设备发送用于指示重新拍摄预设数量的局部图和全景深度图的命令。

在一些可选的实现方式中，拼接模块802可以包括：第一确定单元8021，用于确定初始全景深度图中是否包括空洞区域；填充单元8022，用于如果包括空洞区域，将空洞区域填充，得到无空洞全景深度图；第二确定单元8023，用于如果不包括空洞区域，将初始全景深度图确定为无空洞全景深度图；拼接单元8024，用于基于无空洞全景深度图，将预设数量的局部图拼接成全景图。

在一些可选的实现方式中，拼接单元8024包括：投影子单元80241，用于利用预设的外参数，将无空洞全景深度图的坐标系投影到预设数量的局部图的坐标系中，得到无空洞全景深度图中的像素与预设数量的局部图中的像素的对应关系；生成子单元80242，用于基于对应关系，生成全景图。

在一些可选的实现方式中，第一提取模块803可以包括：二值化处理单元8031，用于对全景图进行二值化处理，得到二值化图像；第三确定单元8032，用于从二值化图像中确定线条图。

在一些可选的实现方式中，第三确定单元8032可以包括：确定子单元80321，用于从二值化图像中确定第二目标标记图像；提取子单元80322，用于以第二目标标记图像作为线条起点，提取线条图。

本公开上述实施例提供的全景图拼缝检测装置，通过使用全景深度图，将局部图拼接成全景图，再从全景图中提取线条图，然后确定线条图中的拼接线两侧的像素的颜色是否相等，如果不相等的像素所占的比重符合第一预设条件，则确定全景图的拼缝过大，从而实现了对包含三维信息的全景图中的拼缝做出有效检测，有助于根据拼缝检测的结果改善全景图拼接的效果。

示例性电子设备

下面，参考图10来描述根据本公开实施例的电子设备。该电子设备可以是如图1所示的终端设备101和服务器103中的任一个或两者、或与它们独立的单机设备，该单机设备可以与终端设备101和服务器103进行通信，以从它们接收所采集到的输入信号。

图10图示了根据本公开实施例的电子设备的框图。

如图10所示，电子设备1000包括一个或多个处理器1001和存储器1002。

处理器1001可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备1000中的其他组件以执行期望的功能。

存储器1002可以包括一个或多个计算机程序产品，计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器1001可以运行程序指令，以实现上文的本公开的各个实施例的全景图拼缝检测方法以及/或者其他期望的功能。在计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。

在一个示例中，电子设备1000还可以包括：输入装置1003和输出装置1004，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。

例如，在该电子设备是终端设备101或服务器103时，该输入装置1003可以是相机等设备，用于输入图像。在该电子设备是单机设备时，该输入装置1003可以是通信网络连接器，用于从终端设备101和服务器103接收所输入的图像。

该输出装置1004可以向外部输出各种信息，包括用于表征全景图中的拼缝过大的信息。该输出设备1004可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。

当然，为了简化，图10中仅示出了该电子设备1000中与本公开有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备1000还可以包括任何其他适当的组件。

示例性计算机程序产品和计算机可读存储介质

除了上述方法和设备以外，本公开的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的全景图拼缝检测方法中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本公开的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的全景图拼缝检测方法中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本公开的基本原理，但是，需要指出的是，在本公开中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本公开为必须采用上述具体的细节来实现。

本说明书中各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言，由于其与方法实施例基本对应，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

可能以许多方式来实现本公开的方法和装置。例如，可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明，本公开的方法的步骤不限于以上具体描述的顺序，除非以其它方式特别说明。此外，在一些实施例中，还可将本公开实施为记录在记录介质中的程序，这些程序包括用于实现根据本公开的方法的机器可读指令。因而，本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。

还需要指出的是，在本公开的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此，本公开不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (12)

1.一种全景图拼缝检测方法，包括：

获取全景图拍摄设备拍摄的预设数量的局部图和初始全景深度图；

基于所述初始全景深度图，将所述预设数量的局部图拼接成全景图；

从所述全景图中提取用于表征预先设置的线条的线条图，其中，所述线条图是预先在具有第一预设颜色的检测房间的墙壁上所粘贴的具有第二预设颜色的线条的图像；

在所述线条图中确定拼接线，其中，所述拼接线对应于所述全景图中的两个相邻的局部图之间的交界线；

在所述拼接线两侧的每行像素中，确定颜色不相等的像素数量占所述拼接线两侧的总像素数量的比重；

响应于确定所述比重符合第一预设条件，输出用于表征所述全景图中的拼缝过大的信息。

2.根据权利要求1所述的方法，其中，所述从所述全景图中提取用于表征预先设置的线条的线条图，包括：

对所述全景图进行二值化处理，得到二值化图像；

从所述二值化图像中确定所述线条图。

3.根据权利要求2所述的方法，其中，所述从所述二值化图像中确定所述线条图，包括：

从所述二值化图像中确定第二目标标记图像；

以所述第二目标标记图像作为线条起点，提取所述线条图。

4.根据权利要求1所述的方法，其中，所述基于所述初始全景深度图，将所述预设数量的局部图拼接成全景图，包括：

确定所述初始全景深度图中是否包括空洞区域；

如果包括空洞区域，将所述空洞区域填充，得到无空洞全景深度图；

如果不包括空洞区域，将所述初始全景深度图确定为无空洞全景深度图；

基于所述无空洞全景深度图，将所述预设数量的局部图拼接成全景图。

5.根据权利要求4所述的方法，其中，所述基于所述无空洞全景深度图，将所述预设数量的局部图拼接成全景图，包括：

利用预设的外参数，将所述无空洞全景深度图的坐标系投影到所述预设数量的局部图的坐标系中，得到所述无空洞全景深度图中的像素与所述预设数量的局部图中的像素的对应关系；

基于所述对应关系，生成所述全景图。

6.根据权利要求1所述的方法，其中，在所述获取全景图拍摄设备拍摄的预设数量的局部图和初始全景深度图之前，所述方法还包括：

获取所述全景图拍摄设备在旋转一周过程中的起点位置和终点位置分别拍摄的起点图像和终点图像；

从所述起点图像和所述终点图像中分别提取第一目标标记图像；

确定所述起点图像中的第一目标标记图像和所述终点图像中的第一目标标记图像的位置偏差；

响应于确定所述位置偏差符合第二预设条件，向所述全景图拍摄设备发送用于指示重新拍摄预设数量的局部图和全景深度图的命令。

7.一种全景图拼缝检测装置，包括：

第一获取模块，用于获取全景图拍摄设备拍摄的预设数量的局部图和初始全景深度图；

拼接模块，用于基于所述初始全景深度图，将所述预设数量的局部图拼接成全景图；

第一提取模块，用于从所述全景图中提取用于表征预先设置的线条的线条图，其中，所述线条图是预先在具有第一预设颜色的检测房间的墙壁上所粘贴的具有第二预设颜色的线条的图像；

第一确定模块，用于在所述线条图中确定拼接线，其中，所述拼接线对应于所述全景图中的两个相邻的局部图之间的交界线；

第二确定模块，用于在所述拼接线两侧的每行像素中，确定颜色不相等的像素数量占所述拼接线两侧的总像素数量的比重；

输出模块，用于响应于确定所述比重符合第一预设条件，输出用于表征所述全景图中的拼缝过大的信息。

8.根据权利要求7所述的装置，其中，所述第一提取模块包括：

二值化处理单元，用于对所述全景图进行二值化处理，得到二值化图像；

第三确定单元，用于从所述二值化图像中确定所述线条图。

9.根据权利要求8所述的装置，其中，所述第三确定单元包括：

确定子单元，用于从所述二值化图像中确定第二目标标记图像；

提取子单元，用于以所述第二目标标记图像作为线条起点，提取所述线条图。

10.根据权利要求7所述的装置，其中，所述装置还包括：

第二获取模块，用于获取所述全景图拍摄设备在旋转一周过程中的起点位置和终点位置分别拍摄的起点图像和终点图像；

第二提取模块，用于从所述起点图像和所述终点图像中分别提取第一目标标记图像；

第三确定模块，用于确定所述起点图像中的第一目标标记图像和所述终点图像中的第一目标标记图像的位置偏差；

发送模块，用于响应于确定所述位置偏差符合第二预设条件，向所述全景图拍摄设备发送用于指示重新拍摄预设数量的局部图和全景深度图的命令。

11.一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述权利要求1-6中任一项所述的方法。

12.一种电子设备，所述电子设备包括：

处理器；

用于存储所述处理器可执行指令的存储器；

所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述权利要求1-6中任一项所述的方法。

Images