CN115861050A - 用于生成全景图像的方法、装置、设备和存储介质 - Google Patents

Abstract

本公开实施例公开了一种用于生成全景图像的方法、装置、设备和存储介质，其中，方法包括：获取用于生成目标全景图像的多个局部图像，在目标全景图像的坐标系中，相邻的局部图像之间具有重合区域；基于局部图像中的目标像素点对应的参考像素点，对目标像素点的像素值进行编码，得到局部图像对应的编码图像，目标像素点为位于局部图像的重合区域内的像素点，参考像素点为位于目标像素点的预设邻域内的像素点；对相邻的两个编码图像进行特征匹配，确定相邻的两个编码图像之间的特征点对；基于各特征点对，对各编码图像对应的局部图像进行配准，得到配准后的待拼接图像；基于各待拼接图像，生成目标全景图像。有助于提高全景图像的质量。

Description

用于生成全景图像的方法、装置、设备和存储介质

技术领域

本公开涉及计算机视觉技术和图像处理技术，尤其涉及一种用于生成全景图像的方法、装置电子设备和可读存储介质。

背景技术

在计算机视觉领域，可以通过图像拼接算法将多个具有重合区域的图像拼接为全景图像。

相关技术中，通过图像拼接的方式生成全景图像的过程通常包括以下步骤：通过特征匹配的方式，确定两个图像之间匹配的特征点，并基于特征点对图像进行配准，以使两个图像在重合区域内的纹理尽可能地对齐；然后通过坐标变换，将配准后的图像投影到全景图像的坐标系中，将图像拼接为全景图像。

在这个过程中，不同图像的图像纹理在重合区域内的对齐程度，直接关系到全景图像的拼接质量。

发明内容

本公开实施例提供一种用于生成全景图像的方法、装置电子设备和可读存储介质。

本公开实施例的一个方面，提供一种用于生成全景图像的方法，包括：获取用于生成目标全景图像的多个局部图像，在目标全景图像的坐标系中，相邻的局部图像之间具有重合区域；针对多个局部图像中的每个局部图像，基于目标像素点对应的参考像素点，对目标像素点的像素值进行编码，得到各局部图像对应的编码图像，其中，目标像素点为位于局部图像的重合区域内的像素点，参考像素点为位于目标像素点的预设邻域内的像素点；针对各编码图像，对相邻的两个编码图像进行特征匹配，确定相邻的两个编码图像之间的特征点对；基于各特征点对，分别对各编码图像对应的局部图像进行配准，并将得到配准后的各局部图像确定为待拼接图像；基于各待拼接图像，生成目标全景图像。

在一些实施例中，基于局部图像中的目标像素点对应的参考像素点，对目标像素点的像素值进行编码，得到局部图像对应的编码图像，包括：在目标像素点的预设邻域内确定预设数量的参考像素点，并获取目标像素点和参考像素点的像素值；若参考像素点的像素值大于目标像素点的像素值，则将参考像素点对应的数值确定为1；若参考像素点的像素值不大于目标像素点的像素值，则将参考像素点对应的数值确定为0；将各参考像素点对应的数值排列成二进制编码；将目标像素点的像素值更新为二进制编码，得到局部图像对应的编码图像。

在一些实施例中，基于各待拼接图像，生成目标全景图像，包括：分别确定各待拼接图像沿预设方向的梯度，预设方向与各待拼接图像在目标全景图像的坐标系中的排列方向垂直；基于相邻的两个待拼接图像在重合区域内的梯度差异，确定相邻的两个待拼接图像对应的拼接线，拼接线上的像素点对应的梯度差异为局部区域内的极小值；基于各拼接线，将各待拼接图像拼接为目标全景图像。

在一些实施例中，基于相邻的两个待拼接图像在重合区域内的梯度差异，确定相邻的两个待拼接图像对应的拼接线，包括：基于相邻的两个待拼接图像在重合区域内的梯度差异，生成梯度差异图；沿预设方向或预设方向的反方向逐行遍历梯度差异图，将第一行中梯度差异最小的像素点确定为第一行的分割点，并将剩余各行中梯度差异与距离权重的乘积最小的像素点确定为该行的分割点，其中，距离权重正相关于像素点与上一行的分割点之间的距离；将梯度差异图中的各分割点分别映射至相邻的两个待拼接图像，得到相邻的两个待拼接图像对应的拼接线。

在一些实施例中，基于相邻的两个待拼接图像在重合区域内的梯度差异，生成梯度差异图之前，方法还包括：对待拼接图像进行高斯卷积处理，剔除待拼接图像中的噪点。

在一些实施例中，基于各特征点对，分别对各编码图像对应的局部图像进行配准，得到配准后的各局部图像确定为待拼接图像，包括：基于特征点对中的两个特征点的相对位置，确定特征点对中每个特征点的位置偏移量；基于编码图像中包括的特征点的位置偏移量，确定编码图像的形变偏移量；将编码图像的形变偏移量确定为编码图像对应的局部图像的形变偏移量；基于局部图像的形变偏移量，对局部图像进行仿射变换，得到局部图像对应的待拼接图像。

在一些实施例中，基于编码图像中包括的特征点对应的位置偏移量，确定编码图像的形变偏移量，包括：对编码图像的重合区域进行栅格化处理，将得到的栅格的中心点确定为锚点，并确定锚点对应的预设区域；基于预设区域内的特征点对应的位置偏移量，确定锚点对应的位置偏移量；基于编码图像中包括的各锚点的位置偏移量，确定编码图像的形变偏移量。

本公开实施例的又一个方面，提供一种用于生成全景图像的装置，包括：图像获取单元，被配置成获取用于生成目标全景图像的多个局部图像，在目标全景图像的坐标系中，相邻的局部图像之间具有重合区域；图像编码单元，被配置成针对多个局部图像中的每个局部图像，基于目标像素点对应的参考像素点，对目标像素点的像素值进行编码，得到各局部图像分别对应的编码图像，其中，目标像素点为位于局部图像的重合区域内的像素点，参考像素点为位于目标像素点的预设邻域内的像素点；特征匹配单元，被配置成针对各编码图像，对相邻的两个编码图像进行特征匹配，确定相邻的两个编码图像之间的特征点对；图像配准单元，被配置成基于各特征点对，分别对各编码图像对应的局部图像进行配准，并将配准后的各局部图像确定为待拼接图像；图像生成单元，被配置成基于各待拼接图像，生成目标全景图像。

本公开实施例的又一个方面，提供了一种电子设备，包括：存储器，用于存储计算机程序产品；处理器，用于执行存储器中存储的计算机程序产品，且计算机程序产品被执行时，实现上述任一实施例中的方法。

本公开实施例的又一个方面，提供了一种计算机可读存储介质，其上存储有计算机程序指令，该计算机程序指令被处理器执行时，实现上述任一实施例中的方法。

本公开的实施例提供的用于生成全景图像的方法，根据目标像素点周围的参考像素点对目标像素点的像素值进行编码，形成的编码图像中包含目标像素点与预设邻域内的参考像素点之间的潜在关联，可以拓展利用编码图像进行特征匹配时提取的特征信息的维度，进而提高特征点的匹配程度以及局部图像的配准效果，使得相邻的局部图像之间的对齐程度更高，有助于减小将局部图像拼接为目标全景图像时的拼接缝隙，从而提高生成的全景图像的质量。

下面通过附图和实施例，对本公开的技术方案做进一步的详细描述。

附图说明

构成说明书的一部分的附图描述了本公开的实施例，并且连同描述一起用于解释本公开的原理。

参照附图，根据下面的详细描述，可以更加清楚地理解本公开，其中：

图1为本公开的用于生成全景图像的方法的一个实施例的流程图；

图2为本公开的用于生成全景图像的方法的一个实施例中生成编码图像的流程示意图；

图3为本公开的用于生成全景图像的方法的一个实施例中对目标像素点进行编码的示意图；

图4为本公开的用于生成全景图像的方法的一个实施例中生成目标全景图像的流程示意图；

图5为本公开的用于生成全景图像的方法的一个实施例中生成目标全景图像的示意图；

图6为本公开的用于生成全景图像的方法的一个实施例中确定拼接线的流程示意图；

图7为本公开的用于生成全景图像的方法的一个实施例中图像配准的流程示意图；

图8为本公开的用于生成全景图像的方法的一个实施例中确定形变偏移量的流程示意图；

图9为本公开的用于生成全景图像的方法的一个实施例中特征点对和锚点的示意图；

图10为本公开用于生成全景图像的装置一个实施例的结构示意图；

图11为本公开电子设备一个应用实施例的结构示意图。

具体实施方式

现在将参照附图来详细描述本公开的各种示例性实施例。应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。

本领域技术人员可以理解，本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等，既不代表任何特定技术含义，也不表示它们之间的必然逻辑顺序。

还应理解，在本公开实施例中，“多个”可以指两个或两个以上，“至少一个”可以指一个、两个或两个以上。

还应理解，对于本公开实施例中提及的任一部件、数据或结构，在没有明确限定或者在前后文给出相反启示的情况下，一般可以理解为一个或多个。

另外，本公开中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本公开中字符“/”，一般表示前后关联对象是一种“或”的关系。

还应理解，本公开对各个实施例的描述着重强调各个实施例之间的不同之处，其相同或相似之处可以相互参考，为了简洁，不再一一赘述。

同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。

以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使用的任何限制。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为说明书的一部分。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

本公开实施例可以应用于终端设备、计算机系统、服务器等电子设备，其可与众多其它通用或专用计算系统环境或配置一起操作。适于与终端设备、计算机系统、服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括但不限于：个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统﹑大型计算机系统和包括上述任何系统的分布式云计算技术环境，等等。

终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常，程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等，它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施，分布式云计算环境中，任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中，程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。

本公开概述

在实现本公开的过程中，发明人发现，将局部图像投影至全景图像的坐标系之后，图像畸变、相机位姿、深度等误差的都会对相邻的局部图像的对齐程度产生不利影响，导致将局部图像拼接为全景图像时，存在较大的拼接缝隙，从而影响了全景图像的质量。

示例性方法

下面结合图1对本公开的用于生成全景图像的方法进行示例性说明。图1示出了本公开的用于生成全景图像的方法的一个实施例的流程图，如图1所示，该流程包括以下步骤：。

步骤110、获取用于生成目标全景图像的多个局部图像。

其中，在目标全景图像的坐标系中，多个局部图像中任意两个相邻的局部图像之间具有重合区域。

在本实施例中，局部图像表示经过姿态配准且投影到目标全景坐标系中的图像，重合区域表征场景中的同一个区域在相邻的两个局部图像中分别形成的图像区域。目标全景图像表示待生成的全景图像。

作为示例，可以通过如下方式获取局部图像，利用相机采集场景图像时，相机沿竖直方向每旋转60度采集一张图像，这样一来，得到的6张图像可以覆盖整个场景。由于相机的拍摄范围大于60度，相邻图像之间存在重合区域。之后，可以基于相机参数(例如包括内参、外参)和待生成的目标全景图像的参数(例如分辨率)对图像进行姿态配准、坐标变换等处理，可以将图像投影至目标全景图像的坐标系中，从而得到了6个局部图像。

步骤120、针对多个局部图像中的每个局部图像，基于目标像素点对应的参考像素点，对目标像素点的像素值进行编码，得到各局部图像分别对应的编码图像。

其中，目标像素点为位于局部图像的重合区域内的像素点，参考像素点为位于目标像素点的预设邻域内的像素点。

作为示例，执行主体(例如可以是服务器或终端设备)可以将目标像素点相邻的像素点作为目标像素点对应的参考像素点，并基于参考像素点的像素值对目标像素点的像素值进行编码，例如可以将各个参考像素点的像素值的加权平均值作为目标像素点的像素值；还可以将参考像素点的像素值与目标像素点的像素值进行对比，并根据对比结果对目标像素点的像素值进行编码。这样一来，可以将局部图像的重合区域内的像素点的像素值更新为编码后的像素值，从而得到局部图像对应的编码图像。

需要说明的是，对于重合区域之外的图像区域，可以不作处理，也可以将该图像区域的像素值设定为预设像素值，例如可以是0。并且，由于编码过程仅对像素值进行处理，并未改变图像尺寸，因而局部图像与其编码图像的区别仅在于重合区域内的像素点的像素值，像素点的位置是一一对应的。

步骤130、针对各编码图像，对相邻的两个编码图像进行特征匹配，确定相邻的两个编码图像之间的特征点对。

在本实施例中，特征点对中包括的两个特征点表示图像所表征的场景中的同一个点在相邻的两个编码图像中分别对应的像素点。

作为示例，执行主体可以从相邻的两个编码图像中提取图像的纹理特征，通过对比两个编码图像的纹理特征，从两个编码图像中确定出具备匹配关系的特征点，从而得到相邻的两个编码图像之间的特征点对。

步骤140、基于各特征点对，分别对各编码图像对应的局部图像进行配准，并将配准后的各局部图像确定为待拼接图像。

在本实施例中，执行主体可以首先将特征点对在各自的编码图像中的位置映射至局部图像，根据特征点对中包括的两个特征点的相对位置，利用形变传播算法确定相邻的两个局部图像之间的形变差异；然后，可以通过仿射变换对局部图像进行配准，以使相邻的两个局部图像中的特征点尽可能的重合，使得相邻的两个局部图像在重合区域内的纹理尽可能的对齐，从而得到的配准后的待拼接图像。

步骤150、基于各待拼接图像，生成目标全景图像。

在本实施例中，执行主体可以通过图像拼接(或图像融合)，将各拼接图像拼接为目标全景图像。

作为示例，执行主体可以首先在重合区域中确定出相邻的两个待拼接图像的拼接线，然后基于拼接线对两个待拼接图像分别进行裁切处理，并将裁切后的待拼接图像拼接在一起，即可得到目标全景图像。

本实施例提供的用于生成全景图像的方法，根据目标像素点周围的参考像素点对目标像素点的像素值进行编码，形成的编码图像中包含目标像素点与预设邻域内的参考像素点之间的潜在关联，可以拓展利用编码图像进行特征匹配时提取的特征信息的维度，进而提高特征点的匹配程度以及局部图像的配准效果，使得相邻的局部图像之间的对齐程度更高，有助于减小将局部图像拼接为目标全景图像时的拼接缝隙，从而提高生成的全景图像的质量。

接着参考图2，图2示出了本公开的用于生成全景图像的方法的一个实施例中生成编码图像的流程图，如图2所示，该流程包括以下步骤：

步骤210、在目标像素点的预设邻域内确定预设数量的参考像素点，并获取目标像素点和参考像素点的像素值。

在本实施例中，预设邻域和预设数量可以根据实际需求或经验进行设定。预设邻域表示图像中目标像素点周围的区域。作为示例，可以通过像素距离或像素坐标表征预设邻域，例如可以是距离目标像素点1个像素坐标的区域，该区域内的8个像素点可以全部作为参考像素点，也可以从中选取部分像素点作为参考像素点。

步骤220、若参考像素点的像素值大于目标像素点的像素值，则将参考像素点对应的数值确定为1。

步骤230、若参考像素点的像素值不大于目标像素点的像素值，则将参考像素点对应的数值确定为0。

需要说明的是，本实施例中的“1”和“0”用于表征参考像素点与目标像素点的像素值对比结果，在一些实施方式中，还可以采用与本实施例相反的表征方式，例如，若参考像素点的像素值不大于目标像素点的像素值，则将参考像素点对应的数值确定为1，同时，若参考像素点的像素值大于目标像素点的像素值，则将参考像素点对应的数值确定为0。

步骤240、将各参考像素点对应的数值排列成二进制编码。

步骤250、将目标像素点的像素值更新为二进制编码，得到局部图像对应的编码图像。

进一步结合图3对本实施例中对目标像素点的编码过程进行示例性说明，如图3所示，目标像素点300的像素值为200，参考像素点310、320、330、340、350、360、370、380的像素值分别为100、250、150、80、90、210、255、100，则参考像素点310、320、330、340、350、360、370、380对应的数值分别为0、1、0、0、0、1、1、0，将上述数值排列可以得到的8位的二进制编码：01000110，之后，可以将目标像素点300的像素值更新为该二进制编码。

在本实施例中，通过对比目标像素点与参考像素点的像素值，并利用二进制编码表征对比结果，可以将目标像素点与参考像素点的潜在关联(例如差异程度或相似程度)编码到目标像素点的像素值中，可以拓展后续的特征匹配中可以利用的特征信息的维度，有助于提高特征匹配的准确度。

接着参考图4，图4示出了本公开的用于生成全景图像的方法的一个实施例中生成目标全景图像的流程图，如图4所示，该流程包括以下步骤：

步骤410、分别确定各待拼接图像沿预设方向的梯度。

其中，预设方向与各待拼接图像在目标全景图像的坐标系中的排列方向垂直。

作为示例，各待拼接图像在目标全景图像的坐标系中的排列方向为目标全景图像的x轴方向，则预设方向为目标全景图像的y轴方向。执行主体可以分别确定出各个待拼接图像沿y轴方向的梯度。同理，若待拼接图像在目标全景图像的坐标系中的排列方向为目标全景图像的y轴方向，则预设方向为目标全景图像的x轴方向。

步骤420、基于相邻的两个待拼接图像在重合区域内的梯度差异，确定相邻的两个待拼接图像对应的拼接线。

其中，拼接线上的像素点对应的梯度差异为局部区域内的极小值。

在本实施例中，梯度差异可以表征两个待拼接图像的纹理差异。

在一个具体的示例中，预设方向为目标全景图像的y轴方向，执行主体可以确定出相邻的两个待拼接图像在重合区域内的梯度的差值绝对值，得到相邻的两个待拼接图像在重合区域内的梯度差异。然后，在待拼接图像平行于x轴方向的第一端确定出梯度差异最小的像素点作为拼接线的起点，然后遍历起点的局部区域内各个像素点的梯度差异，将局部区域内梯度差异最小的像素点为拼接线中的下一个像素点，重复该步骤，直至在与第一端相对的另一端确定出拼接线的终点，可以得到相邻的两个待拼接图像对应的拼接线。

在该示例中，假设拼接线上任一像素点的坐标为(a，b)，该像素点对应的预设区域可以是像素点(a-5，d)与像素点(a+5，d)之间的区域，其中，当拼接线沿y轴方向延伸时，d的取值可以是(b+n)，n为正整数；当拼接线沿y轴的反方向延伸时，d的取值可以是(b-m)。

步骤430、基于各拼接线，将各待拼接图像拼接为目标全景图像。

在本实施例中，确定出待拼接图像对应的拼接线之后，执行主体根据拼接线对待拼接图像进行裁切，然后将裁切后的图像拼接为目标全景图像。

进一步结合图5进行举例说明，如图5所示，待拼接图像510与待拼接图像520存在重合区域530，两者对应的拼接线为540，拼接线540位于待拼接图像510的右侧区域，执行主体可以将待拼接图像510中位于拼接线540右侧的图像区域裁掉，得到裁切后的图像550。相应地，待拼接图像520可以将拼接线540左侧的图像区域裁掉，得到裁切后的图像560，从图5中可以看出，裁切后的图像550和裁切后的图像560可以沿拼接线540对齐。执行主体对其余待拼接图像重复该步骤，可以将各个待拼接图像拼接为目标全景图像。

在图4所示的实施例中，通过相邻的两个待拼接图像在重合区域内的梯度差异表征相邻的两个待拼接图像在重合区域内的纹理差异，并选取局部区域内梯度差异的极小值对应的像素点确定拼接线，可以降低拼接线两侧的纹理差异，有助于进一步弱化生成全景图像时的拼接缝隙，从而提高生成的全景图像的质量。

进一步参考图6，图6出了本公开的用于生成全景图像的方法的一个实施例中确定拼接线的流程图，如图6示，该流程包括以下步骤：

步骤610、基于相邻的两个待拼接图像在重合区域内的梯度差异，生成梯度差异图。

作为示例，执行主体可以对相邻的两个待拼接图像的梯度在重合区域内求差，确定重合区域内各个像素点对应的梯度差的绝对值；之后，将梯度差的绝对值作为像素值，形成梯度差异图。

对于两个相邻的待拼接图像，重合区域外的图像区域并不存在内容上的关联，因而，可以将重合区域外的梯度差异设置为较大数值。

步骤620、沿预设方向或预设方向的反方向逐行遍历梯度差异图，将第一行中梯度差异最小的像素点确定为第一行的分割点，并将剩余各行中梯度差异与距离权重的乘积最小的像素点确定为该行的分割点。

其中，距离权重正相关于像素点与上一行的分割点之间的距离。

在本实施例中，基于距离权重与梯度差异的乘积确定分割点，可以实现在动态的局部区域内选取梯度差异的极小值。具体的，对于相同梯度差异的不同像素点，距离上一行的分割点越近，距离权重越小，则距离权重与梯度差异的乘积越小，相应地成为该行的分割点的概率就越大。以此确定出的分割点的梯度差异为上一行的分割点与该分割点之间的局部区域内的极小值。

步骤630、将梯度差异图中的各分割点分别映射至相邻的两个待拼接图像，得到相邻的两个待拼接图像对应的拼接线。

图6所示的实施例体现了基于梯度差异和距离权重的乘积确定拼接线的步骤，从梯度差异和距离两个维度对拼接线进行约束，既可以确保拼接线两侧的纹理差异较小，又可以降低拼接线在重合区域中跨越较多的图像纹理，可以进一步弱化生成全景图像时的拼接缝隙，提高全景图像的质量。

在本实施例的一些可选的实施方式中，在步骤610之前，该流程还可以包括：对待拼接图像进行高斯卷积处理，剔除待拼接图像中的噪点。

在本实施方式中，通过高斯卷积处理剔除待拼接图像中的噪点，可以降低噪点对拼接线的干扰。

接着参考图7，图7出了本公开的用于生成全景图像的方法的一个实施例中对局部图像进行配准的流程图，如图7示，该流程包括以下步骤：

步骤710、基于特征点对中的两个特征点的相对位置，确定特征点对中每个特征点的位置偏移量。

通常，特征点对中的两个特征点对应场景中的同一个点，在理想状态下，相邻两个编码图像完全对齐时，两个特征点是重合的。因而，特征点对中的两个特征点之间的相对位置与相邻两个编码图像的图像纹理的错位程度是相关的。

在本实施例中，特征点的位置偏移量表示将该特征点移动至与其对应的特征点的位置所需要的距离和方向。例如，执行主体首先确定两个特征点之间的相对位置，并确定每个特征点的移动方向；然后根据预先设定的比例系数，确定每个特征点需要的移动的距离，即可得到每个特征点的位置偏移量。假设两个特征点的位置相差100个像素点，则两个特征点的位置偏移量之和为100个像素点，其中，右侧特征点的位置偏移量可以是向左偏移20个像素点，左侧像素点的位置偏移量可以是向右偏移80个像素点。

作为示例，可以通过二维向量表征特征点对中的两个特征点的相对位置以及每个特征点的位置偏移量。具体的，编码图像1中的特征点A与编码图像2中的特征点B在重合区域内的相对位置可以由向量

表示，假设特征点A的坐标为(e，f)，特征点B的坐标为(g，h),该坐标可以特征点A和特征点B在重合区域内的坐标，也可以是特征点A和特征点B在编码图像1中的坐标或编码图像2中的坐标。特征点A与特征点B的相对位置可以表示为向量

特征点A的位置偏移量可以表示为/>

特征点B的位置偏移量可以表示为/>

步骤720、基于编码图像中包括的特征点的位置偏移量，确定编码图像的形变偏移量。

在本实施例中，执行主体可以采用形变传播算法，将各个特征点的位置偏移量传播至整个编码图像，得到的形变偏移量可以表征编码图像中每个像素点的位移偏移量。相邻的两个编码图像的形变偏移量之和可以表征该两个编码图像的纹理错位程度。例如，执行主体可以采用最小二乘法或加权平均法，基于各个特征点的位置偏移量确定编码图像的形变偏移量。

需要说明的是，一个编码图像可以同时与两个编码图像相邻，相应地，该编码图像可以同时具有两个重合区域，则执行主体可以分别确定出两个重合区域中的特征点及其位置偏移量，然后基于全部特征点的位置偏移量确定该编码图像的形变偏移量。

步骤730、将编码图像的形变偏移量确定为编码图像对应的局部图像的形变偏移量。

步骤740、基于局部图像的形变偏移量，对局部图像进行仿射变换，得到局部图像对应的待拼接图像。

在本实施例中，执行主体可以基于形变偏移量确定像素点的坐标变换矩阵，并以此对局部图像中的像素点进行坐标变换，实现对局部图像的仿射变换，得到待拼接图像。

图7所示的实施例可以基于特征点对中特征点的相对位置确定特征点的位置偏移量，并将特征点的位置偏移量传播至整个编码图像，得到编码图像的形变偏移量；然后将编码图像的形变偏移量确定为对应的局部图像的形变偏移量，并以此对局部图像进行仿射变换，得到待拼接图像。可以根据特征点之间的相对位置对局部图像进行配准，实现相邻的局部图像之间的对齐。

进一步参考图8，图8出了本公开的用于生成全景图像的方法的一个实施例中确定形变偏移量的流程图，如图8示，该流程包括以下步骤：

步骤810、对编码图像的重合区域进行栅格化处理，将得到的栅格的中心点确定为锚点，并确定锚点对应的预设区域。

在本实施例中，可以根据实际需求或经验参数预先设定预设区域。例如，可以是以锚点为圆心、根据预设半径确定的圆形区域；还可以是与锚点所在的栅格相邻的其他栅格所组成的区域。

步骤820、基于预设区域内的特征点对应的位置偏移量，确定锚点对应的位置偏移量。

作为示例，执行主体可以首先获取预设区域内的各个特征点对应的位置偏移量，然后将距离锚点最近的特征点的位置偏移量确定为锚点的位置偏移量；或者，还可以利用各个特征点的位置偏移量进行插值，确定锚点的位置偏移量，例如可以将各个特征点的位置偏移量的加权平均值作为锚点的位置偏移量，其中，权重可以与距离负相关。

进一步结合图9进行示例性说明，图9(a)示出了编码图像的重合区域中的特征点对，其中的线段表示特征点对中两个特征点的相对位置，线段的两个端点即为特征点对。例如点910与点920、点930与点940分别构成特征点对。图9(b)则示出了锚点的位置偏移量，例如线段950和线段960分别为不同栅格中的锚点的位置偏移量。

步骤830、基于编码图像中包括的各锚点的位置偏移量，确定编码图像的形变偏移量。

在本实施例中，执行主体可以采用形变传播算法，将锚点的位置偏移量传播至整个编码图像，得到编码图像的形变偏移量。

图8所示的实施例可以对编码图像进行栅格化处理以确定锚点，然后根据特征点的位置偏移量确定锚点的位置偏移量，并利用锚点的位置偏移量确定编码图像的形变偏移量，在确保形变传播的准确度的前提下，可以缩减运算量，提高运算效率。

示例性装置

下面结合图10对本公开的用于生成全景图像的装置进行示例性说明，如图10所示，该装置包括：图像获取单元1010，被配置成获取用于生成目标全景图像的多个局部图像，在目标全景图像的坐标系中，相邻的局部图像之间具有重合区域；图像编码单元1020，被配置成针对多个局部图像中的每个局部图像，基于目标像素点对应的参考像素点，对目标像素点的像素值进行编码，得到局部图像对应的编码图像，其中，目标像素点为位于局部图像的重合区域内的像素点，参考像素点为位于目标像素点的预设邻域内的像素点；特征匹配单元1030，被配置成针对各编码图像，对相邻的两个编码图像进行特征匹配，确定相邻的两个编码图像之间的特征点对；图像配准单元1040，被配置成基于各特征点对，分别对各编码图像对应的局部图像进行配准，并将配准后的各局部图像确定为待拼接图像；图像生成单元1050，被配置成基于各待拼接图像，生成目标全景图像。

在其中一个实施方式中，图像编码单元1020进一步包括：像素获取模块，被配置成在目标像素点的预设邻域内确定预设数量的参考像素点，并获取目标像素点和参考像素点的像素值；第一对比模块，被配置成若参考像素点的像素值大于目标像素点的像素值，则将参考像素点对应的数值确定为1；第二配置模块，被配置成若参考像素点的像素值不大于目标像素点的像素值，则将参考像素点对应的数值确定为0；编码模块，被配置成将各参考像素点对应的数值排列成二进制编码；像素更新模块，被配置成将目标像素点的像素值更新为二进制编码，得到局部图像对应的编码图像。

在其中一个实施方式中，图像生成单元1050进一步包括：梯度计算模块，被配置成分别确定各待拼接图像沿预设方向的梯度，预设方向与各待拼接图像在目标全景图像的坐标系中的排列方向垂直；拼接线确定模块，被配置成基于相邻的两个待拼接图像在重合区域内的梯度差异，确定相邻的两个待拼接图像对应的拼接线，拼接线上的像素点对应的梯度差异为局部区域内的极小值；图像拼接模块，被配置成基于各拼接线，将各待拼接图像拼接为目标全景图像。

在其中一个实施方式中，拼接线确定模块进一步包括：对比子模块，被配置成基于相邻的两个待拼接图像在重合区域内的梯度差异，生成梯度差异图；遍历子模块，被配置成沿预设方向或预设方向的反方向逐行遍历梯度差异图，将第一行中梯度差异最小的像素点确定为第一行的分割点，并将剩余各行中梯度差异与距离权重的乘积最小的像素点确定为该行的分割点，其中，距离权重正相关于像素点与上一行的分割点之间的距离；映射子模块，被配置成将梯度差异图中的各分割点分别映射至相邻的两个待拼接图像，得到相邻的两个待拼接图像对应的拼接线。

在其中一个实施方式中，图像生成单元1050还包括去噪模块，被配置成对待拼接图像进行高斯卷积处理，剔除待拼接图像中的噪点。

在其中一个实施方式中，图像配准单元1040进一步包括：第一偏移模块，被配置成基于特征点对中的两个特征点的相对位置，确定特征点对中每个特征点的位置偏移量；第二偏移模块，被配置成基于编码图像中包括的特征点的位置偏移量，确定编码图像的形变偏移量；偏移确定模块，被配置成将编码图像的形变偏移量确定为编码图像对应的局部图像的形变偏移量；仿射变换模块，被配置成基于局部图像的形变偏移量，对局部图像进行仿射变换，得到局部图像对应的待拼接图像。

在其中一个实施方式中，形变确定模块进一步包括：栅格处理子模块，被配置成对编码图像的重合区域进行栅格化处理，将得到的栅格的中心点确定为锚点，并确定锚点对应的预设区域；锚点插值子模块，被配置成基于预设区域内的特征点对应的位置偏移量，确定锚点对应的位置偏移量；形变确定子模块，被配置成基于编码图像中包括的各锚点的位置偏移量，确定编码图像的形变偏移量。

下面，参考图11来描述根据本公开实施例的电子设备。该电子设备可以是第一设备和第二设备中的任一个或两者、或与它们独立的单机设备，该单机设备可以与第一设备和第二设备进行通信，以从它们接收所采集到的输入信号。

图11图示了根据本公开实施例的电子设备的框图。

如图11所示，电子设备包括一个或多个处理器和存储器。

处理器可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备中的其他组件以执行期望的功能。

存储器可以存储一个或多个计算机程序产品，所述存储器可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序产品，处理器可以运行所述计算机程序产品，以实现上文所述的本公开的各个实施例的用于生成全景图像的方法以及/或者其他期望的功能。

在一个示例中，电子装置还可以包括：输入装置和输出装置，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。

此外，该输入装置还可以包括例如键盘、鼠标等等。

该输出装置可以向外部输出各种信息，包括确定出的距离信息、方向信息等。该输出装置可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出装置等等。

当然，为了简化，图11中仅示出了该电子设备中与本公开有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备还可以包括任何其他适当的组件。

除了上述方法和设备以外，本公开的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述部分中描述的根据本公开各种实施例的用于生成全景图像的方法中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本公开的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述部分中描述的根据本公开各种实施例的用于生成全景图像的方法中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本公开的基本原理，但是，需要指出的是，在本公开中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本公开为必须采用上述具体的细节来实现。

本说明书中各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言，由于其与方法实施例基本对应，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

可能以许多方式来实现本公开的方法和装置。例如，可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明，本公开的方法的步骤不限于以上具体描述的顺序，除非以其它方式特别说明。此外，在一些实施例中，还可将本公开实施为记录在记录介质中的程序，这些程序包括用于实现根据本公开的方法的机器可读指令。因而，本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。

还需要指出的是，在本公开的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此，本公开不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (10)

1.一种用于生成全景图像的方法，其特征在于，包括：

获取用于生成目标全景图像的多个局部图像，在所述目标全景图像的坐标系中，相邻的局部图像之间具有重合区域；

针对所述多个局部图像中的每个局部图像，基于目标像素点对应的参考像素点，对所述目标像素点的像素值进行编码，得到各所述局部图像分别对应的编码图像，其中，所述目标像素点为位于所述局部图像的重合区域内的像素点，所述参考像素点为位于所述目标像素点的预设邻域内的像素点；

针对各所述编码图像，对相邻的两个所述编码图像进行特征匹配，确定相邻的两个所述编码图像之间的特征点对；

基于各所述特征点对，分别对各所述编码图像对应的局部图像进行配准，并将配准后的各局部图像确定为待拼接图像；

基于各所述待拼接图像，生成所述目标全景图像。

2.根据权利要求1所述的方法，其特征在于，所述针对所述多个局部图像中的每个局部图像，基于目标像素点对应的参考像素点，对所述目标像素点的像素值进行编码，得到各所述局部图像对应的编码图像，包括：

在所述目标像素点的预设邻域内确定预设数量的参考像素点，并获取所述目标像素点和所述参考像素点的像素值；

若所述参考像素点的像素值大于所述目标像素点的像素值，则将所述参考像素点对应的数值确定为1；

若所述参考像素点的像素值不大于所述目标像素点的像素值，则将所述参考像素点对应的数值确定为0；

将各所述参考像素点对应的数值排列成二进制编码；

将所述目标像素点的像素值更新为所述二进制编码，得到所述局部图像对应的编码图像。

3.根据权利要求1或2所述的方法，其特征在于，所述基于各所述待拼接图像，生成所述目标全景图像，包括：

分别确定各所述待拼接图像沿预设方向的梯度，所述预设方向与各所述待拼接图像在所述目标全景图像的坐标系中的排列方向垂直；

基于相邻的两个所述待拼接图像在重合区域内的梯度差异，确定相邻的两个所述待拼接图像对应的拼接线，所述拼接线上的像素点对应的梯度差异为局部区域内的极小值；

基于各所述拼接线，将各所述待拼接图像拼接为所述目标全景图像。

4.根据权利要求3所述的方法，其特征在于，所述基于相邻的两个所述待拼接图像在重合区域内的梯度差异，确定相邻的两个所述待拼接图像对应的拼接线，包括：

基于相邻的两个所述待拼接图像在重合区域内的梯度差异，生成梯度差异图；

沿所述预设方向或所述预设方向的反方向逐行遍历所述梯度差异图，将第一行中梯度差异最小的像素点确定为第一行的分割点，并将剩余各行中梯度差异与距离权重的乘积最小的像素点确定为该行的分割点，其中，所述距离权重正相关于像素点与上一行的分割点之间的距离；

将所述梯度差异图中的各所述分割点分别映射至相邻的两个所述待拼接图像，得到相邻的两个所述待拼接图像对应的拼接线。

5.根据权利要求4所述的方法，其特征在于，所述基于相邻的两个所述待拼接图像在重合区域内的梯度差异，生成梯度差异图之前，所述方法还包括：

对所述待拼接图像进行高斯卷积处理，剔除所述待拼接图像中的噪点。

6.根据权利要求1至5之一所述的方法，其特征在于，所述基于各所述特征点对，分别对各所述编码图像对应的局部图像进行配准，并将配准后的各局部图像确定为待拼接图像，包括：

基于所述特征点对中的两个特征点的相对位置，确定所述特征点对中每个特征点的位置偏移量；

基于所述编码图像中包括的特征点的位置偏移量，确定所述编码图像的形变偏移量；

将所述编码图像的形变偏移量确定为所述编码图像对应的局部图像的形变偏移量；

基于所述局部图像的形变偏移量，对所述局部图像进行仿射变换，得到所述局部图像对应的待拼接图像。

7.根据权利要求6所述的方法，其特征在于，所述基于所述编码图像中包括的特征点对应的位置偏移量，确定所述编码图像的形变偏移量，包括：

对所述编码图像的重合区域进行栅格化处理，将得到的栅格的中心点确定为锚点，并确定所述锚点对应的预设区域；

基于所述预设区域内的特征点对应的位置偏移量，确定所述锚点对应的位置偏移量；

基于所述编码图像中包括的各所述锚点的位置偏移量，确定所述编码图像的形变偏移量。

8.一种用于生成全景图像的装置，其特征在于，包括：

图像获取单元，被配置成获取用于生成目标全景图像的多个局部图像，在所述目标全景图像的坐标系中，相邻的局部图像之间具有重合区域；

图像编码单元，被配置成针对所述多个局部图像中的每个局部图像，基于目标像素点对应的参考像素点，对所述目标像素点的像素值进行编码，得到各所述局部图像分别对应的编码图像，其中，所述目标像素点为位于所述局部图像的重合区域内的像素点，所述参考像素点为位于所述目标像素点的预设邻域内的像素点；

特征匹配单元，被配置成针对各所述编码图像，对相邻的两个所述编码图像进行特征匹配，确定相邻的两个所述编码图像之间的特征点对；

图像配准单元，被配置成基于各所述特征点对，分别对各所述编码图像对应的局部图像进行配准，并将配准后的各局部图像确定为待拼接图像；

图像生成单元，被配置成基于各所述待拼接图像，生成所述目标全景图像。

9.一种电子设备，其特征在于，包括：

存储器，用于存储计算机程序产品；

处理器，用于执行所述存储器中存储的计算机程序产品，且所述计算机程序产品被执行时，实现上述权利要求1-7任一所述的方法。

10.一种计算机可读存储介质，其上存储有计算机程序指令，其特征在于，该计算机程序指令被处理器执行时，实现上述权利要求1-7任一所述的方法。

Images