CN107146195A - 球面图像拼接方法和装置 - Google Patents

球面图像拼接方法和装置 Download PDF

Info

Publication number
CN107146195A
CN107146195A CN201610603381.1A CN201610603381A CN107146195A CN 107146195 A CN107146195 A CN 107146195A CN 201610603381 A CN201610603381 A CN 201610603381A CN 107146195 A CN107146195 A CN 107146195A
Authority
CN
China
Prior art keywords
region
matching
sub
image
target sub
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201610603381.1A
Other languages
English (en)
Other versions
CN107146195B (zh
Inventor
黄之燊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Talos Innovation Co ltd
Original Assignee
Shenzhen Quantum Vision Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Quantum Vision Technology Co Ltd filed Critical Shenzhen Quantum Vision Technology Co Ltd
Priority to CN201610603381.1A priority Critical patent/CN107146195B/zh
Publication of CN107146195A publication Critical patent/CN107146195A/zh
Application granted granted Critical
Publication of CN107146195B publication Critical patent/CN107146195B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/14Transformations for image registration, e.g. adjusting or mapping for alignment of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/32Indexing scheme for image data processing or generation, in general involving image mosaicing

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明涉及一种球面图像拼接方法和装置,所述方法包括:获取第一重合区域和第二重合区域,第一重合区域为第一球面图像中第一球面图像与第二球面图像的重合区域,第二重合区域为第二球面图像中第一球面图像与第二球面图像的重合区域;将第一重合区域划分为多个匹配子区域,并将第二重合区域划分为多个目标子区域;遍历第一重合区域中的匹配子区域,计算匹配子区域与第二重合区域中各目标子区域的相似度,根据相似度确定与匹配子区域匹配的目标子区域;根据匹配子区域与匹配的目标子区域的计算匹配关系;根据匹配关系将匹配子区域与匹配的目标子区域进行匹配融合,以将第一球面图像和第二球面图像拼接。这样提高了球面图像匹配融合的准确率。

Description

球面图像拼接方法和装置
技术领域
本发明涉及图像处理技术领域,特别是涉及一种球面图像拼接方法和装置。
背景技术
随着VR(Virtual Reality,虚拟现实)技术的发展,对图像处理的要求越来越高。VR中最重要的技术是构建全景图像,但受限于图像采集设备的限制,单个摄像头的最大可是角度为220°,因此生成全景图像目前的办法是将多个摄像头拍摄的图像转换为球面图像,将球面图像匹配融合为一个全景图像。
但由于每个摄像头的物理尺寸不同、摄像头的镜头的圆心也不可能完全重合,多个摄像头对同一场景进行拍摄得到的图像也会有差别,造成球面图像不可能完全重合。因此,在将不同摄像头拍摄的图像转换得到的球面图像进行拼接会产生缝隙,球面图像拼接融合的准确率较低。
发明内容
基于此,有必要针对像球面图像拼接融合的准确率低下问题,提供一种球面图像拼接方法和装置。
一种球面图像拼接方法,所述方法包括:
获取第一重合区域和第二重合区域,所述第一重合区域为第一球面图像中所述第一球面图像与第二球面图像的重合区域,所述第二重合区域为第二球面图像中所述第一球面图像与所述第二球面图像的重合区域;
将所述第一重合区域划分为多个匹配子区域,并将所述第二重合区域划分为多个目标子区域;
遍历所述第一重合区域中的匹配子区域,计算所述匹配子区域与所述第二重合区域中各目标子区域的相似度,根据所述相似度确定与所述匹配子区域匹配的目标子区域;
根据所述匹配子区域与所述匹配的目标子区域的计算匹配关系;
根据所述匹配关系将所述匹配子区域与所述匹配的目标子区域进行匹配融合,以将所述第一球面图像和所述第二球面图像拼接。
在其中一个事实例中,所述获取第一重合区域和第二重合区域之前,还包括:
获取第一拍摄图像和第二拍摄图像,所述第一拍摄图像和所述第二拍摄图像部分重合;
将所述第一拍摄图像和所述第二拍摄图像转换为球面图像以得到第一球面图像和第二球面图像。
在其中一个实施例中,所述计算所述匹配子区域与所述第二重合区域中各目标子区域的相似度,根据所述相似度确定与所述匹配子区域匹配的目标子区域,包括:
提取所述匹配子区域的特征向量和所述第二重合区域中各目标子区域的特征向量;
根据提取到的特征向量计算所述匹配子区域与所述各目标子区域的相似度;
选取最高相似度对应的目标子区域作为所述匹配子区域匹配的目标子区域。
在其中一个实施例中,所述计算所述匹配子区域与所述第二重合区域中各目标子区域的相似度,根据所述相似度确定与所述匹配子区域匹配的目标子区域,包括:
对所述第二重合区域进行连续降采样得到第二重合区域的多张分辨率不同的图像,根据所述多张分辨率不同的图像构成图像集合;
按照分辨率由低到高的顺序,遍历所述图像集合中的图像,计算所述图像集合中图像的目标子区域与所述匹配子区域的相似度,根据所述相似度确定与所述匹配子区域匹配的目标子区域。
在其中一个实施例中,所述根据所述匹配子区域与所述匹配的目标子区域计算匹配关系,包括:
提取所述匹配子区域与所述匹配的目标子区域的图像矩阵;
根据提取的图像矩阵计算所述匹配子区域与所述匹配的目标子区域的匹配向量;
根据所述匹配向量和所述提取的图像矩阵计算修正参数;
根据所述修正参数和所述匹配向量得到所述匹配子区域与所述匹配的目标子区域的匹配关系。
上述球面图像拼接方法,将第一重合区域划分为多个匹配子区域,并将第二重合区域划分为多个目标子区域,通过计算相似度确定匹配子区域匹配的目标子区域,并计算各匹配子区域与匹配的目标子区域的匹配关系,根据计算得到的匹配关系对第一重合区域中的各匹配子区域与第二重合区域中匹配目标子区域进行独立的匹配融合,以实现将第一重合区域与第二重合区域进行匹配融合,从而将第一球面图像和第二球面图像进行拼接融合,避免出现拼接缝隙,提高了球面图像匹配融合的准确率。
一种球面图像拼接装置,所述装置包括:
重合区域获取模块,用于获取第一重合区域和第二重合区域,所述第一重合区域为第一球面图像中所述第一球面图像与第二球面图像的重合区域,所述第二重合区域为第二球面图像中所述第一球面图像与所述第二球面图像的重合区域;
子区域划分模块,用于将所述第一重合区域划分为多个匹配子区域,并将所述第二重合区域划分为多个目标子区域;
匹配区域确定模块,用于遍历所述第一重合区域中的匹配子区域,计算所述匹配子区域与所述第二重合区域中各目标子区域的相似度,根据所述相似度确定与所述匹配子区域匹配的目标子区域;
匹配关系计算模块,用于根据所述匹配子区域与所述匹配的目标子区域计算匹配关系;
区域匹配融合模块,用于根据所述匹配关系将所述匹配子区域与所述匹配的目标子区域进行匹配融合,以将所述第一球面图像和所述第二球面图像拼接。
在其中一个实施例中,所述装置还包括:
拍摄图像获取模块,用于获取第一拍摄图像和第二拍摄图像,所述第一拍摄图像和所述第二拍摄图像部分重合;
球面图像转换模块,用于将所述第一拍摄图像和所述第二拍摄图像转换为球面图像以得到第一球面图像和第二球面图像。
在其中一个实施例中,所述匹配区域确定模块包括:
特征向量提取模块,用于提取所述匹配子区域的特征向量和所述第二重合区域中各目标子区域的特征向量;
相似度计算模块,用于根据提取到的特征向量计算所述匹配子区域与所述各目标子区域的相似度;
匹配区域选取模块,用于选取最高相似度对应的目标子区域作为所述匹配子区域匹配的目标子区域。
在其中一个实施例中,所述匹配区域确定模块包括:
图像集合构成模块,用于对所述第二重合区域进行连续降采样得到第二重合区域的多张分辨率不同的图像,根据所述多张分辨率不同的图像构成图像集合;
图像集合遍历模块,用于按照分辨率由低到高的顺序,遍历所述图像集合中的图像,根据所述图像集合中的图像在所述第二重合区域中确定与所述匹配子区域匹配的目标子区域。
在其中一个实施例中,所述匹配关系计算模块包括:
图像矩阵提取模块,用于提取所述匹配子区域与所述匹配的目标子区域的图像矩阵;
匹配向量计算模块,用于根据提取的图像矩阵计算所述匹配子区域与所述匹配的目标子区域的匹配向量;
修正参数计算模块,用于根据所述匹配向量和所述提取的图像矩阵计算修正参数;
匹配关系生成模块,用于根据所述修正参数和所述匹配向量生成所述匹配子区域与所述匹配的目标子区域的匹配关系。
上述球面图像拼接装置,将第一重合区域划分为多个匹配子区域,并将第二重合区域划分为多个目标子区域,通过计算相似度确定匹配子区域匹配的目标子区域,并计算各匹配子区域与匹配的目标子区域的匹配关系,根据计算得到的匹配关系对第一重合区域中的各匹配子区域与第二重合区域中匹配目标子区域进行独立的匹配融合,以实现将第一重合区域与第二重合区域进行匹配融合,从而将第一球面图像和第二球面图像进行拼接融合,避免出现拼接缝隙,提高了球面图像匹配融合的准确率。
附图说明
图1为一个实施例中球面图像拼接方法的流程示意图;
图2为一个实施例中获取拍摄图像的示意图;
图3为一个实施例中球面图像展开的示意图;
图4为一个实施例中选取与匹配子区域匹配的目标子区域的步骤的流程示意图;
图5为一个实施例中根据图像集合确定目标子区域的步骤的流程示意图;
图6为一个实施例中计算匹配关系的步骤的流程示意图;
图7为一个实施例中球面图像拼接装置的结构框图;
图8为另一个实施例中球面图像拼接装置的结构框图;
图9为一个实施例中匹配区域确定模块的结构框图;
图10为一个实施例中匹配区域确定模块的结构框图;
图11为一个实施例中匹配关系计算模块的结构框图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
如图1所示,在一个实施例中,提供一种球面图像拼接方法,该方法应用在图像处理终端上举例说明,图像处理终端上运行有球面图像拼接程序,球面图像拼接程序用于实施球面图像拼接方法。该球面图像拼接方法通过将球面图像拼接生成VR中的全景图像。其中,图像处理终端具体可以是服务器、个人电脑和移动终端中的至少一种。该方法具体包括以下步骤:
S102,获取第一重合区域和第二重合区域,第一重合区域为第一球面图像中第一球面图像与第二球面图像的重合区域,第二重合区域为第二球面图像中第一球面图像与第二球面图像的重合区域。
具体地,第一球面图像和第二球面图像用于构建VR中的全景图像。图像处理终端获取第一球面图像和第二球面图像,确定第一球面图像和第二球面图像的重合区域,从第一球面图像中提取第一球面图像与第二球面图像的重合区域作为第一重合区域,从第二球面图像中提取第二球面图像与第一球面图像的重合区域作为第二重合区域。
在一个实施例中,步骤102之前还包括:获取第一拍摄图像和第二拍摄图像,第一拍摄图像和第二拍摄图像部分重合;将第一拍摄图像和第二拍摄图像转换为球面图像以得到第一球面图像和第二球面图像。
具体地,请参照图2,图像处理终端通过第一图像采集设备和第二图像采集设备获取第一拍摄图像和第二拍摄图像,其中第二拍摄图像和第二拍摄图像存在部分重合区域,第一拍摄图像和第二拍摄图像均为鱼眼图像,鱼眼图像为图像采集设备拍摄到的原始图像。将第一拍摄图像和第二拍摄图像进行转换,将第一拍摄图像转换为第一球面图像,将第二拍摄图像转换为第二球面图像,即将鱼眼图像转换为球面图像。第一图像采集设备和第二图像采集设备具体可以是第一摄像机和第二摄像机。请参照图3,第一球球面图像和第二球面图像也存在部分重合区域。
将鱼眼图像转换为球面图像,具体内容如下:
假设球面图像的像素点坐标为(xs,ys),鱼眼图像的像素点坐标为(xm,ym),基于三维空间位置进行转换,三维空间位置中像素点坐标为(Pa,Pb,Pc),三维空间位置的像素点与球面图像的像素点坐标的对应关系表示为: θ=2πxs
鱼眼图像的像素点与三维空间位置中像素地坐标的对应关系表示为:xm=γ·cos(θ’),ym=γ·sin(θ’),其中γ如下式,f表示采集鱼眼图像的摄像头的焦距,Fov为摄像头的视角范围:
基于上述三维空间关系可以将鱼眼图像转换为球面图像,球面图像用于生成VR中的全景图像。
S104,将第一重合区域划分为多个匹配子区域,并将第二重合区域划分为多个目标子区域。
具体地,在获取第一重合区域后和第二重合区域后,图像处理终端将第一重合区域划分为多个匹配子区域,将第二重合区域划分为多个目标子区域,匹配子区域的尺寸与目标子区域的尺寸相同。相邻的匹配子区域存在重合区域,相邻的目标子区域存在重合区域。
在一个实施例中,在第一重合区域中按照预设尺寸提取图像区域,将该图像区域划分为多个匹配子区域,具体可以划分为4×4的匹配子区域,每个匹配子区域用特征向量表示,具体可用32维的特征向量,所提取的图像区域可以是以128维的特征向量表示。
S106,遍历第一重合区域中的匹配子区域,计算匹配子区域与第二重合区域中各目标子区域的相似度,根据相似度确定与匹配子区域匹配的目标子区域。
具体地,图像处理终端遍历第一重合区域中多个匹配子区域,对于每个匹配子区域,计算该匹配子区域与第二重合区域中各目标子区域的相似度,将计算得到的相似度进行比较,选取最高相似度对应的目标子区域作为与匹配子区域匹配的目标子区域,第一重合区域中每个匹配子区域在第二重合区域中都存在一个匹配的目标子区域。
S108,根据匹配子区域与匹配的目标子区域的计算匹配关系。
具体地,针对第一重合区域中的每个匹配子区域,在选取与匹配子区域匹配的目标子区域后,图像处理终端提取该匹配子区域的图像矩阵,并提取与该匹配子区域匹配的目标子区域的图像矩阵,根据提取到的图像矩阵计算该匹配子区域与匹配的目标子区域的匹配关系,每个匹配子区域与匹配的目标子区域均对应一个匹配关系。
S110,根据匹配关系将匹配子区域与匹配的目标子区域进行匹配融合,以将第一球面图像和第二球面图像拼接。
具体地,针对第一重合区域中的每个匹配子区域,都计算得到该匹配子区域与匹配的目标子区域的匹配关系,图像处理终端将第一重合区域中的每个匹配子区域与第二重合区域中匹配的目标子区域根据对应的匹配关系进行匹配融合,待第一重合区域和第二重合区域匹配融合后,实现了将第一球面图像和第二球面图像的无缝拼接,从而生成VR中的全景图像,VR中的全景图像可以由多个球面图像拼接生成,相邻的球面图像具有部分重合区域。
本实施例中,将第一重合区域划分为多个匹配子区域,并将第二重合区域划分为多个目标子区域,通过计算相似度确定匹配子区域匹配的目标子区域,并计算各匹配子区域与匹配的目标子区域的匹配关系,根据计算得到的匹配关系对第一重合区域中的各匹配子区域与第二重合区域中匹配目标子区域进行独立的匹配融合,以实现将第一重合区域与第二重合区域进行匹配融合,从而将第一球面图像和第二球面图像进行拼接融合,避免出现拼接缝隙,提高了球面图像匹配融合的准确率,提高了VR中全景图像的质量,避免了全景图像中出现拼接缝隙。
如图4所示,在一个实施例中,S106具体包括选取与匹配子区域匹配的目标子区域的步骤,该步骤具体包括以下内容:
S402,提取匹配子区域的特征向量和第二重合区域中各目标子区域的特征向量。
S404,根据提取到的特征向量计算匹配子区域与各目标子区域的相似度。
S406,选取最高相似度对应的目标子区域作为匹配子区域匹配的目标子区域。
具体地,图像处理终端以特征向量表示匹配子区域和第二重合区域中各目标子区域,在第二重合区域中选取与匹配子区域对应的目标子区域,提取匹配子区域的特征向量,遍历第二重合区域中各目标子区域,提取各目标子区域的特征向量,根据提取到的特征向量计算匹配子区域与各目标子区域的相似度,将计算得到的相似度进行比较,提取出最高相似度,并选取最高相似度对应的目标子区域作为匹配子区域匹配的目标子区域。
本实施例中,通过计算匹配子区域与各目标子区域的相似度,并选取最高相似度对应的目标子区域作为与匹配子区域匹配的目标子区域,提高了将撇皮子区域和目标子区域匹配融合的准确度。
如图5所示,在一个实施例中,S106具体还包括根据图像集合确定目标子区域的步骤,具体步骤包括以下内容:
S502,对第二重合区域进行连续降采样得到第二重合区域的多张分辨率不同的图像,根据多张分辨率不同的图像构成图像集合。
具体地,图像处理终端对第二重合区域进行降采样得到第二重合区域的第一降采样图像,再对第一降采样图像进行降采样得到第二降采样图像,再对第二降采样图像进行降采样得到第三降采样图像,通过连续降采样得到多个降采样图像,多个降采样图像构成图像集合,图像集合具体可以是第二重合区域对应的高斯金字塔模型。
在一个实施例中,图像处理终端对第二重合区域进行降采样可以是将第二重合区域中偶数行和偶数列的像素点删除,还可以是提取第二重合区域的图像矩阵,以图像矩阵表示第二重合区域,删除偶数行和偶数列的矩阵数值。
S504,按照分辨率由低到高的顺序,遍历图像集合中的图像,计算图像集合中图像的目标子区域与匹配子区域的相似度,根据相似度确定与匹配子区域匹配的目标子区域。
具体地,图像处理终端首先读取图像集合中分辨率较低的图像,遍历图像中每个像素点,以各像素点为中心选取一个低分辨率区域,计算这个低分辨率区域与匹配子区域的相似度,选取最高相似度对应的低分辨率区域,再读取分辨率较高的图像,在分辨率较高的图像中选取与低分辨率对应的高分辨率区域,遍历高分辨率区域中每个像素点,以各像素点为中心选取一个目标子区域,选取的目标子区域与匹配子区域的相似度最高。
在一个实施例中,图像集合为高斯金字塔模型,高斯金子塔模型对第二重合区域进行连续降采样得到。图像处理终端从高斯金字塔模型的低分辨率层向高分辨率层依次利用每层的图像与匹配子区域做匹配,在第二重合区域中确定与匹配子区域匹配的目标子区域。
本实施例中,对第二重合区域连续降采样构建图像集合,按照分辨率由低到高的顺序,遍历图像集合中的图像,计算图像集合中图像的目标子区域与匹配子区域的相似度,根据相似度确定与匹配子区域匹配的目标子区域,利用图像集合中的图像依次与匹配子区域进行匹配,提高了运算效率,且提高了确定目标子区域的准确性。
如图6所示,在一个实施例中,S108具体包括计算匹配关系的步骤,该步骤具体包括以下内容:
S602,提取匹配子区域与匹配的目标子区域的图像矩阵。
具体地,图像处理终端在第二重合区域中确定与第一重合区域中的匹配子区域匹配的目标子区域后,分别提取匹配子区域和目标子区域的图像矩阵。图像矩阵可提取每个像素点的像素值,根据提取到的像素值构成图像矩阵。
S604,根据提取的图像矩阵计算匹配子区域与匹配的目标子区域的匹配向量。
具体地,匹配子区域的图像矩阵和匹配的目标子区域的图像矩阵计算匹配子区域的像素点与图像子区域的像素点的匹配向量,针对匹配子区域的图像矩阵中的数值,在匹配的目标子区域的图像矩阵中都存在一个对应的数值,根据匹配子区域的图像矩阵中的数值与匹配的目标子区域的图像矩阵中的数值计算得到匹配向量。
S606,根据匹配向量和提取的图像矩阵计算修正参数。
具体地,修正参数包括分散限制参数、平滑约束参数和匹配约束参数。其中分散限制参数对图像的颜色和梯度匹配进行限制,方式匹配融合后的图像过度分散;平滑约束参数,对匹配子区域和匹配的目标子区域的梯度进行约束,防止形变过大;匹配约束参数限制相邻两次匹配结果差在误差范围内。图像处理终端将匹配向量进行转置,根据匹配向量和转置的匹配向量计算分散闲置参数。图像处理终端提取匹配子区域的图像矩阵中的像素值,提取匹配子区域的图像举证中的像素值,根据提取到的像素值计算平滑约束参数。图像处理终端提取相邻两次计算得到的匹配向量,根据相邻两次计算得到的匹配向量计算匹配约束参数。
S608,根据修正参数和匹配向量得到匹配子区域与匹配的目标子区域的匹配关系。
具体地,图像处理终端在计算得到修正参数后,根据修正参数和匹配向量构建变换方程,利用变换方程表示匹配子区域与匹配的目标子区域的匹配关系。
在一个实时例中,以ED表示分散限制参数,以ES表示平滑约束参数,以EM表示匹配约束参数,E(w)为根据修正参数和匹配向量构建的变换方程,具体公式如下:
E(w)=∫ΩED+αES+βEMdx
α和β为固定参数,α=0.8,β=1.25,公式2表示匹配子区域与匹配的目标子区域的变换方程E(w);
δ和γ为常数,表示在频域上第i个张量,为常数矩阵,表示在时域上第i个张量,均为常数矩阵,wT表示匹配向量w的转置;s为未知数,ε为常数,ε=0.001;
μ表示匹配子区域的像素值,υ表示目标子区域的像素值,表示梯度计算,分别表示匹配子区域的像素值和目标子区域的像素值的梯度范数;
EM=cφΨ(||w-w'||2)
c和φ为常数,||w-w'||表示两次相邻的匹配所计算的匹配向量之间的匹配结果差的范数。
本实施例中,根据匹配子区域和目标子区域的图像矩阵计算得到匹配向量,根据匹配和图像矩阵计算修正参数,根据匹配向量和修正参数生成匹配关系,避免匹配子区域和目标子区域在匹配融合过程中过度变形造成图像扭曲,提高了撇皮子区域和目标子区域的图像的匹配融合的准确度。
在一个实施例中,在第一重合图像提取预设大小的图像区域,将图像区域划分为4×4的小区域,再将每个小区域划分为4个匹配子区域,对每个匹配子区域用SIFT(Scale-invariant feature transform,尺度不变特征转换)得到32维的特征向量标识,图像区域的特征向量为128维,用H表示图像区域的特征向量,具体表达式如下:
H=[H1H2H3H4],HS∈R32
将每个小区域进行单独匹配,对每个小区域确定与之匹配的目标子区域,公式如下:
H表示图像匹配子区域的特征向量,Q(p)表示以p点为中心的目标子区域的特征向量,sim(H,Q(p))表示计算两个区域的相似度。
具体的匹配过程通过以下公式体现,定义一个子维度N,以序列的形式表示子维度N上的像素点,将匹配子区域表示为以像素点δ为中心的区域,其序列表达式如下式:
序列P[δ,N]与目标子区域的序列P'[T,N]之间的匹配关系表示为wN,δ→T;最佳匹配的匹配关系以w*表示,通过计算匹配子区域序列P(i)与目标子区域序列P'(W(i))的相似度,选取相似度最高的目标区域作为与匹配子区域匹配的目标子区域,具体表达是如下:
匹配过程具体可以用以下公式标识,匹配结果S(N)分为两部分进行匹配,N为匹配子区域的个数,具体如下:
其中,的定义表达式如下:
如图7所示,在一个实施例中,提供一种球面图像拼接装置700,该装置具体包括:重合区域获取模块702、子区域划分模块704、匹配区域确定模块706、匹配关系计算模块708和区域匹配融合模块710。
重合区域获取模块702,用于获取第一重合区域和第二重合区域,第一重合区域为第一球面图像中第一球面图像与第二球面图像的重合区域,第二重合区域为第二球面图像中第一球面图像与第二球面图像的重合区域。
子区域划分模块704,用于将第一重合区域划分为多个匹配子区域,并将第二重合区域划分为多个目标子区域。
匹配区域确定模块706,用于遍历第一重合区域中的匹配子区域,计算匹配子区域与第二重合区域中各目标子区域的相似度,根据相似度确定与匹配子区域匹配的目标子区域。
匹配关系计算模块708,用于根据匹配子区域与匹配的目标子区域计算匹配关系。
区域匹配融合模块710,用于根据匹配关系将匹配子区域与匹配的目标子区域进行匹配融合,以将第一球面图像和第二球面图像拼接。
本实施例中,将第一重合区域划分为多个匹配子区域,并将第二重合区域划分为多个目标子区域,通过计算相似度确定匹配子区域匹配的目标子区域,并计算各匹配子区域与匹配的目标子区域的匹配关系,根据计算得到的匹配关系对第一重合区域中的各匹配子区域与第二重合区域中匹配目标子区域进行独立的匹配融合,以实现将第一重合区域与第二重合区域进行匹配融合,从而将第一球面图像和第二球面图像进行拼接融合,避免出现拼接缝隙,提高了球面图像匹配融合的准确率。
如图8所示,在一个实施例中,球面图像拼接装置700具体还包括:拍摄图像获取模块712和球面图像转换模块714。
拍摄图像获取模块712,用于获取第一拍摄图像和第二拍摄图像,第一拍摄图像和第二拍摄图像部分重合。
球面图像转换模块714,用于将第一拍摄图像和第二拍摄图像转换为球面图像以得到第一球面图像和第二球面图像。
本实施例中,将第一拍摄图像和第二拍摄图像转换为球面图像,进一步得到第一球面图像和第二球面凸显,可以对第一球面图像和第二球面图像进行匹配融合,根据球面图像生成全景视屏。
如图9所示,在一个实施例中,匹配区域确定模块706具体包括:特征向量提取模块706a、相似度计算模块706b和匹配区域选取模块706c。
特征向量提取模块706a,用于提取匹配子区域的特征向量和第二重合区域中各目标子区域的特征向量。
相似度计算模块706b,用于根据提取到的特征向量计算匹配子区域与各目标子区域的相似度。
匹配区域选取模块706c,用于选取最高相似度对应的目标子区域作为匹配子区域匹配的目标子区域。
本实施例中,通过计算匹配子区域与各目标子区域的相似度,并选取最高相似度对应的目标子区域作为与匹配子区域匹配的目标子区域,提高了将撇皮子区域和目标子区域匹配融合的准确度。
如图10所示,在一个实施例中,匹配区域确定模块706具体还包括:图像集合构成模块706d和图像集合遍历模块706e。
图像集合构成模块706d,用于对第二重合区域进行连续降采样得到第二重合区域的多张分辨率不同的图像,根据多张分辨率不同的图像构成图像集合。
图像集合遍历模块706e,用于按照分辨率由低到高的顺序,遍历图像集合中的图像,根据图像集合中的图像在第二重合区域中确定与匹配子区域匹配的目标子区域。
本实施例中,对第二重合区域连续降采样构建图像集合,按照分辨率由低到高的顺序,遍历图像集合中的图像,计算图像集合中图像的目标子区域与匹配子区域的相似度,根据相似度确定与匹配子区域匹配的目标子区域,利用图像集合中的图像依次与匹配子区域进行匹配,提高了运算效率,且提高了确定目标子区域的准确性。
如图11所示,在一个实施例中,匹配关系计算模块708具体包括:图像矩阵提取模块708a、匹配向量计算模块708b、修正参数计算模块708c和匹配关系生成模块708d。
图像矩阵提取模块708a,用于提取匹配子区域与匹配的目标子区域的图像矩阵。
匹配向量计算模块708b,用于根据提取的图像矩阵计算匹配子区域与匹配的目标子区域的匹配向量。
修正参数计算模块708c,用于根据匹配向量和提取的图像矩阵计算修正参数。
匹配关系生成模块708d,用于根据修正参数和匹配向量生成匹配子区域与匹配的目标子区域的匹配关系。
本实施例中,根据匹配子区域和目标子区域的图像矩阵计算得到匹配向量,根据匹配和图像矩阵计算修正参数,根据匹配向量和修正参数生成匹配关系,避免匹配子区域和目标子区域在匹配融合过程中过度变形造成图像扭曲,提高了撇皮子区域和目标子区域的图像的匹配融合的准确度。
以上所述实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。

Claims (10)

1.一种球面图像拼接方法,所述方法包括:
获取第一重合区域和第二重合区域,所述第一重合区域为第一球面图像中所述第一球面图像与第二球面图像的重合区域,所述第二重合区域为第二球面图像中所述第一球面图像与所述第二球面图像的重合区域;
将所述第一重合区域划分为多个匹配子区域,并将所述第二重合区域划分为多个目标子区域;
遍历所述第一重合区域中的匹配子区域,计算所述匹配子区域与所述第二重合区域中各目标子区域的相似度,根据所述相似度确定与所述匹配子区域匹配的目标子区域;
根据所述匹配子区域与所述匹配的目标子区域的计算匹配关系;
根据所述匹配关系将所述匹配子区域与所述匹配的目标子区域进行匹配融合,以将所述第一球面图像和所述第二球面图像拼接。
2.根据权利要求1所述的方法,其特征在于,所述获取第一重合区域和第二重合区域之前,还包括:
获取第一拍摄图像和第二拍摄图像,所述第一拍摄图像和所述第二拍摄图像部分重合;
将所述第一拍摄图像和所述第二拍摄图像转换为球面图像以得到第一球面图像和第二球面图像。
3.根据权利要求1所述的方法,其特征在于,所述计算所述匹配子区域与所述第二重合区域中各目标子区域的相似度,根据所述相似度确定与所述匹配子区域匹配的目标子区域,包括:
提取所述匹配子区域的特征向量和所述第二重合区域中各目标子区域的特征向量;
根据提取到的特征向量计算所述匹配子区域与所述各目标子区域的相似度;
选取最高相似度对应的目标子区域作为所述匹配子区域匹配的目标子区域。
4.根据权利要求1所述的方法,其特征在于,所述计算所述匹配子区域与所述第二重合区域中各目标子区域的相似度,根据所述相似度确定与所述匹配子区域匹配的目标子区域,包括:
对所述第二重合区域进行连续降采样得到第二重合区域的多张分辨率不同的图像,根据所述多张分辨率不同的图像构成图像集合;
按照分辨率由低到高的顺序,遍历所述图像集合中的图像,计算所述图像集合中图像的目标子区域与所述匹配子区域的相似度,根据所述相似度确定与所述匹配子区域匹配的目标子区域。
5.根据权利要求1所述的方法,其特征在于,所述根据所述匹配子区域与所述匹配的目标子区域计算匹配关系,包括:
提取所述匹配子区域与所述匹配的目标子区域的图像矩阵;
根据提取的图像矩阵计算所述匹配子区域与所述匹配的目标子区域的匹配向量;
根据所述匹配向量和所述提取的图像矩阵计算修正参数;
根据所述修正参数和所述匹配向量得到所述匹配子区域与所述匹配的目标子区域的匹配关系。
6.一种球面图像拼接装置,其特征在于,所述装置包括:
重合区域获取模块,用于获取第一重合区域和第二重合区域,所述第一重合区域为第一球面图像中所述第一球面图像与第二球面图像的重合区域,所述第二重合区域为第二球面图像中所述第一球面图像与所述第二球面图像的重合区域;
子区域划分模块,用于将所述第一重合区域划分为多个匹配子区域,并将所述第二重合区域划分为多个目标子区域;
匹配区域确定模块,用于遍历所述第一重合区域中的匹配子区域,计算所述匹配子区域与所述第二重合区域中各目标子区域的相似度,根据所述相似度确定与所述匹配子区域匹配的目标子区域;
匹配关系计算模块,用于根据所述匹配子区域与所述匹配的目标子区域计算匹配关系;
区域匹配融合模块,用于根据所述匹配关系将所述匹配子区域与所述匹配的目标子区域进行匹配融合,以将所述第一球面图像和所述第二球面图像拼接。
7.根据权利要求6所述的装置,其特征在于,所述装置还包括:
拍摄图像获取模块,用于获取第一拍摄图像和第二拍摄图像,所述第一拍摄图像和所述第二拍摄图像部分重合;
球面图像转换模块,用于将所述第一拍摄图像和所述第二拍摄图像转换为球面图像以得到第一球面图像和第二球面图像。
8.根据权利要求6所述的装置,其特征在于,所述匹配区域确定模块包括:
特征向量提取模块,用于提取所述匹配子区域的特征向量和所述第二重合区域中各目标子区域的特征向量;
相似度计算模块,用于根据提取到的特征向量计算所述匹配子区域与所述各目标子区域的相似度;
匹配区域选取模块,用于选取最高相似度对应的目标子区域作为所述匹配子区域匹配的目标子区域。
9.根据权利要求6所述的装置,其特征在于,所述匹配区域确定模块包括:
图像集合构成模块,用于对所述第二重合区域进行连续降采样得到第二重合区域的多张分辨率不同的图像,根据所述多张分辨率不同的图像构成图像集合;
图像集合遍历模块,用于按照分辨率由低到高的顺序,遍历所述图像集合中的图像,根据所述图像集合中的图像在所述第二重合区域中确定与所述匹配子区域匹配的目标子区域。
10.根据权利要求6所述的装置,其特征在于,所述匹配关系计算模块包括:
图像矩阵提取模块,用于提取所述匹配子区域与所述匹配的目标子区域的图像矩阵;
匹配向量计算模块,用于根据提取的图像矩阵计算所述匹配子区域与所述匹配的目标子区域的匹配向量;
修正参数计算模块,用于根据所述匹配向量和所述提取的图像矩阵计算修正参数;
匹配关系生成模块,用于根据所述修正参数和所述匹配向量生成所述匹配子区域与所述匹配的目标子区域的匹配关系。
CN201610603381.1A 2016-07-27 2016-07-27 球面图像拼接方法和装置 Active CN107146195B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610603381.1A CN107146195B (zh) 2016-07-27 2016-07-27 球面图像拼接方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610603381.1A CN107146195B (zh) 2016-07-27 2016-07-27 球面图像拼接方法和装置

Publications (2)

Publication Number Publication Date
CN107146195A true CN107146195A (zh) 2017-09-08
CN107146195B CN107146195B (zh) 2021-05-04

Family

ID=59783510

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610603381.1A Active CN107146195B (zh) 2016-07-27 2016-07-27 球面图像拼接方法和装置

Country Status (1)

Country Link
CN (1) CN107146195B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108305218A (zh) * 2017-12-29 2018-07-20 努比亚技术有限公司 全景图像处理方法、终端及计算机可读存储介质
CN113255667A (zh) * 2021-06-16 2021-08-13 北京世纪好未来教育科技有限公司 文本图像相似度评估方法、装置、电子设备及存储介质
CN113689339A (zh) * 2021-09-08 2021-11-23 北京经纬恒润科技股份有限公司 图像拼接方法及装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102274042A (zh) * 2010-06-08 2011-12-14 深圳迈瑞生物医疗电子股份有限公司 图像配准方法、宽景成像方法、超声成像方法及其系统
US20130208997A1 (en) * 2010-11-02 2013-08-15 Zte Corporation Method and Apparatus for Combining Panoramic Image
CN104463778A (zh) * 2014-11-06 2015-03-25 北京控制工程研究所 一种全景图生成方法
CN105279735A (zh) * 2015-11-20 2016-01-27 沈阳东软医疗系统有限公司 一种图像拼接的融合方法、装置及设备
CN105678729A (zh) * 2016-02-24 2016-06-15 段梦凡 鱼眼镜头全景图像拼接方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102274042A (zh) * 2010-06-08 2011-12-14 深圳迈瑞生物医疗电子股份有限公司 图像配准方法、宽景成像方法、超声成像方法及其系统
US20130208997A1 (en) * 2010-11-02 2013-08-15 Zte Corporation Method and Apparatus for Combining Panoramic Image
CN104463778A (zh) * 2014-11-06 2015-03-25 北京控制工程研究所 一种全景图生成方法
CN105279735A (zh) * 2015-11-20 2016-01-27 沈阳东软医疗系统有限公司 一种图像拼接的融合方法、装置及设备
CN105678729A (zh) * 2016-02-24 2016-06-15 段梦凡 鱼眼镜头全景图像拼接方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108305218A (zh) * 2017-12-29 2018-07-20 努比亚技术有限公司 全景图像处理方法、终端及计算机可读存储介质
CN108305218B (zh) * 2017-12-29 2022-09-06 浙江水科文化集团有限公司 全景图像处理方法、终端及计算机可读存储介质
CN113255667A (zh) * 2021-06-16 2021-08-13 北京世纪好未来教育科技有限公司 文本图像相似度评估方法、装置、电子设备及存储介质
CN113255667B (zh) * 2021-06-16 2021-10-08 北京世纪好未来教育科技有限公司 文本图像相似度评估方法、装置、电子设备及存储介质
CN113689339A (zh) * 2021-09-08 2021-11-23 北京经纬恒润科技股份有限公司 图像拼接方法及装置
CN113689339B (zh) * 2021-09-08 2023-06-20 北京经纬恒润科技股份有限公司 图像拼接方法及装置

Also Published As

Publication number Publication date
CN107146195B (zh) 2021-05-04

Similar Documents

Publication Publication Date Title
CN105957007B (zh) 基于特征点平面相似度的图像拼接方法
WO2020007320A1 (zh) 多视角图像的融合方法、装置、计算机设备和存储介质
CN112017216B (zh) 图像处理方法、装置、计算机可读存储介质及计算机设备
CN105005964B (zh) 基于视频序列影像的地理场景全景图快速生成方法
CN104408701A (zh) 一种大场景视频图像拼接方法
CN101630406A (zh) 摄像机的标定方法及摄像机标定装置
US10482571B2 (en) Dual fisheye, hemispherical image projection and stitching method, device and computer-readable medium
JP2019045991A (ja) 生成装置、生成方法、及びプログラム
US20210314543A1 (en) Imaging system and method
CN107146195B (zh) 球面图像拼接方法和装置
KR101324250B1 (ko) 영상 처리를 통한 광축 오차 보상 방법 및 시스템, 광축 오차 보상 기능이 구현된 줌 카메라
US20220358619A1 (en) Automatic dolly zoom image processing device
CN111598777A (zh) 天空云图的处理方法、计算机设备和可读存储介质
CN110278366B (zh) 一种全景图像虚化方法、终端及计算机可读存储介质
Ding et al. Minimal solutions for panoramic stitching given gravity prior
Wang et al. Panoramic image mosaic based on SURF algorithm using OpenCV
CN112734630B (zh) 正射影像处理方法、装置、设备及存储介质
KR101598399B1 (ko) 로드뷰 사진이미지의 좌표정보를 이용한 자동 이미지 합성 시스템
CN110796690B (zh) 图像匹配方法和图像匹配装置
KR101673144B1 (ko) 부분 선형화 기반의 3차원 영상 정합 방법
JP6317611B2 (ja) ディスプレイ表示パターン生成装置及びそのプログラム
KR20110133677A (ko) 3d 영상 처리 장치 및 그 방법
CN112669355B (zh) 基于rgb-d超像素分割的聚焦堆栈数据拼接融合的方法及系统
KR101718309B1 (ko) 색상 정보를 활용한 자동 정합·파노라믹 영상 생성 장치 및 방법
JP2002094849A (ja) 広視野画像撮像装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20210506

Address after: 518000 1902, phase I, international student venture building, No. 29, Gaoxin South Ring Road, high tech Zone community, Yuehai street, Nanshan District, Shenzhen City, Guangdong Province

Patentee after: Shenzhen Talos Innovation Co.,Ltd.

Address before: 518057 2007, block C, Dachong business center, China Resources City, 9676 Yuehai street, Nanshan District, Shenzhen City, Guangdong Province

Patentee before: SHENZHEN DKVISION TECHNOLOGY Co.,Ltd.