CN107274340A - 一种全景图像生成方法及装置 - Google Patents
一种全景图像生成方法及装置 Download PDFInfo
- Publication number
- CN107274340A CN107274340A CN201610217723.6A CN201610217723A CN107274340A CN 107274340 A CN107274340 A CN 107274340A CN 201610217723 A CN201610217723 A CN 201610217723A CN 107274340 A CN107274340 A CN 107274340A
- Authority
- CN
- China
- Prior art keywords
- image
- ball
- ball image
- mrow
- longitude
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 45
- 241000251468 Actinopterygii Species 0.000 claims abstract description 43
- 238000000605 extraction Methods 0.000 claims description 16
- 238000005516 engineering process Methods 0.000 claims description 12
- 230000004927 fusion Effects 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 8
- 230000008901 benefit Effects 0.000 description 3
- 102100030684 Sphingosine-1-phosphate phosphatase 1 Human genes 0.000 description 2
- 101710168942 Sphingosine-1-phosphate phosphatase 1 Proteins 0.000 description 2
- 102100030677 Sphingosine-1-phosphate phosphatase 2 Human genes 0.000 description 2
- 101710168938 Sphingosine-1-phosphate phosphatase 2 Proteins 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000005094 computer simulation Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001035 drying Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000002324 minimally invasive surgery Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
本发明实施例中，提出一种全景图像生成方法及装置：获取第一鱼眼图像和第二鱼眼图像；根据鱼眼模型将所述第一鱼眼图像展开，得到第一经纬度图像，将所述第二鱼眼图像展开，得到第二经纬度图像；将所述第一经纬度图像和所述第二经纬度图像分别映射到对应的单位球上，得到第一球图像和第二球图像；拼接融合所述第一球图像和所述第二球图像，生成全景图像，在该方案中，根据两张鱼眼图像生成两张经纬度图像，并根据两张经纬度图像来生成全景图像，不需要多张不同角度的图像生成全景图像，因此，降低了生成全景图像的复杂度，提高了效率。
Description
技术领域
本发明涉及图形图像技术领域，尤其涉及一种全景图像生成方法及装置。
背景技术
近年来，随着计算机技术的快速发展，图像融合技术发展越来越广泛和深入，对具有较大视域全景图像的需求也越来越迫切。全景图像拼接作为新兴技术，最近几年快速发展，受到研究者越来越多的关注。目前全景图像已经成为计算机仿真、计算机视觉模拟、图像处理和计算机特效以及虚拟现实研究中的热点和关键技术，在地质勘测、军事侦查、医学微创手术、航空航天以及视频会议等多个领域发挥着重要作用。
和平面图像相比，全景图像能够记录下拍摄位置周围360°的图像，给人带来强烈的真实感和立体感，所以在影视、旅游、房地产等多个行业存在广泛的应用前景。目前生成全景图像的方法，大多数是使用多张不同角度的图像合成得到的，制作过程复杂、繁琐、效率较低。
发明内容
鉴于上述问题，提出了本发明，以便提供一种克服上述问题或者至少部分地解决上述问题的一种全景图像生成方法及装置。
依据本发明的第一方面，提供了一种全景图像生成方法，包括：
获取第一鱼眼图像和第二鱼眼图像；
根据鱼眼模型将所述第一鱼眼图像展开，得到第一经纬度图像，将所述第二鱼眼图像展开，得到第二经纬度图像；
将所述第一经纬度图像和所述第二经纬度图像分别映射到对应的单位球上，得到第一球图像和第二球图像；
拼接融合所述第一球图像和所述第二球图像，生成全景图像。
在一个实施例中，根据本发明的上述实施例所述的方法，将所述第一经纬度图像映射到对应的单位球上，得到第一球图像，包括：
所述第一球图像和所述第一经纬度图像满足如下规则：
其中，x、y、z分别为所述第一经纬度图像映射到对应单位球上的横坐标、纵坐标和高度坐标，θ分别为所述第一经纬度图像的经度和纬度。
在一些实施例中，根据本发明的上述任一实施例所述的方法，θ满足如下规则：
其中，U、V分别为所述第一经纬度图像上的点的横坐标和纵坐标，width、height分别为所述第一经纬度图像的宽度和高度。
在一些实施例中，根据本发明的上述任一实施例所述的方法，得到第一球图像和第二球图像之后，拼接融合所述第一球图像和所述第二球图像之前，所述方法还包括：
生成第一球图像目标特征点和第二球图像目标特征点，所述第一球图像目标特征点为第一目标特征点在所述第一球图像上的点，所述第二球图像目标特征点为第二目标特征点在所述第二球图像上的点；
根据所述第一球图像目标特征点和所述第二球图像目标特征点，计算所述第一球图像和所述第二球图像之间的目标旋转欧拉角；
拼接融合所述第一球图像和所述第二球图像，包括：
根据所述目标旋转欧拉角拼接融合所述第一球图像和所述第二球图像。
在一些实施例中，根据本发明的上述任一实施例所述的方法，根据所述第一球图像目标特征点和所述第二球图像目标特征点，计算所述第一球图像和所述第二球图像之间的目标旋转欧拉角，包括：
将所述第二球图像旋转，得到第三球图像；
计算所述第一球图像和所述第三球图像之间的旋转欧拉角；
将计算得到的所有旋转欧拉角中最小距离和对应的旋转欧拉角，作为所述目标旋转欧拉角，距离和是指第一球图像目标特征点和第二球图像目标特征点之间距离的和。
在一些实施例中，根据本发明的上述任一实施例所述的方法，将所述第二球图像旋转，得到第三球图像，包括：
采用如下方式将所述第二球图像旋转，得到第三球图像：
所述第三球图像＝R(yaw,pitch,roll)*所述第二球图像。
在一些实施例中，根据本发明的上述任一实施例所述的方法，所述R(yaw,pitch,roll)满足如下规则：
R((yaw,pitch,roll)＝R(yaw)*R(pitch)*R(roll)
其中：
roll为围绕X轴旋转的旋转角度，pitch为围绕Y轴旋转的旋转角度，yaw为围绕Z轴旋转的旋转角度。
在一些实施例中，根据本发明的上述任一实施例所述的方法，所述第一目标特征点和所述第二目标特征点采用如下方式生成：
对所述第一经纬度图像和所述第二经纬度图像进行特征点提取，得到第一特征点和第二特征点；
将所述第一特征点和所述第二特征点进行匹配，并将所述第一特征点中匹配成功的特征点作为第一目标特征点，将所述第二特征点中匹配成功的特征点作为第二目标特征点，所述第一目标特征点和所述第二目标特征点的数量相等。
在一些实施例中，根据本发明的上述任一实施例所述的方法，对所述第一经纬度图像和所述第二经纬度图像进行特征点提取，包括：
采用surf技术对所述第一经纬度图像和所述第二经纬度图像进行特征点提取。
依据本发明的第二方面，提供了一种全景图像生成装置，包括：
获取单元，用于获取第一鱼眼图像和第二鱼眼图像；
图像展开单元，用于根据鱼眼模型将所述第一鱼眼图像展开，得到第一经纬度图像，将所述第二鱼眼图像展开，得到第二经纬度图像；
球图像生成单元，用于将所述第一经纬度图像和所述第二经纬度图像分别映射到对应的单位球上，得到第一球图像和第二球图像；
全景图像生成单元，用于拼接融合所述第一球图像和所述第二球图像，生成全景图像。
在一个实施例中，根据本发明的上述实施例所述的装置，所述球图像生成单元将所述第一经纬度图像映射到对应的单位球上，得到第一球图像时，具体为：
所述第一球图像和所述第一经纬度图像满足如下规则：
其中，x、y、z分别为所述第一经纬度图像映射到对应单位球上的横坐标、纵坐标和高度坐标；θ分别为所述第一经纬度图像的经度和纬度。
在一些实施例中，根据本发明的上述任一实施例所述的装置，θ满足如下规则：
其中，U、V分别为所述第一经纬度图像上的点的横坐标和纵坐标，width、height分别为所述第一经纬度图像的宽度和高度。
在一些实施例中，根据本发明的上述任一实施例所述的装置，所述装置还包括球图像目标特征点生成单元和旋转欧拉角计算单元，其中：
所述球图像目标特征点生成单元，用于生成第一球图像目标特征点和第二球图像目标特征点，所述第一球图像目标特征点为第一目标特征点在所述第一球图像上的点，所述第二球图像目标特征点为第二目标特征点在所述第二球图像上的点；
所述旋转欧拉角计算单元，用于根据所述第一球图像目标特征点和所述第二球图像目标特征点，计算所述第一球图像和所述第二球图像之间的目标旋转欧拉角；
全景图像生成单元拼接融合所述第一球图像和所述第二球图像时，具体为：
根据所述目标旋转欧拉角拼接融合所述第一球图像和所述第二球图像。
在一些实施例中，根据本发明的上述任一实施例所述的装置，所述装置还包括旋转单元，用于将所述第二球图像旋转，得到第三球图像；
所述旋转欧拉角计算单元还用于，计算所述第一球图像和所述第三球图像之间的旋转欧拉角；将计算得到的所有旋转欧拉角中最小距离和对应的旋转欧拉角，作为所述目标旋转欧拉角，距离和是指第一球图像目标特征点和第二球图像目标特征点之间距离的和。
在一些实施例中，根据本发明的上述任一实施例所述的装置，所述旋转单元将所述第二球图像旋转，得到第三球图像时，具体为：
采用如下方式将所述第二球图像旋转，得到第三球图像；
所述第三球图像＝R(yaw,pitch,roll)*所述第二球图像。
在一些实施例中，根据本发明的上述任一实施例所述的装置，所述R(yaw,pitch,roll)满足如下规则：
R((yaw,pitch,roll)＝R(yaw)*R(pitch)*R(roll)
其中：
roll为围绕X轴旋转的旋转角度、pitch为围绕Y轴旋转的旋转角度、yaw为围绕Z轴旋转的旋转角度。
在一些实施例中，根据本发明的上述任一实施例所述的装置，所述装置还包括特征点提取单元和特征点匹配单元，其中：
所述特征点提取单元，用于对所述第一经纬度图像和所述第二经纬度图像进行特征点提取，得到第一特征点和第二特征点；
所述特征点匹配单元，用于将所述第一特征点和所述第二特征点进行匹配，并将所述第一特征点中匹配成功的特征点作为第一目标特征点，将所述第二特征点中匹配成功的特征点作为第二目标特征点，所述第一目标特征点和所述第二目标特征点的数量相等。
在一些实施例中，根据本发明的上述任一实施例所述的装置，所述特征点提取单元对所述第一经纬度图像和所述第二经纬度图像进行特征点提取时，具体为：
采用surf技术对所述第一经纬度图像和所述第二经纬度图像进行特征点提取。
本发明实施例中，提出一种全景图像生成方法及装置：获取第一鱼眼图像和第二鱼眼图像；根据鱼眼模型将所述第一鱼眼图像展开，得到第一经纬度图像，将所述第二鱼眼图像展开，得到第二经纬度图像；将所述第一经纬度图像和所述第二经纬度图像分别映射到对应的单位球上，得到第一球图像和第二球图像；拼接融合所述第一球图像和所述第二球图像，生成全景图像，在该方案中，根据两张鱼眼图像生成两张经纬度图像，并根据两张经纬度图像来生成全景图像，不需要多张不同角度的图像生成全景图像，因此，降低了生成全景图像的复杂度，提高了效率。
上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：
图1是根据本发明的实施例的全景图像生成的方法的流程图；
图2A是根据本发明的实施例的全景图像生成的实施例的流程图；
图2B是根据本发明的实施例的包括第一鱼眼图像和第二鱼眼图像的图像的示意图；
图2C是根据本发明的实施例的第一经纬度图像的示意图；
图2D是根据本发明的实施例的第二经纬度图像的示意图；
图2E是根据本发明的实施例的第一经纬度图像的左侧图像包括的第一特征点和第二经纬度图像的右侧图像包括的第二特征点进行匹配的特征点示意图；
图2F是根据本发明的实施例的第一经纬度图像的右侧图像包括的第一特征点和第二经纬度图像的左侧图像包括的第二特征点进行匹配的特征点示意图；
图3是根据本发明的实施例的全景图像生成装置的示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。
图1示意性地示出了根据本发明实施方式的全景图像生成方法10的流程示意图。如图1所示，该方法可以包括步骤100、110、120以及130。
步骤100：获取第一鱼眼图像和第二鱼眼图像；
步骤110：根据鱼眼模型将所述第一鱼眼图像展开，得到第一经纬度图像，将所述第二鱼眼图像展开，得到第二经纬度图像；
步骤120：将所述第一经纬度图像和所述第二经纬度图像分别映射到对应的单位球上，得到第一球图像和第二球图像；
步骤130：拼接融合所述第一球图像和所述第二球图像，生成全景图像。
本发明实施例中，将所述第一经纬度图像映射到对应的单位球上，得到第一球图像时，可选地，可以采用如下方式：
所述第一球图像和所述第一经纬度图像满足如下规则：
其中，x、y、z分别为所述第一经纬度图像映射到对应单位球上的横坐标、纵坐标和高度坐标，θ分别为所述第一经纬度图像的经度和纬度。
本发明实施例中，可选地，θ满足如下规则：
其中，U、V分别为所述第一经纬度图像上的点的横坐标和纵坐标，width、height分别为所述第一经纬度图像的宽度和高度。
前面描述的是将所述第一经纬度图像映射到对应的单位球上，得到第一球图像的方式，本发明实施例中，将所述第二经纬度图像映射到对应的单位球上，得到第二球图像的方式与得的第一球图像的方式相同。
所述第二球图像和所述第二经纬度图像满足如下规则：
其中，在得的第二经纬度图像的方式下，x、y、z分别为所述第二经纬度图像映射到对应单位球上的横坐标、纵坐标和高度坐标，θ分别为所述第二经纬度图像的经度和纬度。
本发明实施例中，可选地，θ满足如下规则：
其中，在得的第二经纬度图像的方式下，U、V分别为所述第二经纬度图像上的点的横坐标和纵坐标，width、height分别为所述第二经纬度图像的宽度和高度。
进一步的，得到第一球图像和第二球图像之后，拼接融合所述第一球图像和所述第二球图像之前，所述方法还包括如下操作：
生成第一球图像目标特征点和第二球图像目标特征点，所述第一球图像目标特征点为第一目标特征点在所述第一球图像上的点，所述第二球图像目标特征点为第二目标特征点在所述第二球图像上的点；
根据所述第一球图像目标特征点和所述第二球图像目标特征点，计算所述第一球图像和所述第二球图像之间的目标旋转欧拉角；
此时，拼接融合所述第一球图像和所述第二球图像时，可以采用如下方式：
根据所述目标旋转欧拉角拼接融合所述第一球图像和所述第二球图像。
本发明实施例中，根据所述第一球图像目标特征点和所述第二球图像目标特征点，计算所述第一球图像和所述第二球图像之间的目标旋转欧拉角时，可选地，可以采用如下方式：
将所述第二球图像旋转，得到第三球图像；
计算所述第一球图像和所述第三球图像之间的旋转欧拉角；
将计算得到的所有旋转欧拉角中最小距离和对应的旋转欧拉角，作为所述目标旋转欧拉角，距离和是指第一球图像目标特征点和第二球图像目标特征点之间距离的和。
本发明实施例中，将所述第二球图像旋转，得到第三球图像时，可选地，可以采用如下方式：
采用如下方式将所述第二球图像旋转，得到第三球图像：
所述第三球图像＝R(yaw,pitch,roll)*所述第二球图像。
本发明实施例中，可选地，所述R(yaw,pitch,roll)满足如下规则：
R((yaw,pitch,roll)＝R(yaw)*R(pitch)*R(roll) (公式三)
其中：
roll为围绕X轴旋转的旋转角度，pitch为围绕Y轴旋转的旋转角度，yaw为围绕Z轴旋转的旋转角度。
需要说明的是，前面描述的是将所述第二球图像旋转，得到第三球图像的过程，在实际应用中，也可以将所述第一球图像旋转，得的第三球图像，过程与将第二球图像旋转得到第三球图像的过程类似，在此不再进行详述。
本发明实施例中，可选地，所述第一目标特征点和所述第二目标特征点采用如下方式生成：
对所述第一经纬度图像和所述第二经纬度图像进行特征点提取，得到第一特征点和第二特征点；
将所述第一特征点和所述第二特征点进行匹配，并将所述第一特征点中匹配成功的特征点作为第一目标特征点，将所述第二特征点中匹配成功的特征点作为第二目标特征点，所述第一目标特征点和所述第二目标特征点的数量相等。
本发明实施例中，对所述第一经纬度图像和所述第二经纬度图像进行特征点提取时，可选地，可以采用如下方式：
采用surf技术对所述第一经纬度图像和所述第二经纬度图像进行特征点提取。
在该方案中，根据两张鱼眼图像生成两张经纬度图像，并根据两张经纬度图像来生成全景图像，不需要多张不同角度的图像生成全景图像，因此，降低了生成全景图像的复杂度，提高了效率。
参阅图2A所示，本发明实施例提出一种全景图像生成方法的实施例，具体步骤如下：
步骤200：获取一幅包含第一鱼眼图像和第二鱼眼图像的图像；
该步骤中的包括第一鱼眼图像和第二鱼眼图像的图像可以参考图2B所示。
步骤210：根据鱼眼模型将第一鱼眼图像展开，得到第一经纬度图像，将第二鱼眼图像展开，得到第二经纬度图像；
其中，第一经纬度图像如图2C所示，第二经纬度图像如图2D所示。
步骤220：将第一经纬度图像和第二经纬度图像分别映射到对应的单位球上，得到第一球图像SPP1和第二球图像SPP2；
其中，SPP1和第一经纬度图像满足公式一所示的规则，SPP2和第二经纬度图像满足公式一所示的规则。
步骤230：生成第一球图像目标特征点和第二球图像目标特征点，所述第一球图像目标特征点为第一目标特征点在所述第一球图像上的点，所述第二球图像目标特征点为第二目标特征点在所述第二球图像上的点；
其中，图2E是第一经纬度图像的左侧图像包括的第一特征点和第二经纬度图像的右侧图像包括的第二特征点进行匹配的特征点示意图；图2F是第一经纬度图像的右侧图像包括的第一特征点和第二经纬度图像的左侧图像包括的第二特征点进行匹配的特征点示意图。
步骤240：将所述第二球图像旋转，得到第三球图像；
采用如下方式将所述第二球图像旋转，得到第三球图像：
所述第三球图像＝R(yaw,pitch,roll)*所述第二球图像。
步骤250：计算所述第一球图像和所述第三球图像之间的旋转欧拉角；
步骤260：将计算得到的所有旋转欧拉角中最小距离和对应的旋转欧拉角，作为所述目标旋转欧拉角，距离和是指第一球图像目标特征点和第二球图像目标特征点之间距离的和；
步骤270：根据所述目标旋转欧拉角拼接融合所述第一球图像和所述第二球图像。
参阅图3所示，本发明实施例还提出一种全景图像生成装置30，该装置30包括获取单元300、图像展开单元310、球图像生成单元320和全景图像生成单元330，其中：
获取单元300，用于获取第一鱼眼图像和第二鱼眼图像；
图像展开单元310，用于根据鱼眼模型将所述第一鱼眼图像展开，得到第一经纬度图像，将所述第二鱼眼图像展开，得到第二经纬度图像；
球图像生成单元320，用于将所述第一经纬度图像和所述第二经纬度图像分别映射到对应的单位球上，得到第一球图像和第二球图像；
全景图像生成单元330，用于拼接融合所述第一球图像和所述第二球图像，生成全景图像。
本发明实施例中，可选地，所述球图像生成单元320将所述第一经纬度图像映射到对应的单位球上，得到第一球图像时，具体为：
所述第一球图像和所述第一经纬度图像满足如下规则：
其中，x、y、z分别为所述第一经纬度图像映射到对应单位球上的横坐标、纵坐标和高度坐标；θ分别为所述第一经纬度图像的经度和纬度。
本发明实施例中，可选地，θ满足如下规则：
其中，U、V分别为所述第一经纬度图像上的点的横坐标和纵坐标，width、height分别为所述第一经纬度图像的宽度和高度。
前面描述的是所述球图像生成单元320将所述第一经纬度图像映射到对应的单位球上，得到第一球图像的方式，本发明实施例中，所述球图像生成单元320将所述第二经纬度图像映射到对应的单位球上，得到第二球图像的方式与得的第一球图像的方式相同。
所述第二球图像和所述第二经纬度图像满足如下规则：
其中，在得的第二经纬度图像的方式下，x、y、z分别为所述第二经纬度图像映射到对应单位球上的横坐标、纵坐标和高度坐标，θ分别为所述第二经纬度图像的经度和纬度。
本发明实施例中，可选地，θ满足如下规则：
其中，在得的第二经纬度图像的方式下，U、V分别为所述第二经纬度图像上的点的横坐标和纵坐标，width、height分别为所述第二经纬度图像的宽度和高度。
进一步的，所述装置还包括球图像目标特征点生成单元340和旋转欧拉角计算单元350，其中：
所述球图像目标特征点生成单元340，用于生成第一球图像目标特征点和第二球图像目标特征点，所述第一球图像目标特征点为第一目标特征点在所述第一球图像上的点，所述第二球图像目标特征点为第二目标特征点在所述第二球图像上的点；
所述旋转欧拉角计算单元350，用于根据所述第一球图像目标特征点和所述第二球图像目标特征点，计算所述第一球图像和所述第二球图像之间的目标旋转欧拉角；
此时，全景图像生成单元330拼接融合所述第一球图像和所述第二球图像时，具体为：
根据所述目标旋转欧拉角拼接融合所述第一球图像和所述第二球图像。
本发明实施例中，进一步的，所述装置还包括旋转单元360，用于将所述第二球图像旋转，得到第三球图像；
所述旋转欧拉角计算单元350还用于，计算所述第一球图像和所述第三球图像之间的旋转欧拉角；将计算得到的所有旋转欧拉角中最小距离和对应的旋转欧拉角，作为所述目标旋转欧拉角，距离和是指第一球图像目标特征点和第二球图像目标特征点之间距离的和。
本发明实施例中，可选地，所述旋转单元360将所述第二球图像旋转，得到第三球图像时，具体为：
采用如下方式将所述第二球图像旋转，得到第三球图像；
所述第三球图像＝R(yaw,pitch,roll)*所述第二球图像。
本发明实施例中，可选地，所述R(yaw,pitch,roll)满足如下规则：
R((yaw,pitch,roll)＝R(yaw)*R(pitch)*R(roll)
其中：
roll为围绕X轴旋转的旋转角度、pitch为围绕Y轴旋转的旋转角度、yaw为围绕Z轴旋转的旋转角度。
需要说明的是，前面描述的是将所述第二球图像旋转，得到第三球图像的过程，在实际应用中，也可以将所述第一球图像旋转，得的第三球图像，过程与将第二球图像旋转得到第三球图像的过程类似，在此不再进行详述。
本发明实施例中，进一步的，所述装置还包括特征点提取单元370和特征点匹配单元380，其中：
所述特征点提取单元370，用于对所述第一经纬度图像和所述第二经纬度图像进行特征点提取，得到第一特征点和第二特征点；
所述特征点匹配单元380，用于将所述第一特征点和所述第二特征点进行匹配，并将所述第一特征点中匹配成功的特征点作为第一目标特征点，将所述第二特征点中匹配成功的特征点作为第二目标特征点，所述第一目标特征点和所述第二目标特征点的数量相等。
本发明实施例中，可选地，所述特征点提取单元370对所述第一经纬度图像和所述第二经纬度图像进行特征点提取时，具体为：
采用surf技术对所述第一经纬度图像和所述第二经纬度图像进行特征点提取。
在该方案中，根据两张鱼眼图像生成两张经纬度图像，并根据两张经纬度图像来生成全景图像，不需要多张不同角度的图像生成全景图像，因此，降低了生成全景图像的复杂度，提高了效率。
在此提供的方法和装置不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类装置所要求的结构是显而易见的。此外，本发明也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。
类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解，可以对实施例中的装置中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个装置中。可以把实施例中的若干模块组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者模块中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的替代特征来代替。
此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个装置实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的装置中的一些或者全部模块的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
Claims (10)
1.一种全景图像生成方法，包括：
获取第一鱼眼图像和第二鱼眼图像；
根据鱼眼模型将所述第一鱼眼图像展开，得到第一经纬度图像，将所述第二鱼眼图像展开，得到第二经纬度图像；
将所述第一经纬度图像和所述第二经纬度图像分别映射到对应的单位球上，得到第一球图像和第二球图像；
拼接融合所述第一球图像和所述第二球图像，生成全景图像。
2.如权利要求1所述的方法，将所述第一经纬度图像映射到对应的单位球上，得到第一球图像，包括：
所述第一球图像和所述第一经纬度图像满足如下规则：
其中，x、y、z分别为所述第一经纬度图像映射到对应单位球上的横坐标、纵坐标和高度坐标，θ分别为所述第一经纬度图像的经度和纬度。
3.如权利要求2所述的方法，θ满足如下规则：
其中，U、V分别为所述第一经纬度图像上的点的横坐标和纵坐标，width、height分别为所述第一经纬度图像的宽度和高度。
4.如权利要求1所述的方法，得到第一球图像和第二球图像之后，拼接融合所述第一球图像和所述第二球图像之前，所述方法还包括：
生成第一球图像目标特征点和第二球图像目标特征点，所述第一球图像目标特征点为第一目标特征点在所述第一球图像上的点，所述第二球图像目标特征点为第二目标特征点在所述第二球图像上的点；
根据所述第一球图像目标特征点和所述第二球图像目标特征点，计算所述第一球图像和所述第二球图像之间的目标旋转欧拉角；
拼接融合所述第一球图像和所述第二球图像，包括：
根据所述目标旋转欧拉角拼接融合所述第一球图像和所述第二球图像。
5.如权利要求4所述的方法，根据所述第一球图像目标特征点和所述第二球图像目标特征点，计算所述第一球图像和所述第二球图像之间的目标旋转欧拉角，包括：
将所述第二球图像旋转，得到第三球图像；
计算所述第一球图像和所述第三球图像之间的旋转欧拉角；
将计算得到的所有旋转欧拉角中最小距离和对应的旋转欧拉角，作为所述目标旋转欧拉角，距离和是指第一球图像目标特征点和第二球图像目标特征点之间距离的和。
6.如权利要求5所述的方法，将所述第二球图像旋转，得到第三球图像，包括：
采用如下方式将所述第二球图像旋转，得到第三球图像：
所述第三球图像＝R(yaw,pitch,roll)*所述第二球图像。
7.如权利要求6所述的方法，所述R(yaw,pitch,roll)满足如下规则：
R((yaw,pitch,roll)＝R(yaw)*R(pitch)*R(roll)
其中：
<mrow>
<mi>R</mi>
<mrow>
<mo>(</mo>
<mi>p</mi>
<mi>i</mi>
<mi>t</mi>
<mi>c</mi>
<mi>h</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<mfenced open = "[" close = "]">
<mtable>
<mtr>
<mtd>
<mrow>
<mi>c</mi>
<mi>o</mi>
<mi>s</mi>
<mrow>
<mo>(</mo>
<mi>p</mi>
<mi>i</mi>
<mi>t</mi>
<mi>c</mi>
<mi>h</mi>
<mo>)</mo>
</mrow>
</mrow>
</mtd>
<mtd>
<mn>0</mn>
</mtd>
<mtd>
<mrow>
<mi>s</mi>
<mi>i</mi>
<mi>n</mi>
<mrow>
<mo>(</mo>
<mi>p</mi>
<mi>i</mi>
<mi>t</mi>
<mi>c</mi>
<mi>h</mi>
<mo>)</mo>
</mrow>
</mrow>
</mtd>
</mtr>
<mtr>
<mtd>
<mn>0</mn>
</mtd>
<mtd>
<mn>1</mn>
</mtd>
<mtd>
<mn>0</mn>
</mtd>
</mtr>
<mtr>
<mtd>
<mrow>
<mo>-</mo>
<mi>s</mi>
<mi>i</mi>
<mi>n</mi>
<mrow>
<mo>(</mo>
<mi>p</mi>
<mi>i</mi>
<mi>t</mi>
<mi>c</mi>
<mi>h</mi>
<mo>)</mo>
</mrow>
</mrow>
</mtd>
<mtd>
<mn>0</mn>
</mtd>
<mtd>
<mrow>
<mi>cos</mi>
<mrow>
<mo>(</mo>
<mi>p</mi>
<mi>i</mi>
<mi>t</mi>
<mi>c</mi>
<mi>h</mi>
<mo>)</mo>
</mrow>
</mrow>
</mtd>
</mtr>
</mtable>
</mfenced>
</mrow>
<mrow>
<mi>R</mi>
<mrow>
<mo>(</mo>
<mo>(</mo>
<mi>y</mi>
<mi>a</mi>
<mi>w</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<mfenced open = "[" close = "]">
<mtable>
<mtr>
<mtd>
<mrow>
<mi>c</mi>
<mi>o</mi>
<mi>s</mi>
<mrow>
<mo>(</mo>
<mi>y</mi>
<mi>a</mi>
<mi>w</mi>
<mo>)</mo>
</mrow>
</mrow>
</mtd>
<mtd>
<mrow>
<mo>-</mo>
<mi>s</mi>
<mi>i</mi>
<mi>n</mi>
<mrow>
<mo>(</mo>
<mi>y</mi>
<mi>a</mi>
<mi>w</mi>
<mo>)</mo>
</mrow>
</mrow>
</mtd>
<mtd>
<mn>0</mn>
</mtd>
</mtr>
<mtr>
<mtd>
<mrow>
<mi>s</mi>
<mi>i</mi>
<mi>n</mi>
<mrow>
<mo>(</mo>
<mi>y</mi>
<mi>a</mi>
<mi>w</mi>
<mo>)</mo>
</mrow>
</mrow>
</mtd>
<mtd>
<mrow>
<mi>cos</mi>
<mrow>
<mo>(</mo>
<mi>y</mi>
<mi>a</mi>
<mi>w</mi>
<mo>)</mo>
</mrow>
</mrow>
</mtd>
<mtd>
<mn>0</mn>
</mtd>
</mtr>
<mtr>
<mtd>
<mn>0</mn>
</mtd>
<mtd>
<mn>0</mn>
</mtd>
<mtd>
<mn>1</mn>
</mtd>
</mtr>
</mtable>
</mfenced>
</mrow>
2
roll为围绕X轴旋转的旋转角度，pitch为围绕Y轴旋转的旋转角度，yaw为围绕Z轴旋转的旋转角度。
8.如权利要求4-7任一项所述的方法，所述第一目标特征点和所述第二目标特征点采用如下方式生成：
对所述第一经纬度图像和所述第二经纬度图像进行特征点提取，得到第一特征点和第二特征点；
将所述第一特征点和所述第二特征点进行匹配，并将所述第一特征点中匹配成功的特征点作为第一目标特征点，将所述第二特征点中匹配成功的特征点作为第二目标特征点，所述第一目标特征点和所述第二目标特征点的数量相等。
9.如权利要求8所述的方法，对所述第一经纬度图像和所述第二经纬度图像进行特征点提取，包括：
采用surf技术对所述第一经纬度图像和所述第二经纬度图像进行特征点提取。
10.一种全景图像生成装置，包括：
获取单元，用于获取第一鱼眼图像和第二鱼眼图像；
图像展开单元，用于根据鱼眼模型将所述第一鱼眼图像展开，得到第一经纬度图像，将所述第二鱼眼图像展开，得到第二经纬度图像；
球图像生成单元，用于将所述第一经纬度图像和所述第二经纬度图像分别映射到对应的单位球上，得到第一球图像和第二球图像；
全景图像生成单元，用于拼接融合所述第一球图像和所述第二球图像，生成全景图像。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201610217723.6A CN107274340A (zh) | 2016-04-08 | 2016-04-08 | 一种全景图像生成方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201610217723.6A CN107274340A (zh) | 2016-04-08 | 2016-04-08 | 一种全景图像生成方法及装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN107274340A true CN107274340A (zh) | 2017-10-20 |
Family
ID=60052108
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201610217723.6A Pending CN107274340A (zh) | 2016-04-08 | 2016-04-08 | 一种全景图像生成方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN107274340A (zh) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2019119597A1 (zh) * | 2017-12-22 | 2019-06-27 | 深圳岚锋创视网络科技有限公司 | 移动终端与镜头组件配合实现平面拍摄、全景拍摄的方法和镜头组件 |
| CN111429529A (zh) * | 2020-04-10 | 2020-07-17 | 浙江大华技术股份有限公司 | 一种坐标转换的标定方法、电子设备以及计算机存储介质 |
| WO2021120389A1 (zh) * | 2019-12-19 | 2021-06-24 | 广州启量信息科技有限公司 | 一种用于空中全景漫游数据的坐标转换方法及装置 |
| CN115174805A (zh) * | 2022-06-27 | 2022-10-11 | 影石创新科技股份有限公司 | 全景立体图像的生成方法、装置和电子设备 |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1437165A (zh) * | 2003-01-24 | 2003-08-20 | 上海杰图软件技术有限公司 | 一种基于两张鱼眼图像的智能型全景生成方法 |
| CN102538761A (zh) * | 2012-01-09 | 2012-07-04 | 刘进 | 球面全景相机摄影测量方法 |
| CN103729850A (zh) * | 2013-12-31 | 2014-04-16 | 楚天科技股份有限公司 | 一种在全景图中提取直线的方法 |
| CN104680505A (zh) * | 2013-11-29 | 2015-06-03 | 陆婷 | 一种鱼眼镜头校正的全景视图算法 |
| US20150170332A1 (en) * | 2013-01-18 | 2015-06-18 | Tencent Technology (Shenzhen) Company Limited | Method, Device and Computer-Readable Storage Medium for Panoramic Image Completion |
| CN104835117A (zh) * | 2015-05-11 | 2015-08-12 | 合肥工业大学 | 基于重叠方式的球面全景图生成方法 |
| CN104835118A (zh) * | 2015-06-04 | 2015-08-12 | 浙江得图网络有限公司 | 通过两路鱼眼摄像头采集全景图像的方法 |
| CN105208247A (zh) * | 2015-09-02 | 2015-12-30 | 长春理工大学 | 一种基于四元数的全景稳像方法 |
-
2016
- 2016-04-08 CN CN201610217723.6A patent/CN107274340A/zh active Pending
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1437165A (zh) * | 2003-01-24 | 2003-08-20 | 上海杰图软件技术有限公司 | 一种基于两张鱼眼图像的智能型全景生成方法 |
| CN102538761A (zh) * | 2012-01-09 | 2012-07-04 | 刘进 | 球面全景相机摄影测量方法 |
| US20150170332A1 (en) * | 2013-01-18 | 2015-06-18 | Tencent Technology (Shenzhen) Company Limited | Method, Device and Computer-Readable Storage Medium for Panoramic Image Completion |
| CN104680505A (zh) * | 2013-11-29 | 2015-06-03 | 陆婷 | 一种鱼眼镜头校正的全景视图算法 |
| CN103729850A (zh) * | 2013-12-31 | 2014-04-16 | 楚天科技股份有限公司 | 一种在全景图中提取直线的方法 |
| CN104835117A (zh) * | 2015-05-11 | 2015-08-12 | 合肥工业大学 | 基于重叠方式的球面全景图生成方法 |
| CN104835118A (zh) * | 2015-06-04 | 2015-08-12 | 浙江得图网络有限公司 | 通过两路鱼眼摄像头采集全景图像的方法 |
| CN105208247A (zh) * | 2015-09-02 | 2015-12-30 | 长春理工大学 | 一种基于四元数的全景稳像方法 |
Non-Patent Citations (4)
| Title |
|---|
| 余让明: "基于特征的全景图像拼接技术研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
| 庞晓磊: "基于多摄像机系统的全景三维重建", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
| 杨琳 等: "虚拟校园三维全景漫游技术研究", 《计算机工程与科学》 * |
| 杨超然: "基于球面模型的鱼眼图像拼接技术的研究与实现", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2019119597A1 (zh) * | 2017-12-22 | 2019-06-27 | 深圳岚锋创视网络科技有限公司 | 移动终端与镜头组件配合实现平面拍摄、全景拍摄的方法和镜头组件 |
| WO2021120389A1 (zh) * | 2019-12-19 | 2021-06-24 | 广州启量信息科技有限公司 | 一种用于空中全景漫游数据的坐标转换方法及装置 |
| CN111429529A (zh) * | 2020-04-10 | 2020-07-17 | 浙江大华技术股份有限公司 | 一种坐标转换的标定方法、电子设备以及计算机存储介质 |
| CN111429529B (zh) * | 2020-04-10 | 2024-02-20 | 浙江大华技术股份有限公司 | 一种坐标转换的标定方法、电子设备以及计算机存储介质 |
| CN115174805A (zh) * | 2022-06-27 | 2022-10-11 | 影石创新科技股份有限公司 | 全景立体图像的生成方法、装置和电子设备 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108875523B (zh) | 人体关节点检测方法、装置、系统和存储介质 | |
| CN109308678B (zh) | 利用全景图像进行重定位的方法、装置及设备 | |
| CN103942754B (zh) | 全景图像补全方法及装置 | |
| CN107274340A (zh) | 一种全景图像生成方法及装置 | |
| US20180114348A1 (en) | Method and apparatus for generating panoramic image with rotation, translation and warping process | |
| CN107633526A (zh) | 一种图像跟踪点获取方法及设备、存储介质 | |
| CN109308686A (zh) | 一种鱼眼图像处理方法及装置、设备和存储介质 | |
| Park et al. | Beyond GPS: Determining the camera viewing direction of a geotagged image | |
| Li et al. | A geodesic-preserving method for image warping | |
| CN109035327B (zh) | 基于深度学习的全景相机姿态估计方法 | |
| JP2007072537A (ja) | ３６０°画像撮影装置 | |
| CN109448105B (zh) | 基于多深度图像传感器的三维人体骨架生成方法及系统 | |
| US9467620B2 (en) | Synthetic camera lenses | |
| US20110043522A1 (en) | Image-based lighting simulation for objects | |
| CN104103051B (zh) | 一种图像拼接方法和设备 | |
| CN107590811B (zh) | 基于场景分割的风景图像处理方法、装置及计算设备 | |
| CN105469387B (zh) | 一种拼接质量的量化方法和量化装置 | |
| KR20100124748A (ko) | 매끄러운 정사영 이미지 생성 플랫폼 | |
| CN106504196A (zh) | 一种基于空间球面的全景视频拼接方法及设备 | |
| US11954817B2 (en) | Method of plane tracking | |
| Paramanand et al. | Shape from sharp and motion-blurred image pair | |
| KR20110073386A (ko) | 형태의 불변 어파인 인식을 위한 방법 및 장치 | |
| CN116170689A (zh) | 视频生成方法、装置、计算机设备和存储介质 | |
| US11100617B2 (en) | Deep learning method and apparatus for automatic upright rectification of virtual reality content | |
| Wang et al. | Leno: Adversarial robust salient object detection networks with learnable noise |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| TA01 | Transfer of patent application right |
Effective date of registration: 20180605 Address after: 518000 601/603/605, 6 floor, A tower, Dragon Street Century Towers, 23 Xin'an street, Baoan District, Shenzhen, Guangdong Applicant after: Arashi Vision Co., Ltd. Address before: Room A231, two Xiangshan Road, Haidian District, Beijing, Beijing Applicant before: Beijing LAN Feng Chong View Network Technology Co., Ltd. |
|
| TA01 | Transfer of patent application right | ||
| CB02 | Change of applicant information |
Address after: 518000 601/603/605, 6 floor, A tower, Dragon Street Century Towers, 23 Xin'an street, Baoan District, Shenzhen, Guangdong Applicant after: Yingshi Innovation Technology Co., Ltd Address before: 518000 601 / 603 / 605, floor 6, building a, Longguang century building, No. 23, haixiu Road, Xin'an street, Bao'an District, Shenzhen Applicant before: SHENZHEN ARASHI VISION Co.,Ltd. |
|
| CB02 | Change of applicant information | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20171020 |
|
| RJ01 | Rejection of invention patent application after publication |