CN105404441A - 可视化相同环境的表面数据和全景图像数据的方法 - Google Patents
可视化相同环境的表面数据和全景图像数据的方法 Download PDFInfo
- Publication number
- CN105404441A CN105404441A CN201510564435.3A CN201510564435A CN105404441A CN 105404441 A CN105404441 A CN 105404441A CN 201510564435 A CN201510564435 A CN 201510564435A CN 105404441 A CN105404441 A CN 105404441A
- Authority
- CN
- China
- Prior art keywords
- panorama
- map
- data
- panoramic
- view pattern
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/003—Navigation within 3D models or images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
- G06T15/205—Image-based rendering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/05—Geographic models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2215/00—Indexing scheme for image rendering
- G06T2215/12—Shadow map, environment map
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Geometry (AREA)
- Computer Graphics (AREA)
- General Physics & Mathematics (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Instructional Devices (AREA)
- Processing Or Creating Images (AREA)
- Navigation (AREA)
Abstract
可视化相同环境的表面数据和全景图像数据的方法,其包括提供地图视图和全景视图模式,表面数据包括表示三维表面的特征的图块和/或对象并相对于坐标参照系被参照;全景图像数据与全景图像关联并包括全景位置数据;地图视图模式包括从地图视点观看的三维表面的表示;全景视图模式包括从全景视点观看的全景图像。地图视图模式包括显示至少一个全景元素,其包括在地图视图模式中可视化全景图像数据的显示表面,并根据全景位置数据相对于三维表面的表示被定位,其中该方法包括在地图视图模式中根据全景元素相对于地图视点的当前位置和方向在至少两个显示表面上显示全景预览图像,其中全景预览图像基于全景图像数据并对应于全景图像的至少一部分。
Description
技术领域
本发明涉及渲染描述给定环境的表面的数据和描述相同环境的全景图像的数据,以及在相同显示器上将数据一起可视化的方法。
背景技术
渲染是根据模型(诸如三维地形模型)通过计算机程序生成图像的过程。要渲染的三维地形模型可以是包含诸如数字高程模型(DEM)、数字表面模型(DSM)或数字地形模型(DTM)的高程数据的网格。数字模型可以包括有限区域的数据,诸如特定城市或景观的模型,以及大陆乃至整个行星的模型。
三维地形图像的计算机渲染总体上从现有技术已知:US7,551,172B2公开了一种用于在网络中发送表示三维图像的信息的方法,并且US6,496,189B1公开了用于显示从远程设备上交互地选择的视点看见的区域的图像的方法和装置。
当在计算机中例如以鸟瞰图将给定环境的三维地形数据可视化时,会希望同时将相同环境中可得到的全景图像可视化,因为这能给用户提供当地情况的更方便和详细的认知。
US2013/0335446A1公开了一种用于渲染地图的一部分以及来自该地图的用户选择的点的视野图像的方法。诸如“Google街景”或“Bing街景”的其它已知应用允许用户从地图视图模式进入示出相同环境的全景图像的全景视图模式。
但是,能够一起观看全景图像或其预览以及地图视图并且面向地图的坐标参照系将是有益的。
发明内容
因此,本发明的目的是提供一种用于将三维场景的表面数据和全景图像数据一起可视化的改进的方法。
本发明的进一步目的是提供这样一种针对360°全景图像的方法,其中,取决于用户在表面上的当前视野,全景图像的不同的部分可见。
本发明的进一步目的是提供这样一种方法,其中,来自全景图像的信息可以显示在表面的表示中,反之亦然。
本发明的另一目的是提供这样一种具有地图视图和全景视图之间的直观切换的方法。
本发明的进一步目的是提供执行所述方法的计算机程序产品。
这些目的中的至少一个通过根据本发明权利要求1和/或从属权利要求的方法实现。
本发明涉及一种用于可视化三维场景中的表面数据和全景图像数据的方法,该方法包括以下步骤:向用户提供地图视图模式和全景视图模式。所述表面数据与地形表面的表示相关联,包括表示所述地形表面的特征的多个表面图块和/或多个表面对象,并且相对于坐标参照系被参照。所述全景图像数据与至少一个全景图像特别是360°全景图像相关联,并且包括描述相对于所述坐标参照系的位置的全景位置数据。所述地图视图模式包括可视化从地图视点观看的所述地形表面的所述表示的至少一部分的表面数据,并且所述全景视图模式包括可视化从全景视点观看的所述全景图像的至少一部分的全景图像数据。根据本发明,所述地图视图模式包括显示至少一个全景元素,所述全景元素包括用于在所述地图视图模式期间可视化全景图像数据的多个显示表面,并且根据所述全景位置数据相对于所述地形表面的所述表示被定位。所述方法包括以下步骤:根据所述全景元素相对于所述地图视点的当前位置和方向,在所述显示表面上显示所述全景图像或全景预览图像,所述全景预览图像基于所述全景图像数据并且与相应全景图像的至少一部分相对应。
在根据本发明的方法的优选实施方式中,所述全景图像包括至少一个全景对象,该全景对象表示所述地形表面的特征并与表示相同特征的至少一个表面图块和/或表面对象链接。
在一个实施方式中,所述全景图像数据包括指示从当前地图或全景视点到所述全景图像中描绘的至少一个全景,特别是多个全景对象的距离的深度数据,特别是深度图。
在另一实施方式中,在所述全景视图模式下,针对在所述全景图像中描述的至少一个全景对象,基于所述链接的至少一个表面图块和/或表面对象相对于坐标参照系的位置,和/或基于所述深度数据和所述全景位置数据来确定相对于所述坐标参照系的位置,特别是其中,位于所述全景图像的全景对象和所述全景视点之间的、表示所述地形表面的特征的表面图块和/或对象被显示。
在另一实施方式中,在所述地图视图模式下,表示所述地形表面的特征的表面图块和/或对象的纹理基于所述深度数据从所述全景图像数据分配。
在进一步的实施方式中,在所述地图视图模式下和/或在所述全景视图模式下,所述链接的表面图块和/或表面对象的对象数据与所述全景对象一起显示,所述对象数据特别包括与所述特征相关联的地址或位置信息。
在另一实施方式中,根据本发明的方法包括以下步骤:在所述全景图像中识别数据间隙和/或遮住部分,所述数据间隙不包括图像数据,所述遮住部分包括用于拍摄所述全景图像的像机组件或所述像机组件的用户的图像数据。根据该实施方式,该方法还包括以下步骤:在所述地图视图模式和/或在所述全景视图模式中,通过渲染所述地形表面的所述表示的替代部分来替换识别出的数据间隙和/或遮住部分。特别地,所述全景元素的下表面至少部分地显示替代部分,和/或在所述全景视图模式中,显示替代部分。
根据本发明的方法的另一实施方式中,所述全景元素基本为棱柱形,特别是其中,所述全景元素包括上表面、下表面和多个侧表面,其中,所述显示表面是至少两个特别是三个侧表面的内表面和下表面的内表面。
在另一实施方式中,所述全景元素包括立方体地图,其中,所述显示表面是四个侧表面的内表面和所述下表面的内表面。根据视野和所述地图视点的方向,可以同时显示所述立方体地图的一至六个表面之间的表面。特别地,一个或两个表面在面向所述地图视点时不被显示,并且所述上表面不被显示。特别地,每个显示表面都包括用于显示所述全景预览图像的显示部分的多个显示图块。
在根据本发明方法的一个实施方式中,所述全景元素在所述地图视图模式期间保持其相对于所述表面的所述表示的方向。特别地,每个显示表面都被分配所述全景预览图像的部分,与所述全景元素相对于所述地图视点的当前位置和方向无关,只要所述各个显示表面可见,所述显示表面就显示所述部分,并且所述显示表面中的哪个显示表面当前可见取决于所述全景元素相对于所述地图视点的当前位置和方向。
在根据本发明方法的另一实施方式中,所述全景元素在所述地图视图模式期间保持其相对于所述地图视点的方向。特别地,所述全景元素的相同显示表面始终可见,并且所述全景预览图像的哪个部分当前显示在这些显示表面上取决于所述全景元素相对于所述坐标参照系的当前方向。
在根据本发明方法的另一优选实施方式中,在所述地图视图模式下,所述用户能够相对于所述全景元素移动所述地图视点。根据该实施方式,所述全景预览图像的分辨率和/或细节级别取决于所述全景元素到所述地图视点的实际位置的距离,和/或通过利用所述地图视点接近或进入所述全景元素来启动所述全景视图模式。
在根据本发明方法的一个实施方式中,在所述地图视图模式下,隐面消除(backfaceculling)和/或遮挡消除(occlusionculling)以如下方式使用,即,不渲染由于所述全景元素而从所述地图视点隐藏的所述地形表面的隐藏图块,不渲染所述全景元素的外表面,和/或不渲染当前没有显示在所述显示表面中的任一个显示表面上的所述全景预览图像的隐藏部分。
在根据本发明方法的另一实施方式中,所述显示表面中的至少一个是部分透明的,特别是其中,所述显示表面中的每一个被分配特定透明度,和/或从所述地图视图模式切换至所述全景视图模式或从所述全景视图模式切换至所述地图视图模式包括阿尔法混合(alphablending),其中,所述地形表面的所述表示在所述全景图像后方和/或在所述全景预览图像后方可见。
在根据本发明方法的进一步的实施方式中,所述地图视图模式包括同时可视化多个全景元素,其中,所述多个全景元素中的全景元素是可见的还是隐藏的取决于所述全景元素到所述地图视点的距离;和/或所述用户能够确定所述全景元素件中的每一个是可见的还是隐藏的。特别地,在所述地图视图模式下提供全景元素图标以用符号表示根据相应的全景位置数据定位的隐藏的全景元素的位置,所述全景元素图标显示在所述地形表面的所述表示上,和/或所述全景元素提供隐藏功能,允许所述用户隐藏各个全景元素,所述隐藏功能特别地被提供为可选择隐藏键元素和/或各个全景元素的下拉菜单的可选择选项。
在根据本发明的方法的另一实施方式中,所述全景图像示出建筑物内部或所述建筑物的内部的模型,所述地图视图模式包括将所述建筑的模型可视化为表面对象,并且用户对所述模型的选择触发各个全景元素的所述可视化。
在根据本发明的方法的另一实施方式中,所述全景数据包括视频数据,所述视频数据与包括多个全景图像的视频流相关,特别是其中,所述视频流是360°视频流和/或实时视频流,并且所述全景元素显示多个全景预览图像的视频流,特别是实时视频流。
在根据本发明方法的进一步实施方式中,所述地形表面是三维表面,特别是地球表面的一部分。在进一步的实施方式中,所述地形表面的所述表示是地图、航拍图像或地图和航拍图像的结合,特别是以鸟瞰图绘制。在进一步的实施方式中,所述全景位置数据包括纬度值和经度值,和/或描述所述全景图像的高度、航向、旁向倾角、航向倾角、相片旋角、北距和/或东距的值。在进一步的实施方式中,所述表面数据包括描述所述三维表面的几何形状的高程数据,并且根据所述高程数据计算所述全景元素的高度。
本发明还涉及一种计算机程序产品,该计算机程序产品包括存储在机器可读介质上的程序代码,或该计算机程序产品由包括程序代码段的电磁波实现,并且所述计算机程序产品具有用于提供根据本发明的方法的地图视图模式和全景视图模式的计算机可执行指令。
附图说明
在下文中,本发明将通过参考示例性实施方式和附图进行详细描述,在附图中:
图1示出了根据本发明的方法的地图视图模式的示例性可视输出,该示例性可视输出示出了环境的地形表面的表示和相同环境的全景图像的预览;
图2示出了根据本发明的方法的全景视图模式的示例性可视输出;
图3示出了全景图像;
图4示出了地形表面的表示和图3的全景图像的位置和方向;
图5a和图5b示出了图4的地形表面的表示以及显示图3的全景图像的预览的全景元素。
图6a和图6b示出了立方全景元素;
图7示出了半圆柱全景元素;
图8示出了具有朝向用户的视点的三个全景元素的地形表面的表示;
图9a和图9b示出了使用户能够隐藏或显示全景元素的方法;
图10例示了用于切换至全景模式的全景元素的接近;
图11例示了用于切换至全景模式的全景元素的进入;
图12示出了全景视图模式;
图13示出了用于当在表面上使全景元素可视化时进行消隐的示例;
图14示出了在全景视图模式下表面数据的渲染;
图15示出了例示地图视图模式期间用户输入的效果的流程图;以及
图16示出了例示全景视图模式期间用户输入的效果的流程图。
具体实施方式
图1示出了根据本发明的方法的地图视图模式的可视输出1的示例。图1示出了作为鸟瞰地图2的环境的三维地形表面的表示和显示相同环境的全景图像的预览图像3的全景元素30。
所述全景元素30包括在立方体的所有六个表面中具有图像的立方体地图。该立方体地图用于对环境在所有方向的表示进行显示,特别是全景图像的预览3或全景图像本身。使用用于在地图2上定位全景元素30的相同坐标参照系,将全景元素3显示在与地图2相同的3D场景中。为此,所提供的全景数据包括全景位置数据,即至少二维位置(纬度和经度或北距(northing)和东距(easting))以及可选的高度、航向、旁向倾角(roll)、航向倾角(pitch)。当已知全景图像位于地面上或地面附近时,全景的高度可选地能够根据3D地图几何结构来计算。
图2示出了在根据本发明的示例性全景视图模式下观看到的相对应的360°全景图像4的一部分。在全景图像4中,环境的多个对象(全景对象43,44)以及图像的遮住部分48可见,图像的遮住部分48是图像的描述被用于拍摄图像的像机组件的部分的部分,在此示例中,遮住部分48是安装了像机的汽车的部分。没有任何图像数据的部分(数据间隙49)也是可见的。用户可以通过所使用的计算机系统的合适的输入装置(例如,通过使用箭头键、计算机鼠标,或者当使用具有触摸屏和加速度计或陀螺仪的便携式设备时通过向希望的方向移动所述设备和/或在触摸屏上进行典型的移动)缩放或调整观看方向来选择观看全景图像4的特定部分。可选地,能够在全景图像4中显示附近的另一个全景图像的视点位置、指南针或者例如在可视输出的角部中显示指示当前观看方向的小型概览地图。具体地,这些选项可由用户开启/关闭。
图3以更抽象的方式示出了全景图像4。在图4中,描绘了三维表面2的表示。根据本发明,全景图像4基于图像数据,并且三维表面2的表示基于表面数据。表面数据与坐标参照系相关,并且图像数据包括描述相对于表面数据的坐标参照系的位置的全景位置数据。在图4中,全景图像4相对于三维表面2的所述表示的位置和方向由箭头45表示。
全景图像4可以是多个单个图像的图像拼接的结果或由单个360°像机或光球(photosphere)像机拍摄。可选地,全景图像4可以是例如立体图(anaglyph)的立体3D图像。全景图像4可以是对特定的兴趣点进行拍摄或沿道路行驶时按照固定间隔进行拍摄,全景像机例如安装在汽车(如图1和2所示)或自行车的顶部上。另选地,全景图像4可以由诸如全景网络像机的固定像机生成。
全景图像4可选地可以是视频流的一部分,使得全景图像显示该视频流的预览。该视频流可以是实时视频,特别是例如包含来自全景监控像机的直播图像的直播视频流。另选地,可得到在不同的时间点拍摄的相同环境的多个全景图像,所述时间可具体地由用户选择。例如,这对于监视建筑工地的进展可以是有帮助的。
图5a示出了图4的三维表面2的表示,其中全景元素30根据全景位置数据被置于所述表示的顶部。全景元素30显示与图3的全景图像4的一部分相对应的预览图像3。所显示的预览图像取决于全景元素30相对于用户当前视点的位置和方向。在图5b中,视点已经改变。用户观看与图5a中相同的三维表面2的表示和相同的全景元素30,但是是从不同的方向观看的。因此,所显示的预览图像3对应于全景图像的不同部分。
在图6a和6b中,描绘了全景元素30的第一示例性实施方式。根据地图视点的视野和方向,同时显示立方体地图的1个到6个表面31、32、33、34、36、37之间的表面。这里,全景元素30是以如下方式朝向用户视点的立方体,即,上表面37和四个侧表面中的一个(即,前表面36)朝向视点。但是,这些表面36、37没有被可视化,只有用于显示预览图像的下表面31和三个其余侧表面32至34的内表面被可视化。
在图7中描绘了全景元素30的另选实施方式。该全景元素是半圆柱体,而非立方体。因此,用于显示预览图像的内表面包含下表面31和弯曲表面35的内表面。虽然在这里没有示出,但是许多其它形状也是可能的,特别是多种棱柱形元素,例如五边形棱柱或八边形棱柱。
图8示出了三维表面2的表示(这里通过虚线区域以简化的方式指示),该三维表面2的所述表示具有根据各个全景位置数据位于所述表示的顶部的三个全景元素30、30’、30”。三个全景元素30、30’、30”朝向用户的视点(虚拟像机5),使得每个全景元素的四个显示表面对用户是可见的。
另选地,全景元素30、30’、30”的方向能够相对于表面固定,使得根据视点5相对于全景元素的位置,同时可见的显示表面的数量可以改变。因此,在立方体全景元素的情况下,根据立方体的第四个内表面是否可见和/或外表面是否遮住对内表面中的一个的观看,显示表面的数量可以是三个或四个(包括下表面)。
可选地,用户可以选择要显示哪个全景元素。这在图9a和图9b中示出。在一个实施方式中,最初只渲染三维表面2的表示,全景图像的位置由表面上的图标71指示。然后,用户可点击这些图标71中的一个,并且相应的全景元素30将被显示。同样地,例如通过用鼠标右击,可以取消对所显示的全景元素的选择以不再显示该全景元素。另选地,每个全景元素30都包括退出图标72和/或下拉菜单73,如图9a所示。
在可选实施方式中,例如通过点击图标或从下拉菜单73选择选项,用户也可选择全景元素30的外观。例如,能够提供允许用户选择全景元素30的尺寸、全景元素30是否应当是立方体或半圆柱体、全景元素30是否应当相对于视点或坐标参照系被定向或全景元素30是否应当不透明或部分透明的方法。切换至全景视图模式可通过从下拉菜单选择相应的选项或例如仅通过双击全景元素30来执行。
图9b示出了根据本发明的方法的地图视图模式的可视输出1。提供了包括菜单75的全景元素30。当前被隐藏的其它全景元素的位置由地图2上的图标71指示。用户能够利用光标70从菜单75选择菜单选项。如本文所述,这些菜单选项可以包括隐藏全景元素(退出图标72)的选项、隐藏菜单75的选项、改变全景元素尺寸的选项、切换至全景视图模式的选项、将预览图像3显示为立体3D图像的选项、使全景元素30透明的选项、将视野移动至下一全景元素的选项、以及显示关于全景图像数据的信息的选项。
图10示出了视点(虚拟像机5)接近全景元素30。从现有技术已知,用户能够相对于表面2移动虚拟像机5。由于全景元素30根据坐标数据定位在表面上,所以虚拟像机5还可相对于全景元素30移动,使得当在表面上方移动时,用户能够接近全景元素30。当虚拟像机5足够接近并朝向全景元素30时,全景图像4最终将充满屏幕。
根据本发明的优选实施方式,接近或进入全景元素30触发从地图视图模式切换到全景视图模式。这意味着用户进入全景视图模式而不需要任何进一步的动作,然后用户能够通过向左转或向右转来观看整个360°全景。
这在图11中通过俯视图例示。被地图视图模式的用户视点(地图视点5)接近的全景元素被自动进入,并且地图视图模式的视点5成为全景视图模式的视点(全景视点6)。全景视点6具有视角60;然后向用户显示全景图像4的位于视角60中的那些部分40。如图12所示,用户能够转动视点6来观看全景图像4的其它部分。不需要渲染全景图像的当前不可见的部分49。
地图视图模式和全景视图模式之间的切换可包含阿尔法混合。例如,当从全景视图模式切换至地图视图模式时,全景视点6背离全景图像4的移动可以是动画,全景图像变得透明,由此在表面上露出视图。
图13例示了在地图视图模式下三维表面2和全景元素30的哪些部分不需要渲染。首先,视点5具有视野50,视野50外的表面的部分不需要渲染。然后,全景元素30遮住对表面2的正常情况下应位于视野50内的部分29的观看。最后,全景元素30的外表面39从视点5均不可见,使得不需要渲染它们。
另选地,全景元素30的所有表面或一些表面可以是部分透明的,以便允许用户观看到不然被隐藏起来的表面2的部分29或不然被隐藏起来的全景元素的部分。这还允许在所有显示表面上同时显示全景预览图像3。具体地,显示表面31至35中的每一个被分配特定的透明度。
正常情况下将显示预览图像3的部分的内表面的特定部分可以显示表面2的所述表示的部分23。例如,如果在全景图像4的图像数据中存在间隙,则可以显示表面2的在没有全景元素30的情况下将可见的部分。另外,如果全景图像4的特定区域示出像机装置的部分(参见图2),则可以用表面表示的部分替换这些区域。这将通常应用于全景元素30的下表面。另选地,这些部分可以是部分透明的,由此示出全景图像4和表面2二者。
每个全景图像都可以包含指示从像机到屏幕上的像素的距离的单独的数据。该数据可以在每个像素描述深度而非颜色的深度图中。全景中的深度信息还可以提取自地图中的地形数据或建筑几何结构。图14示出了在全景图像数据中使用深度数据来显示在全景视图模式下或在全景预览中表面的表示的部分23或对象25。线45表示全景图像的深度图。在全景图像中描绘的全景对象43、44被分配描述它们至视点6的距离的深度值。
根据深度数据和全景坐标数据,能够计算全景对象相对于坐标参照系的位置。因此,表面的表示的位于视点6和这些对象43、44之间的对象25或图块可以显示在这些对象43、44前。另外,如上文针对全景元素所描述的,可以识别图像数据中的间隙或全景图像4的示出像机装置的部分的区域并且用表面表示的部分23来替换。另选地,表面的表示的对象25或图块可以部分透明地显示。
图15示出了以非常简化的方式例示在地图视图模式100期间用户输入的效果的流程图。在开始地图视图模式之后,等待110用户输入。在该示例中,用户输入是视点相对于地图和全景元素的移动120。这触发对视点是否接近或甚至进入全景元素的检查130。如果结果是全景元素与视点之间的距离已经小于预定阈值,则这针对各个全景图像(B)触发切换160至全景视图模式。
另外,通过计算必须显示的内容来准备渲染从新的视点的可视输出。首先,计算141被调整为新的视点的全景元素的尺寸和方向。并且,考虑关于全景元素的外观的所有其它可应用的选项,例如显示哪个表面或在到视点的新的距离处每个表面应当具有哪个透明级别。
接下来,计算142地形表面的哪个部分从新的视点可见,由此还考虑哪个部分现在被全景元素挡住以及哪些部分不再被全景元素挡住。同时,计算143要在全景元素上显示的预览图像。根据全景图像的外观及其相对于视点的距离和方向,预览图像将对应于全景图像的特定部分。可选地,还能够根据到视点的距离和/或全景元素的尺寸来选择分辨率级别。
然后,基于上述计算来渲染160新的可视输出,并且等待110进一步的用户输入。很明显,导致各个动作(上文参照图9a和图9b描述了它们中的一些)的其它用户输入也是可能的,但这里为了清楚起见将它们省略。
图16示出了以非常简化的方式例示在全景视图模式200期间用户输入的效果的流程图。
在开始全景视图模式200之后,特别是在用户从地图视图模式(A)切换至全景视图模式之后,系统等待用户输入210。在该示例中,用户输入是视点的移动220,例如视野转向至图像的一侧或图像的放大或缩小。这触发了对视点是否达到或超过用于退出全景元素的预定缩放级别的检查230。如果已达到或超过该缩放级别,则这触发切换回地图视图模式。
另外,通过计算必须显示的内容来准备渲染从新的视点的全景图像的可视输出。首先,如果对新的视点可应用,则基于全景图像数据的深度数据并且根据单个对象和/或图块至视点的距离和方向来计算241地图对象和/或图块的位置和方向。
接下来,计算242全景图像的从新的视点可见的部分,由此还考虑哪个部分现在被地图对象和/或图块挡住。然后,所有数据间隙(即还没被地图对象和/或图块挡住的全景图像没有图像数据的部分)被确定并且被其它地图数据替换243,由此显示地形表面的表示的部分。
然后,渲染260新的可视输出,并且等待210进一步的用户输入。
虽然上文部分地参照一些优选实施方式例示了本发明,但是应当理解,能够进行实施方式的不同的特征的多种修改和组合。所有这些修改都在随附权利要求的范围内。
Claims (15)
1.一种用于可视化三维场景中的表面数据和全景图像数据的方法,该方法包括以下步骤:
向用户提供地图视图模式(100)和全景视图模式(200),其中,
●所述表面数据
□与地形表面(2)的表示相关联,
□包括表示所述地形表面(2)的特征的多个表面图块(21)和/或多个表面对象(25),并且
□相对于坐标参照系被参照;
●所述全景图像数据
□与至少一个全景图像(4),特别是360°全景图像相关联,并且
□包括描述相对于所述坐标参照系的位置的全景位置数据;
●所述地图视图模式(100)包括可视化从地图视点(5)观看的所述地形表面(2)的所述表示的至少一部分的表面数据;并且
●所述全景视图模式(200)包括可视化从全景视点(6)观看的所述全景图像(4)的至少一部分的全景图像数据,
其特征在于,
所述地图视图模式(100)包括显示至少一个全景元素(30),所述全景元素(30)
●包括用于在所述地图视图模式(100)期间可视化全景图像数据的多个显示表面(31至35),并且
●根据所述全景位置数据相对于所述地形表面(2)的所述表示被定位,
其中,所述方法包括以下步骤:根据所述全景元素(30)相对于所述地图视点(5)的当前位置和方向,在所述显示表面(31至35)上显示所述全景图像(4)或全景预览图像(3),所述全景预览图像(3)基于所述全景图像数据并且对应于相应的全景图像(4)的至少一部分。
2.根据权利要求1所述的方法,
其特征在于,
在所述全景图像(4)中,表示所述地形表面(2)的特征的至少一个全景对象(43、44)被描绘,并且与表示相同特征的至少一个表面图块(21)和/或表面对象(25)链接,特别是其中,
●所述全景图像数据包括深度数据,特别是深度图(45),所述深度数据指示从当前地图视点(5)或全景视点(6)到所述全景图像(4)中描绘的至少一个全景对象(43、44)的距离,特别是到多个全景对象(43、44)的距离;和/或
●在所述全景视图模式(200)中,针对在所述全景图像(4)中描绘的至少一个全景对象(43、44),基于所述链接的至少一个表面图块(21)和/或表面对象(25)相对于坐标参照系的位置和/或基于所述深度数据和所述全景位置数据,确定相对于所述坐标参照系的位置,特别是其中,表示所述地形表面(2)的特征的、位于所述全景图像(4)的全景对象(43至44)和所述全景视点(6)之间的表面图块(23)和/或对象(25)被显示。
3.根据权利要求2所述的方法,
其特征在于,
●在所述地图视图模式(100)中,基于所述深度数据从所述全景图像数据分配表示所述地形表面(2)的特征的表面图块(23)和/或对象(25)的纹理;和/或
●在所述地图视图模式(100)和/或所述全景视图模式(200)中,所述链接的表面图块(21)和/或表面对象(25)的对象数据与所述全景对象(43、44)一起显示,所述对象数据特别包括与所述特征相关联的地址或位置信息。
4.根据上述权利要求中任一项所述的方法,
其特征在于,
●在所述全景图像(4)中识别
□不包括图像数据的数据间隙(49),和/或
□遮住部分(48),所述遮住部分(48)包括被用于拍摄所述全景图像的像机组件或所述像机组件的用户的图像数据;并且
●在所述地图视图模式(100)和/或所述全景视图模式(200)中,通过渲染所述地形表面(2)的所述表示的替代部分(23)来替换识别出的数据间隙(49)和/或遮住部分(48),
特别是其中
●所述全景元素(30)的下表面(31)至少部分地显示替代部分(23),和/或
●在所述全景视图模式(200)中,显示替代部分(23)。
5.根据上述权利要求中任一项所述的方法,
其特征在于,
●所述全景元素(30)基本为棱柱形,特别是其中,所述全景元素(30)包括上表面、下表面和多个侧表面,其中,所述显示表面是至少两个,特别是三个侧表面(32至34)的内表面和下表面(31)的内表面;和/或
●所述全景元素(30)包括立方体地图,其中,所述显示表面是四个侧表面的内表面和所述下表面的内表面,其中,根据视野(50)和所述地图视点(5)的方向,同时显示所述立方体地图的一至六个之间的表面,特别是其中,当一个或两个表面面向所述地图视点(5)时,不显示所述一个或两个表面,并且不显示所述上表面,
特别是其中,每个显示表面(31至35)都包括用于显示全景预览图像(3)的部分的多个显示图块。
6.根据上述权利要求中任一项的方法,
其特征在于,
所述全景元素(30)在所述地图视图模式(100)期间保持相对于所述表面(2)的所述表示的方向,特别是其中
●每个显示表面(31-35)都被分配所述全景预览图像(3)的部分,与所述全景元素(30)相对于所述地图视点(5)的当前位置和方向无关,只要相应的显示表面(31至35)可见,所述显示表面就显示所述部分,并且
●显示表面(31至35)中的哪个显示表面当前可见取决于所述全景元素(30)相对于所述地图视点(5)的当前位置和方向。
7.根据权利要求1至5中任一项所述的方法,
其特征在于,
所述全景元素(30)在所述地图视图模式(100)期间保持相对于所述地图视点(5)的方向,特别是其中
●所述全景元素(30)的相同显示表面(31至35)始终可见,并且
●所述全景预览图像(3)的哪部分当前显示在这些显示表面(31-35)上取决于
所述全景元素(30)相对于所述坐标参照系的当前方向。
8.根据上述权利要求中任一项所述的方法,
其特征在于,
在所述地图视图模式(100)中,所述用户能够相对于所述全景元素(30)移动所述地图视点(5),其中
●所述全景预览图像(3)的分辨率和/或细节级别取决于所述全景元素(30)到所述地图视点(5)的实际位置的距离,和/或
●通过利用所述地图视点(5)接近或进入所述全景元素(30)来启动所述全景视图模式(200)。
9.根据上述权利要求中任一项所述的方法,
其特征在于,
在所述地图视图模式(100)中,隐面消除和/或遮挡消除按照如下方式使用,即
●不渲染由于所述全景元素(30)而从所述地图视点(5)隐藏的所述地形表面(2)的隐藏图块(29),
●不渲染所述全景元素(30)的外表面(39),和/或
●不渲染当前未显示在所述显示表面(31至35)中的任一个显示表面上的所述
全景预览图像(3)的隐藏部分(49)。
10.根据上述权利要求中任一项所述的方法,
其特征在于,
●所述显示表面(31至35)中的至少一个是部分透明的,特别是其中,所述显示表面(31至35)中的每一个被分配特定的透明度;和/或
●从所述地图视图模式(100)切换(160)至所述全景视图模式(200)和/或从所述全景视图模式(200)切换(260)至所述地图视图模式(100)包括阿尔法混合,其中,所述地形表面(2)的所述表示在所述全景图像(4)后方和/或在所述全景预览图像(3)后方可见。
11.根据上述权利要求中任一项所述的方法,
其特征在于,
所述地图视图模式(100)包括同时可视化多个全景元素(30、30’、30”),其中
●所述多个全景元素中的全景元素(30)是可见的还是隐藏的取决于所述全景元素(30)到所述地图视点(5)的距离;和/或
●所述用户能够决定所述全景元素(30、30’、30”)中的每一个是可见的还是隐藏的,特别是其中
□在所述地图视图模式中提供全景元素图标(71)以用符号表示根据相应的全景位置数据定位的隐藏的全景元素(30、30’、30”)的位置,所述全景元素图标(71)显示在所述地形表面(2)的所述表示上,和/或
□所述全景元素(30、30’、30”)提供允许所述用户隐藏各个全景元素的隐藏功能,所述隐藏功能特别地提供为可选择的隐藏键元素(72)和/或相应全景元素的下拉菜单(73)的可选选项。
12.根据上述权利要求中任一项所述的方法,
其特征在于,
●所述全景图像(4)示出建筑物内部或所述建筑物的内部的模型;
●所述地图视图模式(100)包括将所述建筑的模型可视化为表面对象(25);并且
●用户对所述模型的所述选择触发相应全景元素(30)的可视化。
13.根据上述权利要求中任一项所述的方法,
其特征在于,
●所述全景数据包括视频数据,
●所述视频数据与包括多个全景图像(4)的视频流相关,特别是其中,所述视频流是360°视频流和/或实时视频流,并且
●所述全景元素显示多个全景预览图像(3)的视频流,特别是实时视频流。
14.根据上述权利要求中任一项所述的方法,
其特征在于,
●所述地形表面(2)是三维表面,特别是地球表面的一部分,
●所述地形表面(2)的所述表示是地图、航拍图像或地图与航拍图像的结合,特别是以鸟瞰图绘制;
●所述全景位置数据包括纬度值和经度值、和/或描述所述全景图像的高度、航向、旁向倾角、航向倾角、相片旋角、北距和/或东距的值,和/或
●所述表面数据包括描述所述三维表面的几何形状的高程数据,并且根据所述高程数据计算所述全景元素(30)的高度。
15.一种计算机程序产品,该计算机程序产品包括存储在机器可读介质上的程序代码,或该计算机程序产品由包括程序代码段的电磁波实现,并且所述计算机程序产品具有用于提供根据权利要求1至14中任一项的方法的地图视图模式(100)和全景视图模式(200)的计算机可执行指令。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP14184275.7 | 2014-09-10 | ||
EP14184275.7A EP2996088B1 (en) | 2014-09-10 | 2014-09-10 | Method for visualising surface data together with panorama image data of the same surrounding |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105404441A true CN105404441A (zh) | 2016-03-16 |
CN105404441B CN105404441B (zh) | 2019-02-01 |
Family
ID=51494202
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510564435.3A Active CN105404441B (zh) | 2014-09-10 | 2015-08-17 | 可视化相同环境的表面数据和全景图像数据的方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US10269178B2 (zh) |
EP (1) | EP2996088B1 (zh) |
CN (1) | CN105404441B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106657733A (zh) * | 2016-11-25 | 2017-05-10 | 深圳市元征科技股份有限公司 | 一种基于无人机的全景直播方法及终端 |
CN109661816A (zh) * | 2018-11-21 | 2019-04-19 | 京东方科技集团股份有限公司 | 基于渲染引擎生成和显示全景图像的方法和显示装置 |
CN109804618A (zh) * | 2016-10-19 | 2019-05-24 | 三星电子株式会社 | 用于显示图像的电子设备和计算机可读记录介质 |
CN113066000A (zh) * | 2020-01-02 | 2021-07-02 | 沈阳美行科技有限公司 | 一种地图数据处理方法、装置、设备及存储介质 |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10219026B2 (en) * | 2015-08-26 | 2019-02-26 | Lg Electronics Inc. | Mobile terminal and method for playback of a multi-view video |
WO2018068213A1 (zh) * | 2016-10-10 | 2018-04-19 | 华为技术有限公司 | 一种视频数据的处理方法及装置 |
GB2558283B (en) * | 2016-12-23 | 2020-11-04 | Sony Interactive Entertainment Inc | Image processing |
CN108053474A (zh) * | 2017-12-29 | 2018-05-18 | 湖南城市学院 | 一种新型城市三维建模控制系统及方法 |
US10740957B1 (en) * | 2018-06-14 | 2020-08-11 | Kilburn Live, Llc | Dynamic split screen |
US10573060B1 (en) * | 2018-06-14 | 2020-02-25 | Kilburn Live, Llc | Controller binding in virtual domes |
CN110097498B (zh) * | 2019-01-25 | 2023-03-31 | 电子科技大学 | 基于无人机航迹约束的多航带图像拼接与定位方法 |
CN111147768A (zh) * | 2019-12-25 | 2020-05-12 | 北京恒峰致远科技有限公司 | 一种提高回看效率的智能监控视频回看方法 |
CN111147815A (zh) * | 2019-12-25 | 2020-05-12 | 北京恒峰致远科技有限公司 | 一种视频监控系统 |
CN113066177B (zh) * | 2020-01-02 | 2024-01-23 | 沈阳美行科技股份有限公司 | 一种地图数据处理方法、装置、设备及存储介质 |
CN111324826B (zh) * | 2020-02-03 | 2023-05-30 | 深圳震有科技股份有限公司 | 基于Mapbox的用户跟随模式下地图视点动态方法及装置 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2194508A1 (en) * | 2008-11-19 | 2010-06-09 | Apple Inc. | Techniques for manipulating panoramas |
CN102609973A (zh) * | 2007-05-25 | 2012-07-25 | 谷歌公司 | 渲染、查看和注释全景图像及其应用 |
WO2013053438A2 (de) * | 2011-10-11 | 2013-04-18 | Daimler Ag | Verfahren zur integration von virtuellen objekten in fahrzeuganzeigen |
US20130335446A1 (en) * | 2012-06-19 | 2013-12-19 | Petri Matti Olavi Piippo | Method and apparatus for conveying location based images based on a field-of-view |
CN103914876A (zh) * | 2013-01-08 | 2014-07-09 | 三星泰科威株式会社 | 用于在3d地图上显示视频的方法和设备 |
US20140218354A1 (en) * | 2013-02-06 | 2014-08-07 | Electronics And Telecommunications Research Institute | View image providing device and method using omnidirectional image and 3-dimensional data |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6496189B1 (en) | 1997-09-29 | 2002-12-17 | Skyline Software Systems Ltd. | Remote landscape display and pilot training |
US20030158786A1 (en) | 1999-02-26 | 2003-08-21 | Skyline Software Systems, Inc. | Sending three-dimensional images over a network |
AU5025600A (en) * | 1999-05-17 | 2000-12-05 | Foxboro Company, The | Process control configuration system with parameterized objects |
JP3661187B2 (ja) * | 2002-03-27 | 2005-06-15 | ソニー株式会社 | 3次元地形情報生成システム及び方法、並びにコンピュータ・プログラム |
CN101268437B (zh) * | 2005-11-02 | 2010-05-19 | 松下电器产业株式会社 | 显示目标透射装置及显示目标透射方法 |
US20080253685A1 (en) * | 2007-02-23 | 2008-10-16 | Intellivision Technologies Corporation | Image and video stitching and viewing method and system |
US20090237396A1 (en) * | 2008-03-24 | 2009-09-24 | Harris Corporation, Corporation Of The State Of Delaware | System and method for correlating and synchronizing a three-dimensional site model and two-dimensional imagery |
US8428873B2 (en) * | 2008-03-24 | 2013-04-23 | Google Inc. | Panoramic images within driving directions |
US20100009809A1 (en) * | 2008-06-26 | 2010-01-14 | Janice Carrington | System for simulating a tour of or being in a remote location while exercising |
US20110032145A1 (en) * | 2009-08-06 | 2011-02-10 | Motorola, Inc. | Method and System for Performing Gesture-Based Directed Search |
US20110279446A1 (en) * | 2010-05-16 | 2011-11-17 | Nokia Corporation | Method and apparatus for rendering a perspective view of objects and content related thereto for location-based services on mobile device |
-
2014
- 2014-09-10 EP EP14184275.7A patent/EP2996088B1/en active Active
-
2015
- 2015-08-17 CN CN201510564435.3A patent/CN105404441B/zh active Active
- 2015-09-09 US US14/849,515 patent/US10269178B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102609973A (zh) * | 2007-05-25 | 2012-07-25 | 谷歌公司 | 渲染、查看和注释全景图像及其应用 |
EP2194508A1 (en) * | 2008-11-19 | 2010-06-09 | Apple Inc. | Techniques for manipulating panoramas |
WO2013053438A2 (de) * | 2011-10-11 | 2013-04-18 | Daimler Ag | Verfahren zur integration von virtuellen objekten in fahrzeuganzeigen |
US20130335446A1 (en) * | 2012-06-19 | 2013-12-19 | Petri Matti Olavi Piippo | Method and apparatus for conveying location based images based on a field-of-view |
CN103914876A (zh) * | 2013-01-08 | 2014-07-09 | 三星泰科威株式会社 | 用于在3d地图上显示视频的方法和设备 |
US20140218354A1 (en) * | 2013-02-06 | 2014-08-07 | Electronics And Telecommunications Research Institute | View image providing device and method using omnidirectional image and 3-dimensional data |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109804618A (zh) * | 2016-10-19 | 2019-05-24 | 三星电子株式会社 | 用于显示图像的电子设备和计算机可读记录介质 |
CN109804618B (zh) * | 2016-10-19 | 2021-02-26 | 三星电子株式会社 | 用于显示图像的电子设备和计算机可读记录介质 |
CN106657733A (zh) * | 2016-11-25 | 2017-05-10 | 深圳市元征科技股份有限公司 | 一种基于无人机的全景直播方法及终端 |
CN109661816A (zh) * | 2018-11-21 | 2019-04-19 | 京东方科技集团股份有限公司 | 基于渲染引擎生成和显示全景图像的方法和显示装置 |
US11589026B2 (en) | 2018-11-21 | 2023-02-21 | Beijing Boe Optoelectronics Technology Co., Ltd. | Method for generating and displaying panorama images based on rendering engine and a display apparatus |
CN113066000A (zh) * | 2020-01-02 | 2021-07-02 | 沈阳美行科技有限公司 | 一种地图数据处理方法、装置、设备及存储介质 |
CN113066000B (zh) * | 2020-01-02 | 2024-01-26 | 沈阳美行科技股份有限公司 | 一种地图数据处理方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN105404441B (zh) | 2019-02-01 |
EP2996088B1 (en) | 2018-08-29 |
EP2996088A1 (en) | 2016-03-16 |
US20160071314A1 (en) | 2016-03-10 |
US10269178B2 (en) | 2019-04-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105404441A (zh) | 可视化相同环境的表面数据和全景图像数据的方法 | |
US10572000B2 (en) | Mixed reality viewer system and method | |
US20230045393A1 (en) | Volumetric depth video recording and playback | |
JP7140487B2 (ja) | 情報処理装置、表示制御方法、及び、プログラム | |
JP5250598B2 (ja) | 画像表示装置および画像表示方法 | |
AU2011332885B2 (en) | Guided navigation through geo-located panoramas | |
JP6329343B2 (ja) | 画像処理システム、画像処理装置、画像処理プログラム、および画像処理方法 | |
JP4963105B2 (ja) | 画像を記憶する方法、装置 | |
US10084994B2 (en) | Live streaming video over 3D | |
US20170046878A1 (en) | Augmented reality mobile application | |
JPWO2017051592A1 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
JP7446754B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2020042362A (ja) | 制御装置及びその制御方法 | |
JP2024019537A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
US20030090487A1 (en) | System and method for providing a virtual tour | |
JP7313811B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
CN114463520A (zh) | 一种实现虚拟现实vr漫游的方法及装置 | |
Trapp et al. | Communication of digital cultural heritage in public spaces by the example of roman cologne | |
JP2024017779A (ja) | 画像処理装置、画像処理方法及びコンピュータプログラム | |
WO2023100220A1 (ja) | 映像処理装置、方法およびプログラム | |
JP2016154034A (ja) | 画像表示装置および画像表示方法 | |
CA3199128A1 (en) | Systems and methods for augmented reality video generation | |
Rambli et al. | A step-wise zoom technique for exploring image-based virtual reality applications |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |