CN102918568A - 扩增现实方向取向遮罩 - Google Patents

扩增现实方向取向遮罩 Download PDF

Info

Publication number
CN102918568A
CN102918568A CN2011800267002A CN201180026700A CN102918568A CN 102918568 A CN102918568 A CN 102918568A CN 2011800267002 A CN2011800267002 A CN 2011800267002A CN 201180026700 A CN201180026700 A CN 201180026700A CN 102918568 A CN102918568 A CN 102918568A
Authority
CN
China
Prior art keywords
target item
virtual mask
observer
variation
mobile platform
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2011800267002A
Other languages
English (en)
Other versions
CN102918568B (zh
Inventor
V·W·基廷
J·S·伯纳特
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of CN102918568A publication Critical patent/CN102918568A/zh
Application granted granted Critical
Publication of CN102918568B publication Critical patent/CN102918568B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Computer Graphics (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)
  • Navigation (AREA)
  • Traffic Control Systems (AREA)

Abstract

扩增现实设备提供围绕观察者并且包括变化的虚拟遮罩,其中该变化提供关于到目标项的方向的信息。该变化可以是透明度、颜色、几何形状、纹理、材料、照明、或阴影上的变化,其与该目标项的位置相关联,使得该虚拟遮罩中的该变化的取向不相对于该目标项的方向而改变。该虚拟遮罩的在观察者正面向的方向上的部分被显示在真实世界图像之上,其中该虚拟遮罩中的变化向该观察者提供关于该目标项的方向的信息。当该观察者相对于该目标项旋转时,该虚拟遮罩的在当前视场中的不同部分被显示。

Description

扩增现实方向取向遮罩
背景
用于确定设备的位置的常见手段是使用诸如众所周知的全球定位卫星(GPS)系统或全球导航卫星系统(GNSS)之类的卫星定位系统(SPS),这些卫星定位系统采用处在环绕地球的轨道中的数颗卫星。使用SPS的位置测量基于对从数颗轨道卫星向SPS接收机广播的SPS信号的传播延迟时间的测量。一旦SPS接收机已测量到每颗卫星的信号传播延迟,就能确定至每颗卫星的射距,并且随后能使用测得的射距和这些卫星的已知位置来确定SPS接收机的精确导航信息,包括三维位置、速度和时辰。
关于设备的位置的知识具有许多用处,其中之一称为扩增现实。扩增现实将真实世界影像与诸如图形或纹理信息之类的计算机生成数据相组合。扩增现实对于诸如导航或仅仅是在环境内对自身进行取向之类的活动可以是有用的。
导航和信息发现中的首先且最困难的步骤之一是将自身物理地取向在正确的方向上。为了对扩增现实中的数据加以利用,用户一般需要找到并且用相机面对目标项。对于数据或链路,该目标项不是可见的,除非该相机正面对着该正确的方向。对于导航,不正确的取向导致用户在错误的方向上发起导航。
当前的用于指引用户转向面对目标项的扩增现实方法包括诸如箭头之类的方向性元素的使用。例如,扩增现实系统可使用在用户视野的中心或边缘的二维或三维箭头,以指示向左或向右旋转。当前被使用的另一方向性元素是指示到目标项的相对距离和方向的顶视雷达型显示。
然而,提供取向信息的当前方法具有若干个问题。例如,方向性箭头不提供关于应当转多远来面对目标元素的信息。相应地,要分辨要转多远是困难的。而且,如果用户迅速转向,则没有何时要放慢以免超过期望目标项或方向的指示。进一步,顶视雷达显示的使用是令人分心的,因为用户发现要解读或确定其相关性并且要将该顶视与该用户的实际周围环境相关是困难的。当用于导航时,当前取向方法给用户一种要将其自身取向到目标项的紧迫感,这种紧迫感使得用户投身潜在危险的行为,例如,不面向行进方向。
概述
扩增现实设备提供围绕观察者并且包括变化的虚拟遮罩,该变化提供关于到目标项的方向的信息。该变化可以是透明度、颜色、几何形状、纹理、材料、照明、或阴影上的变化,其与该目标项的位置相关联,从而该虚拟遮罩中的该变化的取向不相对于该目标项的方向而改变。该虚拟遮罩的在观察者正面向的方向上的部分被显示在真实世界图像之上,其中该虚拟遮罩中的该变化向该观察者提供关于该目标项的方向的信息。当该观察者相对于该目标项旋转时,该虚拟遮罩的在当前视场中的不同部分被显示。
附图简要描述
图1解说移动平台形式的扩增现实设备的示例,该移动平台提供覆盖在真实世界图像上的虚拟遮罩来向用户提供取向信息。
图2和3示意性地解说虚拟遮罩围绕用户的放置。
图4和5示意性地解说虚拟遮罩围绕用户的放置并且示出随用户相对于目标项横向移动对该虚拟遮罩产生的作用。
图6是可使用虚拟遮罩的移动平台的框图。
图7是示出在使用虚拟遮罩的显示中在观察者与目标项之间的取向的方法的流程图。
图8、9、10和11解说包括虚拟遮罩的扩增现实图像的示例。
图12、13、14和15解说可被使用的圆柱形虚拟遮罩的不同示例。
详细描述
图1解说移动平台100形式的扩增现实设备的示例,移动平台100提供覆盖在显示器112中的图像上的巧妙的虚拟遮罩来向用户提供取向信息。移动平台100可基于使用来自卫星定位系统(SPS)的信号确定其纬度和经度来用于导航,SPS包括卫星飞行器102,或包括蜂窝塔台104或无线通信接入点106的用于确定位置的任何其他适当源。移动平台100包括用以生成物理真实世界环境的图像的相机120,以及可被用来确定移动平台100的取向的诸如数字罗盘、加速计或陀螺仪之类的传感器130。
覆盖在显示器112中示出的图像上的虚拟遮罩是计算机生成的、以移动平台100为中心并且与目标项对准的三维圆柱形或球形。例如,该遮罩可在移动平台100面向该目标项时提供真实世界图像的清楚视图。该遮罩可随移动平台100旋转离开该目标项而提供真实世界图像的越来越变样的视图。例如,该遮罩的清楚区域的成角度的侧边可被用来向用户提供关于该目标项相对于该移动平台的当前取向而言的位置的信息。相应地,为用户提供了容易解读的而又巧妙且不令人分心的取向信息。
如本文中所使用的,移动平台是指诸如以下的设备:蜂窝或其他无线通信设备、个人通信系统(PCS)设备、个人导航设备(PND)、个人信息管理器(PIM)、个人数字助理(PDA)、膝上机或能够提供用户的环境的扩增现实视图的其他合适的移动设备。该移动平台可以是完全或部分移动的,例如,移动平台可被保持在固定位置但仍被允许旋转。该移动平台可以能够接收无线通信和/或诸如导航定位信号之类的导航信号。术语“移动平台”还旨在包括诸如藉由短程无线、红外、有线连接、或其他连接与个人导航设备(PND)通信的设备,不管卫星信号接收、辅助数据接收、和/或位置有关处理是发生在该设备处还是在PND处。而且,“移动平台”旨在包括所有能够(诸如经由因特网、Wi-Fi、或其他网络)与服务器通信的设备,包括无线通信设备、计算机、膝上机等,而不管卫星信号接收、辅助数据接收、和/或位置有关的处理是发生在该设备处、服务器处、还是与网络相关联的另一设备处。以上的任何可操作的组合也被认为是“移动平台”。
可与移动拼图100联用的卫星定位系统(SPS)典型地包括发射机系统,这些发射机定位成使得各实体能够至少部分地基于从这些发射机接收到的信号来确定自己在地球上或上方的位置。这样的发射机通常发射用具有设定数目个码片的重复伪随机噪声(PN)码作标记的信号,并且可位于基于地面的控制站、用户装备和/或空间飞行器上。在特定示例中,此类发射机可位于图1中所解说的环地轨道卫飞行器(SV)102上。例如,诸如全球定位系统(GPS)、Galileo、Glonass或Compass等全球导航卫星系统(GNSS)的星座中的SV可发射用可与由该星座中的其他SV所发射的PN码区分开的PN码(例如,如在GPS中那样对每颗卫星使用不同PN码或者如在Glonass中那样在不同频率上使用相同的码)作标记的信号。
根据某些方面,移动平台100的位置确定不限于使用全球SPS系统(例如,GNSS)。例如,可将本文中所提供的技术应用于或另行使之能在各种地区性系统中使用,诸如举例而言日本上空的准天顶卫星系统(QZSS)、印度上空的印度地区性导航卫星系统(IRNSS)、中国上空的北斗等,和/或可与一个或更多个全球和/或地区性导航卫星系统相关联或另行使其能与之联用的各种扩增系统(例如,基于卫星的扩增系统(SBAS))。作为示例而非限定,SBAS可包括提供完好性信息、差分校正等的扩增系统,诸如举例而言广域扩增系统(WAAS)、欧洲对地静止导航覆盖服务(EGNOS)、多功能卫星扩增系统(MSAS)、GPS辅助式Geo(对地静止)扩增导航或GPS和Geo扩增导航系统(GAGAN)和/或类似系统。因此,如本文所使用的,SPS可包括一个或更多个全球和/或地区性导航卫星系统和/或扩增系统的任何组合,且SPS信号可包括SPS信号、类SPS信号和/或其他与此类一个或更多个SPS相关联的信号。
而且,移动平台100不限于与SPS联用,而可使用与包括蜂窝塔台104和来自无线通信接入点106的各种无线通信网络相结合实现的位置确定技术,诸如无线广域网(WWAN)、无线局域网(WLAN)、无线个域网(WPAN)等。也可使用替换的位置确定方法,诸如使用“计算机视觉”技术的对象识别。术语“网络”和“系统”往往被可互换地使用。WWAN可以是码分多址(CDMA)网络、时分多址(TDMA)网络、频分多址(FDMA)网络、正交频分多址(OFDMA)网络、单载波频分多址(SC-FDMA)网络、长期演进(LTE)等等。CDMA网络可实现诸如cdma2000、宽带CDMA(W-CDMA)等一种或更多种无线电接入技术(RAT)。cdma2000包括IS-95、IS-2000和IS-856标准。TDMA网络可实现全球移动通信系统(GSM)、数字高级移动电话系统(D-AMPS)、或其他某种RAT。GSM和W-CDMA在来自名为“第三代伙伴项目”(3GPP)的联盟的文献中描述。Cdma2000在来自名为“第三代伙伴项目2”(3GPP2)的联盟的文献中描述。3GPP和3GPP2文献是公众可获取的。WLAN可以是IEEE 802.11x网络,并且WPAN可以是蓝牙网络、IEEE 802.15x、或其他某种类型的网络。这些技术也可结合WWAN、WLAN和/或WPAN的任何组合来实现。
图2和3示意性地解说由移动平台100将虚拟遮罩200围绕用户210的放置。应当理解,图2和3不是解说什么将在移动平台100的显示器112中显示,而是功能性地解说遮罩200如何操作。图2和3示出遮罩200以用户210为中心并且包括指示到目标项220的方向的特征,诸如该遮罩的透明度的变化之类。目标项220可以是位置、对象、一般方向、人、或其他类似项并且可以是驻定的或移动的。如图2和3所解说,遮罩200的最透明部分202(如白色部分所解说)从用户210的位置指向目标项220。遮罩200的透明度程度上的变化旨在解说向用户210提供取向信息的功能并且不一定是解说该取向信息如何被提供(即,通过提高/降低视图的透明度)。例如,若期望,则透明度程度可保持恒定,但是透明度区域可变化。该用户的视场(即,相机120的视场)用线206来解说,并且只有遮罩200的落在该用户的视场之内的部分(即,图2中的透明部分202和图3中的不那么透明的部分204)将在显示器112中被显示由相机120产生的真实世界图像之上。如在图2和3中可见的,遮罩200的取向独立于用户210的取向。例如,在图2中,用户210面向目标项220,而在图3中,用户面向从目标项220离开90度之处并且由此正面向遮罩200的不那么透明的部分204。然而,图1和图2两者皆解说遮罩200的透明部分202与目标项220相关联,因为透明部分202与该目标项对准并且该对准被保持而不管该用户的取向如何。
图4和5类似于图2和3,但示出随着用户210沿行进方向212行进对遮罩200产生的作用。如所可见,遮罩200保持以用户210为中心并且随用户移动经过目标项220边。然而,随着用户210和遮罩200移动经过目标项220边,遮罩200的透明部分202继续与目标项220对准。由此,在图4中,遮罩200的透明部分202被示为与行进方向212呈大约45度并且就落在该用户的视场206之外一点点。相应地,在图4中,遮罩200的部分203将被显示在真实世界图像之上。在图5中,透明部分202与用户210的视场206呈几乎90度,并且由此不同部分205将被显示在显示器112中示出的真实世界图像之上。
虚拟遮罩200的被显示的部分的对准可被垂直锁定到显示器112或锁定到地平线。换言之,如果用户改变相机120的垂直取向,那么虚拟遮罩200在显示器112中示出的部分在被锁定到观察屏112时可保持恒定(假定有非水平旋转)。作为替换,在虚拟遮罩被锁定到地平线的场合,随着相机120的垂直取向被改变,该虚拟遮罩的不同部分被显示,这在该虚拟遮罩是三维球形时会是特别可取的。
虚拟遮罩200允许用户维持相对于目标项的方向的位觉。进一步,该遮罩巧妙地暗示了方向校正,但不要求或需要将其用于用户取向。在另一方面,在扩增现实视图中对用户进行取向的常规技术不随用户前进维持该用户与目标项之间的相关性并且带来了要校正用户的取向的紧迫感,这样可能并不安全。例如,如果在街道对面且自用户下行一街区处的商店是目标项,那么用户在此行程的大部分里直接面向该商店将是不安全的。该用户应当在该街道的相对面的人行道下行并且垂直于车流越过该街道。然而,使用常规取向技术给用户带来了要在行进的同时朝向目标项取向的紧迫感,这使得用户忽略潜在危险的行人或车流。
图6是可使用虚拟遮罩200的移动平台100的框图。如图6中所解说,移动平台包括用于产生图像的装置,诸如相机120,其可产生由移动平台100显示的静止或运动图像。移动平台100还包括用于确定观察者正面向的方向的装置,诸如取向传感器130,例如,包括磁力计、加速计或陀螺仪的经倾斜校正的罗盘。
移动平台100可包括接收机140,此类接收机包括经由天线144接收来自卫星定位系统(SPS)卫星102(图1)的信号的SPS接收机。移动平台100还包括无线收发机145,后者可以是例如能够经由天线144(或分开的天线)分别向和从蜂窝塔台104或无线接入点106发送和接收通信的蜂窝调制解调器或无线网络无线电接收机/发射机。若期望,移动平台100可包括用作蜂窝调制解调器和无线网络无线电接收机/发射机的分开的收发机。
取向传感器130、相机120、SPS接收机140、和无线收发机145被连接至移动平台控制150并与之通信。移动平台控制150接受并处理来自取向传感器130、相机120、SPS接收机140、和无线收发机145的数据并控制这些设备的操作。移动平台控制150可由处理器152及相关联的存储器154、时钟153、硬件156、软件158和固件157来提供。移动平台150还可包括用于生成虚拟遮罩的装置,诸如举例而言可以是游戏引擎的图形引擎155,为了清楚起见图形引擎155被解说为与处理器152分开,但其也可位于处理器152内部。图形引擎155演算显示于由相机120所产生的图像上的虚拟遮罩200的位置和取向。将理解,如本文中所使用的,处理器152可以但无需必然包括一个或更多个微处理器、嵌入式处理器、控制器、专用集成电路(ASIC)、数字信号处理器(DSP)、及类似物。术语处理器旨在描述由系统实现的功能而非具体硬件。此外,如本文所使用的术语“存储器”是指任何类型的计算机存储介质,包括与移动平台相关联的长期、短期、或其他存储器,且并不被限定于任何特定类型的存储器或特定数目的存储器、或记忆存储在其上的介质的类型。
移动平台100还包括与移动平台控制150处于通信中的用户接口110,例如移动平台控制150接受数据并控制用户接口110。用户接口110包括用于将由相机120产生的图像连同覆盖着的计算机生成的遮罩200一起显示的装置,诸如数字显示器112之类。处理器152基于移动平台相对于目标项而言的位置和取向来控制该图像上的由计算机生成的遮罩200的位置和取向。显示器112还可显示控制菜单和位置信息。用户接口110进一步包括用于标识该目标项的装置,诸如按键板114或用户可通过其将信息输入到移动平台100中的其他输入设备之类。在一个实施例中,按键板114可被整合到显示器112中,诸如触摸屏显示器。例如当移动平台100是蜂窝电话时,用户接口110还可包括例如话筒和扬声器。
本文中所描述的方法体系取决于应用可藉由各种手段来实现。例如,这些方法体系可在硬件156、固件157、软件158、或其任何组合中实现。对于硬件实现,这些处理单元可以在一个或更多个专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理器件(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、处理器、控制器、微控制器、微处理器、电子器件、设计成执行本文中所描述功能的其他电子单元、或其组合内实现。
对于固件和/或软件实现,这些方法体系可用执行本文中描述的功能的模块(例如,规程、函数等等)来实现。任何有形地体现指令的机器可读介质可被用来实现本文中所描述的方法体系。例如,软件代码可被存储在存储器154中并由处理器152执行。存储器可以实现在处理器单元内或在处理器单元外部。如本文所使用的,术语“存储器”是指任何类型的长期、短期、易失性、非易失性、或其他存储器,且并不限于任何特定类型的存储器或特定数目的存储器、或记忆存储在其上的介质的类型。
例如,软件158代码可被存储在存储器154中并由处理器152执行,并且可被用来运行该处理器以及如本文中所描述地控制移动平台100的操作。例如,存储于诸如存储器158之类的计算机可读介质中的程序代码可包括用于确定观察者正面向的方向;生成虚拟遮罩;以及显示观察者正面向的方向的图像和该虚拟遮罩的在该观察者正面向的方向上的部分的程序代码。该程序代码还可确定该观察者正面向的方向已经改变并且响应于此确定要显示该虚拟遮罩的不同部分。而且,程序代码可确定该观察者相对于该目标项的位置已经改变并且响应于此确定要显示该虚拟遮罩的不同部分。
如果在固件和/或软件中实现,则各功能可作为一条或更多条指令或代码存储在计算机可读介质上。各示例包括编码成具有数据结构的计算机可读介质和编码成具有计算机程序的计算机可读介质。计算机可读介质包括物理计算机存储介质。存储介质可以是能被计算机访问的任何可用介质。作为示例而非限定,此类计算机可读介质可包括RAM、ROM、EEPROM、CD-ROM或其他光盘存储、磁盘存储或其他磁存储设备、或能被用来存储以指令或数据结构形式的期望程序代码且能被计算机访问的任何其他介质;如本文中所使用的盘(disk)和碟(disc)包括压缩碟(CD)、激光碟、光碟、数字多用碟(DVD)、软盘和蓝光碟,其中盘常常磁学地再现数据,而碟用激光光学地再现数据。上述的组合也应被包括在计算机可读介质的范围内。
除了存储在计算机可读介质上,指令和/或数据还可作为包括在通信装置中的传输介质上的信号来提供。例如,通信装置可包括具有指示指令和数据的信号的收发机。指令和数据被配置成致使一个或更多个处理器实现权利要求中概括的功能。即,通信装置包括具有指示用以执行所公开功能的信息的信号的传输介质。在第一时间,通信装置中所包括的传输介质可包括用以执行所公开功能的信息的第一部分,而在第二时间,通信装置中所包括的传输介质可包括用以执行所公开功能的信息的第二部分。
图7是示出使用虚拟遮罩在显示器中示出观察者(如由相机视图所指示的)与目标项之间的取向的方法的流程图。如图7中解说的,标识目标项(302)。该目标项可由例如经由接口110的用户选择或由外部源来标识。对该目标项的标识包括确定该目标项相对于该观察者的位置。例如,可使用SPS系统来确定该观察者的位置(例如,纬度和经度),例如,由SPS接收机140(图6)接收来自SPS系统的数据,处理器152从该数据演算出该位置。若期望,则可使用其他技术和设备来确定位置,包括使用来自其他各种无线通信网络(包括蜂窝塔台104和来自无线通信接入点106)的数据或者藉由使用计算机视觉技术的对象识别来确定位置。例如,还可通过经由无线收发机145从网络上的服务器检索位置来确定该目标项的位置。例如,用户可经由控制菜单和按键板114来指示期望具体目的地。移动平台100可然后经由无线收发机145从网络上的服务器检索此期望的目的地的位置(例如,纬度和经度)。可然后确定该目标项相对于该观察者的位置。
例如,使用取向传感器130来确定该观察者正面向的方向(304)。应当理解,出于此专利文献的目的,该观察者被假设成正面向与相机所正面向的方向相同的方向,即,该观察者正将相机指向该用户所正面向的方向上。例如,由图6中示出的图形引擎155在所确定的该观察者的位置处生成虚拟遮罩200以围绕该观察者(306)。所生成的虚拟遮罩200包括提供关于到该目标项的方向的信息的变化。该虚拟遮罩中的变化与所标识出的目标项的位置相关联(306)并且独立于该观察者正面向的方向。而且,所生成的虚拟遮罩200与该观察者的位置相关联,从而使得如果该观察者移动,那么该虚拟遮罩随该观察者而移动同时维持该遮罩中的相关联变化与该目标项之间的取向。显示该观察者正面向的方向的图像(例如,如由相机120所产生的)(308),并且在该图像之上显示该虚拟遮罩的在该观察者正面向的方向上的部分,其中该遮罩中的变化示出到该目标项的方向(310)。可在该相机视图之上显示该虚拟遮罩。若期望,该相机视图可被移除,例如,从而使得该视图是空白或经填充的,但该虚拟遮罩可留下以用作为方向性罗盘。随着该观察者旋转或改变位置,该遮罩上的相关联变化保持取向为朝向该目标项,并且由此该虚拟遮罩被更新从而该虚拟遮罩的不同部分被显示。
虚拟遮罩200可被产生为在虚拟空间中围绕该观察者的三维对象,例如,虚拟圆柱形或球形。作为替换,虚拟遮罩200可被产生为放置在二维用户接口层中的二维平铺图像。这些二维平铺图像随用户旋转而滑动(例如,向左和向右)以仿效三维虚拟实现,即,由软件仿效在相机旋转的同时使该虚拟遮罩在空间中保持静止。
藉由示例,图8、9、10和11解说在显示器112上向用户显示的包括虚拟遮罩200的扩增显示图像的示例,例如,图8解说在用户正几乎直接面向目标项220时的图像和虚拟遮罩200,目标项220在该示例中是建筑物。如在图8中可见,在所显示图像的角落中可看到虚拟遮罩220的少许,因为该用户正面向目标项220。若期望,可显示附加扩增数据,诸如指向目标项220的箭头230和到目标项220的距离240之类。
图9和10解说随用户旋转离开(往右)目标项(该目标项在图9和10中不再看得到)该虚拟遮罩200的不同图像和不同部分。如所可见,遮罩200的所显示部分基于该用户相对于该目标项的取向而改变,其中该用户旋转离开该目标越远,该遮罩可见得就越多。在一个实施例中,该虚拟遮罩是至少部分透明的,从而使得可在遮罩200之下看到物理世界的图像.如所可见,该遮罩提供关于该目标项的方向的信息(在该示例中由该遮罩的倾斜边缘提供),该信息暗示该目标项是朝向该图像的较清楚部分。例如,可容易地确定,图10示出该用户相对于该目标项向右转得比图9中更远。图11解说在用户正看着径直背离目标项时虚拟遮罩200的所显示图像的一个示例(无底下的图像)。
图12、13、14和15解说可被使用的圆柱形虚拟遮罩的不同示例。若期望,可使用具有类似特性的球形遮罩。如所可见,这些虚拟遮罩提供基于该遮罩的变化的某种方向指示。该遮罩的变化可以是遮罩透明度、颜色、几何形状、纹理、材料、照明、阴影等。该遮罩无需使底下的图像完全隐蔽,而是可使该图像变样以使得该遮罩在显示中能被容易地辨识。
该遮罩的某部分可一直可见以保持取向与用户相关。遮罩200由此提供该用户与目标项之间的取向以及该用户离该目标项的方向有多远的清楚指示。也可单独地或通过改变该遮罩来提供附加信息以给出到该目标项的距离的指示。
尽管出于指导目的结合具体实施例解说了本发明,但是本发明并不被限定于此。可作出各种适应性改编以及改动而不会脱离本发明的范围。因此,所附权利要求的精神和范围不应当被限定于前面的描述。

Claims (38)

1.一种在显示器中示出观察者与目标项之间的取向的方法,所述方法包括:
显示观察者正面向的方向的图像;
确定所述观察者正面向的所述方向;
生成围绕所述观察者的虚拟遮罩,所述虚拟遮罩具有提供关于到目标项的方向的信息的变化,所述虚拟遮罩中的所述变化与所述目标项的位置相关联从而使得所述虚拟遮罩中的所述变化相对于所述目标项的取向不改变;
在所述图像之上显示所述虚拟遮罩的落在所述观察者正面向的所述方向上的部分,其中所述虚拟遮罩中的所述变化在所述显示器中是可见的,以向所述观察者提供关于所述目标项的方向的信息。
2.如权利要求1所述的方法,其特征在于,还包括确定所述观察者的所述方向已经改变并且在所述图像之上显示所述虚拟遮罩的不同部分。
3.如权利要求1所述的方法,其特征在于,还包括确定所述观察者相对于所述目标项的位置已经改变并且在所述图像之上显示所述虚拟遮罩的不同部分。
4.如权利要求1所述的方法,其特征在于,还包括标识所述目标项并且确定所述目标项相对于所述观察者的位置。
5.如权利要求1所述的方法,其特征在于,所述虚拟遮罩是驻留在三维虚拟空间中的三维圆柱形或球形之一。
6.如权利要求1所述的方法,其特征在于,所述虚拟遮罩包括滑动以表示三维圆柱形或球形的移动并且驻留在用户接口层中的二维对象。
7.如权利要求1所述的方法,其特征在于,所述虚拟遮罩中的所述变化是透明度、颜色、几何形状、纹理、材料、照明、和阴影中的至少一者。
8.如权利要求1所述的方法,其特征在于,所述目标项可以是地点、对象、一般方向、人,并且可以是驻定的或运动的。
9.如权利要求1所述的方法,其特征在于,不管所述用户正面向的方向如何,所述虚拟遮罩中的所述变化都被显示。
10.如权利要求1所述的方法,其特征在于,当所述观察者正径直面向所述目标项或正径直背离所述目标项时,所述虚拟遮罩中的所述变化不被显示。
11.如权利要求1所述的方法,其特征在于,附加视觉指示被显示以提供关于所述目标项的信息。
12.如权利要求11所述的方法,其特征在于,所述附加视觉指示包括示出所述目标项的位置的箭头和到所述目标项的距离的指示中的至少一者,所述距离的指示是所述虚拟遮罩变化的改变、数值和附加视觉指示的改变中的至少一者。
13.如权利要求1所述的方法,其特征在于,所述虚拟遮罩的所显示部分的对准是垂直锁定到观察屏或地平线的。
14.如权利要求1所述的方法,其特征在于,所述虚拟遮罩被显示在相机视图之上或空白或经填充背景之上。
15.一种移动平台,包括:
相机,其能作用于产生所述相机正面向的方向上的图像;
取向传感器,其提供关于所述相机正面向的方向的数据;
处理器,其连接到所述相机和所述取向传感器;
存储器,其连接至所述处理器;
显示器,其连接至所述存储器;以及
软件,其保持在所述存储器中并且在所述处理器中运行以使所述处理器使用来自所述取向传感器的所述数据来确定所述相机正面向的所述方向;生成具有提供关于从所述相机的位置到目标项的方向的信息的变化的虚拟遮罩,所述虚拟遮罩中的所述变化与所述目标项的位置相关联从而使得所述虚拟遮罩中的所述变化相对于所述目标项的所述位置的取向不改变;以及在所述显示器上示出来自所述相机的所述图像以及所述虚拟遮罩的落在所述相机正面向的所述方向上的部分,其中所述虚拟遮罩中的所述变化在所述显示器中是可见的以向所述观察者提供关于所述目标项的方向的信息。
16.如权利要求15所述的移动平台,其特征在于,所述软件进一步使所述处理器使用来自所述取向传感器的所述数据来确定所述相机正面向的所述方向已经改变并且显示所述虚拟遮罩的不同部分。
17.如权利要求15所述的移动平台,其特征在于,还包括向所述处理器提供关于所述相机的所述位置的数据的位置传感器,其中所述软件进一步使所述处理器确定所述相机相对于所述目标项的位置已经改变并且显示所述虚拟遮罩的不同部分。
18.如权利要求15所述的移动平台,其特征在于,还包括连接到所述处理器的用户接口,其中所述软件进一步使所述处理器从由所述用户接口提供的数据来标识所述目标项。
19.如权利要求15所述的移动平台,其特征在于,所述虚拟遮罩是驻留在三维虚拟空间中的三维圆柱形或球形之一。
20.如权利要求15所述的移动平台,其特征在于,所述虚拟遮罩包括滑动以表示三维圆柱形或球形的移动并且驻留在用户接口层中的二维对象。
21.如权利要求15所述的移动平台,其特征在于,所述虚拟遮罩中的所述变化是透明度、颜色、几何形状、纹理、材料、照明、和阴影中的至少一者。
22.如权利要求15所述的移动平台,其特征在于,所述目标项可以是地点、对象、一般方向、人,并且可以是驻定的或移动的。
23.如权利要求15所述的移动平台,其特征在于,不管所述用户正面向的方向如何,所述虚拟遮罩中的所述变化都被显示。
24.如权利要求15所述的移动平台,其特征在于,当所述观察者正径直面向所述目标项或正径直背离所述目标项时,所述虚拟遮罩中的所述变化不被显示。
25.如权利要求15所述的移动平台,其特征在于,所述软件还使所述处理器显示附加视觉指示以提供关于所述目标项的信息。
26.如权利要求25所述的移动平台,其特征在于,所述附加视觉指示包括示出所述目标项的位置的箭头和到所述目标项的距离的指示中的至少一者,所述距离的所述指示是所述虚拟遮罩变化的改变、数值和附加视觉指示的改变中的至少一者。
27.如权利要求15所述的移动平台,其特征在于,所述虚拟遮罩的所显示部分的对准是垂直锁定到观察屏或地平线的。
28.如权利要求15所述的移动平台,其特征在于,所述虚拟遮罩被显示在相机视图之上或空白或经填充背景之上。
29.一种用于访问和更新关于移动平台的位置信息的系统,包括:
用于产生观察者正面向的方向的图像的装置;
用于确定所述观察者正面向的所述方向的装置;
用于生成围绕所述观察者的虚拟遮罩的装置,所述虚拟遮罩具有提供关于到目标项的方向的信息的变化,所述虚拟遮罩中的所述变化与所述目标项的位置相关联从而使得所述虚拟遮罩中的所述变化相对于所述目标项的取向不改变;
用于显示所述观察者正面向的所述方向的图像并且显示所述虚拟遮罩的落在所述观察者正面向的所述方向上的部分的装置,其中所述虚拟遮罩中的所述变化在所述显示器中是可见的以向所述观察者提供关于所述目标项的方向的信息。
30.如权利要求29所述的系统,其特征在于,还包括用于确定所述观察者的所述方向已经改变并且显示所述虚拟遮罩的不同部分的装置。
31.如权利要求29所述的系统,其特征在于,还包括用于确定所述观察者相对于所述目标项的位置已经改变并且在所述图像之上显示所述虚拟遮罩的不同部分的装置。
32.如权利要求29所述的系统,其特征在于,还包括用于标识所述目标项并且确定所述目标项相对于所述观察者的位置的装置。
33.如权利要求29所述的系统,其特征在于,所述虚拟遮罩是驻留在三维虚拟空间中的三维圆柱形或球形之一。
34.如权利要求29所述的系统,其特征在于,所述虚拟遮罩包括滑动以表示三维圆柱形或球形的移动并且驻留在用户接口层中的二维对象。
35.如权利要求29所述的系统,其特征在于,所述虚拟遮罩中的所述变化是透明度、颜色、几何形状、纹理、材料、照明、和阴影中的至少一者。
36.一种包括存储于其上的程序代码的计算机可读介质,包括:
用于确定观察者正面向的方向的程序代码;
用于生成具有提供关于从所述观察者的位置到目标项的方向的信息的变化的虚拟遮罩的程序代码,所述虚拟遮罩中的所述变化与所述目标项的位置相关联从而使得所述虚拟遮罩中的所述变化相对于所述目标项的所述位置的取向不改变;以及
用于显示所述观察者正面向的所述方向的图像和所述虚拟遮罩的落在所述观察者正面向的所述方向上的部分的程序代码,其中所述虚拟遮罩中的所述变化在所述显示器中是可见的以向所述观察者提供关于所述目标项的方向的信息。
37.如权利要求35所述的包括存储于其上的程序代码的计算机可读介质,其特征在于,还包括用于确定所述观察者正面向的所述方向已经改变并且显示所述虚拟遮罩的不同部分的程序代码。
38.如权利要求35所述的包括存储于其上的程序代码的计算机可读介质,其特征在于,还包括用于确定所述观察者相对于所述目标项的位置已经改变并且显示所述虚拟遮罩的不同部分的程序代码。
CN201180026700.2A 2010-04-02 2011-03-29 扩增现实方向取向遮罩 Active CN102918568B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/753,701 US8570344B2 (en) 2010-04-02 2010-04-02 Augmented reality direction orientation mask
US12/753,701 2010-04-02
PCT/US2011/030397 WO2011123472A2 (en) 2010-04-02 2011-03-29 Augmented reality direction orientation mask

Publications (2)

Publication Number Publication Date
CN102918568A true CN102918568A (zh) 2013-02-06
CN102918568B CN102918568B (zh) 2016-01-20

Family

ID=44625698

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201180026700.2A Active CN102918568B (zh) 2010-04-02 2011-03-29 扩增现实方向取向遮罩

Country Status (9)

Country Link
US (2) US8570344B2 (zh)
EP (1) EP2553662B1 (zh)
JP (2) JP5738975B2 (zh)
KR (1) KR101435310B1 (zh)
CN (1) CN102918568B (zh)
BR (1) BR112012024828A2 (zh)
ES (1) ES2765640T3 (zh)
HU (1) HUE046828T2 (zh)
WO (1) WO2011123472A2 (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160026242A1 (en) 2014-07-25 2016-01-28 Aaron Burns Gaze-based object placement within a virtual reality environment
CN105389847A (zh) * 2015-11-06 2016-03-09 网易(杭州)网络有限公司 一种3d场景的绘制系统及方法、终端
CN105389848A (zh) * 2015-11-06 2016-03-09 网易(杭州)网络有限公司 一种3d场景的绘制系统及方法、终端
CN106575154A (zh) * 2014-07-25 2017-04-19 微软技术许可有限责任公司 全息对象的智能透明度
US10311638B2 (en) 2014-07-25 2019-06-04 Microsoft Technology Licensing, Llc Anti-trip when immersed in a virtual reality environment
CN110111411A (zh) * 2019-04-02 2019-08-09 贝壳技术有限公司 一种三维模型的浏览处理方法及装置
US10649212B2 (en) 2014-07-25 2020-05-12 Microsoft Technology Licensing Llc Ground plane adjustment in a virtual reality environment

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2955007B1 (fr) * 2010-01-04 2012-02-17 Sagem Defense Securite Estimation de mouvement global et dense
US8570344B2 (en) 2010-04-02 2013-10-29 Qualcomm Incorporated Augmented reality direction orientation mask
US9606992B2 (en) * 2011-09-30 2017-03-28 Microsoft Technology Licensing, Llc Personal audio/visual apparatus providing resource management
JP2013235080A (ja) * 2012-05-08 2013-11-21 Sony Corp 画像表示装置、画像表示プログラム及び画像表示方法
WO2014005066A1 (en) * 2012-06-28 2014-01-03 Experience Proximity, Inc., Dba Oooii Systems and methods for navigating virtual structured data relative to real-world locales
US20140214585A1 (en) * 2013-01-30 2014-07-31 Moveline Group, Inc Telepresence assisted item transport facilitation
US20140278053A1 (en) * 2013-03-14 2014-09-18 Samsung Electronics Co., Ltd. Navigation system with dynamic update mechanism and method of operation thereof
US9256072B2 (en) * 2013-10-02 2016-02-09 Philip Scott Lyren Wearable electronic glasses that detect movement of a real object copies movement of a virtual object
WO2015182290A1 (ja) * 2014-05-28 2015-12-03 株式会社Screenホールディングス 経路案内装置、経路案内方法、および経路案内プログラム
US9508195B2 (en) * 2014-09-03 2016-11-29 Microsoft Technology Licensing, Llc Management of content in a 3D holographic environment
US20160178906A1 (en) * 2014-12-19 2016-06-23 Intel Corporation Virtual wearables
US9733881B2 (en) * 2015-08-28 2017-08-15 International Business Machines Corporation Managing digital object viewability for a transparent display system
CN105854296A (zh) * 2016-04-21 2016-08-17 苏州探寻文化科技有限公司 一种基于增强现实的互动体验系统
US9928630B2 (en) 2016-07-26 2018-03-27 International Business Machines Corporation Hiding sensitive content visible through a transparent display
KR102650572B1 (ko) 2016-11-16 2024-03-26 삼성전자주식회사 전자 장치 및 그의 제어 방법
CN109274977B (zh) * 2017-07-18 2022-03-25 腾讯科技(深圳)有限公司 虚拟道具分配方法、服务器及客户端
JP2020014361A (ja) * 2018-07-20 2020-01-23 中国電力株式会社 情報処理装置及び情報処理システム
US10777087B2 (en) 2018-12-07 2020-09-15 International Business Machines Corporation Augmented reality for removing external stimuli
DE102022132417A1 (de) * 2022-12-06 2024-06-06 Bayerische Motoren Werke Aktiengesellschaft Verfahren zur Aufmerksamkeitslenkung eines Nutzers einer AR-, MR- oder VR-Anzeigevorrichtung auf ein Zielobjekt

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003005627A (ja) * 2001-06-19 2003-01-08 Canon Inc 情報処理装置及びその方法、プログラム
US20070035563A1 (en) * 2005-08-12 2007-02-15 The Board Of Trustees Of Michigan State University Augmented reality spatial interaction and navigational system
US20090002391A1 (en) * 2007-06-29 2009-01-01 Microsoft Corporation Manipulation of Graphical Objects

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3893983B2 (ja) * 2002-01-17 2007-03-14 ソニー株式会社 情報提供装置及び情報提供方法、記憶媒体、並びにコンピュータ・プログラム
JP4710217B2 (ja) * 2003-07-03 2011-06-29 ソニー株式会社 情報提示装置及び情報提示方法、情報提示システム、並びにコンピュータ・プログラム
CN100595519C (zh) * 2005-01-26 2010-03-24 松下电器产业株式会社 引导装置及引导方法
US8570344B2 (en) 2010-04-02 2013-10-29 Qualcomm Incorporated Augmented reality direction orientation mask

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003005627A (ja) * 2001-06-19 2003-01-08 Canon Inc 情報処理装置及びその方法、プログラム
US20070035563A1 (en) * 2005-08-12 2007-02-15 The Board Of Trustees Of Michigan State University Augmented reality spatial interaction and navigational system
US20090002391A1 (en) * 2007-06-29 2009-01-01 Microsoft Corporation Manipulation of Graphical Objects

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160026242A1 (en) 2014-07-25 2016-01-28 Aaron Burns Gaze-based object placement within a virtual reality environment
CN106575154A (zh) * 2014-07-25 2017-04-19 微软技术许可有限责任公司 全息对象的智能透明度
US10311638B2 (en) 2014-07-25 2019-06-04 Microsoft Technology Licensing, Llc Anti-trip when immersed in a virtual reality environment
US10416760B2 (en) 2014-07-25 2019-09-17 Microsoft Technology Licensing, Llc Gaze-based object placement within a virtual reality environment
US10451875B2 (en) 2014-07-25 2019-10-22 Microsoft Technology Licensing, Llc Smart transparency for virtual objects
CN106575154B (zh) * 2014-07-25 2020-01-07 微软技术许可有限责任公司 全息对象的智能透明度
US10649212B2 (en) 2014-07-25 2020-05-12 Microsoft Technology Licensing Llc Ground plane adjustment in a virtual reality environment
CN105389847A (zh) * 2015-11-06 2016-03-09 网易(杭州)网络有限公司 一种3d场景的绘制系统及方法、终端
CN105389848A (zh) * 2015-11-06 2016-03-09 网易(杭州)网络有限公司 一种3d场景的绘制系统及方法、终端
CN105389847B (zh) * 2015-11-06 2018-01-26 网易(杭州)网络有限公司 一种3d场景的绘制系统及方法、终端
CN105389848B (zh) * 2015-11-06 2019-04-09 网易(杭州)网络有限公司 一种3d场景的绘制系统及方法、终端
CN110111411A (zh) * 2019-04-02 2019-08-09 贝壳技术有限公司 一种三维模型的浏览处理方法及装置

Also Published As

Publication number Publication date
JP5992573B2 (ja) 2016-09-14
US20110242090A1 (en) 2011-10-06
KR20130028094A (ko) 2013-03-18
US20140055451A1 (en) 2014-02-27
BR112012024828A2 (pt) 2016-06-07
WO2011123472A2 (en) 2011-10-06
JP5738975B2 (ja) 2015-06-24
JP2013524344A (ja) 2013-06-17
EP2553662B1 (en) 2019-11-13
CN102918568B (zh) 2016-01-20
US8570344B2 (en) 2013-10-29
WO2011123472A3 (en) 2012-10-11
EP2553662A2 (en) 2013-02-06
ES2765640T3 (es) 2020-06-10
US8941649B2 (en) 2015-01-27
KR101435310B1 (ko) 2014-09-02
HUE046828T2 (hu) 2020-03-30
JP2015172941A (ja) 2015-10-01

Similar Documents

Publication Publication Date Title
CN102918568B (zh) 扩增现实方向取向遮罩
US9684989B2 (en) User interface transition between camera view and map view
US20200364938A1 (en) Fine-grain placement and viewing of virtual objects in wide-area augmented reality environments
US9429438B2 (en) Updating map data from camera images
CA2762743C (en) Updating map data from camera images
Kumar et al. Introduction to GPS/GNSS technology
KR20130116923A (ko) 이미지 프로세싱에 기초한 카메라-기반 포지션 로케이션 및 네비게이션
CN110383099A (zh) 稳健下行链路定位
EP3642694B1 (en) Augmented reality system and method of displaying an augmented reality image
TW201135270A (en) Determination of elevation of mobile station
US20230305139A1 (en) Position accuracy using sensor data
US20220276394A1 (en) Map-aided satellite selection
US20240144608A1 (en) Context-sensitive overlay of content via augmented reality device
Suurinkeroinen Centimeter-level real-time position tracking options with a short initialization time for outdoor applications
Madry et al. Precision and Navigational PNT Systems
Carlotto et al. Locative view: visualizing geo-referenced objects in space

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant