CN107958490B - 用于无线通信装置的免提增强现实 - Google Patents

用于无线通信装置的免提增强现实 Download PDF

Info

Publication number
CN107958490B
CN107958490B CN201711189758.4A CN201711189758A CN107958490B CN 107958490 B CN107958490 B CN 107958490B CN 201711189758 A CN201711189758 A CN 201711189758A CN 107958490 B CN107958490 B CN 107958490B
Authority
CN
China
Prior art keywords
content
single picture
scene
wcd
database server
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201711189758.4A
Other languages
English (en)
Other versions
CN107958490A (zh
Inventor
巴巴科·福鲁坦保尔
鲁宾·M·贝拉尔德
戴维·L·贝德纳尔
布莱恩·李·莫迈尔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of CN107958490A publication Critical patent/CN107958490A/zh
Application granted granted Critical
Publication of CN107958490B publication Critical patent/CN107958490B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Processing Or Creating Images (AREA)
  • Studio Devices (AREA)
  • User Interface Of Digital Computer (AREA)
  • Telephone Function (AREA)

Abstract

本发明涉及用于在无线通信装置WCD上提供免提增强现实的技术。根据所述技术,所述WCD内的应用程序处理器执行增强现实AR应用程序以接收多个图像帧,且将所述多个图像帧转换为包括缝合在一起以表示场景的所述多个图像帧的单个图片。执行所述AR应用程序的所述WCD随后从AR数据库服务器请求在所述单个图片中表示的所述场景的AR内容,从所述AR数据库服务器接收所述场景的AR内容,且处理所述AR内容以覆盖所述单个图片以在所述WCD上向用户显示。以此方式,用户可在所述WCD的显示器上舒适地看着具有覆盖的AR内容的所述单个图片,以关于所述单个图片中表示的所述场景了解更多。

Description

用于无线通信装置的免提增强现实
分案申请的相关信息
本案是分案申请。该分案的母案是申请日为2012年10月10日、申请号为PCT/US2012/059584的国际申请案进入中国阶段发明名称为“用于无线通信装置的免提增强现实”的第201280066326.3号发明专利申请案。
本申请案主张2011年11月8日申请的第61/557,265号美国临时申请案的权益,所述美国临时申请案的整个内容以应用的方式并入本文。
技术领域
本发明涉及无线通信装置,且更特定来说涉及无线通信装置上的增强现实应用程序。
背景技术
无线通信装置(WCD)包含移动电话、具有无线通信卡的便携式计算机、个人数字助理(PDA)、便携式媒体播放器、便携式游戏装置或具有无线通信能力的其它装置,包含所谓的“智能”电话和“智能”垫或平板。WCD通常由有限的电池资源供电。改进的电池寿命和电池寿命节省因此是在设计WCD以及在WCD上运行的应用程序时的重要问题。然而,电池寿命的问题受到在WCD上运行的应用程序中的增加特征的需求抵消。
作为一个实例,增强现实(AR)应用程序在WCD上正在变得越来越流行。AR应用程序在WCD中通过搜集在正由WCD内的相机俘获的实时视频中表示的场景的信息而操作。AR应用程序将实时视频发送到AR服务器。AR应用程序随后从AR服务器接收在实时视频中表示的场景的AR内容,且将AR内容覆盖在实时视频上以用于向用户显示。AR内容可包含关于实时视频的场景中包含的商业、地标、运输、人口、对象和类似物等的信息。
当AR应用程序正在WCD中执行时,以上步骤可发生以将实时视频的每一场景的AR内容呈现给WCD的用户。举例来说,WCD的用户可沿着城市街道在单个方向上拍摄视频,且接收所述场景的信息。当用户移位、倾斜或平移WCD时,WCD内的相机将例如沿着同一街道在不同方向上俘获表示不同场景的实时视频,且将重复以上步骤以接收新场景的信息。
发明内容
大体上,本发明涉及用于在无线通信装置(WCD)上提供免提增强现实的技术。根据所述技术,所述WCD内的应用程序处理器执行增强现实(AR)应用程序以接收多个图像帧,且将所述多个图像帧转换为包含经缝合在一起以表示场景的所述多个图像帧的单个图像。在将图像帧转换为单个图片之后,执行AR应用程序的WCD从AR数据库服务器请求在单个图片中表示的场景的AR内容,从AR数据库服务器接收场景的AR内容,且处理AR内容以覆盖单个图片以在WCD上向用户显示。以此方式,用户可在WCD的显示器上舒适地看着具有覆盖的AR内容的单个图片,以关于单个图片中表示的场景了解更多,例如在俘获场景之后不一定连续地使WCD指向场景。举例来说,AR内容可包含关于单个图片的场景中包含的商业、地标、运输、人口、对象和类似物等的信息。
在一个实例中,本发明是针对一种以WCD执行增强现实应用程序的方法,其包括:以所述WCD的处理器接收各自表示场景的一部分的多个图像帧;以及将所述多个图像帧转换为单个图片,其中所述单个图片包括经缝合在一起以表示所述场景的所述多个图像帧。所述方法进一步包括:从AR数据库服务器请求所述单个图片中表示的所述场景的AR内容;从AR数据库服务器接收所述单个图片中表示的所述场景的AR内容;以及处理所述AR内容以覆盖所述单个图片用于在所述WCD上显示。
在另一实例中,本发明是针对一种用于执行增强现实应用程序的WCD,所述WCD包括:存储器,其用以存储图像数据;处理器,其经配置以:接收各自表示场景的一部分的多个图像帧;将所述多个图像帧转换为单个图片,其中所述单个图片包括经缝合在一起以表示所述场景的所述多个图像帧;从AR数据库服务器请求所述单个图片中表示的所述场景的AR内容;从所述AR数据库服务器接收所述单个图片中表示的所述场景的AR内容;以及处理所述AR内容以覆盖所述单个图片;以及显示器,其用以向所述WCD的用户呈现具有所述覆盖的AR内容的所述单个图片。
在又一实例中,本发明是针对一种用于执行增强现实应用程序的WCD,其包括:用于接收各自表示场景的一部分的多个图像帧的装置;以及用于将所述多个图像帧转换为单个图片的装置,其中所述单个图片包括经缝合在一起以表示所述场景的所述多个图像帧。所述WCD还包括:用于从AR数据库服务器请求所述单个图片中表示的所述场景的AR内容的装置;用于从所述AR数据库服务器接收所述单个图片中表示的所述场景的AR内容的装置;以及用于处理所述AR内容以覆盖所述单个图片用于在所述WCD上显示的装置。
在另一实例中,本发明是针对一种包括用于执行增强现实应用程序的指令的计算机可读媒体,所述指令当在WCD中执行时致使一或多个可编程处理器:接收各自表示场景的一部分的多个图像帧;将所述多个图像帧转换为单个图片,其中所述单个图片包括经缝合在一起以表示所述场景的所述多个图像帧;从AR数据库服务器请求所述单个图片中表示的所述场景的AR内容;从所述AR数据库服务器接收所述单个图片中表示的所述场景的AR内容;以及处理所述AR内容以覆盖所述单个图片用于在所述WCD上显示。
在附图和以下描述中陈述本发明的一个或一个以上实例的细节。从描述和图式以及从权利要求书将明了其它特征、目的和优点。
附图说明
图1是图解说明根据所揭示技术的实例能够提供免提增强现实的无线通信装置(WCD)的框图。
图2是图解说明根据常规技术执行增强现实应用程序的示范性WCD的概念图。
图3是图解说明根据所揭示技术的实例由执行免提增强现实应用程序的WCD产生的表示具有覆盖AR内容的单个图片的概念图。
图4是图解说明以WCD执行免提增强现实应用程序以在表示场景的单个图片上覆盖AR内容的示范性技术的流程图。
图5是图解说明基于对WCD的用户输入根据AR内容设定执行免提增强现实应用程序的示范性技术的流程图。
具体实施方式
图1是图解说明根据所揭示技术能够提供免提增强现实的无线通信装置(WCD)10的框图。所述技术可视为“免提的”,因为用户不需要在相机20指向场景以接收和审阅场景的增强现实(AR)内容的情况下连续地固持WCD 10。而是,所述技术使得用户能够将WCD 10舒适地固持在用户的膝盖上或将WCD 10放置于桌子上以在俘获场景之后审阅场景的AR内容,而无需连续地将WCD 10指向场景。
WCD 10可为移动装置,包含移动电话、具有无线通信卡的便携式计算机、个人数字助理(PDA)、便携式媒体播放器、便携式游戏装置或具有无线通信能力的另一装置,包含所谓的“智能”电话和“智能”垫或平板计算机。如图1中图解说明,WCD 10包含应用程序处理器12、增强现实(AR)应用程序14、显示器处理器16、显示器18、相机20、一或多个传感器22、存储器24、发射器/接收器(TX/RX)26以及电池28,即基于电池的电力供应器。
大体上,应用程序处理器12提供其中包含AR应用程序14的多种应用程序可在WCD10上运行的环境。额外实例应用程序包含文本处理应用程序、电子邮件应用程序、视频游戏应用程序、视频或图片幻灯片应用程序、呈现应用程序、视频会议应用程序和类似物。应用程序处理器12可从存储器24、相机20和/或传感器22接收供这些应用程序使用的数据。相机20可包含能够俘获静止图片和/或视频的图像传感器。传感器22可包含罗盘传感器、全球定位信号(GPS)传感器、或建立到WCD 10中的另一类型的位置确定传感器。为了在WCD10上呈现应用程序数据,显示器处理器16处理来自应用程序处理器12的图像数据以用于在显示器18上呈现。在一些情况下,WCD 10还可包含视频编码器、视频解码器和/或视频编码器与解码器的组合,称为“编解码器”。
根据本发明的技术,WCD 10内的应用程序处理器12执行增强现实(AR)应用程序14以接收表示场景的不同部分的多个图像帧,且将所述多个图像帧转换为包含所述多个图像帧的单个图片。可将所述多个图像帧的全部或部分缝合在一起以形成表示场景的单个图片。在将图像帧转换为单个图片之后,应用程序处理器12从AR数据库服务器请求在单个图片中表示的场景的AR内容,从AR数据库服务器接收场景的AR内容,且处理AR内容以覆盖单个图片以在WCD 10上向用户显示。以此方式,用户可在WCD 10的显示器18上舒适地看着具有覆盖的AR内容的单个图片,以关于单个图片中表示的场景了解更多,例如虽然未朝向单个图片中俘获的场景定向。
在由应用程序处理器12执行时,AR应用程序14为WCD 10的用户提供关于在单个图片中表示的场景的信息。在单个图片中表示的场景可包含室外区域,包含街道、建筑物、车辆、公园、水体和类似物。场景还可包含室内区域,包含办公楼的内部和购物中心。另外,场景可包含人。场景类型的以上列表是示范性的,且不提供通过AR应用程序14可提供AR内容的场景类型的详尽列表。
为场景提供的AR内容可包含关于场景内的商业的信息,例如餐厅和酒吧的营业时间、菜单和特别之处、杂货店和零售店的销售、即将到来的事件和/或商业的顾客分级。AR内容还可包含关于场景中包含的城市或邻域的信息,例如公共运输时间表、公共公园信息、历史位点和事件、游客信息,和/或警察局和应急服务的位置。另外,AR内容可包含场景中包含的外语标志的翻译。AR内容可进一步包含场景中包含的人的识别,例如一个人是否以及如何经由社交联网公司连接到用户。AR内容还可包含环境信息,例如温度、天气预报和/或污染和过敏原水平。AR内容类型的以上列表是示范性的,且不提供通过AR应用程序14关于场景可提供的信息类型的详尽列表。
常规上执行的AR应用程序需要用户连续固持WCD,且用WCD中包含的相机在单个方向上拍摄场景的实时视频。在用户固持WCD且拍摄实时视频时,用户能够在“预览”窗口中查看覆盖在显示于WCD上的实时视频上的AR内容。一旦用户放下他的胳膊且停止拍摄实时视频,则场景和AR内容不再可用于用户查看。图2中图解说明常规执行的AR应用程序的实例。
常规技术可使用户为紧张的,且可因必须连续固持WCD以拍摄实时视频且在AR视频上查看AR内容而导致胳膊疲劳或所谓的“大猩猩臂”。提供免提增强现实的一个解决方案是佩戴虚拟现实(VR)护目镜,其将场景的AR内容覆盖到由用户佩戴的护目镜或眼镜上。这些护目镜可视为“令人讨厌的”,且使得用户甚至比固持WCD更紧张。另外,VR护目镜通常是昂贵的。这些两种常规技术都是不合意的,因为它们可使得用户紧张且较不可能使用AR应用程序。
本发明的技术通过将先前拍摄或记录的图像帧转换为表示场景的单个图片且将场景的AR内容覆盖在单个图片上而避免了这些问题。这允许用户在任何时间且在任何位置查看AR内容而不必朝向场景定向。以此方式,所述技术提供免提增强现实,而对WCD 10不需要护目镜或其它外部装置。
更具体来说,根据本发明的技术,应用程序处理器12执行AR应用程序14以接收各自表示场景的一部分的多个图像帧。图像帧可为多个静止图片或场景的视频数据的多个视频帧。在一些情况下,图像帧可从WCD 10外部的存储装置接收。在其它情况下,图像帧可由包含在WCD 10中的相机20俘获。
不同于需要用户连续运行WCD中包含的摄像机且在WCD的预览窗口中查看覆盖于实时视频上的AR内容的常规技术,所述技术允许用户拍摄场景的多个静止图片或几秒的视频数据。在一些实例中,图像帧可通过以全景方式在场景上扫掠WCD 10中包含的相机20以俘获多个静止图片或包含多个视频帧的几秒的视频来俘获。俘获的图像帧可随后直接发送到应用程序处理器12供AR应用程序14使用,或图像帧可存储在存储器24中且稍后由应用程序处理器12获取供AR应用程序14使用。应用程序处理器12随后将来自多个静止图片或几秒的视频数据的所述多个图像帧转换为单个图片,其包括缝合在一起以表示场景的所述多个图像帧。在一些实例中,WCD 10内的应用程序处理器12可通过将所述多个图像帧缝合在一起而形成单个图片。应用程序处理器12可以多种常规方式中的任一者执行缝合,例如常规上用以缝合全景场景的那些方式。在其它实例中,WCD 10内的应用程序处理器12可经由TX/RX 26将图像帧发送到远程服务器。在此实例中,应用程序处理器12指示远程服务器将所述多个图像帧缝合在一起以形成单个图片,且从远程服务器接收回单个图片。单个图片可在多个方向上表示城市街道、历史地点、邻域或类似物。以此方式,单个图片可包括场景的全景表示。
作为一实例,用户可通过将WCD 10中包含的相机20从给定位置旋转180或360度来以全景方式拍摄场景。在视频数据的情况中,用户可简单地在场景上扫掠WCD 10的相机20以每秒拍摄大约30帧。在静止图片的情况下,用户可用WCD 10的相机20拍摄静止图片,将相机20移动几度且拍摄下一静止图片,且随后再次移动相机20以拍摄另一静止图片,在整个场景上以此类推。在任一情况下,应用程序处理器12或远程服务器可将俘获的图像帧缝合在一起以产生单个全景图片。为了从多个静止图片产生单个图片,应用程序处理器12或远程服务器可经配置以将多个静止图片配合在一起且消除图片之间的冗余信息以形成无缝的单个图片。为了从多个视频帧(即,几秒的视频数据)产生单个图片,应用程序处理器12或远程服务器可在时间上对视频帧进行下取样且消除视频帧之间的冗余信息以形成无缝的单个图片。
产生的单个图片可为具有例如6000x1280像素大小的非常大的图像。在一些情况下,WCD 10的用户或WCD 10的应用程序处理器12可先验地决定是否通过在WCD 10处将图像帧缝合在一起或通过发送图像帧以在远程服务器处缝合在一起而产生单个图片。是否在WCD 10处或远程服务器处产生单个图片可取决于WCD 10处的存储器量、电池寿命和处理强度、WCD 10可用的当前数据速率,以及每兆字节(MB)数据的成本。应用程序处理器12例如可比较WCD 10的处理能力与远程服务器的处理能力。应用程序处理器12还可查看信号强度以确定需要多少电力来将单个图片对多个图像帧发送到远程服务器,以及以每MB的成本来将单个图片对多个图像帧发送到远程服务器。另外,应用程序处理器12可查看WCD 10内的电池28以确定WCD 100的剩余电池寿命。
这些因素将针对每一WCD和每一用户而变化。举例来说,如果WCD 10是具有不受限数据和良好信号强度的高速电话,那么应用程序处理器12应在本机将图像帧缝合在一起以形成单个图片。另一方面,如果WCD 10是低特征电话,那么应用程序处理器12应将图像帧发送到远程服务器用于缝合以产生单个图片,除非与WCD 10相关联的数据计划非常昂贵。在所述情况下,应用程序处理器12将所述多个图像帧发送到远程服务器且随后从服务器接收缝合的单个图片可为成本过高的。另外,如果WCD 10的电池28具有满电力,那么应用程序处理器12可将图像帧发送到远程服务器用于缝合以产生单个图片,且从远程服务器接收回单个图片。然而如果WCD 10中的电池28的电力电平为低的,那么应用程序处理器12可改为在本机缝合图像帧以产生单个图片。
在将图像帧转换为单个图片之后,执行AR应用程序14的应用程序处理器12从AR数据库服务器请求在单个图片中表示的场景的AR内容。应用程序处理器12可通过将单个图片发送到AR数据库服务器来请求场景的AR内容。在其它情况下,应用程序处理器12可通过将多个图像帧中的一或多者发送到AR数据库服务器来请求场景的AR内容。通常,AR数据库服务器包括WCD 10远程的服务器,使得应用程序处理器12经由TX/RX 26将单个图片发送到AR数据库服务器。在第一远程服务器产生单个图片的情况下,AR数据库可存储在相同的第一远程服务器处或存储在不同的第二远程服务器处。在其它实例中,AR数据库可存储在WCD10中。
在本发明中,所述技术主要是根据单个图片从WCD 10发送到AR数据库服务器以请求与单个图片中表示的场景相关联的AR内容的情况来描述。然而应了解,所述技术也可应用于多个图像帧(例如,多个静止图片或多个视频帧)直接发送到AR数据库服务器以请求图像帧中的每一者的AR内容的情况中。在接收到AR内容之后,应用程序处理器12可将图像帧中的每一者的AR内容应用于单个图片。
无论针对场景如何请求AR内容,WCD 10均可接收单个图片中表示的整个场景的AR内容。应用程序处理器12处理AR内容以覆盖单个图片。在一些实例中,显示器处理器16可与应用程序处理器12一起操作以执行AR内容的处理或再现。显示器处理器16随后准备具有覆盖的AR内容的单个图片以用于在WCD 10的显示器18上向用户呈现。以此方式,WCD 10的用户可在显示器18上舒适地看着具有覆盖的AR内容的单个图片,以关于周围区域了解更多,例如虽然是坐着或未朝向图像中俘获的场景定向。
AR内容可包含表示单个图片中表示的场景的AR内容的文本和/或图形。AR内容还可包含对应于单个图片的文本和/或图形的位置信息。举例来说,AR内容可包含描述单个图片中俘获的地点处的事件的文本。AR内容还将包含单个图片中将放置文本的地点的位置信息,例如(x,y)像素位置。
通常,AR数据库服务器将仅将AR内容与对应于单个图片的位置信息一起发送回到应用程序处理器12。举例来说,AR内容的每一项目包含相关联坐标,以便将表示AR内容的文本和/或图形放置于单个图片上的正确位置处。与AR数据库服务器在单个图片上定位AR内容且将具有覆盖AR内容的大体积单个图片发送回到WCD 10相比这是较不耗时且较不耗电力的。然而在一些实例中,AR数据库服务器可将整个单个图片与覆盖的AR内容一起发送回到WCD 10。在所述情况下,应用程序处理器12和/或显示器处理器16处理或再现所接收单个图片与覆盖的AR内容供在显示器18上呈现。
连同单个图片一起,应用程序处理器12还可将与图像帧和/或单个图片的产生相关联的位置和/或视角信息发送到AR数据库服务器。以此方式,应用程序处理器12可至少部分地基于在俘获对象时对象相对于用户的位置而接收在单个图片中表示的场景包含的对象的AR内容。应用程序处理器12可从例如罗盘传感器、GPS传感器或类似物等一或多个传感器22接收位置和/或视角信息。应用程序处理器12可接收所述多个图像帧的位置和/或视角信息,所述多个图像帧各自表示场景的一部分且经缝合在一起以形成单个图片。以此方式,在单个图片中表示的场景的不同部分可具有不同的位置和/或视角信息。在一些情况下,应用程序处理器12还可将与图像帧和/或单个图片的产生相关联的时间和日期信息发送到AR数据库服务器,以便接收指示单个图片中表示的场景与场景的先前图片之间的差异的场景的AR内容。
本发明中描述的免提AR技术与常规AR技术相比允许对单个图片中俘获的场景的稳健得多的查看。在常规AR技术中,用户在固持WCD且拍摄实时视频时预期瞬时AR内容。这允许仅有限量的容易确定的AR内容覆盖在实时视频上。另外,在常规技术中,用户可移动或扫掠WCD中的相机,使得场景的视图恒定地改变。花费较长时间来获取的AR内容在WCD接收到AR内容时可为陈旧的。举例来说,当WCD接收到特定地标的AR内容时,用户可能已改变实时视频的方向,使得特定地标不再包含于由实时视频俘获的场景中且不需要AR内容。
根据本发明的技术,用户能够关于场景的静态单个图片坐或站历时与用户的希望一样长的时间。因此用户可能更愿意等待较长时间来获取和处理与单个图片中表示的场景相关联的所有AR内容供显示。对较长等待时间的折中可为包含例如到网站和视频的链接的AR内容的较大量且较高水平的细节。用户还能够在场景的单个图片上和内导览。举例来说,所述技术使得用户能够在显示器18上查看具有覆盖的AR内容的单个图片时执行图像操作,例如平移、倾斜、滚动和缩放操作。以此方式,在用户平移和缩放到单个图片中俘获的特定区或建筑物中时,可显露所述区内的额外AR内容。
作为较特定实例,响应于用户输入,应用程序处理器12和/或显示器处理器16可对单个图片执行一或多个图像操作,例如平移、倾斜、滚动和缩放操作,以产生单个图片中表示的场景的新视图。在执行图像操作之后,应用程序处理器12和/或显示器处理器16可更新AR内容以通过从单个图片添加或移除AR内容中的一种操作来覆盖单个图片中的新视图。在一些情况下,更新AR内容可包含从AR数据库服务器请求单个图片中表示的场景的额外AR内容。
在一些情况下,应用程序处理器12可接收用以产生单个图片的多个图像帧中的每一者的位置信息(例如GPS读数)和视角信息(例如罗盘读数)。以此方式,当WCD 10的用户聚焦于单个图片中表示的场景的特定部分时,应用程序处理器12可基于针对表示场景的所述特定部分的图像帧接收的位置和/或视角信息而从AR数据库服务器请求额外AR内容。更具体来说,场景的部分的AR内容将包含基于场景的部分中的由AR数据库服务器辨识出的可见对象的信息以及基于当俘获图像帧时视觉对象相对于用户站立处的位置的信息。举例来说,如果用户在给定建筑物上放大,那么建筑物的AR内容可包含与在建筑物的外部上辨识的餐厅名称相关联的菜单、以及建筑物自身的名称和基于建筑物的相对位置在建筑物中包含的其它商业。
应用程序处理器12可基于用户输入确定AR内容设定。AR内容设定可包含将从AR数据库服务器接收的AR内容的一或多个类型、将从AR数据库服务器接收的AR内容的量,以及将从AR数据库服务器接收AR内容的时间。应用程序处理器12随后可根据AR内容设定从AR数据库服务器接收单个图片中表示的场景的AR内容。作为实例,用户可选择仅接收具有用户分级但不具有网站链接的餐厅信息,以便快速选择区域中的餐厅。当AR内容设定改变时,应用程序处理器12和/或显示器处理器16可更新AR内容以通过从单个图片添加或移除AR内容中的一种操作来覆盖单个图片。
在一些情况下,可渐进地接收AR内容。较容易获取的一些类型的AR内容可由应用程序处理器12处理以在单个图片上立即显示。在获取额外AR内容且发送回到应用程序处理器12时,处理额外AR内容且在单个图片上显示。以此方式,用户可立即开始接收一些AR内容以当正在渐进地获取、处理和显示剩余AR内容时开始了解单个图片中表示的场景。用户可在用户具有关于场景的足够信息时在任何时间停止渐进AR内容。另外,所述技术可允许将用以产生单个图片的图像帧中的至少一些实时地流式传输到AR数据库服务器,以便接收至少一些AR内容。在此情况下,WCD 10可接收一些AR内容以覆盖用以产生单个图片的几秒的实时视频数据。
在一些情况下,用以产生单个图片的图像帧可能不完整或具有不良质量。在一些实例中,应用程序处理器12可从AR数据库服务器接收针对来自WCD 10的额外较高分辨率图像帧的请求。这可在AR数据库服务器例如使用贾伯滤波器(Gabor filter)通过对单个图片进行滤波以找到文本且随后使用光学字符辨识(OCR)以读出文本来识别出单个图片中包含的文本时发生。如果所识别文本不可读,那么AR数据库服务器可将针对场景的部分的包含所述文本的高分辨率图片的请求发送到应用程序处理器12。
在其它实例中,应用程序处理器12可指示AR数据库服务器或另一远程服务器使用从外部存储装置(包含图像存储的网站)获取的额外图像帧来改善单个图片的质量。举例来说,AR数据库服务器或另一远程服务器可将单个图片中表示的场景的额外公共可用的图像发送到应用程序处理器12。额外图像帧可用以增加单个图片的大小和/或单个图片的质量。作为实例,当用户滚动或平移经过单个图片的边缘时,所述技术可基于场景的边缘处的位置和/或视角信息(例如,GPS和/或罗盘读数)获取额外图像帧。
所述技术还可使用额外图像帧来产生比较信息,其指示单个图片中表示的场景与场景的先前图片之间的差异。举例来说,AR数据库服务器或另一远程服务器可将当前单个图片中表示的场景的建筑物和地标与从公共可用网站获取的同一场景的先前图片进行比较。在此情况下,应用程序处理器12可接收比较信息以指示建筑物内的哪些建筑物和地标或商业是新的。作为实例,比较信息可用以指示近6个月内或某个其它选定时间范围内所述区域中的新餐厅。
本发明的免提AR技术可提供若干优点。举例来说,WCD 10的用户在他使用AR应用程序来了解关于特定场景(例如,邻域或历史地标)更多时将不会紧张或不会让人将他视为游客。另外,所述技术提供较少的臂疲劳,因为用户仅需要固持WCD一次以俘获若干静止图片或几秒的视频。用户可随后坐下以舒适地查看和欣赏具有覆盖的AR内容的单个图片而不必朝向单个图片中表示的场景连续地定向。
在应用程序处理器12从WCD 10中包含的相机20接收到多个图像帧的情况下,所述技术可使用较少电力来俘获图像帧,因为相机20仅需要俘获几秒的视频数据而不是连续俘获实时视频数据且与AR数据库服务器来回流式传输数据以接收关于区域的所有AR内容。另外,所述技术使用较少电力来与AR数据库服务器通信,因为单个图片中表示的场景中包含的对象仅需要识别和分析一次而不是每当用户俘获所述对象的实时视频时连续辨识同一图像。
图1中图解说明的WCD 10的组件仅是示范性的。在其它实例中,WCD 10可包含较多、较少和/或不同组件。WCD 10的组件可实施为多种合适电路中的任一者,例如一或多个微处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、离散逻辑、软件、硬件、固件或其任一组合。WCD 10中的显示器18可包括多种显示装置中的一者,例如液晶显示器(LCD)、等离子显示器、有机发光二极管(OLED)显示器,或另一类型的显示装置。
WCD 10中的存储器24可包括广泛多种易失性或非易失性存储器中的任一者,包含但不限于例如同步动态随机存取存储器(SDRAM)等随机存取存储器(RAM)、只读存储器(ROM)、非易失性随机存取存储器(NVRAM)、电可擦除可编程只读存储器(EEPROM)、快闪存储器,和类似物。存储器24可包括用于存储媒体数据以及其它种类数据的计算机可读存储媒体。存储器24另外存储由应用程序处理器12执行的指令和程序代码,作为执行本发明中描述的技术的部分。
WCD 10可在经设计以支持一或多种无线通信技术的通信系统内操作,所述技术例如码分多址(CDMA)、频分多址(FDMA)、时分多址(TDMA)或正交频分多路复用(OFDM)。以上无线通信技术可根据多种无线电接入技术中的任一者来传达。举例来说,CDMA可根据cdma2000或宽带CDMA(WCDMA)标准来传达。TDMA可根据全球移动通信系统(GSM)标准来传达。通用移动电信系统(UMTS)标准准许使用用于OFDM的长期演进(LTE)的GSM或WCMA操作。另外,可使用高数据速率(HDR)技术,例如cdma2000 1x EV-DO。
WCD 10的通信系统可包含支持多个移动无线或WiFi(例如,IEEE 802.11x)网络的一或多个基站(未图示)。通信服务提供者可使用基站作为网络集线器在中央操作且管理这些网络中的一或多者。
图2是图解说明根据常规技术执行增强现实应用程序的示范性WCD 30的概念图。常规上执行的AR应用程序需要用户连续固持WCD 30,如图2中图解说明,且用WCD 30中包含的相机拍摄场景的实时视频。随后连续地将实时视频流式传输到AR数据库服务器且WCD 30从AR数据库服务器接收与实时视频中表示的场景相关联的AR内容。WCD 30的用户在固持WCD且拍摄实时视频时预期瞬时AR内容。这允许仅有限量的容易确定的AR内容覆盖在实时视频上。
在图2中图解说明的实例中,用户固持WCD 30且拍摄包含建筑物、公共运输和人的城市街道场景的实时视频。WCD 30将实时视频发送到AR数据库服务器以请求实时视频中的场景的AR内容。WCD 30随后接收且经由现场视频向用户显示AR内容信息32、34和36。在图2的实例中,AR内容32包含例如温度和花粉水平等环境信息,以及用于用户的消息接发信息。AR内容34包含与街道场景中包含的公交车相关联的公共运输调度信息。另外,AR内容36包含位于街道场景中包含的建筑物中的一者中的商业(例如餐厅、零售店或旅行社)的销售广告。
常规技术使用大量电力来连续拍摄实时视频且连续发送相同对象的图像以由AR数据库服务器再识别。举例来说,WCD 30可将街道场景中包含的建筑物的实时视频流式传输到AR数据库服务器,且可连续接收为位于建筑物中的一者中的商业处的销售做广告的相同AR内容36。
另外,WCD 30的用户可能正在移动或扫掠WCD 30中的相机,或场景中原始包含的对象可能移出场景以使得街道场景的视图恒定地改变。花费较长时间获取的AR内容在WCD30接收到所述AR内容时可能是陈旧的。举例来说,在WCD 30接收到包含与实时视频中原始包含的公交车相关联的公共运输调度信息的AR内容34时,公交车自身可能已驶出实时视频中表示的场景。在所述情况下,WCD 30可不使用所接收AR内容34,因为其不与实时视频中俘获的当前街道场景中包含的对象相关联。在其它情况下,WCD 30可根据位置信息处理和显示实时视频上的AR内容34,但AR内容34将脱离上下文,因为公交车不再位于实时视频的同一位置中。
此外,用于以常规方式执行WCD 10中的AR应用程序的技术可能使用户在固持WCD30以从实时视频数据拍摄和接收AR内容时紧张。连续固持WCD 30也可导致胳膊疲劳或“大猩猩臂”。一种现有的免提增强现实解决方案经由虚拟现实(VR)护目镜对用户提供免提AR,其将AR内容覆盖到用户佩戴的护目镜或眼镜上。VR护目镜可为超尺寸的且体积大的,以便容纳显示屏幕以提供可接受的用户体验。因此VR护目镜可视为“令人讨厌的”,且使得用户甚至比固持WCD更紧张。另外,VR护目镜是昂贵的。
大体上,常规技术可使得用户感觉紧张且较不可能使用AR应用程序。本发明中描述的免提技术消除了使用AR应用程序的疲劳和笨拙部分,且可帮助AR应用程序变得在WCD上更普遍存在,同时节省电池寿命。
图3是图解说明根据所揭示技术由执行免提增强现实应用程序的WCD产生的具有覆盖AR内容42、44和46的单个图片40的概念图。通过将各自表示场景的一部分的多个图像帧缝合在一起以便表示单个图片40中的整个场景来形成单个图片40。在将图像帧转换为单个图片40之后,WCD从AR数据库服务器接收单个图片40中表示的场景的AR内容42、44和46,且处理AR内容42、44和46以覆盖单个图片40供向用户显示。以此方式,用户可在WCD上舒适地看着具有覆盖的AR内容42、44和46的单个图片40,以关于单个图片40中表示的场景了解更多,例如虽然未朝向单个图片中俘获的场景定向。
在图3的实例中,单个图片40表示包含公园和建筑物的整个邻域的全景图片。单个图片40可由多个静止图片或场景的视频数据的多个视频帧形成。作为实例,WCD的用户可通过从给定位置旋转180或360度而拍摄多个静止图片或记录场景的几秒的视频数据。在此情况下,单个图片40可为通过将俘获的静止图片或视频帧缝合在一起而产生的单个全景图像。
单个图片40可为具有例如6000x1280像素的大小的非常大的图像。单个图片40因此可具有与WCD的相机普通获得的个别静止图片或视频帧的格式相比较大且在一些情况下实质上更大的格式。在一些实例中,单个图片40可相对于个别静止图片或视频帧在例如宽度方向等单个尺寸上较大,但在例如高度尺寸等另一尺寸上维持相同大小,或反之亦然。举例来说,大的全景图像可具有与个别图片或视频帧相比大得多的宽度但相同的高度。在其它实例中,单个图片40可在宽度和高度两者上较大。在一些实例中,单个图片40可在至少一个尺寸上实质上大于个别图片或视频帧,例如1.5倍大、2倍大、3倍大、4倍大或甚至更大。
与单个图片40中表示的场景相关联的AR内容42、44和46是从AR数据库服务器获取。如图3中图解说明,AR内容42、44和46包含用以描述单个图片40中表示的场景的文本和/或图形以及对应于单个图片40的文本和/或图形的位置信息。举例来说,AR内容42可包含指示单个图片40中包含的建筑物中的一者中的商业处的销售的文本。在此情况下,从AR数据库服务器接收的AR内容42还包含单个图片40中将放置文本的商业的位置信息,例如(x,y)像素位置。
作为另一实例,AR内容44还包含关于位于单个图片40中包含的公园中的销售或降价和商业的信息。又,AR内容44包含对应于单个图片40的位置信息以便将AR内容44的文本放置于单个图片40中表示的商业附近。另外,AR内容46包含地标信息,例如单个图片40中包含的公园中的博物馆是开放还是关闭。AR内容46还包含单个图片40中表示的博物馆的位置信息。在一些情况下,AR内容46可提供博物馆的较具体营业时间或提供到博物馆的网站的链接。AR内容42、44和46提供可覆盖在单个图片40上的AR内容的仅几个实例。在其它情况下,可接收且处理许多其它类型和量的AR内容用于在单个图片40上显示。
本发明中描述的免提AR技术与使用常规AR技术在实时视频中俘获的场景将可能的情况相比允许对单个图片40中表示的场景的稳健得多的查看。根据本发明的技术,用户能够关于场景的静态单个图片40坐下历时与用户的希望一样长的时间。因此用户可能更愿意等待较长时间来获取和处理与单个图片40相关联的所有AR内容供显示。对较长等待时间的折中可为包含例如到网站和视频的链接的AR内容的较大量且较高水平的细节。
用户可能够在场景的单个图片40上和内导览。举例来说,所述技术使得用户能够在查看单个图片40时执行图像操作,例如平移、倾斜、滚动和缩放操作,以产生单个图片40中表示的场景的新视图。在执行图像操作之后,WCD可更新AR内容以通过从单个图片40添加或移除AR内容中的一种操作来覆盖单个图片中的新视图。这可包含添加AR内容以覆盖单个图片40的在缩放、平移或滚动操作之前不可见的一部分,和/或移除单个图片40的在缩放、平移或滚动操作之后不再可见的一部分的AR内容。在一些情况下,更新AR内容可包含从AR数据库服务器请求单个图片40中表示的场景的额外AR内容。在其它情况下,更新AR内容可包含呈现针对单个图片40中表示的场景从AR数据库服务器先前接收但在单个图片40的所显示部分中不可见的额外AR内容。
在一些情况下,WCD可接收用以产生单个图片40的多个图像帧中的每一者的位置信息(例如GPS读数)和视角信息(例如罗盘读数)。以此方式,当WCD的用户移动到单个图片40中表示的场景的特定部分时,可基于针对表示场景的所述特定部分的图像帧接收的位置和/或视角信息而从AR数据库服务器请求额外AR内容。更具体来说,场景的部分的AR内容将包含基于场景的部分中的由AR数据库服务器辨识出的可见对象的信息以及基于当俘获表示场景的所述部分的图像帧时视觉对象相对于用户站立处的位置的信息。
所述技术还可允许用户指示AR内容设定,其包含将从AR数据库服务器接收的AR内容的一或多个类型、将从AR数据库服务器接收的AR内容的量,以及将从AR数据库服务器接收AR内容的时间。WCD随后可根据AR内容设定从AR数据库服务器接收单个图片40中表示的场景的AR内容。当AR内容设定改变时,WCD可更新AR内容以通过从单个图片40添加或移除AR内容中的一种操作来覆盖单个图片40。
举例来说,针对场景选择的AR内容的类型可包含以下各项中的一或多者:餐厅信息,例如名称、营业时间和菜单;参观者信息,包含住宿和兴趣点识别;零售信息;事件信息,包含音乐会和体育比赛;人辨识;紧急服务信息,例如警察局、消防站和医院的位置;公共运输信息,例如公交车和火车时间表、方向等等。
用户将偏向于覆盖单个图片40看见的AR内容的量可基于数据的存储大小(例如,千字节(kB)或兆字节(MB))、可用数据的百分比、显示器的屏幕大小的百分比或某个其它测量值来指定。此外,用户将偏向于从AR数据库服务器接收场景的AR内容的时间量可基于用户愿意等待接收AR内容以覆盖单个图片40的秒或分钟数来指定。在一些情况下,在指示的时间量下,用户可接收过程更新且选择继续等待所指示AR内容或停止接收和处理AR内容。
在一些情况下,单个图片40中表示的场景的AR内容可渐进地接收。较容易获取的一些类型的AR内容可经处理以在单个图片40上立即显示。在获取额外AR内容且发送回到WCD时,处理额外AR内容且在单个图片40上显示。以此方式,用户可立即开始接收一些AR内容以当正在渐进地获取、处理和显示剩余AR内容时开始了解单个图片40中表示的场景。用户可在用户具有关于场景的足够信息时在任何时间停止渐进AR内容。
以上描述的技术使得能够控制针对从大量AR内容类型、量和处理时间选择的场景接收的AR内容。在使用实时视频向用户呈现有限量的AR内容的常规AR应用程序中AR内容的这种控制和多样性是不可能的。然而,所述技术还允许将用以产生单个图片40的图像帧中的至少一些实时地流式传输到AR数据库服务器,以便接收至少一些AR内容。在此情况下,WCD可立即接收一些AR内容以覆盖用以产生单个图片40的一部分的几秒的实时视频数据,且还接收在静态单个图片40中表示的整个场景的随着时间更稳健的AR内容。
图4是图解说明以WCD执行免提增强现实应用程序以在表示场景的单个图片上覆盖AR内容的示范性技术的流程图。此处将相对于图1的WCD 10描述免提AR技术。
当执行AR应用程序14时,WCD 10接收各自表示场景的一部分的多个图像帧(50)。图像帧可为多个静止图片或场景的视频数据的多个视频帧。图像帧可由WCD 10中包含的相机20俘获或从WCD 10外部的存储装置接收。应用程序处理器12随后将所述多个图像帧转换为表示场景的单个图片(52)。单个图片包含经缝合在一起以表示场景的多个图像帧。在一些实例中,应用程序处理器12可通过将图像帧缝合在一起形成单个图片来将所述多个图像帧转换为单个图片。在其它实例中,应用程序处理器12可通过经由TX/RX 26将图像帧发送到远程服务器来将所述多个图像帧转换为单个图片。应用程序处理器12可随后请求远程服务器将所述图像帧缝合在一起以形成单个图片,且从远程服务器接收回单个图片。在任一情况下,可以多种常规方式中的任一者将图像帧缝合在一起,例如常规上用以缝合全景场景的那些方式。
在将图像帧转换为单个图片之后,应用程序处理器12从AR数据库服务器请求在单个图片中表示的场景的AR内容(54)。应用程序处理器12可通过将单个图片发送到AR数据库服务器或通过将多个图像帧中的一或多者发送到AR数据库服务器来请求场景的AR内容。在任一情况下,WCD 10从AR数据库服务器接收单个图片中表示的场景的AR内容(56)。AR内容可包含表示关于场景的信息的文本和/或图形以及对应于单个图片的文本和/或图形的位置信息。举例来说,AR内容可包含描述单个图片中俘获的地点处的事件的文本,以及单个图片中将放置文本的地点的位置信息,例如(x,y)像素位置。
通常,AR数据库服务器是WCD 10远程的服务器,使得应用程序处理器12经由TX/RX26将单个图片发送到AR数据库服务器。在其它实例中,AR数据库可存储在WCD 10中。在一些情况下,应用程序处理器12将与单个图片的产生相关联的位置和/或视角信息连同对场景的AR内容的请求一起发送到AR数据库服务器。WCD 10随后至少部分地基于在俘获对象时对象相对于用户的位置而接收在单个图片中表示的场景中的对象的AR内容。应用程序处理器12可从例如罗盘传感器、GPS传感器或类似物等一或多个传感器22接收场景的位置和/或视角信息。在其它情况下,应用程序处理器12可将与单个图片的产生相关联的时间和日期信息连同对场景的AR内容的请求一起发送到AR数据库服务器。WCD 10随后从AR数据库服务器接收单个图片中表示的场景的AR内容,其指示单个图片中表示的场景与场景的先前图片之间的差异。
应用程序处理器12随后处理AR内容以覆盖单个图片(58)。在一些实例中,显示器处理器16可执行AR内容的处理或再现中的至少一些。显示器处理器16随后在显示器18上向用户显示具有覆盖的AR内容的单个图片(60)。以此方式,用户可在WCD的显示器上舒适地看着具有覆盖的AR内容的单个图片,以在任何时间且在任何位置关于单个图片中表示的场景了解更多。
图5是图解说明基于对WCD的用户输入根据AR内容设定执行免提增强现实应用程序的示范性技术的流程图。此处将相对于图1的WCD 10描述免提AR技术。
当执行AR应用程序14时,WCD 10接收各自表示场景的一部分的多个图像帧(66)。如上所述,图像帧可为多个静止图片或场景的视频数据的多个视频帧。应用程序处理器12随后将所述多个图像帧转换为表示场景的单个图片(68)。单个图片包含经缝合在一起以表示场景的多个图像帧。
应用程序处理器12随后基于用户输入确定AR内容设定。更具体来说,应用程序处理器12确定针对场景将从AR数据库服务器接收的AR内容的一或多个类型(70)。举例来说,应用程序处理器12可接收指示以下各项中的一或多者的用户输入:餐厅信息,例如名称、营业时间和菜单;参观者信息,包含住宿和兴趣点识别;零售信息;事件信息,包含音乐会和体育比赛;人辨识;紧急服务信息,例如警察局、消防站和医院的位置;公共运输信息,例如公交车和火车时间表、方向等等。
应用程序处理器12还确定针对场景将从AR数据库服务器接收的AR内容的量(72)。举例来说,应用程序处理器12可接收指示用户在显示器18上将偏向于覆盖单个图片看见的信息量的用户输入。AR内容的量可基于数据的存储大小(例如,千字节(kB)或兆字节(MB))、可用数据的百分比、显示器18的屏幕大小的百分比或某个其它测量值来指定。
另外,应用程序处理器12确定将从AR数据库服务器接收来自场景的AR内容的时间(74)。举例来说,应用程序处理器可接收指示用户愿意等待接收AR内容以覆盖单个图片的秒或分钟数的用户输入。在此情况下,应用程序处理器12可为用户提供指定接收针对场景请求的所有AR内容所剩余的秒或分钟数的更新。应用程序处理器12还可为用户提供何时在指定时间量中无法接收所请求数据的类型或量的通知。在此情况下,用户可选择继续等待,即延长时间设定,或选择在指定时间停止接收AR内容,无论是否已接收到所有所请求AR数据。
应用程序处理器12随后通过将单个图片和AR内容设定发送到AR数据库服务器来请求场景的AR内容(76)。WCD 10根据AR内容设定从AR数据库服务器接收单个图片中表示的场景的AR内容(78)。应用程序处理器12处理AR内容以覆盖单个图片(80)。如上所述,显示器处理器16可执行AR内容的处理或再现中的至少一些。显示器处理器16随后在显示器18上向用户显示具有覆盖的AR内容的单个图片(82)。
在显示具有覆盖的AR内容的单个图片之后,用户可修改AR内容设定(84)。举例来说,用户可决定从单个图片添加或移除一类AR内容,或者增加或减少在单个图片上将包含的AR内容量。当AR内容设定尚未改变(84的否分支)时,显示器处理器16继续在显示器18上向用户显示具有原始覆盖的AR内容的单个图片(82)。当应用程序处理器12确定AR内容设定已改变(84的是分支)时,应用程序处理器12和/或显示器处理器16根据经修改AR内容设定来更新AR内容以覆盖单个图片(86)。更新AR内容可包含从单个图片添加和/或移除某些类型的AR内容。在一些情况下,应用程序处理器12可从AR数据库服务器请求场景的额外AR内容。在更新AR内容之后,显示器处理器16在显示器18上向用户显示具有经修改覆盖的AR内容的单个图片(82)。
除了在显示具有覆盖的AR内容的单个图片之后修改AR内容设定之外,用户可请求应用程序处理器12对单个图片执行平移、倾斜、滚动和缩放过程中的一或多者以产生单个图片中表示的场景的新视图。在执行图像效果之后,应用程序处理器12可更新AR内容以通过从单个图片添加或移除AR内容中的一种操作来覆盖单个图片中的新视图。举例来说,在图像效果是放大效果的情况下,应用程序处理器12可从AR数据库服务器请求单个图片中表示的场景的新视图的额外AR内容。以此方式,用户可查看关于整个场景的一般信息,例如整个邻域,但随后通过放大单个图片中特定区域(例如,单个街区或单个商业)的表示来查看关于场景的所述区域的更详细信息。
在一个或一个以上实例中,所描述的功能可以硬件、软件、固件或其任一组合来实施。如果以软件实施,那么功能可作为一个或一个以上指令或代码存储在计算机可读媒体上或经由计算机可读媒体传输。计算机可读媒体可包含计算机数据存储媒体或包含促进计算机程序从一处传送到另一处的任何媒体的通信媒体。在一些实例中,计算机可读媒体可包括非暂时性计算机可读媒体。数据存储媒体可为可由一个或一个以上计算机或者一个或一个以上处理器存取以获取用于实施本发明中描述的技术的指令、代码和/或数据结构的任何可用媒体。
举例来说且并非限制,此类计算机可读媒体可包括非暂时性媒体,例如RAM、ROM、EEPROM、CD-ROM或其它光盘存储装置、磁盘存储装置或其它磁性存储装置、快闪存储器或可用来以指令或数据结构的形式载运或存储所要程序代码且可由计算机存取的任何其它媒体。而且,恰当地将任何连接称作计算机可读媒体。举例来说,如果使用同轴电缆、光纤电缆、双绞线、数字订户线(DSL)或例如红外线、无线电和微波等无线技术从网站、服务器或其它远程源传输软件,那么同轴电缆、光纤电缆、双绞线、DSL或例如红外线、无线电和微波等无线技术包含在媒体的定义中。如本文中所使用,磁盘及光盘包含压缩光盘(CD)、激光光盘、光学光盘、数字多功能光盘(DVD)、软磁盘及蓝光光盘,其中磁盘通常以磁性方式再生数据,而光盘使用激光以光学方式再生数据。上文的组合也应包含在计算机可读媒体的范围内。
可由例如一个或一个以上数字信号处理器(DSP)、通用微处理器、专用集成电路(ASIC)、现场可编程逻辑阵列(FPGA)或其它等效集成或离散逻辑电路等一个或一个以上处理器来执行代码。因此,如本文中所使用的术语“处理器”可指上述结构或适合于实施本文中所描述的技术的任一其它结构中的任一者。另外,在一些方面中,本文描述的功能性可提供于经配置以用于编码和解码的专用硬件和/或软件模块内,或并入在组合式编解码器中。并且,可将所述技术完全实施于一个或多个电路或逻辑元件中。
本发明的技术可在广泛多种装置或设备中实施,包含无线手持机、集成电路(IC)或一组IC(例如,芯片组)。本发明中描述各种组件、模块或单元以强调经配置以执行所揭示技术的装置的功能方面,但不一定需要通过不同硬件单元来实现。而是,如上所述,各种单元可在编解码器硬件单元中组合或由互操作硬件单元(包含如上所述的一个或多个处理器)的集合结合合适软件和/或固件来提供。
已描述了本发明的各种实施例。这些和其它实施例属于所附权利要求书的范围内。

Claims (34)

1.一种以无线通信装置WCD执行增强现实应用程序的方法,其包括:
以所述WCD的处理器接收各自表示场景的一部分的多个图像帧;
将所述多个图像帧转换为单个图片,其中所述单个图片包括经缝合在一起以表示所述场景的所述多个图像帧的至少若干部分;
向所述WCD的用户呈现所述单个图片;
基于用户输入确定所述单个图片中表示的所述场景的增强现实AR内容设定,其中所述AR内容设定包含从AR数据库服务器接收的AR内容的一个或多个类型、将从所述AR数据库服务器接收的AR内容的量,以及将从所述AR数据库服务器接收所述AR内容的时间;
将所述场景的所述AR内容设定发送到所述AR数据库服务器;
从所述AR数据库服务器请求所述单个图片中表示的所述场景的AR内容;
根据所述AR内容设定从所述AR数据库服务器渐进地接收所述单个图片中表示的所述场景的所述AR内容,以允许所述用户立即开始接收所述AR内容中的一部分以当正在渐进地接收所述AR内容中的剩余部分时开始了解所述场景;
处理所述AR内容以覆盖呈现给所述WCD的所述用户的所述单个图片,其中处理所述AR内容以覆盖所述单个图片包括在从所述AR数据库服务器接收所述AR内容时将所述AR内容渐进地添加到所述单个图片;
对所述单个图片执行缩放处理以产生在所述单个图片中表示的所述场景的新视图;以及
更新所述AR内容以覆盖所述单个图片中的所述新视图,其中更新所述AR内容包括添加或移除所述单个图片的AR内容中的一种操作。
2.根据权利要求1所述的方法,其中所述多个图像帧包括所述场景的多个静止图片或视频数据的多个视频帧中的一者。
3.根据权利要求1所述的方法,其中接收所述多个图像帧包括以下各项中的一或多者:接收以所述WCD中包含的相机俘获的图像帧,或从所述WCD外部的存储装置接收图像帧。
4.根据权利要求1所述的方法,其中请求所述AR内容包括将所述单个图片或所述图像帧的所述部分中的一者发送到所述AR数据库服务器。
5.根据权利要求1所述的方法,其中将所述多个图像帧转换为单个图片包括以所述WCD的所述处理器将所述图像帧的所述部分缝合在一起以形成所述单个图片。
6.根据权利要求1所述的方法,其中将所述图像数据转换为单个图片包括:
将所述多个图像帧发送到远程服务器;
指示所述远程服务器将所述图像帧的所述部分缝合在一起以形成所述单个图片;以及
从所述远程服务器接收所述单个图片。
7.根据权利要求1所述的方法,其中所述AR数据库服务器包括远程服务器。
8.根据权利要求1所述的方法,其中确定所述AR内容设定包括接收指示针对所述场景将从所述AR数据库服务器接收的AR内容的一或多个类型的用户输入。
9.根据权利要求1所述的方法,其中确定所述AR内容设定包括接收指示针对所述场景将从所述AR数据库服务器接收的AR内容的量的用户输入。
10.根据权利要求1所述的方法,其中确定所述AR内容设定包括接收指示针对所述场景将从所述AR数据库服务器接收所述AR内容的时间的量的用户输入。
11.根据权利要求1所述的方法,其进一步包括:
接收指示对所述场景的所述AR内容设定的修改的用户输入;以及
根据对所述AR内容设定的所述修改来更新所述AR内容以覆盖所述单个图片,其中更新所述AR内容包括从所述单个图片添加或移除AR内容中的一种操作。
12.根据权利要求1所述的方法,其进一步包括从所述AR数据库服务器请求所述单个图片中表示的所述场景的额外AR内容,且除了现有AR内容之外还处理所述额外AR内容以覆盖所述单个图片供在所述WCD上显示。
13.根据权利要求1所述的方法,其进一步包括:
从一或多个传感器接收所述多个图像帧中表示所述场景的一部分的每一者的位置信息或视角信息中的一或多者;以及
将所述场景的至少一个部分的所述位置信息或所述视角信息中的所述一或多者发送到所述AR数据库服务器,
其中渐进地接收AR内容包括至少部分地基于所述场景的所述部分的所述位置信息或所述视角信息中的所述一或多者从所述AR数据库服务器渐进地接收所述单个图片中表示的所述场景的所述部分的所述AR内容。
14.根据权利要求1所述的方法,其中所述AR内容包括表示所述单个图片中表示的所述场景的所述AR内容的文本或图形中的一或多者,以及对应于所述单个图片的所述文本或所述图形中的所述一或多者的位置信息。
15.根据权利要求1所述的方法,其中所述AR内容包括指示所述单个图片中表示的所述场景与所述场景的先前图片之间的差异的文本或图形中的一或多者。
16.一种用于执行增强现实应用程序的无线通信装置WCD,所述WCD包括:
存储器,其经配置以存储图像数据;以及
处理器,其经配置以:
接收各自表示场景的一部分的多个图像帧;
将所述多个图像帧转换为单个图片,其中所述单个图片包括经缝合在一起以表示所述场景的所述多个图像帧的至少若干部分;
向WCD的用户呈现所述单个图片;
基于用户输入确定所述单个图片中表示的所述场景的增强现实AR内容设定,其中所述AR内容设定包含从AR数据库服务器接收的AR内容的一个或多个类型、将从所述AR数据库服务器接收的AR内容的量,以及将从所述AR数据库服务器接收所述AR内容的时间;
将所述场景的所述AR内容设定发送到所述AR数据库服务器;
从所述AR数据库服务器请求所述单个图片中表示的所述场景的AR内容;
根据所述AR内容设定从所述AR数据库服务器渐进地接收所述单个图片中表示的所述场景的所述AR内容,以允许所述用户立即开始接收所述AR内容中的一部分以当正在渐进地接收所述AR内容中的剩余部分时开始了解所述场景;
处理所述AR内容以覆盖呈现给所述WCD的所述用户的所述单个图片,其中所述处理器经配置以在从所述AR数据库服务器接收所述AR内容时将所述AR内容渐进地添加到所述单个图片;
对所述单个图片执行缩放处理以产生在所述单个图片中表示的所述场景的新视图;以及
更新所述AR内容以覆盖所述单个图片中的所述新视图,其中更新所述AR内容包括添加或移除所述单个图片的AR内容中的一种操作。
17.根据权利要求16所述的WCD,其中所述多个图像帧包括所述场景的多个静止图片或视频数据的多个视频帧中的一者。
18.根据权利要求16所述的WCD,其进一步包括所述WCD中包含的用以俘获图像帧的相机,其中所述处理器从所述WCD中包含的所述相机或所述WCD外部的存储装置中的一或多者接收所述多个图像帧。
19.根据权利要求16所述的WCD,其进一步包括发射器,其中所述处理器经由所述发射器将所述单个图片或所述图像帧的所述部分中的一者发送到所述AR数据库服务器以请求所述场景的所述AR内容。
20.根据权利要求16所述的WCD,其中所述处理器将所述图像帧的所述部分缝合在一起以形成所述单个图片。
21.根据权利要求16所述的WCD,其进一步包括发射器和接收器,其中所述处理器经由所述发射器将所述多个图像帧发送到远程服务器,指示所述远程服务器将所述图像帧的所述部分缝合在一起以形成所述单个图片,以及经由所述接收器从所述远程服务器接收所述单个图片。
22.根据权利要求16所述的WCD,其中所述AR数据库服务器包括远程服务器。
23.根据权利要求16所述的WCD,其中所述处理器接收指示针对所述场景将从所述AR数据库服务器接收的AR内容的一或多个类型的用户输入。
24.根据权利要求16所述的WCD,其中所述处理器接收指示针对所述场景将从所述AR数据库服务器接收的AR内容的量的用户输入。
25.根据权利要求16所述的WCD,其中所述处理器接收指示针对所述场景将从所述AR数据库服务器接收所述AR内容的时间的量的用户输入。
26.根据权利要求16所述的WCD,其中所述处理器接收指示对所述场景的所述AR内容设定的修改的用户输入,且根据对所述AR内容设定的所述修改来更新所述AR内容以覆盖所述单个图片,其中更新所述AR内容包括从所述单个图片添加或移除AR内容中的一种操作。
27.根据权利要求16所述的WCD,其中所述处理器从所述AR数据库服务器请求所述单个图片中表示的所述场景的额外AR内容,且除了现有AR内容之外还处理所述额外AR内容以覆盖所述单个图片供在所述WCD上显示。
28.根据权利要求16所述的WCD,其中所述处理器从一或多个传感器接收所述多个图像帧中表示所述场景的一部分的每一者的位置信息或视角信息中的一或多者,将所述场景的至少一个部分的所述位置信息或所述视角信息中的所述一或多者发送到所述AR数据库服务器,且至少部分地基于所述场景的所述部分的所述位置信息或所述视角信息中的所述一或多者从所述AR数据库服务器渐进地接收所述单个图片中表示的所述场景的所述部分的所述AR内容。
29.根据权利要求16所述的WCD,其中所述AR内容包括表示所述单个图片中表示的所述场景的所述AR内容的文本或图形中的一或多者,以及对应于所述单个图片的所述文本或所述图形中的所述一或多者的位置信息。
30.根据权利要求16所述的WCD,其中所述AR内容包括指示所述单个图片中表示的所述场景与所述场景的先前图片之间的差异的文本或图形中的一或多者。
31.一种用于执行增强现实应用程序的无线通信装置WCD,其包括:
用于接收各自表示场景的一部分的多个图像帧的单元;
用于将所述多个图像帧转换为单个图片的单元,其中所述单个图片包括经缝合在一起以表示所述场景的所述多个图像帧的至少若干部分;
用于向所述WCD的用户呈现所述单个图片的单元;
用于基于用户输入确定所述单个图片中表示的所述场景的增强现实AR内容设定的单元,其中所述AR内容设定包含从AR数据库服务器接收的AR内容的一个或多个类型、将从所述AR数据库服务器接收的AR内容的量,以及将从所述AR数据库服务器接收所述AR内容的时间;
用于将所述场景的所述AR内容设定发送到所述AR数据库服务器的单元;
用于从所述AR数据库服务器请求所述单个图片中表示的所述场景的AR内容的单元;
用于根据所述AR内容设定从所述AR数据库服务器渐进地接收所述单个图片中表示的所述场景的所述AR内容,以允许所述用户立即开始接收所述AR内容中的一部分以当正在渐进地接收所述AR内容中的剩余部分时开始了解所述场景的单元;
用于处理所述AR内容以覆盖呈现给所述WCD的所述用户的所述单个图片的单元,其中所述用于处理所述AR内容以覆盖所述单个图片的单元包括用于在从所述AR数据库服务器接收所述AR内容时将所述AR内容渐进地添加到所述单个图片的单元;
用于对所述单个图片执行缩放处理以产生在所述单个图片中表示的所述场景的新视图的单元;以及
用于更新所述AR内容以覆盖所述单个图片中的所述新视图的单元,其中更新所述AR内容包括添加或移除所述单个图片的AR内容中的一种操作。
32.根据权利要求31所述的WCD,其中所述用于将所述多个图像帧转换为单个图片的单元包括用于将所述图像帧的所述部分缝合在一起以形成所述单个图片的单元。
33.根据权利要求31所述的WCD,其中所述用于将所述图像数据转换为单个图片的单元包括:
用于将所述多个图像帧发送到远程服务器的单元;
用于指示所述远程服务器将所述图像帧的所述部分缝合在一起以形成所述单个图片的单元;以及
用于从所述远程服务器接收所述单个图片的单元。
34.根据权利要求31所述的WCD,其进一步包括:
用于接收指示对所述场景的所述AR内容设定的修改的用户输入的单元;以及
用于根据对所述AR内容设定的所述修改来更新所述AR内容以覆盖所述单个图片的单元,其中更新所述AR内容包括从所述单个图片添加或移除AR内容中的一种操作。
CN201711189758.4A 2011-11-08 2012-10-10 用于无线通信装置的免提增强现实 Expired - Fee Related CN107958490B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201161557265P 2011-11-08 2011-11-08
US61/557,265 2011-11-08
US13/536,543 2012-06-28
US13/536,543 US9171384B2 (en) 2011-11-08 2012-06-28 Hands-free augmented reality for wireless communication devices
CN201280066326.3A CN104054111A (zh) 2011-11-08 2012-10-10 用于无线通信装置的免提增强现实

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN201280066326.3A Division CN104054111A (zh) 2011-11-08 2012-10-10 用于无线通信装置的免提增强现实

Publications (2)

Publication Number Publication Date
CN107958490A CN107958490A (zh) 2018-04-24
CN107958490B true CN107958490B (zh) 2021-07-09

Family

ID=48223405

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201280066326.3A Pending CN104054111A (zh) 2011-11-08 2012-10-10 用于无线通信装置的免提增强现实
CN201711189758.4A Expired - Fee Related CN107958490B (zh) 2011-11-08 2012-10-10 用于无线通信装置的免提增强现实

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN201280066326.3A Pending CN104054111A (zh) 2011-11-08 2012-10-10 用于无线通信装置的免提增强现实

Country Status (7)

Country Link
US (1) US9171384B2 (zh)
EP (1) EP2777021B1 (zh)
JP (1) JP5869140B2 (zh)
KR (1) KR101617111B1 (zh)
CN (2) CN104054111A (zh)
IN (1) IN2014CN03487A (zh)
WO (1) WO2013070375A1 (zh)

Families Citing this family (68)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011112940A1 (en) * 2010-03-12 2011-09-15 Tagwhat, Inc. Merging of grouped markers in an augmented reality-enabled distribution network
CA2883484A1 (en) 2011-09-08 2013-03-14 Paofit Holdings Pte Ltd System and method for visualizing synthetic objects withinreal-world video clip
JP5751430B2 (ja) * 2012-12-19 2015-07-22 コニカミノルタ株式会社 画像処理端末、画像処理システム、および画像処理端末の制御プログラム
US9547917B2 (en) * 2013-03-14 2017-01-17 Paypay, Inc. Using augmented reality to determine information
CN105074789B (zh) 2013-04-09 2019-03-12 热成像雷达有限责任公司 火灾检测系统
CN105122633B (zh) 2013-04-09 2019-04-05 热成像雷达有限责任公司 步进电机控制系统及方法
US9408243B2 (en) 2013-05-13 2016-08-02 Empire Technology Development Llc Line of sight initiated handshake
US9454848B2 (en) * 2013-05-20 2016-09-27 Nokia Technologies Oy Image enhancement using a multi-dimensional model
CN108495051B (zh) 2013-08-09 2021-07-06 热成像雷达有限责任公司 采用多个虚拟设备分析热像数据的方法和将深度值与图像像素进行关联的方法
KR102206060B1 (ko) * 2013-11-19 2021-01-21 삼성전자주식회사 전자 장치의 효과 디스플레이 방법 및 그 전자 장치
WO2015076719A1 (en) * 2013-11-25 2015-05-28 13Th Lab Ab A control device for controlling a camera arrangement and a method therefore
KR101598921B1 (ko) * 2014-02-18 2016-03-02 홍익대학교 산학협력단 공간 축척을 초월한 영상 촬영 시스템 및 방법
EP3132379B1 (en) 2014-04-15 2018-11-07 Huntington Ingalls Incorporated System and method for augmented reality display of dynamic environment information
US9864909B2 (en) 2014-04-25 2018-01-09 Huntington Ingalls Incorporated System and method for using augmented reality display in surface treatment procedures
WO2015164755A1 (en) 2014-04-25 2015-10-29 Huntington Ingalls Incorporated Augmented reality display of dynamic target object information
US10504294B2 (en) 2014-06-09 2019-12-10 Huntington Ingalls Incorporated System and method for augmented reality discrepancy determination and reporting
US10915754B2 (en) 2014-06-09 2021-02-09 Huntington Ingalls Incorporated System and method for use of augmented reality in outfitting a dynamic structural space
WO2015191346A1 (en) 2014-06-09 2015-12-17 Huntington Ingalls Incorporated System and method for augmented reality display of electrical system information
WO2016011149A1 (en) 2014-07-16 2016-01-21 Huntington Ingalls Incorporated System and method for augmented reality display of hoisting and rigging information
WO2016025585A1 (en) * 2014-08-13 2016-02-18 Huntington Ingalls Incorporated System and method for using augmented reality display in surface treatment procedures
US10291597B2 (en) 2014-08-14 2019-05-14 Cisco Technology, Inc. Sharing resources across multiple devices in online meetings
KR102276847B1 (ko) * 2014-09-23 2021-07-14 삼성전자주식회사 가상 오브젝트 제공 방법 및 그 전자 장치
KR102278882B1 (ko) * 2014-10-07 2021-07-20 십일번가 주식회사 동적 화면 전환을 기반으로 한 상품 판매 서비스 장치, 동적 화면 전환을 기반으로 한 상품 판매 시스템, 동적 화면 전환을 기반으로 한 상품을 판매하는 방법 및 컴퓨터 프로그램이 기록된 기록매체
US9659410B2 (en) 2014-10-21 2017-05-23 Honeywell International Inc. Low latency augmented reality display
CN104376118B (zh) * 2014-12-03 2018-02-16 北京理工大学 基于全景图的精确标注兴趣点的户外移动增强现实方法
US10542126B2 (en) 2014-12-22 2020-01-21 Cisco Technology, Inc. Offline virtual participation in an online conference meeting
US20160196693A1 (en) * 2015-01-06 2016-07-07 Seiko Epson Corporation Display system, control method for display device, and computer program
US10366509B2 (en) 2015-03-31 2019-07-30 Thermal Imaging Radar, LLC Setting different background model sensitivities by user defined regions and background filters
USD776181S1 (en) 2015-04-06 2017-01-10 Thermal Imaging Radar, LLC Camera
US9948786B2 (en) 2015-04-17 2018-04-17 Cisco Technology, Inc. Handling conferences using highly-distributed agents
WO2016187483A1 (en) * 2015-05-20 2016-11-24 Brian Mullins Light-based radar system for augmented reality
KR101613287B1 (ko) * 2015-06-15 2016-04-19 김영덕 3d 파노라마 영상을 근거로 한 여행지 원스톱 쇼핑 시스템 및 그의 제어 방법
US9704298B2 (en) * 2015-06-23 2017-07-11 Paofit Holdings Pte Ltd. Systems and methods for generating 360 degree mixed reality environments
KR102517104B1 (ko) * 2016-02-17 2023-04-04 삼성전자주식회사 가상 현실 시스템에서 이미지 처리 방법 및 장치
JP2018005091A (ja) * 2016-07-06 2018-01-11 富士通株式会社 表示制御プログラム、表示制御方法および表示制御装置
CN106250187A (zh) * 2016-07-29 2016-12-21 宇龙计算机通信科技(深圳)有限公司 一种增强现实ar的信息处理方法、装置及系统
US10592867B2 (en) 2016-11-11 2020-03-17 Cisco Technology, Inc. In-meeting graphical user interface display using calendar information and system
US20180150931A1 (en) * 2016-11-29 2018-05-31 Caterpillar Inc. Screen zoom feature for augmented reality applications
US9961302B1 (en) * 2016-12-13 2018-05-01 Cisco Technology, Inc. Video conference annotation
US10516707B2 (en) 2016-12-15 2019-12-24 Cisco Technology, Inc. Initiating a conferencing meeting using a conference room device
US10878474B1 (en) * 2016-12-30 2020-12-29 Wells Fargo Bank, N.A. Augmented reality real-time product overlays using user interests
US10440073B2 (en) 2017-04-11 2019-10-08 Cisco Technology, Inc. User interface for proximity based teleconference transfer
EP3388929A1 (en) * 2017-04-14 2018-10-17 Facebook, Inc. Discovering augmented reality elements in a camera viewfinder display
US10375125B2 (en) 2017-04-27 2019-08-06 Cisco Technology, Inc. Automatically joining devices to a video conference
US10375474B2 (en) 2017-06-12 2019-08-06 Cisco Technology, Inc. Hybrid horn microphone
US10477148B2 (en) 2017-06-23 2019-11-12 Cisco Technology, Inc. Speaker anticipation
US10516709B2 (en) 2017-06-29 2019-12-24 Cisco Technology, Inc. Files automatically shared at conference initiation
US10706391B2 (en) 2017-07-13 2020-07-07 Cisco Technology, Inc. Protecting scheduled meeting in physical room
US10091348B1 (en) 2017-07-25 2018-10-02 Cisco Technology, Inc. Predictive model for voice/video over IP calls
US10574886B2 (en) 2017-11-02 2020-02-25 Thermal Imaging Radar, LLC Generating panoramic video for video management systems
WO2019226001A1 (en) 2018-05-23 2019-11-28 Samsung Electronics Co., Ltd. Method and apparatus for managing content in augmented reality system
EP3803224B1 (en) * 2018-05-29 2024-04-10 Belimo Holding AG A method of generating for a user augmented reality information related to an hvac component
CN108877311A (zh) * 2018-06-25 2018-11-23 南阳理工学院 一种基于增强现实技术的英语学习系统
CN109063039A (zh) * 2018-07-17 2018-12-21 高新兴科技集团股份有限公司 一种基于移动端的视频地图动态标签显示方法及系统
CN109191369B (zh) 2018-08-06 2023-05-05 三星电子(中国)研发中心 2d图片集转3d模型的方法、存储介质和装置
US11394848B2 (en) 2018-12-24 2022-07-19 Thinkware Corporation Electronic device and operation method thereof, and server and operation method thereof in system for providing location-based service based on object detected from video
CN109814709A (zh) * 2018-12-27 2019-05-28 北京航天智造科技发展有限公司 基于ar系统的操作指导方法及装置
US10970578B2 (en) * 2019-02-07 2021-04-06 Johnson Controls Fire Protection LP System and method for extracting information from a non-planar surface
US11011055B2 (en) * 2019-03-21 2021-05-18 Verizon Patent And Licensing Inc. Collecting movement analytics using augmented reality
US10887531B2 (en) 2019-03-27 2021-01-05 Rovi Guides, Inc. Replacing a background portion of an image
US10944921B2 (en) 2019-03-27 2021-03-09 Rovi Guides, Inc. Replacing a background portion of an image
US11025837B2 (en) 2019-03-27 2021-06-01 ROVl GUIDES, INC. Replacing a background portion of an image
KR102637416B1 (ko) * 2019-10-30 2024-02-16 엘지전자 주식회사 Xr 디바이스 및 그 제어 방법
US11601605B2 (en) 2019-11-22 2023-03-07 Thermal Imaging Radar, LLC Thermal imaging camera device
KR20220039110A (ko) 2020-09-21 2022-03-29 삼성전자주식회사 증강 현실 시스템 및 그 생성 방법
KR102442359B1 (ko) * 2021-03-10 2022-09-13 한국도로공사 증강현실기반 교량 유지관리방법
EP4113987B1 (en) 2021-06-29 2023-11-08 Axis AB System, camera device, method, and computer program for displaying collected sensor data together with images
CN113938653A (zh) * 2021-10-12 2022-01-14 钱保军 一种基于ar梯次级联的多视频监控显示方法

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6552744B2 (en) * 1997-09-26 2003-04-22 Roxio, Inc. Virtual reality camera
US6433835B1 (en) 1998-04-17 2002-08-13 Encamera Sciences Corporation Expanded information capacity for existing communication transmission systems
JP3548459B2 (ja) * 1998-11-20 2004-07-28 富士通株式会社 案内情報提示装置,案内情報提示処理方法,案内情報提示プログラムを記録した記録媒体,案内用スクリプト生成装置,案内情報提供装置,案内情報提供方法および案内情報提供プログラム記録媒体
US6792615B1 (en) * 1999-05-19 2004-09-14 New Horizons Telecasting, Inc. Encapsulated, streaming media automation and distribution system
US6452597B1 (en) * 1999-08-24 2002-09-17 Microsoft Corporation Displaying text on a limited-area display surface
JP3824298B2 (ja) 2001-07-26 2006-09-20 インターナショナル・ビジネス・マシーンズ・コーポレーション サーバ、ウェブコンテンツ編集装置、コンピュータを用いてこれらを実現するプログラム、及びそのウェブコンテンツ編集方法並びに提供方法
US7080325B2 (en) * 2002-02-22 2006-07-18 Call-Tell Llc Graphical device for comprehensive viewing and input of variable data via a browser-based display
US7224847B2 (en) * 2003-02-24 2007-05-29 Microsoft Corp. System and method for real-time whiteboard streaming
US20040228401A1 (en) * 2003-05-12 2004-11-18 Chen Sherman (Xuemin) Method and system for protecting image data in frame buffers of video compression systems
US7495694B2 (en) * 2004-07-28 2009-02-24 Microsoft Corp. Omni-directional camera with calibration and up look angle improvements
US8005831B2 (en) 2005-08-23 2011-08-23 Ricoh Co., Ltd. System and methods for creation and use of a mixed media environment with geographic location information
WO2006105686A1 (en) * 2005-04-06 2006-10-12 Eidgenössische Technische Hochschule Zürich Method of executing an application in a mobile device
US7424218B2 (en) * 2005-07-28 2008-09-09 Microsoft Corporation Real-time preview for panoramic images
US9101279B2 (en) * 2006-02-15 2015-08-11 Virtual Video Reality By Ritchey, Llc Mobile user borne brain activity data and surrounding environment data correlation system
US20080147730A1 (en) * 2006-12-18 2008-06-19 Motorola, Inc. Method and system for providing location-specific image information
US8947421B2 (en) * 2007-10-29 2015-02-03 Interman Corporation Method and server computer for generating map images for creating virtual spaces representing the real world
US20090109341A1 (en) * 2007-10-30 2009-04-30 Qualcomm Incorporated Detecting scene transitions in digital video sequences
US8711176B2 (en) * 2008-05-22 2014-04-29 Yahoo! Inc. Virtual billboards
US8239758B2 (en) * 2008-11-13 2012-08-07 International Business Machines Corporation Truncating character strings to generate a list of unique character strings
US20100145676A1 (en) * 2008-12-09 2010-06-10 Qualcomm Incorporated Method and apparatus for adjusting the length of text strings to fit display sizes
US20100208033A1 (en) 2009-02-13 2010-08-19 Microsoft Corporation Personal Media Landscapes in Mixed Reality
KR101561913B1 (ko) 2009-04-17 2015-10-20 엘지전자 주식회사 이동 단말기의 영상 표시 방법 및 그 장치
US20110209201A1 (en) 2010-02-19 2011-08-25 Nokia Corporation Method and apparatus for accessing media content based on location
US9901828B2 (en) 2010-03-30 2018-02-27 Sony Interactive Entertainment America Llc Method for an augmented reality character to maintain and exhibit awareness of an observer
US9635251B2 (en) * 2010-05-21 2017-04-25 Qualcomm Incorporated Visual tracking using panoramas on mobile devices
US20120036444A1 (en) * 2010-07-01 2012-02-09 Andersen Ann-Cabell Baum Systems and Methods for Interactive Web-based Social Networking and Activities Coordination
US20130171601A1 (en) * 2010-09-22 2013-07-04 Panasonic Corporation Exercise assisting system
US9462280B2 (en) * 2010-12-21 2016-10-04 Intel Corporation Content adaptive quality restoration filtering for high efficiency video coding
US9057874B2 (en) * 2010-12-30 2015-06-16 GM Global Technology Operations LLC Virtual cursor for road scene object selection on full windshield head-up display
US20120221687A1 (en) * 2011-02-27 2012-08-30 Broadcastr, Inc. Systems, Methods and Apparatus for Providing a Geotagged Media Experience
JP5765019B2 (ja) 2011-03-31 2015-08-19 ソニー株式会社 表示制御装置、表示制御方法、およびプログラム
KR101730473B1 (ko) * 2012-08-27 2017-04-26 엠파이어 테크놀로지 디벨롭먼트 엘엘씨 디지털 매개 통신의 지리적 기점 표시

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Online Creation of Panoramic Augmented Reality Annotations on Mobile Phones;T. Langlotz, D. Wagner, A. Mulloni and D. Schmalstieg;《IEEE Pervasive Computing》;20100819;第56-63页 *

Also Published As

Publication number Publication date
JP2015504550A (ja) 2015-02-12
KR101617111B1 (ko) 2016-04-29
WO2013070375A1 (en) 2013-05-16
CN107958490A (zh) 2018-04-24
EP2777021A1 (en) 2014-09-17
CN104054111A (zh) 2014-09-17
US20130113827A1 (en) 2013-05-09
IN2014CN03487A (zh) 2015-10-09
KR20140088903A (ko) 2014-07-11
US9171384B2 (en) 2015-10-27
JP5869140B2 (ja) 2016-02-24
EP2777021B1 (en) 2018-03-28

Similar Documents

Publication Publication Date Title
CN107958490B (zh) 用于无线通信装置的免提增强现实
US11323605B2 (en) Method and apparatus for managing a camera network
KR102196486B1 (ko) 콘텐츠 모음 네비게이션 및 오토포워딩
US9665986B2 (en) Systems and methods for an augmented reality platform
JP5162928B2 (ja) 画像処理装置、画像処理方法、画像処理システム
CN104285244B (zh) 用于标注的图像驱动的视图管理的方法和设备
US8769437B2 (en) Method, apparatus and computer program product for displaying virtual media items in a visual media
KR102434832B1 (ko) 인공지능 기반 실시간 배경분리 및 객체합성을 이용한 가상여행 서비스 제공 방법
KR101253283B1 (ko) 고해상도 영상 재구성 방법 및 시스템
KR102657053B1 (ko) 옵트아웃 인터스티셜을 이용한 미디어 컬렉션 탐색
US20180196819A1 (en) Systems and apparatuses for providing an augmented reality real estate property interface
JP2016213810A (ja) 画像表示システム、情報処理装置、プログラム、画像表示方法
US11334156B2 (en) Postponing the state change of an information affecting the graphical user interface until during the condition of inattentiveness
CN112395530A (zh) 数据内容的输出方法、装置、电子设备及计算机可读介质
JP2015210472A (ja) 動画広告表示システム及び広告配信情報端末

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20210709