CN111065891B - 基于增强现实的室内导航系统 - Google Patents

基于增强现实的室内导航系统 Download PDF

Info

Publication number
CN111065891B
CN111065891B CN201880045585.5A CN201880045585A CN111065891B CN 111065891 B CN111065891 B CN 111065891B CN 201880045585 A CN201880045585 A CN 201880045585A CN 111065891 B CN111065891 B CN 111065891B
Authority
CN
China
Prior art keywords
navigation
user
dimensional representation
indoor
mark
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201880045585.5A
Other languages
English (en)
Other versions
CN111065891A (zh
Inventor
张军
徐斌
李荣浩
滕晓强
刘超
邓冲
谷更新
周焕青
周琦
刘悦
许鹏飞
胡润波
张红霞
张颖峰
赵光辉
杜斌
柴华
张弦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Didi Infinity Technology and Development Co Ltd
Original Assignee
Beijing Didi Infinity Technology and Development Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Didi Infinity Technology and Development Co Ltd filed Critical Beijing Didi Infinity Technology and Development Co Ltd
Priority to CN202311385363.7A priority Critical patent/CN117433531A/zh
Publication of CN111065891A publication Critical patent/CN111065891A/zh
Application granted granted Critical
Publication of CN111065891B publication Critical patent/CN111065891B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/20Instruments for performing navigational calculations
    • G01C21/206Instruments for performing navigational calculations specially adapted for indoor navigation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality

Abstract

一种使用终端设备的室内导航方法。该方法包括:由终端设备捕获室内场景的图像数据(402),并基于捕获的图像数据确定用户的当前位置(404),确定导航路径,用于将所述用户从当前位置导航到目的地(410),确定导航标志(412),并且由终端设备根据图像数据和导航路径渲染室内场景的三维表示,该三维表示中包含所述导航标志(414)。所述导航标志在三维表示中标识导航路径。该方法还包括在终端设备上为用户展示所述三维表示。

Description

基于增强现实的室内导航系统
技术领域
本申请涉及室内导航系统和方法,更具体地说,涉及在场景的三维(Three-Dimensional,3-D)表示中渲染导航标志以向用户标识导航路线的室内导航系统和方法。
背景技术
导航系统已被广泛用于引导用户从他/她的当前位置到设定的目的地。当前导航系统通常使用诸如全球定位系统(Global Positioning System,GPS)接收器的定位传感器来定位用户并确定用户位置和目的地之间的路径。然后,这些导航系统通常突出显示路径,并显示地图以为用户导航。
然而,现有的导航系统不适用于室内导航。例如,用户可能在购物中心内试图找到停车场的东北入口或B区以找到其拼车司机。由于室内卫星信号较弱,使得室内导航具有一定的挑战性。例如,当用户在建筑物内时,GPS信号通常很弱甚至丢失。GPS也没有提供室内导航所需的足够的定位精度。例如,GPS定位的精度通常为米的量级。由于路径狭窄且彼此靠近,因此通常不够精确地导航室内用户。
与驾驶地图不同,室内地图通常无法供用户使用。因此,导航系统不能在导航地图上覆盖一条路径。此外,室内布局通常很复杂且令人困惑。例如,在购物中心,可能有许多路径和十字路口,并且这些路径通常不是直的。使用现有的导航系统,用户可能仍然容易迷路。
本申请的实施例提供解决上述缺点的系统和方法。
发明内容
本申请的实施例提供了一种示例性室内导航方法,通过使用终端设备将用户导航到目的地。所述方法包括由所述终端设备捕获室内场景的图像数据,根据所述捕获的图像数据确定所述用户的当前位置。所述方法还包括确定导航路径和导航标志,用于将所述用户从所述当前位置导航到所述目的地,由所述终端设备根据所述图像数据和所述导航路径,渲染所述室内场景的三维表示,所述三维表示中包含导航标志,其中,导所述航标志在所述三维表示中标识所述导航路径。所述方法还包括在所述终端设备上为所述用户展示所述三维表示。
本申请的实施例还提供了一种用于将用户导航到目的地的室内导航系统。所述室内导航系统包括传感器,被配置用于捕获室内场景的图像数据。所述室内导航系统还包括至少一个处理器,被配置为根据所述捕获的图像数据确定所述用户的当前位置,以及确定导航路径和导航标志,用于将用户从所述当前位置导航到所述目的地。所述至少一个处理器还被配置为根据所述图像数据和所述导航路径,渲染所述室内场景的三维表示,所述三维表示中包含导航标志。所述导航标志在所述三维表示中标识所述导航路径。室内导航系统还包括被配置用于向所述用户展示所述三维表示的显示器。
本申请的实施例还提供了一种非暂时性计算机可读介质。非暂时性计算机可读介质存储有一组指令,当由至少一个处理器执行时,使得至少一个处理器执行用于将用户导航到目的地的室内导航方法。所述方法包括接收由传感器捕获的室内场景的图像数据,以及根据所述捕获的图像数据确定所述用户的当前位置。所述方法还包括确定导航路径和导航标志,用于将所述用户从所述当前位置导航到所述目的地。所述方法还包括根据所述图像数据和所述导航路径,渲染室内场景的三维表示,所述三维表示中包含导航标志。所述导航标志在所述三维表示中标识所述导航路径。所述方法还包括向所述用户展示所述三维表示。
应当理解,前面的一般性描述和下面的详细描述都只是示例性和说明性的,并不构成对要求保护的本发明的限制。
附图说明
图1示出了根据本申请的实施例所示的用于在室内环境中导航用户的示例性终端设备。
图2示出了根据本申请的实施例所示的显示室内场景和标志的三维表示的示例性终端设备。
图3示出了根据本申请的实施例所示的示例性室内导航系统。
图4示出了根据本申请的实施例所示的用于将用户从当前位置导航到目的地的示例性室内导航方法的流程图。
具体实施方式
现在将对示例性实施例进行详细说明,其示例在附图中示出。在可能的情况下,在整个附图中将使用相同的参考数字来表示相同或相似的部分。
本申请的一个方面涉及一种用于将用户导航到目的地(例如,建筑物入口、停车场或建筑物内的特定房间)的室内导航系统。室内导航系统包括传感器(例如,摄像机),用于捕获室内场景的图像数据,例如购物中心的内部的图像数据。室内导航系统还包括至少一个处理器。所述至少一个处理器可以位于由用户携带的终端设备(例如,移动电话、可穿戴设备、PDA)内或在服务器内。所述至少一个处理器可以包括至少两个处理器,一些位于终端设备内,一些位于服务器内。
所述至少一个处理器可以被配置为基于捕获的图像数据确定用户的当前位置。在一些实施例中,可以使用基于视觉的定位方法。在一些实施例中,基于诸如GPS信号、行人航迹推算(Pedestrian Dead Reckoning,PDR)数据、无线网络接入点或蓝牙TM信号的其他定位方法可用于补充和提高用户位置的定位精度。
所述至少一个处理器还可以被配置为确定导航路径(例如,从用户的当前位置和目的地的路径)以及导航标志,用于将用户从当前位置导航到目的地。在一些实施例中,可以使用各种导航标志,包括例如方向标志、指示标志和目的地标志。这些标志可以包括用于指示导航路径的图形和/或文本。
基于图像数据和导航路径,所述至少一个处理器可以进一步被配置为渲染室内场景的三维表示,所述三维表示中包含所述导航标志。在一些实施例中,渲染可以使用增强现实(Augmented Reality,AR)技术来实现。导航标志可以标识三维表示中导航路径。例如,导航标志可以是指向导航路径方向的箭头。在一些实施例中,所述标记被渲染后可以浮现在三维表示中。在一些实施例中,所述标志可以周期性地闪光或闪烁以引起用户的注意。
所申请的室内导航系统还可以包括用于向用户显示三维表示的显示器(例如,在终端设备上的显示装置)。例如,当在商场内行走时,用户可以将他的移动电话拿在他面前。移动电话可以显示用户在现实世界中看到的室内场景的三维表示,并附加有增强现实元素-例如,叠加导航标志-以根据导航路径引导用户到目的地。
图1示出了根据本申请的实施例所示的用于在室内环境10中导航用户20的示例性终端设备100。在一些实施例中,室内环境10可以是由例如墙壁、屋顶等封闭或部分封闭的任何环境。例如,室内环境10可以是购物中心、办公楼、学校、会议中心、公寓楼、体育场、剧院、酒店等的内部。尽管图1将室内环境10示为购物中心,但是可以预期所申请的系统和方法也适用于其他类型的室内环境。如图1所示,室内环境10可包括各种商店店面、休息区、柱子、装饰物(例如植物)以及其间的走廊。在一些实施例中,室内环境10可另外包括自动扶梯、电梯、展位等。
用户20可以携带终端设备100。用户20可以使用终端设备100用于室内导航。例如,用户20可能希望前往位于购物中心远端的餐馆并使用终端设备100来导航到该餐馆。例如,用户20可能已经请求了拼车服务(例如,DiDiTM服务)并且需要在特定位置(例如,商场入口或停车场中的接乘区域)与司机会面。用户20可以使用终端设备100引导他到达目的地。
终端设备100可以包括能够与用户20交互的任何合适的设备,例如智能电话、平板电脑、可穿戴设备、个人数字助理(Personal Digital Assistant,PDA)等。终端设备100可以包括相机110和显示器120等其他组件。在一些实施例中,相机110可以是内置在终端设备100中的数码相机,并且被配置为用于捕获照片和/或记录视频。在图1中,相机110可以位于终端设备100的前表面和/或后表面上。相机110可以被配置为用于捕获室内环境10中室内场景的图像数据。所述图像数据可以包括视频数据。在一些实施例中,图像数据可以以JPEG文件格式、RAW格式或其他静态或动态图像格式保存。在一些实施例中,捕获的图像数据可以本地存储在终端设备100上,例如,存储在内部存储器中称为/DCIM的目录中。在一些实施例中,捕获的图像数据可以存储在外部存储器,例如安全数字(Secure Digital,SD)卡或USB驱动器中。在又一些实施例中,捕获的图像数据可以被发送到并保存在远程服务器或存储器中。例如,图像数据可以通过实时流传输。服务器或远程存储器可以远程定位,例如,在云计算环境中。
显示器120可以安装在终端设备100的前侧。在一些实施例中,显示器120可以是能够接收用户交互的触摸屏。显示器120可以提供用于与用户交互的图形用户界面(Graphical User Interface,GUI)。在本申请中,显示器120被配置为呈现由相机110捕获的室内场景的三维表示。三维表示由终端设备100渲染以类似于室内场景,其是现实世界物体的映像。
在本申请中,终端设备100可另外渲染导航标志。所述导航标志在由显示器120显示的三维表示中呈现。所述导航标志单独地或共同地标识导航路径以将用户20从他的当前位置引导到预设目的地。在一些实施例中,导航路径和导航标志可由终端设备100在本地确定或由服务器远程确定,以确保在终端设备100上实时渲染和显示。
图2示出了根据本申请的实施例所示的示例性终端设备100,其示出了室内场景的三维表示200和标志210-230。如图2的示例所示,三维表示200被渲染为类似于室内环境10的室内场景,包括各种商店店面、通道等。导航标志210、220和指示标志230在三维表示200中被渲染以标识导航路径。
各种导航标志可以被使用。例如,导航标志210可以是浮现在三维表示200中的浮动标志。浮动标志在三维表示200中“浮现”而不附着或嵌入到任何现实世界对象中。例如,浮动标志可以呈现在显示器120的中心并且在视觉上位于用户20的“前面”以吸引用户的注意力。在图2所示的示例中,导航标志210包括说明性地标识用户20应遵循的方向的图形。例如,导航标志210包括指向左侧的箭头,表明用户20应该在左侧的商店后面左转。导航标志210另外包括文本,例如,“20英尺后向左转”以更明确地指示用户20关于转弯并且在用户20应该转弯之前提供诸如距离(例如,20英尺)之类的详细信息。由于室内环境10的布局通常是复杂且令人困惑的,因此仅用箭头可能不足以使用户20理解他需要转向的确切位置。文本提供了引导用户20的额外的清晰的描述。
导航标志220可以是方向标志,其被设计为沿着导航路径交互地引导用户20。在一些实施例中,导航标志220可以呈现为投射在地板上的光。导航标志220可以是任何合适的形状以指示用户20应遵循的方向和路径。例如,导航标志220可以包括指向导航路径方向的一个箭头或一组箭头。在一些实施例中,当用户20在导航路径上移动时,导航标志220可以逐渐向前移动,使得导航标志220总是在用户20之前。在本申请的一些实施例中,终端设备100可以将用户20在室内环境10中的位置变换为三维表示200中的坐标,并且始终将导航标志220预先设置在用户位置之前。例如,当导航标志220包括一组箭头时,最后一个箭头(组中最靠近用户的末尾处的箭头)可以在每几秒钟消失,并且可以在大约同时添加新箭头(在组中距离用户最远的末端)。
导航标志还可以包括当用户20到达目的地时被渲染和显示的目的地标志(未示出)。在一些实施例中,当用户120足够接近或靠近目的地时,目的地标志可以显示在显示器120上,例如,当目的地在用户20可以在视觉上看到的真实世界场景内时。目的地标志同样可以包括图形(例如,箭头或针状)和/或文本(例如,“目的地”、“到达”)以指示目的地的位置。
终端设备100还可以渲染和显示指示标志230。所述指示标志230可以指示用户20调整终端设备100的姿势。因为用户20的定位基于由相机110捕获的图像数据,所以捕获的图像数据包含可以与场景的现有图像匹配的足够特征是重要的。终端设备100或远程服务器,无论哪个执行定位操作,都可以自适应地确定终端设备100是否处于捕获图像的最佳姿势。例如,用户20可能保持低头,因此导致终端设备100基本上平行于地板。结果,捕获的图像数据主要包含缺乏足够特征的地板图像。又例如,用户20可能保持终端设备100指向右边,而他需要跟随的导航路径指示向左。结果,导航标志,例如210和220,就不能被正确显示。在这些情况下,终端设备100可以确定应该调整终端设备100的姿势并渲染指示标志230以与用户20交互。例如,如图2所示,指示标志230包括指向上方的箭头,指示用户20将终端设备100的顶部朝向他自己。通过使用指示标志230,本申请中的导航系统能够自适应地和动态地调整终端设备100的姿势,以改善所捕获的图像数据的质量。
图3示出了根据本申请的实施例所示的示例性室内导航系统。在一些实施例中,室内导航系统包括终端设备100和服务器330,其通过网络320彼此通信。网络320可以是无线局部区域网络(Wireless Local Area Network,WLAN)、广域网(Wide Area Network,WAN),诸如无线电波、蜂窝网络、卫星通信网络和/或本地或短程无线(例如,蓝牙)的无线网络。
在一些实施例中,如图3所示,终端设备100可包括相机110、显示器120、一个或以上传感器302、通信接口304、处理器306和存储器/存储设备308。
在一些实施例中,相机110可以是内置在终端设备100中的数字相机,并且被配置为用于捕获照片和/或记录视频。相机110可包括CMOS或CCD图像传感器。在一些实施例中,相机110可以使用数字变焦或光学变焦。在一些实施例中,终端设备100可以在其显示器120上包括菜单选项以启动相机应用程序并且包含屏幕上按钮以激活相机110的快门。在一些实施例中,相机110和/或终端设备100可具有单独的相机按钮以激活和操作相机110。在一些实施例中,相机110可以是通过通信网络例如,WLAN网络,无线耦合到终端设备100的外部相机。
显示器120可以是安装在终端设备100的前侧的液晶显示器(Liquid CrystalDisplay,LCD)、发光二极管显示器(Light Emitting Diode Display,LED)、等离子显示器或任何其他类型的显示器。在一些实施例中,显示器120可以是薄膜晶体管(Thin-Film-Transistor,TFT)LCD显示器或面内切换(In-Plane-Switching,IPS)LCD显示器。显示器可以包括许多不同类型的材料,例如塑料或玻璃,并且可以是触敏的以接收来自用户的命令。例如,显示器可以包括基本上刚性的触敏材料,例如Gorilla GlassTM或基本上柔韧的触敏材料,例如Willow GlassTM
在一些实施例中,一个或以上传感器302可包括GPS接收器和/或惯性测量单元(Inertial Measurement Unit,IMU)传感器。GPS是全球导航卫星系统,其向GPS接收器提供地理定位和时间信息。IMU是一种电子设备,其使用各种惯性传感器(例如加速度计和陀螺仪,有时还有磁力计)来测量和提供车辆的特定力、角速率,有时是车辆周围的磁场。当终端设备与用户20一起沿着导航路径行进时,GPS接收器和/或IMU传感器可以捕获终端设备100的实时姿势数据。姿势数据可以用作补充信息以辅助用户20/终端设备100的定位。
一个或以上传感器302还可以包括捕获光、无线电波、磁场、声学信号或其他传感信息以帮助室内定位的传感器。基于捕获的传感信息,用户20/终端设备100可以在室内环境10中进行定位。这些技术可以包括,例如,对附近锚节点(具有已知固定位置的节点,例如,Wi-Fi/Li-Fi接入点或蓝牙TM信标)的距离测量、磁定位和航位推算等。这些技术要么主动定位移动设备和标签,要么为设备提供环境位置或环境背景以便被感知。
例如,一个或以上传感器302可以包括用于捕获PDR数据的MEMS惯性传感器。在导航中,航位推算是通过使用先前确定或固定的位置来计算一个当前位置的过程,并且基于已知或估计的速度在时间和过程上推进该位置。在一些其他实施例中,一个或以上传感器302还可以包括被配置为用于捕获Wi-Fi信号的Wi-Fi信号接收器。基于接收信号的强度,可以使用指纹识别方法定位Wi-Fi接入点。
在一些实施例中,区别于建立在捕获的图像数据基础上的基于视觉的定位方法,这些定位技术可以用于估计用户位置。估计结果可以用于验证或修正基于视觉的定位方法所获得的定位结果。在一些替代实施例中,这些定位技术可以结合基于视觉的定位方法作为约束或作为改善定位结果的特征来执行。
通信接口304可以是综合业务数字网(Integrated Services Digital Network,ISDN)卡、电缆调制解调器、卫星调制解调器或提供数据通信连接的调制解调器。又例如,通信接口304可以是局部区域网络(Local Area Network,LAN)卡,以提供与兼容LAN的数据通信连接。无线链接也可以由通信接口304实现。在这样的实现中,通信接口304可以经由网络320发送和接收携带表示各种类型信息的数字数据流的电信号、电磁信号或光信号。
通信接口304可以被配置为用于将终端设备100捕获的图像数据发送到服务器330,并从服务器330接收用户20/终端设备100的确定的位置。通信接口304还可以通过终端设备100接收与用于渲染的导航标志和指示标志有关的数据。在一些实施例中,通信接口304可以被配置为用于接收其他数据,例如通过显示器120或终端设备100的其他用户接口提供的用户输入。
处理器306可以包括任何适当类型的通用或专用微处理器、数字信号处理器或微控制器。在一些实施例中,处理器306可以包括用于图像渲染操作的图形处理单元(GraphicProcessing Unit,GPU)。GPU是能够帮助CPU执行复杂的渲染操作的专用设备。处理器306可以被配置为专用于实现本文申请的室内导航方法的单独的处理器模块。或者,处理器306可以被配置为共享处理器模块,用于执行与提供运输服务无关的其他功能。处理器306可以包括一个或以上硬件单元(例如,集成电路的部分),这些硬件单元用于与其他组件一起使用或执行程序的一部分。该程序可以存储在计算机可读介质上,并且当由处理器306执行时,它可以执行一个或以上的功能。在一些实施例中,该程序可以包括用于AR渲染而开发的ARKitTM
在一些实施例中,处理器306可以被配置为渲染三维表示,例如200,以在显示器120上显示。3-D渲染是通过计算机程序从3-D模型(也称为场景文件)生成真实感或非真实感图像的自动过程。场景文件包含严格定义的语言或数据结构中的对象,其可以包含几何、视点、纹理、光照和阴影信息,作为对虚拟场景的描述。处理器306可以执行渲染程序以处理包含在场景文件中的数据以输出到可由显示器120显示的数字图像或光栅图形图像文件。
在本申请中,处理器306还可以在三维表示中渲染和放置导航标志(例如导航标志210和220)和指示标志(例如指示标志230)。在一些实施例中,AR技术可用于渲染标志。AR是真实世界环境的交互式体验,通过真实环境感知到的物体被计算机生成的感知信息“增强”,有时跨越多种感觉模态,包括视觉、听觉、触觉、体感、和嗅觉。重叠的感觉信息可以是建设性的(即附加于自然环境)或破坏性的(即,掩蔽自然环境)并且与物理世界无缝地交织,使得其被感知为真实环境的沉浸式方面。通过这种方式,增强现实改变了人们对现实世界环境的持续感知。在本申请中,导航标志和指示标志与真实世界室内场景的3-D表示重叠,以将用户20导航到目的地。
为了渲染和定位导航标志,处理器306可以使用从服务器330接收的数据,并将数据变换到三维表示的坐标系中。例如,基于用户20/终端设备100在室内环境10中的位置,处理器306可以确定与三维表示的坐标系中的该位置相对应的坐标。然后,处理器306根据从服务器330接收的导航路径确定三维表示中的标志相对于用户位置的位置。换句话说,该标志可以定位在导航路径和边界处表面的交叉点处,并且与用户位置相距预定距离。在一些实施例中,当检测到用户20已到达目的地时,处理器306还可以渲染目的地标志。处理器306可以在三维表示的坐标系中确定与目的地相对应的坐标,并将目的地标志放置在该坐标处。
在本申请的一些实施例中,当用户20在室内环境中移动时,处理器306可以连续地实时更新三维表示和所述标志。例如,处理器306可以基于用户20的更新位置和导航路径在标志中包括不同的信息。处理器306还可以根据导航路径重新定位标志,并将其保持在远离用户在三维表示中的位置的预定距离处。这样,用户20可以看到他前面的更新的标志以提供连续导航。
存储器/存储设备308可以包括任何适当类型的大容量存储器,其用于存储处理器306可能需要操作的任何类型的信息。存储器/存储设备308可以是易失性或非易失性的、磁性的、基于半导体的、基于磁带的、光的、可移除的、不可移除的或其他类型的存储设备或有形(即,非暂时性)的计算机可读介质,包括但不限于ROM、闪存、动态RAM和静态RAM。存储器/存储设备308可以被配置为存储一个或以上计算机程序,其可以由处理器306执行以完成本文申请的室内导航。例如,存储器/存储设备308可以被配置为存储程序,其可以由处理器306执行以确定乘客的合适的接送位置。
存储器/存储设备308可以进一步被配置为存储处理器306使用信息和数据。例如,存储器/存储设备308可以被配置为存储由相机110和/或传感器302捕获的各种类型的数据(例如,图像数据、传感数据等)以及从服务器330接收的各种类型的数据(例如,导航路径、与导航标志和指示标志有关的数据)。存储器/存储设备308还可以存储中间数据,例如在渲染过程期间创建的数据。在处理每个数据帧之后,可以永久地存储、周期性地移除或忽略各种类型的数据。
服务器330可以是通用服务器或专门为室内导航设计的专有设备。可以设想,服务器330可以是独立系统(例如,服务器)或独立服务器的集成组件。在一些实施例中,服务器330可以在单个设备中具有不同的模块,例如集成电路(Integrated Circuit,IC)芯片(实现为专用集成电路(Application Specific Integrated Circuit,ASIC)或现场可编程门阵列(Field-Programmable Gate Array,FPGA))或具有专用功能的独立设备。在一些实施例中,服务器330的一个或以上组件可以位于云中,或者可以可替代地位于单个位置或分布的位置。服务器330的组件可以在一个集成设备中,或者分布在不同位置,但是通过网络320或其他类型的通信链路彼此通信。
在一些实施例中,服务器330可以包括与上面在终端设备100中描述的组件类似的组件,例如通信接口(未示出)、处理器332和存储器/存储设备(未示出)。通信接口可以以类似于通信接口306的方式配置,以促进终端设备100和服务器330之间的通信。处理器332可以具有与处理器306类似的硬件结构。例如,处理器332可以包括一个或以上硬件单元(例如,集成电路的部分),其用于与其他组件一起使用或执行程序的一部分。所述程序可以存储在计算机可读介质(例如,存储器/存储设备)中,并且当由处理器332执行时,它可以执行一个或以上的功能。存储器/存储设备还可以具有与存储器/存储设备308类似的结构。
因为使用基于视觉的定位方法实时处理图像数据并且执行定位操作可能需要大量的计算资源,所以室内导航系统可以优选地实现由服务器330执行的这种处理,服务器330通常具有更强的计算能力。然而,预期这些处理中的一些或全部可以由终端设备100的处理器306在本地执行。
在一些实施例中,处理器332可以执行基于视觉的定位方法,以基于终端设备100捕获的图像数据来定位用户20/终端设备100。例如,处理器332可以将存储在服务器330处的已有的图像数据与捕获的图像数据进行比较。更具体地,处理器3329可以执行特征匹配方法以将捕获的图像数据与从室内环境中的已知位置获取的已有的图像数据进行匹配。例如,已有的图像数据可以是从已知位置拍摄的购物中心的图像。在一些实施例中,诸如可视同时定位和映射(Visual Simultaneous Localization and Mapping,vSLAM)的方法可以用于定位用户20/终端设备100。
处理器332可以另外被配置为确定导航路径以将用户20从他的当前位置引导到目的地。在一些实施例中,导航路径可以根据预设标准确定,例如最短距离、最短时间、最少转弯、避开楼梯等。导航路径的确定可以包括确定导航路径上点的坐标。
图4示出了根据本申请的实施例所示的用于将用户从当前位置导航到目的地的示例性室内导航方法400的流程图。方法400可以由终端设备100和/或服务器330实现,终端设备100和/或服务器330包括至少一个处理器。在以下描述中,终端设备100和服务器330的组合用作实现方法400的示例。方法400也可以完全由终端设备110来实现是可预期的。在本申请中,方法400在室内环境中通过向用户显示由各种导航标志覆盖的真实世界场景的三维表示从而来导航用户,该导航标志表示用户到达目的地需要遵循的导航路径。方法400可以包括如下所述的若干步骤,其中一些步骤可以是可选的。
在步骤402,相机110可以捕获室内场景的图像数据。例如,用户20可以将终端设备100保持在他前面,并且安装在终端设备100上的相机110可以自动且连续地捕获室内环境10的图像。在一些实施例中,捕获的图像数据可以从终端设备100发送到服务器330。
在步骤404,服务器330可以基于捕获的图像数据来定位用户20。由于用户20通常持有终端设备100,因此可以通过定位终端设备100来定位用户20。在本申请中,用户20的位置被认为等同于终端设备100的位置。在一些实施例中,诸如vSLAM的基于视觉的定位方法可用于定位用户20。例如,服务器330可以将捕获的图像数据与从已知位置拍摄的室内环境10的已有的图像数据进行比较。当该位置提供了捕获的图像数据和已有的图像数据之间的图像特征的最佳匹配时,可将该位置确定为用户20的位置。
在一些实施例中,在步骤406,服务器330可以确定终端设备100的姿势是否合适。在一些实施例中,服务器330可以在使用捕获的图像数据进行定位(例如,如步骤404)的过程期间做出这样的确定。例如,如果捕获的图像数据没有包含用于准确定位用户20的充足的特征(诸如强度变化、对象、纹理),则服务器330可以确定应该调整终端设备100的姿势。姿势调整可以包括调整终端设备100的方向、垂直上角、高度等。
如果姿势不合适(步骤406:否),则服务器330可另外确定终端设备100的最佳姿势,以便获取具有更多有用信息的图像数据。例如,可以经由网络320将最佳姿势提供给终端设备100。在步骤408,终端设备100可以根据最佳姿势渲染并显示指示标志,例如230。例如,终端设备100可以将其当前姿势与最佳姿势进行比较,以确定用户20需要采取什么动作以便将终端设备100调整到最佳姿势。因此,创建指示标志以指示用户20采取这样的动作。例如,指示标志230可以包括指向显示器120顶部的箭头,指示用户20将终端设备100的顶部靠近他自己,以使终端设备100更加垂直。一旦用户20遵循在步骤408显示的指令标志,方法400可以返回到步骤402以更好的姿势重新捕获图像数据。
如果姿势合适(步骤406:是),则方法400前进到步骤410。在步骤410,服务器330可以确定在步骤404确定的用户20的当前位置与预设目的地之间的导航路径。例如,用户20可能想要到达购物中心外或在停车场于他的搭乘司机会面。因此,会面地点是他的目的地,并且导航路径是他为了到达目的地而需要的室内的路线。
在步骤412,服务器330可另外确定导航标志,以引导用户20遵循导航路径。在一些实施例中,导航标志可以包括方向标志,其使用图形(例如箭头)和/或文本来标识导航路径,例如转弯、直行、或上/下自动扶梯。基于用户在导航路径上或相对于导航路径的位置来动态地确定导航标志的内容。导航标志指示用户20为了到达目的地而需要遵循的后续步骤。
如果由服务器330确定,则导航路径和导航标志可以经由例如网络320提供给终端设备100。在步骤414,终端设备100可以渲染并显示由相机110捕获的室内场景的三维表示(例如,200)作为图像数据。例如,可以使用3-D渲染方法来创建场景文件。在本申请中,终端设备100可另外使用三维表示来渲染和覆盖导航标志。在一些实施例中,AR技术可用于渲染所述标志,例如,通过使用ARKitTM
各种导航标志可以在步骤414中进行渲染,包括例如图2中所示的导航标志210和220。例如,导航标志可以包括浮现在三维表示中的浮动标志,例如210。在一些实施例中,导航标志可以包括诸如指向一个方向的箭头的图形,以直观地向用户标识导航路径。可替代地或附加地,导航标志可以包括文本,例如,“直行20英尺”以明确地指示用户20。在一些实施例中,为了更清楚,导航标志可以包括图形和文本的组合。例如,导航标志210可以包括指向左侧的箭头和“20英尺后左转”的文本以引导用户20在20英尺后左转。
又例如,导航标志还可以包括方向标志,例如220,以引导用户20跟随导航路径。在一些实施例中,方向标志220可以呈现为投射在地板上的光,以指示用户20应遵循的方向和路径。例如,导航标志220可以包括指向导航路径方向的箭头或一组箭头,并且当用户20在导航路径上移动时,箭头逐渐向前移动。
在本申请的一些实施例中,终端设备100可以将导航标志放置在用户20前面的预定距离处的导航路径上。为此,终端设备100可以将用户20在室内环境10中的位置首先变换为三维表示中的坐标,然后与该用户位置相距预定距离的边界面开始变换。例如,边界面可以是以用户的位置为中心,以预定距离为半径形成的圆柱形表面。然后,导航标志的位置可以确定为边界面和导航路径的交叉点。
终端设备100可以以各种方式渲染导航标志以标识导航路径。例如,方向标志可以包括一组箭头,最后一个箭头(组中末尾的最靠近用户的箭头)可以在每几秒消失,并且将在大约同一时间在前方(距离用户最远的组的末端)添加一个新的箭头。可选地或另外地,导航标志的元素可以在强度、颜色、格式等方面闪光、闪烁或以其他方式变化。例如,浮动标志可以以接近心跳速率的频率闪烁。在一些实施例中,当用户20接近转弯点时,该标志可以以高频率进行闪烁。
可以连续地监视和跟踪用户20的位置。在步骤416,服务器330/终端设备100可以确定用户20是否已到达目的地或正在接近目的地。如果是这样(步骤416:是),终端设备100在三维表示中渲染并显示目的地标志,以向用户20指示目的地。
否则(步骤416:否),当用户20沿着导航路径移动时,方法400返回到步骤402以捕获下一组图像数据并重复步骤402-418以更新三维表示以及导航标志和指示标志。在一些实施例中,所述更新是连续动态并且实时地发生的。具体地,导航标志可以如步骤410所描述的那样被更新和重新定位。在一些实施例中,导航标志的更新位置可以始终位于远离用户的更新位置的预定距离处。
本申请的另一方面涉及存储指令的非暂时性计算机可读介质,所述指令在被执行时使得一个或以上处理器执行如上所述方法,。所述计算机可读介质包括易失性或非易失性、磁性、半导体、磁带、光学、可移动的、不可移动的或其他类型的计算机可读介质或计算机可读存储设备。例如,如所申请的,计算机可读介质可以是存储设备或其上存储有计算机指令的存储器模块。在一些实施例中,计算机可读介质可以是其上存储有计算机指令的光盘或闪存驱动器。
显而易见,本领域技术人员可以对所申请的系统和相关方法进行各种修改和变化。考虑到所申请的系统和相关方法的说明书和实践,其他实施例对于本领域技术人员是显而易见的。
本申请中的说明书和示例的目的仅被认为是示例性的,真正的范围由以下权利要求及其等同物限定。

Claims (16)

1.一种使用终端设备将用户导航至目的地的室内导航方法,包括:
由所述终端设备捕获室内场景的图像数据;
根据所述捕获的图像数据确定所述用户的当前位置;
确定导航路径和导航标志,用于将所述用户从所述当前位置导航到所述目的地;
由所述终端设备根据所述图像数据和所述导航路径,渲染所述室内场景的三维表示,所述三维表示中包含导航标志,其中,所述导航标志在所述三维表示中标识所述导航路径,其中,渲染所述三维表示还包括:
在所述室内场景的所述三维表示中确定对应于所述用户在所述室内场景中的当前位置的第一位置;
将所述导航标志设置在所述三维表示中的第二位置,其中所述第二位置距离所述第一位置有一预设距离;以及
在当所述用户移动到所述室内场景中的新位置时更新所述三维表示,确定所述更新的三维表示中与所述用户的新位置相对应的第三位置,将所述导航标志设置在所述更新的三维表示中的第四位置,其中,所述第四位置距离所述第三位置具有所述预设距离;
在所述终端设备上将所述三维表示展示给所述用户,其中包括:所述用户在所述导航路径上移动时,所述导航标志逐渐向前移动,并且所述导航标志的更新位置始终位于所述用户的新位置对应在所述三维表示中的位置的所述预设距离处。
2.根据权利要求1所述的室内导航方法,其特征在于,所述导航标志包括根据所述导航路径为所述用户指示方向的方向标志。
3.根据权利要求1所述的室内导航方法,其特征在于,所述导航标志包括根据所述导航路径指示所述用户沿一方向移动的文本信息。
4.根据权利要求1所述的室内导航方法,其特征在于,所述导航标志浮现在所述三维表示中。
5.根据权利要求1所述的室内导航方法,其特征在于,还包括:
检测所述用户已经到达所述目的地;
在所述三维表示中渲染目的地标志;以及
在所述终端设备中显示所述目的地标志。
6.根据权利要求1所述的室内导航方法,其特征在于,基于所述捕获的图像数据确定所述用户的当前位置还包括将所述捕获的图像数据与所述室内场景的已有的图像数据进行比较。
7.根据权利要求1所述的室内导航方法,还包括捕获行人航迹推算数据;
其中,确定所述用户的当前位置还进一步基于所述行人航迹推算数据。
8.根据权利要求1所述的室内导航方法,其特征在于,还包括在所述三维表示中渲染指示标志,其中所述指示标志指示所述用户调整所述终端设备的姿态。
9.一种将用户导航到目的地的室内导航系统,包括:
传感器,被配置为捕获室内场景的图像数据;以及
至少一个处理器,被配置为:
根据所述捕获的图像数据确定所述用户的当前位置;
确定导航路径和导航标志,用于将所述用户从所述当前位置导航到所述目的地;以及
根据所述图像数据和所述导航路径,渲染所述室内场景的三维表示,所述三维表示中包含导航标志,其中,所述导航标志在所述三维表示中标识所述导航路径,为了渲染所述三维表示,所述至少一个处理器还被配置为:
在所述室内场景的所述三维表示中确定对应于所述用户在所述室内场景中的当前位置的第一位置;
将所述导航标志设置在所述三维表示中的第二位置,其中所述第二位置距离所述第一位置有一预设距离;以及
更新所述三维表示为所述用户移动到所述室内场景中的新位置,确定所述更新的三维表示中与所述用户的新位置相对应的第三位置,将所述导航标志设置在所述更新的三维表示中的第四位置,其中,所述第四位置距离所述第三位置具有所述预设距离;
显示器,被配置为将所述三维表示展示给所述用户,其中包括:所述用户在所述导航路径上移动时,所述导航标志逐渐向前移动,并且所述导航标志的更新位置始终位于所述用户的新位置对应在所述三维表示中的位置的所述预设距离处。
10.根据权利要求9所述的室内导航系统,其特征在于,所述导航标志包括根据所述导航路径为所述用户指示方向的方向标志。
11.根据权利要求9所述的室内导航系统,其特征在于,所述导航标志包括根据所述导航路径指示所述用户沿一方向移动的文本信息。
12.根据权利要求9所述的室内导航系统,其特征在于,所述导航标志浮现在所述三维表示中。
13.根据权利要求9所述的室内导航系统,其特征在于,所述至少一个处理器还被配置为:
检测所述用户已经到达所述目的地;
在所述三维表示中渲染目的地标志;以及
在终端设备中显示所述目的地标志。
14.根据权利要求9所述的室内导航系统,其特征在于,还包括被配置为捕获行人航迹推算数据的惯性传感器,
其中,至少一个处理器被配置用于进一步基于所述行人的航迹推算数据确定所述用户的当前位置。
15.根据权利要求9所述的室内导航系统,其特征在于,至少一个处理器还被配置为在所述三维表示中渲染指示标志,其中所述指示标志指示所述用户调整终端设备的姿态。
16.一种非暂时性计算机可读介质,其内存储有一组指令集,当由至少一个处理器执行所述指令集时,使得所述至少一个处理器执行将用户导航到目的地的室内导航方法,所述方法包括:
接收由传感器捕获的室内场景的图像数据;
根据所述捕获的图像数据确定所述用户的当前位置;
确定导航路径和导航标志,用于将所述用户从所述当前位置导航到所述目的地;
根据所述图像数据和所述导航路径,渲染所述室内场景的三维表示,所述三维表示中包含导航标志,其中所述导航标志标识所述三维表示中所述导航路径,其中,渲染所述三维表示还包括:
在所述室内场景的所述三维表示中确定对应于所述用户在所述室内场景中的当前位置的第一位置;
将所述导航标志设置在所述三维表示中的第二位置,其中所述第二位置距离所述第一位置有一预设距离;以及
在当所述用户移动到所述室内场景中的新位置时更新所述三维表示,确定所述更新的三维表示中与所述用户的新位置相对应的第三位置,将所述导航标志设置在所述更新的三维表示中的第四位置,其中,所述第四位置距离所述第三位置具有所述预设距离;
将所述三维表示展示给所述用户,其中包括:所述用户在所述导航路径上移动时,所述导航标志逐渐向前移动,并且所述导航标志的更新位置始终位于所述用户的新位置对应在所述三维表示中的位置的所述预设距离处。
CN201880045585.5A 2018-08-16 2018-08-16 基于增强现实的室内导航系统 Active CN111065891B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311385363.7A CN117433531A (zh) 2018-08-16 2018-08-16 将用户导航至目的地的室内导航方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2018/100899 WO2020034165A1 (en) 2018-08-16 2018-08-16 Indoor navigation system based on augmented reality

Related Child Applications (1)

Application Number Title Priority Date Filing Date
CN202311385363.7A Division CN117433531A (zh) 2018-08-16 2018-08-16 将用户导航至目的地的室内导航方法和系统

Publications (2)

Publication Number Publication Date
CN111065891A CN111065891A (zh) 2020-04-24
CN111065891B true CN111065891B (zh) 2023-11-14

Family

ID=69524980

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201880045585.5A Active CN111065891B (zh) 2018-08-16 2018-08-16 基于增强现实的室内导航系统
CN202311385363.7A Pending CN117433531A (zh) 2018-08-16 2018-08-16 将用户导航至目的地的室内导航方法和系统

Family Applications After (1)

Application Number Title Priority Date Filing Date
CN202311385363.7A Pending CN117433531A (zh) 2018-08-16 2018-08-16 将用户导航至目的地的室内导航方法和系统

Country Status (3)

Country Link
US (1) US20210156695A1 (zh)
CN (2) CN111065891B (zh)
WO (1) WO2020034165A1 (zh)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11195336B2 (en) * 2018-06-08 2021-12-07 Vulcan Inc. Framework for augmented reality applications
EP3851797A1 (en) 2020-01-14 2021-07-21 Tata Consultancy Services Limited Systems and methods for performing inclusive indoor navigation
US11302077B2 (en) * 2020-05-29 2022-04-12 Snap Inc. Augmented reality guidance that generates guidance markers
CN111664866A (zh) * 2020-06-04 2020-09-15 浙江商汤科技开发有限公司 定位展示方法及装置、定位方法及装置和电子设备
CN111765890B (zh) * 2020-06-28 2023-08-15 山东浪潮科学研究院有限公司 一种基于云端图像识别和ar的室内导航系统的导航方法
CN111795688B (zh) * 2020-07-17 2023-11-17 南京邮电大学 一种基于深度学习和增强现实的图书馆导航系统实现方法
CN112179331B (zh) * 2020-09-23 2023-01-31 北京市商汤科技开发有限公司 Ar导航的方法、装置、电子设备及存储介质
CN112230766A (zh) * 2020-09-30 2021-01-15 北京图灵智慧科技有限公司 一种基于ar与ai结合的购物方法及系统
CN113155130A (zh) * 2021-04-06 2021-07-23 广州宸祺出行科技有限公司 一种基于ar的大型室内场所的导航方法及系统
JP2022184350A (ja) * 2021-06-01 2022-12-13 マツダ株式会社 ヘッドアップディスプレイ装置
CN113570664B (zh) * 2021-07-22 2023-03-24 北京百度网讯科技有限公司 增强现实导航显示方法和装置、电子设备、计算机介质
CN113900517B (zh) * 2021-09-30 2022-12-20 北京百度网讯科技有限公司 线路导航方法和装置、电子设备、计算机可读介质
CN114018267B (zh) * 2021-11-04 2023-07-07 国网新源控股有限公司 基于可穿戴式室内巡检定位装置的融合定位方法
CN116136408A (zh) * 2021-11-18 2023-05-19 中兴通讯股份有限公司 室内导航方法、服务器、装置和终端
CN114460943B (zh) * 2022-02-10 2023-07-28 山东大学 服务机器人自适应目标导航方法及系统
CN114518117A (zh) * 2022-02-24 2022-05-20 北京百度网讯科技有限公司 导航方法、装置、电子设备、介质
CN117308939A (zh) * 2022-06-20 2023-12-29 中兴通讯股份有限公司 Ar导航方法、终端、存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103134488A (zh) * 2011-11-29 2013-06-05 地图Gis有限公司 用于室内导航的方法和设备
CN103335657A (zh) * 2013-05-30 2013-10-02 佛山电视台南海分台 一种基于图像捕获和识别技术增强导航功能的方法和系统
CN105371847A (zh) * 2015-10-27 2016-03-02 深圳大学 一种室内实景导航方法及系统
CN106289263A (zh) * 2016-08-25 2017-01-04 乐视控股(北京)有限公司 室内导航方法和装置
CN107015654A (zh) * 2017-04-10 2017-08-04 深圳大学 基于增强现实的导航方法及装置
CN107067295A (zh) * 2017-03-13 2017-08-18 联想(北京)有限公司 一种信息处理方法及电子设备
CN107782314A (zh) * 2017-10-24 2018-03-09 张志奇 一种基于扫码的增强现实技术室内定位导航方法
CN107796395A (zh) * 2017-08-10 2018-03-13 平安科技(深圳)有限公司 一种用于室内目标位置的导航方法、装置及终端设备
CN108168557A (zh) * 2017-12-19 2018-06-15 广州市动景计算机科技有限公司 导航方法、装置、移动终端及服务器

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140236475A1 (en) * 2013-02-19 2014-08-21 Texas Instruments Incorporated Methods and systems for navigation in indoor environments
KR102332752B1 (ko) * 2014-11-24 2021-11-30 삼성전자주식회사 지도 서비스를 제공하는 전자 장치 및 방법
US20160345137A1 (en) * 2015-05-21 2016-11-24 Toshiba America Business Solutions, Inc. Indoor navigation systems and methods
US10575128B2 (en) * 2017-02-20 2020-02-25 JVC Kenwood Corporation Management device, management method, and terminal device for displaying additional information on image and displaying image
US10803663B2 (en) * 2017-08-02 2020-10-13 Google Llc Depth sensor aided estimation of virtual reality environment boundaries

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103134488A (zh) * 2011-11-29 2013-06-05 地图Gis有限公司 用于室内导航的方法和设备
CN103335657A (zh) * 2013-05-30 2013-10-02 佛山电视台南海分台 一种基于图像捕获和识别技术增强导航功能的方法和系统
CN105371847A (zh) * 2015-10-27 2016-03-02 深圳大学 一种室内实景导航方法及系统
CN106289263A (zh) * 2016-08-25 2017-01-04 乐视控股(北京)有限公司 室内导航方法和装置
CN107067295A (zh) * 2017-03-13 2017-08-18 联想(北京)有限公司 一种信息处理方法及电子设备
CN107015654A (zh) * 2017-04-10 2017-08-04 深圳大学 基于增强现实的导航方法及装置
CN107796395A (zh) * 2017-08-10 2018-03-13 平安科技(深圳)有限公司 一种用于室内目标位置的导航方法、装置及终端设备
CN107782314A (zh) * 2017-10-24 2018-03-09 张志奇 一种基于扫码的增强现实技术室内定位导航方法
CN108168557A (zh) * 2017-12-19 2018-06-15 广州市动景计算机科技有限公司 导航方法、装置、移动终端及服务器

Also Published As

Publication number Publication date
WO2020034165A1 (en) 2020-02-20
US20210156695A1 (en) 2021-05-27
CN117433531A (zh) 2024-01-23
CN111065891A (zh) 2020-04-24

Similar Documents

Publication Publication Date Title
CN111065891B (zh) 基于增强现实的室内导航系统
US11915353B2 (en) Display of a live scene and auxiliary object
US10760922B2 (en) Augmented reality maps
US11698268B2 (en) Street-level guidance via route path
US10636185B2 (en) Information processing apparatus and information processing method for guiding a user to a vicinity of a viewpoint
US20130162665A1 (en) Image view in mapping
US10868977B2 (en) Information processing apparatus, information processing method, and program capable of adaptively displaying a video corresponding to sensed three-dimensional information
US9459115B1 (en) Unobstructed map navigation using animation
JP2009020089A (ja) ナビゲーション装置、ナビゲーション方法、及びナビゲーション用プログラム
CN110392908A (zh) 用于生成地图数据的电子设备及其操作方法
US20230252689A1 (en) Map driven augmented reality
CN112987782A (zh) 飞行控制方法和装置
EP3827222B1 (en) Method and device for navigating two or more users to a meeting location
US11656089B2 (en) Map driven augmented reality
JP6849331B2 (ja) デバイス及びコンピュータプログラム
US11726740B2 (en) Immersive audio tours
Adya et al. Augmented Reality in Indoor Navigation
JP2023077070A (ja) 現実空間に対するヴァーチャル空間の位置合わせ方法
CN115239917A (zh) 信息处理装置、信息处理系统、信息处理方法及终端装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant