CN117274558B - 一种视觉定位的ar导航方法、装置、设备及存储介质 - Google Patents
一种视觉定位的ar导航方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN117274558B CN117274558B CN202311559848.3A CN202311559848A CN117274558B CN 117274558 B CN117274558 B CN 117274558B CN 202311559848 A CN202311559848 A CN 202311559848A CN 117274558 B CN117274558 B CN 117274558B
- Authority
- CN
- China
- Prior art keywords
- real
- library
- image
- user
- panoramic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000000007 visual effect Effects 0.000 title claims abstract description 43
- 238000000034 method Methods 0.000 title claims abstract description 42
- 238000009877 rendering Methods 0.000 claims abstract description 17
- 230000004807 localization Effects 0.000 claims description 21
- 238000000605 extraction Methods 0.000 claims description 10
- 238000012952 Resampling Methods 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 4
- 239000011159 matrix material Substances 0.000 description 3
- 230000003190 augmentative effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000010924 continuous production Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/20—Instruments for performing navigational calculations
- G01C21/206—Instruments for performing navigational calculations specially adapted for indoor navigation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/005—General purpose rendering architectures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/04—Indexing scheme for image data processing or generation, in general involving 3D image data
Landscapes
- Engineering & Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Graphics (AREA)
- Theoretical Computer Science (AREA)
- Architecture (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Automation & Control Theory (AREA)
- Processing Or Creating Images (AREA)
Abstract
本发明涉及一种视觉定位的AR导航方法、装置、设备及存储介质,该方法包括:获取目标场景的全景视频,根据所述全景视频生成全景影像库和透视影像库;根据所述全景影像库和所述透视影像库建立透视影像三维模型和轻量特征库;通过所述透视影像三维模型、用户实时图像数据和所述轻量特征库确定用户实时位姿信息;根据所述实时位姿信息和预设的目标点信息渲染指示标志进行AR导航。本发明根据用户实时图像数据和轻量特征库可以快速进行特征对比,减少了特征对比时间,再通过透视影像三维模型可以确定用户实时位姿信息,从而渲染出用户当前位置前往预设的目标点位置的指示标志,实现实时对用户进行AR导航,不需要建立WIFI基站网络或蓝牙信标。
Description
技术领域
在本发明涉及AR导航技术领域,尤其涉及一种视觉定位的AR导航方法、装置、设备及存储介质。
背景技术
增强现实(Augmented Reality,简称AR),是通过计算机系统提供的信息增加用户对现实世界感知的技术,将虚拟的信息应用到真实世界,并将计算机生成的虚拟物体、场景或系统提示信息叠加到真实场景中,从而实现对现实的增强,通过AR导航的方法已被广泛应用到多种室内场景的导航中。
为了实现室内环境下的精确定位和导航,WIFI定位、蓝牙定位等替代技术开始流行,通过在室内中建立对应的WIFI基站网络或蓝牙信标来确定目标所处的位置,并根据提前获取的室内环境规划路线并进行导航相关提示。
但是,现有技术中的这类定位方法通常需要在室内建立多个WIFI基站网络或蓝牙信标,通过设备扫描WIFI或蓝牙信号来确定位置,这类方法往往需要基础设施的配置和信号的准确标定,在定位导航过程中有一定的局限性。
发明内容
有鉴于此,有必要提供一种视觉定位的AR导航方法、装置、设备及存储介质,用以解决现有技术中需要在室内建立多个WIFI基站网络或蓝牙信标并对信号准确标定,在定位导航的过程有一定局限性的问题。
为达到上述技术目的,本发明采取了以下技术方案:
第一方面,本发明提供了一种视觉定位的AR导航方法,包括:
获取目标场景的全景视频,根据全景视频生成全景影像库和透视影像库;
根据全景影像库和透视影像库建立透视影像三维模型和轻量特征库;
通过透视影像三维模型、用户实时图像数据和轻量特征库确定用户实时位姿信息;
根据实时位姿信息和预设的目标点信息渲染指示标志进行AR导航。
在一些可能的实现方式中,根据全景影像库和透视影像库建立透视影像三维模型和轻量特征库,包括:
对全景影像库进行空三处理得到全景影像三维参数;
根据全景影像三维参数、全景影像库和透视影像库确定透视影像三维参数;
基于透视影像三维参数建立透视影像三维模型;
对全景影像库进行特征提取建立轻量特征库。
在一些可能的实现方式中,通过透视影像三维模型、用户实时图像数据和轻量特征库确定用户实时位姿信息,包括:
获取用户实时图像数据,从用户实时图像数据提取出实时图像特征;
根据透视影像三维模型、实时图像特征和轻量特征库确定用户实时位姿信息。
在一些可能的实现方式中,获取用户实时图像数据,从用户实时图像数据提取出实时图像特征,包括:
对用户实时图像数据重采样得到预设尺寸的实时图像数据;
从预设尺寸的实时图像数据进行特征提取得到实时图像特征。
在一些可能的实现方式中,根据透视影像三维模型、实时图像特征和轻量特征库确定用户实时位姿信息,包括:
将实时图像特征和轻量特征库进行特征对比得到实时影像匹配特征集;
根据实时影像匹配特征集和透视影像三维模型确定用户实时位姿信息。
在一些可能的实现方式中,根据实时位姿信息和预设的目标点信息渲染指示标志进行AR导航,包括:
根据实时位姿信息确定用户坐标位置和用户朝向;
根据用户坐标位置、用户朝向和预设的目标点信息确定用户前进方向;
根据用户前进方向在用户实时图像数据中渲染指示标志进行AR导航。
在一些可能的实现方式中,获取目标场景的全景视频,根据全景视频生成全景影像库和透视影像库,包括:
对目标场景进行全景摄像得到目标场景的全景视频;
以预设频率对全景视频进行抽帧处理生成全景影像库和透视影像库。
第二方面,本发明还提供了一种视觉定位的AR导航装置,包括:
影像库生成模块,用于获取目标场景的全景视频,根据全景视频生成全景影像库和透视影像库;
影像三维模型和特征库建立模块,用于根据全景影像库和透视影像库建立透视影像三维模型和轻量特征库;
位姿确定模块,用于通过透视影像三维模型、用户实时图像数据和轻量特征库确定用户实时位姿信息;
AR导航模块,用于根据实时位姿信息和预设的目标点信息渲染指示标志进行AR导航。
第三方面,本发明还提供了一种视觉定位的AR导航设备,包括存储器和处理器,其中,
存储器,用于存储程序;
处理器,与存储器耦合,用于执行存储器中存储的程序,以实现上述任一种实现方式中的视觉定位的AR导航方法中的步骤。
第四方面,本发明还提供了一种计算机可读存储介质,用于存储计算机可读取的程序或指令,程序或指令被处理器执行时,能够实现上述任一种实现方式中的视觉定位的AR导航方法中的步骤。
采用上述实施例的有益效果是:本发明涉及一种视觉定位的AR导航方法、装置、设备及存储介质,该方法包括:获取目标场景的全景视频,根据所述全景视频生成全景影像库和透视影像库;根据所述全景影像库和所述透视影像库建立透视影像三维模型和轻量特征库;通过所述透视影像三维模型、用户实时图像数据和所述轻量特征库确定用户实时位姿信息;根据所述实时位姿信息和预设的目标点信息渲染指示标志进行AR导航。本发明获取目标场景的全景视频,根据全景视频生成全景影像库和透视影像库,由此建立透视影像三维模型和轻量特征库,然后将采集的用户实时图像数据和轻量特征库快速进行特征对比,只对轻量特征进行对比减少了特征对比时间,再通过透视影像三维模型可以确定用户实时位姿信息,从而渲染出用户当前位置前往预设的目标点位置的指示标志,实现实时对用户进行AR导航,不需要建立WIFI基站网络或蓝牙信标。
附图说明
图1为本发明提供的视觉定位的AR导航方法的一实施例的流程示意图;
图2为本发明提供的图1中步骤S102的一实施例的流程示意图;
图3为本发明提供的图1中步骤S104的一实施例的流程示意图;
图4为本发明提供的视觉定位的AR导航装置的一实施例的结构示意图;
图5为本发明实施例提供的视觉定位的AR导航设备的结构示意图。
具体实施方式
下面结合附图来具体描述本发明的优选实施例,其中,附图构成本申请一部分,并与本发明的实施例一起用于阐释本发明的原理,并非用于限定本发明的范围。
在本申请的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本发明的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其他实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其他实施例相结合。
本发明提供了一种视觉定位的AR导航方法、装置、设备及存储介质,以下分别进行说明。
请参阅图1,图1为本发明提供的视觉定位的AR导航方法的一实施例的流程示意图,本发明的一个具体实施例,公开了一种视觉定位的AR导航方法,包括:
S101、获取目标场景的全景视频,根据全景视频生成全景影像库和透视影像库;
S102、根据全景影像库和透视影像库建立透视影像三维模型和轻量特征库;
S103、通过透视影像三维模型、用户实时图像数据和轻量特征库确定用户实时位姿信息;
S104、根据实时位姿信息和预设的目标点信息渲染指示标志进行AR导航。
在上述实施例中,本发明的目标场景以博物馆为例进行说明,为了获取用户实时图像数据,本发明将用户手机作为移动端采集用户实时图像数据,以电脑作为服务端根据用户实时图像数据和预设的目标点信息进行渲染,实现对用户的AR导航。
透视影像库通过全景影像库投影得到,本发明中的全景影像库为360度全景影像,而透视影像库通过特定角度的投影得到,通过全景影像库和透视影像库逐步确定透视影像的三维参数,从而建立透视影像三维模型,全景影像库具有大量的图像数据,通过提取其中的特征以减少后续的特征对比时间,提高识别效率,只需要部分典型特征就可以实现,因此,建立的特征库为轻量特征库,而不需要大量的特征。
对用户实时图像数据进行处理后,与轻量特征库进行特征对比,通过典型特征快速完成对比,确定用户所处的位置,再结合透视影像三维模型确定用户实时位姿信息,用户实时位姿信息包含了位置信息和姿态信息,通过位置信息可以了解移动端所处的具体位置,通过姿态信息可以了解移动端的朝向姿态。
在确定了实时位姿信息后,根据预设的目标点信息确定用户需要如何才能前往预设的目标点,不仅需要考虑前进的路线,还需要考虑方向,通过渲染在用户实时图像数据上直接显示指示标志,指示标志一般是指引箭头,通过指引箭头指导用户前进方向。
与现有技术相比,本实施例提供的一种视觉定位的AR导航方法,该方法包括:获取目标场景的全景视频,根据所述全景视频生成全景影像库和透视影像库;根据所述全景影像库和所述透视影像库建立透视影像三维模型和轻量特征库;通过所述透视影像三维模型、用户实时图像数据和所述轻量特征库确定用户实时位姿信息;根据所述实时位姿信息和预设的目标点信息渲染指示标志进行AR导航。本发明获取目标场景的全景视频,根据全景视频生成全景影像库和透视影像库,由此建立透视影像三维模型和轻量特征库,然后将采集的用户实时图像数据和轻量特征库快速进行特征对比,只对轻量特征进行对比减少了特征对比时间,再通过透视影像三维模型可以确定用户实时位姿信息,从而渲染出用户当前位置前往预设的目标点位置的指示标志,实现实时对用户进行AR导航,不需要建立WIFI基站网络或蓝牙信标。
请参阅图2,图2为本发明提供的图1中步骤S102的一实施例的流程示意图,在本发明的一些实施例中,根据全景影像库和透视影像库建立透视影像三维模型和轻量特征库,包括:
S201、对全景影像库进行空三处理得到全景影像三维参数;
S202、根据全景影像三维参数、全景影像库和透视影像库确定透视影像三维参数;
S203、基于透视影像三维参数建立透视影像三维模型;
S204、对全景影像库进行特征提取建立轻量特征库。
在上述实施例中,空三处理也即Sfm增量重建,其实是通过若干二维图像及其每两张图片之间的同名点关系,还原出二维图像同名点的三维坐标。首先,从每个图像中提取关键点和特征描述子。然后,通过比较这些特征,将不同图像中对应的特征匹配在一起,以确定它们在三维空间中的位置。然后进行摄像机姿态估计,通过匹配的特征点,计算每个图像的摄像机姿态,包括相机的位置和方向。这有助于确定每个图像的拍摄视角和位置。再进行三维点云重建,通过匹配的特征点和已知的摄像机姿态,估计场景中的空间点的位置。这些点的集合形成了一个表示场景结构的三维点云。最后进行增量更新,在处理更多图像时,将新的图像与之前的图像集成,以进一步精确地估计三维场景的结构和摄像机姿态。这包括继续提取特征、匹配特征、估计新摄像机姿态和添加新的三维点,从而得到了全景影像三维参数。
影像的三维参数包括影像的内参与外参,外参通常是指旋转平移矩阵和图像的成像中心的坐标:旋转矩阵:相机坐标系相对于世界坐标系的旋转关系;平移矩阵:相机坐标系相对于世界坐标系的平移;成像中心坐标:相机的光学中心在世界坐标系中的位置。内参是指与相机的成像设备本身相关的参数,包括:焦距:相机镜头的焦距;像主点:成像平面的光学中心,通常位于图像的中心;像元大小:相机传感器上每个像素的实际尺寸;畸变参数:用于描述镜头的畸变。
由于透视影像库与拍摄的照片、视频更为相似,更容易根据用户实时图像数据确定用户实时位姿信息,全景影像库和透视影像库之间存在投影关系,根据他们之间的投影关系和全景影像三维参数转化得到透视影像三维参数,利用透视影像三维参数建立透视影像三维模型可以得到博物馆所有位置的透视影像三维坐标。
在本发明的一些实施例中,通过透视影像三维模型、用户实时图像数据和轻量特征库确定用户实时位姿信息,包括:
获取用户实时图像数据,从用户实时图像数据提取出实时图像特征;
根据透视影像三维模型、实时图像特征和轻量特征库确定用户实时位姿信息。
在上述实施例中,通过移动端可以拍摄用户实时图像数据,移动端也可以与服务端进行通信,移动端在获取用户实时图像数据后,将用户实时图像数据发送至服务端进行处理,由服务端通过透视影像三维模型、实时图像特征和轻量特征库确定用户实时位姿信息,然后将用户实时位姿信息发送回移动端。
在本发明的一些实施例中,获取用户实时图像数据,从用户实时图像数据提取出实时图像特征,包括:
对用户实时图像数据重采样得到预设尺寸的实时图像数据;
从预设尺寸的实时图像数据进行特征提取得到实时图像特征。
在上述实施例中,由于摄像头的像素越来越高,移动端所拍摄的图片也越来越大,如果将直接将拍摄到的图片传递给服务器,将造成严重的网络负担,而在本发明的定位过程中,对图片的像素要求并不高,因此在移动端对图片做重采样操作得到预设尺寸的实时图像数据,再将采样后的预设尺寸的实时图像数据传递给服务端,由服务端提取出实时图像特征。
需要说明的是,预设尺寸可以根据实际需要进行选择,本发明对此不做进一步限制。进行特征提取的方法已有多种现有技术可以实现,本发明对此不做过多赘述。
在本发明的一些实施例中,根据透视影像三维模型、实时图像特征和轻量特征库确定用户实时位姿信息,包括:
将实时图像特征和轻量特征库进行特征对比得到实时影像匹配特征集;
根据实时影像匹配特征集和透视影像三维模型确定用户实时位姿信息。
在上述实施例中,通过增量式Sfm重建快速将实时图像特征放入透视影像三维模型中获取得到实时图像特征对应的位姿信息。Sfm增量式重建允许在每次获取新的用户实时图像数据时,仅使用新增的用户实时图像数据来更新现有的重建结果,而无需重新处理之前的所有数据。
在更新重建结果时,由于不知道用户实时图像数据与全局影像库中图片的关系,需要将实时影像与全局影像库中的所有图片逐一对比,再重建获取得到用户实时位姿信息。但在实际情况下,实时影像用户实时图像数据只会与它附近的影像有重复区域,而其他影像在重建过程中是不起作用的,为了提高重建效率以及提高导航速率,需要剔除这些不起作用的影像。因此需要将用户实时图像数据提取的实时图像特征与全局影像库建立的轻量特征库的特征进行比对,从而找出与该实时影像最为相似的若干张影像,再进行重建,并结合透视影像三维模型实现快速的获取用户实时位姿信息。
请参阅图3,图3为本发明提供的图1中步骤S104的一实施例的流程示意图,在本发明的一些实施例中,根据实时位姿信息和预设的目标点信息渲染指示标志进行AR导航,包括:
S301、根据实时位姿信息确定用户坐标位置和用户朝向;
S302、根据用户坐标位置、用户朝向和预设的目标点信息确定用户前进方向;
S303、根据用户前进方向在用户实时图像数据中渲染指示标志进行AR导航。
在上述实施例中,用户可以在移动端上直接设置预设的目标点,根据用户设置的预设的目标点获取目标点的信息,主要是目标点的位置信息,可以理解的是,用户可以任意设置和更改目标点。
获取到用户的实时位姿信息后可以了解用户坐标位置和用户朝向,通过用户的坐标位置可以规划用户前往预设的目标点位置的路径,通过用户朝向可以确定用户当前前进的方向。
根据用户的实时位姿信息与用户实时图像数据进行叠加导航,为了在AR导航过程中给予用户足够的交互体验,需要在移动端将实时位姿信息与用户实时图像数据叠加,从而为用户提供AR导航的功能。首先,需要通过服务端返回的实时位姿信息判断用户所在位置以及移动端所面向方向,根据用户的实时位姿信息与预设的目标点的相对信息,获取到用户下一步前进方向以及在实时影像中需要叠加的指示标志;再将需要叠加的指示标志叠加到实时影像中。
需要说明的是,导航应该是一个连续的过程,需要实时根据用户获取的用户实时图像数据不断重新规划用户的路线,从而实现对用户的AR导航,因此当完成一次实时影像数据的导航后,需要对一张新的实时影像数据进行处理,实现对新的实时影像数据的AR导航,从而为用于持续且稳定的高精度将用户导航至预设的目标点处。
在本发明的一些实施例中,获取目标场景的全景视频,根据全景视频生成全景影像库和透视影像库,包括:
对目标场景进行全景摄像得到目标场景的全景视频;
以预设频率对全景视频进行抽帧处理生成全景影像库和透视影像库。
在上述实施例中,本发明采用全景相机对博物馆内进行全景摄像得到博物馆的全景视频,该全景视频为360度的全景视频,需要对全景视频按一定频率进行抽帧并投影为若干张固定视角的投影图,也就得到了全景影像库和透视影像库。
需要说明的是,预设频率可以根据实际需要进行设置,本发明对此不做进一步限制。
为了更好实施本发明实施例中的视觉定位的AR导航方法,在视觉定位的AR导航方法基础之上,对应地,请参阅图4,图4为本发明提供的视觉定位的AR导航装置的一实施例的结构示意图,本发明实施例提供了一种视觉定位的AR导航装置400,包括:
影像库生成模块410,用于获取目标场景的全景视频,根据全景视频生成全景影像库和透视影像库;
影像三维模型和特征库建立模块420,用于根据全景影像库和透视影像库建立透视影像三维模型和轻量特征库;
位姿确定模块430,用于通过透视影像三维模型、用户实时图像数据和轻量特征库确定用户实时位姿信息;
AR导航模块440,用于根据实时位姿信息和预设的目标点信息渲染指示标志进行AR导航。
这里需要说明的是:上述实施例提供的装置400可实现上述各方法实施例中描述的技术方案,上述各模块或单元具体实现的原理可参见上述方法实施例中的相应内容,此处不再赘述。
请参阅图5,图5为本发明实施例提供的视觉定位的AR导航设备的结构示意图。基于上述视觉定位的AR导航方法,本发明还相应提供了一种视觉定位的AR导航设备,视觉定位的AR导航设备可以是移动终端、桌上型计算机、笔记本、掌上电脑及服务器等计算设备。该视觉定位的AR导航设备500包括处理器510、存储器520及显示器530。图5仅示出了视觉定位的AR导航设备的部分组件,但是应理解的是,并不要求实施所有示出的组件,可以替代地实施更多或者更少的组件。
存储器520在一些实施例中可以是视觉定位的AR导航设备500的内部存储单元,例如视觉定位的AR导航设备500的硬盘或内存。存储器520在另一些实施例中也可以是视觉定位的AR导航设备500的外部存储设备,例如视觉定位的AR导航设备500上配备的插接式硬盘,智能存储卡(Smart Media Card, SMC),安全数字(Secure Digital, SD)卡,闪存卡(Flash Card)等。进一步地,存储器520还可以既包括视觉定位的AR导航设备500的内部存储单元也包括外部存储设备。存储器520用于存储安装于视觉定位的AR导航设备500的应用软件及各类数据,例如安装视觉定位的AR导航设备500的程序代码等。存储器520还可以用于暂时的存储已经输出或者将要输出的数据。在一实施例中,存储器520上存储有视觉定位的AR导航程序540,该视觉定位的AR导航程序540可被处理器510所执行,从而实现本申请各实施例的视觉定位的AR导航方法。
处理器510在一些实施例中可以是一中央处理器(Central Processing Unit,CPU),微处理器或其他数据处理芯片,用于运行存储器520中存储的程序代码或处理数据,例如执行视觉定位的AR导航方法等。
显示器530在一些实施例中可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。显示器530用于显示在视觉定位的AR导航设备500的信息以及用于显示可视化的用户界面。视觉定位的AR导航设备500的部件510-530通过系统总线相互通信。
在一实施例中,当处理器510执行存储器520中视觉定位的AR导航程序540时实现如上的视觉定位的AR导航方法中的步骤。
本实施例还提供了一种计算机可读存储介质,其上存储有视觉定位的AR导航程序,该视觉定位的AR导航程序被处理器执行时实现以下步骤:
获取目标场景的全景视频,根据全景视频生成全景影像库和透视影像库;
根据全景影像库和透视影像库建立透视影像三维模型和轻量特征库;
通过透视影像三维模型、用户实时图像数据和轻量特征库确定用户实时位姿信息;
根据实时位姿信息和预设的目标点信息渲染指示标志进行AR导航。
综上,本实施例提供的一种视觉定位的AR导航方法、装置、设备及存储介质,该方法包括:获取目标场景的全景视频,根据所述全景视频生成全景影像库和透视影像库;根据所述全景影像库和所述透视影像库建立透视影像三维模型和轻量特征库;通过所述透视影像三维模型、用户实时图像数据和所述轻量特征库确定用户实时位姿信息;根据所述实时位姿信息和预设的目标点信息渲染指示标志进行AR导航。本发明获取目标场景的全景视频,根据全景视频生成全景影像库和透视影像库,由此建立透视影像三维模型和轻量特征库,然后将采集的用户实时图像数据和轻量特征库快速进行特征对比,只对轻量特征进行对比减少了特征对比时间,再通过透视影像三维模型可以确定用户实时位姿信息,从而渲染出用户当前位置前往预设的目标点位置的指示标志,实现实时对用户进行AR导航,不需要建立WIFI基站网络或蓝牙信标。
以上所述,仅为本发明较佳的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本发明的保护范围之内。
Claims (8)
1.一种视觉定位的AR导航方法,其特征在于,包括:
获取目标场景的全景视频,根据所述全景视频生成全景影像库和透视影像库;
根据所述全景影像库和所述透视影像库建立透视影像三维模型和轻量特征库;
通过所述透视影像三维模型、用户实时图像数据和所述轻量特征库确定用户实时位姿信息;
根据所述实时位姿信息和预设的目标点信息渲染指示标志进行AR导航;
其中,所述根据所述全景影像库和所述透视影像库建立透视影像三维模型和轻量特征库,包括:
对所述全景影像库进行空三处理得到全景影像三维参数;
根据所述全景影像三维参数、所述全景影像库和所述透视影像库确定透视影像三维参数;
基于所述透视影像三维参数建立透视影像三维模型;
对所述全景影像库进行特征提取建立轻量特征库;
其中,所述获取目标场景的全景视频,根据所述全景视频生成全景影像库和透视影像库,包括:
对目标场景进行全景摄像得到目标场景的全景视频;
以预设频率对所述全景视频进行抽帧处理生成全景影像库和透视影像库;
所述透视影像库通过所述全景影像库投影得到。
2.根据权利要求1所述的视觉定位的AR导航方法,其特征在于,所述通过所述透视影像三维模型、用户实时图像数据和所述轻量特征库确定用户实时位姿信息,包括:
获取用户实时图像数据,从所述用户实时图像数据提取出实时图像特征;
根据所述透视影像三维模型、所述实时图像特征和所述轻量特征库确定用户实时位姿信息。
3.根据权利要求2所述的视觉定位的AR导航方法,其特征在于,所述获取用户实时图像数据,从所述用户实时图像数据提取出实时图像特征,包括:
对所述用户实时图像数据重采样得到预设尺寸的实时图像数据;
从所述预设尺寸的实时图像数据进行特征提取得到实时图像特征。
4.根据权利要求2所述的视觉定位的AR导航方法,其特征在于,所述根据所述透视影像三维模型、所述实时图像特征和所述轻量特征库确定用户实时位姿信息,包括:
将所述实时图像特征和所述轻量特征库进行特征对比得到实时影像匹配特征集;
根据所述实时影像匹配特征集和所述透视影像三维模型确定用户实时位姿信息。
5.根据权利要求1所述的视觉定位的AR导航方法,其特征在于,所述根据所述实时位姿信息和预设的目标点信息渲染指示标志进行AR导航,包括:
根据所述实时位姿信息确定用户坐标位置和用户朝向;
根据所述用户坐标位置、所述用户朝向和所述预设的目标点信息确定用户前进方向;
根据所述用户前进方向在所述用户实时图像数据中渲染指示标志进行AR导航。
6.一种视觉定位的AR导航装置,其特征在于,包括:
影像库生成模块,用于获取目标场景的全景视频,根据所述全景视频生成全景影像库和透视影像库;
影像三维模型和特征库建立模块,用于根据所述全景影像库和所述透视影像库建立透视影像三维模型和轻量特征库;
位姿确定模块,用于通过所述透视影像三维模型、用户实时图像数据和所述轻量特征库确定用户实时位姿信息;
AR导航模块,用于根据所述实时位姿信息和预设的目标点信息渲染指示标志进行AR导航;
其中,所述根据所述全景影像库和所述透视影像库建立透视影像三维模型和轻量特征库,包括:
对所述全景影像库进行空三处理得到全景影像三维参数;
根据所述全景影像三维参数、所述全景影像库和所述透视影像库确定透视影像三维参数;
基于所述透视影像三维参数建立透视影像三维模型;
对所述全景影像库进行特征提取建立轻量特征库;
其中,所述获取目标场景的全景视频,根据所述全景视频生成全景影像库和透视影像库,包括:
对目标场景进行全景摄像得到目标场景的全景视频;
以预设频率对所述全景视频进行抽帧处理生成全景影像库和透视影像库;
所述透视影像库通过所述全景影像库投影得到。
7.一种视觉定位的AR导航设备,其特征在于,包括存储器和处理器,其中,
所述存储器,用于存储程序;
所述处理器,与所述存储器耦合,用于执行所述存储器中存储的所述程序,以实现上述权利要求1至5中任一项所述视觉定位的AR导航方法中的步骤。
8.一种计算机可读存储介质,其特征在于,用于存储计算机可读取的程序或指令,所述程序或指令被处理器执行时,能够实现上述权利要求1至5中任一项所述视觉定位的AR导航方法中的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311559848.3A CN117274558B (zh) | 2023-11-22 | 2023-11-22 | 一种视觉定位的ar导航方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311559848.3A CN117274558B (zh) | 2023-11-22 | 2023-11-22 | 一种视觉定位的ar导航方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117274558A CN117274558A (zh) | 2023-12-22 |
CN117274558B true CN117274558B (zh) | 2024-02-13 |
Family
ID=89208455
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311559848.3A Active CN117274558B (zh) | 2023-11-22 | 2023-11-22 | 一种视觉定位的ar导航方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117274558B (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111947663A (zh) * | 2020-08-07 | 2020-11-17 | 山东金东数字创意股份有限公司 | 视觉定位数字地图ar导航系统和方法 |
CN112070906A (zh) * | 2020-08-31 | 2020-12-11 | 北京市商汤科技开发有限公司 | 一种增强现实系统及增强现实数据的生成方法、装置 |
CN113340312A (zh) * | 2021-08-05 | 2021-09-03 | 中铁建工集团有限公司 | 一种ar室内实景导航方法及系统 |
CN114202819A (zh) * | 2021-11-29 | 2022-03-18 | 山东恒创智控科技有限公司 | 一种基于机器人的变电站巡检方法、系统及计算机 |
EP4105604A1 (en) * | 2021-06-16 | 2022-12-21 | Beijing Xiaomi Mobile Software Co., Ltd. | Indoor navigation method, equipment, storage medium and program product |
CN116858215A (zh) * | 2023-09-05 | 2023-10-10 | 武汉大学 | 一种ar导航地图生成方法及装置 |
-
2023
- 2023-11-22 CN CN202311559848.3A patent/CN117274558B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111947663A (zh) * | 2020-08-07 | 2020-11-17 | 山东金东数字创意股份有限公司 | 视觉定位数字地图ar导航系统和方法 |
CN112070906A (zh) * | 2020-08-31 | 2020-12-11 | 北京市商汤科技开发有限公司 | 一种增强现实系统及增强现实数据的生成方法、装置 |
EP4105604A1 (en) * | 2021-06-16 | 2022-12-21 | Beijing Xiaomi Mobile Software Co., Ltd. | Indoor navigation method, equipment, storage medium and program product |
CN113340312A (zh) * | 2021-08-05 | 2021-09-03 | 中铁建工集团有限公司 | 一种ar室内实景导航方法及系统 |
CN114202819A (zh) * | 2021-11-29 | 2022-03-18 | 山东恒创智控科技有限公司 | 一种基于机器人的变电站巡检方法、系统及计算机 |
CN116858215A (zh) * | 2023-09-05 | 2023-10-10 | 武汉大学 | 一种ar导航地图生成方法及装置 |
Non-Patent Citations (5)
Title |
---|
An ORB-SLAM3 Autonomous Positioning and Orientation Approach using 360-degree Panoramic Video;Xinge Zhao等;2022 29th International Conference on Geoinformatics;第1-7页 * |
PanoVPR: Towards Unified Perspective-to-Equirectangular Visual Place Recognition via SlidingWindows across the Panoramic View;Ze Shi等;arXiv;第1-10页 * |
Scene Visual Perception and AR Navigation Applications;P.Lu等;ZTE Communications;第81-88页 * |
基于先验地图的视觉重定位方法综述;蔡旭东等;软件学报;第1-35页 * |
视觉激光匹配导航技术及其应用;高扬等;现代导航;第313-318页 * |
Also Published As
Publication number | Publication date |
---|---|
CN117274558A (zh) | 2023-12-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11393173B2 (en) | Mobile augmented reality system | |
US11270460B2 (en) | Method and apparatus for determining pose of image capturing device, and storage medium | |
CN111325796B (zh) | 用于确定视觉设备的位姿的方法和装置 | |
CN108805917B (zh) | 空间定位的方法、介质、装置和计算设备 | |
WO2019242262A1 (zh) | 基于增强现实的远程指导方法、装置、终端和存储介质 | |
JP4512584B2 (ja) | イメージマッチング速度とブレンディング方法を改善したパノラマ映像提供方法および装置 | |
CN111127524A (zh) | 一种轨迹跟踪与三维重建方法、系统及装置 | |
US20140192055A1 (en) | Method and apparatus for displaying video on 3d map | |
JP2014071850A (ja) | 画像処理装置、端末装置、画像処理方法、およびプログラム | |
KR20140082610A (ko) | 휴대용 단말을 이용한 증강현실 전시 콘텐츠 재생 방법 및 장치 | |
US20220067968A1 (en) | Motion capture calibration using drones with multiple cameras | |
CN109754464B (zh) | 用于生成信息的方法和装置 | |
CN108430032B (zh) | 一种实现vr/ar设备位置共享的方法及设备 | |
WO2017113729A1 (zh) | 360度图像加载方法、加载模块及移动终端 | |
CN109034214B (zh) | 用于生成标记的方法和装置 | |
CN116858215B (zh) | 一种ar导航地图生成方法及装置 | |
CN112270242B (zh) | 轨迹的显示方法、装置、可读介质和电子设备 | |
CN117274558B (zh) | 一种视觉定位的ar导航方法、装置、设备及存储介质 | |
CN109816791B (zh) | 用于生成信息的方法和装置 | |
CN114089836B (zh) | 标注方法、终端、服务器和存储介质 | |
CN112312041B (zh) | 基于拍摄的图像校正方法、装置、电子设备及存储介质 | |
CN113160309B (zh) | 基于地面线的全景图定位定姿方法、系统、设备及介质 | |
CN116136408A (zh) | 室内导航方法、服务器、装置和终端 | |
CN108986183B (zh) | 一种全景地图的制作方法 | |
CN114723923B (zh) | 一种传动解决方案模拟展示系统和方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |