CN113483774A - 导航方法、装置、电子设备及可读存储介质 - Google Patents

导航方法、装置、电子设备及可读存储介质 Download PDF

Info

Publication number
CN113483774A
CN113483774A CN202110731641.4A CN202110731641A CN113483774A CN 113483774 A CN113483774 A CN 113483774A CN 202110731641 A CN202110731641 A CN 202110731641A CN 113483774 A CN113483774 A CN 113483774A
Authority
CN
China
Prior art keywords
image
navigation
vehicle
live
real
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110731641.4A
Other languages
English (en)
Other versions
CN113483774B (zh
Inventor
邓苏南
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apollo Zhilian Beijing Technology Co Ltd
Original Assignee
Apollo Zhilian Beijing Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Apollo Zhilian Beijing Technology Co Ltd filed Critical Apollo Zhilian Beijing Technology Co Ltd
Priority to CN202110731641.4A priority Critical patent/CN113483774B/zh
Publication of CN113483774A publication Critical patent/CN113483774A/zh
Priority to PCT/CN2021/125858 priority patent/WO2023273036A1/zh
Application granted granted Critical
Publication of CN113483774B publication Critical patent/CN113483774B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/3453Special cost functions, i.e. other than distance or default speed limit of road segments
    • G01C21/3476Special cost functions, i.e. other than distance or default speed limit of road segments using point of interest [POI] information, e.g. a route passing visible POIs
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3626Details of the output of route guidance instructions
    • G01C21/3635Guidance using 3D or perspective road maps
    • G01C21/3638Guidance using 3D or perspective road maps including 3D objects and buildings
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3626Details of the output of route guidance instructions
    • G01C21/3644Landmark guidance, e.g. using POIs or conspicuous other objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Navigation (AREA)

Abstract

本公开提供了导航方法、装置、电子设备及可读存储介质,涉及车联网技术领域,尤其涉及导航技术领域。具体实现方案为:通过获取实景图像以及导航相关信息,对所述实景图像中的目标对象进行识别,将所述目标对象与所述导航相关信息进行匹配,得到匹配结果,基于所述匹配结果生成导航内容。由于是基于目标对象与导航相关信息的匹配结果生成导航内容,使得导航内容能够与实景图像较好的结合,从而保证AR导航的效果。

Description

导航方法、装置、电子设备及可读存储介质
技术领域
本公开涉及车联网技术领域,尤其涉及导航技术领域,具体而言,本公开涉及一种导航方法、装置、电子设备及可读存储介质。
背景技术
随着增强现实(Augmented Reality,AR)技术的应用越来越广泛,用户对AR应用的接受程度也越来越高。AR技术的重要应用场景之一在于实现AR导航。
AR导航时可以将虚拟的3D导航指引模型显示在实景之上,给用户以增强现实的使用感受。如何保证AR导航中虚景与实景的结合效果,是AR导航领域中的一个重要技术问题。
发明内容
本公开为了解决上述缺陷中的至少一项,提供了一种导航方法、装置、电子设备及可读存储介质。
根据本公开的第一方面,提供了一种导航方法,该方法包括:
获取实景图像以及导航相关信息;
对所述实景图像中的目标对象进行识别;
将所述目标对象与所述导航相关信息进行匹配,得到匹配结果;
基于所述匹配结果生成导航内容。根据本公开的第二方面,提供了一种导航装置,该装置包括:
数据获取模块,用于获取实景图像以及导航相关信息;
对象识别模块,用于对所述实景图像中的目标对象进行识别;
匹配模块,用于将所述目标对象与所述导航相关信息进行匹配,得到匹配结果;
导航内容生成模块,用于基于所述匹配结果生成导航内容。
根据本公开的第三方面,提供了一种电子设备,该电子设备包括:
至少一个处理器;以及
与上述至少一个处理器通信连接的存储器;其中,
存储器存储有可被上述至少一个处理器执行的指令,指令被上述至少一个处理器执行,以使上述至少一个处理器能够执行上述导航方法。
根据本公开的第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,该计算机指令用于使计算机执行上述导航方法。
根据本公开的第五方面,提供了一种计算机程序产品,包括计算机程序,该计算机程序在被处理器执行时实现上述导航方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
本公开提供的技术方案带来的有益效果是:
本公开实施例提供的方案,通过获取实景图像以及导航相关信息,对实景图像中的目标对象进行识别,将目标对象与导航相关信息进行匹配,得到匹配结果,基于匹配结果生成导航内容。由于是基于目标对象与导航相关信息的匹配结果生成导航内容,使得导航内容能够与实景图像较好的结合,从而保证AR导航的效果。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是本公开实施例提供的一种导航方法的流程示意图;
图2是本公开实施例提供的另一种导航方法的流程示意图;
图3是本公开实施例提供的一种导航系统的结构示意图;
图4是根据本公开提供的一种导航装置的结构示意图;
图5是根据本公开提供的另一种导航装置的结构示意图;
图6是用来实现本公开实施例的导航方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
现有的AR导航一般投射在车机屏幕或者抬头显示器(Augmented Reality HeadUp Display,AR HUD)上,现有方式中存在一定的缺陷,影响用户的使用体验。
对于投射车机屏幕上的AR导航:导航信息并没有与实景融合,而是与视频做融合,本质上不算真正的实景叠加,且驾驶人员需要低头看屏幕获取导航信息。
对于显示在AR HUD上的AR导航:AR HUD能够实现的视场角(FOV)较小,强光下画面的对比度严重下降,且HUD投射的视窗(eyebox)相对固定,脱离一定的视窗,就看不到完整的画面。
如果能够将AR导航内容投射在MR眼镜上,就能够克服上述将AR导航投射在车机屏幕或者抬头显示器时的缺陷。
在普通的介导现实(Mediated Reality,MR)眼镜上,定位的芯片和图像产生单元都是独立耦合在眼镜。但在车载领域,如果希望显示相关导航信息,把GPS/IMU等定位芯片叠加在眼镜上,会增加眼镜重量,也会让设备显得臃肿。
现有的AR导航中,一般由车机的摄像头采集实景图像,而后根据实景图像生成导航内容,如将AR导航的内容的投射至车载眼镜上,由于用户的头部可能会发生晃动,使得投射的AR导航内容与用户所看到的图像存在一定的位置偏移,这会影响AR导航的效果,影响用户的使用体验。
AR导航是将虚拟的导航相关信息显示在实景之上,给用户以增强现实的使用感受。如何保证使导航相关信息与实景的结合效果,是AR导航领域中的一个重要技术问题。
本申请实施例提供的导航方法、装置、电子设备和计算机可读存储介质,旨在解决现有技术的如上技术问题中的至少一个。
图1示出了本公开实施例提供的一种导航方法的流程示意图,如图1中所示,该方法主要可以包括:
步骤S110:获取实景图像以及导航相关信息;
步骤S120:对实景图像中的目标对象进行识别;
步骤S130:将目标对象与导航相关信息进行匹配,得到匹配结果;
步骤S140:基于匹配结果生成导航内容。
其中,导航相关信息可以为包括但是不限于高级驾驶辅助系统(AdvancedDriving Assistance System,ADAS)信息,以及高精地图信息等,例如,可以为兴趣点(Point of Interest,POI)信息,导航信息以及指引信号等。
实景图像为对车辆周围环境的图像。可以对实景图像进行场景识别,识别出目标对象,目标对象可以包括如车道线、建筑物以及转弯路口等。
在将目标对象与导航相关信息进行匹配后,可以根据匹配结果进行导航内容的渲染。渲染出的导航内容可以为虚拟的3D导航指引模型。
由于导航内容是基于导航相关信息与目标对象的匹配结果生成,因此导航内容能够与实景图像较好的结合,保证AR导航的效果。
本公开实施例提供的方法,通过获取实景图像以及导航相关信息,对实景图像中的目标对象进行识别,将目标对象与导航相关信息进行匹配,得到匹配结果,基于匹配结果生成导航内容。由于是基于目标对象与导航相关信息的匹配结果生成导航内容,使得导航内容能够与实景图像较好的结合,从而保证AR导航的效果。
本公开的一种可选实施方式中,将目标对象与导航相关信息进行匹配,包括:
确定目标对象在实体图像中的位置信息;
将与目标对象对应的导航相关信息与位置信息匹配。
本公开实施例中,可以将目标对象在实景图像中的位置信息与导航相关信息匹配,相应的生成的导航内容也与该位置信息相匹配,即可以根据该位置信息确定导航内容的显示位置。
作为一个示例,目标对象为实景图像中的路口的左转弯,导航内容为左转箭头,可以将该左转箭头显示在的路口的左转弯处的上方。
作为另一个示例,目标对象为信息点(Point of Information,POI)中建筑物,导航内容为该建筑物的名称,将建筑物的名称显示在建筑物所处位置的上方。
通过将导航内容与目标对象在实景图中的位置相匹配,并将导航内容在该位置进行显示,能够使得导航内容与相应的实体对象结合紧密,保证AR导航的效果。
本公开的一种可选实施方式中,上述方法还包括:
对车机的传感器采集的传感器数据进行数据融合,确定当前的定位信息;
基于定位信息生成导航相关信息。
其中,车机的传感器可以包括但是不限于全球定位系统(Global PositioningSystem,GPS)、惯性测量单元(Inertial Measurement Unit,IMU)、Radar(雷达),lidar(激光雷达)以及相机等。这些传感器所采集到传感器数据可以被发送至数据融合模块,基于预设定的数据融合算法进行数据融合,能够确定出汽车当前的定位信息。
将定位信息输入导航模块,能够获取生成导航相关信息。
在实际使用中,可以将采集到的实景图片与传感器数据融合的结果一起传给ADAS模块用于识别障碍物,以及识别环境信息等。识别出的障碍物信息以及环境信息也可以用于对进行导航内容的渲染绘制。
图2示出了本公开实施例提供的另一种导航方法的流程示意图,如图2中所示,该方法主要可以包括:
步骤S210:获取实景图像以及导航相关信息;
步骤S220:对实景图像中的目标对象进行识别;
步骤S230:将目标对象与导航相关信息进行匹配,得到匹配结果;
步骤S240:基于匹配结果生成导航内容;
步骤S250:对实景图像进行转换得到投射图像,投射图像与至少一个车载眼镜的视窗相匹配;
步骤S260:将投射图像与导航内容进行融合,得到导航图像;
步骤S270:将导航图像发送至车载眼镜,以使车载眼镜显示导航图像。
其中,导航相关信息可以为包括但是不限于高级驾驶辅助系统(AdvancedDriving Assistance System,ADAS)信息,以及高精地图信息等,例如,可以为兴趣点(Point of Interest,POI)信息,导航信息以及指引信号等。
实景图像为对车辆周围环境的图像。可以对实景图像进行场景识别,识别出目标对象,目标对象可以包括如车道线、建筑物以及转弯路口等。
在将目标对象与导航相关信息进行匹配后,可以根据匹配结果进行导航内容的渲染。渲染出的导航内容可以为虚拟的3D导航指引模型。
由于导航内容是基于导航相关信息与目标对象的匹配结果生成,因此导航内容能够与实景图像较好的结合,保证AR导航的效果。
通过获取实景图像以及导航相关信息,对实景图像中的目标对象进行识别,将目标对象与导航相关信息进行匹配,得到匹配结果,基于匹配结果生成导航内容。由于是基于目标对象与导航相关信息的匹配结果生成导航内容,使得导航内容能够与实景图像较好的结合,从而保证AR导航的效果。
车载眼镜可以包括但是不限于MR眼镜等智能眼镜,用户可以在驾驶车辆时佩戴车载眼镜,并借助车载眼镜实现导航。
本公开实施例中提供的导航系统中,可以在车辆内配备多个车载眼镜,以满足用户较多时的使用需求。
用户在佩戴车载眼镜时,用户眼睛的可视区域与车载眼镜的视窗(eyebox)相对应,因此,对实景图像进行转换,得到与车载眼镜的视窗相匹配的投射图像,该投射图像与用户的眼睛的可视区域相匹配,基于该投射图像与导航内容进行融合,进行AR导航,能够保证AR导航效果,给用户以增强现实的感觉,避免因用户的头部发生移动影响AR导航效果。
在实际使用中,由于用户的头部位置可能随时会发生变化,因此设定调整周期,周期性的对实景图像进行转换以保证AR导航效果,作为一个示例,调整周期可以为2秒。
本公开实施例中,在生成导航图像后,可以将导航图像发送给车载眼镜,通过车载眼镜显示导航图像,实现对AR导航。将AR导航投射在车载眼镜上,能够克服现有技术中将AR导航投射在车机屏幕或者AR HUD时的缺陷,提升用户的使用体验。
本公开实施例提供的方法,通过获取实景图像以及导航相关信息,对实景图像中的目标对象进行识别,将目标对象与导航相关信息进行匹配,得到匹配结果,基于匹配结果生成导航内容。获取实景图像以及导航内容,对实景图像进行转换得到投射图像,投射图像与至少一个车载眼镜的视窗相匹配,将投射图像与导航内容进行融合,得到导航图像,将导航图像发送至车载眼镜,车载眼镜显示导航图像。本方案中,导航内容能够与实景图像较好的结合,并且基于车载眼镜实现AR导航,能够避免因用户头部位置发生变化造成的对AR导航的效果的影响,保证AR导航的效果,保证用户的使用体验。
本公开的一种可选方式中,若实景图像为车机的第一图像采集设备所采集的第一实景图像,则对实景图像进行转换得到投射图像,包括:
获取车载眼镜的第二图像采集设备所采集的第二实景图像与车载眼镜的视窗的第一位置关系;
确定第一实景图像与第二实景图像的第二位置关系;
基于第一位置关系以及第二位置关系对第一实景图像进行转换得到投射图像。
本公开实施例中,实景图像可以由车机的第一图像采集设备所采集,也可以为由车载眼镜的第二图像采集设备所采集。
图像采集设备可以包括但是不限于摄像头。
在实景图像为车机的第一图像采集设备所采集的第一实景图像时,由于车载眼镜的第二图像采集设备与车载眼镜中视窗的位置是固定的,因此可以根据第二图像采集设备与车载眼镜中视窗的实际位置关系,确定出第二实景图像与车载眼镜的视窗的第一位置关系。
由于用户的头部的位置可能会实时变化,因此第一实景图像与第二实景图像的第二位置关系也是实时变化的,因此可以依照调整周期来周期性的获取第二位置关系。
在确定第一位置关系以及第二位置关系后,可以根据第一位置关系与第二位置关系对第一实景图像进行转换得到投射图像。
作为一个示例,第一位置关系可以通过[R1 T1]表示,其中,R为旋转矩阵,T为平移矩阵),则有P(eyebox)=[R1 T1]P(camera2)。此处[R1T1]为确定的量,其中P(eyebox)表示投射图像,P(camera2)表示第二实景图像。
第二位置关系可以通过[R2 T2]表示,则有P(camera2)=[R2 T2]P(camera1),其中P(camera1)表示第一实景图像,P(camera2)表示第二实景图像。
由此可以推导出,P(eyebox)=[R1 T1]P(camera2)=[R1 T1][R2 T2]P(camera1)
本公开的一种可选方式中,确定第一实景图像与第二实景图像的第二位置关系,包括以下任一项:
将第一实景图像与第二实景图像进行特征点追踪,基于特征点追踪的第一结果确定第一实景图像与第二实景图像的第二位置关系;
将车载眼镜处于指定位置时采集的第三实景图像与第一实景图像进行特征点追踪,基于特征点追踪的第二结果确定第一实景图像与第三实景图像的第三位置关系;基于车载眼镜所处的当前位置与指定位置,并基于第三位置关系,确定第一实景图像与第二实景图像的第二位置关系。
本公开实施例中,可以通过PNP求解等特征点追踪等方式来获得第二位置关系。具体地,就是第一实景图像的特征点,不断的与第二实景图像的特点做对比追踪求解,求解的结果可以记做:P(camera2)=[R2 T2]P(camera1)。
为了处理的实时性,需要控制此求解过程的时间延迟,可以将第一实景图像与第二实景图像传输至车机的微控制单元(Microcontroller Unit,MCU)中做处理。
本公开实施例中,导航图像的生成可以在车机完成,而将导航图像发送给车载眼镜,使得车载眼镜无需配置过多的传感器,避免了车载眼镜的臃肿。
本公开实施例中,也可以设定用户在车中的指定位置,将该指定位置作为基准,计算车载眼镜处于指定位置时采集的第三实景图与像第一实景图像的第三位置关系,而后实时对车载眼镜进行定位,并计算将车载眼镜位置相较于指定位置的位置变化,根据该位置变化以及第三位置关系能够确定出第二位置关系。
在实际使用中,第三位置关系可以通过图像特征点追踪的方式获取。
作为一示例,可以将司机端坐并佩戴车载眼镜时车载眼镜的位置作为指定位置。利用图片特征点追踪获取关系初始值P(camera2)=[R20 T20]P(camera1)。在动态过程中,利用定位系统获得的相对位姿态变化[Rx Tx],则有P(camera2)=[Rx Tx][R20 T20]P(camera1)
可选地,车载眼镜所处的当前位置是基于车载眼镜的定位系统得到的。
本公开实施例中,车载眼镜的定位系统可以包括GPS/IMU等定位芯片。
本公开实施例的一种可选实施方式中,若实景图像为车载眼镜的第二图像采集设备所采集的第二实景图像,则对实景图像进行转换得到投射图像,包括:
获取车载眼镜的第二图像采集设备所采集的第二实景图像与车载眼镜的视窗的第一位置关系;
基于第一位置关系对第一实景图像进行转换得到投射图像。
本公开实施例中,在实景图像为车载眼镜的第二图像采集设备所采集的第二实景图像时,由于车载眼镜的第二图像采集设备与车载眼镜中视窗的位置是固定的,因此可以根据第二图像采集设备与车载眼镜中视窗的实际位置关系,确定出第二实景图像与车载眼镜的视窗的第一位置关系。基于第一位置关系即能够将第二实景图像转换为投射图像。
示例性地,P(eyebox)=[R1 T1]P(camera2),其中,P(eyebox)表示投射图像,P(camera2)表示第二实景图像。第一位置关系可以通过[R1 T1]表示。
作为一可选示例,将导航图像发送至车载眼镜,包括:
通过无线通信的方式将导航图像发送至车载眼镜
其中,无线通讯方式可以为无线保真(Wireless Fidelity,wifi),也可以通过有线方式进行导航图像的发送如通过通用串行总线(Universal Serial Bus,USB)接口或低电压差分信号接口(Low-Voltage Differential Signaling,lvdss)等方式。
图3中示出了本公开实施提供的一种导航系统的结构示意图。
如图3中所示,Camera1,即车机的第一图像采集设备。Camera2,即车载眼镜的第二图像采集设备。eyebox,即视窗。MCU即车机的MCU;AR creator,即增强现实感软件套装,其中包括ADAS(即高级驾驶辅助系统),SD/HD MAP,即街道目录地图或高精地图,ANP(ApolloNavigation Pilot)地图。
Camera1采集的第一实景图像与Camera2采集的第二实景图像可以传输至MCU中,MCU中在生成导航图像后,可以通过无线传输的方式(如wifi)等,将导航图像传至车载眼镜的PGU(即图像生成单元),PGU对导航图像的展示。
基于与图1中所示的方法相同的原理,图4示出了本公开实施例提供的一种导航装置的结构示意图,如图4所示,该导航装置40可以包括:
数据获取模块410,用于获取实景图像以及导航相关信息;
对象识别模块420,用于对实景图像中的目标对象进行识别;
匹配模块430,用于将目标对象与导航相关信息进行匹配,得到匹配结果;
导航内容生成模块440,用于基于匹配结果生成导航内容。
本公开实施例提供的装置,通过获取实景图像以及导航相关信息,对实景图像中的目标对象进行识别,将目标对象与导航相关信息进行匹配,得到匹配结果,基于匹配结果生成导航内容。由于是基于目标对象与导航相关信息的匹配结果生成导航内容,使得导航内容能够与实景图像较好的结合,从而保证AR导航的效果。
可选地,匹配模块在将目标对象与导航相关信息进行匹配时,具体用于:
确定目标对象在实体图像中的位置信息;
将与目标对象对应的导航相关信息与位置信息匹配。
可选地,上述装置还包括,导航相关信息生成模块用于:
对车机的传感器采集的传感器数据进行数据融合,确定当前的定位信息;
基于定位信息生成导航相关信息。
可以理解的是,本公开实施例中的导航装置的上述各模块具有实现图1中所示的实施例中的导航方法相应步骤的功能。该功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。该硬件或软件包括一个或多个与上述功能相对应的模块。上述模块可以是软件和/或硬件,上述各模块可以单独实现,也可以多个模块集成实现。对于上述导航装置的各模块的功能描述具体可以参见图1中所示实施例中的导航方法的对应描述,在此不再赘述。
基于与图2中所示的方法相同的原理,图5示出了本公开实施例提供的另一种导航装置的结构示意图,如图5所示,该导航装置50可以包括:
数据获取模块510,用于获取实景图像以及导航相关信息;
对象识别模块520,用于对实景图像中的目标对象进行识别;
匹配模块530,用于将目标对象与导航相关信息进行匹配,得到匹配结果;
导航内容生成模块540,用于基于匹配结果生成导航内容。
图像转换模块550,用于对实景图像进行转换得到投射图像,投射图像与至少一个车载眼镜的视窗相匹配;
图像融合模块560,用于将投射图像与导航内容进行融合,得到导航图像;
导航图像发送模块570,用于将导航图像发送至车载眼镜,以使车载眼镜显示导航图像。
本公开实施例提供的装置,通过获取实景图像以及导航相关信息,对实景图像中的目标对象进行识别,将目标对象与导航相关信息进行匹配,得到匹配结果,基于匹配结果生成导航内容。获取实景图像以及导航内容,对实景图像进行转换得到投射图像,投射图像与至少一个车载眼镜的视窗相匹配,将投射图像与导航内容进行融合,得到导航图像,将导航图像发送至车载眼镜,车载眼镜显示导航图像。本方案中,导航内容能够与实景图像较好的结合,并且基于车载眼镜实现AR导航,能够避免因用户头部位置发生变化造成的对AR导航的效果的影响,保证AR导航的效果,保证用户的使用体验。
可选地,若实景图像为车机的第一图像采集设备所采集的第一实景图像,则图像转换模块在对实景图像进行转换得到投射图像时,具体用于:
获取车载眼镜的第二图像采集设备所采集的第二实景图像与车载眼镜的视窗的第一位置关系;
确定第一实景图像与第二实景图像的第二位置关系;
基于第一位置关系以及第二位置关系对第一实景图像进行转换得到投射图像。
可选地,图像转换模块在获取车载眼镜的第二图像采集设备所采集的第二实景图像与车载眼镜的视窗的第一位置关系时,具体用于:基于车载眼镜上第二图像采集设备的位置与视窗的位置,确定第一位置关系。
可选地,图像转换模块在确定第一实景图像与第二实景图像的第二位置关系时,具体用于以下任一项:
将第一实景图像与第二实景图像进行特征点追踪,基于特征点追踪的第一结果确定第一实景图像与第二实景图像的第二位置关系;
将车载眼镜处于指定位置时采集的第三实景图像与第一实景图像进行特征点追踪,基于特征点追踪的第二结果确定第一实景图像与第三实景图像的第三位置关系;基于车载眼镜所处的当前位置与指定位置,并基于第三位置关系,确定第一实景图像与第二实景图像的第二位置关系。
可选地,若实景图像为车载眼镜的第二图像采集设备所采集的第二实景图像,则图像转换模块在对实景图像进行转换得到投射图像时,具体用于:
获取车载眼镜的第二图像采集设备所采集的第二实景图像与车载眼镜的视窗的第一位置关系;
基于第一位置关系对第一实景图像进行转换得到投射图像。
可以理解的是,本公开实施例中的导航装置的上述各模块具有实现图2中所示的实施例中的导航方法相应步骤的功能。该功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。该硬件或软件包括一个或多个与上述功能相对应的模块。上述模块可以是软件和/或硬件,上述各模块可以单独实现,也可以多个模块集成实现。对于上述导航装置的各模块的功能描述具体可以参见图2中所示实施例中的导航方法的对应描述,在此不再赘述。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
该电子设备包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如本公开实施例提供的导航方法。
该电子设备与现有技术相比,通过获取实景图像以及导航相关信息,对实景图像中的目标对象进行识别,将目标对象与导航相关信息进行匹配,得到匹配结果,基于匹配结果生成导航内容。由于是基于目标对象与导航相关信息的匹配结果生成导航内容,使得导航内容能够与实景图像较好的结合,从而保证AR导航的效果。
该可读存储介质为存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行如本公开实施例提供的导航方法。
该可读存储介质与现有技术相比,通过获取实景图像以及导航相关信息,对实景图像中的目标对象进行识别,将目标对象与导航相关信息进行匹配,得到匹配结果,基于匹配结果生成导航内容。由于是基于目标对象与导航相关信息的匹配结果生成导航内容,使得导航内容能够与实景图像较好的结合,从而保证AR导航的效果。
该计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现如本公开实施例提供的导航方法。
该计算机程序产品与现有技术相比,通过获取实景图像以及导航相关信息,对实景图像中的目标对象进行识别,将目标对象与导航相关信息进行匹配,得到匹配结果,基于匹配结果生成导航内容。由于是基于目标对象与导航相关信息的匹配结果生成导航内容,使得导航内容能够与实景图像较好的结合,从而保证AR导航的效果。
图6示出了可以用来实施本公开的实施例的示例电子设备2000的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图6所示,设备2000包括计算单元2010,其可以根据存储在只读存储器(ROM)2020中的计算机程序或者从存储单元2080加载到随机访问存储器(RAM)2030中的计算机程序,来执行各种适当的动作和处理。在RAM 2030中,还可存储设备2000操作所需的各种程序和数据。计算单元2010、ROM 2020以及RAM 2030通过总线2040彼此相连。输入/输出(I/O)接口2050也连接至总线2040。
设备2000中的多个部件连接至I/O接口2050,包括:输入单元2060,例如键盘、鼠标等;输出单元2070,例如各种类型的显示器、扬声器等;存储单元2080,例如磁盘、光盘等;以及通信单元2090,例如网卡、调制解调器、无线通信收发机等。通信单元2090允许设备2000通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元2010可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元2010的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元2010执行本公开实施例中所提供的导航方法。例如,在一些实施例中,行本公开实施例中所提供的导航方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元2080。在一些实施例中,计算机程序的部分或者全部可以经由ROM 2020和/或通信单元2090而被载入和/或安装到设备2000上。当计算机程序加载到RAM 2030并由计算单元2010执行时,可以执行本公开实施例中所提供的导航方法的一个或多个步骤。备选地,在其他实施例中,计算单元2010可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行本公开实施例中所提供的导航方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。

Claims (12)

1.一种导航方法,包括:
获取实景图像以及导航相关信息;
对所述实景图像中的目标对象进行识别;
将所述目标对象与所述导航相关信息进行匹配,得到匹配结果;
基于所述匹配结果生成导航内容。
2.根据权利要求1所述的方法,所述将所述目标对象与所述导航相关信息进行匹配,包括:
确定所述目标对象在所述实体图像中的位置信息;
将与所述目标对象对应的导航相关信息与所述位置信息匹配。
3.根据权利要求1或2所述的方法,还包括:
对车机的传感器采集的传感器数据进行数据融合,确定当前的定位信息;
基于所述定位信息生成所述导航相关信息。
4.根据权利要求1-3中任一项所述的方法,还包括:
对所述实景图像进行转换得到投射图像,所述投射图像与至少一个车载眼镜的视窗相匹配;
将所述投射图像与所述导航内容进行融合,得到导航图像;
将所述导航图像发送至所述车载眼镜,以使所述车载眼镜显示所述导航图像。
5.根据权利要求4所述的方法,其中,若所述实景图像为车机的第一图像采集设备所采集的第一实景图像,则所述对所述实景图像进行转换得到投射图像,包括:
获取所述车载眼镜的第二图像采集设备所采集的第二实景图像与所述车载眼镜的视窗的第一位置关系;
确定所述第一实景图像与所述第二实景图像的第二位置关系;
基于所述第一位置关系以及所述第二位置关系对所述第一实景图像进行转换得到投射图像。
6.根据权利要求5所述的方法,其中,所述获取所述车载眼镜的第二图像采集设备所采集的第二实景图像与所述车载眼镜的视窗的第一位置关系,包括:
基于所述车载眼镜上所述第二图像采集设备的位置与所述视窗的位置,确定第一位置关系。
7.根据权利要求5或6所述的方法,其中,所述确定所述第一实景图像与所述第二实景图像的第二位置关系,包括以下任一项:
将所述第一实景图像与所述第二实景图像进行特征点追踪,基于特征点追踪的第一结果确定所述第一实景图像与所述第二实景图像的第二位置关系;
将所述车载眼镜处于指定位置时采集的第三实景图像与所述第一实景图像进行特征点追踪,基于特征点追踪的第二结果确定所述第一实景图像与所述第三实景图像的第三位置关系;基于所述车载眼镜所处的当前位置与所述指定位置,并基于所述第三位置关系,确定所述第一实景图像与所述第二实景图像的第二位置关系。
8.根据权利要求4-7中任一项所述的方法,其中,若所述实景图像为车载眼镜的第二图像采集设备所采集的第二实景图像,则所述对所述实景图像进行转换得到投射图像,包括:
获取所述车载眼镜的第二图像采集设备所采集的第二实景图像与所述车载眼镜的视窗的第一位置关系;
基于所述第一位置关系对所述第一实景图像进行转换得到投射图像。
9.一种导航装置,包括:
数据获取模块,用于获取实景图像以及导航相关信息;
对象识别模块,用于对所述实景图像中的目标对象进行识别;
匹配模块,用于将所述目标对象与所述导航相关信息进行匹配,得到匹配结果;
导航内容生成模块,用于基于所述匹配结果生成导航内容。
10.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法。
11.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-8中任一项所述的方法。
12.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-8中任一项所述的方法。
CN202110731641.4A 2021-06-29 2021-06-29 导航方法、装置、电子设备及可读存储介质 Active CN113483774B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202110731641.4A CN113483774B (zh) 2021-06-29 2021-06-29 导航方法、装置、电子设备及可读存储介质
PCT/CN2021/125858 WO2023273036A1 (zh) 2021-06-29 2021-10-22 导航方法、装置、电子设备及可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110731641.4A CN113483774B (zh) 2021-06-29 2021-06-29 导航方法、装置、电子设备及可读存储介质

Publications (2)

Publication Number Publication Date
CN113483774A true CN113483774A (zh) 2021-10-08
CN113483774B CN113483774B (zh) 2023-11-03

Family

ID=77937833

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110731641.4A Active CN113483774B (zh) 2021-06-29 2021-06-29 导航方法、装置、电子设备及可读存储介质

Country Status (2)

Country Link
CN (1) CN113483774B (zh)
WO (1) WO2023273036A1 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114187509A (zh) * 2021-11-30 2022-03-15 北京百度网讯科技有限公司 对象定位方法、装置、电子设备以及存储介质
CN114546120A (zh) * 2022-02-25 2022-05-27 北京百度网讯科技有限公司 导航标识显示方法、装置及电子设备
WO2023273036A1 (zh) * 2021-06-29 2023-01-05 阿波罗智联(北京)科技有限公司 导航方法、装置、电子设备及可读存储介质

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0784519A (ja) * 1993-09-17 1995-03-31 Sony Corp ナビゲーションシステム
CN104090366A (zh) * 2014-07-23 2014-10-08 占舒婷 一种汽车驾驶眼镜
US20140372020A1 (en) * 2013-06-13 2014-12-18 Gideon Stein Vision augmented navigation
KR20140145332A (ko) * 2013-06-13 2014-12-23 현대모비스 주식회사 차량용 hmd 시스템 및 그 작동 방법
US20170015260A1 (en) * 2015-07-13 2017-01-19 LAFORGE Optical, Inc. Apparatus And Method For Exchanging And Displaying Data Between Electronic Eyewear, Vehicles And Other Devices
US10095034B1 (en) * 2015-07-23 2018-10-09 Snap Inc. Eyewear with integrated heads-up display
WO2019037489A1 (zh) * 2017-08-25 2019-02-28 腾讯科技(深圳)有限公司 地图显示方法、装置、存储介质及终端
US20190155031A1 (en) * 2016-06-28 2019-05-23 Hologram Industries Research Gmbh Display apparatus for superimposing a virtual image into the field of vision of a user
US20190317328A1 (en) * 2018-04-17 2019-10-17 Faraday&Future Inc. System and method for providing augmented-reality assistance for vehicular navigation
CN110764264A (zh) * 2019-11-07 2020-02-07 中勍科技有限公司 一种ar智能眼镜
CN111595349A (zh) * 2020-06-28 2020-08-28 浙江商汤科技开发有限公司 导航方法及装置、电子设备和存储介质
US10871377B1 (en) * 2019-08-08 2020-12-22 Phiar Technologies, Inc. Computer-vision based positioning for augmented reality navigation
CN112556685A (zh) * 2020-12-07 2021-03-26 腾讯科技(深圳)有限公司 导航路线的显示方法、装置和存储介质及电子设备

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170161958A1 (en) * 2015-12-02 2017-06-08 Superb Reality Ltd. Systems and methods for object-based augmented reality navigation guidance
CN111623795B (zh) * 2020-05-28 2022-04-15 阿波罗智联(北京)科技有限公司 实景导航图标显示方法、装置、设备和介质
CN113237490A (zh) * 2021-02-08 2021-08-10 上海博泰悦臻网络技术服务有限公司 Ar导航方法、系统、电子设备和存储介质
CN113483774B (zh) * 2021-06-29 2023-11-03 阿波罗智联(北京)科技有限公司 导航方法、装置、电子设备及可读存储介质

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0784519A (ja) * 1993-09-17 1995-03-31 Sony Corp ナビゲーションシステム
US20140372020A1 (en) * 2013-06-13 2014-12-18 Gideon Stein Vision augmented navigation
KR20140145332A (ko) * 2013-06-13 2014-12-23 현대모비스 주식회사 차량용 hmd 시스템 및 그 작동 방법
CN104090366A (zh) * 2014-07-23 2014-10-08 占舒婷 一种汽车驾驶眼镜
US20170015260A1 (en) * 2015-07-13 2017-01-19 LAFORGE Optical, Inc. Apparatus And Method For Exchanging And Displaying Data Between Electronic Eyewear, Vehicles And Other Devices
US10095034B1 (en) * 2015-07-23 2018-10-09 Snap Inc. Eyewear with integrated heads-up display
US20190155031A1 (en) * 2016-06-28 2019-05-23 Hologram Industries Research Gmbh Display apparatus for superimposing a virtual image into the field of vision of a user
WO2019037489A1 (zh) * 2017-08-25 2019-02-28 腾讯科技(深圳)有限公司 地图显示方法、装置、存储介质及终端
CN110019580A (zh) * 2017-08-25 2019-07-16 腾讯科技(深圳)有限公司 地图显示方法、装置、存储介质及终端
US20190317328A1 (en) * 2018-04-17 2019-10-17 Faraday&Future Inc. System and method for providing augmented-reality assistance for vehicular navigation
US10871377B1 (en) * 2019-08-08 2020-12-22 Phiar Technologies, Inc. Computer-vision based positioning for augmented reality navigation
CN110764264A (zh) * 2019-11-07 2020-02-07 中勍科技有限公司 一种ar智能眼镜
CN111595349A (zh) * 2020-06-28 2020-08-28 浙江商汤科技开发有限公司 导航方法及装置、电子设备和存储介质
CN112556685A (zh) * 2020-12-07 2021-03-26 腾讯科技(深圳)有限公司 导航路线的显示方法、装置和存储介质及电子设备

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023273036A1 (zh) * 2021-06-29 2023-01-05 阿波罗智联(北京)科技有限公司 导航方法、装置、电子设备及可读存储介质
CN114187509A (zh) * 2021-11-30 2022-03-15 北京百度网讯科技有限公司 对象定位方法、装置、电子设备以及存储介质
CN114546120A (zh) * 2022-02-25 2022-05-27 北京百度网讯科技有限公司 导航标识显示方法、装置及电子设备

Also Published As

Publication number Publication date
WO2023273036A1 (zh) 2023-01-05
CN113483774B (zh) 2023-11-03

Similar Documents

Publication Publication Date Title
CN113483774B (zh) 导航方法、装置、电子设备及可读存储介质
CN107830869B (zh) 用于车辆的信息输出方法和装置
CN109118532B (zh) 视觉景深估计方法、装置、设备及存储介质
CN112101209B (zh) 用于路侧计算设备的确定世界坐标点云的方法和装置
CN110794844B (zh) 自动驾驶方法、装置、电子设备及可读存储介质
CN111784837B (zh) 高精地图生成方法、装置、设备、存储介质和程序产品
CN111721281B (zh) 位置识别方法、装置和电子设备
CN115578433B (zh) 图像处理方法、装置、电子设备及存储介质
CN111402609A (zh) 专用车道行驶提醒方法、装置、设备及存储介质
CN112147632A (zh) 车载激光雷达感知算法的测试方法、装置、设备和介质
CN113378605B (zh) 多源信息融合方法及装置、电子设备和存储介质
CN113126120A (zh) 数据标注方法、装置、设备、存储介质以及计算机程序产品
CN115082690B (zh) 目标识别方法、目标识别模型训练方法及装置
CN115790621A (zh) 高精地图更新方法、装置及电子设备
CN114266876B (zh) 定位方法、视觉地图的生成方法及其装置
CN114655240A (zh) 信息的显示方法、装置、电子设备及存储介质
CN113465611B (zh) 导航方法、装置、电子设备及可读存储介质
CN116642511A (zh) Ar导航图像渲染方法、装置、电子设备及存储介质
CN115294234B (zh) 图像的生成方法、装置、电子设备和存储介质
CN115578432B (zh) 图像处理方法、装置、电子设备及存储介质
KR20220056834A (ko) 표시 방법, 장치, 단말 기기, 컴퓨터 판독 가능한 저장 매체 및 컴퓨터 프로그램
WO2023129162A1 (en) Real-time lightweight video tracking, processing, and rendering
CN114166231A (zh) 众包数据采集方法、装置、设备、存储介质以及程序产品
CN116164746A (zh) 基于vo的位姿解算方法、装置、设备及产品
CN116844134A (zh) 目标检测方法、装置、电子设备、存储介质及车辆

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant