CN112050826B - 一种低延时高清ar多路导航系统 - Google Patents
一种低延时高清ar多路导航系统 Download PDFInfo
- Publication number
- CN112050826B CN112050826B CN202010958392.8A CN202010958392A CN112050826B CN 112050826 B CN112050826 B CN 112050826B CN 202010958392 A CN202010958392 A CN 202010958392A CN 112050826 B CN112050826 B CN 112050826B
- Authority
- CN
- China
- Prior art keywords
- vehicle
- mounted end
- road
- live
- layer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
- G01C21/34—Route searching; Route guidance
- G01C21/36—Input/output arrangements for on-board computers
- G01C21/3626—Details of the output of route guidance instructions
- G01C21/3647—Guidance involving output of stored or live camera images or video streams
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
- G01C21/34—Route searching; Route guidance
- G01C21/36—Input/output arrangements for on-board computers
- G01C21/3626—Details of the output of route guidance instructions
- G01C21/365—Guidance using head up displays or projectors, e.g. virtual vehicles or arrows projected on the windscreen or on the road itself
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
- G01C21/34—Route searching; Route guidance
- G01C21/36—Input/output arrangements for on-board computers
- G01C21/3626—Details of the output of route guidance instructions
- G01C21/3658—Lane guidance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2468—Fuzzy queries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/587—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using geographical or spatial information, e.g. location
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
Abstract
本发明公开了一种低延时高清AR多路导航系统,低延时高清AR多路导航系统,包括AR服务器、车载端和路面实景地图采集端;其中,AR服务器包括AR实景数据库、5G信号发送和接收模块和AR实景地图修正模块;车载端包括本地AR实景数据库,5G信号发送和接收模块、摄像模块、AR实景图像显示模块、车载端处理器、车载端定位模块和车联网RFID传感设备;路面实景地图采集端包括路面实景地图采集模块、载体和本地AR实景数据库、车载端定位模块和载体RFID传感设备,所述载体上设置有路面实景地图采集模块;在本申请中,提出将导航的图层分成多个图层,并在进行导航时,始终仅需进行少了的数据传输,从而降低建设成本,降低延时的不利影响。
Description
技术领域
本发明涉及AR导航系统技术领域,具体为一种低延时高清AR多路导航系统。
背景技术
随着电子技术的发展,人们开始更加快捷和方便的生活方式。如今,随着我国经济的发展,自驾车在人们生活中成为越来越不可或缺的一部分。但是,在我们驾车去某目的地时,由于城市或地区的大而复杂,导致人们并不能认识路线,这给生活带来了不便;但是,随着导航技术的发展,利用导航系统进行导航以便查询路线去目的地,这给人们生活带来方便。
现有技术中,导航系统包括百度地图、高德地图和360地图等,但是,这些导航地图都是平面地图的形式展现给使用者,或者,所谓的3D虚拟导航,但对多条并行道路,如在现今日益复杂的桥梁路面来说,可能由于定位精度的差异,而将车辆定位到其他道路上,从而导致导航失败,使用者使用时可能会产生误操作从而引起事故。
因此,随着交通条件的日益复杂,传统的导航技术已经无法适应于现今的道路,为此,希望提供一直更加智能化的导航技术。目前,传统的导航技术基本都是地图导航,和地图显示路径,但是,地图终究不是实景图,因此,对地图认识能力不强的人来说,需要将地图和实景对照来认识,但是这对在道路上行驶的车辆来说,这种导航技术还不够方便,使得驾驶员需要分心,可能使得驾驶员发生危险。
而随着AR(即增强现实)技术的发展,AR的应用也越来越广泛了,其中AR导航是主要的应用方向之一。AR技术让导航更加直观,旨在使用AR导航来帮助引导用户到达目的地。
对于现今的导航来说,为了完成完美导航,一方面需要高精度、低延时的导航和定位,另外还希望能够提供实景导航,这样可以直接看到实景图,并实现实景导航。
另外一方面,第五代移动通信技术(英语:5th generation mobile networks或5th generation wireless systems、5th-Generation,简称5G)是最新一代蜂窝移动通信技术,其中,5G的性能目标是高数据速率、减少延迟、节省能源、降低成本、提高系统容量和大规模设备连接,速度高达20Gbit/s,可以实现宽信道带宽和大容量MIMO。因此,为了快速进行通信以便更加方便快捷导航,即需要更加方便快捷的通信技术,保证足够低的通信延时,同时需要更快更宽的带宽,以便为此,人们便把眼光盯向5G通信技术。
另外一方面,由于复杂高架桥、景区道路崎岖或隧道等地区,由于导致的GPS信号丢失,从而导致无法实景导航,随着车联网技术的兴起,任命便把该技术应用汽车导航中,以便增加同行效率和行车效率。具体而言,所谓车联网(IOV:Internetof Vehicle),是指车与车、车与路、车与人、车与传感设备等交互,实现车辆与公众网络通信的动态移动通信系统。利用先进传感技术、网络技术、计算技术、控制技术、智能技术,对道路和交通进行全面感知,实现多个系统间大范围、大容量数据的交互,对每一辆汽车进行交通全程控制,对每一条道路进行交通全时空控制,以提供交通效率和交通安全为主的网络与应用。它可以通过车与车、车与人、车与路互联互通实现信息共享,收集车辆、道路和环境的信息,并在信息网络平台上对多源采集的信息进行加工、计算、共享和安全发布,根据不同的功能需求对车辆进行有效的引导与监管,以及提供专业的多媒体与移动互联网应用服务。但是,这必然会带来大量的数据传输的井喷式增长,因为他们需要增加容量来减少网络的堵塞、导致数据传输慢、卡顿等延时操纵,这必然会对导航带来极大的风险。
在车联网领域,随着5G的商用,业内企业正在加速推进自动驾驶应用的发展。按照
业内的标准,车辆自动化等级共分为5级(L1一L5),目前中国智能汽车产业发展已进入了L2
阶段,正在向L3和L4阶段发展。而自动化等级越高,对网络时延、速率的要求越高,同时对位
置定位的精度要求也逐级提升。比如,L3以上级别的定位精度要达到1.5米甚至1米以内。
针对AR延迟问题,斯坦福大学提出采用RGBD摄像头的高帧率,低延迟AR头显系统,其中,斯坦福大学的HanseulJun和Jeremy N.Bailenson等人发布了名为《An Easy-to-usePipeline for an RGBD Camera and an AR Headset》的论文,并介绍了他们利用单个RGBD摄像头来支持AR头显的实验。团队采用VP8编解码器,并通过libvpx和FFmpeg进行编码和解码。尽管H.264至少表现出相同的性能,但团队选择VP8的原因是libvpx基于修订的BSD许可,而这与团队提供系统源代码的目标一致。对于深度像素,由于需要避免有损压缩的不确定性,所以团队选择RVL(Wilson,2017)进行压缩,因为它的计算成本低且无损。并且,借助YUV纹理和深度纹理,HoloLens可以将深度纹理的每个像素渲染为漂浮在空间上的四边形,并使用YUV纹理中的颜色值对四边形进行着色。团队的渲染技术使用由Kinect v2的intrinsic variable预先计算的网格。在具有深度纹理的顶点着色器中,预先计算的网格变成反映深度纹理深度值的一组点。在几何着色器中,所述点变为四边形。四边形的大小选择为不影响相邻四边形的最大大小。最后,在片段着色器中,根据YUV纹理对四边形进行着色。该团队希望这个系统能够提供一种便携的,支持现成硬件的经验证方法(无需机器进行渲染),从而为开发者,研究人员和消费者带来帮助。但是,该系统存在渲染质量远非完美的缺陷。
但是,为了实现AR导航,特别是沉浸式AR导航,必然需要更多摄像头,获取更多的车外景象,同时需要进行本地查询、甚至在线查询,这样图像,特别是高清图像的传输和查询,必然会导致时间延迟,这对高速行驶的汽车来说数据的延时带来的可能是走错路口,给行驶带来麻烦,甚至走错车道提前或延缓转弯,带来十分可怕的后果,为此提供一种低延时的的导航,具备十分重要的意义。
为了减小数据传输的时间延时,通常采用的办法是增加传送信息的带宽,这样可以提供更大的数据信号传送通道以便传送用于导航的高清AR图像或多个摄像头拍摄的图像信息,但这必然导致AR实景导航设备的成本提高,对消费者或者生产设计人员来说都是不利的;或者为了减少信号的传送,降低AR实景图像的分辨率和清晰度,或者对AR图像进行压缩和解压的方式,以便在传送中传送一个较小的数据文件,同时将摄像头的数量也同步减少,但这也使得最后用于导航的AR实景图像的清晰度不够,或者传感车辆的数据不够精确,最后导致导航效果不佳,不能清晰发现车外景象或者,需要花费更多使用者的观察精力去观察,甚至发生危险。
然而,在现有技术中,并无有效技术同时解决上述提到的问题,同时提供一种成本低、但导航效率高和图像清晰的低延时导航技术,为此希望能够提供一种低延时,且低成本的导航技术,解决上述问题。
发明内容
本发明的目的在于提供一种低延时高清AR多路导航系统即导航方法,以解决上述背景技术中提出的问题。
为实现上述目的,本发明提供如下技术方案:一种低延时高清AR多路导航系统,包括AR服务器、车载端和路面实景地图采集端;
其中,AR服务器包括AR实景数据库、5G信号发送和接收模块和AR实景地图修正模块;
车载端包括本地AR实景数据库,5G信号发送和接收模块、摄像模块、AR实景图像显示模块、车载端处理器、车载端定位模块和车联网RFID传感设备;
路面实景地图采集端包括路面实景地图采集模块、载体和本地AR实景数据库、车载端定位模块和载体RFID传感设备,所述载体上设置有路面实景地图采集模块;
所述车载端初始化时,车载端的5G信号发送和接收模块和AR服务器端的5G信号发送和接收模块进行通信连接,并建立通信通道,车载端和AR服务器通信,所述车载端下载道路底层基础层数据,以确认车载端的AR实景数据库已经是最新的AR实景数据库,否则车载端重新下载最新的AR实景数据库以更新AR实景数据库;所述摄像模块用于获取当前图像提供给车载端处理器,所述车载端处理器依据摄像模块进行图像处理,分离出外界景象层、移动物体层,并将移动物体层发送给显示模块显示;
所述车载端利用车载端定位模块定位,并结合拍摄的外景特征图像在车载端的本地AR实景数据库进行匹配,从而确定相应的车道,并将相应的道路实景底层图层和外景图层,以及从AR服务器实时获取的道路路线和标记层和临时改变图像层组合,并输出给AR实景图像显示模块显示;
所述车联网RFID传感设备用于车辆之间,或所述车辆与所述路面实景地图采集端进行通信;
所述路面实景地图采集端可以和AR服务器通信连接,用于采集路面实景地图并发送给AR服务器,同时,所述路面实景地图采集端还可以和车辆的车载端建立通信连接,从而实现路面实景地图采集端和车辆进行通信;此外,所述路面实景地图采集端和邻近的路面实景地图采集端还可以进行通信,或作为车载端的中继通信模块以便实现车辆和所述AR服务器进行通信;具体而言,所述路面实景地图采集模块用于采集路面实景图像并发送给AR服务器,并经AR服务器处理后形成AR实景数据库;所述载体RFID传感设备用于和相邻的所述载体RFID传感设备、车辆上的车载端的车联网RFID传感设备构成车辆网。
优选的,所述AR实景数据库分为底层基础层,外界景象层、道路路线和标记层和临时改变图像层4个图层;其中,所述底层基础层为不带道路标记线和路上明显标记建筑物的图层;所述道路路线和标记层为通过5G信号发送和接收模块实时传输的图层;
优选的,对所述的AR实景数据库的多个图像层进行数据压缩处理,对所述底层基础层图层,提取图像的主要特征分割轮廓线特征,包括不带道路标记线的道路、重点建筑物和树木园林图像,并对其中的不影响图像识别的部分采用采用模糊化处理,降低轮廓线围成的图像区域内部填充的图像的分辨率,从而压缩图像的分辨率,以缩小图像的大小;
其中,对不带道路标记线的道路图像,该道路图像采取半真实图像处理,具体来说,就是道路图像中,除了道路最外层轮廓线、下水道井盖和通信电缆井盖和电缆井盖采用实景轮廓线外,其他道路图像均采用预先设定的道路图像填充块填充形成,上述所有各类井盖也采用相应的井盖图像填充块填充,由于所述图像都是预先设定的专门用于填充的图像,从而所有的道路图像的填充图片都是相同,从而不用储存不同道路的实景道路图像,从而进一步压缩图像的存储空间。
优选的,所述道路图像填充块包括沥青道路填充块和水泥混泥土道路图像填充块;所述通信电缆井盖和电缆井盖仅采用相应颜色的轮廓线在道路录像中标记,不进行专门的通信电缆井盖和电缆井盖填充。同时,当所述车载端由于信号的5G信号无法覆盖的隧道、遮蔽车库大和桥底下等5G遮蔽信号地段无法进行5G通信时,所述车载端通过所述车联网RFID传感设备和相邻车辆的所述车联网RFID传感设备、所述载体RFID传感设备混合组网或进行中继通信以便和AR服务器通信,或所述车载端通过所述车联网RFID传感设备和所述载体RFID传感设备进行中继通信以便和AR服务器通信。
优选的,当车辆开启启动车载端进行导航时,车载端的摄像模块获取当前图像,并处理出当前图像的特征景物,利用所述车载端处理器在车载端的本地AR实景数据库,启动AI智能模糊匹配进行匹配,以获取当前的实际路线和位置,并和AR服务器连接,获取实时的道路标记线,将获取到的实时道路标记线利用5G信号发送和接收模块传输到车载端,所述车载端的车载控制端将在本地查询到的本地AR实景数据库中除道路路线和标记层之外的三个图层和实时从AR服务器中获取的所述道路路线和标记层进行图层叠加,形成最终的导航图像。
优选的,当发生道路修建和改造时,根据道路修建和改造中的图像改变的图层,拍摄相应的道路实景图像,并对拍摄的道路实景图像提取相应的需要修改的图层,上传至AR服务器以便修正AR服务器的AR实景数据库。由于本申请将AR实景图像分成多个图层,AR实景图像修正时,并仅对需要修正的图层进行修改,这样可以极大的减小AR实景图像的图层大小,从而减小高清AR多路导航系统中的传输空间大小,减小延时。
优选的,所述AR实景图像显示模块包括带有显示功能的车前挡风玻璃,所述车前挡风玻璃具备半透明显示功能,其能将查询到的导航AR实景图像显示在挡风玻璃上,当驾驶员透过车挡风玻璃看到的图像和所述导航实景图对比基本重叠时,这表示驾驶员行走的路线正确;而在驾驶员透过车挡风玻璃看到的图像和所述导航实景图对比差异明显时,这表明汽车行走在错误的道路上,此时车载端发出报警,并重新规划新的导航路线。
优选的,在对拍摄的图像输入AR实景数据库中形成4个图层的图层化处理过程中,采用Canny边缘检测方法获取道路边缘,特征建筑物的边缘轮廓进行边缘检测,提取轮廓;同时,采用Mean shift算法对拍摄图像进行多尺度预分割,使用Ostu阈值分割法对图像进行后续的分割,初步分清图像中的非特征景象和特征景象部分,并对分割后的图像进行优化,分离道路外景象物在光谱特征与颜色特征上都相似的道路,从而进一步分配道路和道路旁的建筑物景象。所述车载端设置有车载端定位模块,所述车载端定位模块获取车辆当前的位置,并利用车辆AI智能算法和摄像模块和AR实景数据库进行匹配,以便获取车辆实际的行驶道路和路线,从而修正车辆实际所在的道路的车道,或高架桥的哪层的哪一车道,其可以快速定位。
另外一方面,本申请还提供一种基于低延时高清AR多路导航系统的自动导航方法,所述自动导航方法的步骤如下:
S1、打开所述AR导航预显示巡航系统的车载端,所述车载端进行初始化,同时,所述车载端的5G信号发送和接收模块和所述AR服务器的5G信号发送和接收模块连接,完成本地AR实景数据库查询工作,具体来说,使车载端的AR实景数据库中的底层基础层和外界景象层为最新的数据库,如果非最新数据库,则从所述AR服务器下载最新的AR实景数据库,以更新车载端;
S2、车载端初始化后,提示用户输入目的地,用户输入目的地后,显示规划路径信息,同时AR服务器连接,实时获取当前行驶路线的道路路线和标记层和临时改变图像层,并将实时获取的道路路线和标记层和临时改变图像层和预先已经储存在本地车载端的底层基础层和外界景象层发送给车载端处理器组合发送给车载端的显示实景图像显示,同时摄像头开始工作;
S3、所述摄像头拍摄到车头景象,并和所述车载端的本地AR实景数据库的数据进行AI智能匹配,同时车载端的车载端定位模块给出地图地理位置数据,经过地图位置数据和AI智能匹配的AR实景图,从而得出车辆在AR实景巡航图;同时,对拍摄的图像,获取运动物体的景象,并提取景象输入到车载端处理器组合发送给车载端的显示实景图像显示;
S4、在获取不到车载端定位模块给出地图地理位置数据时,获取车速传感模块的速度数据和加速度传感器测定方向信息,进而利用方向信息和速度数据并结合AI智能匹配的AR实景图,从而获得车辆的AR实景巡航图;
S5、在摄像头拍摄到车头景象和所述车载端的本地AR实景数据库的数据无法进行图像匹配,则认定当前实景已经发生改变,此时需要启动模糊匹配,具体来说,是将拍摄的图像中的底层基础层图层或外界景象图层提取出来,并利用本地车载端的处理器进行AI智能匹配,同时,利用附近景象连续性特征进行匹配校验,同时,车载端的摄像头获取的图像和车载端的车载端定位模块获取的位置信息传输至AR实景服务器的AR实景地图修正模块,所述AR实景地图修正模块对拍摄的图像进行相应的图层处理,修正相应位置的AR实景地图,并更新AR实景服务器的AR实景数据库。
优选的,当车辆行进至由于5G信号无法覆盖的隧道、遮蔽车库大和桥底下等5G遮蔽信号地段无法进行5G通信时,所述车载端通过所述车联网RFID传感设备和相邻车辆的所述车联网RFID传感设备、所述载体RFID传感设备混合组网进行中继通信以便和AR服务器通信。
与现有技术相比,本发明的有益效果是:
1、本发明的低延时高清AR多路导航系统对拍摄的图像进行主要和次要图像分辨,并对次要图像进行简单的磨平化处理,从而减小该区域的分辨率和特征点,从而使得AR实景图像既保证了导航精度和导航安全的需要,也使得导航图像传输和显示的时间延迟更小,并且不会增加导航设备的成本,即降低了AR导航设备的建设成本,也进一步提高汽车驾驶的精度,可靠性高。
2、本发明低延时高清AR多路导航系统对拍摄的图像将图像分成多个图层的形式构成,对部分外景图像层储存在本地储存系统,而采用5G信号传输的仅是部分图层,从而减小传输的图层,最后利用本地的部分图像层和5G传传输的图像层进行叠加,得出最终AR实景导航图像,从而同样可以提供导航精度,同时降低传输成本和设备制造难度;
3、本发明的低延时高清AR多路导航系统,可以根据车辆行驶的特征,合理调整不同视觉范围内的分辨率,从而提高在没有5G信号区域以便和AR服务器通信和定位精度;
4、其在当前的道路由于修整、改造导致景象发生变化而无法有效匹配时,可以利用车载端的摄像头进行模糊匹配以便获取当前车道,而打破传统的匹配不好就报送错误而不利于导航的问题,并且其可以自行修整服务器的地图库,保证地图最新,实现自动化控制,节约人力资源,提高工作效率。
附图说明
图1为本发明整体发明构思示意图;
图2为本发明的AR服务器结构示意图;
图3为本发明的车载端的结构示意图;
图4位本发明的AR实景库的图像图层示意图。
图中:1、AR服务器;2、路面实景地图采集端;3、车载端;4、AR实景地图修正模块;5、AR实景地图修正模块;6、5G信号发送和接收模块;7、本地AR实景数据库;8、AR实景图像显示模块;9、5G信号发送和接收模块;10、车载端处理器;11、车载端定位模块;12、摄像模块;13、底层基础层;14、外界景象层;15、道路路线和标记层;16、临时改变图像层。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
请参阅图1,本发明提供一种技术方案:一种低延时高清AR多路导航系统,包括AR服务器、车载端和路面实景地图采集端;
其中,AR服务器包括AR实景数据库、5G信号发送和接收模块和AR实景地图修正模块;
车载端包括本地AR实景数据库,5G信号发送和接收模块、摄像模块、AR实景图像显示模块、车载端处理器、车载端定位模块和车联网RFID传感设备;
路面实景地图采集端包括路面实景地图采集模块、载体和本地AR实景数据库、车载端定位模块和载体RFID传感设备,所述载体上设置有路面实景地图采集模块;
所述车载端初始化时,车载端的5G信号发送和接收模块和AR服务器端的5G信号发送和接收模块进行通信连接,并建立通信通道,车载端和AR服务器通信,所述车载端下载道路底层基础层数据,以确认车载端的AR实景数据库已经是最新的AR实景数据库,否则车载端重新下载最新的AR实景数据库以更新AR实景数据库;所述摄像模块用于获取当前图像提供给车载端处理器,所述车载端处理器依据摄像模块进行图像处理,分离出外界景象层、移动物体层,并将移动物体层发送给显示模块显示;
所述车载端利用车载端定位模块定位,并结合拍摄的外景特征图像在车载端的本地AR实景数据库进行匹配,从而确定相应的车道,并将相应的道路实景底层图层和外景图层,以及从AR服务器实时获取的道路路线和标记层和临时改变图像层组合,并输出给AR实景图像显示模块显示;
所述车联网RFID传感设备用于车辆之间,或所述车辆与所述路面实景地图采集端进行通信;
所述路面实景地图采集端可以和AR服务器通信连接,用于采集路面实景地图并发送给AR服务器,同时,所述路面实景地图采集端还可以和车辆的车载端建立通信连接,从而实现路面实景地图采集端和车辆进行通信;此外,所述路面实景地图采集端和邻近的路面实景地图采集端还可以进行通信,或作为车载端的中继通信模块以便实现车辆和所述AR服务器进行通信;具体而言,所述路面实景地图采集模块用于采集路面实景图像并发送给AR服务器,并经AR服务器处理后形成AR实景数据库;所述载体RFID传感设备用于和相邻的所述载体RFID传感设备、车辆上的车载端的车联网RFID传感设备构成车辆网。
优选的,所述AR实景数据库分为底层基础层,外界景象层、道路路线和标记层和临时改变图像层4个图层;其中,所述底层基础层为不带道路标记线和路上明显标记建筑物的图层;所述道路路线和标记层为通过5G信号发送和接收模块实时传输的图层;
优选的,对所述的AR实景数据库的多个图像层进行数据压缩处理,对所述底层基础层图层,提取图像的主要特征分割轮廓线特征,包括不带道路标记线的道路、重点建筑物和树木园林图像,并对其中的不影响图像识别的部分采用采用模糊化处理,降低轮廓线围成的图像区域内部填充的图像的分辨率,从而压缩图像的分辨率,以缩小图像的大小;
其中,对不带道路标记线的道路图像,该道路图像采取半真实图像处理,具体来说,就是道路图像中,除了道路最外层轮廓线、下水道井盖和通信电缆井盖和电缆井盖采用实景轮廓线外,其他道路图像均采用预先设定的道路图像填充块填充形成,上述所有各类井盖也采用相应的井盖图像填充块填充,由于所述图像都是预先设定的专门用于填充的图像,从而所有的道路图像的填充图片都是相同,从而不用储存不同道路的实景道路图像,从而进一步压缩图像的存储空间。
优选的,所述道路图像填充块包括沥青道路填充块和水泥混泥土道路图像填充块;所述通信电缆井盖和电缆井盖仅采用相应颜色的轮廓线在道路录像中标记,不进行专门的通信电缆井盖和电缆井盖填充。同时,当所述车载端由于信号的5G信号无法覆盖的隧道、遮蔽车库大和桥底下等5G遮蔽信号地段无法进行5G通信时,所述车载端通过所述车联网RFID传感设备和相邻车辆的所述车联网RFID传感设备、所述载体RFID传感设备混合组网或进行中继通信以便和AR服务器通信,或所述车载端通过所述车联网RFID传感设备和所述载体RFID传感设备进行中继通信以便和AR服务器通信。
优选的,当车辆开启启动车载端进行导航时,车载端的摄像模块获取当前图像,并处理出当前图像的特征景物,利用所述车载端处理器在车载端的本地AR实景数据库,启动AI智能模糊匹配进行匹配,以获取当前的实际路线和位置,并和AR服务器连接,获取实时的道路标记线,将获取到的实时道路标记线利用5G信号发送和接收模块传输到车载端,所述车载端的车载控制端将在本地查询到的本地AR实景数据库中除道路路线和标记层之外的三个图层和实时从AR服务器中获取的所述道路路线和标记层进行图层叠加,形成最终的导航图像。
优选的,当发生道路修建和改造时,根据道路修建和改造中的图像改变的图层,拍摄相应的道路实景图像,并对拍摄的道路实景图像提取相应的需要修改的图层,上传至AR服务器以便修正AR服务器的AR实景数据库。由于本申请将AR实景图像分成多个图层,AR实景图像修正时,并仅对需要修正的图层进行修改,这样可以极大的减小AR实景图像的图层大小,从而减小高清AR多路导航系统中的传输空间大小,减小延时。
优选的,所述AR实景图像显示模块包括带有显示功能的车前挡风玻璃,所述车前挡风玻璃具备半透明显示功能,其能将查询到的导航AR实景图像显示在挡风玻璃上,当驾驶员透过车挡风玻璃看到的图像和所述导航实景图对比基本重叠时,这表示驾驶员行走的路线正确;而在驾驶员透过车挡风玻璃看到的图像和所述导航实景图对比差异明显时,这表明汽车行走在错误的道路上,此时车载端发出报警,并重新规划新的导航路线。
优选的,在对拍摄的图像输入AR实景数据库中形成4个图层的图层化处理过程中,采用Canny边缘检测方法获取道路边缘,特征建筑物的边缘轮廓进行边缘检测,提取轮廓;同时,采用Mean shift算法对拍摄图像进行多尺度预分割,使用Ostu阈值分割法对图像进行后续的分割,初步分清图像中的非特征景象和特征景象部分,并对分割后的图像进行优化,分离道路外景象物在光谱特征与颜色特征上都相似的道路,从而进一步分配道路和道路旁的建筑物景象。所述车载端设置有车载端定位模块,所述车载端定位模块获取车辆当前的位置,并利用车辆AI智能算法和摄像模块和AR实景数据库进行匹配,以便获取车辆实际的行驶道路和路线,从而修正车辆实际所在的道路的车道,或高架桥的哪层的哪一车道,其可以快速定位。
另外一方面,本申请还提供一种基于低延时高清AR多路导航系统的自动导航方法,所述自动导航方法的步骤如下:
S1、打开所述AR导航预显示巡航系统的车载端,所述车载端进行初始化,同时,所述车载端的5G信号发送和接收模块和所述AR服务器的5G信号发送和接收模块连接,完成本地AR实景数据库查询工作,具体来说,使车载端的AR实景数据库中的底层基础层和外界景象层为最新的数据库,如果非最新数据库,则从所述AR服务器下载最新的AR实景数据库,以更新车载端;
S2、车载端初始化后,提示用户输入目的地,用户输入目的地后,显示规划路径信息,同时AR服务器连接,实时获取当前行驶路线的道路路线和标记层和临时改变图像层,并将实时获取的道路路线和标记层和临时改变图像层和预先已经储存在本地车载端的底层基础层和外界景象层发送给车载端处理器组合发送给车载端的显示实景图像显示,同时摄像头开始工作;
S3、所述摄像头拍摄到车头景象,并和所述车载端的本地AR实景数据库的数据进行AI智能匹配,同时车载端的车载端定位模块给出地图地理位置数据,经过地图位置数据和AI智能匹配的AR实景图,从而得出车辆在AR实景巡航图;同时,对拍摄的图像,获取运动物体的景象,并提取景象输入到车载端处理器组合发送给车载端的显示实景图像显示;
S4、在获取不到车载端定位模块给出地图地理位置数据时,获取车速传感模块的速度数据和加速度传感器测定方向信息,进而利用方向信息和速度数据并结合AI智能匹配的AR实景图,从而获得车辆的AR实景巡航图;
S5、在摄像头拍摄到车头景象和所述车载端的本地AR实景数据库的数据无法进行图像匹配,则认定当前实景已经发生改变,此时需要启动模糊匹配,具体来说,是将拍摄的图像中的底层基础层图层或外界景象图层提取出来,并利用本地车载端的处理器进行AI智能匹配,同时,利用附近景象连续性特征进行匹配校验,同时,车载端的摄像头获取的图像和车载端的车载端定位模块获取的位置信息传输至AR实景服务器的AR实景地图修正模块,所述AR实景地图修正模块对拍摄的图像进行相应的图层处理,修正相应位置的AR实景地图,并更新AR实景服务器的AR实景数据库。
优选的,当车辆行进至由于5G信号无法覆盖的隧道、遮蔽车库大和桥底下等5G遮蔽信号地段无法进行5G通信时,所述车载端通过所述车联网RFID传感设备和相邻车辆的所述车联网RFID传感设备、所述载体RFID传感设备混合组网进行中继通信以便和AR服务器通信。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语″包括″、″包含″或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。
尽管已经示出和描述了本发明的实施例,对于本领域的普通技术人员而言,可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由所附权利要求及其等同物限定。
Claims (5)
1.一种低延时高清AR多路导航系统,包括AR服务器、车载端和路面实景地图采集端;
其中,AR服务器包括AR实景数据库、5G信号发送和接收模块和AR实景地图修正模块;
车载端包括本地AR实景数据库,5G信号发送和接收模块、摄像模块、AR实景图像显示模块、车载端处理器、车载端定位模块和车联网RFID传感设备;
路面实景地图采集端包括路面实景地图采集模块、载体和本地AR实景数据库、车载端定位模块和载体RFID传感设备,所述载体上设置有路面实景地图采集模块;
所述车载端初始化时,车载端的5G信号发送和接收模块和AR服务器端的5G信号发送和接收模块进行通信连接,并建立通信通道,车载端和AR服务器通信,所述车载端下载道路底层基础层图层数据,以确认车载端的AR实景数据库已经是最新的AR实景数据库,否则车载端重新下载最新的AR实景数据库以更新AR实景数据库;所述摄像模块用于获取当前图像提供给车载端处理器,所述车载端处理器依据摄像模块进行图像处理,分离出外景图层、移动物体层,并将移动物体层发送给显示模块显示;
所述车载端利用车载端定位模块定位,并结合拍摄的外景特征图像在车载端的本地AR实景数据库进行匹配,从而确定相应的车道,并将相应的道路实景底层图层和外景图层,以及从AR服务器实时获取的道路路线和标记层和临时改变图像层组合,并输出给AR实景图像显示模块显示;
所述车联网RFID传感设备用于车辆之间,或所述车辆与所述路面实景地图采集端进行通信;
所述路面实景地图采集端可以和AR服务器通信连接,用于采集路面实景地图并发送给AR服务器,同时,所述路面实景地图采集端还可以和车辆的车载端建立通信连接,从而实现路面实景地图采集端和车辆进行通信;此外,所述路面实景地图采集端和邻近的路面实景地图采集端还可以进行通信,或作为车载端的中继通信模块以便实现车辆和所述AR服务器进行通信;具体而言,所述路面实景地图采集模块用于采集路面实景图像并发送给AR服务器,并经AR服务器处理后形成AR实景数据库;所述载体RFID传感设备用于和相邻的所述载体RFID传感设备、车辆上的车载端的车联网RFID传感设备构成车辆网。
2.根据权利要求1所述的一种低延时高清AR多路导航系统,其特征在于:所述AR实景数据库分为底层基础层图层,外景图层、道路路线和标记层和临时改变图像层4个图层;其中,所述底层基础层图层为不带道路标记线和路上明显标记建筑物的图层;所述道路路线和标记层为通过5G信号发送和接收模块实时传输的图层。
3.根据权利要求1-2中任意一项所述的一种低延时高清AR多路导航系统,其特征在于:对所述的AR实景数据库的多个图像层进行数据压缩处理,对所述底层基础层图层,提取图像的主要特征分割轮廓线特征,包括不带道路标记线的道路、重点建筑物和树木园林图像,并对其中的不影响图像识别的部分采用模糊化处理,降低轮廓线围成的图像区域内部填充的图像的分辨率,从而压缩图像的分辨率,以缩小图像的大小;其中,对不带道路标记线的道路图像,该道路图像采取半真实图像处理,具体来说,就是道路图像中,除了道路最外层轮廓线、下水道井盖和通信电缆井盖和电缆井盖采用实景轮廓线外,其他道路图像均采用预先设定的道路图像填充块填充形成,上述所有各类井盖也采用相应的井盖图像填充块填充,由于所述图像都是预先设定的专门用于填充的图像,从而所有的道路图像的填充图片都是相同,从而不用储存不同道路的实景道路图像,从而进一步压缩图像的存储空间。
4.根据权利要求3中任意一项所述的一种低延时高清AR多路导航系统,其特征在于:所述道路图像填充块包括沥青道路填充块和水泥混泥土道路图像填充块;所述通信电缆井盖和电缆井盖仅采用相应颜色的轮廓线在道路图像中标记,不进行专门的通信电缆井盖和电缆井盖填充。
5.一种根据权利要求1-4任一项所述的低延时高清AR多路导航系统的自动导航方法,所述自动导航方法的步骤如下:
S1、打开AR导航预显示巡航系统的车载端,所述车载端进行初始化,同时,所述车载端的5G信号发送和接收模块和所述AR服务器的5G信号发送和接收模块连接,完成本地AR实景数据库查询工作,具体来说,使车载端的AR实景数据库中的底层基础层图层和外景图层为最新的数据库,如果非最新数据库,则从所述AR服务器下载最新的AR实景数据库,以更新车载端;
S2、车载端初始化后,提示用户输入目的地,用户输入目的地后,显示规划路径信息,同时AR服务器连接,实时获取当前行驶路线的道路路线和标记层和临时改变图像层,并将实时获取的道路路线和标记层和临时改变图像层和预先已经储存在本地车载端的底层基础层图层和外景图层发送给车载端处理器组合发送给车载端的显示实景图像显示,同时摄像头开始工作;
S3、所述摄像头拍摄到车头景象,并和所述车载端的本地AR实景数据库的数据进行AI智能匹配,同时车载端的车载端定位模块给出地图地理位置数据,经过地图位置数据和AI智能匹配的AR实景图,从而得出车辆在AR实景巡航图;同时,对拍摄的图像,获取运动物体的景象,并提取景象输入到车载端处理器组合发送给车载端的显示实景图像显示;
S4、在获取不到车载端定位模块给出地图地理位置数据时,获取车速传感模块的速度数据和加速度传感器测定方向信息,进而利用方向信息和速度数据并结合AI智能匹配的AR实景图,从而获得车辆的AR实景巡航图;
S5、在摄像头拍摄到车头景象和所述车载端的本地AR实景数据库的数据无法进行图像匹配,则认定当前实景已经发生改变,此时需要启动模糊匹配,具体来说,是将拍摄的图像中的底层基础层图层或外界景象图层提取出来,并利用本地车载端的处理器进行AI智能匹配,同时,利用附近景象连续性特征进行匹配校验,同时,车载端的摄像头获取的图像和车载端的车载端定位模块获取的位置信息传输至AR实景服务器的AR实景地图修正模块,所述AR实景地图修正模块对拍摄的图像进行相应的图层处理,修正相应位置的AR实景地图,并更新AR实景服务器的AR实景数据库。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010958392.8A CN112050826B (zh) | 2020-09-14 | 2020-09-14 | 一种低延时高清ar多路导航系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010958392.8A CN112050826B (zh) | 2020-09-14 | 2020-09-14 | 一种低延时高清ar多路导航系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112050826A CN112050826A (zh) | 2020-12-08 |
CN112050826B true CN112050826B (zh) | 2021-06-04 |
Family
ID=73611647
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010958392.8A Active CN112050826B (zh) | 2020-09-14 | 2020-09-14 | 一种低延时高清ar多路导航系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112050826B (zh) |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103105174B (zh) * | 2013-01-29 | 2016-06-15 | 四川长虹佳华信息产品有限责任公司 | 一种基于ar增强现实技术的车载实景安全导航方法 |
CN104359487B (zh) * | 2014-11-13 | 2017-06-23 | 沈阳美行科技有限公司 | 一种实景导航系统 |
CN104990555B (zh) * | 2015-02-17 | 2018-07-03 | 上海安吉四维信息技术有限公司 | 实景导航系统的工作方法 |
CN109249808A (zh) * | 2015-03-21 | 2019-01-22 | 董润 | 采用导航系统和制动电能回收子系统的车辆 |
CN105303209A (zh) * | 2015-10-27 | 2016-02-03 | 重庆智韬信息技术中心 | 建立车载rfid信息数据中继传输的系统 |
CN107036609A (zh) * | 2016-10-18 | 2017-08-11 | 中建八局第建设有限公司 | 基于bim的虚拟现实导航方法、服务器、终端及系统 |
US10290137B2 (en) * | 2017-01-31 | 2019-05-14 | Saudi Arabian Oil Company | Auto-generation of map landmarks using sensor readable tags |
CN111256687A (zh) * | 2018-11-30 | 2020-06-09 | 广东星舆科技有限公司 | 地图数据的处理方法、装置、采集设备和存储介质 |
CN110164135B (zh) * | 2019-01-14 | 2022-08-02 | 腾讯科技(深圳)有限公司 | 一种定位方法、定位装置及定位系统 |
CN110843674A (zh) * | 2019-11-22 | 2020-02-28 | 深圳晨芯时代科技有限公司 | 一种基于ar增强现实技术的车载显示模组系统 |
-
2020
- 2020-09-14 CN CN202010958392.8A patent/CN112050826B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN112050826A (zh) | 2020-12-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
AU2018264015B2 (en) | Virtual camera for 3D maps | |
US11625863B2 (en) | Three-dimensional data creation method, client device, and server | |
CN112067014B (zh) | 一种ar多路导航系统 | |
US8762041B2 (en) | Method, device and system for presenting navigational information | |
US8818076B2 (en) | System and method for cost-effective, high-fidelity 3D-modeling of large-scale urban environments | |
US9111380B2 (en) | Rendering maps | |
US20200356108A1 (en) | Information transmission method and client device | |
EP2507768B1 (en) | Method and system of generating a three-dimensional view of a real scene for military planning and operations | |
KR101084450B1 (ko) | 네비게이션 시스템, 휴대 단말 장치 및 경로 안내 방법 | |
US20100245561A1 (en) | Navigation device | |
CN104833368A (zh) | 实景导航系统及方法 | |
JP2003287434A (ja) | 画像情報検索システム | |
CN114419231B (zh) | 基于点云数据和ai技术的交通设施矢量识别提取分析系统 | |
EP2397819B1 (en) | Method, device and system for presenting navigational information | |
WO2011123710A1 (en) | Synthesizing panoramic three-dimensional images | |
CN114655207B (zh) | 一种数据处理方法、装置、设备及存储介质 | |
CN112050826B (zh) | 一种低延时高清ar多路导航系统 | |
US20140300623A1 (en) | Navigation system and method for displaying photomap on navigation system | |
CN112013867B (zh) | 基于实景反馈的ar导航预显示巡航系统 | |
CN112197786B (zh) | 一种基于实景反馈的ar导航预显示巡航系统 | |
CN113470051B (zh) | 图像分割方法、计算机终端及存储介质 | |
CN114241142A (zh) | 一种多精度dem数据差值平滑融合方法和系统 | |
CN113538679A (zh) | 一种混合实景三维航道场景构建方法 | |
CN115223030B (zh) | 路面病害检测系统及方法 | |
CN117750332A (zh) | 一种面向自动驾驶的边缘计算设备间数据交互方法和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |