发明内容
本发明的目的在于克服现有技术中导航技术功能单一及安全性差的不足,本发明所提供的一种基于多源信息融合的AR导航系统及方法,能够满足随着汽车日益普及和道路不断建设而产生的复杂需求,提高了导航的精确性。
为了实现上述第一目的,本发明采用的技术方案是:本发明提供一种基于多源信息融合的AR导航系统,包括ADAS模块、中控导航模块、手机导航模块、车载监控模块、AR控制模块以及AR-HUD模块,其中,
所述ADAS模块,用于识别车辆行驶方向、车道数量以及车辆所在车道定位,并将识别结果传至AR控制模块。
所述中控导航模块,用于标定车辆在图像中的位置区域,结合所述ADAS模块的所述识别结果和车辆在图像中所在位置,判断车辆当前车道及与车道中心位置的偏移量,并发送到AR控制模块。
所述手机导航模块,用于获取线路的导航信息,并发送给AR控制模块。
所述车载监控模块,用于获取车辆转向、车身速度以及航向角信息,并发送给AR控制模块。
所述AR控制模块,用于根据获取的ADAS模块、中控导航模块、手机导航模块和车载监控模块的信息生成融合信息,并将所述融合信息发送至所述AR-HUD模块。
所述AR-HUD模块,用于接收所述AR控制模块所生成的融合信息,并根据所述融合信息生成AR导航箭头。
具体地,所述AR控制模块包括信息融合单元、信息处理单元和信息输出单元;所述信息融合单元,用于融合ADAS模块、中控导航模块及手机导航模块所生成的导航信息,以及获取车载监控模块所采集的车辆信息;所述信息处理单元,用于处理所述信息融合单元获取的数据;所述信息输出单元,用于将所述信息处理单元所处理的数据生成融合数据,并将所述融合数据传至所述AR-HUD模块。
为了实现本发明的另一目的,本发明还提供了一种基于多源信息融合的AR导航方法,包括以下步骤:S1,获取来自导航模块的导航数据、车载监控模块的车身数据和ADAS模块的车辆行驶信息,所述车身数据包括车辆转向、车身速度以及航向角信息,所述车辆行驶信息包括车道线检测信息与车道识别信息;S2,根据所述车辆行驶信息和/或车身数据,判断车辆行驶路线是否需要进行调整,若需要进行线路调整,则输出调整信息;S3,根据所述调整信息,调整AR-HUD模块中AR导航箭头位置。
具体地,所述步骤S2包括以下步骤:
S21A,从导航数据和车辆行驶数据中获取当前车道信息、目标车道信息和可行驶车道信息,所述目标车道信息包括车道数、车道编号以及对应图标。
S22A,判断车辆是否处于直行状态,若所述车辆处于直行状态,则识别车辆的偏移位置,并根据所述偏移位置,判断所述车辆的当前车道,并计算与车道中心位置的偏移量。
S23A,判断当前车道是否与目标车道匹配,若所述当前车道与目标车道匹配,则继续按当前导航指示,生成根据偏移量调整导航箭头的第一调整信息。
S24A,若当前车道与目标车道不匹配,则判断可行驶车道是否满足换道要求,若满足所述换道要求,则生成指向所述目标车道换道箭头的第二调整信息。
更具体地,所述则识别车辆的偏移位置,包括以下步骤:
获取车道线的图像信息,根据所述车道线判断行驶方向车道数量,对所述图像信息进行处理,提取所述图像信息中车道线信息;获得车道线在图像信息上的坐标点,并根据坐标点建立曲线模型,生成二维坐标信息,并通过相机标定参数将二维坐标信息转化为三维坐标信息;判断所述车辆是否偏离所述车道线,若偏离所述车道线,则生成压线判断信息,并输出车道线三维坐标信息和压线判断信息。
再进一步地,所述对图像信息进行处理,包括以下步骤:
获取当前车道的第一图像信息,并对所述第一图像信息进行预处理;提取所述当前车道的车道线特征,并进行二次曲线拟合;获取侧车道的第二图像信息,并对所述第二图像信息进行预处理;提取所述当前车道的车道线特征,根据所述车道线信息进行筛选,并进行二次曲线拟合。
在上述方案中,所述步骤S2还包括以下步骤:
S21B,获取所述车辆的转向灯信号,根据所述转向灯信号,获取换道或者转向信息。
S22B,根据车道信息和可行驶车道信息,判断所述车辆两旁是否有可行驶车道。
S23B,若所述车辆两旁有可行驶车道,则根据所述可行驶区域信息,生成第三调整信息。
所述S2还可以包括以下步骤:
S24B,判断所述车辆是否偏离道路中心线。
S25B,若所述车辆偏离道路中心线,则需根据所述车辆与道路中心位置的偏移量生成指向当前道路中心的第四调整信息。
在上述方案中所述步骤S3具体包括:
S31,根据车辆与换道起始中心位置的偏移量,对车辆坐标系进行平移。
S32,根据车辆的航向角和车道的方向角计算出相对夹角,并通过所述相对夹角对车辆坐标系进行转换。
S33,导航箭头根据所述车辆坐标系的变化而切换显示方向。
进一步,所述步骤S32具体包括:
获取所述当前车道,根据所述车辆与所述当前车道的车道线夹角,拟合车道的方向角和曲率。
根据车辆的航向角和车道的方向角,计算出所述车辆的航向角与车道切向方向的夹角。
以所述车辆为坐标原点,根据所述航向角与车道切向方向的夹角计算航向角与车道夹角。
与现有技术相比,本发明具有以下有益效果:
本发明所提供的基于多源信息融合的AR导航系统及方法,解决现有技术导航技术功能单一及安全性差的技术问题,提供了更加可靠的数据支撑。通过将ADAS模块、中控导航模块、手机导航模块以及车载监控模块的信息进行融合,使得功能更加丰富,能满足随着汽车日益普及和道路不断建设而产生的复杂需求,适应多种复杂场景,遇到路况比较复杂的地段时,对用户起到更加明确的引导作用,提高了导航的精确性;同时通过手机导航模块的输出也提高了导航的便捷性。
具体实施方式
下面结合实施例及具体实施方式对本发明作进一步的详细描述。但不应将此理解为本发明上述主题的范围仅限于以下的实施例,凡基于本发明内容所实现的技术均属于本发明的范围。
众所周知,“AR导航”作为一种更好的解决方案被广泛的应用于车辆导航到的技术中。AR导航对于用户而言最大的变化就是“直观性”。从驾驶员的视野来看,导航信息与车道线进行了融合。AR(增强现实技术)是在真实场景里出现一些虚拟信息。AR导航则是在真实的路况信息中,实时出现一些虚拟指向箭头来更直观地引导我们前进。与传统导航相比,车载AR导航会先用摄像头把前方道路的真实场景实时捕捉下来,这是“实”;再结合当前的定位、地图信息以及场景AI识别进行融合计算,在人眼可见的真实道路上生成虚拟的指引信息,这是“虚”。本发明是对现有技术进行改进,使用一种基于多源信息融合的AR导航系统及方法以解决现有技术中所存在的功能单一、准确性差的技术问题。
本发明是一种基于多源信息融合的AR导航系统及方法,其具体实施方式如下:
第一实施例
图1是根据一示例性实施例示出的一种基于多源信息融合的AR导航系统的结构示意图。请参考图1,本实施例的一种基于多源信息融合的AR导航系统,系统包括ADAS模块5、中控导航模块1、手机导航模块4、车载监控模块2以及AR-HUD模块6,ADAS模块5、中控导航模块1、手机导航模块4、车载监控模块2以及AR-HUD模块6均与AR控制模块3连接。其中:
ADAS模块5,用于识别车辆行驶方向、车道数量以及车辆所在车道定位,并将识别结果传至AR控制模块3。
中控导航模块1,用于标定车辆在图像中的位置区域,结合ADAS模块的识别结果和车辆在图像中所在位置,判断车辆当前车道及与车道中心位置的偏移量,并发送到AR控制模块3。
手机导航模块4,用于获取线路的导航信息,并发送到AR控制模块3。
车载监控模块2,用于获取车辆转向、车身速度以及航向角信息,并发送到AR控制模块3。
AR控制模块3,用于融合ADAS模块5、中控导航模块1、手机导航模块4以及车载监控模块2的信息,生成融合信息,并将融合信息发送至AR-HUD模块6。
AR-HUD模块6,用于接收AR控制模块3所生成的融合信息,并根据融合信息生成AR导航箭头。
其中EHP技术是指电子地平线技术(Electronic horizon),用于手机导航模块所使用的一种技术,手机导航模块就是手机地图应用软件;中控导航模块则是使用车机地图导航系统;ADAS模块是辅助驾驶导航,通过加装在车辆上的各种传感器,包括摄像头,提供视觉信息;车载监控模块则是通过车身用CAN总线引出自身的转向信号,车速等信号;通过获取到这些多种来源的数据,进行分析处理,目的是将各种不同的数据信息进行综合,吸取不同数据源的特点然后从中提取出统一的,比单一数据更好、更丰富的信息,然后通过UI设计,实现更人性化的AR-HUD显示。
其中,本系统根据车辆行驶状态进行AR导航提示,当有导航信息接入时,首先通过导航模块判断车辆是否处于直行状态,此处的导航模块可以是手机导航模块和中控导航模块。结合ADAS模块的辅助驾驶分析,若车辆此时的行驶状态为直行状态时,则根据车辆在识别到的图像中的偏移位置,判断车辆当前车道及与车道中心位置的偏移量。
然后再通过手机导航模块或中控导航模块结合ADAS模块,获取车道信息和可行驶车道信息,其中车道信息包括车道数、车道编号、当前车道、目标车道及对应图标。AR控制模块判断当前车道是否与目标车道匹配,若匹配,则继续按当前导航指示,如直行、转弯等,以及根据偏移量调整AR-HUD模块的AR导航箭头指向可行驶车道中心;若不匹配,判断可行驶车道是否满足换道要求,则通过AR-HUD模块投影出对应指向目标车道的的换道导航箭头。
在车辆行驶过程中,通过视觉识别算法判断航向角与车辆当前车道中心线的夹角,根据夹角的正负情况和车辆可行驶车道的信息,AR控制模块发送调整AR导航箭头方向或者生成换道AR诱导箭头的指令到AR-HUD模块,AR-HUD模块再根据其所接收到的指令信息,调整AR导航箭头方向。如果夹角方向是可行驶车道,生成换道AR诱导箭头;如果夹角方向不是可行驶车道,则发送调整AR导航箭头指向车辆当前车道中心线方向的指令到AR-HUD模块。
本实施方式只是优选的一种换道的实施例,本系统也可用于根据车辆所在车道、可行驶车道、所在车道的偏移量、车道与车道的夹角,道路的曲率及坡度等信息,将所采集到的信息进行融合分析,进而控制AR-HUD模块所输出的AR导航箭头的方向,车辆再根据箭头所示进行换道及行驶方向的改变。
优选的,如图2所示,AR控制模块包括信息融合单元3.1、信息处理单元3.2以及信息输出单元3.3。
信息融合单元3.1,用于融合ADAS模块、中控导航模块及手机导航模块所生成的导航信息,以及获取车载监控模块所采集的车辆信息;
信息处理单元3.2,用于处理信息融合单元获取的数据;
信息输出单元3.3,用于将信息处理单元所处理的数据生成融合数据,并将融合数据传至AR-HUD模块。
通过本发明所提供的一种基于多源信息融合的AR导航系统,通过将中控导航模块、ADAS模块、手机导航模块以及车载监控模块所采集的数据进行融合,从而使得导航系统的数据支撑更加可靠,功能更加丰富,能够满足随汽车日益普及和道路不断建设而带来的导航问题。即便在面对较为复杂的路段时,也能通过本系统对数据的融合,进而更加明确的引导,提高了导航的精确性。
第二实施例
图3是根据一示例性实施例示出的一种基于多源信息融合的AR导航方法的流程示意图。请参考图3,本实施例的一种基于多源信息融合的AR导航方法,具体包括以下步骤:
步骤S1,获取来自导航模块的导航数据、车载监控模块的车身数据和ADAS模块的车辆行驶信息,所述车身数据包括车辆转向、车身速度以及航向角信息,所述车辆行驶信息包括车道线检测信息与车道识别信息。
其中,导航模块为中控导航模块或/和手机导航模块,ADAS模块以及,获取中控导航模块、手机导航模块和ADAS模块,这几个模块的导航数据以及车辆行驶数据,是为了提高导航的精确性。本步骤还需要获取车载监控模块的车辆信息,车辆行驶信息包括车道线监测信息与车道识别信息。本步骤是为接下来导航数据和车辆行驶信息实时结合做准备,以此提高导航的精确性。
步骤S2,根据车辆行驶信息和/或车身数据,判断车辆行驶路线是否需要进行调整,若需要进行线路调整,则输出调整信息。
其中,车辆行驶信息包括了车道线检测信息与车道线识别信息,本步骤根据车道线监测信息或者车道线识别信息来判断车辆的AR导航箭头显示是否需要进行调整。例如,检测到车辆偏离车道线行驶,则识别车道线信息,并与车道进行比对,计算其偏离量,判断是换道还是回到原导航线路进行行驶,此时则对应输出是需要进行换道,还是回到原导航线路行驶的调整信息。
步骤S3,根据调整信息,调整AR-HUD模块中AR导航箭头位置。
其中,由步骤S2能获得具体的一个调整信息,S3则根据上一步骤中所获取到的调整信息,向AR-HUD模块发送调整信息,AR-HUD模块则根据所获取到的调整信息进行调整箭头的位置或者输出换道、直行、转弯、掉头或进入环岛等AR导航箭头,比如箭头此时需要左转,则AR-HUD模块根据车身坐标及AR导航箭头进行对应调整。
优选的,步骤S3具体包括:
步骤S31,根据车辆与换道起始中心位置的偏移量,对车辆坐标系进行平移。
步骤S32,根据车辆的航向角和车道的方向角计算出相对夹角,并通过相对夹角对车辆坐标系进行转换。
步骤S33,导航箭头根据车辆坐标系的变化而切换显示方向。
其中,步骤S32包括:获取车辆当前车道,根据车辆与当前车道的车道线夹角,拟合车道的方向角和曲率。根据车辆的航向角和车道的方向角,计算出航向角与车道切向方向的夹角,以车辆为坐标原点,根据航向角与车道切向方向的夹角计算航向角与车道夹角,如图4所示。
通过本发明所提供的一种基于多源信息融合的AR导航方法,能克服传统的导航仪功能单一及不够人性化的技术问题。通过获取多个模块的导航数据、车身数据和车辆行驶信息,并对所获取到的导航数据进行融合提取,再获取车辆的实时行驶数据,经比对判断车辆行驶的方向,进而控制AR-HUD模块对AR导航箭头进行输出,能够克服现有技术只能进行单一的路线指引的技术问题,且本发明是通过多个导航模块的融合,能够提供更加精准的导航,使得驾驶车辆时更为安全。
第三实施例
图5是根据一示例性实施例示出的一种基于多源信息融合的AR导航方法步骤S2的流程示意图一。请参考图5,本实施例的一种基于多源信息融合的AR导航方法步骤S2的具体步骤,具体包括以下步骤:
步骤S21A,从导航数据和车辆行驶数据中获取当前车道信息、目标车道信息和可行驶车道信息,目标车道信息包括车道数、车道编号以及对应图标。本步骤是为了准确判断车辆当前车道,为车辆AR导航提供准确的车辆位置信息,需要判断车辆所在车道及是否需要进行换道,从车辆行驶信息中判断车辆是否处于直行状态,在处于直行状态时,则根据其偏移量确认车辆目前所处于哪一车道上。
其中,为了解决普通导航程序无法识别车道的问题,利用图像处理技术,检测车道线,再通过车道线判断车辆行驶方向的车道数量。利用ADAS模块的车前摄像头对车道线的图像信息进行采集,在接收到图像信息之后对图像信息进行处理,提取图像信息中车道线信息,获得车道线在图像信息上的坐标点,并根据坐标点建立曲线模型,生成二维坐标信息。
通过相机标定参数将所获取到的二维坐标信息转化成三维坐标信息,并判断当前车辆是否偏离车道线,若偏离车道线,则生成压线判断信息;然后获取车辆是否在压线行驶的压线判断信号;最后将车道线坐标信息和压线判断信号传递生成调整信号,并将调整信号传递至AR-HUD模块,使得AR导航箭头显示为该调整信号。
获取当前车道的第一图像信息,并对第一图像信息进行预处理;提取当前车道的车道线特征,并进行二次曲线拟合;获取侧车道的第二图像信息,并对第二图像信息进行预处理;提取当前车道的车道线特征,根据车道线信息进行筛选,并进行二次曲线拟合。
根据已检测到的车道线,判断左右侧是否存在车道。
本发明可降低车道误检漏检可能性,提高基于视觉的车道线检测的准确性。对于车道线检测通过ROI提取,图像预处理,车道线特征检测、二次曲线拟合、平滑预测、前后帧关联以及LDW偏离预警线来实现。其中,首先对图像预处理是通过曝光处理、图像灰度化、sobel边缘检测以及中值滤波,然后再经过霍夫直线检测、直线筛选和离散对车道线特征进行提取,最后再对离散点进行二次曲线拟合、平滑预测、前后帧关联以及偏离预警。由于对其车道线进行检测属于现有技术,故在此不多描述。
步骤S22A,判断车辆是否处于直行状态,若车辆处于直行状态,则识别车辆的偏移位置,并根据偏移位置,判断车辆的当前车道,并计算与车道中心位置的偏移量。本步骤是为了准确判断车辆当前车道,为车辆AR导航提供准确的车辆位置信息,需要判断车辆所在车道及是否需要进行换道,从车辆行驶信息中判断车辆是否处于直行状态,在处于直行状态时,则根据其偏移量确认车辆目前所处于哪一车道上。
首先需要标定车辆在所获取到的图像中的位置区域,再结合ADAS模块进行识别车道线和车辆当前车道的位置,来判断车辆当前车道以及与该车道中心位置的偏移量。如图6所示,将已检测到的车道线投影至世界坐标系后,根据检测到本车道的车道线方程计算中间值,获得车道中心线方程,使用点到直线的距离算法,此时所计算的原点到中心线的距离即为偏移量。上述所说的世界坐标系是指以摄像头为原点所建立的三维坐标系。
步骤S23A,判断当前车道是否与目标车道匹配,若当前车道与目标车道匹配,则继续按当前导航指示,生成根据偏移量调整导航箭头的第一调整信息。
步骤S24A,若当前车道与目标车道不匹配,则判断可行驶车道是否满足换道要求,若满足换道要求,则生成指向目标车道换道箭头的第二调整信息。
本实施例是根据车辆行驶状态进行AR导航提示,当有导航信息接入时,首先通过导航模块判断车辆是否处于直行状态,此处的导航模块可以是手机导航模块或中控导航模块。若车辆此时的行驶状态为直行状态时,则根据车辆在识别到的图像中的偏移位置,判断车辆当前车道及与车道中心位置的偏移量,如图6所示。
然后再通过是手机导航模块、ADAS模块或中控导航模块其中任两种以上导航模块结合,获取车道信息和可行驶车道信息,其中车道信息包括车道数、车道编号、当前车道、目标车道及对应图标。AR控制模块判断当前车道是否与目标车道匹配,若匹配,则继续按当前导航指示,如直行、转弯等,以及根据偏移量调整AR-HUD模块的AR导航箭头指向可行驶车道中心;若不匹配,判断可行驶车道是否满足换道要求,则通过AR-HUD模块投影出对应指向目标车道的的换道导航箭头。
在车辆行驶过程中,通过视觉识别算法判断航向角与车辆当前车道中心线的夹角,根据夹角的正负情况和车辆可行驶车道的信息,AR控制模块发送调整AR导航箭头方向或者生成换道AR诱导箭头的指令到AR-HUD模块,AR-HUD模块再根据其所接收到的指令信息,调整AR导航箭头方向。如果夹角方向是可行驶车道,生成换道AR诱导箭头;如果夹角方向不是可行驶车道,则发送调整AR导航箭头指向车辆当前车道中心线方向的指令到AR-HUD模块。
通过本实施例所提供的一种基于多源信息融合的AR导航方法,通过识别当前车辆是否偏离车道线,进而控制AR导航箭头的显示,除了上一实施例的技术效果以外,还使得驾驶车辆的人员在行车过程中更加智能、安全的行车。
第四实施例
图7是根据一示例性实施例示出的一种基于多源信息融合的AR导航方法步骤S2的流程示意图二。请参考图7,本实施例的一种基于多源信息融合的AR导航方法步骤S2,具体包括以下步骤:
步骤S21B,获取车辆的转向灯信号,根据转向灯信号,获取换道或者转向信息;
步骤S22B,根据车道信息和可行驶车道信息,判断车辆两旁是否有可行驶车道;
步骤S23B,若车辆两旁有可行驶车道,则根据可行驶区域信息,生成第三调整信息。
其中,通过将ADAS模块、手机导航模块以及中控导航模块所采集的车辆行驶路径道路信息进行融合,从而推导出可行驶车道。利用ADAS模块输出的车道数目,同时结合所采集的图像信息判断出车辆的当前车道和车辆的偏移量,再结合ADAS模块、手机导航模块以及中控导航模块所输出的导航路径中车辆可行驶车道的信息,判断车辆是否位于可行驶车道和可行驶区域。
优选的,如图8所示,步骤S2还包括下列步骤:
步骤S24B,判断车辆是否偏离道路中心线;
步骤S25B,若车辆偏离道路中心线,则需根据车辆与道路中心位置的偏移量生成指向当前道路中心的第四调整信息。
在车辆行驶过程中,根据车载监控模块所获取到的左右转向灯信号,结合可行驶区域信息,生成AR导航箭头。AR-HUD模块根据转向灯信号获取换道信息或者转向信息,在结合ADAS模块、基于视觉检测输出的车道信息和导航软件输出的可行驶车道信息判断车辆两旁是否有可行驶车道,如果满足条件,则生成AR换道箭头,并根据AR导航系统主动诱导场景中的导航夹角调整方法调整AR导航的角度,使其始终指向要换到的车道,直到转向信号消失,换道结束。其次,判断车辆是否偏离道路中心线,若偏离了,则需根据车辆与道路中心位置的偏移量生成指示路径,指向当前所在道路的中心。
以主动换道为例,用户先打转向灯再进行换道。首先获取通过导航模块所采集的当前导航状态,若为直行状态,则获取通过车载监控模块的车身OBD转向灯信号,判断是否有转向信号获取,根据车载监控模块所获取的对应转向信号及车载前置摄像头获取到的车道线信息,初始化不同的换道曲线关键点,插值后拟合出一条流畅的换道曲线。
根据车辆与换道起始车道中心位置的偏移量,对车辆坐标系进行平移,使换道箭头始终指向目标车道的道路中心,再根据车辆的航向角和车道的方向角,求出两者的相对夹角,并通过这个角不断实时的对车辆坐标系进行转换。AR-HUD显示范围按需自定义标定,其中换道箭头由所设定的关键点平滑而成,根据车辆与道路的夹角等实时变化点坐标生成新的路径点构成新的指示曲线,实现换道指示箭头动态变化的效果。
通过本实施例所示出的一种基于多源信息融合的AR导航方法,根据获取到的来自不同数据模块的多源信息,输出对应的直行、转弯、掉头、环岛、换道等AR导航箭头,通过对转向灯信号的监控以及可行驶区域的判断,确定车辆是否需要进行换道及对应换道方向,调整导航箭头位置,并通过车身与道路的夹角实时动态的变化导航指示箭头,适应复杂路况,起到更好的导航引导作用。
综上所述,以上仅为本发明较佳的具体实施方式的详细说明,而非对本发明保护范围的限制。在实际应用时,本领域技术人员完全可依据本技术方案做出若干调整。凡在本发明所阐述的原理的前提下所做的任何修改、等同替换、局部应用等,均应包含在本发明的保护范围之内。