CN107600067B - 一种基于多视觉惯导融合的自主泊车系统及方法 - Google Patents
一种基于多视觉惯导融合的自主泊车系统及方法 Download PDFInfo
- Publication number
- CN107600067B CN107600067B CN201710807276.4A CN201710807276A CN107600067B CN 107600067 B CN107600067 B CN 107600067B CN 201710807276 A CN201710807276 A CN 201710807276A CN 107600067 B CN107600067 B CN 107600067B
- Authority
- CN
- China
- Prior art keywords
- vehicle
- parking lot
- parking
- information
- vision
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000004438 eyesight Effects 0.000 title claims abstract description 81
- 230000004927 fusion Effects 0.000 title claims abstract description 47
- 238000000034 method Methods 0.000 title claims abstract description 26
- 238000001514 detection method Methods 0.000 claims abstract description 45
- 238000012360 testing method Methods 0.000 claims abstract description 8
- 239000011159 matrix material Substances 0.000 claims description 23
- 238000005457 optimization Methods 0.000 claims description 21
- 230000008569 process Effects 0.000 claims description 14
- 238000005259 measurement Methods 0.000 claims description 8
- 238000012545 processing Methods 0.000 claims description 7
- 238000006243 chemical reaction Methods 0.000 claims description 6
- 230000004888 barrier function Effects 0.000 claims description 4
- 238000004088 simulation Methods 0.000 claims description 4
- 239000000284 extract Substances 0.000 claims description 3
- 230000008447 perception Effects 0.000 claims description 3
- 235000013399 edible fruits Nutrition 0.000 claims 1
- 238000000465 moulding Methods 0.000 claims 1
- 230000006870 function Effects 0.000 description 7
- 230000008859 change Effects 0.000 description 3
- 238000007689 inspection Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Landscapes
- Navigation (AREA)
Abstract
本发明公开一种基于多视觉惯导融合的自主泊车系统,包括双目视觉SLAM模块、环视泊车检测模块和决策及控制模块,双目视觉SLAM模块,用于将所采集的停车场图像通过多视觉惯导融合生成停车场模拟地图,且获取车辆在停车场模拟地图坐标系下的实时定位信息传送至决策及控制模块;环视泊车检测模块,用于采集车辆当前位置数据检测当前环境特征参数检测,且将其检测结果传送至决策及控制模块;决策及控制模块,用于根据所接收的车辆在停车场模拟地图中地理定位信息和当前环境特征参数作出车辆自主泊车策略。本发明还公开一种基于多视觉惯导融合的自主泊车方法,用以实现上述系统。
Description
技术领域
本发明涉及车辆自主泊车技术领域,特别涉及一种基于多视觉惯导融合的自主泊车系统及方法。
背景技术
在汽车普及如此迅猛的背景下,汽车智能化成为汽车产业发展的一大趋势,其中由于泊车环节繁琐,对驾驶者技术要求高,泊车过程容易出现意外等原因,自主泊车系统更是吸引各大汽车厂商投入大量资金研究发展。目前为止,市面上高端车型配备的自主泊车系统大部分依靠于雷达和超声波传感器实现,通过雷达,超声波获取汽车与周边物体间的距离以达到泊车的目的。但雷达与超声波传感器均存在一定的盲点,无法完整地把数据采集下来。同时,此类传感器价格高昂,一般只配备在高端品牌的高端车型上,对于智能车的普及无法起到积极的作用。
同时,由于车辆数目的快速增长,城市停车位在繁忙时段一位难求,寻找停车库位的过程是枯燥的,极其麻烦的,但遗憾的是,市面上大部分的自主泊车系统需要驾驶者自己寻找停车库位并把车驾驶到库位附近才能实现自主泊车,部分的自主泊车系统还需要驾驶者把停车库位标记出来。十分不人性化。
此外,市面上极少应用视觉SLAM技术为自主泊车系统提供定位信息,视觉SLAM技术难以做到稳定的追踪计算当前位置信息,对场景,车速要求极高,不适用于真正多变的泊车环境。
发明内容
本发明的主要目的是提出一种基于多视觉惯导融合的自主泊车系统,旨在克服上述问题。
为实现上述目的,本发明提出的基于多视觉惯导融合的自主泊车系统,包括双目视觉SLAM模块、环视泊车检测模块和决策及控制模块,其中:双目视觉SLAM模块,用于将所采集的停车场图像通过多视觉惯导融合生成停车场模拟地图,且获取车辆在停车场模拟地图坐标系下的实时定位信息传送至决策及控制模块,其中双目视觉SLAM模块包括惯性测量元件IMU,用以获取车辆当前位置的IMU信息;环视泊车检测模块,用于采集车辆当前位置数据检测当前环境特征参数检测,且将其检测结果传送至决策及控制模块;决策及控制模块,用于根据所接收的车辆在停车场模拟地图中地理定位信息和当前环境特征参数作出车辆自主泊车策略,以此控制车辆自主泊车的操作。
优选地,所述双目视觉SLAM模块包括图像采集处理单元、建图单元、车辆视觉定位单元和场景定位修正单元,其中:图像采集处理单元,用于通过双目相机采集车辆当前帧图像,对其处理得到该图像的深度信息,从该图像的深度信息中提取车辆当前帧图像的ORB特征;建图单元,用于根据车辆在停车场行驶从每帧车辆当前帧图像所提取的ORB特征通过多视觉惯导融合生成若干停车场SLAM图像,且由若干停车场SLAM图像组成停车场模拟地图;车辆视觉定位单元,用于车辆无人泊车进程中通过多视觉惯导融合的轨迹推导车辆在停车场模拟地图坐标系下的初始实时定位信息;场景定位修正单元,用于将车辆无人泊车进程中的当前帧图像的ORB特征与停车场SLAM图像的特征图像进行场景实时定位修正,将车辆在停车场模拟地图坐标系下的初始实时定位信息修正为车辆在停车场模拟地图坐标系下的实时定位信息,并输出至决策及控制模块。
优选地,所述场景定位修正单元包括一次定位修正子单元、二次定位修正子单元和输出子单元,其中:一次定位修正子单元,用于将车辆当前帧图像的ORB特征与停车场SLAM图像进行场景实时定位修正,将车辆在停车场模拟地图坐标系初始实时定位信息修正为其的一次实时定位信息;二次定位修正子单元,用于将所述一次实时定位信息和车辆当前帧图像进行矩阵转换完成二次定位修正,得到车辆在停车场模拟地图坐标系下的实时定位信息;输出子单元,用于将车辆在停车场模拟地图坐标系下的实时定位信息输出至决策及控制模块。
优选地,所述多视觉惯导融合是指以停车场帧图像作为参考关键帧放入SLAM中,车辆当前帧图像放入SLAM,且与参考关键帧中的图像信息相匹配,根据匹配情况选用车辆当前帧图像或车辆当前位置的IMU信息作为车辆位置信息。
优选地,所述根据匹配情况选用车辆当前帧图像或IMU信息的车辆当前位置作为车辆位置信息的公式为:
Pos=pose of IMU if map points<threshold;
Pos=pos if map points>threshold,
pos代表当前帧所处位置,pos of IMU代表通过IMU元件获得的当前位置,mappoints代表一帧里面拥有的地图点,threshold代表系统预设阈值。
优选地,还包括G20优化模块,所述G20优化模块对停车场模拟地图进行离线闭环检测,以对停车场模拟地图全局优化;及所述G20优化模块还对车辆二次地图定位进行优化,以得到车辆的最优定位信息。
优选地,所述双目视觉SLAM模块还包括存储模块,所述存储模块用于存储双目视觉SLAM模块所生成的不同的停车场模拟地图,并提供给车辆视觉定位单元进行匹配及定位。
优选地,所述环境特征参数包括车道线参数、车位参数、障碍物参数,所述环视泊车检测模块包括车道线检测单元、车位检测单元和障碍物检测单元,其中:车道线检测单元,用于为车辆提供车道线感知信息,并将所感知的信息传送至决策及控制模块以规划车辆行驶路线;车位检测单元,用于采用环视相机得出车辆所处位置的环视图并进行车位检测;障碍物检测单元,用于利用双目相机检测车辆四周是否存在障碍物,并将所检测的结果传送至决策及控制模块。
本发明还公开了一种基于多视觉惯导融合的自主泊车方法,包括如下步骤:S10将所采集的停车场图像通过多视觉惯导融合生成停车场模拟地图,且获取车辆在停车场模拟地图坐标系下的实时定位信息传送至决策及控制模块,其中双目视觉SLAM模块包括惯性测量元件IMU,用以获取车辆当前位置的IMU信息;S20采集车辆当前位置数据检测当前环境特征参数检测,且将其检测结果传送至决策及控制模块;S30根据所接收的车辆在停车场模拟地图中地理定位信息和当前环境特征参数作出车辆自主泊车策略,以此控制车辆自主泊车的操作。
优选地,所述S10包括:
S101通过双目相机采集车辆当前帧图像,对其处理得到该图像的深度信息,从该图像的深度信息中提取车辆当前帧图像的ORB特征;
S102根据车辆在停车场行驶从每帧车辆当前帧图像所提取的ORB特征通过多视觉惯导融合生成若干停车场SLAM图像,且由若干停车场SLAM图像组成停车场模拟地图;
S103用于车辆无人泊车进程中通过多视觉惯导融合的轨迹推导车辆在停车场模拟地图坐标系下的初始实时定位信息;
S104将车辆无人泊车进程中的当前帧图像的ORB特征与停车场SLAM图像的特征图像进行场景实时定位修正,将车辆在停车场模拟地图坐标系下的初始实时定位信息修正为车辆在停车场模拟地图坐标系下的实时定位信息,并输出至决策及控制模块。
本发明技术方案通过采用多视觉惯导融合也就是SLAM融合IMU建立起更可靠的停车场模拟地图;又由于融合了IMU元件轨迹推算的位置,获取更为准确、稳定的车辆实时位置信息,再通过场景定位修正时获取车辆在停车场模拟地图坐标系下的实时定位信息输出至决策及控制模块,控制车辆自主泊车,全方位提高了自主泊车系统的正确性、高效性与鲁棒性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图示出的结构获得其他的附图。
图1为本发明一种基于多视角惯导融合的自主泊车系统的一实施例的功能模块图;
图2为本发明中所述双目视觉SLAM模块的功能细化图;
图3为本发明中所述车辆视觉定位单元的功能细化图;
图4为本发明一种基于多视角惯导融合的自主泊车方法一实施例的方法流程图;
图5为本发明中所述S10的方法流程细化图,
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明的一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明,若本发明实施例中有涉及方向性指示(诸如上、下、左、右、前、后……),则该方向性指示仅用于解释在某一特定姿态(如附图所示)下各部件之间的相对位置关系、运动情况等,如果该特定姿态发生改变时,则该方向性指示也相应地随之改变。
另外,若本发明实施例中有涉及“第一”、“第二”等的描述,则该“第一”、“第二”等的描述仅用于描述目的,而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。另外,各个实施例之间的技术方案可以相互结合,但是必须是以本领域普通技术人员能够实现为基础,当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在,也不在本发明要求的保护范围之内。
如图1-5所示,本发明提出的基于多视觉惯导融合的自主泊车系统,包括双目视觉SLAM模块、环视泊车检测模块和决策及控制模块,其中:双目视觉SLAM模块,用于将所采集的停车场图像通过多视觉惯导融合生成停车场模拟地图,且获取车辆在停车场模拟地图坐标系下的实时定位信息传送至决策及控制模块,其中双目视觉SLAM模块包括惯性测量元件IMU,用以获取车辆当前位置的IMU信息;环视泊车检测模块,用于采集车辆当前位置数据检测当前环境特征参数检测,且将其检测结果传送至决策及控制模块;决策及控制模块,用于根据所接收的车辆在停车场模拟地图中地理定位信息和当前环境特征参数作出车辆自主泊车策略,以此控制车辆自主泊车的操作。
在本实施例中,本发明主要分为机器视觉和决策控制两部分,机器视觉又分为双目视觉SLAM模块(即时定位与建图)和停车场环境检测模块,本发明利用双目相机采集车辆所处停车场的环境图像信息,并通过多视觉惯导融合处理生成停车场模拟地图,同时又通过环视泊车系统,在车辆巡航过程中检测停车场环境,且将所检测到的停车场环境信息发送至决策及控制模块做出车辆自主泊车策略,车辆自动巡航,获取车辆在停车场模拟地图坐标系下的实时定位信息传送至决策及控制模块,通过决策及控制模块的控制自主泊车。补充一下地是,双目视觉SLAM通过车辆位置当前帧图像的采集生成当前帧左右两视图的特征图,运用特征匹配算法与地图进行匹配,得到车辆在地图中的初始定位,再采用立体视觉SLAM的追踪定位算法计算车辆当前相对于被匹配地图帧的姿态,用此姿态跟该地图帧的离线轨迹姿态做RT变换(RT矩阵变换就是一个位置矩阵乘以一个RT矩阵,4*4矩阵,里面包含了R矩阵,T矩阵,分别表示角度和距离,地图帧的位置矩阵*RT矩阵=车辆实际位置矩阵,其中RT矩阵通过追踪定位算法得到,由此得到一个新位置矩阵),得到车辆当前在离线地图坐标下的姿态,即车辆在地图中的实时定位信息,比如车辆在地图中的方向,初始定位是在车辆当前帧图像坐标系与停车场模拟地图坐标系没有统一的情况下的位置,存有误差,车辆在停车场模拟地图坐标系下的实时定位信息就是修正了两个坐标系之间的误差,再通过车辆当前帧图像与停车场SLAM图像进行匹配修正(即场景匹配修正),又通过IMU将提供稳定的轨迹推算功能,每隔一段时间调用上述方法,以基于停车场模拟地图的方式对车辆当前轨迹做修正,进一步地确保整套系统运作时的稳定性与正确性。
惯性测量元件IMU获取IMU信息的车辆当前位置,是利用IMU元件做轨迹推算所获取的稳定的车辆当前位置信息。本系统引进了融合IMU(惯性测量单元)信息的立体视觉SLAM与基于特征地图的匹配模型,利用IMU测量的稳定性与立体视觉SLAM的定位功能,高效率的,高鲁棒性的实现了轨迹推算。
本发明技术方案通过采用多视觉惯导融合也就是SLAM融合IMU建立起更可靠的停车场模拟地图;又由于融合了IMU元件轨迹推算的位置,获取更为准确、稳定的车辆实时位置信息,再通过场景定位修正时获取车辆在停车场模拟地图坐标系下的实时定位信息输出至决策及控制模块,控制车辆自主泊车,全方位提高了自主泊车系统的正确性、高效性与鲁棒性。
优选地,所述双目视觉SLAM模块包括图像采集处理单元、建图单元、车辆视觉定位单元和场景定位修正单元,其中:图像采集处理单元,用于通过双目相机采集车辆当前帧图像,对其处理得到该图像的深度信息,从该图像的深度信息中提取车辆当前帧图像的ORB特征;建图单元,用于根据车辆在停车场行驶从每帧车辆当前帧图像所提取的ORB特征通过多视觉惯导融合生成若干停车场SLAM图像,且由若干停车场SLAM图像组成停车场模拟地图;车辆视觉定位单元,用于车辆无人泊车进程中通过多视觉惯导融合的轨迹推导车辆在停车场模拟地图坐标系下的初始实时定位信息;场景定位修正单元,用于将车辆无人泊车进程中的当前帧图像的ORB特征与停车场SLAM图像的特征图像进行场景实时定位修正,将车辆在停车场模拟地图坐标系下的初始实时定位信息修正为车辆在停车场模拟地图坐标系下的实时定位信息,并输出至决策及控制模块。
优选地,所述场景定位修正单元包括一次定位修正子单元、二次定位修正子单元和输出子单元,其中:一次定位修正子单元,用于将车辆当前帧图像的ORB特征与停车场SLAM图像进行场景实时定位修正,将车辆在停车场模拟地图坐标系初始实时定位信息修正为其的一次实时定位信息;二次定位修正子单元,用于将所述一次实时定位信息和车辆当前帧图像进行矩阵转换完成二次定位修正,得到车辆在停车场模拟地图坐标系下的实时定位信息;输出子单元,用于将车辆在停车场模拟地图坐标系下的实时定位信息输出至决策及控制模块。
优选地,所述多视觉惯导融合是指以停车场帧图像作为参考关键帧放入SLAM中,车辆当前帧图像放入SLAM,且与参考关键帧中的图像信息相匹配,根据匹配情况选用车辆当前帧图像或车辆当前位置的IMU信息作为车辆位置信息。
优选地,所述根据匹配情况选用车辆当前帧图像或IMU信息的车辆当前位置作为车辆位置信息的公式为:
Pos=pose of IMU if map points<threshold;
或Pos=pos if map points>threshold,
pos代表当前帧所处位置,pos of IMU代表通过IMU元件获得的当前位置,mappoints代表一帧里面拥有的地图点,threshold代表系统预设阈值。
优选地,还包括G20优化模块,所述G20优化模块对停车场模拟地图进行离线闭环检测,以对停车场模拟地图全局优化;及所述G20优化模块还对车辆二次地图定位进行优化,以得到车辆的最优定位信息。
优选地,所述双目视觉SLAM模块还包括存储模块,所述存储模块用于存储双目视觉SLAM模块所生成的不同的停车场模拟地图,并提供给车辆视觉定位单元进行匹配及定位。
在本实施例中,本发明在建图时,利用双目相机采集停车场的环境图像,通过每帧的左右目图像并使用特征匹配算法生成其特征图像,同时,利用IMU元件获得IMU信息的车辆位置信息,将IMU信息的车辆位置信息融合停车场环境图像的特征图像,组成停车场模拟地图,进一步地,在离线状态下,使用立体视觉SLAM对停车场模拟地图图像数据进行闭环检测,并对记录下来的轨迹进行全局优化,最终自主泊车系统将基于这份地图数据,在相同的环境下运行,运行过程中多视觉惯导融合将继续参与。所述停车场SLAM图像应该理解为对车辆在停车场的当前帧图像提取ORB特征通过SLAM融合IMU处理后,生成的停车场当前帧图像。
在本实施例中,本发明完成建图后,开始了车辆在停车场模拟地图坐标系下的初始实时定位。将车辆巡航时的当前帧图像的坐标与停车场模拟地图坐标系统相统一,然后确定车辆当前位置在停车场模拟地图坐标系下的初始实时定位位置,即车辆在停车场模拟地图坐标系下的当前定位位置。
车辆在停车场模拟地图的修正定位包括二次定位,一次定位为粗定位,是指将车辆的当前帧图像与停车场模拟地图进行场景匹配,应该理解地是,与停车场模拟地图的场景匹配有两层理解,第一层是指本发明只有在车辆初次来到一个停车场时才需巡航建图,建图模块每次所建立的停车场模拟地图均会存储起来,以便以后的匹配及调用,故车辆与停车场模拟地图的第一层匹配意思是指通过车辆当前帧图像的特征图像与若干停车场模拟地图进行场景识别;第二层是指若识别到相同或相似场景的停车场模拟地图后,将车辆当前帧图像的特征图像放入该停车场模拟地图的SLAM中,获取车辆在停车场模拟地图中的初始定位信息。二次定位为精定位,是指利用立体视觉SLAM中的追踪定位部分计算得到车辆当前帧图像与车辆在停车场模拟地图中的粗定位的位置信息的转换矩阵(RT转换),精定位具体来说,采用立体视觉SLAM的追踪定位算法计算车辆当前相对于被匹配地图帧的姿态,用此姿态跟该地图帧的离线轨迹姿态做RT转换,,得到车辆当前在离线地图坐标下的姿态,即车辆在地图中的精定位。补充说明RT转换:就是一个位置矩阵乘以一个RT矩阵,4*4矩阵,里面包含了R矩阵,T矩阵,分别表示角度和距离,地图帧的位置矩阵*RT矩阵=车辆实际位置矩阵,其中RT矩阵通过追踪定位算法得到,由此得到一个新位置矩阵。精定位是经过了匹配计算,修正误差后的定位,比如车辆在地图中的方向,粗定位就是不大准确的xyz里面有误差,精定位就是消减误差的xyz。往后巡航时,IMU将提供稳定的轨迹推算功能,每隔一段时间将调用上述方法,以基于地图的方式对车辆当前轨迹做修正,通过车辆在停车场模拟地图中的精定位,以导航车辆回归地图,消减积累误差,同时场景匹配成功后,也将把车辆位置坐标系与停车场模拟地图的坐标系相统一,为后续的导航提高了可能性,也确保整套系统运作时的稳定性与正确性。本发明的双目SLAM大部分的运算与优化被放到了离线工作中,使用IMU得到了比普通视觉SLAM更加稳定的轨迹推算,且运用特征地图匹配模型与SLAM,修正了完全只使用IMU的累计误差,全方位提高了自主泊车系统的正确性、高效性与鲁棒性。
所述G20优化模块,是指图优化的开源框架,一个开源库,包含了图优化的功能。只需要把帧放进去即可得到位置信息,处理过程为:构造g2o优化器,把帧拥有地图点信息,最初位置信息(一般会先预给个初值)放入优化器中进而得到最终位置信息。所述G20优化模块是用来优化位置计算,在本发明中,所述G20优化模块在对停车场模拟地图进行离线闭环检测,以对停车场模拟地图全局优化;及所述G20优化模块还对车辆二次地图定位进行优化,以得到车辆的最优定位信息。通过G20优化模块进一步地修正位置信息误差。
优选地,所述环境特征参数包括车道线参数、车位参数、障碍物参数,所述环视泊车检测模块包括车道线检测单元、车位检测单元和障碍物检测单元,其中:
车道线检测单元,用于为车辆提供车道线感知信息,并将所感知的信息传送至决策及控制模块以规划车辆行驶路线;
车位检测单元,用于采用环视相机得出车辆所处位置的环视图并进行车位检测;
障碍物检测单元,用于利用双目相机检测车辆四周是否存在障碍物。
在实施例中,本发明的环视泊车检测模块为环视泊车系统中的环境检测模块,所述车道线检测单元将所感知的信息传送至决策及控制模块以规划车辆行驶路线;所述车位检测单元将车位检测结果传送至决策及控制模块以提供可停靠的停车位的多项选择。所述障碍物检测单元将车辆四周障碍物的检测结果传送至决策及控制模块,以便车辆无人驾驶巡航的安全及提供给决策及控制模块做出最优泊车路线的参考。所述的环视有且不限于由若干个安装在车身周围的带180度广角镜头的鱼眼摄像头构成。
以上所述仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是在本发明的发明构思下,利用本发明说明书及附图内容所作的等效结构变换,或直接/间接运用在其他相关的技术领域均包括在本发明的专利保护范围内。
Claims (8)
1.一种基于多视觉惯导融合的自主泊车系统,其特征在于,包括双目视觉SLAM模块、环视泊车检测模块和决策及控制模块,其中:
双目视觉SLAM模块,用于将所采集的停车场图像通过多视觉惯导融合生成停车场模拟地图,且获取车辆在停车场模拟地图坐标系下的实时定位信息传送至决策及控制模块,其中双目视觉SLAM模块包括惯性测量元件IMU、图像采集处理单元、建图单元、车辆视觉定位单元和场景定位修正单元,惯性测量元件IMU,用以获取车辆当前位置的IMU信息;
图像采集处理单元,用于通过双目相机采集车辆当前帧图像,对其处理得到该图像的深度信息,从该图像的深度信息中提取车辆当前帧图像的ORB特征;
建图单元,用于根据车辆在停车场行驶从每帧车辆当前帧图像所提取的ORB特征通过多视觉惯导融合生成若干停车场SLAM图像,且由若干停车场SLAM图像组成停车场模拟地图;
车辆视觉定位单元,用于车辆无人泊车进程中通过多视觉惯导融合的轨迹推导车辆在停车场模拟地图坐标系下的初始实时定位信息;
场景定位修正单元,用于将车辆无人泊车进程中的当前帧图像的ORB特征与停车场SLAM图像的特征图像进行场景实时定位修正,将车辆在停车场模拟地图坐标系下的初始实时定位信息修正为车辆在停车场模拟地图坐标系下的实时定位信息,并输出至决策及控制模块;
环视泊车检测模块,用于采集车辆当前位置数据检测当前环境特征参数检测,且将其检测结果传送至决策及控制模块;
决策及控制模块,用于根据所接收的车辆在停车场模拟地图中地理定位信息和当前环境特征参数作出车辆自主泊车策略,以此控制车辆自主泊车的操作。
2.如权利要求1所述的基于多视觉惯导融合的自主泊车系统,其特征在于,所述场景定位修正单元包括一次定位修正子单元、二次定位修正子单元和输出子单元,其中:
一次定位修正子单元,用于将车辆当前帧图像的ORB特征与停车场SLAM图像进行场景实时定位修正,将车辆在停车场模拟地图坐标系初始实时定位信息修正为其的一次实时定位信息;
二次定位修正子单元,用于将所述一次实时定位信息和车辆当前帧图像进行矩阵转换完成二次定位修正,得到车辆在停车场模拟地图坐标系下的实时定位信息;
输出子单元,用于将车辆在停车场模拟地图坐标系下的实时定位信息输出至决策及控制模块。
3.如权利要求1所述的基于多视觉惯导融合的自主泊车系统,其特征在于,所述多视觉惯导融合是指以停车场帧图像作为参考关键帧放入SLAM中,车辆当前帧图像放入SLAM,且与参考关键帧中的图像信息相匹配,根据匹配情况选用车辆当前帧图像或车辆当前位置的IMU信息作为车辆位置信息。
4.如权利要求3所述的基于多视觉惯导融合的自主泊车系统,其特征在于,所述根据匹配情况选用车辆当前帧图像或IMU信息的车辆当前位置作为车辆位置信息的公式为:
Pos=pose of IMU if map points<threshold;
Pos=pos if map points>threshold,
pos代表当前帧所处位置,pos of IMU代表通过IMU元件获得的当前位置,map points代表一帧里面拥有的地图点,threshold代表系统预设阈值。
5.如权利要求1所述的基于多视觉惯导融合的自主泊车系统,其特征在于,还包括G20优化模块,所述G20优化模块对停车场模拟地图进行离线闭环检测,以对停车场模拟地图全局优化;及所述G20优化模块还对车辆二次地图定位进行优化,以得到车辆的最优定位信息。
6.如权利要求1所述的基于多视觉惯导融合的自主泊车系统,其特征在于,所述双目视觉SLAM模块还包括存储模块,所述存储模块用于存储双目视觉SLAM模块所生成的不同的停车场模拟地图,并提供给车辆视觉定位单元进行匹配及定位。
7.如权利要求1至6中任一项所述的基于多视觉惯导融合的自主泊车系统,其特征在于,所述环境特征参数包括车道线参数、车位参数、障碍物参数,所述环视泊车检测模块包括车道线检测单元、车位检测单元和障碍物检测单元,其中:
车道线检测单元,用于为车辆提供车道线感知信息,并将所感知的信息传送至决策及控制模块以规划车辆行驶路线;
车位检测单元,用于采用环视相机得出车辆所处位置的环视图并进行车位检测;
障碍物检测单元,用于利用双目相机检测车辆四周是否存在障碍物,并将所检测的结果传送至决策及控制模块。
8.一种基于多视觉惯导融合的自主泊车方法,其特征在于,包括如下步骤:
S10将所采集的停车场图像通过多视觉惯导融合生成停车场模拟地图,且获取车辆在停车场模拟地图坐标系下的实时定位信息传送至决策及控制模块,其中双目视觉SLAM模块包括惯性测量元件IMU,用以获取车辆当前位置的IMU信息,具体包括:
S101通过双目相机采集车辆当前帧图像,对其处理得到该图像的深度信息,从该图像的深度信息中提取车辆当前帧图像的ORB特征;
S102根据车辆在停车场行驶从每帧车辆当前帧图像所提取的ORB特征通过多视觉惯导融合生成若干停车场SLAM图像,且由若干停车场SLAM图像组成停车场模拟地图;
S103用于车辆无人泊车进程中通过多视觉惯导融合的轨迹推导车辆在停车场模拟地图坐标系下的初始实时定位信息;
S104将车辆无人泊车进程中的当前帧图像的ORB特征与停车场SLAM图像的特征图像进行场景实时定位修正,将车辆在停车场模拟地图坐标系下的初始实时定位信息修正为车辆在停车场模拟地图坐标系下的实时定位信息,并输出至决策及控制模块;
S20采集车辆当前位置数据检测当前环境特征参数检测,且将其检测结果传送至决策及控制模块;
S30根据所接收的车辆在停车场模拟地图中地理定位信息和当前环境特征参数作出车辆自主泊车策略,以此控制车辆自主泊车的操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710807276.4A CN107600067B (zh) | 2017-09-08 | 2017-09-08 | 一种基于多视觉惯导融合的自主泊车系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710807276.4A CN107600067B (zh) | 2017-09-08 | 2017-09-08 | 一种基于多视觉惯导融合的自主泊车系统及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107600067A CN107600067A (zh) | 2018-01-19 |
CN107600067B true CN107600067B (zh) | 2019-09-20 |
Family
ID=61063342
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710807276.4A Active CN107600067B (zh) | 2017-09-08 | 2017-09-08 | 一种基于多视觉惯导融合的自主泊车系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107600067B (zh) |
Families Citing this family (49)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110096051B (zh) * | 2018-01-31 | 2024-04-09 | 北京京东乾石科技有限公司 | 用于生成车辆控制指令的方法和装置 |
CN108458709B (zh) * | 2018-02-22 | 2020-03-24 | 北京航空航天大学 | 基于视觉辅助测量的机载分布式pos数据融合方法和装置 |
CN108399785A (zh) * | 2018-03-15 | 2018-08-14 | 斑马网络技术有限公司 | 寻找车辆的方法、装置和存储介质 |
CN109031304A (zh) * | 2018-06-06 | 2018-12-18 | 上海国际汽车城(集团)有限公司 | 基于视觉和毫米波雷达地图特征的隧道内车辆定位方法 |
CN108944915A (zh) * | 2018-07-13 | 2018-12-07 | 广东工业大学 | 一种自动泊车方法、系统及计算机可读存储介质 |
CN108775901B (zh) * | 2018-07-20 | 2021-05-07 | 山东大学 | 一种实时slam场景地图构建系统、导航系统及方法 |
CN109165606B (zh) | 2018-08-29 | 2019-12-17 | 腾讯科技(深圳)有限公司 | 一种车辆信息的获取方法、装置以及存储介质 |
CN109443348B (zh) * | 2018-09-25 | 2022-08-23 | 同济大学 | 一种基于环视视觉和惯导融合的地下车库库位跟踪方法 |
CN111098850A (zh) * | 2018-10-25 | 2020-05-05 | 北京初速度科技有限公司 | 一种自动停车辅助系统及自动泊车方法 |
CN109085842A (zh) * | 2018-10-27 | 2018-12-25 | 西北农林科技大学 | 一种果园施肥装置的控制系统及其控制方法 |
CN109532821A (zh) * | 2018-11-09 | 2019-03-29 | 重庆长安汽车股份有限公司 | 融合泊车系统 |
CN111169468B (zh) * | 2018-11-12 | 2023-10-27 | 北京魔门塔科技有限公司 | 一种自动泊车的系统及方法 |
CN109766757B (zh) * | 2018-12-11 | 2023-09-01 | 惠州市德赛西威汽车电子股份有限公司 | 一种融合车辆和视觉信息的泊车位高精度定位方法及系统 |
CN109649381A (zh) | 2018-12-29 | 2019-04-19 | 百度在线网络技术(北京)有限公司 | 泊车控制方法、装置、电子设备及存储介质 |
CN109708655A (zh) * | 2018-12-29 | 2019-05-03 | 百度在线网络技术(北京)有限公司 | 导航方法、装置、车辆及计算机可读存储介质 |
CN109606356A (zh) * | 2018-12-29 | 2019-04-12 | 百度在线网络技术(北京)有限公司 | 泊车控制方法、装置、电子设备及存储介质 |
CN109631887B (zh) * | 2018-12-29 | 2022-10-18 | 重庆邮电大学 | 基于双目、加速度与陀螺仪的惯性导航高精度定位方法 |
CN111435538A (zh) * | 2019-01-14 | 2020-07-21 | 上海欧菲智能车联科技有限公司 | 定位方法、定位系统和计算机可读存储介质 |
CN110794821B (zh) * | 2019-01-25 | 2022-05-27 | 长城汽车股份有限公司 | 车载控制装置、场端定位装置、车辆控制系统及车辆 |
CN111583335B (zh) * | 2019-02-18 | 2023-09-19 | 上海欧菲智能车联科技有限公司 | 定位系统、定位方法和非易失性计算机可读存储介质 |
CN111845714A (zh) * | 2019-04-26 | 2020-10-30 | 东莞潜星电子科技有限公司 | 一种基于智能视觉深度学习的自动泊车系统 |
CN109949609B (zh) * | 2019-04-30 | 2020-11-13 | 广州小鹏汽车科技有限公司 | 一种车辆的定位修正方法及系统、车辆 |
CN110207715B (zh) * | 2019-06-28 | 2021-07-13 | 广州小鹏自动驾驶科技有限公司 | 车辆定位的修正方法及修正系统 |
CN110775052B (zh) * | 2019-08-29 | 2021-01-29 | 浙江零跑科技有限公司 | 一种基于视觉与超声波感知融合的自动泊车方法 |
CN110765952A (zh) * | 2019-10-24 | 2020-02-07 | 上海眼控科技股份有限公司 | 车辆违法视频的处理方法、装置及计算机设备 |
CN112810603B (zh) * | 2019-10-31 | 2022-08-26 | 华为云计算技术有限公司 | 定位方法和相关产品 |
CN110942665A (zh) * | 2019-12-16 | 2020-03-31 | 驭势科技(北京)有限公司 | 一种车辆的定位方法、车载设备及存储介质 |
CN111016887A (zh) * | 2019-12-23 | 2020-04-17 | 深圳市豪恩汽车电子装备股份有限公司 | 机动车自动泊车装置及方法 |
CN111240321B (zh) * | 2020-01-08 | 2023-05-12 | 广州小鹏汽车科技有限公司 | 基于slam地图的高频定位方法及车辆控制系统 |
CN111267838B (zh) * | 2020-01-20 | 2021-07-23 | 北京百度网讯科技有限公司 | 泊车处理方法、系统、装置及车辆控制器 |
CN111674391A (zh) * | 2020-05-26 | 2020-09-18 | 坤泰车辆系统(常州)有限公司 | 基于组合惯导和超声波雷达的全自主泊车方法 |
CN113734150B (zh) * | 2020-05-29 | 2023-12-19 | 北京新能源汽车股份有限公司 | 一种泊车控制方法、装置、控制设备及汽车 |
CN111976718B (zh) * | 2020-07-13 | 2022-03-01 | 浙江华锐捷技术有限公司 | 自动泊车的控制方法和系统 |
CN111986506B (zh) * | 2020-07-20 | 2022-04-01 | 苏州易航远智智能科技有限公司 | 基于多视觉系统的机械式停车位泊车方法 |
CN112284396B (zh) * | 2020-10-29 | 2023-01-03 | 的卢技术有限公司 | 一种适用于地下停车场的车辆定位方法 |
CN112466142B (zh) * | 2020-11-13 | 2022-06-21 | 浙江吉利控股集团有限公司 | 一种车辆调度方法、装置、系统及存储介质 |
CN112444247B (zh) * | 2020-11-19 | 2023-09-05 | 贵州北斗空间信息技术有限公司 | 一种基于矩阵变换的室内定位方法及系统 |
CN115035728B (zh) * | 2020-12-28 | 2024-06-25 | 苏州易航远智智能科技有限公司 | 基于云端共享和地图融合的自主泊车系统和方法 |
CN114822120A (zh) * | 2021-01-29 | 2022-07-29 | 上海大唐移动通信设备有限公司 | 仿真教学装置 |
CN112862818B (zh) * | 2021-03-17 | 2022-11-08 | 合肥工业大学 | 惯性传感器和多鱼眼相机联合的地下停车场车辆定位方法 |
CN113173158A (zh) * | 2021-04-26 | 2021-07-27 | 安徽域驰智能科技有限公司 | 基于环视slam及车辆运动学的车辆定位方法 |
CN113343830B (zh) * | 2021-06-01 | 2024-05-24 | 上海追势科技有限公司 | 一种地下停车场车辆快速重定位的方法 |
CN113506456A (zh) * | 2021-06-01 | 2021-10-15 | 上海追势科技有限公司 | 一种基于停车场地图数据引导的自主泊车导航方法 |
CN113465619A (zh) * | 2021-06-01 | 2021-10-01 | 上海追势科技有限公司 | 一种基于车载环视系统探测数据的车辆融合定位方法 |
CN115220438A (zh) * | 2021-10-25 | 2022-10-21 | 达闼科技(北京)有限公司 | 机器人导航脱困方法、机器人、电子设备和存储介质 |
CN114241437A (zh) * | 2021-11-19 | 2022-03-25 | 岚图汽车科技有限公司 | 一种特定区域泊车系统、控制方法及其设备 |
CN114987449B (zh) * | 2022-05-31 | 2024-10-01 | 重庆长安汽车股份有限公司 | 自动泊车方法、装置、电子设备、存储介质 |
CN115235452B (zh) * | 2022-07-22 | 2024-08-27 | 上海师范大学 | 基于uwb/imu和视觉信息融合的智能泊车定位系统及方法 |
CN115790666B (zh) * | 2023-01-09 | 2023-04-28 | 深圳云游四海信息科技有限公司 | 对路内停车智能巡检车惯导定位进行校正的方法和系统 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6167347A (en) * | 1998-11-04 | 2000-12-26 | Lin; Ching-Fang | Vehicle positioning method and system thereof |
CN103824080A (zh) * | 2014-02-21 | 2014-05-28 | 北京化工大学 | 动态稀疏环境下机器人slam物体状态检测方法 |
CN104691410A (zh) * | 2013-12-06 | 2015-06-10 | 大连市沙河口区中小微企业服务中心 | 基于双目视觉的自动泊车系统 |
CN105946853A (zh) * | 2016-04-28 | 2016-09-21 | 中山大学 | 基于多传感器融合的长距离自动泊车的系统及方法 |
CN106210450A (zh) * | 2016-07-20 | 2016-12-07 | 罗轶 | 基于slam的影视人工智能 |
CN106541945A (zh) * | 2016-11-15 | 2017-03-29 | 广州大学 | 一种基于icp算法的无人车自动泊车方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7274504B2 (en) * | 2005-01-14 | 2007-09-25 | L-3 Communications Corporation | System and method for advanced tight coupling of GPS and inertial navigation sensors |
-
2017
- 2017-09-08 CN CN201710807276.4A patent/CN107600067B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6167347A (en) * | 1998-11-04 | 2000-12-26 | Lin; Ching-Fang | Vehicle positioning method and system thereof |
CN104691410A (zh) * | 2013-12-06 | 2015-06-10 | 大连市沙河口区中小微企业服务中心 | 基于双目视觉的自动泊车系统 |
CN103824080A (zh) * | 2014-02-21 | 2014-05-28 | 北京化工大学 | 动态稀疏环境下机器人slam物体状态检测方法 |
CN105946853A (zh) * | 2016-04-28 | 2016-09-21 | 中山大学 | 基于多传感器融合的长距离自动泊车的系统及方法 |
CN106210450A (zh) * | 2016-07-20 | 2016-12-07 | 罗轶 | 基于slam的影视人工智能 |
CN106541945A (zh) * | 2016-11-15 | 2017-03-29 | 广州大学 | 一种基于icp算法的无人车自动泊车方法 |
Also Published As
Publication number | Publication date |
---|---|
CN107600067A (zh) | 2018-01-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107600067B (zh) | 一种基于多视觉惯导融合的自主泊车系统及方法 | |
JP7020728B2 (ja) | システム、方法およびプログラム | |
CN107235044B (zh) | 一种基于多传感数据实现对道路交通场景和司机驾驶行为的还原方法 | |
CN105946853B (zh) | 基于多传感器融合的长距离自动泊车的系统及方法 | |
CN103954275B (zh) | 基于车道线检测和gis地图信息开发的视觉导航方法 | |
CN109767475A (zh) | 一种传感器的外部参数标定方法及系统 | |
EP3886048A1 (en) | Slam map joining method and system | |
CN108226938A (zh) | 一种agv小车的定位系统和方法 | |
CN104714547B (zh) | 带有相机的自主园林车辆 | |
Schreiber et al. | Laneloc: Lane marking based localization using highly accurate maps | |
Schleicher et al. | Real-time hierarchical outdoor SLAM based on stereovision and GPS fusion | |
US20230072730A1 (en) | Target detection method and apparatus | |
CN100468265C (zh) | 一种复合式视觉导航方法与装置 | |
CN112518739B (zh) | 履带式底盘机器人侦察智能化自主导航方法 | |
CN110275540A (zh) | 用于扫地机器人的语义导航方法及其系统 | |
TWI742554B (zh) | 定位方法、路徑確定方法、機器人及儲存介質 | |
CN110275538A (zh) | 智能巡航车导航方法及系统 | |
KR101220527B1 (ko) | 센서 시스템, 이를 이용하는 환경 지도 작성 시스템 및 방법 | |
CN108303103A (zh) | 目标车道的确定方法和装置 | |
CN109766757A (zh) | 一种融合车辆和视觉信息的泊车位高精度定位方法及系统 | |
CN110163963B (zh) | 一种基于slam的建图装置和建图方法 | |
CN101033978A (zh) | 智能汽车辅助导航和自动兼辅助驾驶系统 | |
CN112734765A (zh) | 基于实例分割与多传感器融合的移动机器人定位方法、系统及介质 | |
Shunsuke et al. | GNSS/INS/on-board camera integration for vehicle self-localization in urban canyon | |
CN108481327A (zh) | 一种增强视觉的定位装置、定位方法及机器人 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |