CN116670610A - 用于公共速度映射和导航的系统和方法 - Google Patents
用于公共速度映射和导航的系统和方法 Download PDFInfo
- Publication number
- CN116670610A CN116670610A CN202280009395.4A CN202280009395A CN116670610A CN 116670610 A CN116670610 A CN 116670610A CN 202280009395 A CN202280009395 A CN 202280009395A CN 116670610 A CN116670610 A CN 116670610A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- road
- speed
- road segment
- host vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 227
- 238000013507 mapping Methods 0.000 title description 27
- 230000001133 acceleration Effects 0.000 claims description 92
- 238000004458 analytical method Methods 0.000 claims description 75
- 230000009471 action Effects 0.000 claims description 56
- 230000002776 aggregation Effects 0.000 claims description 20
- 238000004220 aggregation Methods 0.000 claims description 20
- 238000004422 calculation algorithm Methods 0.000 claims description 16
- 230000007423 decrease Effects 0.000 claims description 5
- 238000009499 grossing Methods 0.000 claims description 3
- 238000012545 processing Methods 0.000 description 270
- 230000008569 process Effects 0.000 description 134
- 239000003550 marker Substances 0.000 description 77
- 238000010191 image analysis Methods 0.000 description 63
- 230000004044 response Effects 0.000 description 60
- 230000000875 corresponding effect Effects 0.000 description 46
- 230000033001 locomotion Effects 0.000 description 36
- 230000008859 change Effects 0.000 description 32
- 238000003860 storage Methods 0.000 description 26
- 238000004891 communication Methods 0.000 description 24
- 230000003287 optical effect Effects 0.000 description 21
- 230000006870 function Effects 0.000 description 19
- 238000003384 imaging method Methods 0.000 description 15
- 238000001514 detection method Methods 0.000 description 14
- 230000007613 environmental effect Effects 0.000 description 14
- 238000005259 measurement Methods 0.000 description 14
- 230000035484 reaction time Effects 0.000 description 14
- 230000000007 visual effect Effects 0.000 description 13
- 238000013459 approach Methods 0.000 description 12
- 238000006073 displacement reaction Methods 0.000 description 12
- 230000005540 biological transmission Effects 0.000 description 11
- 238000005096 rolling process Methods 0.000 description 10
- 238000001914 filtration Methods 0.000 description 9
- 238000012935 Averaging Methods 0.000 description 8
- 238000013528 artificial neural network Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 7
- 230000002159 abnormal effect Effects 0.000 description 6
- 238000005206 flow analysis Methods 0.000 description 6
- 239000000463 material Substances 0.000 description 6
- 238000012986 modification Methods 0.000 description 6
- 230000004048 modification Effects 0.000 description 6
- 239000011295 pitch Substances 0.000 description 6
- 239000007787 solid Substances 0.000 description 6
- 239000000725 suspension Substances 0.000 description 6
- 230000001413 cellular effect Effects 0.000 description 5
- 238000013500 data storage Methods 0.000 description 5
- 238000009826 distribution Methods 0.000 description 5
- 238000013439 planning Methods 0.000 description 5
- 230000001953 sensory effect Effects 0.000 description 5
- 238000000926 separation method Methods 0.000 description 5
- 238000012358 sourcing Methods 0.000 description 5
- 230000007704 transition Effects 0.000 description 5
- 238000013519 translation Methods 0.000 description 5
- 230000006978 adaptation Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 4
- 238000012937 correction Methods 0.000 description 4
- 230000010354 integration Effects 0.000 description 4
- 230000002411 adverse Effects 0.000 description 3
- 230000002547 anomalous effect Effects 0.000 description 3
- 239000010426 asphalt Substances 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 230000002596 correlated effect Effects 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000004807 localization Effects 0.000 description 3
- 230000000704 physical effect Effects 0.000 description 3
- 230000003746 surface roughness Effects 0.000 description 3
- 238000009825 accumulation Methods 0.000 description 2
- 230000006399 behavior Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 239000004568 cement Substances 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 230000001186 cumulative effect Effects 0.000 description 2
- 230000009977 dual effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000000446 fuel Substances 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000013178 mathematical model Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000001556 precipitation Methods 0.000 description 2
- 239000000047 product Substances 0.000 description 2
- 239000000779 smoke Substances 0.000 description 2
- 238000007619 statistical method Methods 0.000 description 2
- 239000004575 stone Substances 0.000 description 2
- 239000000126 substance Substances 0.000 description 2
- 239000013589 supplement Substances 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 1
- 238000007792 addition Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000003667 anti-reflective effect Effects 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- POZRVZJJTULAOH-LHZXLZLDSA-N danazol Chemical compound C1[C@]2(C)[C@H]3CC[C@](C)([C@](CC4)(O)C#C)[C@@H]4[C@@H]3CCC2=CC2=C1C=NO2 POZRVZJJTULAOH-LHZXLZLDSA-N 0.000 description 1
- 229960000766 danazol Drugs 0.000 description 1
- 238000013499 data model Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000000881 depressing effect Effects 0.000 description 1
- 238000005315 distribution function Methods 0.000 description 1
- 238000001035 drying Methods 0.000 description 1
- 230000005684 electric field Effects 0.000 description 1
- 230000004424 eye movement Effects 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 239000012634 fragment Substances 0.000 description 1
- 238000010230 functional analysis Methods 0.000 description 1
- 238000003703 image analysis method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012886 linear function Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 230000013011 mating Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000000116 mitigating effect Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000008092 positive effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000007670 refining Methods 0.000 description 1
- 239000002689 soil Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
- G01C21/3804—Creation or updating of map data
- G01C21/3833—Creation or updating of map data characterised by the source of data
- G01C21/3841—Data obtained from two or more sources, e.g. probe vehicles
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
- G01C21/28—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network with correlation of data from several navigational instruments
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
- G01C21/34—Route searching; Route guidance
- G01C21/3407—Route searching; Route guidance specially adapted for specific applications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
- G01C21/34—Route searching; Route guidance
- G01C21/3446—Details of route searching algorithms, e.g. Dijkstra, A*, arc-flags, using precalculated routes
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
- G01C21/3804—Creation or updating of map data
- G01C21/3807—Creation or updating of map data characterised by the type of data
- G01C21/3815—Road data
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
- G01C21/3804—Creation or updating of map data
- G01C21/3833—Creation or updating of map data characterised by the source of data
- G01C21/3848—Data obtained from both position sensors and additional sensors
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
- G01C21/3863—Structures of map data
- G01C21/387—Organisation of map data, e.g. version management or database structures
- G01C21/3881—Tile-based structures
Landscapes
- Engineering & Computer Science (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Automation & Control Theory (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Traffic Control Systems (AREA)
- Navigation (AREA)
Abstract
公开了一种用于收集和分发与道路路段有关的导航信息的系统。在一个实施例中,该系统包括至少一个处理器,该处理器被编程为接收从穿过该道路路段的多个车辆中的每个收集的驾驶信息,其中从多个车辆中的每个接收的驾驶信息包括多个车辆中的一个在驾驶穿过该道路路段期间以该速度行驶的速度的指示符;基于从多个车辆中的每个接收的驾驶信息中包括的速度指示符,为该道路路段确定至少一个聚合的公共速度轮廓;将至少一个聚合的共同速度轮廓存储在与该道路路段相关联的自主车辆道路导航模型中;并且将自主车辆道路导航模型分发给一个或多个自主车辆以用于沿着道路路段导航。
Description
相关申请的交叉引用
本申请要求于2021年1月8日提交的美国临时专利申请号63/135,310;的优先权权益。上述申请通过引用整体并入本文。
技术领域
本公开总体上涉及车辆导航,并且更具体地,涉及用于生成用于由主车辆进行导航的公共速度轮廓(profile)。
背景技术
随着技术的不断进步,能够在道路上导航的完全自主车辆的目标即将出现。自主车辆可能需要考虑各种各样的因素,并且基于那些因素做出适当的决定,以安全和准确地到达意图的目的地。例如,自主车辆可能需要处理和解释可视信息(例如,从相机捕获的信息)、来自雷达或激光雷达的信息,并且也可能使用从其他源(例如,从GPS装置、速度传感器、加速度计、悬架传感器等)获得的信息。同时,为了导航到目的地,自主车辆可能还需要识别其在特定道路(例如,多车道道路中的特定车道)内的定位,与其他车辆并排导航,避开障碍物和行人,观察交通信号和标志,并在适当的交叉路口或交汇处从一条道路行驶到另一条道路。当自主车辆行驶到其目的地时利用(harness)和解释由该车辆收集的大量信息造成了许多设计挑战。自主车辆可能需要分析、访问和/或存储的海量数据(例如,捕获的图像数据、地图数据、GPS数据、传感器数据等)造成了实际上可能限制甚至不利地影响自主导航的挑战。此外,如果自主车辆依靠传统的映射(mapping)技术来导航,则存储和更新地图所需的海量数据将造成巨大的挑战。
发明内容
与本发明一致的实施例提供了车辆导航系统和方法。
在实施例中,一种用于收集和分发与道路路段相关的导航信息的系统可以包括至少一个处理器。该至少一个处理器可以被编程为从穿过该道路路段的多个车辆中的每一个接收收集的驾驶信息,其中从多个车辆中的每一个接收的驾驶信息包括多个车辆中的一个车辆在穿过该道路路段的驾驶期间以该速度行驶的一个或多个速度指示符;基于从多个车辆中的每一个接收的驾驶信息中包括的一个或多个速度的指示符,为该道路路段确定至少一个聚合的公共速度轮廓;将该至少一个聚合的公共速度轮廓存储在与该道路路段相关联的自主车辆道路导航模型中;以及将自主车辆道路导航模型分发给一个或多个自主车辆以用于沿着该道路路段进行导航。
在另一实施例中,一种用于收集和分发与道路路段相关的导航信息的方法可以包括从穿过该道路路段的多个辆车中的每一个接收收集的驾驶信息,其中从多个辆车中的每一个接收的驾驶信息包括多个车辆中的一个车辆在穿过该道路路段的驾驶期间以该速度行驶的一个或多个速度指示符;基于从多个车辆中的每一个接收的驾驶信息中包括的一个或多个速度的指示符,为该道路路段确定至少一个聚合的公共速度轮廓;将该至少一个聚合的公共速度轮廓存储在与该道路路段相关联的自主车辆道路导航模型中;以及将自主车辆道路导航模型分发给一个或多个自主车辆以用于沿着该道路路段导航。
在另一实施例中,一种用于主车辆的导航系统可以包括至少一个处理器,该处理器包括电路和存储器。该存储器可以包括指令,当由电路执行时,这些指令使得至少一个处理器从服务器接收包括自主车辆道路导航模型的地图,其中该自主车辆道路导航模型包括与道路路段相关联的至少一个存储的聚合的公共速度轮廓,并且其中该至少一个聚合的公共速度轮廓是基于该道路路段的先前穿过期间从多个车辆收集的速度信息的聚合而生成的;基于存储在自主车辆道路导航模型中的至少一个聚合的公共速度轮廓,并且对于与道路路段相关联的至少一个定位,确定主车辆的对应目标速度;以及在主车辆沿着该道路路段导航期间,基于与该道路路段相关联的至少一个定位和主车辆的对应目标速度,引起主车辆的速度调整。
在另一实施例中,一种用于导航主车辆的方法可以包括从服务器接收包括自主车辆道路导航模型的地图,其中该自主车辆道路导航模型包括与道路路段相关联的至少一个存储的聚合的公共速度轮廓,并且其中该至少一个聚合的公共速度轮廓是基于该道路路段的先前穿过期间从多个车辆收集的速度信息的聚合而生成的;基于存储在自主车辆道路导航模型中的至少一个聚合的公共速度轮廓,并对于与道路路段相关联的至少一个定位,确定主车辆的对应目标速度;以及在主车辆沿着该道路路段导航期间,基于与该道路路段相关联的至少一个定位和主车辆的对应目标速度,引起主车辆的速度调整。
在另一实施例中,一种用于主车辆的导航系统可包括至少一个处理器,该处理器包括电路和存储器。该存储器可以包括指令,当由电路执行时,这些指令使得至少一个处理器从图像捕获设备接收表示主车辆环境的至少一个图像;基于至少一个驾驶策略,确定用于实现主车辆的导航目标的计划的导航动作;分析该至少一个图像以识别主车辆环境中的目标车辆;确定如果采取计划的导航动作将会产生的主车辆和目标车辆之间的下一状态距离;确定主车辆的最大制动能力、主车辆的最大加速能力和主车辆的当前速度;基于主车辆的当前最大制动能力、主车辆的当前最大加速能力和主车辆的当前速度来确定主车辆的当前停止距离;确定目标车辆的当前速度并且基于目标车辆的至少一个辨识的特性来假定目标车辆的最大制动能力,其中目标车辆的当前速度是基于存储在与主车辆行驶的道路路段相关联的地图中的聚合的公共速度轮廓信息来确定的,并且其中聚合的公共速度轮廓信息是基于在道路路段的先前穿过期间从多个车辆收集的速度信息的聚合来生成的;并且如果所确定的主车辆的当前停止距离小于确定的下一状态距离加上基于目标车辆的当前速度和假定的目标车辆的最大制动能力来确定的目标车辆行驶距离,则实施计划的导航动作。
在另一实施例中,一种用于导航主车辆的方法可包括从图像捕获设备接收表示主车辆环境的至少一个图像;基于至少一个驾驶策略,确定用于实现主车辆的导航目标的计划的导航动作;分析该至少一个图像以识别主车辆环境中的目标车辆;确定如果采取计划的导航动作将会产生的主车辆和目标车辆之间的下一状态距离;确定主车辆的最大制动能力、主车辆的最大加速能力和主车辆的当前速度;基于主车辆的当前最大制动能力、主车辆的当前最大加速能力和主车辆的当前速度来确定主车辆的当前停止距离;确定目标车辆的当前速度并且基于目标车辆的至少一个辨识的特定来假定目标车辆的最大制动能力,其中目标车辆的当前速度是基于存储在与主车辆行驶的道路路段相关联的地图中的聚合的公共速度轮廓信息来确定的,并且其中聚合的公共速度轮廓信息是基于道路路段的先前穿过期间从多个车辆收集的速度信息的聚合来生成的;以及如果所确定的主车辆的当前停止距离小于确定的下一状态距离加上基于目标车辆的当前速度和假定的目标车辆的最大制动能力来确定的目标车辆行驶距离,则实施计划的导航动作。
与其他公开的实施例一致,非暂时性计算机可读存储介质可以存储由至少一个处理器执行的程序指令,并且可以进行本文中所描述的任何方法。
前述的总体描述和下面的详细描述仅仅是示例性和说明性的,并不是对权利要求的限制。
附图说明
并入本公开中并构成本公开的一部分的附图图示了各种所公开的实施例。在附图中:
图1是与所公开的实施例一致的示例性系统的图示性表示。
图2A是包含与所公开的实施例一致的系统的示例性车辆的图示性侧视图表示。
图2B是图2A中所示的与所公开的实施例一致的车辆和系统的图示性顶视图表示。
图2C是包含与所公开的实施例一致的系统的车辆的另一实施例的图示性顶视图表示。
图2D是包含与所公开的实施例一致的系统的车辆的又一实施例的图示性顶视图表示。
图2E是包含与所公开的实施例一致的系统的车辆的又一实施例的图示性顶视图表示。
图2F是与所公开的实施例一致的示例性车辆控制系统的图示性表示。
图3A是与所公开的实施例一致的包含后视镜和用于车辆成像系统的用户界面的车辆的内部的图示性表示。
图3B是与所公开的实施例一致的被配置为定位在后视镜后面并抵靠车辆风挡的相机安装的示例的图示。
图3C是图3B中所示的与所公开的实施例一致的相机安装从不同的视角的图示。
图3D是与所公开的实施例一致的被配置为定位在后视镜后面并抵靠车辆风挡的相机安装的示例的图示。
图4是与所公开的实施例一致的被配置为存储用于进行一个或多个操作的指令的存储器的示例性框图。
图5A是示出与所公开的实施例一致的用于基于单目图像分析来引起一个或多个导航响应的示例性过程的流程图。
图5B是示出与所公开的实施例一致的用于在一组图像中检测一个或多个车辆和/或行人的示例性过程的流程图。
图5C是示出与所公开的实施例一致的用于在一组图像中检测道路标志和/或车道几何结构信息的示例性过程的流程图。
图5D是示出与所公开的实施例一致的用于在一组图像中检测交通灯的示例性过程的流程图。
图5E是示出与所公开的实施例一致的用于基于车辆路径来引起一个或多个导航响应的示例性过程的流程图。
图5F是示出与所公开的实施例一致的用于确定前方车辆是否正在改变车道的示例性过程的流程图。
图6是示出与所公开的实施例一致的用于基于立体图像分析来引起一个或多个导航响应的示例性过程的流程图。
图7是示出与所公开的实施例一致的用于基于三组图像的分析来引起一个或多个导航响应的示例性过程的流程图。
图8示出了与所公开的实施例一致的用于提供自主车辆导航的稀疏地图。
图9A示出了与所公开的实施例一致的道路路段的部分的多项式表示。
图9B示出了与所公开的实施例一致的稀疏地图中包含的在三维空间中表示特定道路路段的车辆的目标轨迹的曲线。
图10示出了可以包含在与所公开的实施例一致的稀疏地图中的示例地标。
图11A示出了与所公开的实施例一致的轨迹的多项式表示。
图11B和图11C示出了与所公开的实施例一致的沿着多车道道路的目标轨迹。
图11D示出了与所公开的实施例一致的示例道路签名(signature)轮廓(profile)。
图12是与所公开的实施例一致的使用从多个车辆接收的众包(crowdsourcing)数据进行自主车辆导航的系统的示意图示。
图13示出了与所公开的实施例一致的由多个三维样条(spline)表示的示例自主车辆道路导航模型。
图14示出了与所公开的实施例一致的根据组合来自多个驾驶的定位信息而生成的地图骨架(skeleton)。
图15示出了与所公开的实施例一致的具有作为地标的示例标志的两个驾驶的纵向对齐的示例。
图16示出了与所公开的实施例一致的具有作为地标的示例标志的多个驾驶的纵向对齐的示例。
图17是与所公开的实施例一致的用于使用相机、车辆和服务器生成驾驶数据的系统的示意图示。
图18是与所公开的实施例一致的用于众包稀疏地图的系统的示意图示。
图19是示出与所公开的实施例一致的用于生成用于沿着道路路段的自主车辆导航的稀疏地图的示例性过程的流程图。
图20示出了与所公开的实施例一致的服务器的框图。
图21示出了与所公开的实施例一致的存储器的框图。
图22示出了与所公开的实施例一致的对与车辆相关联的车辆轨迹进行聚类的过程。
图23示出了与所公开的实施例一致的可以用于自主导航的车辆导航系统。
图24A、图24B、图24C和图24D示出了与所公开的实施例一致的可以检测到的示例性车道标志。
图24E示出了与所公开的实施例一致的示例性的映射车道标志。
图24F示出了与所公开的实施例一致的与检测车道标志相关联的示例性异常。
图25A示出了与所公开的实施例一致的用于基于映射车道标志进行导航的车辆周围环境的示例性图像。
图25B示出了与所公开的实施例一致的基于道路导航模型中的映射车道标志的车辆横向定位校正。
图25C和图25D提供了使用稀疏地图中包含的映射特征沿着目标轨迹定位主车辆的定位技术的概念表示。
图26A是示出与所公开的实施例一致的用于映射车道标志以用于自主车辆导航的示例性过程的流程图。
图26B是示出与所公开的实施例一致的使用映射车道标志沿着道路路段自主导航主车辆的示例性过程的流程图。
图27A示出了与所公开的实施例一致的两个车辆在相反反向行驶的示例场景。
图27B示出了与所公开的实施例一致的目标车辆朝向主车辆行驶的示例。
图28示出了与所公开的实施例一致的保持安全纵向距离的主车辆的示例。
图29A和29B提供了与所公开的实施例一致的描绘用于保持安全纵向距离的示例性过程的流程图。
图30A示出了与所公开的实施例一致的用于收集和存储沿着道路路段的公共速度数据的示例系统。
图30B示出了与所公开的实施例一致的图30A的系统用于沿着道路路段导航的使用。
图31示出了与所公开的实施例一致的可以由车辆收集的示例速度信息。
图32是示出与所公开的实施例一致的可以生成的示例聚合的公共速度轮廓。
图33示出了与所公开的实施例一致的可以生成的示例速度子轮廓。
图34示出了与所公开的实施例一致的可以为不同驾驶信息特性生成的多个聚合的公共速度轮廓。
图35示出了与所公开的实施例一致的可以为不同驾驶信息特性生成的示例速度子轮廓。
图36是示出与所公开的实施例一致的用于收集和分发与道路路段相关的导航信息的示例过程的流程图。
图37是示出与所公开的实施例一致的用于基于聚合的公共速度信息来导航主车辆的示例过程的流程图。
图38是示出与所公开的实施例一致的用于基于聚合的公共速度信息来导航主车辆的示例过程的流程图。
具体实施方式
以下的详细描述参考附图。只要可能,在附图和以下的描述中使用相同的参考标号来指代相同或相似的部分。虽然本文描述了数个说明性实施例,但是修改、改编和其他实施方式是可能的。例如,可以对附图中示出的组件做出替换、添加或修改,并且可以通过对所公开的方法进行步骤的替换、重新排序、移除或添加,来对本文所描述的说明性方法进行修改。相应地,以下的详细描述并不限于所公开的实施例和示例。代替地,适当的范围由所附权利要求限定。
自主车辆概述
如贯穿本公开所使用的,术语“自主车辆”指代在没有驾驶员输入的情况下能够实现至少一个导航改变的车辆。“导航改变”指代车辆的转向、制动、或加速中的一个或多个改变。为了实现自主,车辆不需要是完全自动的(例如,在没有驾驶员或没有驾驶员输入的情况下完全可操作的)。相反,自主车辆包含能够在某些时间段期间在驾驶员的控制下操作并且在其他时间段期间无需驾驶员控制而操作那些车辆。自主车辆还可以包含仅控制车辆导航的一些方面的车辆,诸如转向(例如,在车辆车道限制之间维持车辆路线),但是可以将其他方面留给驾驶员(例如,制动)。在一些情况下,自主车辆可以处理车辆的制动、速度控制和/或转向中的一些或全部方面。
由于人类驾驶员通常依赖于可视线索和观察以便控制车辆,因此相应地建造了交通基础设施,其中车道标志、交通标志和交通灯所有都被设计为向驾驶员提供可视信息。鉴于交通基础设施的这些设计特性,自主车辆可以包含相机以及分析从车辆的环境捕获的可视信息的处理单元。可视信息可以包含,例如,可由驾驶员观察到的交通基础设施(例如,车道标志、交通标志、交通灯等)的组件以及其他障碍物(例如,其他车辆、行人、碎屑等)。此外,自主车辆还可以使用存储的信息,诸如在导航时提供车辆的环境的模型的信息。例如,车辆可以使用GPS数据、传感器数据(例如,来自加速度计、速度传感器、悬架传感器等)和/或其他地图数据,以在车辆正在行驶时提供与其环境相关的信息,并且该车辆(以及其他车辆)可以使用该信息在模型上对其自身定位。
在本公开的一些实施例中,自主车辆可以使用在导航时(从相机、GPS装置、加速度计、速度传感器、悬架传感器等)获得的信息。在其他实施例中,自主车辆可以在导航时使用从该车辆(或其他车辆)过去的导航中获得的信息。在其他实施例中,自主车辆可以使用在导航时获得的信息和从过去的导航中获得的信息的组合。以下章节提供了与所公开的实施例一致的系统的概述,随后是与该系统一致的前向成像系统和方法的概述。以下章节公开了用于构建、使用和更新用于自主车辆导航的稀疏地图的系统和方法。
系统概述
图1是与所公开的示例性实施例一致的表示系统100的框图。系统100可以取决于特定实施方式的要求而包含各种组件。在一些实施例中,系统100可以包含处理单元110,图像获取单元120,位置传感器130,一个或多个存储器单元140、150,地图数据库160,用户界面170和无线收发器172。处理单元110可以包含一个或多个处理装置。在一些实施例中,处理单元110可以包含应用处理器180、图像处理器190或任何其他合适的处理装置。类似地,图像获取单元120可以取决于特定应用的要求而包含任何数目的图像获取装置和组件。在一些实施例中,图像获取单元120可以包含一个或多个图像捕获装置(例如,相机),诸如图像捕获装置122、图像捕获装置124和图像捕获装置126。系统100还可以将处理装置110通信地连接到图像获取装置120的数据接口128。例如,数据接口128可以包含用于将由图像获取装置120获取的图像数据传输到处理单元110的任何有线和/或无线的一个或多个链路。
无线收发器172可以包含一个或多个装置,其被配置为通过使用射频、红外频率、磁场或电场通过空中接口将传输交换到一个或多个网络(例如,蜂窝、互联网等)。无线收发器172可以使用任何已知的标准来传输和/或接收数据(例如,Wi-Fi、蓝牙智能、802.15.4、ZigBee等)。这样的传输可以包含从主车辆到一个或多个远程定位的服务器的通信。这样的传输还可以包含主车辆与主车辆的环境中的一个或多个目标车辆之间(单向或双向)的通信(例如,以便于鉴于或连同在主车辆的环境中的目标车辆来协调主车辆的导航),或者甚至包含在传输车辆附近的向未指定的接收者的广播传输。
应用处理器180和图像处理器190两者都可以包含各种类型的基于硬件的处理装置。例如,应用处理器180和图像处理器190中的任一者或两者可以包含微处理器、预处理器(诸如图像预处理器)、图形处理器、中央处理单元(CPU)、支持电路、数字信号处理器、集成电路、存储器或者适用于运行应用和适用于图像处理和分析的任何其他类型的装置。在一些实施例中,应用处理器180和/或图像处理器190可以包含任何类型的单核或多核处理器、移动装置微控制器、中央处理单元等。可以使用各种处理装置,包含,例如,可以从诸如等制造商获得的处理器或者可以从诸如/> 等制造商获得的GPU,并且可以包含各种架构(例如,x86处理器、/>等)。
在一些实施例中,应用处理器180和/或图像处理器190可以包含可从获得的任何EyeQ系列处理器芯片。这些处理器设计各自包含具有本地存储体和指令集的多个处理单元。这样的处理器可以包含用于从多个图像传感器接收图像数据的视频输入,并且还可以包含视频输出能力。在一个示例中,/>使用在332Mhz下操作的90纳米-微米技术。/>架构由两个浮点式超线程32位RISC CPU(/>核)、五个视觉计算引擎(VCE)、三个矢量微代码处理器/>丹那利(Denali)64位移动DDR控制器、128位内部超音速互连(Sonics Interconnect)、双16位视频输入和18位视频输出控制器、16通道DMA和数个外围设备组成。MIPS34K CPU管理这五个VCE、三个VMPTM和DMA、第二MIPS34K CPU和多通道DMA以及其他外围设备。这五个VCE、三个/>和MIPS34K CPU可以进行多功能捆绑应用所需要的密集视觉计算。在另一个实例中,可以在所公开的实施例中使用作为第三代处理器并且比/>强六倍的/>在其他示例中,可以在所公开的实施例中使用/>和/或/>当然,任何更新后的或未来的EyeQ处理装置也可以与所公开的实施例一起使用。
任何本文所公开的处理装置可以被配置为进行某些功能。配置处理装置(诸如任何所描述的EyeQ处理器或其他控制器或微处理器)以进行某些功能可以包含计算机可执行指令的编程并使这些指令可用于处理装置以在处理装置的操作期间执行。在一些实施例中,配置处理装置可以包含直接利用架构指令对处理装置进行编程。例如,可以使用例如一个或多个硬件描述语言(HDL)来配置诸如现场可编程门阵列(FPGA)、专用集成电路(ASIC)等的处理装置。
在其他实施例中,配置处理装置可以包含将可执行指令存储在操作期间处理装置可访问的存储器上。例如,处理装置在操作期间可以访问该存储器以获得并执行所存储的指令。在任一种情况下,被配置为进行本文公开的感测、图像分析和/或导航功能的处理装置表示基于硬件的专用系统,其控制主车辆的多个基于硬件的组件。
虽然图1描绘了包含在处理单元110中的两个分离的处理装置,但是可以使用更多或更少的处理装置。例如,在一些实施例中,可以使用单个处理装置完成应用处理器180和图像处理器190的任务。在其他实施例中,可以由两个以上的处理装置来进行这些任务。此外,在一些实施例中,系统100可以在不包含其他组件(诸如图像获取单元120)的情况下包含处理单元110中的一个或多个。
处理单元110可以包括各种类型的装置。例如,处理单元110可以包含各种装置,诸如控制器、图像预处理器、中央处理单元(CPU)、图形处理单元(GPU)、支持电路、数字信号处理器、集成电路、存储器或用于图像处理和分析的任何其他类型的装置。图像预处理器可以包含用于捕获、数字化和处理来自图像传感器的影像的视频处理器。CPU可以包括任何数目的微控制器或微处理器。GPU还可以包括任何数目的微控制器或微处理器。支持电路可以是本领域公知的任何数目的电路,包含高速缓存、电源,时钟和输入输出电路。存储器可以存储软件,该软件在由处理器执行时控制系统的操作。存储器可以包含数据库和图像处理软件。存储器可以包括任何数目的随机存取存储器、只读存储器、闪速存储器、磁盘驱动器、光存储装置、磁带存储装置、可移动存储装置和其他类型的存储装置。在一个实例中,存储器可以与处理单元110分离。在另一实例中,存储器可以被集成到处理单元110中。
每个存储器140、150可以包含软件指令,该软件指令在由处理器(例如,应用处理器180和/或图像处理器190)执行时可以控制系统100的各个方面的操作。这些存储器单元可以包含各种数据库和图像处理软件,以及经训练的系统,诸如神经网络或例如深度神经网络。存储器单元可以包含随机存取存储器(RAM)、只读存储器(ROM)、闪速存储器、磁盘驱动器、光存储装置、磁带存储装置、可移动存储装置和/或任何其他类型的存储装置。在一些实施例中,存储器单元140、150可以是与应用处理器180和/或图像处理器190分离的。在其他实施例中,这些存储器单元可以被集成到应用处理器180和/或图像处理器190中。
位置传感器130可以包含适用于确定与系统100的至少一个组件相关联的定位的任何类型的装置。在一些实施例中,位置传感器130可以包含GPS接收器。这样的接收器可以通过处理由全球定位系统卫星广播的信号来确定用户位置和速度。可以使得来自位置传感器130的位置信息对于应用处理器180和/或图像处理器190可用。
在一些实施例中,系统100可以包含诸如用于测量车辆200的速度的速度传感器(例如,转速表、速度计)和/或用于测量车辆200的加速度的加速度计(单轴或多轴)的组件。
用户界面170可以包含适用于向系统100的一个或多个用户提供信息或从系统100的一个或多个用户接收输入的任何装置。在一些实施例中,用户界面170可以包含用户输入装置,包含例如触摸屏、麦克风、键盘、指针装置、跟踪转轮、相机、旋钮、按钮等。使用这样的输入装置,用户能够通过键入指令或信息,提供语音命令,使用按钮、指针或眼跟踪能力在屏幕上选择菜单选项,或通过任何其他适用于向系统100通信信息的技术来向系统100提供信息输入或命令。
用户界面170可以配备有一个或多个处理装置,其被配置为向用户提供和从用户接收信息,并处理该信息以由例如应用处理器180使用。在一些实施例中,这样的处理装置可以执行指令以用于辨识和跟踪眼睛运动、接收和解释语音命令、辨识和解释在触摸屏上做出的触摸和/或手势、响应键盘输入或菜单选择等。在一些实施例中,用户界面170可以包含显示器、扬声器、触觉装置和/或用于向用户提供输出信息的任何其他装置。
地图数据库160可以包含用于存储对系统100有用的地图数据的任何类型的数据库。在一些实施例中,地图数据库160可以包含与各种项目在参考坐标系统中的位置相关的数据,各种项目包含道路、水特征、地理特征、商业区、感兴趣的点、餐馆、加油站等。地图数据库160不仅可以存储这样的项目的定位,还可以存储与这样的项目相关的描述符,包含例如与任何所存储的特征相关联的名称。在一些实施例中,地图数据库160可以与系统100的其他组件物理上位于一起。替代地或附加地,地图数据库160或其一部分可以相对于系统100的其他组件(例如,处理单元110)位于远处。在这样的实施例中,来自地图数据库160的信息可以通过与网络的有线或无线数据连接(例如,通过蜂窝网络和/或互联网等)而下载。在一些情况下,地图数据库160可以存储稀疏数据模型,该稀疏数据模型包含某些道路特征(例如,车道标志)或主车辆的目标轨迹的多项式表示。下面参考图8至图19讨论生成这种地图的系统和方法。
图像捕获装置122、124和126可以各自包含适用于从环境捕获至少一个图像的任何类型的装置。此外,可以使用任何数目的图像捕获装置来获取用于输入到图像处理器的图像。一些实施例可以仅包含单个图像捕获装置,而其他实施例可以包含两个、三个、或者甚至四个或更多个图像捕获装置。以下将参考图2B至图2E进一步描述图像捕获装置122、124和126。
系统100或其各种组件可以合并到各种不同的平台中。在一些实施例中,系统100可以被包含在车辆200上,如图2A所示。例如,车辆200可以配备有如上关于图1所述的系统100的处理单元110和任何其他组件。虽然在一些实施例中,车辆200可以仅配备有单个图像捕获装置(例如,相机),但是在其他实施例中,诸如结合图2B-图2E讨论的那些,可以使用多个图像捕获装置。例如,如图2A所示,车辆200的图像捕获装置122和124中的任一个可以是ADAS(Advanced Driver Assistance System,高级驾驶员辅助系统)成像集的一部分。
作为图像获取单元120的一部分的被包含在车辆200上的图像捕获装置,可以被定位在任何合适的定位。在一些实施例中,如图2A-图2E以及图3A-图3C所示,图像捕获装置122可以位于后视镜的附近。此位置可以提供与车辆200的驾驶员相似的视线,这可以帮助确定对驾驶员而言什么是可见和不可见的。图像捕获装置122可以被定位在靠近后视镜的任何定位,而将图像捕获装置122放置在镜子的驾驶员侧可以进一步帮助获得表示驾驶员的视场和/或视线的图像。
对于图像获取单元120的图像捕获装置还可以使用其他定位。例如,图像捕获装置124可以位于车辆200的保险杠上或保险杠中。这样的定位可以尤其适用于具有宽视场的图像捕获装置。位于保险杠的图像捕获装置的视线可以与驾驶员的视线不同,并且因此,保险杠图像捕获装置和驾驶员可能不总是看到相同的对象。图像捕获装置(例如,图像捕获装置122、124和126)还可以位于其他定位。例如,图像捕获装置可以位于车辆200的侧视镜中的一者或两者之上或之中、车辆200的车顶上、车辆200的引擎盖上、车辆200的后备箱上、车辆200的侧面上,安装在车辆200的任何车窗上、定位在车辆200的任何车窗的后面、或定位在车辆200的任何车窗的前面,以及安装在车辆200的前部和/或后部上的灯具中或附近等。
除了图像捕获装置之外,车辆200还可以包含系统100的各种其他组件。例如,处理单元110可以被包含在车辆200上,与车辆的引擎控制单元(engine control lunit,ECU)集成或分离。车辆200还可以配备有诸如GPS接收器的位置传感器130,并且还可以包含地图数据库160以及存储器单元140和150。
如早先讨论的,无线收发器172可以通过一个或多个网络(例如,蜂窝网络、互联网等)和/或接收数据。例如,无线收发器172可以将由系统100收集的数据上传到一个或多个服务器,并且从一个或多个服务器下载数据。例如,经由无线收发器172,系统100可以接收对存储在地图数据库160、存储器140和/或存储器150中的数据的周期性或按需的更新。类似地,无线收发器172可以将来自系统100的任何数据(例如,由图像获取单元120捕获的图像、由位置传感器130或其他传感器、车辆控制系统接收的数据等)和/或由处理单元110处理的任何数据上传到一个或多个服务器。
系统100可以基于隐私等级设定将数据上传到服务器(例如,上传到云)。例如,系统100可以实现隐私等级设定,以规定或限制传送到服务器的、可以唯一地识别车辆和/或车辆的驾驶员/所有者的数据(包含元数据)的类型。这样的设定可以由用户经由例如无线收发器172来设置,可以由出厂默认设定、或由无线收发器172接收的数据来初始化。
在一些实施例中,系统100可以根据“高”隐私等级上传数据,并且在设置设定的情况下,系统100可以传输数据(例如,与路途相关的定位信息、捕获的图像等),而不带有任何关于特定车辆和/或驾驶员/所有者的细节。例如,当根据“高”隐私设定来上传数据时,系统100可以不包含车辆标识编号(vehicle identification number,VIN)或者车辆的驾驶员或所有者的名字,并且可以代替地传输数据,诸如,捕获的图像和/或与路途相关的受限的定位信息。
可以预期其他隐私等级。例如,系统100可以根据“中间”隐私等级向服务器传输数据,并且可以包含在“高”隐私等级下不包含的附加信息,诸如车辆的品牌和/或型号和/或车辆类型(例如,乘用车、运动型多用途车、卡车等)。在一些实施例中,系统100可以根据“低”隐私等级上传数据。在“低”隐私等级设定的情况下,系统100可以上传数据,并且包含足以唯一地识别具体车辆、所有者/驾驶员和/或车辆行驶过的部分或整个路途的信息。这样的“低”隐私等级数据可以包含以下中的一个或多个:例如VIN、驾驶员/所有者名字、出发之前车辆的始发点、车辆的意图目的地、车辆的品牌和/或型号、车辆类型等。
图2A是与所公开的实施例一致的示例性车辆成像系统的图示性侧视图表示。图2B是图2A中所示的实施例的图示性顶视图图示。如图2B所示,所公开的实施例可以包含车辆200,该车辆200在其车体中包含系统100,该系统100具有定位在车辆200的后视镜附近和/或靠近驾驶员的第一图像捕获装置122、定位在车辆200的保险杠区域(例如,保险杠区域210中的一个)之上或之中的第二图像捕获装置124、以及处理单元110。
如图2C所示,图像捕获装置122和124两者可以都定位在车辆200的后视镜附近和/或靠近驾驶员。此外,虽然图2B和图2C示出了两个图像捕获装置122和124,应理解的是,其他实施例可以包含两个以上的图像捕获装置。例如,在图2D和2E所示的实施例中,第一图像捕获装置122、第二图像捕获装置124和第三图像捕获装置126被包含在车辆200的系统100中。
如图2D所示,图像捕获装置122可以定位在车辆200的后视镜附近和/或靠近驾驶员,并且图像捕获装置124和126可以定位在车辆200的保险杠区域(例如,保险杠区域210中的一个)之上或之中。并且如图2E所示,图像捕获装置122、124和126可以定位在车辆200的后视镜附近和/或靠近驾驶员座。所公开的实施例不限于任何特定数目和配置的图像捕获装置,并且图像捕获装置可以定位在车辆200内或车辆200上的任何适当的定位中。
应理解的是,所公开的实施例不限于车辆,并且可以被应用在其他情景中。还应理解,所公开的实施例不限于特定类型的车辆200,并且可以适用于所有类型的车辆,包含汽车、卡车、拖车和其他类型的车辆。
第一图像捕获装置122可以包含任何合适类型的图像捕获装置。图像捕获装置122可以包含光轴。在一个实例中,图像捕获装置122可以包含具有全局快门的AptinaM9V024WVGA传感器。在其他实施例中,图像捕获装置122可以提供1280×960像素的分辨率,并且可以包含滚动快门(rolling shutter)。图像捕获装置122可以包含各种光学元件。在一些实施例中,可以包含一个或多个镜头,例如用于为图像捕获装置提供期望的焦距和视场。在一些实施例中,图像捕获装置122可以与6毫米镜头或12毫米镜头相关联。在一些实施例中,如图2D所示,图像捕获装置122可以被配置为捕获具有期望的视场(FOV)202的图像。例如,图像捕获装置122可以被配置为具有常规FOV,诸如在40度至56度的范围内,包含46度FOV、50度FOV、52度FOV,或更大的FOV。替代地,图像捕获装置122可以被配置为具有在23度至40度的范围内的窄FOV,诸如28度FOV或36度FOV。另外,图像捕获装置122可以被配置为具有在100度至180度的范围内的宽FOV。在一些实施例中,图像捕获装置122可以包含广角保险杠相机或者具有高达180度FOV的相机。在一些实施例中,图像捕获装置122可以是7。2M像素图像捕获装置,其纵横比为约2:1(例如,HxV=3800×1900像素),具有约100度的水平FOV。这样的图像捕获装置可以被用来代替三个图像捕获装置配置。由于显著的镜头失真,在图像捕获装置使用径向对称镜头的实施方式中,这样的图像捕获装置的垂直FOV可显著地小于50度。例如,这样的镜头可以不是径向对称的,这将允许在100度水平FOV情况下垂直FOV大于50度。
第一图像捕获装置122可以获取关于与车辆200相关联的场景的多个第一图像。可以获取多个第一图像中的每个作为一系列图像扫描线,其可以使用滚动快门来捕获。每个扫描线可以包含多个像素。
第一图像捕获装置122可以具有与第一系列图像扫描线中的每个的获取相关联的扫描速率。扫描速率可以指图像传感器可以获取与包含在特定扫描线中的每个像素相关联的图像数据的速率。
图像捕获装置122、124和126可以含有任何合适的类型和数目的图像传感器,例如,包含CCD传感器或CMOS传感器等。在一个实施例中,CMOS图像传感器可以与滚动快门一起采用,使得一次一个地读取一行中的每个像素,并且行的扫描在逐行的基础上进行,直到已捕获整个图像帧。在一些实施例中,可以相对于帧从顶部到底部顺序地捕获行。
在一些实施例中,本文公开的图像捕获装置中的一个或多个(例如,图像捕获装置122、124和126)可以构成高分辨率成像器,并且可以具有大于5M像素、7M像素、10M像素或更大像素的分辨率。
滚动快门的使用可能导致不同行中的像素在不同的时间被曝光和捕获,这可能引起捕获的图像帧中的歪斜和其他图像伪影。另一方面,当图像捕获装置122被配置为利用全局或同步快门操作时,所有像素可以以相同量的时间并且在共同曝光时段期间被曝光。结果,从采用全局快门的系统收集的帧中的图像数据表示在特定时间的整个FOV(诸如FOV202)的快照。相比之下,在滚动快门应用中,在不同的时间,帧中的每行被曝光并且数据被捕获。因此,在具有滚动快门的图像捕获装置中,移动对象可能出现失真。这种现象将在下面更详细地描述。
第二图像捕获装置124和第三图像捕获装置126可以是任何类型的图像捕获装置。类似于第一图像捕获装置122,图像捕获装置124和126中的每个可以包含光轴。在一个实施例中,图像捕获装置124和126中的每个可以包含具有全局快门的Aptina M9V024WVGA传感器。替代地,图像捕获装置124和126中的每个可以包含滚动快门。类似于图像捕获装置122,图像捕获装置124和126可以被配置为包含各种镜头和光学元件。在一些实施例中,与图像捕获装置124和126相关联的镜头可以提供FOV(诸如FOV 204和206),其等于或窄于与图像捕获装置122相关联的FOV(诸如FOV 202)。例如,图像捕获装置124和126可以具有40度、30度、26度、23度、20度或更小的FOV。
图像捕获装置124和126可以获取关于与车辆200相关联的场景的多个第二图像和第三图像。可以获取多个第二和第三图像中的每个作为第二和第三系列图像扫描线,其可以使用滚动快门来捕获。每个扫描线或行可以具有多个像素。图像捕获装置124和126可以具有与包含在第二和第三系列中的每个图像扫描线的获取相关联的第二和第三扫描速率。
每个图像捕获装置122、124和126可以定位在相对于车辆200的任何合适的位置和朝向处。可以选择图像捕获装置122、124和126的相对位置以帮助将从图像捕获装置获取的信息融合在一起。例如,在一些实施例中,与图像捕获装置124相关联的FOV(诸如FOV 204)可能部分地或完全地和与图像捕获装置122相关联的FOV(例如FOV 202)以及与图像捕获装置126相关联的FOV(例如FOV 206)重叠。
图像捕获装置122、124和126可以位于车辆200上的任何合适的相对高度处。在一个实例中,在图像捕获装置122、124和126之间可以存在高度差,其可以提供足够的视差信息以使能立体分析。例如,如图2A所示,两个图像捕获装置122和124在不同的高度处。例如,在图像捕获装置122、124和126之间还可以存在横向位移差,以为处理单元110的立体分析给出附加的视差信息。横向位移的差异可以用dx表示,如图2C和图2D所示。在一些实施例中,图像捕获装置122、124和126之间可以存在前向或后向位移(例如,范围位移)。例如,图像捕获装置122可以位于图像捕获装置124和/或图像捕获装置126后面0.5到2米或更远处。这样的类型的位移可以使得图像捕获装置中的一个能够覆盖其他(一个或多个)图像捕获装置的潜在盲点。
图像捕获装置122可以具有任何合适的分辨率能力(例如,与图像传感器相关联的像素的数目),并且与图像捕获装置122相关联的(一个或多个)图像传感器的分辨率可以比与图像捕获装置124和126相关联的(一个或多个)图像传感器的分辨率更高、更低、或者与之相同。在一些实施例中,与图像捕获装置122和/或图像捕获装置124和126相关联的(一个或多个)图像传感器可以具有640×480、1024×768、1280×960的分辨率,或任何其他合适的分辨率。
帧速率(例如,图像捕获装置在继续捕获与下一图像帧相关联的像素数据之前获取一个图像帧的一组像素数据的速率)可以是可控的。与图像捕获装置122相关联的帧速率可以比与图像捕获装置124和126相关联的帧速率更高、更低或与之相同。与图像捕获装置122、124和126相关联的帧速率可以取决于可能影响帧速率的定时的各种因素。例如,图像捕获装置122、124和126中的一个或多个可以包含可选择的像素延迟时段,其在获取与图像捕获装置122、124和/或126中的图像传感器的一个或多个像素相关联的图像数据之前或之后施加。通常,可以根据用于该装置的时钟速率来获取对应于每个像素的图像数据(例如,每个时钟循环一个像素)。此外,在包含滚动快门的实施例中,图像捕获装置122、124和126中的一个或多个可以包含可选择的水平消隐时段,其在获取与图像捕获装置122、124和/或126中的图像传感器的一行像素相关联的图像数据之前或之后施加。此外,图像捕获装置122、124和/或126中的一个或多个可以包含可选择的垂直消隐时段,其在获取与图像捕获装置122、124和126的图像帧相关联的图像数据之前或之后施加。
这些定时控制可以使能与图像捕获装置122、124和126相关联的帧速率的同步,即便每个的线扫描速率不同。此外,如将在下面更详细地讨论的,这些可选择的定时控制以及其他因素(例如,图像传感器分辨率、最大线扫描速率等)可以使能从图像捕获装置122的FOV与图像捕获装置124和126的一个或多个FOV重叠的区域的图像捕获的同步,即便图像捕获装置122的视场不同于图像捕获装置124和126的FOV。
图像捕获装置122、124和126中的帧速率定时可以取决于相关联的图像传感器的分辨率。例如,假定对于两个装置,线扫描速率类似,如果一个装置包含具有640×480的分辨率的图像传感器,并且另一个装置包含具有1280×960的分辨率的图像传感器,则需要更多的时间来从具有更高分辨率的传感器获取一帧图像数据。
可以影响图像捕获装置122、124和126中的图像数据获取的定时的另一个因素是最大线扫描速率。例如,从被包含在图像捕获装置122、124和126中的图像传感器获取一行图像数据将需要某个最低时间量。假定没有添加像素延迟时段,则用于获取一行图像数据的此最低时间量将与用于特定装置的最大线扫描速率相关。提供较高的最大线扫描速率的装置比具有较低的最大线扫描速率的装置具有提供更高的帧速率的潜在性。在一些实施例中,图像捕获装置124和126中的一个或多个可以具有高于与图像捕获装置122相关联的最大线扫描速率的最大线扫描速率。在一些实施例中,图像捕获装置124和/或126的最大线扫描速率可以是图像捕获装置122的最大线扫描速率的1.25、1.5、1.75或2倍或更多倍。
在另一个实施例中,图像捕获装置122、124和126可以具有相同的最大线扫描速率,但图像捕获装置122可以以小于或等于其最大扫描扫描速率的扫描速率而操作。系统可以被配置为使得图像捕获装置124和126中的一个或多个以等于图像捕获装置122的线扫描速率的线扫描速率进行操作。在其他实例中,系统可以被配置为使得图像捕获装置124和/或图像捕获装置126的线扫描速率可以是图像捕获装置122的线扫描速率的1.25、1.5、1.75、或2倍或更多倍。
在一些实施例中,图像捕获装置122、124和126可以是不对称的。换言之,它们可包含具有不同视场(FOV)和焦距的相机。例如,图像捕获装置122、124和126的视场可以包含关于车辆200的环境的任何期望的区域。在一些实施例中,图像捕获装置122、124和126中的一个或多个可以被配置为从在车辆200前面、车辆200后面、车辆200的侧面、或它们的组合的环境获取图像数据。
此外,与每个图像捕获装置122、124和/或126相关联的焦距可以是可选择的(例如,通过包含适当的镜头等),使得每个装置在相对于车辆200的期望的距离范围处获取对象的图像。例如,在一些实施例中,图像捕获装置122、124和126可以获取离车辆几米之内的接近对象的图像。图像捕获装置122、124和126还可以被配置为获取离车辆更远的范围处(例如,25米、50米、100米、150米或更远)的对象的图像。此外,图像捕获装置122、124和126的焦距可以被选择以使得一个图像捕获装置(例如,图像捕获装置122)可以获取相对靠近车辆(例如,在10米内或20米内的)对象的图像,而其他图像捕获装置(例如,图像捕获装置124和126)可以获取离车辆200较远的(例如,大于20米、50米、100米、150米等的)对象的图像。
根据一些实施例,一个或多个图像捕获装置122、124和126的FOV可以具有广角。例如,具有140度的FOV可能是有利的,尤其是对于可以被用于捕获车辆200附近的区域的图像的图像捕获装置122、124和126。例如,图像捕获装置122可以被用于捕获车辆200的右侧或左侧的区域的图像,并且在这样的实施例中,可能期望图像捕获装置122具有宽FOV(例如,至少140度)。
与图像捕获装置122、124和126中的每个相关联的视场可以取决于相应的焦距。例如,随着焦距增加,对应的视场减小。
图像捕获装置122、124和126可以被配置为具有任何合适的视场。在一个特定示例中,图像捕获装置122可以具有46度的水平FOV,图像捕获装置124可以具有23度的水平FOV,并且图像捕获装置126可以具有在23度和46度之间的水平FOV。在一个特定示例中,图像捕获装置122可以具有52度的水平FOV,图像捕获装置124可以具有26度的水平FOV,并且图像捕获装置126可以具有在26度和52度之间的水平FOV。在一些实施例中,图像捕获装置122的FOV与图像捕获装置124和/或图像捕获装置126的FOV的比率可以从1.5到2.0变化。在其他实施例中,该比率可以在1.25与2.25之间变化。
系统100可以被配置为使得图像捕获装置122的视场至少部分地或完全地与图像捕获装置124和/或图像捕获装置126的视场重叠。在一些实施例中,系统100可以被配置为使得图像捕获装置124和126的视场例如落入(例如,窄于)图像捕获装置122的视场并且与图像捕获装置122的视场共享共同的中心。在其他实施例中,图像捕获装置122、124和126可以捕获相邻的FOV,或者可以在它们FOV中具有部分重叠。在一些实施例中,图像捕获装置122、124和126的视场可以对齐,以使得较窄FOV图像捕获装置124和/或126的中心可以位于较宽FOV装置122的视场的下半部分中。
图2F是与所公开的实施例一致的示例性车辆控制系统的图示性表示。如图2F所指示的,车辆200可以包含油门调节系统220、制动系统230和转向系统240。系统100可以经过一个或多个数据链路(例如,用于传输数据的任何有线和/或无线链路)向油门调节系统220、制动系统230和转向系统240中的一个或多个提供输入(例如,控制信号)。例如,基于对由图像捕获装置122、124和/或126获取的图像的分析,系统100可以向油门调节系统220、制动系统230和转向系统240中的一个或多个提供控制信号以导航车辆200(例如,通过引起加速、转向、变道(lane shift)等)。此外,系统100可以从油门调节系统220、制动系统230和转向系统240中的一个或多个接收输入,该输入指示车辆200的运行条件(例如,速度、车辆200是否正在制动和/或转向等)。以下结合图4至图7提供进一步的细节。
如图3A所示,车辆200还可以包含用于与车辆200的驾驶员或乘客进行交互的用户界面170。例如,车辆应用中的用户界面170可以包含触摸屏320、旋钮330、按钮340和麦克风350。车辆200的驾驶员或乘客还可以使用手柄(例如,位于车辆200的转向杆上或附近,包含例如转向信号手柄)、按钮(例如,位于车辆200的方向盘上)等与系统100交互。在一些实施例中,麦克风350可以定位为与后视镜310相邻。类似地,在一些实施例中,图像捕获装置122可以位于靠近后视镜310。在一些实施例中,用户界面170还可以包含一个或多个扬声器360(例如,车辆音频系统的扬声器)。例如,系统100可以经由扬声器360提供各种通知(例如,警报)。
图3B至图3D是与所公开的实施例一致的被配置为定位在后视镜(例如,后视镜310)后面并抵靠车辆风挡的示例性相机安装370的图示。如图3B所示,相机安装370可以包含图像捕获装置122、124和126。图像捕获装置124和126可以定位在遮光板380的后面,遮光板380可以与车辆风挡齐平(flush)并且包含薄膜和/或防反射材料的合成物。例如,遮光板380可以被定位为使得遮挡相对于具有匹配斜面的车辆风挡对齐。在一些实施例中,图像捕获装置122、124和126中的每个可以定位在遮光板380的后面,例如在图3D中所描绘的。所公开的实施例不限于图像捕获装置122、124和126、相机安装370和遮光板380的任何特定配置。图3C是图3B所示的相机安装370从前面视角的图示。
如受益于本公开的本领域技术人员将理解的,可以对前述所公开的实施例做出许多变化和/或修改。例如,并非所有组件对于系统100的操作是必要的。此外,在提供所公开的实施例的功能时,任何组件可以位于系统100的任何适当的部分中并且组件可以被重新布置成各种配置。因此,前述配置是示例性的,并且不管上述讨论的配置如何,系统100都可以提供广阔范围的功能以分析车辆200的周围并响应于该分析而导航车辆200。
如在下面更详细讨论的并且根据各种所公开的实施例,系统100可以提供各种关于自主驾驶和/或驾驶员辅助技术的特征。例如,系统100可以分析图像数据、位置数据(例如,GPS定位信息)、地图数据、速度数据和/或来自包含在车辆200中的传感器的数据。系统100可以从例如图像获取单元120、位置传感器130以及其他传感器收集数据用于分析。此外,系统100可以分析所收集的数据以确定车辆200是否应当采取某个动作,并且然后在没有人工干预的情况下自动采取所确定的动作。例如,当车辆200在没有人工干预的情况下导航时,系统100可以自动地控制车辆200的制动、加速、和/或转向(例如,通过向油门调节系统220、制动系统230和转向系统240中的一个或多个传送控制信号)。此外,系统100可以分析所收集的数据,并且基于对所收集的数据的分析向车辆乘员发出警告和/或警报。下面提供关于系统100提供的各种实施例的附加的细节。
前向多成像系统
如上所讨论的,系统100可以提供使用多相机系统的驾驶辅助功能。多相机系统可以使用面向车辆前方的一个或多个相机。在其他实施例中,多相机系统可以包含面向车辆的侧方或面向车辆的后方的一个或多个相机。在一个实施例中,例如系统100可以使用双相机成像系统,其中,第一相机和第二相机(例如,图像捕获装置122和124)可以被定位在车辆(例如,车辆200)的前面和/或侧面处。第一相机可以具有大于、小于、或部分重叠于第二相机的视场的视场。此外,第一相机可以连接到第一图像处理器以进行对由第一相机提供的图像的单目图像分析,并且第二相机可以连接到第二图像处理器以进行对由第二相机提供的图像的单目图像分析。第一和第二图像处理器的输出(例如,处理后的信息)可以被组合。在一些实施例中,第二图像处理器可以从第一相机和第二相机两者接收图像以执行立体分析。在另一个实施例中,系统100可以使用三相机成像系统,其中每个相机具有不同的视场。因此,这样的系统可以基于从位于车辆前方和侧方的不同距离处的对象导出的信息来做出决定。对单目图像分析的参考可以参考基于从单个视点(例如,从单个相机)捕获的图像进行图像分析的实例。立体图像分析可以参考基于使用图像捕获参数的一个或多个变化而捕获的两个或更多个图像而进行图像分析的实例。例如,适合于进行立体图像分析的捕获的图像可以包含从两个或更多个不同位置、从不同视野、使用不同焦距以及与视差信息一起等捕获的图像。
例如,在一个实施例中,系统100可以使用图像捕获装置122、124和126来实现三相机配置。在这样的配置中,图像捕获装置122可以提供窄视场(例如,34度或从大约20度至45度的范围选择的其他值等),图像捕获装置124可以提供宽视场(例如,150度或从大约100度至大约180度的范围选择的其他值),并且图像捕获装置126可以提供中间的视场(例如,46度或从大约35度至大约60度的范围选择的其他值)。在一些实施例中,图像捕获装置126可以作为主相机或基本相机。图像捕获装置122、124和126可以被定位在后视镜310的后面并且基本上并排定位(例如,相距6厘米)。此外,在一些实施例中,如以上所讨论的,图像捕获装置122、124和126中的一个或多个可以被安装在与车辆200的风挡齐平的遮光板380的后面。这样的遮挡可以用于最小化来自汽车内部的任何反射对图像捕获装置122、124和126的影响。
在另一个实施例中,如以上结合图3B和图3C所讨论的,宽视场相机(例如,上述示例中的图像捕获装置124)可以被安装得低于窄视场相机和主视场相机(例如,上述示例中的图像捕获装置122和126)。这样的配置可以提供来自宽视场相机的自由视线。为减少反射,相机可以被安装得靠近车辆200的风挡,并且在相机上可以包含偏振器以衰减(damp)反射光。
三相机系统可以提供某些性能特性。例如,一些实施例可以包含由一个相机基于来自另一个相机的检测结果来验证对象的检测的能力。在上面讨论的三相机配置中,处理单元110可以包含例如三个处理装置(例如,三个如以上所讨论的EyeQ系列处理器芯片),其中每个处理装置专用于处理由图像捕获装置122、124和126中的一个或多个捕获的图像。
在三相机系统中,第一处理装置可以从主相机和窄视场相机两者接收图像,并且进行对窄FOV相机的视觉处理,例如以检测其他车辆、行人、车道标志、交通标志、交通灯以及其他道路对象。此外,第一处理装置可以计算来自主相机和窄相机的图像之间的像素的视差,并且创建车辆200的环境的3D重建。然后第一处理装置可以组合3D重建与3D地图数据、或组合3D重建与基于来自另一个相机的信息计算出的3D信息。
第二处理装置可以从主相机接收图像并进行视觉处理以检测其他车辆、行人、车道标志、交通标志、交通灯和其他道路对象。此外,第二处理装置可以计算相机位移,并且基于该位移计算连续图像之间的像素的视差,并创建场景的3D重建(例如,运动恢复结构(structure from motion))。第二处理装置可以将基于3D重建的运动恢复结构传送到第一处理装置以与立体3D图像进行组合。
第三处理装置可以从宽FOV相机接收图像,并处理该图像以检测车辆、行人、车道标志、交通标志、交通灯和其他道路对象。第三处理装置可以进一步执行附加的处理指令来分析图像,以识别图像中移动的对象,诸如正改变车道的车辆、行人等。
在一些实施例中,使得基于图像的信息的流被独立地捕获和处理可以提供用于在系统中提供冗余的机会。这样的冗余可以包含例如使用第一图像捕获装置和从该装置处理的图像来验证和/或补充通过从至少第二图像捕获装置捕获和处理图像信息而获得的信息。
在一些实施例中,系统100可以使用两个图像捕获装置(例如,图像捕获装置122和124)来为车辆200提供导航辅助,并使用第三图像捕获装置(例如,图像捕获装置126)来提供冗余和验证从其他两个图像捕获装置接收的数据的分析。例如,在这样的配置中,图像捕获装置122和124可以提供用于由系统100进行立体分析的图像以用于导航车辆200,而图像捕获装置126可以提供用于由系统100进行单目分析的图像,以提供冗余和基于从图像捕获装置122和/或图像捕获装置124捕获的图像而获得的信息的验证。换言之,可以认为图像捕获装置126(和对应的处理装置)提供冗余子系统,以用于提供对从图像捕获装置122和124导出的分析的检查(例如,以提供自动紧急制动(AEB)系统)。此外,在一些实施例中,可基于从一个或多个传感器接收的信息(例如,雷达、激光雷达、声学传感器、从车辆外部的一个或多个收发器接收的信息等)来补充冗余和接收到的数据的验证。
本领域的技术人员将认识到,上述相机配置、相机放置、相机数目、相机定位等仅为示例。在不脱离所公开的实施例的范围下,这些组件和关于整个系统描述的其他组件可以在各种不同的配置中被组装和使用。关于使用多相机系统以提供驾驶员辅助和/或自主车辆功能的进一步的细节如下。
图4是存储器140和/或存储器150的示例性功能性框图,该存储器140和/或存储器150可以被存储/被编程指令以用于进行与本公开实施例一致的一个或多个操作。尽管以下指代存储器140,但是本领域技术人员将认识到指令可以存储在存储器140和/或150中。
如图4所示,存储器140可以存储单目图像分析模块402、立体图像分析模块404、速度和加速度模块406以及导航响应模块408。所公开的实施例不限于存储器140的任何特定配置。此外,应用处理器180和/或图像处理器190可以执行包含在存储器140中的任何模块402、404、406和408所存储的指令。本领域技术人员将理解,在以下讨论中对处理单元110的参考可以分离地或共同地指代应用处理器180和图像处理器190。相应地,可以由一个或多个处理装置来进行任何以下过程的步骤。
在一个实施例中,单目图像分析模块402可以存储指令(诸如计算机视觉软件),当由处理单元110执行该指令时,对由图像捕获装置122、124和126中的一个获取的一组图像进行单目图像分析。在一些实施例中,处理单元110可以将来自一组图像的信息与附加的感觉信息(例如,来自雷达、激光雷达等的信息)组合以进行单目图像分析。如以下结合图5A至图5D所描述的,单目图像分析模块402可以包含用于在一组图像内检测该组特征的指令,所述特征诸如车道标志、车辆、行人、道路标志、高速公路出口匝道、交通灯、危险对象以及与车辆的环境相关联的任何其他特征。基于该分析,系统100(例如,经由处理单元110)可以引起车辆200中的一个或多个导航响应,诸如转向、变道、加速度的改变等,如以下结合导航响应模块408所讨论的。
在一个实施例中,立体图像分析模块404可以存储指令(诸如,计算机视觉软件),当由处理单元110执行该指令时,对由从任何图像捕获装置122、124和126中选择的图像捕获装置的组合而获取的第一组和第二组图像进行立体图像分析。在一些实施例中,处理单元110可以将来自第一组和第二组图像的信息与附加的感觉信息(例如,来自雷达的信息)组合以进行立体图像分析。例如,立体图像分析模块404可以包含指令,该指令用于基于由图像捕获装置124获取的第一组图像和由图像捕获装置126获取的第二组图像而进行立体图像分析。如下面结合图6所描述的,立体图像分析模块404可以包含指令,该指令用于检测第一组和第二组图像内的一组特征,诸如车道标志、车辆、行人、道路标志、高速公路出口匝道、交通灯、危险对象等。基于该分析,处理单元110可以引起车辆200中的一个或多个导航响应,诸如转向、变道、加速度的改变等,如以下结合导航响应模块408所讨论的。此外,在一些实施例中,立体图像分析模块404可以实现与经训练的系统(诸如神经网络或深度神经网络)或未经训练的系统相关联的技术,诸如系统可以被配置为使用计算机视觉算法来检测和/或标记在从中捕获和处理感觉信息的环境中的对象。在一个实施例中,立体图像分析模块404和/或其他图像处理模块可以被配置为使用经训练和未经训练系统的组合。
在一个实施例中,速度和加速度模块406可以存储软件,该软件被配置为分析从车辆200中的一个或多个计算和机电装置接收的数据,该一个或多个计算和机电装置被配置为引起车辆200的速度和/或加速度的改变。例如,处理单元110可以执行与速度和加速度模块406相关联的指令,以基于从执行单目图像分析模块402和/或立体图像分析模块404导出的数据来计算车辆200的目标速度。这样的数据可以包含,例如目标位置,速度和/或加速度,车辆200相对于附近车辆、行人或道路对象的位置和/或速度,车辆200相对于道路的车道标志的位置信息等。另外,处理单元110可以基于感觉输入(例如,来自雷达的信息)和来自车辆200的其他系统(诸如油门调节系统220、制动系统230和/或转向系统240)的输入来计算车辆200的目标速度。基于计算出的目标速度,处理单元110可以向车辆200的油门调节系统220、制动系统230和/或转向系统的240传输电信号,以通过例如物理地压下制动器或松开车辆200的加速器来触发速度和/或加速度的改变。
在一个实施例中,导航响应模块408可以存储软件,该软件可由处理单元110执行以基于从执行单目图像分析模块402和/或立体图像分析模块404导出的数据来确定期望的导航响应。这样的数据可以包含与附近的车辆、行人和道路对象相关联的位置和速度信息,车辆200的目标位置信息等。此外,在一些实施例中,导航响应可以(部分地或完全地)基于地图数据、车辆200的预定位置、和/或车辆200与从单目图像分析模块402和/或立体图像分析模块404的执行检测到的一个或多个对象之间的相对速度或相对加速度。导航响应模块408还可以基于感觉输入(例如,来自雷达的信息)和来自车辆200的其他系统(诸如车辆200的油门调节系统220、制动系统230和转向系统240)的输入确定期望的导航响应。基于期望的导航响应,处理单元110可以向车辆200的油门调节系统220、制动系统230和转向系统240传输电信号,以通过例如转动车辆200的方向盘来实现预定角度的旋转,从而触发期望的导航响应。在一些实施例中,处理单元110可以使用导航响应模块408的输出(例如,期望的导航响应)作为执行速度和加速度模块406的输入,以用于计算车辆200的速度的改变。
此外,本文公开的任何模块(例如,模块402、404和406)可以实现与经训练的系统(诸如神经网络或深度神经网络)或未经训练的系统相关联的技术。
图5A是示出与所公开的实施例一致的用于基于单目图像分析来引起一个或多个导航响应的示例性过程500A的流程图。在步骤510处,处理单元110可以经由在处理单元110和图像获取单元120之间的数据接口128接收多个图像。例如,包含在图像获取单元120中的相机(诸如具有视场202的图像捕获装置122)可以捕获车辆200的前方(例如,或者车辆的侧方或后方)区域的多个图像并通过数据连接(例如,数字、有线、USB、无线、蓝牙等)将它们传输到处理单元110。在步骤520处,处理单元110可以执行单目图像分析模块402来分析该多个图像,如以下结合图5B至图5D所进一步详细描述的。通过进行该分析,处理单元110可以检测在该组图像内的一组特征,诸如车道标志、车辆、行人、道路标志、高速公路出口匝道、交通灯等。
在步骤520处,处理单元110还可以执行单目图像分析模块402来检测各种道路危险,诸如例如卡车轮胎的部件、倒下的道路标志、松散货物、小动物等。道路危险可能在结构、形状、大小和颜色上变化,这可能使这样的危险的检测更加困难。在一些实施例中,处理单元110可以执行单目图像分析模块402来对多个图像进行多帧分析以检测道路危险。例如,处理单元110可以估计连续图像帧之间的相机运动,并计算帧之间的像素中的视差来构建道路的3D地图。然后,处理单元110可以使用该3D地图来检测道路表面、以及存在于道路表面上的危险。
在步骤530处,处理单元110可以执行导航响应模块408以基于在步骤520处执行的分析和如以上结合图4所描述的技术来引起一个或多个导航响应。导航响应可以包含例如转向、变道、制动、加速度的改变等。在一些实施例中,处理单元110可以使用从执行速度和加速度模块406导出的数据来引起该一个或多个导航响应。此外,多个导航响应可以同时地、按照顺序地、或以其任何组合而发生。例如,处理单元110可以通过例如按照顺序地向车辆200的转向系统240和油门调节系统220传输控制信号,使得车辆200转变一个车道然后加速。替代地,处理单元110可以通过例如同时向车辆200的制动系统230和转向系统240传输控制信号,使得车辆200在变道的同时制动。
图5B是示出与所公开的实施例一致的用于在一组图像中检测一个或多个车辆和/或行人的示例性过程500B的流程图。处理单元110可以执行单目图像分析模块402来实现过程500B。在步骤540处,处理单元110可以确定表示可能的车辆和/或行人的一组候选对象。例如,处理单元110可以扫描一个或多个图像,将该图像与一个或多个预定图案比较,并且在每个图像内识别可能含有感兴趣的对象(例如,车辆、行人或其部分)的可能的定位。预定图案可以以实现高“伪命中”率和低“漏掉”率的这样的方式来设计。例如,处理单元110可以将低的相似性阈值用在预定图案以将候选对象识别为可能的车辆或行人。这样做可以允许处理单元110减少漏掉(例如,未识别出)表示车辆或行人的候选对象的可能性。
在步骤542处,处理单元110可以基于分类标准过滤该组候选对象以排除某些候选(例如,不相关或较不相关的对象)。可以从与存储在数据库(例如,存储在存储器140中的数据库)中的对象类型类别相关联的各种属性导出这样的标准。属性可以包含对象形状、尺寸、纹理、位置(例如,相对于车辆200)等。因此,处理单元110可以使用一组或多组标准来从该组候选对象中拒绝伪候选。
在步骤544处,处理单元110可以分析多帧图像,以确定在该组候选对象中的对象是否表示车辆和/或行人。例如,处理单元110可以跨连续帧来跟踪检测到的候选对象并累积与检测到的对象相关联的逐帧数据(例如,大小、相对于车辆200的位置等)。此外,处理单元110可以估计检测到的对象的参数并将该对象的逐帧位置数据与预测的位置比较。
在步骤546处,处理单元110可以为检测到的对象构建一组测量。这样的测量可以包含例如与检测到的对象相关联的位置、速度和加速度值(相对于车辆200)。在一些实施例中,处理单元110可以基于使用一系列基于时间的观察的诸如卡尔曼滤波器或线性二次估计(LQE)的估计技术和/或基于对于不同对象类别(例如,汽车、卡车、行人、自行车、道路标志等)可用的建模数据,来构建该测量。卡尔曼滤波器可以基于对象的比例的测量,其中该比例测量与要碰撞的时间(例如,车辆200到达对象的时间量)成比例。因此,通过进行步骤540至546,处理单元110可以识别在该组捕获图像内出现的车辆和行人,并导出与该车辆和行人相关联的信息(例如,位置、速度、大小)。基于该识别和所导出的信息,处理单元110可以引起车辆200中的一个或多个导航响应,如以上结合图5A所描述的。
在步骤548处,处理单元110可以进行对一个或多个图像的光流分析,以减少检测到“伪命中”和漏掉表示车辆或行人的候选对象的可能性。光流分析可以指代,例如在一个或多个图像中分析相对于车辆200的、与其他车辆和行人相关联的并且区别于道路表面运动的运动图案。处理单元110可以通过跨越在不同时间捕获到的多个图像帧观察对象的不同位置,来计算候选对象的运动。处理单元110可以使用该位置和时间值作为用于计算候选对象的运动的数学模型的输入。因此,光流分析可以提供检测车辆200附近的车辆和行人的另一种方法。处理单元110可以结合步骤540至546进行光流分析,以提供用于检测车辆和行人的冗余,并提高系统100的可靠性。
图5C是示出与所公开的实施例一致的用于在一组图像中检测道路标志和/或车道几何结构信息的示例性过程500C的流程图。处理单元110可以执行单目图像分析模块402来实现过程500C。在步骤550处,处理单元110可以通过扫描一个或多个图像来检测一组对象。为了检测车道标志、车道几何结构信息以及其他相关的道路标志的路段,处理单元110可以过滤该组对象以排除被确定为不相关的对象(例如,小坑洼、小石块等)。在步骤552处,处理单元110可以将在步骤550中检测到的属于相同的道路标志或车道标志的路段分组在一起。基于该分组,处理单元110可以产生表示检测到的路段的模型,诸如数学模型。
在步骤554处,处理单元110可以构建与检测到的路段相关联的一组测量。在一些实施例中,处理单元110可以创建检测到的路段从图像平面到现实世界平面上的投影。可以使用具有与诸如检测到的道路的位置、斜率、曲率和曲率导数的物理属性对应的系数的三次多项式来表征该投影。在生成投影时,处理单元110可以考虑道路表面的改变,以及与车辆200相关的俯仰(pitch)和滚转速率(roll rate)。此外,处理单元110可以通过分析道路表面上存在的位置和运动线索来对道路标高进行建模。此外,处理单元110可以通过跟踪一个或多个图像中的一组特征点来估计与车辆200相关联的俯仰和滚转速率。
在步骤556处,处理单元110可以通过例如跨连续图像帧跟踪检测到的路段并累积与检测到的路段相关联的逐帧数据来进行多帧分析。由于处理单元110进行多帧分析,在步骤554构建的该组测量可以变得更可靠并且与越来越高的置信度水平相关联。因此,通过进行步骤550、552、554和556,处理单元110可以识别在该组捕获图像中出现的道路标志并导出车道几何结构信息。基于该识别和所导出的信息,处理单元110可以引起车辆200中的一个或多个导航响应,如以上结合图5A所描述的。
在步骤558处,处理单元110可以考虑附加的信息源,以进一步产生车辆200的在其周围的环境中的安全模型。处理单元110可以使用安全模型来限定系统100可以以安全方式执行车辆200的自主控制的上下文。为产生该安全模型,在一些实施例中,处理单元110可以考虑其他车辆的位置和运动、检测到的路缘和护栏、和/或从地图数据(诸如来自地图数据库160的数据)提取的一般道路形状描述。通过考虑附加的信息源,处理单元110可以提供用于检测道路标志和车道几何结构的冗余,并增加系统100的可靠性。
图5D是示出与所公开的实施例一致的用于在一组图像中检测交通灯的示例性过程500D的流程图。处理单元110可以执行单目图像分析模块402来实现过程500D。在步骤560处,处理单元110可以扫描该组图像,并识别出现在图像中的可能含有交通灯的定位处的对象。例如,处理单元110可以过滤所识别的对象以构建一组候选对象,而排除不可能对应于交通灯的那些对象。可以基于与交通灯相关联的各种属性来完成过滤,诸如形状、尺寸、纹理、位置(例如,相对于车辆200)等。这样的属性可以基于交通灯和交通控制信号的多个示例,并存储在数据库中。在一些实施例中,处理单元110可以对反映可能的交通灯的该组候选对象进行多帧分析。例如,处理单元110可以跨连续图像帧跟踪候选对象,估计候选对象的现实世界位置,并过滤掉那些移动的对象(其不可能是交通灯)。在一些实施例中,处理单元110可以对候选对象进行颜色分析,并识别出现在可能的交通灯内的检测到的颜色的相对位置。
在步骤562处,处理单元110可以分析交叉口的几何结构。分析可以基于以下各项的任意组合:(i)在车辆200的任一侧检测到的车道数,(ii)在道路上检测到的标志(例如箭头标志),以及(iii)从地图数据(例如来自地图数据库160的数据)中提取的交叉口的描述。处理单元110可以使用从执行单目分析模块402导出的信息来进行分析。此外,处理单元110可以确定在步骤560检测到的交通灯和在车辆200附近出现的车道之间的对应性。
在步骤564处,随着车辆200接近交叉口,处理单元110可以更新与所分析的交叉口几何结构和检测到的交通灯相关联的置信度水平。例如,被估计为出现在交叉口处的交通灯的数目与实际出现在交叉口处的交通灯的数目比较可以影响置信度水平。因此,基于该置信度水平,处理单元110可以将控制委托给车辆200的驾驶员以便改善安全条件。通过进行步骤560、562和564,处理单元110可以识别出现在该组捕获图像内的交通灯,并分析交叉口几何结构信息。基于该识别和分析,处理单元110可以引起车辆200中的一个或多个导航响应,如以上结合图5A所描述的。
图5E是示出与所公开的实施例一致的用于基于车辆路径来引起车辆200中的一个或多个导航响应的示例性过程500E的流程图。在步骤570处,处理单元110可以构建与车辆200相关联的初始车辆路径。车辆路径可以使用以坐标(x,z)表达的一组点来表示,并且该组点中两个点之间的距离di可以落入1至5米的范围中。在一个实施例中,处理单元110可以使用诸如左道路多项式和右道路多项式的两个多项式来构建初始车辆路径。处理单元110可以计算该两个多项式之间的几何中点,并且将被包含在得到的车辆路径中的每个点偏移预定的偏移(例如,智能车道偏移),如果有的话(零偏移可以对应于在车道的中间行驶)。该偏移可以在垂直于在车辆路径中的任何两点之间的路段的方向上。在另一个实施例中,处理单元110可以使用一个多项式和估计的车道宽度,来将车辆路径的每个点偏移估计的车道宽度的一半加上预定偏移(例如,智能车道偏移)。
在步骤572处,处理单元110可以更新在步骤570构建的车辆路径。处理单元110可以使用更高的分辨率来重建在步骤570构建的车辆路径,以使得表示车辆路径的该组点中两个点之间的dk小于如上所述的距离di。例如,该距离dk可以落入0.1至0.3米的范围中。处理单元110可以使用抛物线样条算法(parabolic spline algorithm)重建车辆路径,这可以产生对应于车辆路径的总长度的累积距离矢量S(即,基于表示车辆路径的该组点)。
在步骤574处,处理单元110可以基于在步骤572处构建的更新后的车辆路径来确定前视点(look-ahead point)(以坐标表达为(xl,zl))。处理单元110可以从累积距离矢量S提取前视点,并且该前视点可以与前视距离和前视时间相关联。前视距离可以具有范围为从10米至20米的下限,可以被计算为车辆200的速度和前视时间的乘积。例如,随着车辆200的速度下降,前视距离也可以减小(例如,直到它到达下限)。前视时间的范围可以从0.5到1.5秒,可以与关联于引起车辆200中的导航响应的诸如航向误差(heading error)跟踪控制环路的一个或多个控制环路的增益成反比。例如,该航向误差跟踪控制环路的增益可以取决于偏航率(yaw rate)环路、转向致动器环路、汽车横向动力学等的带宽。因此,航向误差跟踪控制环路的增益越高,前视时间越短。
在步骤576处,处理单元110可以基于在步骤574确定的前视点来确定航向误差和偏航率命令。处理单元110可以通过计算前视点的反正切,例如arctan(xl/zl)来确定航向误差。处理单元110可以将横摆角速率命令确定为航向误差和高水平控制增益的乘积。如果前视距离不在下限处,则高水平控制增益可以等于:(2/前视时间)。否则,高水平控制增益可以等于:(2×车辆200的速度/前视距离)。
图5F是示出与所公开的实施例一致的用于确定前方车辆是否正在改变车道的示例性过程500F的流程图。在步骤580处,处理单元110可以确定与前方车辆(例如,在车辆200前方行驶的车辆)相关联的导航信息。例如,处理单元110可以使用以上结合图5A和图5B所描述的技术来确定前方车辆的位置、速度(例如,方向和速度)和/或加速度。处理单元110还可以使用以上结合图5E所描述的技术来确定一个或多个道路多项式、前视点(与车辆200相关联)和/或追踪轨迹(例如,描述由前方车辆所采取的路径的一组点)。
在步骤582处,处理单元110可以分析在步骤580确定的导航信息。在一个实施例中,处理单元110可以计算追踪轨迹和道路多项式之间的距离(例如,沿着该轨迹)。如果沿着该轨迹的这个距离的变化超过预定的阈值(例如,在直路上0.1至0.2米,在适度弯曲道路上0.3至0.4米,以及在急转弯道路上0.5至0.6米),则处理单元110可以确定前方车辆很可能正在改变车道。在检测到多个车辆在车辆200前方行驶的情形中,处理单元110可以比较与每个车辆相关联的追踪轨迹。基于该比较,处理单元110可以确定追踪轨迹与其他车辆的追踪轨迹不匹配的车辆很可能正在改变车道。处理单元110可以附加地将(与前方车辆相关联的)追踪轨迹的曲率与前方车辆正在其中行驶的道路路段的期望曲率相比较。该期望曲率可以从地图数据(例如,来自地图数据库160的数据)、从道路多项式、从其他车辆的追踪轨迹、从关于道路现有知识等提取。如果追踪轨迹的曲率和道路路段的期望曲率的差异超过预定的阈值,则处理单元110可以确定前方车辆很可能正在改变车道。
在另一个实施例中,处理单元110可以在具体时间段(例如,0.5至1.5秒)将前方车辆的瞬时位置与前视点(与车辆200相关联)相比较。如果前方车辆的瞬时位置与前视点之间的距离在该具体时间段期间变化,并且变化的累积总和超过预定阈值(例如,在直路上0.3至0.4米,在适度弯曲道路上0.7至0.8米,以及在急转弯道路上1.3至1.7米),则处理单元110可以确定前方车辆很可能正在改变车道。在另一个实施例中,处理单元110可以通过将沿着追踪轨迹行驶的横向距离与该追踪路径的期望曲率相比较,来分析该追踪轨迹的几何结构。可以根据计算确定预期的曲率半径:(δz 2+δx 2)/2/(δx),其中δx表示横向行驶的距离和δz表示的纵向行驶的距离。如果行驶的横向距离和期望曲率之间的差异超过预定阈值(例如,500至700米),则处理单元110可以确定前方车辆很可能正在改变车道。在另一个实施例中,处理单元110可以分析前方车辆的位置。如果前方车辆的位置遮挡了道路多项式(例如,前车覆盖在道路多项式的上方),则处理单元110可以确定前方车辆很可能正在改变车道。在前方车辆的位置是使得在前方车辆的前方检测到另一车辆并且这两个车辆的追踪轨迹不平行的情况下,处理单元110可以确定(较近的)前方车辆很可能正在改变车道。
在步骤584,处理单元110可以基于在步骤582进行的分析来确定前方车辆200是否正在改变车道。例如,处理单元110可以基于在步骤582进行的各个分析的加权平均来做出该确定。在这样的方案下,例如,由处理单元110基于特定类型的分析做出的前方车辆很可能正在改变车道的决定可以被分配值“1”(以及“0”用来表示前方车辆不太可能正在改变车道的确定)。在步骤582处进行的不同分析可以被分配不同的权重,并且所公开的实施例不限于分析和权重的任何特定组合。
图6是示出与所公开的实施例一致的用于基于立体图像分析来引起一个或多个导航响应的示例性过程600的流程图。在步骤610处,处理单元110可以经由数据接口128接收第一和第二多个图像。例如,被包含在图像获取单元120的相机(诸如具有视场202和204的图像捕获装置122和124)可以捕获在车辆200前方的区域的第一和第二多个图像,并经过数字连接(例如,USB、无线、蓝牙等)将它们传输到处理单元110。在一些实施例中,处理单元110可以经由两个或更多个数据接口接收该第一和第二多个图像。所公开的实施例不限于任何特定的数据接口配置或协议。
在步骤620处,处理单元110可以执行立体图像分析模块404来进行对第一和第二多个图像的立体图像分析,以创建在车辆前方的道路的3D地图并检测图像内的特征,诸如车道标志、车辆、行人、道路标志、高速公路出口匝道、交通灯、道路危险等。可以以与上面结合图5A至5D描述的步骤类似的方式进行立体图像分析。例如,处理单元110可以执行立体图像分析模块404以在第一和第二多个图像内检测候选对象(例如,车辆、行人、道路标志、交通灯、道路危险等),基于各种标准过滤掉候选对象的子集,并进行多帧分析、构建测量,以及为剩余的候选对象确定置信度水平。在进行上述步骤时,处理单元110可以考虑来自第一和第二多个图像两者的信息,而不是仅考虑来自一组图像的信息。例如,处理单元110可以分析出现在第一和第二多个图像两者中的候选对象的像素级数据(或来自捕获图像的两个流中的其他数据子集)的差异。作为另一个示例,处理单元110可以通过观察对象在多个图像中的一个出现而未在另一个图像中出现,或相对于出现在两个图像流中的对象可能存在的其他差异,来估计候选对象(例如,相对于车辆200)的位置和/或速度。例如,可以基于与出现在图像流的一个或两者中的对象相关联的轨迹、位置、移动特性等特征,来确定相对于车辆200的位置、速度和/或加速度。
在步骤630处,处理单元110可以执行导航响应模块408,以基于在步骤620进行的分析和如以上结合图4所描述的技术而引起车辆200中的一个或多个导航响应。导航响应可以包含例如转向、变道、加速度的改变、速度的改变、制动等。在一些实施例中,处理单元110可以使用从执行速度和加速度模块406导出的数据来引起该一个或多个导航响应。此外,多个导航响应可以同时地、按照顺序地、或以其任何组合而发生。
图7是示出与所公开的实施例一致的用于基于三组图像的分析来引起一个或多个导航响应的示例性过程700的流程图。在步骤710处,处理单元110可以经由数据接口128接收第一、第二和第三多个图像。例如,被包含在图像获取单元120的相机(诸如具有视场202、204和206的图像捕获装置122、124和126)可以捕获在车辆200前方和/或侧方的区域的第一、第二和第三多个图像,并且经过数字连接(例如,USB、无线、蓝牙等)将它们传输到处理单元110。在一些实施例中,处理单元110可以经由三个或更多个数据接口接收第一、第二和第三多个图像。例如,图像捕获装置122、124、126中的每个可以具有用于向处理单元110通信数据的相关联的数据接口。所公开的实施例不限于任何特定的数据接口配置或协议。
在步骤720处,处理单元110可以分析该第一、第二和第三多个图像以检测图像内的特征,诸如车道标志、车辆、行人、道路标志、高速公路出口匝道、交通灯、道路危险等。该分析可以以类似于以上结合图5A-图5D和图6所描述的步骤的方式来进行。例如,处理单元110可以对第一、第二和第三多个图像中的每个进行单目图像分析(例如,经由单目图像分析模块402的执行以及基于以上结合图5A至图5D所描述的步骤)。替代地,处理单元110可对第一和第二多个图像、第二和第三多个图像、和/或第一和第三多个图像进行立体图像分析(例如,经由立体图像分析模块404的执行以及基于以上结合图6所描述的步骤)。可以组合对应于第一、第二和/或第三多个图像的分析的处理后的信息。在一些实施例中,处理单元110可以进行单目和立体图像分析的组合。例如,处理单元110可以对第一多个图像进行单目图像分析(例如,经由单目图像分析模块402的执行)并且对第二和第三多个图像进行立体图像分析(例如,经由立体图像分析模块404的执行)。图像捕获装置122、124和126——包含它们各自的定位和视场202、204和206——的配置可以影响对第一、第二和第三多个图像进行的分析的类型。所公开的实施例不限于图像捕获装置122、124和126的特定配置或对第一、第二和第三多个图像进行的分析的类型。
在一些实施例中,处理单元110可以基于在步骤710和720所获取和分析的图像对系统100进行测试。这样的测试可以提供对于图像获取装置122、124和126的某些配置的系统100的整体性能的指示符。例如,处理单元110可以确定“伪命中”(例如,系统100不正确地确定车辆或行人的存在的情况)和“漏掉”的比例。
在步骤730处,处理单元110可以基于从第一、第二和第三多个图像中的两个导出的信息来引起车辆200中的一个或多个导航响应。对第一、第二和第三多个图像中的两个的选择可以取决于各种因素,诸如例如在多个图像的每个中检测到的对象的数目、类型和大小。处理单元110还可以基于图像质量和分辨率、在图像中反映的有效视场、捕获的帧的数目、一个或多个感兴趣的对象实际出现在帧中的程度(例如,对象出现的帧的百分比、每个这样的帧中出现的对象的比例)等来进行选择。
在一些实施例中,处理单元110可以通过确定从一个图像源导出的信息与从其他图像源导出的信息的相一致的程度,选择从第一、第二和第三多个图像中的两个导出的信息。例如,处理单元110可以将从图像捕获装置122、124和126中的每个导出的处理后的信息组合(无论通过单目分析、立体分析、还是两者的任何组合),并确定在从图像捕获装置122、124和126的每个捕获到的图像之间相一致的视觉指示符(例如,车道标志、检测到的车辆及其定位和/或路径、检测到的交通灯等)。处理单元110还可以排除在捕获到的图像之间不一致的信息(例如,正改变车道的车辆、指示车辆太靠近车辆200的车道模型等)。因此,处理单元110可以基于确定相一致和不一致的信息,来选择从第一、第二和第三多个图像中的两个导出的信息。
导航响应可以包含例如转向、变道、制动、加速度的改变等。处理单元110可以基于在步骤720所进行的分析和如以上结合图4所描述的技术来引起一个或多个导航响应。处理单元110还可以使用从执行速度和加速度模块406导出的数据来引起一个或多个导航响应。在一些实施例中,处理单元110可以基于在车辆200与在第一、第二和第三多个图像的任一者内检测到的对象之间的相对位置、相对速度和/或相对加速度来引起一个或多个导航响应。多个导航响应可以同时地、按顺序地或以其任何组合而发生。
用于自主车辆导航的稀疏道路模型
在一些实施例中,所公开的系统和方法可以使用用于自主车辆导航的稀疏地图。具体地,稀疏地图可以用于沿着道路路段的自主车辆导航。例如,稀疏地图可以在不存储和/或更新大量数据的情况下为导航自主车辆提供足够的信息。如下文更详细讨论的,自主车辆可以基于一个或多个存储的轨迹使用稀疏地图来导航一条或多条道路。
用于自主车辆导航的稀疏地图
在一些实施例中,所公开的系统和方法可以生成用于自主车辆导航的稀疏地图。例如,稀疏地图可以在不需要过多的数据存储或数据传输速率的情况下为导航提供足够的信息。如下文更详细讨论的,车辆(其可以是自主车辆)可以使用稀疏地图来导航一条或多条道路。例如,在一些实施例中,稀疏地图可以包含与道路和沿着道路的潜在地标相关的数据,这些数据对于车辆导航来说可能是足够的,但是也表现出小的数据足迹(footprint)。例如,下面详细描述的稀疏数据地图与包含详细地图信息(诸如沿着道路收集的图像数据)的数字地图相比,可能需要显著更少的存储空间和数据传输带宽。
例如,稀疏数据地图可以存储沿着道路的优选车辆路径的三维多项式表示,而不是存储道路路段的详细表示。这些路径可能需要非常少的数据存储空间。此外,在所描述的稀疏数据地图中,地标可以被识别并被包含在稀疏地图道路模型中以帮助导航。这些地标可以以适合于使能车辆导航的任何间距被定位,但是在一些情况下,这些地标不需要以高密度和短间距被识别并被包含在模型中。相反,在一些情况下,基于间距开至少50米、至少100米、至少500米、至少1千米或至少2千米的地标的导航是可能的。如将在其他章节中更详细讨论的,稀疏地图可以基于由配备有各种传感器和装置(诸如图像捕获装置、全球定位系统传感器、运动传感器等)的车辆在该车辆沿着道路行驶时收集或测量的数据来生成。在一些情况下,稀疏地图可以基于在一个或多个车辆沿着特定道路多次驾驶期间收集的数据来生成。使用一个或多个车辆的多次驾驶生成稀疏地图可以被称为“众包”稀疏地图。
与所公开的实施例一致,自主车辆系统可以使用用于导航的稀疏地图。例如,所公开的系统和方法可以分配稀疏地图用于为自主车辆生成道路导航模型,并且可以使用稀疏地图和/或生成的道路导航模型沿着道路路段导航自主车辆。与本公开一致的稀疏地图可以包含一个或多个三维轮廓,这些三维轮廓可以表示自主车辆在它们沿着相关联的道路路段移动时可以穿过(traverse)的预定轨迹。
与本公开一致的稀疏地图还可以包含表示一个或多个道路特征的数据。这样的道路特征可以包含辨识的地标、道路签名轮廓以及在车辆导航中有用的任何其他道路相关特征。与本公开一致的稀疏地图可以基于包含在稀疏地图中的相对少量的数据来使能车辆的自主导航。例如,稀疏地图的所公开的实施例可以需要相对小的存储空间(并且当稀疏地图的部分被传输到车辆时需要相对小的带宽),但是仍然可以充分地提供自主车辆导航,而不是包含道路的详细表示,诸如路缘、道路曲率、与道路路段相关联的图像、或详细描述与道路路段相关联的其他物理特征的数据。在一些实施例中,可以通过存储需要少量数据但仍然使能够自主导航的道路相关元素的表示来实现所公开的稀疏地图的小数据足迹,这将在下面进一步详细讨论。
例如,所公开的稀疏地图可以存储车辆可以沿着道路遵循的一个或多个轨迹的多项式表示,而不是存储道路的各个方面的详细表示。因此,使用所公开的稀疏地图,可以沿着特定道路路段导航车辆,而不是存储(或必须传输)关于道路的物理性质的细节以使能沿着道路的导航,在某些情况下,不必解释道路的物理方面,而是通过将其行驶的路径与沿着特定道路路段的轨迹(例如,多项式样条)对齐。以这种方式,可以主要基于存储的轨迹(例如,多项式样条)来导航车辆,与涉及道路图像、道路参数、道路布局等的存储的方法相比,该存储的轨迹可以需要少得多的存储空间。
除了存储的沿着道路路段的轨迹的多项式表示之外,所公开的稀疏地图还可以包含可以表示道路特征的小数据对象。在一些实施例中,小数据对象可以包含数字签名,该数字签名从沿着道路路段行驶的车辆上的传感器(例如,相机或其他传感器,诸如悬架传感器)获得的数字图像(或数字信号)中导出。相对于由传感器获取的信号,数字签名可以具有减小的大小。在一些实施例中,数字签名可以被创建为与分类器功能兼容,该分类器功能被配置为例如在后续驾驶期间从由传感器获取的信号中检测和识别道路特征。在一些实施例中,可以创建数字签名,使得数字签名具有尽可能小的足迹,同时保留基于道路特征的图像(或者如果所存储的签名不是基于图像和/或包含其他数据,则是由传感器生成的数字信号)将道路特征与所存储的签名相关联或匹配的能力,该道路特征的图像由后续沿相同道路路段行驶的车辆上的相机捕获。
在一些实施例中,数据对象的大小可以进一步与道路特征的唯一性相关联。例如,对于可由车辆上的相机检测的道路特征,并且其中车辆上的相机系统耦合到分类器,该分类器能够将对应于该道路特征的图像数据区分为与特定类型的道路特征(例如,道路标志)相关联,并且其中这种道路标志在该区域中是本地唯一的(例如,附近没有相同的道路标志或相同类型的道路标志),存储指示道路特征的类型及其定位的数据可以是足够的。
如下面将进一步详细讨论的,道路特征(例如,沿着道路路段的地标)可以被存储为小数据对象,该小数据对象可以以相对较少的字节来表示道路特征,同时提供足够的信息用于辨识和使用这样的特征进行导航。在一个示例中,道路标志可以被识别为车辆的导航可以基于的辨识的地标。道路标志的表示可以被存储在稀疏地图中,以包含例如指示地标的类型(例如,停车标志)的几个字节的数据和指示地标的定位(例如,坐标)的几个字节的数据。基于地标的这种轻数据(data-light)表示的导航(例如,使用足以基于地标定位、辨识和导航的表示)可以提供与稀疏地图相关联的期望等级的导航功能,而不会显著增加与稀疏地图相关联的数据开销。地标(和其他道路特征)的这种精简表示可以利用包含在这种车辆上的被配置为检测、识别和/或分类特定道路特征的传感器和处理器。
例如,当给定区域中的标志或者甚至特定类型的标志是本地唯一的(例如,当没有其他标志或者没有相同类型的其他标志时),稀疏地图可以使用指示地标的类型(标志或者特定类型的标志)的数据,并且在导航(例如,自主导航)期间当自主车辆上的相机捕获包含标志(或特定类型的标志)的区域的图像时,处理器可以处理图像,检测标志(如果确实存在于图像中),将图像分类为标志(或特定类型的标志),并将图像的定位与存储在稀疏地图中的标志的定位相关联。
稀疏地图可以包含沿着道路路段识别的对象的任何合适的表示。在一些情况下,对象可以指语义对象或非语义对象。语义对象可以包含,例如,与预定类型分类相关联的对象。该类型分类在减少描述在环境中辨识的语义对象所需的数据的量的方面可以是有用的,这可以在以下两种阶段是有益处的:采集阶段(例如,减少与将驾驶信息从多个采集车辆传送到服务器的带宽使用相关联的成本)以及导航阶段期间(例如,地图数据的减少可以加速地图图块(tile)从服务器到导航车辆的传送,并且还可以减少与这种传送的带宽使用相关联的成本)。语义对象分类类型可以被分配给预期沿着道路路段会遇到的任何类型的对象或特征。
语义对象还可以被划分为两个或更多个逻辑组。例如,在一些情况下,一组语义对象类型可以与预定尺寸相关联。这种语义对象可以包含某些限速标志、让行标志、并道标志、停车标志、交通灯、道路上的方向箭头、井盖,或可以与标准大小相关联的任何其他类型的对象。由这种语义对象提供的一个好处是表示或完全限定该对象可以需要非常少的数据。例如,如果限速大小的标准化大小是已知的,那么采集车辆可以只需要识别(通过对捕获的图像的分析)限速标志的存在(辨识的类型)以及检测到的限速标志的位置的指示(例如,标志的中心或标志的某个角在捕获图像中的2D位置(或者,替代地,在真实世界坐标中的3D位置)),来为服务器侧的地图生成提供足够的信息。在2D图像位置被传输到服务器的情况下,也可以传输与该捕获图像相关联的位置(该标志是在该位置处被检测到的),从而服务器可以确定该标志的真实世界位置(例如,通过使用来自一个或多个采集车辆的多个捕获图像的运动恢复结构(structure from motion)技术)。即使利用这种有限的信息(仅需要几个字节来限定每个检测到的对象),服务器也可以基于从一个或多个采集车辆接收的类型分类(表示限速标志)以及检测到的标志的位置信息,来构建包含完全表示的限速标志的地图。
语义对象还可以包含不与某些标准化特性相关联的其他辨识的对象或特征类型。这些对象或特征可包含坑洼、柏油接缝、灯杆、非标准化标志、路缘石、树、树枝或具有一个或多个可变特性(例如,可变尺寸)的任何其他类型的辨识对象类型。在这种情况下,除了向服务器传输检测到的对象或特征类型(例如,坑洼、杆等)的指示以及检测到的对象或特征的位置信息之外,采集车辆还可以传输该对象或特征的大小的指示。该大小可以用2D图像尺寸(例如,用边界框或一个或多个尺寸值)或真实世界尺寸(通过运动结构(structure inmotion)计算、基于LIDAR或RADAR系统输出、基于经训练的神经网络输出等来确定)来表示。
非语义对象或特征可以包含任何可检测到的对象或特征,这些对象或特征落在已辨识的类别或类型之外,但是仍然可以在地图生成中提供有价值的信息。在一些情况下,这种非语义特征可以包含:建筑物的检测到的角或建筑物的检测到的窗户的角、道路附近的独特石头或对象、道路路肩中的混凝土飞溅物或任何其他可检测到的对象或特征。在检测到这种对象或特征时,一个或多个采集车辆可以向地图生成服务器传输与检测到的对象/特征相关联的一个或多个点(2D图像点或3D现实世界点)的定位。附加地,可以为捕获图像中的包含检测到的对象或特征的区域生成经压缩或经简化的图像片段(例如,图像哈希)。该图像哈希可以基于预定图像处理算法来计算,并且可以形成检测到的非语义对象或特征的有效签名。这种签名对于相对于包含非语义特征或对象的稀疏地图的导航可以是有用的,因为穿过道路的车辆可以应用与用于生成图像哈希的算法类似的算法,以便确认/验证已映射非语义特征或对象在捕获图像中的存在。使用这种技术,非语义特征可以增加稀疏地图的丰富度(例如,增强它们在导航中的有用性),而不会增加显著的数据开销。
如上所述,目标轨迹可以存储在稀疏地图中。这些目标轨迹(例如,3D样条)可以表示道路的每个可用车道、通过交叉口的每个有效路径、用于并道和出口等的优选或推荐路径。除了目标轨迹,还可以检测、采集其他道路特征,并以代表性样条的形式将其合并到稀疏地图中。这种特征可以包含例如路缘、车道标记、路缘石、护栏或沿着道路或道路路段延伸的任何其他对象或特征。
生成稀疏地图
在一些实施例中,稀疏地图可以包含沿着道路路段延伸的道路表面特征的至少一个线表示以及与该道路路段相关联的多个地标。在某些方面,稀疏地图可以经由“众包”来生成,例如,通过对当一个或多个车辆穿过道路路段时获取的多个图像进行图像分析。
图8示出了一个或多个车辆(例如车辆200(其可以是自主车辆))可以访问以用于提供自主车辆导航的稀疏地图800。稀疏地图800可以被存储在存储器中,诸如存储器140或150中。这种存储器装置可以包含任何类型的非暂时性存储装置或计算机可读介质。例如,在一些实施例中,存储器140或150可以包含硬盘驱动器、光盘、闪速存储器、基于磁的存储器装置、基于光的存储器装置等。在一些实施例中,稀疏地图800可以存储在数据库(例如,地图数据库160)中,该数据库可以存储在存储器140或150或其他类型的存储装置中。
在一些实施例中,稀疏地图800可以存储在车辆200上提供的存储装置或非暂时性计算机可读介质上(例如,包含在车辆200上的导航系统中的存储装置)。车辆200上提供的处理器(例如,处理单元110)可以访问存储在车辆200上提供的存储装置或计算机可读介质中的稀疏地图800,以便在车辆穿过道路路段时生成用于引导自主车辆200的导航指令。
然而,稀疏地图800不需要相对于车辆被本地存储。在一些实施例中,稀疏地图800可以存储在存储装置或计算机可读介质上,在与车辆200或与车辆200相关联的装置通信的远程服务器上提供该存储装置或计算机可读介质。车辆200上提供的处理器(例如,处理单元110)可以从远程服务器接收稀疏地图800中包含的数据,并且可以执行用于引导车辆200的自主驾驶的数据。在这样的实施例中,远程服务器可以存储稀疏地图800的全部或仅其一部分。相应地,在车辆200上和/或在一个或多个附加车辆上提供的存储装置或计算机可读介质可以存储稀疏地图800的(多个)剩余部分。
此外,在这样的实施例中,稀疏地图800可以被穿过不同道路路段的多个车辆(例如,数十、数百、数千或数百万车辆等)访问。还应当注意,稀疏地图800可以包含多个子地图。例如,在一些实施例中,稀疏地图800可以包含可用于导航车辆的数百、数千、数百万或更多的子地图(例如,地图图块)。这种子地图可以被称为局部地图或地图图块,并且沿着道路行驶的车辆可以访问与车辆正在行驶的定位相关的任意数量的局部地图。稀疏地图800的局部地图部分可以与全球导航卫星系统(GNSS)密钥一起存储作为到稀疏地图800的数据库的索引。因此,虽然在本系统中用于导航主车辆的转向角的计算可以在不依赖于主车辆的GNSS位置、道路特征或地标的情况下执行,但是这种GNSS信息可以用于检索相关的局部地图。
一般来说,稀疏地图800可以基于从一个或多个车辆在它们沿着道路行驶时收集的数据(例如,驾驶信息)来生成。例如,使用一个或多个车辆上的传感器(例如,相机、速度计、GPS、加速度计等),可以记录一个或多个车辆沿着道路行驶的轨迹,并且可以基于由一个或多个车辆行驶的收集到的轨迹来确定沿着道路进行后续行程的车辆的优选轨迹的多项式表示。类似地,由一个或多个车辆收集的数据可以帮助识别沿着特定道路的潜在地标。从穿过车辆收集的数据也可以用于识别道路轮廓信息,诸如道路宽度轮廓、道路粗糙度轮廓、交通线间距轮廓、道路情况等。使用收集的信息,稀疏地图800可以被生成和分配(例如,用于本地存储或经由飞行中的数据传输),以用于导航一个或多个自主车辆。然而,在一些实施例中,地图生成可能不会在地图的初始生成时结束。如下面将更详细讨论的,当车辆继续穿过稀疏地图800中包含的道路时,稀疏地图800可以基于从车辆收集的数据被连续地或周期性地更新。
稀疏地图800中记录的数据可以包含基于全球定位系统(GPS)数据的位置信息。例如,定位信息可以包含在稀疏地图800中,以用于各种地图元素,包含例如地标定位、道路轮廓定位等。稀疏地图800中包含的地图元素的定位可以使用从穿过道路的车辆收集的GPS数据来获得。例如,经过所识别的地标的车辆可以使用与车辆相关联的GPS位置信息和所识别的地标相对于车辆的定位的确定(例如,基于从车辆上的一个或多个相机收集的数据的图像分析)来确定所识别的地标的定位。当附加的车辆经过所识别的地标的定位时,可以重复对所识别的地标(或稀疏地图800中包含的任何其他特征)的这种定位确定。一些或所有附加定位确定可用于相对于所识别的地标细化存储在稀疏地图800中的定位信息。例如,在一些实施例中,相对于存储在稀疏地图800中的特定特征的多个位置测量可以一起被平均。然而,任何其他数学运算也可用于基于地图元素的多个确定定位来细化地图元素的所存储的定位。
在特定示例中,采集车辆可以穿过特定道路路段。每个采集车辆捕获它们相应的环境的图像。可以以任何合适的帧捕获速率(例如,9Hz等)收集该些图像。每个采集车辆的车载图像分析处理器(或多个图像分析处理器)分析捕获图像以检测语义和/或非语义特征/对象的存在。在高层次,采集车辆向映射/制图(mapping)服务器传输检测到语义和/或非语义对象/特征的指示、以及与这些对象/特征相关联的位置。更详细地,类型指示符、尺寸指示符等可以与位置信息一起被传输。该位置信息可包含用于使制图服务器能够将检测到的对象/特征聚集到对导航有用的稀疏地图的任何合适的信息。在一些情况下,该位置信息可以包含在捕获图像中的一个或多个2D图像位置(例如,X-Y轴定位),其中语义或非语义特征/对象是在该些位置处被检测到的。这种图像位置可以关联于特征/对象的中心、角等。在这种情景下,为了帮助该制图服务器重建驾驶信息和将来自多个采集车辆的驾驶信息对齐,每个采集车辆还可以向服务器提供每个图像被捕获处的定位(例如,GPS定位)。
在其他情况下,采集车辆可以向服务器提供与检测到的对象/特征相关联的一个或多个3D真实世界点。这种3D点可以是相对于预定原点(诸如驾驶路段的原点)而言的,并且可以通过任何合适的技术来确定。在一些情况下,可以将运动结构技术用于确定检测到的对象/特征的3D真实世界位置。例如,可以在两个或更多个捕获图像中检测到某个对象,例如特定的限速标志。使用该采集车辆在捕获图像之间的诸如已知自我运动(速度、轨迹、GPS位置等)、以及限速标志在捕获图像中被观察到的改变(X-Y像素定位的改变、大小的改变等),可以确定与限速标志相关联的一个或多个点的真实世界位置并将其传递到制图服务器。这种方法是可选的,因为其就采集车辆系统这一方而言需要更多的计算。所公开的实施例的稀疏地图可以使用相对少量的存储数据来使能车辆的自主导航。在一些实施例中,稀疏地图800可以具有小于每千米道路2MB、小于每千米道路1MB、小于每千米道路500kB或小于每千米道路100kB的数据密度(例如,包含表示目标轨迹、地标和任何其他存储的道路特征的数据)。在一些实施例中,稀疏地图800的数据密度可以小于每千米道路10kB,或者甚至小于每千米道路2kB(例如,每千米1.6kB),或者不超过每千米道路10kB,或者不超过每千米道路20kB。在一些实施例中,也可以使用总共具有4GB或更少数据的稀疏地图来自主导航美国的大部分道路(如果不是全部的话)。这些数据密度值可以表示整个稀疏地图800、稀疏地图800内的局部地图和/或稀疏地图800内的特定道路路段上的平均。
如上所述,稀疏地图800可以包含多个目标轨迹的表示810,以用于沿着道路路段引导自主驾驶或导航。这种目标轨迹可以被存储为三维样条。例如,存储在稀疏地图800中的目标轨迹可以基于车辆沿着特定道路路段的先前穿过(traversal)的两个或更多个重建轨迹来确定。道路路段可以与单个目标轨迹或多个目标轨迹相关联。例如,在双车道道路上,可以存储第一目标轨迹以表示在第一方向上沿着道路行驶的意图路径,并且可以存储第二目标轨迹以表示在另一方向上(例如,与第一方向相反)沿着道路行驶的意图路径。可以存储关于特定道路路段的附加目标轨迹。例如,在多车道道路上,可以存储一个或多个目标轨迹,其表示与多车道道路相关联的一个或多个车道中的车辆的行驶的意图路径。在一些实施例中,多车道道路的每个车道可以与其自己的目标轨迹相关联。在其他实施例中,存储的目标轨迹可以比多车道道路上存在的车道少。在这种情况下,在多车道道路上导航的车辆可以使用任何存储的目标轨迹来通过考虑从存储目标轨迹的车道的车道偏移来引导其导航(例如,如果车辆在三车道公路的最左侧车道上行驶,并且目标轨迹仅针对公路的中间车道存储,当生成导航指令时,通过考虑中间车道和最左侧车道之间的车道偏移,车辆可以使用中间车道的目标轨迹导航)。
在一些实施例中,目标轨迹可以表示车辆行驶时应当走的理想路径。目标轨迹可以位于例如行驶的车道的近似中心。在其他情况下,目标轨迹可以位于相对于道路路段的其他地方。例如,目标轨迹可以与道路的中心、道路的边缘或车道的边缘等近似重合。在这种情况下,基于目标轨迹的导航可以包含相对于目标轨迹的定位维持的确定的偏移量。此外,在一些实施例中,相对于目标轨迹的定位维持的确定的偏移量可以基于车辆的类型而不同(例如,沿着目标轨迹的至少一部分,包含两个轴的客车可以与包含两个以上的轴的卡车具有不同的偏移)。
稀疏地图800还可以包含与多个预定地标820相关的数据,多个预定地标820与特定道路路段、局部地图等相关联。如下文更详细讨论的,这些地标可以用于自主车辆的导航。例如,在一些实施例中,地标可用于确定车辆相对于所存储的目标轨迹的当前位置。利用该位置信息,自主车辆能够调整航向方向,以匹配在确定定位处的目标轨迹的方向。
多个地标820可以以任何合适的间距被识别并存储在稀疏地图800中。在一些实施例中,地标可以以相对高的密度被存储(例如,每隔几米或更多)。然而,在一些实施例中,可以采用显著更大的地标间距值。例如,在稀疏地图800中,所识别的(或所辨识的)地标可以间距开10米、20米、50米、100米、1千米或2千米。在一些情况下,所识别的地标可以位于相距甚至超过2千米的距离处。
在地标之间,并因此在相对于目标轨迹的车辆位置的确定之间,车辆可以基于航位推算来导航,在该航位推算中,车辆使用传感器来确定其自我(ego)运动并估计其相对于目标轨迹的位置。由于在通过航位推算的导航期间误差可以累积,随着时间的推移,相对于目标轨迹的位置确定可能变得越来越不准确。车辆可以使用出现在稀疏地图800中的地标(以及它们的已知定位)来消除位置确定中由航位推算引起的误差。以这种方式,稀疏地图800中包含的所识别的地标可以用作导航锚,从该导航锚可以确定车辆相对于目标轨迹的准确位置。因为在位置定位中一定量的误差可以是可接受的,所以识别的地标不需要总是对自主车辆可用。相反,合适的导航甚至可以基于如上所述的10米、20米、50米、100米、500米、1千米、2千米或更多的地标间距。在一些实施例中,每1千米的道路的1个识别地标的密度足以将纵向位置确定准确度维持在1米内。因此,不需要将沿着道路路段出现的每个潜在地标存储在稀疏地图800中。
此外,在一些实施例中,车道标志可以用于在地标间距期间的车辆的定位。通过在地标间距期间使用车道标志,通过航位推算的导航期间的误差累积可以被最小化。
除了目标轨迹和识别的地标之外,稀疏地图800可以包含与各种其他道路特征相关的信息。例如,图9A示出了可以存储在稀疏地图800中的沿着特定道路路段的曲线的表示。在一些实施例中,道路的单个车道可以由道路左侧边和右侧边的三维多项式描述来建模。图9A中示出了表示单个车道的左侧边和右侧边的这样的多项式。不管道路可以有多少车道,道路可以以类似于图9A所示的方式使用多项式来表示。例如,多车道道路的左侧边和右侧边可以由类似于图9A所示的多项式来表示,并且包含在多车道道路上的中间车道标志(例如,表示车道边界的虚线标志、表示在不同方向上行驶的车道之间的边界的黄色实线等)也可以使用诸如图9A所示的多项式来表示。
如图9A所示,可以使用多项式(例如,一阶、二阶、三阶或任何合适阶的多项式)来表示车道900。为了说明,车道900被示出为二维车道,并且多项式被显示为二维多项式。如图9A所示,车道900包含左侧边910和右侧边920。在一些实施例中,可以使用一个以上的多项式来表示道路或车道边界的每一边的定位。例如,左侧边910和右侧边920中的每一个可以由任意合适长度的多个多项式来表示。在一些情况下,多项式可以具有大约100m的长度,尽管也可以使用大于或小于100m的其他长度。此外,多项式可以彼此重叠,以便当主车辆沿着道路行驶时,基于后续遇到的多项式来促进导航中的无缝转换。例如,左侧边910和右侧边920中的每一个可以由多个三阶多项式表示,这些三阶多项式被分成大约100米长的段(第一预定范围的示例),并且彼此重叠大约50米。表示左侧边910和右侧边920的多项式可以具有或不具有相同的顺序。例如,在一些实施例中,一些多项式可以是二阶多项式,一些可以是三阶多项式,以及一些可以是四阶多项式。
在图9A所示的示例中,车道900的左侧边910由两组三阶多项式表示。第一组包含多项式段911、912和913。第二组包含多项式段914、915和916。这两个组虽然基本上彼此平行,但是遵循它们各自的道路边的定位。多项式段911、912、913、914、915和916具有大约100米的长度,并且与系列中与相邻段重叠大约50米。然而,如前所述,也可以使用不同长度和不同重叠量的多项式。例如,多项式可以具有500m、1km或更长的长度,并且重叠量可以从0到50m、50m到100m或大于100m变化。另外,虽然图9A被示为表示在2D空间中(例如,在纸的表面上)延伸的多项式,但是应当理解,这些多项式可以表示在三维中延伸的曲线(例如,包含高度分量),以表示除了X-Y曲率之外的道路路段中的标高改变。在图9A所示的示例中,车道900的右侧边920进一步由具有多项式段921、922和923的第一组和具有多项式段924、925和926的第二组表示。
回到稀疏地图800的目标轨迹,图9B示出了表示沿着特定道路路段行驶的车辆的目标轨迹的三维多项式。目标轨迹不仅表示主车辆应当沿着特定道路路段行驶的X-Y路径,还表示主车辆沿着该道路路段行驶时将经历的标高改变。因此,稀疏地图800中的每个目标轨迹可以由一个或多个三维多项式表示,如图9B中所示的三维多项式950。稀疏地图800可以包含多个轨迹(例如,数百万或数十亿或更多,以表示沿着沿着世界各地的道路的各个道路路段的车辆的轨迹)。在一些实施例中,每个目标轨迹可以对应于连接三维多项式段的样条。
关于存储在稀疏地图800中的多项式曲线的数据足迹,在一些实施例中,每个三次多项式可以由四个参数表示,每个参数需要四个字节的数据。可以使用需要每100m约192字节数据的三次多项式来获得合适的表示。对于行驶约100km/hr的主车辆,这可以转化为每小时约200kB的数据使用/传输要求。
稀疏地图800可以使用几何结构描述符和元数据的组合来描述车道网络。几何结构可以用如上所述的多项式或样条来描述。元数据可以描述车道的数量、特殊特性(诸如合用车道)以及可能的其他稀疏标签。这种指示符的总足迹可能可以忽略不计。
相应地,根据本公开的实施例的稀疏地图可以包含沿着道路路段延伸的道路表面特征的至少一个线表示,每个线表示表示沿着道路路段基本上对应于道路表面特征的路径。在一些实施例中,如上所述,道路表面特征的至少一个线表示可以包含样条、多项式表示或曲线。此外,在一些实施例中,道路表面特征可以包含路缘或车道标志中的至少一个。此外,如下面关于“众包”所讨论的,可以通过对当一个或多个车辆穿过道路路段时获取的多个图像的图像分析来识别道路表面特征。
如前所述,稀疏地图800可以包含与道路路段相关联的多个预定地标。稀疏地图800中的每个地标可以使用比存储的实际图像所需的更少的数据来表示和辨识,而不是存储地标的实际图像并依赖于例如基于捕获的图像和存储的图像的图像辨识分析。表示地标的数据仍然可以包含用于描述或识别沿着道路的地标的足够信息。存储描述地标的特性的数据,而不是地标的实际图像,可以减小稀疏地图800的大小。
图10示出了可以在稀疏地图800中表示的地标的类型的示例。地标可以包含沿着道路路段的任何可见且可识别的对象。可以选择地标,使得它们是固定的,并且相对于它们的定位和/或内容不会经常改变。稀疏地图800中包含的地标在车辆穿过特定道路路段时确定车辆200相对于目标轨迹的定位是有用的。地标的示例可以包含交通标志、方向标志、一般标志(例如,矩形标志)、路边固定装置(例如,灯柱、反射器等)以及任何其他合适的类别。在一些实施例中,道路上的车道标志也可以作为地标被包含在稀疏地图800中。
图10中示出的地标的示例包含交通标志,方向标志,路边固定装置和一般标志。交通标志可以包含,例如限速标志(例如,限速标志1000)、让行标志(例如,让行标志1005)、路线号标志(例如,路线号标志1010)、交通灯标志(例如,交通灯标志1015)、停车标志(例如,停车标志1020)。方向标志可以包含标志,该标志包含一个或多个箭头,该箭头指示到不同地方的一个或多个方向。例如,方向标志可以包含具有用于将车辆引导到不同道路或地方的箭头的高速公路标志1025、具有将车辆引导离开道路的箭头的出口标志1030等等。相应地,多个地标中的至少一个可以包含道路标志。
一般标志可以与交通无关。例如,一般标志可能包含用于广告的广告牌,或两个国、州、县、市或城镇之间边界附近的欢迎板。图10示出了一般标志1040(“乔的餐厅”)。尽管一般标志1040可以具有矩形形状,如图10所示,但是一般标志1040可以具有其他形状,诸如正方形,圆形,三角形等。
地标还可能包含路边固定装置。路边固定装置可以不是标志,也可以与交通或方向无关。例如,路边固定装置可以包含灯柱(例如,灯柱1035)、电力线柱、交通灯柱等。
地标还可以包含专门设计用于自主车辆导航系统的信标。例如,这种信标可以包含以预定间隔放置的独立结构,以帮助导航主车辆。这种信标还可以包含添加到现有道路标志的可视/图形信息(例如,图标、徽章、条形码等),该可视/图形信息可以被沿着道路路段行驶的车辆识别或辨识。这种信标还可以包含电子组件。在这样的实施例中,电子信标(例如,RFID标签等)可用于向主车辆传输非可视信息。这种信息可以包含例如主车辆在确定其沿目标轨迹的位置时可以使用的地标标识和/或地标定位信息。
在一些实施例中,稀疏地图800中包含的地标可以由预定大小的数据对象来表示。表示地标的数据可以包含用于识别特定地标的任何合适的参数。例如,在一些实施例中,存储在稀疏地图800中的地标可以包含参数,诸如地标的物理大小(例如,以支持基于已知大小/比例的到地标的距离的估计)、到先前地标的距离、横向偏移、高度、类型代码(例如,地标类型——什么类型的方向标志、交通标志等)、GPS坐标(例如,支持全球定位)和任何其他合适的参数。每个参数可以与数据大小相关联。例如,可以使用8字节的数据来存储地标大小。可以使用12字节的数据来指定到先前地标的距离、横向偏移和高度。与诸如方向标志或交通标志的地标相关联的类型代码可以需要大约2字节的数据。对于一般标志,可以使用50字节的数据存储装置来存储使能识别一般标志的图像签名。地标GPS位置可以与16字节的数据存储装置相关联。每个参数的这些数据大小只是示例,也可以使用其他数据大小。以这种方式在稀疏地图800中表示地标可以提供用于在数据库中有效地表示地标的精简方案。在一些实施例中,对象可以被称为标准的语义对象和非标准的语义对象。标准的语义对象可以包含存在标准化特性集的任何类的标志(例如,具有已知尺寸或其他特性的限速标志、警告标志、方向标志、交通灯等)。非标准语义对象可以包含未与标准化特性集相关联的任何对象(例如,具有可变尺寸的一般广告标志、标识商业机构的标志、坑洼、树等)。每个非标准语义对象可以用38字节的数据来表示(例如,8字节用于大小;12字节用于到先前地标的距离、横向偏移和高度;2字节用于类型代码;以及16字节用于位置坐标)。可以使用甚至更少的数据来表示标准语义对象,因为制图服务器可以不需要大小信息以便在稀疏地图中完全表示该对象。
稀疏地图800可以使用标签系统来表示地标类型。在一些情况下,每个交通标志或方向标志可以与其自己的标签相关联,该标签可以作为地标标识的一部分存储在数据库中。例如,数据库可以包含大约1000个不同的标签来表示各种交通标志,以及大约10000个不同的标签来表示方向标志。当然,可以使用任何合适数量的标签,并且可以根据需要创建附加标签。在一些实施例中,一般用途标志可以使用小于约100字节(例如,约86字节,包含8字节用于大小;12字节用于到先前地标的距离、横向偏移和高度;50字节用于图像签名;以及16字节用于GPS坐标)。
因此,对于不需要图像签名的语义道路标志,即使以大约每50米1个的相对高的地标密度,对稀疏地图800的数据密度影响也可以是大约每千米760字节(例如,每千米20个地标×每地标38字节=760字节)。即使对于包含图像签名组件的一般用途标志,数据密度影响也约为每千米1.72千字节(例如,每千米20个地标×每地标86字节=1,720字节)。对于语义道路标志,这相当于对于行驶100km/hr的车辆的每小时约76kB的数据使用。对于一般用途标志,这相当于对于行驶100km/hr的车辆的每小时约170kB的数据使用。应当注意,在一些环境中(例如,城市环境),可能存在密度高得多的检测到的对象可用于纳入到稀疏地图中(可能超过每米一个)。在一些实施例中,诸如矩形标志的一般矩形对象可以在稀疏地图800中由不超过100字节的数据来表示。稀疏地图800中的一般矩形对象(例如,一般标志1040)的表示可以包含与一般矩形对象相关联的压缩(condensed)图像签名或图像哈希(例如,压缩图像签名1045)。可以使用任何合适的图像哈希算法来确定压缩图像签名/图像哈希,并且这种压缩图像签名/图像哈希可以用于例如帮助一般标志的识别,例如作为辨识的地标。这种压缩图像签名(例如,从表示对象的实际图像数据导出的图像信息)可以避免存储对象的实际图像的需要,或者避免对实际图像执行比较图像分析以辨识地标的需要。
参考图10,稀疏地图800可以包含或存储与一般标志1040相关联的压缩图像签名1045,而不是一般标志1040的实际图像。例如,在图像捕获装置(例如,图像捕获装置122、124或126)捕获一般标志1040的图像之后,处理器(例如,可以处理图像的图像处理器190或任何其他处理器,其在主车辆上或相对于主车辆位于远处)可以执行图像分析以提取/创建包含与一般标志1040相关联的唯一签名或图案的压缩图像签名1045。在一个实施例中,压缩图像签名1045可以包含形状、颜色图案、亮度图案或可以从一般标志1040的图像中提取的用于描述一般标志1040的任何其他特征。
例如,在图10中,压缩图像签名1045中所示的圆形、三角形和星形可以表示不同颜色的区域。由圆形、三角形和星形表示的图案可以存储在稀疏地图800中,例如,在被指定为包含图像签名的50个字节内。值得注意的是,圆形、三角形和星形不一定意图指示这些形状作为图像签名的一部分被存储。相反,这些形状意图在概念上表示具有可辨别的颜色差异的可辨识区域、文本区域、图形形状或者可以与一般标志相关联的特性的其他变化。这种压缩图像签名可用于以一般标志的形式识别地标。例如,压缩图像签名可用于基于存储的压缩图像签名与例如使用自主车辆上的相机捕获的图像数据的比较来执行相同或不同的分析。
相应地,可以通过对当一个或多个车辆穿过道路路段时获取的多个图像进行图像分析来识别多个地标。如下面关于“众包”所解释的,在一些实施例中,识别多个地标的图像分析可以包含当地标确实出现的图像与地标没有出现的图像的比率超过阈值时接受潜在地标。此外,在一些实施例中,识别多个地标的图像分析可以包含当地标没有出现的图像与地标确实出现的图像的比率超过阈值时拒绝潜在地标。
回到主车辆可以用来导航特定道路路段的目标轨迹,图11A示出了在建造或维持稀疏地图800的过程中捕获的多项式表示轨迹。稀疏地图800中包含的目标轨迹的多项式表示可以基于车辆沿着相同道路路段的先前穿过的两个或更多个重建轨迹来确定。在一些实施例中,稀疏地图800中包含的目标轨迹的多项式表示可以是沿着相同道路路段的车辆的先前穿过的两个或更多个重建轨迹的聚集。在一些实施例中,稀疏地图800中包含的目标轨迹的多项式表示可以是车辆沿着相同道路路段的先前穿过的两个或更多个重建轨迹的平均。其他数学运算也可以用于基于从沿着道路路段穿过的车辆收集的重建轨迹来构建沿着道路路径的目标轨迹。
如图11A所示,道路路段1100可以由多个车辆200在不同时间处行驶。每个车辆200可以收集与车辆沿着道路路段所走的路径相关的数据。由特定车辆行驶的路径可以基于相机数据、加速度计信息、速度传感器信息和/或GPS信息以及其他潜在来源来确定。这种数据可用于重建沿着道路路段行驶的车辆的轨迹,并且基于这些重建轨迹,可为特定道路路段确定目标轨迹(或多个目标轨迹)。这种目标轨迹可以表示主车辆沿着道路路段行驶时的(例如,由自主导航系统所引导的)该车辆的优选路径。
在图11A所示的示例中,第一重建轨迹1101可以基于从在第一时间段(例如,第一天)穿过道路路段1100的第一车辆接收的数据来确定,第二重建轨迹1102可以从在第二时间段(例如,第二天)穿过道路路段1100的第二车辆获得,第三重建轨迹1103可以从在第三时间段(例如,第三天)穿过道路路段1100的第三车辆获得。每个轨迹1101、1102和1103可以由多项式表示,诸如三维多项式。应当注意,在一些实施例中,任何重建轨迹可以在穿过道路路段1100的车辆上组装。
附加地或替代地,可以基于从穿过道路路段1100的车辆接收的信息在服务器侧确定这样的重建轨迹。例如,在一些实施例中,车辆200可以向一个或多个服务器传输与它们沿着道路路段1100的运动相关的数据(例如,转向角、航向、时间、位置、速度、感测的道路几何结构和/或感测的地标等)。服务器可以基于接收到的数据重建车辆200的轨迹。服务器还可以基于第一轨迹1101、第二轨迹1102和第三轨迹1103生成用于引导将在稍后的时间沿着相同道路路段1100行驶的自主车辆的导航的目标轨迹。虽然目标轨迹可以与道路路段的单个先前穿过相关联,但是在一些实施例中,稀疏地图800中包含的每个目标轨迹可以基于穿过相同道路路段的车辆的两个或更多个重建轨迹来确定。在图11A中,目标轨迹由1110表示。在一些实施例中,目标轨迹1110可以基于第一轨迹1101、第二轨迹1102和第三轨迹1103的平均来生成。在一些实施例中,稀疏地图800中包含的目标轨迹1110可以是两个或更多个重建轨迹的聚集(例如,加权组合)。
在制图服务器处,服务器可以从穿过特定道路路段的多个采集车辆接收该特定道路路段的实际轨迹。为了生成沿着该道路路段的每个有效路径(例如,每个车道、每个驾驶方向、通过交叉口的每个路径等)的目标轨迹,可以对齐接收到的实际轨迹。对齐过程可以包含使用检测到的沿着该道路路段识别的的对象/特征以及这些检测到的对象/特征的采集位置,来将实际的采集轨迹彼此关联。一旦对齐,可以基于聚集的、经相关的/经对齐的实际轨迹,来确定每个可用车道等的平均或“最佳拟合”目标轨迹。
图11B和图11C进一步示出了与地理区域1111内存在的道路路段相关联的目标轨迹的概念。如图11B所示,地理区域1111内的第一道路路段1120可以包含多车道道路,该多车道道路包含指定用于车辆在第一方向上行驶的两条车道1122和指定用于车辆在与第一方向相反的第二方向上行驶的两条附加车道1124。车道1122和车道1124可以由双黄线1123分开。地理区域1111还可以包含与道路路段1120相交的分支道路路段1130。道路路段1130可以包含双车道道路,每个车道被指定用于不同的行驶方向。地理区域1111还可以包含其他道路特征,诸如停车线1132、停车标志1134、限速标志1136和危险标志1138。
如图11C所示,稀疏地图800可以包含局部地图1140,该局部地图1140包含用于帮助地理区域1111内的车辆的自主导航的道路模型。例如,局部地图1140可以包含与地理区域1111内的道路路段1120和/或1130相关联的一个或多个车道的目标轨迹。例如,局部地图1140可以包含自主车辆在穿过车道1122时可以访问或依赖的目标轨迹1141和/或1142。类似地,局部地图1140可以包含自主车辆在穿过车道1124时可以访问或依赖的目标轨迹1143和/或1144。此外,局部地图1140可以包含自主车辆在穿过道路路段1130时可以访问或依赖的目标轨迹1145和/或1146。目标轨迹1147表示当从车道1120(具体而言,相对于与车道1120的最右侧车道相关联的目标轨迹1141)转换到道路路段1130(具体而言,相对于与道路路段1130的第一边相关联的目标轨迹1145)时,自主车辆应当遵循的优选路径。类似地,目标轨迹1148表示当从道路路段1130(具体地,相对于目标轨迹1146)转换到道路路段1124的一部分(具体地,如图所示,相对于与车道1124的左车道相关联的目标轨迹1143)时,自主车辆应当遵循的优选路径。
稀疏地图800还可以包含与地理区域1111相关联的其他道路相关特征的表示。例如,稀疏地图800还可以包含在地理区域1111中识别的一个或多个地标的表示。这些地标可以包含与停车线1132相关联的第一地标1150、与停车标志1134相关联的第二地标1152、与限速标志1154相关联的第三地标以及与危险标志1138相关联的第四地标1156。这种地标可以用于例如帮助自主车辆确定其相对于任何所示目标轨迹的当前定位,使得车辆可以调整其航向以匹配在确定的定位处的目标轨迹的方向。
在一些实施例中,稀疏地图800还可以包含道路签名轮廓。这种道路签名轮廓可以与至少一个与道路相关联的参数的任何可辨别/可测量的变化相关联。例如,在一些情况下,这种轮廓可以与道路表面信息的变化相关联,诸如特定道路路段的表面粗糙度的变化、特定道路路段上道路宽度的变化、沿着特定道路路段绘制的虚线之间的距离的变化、沿着特定道路路段的道路曲率的变化等。图11D示出了道路签名轮廓1160的示例。虽然轮廓1160可以表示上述参数中的任意参数或其他参数,但是在一个示例中,轮廓1160可以表示道路表面粗糙度的测量,例如,如通过监控一个或多个传感器来获得,该一个或多个传感器提供指示车辆在特定道路路段上行驶时悬架位移量的输出。
替代地或同时地,轮廓1160可以表示道路宽度的变化,如基于经由在特定道路路段上行驶的车辆上的相机获得的图像数据来确定的。例如,这种轮廓在确定自主车辆相对于特定目标轨迹的特定定位时是有用的。也就是说,当它穿过道路路段时,自主车辆可以测量与道路路段相关联的一个或多个参数相关联的轮廓。如果测量的轮廓可以与相对于沿着道路路段的位置映射参数变化的预定轮廓相关/匹配,则可以使用测量的和预定的轮廓(例如,通过覆盖测量的和预定的轮廓的对应部分),以便确定沿着道路路段的当前位置,并且因此确定相对于道路路段的目标轨迹的当前位置。
在一些实施例中,稀疏地图800可以包含基于与自主车辆的用户相关联的不同特性、环境条件和/或与驾驶相关的其他参数的不同轨迹。例如,在一些实施例中,可以基于不同的用户偏好和/或轮廓来生成不同的轨迹。包含这种不同轨迹的稀疏地图800可以被提供给不同用户的不同自主车辆。例如,一些用户可能偏好避开收费公路,而其他用户可能偏好走最短或最快的路线,而不管路线上是否有收费公路。所公开的系统可以基于这种不同的用户偏好或轮廓生成具有不同轨迹的不同稀疏地图。作为另一个示例,一些用户可能偏好在快速移动的车道上行驶,而其他用户可能偏好始终维持在中心车道上的位置。
基于不同的环境条件,诸如白天和黑夜、下雪、下雨、有雾等,可以生成不同的轨迹并将其包含在稀疏地图800中。在不同环境条件下行驶的自主车辆可以被提供有基于这种不同环境条件生成的稀疏地图800。在一些实施例中,在自主车辆上提供的相机可以检测环境条件,并且可以将这种信息提供回生成并提供稀疏地图的服务器。例如,服务器可以生成或更新已经生成的稀疏地图800,以包含在检测到的环境条件下可能更适合或更安全用于自主驾驶的轨迹。当自主车辆沿着道路行驶时,可以动态地执行基于环境条件的稀疏地图800的更新。
与驾驶相关的其他不同参数也可以用作生成不同的稀疏地图并将不同的稀疏地图提供给不同的自主车辆的基础。例如,当自主车辆以高速行驶时,转弯可能会更困难(tighter)。与特定车道而不是道路相关联的轨迹可以被包含在稀疏地图800中,使得当车辆遵循特定轨迹时,自主车辆可以维持在特定车道内。当由自主车辆上的相机捕获的图像指示车辆已经漂移到车道之外(例如,越过车道标志)时,可以在车辆内触发动作,以根据特定轨迹将车辆带回指定车道。
众包稀疏地图
所公开的稀疏地图可以通过众包的力量有效地(被动地)生成。例如,配备有相机(例如,当今车辆上通常作为OEM设备而包含的简单的低分辨率相机)和适当的图像分析处理器的任何私人或商用车辆都可以用作采集车辆。不需要特殊设备(例如,高清晰度成像和/或定位系统)。作为所公开的众包技术的结果,生成的稀疏地图可以极其精确,并且可以包含极其细化的位置信息(使得导航误差能够限制为10cm或更小),而不需要任何专门的成像或感测设备作为地图生成过程的输入。众包还使得对生成的地图能够进行更快速(且便宜)的更新,因为来自私人或商用车辆所穿过的任何道路上的新的驾驶信息对制图服务器系统是持续可用的,其中该私人或商用车辆是最低配备的并且也用作采集车辆。不需要指定车辆被配备有高清成像和映射传感器。因此,可以避免与建造这种专门车辆相关联的费用。此外,相比于依赖于专用的、专门的映射车辆(由于其费用和特殊设备,这些映射车辆通常限于专门车辆车队,而该车队的车辆的数量远低于已经可用于执行本公开的采集技术的私人或商用车辆的数量)的系统,对本公开的稀疏地图的更新可以更快地进行。
所公开的通过众包生成的稀疏地图可以极其精确,因为它们可以是基于来自多个(10个、数百个、数百万个等)采集车辆的许多输入而生成的,其中该些采集车辆已经沿着特定道路路段收集了驾驶信息。例如,沿着特定道路路段行驶的每个采集车辆可以记录其实际轨迹,并且可以确定关于沿着该道路路段检测到的对象/特征的位置信息。这些信息从多个采集车辆传递到服务器。对实际轨迹进行聚集,以便生成用于沿着该道路路段的每个有效行驶路径的细化的目标轨迹。附加地,还可以聚集从多个采集车辆收集的、沿着该道路路段的每个检测到的对象/特征(语义或非语义的)的位置信息。结果,每个检测到的对象/特征的经映射位置可以构成每个检测到的对象/特征的数百、数千或数百万个单独确定的位置的平均值。这种技术可以为检测到的对象/特征产生极其精确的经映射位置。
在一些实施例中,所公开的系统和方法可以生成用于自主车辆导航的稀疏地图。例如,所公开的系统和方法可以使用众包数据来生成稀疏地图,一个或多个自主车辆可以使用该稀疏来沿着道路的系统进行导航。如本文所使用的,“众包”意味着从在不同时间处在道路路段上行驶的各种车辆(例如,自主车辆)接收数据,并且这些数据被用于生成和/或更新道路模型,包含稀疏地图图块。该模型或其任何稀疏地图图块又可以被传输到稍后沿着道路路段行驶的车辆或其他车辆,以用于辅助自主车辆导航。道路模型可以包含多个目标轨迹,这些目标轨迹表示自主车辆在穿过道路路段时应当遵循的优选轨迹。目标轨迹可以与从穿过道路路段的车辆收集的重建的实际轨迹相同,其可以从车辆传输到服务器。在一些实施例中,目标轨迹可以不同于一个或多个车辆先前在穿过道路路段时所采用的实际轨迹。目标轨迹可以基于实际轨迹生成(例如,通过平均或任何其他合适的操作)。
车辆可以上传到服务器的车辆轨迹数据可以与车辆的实际重建轨迹对应,或者可以对应于推荐轨迹,该推荐轨迹可以基于车辆的实际重建轨迹或与之相关,但是可以不同于实际重建轨迹。例如,车辆可以修改它们的实际重建轨迹,并且向服务器提交(例如,推荐)修改的实际轨迹。道路模型可以使用推荐的、修改的轨迹作为其他车辆自主导航的目标轨迹。
除了轨迹信息之外,在建造稀疏数据地图800中潜在使用的其他信息可以包含与潜在地标候选相关的信息。例如,通过信息的众包,所公开的系统和方法可以识别环境中的潜在地标并细化地标位置。自主车辆的导航系统可以使用这些地标来确定和/或调整车辆沿着目标轨迹的位置。
车辆沿着道路行驶时可以生成的重建轨迹可以通过任何合适的方法获得。在一些实施例中,重建轨迹可以通过使用例如自我运动估计(例如,相机(以及由此的车身)的三维平移和三维旋转)将车辆的运动的路段拼接(stitch)在一起来产生。旋转和平移估计可以基于对由一个或多个图像捕获装置捕获的图像以及来自其他传感器或装置(诸如惯性传感器和速度传感器)的信息的分析来确定。例如,惯性传感器可以包含加速度计或其他合适的传感器,其被配置为测量车身平移和/或旋转的改变。车辆可以包含测量车辆的速度的速度传感器。
在一些实施例中,可以基于所捕获图像的光流分析来估计相机(以及由此的车身)的自我运动。图像序列的光流分析从图像序列中识别像素的移动,并且基于所识别的运动,确定车辆的运动。自我运动可以随着时间和沿着道路路段被积分,以重建与车辆已经遵循的道路路段相关联的轨迹。
沿着道路路段在不同时间处由多个驾驶中的多个车辆收集的数据(例如,重建轨迹)可用于构建包含在稀疏数据地图800中的道路模型(例如,包含目标轨迹等)。还可以对沿着道路路段在不同时间处由多个驾驶中的多个车辆收集的数据进行平均,以提高模型的准确度。在一些实施例中,可以从在不同时间处穿过公共道路路段的多个车辆接收关于道路几何结构和/或地标的数据。从不同车辆接收的这种数据可以被组合以生成道路模型和/或更新道路模型。
沿着道路路段的重建轨迹(以及目标轨迹)的几何结构可以由三维空间中的曲线表示,该曲线可以是连接三维多项式的样条。重建轨迹曲线可以通过分析由安装在车辆上的相机捕获的视频流或多个图像来确定。在一些实施例中,在车辆当前位置前方几米的每个帧或图像中识别定位。该定位是车辆预期在预定时间段内行驶的位置。该操作可以逐帧重复,同时,车辆可以计算相机的自我运动(旋转和平移)。在每一帧或每一个图像中,车辆在附接到相机的参考帧中生成期望路径的短程模型。短程模型可以被拼接在一起,以在某个坐标系中获得道路的三维模型,该坐标系可以是任意的或预定的坐标系。然后,道路的三维模型可以由样条拟合,该样条可以包含或连接一个或多个合适阶数的多项式。
为了在每个帧处总结短程道路模型,可以使用一个或多个检测模块。例如,可以使用自底向上(bottom-up)的车道检测模块。当在道路上映射车道标志时,自底向上的车道检测模块可以是有用的。该模块可以在图像中寻找边缘,并将它们组装在一起以形成车道标志。第二模块可以与自底向上车道检测模块一起使用。第二模块是端到端深度神经网络,其可以被训练以从输入图像预测正确的短程路径。在这两个模块中,道路模型可以在图像坐标系中被检测,并且被变换成可以虚拟地附接到相机的三维空间。
尽管重建轨迹建模方法可能由于长时间段的自我运动的积分而引入误差的累积,这可能包含噪声分量,但是这种误差可能是无关紧要的,因为生成的模型可以为局部比例上的导航提供足够的准确度。此外,还可以通过使用卫星图像或大地测量等外部信息源来消除积分误差。例如,所公开的系统和方法可以使用GNSS接收器来消除累积误差。然而,GNSS定位信号可能并不总是可用的和准确的。所公开的系统和方法可以使能很弱地依赖于GNSS定位的可用性和准确度的转向应用。在这种系统中,GNSS信号的使用可能受到限制。例如,在一些实施例中,所公开的系统可以将GNSS信号仅用于数据库索引目的。
在一些实施例中,与自主车辆导航转向应用相关的范围比例(例如,局部比例)可以大约为50米、100米、200米、300米等。可以使用这样的距离,因为几何道路模型主要用于两个目的:计划前方轨迹和在道路模型上定位车辆。在一些实施例中,当控制算法根据位于前方1.3秒(或任何其他时间,例如1.5秒、1.7秒、2秒等)的目标点使车辆转向时,计划任务可以使用在前方40米(或任何其他合适的前方距离,例如20米、30米、50米)的典型范围内的模型。定位任务使用在汽车后60米(或任何其他合适的距离,诸如50米、100米、150米等)的典型范围内的道路模型。根据另一章节中更详细描述的称为“尾部对齐”的方法。所公开的系统和方法可以生成在特定范围(诸如100米)上具有足够准确度的几何模型,使得计划的轨迹不会偏离车道中心超过例如30厘米。
如上所述,可以根据检测短程部分并将它们拼接在一起来构建三维道路模型。可以通过使用相机捕获的视频和/或图像、来自反映车辆的运动的惯性传感器的数据以及主车辆速度信号来计算六度自我运动模型来使能拼接。累积误差在某个局部范围比例(诸如大约100米)上可能足够小。所有这些都可以在特定道路路段上的单个驾驶中完成。
在一些实施例中,可以使用多个驾驶来对得到的模型进行平均,并进一步提高其准确度。相同汽车可以多次行驶相同路线,或者多辆汽车可以将它们收集到的模型数据传送到中央服务器。在任何情况下,可以执行匹配过程来识别重叠的模型并使能平均,以便生成目标轨迹。一旦满足收敛标准,构建的模型(例如,包含目标轨迹)可用于转向。后续驾驶可用于进一步的模型改进和适应基础设施改变。
如果多辆汽车连接到一个中央服务器,则它们之间共享驾驶经验(诸如感测的数据)变得可行。每个车辆客户端可以存储一般道路模型的部分副本,该副本可以与其当前位置相关。车辆和服务器之间的双向更新过程可以由车辆和服务器执行。上面讨论的小足迹概念使得所公开的系统和方法能够使用非常小的带宽来执行双向更新。
还可以确定与潜在地标相关的信息,并将其转发给中央服务器。例如,所公开的系统和方法可以基于包含地标的一个或多个图像来确定潜在地标的一个或多个物理属性。物理属性可以包含地标的物理大小(例如,高度、宽度)、从车辆到地标的距离、地标到先前地标之间的距离、地标的横向位置(例如,地标相对于行驶的车道的位置)、地标的GPS坐标、地标的类型、地标上的文本标识等。例如,车辆可以分析由相机捕获的一个或多个图像,以检测潜在地标,诸如限速标志。
车辆可以基于对一个或多个图像的分析,来确定从车辆到地标的距离或与该地标相关联的位置(例如,沿着道路路段的任何语义或非语义对象或特征)。在一些实施例中,可以使用合适的图像分析方法,例如缩放方法和/或光流方法,基于对地标的图像的分析来确定距离。如先前提出的,对象/特征的位置可以包含与该对象/特征相关联的一个或多个点的2D图像位置(例如,一个或多个捕获图像中的X-Y像素位置)或者可以包含一个或多个点的3D真实世界位置(例如,通过运动结构/光流技术、LIDAR或RADAR信息等而确定的)。在一些实施例中,所公开的系统和方法可以被配置为确定潜在地标的类型或分类。在车辆确定某潜在地标对应于存储在稀疏地图中的预定类型或分类的情况下,车辆将地标的类型或分类的指示连同其定位传达给服务器就足够了。服务器可以存储这样的指示。在稍后的时间,在导航期间,导航车辆可以捕获包含该地标的表示的地标的图像,处理该图像(例如,使用分类器),并比较结果地标以便确认映射地标的检测并使用该映射地标来相对于稀疏地图定位该导航车辆。
在一些实施例中,在道路路段上行驶的多个自主车辆可以与服务器通信。车辆(或客户端)可以在任意坐标系中生成描述其驾驶的曲线(例如,通过自我运动积分)。车辆可以检测地标并在相同帧中定位它们。车辆可以将曲线和地标上传到服务器。服务器可以通过多个驾驶从车辆收集数据,并生成统一的道路模型。或者例如,如下面参考图19所讨论的,服务器可以使用上传的曲线和地标生成具有统一道路模型的稀疏地图。
服务器还可以将模型分配给客户端(例如,车辆)。例如,服务器可以将稀疏地图分配给一个或多个车辆。当从车辆接收到新数据时,服务器可以连续或周期性地更新模型。例如,服务器可以处理新数据以评估该数据是否包含应当触发服务器上新数据的更新或创建的信息。服务器可以将更新后的模型或更新分配给车辆,以用于提供自主车辆导航。
服务器可以使用一个或多个标准来确定从车辆接收的新数据是否应当触发对模型的更新或者触发新数据的创建。例如,当新数据指示在特定定位的先前辨识的地标不再存在,或者被另一个地标替换时,服务器可以确定新数据应当触发对模型的更新。作为另一个示例,当新数据指示道路路段已经关闭,并且当这已经被从其他车辆接收的数据证实时,服务器可以确定新数据应当触发对模型的更新。
服务器可以将更新后的模型(或模型的更新部分)分配给在与模型更新相关联的道路路段上行驶的一个或多个车辆。服务器还可以将更新后的模型分配给将要在道路路段上行驶的车辆,或者其计划行程包含与模型更新相关联的道路路段的车辆。例如,当自主车辆在到达与更新相关联的道路路段之前沿着另一道路路段行驶时,服务器可以在车辆到达道路路段之前将更新或更新后的模型分配给自主车辆。
在一些实施例中,远程服务器可以从多个客户端(例如,沿着公共道路路段行驶的车辆)收集轨迹和地标。服务器可以使用地标匹配曲线,并且基于从多个车辆收集的轨迹创建平均道路模型。服务器还可以计算道路的图和道路路段的每个节点或连接处的最可能路径。例如,远程服务器可以对齐轨迹以从收集的轨迹生成众包稀疏地图。
服务器可以对从沿着公共道路路段行驶的多个车辆接收的地标属性进行平均,诸如由多个车辆测量的一个地标到另一个地标(例如,沿着道路路段的前一个地标)之间的距离,以确定弧长参数并支持每个客户端车辆沿着路径的定位和速度校准。服务器可以对由沿着公共道路路段行驶并辨识相同地标的多个车辆测量的地标的物理尺寸进行平均。平均物理尺寸可用于支持距离估计,诸如从车辆到地标的距离。服务器可以对由沿着公共道路路段行驶并辨识相同地标的多个车辆测量的地标的横向位置(例如,从车辆正在行驶的车道到地标的位置)进行平均。平均横向部分可用于支持车道分配。服务器可以对由沿着相同道路路段行驶并辨识相同地标的多个车辆测量的地标的GPS坐标进行平均。地标的平均GPS坐标可用于支持道路模型中地标的全球定位(localization)或定位(positioning)。
在一些实施例中,基于从车辆接收的数据,服务器可以识别模型改变,诸如构建、绕行、新标志、标志的移除等。当从车辆接收到新数据时,服务器可以连续地或周期性地或瞬时地更新模型。服务器可以将对模型的更新或更新后的模型分配给车辆,以用于提供自主导航。例如,如下面进一步讨论的,服务器可以使用众包数据来过滤掉由车辆检测到的“幽灵(ghost)”地标。
在一些实施例中,服务器可以分析自主驾驶期间的驾驶员干预。服务器可以分析在干预发生的时间和定位从车辆接收的数据,和/或在干预发生的时间之前接收的数据。服务器可以识别引起干预或与干预密切相关的数据的某些部分,例如,指示临时车道封闭设置的数据、指示道路中行人的数据。服务器可以基于识别的数据更新模型。例如,服务器可以修改存储在模型中的一个或多个轨迹。
图12是使用众包生成稀疏地图(以及使用众包稀疏地图分配和导航)的系统的示意图。图12示出了包含一个或多个车道的道路路段1200。多个车辆1205、1210、1215、1220和1225可以在相同时间或在不同时间在道路路段1200上行驶(尽管在图12中显示为在相同时间出现在道路路段1200上)。车辆1205、1210、1215、1220和1225中的至少一个可以是自主车辆。为了简化本示例,假定所有车辆1205、1210、1215、1220和1225都为自主车辆。
每个车辆可以类似于在其他实施例中公开的车辆(例如,车辆200),并且可以包含被包含在其他实施例中公开的车辆中或者与其他实施例中公开的车辆相关联的组件或装置。每个车辆可以配备有图像捕获装置或相机(例如,图像捕获装置122或相机122)。每个车辆可以经由一个或多个网络(例如,通过蜂窝网络和/或互联网等)通过如虚线所示的无线通信路径1235与远程服务器1230通信。每个车辆可以向服务器1230传输数据,并从服务器1230接收数据。例如,服务器1230可以从在不同时间在道路路段1200上行驶的多个车辆收集数据,并且可以处理所收集的数据以生成自主车辆道路导航模型,或者对模型的更新。服务器1230可以将自主车辆道路导航模型或对模型的更新传输到向服务器1230传输数据的车辆。服务器1230可以将自主车辆道路导航模型或对模型的更新传输给稍后在道路路段1200上行驶的其他车辆。
当车辆1205、1210、1215、1220和1225在道路路段1200上行驶时,由车辆1205、1210、1215、1220和1225收集(例如,检测、感测或测量)的导航信息可以被传输到服务器1230。在一些实施例中,导航信息可以与公共道路路段1200相关联。导航信息可以包含当每个车辆在道路路段1200上行驶时与每个车辆1205、1210、1215、1220和1225相关联的轨迹。在一些实施例中,可以基于由车辆1205上提供的各种传感器和装置感测的数据来重建轨迹。例如,可以基于加速度计数据、速度数据、地标数据、道路几何结构或轮廓数据、车辆位置数据和自我运动数据中的至少一个来重建轨迹。在一些实施例中,可以基于来自惯性传感器(诸如加速度计)的数据和由速度传感器感测的车辆1205的速度来重建轨迹。此外,在一些实施例中,可以基于感测的相机的自我运动来确定轨迹(例如,通过车辆1205、1210、1215、1220和1225中的每一个上的处理器),该感测的相机的自我运动可以指示三维平移和/或三维旋转(或旋转运动)。相机(以及由此的车身)的自我运动可以通过对相机捕获的一个或多个图像的分析来确定。
在一些实施例中,车辆1205的轨迹可以由在车辆1205上提供的处理器确定,并被传输到服务器1230。在其他实施例中,服务器1230可以接收由在车辆1205中提供的各种传感器和装置感测的数据,并且基于从车辆1205接收的数据确定轨迹。
在一些实施例中,从车辆1205、1210、1215、1220和1225传输到服务器1230的导航信息可以包含关于道路表面、道路几何结构或道路轮廓的数据。道路路段1200的几何结构可以包含车道结构和/或地标。车道结构可以包含道路路段1200的车道总数、车道类型(例如,单车道、双车道、行车车道、超车道等)、车道上的标志,车道宽度等。在一些实施例中,导航信息可以包含车道分配,例如,车辆正在多个车道中的哪个车道中行驶。例如,车道分配可以与数字值“3”相关联,该数字值“3”指示车辆正在从左侧或右侧的第三车道上行驶。作为另一个示例,车道分配可以与文本值“中心车道”相关联,该文本值指示车辆正在中心车道上行驶。
服务器1230可以将导航信息存储在非暂时性计算机可读介质上,诸如硬盘驱动器、光盘、磁带、存储器等。服务器1230可以基于从多个车辆1205、1210、1215、1220和1225接收的导航信息,为公共道路路段1200生成(例如,通过包含在服务器1230中的处理器)自主车辆道路导航模型的至少一部分,并且可以将该模型存储为稀疏地图的一部分。服务器1230可以基于从在不同时间在道路路段的车道上行驶的多个车辆(例如,1205、1210、1215、1220和1225)接收的众包数据(例如,导航信息)来确定与每个车道相关联的轨迹。服务器1230可以基于众包导航数据确定的多个轨迹来生成自主车辆道路导航模型或模型的一部分(例如,更新部分)。服务器1230可以将模型或模型的更新部分传输到在道路路段1200上行驶的自主车辆1205、1210、1215、1220和1225中的一个或多个,或者在稍后的时间在道路路段上行驶的任何其他自主车辆,以用于更新在车辆的导航系统中提供的现有自主车辆道路导航模型。自主车辆道路导航模型可以被自主车辆用于沿着公共道路路段1200的自主导航。
如上所述,自主车辆道路导航模型可以包含在稀疏地图(例如,图8中描绘的稀疏地图800)中。稀疏地图800可以包含与沿着道路的道路几何结构和/或地标相关的数据的稀疏记录,这可以为引导自主车辆的自主导航提供足够的信息,但是不需要过多的数据存储。在一些实施例中,自主车辆道路导航模型可以与稀疏地图800分开存储,并且当该模型被执行用于导航时,可以使用来自稀疏地图800的地图数据。在一些实施例中,自主车辆道路导航模型可以使用稀疏地图800中包含的地图数据来确定沿着道路路段1200的目标轨迹,以用于引导自主车辆1205、1210、1215、1220和1225或稍后沿着道路路段1200行驶的其他车辆的自主导航。例如,当自主车辆道路导航模型由包含在车辆1205的导航系统中的处理器执行时,该模型可以使处理器将基于从车辆1205接收的导航信息确定的轨迹与包含在稀疏地图800中的预定轨迹进行比较,以验证和/或校正车辆1205的当前行驶路线。
在自主车辆道路导航模型中,道路特征或目标轨迹的几何结构可以由三维空间中的曲线编码。在一个实施例中,曲线可以是三维样条,包含一个或多个连接三维多项式。如本领域技术人员所理解的,样条可以是由一系列多项式逐段定义的用于拟合数据的数值函数。用于拟合道路的三维几何结构数据的样条可以包含线性样条(一阶)、二次样条(二阶)、三次样条(三阶)、或任何其他样条(其他阶)、或它们的组合。样条可以包含连接(例如,拟合)道路的三维几何结构数据的数据点的不同阶的一个或多个三维多项式。在一些实施例中,自主车辆道路导航模型可以包含对应于沿着公共道路路段(例如,道路路段1200)或道路路段1200的车道的目标轨迹的三维样条。
如上所述,稀疏地图中包含的自主车辆道路导航模型可以包含其他信息,诸如沿着道路路段1200的至少一个地标的标识。地标可以在安装在车辆1205、1210、1215、1220和1225中的每一个上的相机(例如,相机122)的视场内可见。在一些实施例中,相机122可以捕获地标的图像。车辆1205上提供的处理器(例如,处理器180、190或处理单元110)可以处理地标的图像以提取地标的识别信息。地标识别信息,而不是地标的实际图像,可以存储在稀疏地图800中。地标识别信息可以需要比实际图像少得多的存储空间。其他传感器或系统(例如,GPS系统)也可以提供地标的某些识别信息(例如,地标的位置)。地标可以包含交通标志、箭头标志、车道标志、虚线车道标志、交通灯、停车线、方向标志(例如,具有指示方向的箭头的高速公路出口标志、具有指向不同方向或地方的箭头的高速公路标志)、地标信标或灯柱中的至少一个。地标信标是指沿着道路路段安装的装置(例如,RFID装置),其向安装在车辆上的接收器传输或反射信号,使得当车辆经过该装置时,由车辆接收的信标和(例如,从装置的GPS定位确定的)装置的定位可以被用作要被包含在自主车辆道路导航模型和/或稀疏地图800中的地标。
至少一个地标的标识可以包含至少一个地标的位置。地标的位置可以基于使用与多个车辆1205、1210、1215、1220和1225相关联的传感器系统(例如,全球定位系统、基于惯性的定位系统、地标信标等)执行的位置测量来确定。在一些实施例中,地标的位置可以通过对不同车辆1205、1210、1215、1220和1225上的传感器系统通过多次驾驶检测、收集或接收的位置测量进行平均来确定。例如,车辆1205、1210、1215、1220和1225可以向服务器1230传输位置测量,服务器1230可以对位置测量进行平均,并将平均的位置测量用作地标的位置。地标的位置可以通过从后续驾驶中的车辆接收的测量来不断地细化。
地标的标识可以包含地标的大小。车辆(例如1205)上提供的处理器可以基于图像的分析来估计地标的物理大小。服务器1230可以通过不同的驾驶从不同的车辆接收相同地标的物理大小的多个估计。服务器1230可以对不同的估计进行平均,以得出地标的物理大小,并将地标大小存储在道路模型中。物理大小估计可用于进一步确定或估计从车辆到地标的距离。到地标的距离可以基于车辆的当前速度并且基于图像中出现的地标相对于相机的扩展的焦点的位置的扩展比例来估计。例如,到地标的距离可以通过Z=V*dt*R/D来估计,其中V是车辆的速度,R是图像中从时间t1处的地标到扩展的焦点的距离,并且D是图像中从t1到t2的地标的距离改变。dt表示(t2-t1)。例如,到地标的距离可以通过Z=V*dt*R/D来估计,其中V是车辆的速度,R是图像中地标和扩展焦点之间的距离,dt是时间间隔,D是地标沿着核线的图像位移。与上述等式等效的其他等式,诸如Z=V*ω/Δω,可以用于估计到地标的距离。这里,V是车辆速度,ω是图像长度(类似对象宽度),Δω是该图像长度在单位时间内的改变。
当地标的物理大小已知时,到地标的距离也可以基于以下等式来确定:Z=f*W/ω,其中f为焦距,W为地标的大小(如高度或宽度),ω为地标离开图像时的像素数。根据上述等式,可以使用ΔZ=f*W*Δω/ω2+f*ΔW/ω来计算距离Z的改变,其中ΔW通过平均而衰减到零,并且其中Δω是表示图像中边界框准确度的像素数。可以通过平均服务器侧的多个观测来计算估计地标的物理大小的值。距离估计的最终误差可以非常小。使用上述等式时,可能出现两个误差源,即ΔW和Δω。它们对距离误差的贡献由ΔZ=f*W*Δω/ω2+f*ΔW/ω给出。然而,ΔW通过平均衰减到零;因此ΔZ由Δω(例如,图像中边界框的不准确度)确定。
对于未知尺寸的地标,可以通过在连续帧之间跟踪地标上的特征点来估计到地标的距离。例如,可以在两个或更多个图像帧之间跟踪出现在限速标志上的某些特征。基于这些跟踪的特征,可以生成每特征点的距离分布。距离估计可以从距离分布中提取。例如,距离分布中最频繁出现的距离可以用作距离估计。作为另一个示例,距离分布的平均可以用作距离估计。
图13示出了由多个三维样条1301、1302和1303表示的示例自主车辆道路导航模型。图13中所示的曲线1301、1302和1303仅用于说明目的。每个样条可以包含连接多个数据点1310的一个或多个三维多项式。每个多项式可以是一阶多项式、二阶多项式、三阶多项式或具有不同阶数的任何合适多项式的组合。每个数据点1310可以与从车辆1205、1210、1215、1220和1225接收的导航信息相关联。在一些实施例中,每个数据点1310可以与与地标(例如,地标的大小、定位和识别信息)和/或道路签名轮廓(例如,道路几何结构、道路粗糙度轮廓、道路曲率轮廓、道路宽度轮廓)相关的数据相关联。在一些实施例中,一些数据点1310可以与地标相关的数据相关联,而其他数据点可以与道路签名轮廓相关的数据相关联。
图14示出了从五个分离的驾驶接收的原始定位数据1410(例如,GPS数据)。如果一个驾驶同时被分离的车辆在相同的时间、被相同车辆在分离的时间、或被分离的车辆在分离的时间穿过,则该驾驶可以与另一驾驶分开。为了考虑定位数据1410中的误差以及相同车道内车辆的不同定位(例如,一个车辆可能比另一车辆更靠近车道的左侧),服务器1230可以使用一个或多个统计技术来生成地图骨架1420,以确定原始定位数据1410中的变化是否表示实际的偏离或统计误差。骨架1420内的每个路径可以链接回形成该路径的原始数据1410。例如,骨架1420内的A和B之间的路径链接到来自驾驶2、3、4和5而不是来自驾驶1的原始数据1410。骨架1420可以不足够详细以用于导航车辆(例如,因为与上述样条不同,骨架1420组合了相同道路上多个车道的驾驶),但是可以提供有用的拓扑信息并且可以用于定义交叉路口。
图15示出了通过其可以为地图骨架的路段内的稀疏地图(例如,骨架1420内的路段A至路段B)生成附加细节的示例。如图15所示,数据(例如自我运动数据、道路标志数据等)可以示出为沿驾驶的位置S(或S1或S2)的函数。服务器1230可以通过识别驾驶1510的地标1501、1503和1505与驾驶1520的地标1507和1509之间的唯一匹配来识别稀疏地图的地标。这种匹配算法可以得到地标1511、1513和1515的识别。然而,本领域技术人员将认识到,可以使用其他匹配算法。例如,概率优化可以用来代替唯一匹配或者与唯一匹配相结合。服务器1230可以纵向对齐驾驶以对齐匹配的地标。例如,服务器1230可以选择一个驾驶(例如,驾驶1520)作为参考驾驶,然后移位和/或弹性拉伸(多个)其他驾驶(例如,驾驶1510)以用于对齐。
图16示出了在稀疏地图中使用的对齐地标数据的示例。在图16的示例中,地标1610包括道路标志。图16的示例进一步描绘了来自多个驾驶1601、1603、1605、1607、1609、1611和1613的数据。在图16的示例中,来自驾驶1613的数据包含“幽灵”地标,并且服务器1230可以这样识别它,因为驾驶1601、1603、1605、1607、1609和1611都不包含驾驶1613中识别的地标附近的地标的标识。相应地,当地标确实出现的图像与地标没有出现的图像的比率超过阈值时,服务器1230可以接受潜在地标,和/或当地标没有出现的图像与地标确实出现的图像的比率超过阈值时,服务器1230可以拒绝潜在地标。
图17描绘了用于生成驾驶数据的系统1700,其可用于众包稀疏地图。如图17所示,系统1700可以包含相机1701和定位(locating)装置1703(例如,GPS定位器)。相机1701和定位装置1703可以安装在车辆上(例如,车辆1205、1210、1215、1220和1225之一)。相机1701可以产生多个多种类型的数据,例如,自我运动数据、交通标志数据、道路数据等。相机数据和定位数据可以被分段成驾驶路段1705。例如,驾驶路段1705可以各自具有来自少于1千米的驾驶的相机数据和定位数据。
在一些实施例中,系统1700可以移除驾驶路段1705中的冗余。例如,如果地标出现在来自相机1701的多个图像中,则系统1700可以去除冗余数据,使得驾驶路段1705仅包含地标的定位的一个副本和与地标相关的任何元数据。作为进一步的示例,如果车道标志出现在来自相机1701的多个图像中,系统1700可以去除冗余数据,使得驾驶路段1705仅包含车道标志的定位的一个副本和与车道标志相关的任何元数据。
系统1700还包含服务器(例如,服务器1230)。服务器1230可以从车辆接收驾驶路段1705,并将驾驶路段1705重组为单个驾驶1707。当在车辆和服务器之间传输数据时,这种布置可以减少带宽需求,同时还允许服务器存储与整个驾驶相关的数据。
图18描绘了进一步被配置用于众包稀疏地图的图17的系统1700。如图17所示,系统1700包含车辆1810,其使用例如相机(其产生例如自我运动数据、交通标志数据、道路数据等)和定位装置(例如GPS定位器)来捕获驾驶数据。如图17所示,车辆1810将收集的数据分段成驾驶路段(在图18中描绘为“DS1 1”、“DS2 1”、“DSN 1”)。然后,服务器1230接收驾驶路段,并从接收到的路段重建驾驶(在图18中被描述为“驾驶1”)。
如图18中进一步描绘的,系统1700还从附加车辆接收数据。例如,车辆1820还使用例如相机(其产生例如自我运动数据、交通标志数据、道路数据等)和定位装置(例如GPS定位器)来捕获驾驶数据。类似于车辆1810,车辆1820将收集的数据分段成驾驶路段(在图18中描绘为“DS1 2”、“DS22”、“DSN 2”)。然后,服务器1230接收驾驶路段,并从接收到的路段重建驾驶(在图18中被描述为“驾驶2”)。可以使用任何数量的附加车辆。例如,图18还包括“汽车N”,该“汽车N”捕获驾驶数据,将其分段成驾驶路段(在图18中描绘为“DS1N”、“DS2N”、“DSN N”),以及将其传送到服务器1230以用于重建成驾驶(在图18中描绘为“驾驶N”)。
如图18所示,服务器1230可以使用从多个车辆(例如,“汽车1”(也标记为车辆1810)、“汽车2”(也标记为车辆1820)和“汽车N”)收集的重建驾驶(例如,“驾驶1”、“驾驶2”和“驾驶N”)来构建稀疏地图(描绘为“地图”)。
图19是示出用于生成用于沿着道路路段的自主车辆导航的稀疏地图的示例过程1900的流程图。过程1900可以由服务器1230中包含的一个或多个处理装置来执行。
过程1900可以包含接收当一个或多个车辆穿过道路路段时获取的多个图像(步骤1905)。服务器1230可以从包含在车辆1205、1210、1215、1220和1225中的一个或多个内的相机接收图像。例如,当车辆1205沿着道路路段1200行驶时,相机122可以捕获车辆1205周围的环境的一个或多个图像。在一些实施例中,服务器1230还可以接收已经被车辆1205上的处理器移除冗余的被剥离(stripped down)的图像数据,如上文参考图17所讨论的。
过程1900可以进一步包含基于多个图像识别沿着道路路段延伸的道路表面特征的至少一个线表示(步骤1910)。每个线表示可以表示沿着基本上对应于道路表面特征的道路路段的路径。例如,服务器1230可以分析从相机122接收的环境图像以识别路缘或车道标志,并确定沿着与路缘或车道标志相关联的道路路段1200的行驶轨迹。在一些实施例中,轨迹(或线表示)可以包含样条、多项式表示或曲线。服务器1230可以基于在步骤1905处接收的相机自我运动(例如,三维平移和/或三维旋转运动)来确定车辆1205的行驶的轨迹。
过程1900还可以包含基于多个图像识别与道路路段相关联的多个地标(步骤1910)。例如,服务器1230可以分析从相机122接收的环境图像,以识别一个或多个地标,诸如沿着道路路段1200的道路标志。服务器1230可以使用对当一个或多个车辆穿过道路路段时获取的多个图像的分析来识别地标。为了使能众包,分析可以包含关于接受和拒绝与道路路段相关联的可能地标的规则。例如,分析可以包含当地标确实出现的图像与地标没有出现的图像的比率超过阈值时接受潜在地标,和/或当地标没有出现的图像与地标确实出现的图像的比率超过阈值时拒绝潜在地标。
过程1900可以包含由服务器1230执行的其他操作或步骤。例如,导航信息可以包含车辆沿着道路路段行驶的目标轨迹,并且过程1900可以包含由服务器1230聚类与在道路路段上行驶的多个车辆相关的车辆轨迹,并且基于聚类的车辆轨迹确定目标轨迹,如下面进一步详细讨论的。聚类车辆轨迹可以包含由服务器1230基于车辆的绝对航向或车辆的车道分配中的至少一个,将与在道路路段上行驶的车辆相关的多个轨迹聚类成多个聚类。生成目标轨迹可以包含由服务器1230平均聚类的轨迹。作为进一步的示例,过程1900可以包含对齐在步骤1905中接收的数据。如上所述,由服务器1230执行的其他过程或步骤也可以包含在过程1900中。
所公开的系统和方法可以包含其他特征。例如,所公开的系统可以使用局部坐标,而不是全局坐标。对于自主驾驶,一些系统可能以世界坐标呈现数据。例如,可以使用地球表面上的经度和纬度坐标。为了使用地图进行转向,主车辆可以确定其相对于地图的位置和朝向。在车上使用GPS装置似乎是很自然的,以便在地图上定位车辆,并以便找到本体参考帧和世界参考帧(例如,北、东和下)之间的旋转变换。一旦本体参考帧与地图参考帧对齐,则期望的路线可以在本体参考帧中表达,并且可以计算或生成转向命令。
所公开的系统和方法可以实现具有低足迹模型的自主车辆导航(例如,转向控制),这些模型可以由自主车辆自己收集,而无需昂贵的勘测仪器的帮助。为了支持自主导航(例如,转向应用),道路模型可以包含稀疏地图,该稀疏地图具有道路的几何结构、其车道结构和地标,该地标可以用于确定车辆沿着包含在模型中的轨迹的定位或位置。如上所述,稀疏地图的生成可以由远程服务器来执行,该远程服务器与在道路上行驶的车辆通信并从车辆接收数据。数据可以包含感测的数据、基于感测数据重建的轨迹、和/或可以表示修改的重建轨迹的推荐轨迹。如下所述,服务器可以将模型传输回车辆或稍后在道路上行驶的其他车辆,以帮助自主导航。
图20示出了服务器的框图。服务器1230可以包含通信单元2005,该通信单元2005可以包含硬件组件(例如,通信控制电路、开关和天线)和软件组件(例如,通信协议、计算机代码)。例如,通信单元2005可以包含至少一个网络接口。服务器1230可以通过通信单元2005与车辆1205、1210、1215、1220和1225通信。例如,服务器1230可以通过通信单元2005接收从车辆1205、1210、1215、1220和1225传输的导航信息。服务器1230可以通过通信单元2005将自主车辆道路导航模型分配给一个或多个自主车辆。
服务器1230可以包含至少一个非暂时性存储介质2010,诸如硬盘驱动器、光盘、磁带等。存储装置1410可以被配置为存储数据,诸如从车辆1205、1210、1215、1220和1225接收的导航信息和/或服务器1230基于导航信息生成的自主车辆道路导航模型。存储装置2010可以被配置为存储任何其他信息,诸如稀疏地图(例如,上面参考图8讨论的稀疏地图800)。
除了或代替存储装置2010,服务器1230可以包含存储器2015。存储器2015可以类似于或不同于存储器140或150。存储器2015可以是非暂时性存储器,诸如闪速存储器、随机存取存储器等。存储器2015可以被配置为存储数据,诸如可由处理器(例如,处理器2020)执行的计算机代码或指令、地图数据(例如,稀疏地图800的数据)、自主车辆道路导航模型和/或从车辆1205、1210、1215、1220和1225接收的导航信息。
服务器1230可以包含至少一个处理装置2020,该至少一个处理装置2020被配置为执行存储在存储器2015中的计算机代码或指令,以执行各种功能。例如,处理装置2020可以分析从车辆1205、1210、1215、1220和1225接收的导航信息,并且基于该分析生成自主车辆道路导航模型。处理装置2020可以控制通信单元1405以将自主车辆道路导航模型分配给一个或多个自主车辆(例如,车辆1205、1210、1215、1220和1225中的一个或多个或者稍后在道路路段1200上行驶的任何车辆)。处理装置2020可以类似于或不同于处理器180、190或处理单元110。
图21示出了存储器2015的框图,存储器2015可以存储用于执行一个或多个操作的计算机代码或指令,以用于生成用于自主车辆导航的道路导航模型。如图21所示,存储器2015可以存储用于执行用于处理车辆导航信息的操作的一个或多个模块。例如,存储器2015可以包含模型生成模块2105和模型分配模块2110。处理器2020可以执行存储在包含在存储器2015中的任何模块2105和2110中的指令。
模型生成模块2105可以存储指令,当由处理器2020执行时,该指令可以基于从车辆1205、1210、1215、1220和1225接收的导航信息,为公共道路路段(例如,道路路段1200)生成自主车辆道路导航模型的至少一部分。例如,在生成自主车辆道路导航模型时,处理器2020可以将沿着公共道路路段1200的车辆轨迹聚类成不同的聚类。处理器2020可以基于对于每个不同聚类的聚类的车辆轨迹来确定沿着公共道路路段1200的目标轨迹。这样的操作可以包含在每个聚类中找到聚类的车辆轨迹的均值(mean)或平均(average)轨迹(例如,通过平均表示聚类的车辆轨迹的数据)。在一些实施例中,目标轨迹可以与公共道路路段1200的单个车道相关联。
道路模型和/或稀疏地图可以存储与道路路段相关联的轨迹。这些轨迹可以被称为目标轨迹,其被提供给自主车辆用于自主导航。目标轨迹可以从多个车辆接收,或者可以基于从多个车辆接收的实际轨迹或推荐轨迹(具有一些修改的实际轨迹)生成。道路模型或稀疏地图中包含的目标轨迹可以用从其他车辆接收的新轨迹连续更新(例如,平均)。
在道路路段上行驶的车辆可以通过各种传感器收集数据。该数据可以包含地标、道路签名轮廓、车辆运动(例如,加速度计数据、速度数据)、车辆位置(例如,GPS数据),并且可以重建实际轨迹本身,或者将数据传输到服务器,该服务器将重建车辆的实际轨迹。在一些实施例中,车辆可以向服务器1230传输与轨迹(例如,任意参考帧中的曲线)、地标数据和沿着行驶路径的车道分配相关的数据。以多种驾驶方式沿相同道路路段行驶的各种车辆可以具有不同的轨迹。服务器1230可以从通过聚类过程从车辆接收的轨迹中识别与每个车道相关联的路线或轨迹。
图22示出了聚类与车辆1205、1210、1215、1220和1225相关联的车辆轨迹以用于确定公共道路路段(例如,道路路段1200)的目标轨迹的过程。从聚类过程确定的目标轨迹或多个目标轨迹可以包含在自主车辆道路导航模型或稀疏地图800中。在一些实施例中,沿着道路路段1200行驶的车辆1205、1210、1215、1220和1225可以向服务器1230传输多个轨迹2200。在一些实施例中,服务器1230可以基于从车辆1205、1210、1215、1220和1225接收的地标、道路几何结构和车辆运动信息来生成轨迹。为了生成自主车辆道路导航模型,服务器1230可以将车辆轨迹1600聚类成多个聚类2205、2210、2215、2220、2225和2230,如图22所示。
可以使用各种标准来执行聚类。在一些实施例中,聚类中的所有驾驶在沿着道路路段1200的绝对航向方面可以是相似的。绝对航向可以从车辆1205、1210、1215、1220和1225接收的GPS信号中获得。在一些实施例中,可以使用航位推算来获得绝对航向。如本领域技术人员所理解的,航位推算可用于通过使用先前确定的位置、估计速度等来确定车辆1205、1210、1215、1220和1225的当前位置并因此确定其航向。按绝对航向聚类的轨迹可以有助于沿着道路识别路线。
在一些实施例中,关于沿着道路路段1200上的驾驶的车道分配(例如,在交叉口之前和之后的相同车道中),聚类中的所有驾驶可以是相似的。通过车道分配聚类的轨迹可以有助于沿着道路识别车道。在一些实施例中,两个标准(例如,绝对航向和车道分配)都可以用于聚类。
在每个聚类2205、2210、2215、2220、2225和2230中,轨迹可以被平均以获得与特定聚类相关联的目标轨迹。例如,可以对来自与相同车道聚类相关联的多个驾驶的轨迹进行平均。平均轨迹可以是与特定车道相关联目标轨迹。为了平均一组轨迹,服务器1230可以选择任意轨迹C0的参考帧。对于所有其他轨迹(C1,…,Cn),服务器1230可以找到将Ci映射到C0的刚性变换,其中i=1,2,…,n,其中n是正整数,对应于包含在聚类中的轨迹的总数。服务器1230可以计算C0参考帧中的均值曲线或轨迹。
在一些实施例中,地标可以定义不同驾驶之间的弧长匹配,这可以用于轨迹与车道的对齐。在一些实施例中,交叉口之前和之后的车道标志可用于轨迹与车道的对齐。
为了从轨迹组装车道,服务器1230可以选择任意车道的参考帧。服务器1230可以将部分重叠的车道映射到选择的参考帧。服务器1230可以继续映射,直到所有车道都在相同的参考帧中。彼此相邻的车道可以对齐,就好像它们是相同的车道,稍后它们可以被横向移位。
沿着道路路段辨识的地标可以首先在车道级,然后在交叉口级被映射到公共参考帧。例如,相同的地标可以被多个驾驶中的多个车辆辨识多次。不同驾驶中接收到的关于相同地标的数据可能略有不同。这样的数据可以被平均并映射到相同的参考帧,诸如C0参考帧。附加地或替代地,可以计算在多个驾驶中接收的相同地标的数据的方差。
在一些实施例中,道路路段120的每个车道可以与目标轨迹和某些地标相关联。目标轨迹或多个这样的目标轨迹可以被包含在自主车辆道路导航模型中,其可以稍后被沿着相同道路路段1200行驶的其他自主车辆使用。当车辆沿着道路路段1200行驶时,由车辆1205、1210、1215、1220和1225识别的地标可以与目标轨迹相关联地被记录。目标轨迹和地标的数据可以利用在后续驾驶中从其他车辆接收的新数据被连续地或周期性地更新。
对于自主车辆的定位,所公开的系统和方法可以使用扩展卡尔曼滤波器。车辆的定位可以基于三维位置数据和/或三维朝向数据、通过自我运动的积分对车辆的当前定位前方的未来定位的预测来确定。可以通过地标的图像观察来校正或调整车辆的定位。例如,当车辆检测到由相机捕获的图像内的地标时,该地标可以与存储在道路模型或稀疏地图800内的已知地标进行比较。已知地标可以具有存储在道路模型和/或稀疏地图800中的沿着目标轨迹的已知定位(例如,GPS数据)。基于地标的当前速度和图像,可以估计从车辆到地标的距离。车辆沿着目标轨迹的定位可以基于到地标的距离和地标的已知定位(存储在道路模型或稀疏地图800中)来调整。存储在道路模型和/或稀疏地图800中的地标的位置/定位数据(例如,来自多个驾驶的均值)可以被假定为准确的。
在一些实施例中,所公开的系统可以形成闭环子系统,其中车辆六个自由度定位(例如,三维位置数据加上三维朝向数据)的估计可以用于自主车辆的导航(例如,对自主车辆的车轮进行转向)以到达期望的点(例如,存储的前方1.3秒)。反过来,从转向和实际导航测量的数据可用于估计六个自由度定位。
在一些实施例中,沿着道路的杆(pole),诸如灯柱和电力或电缆线杆可以用作定位车辆的地标。诸如交通标志、交通灯、道路上的箭头、停车线以及沿着道路路段的对象的静态特征(feature)或签名(signature)的其他地标也可以用作定位车辆的地标。当杆用于定位时,可以使用杆的x观察(即从车辆的视角),而不是y观察(即到杆的距离),因为杆的底部可能被遮挡,有时它们不在道路平面上。
图23示出了用于车辆的导航系统,其可以用于使用众包稀疏地图的自主导航。为了说明,车辆被称为车辆1205。图23中所示的车辆可以是本文公开的任何其他车辆,包含例如车辆1210、1215、1220和1225,以及其他实施例中所示的车辆200。如图12所示,车辆1205可以与服务器1230通信。车辆1205可以包含图像捕获装置122(例如,相机122)。车辆1205可以包含导航系统2300,该导航系统2300被配置用于为车辆1205在道路(例如,道路路段1200)上行驶提供导航引导。车辆1205还可以包含其他传感器,例如速度传感器2320和加速度计2325。速度传感器2320可以被配置为检测车辆1205的速度。加速度计2325可以被配置为检测车辆1205的加速或减速。图23中所示的车辆1205可以是自主车辆,并且导航系统2300可以用于为自主驾驶提供导航引导。替代地,车辆1205也可以是非自主的、人类控制的车辆,并且导航系统2300仍然可以用于提供导航引导。
导航系统2300可以包含被配置为通过通信路径1235与服务器1230通信的通信单元2305。导航系统2300还可以包含被配置为接收和处理GPS信号的GPS单元2310。导航系统2300还可以包含至少一个处理器2315,该至少一个处理器2315被配置为处理数据,诸如GPS信号、来自稀疏地图800的地图数据(其可以存储在车辆1205上提供的存储装置上和/或从服务器1230接收)、由道路轮廓传感器2330感测的道路几何结构、由相机122捕获的图像和/或从服务器1230接收的自主车辆道路导航模型。道路轮廓传感器2330可以包含用于测量不同类型的道路轮廓(诸如道路表面粗糙度、道路宽度、道路高度、道路曲率等)的不同类型的装置。例如,道路轮廓传感器2330可以包含测量车辆的悬架2305的运动以推导道路粗糙度轮廓的装置。在一些实施例中,道路轮廓传感器2330可以包含雷达传感器,以测量从车辆1205到道路边(例如,道路边上的障碍物)的距离,从而测量道路的宽度。在一些实施例中,道路轮廓传感器2330可以包含被配置用于测量道路的上下标高的装置。在一些实施例中,道路轮廓传感器2330可以包含被配置为测量道路曲率的装置。例如,相机(例如,相机122或另一个相机)可以用于捕获示出道路曲率的道路图像。车辆1205可以使用这样的图像来检测道路曲率。
至少一个处理器2315可以被编程为从相机122接收与车辆1205相关联的至少一个环境图像。至少一个处理器2315可以分析至少一个环境图像以确定与车辆1205相关的导航信息。导航信息可以包含与车辆1205沿着道路路段1200行驶相关的轨迹。至少一个处理器2315可以基于相机122(以及由此的车辆)的运动来确定轨迹,例如三维平移和三维旋转运动。在一些实施例中,至少一个处理器2315可以基于对由相机122获取的多个图像的分析来确定相机122的平移和旋转运动。在一些实施例中,导航信息可以包含车道分配信息(例如,车辆1205沿着道路路段1200行驶在哪个车道中)。从车辆1205传输到服务器1230的导航信息可以被服务器1230用来生成和/或更新自主车辆道路导航模型,该模型可以从服务器1230传输回车辆1205,以用于为车辆1205提供自主导航引导。
至少一个处理器2315还可以被编程为将导航信息从车辆1205传输到服务器1230。在一些实施例中,导航信息可以与道路信息一起被传输到服务器1230。道路定位信息可以包含由GPS单元2310接收的GPS信号、地标信息、道路几何结构、车道信息等中的至少一个。至少一个处理器2315可以从服务器1230接收自主车辆道路导航模型或模型的一部分。从服务器1230接收的自主车辆道路导航模型可以包含基于从车辆1205传输到服务器1230的导航信息的至少一个更新。从服务器1230传输到车辆1205的模型部分可以包含模型的更新部分。至少一个处理器2315可以基于接收到的自主车辆道路导航模型或模型的更新部分来引起车辆1205的至少一个导航操纵(例如,转向,诸如转弯、制动、加速、经过另一车辆等)。
至少一个处理器2315可以被配置为与车辆1205中包含的各种传感器和组件通信,包含通信单元1705、GPS单元2315、相机122、速度传感器2320、加速度计2325和道路轮廓传感器2330。至少一个处理器2315可以从各种传感器和组件收集信息或数据,并通过通信单元2305将信息或数据传输到服务器1230。替代地或附加地,车辆1205的各种传感器或组件也可以与服务器1230通信,并将由传感器或组件收集的数据或信息传输到服务器1230。
在一些实施例中,车辆1205、1210、1215、1220和1225可以彼此通信,并且可以彼此共享导航信息,使得车辆1205、1210、1215、1220和1225中的至少一个可以例如基于由其他车辆共享的信息,使用众包生成自主车辆道路导航模型。在一些实施例中,车辆1205、1210、1215、1220和1225可以彼此共享导航信息,并且每个车辆可以更新其自己的车辆中提供的自主车辆道路导航模型。在一些实施例中,车辆1205、1210、1215、1220和1225中的至少一个(例如,车辆1205)可以用作中枢车辆(hub vehicle)。中枢车辆(例如,车辆1205)的至少一个处理器2315可以执行由服务器1230执行的一些或所有功能。例如,中枢车辆的至少一个处理器2315可以与其他车辆通信,并从其他车辆接收导航信息。中枢车辆的至少一个处理器2315可以基于从其他车辆接收的共享信息生成自主车辆道路导航模型或对模型的更新。中枢车辆的至少一个处理器2315可以将自主车辆道路导航模型或对模型的更新传输到其他车辆,以提供自主导航引导。
基于稀疏地图的导航
如前所述,包含稀疏地图800的自主车辆道路导航模型可以包括与道路路段相关联的多个映射车道标志和多个映射对象/特征。如下文更详细讨论的,当自主车辆导航时,可以使用这些映射车道标志、对象和特征。例如,在一些实施例中,映射对象和特征可以用于相对于地图定位主车辆(例如,相对于映射目标轨迹)。映射车道标志可以用于(例如,作为检查)确定相对于计划的目标轨迹的横向位置和/或朝向。利用该位置信息,自主车辆能够调整航向方向以匹配目标轨迹在确定位置处的方向。
车辆200可以被配置为检测给定道路路段中的车道标志。道路路段可以包括道路上的用于引导道路上的车辆交通的任何标志。例如,车道标志可以是区别行驶车道的边缘的实线或虚线。车道标志还可以包括双线,诸如双实线、双虚线或者实线和虚线的组合,以指示例如在相邻车道中是否允许超车(passing)。车道标志还可以包括指示例如出口匝道的减速车道的高速公路入口和出口标志,或者指示车道为仅转弯或车道即将结束的虚线。标志还可以指示工作区、临时变道、通过交叉路口的行驶路径、中央分隔带、专用车道(例如,自行车道、HOV车道等)、或其他各种标志(例如,人行横道、减速丘(speed hump)、铁路道口(railway crossign)、停车线等)。
车辆200可以使用相机,诸如包括在图像获取单元120中的图像捕获装置122和124,来捕获周围车道标志的图像。车辆200可以基于在一个或多个捕获的图像中识别的特征来分析图像,以检测与车道标志相关联的点定位。这些点定位可以被上传到服务器以表示稀疏地图800中的车道标志。取决于相机的位置和视场,可以从单个图像中同时检测车辆两侧的车道标志。在其他实施例中,不同的相机可以用于在车辆的多个侧面上捕获图像。可以将车道标志存储为稀疏地图800中的样条或一系列点,而不是上传这些标志的实际图像,从而减小稀疏地图800的大小和/或必须由车辆远程上传的数据。
图24A-图24D示出了可由车辆200检测以表示特定车道标志的示例性点定位。类似于如上所述的地标,车辆200可以使用各种图像辨识算法或软件来识别捕获的图像内的点定位。例如,车辆200可以辨识与特定车道标志相关联的一系列边缘点、拐角点或各种其他点定位。图24A示出了车辆200可以检测到的实线车道标志2410。车道标志2410可以表示道路的外侧边缘,由白色实线表示。如图24A所示,车辆200可以被配置为检测沿着车道标志的多个边缘定位点2411。定位点2411可以被收集来以足以在稀疏地图中创建映射车道标志的任何间隔处表示车道标志。例如,车道标志可以由检测到的边缘的每米一个点、检测到的边缘的每五米一个点或者以其他合适的间距来表示。在一些实施例中,间距可以由其他因素确定,而不是以设定的间隔确定,诸如例如基于在该处车辆200对检测到的点的定位具有最高置信度排序的点来确定。虽然图24A示出了车道标志2410的内部边缘上的边缘定位点,这些点可以在线的外部边缘上或者沿着两个边缘被收集。此外,虽然在图24A中示出了单个线,但是对于双实线可以检测到相似的边缘点。例如,可以沿着一条或两条实线的边缘来检测点2411。
取决于车道标志的类型或形状,车辆200也可以不同地表示车道标志。图24B示出了可由车辆200检测的示例性虚线车道标志2420。车辆可以检测表示车道虚线的拐角的一系列拐角点2421,以定义虚线的完全边界,而不是像图24A中那样识别边缘点。虽然图24B示出了被定位的给定虚线标志的每个拐角,但是车辆200可以检测或上传图中所示的点的子集。例如,车辆200可以检测给定虚线标志的前边缘(leading edge)或前角(leadingcorner),或者可以检测最靠近车道内部的两个拐角点。此外,不是每个虚线标志都可以被捕获,例如,车辆200可以捕获和/或记录表示虚线标志的(例如,每隔一个、每三个、每五个等)样本的点,或者表示预定间距(例如,每米、每五米、每十米等)的虚线标志的点。也可以检测类似的车道标志(诸如显示车道是用于出口匝道的标志、特定车道即将结束的标志、或者可以具有可检测的拐角点的其他各种车道标志)的拐角点。也可以检测由双虚线或者实线和虚线的组合组成的车道标志的拐角点。
在一些实施例中,被上传到服务器以生成映射车道标志的点可以表示除了检测到的边缘点或拐角点之外的其他点。图24C示出了可以表示给定车道标志的中心线的一系列点。例如,实线车道2410可以由沿着车道标志的中心线2440的中心线点2441表示。在一些实施例中,车辆200可以被配置为使用各种图像辨识技术(诸如卷积神经网络(convolutionalneural network,CNN)、尺度不变特征变换(scale-invariant feature transform,SIFT)、定向梯度直方图(histogram of oriented gradient,HOG)特征或其他技术)来检测这些中心点。替代地,车辆200可以检测其他点,诸如图24A所示的边缘点2411,并且可以例如通过检测沿着每个边缘的点并确定边缘点之间的中点来计算中心线点2441。类似地,虚线车道标志2420可以由沿着车道标志的中心线2450的中心线点2451表示。中心线点可以位于虚线的边缘,如24C图所示,或者沿着中心线的各种其他定位。例如,每个虚线可以由虚线的几何中心的单个点来表示。这些点也可以沿着中心线以预定间隔(例如,每米、每5米、每10米等)间距开。中心线点2451可以由车辆200直接检测,或者可以基于其他检测到的参考点(诸如拐角点2421)来计算,如图24B所示。使用与如上所述的技术类似的技术,中心线也可用于表示其他车道标志类型,诸如双线。
在一些实施例中,车辆200可以识别表示其他特征的点,诸如两个相交车道标志之间的顶点。图24D示出了表示两个车道标志2460和2465之间的交叉路口的示例性点。车辆200可以计算表示两个车道标志之间的交叉路口的顶点2466。例如,车道标志2460或2465中的一个可以表示路段中的列车交叉区域或其他交叉区域。虽然车道标志2460和2465被示为彼此垂直交叉,但是可以检测各种其他配置。例如,车道标志2460和2465可以以其他角度交叉,或者一个或两个车道标志可以终止于顶点2466。类似的技术也可以应用于虚线或其他车道标志类型之间的交叉路口。除了顶点2466之外,还可以检测各种其他点2467,从而提供关于车道标志2460和2465的朝向的进一步信息。
车辆200可以将现实世界坐标与车道标志的每个检测点相关联。例如,可以生成定位标识符(包括每个点的坐标)以上传到服务器以用于映射车道标志。定位标识符还可以包括关于点的其他识别信息,包括点是否表示拐角点、边缘点、中心点等。因此,车辆200可以被配置为基于对图像的分析来确定每个点的现实世界位置。例如,车辆200可以检测图像中的其他特征(诸如如上所述的各种地标)以定位车道标志的现实世界位置。这可以包括确定车道标志在图像中相对于检测到的地标的定位,或者基于检测到的地标来确定车辆的位置,然后确定从车辆(或车辆的目标轨迹)到车道标志的距离。当地标不可用时,车道标志点的定位可以相对于基于航位推算(dead reckoning)确定的车辆位置来确定。被包括在定位标识符中的现实世界坐标可以被表示为绝对坐标(例如,纬度/经度坐标),或者可以相对于其他特征,诸如基于沿着目标轨迹的纵向位置和距目标轨迹的横向距离。定位标识符然后可以被上传到服务器以用于在导航模型(诸如稀疏地图800)中生成映射车道标志。在一些实施例中,服务器可以构造表示道路路段的车道标志的样条。替代地,车辆200可以生成样条并将其上传到服务器以记录在导航模型中。
图24E示出了包括映射车道标志的相对应的道路路段的示例性导航模型或稀疏地图。稀疏地图可以包括车辆沿着道路路段所遵循的目标轨迹2475。如上所述,目标轨迹2475可以表示车辆在相对应的道路路段行驶时所采取的理想路径,或者可以位于道路上的其他地方(例如,道路的中心线等)。目标轨迹2475可以用如上所述的各种方法来计算,例如,基于车辆穿过相同道路路段的两个或更多个重建轨迹的聚集(例如,加权组合)来计算。
在一些实施例中,可以针对所有车辆类型和针对所有道路、车辆和/或环境情况同等地生成目标轨迹。然而,在其他实施例中,在生成目标轨迹时也可以考虑各种其他因素或变量。可以针对不同类型的车辆(例如,私家车、轻型卡车和全挂车)生成不同的目标轨迹。例如,与较大的半挂式卡车相比,可以针对小的私家车生成转弯半径相对较小的目标轨迹。在一些实施例中,也可以考虑道路、车辆和环境情况。例如,可以针对不同的道路情况(例如,潮湿、下雪、结冰、干燥等)、车辆情况(例如,轮胎情况或估计轮胎情况、制动情况或估计制动情况、剩余燃料量等)、或者环境因素(例如,一天中的时间、能见度、天气等)生成不同的目标轨迹。目标轨迹还可以取决于特定道路路段的一个或多个方面或特征(例如,限速、转弯频率和大小、坡度等)。在一些实施例中,各种用户设定也可用于确定目标轨迹,诸如设定的驾驶模式(例如,期望的驾驶积极性、经济模式等)。
稀疏地图还可以包括表示沿着道路路段的车道标志的映射车道标志2470和2480。映射车道标志可以由多个定位标识符2471和2481表示。如上所述,定位标识符可以包括与检测到的车道标志相关联的点在现实世界坐标中的定位。类似于模型中的目标轨迹,车道标志也可以包括高程数据,并且可以被表示为三维空间中的曲线。例如,曲线可以是连接合适阶数的三维多项式的样条。曲线可以基于定位标识符来计算。映射车道标志还可以包括关于车道标志的其他信息或元数据,诸如车道标志的类型(例如,行驶方向相同的两个车道之间的车道标志、行驶方向相反的两条车道之间的车道标志、路缘等)的标识符和/或车道标志的其他特性(例如,实线、虚线、单线、双线、黄色、白色等)。在一些实施例中,例如,可以使用众包技术在模型内连续地更新映射车道标志。相同车辆可以在行驶相同道路路段的多个时机期间上传定位标识符,或者可以从在不同时间行驶该道路路段的多个车辆(诸如1205、1210、1215、1220和1225)中选择数据。稀疏地图800然后可以基于从车辆接收并存储在系统中的后续定位标识符来更新或细化。随着映射车道标志被更新和细化,更新后的道路导航模型和/或稀疏地图可以被分配给多个自主车辆。
在稀疏地图中生成映射车道标志还可以包括基于图像中或实际车道标志本身中的异常来检测和/或减轻误差。图24F示出了与检测车道标志2490相关联的示例性异常2495。异常2495可能出现在由车辆200从例如阻碍相机对车道标志的视野的对象、镜头上的碎屑等捕获的图像中。在一些情况下,异常可能是由于车道标志本身造成的,车道标志可能被损坏或磨损,或者被道路上的灰尘、碎屑、水、雪或其他材料部分地覆盖。异常2495可能导致车辆200所检测到的误差点2491。稀疏地图800可以提供正确的映射车道标志并排除误差。在一些实施例中,车辆200可以例如通过检测图像中的异常2495,或者通过基于异常前后的检测到的车道标志点识别误差,来检测误差点2491。基于检测到异常,车辆可以省略点2491,或者可以将其调整为与其他检测到的点一致。在其他实施例中,例如,通过基于在相同行程期间上传的其他点或者基于来自沿着相同道路路段的先前行程的数据的聚集确定该点在预期阈值之外,可以在该点已经上传之后校正该误差。
导航模型和/或稀疏地图中的映射车道标志也可用于穿过相对应的道路的自主车辆的导航。例如,沿着目标轨迹导航的车辆可以周期性地使用稀疏地图中的映射车道标志来将其自身与目标轨迹对齐。如上所述,在地标之间,车辆可以基于航位推算来导航,其中车辆使用传感器来确定其自我运动并估计其相对于目标轨迹的位置。误差可能随着时间的推移而累积,并且车辆相对于目标轨迹的位置确定可能变得越来越不准确。相应地,车辆可以使用出现在稀疏地图800中的车道标志(以及它们的已知定位)来减少位置确定中由航位推算引起的误差。以这种方式,被包括在稀疏地图800中的所识别的车道标志可以用作导航锚,可以从该导航锚确定车辆相对于目标轨迹的准确位置。
图25A示出了可用于基于映射车道标志的导航的车辆周围环境的示例性图像2500。图像2500可以例如由车辆200通过包括在图像获取单元120中的图像捕获装置122和124来捕获。图像2500可以包括至少一个车道标志2510的图像,如图25A所示。图像2500还可以包括一个或多个地标2521,诸如道路标志,以用于如上所述的导航。图25A中所示的没有出现在捕获图像2500中但是被车辆200检测和/或确定的一些元素(诸如元素2511、2530和2520)也被示出用于参考。
使用上面参考图24A-图24D和图24F描述的各种技术,车辆可以分析图像2500以识别车道标志2510。可以检测对应于图像中车道标志的特征的各种点2511。例如,点2511可以对应于车道标志的边缘、车道标志的拐角、车道标志的中点、两个相交车道标志之间的顶点或各种其他特征或定位。点2511可以被检测为对应于存储在从服务器接收的导航模型中的点的定位。例如,如果接收到包含表示映射车道标志的中心线的点的稀疏地图,则还可以基于车道标志2510的中心线来检测点2511。
车辆还可以确定由元素2520表示的并且沿着目标轨迹定位的纵向位置。例如,通过检测图像2500内的地标2521并将测量的定位与存储在道路模型或稀疏地图800中的已知地标定位进行比较,可以从图像2500中确定纵向位置2520。然后可以基于到地标的距离和地标的已知定位来确定车辆沿着目标轨迹的定位。纵向位置2520还可以从除了用于确定车道标志的位置的图像之外的图像中确定。例如,纵向位置2520可以通过在来自图像获取单元120内的其他相机的、与图像2500同时或接近同时拍摄的图像中检测地标来确定。在一些情况下,车辆可能不在用于确定纵向位置2520的任何地标或其他参考点附近。在这种情况下,车辆可以基于航位推算来导航,并且因此可以使用传感器来确定其自我运动并估计相对于目标轨迹的纵向位置2520。车辆还可以确定表示在所捕获的(多个)图像中观察到的车辆和车道标志2510之间的实际距离的距离2530。在确定距离2530时,可以考虑相机角度、车辆的速度、车辆的宽度或各种其他因素。
图25B示出了基于道路导航模型中映射车道标志的车辆的横向定位校正。如上所述,车辆200可以使用由车辆200捕获的一个或多个图像来确定车辆200和车道标志2510之间的距离2530。车辆200还可以访问道路导航模型(诸如稀疏地图800),道路导航模型可以包括映射车道标志2550和目标轨迹2555。映射车道标志2550可以使用如上所述的技术来建模,例如使用由多个车辆捕获的众包定位标识符。目标轨迹2555也可以使用先前描述的各种技术来生成。车辆200还可以确定或估计沿着目标轨迹2555的纵向位置2520,如以上参考图25A所述。车辆200然后可以基于与纵向位置2520相对应的、目标轨迹2555和映射车道标志2550之间的横向距离来确定预期距离2540。车辆200的横向定位可以通过将使用所捕获的(多个)图像测量的实际距离2530与来自模型的预期距离2540进行比较来校正或调整。
图25C和图25D提供了与另一示例相关联的图示,以用于基于稀疏地图中的映射地标/对象/特征在导航期间定位主车辆。图25C概念性地表示从沿着道路路段2560导航的车辆捕获的一系列图像。在该示例中,道路路段2560包含由路缘2561和2562以及中央车道标志2563绘制的双车道分割公路的直线段。如图所示,主车辆正沿着车道2564导航,该车道2564与映射目标轨迹2565相关联。因此,在理想情况下(并且没有诸如道路中的目标车辆或对象的存在等的影响者),当主车辆沿着道路路段2560的车道2564导航时,它应该紧密地跟踪映射目标轨迹2565。实际上,主车辆在沿着映射目标轨迹2565导航时可以会经历漂移。为了有效和安全的导航,这种漂移应保持在可接受的范围内(例如,距离目标轨迹2565为±10厘米的横向位移或任何其他合适的阈值)。为了周期性地考虑漂移并做出任何所需的航向校正以确保主车辆遵循目标轨迹2565,所公开的导航系统可以能够使用稀疏地图中包含的一个或多个映射特征/对象,来沿着目标轨迹2565定位主车辆(例如,确定主车辆相对于目标轨迹2565的横向和纵向位置)。
作为简单的示例,图25C示出了限速标志2566,因为当主车辆沿着道路路段2560导航时,该限速标志2566可以出现在五个不同的、顺序捕获的图像中。例如,在第一时间t0,标志2566可以在捕获图像中出现在地平线附近。当主车辆接近标志2566时,在随后在时间t1、t2、t3和t4捕获的图像中,标志2566将出现在捕获图像的不同的2D X-Y像素位置处。例如,在捕获图像空间中,符号2566将沿着曲线2567(例如,延伸穿过五个捕获图像帧的每一者中该标志的中心的曲线)向下且向右移动。当主车辆接近标志2566时,标志2566的大小也将增大(即,它将在随后捕获的图像中占据大量像素)。
诸如标志2566的对象在图像空间表示中的这些改变可以被利用,来确定主车辆沿着目标轨迹的定位位置。例如,如本公开中所描述的,任何可检测的对象或特征,例如像标志2566这样的语义特征或可检测的非语义特征,可以由先前穿过道路路段(例如,道路路段2560)的一个或多个采集车辆进行识别。制图服务器可以从多个车辆收集所采集的驾驶信息,聚集并关联该信息,并生成稀疏地图,该稀疏地图包含例如道路路段2560的车道2564的目标轨迹2565。该稀疏地图还可以存储标志2566的定位(以及类型信息等)。在导航期间(例如,在进入道路路段2560之前),可以向主车辆供应一地图图块,该地图图块包含用于道路路段2560的稀疏地图。为了在道路路段2560的车道2564中导航,主车辆可以遵循映射目标轨迹2565。
主车辆可以使用标志2566的映射表示,来相对于目标轨迹定位其自身。例如,主车辆上的相机将捕获主车辆的环境的图像2570,并且该捕获图像2570可以包含具有某个大小和某个X-Y图像定位的标志2566的图像表示,如图25D所示。该大小和X-Y图像定位可以被用于确定主车辆相对于目标轨迹2565的位置。例如,基于包含标志2566的表示的稀疏地图,主车辆的导航处理器可以确定:响应于主车辆沿着目标轨迹2565行驶,标志2566的表示应该出现在捕获图像中,使得标志2566的中心将沿着线2567移动(在图像空间中)。如果诸如图像2570的捕获图像示出了偏离了线2567(例如,预期图像空间轨迹)的中心(或其他参考点),则主车辆导航系统可以确定在捕获图像时主车辆并未定位在目标轨迹2565上。然而,根据图像,导航处理器可以确定适当的导航校正,以将主车辆返回到目标轨迹2565。例如,如果分析表明,标志2566的图像位置在图像中在线2567上的预期图像空间定位的左侧偏移了距离2572,则导航处理器可以引起主车辆的航向改变(例如,改变车轮的转向角)以向左移动主车辆距离2573。以这种方式,每个捕获图像可以被用作反馈循环过程的一部分,使得标志2566的观察到的图像位置与预期图像轨迹2567之间的差异可以被最小化,以确保主车辆几乎没有偏差地沿着目标轨迹2565继续。当然,可用的映射对象越多,所描述的定位技术就越经常被采用,这可以减少或消除漂移引起的距目标轨迹2565的偏差。
以上所描述的过程在检测主车辆相对于目标轨迹的横向方位或移位方面可以是有用的。主车辆相对于目标轨迹的定位2565还可以包含对目标车辆沿着目标轨迹的纵向定位的确定。例如,捕获图像2570包含具有某个图像大小(例如,2D X-Y像素区域)的标志2566的表示。当映射标志2566沿着线2567穿过图像空间时(例如,当标志的大小有进展地增加时,如图25C所示),该大小可以与映射标志2566的预期图像大小进行比较。基于图像2570中标志2566的图像大小,并且基于图像空间中相对于映射目标轨迹2565的预期大小进展,主车辆可以确定其相对于目标轨迹2565的纵向位置(在捕获图像2570时)。如上所描述,该纵向位置与相对于目标轨迹2565的任何横向移位相耦合,从而允许当主车辆沿着道路2560导航时对主车辆相对于目标轨迹2565的完全定位。
图25C和图25D仅提供了使用单个映射对象和单个目标轨迹的所公开的定位技术的一个示例。在其他示例中,可以有更多的目标轨迹(例如,多车道公路、城市街道、复杂交叉口等中的每个可行车道的一个目标轨迹),并且可以有更多的可用于定位的映射。例如,表示城市环境的稀疏地图可以包含每米许多个可用于定位的对象。
图26A是示出与所公开的实施例一致的用于映射车道标志以用于自主车辆导航的示例性过程2600A的流程图。在步骤2610,过程2600A可以包括接收与检测到的车道标志相关联的两个或更多个定位标识符。例如,步骤2610可以由服务器1230或与该服务器相关联的一个或多个处理器来执行。定位标识符可以包括与检测到的车道标志相关联的点在现实坐标中的定位,如以上参考图24E所述。在一些实施例中,定位标识符还可以包含其他数据,诸如关于道路路段或车道标志的附加信息。在步骤2610期间还可以接收附加数据,诸如加速度计数据、速度数据、地标数据、道路几何结构或轮廓数据、车辆定位数据、自我运动数据或如上所述的各种其他形式的数据。定位标识符可以由车辆(诸如车辆1205、1210、1215、1220和1225)基于由车辆捕获的图像而生成。例如,可以基于从与主车辆相关联的相机获取表示主车辆的环境的至少一个图像、分析该至少一个图像以检测主车辆的环境中的车道标志、以及分析该至少一个图像以确定检测到的车道标志相对于与主车辆相关联的定位的位置来确定标识符。如上所述,车道标志可以包括各种不同的标志类型,并且定位标识符可以对应于相对于车道标志的各种点。例如,在检测到的车道标志是标记车道边界的虚线的一部分的情况下,这些点可以对应于车道标志的检测到的拐角。在检测到的车道标志是标记车道边界的实线的一部分的情况下,这些点可以对应于具有如上所述的各种间距的、车道标志的检测到的边缘。在一些实施例中,这些点可以对应于检测到的车道标志的中心线,如图24C所示,或者可以对应于两个相交车道标志之间的顶点和与相交车道标志相关联的两个其他点中的至少一个,如图24D所示。
在步骤2612,过程2600A可以包括将检测到的车道标志与相对应的道路路段相关联。例如,服务器1230可以分析在步骤2610期间接收的现实世界坐标或其他信息,并且将坐标或其他信息与存储在自主车辆道路导航模型中的定位信息进行比较。服务器1230可以确定模型中与在该处检测到车道标志的现实世界道路路段相对应的道路路段。
在步骤2614,过程2600A可以包括基于与检测到的车道标志相关联的两个或更多个定位标识符,相对于相对应的道路路段来更新自主车辆道路导航模型。例如,自主道路导航模型可以是稀疏地图800,并且服务器1230可以更新稀疏地图以在模型中包括或调整映射车道标志。服务器1230可以基于以上参考图24E描述的各种方法或过程来更新模型。在一些实施例中,更新自主车辆道路导航模型可以包括存储检测到的车道标志在现实世界坐标中的一个或多个位置指示符。自主车辆道路导航模型还可以包括车辆沿着相对应的道路路段所遵循的至少一个目标轨迹,如图24E所示。
在步骤2616,过程2600A可以包括将更新后的自主车辆道路导航模型分配给多个自主车辆。例如,服务器1230可以将更新后的自主车辆道路导航模型分配给车辆1205、1210、1215、1220和1225,该车辆1205、1210、1215、1220和1225可以将该模型用于导航。自主车辆道路导航模型可以经由一个或多个网络(例如,通过蜂窝网络和/或互联网等)、通过无线通信路径1235被分配,如图12所示。
在一些实施例中,可以使用从多个车辆接收的数据(诸如通过众包技术)来映射车道标志,如以上参考图24E所述。例如,过程2600A可以包括从第一主车辆接收包括与检测到的车道标志相关联的定位标识符的第一通信,以及从第二主车辆接收包括与检测到的车道标志相关联的附加定位标识符的第二通信。例如,第二通信可以从行驶在相同道路路段上的后续车辆接收,或者从在沿着相同道路路段的后续行程中的相同车辆接收。过程2600A还可以包括基于在第一通信中接收的定位标识符并且基于在第二通信中接收的附加定位标识符来细化与检测到的车道标志相关联的至少一个位置的确定。这可以包括使用多个定位标识符的平均和/或过滤掉可能不反映车道标志的现实世界位置的“幽灵”标识符。
图26B是示出用于使用映射车道标志沿着道路路段自主导航主车辆的示例性过程2600B的流程图。过程2600B可以例如由自主车辆200的处理单元110来执行。在步骤2620,过程2600B可以包括从基于服务器的系统接收自主车辆道路导航模型。在一些实施例中,自主车辆道路导航模型可以包括主车辆沿着道路路段的目标轨迹和与道路路段相关联的一个或多个车道标志相关联的定位标识符。例如,车辆200可以接收稀疏地图800或使用过程2600A产生的另一道路导航模型。在一些实施例中,目标轨迹可以被表示为三维样条,例如,如图9B所示。如上面参考图24A-图24F所述,定位标识符可以包括与车道标志相关联的点在现实世界坐标中的定位(例如,虚线车道标志的拐角点、实线车道标志的边缘点、两个相交车道标志之间的顶点以及与相交车道标志相关联的其他点、与车道标志相关联的中心线等)。
在步骤2621,过程2600B可以包括接收表示车辆的环境的至少一个图像。该图像可以从车辆的图像捕获装置(诸如通过包括在图像获取单元120中的图像捕获装置122和124)接收。该图像可以包括一个或多个车道标志的图像,类似于如上所述的图像2500。
在步骤2622,过程2600B可以包括确定主车辆沿着目标轨迹的纵向位置。如上参考图25A所述,这可以基于捕获的图像中的其他信息(例如,地标等)或者通过车辆在检测到的地标之间的航位推算。
在步骤2623,过程2600B可以包括基于所确定的主车辆沿着目标轨迹的纵向位置并且基于与至少一个车道标志相关联的两个或更多个定位标识符来确定到车道标志的预期横向距离。例如,车辆200可以使用稀疏地图800来确定到车道标志的预期横向距离。如图25B所示,可以在步骤2622中确定沿着目标轨迹2555的纵向位置2520。使用稀疏地图800,车辆200可以确定到与纵向位置2520相对应的映射车道标志2550的预期距离2540。
在步骤2624,过程2600B可以包括分析至少一个图像以识别至少一个车道标志。例如,车辆200可以使用各种图像辨识技术或算法来识别图像内的车道标志,如上所述。例如,车道标志2510可以通过对图像2500的图像分析来检测,如图25A所示。
在步骤2625,过程2600B可以包括基于对至少一个图像的分析来确定到至少一个车道标志的实际横向距离。例如,车辆可以确定表示车辆和车道标志2510之间的实际距离的距离2530,如图25A所示。在确定距离2530时,可以考虑相机角度、车辆的速度、车辆的宽度、相机相对于车辆的位置或各种其他因素。
在步骤2626,过程2600B可以包括基于到至少一个车道标志的预期横向距离和所确定的到至少一个车道标志的实际横向距离之间的差异来确定主车辆的自主转向动作。例如,如上参考图25B所述,车辆200可以将实际距离2530与预期距离2540进行比较。实际距离和预期距离之间的差异可以指示车辆的实际位置和车辆要遵循的目标轨迹之间的误差(及其幅度)。相应地,车辆可以基于该差异来确定自主转向动作或其他自主动作。例如,如果实际距离2530小于预期距离2540,如图25B所示,则车辆可以确定自主转向动作以引导车辆离开车道标志2510。因此,可以校正车辆相对于目标轨迹的位置。过程2600B可以用于例如改善车辆在地标之间的导航。
过程2600A和2600B仅提供了可用于使用封闭稀疏地图导航主车辆的技术的示例。在其他示例中,也可以采用与相对于图25C和25D所描述的过程一致的过程。
具有安全纵向距离的导航
如上所述,主车辆可以被配置为基于检测到的主车辆环境内的车辆和其他对象的距离来导航。在一些实施例中,车辆可以被配置为保持车辆和其他车辆或对象之间的安全距离。例如,安全距离可以包括足以使主车辆完全停止而不与另一车辆碰撞的距离。该安全距离可以考虑主车辆、目标车辆或两者的当前的导航状态(例如,速度、加速度、减速度、制动能力等),以确保由主车辆实现的任何导航操纵允许保持该安全距离。例如,所公开的实施例可以用于确保主车辆保持考虑到车辆和制动(和/或转向)的安全距离(如果需要的话),使得车辆完全停止(或以其他方式彼此避开)而不引起碰撞。在一些实施例中,所公开的技术可以应用于保持在相同方向上行驶的两个车辆之间的安全距离。然而,在其他实施例中,所公开的技术也可以用于保持在相反方向上行驶的两个车辆之间的安全距离。例如,在变道或在停车场导航时,两个车辆可能彼此相向行驶。在某些情况下,车辆可能在道路的错误一侧行驶。
图27A示出了与所公开的实施例一致的两个车辆在相反方向上行驶的示例场景。在这种场景下,主车辆2702可以沿着双车道道路的车道行驶,如图27A所示。目标车辆2704可能在主车辆2702占据的车道上以与主车辆2702相反的方向行驶。例如,目标车辆2704可能正在超过第二迎面而来的车辆2706,并且可能进入主车辆2702的行驶车道,以便完成超车操纵。因此,主车辆2702和目标车辆2704可能在相反的方向上朝向彼此行驶。可能存在两个车辆以相反的方向行驶的各种其他场景。例如,主车辆2702可能正在执行超车操纵,并且可能进入目标车辆2704的行驶车道。在其他情况下,例如在停车场中,当两个车辆都前进通过交叉路口时,或者任何其他类似的场景下,两个车辆可能朝着彼此行驶。本公开不限于目标车辆的行驶方向朝向主车辆的任何特定场景。
主车辆2702可以被配置为执行计划的导航动作,如果它允许主车辆2702与车辆2704保持安全纵向距离,例如RSS安全距离,如上所述。例如,在图27A所示的场景中,计划的导航动作可以是保持前进方向或保持主车辆2702的油门动作。在其他实施例中,计划的导航动作可以是将导致宿主车辆2702和目标车辆2704在相反的方向上朝向彼此行驶的动作。例如,导航动作可包括超车操纵,其中主车辆2702试图超车并进入目标车辆2704占据的车道。如果主车辆2702和目标车辆2704之间保持安全距离,主车辆2702可以被配置为执行超车操纵。导航动作也可以包括其他操纵,例如变道操纵、并道操纵、停车场导航操纵(例如,进入停车点、离开停车点、平行停车、停车行之间的操纵等)、交叉路口操纵(例如,穿过迎面而来的交通、穿过黄灯等),或者诸如此类。
在图27A的示例场景中,在完全“迎面”的情况中,目标车辆2704的方向朝向主车辆2702。本公开同样可以应用于目标车辆2704的方向以一定角度朝向主车辆2702的情况。因此,本文使用的术语“朝向”应该包括目标车辆的行驶方向的实质分量在主车辆的方向上的任何情况。术语“朝向”也可以指两个或更多个车辆的前方过道至少部分重叠的情况。
图27B示出了与所公开的实施例一致的目标车辆2704朝向主车辆2702行驶的示例场景。主车辆2702可以在方向2712上行驶,并且目标车辆2704可以在与方向2712相交的方向2714上行驶。如图所示,方向2712和2714可以以角度θ相交。在主车辆2702和2704彼此直接“迎面”行驶情况下,角度θ可以等于或基本等于零。目标车辆2704也可以被认为以其他角度朝向主车辆2704行驶。例如,在一些实施例中,只要角度θ小于90度,目标车辆2704的方向2714可以被认为是朝向主车辆2702。在其他实施例中,角度θ可能需要小于另一角度(例如,60度、45度、30度等)。方向2714也可以基于相对于主车辆2702的纵向和横向分量(分别为x和y)来定义。只要x是主车辆2702方向上的方向2714的某个非零分量,目标车辆2704的方向2714可以被认为是朝向主车辆2702。在一些实施例中,也可以定义分量x和分量y之间的关系。例如,只要分量x大于分量y(代表45度的角度θ),目标车辆2704的方向2714可以被认为是朝向主车辆2702。因此,应当理解,纵向安全距离不限于直接“迎面”的情况,并且可以是各种其他角度。
与所公开的实施例一致,安全距离可以对应于主车辆和目标车辆之间的距离,假定某些条件,在该距离处主车辆可以停车而不会与目标碰撞。安全距离可以包括计算如果以预定制动率制动并且在车辆的相应反应时间期间的假定行为之后,车辆停车所需的最小距离。例如,安全距离可以考虑两个车辆车彼此相向行驶的可能性,并且可以假定在每辆车以预定制动水平开始制动以完全停车之前的反应时间期间,两辆车都将继续以最大加速度加速。考虑到车辆在反应时间内的最大加速度,允许根据安全距离进行导航,以确保即使在最坏的情况下也不会发生碰撞。
图28示出了与公开的实施例一致的主车辆保持安全纵向距离的示例。目标车辆2804可能正以朝着主车辆2802的方向行驶。主车辆2802的处理设备(例如,处理单元110)可以确定用于实现主车辆的导航目标的计划的导航动作。如果主车辆2802和目标车辆2804之间可以保持安全纵向距离,则主车辆2802可以被配置为执行计划的导航动作。如上所述,计划的导航动作可包括各种操纵,例如变道操纵、并道操纵、超车操纵、保持向前行驶操纵、停车场导航操纵、或保持油门动作、或其他类似的导航动作。主车辆2802的处理设备可以确定主车辆2802和目标车辆2804之间的下一状态距离2810,其对应于如果采取计划的导航动作将会产生的车辆之间的距离。处理设备还可以确定车辆2802可以停止的停止距离2812和车辆2804可以停止的停止距离2814。如果所确定的下一状态距离2810大于停止距离2812和停止距离2814之和,则主车辆2802的处理设备可以实施计划的导航动作,从而指示车辆两者都可以完全停止以避免碰撞。
停止距离2812和2814可以以各种方式计算。例如,可以使用车辆制动率、车辆最大加速能力和车辆的当前速度来计算停止所需的距离。在一些实施例中,主车辆的当前速度可以基于一个或多个传感器的输出来确定。例如,当前速度可以根据加速器、LIDAR系统、RADAR系统、GPS单元等的输出来确定。作为另一示例,主车辆的当前速度可以通过分析一个或多个图像来确定(例如,基于在两个或更多个图像中检测到的固定对象的缩放率变化)。
在一些实施例中,所公开的实施例可以假定车辆将以其最大制动能力制动以避免碰撞。例如,制动率可以基于辨识的车辆的至少一个特性。对于主车辆2802,最大制动率可以是已知的,或者由系统基于汽车的特性、先前的制动操纵等来估计。对于目标车辆,最大制动能力可以基于目标车辆的至少一个特性来确定。该至少一个特性可以是已知与制动能力相关或可能与制动能力相关的任何特性。在一些实施例中,辨识的目标车辆的特性可以包括车辆类型,其可以基于包含目标车辆的表示的图像的分析来确定。车辆类型可以是例如目标车辆所属的一般类别(例如,全尺寸轿车、小型汽车、SUV、跨界SUV、摩托车等)或与目标车辆相关联的更具体的类别或子类别。在一些实施例中,辨识的目标车辆的特性可以包括目标车辆的车辆型号、品牌名称或其他分类器(例如,宝马/>等)。处理设备可被编程为假定目标车辆具有与该车辆类型或车辆分类的已知制动能力相对应的最大制动能力。处理设备可以使用车辆类型来例如访问包含每种车辆类型的已知制动能力的数据库。例如,如果检测到的车辆类型是宝马/>则处理设备可以从数据库中查找宝马/>的报告的制动能力。如果对于车辆型号报告了多个最大制动能力(例如,BMW/>可能具有不同的制动能力,这取决于它是否具有xDrive40i或xDrive50i修整水平或者取决于它的制造年份),则处理设备可以被编程为假定目标车辆具有对于该车辆型号报告的最佳最大制动能力。辨识的目标车辆的特性还可以包括目标车辆是自主车辆、部分自主车辆还是目标车辆是人工操作的指示符。这种信息可以从捕获的图像(例如,从主车辆的一个或多个车载相机获取的图像)的分析中获得,或者可以经由无线通信从目标车辆广播。
在一些实施例中,辨识的目标车辆的特性可以包括车辆尺寸。车辆尺寸可以是相对尺寸、预定尺寸等。车辆尺寸可以对应于车辆的物理尺寸和/或车辆的估计重量。例如,处理设备可以确定目标车辆比主车辆更大或更小。在另一示例中,处理设备可以被编程为将目标车辆分类为一个或多个预定车辆尺寸,每个预定车辆尺寸可以包括一个尺寸范围(例如,类别1=小于1000kg;类别2=1000-1500kg;类别3=1500-1800kg;等等)。一些车辆可以包含其尺寸的指示,其可以用于确定目标车辆的车辆尺寸。例如,目标车辆可以是GMC并且可以在车辆外部包括与其尺寸相关联的指示或型号名称,例如1500、2500、2500HD等。
施加最大制动,尤其是在突然施加制动时,可以被视为一种极端响应,只有在不可避免的情况下才使用。在某些情况下,最大制动会使乘客不舒服,会牵连后面的车辆,会过度磨损车辆硬件(轮胎、刹车片等),等等。因此,车辆的停止距离可以假定为小于主车辆的最大制动率能力的预定次最大制动率。例如,次最大制动率可以假定从初始制动力(小于车辆的最大制动能力)到车辆的最大制动能力逐渐施加制动,而不是立即施加最大制动能力。在一些实施例中,次最大制动率可以是理想的或统计上可接受的制动率。例如,与大多数人停止时的制动率相关的数据可用于确定次最大制动率。在一些实施例中,次最大制动率可以根据用户偏好设置。例如,第一乘客可以提供他或她舒适的第一次最大制动率,第二乘客可以提供他或她舒适的第二次最大制动率,等等。在一些实施例中,处理设备可以基于例如一个或多个感测的路况(例如,土路、道路牵引性质等)、交通状况(拥挤程度、主车辆周围车辆之间的平均距离、主车辆前方的加塞率等)、一个或多个车辆特性、一个或多个感测的天气状况等来确定次最大制动率。例如,处理设备可以确定在雪地上提供最大安全性和舒适性的次最大制动率,在干燥的公路上提供最大安全性和舒适性的次最大制动率,等等。应当理解,尽管实施次最大制动率可以帮助增加舒适性并对主车辆的行为具有其他积极影响,但是它也可能具有不太理想的效果,特别是如果次最大制动率很小,使得制动可能变得“松弛”或不那么强。例如,使用小的次最大制动率可能会对效率产生强烈的负面影响,因为这会导致车辆始终与前方车辆保持过大的距离。这可能会对其他道路使用者造成困扰,并阻止主车辆有效地通过复杂的场景,例如在拥堵区域并道和行驶。因此,在一些示例中,可以设置、选择或确定平衡性能或效率与舒适性(同时保持RSS安全性)的次最大制动率。
与本公开一致,次最大制动率可以是常数。例如,次最大制动率可以是对应于2m/s2、10m/s2或任何其他恒定减速度的制动率。在一些实施例中,次最大制动率可以是与主车辆的最大制动率能力成比例的常数。例如,次最大制动率可以是主车辆最大制动能力的20%、33%、50%、70%或任何其他百分比。在一些实施例中,次最大制动率可以是主车辆的当前速度的线性函数,使得制动从主车辆的最小制动能力逐渐施加到主车辆的最大制动能力。例如,可以确定次最大制动率,其在不达到车辆的最大制动能力的情况下允许主车辆从其当前速度停止。作为另一示例,可以确定最终达到主车辆的最大制动能力的次最大制动率,使得主车辆在停止操纵的第一部分以小于最大制动能力制动,并且在停止操纵的第二部分以其最大制动能力制动。在一些实施例中,次最大制动率可以是车辆当前速度的不同函数。例如,次最大制动率可以是指数或对数第施加的制动率,直到车辆停止。
在一些实施例中,次最大制动率可以基于与主车辆2802或目标车辆2804相关联的过失或责任确定来确定。从责任的角度来看,主车辆2802可能有义务制动,但是以比目标车辆2804更低的速率制动。例如,对于给定的车道或道路,目标车辆2804可能在不正确的方向上行驶,如图27A所示,因此可能具有更大的制动义务。因此,主车辆制动率可能小于目标车辆制动率,反之亦然。
如上所述,安全距离可以包括取决于在感测的事件和车辆对感测的事件的反应(即,与主车辆相关联的反应时间)之间的时间段期间车辆可能经历的最大可能加速能力。因此,停止距离还可以包括车辆加速距离,该车辆加速距离对应于从确定的车辆当前速度开始,在车辆反应时间期间车辆以车辆最大加速能力可以行驶的距离。例如,所公开的实施例可以考虑主车辆2802或目标车辆2804开始施加制动或进行另一导航操纵的时间段之间的延迟。例如,在主车辆2802检测到目标车辆2804正朝着主车辆2802行驶的时间之间可能有几毫秒(或多或少)。处理设备可以考虑在响应时间段ρ(对应于车辆的反应时间)期间可能发生的加速度。响应时间段ρ可以对应于车辆的已知特性,类似于制动率,或者可以是所有汽车的假定值(例如,对于人工操作车辆的某个反应时间和对于自主车辆的另一个值(可能不同))。例如,假设v1是车辆的当前速度。车辆的停止距离可以包括第一项,该第一项对应于在反应时间期间由于最大加速度车辆行驶的距离。停止距离还可以包括车辆以预定制动率(例如,最大制动率或次最大制动率)将其速度从其在反应时间段结束时最终速度降低到0所需的距离。
如上所述,在安全距离或停止距离确定中使用的车辆速度可以对应于主车辆在其响应时间段ρ加速后的最大速度(例如,以其最大加速能力)。例如,假设v1是车辆的当前速度,假设ρ是响应时间段,假设amax,accel是车辆的最大加速度,则车辆在响应时间段ρ之后的最大速度vmax,ρ是:
vmax,ρ=v1+ρamax,accel
因此,vmax,ρ可以用于确定主车辆2802和/或目标车辆2804的停止距离。例如,在确定车辆的停止距离时,处理设备可以假定从速度vmax,ρ开始应用最大或次大制动率。
在一些实施例中,主车辆2802的处理设备可以被配置为如果所确定的下一状态距离比主车辆2802的停止距离2812和目标车辆2804的停止距离2814的和大至少预定的最小距离(例如,0或大于0的任何合适的距离,诸如0.5m、1m、2m等),则实施计划的导航动作)。如果安全纵向距离包括非零最小接近距离分量,则在安全距离确定中,主车辆2802将在距离目标车辆至少最小距离处停止。最小距离可以是预定的(例如,0.5m、1m、2m等的最小距离)。最小接近距离可以基于与本公开一致的因素的任何集合来确定。在一些情况下,最小接近距离可以基于车辆速度。例如,对于相对于主车辆2802或目标车辆2804任一者的感测速度的较高速率,可以将最小接近距离设置得较高。最小接近距离也可以取决于感测到的天气状况(例如,在道路上感测到雪或水的情况下,或者在感测到的牵引力指示符表明小于最佳牵引力的情况下,最小接近距离可以增加以提供额外的安全缓冲。最小接近距离也可以基于用户的偏好等来设置。
图29A和29B提供了所公开的实施例一致的描述用于保持安全纵向距离的示例性过程2900的流程图。过程2900可以由至少一个处理设备来执行,例如上述的处理单元110。过程2900是示例性的,受益于本公开的本领域普通技术人员可以理解,过程2900可以包括附加步骤,排除某些步骤,或者可以以与本公开一致的方式进行修改。
过程2900可以包括用于接收表示主车辆的环境的至少一个图像的步骤2902。该至少一个图像可以从图像捕获设备接收,该图像捕获设备可以是与本公开一致的任何图像捕获设备,包括图像捕获设备122。在一些实施例中,所述至少一个图像可以是从相机、RADAR、LIDAR或可以从其获得图像的任何其他设备(无论是光学设备还是其他设备)中获得的图像。在捕获图像的时间和处理设备接收图像的时间之间可能有一段延迟。此外,在事件发生的时间和成像设备捕获事件的图像的时间之间可能有一段延迟。例如,如果目标车辆进入主车辆前方的车道,可能会有一小段时间(例如,1毫秒、2毫秒、5毫秒等)在目标车辆驶入车道时和成像设备捕获(和处理)目标车辆的图像时之间。
过程2900可以包括用于确定主车辆的计划导航动作的步骤2904。与本公开一致,该至少一个处理设备可以被编程为确定用于实现主车辆的导航目标的计划导航动作。可以基于至少一个驾驶策略来确定导航动作。计划的导航动作和/或至少一个驾驶策略可以与本公开的任何一致,包括上面所讨论的那些。例如,计划的导航动作可包括变道操纵、并道操纵、超车操纵、保持向前行驶操纵、停车场导航操纵或保持油门动作中的至少一个。
过程2900可以包括用于分析至少一个图像以识别主车辆的环境中的目标车辆的步骤2906。该至少一个图像可以是从图像捕获设备(诸如,图像捕获设备122)接收的图像。该至少一个图像可以是作为过程2900的步骤2902的一部分接收的一个或多个图像。
过程2900可以包括用于确定与计划的导航动作相关联的下一状态距离的步骤2908。与本公开一致,处理设备可以被编程为确定如果采取计划的导航动作将会产生的主车辆和目标车辆之间的下一状态距离。下一状态距离可以通过本文所公开的任何手段来计算。例如,如果计划的导航动作是主车辆的加速,则下一状态距离可以是采取导航动作后主车辆和主车辆前方的前方目标车辆之间的预期的距离。
过程2900可以包括用于确定主车辆制动率、主车辆最大加速能力和主车辆当前速度的步骤2910。因素中的每个(即,主车辆的车辆制动率、最大加速能力和速度)可以通过与本公开一致的任何手段来确定。如上所描述,车辆制动率可以表示与车辆相关的最大制动率,或者可以是次最大制动率。在一些实施例中,主车辆的车辆制动率和/或最大加速能力可以基于例如车辆的当前速度、道路状况(例如,道路的坡度、道路的材料等)、天气状况(例如,下雪、潮湿等)、车辆状况(例如,轮胎压力、刹车垫状况、车辆的当前负载等),或者诸如此类来确定。在一些实施例中,可以基于一个或多个传感器的输出来确定一个或多个因素。例如,主车辆可以包含加速度计,该加速度计可以向处理设备提供输出,并且该输出可以包括主车辆的当前速度和/或主车辆的加速能力。在一些实施例中,处理设备可确定主车辆的当前速度,并使用当前速度来确定当前车辆制动率和/或当前加速能力。例如,以第一速度(例如,15km/hr)行驶的车辆的车辆制动率可能显著不同于以第二速度(例如,30km/hr)行驶的相同车辆的车辆制动率。在一些实施例中,主车辆的车辆制动率、最大加速能力和/或速度中的一个或多个可以使用预定值来假定。例如,处理设备可以被配置为假定主车辆具有与预定值对应的最大制动能力,该预定值对应于与主车辆相关联的车辆类型的平均(或最差)最大制动能力。在一些实施例中,每个因素可以基于道路的外部状况或车辆的临时特性来确定。例如,主车辆的车辆制动率可以基于所感测的路面状况来确定。在该示例中,感测的道路状况可包括道路的粗糙度、道路的倾斜度或坡度、道路上存在或不存在物质或对象、道路是沥青、水泥、砾石还是其他材料,或者与本公开一致的任何其他状况。作为另一示例,主车辆的车辆制动率可以基于感测的天气状况来确定。在该示例中,天气状况可以包括对任何降水(例如,雨、雨夹雪、雪、冰等)、影响能见度的天气状况(例如,雾、烟、烟雾等)、可能影响车辆操控的天气状况(例如,强风、高温等),或者可能影响主车辆的导航响应的任何其他天气状况的检测。在另一示例中,处理设备可以基于主车辆是否包含例如一个乘客或多个乘客、重量很大的货物、拖车等来确定车辆制动率。这种状况可以基于对车载相机获取的图像的分析(例如,辨识道路上的雪或水、挡风玻璃上的水、路面光滑度等)或者可以基于任何其他合适的传感器来感测。这种传感器可以包括车轮打滑传感器、制动系统传感器输出、从路边基础设施发送的信号的接收器、经由WiFi连接流送的天气数据、GPS和/或速度计输出等。
在一些实施例中,车辆制动率和/或最大加速能力可以基于一个或多个预定因素来确定。例如,政府或工业实体可以提供一个或多个规定,规定车辆或车辆分类可以具有的车辆制动率和/或最大加速能力,并且至少一个处理器可以假定主车辆具有规定允许的车辆制动率和/或最大加速能力。对最大制动和/或最大加速度值的约束也可以是用户限定的(例如,自主车辆的乘员可以选择对应于预定的最大允许制动和加速度水平的一个或多个车辆设置)、场景限定的(例如,基于特定位置的环境和/或在特定导航场景期间),和/或基于观察到的表现(例如,基于在自主导航和/或用户导航期间收集的历史数据)。
过程2900可以包括用于确定主车辆的停止距离的步骤2912。与本公开一致,处理设备可被配置为基于主车辆制动率、主车辆最大加速能力和/或主车辆的当前速度(例如,如上文详细描述的)来确定主车辆的停止距离。主车辆的停止距离可以通过与本公开一致的任何手段来确定。
在一些实施例中,如果主车辆在以预定制动能力制动之前以其最大加速能力加速一段时间,则在给定其当前速度的情况下,停止距离可以是主车辆停止所需的距离。例如,主车辆的停止距离可以包括加速距离,该加速距离对应于主车辆以主车辆的当前最大加速能力从确定的主车辆的当前速度开始在预定时间段内可以行驶的距离。预定时间段可以是由处理设备假定的时间段。例如,约束可以规定处理设备假定主车辆将加速一定时间段(例如,0.5毫秒、1毫秒、2毫秒、3毫秒、10毫秒等)。预定时间段可以是与主车辆相关联的反应时间。例如,预定时间段可以是主车辆的传感器(例如,成像设备)从主车辆捕获需要制动响应的状况(例如,目标车辆进入主车辆的路径)的图像的时间和主车辆以其车辆制动率开始制动的时间之间的延迟。这样的时间段可以包括与捕获图像的分析、基于一个或多个处理器实现的驾驶策略来规划导航响应、以及通过控制与车辆的转向和/或制动系统(以及其他系统)相关联的一个或多个致动器来实现导航响应相关联的处理时间。在该示例中,可以假定,在最坏的场景下,主车辆在整个延迟时间段内以其最大加速能力加速。在一些实施例中,与反应时间相关联的时间段可以由处理设备确定或近似。例如,处理设备可以监控接收图像和确定需要制动响应之间的时间。作为另一示例,处理设备可以确定与多个导航响应相关联的平均、中值或模式反应时间,并且在计算停止距离时使用该平均、中值或模式反应时间。例如,在数十、数百或数千次导航响应之后,处理设备可以确定感测的事件与导航响应之间的平均时间是特定值(例如,任何真实的毫秒数),并且使用该值作为与主车辆相关联的反应时间。在一些情况下,在RSS距离确定中使用的反应时间可以是车辆特定的,并且可以包括特定车辆对各种感测的状况的测量的反应时间的动态平均值。
与本公开一致,确定的停止距离可以包括主车辆和目标车辆完全停止后两者之间的最小距离。确定的或预定的最小距离可以对应于主车辆和其他车辆之间要保持的预定的间隔距离。例如,处理设备可被编程为在计算停止距离时包括确定的或预定的最小距离。例如,预定的间隔距离可以是至少一米。在该示例中,确定的或预定的最小距离dmin可以如上所述。
过程2900可以包括用于确定目标车辆的当前速度、目标车辆最大加速能力和目标车辆制动率的步骤2914。与本公开一致,至少一个处理设备可以被编程以确定目标车辆的当前速度。在一些实施例中,目标车辆的速度可以基于主车辆的速度来确定。例如,主车辆上的一个或多个传感器可以提供与主车辆的速度相关的信息以及目标车辆相对于主车辆的加速度或方向改变的指示。在一些实施例中,可以基于对至少一个图像的分析来确定目标车辆速度。该至少一个图像可以是例如由处理设备在步骤2902接收的、在步骤2906用于识别目标车辆的同一图像。在一些实施例中,可以分析多个图像以确定目标车辆的速度。例如,第一图像可以描绘距主车辆第一距离的目标车辆,第二图像可以描绘距主车辆第二距离的目标车辆,处理设备可以使用第一和第二图像之间的距离和时间的改变来确定与目标车辆相关联的速度。在一些实施例中,可以基于对来自与主车辆相关联的LIDAR系统或RADAR系统中的至少一个的输出的分析来确定目标车辆速度。例如,处理设备可以使用主车辆的速度和主车辆与目标车辆之间的距离(例如由LIDAR系统感测的)来确定主车辆的速度。
在一些实施例中,考虑到最坏的场景,处理设备可以被编程为假定目标车辆的当前速度小于或大于感测的目标车辆的速度。例如,如果目标车辆在主车辆前方行驶,则处理设备可以被编程为使用预定值、百分比、公式等来降低感测的速度。如果处理设备基于来自一个或多个传感器的信息来确定目标车辆正以100km/hr行驶,则它可以将感测的速度调整10%以假定车辆正以90km/hr行驶。目标车辆的速度可以与目标车辆的制动率相关联,因此假定目标车辆的降低的速度类似于假定目标车辆可能比其他情况下更快地停止(例如,如果目标车辆以90km/hr的速度行驶,可以比以100km/hr的速度行驶更短的距离内停止)。
与本公开一致,至少一个处理设备可以被编程为基于辨识的目标车辆的至少一个特性来假定目标车辆的最大加速能力和/或车辆制动率。该至少一个特性可以是已知与加速或制动能力相关或者可能与加速或制动能力相关的任何特性。在一些实施例中,辨识的目标车辆的特性可以包括车辆类型、分类、品牌、型号、尺寸等,如上所述。在一些实施例中,目标车辆的速度可以至少部分地基于道路路段的公共速度轮廓(或其他公共速度信息)来确定,如下面进一步详细描述的。
处理设备可以被编程为从来自一个或多个传感器(例如,LIDAR、RADAR、成像设备等)的信息中辨识至少一个特性)。在一些实施例中,可以基于对至少一个图像的分析来确定辨识的目标车辆的特性。例如,目标车辆的图像可以包括目标车辆外部的文本,其可用于确定车辆类型、车辆型号、车辆尺寸或其他特性。作为另一示例,目标车辆的图像可以包括其他对象,其可以用于基于与其他对象的比较来近似车辆尺寸或其他特性。例如,大型车辆可能看起来比限速标志高,而小型车辆可能看起来比限速标志矮。在一些实施例中,可以基于LIDAR输出或RADAR输出中的至少一个来确定目标车辆的至少一个特性。例如,LIDAR输出可以包括与到目标车辆的后保险杠的距离相关联的第一距离和与到目标车辆的前保险杠(或其他区域)的距离相关联的第二距离,它们之间的差可以用于估计目标车辆的尺寸。也可以基于成像特征(例如刹车灯、轮胎、侧视镜等)的已知尺寸来估计目标车辆的尺寸。对对象如何从一个图像缩放到另一个图像的确定也可以用于预测目标车辆尺寸或范围。
如上所述,目标车辆制动率可对应于车辆的最大或次最大制动率。目标车辆制动率或目标车辆最大加速能力可以通过与本公开一致的任何手段来确定,包括以上在步骤2910中针对主车辆所描述的手段。例如,目标车辆制动率可以基于所感测的路面状况、所感测的天气状况等来确定。在一些实施例中,车辆制动率可以取决于与主车辆或目标车辆相关联的责任或过失特性。因此,主车辆制动率可能小于目标车辆制动率,反之亦然。
过程2900可包括用于基于目标车辆制动率、目标车辆最大加速能力和目标车辆的当前速度来确定目标车辆的停止距离的步骤2916。如果目标车辆在以预定制动率制动之前以其最大加速能力加速一段时间,则在给定其当前速度的情况下,目标车辆的停止距离可以是目标车辆停止所需的距离。例如,目标车辆的停止距离可以包括加速距离,该加速距离对应于目标车辆从所确定的目标车辆的当前速度开始以目标车辆的当前最大加速能力在预定时间段内可以行驶的距离。该距离可以通过与本公开一致的任何手段来确定,包括以上在步骤2912中针对主车辆所描述的手段。
如果计划的导航动作是安全的,则过程2900可以包括用于实现计划的导航动作的步骤2918。出于步骤2918的目的,何时计划的导航动作可以被认为是安全的一个示例是当确定的下一状态距离大于主车辆的停止距离和目标车辆的停止距离之和时。在这种情况下,在主车辆和目标车辆之间将不会发生碰撞,因为如果执行导航动作,两个车辆的停止距离(包括假定在反应时间段期间以最大加速度时行驶的潜在距离)将允许车辆在碰撞之前完全停止。
出于步骤2918的目的,当计划的导航动作可以被认为是安全的另一示例是当确定的下一状态距离比主车辆的停止距离和目标车辆的停止距离之和大至少预定的最小距离时。在该实施例中,预定的最小距离可以是dmin并且可以是通过与本公开一致的任何手段来预定的或确定的,并且具有上述任何属性。在一些实施例中,预定的最小距离可以对应于主车辆和其他车辆之间要保持的预定的间隔距离。例如,自主导航系统的约束可以规定自主车辆永远不会进入(小于)其他车辆的指定距离内。预定的间隔距离可以是任何维度的距离。在一些实施例中,预定的间隔距离至少为一米、两米、五米等。在一些实施例中,预定的距离可以取决于例如主车辆行驶的速度、主车辆的位置(例如,城市道路、乡村道路等)而变化。
公共速度映射
如上所描述,道路导航模型可以基于由穿过道路路段的车辆收集的导航信息来生成。道路导航模型可存储与特定道路相关联的各种特征或特性相关的信息。例如,道路路段地图可以指示一个或多个车道或道路路段的其他可导航部分(或车辆可以在其上导航的任何其他位置或表面,诸如停车场、田野、土路等)的目标速度。在一些情况下,车道或道路路段的其他可导航部分统称为可驾驶路径或单数形式的可行驶路径。例如,自主车辆导航地图(例如REMTM地图和Mobileye RoadbookTM技术)上的可驾驶路径可以被表示为3D样条,其表示车辆可以沿着其驾驶的路径。这些可驾驶路径可以包括单独的道路车道和其他这样的路径。
在一些实施例中,目标速度可以由应用于一段道路的速度限制或其他速度来指定。因此,当导航道路时,自主或半自主车辆可以使用道路导航模型中存储的速度限制作为目标速度。然而,在一些情况下,存储特定道路路段的其他形式的速度数据而不依赖于速度限制或其他指定的速度可能是有益的。例如,在一些地区,速度限制可能不容易用于所有可驾驶路径。诸如私人车道、停车场、出口或入口坡道、乡村道路等区域可能没有指定的速度限制。此外,速度限制经常突然转变,并且可能不一定对应于车辆实际如何导航可驾驶路径。此外,在长路段中,可能不清楚不同速度限制之间的转变发生在哪里。
为了解决这些和其他问题,所公开的实施例可以提供与道路路段相关联的公共速度值的收集和存储,该公共速度值然后可以被自主或半自主车辆用于导航该道路路段。公共速度值可以基于来自多个车辆的多个驾驶的车辆速度信息的众包来生成。然后,该速度数据可以用于生成沿着道路的公共速度轮廓,这可以提供穿过道路路段的合适速度的更准确表示。在一些实施例中,可以基于收集数据的状况来处理和/或过滤速度轮廓数据。这可以使基于公共速度轮廓导航的车辆能够基于车辆经历的当前状况做出关于适当目标速度的更明智的决定。
图30A示出了与所公开的实施例一致的用于收集和存储沿着道路路段的公共速度数据的示例系统3000。如图所示,系统3000可以包括至少一个服务器3040。服务器3040可以生成(例如,通过服务器3040中包括的处理器)道路路段3010的自主车辆道路导航模型的至少一部分。例如,当车辆3020和3030穿过道路路段3010时,服务器3040可以从车辆3020和3030收集导航信息。在一些实施例中,车辆3020和3030可以是自主或半自主车辆。例如,如上所描述,车辆3020和3030可以对应于系统100。服务器3040可以将导航信息存储在非暂时性计算机可读介质上,诸如,硬驱动器、光盘、磁带、存储器等。如上所描述,服务器3040可以基于从在不同时间在道路路段的车道上行驶的多个车辆(例如,3020和3030)接收的众包数据(例如,导航信息)来确定与每个车道相关联的轨迹。服务器3040可以基于基于众包导航数据确定的多个轨迹来生成自主车辆道路导航模型或模型的一部分(例如,更新的部分)。
与本公开一致,导航信息可以包括车辆3020和3030在穿过道路路段3010时的速度。例如,这可以包括一个或多个速度的指示符3022和3032,如图30A所示。这些速度的指示符可以用任何合适的方式来表示。在一些实施例中,这可以包括测量或记录的速度,诸如来自车辆3020和3030车载的速度计或GPS设备的输出。替代地或附加地,速度数据可以由与时间戳信息相关联的位置或定位信息来表示。因此,服务器3030可以基于车辆3020和3030的位置随时间的改变来确定速度数据。如贯穿本公开所描述的,可以以各种方式确定定位信息。例如,这可以包括基于由车辆3020的相机捕获的图像数据确定的定位,其可以用于识别车辆3020附近的地标的表示,并且确定相对于地标的已知定位的定位。服务器3030可被配置为存储沿着道路路段3000的各个点的该速度数据,该速度数据可以与该道路路段的道路导航模型一起存储(或作为其一部分)。在一些实施例中,服务器3000可以对收集的速度数据执行各种分析,如下面进一步详细描述的。例如,这可以包括对收集的数据进行各种形式的过滤、分类和/或处理,以形成该道路路段的一个或多个聚合的公共速度轮廓。
图30B示出了与所公开的实施例一致的系统3000沿着道路路段导航的使用。如图30B所示,服务器3040可以向一个或多个自主或半自主车辆,例如主车辆3050,发送公共速度轮廓信息3042。公共速度轮廓信息3042可以包括至少目标速度和道路路段的标识符。在一些实施例中,公共速度轮廓信息3042可以被包括在道路导航模型中,其可被主车辆3050用于导航道路路段3010。因此,发送公共速度轮廓信息可以包括将道路导航模型(或道路导航模型的更新部分)分发给主车辆3050。公共速度轮廓信息可以由自主车辆用于沿着道路路段3010自主导航。例如,主车辆3050可以被配置为基于公共速度轮廓确定用于导航道路路段3010的目标速度,并且可以基于所确定的目标速度调整主车辆3050的速度。在一些实施例中,主车辆3050可以使用公共速度轮廓信息来做出关于沿着道路路段3010行驶的其他车辆的速度的假定。例如,如果目标车辆3060在道路路段3050上行驶在主车辆3050的前面,主车辆3050可以使用公共速度轮廓信息来确定主车辆3050的目标速度。这可能是有用的,例如,确定主车辆3050是否可以实施某些导航动作,同时保持主车辆3050和目标车辆3060之间的安全距离。驾驶策略的示例是由Mobileye开发和实施的责任敏感安全性(“RSS”)技术,该策略使用关于其他车辆速度的假定来确定主车辆是否可以实施某些导航动作,同时保持主车辆和目标车辆之间的安全距离。
虽然道路路段3010在图30A和30B中被示为直线道路,但是相同或类似的技术可以用于任何形式的可驾驶路径。例如,可以为其他可驾驶路径生成公共速度轮廓信息,例如交叉路口、弯道、环形路、入口或出口坡道、加速或减速车道、桥梁、停车场、通道等。在一些实施例中,道路路段可以包括多个车道(或多个可驾驶路径)。例如,如图30A所示,道路路段3010可以包括车道3012、3014和3016。在一些实施例中,可以生成应用于该道路路段的所有车道的公共速度轮廓。替代地或附加地,可以为每个车道生成单独的公共速度轮廓。例如,可以基于沿车道3012行驶的车辆(例如车辆3020)为车道3012生成公共速度轮廓,并且可以基于沿车道3012行驶的车辆(例如车辆3030)为车道3016生成单独的公共速度轮廓。因此,当导航道路路段3010时,主车辆3050可以基于特定于车辆的当前车道的特定公共速度信息来确定目标速度(或预测其他车辆的速度)。
图31示出了与所公开的实施例一致的可以由车辆收集的示例速度信息3110。在所示的示例中,如上所描述,车辆3020可以在其穿过道路路段3010时收集速度信息3110。在一些实施例中,可以沿着道路路段3010以各种间隔收集和/或存储速度信息。例如,车辆3020的速度值可以与沿着道路路段3010的各种位置指示符相关联地存储,例如位置指示符3102。位置指示符可以根据各种间隔而隔开,如距离D1所指示的。D1可以是用于建立道路路段3010的速度轮廓的任何合适的距离,并且图31中所示的间距不一定与道路路段3010或车辆3020成比例。例如,D1可以是1米、2米、5米、10米、20米、35米、65米、100米的距离,或者任何合适的距离。在一些实施例中,可以选择间距来限制为给定路道路段存储的速度数据量,同时提供足够的粒度来建立准确的速度轮廓。例如,位置指示符可以间隔开至少5米并且小于100米,或者其他合适的范围。在一些实施例中,间隔可以不均匀。例如,位置指示符的定位可以对应于车辆3020和其他车辆收集速度数据的点。替代地或附加地,服务器3040可以指定用于存储速度数据的预定的位置。因此,车辆3020可以被配置为根据预定的位置指示符提供速度数据。替代地或附加地,车辆3020可以提供所有收集的数据,并且服务器3040可以仅存储与位置指示符相关联的数据。这可以包括丢弃与位置指示符不相关的数据、内插收集的数据以确定与位置指示符相关的速度等。
如图31所示,速度信息3110可以包括与每个位置指示符相关联的速度值。例如,速度信息3110可以包括对应于位置指示符3102的速度值3122。如图所示,可以为沿着道路路段的每个位置指示符记录相似的速度值。因此,车辆3020行驶速度的曲线可以在由车辆3020收集的驾驶信息中表示。如上所述,速度信息3310可以不必包括表示为显式速度值的速度,并且可以包括诸如定位信息和相应时间数据之类的数据,根据这些数据可以确定速度值。因此,除了显式速度值,例如速度值3122,由车辆3020收集的驾驶信息可以包括位置和时间信息,并且每个位置指示符的速度值可以由车辆3020、服务器3040或两者计算。在一些实施例中,速度信息3110还可以包括表示在沿着道路路段3010的各个点收集的速度值的速度轮廓3120。例如,速度轮廓3120可以是最佳拟合线,例如用于对车辆3020随时间的速度建模的线性、多项式、指数、对数或幂曲线。在一些实施例中,代替特定速度值或除了特定速度值之外,可以提供用于表示特定范围上的速度轮廓3120的各种系数。
车辆3020可以将收集的驾驶信息发送给服务器3040。基于从多个车辆(例如,车辆3020、3030等)接收的速度的指示符),服务器3040可以生成道路路段3010的聚合的公共速度轮廓。在一些实施例中,服务器3040可以以各种方式处理从多个车辆收集的驾驶信息,以生成聚合的公共速度轮廓。例如,服务器3040可以被配置为解析、格式化、调整、增加、补充、编辑或以其他方式修改速度数据以用于优化目的,或者以其他方式使数据与一个或多个车辆使用的驾驶策略兼容,所述一个或多个车辆需要速度数据或可以从速度数据中受益。
由服务器3040生成的聚合的公共速度轮廓可以是多个车辆在沿着道路路段的不同点行驶的速度的任何表示。图32示出了与所公开的实施例一致的可以生成的示例聚合的公共速度轮廓3200。如上所描述,可以基于从穿过同一道路路段的多个车辆收集的驾驶信息来生成聚合的公共速度轮廓3200。如上文参考图31所描述,该驾驶信息可以包括沿着道路路段的各个定位的速度的指示符。例如,如图32所示,聚合的公共速度轮廓3200可以包括速度数据3202、3204、3206、3208和3210。速度数据3202、3204、3206、3208和3210中的每个可以已经由穿过道路路段3010的不同车辆收集。在一些实施例中,聚合的公共速度轮廓3200可以应用于道路路段3010的所有车道。替代地或附加地,可以为每个车道或车道组生成聚合的公共速度轮廓。因此,聚合的公共速度轮廓3200可以与车道3012、3014和3016中一个或多个相关联(如图30A所示)。
如上所描述,该速度数据可以以各种方式表示。例如,这可以包括以各种间隔隔开的多个速度值。在一些实施例中,驱动信息可以包括与聚合的公共速度轮廓3200相关联的位置指示符中的每个的速度值,例如位置指示符3230。速度数据可以包括速度值,该速度值可以不必限于这些位置指示符的间距,并且可以包括更高或更低分辨率的点。速度数据可以以各种其他形式表示,包括最佳拟合或其他代表性曲线、位置和定位数据等。
聚合的公共速度轮廓3200可以以各种形式表示。在一些实施例中,聚合的公共速度轮廓3200可以包括存储的每个位置指示符处所有车辆的速度值,如图32所示。换句话说,对于沿着道路路段3010的每个位置指示符,服务器3040可以存储从沿着该道路路段行驶的车辆在该位置指示符处收集的一组速度值。在一些实施例中,服务器3040可以进一步处理这些存储的速度值。例如,这可以包括对在位置指示符中的每个处收集的速度值进行平均。如图32所示,这可以包括确定位置指示符中的每个处的聚合的公共速度。例如,对于位置指示符3230,服务器3040可以确定公共速度值3230,其可以表示与位置指示符3230相关联的不同车辆的平均速度。如图所示,可以类似地为位置指示符中的每个确定公共速度值。在一些实施例中,服务器3040可以确定表示这些常见速度值的模型或曲线3220。例如,这可以是最佳拟合线,例如用于对车辆随时间的公共速度建模的线性、多项式、指数、对数或幂曲线。因此,当沿着道路路段3010在与位置3230相关联的定位导航时,主车辆3010可以使用速度值3232作为导航的目标速度,如下面进一步描述的。
在一些实施例中,可以为位置指示符中的每个(或沿着路段的其他点)定义范围。例如,如图32所示,这可以包括范围3234。范围3234可以表示主车辆在与位置指示符3230相关联的定位导航时应该行驶的目标速度的范围。这可以表示主车辆3050要使用的速度上限和下限。该范围可以以各种方式限定。在一些实施例中,该范围可以被限定为包括数据3202、3204、3206、3208和3210的所有速度值。替代地或附加地,范围3234可以是更宽或更窄的速度范围。例如,可以基于数据3202、3204、3206、3208和3210的速度值的统计分析来确定范围的上限和下限。这可以包括基于所收集的速度数据的不同百分位数、标准偏差等的范围。
在一些实施例中,可以为一个或多个位置指示符生成速度子轮廓。这些子轮廓可以是沿着道路路段穿过特定定位的所有车辆中的一些的车辆速度的曲线或其他表示。图33示出了与公开的实施例一致的可以生成的示例速度子轮廓3300。如图33所示,速度子轮廓3300可以与位置指示符3230相关联,并且可以表示与位置指示符3230相关联的所收集的一些或所有速度数据。在一些实施例中,速度子轮廓3310可以包括表示与位置指示符3230相关联的速度值的函数3310。例如,函数3310可以是表示车辆在该位置行驶的速度分布的高斯曲线。可以使用用于每个位置指示符的各种其他形式的分布、函数或统计分析。基于函数3310,可以定义各种限制或范围。例如,速度的下限3312和上限3314可以基于偏离平均值或其他平均值的多个标准偏差来确定。在一些实施例中,这些上限和下限可以定义范围3234。可以使用用于基于函数3310来限定上限和下限的各种其他度量,这可以取决于函数的类型或其他因素。在一些实施例中,可以选择速度子轮廓3310中的速度值。例如,可以基于速度子轮廓3310来选择平均值、中值或其他统计值。
在一些实施例中,速度子轮廓3310可以由服务器3040分析,并且该分析的结果可以提供给主车辆3050。例如,服务器3040可以使用速度子轮廓3310来确定目标速度值,例如下限3312和上限3314,并且可以将这些提供给主车辆3050。替代地或附加地,速度子轮廓3310可以由主车辆3050分析。例如,速度子轮廓3310可以与导航模型相关联地存储,并且可以提供给主车辆3050。进而,主车辆3050可以基于对子轮廓3310的分析选择目标速度。例如,主车辆3050可以基于当前状况、用户偏好等选择目标速度。下面描述关于主车辆3050选择速度的附加细节。类似的速度子轮廓及其分析可以应用于沿着道路路段3010的一些或所有其他位置指示符。
沿着道路路段的一个或多个车辆报告的各种速度不一定适用于所有情况。因此,服务器3040可被配置为在生成公共速度轮廓时分类、过滤或以其他方式处理收集的速度数据。例如,在一些情况下,异常速度数据可以被包括在驾驶信息中,其可以从聚合的公共速度轮廓数据中被过滤或排除。例如,这可能是由于GPS信号中的误差引起的,这可能导致异常的速度数据点。作为另一示例,一个或多个车辆可能以不希望用作目标速度的参考的方式驾驶。例如,如果车辆以明显高于其他车辆的速度或高于另一参考速度(例如指定速度限制)的速度驾驶,这些记录的速度值可能不会反映速度系统3000应该提供或包括的用于确定目标速度的速度。这同样适用于行驶过慢的车辆。例如,如果车辆在缓慢移动的车辆后面,由该车辆记录的速度可能类似地不希望提供或包括用于确定目标速度。此外,目标速度可能取决于当前的驾驶状况。例如,由在下雪状况下行驶的车辆收集的速度的指示符可能不适用于在温暖、干燥天气状况下沿该道路路段行驶的车辆,但是可能高度适用于在类似下雪状况下沿该道路路段行驶的车辆。
系统3000可以以各种方式考虑这些速度变化。在一些实施例中,这可以包括从聚合的公共速度轮廓3200中过滤掉或排除一个或多个速度值。这可以包括过滤掉一个或多个车辆的单个速度值、速度值组或整个驾驶。例如,如图32所示,速度数据3210可以是聚合的公共速度轮廓3200中所示的其他速度数据的异常值。这可能是由于收集速度数据3210的车辆在正常速度范围之外驾驶(例如,超过另一车辆、在紧急情况下导航等),在与收集数据3203、3203、3206和3208的其他车辆不同的道路或车辆状况下驾驶,报告异常数据(例如,由于传感器中的误差或不准确等)等造成的。因此,服务器3040可在生成聚合的公共速度轮廓3200时排除与数据3210相关联的一个或多个速度值。例如,这可以包括在存储的与位置指示符3230相关联的速度值中省略速度值3212。替代地或附加地,这可以包括从基于与位置指示符3230相关联的数据的一个或多个计算中省略速度值3212。例如,这可以包括在确定公共速度值3232、范围3234或速度子轮廓3300时省略速度值3212。在一些实施例中,所有数据3210可以从聚合的公共速度轮廓3200中排除。可选地或附加地,可以排除单个点或点组。例如,尽管速度值3212被省略,但是速度值3214仍然可以与其相应的位置指示符相关联地被包括在聚合的公共速度轮廓3200中。
可以以各种方式确定是否应该排除速度值3212。在一些实施例中,基于速度值与由其他车辆收集的速度值的比较,可以排除速度值。例如,可以维护一个或多个位置指示符的平均速度值。偏离该平均值超过阈值量的任何收集的点可以被省略或者至少被标记为潜在异常。替代地或附加地,可以基于包括在相同速度轮廓中的其他速度值来排除速度值。例如,基于数据3210中的其他速度值,可以省略速度值3212。在一些实施例中,这可以包括应用平滑算法,例如卡尔曼滤波器,或者可以用于识别数据中的统计噪声或不准确性的另一算法。
作为另一示例,可以基于与特定速度轮廓相关联的特性或性质来排除一个或多个速度值。因此,可以省略与特定特性或特性的集合相关联的一个或多个速度值(或一个或多个速度轮廓)。在一些实施例中,该特性可以是收集了包括速度值的驾驶信息的车辆的特性。这可以包括车辆类型(例如,汽车、摩托车、货车、半卡车、公共汽车、拖拉机、小型摩托车或各种其他类型)、车辆的品牌、车辆的型号、生产年份或车辆的其他分类。作为另一示例,这可以包括车辆的当前状态或状况。例如,可以排除需要维护的车辆的速度数据。在一些实施例中,该特性可以是道路路段或环境的状况。例如,这可以包括记录驾驶信息时的天气状况,例如是否下雪、结冰、下雨、有雾等。作为另一示例子,收集数据的一天中的时间可以用于过滤数据。例如,在夜间收集的数据可以相对于在白天收集的数据进行过滤。作为另一示例,驾驶信息的特性可以包括记录驾驶信息期间的交通状况。例如,可以省略与拥堵的驾驶相关联的速度数据。在一些实施例中,可以记录最近路径距离(或与收集驾驶信息的车辆在同一路径上的最近车辆的距离),并将其用于从聚合的公共速度轮廓3200过滤数据。这个最近路径距离可以以距离或时间来表示。例如,最近路径距离可以是车辆和最近路径车辆之间的距离,或者是车辆以该车辆的当前速度到达最近路径车辆的位置所花费的时间。可以设置基于最接近路径距离的各种阈值或限制(例如,20米、30米、1秒、1.5秒、2秒或任何其它合适的值)以从聚合的公共速度轮廓3200中排除数据。可以记录在来自车辆的驾驶信息中或者以其他方式从来自车辆的驾驶信息确定的任何其他特性可以类似地用于过滤数据。
在一些实施例中,除了滤速度值,可以与其他速度值不同地对反常或异常速度值进行加权。例如,在确定公共速度值3232时,速度值3212仍然可以被考虑,但是可以被赋予比其他速度值更低的权重,并因此可以对公共速度值3232的值具有更低的影响。因此,用于识别要被过滤的值的各种方式中的任何一种都可以等同地应用于识别不同于其他值进行加权的值。例如,经历前方小于20米或前方小于1.5秒的最近路径车辆的车辆可以比与没有经历前方小于20米或前方小于1.5秒(或任何其他合适的阈值)的最近路径车辆的车辆相关联的驾驶信息更小地加权。作为另一示例,与汽车或卡车相关联的驾驶信息可以比与公共汽车或其他移动较慢的车辆相关联的驾驶信息更大地权重。
根据一些实施例,服务器3040可以不从聚合的公共速度轮廓3200中过滤或省略数据。因此,尽管聚合的公共速度轮廓3200可以包括一些异常速度值,但是主车辆3050可以被配置为选择目标速度,假定这些异常被包括在内。例如,服务器3040可以提供道路导航模型,该模型包括与沿着道路路段的不同位置指示符相关联的各种速度子轮廓。例如,如上所描述,这可以包括速度子轮廓3300。当主车辆3050沿着道路路段3010在与位置指示符3230相关联的位置处或附近导航时,它可以选择目标速度(或目标速度范围),也如上所描述。由于函数3310的使用,异常值不会显著影响目标速度的确定。例如,异常速度值可以表示在函数3310的最外面的点上。在一些实施例中,主车辆3050可以在异常数据未被过滤的实施例中选择与服务器3040过滤异常数据的实施例不同的目标速度范围或值。例如,当速度子轮廓3300中包括异常数据时,主车辆可以选择比已经过滤掉异常值时更小或更保守的速度值范围,反之亦然。在选择目标速度或速度范围时,也可以考虑各种其他因素,例如主车辆3050经历的当前状况,如下面进一步讨论的。这也可以取决于速度子曲线3300是否已经被过滤(例如,基于不同的状况)而变化。例如,如果主车辆3050在下雪状况下导航,它可以确定在包括所有状况的速度子轮廓中表示的第40百分位速度附近的目标速度,但是可以为速度子轮廓选择较低的速度(例如,第10百分位),在该速度子轮廓中已经排除了恶劣天气状况下的驾驶。
在一些实施例中,服务器3040可以生成多个聚合的公共速度轮廓,每一个基于不同的特性,而不是生成单个聚合的公共速度轮廓3200,其中过滤掉某些特性。图34示出了与所公开的实施例一致的可以针对不同特性开发的多个聚合的公共速度轮廓。举例来说,如图34中所示,可以针对晴天或正常天气状况生成聚合公共速度轮廓3410,而可以针对雨天状况生成单独的聚合的公共速度轮廓3420。作为另一示例,可以为不同的交通状况,例如不同的拥堵级别,生成单独的聚合的公共速度轮廓,如聚合的公共速度轮廓3430所示。替代地或附加地,与这些状况相关联的数据可以被丢弃,因为主车辆使用的目标速度可以取决于到主车辆前方的车辆的距离,而不是聚合的公共速度轮廓。
驾驶信息的各种特性中的任何一种都可以用于将数据分类到不同的聚合的公共速度轮廓中。例如,可以为不同的车辆类型、车辆状况等生成不同的聚合的公共速度轮廓。在一些实施例中,可以基于特性的组合来生成聚合的公共速度轮廓。例如,可以为在雪中驾驶的公共汽车生成一个聚合的公共速度轮廓,可以为在干燥天气状况下行驶的公共汽车生成另一聚合的公共速度轮廓,并且可以为在干燥天气状况下行驶的紧凑型汽车生成第三聚合的公共速度轮廓。因此,基于不同的特性的集合,可以以不同程度的特异性生成不同的聚合的公共速度轮廓。因此,当沿着道路路段3010导航时,主车辆3050可以选择最匹配道路路段3010和主车辆3050的当前状况的聚合的公共速度轮廓。在一些实施例中,这也可能影响用于确定目标速度的计算。例如,当在结冰状况下驾驶时,主车辆3050可以选择与也在结冰状况下驾驶的车辆收集的驾驶信息相关联的聚合的公共速度轮廓。因此,主车辆3050可以确定接近平均速度的目标速度(例如,速度子轮廓内的第50个百分位的速度)是合适的,而如果使用包括所有状况的更一般化的聚合的公共速度轮廓,则所选择的目标速度可以相对于速度子轮廓低得多(例如,第15个百分位),以考虑结冰状况。
在一些实施例中,当收集数据时,服务器3040可以动态地生成不同的聚合的公共速度轮廓。例如,服务器3040可以最初生成包括一种或多种类型的特性或状况的聚合的公共速度轮廓3200。然后,一旦为特定特性收集了足够的数据,它可以动态地将该数据分解成不同的聚合的公共速度轮廓。例如,与下雨状况相关联的数据可以从聚合的公共速度轮廓3200中拉出(pull),以生成聚合的公共速度轮廓3420。类似地,一旦为特性的附加组合收集了足够数据,聚合的公共速度轮廓3420可以被细分。例如,可以为不同级别的雨、车辆类型和下雨状况的不同组合等生成单独的聚合的公共速度轮廓。
作为另一示例,可以生成一个或多个聚合的公共速度轮廓,并且可以为不同的状况生成对应于不同位置指示符的不同速度子轮廓。图35示出了与所公开的实施例一致的可以为特定驾驶信息特性生成的示例速度子轮廓。例如,聚合的公共速度轮廓3500可以包括与多个不同特性相关联的数据。每个位置指示符可以与针对不同状况的多个速度子轮廓相关联。例如,如图35所示,位置指示符3330可以与表示下雪状况下的速度分布的速度子轮廓3510、表示夜间状况下的速度分布的速度子轮廓3520以及表示正常或干燥状况下的速度分布的速度子轮廓3510相关联。服务器3040可以生成包括在不同位置指示符处的这些多个速度子轮廓的道路导航地图。因此,对于给定的定位,主车辆3050可以为与该定位相关联的位置指示符选择最符合主车辆3050经历的当前状况的速度子轮廓。如上所描述,由主车辆3050选择的目标速度相对于特定速度子轮廓的位置可以取决于与速度子轮廓相关的特性而变化。
以上通过示例提供了用于过滤数据和/或将数据组织成不同的聚合的公共速度轮廓的各种示例方法,以及作为该过滤或数据组织基础的不同特性。应当理解,这些各种实施例是以示例的方式提供的,并且本领域技术人员将认识到可以使用用于过滤和/或组织收集的驾驶信息数据的各种其他方法。此外,上述各种示例中的任何一个都可以与其他示例结合使用。例如,可以生成特定于夜间驾驶的聚合的公共速度轮廓,并且可以过滤用于生成该聚合的公共速度轮廓的数据以去除异常或反常数据。对于不同的车辆类型或其他特性,夜间聚合的公共速度轮廓也可以具有不同的速度子轮廓。因此,上述各种实施例的任何组合可以用于使用不同水平的特异性或性质或特征组合的来生成聚合的公共速度轮廓。
如参考以上各种示例所述,主车辆3050可以从服务器3040接收一个或多个聚合的公共速度轮廓。在一些实施例中,可以以地图的形式接收一个或多个聚合的公共速度轮廓,该地图可以包括自主车辆道路导航模型,如贯穿本公开所描述。因此,自主车辆道路导航模型可以包括用于导航主车辆3050的其他信息,例如目标轨迹(例如,表示为3D样条)等。可以为每个单独的可驾驶路径(例如,每个车道)提供目标轨迹。类似地,在一些实施例中,可以为单独的可驾驶路径或目标轨迹提供聚合的公共速度轮廓,使得例如对于相邻车道,可以提供不同的公共速度轮廓。在一些实施例中,服务器3040可以被配置为基于主车辆3050的当前定位提供地图和/或自主车辆道路导航模型的特定段。例如,主车辆3050可以向服务器3040发送位置指示符。可以基于本文所描述的用于确定车辆的位置的各种技术来确定位置指示符,包括GPS传感器、基于对表示地图地标的捕获图像的分析的车辆定位等。反过来,服务器3040可以发送包括主车辆3050的定位(或包括主车辆3050的计划的行驶路径)的地图段。
主车辆3050可以基于与道路路段相关联的定位和聚合的公共速度轮廓来确定目标速度。例如,主车辆3050可以确定沿着道路路段的当前位置,并且可以基于与聚合的公共速度轮廓相关联的位置指示符来确定对应的目标速度。如上所描述,聚合的公共速度轮廓可以以各种方式表示。例如,聚合的公共速度轮廓可以包括一个或多个公共速度值,例如公共速度值3232,其中的每个可以与特定位置指示符相关联。作为另一示例,自主车辆道路导航模型可以包括聚合的公共速度范围,例如范围3234。因此,主车辆3050可以在对应的速度范围内选择速度。如上所描述,可以基于当前状况,例如当前天气状况、当前交通拥堵级别、一天中的当前时间等,从该范围内选择目标速度。例如,在开阔和干燥状况下,相对于在拥堵的交通和/或不利的天气状况下行驶,可以选择该范围内的更高的目标速度。作为另一示例,目标速度可以基于用户偏好从范围内选择。例如,第一用户可以舒适地以较高速度驾驶,并且可以指示在一个范围内对较高速度的偏好,而第二用户可以指示对较低速度的偏好。各种其他因素,例如货物类型、剩余燃料水平、到目的地的距离、到达目的地的期望时间或其他考虑因素,可以影响在范围内的被选择为目标速度的速度。
在一些实施例中,当确定目标速度时,主车辆3050可以对基于聚合的公共速度轮廓选择的速度与以其他方式确定的速度进行加权。例如,在一些实施例中,主车辆3050可以接收该道路路段的速度限制值的指示。在一些实施例中,速度限制值可以用作由聚合的公共速度轮廓指定的范围的上限。替代地或附加地,服务器3040可能已经强加了速度限制值作为范围的上限。作为另一示例,速度限制值和基于聚合的公共速度轮廓确定的目标速度可以被不同地加权,以确定主车辆3050用于导航的目标速度。在一些实施例中,权重可以是动态可变的。换句话说,速度限制值和基于聚合的公共速度轮廓确定的目标速度之间的相对权重可以取决于各种因素。例如,随着距最后辨识的速度限制标志的距离或自适用速度限制的最后无线发送以来的时间的增加,给予聚合的公共速度轮廓的相对权重可以增加。类似地,在不利的天气状况下,给予聚合的公共速度轮廓的相对权重可以增加,等等。作为另一示例,当没有足够的公共速度轮廓可用时,可以使用速度限制值,反之亦然。主车辆3050使用的速度限制值可以不必是标示的速度限制,而是可以是另一限定的值(例如标示的速度限制的90%)、用户限定的速度限制、基于临时状况(例如工作区等)指定的速度限制),或者可以用于限定速度限制值的任何其他信息。
应当理解,基于公共速度轮廓值的用于导航的技术可以与本文所描述的用于导航主车辆的任何其他技术结合使用。例如,聚合的公共速度轮廓可以用于确定安全纵向距离,如上面详细描述的。例如,主车辆3050可以确定用于实现计划的导航目标的导航动作,例如增加车辆的速度、改变车道、转向等(即,导航动作),以允许主车辆3050从其当前所在的高速公路安全离开(即,导航目标)。主车辆3050可以确定主车辆3050和目标车辆(例如目标车辆3060)之间的下一状态距离,如图30B所示。主车辆3050可以仅在主车辆的确定的当前停止距离加上目标车辆行驶距离小于确定的下一状态距离的情况下实施计划的导航,如以上关于图28所描述。主车辆3050的当前停止距离可以基于主车辆3050的当前最大制动能力、主车辆3050的当前最大加速能力和主车辆3050的当前速度来确定。在一些实施例中,如上所描述,可以基于聚合的公共速度轮廓3200来确定当前速度。类似地,可以基于目标车辆的当前速度和假定的目标车辆的最大制动能力来确定目标车辆3060的目标车辆行驶距离。这里,可以基于与道路路段相关联的聚合的公共速度轮廓来确定目标车辆的当前速度。例如,主车辆3050可以确定目标车辆3060相对于道路路段的当前定位,并且可以基于与该定位相关联的公共速度值或公共速度范围来假定目标车辆3060的当前速度。在一些实施例中,目标车辆3060的假定速度可以不同于主车辆3050在该位置选择的目标速度。例如,为了提供更保守的安全纵向距离,可以假定目标车辆3060的速度比被选择用于导航的速度更高或更低,以提供对目标车辆行驶距离的更保守的估计(基于目标车辆面向的方向)。
图36是示出与所公开的实施例一致的用于收集和分发相对于道路路段的导航信息的示例过程3600的流程图。过程3600可由至少一个处理设备来执行,诸如包括在服务器上的处理设备,诸如服务器3040或本文描述的各种其他设备。应当理解,广川本公开,术语“处理器”被用作“至少一个处理器”的简称。换句话说,处理器可以包括执行逻辑操作的一个或多个结构(例如,电路),无论这些结构是并置的、连接的还是分离的。在一些实施例中,非暂时性计算机可读介质可以包含当由处理器执行时使处理器执行过程3600的指令。此外,过程3600不一定限于图36中所示的步骤,并且贯穿本公开描述的各种实施例的任何步骤或过程也可以被包括在过程3600中,包括上面关于例如图30A、30B和图31-35描述的那些步骤或过程。
在步骤3610中,过程3600可包括接收从穿过该道路路段的多个车辆中的每个收集的驾驶信息。例如,这可以包括从车辆3020和3030收集驾驶信息,如上所描述。因此,从多个车辆中的每个接收的驾驶信息可以是多个车辆中的一个在驾驶穿过路段期间以该速度行驶的一个或多个速度指示符。例如,这可以包括速度的指示符3022和3032。如上所描述,速度的指示符可以以各种形式表示。在一些实施例中,速度的指示符可以包括单独的车辆速度轮廓,例如速度轮廓3120。单独的车辆速度轮廓可以包括多个速度值,每个速度值与沿着道路路段的位置相关联。例如,这可以包括与位置指示符3102相关联的速度值3122。可以基于车辆速度计、GPS单元或与车辆相关联的其他传感器的输出来确定速度值。在一些实施例中,可以由位置信息结合时间数据来确定或表示速度的指示符。
各种其他信息可以包括在收集的驾驶信息中。例如,如上所述,驾驶信息可以包括多个车辆中每个的定位信息。例如,这可以包括沿着道路路段或目标轨迹的纵向定位。作为另一示例,这可以包括车辆在道路路段上的车道定位(例如,车道3012、3014或3016中的一个)。在一些实施例中,驾驶信息可以包括道路路段、环境和/或车辆的各种状况或特性。例如,从多个车辆中的每个收集的驾驶信息可以包括收集驾驶信息的一天中的时间的指示符、收集驾驶信息时经历的交通拥堵级别的指示符、收集驾驶信息时经历的天气状况水平的指示符、收集驾驶信息时经历的路面状况的指示符等。在一些实施例中,驾驶信息还可以包括车辆在穿过道路路段时行驶的实际轨迹。
在步骤3620中,过程3600包括基于从多个车辆中的每个接收的驾驶信息中包括的一个或多个速度的指示符来为该道路路段确定至少一个聚合的公共速度轮廓。例如,如上所描述,这可以包括确定聚合的公共速度轮廓3200、3410、3420、3430或3500中的一个或多个。如上面详细描述的,聚合的公共速度轮廓可以以各种形式表示。例如,聚合的公共速度轮廓可以包括与存储在自主车辆道路导航模型中的相应位置指示符相关联的多个目标速度值、多个速度范围和/或多个速度子轮廓。位置指示符可以在自主车辆道路导航模型中以任何合适的距离间隔开,例如至少5米且小于100米。取决于特定的系统和实现,可以使用其他合适的范围。
可以生成与道路路段的不同特征相关联的聚合的公共速度轮廓。例如,该道路路段可以包括多个车道,并且至少一个聚合的公共速度轮廓可以包括多个车道中的每个的不同的聚合的公共速度轮廓。作为另一示例,道路路段可以包括至少一个交叉路口或环形路,并且至少一个聚合的公共速度轮廓包括特定于至少一个交叉路口或环形路的聚合的公共速度轮廓。作为另一示例,道路路段可以包括至少一个弯道,并且至少一个聚合的公共速度轮廓可以包括特定于至少一个弯道的聚合的公共速度轮廓。在一些实施例中,道路路段可以包括至少一个加速车道或至少一个减速车道,并且至少一个聚合的公共速度轮廓可以包括特定于至少一个加速车道或减速车道的聚合的公共速度轮廓。在一些实施例中,可以生成聚合的公共加速度或减速度轮廓,而不是聚合的公共速度轮廓,聚合的公共加速度或减速度轮廓可以限定加速度或减速度值,类似于本文所描述的速度值。因此,除了收集速度数据之外或作为收集速度数据的替代,可以收集加速度或减速度数据并将其用于生成类似的聚合的公共加速度或减速度轮廓。在一些实施例中,可以基于聚集的公共速度数据来确定这些聚合的共同加速度或减速度轮廓。例如,可以基于公共速度轮廓的导数来确定加速度轮廓。本领域技术人员将理解,使用长期规划的驾驶策略系统可以使用车辆的当前定位前方定位的聚合的公共速度数据,并且这种聚合的公共速度数据与长期规划算法一起可以用于(直接地或间接地)推断车辆的当前定位前方的加速度(或减速度)轮廓。
在使用多个预定的范围(例如范围3234)的实施例中,多个速度范围中的每个可以对应于与沿着道路路段的特定定位的众包速度轮廓相关联的预定的速度范围。例如,预定的速度范围可以被设置为下限3312和上限3314,如图33所示。针对这些限制,可以使用各种值。例如,预定的速度范围可以具有沿着道路路段的特定定位的众包速度轮廓的第40至60个百分位之间的下限和第70至90个百分位之间的上限。
在使用速度子轮廓的实施例中,多个速度子轮廓中的每个可以对应于沿着道路路段的特定定位的众包速度轮廓。例如,速度子轮廓可以包括与多个车辆的速度相关联的高斯曲线或其他分布函数,如图33所示的速度子轮廓3300。在一些实施例中,可以生成沿着道路路段的每个定位的多个众包速度轮廓。众包速度轮廓中的每个与不同类别的状况相关联,在不同类别的状况期间,从多个车辆中的每个收集驾驶信息。例如,这可以包括如上所描述的速度子轮廓3510、3520和3530。不同类别的状况可以包括拥堵驾驶、恶劣天气驾驶、夜间驾驶、不拥堵驾驶、晴朗天气驾驶或可能影响车辆速度的任何其他类别的状况。
在一些实施例中,过程3600包括过滤驾驶信息以从聚合的公共速度轮廓中排除驾驶信息(或驾驶信息的一部分)。如上所描述,可以从至少一个聚合的公共速度轮廓的确定中排除与拥堵驾驶相关联的驾驶信息。例如,在确定至少一个聚合的公共速度轮廓时,与经历前方小于20米或前方小于1.5秒的最近路径车辆的车辆相关联的驾驶信息的权重小于与没有经历前方小于20米或前方小于1.5秒的最近路径车辆的车辆相关联的驾驶信息的权重。在其他示例中,也可以从至少一个聚合的公共速度轮廓的确定中排除与恶劣天气状况、夜间驾驶等相关联的驾驶信息。在一些实施例中,如上所描述,可以排除单独的数据点。例如,可以至少部分地使用平滑算法来生成至少一个聚合的公共速度轮廓。
替代地或附加地,可以针对不同类别的状况生成单独的聚合的公共速度轮廓,如以上参考图34所描述。换句话说,所述至少一个聚合的公共速度轮廓可以包括多个聚合的公共速度轮廓,并且多个聚合的公共速度轮廓中的每个可与不同类别的状况相关联,在不同类别的状况期间,从多个车辆中的每个收集驾驶信息。状况的类别可以对应于上述驾驶信息的任何特性。例如,不同类别的状况可以包括拥堵驾驶、恶劣天气驾驶、夜间驾驶、不拥堵驾驶、晴朗天气驾驶等。
在步骤3630中,过程3600包括在与道路路段相关联的自主车辆道路导航模型中存储至少一个聚合的公共速度轮廓。例如,如上所描述,服务器3040可以存储聚合的公共速度轮廓3200。在一些实施例中,各种其他信息可以存储在自主车辆道路导航模型中,如贯穿本公开所描述的。例如,过程3600还可以包括基于多个车辆沿着道路路段行驶的实际轨迹的聚合,确定该道路路段的至少一个目标轨迹并将其存储在道路导航模型中。如上所描述,至少一个目标轨迹可以存储为三维样条。作为另一示例,自主车辆道路导航模型还可以包括识别至少一个地标及其沿着道路路段的位置的信息。例如,至少一个地标可以包括交通标志、箭头标记、车道标记、虚线车道标记、交通灯、停车线、方向标志、地标信标或灯柱中的至少一个,如本文所描述。
在步骤3640中,过程3600包括将自主车辆道路导航模型分发给一个或多个自主车辆,用于沿着道路路段导航。例如,这可以包括将自主车辆道路导航模型分发给主车辆3050,如上所描述。主车辆3050可以使用在自主车辆道路导航模型中的聚合的公共速度轮廓来导航道路路段。例如,如下所描述,这可以包括实现过程3700。
图37是示出与公开的实施例一致的用于基于聚合的公共速度信息来导航主车辆的示例过程3700的流程图。过程3700可以由车辆的至少一个处理设备执行,例如处理设备110。在一些实施例中,非暂时性计算机可读介质可以包含当由处理器执行时使处理器执行过程3700的指令。此外,过程3700不一定限于图37中所示的步骤,并且贯穿本公开所描述的各种实施例的任何步骤或过程也可以被包括在过程3700中,包括上面关于例如图30A、30B和图31-36所描述的那些步骤或过程。
在步骤3710中,过程3700包括从服务器接收包括自主车辆道路导航模型的地图。例如,如上所描述,步骤3710可以包括从3040接收地图。自主车辆道路导航模型可以包括存储的与道路路段相关联的至少一个聚合的公共速度轮廓。例如,如上所描述,这可以包括确定一个或多个聚合的公共速度轮廓3200、3410、3420、3430或3500。因此,可以已经基于在道路路段的先前穿过期间从多个车辆收集的速度信息的聚合来生成至少一个聚合的公共速度轮廓。如上面详细描述的,聚合的公共速度轮廓可以以各种形式表示。例如,聚合的公共速度轮廓可以包括与存储在自主车辆道路导航模型中的相应位置指示符相关联的多个目标速度值、多个速度范围和/或多个速度子轮廓。在一些实施例中,至少一个聚合的公共速度轮廓可以包括多个聚合的公共速度轮廓。
在一些实施例中,从服务器接收的地图可以是由服务器基于所发送的主车辆位置的指示符来选择的地图段。因此,步骤3710可以包括接收主车辆的至少一个位置指示符,并将位置指示符发送到服务器。例如,主车辆的至少一个位置指示符可以由GPS单元或主车辆定位单元提供,或者主车辆定位单元被配置为基于对表示地图地标的捕获图像的分析来确定车辆位置,如上所描述。
在步骤3720中,过程3700包括基于存储在自主车辆道路导航模型中的至少一个聚合的公共速度轮廓并且对于与道路路段相关联的至少一个定位,确定主车辆的对应的目标速度。例如,其中可以由GPS单元或定位单元确定主车辆的至少一个位置指示符,该GPS单元或定位单元被配置为基于对表示地图地标的捕获图像的分析来确定车辆位置,如上所描述。该至少一个位置指示符可以与和聚合的公共速度轮廓相关联的位置指示符进行比较,以确定目标速度。
如本文所描述,可以各种方式确定对应的目标速度。在一些实施例中,可以基于存储在自主车辆道路导航模型中的聚合的公共速度值来确定对应于与道路路段相关联的至少一个定位的主车辆的目标速度。例如,如上所描述,这可以包括公共速度值3232。因此,聚合的公共速度值可以以各种间隔存储在地图中,其长度可以在5米和100米之间,或者其他合适的范围。在一些实施例中,为沿着道路路段的特定定位确定的目标速度可以匹配存储在自主车辆道路导航模型中的至少一个聚合的公共速度值。例如,在与位置指示符3200相关联的定位,步骤3720可以包括确定与公共速度值3232相关联的目标速度。在一些实施例中,步骤3720可以包括在两个公共速度值之间外推,例如平滑速度之间的转换。因此,为沿着道路路段的特定定位确定的目标速度可能落入存储在自主车辆道路导航模型中的两个不同的聚合的公共速度值之间。在一些实施例中,可以使用曲线,例如曲线3320。
作为另一示例,可以基于存储在自主车辆道路导航模型中的聚合的公共速度范围来确定对应于与道路路段相关联的至少一个定位的主车辆的目标速度。例如,聚合的公共速度范围可以以长度在5米和100米之间的间隔(或如上所述的其他合适的间隔)存储在地图中。为沿着道路路段的特定定位确定的目标速度可以从对应于该特定定位的聚合的公共速度范围内选择。在一些实施例中,可以基于主车辆经历的至少一个状况来从聚合的公共速度范围内选择目标速度,如上所描述。例如,该至少一个状况可以与交通拥堵级别、天气状况或一天中的时间相关联。
在一些实施例中,多个聚合的公共速度轮廓中的每个与不同类别的状况相关联,在所述不同类别的状况期间,从多个车辆中的每个收集驾驶信息。因此,确定主车辆的对应的目标速度包括基于主车辆经历的至少一个状况来选择多个聚合的公共速度轮廓中的聚合的公共速度轮廓。例如,该至少一个状况可以与交通拥堵级别、天气状况或一天中的时间相关联。
在一些实施例中,如上所描述,当确定目标速度时,可以结合公共速度轮廓考虑其他速度限制值。因此,步骤3720可以包括接收与该道路路段相关联的速度限制值的指示符。确定主车辆的目标速度还可以基于速度限制的指示符。在一些实施例中,目标速度的确定还可以基于与聚合的公共速度轮廓和速度限制的指示符相关联的权重。根据一些实施例,与聚合的公共速度轮廓和速度限制的指示符相关联的权重可以是动态可变的。例如,随着从接收到的最后速度限制的指示符起时间的增加,与速度限制的指示符相关联的权重可以减少,且与聚合的公共速度轮廓相关联的权重可以增加。如上面进一步详细描述的,各种其他因素可以用于动态地改变权重。
在步骤3730中,过程3700可以包括在主车辆沿着道路路段导航期间,基于与道路路段相关联的至少一个定位和主车辆的对应的目标速度,引起主车辆的速度调整。例如,引起主车辆的速度调整包括向主车辆的至少一个致动系统输出至少一个致动信号。该至少一个致动系统可以与主车辆的加速系统、制动系统、速度控制系统或任何其它可用于改变车辆的速度的系统相关联。
图38是示出与所公开的实施例一致的用于基于聚合的公共速度信息导航主车辆的示例过程3800的流程图。过程3800可以由车辆的至少一个处理设备执行,例如处理设备110。在一些实施例中,非暂时性计算机可读介质可以包含当由处理器执行时使处理器执行过程3800的指令。此外,过程3800不一定限于图38中所示的步骤,并且贯穿本公开所描述的各种实施例的任何步骤或过程也可以被包括在过程3800中,包括上面关于例如图29A、29B、30A、30B和图31-37所描述的那些步骤或过程。
在步骤3810中,过程3800包括从图像捕获设备接收表示主车辆的环境的至少一个图像。例如,这可以包括从系统100的图像捕获设备122接收至少一个图像,如上所描述。
在步骤3820中,过程3800包括确定用于实现主车辆的导航目标的计划的导航动作。可以基于至少一个驾驶策略来确定导航动作。计划的导航动作和/或至少一个驾驶策略可以与本公开一致,包括上面所讨论的那些。例如,计划的导航动作可以包括变道操纵、并道操纵、超车操纵、保持向前行驶操纵、停车场导航操纵或保持油门动作中的至少一个。
在步骤3830中,过程3800包括分析至少一个图像以识别主车辆的环境中的目标车辆。例如,这可以包括识别目标车辆2804,如以上参考图28所描述。
在步骤3840中,过程3800包括确定如果采取计划的导航动作将会产生的主车辆和目标车辆之间的下一状态距离。可以通过本文所公开的任何手段来计算下一状态距离。例如,下一状态距离可以对应于下一状态距离2810。作为一个示例,如果计划的导航动作是主车辆进入包括目标车辆的车道的变道操纵,则下一状态距离可以是主车辆变道之后主车辆和主车辆前方的前方目标车辆之间的预期距离。
在步骤3850中,过程3800包括确定主车辆的最大制动能力、主车辆的最大加速能力和主车辆的当前速度。可以通过与本公开一致的任何手段来确定这些因素中的每个(即,最大制动能力、最大加速能力和主车辆的速度)。在一些实施例中,可以基于例如车辆的当前速度、道路状况(例如,道路的坡度、道路的材料等)、天气状况(例如,下雪、潮湿等)、车辆状况(例如,轮胎压力、刹车垫状况、车辆的当前负载等),或者诸如此类来确定主车辆的最大制动能力和/或最大加速能力。在一些实施例中,可以基于一个或多个传感器的输出来确定这些因素中的一个或多个。例如,主车辆可以包含加速度计,该加速度计可以向处理设备提供输出,并且该输出可以包括主车辆的当前速度和/或主车辆的加速能力。在一些实施例中,处理设备可以确定主车辆的当前速度,并使用当前速度来确定当前最大制动能力和/或当前加速能力。例如,以第一速度(例如,15km/hr)行驶的车辆的最大制动能力可能显著不同于以第二速度(例如,30km/hr)行驶的相同车辆的最大制动能力。在一些实施例中,可以基于道路的外部状况或车辆的临时特性来确定每个因素。例如,可以基于感测的路面状况来确定主车辆的车辆制动率。在该示例中,感测的道路状况可包括道路的粗糙度、道路的倾斜度或坡度、道路上存在或不存在物质或对象、道路是沥青、水泥、砾石还是其他材料,或者与本公开一致的任何其他状况。作为另一示例,可以基于感测的天气状况来确定主车辆的最大制动能力。在该示例中,天气状况可以包括对任何降水(例如,雨、雨夹雪、雪、冰等)的检测)、影响能见度的天气状况(例如,雾、烟、烟雾等)、可能影响车辆操控的天气状况(例如,强风、高温等),或者可能影响主车辆的导航响应的任何其他天气状况。在另一示例中,处理设备可以基于主车辆是否包含例如一名乘客或多名乘客、重量很大的货物、拖车等来确定最大制动能力。可以基于对车载相机获取的图像的分析(例如,识别道路上的雪或水、挡风玻璃上的水、路面光滑度等)或者可以基于任何其他合适的传感器来感测这种状况。这种传感器可以包括车轮打滑传感器、制动系统传感器输出、从路边基础设施发送的信号接收器、经由WiFi连接发送的天气数据、GPS和/或速度计输出等。在一些实施例中,主车辆的次最大制动率可以用于步骤3850,如上所描述。
在步骤3860中,过程3800包括确定主车辆的当前停止距离。可以基于在步骤3850中确定的主车辆的当前最大制动能力、主车辆的当前最大加速能力和主车辆的当前速度来确定停止距离。例如,这可以包括确定停止距离2812,如上所描述。
在步骤3870中,过程3800包括确定目标车辆的当前速度,并基于目标车辆的至少一个辨识的特性来假定目标车辆的最大制动能力。在一些实施例中,可以基于存储在与主车辆在其上行驶的道路路段相关联的地图中的聚合的公共速度轮廓信息来确定目标车辆的当前速度。例如,如果主车辆和目标车辆正沿着道路路段3010行驶,如图30所示,可以基于聚合的公共速度;轮廓3200来确定目标车辆的当前速度。因此,如上所描述,可以已经基于在道路路段的先前穿过期间从多个车辆收集的速度信息的聚合来生成聚合的公共速度轮廓信息。确定目标车辆的速度可以包括确定目标车辆相对于道路路段的位置。例如,这可以包括基于至少一个图像确定目标车辆的定位。切动的目标车辆的位置可以与聚合的公共速度轮廓信息中的各种位置指示符相关联的速度值进行比较。
在步骤3880中,过程3800包括如果确定的主车辆的当前停止距离小于确定的下一状态距离加上基于目标车辆的当前速度和假定的目标车辆的最大制动能力确定的目标车辆行驶距离,则实施计划的导航动作。例如,这可以包括确定停止距离2814,如上所描述。然而,在这种情况下,目标车辆2804可能面向与图28所示相反的方向。因此,如果停止距离2812小于确定的下一状态距离2810加上停止距离2814,则可以实施计划的导航动作。
出于说明的目的已经呈现了前面的描述。它不是穷举性的并且不限于所公开的精确形式或实施例。考虑到所公开实施例的说明书和实践,修改和改编对于本领域技术人员来说是显而易见的。另外,尽管所公开的实施例的方面被描述为存储在存储器中,但本领域的技术人员将理解,这些方面也可以存储在其他类型的计算机可读介质上,诸如辅助存储装置,例如,硬盘或CDROM、或其他形式的RAM或ROM、USB介质、DVD、蓝光、4K超高清蓝光、或其他光驱动介质。
基于书面说明和所公开的方法的计算机程序在有经验的开发人员的技术范围内。可以使用任何本领域技术人员已知的技术来创建或可以结合现有的软件来设计各种程序或程序模块。例如,程序部分或程序模块可以以或通过.NET Framework、.NET CompactFramework(以及相关的语言,诸如Visual Basic,C等)、JAVA、C++、Objective-C、HTML、HTML/AJAX组合、XML或者包含Java小程序的HTML来设计。
此外,虽然已经在本文中描述了说明性实施例,但是本领域技术人员基于本公开将认识到具有等同的要素、修改、省略、组合(例如,遍及各个实施例的方面的)、改编和/或变化的任何以及所有实施例的范围。权利要求书中的限定将基于权利要求书中采用的语言宽泛地解释,并且不限于在本说明书中或在本申请的审查期间所描述的示例。示例将被解释为非排他性的。此外,所公开的方法的步骤可以以任何方式修改,包含通过重新排序步骤和/或插入或删除步骤。因此,意图是说明书和示例被视为仅是说明性的,真正的范围和精神由以下权利要求及其等同物的全部范围来表示。
Claims (68)
1.一种用于收集和分发与道路路段有关的导航信息的系统,所述系统包括:
至少一个处理器,被编程为:
从穿过所述道路路段的多个车辆中的每个接收收集的驾驶信息,其中从所述多个车辆中的每个接收的所述驾驶信息包括所述多个车辆中一个在穿过所述道路路段的驾驶期间行驶的速度的一个或多个指示符;
基于从所述多个车辆中的每个接收的所述信息中包括的速度的所述一个或多个指示符,为所述道路路段确定至少一个聚合的公共速度轮廓;
将所述至少一个聚合的公共速度轮廓存储在与所述道路路段相关联的自主车辆道路导航模型中;以及
将所述自主车辆道路导航模型分发给一个或多个自主车辆,用于沿着所述道路路段导航。
2.根据权利要求1所述的系统,其中所述驾驶信息包括多个车辆中的每个的定位信息。
3.根据权利要求1所述的系统,其中速度的所述一个或多个指示符包括单独的车辆速度轮廓。
4.根据权利要求3所述的系统,其中所述单独的车辆速度轮廓包括多个速度值,每个速度值与沿着所述道路路段的位置相关联。
5.根据权利要求4所述的系统,其中所述多个速度值是基于车辆速度计或GPS单元的输出来确定的。
6.根据权利要求1所述的系统,其中所述至少一个聚合的公共速度轮廓包括与存储在所述自主车辆道路导航模型中的相应位置指示符相关联的多个目标速度值。
7.根据权利要求6所述的系统,其中所述位置指示符在所述自主车辆道路导航模型中间隔开至少5米且小于100米。
8.根据权利要求6所述的系统,其中所述多个目标速度值中的每个都落入与沿着道路路段的特定定位的众包速度轮廓相关联的预定的速度范围内。
9.根据权利要求8所述的系统,其中对于沿着所述道路路段的特定定位,所述预定的速度范围具有众包速度轮廓的第40至60个百分位之间的下限和第70至90个百分位之间的上限。
10.根据权利要求1所述的系统,其中所述至少一个聚合的公共速度轮廓包括与存储在自主车辆道路导航模型中的相应位置指示符相关联的多个速度范围。
11.根据权利要求10所述的系统,其中所述位置指示符在所述自主车辆道路导航模型中间隔开至少5米且小于100米。
12.根据权利要求10所述的系统,其中所述多个速度范围中的每个对应于与沿着所述道路路段的特定定位的众包速度轮廓相关联的预定的速度范围。
13.根据权利要求12所述的系统,其中对于沿着所述道路路段的特定定位,所述预定的速度范围具有众包速度轮廓的第40至60个百分位之间的下限和第70至90个百分位之间的上限。
14.根据权利要求1所述的系统,其中所述至少一个聚合的公共速度轮廓包括与存储在所述自主车辆道路导航模型中的相应位置指示符相关联的多个速度子轮廓。
15.根据权利要求14所述的系统,其中所述多个速度子轮廓中的每个对应于沿着所述道路路段的特定定位的众包速度轮廓。
16.根据权利要求15所述的系统,其中所述至少一个处理器还被编程为沿着所述道路路段的每个定位生成多个众包速度轮廓,并且其中每个众包速度轮廓与不同类别的状况相关联,在所述不同类别的状况期间从所述多个车辆中的每个收集驾驶信息。
17.根据权利要求16所述的系统,其中所述不同类别的状况包括拥堵驾驶、恶劣天气驾驶、夜间驾驶、不拥堵驾驶或晴朗天气驾驶。
18.根据权利要求1所述的系统,其中所述至少一个聚合的公共速度轮廓包括多个聚合的公共速度轮廓,其中所述多个聚合的公共速度轮廓中的每个与不同类别的状况相关联,在所述不同类别的状况期间从所述多个车辆中的每个收集驾驶信息。
19.根据权利要求18所述的系统,其中所述不同类别的状况包括拥堵驾驶、恶劣天气驾驶、夜间驾驶、不拥堵驾驶或晴朗天气驾驶。
20.根据权利要求1所述的系统,其中从所述至少一个聚合的公共速度轮廓的确定中排除与拥堵驾驶相关的驾驶信息。
21.根据权利要求1所述的系统,其中从所述至少一个聚合的公共速度轮廓的确定中排除与恶劣天气状况相关联的驾驶信息。
22.根据权利要求1所述的系统,其中从所述至少一个聚合的公共速度轮廓的确定中排除与夜间驾驶相关的驾驶信息。
23.根据权利要求1所述的系统,其中在确定所述至少一个聚合的公共速度轮廓时,与经历前方小于20米或前方小于1.5秒的最近路径车辆的车辆相关联的驾驶信息的权重小于与没有经历前方小于20米或前方小于1.5秒的最近路径车辆的车辆相关联的驾驶信息的权重。
24.根据权利要求1所述的系统,其中至少部分地使用平滑算法来生成所述至少一个聚合的公共速度轮廓。
25.根据权利要求1所述的系统,其中所述道路路段包括多个车道,并且所述至少一个聚合的公共速度轮廓包括所述多个车道中每个的不同的聚合的公共速度轮廓。
26.根据权利要求1所述的系统,其中所述道路路段包括至少一个交叉路口,并且所述至少一个聚合的公共速度轮廓包括特定于所述至少一个交叉路口的聚合的公共速度轮廓。
27.根据权利要求1所述的系统,其中所述道路路段包括至少一个环形路,并且所述至少一个聚合的公共速度轮廓包括特定于所述至少一个环形路的聚合的公共速度轮廓。
28.根据权利要求1所述的系统,其中所述道路路段包括至少一个加速车道或至少一个减速车道,并且所述至少一个聚合的公共速度轮廓包括特定于所述至少一个加速车道或减速车道的聚合的公共速度轮廓。
29.根据权利要求1所述的系统,其中所述道路路段包括至少一个弯道,并且所述至少一个聚合的公共速度轮廓包括特定于所述至少一个弯道的聚合的公共速度轮廓。
30.根据权利要求1所述的系统,其中从所述多个车辆中的每个收集的驾驶信息包括收集驾驶信息的一天中的时间的指示符。
31.根据权利要求1所述的系统,其中从所述多个车辆中的每个收集的驾驶信息包括收集驾驶信息时经历的交通拥堵级别的指示符。
32.根据权利要求1所述的系统,其中从所述多个车辆中的每个收集的驾驶信息包括收集驾驶信息时经历的天气状况级别的指示符。
33.根据权利要求1所述的系统,其中从所述多个车辆中的每个收集的驾驶信息包括收集驾驶信息时经历的路面状况的指示符。
34.根据权利要求1所述的系统,其中所述驾驶信息还包括车辆穿过所述道路路段时行驶的实际轨迹。
35.根据权利要求1所述的系统,其中所述至少一个处理器还被编程为基于所述多个车辆沿着所述道路路段行驶的实际轨迹的聚合,确定所述道路路段的至少一个目标轨迹,并将所述道路路段的至少一个目标轨迹存储在所述道路导航模型中。
36.根据权利要求1所述的系统,其中所述至少一个目标轨迹被存储为三维样条。
37.根据权利要求1所述的系统,其中所述驾驶信息还包括车辆在所述道路路段上的车道定位。
38.根据权利要求1所述的系统,其中所述自主车辆道路导航模型还包括识别至少一个地标及其沿着所述道路路段的位置的信息。
39.根据权利要求38所述的系统,其中所述至少一个地标包括交通标志、箭头标记、车道标记、虚线车道标记、交通灯、停车线、方向标志、地标信标或灯柱中的至少一个。
40.一种用于收集并分发与道路路段有关的导航信息的方法,所述方法包括:
从穿过所述道路路段的多个车辆中的每个接收收集的驾驶信息,其中从所述多个车辆中的每个接收的驾驶信息包括所述多个车辆中的一个在穿过所述道路路段的驾驶期间行驶的速度的一个或多个指示符;
基于从所述多个车辆中的每个接收的驾驶信息中包括的速度的所述一个或多个指示符,为所述道路路段确定至少一个聚合的公共速度轮廓;
将所述至少一个聚合的公共速度轮廓存储在与所述道路路段相关联的自主车辆道路导航模型中;以及
将所述自主车辆道路导航模型分发给一个或多个自主车辆,以用于沿着所述道路路段导航。
41.一种包含指令的非暂时性计算机可读介质,当由至少一个处理器执行时,所述指令使得所述至少一个处理器执行用于收集和分发与道路路段有关的导航信息的方法,所述方法包括:
从穿过所述道路路段的多个车辆中的每个接收收集的驾驶信息,其中从所述多个车辆中的每个接收的驾驶信息包括所述多个车辆中的一个在穿过所述道路路段的驾驶期间行驶的速度的一个或多个指示符;
基于从所述多个车辆中的每个接收的驾驶信息中包括的速度的所述一个或多个指示符,为所述道路路段确定至少一个聚合的公共速度轮廓;
将所述至少一个聚合的公共速度轮廓存储在与所述道路路段相关联的自主车辆道路导航模型中;以及
将所述自主车辆道路导航模型分发给一个或多个自主车辆,以用于沿着所述道路路段导航。
42.一种用于主车辆的导航系统,所述系统包括:
至少一个处理器,其包括电路并能够访问存储器,其中所述存储器包括指令,当由所述电路执行时,所述指令使得所述至少一个处理器:
从服务器接收包括自主车辆道路导航模型的地图,其中所述自主车辆道路导航模型包括与道路路段相关联的至少一个存储的聚合的公共速度轮廓,并且其中所述至少一个聚合的公共速度轮廓是基于在所述道路路段的先前穿过期间从多个车辆收集的速度信息的聚合而生成的;
基于存储在所述自主车辆道路导航模型中的所述至少一个聚合的公共速度轮廓并且对于与所述道路路段相关联的至少一个定位,确定对应的主车辆的目标速度;以及
在所述主车辆沿着所述道路路段导航期间,基于与所述道路路段相关联的至少一个定位和对应的主车辆的目标速度,引起主车辆的速度调整。
43.根据权利要求42所述的系统,其中基于存储在所述自主车辆道路导航模型中的聚合的公共速度值来确定对应于与所述道路路段相关联的所述至少一个定位的主车辆的目标速度。
44.根据权利要求43所述的系统,其中所述聚合的公共速度值以5米至100米之间的长度间隔存储在所述地图中。
45.根据权利要求43所述的系统,其中为沿着所述道路路段的特定定位确定的目标速度与存储在所述自主车辆道路导航模型中的至少一个聚合的公共速度值相匹配。
46.根据权利要求43所述的系统,其中为沿着道路路段的特定定位确定的目标速度落入存储在所述自主车辆道路导航模型中的两个不同的聚合的公共速度值之间。
47.根据权利要求42所述的系统,其中基于存储在所述自主车辆道路导航模型中的聚合的公共速度范围,确定对应于与所述道路路段相关联的所述至少一个定位的主车辆的目标速度。
48.根据权利要求47所述的系统,其中所述聚合的公共速度范围以5米至100米之间的长度间隔存储在所述地图中。
49.根据权利要求47所述的系统,其中为沿着道路路段的特定定位确定的目标速度是从对应于所述特定定位的聚合的公共速度范围内选择的。
50.根据权利要求49所述的系统,其中从聚合的公共速度范围内选择目标速度是基于所述主车辆经历的至少一个状况。
51.根据权利要求50所述的系统,其中所述至少一个状况与交通拥堵级别、天气状况或一天中的时间相关联。
52.根据权利要求47所述的系统,其中对于沿着所述道路路段的特定定位,所述聚合的公共速度范围中的每个具有众包速度轮廓的第40至60个百分位之间的下限和第70至90个百分位之间的上限。
53.根据权利要求42所述的系统,其中所述至少一个聚合的公共速度轮廓包括多个聚合的公共速度轮廓,所述多个聚合的公共速度轮廓中的每个与不同类别的状况相关联,在所述不同类别的状况期间从所述多个车辆中的每个收集驾驶信息,并且其中确定对应的主车辆的目标速度包括基于所述主车辆经历的至少一个状况来选择所述多个聚合的公共速度轮廓中的聚合的公共速度轮廓。
54.根据权利要求53所述的系统,其中所述至少一个状况与交通拥堵级别、天气状况或一天中的时间相关联。
55.根据权利要求42所述的系统,其中所述存储器还包括指令,当所述指令被执行时,使所述至少一个处理器接收至少所述主车辆的至少一个位置指示符,并将所述位置指示符发送给所述服务器,其中从所述服务器接收的所述地图是由所述服务器基于所发送的主车辆位置指示符选择的地图段。
56.根据权利要求55所述的系统,其中所述主车辆的至少一个位置指示符由GPS单元提供。
57.根据权利要求55所述的系统,其中所述主车辆的至少一个位置指示符由主车辆定位单元提供,所述主车辆定位单元被配置为基于对表示地图地标的捕获图像的分析来确定车辆位置。
58.根据权利要求42所述的系统,其中引起所述主车辆的速度调整包括向所述主车辆的至少一个致动系统输出至少一个致动信号。
59.根据权利要求58所述的系统,其中所述至少一个致动系统与加速系统或制动系统相关联。
60.根据权利要求42所述的系统,其中所述存储器还包括指令,当所述指令被执行时,使所述至少一个处理器接收与所述道路路段相关联的速度限制值的指示符,并进一步基于所述速度限制的指示符来确定所述主车辆的目标速度。
61.根据权利要求60所述的系统,其中所述目标速度的确定还基于与所述聚合的公共速度轮廓和所述速度限制的指示符相关联的权重。
62.根据权利要求61所述的系统,其中与所述聚合的公共速度轮廓和所述速度限制的指示符相关联的权重是动态可变的。
63.根据权利要求62所述的系统,其中随着从接收到的最后速度限制的指示符起时间的增加,与所述速度限制的指示符相关联的权重减小,而与所述聚合的公共速度轮廓相关联的权重增加。
64.一种用于导航主车辆的方法,所述方法包括:
从服务器接收包括自主车辆道路导航模型的地图,其中所述自主车辆道路导航模型包括与道路路段相关联的至少一个存储的聚合的公共速度轮廓,并且其中所述至少一个聚合的公共速度轮廓是基于在所述道路路段的先前穿过期间从多个车辆收集的速度信息的聚合而生成的;
基于存储在所述自主车辆道路导航模型中的所述至少一个聚合的公共速度轮廓并且对于与所述道路路段相关联的至少一个定位,确定对应的主车辆的目标速度;以及
在所述主车辆沿着所述道路路段导航期间,基于与所述道路路段相关联的至少一个定位和对应的主车辆的目标速度,引起主车辆的速度调整。
65.一种包含指令的非暂时性计算机可读介质,当由至少一个处理器执行时,所述指令使得所述至少一个处理器执行用于导航主车辆的方法,所述方法包括:
从服务器接收包括自主车辆道路导航模型的地图,其中所述自主车辆道路导航模型包括与道路路段相关联的至少一个存储的聚合的公共速度轮廓,并且其中所述至少一个聚合的公共速度轮廓是基于在所述道路路段的先前穿过期间从多个车辆收集的速度信息的聚合而生成的;
基于存储在所述自主车辆道路导航模型中的所述至少一个聚合的公共速度轮廓并且对于与所述道路路段相关联的至少一个定位,确定对应的主车辆的目标速度;以及
在所述主车辆沿着所述道路路段导航期间,基于与所述道路路段相关联的至少一个定位和对应的主车辆的目标速度,引起主车辆的速度调整。
66.一种用于主车辆的导航系统,所述系统包括:
至少一个处理器,其包括电路并且能够访问存储器,其中所述存储器包括指令,当由所述电路执行时,所述指令使得所述至少一个处理器:
从图像捕获设备接收表示所述主车辆的环境的至少一个图像;
基于至少一个驾驶策略,确定用于实现所述主车辆的导航目标的计划的导航动作;
分析所述至少一个图像以识别所述主车辆的环境中的目标车辆;
确定如果采取所述计划的导航动作将会产生的所述主车辆和目标车辆之间的下一状态距离;
确定所述主车辆的最大制动能力、所述主车辆的最大加速能力和所述主车辆的当前速度;
基于所述主车辆的当前最大制动能力、所述主车辆的当前最大加速能力和所述主车辆的当前速度来确定所述主车辆的当前停止距离;
确定所述目标车辆的当前速度,并且基于所述目标车辆的至少一个辨识的特性来假定所述目标车辆的最大制动能力,其中所述目标车辆的当前速度是基于存储在与所述主车辆在其上行驶的道路路段相关联的地图中的聚合的公共速度轮廓信息确定的,并且其中所述聚合的公共速度轮廓信息是基于在所述道路路段的先前穿过期间从多个车辆收集的速度信息的聚合而生成的;以及
如果确定的所述主车辆的当前停止距离小于确定的下一状态距离加上基于所述目标车辆的当前速度和假定的所述目标车辆的最大制动能力确定的所述目标车辆行驶距离,则实施所述计划的导航动作。
67.一种用于导航主车辆的方法,所述方法包括:
从图像捕获设备接收表示所述主车辆的环境的至少一个图像;
基于至少一个驾驶策略,确定用于实现所述主车辆的导航目标的计划的导航动作;
分析所述至少一个图像以识别所述主车辆的环境中的目标车辆;
确定如果采取所述计划的导航动作将会产生的所述主车辆和所述目标车辆之间的下一状态距离;
确定所述主车辆的最大制动能力、所述主车辆的最大加速能力和所述主车辆的当前速度;
基于所述主车辆的当前最大制动能力、所述主车辆的当前最大加速能力和所述主车辆的当前速度来确定所述主车辆的当前停止距离;
确定所述目标车辆的当前速度,并且基于所述目标车辆的至少一个辨识的特性来假定目标车辆的最大制动能力,其中所述目标车辆的当前速度是基于存储在与所述主车辆在其上行驶的道路路段相关联的地图中的聚合的公共速度轮廓信息确定的,并且其中所述聚合的公共速度轮廓信息是基于在所述道路路段的先前穿过期间从多个车辆收集的速度信息的聚合而生成的;以及
如果确定的所述主车辆的当前停止距离小于确定的下一状态距离加上基于所述目标车辆的当前速度和假定的所述目标车辆的最大制动能力确定的所述目标车辆行驶距离,则实施所述计划的导航动作。
68.一种包含指令的非暂时性计算机可读介质,当由至少一个处理器执行时,所述指令使得所述至少一个处理器执行用于导航主车辆的方法,所述方法包括:
从图像捕获设备接收表示所述主车辆的环境的至少一个图像;
基于至少一个驾驶策略,确定用于实现所述主车辆的导航目标的计划的导航动作;
分析所述至少一个图像以识别所述主车辆的环境中的目标车辆;
确定如果采取计划的导航动作将会产生的所述主车辆和所述目标车辆之间的下一状态距离;
确定所述主车辆的最大制动能力、所述主车辆的最大加速能力和所述主车辆的当前速度;
基于所述主车辆的当前最大制动能力、所述主车辆的当前最大加速能力和所述主车辆的当前速度来确定所述主车辆的当前停止距离;
确定所述目标车辆的当前速度,并且基于所述目标车辆的至少一个辨识的特性来假定所述目标车辆的最大制动能力,其中所述目标车辆的当前速度是基于存储在与所述主车辆在其上行驶的道路路段相关联的地图中的聚合的公共速度轮廓信息确定的,并且其中所述聚合的公共速度轮廓信息是基于在所述道路路段的先前穿过期间从多个车辆收集的速度信息的聚合而生成的;以及
如果确定的所述主车辆的当前停止距离小于确定的下一状态距离加上基于所述目标车辆的当前速度和假定的所述目标车辆的最大制动能力确定的所述目标车辆行驶距离,则实施所述计划的导航动作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311336881.XA CN117571001A (zh) | 2021-01-08 | 2022-01-06 | 用于公共速度映射和导航的系统和方法 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US202163135310P | 2021-01-08 | 2021-01-08 | |
US63/135,310 | 2021-01-08 | ||
PCT/IB2022/000007 WO2022149049A2 (en) | 2021-01-08 | 2022-01-06 | Systems and methods for common speed mapping and navigation |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311336881.XA Division CN117571001A (zh) | 2021-01-08 | 2022-01-06 | 用于公共速度映射和导航的系统和方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116670610A true CN116670610A (zh) | 2023-08-29 |
Family
ID=82358780
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202280009395.4A Pending CN116670610A (zh) | 2021-01-08 | 2022-01-06 | 用于公共速度映射和导航的系统和方法 |
CN202311336881.XA Pending CN117571001A (zh) | 2021-01-08 | 2022-01-06 | 用于公共速度映射和导航的系统和方法 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311336881.XA Pending CN117571001A (zh) | 2021-01-08 | 2022-01-06 | 用于公共速度映射和导航的系统和方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20230236037A1 (zh) |
EP (1) | EP4275192A2 (zh) |
CN (2) | CN116670610A (zh) |
DE (1) | DE112022000380T5 (zh) |
WO (1) | WO2022149049A2 (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019205069A1 (en) * | 2018-04-27 | 2019-10-31 | Beijing Didi Infinity Technology And Development Co., Ltd. | Systems and methods for updating 3d model of building |
DE102021211466A1 (de) * | 2021-10-12 | 2023-04-13 | Robert Bosch Gesellschaft mit beschränkter Haftung | Verfahren zum Generieren einer Straßenkarte für Fahrzeuge mit integrierter Geschwindigkeitsinformation |
US20230126540A1 (en) * | 2021-10-26 | 2023-04-27 | Tusimple, Inc. | Systems and methods for handling cut-in traffic for autonomous driving |
CN116580586B (zh) * | 2023-07-12 | 2023-10-13 | 中南大学 | 一种平衡个人利益和社会利益的车辆路径诱导方法及系统 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2328820A (en) * | 1997-09-02 | 1999-03-03 | Rabinder Singh Mandair | Vehicular distance monitoring and warning device |
US10096038B2 (en) * | 2007-05-10 | 2018-10-09 | Allstate Insurance Company | Road segment safety rating system |
US9046371B2 (en) * | 2013-03-29 | 2015-06-02 | Modular Mining Systems, Inc. | Contention avoidance |
WO2018122586A1 (zh) * | 2016-12-30 | 2018-07-05 | 同济大学 | 一种基于舒适度的自动驾驶车速控制方法 |
WO2018175441A1 (en) * | 2017-03-20 | 2018-09-27 | Mobileye Vision Technologies Ltd. | Navigation by augmented path prediction |
US10551842B2 (en) * | 2017-06-19 | 2020-02-04 | Hitachi, Ltd. | Real-time vehicle state trajectory prediction for vehicle energy management and autonomous drive |
EP3972882B1 (en) * | 2019-09-17 | 2023-08-30 | Mobileye Vision Technologies Ltd. | Systems and methods for predicting blind spot incursions |
-
2022
- 2022-01-06 DE DE112022000380.4T patent/DE112022000380T5/de active Pending
- 2022-01-06 WO PCT/IB2022/000007 patent/WO2022149049A2/en active Application Filing
- 2022-01-06 CN CN202280009395.4A patent/CN116670610A/zh active Pending
- 2022-01-06 EP EP22736676.2A patent/EP4275192A2/en active Pending
- 2022-01-06 CN CN202311336881.XA patent/CN117571001A/zh active Pending
-
2023
- 2023-03-31 US US18/129,293 patent/US20230236037A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
CN117571001A (zh) | 2024-02-20 |
US20230236037A1 (en) | 2023-07-27 |
DE112022000380T5 (de) | 2023-11-23 |
EP4275192A2 (en) | 2023-11-15 |
WO2022149049A3 (en) | 2022-12-29 |
WO2022149049A2 (en) | 2022-07-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112384760B (zh) | 用于自主车辆导航的系统和方法 | |
CN111902694B (zh) | 用于确定导航参数的系统和方法 | |
CN113874683A (zh) | 用于车辆导航的系统和方法 | |
CN115014370A (zh) | 用于生成地图信息的系统、方法和计算机可读介质 | |
CN112204349A (zh) | 用于车辆导航的系统和方法 | |
CN114402377A (zh) | 用于监测交通车道拥塞的系统和方法 | |
CN112654836A (zh) | 用于车辆导航的系统和方法 | |
CN114514411A (zh) | 用于交通工具导航的系统和方法 | |
CN115824194A (zh) | 一种用于为车辆规划路线的系统和方法 | |
CN114729813A (zh) | 用于车辆导航的系统和方法 | |
US20210381849A1 (en) | Map management using an electronic horizon | |
EP4220584A1 (en) | Systems and methods for dynamic road geometry modeling and navigation | |
CN113825979A (zh) | 用于基于图像分析的车辆导航的系统和方法 | |
CN117355871A (zh) | 多帧图像分割 | |
US20230236037A1 (en) | Systems and methods for common speed mapping and navigation | |
JP2023539868A (ja) | マップベースの現実世界モデル化のシステム及び方法 | |
US20230211726A1 (en) | Crowdsourced turn indicators | |
US20230202473A1 (en) | Calculating vehicle speed for a road curve | |
CN115151454A (zh) | 用于选择性地使交通工具减速的系统和方法 | |
CN114930123A (zh) | 用于检测交通灯的系统和方法 | |
CN117651668A (zh) | 用于监测车道标记质量的系统和方法 | |
WO2023133420A1 (en) | Traffic light oriented network | |
CN118265957A (zh) | 用于车辆导航的雷达-摄像头融合 | |
CN118435250A (zh) | 用于确定对象的位置的立体辅助网络 | |
CN118284911A (zh) | 远程服务器中的交通标志特征向量的登记 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |