CN114845914A - 自主机器应用中的车道变换规划和控制 - Google Patents
自主机器应用中的车道变换规划和控制 Download PDFInfo
- Publication number
- CN114845914A CN114845914A CN202080085183.5A CN202080085183A CN114845914A CN 114845914 A CN114845914 A CN 114845914A CN 202080085183 A CN202080085183 A CN 202080085183A CN 114845914 A CN114845914 A CN 114845914A
- Authority
- CN
- China
- Prior art keywords
- lane
- vehicle
- velocity profile
- longitudinal velocity
- candidate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000008859 change Effects 0.000 title claims abstract description 135
- 238000013439 planning Methods 0.000 title description 9
- 238000000034 method Methods 0.000 claims description 57
- 238000012545 processing Methods 0.000 claims description 47
- 230000001133 acceleration Effects 0.000 claims description 42
- 238000001514 detection method Methods 0.000 claims description 32
- 230000033001 locomotion Effects 0.000 claims description 25
- 238000009826 distribution Methods 0.000 claims description 24
- 230000006978 adaptation Effects 0.000 claims description 17
- 230000001186 cumulative effect Effects 0.000 claims description 12
- 238000013135 deep learning Methods 0.000 claims description 12
- 241001122315 Polites Species 0.000 claims description 9
- 238000004088 simulation Methods 0.000 claims description 6
- 230000008447 perception Effects 0.000 claims description 4
- 238000011156 evaluation Methods 0.000 abstract description 14
- 230000015654 memory Effects 0.000 description 54
- 230000006870 function Effects 0.000 description 51
- 238000013528 artificial neural network Methods 0.000 description 44
- 238000004891 communication Methods 0.000 description 23
- 238000013527 convolutional neural network Methods 0.000 description 21
- 238000003860 storage Methods 0.000 description 21
- 239000011324 bead Substances 0.000 description 15
- 238000010801 machine learning Methods 0.000 description 15
- 238000007726 management method Methods 0.000 description 15
- 230000008569 process Effects 0.000 description 15
- 238000012549 training Methods 0.000 description 14
- 230000007613 environmental effect Effects 0.000 description 11
- 230000002093 peripheral effect Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 230000000007 visual effect Effects 0.000 description 10
- 238000005516 engineering process Methods 0.000 description 9
- 230000007704 transition Effects 0.000 description 7
- 230000009471 action Effects 0.000 description 6
- 230000004044 response Effects 0.000 description 6
- 230000003044 adaptive effect Effects 0.000 description 5
- 238000013473 artificial intelligence Methods 0.000 description 5
- 238000007667 floating Methods 0.000 description 5
- 238000004458 analytical method Methods 0.000 description 4
- 238000005259 measurement Methods 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 230000003190 augmentative effect Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000012937 correction Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000001815 facial effect Effects 0.000 description 3
- 239000000446 fuel Substances 0.000 description 3
- 125000000914 phenoxymethylpenicillanyl group Chemical group CC1(S[C@H]2N([C@H]1C(=O)*)C([C@H]2NC(COC2=CC=CC=C2)=O)=O)C 0.000 description 3
- 229920002451 polyvinyl alcohol Polymers 0.000 description 3
- 235000019422 polyvinyl alcohol Nutrition 0.000 description 3
- 230000002123 temporal effect Effects 0.000 description 3
- 238000013519 translation Methods 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000001816 cooling Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000036541 health Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 230000000717 retained effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000001953 sensory effect Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- HPTJABJPZMULFH-UHFFFAOYSA-N 12-[(Cyclohexylcarbamoyl)amino]dodecanoic acid Chemical compound OC(=O)CCCCCCCCCCCNC(=O)NC1CCCCC1 HPTJABJPZMULFH-UHFFFAOYSA-N 0.000 description 1
- 101100248200 Arabidopsis thaliana RGGB gene Proteins 0.000 description 1
- 102100030148 Integrator complex subunit 8 Human genes 0.000 description 1
- 101710092891 Integrator complex subunit 8 Proteins 0.000 description 1
- 241001465754 Metazoa Species 0.000 description 1
- 206010034960 Photophobia Diseases 0.000 description 1
- 241000700605 Viruses Species 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000007621 cluster analysis Methods 0.000 description 1
- 230000001149 cognitive effect Effects 0.000 description 1
- 230000001427 coherent effect Effects 0.000 description 1
- 238000002485 combustion reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000036461 convulsion Effects 0.000 description 1
- 238000013481 data capture Methods 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 238000012854 evaluation process Methods 0.000 description 1
- 230000005669 field effect Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000012905 input function Methods 0.000 description 1
- 208000013469 light sensitivity Diseases 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000001693 membrane extraction with a sorbent interface Methods 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- PVFZKRMYBKEXBN-UHFFFAOYSA-N piperidine;piperidine-1-carbodithioic acid Chemical compound C1CCNCC1.SC(=S)N1CCCCC1 PVFZKRMYBKEXBN-UHFFFAOYSA-N 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000000513 principal component analysis Methods 0.000 description 1
- 239000000047 product Substances 0.000 description 1
- 238000002310 reflectometry Methods 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 230000004043 responsiveness Effects 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 230000035939 shock Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000000153 supplemental effect Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000013526 transfer learning Methods 0.000 description 1
- 230000007723 transport mechanism Effects 0.000 description 1
- 238000012384 transportation and delivery Methods 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W60/00—Drive control systems specially adapted for autonomous road vehicles
- B60W60/001—Planning or execution of driving tasks
- B60W60/0011—Planning or execution of driving tasks involving control alternatives for a single driving scenario, e.g. planning several paths to avoid obstacles
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
- B60W30/08—Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
- B60W30/095—Predicting travel path or likelihood of collision
- B60W30/0956—Predicting travel path or likelihood of collision the prediction being responsive to traffic or environmental parameters
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
- B60W30/18—Propelling the vehicle
- B60W30/18009—Propelling the vehicle related to particular drive situations
- B60W30/18163—Lane change; Overtaking manoeuvres
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/10—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to vehicle motion
- B60W40/105—Speed
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/0097—Predicting future conditions
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W60/00—Drive control systems specially adapted for autonomous road vehicles
- B60W60/001—Planning or execution of driving tasks
- B60W60/0015—Planning or execution of driving tasks specially adapted for safety
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W60/00—Drive control systems specially adapted for autonomous road vehicles
- B60W60/001—Planning or execution of driving tasks
- B60W60/0027—Planning or execution of driving tasks using trajectory prediction for other traffic participants
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
- G08G1/161—Decentralised systems, e.g. inter-vehicle communication
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
- G08G1/167—Driving aids for lane monitoring, lane changing, e.g. blind spot detection
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
- B60W2420/40—Photo, light or radio wave sensitive means, e.g. infrared sensors
- B60W2420/403—Image sensing, e.g. optical camera
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
- B60W2420/40—Photo, light or radio wave sensitive means, e.g. infrared sensors
- B60W2420/408—Radar; Laser, e.g. lidar
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2520/00—Input parameters relating to overall vehicle dynamics
- B60W2520/10—Longitudinal speed
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2520/00—Input parameters relating to overall vehicle dynamics
- B60W2520/10—Longitudinal speed
- B60W2520/105—Longitudinal acceleration
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2552/00—Input parameters relating to infrastructure
- B60W2552/53—Road markings, e.g. lane marker or crosswalk
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2554/00—Input parameters relating to objects
- B60W2554/40—Dynamic objects, e.g. animals, windblown objects
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2554/00—Input parameters relating to objects
- B60W2554/80—Spatial relation or speed relative to objects
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2720/00—Output or target parameters relating to overall vehicle dynamics
- B60W2720/10—Longitudinal speed
- B60W2720/103—Speed profile
Landscapes
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Traffic Control Systems (AREA)
- Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
- Image Analysis (AREA)
Abstract
在各种示例中,可以使用自我车辆的一个或更多个传感器来收集传感器数据以生成自我车辆的周围环境的表示。该表示可以包括道路的车道和车道内的对象位置。环境的表示可以作为输入提供给纵向速度分布标识符,其可以将多个纵向速度分布候选投影到目标车道上。多个纵向速度分布候选中的每一个可以基于一组或更多组标准被评估一次或更多次。使用来自评估的分数,可以从纵向速度分布候选中选择目标间隙和特定纵向速度分布。一旦确定了目标间隙的纵向速度分布,系统就可以根据纵向速度分布执行车道变换操纵。
Description
背景技术
能够在几乎没有人工输入的情况下进行操作的车辆通常需要执行自主车道变换。执行自主车道变换的能力是所有级别的自主驾驶的关键特征。在车道变换操纵过程中,自主车辆(“自我车辆(ego-vehicle)”)必须能够完成两项重要的规划和控制任务。第一个重要任务是创建速度计划,使其能够调整速度,以便安全及时地执行车道变换操纵。如果没有纵向速度适应计划,则自我车辆可能没有足够的信息来执行操作,例如如何减速并填补目标车道中的领先车辆后面的空隙,或者等效地,如何加速超过目标车道中的尾随车辆并找到一个空间来变换车道。第二个重要任务是创建路径计划,使自我车辆能够以利用并遵守速度计划的方式从自我车道移动到目标车道。虽然自我车辆可能能够感知其环境,但车辆可能无法确定如何调整其速度和路径以使车辆能够及时和有效地安全地执行车道变换操作。
例如,一些传统系统使用深度学习来执行车道变换,例如一个或更多个深度神经网络(DNN),以计算车辆通过车道变换要遵循的输出轨迹。然而,这些DNN通常无法生成导致舒适(例如,低于快速移动(jerk)或加速限制)车道变换操纵的车道变换轨迹,并且可能无法考虑周围车辆或识别自我车辆可以操纵以进入的目标车道中的实际位置(例如,在执行操纵时,识别的位置可能已被占用)。例如,DNN可能不考虑前车或尾车的速度或加速度,因此即使DNN输出的车道变换操纵可能导致车道变换操纵,该操纵也可能在执行期间随着尾车快速接近自我车辆或前车减速进入自我车辆的路径而被中止。结果,由于没有充分考虑环境中其他车辆或对象的轨迹,这些传统系统的车道变换计划可能不会导致有效、安全和/或舒适的车道变换操纵。
发明内容
本公开的实施例涉及自主机器应用中的车道变换规划和控制。公开了可以通过鉴于一个或更多个标准评估多个纵向速度分布候选来识别目标间隙的纵向速度分布的系统和方法。
与诸如上述那些的传统系统相比,本系统识别纵向速度分布以用于执行车道变换操纵。例如,当自我车辆沿着道路行驶时,自我车辆的系统可以接收输入信号——例如,来自用户、导航应用和/或连接到自我车辆的系统的车道变换命令——以执行车道变换操作。基于输入信号,可以使用自我车辆的一个或更多个传感器收集传感器数据以生成环境模型或表示,该模型或表示可以包括道路车道和车道内的对象位置。环境的表示还可用于预测每个对象的未来位置或轨迹。例如,通过确定对应于每个对象的速度,可以确定每个对象在一段时间内的每个时间t的未来位置,以有效地创建环境的未来预测模型。
环境的表示可以作为输入提供给纵向速度分布标识符,用于选择纵向速度分布,该纵向速度分布可以包括加速和/或减速命令以帮助完成从自我车道到可用于自我车辆的纵向空间的目标车道的车道变换。例如,当接收到车道变换命令时,纵向速度分布标识符可以识别目标车道中的一个或更多个候选车道变换间隙并将多个纵向速度分布投影到目标车道上。然后可以基于一组标准评估多个纵向速度分布中的每一个。然后可以使用针对每个车道变换间隙的每个纵向速度分布的累积分数来选择用于当前车道变换操纵的目标车道变换间隙。然后可以评估选定的目标车道变换间隙,以根据纵向速度分布候选确定特定的纵向速度分布。例如,在一些实施例中,然后可以针对目标车道变换间隙重新评估纵向速度分布候选,以根据纵向速度分布候选确定纵向速度分布,用于执行进入目标车道中的目标车道变换间隙的车道变换操纵。一旦确定了纵向速度分布和目标车道变换间隙,系统就可以根据纵向速度分布执行车道变换操纵。
因此,本公开的系统和方法可以评估纵向速度分布,以便控制自我车辆朝向自我车道中的位置,该位置增加成功、安全和舒适的车道变换操纵进入目标车道的概率。例如,通过使自我车辆减速或加速自我车辆以与车道变换间隙对齐,横向车道变换操纵的开始可以从自我车道中更有可能导致成功的操纵的位置执行。
附图说明
下面参考附图详细描述用于自主机器应用中的车道变换规划和控制的本系统和方法,其中:
图1是根据本公开的一些实施例的用于执行车道变换操纵的系统的数据流程图;
图2描绘了根据本公开的一些实施例的用于选择纵向速度分布的示例流程图;
图3A描绘了根据本公开的实施例的示例车道变换场景的俯视图;
图3B描绘了根据本公开的实施例的一维(1D)车道变换场景;
图4是示出根据本公开的一些实施例的用于识别纵向速度分布的方法的流程图;
图5A是根据本公开的一些实施例的示例自主车辆的图示;
图5B是根据本公开的一些实施例的图5A的示例自主车辆的相机位置和视野的示例;
图5C是根据本公开的一些实施例的图5A的示例自主车辆的示例系统架构的框图;
图5D是根据本公开的一些实施例的基于云的服务器和图5A的示例自主车辆之间的通信的系统图;
图6是适用于实现本公开的一些实施例的示例计算设备的框图;以及
图7是适用于实现本公开的一些实施例的示例数据中心的框图。
具体实施方式
公开了与自主机器应用中的车道变换规划和控制相关的系统和方法。尽管本公开可以关于示例自主车辆500(在本文中也称为“车辆500”或“自我车辆500”,其示例在本文中关于图5A-5D进行描述)进行描述,这不是限制性的。例如,本文描述的系统和方法可以由但不限于非自主车辆、半自主车辆(例如,在一个或更多个自适应驾驶员辅助系统(ADAS)中)、耦合到拖车的车辆、有人驾驶和无人驾驶机器人或机器人平台、仓库车辆、越野车辆、飞行船只、船只、穿梭巴士、应急车辆、摩托车、电动或机动自行车、飞机、工程车辆、水下航行器、无人机和/或其他车辆类型使用。此外,虽然本公开可针对车辆应用的车道变换操纵进行描述,但这并非旨在限制,并且本文描述的系统和方法可用于增强现实、虚拟现实、机器人技术、机器人辅助平台、自主或半自主机器应用和/或任何其他可以使用纵向和/或横向操纵轨迹或路径规划的技术空间。
在一些实施例中,当自我车辆沿道路行驶时,自我车辆的系统可以接收输入信号——例如,来自用户、导航应用程序和/或连接到自我车辆的系统的车道变换命令——以执行车道变换操作。基于输入信号,传感器数据可以使用自我车辆的一个或更多个传感器收集并提供给对象检测器以检测和/或跟踪自我车辆周围环境中的对象(例如,车辆、行人、自行车手、摩托车手等)。此外,车道标识符可以使用感知信息、地图信息(例如,高清(HD)地图信息)和/或其他信息源来生成车道图或其他车道表示。来自对象检测器和车道标识符的输出可以提供给环境建模器,环境建模器可以生成道路车道和车道内对象位置的模型或表示。例如,这些模型或表示可以反映哪些对象被分配到自我车辆周围的哪些车道,以及对象相对于自我车辆移动的速度和/或对象的预测或估计未来轨迹。
通过计算每个对象的边界形状(例如,方框、正方形、矩形、三角形、圆形、多边形等)并裁剪边界形状的一部分,可以将对象分配给车道图(或其他车道表示)中的车道形状,以便边界形状更准确地反映最接近驾驶表面的对象部分。例如,计算的可驾驶自由空间信息可用于裁剪边界形状,从而仅保留边界形状的较低部分。在其他示例中,可以裁剪边界形状的百分比或其他量,例如裁剪边界形状的上部70%、80%、95%等。裁剪后得到的形状可以称为对象围栏。
可以将对象围栏位置与车道图进行比较,以确定车道图中每个对象的位置——例如,类似于路径分析中的对象(OIPA)。然后可以将对象与确定位置处的车道图相关联以生成自我车辆环境的表示。在一些实施例中,环境的表示可以仅包括自我车道和自我车道的一个或更多个相邻车道,或者可能仅包括用于车道变换操纵的目标车道候选。因此,可以减少处理要求,因为系统可以在车道变换操纵计划中仅考虑潜在目标车道。然而,在其他实施例中,可以在环境的表示中包括任意数量的车道。
在一些实施例中,环境的表示可以包括车道图(或其他表示类型)的自上而下的投影和对应于检测到的对象的对象围栏信息,在其中表示为珠子。该信息还可用于预测每个对象的未来位置或轨迹。例如,通过确定对应于每个珠子的速度,可以确定每个珠子在一段时间内的每个时间t的未来位置,以有效地创建车道变换环境的未来预测模型。
可以将预测建模为车道图的一维(1D)纵向投影(例如,二维(2D)环境模型)。例如,系统可以通过投影自我车辆和自我引导对象(例如,在自我车道中引导自我车辆的对象,如果存在)从自我车道到目标车道的纵向运动,将自我车道和目标车道压缩成一维车道图。表示对象围栏信息的珠子可以投影到一维车道图上,这可以允许系统确定目标车道中的间隙,例如通过确定车道图上珠子之间的一个或更多个空间。在一些实施例中,通过使用用于对象检测的多种传感器类型,多种类型的珠子可以被包括在给定位置处的相同物理对象的车道图中。例如,一个珠子可能对应于来自一种传感器类型(例如,相机传感器)的一个对象,而另一个珠子可能对应于同一个对象,但可以从来自另一种传感器类型(例如,RADAR传感器、LiDAR传感器等)的数据中生成。取决于实施例,两个或更多个珠子可以单独使用,或者可以在使用之前组合——例如,使用聚类。
在一些实施例中,环境的表示可以作为输入提供给纵向速度分布(longitudinalspeed profile)标识符以用于选择纵向速度分布。纵向速度分布可以包括加速和/或减速命令,以帮助完成在自我车辆可用的纵向空间中从自我车道到目标车道的车道变换。当接收到车道变换命令时,纵向速度分布标识符可以使用环境的表示来标识目标车道中的一个或更多个候选车道变换间隙(或者在本文中称为“间隙”),然后可以评估每个候选车道变换间隙。候选间隙的评估可以包括,对于每个候选间隙,将多个(例如,100、250、700、5000等)纵向速度分布候选投影到目标车道,其可以由1D车道图表示。在实施例中,每个纵向速度分布候选可以表示为“S”曲线,其中速度分布的一部分可以对应于加速并且另一部分可以对应于减速。在一些实施例中,减速部分可以始终是第一部分并且加速部分可以始终是第二部分(例如,因为如果自我车辆以限速行驶,则第一速度适配可能不会在不违反速度法律的情况下加速)。然而,根据纵向速度分布,可能没有加速部分或减速部分。此外,在一些实施例中,加速部分可以在声明部分之前,或者分布可以包括任意数量的加速部分和/或任何顺序的减速部分。
可以基于一组标准(例如,速度适应持续时间、加速限制、减速限制、速度矢量场、快速移动限制等)为每个间隙评估(例如,评分)每个纵向速度分布候选,以为每个间隙生成累积分数。例如,在有5000个纵向速度分布候选的情况下,可以针对每个间隙评估相同的5000个候选。然后可以使用每个间隙的累积分数来选择当前车道变换操纵的目标间隙。例如,可以选择具有最佳(例如,最高、最低等,取决于评分系统)累积分数的候选间隙作为目标间隙。
然后可以评估选定的目标间隙,以根据纵向速度分布候选确定特定的纵向速度分布。例如,在实施例中,然后可以针对目标间隙重新评估纵向速度分布候选,以从纵向速度分布候选确定纵向速度分布,用于执行进入目标车道中的目标间隙的车道变换操纵。在一些实施例中,可以针对目标间隙再次评估每个纵向车道改变候选,或者在其他实施例中,可以考虑目标间隙来评估纵向车道改变候选的子集。例如,在使用子集的情况下,该子集可能已在间隙评估过程中从较大的组中被过滤掉。如此,在导致自我车辆在目标间隙中(例如,不在目标间隙之外、不与物体碰撞等)的间隙评估过程中,确实不违反速度矢量场(例如,不导致自我车辆与自我引导对象碰撞)和/或满足其他标准的针对目标间隙评估的纵向速度分布候选,可以用作纵向速度分布候选的子集。在任一示例中,针对目标间隙评估的纵向速度分布候选可以根据另一组(例如,不同、相同等)标准(其可以包括与间隙评估的至少一些重叠标准)来评估标准,其中可能包括速度适应持续时间、加速限制、减速限制、快速移动限制、停止距离重叠、礼貌距离、回退间隙计数或速度损失量,以确定具有最佳的分数的速度分布。每个纵向速度分布候选——或其子集——可以基于考虑到这些标准中的一些或全部的评估进行评分,并且具有最佳(例如,最高、最低等,取决于在实施例中)得分的纵向速度分布候选可以被选为纵向速度分布。
一旦确定了纵向速度分布和目标间隙,系统可以根据纵向速度分布执行车道变换操纵——例如,首先减速然后加速等。除了纵向速度分布之外,系统还可以评估多个横向分布候选。例如,在每个帧或迭代中,纵向速度分布标识符和横向分布标识符可以相互通信(例如,标识符可以双向通信耦合,并且交换中间信息)以便标识与纵向速度分布相匹配的横向分布——例如,允许根据舒适、安全等的纵向速度分布进行车道变换操纵。
在一些实施例中,可以首先执行纵向速度分布或者其至少一部分,以便将自我车辆与目标间隙对齐,同时保持在自我车道中。在这样的示例中,一旦对齐,标识的横向分布可以与另一个纵向速度分布(或初始纵向速度分布的其他部分)结合执行,以完成进入目标车道的车道变换操纵。与纵向速度分布候选类似,多个横向分布候选可以根据一个或更多个标准来评估——例如,与目标车道的横向偏离、横向加速限制、到目标车道中心的收敛速度、潜在的横向碰撞等——以找到具有最高得分的横向分布。
在每帧处所选择的纵向速度分布和横向分布可用于执行从自我车道到目标车道的目标间隙的车道变换操纵。结果,车道变换操纵可以考虑到自我车辆周围对象的过去、当前和未来的轨迹,从而可以执行安全和有效的车道变换操纵。此外,通过确定并执行纵向速度分布,该纵向速度分布使自我车辆与目标车道变换间隙对齐并同时仍在自我车道中,可以提高车道变换操纵的成功率。
参考图1,图1是根据本公开的一些实施例的用于执行车道变换操纵的系统100的数据流程图。应当理解,这里描述的这种和其他布置仅作为示例阐述。除了所示的那些之外或代替所示的那些,可以使用其他布置和元素(例如,机器、接口、功能、命令、功能分组等),并且可以完全省略一些元素。此外,这里描述的许多元素是功能实体,它们可以实现为离散或分布式组件或与其他组件结合,并以任何合适的组合和位置实现。在此描述为由实体执行的各种功能可以由硬件、固件和/或软件来执行。例如,可以通过处理器执行存储在存储器中的指令来执行各种功能。
图1的数据流程图包括传感器数据110、对象检测器112、车道标识符114、环境建模器116、纵向速度分布标识符118、横向路径标识符120、安全检查器122、车道变换轨迹确定器124和车辆控制126。在操作中,系统100可以包括从一个或更多个传感器——例如车辆500的传感器——生成和/或接收传感器数据110。传感器数据110可以被对象检测器112和/或车道标识符114用于生成数据以供环境建模器116使用——例如,以生成自我车辆环境的表示,其包括一个或更多个车道、车道中的对象(例如,其他车辆)的当前位置和/或对象的未来位置/轨迹。建模的环境——例如,环境的表示——可以被纵向速度分布标识符118和/或横向路径标识符120用来生成可以被车道变换轨迹确定器124用来确定自我车辆500的轨迹的数据-车辆500通过车道变换操纵从自我车道到车道变换的目标车道。
在一些实施例中,传感器数据110可以包括但不限于来自车辆500(和/或其他车辆、机器或物体,例如机器人设备、水船、飞机、火车、在一些例子中,建筑设备、VR系统、AR系统等)。对于非限制性示例,例如在生成传感器数据110的传感器设置在车辆上或以其他方式与车辆相关联的情况下,传感器数据110可以包括但不限于由全球导航卫星系统(GNSS),传感器558(例如,全球定位系统传感器)、RADAR传感器560、超声波传感器562、LIDAR传感器564、惯性测量单元(IMU)传感器566(例如,加速度计、陀螺仪、磁罗盘、磁力计等)、麦克风596、立体相机568、广角相机570(例如鱼眼相机)、红外相机572、环绕相机574(例如360度相机)、远程和/或中距离相机598、速度传感器544(例如,用于测量车辆500的速度)和/或其他传感器类型生成的数据。
在一些示例中,传感器数据110可以包括由一个或更多个前向传感器、侧视传感器和/或后视传感器生成的传感器数据。该传感器数据110可由对象检测器112、车道标识符114、环境建模器116和/或系统100的一个或更多个其他组件使用,以帮助确定车辆500的车道变换轨迹。在实施例中,可以使用任意数量的传感器来合并多个视场(例如,图5B的远程相机598、前向立体相机568和/或前向广角相机570的视场)和/或(例如,LIDAR传感器564、RADAR传感器560等的)感觉场。
对象检测器112可以使用传感器数据110来检测和/或跟踪自我车辆环境中的对象(例如,车辆、行人、骑自行车的人、摩托车手、卡车等)。例如,一种或更多种计算机视觉算法、机器学习模型和/或深度神经网络(DNN)可以由对象检测器112实施以检测对象和/或随时间跟踪对象。在一些实施例中,对象检测器112可用于估计或预测环境中对象的未来位置或轨迹。
车道标识符114可以使用传感器数据110和/或地图信息——例如来自全球导航卫星系统(GNSS)地图、高清(HD)地图、能够提供真实世界环境和/或其他地图类型的接近1:1比例的另一地图类型的地图信息——以确定车道数量、车道类型、车道位置,和/或以其他方式识别环境中的车道或其他划定的驾驶区域。例如,在使用地图数据的情况下,传感器数据110和地图数据可以用于在地图内定位自车辆500,并且可以在定位之后从地图确定车道。在一些实施例中,车道标识符114可以生成表示环境中的车道的车道图。
环境建模器116可以基于来自对象检测器112和/或车道标识符114的输入来生成道路的车道和车道内的对象位置的模型或表示。例如,这些模型或表示可以反映分配了哪些对象到自我车辆500周围的哪些车道,以及对象相对于自我车辆500移动的速度和/或预测或估计的对象的未来轨迹。除了来自对象检测器112的输出以将对象分配给车道图(或其他车道表示)中的车道,环境建模器116可以生成车道图(和/或使用由车道标识符114生成的车道图),以生成环境的表示。在一些实施例中,可以通过计算每个检测到的对象的边界形状(例如,框、正方形、矩形、三角形、圆形、多边形等)并裁剪部分边界形状,可以将对象分配到车道图中车道中的相应位置,以便边界形状更准确地反映最接近驱动表面的对象部分。
在一些实施例中,环境建模器116的自由空间过滤器可用于过滤掉与模型内的不可驾驶或不可穿越空间或道路车道的表示相对应的图像部分和/或过滤掉点云中对应于不可驱动或不可穿越空间的点的部分或子集。例如,人行道、建筑物、其他车辆、行人、骑自行车的人、动物、树木和/或与道路车道的模型或表示相对应的环境的其他部分可以被过滤掉或忽略,并且行驶表面——例如、道路、车道、停车场、车道等——可能会留待进一步分析。在一些示例中,计算的可驱动自由空间信息可用于裁剪边界形状,使得仅保留与可驱动自由空间相对应的边界形状的一部分。附加地或替代地,可以裁剪一定百分比或其他量的边界形状,例如裁剪边界形状的上部70%、80%、95%等。裁剪后得到的形状可以称为对象围栏。
环境建模器116可以将对象围栏位置与车道图进行比较以确定车道图中每个对象的位置——例如,类似于路径分析中的对象(OIPA)。环境建模器116然后可以将对象与确定位置处的车道图相关联以生成自我车辆500的环境的表示。在一些实施例中,由环境建模器116生成的环境的表示或模型可能限于自我车道和与自我车道相邻的一个或更多个车道,或者可能仅限于潜在的目标车道以进行车道变换操纵。然而,在其他实施例中,环境的表示可以包括在相对于自我车辆500的任何位置处的任何数量的车道。
在一些实施例中,环境建模器116可以生成环境的表示,该表示包括车道图(或其他表示类型)的自上而下的投影和对应于检测到的对象的对象围栏信息,其中可以表示为珠子。环境建模器116可以进一步使用该信息来预测道路上每个物体相对于自我车辆500的未来位置或轨迹。
在一些实施例中,环境建模器116可以将道路上每个物体的未来位置或轨迹的预测建模为车道图的一维(1D)纵向投影(例如,二维(2D)环境模型)。例如,环境建模器116可以通过投影自我车辆500和自我引导对象(例如,引导自我车辆的对象在自我车道,如果存在)从自我车道到目标车道的纵向运动,环境建模器116可以将自我车道和目标车道压缩成一维车道图。环境建模器116可以将表示对象围栏信息的珠子投影到1D车道图上,这可以允许环境建模器116确定目标车道中的车道变换间隙,例如通过确定车道图上的珠子之间的一个或更多个空间。在一些实施例中,通过使用用于对象检测的多种传感器类型,多种类型的珠子可以被包括在给定位置处相同物理对象的车道图中。例如,一个珠子可能对应于来自一种传感器类型(例如,相机传感器)的一个对象,而另一个珠子可能对应于同一个对象,但可以从来自另一种传感器类型(例如,RADAR传感器、LIDAR传感器等)的数据中生成。
由环境建模器116生成的环境的表示可以提供给纵向速度分布标识符118以用于选择纵向速度分布。纵向速度分布可包括可由车道轨迹确定器124和自主车辆500的车辆控制126使用以帮助完成从在可用于自我车辆500的纵向空间(例如,车道变换间隙)内自主车道到目标车道的车道变换的加速和/或减速数据。纵向速度分布标识符118可使用由环境建模器116提供的环境表示来标识目标车道中的一个或更多个候选车道变换间隙。一旦已经标识了一个或更多个候选间隙,纵向速度分布标识符可以评估每个候选间隙以确定最佳候选间隙。
纵向速度分布标识符118可以部分地通过将多个(例如,100、250、700、5000等)纵向速度分布候选投影到目标车道来评估候选间隙中的每一个,目标车道可以表示为一维车道图。在一些实施例中,纵向速度分布标识符118可以针对每个候选间隙执行多个纵向速度分布候选中的每一个的评估。对于非限制性示例,如果标识出三个候选间隙,则可以对多个纵向速度分布候选中的每一个进行三次评估,每个间隙候选评估一次。
纵向速度分布标识符118可以基于一组标准评估(例如,分数、等级、比率等)每个间隙的每个纵向速度分布候选。该组标准可以包括分类,例如但不限于速度适应持续时间、加速限制、减速限制、速度矢量场、快速移动限制、启发式停止距离重叠、车辆之间的礼貌距离、回退间隙计数、速度损失、过渡时间和/或安全检查表。
如本文所用,速度适应持续时间可以是调整自我车辆500的速度所需的时间量。例如,速度适应持续时间可以是自我车辆500减速和/或加速以使自我车辆500与目标间隙对齐。加速限制可以指代自我车辆500不能超过的加速度上限。减速限制可以指代自我车辆500不能低于的加速度下限。速度矢量场可以指由周围物体和环境中的车道几何形状形成的硬约束。例如,可能需要在两条车道合并为一条车道之前执行车道变换操作。一个车道结束(例如,并入另一车道)的环境中的位置可以定义为边界限制,并且可能需要在达到边界限制之前发生车道变换。边界限制还可以包括约束自我车辆移动的对象,例如环境中的附加车辆。例如,自我车道中的前车可以定义本车的速度上限,使得任何选定的纵向速度分布可能不允许自我车进入前车的阈值距离内。这些边界限制可以包括在系统100的各个组件要参考的向量场表中。
快速移动限制可以指的是当通过自我车辆执行驾驶操作或操纵时允许的加速度/减速度的最大变化率。启发式停止距离可以指自我车辆500(或环境中的另一车辆)以给定速度完全停止所需的估计距离。停止距离的任何重叠(或1D中所设置声称的)都应受到处罚,因为这将涉及未来的潜在碰撞。安全检查表可以离线构建这样的停止距离重叠信息,以便在运行时快速参考。车辆之间的礼貌距离可以指由制造商、程序员、行业标准和/或政府机构建立的车辆之间的阈值距离,或者以其他方式为车辆乘员维持舒适和/或安全的驾驶体验。如果初始目标间隙(例如,紧邻自车辆的当前间隙)在自车辆500启动对初始目标间隙的速度适应之后不再可用,则回退间隙的计数可以指代自车辆500可以瞄准的潜在车道变换间隙的数量。速度损失可以指为了使自我车辆与目标间隙候选对齐而必须损失的速度量。过渡时间可以指代自我车500从加速状态过渡到减速状态或从减速状态过渡到加速状态的时间量。
在一些实施例中,纵向速度分布标识符118可以为每个间隙的每个纵向速度分布候选的每个分类生成标准分数。然后可以基于每个纵向速度分布候选的每个分类的标准分数的总和来生成每个间隙的累积分数。例如,在有(但不限于)500个纵向速度分布候选的情况下,可以针对每个间隙评估相同的500个候选。然后可以使用每个间隙的累积分数来选择用于执行车道变换操纵的目标间隙。例如,可以选择具有最佳(例如,最高、最低等,取决于评分系统)累积分数的候选差距作为目标差距。
一旦选择了目标间隙,纵向速度分布标识符118可以评估多个纵向速度分布候选,以从纵向速度分布候选的集合或子集中确定特定纵向速度分布。例如,用于确定目标间隙的多个纵向速度分布候选然后可以被重新评估,在实施例中,目标间隙从多个纵向速度分布候选中确定最佳纵向速度分布,用于执行进入目标车道的目标间隙的车道变换操纵。在一些实施例中,可以针对目标间隙再次评估每个纵向车道改变候选者,或者在其他实施例中,可以考虑目标间隙来评估纵向车道改变候选者的子集。例如,在使用子集的情况下,该子集可能已在间隙评估过程中从较大的组中被过滤掉。因此,如下这样的纵向速度分布候选可以用作纵向速度分布候选的子集:其在导致自我车辆500在目标间隙中(例如,不在目标间隙之外、与对象碰撞等)的间隙评估过程期间,针对目标间隙评估的纵向速度分布候选没有违反速度矢量场(例如,没有导致自我车辆与自我引导对象碰撞)和/或满足其他标准。在任一示例中,针对目标间隙评估的纵向速度分布候选可以根据另一组(例如,不同的、相同的)标准(其可以包括与间隙评估标准的一些重叠标准)来评估,其可以包括速度适应持续时间、加速限制、减速限制、快速移动限制、停止距离重叠、礼貌距离、回退间隙计数或速度损失量,以确定具有最佳分数的速度分布。每个纵向速度分布候选者——或其子集——可以基于考虑到这些标准中的一些或全部的评估进行评分,并且具有最佳(例如,最高、最低等,取决于在实施例中)得分的纵向速度分布候选可以被选为纵向速度分布。
纵向速度分布路径标识符118可以双向通信地耦合到横向路径标识符120以便交换中间信息,从而标识与选择的纵向速度分布相匹配的横向路径分布。与标识纵向速度分布候选的过程类似,横向路径分布标识符120可以考虑一个或更多个标准来评估多个横向路径分布候选——例如,速度适应持续时间、加速度限制、减速限制、快速移动限制等——以识别和选择具有最佳分数的横向路径分布。
选择的纵向速度分布和选择的横向路径分布信息可以被传递到车道变换轨迹确定器124,以确定用于根据标识的分布执行车道变换操纵的命令。例如,车道变换轨迹确定器124可以基于选定的纵向速度分布和选定的横向路径分布信息确定和/或建模环境内的自我车辆500的轨迹。使用该轨迹,车道变换轨迹确定器124可以确定/产生可以由车辆控制126执行的命令(例如,用于车辆500的用于转向、加速、制动、调节悬停等的控制信号),以执行车道变换操纵。车辆控制126可包括但不限于用于转向、加速、制动、调节悬停等的操作。
在一些实施例中,一旦确定了纵向速度分布和目标间隙,纵向速度分布标识符118可以将纵向速度分布信息传递给车道变换轨迹确定器124以确定车道变换轨迹的至少一部分和根据选定的纵向速度分布的相应命令——例如,通过首先减速然后加速以将自我车辆500移向目标车道。例如,可以首先执行纵向速度分布(或至少其中的一部分),以便将自我车辆与目标间隙对齐,同时保持在自我车道中。在到目标间隙的路线中,横向路径分布标识符120可以鉴于所选择的纵向速度分布来评估多个横向分布候选。例如,在每一帧或迭代中,纵向速度分布标识符118和横向路径分布标识符120可以彼此交换中间信息以便识别最佳的横向路径分布。与所识别的横向路径分布相对应的信息随后可被传递到车道变换轨迹确定器124。一旦对齐,可基于来自我车道变换轨迹确定器124的信息(例如,命令)使用车辆控制126来执行所识别的横向分布。此外,所标识的横向分布可以与另一个纵向速度分布或初始纵向速度分布的其他部分结合执行,以完成进入目标车道的车道变换操纵。
现在参考图2,图2描绘了根据本公开的一些实施例的用于选择纵向速度分布的示例流程图200。图2包括环境块202、简单预测块204、速度分布搜索块206、评估块208和车道变换块210。
环境块202可以包括环境数据——例如图1中描述的自我车辆500周围的环境中的车道和对象的模型或表示。例如,环境数据可以包括道路车道的模型或表示(例如,基于高清地图信息)和对象(例如,车辆、行人、自行车手、摩托车手等)车道内的位置。
来自环境块202的数据可以被传递到简单预测块204以生成表示自我车道和目标车道中的对象的一维车道图212。1D车道图212可以包括自我车辆500的投影(例如,在恒定速度和/或加速/减速假设下的前向模拟)和来自自我车道和目标车道二者的环境对象的纵向运动。例如,通过确定对应于每个对象的速率、速度、加速度、姿势、航向和/或其他信息,可以确定每个对象在一段时间内的每个时间t的未来位置,以有效地创建未来车道变换环境的预测模型。这样,预测块204可以处理环境数据以预测对应于投影214的对象可以在一段时间内保持恒定速度。此外,预测块204可以预测对应于投影216的另一个对象将在一段时间内减速。
然后可以将在简单预测块204处生成的投影与速度矢量场表进行比较以确定对应于环境和/或自我车辆500中的每个对象的预测是否违反速度矢量场。如果发现对象的投影违反了速度矢量场,则可以钳制对应于对象的速度。在一些实施例中,可以假设后车不会与前(或自我)车发生碰撞。因此,可以调整对被预测为与前车碰撞的后车的预测以考虑尾随车辆将可能减速的假设,从而不与前车碰撞。
1D车道图212然后可以从简单预测块204传递到速度分布搜索块206。在一些实施例中,多个(例如,100、250、700、5000等)纵向速度分布候选可以是投影到一维车道图。然后,可以评估多个纵向速度分布候选中的每一个以确定间隙候选。考虑到对象之间的间隙、过渡时间、加速度限制、快速移动限制和/或速度矢量场限制,多个纵向速度分布候选的一部分可以从考虑选择为最佳纵向速度分布的考虑中排除,只留下达到对象之间的车道变换间隙(例如,候选间隙)的纵向速度分布。例如,纵向速度分布候选218A、218B和218C中的每一个可以保留以供考虑,因为纵向速度分布候选218A、218B和218C中的每一个位于投影214和投影216之间。
来自速度分布搜索块206的信息可以被传递到评估块208以确定纵向速度分布候选的最佳纵向速度分布。例如,可以使用一组标准评估纵向速度分布候选218A、218B和218C中的每一个,以确定最佳纵向速度分布。如本文所讨论的,该组评估标准可以包括分类,例如但不限于速度适应持续时间、加速限制、减速限制、速度矢量场、快速移动限制、启发式停止距离重叠、车辆之间的礼貌距离、回退间隙计数、速度损失、过渡时间和/或安全检查表。例如,基于对每个纵向速度分布候选218A、218B和218C的标准的评估,可以确定纵向速度分布候选218B是投影214和投影之间的间隙的最佳纵向速度分布216。为了解释这个结果,可以确定纵向速度分布候选218A不会提供自我车辆500和对应于投影214的对象之间的礼貌距离。此外,可以确定纵向速度分布候选218C将违反速度矢量场的分量,因为跟随纵向速度分布候选218C可能导致自我车辆500违反由对应于投影216的对象形成的速度上限。因此,纵向速度分布候选218B可以被选择为最佳纵向速度分布和对应于纵向速度分布候选的信息218B可以被传递到车道变换块210。
现在参考图3A,图3A描绘了根据本公开的实施例的示例车道变换场景300A的俯视图。在示例性车道变换场景300A中,基于接收到执行车道变换操纵的命令,系统——例如自我车辆310A的图1的系统100——可以生成自我车辆310A的环境模型,以执行车道变换操纵。该模型可以包括自我车道350、目标车道360和车道变换期限370A。此外,该模型可以包括位置,以及对自我车辆310A、自我领先汽车320A、目标尾随汽车330A和目标领先汽车340A的未来位置的预测。自我领先汽车320A、目标尾随汽车330A、目标领先汽车340A和车道改变期限370A可以为车道改变操纵建立约束,其可以被包括在速度矢量字段表和/或安全检查表内。
然后,可以将多个(例如,100、250、700、5000等)纵向速度分布候选312投影到目标车道360。然后可以基于如本文所讨论的一组标准来评估多个纵向速度分布候选中的每一个,以确定自我车辆310A的目标间隙。尽管在图3中被示为2D表示,这不旨在进行限制。如本文所述,可以使用速度分布的一维投影进行评估。例如,候选间隙可能存在于目标领先汽车340A前方的目标车道360(1)中;(2)在目标尾随汽车330A和目标领先汽车340A之间;(3)在目标尾随汽车330A后面。然后可以针对这些候选间隙中的每一个评估多个纵向速度分布候选312中的每一个,并且然后可以使用每个间隙的累积分数来选择目标间隙,以执行进入目标车道360的车道变换操纵。一旦选择了目标间隙,自我车辆310A就可以移动到适当位置以执行车道变换操纵,如本文所讨论的并且进一步关于图3B。
现在参考图3B,图3B描绘了根据本公开的实施例的一维车道变换场景300B。1D车道变换场景300B在某些方面类似于图3A的示例车道变换场景300A,并且包括1D车道图380、自我车辆310B、自我领先汽车320B、目标尾随汽车330B和目标领先汽车340B。如本文所讨论的,系统通过将自我车辆310A和自我领先汽车320A的纵向运动从自我车道350投影到目标车道360,可以将来自图3A的自我车道350和目标车道360压缩至如图3B所示的1D车道图380。1D车道变换场景300B还包括轨迹投影332,其对应于预测轨迹对于目标尾随汽车330B,轨迹投影334,其对应于目标领先汽车340B的预测轨迹,轨迹投影336,其对应于自我领先汽车320的预测轨迹,以及纵向路径338,其表示选择的纵向路径以将自我车辆310B移动到位置372以执行车道变换操作。
在操作中,自我车辆310B可以保持在自我车道中并执行来自纵向路径338的减速命令以将自我车辆310B定位在目标尾随汽车330B和目标领先汽车340B之间。在可以对应于减速命令开始之后的时间增量(例如,t=4s)的位置370处,自我车辆310B可以转变以执行来自纵向路径338的加速命令以将自我车辆310B移动到位置372,以执行横向车道变换操纵。在位置372,自我车辆310B可以执行横向车道变换操纵以从自我车道移动到目标车道。
现在参考图4,本文描述的方法400的每个块包括可以使用硬件、固件和/或软件的任何组合来执行的计算过程。例如,可以通过处理器执行存储在存储器中的指令来执行各种功能。方法400也可以体现为存储在计算机存储介质上的计算机可用指令。方法400可以由独立应用程序、服务或托管服务(独立或与另一托管服务组合)或另一产品的插件提供,仅举几例。此外,作为示例,关于图1的系统100描述了方法400。然而,该方法可以附加地或替代地由任何一个系统或系统的任何组合执行,包括但不限于本文所述的那些。
图4是示出根据本公开的一些实施例的用于识别纵向速度分布的方法400的流程图。在框B402,方法400包括生成自我车辆周围环境的表示。在一些实施例中,该表示可以指示至少一个自我车道、与自我车道相邻的目标车道、以及在自我车道或目标车道中的至少一个内的一个或更多个对象的位置。例如,来自对象检测器112和/或车道标识符114的输出可以提供给环境建模器116,环境建模器116可以生成道路的车道和车道内的对象位置的模型或表示。
在框B404,方法400包括至少部分地基于环境的表示来识别目标车道内的供自我车辆操纵进入的一个或更多个候选间隙。在一些实施例中,一个或更多个候选间隙中的每个候选间隙至少部分地由环境表示内的一个或更多个对象的对象的位置来描绘。例如,当接收到车道变换命令时,纵向速度分布标识符可以使用环境的表示来标识目标车道中的一个或更多个候选间隙,然后可以评估每个候选间隙。
在框B406,方法400包括至少部分地基于鉴于一个或更多个第一标准来针对一个或更多个候选间隙中的每个候选间隙评估多个纵向速度分布候选,来识别一个或更多个候选间隙中的目标间隙。例如,可以基于一组标准(例如,速度适应持续时间、加速限制、减速限制、速度矢量场、快速移动限制等)为每个间隙评估(例如,评分)每个纵向速度分布候选,以为每个间隙生成一个累积分数。然后可以使用每个间隙的累积分数来选择当前车道变换操纵的目标间隙。
在框B408,方法400至少部分地基于鉴于一个或更多个第二标准评估多个纵向速度分布候选,针对目标间隙,从多个纵向速度分布候选中识别纵向速度分布。例如,针对目标间隙评估的纵向速度分布候选可以根据另一组(例如,在实施例中不同的)标准(其可以包括与间隙评估标准的一些重叠标准)来评估,其可以包括速度适应持续时间、加速限制、减速限制、快速移动限制、停止距离重叠、礼貌距离、回退间隙计数或速度损失量,以确定具有最佳分数的速度分布。每个纵向速度分布候选——或其子集——可以基于考虑到这些标准中的一些或全部的评估进行评分,并且具有最佳(例如,最高、最低等,取决于在实施例中)得分的纵向速度分布候选可以被选为纵向速度分布。
在框B410,方法400根据纵向速度分布来执行车道变换。例如,一旦确定了纵向速度分布和目标间隙,系统可以根据纵向速度分布执行车道变换操纵——例如,首先加速然后减速等。除了纵向速度分布,还可以评估和选择横向路径或轨迹分布,以定义车道变换操纵的横向运动。
示例自主车辆
图5A为根据本公开一些实施例的示例自主车辆500的图示。自主车辆500(可替代地,在本文称为“车辆500”)可以包括但不限于乘用车,例如汽车、卡车、公共汽车、急救车、穿梭车、电动或机动自行车、摩托车、消防车、警车、救护车、船、工程车辆、水下船只、无人机和/或其他类型的车辆(例如,无人驾驶和/或可容纳一名或多名乘客)。自主车辆通常按照美国运输部的一个部门——国家公路交通安全管理局(NHTSA)以及汽车工程师协会(SAE)“Taxonomy and Definitions for Terms Related to Driving Automation Systems forOn-Road Motor Vehicles”(2018年6月15日发布的标准No.J3016-201806,2016年9月30日发布的标准No.J3016-201609,以及该标准的先前和未来的版本)定义的自动化级别进行描述。车辆500可能够实现符合自主驾驶级别的3级-5级中的一个或更多个的功能。例如,取决于实施例,车辆500可能够实现条件自动化(3级)、高自动化(4级)和/或全自动化(5级)。
车辆500可以包括诸如底盘、车身、车轮(例如2个、4个、6个、8个、18个等)、轮胎、车轴之类的部件以及车辆的其他部件。车辆500可以包括推进系统550,例如内燃机、混合动力发电厂、全电动发动机和/或另一种推进系统类型。推进系统550可以连接到可以包括变速器的车辆500的传动系以便实现车辆500的推进。可以响应于接收到来自油门/加速器552的信号而控制推进系统550。
可以包括方向盘的转向(steering)系统554可以用来在推进系统550操作时(例如在车辆运动时)使车辆500转向(例如沿着希望的路径或路线)。转向系统554可以接收来自转向致动器556的信号。对于全自动(5级)功能而言,方向盘可以是可选的。
制动传感器系统546可以用来响应于接收到来自制动致动器548和/或制动传感器的信号而操作车辆制动器。
可以包括一个或更多个片上系统(SoC)504(图5C)和/或一个或更多个GPU的一个或更多个控制器536可以向车辆500的一个或更多个部件和/或系统提供(例如表示命令的)信号。例如,一个或更多个控制器可以发送经由一个或更多个制动致动器548操作车辆制动器、经由一个或更多个转向致动器556操作转向系统554、经由一个或更多个油门/加速器552操作推进系统550的信号。一个或更多个控制器536可以包括一个或更多个板载(例如集成)计算设备(例如超级计算机),所述计算设备处理传感器信号并且输出操作命令(例如表示命令的信号),以实现自主驾驶和/或辅助人类驾驶员驾驶车辆500。一个或更多个控制器536可以包括用于自主驾驶功能的第一控制器536、用于功能性安全功能的第二控制器536、用于人工智能功能(例如计算机视觉)的第三控制器536、用于信息娱乐功能的第四控制器536、用于紧急情况下的冗余的第五控制器536和/或其他控制器。在一些示例中,单个控制器536可以处理上述功能中的两个或更多,两个或更多控制器536可以处理单个功能,和/或其任意组合。
一个或更多个控制器536可以响应于接收自一个或更多个传感器的传感器数据(例如传感器输入),提供用于控制车辆500的一个或更多个部件和/或系统的信号。传感器数据可以接收自例如且不限于全球导航卫星系统传感器558(例如全球定位系统传感器)、RADAR传感器560、超声传感器562、LIDAR传感器564、惯性测量单元(IMU)传感器566(例如加速度计、陀螺仪、磁罗盘、磁力计等)、麦克风596、立体相机568、广角相机570(例如鱼眼相机)、红外相机572、环绕相机574(例如360度相机)、远程和/或中程相机598、速度传感器544(例如用于测量车辆500的速率)、振动传感器542、转向传感器540、制动传感器(例如作为制动传感器系统546的部分)和/或其他传感器类型。
控制器536中的一个或更多个可以接收来自车辆500的仪表组532的输入(例如由输入数据表示),并且经由人机接口(HMI)显示器534、听觉信号器、扬声器和/或经由车辆500的其他部件提供输出(例如输出数据、显示数据等表示的)。这些输出可以包括诸如车辆速度、速率、时间、地图数据(例如图5C的HD地图522)、位置数据(例如,车辆500例如在地图上的位置)、方向、其他车辆的位置(例如占用网格)之类的信息,如控制器536所感知的关于对象和对象状态的信息等等。例如,HMI显示器534可以显示关于一个或更多个对象(例如街道指示牌、警示牌、交通灯变化等)的存在性的信息和/或关于车辆已经做出、正在做出或者将会做出的驾驶机动的信息(例如现在车道变换、两英里后离开34B,等等)。
车辆500进一步包括网络接口524,其可以使用一个或更多个无线天线526和/或调制解调器通过一个或更多个网络通信。例如,网络接口524可能够通过LTE、WCDMA、UMTS、GSM、CDMA2000等通信。一个或更多个无线天线526也可以使用诸如蓝牙、蓝牙LE、Z波、ZigBee等等之类的一个或更多个局域网和/或诸如LoRaWAN、SigFox等等之类的一个或更多个低功率广域网(LPWAN)实现环境中的对象(例如车辆、移动设备等等)之间的通信。
图5B为根据本公开一些实施例的用于图5A的示例自主车辆500的相机位置和视场的示例。相机和各自的视场是一个示例实施例,并不意图是限制性的。例如,可以包括附加的和/或可替换的相机,和/或这些相机可以位于车辆500上的不同位置。
用于相机的相机类型可以包括但不限于可以适于与车辆500的部件和/或系统一起使用的数字相机。所述相机可以在汽车安全完整性级别(ASIL)B下和/或在另一个ASIL下操作。相机类型可以具有任何图像捕获率,例如60帧每秒(fps)、120fps、240fps等等,这取决于实施例。相机可能够使用滚动快门、全局快门、另一种类型的快门或者其组合。在一些示例中,滤色器阵列可以包括红白白白(RCCC)滤色器阵列、红白白蓝(RCCB)滤色器阵列、红蓝绿白(RBGC)滤色器阵列、Foveon X3滤色器阵列、拜耳传感器(RGGB)滤色器阵列、单色传感器滤色器阵列和/或另一种类型的滤色器阵列。在一些实施例中,诸如具有RCCC、RCCB和/或RBGC滤色器阵列的相机之类的清晰像素相机可以用在提高光敏感度的努力中。
在一些示例中,所述相机中的一个或更多个可以用来执行高级驾驶员辅助系统(ADAS)功能(例如作为冗余或故障安全设计的部分)。例如,可以安装多功能单目相机以提供包括车道偏离警告、交通指示牌辅助和智能前照灯控制在内的功能。所述相机中的一个或更多个(例如全部相机)可以同时记录和提供图像数据(例如视频)。
所述相机中的一个或更多个可以安装在诸如定制设计的(3-D打印的)组件之类的安装组件中,以便切断可能干扰相机的图像数据捕获能力的杂散光和来自汽车内的反射(例如挡风玻璃镜中反射的来自仪表板的反射)。关于翼镜安装组件,翼镜组件可以是定制3-D打印的,使得相机安装板匹配翼镜的形状。在一些示例中,一个或更多个相机可以集成到翼镜中。对于侧视相机而言,一个或更多个相机也可以集成到驾驶室每个拐角的四根柱子内。
具有包括车辆500前面的环境部分的视场的相机(例如前置相机)可以用于环视,以帮助识别前向路径和障碍,以及在一个或更多个控制器536和/或控制SoC的帮助下辅助提供对于生成占用网格和/或确定优选车辆路径至关重要的信息。前置相机可以用来执行许多与LIDAR相同的ADAS功能,包括紧急制动、行人检测和碰撞避免。前置相机也可以用于ADAS功能和系统,包括车道偏离警告(“LDW”)、自主巡航控制(“ACC”),和/或诸如交通指示牌识别之类的其他功能。
各种各样的相机可以用于前置配置中,包括例如包括CMOS(互补金属氧化物半导体)彩色成像仪在内的单目相机平台。另一个示例可以是广角相机570,其可以用来感知从周边进入视野的对象(例如行人、十字路口交通或者自行车)。尽管图5B中图示出仅仅一个广角相机,但是在车辆500上可以存在任意数量的广角相机570。此外,远程相机598(例如长视立体相机对)可以用于基于深度的对象检测,尤其是用于尚未针对其训练神经网络的对象。远程相机598也可以用于对象检测和分类以及基本的对象跟踪。
一个或更多个立体相机568也可以包括在前置配置中。立体相机568可以包括集成控制单元,该单元包括可扩展处理单元,其可以提供在单个芯片上具有集成的CAN或以太网接口的多核微处理器和可编程逻辑(FPGA)。这样的单元可以用来生成车辆环境的3-D地图,包括针对图像中的所有点的距离估计。可替代的立体相机568可以包括紧凑型立体视觉传感器,其可以包括两个相机镜头(左右各一个)以及可以测量从车辆到目标对象的距离并且使用生成的信息(例如元数据)激活自主紧急制动和车道偏离警告功能的图像处理芯片。除了本文所描述的那些之外或者可替代地,可以使用其他类型的立体相机568。
具有包括车辆500的侧面的环境部分的视场的相机(例如侧视相机)可以用于环视,提供用来创建和更新占用网格以及生成侧撞击碰撞警告的信息。例如,环绕相机574(例如如图5B中所示的四个环绕相机574)可以置于车辆500上。环绕相机574可以包括广角相机570、鱼眼相机、360度相机和/或类似物。四个示例,四个鱼眼相机可以置于车辆的前面、后面和侧面。在一种可替代的布置中,车辆可以使用三个环绕相机574(例如左边、右边和后面),并且可以利用一个或更多个其他相机(例如前向相机)作为第四环视相机。
具有包括车辆500后面的环境部分的视场的相机(例如后视相机)可以用于辅助停车、环视、后面碰撞警告以及创建和更新占用网格。可以使用各种各样的相机,包括但不限于也适合作为如本文所描述的前置相机(例如远程和/或中程相机598、立体相机568、红外相机572等等)的相机。
图5C为根据本公开一些实施例的用于图5A的示例自主车辆500的示例系统架构的框图。应当理解,这种布置和本文描述的其他布置仅仅作为示例而被阐述。除了所示的那些之外或者代替它们的是,可以使用其他的布置和元素(例如机器、接口、功能、顺序、功能分组等等),并且一些元素可以完全省略。进一步,许多本文描述的元素是功能实体,其可以实现为分立的或分布式部件或者结合其他部件实现,以及以任何适当的组合和位置实现。本文描述为由实体执行的各个功能可以通过硬件、固件和/或软件实现。例如,各个功能可以通过处理器执行存储在内存中的指令而实现。
图5C中车辆500的部件、特征和系统中的每一个被图示为经由总线502连接。总线502可以包括控制器区域网络(CAN)数据接口(可替代地,本文称为“CAN总线”)。CAN可以是车辆500内部的网络,用来辅助控制车辆500的各种特征和功能,例如制动器、加速、制动、转向、挡风玻璃雨刷等等的驱动。CAN总线可以被配置为具有数十或者甚至数百个节点,每个节点具有其自己的唯一标识符(例如CAN ID)。可以读取CAN总线以找到方向盘角度、地速、每分钟发动机转速(RPM)、按钮位置和/或其他车辆状态指示符。CAN总线可以是ASIL B兼容的。
尽管这里将总线502描述为CAN总线,但是这并不意图是限制性的。例如,除了CAN总线之外或者可替代地,可以使用FlexRay和/或以太网。此外,尽管用单条线来表示总线502,但是这并不意图是限制性的。例如,可以存在任意数量的总线502,其可以包括一条或更多条CAN总线、一条或更多条FlexRay总线、一条或更多条以太网总线和/或一条或更多条使用不同协议的其他类型的总线。在一些示例中,两条或更多总线502可以用来执行不同的功能,和/或可以用于冗余。例如,第一总线502可以用于碰撞避免功能,并且第二总线502可以用于驱动控制。在任何示例中,每条总线502可以与车辆500的任何部件通信,并且两条或更多总线502可以与相同的部件通信。在一些示例中,车辆内的每个SoC 504、每个控制器536和/或每个计算机可以有权访问相同的输入数据(例如来自车辆500的传感器的输入),并且可以连接到诸如CAN总线之类的公共总线。
车辆500可以包括一个或更多个控制器536,例如本文关于图5A所描述的那些控制器。控制器536可以用于各种各样的功能。控制器536可以耦合到车辆500的任何其他不同的部件和系统,并且可以用于车辆500的控制、车辆500的人工智能、用于车辆500的信息娱乐和/或类似物。
车辆500可以包括一个或更多个片上系统(SoC)504。SoC 504可以包括CPU 506、GPU 508、处理器510、高速缓存512、加速器514、数据存储516和/或未图示出的其他部件和特征。在各种各样的平台和系统中,SoC 504可以用来控制车辆500。例如,一个或更多个SoC504可以在系统(例如车辆500的系统)中与HD地图522结合,所述HD地图可以经由网络接口524从一个或更多个服务器(例如图5D的一个或更多个服务器578)获得地图刷新和/或更新。
CPU 506可以包括CPU簇或CPU复合体(替代地,本文称为“CCPLEX”)。CPU 506可以包括多个核和/或L2高速缓存。例如,在一些实施例中,CPU 506在一致性多处理器配置中可以包括八个核。在一些实施例中,CPU 506可包括四个双核簇,其中每个簇具有专用的L2高速缓存(例如2MB L2高速缓存)。CPU 506(例如CCPLEX)可以被配置为支持同时簇操作,使得CPU 506的簇的任意组合能够在任何给定时间是活动的。
CPU 506可以实现包括以下特征中的一个或更多个的功率管理能力:各硬件块在空闲时可以自动进行时钟门控以节省动态功率;由于WFI/WFE指令的执行,每个核时钟可以在该核不主动地执行指令时进行门控;每个核可以独立地进行功率门控;当所有核都进行时钟门控或者功率门控时,可以独立地对每个核簇进行时钟门控;和/或当所有核都进行功率门控时,可以独立地对每个核簇进行功率门控。CPU 506可以进一步实现用于管理功率状态的增强算法,其中指定允许的功率状态和期望的唤醒时间,并且硬件/微代码为所述核、簇和CCPLEX确定要进入的最佳的功率状态。处理核可以在软件中支持简化的功率状态进入序列,该工作被卸载到微代码。
GPU 508可以包括集成的GPU(可替代地,本文称为“iGPU”)。GPU508可以是可编程的,并且对于并行工作负载而言是高效的。在一些示例中,GPU 508可以使用增强张量指令集。GPU 508可以包括一个或更多个流式微处理器,其中每个流式微处理器可以包括L1高速缓存(例如具有至少96KB存储能力的L1高速缓存),并且这些流式微处理器中的两个或更多可以共享L2高速缓存(例如具有512KB存储能力的L2高速缓存)。在一些实施例中,GPU 508可以包括至少八个流式微处理器。GPU 508可以使用计算应用编程接口(API)。此外,GPU508可以使用一个或更多个并行计算平台和/或编程模型(例如NVIDIA的CUDA)。
在汽车和嵌入式使用的情况下,可以对GPU 508进行功率优化以实现最佳性能。例如,可以在鳍式场效应晶体管(FinFET)上制造GPU 508。然而,这并不意图是限制性的,并且GPU 508可以使用其他半导体制造工艺来制造。每个流式微处理器可以合并划分成多个块的若干混合精度处理核。例如且非限制性地,可以将64个PF32核和32个PF64核划分成四个处理块。在这样的示例中,每个处理块可以分配16个FP32核、8个FP64核、16个INT32核、用于深层学习矩阵算术的两个混合精度NVIDIA张量核、L0指令高速缓存、线程束(warp)调度器、分派单元和/或64KB寄存器文件。此外,流式微处理器可以包括独立的并行整数和浮点数据路径,以利用计算和寻址计算的混合提供工作负载的高效执行。流式微处理器可以包括独立线程调度能力,以允许实现并行线程之间的更细粒度的同步和协作。流式微处理器可以包括组合的L1数据高速缓存和共享内存单元,以便在简化编程的同时提高性能。
GPU 508可以包括在一些示例中提供大约900GB/s的峰值内存带宽的高带宽内存(HBM)和/或16GB HBM2内存子系统。在一些示例中,除了HBM内存之外或者可替代地,可以使用同步图形随机存取存储器(SGRAM),例如第五代图形双倍数据速率同步随机存取存储器(GDDR5)。
GPU 508可以包括统一内存技术,其包括访问计数器以允许内存页面更精确地迁移到最频繁地访问它们的处理器,从而提高处理器之间共享的内存范围的效率。在一些示例中,地址转换服务(ATS)支持可以用来允许GPU 508直接访问CPU 506页表。在这样的示例中,当GPU 508内存管理单元(MMU)经历遗漏时,可以将地址转换请求传输至CPU 506。作为响应,CPU 506可以在其页表中寻找用于地址的虚拟-物理映射,并且将转换传输回GPU508。这样,统一内存技术可以允许单个统一虚拟地址空间用于CPU 506和GPU 508二者的内存,从而简化了GPU 508编程和将应用程序移(port)到GPU 508。
此外,GPU 508可以包括访问计数器,其可以跟踪GPU 508访问其他处理器的内存的频率。访问计数器可以帮助确保内存页面移至最频繁地访问这些页面的处理器的物理内存。
SoC 504可以包括任意数量的高速缓存512,包括本文描述的那些高速缓存。例如,高速缓存512可以包括CPU 506和GPU 508二者可用的L3高速缓存(例如,其连接到CPU 506和GPU 508二者)。高速缓存512可以包括回写高速缓存,其可以例如通过使用高速缓存一致性协议(例如MEI、MESI、MSI等)跟踪行的状态。取决于实施例,L3高速缓存可以包括4MB或者更多,但是也可以使用更小的高速缓存大小。
SoC 504可包括一个或更多个算术逻辑单元(ALU),其可用于执行关于车辆500的各种任务或操作中的任一个的处理,例如处理DNN。此外,SoC 504可以包括浮点单元(FPU)或其他数学协处理器或数字协处理器类型,用于在系统内执行数学运算。例如,SoC 104可以包括一个或更多个集成为CPU 506和/或GPU 508内的执行单元的FPU。
SoC 504可以包括一个或更多个加速器514(例如硬件加速器、软件加速器或者其组合)。例如,SoC 504可以包括硬件加速簇,其可以包括优化的硬件加速器和/或大型片上内存。该大型片上内存(例如4MB SRAM)可以使得硬件加速簇能够加速神经网络和其他计算。硬件加速簇可以用来补充GPU 508,并且卸载GPU 508的一些任务(例如释放GPU 508的更多周期以用于执行其他任务)。作为一个示例,加速器514可以用于足够稳定以易于控制加速的有针对性的工作负载(例如感知、卷积神经网络(CNN)等等)。当在本文中使用时,术语“CNN”可以包括所有类型的CNN,包括基于区域的或者区域卷积神经网络(RCNN)和快速RCNN(例如用于对象检测)。
加速器514(例如硬件加速簇)可以包括深度学习加速器(DLA)。DLA可以包括可以被配置成为深度学习应用和推理提供额外的每秒10万亿次操作的一个或更多个张量处理单元(TPU)。TPU可以是被配置为执行图像处理功能(例如用于CNN、RCNN等)且针对执行图像处理功能而优化的加速器。DLA可以进一步针对特定的一组神经网络类型和浮点运算以及推理进行优化。DLA的设计可以比通用GPU提供每毫米更高的性能,并且远远超过CPU的性能。TPU可以执行若干功能,包括单实例卷积函数,支持例如用于特征和权重二者的INT8、INT16和FP16数据类型,以及后处理器功能。
DLA可以在处理的或者未处理的数据上针对各种各样的功能中的任何功能快速且高效地执行神经网络,尤其是CNN,例如且不限于:用于使用来自相机传感器的数据进行对象识别和检测的CNN;用于使用来自相机传感器的数据进行距离估计的CNN;用于使用来自麦克风的数据进行应急车辆检测和识别与检测的CNN;用于使用来自相机传感器的数据进行面部识别和车主识别的CNN;和/或用于安全和/或安全相关事件的CNN。
DLA可以执行GPU 508的任何功能,并且通过使用推理加速器,例如,设计者可以使DLA或GPU 508针对任何功能。例如,设计者可以将CNN的处理和浮点运算聚焦在DLA上,并且将其他功能留给GPU 508和/或其他加速器514。
加速器514(例如硬件加速簇)可以包括可编程视觉加速器(PVA),其在本文中可以可替代地称为计算机视觉加速器。PVA可以被设计和配置为加速用于高级驾驶员辅助系统(ADAS)、自主驾驶和/或增强现实(AR)和/或虚拟现实(VR)应用的计算机视觉算法。PVA可以提供性能与灵活性之间的平衡。例如,每个PVA可以包括例如且不限于任意数量的精简指令集计算机(RISC)核、直接内存访问(DMA)和/或任意数量的向量处理器。
RISC核可以与图像传感器(例如本文描述的任何相机的图像传感器)、图像信号处理器和/或类似物交互。这些RISC核中的每一个可以包括任意数量的内存。取决于实施例,RISC核可以使用若干协议中的任何协议。在一些示例中,RISC核可以执行实时操作系统(RTOS)。RISC核可以使用一个或更多个集成电路设备、专用集成电路(ASIC)和/或存储设备实现。例如,RISC核可以包括指令高速缓存和/或紧密耦合的RAM。
DMA可以使得PVA的部件能够独立于CPU 506访问系统内存。DMA可以支持用来向PVA提供优化的任意数量的特征,包括但不限于支持多维寻址和/或循环寻址。在一些示例中,DMA可以支持高达六个或更多维度的寻址,其可以包括块宽度、块高度、块深度、水平块步进、竖直块步进和/或深度步进。
向量处理器可以是可编程处理器,其可以被设计为高效且灵活地执行用于计算机视觉算法的编程并且提供信号处理能力。在一些示例中,PVA可以包括PVA核和两个向量处理子系统分区。PVA核可以包括处理器子系统、一个或更多个DMA引擎(例如两个DMA引擎)和/或其他外围设备。向量处理子系统可以作为PVA的主处理引擎而操作,并且可以包括向量处理单元(VPU)、指令高速缓存和/或向量内存(例如VMEM)。VPU核可以包括数字信号处理器,诸如例如单指令多数据(SIMD)、超长指令字(VLIW)数字信号处理器。SIMD和VLIW的组合可以增强吞吐量和速率。
向量处理器中的每一个可以包括指令高速缓存并且可以耦合到专用内存。结果,在一些示例中,向量处理器中的每一个可以被配置为独立于其他向量处理器执行。在其他示例中,包括在特定PVA中的向量处理器可以被配置为采用数据并行化。例如,在一些实施例中,包括在单个PVA中的多个向量处理器可以执行相同的计算机视觉算法,但是在图像的不同区域上执行。在其他示例中,包括在特定PVA中的向量处理器可以在相同的图像上同时执行不同的计算机视觉算法,或者甚至在序列图像或者图像的部分上执行不同的算法。除其他的以外,任意数量的PVA可以包括在硬件加速簇中,并且任意数量的向量处理器可以包括在这些PVA中的每一个中。此外,PVA可以包括附加的纠错码(ECC)内存,以增强总体系统安全性。
加速器514(例如硬件加速簇)可以包括片上计算机视觉网络和SRAM,以提供用于加速器514的高带宽、低延迟SRAM。在一些示例中,片上内存可以包括由例如且不限于八个现场可配置的内存块组成的至少4MB SRAM,其可以由PVA和DLA二者访问。每对内存块可以包括高级外围总线(APB)接口、配置电路系统、控制器和复用器。可以使用任何类型的内存。PVA和DLA可以经由向PVA和DLA提供高速内存访问的主干(backbone)访问内存。主干可以包括(例如使用APB)将PVA和DLA互连到内存的片上计算机视觉网络。
片上计算机视觉网络可以包括在传输任何控制信号/地址/数据之前确定PVA和DLA二者都提供就绪且有效的信号的接口。这样的接口可以提供用于传输控制信号/地址/数据的单独相位和单独信道,以及用于连续数据传输的突发式通信。这种类型的接口可以符合ISO 26262或者IEC 61508标准,但是也可以使用其他标准和协议。
在一些示例中,SoC 504可以包括例如在2018年8月10日提交的美国专利申请No.16/101,232中描述的实时光线追踪硬件加速器。该实时光线追踪硬件加速器可以用来快速且高效地确定(例如世界模型内的)对象的位置和范围,以便生成实时可视化仿真,以用于RADAR信号解释、用于声音传播合成和/或分析、用于SONAR系统仿真、用于一般波传播仿真、用于为了定位和/或其他功能的目的与LIDAR数据相比较和/或用于其他用途。在一些实施例中,一个或更多个树遍历单元(TTU)可用于执行一个或更多个光线追踪相关操作。
加速器514(例如硬件加速器簇)具有广泛的自主驾驶用途。PVA可以是可编程视觉加速器,其可以用于ADAS和自主车辆中的关键处理阶段。PVA的能力是需要可预测处理、低功率和低延迟的算法域的良好匹配。换言之,PVA在半密集或者密集规则计算上,甚至在需要具有低延迟和低功率的可预测运行时间的小数据集上都表现良好。因此,在用于自主车辆的平台的背景下,PVA被设计为运行经典计算机视觉算法,因为它们在对象检测和整数数学运算方面很有效。
例如,根据该技术的一个实施例,PVA用来执行计算机立体视觉。在一些示例中,可以使用基于半全局匹配的算法,但是这并不意图是限制性的。许多用于3-5级自主驾驶的应用都需要即时运动估计/立体匹配(例如来自运动的结构、行人识别、车道检测等等)。PVA可以在来自两个单目相机的输入上执行计算机立体视觉功能。
在一些示例中,PVA可以用来执行密集的光流。根据过程原始RADAR数据(例如使用4D快速傅立叶变换)以提供经处理的RADAR。在其他示例中,PVA用于飞行时间深度处理,其例如通过处理原始飞行时间数据以提供经处理的飞行时间数据。
DLA可以用来运行任何类型的网络以增强控制和驾驶安全性,包括例如输出用于每个对象检测的置信度度量的神经网络。这样的置信度值可以解释为概率,或者解释为提供每个检测与其他检测相比的相对“权重”。该置信度值使得系统能够做出关于哪些检测应当被认为是真阳性检测而不是假阳性检测的进一步决策。例如,系统可以为置信度设置阈值,并且仅仅将超过阈值的检测看作真阳性检测。在自动紧急制动(AEB)系统中,假阳性检测会使得车辆自动地执行紧急制动,这显然是不希望的。因此,只有最确信的检测才应当被认为是AEB的触发因素。DLA可以运行用于回归置信度值的神经网络。该神经网络可以将至少一些参数子集作为其输入,例如边界框维度,(例如从另一个子系统)获得的地平面估计,与车辆500取向、距离相关的惯性测量单元(IMU)传感器566输出,从神经网络和/或其他传感器(例如LIDAR传感器564或RADAR传感器560)获得的对象的3D位置估计等。
SoC 504可以包括一个或更多个数据存储516(例如内存)。数据存储516可以是SoC504的片上内存,其可以存储要在GPU和/或DLA上执行的神经网络。在一些示例中,为了冗余和安全,数据存储516可以容量足够大以存储神经网络的多个实例。数据存储512可以包括L2或L3高速缓存512。对数据存储516的引用可以包括对与如本文所描述的PVA、DLA和/或其他加速器514关联的内存的引用。
SoC 504可以包括一个或更多个处理器510(例如嵌入式处理器)。处理器510可以包括启动和功率管理处理器,其可以是用于处理启动功率和管理功能以及有关安全实施的专用处理器和子系统。启动和功率管理处理器可以是SoC 504启动序列的一部分,并且可以提供运行时间功率管理服务。启动功率和管理处理器可以提供时钟和电压编程、辅助系统低功率状态转换、SoC 504热和温度传感器管理和/或SoC 504功率状态管理。每个温度传感器可以实现为环形振荡器,其输出频率与温度成比例,并且SoC504可以使用环形振荡器检测CPU 506、GPU 508和/或加速器514的温度。如果确定温度超过阈值,那么启动和功率管理处理器可以进入温度故障例程并且将SoC 504置于较低功率状态和/或将车辆500置于司机安全停车模式(例如使车辆500安全停车)。
处理器510可以进一步包括可以用作音频处理引擎的一组嵌入式处理器。音频处理引擎可以是一种音频子系统,其允许实现对于通过多个接口的多声道音频的完全硬件支持以及一系列广泛而灵活的音频I/O接口。在一些示例中,音频处理引擎是具有带有专用RAM的数字信号处理器的专用处理器核。
处理器510可以进一步包括始终在处理器上的引擎,其可以提供必要的硬件特征以支持低功率传感器管理和唤醒用例。该始终在处理器上的引擎可以包括处理器核、紧密耦合的RAM、支持外围设备(例如定时器和中断控制器)、各种I/O控制器外围设备和路由逻辑。
处理器510可以进一步包括安全簇引擎,其包括处理汽车应用的安全管理的专用处理器子系统。安全簇引擎可以包括两个或更多处理器核、紧密耦合的RAM、支持外围设备(例如定时器、中断控制器等等)和/或路由逻辑。在安全模式下,所述两个或更多核可以操作于锁步模式下,并且用作具有检测它们的操作之间的任何差异的比较逻辑的单核。
处理器510可以进一步包括实时相机引擎,其可以包括用于处理实时相机管理的专用处理器子系统。
处理器510可以进一步包括高动态范围信号处理器,其可以包括图像信号处理器,该图像信号处理器是一种硬件引擎,该硬件引擎是相机处理管线的部分。
处理器510可以包括可以是(例如微处理器上实现的)处理块的视频图像复合器,其实现视频回放应用程序产生用于播放器窗口的最终图像所需的视频后处理功能。视频图像复合器可以对广角相机570、环绕相机574和/或对驾驶室内监控相机传感器执行镜头畸变校正。驾驶室内监控相机传感器优选地由运行在高级SoC的另一个实例上的神经网络监控,被配置为识别驾驶室内事件并且相对应地做出响应。驾驶室内系统可以执行唇读,以激活移动电话服务并拨打电话、口述电子邮件、改变车辆目的地、激活或改变车辆的信息娱乐系统和设置或者提供语音激活的网上冲浪。某些功能仅在车辆操作于自主模式下时对于驾驶员可用,并且在其他情况下被禁用。
视频图像复合器可以包括用于空间和时间降噪的增强时间降噪。例如,在视频中出现运动的情况下,降噪适当地对空间信息加权,降低邻近帧提供的信息的权重。在图像或者图像的部分不包括运动的情况下,视频图像复合器执行的时间降噪可以使用来自先前的图像的信息以降低当前图像中的噪声。
视频图像复合器也可以被配置为对输入立体镜头帧执行立体校正。当操作系统桌面正在使用并且GPU 508无需连续地渲染(render)新的表面时,视频图像复合器可以进一步用于用户接口组成。甚至在GPU 508上电并且激活,进行3D渲染时,视频图像复合器可以用来减轻GPU 508的负担以提高性能和响应能力。
SoC 504可以进一步包括用于从相机接收视频和输入的移动行业处理器接口(MIPI)相机串行接口、高速接口和/或可以用于相机和有关像素输入功能的视频输入块。SoC 504可以进一步包括可以由软件控制并且可以用于接收未提交到特定角色的I/O信号的输入/输出控制器。
SoC 504可以进一步包括大范围的外围设备接口,以使能与外围设备、音频编解码器、功率管理和/或其他设备通信。SoC 504可以用来处理来自(通过千兆多媒体串行链路和以太网连接的)相机、传感器(例如可以通过以太网连接的LIDAR传感器564、RADAR传感器560等等)的数据,来自总线502的数据(例如车辆500的速率、方向盘位置等等),来自(通过以太网或CAN总线连接的)GNSS传感器558的数据。SoC 504可以进一步包括专用高性能大容量存储控制器,其可以包括它们自己的DMA引擎,并且其可以用来从日常数据管理任务中释放CPU 506。
SoC 504可以是具有灵活架构的端到端平台,该架构跨越自动化3-5级,从而提供利用和高效使用计算机视觉和ADAS技术以实现多样性和冗余、连同深度学习工具一起提供用于灵活可靠驾驶软件堆栈的平台的综合功能安全架构。SoC 504可以比常规的系统更快、更可靠,甚至更加能量高效和空间高效。例如,当与CPU 506、GPU 508和数据存储516结合时,加速器514可以提供用于3-5级自主车辆的快速高效平台。
因此该技术提供了不能通过常规系统实现的能力和功能。例如,计算机视觉算法可以在CPU上执行,这些CPU可以使用诸如C编程语言之类的高级编程语言配置为跨各种各样的视觉数据执行各种各样的处理算法。然而,CPU常常不能满足许多计算机视觉应用的性能要求,诸如与例如执行时间和功耗有关的那些要求。特别地,许多CPU不能实时地执行复杂的对象检测算法,这是车载ADAS应用的要求和实用3-5级自主车辆的要求。
与常规系统形成对比的是,通过提供CPU复合体、GPU复合体和硬件加速簇,本文描述的技术允许同时和/或顺序地执行多个神经网络,并且将结果组合在一起以实现3-5级自主驾驶功能。例如,在DLA或dGPU(例如GPU 520)上执行的CNN可以包括文本和单词识别,允许超级计算机读取和理解交通指示牌,包括尚未针对其特别地训练神经网络的指示牌。DLA可以进一步包括能够识别、解释和提供对指示牌的语义理解,并且将该语义理解传递给运行在CPU复合体上的路径规划模块的神经网络。
作为另一个示例,如3、4或5级驾驶所需的,多个神经网络可以同时运行。例如,由“注意:闪烁的灯指示结冰条件”组成的警告指示牌连同电灯可以由若干神经网络独立地或者共同地进行解释。指示牌本身可以由部署的第一神经网络(例如经过训练的神经网络)识别为交通指示牌,文本“闪烁的灯指示结冰条件”可以由部署的第二神经网络解释,该部署的第二神经网络告知车辆的路径规划软件(优选地在CPU复合体上执行)当检测到闪烁的灯时,存在结冰条件。闪烁的灯可以通过在多个帧上操作部署的第三神经网络而识别,该神经网络告知车辆的路径规划软件闪烁的灯的存在(或不存在)。所有三个神经网络可以例如在DLA内和/或在GPU 508上同时运行。
在一些示例中,用于面部识别和车主识别的CNN可以使用来自相机传感器的数据识别车辆500的授权的驾驶员和/或车主的存在。始终在传感器上的处理引擎可以用来在车主接近驾驶员车门时解锁车辆并且打开灯,并且在安全模式下,在车主离开车辆时禁用车辆。按照这种方式,SoC 504提供了防范盗窃和/或劫车的安全性。
在另一个示例中,用于应急车辆检测和识别的CNN可以使用来自麦克风596的数据来检测并且识别应急车辆警报(siren)。与使用通用分类器检测警报并且手动地提取特征的常规系统形成对比的是,SoC 504使用CNN以对环境和城市声音分类以及对视觉数据分类。在优选的实施例中,运行在DLA上的CNN被训练为识别应急车辆的相对关闭速率(例如通过使用多普勒效应)。CNN也可以被训练为识别如GNSS传感器558所识别的特定于车辆在其中操作的局部区域的应急车辆。因此,例如,当在欧洲操作时,CNN将寻求检测欧洲警报,并且当在美国时,CNN将寻求识别仅仅北美的警报。一旦检测到应急车辆,在超声传感器562的辅助下,控制程序可以用来执行应急车辆安全例程,使车辆放慢速度,开到路边,停下车辆,和/或使车辆空转,直到应急车辆通过。
车辆可以包括可以经由高速互连(例如PCIe)耦合到SoC 504的CPU 518(例如分立的CPU或dCPU)。CPU 518可以包括例如X86处理器。CPU 518可以用来执行各种各样的功能中的任何功能,包括例如仲裁ADAS传感器与SoC 504之间潜在地不一致的结果,和/或监控控制器536和/或信息娱乐SoC 530的状态和健康状况。
车辆500可以包括可以经由高速互连(例如NVIDIA的NVLINK)耦合到SoC 504的GPU520(例如分立的GPU或dGPU)。GPU 520可以例如通过执行冗余的和/或不同的神经网络而提供附加的人工智能功能,并且可以用来基于来自车辆500的传感器的输入(例如传感器数据)来训练和/或更新神经网络。
车辆500可以进一步包括网络接口524,该网络接口可以包括一个或更多个无线天线526(例如用于不同通信协议的一个或更多个无线天线,例如蜂窝天线、蓝牙天线等等)。网络接口524可以用来使能通过因特网与云(例如与服务器578和/或其他网络设备)、与其他车辆和/或与计算设备(例如乘客的客户端设备)的无线连接。为了与其他车辆通信,可以在这两辆车之间建立直接链接,和/或可以建立间接链接(例如跨网络以及通过因特网)。直接链接可以使用车对车通信链路提供。车对车通信链路可以向车辆500提供关于接近车辆500的车辆(例如车辆500前面、侧面和/或后面的车辆)的信息。该功能可以是车辆500的协作自适应巡航控制功能的部分。
网络接口524可以包括提供调制和解调功能并且使得控制器536能够通过无线网络通信的SoC。网络接口524可以包括用于从基带到射频的上转换以及从射频到基带的下转换的射频前端。频率转换可以通过公知的过程执行,和/或可以使用超外差(super-heterodyne)过程执行。在一些示例中,射频前端功能可以由单独的芯片提供。网络接口可以包括用于通过LTE、WCDMA、UMTS、GSM、CDMA2000、蓝牙、蓝牙LE、Wi-Fi、Z波、ZigBee、LoRaWAN和/或其他无线协议通信的无线功能。
车辆500可以进一步包括可包括片外(例如SoC 504外)存储装置的数据存储528。数据存储528可以包括一个或更多个存储元件,包括RAM、SRAM、DRAM、VRAM、闪存、硬盘和/或可以存储至少一个比特的数据的其他部件和/或设备。
车辆500可以进一步包括GNSS传感器558。GNSS传感器558(例如GPS、辅助GPS传感器、差分GPS(DGPS)传感器等)用于辅助映射、感知、占用网格生成和/或路径规划功能。可以使用任意数量的GNSS传感器558,包括例如且不限于使用带有以太网到串行(RS-232)网桥的USB连接器的GPS。
车辆500可以进一步包括RADAR传感器560。RADAR传感器560可以甚至在黑暗和/或恶劣天气条件下也由车辆500用于远程车辆检测。RADAR功能安全级别可以是ASIL B。RADAR传感器560可以使用CAN和/或总线502(例如以传输RADAR传感器560生成的数据)以用于控制以及访问对象跟踪数据,在一些示例中接入以太网以访问原始数据。可以使用各种各样的RADAR传感器类型。例如且非限制性地,RADAR传感器560可以适合前面、后面和侧面RADAR使用。在一些示例中,使用脉冲多普勒RADAR传感器。
RADAR传感器560可以包括不同的配置,例如具有窄视场的远程、具有宽视场的短程、短程侧覆盖等等。在一些示例中,远程RADAR可以用于自适应巡航控制功能。远程RADAR系统可以提供通过两个或更多独立浏览实现的广阔视场(例如250m范围内)。RADAR传感器560可以帮助区分静态对象和运动对象,并且可以由ADAS系统用于紧急制动辅助和前方碰撞警告。远程RADAR传感器可以包括具有多根(例如六根或更多)固定RADAR天线以及高速CAN和FlexRay接口的单站多模RADAR。在具有六根天线的示例中,中央四根天线可以创建聚焦的波束图案,其被设计为在更高速率下以来自邻近车道的最小交通干扰记录车辆500的周围环境。其他两根天线可以扩展视场,使得快速地检测进入或离开车辆500的车道的车辆成为可能。
作为一个示例,中程RADAR系统可以包括高达560m(前面)或80m(后面)的范围以及高达42度(前面)或550度(后面)的视场。短程RADAR系统可以包括但不限于被设计为安装在后保险杠两端的RADAR传感器。当安装在后保险杠两端时,这样的RADAR传感器系统可以创建持续地监控后方和车辆旁边的盲点的两个波束。
短程RADAR系统可以在ADAS系统中用于盲点检测和/或车道变换辅助。
车辆500可以进一步包括超声传感器562。可以置于车辆500的前面、后面和/或侧面的超声传感器562可以用于停车辅助和/或创建和更新占用网格。可以使用各种各样的超声传感器562,并且不同的超声传感器562可以用于不同的检测范围(例如2.5m、4m)。超声传感器562可以操作于功能安全级别的ASIL B。
车辆500可以包括LIDAR传感器564。LIDAR传感器564可以用于对象和行人检测、紧急制动、碰撞避免和/或其他功能。LIDAR传感器564可以为功能安全级别的ASIL B。在一些示例中,车辆500可以包括可以使用以太网(例如以将数据提供给千兆以太网交换机)的多个LIDAR传感器564(例如两个、四个、六个等等)。
在一些示例中,LIDAR传感器564可能够对360度视场提供对象列表及其距离。商业上可用的LIDAR传感器564可以具有例如近似500m的广告范围,精度为2cm-3cm,支持500Mbps以太网连接。在一些示例中,可以使用一个或更多个非突出的LIDAR传感器564。在这样的示例中,LIDAR传感器564可以实现为可以嵌入到车辆500的前面、后面、侧面和/或拐角的小设备。在这样的示例中,LIDAR传感器564可以甚至对于低反射率对象提供高达120度水平的和35度竖直的视场,具有200m的范围。前面安装的LIDAR传感器564可以被配置用于45度与135度之间的水平视场。
在一些示例中,也可以使用诸如3D闪光LIDAR之类的LIDAR技术。3D闪光LIDAR使用激光的闪光作为发射源,以照亮高达约200m的车辆周围环境。闪光LIDAR单元包括接受器,该接受器将激光脉冲传输时间和反射光记录在每个像素上,其进而与从车辆到对象的范围相对应。闪光LIDAR可以允许利用每个激光闪光生成周围环境的高度精确且无失真的图像。在一些示例中,可以部署四个闪光LIDAR传感器,车辆500的每一侧一个。可用的3D闪光LIDAR系统包括没有风扇以外的运动部件(moving part)的固态3D凝视阵列LIDAR相机(例如非浏览LIDAR设备)。闪光LIDAR设备可以使用每帧5纳秒I类(眼睛安全)激光脉冲,并且可以以3D范围点云和共同寄存的强度数据的形式捕获反射的激光。通过使用闪光LIDAR,并且因为闪光LIDAR是没有运动部件的固态设备,LIDAR传感器564可以不太容易受到运动模糊、振动和/或震动的影响。
该车辆可以进一步包括IMU传感器566。在一些示例中,IMU传感器566可以位于车辆500的后轴的中心。IMU传感器566可以包括例如且不限于加速度计、磁力计、陀螺仪、磁罗盘和/或其他传感器类型。在一些示例中,例如在六轴应用中,IMU传感器566可以包括加速度计和陀螺仪,而在九轴应用中,IMU传感器566可以包括加速度计、陀螺仪和磁力计。
在一些实施例中,IMU传感器566可以实现为微型高性能GPS辅助惯性导航系统(GPS/INS),其结合微机电系统(MEMS)惯性传感器、高灵敏度GPS接收器和高级卡尔曼滤波算法以提供位置、速度和姿态的估计。这样,在一些示例中,IMU传感器566可以使得车辆500能够在无需来自磁传感器的输入的情况下通过直接观察从GPS到IMU传感器566的速度变化并且将其相关来估计方向(heading)。在一些示例中,IMU传感器566和GNSS传感器558可以结合到单个集成单元中。
该车辆可以包括置于车辆500中和/或车辆500周围的麦克风596。除别的以外,麦克风596可以用于应急车辆检测和识别。
该车辆可以进一步包括任意数量的相机类型,包括立体相机568、广角相机570、红外相机572、环绕相机574、远程和/或中程相机598和/或其他相机类型。这些相机可以用来捕获车辆500整个外围周围的图像数据。使用的相机类型取决于实施例和车辆500的要求,并且相机类型的任意组合可以用来提供车辆500周围的必要覆盖。此外,相机的数量可以根据实施例而不同。例如,该车辆可以包括六个相机、七个相机、十个相机、十二个相机和/或另一数量的相机。作为一个示例且非限制性地,这些相机可以支持千兆多媒体串行链路(GMSL)和/或千兆以太网。所述相机中的每一个在本文关于图5A和图5B更详细地进行了描述。
车辆500可以进一步包括振动传感器542。振动传感器542可以测量车辆的诸如车轴之类的部件的振动。例如,振动的变化可以指示道路表面的变化。在另一个示例中,当使用两个或更多振动传感器542时,振动之间的差异可以用来确定道路表面的摩擦或滑移(例如当动力驱动轴与自由旋转轴之间存在振动差异时)。
车辆500可以包括ADAS系统538。在一些示例中,ADAS系统538可以包括SoC。ADAS系统538可以包括自主/自适应/自动巡航控制(ACC)、协作自适应巡航控制(CACC)、前方撞车警告(FCW)、自动紧急制动(AEB)、车道偏离警告(LDW)、车道保持辅助(LKA)、盲点警告(BSW)、后方穿越交通警告(RCTW)、碰撞警告系统(CWS)、车道居中(LC)和/或其他特征和功能。
ACC系统可以使用RADAR传感器560、LIDAR传感器564和/或相机。ACC系统可以包括纵向ACC和/或横向ACC。纵向ACC监控并控制到紧接在车辆500前方的车辆的距离,并且自动地调节车速以维持离前方车辆的安全距离。横向ACC执行距离保持,并且在必要时建议车辆500改变车道。横向ACC与诸如LCA和CWS之类的其他ADAS应用程序有关。
CACC使用来自其他车辆的信息,该信息可以经由网络接口524和/或无线天线526经由无线链路或者通过网络连接(例如通过因特网)间接地从其他车辆接收。直接链接可以由车对车(V2V)通信链路提供,而间接链接可以是基础设施到车辆(I2V)的通信链路。通常,V2V通信概念提供关于紧接在前的车辆(例如紧接在车辆500前方且与其处于相同车道的车辆)的信息,而I2V通信概念提供关于前方更远处的交通的信息。CACC系统可以包括I2V和V2V信息源中的任一个或者二者。给定车辆500前方车辆的信息,CACC可以更加可靠,并且它有可能提高交通流的畅通性且降低道路拥堵。
FCW系统被设计为提醒驾驶员注意危险,使得驾驶员可以采取纠正措施。FCW系统使用耦合到专用处理器、DSP、FPGA和/或ASIC的前置相机和/或RADAR传感器560,该专用处理器、DSP、FPGA和/或ASIC电耦合至诸如显示器、扬声器和/或振动部件之类的驾驶员反馈。FCW系统可以提供例如声音、视觉警告、振动和/或快速制动脉冲形式的警告。
AEB系统检测即将发生的与另一车辆或其他对象的前方碰撞,并且可以在驾驶员在指定的时间或距离参数内没有采取纠正措施的情况下自动地应用制动器。AEB系统可以使用耦合到专用处理器、DSP、FPGA和/或ASIC的前置相机和/或RADAR传感器560。当AEB系统检测到危险时,它典型地首先提醒(alert)驾驶员采取纠正措施以避免碰撞,并且如果驾驶员没有采取纠正措施,那么AEB系统可以自动地应用制动器以努力防止或者至少减轻预测的碰撞的影响。AEB系统可以包括诸如动态制动支持和/或碰撞迫近制动之类的技术。
LDW系统提供了诸如方向盘或座位振动之类的视觉、听觉和/或触觉警告,以在车辆500穿过车道标记时提醒驾驶员。当驾驶员指示有意偏离车道时,通过激活转弯信号,不激活LDW系统。LDW系统可以使用耦合到专用处理器、DSP、FPGA和/或ASIC的前侧朝向相机,该专用处理器、DSP、FPGA和/或ASIC电耦合至诸如显示器、扬声器和/或振动部件之类的驾驶员反馈。
LKA系统是LDW系统的变型。如果车辆500开始离开车道,那么LKA系统提供纠正车辆500的转向输入或制动。
BSW系统检测并向驾驶员警告汽车盲点中的车辆。BSW系统可以提供视觉、听觉和/或触觉警报以指示合并或改变车道是不安全的。系统可以在驾驶员使用转弯信号时提供附加的警告。BSW系统可以使用耦合到专用处理器、DSP、FPGA和/或ASIC的后侧朝向相机和/或RADAR传感器560,该专用处理器、DSP、FPGA和/或ASIC电耦合至诸如显示器、扬声器和/或振动部件之类的驾驶员反馈。
RCTW系统可以在车辆500倒车时在后置相机范围之外检测到对象时提供视觉、听觉和/或触觉通知。一些RCTW系统包括AEB以确保应用车辆制动器以避免撞车。RCTW系统可以使用耦合到专用处理器、DSP、FPGA和/或ASIC的一个或更多个后置RADAR传感器560,该专用处理器、DSP、FPGA和/或ASIC电耦合至诸如显示器、扬声器和/或振动部件之类的驾驶员反馈。
常规的ADAS系统可能易于出现假阳性结果,这可能会让驾驶员烦恼并分散注意力,但是典型地不是灾难性的,因为ADAS系统提醒驾驶员并且允许驾驶员决定安全条件是否真正存在并且相对应地采取行动。然而,在自主车辆500中,在冲突结果的情况下,车辆500本身必须决定是否注意(heed)来自主计算机或者辅助计算机(例如第一控制器536或第二控制器536)的结果。例如,在一些实施例中,ADAS系统538可以是用于向备用计算机合理性模块提供感知信息的备用和/或辅助计算机。备用计算机合理性监视器可以在硬件部件上运行冗余多样的软件,以检测感知和动态驾驶任务中的故障。来自ADAS系统538的输出可以提供给监督MCU。如果来自主计算机和辅助计算机的输出冲突,那么监督MCU必须确定如何协调该冲突以确保安全操作。
在一些示例中,主计算机可以被配置为向监督MCU提供置信度评分,指示主计算机对所选结果的置信度。如果置信度评分超过阈值,那么监督MCU可以遵循主计算机的方向,而不管辅助计算机是否提供冲突或不一致的结果。在置信度评分不满足阈值的情况下并且在主计算机和辅助计算机指示不同的结果(例如冲突)的情况下,监督MCU可以在这些计算机之间进行仲裁以确定适当的结果。
监督MCU可以被配置为运行神经网络,所述神经网络被训练并且被配置为基于来自主计算机和辅助计算机的输出,确定辅助计算机提供假警报的条件。因此,监督MCU中的神经网络可以了解何时可以信任辅助计算机的输出以及何时不能。例如,当辅助计算机为基于RADAR的FCW系统时,监督MCU中的神经网络可以了解FCW系统何时正在识别事实上不是危险的金属对象,例如触发警报的排水栅格或井盖。类似地,当辅助计算机是基于相机的LDW系统时,监督MCU中的神经网络可以学习在骑车者或行人在场并且车道偏离实际上是最安全的策略时无视该LDW。在包括运行在监督MCU上的神经网络的实施例中,监督MCU可以包括适合于利用关联的内存运行神经网络的DLA或GPU中的至少一个。在优选的实施例中,监督MCU可以包括SoC 504的部件和/或作为SoC 504的部件而被包括。
在其他示例中,ADAS系统538可以包括使用传统计算机视觉规则执行ADAS功能的辅助计算机。这样,辅助计算机可以使用经典的计算机视觉规则(如果-那么),并且在监督MCU中存在神经网络可以提高可靠性、安全性和性能。例如,多样化的实现方式和有意的非完全相同(non-identity)使得整个系统更加容错,对于软件(或者软件-硬件接口)功能造成的故障而言尤其如此。例如,如果在主计算机上运行的软件中存在软件漏洞或错误并且运行在辅助计算机上的非完全相同的软件代码提供相同的总体结果,那么监督MCU可以更加确信总体结果是正确的,并且主计算机上的软件或硬件中的漏洞不造成实质性的错误。
在一些示例中,ADAS系统538的输出可以馈送至主计算机的感知块和/或主计算机的动态驾驶任务块。例如,如果ADAS系统538由于对象紧接在前的原因而指示前方碰撞警告,那么感知块可以在识别对象时使用该信息。在其他示例中,辅助计算机可以具有它自己的神经网络,其被训练并且因此如本文所描述的降低假阳性的风险。
车辆500可以进一步包括信息娱乐SoC 530(例如车载信息娱乐系统(IVI))。尽管被图示和描述为SoC,但是信息娱乐系统可以不是SoC,并且可以包括两个或更多分立的部件。信息娱乐SoC 530可以包括可以用来向车辆500提供音频(例如音乐、个人数字助理、导航指令、新闻、广播等等)、视频(例如TV、电影、流媒体等等)、电话(例如免提呼叫)、网络连接(例如LTE、Wi-Fi等等)和/或信息服务(例如导航系统,后停车援助,无线电数据系统,诸如燃油水平、覆盖的总距离、制动燃油水平、油位、车门开/关、空气过滤器信息之类的车辆有关信息,等等)的硬件和软件的组合。例如,信息娱乐SoC 530可以包括收音机、盘播放器、导航系统、视频播放器、USB和蓝牙连接、车载电脑、车载娱乐、Wi-Fi、方向盘音频控件、免提语音控件、平视显示器(HUD)、HMI显示器534、远程信息处理设备、控制面板(例如用于控制各种部件、特征和/或系统,和/或与其交互)和/或其他部件。信息娱乐SoC 530可以进一步用来向车辆的用户提供信息(例如视觉的和/或听觉的),例如来自ADAS系统538的信息,诸如规划的车辆机动、轨迹、周围环境信息(例如交叉路口信息、车辆信息、道路信息等等)之类的自主驾驶信息,和/或其他信息。
信息娱乐SoC 530可以包括GPU功能。信息娱乐SoC 530可以通过总线502(例如CAN总线、以太网等)与车辆500的其他设备、系统和/或部件通信。在一些示例中,信息娱乐SoC530可以耦合至监督MCU,使得在主控制器536(例如车辆500的主和/或备用计算机)出现故障的情况下,信息娱乐系统的GPU可以执行一些自驾驶功能。在这样的示例中,信息娱乐SoC530可以如本文所描述的将车辆500置于司机安全停车模式。
车辆500可以进一步包括仪表组532(例如数字仪表板、电子仪表组、数字仪表面板等等)。仪表组532可以包括控制器和/或超级计算机(例如分立的控制器或超级计算机)。仪表组532可以包括一套仪器,例如车速表、燃油水平、油压、转速表、里程表、转弯指示器、换档位置指示器、安全带警告灯、停车制动警告灯、发动机故障灯、安全气囊(SRS)系统信息、照明控件、安全系统控件、导航信息等等。在一些示例中,信息可以被显示和/或在信息娱乐SoC 530和仪表组532之间共享。换言之,仪表组532可以作为信息娱乐SoC 530的部分而被包括,或者反之亦然。
图5D为根据本公开一些实施例的基于云的服务器与图5A的示例自主车辆500之间的通信的系统示意图。系统576可以包括服务器578、网络590以及包括车辆500在内的车辆。服务器578可以包括多个GPU 584(A)-584(H)(这里统称为GPU 584)、PCIe交换机582(A)-582(H)(这里统称为PCIe交换机582)和/或CPU 580(A)-580(B)(这里统称为CPU 580)。GPU584、CPU 580和PCIe交换机可以与诸如例如且不限于NVIDIA开发的NVLink接口588之类的高速互连和/或PCIe连接586互连。在一些示例中,GPU 584经由NVLink和/或NVSwitch SoC连接,并且GPU 584和PCIe交换机582经由PCIe互连连接。尽管图示出八个GPU 584、两个CPU580和两个PCIe交换机,但是这并不意图是限制性的。取决于实施例,服务器578中的每一个可以包括任意数量的GPU 584、CPU 580和/或PCIe交换机。例如,服务器578中的每一个可以包括八个、十六个、三十二个和/或更多GPU 584。
服务器578可以通过网络590并且从车辆接收图像数据,该图像数据表示示出诸如最近开始的道路工程之类的意外或改变的道路状况的图像。服务器578可以通过网络590并且向车辆传输神经网络592、更新的神经网络592和/或地图信息594,包括关于交通和道路状况的信息。对地图信息594的更新可以包括对于HD地图522的更新,例如关于建筑工地、坑洼、弯道、洪水或其他障碍物的信息。在一些示例中,神经网络592、更新的神经网络592和/或地图信息594可以已从新的训练和/或从环境中的任意数量的车辆接收的数据中表示和/或基于数据中心处执行的训练(例如使用服务器578和/或其他服务器)的经验产生。
服务器578可以用来基于训练数据训练机器学习模型(例如神经网络)。训练数据可以由车辆生成,和/或可以在仿真中生成(例如使用游戏引擎)。在一些示例中,训练数据被标记(例如在神经网络受益于有监督学习的情况下)和/或经历其他预处理,而在其他示例中,训练数据不被标记和/或预处理(例如在神经网络无需有监督学习的情况下)。训练可以根据任何一类或更多类机器学习技术来执行,包括但不限于以下类:监督训练、半监督训练、无监督训练、自学习、强化学习、联合学习、迁移学习、特征学习(包括主成分和聚类分析)、多线性子空间学习、流形学习、表示学习(包括备用字典学习)、基于规则的机器学习、异常检测及其任何变体或组合。一旦机器学习模型被训练,机器学习模型可以由车辆使用(例如通过网络590传输至车辆),和/或机器学习模型可以由服务器578用来远程地监控车辆。
在一些示例中,服务器578可以接收来自车辆的数据,并且将该数据应用到最新的实时神经网络以用于实时智能推理。服务器578可以包括由GPU 584供电的深度学习超级计算机和/或专用AI计算机,例如NVIDIA开发的DGX和DGX站机器。然而,在一些示例中,服务器578可以包括仅使用CPU供电的数据中心的深度学习基础设施。
服务器578的深度学习基础设施可能够快速实时推理,并且可以使用该能力来评估并验证车辆500中的处理器、软件和/或关联硬件的健康状况。例如,深度学习基础设施可以接收来自车辆500的定期更新,例如图像序列和/或车辆500已经定位的位于该图像序列中的对象(例如经由计算机视觉和/或其他机器学习对象分类技术)。深度学习基础设施可以运行它自己的神经网络以识别对象并且将它们与车辆500识别的对象相比较,如果结果不匹配并且该基础设施得出车辆500中的AI发生故障的结论,那么服务器578可以向车辆500传输信号,指示车辆500的故障保护计算机进行控制,通知乘客,并且完成安全停车操作。
为了推理,服务器578可以包括GPU 584和一个或更多个可编程推理加速器(例如NVIDIA的TensorRT 3)。GPU供电的服务器和推理加速的组合可以使得实时响应成为可能。在其他示例中,例如在性能不那么重要的情况下,CPU、FPGA和其他处理器供电的服务器可以用于推理。
示例计算设备
图6为适合用于实现本公开一些实施例的示例计算设备600的框图。计算设备600可以包括直接或间接耦合下列设备的互连系统602:内存604,一个或更多个中央处理单元(CPU)606,一个或更多个图形处理单元(GPU)608,通信接口610,输入/输出(I/O)端口612,输入/输出组件614,电源616,一个或更多个呈现组件618(例如显示器)和一个或更多个逻辑单元620。在至少一个实施例中,计算设备600可以包括一个或更多个虚拟机(VM),和/或其任何组件可以包括虚拟组件(例如,虚拟硬件组件)。对于非限制性示例,一个或更多个GPU 608可以包括一个或更多个vGPU,一个或更多个CPU 606可以包括一个或更多个vCPU,和/或一个或更多个逻辑单元620可以包括一个或更多个虚拟逻辑单元。因此,计算设备600可以包括分立组件(例如,专用于计算设备600的完整GPU)、虚拟组件(例如,专用于计算设备600的GPU的一部分),或其组合。
尽管图6的各个框被示为经由具有线路的互连系统602连接,但是这并不意图是限制性的,并且仅仅为了清楚起见。例如,在一些实施例中,诸如显示设备之类的呈现组件618可以被认为是I/O组件614(例如如果显示器为触摸屏)。作为另一个示例,CPU 606和/或GPU608可以包括内存(例如,内存604可以表示除了GPU 608、CPU 606和/或其他组件的内存以外的存储设备)。换言之,图6的计算设备仅仅是说明性的。在诸如“工作站”、“服务器”、“膝上型电脑”、“台式机”、“平板电脑”、“客户端设备”、“移动设备”、“手持式设备”、“游戏控制台”、“电子控制单元(ECU)”、“虚拟现实系统”和/或其他设备或系统类型之类的类别之间不进行区分,因为所有这些都被考虑在图6的计算设备的范围内。
互连系统602可以表示一条或更多条链路或总线,例如地址总线、数据总线、控制总线或者其组合。互连系统602可以包括一种或更多种链路或总线类型,例如行业标准架构(ISA)总线、扩展行业标准架构(EISA)总线、视频电子标准协会(VESA)总线、外围组件互连(PCI)总线、外围组件互连快速(PCIe)总线,和/或另一种类型的总线或链路。在一些实施例中,组件之间存在直接连接。作为示例,CPU 606可以直接连接到存储器604。此外,CPU 606可以直接连接到GPU 608。在组件之间存在直接或点对点连接的情况下,互连系统602可以包括PCIe链路来执行该连接。在这些示例中,计算设备600中不需要包括PCI总线。
内存604可以包括各种各样的计算机可读介质中的任何介质。计算机可读介质可以是可以由计算设备600访问的任何可用介质。计算机可读介质可以包括易失性和非易失性介质以及可移除和不可移除介质。举例而言且非限制性地,计算机可读介质可以包括计算机存储介质和通信介质。
计算机存储介质可以包括易失性和非易失性介质和/或可移除和不可移除介质,其以用于存储诸如计算机可读指令、数据结构、程序模块和/或其他数据类型之类的信息的任何方法或技术实现。例如,内存604可以存储计算机可读指令(例如其表示程序和/或程序元素,例如操作系统)。计算机存储介质可以包括但不限于RAM、ROM、EEPROM、闪存或者其他存储技术、CD-ROM、数字多功能盘(DVD)或其他光盘存储装置、磁带盒、磁带、磁盘存储装置或其他磁存储设备,或者可以用来存储期望的信息且可以由计算设备600访问的任何其他介质。当在本文使用时,计算机存储介质并不包括信号本身。
计算机存储介质可以在诸如载波之类的调制数据信号或其他传输机制中包含计算机可读指令、数据结构、程序模块和/或其他数据类型,并且包括任何信息输送介质。术语“调制数据信号”可以指这样的信号,该信号使它的特性中的一个或更多个以这样的将信息编码到该信号中的方式设置或改变。举例而言且非限制性地,计算机存储介质可以包括诸如有线网络或直接有线连接之类的有线介质,以及诸如声音、RF、红外和其他无线介质之类的无线介质。任何以上所述的组合也应当包含在计算机可读介质的范围内。
CPU 606可以被配置为执行计算机可读指令中的至少一些,以便控制计算设备600的一个或更多个组件执行本文描述的方法和/或过程中的一个或更多个。CPU 606中的每一个可以包括能够同时处理大量软件线程的一个或更多个核(例如一个、两个、四个、八个、二十八个、七十二个等等)。CPU 606可以包括任何类型的处理器,并且可以包括不同类型的处理器,这取决于实现的计算设备600的类型(例如具有用于移动设备的较少核的处理器以及具有用于服务器的更多核的处理器)。例如,取决于计算设备600的类型,处理器可以是使用精简指令集计算(RISC)实现的高级RISC机制(ARM)处理器或者使用复杂指令集计算(CISC)实现的x86处理器。除了一个或更多个微处理器或者诸如数学协处理器之类的补充协处理器之外,计算设备600还可以包括一个或更多个CPU 606。
除了或替代CPU 606,GPU 608还可以被配置为执行至少一些计算机可读指令,以控制计算设备600的一个或更多个组件执行一个或更多个本文所述的方法和/或过程。一个或更多个GPU 608可以是集成GPU(例如,具有一个或更多个CPU 606)和/或一个或更多个GPU 608可以是离散GPU。在实施例中,一个或更多个GPU 608可以是一个或更多个CPU 606的协处理器。计算设备600可以使用GPU 608来渲染图形(例如,3D图形)或执行通用计算。例如,GPU 608可用于GPU上的通用计算(GPGPU)。GPU 608可以包括能够同时处理数百或数千个软件线程的数百或数千个核。GPU 608可以响应于渲染命令(例如经由主机接口接收的来自CPU 606的渲染命令)而生成用于输出图像的像素数据。GPU 608可以包括诸如显示内存之类的用于存储像素数据或任何其他合适的数据(例如GPGPU数据)的图形内存。显示内存可以作为内存604的部分而被包括。GPU 608可以包括(例如经由链路)并行操作的两个或更多GPU。链路可以直接连接GPU(例如,使用NVLINK),也可以通过交换机(例如,使用NVSwitch)连接GPU。当组合在一起时,每个GPU 608可以生成用于输出的不同部分或者用于不同输出的像素数据或GPGPU数据(例如,第一GPU用于第一图像,第二GPU用于第二图像)。每个GPU可以包括它自己的内存,或者可以与其他GPU共享内存。
除了或替代CPU 606和/或GPU 608,逻辑单元620可以被配置为执行至少一些计算机可读指令,以控制计算设备600的一个或更多个组件来执行本文描述的一种或更多种方法和/或过程。在实施例中,CPU 606、GPU 608和/或逻辑单元620可以离散地或联合地执行方法、过程和/或其部分的任何组合。一个或更多个逻辑单元620可以是一个或更多个CPU606和/或一个或更多个GPU 608的一部分和/或集成在其中,和/或一个或更多个逻辑单元620可以是CPU 606和/或GPU 608的离散组件或以其他方式在其外部。在实施例中,一个或更多个逻辑单元620可以是一个或更多个CPU 606和/或一个或更多个GPU 608的处理器。
逻辑单元620的示例包括一个或更多个处理核心和/或其组件,例如张量核心(TC)、张量处理单元(TPU)、像素视觉核心(PVC)、视觉处理单元(VPU)、图形处理集群(GPC)、纹理处理集群(TPC)、流式多处理器(SM)、树遍历单元(TTU)、人工智能加速器(AIA)、深度学习加速器(DLA)、算术逻辑单元(ALU))、专用集成电路(ASIC)、浮点单元(FPU)、输入/输出(I/O)元件、外围组件互连(PCI)或外围组件互连快速(PCIe)元件等。
通信接口610可以包括一个或更多个接收器、发送器和/或收发器,其使得计算设备600能够经由电子通信网络与其他计算设备通信,包括有线和/或无线通信。通信接口610可以包括使能通过若干不同网络中的任何网络进行通信的组件和功能,所述网络例如无线网络(例如Wi-Fi、Z波、蓝牙、蓝牙LE、ZigBee等等)、有线网络(例如通过以太网或InfiniBand通信)、低功率广域网(例如LoRaWAN、SigFox等等)和/或因特网。
I/O端口612可以使得计算设备600能够逻辑地耦合到包括I/O组件614、呈现组件618和/或其他组件在内的其他设备,其中一些可以内置到(例如集成到)计算设备600中。说明性I/O组件614包括麦克风、鼠标、键盘、操纵杆、游戏垫、游戏控制器、碟形卫星天线、浏览仪、打印机、无线设备等等。I/O组件614可以提供处理用户生成的空中手势、语音或其他生理输入的自然用户接口(NUI)。在一些实例中,输入可以传输至适当的网络元件以便进一步处理。NUI可以实现语音识别、手写笔识别、面部识别、生物特征识别、屏幕上和邻近屏幕的手势识别、空中手势、头部和眼睛跟踪以及与计算设备600的显示器关联的触摸识别(如下文更详细地描述的)的任意组合。计算设备600可以包括诸如立体相机系统之类的深度相机、红外相机系统、RGB相机系统、触摸屏技术以及这些的组合,以用于手势检测和识别。此外,计算设备600可以包括使能运动检测的加速度计或陀螺仪(例如作为惯性测量单元(IMU)的部分)。在一些示例中,加速度计或陀螺仪的输出可以由计算设备600用来渲染沉浸式增强现实或者虚拟现实。
电源616可以包括硬接线电源、电池电源或者其组合。电源616可以向计算设备600供电以使得计算设备600的组件能够操作。
呈现组件618可以包括显示器(例如监视器、触摸屏、电视屏幕、平视显示器(HUD)、其他显示器类型或者其组合)、扬声器和/或其他呈现组件。呈现组件618可以接收来自其他组件(例如GPU 608、CPU 606等等)的数据,并且输出该数据(例如作为图像、视频、声音等等)。
示例数据中心
图7示出了示例数据中心700,其可用于本公开的至少一个实施例中。数据中心700可以包括数据中心基础设施层710、框架层720、软件层730和应用层740。
如图7所示,数据中心基础设施层710可以包括资源协调器712、分组的计算资源714和节点计算资源(“节点C.R.”)716(1)-716(N),其中“N”代表任何完整的正整数。在至少一个实施例中,节点C.R.716(1)-716(N)可以包括但不限于任何数量的中央处理单元(“CPU”)或其他处理器(包括加速器、现场可编程门阵列(FPGA)、图形处理器或图形处理单元(GPU)等),内存设备(例如动态只读内存),存储设备(例如固态硬盘或磁盘驱动器),网络输入/输出(“NW I/O”)设备,网络交换机,虚拟机(“VM”),电源模块和冷却模块等。在一些实施例中,节点C.R.716(1)-716(N)中的一个或更多个节点C.R.可以对应于具有一个或更多个上述计算资源的服务器。此外,在一些实施例中,节点C.R.716(1)-716(N)可以包括一个或更多个虚拟组件,例如vGPU、vCPU等,和/或节点C.R.716(1)-716(N)中的一个或更多个可以对应于虚拟机(VM)。
在至少一个实施例中,分组的计算资源714可以包括容纳在一个或更多个机架内的节点C.R.716的单独分组(未示出),或者容纳在各个地理位置的数据中心内的许多机架(也未示出)。分组的计算资源714内的节点C.R.716的单独分组可以包括可以被配置或分配为支持一个或更多个工作负载的分组的计算、网络、内存或存储资源。在至少一个实施例中,可以将包括CPU、GPU和/或其他处理器的几个节点C.R.716分组在一个或更多个机架内,以提供计算资源来支持一个或更多个工作负载。一个或更多个机架还可以包括以任意组合的任何数量的电源模块、冷却模块和/或网络交换机。
资源协调器722可以配置或以其他方式控制一个或更多个节点C.R.716(1)-716(N)和/或分组的计算资源714。在至少一个实施例中,资源协调器722可以包括用于数据中心700的软件设计基础结构(“SDI”)管理实体。资源协调器可以包括硬件、软件或其某种组合。
在至少一个实施例中,如图7所示,框架层720可以包括作业调度器732、配置管理器734、资源管理器736和分布式文件系统738。框架层720可以包括支持软件层730的软件732和/或应用程序层740的一个或更多个应用程序742的框架。软件732或应用程序742可以分别包括基于Web的服务软件或应用程序,例如由Amazon Web Services,Google Cloud和Microsoft Azure提供的服务软件或应用程序。框架层720可以是但不限于一种免费且开源的软件网络应用框架,例如可以利用分布式文件系统738来进行大规模数据处理(例如“大数据”)的Apache SparkTM(以下称为“Spark”)。在至少一个实施例中,作业调度器732可以包括Spark驱动器,用于促进对数据中心700的各个层所支持的工作负载进行调度。在至少一个实施例中,配置管理器734可以能够配置不同的层,例如软件层730和包括Spark和用于支持大规模数据处理的分布式文件系统738的框架层720。资源管理器736能够管理映射到或分配用于支持分布式文件系统738和作业调度器732的集群或分组计算资源。在至少一个实施例中,集群或分组计算资源可以包括数据中心基础设施层710处的分组的计算资源714。资源管理器736可以与资源协调器712协调以管理这些映射的或分配的计算资源。
在至少一个实施例中,包括在软件层730中的软件732可以包括由节点C.R.716(1)-716(N)的至少部分,分组的计算资源714和/或框架层720的分布式文件系统738使用的软件。一种或更多种类型的软件可以包括但不限于Internet网页搜索软件、电子邮件病毒浏览软件、数据库软件和流视频内容软件。
在至少一个实施例中,应用层740中包括的一个或更多个应用程序742可以包括由节点C.R.716(1)-716(N)的至少部分、分组的计算资源714和/或框架层720的分布式文件系统738使用的一种或更多种类型的应用程序。一种或更多种类型的应用程序可以包括但不限于任何数量的基因组学应用程序,认知计算和机器学习应用程序,包括训练或推理软件,机器学习框架软件(例如PyTorch、TensorFlow、Caffe等)和/或其他与一个或更多个实施例结合使用的机器学习应用程序。
在至少一个实施例中,配置管理器734、资源管理器736和资源协调器712中的任何一个可以基于以任何技术上可行的方式获取的任何数量和类型的数据来实现任何数量和类型的自我修改动作。自我修改动作可以减轻数据中心700的数据中心操作员做出可能不好的配置决定并且可以避免数据中心的未充分利用和/或行差的部分。
数据中心700可以包括工具、服务、软件或其他资源,用于根据本文所述的一个或更多个实施例来训练一个或更多个机器学习模型或者使用一个或更多个机器学习模型来预测或推理信息。例如,可以通过使用上文关于数据中心700描述的软件和计算资源,根据神经网络架构计算权重参数来训练机器学习模型。在至少一个实施例中,通过使用通过一种或更多种训练技术计算出的权重参数,可以使用上面与关于数据中心700所描述的资源,使用对应于一个或更多个神经网络的经训练的机器学习模型来推理或预测信息,例如但不限于本文所述的那些。
在至少一个实施例中,数据中心700可以使用CPU、专用集成电路(ASIC)、GPU、FPGA和/或其他硬件(或与之对应的虚拟计算资源)来使用上述资源来执行训练和/或推理。此外,上述的一个或更多个软件和/或硬件资源可以配置成一种服务,以允许用户训练或执行信息推理,例如图像识别、语音识别或其他人工智能服务。
示例网络环境
适用于实现本公开的实施例的网络环境可以包括一个或更多个客户端设备、服务器、网络附加存储(NAS)、其他后端设备和/或其他设备类型。客户端设备、服务器和/或其他设备类型(例如,每个设备)可以在图6的计算设备600的一个或更多个实例上实现—例如,每个设备可以包括计算设备600的类似组件、特征和/或功能。此外,在实现后端设备(例如,服务器、NAS等)的情况下,后端设备可以是作为数据中心700的一部分而被包括的,其示例在此关于图7更详细地描述。
网络环境的组件可以通过网络彼此通信,网络可以是有线、无线或两者。网络可以包括多个网络,或者多个网络中的网络。举例来说,网络可以包括一个或更多个广域网(WAN)、一个或更多个局域网(LAN)、一个或更多个公共网络(例如因特网和/或公共交换电话网(PSTN))、和/或一个或更多个专用网络。在网络包括无线电信网络的情况下,诸如基站、通信塔或甚至接入点(以及其他组件)之类的组件可以提供无线连接。
兼容的网络环境可以包括一个或更多个对等网络环境(在这种情况下服务器可能不包括在网络环境中),以及一个或更多个客户端-服务器网络环境(在这种情况下一个或更多个服务器可以包含在网络环境中)。在对等网络环境中,本文描述的关于服务器的功能可以在任意数量的客户端设备上实现。
在至少一个实施例中,网络环境可以包括一个或更多个基于云的网络环境、分布式计算环境、它们的组合等。基于云的网络环境可以包括框架层、作业调度器、资源管理器,以及在一个或更多个服务器上实现的分布式文件系统,这些服务器可以包括一个或更多个核心网络服务器和/或边缘服务器。框架层可以包括用于支持软件层的软件和/或应用层的一个或更多个应用程序的框架。软件或应用程序可分别包括基于网络的服务软件或应用程序。在实施例中,一个或更多个客户端设备可以使用基于网络的服务软件或应用程序(例如,通过经由一个或更多个应用程序编程接口(API)访问服务软件和/或应用程序)。框架层可以是但不限于一种类型的免费且开源软件网络应用程序框架,例如可以使用分布式文件系统进行大规模数据处理(例如,“大数据”)。
基于云的网络环境可以提供执行本文描述的计算和/或数据存储功能(或其一个或更多个部分)的任何组合的云计算和/或云存储。这些各种功能中的任何一个都可以分布在来自(例如,可以分布在州、地区、国家、全球等地的一个或更多个数据中心的)中央或核心服务器的多个位置。如果到用户(例如,客户端设备)的连接相对靠近边缘服务器,则核心服务器可以将功能的至少一部分指定给边缘服务器。基于云的网络环境可以是私有的(例如,仅限于单个组织),可以是公共的(例如,对许多组织可用),和/或其组合(例如,混合云环境)。
客户端设备可以包括本文关于图6描述的示例计算设备600的至少一些组件、特征和功能。作为示例而非限制,客户端设备可以体现为个人计算机(PC)、膝上型计算机、移动设备、智能手机、平板计算机、智能手表、可穿戴计算机、个人数码助理(PDA)、MP3播放器、虚拟现实头戴式显示器、全球定位系统(GPS)或设备、视频播放器、摄像机、监视设备或系统、车辆、船只、飞行器、虚拟机器、无人机、机器人、手持通信设备、医院设备、游戏设备或系统、娱乐系统、车载计算机系统、嵌入式系统控制器、遥控器、电器、消费电子设备、工作站、边缘设备、这些描述设备的任意组合或任何其他合适的设备。
本公开可以在由计算机或者诸如个人数字助理或其他手持式设备之类的其他机器执行的、包括诸如程序模块之类的计算机可执行指令的机器可使用指令或者计算机代码的一般背景下进行描述。通常,包括例程、程序、对象、组件、数据结构等等的程序模块指的是执行特定任务或者实现特定抽象数据类型的代码。本公开可以在各种各样的系统配置中实践,这些配置包括手持式设备、消费电子器件、通用计算机、更专业的计算设备等等。本公开也可以在其中任务由通过通信网络链接的远程处理设备执行的分布式计算环境中实践。
如在本文中使用的,“和/或”关于两个或更多元素的叙述应当解释为仅指一个元素或者元素组合。例如,“元素A、元素B和/或元素C”可以包括仅仅元素A,仅仅元素B,仅仅元素C,元素A和元素B,元素A和元素C,元素B和元素C,或者元素A、B和C。此外,“元素A或元素B中的至少一个”可以包括元素A中的至少一个,元素B中的至少一个,或者元素A中的至少一个和元素B中的至少一个。进一步,“元素A和元素B中的至少一个”可以包括元素A中的至少一个,元素B中的至少一个,或者元素A中的至少一个和元素B中的至少一个。
这里详细地描述了本公开的主题以满足法定要求。然而,描述本身并非意在限制本公开的范围。相反地,本发明人已经设想到,要求保护的主题也可以以其他的方式具体化,以包括与本文中结合其他当前或未来技术描述的步骤不同的步骤或者相似的步骤的组合。而且,尽管术语“步骤”和/或“块”在本文中可以用来隐含采用的方法的不同元素,但是这些术语不应当被解释为暗示本文公开的各个步骤之中或之间的任何特定顺序,除非明确描述了各步骤的顺序。
Claims (23)
1.一种方法,包括:生成自我车辆的周围环境的表示,所述表示至少指示自我车道、与所述自我车道相邻的目标车道、以及所述自我车道或所述目标车道中的至少一个之内的一个或更多个对象的位置;至少部分地基于所述环境的表示来识别所述目标车道内的供所述自主车辆操纵进入的一个或更多个候选车道变换间隙;至少部分地基于针对所述一个或更多个候选车道变换间隙中的每个候选车道变换间隙评估多个纵向速度分布候选,来识别一个或更多个候选车道变换间隙中的目标车道变换间隙;从所述多个纵向速度分布候选中为所述目标车道变换间隙选择纵向速度分布;以及根据所选定的纵向速度分布执行车道变换。
2.如权利要求1所述的方法,其中生成所述环境的表示包括:生成至少表示所述自我车道和所述目标车道的车道图;至少部分地基于使用所述自我车辆的一个或更多个传感器生成的传感器数据来检测所述一个或更多个对象;以及至少部分地基于所述车道图和所述检测,分配所述一个或更多个对象给所述自我车道或所述目标车道中的至少一个。
3.如权利要求2所述的方法,其中对于所述一个或更多个对象中的每个对象,分配所述一个或更多个对象包括:计算与所述对象相对应的边界形状;至少部分地基于自由空间信息裁剪所述边界形状的一部分以生成对象围栏;以及将所述对象围栏位置与所述车道图进行比较以确定所述对象在所述车道图中的位置。
4.如权利要求1所述的方法,还包括:确定横向分布,其中执行所述车道变换操纵进一步根据所述横向分布。
5.如权利要求4所述的方法,其中确定所述横向分布包括:评估多个横向分布候选;以及至少部分地基于评估所述多个横向分布候选,从所述多个横向分布候选中选择所述横向分布。
6.如权利要求1所述的方法,其中针对每个候选间隙评估多个纵向速度分布候选包括:基于一个或更多个第一标准来评估所述多个纵向速度分布候选,所述一个或更多个第一标准包括以下各项中的至少一项:速度适应持续时间、加速限制、减速限制或快速移动限制。
7.如权利要求1所述的方法,其中从所述多个纵向速度分布候选中选择纵向速度分布候选包括:基于一个或更多个第二标准来选择纵向速度分布候选,所述一个或更多个第二标准包括以下各项中的至少一项:速度适应持续时间、加速限制、减速限制、快速移动限制、停止距离重叠、礼貌距离、回退间隙计数或速度损失量。
8.如权利要求1所述的方法,其中识别所述目标车道变换间隙包括:至少部分地基于评估所述多个纵向速度分布候选为每个候选车道变换间隙生成累积分数;以及选择具有最佳累积分数的所述候选车道变换间隙作为所述目标车道变换间隙。
9.如权利要求1所述的方法,其中识别纵向速度分布包括:至少部分地基于评估所述纵向速度分布候选为每个纵向速度分布候选生成分数;以及选择具有最佳分数的所述纵向速度分布候选作为所述纵向速度分布。
10.如权利要求1所述的方法,其中每个纵向速度分布候选包括在一段时间内所述自我车辆的未来位置的一维(1D)纵向投影。
11.如权利要求10所述的方法,其中评估所述纵向速度分布候选包括:将所述自我车辆的所述未来位置的所述1D纵向投影与所述一段时间内的所述一个或更多个对象的估计的未来位置的一个或更多个1D纵向投影相比较。
12.如权利要求1所述的方法,其中针对每个候选间隙评估所述多个纵向速度分布候选包括:将每个纵向速度分布候选与至少部分地基于所述一个或更多个对象中的至少一个对象的至少一个位置生成的速度矢量场进行比较;以及惩罚违反所述速度矢量场的所述纵向速度分布候选。
13.一种处理器,包括:一个或更多个电路,用于根据纵向速度分布执行车道变换,针对目标间隙,至少部分地基于鉴于一个或更多个标准来评估多个纵向速度分布候选,而从所述多个纵向速度分布候选中识别所述纵向速度分布,所述目标间隙选自使用环境的表示确定的一个或更多个候选间隙,所述环境的表示至少指示自我车道、与所述自我车道相邻的目标车道、以及在所述自我车道或所述目标车道中的至少一个内的一个或更多个对象的位置。
14.如权利要求13所述的处理器,其中所述环境的表示至少部分地基于以下各项生成:生成至少表示所述自我车道和所述目标车道的车道图;至少部分地基于使用一个或更多个传感器生成的传感器数据来检测所述一个或更多个对象;以及至少部分地基于所述车道图和所述检测将所述一个或更多个对象分配给所述自我车道或所述目标车道中的至少一个。
15.如权利要求13所述的处理器,其中进一步根据横向分布来执行所述车道变换,所述横向分布至少部分地基于评估多个横向分布候选并且至少部分地基于评估所述多个横向分布候选而从所述多个横向分布候选中选择所述横向分布来确定。
16.如权利要求13所述的处理器,其中所述评估纵向速度分布候选包括:将所述自我车辆在一段时间内的未来位置的1D纵向投影与所述一段时间内的所述一个或更多个对象的估计的未来位置的一个或更多个1D纵向投影进行比较。
17.一种系统,包括:一个或更多个处理单元;以及一个或更多个存储器设备,其存储指令,当使用所述一个或更多个处理单元执行所述指令时,使所述一个或更多个处理单元执行以下操作,所述操作包括:生成自我车辆的周围环境的表示,所述表示至少指示自我车道、与所述自我车道相邻的目标车道、以及在所述自我车道或所述目标车道中的至少一个内的一个或更多个对象的位置;至少部分地基于所述环境的表示来识别所述目标车道内的供所述自主车辆操纵进入的一个或更多个候选车道变换间隙,所述一个或更多个候选车道变换间隙中的至少一个候选车道变换间隙至少部分地由所述环境的表示中的所述一个或更多个对象中的对象的位置描绘;至少部分地基于鉴于一个或更多个第一标准来针对所述一个或更多个候选车道变换间隙中的每个候选车道变换间隙评估多个纵向速度分布候选,来识别一个或更多个候选车道变换间隙中的目标车道变换间隙;对于所述目标车道变换间隙,至少部分地基于鉴于一个或更多个第二标准评估所述多个纵向速度分布候选,来从所述多个纵向速度分布候选中识别纵向速度分布;以及根据所述纵向速度分布执行车道变换。
18.如权利要求17所述的系统,其中所述操作还包括:确定横向分布,其中执行所述车道变换操纵进一步根据所述横向分布。
19.如权利要求18所述的系统,其中确定所述横向分布包括:评估多个横向分布候选;以及至少部分地基于评估所述多个横向分布候选,从所述多个横向分布候选中选择所述横向分布。
20.如权利要求17所述的系统,其中所述一个或更多个第一标准包括速度适应持续时间、加速限制、减速限制或快速移动限制中的一项或更多项。
21.如权利要求17所述的系统,其中所述一个或更多个第二标准包括速度适应持续时间、加速限制、减速限制、快速移动限制、停止距离重叠、礼貌距离、回退间隙计数或速度损失量中的一项或更多项。
22.如权利要求17所述的系统,其中所述一个或更多个第一标准和所述一个或更多个第二标准包括一个或更多个相同标准。
23.如权利要求17所述的系统,其中所述系统被包括在以下各项中的至少一个中:用于自主或半自主机器的控制系统;用于自主或半自主机器的感知系统;用于执行模拟操作的系统;用于执行深度学习操作的系统;使用边缘设备实现的系统;使用机器人实现的系统;合并一个或更多个虚拟机(VM)的系统;至少部分地在数据中心中实现的系统;或至少部分地使用云计算资源实现的系统。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201962955233P | 2019-12-30 | 2019-12-30 | |
US62/955,233 | 2019-12-30 | ||
PCT/US2020/066694 WO2021138160A1 (en) | 2019-12-30 | 2020-12-22 | Lane change planning and control in autonomous machine applications |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114845914A true CN114845914A (zh) | 2022-08-02 |
Family
ID=76545901
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202080085183.5A Pending CN114845914A (zh) | 2019-12-30 | 2020-12-22 | 自主机器应用中的车道变换规划和控制 |
Country Status (5)
Country | Link |
---|---|
US (2) | US11884294B2 (zh) |
JP (1) | JP2023509831A (zh) |
CN (1) | CN114845914A (zh) |
DE (1) | DE112020006404T5 (zh) |
WO (1) | WO2021138160A1 (zh) |
Families Citing this family (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10144419B2 (en) * | 2015-11-23 | 2018-12-04 | Magna Electronics Inc. | Vehicle dynamic control system for emergency handling |
DE102017202415A1 (de) * | 2017-02-15 | 2018-08-16 | Bayerische Motoren Werke Aktiengesellschaft | Kollisionsvermeidung mit Querverkehr |
DE102018216364B4 (de) * | 2018-09-25 | 2020-07-09 | Volkswagen Aktiengesellschaft | Verfahren und Vorrichtung zum Unterstützen eines Spurwechselvorgangs für ein Fahrzeug |
US11535257B2 (en) * | 2020-05-22 | 2022-12-27 | Robert Bosch Gmbh | Lane localization system and method |
US11814075B2 (en) | 2020-08-26 | 2023-11-14 | Motional Ad Llc | Conditional motion predictions |
US11866070B2 (en) * | 2020-09-28 | 2024-01-09 | Guangzhou Automobile Group Co., Ltd. | Vehicle control method and apparatus, storage medium, and electronic device |
US20220227390A1 (en) * | 2021-01-15 | 2022-07-21 | Tusimple, Inc. | Proactive lane change for autonomous vehicles |
US12017661B2 (en) | 2021-07-13 | 2024-06-25 | Canoo Technologies Inc. | System and method in vehicle path prediction based on full nonlinear kinematics |
US11845428B2 (en) * | 2021-07-13 | 2023-12-19 | Canoo Technologies Inc. | System and method for lane departure warning with ego motion and vision |
US11891059B2 (en) | 2021-07-13 | 2024-02-06 | Canoo Technologies Inc. | System and methods of integrating vehicle kinematics and dynamics for lateral control feature at autonomous driving |
US11891060B2 (en) | 2021-07-13 | 2024-02-06 | Canoo Technologies Inc. | System and method in lane departure warning with full nonlinear kinematics and curvature |
US11908200B2 (en) | 2021-07-13 | 2024-02-20 | Canoo Technologies Inc. | System and method in the prediction of target vehicle behavior based on image frame and normalization |
US11840147B2 (en) | 2021-07-13 | 2023-12-12 | Canoo Technologies Inc. | System and method in data-driven vehicle dynamic modeling for path-planning and control |
WO2023043684A1 (en) * | 2021-09-14 | 2023-03-23 | University Of Washington | Safe occlusion-aware cooperative adaptive cruise control under environmental interference |
US20230194295A1 (en) * | 2021-12-21 | 2023-06-22 | Here Global B.V. | Method, apparatus and computer program product for lane level toll plaza congestion modeling |
DE102022200705A1 (de) | 2022-01-24 | 2023-07-27 | Zf Friedrichshafen Ag | Steuergerät für Fahrerassistenzsysteme oder Systeme für autonomes Fahren |
DE102022204089A1 (de) | 2022-04-27 | 2023-11-02 | Robert Bosch Gesellschaft mit beschränkter Haftung | Verfahren zum Erkennen, ob ein Egofahrzeug von einer momentan befahrenen Fahrspur einer Fahrbahn in eine benachbarte Fahrspur wechselt oder ob es die momentan befahrene Fahrspur beibehält |
US20240001926A1 (en) * | 2022-06-29 | 2024-01-04 | Ford Global Technologies, Llc | Controlling a vehicle lane-change |
EP4357812A1 (en) * | 2022-10-19 | 2024-04-24 | Continental Autonomous Mobility Germany GmbH | Vehicle detection system and method for detecting a target vehicle in a detection area located behind a subject vehicle |
DE102022004543A1 (de) * | 2022-12-05 | 2024-06-06 | Mercedes-Benz Group AG | Verfahren zur Sicherheitsbewertung eines Spurwechselmanövers im automatisierten Fahrbetrieb eines Fahrzeuges |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8581647B2 (en) | 2011-11-10 | 2013-11-12 | Qualcomm Incorporated | System and method of stabilizing charge pump node voltage levels |
WO2014152554A1 (en) | 2013-03-15 | 2014-09-25 | Caliper Corporation | Lane-level vehicle navigation for vehicle routing and traffic management |
JP2016201609A (ja) | 2015-04-08 | 2016-12-01 | 日本電気通信システム株式会社 | 加入者端末装置、通信サービス提供システム、通信制御方法、及び、通信制御プログラム |
US9475491B1 (en) | 2015-06-08 | 2016-10-25 | Toyota Motor Engineering & Manufacturing North America, Inc. | Lane changing for autonomous vehicles |
EP3208786B1 (en) * | 2016-02-22 | 2023-06-07 | Volvo Car Corporation | Method and system for evaluating inter-vehicle traffic gaps and time instances to perform a lane change manoeuvre |
EP3291202B1 (en) * | 2016-08-29 | 2019-04-17 | Volvo Car Corporation | Method of road vehicle trajectory planning |
KR102368604B1 (ko) * | 2017-07-03 | 2022-03-02 | 현대자동차주식회사 | Ecu, 상기 ecu를 포함하는 무인 자율 주행 차량, 및 이의 차선 변경 제어 방법 |
JP6939428B2 (ja) * | 2017-11-01 | 2021-09-22 | トヨタ自動車株式会社 | 車両制御装置 |
GB201804395D0 (en) * | 2018-03-19 | 2018-05-02 | Tomtom Navigation Bv | Methods and systems for generating parking routes |
US10996679B2 (en) * | 2018-04-17 | 2021-05-04 | Baidu Usa Llc | Method to evaluate trajectory candidates for autonomous driving vehicles (ADVs) |
US11169528B2 (en) * | 2018-05-11 | 2021-11-09 | Uatc, Llc | Initial trajectory generator for motion planning system of autonomous vehicles |
US10885698B2 (en) | 2018-08-10 | 2021-01-05 | Nvidia Corporation | Method for programmable timeouts of tree traversal mechanisms in hardware |
US11242060B2 (en) * | 2019-08-26 | 2022-02-08 | GM Global Technology Operations LLC | Maneuver planning for urgent lane changes |
US20210074162A1 (en) * | 2019-09-09 | 2021-03-11 | GM Global Technology Operations LLC | Methods and systems for performing lane changes by an autonomous vehicle |
-
2020
- 2020-12-22 DE DE112020006404.2T patent/DE112020006404T5/de active Pending
- 2020-12-22 CN CN202080085183.5A patent/CN114845914A/zh active Pending
- 2020-12-22 JP JP2022532136A patent/JP2023509831A/ja active Pending
- 2020-12-22 WO PCT/US2020/066694 patent/WO2021138160A1/en active Application Filing
- 2020-12-22 US US17/130,667 patent/US11884294B2/en active Active
-
2023
- 2023-12-19 US US18/545,856 patent/US20240116538A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
JP2023509831A (ja) | 2023-03-10 |
US20210197858A1 (en) | 2021-07-01 |
WO2021138160A1 (en) | 2021-07-08 |
US20240116538A1 (en) | 2024-04-11 |
US11884294B2 (en) | 2024-01-30 |
DE112020006404T5 (de) | 2022-11-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11884294B2 (en) | Lane change planning and control in autonomous machine applications | |
CN113056749B (zh) | 用于自主机器应用的未来对象轨迹预测 | |
EP3828592A1 (en) | Deep neural network for detecting obstacle instances using radar sensors in autonomous machine applications | |
EP3832341A1 (en) | Deep neural network for detecting obstacle instances using radar sensors in autonomous machine applications | |
CN115175841A (zh) | 自主车辆的行为规划 | |
CN114008685A (zh) | 用于自主机器应用的路口区域检测和分类 | |
CN111133448A (zh) | 使用安全到达时间控制自动驾驶车辆 | |
CN114631117A (zh) | 使用机器学习的用于自主机器应用的传感器融合 | |
CN114450724A (zh) | 用于自主机器应用的多活动者环境中的未来轨迹预测 | |
CN114902295A (zh) | 用于自主驾驶应用的三维路口结构预测 | |
CN113906271A (zh) | 用于自主机器应用的使用地图信息增强的地面实况数据的神经网络训练 | |
JP2023548721A (ja) | 自律システム及びアプリケーションにおけるビヘイビア予測のためのモデルベースの強化学習 | |
CN115039129A (zh) | 用于自主机器应用的表面轮廓估计和隆起检测 | |
CN113597613A (zh) | 用于图像分析的形状融合 | |
CN114550736A (zh) | 用于自主驾驶应用的应急响应车辆检测 | |
CN114155272A (zh) | 自主机器应用中的自适应目标跟踪算法 | |
CN115718302A (zh) | 使用LiDAR数据进行的用于自主机器应用的对象跟踪 | |
US20220135075A1 (en) | Safety decomposition architecture for autonomous machine applications | |
US20230049567A1 (en) | Deep neural network for detecting obstacle instances using radar sensors in autonomous machine applications | |
US20230406315A1 (en) | Encoding junction information in map data | |
CN115705060A (zh) | 让行场景中自主车辆的行为规划 | |
CN115701623A (zh) | 自主机器应用中范围图像映射的置信传播 | |
CN115218888A (zh) | 用于更新高清地图的系统和方法 | |
CN117581117A (zh) | 自主机器系统和应用中使用LiDAR数据的动态对象检测 | |
US20220301186A1 (en) | Motion-based object detection for autonomous systems and applications |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |